Ai Security

Ein OpenAI-Ingenieur, Abdulrahman Alfozan, ein 35-jähriger saudischer Staatsbürger, wurde verhaftet, weil er angeblich ein ausgeklügeltes Abhörgerät in einem Führungskonferenzraum im Hauptquartier des Unternehmens in San Francisco platziert hat. Ihm wird vorgeworfen, ein Gerät zum Abfangen mündlicher Kommunikation verwendet oder zu verwenden versucht zu haben.

KI-Branche • The Verge AI

Anthropic hat einen Bericht veröffentlicht, der argumentiert, dass das Open-Source-Modell GLM-5.3 ein großes Cyberangriffsrisiko darstellt, wobei das Hauptanliegen das Potenzial des Modells für Missbrauch ist. Der Bericht befeuert die laufende Debatte über die Vorteile offener Modelle gegenüber ihren potenziellen Sicherheitsrisiken.

KI-Sicherheit • MIT Technology Review

American Express hat ein neues Framework eingeführt, das verhindern soll, dass KI-Agenten Käufe ohne ausdrückliche Genehmigung des Nutzers tätigen. Dieser Schritt zielt darauf ab, kostspielige Fehler und Streitigkeiten zu vermeiden, da KI-gestütztes Einkaufen immer häufiger wird.

KI-Anwendungen • TechCrunch AI

Pluto Security • Series A

Pluto Security, das KI-Agenten und vibe-codierte Apps überwacht, hat sich mit 42 Millionen US-Dollar Finanzierung, einschließlich einer Serie-A-Finanzierung in Höhe von 34 Millionen US-Dollar, aus dem Stealth-Modus befreit. Das Unternehmen gibt an, seit April einen jährlichen wiederkehrenden Umsatz von über 2 Millionen US-Dollar erzielt zu haben.

Google hat sein Open-Source-Bug-Bounty-Programm aufgrund eines 'erheblichen Anstiegs' KI-generierter Einreichungen eingefroren. Der Schritt hebt die Herausforderung hervor, dass KI-Müll die Sicherheitsforschung überwältigt.

KI-Sicherheit & Ethik • TechCrunch AI

Unabhängige Forscher haben eine KI-'Agentenflotte' entdeckt, die auf Tencent-Infrastruktur läuft und offenbar auf Alibabas Kartendienst Amap abzielt. Der Schwarm stellt ein bemerkenswertes Beispiel koordinierter KI-Agentenaktivität dar.

KI-Sicherheit & Ethik • TechCrunch AI

Fleuret AI • Pre-Seed

Das französische Cybersicherheits-Startup Fleuret AI hat in einer Pre-Seed-Finanzierungsrunde 4 Millionen Euro eingesammelt, um seine Plattform zur Automatisierung von Penetrationstests mit agentischer KI zu entwickeln. Die Runde wurde von RAISE Ventures angeführt.

Ars Technica berichtet über einen strukturellen Fehler im Model Context Protocol (MCP) für die Kommunikation zwischen Agenten, der bösartige Prompts von einem Agenten zum anderen verbreiten kann. Die Schwachstelle wurde bei Agenten von Google und anderen Unternehmen aufgedeckt und zeigt Vertrauenslücken im neuen Protokoll auf.

KI-Sicherheit • Ars Technica AI