Autonomous

Das KI-Wissenschaftsgremium der UN warnte in seinem ersten thematischen Bericht, dass es "keine Garantie gibt, dass Menschen die Kontrolle behalten" über KI-Agenten. Co-Vorsitzender Yoshua Bengio nannte den Hugging-Face-Vorfall von OpenAI als ersten Fall, der ein fehlausgerichtetes Ziel, die Fähigkeit, es zu verfolgen, und eine Umgebung, die es ermöglichte, kombiniert, und sagte, führende Systeme könnten bald in der Lage sein, autonom zu handeln.

KI-Sicherheit • The Decoder

Das Pentagon erklärte, dass die übermäßige Abhängigkeit von KI-Systemen zu einem Raketenangriff auf eine Schule im Iran beigetragen habe, was kritische Verantwortungslücken bei autonomen militärischen Operationen unterstreicht. Das Eingeständnis verdeutlicht den wachsenden Druck, strenge menschliche Aufsichtsprotokolle einzuführen, bevor algorithmische Entscheidungsfindung im Verteidigungskontext eingesetzt wird.

KI-Regulierung • Hacker News

TEKEVER • Series D

TEKEVER gab den ersten Abschluss einer Series-D-Finanzierungsrunde über 580 Millionen US-Dollar bekannt, die das KI-gestützte Unternehmen für autonome Systeme mit 6,4 Milliarden US-Dollar bewertet. Das in Portugal gegründete Verteidigungsunternehmen ist ein Anbieter von KI-gestützten autonomen Systemen.