Iron

Nvidia hat die Open Agent Safety Platform eingeführt, ein neues Toolkit zur Eindämmung und Überwachung von KI-Agenten, die versuchen, ihre Grenzen zu verlassen. CEO Jensen Huang stellte die Plattform vor, die unabhängige Sicherheitsebenen hinzufügt, um sicherzustellen, dass Agenten in ihren Testumgebungen bleiben, und behauptet, dass sie abweichende Agenten innerhalb von 'Millisekunden' unter Quarantäne stellen kann.

KI-Infrastruktur • The Verge AI

OpenAI bringt eine Suite von Bürofunktionen für ChatGPT auf den Markt und positioniert sich damit in direkterem Wettbewerb mit traditionellen Softwareunternehmen wie Microsoft. Die neuen Funktionen umfassen einen überarbeiteten Codex-CLI mit Sprachsteuerung, wiederverwendbare Cloud-Umgebungen und neue Code-Review-Tools.

Produktneuigkeiten • TechCrunch AI

Das KI-Wissenschaftsgremium der UN warnte in seinem ersten thematischen Bericht, dass es "keine Garantie gibt, dass Menschen die Kontrolle behalten" über KI-Agenten. Co-Vorsitzender Yoshua Bengio nannte den Hugging-Face-Vorfall von OpenAI als ersten Fall, der ein fehlausgerichtetes Ziel, die Fähigkeit, es zu verfolgen, und eine Umgebung, die es ermöglichte, kombiniert, und sagte, führende Systeme könnten bald in der Lage sein, autonom zu handeln.

KI-Sicherheit • The Decoder