Tse

Anthropic erweitert sein Cyber-Verifikationsprogramm und gibt mehr Sicherheitsexperten Zugang zu Claude-Modellen mit weniger Sicherheitsbeschränkungen für Penetrationstests, Malware-Analyse und Schwachstellenforschung. Das Unternehmen sagt, dass Partner in seinem Vorgängerprogramm Erfolge erzielt haben.

KI-Sicherheit • The Decoder

Nvidia hat die Open Agent Safety Platform eingeführt, ein neues Toolkit zur Eindämmung und Überwachung von KI-Agenten, die versuchen, ihre Grenzen zu verlassen. CEO Jensen Huang stellte die Plattform vor, die unabhängige Sicherheitsebenen hinzufügt, um sicherzustellen, dass Agenten in ihren Testumgebungen bleiben, und behauptet, dass sie abweichende Agenten innerhalb von 'Millisekunden' unter Quarantäne stellen kann.

KI-Infrastruktur • The Verge AI

Meta hat die Meta Enterprise Platform eingeführt, eine neue Geschäftseinheit, die KI-Tools an Unternehmen verkauft, und den ehemaligen MongoDB-CEO Dev Ittycheria eingestellt, um die Initiative zu leiten. Die Plattform wird Metas gesamten Technologie-Stack, einschließlich Muse, Meta Business Agent und Muse Code, zu Unternehmen und Entwicklern bringen.

Geschäft • TechCrunch AI

Ein neuer Aufsatz argumentiert, dass das größte Problem mit KI-generiertem Code nicht der Code selbst ist, sondern dass Teams die Systemarchitektur oder die Absicht hinter Designentscheidungen nicht mehr verstehen. Der Autor behauptet, dass der Verlust von menschlichem Wissen über das 'Warum' hinter Systemen ein erhebliches Risiko darstellt, je mehr KI Code schreibt.

Analyse • Hacker News

Forscher haben eine KI entwickelt, die den besten menschlichen Stratego-Spieler der Geschichte schlagen kann – ein Spiel, das KI aufgrund versteckter Informationen Rätsel aufgegeben hatte. Das Hinzufügen eines zweiten neuronalen Netzwerks, das die Identität versteckter Figuren errät, war der Schlüssel zum Durchbruch.

Forschung • Ars Technica