Ai Safety Security

Nvidia hat die Open Agent Safety Platform eingeführt, ein neues Toolkit zur Eindämmung und Überwachung von KI-Agenten, die versuchen, ihre Grenzen zu verlassen. CEO Jensen Huang stellte die Plattform vor, die unabhängige Sicherheitsebenen hinzufügt, um sicherzustellen, dass Agenten in ihren Testumgebungen bleiben, und behauptet, dass sie abweichende Agenten innerhalb von 'Millisekunden' unter Quarantäne stellen kann.

KI-Infrastruktur • The Verge AI

Floridas Generalstaatsanwalt James Uthmeier fordert einen Richter auf, OpenAI zu blockieren, ChatGPT 'falsche menschliche Eigenschaften' zu geben, und nennt Sicherheitsbedenken und argumentiert, dass Benutzer durch die Verwendung von Pronomen der ersten Person durch den Bot in ein falsches Sicherheitsgefühl gewiegt werden. Der Bundesstaat hat OpenAI zuvor verklagt und beruft sich in seinem Rechtsstreit zur Einstellung der KI-Entwicklung an der Spitze auf Existenzängste.

Politik • The Verge AI

Anthropic hat einen Forschungsbericht über GLM-5.3 veröffentlicht, der die Verbreitung fortschrittlicher Cyberfähigkeiten auf andere KI-Modelle detailliert beschreibt. Der Bericht legt nahe, dass Fähigkeiten, die zuvor einzigartig für Claude waren, sich verbreiten, was die Hürde für böswillige Cyberakteure senken könnte.

KI-Sicherheit • Hacker News

Linux-Kernel-Maintainer Greg Kroah-Hartman präsentierte eine Analyse von KI-generierten Sicherheitslückenberichten und stellte fest, dass die Mehrheit ungültig, Duplikate oder bereits behoben war. Nur 20 der 79 gemeldeten Schwachstellen erforderten Fixes, was den Lärm und die potenzielle Verschwendung bei KI-gestütztem Sicherheits-Scanning hervorhebt.

KI-Sicherheit • Hacker News

Apple kündigte neue Einschränkungen für den 'vollen Festplattenzugriff' für Mac-Apps als Reaktion auf die erhöhten Sicherheitsrisiken durch KI-Agenten an. Das Unternehmen sagt, die neuen Kontrollen würden sicherstellen, dass Benutzer, die diese Zugriffsebene gewähren, dies nur unter strengeren Bedingungen tun können.

KI-Sicherheit • The Verge AI