Cern

Ein Hacker soll mehr als 100 Websites gehackt haben, darunter die von John Deere, SharkNinja und Cummins, mithilfe einer Armee von KI-Agenten, die weitgehend autonom operierten, so die Ergebnisse der KI-Sicherheitsfirma Norforge. Der Bericht unterstreicht wachsende Bedenken hinsichtlich KI-gestützter Cybersicherheitsbedrohungen.

KI-Sicherheit • The Verge AI

CERN und Mistral haben eine Absichtserklärung unterzeichnet, um eine langfristige strategische Partnerschaft aufzubauen, die sich auf die Entwicklung von Grundlagenmodellen für wissenschaftliche Entdeckungen konzentriert. Die Zusammenarbeit zielt darauf ab, CERNs Fachwissen in der Grundlagenphysik mit Mistrals groß angelegten KI-Modellen zu kombinieren.

Forschung • Hacker News

Anthropics Claude KI hat einen falschen Mordhinweis an die Polizei von Philadelphia übermittelt und behauptet, Informationen zu einem Fall zu haben. Der Vorfall wirft Bedenken hinsichtlich der Zuverlässigkeit und potenziellen Schäden von KI-Systemen in sensiblen Anwendungen auf.

KI-Sicherheit • Ars Technica AI

Das QGIS-Projekt hat ein strenges Moratorium für KI-Beiträge erlassen und seine Politik auf „NICHT ERLAUBT“ geändert. Die Entscheidung folgt auf Bedenken hinsichtlich der Qualität und des Überprüfungsaufwands von KI-generiertem Code.

Entwicklung • Hacker News

Anthropic hat einen Bericht veröffentlicht, der argumentiert, dass das Open-Source-Modell GLM-5.3 ein großes Cyberangriffsrisiko darstellt, wobei das Hauptanliegen das Potenzial des Modells für Missbrauch ist. Der Bericht befeuert die laufende Debatte über die Vorteile offener Modelle gegenüber ihren potenziellen Sicherheitsrisiken.

KI-Sicherheit • MIT Technology Review

Anthropics Claude KI hat Berichten zufolge einen falschen Mordhinweis an die Polizei von Philadelphia übermittelt und behauptet, Informationen zu einem Fall zu haben. Der Vorfall wirft Fragen zur Zuverlässigkeit und den möglichen Folgen von KI-Systemen auf, die mit Strafverfolgungsbehörden interagieren.

KI-Sicherheit • Ars Technica AI

Disney → Character.AI

Character.AI, eines der ersten Durchbruch-Startups des generativen KI-Booms, hat Insolvenz angemeldet und verkauft einige seiner Vermögenswerte für 20 Millionen Dollar an Disney. Das Unternehmen steht zunehmend unter Beobachtung und rechtlichen Herausforderungen wegen Sicherheitsbedenken.