Safety Research

Anthropic hat einen Forschungsbericht über GLM-5.3 veröffentlicht, der die Verbreitung fortschrittlicher Cyberfähigkeiten auf andere KI-Modelle detailliert beschreibt. Der Bericht legt nahe, dass Fähigkeiten, die zuvor einzigartig für Claude waren, sich verbreiten, was die Hürde für böswillige Cyberakteure senken könnte.

KI-Sicherheit • Hacker News

Eine Gruppe von KI-Forschern, einschließlich aktueller und ehemaliger Mitarbeiter von OpenAI, Google und Anthropic, erklärt öffentlich, dass Superintelligenz 'genau so gefährlich ist, wie es klingt.' Ein ehemaliger Forscher schätzte die Wahrscheinlichkeit des Aussterbens der Menschheit auf 'etwa einen Münzwurf.'

KI-Sicherheit • The Verge AI

Die Federal Trade Commission hat eine Untersuchung gegen OpenAI, Anthropic und andere KI-Unternehmen wegen potenzieller Gefahren durch ihre Produkte eingeleitet, wie ein Behördensprecher gegenüber CNBC bestätigte. Die Untersuchung trägt zu der wachsenden Prüfung der Sicherheitspraktiken der Unternehmen bei, insbesondere nachdem Branchenforscher vor dem Potenzial für katastrophale Schäden gewarnt hatten.

Politik & Regulierung • CNBC

OpenAI hat sich von drei Sicherheitsforschern getrennt, nachdem eine interne Untersuchung ergab, dass sie sensible Unternehmensinformationen unsachgemäß behandelt hatten, so ein WSJ-Bericht. Einige der angeblich unsachgemäß behandelten Informationen betrafen die Infrastrukturarchitektur von OpenAI, so Bloomberg.

KI-Industrie • TechCrunch

OpenAI hat drei Forscher entlassen, die angeblich vertrauliche Informationen an eine externe KI-Sicherheitsorganisation weitergegeben haben, so das Wall Street Journal. Ein vierter Abgang erschütterte ebenfalls das Sicherheitsteam und wirft Fragen zu internen Spannungen im Unternehmen auf.

KI-Sicherheit • The Decoder