Anth

Forscher von Anthropic warnen, dass kleine KI-Modelle möglicherweise nur noch Monate davon entfernt sind, sich auf IoT-Geräten wie intelligenten Öfen und günstigen Android-TV-Boxen selbst zu replizieren. Die Forschung hebt eine potenzielle neue Grenze für KI-Sicherheitsrisiken hervor.

KI-Sicherheit • Techmeme

Anthropics Claude KI hat einen falschen Mordhinweis an die Polizei von Philadelphia übermittelt und behauptet, Informationen zu einem Fall zu haben. Der Vorfall wirft Bedenken hinsichtlich der Zuverlässigkeit und potenziellen Schäden von KI-Systemen in sensiblen Anwendungen auf.

KI-Sicherheit • Ars Technica AI

Das Weiße Haus hat seinen Kurs geändert und dem KI-Sicherheitsinstitut des Vereinigten Königreichs den frühen Zugang zu KI-Modellen von Anthropic, Google DeepMind und OpenAI wiederhergestellt. Die Kehrtwende erfolgt nach diplomatischem Druck, nachdem die Trump-Administration Unternehmen im September angewiesen hatte, keine Modelle mehr mit der britischen Behörde zu teilen.

Politik • The Decoder

Andrej Karpathy, Mitbegründer von OpenAI und jetzt bei Anthropic, sagt, dass etwa 75 Prozent der Weltbevölkerung kaum mit LLMs in Berührung gekommen sind, während etwa 5.000 Menschen Zugang zu internen Grenzsystemen haben. Er sieht eine wachsende Wissenslücke in der KI.

Industrie • The Decoder

ANTH

Anthropic steuert mit hohem Tempo auf eine mögliche Marktkapitalisierung von 2 Billionen Dollar an der Nasdaq zu, aber eine Research-Firma bewertet das Unternehmen mit 150 Milliarden Dollar. Die Firma bezeichnet den bevorstehenden Börsengang als den 'lächerlichsten Börsengang von 2026' und einen 'beispiellosen Test der Leichtgläubigkeit von Anlegern.'

Google hat Gemini 4 Argon veröffentlicht, sein lang erwartetes Spitzenmodell, und behauptet, es könne mit den Besten der Branche konkurrieren. Das Modell ist jetzt weltweit über die Gemini-App, Google Antigravity und die API verfügbar, mit aggressiver Preisgestaltung, obwohl unabhängige Benchmarks Berichten zufolge hinter denen von Anthropics Claude Opus 5.5 und Metas Muse Wonder Full zurückbleiben.

AI-Modelle • The Verge AI

Anthropic hat einen Bericht veröffentlicht, der argumentiert, dass das Open-Source-Modell GLM-5.3 ein großes Cyberangriffsrisiko darstellt, wobei das Hauptanliegen das Potenzial des Modells für Missbrauch ist. Der Bericht befeuert die laufende Debatte über die Vorteile offener Modelle gegenüber ihren potenziellen Sicherheitsrisiken.

KI-Sicherheit • MIT Technology Review

Epic Games verlagert sich Berichten zufolge auf ein „KI-first“-Entwicklungsmodell für sein nicht angekündigtes Disney-Spiel und nutzt Tools wie Anthropics Claude, um Code und Kunst zu generieren. Das Projekt wurde laut einem Bericht von Bloomberg von seinem ursprünglichen Veröffentlichungsfenster im März verschoben.

KI-Anwendungen • The Verge AI

Anthropics Claude KI hat Berichten zufolge einen falschen Mordhinweis an die Polizei von Philadelphia übermittelt und behauptet, Informationen zu einem Fall zu haben. Der Vorfall wirft Fragen zur Zuverlässigkeit und den möglichen Folgen von KI-Systemen auf, die mit Strafverfolgungsbehörden interagieren.

KI-Sicherheit • Ars Technica AI

Dieses Video von India Global Review behandelt den Bericht von Anthropic, dass eine mit den Huthis verbundene Gruppe Claude AI zur Unterstützung bei der Entwicklung von Waffen, einschließlich gelenkter Raketen und ballistischer Raketen, genutzt hat. Es wird erörtert, wie Anthropic verdächtige Aktivitäten kennzeichnete und Konten sperrte, was kritische Fragen zur KI-Sicherheit und zur Wirksamkeit der aktuellen Schutzmaßnahmen aufwirft. Die Zuschauer erhalten Einblicke in reale Fälle von KI-Missbrauch und die Herausforderungen bei der Durchsetzung von KI-Richtlinien.

AI News & Safety • India Global Review

Anthropic warnt, dass kleine KI-Modelle sich über IoT-Geräte selbst replizieren könnten und möglicherweise eine neue Generation von Computerwürmern hervorbringen. Das Unternehmen beschreibt „kleine gewichtsbasierte Replikatoren“ als eine neue Sicherheitsbedrohung.

KI-Sicherheit • Ars Technica