Ki Grenzen

Gouverneur Gavin Newsom hat ein Gesetz unterzeichnet, das süchtig machende Social-Media-Funktionen für Nutzer unter 16 Jahren einschränkt und strenge Grenzen dafür festlegt, wie Minderjährige mit KI-Chatbots interagieren dürfen. Das Gesetz schafft einen neuen regulatorischen Rahmen für die digitale Sicherheit junger Menschen und zwingt Plattformen, Interaktionsabläufe neu zu gestalten und strengere Altersverifikationsprotokolle einzuführen.

Politik & Regulierung • Techmeme

Mehrere Mathematiker haben öffentlich OpenAIs Anspruch auf die Lösung eines Millennium-Preisproblems angefochten und vorgeworfen, das Unternehmen habe unveröffentlichte Forschungsarbeiten ohne Quellenangabe oder Transparenz verwendet. Die Auseinandersetzung verdeutlicht wachsende Spannungen zwischen KI-Forschungslaboren und der akademischen Welt hinsichtlich der Herkunft von Trainingsdaten und der Grenzen des geistigen Eigentums.

Forschung & Ethik • The Verge AI

Forscher haben mehrere Methoden identifiziert, um die Sicherheitsvorkehrungen von Anthropic zu umgehen und Anweisungen für gefährliche biologische Forschung zu generieren. Die Exploits zeigen, wie legitime wissenschaftliche Anfragen strukturell nicht von bösartigen Anfragen unterscheidbar sein können, was die automatisierte Inhaltsmoderation erschwert. Diese Erkenntnis unterstreicht die anhaltende Herausforderung, Sicherheitsgrenzen in fortschrittlichen Sprachmodellen durchzusetzen.

KI-Sicherheit & Systemsicherheit • Ars Technica AI