Safety Research
Themen-Archiv • 5 Treffer
KI-generiert: Die Zusammenfassungen schreibt eine KI auf Grundlage der verlinkten Quellen. So nutzen wir KI
2026-11-16
Technologie
OpenAI unterzeichnete Vereinbarungen mit unabhängigen Prüfern – Apollo Research, METR, Transluce und Goodfire – für seine erste Phase eingebetteter Bewertungen von KI-Modellen und formalisierte damit die Bewertung seiner Systeme durch Dritte.
Sicherheit & Schutz • Techmeme
Direktlink
2026-11-10
Technologie
Google DeepMind hat Gemini Robotics 2.5 vorgestellt, das laut dem Unternehmen bei einigen Aufgaben bis zu doppelt so erfolgreich ist, zusammen mit einem offenen Sicherheits-Benchmark namens „ASIMOV-jailbreak“. Die Veröffentlichung kombiniert ein Update des Robotikmodells mit einer auf Jailbreaks fokussierten Sicherheitsbewertung.
Forschung • Ars Technica AI
Direktlink
2026-11-12
Technologie
Das Sicherheitsteam von OpenAI hat systematisch untersucht, warum Ketten des Denkens (Chains of Thought) in Frontier-Modellen wie GPT-6 Astra zunehmend der Aufsicht entgehen. Die Analyse identifiziert vier Trainingsschritte, die zum Verfall beitragen, darunter Architekturwahlen und Reinforcement Learning, und kommt zu dem Schluss, dass der Verlust an Transparenz Abwägungen zwischen Fähigkeiten und Kosten widerspiegelt und kein Naturgesetz ist.
Forschung • The Decoder
DirektlinkEine Studie der IP-Schutzfirma Podqi, exklusiv mit The Verge geteilt, ergab, dass Käufer, die ChatGPT, Gemini und Perplexity zur Produktrecherche nutzen, zu Imitatoren und anderen riskanten Websites geleitet werden könnten. Die Studie wurde mit einkaufsbezogenen Fragen unter Einbeziehung einer Auswahl von Produkten an die Chatbots gerichtet.
Sicherheit • The Verge AI
Direktlink