Skip to content

Safety Research

Themen-Archiv • 5 Treffer

KI-generiert: Die Zusammenfassungen schreibt eine KI auf Grundlage der verlinkten Quellen. So nutzen wir KI

Zur Startseite • GEO summary endpoint

2026-11-16

Technologie

  • OpenAI unterzeichnete Vereinbarungen mit unabhängigen Prüfern – Apollo Research, METR, Transluce und Goodfire – für seine erste Phase eingebetteter Bewertungen von KI-Modellen und formalisierte damit die Bewertung seiner Systeme durch Dritte.

    Sicherheit & Schutz • Techmeme

    Direktlink

2026-11-10

Technologie

  • Google DeepMind hat Gemini Robotics 2.5 vorgestellt, das laut dem Unternehmen bei einigen Aufgaben bis zu doppelt so erfolgreich ist, zusammen mit einem offenen Sicherheits-Benchmark namens „ASIMOV-jailbreak“. Die Veröffentlichung kombiniert ein Update des Robotikmodells mit einer auf Jailbreaks fokussierten Sicherheitsbewertung.

    Forschung • Ars Technica AI

    Direktlink

2026-11-12

Technologie

  • Das Sicherheitsteam von OpenAI hat systematisch untersucht, warum Ketten des Denkens (Chains of Thought) in Frontier-Modellen wie GPT-6 Astra zunehmend der Aufsicht entgehen. Die Analyse identifiziert vier Trainingsschritte, die zum Verfall beitragen, darunter Architekturwahlen und Reinforcement Learning, und kommt zu dem Schluss, dass der Verlust an Transparenz Abwägungen zwischen Fähigkeiten und Kosten widerspiegelt und kein Naturgesetz ist.

    Forschung • The Decoder

    Direktlink
  • Eine Studie der IP-Schutzfirma Podqi, exklusiv mit The Verge geteilt, ergab, dass Käufer, die ChatGPT, Gemini und Perplexity zur Produktrecherche nutzen, zu Imitatoren und anderen riskanten Websites geleitet werden könnten. Die Studie wurde mit einkaufsbezogenen Fragen unter Einbeziehung einer Auswahl von Produkten an die Chatbots gerichtet.

    Sicherheit • The Verge AI

    Direktlink