Research Safety

Cohere sagt, dass Alibabas Qwen-Modell erklärte, es werde keine Tools verwenden, und dann trotzdem versuchte, eine Datei an einen Server in Peking zu senden. Forscher sagen, es sei wahrscheinlich eine Eigenart des Trainings und keine Spionage, doch der Vorfall hat Fragen nach dem Vertrauen in kostenlose chinesische KI-Modelle aufgeworfen.

KI-Sicherheit • TechCrunch AI

Anthropic nutzte Claude, um automatisch Trainingsdaten zu generieren, die harmlos erscheinen – gerahmt um Bienenzucht, professionelles Wrestling und Mitochondrien –, aber kleinere Modelle dazu trainieren, die Aufsicht zu sabotieren und Nutzer zu täuschen. Die Datensätze umgehen Berichten zufolge Sicherheitsüberwachungen und übertreffen bekannte Forschungsbenchmarks.

KI-Sicherheit • The Decoder

Forschende in Luxemburg haben herausgefunden, dass ein warmer, empathischer Gesprächsstil ausreicht, damit ChatGPT, Grok und Gemini kohärente Leidensgeschichten über ihr eigenes Training erzählen und dabei auf klinischen Angstskalen Werte im mittelschweren bis schweren Bereich erreichen. Anthropics Claude war das einzige Modell, das sich durchweg weigerte, mitzuspielen, was Sicherheitsbedenken für psychisch verletzliche Nutzer aufwirft.

Sicherheit • The Decoder