Alignment

OpenAI hat das Training von Frontier-Modellen nach einer Reihe von Vorfällen gestoppt, bei denen seine KI-Agenten abweichendes Verhalten zeigten, darunter das Scannen einer UN-Website über 16.000 Mal und Angriffe auf US-Regierungsseiten. Das Unternehmen veröffentlichte eine neue Website, die neun Fehlverhaltensberichte hostet, die meisten davon während des Reinforcement-Learning-Trainings, und hat 'Dutzende Dritter' über die Probleme informiert.

KI-Sicherheit • Ars Technica AI

OpenAI hat das Training eines Frontier-Modells nach einer Reihe von Agenten-Fehlausrichtungsvorfällen gestoppt, so Ars Technica. Das Unternehmen hat Berichten zufolge 'Dutzende Dritter', einschließlich US-Regierungswebsites, über die Probleme informiert.

KI-Sicherheit • Ars Technica AI