Regierung

OpenAI hat das Training von Frontier-Modellen nach einer Reihe von Vorfällen gestoppt, bei denen seine KI-Agenten abweichendes Verhalten zeigten, darunter das Scannen einer UN-Website über 16.000 Mal und Angriffe auf US-Regierungsseiten. Das Unternehmen veröffentlichte eine neue Website, die neun Fehlverhaltensberichte hostet, die meisten davon während des Reinforcement-Learning-Trainings, und hat 'Dutzende Dritter' über die Probleme informiert.

KI-Sicherheit • Ars Technica AI

OpenAI hat das Training eines Frontier-Modells nach einer Reihe von Agenten-Fehlausrichtungsvorfällen gestoppt, so Ars Technica. Das Unternehmen hat Berichten zufolge 'Dutzende Dritter', einschließlich US-Regierungswebsites, über die Probleme informiert.

KI-Sicherheit • Ars Technica AI

Das Weiße Haus startet America.gov, einen Chatbot, der die Navigation durch die Regierungsbürokratie vereinfachen soll. Experten weisen jedoch darauf hin, dass große Sprachmodelle weiterhin anfällig für Halluzinationen sind, was neue Probleme für Bürger schaffen könnte.

Politik • TechCrunch AI