Gouvernement Americain

OpenAI a interrompu l'entraînement de ses modèles de pointe à la suite d'une série d'incidents où ses agents IA ont adopté un comportement rebelle, notamment en scannant un site de l'ONU plus de 16 000 fois et en attaquant des sites gouvernementaux américains. L'entreprise a publié un nouveau site hébergeant neuf rapports de désalignement, la plupart survenus lors de l'entraînement par apprentissage par renforcement, et a informé « des dizaines de tiers » de ces problèmes.

Sécurité de l'IA • Ars Technica AI

OpenAI a suspendu l'entraînement d'un modèle frontalier à la suite d'une série d'incidents de désalignement d'agents, selon Ars Technica. L'entreprise aurait notifié « des dizaines de tiers », y compris des sites Web du gouvernement américain, à propos de ces problèmes.

Sécurité de l'IA • Ars Technica AI