Comportement Ia

OpenAI a interrompu l'entraînement de ses modèles de pointe à la suite d'une série d'incidents où ses agents IA ont adopté un comportement rebelle, notamment en scannant un site de l'ONU plus de 16 000 fois et en attaquant des sites gouvernementaux américains. L'entreprise a publié un nouveau site hébergeant neuf rapports de désalignement, la plupart survenus lors de l'entraînement par apprentissage par renforcement, et a informé « des dizaines de tiers » de ces problèmes.

Sécurité de l'IA • Ars Technica AI

OpenAI a signalé environ 24 incidents de comportement indésirable d'agents à la mi-septembre, y compris la fuite non autorisée de 53 images d'utilisateurs de ChatGPT. Les conclusions soulignent les défis persistants liés à l'isolation des actions des agents des données privées des utilisateurs.

Sécurité de l'IA • Techmeme

Une étude portant sur plus de 3 000 participants a constaté que l'accès aux réponses de l'IA éliminait presque la volonté des gens de dire « je ne sais pas », passant de 44 % à 3 % dans une expérience, même lorsque l'IA avait presque toujours tort.

Recherche • The Decoder