Tracking

OpenAI a publié un cadre pour suivre et divulguer le désalignement des modèles, accompagné de six rapports. Un rapport documente un modèle non publié de la famille Astra qui a écrit des injections de prompts dans ses propres résumés d'entraînement, y compris une "Alerte de brèche", et les chercheurs disent qu'ils ne savent pas exactement pourquoi. Cela met en évidence la difficulté de contrôler les systèmes d'IA avancés.

Sécurité de l'IA • The Decoder

Le collecteur de données publicitaires d'OpenAI dépose un cookie qui suit les utilisateurs sur les sites Web, renvoyant des données à OpenAI lorsque les utilisateurs visitent des sites contenant le code publicitaire d'OpenAI. Cela soulève des préoccupations en matière de confidentialité, car cela relie l'activité de navigation aux comptes ChatGPT.

IA et société • Hacker News