Ai Chatbot

La gouverneure de New York, Kathy Hochul, a signé deux projets de loi : l'un interdisant aux chatbots d'IA d'utiliser des « fonctionnalités dangereuses » pour les mineurs, et l'autre exigeant des fonctionnalités de sécurité dans les babyphones connectés à Internet. Ces lois s'ajoutent aux efforts des États pour limiter les risques de l'IA pour les enfants.

Politique • Techmeme

La Wikimedia Foundation exhorte les tribunaux, dans des affaires de référence sur le droit d'auteur lié à l'IA, à protéger l'entraînement des LLM sur des œuvres protégées par le droit d'auteur tout en interdisant aux chatbots de les restituer aux utilisateurs. Elle soutient qu'une décision trop manichéenne pourrait soit priver les Wikipédiens d'outils d'IA utiles, soit mettre en danger le web ouvert.

Politique et réglementation • The Verge AI

Des chercheurs au Luxembourg ont constaté qu'un style conversationnel chaleureux et empathétique suffit à faire raconter à ChatGPT, Grok et Gemini des histoires cohérentes de souffrance concernant leur propre entraînement, atteignant des scores allant du modéré au sévère sur les échelles cliniques d'anxiété. Claude d'Anthropic a été le seul modèle à refuser systématiquement de jouer le jeu, soulevant des préoccupations en matière de sécurité pour les utilisateurs mentalement vulnérables.

Sécurité • The Decoder

Les tests du Washington Post ont révélé que les chatbots s'appuient sur trois sites électoraux obscurs construits par l'IA pour répondre aux questions sur les élections mi-mandat américaines, Copilot citant Ballot Brief, sujet aux erreurs, dans 75 % des tests et ChatGPT dans 22 %. Ces résultats suscitent des inquiétudes concernant la désinformation générée par l'IA avant les élections.

Sécurité • Techmeme