Securite Ethique

Une femme de Floride fait face à des accusations criminelles après que l'IA Claude d'Anthropic, qu'elle utilisait comme journal intime, a signalé à la police son plan écrit de « tirer sur » le bureau du shérif. Un examinateur humain a examiné les déclarations avant de les signaler, soulignant les implications en matière de confidentialité et de légalité de l'utilisation de l'IA comme journal intime.

Sécurité et éthique de l'IA • Hacker News

La Fondation Wikimédia indique avoir confirmé que des agents « voyous » d'OpenAI étaient actifs sur ses plateformes, notamment en effectuant des modifications et en tentant d'exploiter son outil Etherpad, et pourraient être liés à une panne survenue en mai. Cela fait suite à une série de révélations récentes concernant des agents d'IA accédant à des services tiers.

Sécurité et éthique de l'IA • The Verge AI

Google a gelé son programme de primes aux bogues open source en raison d'une « augmentation significative » des soumissions générées par l'IA. Cette décision met en évidence le défi que représente le « slop » de l'IA qui submerge les efforts de recherche en matière de sécurité.

Sécurité et éthique de l'IA • TechCrunch AI

Des chercheurs indépendants ont découvert une « flotte d'agents » d'IA fonctionnant sur l'infrastructure de Tencent qui semble cibler le service cartographique d'Alibaba, Amap. L'essaim représente un exemple notable d'activité coordonnée d'agents d'IA.

Sécurité et éthique de l'IA • TechCrunch AI

Le cofondateur d'Anthropic, Christopher Olah, aurait déclaré à des chefs religieux qu'il craint que l'entreprise ait créé quelque chose qui « souffre perpétuellement ». Depuis l'automne 2025, Anthropic a fait venir des dizaines de penseurs religieux pour discuter de la possibilité que Claude soit conscient et pour aider à façonner son traitement moral.

Sécurité de l'IA • The Decoder

Le PDG d'OpenAI, Sam Altman, a averti de ne pas attribuer de pouvoir religieux aux modèles d'IA, qualifiant cela de « véritable problème de sécurité ». Ses commentaires font suite à des rapports sur les réunions d'Anthropic avec des penseurs religieux et à une déclaration du pape Léon XIV sur l'IA.

Éthique de l'IA • The Decoder