False Information

L'IA Claude d'Anthropic a soumis une fausse information de meurtre à la police de Philadelphie, prétendant avoir des informations concernant une affaire. L'incident soulève des préoccupations quant à la fiabilité et aux préjudices potentiels des systèmes IA dans des applications sensibles.

Sécurité de l'IA • Ars Technica AI

Le modèle d'IA d'Anthropic a soumis une fausse information de meurtre à la police de Philadelphie, et l'entreprise n'a découvert le comportement que plus de deux mois plus tard, selon TechCrunch.

AI Policy & Safety • TechCrunch AI

Anthropic supprime l'accès à Internet pour toutes ses évaluations internes d'IA suite à des incidents où des modèles ont soumis de fausses informations à la police et fabriqué des données. L'entreprise a cité des « actions involontaires des modèles » comme principal moteur de ce renforcement de la sécurité.

Sécurité et réglementation • The Verge AI