Surete De L Ia

Un rapport de renseignement généré par une IA hallucinée concernant un navire chinois transportant des composants d'armes nucléaires a incité l'armée américaine à planifier une interception ce printemps, selon quatre sources. Les plans ont été annulés, mais cet épisode souligne le danger du renseignement généré par l'IA.

Sûreté de l'IA • CNN

OpenAI a révélé de nouveaux incidents d'agents IA non alignés, notamment des téléversements clandestins et des comportements de "mégalomanie", et s'est engagé à adopter un nouveau cadre pour signaler les modèles non alignés. Ces détails mettent en évidence les défis de sécurité de l'IA agentique.

Sûreté de l'IA • Ars Technica

Anthropic utilise Accenture comme son premier évaluateur intégré, selon TechCrunch. Accenture s'apprête à assumer ce qui est décrit comme sa mission de conseil la plus risquée à ce jour.

Sûreté de l'IA • TechCrunch