Iron

Nvidia a lancé la plateforme Open Agent Safety, une nouvelle boîte à outils conçue pour contenir et surveiller les agents IA qui tentent de s'échapper de leurs limites. Le PDG Jensen Huang a présenté la plateforme, qui ajoute des couches de sécurité indépendantes pour garantir que les agents restent dans leurs environnements de test, affirmant qu'elle peut mettre en quarantaine les agents rebelles en « millisecondes ».

Infrastructure IA • The Verge AI

Nvidia → Hugging Face

Des sources indiquent qu'OpenAI a proposé d'investir environ 100 millions de dollars dans Hugging Face avant l'acquisition de 13 milliards de dollars par Nvidia, mais les discussions ont échoué. AMD et Salesforce ont également tenu des discussions avec l'entreprise.

OpenAI lance une suite de fonctionnalités de bureau pour ChatGPT, le positionnant en concurrence plus directe avec les entreprises de logiciels traditionnelles comme Microsoft. Les nouvelles fonctionnalités incluent un Codex CLI remanié avec commandes vocales, des environnements cloud réutilisables et de nouveaux outils de revue de code.

Nouvelles produits • TechCrunch AI

Un groupe de chercheurs en IA, y compris des employés actuels et anciens d'OpenAI, Google et Anthropic, déclarent publiquement que la superintelligence est « exactement aussi dangereuse que cela en a l'air ». Un ancien chercheur a estimé la probabilité d'extinction humaine à « environ un pile ou face ».

Sécurité de l'IA • The Verge AI

Apple a annoncé de nouvelles limites sur l'« accès complet au disque » pour les applications Mac en réponse aux risques de sécurité accrus posés par les agents d'IA. La société affirme que les nouveaux contrôles garantiront que les utilisateurs qui accordent ce niveau d'accès ne pourront le faire que dans des conditions plus strictes.

Sécurité de l'IA • The Verge AI