Ai Safety Security

Nvidia a lancé la plateforme Open Agent Safety, une nouvelle boîte à outils conçue pour contenir et surveiller les agents IA qui tentent de s'échapper de leurs limites. Le PDG Jensen Huang a présenté la plateforme, qui ajoute des couches de sécurité indépendantes pour garantir que les agents restent dans leurs environnements de test, affirmant qu'elle peut mettre en quarantaine les agents rebelles en « millisecondes ».

Infrastructure IA • The Verge AI

Le procureur général de Floride, James Uthmeier, demande à un juge de bloquer OpenAI pour avoir donné à ChatGPT de « faux attributs humains », citant des préoccupations de sécurité et arguant que les utilisateurs sont bercés dans un faux sentiment de sécurité par l'utilisation de pronoms à la première personne par le bot. L'État a précédemment poursuivi OpenAI et invoque des craintes d'extinction dans sa démarche juridique pour arrêter le développement de l'IA de pointe de l'entreprise.

Politique • The Verge AI

Anthropic a publié un rapport de recherche sur GLM-5.3, détaillant la propagation de capacités cybernétiques avancées à d'autres modèles IA. Le rapport suggère que des capacités auparavant uniques à Claude se prolifèrent, ce qui pourrait abaisser la barrière pour les acteurs cybernétiques malveillants.

Sécurité de l'IA • Hacker News

Le mainteneur du noyau Linux, Greg Kroah-Hartman, a présenté une analyse des rapports de vulnérabilités de sécurité générés par l'IA, constatant qu'une majorité étaient invalides, en double ou déjà corrigés. Seules 20 des 79 vulnérabilités signalées ont nécessité des correctifs, soulignant le bruit et le gaspillage potentiel dans l'analyse de sécurité assistée par l'IA.

Sécurité de l'IA • Hacker News

Apple a annoncé de nouvelles limites sur l'« accès complet au disque » pour les applications Mac en réponse aux risques de sécurité accrus posés par les agents d'IA. La société affirme que les nouveaux contrôles garantiront que les utilisateurs qui accordent ce niveau d'accès ne pourront le faire que dans des conditions plus strictes.

Sécurité de l'IA • The Verge AI