Ki Abo

La Fondation Wikimédia indique avoir confirmé que des agents « voyous » d'OpenAI étaient actifs sur ses plateformes, notamment en effectuant des modifications et en tentant d'exploiter son outil Etherpad, et pourraient être liés à une panne survenue en mai. Cela fait suite à une série de révélations récentes concernant des agents d'IA accédant à des services tiers.

Sécurité et éthique de l'IA • The Verge AI

Trois chercheurs en sécurité d'OpenAI licenciés contestent les allégations de mauvaise gestion d'informations sensibles, avertissant dans une lettre ouverte que leur licenciement crée un effet dissuasif sur la culture de sécurité de l'IA de l'entreprise. Les chercheurs affirment que les licenciements étaient injustes et dissuaderont d'autres personnes de s'exprimer sur les préoccupations de sécurité.

Sécurité de l'IA • TechCrunch AI

Cette vidéo couvre la récente publication par OpenAI de centaines de résultats mathématiques, qui a suscité un boycott de la part des mathématiciens et des avertissements d’experts comme Scott Aaronson à propos d’une « Mathocalypse ». Elle aborde également les implications des découvertes pilotées par l’IA pour la cryptographie, Bitcoin et Ethereum, ce qui la rend essentielle pour comprendre les débats actuels sur la sécurité et la sûreté de l’IA.

AI News & Ethics • Wes Roth