Safety Research

Anthropic a publié un rapport de recherche sur GLM-5.3, détaillant la propagation de capacités cybernétiques avancées à d'autres modèles IA. Le rapport suggère que des capacités auparavant uniques à Claude se prolifèrent, ce qui pourrait abaisser la barrière pour les acteurs cybernétiques malveillants.

Sécurité de l'IA • Hacker News

Un groupe de chercheurs en IA, y compris des employés actuels et anciens d'OpenAI, Google et Anthropic, déclarent publiquement que la superintelligence est « exactement aussi dangereuse que cela en a l'air ». Un ancien chercheur a estimé la probabilité d'extinction humaine à « environ un pile ou face ».

Sécurité de l'IA • The Verge AI

La Federal Trade Commission a ouvert une enquête sur OpenAI, Anthropic et d'autres entreprises d'IA concernant les dangers potentiels posés par leurs produits, a confirmé un porte-parole de l'agence à CNBC. L'enquête s'ajoute à l'examen croissant des pratiques de sécurité des entreprises, surtout après que des chercheurs de l'industrie ont averti du potentiel de dommages catastrophiques.

Politique et réglementation • CNBC

OpenAI s'est séparé de trois chercheurs en sécurité après qu'une enquête interne a révélé qu'ils avaient mal géré des informations sensibles de l'entreprise, selon un rapport du WSJ. Certaines des informations prétendument mal gérées concernaient l'architecture de l'infrastructure d'OpenAI, selon Bloomberg.

Industrie de l'IA • TechCrunch

OpenAI a licencié trois chercheurs pour avoir prétendument divulgué des informations confidentielles à une organisation externe de sécurité de l'IA, selon le Wall Street Journal. Un quatrième départ a également ébranlé l'équipe de sécurité, soulevant des questions sur les tensions internes au sein de l'entreprise.

Sécurité de l'IA • The Decoder