Anthropic

Le ministère chinois des Affaires étrangères a rejeté les avertissements américains sur la sécurité de l'IA comme étant de l'« alarmisme » visant à préserver l'avantage américain. Les médias d'État accusent le PDG d'Anthropic, Amodei, de mener une « guerre froide silencieuse de l'IA ».

Politique de l'IA • The Decoder

Microsoft publie un 'code de conduite de l'IA humaniste' de 37 pages dans un contexte de préoccupations croissantes en matière de sécurité. Cette décision fait suite aux appels du PDG d'Anthropic, Dario Amodei, à ralentir le développement de l'IA.

Politique de l'IA • The Verge AI

Dans cette interview de la BBC, le cofondateur d'Anthropic, Jack Clark, explique pourquoi l'IA progresse plus vite que toute technologie précédente et pourquoi un interrupteur d'arrêt pourrait être nécessaire. Il discute du risque croissant pour la société alors que les systèmes d'IA deviennent plus performants tous les quelques mois, offrant une perspective d'expert sur l'appel urgent à la réglementation et aux mesures de sécurité.

AI News • BBC News

OpenAI, Anthropic et Google ont proposé de ralentir le développement de l'IA de pointe en invoquant la sécurité, mais des critiques, dont le PDG de Cohere, Aidan Gomez, qualifient cela de « cartel sous un autre nom » conçu pour exclure les concurrents. Le débat met en évidence un scepticisme croissant quant aux motivations derrière l'initiative de ralentissement.

Policy • The Decoder

Fireship décortique le rapport de 154 pages d'Anthropic sur la manière dont les hackers, les scientifiques et les laboratoires d'IA rivaux abusent de Claude, et explore pourquoi les chercheurs quittent l'entreprise. Cette analyse technique donne aux développeurs un aperçu des défis réels de la sécurité de l'IA et de la pression au sein des principaux laboratoires d'IA.

AI Development • Fireship

L'industrie de l'IA a pris un tournant « doomer », Dario Amodei d'Anthropic appelant à freiner le développement des LLM en raison de dangers imminents. L'article analyse ce changement et ses implications pour le domaine.

Analysis • MIT Technology Review

Artificial Intelligence Underwriting Company (AIUC) • Series A

AIUC, une startup fondée par une des premières recrues d'Anthropic et anciennement COO de METR, a levé 40 millions de dollars lors d'un financement de série A mené par Ribbit Capital avec la participation de First Harmonic pour maîtriser les agents d'IA incontrôlables.

Anthropic a lancé Claude Docs and Slides, permettant aux utilisateurs de créer des documents et des présentations via des conversations Claude, qui peuvent être exportés, modifiés et partagés. L'entreprise fusionne également les conversations classiques et Cowork en « un seul Claude » pour simplifier le produit.

Produits IA • The Verge

Le PDG d'OpenAI, Sam Altman, le PDG d'Anthropic, Dario Amodei, le cofondateur de Google DeepMind, Demis Hassabis, le PDG de Microsoft, Satya Nadella, et X ont tous publiquement convenu qu'il est temps de ralentir le développement de l'IA et d'introduire une réglementation avant que le contrôle ne soit perdu. The Verge présente cela comme le dernier chapitre d'une histoire de dirigeants de l'IA appelant à la réglementation tout en profitant de l'IA.

Politique et réglementation • The Verge