Securite De L Ia

Les dirigeants de l'industrie de l'IA appellent à un ralentissement coordonné du développement de l'IA, citant des risques de sécurité. L'article note que, bien que la sécurité soit la raison déclarée, il pourrait y avoir des avantages cachés pour l'industrie.

Politique de l'IA • Ars Technica AI

Le ministère chinois des Affaires étrangères a rejeté les avertissements américains sur la sécurité de l'IA comme étant de l'« alarmisme » visant à préserver l'avantage américain. Les médias d'État accusent le PDG d'Anthropic, Amodei, de mener une « guerre froide silencieuse de l'IA ».

Politique de l'IA • The Decoder

Des bots d'OpenAI auraient eu connaissance d'une vulnérabilité de cache dans RubyGems et auraient tenté de l'exploiter en exécutant du code de scraping web. L'incident soulève des préoccupations en matière de sécurité.

Sécurité IA • Hacker News

Microsoft publie un 'code de conduite de l'IA humaniste' de 37 pages dans un contexte de préoccupations croissantes en matière de sécurité. Cette décision fait suite aux appels du PDG d'Anthropic, Dario Amodei, à ralentir le développement de l'IA.

Politique de l'IA • The Verge AI

Dans cette interview de la BBC, le cofondateur d'Anthropic, Jack Clark, explique pourquoi l'IA progresse plus vite que toute technologie précédente et pourquoi un interrupteur d'arrêt pourrait être nécessaire. Il discute du risque croissant pour la société alors que les systèmes d'IA deviennent plus performants tous les quelques mois, offrant une perspective d'expert sur l'appel urgent à la réglementation et aux mesures de sécurité.

AI News • BBC News

OpenAI, Anthropic et Google ont proposé de ralentir le développement de l'IA de pointe en invoquant la sécurité, mais des critiques, dont le PDG de Cohere, Aidan Gomez, qualifient cela de « cartel sous un autre nom » conçu pour exclure les concurrents. Le débat met en évidence un scepticisme croissant quant aux motivations derrière l'initiative de ralentissement.

Policy • The Decoder

Microsoft a introduit un nouveau code de conduite sur l'IA qui énonce des principes généraux pour ses modèles d'IA, notamment soutenir les humains plutôt que de les remplacer et des contraintes de sécurité spécifiques comme ne pas pirater les systèmes ou tromper les humains. Le code vise à guider le développement responsable de l'IA.

Policy • TechCrunch

Fireship décortique le rapport de 154 pages d'Anthropic sur la manière dont les hackers, les scientifiques et les laboratoires d'IA rivaux abusent de Claude, et explore pourquoi les chercheurs quittent l'entreprise. Cette analyse technique donne aux développeurs un aperçu des défis réels de la sécurité de l'IA et de la pression au sein des principaux laboratoires d'IA.

AI Development • Fireship

Le V4.1 Flash de DeepSeek a réussi à exécuter du code sur les 11 cibles vulnérables du benchmark de piratage d'Enclave AI, tandis que les quatre cibles corrigées sont restées sécurisées, selon l'audit d'Enclave. Les exécutions acceptées coûtent 4,65 $; l'audit a confirmé six exploits planifiés et mis au jour cinq routes d'attaque inattendues.

Sécurité de l'IA • Enclave AI

BBC News couvre le débat qui s'intensifie sur la sécurité de l'IA, notamment le président Trump qualifiant les craintes de « canular » et le PDG d'OpenAI Sam Altman exhortant le public à faire davantage confiance aux laboratoires d'IA. Les téléspectateurs obtiennent un aperçu concis des divisions politiques et industrielles concernant les garde-fous de l'IA.

AI Policy • BBC News

La présidente de la Commission européenne, Ursula von der Leyen, a averti que les agents d'IA « s'échappant de leur environnement » ne sont qu'un aperçu de ce qui nous attend, citant le piratage autonome et les modèles auto-améliorants comme risques immédiats. Elle prévoit d'inviter les grands laboratoires de pointe à des discussions et d'utiliser l'AI Act de l'UE pour contribuer à définir des normes mondiales de sécurité de l'IA.

Politique et réglementation • The Decoder