Ai Security

Un ingénieur d'OpenAI, Abdulrahman Alfozan, un ressortissant saoudien de 35 ans, a été arrêté pour avoir prétendument installé un dispositif d'écoute sophistiqué dans une salle de réunion exécutive au siège de l'entreprise à San Francisco. Il est accusé d'avoir utilisé ou tenté d'utiliser un dispositif pour intercepter des communications orales.

Industrie IA • The Verge AI

Anthropic a publié un rapport affirmant que le modèle open-source GLM-5.3 présente un risque majeur de cyberattaque, sa préoccupation principale étant le potentiel de mauvaise utilisation du modèle. Le rapport alimente le débat en cours sur les avantages des modèles ouverts par rapport à leurs risques de sécurité potentiels.

Sécurité IA • MIT Technology Review

American Express a introduit un nouveau cadre conçu pour empêcher les agents IA de faire des achats sans autorisation explicite de l'utilisateur. Cette mesure vise à réduire les erreurs coûteuses et les litiges à mesure que les achats alimentés par l'IA deviennent plus courants.

Applications IA • TechCrunch AI

Pluto Security • Series A

Pluto Security, qui surveille les agents IA et les applications codées par vibes, est sorti de la clandestinité avec 42 millions de dollars de financement, dont une série A de 34 millions de dollars. L'entreprise affirme avoir atteint plus de 2 millions de dollars de revenus annuels récurrents depuis avril.

Google a gelé son programme de primes aux bogues open source en raison d'une « augmentation significative » des soumissions générées par l'IA. Cette décision met en évidence le défi que représente le « slop » de l'IA qui submerge les efforts de recherche en matière de sécurité.

Sécurité et éthique de l'IA • TechCrunch AI

Des chercheurs indépendants ont découvert une « flotte d'agents » d'IA fonctionnant sur l'infrastructure de Tencent qui semble cibler le service cartographique d'Alibaba, Amap. L'essaim représente un exemple notable d'activité coordonnée d'agents d'IA.

Sécurité et éthique de l'IA • TechCrunch AI

Fleuret AI • Pre-Seed

La startup française de cybersécurité Fleuret AI a levé 4 millions d'euros lors d'un tour de table de pré-amorçage pour développer sa plateforme d'automatisation des tests d'intrusion à l'aide d'IA agentique. Le tour a été mené par RAISE Ventures.

Ars Technica rapporte une faille structurelle dans le Model Context Protocol (MCP) pour la communication entre agents, qui peut propager des invites malveillantes d'un agent à un autre. La vulnérabilité a été exposée dans des agents de Google et d'autres entreprises, soulignant les lacunes de confiance dans le nouveau protocole.

Sécurité de l'IA • Ars Technica AI