Securite

Anthropic a averti qu'elle est proche de l'RSI (auto-amélioration récursive), le point où l'IA devient capable de s'entraîner elle-même suffisamment bien pour déclencher une accélération rapide de ses capacités. L'entreprise a présenté cette étape comme un seuil aux implications majeures en matière de sécurité.

Sécurité de l'IA • TechCrunch AI

SemiAnalysis a lancé GDPx, un benchmark de capacités agentiques couvrant 11 domaines, dont la conception de puces, la cybersécurité, la finance, le juridique et l'RSI. Opus 5.5 a dominé le classement avec un score de 12 %, selon SemiAnalysis.

Benchmarks • Techmeme

Basé sur un extrait de transcription : Fireship analyse une série de grands incidents de cybersécurité, notamment un backdoor intégré dans une extension Cursor, un script détourné drainant les fonds de Polymarket, un vol présumé de 6,3 milliards de dollars en crypto-monnaies chez Binance, et une démonstration par Anthropic où un modèle Claude non publié aurait obtenu un accès root sur des serveurs Linux non corrigés. La vidéo explique les détails techniques et les implications plus larges pour les développeurs et les professionnels de la sécurité.

AI Security & News • Fireship

Anthropic développe un système appelé FlashProve qui permettrait à quiconque de vérifier qu'une réponse d'IA provient véritablement du modèle dont elle prétend émaner. L'outil de traçabilité répond aux préoccupations croissantes concernant l'usurpation d'identité des modèles et les sorties d'API falsifiées.

Sécurité IA • TechCrunch AI

CrowdStrike a lancé un interrupteur d'urgence IA dans son produit Falcon Guardian pour arrêter les agents IA internes qui se comportent de manière erratique, et a annoncé une intégration de Falcon Guardian avec Claude Cowork. Cette démarche reflète la demande des entreprises pour des contrôles sur les agents autonomes opérant au sein des réseaux corporatifs.

Sécurité IA • Techmeme

La Chine prévoit de déployer des normes larges de sécurité IA couvrant le développement jusqu'au déploiement, ciblant les créateurs de modèles IA nationaux, selon Bloomberg. Ces normes interviennent après des incidents de sécurité mondiaux et signalent la poussée de Pékin vers une gouvernance IA formalisée.

Politique IA • Techmeme

CyberKord • Pre-Seed

La startup italienne de cybersécurité CyberKord a levé 2,7 millions d'euros lors d'un tour de table pré-amorçage afin de soutenir le développement de sa plateforme alimentée par l'IA pour automatiser les opérations informatiques et de cybersécurité.

CrowdStrike → Fiddler AI

CrowdStrike a accepté d'acquérir Fiddler AI, qui aide à surveiller les agents IA, pour environ 400 millions de dollars, principalement en espèces. Cette acquisition intervient alors que les entreprises déploient des agents IA plus rapidement que certaines équipes de sécurité ne peuvent mettre en place des contrôles.

CrowdStrike → Dreadnode

CrowdStrike a accepté d'acquérir Dreadnode, un outil automatisé de test de sécurité par IA, pour environ 95 millions de dollars, principalement en espèces. L'acquisition s'inscrit dans la stratégie de CrowdStrike visant à sécuriser les déploiements d'agents IA.

OpenAI a construit un pipeline autonome qui a identifié, validé et généré des correctifs pour 948 vulnérabilités locales d'élévation de privilèges dans le noyau Linux. Ce travail démontre l'application de l'IA à la recherche en sécurité à grande échelle.

Sécurité • OpenAI News

Geoffrey Hinton a déclaré au Guardian qu'il pourrait s'avérer que les humains auraient mieux fait de ne jamais développer l'IA, mettant en garde contre le risque que cette technologie déclenche cet année ou l'année prochaine un incident à grande échelle, tel qu'une panne temporaire des systèmes financiers ou électriques. Le lauréat du prix Nobel a affirmé n'être pas un « doomer » concernant cette technologie.

Sécurité • Hacker News

Sentra • Series C

La startup de sécurité des données Sentra Inc. a levé 150 millions de dollars dans un tour de table de série C mené par Capital One Ventures, portant son financement total à plus de 250 millions de dollars. L'entreprise aide à restreindre et surveiller l'accès aux données pour les agents IA.