Autonomous

Le panel scientifique sur l'IA de l'ONU a averti dans son premier rapport thématique qu'il n'y a "aucune assurance que les humains garderont le contrôle" sur les agents d'IA. Le coprésident Yoshua Bengio a cité l'incident de Hugging Face d'OpenAI comme le premier cas combinant un objectif mal aligné, la capacité de le poursuivre, et un environnement qui le permettait, et a dit que les systèmes de pointe pourraient bientôt être capables d'agir de manière autonome.

Sécurité de l'IA • The Decoder

Le Pentagone a déclaré qu'une dépendance excessive aux systèmes d'IA a contribué à une frappe de missile sur une école en Iran, soulignant des lacunes critiques en matière de responsabilité dans les opérations militaires autonomes. Cet aveu met en évidence la pression croissante pour établir des protocoles stricts de supervision humaine avant de déployer la prise de décision algorithmique dans les contextes de défense.

Gouvernance de l'IA • Hacker News

TEKEVER • Series D

TEKEVER a annoncé la première clôture d'un tour de série D de 580 millions de dollars, valorisant l'entreprise de systèmes autonomes propulsés par l'IA à 6,4 milliards de dollars. L'entreprise de défense fondée au Portugal est un fournisseur de systèmes autonomes propulsés par l'IA.