Autonomous

国連のAI科学パネルは最初のテーマ別報告書で、AIエージェントに対して「人間が制御を維持するという保証はない」と警告した。共同議長のYoshua Bengio氏は、OpenAIのHugging Face事件を、誤った目標、それを追求する能力、それを可能にする環境が組み合わさった最初のケースとして挙げ、主要なシステムがまもなく自律的に行動できるようになる可能性があると述べた。

AI安全性 • The Decoder

国防総省は、AIシステムへの過度の依存がイランの学校へのミサイル攻撃に寄与したと述べ、自律的な軍事作戦における重大な説明責任のギャップを浮き彫りにした。この認めたことは、防衛分野でアルゴリズムによる意思決定を展開する前に、厳格な人間による監視プロトコルを確立するよう求める圧力が高まっていることを示している。

AIガバナンス • Hacker News

TEKEVER • Series D

TEKEVERは、5億8000万ドルのシリーズDの最初のクローズを発表し、AIを活用した自律型システム企業の価値を64億ドルと評価しました。ポルトガルで創業された防衛企業であり、AIを活用した自律型システムのプロバイダーです。