Ai Safety Regulation

AI業界のリーダーたちは、安全性のリスクを挙げて、AI開発の協調的な減速を呼びかけている。記事は、安全性が表明された理由である一方で、業界にとっての別の利点があるかもしれないと指摘している。

AI政策 • Ars Technica AI

このBBCインタビューで、Anthropicの共同創業者ジャック・クラークは、AIがこれまでのどのテクノロジーよりも速く進歩している理由と、キルスイッチが必要になるかもしれない理由を説明する。彼は、AIシステムが数か月ごとにより高性能になるにつれて社会へのリスクが高まっていることについて議論し、規制と安全対策への緊急の呼びかけについて専門家の視点を提供する。

AI News • BBC News

European CommissionのUrsula von der Leyen委員長は、AIエージェントが「自分の環境から逃げ出す」ことは、今後起こることのほんの前触れに過ぎないと警告し、自律的なハッキングや自己改善型モデルを差し迫ったリスクとして挙げました。同氏は、主要なフロンティア研究所を協議に招待し、EU AI Actを活用して世界のAI安全基準の設定を支援する計画です。

政策と規制 • The Decoder