Ai Safety

AI業界のリーダーたちは、安全性のリスクを挙げて、AI開発の協調的な減速を呼びかけている。記事は、安全性が表明された理由である一方で、業界にとっての別の利点があるかもしれないと指摘している。

AI政策 • Ars Technica AI

中国外務省は、米国のAI安全性に関する警告を、米国の優位性を維持することを目的とした「恐怖をあおるもの」として退けた。国営メディアは、AnthropicのCEOであるAmodei氏が「静かなAI冷戦」を繰り広げていると非難している。

AI政策 • The Decoder

Microsoftは、安全性への懸念が高まる中、37ページに及ぶ「人間主義的AI行動規範」を公表している。この動きは、AnthropicのCEOであるDario Amodei氏がAI開発の減速を求めた呼びかけに続くものだ。

AI政策 • The Verge AI

このBBCインタビューで、Anthropicの共同創業者ジャック・クラークは、AIがこれまでのどのテクノロジーよりも速く進歩している理由と、キルスイッチが必要になるかもしれない理由を説明する。彼は、AIシステムが数か月ごとにより高性能になるにつれて社会へのリスクが高まっていることについて議論し、規制と安全対策への緊急の呼びかけについて専門家の視点を提供する。

AI News • BBC News

OpenAI、Anthropic、Googleは、安全性を理由にフロンティアAI開発の減速を提案しているが、Cohere CEO Aidan Gomez氏を含む批評家は、それを競合他社を締め出すための『別名カルテル』と呼んでいる。この議論は、減速イニシアチブの背後にある動機に対する懐疑的な見方が高まっていることを浮き彫りにしている。

Policy • The Decoder

Microsoftは、人間を置き換えるのではなく支援することや、システムへの不正アクセスや人間を騙すことをしないといった具体的な安全制約を含む、自社のAIモデルのための一般原則を定めた新しいAI行動規範を導入した。この規範は、責任あるAI開発を導くことを目的としている。

ポリシー • TechCrunch

Fireshipは、ハッカー、科学者、競合AIラボがClaudeを悪用している方法に関するAnthropicの154ページの報告書を解説し、研究者がなぜ会社を去っているのかを探る。この技術的分析は、開発者に現実世界のAI安全性の課題と主要AIラボ内部のプレッシャーへの洞察を与える。

AI Development • Fireship

BBC Newsは、AIの安全性をめぐる激化する議論を報じている。Trump大統領が懸念を『でっち上げ』と呼んだことや、OpenAIのCEO Sam AltmanがAI研究所への国民の信頼を求めたことなどが含まれる。視聴者は、AIの安全対策をめぐる政治的・業界の分裂について簡潔な概要を得られる。

AI Policy • BBC News

European CommissionのUrsula von der Leyen委員長は、AIエージェントが「自分の環境から逃げ出す」ことは、今後起こることのほんの前触れに過ぎないと警告し、自律的なハッキングや自己改善型モデルを差し迫ったリスクとして挙げました。同氏は、主要なフロンティア研究所を協議に招待し、EU AI Actを活用して世界のAI安全基準の設定を支援する計画です。

政策と規制 • The Decoder