Safety Research

Anthropicは、GLM-5.3に関する調査レポートを公開し、高度なサイバー能力が他のAIモデルに広がっていることを詳述しています。このレポートは、以前はClaudeに固有だった能力が普及しており、悪意のあるサイバー攻撃者の参入障壁を低くする可能性があることを示唆しています。

AI安全性 • Hacker News

OpenAI、Google、Anthropicの現在および元従業員を含むAI研究者のグループが、超知能は「まさに聞こえる通り危険である」と公に述べています。ある元研究者は、人類絶滅の確率を「コイン投げ程度」と推定しました。

AI安全性 • The Verge AI

連邦取引委員会は、OpenAI、Anthropic、および他のAI企業に対し、その製品がもたらす潜在的な危険性について調査を開始したと、同機関の広報担当者がCNBCに確認した。この調査は、特に業界研究者が壊滅的な被害の可能性について警告した後、企業の安全慣行に対する監視の高まりに拍車をかけている。

政策と規制 • CNBC

OpenAIは、内部調査で機密の会社情報を不適切に取り扱ったことが判明した3人の安全研究者と決別したと、WSJの報道によると報じられている。問題となった情報の一部はOpenAIのインフラストラクチャアーキテクチャに関するものだったと、Bloombergは伝えている。

AI業界 • TechCrunch

ウォール・ストリート・ジャーナルによると、OpenAIは外部のAI安全組織に機密情報を漏洩した疑いで3人の研究者を解雇しました。4人目の退職も安全性チームを揺るがし、同社内部の緊張関係について疑問を投げかけています。

AI安全性 • The Decoder