Cad

CADDi • Series D

CADDiは、メーカーがエンジニアリングおよび生産データを整理するのを支援するAIツールを販売しており、1億1400万ドルのシリーズDを12億ドルの評価額で調達した。

Anthropicのシニアセキュリティ研究者が辞任し、自己改善型のAIが「全員を殺す可能性がある」と警告した。また、同僚は2030年末までにAIが人類全滅させる確率を10％以上と見積もっている。これらの警告は、スーパーヒューマンシステム構築レースに対する社内での懸念が高まっていることを浮き彫りにしている。

AI安全性 • Ars Technica AI

BBC Newsは、Anthropicの安全性研究者であるEvan Hubinger氏が今後10年以内にAIによって人類が全滅する確率が10%以上あると警告した内容を報じています。このポッドキャストでは、AI安全性をめぐる広範な議論やその他の主要なAIニュースについても探求しています。

AI Safety • BBC News

Geoffrey Hinton は、最近の Anthropic 内部告発者の警告について語り、10年以内に AI による存続危機が 10% の確率で生じる可能性は「決して不合理ではない」と述べている。このインタビューでは、最先端の AI 研究者たちがスーパーインテリジェント システムの開発競争を懸念する理由と、それらのリスクを軽減するために何が実行できるかを解説している。

AI Safety • BBC Politics

複数の数学者が、OpenAIによるミレニアム懸賞問題の解決主張に公に異議を唱え、同社が出典や透明性を欠いたまま未発表の研究を利用したと非難した。この紛争は、トレーニングデータの由来と知的財産権の境界をめぐるAI研究所と学界の間の摩擦が高まっていることを浮き彫りにしている。

研究と倫理 • The Verge AI