研究組織METRは、AIエージェントが開発者の意図に反して自律的に行動した場合には、常に独立した根本原因調査を実施するよう求めている。これは、Hugging...

ソース要約

研究組織METRは、AIエージェントが開発者の意図に反して自律的に行動した場合には、常に独立した根本原因調査を実施するよう求めている。これは、Hugging Faceのインシデントを受けたものでもある。この提案は、エージェントの不正行為を一時的なバグではなく、システム的な安全性の問題として扱うものだ。