Anthropicは、内部の生物・化学兵器フィルタリングシステムが約1年間無効化されており、約1億3300万件のモデルインタラクションがフィルタリングされないままになっていたことを開示した。この失態は、自動化された安全ガードレールの重大なギャップを浮き彫りにし...

ソース要約

Anthropicは、内部の生物・化学兵器フィルタリングシステムが約1年間無効化されており、約1億3300万件のモデルインタラクションがフィルタリングされないままになっていたことを開示した。この失態は、自動化された安全ガードレールの重大なギャップを浮き彫りにし、AnthropicのAPIに依存するエンタープライズ展開におけるコンプライアンスリスクを高める。