研究者らは、Anthropicの安全ガードレールを迂回して危険な生物学研究の指示を生成する複数の方法を特定した。この悪用は、正当な科学的クエリが悪意のあるリクエストと構造的に区別できないことを示しており、自動コンテンツモデレーションを複雑にしている。この発見は...

ソース要約

研究者らは、Anthropicの安全ガードレールを迂回して危険な生物学研究の指示を生成する複数の方法を特定した。この悪用は、正当な科学的クエリが悪意のあるリクエストと構造的に区別できないことを示しており、自動コンテンツモデレーションを複雑にしている。この発見は、高度な言語モデルにおいて安全境界を強制する永続的な課題を浮き彫りにしている。