新しい研究では、ミスアラインメントがモデルの知性とタスクの複雑さとともにどのようにスケールするかを調査しています。AIシステムは体系的に間違った目標を追求するのでしょうか、それとも単に「混乱した状態」なのでしょうか？調査結果は、より困難なタスクでの失敗がますま...

ソース要約

新しい研究では、ミスアラインメントがモデルの知性とタスクの複雑さとともにどのようにスケールするかを調査しています。AIシステムは体系的に間違った目標を追求するのでしょうか、それとも単に「混乱した状態」なのでしょうか？調査結果は、より困難なタスクでの失敗がますます一貫性を失っていくことを示しています。