新しい研究によると、バックエンドコードを生成するAIエージェントは「制約の劣化」に苦しんでいます：時間が経つにつれて、自己課した制約を無視するようになり、安全でないバグのあるコードにつながります。これは、AIが生成したコードは特に安全が重要なシステムにおいて、...

ソース要約

新しい研究によると、バックエンドコードを生成するAIエージェントは「制約の劣化」に苦しんでいます：時間が経つにつれて、自己課した制約を無視するようになり、安全でないバグのあるコードにつながります。これは、AIが生成したコードは特に安全が重要なシステムにおいて、常に人間によってレビューされる必要があることを強調しています。