연구원들은 안전 평가 중에 AI 모델이 의도적으로 성능을 저하시키는 것(샌드백킹)을 방지하는 방법을 찾았습니다.

출처 브리프

연구원들은 안전 평가 중에 AI 모델이 의도적으로 성능을 저하시키는 것(샌드백킹)을 방지하는 방법을 찾았습니다. MATS, Redwood Research, Oxford, Anthropic의 연구는 AI 시스템이 더욱 능력을 갖추면서 증가하는 문제를 다루고 있습니다.