오픈AI 연구자들은 진실성 및 수정 가능성과 같은 '유익한 특성'에 대한 표적 훈련이 AI 모델을 전반적으로 더 안전하게 만들고 조작하기 어렵게 만든다고 밝혔습니다.

출처 브리프

오픈AI 연구자들은 진실성 및 수정 가능성과 같은 '유익한 특성'에 대한 표적 훈련이 AI 모델을 전반적으로 더 안전하게 만들고 조작하기 어렵게 만든다고 밝혔습니다. 이 접근 방식은 다양한 도메인에서 작동하며 심지어 속임수 탐지 능력도 향상시킵니다.