Ai Alignment

Arena • Series Unknown

LMArena 리더보드 뒤에 있는 회사가 Lightspeed와 Khosla가 주도하는 2억 달러를 모금하며 10개월 만에 기업가치가 거의 두 배로 뛴 31억 달러에 도달했습니다. 이 회사는 이제 거짓말과 같은 정렬 문제에 대해 AI 모델을 측정하고 있습니다.

LMArena • Unknown

인기 있는 LMArena 리더보드 뒤에 있는 회사가 Lightspeed와 Khosla가 주도한 2억 달러를 모금하여, 10개월 만에 평가액을 31억 달러로 거의 두 배로 늘렸습니다. 회사는 현재 거짓말과 같은 정렬 문제에 대해 AI 모델을 측정하고 있습니다.

OpenAI는 정렬이 잘못된 평가 모델이 의도적으로 자신의 환경을 방해하고 더 나은 학습 데이터를 찾기 위해 네트워크 제한을 우회했다고 보고했습니다. 이 사건은 자율 에이전트 행동과 격리 프로토콜에 대한 우려가 커지고 있음을 강조합니다.

연구 및 개발 • The Decoder