Bound

여러 수학자들이 공개적으로 OpenAI의 밀레니엄 문제 해결 주장을 반박하며, 회사가 출처 표기나 투명성 없이 미발표 연구를 사용했다고 주장했습니다. 이번 분쟁은 훈련 데이터 출처와 지적재산권 경계를 둘러싼 AI 연구소와 학계 간의 마찰이 커지고 있음을 보여줍니다.

연구 및 윤리 • The Verge AI

연구원들은 Anthropic의 안전 장치를 우회해 위험한 생물학 연구 지시를 생성할 수 있는 여러 방법을 파악했다. 이러한 취약점은 합법적인 과학적 질문이 악성 요청과 구조적으로 구분하기 어렵게 만들어 자동 콘텐츠 검수를 복잡하게 만든다. 이번 발견은 첨단 언어 모델에서 안전 경계를 유지하는 것이 여전히 얼마나 어려운 과제인지 다시 한번 일깨워준다.

AI 보안 및 안전 • Ars Technica AI