이번 주 한 Anthropic 연구원이 사임하면서, 회사가 인간의 안전을 위험에 빠뜨리면서 자기 개선형 초지능을 향해 질주하고 있다고 경고했다.

출처 브리프

이번 주 한 Anthropic 연구원이 사임하면서, 회사가 인간의 안전을 위험에 빠뜨리면서 자기 개선형 초지능을 향해 질주하고 있다고 경고했다. 이 경고는 무시되지 않고 Anthropic 자체 정렬 책임자의 공동 서명을 받았으며, 회사가 잠재적 IPO를 준비하는 시점에 나왔다. 이러한 내부 반대는 업계에서 빠른 역량 확장과 엄격한 안전 프로토콜 사이의 증가하는 긴장을 부각한다.