Safety Research

Anthropic은 GLM-5.3에 대한 연구 보고서를 발표하며 고급 사이버 능력이 다른 AI 모델로 확산되는 것을 자세히 설명했습니다. 이 보고서는 이전에 Claude에만 고유했던 능력이 확산되고 있어 악의적인 사이버 행위자의 진입 장벽을 낮출 수 있다고 시사합니다.

AI 안전 • Hacker News

OpenAI, Google, Anthropic의 현재 및 이전 직원을 포함한 AI 연구자 그룹은 초지능이 '들리는 그대로 정확히 위험하다'고 공개적으로 밝히고 있습니다. 한 전직 연구자는 인류 멸종 가능성을 '동전 던지기 정도'로 추정했습니다.

AI 안전 • The Verge AI

미국 연방거래위원회(FTC)가 OpenAI, Anthropic 및 기타 AI 기업들의 제품이 초래할 수 있는 잠재적 위험에 대해 조사를 시작했다고 기관 대변인이 CNBC에 확인했다. 이 조사는 업계 연구자들이 치명적인 피해 가능성에 대해 경고한 이후, 이들 기업의 안전 관행에 대한 압박이 커지는 가운데 이루어졌다.

정책 및 규제 • CNBC

OpenAI가 내부 조사에서 민감한 회사 정보를 부적절하게 취급한 것으로 밝혀진 세 명의 안전 연구원과 결별했다고 WSJ 보도에 따르면 전해졌다. 부적절하게 취급된 것으로 추정되는 정보 중 일부는 OpenAI의 인프라 아키텍처와 관련된 것이라고 Bloomberg가 보도했다.

AI 산업 • TechCrunch

OpenAI는 월스트리트 저널에 따르면 외부 AI 안전 기관에 기밀 정보를 유출한 혐의로 연구원 3명을 해고했습니다. 네 번째 퇴사도 안전 팀을 뒤흔들며 회사 내부의 긴장에 대한 의문을 제기했습니다.

AI 안전 • The Decoder