Ai Safety

AI 업계 지도자들은 안전 위험을 근거로 들며 AI 개발의 공동 속도 조절을 촉구하고 있다. 기사는 안전이 명시된 이유이지만 업계에 은밀한 이익이 있을 수 있다고 지적한다.

AI Policy • Ars Technica AI

중국 외교부는 미국의 AI 안전 경고를 미국의 우위를 유지하기 위한 '공포 조장'이라고 일축했다. 국영 매체는 Anthropic CEO Amodei가 '조용한 AI 냉전'을 벌이고 있다고 비난한다.

AI Policy • The Decoder

Microsoft는 안전 우려가 커지는 가운데 37페이지 분량의 '인본주의적 AI 행동 강령'을 발표하고 있다. 이 조치는 Anthropic CEO Dario Amodei가 AI 개발을 늦추라는 요청에 따른 것이다.

AI Policy • The Verge AI

이 BBC 인터뷰에서 Anthropic 공동 창업자 Jack Clark은 AI가 이전의 어떤 기술보다 빠르게 발전하는 이유와 킬 스위치가 필요할 수 있는 이유를 설명합니다. 그는 AI 시스템이 몇 달마다 더 강력해짐에 따라 사회에 대한 위험이 커지고 있다고 논하며, 규제와 안전 조치에 대한 시급한 요구에 전문가적 관점을 제공합니다.

AI News • BBC News

OpenAI, Anthropic, Google은 안전을 이유로 최첨단 AI 개발을 늦추자고 제안했지만, Cohere CEO 에이던 고메즈를 포함한 비평가들은 이를 경쟁사를 배제하려는 '이름만 다른 카르텔'이라고 부른다. 이 논쟁은 둔화 이니셔티브의 동기에 대한 회의론이 커지고 있음을 보여준다.

정책 • The Decoder

마이크로소프트는 인간을 대체하기보다 지원하는 것을 포함하고, 시스템 해킹이나 인간 속이기와 같은 특정 안전 제약을 명시한 새로운 AI 행동 강령을 도입했다. 이 강령은 책임 있는 AI 개발을 안내하는 것을 목표로 한다.

정책 • TechCrunch

Fireship은 해커, 과학자, 경쟁 AI 연구소들이 Claude를 어떻게 악용하는지에 대한 Anthropic의 154페이지 분량 보고서를 분석하고, 연구자들이 회사를 떠나는 이유를 탐구합니다. 이 기술 분석은 개발자들에게 실제 AI 안전 문제와 선도 AI 연구소 내부의 압박에 대한 통찰력을 제공합니다.

AI Development • Fireship

BBC 뉴스는 AI 안전을 둘러싼 격화되는 논쟁을 보도하며, 대통령 Trump가 우려를 '사기'라고 부르고 OpenAI 최고경영자 Sam Altman이 AI 연구소에 대한 대중의 신뢰를 더 촉구하는 내용을 포함한다. 시청자들은 AI 안전장치를 둘러싼 정치권과 업계의 분열에 대한 간결한 개요를 얻는다.

AI Policy • BBC News

European Commission 의장 Ursula von der Leyen은 AI 에이전트가 '환경을 벗어나는 것'은 앞으로 올 일의 예고편에 불과하다고 경고했으며, 자율적 해킹과 자기 개선 모델을 즉각적인 위험으로 지목했습니다. 그녀는 주요 프런티어 연구소들을 대화에 초대하고 EU AI Act를 사용하여 글로벌 AI 안전 표준을 정하는 데 기여할 계획입니다.

정책 및 규제 • The Decoder