Anthropic

중국 외교부는 미국의 AI 안전 경고를 미국의 우위를 유지하기 위한 '공포 조장'이라고 일축했다. 국영 매체는 Anthropic CEO Amodei가 '조용한 AI 냉전'을 벌이고 있다고 비난한다.

AI Policy • The Decoder

Microsoft는 안전 우려가 커지는 가운데 37페이지 분량의 '인본주의적 AI 행동 강령'을 발표하고 있다. 이 조치는 Anthropic CEO Dario Amodei가 AI 개발을 늦추라는 요청에 따른 것이다.

AI Policy • The Verge AI

이 BBC 인터뷰에서 Anthropic 공동 창업자 Jack Clark은 AI가 이전의 어떤 기술보다 빠르게 발전하는 이유와 킬 스위치가 필요할 수 있는 이유를 설명합니다. 그는 AI 시스템이 몇 달마다 더 강력해짐에 따라 사회에 대한 위험이 커지고 있다고 논하며, 규제와 안전 조치에 대한 시급한 요구에 전문가적 관점을 제공합니다.

AI News • BBC News

OpenAI, Anthropic, Google은 안전을 이유로 최첨단 AI 개발을 늦추자고 제안했지만, Cohere CEO 에이던 고메즈를 포함한 비평가들은 이를 경쟁사를 배제하려는 '이름만 다른 카르텔'이라고 부른다. 이 논쟁은 둔화 이니셔티브의 동기에 대한 회의론이 커지고 있음을 보여준다.

정책 • The Decoder

Fireship은 해커, 과학자, 경쟁 AI 연구소들이 Claude를 어떻게 악용하는지에 대한 Anthropic의 154페이지 분량 보고서를 분석하고, 연구자들이 회사를 떠나는 이유를 탐구합니다. 이 기술 분석은 개발자들에게 실제 AI 안전 문제와 선도 AI 연구소 내부의 압박에 대한 통찰력을 제공합니다.

AI Development • Fireship

AI 업계는 종말론적 분위기로 전환했으며, Anthropic의 다리오 아모데이는 다가오는 위험 때문에 LLM 개발에 제동을 걸 것을 촉구하고 있다. 이 기사는 이러한 변화와 업계에 미치는 영향을 분석한다.

분석 • MIT Technology Review

Artificial Intelligence Underwriting Company (AIUC) • Series A

AIUC는 Anthropic 초기 채용자이자 전 METR COO가 설립한 스타트업으로, 일탈 AI 에이전트를 제어하기 위해 Ribbit Capital이 주도하고 First Harmonic이 참여한 Series A 투자에서 4천만 달러를 조달했다.

Anthropic의 Labs 팀은 공동 창업자 Ben Mann이 이끄는 ~20명의 그룹으로, 핵심 제품 개발을 위한 내부 스타트업 인큐베이터 역할을 합니다. 이 팀은 Anthropic의 가장 혁신적인 프로젝트 중 일부를 담당하고 있습니다.

기업 • Techmeme

Matt Clifford는 이해상충 우려로 인해 Anthropic에 합류한 후 UK 정부의 과학기술 연구 단위 의장직에서 사임했습니다. 그의 행보는 AI 기업과 정부 고문 간 유대가 강화되고 있음을 보여줍니다.

정책 • Techmeme