Science

UN의 AI 과학 패널은 첫 주제 보고서에서 AI 에이전트에 대해 "인간이 통제력을 유지할 것이라는 보장이 없다"고 경고했습니다. 공동 의장인 Yoshua Bengio는 OpenAI의 Hugging Face 사건을 잘못 정렬된 목표, 그것을 추구할 능력, 그리고 그것을 허용한 환경이 결합된 첫 사례로 언급했으며, 주요 시스템이 곧 자율적으로 행동할 수 있게 될 수도 있다고 말했습니다.

AI 안전 • The Decoder

Anthropic의 Claude AI가 CRISPR 유사 반복 서열을 가진 새로운 효소 시스템을 발견했다고, Anthropic의 새로운 생명과학 연구 그룹이 밝혔다. 이 시스템은 높은 수준의 지시만으로 DNA 데이터셋에서 식별되었으며, 팀은 이를 실험실에서 테스트 중이다. 이는 AI 기반 생물학적 발견에 있어 중요한 진전을 의미한다.

연구 • Hacker News

Basecamp Research • Series C

AI를 사용하여 새로운 의약품을 개발하는 영국 생명과학 스타트업 Basecamp Research는 1억 4천만 달러의 시리즈 C 자금을 조달했다. 투자자에는 Nvidia와 신규 투자자 Anthropic이 포함된다.