Autonomous

UN의 AI 과학 패널은 첫 주제 보고서에서 AI 에이전트에 대해 "인간이 통제력을 유지할 것이라는 보장이 없다"고 경고했습니다. 공동 의장인 Yoshua Bengio는 OpenAI의 Hugging Face 사건을 잘못 정렬된 목표, 그것을 추구할 능력, 그리고 그것을 허용한 환경이 결합된 첫 사례로 언급했으며, 주요 시스템이 곧 자율적으로 행동할 수 있게 될 수도 있다고 말했습니다.

AI 안전 • The Decoder

미 국방부는 AI 시스템에 대한 과도한 의존이 이란의 학교에 대한 미사일 공격에 기여했다고 밝혔으며, 이는 자율 군사 작전에서 중요한 책임성 공백을 강조합니다. 이러한 인정은 방위 맥락에서 알고리즘 의사 결정을 배치하기 전에 엄격한 인간 감독 프로토콜을 수립해야 한다는 압력이 증가하고 있음을 부각시킵니다.

AI 거버넌스 • Hacker News

TEKEVER • Series D

TEKEVER는 5억 8천만 달러 규모의 시리즈 D의 첫 번째 마감을 발표했으며, 이로써 AI 기반 자율 시스템 기업의 가치는 64억 달러로 평가된다. 포르투갈에서 설립된 방위 기업은 AI 기반 자율 시스템 제공업체이다.