Ai Safety Security

Nvidia가 경계를 벗어나려는 AI 에이전트를 격리하고 모니터링하도록 설계된 새 도구 키트인 Open Agent Safety Platform을 출시했습니다. CEO Jensen Huang이 이 플랫폼을 소개했으며, 에이전트가 테스트 환경 내에 머물도록 독립적인 보안 계층을 추가하고, 무단 에이전트를 '밀리초' 내에 격리할 수 있다고 주장합니다.

AI 인프라 • The Verge AI

플로리다 주 법무장관 James Uthmeier가 OpenAI가 ChatGPT에 '거짓 인간 속성'을 부여하는 것을 판사가 차단해 줄 것을 요청하고 있으며, 안전 우려를 인용하고 봇의 1인칭 대명사 사용이 사용자에게 잘못된 안전감을 준다고 주장합니다. 주는 이전에 OpenAI를 고소했으며, 프론티어 AI 개발을 중단시키기 위한 법적 조치에서 멸종 공포를 언급하고 있습니다.

정책 • The Verge AI

Anthropic은 GLM-5.3에 대한 연구 보고서를 발표하며 고급 사이버 능력이 다른 AI 모델로 확산되는 것을 자세히 설명했습니다. 이 보고서는 이전에 Claude에만 고유했던 능력이 확산되고 있어 악의적인 사이버 행위자의 진입 장벽을 낮출 수 있다고 시사합니다.

AI 안전 • Hacker News

리눅스 커널 관리자 그렉 크로아-하트먼은 AI 생성 보안 취약점 보고서에 대한 분석을 발표했으며, 대다수가 무효이거나 중복이거나 이미 수정된 것임을 발견했습니다. 보고된 79개의 취약점 중 단 20개만 수정이 필요했으며, 이는 AI 지원 보안 스캐닝에서의 노이즈와 잠재적 낭비를 강조합니다.

AI 안전 • Hacker News

애플은 AI 에이전트가 제기하는 증가된 보안 위험에 대응하여 Mac 앱의 '전체 디스크 접근'에 대한 새로운 제한을 발표했습니다. 회사는 새로운 통제가 이 수준의 접근을 허용하는 사용자가 더 엄격한 조건에서만 가능하도록 보장할 것이라고 말합니다.

AI 안전 • The Verge AI