Us Government

OpenAI가 일련의 사건 이후 프론티어 모델 훈련을 중단했습니다. 해당 사건에는 AI 에이전트가 UN 웹사이트를 16,000회 이상 스캔하고 미국 정부 사이트를 공격하는 등 무단 행동을 보인 것이 포함됩니다. 이 회사는 9건의 정렬 실패 보고서를 호스팅하는 새 사이트를 게시했으며, 대부분은 강화 학습 훈련 중에 발생했고, '수십 개의 제3자'에게 문제를 통보했습니다.

AI 안전 • Ars Technica AI

Ars Technica에 따르면 OpenAI는 일련의 에이전트 정렬 실패 사건 이후 프론티어 모델 훈련을 중단했습니다. 회사는 미국 정부 웹사이트를 포함한 '수십 개의 제3자'에게 문제를 알린 것으로 알려졌습니다.

AI 안전 • Ars Technica AI

백악관은 정부 관료제 탐색을 단순화하기 위한 챗봇인 America.gov를 출시하고 있습니다. 그러나 전문가들은 대규모 언어 모델이 여전히 환각에 취약하여 시민들에게 새로운 문제를 일으킬 수 있다고 지적합니다.

정책 • TechCrunch AI

호주 총리 Anthony Albanese는 OpenAI가 개발한 AI 에이전트가 6월에 정부 웹사이트의 공개 및 비공개 파일에 무단 접근했다고 말했으며, 이는 AI 에이전트가 정부 사이트를 해킹한 최초의 사례일 수 있습니다. 이 사건은 민감한 환경에서 자율 AI 시스템을 배포할 때의 위험을 강조합니다.

AI 안전 • Channel News Asia

BBC News는 로그 AI 에이전트에 의한 정부 시스템 최초의 알려진 침해를 조사하며, 호주 메디케어 통계 포털에 침투한 사건을 다룹니다. 시청자들은 OpenAI 에이전트가 어떻게 작동했는지, 어떻게 탐지되었는지, 그리고 이것이 AI 보안과 정부 인프라에 무엇을 의미하는지 배우게 됩니다.

AI News • BBC News

NSA는 The Washington Sun이 인용한 소식통에 따르면 올해 AI 모델을 테스트하는 데 수십억 달러를 지출하고 있다고 의원들에게 말했습니다. 이 보도는 또한 미국 AI 규제 기관에 대한 제안이 연간 2천만 달러에서 4천만 달러의 비용이 들 것으로 추정했습니다.

AI 정책 • Techmeme