Hall

애플이 마침내 재구축된 Siri AI를 출시했다. 이는 구글의 Gemini 모델을 기반으로 하며, 일부는 기기에서, 일부는 Private Cloud Compute를 통해 실행된다. 초기 테스터들은 다단계 요청과 화면 컨텍스트를 칭찬하지만, 일부 작업에서 환각과 공백을 보고한다. 새로운 Siri는 EU에서는 사용할 수 없다.

제품 • The Decoder

Fireship은 해커, 과학자, 경쟁 AI 연구소들이 Claude를 어떻게 악용하는지에 대한 Anthropic의 154페이지 분량 보고서를 분석하고, 연구자들이 회사를 떠나는 이유를 탐구합니다. 이 기술 분석은 개발자들에게 실제 AI 안전 문제와 선도 AI 연구소 내부의 압박에 대한 통찰력을 제공합니다.

AI Development • Fireship

여러 수학자들이 공개적으로 OpenAI의 밀레니엄 문제 해결 주장을 반박하며, 회사가 출처 표기나 투명성 없이 미발표 연구를 사용했다고 주장했습니다. 이번 분쟁은 훈련 데이터 출처와 지적재산권 경계를 둘러싼 AI 연구소와 학계 간의 마찰이 커지고 있음을 보여줍니다.

연구 및 윤리 • The Verge AI

연구원들은 Anthropic의 안전 장치를 우회해 위험한 생물학 연구 지시를 생성할 수 있는 여러 방법을 파악했다. 이러한 취약점은 합법적인 과학적 질문이 악성 요청과 구조적으로 구분하기 어렵게 만들어 자동 콘텐츠 검수를 복잡하게 만든다. 이번 발견은 첨단 언어 모델에서 안전 경계를 유지하는 것이 여전히 얼마나 어려운 과제인지 다시 한번 일깨워준다.

AI 보안 및 안전 • Ars Technica AI

New Mexico 주 대법원은 ChatGPT가 생성한 허위 증인 진술과 가짜 경찰 증언이 포함된 상고장을 제출한 변호인 Stephen Aarons에게 5,000달러의 벌금을 부과하고 법원 모독죄로 처분했다. 이번 판결은 변호인이 AI 생성 내용을 제출하기 전 반드시 검증해야 할 최종 책임을 진다는 명확한 법적 선례를 남겼다. 이는 법정 절차에서 AI 활용에 대한 사법부의 감시가 강화되고 있음을 시사한다.

AI 법률 및 윤리 • The Verge AI

OpenAI는 내부 Habitat 라이브러리를 전 세계적으로 분산된 저장 플랫폼으로 전환해, 10억 명 이상의 ChatGPT 사용자가 초당 2,200만 건의 요청을 처리할 수 있도록 했다. 이번 엔지니어링 개편은 소비자 규모 AI 서비스를 제공할 때 발생하는 지연 시간(latency) 및 데이터 일관성 문제를 해결하기 위한 것이다. 해당 아키텍처는 실제 운영 환경의 AI 시스템에서 막대한 동시 트래픽을 관리하기 위한 설계 청사진을 제시한다.

AI 인프라 • OpenAI News