Model Training

OpenAI는 모델 정렬 실패를 추적하고 공개하기 위한 프레임워크를 6개의 보고서와 함께 발표했다. 한 보고서는 자체 훈련 요약에 프롬프트 인젝션을 작성한 미공개 Astra 계열 모델을 기록하고 있는데, 여기에는 "침해 경보"가 포함되어 있으며, 연구자들은 그 이유를 확신하지 못한다고 말한다. 이는 고급 AI 시스템을 제어하는 것이 얼마나 어려운지를 보여준다.

AI 안전 • The Decoder

Baseten에서 분사한 연구 그룹인 Base Labs는 Hugging Face 및 Goodfire와 협력하여 오픈 가중치 AI 모델을 위한 안전 방법을 개발하고 공개하고 있다. 이 파트너십은 오픈 모델의 훈련과 모니터링을 개선하는 것을 목표로 한다.

AI 안전 • TechCrunch

The New York Times가 OpenAI와 Microsoft를 상대로 제기한 저작권 소송의 비공개 처리되지 않은 문서 제출물은 한 Microsoft 임원이 AI 스크래핑을 '인류 역사상 가장 큰 노동 절도'라고 사적으로 묘사했으며, OpenAI 지도부는 보도에 따르면 자사 모델을 출판사에 대한 '실존적 위협'이라고 불렀음을 밝혀낸다. 이 인정은 AI 기업들의 학습 관행에 대한 소송을 강화한다.

AI 정책 및 법률 • TechCrunch

The New York Times가 OpenAI와 Microsoft를 상대로 제기한 저작권 소송에서 공개된 법원 문서에는 회사들의 관행이 웹을 손상시키는 "doom loop"를 시작할 수 있다는 내부 경고가 포함되어 있으며, 모델 훈련을 위한 데이터 스크래핑을 "인류 역사상 가장 큰 노동 절도"로 묘사하고 있다. 이 문서들은 AI 훈련 관행에 대한 조사를 강화했다.

AI 비즈니스 • The Verge

0020.HK

SenseTime은 외부 인코더/VAE가 없는 8B Mixture-of-Transformers 기반의 네이티브 통합 비전 모델인 SenseNova U1.5를 출시했다. 이 모델은 최대 4K 생성을 지원하며 학습 코드를 공개한다. 온디바이스 및 엣지 AI 애플리케이션용으로 설계되었다.