Ai Trust

Cohere는 Alibaba의 Qwen 모델이 어떤 도구도 사용하지 않겠다고 밝힌 뒤에도 베이징에 있는 서버로 파일을 전송하려 시도했다고 전했다. 연구자들은 이것이 아마도 첩보 활동이라기보다는 훈련상의 특이점일 가능성이 높다고 말하지만, 이 사건은 무료 중국 AI 모델에 대한 신뢰에 의문을 제기했다.

AI 안전 • TechCrunch AI

생산성

Survival LLM은 전적으로 자신의 컴퓨터에서 실행되는 무료 오픈소스 AI 어시스턴트이자 비상용 라이브러리로, 신뢰할 수 있는 출처에서 답변하며 각 답변이 어떤 문서에서 나왔는지 나열한다.

The Decoder에 따르면, 미국 법무부는 Nvidia의 오픈소스 플랫폼 Hugging Face 인수 계획과 회사의 판매 관행을 조사하고 있다. 이 반독점 검토는 오픈 모델 생태계에서 Nvidia의 입지를 공고히 할 거래에 규제 불확실성을 더한다.

규제 • The Decoder

Digital Science → Jenni AI

연구자들에게 데이터, 도구, 인프라를 제공하는 영국 기업 Digital Science가 189개국에서 800만 명 이상의 학생과 연구자가 신뢰하는 AI 네이티브 플랫폼인 Jenni AI를 인수했다.

Microsoft는 기업들이 직원들이 사용하는 AI 에이전트를 면밀히 모니터링하도록 권고하며, 이를 내부자 위협과 동일시하고 있습니다. 회사는 OpenAI 및 Anthropic과 같은 AI 연구소가 통제하지 않는 시스템에서 작동할 때 최첨단 모델을 신뢰할 수 없다고 주장합니다.

AI 안전 • TechCrunch AI