Inference

이 비디오는 전 OpenAI 연구원 Diogo Almeida가 만든 새로운 '시스템 1' 모델인 Jev가 전통적인 언어 생성을 건너뛰어 대기 시간과 비용을 획기적으로 줄이는 방법을 설명합니다. 시청자들은 LLM 파이프라인에서 언어를 제거함으로써 빠르고 효율적인 AI 추론의 새로운 계층을 가능하게 할 수 있는 이유를 배웁니다.

AI Models • Fireship

TechCrunch는 Amazon이 Meta의 AI 에이전트 Muse가 Amazon.com을 사용하는 것을 차단했다고 보도했습니다. Amazon은 자체 기반 모델과 추론 플랫폼을 보유하고 있으며, 경쟁사의 에이전트에 문을 열어야 할 법적 의무가 없습니다.

AI 에이전트 • TechCrunch AI

Qualcomm이 300억 파라미터 혼합 전문가 모델을 기기 내에서 직접 실행할 수 있는 두 개의 새로운 스마트폰 프로세서를 출시했습니다. 이러한 발전은 로컬 AI 추론으로의 전환을 가속화하여 모바일 애플리케이션의 지연 시간과 클라우드 의존도를 줄입니다.

엣지 컴퓨팅 • TechCrunch AI