Skip to content

On Device

주제 아카이브 • 2 건

AI 생성: 요약은 링크된 출처를 바탕으로 AI가 작성했습니다. AI 활용 방식

홈으로 돌아가기 • GEO summary endpoint

2026-11-11

기술

  • Huawei는 자사의 Kirin 9050 칩이 인터넷 연결 없이 휴대폰에서 300억 파라미터 규모의 전문가 혼합(mixture-of-experts) 모델을 구동하며, 한 번에 약 20억 개의 파라미터를 활성화하는 방식을 상세히 설명했습니다. 이 칩의 Da Vinci NPU는 저비트 양자화를 사용하고 메모리와 연산을 조정하여 모델을 로컬에서 실행합니다.

    하드웨어 • TechNode

    퍼머링크

2026-11-13

기술

  • Edge0가 Edge0-145B와 Edge0-120B를 통합 추론 프레임워크 및 배포 도구와 함께 오픈소스로 공개했다. 이 회사는 Edge0-145B가 1,450억 파라미터를 갖춘 세계 최초의 오픈소스 온디바이스 AI 모델로서, 최전선 클라우드 모델에 필적하는 코딩, 추론, 에이전트 기능을 개인용 컴퓨터에 제공한다고 주장한다.

    Models • Hacker News

    퍼머링크