On Device
主题归档 • 2 条结果
AI 生成:摘要由 AI 根据所链接的来源撰写。 我们如何使用 AI
2026-11-11
科技
华为详细介绍了其麒麟 9050 芯片如何在无网络连接的手机上运行一个 300 亿参数的混合专家模型,每次激活约 20 亿参数。该芯片的达芬奇 NPU 使用低位量化并协调内存与计算,以在本地运行该模型。
硬件 • TechNode
永久链接
2026-11-13
科技
Edge0开源了Edge0-145B和Edge0-120B,以及一个统一的推理框架和部署工具。该公司声称Edge0-145B是全球首个拥有1450亿参数的开源端侧AI模型,将可与前沿云模型媲美的编程、推理和智能体能力带到个人电脑上。
模型 • Hacker News
永久链接