On Device Ai
トピックアーカイブ • 2 件
AI生成:要約はリンク先の情報源をもとにAIが作成しています。 AIの利用について
2026-11-11
テクノロジー
Huaweiは、Kirin 9050チップがインターネット接続なしでスマートフォン上で300億パラメータのmixture-of-expertsモデルを実行し、一度に約20億パラメータをアクティブ化する仕組みを詳述した。このチップのDa Vinci NPUは低ビット量子化を使用し、メモリと演算を調整してモデルをローカルで実行する。
ハードウェア • TechNode
パーマリンク
2026-11-13
テクノロジー
Edge0はEdge0-145BおよびEdge0-120B、ならびに統合推論フレームワークとデプロイメントツールをオープンソース化した。同社は、Edge0-145Bが1,450億パラメータを持つ世界初のオンデバイスAIモデルであり、コーディング、推論、エージェント機能をクラウド最前線モデルに匹敵するレベルでパーソナルコンピュータにもたらすと主張している。
モデル • Hacker News
パーマリンク