Speculative Decoding
トピックアーカイブ • 1 件
AI生成:要約はリンク先の情報源をもとにAIが作成しています。 AIの利用について
2026-10-21
テクノロジー
DeepSeekは、大規模モデルサービスの背後にある推論フレームワークであるDeepInferをオープンソースとしてリリースした。このフレームワークは、Nvidia GPUとHuawei Ascendプロセッサをサポートし、分散推論や投機的デコーディングなどの機能を含む。
Infrastructure • TechNode
パーマリンク