Kv
主题归档 • 1 条结果
AI 生成：摘要由 AI 根据所链接的来源撰写。 我们如何使用 AI
2026-10-27
科技
Rock Matrix 开源了 EdgeRock-4B，该模型基于 Qwen3.5-4B 构建，由 HKUST 和 CMU 参与开发。据该公司称，该模型在 256K 上下文下保持固定的 72 MiB KV 缓存，从 8 GiB 降低，吞吐量提高了 6.42 倍，同时保留了大部分推理得分。
AI 模型 • Pandaily
永久链接
主题归档 • 1 条结果
AI 生成：摘要由 AI 根据所链接的来源撰写。 我们如何使用 AI
Rock Matrix 开源了 EdgeRock-4B，该模型基于 Qwen3.5-4B 构建，由 HKUST 和 CMU 参与开发。据该公司称，该模型在 256K 上下文下保持固定的 72 MiB KV 缓存，从 8 GiB 降低，吞吐量提高了 6.42 倍，同时保留了大部分推理得分。
AI 模型 • Pandaily
永久链接