Model Efficiency

Nvidia 的新 SoL-Pi 系统通过优化模型与环境之间的控制层，将编码代理的令牌使用量减少了高达 49%，而性能几乎没有变化。

基础设施 • The Decoder

Fireworks Research 发布了 Ember-1，这是一个基于 Kimi K3 构建的专用模型，通过减少不必要的推理，以少 40% 的令牌实现了相同的质量。该公司表示，在外部基准测试和客户实时 A/B 测试中，质量保持稳定。

AI 模型 • Hacker News