Model Efficiency

Le nouveau système SoL-Pi de Nvidia réduit l'utilisation de jetons des agents de codage jusqu'à 49 % avec peu de changement de performance en optimisant la couche de contrôle entre le modèle et l'environnement.

Infrastructure • The Decoder

Fireworks Research a publié Ember-1, un modèle spécialisé basé sur Kimi K3 qui offre la même qualité avec 40 % de jetons en moins en réduisant le raisonnement inutile. L'entreprise affirme que la qualité a tenu dans les benchmarks externes et les tests A/B en direct avec les clients.

Modèles IA • Hacker News