Unsloth a publié la quantification Dynamic v3.0, offrant une précision top-1% supérieure de plus de 10% à taille équivalente par...

Brief source

Unsloth a publié la quantification Dynamic v3.0, offrant une précision top-1% supérieure de plus de 10% à taille équivalente par rapport aux fournisseurs concurrents. Les nouveaux formats GGUF maintiennent la fidélité du modèle sur la plupart des moteurs d'inférence, notamment llama.cpp et Unsloth Desktop, améliorant l'efficacité pour le déploiement local.