Unsloth a publié la quantification Dynamic v3.0…

…offrant plus de 10 % de précision top-1 % supérieure à taille équivalente par rapport aux concurrents. Les nouveaux formats GGUF préservent la fidélité du modèle sur la plupart des moteurs d'inférence, dont llama.cpp et Unsloth Desktop, améliorant l'efficacité pour les déploiements locaux.

Généré par IA : résumés rédigés par une IA à partir des sources citées. Notre usage de l'IA