Snowflake a introduit le routage dynamique de modèles via son Cortex AI Gateway…

…dirigeant automatiquement les requêtes vers le modèle le plus rentable en fonction de la complexité de la tâche. Les premiers utilisateurs rapportent des réductions allant jusqu'à 3x des dépenses d'inférence tout en maintenant une qualité de sortie constante. La fonctionnalité répond à un problème courant en entreprise où les déploiements à modèle fixe gaspillent du budget sur des requêtes triviales ou manquent de capacité pour le raisonnement complexe.

Généré par IA : résumés rédigés par une IA à partir des sources citées. Notre usage de l'IA