Les chercheurs de Nvidia ont présenté une technique de transfert de cache KV inter-modèles qui mappe les caches clé-valeur entre…

…les modèles, permettant aux systèmes d'IA agente de passer le relais des tâches sans recalculer l'intégralité des conversations. Cette approche réduit les coûts de calcul et la latence dans les flux de travail multi-LLM.

Généré par IA : résumés rédigés par une IA à partir des sources citées. Notre usage de l'IA