De nouvelles recherches de l'NYU…

…de Cornell et de Together AI montrent que la compression de contexte fonctionne désormais en production : la taille d'entrée des LLM peut être réduite de 16x sans perte de précision, réduisant considérablement les coûts et le temps de calcul pour les agents IA de longue durée.

Généré par IA : résumés rédigés par une IA à partir des sources citées. Notre usage de l'IA