Nuevas investigaciones de NYU, Cornell y Together AI muestran que la compresión de contexto ahora funciona en producción

El tamaño de entrada de los LLM puede reducirse 16x sin pérdida de precisión, reduciendo drásticamente los costos y el tiempo de cómputo para agentes de IA de larga duración.

Generado por IA: resúmenes redactados por IA a partir de las fuentes enlazadas. Cómo usamos la IA