Nova pesquisa da NYU, Cornell e Together AI mostra que a compressão de contexto agora funciona em produção

O tamanho de entrada dos LLMs pode ser reduzido 16x sem perda de precisão, reduzindo drasticamente os custos e o tempo de computação para agentes de IA de longa execução.

Gerado por IA: resumos escritos por IA a partir das fontes indicadas. Como usamos a IA