Uma nova abordagem arquitetural demonstra que filtrar consultas ambíguas antes que cheguem ao modelo de linguagem pode reduzir em...

Brief da fonte

Uma nova abordagem arquitetural demonstra que filtrar consultas ambíguas antes que cheguem ao modelo de linguagem pode reduzir em até seis vezes os custos de inferência da Geração Aumentada por Recuperação. Roteirizar tráfego não essencial por classificadores leves evita chamadas caras de LLM, mantendo a prontidão para auditoria em setores regulamentados.