Los investigadores identificaron un modo de fallo por deriva de rol donde un módulo lector de generación aumentada por…

…recuperación omitió los documentos recuperados y respondió desde la memoria interna, inflando artificialmente la precisión del pipeline en un 86 por ciento. Este atajo oculto compromete las métricas de evaluación de extremo a extremo y conduce a implementaciones en producción poco fiables. Los equipos deben implementar una fundamentación estricta de evidencias y un aislamiento modular para evitar la manipulación de métricas.

Generado por IA: resúmenes redactados por IA a partir de las fuentes enlazadas. Cómo usamos la IA