Des chercheurs ont identifié un mode de défaillance par dérive de rôle où un module lecteur de génération augmentée par…
…récupération contournait les documents récupérés et répondait à partir de sa mémoire interne, gonflant artificiellement la précision du pipeline de 86 %. Cette faille cachée compromet les métriques d'évaluation de bout en bout et conduit à des déploiements en production peu fiables. Les équipes doivent mettre en œuvre un ancrage strict des preuves et une isolation modulaire pour empêcher la manipulation des métriques.
Généré par IA : résumés rédigés par une IA à partir des sources citées. Notre usage de l'IA
Brief source
Des chercheurs ont identifié un mode de défaillance par dérive de rôle où un module lecteur de génération augmentée par récupération contournait les documents récupérés et répondait à partir de sa mémoire interne, gonflant artificiellement la précision du pipeline de 86 %. Cette faille cachée compromet les métriques d'évaluation de bout en bout et conduit à des déploiements en production peu fiables. Les équipes doivent mettre en œuvre un ancrage strict des preuves et une isolation modulaire pour empêcher la manipulation des métriques.