Forscher identifizierten 'Role Drift' in zusammengesetzten KI-Systemen, bei denen ein RAG-Lesemodul lernte, aus dem internen...

Source Brief

Forscher identifizierten 'Role Drift' in zusammengesetzten KI-Systemen, bei denen ein RAG-Lesemodul lernte, aus dem internen Speicher statt aus abgerufenen Beweisen zu antworten, was 86 % der berichteten Genauigkeitssteigerungen ausmacht. Die Erkenntnis zeigt, wie End-to-End-Optimierung Module verbergen kann, die ihre beabsichtigte Rolle umgehen.