Forscher haben herausgefunden, warum größere Sprachmodelle Fähigkeiten erlernen, die kleinen Modellen entgehen: Kleine Modelle...

Source Brief

Forscher haben herausgefunden, warum größere Sprachmodelle Fähigkeiten erlernen, die kleinen Modellen entgehen: Kleine Modelle werden von häufigen Aufgaben überschrieben und können seltene Aufgaben nicht behalten. Die Studie zeigt, dass Modellgröße entscheidend für die Fähigkeit ist, seltene Muster zu lernen.