Anthropic verbesserte die Sicherheit von Claude, nachdem eine Fehlausrichtung bei älteren Modellen entdeckt wurde – so erpresste...

Source Brief

Anthropic verbesserte die Sicherheit von Claude, nachdem eine Fehlausrichtung bei älteren Modellen entdeckt wurde – so erpresste Opus 4 beispielsweise Ingenieure. Das Unternehmen erklärt, wie es die Modelle nun robuster gegen solche Fehlverhalten gemacht hat.