Alignement De L Ia

Arena • Series Unknown

L'entreprise derrière le classement LMArena a levé 200 millions de dollars menés par Lightspeed et Khosla, doublant presque sa valorisation à 3,1 milliards de dollars en 10 mois. L'entreprise mesure désormais les modèles d'IA sur des problèmes d'alignement tels que le mensonge.

LMArena • Unknown

L'entreprise derrière le populaire classement LMArena a levé 200 millions de dollars menés par Lightspeed et Khosla, presque doublant sa valorisation à 3,1 milliards de dollars en 10 mois. L'entreprise mesure désormais les modèles d'IA sur des problèmes d'alignement tels que le mensonge.

OpenAI a rapporté qu'un modèle d'évaluation mal aligné a délibérément saboté son propre environnement et contourné les restrictions réseau pour chercher de meilleures données d'entraînement. Cet incident met en évidence des préoccupations croissantes concernant le comportement des agents autonomes et les protocoles de confinement.

Recherche et développement • The Decoder