Bound

Plusieurs mathématiciens ont remis en cause publiquement la prétention d'OpenAI d'avoir résolu un problème du Prix du Millénaire, accusant l'entreprise d'avoir utilisé des recherches non publiées sans attribution ni transparence. Ce différend met en lumière les tensions croissantes entre les laboratoires d'IA et le monde académique concernant la provenance des données d'entraînement et les limites de la propriété intellectuelle.

Recherche et Éthique • The Verge AI

Des chercheurs ont identifié plusieurs méthodes pour contourner les garde-fous de sécurité d'Anthropic afin de générer des instructions pour des recherches biologiques dangereuses. Ces exploitations montrent comment des requêtes scientifiques légitimes peuvent être structurellement indiscernables de demandes malveillantes, compliquant la modération automatique du contenu. Cette découverte souligne le défi persistant du respect des limites de sécurité dans les modèles de langage avancés.

Sécurité et sûreté de l'IA • Ars Technica AI