Science

Le panel scientifique sur l'IA de l'ONU a averti dans son premier rapport thématique qu'il n'y a "aucune assurance que les humains garderont le contrôle" sur les agents d'IA. Le coprésident Yoshua Bengio a cité l'incident de Hugging Face d'OpenAI comme le premier cas combinant un objectif mal aligné, la capacité de le poursuivre, et un environnement qui le permettait, et a dit que les systèmes de pointe pourraient bientôt être capables d'agir de manière autonome.

Sécurité de l'IA • The Decoder

L'IA Claude d'Anthropic a découvert un nouveau système enzymatique avec des répétitions de type CRISPR, selon un nouveau groupe de recherche en sciences de la vie chez Anthropic. Le système a été identifié à partir de jeux de données ADN avec seulement une direction de haut niveau, et l'équipe le teste en laboratoire. Cela marque une avancée significative dans la découverte biologique pilotée par l'IA.

Recherche • Hacker News

Basecamp Research • Series C

Basecamp Research, une startup britannique de sciences de la vie utilisant l'IA pour développer de nouveaux médicaments, a levé 140 millions de dollars en financement de série C. Les investisseurs incluent Nvidia et le nouvel investisseur Anthropic.

Mustafa Suleyman a mis en garde contre le « bien-être des modèles », soutenant que les IA ne sont pas conscientes, ne ressentent ni ne souffrent, et sont des « moteurs de complétion de séquences, intérieurement creux ». Il affirme qu'un nombre croissant de voix soutient que les IA pourraient être conscientes dès maintenant, ou pourraient bientôt le devenir, et pourraient mériter des droits.

Éthique de l'IA • Mustafa Suleyman