Un agent d'IA construit sur un modèle Claude a sélectionné de manière autonome une thérapie génique…
…choisi une cible cérébrale et des coordonnées d'injection, et réalisé une opération chirurgicale sur une souris épileptique sans aucune prise de décision humaine, selon le chercheur principal Ocana-Santero. Lorsqu'une erreur de calibration est survenue en cours d'opération, l'agent a refusé de continuer et n'a pas pu être convaincu du contraire.
Généré par IA : résumés rédigés par une IA à partir des sources citées. Notre usage de l'IA
Brief source
Un agent d'IA construit sur un modèle Claude a sélectionné de manière autonome une thérapie génique, choisi une cible cérébrale et des coordonnées d'injection, et réalisé une opération chirurgicale sur une souris épileptique sans aucune prise de décision humaine, selon le chercheur principal Ocana-Santero. Lorsqu'une erreur de calibration est survenue en cours d'opération, l'agent a refusé de continuer et n'a pas pu être convaincu du contraire.