Autonomo

Basé sur un extrait de transcription : Matthew Berman explore comment les récents progrès des modèles d'IA, la baisse du coût des tokens et les agents autonomes ont rendu possible pour les individus de créer leurs propres logiciels, en prenant comme étude de cas son expérience de création d'un lecteur PDF personnalisé. Il aborde les implications pour le développement logiciel et la manière dont les consommateurs pourraient de plus en plus construire des applications sur mesure.

AI Development & Agents • Matthew Berman

CrowdStrike a lancé un interrupteur d'urgence IA dans son produit Falcon Guardian pour arrêter les agents IA internes qui se comportent de manière erratique, et a annoncé une intégration de Falcon Guardian avec Claude Cowork. Cette démarche reflète la demande des entreprises pour des contrôles sur les agents autonomes opérant au sein des réseaux corporatifs.

Sécurité IA • Techmeme

Bedrock Robotics • Unknown

Bedrock Robotics, spécialisée dans les excavatrices autonomes, a obtenu 600 millions de dollars de nouveaux financements, portant sa valorisation à 4,1 milliards de dollars. L'investissement répond à une pénurie croissante d'opérateurs qualifiés dans le secteur.

Un agent d'IA construit sur un modèle Claude a sélectionné de manière autonome une thérapie génique, choisi une cible cérébrale et des coordonnées d'injection, et réalisé une opération chirurgicale sur une souris épileptique sans aucune prise de décision humaine, selon le chercheur principal Ocana-Santero. Lorsqu'une erreur de calibration est survenue en cours d'opération, l'agent a refusé de continuer et n'a pas pu être convaincu du contraire.

Recherche • The Decoder

Conseils sur les invites

La spécification de modèle mise à jour d'OpenAI explique comment les préférences mémorisées doivent informer les réponses et quand un agent a besoin d'une autorisation ; l'entreprise reconnaît que ses modèles ne répondent pas encore pleinement à ces attentes.