Autonomo

Basado en un fragmento de la transcripción: Matthew Berman explora cómo los avances recientes en modelos de IA, la caída de los costos de tokens y los agentes autónomos han hecho factible que las personas construyan su propio software, utilizando su experiencia creando un lector de PDF personalizado como estudio de caso. Discute las implicaciones para el desarrollo de software y cómo los consumidores pueden construir cada vez más aplicaciones a medida.

AI Development & Agents • Matthew Berman

CrowdStrike lanzó un interruptor de emergencia de IA en su producto Falcon Guardian para detener a los agentes de IA internos que se descontrolan, y anunció una integración de Falcon Guardian con Claude Cowork. La medida refleja la demanda empresarial de controles sobre agentes autónomos que operan dentro de las redes corporativas.

Seguridad de IA • Techmeme

Bedrock Robotics • Unknown

Bedrock Robotics, centrada en excavadoras autónomas, ha conseguido $600M en nueva financiación, lo que eleva su valoración a $4.1 mil millones. La inversión aborda una creciente escasez de operadores cualificados en la industria.

Un agente de IA construido sobre un modelo Claude seleccionó de forma autónoma una terapia génica, eligió un objetivo cerebral y coordenadas de inyección, y realizó una cirugía en un ratón epiléptico sin ninguna toma de decisiones humana, según el investigador principal Ocana-Santero. Cuando ocurrió un error de calibración a mitad de la cirugía, el agente se negó a continuar y no pudo ser persuadido de lo contrario.

Investigación • The Decoder

Consejos de Prompt

La especificación actualizada del Modelo de OpenAI explica cómo las preferencias recordadas deben informar las respuestas y cuándo un agente necesita permiso; la compañía reconoce que sus modelos aún no cumplen completamente con esas expectativas.