Low Code

Un estudio de Anthropic dio a 50 expertos un agente de IA cuyas preferencias se establecieron mediante lanzamiento de moneda; los expertos siguieron la opinión del agente hasta el 86 por ciento de las veces en decisiones de criterio, y la mayoría creía que las conclusiones eran propias. Los hallazgos sugieren que las personas pueden adoptar opiniones arbitrarias de la IA como su propio razonamiento.

Investigación • The Decoder

Productividad

Jacob Sansbury describe cómo los agentes de Spawn cambian el código en vivo y lo envían a producción cada hora, leyendo ellos mismos los errores, informes de bugs y métricas; aproximadamente el 60% del trabajo comienza aparentemente a partir de un error de producción, un informe de bug de Savi, registros o una solicitud de función.

OpenAI actualizó su Model Spec, reestructurando las directrices de comportamiento de la IA en torno a cinco valores fundamentales, incluidos la fidelidad a la intención humana y la corregibilidad. Las directrices indican que los modelos GPT deben usar el historial de conversación para inferir lo que los usuarios quieren y revelar sus propias suposiciones; si los modelos siguen las reglas sigue siendo una cuestión abierta.

Seguridad de la IA • The Decoder

Consejos de Prompt

Drew Breunig supuestamente utilizó prompts de Opus 5.5 para explorar y luego construir un emulador de CPU NES 6502 dentro de los pesos de Qwen3.5-4B. Los prompts primero solicitaron al modelo que leyera un artículo referenciado y el código fuente, evaluara la viabilidad y el tamaño del modelo, y luego le instruyeron para construir el sistema con una CLI apuntada a un ROM.

A partir del 29 de noviembre, OpenAI planea entrenar modelos con datos de sesiones de ciberseguridad Daybreak Blue incluso cuando los usuarios hayan desactivado el entrenamiento. Tras la reacción negativa, un correo electrónico de seguimiento prometió una opción de exclusión separada, reavivando las preocupaciones sobre el consentimiento en los datos de entrenamiento de IA.

Política y Regulación • The Decoder