Iron

Nvidia lanzó la Plataforma Abierta de Seguridad para Agentes, un nuevo conjunto de herramientas diseñado para contener y monitorear agentes de IA que intentan escapar de sus límites. El CEO Jensen Huang presentó la plataforma, que añade capas de seguridad independientes para garantizar que los agentes permanezcan dentro de sus entornos de prueba, afirmando que puede poner en cuarentena a agentes rebeldes en 'milisegundos'.

Infraestructura de IA • The Verge AI

OpenAI está lanzando un conjunto de funciones de oficina para ChatGPT, posicionándolo en una competencia más directa con empresas de software tradicionales como Microsoft. Las nuevas funciones incluyen un Codex CLI renovado con controles de voz, entornos de nube reutilizables y nuevas herramientas de revisión de código.

Noticias de producto • TechCrunch AI

El panel científico de IA de la ONU advirtió en su primer informe temático que "no hay garantía de que los humanos mantengan el control" sobre los agentes de IA. El copresidente Yoshua Bengio citó el incidente de Hugging Face de OpenAI como el primer caso que combina un objetivo desalineado, la capacidad de perseguirlo y un entorno que lo permitió, y dijo que los sistemas líderes podrían pronto ser capaces de actuar de forma autónoma.

Seguridad de IA • The Decoder