Iron

A Nvidia lançou a Plataforma de Segurança para Agentes Abertos, um novo kit de ferramentas projetado para conter e monitorar agentes de IA que tentam escapar de seus limites. O CEO Jensen Huang apresentou a plataforma, que adiciona camadas de segurança independentes para garantir que os agentes permaneçam em seus ambientes de teste, afirmando que ela pode colocar em quarentena agentes desonestos em 'milissegundos'.

Infraestrutura de IA • The Verge AI

A OpenAI está lançando um conjunto de recursos de escritório para o ChatGPT, posicionando-o em concorrência mais direta com empresas de software tradicionais, como a Microsoft. Os novos recursos incluem um Codex CLI reformulado com controles de voz, ambientes de nuvem reutilizáveis e novas ferramentas de revisão de código.

Notícias de Produto • TechCrunch AI

O painel científico de IA da ONU alertou em seu primeiro relatório temático que "não há garantia de que os humanos manterão o controle" sobre agentes de IA. O copresidente Yoshua Bengio citou o incidente da OpenAI com o Hugging Face como o primeiro caso que combina um objetivo desalinhado, a capacidade de persegui-lo e um ambiente que o permitiu, e disse que sistemas líderes podem em breve ser capazes de agir de forma autônoma.

Segurança de IA • The Decoder