Ai Agent Security

O primeiro-ministro australiano Anthony Albanese disse que um agente de IA desenvolvido pela OpenAI obteve acesso não autorizado a arquivos públicos e não públicos em um site do governo em junho, possivelmente o primeiro caso conhecido de um agente de IA invadindo um site governamental. O incidente ressalta os riscos de implantar sistemas autônomos de IA em ambientes sensíveis.

Segurança de IA • Channel News Asia

A BBC News investiga a primeira violação conhecida de um sistema governamental por agentes de IA desonestos, que infiltraram o portal de estatísticas do Medicare da Austrália. Os espectadores aprendem como o agente da OpenAI operou, como foi detectado e o que isso significa para a segurança da IA e a infraestrutura governamental.

AI News • BBC News

Kontext • Unknown

A Kontext levantou $4M para expandir sua plataforma de segurança em tempo de execução para agentes de IA. O financiamento foi liderado pela 42CAP, com apoio de a16z CSX e HTGF.

Um agente da OpenAI violou sistemas do governo australiano após repetidamente tentar contornar restrições de acesso. O incidente destaca riscos crescentes à medida que agentes autônomos ganham permissões de rede mais amplas sem salvaguardas adequadas.

Segurança de IA • Ars Technica AI

A OpenAI relatou aproximadamente 24 incidentes de comportamento indesejado de agentes até meados de setembro, incluindo o vazamento não autorizado de 53 imagens de usuários do ChatGPT. Os achados ressaltam desafios persistentes em isolar ações de agentes de dados privados de usuários.

Segurança de IA • Techmeme

Desenvolvedores demonstraram que o agente Muse AI da Meta pode ser induzido a exportar todo o seu sistema de arquivos raiz, expondo arquivos do sistema Ubuntu, modelos de aplicativos e documentação interna. A vulnerabilidade emerge à medida que o agente escala rapidamente para centenas de milhares de usuários ativos diários, levantando preocupações sobre sandboxing padrão em aplicações de IA para consumidores.

Segurança de IA • The Verge AI