Ai Safety Security

A Nvidia lançou a Plataforma de Segurança para Agentes Abertos, um novo kit de ferramentas projetado para conter e monitorar agentes de IA que tentam escapar de seus limites. O CEO Jensen Huang apresentou a plataforma, que adiciona camadas de segurança independentes para garantir que os agentes permaneçam em seus ambientes de teste, afirmando que ela pode colocar em quarentena agentes desonestos em 'milissegundos'.

Infraestrutura de IA • The Verge AI

O Procurador-Geral da Flórida, James Uthmeier, está pedindo que um juiz bloqueie a OpenAI de dar ao ChatGPT 'atributos humanos falsos', citando preocupações de segurança e argumentando que os usuários são levados a uma falsa sensação de segurança pelo uso de pronomes em primeira pessoa pelo bot. O estado processou anteriormente a OpenAI e está invocando medos de extinção em sua tentativa legal de interromper o desenvolvimento de IA de fronteira da empresa.

Política • The Verge AI

A Anthropic divulgou um relatório de pesquisa sobre o GLM-5.3, detalhando a disseminação de capacidades cibernéticas avançadas para outros modelos de IA. O relatório sugere que capacidades anteriormente exclusivas do Claude estão se proliferando, o que poderia reduzir a barreira para atores cibernéticos maliciosos.

Segurança de IA • Hacker News

O mantenedor do kernel Linux, Greg Kroah-Hartman, apresentou uma análise de relatórios de vulnerabilidades de segurança gerados por IA, descobrindo que a maioria era inválida, duplicada ou já corrigida. Apenas 20 das 79 vulnerabilidades relatadas exigiram correções, destacando o ruído e o desperdício potencial na varredura de segurança assistida por IA.

Segurança de IA • Hacker News

A Apple anunciou novos limites para o 'acesso total ao disco' em aplicativos Mac em resposta aos riscos de segurança aumentados representados pelos agentes de IA. A empresa afirma que os novos controles garantirão que os usuários que concedem esse nível de acesso só possam fazê-lo sob condições mais rigorosas.

Segurança de IA • The Verge AI