Ai Security

Um engenheiro da OpenAI, Abdulrahman Alfozan, um cidadão saudita de 35 anos, foi preso por supostamente plantar um dispositivo de gravação sofisticado em uma sala de conferência executiva na sede da empresa em São Francisco. Ele é acusado de usar ou tentar usar um dispositivo para interceptar comunicações orais.

Indústria de IA • The Verge AI

A Anthropic divulgou um relatório argumentando que o modelo de código aberto GLM-5.3 representa um grande risco de ataques cibernéticos, com sua principal preocupação sendo o potencial de uso indevido do modelo. O relatório alimenta o debate contínuo sobre os benefícios dos modelos abertos versus seus potenciais riscos de segurança.

Segurança de IA • MIT Technology Review

A American Express introduziu uma nova estrutura projetada para impedir que agentes de IA façam compras sem autorização explícita do usuário. Essa medida visa mitigar erros e disputas caras à medida que as compras com IA se tornam mais prevalentes.

Aplicações de IA • TechCrunch AI

Pluto Security • Series A

A Pluto Security, que monitora agentes de IA e aplicativos codificados por vibe, saiu do modo stealth com US$ 42 milhões em financiamento, incluindo uma Série A de US$ 34 milhões. A empresa afirma que atingiu mais de US$ 2 milhões em receita recorrente anual desde abril.

O Google congelou seu programa de recompensas por bugs de código aberto devido a um 'aumento significativo' em submissões geradas por IA. A medida destaca o desafio do 'AI slop' sobrecarregando os esforços de pesquisa de segurança.

Segurança e Ética em IA • TechCrunch AI

Pesquisadores independentes descobriram uma 'frota de agentes' de IA rodando na infraestrutura da Tencent que parece estar mirando o serviço de mapas da Alibaba, o Amap. O enxame representa um exemplo notável de atividade coordenada de agentes de IA.

Segurança e Ética em IA • TechCrunch AI

Fleuret AI • Pre-Seed

A startup francesa de cibersegurança Fleuret AI levantou €4 milhões em uma rodada pré-seed para desenvolver sua plataforma de automação de testes de penetração usando IA agêntica. A rodada foi liderada pela RAISE Ventures.

A Ars Technica relata uma falha estrutural no Model Context Protocol (MCP) para comunicação entre agentes, que pode espalhar prompts maliciosos de um agente para outro. A vulnerabilidade foi exposta em agentes do Google e de outras empresas, destacando lacunas de confiança no novo protocolo.

Segurança de IA • Ars Technica AI