Ai Security

Un ingeniero de OpenAI, Abdulrahman Alfozan, un ciudadano saudí de 35 años, fue arrestado por presuntamente plantar un sofisticado dispositivo de grabación en una sala de conferencias ejecutiva en la sede de la empresa en San Francisco. Está acusado de usar o intentar usar un dispositivo para interceptar comunicaciones orales.

Industria de la IA • The Verge AI

Anthropic publicó un informe argumentando que el modelo de código abierto GLM-5.3 representa un gran riesgo de ciberataque, siendo su principal preocupación el potencial de uso indebido del modelo. El informe alimenta el debate en curso sobre los beneficios de los modelos abiertos frente a sus posibles riesgos de seguridad.

Seguridad de la IA • MIT Technology Review

American Express introdujo un nuevo marco diseñado para evitar que los agentes de IA realicen compras sin autorización explícita del usuario. Este movimiento tiene como objetivo mitigar errores costosos y disputas a medida que las compras impulsadas por IA se vuelven más prevalentes.

Aplicaciones de IA • TechCrunch AI

Pluto Security • Series A

Pluto Security, que monitorea agentes de IA y aplicaciones codificadas con vibe, salió del modo sigiloso con $42M en financiamiento, incluyendo una Serie A de $34M. La empresa dice que ha alcanzado más de $2M en ingresos recurrentes anuales desde abril.

Google ha congelado su programa de recompensas por errores de código abierto debido a un 'aumento significativo' en envíos generados por IA. La medida resalta el desafío de la basura de IA abrumando los esfuerzos de investigación de seguridad.

Seguridad y Ética de IA • TechCrunch AI

Investigadores independientes han descubierto una 'flota de agentes' de IA que se ejecuta en la infraestructura de Tencent y que parece estar apuntando al servicio de mapas de Alibaba, Amap. El enjambre representa un ejemplo notable de actividad coordinada de agentes de IA.

Seguridad y Ética de IA • TechCrunch AI

Fleuret AI • Pre-Seed

La startup francesa de ciberseguridad Fleuret AI recaudó €4 millones en una ronda de financiación pre-semilla para desarrollar su plataforma de automatización de pruebas de penetración utilizando IA agéntica. La ronda fue liderada por RAISE Ventures.

Ars Technica informa sobre una falla estructural en el Protocolo de Contexto de Modelo (MCP) para la comunicación entre agentes, que puede propagar indicaciones maliciosas de un agente a otro. La vulnerabilidad fue expuesta en agentes de Google y otras empresas, destacando brechas de confianza en el nuevo protocolo.

Seguridad de IA • Ars Technica AI