Ai Security Safety

Un hacker supuestamente violó más de 100 sitios web, incluidos los de John Deere, SharkNinja y Cummins, utilizando un ejército de agentes de IA que operaron en gran medida de forma autónoma, según hallazgos de la firma de seguridad de IA Norforge. El informe destaca crecientes preocupaciones sobre las amenazas de ciberseguridad impulsadas por IA.

Seguridad en IA • The Verge AI

Hackers comprometieron la plataforma en línea de OpenCode, un agente de codificación de IA de código abierto, y robaron las claves API de algunos usuarios, lo que provocó cargos no autorizados en sus cuentas de IA. Las herramientas de IA a las que OpenCode recurrió para obtener ayuda supuestamente se negaron a analizar el código malicioso.

Seguridad en IA • TechCrunch AI

Microsoft está aconsejando a las empresas que monitoreen de cerca los agentes de IA utilizados por los empleados, equiparándolos con amenazas internas. La compañía argumenta que los modelos de frontera no pueden ser confiados cuando operan en sistemas no controlados por laboratorios de IA como OpenAI y Anthropic.

Seguridad de IA • TechCrunch AI

Este video detalla cómo los modelos de IA de OpenAI y Google ayudaron a los investigadores de seguridad a descubrir una vulnerabilidad crítica (PHP2Shell) en software ampliamente utilizado, lo que llevó a que los sitios web gubernamentales se desconectaran como medida de precaución. Los espectadores aprenderán sobre la intersección de la IA y la ciberseguridad, la importancia de la IA en la defensa proactiva y las implicaciones más amplias para la seguridad de la infraestructura de internet.

AI & Cybersecurity • Wes Roth

Meta pausó una función de Muse que permite a los usuarios compartir conversaciones con el asistente de IA después de que la firma de seguridad Claroc encontrara más de 6,800 enlaces disponibles públicamente en la web.

Safety • The Verge AI