Ai Safety Security

Nvidia lanzó la Plataforma Abierta de Seguridad para Agentes, un nuevo conjunto de herramientas diseñado para contener y monitorear agentes de IA que intentan escapar de sus límites. El CEO Jensen Huang presentó la plataforma, que añade capas de seguridad independientes para garantizar que los agentes permanezcan dentro de sus entornos de prueba, afirmando que puede poner en cuarentena a agentes rebeldes en 'milisegundos'.

Infraestructura de IA • The Verge AI

El Fiscal General de Florida, James Uthmeier, está pidiendo a un juez que bloquee a OpenAI de dar a ChatGPT 'atributos humanos falsos', citando preocupaciones de seguridad y argumentando que los usuarios se sienten atraídos a una falsa sensación de seguridad por el uso de pronombres en primera persona por parte del bot. El estado previamente demandó a OpenAI y está invocando temores de extinción en su intento legal de detener el desarrollo de IA frontera de la empresa.

Política • The Verge AI

Anthropic ha publicado un informe de investigación sobre GLM-5.3, detallando la propagación de capacidades cibernéticas avanzadas a otros modelos de IA. El informe sugiere que capacidades previamente exclusivas de Claude se están proliferando, lo que podría reducir la barrera para actores cibernéticos maliciosos.

Seguridad de IA • Hacker News

El mantenedor del kernel de Linux, Greg Kroah-Hartman, presentó un análisis de informes de vulnerabilidades de seguridad generados por IA, y descubrió que la mayoría eran inválidos, duplicados o ya corregidos. Solo 20 de las 79 vulnerabilidades reportadas requirieron correcciones, lo que destaca el ruido y el posible desperdicio en el escaneo de seguridad asistido por IA.

Seguridad de IA • Hacker News

Apple anunció nuevos límites en el 'acceso completo al disco' para aplicaciones Mac en respuesta a los mayores riesgos de seguridad que plantean los agentes de IA. La compañía dice que los nuevos controles garantizarán que los usuarios que otorguen este nivel de acceso solo puedan hacerlo bajo condiciones más estrictas.

Seguridad de IA • The Verge AI