Safety Research

Anthropic ha publicado un informe de investigación sobre GLM-5.3, detallando la propagación de capacidades cibernéticas avanzadas a otros modelos de IA. El informe sugiere que capacidades previamente exclusivas de Claude se están proliferando, lo que podría reducir la barrera para actores cibernéticos maliciosos.

Seguridad de IA • Hacker News

Un grupo de investigadores de IA, incluidos empleados actuales y anteriores de OpenAI, Google y Anthropic, están declarando públicamente que la superinteligencia es 'exactamente tan peligrosa como suena'. Un ex investigador estimó la probabilidad de extinción humana en 'aproximadamente un volado'.

Seguridad de IA • The Verge AI

La Comisión Federal de Comercio ha abierto una investigación sobre OpenAI, Anthropic y otras empresas de IA por los peligros potenciales que representan sus productos, confirmó un portavoz de la agencia a CNBC. La investigación se suma al creciente escrutinio sobre las prácticas de seguridad de las empresas, especialmente después de que investigadores de la industria advirtieran sobre el potencial de daño catastrófico.

Política y Regulación • CNBC

OpenAI se ha separado de tres investigadores de seguridad después de que una investigación interna encontrara que manejaron mal información sensible de la empresa, según un informe de WSJ. Parte de la información supuestamente mal manejada se refería a la arquitectura de infraestructura de OpenAI, según Bloomberg.

Industria de IA • TechCrunch

OpenAI ha despedido a tres investigadores supuestamente por filtrar información confidencial a una organización externa de seguridad de IA, según el Wall Street Journal. Una cuarta salida también sacudió al equipo de seguridad, lo que plantea preguntas sobre las tensiones internas en la empresa.

Seguridad de IA • The Decoder