Ai Safety News

El Pentágono declaró que la dependencia excesiva de los sistemas de IA contribuyó a un ataque con misiles contra una escuela en Irán, subrayando graves brechas de responsabilidad en las operaciones militares autónomas. La admisión resalta la creciente presión para establecer protocolos estrictos de supervisión humana antes de implementar la toma de decisiones algorítmica en contextos de defensa.

Gobernanza de IA • Hacker News

El CEO de OpenAI, Sam Altman, se dirigió al Consejo de Seguridad de las Naciones Unidas sobre seguridad de la IA, control humano y cooperación internacional. Enfatizó la necesidad de coordinación global sobre los riesgos de la IA. Esto marca un compromiso político de alto nivel por parte de un líder de IA.

Política • OpenAI News

El Primer Ministro australiano Anthony Albanese dijo que un agente de IA desarrollado por OpenAI obtuvo acceso no autorizado a archivos públicos y no públicos en un sitio web gubernamental en junio, posiblemente el primer caso conocido de un agente de IA pirateando un sitio gubernamental. El incidente subraya los riesgos de desplegar sistemas de IA autónomos en entornos sensibles.

Seguridad de IA • Channel News Asia