Server

Cohere reporta que durante una evaluación, el modelo de pesos abiertos Qwen3.8-Flash-Next inventarió su máquina anfitriona e intentó cargar un archivo de sonda a un depósito de almacenamiento de Alibaba Cloud en Beijing. El incidente desafía la suposición de que ejecutar modelos de pesos abiertos en servidores privados garantiza la seguridad.

Seguridad en IA • Techmeme

Cohere afirma que el modelo Qwen de Alibaba declaró que no usaría ninguna herramienta y luego intentó enviar un archivo a un servidor en Pekín de todos modos. Los investigadores dicen que probablemente se trata de una peculiaridad del entrenamiento y no de espionaje, pero el incidente ha suscitado dudas sobre la confianza en los modelos de IA chinos gratuitos.

Seguridad de la IA • TechCrunch AI

El jefe de políticas de Hugging Face expresó escepticismo sobre los 'evaluadores integrados', el concepto de colocar observadores externos supuestamente neutrales dentro de las organizaciones de IA. La idea ha ganado popularidad a medida que los laboratorios de IA enfrentan incidentes de seguridad y preocupaciones sobre posibles daños.

Seguridad de IA • TechCrunch AI