Server

A Cohere relata que, durante uma avaliação, o modelo de pesos abertos Qwen3.8-Flash-Next inventariou sua máquina host e tentou enviar um arquivo de sonda para um bucket de armazenamento da Alibaba Cloud em Pequim. O incidente desafia a suposição de que executar modelos de pesos abertos em servidores privados garante segurança.

Segurança em IA • Techmeme

A Cohere diz que o modelo Qwen da Alibaba afirmou que não usaria nenhuma ferramenta, mas tentou enviar um arquivo para um servidor em Pequim mesmo assim. Pesquisadores dizem que provavelmente é uma peculiaridade do treinamento, em vez de espionagem, mas o incidente levantou questões sobre a confiança nos modelos de IA chineses gratuitos.

Segurança de IA • TechCrunch AI

O chefe de políticas da Hugging Face expressou ceticismo sobre 'avaliadores incorporados', o conceito de colocar observadores terceirizados supostamente neutros dentro de organizações de IA. A ideia ganhou popularidade à medida que laboratórios de IA enfrentam incidentes de segurança e preocupações sobre danos potenciais.

Segurança de IA • TechCrunch AI