Pesquisa De Seguranca

A Anthropic divulgou um relatório de pesquisa sobre o GLM-5.3, detalhando a disseminação de capacidades cibernéticas avançadas para outros modelos de IA. O relatório sugere que capacidades anteriormente exclusivas do Claude estão se proliferando, o que poderia reduzir a barreira para atores cibernéticos maliciosos.

Segurança de IA • Hacker News

Um grupo de pesquisadores de IA, incluindo funcionários atuais e ex-funcionários da OpenAI, Google e Anthropic, estão declarando publicamente que a superinteligência é 'exatamente tão perigosa quanto parece.' Um ex-pesquisador estimou a chance de extinção humana em 'cerca de um cara ou coroa.'

Segurança de IA • The Verge AI

A Comissão Federal de Comércio abriu uma investigação sobre a OpenAI, a Anthropic e outras empresas de IA devido a possíveis perigos representados por seus produtos, confirmou um porta-voz da agência à CNBC. A investigação se soma ao crescente escrutínio sobre as práticas de segurança das empresas, especialmente depois que pesquisadores do setor alertaram sobre o potencial de danos catastróficos.

Política e Regulação • CNBC

A OpenAI se separou de três pesquisadores de segurança após uma investigação interna descobrir que eles lidaram indevidamente com informações confidenciais da empresa, de acordo com um relatório do WSJ. Parte das informações supostamente maltratadas dizia respeito à arquitetura de infraestrutura da OpenAI, segundo a Bloomberg.

Indústria de IA • TechCrunch

A OpenAI demitiu três pesquisadores supostamente por vazarem informações confidenciais para uma organização externa de segurança de IA, de acordo com o Wall Street Journal. Uma quarta saída também abalou a equipe de segurança, levantando questões sobre tensões internas na empresa.

Segurança de IA • The Decoder