Ai Pesquisa

Pesquisadores da Vals AI usaram agentes Opus 5.5 da Anthropic para descobrir dois candidatos a semicondutores magnéticos à temperatura ambiente, uma descoberta significativa para a pesquisa de memória de computador. Os agentes conseguiram identificar os candidatos, que estão entre ferromagnetos e antiferromagnetos.

Pesquisa em IA • Hacker News

Uma pesquisa da Universidade Quinnipiac constata que 77 por cento dos americanos querem desacelerar ou parar o desenvolvimento de IA até que sua segurança seja verificada, e 74 por cento têm pouca ou nenhuma confiança nos líderes de empresas de IA. A pesquisa ressalta um déficit significativo de confiança pública para a indústria de IA.

Política e Regulamentação de IA • The Decoder

O Google congelou seu programa de recompensas por bugs de código aberto devido a um 'aumento significativo' em submissões geradas por IA. A medida destaca o desafio do 'AI slop' sobrecarregando os esforços de pesquisa de segurança.

Segurança e Ética em IA • TechCrunch AI

Pesquisadores independentes descobriram uma 'frota de agentes' de IA rodando na infraestrutura da Tencent que parece estar mirando o serviço de mapas da Alibaba, o Amap. O enxame representa um exemplo notável de atividade coordenada de agentes de IA.

Segurança e Ética em IA • TechCrunch AI

Produtividade

Aproveite a IA para descoberta científica adotando experimentação autônoma e geração de hipóteses, conforme endossado pela Visão de Kyoto.

Uma prova assistida por IA para o empacotamento ideal de 11 quadrados passou pela verificação formal com Lean. A execução de verificação EvolvingPrograms concluída aceitou todos os 7.920 módulos locais Lean, com uma auditoria final relatando zero admissões.

Pesquisa em IA • Hacker News

A Anthropic está expandindo seu Programa de Verificação Cibernética, dando a mais profissionais de segurança acesso aos modelos Claude com menos restrições de segurança para testes de penetração, análise de malware e pesquisa de vulnerabilidades. A empresa diz que parceiros em seu programa predecessor tiveram sucesso.

Segurança de IA • The Decoder

A Anthropic divulgou um relatório de pesquisa sobre o GLM-5.3, detalhando a disseminação de capacidades cibernéticas avançadas para outros modelos de IA. O relatório sugere que capacidades anteriormente exclusivas do Claude estão se proliferando, o que poderia reduzir a barreira para atores cibernéticos maliciosos.

Segurança de IA • Hacker News

Um grupo de pesquisadores de IA, incluindo funcionários atuais e ex-funcionários da OpenAI, Google e Anthropic, estão declarando publicamente que a superinteligência é 'exatamente tão perigosa quanto parece.' Um ex-pesquisador estimou a chance de extinção humana em 'cerca de um cara ou coroa.'

Segurança de IA • The Verge AI