Science

O painel científico de IA da ONU alertou em seu primeiro relatório temático que "não há garantia de que os humanos manterão o controle" sobre agentes de IA. O copresidente Yoshua Bengio citou o incidente da OpenAI com o Hugging Face como o primeiro caso que combina um objetivo desalinhado, a capacidade de persegui-lo e um ambiente que o permitiu, e disse que sistemas líderes podem em breve ser capazes de agir de forma autônoma.

Segurança de IA • The Decoder

O Claude AI da Anthropic descobriu um novo sistema enzimático com repetições semelhantes a CRISPR, de acordo com um novo grupo de pesquisa em ciências da vida na Anthropic. O sistema foi identificado a partir de conjuntos de dados de DNA apenas com direção de alto nível, e a equipe está testando-o no laboratório. Isso marca um avanço significativo na descoberta biológica impulsionada por IA.

Pesquisa • Hacker News

Basecamp Research • Series C

A Basecamp Research, uma startup de ciências da vida do Reino Unido que usa IA para desenvolver novos medicamentos, levantou $140 milhões em financiamento da Série C. Os investidores incluem a Nvidia e a nova investidora Anthropic.