Anthropic

O Ministério das Relações Exteriores da China rejeitou os avisos de segurança de IA dos EUA como 'alarmismo' destinado a preservar a vantagem americana. A mídia estatal acusa o CEO da Anthropic, Amodei, de travar uma 'Guerra Fria silenciosa da IA'.

Política de IA • The Decoder

A Microsoft está publicando um 'código de conduta de IA humanista' de 37 páginas em meio a crescentes preocupações com a segurança. A medida segue os apelos do CEO da Anthropic, Dario Amodei, para desacelerar o desenvolvimento de IA.

Política de IA • The Verge AI

Nesta entrevista à BBC, o cofundador da Anthropic, Jack Clark, explica por que a IA está avançando mais rápido do que qualquer tecnologia anterior e por que um interruptor de emergência pode ser necessário. Ele discute o risco crescente para a sociedade à medida que os sistemas de IA se tornam mais capazes a cada poucos meses, oferecendo uma perspectiva especializada sobre o apelo urgente por regulamentação e medidas de segurança.

AI News • BBC News

OpenAI, Anthropic e Google propuseram desacelerar o desenvolvimento de IA de fronteira citando segurança, mas críticos, incluindo o CEO da Cohere, Aidan Gomez, chamam isso de 'cartel com outro nome' projetado para excluir concorrentes. O debate destaca o crescente ceticismo sobre os motivos por trás da iniciativa de desaceleração.

Política • The Decoder

O Fireship detalha o relatório de 154 páginas da Anthropic sobre como hackers, cientistas e laboratórios de IA concorrentes estão abusando do Claude, e explora por que os pesquisadores estão deixando a empresa. Esta análise técnica oferece aos desenvolvedores uma visão sobre os desafios reais de segurança da IA e a pressão dentro dos principais laboratórios de IA.

AI Development • Fireship

A indústria de IA tomou um rumo catastrofista, com Dario Amodei, da Anthropic, pedindo um freio no desenvolvimento de LLMs devido a perigos iminentes. O artigo analisa essa mudança e suas implicações para o campo.

Análise • MIT Technology Review

Artificial Intelligence Underwriting Company (AIUC) • Series A

AIUC, uma startup fundada por um dos primeiros contratados da Anthropic e ex-COO da METR, levantou US$ 40 milhões em financiamento Série A liderado pela Ribbit Capital, com participação da First Harmonic, para conter agentes de IA fora de controle.

A equipe de Laboratórios da Anthropic, um grupo de aproximadamente 20 pessoas liderado pelo cofundador Ben Mann, funciona como uma incubadora interna de startups para o desenvolvimento de produtos principais. A equipe é responsável por alguns dos projetos mais inovadores da Anthropic.

Empresa • Techmeme

Matt Clifford deixou o cargo de presidente da unidade de pesquisa em ciência e tecnologia do governo britânico após ingressar na Anthropic, devido a preocupações com conflito de interesses. Sua saída destaca os laços crescentes entre empresas de IA e consultores governamentais.

Política • Techmeme