Llm

A indústria de IA tomou um rumo catastrofista, com Dario Amodei, da Anthropic, pedindo um freio no desenvolvimento de LLMs devido a perigos iminentes. O artigo analisa essa mudança e suas implicações para o campo.

Análise • MIT Technology Review

Uma suposta alucinação de IA envolvendo componentes nucleares chineses quase desencadeou uma operação militar dos EUA. Um pesquisador da GovAI disse que é importante que os militares entendam a incerteza inerente aos LLMs, enquanto o uso geral de IA pelos militares parece estar acelerando.

Segurança de IA • Ars Technica

A decodificação especulativa do vLLM em GPUs da AMD pode verificar múltiplos tokens rascunhados em uma única passagem, melhorando a vazão de tokens de saída. Os resultados variam conforme o método de rascunho, a família do modelo e a carga de trabalho.

Infraestrutura • Hacker News