Gpus

A Meta detalhou o Prometheus, seu supercluster em escala de gigawatt em Ohio, que abrigará aproximadamente 1 milhão de GPUs em escala total. O supercluster foi usado para treinar os modelos fundamentais Muse da Meta.

Infraestrutura • Techmeme

A DeepSeek lançou o DeepInfer, o framework de inferência por trás de seus serviços de modelos em larga escala, como código aberto. O framework suporta GPUs Nvidia e processadores Huawei Ascend e inclui capacidades como inferência distribuída e decodificação especulativa.

Infraestrutura • TechNode

O Google se juntou à Amazon no lançamento de uma ferramenta para desenvolvedores que facilita para usuários do PyTorch moverem seus aplicativos para fora das GPUs Nvidia, desafiando o domínio da Nvidia no desenvolvimento de IA.

Infraestrutura • TechCrunch AI

A Microsoft está anunciando seu chip de IA interno Maia de terceira geração, projetado para ser o 'sistema primário de inferência de IA' para seus produtos e serviços. O Maia 300 visa melhorar o custo e a eficiência para executar cargas de trabalho de IA, reduzindo a dependência das GPUs da Nvidia.

Infraestrutura • The Verge AI