Inferencia
Arquivo temático • 8 resultados
Gerado por IA: resumos escritos por IA a partir das fontes indicadas. Como usamos a IA
2026-11-09
Tecnologia
O Google ampliou seu portfólio de TPUs de oitava geração com o TPU 8tx para inferência segura e confidencial e o TPU 8i Max para janelas de contexto massivas, marcando quatro novos sistemas TPU em um único ano. Os chips são projetados para lidar com cargas de trabalho agênticas complexas com hardware especializado para segurança, densidade e raciocínio.
Infraestrutura • Hacker News
Link permanente
2026-11-13
Tecnologia
A DeepX, sediada na Coreia do Sul, finalizou o projeto (tapeout) do DX-M2, um chip de IA de borda projetado para executar inferência de LLMs de 100 bilhões de parâmetros em robôs e drones com menos de 5 W. A empresa tem como meta o outono de 2027 para a produção em massa, segundo a EE Times.
Hardware • Techmeme
Link permanenteA Edge0 tornou open-source os modelos Edge0-145B e Edge0-120B, juntamente com um framework unificado de inferência e ferramentas de implantação. A empresa afirma que o Edge0-145B é o primeiro modelo de IA on-device open-source do mundo com 145 bilhões de parâmetros, trazendo capacidades de codificação, raciocínio e agentes que rivalizam com modelos de nuvem de ponta para um computador pessoal.
Modelos • Hacker News
Link permanente
2026-11-14
Tecnologia
A Nvidia publicou um guia para servir o GLM-5.3, um modelo mixture-of-experts quantizado de 753 bilhões de parâmetros da Z.ai com 40 bilhões de parâmetros ativados por token, em duas estações DGX conectadas via RDMA ConnectX-8. A configuração usa paralelismo tensorial vLLM para dividir pesos e computação entre ambas as GPUs através de um único endpoint, alcançando 607,8 tokens por segundo.
Infraestrutura • Hacker News
Link permanenteUm benchmark para previsão de experimentos de laboratório úmido, descrito como o mais rigoroso de seu tipo, foi lançado por mais de dez equipes de ponta, incluindo Stanford, Harvard e Cornell. Os resultados indicam que a escalabilidade da inferência e o quintuplicamento do poder de computação não melhoraram o desempenho.
Pesquisa em IA • QbitAI 量子位
Link permanente
Investimento
Luminal • Series A
A Luminal, que fornece uma nuvem de inferência e desenvolve software compilador de inferência para testar a execução de modelos de IA em diferentes chips, levantou US$ 25 milhões em uma rodada Série A liderada pela Standard Capital. O CEO Joe Fioti divulgou a rodada ao Axios Pro.
Link permanente