Gpus

Meta ha detallado Prometheus, su superclúster a escala de gigavatios en Ohio, que albergará aproximadamente 1 millón de GPU a escala completa. El superclúster se utilizó para entrenar los modelos fundacionales Muse de Meta.

Infraestructura • Techmeme

DeepSeek lanzó DeepInfer, el marco de inferencia detrás de sus servicios de modelos a gran escala, como código abierto. El marco admite GPU de Nvidia y procesadores Huawei Ascend e incluye capacidades como inferencia distribuida y decodificación especulativa.

Infrastructure • TechNode

Google se ha unido a Amazon en el lanzamiento de una herramienta para desarrolladores que facilita a los usuarios de PyTorch mover sus aplicaciones fuera de las GPU de Nvidia, desafiando el dominio de Nvidia en el desarrollo de IA.

Infrastructure • TechCrunch AI

Microsoft está anunciando su chip de IA interno Maia de tercera generación, diseñado para ser el 'sistema principal de inferencia de IA' para sus productos y servicios. El Maia 300 tiene como objetivo mejorar el costo y la eficiencia para ejecutar cargas de trabajo de IA, reduciendo la dependencia de las GPU de Nvidia.

Infraestructura • The Verge AI