Gpus

Meta a détaillé Prometheus, son supercluster à l'échelle du gigawatt dans l'Ohio, qui abritera environ 1 million de GPU à pleine échelle. Le supercluster a été utilisé pour entraîner les modèles fondamentaux Muse de Meta.

Infrastructure • Techmeme

DeepSeek a publié DeepInfer, le cadre d'inférence derrière ses services de modèles à grande échelle, en open source. Le cadre prend en charge les GPU Nvidia et les processeurs Huawei Ascend et comprend des capacités comme l'inférence distribuée et le décodage spéculatif.

Infrastructure • TechNode

Google a rejoint Amazon en publiant un outil de développement qui permet aux utilisateurs de PyTorch de déplacer facilement leurs applications hors des GPU Nvidia, défiant la domination de Nvidia dans le développement de l'IA.

Infrastructure • TechCrunch AI