Infrastructure De Calcul
Archive thématique • 3 résultats
Généré par IA : résumés rédigés par une IA à partir des sources citées. Notre usage de l'IA
2026-11-14
Technologie
Nvidia a publié un guide pour servir GLM-5.3, un modèle mixture-of-experts quantifié de 753 milliards de paramètres de Z.ai avec 40 milliards de paramètres activés par token, sur deux DGX Stations connectées via ConnectX-8 RDMA. La configuration utilise le parallélisme tensoriel de vLLM pour répartir les poids et le calcul sur les deux GPU via un point de terminaison unique, atteignant 607,8 tokens par seconde.
Infrastructure • Hacker News
Lien permanentLenovo a présenté un concept de « usine à tokens » articulé autour d'une entrée d'électricité verte et d'une sortie de tokens, revendiquant une capacité de production annuelle de 2 quadrillions de tokens avec des coûts réduits de 70 %. Cette approche reconceptualise la production de puissance de calcul pour l'IA autour de l'approvisionnement énergétique et du débit de tokens.
Infrastructure • QbitAI 量子位
Lien permanent
2026-11-15
Technologie
Une analyse d'Epoch AI constate que le centre de données Horinger de Huawei, l'un des plus grands de Chine pour l'IA, dispose d'environ 7 % de la puissance de calcul de Colossus 2 de SpaceX et pourrait rester très en retard au moins jusqu'en 2028. Huawei, le plus grand développeur de puces IA de Chine, s'appuie sur l'énergie abondante du pays pour construire des centres de données.
Infrastructure • Techmeme
Lien permanent