Infrastructure

Un professeur de finance à Wharton a évalué l'impact économique de l'IA et a découvert un « fait remarquable » : une poignée d'entreprises réalisent d'énormes investissements dans les infrastructures, ce qui soulève des questions sur une éventuelle bulle. L'article explore les risques et les enjeux du pari de mille milliards de dollars de l'IA.

Business • MIT Technology Review

Selon The Information, Apple prévoit de revenir sur le marché des serveurs et pourrait s'associer à Nvidia, portée par la demande croissante de puissance de calcul pour l'IA. Apple a abandonné sa gamme Xserve en 2011 et est restée en grande partie à l'écart du matériel d'entreprise depuis.

Infrastructure IA • The Verge

Les centres de données américains pourraient consommer plus de gaz naturel que l'Allemagne et le Japon réunis d'ici 2035, selon TechCrunch, portés par le boom de l'IA. Cela ferait d'eux l'un des plus grands consommateurs de gaz naturel au monde.

Infrastructure IA • TechCrunch

Le décodage spéculatif de vLLM sur les GPU AMD peut vérifier plusieurs jetons proposés en un seul passage, améliorant le débit de jetons en sortie. Les résultats varient selon la méthode de proposition, la famille de modèles et la charge de travail.

Infrastructure • Hacker News

Ce tutoriel pratique présente cinq outils gratuits et open source — dont Ollama, 9router, Headroom, Diffy et OpenHands — qui peuvent remplacer des abonnements IA coûteux et réduire les coûts liés aux tokens. Les spectateurs apprendront comment configurer et utiliser ces outils pour exécuter des modèles localement, gérer le routage, la mémoire et les workflows agents, permettant ainsi une infrastructure IA rentable.

Developer Tutorial • Fireship