Infrastruktur

Ein Finanzprofessor an der Wharton School hat die wirtschaftlichen Auswirkungen von KI bewertet und eine 'bemerkenswerte Tatsache' festgestellt: Eine Handvoll Unternehmen tätigen massive Infrastrukturinvestitionen, was Fragen zu einer möglichen Blase aufwirft. Der Artikel untersucht die Risiken und Einsätze von KIs Billionen-Dollar-Wette.

Wirtschaft • MIT Technology Review

Das spekulative Decoding von vLLM auf AMD-GPUs kann mehrere entworfene Tokens in einem einzigen Durchlauf verifizieren und verbessert so den Durchsatz der Ausgabetokens. Die Ergebnisse variieren je nach Entwurfsmethode, Modellfamilie und Arbeitslast.

Infrastruktur • Hacker News

Dieses praktische Tutorial stellt fünf kostenlose und quelloffene Tools – darunter Ollama, 9router, Headroom, Diffy und OpenHands – vor, die teure KI-Abos ersetzen und Token-Kosten senken können. Zuschauer erfahren, wie sie diese Tools für das lokale Ausführen von Modellen, Routing, Speicher-Management und agentic Workflows einrichten und nutzen, um eine kosteneffiziente KI-Infrastruktur aufzubauen.

Politik • Fireship

Microsoft plant, die Kapazität seiner Rechenzentren von 12 auf über 38 Gigawatt bis 2032 auszubauen und etwa ein Drittel dieses Wachstums speziell auf KI-Chips zu konzentrieren. Dieser massive Infrastrukturausbau unterstreicht die steigenden Energiebedarfe beim Einsatz großer KI-Systeme und signalisiert eine langfristige Kapitalverpflichtung zur Sicherung der Rechen-Dominanz.

Infrastruktur • Techmeme

Massachusetts hat neue Auflagen verabschiedet, die vorschreiben, dass Rechenzentren vor einer Kapazitätserweiterung Zusagen für saubere Energie einholen müssen, und ist damit der dritte Bundesstaat, der innerhalb von drei Monaten solche Umweltvorgaben erlässt. Die Verordnung wirkt sich unmittelbar auf die KI-Infrastrukturplanung aus und zwingt Anbieter, das Hochskalieren der Rechenleistung mit den Beschaffungszeitplänen für erneuerbare Energien abzustimmen.

Infrastruktur • TechCrunch AI