Gpus

Metaは、オハイオ州にあるギガワット規模のスーパークラスターPrometheusの詳細を明らかにした。このスーパークラスターは、フルスケールで約100万個のGPUを収容する予定である。このスーパークラスターは、MetaのMuse基盤モデルのトレーニングに使用された。

インフラストラクチャ • Techmeme

DeepSeekは、大規模モデルサービスの背後にある推論フレームワークであるDeepInferをオープンソースとしてリリースした。このフレームワークは、Nvidia GPUとHuawei Ascendプロセッサをサポートし、分散推論や投機的デコーディングなどの機能を含む。

Infrastructure • TechNode

GoogleはAmazonに加わり、PyTorchユーザーがアプリケーションをNvidia GPUから移行しやすくする開発者ツールをリリースし、AI開発におけるNvidiaの優位性に挑戦している。

Infrastructure • TechCrunch AI

Microsoftは、自社製品およびサービス向けの「主要なAI推論システム」となるように設計された、第3世代の社内AIチップMaiaを発表している。Maia 300は、AIワークロードを実行するためのコストと効率を改善し、Nvidia GPUへの依存を減らすことを目指している。

インフラストラクチャ • The Verge AI