何が起きたのか？
NVIDIA が Vera Rubin ベースの大規模な AI インフラストラクチャのための次世代の Ethernet ネットワーク プラットフォーム Spectrum-6 を発表しました。
大規模なAIシステムでは、GPUの数よりもデバイス間の通信が全体の効率を制限する可能性があります。インフラストラクチャの運営者と企業は、オペレーティング機器だけでなく、ネットワークの電力と運用コストも一緒に評価する必要があります。
なぜ重要なのか？
AIモデル競争の背後で学習と推論のコストを決定するネットワークインフラストラクチャの重要性が高まっています。
誰にとって重要か？
AIインフラ担当者企業投資家