NVIDIA メラノックス 920-9B210-00FN-0D0 発表: 400Gb/s NDR で超大規模 AI ネットワーク 基盤を再定義

NVIDIA Mellanox 920-9B210-00FN-0D0 発表：400Gb/s NDR による超大規模AIネットワーク基盤の再定義

大規模言語モデルが数千億から数兆パラメータへとスケールアップするにつれて、従来の200Gb/s HDRネットワークは、GPU利用率がネットワーク輻輳により低下することが多い、オール・トゥ・オールのような高密度な集団通信シナリオにおいてその限界を示し始めています。NVIDIAは、最も要求の厳しいAIおよびHPCワークロードに必要な帯域幅、密度、およびネットワーク内インテリジェンスを提供するように設計された400Gb/s NDR InfiniBandスイッチである「NVIDIA Mellanox 920-9B210-00FN-0D0」を正式に発表しました。

課題：HDRがボトルネックになる場合

GPUクラスターを2,000ノード以上にスケールアップしている組織では、200Gb/s HDRの限界がますます明らかになります。分散トレーニングの基本であるオール・リデュースおよびオール・トゥ・オール操作中、ネットワーク輻輳はGPU利用率を85%から50%未満に低下させ、実質的に数百万ドルのコンピューティング投資を無駄にする可能性があります。ネットワークアーキテクトは、決定論的なサブマイクロ秒レイテンシを提供すると同時に、数千のエンドポイントにわたってロスレスパフォーマンスを維持するという二重の課題に直面しています。

「920-9B210-00FN-0D0 InfiniBandスイッチ OPN」（注文部品番号）は、64ポートOSFPプラットフォームに400Gb/s NDRパフォーマンスをもたらすことで、これらの課題に正面から取り組み、最も要求の厳しいAIトレーニング環境でもネットワークに起因する停止を排除するために必要なヘッドルームとインテリジェンスを提供します。

主な技術的特徴

広く採用されているMQM9790-NS2Fと同じシリコン上に構築された「920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR」プラットフォームは、エクサスケールクラスのデプロイメント向けに設計された包括的な機能セットを提供します。「920-9B210-00FN-0D0 データシート」によると、このスイッチは以下を提供します。

• 64ポートの400Gb/s NDR：各OSFPポートは双方向400Gb/sと前方誤り訂正（FEC）をサポートし、51.2Tb/sの集約スイッチング容量を提供します。
• 超低レイテンシ：「920-9B210-00FN-0D0 仕様」に記載されているように、100ns未満のカットスルーレイテンシは、RDMAおよびMPI操作のオーバーヘッドを最小限に抑えます。
• 統合SHARPv3：集団操作（オール・リデュース、オール・トゥ・オール、ブロードキャスト）をスイッチファブリックに直接オフロードし、大規模ジョブの通信レイテンシを最大40%削減します。
• 適応ルーティングと輻輳制御：ホットスポットを回避するためにトラフィックを動的に再ルーティングし、敵対的なトラフィックパターン下でも予測可能なパフォーマンスを維持します。
• 高度なテレメトリ：ポートごとのおよびフローごとのカウンターとバッファ占有率監視により、プロアクティブな管理のための深い可視性を提供します。

「920-9B210-00FN-0D0 互換」エコシステムには、幅広いNVIDIA認定OSFPケーブル、光トランシーバー、およびソフトウェアツールが含まれており、既存のHDRまたはグリーンフィールドNDR環境へのシームレスな統合を保証します。次世代インフラストラクチャを計画している組織にとって、このスイッチは、本番ワークロードを中断することなく段階的なアップグレードを可能にする、混合HDR/NDRファブリックをサポートします。

実際のデプロイメントニーズへの対応

新しいAIトレーニングクラスターを設計している、または既存のHDRファブリックをアップグレードしているネットワークアーキテクトにとって、「920-9B210-00FN-0D0 InfiniBandスイッチ OPNソリューション」は、いくつかの魅力的な利点を提供します。64ポートの密度により、スイッチあたり最大64のデュアルポートサーバーを備えたトップオブラックデプロイメントが可能になり、40ポートの代替品と比較して必要なスイッチとケーブルの数が削減されます。リーフ・スパイン・トポロジーでは、これはスパイン層の削減、レイテンシの低下、および総所有コストの削減につながります。

このスイッチは、NVIDIAのInfiniBandポートフォリオの堅牢な管理機能も継承しています。NVIDIAのUnified Fabric Manager（UFM）を使用すると、管理者はファブリックの健全性を深く可視化し、プロビジョニングを自動化し、本番ワークロードに影響を与える前に異常をプロアクティブに検出できます。スイッチのデュアル冗長電源とホットスワップ可能なファンモジュールは、ミッションクリティカルなアプリケーションで99.999%の可用性を保証します。

「920-9B210-00FN-0D0 価格」と総所有コストを評価する際、このスイッチは大規模デプロイメントに魅力的な経済性を提供します。初期コストはHDRの代替品よりも高いですが、大規模クラスター全体で償却すると、ポートあたりのコストとGPUあたりのネットワークコストは大幅に低くなり、エクサスケールプロジェクトにとってNDRはますます費用対効果の高い選択肢となっています。「920-9B210-00FN-0D0 販売中」は現在NVIDIAのチャネルパートナーを通じて入手可能であり、早期顧客出荷がすでに進行中です。

概要：次世代AIのためのNDR基盤

「NVIDIA Mellanox 920-9B210-00FN-0D0」は、高性能ネットワーキングにおける大きな進歩を表しており、次世代のAIおよびHPCクラスターに必要な帯域幅、密度、およびインテリジェンスを提供します。400Gb/s NDR速度と64ポートOSFP密度、およびSHARPv3ネットワーク内コンピューティングを組み合わせることで、このスイッチは、最も要求の厳しい兆パラメータワークロードに追いつくことができる、スケーラブルで決定論的なファブリックを構築することをアーキテクトに可能にします。

次世代インフラストラクチャを計画している組織にとって、920-9B210-00FN-0D0は、グリーンフィールドデプロイメントまたは既存のHDRファブリックからの戦略的なアップグレードのいずれであっても、明確で高性能なパスを提供します。その堅牢な機能セット、エンタープライズグレードの管理性、および広範なNVIDIAエコシステムとのシームレスな互換性により、このスイッチはエクサスケールクラスのネットワーキングの基盤となることが期待されます。