メラノックス (NVIDIA メラノックス) 920-9B210-00FN-0D0 インフィニバンドスイッチ技術ソリューション

1プロジェクト背景と要件分析

現代のAIトレーニングクラスターと高性能コンピューティング (HPC) 環境は,スケーリングの共通の課題に直面しています. GPUの数とコンピューティング密度が増加するにつれて,伝統的なEthernetファブリックが TCP/IPオーバーヘッドによる主要なボトルネックになるRDMA (リモート・ダイレクト・メモリ・アクセス) に依存するワークロードでは,マイクロ秒レベルのジッターは,有効なGPU利用率を30~40%削減することができます.メラノックス (NVIDIA メラノックス) 920-9B210-00FN-0D0InfiniBandスイッチは,集団操作,全減算法,高周波MPI通信に最適化された損失のない決定的組織を提供することで,これらの課題を直接解決します.

次世代のAI/HPCネットワークの主要な要件は,次のようなもの:マイクロ秒未満のスイッチ遅延,NDR速度400Gb/sのサポート,ハードウェアベースのネットワーク内コンピューティング (SHARP v2),既存の HDR インフラストラクチャとシームレスなバックコンパティビリティ.920-9B210-00FN-0D0企業レベルの管理可能性とテレメトリを提供しながら,これらのすべての基準を満たします.

2ネットワーク・システム・アーキテクチャの設計

推奨されたアーキテクチャは2層の脂肪樹 (spine-leaf) トポロジーに基づいています.分散型トレーニングに特有の全対全通信パターンのための完全なバイセクション帯域幅と決定的遅延を提供します脊髄層はNVIDIA メラノックス 920-9B210-00FN-0D0スイッチ,それぞれがNDRファブリックの脊柱として動作する.リーフスイッチ (例えばQM9700シリーズ) は,ConnectX-7またはBlueField-3アダプターを通じてコンピューティングノードに接続する.脊髄へのアップリンクは400Gb/sのNDR速度で実行されます.

2,000 GPU を超えた大規模展開では,3階建てのアーキテクチャ (コア・アグリゲーション・アクセス) が実装され,920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRこの設計は,コアとアグリゲーションスイッチの両方で機能するユニットである.この設計は,線形パフォーマンススケーリングを保証し,フォークリフトのアップグレードを必要とせずにNDR200 (800Gb/s) に将来の拡張をサポートする.役人は920-9B210-00FN-0D0 インフィニバンドスイッチ OPN複数のサイトでの調達を簡素化し,ファームウェアの一貫性を全組織に保証します.

3解決策における920-9B210-00FN-0D0の役割と主要な特徴

について920-9B210-00FN-0D0InfiniBand 構造内の高性能のコア要素として機能する.その主要機能には以下が含まれます:

• 400Gb/s NDR ポート密度それぞれ920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRスイッチは最大32の400Gb/sポートを提供し,500mまでの柔軟なケーブル (シングルモード) のための銅および光接送機の両方をサポートする.
• ネットワーク内コンピューティング (SHARP v2):ハードウェア加速型全縮小操作は,AIトレーニングワークロードの集合通信時間を最大8倍に短縮し,GPU利用率を直接改善します
• アダプティブルーティングと混雑制御:動的経路選択はホットスポット形成を回避し,インカストトラフィックパターンの下で決定的遅延を保証します.
• RDMA over Converged Ethernet (RoCE) オルタナティブ:RoCEとは異なり,ネイティブのInfiniBandは920-9B210-00FN-0D0PFCの配置を必要とせず, 95%のリンク利用率でも一貫したパフォーマンスを提供します.

エンジニアは920-9B210-00FN-0D0 データシートそして920-9B210-00FN-0D0 仕様詳細な電源 (典型的には350W),熱量,遅延数値 (200ns未満のスイッチ遅延)920-9B210-00FN-0D0対応するNVIDIAの InfiniBand端末と NDR オプティクスを使っています

4展開とスケーリングの推奨事項 (トポロジー例)

小クラスター (128-256 GPU):2x の単体脊椎920-9B210-00FN-0D08~16個のスイッチを接続する スイッチが1つずつ接続され 完全な帯域幅と冗長性があります中等クラスター (512-1024 GPU):4つのスイッチはブロックしない構成で,各スイッチは4つのアップリンク (2回スイッチ) を備えています.このトポロジーは,ピークトラフィック下で1つのリンクも80%の利用率を超えないことを保証します.大型クラスター (2048+ GPU):8x のコア層NVIDIA メラノックス 920-9B210-00FN-0D0スイッチ,同じモデルを使用した総層,およびQM9700シリーズとアクセス層.すべて400Gb/s NDRで相互接続,オプションNDR200準備.

費用を評価する組織では,920-9B210-00FN-0D0価格エーテルネットスイッチの高級スイッチに対して競争力があります.920-9B210-00FN-0D0 販売中NVIDIAの認可販売ネットワークを通じて 通常の配送時間は4~6週間です

5運用,監視,トラブルシューティング,最適化

管理は,リアルタイムテレメトリ,予測的な故障分析,自動修復を提供するNVIDIAユニフィードファブリックマネージャ (UFM) を介して集中されています.920-9B210-00FN-0D0 インフィニバンドスイッチ OPN ソリューションその中には:

• 業績基準:UFMの遅延熱マップを使って マイクロバーストを特定します920-9B210-00FN-0D0 仕様ECN マークとバッファの占有を確認するハードウェアカウンター
• ファームウェア管理:NDRのファームウェアを 保持してください920-9B210-00FN-0D0 データシートConnectX-7 と BlueField-3 の互換性マトリックスが含まれています.
• 誤ったシナリオ:冗長な電源と扇風機モジュールはN+1冗長性を可能にします.UFMは故障したリンクまたはスイッチの周りに自動的にトラフィックをリルーツすることができます.
• オプティマイゼーションのヒント:グローバルパウズフレームを無効にします.すべての削減密度のワークロードのためにSHARPを設定します.920-9B210-00FN-0D0 インフィニバンドスイッチ OPN物理的なポートを論理的な役割にマッピングする識別子です

6概要 価値評価

についてメラノックス (NVIDIA メラノックス) 920-9B210-00FN-0D0高性能AIとHPCファブリックの基礎構成要素です. 400Gb/sのNDR帯域幅,微秒未満のスイッチ遅延,および SHARP v2のネットワークコンピューティングを提供することで,通常 GPU のスケーリングを制限するネットワークのボトルネックを取り除く.920-9B210-00FN-0D0単なるスイッチではなく 完全なスイッチです920-9B210-00FN-0D0 インフィニバンドスイッチ OPN ソリューション既存の HDR インフラストラクチャとの完全な互換性,UFMによるエンタープライズレベルの管理性,そして将来の NDR200 速度への明確な移行経路を含む.RDMA/HPC/AIクラスターインターコネクトのパフォーマンスを最適化するネットワークアーキテクターとITマネージャー向けこのスイッチは,GPUの利用率が高いこと,作業完了時間が短くなり,運用上のオーバーヘッドが低いことで,測定可能なROIを提供します.

主要な仕様参照