GPUサーバーとは？AIの学習・推論や科学技術計算に使うGPUサーバー・GPUワークステーションの種類（タワー型・ラックマウント型・SXM型）と⁠、GPUの枚数・電源・価格の選び方

GPUサーバーとは

GPUサーバーは、画像処理用の部品であるGPUを計算に使い、AIの学習や推論、シミュレーションなどの科学技術計算を回すコンピューターです。GPUマシン・AIサーバーとも呼びます。机の横に置くものはGPUワークステーションと呼ぶことが多く、中身の考え方は同じです。

GPUを1枚だけ載せる事務・設計用のパソコンとは、GPUの枚数と電源の大きさが違います。このページでは、GPUを2枚以上載せる機種を比べています。

3つの種類

• タワー型は、机の横や床に置く縦長の筐体にGPUを2〜4枚載せます。エルザ ジャパンのVELUGA-R A50E G6 V2は、100Vのまま最大4枚まで動かします。
• ラックマウント型は、サーバー室の19インチラックに入れます。ジーデップ・アドバンスのGSV-IEMSM-4U4Gは、4UのケースにPCIeのGPUを最大4基載せます。
• SXM型は、基板に載ったGPUを8基まとめ、GPUどうしを速くつなぎます。HPCシステムズのHPC5000-XERGPU8R8S-NVLは、SXM5のH200かH100を8基載せます。

選び方

1. GPUの枚数を決める

• 生成AIの推論や小さめの学習なら、2枚で始められます。ツクモのXE9A-W261/XBHは、Radeon AI PRO R9700を2枚組で載せています。
• ジーデップ・アドバンスのDeepLearningBOXIIIは、RTX PRO 6000 Blackwellを最大3基まで載せられます。
• 大きなモデルを学習するなら、SXM型の8基を選びます。

2. 電源を確かめる

• 100Vのコンセントで動くかどうかを最初に確かめます。HPC5000-XERGPU4TSの最大消費電力は、100V環境で2000W、200V環境で3000Wです。
• HPC5000-XERGPU8R8S-NVLは最大消費電力が9,000Wで、200Vから240Vの電源を使います。
• 電源の効率は80PLUSの認証で見ます。TITANIUMは、負荷率20%・50%・100%で92%・94%・90%の基準をクリアしたものです。

3. 置き場所と重さを見る

• タワー型は机の横に置けます。DeepLearningBOXIIIの大きさは、幅290mm・高さ471mm・奥行478mmです。
• SXM型は重く、HPC5000-XERGPU8R8S-NVLは75.3kgあります。ラックと床が重さに耐えるかを先に見ます。

4. GPUの種類を選ぶ

• 倍精度（FP64）の計算が多い科学技術計算なら、NVIDIA A800のように倍精度に強いGPUを選びます。GSV-IEMSM-4U4Gでは、A800とRTX PRO 6000 Blackwell Max-Qのどちらかを選べます。
• 生成AIでGPUのメモリを多く使うなら、RTX PRO 6000 Blackwell Max-Qのように96GBのメモリを持つGPUを選びます。

価格

公開価格のある機種では、ツクモのXE9A-W261/XBHが1,499,800円（税込）、サイコムのLepton WS4100TRX50A Twin GPU Editionが3,801,760円から、DeepLearningBOXIIIのスタンダードモデルが販売価格7,981,490円、GSV-IEMSM-4U4Gのスタンダードモデルが販売価格8,577,162円です。HPCシステムズとエルザ ジャパンは見積もりです。GPU・メモリ・保守の中身をそろえて、何社かに見積もりを取ります。

運用と保守

• サーバー室に置くなら、遠隔で見張れる機種を選びます。HPCシステムズの機種はIPMI2.0を標準で積み、温度・電力・ファン・CPUエラー・メモリエラーを専用のLANポートから見られます。
• 止められない計算には、電源を冗長にした機種を選びます。GSV-IEMSM-4U4Gは1800Wの電源2個を1+1で冗長にしています。