GPUサーバーは型番より仕事の条件から選ぶ

処理内容と完了時間を言葉にする

最初に決めたいのは、機種ではなく仕事の合格条件です。たとえば「商品画像を分類する」だけでなく、何枚をいつまでに処理するのか、結果にどの程度の正確さが必要なのかまで整理します。

翌朝までにまとめて画像を分類する仕事と、営業時間中に社員の質問へ返答する仕組みでは、測るものが違います。前者は締切までの処理件数、後者は同時利用が増えたときの応答時間が判断材料になります。

GPUは、多くの計算を並行して進める処理に向く部品です。CPUの上位互換ではなく、ソフトや処理によってはCPU中心の構成で十分な場合もあります。GPUサーバーは、このGPUにCPU、メモリ、保存装置などを組み合わせた機器と考えるとわかりやすいでしょう。基本の仕組みはGPUサーバーの用途とCPUとの違いでも整理しています。

学習と推論で確認項目を変える

AIの「学習」は、データを使ってモデルを訓練したり調整したりする処理です。「推論」は、学習済みのモデルから回答や分類結果を出す処理を指します。同じAIという名前でも、扱うモデルやデータ、同時利用の数によって必要な構成は変わります。

学習が必ず大規模で、推論なら必ず軽いわけではありません。既存モデルを一部調整する場合と、最初から大きなモデルを作る場合も分けて考えます。映像制作、設計、科学計算、仮想デスクトップなども、使うソフトと実際の仕事から必要条件を確認します。

表は横にスクロールできます

使うソフトと対応環境を先に確認する

必要なソフトやモデルが動かなければ、GPUの性能を生かせません。ソフト名だけでなく、利用する版、OS、GPUのドライバ、実行環境の組み合わせを確認しましょう。動作することと、販売元のサポート対象であることも別です。

NVIDIAのCUDA、AMDのROCmなどは、対応するGPUやOS、ドライバの条件を公開しています。メーカー名やコア数だけで互換性を判断せず、CUDAの互換性資料やROCmの対応表と、使うソフト側の要件を照合します。商用利用や複数人利用に必要なライセンスも、見積もりの段階で確認しておくと安心です。

GPUメモリと性能表は単位をそろえて読む

GPUメモリと本体メモリを分ける

GPU側が計算に使うメモリを、一般にGPUメモリやVRAMと呼びます。CPU側の作業領域である本体メモリ、データを保存するSSDとは役割が違います。大容量のSSDを付ければ、GPUメモリの不足がそのまま解消するわけではありません。

必要なGPUメモリは、モデルやデータの規模、計算の精度、同時に処理する量などで変わります。「AI用途なら何GB以上」と一つの数字で決めず、実際に使う設定で必要量と余裕を確かめることが大切です。

一枚の容量と全体の合計を区別する

仕様表では、その容量がどの範囲の数字なのかを見ます。GPU一枚、二枚を組み合わせた構成、サーバー一台、ラック全体では、同じGB表示でも意味が違うからです。本体メモリとGPUメモリが、別の欄に載っている場合もあります。

単位を説明する仮の例として、24GBのGPUが二枚あれば、搭載容量の合計は48GBです。ただし、一つの処理が48GBを一続きの領域として自由に使える保証にはなりません。使うソフトと処理の分け方まで含めて確認します。

精度と演算性能は同じ条件で比べる

カタログにあるFLOPSは、1秒あたりの浮動小数点演算回数を示す指標です。小数を含む数値の計算能力を表す目安ですが、自社の仕事が何分で終わるかを直接示す数字ではありません。GPUメモリの帯域幅は、GPUとそのメモリの間でデータを出し入れする速さを表し、GPU同士の通信帯域とは別です。

FP32やFP16など、計算に使う数値の精度が違えば、比較の前提も変わります。特定のデータの性質を利用する条件付きの値にも注意が必要です。精度を下げて速度を上げる場合は、出力が必要な品質を満たすかも確かめます。世代名、コア数、電力の大きさだけで性能の順位を決めないようにしましょう。

表は横にスクロールできます

複数GPUの効果はソフトと接続次第

GPUを増やすときは、仕事をどう分担させ、結果をどう受け渡すかが問題になります。分担に対応しない処理や、GPU間の通信に時間がかかる処理では、枚数を増やしても期待どおりに速くならないことがあります。

NVIDIAの複数GPU向け資料でも、データの分配やGPU間の通信を扱っています。PCIeやNVLinkなどの接続方式だけでなく、ソフト、ライセンス、筐体の対応も確認しましょう。「容量は必ず合算できる」「絶対に合算できない」のどちらにも決めつけず、実際の構成で判断します。

GPU以外の構成と設置環境も確認する

CPUとメモリは前後の処理に合わせる

GPUが計算する前には、データの読み込みや加工があり、計算後には結果の保存や別の処理があります。こうした前後の仕事をCPUや本体メモリが支えます。ここで処理が詰まると、高性能なGPUを付けても待ち時間が生じます。

CPUの種類やコア数、本体メモリの容量は、使うソフトの要件と検証結果から考えます。GPUメモリの何倍という固定の式で決めるより、実行中にどこへ負荷が集まるのかを確かめるほうが、余分な投資を避けやすくなります。

ストレージと通信が待ち時間を生む

保存装置は容量だけでなく、必要な速さで読み書きできるかも確認します。大きなデータを毎回移す仕事なら、サーバーへ持ち込む時間やバックアップに要する時間も、業務の待ち時間に含まれます。

GPU同士の通信、サーバー同士の通信、外部へ接続する回線は、それぞれ別の経路です。どこで大量のデータが動くのかを構成図で確認しましょう。将来の増設も、空きスロットだけでなく、接続の仕様、電源、冷却、対応部品までそろって初めて検討できます。

電源と冷却は設置先まで確認する

机の近くに置ける構成もあれば、専用の設備を必要とする構成もあります。すべてのGPUサーバーに200V電源や液体冷却が必要なわけではありません。反対に、手元のコンセントへつなげば使えるとも限りません。

機器全体の電源仕様、回路の容量、接続するケーブル、ラックの大きさと重量、空調、騒音を販売会社と施設担当へ確認します。GPU単体の電力値を、そのままサーバー全体の実際の消費電力として使わないことも大切です。設置条件は、候補となる機種のメーカー資料で確かめます。

購入前の検証で必要な構成を絞り込む

実データで試す条件をそろえる

候補を絞れたら、可能な範囲で小規模な検証を行います。PoCと呼ばれることもありますが、目的は「自社の仕事を必要な条件でこなせるか」を確かめることです。

同じデータ、ソフトの版、モデル、設定、処理量で比較します。冒頭の画像分類なら締切までの処理件数、社内チャットなら同時利用時の応答を確認する、という具合です。試用や貸出の有無、費用、期間は事業者ごとに確認します。機密データは、持ち出し先と利用条件を社内で確認してから扱いましょう。

検証機を借りられない場合は、対象ソフトとデータの条件を販売会社へ渡し、条件付きの測定結果と構成表を求めます。資料が得られない部分は未確認として残し、納品後の受入試験や性能が足りない場合の対応を契約で詰めます。不確かなまま購入を決めず、候補や導入方法を見直す判断も必要です。

速度だけでなく品質と同時利用を測る

処理が速くても、分類の誤りが増えたり、必要な品質の回答が出なかったりすれば、仕事には使えません。速度と品質を同じ条件で確認し、利用が集中した場合の待ち時間も見ます。

表は横にスクロールできます

必要に応じて、読み書き、通信、温度、電力も記録します。公開ベンチマークを見る場合も、モデル、品質、実行条件、構成が同じかを確かめます。MLCommonsの推論ベンチマーク資料のような共通の評価方法も、自社のデータによる確認をそのまま置き換えるものではありません。

検証結果を見積書と受入条件に残す

検証で不足がわかったら、GPUの枚数だけを増やすのではなく、メモリ、読み書き、通信など、原因となる部分を見直します。その結果を踏まえ、合格条件を満たす構成と、必要な余裕を比較して絞り込みます。

最終的な構成表、納期、設定作業、検証条件は文書に残します。納品後に何を確認して受け入れるのか、条件を満たさなかったときに誰がどこまで対応するのかも、注文前に確かめておきましょう。販売会社のデモと納品後の試験は、実施する時点も役割も異なります。

購入とサービス利用は運用まで含めて比べる

購入とクラウドは稼働時間を合わせて比べる

構成の見当が付いたら、購入する方法と、クラウドなどを利用する方法を比べます。まずは同じ仕事をこなせる構成、利用期間、稼働時間をそろえます。同じGPU名でも、枚数、占有か共有か、CPUやメモリの割り当てが違う場合があります。

購入価格やサービスの基本料金に加え、設置、保守、保存、データ転送などの費用も拾います。稼働が少ないのか、毎日長時間使うのかで結果も変わります。「短期ならクラウド、長期なら購入」と期間だけで決めず、GPUサーバーの価格と総費用の比べ方も参考に、条件をそろえて見積もります。

表は横にスクロールできます

リースとレンタルは契約の中身を読む

契約では、利用期間、途中解約、保守、返却、所有権の扱いまで読みます。月払いという支払方法だけでは、税務処理の時期も決まりません。通常の機器の賃貸借、税務上のリース、クラウドなどの継続するサービスを、契約内容に沿って分けて確認します。

たとえば法人税上のリース取引に当たる場合は、原則として売買として扱う制度があります。一方、継続するサービスの未提供分を前払いした場合には、前払費用の確認が必要です。短期前払費用の例外にも条件があるため、支払名目だけで全額を当期の損金にしないよう経理へ確認します。根拠は国税庁のリース取引と短期前払費用の説明です。

運用と保守の担当を決める

誰が更新や監視を行い、故障したらどこへ連絡するのかも、選ぶ条件に含めます。対応時間、部品交換、代替機、バックアップ、アクセス権、終了時のデータ移行と消去まで、担当と契約範囲を確認しましょう。

データや計算基盤をどこに置くか、どの事業者と契約するか、誰が管理するかは別の問題です。国内の設備や自社保有だから自動的に安全になるわけではありません。たとえばAWS EC2の共有責任の説明では、利用者側にOSや権限管理などの責任が残ります。クラウドごとに分担は異なるため、任せられる範囲を個別に確かめます。

法人の購入判断では税務と資金を分ける

本体と付随費用の内訳を分ける

ここからは、株式会社などの普通法人が事業用に導入する場合の一般的な確認事項です。見積もりは、本体、ソフト、構築、保守、サービスなどの内訳へ分けておきます。税務上の取得価額には、購入代価だけでなく、使うために直接要した費用などが関係するからです。

ただし、すべての費用を同じ処理にするわけではありません。資産に含めるものと、その期の費用や前払として扱うものを、内容と契約から確認します。国税庁の取得価額の説明をもとに、税抜・税込の経理方法や消費税の控除の扱いも経理と整理します。

納品日と事業に使い始めた日を分ける

支払った日や届いた日が、そのまま減価償却を始める日になるとは限りません。国税庁は「事業の用に供した日」について、次の表現を用いています。

本来の目的のために使用を開始するに至った日

国税庁 No.5400-2「事業の用に供した日」より抜粋

GPUサーバーでも、搬入だけで判断せず、設定、試運転、業務での利用開始といった実態を確認します。契約書、納品資料、構成表、稼働の記録をまとめておくと、経理も確認しやすくなります。

耐用年数や償却方法は、資産の区分、用途、構成などを踏まえて判断します。GPUの型番だけで年数や即時償却の可否は決まりません。通常の計算は国税庁の減価償却資産の償却限度額の計算方法も確認し、優遇制度を検討する場合は購入前に手続きと適用条件を確認します。

税負担の軽減と残る資金を別に考える

損金は、課税される所得の計算で差し引く金額で、税額そのものではありません。仕組みを説明する仮例として、十分な課税所得があり、他の税務影響を考えず、当期に追加で100万円を損金算入できるとします。税率を仮に30%と置けば、当期の税差は概算30万円です。100万円が戻るという意味ではなく、実際の取得額や償却額、適用税率を示す例でもありません。

設備代金の支払時期と納税の時期は別に管理し、借入を使う場合は元本の返済も資金計画へ入れます。優遇制度によって費用化が早まっても、購入代金の支出がなくなるわけではありません。制度の確認はGPUサーバーの節税と適用条件へ進み、選定では業務に必要な構成と本業に残す資金の両方を考えましょう。

GPUサーバーの選び方でよくある質問