GPUサーバーの仕組みとCPUとの違い

GPUは計算を担う部品

GPUは、もともと画像を描く計算に使われてきた部品です。正式にはGraphics Processing Unitといい、日本語では画像処理装置と呼ばれます。似た計算を多数のデータにまとめて行う処理を得意とします。

その仕組みを画像以外の計算にも使うのが、GPGPUと呼ばれる考え方です。AIや科学計算にGPUが使われるのは、この並列処理の力を生かせる仕事があるためです。

GPUサーバーはGPUだけで動く機械ではありません。CPU、システムメモリ、データを保存する装置、ネットワークなどを組み合わせたサーバーです。GPUが1枚の構成もあり、何枚も積んでいることが定義ではありません。

CPUとGPUは処理を分担

CPUは、ソフトの指示に従って幅広い処理を進める部品です。GPUを使う場合も、CPUがデータを準備したり、GPUに処理を始めさせたりします。GPUが入ってもCPUが不要になるわけではありません。

たとえば、多数の画像に同じ計算をかける部分はGPUで処理し、その前後の読み込みや結果の整理はCPUが担う、といった分担があります。実際の分担はソフトの作りによって変わります。

表は横にスクロールできます

CPUも複数の処理を並行して実行できます。表は得意な役割を整理したもので、CPUは一つずつしか処理できない、GPUなら必ず速い、という区分ではありません。

データをGPUへ渡す時間や、CPU側に残る処理もあります。GPUの計算部分だけが速くなっても、仕事全体の待ち時間が同じ割合で短くなるとは限りません。

参考：Intel「CPU vs GPU」・AMD「HIP programming model」

GPU搭載PCとの使い分け

GPUを積んだPCや、業務用の高性能PC（ワークステーション）でも、対応する計算はできます。机で直接操作する端末を使うか、ネットワーク経由で計算資源を利用する設備を置くか、という運用の違いも考えます。

サーバーなら複数人の仕事を集められる構成もありますが、権限の分け方や処理の順番を管理する仕組みが必要です。サーバーは必ず複数人用、PCは必ず一人用と機械的に分かれるわけではありません。

GPUを追加するだけで、社内共有や保守まで整うわけでもありません。使う場所と担当者を含めて、設備全体で見る必要があります。

AIや画像処理で使う場面

AIの学習と推論

AIでは、データを使って答えを出す仕組み（モデル）を調整する「学習」と、学習済みのモデルに新しい入力を渡して結果を得る「推論」を分けます。追加学習も学習の一つであり、毎回の質問への回答とは別の作業です。

学習と推論では計算の内容も必要なメモリも変わります。同じAI用途という名前だけで、同じGPUや枚数を選べるわけではありません。モデルの規模や、同時に処理する量も影響します。

推論のすべてにGPUが必須とも限りません。NVIDIAの推論用ソフトTritonも、GPUだけでなくCPUなどでの実行に対応しています。自社で行う処理と、外部サービスに任せる処理を分けることが出発点です。

参考：NVIDIA「Triton Inference Server」

画像や動画と3Dの計算

画像生成や、3Dデータから画像を作るレンダリングなども、GPUを活用する場面です。複数の制作作業をまとめて処理するなら、端末とは別に計算用の設備を置く方法が候補になります。

ただし、動画編集やCADという仕事の名前だけでは判断できません。同じソフトの中でも、GPUを使う機能とCPUで処理する機能が分かれることがあります。普段のデータと操作で、どこが改善するかを確かめます。

科学計算や大量データの処理

シミュレーションなど、多数の計算を並行して行える仕事でもGPUが使われます。ここでも重要なのは、扱う計算とソフトがGPUの仕組みに合うかです。

計算機を変えれば予測が当たる、診断の精度が上がる、といった成果まで保証されるわけではありません。処理時間の改善と、入力データや計算方法の妥当性は別に確認します。

自社に必要かを判断する順序

今の処理で困っている点

機種を探す前に、何を変えたいかを書き出します。処理の終了を長く待つのか、利用者が増えると遅くなるのか、決まった時間までに処理しきれないのか。困っている点によって、必要な設備は変わります。

会計ソフトやファイル共有などの一般的な用途、軽い処理であれば、CPU中心の構成や既存サービスで足りる場合があります。AIを業務で使うことと、自社にGPUサーバーを置くことも同じではありません。

「速い機械が欲しい」から一歩進めて、誰が、どのデータを、どの程度の量で使うかを整理すると、比較する条件が見えてきます。

ソフトとGPUの対応

GPUの型番だけを見ても、そのまま仕事に使えるかは決まりません。使うソフト、OS、GPUを動かすドライバ、計算に使うライブラリの組み合わせを確認します。

OSはWindowsなどの基本ソフト、ドライバはそのOSからGPUを動かすためのソフトです。

ライブラリは、ソフトが計算などの機能を呼び出すための部品です。NVIDIAのCUDAなど、特定の環境に向けた仕組みもあり、別メーカーのGPUに入れ替えれば同じように動くとは限りません。

利用したいソフトの公式対応情報を先に確認し、その条件に合う構成を選びます。型番の詳しい比較は、GPUサーバーの選び方も参考にしてください。

小さく試して処理時間を比較

可能なら、実際に使うデータで小規模な検証をします。同じ処理、データ量、計算の精度、同時利用の条件をそろえ、CPUとGPUで結果や所要時間を比べます。

一人の操作に何秒で応答するかと、1時間に何件を処理できるかは別の指標です。利用者が困っている点に合う方を測り、読み込みやデータ転送、結果の保存まで含めて確認します。

速さだけでなく、計算結果が用途に合うか、メモリ不足で止まらないかも見ます。特定の機器の「何倍」という数字を、自社の処理へそのまま当てはめることは避けましょう。

データを置く場所と管理責任

社外へ出せない情報がある場合は、入力するデータ、保存先、アクセスできる人、委託先の取扱条件を整理します。自社に置けば安全対策が不要になるわけではありません。

外部サービスでも、どこまで提供者が管理し、どこから利用者が管理するかは異なります。たとえばAWSのEC2では、利用者側にOSやソフトの更新、アクセス管理などの役割が残ります。

参考：AWS「Security in Amazon EC2」

購入・レンタル・クラウドの使い分け

購入して自社や外部施設で運用

機器を購入する方法では、使いたい構成を保有できます。一方、置き場所や保守、更新の負担も考える必要があります。自社に置くほか、外部施設に預けて運用する方法もあります。

外部施設や保守会社を使っても、自社が担う作業がすべてなくなるわけではありません。設置費、施設利用料、故障時の対応範囲を分けて確認します。

機器を借りるレンタル

一定期間、物理的な機器を借りる方法です。購入時のまとまった支出を抑えられる場合がありますが、利用期間や構成、返却条件によって負担が変わります。

最低利用期間、途中解約、故障交換、返却時のデータ消去を確認します。「レンタル」という名称だけで提供内容を決めつけず、何を借り、誰が運用する契約なのかを読みましょう。

クラウドでGPU資源を利用

外部のGPUサーバーの計算資源を、ネットワーク経由で利用する方法もあります。機器を自社で設置せずに検証を始められるサービスもあり、利用量に合わせて構成を変える選択肢になります。

ただし、時間単位の料金だけで比べると見落としが出ます。停止中の料金、データの保存や転送、最低利用期間、使い終えた資源の削除など、実際の課金条件を確認します。

OSやアプリの設定を利用者が担うサービスもあります。「クラウドだから運用の担当者はいらない」とは考えず、管理範囲を確かめます。

APIでAIの機能を使う方法

AIの機能を外部サービスへ依頼し、結果を受け取る方法もあります。このようにソフトから機能を呼び出す窓口がAPIです。GPU仮想サーバーを借りて自分で環境を作る方法とは異なります。

たとえばAmazon Bedrockは、モデルをAPIで利用でき、モデルを動かす基盤をAWSが管理するマネージドサービスの一例です。機器の保有が目的でなければ、こうした方法も比較できます。ただし、使える機能やデータの扱い、料金はサービスごとに確認が必要です。

表は横にスクロールできます

方式の名前より、提供される範囲を比べることが大切です。同じクラウドでも管理を任せられる範囲は違い、同じ購入でも保守契約を付けるかで自社の負担が変わります。

参考：AWS「What is Amazon Bedrock?」

構成と設置で確認したい項目

GPUメモリとシステムメモリ

メモリは、処理中のデータを置く場所です。一般的な構成では、CPU側のシステムメモリと、GPU側で使うGPUメモリを区別します。GPUメモリはVRAMとも呼ばれます。

必要な容量は、モデルやデータの大きさ、計算の精度、一度に処理する量によって変わります。容量の数字が大きいだけで、あらゆる仕事が速くなるわけではありません。

また、GPUを複数積んでも、各GPUのメモリが自動的に一つの大きなメモリになるわけではありません。処理の分け方や接続、ソフトの対応を確認します。メモリを共有・移動して使う仕組みもあるため、単純な足し算や「相互に使えない」という断定は避けます。

参考：NVIDIA CUDA メモリの仕組み・複数GPUシステム

CPUと保存装置とネットワーク

GPUへ計算を渡す前の処理が遅かったり、保存装置からデータを読み出すのに時間がかかったりすると、GPUが待つことがあります。GPUだけを増やしても解決しない理由です。

CPU、システムメモリ、保存装置、ネットワークを含めて構成を確認します。カタログの最大枚数やコア数よりも、自社の処理でどこが待ち時間を作るかを検証する方が、必要な仕様を絞りやすくなります。

電源と冷却と置き場所

自社や外部施設に機器を置く場合は、必要な電圧や電源容量、熱を逃がす方法を事前に確認します。寸法、重量、騒音なども、置く場所に応じて確認したい項目です。

すべてのGPUサーバーに200V電源や液冷が必要なわけではありません。機種の仕様書と施設側の条件を突き合わせ、販売元や施設管理者に確認します。電気代の考え方はGPUサーバーの電気代で詳しく整理しています。

保守と更新を担当する人

故障時に連絡する先だけでなく、OSやドライバの更新、利用権限の管理、データの保護を誰が行うかも決めます。担当が決まっていなければ、機器を導入しても安定して使い続けるのは難しくなります。

表は横にスクロールできます

契約に含む作業と、自社に残る作業を分けておけば、見積もりの差も理解しやすくなります。機器が同じでも、支援の範囲まで同じとは限りません。

初期費用と運用費を同じ期間で比較

本体以外にかかる費用

購入費だけが導入費用ではありません。設置やネットワークの整備、ライセンス、電気や冷却、保守、運用にかかる人の費用など、必要な項目を見積もりへ含めます。

外部サービスも、表示された基本料金に何が含まれるかを確認します。保存容量やデータ転送、追加機能の料金が別になることもあります。機種別の価格を調べる前に、比較する費目をそろえると判断しやすくなります。

本体価格の見方や費用の内訳は、GPUサーバーの価格もあわせて確認してください。

利用期間と稼働時間を揃える

月額料金と購入価格をそのまま並べても、どちらが合うかは分かりません。同じ期間に、同じ量の処理を行う前提で比べます。検証だけの短い利用と、継続して使う本番運用でも条件は違います。

購入なら初期支出に維持費を加え、外部サービスなら実際の契約に沿った料金を積み上げます。使わない時間の課金や、更新・解約時の費用も確認します。

将来の稼働時間や売却額が決まっていないなら、確定した数字と仮定を分けます。利用が増える場合と減る場合の両方を見れば、一つの予想だけで設備を抱える判断を避けやすくなります。

税務は契約と使い始めた時期から確認

設備代を使う期間に分けて費用にするのが減価償却です。法人が設備を購入した場合も、支払った金額と、その期の費用にする償却費は分けて考えます。

損金は、法人税を計算する際の税務上の費用です。GPUという名称だけで、購入日に全額を損金にできるわけではありません。

減価償却では、設備を本来の目的に使い始めた時期も確認します。国税庁は「事業の用に供した日」について、次のように説明しています。

本来の目的のために使用を開始するに至った日

国税庁「No.5400-2 事業の用に供した日」より一部抜粋

搬入や支払いだけで判断せず、契約内容、設備の区分、実際の使用状況、適用する償却方法や制度を税理士と確認します。費用が増えること、税額が減ること、手元の現金が残ることも同じではありません。

優遇税制の条件はGPUサーバー節税の要件、運用委託や貸付などの契約と収支はGPUサーバー投資の仕組みで確認できます。個人の所得税の扱いは、法人と分けて検討が必要です。

参考：国税庁「No.5410 減価償却資産の償却限度額の計算方法」

導入を考える際は、用途、見積もり、利用する期間に加え、会社の利益や決算時期、投資後も残したい資金を整理しておきましょう。必要な設備投資と、ほかの節税候補を同じ資金計画の中で比べる材料になります。

GPUサーバーでよくある質問