ショート動画でGPUを知った人が、CPUとの違いとAIで使われる理由をつかむための記事です。
GPU（Graphics Processing Unit）は、似た計算を同時に大量処理するのが得意な半導体です。もともとは画面を描く計算のために発達しました。その並列処理の力が、現在は生成AIの大量計算にも生かされています。
CPU、メモリ、保存場所の関係から確認したい方は、先にCPU・メモリ・ストレージの違いを読むと理解しやすくなります。
この記事でわかること
- GPUは何をする半導体か
- なぜ画像処理からAIへ広がったか
- CPUとGPUはどう協力するか
- GPUが得意でない仕事
- HBM・職種とのつながり
最初に覚える一文
GPUは、似た計算を同時に大量処理するのが得意だから、AIで使われます。
GPUとは何をする半導体？
GPUって、ゲームの映像をきれいにする部品ではないんですか？
出発点は画像処理じゃ。画面を作るには、多数の画素へ似た計算を繰り返す必要がある。
同じ種類の仕事を、大勢で分担する工場のようなイメージですね。
そうじゃ。ただし工場は、並列度をつかむためのたとえ。実際には多数の処理単位が協調して計算する。
CPUも複数の処理を並行できます。GPUの特徴は、より多くの処理を同時に進め、全体の仕事量を大きくする方向へ設計されていることです。
ここまでの一言まとめ：GPUは、似た計算を大量に並列処理するのが得意です。
なぜ画像処理からAIへ広がったのか
画面を描く計算と、生成AIの計算は別物に見えます。
目的は違うが、数字の組み合わせへ似た計算を何度も行う点では、GPUの並列処理を生かしやすい。
画像で育った大量計算の仕組みが、AIにも使われたんですね。
その理解でよい。ただしAIの処理すべてが同じ計算という意味ではなく、並列化しやすい部分をGPUへ任せる。
ここまでの一言まとめ：画像処理で育った並列計算の強みが、AIの大量計算にも合いました。
GPUは、なぜゲーム用からAIの主役になったのか
GPUは、最初からAIのために作られたんですか？
違うんじゃ。3Dゲームでは、多数の画素に似た計算を一斉に行う必要があった。その要求が、GPUの大量並列計算を育てたんじゃよ。
GPUを大きく育てたのは、AIではなく3Dグラフィックスの要求でした。 3Dの映像を滑らかに描くには、立体の形や画面を構成する多くの画素について、似た計算を短い時間で何度も進めなければなりません。その必要性に応える中で、GPUは大量の計算を並列に進める方向へ発達しました。
でも、ゲーム用の部品を研究者がそのままAIの計算に使えたんですか？
最初は画像処理向けで、自由な計算には使いにくかった。そこでNVIDIAを率いるジェンスン・フアンらの時代にCUDAが登場し、一般的な並列計算へ使う入口が開いたんじゃ。
CUDAは、「絵を描く部品」を研究の計算へ開きました。 GPUに計算能力があっても、研究者が扱いにくければ広く使われません。CUDAによって、GPUの並列性を科学や研究の計算へ生かしやすくなりました。
入口ができただけで、AIにも向くと分かったんですか？
価値を具体的に示したのが、2012年のAlexNetじゃ。Alex Krizhevskyらは2枚のGeForce GTX 580を使い、大規模画像認識でGPUの有効性を成果として見せたんじゃよ。
AlexNetによって、ゲーム用に育った能力がAIにも使えると証明されました。 NVIDIAが用意した計算の入口と、研究者による実証がつながったことで、GPUはAIの計算基盤へ広がっていきました。
GPUがAIのために生まれたのではありません。ゲームが育て、CUDAが扉を開き、AlexNetがAIで使えると証明したのです。
CPUとGPUはどう協力する？
AI用のパソコンなら、CPUを外してGPUだけでも動きますか？
それはできん。CPUが全体を動かし、GPUへ向く計算を渡す。GPUは受け取った大量計算を進める。
CPUが指揮し、GPUが大量計算を担当する役割分担ですね。
さらにGPUへデータを届けるメモリと、両者を使うソフトウェアも欠かせない。
GPUを働かせ続けるには、計算に必要なデータを十分な速さで渡す必要があります。AI向けGPUでHBMが注目されるのは、広い帯域で大量のデータを届ける役割があるためです。
ここまでの一言まとめ：CPUとGPUは競争相手ではなく、得意な仕事を分担する仲間です。
ここから先は、苦手な場面、メモリ、仕事とのつながりまで知りたい人向けです。基本だけ知りたい方は、まとめへ進んでも問題ありません。
GPUなら何でも速くなるわけではない
GPUの強みを生かすには、仕事を並列に分けやすいこと、必要なデータを十分に供給できること、GPU向けにソフトウェアが作られていることが重要です。
| 仕事の特徴 | 向きやすい処理 | 理由 |
|---|---|---|
| 判断や分岐が多く、順序が重要 | CPU | 複雑な制御と一つ一つの処理を速く進める設計が生きる |
| 似た計算を大量に分けられる | GPU | 多数の処理を同時に進め、全体の仕事量を増やしやすい |
| 実際のAIシステム | CPU・GPU・メモリ | 制御、計算、データ供給を組み合わせる必要がある |
注意： 実際の速さはGPUの有無だけで決まりません。処理内容、メモリ、ソフトウェア、消費電力など、システム全体で変わります。
GPUとHBMはなぜセットで語られる？
GPUが同時に多くの計算を進めるほど、材料となるデータも大量に必要になります。そこで重要になるのがメモリ帯域、つまり一定時間にどれだけのデータを運べるかです。
HBMは、複数のDRAMダイを積層し、GPUなどの近くへ実装して広い帯域を得るメモリです。GPUとHBMの関係は、HBMとは何かで図解しています。
GPUを支える仕事は設計だけではない
GPUという一つの製品の周りにも、装置、材料、製造、検査、実装、品質、ソフトウェアの仕事があります。まず業界全体の地図を見たい方は、半導体初心者ロードマップへ戻ると、工程や職種へ順番に進めます。
まとめ
まず覚える3点
- GPUは、似た計算を同時に大量処理するのが得意
- 画像処理で育った並列計算の力が、AIの大量計算にも合った
- CPU・GPU・メモリ・ソフトウェアの役割分担でAIが動く
GPUについてよくある質問
GPUはAIのために発明されたのですか？
いいえ。GPUは3Dグラフィックスなどの画像処理で発達しました。そこで育った大量並列計算の能力が、CUDAなどによって一般の計算へ使いやすくなり、後にAIへ広がりました。
ゲーム用GPUとAI向けGPUは同じものですか？
基本となる並列処理の考え方には共通点がありますが、同一ではありません。AI向け製品では、AIで多用する演算、メモリ帯域、製品同士の接続、ソフトウェアなどが用途に合わせて強化されています。
GPUがあれば、どんな処理でも速くなりますか？
いいえ。似た計算を多くの仕事へ分けられるときに強みを発揮します。判断や分岐が多い処理、データ供給が追いつかない処理では、GPUを追加するだけで速くなるとは限りません。
次の一歩
GPUへ計算データを届ける仕組みまで知りたい方は、HBMの図解記事へ進んでください。動画で見たテーマを順番に学びたい方は、半導体初心者ロードマップから続けられます。
参考資料
- NVIDIA: Corporate Timeline
- NVIDIA: Jensen Huang
- Krizhevsky, Sutskever, Hinton: ImageNet Classification with Deep Convolutional Neural Networks
- NVIDIA: CUDA Programming Guide – Introduction
- Intel: CPU vs. GPU: What’s the Difference?
