GPUスペック比較(nVIDIA)

 今回は「自分用に自腹でグラフィックカードを買ってTensorFlowを回す場合、どれが適切か」についてざっくりと私見を述べる回です。


 本来ならどんな目的でTensorFlowを回すのかに依存するわけですが、自宅ではGoogleが公開している「NLP」「CV」「GANs」の標準的モデル育成に用いると仮定します。なお、私見を述べるにあたっては下記の要件がある状況を想定します。

  • これまではGoogle Colabでモデルのトレーニングを中心とする重い処理を回していた
  • しかし、Google Colabの12時間セッション制限では十分ではなく
  • 従量課金制であるCloudMLはまだ怖くて使えず
  • 自分の手元の計算機環境で12時間を超える処理を
  • そこそこの予算で
  • Tesla T4と同等かそれ以上で行いたい

 下記にGoogle Colabで利用できるグラフィックカード(Tesla T4またはTesla K80)およびnVIDIAのRTX以降のグラフィックカードの主な特性を一覧表に示します。

Pros, Cons
Name
Release Date
GPU CUDA
Cores
Memory Power Prfrmnc vs. T4 USD
Qty Type Capacity Bandwidth
TITAN RTX
Dec 2018
1 TU102 4,608 24 GB GDDR6 672 GB/s 280 W 169 % 2,500
RTX 2080 TI
Sep 2018
1 TU102 4,352 11 GB GDDR6 616 GB/s 250 W 139 % 1,200
RTX 2080 SUPER
Jul 2019
1 TU104 3,072 8 GB GDDR6 496 GB/s 250 W 126 % 700
RTX 2080
Sep 2018
1 TU104 2,944 8 GB GDDR6 448 GB/s 215 W 118 % 800
RTX 2070 SUPER
Jul 2019
1 TU104 2,560 8 GB GDDR6 448 GB/s 215 W 111 % 500
RTX 2070
Oct 2018
1 TU106 2,304 8 GB GDDR6 448 GB/s 175 W 101 % 600
Tesla T4
Sep 2018
1 TU104 2,560 16 GB GDDR6 320+ GB/s 70 W 100 % 3,300
RTX 2060 SUPER
Jul 2019
1 TU106 2,176 8 GB GDDR6 448 GB/s 175 W 97 % 400
RTX 2060
Jan 2019
1 TU106 2,176 8 GB GDDR6 448 GB/s 175 W 86 % 350
Tesla K80
Nov 2014
2 GK210 4,992 24 GB GDDR5 480 GB/s 300 W 51 % 600

Table. Spec Comparison of nVIDIA Graphic Cards

1. ネットで手に入る「Tesla T4」や「Tesla K80」は買いか?

 No. T4は非常に魅力的だが高すぎるし、K80は$600程度でeBayで売られているがパフォーマンスがT4の50%程度(論理値)であるにもかかわらず消費電力が大きすぎる。

2. どのグラフィックカード以上がT4より速いのか?

 RTX 2070以上。価格の逆転現象を考えればRTX 2070 SUPER以上を買えばT4に勝る処理速度を自宅で得られる。

3. RTX 2060/2070/2080に存在価値はあるのか?

 SUPERと価格の逆転現象が起きた以上、存在意義は無い。

4. どのグレードまで高いグラフィックカードを買えば良いのか?

 個人でTitan RTXは頑張りすぎ。気合十分ならRTX 2080 TIを、速さとコストのバランス重視ならRTX 2080 SUPERを、コスト重視ならRTX 2070 SUPERがオススメ。


 今回は自分用にTensorFlow用に自腹で購入するグラフィックカードの選択指針について私見を述べました。Deep Learningは「どれだけ処理が早いか」よりも「どんなデータを学習させるか」や「どのようなアルゴリズムで精度を出せるか」の方が市場的には大事です。あまり過剰にお金を使い込まないように賢くお付き合いしていきましょう。

0
Would love your thoughts, please comment.x
()
x