GPUスペック比較(nVIDIA)

 今回は「自分用に自腹でグラフィックカードを買ってTensorFlowを回す場合、どれが適切か」についてざっくりと私見を述べる回です。


 本来ならどんな目的でTensorFlowを回すのかに依存するわけですが、自宅ではGoogleが公開している「NLP」「CV」「GANs」の標準的モデル育成に用いると仮定します。なお、私見を述べるにあたっては下記の要件がある状況を想定します。

  • これまではGoogle Colabでモデルのトレーニングを中心とする重い処理を回していた
  • しかし、Google Colabの12時間セッション制限では十分ではなく
  • 従量課金制であるCloudMLはまだ怖くて使えず
  • 自分の手元の計算機環境で12時間を超える処理を
  • そこそこの予算で
  • Tesla T4と同等かそれ以上で行いたい

 下記にGoogle Colabで利用できるグラフィックカード(Tesla T4またはTesla K80)およびnVIDIAのRTX以降のグラフィックカードの主な特性を一覧表に示します。

Pros, Cons
Name
Release Date
GPUCUDA
Cores
MemoryPowerPrfrmnc vs. T4USD
QtyTypeCapacityBandwidth
TITAN RTX
Dec 2018
1TU1024,60824 GB GDDR6672 GB/s280 W169 %2,500
RTX 2080 TI
Sep 2018
1TU1024,35211 GB GDDR6616 GB/s250 W139 %1,200
RTX 2080 SUPER
Jul 2019
1TU1043,0728 GB GDDR6496 GB/s250 W126 %700
RTX 2080
Sep 2018
1TU1042,9448 GB GDDR6448 GB/s215 W118 %800
RTX 2070 SUPER
Jul 2019
1TU1042,5608 GB GDDR6448 GB/s215 W111 %500
RTX 2070
Oct 2018
1TU1062,3048 GB GDDR6448 GB/s175 W101 %600
Tesla T4
Sep 2018
1TU1042,56016 GB GDDR6320+ GB/s70 W100 %3,300
RTX 2060 SUPER
Jul 2019
1TU1062,1768 GB GDDR6448 GB/s175 W97 %400
RTX 2060
Jan 2019
1TU1062,1768 GB GDDR6448 GB/s175 W86 %350
Tesla K80
Nov 2014
2GK2104,99224 GB GDDR5480 GB/s300 W51 %600

Table. Spec Comparison of nVIDIA Graphic Cards

1. ネットで手に入る「Tesla T4」や「Tesla K80」は買いか?

 No. T4は非常に魅力的だが高すぎるし、K80は$600程度でeBayで売られているがパフォーマンスがT4の50%程度(論理値)であるにもかかわらず消費電力が大きすぎる。

2. どのグラフィックカード以上がT4より速いのか?

 RTX 2070以上。価格の逆転現象を考えればRTX 2070 SUPER以上を買えばT4に勝る処理速度を自宅で得られる。

3. RTX 2060/2070/2080に存在価値はあるのか?

 SUPERと価格の逆転現象が起きた以上、存在意義は無い。

4. どのグレードまで高いグラフィックカードを買えば良いのか?

 個人でTitan RTXは頑張りすぎ。気合十分ならRTX 2080 TIを、速さとコストのバランス重視ならRTX 2080 SUPERを、コスト重視ならRTX 2070 SUPERがオススメ。


 今回は自分用にTensorFlow用に自腹で購入するグラフィックカードの選択指針について私見を述べました。Deep Learningは「どれだけ処理が早いか」よりも「どんなデータを学習させるか」や「どのようなアルゴリズムで精度を出せるか」の方が市場的には大事です。あまり過剰にお金を使い込まないように賢くお付き合いしていきましょう。

0
Would love your thoughts, please comment.x
()
x