今回は「自分用に自腹でグラフィックカードを買ってTensorFlowを回す場合、どれが適切か」についてざっくりと私見を述べる回です。
本来ならどんな目的でTensorFlowを回すのかに依存するわけですが、自宅ではGoogleが公開している「NLP」「CV」「GANs」の標準的モデル育成に用いると仮定します。なお、私見を述べるにあたっては下記の要件がある状況を想定します。
- これまではGoogle Colabでモデルのトレーニングを中心とする重い処理を回していた
- しかし、Google Colabの12時間セッション制限では十分ではなく
- 従量課金制であるCloudMLはまだ怖くて使えず
- 自分の手元の計算機環境で12時間を超える処理を
- そこそこの予算で
- Tesla T4と同等かそれ以上で行いたい
下記にGoogle Colabで利用できるグラフィックカード（Tesla T4またはTesla K80）およびnVIDIAのRTX以降のグラフィックカードの主な特性を一覧表に示します。
| Name Release Date |
GPU | CUDA Cores |
Memory | Power | Prfrmnc vs. T4 | USD | ||
| Qty | Type | Capacity | Bandwidth | |||||
| TITAN RTX Dec 2018 |
1 | TU102 | 4,608 | 24 GB GDDR6 | 672 GB/s | 280 W | 169 % | 2,500 |
| RTX 2080 TI Sep 2018 |
1 | TU102 | 4,352 | 11 GB GDDR6 | 616 GB/s | 250 W | 139 % | 1,200 |
| RTX 2080 SUPER Jul 2019 |
1 | TU104 | 3,072 | 8 GB GDDR6 | 496 GB/s | 250 W | 126 % | 700 |
| RTX 2080 Sep 2018 |
1 | TU104 | 2,944 | 8 GB GDDR6 | 448 GB/s | 215 W | 118 % | 800 |
| RTX 2070 SUPER Jul 2019 |
1 | TU104 | 2,560 | 8 GB GDDR6 | 448 GB/s | 215 W | 111 % | 500 |
| RTX 2070 Oct 2018 |
1 | TU106 | 2,304 | 8 GB GDDR6 | 448 GB/s | 175 W | 101 % | 600 |
| Tesla T4 Sep 2018 |
1 | TU104 | 2,560 | 16 GB GDDR6 | 320+ GB/s | 70 W | 100 % | 3,300 |
| RTX 2060 SUPER Jul 2019 |
1 | TU106 | 2,176 | 8 GB GDDR6 | 448 GB/s | 175 W | 97 % | 400 |
| RTX 2060 Jan 2019 |
1 | TU106 | 2,176 | 8 GB GDDR6 | 448 GB/s | 175 W | 86 % | 350 |
| Tesla K80 Nov 2014 |
2 | GK210 | 4,992 | 24 GB GDDR5 | 480 GB/s | 300 W | 51 % | 600 |
Table. Spec Comparison of nVIDIA Graphic Cards
1. ネットで手に入る「Tesla T4」や「Tesla K80」は買いか？
No. T4は非常に魅力的だが高すぎるし、K80は$600程度でeBayで売られているがパフォーマンスがT4の50%程度（論理値）であるにもかかわらず消費電力が大きすぎる。
2. どのグラフィックカード以上がT4より速いのか？
RTX 2070以上。価格の逆転現象を考えればRTX 2070 SUPER以上を買えばT4に勝る処理速度を自宅で得られる。
3. RTX 2060/2070/2080に存在価値はあるのか？
SUPERと価格の逆転現象が起きた以上、存在意義は無い。
4. どのグレードまで高いグラフィックカードを買えば良いのか？
個人でTitan RTXは頑張りすぎ。気合十分ならRTX 2080 TIを、速さとコストのバランス重視ならRTX 2080 SUPERを、コスト重視ならRTX 2070 SUPERがオススメ。
今回は自分用にTensorFlow用に自腹で購入するグラフィックカードの選択指針について私見を述べました。Deep Learningは「どれだけ処理が早いか」よりも「どんなデータを学習させるか」や「どのようなアルゴリズムで精度を出せるか」の方が市場的には大事です。あまり過剰にお金を使い込まないように賢くお付き合いしていきましょう。