トレーニングフェーズの後、GPUまたはCPUでニューラルネットワークを実行する方が良いですか？

7

私の理解では、GPUの方がニューラルネットを実行する方が効率的ですが、最近誰かがGPUはトレーニングフェーズでのみ必要であると提案しました。いったんトレーニングされると、CPUで実行する方が実際にはより効率的です。

これは本当ですか？

neural-network  deep-learning  gpu 
— クラシャロット
ソース

回答:

8

これは、ニューラルネットワークアーキテクチャ（CNNはGPU上のRNNよりも最適化される傾向がある）などの多くの要因と、ニューラルネットワークへの入力として与えるテストサンプルの数に依存します（GPUは、単一のサンプルではなくサンプル）。

例として、さまざまなCNNベースのアーキテクチャでCPUとGPUを比較するベンチマークを次に示します。その場合、CPUでの転送パスははるかに遅くなります。

ここに画像の説明を入力してください

FYI：異なるGPU間のパフォーマンスを比較するためのニューラルネットワークライブラリに基づくベンチマーク

— フランク・ダーノンコート
ソース
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.