您的位置:人工智能 > 智能硬件 > GPU选择指南|性价比最高深度学习解决方案要这么选!

GPU选择指南|性价比最高深度学习解决方案要这么选!

【人工智能网】 从不到1k的1050 Ti到数万元的Tesla A100显卡,GPU价钱的跨度这么大,该从何价位动手?谁才是性价比之王?张量中心、显存带宽、16位才能...参数纷繁复杂,让人头昏眼花。所以此次就要让人人深度相识GPU. 1.最主要的参数
 
针对差别深度进修架构,GPU参数的挑选优先级是不一样的,整体来讲分两条路线:
 
卷积收集和Transformer:张量中心(Tensor Core)>FLOPs(每秒浮点运算次数)>显存带宽>16位浮点盘算才能
 
轮回神经收集:显存带宽>16位浮点盘算才能>张量中心>FLOPs
 
下面总结了一张GPU和TPU的规范机能数据,值越高代表机能越好。RTX系列假定用了16位盘算,WordRNN数值是指长度<100的段序列的biLSTM机能。
 
这项基准测试是用PyTorch 1.0.1和CUDA 10完成的。 ▲GPU和TPU的机能数据
2.性价比剖析
 
性价比多是挑选一张GPU最主要的斟酌目标。在攻略中,举行了以下运算测试各显卡的机能:
 
用言语模子Transformer-XL和BERT举行Transformer机能的基准测试。
 
用最先进的biLSTM举行了单词和字符级RNN的基准测试。
 
上述两种测试是针对Titan Xp、Titan RTX和RTX2080 Ti举行的,关于其他GPU则线性缩放了机能差别。
 
借用了现有的CNN基准测试。
 
用了亚马逊和eBay上显卡的均匀售价作为GPU的参考本钱。
 
末了,能够得出CNN、RNN和Transformer的归一化机能/本钱比值,以下所示: ▲CNN、RNN和Transformer的每美圆机能  
在上面这张图中,数字越大代表每一美圆能买到的机能越强。能够看出, RTX 2060比RTX 2070,RTX2080或RTX 2080 Ti更具本钱效益。
 
不过,这类考量体式格局更倾向于小型GPU,且由于游戏玩家不喜欢RTX系列显卡,致使GTX 10xx系列的显卡售价虚高。另外,还存在肯定的单GPU误差,一台有4个RTX 2080 Ti的盘算机比两台带8个RTX 2060的盘算机性价比更高。

3.所需显存与16位练习
 
GPU的显存对某些运用至关主要,比方罕见的盘算机视觉、机器翻译和一部分NLP运用。大概你以为RTX 2070具有本钱效益,但须要注重其显存很小,只要8 GB。
 
不过,也有一些弥补要领。
 
经由过程16位练习,你能够具有险些16位的显存,相称于将显存翻了一倍,这个要领对RTX 2080和RTX 2080 Ti一样实用。
 
也就是说,16位盘算能够节约50%的内存,16位 8GB显存大小与12GB 32位显存大小相称。
  1/ 5     1 2 3 4 5 下一页 尾页
上一篇:高通宣布与华为达成新专利授权,华为将付18亿美元
下一篇:当工业4.0遇上边缘计算,ZBOX助力智能制造加速落地

您可能喜欢