有人拿当今最强GPUA6000和3090做了性能对比，网友：都买不起

机器之心报道
【有人拿当今最强GPUA6000和3090做了性能对比，网友：都买不起】编辑：泽南
又到了人们喜闻乐见的显卡对决时间。
虽然如今人们用来训练深度学习的GPU大多出自英伟达，但它旗下的产品经常会让人在购买时难以抉择。
去年12月，英伟达将专业图形加速显卡产品线更新至安培架构，其中最高端的RTXA6000是最被人关注的一款。

文章图片
在基本规格上， A6000基于完整的GA102GPU核心打造，内建10752个CUDA核心和第三代TensorCore ，单精度浮点性能达到了38.7TFLOPs 。它的显存容量达到48GB ，类型是GDDR6（16Gbps ， GDDR6X因为单芯片容量低而未使用），支持ECC校验。
A6000采用了传统涡轮直吹风扇设计，可搭建96GB显存的双卡系统， PCIe4.0x16插槽，提供4个DP1.4接口（没有HDMI），额定功耗300W 。这款显卡的定价为5500美元（约合3.6万元）。
而更早推出的旗舰消费级显卡RTX3090无论是从性能还是能效都达到了前代产品的两倍，在开始出售的一段时间因为芯片产能受限等问题而一卡难求。
作为游戏玩家和深度学习从业者眼中目前最强大的显卡， 3090拥有10496个CUDA核心， FP32浮点性能为35.6TFLOPs 。它的显存容量为24GB ，材质也是最贵的GDDR6X ，又因为支持HDMI2.1而可以实现4k高刷新率或8k游戏，额定功耗350W 。 RTX3090的售价是1500美元（国行公版11999元）。

文章图片
对这两款显卡进行评测的Lambda是一家构建深度学习服务器的公司，他们提供专用的AI训练计算机，也经常发布深度学习硬件的测评。在这次评测中，人们对这些顶级GPU在深度学习框架PyTorch上的模型训练速度进行了对比。
A6000对3090 ，这是英伟达两条产品线上最强显卡的对决，身处深度学习实验室的你当然希望知道它们孰优孰劣。不过讲道理，看到这个标题第一反应还是买不起：

文章图片
听君一席话如同听君一席话，总之还是买不起。
从评测结果上来看，买RTXA6000花上三倍的钱并不能让你在深度学习的任务上获得多少优势：
所以，看来如果想在深度学习任务上展现A6000的能力，还需要多买几块GPU 。
3090和A6000在PyTorch卷积神经网络训练上的能力对比

文章图片
如图所示，使用单块RTXA6000进行图像模型的32位训练时要比使用单块RTX3090稍慢。但由于GPU之间的通信速度更快，显卡越多则A6000优势越明显。视觉模型的测试成绩是在SSD、ResNet-50和MaskRCNN上取平均值得出的。
3090和A6000在PyTorch框架上训练语言模型的能力对比

文章图片
与图像模型不同，对于测试的语言模型， RTXA6000始终比RTX3090快1.3倍以上。这可能是由于语言模型对于显存的需求更高了。与RTX3090相比， RTXA6000的显存速度更慢，但容量更大。语言模型的测试结果是Transformer-XLbase和Transformer-XLlarge的平均值。
请注意，在这里GPU的并联都使用了NVLink而不是SLI 。不过根据硬件本身的机制，如果使用SLI性能损失会更大，所以并没有理由使用后者。
Lambda开放了此次测评的代码：https://github.com/lambdal/deeplearning-benchmark
看到这里，你应该能找到自己的GPU选择了。未来，这家公司还将计划使用和本次测试同样的内容，研究3080Ti的深度学习能力。