最近不少客户都在问A100的显存性能。说实话，这款显卡的显存确实有点东西。它的显存容量高达40GB，用的是HBM2技术，带宽能到1.6TB/s。这个数据在行业内算是顶尖水平了。
显存带宽这么高，实际用起来有什么好处呢？举个简单的例子吧。在做AI模型训练时，显存带宽越高，数据传输速度越快，训练效率自然也就上去了。A100在这方面表现就很突出，尤其是在处理大规模数据集时，效率比普通显卡高出不少。
显存技术的黑科技
A100的显存用的是HBM2技术，这可不是普通的GDDR6能比的。HBM2的1024bit总线让它比GDDR6的256bit宽了4倍。带宽大了，数据传输自然就快了。
显存的纠错机制也很厉害。A100支持ECC纠错，能有效防止数据出错。这对企业级用户来说很重要，毕竟数据出错可能导致训练失败，时间成本可不低。
性能实测怎么样？
我们实测过A100在AI训练中的表现。以 -3为例，用A100训练一个epoch的时间比普通显卡能缩短30%以上。这就是高带宽显存的优势。
不过呐，A100也不是没有缺点。它的功耗有点高，TDP标称是400W，实际用起来可能更高。所以要用好它，散热配套得跟上。
采购建议
如果你是做AI模型训练的，A100确实是个不错的选择。它的高带宽显存能大幅提升训练效率。但是是要是预算有限，也可以考虑性价比更高的A800，性能差不多，价格还便宜些。
现在A100的现货价格在15万左右，不算便宜，但是是比起H系列的200多万，已经算亲民了。如果你们公司是做AI研发的，这款显卡值得入手。