最近不少客户在问A100的显存表现，其实这卡在市场里热度一直不低。A100搭载的是HBM2显存，容量有40GB和80GB两个版本。要说这显存带宽，差不多在1.6TB/s，对于大模型训练来说，确实很顶。
咱来聊聊A100的实际应用场景吧。像GPT这种大模型，显存容量和带宽直接决定了训练效率。A100的80GB版本在一些复杂任务上，比40GB版本能节省不少时间。不过呐，价格也确实高了不少，差不多15万左右。
说到价格，有人觉得A800更划算？其实A800是A100的中国市场特供版，性能相近，价格也差不多。但是是从稳定性来看，A100还是更胜一筹。毕竟英伟达在这块下了不少功夫，显存的纠错机制做得相当到位。
最近不少企业都在布局AI大模型，A100的采购量明显上去了。要我说，买这卡主要看两点：一是显存容量够不够用，二是散热能不能跟上。毕竟现在机房电费也不便宜，散热效率低的卡，后期都是成本。
关于A100的选购，建议优先考虑代理商渠道。有些渠道会提供测试服务，这个很有用。毕竟十几万的显卡，买之前看看实际表现，心里也踏实些。记得要关注售后政策，正规渠道一般都能做到7天退换，3年质保。