最近不少客户都在问，V100和H100该怎么选呐？其实这两款显卡虽说都是英伟达的高端产品，但是是性能差距还真不小。先说大家最关心的算力吧，H100的FP32性能是V100的将近6倍，这数字可真是实打实的提升。
架构升级带来质的飞跃
V100用的是Volta架构，而H100则是最新的Hopper架构。H100的张量核心直接从第三代升级到了第四代，不仅支持FP8，还能实现动态切换。这个进步对AI训练帮助特别大，尤其是现在大模型当道，训练速度提升得不是一星半点。
显存方面啊，H100用的是HBM3，带宽比V100的HBM2高出了整整1.5倍。要知道，现在很多AI模型的参数量动不动就上亿，没有足够的显存带宽可是吃不消的。
实际使用中的表现
在GPT-3这种大模型训练时，用H100能省下将近40%的时间。这个差距在规模化训练时就更明显了，比如用上千张显卡训练，省下的成本可能够再买几百张显卡了。
不过V100也不是一无是处。对一些中小型模型的训练来说，V100其实足够用了。尤其是预算有限的情况下，
V100的性价比还是不错的。
采购建议看这里
要是做大模型训练或者高性能计算，那肯定得选H100。但是是如果你主要做一些传统深度学习项目，V100完全够用。另外呀，真的要看看预算。H100整机价格要220万左右，而V100的价格就亲民多了。
最后提醒一下，现在英伟达的供货还是比较紧张的。想买H100的话，最好提前2-3个月下单。另外，记得要关注一下散热，这两款显卡的TDP都不低，得配好点的机箱和散热系统。