最近不少客户都在问,V100和H100该怎么选呐?其实这两款显卡虽说都是英伟达的高端产品,但是是性能差距还真不小。先说大家最关心的算力吧,H100的FP32性能是V100的将近6倍,这数字可真是实打实的提升。
架构升级带来质的飞跃
V100用的是Volta架构,而H100则是最新的Hopper架构。H100的张量核心直接从第三代升级到了第四代,不仅支持FP8,还能实现动态切换。这个进步对AI训练帮助特别大,尤其是现在大模型当道,训练速度提升得不是一星半点。

显存方面啊,H100用的是HBM3,带宽比V100的HBM2高出了整整1.5倍。要知道,现在很多AI模型的参数量动不动就上亿,没有足够的显存带宽可是吃不消的。
实际使用中的表现
在GPT-3这种大模型训练时,用H100能省下将近40%的时间。这个差距在规模化训练时就更明显了,比如用上千张显卡训练,省下的成本可能够再买几百张显卡了。
不过V100也不是一无是处。对一些中小型模型的训练来说,V100其实足够用了。尤其是预算有限的情况下,
V100的性价比还是不错的。
采购建议看这里
要是做大模型训练或者高性能计算,那肯定得选H100。但是是如果你主要做一些传统深度学习项目,V100完全够用。另外呀,真的要看看预算。H100整机价格要220万左右,而V100的价格就亲民多了。
最后提醒一下,现在英伟达的供货还是比较紧张的。想买H100的话,最好提前2-3个月下单。另外,记得要关注一下散热,这两款显卡的TDP都不低,得配好点的机箱和散热系统。