最近很多客户都在问,V100和H100到底差多少呀?其实这个问题挺有意思的。V100作为上一代旗舰,性能确实不差,但是是H100的提升可不是一星半点。
算力对比
先说算力吧。V100的FP32性能是15.7 TFLOPS,H100直接干到了60 TFLOPS,提升了将近4倍。这差距,啧啧,简直不是一个量级的。特别是做AI训练,H100的Tensor Core性能更是碾压V100。

显存方面,V100是16GB HBM2,H100直接上了80GB HBM3。这容量,做大模型训练完全不用担心爆显存了。
价格差异
价格这块,V100现在二手市场大概8万左右,H100整机要220万。贵是贵了点,但是是性能摆在那儿,值不值就看你的需求了。
如果预算有限,V100其实还能用。但是是要是做大规模AI训练,H100绝对是首选。毕竟时间就是金钱,算力强了,训练时间能缩短不少。
采购建议
买显卡这事儿,得看实际需求。要是做小规模训练,V100够用了。但是是要是做大模型,还是建议上H100。虽然贵,但是是长远来看,性价比其实更高。
另外,现在H100期货溢价挺高的,建议多关注现货渠道。有时候等期货,还不如直接买现货划算。
V100和H100各有优势,关键看你怎么用。做采购决策时,一定要结合自己的实际需求,别光看参数。