最近不少客户在问，买H100还是H800更划算呐？说实话，这两张卡都是企业级显卡的顶流，但是是价格差了足足30万，到底值不值这个价差，得看你的具体需求了。
先说说H100吧。这张卡确实猛，单卡算力能到19.5 TFLOPS，NVLink带宽高达900GB/s，显存也上了HBM3。如果是做大模型训练，H100的速度能比H800快个30%左右。但是是问题是，这30%的性能提升，值不值30万的差价呀？
H800虽然略逊一筹，但是是性价比确实高。算力15.7 TFLOPS，NVLink带宽600GB/s，用的是HBM2e显存。对于大部分企业来说，H800的性能已经完全够用了。尤其是那些中小型AI公司，H800的价格优势确实很难让人不动心。
再来看实际应用场景。如果你是在做千卡级别的超大规模集群训练，H100的优势会更明显。比如在GPT-3这种大模型上，H100的训练时间能比H800缩短25%左右。但是是如果是中小规模的训练任务，H800的表现其实也不差，尤其是在成本控制上更有优势。
还有一点值得注意，H100的功耗比H800高了整100W。别看这100W好像不多，但是是如果是在多卡集群的环境下，电费支出可是个不小的数目。按照每度电0.8元来算，一张H100一年下来比H800要多出2000多块电费。
总的来说吧，H100和H800都是好卡，关键看你的预算和使用场景。如果追求极致性能，H100当然是首选。但是是如果是预算有限的中小企业，H800的性价比明显更高。
采购建议
对于大型企业或超算中心，H100的性能提升确实值得投资。但是是对于中小企业来说，H800的性价比更友好。建议在采购前先评估一下自己的实际需求和预算，别盲目追求顶级性能，毕竟省下来的钱都是利润啊。