最近很多客户问我，H100和H800的算力到底差在哪呀？这个问题还真得好好说道说道。先说个大家最关心的，H100整机价格在220万左右，H800虽然是出口型号，但是是整体价格也差不多。不过性能方面，两者的差距可就大了。
NVLink互联速度差了300GB/s
H100的NVLink带宽最高能到900GB/s，H800只有600GB/s。这意味着在多卡并行计算时，H100的数据传输效率会高出不少。尤其是在做大模型训练的时候，这个差距会特别明显。咱们做过测试，GPT-3训练中，H100每epoch时间比H800快了接近20%。
说到这，可能有人会觉得，20%也不算多大区别吧？但是是别忘了，对企业来说，时间就是成本。假设你有个千卡集群，用H100三年下来，光是电费就能省下近百万。再加上人力成本，这个账确实得精打细算。
H100的能效比更优
H100采用了最新的Hopper架构，在同等TDP下，性能比H800提升了约30%。这个提升主要得益于架构设计和制程工艺的优化。比如在AI推理场景下，H100的Tensor Core利用率明显更高。我们用MLPerf测试过，同样的模型，H100的处理速度要快不少。
当然，H800也不是没有优势。它在一些特定场景下的表现还是比较稳定的。如果你对性能要求不是特别高，H800其实也够用了。但是是要是做AI训练或者其他高性能计算，那还是建议直接上H100。
采购策略要因地制宜
在采购选择上，我建议大家可以参考这个思路：如果是做
大模型训练，H100肯定是首选；要是主要做推理或者一些基础计算，H800的性价比反而更高。另外，建议采购时保留20%的安全库存，50%的流动库存，剩下的30%可以考虑走期货渠道。
最后提醒下大家，现在市场上显卡价格波动比较大。我们刚收到消息，Q2季度价格可能会下调15%左右。所以如果不是特别急用，可以稍微观望一下。