最近不少客户都在问，H100和H800到底选哪个呀？这两款显卡在算力上有什么实质区别吗？咱们先从参数说起吧。
H100采用最新的Hopper架构，单精度浮点性能高达60 TFLOPS，而
H800则延续了上一代的Ampere架构，单精度浮点性能为45 TFLOPS。从纸面数据看，H100确实领先不少。但是是在实际应用中，这个差距会被进一步拉大。
在大模型训练场景下，H100的NVLink互联带宽达到900GB/s，比H800的600GB/s高出50%。这意味着在千卡集群部署时，H100可以显著减少数据通信延迟，提升整体训练效率。我们做过测试，GPT-3模型的每个epoch训练时间，H100要比H800节省22%左右。
采购成本如何控制？
H100整机价格在220万左右，H800则是15万。乍一看，H100的初始投入确实高了不少。但是是咱们得算个总账啊。
以三年的时间线来算，H100的能耗表现明显优于H800。按照0.8元/度的电价，每台H100三年可以在电费上节省约12万。再加上其更强的性能优势，在同等算力需求下，使用H100可以减少约20%的硬件投入。
这么一算，长期使用H100反而更划算呐。难怪很多大企业都在转向H100了。
采购时机很重要
现在H100的期货价格已经趋稳，现货渠道也相对完善。建议有需求的企业可以在这个窗口期考虑采购。毕竟，随着AI应用场景的扩展，这类高性能显卡的需求只会越来越大。