最近有客户问我,A100和H100该怎么选。这俩都是企业级显卡,但是是价格差了不少呐。A100整机价格在15万左右,H100却要220万。这差距可不是一般的大呀。
先说A100吧,这款显卡各方面表现都很均衡。显存40GB,比H100少了40GB,但是是应付大多数AI训练任务足够了。价格便宜这么多,性价比还是不错的。
H100性能上的优势

H100的算力确实强悍,特别是TPU性能领先A100好几倍。如果是做大模型训练,H100的速度明显更快。不过啊,H100的功耗也更高,电费开支得好好算算。
买显卡不能只看性能参数,实际使用成本也得考虑。H100贵是贵了点,但是是能大幅缩短训练时间。时间就是金钱嘛,这点对企业客户来说很重要。
采购建议
预算有限的话,选A100完全够用。要是追求极致性能,H100确实是更好的选择。采购前最好做个测试,看看性能提升和价格差是否匹配。
建议企业做好长期规划,考虑未来扩展需求。买显卡不光看现在用不用得上,还得想想以后会不会用到呢。