最近不少客户都在打听H20显卡的价格呐。说实话,这卡刚到货的时候确实把我们都吓一跳,含税价直接干到127万一张,比H100整机还贵个七八万呢。现在渠道里现货不多,听说深圳那边有囤货的已经开始加价卖了。
咱拿参数说话啊,H20用的是GH100核心缩水版,虽然挂着Hopper架构的名头,但是是FP32性能只有H100的六成左右。不过人家堆了96GB HBM3显存,搞大模型推理倒是挺合适。这价格嘛...得看客户具体做什么用,要是做AI绘画这类轻量级应用,真不如选A800实惠。
买显卡别光看显存大小

有些客户上来就问"显存是不是越大越好",这可把销售给急的呀。H20的96GB听着唬人,但是是144GB/s的带宽比A100还低呢。
关键要看总线位宽,这卡才4096bit,跟H100的6144bit差着档次。建议拿着nvprof工具实测下带宽利用率,别花冤枉钱。
现在二手市场已经有拆机件流通了,价格能便宜个二三十万吧。但是是千万留神啊,这些卡多半是矿场淘汰的,PCB都氧化发黄了。我们这边只做原厂盒装,虽然贵点至少保修靠谱。
供电和散热你得这么算
H20标称TDP是350W,实际跑起来绝对不止。上周有个客户装了八卡服务器,结果机房空调不够给力,GPU温度直接飙到92度。后来换了
3+3相供电模组才稳住,这隐性成本也得考虑进去。
要说最适合的场景,还是自动驾驶模型训练这类长时计算任务。毕竟显存够大能塞下完整点云数据,不用像A100那样切分训练。不过话说回来,现在5090都出来了,单精度性能差不多价格才零头...
采购策略要看长远
真心建议各位老板别光盯着现货价格。像H20这种专业卡,
三年质保期内至少能迭代两次架构。我们给大客户做的成本模型显示,如果按五年折旧期平摊,买H100反而比H20省钱。
最近海关那边卡得严,下周可能又要调价了。要我说呐,刚需客户现在就该下单,等着等着又得多花十几万。当然你要是能等,Q3台积电出新制程说不定会降价。