最近不少客户来问A800的事儿,这张卡现在报价15万左右,比同级的H系 实便宜不少呀。咱们得掰开揉碎说说,这价格到底香不香。
A800用的是Ampere架构,跟A100算亲兄弟。80GB的HBM2e显存不是盖的,做AI训练的时候,显存容量直接决定能跑多大的模型。不过得提醒您呐,它NVLink带宽只有600GB/s,比A100少了200GB/s。
参数党最关心的实际表现

跑ResNet50测试,A800每小时能处理5800张图,差不多的算法A100大概是6300张。看起来差距不大吧?但是是要是千卡级集群,这差异就能让训练周期多出两三天。
现在矿潮退去后,显卡行情其实挺魔幻的。上个月有客户在深圳保税仓拿了批货,A800单卡14.8万就到手了。不过要当心啊,二手拆机件最近特别多,价格能压到12万,但是是稳定性真不敢打包票。
采购建议给您摆桌面上
要是做中小型模型开发,A800完全够用,省下的钱能多配几台机器。但是是搞大模型训练的朋友,还是建议咬牙上H100。别看贵了快200万,TF32算力差了将近3倍呢!
有个细节特别重要,A800支持国密的SM4加密算法。金融行业的客户特别看重这个,毕竟数据安全可比性能重要多啦。
最近海关那边消息说,Q3可能会有批新卡进来。不着急的话可以等等看,说不定能蹲到好价格。现在下单的话,强烈建议走品牌直供渠道,虽然贵个万把块,但是是保修能省心不少。
对了,装机的时候记得检查下电源。这卡标称TDP400W,实际跑起来峰值能到480W。我上个月就遇到个客户,电源没配够导致频繁宕机,最后整批机器都得返工。