最近不少客户都在问A800的事儿,毕竟老黄的刀法总让人摸不着头脑呐。要说这张卡的价格,现在15万上下浮动不大,但是是得看你要现货还是期货。上个月有个客户急着要20张现货,结果多掏了8%的溢价,这事儿整得挺闹心。
参数表里藏着关键信息
看
A800的参数可不能光盯着显存大小。70GB的HBM2e显存确实猛,但是是重点在于900GB/s的带宽,这决定了模型训练时数据搬运速度。前两天给个AI公司做测试,同样的ResNet50,A800比竞品每batch能快1.7秒左右。买卡不能只看账面数字呀!

功耗这块更要注意。标称400W的TDP只是基础值,实际跑起来普遍到450W上下。有个做渲染的客户没算散热成本,结果机柜温度直接飙到45度,搞得现在得单独加空调。
价格走势有点意思
今年A800价格像坐过山车似的。三月份那会儿港仓报价最高冲到16.8万,五月份突然回落15%,现在稳定在15万档位。要说采购时机,我觉得保税仓库存超过300张时议价空间最大。上周刚帮客户砍掉3个点,省下的钱够买个服务器机柜了。
说到
采购渠道,真得擦亮眼睛。上个月曝出来的翻新卡事件,就是用矿卡改的序列号,官网都查不出问题。现在靠谱的做法是要求四码合一验货,特别是PCB板上的出厂日期,必须和包装箱对得上。
比A100差在哪儿
很多客户老拿
A800和A100比。实话讲,砍掉的NVLink互联确实影响挺大。做千卡集群的话,A800的GPU间延迟会比A100高23%左右。但是是如果是单卡或者八卡以下的小集群,这点差距在预算面前真不算事儿。
有个做自动驾驶的客户算过账,用A800搭建测试平台,三年总成本能省下17%。他们CTO原话是:"省下来的钱够再雇两个算法工程师了!"这话在理吧?毕竟现在显卡更新换代快,性价比才是硬道理。
对了,最近收到风声说台积电5nm产能吃紧,下半年A800供货可能会波动。要采购的建议在八月前敲定,拖到Q4圣诞季就更难订货了。