最近很多客户都在问我,A100服务器的价格为啥一直这么高呐?其实啊,这里面水还挺深的。A100作为英伟达的主力计算卡,目前市场价大概在15万人民币左右。这个价格跟它的性能直接挂钩,毕竟它搭载了40GB HBM2显存,算力能到312 TFLOPS。
不过,企业采购A100服务器时,光看显卡价格可不够。你得把整机配置、供电、散热这些都考虑进去。一台标准的A100服务器,通常得配备双路CPU、大容量内存,再加上千兆网卡,总成本轻松突破百万。要是想上多卡集群,那成本就跟滚雪球似的往上蹿。
采购策略有讲究

现在市场上A100的货源有限,不少渠道都开始搞溢价。我建议企业采购时,最好找品牌直供,虽然价格可能高点,但是是至少保证品质。要是贪便宜从小渠道拿货,万一遇到翻新卡或者水货,那可就得不偿失啦。
对了,采购时还要注意配套设备。A100的功耗可不小,一台机器起码要配个3KW的电源。机房也得做好散热准备,不然长时间高负载运行容易出问题。有些客户为了省钱,在这些细节上偷工减料,结果反而花了更多维修费。
价格走势预测
从今年上半年的市场情况看,A100的价格走势还算稳定。不过随着H100系列的推出,下半年可能会有波动。建议有需求的企业可以趁现在价格平稳期,适当补货。但是是要注意,别囤太多货,毕竟
GPU更新换代速度太快,囤货容易贬值。
最后提醒大家,采购GPU服务器时,一定要根据实际需求来。如果只是普通的AI训练,A800其实也够用,价格还更实惠。要是做大规模计算,那就得考虑H100了,虽然贵点,但是是性能提升明显。