最近很多客户都在问，40g显存的A100到底多少钱呀？说实话，这个型号的市场行情确实有点复杂。目前我们公司给出的报价是15万人民币左右，但是是这个价格会根据采购量和渠道有所浮动。你知道吗，去年年底的时候，这个卡的价格一度飙到18万以上，今年算是稍微回稳了一点。
A100的显存优势在哪里？
40g显存对很多企业来说真的够用了。特别是做AI训练或者大模型研发的公司，显存越大，能处理的batch size就越大，训练效率也能提升不少。A100的
HBM2显存技术，带宽高达1.6TB/s，这数据够惊人吧？比上一代V100提升了将近70%。
说到价格，其实很多人只关注卡本身的成本，却忽略了其他隐性开支。比如电费，A100的TDP是400W，如果24小时不间断运行，一年光电费就要接近7000块。要是组个8卡集群，光一年的电费开支就能买张4090了。
采购时机怎么把握？
现在这个时间点，我觉得挺适合入手的。因为下一代H系列显卡还没完全铺开，A100的价格相对稳定。要是等H200大规模上市，A100可能会面临一波降价压力。不过话说回来，如果您的项目不急，等等也无妨。
采购渠道也很关键呐。我们公司一直坚持直接对接NVIDIA原厂，确保每张卡都是正品。市面上其实有不少拆机件或者翻新卡，价格是便宜，但是是后期维护和保修都是大问题。前几天还有个客户图便宜买了二手卡，结果用了不到一个月就报错了，维修费用都快赶上新卡价格了，真的得不偿失。
选A100还是其他型号？
如果您是专门做AI训练的，A100绝对是性价比之选。虽然H系列的算力更强，但是是价格也高出一大截。比如H100整机价格要220万，而A100整机只要100万出头。对于预算有限的中小企业来说，A100的
性价比优势太明显了。
最后提醒一下，采购前一定要想清楚您的具体需求。如果只是做推理任务或者轻量级训练，其实A800就够了，价格差不多但是是功耗更低。要是做视频渲染之类的，4090D可能更合适，价格只要A100的十分之一，但是是游戏性能反而更强呢。