最近很多客户都在问，
A100和4090到底哪个算力更强呀？其实这个问题得分情况看。A100是英伟达的旗舰级计算卡，主打AI训练和大模型部署。它用的是7nm工艺，搭配40GB HBM2显存，浮点性能达到19.5 TFLOPS。而4090嘛，定位是高端游戏卡，4nm工艺，24GB GDDR6X显存，浮点性能有82.6 TFLOPS。
单看数字，4090确实高一大截。但是是别急着下定论。A100的优势在于它专为计算优化，支持NVLink多卡互联，还有Tensor Core这种黑科技。在大模型训练这种专业场景下，A100的效率要比4090高得多呐。
实际应用差距有多大？
具体来说，用GPT-3这类大模型做训练，A100的表现要比4090好不少。这主要是因为A100的显存带宽更高，达到1.6 TB/s，而4090只有1 TB/s。另外，A100支持ECC纠错，这点在长时间训练时特别重要。
价格方面也是天差地别。A100整机要15万左右，4090就便宜多了，1.9万就能拿下。不过吧，你要是做AI训练，还是建议用A100。它虽然贵，但是是效率高，长期算下来反而更划算。
采购时到底该怎么选？
主要还是看你做什么用。如果是玩游戏或者做渲染，4090完全够用，性价比还高。但是是要是做AI训练，特别是大模型部署，那还得是A100。就算贵一点，性能差距摆在那儿。
对了，现在4090货源比较紧张，A100供货倒是挺稳定的。所以啊，选哪个，先看需求，再看预算，最后还得考虑货源问题。