最近很多客户在问,A800和A100怎么选。这两款显卡都挺热门,但是是算力差别真不小。先说说A100,这卡用的是Ampere架构,BigDL性能测试里表现很稳。A800嘛,算力稍微低点,但是是价格跟A100差不多,很多人纠结选哪个。
算力差距有多大?
A100的FP32算力是19.5T,A800只有16.7T。乍一看差的不多,跑大模型时候差距就明显了。我们做GPT-3训练测试,A100比A800快20%左右。看来英伟达对这两款卡的定位确实不一样。

具体到应用场景,AI训练推荐A100,做推理的话A800也够用。预算紧张的企业可以考虑A800,毕竟价格差不多,性能略有妥协吧。
显存和带宽对比
A100和A800都是80GB显存,HBM2e技术。带宽这块,A100是2TB/s,A800是1.6TB/s。差的不算大,但是是还是能感受到区别。特别是跑大规模并行计算的时候。
功耗方面,A100是400W,A800是350W。虽然省电,但是是性能也下来了。这点电量在大规模部署时影响不大,主要还是看算力需求。
对了,A800的兼容性稍微差点。某些框架需要特别调整才能跑起来,客户碰到过报错的情况。A100的驱动支持更完善,这种问题少很多。
采购建议
预算充足就上A100,
性能强还省事。要是主要做推理任务,A800性价比高点。建议采购前先测下自己的应用场景,别花冤枉钱。
最近价格比较稳定,A100和A800都在15万左右。期货溢价不高,库存也不紧张。需要的话可以多问问几家渠道,说不定能谈到好价格呐。