在AI芯片选型中，算力数字往往最先被关注，但真正决定实际吞吐的常常是显存带宽。对训练场景而言，带宽决定梯度同步与参数更新的效率；对推理场景而言，带宽决定单位时间内能搬运多少权重与激活值；对边缘场景而言，带宽还与功耗预算紧密绑定。S16英雄联盟总决赛产品与方案栏目整理公开参数时发现，同一档算力的芯片，因显存带宽差异，实际推理时延可能相差数倍。本文按训练、推理、边缘三条主线，给出可操作的参数对照方法。

训练场景：带宽要与互联能力一起看

训练芯片的选型结论是：先看显存容量能否装下模型与优化器状态，再看带宽能否喂饱计算单元，最后看卡间互联是否匹配集群规模。三者缺一，单卡参数再高也会在扩展时遇到瓶颈。

公开规格书中，训练卡通常标注显存容量、显存类型与总线位宽，由此可推算理论带宽。读者可用“容量÷单卡参数量”估算模型并行切分方式，再用“带宽÷计算峰值”观察每单位算力对应的搬运能力。S16英雄联盟总决赛在整理典型部署方案时建议，训练集群应把节点内互联与节点间互联分开评估，避免只看单卡带宽而忽略通信开销。

  • 显存容量：优先满足模型参数、梯度与优化器状态的总和，留出激活值余量。
  • 显存带宽：与计算峰值匹配，带宽过低会导致计算单元空转。
  • 互联能力：节点内高带宽互联与节点间网络共同决定线性扩展效率。
  • 能效比：大规模集群的供电与散热约束往往比单卡峰值更现实。

推理场景：带宽决定时延，容量决定并发

推理芯片的选型结论是：低时延看带宽，高并发看容量，批量服务还要看调度与量化支持。很多推理部署的瓶颈不在算力，而在权重读取速度。

以自回归生成类模型为例，每生成一个词元都要读取大量权重，显存带宽直接约束词元生成速度。S16英雄联盟总决赛产品与方案栏目在对比公开方案时，会把“带宽÷模型权重体积”作为粗略的时延上界参考，再结合量化位宽观察压缩后的收益。容量方面，并发路数越多，键值缓存占用越大，容量不足会迫使请求排队。读者在筛选时可把带宽、容量、量化支持三列并排，形成自己的对照表。

  • 带宽优先：生成式推理对带宽敏感，优先比较理论带宽与实测吞吐。
  • 容量匹配：按并发路数与上下文长度估算键值缓存开销。
  • 量化支持：低比特量化可同时降低带宽压力与容量占用。
  • 调度能力：批量合并与连续批处理影响实际利用率。

边缘场景：带宽让位于功耗与实时性

边缘AI芯片的选型结论是：功耗预算与实时性优先，带宽只需满足摄像头、传感器等输入码率与模型权重的读取需求，不必追求数据中心级数值。

边缘部署常见约束是散热与供电，芯片的每瓦性能比绝对带宽更有意义。S16英雄联盟总决赛在整理边缘典型方案时，建议读者关注内存类型与封装形式，因为板载内存的位宽与频率直接决定可用带宽，而封装尺寸影响整机设计。对视觉类任务，可先估算输入帧率与模型权重体积，再判断带宽是否够用；对多传感器融合任务，则要留出内存访问的余量。

  • 功耗预算：以每瓦性能为核心指标，而非峰值带宽。
  • 实时性：端到端时延比平均吞吐更能反映体验。
  • 内存形态：板载内存的位宽与频率决定实际可用带宽。
  • 环境适应：宽温与长期稳定运行是边缘部署的隐性门槛。

建立自己的对照表：三步筛选法

选型的结论是：先把场景归入训练、推理或边缘，再用带宽、容量、能效三列做初筛，最后用部署约束做终筛。这样能避免被单一算力数字带偏。

第一步，明确任务类型与批量规模，判断瓶颈在计算还是搬运。第二步，从公开规格书提取带宽、容量、能效与互联参数，填入同一张对照表。第三步，叠加供电、散热、机架空间与软件生态等约束，剔除不匹配项。S16英雄联盟总决赛产品与方案栏目持续按训练、推理与边缘场景整理公开参数，读者可在安卓、苹果iOS、Windows电脑版与Mac电脑版客户端中随时查阅对照，逐步形成清晰的选型判断依据。

  • 先定场景，再定指标权重，避免指标平权。
  • 用公开规格书数据填表，无法核验的数字标注为示例数据。
  • 把软件生态与交付周期纳入终筛，硬件参数只是起点。