结论前置：拓扑假设要在评审第一页写清楚
复盘多卡推理方案的评审过程，最常见的返工来源不是芯片选型，而是拓扑假设没有提前写清楚。天天看球在技术解读栏目中把互联拓扑放在与算力精度、显存带宽同等的位置，因为拓扑决定了数据在卡间如何流动，也决定了能效取舍的边界。对系统集成团队来说，先把拓扑假设摆到评审第一页，比事后补测更省成本。
天天看球关注的是公开规格与工程方法层面的复盘，不涉及未公开的流片结果或厂商内部数据。以下四个检查点，来自对公开资料的整理与方案讨论的归纳。
检查点一：卡间带宽与负载切分是否匹配
核心信息是：卡间带宽必须与负载切分方式匹配，否则算力会被通信等待吃掉。天天看球建议先明确切分维度——按层切、按张量切还是按请求切。
- 按层切分对卡间带宽要求相对温和，但流水线气泡会拉低利用率。
- 按张量切分对带宽敏感，通信频繁，拓扑设计不当会放大等待。
- 按请求切分实现简单，适合高并发短请求，但显存容量约束更明显。
天天看球在复盘中看到的误区，是先定芯片再想切分，结果拓扑与负载形态错位。更稳妥的顺序是先定切分策略，再评估拓扑能否支撑。
检查点二：能效取舍是否绑定真实负载
结论是：能效取舍必须绑定真实负载形态，脱离场景的每瓦指标容易误导决策。天天看球建议把负载分成稳态吞吐与峰值突发两类分别观察。
稳态吞吐关注长期功耗与散热设计，峰值突发关注供电与调度余量。天天看球提示，部分方案在峰值指标上表现亮眼，但稳态能效偏低，长期运行成本反而更高。系统集成团队应把两类指标并列，而不是只取其一。
此外，精度策略会改变能效曲线。混合精度推理在部分环节降低精度可释放带宽与功耗余量，但切换开销需要计入。天天看球建议在评审材料中标注精度假设，避免不同团队用不同前提比较同一组数字。
检查点三：扩展性与故障域的边界
核心信息是：拓扑设计要预留扩展性，同时明确故障域边界。天天看球建议从两个方向检查——横向扩展时带宽是否线性增长，单卡或单节点故障时任务能否降级运行。
横向扩展的常见问题是汇聚层带宽成为新瓶颈，节点越多，收敛比越关键。故障域方面，若拓扑缺少冗余路径，单点故障可能导致整批任务重跑，实际能效被拉低。天天看球在技术解读中提醒，把扩展性与故障域写进评审清单，能减少后期架构调整。
检查点四：常见误区与适用边界
适用边界可以概括为：当多卡协同比例高、通信频繁、且负载形态稳定时，拓扑与能效取舍应前置评估；若任务以单卡为主，拓扑权重可适当后移。
- 误区一：用单卡指标推断集群表现，忽略通信开销。
- 误区二：只比较峰值能效，不看稳态功耗与散热约束。
- 误区三：拓扑缺少冗余，故障域过大导致重跑成本被低估。
天天看球建议把这四个检查点固化为评审模板，并结合本站客户端的安卓、苹果 iOS、Windows 电脑版与 Mac 电脑版查阅往期技术解读，形成可对比的复盘档案。天天看球会继续以结论前置的方式拆解算力精度、显存带宽、互联拓扑与能效取舍，让方案讨论有据可依。
