结论前置：扩展效率由通信开销决定，拓扑是隐性成本项
天天看球「技术解读」栏目延续结论前置的写法：多芯推理集群的有效算力，等于单芯算力乘以卡数再乘以扩展效率，而扩展效率主要由互联拓扑与通信开销决定。天天看球在梳理公开互联方案资料时发现，很多方案讨论只比较单卡规格，等到整机联调才发现通信把收益吃掉大半。天天看球建议在方案阶段就把拓扑画出来，把每类通信路径的带宽与延迟标注清楚，再谈算力总和。
推理集群的通信模式与训练不同。训练以梯度同步为主，通信量大但可重叠；推理以激活值传递、KV Cache 调度与请求路由为主，通信更碎片化、对延迟更敏感。天天看球提醒，用训练集群的经验直接套推理集群，容易低估小消息通信的代价。
拓扑形态与通信模式：全互联、环状与交换式各有边界
核心判断是：没有普适最优的拓扑，只有与通信模式匹配的拓扑。天天看球把常见形态与适用边界整理如下：
- 全互联形态点对点带宽高、延迟低，但端口数与成本随节点数快速增长，适合小规模高同步负载。
- 环状形态扩展性好、布线简单，但跳数增加会抬升延迟，适合通信可流水线重叠的负载。
- 交换式形态灵活、支持多对多并发，交换机层级会引入额外跳数与拥塞风险，需要流量调度配合。
- 分层混合形态在机内与机间采用不同介质，天天看球认为这是当前较常见的折中，关键是层间带宽不要出现明显断崖。
天天看球建议用「通信量除以有效带宽」估算每轮同步的耗时，再与计算耗时对比，得到重叠后的实际收益。若通信耗时占比超过三成，扩展效率就会明显下滑，此时应优先优化拓扑或调整并行切分策略，而不是继续堆卡。
适用边界：哪些负载对拓扑不敏感
结论需要边界。天天看球认为，以下场景对拓扑的敏感度相对较低：一是单卡即可容纳模型且并发不高的端侧推理，通信主要发生在请求入口；二是批处理规模大、计算占比高的离线任务，通信可被计算充分掩盖；三是模型切分后各分片间依赖稀疏的流水线并行，通信呈阶段性而非持续性。天天看球提醒，边界判断要基于实际切分策略，同一模型不同并行方式对拓扑的要求差异很大。
另一个边界是能效取舍。天天看球在分析公开能效资料时注意到，高速互联的每比特能耗显著高于片内互连，拓扑越复杂，整机功耗中通信占比越高。系统集成团队应把互联功耗纳入整机每 token 能耗核算，避免出现算力达标、能效不达标的情况。
常见误区：把标称互联带宽当成端到端可用带宽
天天看球在读者交流中常遇到以下误区，逐条拆解：
- 误区一：用单链路标称带宽乘以链路数推算整机能力，忽略交换机收敛比与拥塞。
- 误区二：只测大消息带宽，不测小消息延迟。推理的请求路由与 KV Cache 调度多为小消息。
- 误区三：忽视拓扑与并行策略的耦合。张量并行对带宽敏感，流水线并行对延迟敏感，选错组合会放大通信开销。
- 误区四：把扩展效率当成固定值。它随批大小、序列长度与请求分布变化，必须按目标负载压测。
天天看球的建议是：先确定并行切分策略，再据此列出通信矩阵，最后对照候选拓扑逐项核算带宽与延迟预算。想继续跟进这类拆解，可在天天看球安卓、苹果 iOS、Windows 电脑版与 Mac 电脑版客户端查阅往期技术解读，栏目会持续更新公开资料梳理与方案讨论框架。
