THE KNOWLEDGE SHELF

PD分离03

PD分离相关文章：从基础原理到源码与性能实践。

按顺序阅读 →

3 篇文章

进阶 / 性能分析

CP2 替代 CP4：通信组变小了，为什么整体吞吐没有提高？

复盘CP4/DP4切到CP2/DP8的N480同负载负例：单rank行数、page预算、EP16通信轮次与请求驻留时间，解释TPOT改善却没有吞吐收益。

12 分钟阅读更新于 2026-10-24阅读全文

进阶 / 性能调优

一次Ascend 910C推理调优复盘：真正有效的优化、失败假设与实验成本

哪些改动带来了吞吐，哪些只增加了实验成本？放在一起看 P 端合批、IndexCache、静态布局和 Compact 的真实对照。

17 分钟阅读更新于 2026-10-24阅读全文

进阶 / 性能调优

Ascend 910C上的P端场景静态EPLB：从路由计数、专家布局到实测收益

专家布局怎样从路由计数拟合出来？沿一次 P 端静态方案解释放置与分发，并说明 14.18% 的组合收益该怎样归因。

14 分钟阅读更新于 2026-10-24阅读全文