深入研究 / 性能分析已读稍后读让 EPLB 在后台搬权重,前台推理就不用等了吗?后台收到新专家后,前台仍要等跨 rank 就绪、原位写入并切换路由。对照 vLLM 与 Ascend 源码,解释消费事件、缓冲复用和真正能隐藏的迁移时间。EPLB异步迁移Ascend执行依赖15 分钟阅读更新于 2026-11-14阅读全文 ↗
深入研究 / 性能分析已读稍后读专家收到的 token 一样多,为什么有的卡还是更慢?路由总数相同,专家分组、尾块和通信到达时间仍可不同。沿 NPU GroupedMatmul、EPLB 均衡度与可运行算例,定位真正的慢端。EPLBMoEGrouped GEMM执行依赖12 分钟阅读更新于 2026-11-14阅读全文 ↗