深入研究 / 性能分析已读稍后读一次 Ascend EPLB 显存优化:为什么逐层处理,仍然堆出了多层临时张量?Python 逐层处理,临时张量仍在跨 stream 积压。沿地址和完成事件解释每芯片缓存驻留减少 P 约 3.05、D 约 3.32 GiB 的修复。AscendEPLB显存异步执行11 分钟阅读更新于 2026-11-14阅读全文 ↗
深入研究 / 性能分析已读稍后读搬专家权重,还需要 NZ→ND 吗?一次 Ascend EPLB 存储路径重构迁移专家时,保留 NZ 和量化打包字节,怎样省去整层转换与写回?从共享存储视图、padding 和 scratch 讲到完整服务的显存与耗时对照。AscendEPLBNZTensor Storage显存23 分钟阅读更新于 2026-11-14阅读全文 ↗
深入研究 / 性能分析已读稍后读复用 TP 通信组到底省在哪里?一次 WORLD 与 HCCL 显存分配追踪从小统计触发几个 GiB 占用查起,分开核对 OFF 的 TP 初始化和 WORLD 的额外激活,比较四次 16-rank 实验。AscendEPLBHCCL显存11 分钟阅读更新于 2026-11-14阅读全文 ↗