进阶 / Ascend 实践已读稍后读DeepSeek-V4 W8A8 执行链：从量化权重到 Ascend INT8 算子W8A8 权重加载后，激活在哪里量化，矩阵乘法又交给谁？分别沿 Dense 与 MoE 追到 Ascend 算子入口。DeepSeek-V4Ascend 910CW8A8ModelSlimCANN26 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 分布式工程已读稍后读静态 EPLB 之后：动态专家负载均衡怎样安全地迁移权重？从逻辑专家与物理槽位出发，沿真实Ascend适配解释W8A8/NZ权重暂存、HCCL通信等待、逐层映射提交和Graph地址约束，结合功能验证与正负性能结果分析动态EPLB的成本。SGLangAscend 910CEPLBMoEExpert Parallel14 分钟阅读更新于 2026-10-24阅读全文 ↗
入门 / 分布式基础已读稍后读模型怎样跨多卡运行：从显存容量到 TP、DP Attention 与 EP每个 Token 只激活部分专家，为什么仍需要放下整套权重？先算设备内存，再区分 TP、DP 和 EP 各自拆分什么。DeepSeek-V4Ascend 910CTP/DP/EP分布式并行16 分钟阅读更新于 2026-10-24阅读全文 ↗
速查 / 基础原理已读稍后读AI 推理基础设施名词表：从 Token 到 Ascend Kernel读源码时遇到陌生名词，可以按正在解决的问题查：输入表示、模型计算、缓存调度、多卡通信和 Ascend 执行。AI InfraSGLangDeepSeek-V4Ascend 910C33 分钟阅读更新于 2026-10-24阅读全文 ↗
入门 / 基础原理已读稍后读Prefill 与 Decode 为什么性能不同：从计算形状到执行开销同一份权重，为什么处理长输入和逐枚生成的性能不同？从矩阵形状讲到权重复用、专家 Token 数和每轮固定开销。AI InfraPrefill / DecodeDeepSeek-V4SGLangAscend 910C性能模型21 分钟阅读更新于 2026-10-25阅读全文 ↗
入门 / 基础原理已读稍后读从一次 Decode 读懂 SGLang：Tensor、缓存与下一枚 Token刚生成的 Token，下一轮怎样变成模型输入？用三条请求的小批次串起长度、KV 写入、Attention、MoE 和采样。SGLangDeepSeek-V4DecodeKV CacheMoESamplingAscend 910C23 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 性能分析已读稍后读DeepSeek-V4 W8A8 性能分析：小 M、NZ 布局与测量方法INT8 矩阵乘法省下的时间，能否覆盖动态量化等额外开销？结合小 M、专家批次和 NZ 布局分析该怎样测量。DeepSeek-V4Ascend 910CW8A8CANN TilingProfiling18 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 性能分析已读稍后读Decode 已经很快了，吞吐为什么上不去？平均 TPOT 已经低至 8.7ms，吞吐仍没跟上。一个 4-token 尾块，把排查方向从 Decode 带回了 Prefill 合批。PD 分离Chunked Prefill性能调优Ascend 910C13 分钟阅读更新于 2026-10-25阅读全文 ↗
进阶 / 性能分析已读稍后读128K 已经命中 90% 前缀缓存，为什么推理仍然不轻松？沿真实128K/1K请求区分复用前缀、新Query和逻辑上下文，解释DeepSeek-V4的SWA/C4/C128历史访问、PD状态交接，以及90%命中之后仍然存在的生成与排队成本。DeepSeek-V4Ascend 910CPrefix CachePD 分离KV Cache12 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 性能分析已读稍后读Ascend 910C 投机解码：Graph、多流与通信的执行依赖开了 Graph 和多流，下一步为什么仍在等？沿 EAGLE/NextN 标出候选、缓存和通信依赖，再说明怎样与实测时间线对应。DeepSeek-V4Ascend 910CNPU GraphCommunication Overlap投机解码24 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 性能分析已读稍后读在 Ascend 910C 上分析 DSpark：从阶段计时到 NPU 时间线DSpark 慢在哪一段，怎样从计时字段追到 NPU 时间线？说明阶段边界、通信等待和 Profiling 对照方法。DeepSeek-V4Ascend 910CProfilingDSpark投机解码23 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 性能分析已读稍后读CP2 替代 CP4：通信组变小了，为什么整体吞吐没有提高？复盘CP4/DP4切到CP2/DP8的N480同负载负例：单rank行数、page预算、EP16通信轮次与请求驻留时间，解释TPOT改善却没有吞吐收益。Ascend 910CDeepSeek-V4Context ParallelismPD分离性能调优12 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 性能调优已读稍后读一次Ascend 910C推理调优复盘：真正有效的优化、失败假设与实验成本哪些改动带来了吞吐，哪些只增加了实验成本？放在一起看 P 端合批、IndexCache、静态布局和 Compact 的真实对照。Ascend 910CSGLangPD分离性能调优工程复盘17 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 性能调优已读稍后读Ascend 910C推理调优负例分析：为什么合理的优化没有带来吞吐收益TPOT 降了，吞吐却没涨；分块少了，执行反而慢了。沿几项负例，判断原假设漏了什么、何时值得重试。Ascend 910CSGLang性能调优投机解码工程复盘14 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 性能调优已读稍后读Ascend 910C上的P端场景静态EPLB：从路由计数、专家布局到实测收益专家布局怎样从路由计数拟合出来？沿一次 P 端静态方案解释放置与分发，并说明 14.18% 的组合收益该怎样归因。Ascend 910CSGLangMoEEPLBPD分离14 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 性能分析已读稍后读DeepSeek-V4 IndexCache freq2：跨层 TopK 复用省了什么，又改变了什么跨层复用 TopK 后，哪些计算省下了，哪些状态还得更新？对照实际执行路径和同负载实验，看 freq2 的收益与代价。DeepSeek-V4Ascend 910CIndexCacheAttention性能调优13 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 性能分析已读稍后读Prefill chunk 应该怎么选：从 DP 折算、页对齐到通信轮次与尾块合批把 chunk 从 8192 增到 8320，分块少了，吞吐却略降。结合页对齐、并行布局和通信轮次解释为什么。DeepSeek-V4Ascend 910CPrefillChunked Prefill性能调优14 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 调优实践已读稍后读从缓存校准到并发取舍：DeepSeek-V4-Pro 在 Ascend 910C 上的一次 32k/1k 调优记录先把缓存命中率校准，再比较并发。记录一次 32K/1K 调优中，吞吐、TPOT 与首 Token 等待之间的取舍。DeepSeek-V4Ascend 910CSGLang性能调优Prefix Cache18 分钟阅读更新于 2026-10-17阅读全文 ↗
进阶 / 性能分析已读稍后读NPU 时间线里有 19% 空隙，为什么不能直接得到 19% 加速？NPU 时间线约两成空白，为什么不能当成可回收的加速空间？先算清区间覆盖，再检查等待、跨 Rank 依赖和测量范围。Ascend 910CProfilingDeepSeek-V4关键路径性能调优12 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 投机解码已读稍后读DSpark 自适应 Verify：怎样分配候选预算验证预算有限时，每条请求都分配相同长度合适吗？解释 DSpark 的候选预算分配，以及 Ascend 固定版本仍使用 static 的原因。DeepSeek-V4DSparkRagged VerifySTSSPSAscend 910C25 分钟阅读更新于 2026-10-24阅读全文 ↗