进阶 / 性能分析已读稍后读Decode 已经很快了，吞吐为什么上不去？平均 TPOT 已经低至 8.7ms，吞吐仍没跟上。一个 4-token 尾块，把排查方向从 Decode 带回了 Prefill 合批。PD 分离Chunked Prefill性能调优Ascend 910C13 分钟阅读更新于 2026-10-25阅读全文 ↗
进阶 / 压测实践已读稍后读128K 输入、90% 前缀缓存：怎样把压测场景真正跑准输入长度正确、请求全部成功，缓存却没达到九成。记录公共前缀、预热与逐条检查怎样把压测场景校准。前缀缓存压测方法PD 分离AISBench12 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 性能分析已读稍后读128K 已经命中 90% 前缀缓存，为什么推理仍然不轻松？沿真实128K/1K请求区分复用前缀、新Query和逻辑上下文，解释DeepSeek-V4的SWA/C4/C128历史访问、PD状态交接，以及90%命中之后仍然存在的生成与排队成本。DeepSeek-V4Ascend 910CPrefix CachePD 分离KV Cache12 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 调优实践已读稍后读Ascend 950DT 单机 PD 调优：128K/1K、90% Cache 场景下的配置与实测一次 Ascend 950DT 单机长输入调优记录：解释两端配置、缓存与并发如何一起影响结果，避免把总收益归给一个开关。SGLangAscend 950DTPD 分离DSPARK性能调优14 分钟阅读更新于 2026-10-17阅读全文 ↗
进阶 / 源码解析已读稍后读DeepSeek-V4 PD 分离：首 Token、KV 状态与 Decode 接管P 端已经采样出首 Token，为什么它还没有自己的 KV？从这个交接点看 Decode 接管需要哪些缓存、资源和确认。SGLangDeepSeek-V4PD 分离分布式推理22 分钟阅读更新于 2026-10-24阅读全文 ↗