进阶 / 性能分析已读稍后读128K 已经命中 90% 前缀缓存,为什么推理仍然不轻松?沿真实128K/1K请求区分复用前缀、新Query和逻辑上下文,解释DeepSeek-V4的SWA/C4/C128历史访问、PD状态交接,以及90%命中之后仍然存在的生成与排队成本。DeepSeek-V4Ascend 910CPrefix CachePD 分离KV Cache12 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 调优实践已读稍后读从缓存校准到并发取舍:DeepSeek-V4-Pro 在 Ascend 910C 上的一次 32k/1k 调优记录先把缓存命中率校准,再比较并发。记录一次 32K/1K 调优中,吞吐、TPOT 与首 Token 等待之间的取舍。DeepSeek-V4Ascend 910CSGLang性能调优Prefix Cache18 分钟阅读更新于 2026-10-17阅读全文 ↗