深入研究 / 源码解析已读稍后读多卡投机解码：Draft、Verify 与 Accept 怎样保持一致一张卡接受两枚候选，另一张接受三枚，会发生什么？区分模型分片通信与投机决策同步，追踪分歧怎样传到下一轮。SGLangDeepSeek-V4多卡一致性TP/DP/EP投机解码16 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 压测实践已读稍后读SGLang 流式压测：怎样保留接受率和缓存计数，又不改坏计时8条请求已带投机开关，SSE却没有sglext。从字段产生、父类解析和writer落盘走到原计时规则，解释metadata-only事件、接受率分母与whole/native窗口。AISBenchSGLang流式输出投机解码性能指标11 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 性能分析已读稍后读投机解码的性能收支：接受长度、Verify 成本与并发接受长度变大，投机解码为什么仍可能变慢？把每轮有效输出与 Draft、Verify、通信和并发成本放在一起算。DeepSeek-V4投机解码Acceptance Rate性能模型15 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 性能分析已读稍后读Ascend 910C 投机解码：Graph、多流与通信的执行依赖开了 Graph 和多流，下一步为什么仍在等？沿 EAGLE/NextN 标出候选、缓存和通信依赖，再说明怎样与实测时间线对应。DeepSeek-V4Ascend 910CNPU GraphCommunication Overlap投机解码24 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 性能分析已读稍后读在 Ascend 910C 上分析 DSpark：从阶段计时到 NPU 时间线DSpark 慢在哪一段，怎样从计时字段追到 NPU 时间线？说明阶段边界、通信等待和 Profiling 对照方法。DeepSeek-V4Ascend 910CProfilingDSpark投机解码23 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 性能调优已读稍后读Ascend 910C推理调优负例分析：为什么合理的优化没有带来吞吐收益TPOT 降了，吞吐却没涨；分块少了，执行反而慢了。沿几项负例，判断原假设漏了什么、何时值得重试。Ascend 910CSGLang性能调优投机解码工程复盘14 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 源码解析已读稍后读DeepSeek-V4 DSpark：一轮 Draft、Verify、Accept 与 CommitDraft 猜 A/B/C，Target 接受 A/B 后生成 X，下一轮从哪里继续？沿一个例子走完 DSpark 的提议、验证、接受和提交。SGLangDeepSeek-V4DSpark投机解码18 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 源码解析已读稍后读SGLang 投机解码调度：请求进度、设备状态与跨轮交接开启重叠执行后，CPU 记录和设备进度可能暂时不同。看请求长度、KV 预留和结果发布怎样保证下一轮接得上。SGLangSchedulerScheduleBatch投机解码30 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 源码解析已读稍后读DeepSeek-V4 MTP：NextN 怎样逐步生成候选三枚 Draft 候选需要几次 NextN Forward？算清第一枚候选的来源、后续逐步预测和 Target 验证窗口的关系。SGLangDeepSeek-V4MTP投机解码21 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 源码解析已读稍后读EAGLE 候选树：从候选池到 Verify 与接受路径EAGLE 怎样把候选分支整理成一次 Verify 输入？跟着小树读索引和接受路径；DeepSeek-V4 固定版本仍限定 topk=1。SGLangDeepSeek-V4EAGLE投机解码KV Cache27 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 源码解析已读稍后读EAGLE Tree Attention：候选布局、位置与可见性候选树排成 Tensor 后，一行怎样只读自己的祖先？用一棵小树解释位置和可见性；多分支部分属于通用 EAGLE 机制。SGLangDeepSeek-V4Tree Attention投机解码27 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 源码解析已读稍后读投机解码 Accept：从 Verify 行到最终输出路径Verify 算出了候选位置的预测，哪些 Token 最终能输出？区分几种接受规则，并解释行索引与新 bonus 的错位关系。SGLangDeepSeek-V4Accept DecisionRejection Sampling投机解码17 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 源码解析已读稍后读投机解码 KV 管理：接受路径怎样提交、整理与回收候选算过了，不代表都能留在历史里。看接受路径怎样映射到正式 KV，以及被拒绝候选的空间何时整理、复用或释放。SGLangDeepSeek-V4KV Cache投机解码25 分钟阅读更新于 2026-10-24阅读全文 ↗