进阶 / 源码解析已读稍后读SGLang Scheduler：请求怎样组批、执行和持续生成请求会持续很多轮，设备每轮只执行一个批次。看 Scheduler 怎样在前缀缓存、Token 预算和 KV 空间之间安排工作。SGLangScheduler请求调度17 分钟阅读更新于 2026-10-24阅读全文 ↗
深入研究 / 源码解析已读稍后读SGLang 投机解码调度：请求进度、设备状态与跨轮交接开启重叠执行后，CPU 记录和设备进度可能暂时不同。看请求长度、KV 预留和结果发布怎样保证下一轮接得上。SGLangSchedulerScheduleBatch投机解码30 分钟阅读更新于 2026-10-24阅读全文 ↗