深入研究 / PR 精读已读稍后读日志里的 TP16 为什么应是 TP8:SGLang PR #39871TP16 / DP2 的 Attention 实际宽度是 8,日志却打印 16。这个小补丁说明了原始配置值和运行时派生值为什么要分清。SGLangPR 精读DP AttentionRuntime DerivationObservability8 分钟阅读更新于 2026-10-17阅读全文 ↗
深入研究 / PR 精读已读稍后读小 Tensor 为什么保活大内存:SGLang PR #39120 的 View 缓存修复缓存里只有 0.8 MiB 的小 Tensor,为什么可能占住约 7.8 MiB?解释 View 如何引用整块存储,以及补丁为什么选择复制。SGLangPR 精读PyTorch ViewStorageMemory Accounting11 分钟阅读更新于 2026-10-17阅读全文 ↗