入门 / 压测实践已读稍后读AISBench 的 whole、native、TPOT 和 ITL，到底在量什么？TPOT 10.4ms、ITL 58.6ms为何同时成立？沿固定AISBench源码解释请求时间线、事件加权、whole/native选样边界、并发封顶与两种输出token/s。AISBench性能指标SGLang流式输出压测方法12 分钟阅读更新于 2026-10-24阅读全文 ↗
进阶 / 压测实践已读稍后读SGLang 流式压测：怎样保留接受率和缓存计数，又不改坏计时8条请求已带投机开关，SSE却没有sglext。从字段产生、父类解析和writer落盘走到原计时规则，解释metadata-only事件、接受率分母与whole/native窗口。AISBenchSGLang流式输出投机解码性能指标11 分钟阅读更新于 2026-10-24阅读全文 ↗