THE KNOWLEDGE SHELF

性能模型02

性能模型相关文章：从基础原理到源码与性能实践。

按顺序阅读 →

2 篇文章

入门 / 基础原理

Prefill 与 Decode 为什么性能不同：从计算形状到执行开销

同一份权重，为什么处理长输入和逐枚生成的性能不同？从矩阵形状讲到权重复用、专家 Token 数和每轮固定开销。

21 分钟阅读更新于 2026-10-25阅读全文

进阶 / 性能分析

投机解码的性能收支：接受长度、Verify 成本与并发

接受长度变大，投机解码为什么仍可能变慢？把每轮有效输出与 Draft、Verify、通信和并发成本放在一起算。

15 分钟阅读更新于 2026-10-24阅读全文