THE KNOWLEDGE SHELF

AI Infra02

AI Infra相关文章：从基础原理到源码与性能实践。

按顺序阅读 →

2 篇文章

速查 / 基础原理

AI 推理基础设施名词表：从 Token 到 Ascend Kernel

读源码时遇到陌生名词，可以按正在解决的问题查：输入表示、模型计算、缓存调度、多卡通信和 Ascend 执行。

33 分钟阅读更新于 2026-10-24阅读全文

入门 / 基础原理

Prefill 与 Decode 为什么性能不同：从计算形状到执行开销

同一份权重，为什么处理长输入和逐枚生成的性能不同？从矩阵形状讲到权重复用、专家 Token 数和每轮固定开销。

21 分钟阅读更新于 2026-10-25阅读全文