THE KNOWLEDGE SHELF

Attention02

Attention相关文章：从基础原理到源码与性能实践。

按顺序阅读 →

2 篇文章

进阶 / 性能分析

DeepSeek-V4 IndexCache freq2：跨层 TopK 复用省了什么，又改变了什么

跨层复用 TopK 后，哪些计算省下了，哪些状态还得更新？对照实际执行路径和同负载实验，看 freq2 的收益与代价。

13 分钟阅读更新于 2026-10-24阅读全文

进阶 / 源码解析

DeepSeek-V4 Attention：Query、缓存写入与历史寻址

多条请求打包进同一个 Tensor 后，Attention 怎样找到各自的历史？沿 Query、缓存写入和页表追踪一次 Decode。

11 分钟阅读更新于 2026-10-24阅读全文