速查 / 分布式基础已读稍后读SGLang Collective:从张量分片到 Attention 与 MoE 通信该求和、拼接,还是把 Token 送给另一位专家?先看四类通信的小张量例子,再对照 SGLang 的 Attention 与 MoE。SGLangDeepSeek-V4CollectiveDeepEP分布式并行16 分钟阅读更新于 2026-10-24阅读全文 ↗