📖 AI 总结

本文提出 DoSA（Dots Sparse Attention），一种无损稀疏注意力加速方法，旨在解决稀疏注意力中寻找关键 token 仍需对每个 key 逐一打分的高昂开销。其核心观察是：Top-K 选择只需足以拒绝候选者的证据，而非完整分数。方法通过种子集给出获胜阈值下界，利用非负头投影与联合残差界约束正贡献上界，并以激活感知聚合限制负头所减幅度，从而将完整打分仅导向仍具资格的候选者，再经精确分数过滤减少写回与选择开销。作者证明了该证书及其精确选择条件，并分析了几何结构与选择裕度对有效性的影响。在 GPU 实现上，完整 Indexer 相较 SGLang 和 LiteTopK 分别最高加速 2.74 倍与 1.69 倍；在 GLM-5.2 与 DeepSeek-V3.2 端到端评测中，首 token 时延分别最高提速 1.94 倍与 1.50 倍。

🔑 关键词速览