Triton 实现 FlashAttention 和 NSA
参考:
- https://borninfreedom.github.io/posts/2023/10/blog-post-2/
- https://zhuanlan.zhihu.com/p/17790319806
- https://www.cnblogs.com/fangpin/p/19234690
- https://dev.byted.org/laixunhao/native_sparse_attention
- https://triton-lang.org/main/getting-started/tutorials/06-fused-attention.html
- https://zhuanlan.zhihu.com/p/1957032283270812718
- https://zhuanlan.zhihu.com/p/24841366485
- DSA: https://github.com/deepseek-ai/DeepSeek-V3.2-Exp/blob/main/DeepSeek_V3_2.pdf
Author Houmin Wei
Publish January 1, 0001
LastMod August 27, 2026
License 本作品采用 CC BY-NC-ND 4.0 许可协议进行许可,转载时请注明原文链接
如果你在浏览博客的过程中发现了任何问题,欢迎在对应文章下评论。如果你有其他事情想要咨询,可以通过邮件联系我。
Linked Mentions