Context Parallel
Reference
Author Houmin Wei
Publish January 1, 0001
LastMod August 27, 2026
License 本作品采用 CC BY-NC-ND 4.0 许可协议进行许可，转载时请注明原文链接
如果你在浏览博客的过程中发现了任何问题，欢迎在对应文章下评论。如果你有其他事情想要咨询，可以通过邮件联系我。
Linked Mentions
- DeepSeek-V4 技术报告全文
- ERNIE 5.0：从零训练的统一全模态自回归模型
- GLM-5：从 vibe coding 到 agentic engineering
- Ling 与 Ring 2.6：给训好的万亿模型换一套注意力
- MegaScale-MoE：生产环境中大规模、通信高效的 MoE 训练
- MoE Parallel Folding：让 Attention 和 MoE 各用各的并行映射
- Olmo 3 技术报告
- Seed1.5-VL：532M 视觉编码器加 20B 激活的多模态基座
- Infra
- Long Context
- AI 日报 2026-07-10：GPT-5.6 Sol Ultra 交出 Cycle Double Cover 猜想的证明
- AI 日报 2026-08-07：OpenAI 把 Astra 划进「关键」网络能力