The First Real LLM Breakthrough Is Here... SubQ (1000x Less Compute)
TheAIGRID2793 字 (约 12 分钟)
85
SubQ 是首个基于完全次二次稀疏注意力架构的大型语言模型，其计算成本降低 1000 倍，上下文窗口达 1200 万 token。
入选理由：SubQ 的上下文窗口达到 1200 万 token，是 Opus 的 52 倍。
FeaturedVideo#LLM#SubQ#AI#稀疏注意力#计算效率英文
模型
Flash Attention
一种注意力机制，被 SubQ 在速度上超越。
已跟踪 1 条高相关材料
TraeAI 观察
最近变化
2026-06-18 · SubQ 的上下文窗口达到 1200 万 token，是 Opus 的 52 倍。
为什么值得关注
Flash Attention 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
AILLMSubQ稀疏注意力计算效率
相关材料
已收录 1 条与 Flash Attention 相关的内容，按评分排序。