一直好奇,为啥最近大模型参数都能上 T,且质量超好? 感觉跟新模型构架有关系。 从一篇文章发现个叫 Gated Delta Networks 的东西,建立在Mamba思想上。 无论英伟达的Nem...
大模型参数规模突破T级得益于新型架构如Gated Delta Networks和Mamba的创新,英伟达、Kimi、Qwen等均采用混合架构优化性能。
入选理由:Gated Delta Networks基于Mamba思想,提升模型效率。
模型
高效序列建模架构,降低计算资源需求。
已跟踪 2 条高相关材料
最近变化
2026-07-21 · Gated Delta Networks基于Mamba思想,提升模型效率。
为什么值得关注
Mamba 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
一直好奇,为啥最近大模型参数都能上 T,且质量超好? 感觉跟新模型构架有关系。 从一篇文章发现个叫 Gated Delta Networks 的东西,建立在Mamba思想上。 无论英伟达的Nem...
向阳乔木(@vista8) · 8.5 分
大模型参数规模突破T级得益于新型架构如Gated Delta Networks和Mamba的创新,英伟达、Kimi、Qwen等均采用混合架构优化性能。
YC and Together AI are partnering to bring the first dedicated YC GPU cluster online, giving YC star...
Y Combinator(@ycombinator) · 6.5 分
Y Combinator与Together AI合作建立GPU集群,为初创公司提供更便捷的计算资源,但技术细节和工程实践指导不足。
已收录 2 条与 Mamba 相关的内容,按评分排序。
大模型参数规模突破T级得益于新型架构如Gated Delta Networks和Mamba的创新,英伟达、Kimi、Qwen等均采用混合架构优化性能。
入选理由:Gated Delta Networks基于Mamba思想,提升模型效率。
Y Combinator与Together AI合作建立GPU集群,为初创公司提供更便捷的计算资源,但技术细节和工程实践指导不足。
入选理由:YC与Together AI合作建立首个专用GPU集群,服务8000+客户