简单谈谈K3的MoE和Attention
K3模型通过Stable LatentMoE和SiTU-GLU改进MoE稳定性,结合Per-Head Muon优化Attention机制,实现效果与效率的平衡。
入选理由:K3采用SiTU-GLU替代SwiGLU,通过softcap操作减少梯度爆炸风险
模型
别名:Kimi-K3
月之暗面推出的超大规模开源模型
已跟踪 6 条高相关材料
最近变化
2026-08-10 · Perplexity API 现支持 Moonshot AI 开发的 K3 模型
为什么值得关注
K3 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
简单谈谈K3的MoE和Attention
科学空间 · 8.5 分
K3模型通过Stable LatentMoE和SiTU-GLU改进MoE稳定性,结合Per-Head Muon优化Attention机制,实现效果与效率的平衡。
White House’s Response to China Lacks Confidence in America
The Algorithmic Bridge · 7 分
美国政府指控Moonshot AI通过蒸馏攻击窃取Anthropic模型技术,可能引发中美AI竞争的政策限制。
enjoy US hosted K3 on perplexity agent api!
Aravind Srinivas(@AravSrinivas) · 6 分
Perplexity Agent API 现支持美国托管的 K3 模型,提供 API 访问。
已收录 6 条与 K3 相关的内容,按评分排序。
K3模型通过Stable LatentMoE和SiTU-GLU改进MoE稳定性,结合Per-Head Muon优化Attention机制,实现效果与效率的平衡。
入选理由:K3采用SiTU-GLU替代SwiGLU,通过softcap操作减少梯度爆炸风险
美国政府指控Moonshot AI通过蒸馏攻击窃取Anthropic模型技术,可能引发中美AI竞争的政策限制。
入选理由:Moonshot AI被指使用蒸馏攻击窃取Anthropic的Fable模型技术
Perplexity Agent API 现支持美国托管的 K3 模型,提供 API 访问。
入选理由:Perplexity API 现支持 Moonshot AI 开发的 K3 模型
Fireworks AI宣布推出3万亿参数的K3模型,并邀请参加相关网络研讨会,但内容缺乏技术细节。
入选理由:K3是首个开放的3万亿参数级前沿模型,由Fireworks AI发布。
文章以社交媒体形式讨论Gemini 3.5模型发布及竞争格局,但缺乏技术细节与数据支撑。
入选理由:Gemini 3.5 (pro)已发布但面临GLM-5.2等模型的竞争压力
推文未提供足够技术细节,无法判断K3与GLM 5.2的性能对比依据。
入选理由:推文内容缺失关键实验数据和对比方法