Mellum2.1 Gets to Work: A Fast Open Model for Coding Agents

TL;DR · AI 摘要
JetBrains发布Mellum2.1,通过强化学习提升代理编码能力,速度和性能显著优化。
核心要点
- Mellum2.1使用强化学习训练,支持在真实代码库中自主编辑文件
- 相比Mellum2,代理编码能力提升显著,且速度是Qwen3.5-9B的2倍
- 模型在数学、编程竞赛、工具调用等场景表现均衡
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- Mellum2.1模型
- 核心改进
- 强化学习训练方法升级
- 多源数据过滤机制
- 真实环境沙箱测试
- 性能表现
- 代理编码能力提升
- 速度优化(MTP技术)
- 跨领域任务表现均衡
金句 / Highlights
值得收藏与分享的关键句。
强化学习从训练后期变为主要训练方式,覆盖数学、编程竞赛等新任务类型
Mellum2.1在代理编码任务中表现优于Mellum2,且速度是Qwen3.5-9B的2倍
通过多源数据过滤机制,解决开放数据集中的测试缺陷和答案不可验证问题
Mellum2.1 开始工作:面向代码代理的快速开源模型 - JetBrains 博客
JetBrains AI
通过JetBrains多款产品中的AI功能,为您的工具注入强大动力
关注
- 关注:
- RSS RSS
查看更多
新闻
版本发布
Mellum2.1 开始工作:面向代码代理的快速开源模型
Bulat Salimzianov
通过在真实环境中的强化学习训练,Mellum2.1专为代码代理和运行在您本地硬件上的快速子代理而设计。
今天,我们发布Mellum2.1,这是我们在6月开源的120亿参数专家混合模型的下一个版本。自版本2以来架构没有变化:它仍然是一个紧凑且快速的模型,拥有25亿个活跃参数,采用Apache 2.0许可证发布。发生变化的是预训练之后的所有内容。
Mellum2虽然快速,但无法在我们期望的层面在仓库内部工作。经过一个夏天在真实环境中的强化学习训练,通过数千个环境中的数百万次沙盒运行,Mellum2.1现在可以做到:探索代码库、编辑文件并检查自己的修改。
尝试Mellum
Mellum2.1 的改进
这个版本的几乎所有工作都集中在后训练阶段,主要是强化学习(RL)。
- 更大规模的强化学习:强化学习从训练的最后阶段转变为训练的主要部分。我们进行了许多实验来研究方法和数据的训练方式,并保留了经验证有效的方案。
- 更多数据,更严格筛选:我们在数学、竞赛编程、科学、工具使用和软件工程领域新增了RL任务,将开源RL数据集与我们自行构建的任务相结合。由于开源数据常包含损坏的测试、无法验证的答案或对模型来说过于简单或不可能完成的任务,因此每个数据源在进入训练前都经过了严格筛选。
- 用于代理技能的真实环境:我们构建了内部基础设施来运行数千个RL环境,并在训练过程中启动了数百万个沙盒。
Mellum2.1 的性能表现
我们将Mellum2.1与Mellum2进行比较——同时还使用相同评估设置对比了两个同类开源模型Qwen3.5-9B和Gemma 4 E4B。
最大的改进体现在代理编程方面,与Mellum2相比,Mellum2.1在此领域进步最为显著。模型在各领域表现均有提升,显示出在编程、竞赛编程、数学、工具调用和常识知识方面的进步,即使在解决困难问题时也表现稳定。
速度
后训练没有改变架构,因此Mellum2.1的速度与Mellum2相同,而多令牌预测(MTP)使其更快。
在高负载情况下,Mellum2.1是该组中最快的模型,生成的令牌数量几乎是Qwen3.5-9B的两倍。对于单个请求,MTP使其速度提升约1.6倍。
Mellum2.1 的关键应用场景
- 代理系统中的能干工作者:Mellum2.1可以处理代理计划的不同部分,从识别失败测试的根本原因到起草和检查修复方案。
- 超越编程的场景:Mellum2.1也是一个能力出众的通用助手。它能够处理日常问题,并逐步解决复杂的数学和推理问题。
- 私有化部署:在本地或您自己的基础设施上运行Mellum2.1,以完全掌控代码和数据。
立即体验 Mellum2.1
Mellum2.1现已在Hugging Face上发布。针对llama.cpp、Ollama和LM Studio的GGUF构建版本,以及vLLM中用于推测解码的多标记预测(MTP)头功能即将推出。
如果您正在构建基于自有基础设施的代码代理、子代理或AI工具,我们诚邀您试用Mellum2.1。请告诉我们哪些功能有效、哪些需要改进。您的反馈将直接影响下一个版本的开发。
开源是打造更优模型的关键方式。
AI
Mellum
开源
- 分享
上一篇博客
一种新的代理体验:JetBrains Air集成于IDE – EAP现已开放