2026年10月8日,JetBrains发布了开源编程模型Mellum 2.1。12B总参数,每Token只激活2.5B,在SWE-bench Verified上拿下47%。四个月前的Mellum 2,这个数字只有2.0%。
一家做了25年IDE的公司,把宝押在了”小模型干重活”上。这笔账值不值得算,拆开看。
从2%到47%,改的是训练方法
Mellum 2.1的模型架构没有变。64个专家、每Token激活8个、28层Transformer、分组查询注意力,和6月2日开源的Mellum 2完全一致。
变的只有训练配方。JetBrains把强化学习从训练末尾的”加餐”位置,挪到了整场训练的主菜。模型不再是在干净的数据上背代码,而是在真实代码仓库里反复犯错、修错、跑测试、看结果。官方给它的定位是junior engineer(初级工程师):打开仓库、探索文件结构、改代码、执行测试、自查输出。
这个思路被市场验证过。就在同一个月,Bun 1.4用AI在11天内重写了53万行代码,背后的模型同样是以强化学习为核心的Agentic范式。参数量堆到头之后,训练方法成了新的分水岭。
一张24GB显卡就能跑
Mellum 2.1是MoE架构,总参数12B,每Token只激活2.5B。实际推理时,显存占用接近一个3B模型。一张RTX 4090(24GB显存)就能本地部署,跑在Ollama、vLLM或者JetBrains自家AI Assistant里。
这对企业有实打实的吸引力。GPT-6.1 Sol这类旗舰模型按Token计费,Agent模式的账单随调用量线性上涨。一个中型团队每天跑几百次代码审查、测试生成、Bug修复,云端旗舰模型的月账单轻松过千美元。Mellum 2.1基于Apache 2.0协议开源,权重直接从Hugging Face下载,商用免费。算力是一次性硬件成本,用得越多,单次成本越低。
它还专门为”子Agent”场景做了优化。高负载下每秒吐出的Token数接近同类模型的两倍,JetBrains的建议用法是:主Agent用旗舰模型做规划,子任务(补全、重构、测试)分发给本地Mellum 2.1,成本结构立刻不同。
横向对比:赢在哪,输在哪
把第三方和官方的评测数据摆到一张表上:
| 评测项 | Mellum 2.1 | Qwen3.5-9B | 说明 |
|—|—|—|—|
| SWE-bench Verified | 47.0% | 50.0% | Qwen略胜 |
| LiveCodeBench v6 | 82.0% | 75.4% | Mellum反超 |
| 官方17项自测 | 赢5项 | 赢12项 | Qwen拿下全部3项Agent测试 |
| 高负载吞吐 | 约2倍 | 基准 | Mellum的MoE优势 |
结论不复杂。纯算法和工具调用场景,Mellum 2.1能打;完整的Agentic任务链,Qwen3.5-9B仍然更稳。高负载吞吐是Mellum的强项,这恰好是IDE补全和子Agent最需要的特性。
上下文窗口131072 Token,约13万Token,足够吞下一个中型仓库的核心文件。对比旗舰模型的百万Token上下文,它不适合”一次喂整个monorepo”的玩法,本地部署选型时要把这个上限算进架构设计。
谁该用,谁别碰
适合的场景:
- 数据敏感、代码不能出域的企业。金融、医疗、政企团队,本地部署是硬需求
- 高频补全和批量代码任务。补全调用每分钟几十次,云端按Token计费会失控
- Agent编排中的子任务节点。主模型做规划,Mellum 2.1干杂活,成本砍到原来的几分之一
不适合的场景:
- 需要100万Token上下文一次性分析巨型代码库
- 高难度的跨仓库重构,仍然需要旗舰模型的能力
- 团队没有GPU硬件,也不打算投入运维
开源小模型的窗口期
Mellum 2.1的原型Mellum最初是2024年底的4B闭源模型,只干一件事:在IDE里补全代码。2026年6月开源的Mellum 2升到12B,增加了工具调用和多轮对话。10月的2.1版本,SWE-bench从2.0%涨到47%。
四个月一个台阶,这个迭代速度来自强化学习在真实环境中的大规模应用。同一时间窗口里,微软的MAI-Code-1.1-Flash用130B参数砍到1/4价格,DeepSeek-V4.1-Flash用0.75美元跑赢自家旗舰。小模型的价格战已经打到肉了。
对开发者来说,选型逻辑变了。两年前的问题是”哪个模型最强”,2026年的问题是”这个任务值多少Token钱”。一个47% SWE-bench、本地免费、吞吐翻倍的模型,把”每分钟几百次调用”从奢侈品变成了水电煤。
JetBrains赌的方向很清晰:不是每家公司都需要最聪明的模型,大部分代码工作需要一个够用、便宜、数据不出门的模型。你桌面上那张显卡,现在真的能干活了。
苏公网安备32010502011527号
发表回复