大模型的军备竞赛,突然分出了一条岔路。
10月9日,微软正式发布Microsoft-Decision-1,一款专做结构化决策的小模型。CEO纳德拉在社交媒体上确认,微软正在全公司范围测试这个模型,覆盖事件响应、质量控制、科学发现三大场景。它的底座耐人寻味——阿里通义千问的Qwen3.5-9B,经过微软深度后训练而来。
35倍速度差距,账本很清楚
先看硬指标。微软在36项基准测试、近15万条盲评样本上做了对比评测,Decision-1的决策准确率排名第一。响应速度更是甩开对手:比排名第二的Quyet-1.0-Large快4.5倍,比OpenAI的旗舰GPT-6 Sol快35倍。
延迟数据更直观。单次推理的p50延迟只有85毫秒,做到这一点靠的是单次推理决策评分机制——模型不生成一长段文字,直接输出校准过的选项概率。价格方面,每百万Token输入0.042美元,折合人民币约3毛钱,几乎可以忽略不计。
GPT-6 Sol一次调用几百毫秒到几秒,Decision-1不到一百毫秒。在需要海量高频决策的系统里,这个差距决定架构能不能成立。
微软为什么盯着”决策”不放
大模型擅长开放式生成,却普遍不擅长稳定的判断类任务。让旗舰模型判断”这条工单该派给谁””这次交易是否放行”,既贵又慢,输出还会漂移。
微软测了一组稳定性数据:对同一请求做八种扰动处理,Decision-1的决策翻转概率平均只有1.3%。安全测试覆盖11项基准、5250条请求,模型能稳定拒绝有害指令。
产品负责人把适用场景说得很细:路由、分类、排序、验证、工作流控制。翻译一下,这就是Agent系统里那些”分发器”和”守门员”角色。之前开发者拿通用LLM硬扛这些活,现在有了一个便宜百倍、稳定百倍的专用件。
阿里Qwen成了全球大厂的底座
这条新闻里最扎眼的细节,是微软选择了Qwen3.5-9B。
Qwen系列的开发生态近年扩张迅猛,Hugging Face上的下载量长期位居开源模型第一梯队。微软拿它做后训练底座,等于给”开源模型+后训练=专用模型”这条工程路线做了一次全球级背书。
更值得关注的是后续计划。微软透露,会把这套决策评分机制迁移适配到包括Microsoft AI(MAI)和OpenAI在内的其他底座模型上。也就是说,Qwen只是起点,专用决策模型的底座未来会持续换代。
开发者怎么用上它
Decision-1已上线Microsoft Foundry,并同步接入OpenRouter。国内开发者通过OpenRouter调用不需要新开采购流程,拿现有API Key就能试。
一个务实的架构建议:把系统里的高频判断环节单独拆出来。客服分流、风控初筛、Agent任务路由、检索结果重排,这些环节的请求量最大、对延迟最敏感、对创造力要求最低,最适合换成专用决策模型。旗舰LLM留给真正需要推理和生成的部分。
按85毫秒延迟和0.042美元的价格估算,一个日均百万次调用的分发系统,用Decision-1的成本大约42美元,换成旗舰LLM动辄数千美元,中间差着两个数量级。
决策模型会是下一个标配吗
2026年10月,模型层的分工越来越细:Gemini 4 Argon押注旗舰深度推理,微软MAI-Code-1.1-Flash抢编程赛道,Decision-1瞄准高频决策。一个通用模型包打天下的时代,正式结束了。
纳德拉那句”在所有领域测试新模型”值得盯紧。微软的产品线横跨操作系统、办公套件、云平台,任何一处大规模切换到专用决策模型,都会带来实打实的成本和体验变化。
对开发者来说,动作可以更早:盘点自己系统里每天跑上百万次的判断逻辑,给它们找个更便宜的执行者。这条赛道才刚开跑,性价比红利期就在眼前。
苏公网安备32010502011527号
发表回复