65B小模型干翻800B巨兽:Ripple-65B Preview实测拆解,一张显卡跑出美国开源编程SOTA

11月初的AI圈被一家五人团队搅动了。Ricursive Intelligence发布Ripple-65B Preview,一个650亿参数的稠密开源模型,在Terminal-Bench 2.1上拿下80.5分,把500B以上的一众开源巨模型甩在身后。权重放在Hugging Face上,许可证是Apache 2.0,商用随便用。

这份成绩单值得逐行细看。

三个基准,一份硬成绩

Ripple-65B Preview在Terminal-Bench 2.1拿到80.5%,此前美国开源权重模型的最高纪录是Reflection的Beam,80.1分。Beam是个大约8倍体量的模型。SWE-Bench Pro v2.0-Hard上,Ripple拿到79.1%。DeepSWE v1.1上是44.3%。

更扎心的对比是参数量。Ripple-65B这次超越的对手名单里,有Meta的Muse Spark Open(816B)、Beam(501B)、Inkling(975B)。一个65B的稠密模型,把三个500B级选手压在身下,这在开源编程模型的榜单上还是头一回。

五个人、3200万美元、12万亿Token

训练成本是另一个看点。这个模型由五人核心团队从零预训练,总投入约3200万美元,预训练数据量12万亿Token文本和代码。

后训练阶段同样克制。Ricursive自己搭建了RL任务管线,随模型能力提升持续加入更难的任务。官方披露的数据是:仅用140万次rollout就完成了这轮RL爬坡,大约是前SOTA模型Reflection Beam的七十分之一。

斯坦福AI实验室的研究员确认了这个结果。一个五人团队、一次有限的算力预算,做出了美国开源权重模型在agentic coding上的新SOTA,这件事本身比分数更值得琢磨。

稠密架构的回马枪

过去两年开源阵营几乎被MoE(混合专家)架构统治。千问、DeepSeek、Kimi、Llama,清一色的稀疏激活。理由很朴素:MoE推理便宜,每次只激活一小部分专家。

Ripple-65B偏选了稠密路线:650亿参数,每个Token全部激活。代价是推理成本高于同参数量的MoE模型,收益是训练效率高、能力密度大。12万亿Token喂进去,没有参数浪费。

这个选择在端侧场景反而成了优势。65B稠密模型配合量化,可以塞进MacBook或者NVIDIA DGX Spark本地跑。开发者不需要一张H100,一台桌面设备就能拥有当前美国开源最强的编程Agent。

一笔账:API价格和任务成本

不本地部署也有便宜路子。Together AI已经上架Ripple-65B Preview的托管API,价格是每百万Token输入0.20美元、输出0.60美元。

按eesel AI的测算,配合缓存,单个Agent任务的平均成本大约0.11美元。对比旗舰闭源模型动辄几美元的单任务成本,这个价格对高频自动化场景很有吸引力。

有两处短板要提。上下文窗口方面,Together API目前给的是16K级别,对比Beam的100万Token上下文差距明显。基准覆盖上,eesel统计的22项基准里Ripple只在2项领先,Beam在5项编程与Agent测试上仍占优。选型时别只看榜首那一行。

本地怎么跑

权重地址是Hugging Face上的ricursiveAI/Ripple-65B-Preview。65B稠密模型,FP16下需要约130GB显存,本地部署的现实路径是量化:

  • 4-bit量化后约35GB,一台64GB内存的Mac Studio或者DGX Spark可以承载
  • 推理框架用vLLM或llama.cpp都行,vLLM对稠密模型的吞吐优化更成熟
  • 想省事就直接走Together API,$0.20/$0.60的定价试错成本很低

给开发者的三个判断

第一,模型能力密度在快速上升。65B做到800B级模型的编程水平,中间只隔了一个精心设计的RL管线。买卡之前先看看小模型能做到什么程度。

第二,训练成本在塌缩。3200万美元做出SOTA,对比动辄数亿美元的前代训练账单,这个数字会鼓励更多小团队入场。开源编程模型的供给会越来越密。

第三,稠密小模型可能是端侧Agent的答案。Agent场景吃的是多轮工具调用的反应速度和隐私性,本地跑一个80分的编程模型,比远程调一个82分的旗舰更实际。

Ripple-65B Preview目前还是Preview版本,官方标注了后续会继续迭代。五人团队的下一版会做到什么分数,这个悬念本身就值得追。

参考来源:Ricursive官网、MarkTechPost、eesel AI评测、Together AI模型页。


评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

苏ICP备2025163703号-2   警徽苏公网安备32010502011527号