量子位 2026-11-21 19:41:43
文婷 发自 凹非寺
量子位 | 公众号 QbitAI
2026年了,居然还有年轻团队专门训练决策模型,而且一出手,就把Gemini甩在了身后?!
同样一场《城市扫描仪》挑战,Karpo从36场活动中帮我挑出10个休闲娱乐的好去处(平均消费50美元之内、通勤距离仅5km)只花了2.6秒,而Gemini 3.5 Flash则足足用了14.96秒。
快了将近6倍!各种筛选条件也一个没漏,36道题准确率达100%。
这位新晋决策高手,就是MachinePulse AI刚刚开源的Karpo Decision 31B。
它专门为Agent提供高频、低延迟的决策能力,让每一步判断都更快、更省。
比如浏览网页下一步点哪个按钮、任务有没有完成、几十个工具待调用哪个最符合要求,它都能直接给出判断,干起活来相当麻利。
一张RTX PRO 6000就能让它上岗,面对公开集14万多次请求,中位响应时间仅94毫秒,眨眼的工夫都用不着。
在足足有300个模型同台厮杀的Decision Index评测总榜上,Karpo Decision 31B还以73.9的Full分荣登榜首,单题最多可同时判断255个候选选项,校准误差降至了2.3%。
更进一步,MachinePulse还把已经应用于自家Personal Agent产品Karpo的浏览器操作框架,正式向开发者开源!
这套方案采用System 1 + System 2架构,包括karpo-browser框架、专门针对网页动作决策训练的Karpo Decision 27B Act模型,以及配套的网页动作决策评测集KBB。
在Browserbase Benchmark v2的102道核心任务上,这套方案做到了89%的平均成功率、201秒的平均耗时,单任务模型成本仅需0.096美元(约0.64元)。
相比榜首Claude Fable 5.2 + Claude Code,完成任务的速度快了约1.9倍,模型成本更是只有对方的十三分之一。
我们观察到,当把成功率要求放宽到80%,但真正用户可用的体验速度250秒内和成本0.15美金内,整个榜单全部91条记录无一做到,Karpo独此一份且大幅度领先,真正做到既要准又要快还要便宜!Karpo在表中特意备注不参加排行,但其自测102道全集题加上3次跑取平均的苛刻要求,远超榜单其他模型在38题仅跑1次的要求。
围观的网友们不禁感叹:
这正是每一个技术栈都需要的东西!
好家伙,这位专门替Agent拿主意的AI军师,究竟还有多少本事?
你还在等大模型回话,Karpo已经把活干完了
说起来,自今年9月Jev一夜爆火以来,决策模型这条赛道,已经一跃成为了硅谷最热门的明星赛道之一。
短短24天的功夫,Jev背后的TypeSafe AI就拿下了75亿美元(约500亿元)估值的大结果。
一时间,OpenAI、微软、亚马逊、Cloudflare等科技巨头纷纷杀进赛场,决策模型赛道迅速热闹起来。
为啥大家突然都盯上了这门生意?
原因也很简单。
随着Agent越来越能干,要是每次选个工具、筛个结果,都得调用通用大模型逐字生成答案,多少有点杀鸡用牛刀了。
不仅慢,Token还哗哗烧,钱包跟着瘪瘪。
于是,专门替Agent处理这些高频、琐碎判断的决策模型,就有了用武之地。
但现有方案也各有难处。
比如火爆的Jev和谷歌新推出的Gemini Decision 1,虽然能快速给出决策概率,但却均没有开源,开发者难以自行部署。
已经开放权重的决策模型(如GLiDE),也不见得能把速度和判断能力同时拉满。
于是,Karpo Decision 31B向前多走了几步,它不需要当场写小作文,只跑一次前向推理就能在刹那间算出整组选项的概率,且完全开源。
就拿我在Karpo官网上试玩的《十张胃口,菜单就一张》来说。
这是个真人与AI同台竞技的点餐小游戏。我和Karpo Decision 31B需要同时为10位客人点餐,既要照顾各自的预算、口味和忌口,还得比比谁上菜更快、更准。
看着很简单,可谁橙想,我才刚把光标点到第一位客人的需求,连第一行字都没读完,Karpo Decision 31B就已经以1.3秒的速度,火速把10道菜全部端上了桌。
而且10位客人的要求,它一个都没搞错!
被……被秒杀了?!哦不,稳住稳住,不会差太远的吧...
可当我终于读完第二位客人的需求,准备继续选菜时一瞄表盘,时间已经过去了整整13秒。
好家伙,换Karpo早都交卷10轮了,我竟还在第二题打转...
这我可就急了。从第三道题开始,我干脆悄悄作弊,它点啥,我就跟着点啥。
可即便抄作业,也还是追不上。
最后,我索性死马当活马医,直接乱点一通,心想着说不准撞个好运。
可就算这么连蒙带猜、半抄作业地折腾下来,我还是花了足足83.9秒才完成整套任务。
与此同时再看看通用大模型这边。
同样的10道题,我还截图交给了GPT-6.2 Astra(High档)来做,转了足足34秒才拿到答案。
这么一对比,Karpo不仅比我这个已经偷偷开挂的人类选手快了64.5倍,比GPT还快了约26倍!
而这种判断工作要是放到开发者日常搭建Agent的工作中来看,就更有用武之地了。
因为开发一个自动处理GitHub Issue的Agent,光是决定该调用哪个工具、如何给检索到的代码文件排序、任务是否已经完成,就可能涉及一连串判断。
要是每一步都得调用通用大模型,等它慢慢生成答案,不仅工作流容易被拖慢,Token账单也会跟着水涨船高。
而Karpo可以把多个判断放进一次请求,直接返回各个候选选项的概率,省去逐字生成答案的开销,让Agent有机会跑得更快、更省钱。
更关键的是,按照JevBench的GPU成本估算,Karpo每1000次决策仅需约0.025美元(0.17元),相当于只花1美元(折合人民币约6.67元)就能让它跑完近4万次决策!
与动辄调用通用大模型相比,成本简直暴降啊。
而且,Karpo还真把这套决策能力搬进了浏览器里,大幅度改进用户的网页任务的体验!
MachinePulse团队最新开源了这套名为karpo-browser的浏览器Agent方案,该方案创新地采用了System 1+System 2的快慢双模型分工,让通用大模型和专门的决策模型搭伙干活。
怎么分?
System 2负责动脑,System 1负责动手。
比如说,用户想预订一家餐厅。
通用大模型DeepSeek V4.1 Flash负责理解需求、拆解任务、准备需要填写的信息;
而专门针对网页操作训练的Karpo Decision 27B Act,则负责在页面上选择输入框、点击按钮,决定下一步执行哪个操作,单次决策时延中位数仅931毫秒(0.93秒)。
背后的karpo-browser框架,则负责读取网页、执行操作,并处理网页变化和执行异常。
而这套分工的效果,还真有点东西。
团队在Browserbase Benchmark v2全部102道任务上的三轮实测发现:
网页上约78%的操作,都交给了Karpo决策模型完成。
但这些操作仅占整个Agent运行耗时的14%、模型成本的13%。
于是,原本需要通用大模型反复调用、逐字生成答案的网页操作,如今可以交给决策模型快速处理,让大模型腾出手来负责规划、核对和更复杂的任务。
而且这回,MachinePulse还把整套开发工具链一起开放了出来。
除了Karpo Decision 27B Act模型权重,还有采用TypeScript编写的karpo-browser框架。
这套框架能灵活地适配不同的开源大模型与决策模型。
开发者无需从头搭建浏览器Agent,通过MCP就能把这套浏览器操作能力接入Claude Code、Codex等现有Agent。
甚至还有配套的KBB(Karpo BrowserBench)网页动作决策评测集,覆盖584个真实网站、23,075步网页操作,通过真实网页录制与离线回放,让开发者测试模型每一步的动作究竟选得对不对。
从模型权重,到浏览器执行框架,再到配套评测工具,开发者如今可以把这套System 1+System 2方案真正装进自己的Agent里。
△四个部署入口
而它带来的价值,还不止于省下一笔模型调用费。
MachinePlulse团队表示,相较于使用昂贵的顶尖模型,这套方案在保持出色的任务成功率的同时,有机会让开发者用同样的运营预算,支撑原来5-30倍的用户规模。
对于想把Agent做成真正面向大量用户的产品的开发者来说,或许这才是更令人兴奋的地方。
挑项目快准狠,听人话也有一手!Karpo有点东西啊
看着介么不错,我当然也要原地开Roll!
于是,我也给Karpo Decision 31B出了两道题,先看看它能不能又快又准地筛选技术资料,再体验看它听不听得懂我的阴阳怪气。(doge)
实测一:8条技术搜索结果摆面前,Karpo能又快又准地挑出真正有用的吗?
先测搜索结果筛选。
假设咱们正在寻找一个开源、支持本地部署,还能主动点击、填写和导航网页的浏览器Agent。
我一口气给Karpo甩出8条技术搜索结果,乍一看,个个都沾边,但其中混进了各种只能看不能动的工具、只能云端运行的Agent,还有功能齐全却不开源的项目。
题目如下:
看它能不能把真正符合要求的项目揪出来。
结果,仅过了308毫秒(约0.3秒),Karpo就把符合要求的A、D、E、G四条结果准确揪了出来!
其余四个混在其中的干扰项,也一个没放过。
实测二:我各种阴阳怪气,Karpo能听得出弦外之音吗?
不过,做决策往往可不只是筛选结果。
中华文化博大精深,有时候,咱们可不能只信字面意思。(doge)
be like这句:
太好了,这个Agent又把我的文件删光了,真是帮了大忙!
好评?反讽?
要是只盯着前半句话的“太好了”,或后半句话里的“帮了大忙”,绝对要翻车。
于是,我又给Karpo搬出了6道语气判断题,从直白称赞到反讽吐槽,再到褒贬混合的中性表达,看看它能否读出言外之意,读到什么程度。
任务如图:
结果还真挺不错。
仅过了232毫秒(约0.23秒),Karpo Decision 31B就给出了全部6道题的判断,把藏在字里行间的吐槽、称赞和复杂情绪全揪了出来。
甚至连第四句“页面加载慢了一些,但结果准确,整体还可以。”这种不夸不骂、好坏参半的评价,它都拿捏住了。
还给出了91%的中性概率、8%的认可,隐约0.2%的不满的细微觉察。
最有意思的是第六句:
不错嘛,今天终于没把线上服务弄崩。
明明开头就是一句“不错嘛”,Karpo却给负面态度分配了足足88%的概率,正面态度10%,中性或褒贬混合2%。
合着对这次任务的肯定、这句表扬背后,藏着的那些对过往翻车经历的怨气,也完全被它听出来了。
放到开发者的实际应用中,这种能力其实也很实用。
比如客服Agent判断用户是否真的满意、开发工具分析用户反馈,都需要透过字面表达识别真正的态度,避免把投诉错当成表扬。
告别逐字生成,还要避免偏科,Karpo怎么炼成的?
看到这里,估计大家也好奇了,Karpo Decision 31B究竟是怎么把这么多判断压缩到一次推理里,还能直接给出概率的?
秘密之一,就藏在它专门设计的Readout Head里。
以往,通用大模型面对一道选择题,往往需要逐个Token生成答案,再由程序从文字中解析出最终选项。
Karpo干脆省掉了这道工序。
它给候选选项安排了专门的编码,每道题后面再放置一个用于读取结果的标记。模型读完输入后,Readout Head就在这个位置为各个选项打分,并把分数转换成概率。
整个过程只需要一次前向推理,不用逐字生成答案,输出Token数直接降到了0。
△Readout Head机制
而且,这套设计还能一口气应付三种不同类型的决策。
比如,Agent下一步该调用哪个工具?
这可以交给Choice(选择题),让Karpo在最多255个候选选项之间分配概率,让Agent知道哪个更值得选。
要是Agent忙活半天,需要判断任务究竟完成了没有呢?
那就交给Noul(Yes/No判断题),直接返回任务完成的概率。
至于搜索结果有多相关、某个推荐内容究竟有多符合用户口味,则可以交给Score(评分题),让模型为不同评分等级分别给出概率,再供系统计算分数、调整排序。
三种题型,共用同一个Readout Head。
不过,一次能答一道题还不够。
Agent真正干起活来,可能要同时筛选几十条搜索结果、比较几十种工具,背后还跟着一大段网页内容或任务上下文。
难不成每判断一个候选,都得把同一份材料重新算一遍?
Karpo可不想干这种重复劳动。
于是,团队又设计了Branch Attention(分支注意力)机制。
它支持256K上下文能力,会把输入分成两部分。一部分是大家共用的Shared Block,放着任务说明、问题清单和网页等背景材料;另一部分则是各道题自己的Branch,包含对应的题目、选项和结果读取标记。
共享的内容只计算一次,各道题却能分别作答,互不干扰。
△Branch Attention架构示意图
效果有多明显?
在一张RTX PRO 6000上,面对1K-4K Token的请求,Karpo单独回答一道题的中位耗时仅为371毫秒。
而当一次请求包含16-63道题时,中位耗时也只有653毫秒。
几十道判断集中起来,耗时却没有跟着题目数量成倍增长,Agent处理高频决策的开销也就有机会大幅降下来。
对开发者来说,这就很香了。
不过,判断得快,还得有点自知之明。
毕竟,Agent下一步是自动执行,还是乖乖把决定权交还给人类,往往就取决于模型对自己到底有多大把握。
要是明明只有六成胜算,却张口就是99%,那可真是自信得有点吓人了。(doge)
为此,Karpo还用上了RLCD(面向校准决策的强化学习)。
它不只奖励模型选对答案,还会根据整组预测概率来计算奖励,鼓励模型如实报告自己的把握。
哪怕训练数据里的标签存在分歧,它也会尽量保留这种不确定性,而不是强行压成唯一答案。
效果如何?
在JevBench公开题上,Karpo的预期校准误差(ECE)仅为2.3%。
如此一来,开发者就可以尝试给Agent设定不同的执行阈值,让Agent既能果断出手,也知道什么时候该收手,交还给人类把关。
RSI登场,Karpo把训练中的偏科问题扳回来了
不过,速度和概率都搞定了,Karpo还得面对另一个更棘手的问题。
那就是千万别练着练着,就把自己练偏科了。
要知道,Agent每天遇到的决策需求千奇百怪。
今天帮你筛选开源项目,明天可能就要判断代码有没有安全漏洞,后天又得给某份合同或采购文件把关。
如果模型从来只擅长训练时见过的题目,一换场景就掉链子,那可真有点难堪了。
而Karpo团队在训练中,还真发现了这样的苗头。
随着训练不断推进,模型的公开测试成绩从73.1涨到了75.1,可在13个陌生领域的评测中,准确率反而从72.1%跌到了70.7%。
为了破解这个问题,Karpo团队把泛化能力列为训练重点,并引入了RSI(递归自我改进)训练框架。
它会先训练出多个候选模型,逐一评估,再通过Model Fusion(模型融合),把不同版本的优势集中到一起。
融合后的模型只有胜过当前模型,才能成功晋级,进入下一轮迭代。
这一次,团队选中了5个不同的Checkpoint,其中3个来自全参数微调,另外2个来自LoRA微调。
通过权重平均,把早期模型较好的泛化能力和后期模型更强的专精能力结合起来。
效果还真不错。融合后,公开测试成绩仍保持在75.1,陌生领域准确率却从70.7%提高到了72.3%,足足回升了1.6个百分点。
而且,融合完成后,它仍然是一套标准的31B参数模型,结构、参数量和推理开销都没有增加。
在团队组织的同一套13领域测试中,Karpo最终拿下了72.3%的准确率,超过了此前Decision Index Full榜单前三的KnowLine 31B Gen1(71.5%)、Sieve 31B v3(70.4%)和GLiDE 1.2(69.1%)。
公开题没丢分,陌生题反而考得更好了。
对于一个想要嵌进各种Agent工作流、随时接手不同判断任务的决策模型来说,这份不偏科的能力,恐怕比单纯多刷几分更值得关注。
让Agent少一点犹豫,让开发者多一点自由
Anyway,实测了一圈下来,最让我印象深刻的,还是Karpo处理那些高频小判断时的利落劲儿。
如今,决策正在成为AI系统中可以独立分工的一层能力。
早在今年4月,AWS CEO Matt Garman就在Stratechery访谈中预见过类似趋势:
未来会有各种模型共存。一些小模型甚至能完成最新OpenAI模型还做不到的事情,而且会越来越小、越来越便宜、越来越快。
Jev的创始人Diogo也表达过类似的判断:
未来,AI不必事事依赖大模型生成答案。快速决策可以交给专门的模型,复杂推理则由其他模型承担,各司其职。
而Karpo的出现,又让开发者多了一种实现这套思路的开源选择。
Karpo发布时,LeahW曾这样概括它的设计理念:
选下一个工具,不该费一整段话。
当判断足够快、成本足够低,开发者也就有机会在Agent的搜索、推荐和任务执行流程里,安排更多细致的筛选与检查,而不必事事依赖生成式大模型。
更有趣的是,Karpo连名字都透着一股潇洒劲儿。
它取自拉丁语Carpe Diem,意为“把握当下,及时行乐”。
而开发Karpo的MachinePulse团队,长期深耕的Personal Agent(个人智能体)方向,恰好也在解决咱们日常生活中那些真实又琐碎的小纠结。
比如,今天喝点什么?下班后想怎样放松?周末附近有什么好玩的?
有时候,我们脑子里只有一个模模糊糊的念头,连自己想要什么都说不太清楚。
Karpo想做的,就是把这些模糊的想法变成具体的选择,帮人们少一点纠结,早点出门享受生活。
△外出游玩时轻点两下手机背面,就能瞬间召唤出Karpo帮咱们检索周围娱乐好去处
而对开发者群体而言,Carpe Diem如今似乎又多了一层新的意义。
把琐碎的决策交给Karpo,把宝贵的时间留给自己真正想做的事。
毕竟,技术进步的意义,不就是让我们能更自由地做自己想做的事吗?
现在,MachinePulse团队已经同步开源了0.8B、2B、4B、9B、12B和31B共6款Karpo Decision全尺寸模型,大家可以根据实际需求调用~
而且,这回连专门负责网页动作决策的Karpo Decision 27B Act、浏览器Agent框架karpo-browser,以及配套评测集KBB,也一并开放给了开发者。
从替Agent拿主意,到让Agent真正上手干活,Karpo把决策模型快、准、省的本事,真正用到了刀刃上。
体验链接:https://karpo.ai/models/decision/ten-appetites
仓库指路:
[1]https://huggingface.co/MachinePulseAI/karpo-decision-31B
[2]https://github.com/machinepulse-ai/karpo-browserbench
[3]https://huggingface.co/MachinePulseAI/karpo-decision-27B-act
[4]https://github.com/machinepulse-ai/karpo-browser
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法!
— 完 —
🌟 点亮星标 🌟
科技前沿进展每日见
【版权声明】本文内容来源于量子位,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。
发布时间:2026-11-21 19:31:22
(第1/1页/共41455字/1阅)