您尚未登录/注册
首页>科技
打包要轻,CarryOn:让AI助手学会“断舍离”的记忆术
科技行者 2026-11-21 21:42:15

你有没有试过搬家?

第一次搬家的人往往会把所有东西都装进箱子,包括三年前买的说明书、已经过期的优惠券、甚至是拆快递剩下的气泡膜。结果就是,搬家公司报价贵得离谱,新家堆满了根本用不上的杂物。而真正会过日子的人懂得一个道理:重要的不是"我经历过什么",而是"我现在手上有什么能用的东西"。那张写满攻略的地图可以扔了,因为你已经到了目的地;但钥匙必须留着,因为门还锁着。

这个道理放在AI助手身上,同样成立。

当一个AI要完成"编辑一份香港天气的PPT"或者"填写杨氏模量实验报告"这种需要几百个操作步骤的任务时,它会遇到和搬家一模一样的问题:历史记录越堆越多,最后连AI自己都快被自己的"行李"压垮了。

一篇来自加州大学圣地亚哥分校的研究论文,提出了一个叫CarryOn的系统,专门解决这个问题。它的核心思路特别朴素,却也特别反直觉:**AI不需要记住自己是怎么做到某件事的,它只需要知道现在手上有什么成果能直接用。**

这篇论文的名字也挺有意思,"Pack Light, CarryOn",打包要轻,才好随身携带。

长程智能体的"行李超载"问题

先说说这个问题到底有多严重。

长程智能体*:指需要执行大量连续步骤才能完成任务的AI系统,比如操作电脑完成几百步的复杂工作流,区别于那种一问一答就结束的简单对话式AI。

论文里举的OSWorld2.0这个测试平台上,一个任务的人类完成时间中位数大约是1.6小时,换算成AI的操作步骤,常常是几百步起步。每一步AI都要"观察屏幕发生了什么、思考该怎么做、执行一个动作",这些记录全部堆积在AI的上下文窗口里。

问题来了:如果图片已经插入到PPT里了,这个"插入"的过程还有必要反复回顾吗?

显然不需要。文件里已经有图片了,这就是铁一样的事实,AI只要打开文件看一眼就知道。可现实中大部分AI系统做的事情是,把这几百步的操作历史全部堆在上下文里,或者用摘要的方式压缩一下,然后每次决策前都要重新"读一遍"这堆历史。

这就好比你每次要用钥匙开门之前,都要先把当初买房、装修、配钥匙的全过程回忆一遍,再想起钥匙放在抽屉第二层。多此一举,而且越往后越慢。

现有的解决方案,比如摘要、裁剪、检索式调取,确实能让上下文变短。但论文作者指出了一个更深层的问题:这些方法本质上还是在"复述历史",只是复述得更精简。

上下文压缩*:指通过总结、删减、检索等方式减少AI需要处理的历史文本量,是目前长程智能体领域应对"记忆爆炸"问题的主流思路。

一旦这种压缩后的"复述"替代了真实可查的任务状态,就可能出现偏差。AI基于一份不准确的二手描述继续工作,比直接打开文件核实要危险得多。这就像你搬家时不带钥匙,而是带了一张"钥匙长什么样"的手绘图,图画得再像,也开不了锁。

CarryOn的解法:把"过程"和"结果"分开装箱

CarryOn提出了一个很直白的框架调整:把AI的工作记忆拆成三个相对独立的部分,而不是一股脑混在一起。

第一部分叫续用载体*:Continuation Carriers,用来承载那些可以被反复利用的任务成果,比如已经编辑好的文档、已经找到的关键信息、当前所处的应用程序状态。它不是对"怎么做出来的"的描述,而是对"现在是什么样"的直接引用或记录。

想象你在整理厨房,续用载体就相当于冰箱里那盒已经切好的胡萝卜丁。你不需要记得自己是用哪把刀切的、切了多久、中途有没有洗手,你只需要知道冰箱里有一盒切好的胡萝卜丁,拿出来直接下锅就行。如果没有这个"载体"概念,厨房助手每次做饭前都得把切菜的全过程回放一遍,才能确认胡萝卜丁确实存在,这显然很荒谬,但这恰恰是没有做这种拆分的AI系统正在干的事。

第二部分叫执行上下文*:Execution Context,保存的是那些还没落地成具体成果、但对继续工作仍然重要的信息,比如当前的核心目标、还没解决的约束条件、悬而未决的问题。

胡萝卜丁已经切好了,但"今晚要做几道菜""客人对辣有忌口""酱油还剩多少"这些信息,并不会体现在胡萝卜丁本身上,必须单独记着。这就是执行上下文存在的意义,它补全了载体没法表达的"还差什么"。

第三部分叫实时尾巴*:Live Tail,就是最近发生、还没被归档整理的那部分原始交互记录。

这三者合起来构成了AI在某一时刻看到的完整工作视图。论文里给出一个具体数字对比,在天气PPT的例子里,折叠前的上下文有42.4K个token,折叠后压缩到14.4K,降幅达到66%;在实验报告的例子里,从58.4K降到23.5K,降幅约59.7%。

token*:指AI处理文本时的最小计量单位,大致可以理解为文字或词语的片段,token数量越多代表需要处理的信息量越大,消耗的算力和费用也越多。

这组数字说明一件事:大量的历史记录其实是冗余的,一旦把真正有用的"成果"单独摘出来,剩下的历史完全可以放手。

折叠:当历史记录被归档和整理

这里有个关键动作叫折叠*:Fold,指系统把一段已经处理过的交互历史,用新生成的载体记录和执行上下文来替换,原来那堆琐碎的操作步骤就此退出AI的"活跃视野",但仍然完整保存在一份只能追加、不能修改的日志里,供日后审计或追溯。

折叠不是简单的"删除",而更像是一次"结账"。你去超市买了十件东西,收银员不会把你拿起每件商品、放进购物车、犹豫要不要换一个牌子的全过程记录下来交给你,他只会给你一张小票,上面写着你买了什么、花了多少钱。购物过程本身被"折叠"进了这张小票里。如果没有这个结账动作,你每次付款时都得把整个购物过程口述一遍给收银员核实,那超市大概永远别想做生意了。

但CarryOn的折叠比普通小票复杂得多,因为它要解决三个实实在在的难题。

第一个难题是怎么判断哪些进展真的可以独立出来用。有些结果其实还依赖着前面的具体情境才能被正确理解,不能简单地一刀切归档。CarryOn的解法是给每个载体记录都附上明确的使用条件,相当于给那盒胡萝卜丁贴个标签,写清楚"保质期三天,需要冷藏",而不是直接扔进储藏室就不管了。

第二个难题是怎么保证这些"已归档的进展"在任务继续推进的过程中依然站得住脚。毕竟文件可能被进一步修改,状态可能会发生变化,单纯留着一份记录不代表它永远正确。CarryOn为此设计了一套验证机制,涉及到两个关键角色。

一个叫追踪器*:Tracker,负责持续观察AI的操作过程,识别出哪些进展可能值得被归档为载体,并在合适的时机发起"编译请求"。

另一个叫接地器*:Grounder,负责对环境进行只读式的核查,比如检查某个文件是否真的存在、文件内容相比初始状态有没有变化、文档结构是否完整。

这两个角色配合起来,相当于给归档的内容做"质检"。追踪器像是仓库管理员,发现某批货物看起来可以打包入库了;接地器则像质检员,拿着检测仪器去现场确认这批货物没有变质。只有质检通过,才能正式入库,也就是形成一个被系统认可的载体记录。

论文里专门列出了这套只读检查包括哪些具体条目,比如文件是否存在、内容是否相比最初发生了改变、文件大小是否为空、文档结构是否完整(针对docx、pptx、xlsx这类办公文档)、文档内容的差异对比、以及指令文本是否匹配等等。这些检查不验证任务本身做得对不对,只负责确保"归档的东西是真实可信的"。

第三个难题是,当这段历史被折叠退场之后,哪些信息必须被明确保留下来,不能随着历史一起消失。这正是执行上下文存在的意义,它由一个叫编译器*:Compiler的组件来统一维护,负责同时更新载体记录和执行上下文,确保二者互相补足而不重复。

比如论文中那个修表格的例子,实验报告这个文件(载体)已经记录了"测量表和荷载位移表已填完",但还有一个关键的未解问题悬而未决,论文作者描述为4.83和4.84的读数歧义需要解决,这条信息不会出现在文件本身里,只能靠执行上下文明确保留,否则AI折叠之后很可能忘了这回事,白白浪费之前的推理成果。

实验结果:真金白银的性能提升

说了这么多设计理念,实际效果到底怎么样?

论文在两个基准测试上做了验证。第一个是OSWorld2.0,考察的是长程电脑操作能力,涵盖七大专业领域、21个子类别的复杂工作流。第二个是BrowseComp-Plus,考察的是长程网页浏览和信息检索能力,需要在十万多份文档中反复搜索和推理。

在OSWorld2.0上,使用Claude Opus 4.7作为基础模型,加上CarryOn之后,部分完成度评分从43.9%提升到49.7%,提升了5.8个百分点,二元成功率评分从15.7%提升到19.4%。与此同时,总token消耗降低了51.9%,总成本降低了35.9%。

| 模型配置 | 二元评分 | 部分评分 | 单任务成本 |

|---|---|---|---|

| Claude Opus 4.7(基线) | 15.7% | 43.9% | 36.8美元 |

| **Claude Opus 4.7 + CarryOn** | **19.4%** | **49.7%** | **23.6美元** |

这个结果意味着什么?意味着花更少的钱,还做得更好。这在AI领域不算常见,通常省钱和做好是一对矛盾,CarryOn算是难得地把两者都兼顾了。

在BrowseComp-Plus的100题子集上,准确率从49%提升到56%,提升了7个百分点,同时总token消耗降低22.9%,总成本降低7.1%。

论文还专门分析了上下文大小随执行步数增长的变化曲线。基线方法的上下文会一路线性增长,到500步的时候甚至超过200K个token;而CarryOn的上下文在初期增长之后,稳定在大约65K token左右,不会无限膨胀。成本曲线上有一个有意思的交叉点,大约在150步左右,CarryOn前期因为要额外运行追踪器和编译器,成本略高于基线,但越往后,基线的成本增长越快,到500步时CarryOn的累计成本比基线低了34.1%。

这组曲线告诉我们一个道理:CarryOn的优势是越跑越长越明显的,短任务可能看不出太大差别,但真正的长程任务才是它的主场。

对照实验:拆解各部分的价值

光看整体效果还不够,论文做了一系列对照实验,想弄清楚到底是哪个设计环节在起作用。

第一组对照比较了几种不同的历史压缩策略。滑动窗口*:Sliding Window,只保留最近的若干条消息,是最简单粗暴的裁剪方式。

通用摘要*:Generic Summary,把更早的历史整体概括成一段连贯的文字描述。

实验数据很诚实地反映了一个事实:单纯压缩历史并不会让AI表现更好。在一个40个任务的共享子集上,滑动窗口把二元评分拉低到15.00%,部分评分拉低到37.41%,通用摘要同样低于基线水平。

| 方法 | 文本长度(千字符) | 二元评分 | 部分评分 |

|---|---|---|---|

| 基线(无压缩) | – | 22.50% | 50.32% |

| 滑动窗口 | 12.08 | 15.00% | 37.41% |

| 通用摘要 | 17.60 | 15.00% | 44.94% |

| CarryOn引导式摘要 | 23.94 | 20.00% | 50.93% |

| **CarryOn(完整版)** | 21.54 | **22.50%** | **55.93%** |

这个结果有点意思。它说明单纯地把历史记录变短,并不等于把有用信息留下来了。你把一本书压缩成十页摘要,如果压缩的方式不对,关键的章节可能被删掉了,而无关紧要的细节反而被留了下来。

表格里还有一个"CarryOn引导式摘要",它用的是和CarryOn一样的组织理念,但实现方式是让AI在普通文本摘要里体现这种"载体+执行上下文"的结构,而不是用专门的程序化系统去维护。结果显示这种方式确实比通用摘要好不少,部分评分达到50.93%,说明这套组织理念本身是有效的,但距离完整的CarryOn系统还有差距。完整的CarryOn用结构化的程序逻辑而不是单纯依赖AI的文本生成能力来维护这些记录,进一步把部分评分提升到了55.93%,而且用的文本长度反而比引导式摘要还短了大约10%。

这说明把"怎么组织信息"这件事交给一套严谨的程序逻辑去执行,比单纯指望AI在生成摘要时自觉遵守这些规则,效果要更可靠。

第二组对照实验专门检验载体和执行上下文这两个部分是不是真的缺一不可。

| 方法 | AI调用次数 | 成本 | 二元评分 | 部分评分 |

|---|---|---|---|---|

| 去掉执行上下文 | 274.33 | 18.33美元 | 17.50% | 44.00% |

| 去掉续用载体 | 349.45 | 25.14美元 | 25.00% | 44.62% |

| **CarryOn完整版** | 282.25 | 20.55美元 | 22.50% | **55.93%** |

去掉执行上下文之后,部分评分从55.93%直接掉到44.00%,损失超过11个百分点。这说明光有成果记录(载体)是不够的,AI还需要知道自己接下来要做什么、还有哪些约束没解决。

去掉续用载体之后,部分评分同样掉到44.62%,但更值得关注的是AI调用次数从282次飙升到349次,涨了23.8%,成本也跟着涨了22.3%。这个现象特别能说明问题:没有了"可直接使用的成果记录",AI只能靠重新探索、重新验证来确认之前的进展,这就是典型的"做了无用功"。

论文中给出了一个具体的案例佐证这一点。在一个需要往一张"估值工作表"里填入汇率数据的任务中,有载体记录版本的AI在折叠之后直接查看了链接设置,然后把数据链接到了之前已经保存好的单元格,没有重复计算。而在"去掉载体"的对照实验里,AI在折叠之后说出了一句很耐人寻味的话,大意是"我其实没有确认过这些价格数据",于是它重新打开PDF、重新提取文字、重新渲染页面图片,把之前已经做过的调查工作完完整整地又走了一遍。

这就好比一个人明明已经查好了地址,笔记本上写得清清楚楚,结果笔记本被人藏起来了,他只能重新打开地图、重新搜索、重新确认,多走了一大圈冤枉路,仅仅是因为那张写好的纸条不在手边。

载体的"存活率":大部分进展是被延续的,不是重新造的

论文还做了一个很有说服力的统计,看看在实际运行中,载体记录到底是经常被从头新建,还是大部分时候在被延续使用。

统计结果显示,在494次成功的折叠操作里,被统计的813次载体观测中,有278次是原样保留、372次是更新延续、只有163次是全新添加。算下来,被保留或更新的比例达到大约80%。

这个数字的含义是,CarryOn系统运行起来之后,大部分的"行李"其实是在被持续整理和延续使用,而不是每次都从零开始重新打包。就像一个长期出差的人,行李箱里大部分东西每次都带着走,真正需要临时添置的只是少数几样。如果每次折叠都要把所有记录推倒重来,这个系统的效率优势就不复存在了,这也是为什么论文特别强调"碰到有变化的记录才更新,没变化的记录原样保留"这个设计的价值所在。

写在后面

读完这篇论文,最触动我的其实不是那些提升了多少个百分点的数字,而是那个很朴素的问题:AI的"记忆"到底应该是什么?

我们长期以来默认的思路是,AI记得的东西越多越好,上下文窗口越大越好,这几年行业里一直在卷"谁的窗口更长"。但CarryOn这篇论文提出了一个挺有颠覆性的反问:记忆的价值不在于"多",而在于"准"和"轻"。一个真正聪明的助手,未必要记住你说过的每一句话,但一定要记住你现在真正需要什么。

论文里那个"去掉载体后AI调用次数暴涨23.8%"的细节,让我想起人在信息缺失的情况下会做什么。我们不会凭空猜测,我们会重新去核实,重新去查证,这其实是一种谨慎而非愚蠢的行为。AI系统表现出的这种"没有证据就重新验证"的倾向,某种程度上说明现在的大模型已经具备了一定程度的审慎推理能力,只是这份审慎如果找不到合适的记忆结构来承接,就只能靠不断重复劳动来消耗。

还有一点值得多想一层。论文反复强调,载体记录带着明确的"使用条件",而不是一份无条件信任的既成事实。这其实暗合了一个更普遍的道理:任何被归档、被简化的信息,一旦脱离了产生它的具体情境,都存在失真的风险。CarryOn没有假装这个风险不存在,而是设计了接地器这样的核查机制去主动防范它。这种"既要利用过去的成果,又不盲信过去的记录"的态度,或许比单纯的压缩技巧本身更值得我们记住。

这篇论文最后留了一个开放的空间没有深入展开:当任务变得更加复杂,涉及的载体类型越来越多样,这套追踪和核查机制是否依然能保持高效和准确?毕竟现在的实验场景还是电脑操作和网页检索这两类相对结构化的任务。如果换成一个更开放、更模糊的创造性任务,比如写一本小说、设计一套产品方案,"什么才算是可以独立使用的进展成果"这个问题本身恐怕就会变得没那么容易回答了。

Q&A

Q1:CarryOn是什么?

A:CarryOn是加州大学圣地亚哥分校提出的一套AI长程任务记忆管理系统,核心思路是让AI助手围绕"可复用的任务成果"而不是"完整的操作历史"来组织上下文,从而减少重复处理冗余信息。

Q2:CarryOn相比传统的历史压缩方法好在哪里?

A:实验显示单纯压缩历史记录(比如滑动窗口、通用摘要)反而会拉低任务表现,而CarryOn通过区分续用载体、执行上下文和实时尾巴三部分,在OSWorld2.0上把部分完成度评分从43.9%提升到49.7%,同时降低了51.9%的token消耗。

Q3:CarryOn会不会让AI忘记重要信息?

A:不会。论文设计了追踪器和接地器两个角色专门核查归档内容的真实性,并用执行上下文保留载体没法表达的未解决目标和约束,实验中去掉其中任一部分都会导致任务表现明显下降。

【版权声明】本文内容来源于科技行者,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。

发布时间:2026-11-21 09:04:20


(第1/1页/共8737字/1阅)
首页>科技
相关科技:
14%收益提升!OpenAI用AI造芯,5个月完成人工1年工作量,Astra领跑
马上测|实测六款儿童电话手表,品牌生态壁垒问题突出
下一任007揭晓:罗伯特·帕丁森
火山引擎重心全面转向商业化,MaaS上半年毛利率超55%
联影医疗的AI越卖越少
*[欢乐宅子]挥舞锄头挖墙角,建豪宅藏美娇妻
网友评论:
更多评论(0)
您的评论:

[热点科技]
后C罗时代首战溃不成军!霍伊伦双响,葡萄牙1-4丹麦造16年耻辱纪录
西海岸元素满满,李昊再献神扑零封对手,国足热身赛2:0完胜马来西亚
Skip:东契奇不愿与詹姆斯共享舞台,湖人并不想念后者
内蒙古速滑运动员韩梅在國際滑聯世界杯第一站以1分56秒40获女子1500米季军
后C罗时代首战!葡萄牙主场1-4崩盘 创16年耻辱 72岁新帅上任首败
[精彩推荐]
又一场“天价豪赌”来了
古人用尿和海螺染出来的贵族紫,我们在家复刻成功了
35岁浙江女子备孕10年未怀上,子宫内竟长出“骨头”,医生:这种罕见病隐匿性强,极易漏诊
喧嚣反转!2026广州车展大变局新势力集体进入静默期
APEC效应给文旅产业带来什么启示?对话中国人民大学宋洋洋