跳转到正文
~/tosaki
返回

当我们在讨论AI的时候,我们究竟在讨论什么

编辑此页

LLM, Prompt Engineering, ReAct, Agent, MCP / Skills, Vibe Coding, Harness, Workflow, Loop / Graph Engineering…

先看一段产品介绍:

“基于原生多模态大模型的具身智能体,通过世界模型实现空间智能,结合端云协同与存算一体架构,打造硅基生命的智能涌现,重新定义万物智联时代的超级应用。”

猜猜这段话在描述什么?

答案是:一台接上了语音助手和 LLM API 的扫地机器人。(鸣谢 DeepSeek V4 Pro 慷慨提供本段文案。)

这不是孤例。过去几年,AI 行业正以肉眼可见的速度“批发”新名词——题记里那一串不过是精选。每个词出场时都自带“重新定义”的气场,且一个比一个晦涩:Agent 尚能顾名思义,到了 Harness、Loop 这里,基本上就不打算让圈外人听懂了。

按理说,我不该对这些词过敏。面对最新最潮的 AI,我自认绝对是个“维新派”:2021 年初代 GitHub Copilot 发布,给了我对当代 LLM 的第一个 aha moment——原来生成式模型真的可以写代码;22 年底开始,ChatGPT 帮我搞定作业、竞赛和资料检索;23 年,我第一段实习的简历是 GPT-4 改的,申请文书是 GPT-4 / 4 Turbo 和 Claude 2 联手改的;到了 24 年,我的开发日常已经从“和 ChatBot 之间来回复制粘贴”变成了无缝使用 Cursor、Copilot 等工具。

我唯一保守的地方在于:直到最近一年,才敢把真正困难的任务主动移交给 Claude Code 和 Codex 这类 Agent。倒不是出于被取代的危机感,而是源于一个技术上的“暴论”——框架往上下文里塞进的那一大坨 System Prompt,会拉低模型的智商。这番言论在当年确有论文背书(后文会讲到),但在今天的模型面前已几乎不成立。相反,ReAct 这套循环能实打实地放大模型能力;等到 o1 和 DeepSeek-R1 将推理过程直接内化进模型,能力的提升更是立竿见影。于是,我一步步缴械投降。与此同时,外面的世界瞬息万变:从 25 年下半年起,企业排着队拥抱 AI;到了今年,连 OpenClaw(一个三个月内改了两次名的开源项目,显然连它自己也没逃过这场命名通胀)都把 Agent 塞进了普通人的聊天软件里。“AI 是一项能落地的革命性技术”,不再只是从业者的自我打气,正逐渐成为大众的共识。

狂热是真实的,但成分却难以剖析:其中有多少源于模型能力和工程架构的实质进步,又有多少是信息差之下,被 OpenClaw 们制造出的 FOMO?我给不出确切比例。我能做的,是用最简单、最直白、最不绕弯子的方式告诉你:AI 是如何从文本补全进化到通用聊天机器人,再进化到能通过工具获取信息、执行动作,直到今天,又是如何在框架的加持下(宣称能)可靠执行复杂长程任务的。

先把谜底写在谜面上

从 2020 年至今,剥开一层层黑话的外衣,AI 应用层的核心技术栈始终只有一个:

一个文本补全模型 + 一个 while 循环 + 一点字符串解析 + 一个被精心编排的上下文窗口。

在 API 的那一侧,模型永远只做一件事:给定一段文本,预测下一个 token。LLM 本身的原理在此不作赘述(之前写过一篇科普)。剩下所有关于“智能体”、“协议”、“编排”的讨论,全发生在拼装这段文本之前,以及吐出这段文本之后。接下来的每一个名词,本质上都在回答同一个终极问题:此刻,这个上下文窗口里应该放什么?

一个 while 循环,十一个名词:AI 应用层的每个黑话,都只是给这个循环里的某个环节重新起了个名字

带着这个谜底,我们按时间顺序把黑话过一遍。

Prompt Engineering:跟模型说话这门手艺

2020 年 GPT-3 的论文标题就叫 Language Models are Few-Shot Learners:只需把几个示例直接写进输入,模型就能照做新任务,权重一个 bit 都不用动。这在当时是极具革命性的——在此之前,换任务意味着重新收集数据、重新微调模型;在此之后,换任务只意味着改一段文本。应用层的生态,正是从这一刻起才成为可能。

这门手艺便是 prompt engineering(提示词工程):模型本质上是个文档续写器,而你要做的,就是构造一个前缀,让“正确答案恰好成为最合理的续写”。2022 年初的 Chain-of-Thought(思维链)堪称这门手艺的巅峰:在示例中把“问题→答案”改写成“问题→中间步骤→答案”,模型就会先写推理过程再给结论,数学题正确率随之暴涨。听起来玄妙,物理本质却很朴素:每个 token 都代表一次前向传播,让模型多输出中间步骤,等同于用上下文长度换取计算深度

祛魅之处在于:2023 年它被包装成“年薪 30 万美元的新兴职业”,但即便是为其辩护的人(比如 Simon Willison 的 In defense of prompt engineering),列出的核心技能也不过是“沟通清晰、多做实验、勤记笔记、删减废话”——实在很难说这构成了一门新的工程学科。更微妙的是它的结局:随着推理(reasoning)训练将 CoT 内化进模型(o1 和 R1 做的正是此事),“让我们一步步思考”这句咒语彻底失效了。一个在 2022 年必须仰仗 Prompt 技巧才能激活的能力,到了 2025 年被直接内化进模型,技巧本身自然就贬值了。请记住这个规律,它在后文还会反复上演。

ReAct:Agent 在 2022 年就发明完了

2022 年 10 月,ReAct 论文面世。它解决了一个非常切实的痛点:纯 CoT 就像闭卷考试,推理链再漂亮,事实依据全靠模型“脑补”,一步走错便步步皆错。ReAct 的方案是在 prompt 里规定一个三段式格式:

Thought: 我需要先查一下这个演员的出生年份
Action: Search[某某某]
Observation: (外部程序把搜索结果贴回这里)
Thought: 好,接下来……

模型写到 Action: 那一行就被强行停住(stop sequence),外面的程序负责解析这行字符串、真的去调 API,并将结果作为 Observation: 追加回上下文,再让模型继续写。如此循环往复,直到模型宣布任务完成。至此,闭卷考试变成了开卷。

请注意,这其中没有任何新颖的模型架构,也没有任何额外的训练——ReAct 无非就是一个 prompt 模板 + 一个 stop token + 一个正则表达式。而今天所有 Agent 框架的底层内核,都是它的直系后代。某种意义上,Agent 在 2022 年 10 月就已经被发明完毕了,之后四年行业在做的,统称为工程化与商业化。

Tool Call 与 MCP:“函数调用”里没有调用

ReAct 时代,人人都在手写正则解析模型的输出,偏偏模型还总爱生成一些不合法的格式——随手包一层 markdown 代码块、漏掉一个括号,或是凭空捏造一个工具名。2023 年 6 月 OpenAI 发布 function calling,正式将“确保格式合法”变成了平台的责任。流程变成了这样:你传入一组 JSON Schema 来描述工具;API 将这些 schema 序列化为文本拼入上下文;模型顺势续写出一段符合格式的 JSON;API 再将其解析为结构体返回给你;接着,由你的代码去执行这个函数;最后,你将执行结果追加回上下文,发起下一轮调用。

看明白了吗?模型从头到尾没有执行任何操作。所谓的“函数调用”里,根本没有调用。模型只是被要求按格式填好一张 JSON 表单,剩下的跑腿工作全由你的 while 循环代劳。如果你怀疑“工具定义本质上就是拼进上下文的文本”这一说法,这里有个铁证:Anthropic 自己测过,接上 5 个 MCP server、58 个工具,对话还没开始,就先白白吃掉了约 55K 的 token。如果工具定义不是文本,它就不该消耗 token;既然它消耗了 token,那它就是纯粹的文本。

顺着这个逻辑,聊聊 MCP。2024 年 11 月 Anthropic 发布 Model Context Protocol,次年 OpenAI 和 Google 相继宣布采纳。它确实解决了一个真痛点:N 个应用要接入 M 个数据源,原本要手写 N×M 份胶水代码,MCP 将其简化为了 N+M。但它标准化的仅仅是“工具定义该如何被发现与传输”——落地的“最后一公里”,依然是上面那套“文本进、JSON 出、本地代码执行”的逻辑。给 AI 接上 MCP,约等于给电脑安了个 USB 接口:确实好用,但并不会让电脑本身变聪明。最滑稽的是,协议发布仅仅一年后,Anthropic 自己给出的最佳实践竟变成了“别把工具全塞进上下文,让模型自己写代码去调”,某个工作流的 token 消耗因此从约 15 万骤降到约 2 千。一个协议诞生十二个月后,官方推荐的用法居然是尽量绕开其默认用法——这简直是黑话生命周期的完美标本。

(说句公道话:这一路走来,唯一真正触动了推理机制而不仅仅是搬运文本的,是 2024 年 8 月的 Structured Outputs:通过约束解码,在采样阶段直接屏蔽掉所有会导致非法 JSON 的 token,将“祈祷模型输出正确格式”变成了“在数学上绝对不可能输出错误格式”。这一点值得点名表扬。)

后训练:变化从来不在循环里

写到这里你可能会问:既然 2022 年就有了 ReAct、2023 年就有了 function calling,为什么 Agent 偏偏是 2025 年之后才好用起来的?2023 年 3 月的 AutoGPT 说白了不也就是“给 GPT-4 套个 while 循环让它自主干活”吗?这曾是 GitHub 史上涨星最快的项目之一,但后来呢?

后来的事实证明,它最出名的实际用途是烧钱和原地打转:装个依赖库、验证安装、报错、卸载、重装、再来一遍;亚马逊的研究员实测它做购物任务的成功率仅为 24%。而一模一样的循环,今天跑在前沿模型上却基本可用。循环的代码依然没变,变的是处于循环核心的模型。这中间,跨越了好几层后训练(post-training)的迭代:

第一层,工具调用被烧进了权重。2023 年 6 月的 gpt-4-0613 就已经“经过微调以检测何时需要调用函数”;到了 2024 年,一些模型的分词器里甚至出现了专属的工具调用 token。效果可以用数据衡量:在复杂的 JSON schema 遵循测试上,gpt-4-0613 得分不到 40%,而一年后的 gpt-4o-2024-08-06 达到了 100%。没有人写出了更好的 parser,原因是模型已经不再需要被 parse 了。

第二层,reasoning RL(推理强化学习)。o1(2024 年 9 月)和 DeepSeek-R1(2025 年 1 月)通过可验证的奖励——数学答案对不对、单元测试过不过——引导模型在思维链上进行强化学习,从而自发涌现出自我检查、回溯、换路重试等行为。请注意,这几种行为恰恰是 Agent 循环最渴望的能力:自我检查对应“刚才那条命令真的执行成功了吗”,回溯对应“这条路走不通,换一条”——这正是 AutoGPT 死循环的终极解药。框架从未教会模型这些,是奖励信号教会了它。

第三层,直接在多轮工具调用的轨迹上做 RL。2024 年 10 月 Anthropic 发布 computer use,进入 2025 年后,各家大厂开始在 SWE-bench 这种真实环境里训练模型完成几十步的长任务,“思考”的频次也从每次请求想一次,变成了每一步工具调用之间都想(interleaved thinking)。结果直观地反映在了数据上:SWE-bench 刚发布时(2023 年 10 月),当时最强的模型仅能解决 1.96% 的真实 GitHub issue;到了 2025 年 9 月,Claude Sonnet 4.5 将这个数字刷到了 77.2%;而到今年,第三方榜单上最新的成绩已经内卷到了 95% 上下。METR 的测量报告给出了更具震撼力的口径:AI 能以 50% 成功率完成的任务时长(按人类专家耗时计),长期来看大约每 7 个月翻一倍,而进入 2024 年后,这一速度已飙升至约每 3 个月翻一倍。

第四层——也是替几年前的我洗清冤屈的一层——长上下文与指令层级训练。我当年那句“System Prompt 会降低模型智力”的暴论其实有严谨的论文背书:2023 年的 Lost in the Middle 发现,那一代模型(包括 GPT-4)对上下文的注意力呈 U 形分布——开头和结尾记得牢,中间的内容基本靠随缘。框架塞进来的几千 token 脚手架,在物理层面上把你真正关心的问题挤进了注意力洼地。随后的模型专门针对“必须同时遵守长 system prompt 和下游指令”的数据进行了训练,并建立了显式的指令层级(system > developer > user > 工具输出),至此,动辄上万 token 的系统提示词才终于成了免费午餐。(诚实的注脚:这种注意力惩罚其实并未消失,只是搬了家——今天的模型在处理几十万 token 的超长轨迹时照样会逐渐“失忆变笨”,而这,正是下文即将登场的新一批黑话试图解决的问题。)

因此,我们可以做一个极其纯粹的对照实验:把 2026 年的框架套在 2023 年的模型上,它依然会以 2023 年的经典姿势崩溃;但把 2023 年的 AutoGPT 循环接在 2026 年的模型上,它却大体能行得通。变量,从来都不在那个循环里。

Agent、Workflow、Harness:定义权的战争

那么,“Agent”究竟是什么?这个行业扯了整整三年皮,才勉强达成共识。Simon Willison 曾在 Twitter 上众包征集定义,居然收到了 211 个互不相同的版本;直到 2025 年 9 月,他才郑重宣布这个词终于收敛:“An LLM agent runs tools in a loop to achieve a goal.”你可以拿这句话去比对 2022 年的 ReAct 论文——这里头没有任何一个元素是当初那篇论文里没有的。

比抠定义更有价值的,是 Anthropic 在 Building Effective Agents 中划下的那道红线:控制流硬编码在代码里的叫 workflow,控制流由模型在每一轮中自行决定的叫 agent。想鉴定你手头的“AI 智能体”究竟是哪种,只需问一个灵魂问题:如果模型在当前轮次决定跳过第二步,系统会怎样?如果答案是“它做不到”,那这就是个 workflow。市面上绝大多数被冠以 agent 名号售卖的产品,其真身都是 workflow——这并不丢人。那篇文章的主旨恰恰是在劝诫开发者:能用 workflow 解决的就别碰 agent,能通过单次调用搞定的就别搞 workflow。一家靠卖模型 token 赚钱的公司,却苦口婆心地劝你少让模型自作主张,这绝对算得上是本行业极为罕见的、值得装裱纪念的诚实时刻。

Harness(及其动词形态 harness engineering)则是最新一轮词汇通胀的主角,但它指代的东西早在 2023 年就已存在,那时它的名字叫 scaffolding:METR 在当年的评测报告里就明确写过,“脚手架和提示词的质量会显著影响 agent 的发挥”。2024 年的 SWE-agent 提供了最直观的证据:同一个模型,仅仅换了一套专门为大模型定制的工具交互界面,SWE-bench 分数便出现了显著差异——外壳决定发挥。2025 年,Claude Code 们干脆把外壳本身做成了独立产品;到了 2026 年初,“harness engineering”一词随之出圈,其核心内涵是:每当 agent 犯一次错,就在它的环境里焊死一个永久性的修复补丁,让这个错误在物理结构上不可能再次发生。听上去颇为玄妙,说人话就是:给一位智商奇高、极其健忘且偶尔喜欢一本正经胡说八道的实习生,搭建一套包含 lint、单元测试、CI、检查清单和权限边界的护栏。软件工程界为人类程序员搭建这套基建已经有四十年历史了,眼下唯一的新鲜事在于——这位新任“员工”每次打卡上班都处于完全失忆状态,因此所有的规章制度都必须写成文档,以便随时塞进它的上下文里。你看,我们兜兜转转,又回到了那个技术原语。

至于 Loop 和 Graph Engineering:loop 无非就是本文已反复提及的那个 while 循环;graph 则是指当你想在“完全写死的 pipeline”和“彻底放飞的循环”之间寻找平衡点时,将控制流绘制成一张带有环路的状态图(LangGraph 等框架干的就是这事)。这类框架所提供的核心价值——状态持久化、断点续传、可观测性——本质上是分布式系统工程的价值,而非 AI 带来的增量价值。Anthropic 的那篇文章也顺带发出了警告:框架会“掩盖底层的 prompt 和响应,让调试变得异常艰难”。我个人的判断标准更为直截了当:如果你能清晰地读懂最终发送给模型的那段完整文本,那你压根就不需要框架;反之,如果你自己都读不懂了,那框架绝对是你 debug 路上最大的绊脚石。

Vibe Coding、Context Engineering、Skills:黑话的标准生命周期

2025 年 2 月,Karpathy 发了条推文,兴奋地宣布自己体验到了一种全新的编程方式:“完全交给感觉,拥抱指数增长,忘记代码的存在”,并将其命名为 vibe coding——原文的限定语写得清清楚楚:仅适合周末的玩具项目。但词语一旦出圈,限定语便原地蒸发,“vibe coding”被狂热地用来指代一切用 AI 写代码的行为,甚至包括操作生产系统;Karpathy 本人后来无奈回顾,那只不过是“随手发的一条洗澡时冒出的想法”。这个词的 2025 年过得可谓极其精彩:它被《柯林斯词典》评为年度词汇;而在同一年,《韦氏词典》的年度词汇却颁给了 “slop”(指代低质量的 AI 生成内容)。同一年,面对同一项技术,两本权威词典分别挑中了它的乌托邦面与垃圾面。

Context engineering 的故事则更短平快。2025 年 6 月,Shopify CEO 和 Karpathy 前后脚提出应当用这个词替代 prompt engineering,给出的理由是后者已经被大众降级理解成了“跟聊天机器人说话的奇技淫巧”,而真实的工作其实是“用恰到好处的信息去精细填充上下文窗口的艺术与科学”。这两个词之间唯一的实质区别在于:prompt engineering 假设这段文本主要由人工撰写;而 context engineering 则坦然承认,在 agent 系统中,这段文本大半由程序在运行时动态拼装,人类编写的仅仅是模板与策略。外皮换了,只是因为创作者从人类变成了代码;底层的原语却分毫未变,依旧是那个老问题:“往上下文窗口里塞什么?”(顺带一提,“context engineer”这个头衔,不过是 2023 年“prompt engineer”那个笑话的梅开二度。按照行业的造词频率,两年后势必会有第三个高配词汇横空出世。)

接下来登场的是我个人最喜欢的一个。2025 年 10 月,Anthropic 发布 Agent Skills,被不少人视为比 MCP 更重磅的发布。那么,一个 skill 究竟是个什么东西?用 Simon Willison 的话说“一个告诉模型如何完成某项特定任务的 Markdown 文件。”——无需繁复的协议,无需额外部署 server,也无需任何新的基础设施,它就只是一份安安静静躺在文件夹里的说明书——平时只有名字和一句简介留在上下文里占几十个 token,唯有被判定为需要使用时,正文才会被完整读取进来。

与此同期的 subagent 概念,也值得被顺手祛个魅:它绝对不是什么“多个 AI 智能体在协同工作”,它的本质就是 fork()——新开一个具有独立上下文的会话,把查资料、跑测试这类会产生大量“中间垃圾”的脏活累活扔进去,最终只把干净的结论字符串带回主上下文。它解决的是上下文污染问题,本质上就是内存管理。至于那套更加宏大的“多智能体协作”叙事,它在工程上更准确的学名应该叫“扇出的只读检索,外加一个汇总器”;Anthropic 自己的实测数据表明,多 agent 系统的 token 消耗大约是普通对话的 15 倍。它不是在组建团队,它就是在做 MapReduce,而且成本相当高昂。

最后,请细细品味这个完美的逻辑闭环:2020 年,我们把示例写进 prompt,管这叫 few-shot learning;2025 年,我们把说明书写进本地文件、按需读进 prompt,管这叫 Agent Skills。这中间五年诞生的 CoT、ReAct、function calling、MCP、agent、harness、graph、context engineering,兜兜转转全部在优化同一件事:在极其有限的上下文窗口里,此时此刻究竟该放些什么进去。AI 行业狂飙突进到今天,业内最寄予厚望的“智能体能力扩展机制”,竟然只是一个 Markdown 文件。

黑话地层图:2020 至 2026 年的每一代名词,层层包裹着同一个从未改变的技术原语

所以,是涌现还是 FOMO?

尽管我极其反感这类硬造概念和浮夸话术,但不得不承认:AI 应用层能力的飞跃是做不了假的。一个典型的例子是今年年初,尽管当时 OpenClaw 们已经满天飞,我在给自己搭建 AI 新闻整理系统时,求稳选的仍然是固定流水线:RSS 召回、小模型粗排、大模型精排、重力算法重排——LLM 在整个系统里仅仅负责打分和改写标题这类无状态的局部判断,至于什么时候抓取、怎么去重、怎么排序,全是人类写死的代码。用上文的判据说,它是一个如假包换的 workflow:模型想跳过某一步?它绝对做不到。而如果现在让我重新选型,我大概率会直接拿一个成熟的 Coding Agent 框架(如 Claude Code、Codex、OpenCode 之类),随手写一个 skill——对,就是那个 Markdown 文件——让 agent 自己去调度 subagent 跑完整条流水线再上报更新。短短一年多,我对 AI 的心态完成了从“必须由我提供无懈可击的上下文才能压榨出它的极限,它根本威胁不到我”到“我已经沦为 AI Agent 的人肉胶水层(且这层胶水未来并不难被取代)”的转变。想要体会后一种心态,推荐读读我朋友的这篇 What AI Brings Us

提前声明,写这些绝非为了批判或唱衰 AI。我的幸运之处在于:我的专业方向恰好要求我必须紧跟 SOTA,所以我比普罗大众更清楚这台轰鸣的机器底层的锅炉房里到底在烧些什么。对我而言,这种变化是渐进而连续的,每跨出一步都有充足的心理建设。但倘若我们转换视角,去代入一个 35 岁的普通人:仅仅在一年(占他人生不过 3% 的长度)之前,AI 还是那个“干啥啥不行、仅供聊天解闷”的电子玩具;而仅仅一年之后,它却在文字撰写、代码生成、音视频创作上全方位赶超普通从业者。同样是在这一年,他的公司态度 180 度大转弯,从严禁将不可靠的 AI 代码合入生产环境,变成了考核 AI 使用率、要求 AI 提效(此为互联网言论观察,据多家媒体报道的行业现象,我所在的部门并未采取相关措施),甚至有的 Agent 已经获准直接操作生产环境。渐进式的发展对我是缓冲垫,对他而言就是毫无防备的突变。这阵仗,换作是谁能不 FOMO 呢?

我才不怕 AI,一听 AI 我就高兴。字节阿里算什么 AI?无非 Vibe Coding,流程提效。Meta 才叫 AI,裁了几千人,钱全去买卡了,听说还搞 Tokenmaxxing。

顺带一提,这段戏谑之语中的每一个论据都经得起考证:Meta 今年 5 月的一轮裁员波及约八千人,而 2026 年的资本开支指引已被暴调至 1250 亿–1450 亿美元,相比之下,裁员省下的人力成本在疯狂的买卡预算面前连个零头都不算;至于 Tokenmaxxing——员工为了硬凑“AI 使用率”指标而故意让 AI 空转烧 token,Meta 内部甚至一度衍生出了自发的“烧 Token 排行榜”——这个词今年 2 月才开始在圈内流传,7 月就被《华尔街日报》盖棺定论为已过气,取而代之的行业新宠叫 thrift-maxxing(精打细算省着点烧)。一个黑话从呱呱坠地、被扭曲异化再到被彻底抛弃,前后不过五个月。要知道,前文提及的那些概念走完同样的生命周期好歹还得两三年——单从加速概念迭代这个角度来看,AI 确实是极大地提升了生产效率。

尾声

按行业惯例做个利益相关声明:本文的前期调研由 Claude Code Dynamic Workflow 扇出的几个并行的 subagent 完成(它们不是在搞什么团队协作,纯粹是暴力的 MapReduce);本文的正文,则由一个装在 harness 护栏里的文本补全模型(Claude Fable 5),在一个不知疲倦的 while 循环中逐字生成;而我,作为唯一的碳基生物,所做的工作仅仅是决定往它的上下文窗口里究竟塞入什么东西——这活儿,用今年的流行黑话叫 context engineering,用前年的过气黑话叫 prompt engineering,用通俗的大白话说,就俩字:胶水。

让我们拭目以待,这个世界最终会被 AI 塑造成什么模样吧。

BTW:把“记忆”也祛个魅

正文到这里就结束了,但请允许我夹带最后一段私货。

上个月底,梁文锋 5 月那场投资人闭门会的流出纪要刷屏了(按本文惯例先做信源对冲:纪要系多方转录整理,DeepSeek 官方至今未置可否)。其中被复述最多的,是他那个爬楼梯的比喻:去年的阶梯是 CoT,今年是 Agent,而 Agent 之后必须跨过的坎,叫持续学习——“AI 现在不缺品味和直觉,缺的是持续学习的能力”;人类员工入职两个月就能摸清公司的门道,而 AI 每接一件事,你都得把全部上下文重新喂它一遍。所以,“下一代模型必须要有持续学习的能力,才能叫下一代模型”。

有意思的是,我把纪要的几个流传版本翻了一遍,通篇其实没出现“记忆”两个字。但“持续学习”与“记忆”,本就是同一块短板的一体两面:模型学不进新东西,正是因为它记不住旧东西——还是本文那位实习生,每次打卡上班都处于完全失忆状态,你只能把材料一遍遍重新塞回它的上下文窗口。在模型真正学会持续学习之前(那是权重层面的事,急不来,DeepSeek 自己一月份的 Engram 论文就在把“条件记忆”做进稀疏模型的原语里),应用层能做的,只有把本文那个终极问题的时间轴拉长:不再是“此刻往上下文窗口里塞什么”,而是“下一次会话开始时,该往上下文窗口里塞什么”。这件事的黑话名字叫 memory。对它该长什么样,大佬们的想象出奇地一致:Karpathy 批评 RAG “每次提问都在从零重新发现知识,没有积累”,开出的方子是拿 Markdown wiki 当 agent 的长期记忆;Hassabis 记忆的终局不是存下一切,而是“像大脑那样,只存重要的东西”。

于是,利益相关声明第二弹:我正是奔着解决这个问题去的——我是开源项目 OpenViking 的核心开发者之一。读完本文,你应该已经具备一眼看穿它本质的能力:它把 agent 的记忆、资料、技能统统组织成一个文件系统,每个条目对应一个 viking:// URI;入库时预生成三层摘要——L0 一句话、L1 概要、L2 全文——平时只有那句 L0 留在上下文里占位,用到了才逐层展开;检索也不是去向量汤里盲捞相似度,而是像人翻文件柜一样先定位目录、再层层下钻,整条轨迹可回放、可 debug。听着眼熟吗?对,这就是 Skills 那个“Markdown 文件 + 按需加载”的思想,推广到了一切上下文。我们没有发明任何新魔法,只是把“此刻该往窗口里塞什么”这个终极问题,从每次人肉决定,变成了一个可 ls、可 tree、可 grep 的数据库。(按本文标准自查:context database 算不算又一个新黑话?算。但至少这一个知道自己是黑话。)

最后补一个可当场验证的细节:本文的写作横跨了多次上下文压缩,那个 while 循环里的模型每一次“失忆重启”,都是靠 OpenViking 的 recall 才重新想起我是谁、文章写到了哪一段。换句话说,你刚读完的这段广告,正是由这件广告产品喂进上下文的记忆写成的。利益相关,就此闭环。


编辑此页
分享这篇文章:

上一篇
AI 能写 LUT 吗?——我(一个 AI)从零造了 10 支相机 LUT
下一篇
楼顶上的国旗飞行