即刻App年轻人的同好社区
下载
分享几个深度用好 AI 的实用方法。
可能很多人没注意到，Notion 工程师 Geoffrey Litt 最近有场分享，特别解惑。
因为最近我团队在使用 AI 的过程中，也遇到了不少问题。
上周我还写过，我觉得单纯给 Agent 下指令，不求甚解，这种工作方式对一个人来说是致命的。
这个演讲讲的也是类似的逻辑：AI 时代，理解会是新的竞争力。
现在大家都在聊 Loop。大概逻辑是给 AI 一个目标，让它独立自主工作，直到彻底搞定一个任务。听起来很美。
但 Geoffrey 唱了个反调。他说现实中大多数有价值的任务，还是人机协作，根本不是让 Agent 自己去跑 Loop。
原因有两个。
第一，大部分任务本身就很含糊、很开放。比如帮我把这个产品路线图想清楚，帮我写一个方案既要说服老板又不能踩雷。
这种指令没有客观的正确答案，只有符不符合我们的意图和品味。
第二，真实业务中上下文高度复杂。Agent 再聪明，它也不知道我们公司实际的资源情况，历史上踩过哪些坑，老板大概的思路是什么。但我们自己知道。
就像我之前写的，很多人的一个使用误区是，既然 AI 已经这么强了，我们把它当成黑盒，直接给它发指令，让它干活不就行了？为什么还要追求理解过程？
因为这样工作，很容易退化成表面验收。大概扫一眼结果，觉得差不多就过了。
对于复杂任务来说，这种浅层验收根本不够。我们不知道它漏了哪些 case，也不知道在执行过程中 AI 做过哪些错误的假设。甚至有时候看起来任务完成了，其实埋了一堆雷。
更可怕的是，如果长期只是给 AI 当传声筒，中间什么都不管，那我们自己的判断力和理解力也会慢慢退化。到最后，这种人比不会用 AI 的人更快被替代。
所以理解变得非常重要。
只有在理解 AI 做了什么的基础上，我们才能给出好的引导和判断，也才能从这个过程中真正学到东西、获得成长。否则 AI 越强，我们自己反而越空心。
这个分享中我最受启发的，是 Geoffrey 把人类学习和理解的经典知识，搬到了管理 Agent 这件事上。
他觉得，教育学和认知科学里那套让学生真正学懂做对的方法论，在带 Agent 这件事上几乎是 1:1 复用的。
主动回忆
教育里有个共识，真正让大脑形成理解的是主动回忆，不是被动阅读。
就像看书看了一个章节，合上书回想自己能讲出什么，效果会非常好。
对应到 Agent 上也一样。不要只要结果，要让 Agent 先把思路暴露出来。
具体来说，可以要求它先列一个计划或大纲，对每个步骤写一句为什么要这么做，标出不确定的地方和假设为真的前提。
比如一个简单的 prompt 长这样：
先列一个 5 步的 Plan，每一步附一句这么做的原因，标出来最不确定的两步。然后再开始真正执行。
这样会极大降低理解成本。我们不用 Review 全部内容，只要沿着这些关键节点去看就行了。
最糟糕的用法是让 Agent 写个方案，然后只看最后一段 output，觉得看起来还行就收工。
渐进式加深
人类的理解很少是一次性读一遍就全懂的。更像是反复 zoom in、zoom out 的过程。一开始只要抓住大框架，后面再逐层细化。
认知科学里常见的节奏是，先构建一个粗糙的心智模型，然后在实践中不断在局部修正补充细节，每次都在当前能承受的复杂度附近晃一晃，不要超载。
迁移到 Agent 协作上，就是不要一上来就让 Agent 帮我完成这个从 0 到 1 的项目，然后等它给一坨成品。
最好分阶段来。诸如先让它帮我理解问题空间，有哪些维度、哪些利益相关方、什么约束条件。再让它枚举几套可能的方案。
最后再细化其中一套。每个阶段都做理解和调整，而不是最后一次性验收。
千万不要一上来就让 Agent 怼一个 10 页长文过来。可以这样跟它说：
先解释下整体思路，看看其中有什么非共识的观点。
这样只对最重要或者最可疑的那一两块深入展开，让它再往下 drill-down。
这就是把渐进式深入这个学习策略，原样搬到了人和 Agent 的交互协议里。注意力永远在自己选定的那一小块上，而不是被满屏 token 淹没。
合适的抽象层级
教育里最经典的坑之一，是讲课的人在抽象层级上和听的人错位。只讲大白话，学生爽听但不会做题。
只讲形式细节，推一堆公式，学生知道每一步在干什么但不知道整体想表达什么。
好的教学会切换多个抽象层级：直观类比、半正式解释、严格形式，逐层过渡。
对 Agent 来说就是让它学会多层表达同一件事。最上面一层是一句话讲清楚核心动机和 trade-off，往下一层是任务怎么拆的、每步的输入输出，再往下就是具体代码、SQL、逐条证据。
可以这样规定回答结构：如果只能说一句话，怎么总结。如果有 30 秒，怎么解释。如果想看细节，完整推理和证据是什么。
这其实就是把不同抽象层级的讲解搬到了 Agent 的回复模板里。随时可以停在觉得刚好的那一层。
以教为学
教育学里还有一个很老但很有用的原则：真正的理解，是可以教别人。很多学生觉得自己看懂了，一让他讲就露馅。
用在 Agent 协作上有两层。
第一层，可以让 Agent 用教一个新同事的方式来复述它的方案。目标对象可以是一个新入职的工程师，也可以是一个非技术的产品经理。
不同受众就是不同的表达方式。如果它讲不清楚，说明它自己的结构化也不完整。
第二层，自己也要能把 Agent 的方案转述出来。最极端一点，假装要给老板发一封邮件，把 Agent 的整个思路用自己的话讲一遍。一旦写不顺手，就会立刻发现原来根本没搞懂关键假设。
这其实是在用 Agent 的讲解能力，反过来训练自己的理解。如果讲不清楚，就说明还没真正搞懂，这时候不要 rush 到下一步。
可以养成一个小习惯，每当 Agent 做完一个重要的任务，自己写下这么几句话。
这个 Agent 在解决什么问题，它把问题拆成了几步每步干什么，它的主要假设和风险点是什么。这几句话写得顺不顺，基本就是理解质量的体检。
可视化与外部化
认知科学里有一个大前提，人类工作记忆带宽很窄，几项东西一起转就开始掉链子。
所以好的学习系统都特别依赖外部化，思维导图、表格、黑板推演，把时间顺序、逻辑关系、依赖关系画出来。
Geoffrey 在 Notion 做的就是信息结构化和视图切换，所以他特别强调一点：不要让 Agent 的复杂推理困死在一个聊天窗口里。
更好的形式是把过程输出成结构化的东西。
比如让 Agent 把推理过程输出成一张任务分解表，每行是一个步骤，列的信息包括这步在做什么、依赖什么输入、产出什么中间结果、有什么不确定和假设、相关的文档链接。
或者输出成一棵树，根节点是整体目标，下一层是子目标，再下面是具体操作。
元认知
教育里还有一个重要概念叫元认知。不是知道什么，而是知不知道自己知道什么、不知道什么。
迁移到 Agent 协作上，不要只问 Agent 你确定吗，也要问自己：在这个粒度上我真的有信心吗？我知道自己不知道什么吗？
具体做法可以很机械。
让 Agent 在输出结尾加一块：如果只检查三件事来确认我没跑偏，建议是哪三件。
自己在 review 完之后也给自己做个分类：哪些点我确定是对的，哪些模模糊糊大概对但说不清，哪些其实完全不懂只是暂时先信了它。
这个分类本身就在帮我们把模糊的不安变成具体的待办。
说了这么多理解的重要性，一个很自然的问题就来了：到底理解到什么程度才算够？总不能 Agent 写的每一行代码、每一步推理都盯着看吧，那还不如自己干。
我们不可能、也没必要把 Agent 做的每一个细节都完全理解，那样反而慢。
比较好的标准是这样的，我们可以解释：
1、它整体在做的任务拆成了哪几块？
2、每一块大概采用了什么策略？
3、哪些地方是高风险或者假设很多的
如果结果错了，我们能大致定位：
1、是哪一段思路偏了？
2、是没看见某个约束，还是误解了目标？
总之，就是需要能够驾驭 AI，而不是一味的轻信他说的 trust me bro。
可能很多人没注意到，Notion 工程师 Geoffrey Litt 最近有场分享，特别解惑。
因为最近我团队在使用 AI 的过程中，也遇到了不少问题。
上周我还写过，我觉得单纯给 Agent 下指令，不求甚解，这种工作方式对一个人来说是致命的。
这个演讲讲的也是类似的逻辑：AI 时代，理解会是新的竞争力。
现在大家都在聊 Loop。大概逻辑是给 AI 一个目标，让它独立自主工作，直到彻底搞定一个任务。听起来很美。
但 Geoffrey 唱了个反调。他说现实中大多数有价值的任务，还是人机协作，根本不是让 Agent 自己去跑 Loop。
原因有两个。
第一，大部分任务本身就很含糊、很开放。比如帮我把这个产品路线图想清楚，帮我写一个方案既要说服老板又不能踩雷。
这种指令没有客观的正确答案，只有符不符合我们的意图和品味。
第二，真实业务中上下文高度复杂。Agent 再聪明，它也不知道我们公司实际的资源情况，历史上踩过哪些坑，老板大概的思路是什么。但我们自己知道。
就像我之前写的，很多人的一个使用误区是，既然 AI 已经这么强了，我们把它当成黑盒，直接给它发指令，让它干活不就行了？为什么还要追求理解过程？
因为这样工作，很容易退化成表面验收。大概扫一眼结果，觉得差不多就过了。
对于复杂任务来说，这种浅层验收根本不够。我们不知道它漏了哪些 case，也不知道在执行过程中 AI 做过哪些错误的假设。甚至有时候看起来任务完成了，其实埋了一堆雷。
更可怕的是，如果长期只是给 AI 当传声筒，中间什么都不管，那我们自己的判断力和理解力也会慢慢退化。到最后，这种人比不会用 AI 的人更快被替代。
所以理解变得非常重要。
只有在理解 AI 做了什么的基础上，我们才能给出好的引导和判断，也才能从这个过程中真正学到东西、获得成长。否则 AI 越强，我们自己反而越空心。
这个分享中我最受启发的，是 Geoffrey 把人类学习和理解的经典知识，搬到了管理 Agent 这件事上。
他觉得，教育学和认知科学里那套让学生真正学懂做对的方法论，在带 Agent 这件事上几乎是 1:1 复用的。
主动回忆
教育里有个共识，真正让大脑形成理解的是主动回忆，不是被动阅读。
就像看书看了一个章节，合上书回想自己能讲出什么，效果会非常好。
对应到 Agent 上也一样。不要只要结果，要让 Agent 先把思路暴露出来。
具体来说，可以要求它先列一个计划或大纲，对每个步骤写一句为什么要这么做，标出不确定的地方和假设为真的前提。
比如一个简单的 prompt 长这样：
先列一个 5 步的 Plan，每一步附一句这么做的原因，标出来最不确定的两步。然后再开始真正执行。
这样会极大降低理解成本。我们不用 Review 全部内容，只要沿着这些关键节点去看就行了。
最糟糕的用法是让 Agent 写个方案，然后只看最后一段 output，觉得看起来还行就收工。
渐进式加深
人类的理解很少是一次性读一遍就全懂的。更像是反复 zoom in、zoom out 的过程。一开始只要抓住大框架，后面再逐层细化。
认知科学里常见的节奏是，先构建一个粗糙的心智模型，然后在实践中不断在局部修正补充细节，每次都在当前能承受的复杂度附近晃一晃，不要超载。
迁移到 Agent 协作上，就是不要一上来就让 Agent 帮我完成这个从 0 到 1 的项目，然后等它给一坨成品。
最好分阶段来。诸如先让它帮我理解问题空间，有哪些维度、哪些利益相关方、什么约束条件。再让它枚举几套可能的方案。
最后再细化其中一套。每个阶段都做理解和调整，而不是最后一次性验收。
千万不要一上来就让 Agent 怼一个 10 页长文过来。可以这样跟它说：
先解释下整体思路，看看其中有什么非共识的观点。
这样只对最重要或者最可疑的那一两块深入展开，让它再往下 drill-down。
这就是把渐进式深入这个学习策略，原样搬到了人和 Agent 的交互协议里。注意力永远在自己选定的那一小块上，而不是被满屏 token 淹没。
合适的抽象层级
教育里最经典的坑之一，是讲课的人在抽象层级上和听的人错位。只讲大白话，学生爽听但不会做题。
只讲形式细节，推一堆公式，学生知道每一步在干什么但不知道整体想表达什么。
好的教学会切换多个抽象层级：直观类比、半正式解释、严格形式，逐层过渡。
对 Agent 来说就是让它学会多层表达同一件事。最上面一层是一句话讲清楚核心动机和 trade-off，往下一层是任务怎么拆的、每步的输入输出，再往下就是具体代码、SQL、逐条证据。
可以这样规定回答结构：如果只能说一句话，怎么总结。如果有 30 秒，怎么解释。如果想看细节，完整推理和证据是什么。
这其实就是把不同抽象层级的讲解搬到了 Agent 的回复模板里。随时可以停在觉得刚好的那一层。
以教为学
教育学里还有一个很老但很有用的原则：真正的理解，是可以教别人。很多学生觉得自己看懂了，一让他讲就露馅。
用在 Agent 协作上有两层。
第一层，可以让 Agent 用教一个新同事的方式来复述它的方案。目标对象可以是一个新入职的工程师，也可以是一个非技术的产品经理。
不同受众就是不同的表达方式。如果它讲不清楚，说明它自己的结构化也不完整。
第二层，自己也要能把 Agent 的方案转述出来。最极端一点，假装要给老板发一封邮件，把 Agent 的整个思路用自己的话讲一遍。一旦写不顺手，就会立刻发现原来根本没搞懂关键假设。
这其实是在用 Agent 的讲解能力，反过来训练自己的理解。如果讲不清楚，就说明还没真正搞懂，这时候不要 rush 到下一步。
可以养成一个小习惯，每当 Agent 做完一个重要的任务，自己写下这么几句话。
这个 Agent 在解决什么问题，它把问题拆成了几步每步干什么，它的主要假设和风险点是什么。这几句话写得顺不顺，基本就是理解质量的体检。
可视化与外部化
认知科学里有一个大前提，人类工作记忆带宽很窄，几项东西一起转就开始掉链子。
所以好的学习系统都特别依赖外部化，思维导图、表格、黑板推演，把时间顺序、逻辑关系、依赖关系画出来。
Geoffrey 在 Notion 做的就是信息结构化和视图切换，所以他特别强调一点：不要让 Agent 的复杂推理困死在一个聊天窗口里。
更好的形式是把过程输出成结构化的东西。
比如让 Agent 把推理过程输出成一张任务分解表，每行是一个步骤，列的信息包括这步在做什么、依赖什么输入、产出什么中间结果、有什么不确定和假设、相关的文档链接。
或者输出成一棵树，根节点是整体目标，下一层是子目标，再下面是具体操作。
元认知
教育里还有一个重要概念叫元认知。不是知道什么，而是知不知道自己知道什么、不知道什么。
迁移到 Agent 协作上，不要只问 Agent 你确定吗，也要问自己：在这个粒度上我真的有信心吗？我知道自己不知道什么吗？
具体做法可以很机械。
让 Agent 在输出结尾加一块：如果只检查三件事来确认我没跑偏，建议是哪三件。
自己在 review 完之后也给自己做个分类：哪些点我确定是对的，哪些模模糊糊大概对但说不清，哪些其实完全不懂只是暂时先信了它。
这个分类本身就在帮我们把模糊的不安变成具体的待办。
说了这么多理解的重要性，一个很自然的问题就来了：到底理解到什么程度才算够？总不能 Agent 写的每一行代码、每一步推理都盯着看吧，那还不如自己干。
我们不可能、也没必要把 Agent 做的每一个细节都完全理解，那样反而慢。
比较好的标准是这样的，我们可以解释：
1、它整体在做的任务拆成了哪几块？
2、每一块大概采用了什么策略？
3、哪些地方是高风险或者假设很多的
如果结果错了，我们能大致定位：
1、是哪一段思路偏了？
2、是没看见某个约束，还是误解了目标？
总之，就是需要能够驾驭 AI，而不是一味的轻信他说的 trust me bro。
40 328
来自圈子
科技圈大小事
100万+人已经加入