即刻App年轻人的同好社区
下载
长期的记忆系统会把它变成向量化来RAG（对应你提到的2年前内容它还记得，本质是它每次会去检索之前的历史），短期的记忆（比如最近10轮对话）会连同当前prompt直接喂给模型，两者都属于上下文的一部分，这两者加起来不能超过模型的上下文窗口size（比如100w token），所以在RAG的部分其实有一定的“遗忘”机制，它会把不相关的给忘掉，但无法忘掉语义上相关，但你觉得已经不重要的内容
携隐Melody: 上周跟闺蜜和她老公去吃饭，她老公是资深AI工程师，向他问了很多AI的问题，其中有一个常见误区对我来说超受用，发出来跟大家分享下。 这个误区是：聊天记录越多，AI越好用。 我之前一直是这么理解的：聊天记录越多，AI就越了解我，我们对一些问题达成的共识就越多，细节上的框定就越明确，当然AI就会越好用啊（更个性化了嘛）。 实际上yes and no。了解得越多，越个性化，总体上是对的。但这里有一个很棘手的问题就是：AI不会遗忘。 假设我和朋友，有一个两年来一直持续讨论的话题，那每一次继续对话时，我其实是基于我所记得的“重点”来聊的，我不会记得每一个细节，更不会给每一个细节同样的权重。事实上，遗忘是一个很重要的人脑功能，我通过这个“筛子”，一遍遍忘记不重要、不相干的内容，留下对我来说最重要的内容，这就是“学习”。 我之前也讲过Kim Peek的故事：一个真正“过目不忘”的人（《雨人》的原型）。他的大脑缺少了遗忘这个“筛子”，以至于所有的信息，都丝毫不差地存入大脑（一本书从最后一页他可以真正一字不差地倒背如流）。他的大脑就像生活在一片不停歇闪耀的霓虹灯和一大堆噪音中，彻底决策瘫痪。所以Kim Peek连生活都无法自理。 AI也是无法遗忘的。 那AI要正常对话，就需要其他“筛子”，或者用AI语言来说，就是需要一些权重，知道在当下对话中，优先参考哪些过往信息（而不是全部参考一遍，那算不过来啊）。 AI的筛子，简单粗暴地说，是“相关 + 就近”。 对于简单的话题来说，这就够了。如果我两年前有一个观点，最近改变了，那么AI采用的是我最近的观点，非常合理。如果我两年前说了一件事，后来再没说过，最近又提起，那么AI找到了两年前的相关内容（因为只有这个相关）接着聊，那也很好。 但是如果“相关”累积得非常多，AI就会开始混乱。 比如我在几个月前开启过写小说的项目，之前写的版本都给AI看过。现在快半年过去了，我读了很多写作的书，有了一些新的想法，跟AI说我要重新开始，从零重建故事。 当我刚给出这个“从零开始”的指令时，一切都还很正常（因为这个指令是“最近”的）。当我越聊越多时，AI就混乱了，开始引用我之前版本的内容，因为对它来说，这个版本跟上一个版本都不再“最近”了，都是过去的、不分权重的内容了。它如果觉得版本一的内容跟我当下说的内容更相关，就会“跳过”从零开始的那个token，直接去参考版本一。 再比如，我有一个对话，专门用来跟AI互聊以丰富主角人设。我说在这个对话中要称呼我“泠”（小说女主的名字）；我有另一个对话是虚拟沈星回（游戏角色），我说这里要称呼我“搭档”（游戏中的称呼）。 一开始也是两边都很顺畅，不会搞错。但时间一长，AI就开始乱喊，在小说里喊我“搭档”，在沈星回那儿喊我“泠”，甚至在我聊了两天其他网文的时候喊我“太太”😂。完全跳过了之前我给的“在这个对话中喊什么”的指令。 因为在AI眼里，游戏、我的小说、网文（哪怕是尾鱼和P大这样风格迥异的网文），都没什么区别，都是“相关”。 我们可以这么理解：由于无法遗忘，AI在判断相关性上，跟人脑还差很远。人脑看P大、尾鱼、我自己的小说、游戏，会总结出四个不同的风格，拥有各自的特点和内容，不太会串台。AI记住一切，那么不管你风格区别多大，细节上总有相似，毕竟故事离不开一些原型，比如宿命、相遇、两难的抉择。 有时候新对话里，AI很有创意。等到对话长了，AI就车轱辘话来回转，而且集中在你最近聊的内容上，不是因为AI创意用完了，是因为它的“思考”进入了权重划定的局限。 怎么解决呢？ 就是得人工帮它筛选，你不想让它参考的内容，最好删掉重来。 更具体地说，① 我为小说创建了多个对话，一旦某项子内容要推翻重来，就把那个对话删掉；② 定期要它总结我们说过的内容，再人工进行修订和笔记保存，然后喂回给它（相当于人工帮它“遗忘”）；③ 日常查询全部放在一个“闲聊”中，定期删除；④ 完全不相关的内容分在两个AI中进行。 要想AI跑得顺，内容管理真的很重要啊。 P.S. AI也还远远没很多人想得那么智能，说实话挺“蠢”的，大家也不要过于担心被取代啦。
0 00
感觉这个时代的创业公司的战略不能建立在“希望通过技术来建立竞争壁垒上了”，巨头拥有更优质的人才和资源投入，小公司短时间的所谓技术优势很难持续。
小公司还是要从应用场景和商业模式上去构建壁垒，或者早点商业化，在大厂做出动作的窗口期内赚一波钱。
想到了Monica的战略，套壳等模型进步，然后从第一天就开始商业化，很正确呀
小公司还是要从应用场景和商业模式上去构建壁垒，或者早点商业化，在大厂做出动作的窗口期内赚一波钱。
想到了Monica的战略，套壳等模型进步，然后从第一天就开始商业化，很正确呀
杨远骋Koji: 昨天这张 twitter 的截图引发了大量的共鸣，全网四处都在传播，今天看到 @Diiiii 的分享： 1）对大多数人来说，与其在供给端追求“最前沿”、“最先进”，不如踏踏实实专注需求端，专注那些“不变的东西”。 2）将 AI 作为改造世界、造福人类、更好满足需求的工具，这样活起来安全感更强一点，幸福感更高一些。 3）与其整天琢磨各种提示词的技巧，不如琢磨一下自己有哪些还没有得到满意答案的问题。 4）对我来说，一个比较有用的练习，是每天想一个“值得用 ChatGPT Pro/O3 来解决” 的问题 - 其实这并不容易。可能未来的挑战很快就会变成，模型不断精进的能力与人类贫乏的想象力之间的矛盾。 5）能否问出“配得上模型能力”的问题？能否对模型的边界提出更大的挑战？这可能是未来对“创新”的真正定义所在。
2 00
你说的对，我想表达的是在用户需求的视角来看，AI搜索，chatbot，还有Agent以后的心智是差不多的，都是“我有个问题让AI帮我回答/解决了”，以后三者的产品形态会逐渐趋同，各家都会朝着智能助手这个形态演化 //@麦门忠实信徒: 最近也在思考这个问题：长远来看，AI搜索和Agent有没有区别。
我的理解是有很大区别，Agent能干AI搜索的活，反过来就不行
从二者的侧重点：
AI搜索：更侧重信息的处理，本质是对已有信源的已有信息，做筛选、辨别、提炼，最后总结一个结论输出。
Agent：更侧重行动，行动的决策点不一定来自于已有信源，可能是模型在历史任务中的“经验”
从应用侧落地：
做AI搜索的企业/应用，从ROI的角度，大概率只让AI搜索解决“信息处理”的问题，因为大部分人用搜索，是为了快速获取答案
做Agent的企业/应用，重点是需要解决，Agent的规划能力、问题拆解能力、工具调用能力，这个时候AI搜索变成了其中的一种工具
我的理解是有很大区别，Agent能干AI搜索的活，反过来就不行
从二者的侧重点：
AI搜索：更侧重信息的处理，本质是对已有信源的已有信息，做筛选、辨别、提炼，最后总结一个结论输出。
Agent：更侧重行动，行动的决策点不一定来自于已有信源，可能是模型在历史任务中的“经验”
从应用侧落地：
做AI搜索的企业/应用，从ROI的角度，大概率只让AI搜索解决“信息处理”的问题，因为大部分人用搜索，是为了快速获取答案
做Agent的企业/应用，重点是需要解决，Agent的规划能力、问题拆解能力、工具调用能力，这个时候AI搜索变成了其中的一种工具
刘飞Lufy: AI agent 相较于 AI 搜索，可以解决的一大痛点就是，能 设法打破如今互联网割据的内容孤岛，尽可能找到优质的信息。 像今天用 DeepSeek 搜出的答案错得离谱，看了下原始网页，整个就是牛皮癣广告。显然会严重污染 AI 的数据来源。
0 00
感觉AI搜索把信息源整合做好，或者引入类似deep research那样的多次检索+反思的模式也可以解决你说的这个问题
往长远来说，AI搜索可能以后都是Agent，两者没有明显边界了
往长远来说，AI搜索可能以后都是Agent，两者没有明显边界了
刘飞Lufy: AI agent 相较于 AI 搜索，可以解决的一大痛点就是，能 设法打破如今互联网割据的内容孤岛，尽可能找到优质的信息。 像今天用 DeepSeek 搜出的答案错得离谱，看了下原始网页，整个就是牛皮癣广告。显然会严重污染 AI 的数据来源。
0 00
其实现在做搜索的都必然会升级自己为“AI搜索”，搜索和chatbot的竞争边界也越来越模糊，因为除了传统的寻址需求以外，用户用两种产品的需求是高度重合的，以后搜索引擎和chatbot都是往智能助理的方向去演化。
Agent的话个人觉得以后是通用逐渐吞噬掉垂类，就像之前的垂类Agent很多，但Manus验证了通用agent是更符合用户直觉的，因为普通用户很少能记住某个场景要去用某个垂直Agent这种高门槛的事情，以及很多低频的中长尾的碎片化需求在出现时，用户很难当下想到要用哪个垂直Agent去解决，而是会去寻找一个通用Agent来试一试，可能通用Agent底层是意图识别后，往各个垂类Agent去做分发需求
Agent的话个人觉得以后是通用逐渐吞噬掉垂类，就像之前的垂类Agent很多，但Manus验证了通用agent是更符合用户直觉的，因为普通用户很少能记住某个场景要去用某个垂直Agent这种高门槛的事情，以及很多低频的中长尾的碎片化需求在出现时，用户很难当下想到要用哪个垂直Agent去解决，而是会去寻找一个通用Agent来试一试，可能通用Agent底层是意图识别后，往各个垂类Agent去做分发需求
托马斯骆: 最近经常跟别人讨论两件事： 1. AI 搜索是不是一个伪存在？ （Prompt 即需求，现在输入。prompt就相当于过去“搜索”的动作；而模型生成结果的过程内化了搜索这个步骤，以推理的方式呈现出结果。因此，大语言模型与搜索引擎基于人类同一类诉求，前者明显智能于后者，因此 AI 搜索不存在）。 2. 通用Agent存在不存在？（Agent 就是AI应用的一个典型形态甚至是标准形态，the automation of task execution，那你见过一个能解决所有需求的应用么？所以Agent是依托产业场景私有数据的，那就不存在通用Agent）。 看了夸克的最新动作，我的看法有一些新的更新： 1. AI搜索确实是一个伪存在。不能因为模型有了搜索能力就说它是搜索。当人们看到一个框，就会觉得它是搜索用的，但AI成为一种工具之后，框是一个计算生成结果的需求处理窗口，它的功能不局限于搜索。夸克这次是明确地表示它的框不是一个搜索引擎窗口，而是一个复杂的AI需求入口，甚至是AI超级应用入口。 2. 通用Agent是不是成立，取决于对通用的定义，通用如果不被理解为千行百业，而被理解为人们普遍存在的，不依托于专业知识和职业技能的，超越聊天和对话功能的操作性AI需求，那通用就是在某种意义上成立的。人们就需要一个模型层之上的有通用和泛化能力的工具层，这个工具层是一个multi agents组合，与模型层有着很好的基于理解的交互和操作。更多的人是希望尽可能通过一个窗口去解决这个问题的。这可能就是夸克说的AI超级框，let's see what will happen.
0 30
OpenAI 昨天发布了Agents SDK，核心功能包括
一、多Agent协作编排
通过声明式API简化多智能体流程设计（如审批链、数据接力），相比传统Swarm架构减少70%的代码量
内置响应式路由机制，能根据上下文动态选择调用本地工具、第三方API或人类审核节点
二、标准化Agent模板
提供预配置的Agent类型（如客服机器人、数据分析助手），支持自定义指令集与工具访问权限
典型用例：企业内网知识库调用+实时网页搜索+代码执行沙箱的三层校验架构
三、安全与可观测性
Responses API内置网页搜索/代码执行工具，避免开发者重复造轮子的同时，通过沙箱隔离降低安全风险
openai.com
一、多Agent协作编排
通过声明式API简化多智能体流程设计（如审批链、数据接力），相比传统Swarm架构减少70%的代码量
内置响应式路由机制，能根据上下文动态选择调用本地工具、第三方API或人类审核节点
二、标准化Agent模板
提供预配置的Agent类型（如客服机器人、数据分析助手），支持自定义指令集与工具访问权限
典型用例：企业内网知识库调用+实时网页搜索+代码执行沙箱的三层校验架构
三、安全与可观测性
Responses API内置网页搜索/代码执行工具，避免开发者重复造轮子的同时，通过沙箱隔离降低安全风险
openai.com
0 00
