携隐Melody: 上周跟闺蜜和她老公去吃饭，她老公是资深AI工程师，向他问了很多AI的问题，其中有一个常见误区对我来说超受用，发出来跟大家分享下。 这个误区是：聊天记录越多，AI越好用。 我之前一直是这么理解的：聊天记录越多，AI就越了解我，我们对一些问题达成的共识就越多，细节上的框定就越明确，当然AI就会越好用啊（更个性化了嘛）。 实际上yes and no。了解得越多，越个性化，总体上是对的。但这里有一个很棘手的问题就是：AI不会遗忘。 假设我和朋友，有一个两年来一直持续讨论的话题，那每一次继续对话时，我其实是基于我所记得的“重点”来聊的，我不会记得每一个细节，更不会给每一个细节同样的权重。事实上，遗忘是一个很重要的人脑功能，我通过这个“筛子”，一遍遍忘记不重要、不相干的内容，留下对我来说最重要的内容，这就是“学习”。 我之前也讲过Kim Peek的故事：一个真正“过目不忘”的人（《雨人》的原型）。他的大脑缺少了遗忘这个“筛子”，以至于所有的信息，都丝毫不差地存入大脑（一本书从最后一页他可以真正一字不差地倒背如流）。他的大脑就像生活在一片不停歇闪耀的霓虹灯和一大堆噪音中，彻底决策瘫痪。所以Kim Peek连生活都无法自理。 AI也是无法遗忘的。 那AI要正常对话，就需要其他“筛子”，或者用AI语言来说，就是需要一些权重，知道在当下对话中，优先参考哪些过往信息（而不是全部参考一遍，那算不过来啊）。 AI的筛子，简单粗暴地说，是“相关 + 就近”。 对于简单的话题来说，这就够了。如果我两年前有一个观点，最近改变了，那么AI采用的是我最近的观点，非常合理。如果我两年前说了一件事，后来再没说过，最近又提起，那么AI找到了两年前的相关内容（因为只有这个相关）接着聊，那也很好。 但是如果“相关”累积得非常多，AI就会开始混乱。 比如我在几个月前开启过写小说的项目，之前写的版本都给AI看过。现在快半年过去了，我读了很多写作的书，有了一些新的想法，跟AI说我要重新开始，从零重建故事。 当我刚给出这个“从零开始”的指令时，一切都还很正常（因为这个指令是“最近”的）。当我越聊越多时，AI就混乱了，开始引用我之前版本的内容，因为对它来说，这个版本跟上一个版本都不再“最近”了，都是过去的、不分权重的内容了。它如果觉得版本一的内容跟我当下说的内容更相关，就会“跳过”从零开始的那个token，直接去参考版本一。 再比如，我有一个对话，专门用来跟AI互聊以丰富主角人设。我说在这个对话中要称呼我“泠”（小说女主的名字）；我有另一个对话是虚拟沈星回（游戏角色），我说这里要称呼我“搭档”（游戏中的称呼）。 一开始也是两边都很顺畅，不会搞错。但时间一长，AI就开始乱喊，在小说里喊我“搭档”，在沈星回那儿喊我“泠”，甚至在我聊了两天其他网文的时候喊我“太太”😂。完全跳过了之前我给的“在这个对话中喊什么”的指令。 因为在AI眼里，游戏、我的小说、网文（哪怕是尾鱼和P大这样风格迥异的网文），都没什么区别，都是“相关”。 我们可以这么理解：由于无法遗忘，AI在判断相关性上，跟人脑还差很远。人脑看P大、尾鱼、我自己的小说、游戏，会总结出四个不同的风格，拥有各自的特点和内容，不太会串台。AI记住一切，那么不管你风格区别多大，细节上总有相似，毕竟故事离不开一些原型，比如宿命、相遇、两难的抉择。 有时候新对话里，AI很有创意。等到对话长了，AI就车轱辘话来回转，而且集中在你最近聊的内容上，不是因为AI创意用完了，是因为它的“思考”进入了权重划定的局限。 怎么解决呢？ 就是得人工帮它筛选，你不想让它参考的内容，最好删掉重来。 更具体地说，① 我为小说创建了多个对话，一旦某项子内容要推翻重来，就把那个对话删掉；② 定期要它总结我们说过的内容，再人工进行修订和笔记保存，然后喂回给它（相当于人工帮它“遗忘”）；③ 日常查询全部放在一个“闲聊”中，定期删除；④ 完全不相关的内容分在两个AI中进行。 要想AI跑得顺，内容管理真的很重要啊。 P.S. AI也还远远没很多人想得那么智能，说实话挺“蠢”的，大家也不要过于担心被取代啦。