使用了ChatGPT 的记忆功能一段时间后,我永久关闭了这个功能
ChatGPT 的记忆功能英文叫 memory,几个月前就发了宣传稿要推出,但是实际上大规模开放使用也就不久前的事情。OpenAI 宣称记忆功能打开后可以让 GPT 更懂用户,颇有点为使用者量身打造一个 GPT 的意思。在正式用上记忆功能之前,我也很好奇记忆功能的效果,还有具体实现机制。然而OpenAI 迟迟没有开放使用,所以一直不敢妄言。
然而,在使用所谓记忆功能一段时间以后,我永久关闭了这个功能。这个所谓记忆功能不仅没有让 GPT 更懂我,反而让 GPT 更智障了。
所谓记忆功能,不过是自动化设置了一段系统提示词。打开记忆功能后,在用户和 GPT 对话过程中,自动的识别一些用户对话塞到系统提示词里,本质上是自定义指令的功能。交给这个所谓记忆功能来自动的编辑系统提示词,实际使用体验还不如依据自己的习惯设置 custom instructions.
打开了 memory 功能,并不会依据你的个人喜好为你定制背后的大模型,反而还会塞一堆垃圾话到系统提示词里,污染 GPT 的脑子。你只要做出夸夸 GPT,表达出赞赏之类的行为,这个记忆功能就会把相关的文字塞到所谓的记忆区。当你使用了一段时间后,就会发现记忆区充斥着一堆乱七八糟的垃圾话。这些垃圾话在你每次和 GPT 对话时都会发挥作用,起到给 GPT 的脑子下毒的类似效果。
使用记忆功能还会给网页端的提示词调试带来麻烦。尤其是用贿赂,PUA GPT,Yes-And 之类的提示词技巧时,打开记忆功能的情况下很容易让 GPT 记忆一些乱七八糟的内容,如果你发现同一条提示词前后效果差别过大,记得检查一下是否关闭记忆。
从保护个人隐私的角度来看,这个记忆功能就是个用户画像数据搜集器,我并不希望自己的信息被搜集、被训练,有同样顾虑的朋友同样建议你关闭。