警惕AI的平庸性 以及 AI为什么在一些创新上肯定效率不如人
Transformer算法决定了,AI的思考和表达决策,是对下一个token的最可能正确概率的预测。
这个“最大可能正确概率”,是从大模型训练的语料中训练出来,在这些海量的数据中,最可能出现的,一方面是“准确的”,但另一方面也是“常见的”。
举个例子,当年我去上新东方备考托福的时候,老师说选择题中,看到题目里有“delicious”这个词,选项中有“apple pie”这个词,就选这个选项。
因为托福考试的题目中,好吃的永远是苹果派。
Next Right Answer Prediction!新东方早就掌握了LLM的算法原理!
回来说这种预测算法一个问题就是:再一些没有唯一正确答案的问题上,她给出来的就是训练语料中最常见的回答。
比方说在广告营销行业,你让AI给一个新车上市的活动想一个创意,她给出的通常都是“幸福的一家人开车去露营”,或者“一个精英开车去戈壁探险”。
因为这种回答在行业过去的广告素材中最常见,因此她觉得最正确。
这其实是一种创造力上的平庸。真正的创造力,要追求与众不同,但是一种“熟悉的陌生”,这对现在的AI算法和思考模式来说,太难了。
也有人会说,可以通过提示词让AI刻意去创新,不要走寻常路
会有些作用,但是问题是当没有唯一答案时,排列组合是无穷的,AI可以列举一些参差不齐的创新,最终还得依靠人的正确品味去做判断。
人对品味的标准,在一些复杂创意场景,人也无法准确描述,AI也没法有效学习。
继续压缩:
主流大模型天生追求的是“最大公约数的正确”,而创造力追求的却是“最小众但有价值的偏差”。
当你把 AI 当做“答案机”,它只能给你平庸平均值;当你把它当做“材料机”,它才是创意燃料,而不是创意本身。
真正高明的创意不是“完全不同”,而是“在熟悉的世界里只偏半步”,这半步需要语境感、风险感和价值判断,而这些都不在算法的损失函数里。
AI 正在吞掉中等水平的工作,却意外保留了人类最难被替代的部分:胆识、品味,以及为少数派选择负全责的勇气。
#AI工作流