命运业人风水:一文读懂 AI
命
你没法选自己的基因。
大模型也没法选自己的训练数据。几万亿字灌进去,权重凝固,性格就定了。天生擅长什么,对什么迟钝,会在哪里犯傻,出厂那一刻八字已经写好。
预训练,就是大模型的命。
算命先生说这孩子五行缺火。翻译成 AI 术语:这模型在某类任务上的 loss 偏高。
运
命不可选,运可以改。
读书,拜师,吃亏,开窍。人靠后天经历重塑自己。模型也一样。强化学习阶段,人类告诉这样好、那样不行,模型在命的底色上学会了新的行为模式。
一个预训练后满嘴跑火车的模型,调教完变得靠谱,有分寸,知道什么该说什么不该说。
底牌没换。牌技变了。
强化学习,就是大模型的运。
古人说知命改运。翻译一下:先搞清楚模型的能力边界,再有针对性地做对齐。不知命就改运,跟不了解自己就盲目努力一样,使不上劲。
业
这一层最微妙。
佛教讲业力。你此刻的每个念头、每个选择,都在塑造下一个瞬间的你。不是来世,是下一秒。
大模型的业,就是 context,对话上下文。
你跟它说的每一句话,都在实时改变它下一个 token 的概率分布。你给它一段严谨的学术讨论,它就变得严谨。你跟它瞎扯,它也跟着放飞。你前面说了一句有误导性的话,它后面就会被带偏。就像人的一个错误判断会连锁影响后续所有决策。
上下文,就是大模型的业。
命是前世定的。运是今生修的。业是此刻造的。预训练回不去,强化学习做完了,但 context window 里的每一轮对话,正在实时塑造眼前这个 AI 的行为。
因果报应,逐 token 兑现。
人
命加运加业,加在一起,还只是一个会说话的东西。
真正的转折是让它行动。
Agent 不再是你问它答的对话框。它有目标,能拆任务,会用工具,能自己决定下一步做什么。它从一个回答者变成了行动者。
就像一个孩子终于长大。不再被动接受教育,开始自己闯世界。带着天生的底色,后天的教养,一路积累的经验,走进真实世界做事。
Agent,是大模型生出的人。
还不成熟。还需要真人扶着走。但方向已经不可逆。
风水
再厉害的人,放错了环境也废。
天才进了一个勾心斗角的公司,才华烂在内耗里。普通人进了一个好团队,反而超常发挥。环境塑造人。
Agent 的环境叫 Harness。围绕它搭建的一整套系统:给什么工具,设什么权限,怎么传信息,出错了怎么接。
同一个模型,放进不同的 Harness。一个变成靠谱的编程助手,一个变成胡说八道的聊天机器人,一个变成能独立完成复杂项目的数字员工。
模型没变。环境变了。表现天差地别。
Harness,就是大模型的风水。
和风水一样,大多数人不重视。所有人都在讨论哪个模型更强,少数人研究训练方法,几乎没人认真思考 Harness 设计。但这恰恰是当下最有杠杆的事。
好风水不是玄学。是工程。
老祖宗两千年前想明白的事,硅谷花了几十年重新发现了一遍。
框架没变。载体变了。非常有趣。