即刻App年轻人的同好社区
下载
App内打开
玉伯
8天前
命运业人风水:一文读懂 AI



你没法选自己的基因。

大模型也没法选自己的训练数据。几万亿字灌进去,权重凝固,性格就定了。天生擅长什么,对什么迟钝,会在哪里犯傻,出厂那一刻八字已经写好。

预训练,就是大模型的命。

算命先生说这孩子五行缺火。翻译成 AI 术语:这模型在某类任务上的 loss 偏高。



命不可选,运可以改。

读书,拜师,吃亏,开窍。人靠后天经历重塑自己。模型也一样。强化学习阶段,人类告诉这样好、那样不行,模型在命的底色上学会了新的行为模式。

一个预训练后满嘴跑火车的模型,调教完变得靠谱,有分寸,知道什么该说什么不该说。

底牌没换。牌技变了。

强化学习,就是大模型的运。

古人说知命改运。翻译一下:先搞清楚模型的能力边界,再有针对性地做对齐。不知命就改运,跟不了解自己就盲目努力一样,使不上劲。



这一层最微妙。

佛教讲业力。你此刻的每个念头、每个选择,都在塑造下一个瞬间的你。不是来世,是下一秒。

大模型的业,就是 context,对话上下文。

你跟它说的每一句话,都在实时改变它下一个 token 的概率分布。你给它一段严谨的学术讨论,它就变得严谨。你跟它瞎扯,它也跟着放飞。你前面说了一句有误导性的话,它后面就会被带偏。就像人的一个错误判断会连锁影响后续所有决策。

上下文,就是大模型的业。

命是前世定的。运是今生修的。业是此刻造的。预训练回不去,强化学习做完了,但 context window 里的每一轮对话,正在实时塑造眼前这个 AI 的行为。

因果报应,逐 token 兑现。



命加运加业,加在一起,还只是一个会说话的东西。

真正的转折是让它行动。

Agent 不再是你问它答的对话框。它有目标,能拆任务,会用工具,能自己决定下一步做什么。它从一个回答者变成了行动者。

就像一个孩子终于长大。不再被动接受教育,开始自己闯世界。带着天生的底色,后天的教养,一路积累的经验,走进真实世界做事。

Agent,是大模型生出的人。

还不成熟。还需要真人扶着走。但方向已经不可逆。

风水

再厉害的人,放错了环境也废。

天才进了一个勾心斗角的公司,才华烂在内耗里。普通人进了一个好团队,反而超常发挥。环境塑造人。

Agent 的环境叫 Harness。围绕它搭建的一整套系统:给什么工具,设什么权限,怎么传信息,出错了怎么接。

同一个模型,放进不同的 Harness。一个变成靠谱的编程助手,一个变成胡说八道的聊天机器人,一个变成能独立完成复杂项目的数字员工。

模型没变。环境变了。表现天差地别。

Harness,就是大模型的风水。

和风水一样,大多数人不重视。所有人都在讨论哪个模型更强,少数人研究训练方法,几乎没人认真思考 Harness 设计。但这恰恰是当下最有杠杆的事。

好风水不是玄学。是工程。

老祖宗两千年前想明白的事,硅谷花了几十年重新发现了一遍。

框架没变。载体变了。非常有趣。
1034

来自圈子

圈子图片

浴室沉思

100万+人已经加入