即刻App年轻人的同好社区
下载
上世纪八十年代末，加拿大有两位教授，隔着大半个加拿大，各自说了一句后来看来互相映照的话。
多伦多大学的辛顿描述深度神经网络：大脑就是这样工作的。
阿尔伯塔大学的萨顿描述强化学习：心智就是这样运作的。
辛顿研究机器怎么感知世界：让机器从数据里自己长出对世界的理解；
萨顿研究机器怎么行动：让机器试错、挨罚、拿奖励，自己变聪明。
AI 后来四十年的两条大河，就从这两句话里发源。
“你会忍不住想，你们为什么不合作呢？”姆尼赫说。他先后在这两所学校念过书，后来去了 DeepMind。
两条河都遇到过枯水期。
辛顿的神经网络在九十年代被一个叫 SVM 的方法压了十几年：对手有全局最优解的保证，神经网络当时深一点就训不动。
萨顿的强化学习方式的瓶颈在于：在奖励清清楚楚的游戏和棋盘里这种方法无往不利，一出模拟世界就断流，因为现实世界不给你打分。
第一个把两条河引到一起的人，既不出自辛顿门下，也不出自萨顿门下，是个研究大脑的前游戏神童——哈萨比斯。
他博士期间研究海马体，发现失忆病人同时也丧失想象力：记忆和想象，在大脑里共用一套机制。
这个发现后来变成了 DeepMind 的招牌动作“经验回放”：
让 AI 像人睡觉时回放白天的经历那样，反复咀嚼自己玩过的游戏。2013年的 DQN、2016年的 AlphaGo，都是类似的方法，最终AlphaGo在和李世石对决中下出的第 37 步棋证明，AI在深度学习之后，是可以通过强化学习创造出人类成功经验之外，原创的神来一手的。
但，曾经的成功，最终都会成为范式突破的束缚。
AlphaGo 的胜利让哈萨比斯确信：主要靠强化学习就能走到通用智能，而且智能必须接地，也就是必须接触真实世界。
所以当 OpenAI 掉头去做一件看起来很笨的事：预测下一个词，把整个互联网当教材时，DeepMind 没跟。纯文本、不碰世界、没有奖励回路，这算什么智能？
2022年11月30日，ChatGPT 上线。五个月后哈萨比斯对记者说：这无异于宣战，OpenAI 和微软已经把坦克开到了我们的草坪上。
他后来复盘说，这是他第一个判断失误的地方，语言和真实世界的连接比他想象的深，大模型靠看Youtube上大量的猫图片，也能理解猫这个概念。
很多人都以为深度学习从此赢家通吃。结果2024年底，OpenAI 的联合创始人苏茨克维亲口宣布：数据要用完了。当时大家以为，纯靠互联网数据的路子快撞墙了。
往哪走？
强化学习复兴了。训练者让模型自己给自己出题，生成一步步的思考过程，再拿可验证的奖励去筛：数学题算对没有，代码跑通没有。ChatGPT o1、DeepSeek R1、写代码的 Claude，都是这么跑出来的。
哈萨比斯觉得又回到自己的主战场了，他觉得以前的语言模型只有策略网络，只能预测下一个单词，现在给它时间去规划和思考，这不就是 AlphaGo 吗？
强化学习和深度学习第二次合流。
现在正在发生的是第三次。
谷歌的 Genie 能凭空生成一个可以走进去的三维世界。它学的还是老配方，从海量视频里预测下一帧，跟预测下一个词类似，只是从文字换成了画面。
然后一个叫 SIMA 的智能体钻进这些生成的世界里练级：深度学习负责造梦，强化学习负责在梦里攒经验。练完，再把学到的东西迁移回现实，这一步走通没走通，现在还没人敢打包票。
李飞飞的公司为这个方向融了十亿美元，成立才两年；杨立昆六十六岁离开 Meta 创业，种子轮融资破了纪录，赌的也是这条路。
这场四十年拉锯，萨顿在2019年就看到了苗头，他在一篇短文里说，AI 七十年的历史反复证明一件事：人类精心设计的巧思终会输给能吃下更多算力的笨办法，而能无限吃算力的方法只有两类：学习，和搜索。前者对应深度学习，后者就是强化学习。
四十年来，两条河轮流枯，轮流涨：神经网络训不动时 SVM 得势，强化学习出不了模拟器时语言模型插队，语言模型吃光了互联网就轮到强化学习复活。每一次都有人宣布其中一条河快干了，每一次它都换了河床回来。
四十年，三次合流，河道一次比一次宽。没人知道 通往AGI 的海还有多远，但水流的方向，从来没变过。
多伦多大学的辛顿描述深度神经网络：大脑就是这样工作的。
阿尔伯塔大学的萨顿描述强化学习：心智就是这样运作的。
辛顿研究机器怎么感知世界：让机器从数据里自己长出对世界的理解；
萨顿研究机器怎么行动：让机器试错、挨罚、拿奖励，自己变聪明。
AI 后来四十年的两条大河，就从这两句话里发源。
“你会忍不住想，你们为什么不合作呢？”姆尼赫说。他先后在这两所学校念过书，后来去了 DeepMind。
两条河都遇到过枯水期。
辛顿的神经网络在九十年代被一个叫 SVM 的方法压了十几年：对手有全局最优解的保证，神经网络当时深一点就训不动。
萨顿的强化学习方式的瓶颈在于：在奖励清清楚楚的游戏和棋盘里这种方法无往不利，一出模拟世界就断流，因为现实世界不给你打分。
第一个把两条河引到一起的人，既不出自辛顿门下，也不出自萨顿门下，是个研究大脑的前游戏神童——哈萨比斯。
他博士期间研究海马体，发现失忆病人同时也丧失想象力：记忆和想象，在大脑里共用一套机制。
这个发现后来变成了 DeepMind 的招牌动作“经验回放”：
让 AI 像人睡觉时回放白天的经历那样，反复咀嚼自己玩过的游戏。2013年的 DQN、2016年的 AlphaGo，都是类似的方法，最终AlphaGo在和李世石对决中下出的第 37 步棋证明，AI在深度学习之后，是可以通过强化学习创造出人类成功经验之外，原创的神来一手的。
但，曾经的成功，最终都会成为范式突破的束缚。
AlphaGo 的胜利让哈萨比斯确信：主要靠强化学习就能走到通用智能，而且智能必须接地，也就是必须接触真实世界。
所以当 OpenAI 掉头去做一件看起来很笨的事：预测下一个词，把整个互联网当教材时，DeepMind 没跟。纯文本、不碰世界、没有奖励回路，这算什么智能？
2022年11月30日，ChatGPT 上线。五个月后哈萨比斯对记者说：这无异于宣战，OpenAI 和微软已经把坦克开到了我们的草坪上。
他后来复盘说，这是他第一个判断失误的地方，语言和真实世界的连接比他想象的深，大模型靠看Youtube上大量的猫图片，也能理解猫这个概念。
很多人都以为深度学习从此赢家通吃。结果2024年底，OpenAI 的联合创始人苏茨克维亲口宣布：数据要用完了。当时大家以为，纯靠互联网数据的路子快撞墙了。
往哪走？
强化学习复兴了。训练者让模型自己给自己出题，生成一步步的思考过程，再拿可验证的奖励去筛：数学题算对没有，代码跑通没有。ChatGPT o1、DeepSeek R1、写代码的 Claude，都是这么跑出来的。
哈萨比斯觉得又回到自己的主战场了，他觉得以前的语言模型只有策略网络，只能预测下一个单词，现在给它时间去规划和思考，这不就是 AlphaGo 吗？
强化学习和深度学习第二次合流。
现在正在发生的是第三次。
谷歌的 Genie 能凭空生成一个可以走进去的三维世界。它学的还是老配方，从海量视频里预测下一帧，跟预测下一个词类似，只是从文字换成了画面。
然后一个叫 SIMA 的智能体钻进这些生成的世界里练级：深度学习负责造梦，强化学习负责在梦里攒经验。练完，再把学到的东西迁移回现实，这一步走通没走通，现在还没人敢打包票。
李飞飞的公司为这个方向融了十亿美元，成立才两年；杨立昆六十六岁离开 Meta 创业，种子轮融资破了纪录，赌的也是这条路。
这场四十年拉锯，萨顿在2019年就看到了苗头，他在一篇短文里说，AI 七十年的历史反复证明一件事：人类精心设计的巧思终会输给能吃下更多算力的笨办法，而能无限吃算力的方法只有两类：学习，和搜索。前者对应深度学习，后者就是强化学习。
四十年来，两条河轮流枯，轮流涨：神经网络训不动时 SVM 得势，强化学习出不了模拟器时语言模型插队，语言模型吃光了互联网就轮到强化学习复活。每一次都有人宣布其中一条河快干了，每一次它都换了河床回来。
四十年，三次合流，河道一次比一次宽。没人知道 通往AGI 的海还有多远，但水流的方向，从来没变过。
22 51
观察经济好不好的一个指标，是器官捐献率。
一位业内人说，今年广东器官捐献率同比腰斩，说明经济没有去年那么紧张了，因为器官捐献者在捐献器官后会得到一笔来自医院的补偿金，几十万元不等，而且住院期间所有费用都会免除，对很多普通家庭来说，这是一大笔钱。
这笔钱并不是完全医院自己出，一部分也来自器官受体的家庭，医院本质上来说在其中做了一个中介方，但相较于外部方，医院更受约束，更正规。
在广州、深圳，很多骑车过快的外卖员，出了车祸撞到头往往就救不回来了，救回来也是植物人，而要养一位植物人在家，意味着一大笔花费，很多家庭就会选择捐献遗体。
几十万，可能只是一些人股票持仓的一个点、一个包、一次出游，可就是另一些人的一条命。
生命是无价的，可时时刻刻都在被标价。人生来是平等的，可一些人就是比另一些人更不平等。
一位业内人说，今年广东器官捐献率同比腰斩，说明经济没有去年那么紧张了，因为器官捐献者在捐献器官后会得到一笔来自医院的补偿金，几十万元不等，而且住院期间所有费用都会免除，对很多普通家庭来说，这是一大笔钱。
这笔钱并不是完全医院自己出，一部分也来自器官受体的家庭，医院本质上来说在其中做了一个中介方，但相较于外部方，医院更受约束，更正规。
在广州、深圳，很多骑车过快的外卖员，出了车祸撞到头往往就救不回来了，救回来也是植物人，而要养一位植物人在家，意味着一大笔花费，很多家庭就会选择捐献遗体。
几十万，可能只是一些人股票持仓的一个点、一个包、一次出游，可就是另一些人的一条命。
生命是无价的，可时时刻刻都在被标价。人生来是平等的，可一些人就是比另一些人更不平等。
51 55
大模型训练里有个基础概念，"词向量"，理解了这个词，可能会帮你更好的理解人。
计算机本来是不认字的，那它怎么读懂"苹果"是什么意思？
1950 年代有个语言学家说过一句话，成了后来整套技术的地基："You shall know a word by the company it keeps."
想知道一个词什么意思，就看它常跟哪些词做伴。
机器根本不"理解"苹果，它只是把全人类写过的句子数了一遍，发现"苹果"总跟"吃、甜、树、水果"一起出现，就把它摆到了那一堆旁边。观其伴，而知其义。
我们天天刷到的"猜你喜欢"，也是同一套逻辑，只是换了数据源——这里的"伴"从词变成了你的行为。你看过、买过、点赞过、看完没快进的东西，就是你的"上下文"。
系统统计哪些人常一起喜欢哪些东西，把你和每件商品都变成一个空间里的点：爱看《星际穿越》《三体》的人也爱看《沙丘》，这三部就挨得很近，常看它们的你也被拉到那一带。
想象一个巨大的兴趣广场，几亿人和几亿件商品都站在上面，兴趣越像站得越近；推荐你，不过是系统站在你的位置往四周看一圈，把你伸手够得着的递给你。所谓"猜你喜欢"，没有玄学，就是量了一下距离，把最近的邻居拿过来。
学到这儿你可能就懂了，这不就是我们看人的方式吗？
很多时候，想看透一个人，跟他本人聊未必最准，话是可以修饰的。
但一个人长期跟谁来往、待在什么样的圈子里、喜欢什么讨厌什么、书架上摆着什么，这些"邻居"很难装。观其邻，而知其人。
但人比词有意思的地方，是词只能被动地被邻居定义，人却能自己挪位置。词只能"被观其邻而知义"，人却能"选其邻而成其义"。
你选择靠近谁、远离谁、泡在什么社区、允许什么样的人进入你的上下文，这本身就是在雕刻你会变成谁。这是词没有、而人独有的自由。
你多一个爱好、留一道伤疤、换一份事业，都是在亲手把自己的坐标往某个方向搬，顺带换掉一圈邻居。词没得选，人却随时可以搬家。
所以真想理解一个人，看他过去和现在的邻能知道他从哪来，但还有一层，他正努力靠近的、那个还没成为的邻，往往才更接近他想成为的自己。
计算机本来是不认字的，那它怎么读懂"苹果"是什么意思？
1950 年代有个语言学家说过一句话，成了后来整套技术的地基："You shall know a word by the company it keeps."
想知道一个词什么意思，就看它常跟哪些词做伴。
机器根本不"理解"苹果，它只是把全人类写过的句子数了一遍，发现"苹果"总跟"吃、甜、树、水果"一起出现，就把它摆到了那一堆旁边。观其伴，而知其义。
我们天天刷到的"猜你喜欢"，也是同一套逻辑，只是换了数据源——这里的"伴"从词变成了你的行为。你看过、买过、点赞过、看完没快进的东西，就是你的"上下文"。
系统统计哪些人常一起喜欢哪些东西，把你和每件商品都变成一个空间里的点：爱看《星际穿越》《三体》的人也爱看《沙丘》，这三部就挨得很近，常看它们的你也被拉到那一带。
想象一个巨大的兴趣广场，几亿人和几亿件商品都站在上面，兴趣越像站得越近；推荐你，不过是系统站在你的位置往四周看一圈，把你伸手够得着的递给你。所谓"猜你喜欢"，没有玄学，就是量了一下距离，把最近的邻居拿过来。
学到这儿你可能就懂了，这不就是我们看人的方式吗？
很多时候，想看透一个人，跟他本人聊未必最准，话是可以修饰的。
但一个人长期跟谁来往、待在什么样的圈子里、喜欢什么讨厌什么、书架上摆着什么，这些"邻居"很难装。观其邻，而知其人。
但人比词有意思的地方，是词只能被动地被邻居定义，人却能自己挪位置。词只能"被观其邻而知义"，人却能"选其邻而成其义"。
你选择靠近谁、远离谁、泡在什么社区、允许什么样的人进入你的上下文，这本身就是在雕刻你会变成谁。这是词没有、而人独有的自由。
你多一个爱好、留一道伤疤、换一份事业，都是在亲手把自己的坐标往某个方向搬，顺带换掉一圈邻居。词没得选，人却随时可以搬家。
所以真想理解一个人，看他过去和现在的邻能知道他从哪来，但还有一层，他正努力靠近的、那个还没成为的邻，往往才更接近他想成为的自己。
20 310
为什么感觉大家似乎，真的，挺厌老？
我们不都有一天还是会 50 岁，80 岁，代谢下降体型松弛吗？
我看到这些老人们在健身房觉得有希望，是因为我觉得运动是我们少数能做的（当然还有早睡早起），让我们老得尽量慢一点，健康一点的方式，中风得重病这些我们没法控制，可是要不要早起去锻炼是我们可以控制的，这不是件挺有希望的事吗？
我们不都有一天还是会 50 岁，80 岁，代谢下降体型松弛吗？
我看到这些老人们在健身房觉得有希望，是因为我觉得运动是我们少数能做的（当然还有早睡早起），让我们老得尽量慢一点，健康一点的方式，中风得重病这些我们没法控制，可是要不要早起去锻炼是我们可以控制的，这不是件挺有希望的事吗？
我的兄弟叫铁马: 每次在健身房看见，而且是固定时间定期看见白发苍苍的女性，就觉得我的未来充满希望，老去完全可以不是一件可怖的事。
19 10
😍
视频号
5 20
走在菲律宾潜水热门地PG岛的街头，我注意到一个有趣的现象，韩国男人们几乎“人手一妞”。
这些看起来人到中年，大概已经有家庭或孩子的韩国男人们，身边总是陪着一位身材姣好精瘦，浓妆艳摸的菲律宾本地姑娘。
这些姑娘们看起来性格开朗，神情自如。听说她们被称为GoGo girl，提供这种服务的场所叫做GoGo bar，就在游客常去的热门餐厅旁，在昏暗的红光掩映下，躲在门帘后。
她们大多来自菲律宾其他更穷的地方，在人均月工资 3000 人民币以下的菲律宾，她们服务一次就能赚约 500 人民币（大概还是要被抽成），这对她们来说大概已经是不错的收入，但对韩国人来说，性价比应该非常高。
很多韩国男人会专门来这里“Sex travell”，也有人白天潜水，晚上寻求性服务。
对中国男人来说，这里也是个高性价比的买春地。
昨晚看到两位中国男人，性格迥异。一位身形肥胖，尽情和身边的菲律宾女孩调笑，女孩佯装生气，他忙不迭去哄，大唱“BabyBaby”；另一位面容老成，全程沉默，身边的女孩默默牵着他，四人穿街过巷，走进了深夜赌场。
大概女孩们早就习得了随机应变，逢场作戏，摸准男人们喜欢什么，就提供什么。
这个小岛对一群人来说是高性价比的潜水、度假的快乐老家，对另一群人来说，这里是高性价比买到从恋爱到全垒打全套服务的享乐圣地。
金钱和欲望都向这个价格洼地涌来。男人们搂着婀娜细腰，路过了一群唱着五月天，潜完水放松聚餐的中国游客，本地人坐在海边随意的聊天谈笑。
夜晚空气中的情欲与舒畅散去后，烈日再当空，又是新的一天。
这些看起来人到中年，大概已经有家庭或孩子的韩国男人们，身边总是陪着一位身材姣好精瘦，浓妆艳摸的菲律宾本地姑娘。
这些姑娘们看起来性格开朗，神情自如。听说她们被称为GoGo girl，提供这种服务的场所叫做GoGo bar，就在游客常去的热门餐厅旁，在昏暗的红光掩映下，躲在门帘后。
她们大多来自菲律宾其他更穷的地方，在人均月工资 3000 人民币以下的菲律宾，她们服务一次就能赚约 500 人民币（大概还是要被抽成），这对她们来说大概已经是不错的收入，但对韩国人来说，性价比应该非常高。
很多韩国男人会专门来这里“Sex travell”，也有人白天潜水，晚上寻求性服务。
对中国男人来说，这里也是个高性价比的买春地。
昨晚看到两位中国男人，性格迥异。一位身形肥胖，尽情和身边的菲律宾女孩调笑，女孩佯装生气，他忙不迭去哄，大唱“BabyBaby”；另一位面容老成，全程沉默，身边的女孩默默牵着他，四人穿街过巷，走进了深夜赌场。
大概女孩们早就习得了随机应变，逢场作戏，摸准男人们喜欢什么，就提供什么。
这个小岛对一群人来说是高性价比的潜水、度假的快乐老家，对另一群人来说，这里是高性价比买到从恋爱到全垒打全套服务的享乐圣地。
金钱和欲望都向这个价格洼地涌来。男人们搂着婀娜细腰，路过了一群唱着五月天，潜完水放松聚餐的中国游客，本地人坐在海边随意的聊天谈笑。
夜晚空气中的情欲与舒畅散去后，烈日再当空，又是新的一天。
75 612
刷到鸟鸟这期播客，看得很感触。当你开始有一些爱好，你会从中悟到非常多日常的工作和生活给不了你的感悟。
潜水告诉我，go with the flow。放过流的都知道，流很大的时候，哪怕用推进器你都是无法前进的，顶多原地不动。你很难和大势做对抗，跟着大势走，你会轻松快乐很多。
滑冰告诉我，不要怕摔跤。如果你选择四平八稳地滑，可能你滑几年都摔不了几跤，可你也进步不了多少，因为滑冰就是一个在失衡中寻找新的平衡的运动，不断突破旧平衡的界限，才能解锁新动作。
徒步告诉我，只要边走边歇，你以为走不到的终点，最终都能走到。很多次刚上来就爬大坡的时候，真的想立马躺下滑回家，但只要你中间休息得足够多，慢慢爬总能爬上去。
骑车告诉我，欲速则不达。原来不熟悉的时候，猛冲猛干，经常膝盖痛屁股痛，后来找到了屈髋的感觉，学会上下坡提前变速，终于体会到了无痛自由感。
还有更多尝试过但没空深入钻研的活动，滑雪、骑马、观鸟……所有的爱好底层共通的道理是，practice makes perfect，你再有天赋，三年不潜还是状况频发，做不到经常练，任何爱好都会荒废掉，所以要取舍，才能深钻。
其实其他事也一样，人与人之间是没有可比性的，因为你们的起点和天赋都完全不同，可练习对你自己来说是公平的，你多练多琢磨，就能掌握的更快，这让我对很多事更有自信了，因为掌控权又回到了我这里。
分享一句非常喜欢的观鸟博主的主页签名，每次想起来都觉得回味无穷，那就是———生活的边界无穷无尽。
世界上有这么多好玩的事，多玩，多悟。
潜水告诉我，go with the flow。放过流的都知道，流很大的时候，哪怕用推进器你都是无法前进的，顶多原地不动。你很难和大势做对抗，跟着大势走，你会轻松快乐很多。
滑冰告诉我，不要怕摔跤。如果你选择四平八稳地滑，可能你滑几年都摔不了几跤，可你也进步不了多少，因为滑冰就是一个在失衡中寻找新的平衡的运动，不断突破旧平衡的界限，才能解锁新动作。
徒步告诉我，只要边走边歇，你以为走不到的终点，最终都能走到。很多次刚上来就爬大坡的时候，真的想立马躺下滑回家，但只要你中间休息得足够多，慢慢爬总能爬上去。
骑车告诉我，欲速则不达。原来不熟悉的时候，猛冲猛干，经常膝盖痛屁股痛，后来找到了屈髋的感觉，学会上下坡提前变速，终于体会到了无痛自由感。
还有更多尝试过但没空深入钻研的活动，滑雪、骑马、观鸟……所有的爱好底层共通的道理是，practice makes perfect，你再有天赋，三年不潜还是状况频发，做不到经常练，任何爱好都会荒废掉，所以要取舍，才能深钻。
其实其他事也一样，人与人之间是没有可比性的，因为你们的起点和天赋都完全不同，可练习对你自己来说是公平的，你多练多琢磨，就能掌握的更快，这让我对很多事更有自信了，因为掌控权又回到了我这里。
分享一句非常喜欢的观鸟博主的主页签名，每次想起来都觉得回味无穷，那就是———生活的边界无穷无尽。
世界上有这么多好玩的事，多玩，多悟。
202 1545