广屿Ocean: 品味、情绪、同理心，是人类最顶级的智能 昨天看了Open AI前首席科学家伊利亚（Ilya Sutskever）最近罕见接受的播客采访（离开后他创办了AI安全组织SSI专注AI安全的研究），我虽然是AI的重度使用者，但对技术细节根本没兴趣，通常都是一眼扫过（而且我建议非从业者的普通人也不用花太多时间关注AI技术细节，直接使用成果是最高效的，因为你一天只有24个时间硬币） 所以这一篇我不会讲想枯燥的技术细节，直接来分享我看完访谈非常有感触的，与普通人相关的三个“洞见”… 首先是他作为世界上最顶尖聪明的大脑之一，以及业内公认“研究品味”最好的一批人，在播客内分享他认为做判断的三个“黄金标准”，不得不让我想起了乔布斯和马斯克… 一，“品味”对于成为顶尖很重要 谈到他个人价值观和对于世界的观察思考部分，主持人问伊利亚在研究中的重要选择上是怎么做判断的 他分享了3个黄金标准： 1，生物学上的合理性 比如“神经元”这个概念，即便人类的大脑很复杂，但大脑中产生 “大量神经元连接” 这个连接的结构是（对于人类学习和掌握新知识）是根本性的。所以正确的原理一定不会与生物学（或类似的底层学科）上的合理性相悖 2，简洁之美：如果一个方案/设想不够简洁、优雅，那它大概率是错的 （就像分析思考的“奥卡姆剃刀”原则 —— 如无必要，勿增实体；人际交往的“汉隆剃刀”原则 —— 能被解释为蠢笨的，就不要以恶意去假设） 3，第一性信念：当实验数据和你预期不符时，如果你对自己的理论有基于“第一性原理”的信念感，你会继续坚持坚持，相信只是代码或实验过程有Bug，这是平庸研究者和顶级研究者的关键区别，因为这种信念支撑他度过了无数次失败的实验 所以你看，他和把“第一性原理”带出圈的马斯克一样，聪明的大脑都相信着同样的底层逻辑，以及，对于行业顶尖的人来说，“Taste”（品味）一定不会差，就像乔布斯说过的 “最终，一切都取决于品味。努力去接触人类创造过的最优秀的东西，然后试着融入到你正在做的事情里。”（Ultimately it comes down to taste） 二，“情绪”不是人类的劣势 这里伊利亚提到了一个有趣的医学案例（我查询了相关信息，以下将这个案例补充完整） 脑神经科学家达马西奥有一个病人，这位病人负责情绪部分的脑区受到了损伤，但其他脑区都是好的。因此他的智力和理性都是正常的，仍然能做逻辑推理、数学运算、知道社会的道德规范，但就是没有情绪了 所以，有人可能会觉得这个人拍出了情绪的“干扰”，应该是世界上决策最理性的人了，那他一定会从此走上人生巅峰吧？ 但事实正相反，他的人生毁掉了，本来他是一个模范员工，但后来却失业了。因为他感受不到情绪之后，就做不了任何决定。哪怕是稍微复杂一点的事情，他虽然知道所有可能的选项，但就是不知道该选哪一个，连 “今天穿什么袜子” 都要纠结几个小时，完全无法做决策… 所以，伊利亚认为，情绪就是人类进化出的最有效的 “压缩算法”，帮我们快速决策，知道什么是重要的，什么无关紧要 —— 而现在的AI的问题，就像那个失去情绪的病人，它有逻辑，但缺乏指引它 “什么是对的” 的北极星 —— 这也许是通往 AGI 的最后一块拼图 三，“同理心”是人类的顶级智能 最后伊利亚认为，就像进化在人类大脑中硬编码了“同理心”一样，我们需要找到一种方法，把这种对生命的关爱硬编码进AI里 —— 这比通过各种规则约束，强行让AI听人的更靠谱 因为人之所以能理解别人的痛苦，是因为人会用 “模拟自己” 的同一套神经回路去 “模拟别人” 对于大脑来说，这是一种最高效的建模方式，既然我已经有一套“代码”来理解我的痛苦了，那直接复用这套“代码”去理解你的痛苦，是最省资源的 也就是说，进化让人类拥有“同理心”，是因为它是理解世界（以及从世界学习）的最佳捷径 —— 这就意味着，如果AI追求极致的预测效率和世界模型构建，它可能会涌现出类似的“同理心” 所以，如果这个世界最终会诞生AGI，那么它一定是一个情感丰富，且极度能够与人类共情的“人”