当前全球80亿人产生的新的知识/增量信息，相比于过去几千年来先辈们产生的知识/信息，如果前者更多，那么就可以用算力来换数据。

Ilya 在 NeurIPS 2024 上的梳理和分享，包括哺乳动物、非人灵长类、原始人，各自不同的脑-体重比斜率，或许更多的是在思考和探索，更加终局的超级智能的Scale范式可能是怎样的？

而被人们放大的是Pre-training到头了。

假设在当前范式下，如果从flops per dollar、Intelligence per flop、Intelligence per dollar角度来看，多模态、agent、合成数据、推理等方向上，都还有多少提升空间？

《跨越不可能》这本书仿佛在试图梳理Ikigai背后的生物学机制。

李录谈AI：

AI是我们今天最重要的技术，但它的具体影响仍未可知。与过去相较，它是像iPhone出现那般重要，还是像互联网那般重要呢？再或是像蒸汽机的发明、农业的发明那般重要？还是像再之前发现了火那般重要呢？

看起来火比农业更重要，农业又比后面的蒸汽机重要，因为它开创了一整个农业文明。互联网或者电的发明又比iPhone更加重要，历史的发展一步一步，每一项发明的重要性及其对全球的持续影响都不太一样。

在人类历史上，曾经有过数次里程碑式的发现：火、轮子、农业、蒸汽机、电、互联网，所有这些技术最后都全方位地改变了人类的文明。如今的AI至少是一个全方位的技术，它会影响到人类生活、商业的各个方面，但是它怎么影响？影响到什么程度？今天没有一个人能够真正说得清。

我们有很多对未来的预测，按照这样的预测可以做很多事情，但是其实没有人能够确切地知道这项新技术最终会对人类社会和文明产生怎样的影响，它仍处在进行时过程中。AI带来了巨大的希望，同时也带来巨大的风险，两者同时存在。

以前的技术都是在增强我们身体各个器官的能力，其中最重要的是肌肉的力量。从蒸汽机开始，发明的是一种动力，这个动力可以用在所有方面。从数字革命开始，一直在拓展的是人脑的功能，包括电脑、半导体技术带来的一系列通信技术的进步。但是AI是通用型的，是对于智能的全方位拓展。

我们谈了芒格之理性的四个不同层面，人类的理性并不仅仅是指逻辑思维，实际上是人类这一物种相对于其他物种所具备的优势。如今的AI至少是要扩大人类这一物种在头脑上的优势，这种拓展带来了巨大的机遇，也是巨大的挑战。其机遇在于人类现在因为知识和智能所受到的各种限制都有可能被突破，从治疗癌症、延长寿命到无所不知，这是一个了不起的伟大希望。

但是另一方面它有可能威胁到人类作为最智能的物种在地球上的存在，而这正是人类文明的根基。人类大概是最后一个大物种，我们的存在只有二十几万年的历史，所以我们是集整个15亿年进化历史之大成者，我们的头脑具备了超过一切物种的最高智能。但是如果AI的发展哪一天让人失去了对它的控制，AI的智能就可能超过人的智能，这样就使得人类不再是地球上最聪明的物种。

这对于人类而言是生存性的危险，因为我们作为地球上最具决定性的物种的地位也就随之消失。这种可能性是大还是小？会发生在什么时候？我们都不知道，只知道可能性是存在的。只要AI的自学习、自决定能力一旦形成，它就可能在不受人监控的情况下自我进化，进化到一定程度的时候就会超过人类，而且会远超过人类。

今天AI浪潮的发展方向其实都是让它在数字和实际的空间范围之内逐渐增强自学习能力，逐渐去具备人类已有的知识和能力。所以这种风险是真实存在的，当这种风险一旦成为现实的时候，人类的命运就会随之被彻底改变。

这个生存危机并不是说AI一旦全方位超过人类之后，它马上就把人类都消灭。但AI把人类当作自己的工具，是完全有可能的。我们人类就把地球上其他的物种几乎都当作了工具，或者食物、景观、繁殖的对象、能量的来源。最高级别大概是宠物。这不是因为我们对其他物种有着与生俱来的憎恨，而是因为我们的智能远远超过它们，差别太大，所以我们不具备同理心。AI将来如果远远超过人类的所有方面，那么同样，让它具备对人类的同理心就会很难。

所以我第三个观点就是AI的技术一定要在可控制的方向上去发展。它要求政府和私营部门全方位合作，从而能够及时地形成一个合理、可行、有效的治理构架，而且这个构架能把全人类所有的政府和私营部门都团结在一起。因为AI的问题是整个人类的问题，就跟外星人、刚刚经过的疫情、20世纪的核威胁是一类的。

人本身也是自然进化出来的。当人类从大猩猩进化过来的时候，大概只有2-3%的基因变化，这就是我们和大猩猩之间的区别，而且进化很多都是意外。

此外，我们如果用科学思维来理解这个世界的话，其实整个宇宙绝大部分是不相关的、完全随机的。有一部分高相关性，我们叫物理定律、数学定律，但是这些定律在一定的条件下也会发生改变，所以它实际上涉及一个更高的相关性。AI之所以这么有用，是因为它主要采取的办法就是对所有的因素建立相关性。

到目前为止，绝大部分一般的相关性人类是没有办法去理解的，因为它的函数太大。随着计算能力的不断提升，在过去这11年里计算能力提升了100万倍，下面可能还有几百万倍的提升，我们可以把所有的数据、人类所有产生的东西都拿来计算，最后建立起相关性的科学。这个科学在这之前是不存在的，所以AI最终产生的智能未必和人类的智能相同，但可以包含人类的智能。就像从大猩猩转化到智人时产生的2%-3%的区别，就让我们包含了大猩猩所有的智能，但是超过它的智能。

在无穷尽的可能性之下，我们今天可以在几兆亿的因素中建立科学的相关性。比如我们今天的对话，根据排列组合可以以几亿种不同的方式进行，但最终发生了过去的两个小时对话。是什么因素导致了这种情况？为什么现在我们能够做这样的提问与回答？这其中都是相关性。你我是很难预测的，但AI通过对你、我和其他在线上的几位近期思考的问题做高度的相关处理，它能够在几亿种可能性中判断出最有可能进入到我们今天提问环节的一种。这样的科学在之前是不存在的，因为我们没有这种计算能力，也没有办法获取这么多的信息，但是AI现有的技术就可以做到这一点，所以大规模的公司都能够去做高级的推送。

新出现的智能，并不会和人类智能一模一样。它可以是和人类智能不一样的，它包含了各种可能性。它可以没有人类的灵魂，但它可以比人类更加智能；它可以跟人类的考量不一样。就像猩猩对问题的考量和道德判断就和人类不一样。但我们并不关心大猩猩的道德标准，因为我们的智能远远超过它，所以可以用我们的标准去完全压倒它的标准。这是我们不希望看到的。

当出现了全方位超过且永远不可能追上的智能的时候，当我们不再是地球上最智能的物种的时候，我们面临的是丢掉控制的风险，这是人类共同面临的最大的、真实的生存风险。至于它发展出什么物种，其实并不重要，我们也不太能理解，就像今天的大猩猩也不太能理解我们为什么要讨论这些问题。何况我们对世界的理解本来就非常狭隘。这个世界95%都是暗物质和暗能量，我们对此毫无所知，所以叫它dark matter， dark energy。这个世界到底是不是平行的我们也不知道。

所以尽管存在着中美之间的竞争，尽管存在着中东问题、乌克兰和俄国的冲突，其实人类面临更多的是共同的挑战。这个时候我们更需要芒格谈到的人类共同的精神。芒格先生一辈子都非常推崇和尊重中国文化、中国传统，非常希望中美之间能够长期合作，这是我想最后谈的一点，也是芒格先生留给我们的很大的遗产。其实在中国和美国，都有同样敬重他的人，相信他的理念的人。他永远持有的看法就是中美之间应该永久性地合作，我希望有一天它会发生。

问：芒格和马斯克的思维方式在本质上是相通的吗？

李录：查理、马斯克、我还有另外一个人曾经有过一次很长的午餐，当时马斯克劝查理去投资他。他们一起讨论了电池，一起讨论了各种各样的科学问题，两个人在很多事情上是同频的，但是在商业判断上对风险的看法不太一样。

马斯克对风险的容忍度很高，他认为即使只有5%的成功几率，也应该去做，因为它们的回报率很高。这和VC的想法是一样的，5%的成功几率，做100家公司，中间有一些能成功就可以了。对于查理来说，他可能需要80%以上的成功几率才会去做，这样一来只需要投5家公司就可以。是用 VC的方式，还是用查理的方式去投资，这是每个人的选择，它实际上是一个几率问题。

是去做那种有80%可能性的公司，还是有5%的可能性就去做呢？这是创业者应该考虑的问题。如果有80%的可能性成功，那大家都去创业，这种可能性就会消失。所以创业的人面临失败的可能性往往都很高，成功的可能性都很低。

比如马斯克和王传福去做电动车之前，美国和全球都已经差不多有将近100年没有大型汽车公司成功的案例了。上一次的成功还是韩国汽车的崛起。韩国汽车崛起是在二战之后，但是实际上韩国这几家车厂后来都破产了。破产以后现代收购了起亚及其他失败的企业，最终形成了今天的现代。这是最后一个例子，而且还是在破产重组的情况下产生的。其他的成功几乎已经七八十年没有了。

所以这时候美国的特斯拉和中国的比亚迪决定要去重新挑战，当然它们的成功几率不高。他们两人采用的方式也不太一样，王传福采用的方式是用他已经成功的公司的现金流去养这间成功几率不高、但是成功之后回报非常高的企业。马斯克采取的办法是用美国成熟的金融市场的支持，通过VC、公开市场，当然最后也通过政府关于电动车的特殊支持才度过了几次可能失败的危机。中间中国政府的支持、中国对上海工厂的支持也是重要的原因，让他尽管几度面临失败，最终反转成功。

他们体现出来的就是企业家精神，能够在一个小概率成功的情况下，动用所有的资源，让这个概率在自己的掌控之下增加。

所以基本的思维方式都是一样的，都是用概率的思维。马斯克自己也会很清楚地告诉你，说他在做这件事情的时候成功的概率极低，但是这件事情值得做，而且成功之后的回报很高，这也是 VC 投资的基本逻辑。

查理提出的普世智慧跟第一性原理讲的其实是同一个东西。如果我来讲的话，我会说它是一种科学思维方式，也就是物理学思维方式。它是在物理学基础之上发展出来的，后来在西方慢慢演变成一种普世思维、现代性思维。

物理学从最早的亚里士多德开始，对所有东西总要去发掘第一个推动力，所以叫第一性原理，就是要从事实、公理出发来推导出合乎逻辑的结论。所以你的结论是否正确，实际上取决于基本的事实、基本的假设和推理的过程，这就是物理学、数学以及所有现代科学的基础思维。

但是绝大部分人并不把这种思维运用到科学之外的其他方面，唯有真正纯粹理性的人会把这种思维方式推广到生活的所有方面，然后用它来检验我们做的很多事情，包括决策。

马斯克的成功让大家变得更能够接受第一性原理这个概念。比如马斯克讲火箭最大的成本，百分之九十几是火箭制造本身，但是每一枚火箭发射完了之后，基本上就都爆掉了。它升空之后，自动就消失在宇宙之中，剩下的载体继续向前，可能变成卫星或是把人放到空间站，所以这百分之九十几就只能用一次。

但是实际上我们能够把它发射出去，就也能把它回收回来。而且因为重力的原因，其实回收反而会更容易一些。这是一个很简单的科学思维方式，但在他之前这种思维方式没有被应用在实践中，很大程度上是因为做火箭的都不是搞企业的，没有成本的概念。所以马斯克说我要把它当作一个生意来做，要考虑成本。

他第一次讲相关的设计概念是在TED上，我记得很清楚，我就坐在第一排。那个时候他就断言：如果我成功了，我会把整个发射成本降低99%，将来可能用不到 50 万美金，每个人都可以到月球上去转一圈。现场观众里边很多人都举手表示愿意参加，这已经是好多年前的事了。

查理的思维方式也是一模一样的，这就是理性思维的第一个层次。

从物理学角度去理解商业工程落地，从生物学角度去理解人类个体进化，都存在着某种降维。

小宇宙有没有在我的收藏里做个搜索功能的计划

凯恩斯理解的“由技术进步而引致的失业 ”，此类失业的根源在于我们提高劳动力效率的速度远远超过我们为劳动力开辟新用途的速度。

黄仁勋谈AI的可解释性和仿真对科学的价值：

首先，我在2018年的全球超级计算大会上介绍了人工智能，这个想法受到了极大的质疑。原因之一是人工智能在某种程度上是一个“黑箱”，当时它是一个黑箱，事实上，如今它不再那么“黑箱“，而是像你我一样，我们都是“黑箱”。

当时你无法做到，但是今天你可以问人工智能，帮我推理。告诉我你为什么会建议那样。告诉我你是如何一步步得出那个答案的。 通过这种探究过程，今天的AI更加透明，更加可解释。

因为你在提问，你通过问题在探究，而你的问题集合像教授探究他们的学生，以理解他们的思维过程，不仅仅是你能提供一个答案，而是你对那个答案的推理方式是否合理。它是基于第一性原理的。我们今天可以做到这一点，但2018年无法做到，因此引起了大量的质疑。

其次，人工智能的答案并不是基于第一性原理得出的，至少现在还没有。而是基于观察数据的学习。因此，它并不是真正模拟第一性原理求解器，但是它在仿真智能和物理。

那么问题来了，仿真对于科学来说有价值吗？我的答案是，仿真对科学来说是不可或缺的。原因在于，在许多科学领域，我们确实理解第一性原理，我们理解薛定谔方程、麦克斯韦方程，我们理解很多这些方程。但我们无法模拟并理解复杂的大系统。

因此，与其从第一性原理进行求解而受限于计算能力，是不可能的。我们可以利用人工智能，我们可以训练这些人工智能了解物理，然后用它们来仿真非常大的系统，因此我们可以理解大规模的复杂系统。

那么，这能用在哪里？比如人类生物学的尺度从纳米开始，时间尺度从纳秒到年，这就是人类生物系统。在这种尺度上跨越时间尺度，简单使用原理求解器是不可能的。现在的问题是，我们能否利用人工智能来仿真人类生物学，以便更好地理解这些极其复杂的多尺度系统？

如果可以的话，这将帮助我们创建人类生物的“数字孪生体”，这是一个伟大的愿望。我们现在可能拥有了这样的计算机科学技术，使得数字生物学家、气候科学家和其他处理复杂问题的科学家能够首次真正理解大型复杂物理系统。

“我之前一直对朋友说，中国会成为世界汽车业的制造中心，有人认为是痴语，会列举我们与日韩的差距，但我认为，技术、品牌、行销等一切差距都只是细节，是最容易通过时间来弥补的，哪怕它们看上去有多么不可思议的距离；而资源、市场、国民特质以及国际政经形势才是更长远发挥效力的因素。

日本是一个缺乏资源和市场的国家，过去欧美汽车业的转移并不能成为日本已经克服上述缺陷的佐证。因为，美欧有它们的立命之本，其资本市场与产业也进行着相应的结构调整，在美国发展科技信息文化等高价值产业的时候，你很难指望它们的汽车业能在资本市场中得到充沛的资本支持，也很难指望它们这个阶段的民众文化中会产生出符合制造业所要求的纪律、等级、服从、坚忍、热忱、敬业、奉献等制造业国民性格要素；而欧洲更是如此，香水、时装、酿酒等非精密的制造或许会更适合他们。

日本则不同，天生的制造业国民特性，良好的银团财阀的资本支持，美国羽翼下的政经关系和贸易条件都促成了其产业崛起。然而，时至今日，中国将会使日本现有的制造优势消弥无形，高房价、高储蓄、低保障的社会环境造就了充沛的产业投资资本和制造业劳工，大市场、宽资源的相对优势更使其难以企及，轻卡领域的锋芒已初步印证了该产业向中国转移的趋势。”

冯柳2006年的文章。