即刻App年轻人的同好社区
下载
这是OpenAI的Sam Altman在2个多月前的一次访谈，当时chatGPT还没有推出，但想必在内部已经蓄势待发。这次访谈中，Sam谈到了很多他对于人工智能和大模型未来发展的理解，非常值得一读。一些key takeaways：
1. Sam认为，AI最大的价值在于推动科学研究范式的进化。Sam两次提到，从长远来看，人类进步和经济增长的唯一真正驱动力是“使科学进步的社会结构”（the societal structure that enables scientific progress），然后才是“科学进步本身”。什么是“使科学进步的社会结构”呢？我的理解是指科研的范式。
之前陆奇老师曾经分享过，科学研究经历了四次范式的迭代，分别是第一范式（以实验为基础的科学研究模式，例如文艺复兴时期的伽利略）、第二范式（以理论研究为基础的科学研究模式，例如牛顿三定律的推导）、第三范式（以计算机模拟仿真实验为基础的研究模式，例如美国各个大学实验室）、第四范式（以数据和计算为基础的研究范式，如当前的各个大厂）。这里第五范式，我的理解是AI4Science，是以人工智能为基础的研究范式。
Sam Altman提到，人们对AI最大的误解在于认为它不会产生新的知识，不会对科学产生贡献，但实际上他认为AI最可怕的一点就在于自进化，而这最终将产生可以自我进化的AI scientist，进而推动科学研究范式的进化和新知识的出现 - “But then the big thing that I think people are starting to explore is – and I hesitate to use this word because I think there’s one way it’s used, which is fine, and one that is more scary – but AI that can start to be an AI scientist and self-improve… I think we’re likely to keep making research progress into new paradigms as well. We’ve been pleasantly surprised on the upside about what seems to be happening. And I think all these questions about new knowledge generation (how do we really advance humanity?) I think there will be systems that can help us with that.”
2. 语言模型和多模态的进步在未来是“确定性较高”的事情。
关于语言模型，他认为自然语言会是未来的通用界面，同时专门提到了“语言模型的质量将有能力构成对Google搜索的严重挑战”，有趣的是，他认为transformer 在五年之后可能已经不是最好的模型结构。“I doubt we’ll still be using the transformers in five years. I hope we’re not. I hope we find something way better. ”
关于多模态，他认为不仅仅是文本和图像，未来各种modality都会在模型中融合在一起，“not just text and images but every modality you have in one model is able to easily fluidly move between things. I think we will have models that continuously learn. ” 同时，这些模型也不会是静态的 - 例如chatGPT目前在训练后就进入了某种完成态，和互联网是隔绝的，Sam认为未来的模型一定是持续动态进化的。但是，目前为了生成图像需要做prompt engineering，在五年之后应该不需要了。“I don’t think we’ll still be doing prompt engineering in five years. And this’ll be integrated everywhere. Either with text or voice, depending on the context, you will just interface in language and get the computer to do whatever you want.”
3. 大模型将成为平台和基建，而真正的机会在于“中间层”。Sam提到，“我对所有试图自己训练模型的初创公司持怀疑态度，但我认为会有一大批新的初创公司对大模型进行调优 - 不仅仅是finetune微调。他们不必重新创建基础模型，而是创建模型的各种特殊版本，而这些版本拥有独特的数据飞轮，能够随着时间的推移而改进。我认为在这个中间层会有很多的价值被创造出来。” 在应用上，他专门提到了建立在聊天界面上的新型医疗和教育服务，并且认为生命科学领域会有千亿至万亿级别的新公司出现。
4. Sam认为一个更加深刻的趋势是，未来十年，智能和能源的边际成本将迅速趋于零（My basic model of the next decade is that the marginal cost of intelligence and the marginal cost of energy are going to trend rapidly towards zero, surprisingly far），而这将对社会造成颠覆性的影响，因为智能和能源是当前社会成本结构中最大的两个部分。说穿了，就是大量劳动力的价值将归零。这一点没有展开讲，但我个人觉得这其实是最值得思考的部分，包括社会新的价值来自于哪里、人类如何构建自己的价值、价值如何分配等等。
值得一提的是，Sam之前曾经写过一篇文章《万物摩尔定律》，认为“在未来几十年，所有的东西包括住房、教育、食品、服装等价格每两年就会减一半”，而为了应对这种变化和可能无限扩大的贫富差距，彻底解决不平等问题，最好的方法是“对资本征税而不是对劳动征税”，每年向超过一定估值的公司征收其市场价值2.5%的税，以股票的形式分配给所有18岁以上的公民，实现真正的“共同富裕”。有兴趣的可以读一下这篇文章。
5. 相比AI，metaverse会是类似于容器（a new container）或交互（a new computer interaction thing）之类的存在，类似于iPhone。未来，应该是metaverse来融入AI的世界（I think it’s more like how the metaverse is going to fit into this new world of AI than AI fit into the metaverse）。
AI或许可以颠覆很多东西，但AI无法改变人性。“"我不认为所有底层生物性的东西会被人工智能改变。我认为我们仍然会真正关心与其他人的互动。我们仍然会追求快乐，我们大脑的多巴胺奖励系统仍然会以同样的方式工作，我们仍然会有同样的驱动力来创造新的东西，来争夺愚蠢的社会地位，来组建家庭等等。我认为5万年前人们关心的东西比100年前更有可能成为100年后人们关心的东西。”
推荐阅读：
OpenAI CEO Sam Altman：AI 将是移动互联网后新的基础平台
mp.weixin.qq.com
Sam Altman: 万物摩尔定律
mp.weixin.qq.com
2022.12.7
1. Sam认为，AI最大的价值在于推动科学研究范式的进化。Sam两次提到，从长远来看，人类进步和经济增长的唯一真正驱动力是“使科学进步的社会结构”（the societal structure that enables scientific progress），然后才是“科学进步本身”。什么是“使科学进步的社会结构”呢？我的理解是指科研的范式。
之前陆奇老师曾经分享过，科学研究经历了四次范式的迭代，分别是第一范式（以实验为基础的科学研究模式，例如文艺复兴时期的伽利略）、第二范式（以理论研究为基础的科学研究模式，例如牛顿三定律的推导）、第三范式（以计算机模拟仿真实验为基础的研究模式，例如美国各个大学实验室）、第四范式（以数据和计算为基础的研究范式，如当前的各个大厂）。这里第五范式，我的理解是AI4Science，是以人工智能为基础的研究范式。
Sam Altman提到，人们对AI最大的误解在于认为它不会产生新的知识，不会对科学产生贡献，但实际上他认为AI最可怕的一点就在于自进化，而这最终将产生可以自我进化的AI scientist，进而推动科学研究范式的进化和新知识的出现 - “But then the big thing that I think people are starting to explore is – and I hesitate to use this word because I think there’s one way it’s used, which is fine, and one that is more scary – but AI that can start to be an AI scientist and self-improve… I think we’re likely to keep making research progress into new paradigms as well. We’ve been pleasantly surprised on the upside about what seems to be happening. And I think all these questions about new knowledge generation (how do we really advance humanity?) I think there will be systems that can help us with that.”
2. 语言模型和多模态的进步在未来是“确定性较高”的事情。
关于语言模型，他认为自然语言会是未来的通用界面，同时专门提到了“语言模型的质量将有能力构成对Google搜索的严重挑战”，有趣的是，他认为transformer 在五年之后可能已经不是最好的模型结构。“I doubt we’ll still be using the transformers in five years. I hope we’re not. I hope we find something way better. ”
关于多模态，他认为不仅仅是文本和图像，未来各种modality都会在模型中融合在一起，“not just text and images but every modality you have in one model is able to easily fluidly move between things. I think we will have models that continuously learn. ” 同时，这些模型也不会是静态的 - 例如chatGPT目前在训练后就进入了某种完成态，和互联网是隔绝的，Sam认为未来的模型一定是持续动态进化的。但是，目前为了生成图像需要做prompt engineering，在五年之后应该不需要了。“I don’t think we’ll still be doing prompt engineering in five years. And this’ll be integrated everywhere. Either with text or voice, depending on the context, you will just interface in language and get the computer to do whatever you want.”
3. 大模型将成为平台和基建，而真正的机会在于“中间层”。Sam提到，“我对所有试图自己训练模型的初创公司持怀疑态度，但我认为会有一大批新的初创公司对大模型进行调优 - 不仅仅是finetune微调。他们不必重新创建基础模型，而是创建模型的各种特殊版本，而这些版本拥有独特的数据飞轮，能够随着时间的推移而改进。我认为在这个中间层会有很多的价值被创造出来。” 在应用上，他专门提到了建立在聊天界面上的新型医疗和教育服务，并且认为生命科学领域会有千亿至万亿级别的新公司出现。
4. Sam认为一个更加深刻的趋势是，未来十年，智能和能源的边际成本将迅速趋于零（My basic model of the next decade is that the marginal cost of intelligence and the marginal cost of energy are going to trend rapidly towards zero, surprisingly far），而这将对社会造成颠覆性的影响，因为智能和能源是当前社会成本结构中最大的两个部分。说穿了，就是大量劳动力的价值将归零。这一点没有展开讲，但我个人觉得这其实是最值得思考的部分，包括社会新的价值来自于哪里、人类如何构建自己的价值、价值如何分配等等。
值得一提的是，Sam之前曾经写过一篇文章《万物摩尔定律》，认为“在未来几十年，所有的东西包括住房、教育、食品、服装等价格每两年就会减一半”，而为了应对这种变化和可能无限扩大的贫富差距，彻底解决不平等问题，最好的方法是“对资本征税而不是对劳动征税”，每年向超过一定估值的公司征收其市场价值2.5%的税，以股票的形式分配给所有18岁以上的公民，实现真正的“共同富裕”。有兴趣的可以读一下这篇文章。
5. 相比AI，metaverse会是类似于容器（a new container）或交互（a new computer interaction thing）之类的存在，类似于iPhone。未来，应该是metaverse来融入AI的世界（I think it’s more like how the metaverse is going to fit into this new world of AI than AI fit into the metaverse）。
AI或许可以颠覆很多东西，但AI无法改变人性。“"我不认为所有底层生物性的东西会被人工智能改变。我认为我们仍然会真正关心与其他人的互动。我们仍然会追求快乐，我们大脑的多巴胺奖励系统仍然会以同样的方式工作，我们仍然会有同样的驱动力来创造新的东西，来争夺愚蠢的社会地位，来组建家庭等等。我认为5万年前人们关心的东西比100年前更有可能成为100年后人们关心的东西。”
推荐阅读：
OpenAI CEO Sam Altman：AI 将是移动互联网后新的基础平台
mp.weixin.qq.com
Sam Altman: 万物摩尔定律
mp.weixin.qq.com
2022.12.7
AI for the Next Era | Greylock
点击阅读原文108 366
来自圈子
AI探索站
79862人已经加入