即刻App年轻人的同好社区
下载
⛰️ Rishi Sunak 对话 Elon Musk：AI 、科技与未来 （上）
这是一次载入人工智能史册的对话。 近日在英国伦敦进行了行业顶尖水准的 AI 安全峰会，首相 Rishi Sunak （里希·苏纳克）以开放姿态邀请业界诸多的商业领袖、科学家和专家团队进行持续深度交流，如何达成AI 对人类社会的变革，以及风险控制的共识。
与 Elon Musk 的深度交流是整个峰会亮点之一， 其中英国首相虚心求教的姿态、丰厚的专业学养和对AI教育的热诚，都令人印象十分深刻。Elon Musk 作为ChatGPT曾经投资人、xAI的创始人，以及对AI模型本身的进化、劳动力市场、社会长期影响都有着相当深刻的洞察。 全长 50 分钟，也推荐直接在这里观看：youtu.be
以下是要点梳理，含解读和删减。（独家发布于即刻，不可转载）
✨ 主要议题和观点：
- Elon Musk认为AI 发展的速度远超他在历史上见过的任何技术，其能力每年增长 5～10 倍，任何管理方式都充满挑战。
- AI 飞跃式进步导致机会和风险并存， 值得更多人关注安全问题。
- 首相Rishi Sunak请教，政府监管能否跟上科技进步的步伐、如何学习并组织管理其安全性。
- Elon Musk 认为开源之于闭源的差距会持续拉开。
- 大语言模型最大的特征就是不可预测性。在这个核心共识上，不同国家和地区之间共同对话，对于AI安全的对齐非常重要。
- 我们会进入一个超级富足的时代，这也带来了最大的挑战——如何找寻生活的意义。
- AI 能提供巨大的社会福祉， 但如何面对短期的劳动力市场变革和相关风险？
- 总体上好事， 毕竟很多工作都是不舒服的、危险的，或者乏味的。这些工作让计算机去做，没有任何问题。 你可能喜欢做饭，但洗碗就没那么有趣了。在新世界，我们还是能找到一种方法……
- 教育是一个令人兴奋的话题。Rishi 兴奋表达，相信很多人都看过了几个月前可汗的TED 演讲， 每个孩子都有机会获得专门的个性化指导。
- 然后追问了Elon的特别兴奋的领域，Elon Musk的回复，让他感到惊奇又令人沉思……
精彩对谈如下：
🚨 为什么我们值得担心AI 安全问题？
Elon： 是的，过去两年人们都看到 AI 技术的飞跃式进步。例如，深度伪造视频开始越来令人信服，积极和风险同在。 我看到了 GPT-1、GPT-3、GPT-3、GPT-4全部发展过程和方向， 如果是这个趋势持续显然会远超人类智能水平。感谢举办人工智能安全峰会。
🚘 能否像汽车安全测试那样，政府推动协议的达成？
Rishi：我们和企业正在努力取得共识， 对模型进行安全测试的协议。这是我们非常努力工作的一个方面。
Elon：政府应该采取行动管理公共安全风险，保护公众免受到超级智能带来风险是必要的。
⚖️ 技术飞跃式进步，相关管理机构能否跟上这个步伐？
Rishi：你知道， 光是一流的AI 企业自我核查是不够的。 我们需要独立的实体， 所以我们在这成立了安全研究所。 （组长是业界顶流 ）而且政府要迅速发展专业知识来跟上科技发展。 你认为我们能足够快的学习并确保做到这一点吗？
Elon：AI 发展的速度远超我在历史上见过的任何技术，其能力每年增长 5～10 倍。 明天它肯定会在增长一个数量级。 是的， 政府不习惯这样的速度来执行和改进， 但我认为即使没有明确的法规和执法能力，也值得先具有洞察，向公众提出关切。
🏛️ 很多人反对 AI 规范和安全控制？
Rishi：不少批评我这样做。你的想法是什么？你在全球做生意， 如何和那些不参与 AI 安全的国家地区交流这个问题？
Elon： 应该尽量邀请更多人加入这个讨论中来。
🌐 开源人工智能进展很快， 会不会超越闭源的大模型？
Rishi：Geoffrey Hinton（正在来的路上） 就特别担心开源带来的问题， 他认为会被坏人利用：那些人可能会以分布式创新口号， 实际上则是一种诡计。 这是一个棘手的平衡问题，似乎没有完美的答案， 你会有什么建议吗？我们应该将目标放在哪里？
Elon： 首先， 开源比闭源落后至少 6 个月到 12 个月，但考虑到数据、算法等特性差异，随着时间变化， 闭源可能会是开源 5 倍以上之多。（这是巨大的差异） 整体上我还没不太确认如何解决。一定会有一定数量的开源模型，我认为这是不可避免的。 我想我会稍微偏向一点开源，这样至少你可以看到正在发生的事，而闭源是黑盒状态的。
🌪️ 模型的不可预测性
Elon：你只能测试，但是它是概率性的， 不确定的、离散的，并非传统软件那样可预测。 数十亿的数据点、权重和参数，你无法知道它会做什么，最终它看起来会成为一个巨大逗号分隔值文件，一个CSP文件。（我们会认为）这就是它的本质。
Rishi：行业的伙伴们都异曲同工指出你提到的不可预测性问题， 随着它的迭代，我们不知道会得到什么输出。 Demis（Deep Mind 创始人）也会同意指出了这一点。
💼 职业与工作：Copliot、破坏性和无限制的精灵
Rishi：人们一般不是讨论我们目前这些话题，最集中就是工作和职业。 AI 对于我的工作意味着什么？这意味着我的工作会丢掉吗？ 我孩子的职业会怎么变化？你知道我的工作之一就是创作工作机会，所以我们更看中 Copilot的使用方式。 我引用一下麻省理工的研究：几年前的数据统计显示， 「60% 的工作在四十年前是不存在的」。所以，很多事情是无法预测的，这也和我另外一个工作紧密相关， 创建一个难以置信的教育系统，让人们无论在学校还是职业任何阶段可以再培训，最终跟上社会的变革。 但这是极具挑战的难题， 你会如此看待它？
Elon：我认为，我们遇到历史前所未有的破坏性力量，我们第一次拥有了比人类更聪明的东西。 很难说具体哪一天， 但在某天之后，工作就不再被需要了。 当然你可以找一份工作当爱好， 获得满足感，但 AI 可以做一切。 我不确定这会让人们舒适还是不舒适。
这是为什么我会说， 如果你有一个能满足你所有愿望的精灵，没有三个愿望的限制。这是非常好的，也是非常坏的未来挑战之一：我们如何找到生活的意义？我们不仅会有普遍基本收入，还会有普遍基本高收入。
🌟 劳动力市场变革：我们会进入一个超级富足的时代，这也带来了最大的挑战
Elon：当然这对教育有好处，这是最有耐心的导师。 但更重要是进入商品和服务「富足」的时代。 （我也推荐人们阅读一下文化的书籍，可以想象这种AI带来这种未来，AI 带来的乌托邦原型的可能性）
Rishi：听起来， 这非常好，这是物质繁荣的视角。 我是相信工作赋予人生意义的人，对此思考量多。你是一个工作时间特别场的人， 你从哪里获得动力和目标呢？
Elon：刚才讨论工作意义话题时，我有意停顿了一下。 你知道， 我在工作项目中投入了太多心血和汗水，经常在凌晨3点「燃烧」，然后经常思考为什么我要这么做？为什么不让AI去做这些事？
Rishi：你可以让Demis团队（转向着附近的Deepmind创始人说）要加速一下，你就可以放假了。这确实棘手的问题， 我们在这里对话的主要目的，就是确认人类能安全到达那个长远目标。 这个过程中，劳动市场会有巨大的变化……
Elon：总体上好事， 毕竟很多工作都是不舒服的、危险的，或者乏味的。这些工作让计算机去做，没有任何问题。 你可能喜欢做饭，但洗碗就没那么有趣了。还有像运动员这样的职业，虽然机器比任何人都快，但是人类喜欢自己竞争；人们还是从中获得满足感。 我们还是能找到一种方法……
Rishi：这是一个很棒的类比。
📚 令人兴奋的未来：每个人都拥有一个杰出的导师和朋友
Rishi：你刚提到了一个我特别兴奋话题：教育。 相信很多人都看过了几个月前可汗的TED 演讲， 意识到了每个人都能拥有一个为他专门提供的私人化的导师，与课堂相比，这简直难以置信。随着时间推移， AI一直陪伴其发展和成长，这是非凡的。 天啊， 当我看懂这一点，并意识到这是可以实现的，这让我感到无比惊喜。 有没有你特别兴奋的地方？
（TED 演讲：《可汗：AI如何实现个性化学习》m.okjike.com
Elon：这部分的惊喜我能体会到。 我想，此外还有AI 陪伴；这初听起来可能会比较怪，为什么计算机可以成为我们的朋友。 但如果AI有记忆，记住与所有的互动，并阅读了你能说的一切，比如允许它读取你所做的一切，它可能真的比其他任何人了解你，并随时伴你左右，对话随着展开。 这时，你真的拥有了一个好朋友。 只要那个朋友继续是你的朋友，而不拒绝的话。（这里暗示AI安全问题）。 我认为，这是会真实发生的。 我有个儿子有一些学习障碍，就很难交到朋友；在我看来AI好友对他来说，会是很棒的事情。
Rishi：这是一个令我意外的回答，确实值得反思。有趣的地方在于， 我们能看到AI在心理治疗时的可能性；就像通讯技术的发达，已经提供了很多电话、视频等远程服务， 随着AI进展，这方面的一定会发生巨大的变化。
（未完待续）
⏳ 下期内容预告：
- 从过去科技平台的发展经验，如何避免AI的偏见
- 借助向量分析推动互联网的真相
- 通过文化转变来支持小企业和企业家精神，释放增长潜力
- 创造一种接受失败和冒险的创业文化
- AI和机器人对于富足时代的必要性
这是一次载入人工智能史册的对话。 近日在英国伦敦进行了行业顶尖水准的 AI 安全峰会，首相 Rishi Sunak （里希·苏纳克）以开放姿态邀请业界诸多的商业领袖、科学家和专家团队进行持续深度交流，如何达成AI 对人类社会的变革，以及风险控制的共识。
与 Elon Musk 的深度交流是整个峰会亮点之一， 其中英国首相虚心求教的姿态、丰厚的专业学养和对AI教育的热诚，都令人印象十分深刻。Elon Musk 作为ChatGPT曾经投资人、xAI的创始人，以及对AI模型本身的进化、劳动力市场、社会长期影响都有着相当深刻的洞察。 全长 50 分钟，也推荐直接在这里观看：youtu.be
以下是要点梳理，含解读和删减。（独家发布于即刻，不可转载）
✨ 主要议题和观点：
- Elon Musk认为AI 发展的速度远超他在历史上见过的任何技术，其能力每年增长 5～10 倍，任何管理方式都充满挑战。
- AI 飞跃式进步导致机会和风险并存， 值得更多人关注安全问题。
- 首相Rishi Sunak请教，政府监管能否跟上科技进步的步伐、如何学习并组织管理其安全性。
- Elon Musk 认为开源之于闭源的差距会持续拉开。
- 大语言模型最大的特征就是不可预测性。在这个核心共识上，不同国家和地区之间共同对话，对于AI安全的对齐非常重要。
- 我们会进入一个超级富足的时代，这也带来了最大的挑战——如何找寻生活的意义。
- AI 能提供巨大的社会福祉， 但如何面对短期的劳动力市场变革和相关风险？
- 总体上好事， 毕竟很多工作都是不舒服的、危险的，或者乏味的。这些工作让计算机去做，没有任何问题。 你可能喜欢做饭，但洗碗就没那么有趣了。在新世界，我们还是能找到一种方法……
- 教育是一个令人兴奋的话题。Rishi 兴奋表达，相信很多人都看过了几个月前可汗的TED 演讲， 每个孩子都有机会获得专门的个性化指导。
- 然后追问了Elon的特别兴奋的领域，Elon Musk的回复，让他感到惊奇又令人沉思……
精彩对谈如下：
🚨 为什么我们值得担心AI 安全问题？
Elon： 是的，过去两年人们都看到 AI 技术的飞跃式进步。例如，深度伪造视频开始越来令人信服，积极和风险同在。 我看到了 GPT-1、GPT-3、GPT-3、GPT-4全部发展过程和方向， 如果是这个趋势持续显然会远超人类智能水平。感谢举办人工智能安全峰会。
🚘 能否像汽车安全测试那样，政府推动协议的达成？
Rishi：我们和企业正在努力取得共识， 对模型进行安全测试的协议。这是我们非常努力工作的一个方面。
Elon：政府应该采取行动管理公共安全风险，保护公众免受到超级智能带来风险是必要的。
⚖️ 技术飞跃式进步，相关管理机构能否跟上这个步伐？
Rishi：你知道， 光是一流的AI 企业自我核查是不够的。 我们需要独立的实体， 所以我们在这成立了安全研究所。 （组长是业界顶流 ）而且政府要迅速发展专业知识来跟上科技发展。 你认为我们能足够快的学习并确保做到这一点吗？
Elon：AI 发展的速度远超我在历史上见过的任何技术，其能力每年增长 5～10 倍。 明天它肯定会在增长一个数量级。 是的， 政府不习惯这样的速度来执行和改进， 但我认为即使没有明确的法规和执法能力，也值得先具有洞察，向公众提出关切。
🏛️ 很多人反对 AI 规范和安全控制？
Rishi：不少批评我这样做。你的想法是什么？你在全球做生意， 如何和那些不参与 AI 安全的国家地区交流这个问题？
Elon： 应该尽量邀请更多人加入这个讨论中来。
🌐 开源人工智能进展很快， 会不会超越闭源的大模型？
Rishi：Geoffrey Hinton（正在来的路上） 就特别担心开源带来的问题， 他认为会被坏人利用：那些人可能会以分布式创新口号， 实际上则是一种诡计。 这是一个棘手的平衡问题，似乎没有完美的答案， 你会有什么建议吗？我们应该将目标放在哪里？
Elon： 首先， 开源比闭源落后至少 6 个月到 12 个月，但考虑到数据、算法等特性差异，随着时间变化， 闭源可能会是开源 5 倍以上之多。（这是巨大的差异） 整体上我还没不太确认如何解决。一定会有一定数量的开源模型，我认为这是不可避免的。 我想我会稍微偏向一点开源，这样至少你可以看到正在发生的事，而闭源是黑盒状态的。
🌪️ 模型的不可预测性
Elon：你只能测试，但是它是概率性的， 不确定的、离散的，并非传统软件那样可预测。 数十亿的数据点、权重和参数，你无法知道它会做什么，最终它看起来会成为一个巨大逗号分隔值文件，一个CSP文件。（我们会认为）这就是它的本质。
Rishi：行业的伙伴们都异曲同工指出你提到的不可预测性问题， 随着它的迭代，我们不知道会得到什么输出。 Demis（Deep Mind 创始人）也会同意指出了这一点。
💼 职业与工作：Copliot、破坏性和无限制的精灵
Rishi：人们一般不是讨论我们目前这些话题，最集中就是工作和职业。 AI 对于我的工作意味着什么？这意味着我的工作会丢掉吗？ 我孩子的职业会怎么变化？你知道我的工作之一就是创作工作机会，所以我们更看中 Copilot的使用方式。 我引用一下麻省理工的研究：几年前的数据统计显示， 「60% 的工作在四十年前是不存在的」。所以，很多事情是无法预测的，这也和我另外一个工作紧密相关， 创建一个难以置信的教育系统，让人们无论在学校还是职业任何阶段可以再培训，最终跟上社会的变革。 但这是极具挑战的难题， 你会如此看待它？
Elon：我认为，我们遇到历史前所未有的破坏性力量，我们第一次拥有了比人类更聪明的东西。 很难说具体哪一天， 但在某天之后，工作就不再被需要了。 当然你可以找一份工作当爱好， 获得满足感，但 AI 可以做一切。 我不确定这会让人们舒适还是不舒适。
这是为什么我会说， 如果你有一个能满足你所有愿望的精灵，没有三个愿望的限制。这是非常好的，也是非常坏的未来挑战之一：我们如何找到生活的意义？我们不仅会有普遍基本收入，还会有普遍基本高收入。
🌟 劳动力市场变革：我们会进入一个超级富足的时代，这也带来了最大的挑战
Elon：当然这对教育有好处，这是最有耐心的导师。 但更重要是进入商品和服务「富足」的时代。 （我也推荐人们阅读一下文化的书籍，可以想象这种AI带来这种未来，AI 带来的乌托邦原型的可能性）
Rishi：听起来， 这非常好，这是物质繁荣的视角。 我是相信工作赋予人生意义的人，对此思考量多。你是一个工作时间特别场的人， 你从哪里获得动力和目标呢？
Elon：刚才讨论工作意义话题时，我有意停顿了一下。 你知道， 我在工作项目中投入了太多心血和汗水，经常在凌晨3点「燃烧」，然后经常思考为什么我要这么做？为什么不让AI去做这些事？
Rishi：你可以让Demis团队（转向着附近的Deepmind创始人说）要加速一下，你就可以放假了。这确实棘手的问题， 我们在这里对话的主要目的，就是确认人类能安全到达那个长远目标。 这个过程中，劳动市场会有巨大的变化……
Elon：总体上好事， 毕竟很多工作都是不舒服的、危险的，或者乏味的。这些工作让计算机去做，没有任何问题。 你可能喜欢做饭，但洗碗就没那么有趣了。还有像运动员这样的职业，虽然机器比任何人都快，但是人类喜欢自己竞争；人们还是从中获得满足感。 我们还是能找到一种方法……
Rishi：这是一个很棒的类比。
📚 令人兴奋的未来：每个人都拥有一个杰出的导师和朋友
Rishi：你刚提到了一个我特别兴奋话题：教育。 相信很多人都看过了几个月前可汗的TED 演讲， 意识到了每个人都能拥有一个为他专门提供的私人化的导师，与课堂相比，这简直难以置信。随着时间推移， AI一直陪伴其发展和成长，这是非凡的。 天啊， 当我看懂这一点，并意识到这是可以实现的，这让我感到无比惊喜。 有没有你特别兴奋的地方？
（TED 演讲：《可汗：AI如何实现个性化学习》m.okjike.com
Elon：这部分的惊喜我能体会到。 我想，此外还有AI 陪伴；这初听起来可能会比较怪，为什么计算机可以成为我们的朋友。 但如果AI有记忆，记住与所有的互动，并阅读了你能说的一切，比如允许它读取你所做的一切，它可能真的比其他任何人了解你，并随时伴你左右，对话随着展开。 这时，你真的拥有了一个好朋友。 只要那个朋友继续是你的朋友，而不拒绝的话。（这里暗示AI安全问题）。 我认为，这是会真实发生的。 我有个儿子有一些学习障碍，就很难交到朋友；在我看来AI好友对他来说，会是很棒的事情。
Rishi：这是一个令我意外的回答，确实值得反思。有趣的地方在于， 我们能看到AI在心理治疗时的可能性；就像通讯技术的发达，已经提供了很多电话、视频等远程服务， 随着AI进展，这方面的一定会发生巨大的变化。
（未完待续）
⏳ 下期内容预告：
- 从过去科技平台的发展经验，如何避免AI的偏见
- 借助向量分析推动互联网的真相
- 通过文化转变来支持小企业和企业家精神，释放增长潜力
- 创造一种接受失败和冒险的创业文化
- AI和机器人对于富足时代的必要性
77 363
来自圈子
AI探索站
79862人已经加入