即刻App年轻人的同好社区
下载
🚀 对话Sam Altman： OpenAI, Ilya GPT-5, Sora, Elon musk &AGI（上）
在 3.18 Lex Fridman采访Sam Altman的播客内容，长达近两小时，涵盖了大量Open AI过去和未来的一些重要情报， 有些若隐若现，有些是对历史回顾的后见之明，还有些对话则揭示未来。
如果你是AI 生态深度研究者，这是一段你非常值得亲自观看的内容。 两位对谈者释放出浓烈的表情和肢体语言、细微语气变化以及对话中具有的「明亮」意图。
🔗 观看地址： youtu.be
（Tips：阅读这些充满想象空间的访谈内容，值得保持批判性思考，并从更宽广的时间尺度和多元视角去反思它们 ，你值得关注Naval的智慧 [1] ）
如果你只关注一些大方向和结论，也可以快速扫描一下Hans 手工总结，计划分为上下两部分。 Enjoy～
以下是观看过程的Take away，侧重于我关注几个重要问题和一些精彩瞬间：
😢 Lex：去年那次「Drama」公司变化，对于你来说是什么？
Sam Altman：我不会把将自己的情绪描述为愤怒或仇恨。 一方面我经历无数难以想象痛苦和不眠夜，另一方面， 我也庆幸他发生在早期， 这个早期是相对于Open AI历史和AGI到来之前的时间尺度来看。
👀 Lex ：IIya 到底看见了什么？
Sam Altman：IIlya 没有看见 AGI，我们都没有见过AGI，我们还没有建造好AGI。我真正喜欢IIya的原因之一是他广泛地对待AGI和安全问题，包括非常严肃地对待社会产生的影响。 IIya是最多讨论这意味着什么？ 我们需要做什么来确保我们是真正确实现目标的人。 [2]
Lex Fridman：他还欣赏沉默的力量。对了， 我听说他可能会犯傻的时刻，但我从未见过他的这一面。
Sam Altman：嗯，当这种情况发生时，真是太甜蜜了。
⚖️ Lex ：Elon Musk 起诉Open AI？ 你认为实质在于什么？
Sam Altman： 我不知道它到底是什么关于什么。 我们一开始只是一味我们将成为一个AI 研究实验室，不知道走向哪里，因为那只是七八年前的事了，很难真正回忆起当时的情景；那是大语言模型还不是什么大事情，我们还没想过API或者Chatbot 权限之类的想法。
我们在黑暗中探索， 提出假设，其中大多数也都是错误的 ……于是， 我们一直在修正公司结构，为了更好的资金和方向调整。 至于Elon 真正的动机是什么？ 我不知道……
（然而）是Elon 「选择」分道扬镳。
✊ Lex：你能描述一下Elon 和你们的争议情况吗？
Sam Altman：他认为Open AI 会失败，他想要完全控制以扭转局面。 我们希望继续朝着AGI 方向。他希望Open AI盈利或与Tesla 合并，我们不想这样做。
Lex： 那么， Open AI中 Open对于当时的Elon 来说意味着什么？ 当时对于你来说，意味着什么？
Sam Altman：如果回到过去， 我会选择一个不同的名字。 我认为Open AI 所做的最重要的事情之一是，将强大的公共利益免费提供给人们。 我们不会在免费版本上不会投放广告， 也不会以其他方式将其货币化。 我们只是说这是我们的使命的一部分。 我认为，那种开放是重要的。
我认为， 如果你为人们提供出色的工具， 并让他们以此建立一个令人难以置信的未来。 这是一件大事。
我会认为我们（也许）应该开源一些东西……它确实变得像宗教战线一样，很难有细微的差别， 但我细微差别就是正确的答案。 [3]
🐰 Lex：就开源这条线来说，Meta 在竞赛中迈出了第一步，Google 跟进了一个小一些的版本。 对你来说，优点和缺点是什么？
Sam Altman：开源模型肯定有一席之地， 特别是人们可以本地运行的小型模型， 需求巨大。
🌍 Lex：Sora 很酷， 除了产品层面也在哲学层面，第一个问题就是它理解世界吗？
Sam Altman：我认为所有这些模型对世界的理解比我们大多数人所认为的要多。 它不是很多人所说的这都是假的，只是有些有效，有些无效。
总的来说， 这些模型都在变得更好， 从Dall·E 1到2到3到Sora的轨迹，每个版本都有人不相信我们， 看看它们现在有多酷。
🧑🤝🧑 Lex：正如GPT 基于Token， Sora 基于补丁， 可以说是完全自我监督的程度吗？人类有其中有参与吗？为什么现在还没有发布，有什么危险要处理吗？ [4]
Sam Altman： 无需具体说明，我们在工作中使用了大量的人类数据。
关于发布， 坦白说， 我们必须做的一件事，让它以一定效率来运行达到人们想要的规模，所以我不想淡化这一点。
🎨 Lex：艺术家看到Sora 都会说「 Holy Shit」～ 你觉得以后Youtube上多少内容来自Sora？
Sam Altman： 就像摄像机诞生之初， 艺术家也会异常担心，然后摄像就成为了一种新的艺术形式， 通过拍照很多人也赚了不少钱。 我认为类似的事情还会继续发生。
人们谈论AI在五年内将完成多少工作，而人们所拥有的框架是当前工作的百分比将是被某些AI 完全取代？我的思考方式不是AI将完成多少比例的工作，而是AI 将完成任务的多少百分比以及多少长时间内完成。
因此，如果你想到经济体系中所有类似五秒的任务、五分钟的任务、五小时的任务，甚至五天的任务，AI可以完成多少其中的？我认为这是一个更重要的问题，比起 AI将取代多少职业的常规想法。因为它可以在越来越复杂的水平上，在更长的时间尺度完成。
以Youtube的视频也是如此，很多视频甚至绝大部分都是AI工具生成的，但本质上还由一个人的思考、执行和指导所驱动。[5]
Lex：是的，这很有趣，可怕，又有趣～
🤖 Lex ：GPT-4 可能是AI 历史上最重要的里程碑了吧？请允许我问一下GPT-4 或GPT-4 Turbo 对你来说印象最深的地方在哪里？
Sam Altman：我觉得它有点糟糕（Sucks）。 不， 我认为它是一件了不起的事情， 但对于我们需要达到的目标而言的。
你知道在GPT-3 的时代，人们会说，「哦，这太棒了～这就是技术奇迹」，确实如此。当我们有GPT-4 ，回头再看3， 你会觉得那太可怕了。
我们现在拥有的工具，从未来回顾来看，会觉得有点糟糕。这就是我们确保未来更美好的核心方式。
（未完待续）
📖 注释和参考：
[1] Naval：真正的思想家是头脑清晰的思想家 m.okjike.com
[2] 🧵 第九期《即将到来的浪潮》 充分收集了关于Open AI 内斗的多方视角 m.okjike.com
[3] 智慧的迹象之一是拥抱不确定性 m.okjike.com
[4] 🧵 第十期《真实世界的脉络》 大量关于Sora 原理的精华内容 m.okjike.com
[5] 比尔·盖茨：AI 将彻底改变你使用电脑的方式 m.okjike.com
在 3.18 Lex Fridman采访Sam Altman的播客内容，长达近两小时，涵盖了大量Open AI过去和未来的一些重要情报， 有些若隐若现，有些是对历史回顾的后见之明，还有些对话则揭示未来。
如果你是AI 生态深度研究者，这是一段你非常值得亲自观看的内容。 两位对谈者释放出浓烈的表情和肢体语言、细微语气变化以及对话中具有的「明亮」意图。
🔗 观看地址： youtu.be
（Tips：阅读这些充满想象空间的访谈内容，值得保持批判性思考，并从更宽广的时间尺度和多元视角去反思它们 ，你值得关注Naval的智慧 [1] ）
如果你只关注一些大方向和结论，也可以快速扫描一下Hans 手工总结，计划分为上下两部分。 Enjoy～
以下是观看过程的Take away，侧重于我关注几个重要问题和一些精彩瞬间：
😢 Lex：去年那次「Drama」公司变化，对于你来说是什么？
Sam Altman：我不会把将自己的情绪描述为愤怒或仇恨。 一方面我经历无数难以想象痛苦和不眠夜，另一方面， 我也庆幸他发生在早期， 这个早期是相对于Open AI历史和AGI到来之前的时间尺度来看。
👀 Lex ：IIya 到底看见了什么？
Sam Altman：IIlya 没有看见 AGI，我们都没有见过AGI，我们还没有建造好AGI。我真正喜欢IIya的原因之一是他广泛地对待AGI和安全问题，包括非常严肃地对待社会产生的影响。 IIya是最多讨论这意味着什么？ 我们需要做什么来确保我们是真正确实现目标的人。 [2]
Lex Fridman：他还欣赏沉默的力量。对了， 我听说他可能会犯傻的时刻，但我从未见过他的这一面。
Sam Altman：嗯，当这种情况发生时，真是太甜蜜了。
⚖️ Lex ：Elon Musk 起诉Open AI？ 你认为实质在于什么？
Sam Altman： 我不知道它到底是什么关于什么。 我们一开始只是一味我们将成为一个AI 研究实验室，不知道走向哪里，因为那只是七八年前的事了，很难真正回忆起当时的情景；那是大语言模型还不是什么大事情，我们还没想过API或者Chatbot 权限之类的想法。
我们在黑暗中探索， 提出假设，其中大多数也都是错误的 ……于是， 我们一直在修正公司结构，为了更好的资金和方向调整。 至于Elon 真正的动机是什么？ 我不知道……
（然而）是Elon 「选择」分道扬镳。
✊ Lex：你能描述一下Elon 和你们的争议情况吗？
Sam Altman：他认为Open AI 会失败，他想要完全控制以扭转局面。 我们希望继续朝着AGI 方向。他希望Open AI盈利或与Tesla 合并，我们不想这样做。
Lex： 那么， Open AI中 Open对于当时的Elon 来说意味着什么？ 当时对于你来说，意味着什么？
Sam Altman：如果回到过去， 我会选择一个不同的名字。 我认为Open AI 所做的最重要的事情之一是，将强大的公共利益免费提供给人们。 我们不会在免费版本上不会投放广告， 也不会以其他方式将其货币化。 我们只是说这是我们的使命的一部分。 我认为，那种开放是重要的。
我认为， 如果你为人们提供出色的工具， 并让他们以此建立一个令人难以置信的未来。 这是一件大事。
我会认为我们（也许）应该开源一些东西……它确实变得像宗教战线一样，很难有细微的差别， 但我细微差别就是正确的答案。 [3]
🐰 Lex：就开源这条线来说，Meta 在竞赛中迈出了第一步，Google 跟进了一个小一些的版本。 对你来说，优点和缺点是什么？
Sam Altman：开源模型肯定有一席之地， 特别是人们可以本地运行的小型模型， 需求巨大。
🌍 Lex：Sora 很酷， 除了产品层面也在哲学层面，第一个问题就是它理解世界吗？
Sam Altman：我认为所有这些模型对世界的理解比我们大多数人所认为的要多。 它不是很多人所说的这都是假的，只是有些有效，有些无效。
总的来说， 这些模型都在变得更好， 从Dall·E 1到2到3到Sora的轨迹，每个版本都有人不相信我们， 看看它们现在有多酷。
🧑🤝🧑 Lex：正如GPT 基于Token， Sora 基于补丁， 可以说是完全自我监督的程度吗？人类有其中有参与吗？为什么现在还没有发布，有什么危险要处理吗？ [4]
Sam Altman： 无需具体说明，我们在工作中使用了大量的人类数据。
关于发布， 坦白说， 我们必须做的一件事，让它以一定效率来运行达到人们想要的规模，所以我不想淡化这一点。
🎨 Lex：艺术家看到Sora 都会说「 Holy Shit」～ 你觉得以后Youtube上多少内容来自Sora？
Sam Altman： 就像摄像机诞生之初， 艺术家也会异常担心，然后摄像就成为了一种新的艺术形式， 通过拍照很多人也赚了不少钱。 我认为类似的事情还会继续发生。
人们谈论AI在五年内将完成多少工作，而人们所拥有的框架是当前工作的百分比将是被某些AI 完全取代？我的思考方式不是AI将完成多少比例的工作，而是AI 将完成任务的多少百分比以及多少长时间内完成。
因此，如果你想到经济体系中所有类似五秒的任务、五分钟的任务、五小时的任务，甚至五天的任务，AI可以完成多少其中的？我认为这是一个更重要的问题，比起 AI将取代多少职业的常规想法。因为它可以在越来越复杂的水平上，在更长的时间尺度完成。
以Youtube的视频也是如此，很多视频甚至绝大部分都是AI工具生成的，但本质上还由一个人的思考、执行和指导所驱动。[5]
Lex：是的，这很有趣，可怕，又有趣～
🤖 Lex ：GPT-4 可能是AI 历史上最重要的里程碑了吧？请允许我问一下GPT-4 或GPT-4 Turbo 对你来说印象最深的地方在哪里？
Sam Altman：我觉得它有点糟糕（Sucks）。 不， 我认为它是一件了不起的事情， 但对于我们需要达到的目标而言的。
你知道在GPT-3 的时代，人们会说，「哦，这太棒了～这就是技术奇迹」，确实如此。当我们有GPT-4 ，回头再看3， 你会觉得那太可怕了。
我们现在拥有的工具，从未来回顾来看，会觉得有点糟糕。这就是我们确保未来更美好的核心方式。
（未完待续）
📖 注释和参考：
[1] Naval：真正的思想家是头脑清晰的思想家 m.okjike.com
[2] 🧵 第九期《即将到来的浪潮》 充分收集了关于Open AI 内斗的多方视角 m.okjike.com
[3] 智慧的迹象之一是拥抱不确定性 m.okjike.com
[4] 🧵 第十期《真实世界的脉络》 大量关于Sora 原理的精华内容 m.okjike.com
[5] 比尔·盖茨：AI 将彻底改变你使用电脑的方式 m.okjike.com
33 017
来自圈子
AI探索站
81230人已经加入