Sam Altman谈GPT-4与AI的未来 #播客笔记 01

1）GPT-4 是通用人工智能（AGI） 吗？
Sam 说暂且不纠结具体定义，只从“I know it when I see it” 的角度思考，如果一本科幻小说里有个角色是 AGI，而这个角色是 GPT-4，他会觉得这本书很糟糕。前面还有很长的路要走

2）如何知道AI发展出了意识？
有很多种方式来思考这个问题，这次对谈中提到两个有趣的标准。

启发式标准01：
Sam 喜欢公司首席科学家 Ilya Sutskever 的想法

- 如果你训练模型时，对数据集做非常精心的设定，确保在训练过程中 AI 不接触到「意识」、主观体验，或任何与之相近的东西。

- 然后你开始和这个模型讨论，「这里有一些你没有接受过训练的东西」。
如果，对于你说的大部分内容，模型都说「我不知道你在说什么」，但当你描述意识的主观体验，模型立即回应，「是的，我完全知道你在说什么。」那可能意味着观点要更新（AI 可能发展出了意识）。

启发式测试02：
Lex 提到，《机械姬》最后，当片中的 AI 机器人机械姬逃出实验室，她露出了开心的微笑。此时没有别人在场，她是为自己而笑、为自由而笑。

《机械姬》的导演认为，「为自己而笑」，可以作为一个「AI 是否有意识」的图灵测试。

信息源：Sam Altman 与播客主 Lex Friedman 的对谈，录制于3月20日，发布于今天，时长2.5小时。我总结一下最有启发性的部分，预计今天更新完。TBC.