即刻App年轻人的同好社区
下载
《AI狂飙的时代，人还有价值吗？》 不合时宜这期播客的信息量太大了，我summarize为以下：
1.理解GPT3.5的因果链条能力，到通用人工智能的曙光
2.GPT的本质是以对话为界面的服务，在这个认知下，它可能产生的取代
3.评价GPT不要因小失大，这是突变式的革命
4.工业革命让我们产生脑力>体力的价值排序，人工智能革命会重塑价值排序，产生人与人之间的联结，提供情绪价值可能更重要
5.保持关注，抛弃成见，关注一手信源
摘录的30点我认为重要的takeaways：
1. 但凡亲自玩过ChatGPT的人都会惊讶于它遣词造句的成熟程度
2. 理清时间线。在GPT3和GPT3.5之间，GPT的能力发生了飞跃，冲破了大语言模型的限制。这个飞跃是因果链条能力的建立
3. 因果链条能力，就是可以做推断性的事情。是逻辑上的想法，不是字词的相关性导致。比如把香蕉放进纸袋子，从纸袋子里拿出苹果，这发生了什么？需要有基础的世界知识才能理解
4. 当有一个世界图景在它脑海中的时候，它跟你聊天就会显得非常真实
5. 《思考快与慢》中提出人的思考有两种模式，一种是快模式，本能的反应，来自人的动物性。一种是慢模式，需要你一步一步想问题。慢模型一般认为是人类有的，和极少数高等动物有的
6. 传统意义上的神经网络模仿的是人的快思考，因为它是一个单词的网络，一头输入，一头输出。神经网络可以很深，模仿函数的网络可能很多步，但它仍然没有步骤，只是一个非常复杂的函数
7. 思维链条（COT, Chain of Thought)是完全不同的东西，它在模仿人类思考的东西，给它输入，它先想第一步，用第一步中间过程想一个第二步中间过程，第二步让过程想第三步中间过程，推出一个结果。人的思考过程是这样的，把一堆信息综合到一起，推出一堆中间结果，最终得到我们想要的结果
8. AGI通用人工智能，是能训练一个模型，既能拿拖鞋，又能做饭，它不是单纯的熟练工，而是了解了世界运作的方式，鞋是什么，饭是什么，我该怎么做这些东西，这个认知就到了非常底层的层面。因此ChatGPT可以说是人类看到AGI的第一线曙光，它终于有通用的意思
9. AI在人生活中的渗透是逐渐的过程，只要50%取代你的某些工作只能，AI就会对就业市场产生非常大的冲击。很多人对冲击仍然没有做好心理上和事实上的准备。今天坐办公室的工作，极少数是有创造性，原创性的
10. GPT的本质是一种以对话为界面的服务，以对话为界面，帮助我们获得我们需要的信息。今天的GPT是通用的，它可以回答我们任何问题
11. 当我们讨论一个突变式的新产品时，认为ChatGPT擅长一本正经地胡说八道，回答存在质量问题，这样的评价可能会因小失大。第一辆汽车非常粗糙，马车可能很舒服，但从马车到汽车是突变式的。评价GPT要分清，哪些是因为它是新东西没来得及做得好，哪些是它不可能做得好
12. 未来一两年内，会看到越来越多，基于真实数据，做好fact grounding的GPT，它能够理解回答你的问题，还可以在交互的同时进行一个无限的连通。以后会有越来越多专用搜索引擎出现
13. 过去两三百年的现代社会，被这样一种基本认知塑造：人类的价值体现在他的脑力上的价值。工业革命让我们觉得脑力比体力在社会价值的鄙视链上更高
14. 我们这代人最近的两个革命，一次是互联网革命，一次是移动互联网革命（乔布斯发布会），这次人工智能革命真正触及了新的层面，人的存在意义的问题
15. 传统上认为属于成功人士的出入于写字楼的老工作，干的事情会毫无意义。他的工作既挣不来钱，也挣不来意义感，因为他做的事情，AI都能做。那些在情绪上，在肉体上，在一切人和人交流的意义上所付出的劳动，都仍然是不能被取代的
16. 它会非常深刻地影响我们整个社会的价值排序。本来被看作比较低级的家庭劳动，或者是那些不挣钱的劳动，会变成人类真正的安身立命的东西。而那些传统的被认为是高级的professional的挣钱养家的劳动会逐渐消散掉
17. 我们仍然是人的生物。本能需要有某种人和人之间的bond，人和人之间的非常微妙，非常难以言表、但真实的human interaction所带来的chemistry。这种能力AI暂时做不到
18. 工业革命让我们觉得文史哲相对没有数理化那么重要，但在AI介入之后，这个结构会被打破。清朝末年的最后一批翰林，面对的是同样的情况，读了一辈子四书五经，靠着这个安身立命，当上大官，变成国家领导者。但他们下一代完全不学这个
19. 为什么中国人要到60年后才取消科举？因为60年差不多就是两代人。一个小孩是没有权利去取消科举制度的，只有那些已经功成名就、位高权重的大人们才有权利取消，而他们自己是科举上来的
20. 普朗克说过，物理学的每一步前进，都是由伟大的物理学家的葬礼构成的。只有老一辈人死掉了，旧的观念才会真正消失，新的观点才会出来
21. 人的固有的惯性、生物上的惯性仍然会起作用，我们仍然会试图捍卫我们这代人或者我们下一代人的世界观，直到我们都死掉了，我们下一代人也垂垂老矣，再下一代人才会彻底迎接AI的新的时代。到那个时候，他们才会真正觉得，为什么人要花那么多时间去学习所谓的理工科知识，这些知识难道不应该让AI来做？
22. 人工智能首先淘汰的是任何一个技能上的平庸劳动者，会极大地放大人和人之间技能差异所带来的资源差异，AI会把这个曲线再进一步推得更陡峭。AI会让极少数控制AI、掌握AI的人，他们所作为资源的网络的枢纽节点，他们所创造价值的能力和调动资源的能力会远远超于普通的一半人
23. 很多在互联网上的关于AI讨论，下面最常见的评论是好的，我明天就去考公。因为你知道，对中国人来说，宇宙的终点是体制，考公永远显得像是最后的救生衣。但考公就是一个非常典型的把自己的所有路径都锁死的一个东西
24. 当你限缩了自己的option之后，当大潮袭来的时候，你的灵活性就会降低，你的安全感就会降低，你就会更加深刻的陷入焦虑
25. 保持自己的flexibility可能是面对大潮的时候，能为自己做的最好的事情
26. 写作本身就是一个具有创造性的事，在ChatGPT的时代，它仍然是具有创造性的，它仍然是足够创新，足够创意。但真正的创意一定存在
27. 产生新想法反而落到GPT的强项，它从已有的各种各样的知识的海洋中找到可能的连接，把它作为一个新的idea，propose出来，这个东西让它来做更有效
28. 如果你今天想自我改造，从自己身上做起，可能着手都比较有效的途径。锻炼自己的影响力，锻炼自己的沟通能力，锻炼自己build一个team的能力，锻炼自己，用美国人喜欢说的那套MBA的词make things happen的能力
29. 比较快的、比较及时的去跟上现在的一些信息，推荐的工具或者信源：1.少看简中社交媒体 2.直接看英文社交媒体的源头 3.多看一线的资浅的但是活跃的工作人员的讨论，少看big names的讨论 4.去推上关注那些今天正在Berkeley，MIT，OpenAI，deep mind做这个东西的人
30. 抛弃成见与抛弃膝跳反射式的情绪化反应，更仔细地理解一些事情，比比如什么对你的人生来说是最重要的。如果今天你对人生的理解被证明是要被推翻了，或者至少是要被潮水冲破了，你将以什么样的方式来重塑对人生的观念
1.理解GPT3.5的因果链条能力，到通用人工智能的曙光
2.GPT的本质是以对话为界面的服务，在这个认知下，它可能产生的取代
3.评价GPT不要因小失大，这是突变式的革命
4.工业革命让我们产生脑力>体力的价值排序，人工智能革命会重塑价值排序，产生人与人之间的联结，提供情绪价值可能更重要
5.保持关注，抛弃成见，关注一手信源
摘录的30点我认为重要的takeaways：
1. 但凡亲自玩过ChatGPT的人都会惊讶于它遣词造句的成熟程度
2. 理清时间线。在GPT3和GPT3.5之间，GPT的能力发生了飞跃，冲破了大语言模型的限制。这个飞跃是因果链条能力的建立
3. 因果链条能力，就是可以做推断性的事情。是逻辑上的想法，不是字词的相关性导致。比如把香蕉放进纸袋子，从纸袋子里拿出苹果，这发生了什么？需要有基础的世界知识才能理解
4. 当有一个世界图景在它脑海中的时候，它跟你聊天就会显得非常真实
5. 《思考快与慢》中提出人的思考有两种模式，一种是快模式，本能的反应，来自人的动物性。一种是慢模式，需要你一步一步想问题。慢模型一般认为是人类有的，和极少数高等动物有的
6. 传统意义上的神经网络模仿的是人的快思考，因为它是一个单词的网络，一头输入，一头输出。神经网络可以很深，模仿函数的网络可能很多步，但它仍然没有步骤，只是一个非常复杂的函数
7. 思维链条（COT, Chain of Thought)是完全不同的东西，它在模仿人类思考的东西，给它输入，它先想第一步，用第一步中间过程想一个第二步中间过程，第二步让过程想第三步中间过程，推出一个结果。人的思考过程是这样的，把一堆信息综合到一起，推出一堆中间结果，最终得到我们想要的结果
8. AGI通用人工智能，是能训练一个模型，既能拿拖鞋，又能做饭，它不是单纯的熟练工，而是了解了世界运作的方式，鞋是什么，饭是什么，我该怎么做这些东西，这个认知就到了非常底层的层面。因此ChatGPT可以说是人类看到AGI的第一线曙光，它终于有通用的意思
9. AI在人生活中的渗透是逐渐的过程，只要50%取代你的某些工作只能，AI就会对就业市场产生非常大的冲击。很多人对冲击仍然没有做好心理上和事实上的准备。今天坐办公室的工作，极少数是有创造性，原创性的
10. GPT的本质是一种以对话为界面的服务，以对话为界面，帮助我们获得我们需要的信息。今天的GPT是通用的，它可以回答我们任何问题
11. 当我们讨论一个突变式的新产品时，认为ChatGPT擅长一本正经地胡说八道，回答存在质量问题，这样的评价可能会因小失大。第一辆汽车非常粗糙，马车可能很舒服，但从马车到汽车是突变式的。评价GPT要分清，哪些是因为它是新东西没来得及做得好，哪些是它不可能做得好
12. 未来一两年内，会看到越来越多，基于真实数据，做好fact grounding的GPT，它能够理解回答你的问题，还可以在交互的同时进行一个无限的连通。以后会有越来越多专用搜索引擎出现
13. 过去两三百年的现代社会，被这样一种基本认知塑造：人类的价值体现在他的脑力上的价值。工业革命让我们觉得脑力比体力在社会价值的鄙视链上更高
14. 我们这代人最近的两个革命，一次是互联网革命，一次是移动互联网革命（乔布斯发布会），这次人工智能革命真正触及了新的层面，人的存在意义的问题
15. 传统上认为属于成功人士的出入于写字楼的老工作，干的事情会毫无意义。他的工作既挣不来钱，也挣不来意义感，因为他做的事情，AI都能做。那些在情绪上，在肉体上，在一切人和人交流的意义上所付出的劳动，都仍然是不能被取代的
16. 它会非常深刻地影响我们整个社会的价值排序。本来被看作比较低级的家庭劳动，或者是那些不挣钱的劳动，会变成人类真正的安身立命的东西。而那些传统的被认为是高级的professional的挣钱养家的劳动会逐渐消散掉
17. 我们仍然是人的生物。本能需要有某种人和人之间的bond，人和人之间的非常微妙，非常难以言表、但真实的human interaction所带来的chemistry。这种能力AI暂时做不到
18. 工业革命让我们觉得文史哲相对没有数理化那么重要，但在AI介入之后，这个结构会被打破。清朝末年的最后一批翰林，面对的是同样的情况，读了一辈子四书五经，靠着这个安身立命，当上大官，变成国家领导者。但他们下一代完全不学这个
19. 为什么中国人要到60年后才取消科举？因为60年差不多就是两代人。一个小孩是没有权利去取消科举制度的，只有那些已经功成名就、位高权重的大人们才有权利取消，而他们自己是科举上来的
20. 普朗克说过，物理学的每一步前进，都是由伟大的物理学家的葬礼构成的。只有老一辈人死掉了，旧的观念才会真正消失，新的观点才会出来
21. 人的固有的惯性、生物上的惯性仍然会起作用，我们仍然会试图捍卫我们这代人或者我们下一代人的世界观，直到我们都死掉了，我们下一代人也垂垂老矣，再下一代人才会彻底迎接AI的新的时代。到那个时候，他们才会真正觉得，为什么人要花那么多时间去学习所谓的理工科知识，这些知识难道不应该让AI来做？
22. 人工智能首先淘汰的是任何一个技能上的平庸劳动者，会极大地放大人和人之间技能差异所带来的资源差异，AI会把这个曲线再进一步推得更陡峭。AI会让极少数控制AI、掌握AI的人，他们所作为资源的网络的枢纽节点，他们所创造价值的能力和调动资源的能力会远远超于普通的一半人
23. 很多在互联网上的关于AI讨论，下面最常见的评论是好的，我明天就去考公。因为你知道，对中国人来说，宇宙的终点是体制，考公永远显得像是最后的救生衣。但考公就是一个非常典型的把自己的所有路径都锁死的一个东西
24. 当你限缩了自己的option之后，当大潮袭来的时候，你的灵活性就会降低，你的安全感就会降低，你就会更加深刻的陷入焦虑
25. 保持自己的flexibility可能是面对大潮的时候，能为自己做的最好的事情
26. 写作本身就是一个具有创造性的事，在ChatGPT的时代，它仍然是具有创造性的，它仍然是足够创新，足够创意。但真正的创意一定存在
27. 产生新想法反而落到GPT的强项，它从已有的各种各样的知识的海洋中找到可能的连接，把它作为一个新的idea，propose出来，这个东西让它来做更有效
28. 如果你今天想自我改造，从自己身上做起，可能着手都比较有效的途径。锻炼自己的影响力，锻炼自己的沟通能力，锻炼自己build一个team的能力，锻炼自己，用美国人喜欢说的那套MBA的词make things happen的能力
29. 比较快的、比较及时的去跟上现在的一些信息，推荐的工具或者信源：1.少看简中社交媒体 2.直接看英文社交媒体的源头 3.多看一线的资浅的但是活跃的工作人员的讨论，少看big names的讨论 4.去推上关注那些今天正在Berkeley，MIT，OpenAI，deep mind做这个东西的人
30. 抛弃成见与抛弃膝跳反射式的情绪化反应，更仔细地理解一些事情，比比如什么对你的人生来说是最重要的。如果今天你对人生的理解被证明是要被推翻了，或者至少是要被潮水冲破了，你将以什么样的方式来重塑对人生的观念
175 1595
来自圈子
一起听播客
113711人已经加入