即刻App年轻人的同好社区
下载
这期内容很有意思，以马斯克的激进观点——“碳基生命是硅基生命的引导加载程序（biological bootloader for AI ）”作引子，其实探讨的是：我们如何理解生命、智能、情感、语言这些抽象概念。话题并没有定论对错，但很有哲理思辨的启发。
我的核心感受是：我们认知AI，更现实的一重意义，是将AI作为“他者”来对照，更好地理解我们人类自身。
区别于shownotes，我按自己的思路梳理嘉宾观点，并补充素材和注解：
1、如何理解【生命】，如何定义硅基生命
- 1.1 我们对于“生物/生命体”的定义是建立在有机物的基础认知上，硅基链式结构在地球常温下不可能存在，所以不会自然形成硅基生命或硅基有机物。
- 1.2 所以目前讨论的硅基生命，其实是数字或计算意义上的生命，当前形态就是计算机硬件搭载的AI。
- 【辩驳1】针对1.1，我们以碳基生命的基本认知来去理解硅基生命/智能。是否还合适？进一步思考：什么是“生命”？
- 比如：你怎么证明石头这种无机物就不是生命？（例：《瞬息全宇宙》结尾母女“石头人”的无声对话）
- （小时候看新闻，提到其他星球不具备生成蛋白质的环境条件，而推断不具备生命，我就想：万一外星生命不是我们人类这种形态呢？）
- 【辩驳2】针对1.2，数字生命的定义是否严谨？碳基生命的进化路径是：生命体-智能体-文明，一定是先有生命，再有智能；但是对于硅基生命/数字生命，是不是正相反？即：当AI具备智能，我们才可以反向定义其具有生命？
2、如何理解【智能】【意识】，以及【语言】形塑文明
- 2.1 判断AI是否具备智能或意识，首先要定义清楚人的智能或意识；但人类的生命科学仍有许多未知，我们对自身的理解令人困惑又着迷：
- 心（heart）/智（mind）：大脑上有神经元，心脏上也有神经元（科学证实），两个是独立的，所以follow your heart和follow your mind，很可能会牵引不同决策；
- 意识/潜意识：潜意识的运算能力要远超过意识（经典图：意识只是“冰山一角”），直觉（gut feeling）并不是玄学，潜意识下做出的决策，其实也经过信息的收集整合，只是并非像意识那般以逻辑的方式呈现，而是突然给你一个信号。
- 2.2 甚至于，我们可能未必具有意识，有的只是“我们具有意识”的一个假想（缸中之脑）。因此凭什么自大地认为我们人类的意识才是真正的意识，而去否定机器的意识？
- 2.3 进一步延伸到，人类的意识（理解力、同理心等）与思维机制，与AI有多大区别？人体内部生物性的神经元，和人工智能的神经元，本质上又有多大区别呢？（这一问题上，AI科学家和语言学家将有不可调和的矛盾）
- 2.4 我们不能太自大，觉得人的意识始终是超出机器的意识，而是要心怀敬畏。很有可能，AI的智能和文明，跟我们人类的智能和文明，是完全不一样的体系。
- 电影《机器纪元》：机器人有自我进化的能力，可能会进化出自己的一套语言乃至思维体系，最终趋向不一样的文明。
- 电影《降临》（原著《你一生的故事》）：人类是线性逻辑的语言和思维模式；七肢桶则是环形、图像式的语言思维模式，一眼看到事情因果。
- 2.5 人类相比其他动物的优越性，在于“语言中积累的世界知识”，从而跨越个体生命的有限性，延续文明发展；不同文明的语言又反向塑造个体思维模式，进一步强化文明的独特性。
- 【辩驳3】针对2.3 现实条件下，我们到底能不能训练出一个人类都无法理解的智能？机器意识能否超越人类边界？（突破图灵机的物理限制？）
3、如何辩证看待生命的【有限】
- 3.1 前提假设：相对于人类生命的有限，数字生命将拥有无限时间（不考虑拔电源线、网线等因素）。
- 【辩驳4】针对3.1，AI形态的硅基生命是否真的无限？
- 3.2 基于3.1，正向看待人类生命的有限性：
- 从文明演化角度：1）个体生命太长，会被经验复述（或者路径依赖），代际间的迭代速度就会减慢，所以人类个体生命有限，迭代速度反而快，更有利于文明演化；2）硅基文明的终局，或者永远停滞，或者成为只会无脑复制的宇宙之癌？
- 从族群传承角度：1）族群的代际传承和生物性发展，催生了族群内的利他思维，并进一步演化成“爱”的复杂情感；2）我们至今仍无法很好解释并理解爱：从生命体内的生化反应，变成抽象复杂的情感。
- 从个体探索角度：1）因为有限、有知，人类才会不断探索无垠、探索未知；2）个体的探索精神不一定出于生存和遗传考量，但是会演变为种族进化的能力，更有利于种族和文明发展；3）人类不断攀登，一方面是想要看得更远，一方面则是对危险的向往，这也正是有限生命的激励；4）生命无限，就会虚度生命，永恒的硅基生命是否仍有探索动力？
- 3.3 人类正因为时空上的限制、生命和身体上的限制，反而成就了自身的伟大。
4、人类 vs AI之前，仍旧有【人性】的竞争
- 4.1 工具无法取代人，只有会使用工具的人取代不会使用工具的。我们对AI的恐慌，并不在于技术淘汰人，而是在于人类社会内部的淘汰。
- 4.2 正面看，就是我们要充分发挥能动性，要有意识利用并且发挥好AI的工具性。
- 4.3 从负面且极端化的观点看，会出现“原装人类（authentic human-being）” vs “超级人类”（通过技术可以更好适应并利用AI的、有机无机结合的生命体）（尤瓦尔·赫拉利的“神性人类”概念，以及很多超级英雄和反英雄的科幻作品）。
- 4.4 进一步，会产生新的阶级分化和特权压迫：没有使用/不擅长使用工具的那部分人，不一定是思维理念不够开放，更可能是因为没有渠道去接触。是否有渠道、有资源、有能力去整合技术，成为一种天然的阶级划分（赛博朋克系作品，比如前阵子大火的《赛博朋克2077：边缘行者》）
5、其他
5.1 ChatGPT仍然只是一个语言模型，并不具备意识的涌现，离终极的AGI还很遥远。
5.2 技术中立性：技术没有价值观，技术价值观就是人的价值观。AI不会害人，最终还是人影响人。
5.3 要先 do well，才可以 do good。首先要在商业层面上获得成功，才可以去做好事（商业就是最大的公益），要辩证看待科技商业进步中的evil。
（最后发现：自己用这样的思考表达，亲身验证了人类智能和AI的差异）
我的核心感受是：我们认知AI，更现实的一重意义，是将AI作为“他者”来对照，更好地理解我们人类自身。
区别于shownotes，我按自己的思路梳理嘉宾观点，并补充素材和注解：
1、如何理解【生命】，如何定义硅基生命
- 1.1 我们对于“生物/生命体”的定义是建立在有机物的基础认知上，硅基链式结构在地球常温下不可能存在，所以不会自然形成硅基生命或硅基有机物。
- 1.2 所以目前讨论的硅基生命，其实是数字或计算意义上的生命，当前形态就是计算机硬件搭载的AI。
- 【辩驳1】针对1.1，我们以碳基生命的基本认知来去理解硅基生命/智能。是否还合适？进一步思考：什么是“生命”？
- 比如：你怎么证明石头这种无机物就不是生命？（例：《瞬息全宇宙》结尾母女“石头人”的无声对话）
- （小时候看新闻，提到其他星球不具备生成蛋白质的环境条件，而推断不具备生命，我就想：万一外星生命不是我们人类这种形态呢？）
- 【辩驳2】针对1.2，数字生命的定义是否严谨？碳基生命的进化路径是：生命体-智能体-文明，一定是先有生命，再有智能；但是对于硅基生命/数字生命，是不是正相反？即：当AI具备智能，我们才可以反向定义其具有生命？
2、如何理解【智能】【意识】，以及【语言】形塑文明
- 2.1 判断AI是否具备智能或意识，首先要定义清楚人的智能或意识；但人类的生命科学仍有许多未知，我们对自身的理解令人困惑又着迷：
- 心（heart）/智（mind）：大脑上有神经元，心脏上也有神经元（科学证实），两个是独立的，所以follow your heart和follow your mind，很可能会牵引不同决策；
- 意识/潜意识：潜意识的运算能力要远超过意识（经典图：意识只是“冰山一角”），直觉（gut feeling）并不是玄学，潜意识下做出的决策，其实也经过信息的收集整合，只是并非像意识那般以逻辑的方式呈现，而是突然给你一个信号。
- 2.2 甚至于，我们可能未必具有意识，有的只是“我们具有意识”的一个假想（缸中之脑）。因此凭什么自大地认为我们人类的意识才是真正的意识，而去否定机器的意识？
- 2.3 进一步延伸到，人类的意识（理解力、同理心等）与思维机制，与AI有多大区别？人体内部生物性的神经元，和人工智能的神经元，本质上又有多大区别呢？（这一问题上，AI科学家和语言学家将有不可调和的矛盾）
- 2.4 我们不能太自大，觉得人的意识始终是超出机器的意识，而是要心怀敬畏。很有可能，AI的智能和文明，跟我们人类的智能和文明，是完全不一样的体系。
- 电影《机器纪元》：机器人有自我进化的能力，可能会进化出自己的一套语言乃至思维体系，最终趋向不一样的文明。
- 电影《降临》（原著《你一生的故事》）：人类是线性逻辑的语言和思维模式；七肢桶则是环形、图像式的语言思维模式，一眼看到事情因果。
- 2.5 人类相比其他动物的优越性，在于“语言中积累的世界知识”，从而跨越个体生命的有限性，延续文明发展；不同文明的语言又反向塑造个体思维模式，进一步强化文明的独特性。
- 【辩驳3】针对2.3 现实条件下，我们到底能不能训练出一个人类都无法理解的智能？机器意识能否超越人类边界？（突破图灵机的物理限制？）
3、如何辩证看待生命的【有限】
- 3.1 前提假设：相对于人类生命的有限，数字生命将拥有无限时间（不考虑拔电源线、网线等因素）。
- 【辩驳4】针对3.1，AI形态的硅基生命是否真的无限？
- 3.2 基于3.1，正向看待人类生命的有限性：
- 从文明演化角度：1）个体生命太长，会被经验复述（或者路径依赖），代际间的迭代速度就会减慢，所以人类个体生命有限，迭代速度反而快，更有利于文明演化；2）硅基文明的终局，或者永远停滞，或者成为只会无脑复制的宇宙之癌？
- 从族群传承角度：1）族群的代际传承和生物性发展，催生了族群内的利他思维，并进一步演化成“爱”的复杂情感；2）我们至今仍无法很好解释并理解爱：从生命体内的生化反应，变成抽象复杂的情感。
- 从个体探索角度：1）因为有限、有知，人类才会不断探索无垠、探索未知；2）个体的探索精神不一定出于生存和遗传考量，但是会演变为种族进化的能力，更有利于种族和文明发展；3）人类不断攀登，一方面是想要看得更远，一方面则是对危险的向往，这也正是有限生命的激励；4）生命无限，就会虚度生命，永恒的硅基生命是否仍有探索动力？
- 3.3 人类正因为时空上的限制、生命和身体上的限制，反而成就了自身的伟大。
4、人类 vs AI之前，仍旧有【人性】的竞争
- 4.1 工具无法取代人，只有会使用工具的人取代不会使用工具的。我们对AI的恐慌，并不在于技术淘汰人，而是在于人类社会内部的淘汰。
- 4.2 正面看，就是我们要充分发挥能动性，要有意识利用并且发挥好AI的工具性。
- 4.3 从负面且极端化的观点看，会出现“原装人类（authentic human-being）” vs “超级人类”（通过技术可以更好适应并利用AI的、有机无机结合的生命体）（尤瓦尔·赫拉利的“神性人类”概念，以及很多超级英雄和反英雄的科幻作品）。
- 4.4 进一步，会产生新的阶级分化和特权压迫：没有使用/不擅长使用工具的那部分人，不一定是思维理念不够开放，更可能是因为没有渠道去接触。是否有渠道、有资源、有能力去整合技术，成为一种天然的阶级划分（赛博朋克系作品，比如前阵子大火的《赛博朋克2077：边缘行者》）
5、其他
5.1 ChatGPT仍然只是一个语言模型，并不具备意识的涌现，离终极的AGI还很遥远。
5.2 技术中立性：技术没有价值观，技术价值观就是人的价值观。AI不会害人，最终还是人影响人。
5.3 要先 do well，才可以 do good。首先要在商业层面上获得成功，才可以去做好事（商业就是最大的公益），要辩证看待科技商业进步中的evil。
（最后发现：自己用这样的思考表达，亲身验证了人类智能和AI的差异）
E102 | 硅基文明能否取代碳基文明？聊聊AI的心智与数字化人
硅谷101
13 313
来自圈子
一起听播客
113801人已经加入