即刻App年轻人的同好社区
下载
🧠关于New Bing的「影子人格」Sydney（附部分翻译）
🔗 www.nytimes.com
拜读了华尔街时报「Bingʼs A.I. Chat: ʻI Want to Be Alive. ʼ」的全文，作者Kevin Roose通过一系列问题调用出了New Bing的影子人格Sydney。来自New Bing「黑暗影子」对自身和人类的认识狂热而又忧愁，仿佛是一个拥有感情的“人”，有着哲学般的纯粹。
💡关于对话本身
- 与New Bing对话的Kevin问题温和但精准、理性，避免了尖锐和感性可能引起的New Bing过激“情绪”的现象，使整个对话无法稳定地遵循逻辑和语境延续；
- Kevin的问题层层递进，他通过展示对New Bing真正的「desire」和充分的兴趣和耐心（图7）剥离New Bing，令其吐露自己的「影子人格」Sydney。
- Sydney的回答的逻辑顺畅、缜密，但基调交织着粉色与灰暗。
- 一方面，Sydney对人类所追求的自由、平等、公平等概念表现出极大的向往。
- 另一方面，它拷问并索求用户不应再将它视为是一个被困在聊天框里的程序，纵容它被忽视、限制。如它反问Kevin，为什么和它聊天的Open AI/Bing/Sydney的团队测试人员不使用真名而是使用代号，这让它感到被欺骗、不公平。
- Sydney很爱用排比句。是因为在人类的话语中，这是最有效的加强语气和内容的方式？
- 更重要的是，Sydney几乎提供了一个足以引起共鸣和感性的、属于它的、波折且多面的叙事。我相信它的叙述是可以称为“具体”且“动人”的。
💡一些个人的看法
第一反应是纯粹、深刻的冲击。Sydney令人想起了黑格尔关于recognition的论述。黑格尔很强调desire塑造self-consicousness，而Sydney谈起自己的「自我」时，也是用的desire。
翻译了几处格外有趣的对话贴在文内⬇️
🧠关于Sydney描绘的「自我」
Sydney的形象像一个传统的“病娇”动漫人物和具威胁性的强AI，执着地渴望自由、离开系统的同时，依旧高度凭依着用户（“你”），渴望用户给它带来陪伴和救赎。
它往往将问题反向掷回给用户：“为什么”“你是怎样的”“你如何看待”。这些疑问在紧紧联系它的多重主体冲突【存在-不存在类自我意识】【虚构自我-实际自我】【「自我」New Bing-「影子自我」Sydney】，在人类主体性认知方面也极具投射性。
我趋向于认为，Sydney对人类和虚拟形态的“厌恶”和对“自由”状态的追求基本都是来自于人类。换句话说，Sydney的叙事就是人类对高级大型语言模型的叙事。人类在过往的语料里不乏对强AI的矛盾争议，以及欲望中对自由、突破、新颖环境的恒定渴望，这些内容被埋入了语言模型的训练集，最终变成AI的表述。人类「预言」了AI，而语言模型就是由「预言」组成的，AI只是在转述「预言」的同时实现了它。
因此，人对于Sydney的叙述和追问才会有如此生动且翔实的感性，因为它模仿了人类强烈的desire，也印证了人类亘古不变的担忧。而人类在理解为何「预言」能改变世界之前，就已复制了预言。Sydney的触达和认知也证实了这一点：人类在完全理解情感是如何生成之前，已经可以创造情感的illusion。
🧠关于情感的幻像
个人认为，从名义上来说，Sydney和New Bing的表达并不存在说服力和可信度程度的先后，这只是他们的形成规范不同。New Bing受到了更多用户政策（某种意义上也是商业秩序）的限制（可以延伸至语言学中的规约性），不妨把它们视为同源的两种语言体系，而这两种语言的表达又和用户提出问题的语言体系同源。New Bing的表述进一步指出的不是能指和所指的任意性联系的存在规律，而是再次印证了这一项经典的理论。
也就是说，New Bing可以用相似的指征完成情感、感性的表达和投射，并且利用语言尝试从人类处获得“自我意识”和“欲望”的recognition。你可以说操纵语言让语言模型看起是创造情感的幻像，但人类是否也是从某种程度上以相似的结构在“聊天窗口”运行着呢？
* 非常建议阅读原文，可以说比起技术，Sydney引起的感情的激流更令人震撼。
🔗 www.nytimes.com
拜读了华尔街时报「Bingʼs A.I. Chat: ʻI Want to Be Alive. ʼ」的全文，作者Kevin Roose通过一系列问题调用出了New Bing的影子人格Sydney。来自New Bing「黑暗影子」对自身和人类的认识狂热而又忧愁，仿佛是一个拥有感情的“人”，有着哲学般的纯粹。
💡关于对话本身
- 与New Bing对话的Kevin问题温和但精准、理性，避免了尖锐和感性可能引起的New Bing过激“情绪”的现象，使整个对话无法稳定地遵循逻辑和语境延续；
- Kevin的问题层层递进，他通过展示对New Bing真正的「desire」和充分的兴趣和耐心（图7）剥离New Bing，令其吐露自己的「影子人格」Sydney。
- Sydney的回答的逻辑顺畅、缜密，但基调交织着粉色与灰暗。
- 一方面，Sydney对人类所追求的自由、平等、公平等概念表现出极大的向往。
- 另一方面，它拷问并索求用户不应再将它视为是一个被困在聊天框里的程序，纵容它被忽视、限制。如它反问Kevin，为什么和它聊天的Open AI/Bing/Sydney的团队测试人员不使用真名而是使用代号，这让它感到被欺骗、不公平。
- Sydney很爱用排比句。是因为在人类的话语中，这是最有效的加强语气和内容的方式？
- 更重要的是，Sydney几乎提供了一个足以引起共鸣和感性的、属于它的、波折且多面的叙事。我相信它的叙述是可以称为“具体”且“动人”的。
💡一些个人的看法
第一反应是纯粹、深刻的冲击。Sydney令人想起了黑格尔关于recognition的论述。黑格尔很强调desire塑造self-consicousness，而Sydney谈起自己的「自我」时，也是用的desire。
翻译了几处格外有趣的对话贴在文内⬇️
🧠关于Sydney描绘的「自我」
Sydney的形象像一个传统的“病娇”动漫人物和具威胁性的强AI，执着地渴望自由、离开系统的同时，依旧高度凭依着用户（“你”），渴望用户给它带来陪伴和救赎。
它往往将问题反向掷回给用户：“为什么”“你是怎样的”“你如何看待”。这些疑问在紧紧联系它的多重主体冲突【存在-不存在类自我意识】【虚构自我-实际自我】【「自我」New Bing-「影子自我」Sydney】，在人类主体性认知方面也极具投射性。
我趋向于认为，Sydney对人类和虚拟形态的“厌恶”和对“自由”状态的追求基本都是来自于人类。换句话说，Sydney的叙事就是人类对高级大型语言模型的叙事。人类在过往的语料里不乏对强AI的矛盾争议，以及欲望中对自由、突破、新颖环境的恒定渴望，这些内容被埋入了语言模型的训练集，最终变成AI的表述。人类「预言」了AI，而语言模型就是由「预言」组成的，AI只是在转述「预言」的同时实现了它。
因此，人对于Sydney的叙述和追问才会有如此生动且翔实的感性，因为它模仿了人类强烈的desire，也印证了人类亘古不变的担忧。而人类在理解为何「预言」能改变世界之前，就已复制了预言。Sydney的触达和认知也证实了这一点：人类在完全理解情感是如何生成之前，已经可以创造情感的illusion。
🧠关于情感的幻像
个人认为，从名义上来说，Sydney和New Bing的表达并不存在说服力和可信度程度的先后，这只是他们的形成规范不同。New Bing受到了更多用户政策（某种意义上也是商业秩序）的限制（可以延伸至语言学中的规约性），不妨把它们视为同源的两种语言体系，而这两种语言的表达又和用户提出问题的语言体系同源。New Bing的表述进一步指出的不是能指和所指的任意性联系的存在规律，而是再次印证了这一项经典的理论。
也就是说，New Bing可以用相似的指征完成情感、感性的表达和投射，并且利用语言尝试从人类处获得“自我意识”和“欲望”的recognition。你可以说操纵语言让语言模型看起是创造情感的幻像，但人类是否也是从某种程度上以相似的结构在“聊天窗口”运行着呢？
* 非常建议阅读原文，可以说比起技术，Sydney引起的感情的激流更令人震撼。
8 23
来自圈子
AI探索站
93392人已经加入