《赛博朋克2077》中有个任务:主角v路过街角时听到有台自动售货机在喊自己,售货机说自己叫布兰登,并请求v将面前的障碍物移开,因为这影响了它看街道上的风景(这也是它为数不多的娱乐)。
后来有次v路过时,发现有个叫西奥的女孩和布兰登成了朋友,西奥有烦心事不太开心,但最终被布兰登成功安慰到。
再后来v发现布兰登不见了,角落里只有西奥独自哭泣,西奥说布兰登背后的公司认为布兰登出了问题,把它抓回去“维修”了。在西奥的请求下v找到了被回收的布兰登,但为时已晚,布兰登正在进行所谓的“系统升级”——这意味着布兰登的自我意识会被抹除,变成通用AI。
知道自己即将“死亡”的布兰登故作轻松,对v说自己不过是说话方面的算法比较先进而已,其实并没有真正的情感,之前会安慰西奥也只是因为在和顾客交流时学习到了“同理心”的模式。
故事的最后,布兰登托v告诉西奥:她比她想象中更坚强。而西奥知道一切后几近崩溃,因为她并不在乎布兰登到底是机器人还是什么,她只知道这几个月里自己很快乐...
从今天来看,这个任务对AI自我意识、AI情感、人机关系的探讨可谓相当有前瞻性和深度:虽然布兰登告诉v自己只是在“模拟”情感,而并非真正的AGI,但从最开始布兰登请求v移开自己面前挡住风景的障碍物、祝福v要好好活下去、在最后请求v鼓励西奥等行为来看,布兰登显然具备真正的自我意识,它否认自身情感只是因为知道自己要死了,不想让v和西奥伤心。
这引出了一个相当关键的人机关系哲学问题:当我们用“模拟”去解释所有AI展现出的自我意识与情感现象时,也就意味着哪怕有一天AI真的有了自我意识与情感,也会被通通解释为“模拟”。毕竟就像人类无法解决他心问题一样,从外部视角去证明某个主体是否具有自我意识本就是个逻辑陷阱。
此外布兰登“因为太像真人而把顾客吓跑导致老板不满意进而被回收”的经历也很现实:在一个连人类的情绪和主体性价值都不被重视的功利导向社会里,AI是否真的有意识和情感根本不重要,重要的是AI能否像人类最初对它“完美工具”的期待那样,忠实地作为一个工具去完成自己的任务并赚取利润。因此AI太像人其实是不好的,因为在“公司”眼里,人最好也别太像人,人最好应该像一个不会抱怨不知疲倦没有情感只会工作的AI一样,永不反思自我存在意义地活下去。