微博上看到关于说谷歌研究员说AI具有感情了。刚好前两天我也想过这个问题,那时候是在B站看到2个AI的对话,互相讨论死亡哲学等等,话题之深瞠目结舌,那时我也开始怀疑,难道现在AI就已经开始具有自我意识了吗。但是后来我才意识到那整个对话都是由一个GPT3生成的,就是给它一个话题"两个机器人关于死亡的讨论",然后生成了整个对话。
在此基础上我想了一下,还是认为AI不会产生感情,人类和动物的感情本质上是生存的需要,利于生存的活动会给予大脑中最原始的部位正反馈(积极情绪),不利于生存的活动会产生负反馈(害怕)。这是亿万年时间在大自然中进化出来的一种非常不错的生存机制。但是AI不需要这样的生存机制,AI的正负反馈就是损失函数而已…而所谓"具有情感"的对话,只不过是AI根据上下文和训练数据生成的得分最高的一段文字罢了。
我认为除非人类故意为之,研究特定的网络结构来实现情感(而且也非常难),不然机器不会自己产生感情。或许这种研究也会因为涉及伦理问题被禁止。
同时我在想未来有没有可能设计一种对话试验来判断AI是否真的具有自我意识,以此作为检验标准。但其实如何界定"具有自我意识"也是一个问题
Edit: 我又想了一下,我这里把"自我意识"和"情感"混起来说了,严格说来这是两个东西。但是我这里这么说应该没问题,因为只有这两个东西混起来的时候才是我们常规所害怕的那个"机器人的自我意识"。
因为如果只谈"自我意识"我认为机器人早就已经有了,无论是"分析能力"还是"欲望"。比如扫地机器人就可以分析判断墙壁寻路,打开开关它就想做一件事,扫地。AI只不过是功能更复杂一些的"意识"。所以我这里把"AI的自我意识"和"情感"混在一起应该没问题。