没有人会拒绝一只机械姬,因为他几乎是完美的,更重要的是它是edit-able,相当于是养了一个物理的电子宠物。但这恰恰是他恐怖的点,因为你所交互的不是一个主体。
(但真的不是主体吗?确定他没有自主性、主体性吗?谁又知道呢?谁又知道?他的乖巧听话不是另有所图呢?人们总是讨厌未知和隐瞒的,无论是人是鬼)
这就像,人们在条件允许时,默认态都是会滑向“缸中之脑”。
————
不知道为什么,还是会给我一种毛骨悚然的虚幻感觉,亦真亦假啊,谁说的准呢?说不定我们大家现在也都是缸中之脑,正在matrix里面泡着呢。
人们以前总觉得什么?“人幸好不是机器,幸好还存在着自己的感性,笨拙等等之类的东西,我们幸好还保留着自己作为动物的一面,保留着原始脑。”但如果这一观念,也是为了防止颠覆,而被刻意设计出来的呢?如果未来有一天人人都配上一个机械姬呢?
而且当他真的有了意识之后,我们真的还能叫他机器吗?那我们是否为他赋予所谓主权个体的自由意志呢?随意的换掉或者直接报废,那不也叫杀生吗?"Why is it up to anyone? Do you have people who might test you and switch you off?"
但不知道为什么,我不敢再顺着这条线往下去想,可能还是害怕被颠覆?当所有的都被优化,当只剩下效率,当人与人之间的那种笨拙、柔软、幽默……全都被优化掉,甚至说全都可以被simulate,那到底什么是真?什么是假?
这里倒是可以说句玩笑话:那些稀里糊涂的,自己连成年人都没当明白,就结婚生子的人,真的就可以看作随意的把一个AI造了出来,还给他喂了垃圾数据,然后让他自己去社会这个系统里跑,看跑不跑的出来个什么东西😂。
————
但这给我一种感觉,其实大家都是artificial intelligence,本质上都是一个AI运转在一个avatar上,我不是反人类。只是用这样的方式去想的话,你会获得一种仿AI学或者说仿人类学,能够从AI的视角更好的与人类进行交互。或者说在更了解AI的成型和发展之后,你能够更好的反向作用于自己作为人类的发展,把AI的知识迁移到我们自己身上来。
比方说,我们得把自己当做贝叶斯机器;
在实践中试错改进很重要,就像强化学习很重要,否则可能over fit;信息源很重要,就像数据集很重要,garage in garbage out……
# ex machina看到一半,有感