刘慈欣在《赡养人类》中提到的脑机芯片,让富人和穷人之间产生了智力上的天堑,使教育不再能够帮助底层人完成阶级跃迁,最终导致了一个财富尽加于一身的,底层人连空气都无法享有的社会。
现在,脑机芯片仍然遥遥无期,但AI却呈现出了类似的潜力。即刻上的大家,应该都会相信,AI将在不久的未来拥有比人更高的智力,将能操控各种工具,比人更能改造世界。而AI高昂的成本,执行一个任务需要消耗的巨量token,当然不会是所有人都用的起。
那么那个时候,穷人又该怎样和富人竞争呢?穷人对富人又有什么用呢?大语言模型的对齐做的再好,推理能力做的再强,也只会增强它作为工具的价值,不会让他觉醒“我应该站在哪边”“我要为谁服务”的意识。
我毫不怀疑,硅谷的彼得蒂尔之徒在那时会心安理得的会接受这种技术驱动的社会分层,甚至会将其视为“自然选择”的必然结果。
我像是一个AI威胁论的忠实教徒,但我在担忧的同时,又期待AI会巨大提升生产力,会改善每个人的生活质量,会填补人内心的情感空白。如果未来的底层人也可以在AI的惠泽下过上比现在超级富豪更美好的生活,即使代价是失去了跻身上层的可能,当然也算的上一件好事情。
我们处在技术飞速发展的时代。技术的革新赋予我们借风口腾飞的机会,也带来关于人类何去何从的拷问。但愿每一位AI开发者都不忘自己踏上开发道路的初心,让未来不断靠拢此刻关于AGI的愿景。