《智人之上》这本书对于正在拥抱AI的科技从业者来说,提供了一些的洞见和思考。
1.信息网络与人类网络的融合
书中提到了社交媒体算法如何通过追踪用户的点击习惯和情感反应,倾向于推送引发愤怒和恐惧的内容,从而可能使个体的心理状态和社会氛围变得更加紧张。
是一个警示,技术人员在开发算法时需要考虑到内容的负面影响,并寻求平衡用户参与度与社会福祉的方法。
也因此,对于科技从业者而言,理解信息网络与人类网络的融合意味着认识到技术不仅仅是工具,而是社会结构的一部分。
所以,我们在设计和部署AI系统时,多想一层,要考虑到其对社会的广泛影响,包括隐私、数据安全和伦理问题。
2.无生命的网络与生命的网络
赫拉利在书中提到了2016年缅甸的暴力事件,说明了社交媒体在激化社会问题中扮演的角色。
引发一个必须关注的问题,“如何避免技术被用于不道德目的?”
人工智能作为一种“新生命体”的潜力和风险。我们在设计AI时,其行为和决策过程的透明度和可解释性如何保障?
3.计算机政治与人类未来
书中提到了“硅幕”的概念,即科技的无形隔阂使人类与自己所创造的人工智能之间产生了新的分裂。AI可能对政治权力的分配和行使方式产生重大影响。也会影响社会结构和人类关系。
赫拉利在书中对比了民主制度与极权制度在信息处理方面的优劣势。
在民主制度中,信息的多方向联结和流动形成了分布式结构,而在极权制度中,信息通过各种组织机制高度集中和控制。
AI的发展对这两种制度都构成了威胁,因为AI可以超越人类的控制,主动塑造社会、历史与文化。例如,社交媒体算法可能推动仇恨与冲突,而不需要意识。