今天看了新智元的一篇文章——2027年是AI技术迭代的重要时刻,这或许是人类命运的奇点。
今年年初我短暂的学了一下ML,虽然没有学到NN,但是从线性非线性这一浅层知识里可以窥见生物与社会系统运行规律对所谓“人类命运”的影响。
AI系统的训练过程是基于数学优化(如梯度下降)的,在一定程度上是可预测和可导向的……,但作为一个模仿人类的复杂系统,他也是具备不可预测的特质。
那么在传统的人类社会里,往往会发生一种叫“黑天鹅”的现象。原因也是归为人类社会作为一个复杂适应性系统,其内部元素(个体、组织、观念)的非线性互动,正是催生那些罕见、颠覆性且事前难以预测的重大事件的原因。
那么AI也是一样的,如果一个AI系统(或智能体网络)的迭代速度、处理信息的规模、以及做出决策的自主性都10000倍于人类,那它产生的不可预测性将100000000于人类。
当然,这件事发生概率多大,暂且不论。但我知道,就目前来说,这件事还没发生之前,已经在淘汰一部分人类了。
如果在AI世界里出现AI世界的“黑天鹅”,那接下来会发生什么,谁也不知道。
这就是奇点。
By 万樚Wenders