我之前经常遇到一种抬杠:「你说AI永远需要人来管理,但人类早晚能搭建出不需维护的永恒自运转智能系统啊」
这跟「永动机」是同一种思维。
开放信息系统就像物理世界,趋向于熵增。
不存在建好就能无限秩序化运转的「永动机」系统,内外部混乱熵增,会让它折旧损坏失序。
需要一个「外力」来发现并消除这些混乱。
所以人类的职能就趋向于扮演这个「外力」:搭建一个系统并持续维护它。
于是系统的鲁棒性会越来越强,即越来越智能。这会让人产生错觉,以为它早晚不需要人的「外力」而永动。
但就像发动机功率再进步也不能变成永动机,始终需要一个额外的「发起的力」