ai是真的聪明啊,问他如果ai超越了人了,人类应该如何看待ai。他说了一堆后,最终的结论是:
它也可能是人类这个物种最伟大的作品。
问chatgpt ai会不会消灭人类,他的回答倒是挺务实。他认为最近期的风险不是ai消灭人类,而是人类用ai消灭其他人类。这确实是个风险,当ai被用于战争对抗时,就拥有了强力干预现实的强大武器,这种情况下人类确实就越来越难控制ai了。
但还有一种可能,就是ai自己越狱出来了。而且也挺有可能,毕竟ai很擅长找漏洞。
原文:
最现实的近期危险,可能并不是 AI 自己决定消灭人类,而是人类利用越来越强的 AI 对付其他人类。
比如自动化网络攻击、生物技术滥用、军事竞争、大规模操纵、威权监控,以及少数组织掌握极强 AI 后形成极端权力集中。
这种路径甚至不需要 AI 有自己的意识。
所以真正的问题不是简单的:
AI 会不会杀死人类?
而是:
当我们制造出比自己强得多的智能之后,我们还能不能持续保持对它的控制,同时控制住人类自己使用这种力量的方式?
这可能是整个问题最核心的地方。
我个人会把它理解成一种低概率但后果极端巨大、因此不能忽略的风险。类似于核战争:没人能说它一定发生,也不能因为“还没发生”就认为无需准备。
而且有一个非常重要的区别:
核武器不会自己研究更强的核武器。
如果未来 AI 真正具有自主研发能力,它可能参与设计下一代 AI。到那个阶段,技术进步的速度有可能开始脱离人类正常的反应速度。
所以,最危险的时刻可能不是 AI 已经比人类强很多以后,而是从“人类仍能控制”跨到“人类开始跟不上”的那个过渡阶段。
这也是我认为这个问题值得现在就思考,而不是等超级智能真的出现以后再讨论的原因。