没做过 AI app 的:AGI 要来了,AI 无敌了
做个 AI app:难说 难说
目前现状是,对于简单任务,zero-shot,即只通过描述任务就可以让 AI 完成任务的效果真的很惊艳
但对于复杂任务,就需要设计复杂的 pipeline,去解决 AI 的幻想、不确定性。现在遇到问题最佳的解决方案依旧是加更多的 AI 进去,但就会造成一个 pipeline 要处理很久,用户可没那么多耐心
“There is a wall”
这个 wall 就是,如果基础模型不能持续提升,那就需要在 ai model 之上设计更多复杂的 pipeline 去做处理。但因为 llm 的不确定性,增加的 pipeline 可能是 *上雕花,并不能获得确定的提升,甚至可能在部分场景的反作用。
而,如果基础模型能持续提升,人类搞得复杂 pipeline 可能在基础模型升级后变得毫无意义。
当你真的开始用 AI 去做一个复杂任务,就会遇到跟不确定性搏斗的痛苦。
当然,这是站在旧时代程序员尊崇的确定性上得出的结论,可能下一个范式就是接纳不确定性,与不确定性共舞,或者在不确定性的基础上找到确定性。
就像单个分子的热运动是不规则的,但海量分子就会表现出规则的物理现象。
如何把 AI 的不确定性以确定的方式构建工程框架可能是一个有趣的方向