即刻App年轻人的同好社区
下载
App内打开
yusen
11月前
回顾一下:关于thinking time换performance🤔

yusen: 这几天o1尝试下来的一点点感受: 我们目前看到的是 o1 这个模型的 preview,甚至都不是最后的模型,也远非一个完整的产品。比起 ChatGPT,它更像是 GPT-3 的发布,正如 GPT-3 体现了 pretraining scaling law 带来的能力涌现,o1 体现了 inference scaling law 带来的推理能力提升。GPT-3 刚刚发布的时候,对于学术界是非常震撼的,但是普通用户完全不知道怎么把它用好,在 instructGPT 完善了 instruct following 能力后,又出现了ChatGPT ,找到了合适的产品形态;同样,怎么把 o1 带来的推理能力用好,现在的 ChatGPT 可能完全不是合适的产品形式,需要全行业去探索。 一方面,在 ChatGPT 里面,非常有可能用户越来越不需要主动选择用什么模型——类似我们不会跟一个人明确说你现在要用 system 1 还是 system 2 思考一样,产品应该自动选择合适的模型回答问题。另一方面,可能会有更加适合 system 2 的产品形态出现:ChatGPT 这里的 chat 名字和 UI 形态,隐含了「尽快回复」的期待,对于 system 2 的问题可能不那么适合。例如我们可以和分析师实时聊天,但对于一个需要深度思考的问题,我们更加可能是发一封邮件或者一个 ticket并且期待一个异步的update或回复。 接下来应该会出现很多用 thinking time 换 performance 的异步产品,给 AI 几十秒,几分钟,或者几个小时甚至几天时间思考,能够换来多少额外价值?这个地方产品发挥的空间应该是很大的。

23