即刻App年轻人的同好社区
下载
感觉解决人类带宽不足，有效的输入 可对齐的输出 结果可自动化验证兜底是关键
龙一.: 现在用 AI，最大的卡点或许还是人的信息处理能力不足，大量的信息涌入，却无法有效地处理，无法给出有效的反馈，缺少了反馈之后，如果还是 “驾驾驾” 的话，AI 就变成了脱缰的野马，方向变得模糊而不可控。
1 00
Meta muse火了，国内大厂在腾讯 Handy Bot 阿里都在跟进。person agent与work agent可不同。
work agent 成本优先
person agent 开源 无广定制优先 个人层面用这些大厂工具也好 模型也好，像是在什么事情都寄望一个满脑子想吸你血且脑子有残的人一样！
#muse #agent
work agent 成本优先
person agent 开源 无广定制优先 个人层面用这些大厂工具也好 模型也好，像是在什么事情都寄望一个满脑子想吸你血且脑子有残的人一样！
#muse #agent
1 00
有时贪图便宜的模型，
就像雇佣一位能力不够的员工，哪怕你知道它能力不够只安排了简单的任务。
但它的不稳定性，往往会耗费你大量时间，更重要的是由于输出膨胀，若是human in the loop，human是累会死的，若是昂贵的模型评审 则成本又上去了。
便宜的模型只配做能可0 token 自动化评审的业务。
就像雇佣一位能力不够的员工，哪怕你知道它能力不够只安排了简单的任务。
但它的不稳定性，往往会耗费你大量时间，更重要的是由于输出膨胀，若是human in the loop，human是累会死的，若是昂贵的模型评审 则成本又上去了。
便宜的模型只配做能可0 token 自动化评审的业务。
1 11
感觉需要新的产品方法论 框架来约束，如以前<精益创业> 、<用户故事地图> 等指导做互联网产品一样。感觉当下急缺我们用什么方法论和框架来与大模型协作，并且框架能打穿战略 产品 运营等职能，约束模型稳定输出。
最重要的是这套框架所有约束的职能产出，必须能让AI通过非人工方式验证。
当前人机协作 能实现outcome有效的自动化验证评审就是一切。感觉没有比这个更重要的事情了！欢迎共同探讨这个方向。
最重要的是这套框架所有约束的职能产出，必须能让AI通过非人工方式验证。
当前人机协作 能实现outcome有效的自动化验证评审就是一切。感觉没有比这个更重要的事情了！欢迎共同探讨这个方向。
许涵之: Jev 的创始人说，现在很多产品想摆脱 human-in-the-loop，让产品真正自动化，但这是不可能的。因为大模型的训练方式就是对齐人类偏好，只要大模型的目标还是让人类满意，那就不可能让人摆脱 human-in-the-loop。这个观点还挺有启发性的。
0 00