即刻App年轻人的同好社区
下载
App内打开
莫唯书Mark
20天前
推荐系统是Human In The Loop,RSI是Human Out of The Loop,但RSI的前提是这个世界是有绝对客观的评判标准的,然而除了数学、代码、物理等极少数领域,绝大部分现实场景中的好坏是由人的主观评价来决定的,强行RSI的结果就是奖励劫持(Reward Hacking),过犹不及。

RSI真正的天花板取决于我们能多精确地把人类的意图转化为数学上的损失函数(Loss Function),最终还是不可避免地要回到Human In The Loop。所以RSI不过是一场机器的狂欢、极客的幻梦,而Human In The Loop才是人类在这个时代的尊严。
12

来自圈子

圈子图片

AI探索站

120977人已经加入