看 IIya 的原视频,从中感受到的语气、神情、当然还有他所讲的所有内容真的很有意思,也是看任何总结性的文章无法替代的
【Emotion is the value function】
从最简单的来讲,人做对了事情 happy,做错了事情 sad
对于 RL, 做对了事情得分,做错了事情不得分(或减分)
但情绪真的是简单的+1或者-1能代替的吗?
显然不是,情绪本身比起数字好像更像一个复杂的函数,也就是 IIya 提到的这个 value function
随着年龄的增长,人们越来越也多是做自己喜欢的事情,而不一定是对的事情,更何况有对错之分的事情本来就是少数
(看视频的时候 IIya 总有种给人对于这个函数的探索有了一定的进展)
【The Age of Research】
Attention 和 transformer 让 AI 进入了 the age of scaling
但对比不需要大量数据就能学习和泛化的人类,基于 Attention 的 AI 明显还差些意思
Ilya 觉得人类的大脑其实就是从算法层面更强的 ML model,the age of research 就是找到下一代的 “Attention”,然后再次进入 the age of scaling
到时候人类可能只能因人对猫猫狗狗的怜爱而存活,这个时间点还是晚点来吧……