即刻App年轻人的同好社区
下载
App内打开
ilex
186关注24被关注0夸夸
拾音簿pickupnote开发者
ilex
11月前

评论尸: AI 的基础能力补齐了之后,大厂就会开始卷“人味儿”了。 最近腾讯和小红书都在做非标语料和模型的投入。 腾讯的项目是“AI for Good 语料库”,关注 AI 在面对老弱病残等社会弱势群体时的表现,试图通过建立开源的语料库,来解决当前 AI 面对这部分用户体验不佳问题。 小红书则和复旦合作做了一个“AI 人文人才训练营”,引入更多的人文学科的人才,参与到大语言模型的训练中。 这个和“人味儿”有什么关系呢? 比较巧的是,这两家,在之前的活动和官方材料里都提到过这样一个案例—— 一个非医疗类的 AI,在面对一个绝症患者提出“我得了癌症”的时候该怎么办(比如图 1 这种,我暂时没患病,只是举个例子)。 在传统基于安全考虑的价值对齐中,AI 往往会简单应付两句,然后迅速转进到建议用户就医。 这往往就是在这个场景下,AI 不像人的表现之一,因为现实世界的朋友是不会这么说话的。 对于大部分这样发问的人来说,他早就已经在医院看过了,当他向一个 AI 这样提问的时候,除了保障安全的提示就医之外,他更想获得的是情绪上的安慰。 而这种更强化人文关怀,没有标准答案的语料,在过往的训练语料是相对缺失的。 这就导致了在价值对齐的过程中,AI 即便是知道在这种情境下应该给予用户更多的关怀,但却有可能适得其反。比如,建议笃信自己命不久矣的老年人立遗嘱,这可能是任何一个在中国文化环境下成长起来的人都不会做的事情,但 AI 说不好就会做。 找到这些可能出问题,标注,生成和找到跟好的训练语料,可能是文科生参与目前 AI 发展浪潮中最重要的作用。 还挺期待后续结果的。

00
ilex
11月前
这必须得小心地滑了
00
ilex
11月前
00
ilex
11月前
刚刚体验了一下Figma draw,完全是illustrator的模样了哈哈哈

熊猫镇长: Figma发了一个illustrator,一个cursor,一个canva,和一个framer。

00