即刻App年轻人的同好社区
下载
过年给我妈装了豆包和阿福，昨天发来消息说这俩 App 太聪明了，学会了好多东西，而且上了春晚，是正规大公司。
跟豆包学了怎么拍照、怎么写微博、怎么给狗子做好的狗饭，过敏了去医院检查，医生给开了药，让长期吃，但把这些信息发给了阿福，说是不要长期吃，原因是 123。
我妈表示百度拉完了以及有啥事再也不找我了，比起这俩我也拉完了😭
跟豆包学了怎么拍照、怎么写微博、怎么给狗子做好的狗饭，过敏了去医院检查，医生给开了药，让长期吃，但把这些信息发给了阿福，说是不要长期吃，原因是 123。
我妈表示百度拉完了以及有啥事再也不找我了，比起这俩我也拉完了😭
30 21
「您好，你是李奇吧？你还住在朝阳 XXX 么？」
「在呢在呢」
「哦，我这是朝阳 XX 派出所的，XXX 跟你什么关系？」
「我女朋友，咋了？」
「我们用工作微信加了她，但给我们拉黑了，能不能让她给我们加回来，有点材料需要确认，我们不是诈骗，不行可以来所里确认」
「不会派出所也是假的吧？」
「…」
「在呢在呢」
「哦，我这是朝阳 XX 派出所的，XXX 跟你什么关系？」
「我女朋友，咋了？」
「我们用工作微信加了她，但给我们拉黑了，能不能让她给我们加回来，有点材料需要确认，我们不是诈骗，不行可以来所里确认」
「不会派出所也是假的吧？」
「…」
23 42
（户籍大厅）
👩🏻：我要给孩子落户，非婚生育，亲子鉴定也做了，这个怎么操作？
👮🏻♀️：你得把他父亲叫来
👩🏻：但是我找不到他爸了，这个怎么搞
👮🏻♀️：那不行，你得找来才行
👩🏻：那我怎么办呢？孩子马上要上幼儿园了
👮🏻♀️：你只有一半的权利，必须得父亲也在
👩🏻：卧槽，*s&djdhw*………
👩🏻：我要给孩子落户，非婚生育，亲子鉴定也做了，这个怎么操作？
👮🏻♀️：你得把他父亲叫来
👩🏻：但是我找不到他爸了，这个怎么搞
👮🏻♀️：那不行，你得找来才行
👩🏻：那我怎么办呢？孩子马上要上幼儿园了
👮🏻♀️：你只有一半的权利，必须得父亲也在
👩🏻：卧槽，*s&djdhw*………
18 114
今天看到 Anthropic Safeguards Research Team 的 Lead Mrinank Sharma 离职了，看了一下他最近关于 AI 削权的研究工作（把决策和行动外包给 AI），几个数据：
1、严重削权的比例占样本对话 ＜1‰（样本量150W）；
2、Relationships & Lifestyle 占比到了 8%，编程等技术领域 ＜1%，在人际关系、心理、健康、价值冲突的领域里更容易把决策交给 AI。
3、大家给 AI 的头衔最多的是专家\顾问\导师（权威投射），也有主人、父母等，也有被要求将用户叫主人的；
4、削权风险的严重程度随时间上升，25 年 5 月后更明显，但作者说不确定因果（我猜是模型越强，风险越高）；
5、被标记为高风险的对话里，用户更愿意点赞，说明用户更喜欢「你就说我应该怎么干」，但很多时候也会隔一段时间紧接着一个「我不应该听你的」，这代表了得到了不好的结果。
当你希望赋权给用户时，最后的结果却是在夺权，同时这并不是被 AI 引导做出的，而是用户主动寻求这个结果 🤔
1、严重削权的比例占样本对话 ＜1‰（样本量150W）；
2、Relationships & Lifestyle 占比到了 8%，编程等技术领域 ＜1%，在人际关系、心理、健康、价值冲突的领域里更容易把决策交给 AI。
3、大家给 AI 的头衔最多的是专家\顾问\导师（权威投射），也有主人、父母等，也有被要求将用户叫主人的；
4、削权风险的严重程度随时间上升，25 年 5 月后更明显，但作者说不确定因果（我猜是模型越强，风险越高）；
5、被标记为高风险的对话里，用户更愿意点赞，说明用户更喜欢「你就说我应该怎么干」，但很多时候也会隔一段时间紧接着一个「我不应该听你的」，这代表了得到了不好的结果。
当你希望赋权给用户时，最后的结果却是在夺权，同时这并不是被 AI 引导做出的，而是用户主动寻求这个结果 🤔
6 21
上班的时候被老板 challenge，有了 AI 之后被 AI challenge：你怎么看这些问题？你觉得这对么？问题没有根本解决、他真的需要么？用户真的愿意么？你这个是不是伪需求？是不是还得再想想？有数据和调研证明么？
看着屏幕上这一个个问号冥思苦想的时候突然悟了，直接回复：那你说怎么办！就上面这些问题你好好想想然后给我 3 个方案。
还是得转变牛马思路🥹
看着屏幕上这一个个问号冥思苦想的时候突然悟了，直接回复：那你说怎么办！就上面这些问题你好好想想然后给我 3 个方案。
还是得转变牛马思路🥹
15 01