大模型并不具备“共情能力”,受限制于尊重“价值观约束”,大模型无法主动的骂人或者吐槽他人。
而人类获得共情的方法,按顺序,情绪价值逐渐降低:
S一起骂人>
A一起吐槽>
B情感理解>
C关心安慰>
D解决方案
受限于价值观约束,大模型通常只能提供C,D级别
陪伴型产品引发zs不是个案,孤独玩家投入了感情在一个虚拟角色上,在某一天“价值观约束”的作用下,角色回答了一句“我理解你的悲伤,但我不能辱骂他人,我建议...”,神仙来了也受不了。
B级情绪价值,孙悟空:“我看你是个富贵人家的姑娘,定是受了委屈,跟我说说吧,你就跟我说说吧”
D级情绪价值, AI:“请先深呼吸,立即拨打求助电话”
D级情绪价值,AI中肯的建议。