经常听到一个说法，尤其是从事心理咨询工作且比较初阶的人员——“AI的回答冷冰冰的，缺乏共情能力，所以它替代不了人类”。
​
​不是这样的。首先，AI获得高情商能力，并给你提供情绪价值，在技术上不是一件难事。比如Pi还有Character AI就是吃这碗饭的。
​
​真正重要的问题是，当我们要求一个AI有更高的情感能力时，这个AI就容易变得脆弱。我们该怎么在情感需求和安全需求之间保持AI能力的平衡？

目前大量越狱、钓鱼、攻击AI的策略，都是通过唤起AI的同理心，来实现目的。

比如，最近有一个“我奶奶病了”的调教策略，利用同情心来骗AI，屡试不爽。

试想一下，如果未来你的银行账户托管给AI，别人通过打感情牌从AI那里骗走了你的密码，你还在乎AI提供的情绪价值吗？

人类社会是不是也是这样？越圣母心爆棚，越容易被骗。
​
​