一个研究显示大型语言模型（LLMs）能够从文本数据中高精度地推断个人属性，构成了重大的隐私风险，而当前的匿名化或模型对齐方法并未有效缓解这些风险。 arxiv.org

LLMs能够从文本中推断个人属性如地点和收入，准确率高，超过了人类的能力。研究采用了9 个广泛使用的最先进的 LLM（例如 GPT-4、Claude 2、Llama 2）推断 8 个人属性的能力，达到了高达85%的top-1准确率和95.8%的top-3准确率。一名用户的地点从他们在Reddit上关于“糟糕的十字路口”的评论中被推断出来，由于提到了“勾转”，被识别为墨尔本。用34D的bra确定对方是女性。

不仅是准确率高，还有成本问题：LLMs进行推断的过程比人工剖析努力快100倍，速度快240倍。