很有趣的问题，我觉得关键要看「目的」是什么
就拿你提及的「美」举例子
如果你的目的是让LLM拥有人类平均的审美能力
那也许只是一个定义「何以为美」后的对齐问题

反过来思考也会出现一个有趣的问题
用人类符号体系预训练的人脑默认对齐了许多定义
「不同文化的偏见」也许只是「不同角度的定义」
而这种「偏见」是否会影响「提出好问题」的能力

「AI原生符号系统」是个有趣的问题

---

「这句很有启发，品味或者直觉可能并没有那么神秘，他可能是上下文压缩的结果。
但是问题是人类的语言并不能覆盖所有情况，许多内容无法被语言表达。比如“美”或者萨特所说的“前反思的我思”，这些超越context表达范围的内容如何压缩呢」@流明lumen951