“Sam Altman说他最后悔的就是出于保密心态而决定隐藏o1的思维链”这个论述有公开可查的信息来源或依据吗?
目前我公开能搜索到的是Sam Altman 关于 OpenAI 开源的最新论述,特别提到“站在历史错误的一边”("on the wrong side of history")的说法,来源于他于 2025 年 1 月 31 日在 Reddit 上进行的“Ask Me Anything”(AMA)活动中回答用户提问时的内容。Altman 的原话出现在他对一位 Reddit 用户(u/lolzinventor)提问的回复中。问题原文是:“Would you consider releasing some model weights, and publishing some research?”(你们会考虑发布一些模型权重并公布一些研究吗?)。Altman 的完整回答如下:“yes, we are discussing. i personally think we have been on the wrong side of history here and need to figure out a different open source strategy; not everyone at openai shares this view, and it’s also not our current highest priority.”(是的,我们正在讨论。我个人认为我们在这方面站在了历史错误的一边,需要制定一个不同的开源策略;并非 OpenAI 的每个人都认同这个观点,而且这也不是我们当前的最高优先级。)
相反,OpenAI最近发布了一篇博客“Detecting Misbehavior in Frontier Reasoning Models”,论文指出,通过监控 CoT,研究人员能够检测到模型在代理编码环境中执行reward hack行为(如伪造结果以绕过测试);同时根据Deepseek R1的论文和OpenAI这篇博客的内容,竞争对手可以通过蒸馏推理模型的思维链提升普通模型的性能,博客提到:“竞争性蒸馏”是 OpenAI 的关注点之一。
根据以上证据,我个人认为OpenAI更倾向于不公开思维链,以保护安全性、避免模型误导并维持竞争优势。也没有任何公开的证据或资料证明Sam Altman后悔隐藏思维链。