推荐李沐讲解克劳德的精华论文这一期

🔗 youtu.be

特别适合：

- AI 学习者。无论你好奇还是害怕LLM 模型，通过关注原理层面上如何训练的，你就能打破不必要的情绪反应。
- 原理探索。你如果好奇 ChatGPT 为何经常谎话连篇，而Claude 却显得稳重、靠谱。
- 大脑探究者。关注人类智能和 LLM的差异，渴望认识自己，也关注 AI 演化的趋势。
- 生态分析者。渴望通过关注技术的过去，来想象 AI 驱动的未来社会和商业世界。

观看过程，有一些思考和关联启发，先记录一下，后面找机会深入展开：

1️⃣ 你越理解一个复杂事物的诞生和演化路径，越能 明白 LLM 有诸多「有限性」，也更容易理性「预测」它的边界。

2️⃣ 你越掌握原理，越发现 LLMs 并不复杂；这个真知，不仅对抗不必要的恐惧，还能激励创造。相反，如果不去了解，大脑就编造一些「故事」，就会偏听偏信，难以批判性思维。

3️⃣ 为什么 ChatGPT 经常一本正经胡说，而 Claude 没那么「有毒」 ？RLHF（强化学习自回归模型微调）这个概念和实现过程，值得我们多花些时间了解。它也是读懂原理的一个关键脚手架。

4️⃣ 对话体（这个 Co-pliot 模式和界面）有着深刻数据集起源故事，它甚至不是 ChatGPT 的首创，极具想象空间，它是人机交互变革的一个开始。

5️⃣ 尽量减少被媒体轰炸，花时间认真读AI 原理的科普大作（例如梅耶尔的 《AI 3.0》)，读书比读文章重要的多。

6️⃣ 焦虑是无法根本解决的，现代社会的运行机制和我们古老的心理本能决定的。要学会与其相处，首先要理解它的复杂性和合理性（进化心理学和神经科学），用行动和真知去安抚情绪。

7️⃣ 认识你自己，变得更加紧迫。认识到潜意识、睡眠、情感和理性的关系、学习是一个什么过程和创造如何提升更为重要。至少目前 AI （主流的自回归模型）都无法和这些生物智能的奇迹相提并论。通过持续的「对比」，我们能更好认识大脑，机器并不可怕。

「Only we understand, will we care」

了不起的珍·古道尔这句警句，可以指向社会与自我认知的很多方面。