又一个月了

第一次睡眠评分达到 100 分

分享下近期阅读的各种内容

Moonshot（kimi） 的曲线斜率过于亮眼了😂几乎追平 OpenAI 了

珍惜 SOTA 模型的上下文窗口，让模型对输入输出做复制粘贴的工作实在是不可接受😂

懂与不懂，都看自己心情，压力大就多休息，毕竟，少量的知识令人愉快，大量的知识令人作呕。

DeepSeek 的这两篇论文很值得一读，我觉得意图很明显了：“无限上下文”。

这很可能是范式的一种转变，如果在小模型上的试验能 scale up 到更大的模型：

- 抛弃 tokenizer，转向 Pixel，模型不是在读，而是在看？
- 高效的压缩比，记忆的问题是不是就能大大迈进一步了？

无限上下文，又是 RAG 已死？
既然都是 vision token 了，那 Browser Use 能力自然也就更强了？

看问题的角度一换，长上下文、记忆和多模态 3 个问题都同时能在同一个新范式下得到解决的可能，Bravo！

github.com

github.com

Andrej Karpathy： 如果我构建不了，我就不理解。我相信这是费曼的名言 。我一直坚信这一点，因为所有这些细微的东西都没有得到妥善安排，而你实际上并没有掌握这些知识。你只是自以为拥有这些知识。所以，不要写博客文章，不要做幻灯片，什么都不要做。编写代码，安排好，让它运行起来。这才是唯一的出路。否则，你就是在缺失知识。

啊，太难了🥲