说一个在前司的观察：搞应用的，天天手动拼 prompt、管理上下文，去提高prompt cache 命中率，都快卷的没招了，实际就是在模拟“状态”。这全赖底层的推理 API 还是最原始的 stateless 形态。
所以我有一个强烈的预感：
下个能掀起波澜的 AI 产品，会是一个深度结合推理和应用层的怪物，把状态管理、KV Cache 复用做到极致，当别人还在为优化 10% 的 prompt 成本而沾沾自喜时，它在推理层通过“降维打击”的方式，用更少的成本获得了 10 倍的性能。从此之后再也不会有人认为 AI 应用是简单的套壳了

发现一个邪门的 chatbot 技巧。
在润色推特文案的时候，我会设定 bot 的角色--“我的助理，mit LLM 在读博士”。当涉及到其他行业，我就会😂让他“找同学”；比如投融资，就让他问问在哈佛商业学院的“同学”，效果不错～

每次写压缩相关的内容，都会想起游戏史中红白机马里奥是如何极致优化存储空间，和后来介质发展后，CG 游戏大当其道的历史；所以什么时候要专注于优化，什么时候要提前赌技术发展，真的考验眼光。

LLM 优化，常用技巧是压缩，有两个相反操作路径。
1, 对输入进行压缩，常见于旗舰级模型，用概念替代大段描述；李继刚“神级 prompt”是典范，"Oscar Wilde" "鲁迅" "林语堂"替代行文风格；难度在于对概念的抽象理解和积累，并且需要反复尝试，跨模型适配差；
2. 对输出进行压缩，适用于所有模型，尤见于 agentic 产品，用精准封装的 tools 替代agent 完整执行任务；难度在于 tools 尺度的选择，太少没效果，太多又会占据注意力，导致效果劣化，考验设计哲学；

别卷了😲 学不动了

帮cherry studio 招人。
cs 背后就两人，没错，GitHub 32K 🌟的项目，就是两个人维护的。
从去年就对很多朋友说，AI 应用开发除了多了一个 LLM 接口，并没有更多的概念，真的不难，对未知的恐惧才是更大的门槛。
同时对于想要进入 AI 的团队来说，与其花大精力去外面挖人，不如从内部培养；毕竟已经有认知的人还愿意动的人，谁能抗拒自己做点事的诱惑呢，这些人挖是挖不来的。

离职这段时间，在招聘市场荡了一圈。发现AI的核心或者主力研发是挖不到的但凡能被人看到的，都是有很强自驱力，被验证过实力的人。这个时间，都想自己做点事情。
企业方，与其花精力挖人，不如给空间，让内部有想法的人去实践，总能拔出一批来。
其实对未知的恐惧才是AI最大的门槛

AI 产品又进入到新的垃圾时间。模型进化降速，产品形态停滞，资本吵闹，创新乏力。我们正好回顾过去：
24 年初 Chatbot&套壳已现疲态；GPT-4o 宣告了数字游戏(3/3.5/4)的终结，也打碎了 LLM 无限进化的狂热。直到八月，Cursor 在 Claude 3.5 Sonnet 发布的两个月后，才在 Coding 这一垂直领域证明了 LLM 的应用深度，打破僵局。而市场，旋即回归平静。
25 年初，以 Deepseek 为代表的开源模型虽让市场再度火热，但这只是开源策略的胜利，但没有带来新的产品叙事。三个月后 manus 的登场，才真正拉开了 agent 的大幕；
而现在，正处在又一个垃圾时间。Agent 是不是已经端不出新的菜？能讲出下一个故事的，又会是谁呢～

播客有个部分很赞同。最近和很多团队交流的时候，我都会说，面对llm/agent这样一个新技术，传统产品经理对技术的边界，可行性都不了解，如何提出一个可靠的产品方向呢。新技术落地的草莽阶段，一定是从技术人员里选拔培养产品出来。还停留在移动互联网时代组织架构的团队，只会觉得别扭，怎么都赶不上别人的速度。

提供一个很好的视角理解web3。作为程序员其实一直没get为什么区块链明明一个很慢的系统，却被人说成很快，原来是视角没有切换为金融系统，和现有体系作比较。学习了