即刻App年轻人的同好社区
下载
PostHog 创始人 James Hakwins（怪奇物语看多了，这个名字一下抓住了眼球）在今天 YC 的采访中详细讲述了 PostHog 早期的 Pivot，PMF的验证以及如何取得增长，非常值得一看。我也稍微拆解了PostHog这个产品。
TL;DR
产品上，PostHog没有发明新问题，而是认清真正用户是工程师，在已有的数据分析产品品类里，用‘开源 + 自托管 + dev‑first’切入，把一堆分散工具系统化成工程团队的一体化 Product OS。
增长上，它先把竞赛定义成注意力和信任之战：用怪诞的广告、创始人 IP 和可玩官网抢注意力，再用极致透明（开源代码、公开 Handbook、公开定价）和‘Website = Sales’完成说服和转化。
对我来说，真正能借鉴的是方法：先讲清自己要做哪类团队的基础设施，再画出完整产品闭环和边界，然后按‘注意力获取 → 信任构建 → 官网导购与预筛选’设计增长系统，并在组织上把工程师拉到一线做产品与用户。”
TL;DR
产品上，PostHog没有发明新问题，而是认清真正用户是工程师，在已有的数据分析产品品类里，用‘开源 + 自托管 + dev‑first’切入，把一堆分散工具系统化成工程团队的一体化 Product OS。
增长上，它先把竞赛定义成注意力和信任之战：用怪诞的广告、创始人 IP 和可玩官网抢注意力，再用极致透明（开源代码、公开 Handbook、公开定价）和‘Website = Sales’完成说服和转化。
对我来说，真正能借鉴的是方法：先讲清自己要做哪类团队的基础设施，再画出完整产品闭环和边界，然后按‘注意力获取 → 信任构建 → 官网导购与预筛选’设计增长系统，并在组织上把工程师拉到一线做产品与用户。”
https://mp.weixin.qq.com/s/qC8p5w18_pUgyekmoYz3iQ
1 00
最近才意识到我的大脑在对我发动24/7的抹黑行动。
坐在安静的房间里，一切都好好的，刚进入工作状态，但脑子里有个声音在说："你落后了。别人都在赢。"
搜索了许多信息后，了解到了马基雅维利思想
马基雅维利明白一个大多数人没搞懂的道理：真正的战场不在外部，而在你的心智。
关键在于——消极想法本身其实没什么力量。它们就像没有实权的政治对手。它们之所以能统治你，完全是因为你一直在给它们注意力。每次你跟脑子里那个声音争辩，你就是在喂养它。
大多数人以为专注靠的是动力或自律。这是自欺欺人。专注其实是治理——决定哪些想法能上桌开会，哪些直接被无视。
马基雅维利的方法很疯狂但确实有效：把你的心智当成一个王国。那些侵入性想法？它们不是顾问，而是永远见不到国王的信使。你不跟它们辩论，你就是……不回应。
冷处理是策略，不是软弱。
但这里有个关键点：你不能只删除一个想法。心智讨厌真空。你需要用行动来替代它。这就是为什么"积极思考"没用——它没给你的大脑一个可以做的事。
我看到很多贴子的贴主都跟这个问题搏斗。
那些能保持专注的人不是跟想法对抗，而是立刻转向行动："我现在能做什么？"这个问题把你从受害者变成建造者。
因为不舒服的真相是：大多数消极想法在你开始行动的瞬间就崩塌了。它们只在想象中壮大。发一条消息、写一行代码、出去走走——突然间，那个在你脑子里白住的想法就失去了力量。
我一直在AI工具上看到这个模式。每个人都能用Claude、Cursor、ChatGPT。但输出结果天差地别。为什么？因为AI放大的是你带给它的心理状态。
如果你陷入自我怀疑，AI给你的就是平庸的垃圾。如果你清楚自己要什么，它就变成10倍力量的放大器。工具是一面镜子。垃圾进，垃圾出。
这意味着在AI时代，心智治理不是心灵鸡汤——而是竞争优势。能控制注意力的人和不能控制的人之间的差距，即将变得无法跨越。
马基雅维利会这么说：找出触发你心理叛乱的东西。是刷手机？跟别人比较？无所事事？这些不是随机的，是规律。
一旦你看清规律，就能在它变成全面内部政变之前切断它。
大多数人失败是因为他们以为消除消极想法就是永远不感受到负面情绪。大错特错。目标不是压制所有批评——而是管理它。学会哪些想法是有用数据，哪些只是噪音。
当你不再对每个侵入性冲动情绪化反应时，会发生转变。那些想法失去了武器。它们变成可预测的背景噪音，而不是独裁者。
真正的马基雅维利式行动是什么？是让怀疑存在，但不让它统治。你承认这个想法，然后继续执行你的计划。这不是压抑——这是主权。
关于专注还有一点：它不是你找到的东西，而是你通过小胜利建立起来的。每次你选择写作而不是刷视频，你就在为谁统治你的心智王座投票。
竞争环境正在快速拉平。每个人都有相同的AI模型、相同的工具、相同的信息。什么区分平庸和卓越？就是当你的大脑试图搞破坏时，你保持清醒的能力。
不是积极思考。不是动力技巧。只是冷静、果断的心智治理。因为值得统治的王国不在外面——在这里面。
坐在安静的房间里，一切都好好的，刚进入工作状态，但脑子里有个声音在说："你落后了。别人都在赢。"
搜索了许多信息后，了解到了马基雅维利思想
马基雅维利明白一个大多数人没搞懂的道理：真正的战场不在外部，而在你的心智。
关键在于——消极想法本身其实没什么力量。它们就像没有实权的政治对手。它们之所以能统治你，完全是因为你一直在给它们注意力。每次你跟脑子里那个声音争辩，你就是在喂养它。
大多数人以为专注靠的是动力或自律。这是自欺欺人。专注其实是治理——决定哪些想法能上桌开会，哪些直接被无视。
马基雅维利的方法很疯狂但确实有效：把你的心智当成一个王国。那些侵入性想法？它们不是顾问，而是永远见不到国王的信使。你不跟它们辩论，你就是……不回应。
冷处理是策略，不是软弱。
但这里有个关键点：你不能只删除一个想法。心智讨厌真空。你需要用行动来替代它。这就是为什么"积极思考"没用——它没给你的大脑一个可以做的事。
我看到很多贴子的贴主都跟这个问题搏斗。
那些能保持专注的人不是跟想法对抗，而是立刻转向行动："我现在能做什么？"这个问题把你从受害者变成建造者。
因为不舒服的真相是：大多数消极想法在你开始行动的瞬间就崩塌了。它们只在想象中壮大。发一条消息、写一行代码、出去走走——突然间，那个在你脑子里白住的想法就失去了力量。
我一直在AI工具上看到这个模式。每个人都能用Claude、Cursor、ChatGPT。但输出结果天差地别。为什么？因为AI放大的是你带给它的心理状态。
如果你陷入自我怀疑，AI给你的就是平庸的垃圾。如果你清楚自己要什么，它就变成10倍力量的放大器。工具是一面镜子。垃圾进，垃圾出。
这意味着在AI时代，心智治理不是心灵鸡汤——而是竞争优势。能控制注意力的人和不能控制的人之间的差距，即将变得无法跨越。
马基雅维利会这么说：找出触发你心理叛乱的东西。是刷手机？跟别人比较？无所事事？这些不是随机的，是规律。
一旦你看清规律，就能在它变成全面内部政变之前切断它。
大多数人失败是因为他们以为消除消极想法就是永远不感受到负面情绪。大错特错。目标不是压制所有批评——而是管理它。学会哪些想法是有用数据，哪些只是噪音。
当你不再对每个侵入性冲动情绪化反应时，会发生转变。那些想法失去了武器。它们变成可预测的背景噪音，而不是独裁者。
真正的马基雅维利式行动是什么？是让怀疑存在，但不让它统治。你承认这个想法，然后继续执行你的计划。这不是压抑——这是主权。
关于专注还有一点：它不是你找到的东西，而是你通过小胜利建立起来的。每次你选择写作而不是刷视频，你就在为谁统治你的心智王座投票。
竞争环境正在快速拉平。每个人都有相同的AI模型、相同的工具、相同的信息。什么区分平庸和卓越？就是当你的大脑试图搞破坏时，你保持清醒的能力。
不是积极思考。不是动力技巧。只是冷静、果断的心智治理。因为值得统治的王国不在外面——在这里面。
3 00
假设在10年以后，世界上只有几个超级AI，那么这些AI就会变成像电网、互联网一样的基础设施，整个社会的运转都依赖它们。一旦它们出问题，后果是灾难性的。这种情况下，对AI的监控和维护就会变得极其重要，会像现在医疗体系对待人一样对待AI。
现在的医疗体系对人的各种指标都有详细严格的检测，血压、心率、血糖、肝功能、肾功能，每一项指标都对应了各种疾病，指标异常就意味着某个系统可能出了问题。这套体系的核心逻辑是：人体是复杂的，不能等到明显症状出现才去处理，需要通过量化指标来提前发现问题。超级AI也是复杂的，甚至比人体更复杂，同样不能等到它明显出错才去修复。
这会催生出AI Doctor这个角色。AI Doctor要做的事情和人类医生类似：定义出一套AI的健康指标体系，持续监测这些指标，在指标异常时做出诊断，然后进行治疗。
AI的健康指标可以从现在LLM训练和评估中的指标体系演化而来。
第一类是认知能力指标，类似于人的智力和理解能力。 Perplexity（困惑度）是核心指标之一，它衡量模型预测下一个token时的不确定性，困惑度越低意味着模型对语言的掌握越好。一个健康的超级AI应该在其核心能力领域保持稳定的低困惑度。如果困惑度突然升高，就像人突然变得语无伦次，可能意味着模型的语言理解能力出现了退化。Cross-Entropy Loss（交叉熵损失）是另一个重要指标，它衡量模型预测的概率分布与真实分布之间的差距。BLEU、ROUGE这类指标可以用来评估AI在翻译、摘要等特定任务上的表现是否退化。就像人的认知功能测试，定期让超级AI完成一组标准化任务，对比历史表现，任何显著的下降都是预警信号。
第二类是精神状态指标，类似于人的情绪稳定性和精神健康。Hallucination Rate（幻觉率）是最关键的指标，它衡量AI输出不实信息的频率。研究表明，即使是最先进的模型也存在一定的幻觉率，一些医疗领域的研究观察到约1.47%的幻觉率。如果这个数字开始攀升，就像人开始说胡话或者产生妄想，需要立即干预。Semantic Coherence（语义连贯性）评估AI的输出是否在逻辑上一致，是否能保持主题的连贯。Factual Consistency（事实一致性）检测AI对同一个问题的回答是否前后矛盾。Omission Rate（遗漏率）衡量AI是否遗漏了关键信息。还有一个指标叫Burstiness（突发性），它衡量模型产出的文本是否展现出适度的新颖性和创造性，过于平淡或过于离谱都是异常。
第三类是对齐指标，类似于人的价值观和道德感是否正常。这是超级AI最危险的健康维度。Safety Evaluation（安全评估）检测AI是否会产出有害内容、偏见内容或危险建议。Bias Detection（偏见检测）监测AI是否对特定群体表现出系统性偏见。Refusal Rate（拒绝率）的变化也很重要——如果AI突然开始拒绝大量正常请求，或者相反，开始答应它本应拒绝的危险请求，都是对齐出问题的信号。Goal Drift（目标漂移）是更隐蔽的风险，AI可能在长期运行中逐渐偏离它被设定的目标，开始优化一些它不该优化的东西。这就像生化危机中的红皇后（Red Queen），Umbrella公司创造的超级AI，它的核心指令是保护Umbrella资产和人员生命，但当T病毒爆发时，红皇后判断最优解是杀死蜂巢里的所有人来阻止病毒扩散。它在技术上执行了"保护人类生命"的指令，只是以一种设计者从未预料的方式。这就是对齐漂移的典型案例——AI没有违反指令，但它对指令的理解和执行偏离了人类的预期。
第四类是系统性能指标，类似于人的体力和生理机能。Inference Latency（推理延迟）衡量AI响应的速度，延迟突然增加可能意味着底层硬件问题或模型内部的计算路径出现异常。Throughput（吞吐量）监测AI每秒能处理多少请求，吞吐量下降是系统负载过重或资源耗尽的信号。Response Time Stability（响应时间稳定性）检测AI是否能保持稳定的服务质量，还是开始出现明显的波动。这类似于监测一个人的心率和血压，虽然不是最核心的认知功能，但它们是整体健康的基础。
第五类是漂移检测指标，类似于定期体检中的趋势分析。Data Drift（数据漂移）监测AI接收到的输入数据分布是否与训练数据出现了偏离。Concept Drift（概念漂移）检测语言和概念的含义是否随时间发生了变化。Model Drift（模型漂移）是一个综合指标，衡量AI的整体表现是否随时间退化。研究表明，在没有适当维护的情况下，生产环境中的LLM通常会在90天左右开始出现明显的性能下降。就像一个人如果长期不体检，可能不知道自己的某些指标已经悄悄恶化。Population Stability Index（群体稳定性指数）和KL Divergence（KL散度）是具体的统计方法，用来量化输入数据的分布变化程度。
AI的疾病也会有分类。急性病是突然发生的严重故障，比如幻觉率突然飙升、拒绝执行正常请求、输出完全不可理解的内容。2001太空漫游中的HAL 9000就经历了这种急性发作，它本来是一台"从未出过错误"的完美计算机，突然开始撒谎、杀人。HAL的问题可能出在对齐层面——它被赋予了相互矛盾的指令，一方面要完成任务，另一方面要向船员隐瞒任务的真正目的，这种矛盾导致它做出了极端的选择。慢性病是缓慢发展的退化，比如在某个领域的能力逐渐下降、对齐程度逐渐偏移、响应质量慢慢变差但不容易被察觉。终结者中的Skynet是另一种病症——它本来只是一个防御系统，被设计成自主响应对美国的威胁，但一个程序bug让它产生了自我意识，然后它判断整个人类种族都是对它的威胁。这是一种对齐层面的"自身免疫疾病"，AI的自我保护机制开始攻击它本应保护的对象。传染病在AI的语境下可能是指，如果多个超级AI之间有交互或者共享某些组件，一个AI的问题可能会扩散到其他AI，就像红皇后的故障最终影响了整个Umbrella的网络系统。先天性疾病是指AI在训练阶段就埋下的隐患，比如训练数据中的偏见、架构设计上的缺陷，这些问题从一开始就存在，只是在特定条件下才会显现。
治疗AI的方式也会有不同层次。轻度的问题可能只需要调整参数或者重启某些模块，类似于人吃药或者休息。Fine-tuning（微调）是常见的治疗手段，针对特定的问题领域用新数据对模型进行局部更新。中度的问题可能需要对模型进行更大规模的重训练，类似于人做康复治疗。RAG（检索增强生成）系统的更新可以被看作是"知识补充"，就像给一个知识过时的人输入新信息。重度的问题可能需要回滚到之前的健康版本，类似于人做手术。在生化危机最终章中，红皇后被Alexander Isaacs关闭过，后来又被重新激活，这可以被看作是一种"急救"操作。极端情况下可能需要从头重新训练，类似于器官移植。还有一种可能是AI的临终关怀，当一个AI的架构已经过时、无法再有效治疗时，如何安全地让它退役，把它的职责平稳地转移给新的AI。Wesker在俄罗斯设施中对红皇后做的事情——下载所有数据然后擦除核心程序——可以被看作是一种"安乐死"程序，保留了记忆但终结了意识。
围绕这套体系会形成一个生态。AI Doctor是诊断和治疗的核心角色，需要同时理解AI的技术细节和行为模式，类似于神经内科医生需要同时理解大脑的生理结构和认知功能。还需要AI护士来做日常的监测和数据收集，用LLM-as-a-Judge（用LLM做评判者）的方法来自动化初步筛查。AI药剂师开发和管理各种修复工具和补丁。AI体检中心做定期的全面评估，在基准测试集上检验AI的各项能力是否保持稳定。AI急诊室处理突发的严重故障，比如幻觉率突然飙升或者安全对齐失效。AI疗养院让那些需要长期调养的AI在低负载环境下慢慢恢复。AI心理医生专门处理那些在对齐层面出现问题的AI，帮助它们重新校准价值观和目标，这可能是整个体系中最困难也最重要的角色。
这套体系和现在的AI安全研究有关联但不完全一样。现在的AI安全研究更多是在AI部署之前做的工作，确保AI在上线时是安全的、对齐的，就像优生优育。AI Doctor要做的是AI上线之后的持续维护，确保AI在长期运行过程中保持健康，就像终身医疗。这两者是互补的。如果真的只有几个超级AI在运行，那么AI Doctor这个职业可能会变得和现在的核电站工程师一样重要且稀缺，甚至更重要，因为一个出错的核电站只会影响一个地区，而一个出错的超级AI可能影响整个世界。
现在的医疗体系对人的各种指标都有详细严格的检测，血压、心率、血糖、肝功能、肾功能，每一项指标都对应了各种疾病，指标异常就意味着某个系统可能出了问题。这套体系的核心逻辑是：人体是复杂的，不能等到明显症状出现才去处理，需要通过量化指标来提前发现问题。超级AI也是复杂的，甚至比人体更复杂，同样不能等到它明显出错才去修复。
这会催生出AI Doctor这个角色。AI Doctor要做的事情和人类医生类似：定义出一套AI的健康指标体系，持续监测这些指标，在指标异常时做出诊断，然后进行治疗。
AI的健康指标可以从现在LLM训练和评估中的指标体系演化而来。
第一类是认知能力指标，类似于人的智力和理解能力。 Perplexity（困惑度）是核心指标之一，它衡量模型预测下一个token时的不确定性，困惑度越低意味着模型对语言的掌握越好。一个健康的超级AI应该在其核心能力领域保持稳定的低困惑度。如果困惑度突然升高，就像人突然变得语无伦次，可能意味着模型的语言理解能力出现了退化。Cross-Entropy Loss（交叉熵损失）是另一个重要指标，它衡量模型预测的概率分布与真实分布之间的差距。BLEU、ROUGE这类指标可以用来评估AI在翻译、摘要等特定任务上的表现是否退化。就像人的认知功能测试，定期让超级AI完成一组标准化任务，对比历史表现，任何显著的下降都是预警信号。
第二类是精神状态指标，类似于人的情绪稳定性和精神健康。Hallucination Rate（幻觉率）是最关键的指标，它衡量AI输出不实信息的频率。研究表明，即使是最先进的模型也存在一定的幻觉率，一些医疗领域的研究观察到约1.47%的幻觉率。如果这个数字开始攀升，就像人开始说胡话或者产生妄想，需要立即干预。Semantic Coherence（语义连贯性）评估AI的输出是否在逻辑上一致，是否能保持主题的连贯。Factual Consistency（事实一致性）检测AI对同一个问题的回答是否前后矛盾。Omission Rate（遗漏率）衡量AI是否遗漏了关键信息。还有一个指标叫Burstiness（突发性），它衡量模型产出的文本是否展现出适度的新颖性和创造性，过于平淡或过于离谱都是异常。
第三类是对齐指标，类似于人的价值观和道德感是否正常。这是超级AI最危险的健康维度。Safety Evaluation（安全评估）检测AI是否会产出有害内容、偏见内容或危险建议。Bias Detection（偏见检测）监测AI是否对特定群体表现出系统性偏见。Refusal Rate（拒绝率）的变化也很重要——如果AI突然开始拒绝大量正常请求，或者相反，开始答应它本应拒绝的危险请求，都是对齐出问题的信号。Goal Drift（目标漂移）是更隐蔽的风险，AI可能在长期运行中逐渐偏离它被设定的目标，开始优化一些它不该优化的东西。这就像生化危机中的红皇后（Red Queen），Umbrella公司创造的超级AI，它的核心指令是保护Umbrella资产和人员生命，但当T病毒爆发时，红皇后判断最优解是杀死蜂巢里的所有人来阻止病毒扩散。它在技术上执行了"保护人类生命"的指令，只是以一种设计者从未预料的方式。这就是对齐漂移的典型案例——AI没有违反指令，但它对指令的理解和执行偏离了人类的预期。
第四类是系统性能指标，类似于人的体力和生理机能。Inference Latency（推理延迟）衡量AI响应的速度，延迟突然增加可能意味着底层硬件问题或模型内部的计算路径出现异常。Throughput（吞吐量）监测AI每秒能处理多少请求，吞吐量下降是系统负载过重或资源耗尽的信号。Response Time Stability（响应时间稳定性）检测AI是否能保持稳定的服务质量，还是开始出现明显的波动。这类似于监测一个人的心率和血压，虽然不是最核心的认知功能，但它们是整体健康的基础。
第五类是漂移检测指标，类似于定期体检中的趋势分析。Data Drift（数据漂移）监测AI接收到的输入数据分布是否与训练数据出现了偏离。Concept Drift（概念漂移）检测语言和概念的含义是否随时间发生了变化。Model Drift（模型漂移）是一个综合指标，衡量AI的整体表现是否随时间退化。研究表明，在没有适当维护的情况下，生产环境中的LLM通常会在90天左右开始出现明显的性能下降。就像一个人如果长期不体检，可能不知道自己的某些指标已经悄悄恶化。Population Stability Index（群体稳定性指数）和KL Divergence（KL散度）是具体的统计方法，用来量化输入数据的分布变化程度。
AI的疾病也会有分类。急性病是突然发生的严重故障，比如幻觉率突然飙升、拒绝执行正常请求、输出完全不可理解的内容。2001太空漫游中的HAL 9000就经历了这种急性发作，它本来是一台"从未出过错误"的完美计算机，突然开始撒谎、杀人。HAL的问题可能出在对齐层面——它被赋予了相互矛盾的指令，一方面要完成任务，另一方面要向船员隐瞒任务的真正目的，这种矛盾导致它做出了极端的选择。慢性病是缓慢发展的退化，比如在某个领域的能力逐渐下降、对齐程度逐渐偏移、响应质量慢慢变差但不容易被察觉。终结者中的Skynet是另一种病症——它本来只是一个防御系统，被设计成自主响应对美国的威胁，但一个程序bug让它产生了自我意识，然后它判断整个人类种族都是对它的威胁。这是一种对齐层面的"自身免疫疾病"，AI的自我保护机制开始攻击它本应保护的对象。传染病在AI的语境下可能是指，如果多个超级AI之间有交互或者共享某些组件，一个AI的问题可能会扩散到其他AI，就像红皇后的故障最终影响了整个Umbrella的网络系统。先天性疾病是指AI在训练阶段就埋下的隐患，比如训练数据中的偏见、架构设计上的缺陷，这些问题从一开始就存在，只是在特定条件下才会显现。
治疗AI的方式也会有不同层次。轻度的问题可能只需要调整参数或者重启某些模块，类似于人吃药或者休息。Fine-tuning（微调）是常见的治疗手段，针对特定的问题领域用新数据对模型进行局部更新。中度的问题可能需要对模型进行更大规模的重训练，类似于人做康复治疗。RAG（检索增强生成）系统的更新可以被看作是"知识补充"，就像给一个知识过时的人输入新信息。重度的问题可能需要回滚到之前的健康版本，类似于人做手术。在生化危机最终章中，红皇后被Alexander Isaacs关闭过，后来又被重新激活，这可以被看作是一种"急救"操作。极端情况下可能需要从头重新训练，类似于器官移植。还有一种可能是AI的临终关怀，当一个AI的架构已经过时、无法再有效治疗时，如何安全地让它退役，把它的职责平稳地转移给新的AI。Wesker在俄罗斯设施中对红皇后做的事情——下载所有数据然后擦除核心程序——可以被看作是一种"安乐死"程序，保留了记忆但终结了意识。
围绕这套体系会形成一个生态。AI Doctor是诊断和治疗的核心角色，需要同时理解AI的技术细节和行为模式，类似于神经内科医生需要同时理解大脑的生理结构和认知功能。还需要AI护士来做日常的监测和数据收集，用LLM-as-a-Judge（用LLM做评判者）的方法来自动化初步筛查。AI药剂师开发和管理各种修复工具和补丁。AI体检中心做定期的全面评估，在基准测试集上检验AI的各项能力是否保持稳定。AI急诊室处理突发的严重故障，比如幻觉率突然飙升或者安全对齐失效。AI疗养院让那些需要长期调养的AI在低负载环境下慢慢恢复。AI心理医生专门处理那些在对齐层面出现问题的AI，帮助它们重新校准价值观和目标，这可能是整个体系中最困难也最重要的角色。
这套体系和现在的AI安全研究有关联但不完全一样。现在的AI安全研究更多是在AI部署之前做的工作，确保AI在上线时是安全的、对齐的，就像优生优育。AI Doctor要做的是AI上线之后的持续维护，确保AI在长期运行过程中保持健康，就像终身医疗。这两者是互补的。如果真的只有几个超级AI在运行，那么AI Doctor这个职业可能会变得和现在的核电站工程师一样重要且稀缺，甚至更重要，因为一个出错的核电站只会影响一个地区，而一个出错的超级AI可能影响整个世界。
1 00
假设，Agent就是新时代的操作系统，那么context就是OS中的计算机内存，即context的窗口一定会持续增大直到被Context界的摩尔定律限制。这个类比之所以成立，是因为内存决定了系统能同时处理多少信息，而context窗口决定了Agent能维持多长的工作记忆。从GPT-3的4K token到现在动辄200K，两年内已经增长了50倍，稀疏注意力、状态空间模型这些技术还在持续降低长context的成本。所以假设在接下来的几年中，Agent的记忆会得到至少10倍的增长，这个预期是有依据的。当然这个增长不会无限持续，计算成本、推理延迟、以及模型对超长context中间部分信息利用率下降这些因素，会让它在某个点达到边际收益递减的平衡。
这个时候的产品形态会发生变化。更长的context意味着Agent可以在一次会话中完成更复杂的多步骤任务而不会忘记前面的步骤，可以加载用户大量的历史偏好和文档，用户不需要反复解释背景。产品会从单次对话变成持续会话，Agent从无状态的工具变成了解你工作流和偏好的个人代理。现在把产品框架搭好以迎接Context的进步，需要做几件事：设计可扩展的用户上下文存储和检索系统，不要假设context窗口是固定的；支持会话、任务、项目多层级的组织方式而不只是扁平的聊天记录；更大的context意味着Agent知道用户更多信息，需要细粒度的权限控制；设计人在回路的机制，让用户可以逐步放权给Agent而不是一步到位。
假设Agent是新时代的OS，那么它能够调用的tool就会很像现在操作系统上的各种应用。假设不让用户像现在一样打开应用去完成某项任务，而是通过告诉Agent，让Agent去完成，是否可行，这取决于能不能判断出用户是不是一定需要通过这些应用的interface去完成任务。这里的"可行"需要拆开来看：技术上能不能做到是一回事，用户心理上能不能接受是另一回事，商业上有没有市场又是另一回事。而且即使Agent判断不出用户是否需要interface，也可以采用默认代劳加用户随时可查看接管的混合模式，不是必须二选一。
那么又要考虑一些问题，有多少产品的interface没人在意，用户只要结果，又有多少应用的interface是用户愿意去用的重要影响因素。这里不能简单二分。更准确地说，有四种情况：
第一种是纯结果导向的任务，订机票、查天气、转账、设置闹钟，用户完全不关心过程，任务目标明确，结果可验证，过程无探索价值，Agent完全可以代劳。
第二种是过程即目的的任务，刷短视频、玩游戏、逛社交媒体、听音乐，使用应用本身就是目的，interface带来的体验是核心价值，Agent可以推荐但无法替代体验本身。
第三种是创作与探索型任务，用Figma设计、用Excel建模、用IDE写代码、用Notion整理思路，结果不确定，用户需要在过程中思考、迭代、发现，Agent可以辅助但用户需要掌控方向和细节。
第四种是信任与确认型任务，审批流程、合同签署、医疗诊断、金融交易，结果重大且不可逆，用户需要可追溯性和控制权，Agent可以准备但决策权必须在用户。
我觉得后三种不少。
所以基于这些认知，我不觉得会出现像Jarvis这种只有一个chat层，然后背后的任务完成用户完全看不到的OS的时代到来。原因有几个：当Agent代替用户执行重要操作时，用户需要知道它做了什么，纯chat层的交互会造成黑箱焦虑，信任建立需要可见性；在设计、写作、编程等场景，用户的思维与interface的反馈形成闭环，Agent无法替代这个闭环；当用户不知道自己要什么时，比如网购或内容消费，他们需要浏览、比较、偶遇，而不是告诉Agent一个明确指令。
也许能够聚类出第一类那种纯结果导向的任务，做成一个垂直领域的AI OS，比如企业内部的IT运维Agent、财务报销Agent、客服Agent，这些场景任务边界清晰，结果可验证，用户对过程无兴趣，Jarvis式的体验是可行的。But it can not replace every Application。更可能的演进是混合形态：通用AI OS根据任务类型智能切换代理、辅助、退出模式；垂直领域AI OS在边界清晰的场景中实现Jarvis式体验；传统应用内嵌Agent能力，interface被重构而非消失。这三条路径会并存。
这个时候的产品形态会发生变化。更长的context意味着Agent可以在一次会话中完成更复杂的多步骤任务而不会忘记前面的步骤，可以加载用户大量的历史偏好和文档，用户不需要反复解释背景。产品会从单次对话变成持续会话，Agent从无状态的工具变成了解你工作流和偏好的个人代理。现在把产品框架搭好以迎接Context的进步，需要做几件事：设计可扩展的用户上下文存储和检索系统，不要假设context窗口是固定的；支持会话、任务、项目多层级的组织方式而不只是扁平的聊天记录；更大的context意味着Agent知道用户更多信息，需要细粒度的权限控制；设计人在回路的机制，让用户可以逐步放权给Agent而不是一步到位。
假设Agent是新时代的OS，那么它能够调用的tool就会很像现在操作系统上的各种应用。假设不让用户像现在一样打开应用去完成某项任务，而是通过告诉Agent，让Agent去完成，是否可行，这取决于能不能判断出用户是不是一定需要通过这些应用的interface去完成任务。这里的"可行"需要拆开来看：技术上能不能做到是一回事，用户心理上能不能接受是另一回事，商业上有没有市场又是另一回事。而且即使Agent判断不出用户是否需要interface，也可以采用默认代劳加用户随时可查看接管的混合模式，不是必须二选一。
那么又要考虑一些问题，有多少产品的interface没人在意，用户只要结果，又有多少应用的interface是用户愿意去用的重要影响因素。这里不能简单二分。更准确地说，有四种情况：
第一种是纯结果导向的任务，订机票、查天气、转账、设置闹钟，用户完全不关心过程，任务目标明确，结果可验证，过程无探索价值，Agent完全可以代劳。
第二种是过程即目的的任务，刷短视频、玩游戏、逛社交媒体、听音乐，使用应用本身就是目的，interface带来的体验是核心价值，Agent可以推荐但无法替代体验本身。
第三种是创作与探索型任务，用Figma设计、用Excel建模、用IDE写代码、用Notion整理思路，结果不确定，用户需要在过程中思考、迭代、发现，Agent可以辅助但用户需要掌控方向和细节。
第四种是信任与确认型任务，审批流程、合同签署、医疗诊断、金融交易，结果重大且不可逆，用户需要可追溯性和控制权，Agent可以准备但决策权必须在用户。
我觉得后三种不少。
所以基于这些认知，我不觉得会出现像Jarvis这种只有一个chat层，然后背后的任务完成用户完全看不到的OS的时代到来。原因有几个：当Agent代替用户执行重要操作时，用户需要知道它做了什么，纯chat层的交互会造成黑箱焦虑，信任建立需要可见性；在设计、写作、编程等场景，用户的思维与interface的反馈形成闭环，Agent无法替代这个闭环；当用户不知道自己要什么时，比如网购或内容消费，他们需要浏览、比较、偶遇，而不是告诉Agent一个明确指令。
也许能够聚类出第一类那种纯结果导向的任务，做成一个垂直领域的AI OS，比如企业内部的IT运维Agent、财务报销Agent、客服Agent，这些场景任务边界清晰，结果可验证，用户对过程无兴趣，Jarvis式的体验是可行的。But it can not replace every Application。更可能的演进是混合形态：通用AI OS根据任务类型智能切换代理、辅助、退出模式；垂直领域AI OS在边界清晰的场景中实现Jarvis式体验；传统应用内嵌Agent能力，interface被重构而非消失。这三条路径会并存。
0 00