即刻App年轻人的同好社区
下载
置顶本没想着要写年终总结之类的东西，但恰逢Manus被Meta收购，脑子里很多持续思考的问题串成了一条线，就在即刻纪录一下。
我加入AWS的诸多原因中最重要的一条是被亚马逊的企业文化吸引：以顾客为中心、真正的长期主义。
以顾客为中心意味着亚马逊的业务很多时候是不够性感的、不酷的，但是务实的。这一点和很多中国科技公司创业者追求的“酷、美”完全相反。
真正的长期主义必须要忍受短期市场的质疑和亏损，执行起来会很痛苦。资本市场质疑AWS在AI模型领域落后于OpenAI、Anthropic、Google这几家强力的公司，因而对未来AI竞争中的亚马逊预期悲观。实际上亚马逊的哲学是垂直整合芯片、模型和应用层，特别是当很多大客户需要大量英伟达GPU时，如果客户不愿意同时为亚马逊自研的Trainium芯片做适配，往往会被谢绝。从长期来看，必须构建AI芯片层的竞争力，才能摆脱给英伟达打工的窘境，亚马逊的Trainium和谷歌的TPU做的是类似的布局。
Scottish Mortgage Investment Trust在长期投资亚马逊的理由里表示，亚马逊20年来所做的事情都可以用Infrastructure来概括（不论是电商、物流领域的Infrastructure还是Agentic Infrastructure），庞大规模所带来的护城河几乎使得任何竞争对手难以逾越。
Manus的Peak在和张小珺对谈的播客里提到，AI模型需要一只手触及现实世界中的环境，让智能真正触及现实世界。亚马逊拥有这个星球上最庞大的Robotics Fleet之一（在世界各地的仓库中），当AI从chatbot形态转向具身智能时，这些数量恐怖的机器人将成为Agentic AI与真实世界交互的绝佳训练场。
我加入AWS的诸多原因中最重要的一条是被亚马逊的企业文化吸引：以顾客为中心、真正的长期主义。
以顾客为中心意味着亚马逊的业务很多时候是不够性感的、不酷的，但是务实的。这一点和很多中国科技公司创业者追求的“酷、美”完全相反。
真正的长期主义必须要忍受短期市场的质疑和亏损，执行起来会很痛苦。资本市场质疑AWS在AI模型领域落后于OpenAI、Anthropic、Google这几家强力的公司，因而对未来AI竞争中的亚马逊预期悲观。实际上亚马逊的哲学是垂直整合芯片、模型和应用层，特别是当很多大客户需要大量英伟达GPU时，如果客户不愿意同时为亚马逊自研的Trainium芯片做适配，往往会被谢绝。从长期来看，必须构建AI芯片层的竞争力，才能摆脱给英伟达打工的窘境，亚马逊的Trainium和谷歌的TPU做的是类似的布局。
Scottish Mortgage Investment Trust在长期投资亚马逊的理由里表示，亚马逊20年来所做的事情都可以用Infrastructure来概括（不论是电商、物流领域的Infrastructure还是Agentic Infrastructure），庞大规模所带来的护城河几乎使得任何竞争对手难以逾越。
Manus的Peak在和张小珺对谈的播客里提到，AI模型需要一只手触及现实世界中的环境，让智能真正触及现实世界。亚马逊拥有这个星球上最庞大的Robotics Fleet之一（在世界各地的仓库中），当AI从chatbot形态转向具身智能时，这些数量恐怖的机器人将成为Agentic AI与真实世界交互的绝佳训练场。
10 00
Dwarkesh Patel播客中访谈Peiner Pope的那一期简直惊为天人，通过数据推理得到了一个深刻的结论：“现代AI的根本约束是HBM的物理特性”。
超大规模云厂商和头部AI Lab正在哄抢GPU和其他加速计算卡，但实际情况是比起算力短缺，真正的瓶颈是HBM把数据喂到计算单元的速度。Gemini 3.1等模型长上下文的价格在200k tokens起突然上涨50%，是因为超过后线性增长的KV Cache内存带宽主导成本。Output往往比Input贵3到5倍，是因为内存带宽瓶颈让GPU大部分时间在等数据，decode阶段的有效算力只有prefill阶段的1/5，现代LLM推理中，GPU 80%的算力在decode阶段闲置。
HBM的容量、带宽和工艺，决定了现代AI在参数规模、上下文长度、推理成本、agent能力上的物理天花板。
超大规模云厂商和头部AI Lab正在哄抢GPU和其他加速计算卡，但实际情况是比起算力短缺，真正的瓶颈是HBM把数据喂到计算单元的速度。Gemini 3.1等模型长上下文的价格在200k tokens起突然上涨50%，是因为超过后线性增长的KV Cache内存带宽主导成本。Output往往比Input贵3到5倍，是因为内存带宽瓶颈让GPU大部分时间在等数据，decode阶段的有效算力只有prefill阶段的1/5，现代LLM推理中，GPU 80%的算力在decode阶段闲置。
HBM的容量、带宽和工艺，决定了现代AI在参数规模、上下文长度、推理成本、agent能力上的物理天花板。
2 00
麦克斯韦·马尔茨是一个整形医师，他的患者们在整形手术过后性格也会发生重大改变。他在《心理控制术》中写道：“当你改变一个人的相貌时，几乎就不可避免地改变了他的命运。整形手术修整的不只是一个人的外貌，而是这个人的自我。手术刀切开的，是人的灵魂。”
5 00
0 00