即刻App年轻人的同好社区
下载
App内打开
宇轩OM
7天前
今天听了 Jeff Dean Dawn Song 的炉边谈话。Jeff 刚结束在 Google 27 年的职业生涯,创办了 Discovery Loop;Dawn 则刚从 Berkeley 和创业,进入 Meta Superintelligence Labs。一个正在离开超级大 AI 平台,一个正在加入超级大 AI 平台,构成了整场最有意思的对照。

几个印象很深的点:

【怎么判断一个技术是不是"真正重要的"?】
Jeff 的很多工作有一个共同特点:真正大规模流行的时候,往往距离他最初开始做已经过去了很多年。分布式系统、MoE、TensorFlow、Gemini 背后的 idea,全都如此。
他的做法是在脑子里持续维护一张非常宽的"技术地图"。与其只深入看极少量论文,不如尽量扩大对整个 research community 的覆盖——哪怕只是快速扫过 100 abstract。目的不是记住每一篇,而是在脑子里形成足够多的"点":A 方向似乎开始可行,B 技术出现了早期结果,C 问题有人在尝试,D 硬件能力正在出现,E 算法效率开始跨过临界点。当这些点足够密,你才能看见:哪些原本分散的 idea,其实已经可以被连接起来。

【5+2 问题选择框架】
他最喜欢的问题形态:一个长期问题需要解决 7 个核心子问题,其中大约 5 个隐约看到路径但尚不成熟,另外 2 个真正不知道怎么办。7 个全不会做,可能要等 20 年;7 个全会做,只是一个两年的工程项目。5+2 的状态最值得投入大约五年,不是显然不可能,也不是显然会发生,真正需要创造新技术,一旦成功又能彻底改变做事方式。
这大概是我听过的对 research risk 最清晰的一个量化直觉。

【Cloud Computing 改变了创业的边界条件】
有人问:AI 看起来天然属于大公司的游戏,巨量数据、大规模算力、极高资本开支。为什么现实中这么多 frontier innovation 反而从 startup 出现?
Jeff 认为是云计算的成熟。过去 startup 想要超大规模 compute,得自建数据中心、自建分布式基础设施、自己拥有大量硬件,只有大公司有条件。今天云平台替你完成了这些 heavy lifting,小团队只要有好 idea 和一笔资本,就可以直接获取 massive compute。"小团队做大事"的边界被大幅推开了。

【相比大厂,AI创业公司的优势是什么?/为什么离开Google?】
Jeff 说,离开不是因为觉得 Google 做不好 AI。吸引他的是另一种工作方式:一个非常小、非常 focused team,所有人每天只围绕同一个 mission 工作。Discovery Loop 可能只有 10 个人,在 Palo Alto 找一间办公室,然后每个人的全部精力都投入同一件事。大公司不可避免有更多 coordination、更多 parallel priority、更多 slight distraction;而 startup 可以让公司使命等于每一个人的唯一工作。

到谈话结束时,Jeff 说自己在这家新公司已经"工作了大约十二个半小时"。因为午夜刚从 Google 正式离职,中间大概有一秒钟处于"失业状态",然后就正式成了创业者。
03

来自圈子

圈子图片

AI探索站

117212人已经加入