即刻App年轻人的同好社区
下载
App内打开
施言
1年前
《深度学习革命》记录的一些历史细节

1、Ilya Sutskever其实是最后加入OpenAI的初始成员

OpenAI的诞生,源自Sam Altman在2015年7月加州门罗帕克召集的一场晚宴。Altman和Musk等发起成立新组织,拉拢人才,推动开发造福全人类的AI。Stripe的CTO Greg Brockman,和当时负责Google Brain项目的Ilya Sutskever都当场表示有意加入。

晚宴结束后,Brockman就开始四处挖人组建团队,找到了三巨头之一的Yoshua Bengio。Bengio无意跳出学界,但是给他列了一份圈子里有前途的年轻研究人员的名单,Brockman就按图索骥去联系。

一些人被Brockman描述的宏大愿景——一间完全没有任何企业压力的实验室、一间将放弃所有研究成果的非营利实验室——所吸引。但是,招人也没有那么顺利,这些人没有一位承诺加入一间新的实验室,都还是会担心风险,除非有其他人这样做。

Brockman邀请有意向的10人正式加入,给了他们三周时间考虑。最后10个人中有9个人同意了,其中5人(包括Ilya)都在DeepMind待过,他们给实验室命名为OpenAI。

同时,科技巨头开出天价薪酬挖人。谷歌给Ilya的薪酬是OpenAI的两到三倍,第一年接近200万美元,Ilya犹豫了。Altman、Musk和Brockman等原本计划在2015年底的NIPS会议上,官宣带着10亿美元投资承诺的OpenAI成立,但为了等Ilya做决定,只得推迟声明。Brockman还短信轰炸Ilya,敦促他选择OpenAI。

直到周五NIPS会议最后一天,Brockman等人决定不等了,定在下午3点官宣。一直拖到最后,Ilya才发短信告知Brockman,决定加入OpenAI。

2、杨立昆(Yann LeCun)的傲慢和身在大厂的尴尬

CHatGPT推出不久,LeCun就在Twitter炮轰。书中也记载一些细节,感觉他还是挺傲慢的。

LeCun曾经直接对Ilya说:“你会失败的”,他给的10多条理由包括:1)OpenAI的研究人员都太年轻;2)实验室没有丰富的经验,也没有背靠大公司的资金资源支持;3)非营利的形式也不会赚钱;4)长期无法跟大公司争夺人才;5)实验室公开分享其所有的研究成果,不太现实,等等。现在看,很多因素恰好就是OpenAI现在能获得成功的原因。

另一个事件,DeepMind发布AlphaGo前不久,LeCun先行官宣了Facebook自己的围棋AI研究。有记者问LeCun,DeepMind是否有可能打造一个可以击败顶级围棋选手的系统。LeCun很自负地说:“不会”,部分原因是他觉得这项任务很难,同时也因为什么消息都没听到,圈子就那么小。

几天后,DeepMind在《自然》杂志刊登封面故事,透露自研的AlphaGo击败了三届欧洲围棋冠军。消息公布的前一天,Facebook就已知悉,小扎亲自推动一场奇怪的抢先公关活动,让媒体关注小扎和LeCun网上发布的帖子,这些帖子吹嘘Facebook自己的围棋研究。当然后来,就被谷歌和DeepMind打脸。

前有谷歌+DeepMind,后(现在)有微软+OpenAI,Facebook和处在Facebook体系的LeCun都是很尴尬的。在硅谷大厂的第一次AI人才争夺战,就没有顶尖学者愿意加入Facebook,Facebook挖LeCun,后者就担心企业对AI长期愿景和短期目标之间的平衡。结果还是发生这种矛盾。

有次内部演示上,LeCun向小扎展示他们在图像识别、翻译和自然语言理解方面的工作。小扎和时任CTO Mike Schroepfer都没说话。走出房间,Schroepfer告诉LeCun,他所说的一切都没有任何意义。“我们只需要一些能表明我们比其他公司做得更好的东西,我不管你怎么做,我们只要赢得一场比赛,只要启动一场我们知道可以赢的比赛。”一名同事替LeCun说:“视频,我们可以赢得视频。”Schroepfer对LeCun大吼:“看到了吗?你可以学到一些东西!”

这是大厂AI Lab普遍面临的尴尬境地,老板只会在乎短期内比竞争对手领先多少,而不在乎研究是否需要时间,尤其是Facebook这种推崇“Move Fast”价值观、强调增长效率和规模的公司。后边,Facebook内部又专门设立了一个组织“应用机器学习团队”,负责将实验室的技术付诸实践。

3、陆奇的逆向思维和微软的第一次AI人才争夺

2016年春天,陆奇在练习骑行他的“逆向思维自行车”——向左转动车把,自行车向右转——他试图以这种方式让自己,乃至让微软训练逆向思维,以摆脱大公司的路径依赖。结果跌到摔骨折了,这是个偶然事件,但也成为微软在初次AI竞争失利的一个注脚。

微软研究人员不受商业化压力的任何影响,养尊处优,这原本是出自慈善家比尔·盖茨的情怀。但在AI领域竞争中,微软的局限性在于:缺少针对AI技术落地的业务场景。这也是Hinton当初加盟谷歌而非微软的原因之一:谷歌搜索10亿的用户规模,能高效推动AI研究。于是,陆奇在微软内部尝试推动自动驾驶,但并没有顺利推下去。

微软的另一个弱势是:缺少AI研究领头人。这些顶尖人物是公司了解未来变化、打造新技术、吸引顶尖人才,以及推广企业品牌(最重要的)的一种方式。陆奇也找到了Bengio,但后者拒绝任何大公司的邀请。Bengio在蒙特利尔大学可以讲母语法语,可以享受学术研究的开放性,这是企业无法比拟的。他在大学工作外还为几家创业公司做顾问。

于是Bengio提了个主意,如果微软可以收购他顾问的一家初创公司Maluuba,Bengio就可以用同样的时间为微软提供咨询。Maluuba的两位创始人起初拒绝了这个提议。但一年后,还是被微软收购,Bengio也因此成为微软的顾问。但那时,陆奇已经离开了微软,回到中国,加盟百度,继续推动AI和自动驾驶战略。
541

来自圈子

圈子图片

你不知道的行业内幕

766077人已经加入