即刻App年轻人的同好社区
下载
美元基金投资人在硅谷见了20多位大厂和明星创业公司的员工，我有哪些Learnings？
看完CES，我在硅谷逗留了一周，约见了20多名在谷歌，open ai，meta，特斯拉，physical intelligence ，skild ai等大厂和明星创业公司的员工，几点learnings总结如下，
1. 谷歌gemini3大获成功最关键的因素是pre-training(涉及模型架构比如多宽多深和训练recipe等)，谷歌拥有最好的pre-training和AI infra，scaling law继续起作用。对gemini技术贡献角度看cto koray，创始人sergey，以及jeff dean留下的强大infra底蕴起的作用都比hasabbis大。hasabbis醉心ai4science。
2. Open AI拥有最好的mid/post training团队和积累，reasoning RL mid training还有很多可以做。内部还有很多可以提升的方向，模型能力还有很多可以提升的空间并不迷茫。
3. 顶尖大模型参数量已经突破5万亿，xAI据说在train 8万亿参数的模型。
4. Meta的AI infra 远不如谷歌，挖过去的天才有时候也觉得巧妇难为无米之炊。新的大模型已经预训练完毕，还没到gemini3水平，但会强调个性化。1季度见分晓。
5. 特斯拉机器人是公认领先梯队，并不认为需要VLA，VA加端到端神经网络就可以，机器人训练数据范式转为视频数据为主。
6. 特斯拉robotaxi难在运营，无线充电，清洗，调度等。纯神经网络驱动下限不如waymo rule-based 兜底安全，但上限会更高。目标德州小量内测去掉安全员，加州带安全员先上量。
7. 世界模型观点分歧，一半的人认为为时尚早，但大部分都认同是未来方向。一部分认为已经可以逐渐落地，甚至latent space simulate推理可以融入到端侧规控中。
看完CES，我在硅谷逗留了一周，约见了20多名在谷歌，open ai，meta，特斯拉，physical intelligence ，skild ai等大厂和明星创业公司的员工，几点learnings总结如下，
1. 谷歌gemini3大获成功最关键的因素是pre-training(涉及模型架构比如多宽多深和训练recipe等)，谷歌拥有最好的pre-training和AI infra，scaling law继续起作用。对gemini技术贡献角度看cto koray，创始人sergey，以及jeff dean留下的强大infra底蕴起的作用都比hasabbis大。hasabbis醉心ai4science。
2. Open AI拥有最好的mid/post training团队和积累，reasoning RL mid training还有很多可以做。内部还有很多可以提升的方向，模型能力还有很多可以提升的空间并不迷茫。
3. 顶尖大模型参数量已经突破5万亿，xAI据说在train 8万亿参数的模型。
4. Meta的AI infra 远不如谷歌，挖过去的天才有时候也觉得巧妇难为无米之炊。新的大模型已经预训练完毕，还没到gemini3水平，但会强调个性化。1季度见分晓。
5. 特斯拉机器人是公认领先梯队，并不认为需要VLA，VA加端到端神经网络就可以，机器人训练数据范式转为视频数据为主。
6. 特斯拉robotaxi难在运营，无线充电，清洗，调度等。纯神经网络驱动下限不如waymo rule-based 兜底安全，但上限会更高。目标德州小量内测去掉安全员，加州带安全员先上量。
7. 世界模型观点分歧，一半的人认为为时尚早，但大部分都认同是未来方向。一部分认为已经可以逐渐落地，甚至latent space simulate推理可以融入到端侧规控中。
47 813
读李飞飞传
李飞飞，成都人，初高中随父母移民美国，95年本科被普林斯顿录得，博士在加州理工05年毕业，毕业后先找到uiuc 教职，后被邀请回普林斯顿任职，坚持完善数据集ImageNet，09年完成初版被时人所不看好。
通过举办ImageNet挑战赛逐渐获得业界关注，12年利用神经网络算法的AlexNet横空夺冠第三届比赛带来机器学习，使得AI重回神经网络时代！(取代持续数年的贝叶斯网络和支持向量机，大数据和神经网络配合得出奇的好)
13年受吴恩达等邀请任教斯坦福。15年微软的何恺明在ImageNet比赛上使用深度残差网络ResNet开启了深度学习时代。
同时，谷歌也一路崛起，在李飞飞和后来去openai 的安德烈做看图生成文字说明的同时做了这件事，后来谷歌收购deepmind，alphago更是出圈。uber挖空cmu一个系的自动驾驶团队在出事故后解散。再到近年来基于transformer 的llm 开启生成式ai的时代。
可以说这一代神经网络人工智能，起点就是2012年基于李飞飞imagenet 比赛中的AlexNet，这就是为什么李飞飞被视为ai教母。
此外，书中反复出现的名字还有lecun(cnn之父)，hinton(神经网络之父，back propagation )，gpu算力(黄仁勋)
李飞飞，成都人，初高中随父母移民美国，95年本科被普林斯顿录得，博士在加州理工05年毕业，毕业后先找到uiuc 教职，后被邀请回普林斯顿任职，坚持完善数据集ImageNet，09年完成初版被时人所不看好。
通过举办ImageNet挑战赛逐渐获得业界关注，12年利用神经网络算法的AlexNet横空夺冠第三届比赛带来机器学习，使得AI重回神经网络时代！(取代持续数年的贝叶斯网络和支持向量机，大数据和神经网络配合得出奇的好)
13年受吴恩达等邀请任教斯坦福。15年微软的何恺明在ImageNet比赛上使用深度残差网络ResNet开启了深度学习时代。
同时，谷歌也一路崛起，在李飞飞和后来去openai 的安德烈做看图生成文字说明的同时做了这件事，后来谷歌收购deepmind，alphago更是出圈。uber挖空cmu一个系的自动驾驶团队在出事故后解散。再到近年来基于transformer 的llm 开启生成式ai的时代。
可以说这一代神经网络人工智能，起点就是2012年基于李飞飞imagenet 比赛中的AlexNet，这就是为什么李飞飞被视为ai教母。
此外，书中反复出现的名字还有lecun(cnn之父)，hinton(神经网络之父，back propagation )，gpu算力(黄仁勋)
3 01