即刻App年轻人的同好社区
下载
App内打开
Mike-Wu
844关注308被关注1夸夸
热爱科技与人文,折腾新技术,AI 硬件产品出海,相信“人机合一”是应对AI 技术冲击的终极解决方案。
Mike-Wu
4天前
“第一个世界模型”
00
Mike-Wu
4天前
1000万台,这才是目前最大的“世界模型”公司🌍
00
Mike-Wu
5天前
有海量的互联网数据,才有大语言模型的GPT;

等满大街都是自动驾驶汽车时;
等满大街都是全自动机器人时;
等人人头上都“长着”摄像头时;

三维世界的“互联网”就建成了,世界模型这个时候才可能会迎来它的GPT时刻。
00
Mike-Wu
5天前
世界模型不就是几年前的“元宇宙”吗?🤣
00
Mike-Wu
5天前
如果已经是共识,大概率不会是未来。真正的创新总是在边缘孵化,还是非共识,甚至投资人都不搭理他🤣

王慧文: 当前国内最被共识, 可以作为世界模型担当的, 是哪家创业公司? 我要去学习学习🤔

00
Mike-Wu
10天前
我认为梁的坚持是对的,其实某种意义上的世界模型已经有了,也就是传统计算机(CPU+GPU)所能做到的,如果加强更精密的感知和计算,有可能实现模拟图中所述的这些动物的智能行为,因此世界模型在这种角度看就是一个组件,在合适的时机它就会实现。

当然也希望有不同的牛人探索不同的方向,说不定会产生其它意外的成果👏

丝诺姐姐: 感觉lecun 说的挺make sense 呀 为啥梁坚持不做世界模型呢?说不定AGI 就不是语音模型呢

00
Mike-Wu
11天前
那个52句居然漏了这么多重要的信息,这也是黄仁勋最担心的事情,人力不缺,算力如果解决,无可匹敌!
11
Mike-Wu
12天前
实现AGI就往“飞升”去了,不过也有可能,Kimi K3 都已半步神游境😄

梁文锋四小时投资人会议实录

00
Mike-Wu
22天前
人有左右脑,AI也有深度学习和强化学习

我的兄弟叫铁马: 上世纪八十年代末,加拿大有两位教授,隔着大半个加拿大,各自说了一句后来看来互相映照的话。 多伦多大学的辛顿描述深度神经网络:大脑就是这样工作的。 阿尔伯塔大学的萨顿描述强化学习:心智就是这样运作的。 辛顿研究机器怎么感知世界:让机器从数据里自己长出对世界的理解; 萨顿研究机器怎么行动:让机器试错、挨罚、拿奖励,自己变聪明。 AI 后来四十年的两条大河,就从这两句话里发源。 “你会忍不住想,你们为什么不合作呢?”姆尼赫说。他先后在这两所学校念过书,后来去了 DeepMind。 两条河都遇到过枯水期。 辛顿的神经网络在九十年代被一个叫 SVM 的方法压了十几年:对手有全局最优解的保证,神经网络当时深一点就训不动。 萨顿的强化学习方式的瓶颈在于:在奖励清清楚楚的游戏和棋盘里这种方法无往不利,一出模拟世界就断流,因为现实世界不给你打分。 第一个把两条河引到一起的人,既不出自辛顿门下,也不出自萨顿门下,是个研究大脑的前游戏神童——哈萨比斯。 他博士期间研究海马体,发现失忆病人同时也丧失想象力:记忆和想象,在大脑里共用一套机制。 这个发现后来变成了 DeepMind 的招牌动作“经验回放”: 让 AI 像人睡觉时回放白天的经历那样,反复咀嚼自己玩过的游戏。2013年的 DQN、2016年的 AlphaGo,都是类似的方法,最终AlphaGo在和李世石对决中下出的第 37 步棋证明,AI在深度学习之后,是可以通过强化学习创造出人类成功经验之外,原创的神来一手的。 但,曾经的成功,最终都会成为范式突破的束缚。 AlphaGo 的胜利让哈萨比斯确信:主要靠强化学习就能走到通用智能,而且智能必须接地,也就是必须接触真实世界。 所以当 OpenAI 掉头去做一件看起来很笨的事:预测下一个词,把整个互联网当教材时,DeepMind 没跟。纯文本、不碰世界、没有奖励回路,这算什么智能? 2022年11月30日,ChatGPT 上线。五个月后哈萨比斯对记者说:这无异于宣战,OpenAI 和微软已经把坦克开到了我们的草坪上。 他后来复盘说,这是他第一个判断失误的地方,语言和真实世界的连接比他想象的深,大模型靠看Youtube上大量的猫图片,也能理解猫这个概念。 很多人都以为深度学习从此赢家通吃。结果2024年底,OpenAI 的联合创始人苏茨克维亲口宣布:数据要用完了。当时大家以为,纯靠互联网数据的路子快撞墙了。 往哪走? 强化学习复兴了。训练者让模型自己给自己出题,生成一步步的思考过程,再拿可验证的奖励去筛:数学题算对没有,代码跑通没有。ChatGPT o1、DeepSeek R1、写代码的 Claude,都是这么跑出来的。 哈萨比斯觉得又回到自己的主战场了,他觉得以前的语言模型只有策略网络,只能预测下一个单词,现在给它时间去规划和思考,这不就是 AlphaGo 吗? 强化学习和深度学习第二次合流。 现在正在发生的是第三次。 谷歌的 Genie 能凭空生成一个可以走进去的三维世界。它学的还是老配方,从海量视频里预测下一帧,跟预测下一个词类似,只是从文字换成了画面。 然后一个叫 SIMA 的智能体钻进这些生成的世界里练级:深度学习负责造梦,强化学习负责在梦里攒经验。练完,再把学到的东西迁移回现实,这一步走通没走通,现在还没人敢打包票。 李飞飞的公司为这个方向融了十亿美元,成立才两年;杨立昆六十六岁离开 Meta 创业,种子轮融资破了纪录,赌的也是这条路。 这场四十年拉锯,萨顿在2019年就看到了苗头,他在一篇短文里说,AI 七十年的历史反复证明一件事:人类精心设计的巧思终会输给能吃下更多算力的笨办法,而能无限吃算力的方法只有两类:学习,和搜索。前者对应深度学习,后者就是强化学习。 四十年来,两条河轮流枯,轮流涨:神经网络训不动时 SVM 得势,强化学习出不了模拟器时语言模型插队,语言模型吃光了互联网就轮到强化学习复活。每一次都有人宣布其中一条河快干了,每一次它都换了河床回来。 四十年,三次合流,河道一次比一次宽。没人知道 通往AGI 的海还有多远,但水流的方向,从来没变过。

00
Mike-Wu
24天前
MIT这个项目有点酷,人类可以操控具身机器人,AI也可以操控人类的肉身
00:29
00