即刻App年轻人的同好社区
下载
App内打开
Yoyobaobei
143关注7被关注0夸夸
Yoyobaobei
1年前
Mark

歸藏: Ilya 罕见发声在 2024 年 Neurips 大会上演讲#AI创造营# “我们所熟知的预训练将会终结” 大致介绍了： - 深度学习的演进 - 为什么预训练已经达到上限 - 未来的发展方向 - 对超级智能的思考 我转录总结了后面三个部分 预训练终结预测的关键论点： 1. 预训练终结的必然性 演讲者明确表示："预训练将毫无疑问地结束"（Pre-training as we know it will unquestionably end） 2. 终结的核心原因：计算力与数据的不平衡发展 a) 计算能力方面持续增长: - 硬件性能不断提升 - 算法效率持续改进 - 计算集群规模扩大 - 这些因素共同推动计算能力的指数级增长 b) 数据增长的天然限制: - "我们只有一个互联网"（we have but one internet） - 可用的优质数据是有限的 - 演讲者用了一个形象的比喻："数据是AI的化石燃料"（data is the fossil fuel of AI） - 就像化石燃料一样，数据是在特定时期产生的有限资源 - 我们已经达到了"峰值数据"（peak data）的状态 3. 数据限制的影响 - 虽然现有数据仍然可以支持相当长一段时间的发展 - 但最终必须面对数据量增长有限的现实 - 需要寻找新的解决方案和发展方向 行业未来发展方向： 1. 主要发展方向 a) Agents (智能代理) - 被广泛认为是未来发展方向之一 - 演讲者提到"很多人都在谈论agents" - 认为这个方向"最终一定会有所突破" - 但具体细节仍然模糊 b) 合成数据 (Synthetic Data) - 被视为一个关键发展方向 - 但演讲者指出这是个很大的挑战 - 提到"弄清楚这意味着什么是一个大挑战" - 暗示当前对合成数据的理解和应用还不够成熟 c) 推理时计算优化 - 特别提到了O(1)模型作为例子 - 强调在推理阶段优化计算效率的重要性 - 这代表了一个更注重计算效率的发展方向 2. 生物学启发的新思路 演讲者特别分享了一个生物学案例来说明潜在的发展可能： a) 哺乳动物脑体比研究 - 展示了不同类型哺乳动物的脑重与体重关系图 - 发现常规哺乳动物和非人类灵长类动物遵循相似的比例关系 - 但人类祖先（Hominids）展现出不同的缩放指数 - 这种差异表明可能存在突破性的发展路径 b) 启示 - 证明了系统可以找到不同的发展路径 - 暗示AI发展也可能出现类似的质变 - 当前的扩展方式只是我们找到的第一种方式 - 可能存在其他未被发现的发展路径 3. 长期展望 演讲者对更长远的未来提出了几点思考： a) 质变可能性 - 未来系统将具有真正的推理能力 - 可能发展出自我意识 - 将产生与当前系统质的不同 b) 不可预测性 - 强调具有推理能力的系统将变得更不可预测 - 类比国际象棋AI对人类棋手的不可预测性 4. 关键观点 - 现有的发展方向都在尝试解决"后预训练时代"的问题 - 需要开放思维，接受多样化的解决方案 - 强调了探索新路径的重要性 - 承认预测未来很困难，各种可能性都存在 演讲者的态度是开放但谨慎的，既认可这些方向的潜力，也承认我们对未来的认知有限。他特别强调，我们当前的扩展方式可能只是众多可能性中的一种，未来可能会出现完全不同的发展路径。 这种多元化的展望对于AI领域的发展具有重要的启发意义，提醒我们要保持开放的心态，准备迎接可能的范式转换。 关于超级智能(superintelligence)的思考： 1. 发展趋势与必然性 - 演讲者明确指出：超级智能是该领域明显的发展方向 - "这显然是我们正在建造的东西"(This is obviously what's being built here) - 强调超级智能将与当前AI有质的区别 2. 当前AI系统的特点与局限 现状描述： - 拥有令人难以置信的语言模型能力 - 在某些评估中表现出超人类水平的性能 - 但同时表现出奇怪的不可靠性 - 容易混淆或出现错误 - 很难调和其超人类表现与不稳定性之间的矛盾 3. 未来超级智能的关键特征 a) 真正的智能代理(Agentic)特性 - 当前系统的代理性很弱，"非常非常轻微的代理性，刚刚开始" - 未来系统将具有真正的代理能力 b) 推理能力的特点 - 将具备真正的推理能力 - 推理能力越强，系统越不可预测 - 对比当前深度学习系统： - 当前系统主要复制人类直觉 - 类似于"0.1秒反应时间"的直觉处理 - 相对可预测 c) 其他关键特征 - 能从有限数据中理解事物 - 不会轻易混淆 - 可能发展出自我意识 - 自我意识被视为世界模型的自然组成部分 4. 不可预测性的讨论 演讲者特别强调了不可预测性： - 用国际象棋AI作为例子 - 即使对最优秀的人类棋手来说也是不可预测的 - 这种不可预测性将是超级智能的重要特征 5. 影响与挑战 - 系统将具备"令人难以置信和惊人的能力" - 将带来与现有系统完全不同的问题和挑战 - 演讲者将具体影响留给听众思考："作为练习留给你们想象" 6. 对未来的态度 - 承认预测未来是不可能的 - "各种可能性都存在" - 保持开放但谨慎的态度 演讲者的这部分讨论特别强调了未来AI系统与当前系统的质的区别，尤其是在推理能力、不可预测性和自主性方面。他提醒我们需要为这种根本性的变化做好准备，同时也承认我们可能无法完全预测这种转变带来的所有影响。这种思考框架为我们理解和准备AI的长期发展提供了重要的视角。 演讲视频：x.com/vincentweisser/status/1867719020444889118

00
Yoyobaobei
1年前
Yoyobaobei
1年前
Yoyobaobei
1年前
Yoyobaobei
1年前
Mark
原动态已删除
00
Yoyobaobei
1年前
Yoyobaobei
1年前
他是很nice

胡二虎: 预约到了SEO大佬John的30min 1on1 指导（SEO实战派公众号的作者）: 1️⃣【SEO公式】把这个公式刻在脑门上， 核心SEO公式：内容+外链+技术端+用户交互 （附加：Authority+内链） 2️⃣【SEO获客的主要目标拆解】 关键词#Ranking > Click > Visitors > Registers > Free Trial > Paid，Ranking的提升给Paid带来的提升是多少？算清楚了才做的清楚 3️⃣【几个SEO常识】 for Google来说的交互指标，成为90% Visitors的 Last Click很重要，这样Google才认为你是解决问题的那个Page; 4️⃣ 【SEO常识】内容&技术端优化决定你进不进Top30，外链决定你进不进Top8，交互指标决定你进不进前Top3 5️⃣【SEO常识】Guest Post指适合推广产品页面，Google对于单一种类外链的识别非常强，尽量做多种类的外链 6️⃣ 【外链】外链尽量针对排名#10～25的关键词页面去做，这个区间是最需要外链把它们推进首页Top 8的，也是ROI算起来最容易的部分

00
Yoyobaobei
1年前
Yoyobaobei
1年前
Mark

NicoooNicooo: # Reddit 第 2 弹：单篇帖子狂赚 2000+ Karma 之前写了一篇Reddit 新手如何快速赚取 Karma 的文章，没想到大家反响还不错，那今天就继续给大家带来 Reddit 的进阶玩法，如何通过一篇帖子狂赚 2000+ Karma。 ## 【特别说明】 1. 今天要介绍的这篇帖子，其实也是新手期的作品，真正开始发内容还不到1 周时间，当时我的 Karma 也才 300+，曝光并不大，但是依然取得了不错的效果，所以今天拿出来给大家分享。 2. 从另一个角度来讲，Reddit 的流量非常大，素人获得曝光的机会也很多，所以大家不要放弃每一个可以展示自己的机会。 3. Reddit 是一个很公平的社群， 对于新手非常非常友好，即便你是 0 follower，只要你内容足够好，一样可以获得曝光。后面我会分享一下数据，让大家感受一下 Reddit 的流量。 ## 【直接上结果】 1. 目前我的 Reddit 账号，累计 Karma 3291，总发帖不过 10 篇。（如图 1） 2. 其中出了几篇小爆款，单贴获赞 20～800 左右，转换为 Karma 大概累计 1000 左右。（如图 2） 3. 但是，单单有一篇帖子，截止到目前获赞 2602，应该贡献了 60% 以上的 Karma，预计估计 2000+ Karma。（如图 3） 4. 这篇帖子直接让我获得了第1 个 Reddit popular post 的奖章(1000+ upvotes)，如图 4 ## 【高赞帖分析】 1. 帖子内容是一个视频，是一只小鹦鹉躺在大腿上在仰天睡大觉，小脚丫子还一晃一晃的，非常可爱。为了更直观的感受一下：帖子链接在这里，https://www.reddit.com/r/parrots/s/KwI6g4dJvm 2. 如果只发视频，在图片视频满天飞的 Reddit 里，其实很难获得高赞，因为大家每天刷到的视频太多了，很难突出重围。 3. 但是，如果配上一些带冲突感的文字，构造一个有反差感的场景，就会吸引大家参与comment互动和分享。 4. 于是我对这个视频加了一个标题：“This guy is napping on my legs, and I am in a hurry to use the bathroom, should I wake him up?”, 构造了一个非常有意思的场景，接下来就是让子弹飞的时刻。 5. 老外们爱死这个萌萌的场景了，加上这个冲突搞笑的场景，仅仅这两三天的时间，一大票人在下面评论，大家都在要求我：好好憋着，绝对不要叫醒小鹦鹉。 6. 从数据上来看，截止目前（发帖 48 小时），143K views， 2700+ upvotes， 93 comments。Reddit 的流量真的很大, 好好经营吧。 7. 值得注意的是，我这个帖子下的第一高赞 Comment，获得了 735 个 upvotes。 他只是在下面留言说了一句话而已，但是获得了巨大的曝光，这就是 Reddit 的魔力。所以，当年你没有内容的时候，去找找高赞 Post，去评论，去互动，去蹭流量。 ## 【思考总结】 1. 为什么说 Reddit 是一个公平、对新人友好的平台？ 这是它的内容分发机制天然就决定的。 与 Twitter 对比一下，在 Twitter 上你要获得内容获得曝光，最重要的依赖因素是你有多少 follower。如果没有 follower 的时候，更多的时候你只是在 Twitter 上自说自话；但是 Reddit 天然就是「子社区设计」、子板块设计（官方叫做 community），你只需要加入你感兴趣的子板块，然后就可以发任意内容了，这些内容会聚焦在这个板块获得大量曝光，当你的内容足够好，还能获得进一步的曝光提升。所以对于新人而言，你不需要追求 follower，这个太难了，你只需要选择一个合适的 community 发内容，多参与 Comment，赚 Karma 就可以了。 2. 选对community很关键。 同样是发小鹦鹉视频，我选择了两个子社区，「parrots」 vs 「birbhostage」 , 名字上来看，都是发发小鸟的，但是流量规模完全不是一个量级，我也是后面才发现，我发在birbhostage的内容，远远比不上parrots曝光大，后面特意关注一下两个关键指标数据： member 和 online， 如图对比： - parrots 的 member 有 100W+， 每秒online 持续有 几百人同时在线， - 而birbhostage总共 member 也就 1W 人，有时候就 个位数的 online 所以啊，用户规模和在线数直接就决定了天花板，选择对的community 事半功倍。 3. 在发内容的时候要刻意训练自己的网感。 视频、图片在当今的social media 上并不稀缺， 如何基于这些素材，构造出一些有意思的场景，广泛引发大家的共鸣、讨论，则是非常牛逼的能力了。 就 Reddit 而言，共鸣带来 upvote， 讨论带来 comments。我们在发一个内容的时候，一定要在文案上花点心思，好的文案会规模化内容的曝光量。 例如今天的这个帖子，如果不是在文案中构建了一个 「可爱小鸟」和「着急上厕所的主人」之间的冲突场景，我猜大概率这个视频就是在可可爱爱的众多视频中泯然而已。 4. 内容素材方面，凭我自己家里的那几只鹦鹉，是远远不够的，一方面场景很单一，另一方面数量也有限。我就加入了一些养鸟爱好者的社群，从社群里收集素材，看到有意思的视频或者图片，重新设计场景文案，再发到 Reddit 上。这样可以保证内容源源不断，而且质量有保证。 5. 在发这些赚 Karma 的小鸟视频的同时，我也特意关注了一些其他的跟自己产品调性高度匹配的一些小板块，我发现这些小板块的用户基数都很大，动则几万几十万，甚至上百万的 member， 这些板块也很活跃，用户问题和互动都很多，非常适合做内容，所以朋友们，坚定信心搞 Reddit，这个是个流量宝库。

00
Yoyobaobei
1年前