即刻App年轻人的同好社区
下载
机器人怎么还没干活，先学会站着不动了。
这个抓放实验有点意思。用 Diffusion Policy，110 次测试，106 次根本没开始动。
把示教开头那段空等剪掉，同样的训练配方重新训。再测 150 次，不启动的剩 15 次。
说白了，模型把“先别动”也学进去了。人知道前面是在等操作员准备好，模型未必知道这段该忽略。
训练没报错，不代表模型学的是你想教的。
不过我的暴论是，还是数据量不够。力大砖飞，数据量够多了，大体量模型自然知道这是操作员在等待。
实际的数采、标注、训练里问题多了去了，指望都解决可能还得等5年等10年，但大模型的核心可不是跟你抠细节执行问题，核心是一力降十会。
别解绳结了，不如学亚历山大大帝把解不开的绳结直接一剑砍断。
这个抓放实验有点意思。用 Diffusion Policy，110 次测试，106 次根本没开始动。
把示教开头那段空等剪掉，同样的训练配方重新训。再测 150 次，不启动的剩 15 次。
说白了，模型把“先别动”也学进去了。人知道前面是在等操作员准备好，模型未必知道这段该忽略。
训练没报错，不代表模型学的是你想教的。
不过我的暴论是，还是数据量不够。力大砖飞，数据量够多了，大体量模型自然知道这是操作员在等待。
实际的数采、标注、训练里问题多了去了，指望都解决可能还得等5年等10年，但大模型的核心可不是跟你抠细节执行问题，核心是一力降十会。
别解绳结了，不如学亚历山大大帝把解不开的绳结直接一剑砍断。
2 10
看 EgoForesight，我还是那个判断：具身预训练的数据，不必每条都按精细控制的标准来做。
先把可用规模和场景覆盖做起来，同时处理好不同来源的噪声。
行业过去强调高精度数据参与预训练有很多原因，其中一个原因是大家不敢放手进行大规模预训练，这里面涉及到的成本太过于高昂，大家不敢冒险。那怎么办，只能少量高精度数据过拟合一个效果出来，其实大部分还是过家家。
然后大模型就来了。大语言模型正在演变成全模态模型，他们进入具身赛道可不跟你玩虚的，正儿八经开始大规模训练了。形势变了。
做模型和数据，应该算清楚：同一笔钱，花在精度再提高一点，还是多覆盖一批场景，对模型更有用？
预训练场景不用多说，过分强调精度，还不如过分强调规模。
先把可用规模和场景覆盖做起来，同时处理好不同来源的噪声。
行业过去强调高精度数据参与预训练有很多原因，其中一个原因是大家不敢放手进行大规模预训练，这里面涉及到的成本太过于高昂，大家不敢冒险。那怎么办，只能少量高精度数据过拟合一个效果出来，其实大部分还是过家家。
然后大模型就来了。大语言模型正在演变成全模态模型，他们进入具身赛道可不跟你玩虚的，正儿八经开始大规模训练了。形势变了。
做模型和数据，应该算清楚：同一笔钱，花在精度再提高一点，还是多覆盖一批场景，对模型更有用？
预训练场景不用多说，过分强调精度，还不如过分强调规模。
6 10
a16z Crypto 改名 Frontier，还投 Crypto，但范围放宽了。提到的有：
新型智能（计算）设备与自主机器；
加密货币/稳定币与机器人间（M2M）无缝结算；
赛博物理系统；
全新公司构建模式催生的从个人工具逐渐演变为多人/多代理协同的网络的原生应用场景；
生物学与现代医学等。
我更在意的是：
下一代公司，可能会以 AI 为基底，软件、硬件和服务放在一起做；
围绕着AI的核心元素（比如能源、算力、模型、数据）构建独特性，越来越难用一个传统的赛道观念概括。
比如从数据角度，
你的公司是在公开数据里与别人厮杀，
还是在半公开数据里跟别人打信息差和时间差，
还是积累自己的非公开数据。
如果各个角度都说不通，就难以做大。
新型智能（计算）设备与自主机器；
加密货币/稳定币与机器人间（M2M）无缝结算；
赛博物理系统；
全新公司构建模式催生的从个人工具逐渐演变为多人/多代理协同的网络的原生应用场景；
生物学与现代医学等。
我更在意的是：
下一代公司，可能会以 AI 为基底，软件、硬件和服务放在一起做；
围绕着AI的核心元素（比如能源、算力、模型、数据）构建独特性，越来越难用一个传统的赛道观念概括。
比如从数据角度，
你的公司是在公开数据里与别人厮杀，
还是在半公开数据里跟别人打信息差和时间差，
还是积累自己的非公开数据。
如果各个角度都说不通，就难以做大。
4 00
我一直觉得，大模型已经学过那么多东西，具身没必要全部从头再来。
看 RAX，感兴趣的是它怎么把这些能力用起来：一边试，一边改代码，把经验留给下一次任务。
做数据的人接下来要想清楚：模型已经会什么，真实世界还缺什么经验，我们最该补哪一块？
看 RAX，感兴趣的是它怎么把这些能力用起来：一边试，一边改代码，把经验留给下一次任务。
做数据的人接下来要想清楚：模型已经会什么，真实世界还缺什么经验，我们最该补哪一块？
3 10
做数据公司，绕不开一个问题：有限的采集成本，到底该花在哪。
我一直的判断是，大模型学过的很多知识可以复用到具身，未来数据用量最大的一块会在预训练。所以我们看 Ego，主要看它在这一层的价值。
在完整、可用的前提下，我会把规模放第一。让模型多见些不同的人怎么干活，不必每条都照搬精细控制数据的采集标准。
最近看 Ego2Contact，感兴趣的是，同一段视频以后可能还能挖出更多信息。它仍用实测触觉配对训练，再做机器人适配，真机也还戴着手套。论文没证明我们对规模和精度的判断，但这个方向值得继续看。
对我们来说，持续采到大量可用的第一视角数据，是更想做好的事。
做预训练的朋友，你们怎么看数据的质量底线？哪些指标必须卡住，哪些可以适当放宽，换更大的规模和覆盖？
我一直的判断是，大模型学过的很多知识可以复用到具身，未来数据用量最大的一块会在预训练。所以我们看 Ego，主要看它在这一层的价值。
在完整、可用的前提下，我会把规模放第一。让模型多见些不同的人怎么干活，不必每条都照搬精细控制数据的采集标准。
最近看 Ego2Contact，感兴趣的是，同一段视频以后可能还能挖出更多信息。它仍用实测触觉配对训练，再做机器人适配，真机也还戴着手套。论文没证明我们对规模和精度的判断，但这个方向值得继续看。
对我们来说，持续采到大量可用的第一视角数据，是更想做好的事。
做预训练的朋友，你们怎么看数据的质量底线？哪些指标必须卡住，哪些可以适当放宽，换更大的规模和覆盖？
1 30
办理各种手续是真麻烦，一个细节不注意就有可能多花一个月的时间。旧金融体系为了安全和信任付出了太多代价，而AI高速发展，旧金融体系因为安全和信任也难以快速响应。
这样想想，Crypto作为AI Native的支付基础设施的逻辑是很有道理的。中本聪和V神大致是对的，价值基点在于被大家提烂的那个词，而不是一时的币价涨跌。
这样想想，Crypto作为AI Native的支付基础设施的逻辑是很有道理的。中本聪和V神大致是对的，价值基点在于被大家提烂的那个词，而不是一时的币价涨跌。
2 00
找寻杭州/深圳的AI行业技术朋友进行交流
本人经历丰富，创立过6000万用户的知名出海产品，在字节跳动、网易做过产品经理，业余做过8年公益社区，还有很多不方便公开讲的有趣经历🐵。
目前专注AI数据，希望跟懂AI技术的朋友线下交流，欢迎联系！
本人经历丰富，创立过6000万用户的知名出海产品，在字节跳动、网易做过产品经理，业余做过8年公益社区，还有很多不方便公开讲的有趣经历🐵。
目前专注AI数据，希望跟懂AI技术的朋友线下交流，欢迎联系！
7 00
黄昏见证最忠实的信徒。21年Web3的大多数叙事我仍然相信会实现，只不过是时间问题，Web3并不会只剩金融与交易。接下来我会持续在行业现状的边缘找寻突破性的机会，我认为其中最有可能的方向仍是AI✖️Web3。
之前几个月我一直在学习AI行业的知识，并结合Web3的特点进行思考。欢迎大家跟我约电话或约见面交流AI、Web3、亚非拉，共同探讨他们之间的结合点。
顺势而为，逆流而上
之前几个月我一直在学习AI行业的知识，并结合Web3的特点进行思考。欢迎大家跟我约电话或约见面交流AI、Web3、亚非拉，共同探讨他们之间的结合点。
顺势而为，逆流而上
9 60