即刻App年轻人的同好社区
下载
最近我们做了一个很有趣的工作：一个核心代码只有约 200 行的 agent。
小，其实很重要。模型智能呈指数级提升的同时，人类施加的约束正在成为 agent 能力的新瓶颈。agent 越小，人为 bias 就越少。我们相信，具备 self-awareness 的 agent 能为自己找到更好的上下文方案，也能针对具体场景造出更合适的 tool。所以我们做了一个人类约束极小的 agent，ta区别于 ReAct 和 RLM 等现有范式。
在日常使用中，ta不断给我们带来新的惊喜。因为足够小，ta很容易被移植到各种平台上。只需几百行代码加一层 iOS 外壳，ta就能真正寄居在 iOS 系统中：可以把自己变成任意 App，可以直接在手机上训练一个猫脸分类器，把相册里的小猫照片全部找出来，甚至能把自己变成一个新的操作系统。
更疯狂的是，我们同样用几百行代码把ta移植到了 ESP32 上，作为一个 bootstrap 程序运行。接上传感器和显示屏后，ta可以按需变成各种智能设备。很多人家里都有温度计，但其实很少看。不如需要时让ta变成温度计，其余时间当软路由或别的设备。
但这些都只是意外收获。ta真正的用武之地，是在我们的 RSI 系统中进行极致的自我迭代。
如果你感兴趣，欢迎阅读我们的技术报告：fibona.ai
关注我们的开源项目:github.com
下面是一个我最喜欢的 demo：
小，其实很重要。模型智能呈指数级提升的同时，人类施加的约束正在成为 agent 能力的新瓶颈。agent 越小，人为 bias 就越少。我们相信，具备 self-awareness 的 agent 能为自己找到更好的上下文方案，也能针对具体场景造出更合适的 tool。所以我们做了一个人类约束极小的 agent，ta区别于 ReAct 和 RLM 等现有范式。
在日常使用中，ta不断给我们带来新的惊喜。因为足够小，ta很容易被移植到各种平台上。只需几百行代码加一层 iOS 外壳，ta就能真正寄居在 iOS 系统中：可以把自己变成任意 App，可以直接在手机上训练一个猫脸分类器，把相册里的小猫照片全部找出来，甚至能把自己变成一个新的操作系统。
更疯狂的是，我们同样用几百行代码把ta移植到了 ESP32 上，作为一个 bootstrap 程序运行。接上传感器和显示屏后，ta可以按需变成各种智能设备。很多人家里都有温度计，但其实很少看。不如需要时让ta变成温度计，其余时间当软路由或别的设备。
但这些都只是意外收获。ta真正的用武之地，是在我们的 RSI 系统中进行极致的自我迭代。
如果你感兴趣，欢迎阅读我们的技术报告：fibona.ai
关注我们的开源项目:github.com
下面是一个我最喜欢的 demo：
01:25
38 512
最近深有体感的几件事情:
1. 一个新技术在创新扩散的不同阶段都有不同的机会。
2. day0考虑竞争优势对于创业公司没有任何意义，可能更适合大厂团队。
3. "套壳"产品是跨越鸿沟的一种尝试，一个技术出现大量"套壳"是一种强烈市场信号。
1. 一个新技术在创新扩散的不同阶段都有不同的机会。
2. day0考虑竞争优势对于创业公司没有任何意义，可能更适合大厂团队。
3. "套壳"产品是跨越鸿沟的一种尝试，一个技术出现大量"套壳"是一种强烈市场信号。
9 10
一个人如果不用睡觉，24h都在用电脑，混社区。他到底会做些什么？
未来衡量一个公司/个人是否牛逼，最重要的一个指标可能是提出的能24h运行的任务数量。
这个真挺难的，想了很久我现在大概只想出两个。
未来衡量一个公司/个人是否牛逼，最重要的一个指标可能是提出的能24h运行的任务数量。
这个真挺难的，想了很久我现在大概只想出两个。
6 10
招1-2名实习生：
- 大模型公司数据团队，多模态(video/audio)方向
- 算法背景主要会来做 pretrain 数据实验和优化 pipeline labeling 模型效果相关工作
- 工程背景主要会来做分布式数据处理框架的优化以及数据 pipeline 的优化相关工作
- base 北京(暂不考虑远程)，实习时间6个月及以上
- 希望 coding 基本功扎实，最好简历里能附带可以证明自己 coding 能力的信息
不想暴露个人信息没写公司名字，简历或者细节咨询都可以直接加我wx 或者发邮件:
- wx: Songvvvvvvvv
- gmail: miraculouscodersong@gmail.com
- 大模型公司数据团队，多模态(video/audio)方向
- 算法背景主要会来做 pretrain 数据实验和优化 pipeline labeling 模型效果相关工作
- 工程背景主要会来做分布式数据处理框架的优化以及数据 pipeline 的优化相关工作
- base 北京(暂不考虑远程)，实习时间6个月及以上
- 希望 coding 基本功扎实，最好简历里能附带可以证明自己 coding 能力的信息
不想暴露个人信息没写公司名字，简历或者细节咨询都可以直接加我wx 或者发邮件:
- wx: Songvvvvvvvv
- gmail: miraculouscodersong@gmail.com
10 10
为模型服务的数据系统正在从0开始发展：
1. 传统机器学习领域虽然已经发展了多年，但是由于算力和架构的限制，对数据的消耗能力非常有限。大模型时代pre training, post training 阶段数据的消费能力是非常惊人的。特别是在大家尝到1 epoch的甜头以后，对于数据的需求上涨了成千上万倍。
2. 如何在短时间内生产这么多数据来供应模型训练就成了很大的问题。其中最重要的是计算和存储。
先说计算，近几年如此大规模的计算需求基本发生在互联网公司的数据仓库链路中，承担ETL，数据建模，adhoc查询等需求。Spark也在这些IO密集型，重shuffle，aggregate的场景中胜出，所以生态基建和普及率是最高的。也正因为此成为了各家模型公司的主要数据计算引擎。但也明显有水土不服，早期版本无法使用GPU，pyspark 昂贵的序列化反序列化代价，虽然都已经补上，但异构集群困难的自定义调度，昂贵的容错代价等还是阻碍了它接管所有计算场景。
3. 一众像ray一样提供更底层任务/数据编排调度的框架弥补了Spark的不足，在这种map算子占绝大多数的轻分布式计算场景中获得了先机。我觉得ray.data被推崇的主要原因是开放了task的调度接口，以及放弃对job级别幂等性保障而全面转向到min batch带来更低的心里使用成本。
4. 但是年轻的ray.data问题还非常多，经常被我吐槽还是一个toy project。缝合的类型系统洞非常多，经常出现写出去读不回来的尴尬处境。一些为了避免OOM的提前资源切分又做的很粗，在追求性能的场景下成为累赘。聊胜于无的auto scale和backpressure机制等都让它看起来无法胜任超大型的任务。但也正是因为这个生态位的短缺，ray.data正被很多大模型公司赶着上架。
1. 传统机器学习领域虽然已经发展了多年，但是由于算力和架构的限制，对数据的消耗能力非常有限。大模型时代pre training, post training 阶段数据的消费能力是非常惊人的。特别是在大家尝到1 epoch的甜头以后，对于数据的需求上涨了成千上万倍。
2. 如何在短时间内生产这么多数据来供应模型训练就成了很大的问题。其中最重要的是计算和存储。
先说计算，近几年如此大规模的计算需求基本发生在互联网公司的数据仓库链路中，承担ETL，数据建模，adhoc查询等需求。Spark也在这些IO密集型，重shuffle，aggregate的场景中胜出，所以生态基建和普及率是最高的。也正因为此成为了各家模型公司的主要数据计算引擎。但也明显有水土不服，早期版本无法使用GPU，pyspark 昂贵的序列化反序列化代价，虽然都已经补上，但异构集群困难的自定义调度，昂贵的容错代价等还是阻碍了它接管所有计算场景。
3. 一众像ray一样提供更底层任务/数据编排调度的框架弥补了Spark的不足，在这种map算子占绝大多数的轻分布式计算场景中获得了先机。我觉得ray.data被推崇的主要原因是开放了task的调度接口，以及放弃对job级别幂等性保障而全面转向到min batch带来更低的心里使用成本。
4. 但是年轻的ray.data问题还非常多，经常被我吐槽还是一个toy project。缝合的类型系统洞非常多，经常出现写出去读不回来的尴尬处境。一些为了避免OOM的提前资源切分又做的很粗，在追求性能的场景下成为累赘。聊胜于无的auto scale和backpressure机制等都让它看起来无法胜任超大型的任务。但也正是因为这个生态位的短缺，ray.data正被很多大模型公司赶着上架。
11 03
最近这半年陆陆续续接到好几个朋友的电话想咨询一下和大模型相关的问题，有技术相关背景的朋友，也有完全和这个圈子不相关做实体产业的长辈。和他们聊了聊，关心的问题比较集中，主要是模型的能力边界，模型如何结合自己的场景以及如何快速落地。
其中有一些感受：
1. 这一轮新的机器学习浪潮在多种模态上都有了显著的提升。不仅仅是大家熟悉的LLM，VLM和e2e audio，Gen image/video/audio等提升都很大，并且是有解锁一些新的能力和场景的。所以想把它们使用好，要获取的上下文会非常的长，并且要对其中要点进行充分的理解又避免不了结合训练方法和训练数据进行学习。这中间出现了需要由人来弥合的鸿沟。
2. 结合1想要给朋友解释清楚也不是一件容易的事情。如何用简练的语言和一些结合他背景的比方先把上下文先灌给他是挺难的，但这件事情上人会比LLM更有优势，人拥有了更多对沟通对象的了解，比如你们之前共同经历所积累的黑话等。再上下文构建完成以后，就需要以此为基础带着他一起推理，这个阶段更需要对模型有高屋建瓴的理解，也常常会倒逼着我去思考一些更本质的问题。
3. 通过这样的交流感受最大的是刚开始完全不了解所带来的焦虑感，以及大致了解清楚以后的释然，放心焦虑开始思考如何更好的使用这么强大的工具。
其中有一些感受：
1. 这一轮新的机器学习浪潮在多种模态上都有了显著的提升。不仅仅是大家熟悉的LLM，VLM和e2e audio，Gen image/video/audio等提升都很大，并且是有解锁一些新的能力和场景的。所以想把它们使用好，要获取的上下文会非常的长，并且要对其中要点进行充分的理解又避免不了结合训练方法和训练数据进行学习。这中间出现了需要由人来弥合的鸿沟。
2. 结合1想要给朋友解释清楚也不是一件容易的事情。如何用简练的语言和一些结合他背景的比方先把上下文先灌给他是挺难的，但这件事情上人会比LLM更有优势，人拥有了更多对沟通对象的了解，比如你们之前共同经历所积累的黑话等。再上下文构建完成以后，就需要以此为基础带着他一起推理，这个阶段更需要对模型有高屋建瓴的理解，也常常会倒逼着我去思考一些更本质的问题。
3. 通过这样的交流感受最大的是刚开始完全不了解所带来的焦虑感，以及大致了解清楚以后的释然，放心焦虑开始思考如何更好的使用这么强大的工具。
34 28
脑洞
几年以后，研究大模型可解释性的研究员发现，在某个参数量以后，模型内部逐渐分化形成了像人类器官结构一样的组织形式。
其中看似杂乱无章的神经元，在数以亿计的消融实验中被发现某一些组群可以像基因片段一样控制模型进行稳定的性状表达。
人类开始抛弃scaling low，对大模型动“基因”手术，一个个fp32被显微镜下放大，最终总算找到了控制LLM repeat的 Layer16.Q4.78-99 segment。
几年以后，研究大模型可解释性的研究员发现，在某个参数量以后，模型内部逐渐分化形成了像人类器官结构一样的组织形式。
其中看似杂乱无章的神经元，在数以亿计的消融实验中被发现某一些组群可以像基因片段一样控制模型进行稳定的性状表达。
人类开始抛弃scaling low，对大模型动“基因”手术，一个个fp32被显微镜下放大，最终总算找到了控制LLM repeat的 Layer16.Q4.78-99 segment。
12 11