即刻App年轻人的同好社区
下载
Barret李靖
172关注12k被关注12夸夸
编程领域优秀贡献者
AI Engineer | Lifelong learner | Cloud Native | Dad of 2
小胡子哥，一个有趣的灵魂
小胡子哥，一个有趣的灵魂
这一套东西，我们团队五月份就在跑了😄，果然实践应该与理论相结合才能跑得更快，把实践转换成理论，基于理论再更新实践，RSI。
预判下，今年底 SuperAgent 会多如牛毛，马上要迎来的下一个命题是，Multi-SuperAgent 带来的复杂协同问题。
预判下，今年底 SuperAgent 会多如牛毛，马上要迎来的下一个命题是，Multi-SuperAgent 带来的复杂协同问题。
Super-agent 设计探索：迈向更自主的 Agent 系统
2 00
关于 Personal Agent 的两个根本性问题：
1、用户可能不需要一个 AI 健康管家，但是他希望少生病、睡得好；用户可能不需要一个 AI 助理，但希望自己的事情能自动处理好。AI 产品如果要求用户主动提出任务、持续管理 Agent，本身就创造了新的使用成本。一个每月只能帮我节省半小时，却需要我花一小时配置和检查的 AI 助理，缺少足够的经济价值。
2、早期的电力革命催生了冰箱、洗衣机和空调，解决的是高频、刚需的物理世界问题。AI 当前的价值更多集中在认知和决策领域，比如让孩子拥有私人教师、让家庭拥有健康管家、让每个人拥有私人事务助理。但普通人真的需要这么多专业服务吗？供给能力的爆炸，并不一定带来需求的爆炸。我们可能严重高估了人类对 AI 服务的需求。
Personal Agent 的最大竞争对手，可能是用户什么都不做😂。宁愿忍受一些低效率，也不愿意为解决这些问题额外投入精力。
1、用户可能不需要一个 AI 健康管家，但是他希望少生病、睡得好；用户可能不需要一个 AI 助理，但希望自己的事情能自动处理好。AI 产品如果要求用户主动提出任务、持续管理 Agent，本身就创造了新的使用成本。一个每月只能帮我节省半小时，却需要我花一小时配置和检查的 AI 助理，缺少足够的经济价值。
2、早期的电力革命催生了冰箱、洗衣机和空调，解决的是高频、刚需的物理世界问题。AI 当前的价值更多集中在认知和决策领域，比如让孩子拥有私人教师、让家庭拥有健康管家、让每个人拥有私人事务助理。但普通人真的需要这么多专业服务吗？供给能力的爆炸，并不一定带来需求的爆炸。我们可能严重高估了人类对 AI 服务的需求。
Personal Agent 的最大竞争对手，可能是用户什么都不做😂。宁愿忍受一些低效率，也不愿意为解决这些问题额外投入精力。
16 11
AI 已经发展快四年了，可以说几乎完全渗透进了软件行业。但再去观察这个行业从业者的基本情况，会发现工资并没有普遍大幅增长。
AI 当前的经济价值，更多体现在替代人工解决已知问题、创造已知价值。
过去一个工程师每个月交付 10 个需求，现在可以交付 20 个。如果公司确实需要这 20 个需求，并因此增加了营收，那么工程师的绩效可能会提升，但工资未必同步增长；如果公司只需要 10 个需求，那么工程师空闲的时间就变多了，企业甚至可能因此减少招聘或裁员。
人的收入增长，需要更多增量价值来支撑。例如利用 AI 独立开发产品，面向市场销售，获得新的商业回报，这是个人产能向市场价值的溢出。那么对企业来说，如何获得这种价值的溢出呢？🐶
AI 当前的经济价值，更多体现在替代人工解决已知问题、创造已知价值。
过去一个工程师每个月交付 10 个需求，现在可以交付 20 个。如果公司确实需要这 20 个需求，并因此增加了营收，那么工程师的绩效可能会提升，但工资未必同步增长；如果公司只需要 10 个需求，那么工程师空闲的时间就变多了，企业甚至可能因此减少招聘或裁员。
人的收入增长，需要更多增量价值来支撑。例如利用 AI 独立开发产品，面向市场销售，获得新的商业回报，这是个人产能向市场价值的溢出。那么对企业来说，如何获得这种价值的溢出呢？🐶
6 42
感受过爱的人，才懂得如何更好地去爱这个世界，去爱身边的人。同样的，如果想获得更多的爱，就应该先学会主动去爱，真诚地表达爱，也坦然地接受别人的爱。
今天遛娃，孩子的一颦一笑，竟让整个世界静止了下来，时间有那么一刻，停止了流动。
今天遛娃，孩子的一颦一笑，竟让整个世界静止了下来，时间有那么一刻，停止了流动。
56 00
最近团队又有几个新的 HC，方向是 AI 基建，包括企业上下文和数字员工 runtime 等，要求具备全栈能力，能做好端到端交付。P6/P7，base 杭州，欢迎自荐和推荐。
微信：barret_china，注明来意。
微信：barret_china，注明来意。
14 03
有时候会想，我们每天这么着急，到底是为了什么？
着急送孩子上学，着急赶到公司，着急处理工作，着急把一件又一件事情做完，就连电视剧都要着急三倍速刷完。好像所有事情都有一个必须赶上的时间点。
可如果因为赶时间，失去了跟孩子好好走一段路的心情，那我们究竟是在节省时间，还是在消耗生活？
着急送孩子上学，着急赶到公司，着急处理工作，着急把一件又一件事情做完，就连电视剧都要着急三倍速刷完。好像所有事情都有一个必须赶上的时间点。
可如果因为赶时间，失去了跟孩子好好走一段路的心情，那我们究竟是在节省时间，还是在消耗生活？
37 71
脖子酸痛10多天，挂了个名医，挂号费150，交通2小时，医生问诊1分钟，没开药，没做检查，让我多运动，多抬头🐶
我终于体会了一位医生朋友说的，学会跟身体的不完美和谐相处，病痛只要不影响生活，就别放在心上。
我终于体会了一位医生朋友说的，学会跟身体的不完美和谐相处，病痛只要不影响生活，就别放在心上。
46 141
研究了一下过去几年芯片和算力的供给情况。目前，市场上大约有 2000 万张 H100 等效卡的算力。按 Token 计算，年消耗量已经达到几十万亿亿 Token，相比去年增长了接近一个数量级。
过去三年，AI 芯片的算力供给每年大约增长 3 倍。但考虑到卡的数量增加、单卡性能提升，以及推理效率不断优化，实际能够对外提供的 Token 算力，年增长幅度可能接近 10 倍。
从 Chat 到 Coding，再到 Agent，每次产品形态升级，都会带来一轮新的需求增长。早期的 Chat，一次推理可能只需要几千 Token；到了 Coding，用户通过 Agent 完成一项任务，一次可能消耗几十万到几百万 Token；而 Agent 需要处理更长的上下文、调用工具，并进行多轮推理和验证，复杂任务的消耗可能达到千万甚至上亿 Token。
按照这个趋势，未来 Token 的需求大概率仍会保持指数级增长。那市场上会不会出现 Token 供不应求的情况？答案是会，而且现在其实已经长期处于紧平衡状态。需求突然上升时，市场通常会通过价格和延迟来调节：高价模型先涨价，低价模型则出现排队，同时也会有更多算力从训练逐步转向推理。
Token 的供给可以从四个层面来看：
1）电力和数据中心。这是最慢的一层。一个大型数据中心从电力指标、选址建设到最终投产，通常需要两三年。
2）芯片供给。Nvidia、Google、AMD 等厂商都在持续扩大产能，同时新一代芯片的性能也在不断提升。
3）模型和推理效率。同样一张卡，通过量化、缓存、推测解码等技术，可以生成更多 Token，单位算力的产出还会继续提高。
4）算力分配。目前仍有大量算力用于训练、RL 和各种实验。随着推理需求继续增长，部分存量算力会逐步从训练转向对外提供 Token。
从这个角度看，未来的 Token 可能会越来越像今天的电力和带宽。算力供给每增加一轮，很快就会有新的应用把这部分增量消耗掉。Chat 吃掉了第一波，Coding 吃掉了第二波，接下来 Agent 还会继续消耗新增的算力。
过去三年，AI 芯片的算力供给每年大约增长 3 倍。但考虑到卡的数量增加、单卡性能提升，以及推理效率不断优化，实际能够对外提供的 Token 算力，年增长幅度可能接近 10 倍。
从 Chat 到 Coding，再到 Agent，每次产品形态升级，都会带来一轮新的需求增长。早期的 Chat，一次推理可能只需要几千 Token；到了 Coding，用户通过 Agent 完成一项任务，一次可能消耗几十万到几百万 Token；而 Agent 需要处理更长的上下文、调用工具，并进行多轮推理和验证，复杂任务的消耗可能达到千万甚至上亿 Token。
按照这个趋势，未来 Token 的需求大概率仍会保持指数级增长。那市场上会不会出现 Token 供不应求的情况？答案是会，而且现在其实已经长期处于紧平衡状态。需求突然上升时，市场通常会通过价格和延迟来调节：高价模型先涨价，低价模型则出现排队，同时也会有更多算力从训练逐步转向推理。
Token 的供给可以从四个层面来看：
1）电力和数据中心。这是最慢的一层。一个大型数据中心从电力指标、选址建设到最终投产，通常需要两三年。
2）芯片供给。Nvidia、Google、AMD 等厂商都在持续扩大产能，同时新一代芯片的性能也在不断提升。
3）模型和推理效率。同样一张卡，通过量化、缓存、推测解码等技术，可以生成更多 Token，单位算力的产出还会继续提高。
4）算力分配。目前仍有大量算力用于训练、RL 和各种实验。随着推理需求继续增长，部分存量算力会逐步从训练转向对外提供 Token。
从这个角度看，未来的 Token 可能会越来越像今天的电力和带宽。算力供给每增加一轮，很快就会有新的应用把这部分增量消耗掉。Chat 吃掉了第一波，Coding 吃掉了第二波，接下来 Agent 还会继续消耗新增的算力。
17 22