即刻App年轻人的同好社区
下载
App内打开
stainlu
707关注876被关注2夸夸
building infra for the next expression
🛰️stainlu
置顶
stainlu
1年前
0.7x0.7=0.9
51
stainlu
4天前
agents scale with compute, rather than with population
10
stainlu
7天前
opus5.5 is the real fable5
00
stainlu
11天前
世界模型应该可以被计算
00
stainlu
13天前
上帝被人类杀死
00
stainlu
16天前

主播车厘子: jev 本质是专门服务于结构体生成的高速模型,在已经非常宽泛的 LLM 需求里,专门挑了一个刚需单独做 而结构体确实是 AI 工作的水电煤 2023 年的时候,开发者会先完成 tool 内的代码,然后使用 few shots 让 AI 生成对应的 json 结构体,再把结构体送入专门的执行器 用这个思路,可以完成 tool 调用、分类器、决策器等一系列功能,langchain 有一个标准 chain 就是用来做 routing 的 甚至在更早的 GPT-3 时期,AI 甚至没有 tool calls 的 schema 约束能力,开发者已经在采用 few shots 的方式去做结构体的输出和消费,可以说在语言模型发展的早期,结构体就是最早的 AI 工作流水电煤 到了 2025 年,AI 生成代码的能力开始显著变强,以 claude code 为首的 coding harness 倾向于使用 bash 和临场编写代码的方法完成复杂任务,与此同时随着一系列 skills 和 cli 的普及,“结构体”似乎变成了被 AGI 进程吞噬的一个小小概念 但结构体的生产和消费确实太高频了,CLI 调用本质是结构体,tool calls 本质是结构体,时常也大量存在用 2B 小模型做路由的需求、这个也是结构体 因此,在 2026 年,专注于结构体这一个需求的模型,再次火起来也是有合理性的 一个简单的功能是按需路由,把 prompt提前分配给不同尺寸的模型进行工作,尽管具体实现上还有缓存之类的问题,但不可否认的是,这个需求确实就是“语义进去,结构体出来,最好又快又便宜” 我一直有个观点是,AI 是未来生活的水电煤,结构体又是 AI 工作的水电煤

10
stainlu
17天前
10
stainlu
18天前
当时只道是寻常
10