即刻App年轻人的同好社区
下载
App内打开
stainlu
713关注891被关注2夸夸
building infra for the next expression
🛰️stainlu
置顶
stainlu
1年前
0.7x0.7=0.9
51
stainlu
12天前
有什么公司是不自我改进的?
21
stainlu
1月前
agents scale with compute, rather than with population
10
stainlu
1月前
opus5.5 is the real fable5
00
stainlu
1月前
世界模型应该可以被计算
00
stainlu
1月前
上帝被人类杀死
00
stainlu
2月前

主播车厘子: jev 本质是专门服务于结构体生成的高速模型,在已经非常宽泛的 LLM 需求里,专门挑了一个刚需单独做 而结构体确实是 AI 工作的水电煤 2023 年的时候,开发者会先完成 tool 内的代码,然后使用 few shots 让 AI 生成对应的 json 结构体,再把结构体送入专门的执行器 用这个思路,可以完成 tool 调用、分类器、决策器等一系列功能,langchain 有一个标准 chain 就是用来做 routing 的 甚至在更早的 GPT-3 时期,AI 甚至没有 tool calls 的 schema 约束能力,开发者已经在采用 few shots 的方式去做结构体的输出和消费,可以说在语言模型发展的早期,结构体就是最早的 AI 工作流水电煤 到了 2025 年,AI 生成代码的能力开始显著变强,以 claude code 为首的 coding harness 倾向于使用 bash 和临场编写代码的方法完成复杂任务,与此同时随着一系列 skills 和 cli 的普及,“结构体”似乎变成了被 AGI 进程吞噬的一个小小概念 但结构体的生产和消费确实太高频了,CLI 调用本质是结构体,tool calls 本质是结构体,时常也大量存在用 2B 小模型做路由的需求、这个也是结构体 因此,在 2026 年,专注于结构体这一个需求的模型,再次火起来也是有合理性的 一个简单的功能是按需路由,把 prompt提前分配给不同尺寸的模型进行工作,尽管具体实现上还有缓存之类的问题,但不可否认的是,这个需求确实就是“语义进去,结构体出来,最好又快又便宜” 我一直有个观点是,AI 是未来生活的水电煤,结构体又是 AI 工作的水电煤

10