即刻App年轻人的同好社区
下载
围绕 Durable Execution & Pi Durable 说几句：
「Durable Execution」 在 「Agent Infra」 领域被持续重视和提起，是 「Agent」 进入 「Cloud」 环境面临规模化挑战下的必然趋势。
当下社区热议的 Pi 终于把原来脏兮兮的 「Harness」 层拿了出去，推出了具备 「Durable」 特性的新包。
从服务端与分布式领域的工程架构视角来看，Pi Durable 在设计上亲和 「Actor Model」，其核心在于计算与状态在物理上的绑定，一旦抓住这个本质，很容易推导出其合适的载体就是当下流行的那些以 「Actor Model」 为设计核心的计算单元，例如 Cloudflare 的 DO、Node / Deno 之父写的 celld 以及 Rivet 等等，因此，它们也确实能第一时间蹭上热度，😄。
然而，这个 「Actor Model」 不是严格意义上的，更不可能算是 「Virtual Actor」，因为它存在一个根本限制，那就是「位置不透明」。
放弃位置透明性（也有号称正在实现中的），在单机维度锁定物理拓扑以降低网络通信开销，其初衷是为了打破长上下文场景下的 I/O 瓶颈并维持流式长连接特性。在多租户模型中，这种绑定设计最大的优势在于较低的基础设施依赖度，开发者无需在外部运维一套复杂的分布式事务日志集群，即可依靠内嵌存储做到开箱即用的持久能力（Checkpoint 机制），在面对轻量级常驻「Agent」、本地终端交互或边缘计算等场景时，能换取很高的研发效能与低成本优势。
然而，在 LLM 动辄数秒的推理时长面前，本地 I/O 相比网络通信的时延优势在总耗时中会被稀释，这也让绑定架构所追求的局部时延优势不再明显，反而让系统在生产环境进行规模化时，必须在应用层解决由于计算状态一体化带来的单机物理瓶颈，以及长周期状态机由于依赖历史日志进行确定性重放而带来的代码热升级与「Schema Migration」难题，单租户 Sandbox 架构同理。
相比之下，以 Restate 或 Temporal 为代表的存储（状态）计算分离的「Stateless Actor」架构，虽然每次状态持久化都必须跨越网络边界并承担确定的网络系统开销，但它通过将状态外置于独立日志引擎，在 LLM 耗时占绝对大头的物理现实下，用完全可接受的网络级 I/O 成本，换取了相对好的版本平滑升级能力与真正的无状态弹性扩展，从而成为 Cursor 等重型云端 「Coding Agent」 的主流选择。
持久执行并无银弹，Pi Durable 偏向于为轻量级长时任务提供一个高确定性、低依赖的应用级轻量宿主；而 Restate 等代表的计算与状态分离路线，则是用明确的网络开销换取了集群治理与工程演进的自由。
从业务场景角度来看，两者甚至可以相辅相成。
「Durable Execution」 在 「Agent Infra」 领域被持续重视和提起，是 「Agent」 进入 「Cloud」 环境面临规模化挑战下的必然趋势。
当下社区热议的 Pi 终于把原来脏兮兮的 「Harness」 层拿了出去，推出了具备 「Durable」 特性的新包。
从服务端与分布式领域的工程架构视角来看，Pi Durable 在设计上亲和 「Actor Model」，其核心在于计算与状态在物理上的绑定，一旦抓住这个本质，很容易推导出其合适的载体就是当下流行的那些以 「Actor Model」 为设计核心的计算单元，例如 Cloudflare 的 DO、Node / Deno 之父写的 celld 以及 Rivet 等等，因此，它们也确实能第一时间蹭上热度，😄。
然而，这个 「Actor Model」 不是严格意义上的，更不可能算是 「Virtual Actor」，因为它存在一个根本限制，那就是「位置不透明」。
放弃位置透明性（也有号称正在实现中的），在单机维度锁定物理拓扑以降低网络通信开销，其初衷是为了打破长上下文场景下的 I/O 瓶颈并维持流式长连接特性。在多租户模型中，这种绑定设计最大的优势在于较低的基础设施依赖度，开发者无需在外部运维一套复杂的分布式事务日志集群，即可依靠内嵌存储做到开箱即用的持久能力（Checkpoint 机制），在面对轻量级常驻「Agent」、本地终端交互或边缘计算等场景时，能换取很高的研发效能与低成本优势。
然而，在 LLM 动辄数秒的推理时长面前，本地 I/O 相比网络通信的时延优势在总耗时中会被稀释，这也让绑定架构所追求的局部时延优势不再明显，反而让系统在生产环境进行规模化时，必须在应用层解决由于计算状态一体化带来的单机物理瓶颈，以及长周期状态机由于依赖历史日志进行确定性重放而带来的代码热升级与「Schema Migration」难题，单租户 Sandbox 架构同理。
相比之下，以 Restate 或 Temporal 为代表的存储（状态）计算分离的「Stateless Actor」架构，虽然每次状态持久化都必须跨越网络边界并承担确定的网络系统开销，但它通过将状态外置于独立日志引擎，在 LLM 耗时占绝对大头的物理现实下，用完全可接受的网络级 I/O 成本，换取了相对好的版本平滑升级能力与真正的无状态弹性扩展，从而成为 Cursor 等重型云端 「Coding Agent」 的主流选择。
持久执行并无银弹，Pi Durable 偏向于为轻量级长时任务提供一个高确定性、低依赖的应用级轻量宿主；而 Restate 等代表的计算与状态分离路线，则是用明确的网络开销换取了集群治理与工程演进的自由。
从业务场景角度来看，两者甚至可以相辅相成。
6 10
我在最近两天的极高密度生产级 Coding 实践中，使用 Opus / Fable 结合 Formal Verification（主要是 TLA+）来验证 Agent Service 在分布式环境下结合 Durable Execution 的 Race Condition 测试，效果相当地好，不仅发现诸多潜在的问题，也让回归变得更加踏实。
我曾短暂研究过形式验证系统的相关工具，尤其分布式领域的，如今在 AI Coding 时代重新放大它的价值，让我非常兴奋，也欢迎长期研究此领域的同学可以深入交流。
类型系统 / 形式验证，以及基于数学之上的种种编程范式，都是为了让程序变得可预测，可被证明。
而这些，必将成为 AI 时代写出高质量运行时及代码的重要一课。
对于做 Infra 的同学更是如此，共勉。
永无止境的 Loop 吧。
我曾短暂研究过形式验证系统的相关工具，尤其分布式领域的，如今在 AI Coding 时代重新放大它的价值，让我非常兴奋，也欢迎长期研究此领域的同学可以深入交流。
类型系统 / 形式验证，以及基于数学之上的种种编程范式，都是为了让程序变得可预测，可被证明。
而这些，必将成为 AI 时代写出高质量运行时及代码的重要一课。
对于做 Infra 的同学更是如此，共勉。
永无止境的 Loop 吧。
7 01
给 Jev 做了一个生产级别的 tiny sdk，同时让我感慨，真的要断代了啊，什么 Tagged Template Literals、什么 Type Safe，谁（大家）还（一定要）关心啊？！
12 11
关于 DSH，抛砖引玉。
基本信息：
1. Tianyi Cui 本身就有 FP 函数式编程的经验。
2. DSH 的设计充分吸收了 Effect / Coeffect 的思想。
3. 我在公司的 Spark 上说，Agent Loop 就是 Monad 和 Comonad 的交织美学。
技术观点：
众所周知，如果用上 FP，大概率是为了让一套抽象的计算模型可以得到严谨的形式论证，且是数学（范畴论等）层面可以推演的，就像 TLA+ 之于分布式计算领域。
这种严谨性论证的诉求，从现有的资料可以分析推断，起因是 DSH 找到了一种 Agent Loop 的核心抽象，且一开始就是朝着 RSI （递归自我进化）去的，不理解这个目标，就很难理解为什么这个抽象可以优雅地做到，而其它抽象则不行。
这个抽象就是 Monad 和 Comonad 的美妙交织：源源不断地向环境产生「副作用」- 时间维度的向后发散（Monad）以及从环境中不停获取上下文 - 空间维度的向前聚合（Comonad），互为「对偶」，这个交织是完全动态且响应式的，且因为是基于 FP 范式的，所以天然就叠加了它的严谨性和所有已知优点，可以让 DSH 在 RSI 过程中随便怎么折腾也能做到「稳定状态」，这就是 FP 众所周知的威力：Pointer-Free、Composable 等等。
这是一个在 「运行时」就可以达到「优雅自进化」架构的 Harness。
不是让模型自己去目录下改几个文件，就敢叫「自进化」的，DSH 创新地在 Agent Harness 领域引入函数式编程范式（门槛极高），这种跨学科领域的创新，本身就是顶级的，值得深入学习。
其它比如产品层面的讨论，那是完全另外一个角度。
基本信息：
1. Tianyi Cui 本身就有 FP 函数式编程的经验。
2. DSH 的设计充分吸收了 Effect / Coeffect 的思想。
3. 我在公司的 Spark 上说，Agent Loop 就是 Monad 和 Comonad 的交织美学。
技术观点：
众所周知，如果用上 FP，大概率是为了让一套抽象的计算模型可以得到严谨的形式论证，且是数学（范畴论等）层面可以推演的，就像 TLA+ 之于分布式计算领域。
这种严谨性论证的诉求，从现有的资料可以分析推断，起因是 DSH 找到了一种 Agent Loop 的核心抽象，且一开始就是朝着 RSI （递归自我进化）去的，不理解这个目标，就很难理解为什么这个抽象可以优雅地做到，而其它抽象则不行。
这个抽象就是 Monad 和 Comonad 的美妙交织：源源不断地向环境产生「副作用」- 时间维度的向后发散（Monad）以及从环境中不停获取上下文 - 空间维度的向前聚合（Comonad），互为「对偶」，这个交织是完全动态且响应式的，且因为是基于 FP 范式的，所以天然就叠加了它的严谨性和所有已知优点，可以让 DSH 在 RSI 过程中随便怎么折腾也能做到「稳定状态」，这就是 FP 众所周知的威力：Pointer-Free、Composable 等等。
这是一个在 「运行时」就可以达到「优雅自进化」架构的 Harness。
不是让模型自己去目录下改几个文件，就敢叫「自进化」的，DSH 创新地在 Agent Harness 领域引入函数式编程范式（门槛极高），这种跨学科领域的创新，本身就是顶级的，值得深入学习。
其它比如产品层面的讨论，那是完全另外一个角度。
15 44