作为一个分析师,如果问我现在 AI 离真正“接管数据工作”还有多远,我会觉得,最大的瓶颈已经不完全是智力了,它越来越像一个可信度工程的问题。
AI 能不能完成查询、计算、写入数据?很多时候已经能。
AI 能不能连续正确地完成 100 次?开始变得困难。
第 73 次做错的时候,它自己知不知道?更困难。
而当它不知道自己错了的时候,系统能不能发现异常、拦住错误,不让一个“看起来正确”的结果进入正式产出?
这可能才是最后一公里。
像 lock、validator、state machine、golden baseline 这些东西,看起来只是我为了修一个 Excel 自动化逐渐接触到的工程概念,但它们背后其实都在解决同一个问题:
怎么把一个“很聪明但可能犯错的 Agent”,装进一个能够约束它、验证它,并尽可能阻止错误结果被正式交付的系统里。
说得更具体一点。
当你告诉 AI:“检查本周数据是否完整,然后更新 Excel。”它需要先理解“完整”是什么意思,再决定应该怎么做。
于是可能出现:
第一次:发现只有 6 天 → 停止。
第二次:发现只有 6 天 → 认为“虽然不完整,但也够分析” → 继续。
第三次:发现缺了一天 → 自己想办法补了一下 → 继续。
真正麻烦的是,后两种情况不一定会报错。
Agent 可能非常流畅地读取数据 → 做出判断 → 写入 Excel → 生成周报 → 告诉你“任务完成”。
整个流程看起来完全正常,但它其实在中间替你做了一个它本来没有资格做的判断。
传统程序当然也会产生静默错误,但 Agent 又增加了一层新的风险:
它可能理解错了、判断错了,却依然非常顺利地把整个任务执行完。
所以后来我发现,给自动化不断增加的那些检查,本质上都是在给 Agent 划定一些它没有资格自行判断的边界:
6 天够不够?——你不用判断,必须 7 天。
重复运行能不能再写?——你不用判断,唯一键不允许。
前一步失败还能不能继续?——你不用判断,状态机不允许。
两个任务能不能同时写 Excel?——你不用判断,lock 不允许。
这些规则不是为了让 AI 变得更聪明,而是为了让一些关键问题根本不需要 AI 发挥聪明。
能验证的自动验证,不能验证的明确暴露,有疑问的停止交付,而不是让错误安静地流到最后。