晚上接了个知乎付费咨询,对方要做电话录音的大模型结构化分析,ASR转写、规则引擎、多标签质检、证据链绑定这些,整套架构想得很细。对方纠结的是RAG还是Prompt,但真正的问题不在模型侧,而是配置文件还没有被工程化,当然整体还是要搭个分层容错架构。
写完回复顺手看了眼对方主页,赫然写着贷款居间服务。一个中介团队对 LLM 落地的思考粒度,已经到了 Prompt 分阶段设计和 JSON Schema 约束输出的程度。反观不少持牌机构,受限于组织惯性还在各种瞎搞。贷款中介的核心业务逻辑是电话量驱动的漏斗转化,这个需求场景分析的不是客服质量,而是销售漏斗的每一层转化效率。这套东西搭出来再花几个月迭代,ROI应该是可观的。
还是大刘那句话说的好,弱小和无知不是生存的障碍,傲慢才是。