DeepSeek 这次开源的不是模型,而是生产 AI 的“工厂”
DeepSeek 这次开源了推理框架 DeepInfer。我觉得这件事可能比再开源一个更强的大模型还值得关注。
我的核心判断是:模型开源,让更多人有能力开发 AI 产品;推理技术进步,则可能让一些原本算不过账的 AI 生意,第一次算得过账。
过去开源模型,主要解决的是“谁能用上 AI”的问题。而这次开源推理框架,解决的是另一个问题:怎么用更低的成本,让 AI 同时服务更多人?
如果说模型是产品设计图纸,推理框架就像工厂的生产线。
DeepInfer 的技术优化主要集中在几个方面:
* MoE 专家并行: 让不同 GPU 分工协作,减少算力闲置。
* 推测解码: 提前预测多个 Token,再批量验证,减少生成时的等待。
* 异步调度: 让 CPU 准备任务和 GPU 计算尽可能同时进行,提高利用率。
* 批次不变推理: 减少不同批处理方式对输出结果的影响,提高可复现性。
说白了,它不是让模型更聪明,而是让同样的算力干更多活。
当然,目前 DeepInfer 还不是开箱即用的完整线上服务系统,实际性能优势仍需要验证。
但如果未来被广泛采用,DeepSeek 就可能不只是一家大模型公司,还可能成为全球 AI 基础设施的重要技术标准制定者,让人联想到 Linux、LLVM 等开源基础设施的发展路径。
那这跟普通人赚钱有什么关系?
过去几年,模型开源让越来越多人能够开发 AI 产品,但并没有让所有人都赚到钱。
因为会做产品,不代表有人买单。技术门槛降低,竞争反而可能更激烈。
而推理成本下降,可能改变另一件事:过去 AI 能做、但做一次太贵的生意,现在可能开始有利润了。
举三个我比较看好的场景:
1. AI 员工:一个人服务几十家小企业
比如给跨境电商提供 24 小时 AI 客服,自动处理询盘、订单、退换货。过去需要大量人工处理的工作,现在可能由 AI 完成大部分,创业者按月或按处理量收费。
2. AI 行业情报:一个人做出过去一个团队的产出
比如每天自动追踪几百家新能源公司的公告、专利、产品动态,整理成行业情报,卖给有需求的中小企业。AI 负责信息处理,人负责判断和核实。
3. AI 软件测试工厂:让 Agent 不知疲倦地测试代码
AI 写代码越来越便宜,但测试和维护仍然费时。未来可以让多个 Agent 持续生成测试、发现 Bug、提出修复建议,向软件公司按月收费。
这三个场景的共同点是:调用量大、任务重复、对成本敏感。 推理越便宜,商业化空间就可能越大。
当然,这不意味着 DeepInfer 一开源,普通人就能马上靠它赚钱。技术优化还需要传导到实际的 API 价格和部署成本,客户也未必愿意买单。
对普通人来说,未必需要自己研究推理框架,更值得做的是重新看看自己熟悉的行业:
有哪些过去太贵、太麻烦、不值得用 AI 做的事情,现在开始值得做了?
下一轮 AI 创业机会,也许就藏在这些刚刚跨过盈亏平衡点的业务里。