即刻App年轻人的同好社区
下载
App内打开

人工智能讨论组

人工智能or人工“智障”,一起聊聊人工智能新进展?

477616人已经加入

  • 童欧巴
    1天前
    买了一台新电脑,不过是给 Agent 用的
    40
  • OrangeCLK
    1天前
    01
  • 璇仔Valeri
    2天前
    DeepSeek 这次开源的不是模型,而是生产 AI 的“工厂”

    DeepSeek 这次开源了推理框架 DeepInfer。我觉得这件事可能比再开源一个更强的大模型还值得关注。

    我的核心判断是:模型开源,让更多人有能力开发 AI 产品;推理技术进步,则可能让一些原本算不过账的 AI 生意,第一次算得过账。

    过去开源模型,主要解决的是“谁能用上 AI”的问题。而这次开源推理框架,解决的是另一个问题:怎么用更低的成本,让 AI 同时服务更多人?

    如果说模型是产品设计图纸,推理框架就像工厂的生产线。

    DeepInfer 的技术优化主要集中在几个方面:

    * MoE 专家并行: 让不同 GPU 分工协作,减少算力闲置。
    * 推测解码: 提前预测多个 Token,再批量验证,减少生成时的等待。
    * 异步调度: 让 CPU 准备任务和 GPU 计算尽可能同时进行,提高利用率。
    * 批次不变推理: 减少不同批处理方式对输出结果的影响,提高可复现性。

    说白了,它不是让模型更聪明,而是让同样的算力干更多活。

    当然,目前 DeepInfer 还不是开箱即用的完整线上服务系统,实际性能优势仍需要验证。

    但如果未来被广泛采用,DeepSeek 就可能不只是一家大模型公司,还可能成为全球 AI 基础设施的重要技术标准制定者,让人联想到 Linux、LLVM 等开源基础设施的发展路径。

    那这跟普通人赚钱有什么关系?

    过去几年,模型开源让越来越多人能够开发 AI 产品,但并没有让所有人都赚到钱。

    因为会做产品,不代表有人买单。技术门槛降低,竞争反而可能更激烈。

    而推理成本下降,可能改变另一件事:过去 AI 能做、但做一次太贵的生意,现在可能开始有利润了。

    举三个我比较看好的场景:

    1. AI 员工:一个人服务几十家小企业

    比如给跨境电商提供 24 小时 AI 客服,自动处理询盘、订单、退换货。过去需要大量人工处理的工作,现在可能由 AI 完成大部分,创业者按月或按处理量收费。

    2. AI 行业情报:一个人做出过去一个团队的产出

    比如每天自动追踪几百家新能源公司的公告、专利、产品动态,整理成行业情报,卖给有需求的中小企业。AI 负责信息处理,人负责判断和核实。

    3. AI 软件测试工厂:让 Agent 不知疲倦地测试代码

    AI 写代码越来越便宜,但测试和维护仍然费时。未来可以让多个 Agent 持续生成测试、发现 Bug、提出修复建议,向软件公司按月收费。

    这三个场景的共同点是:调用量大、任务重复、对成本敏感。 推理越便宜,商业化空间就可能越大。

    当然,这不意味着 DeepInfer 一开源,普通人就能马上靠它赚钱。技术优化还需要传导到实际的 API 价格和部署成本,客户也未必愿意买单。

    对普通人来说,未必需要自己研究推理框架,更值得做的是重新看看自己熟悉的行业:

    有哪些过去太贵、太麻烦、不值得用 AI 做的事情,现在开始值得做了?

    下一轮 AI 创业机会,也许就藏在这些刚刚跨过盈亏平衡点的业务里。

    DeepSeek 开源推理框架:走向真正普惠的未来

    12
  • 云波Cloud
    2天前
    DeepSeek:今天,我们正式开源大规模云服务推理框架 DeepInfer。 基于这一框架,我们已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。目前单一集群的服务吞吐是 155 万亿 Tokens/天,整体收入是每卡每小时 38 美金(按谷价)。

    DeepSeek 竟然把自己的服务吞吐量和单卡收入都公布了...,联想到胖东来超市公布部分商品的成本价...
    00
  • OrangeCLK
    1天前
    00
  • OrangeCLK
    1天前
    00
  • OrangeCLK
    3天前
    > OpenAI、Meta、Google、Instinct 等公司承诺,AI 智能体能代你浏览互联网,完成从预订餐厅、清理邮箱到购买新鞋等任务。但如果平台不予以配合会怎样?使用 Meta 的 Muse、xAI 的 Grok、OpenAI 的 Dots 以及 Instinct 等智能体服务的用户最近几周发现其智能体在访问部分主流网站时遭到屏蔽,无法执行任务。Yelp 表示该平台仅允许付费参与其数据许可计划的智能体进行访问;达美航空阻止了智能体代用户预订机票。摩根大通和嘉信理财也证实出于安全考虑正阻止智能体访问用户账户。此前曾支持智能体访问的网站如 Cars.com 和 Amtrak 如今已无法访问,表明其它公司也逆转了立场。亚马逊屏蔽了 Meta 的 Muse、xAI 的 Grok、Instinct 的 AI 智能体以及 OpenAI 的 Dots。AI 智能体无法访问的平台越多,人们就越会质疑其实用性。Meta 改为与沃尔玛、Gap、Sephora、百思买等零售商达成合作,允许 Muse 在这些平台进行购物。

    奇客Solidot | 网站对 AI 智能体关上大门

    00
  • 小张总不服
    1天前
    突发感悟,AI幻觉真的不可接受吗?
    有些人自己都靠不住,胡言乱语,胡说八道,胡编乱造。
    人类却想让AI成为一个只说对话的智能产物。
    AI幻觉恰恰让人需要保持鉴别筛选的能力,需要时刻警惕。
    00
  • 埃安
    4天前
    对狗来说,人类就是AGI。
    奇点对狗来说早已发生,它们不用理解原理,不用上班,有人供养。
    反过来说,对 AGI 来说我们大概也是狗。只不过我们当中已经有人在当那个「人」了。
    四个月前,在同济教数学的朋友搭了GPT Pro Agent 跑复杂证明,今天AI让数学走向工业化。
    00
  • 自牧生_gawain
    3天前
    那个心力球,遇到我这种一天也没有几句话的怎么办?这种设备明显是为 E 人设计的,对我而言,说出来的都是不重要的😂

    我看,要是有直接记录心理活动的设备那才是夯爆了,对了,听说明代小说里,夯是傻的意思😂
    00