即刻App年轻人的同好社区
下载
App内打开
悯生
75关注51被关注0夸夸
🧑‍💻AI算法资深从业者
🛠️探索AIGC深度应用
📚中医爱好者
悯生
4天前
这个token消耗量级在AI应用里算什么等级
10
悯生
5天前
此刻,阿里千问发布会正在进行中,截止到当前的演讲,感觉离真实场景还是有些距离:

1)发布会演示的内容,全部是一句话包含比较完整的任务信息内容,这在实际中几乎很少,通常的任务都是在无意的交谈中提到,且均不是一句话包含全部信息,而是在多次或多轮的对话中包含

2)千问这次是打通了它内部几个平台,从而实现购物、出行,这里带来几个问题:
- 给出内容的质量,或者说信任谁来保障
- 阿里生态的服务是否就无法触达和提供

不过能逐步集成,也是个进步,等待AI应用持续发展
02
悯生
7天前
DeepSeek昨天发了一篇新研究论文叫“Engram”,地址: github.com

上午仔细看了下,记录几个对印象比较深的点。

这篇论文真正想解决的问题:

现在的大模型,把「记忆」和「推理」全都塞进 Transformer 的前向计算里了。

结果:
1)查一个固定事实,也要一层一层算
2)早期层一边学结构,一边被迫背知识
3)算力被大量消耗在“本不需要推理的事情”上

核心假设:

不是所有信息都值得用推理去获得,有些东西只需要“被想起来”。

于是提出了:Conditional Memory(条件记忆)。

---

Engram 的核心思想

1)用 N-gram 当“记忆地址”
2)用 Multi-Head Hashing做 O(1) 查表
查到的是 专门的 memory embedding(经过训练获得,不是 token embedding)
3)再通过 上下文门控(gate),决定要不要用这段记忆

本质上就是:把“离散、稳定、可复用的知识”,从连续推理计算中剥离出来。

---

论文提到:“传统架构迫使 Transformer 早期层承担了本不属于它的记忆负担”

通过对早期层logit的观察,它们更适合如下任务:
- 词法
- 结构
- 组合关系
但因为没有独立记忆机制,它们被迫用连续参数去“硬背事实”

这就是架构分工出了问题。有了 Engram 之后,早期层更“干净”,中高层反而推理能力更强

---

那这对实际工程有什么意义?

针对Engram 本身,短期内几乎不可能直接用上。原因是Engram是LLM内一部分,重新训练大模型,成本和时间都不现实。

但这篇论文也给了一个新的判断标准,在做Context Engineering时,哪些信息值得让 LLM 推理;哪些信息应该被“查表式”处理,或许能够重新审视现有方案;

#DeepSeek #Engram # ContextEngineering
03
悯生
21天前
Manus以数十亿美金被Meta收购的消息瞬间在海内外引起轰动,有人褒奖、有人发酸,有人感叹最好的时代,很多人觉得是个“草根逆袭”的叙事,其实不然,肖弘开始做manus的时候已经经历过数次成功突破,梳理了一下:

一、时间线梳理
2011-2014年(校园期)
关键产品:微信墙(72小时4万互动)、志愿填报助手(一周10万粉丝)
特点:精准捕捉校园需求,零成本获客,展现早期产品天赋
2015-2016年(首次创业)
公司:夜莺科技
失败产品:匿名社交、校园二手集市
转折点:2016年黑客马拉松开发「壹伴助手」夺冠,获真格基金100万天使投资
2016-2021年(微信生态深耕)
核心产品:
壹伴助手(Chrome插件,1年100万用户)
微伴助手(企业微信CRM工具)
里程碑:累计服务200万B端用户,触达数亿C端消费者
退出:2021年出售给独角兽公司
2022-2025年(AI时代)
公司:蝴蝶效应
产品演进:
Monica(2023年):AI浏览器插件,集成GPT/Claude等模型
2024年用户破1000万,盈利
拒绝字节跳动3000万美元收购
Manus(2025年3月发布):通用AI Agent
9个月ARR达1亿美元(创SaaS增速纪录)
GAIA测试超越OpenAI同类产品
2025年12月
收购:Meta以数十亿美元收购(Meta史上第三大收购)
职位:肖弘出任Meta副总裁

二、融资情况
当然这个过程也有资本VC的助力:
2016年 天使轮 真格基金100万人民币
2023年2月, 种子轮,1400万美元,未披露
2023年8月, 天使轮,5000万美元,腾讯、真格跟投
2024年11月,A轮,8500万美元,顶级美元基金
2025年4月,B轮,近5亿美元,战略投资者
2025年12月,收购,数十亿美元,Meta

三、产品方法论总结
场景洞察:从小编排版痛点(壹伴)到企业微信需求(微伴),再到AI执行层空白(Manus)
产品门槛:使用门槛极低,且场景丰富,有足够大想象力

这个新闻无意是对当下创投圈带来一次刺激,鼓舞人心,但是呢要切忌好高骛远,罗马不是一天建成,既要仰望星辰,也要脚踏实地,去做能够解决“真问题”的产品,而非自嗨。
25
悯生
23天前
“年度AI打工人之Cursor”

也是进入10亿级规模了
32
悯生
25天前
今年虽然也坚持读书,但读完的少,写总结和书评更少,
02
悯生
27天前
ChatGPT年度报告有意思
01
悯生
2月前
刚接到滴滴数科的电话,开始是确认什么之前用过滴滴app,然后话锋一转,给我授信额度,就纳闷儿为什么这些企业都要发展信贷业务,名义“帮你渡难关”实质是什么心知肚明!
21
悯生
2月前
预祝答辩顺利
12
悯生
2月前
发呆
01