即刻App年轻人的同好社区
下载
App内打开
Dachein大澄
351关注1k被关注4夸夸
四季四地 意义缺席
名亡实存的产品经理
懂点点金融、写点点代码,晓些些私行
置顶
Dachein大澄
2年前
Context 即服务
结构(肌理)即智能

"Context" 来自拉丁语,可以分解为两个主要部分:

con- (com-)
含义:together, with(一起,与)
来源:拉丁语前缀
表示:"共同"或"一起"的意思
-text
来源:拉丁语 "textus"(编织,织物)
词根:来自拉丁语动词 "texere"(to weave 编织)
同源词:textile(纺织品), texture(质地)

如果用一个中文词来描述这个, 其实是 【连接起来的肌理】

我以为这个肌理非常重要, 它是一种纺织品的 【可见部分】,是真正承载【织物的美】 这个意义的结构

那么现在我们在使用 Context 的最大技术瓶颈, 如何在有限的 Token 内表达这个 Context的有效性

进一步,对话的有效性,其实是两个context之间对齐程度, 而人本身只是媒介;LLM 是新型的印刷术
11
Dachein大澄
3天前
看了颇多还是 今早 Ben Thompson 的访谈视角比较好
10
Dachein大澄
3天前
就是政治上的真幼稚 ... 这事我一直挺费解的 ,因为从智力水平上来说完全不至于,一定被什么东西 给锁住了 ? 莫非资治通鉴的伟大被低估了 ?

葬愛咸鱼: 傻福废小反魔怔完了,连黄仁勋辞职将重创中国AI产业这种屁话都能说出来。 首先,利润率超过100%的事情一定有人干,不管黄仁勋辞不辞职,高端显卡的中国境内外价格有一倍多价差了,这比贩毒利润高多了,不可能禁掉。 其次,这些傻福废小反脑子里边有一个烙印,就是中国开源模型发展是盗窃美国知识产权,没有美国芯片中国模型就什么也不是。 完全是傻福的见识。美国芯片、美国模型本来也是相当比例的中国人参与开发的,两者本来就分不开。 假设美国从2015年就硬制裁中国,一张显卡也不准卖给中国,那也许真的可以扼杀中国ai产业。 2022年chatgpt发布就立即开始硬制裁都不行,因为国内的模型团队都有足够启动训练的显卡储备了。这完全是国内科技公司研发资金溢出的结果。 而在2026年鼓吹绝对制裁,只会加速国内独立自主研发GPU的力度,国产卡现在已经完全可以用于推理开源模型了,用于训练模型也有longcat、deepseek等各家模型厂探索。 非要套到中美竞争的框架里,英伟达自废臂膀对中国完全是好事。傻福美国人把自己最杰出的ai企业家迫害跑路了。而中国自研的基础已经准备充分,剩下的只需要时间来逐步优化性能,就像是制造业、新能源汽车、存储芯片发生的事情一样。 但黄仁勋事件真的显示出美国高层非常蠢啊,为了政争和种族歧视可以完全不顾科技发展,媒体和政客一拥而上,在没有任何法律依据,没有任何定罪的情况下迫害走最成功的华人,这直接后果就是让我认识的几乎所有ai从业者都对美国完全失去信心,ai的出路绝对不是被美国垄断,一定是中国主导的反垄断和开源AI。

10
Dachein大澄
4天前
在哈贝马斯那里 , 系统 和生活世界 是两个独立的框架,系统对生活世界的介入,就是一次知名的系统殖民
——————
突然想到其实我们 LLM 的 ARR 止步于 至今止步于 Coding或数据处理,就从本质上来说,它还只擅长跟 System
打交道,而不是跟一个开放世界, 所谓的 Harness 就是事先约束。

所以我们借用哈贝马斯的两分法,也可以把 Agents 要处理的环境 分成两种, 光滑封闭的 System ,和【开放、动态、反身性】的Lifeworld

----------------
这个就特别像 30 年前从 2D 到 3D 时, 任天堂面临的问题 ,如何设计“机位”和控制“机位” , 因为屏幕的 2D 限制和人决策所需要依赖的真实 3D 之间 是 失调的 。 如果用这个这个框架来理解 ,Agent 或者传统 Harness 一个巨大挑战,比如在“金融市场”上独立行动甚至独立分析的时候, 就会需要一个 跟 2D 转型 3D 一样的挑战,你的信息处理视角是什么,且适合当前真实视角。

那么对 Agents 来说不仅需要行动控制, 也需要一个 Camera 控制。 当然也可以做一般,比如大菠萝或者极品飞车的 C 键 。 当然任天堂划时代 设计了 右摇杆 来解决了这个失调问题。

----
问题来来, Agents 或者 Harness 视角摇杆如何设计? 收敛一点, 金融市场的 Harness 的 摇杆如何设计
03
Dachein大澄
7天前
其实,要我说啊, 黄乐是民主党的 Spy ,无论从教育背景,还是从动机角度来看,都更贴合成立,hhh ,BIS 查完案子,做了个交易 。 //@蘇菲压寨夫人: 两党之争开始摆到台面上了,有趣
原动态已删除
00
Dachein大澄
11天前
其实这是一篇常识文。 context 的核心包括是 1) 结构,2)zoom in/out ,3) 概念的滑动

豹土: https://x.com/karrisaarinen/status/2118057321654046811?a=bxF6yZT_5_iP7PRG44A&s=19 repost: 我认为我们应该停用“上下文(context)”这个词了。在人工智能领域,它开始意味着一切,也意味着什么都没有。 现在,每一份文档、通话记录、Slack 讨论串和日志事件都是“上下文”。追踪记录、评估数据,以及智能体(Agent)在运行过程中碰巧进行的各种随机工具调用也都是。全部捕捉下来,让它们随时可用,然后假设接着就会产生有用的东西。 我对此并不信服。如果你曾试着在 Slack 里找过东西,你就会知道:把信息存在某处,并不意味着你能找到它、理解它,或者用它做些什么。你可能会花大量时间阅读,却依然不知道下一步该做什么。 当我说某个人“有上下文”时,我的意思是他们理解当前的状况。他们知道事情为什么会发生,我们试图达成什么目标,以及还有哪些事情尚未决定。他们很可能并没有读过所有东西,但他们知道哪些部分是重要的。 一份有用的简报之所以简短,是因为有人思考过该包含什么、该省略什么。他们理解对方需要知道什么才能做出决定,并剔除了那些会造成干扰的部分。 更多的信息可能会有帮助,但并非总是如此。智能体应该能够查阅过去的决定,或者调查某件事是如何运作的。但是,把发生过的一切历史都堆在一起,并不能解释我们现在应该做什么。有些想法已经被放弃,有些决定不再适用,有些对话最终毫无结果。 我认为我们把“理解”太当成一个存储问题了。如果我们捕捉了足够多的信息,也许智能体就能弄明白我们的意思,并产出我们所期望的东西。但更多的信息并不能消除这样一个需求:在任何特定的时间点,我们都必须清楚地表达我们想要什么。 一家公司可能拥有积攒了多年的文档,却依然不知道下一步该做什么。把这些文档交给智能体也无济于事。仍然需要有人来决定:这项工作的目的是什么,什么样的结果才算是好结果,该问哪些问题,以及哪些限制条件才是重要的。 而且,这些决定必须保持与时俱进。如果没人知道半年前的一个清晰的解释已经过时了,那它可能比没有解释更具误导性。 因此,我更希望我们能明确眼前的工作到底需要什么。智能体需要知道某个决定是为什么做出的吗?我们现在试图实现什么?有什么是它不应该改动的?有没有一个能让我们满意的结果示例? 这些都是我们可以回答的问题。把这一切统统称为“上下文”,很容易让人跳过这些问题,转而去构建另一种存储数据和检索内容的方法。 在 Linear,我们一直相信结构能帮助人们理解工作。一个项目将工作与目标连接起来。一次代码审查(Code Review)给了一个人在代码合入前评判变更的地方。例如在代码审查中,你需要理解改变了什么、为什么改变,以及它可能会影响什么。你不需要知道公司的全部历史,也不需要知道智能体具体做了什么。 这种结构之所以有用,是因为它有助于在那个当下缩小关注范围,弄清楚什么是重要的。它为人和智能体提供了一种途径,去找到相关的信息,并理解这些信息存在的目的。 在我们询问一个智能体拥有多少“上下文”之前,我们应该把注意力集中在:为了帮助我们现在就把事情做成,它实际需要什么。

00
Dachein大澄
11天前
胡说八道+1 , 知乎真的是知识么,就跟发廊真的只是理发么,AI 就是个飞机杯,AI 肯定不懂贾樟柯

葬愛咸鱼: 胡说八道,知乎是全世界最好看的4chan论坛,我每天至少看一小时。

00
Dachein大澄
11天前
2024 个人年度词: 时间
2025 个人年度词: 官僚
2026 个人年度词: 客观

这些都是我们要一贯坚决抵抗的
20
Dachein大澄
13天前
从左到右,近几天观影三部,刚从 都灵之马出来,不得不缓一缓

-算是周六的 卡拉马佐夫兄弟 做准备 ... and
-我们想的做的真的真的真的不那么重要
00
Dachein大澄
15天前
其实 A 社的状态让我想到了 前苏联 ,想到了 peterthiel 对斯特劳斯时刻的辩解
00