即刻App年轻人的同好社区
下载
App内打开
小互
18关注1k被关注4夸夸
小互
6天前
AI推理越长,显存越吃紧?

EdgeRock 提供快乐一种新解法...

普通大模型在进行长文本或复杂推理时,要写很长的推导

它通常会把前文处理过的信息暂存在 GPU 的工作空间里,这个空间叫“显存”。推导越长,这部分信息占的显存空间就会越来越大

EdgeRock-4B 打破了这一规律: 无论模型推理思考了多长时间、上下文扩展到多少万字,每个请求占用的注意力和状态显存大小都锁定不变(仅需 97.76 MiB,其中注意力 KV 仅 72 MiB)

但解高难度题的水平几乎不打折...

实测有多强?

解题能力不缩水:在极难的 AIME 数学竞赛题上,准确率达到 82.9%,几乎追平了那些显存无节制暴涨的正常顶尖小模型,彻底粉碎了“定长内存模型不能做深度推理”的魔咒。

显存省了 99%:在 256K 超长文本下,注意力缓存显存从原来的 8 GB 骤降到 72 MB,降幅达 99.1%。

并发处理能力翻倍:在一张普通的 80GB 显卡上,由于显存不再膨胀,可以直接同时塞满 512 个长推导任务,跑起来的速度和总吞吐量是原本架构的 4.9 到 6.4 倍。

它是怎么做到的?(三件套分工)

模型把记忆工作拆分成了三件事:

看眼前(局部窗口):随时看清眼下最新的 1,024 个字,保证当前说话、写公式顺畅。

记个大概(循环网络):用一个固定大小的“印象表”,随时记录上下文的大致发展方向。

关键便签盒(磐石记忆锚点 RMA):
挑重点写:模型每产生一个词,都有一个专门的小模块评估:“这句话在后面会不会是关键解题线索?”

限量 1,024 张便签:这个便签盒容量固定,只存最重要的 1,024 条信息。每攒够一批新候选,就进行打分淘汰,只留含金量最高的。

随时翻看原话:这些便签是原文高精度的记录。哪怕是 10 万个字之前定义的一条规则,后续只要用到,直接就能从盒子里原汁原味地翻出来。

应用场景:

机器狗、无人车或者边缘硬件的内存是有限且固定的,还要分给摄像头看路、雷达感知和电机控制

根本承受不起大模型在半路“胃口大开”突然吃光内存

EdgeRock 正好解决了这一痛点

详细内容:mp.weixin.qq.com
00
小互
19天前
豆包工作画布大升级:一块画板让你自由发挥

我自己测试了下,确实很强大

一张婚礼合照 → 生成分层图(被花挡住的部分自动补画)→ 导出 PSD → 写成会动的 HTML 邀请页

让它用 HTML 出一组中秋海报,10 张版式完全统一

只给一张小互形象图,长出表情、服装、盲盒周边、快闪店,一本 24000px 的 VI 手册,还有电商页和招商 Deck

豆包工作画布其实一个能把设计项目从头跑到尾的 Agent,能在一张画布上直观的查看你所有项目,同时还能进行实时编辑

提示词模板和详细操作测试教程放在下面👇
01:28
11
小互
1月前
TRAE 也被质疑上传代码?

看到有人发帖说“实测 Trae CN 3000文件全量上传做远程Embedding”,联想到近期新闻吓了我一跳,但仔细看了下,可能是过于标题党了

这似乎是两码事

远程Embedding说的是“代码索引”,先给项目做一份方便查找的目录,算完后删除明文代码。

Copilot、Cursor 也是这样的策略。

“临时上传”和“完整源码被保存”,中间有很大区别。

Trae的用户群里解释了这件事,几个核心意思:

第一,代码仅临时上传用于向量计算, 计算完成后明文代码即被永久删除 ,云端不会保留完整源码。

第二,Trae代码索引的上传范围有严格的过滤机制:

- 依赖目录(node_modules 等)、构建产物、二进制文件、图片、音视频、压缩包等,不传 ;

- 以. 开头的隐藏目录(包括 .git) ,不传 ;

- .gitignore 中列出的文件默认被忽略,用户还可在.trae/.ignore 中自定义额外排除规则;

- 单文件大小和行数都有上限。

第三,隐私模式控制的是对话内容是否用于数据分析和模型训练 ,与代码索引功能无关。

这也是它和前几天那些争议需要分开看的地方。

我觉得,大家真正关心的其实很简单:你拿走了什么,用来干什么,用完留不留,我能不能自己决定。

Trae 工作区代码索引说明

docs.trae.cn

隐私模式文档:docs.trae.cn
00
小互
1月前
B站推出大模型竞技场排名:由UP主真实实测

选大模型只看跑分,总会碰到一个问题:榜上很强,轮到自己的活儿却未必顺手。

B站 9月16日上线了一个「AI 无限竞技场」,用一种很有意的方式,解决了这个问题

他们把不同分区 UP 主做过的同题实测收在一起...

有人让模型修祖传代码
有人比游戏开发
还有人拿知识问答、空间建模和模拟博弈出题

想知道模型到底能干什么,可以直接点进视频看过程和成品

通过UP主的实测来对模型进行重新真实的排名

我看了当日榜单:

GPT-6 Astra 排第一,在 16 次被测中拿到 10 次主题榜首
GLM-5.3 排第二,同样被测 16 次,拿到 3 次榜首
前五里,GLM-5.3 和两款 DeepSeek 模型占了三席

这里的名次按「拿到主题榜首的次数」排
第一、第二之间是 10 比 3

UP 主自主出题,测试主题、参赛模型和评判方式都可能不同

比如 GPT-6 Astra 在「修复 GTA5 的 19.8 亿次 if 循环」主题拿到榜首
GLM-5.3 赢了「屎山考核·祖传代码统考」
DeepSeek-V4-Pro 在「AI 世界杯」主题领先

换一个任务,答案就可能就变了...

我觉得这榜最有用的地方,是把抽象的模型名次接回具体任务:你要写代码,就看同类编程视频;要做知识问答、游戏或建模,就按主题找。

看看输入了什么、实际交付了什么、UP 主怎么评,再决定要不要换模型

竞技场页面目前收录 30 多个测评主题、100 多个参战模型,排名会继续更新。

B站上从学 AI、用 AI 到自己做产品、拍视频实测,确实已经能串成一条线

不过它是 UP 主公开测评的聚合页,不是统一条件下的实验室总榜,可能每个人的体感和感受会不一样,但是可以作为一个很好的参考

#AI无限竞技场 #大模型测评 #B站AI #GPT6Astra #GLM53 #DeepSeek
31
小互
2月前
Arm为机器人构筑坚实的计算底座...

上周参加了在世界机器人大会

在现场,各种炫酷的机器人让人目不暇接

但现实中,让一个在产线分拣自如的机器人去超市帮你推车买袋大米,它依然会直接“歇菜”。

正如 Arm 物理 AI 机器人技术研究全球负责人 Federico Pecora 在大会上所言:物理 AI 正从“单点能力验证期”跨入“系统攻坚期”。

今天的机器人单项技能并不弱,但真正进入开放环境,考验的是一整套系统能力。视觉感知、语言理解、路径规划、毫秒级运控与安全底线,必须在同一套硬件架构中实时动态协同...

Arm 并不造机器人,但在为物理 AI 构筑坚实的计算底座。从端侧传感器、实时控制器到高算力芯片,Arm 正让机器人的“大脑”与“小脑”无缝协同,加速具身智能真正走进现实生活。
06:04
00
小互
4月前
测完 Seed 2.1 Pro,我想带你重新认识一下豆包

随便找了一张看起来很专业,但是看不出啥门道的数据表

直接生成3D炫酷的图表

缩放旋转都非常丝滑,数据也做成了 3D 的,虽然还是看不太明白,但是比之前的图直观很多,这给了我一个灵感,可以用 HTML 做 PPT,然后数据部分就做成这样,用直观的 3D 图来展示。Seed 2.1 pro在这些办公任务上应该是跨过了质变点,开始靠谱好用了。

详细评测:mp.weixin.qq.com
00
小互
4月前
TRAE 搞了个 "AI 创造力大赛"
奖金高达100万....

我以为是个 Hackathon 活动,进去后发现不对劲
决定必须给大家推荐一下这个活动...

对参赛的人员没有任何编码、职业和其他什么乱七八糟的限制

任何人都能参加

进入决赛保底拿 1 万现金😍

冠军 30 万现金
亚军 20 万现金
季军 10 万现金

还有额外的赛道大奖和社会公益特别奖各50000元
而且整个过程的 token 消耗也由赛事权益覆盖

而且只要报名就送 99 元速通 Pro 月卡和决赛现场门票

这个比赛让我觉得不一样的点

赛道设计很生活化

四个通用赛道分别是生活娱乐、学习工作、社会服务、硬件交互

看看官网列的灵感示例就知道画风了:冰箱剩菜配菜谱、AI 砍价助手、帮老人读懂药品说明的 App、识别野生蘑菇能不能吃……

所以比的是创意和想法,因为其他的现在AI都能帮你实现了...

Vibe Coding 火了两年多了

朋友圈里隔三差五就有人晒"我用 AI 做了个 xxx"。

工具已经到这个程度了,理论上谁都能做点东西出来。

现在终于有一个不像黑客马拉松那种高门槛的,小白都能参加的专门Vibe Coding赛事了

感觉还是很不错的

刚兴趣的可以报名试试

官网:www.trae.cn

报名:forum.trae.cn
02
小互
5月前
最近 AI 工具似乎已开始从 Coding 开发 转向 Working 办公了😁

Kimi 刚刚发了一个新东西: Kimi Work

继承了Kimi Code的核心功能和 Kimi Agent 的建站、PPT 等专业 Skills 能力

同时还打通了金融、科研、法律等专业数据库

为打工人士量身打造...

最多可同时调度 300 个Agent互相配合完成任务...

下面是我的测试结果...

不再需要打开终端、写命令、配置环境,安装客户端即可

只需要通过文字描述你的需求,Kimi Work 就能在电脑上拆解任务、并行执行、调用工具、使用浏览器、创建整理文件夹,并交付文档、表格、PPT 等

最牛P的是支持 Agent 集群:

它有类似 Codex 那种调用多个子Agent的能力,能像一个真实团队那样分工干活,但是比Codex 牛P的是,一次最多可同时调度 300 个Agent互相配合,完成超复杂和繁琐的任务。

而且一次需求就能同时产出多种格式的成品,Word、PPT、Excel、PDF、网页、图片都行.

测试案例:分析迈威尔科技和上百页SpaceX招股说明书

前几天在台北 COMPUTEX 上,英伟达 CEO 黄仁勋和迈威尔科技CEO 同台,公开说迈威尔"注定将成为下一家万亿美元公司"。

这句话当天就兑现成真金白银,MRVL 单日暴涨 32.52%...

我让Kimi work帮我分析了下迈威尔是否能达到万亿

它确实是连续的调用各种工具、Agent、技能和命令来完成任务,中间没有停顿

它可以一次性交付了四个重要的文档:

7000字的深度拆解报告
5个估值倒退测算表
一页纸速览,方便你快速理解
还有一个能汇报的PPT

详细测试过程:mp.weixin.qq.com
01
小互
9月前
你们天天吵吵的【技能商店】被人做出来了😂

扣子发布了其2.0最新版

进行了全面的升级

只需要通过简单聊天,就看可以将你的经验转换成AI技能,并且可以上架到他们的【技能商店】进行赚钱。

不得不说搞应用这方面还得看国人啊

我测试了下,确实很方便,非常的适合小白,这意味着,每个人的知识、经验都能成为生产力资产。

你的经验可以变现,别人的技能可以被你使用。

现在你是不是有学习的动力了🤪

有两种创建路径:

一个是跟扣子直接聊天,直接跟他说直接给我”变成技能“

另一种是:在扣子编程里创建

打开扣子编程,选择「技能」后创建技能。

我做了一个详细的测试报告,感兴趣的可以看看:mp.weixin.qq.com
01
小互
10月前
一份报告透视 AI Coding 的 2025:从智能补全到智能协作

过去两年,AI Coding 的发展速度超出了所有人的预期。

从最初的智能补全,到今天的多Agent协作系统,这个领域像是踩在加速键上。

2025 年,几乎所有大模型厂商都在谈 Coding Agent。

从 OpenAI 的开发者日到各类国内发布会,关键词都是:主动性、上下文理解、多任务协作、可执行能力。

AI 不再只是回答,而是开始行动。

根据斯坦福大学HAI发布的《2025年AI指数报告》,AI系统在SWE-bench(软件工程基准测试)等高难度基准上的表现实现了大幅跃升,得分在一年内提高了67.3个百分点。

这一数据背后的含义是深远的:AI不再仅仅是帮程序员写几行for循环的助手,而是能够独立阅读Issue、定位Bug、跨文件修改代码并运行测试的“智能主体”。

AI Coding,正在从技术实验期进入应用成熟期。

正好最近TRAE 发布了《2025 年度产品报告》

我就顺着这个报告来总结下AI Coding 的 2025

2025年AI Coding融资火热,独立创业公司估值暴涨,常在数月内翻倍。

如果需要选出一家代表2025年AI Coding狂热的公司,非Cursor(母公司Anysphere)莫属。Cursor的估值在短短11个月内增长了11.3倍。

这家成立于2022年的初创公司,在2025年11月完成了高达23亿美元的D轮融资,投后估值达到了令人咋舌的293亿美元。这一数字不仅震惊了创投圈,也标志着AI Coding工具正式拥有了挑战传统科技巨头的资本体量。

而且 Cursor 的 ARR 从2023年12月的100万美元,飙升至2025年11月的10亿美元以上。这种从100万美元到10亿美元仅用时不到24个月的增长速度,打破了此前由Slack、Wiz等公司保持的所有B2B SaaS增长纪录。

这说明 AI Coding 已经充分得到了资本和市场的双重认可,已经是一个全新的高速增长的行业...

而且国内的 AI Coding 工具,也是蓬勃发展

完整内容:mp.weixin.qq.com
00