即刻App年轻人的同好社区
下载
App内打开
treeyeert
271关注756被关注2夸夸
现 Qwen 后训练算法研究员
前 美团 | Microsoft | 商汤
公众号:介错者
vx:treeyeert 常驻北京 欢迎约☕
置顶
treeyeert
2月前
Deepseek Harness 的思路实际上指向了自进化,未来的想象空间很大:模型和 Harness 一起协同。

看完技术报告,我脑海中就是一个 LLM 雕刻自己的画面。

总之,这玩意儿当前看,不是给普通用户用的,也不适合放在工业场景中,但进化的中间结果可以作为不同 Harness 核心结构来驱动 LLM 产生更大的价值。

快回路固定模型,让 LLM 反复试验工具、上下文、记忆和多 Agent 组合,用独立评价器选出更合适的 Harness;

慢回路把这些带版本、动作、结果和对照关系的轨迹加工成训练数据,接入持续预训练和后训练。

新模型再重新搜索适合自己的 Harness,由此形成模型与 Harness 的共同自进化。

万字解析|DeepSeek Harness 更像 Minecraft

00
treeyeert
4天前
给 JEV 简单做了一些实验,结论就是在一些需要快速响应和顾虑成本的场景下,可以作为 Router 来平衡性能和成本。

比如不同型号的模型×思考强度,甚至后续搭配不同 Harness 插件组合达到更好的效果也不是不行。

初步猜测可能是个小参数的 Encoder,输出内容只和分类任务相关,可以简单理解是对应选项的概率。

当前社区也有人用小参数模型做了个替代,见链接。

总之我感觉还是有一定潜力的,比较期待后续的技术报告。

另外,JEV 刚出第一天的时候就有人开吹我是真不明白是串子还是真不懂。

用这玩意儿做五子棋不就相当于微调 H3 声称自己是世界模型么😅。

不要总想搞个大新闻,一点点来。

https://huggingface.co/Contrastive-LM

11
treeyeert
7天前
夸夸其谈 JEV 的人知道 Embedding 吗?
80
treeyeert
9天前
treeyeert
12天前
维持山的活力
是靠这些周遭的环境,而不单单只是山顶而已
但是,没有山顶,就不会有山的周围
00
treeyeert
15天前
treeyeert
15天前
当你强的时候,大家容忍狼来了的次数也会更多一些。
01
treeyeert
16天前
自洽是一种生命力
00