即刻App年轻人的同好社区
下载
App内打开
阿晓Ocean
1k关注982被关注3夸夸
对世界保持好奇
置顶
阿晓Ocean
10月前
优秀的写作软件 hack 读者的大脑,伟大的写作软件 hack 作者的大脑。
00
阿晓Ocean
8天前

Yangyi.: Google Deepmind AGI首席科学家Shane Legg认为在2028年有50%的概率达成最小AGI。 他对AGI定义的门槛是:一个人工代理,至少能完成典型人类能完成的所有认知任务。 目前的AI能力发展不均衡。语言能力已超人类(懂200种语言),但在持续学习、视觉推理(如判断透视下的物体大小)和图表节点计数等基础逻辑上仍有短板。 判断AGI是否到来有两种策略,一种是Benchmark测试集,另外一种是对抗性测试,由人类团队在数月内尝试找出AI的认知缺陷,若无法找到,则视为达成AGI。 怎么到达AGI呢?除了堆算力外,需要算法和架构的创新,特别是情节记忆和持续学习能力(即像人类一样在工作中边做边学,而不是训练完就静止)。 具身化也是一个非常重要的要素,AI将从单纯的软件Agent走向机器人实体,通过与物理世界的交互以便更“接地气”,从而补全对现实世界的理解。 走向超级智能是世界的必然,因为人类受限于生物载体(大脑约20瓦功耗、信号传输速度30米/秒、频率100Hz),而AI在算力基础上的认知能力必然远超人类上限。 但在这个过程中如何保证AI安全呢?目前使用的仍然是思维链的模式,让AI在做出行动前,显性地推理伦理后果(例如:分析撒谎是为了救人还是害人),将伦理问题转化为推理问题。如果AI是为了达成某种善意目标而因能力不足导致意外,人类尚可接受,但绝不能允许AI产生主观作恶的意图。 在接下来的时间里,职场只剩下了两类安全区: 一类是碍于强物理交互,AI无法快速学习的,比如水管工,因涉及复杂的物理环境操作,机器人短期内无法在成本和灵活性上替代。 还有一类是具有人本属性的,比如如网红、意见领袖,他们的价值在于“真实的人格”和人类情感连接。 除此之外,怕是全要被AI取代了。 我个人一直认为,接下来资本只会为knowhow付费,如果人类无法为AI提供knowhow,那将没有任何价值 推荐观看: https://www.youtube.com/watch?v=l3u_FAv33G0

00
阿晓Ocean
8天前
提一个建议:自定义触发键时,能否支持单键而非强制组合键?以及能否区分左右控制键?以及能否支持长按和短按开始再按停止这两种模式?

子安Zan: 我最近在负责推广的产品,智谱AI输入法。 我用了一段时间之后,我就决定要推广它,他真的会让我有一种想丢掉键盘的感觉。 不过现在他还有很多不足,欢迎大家使用,然后给我提意见。

10
阿晓Ocean
8天前
龙神说:设计就是分类
00
阿晓Ocean
10天前
在AI开发中过度强调TDD,和在公司管理中过度强调结果导向,有类似的问题,就是考核指标很容易被执行者hack,结果和数据很好,但做法和过程却是捞偏门。未被测试和考核到的过程,多数都是糊弄。
00
阿晓Ocean
15天前
ilya认为,即使AGI实现了,不同公司的AGI,依然会在垂类进行分化,找到自己的生态位。这和一些观点认为,垂类模型和垂类Agent没有发展空间,形成鲜明对比。
00
阿晓Ocean
15天前
Claude Code 带着它的一群小弟开发,每次能连续开发 2.5h 左右,然后就会遇到 100 美元套餐的限制。CodeDAG v0.0.3 版本,让 Claude Code 接续开发了 6 次,一共 15h 左右。要是买 200 美元的套餐,或许能一口气开发 15 小时,直接搞定。

不过,整个过程的瓶颈不在于 AI 写代码,瓶颈在于我写文档、核查文档。

毕竟,一行错误的文档描述,就会造成 10 行错误的代码实现,影响 100 个用户的使用体验。不得不慎重。
72
阿晓Ocean
16天前
Benchmark往哪走,模型训练团队就往哪走。奖励信号往哪走,模型就往哪走。选票往哪走,政客就往哪走。领导往哪走,官僚就往哪走。
00
阿晓Ocean
16天前
当谈及人类的注意力时,如果将其与AI的注意力机制进行对比,我们通常只关注人类注意力的能力和效果,却忽略了其使用成本。

实际上,一个人在一天之内的注意力总资源似乎是有限的。我们可以在一段时间内集中注意力,但时间过长,注意力就会开始分散,无法集中。

这似乎意味着人类的注意力依赖于某种资源,这种资源会随着使用而逐渐消耗,只有通过休息和睡眠才能逐渐恢复。但是,这种资源与普通的体力或能量还不太一样。有时候,即使人还具有相当多的力气,也不饿,大脑血糖浓度可能也还充足,但依然存在注意力资源被耗尽的情况。

如果不仅仅是能量问题,对应于机器学习来说,不仅仅是算力问题。那么,人类注意力消耗背后所对应的那个资源,对于机器去模拟来说,大概率是某种空间的存储。这似乎意味着在机器的注意力机制中,采用某种以牺牲空间来提升推理效率或推理效果精度的方法,与人类也是类似的。
00
阿晓Ocean
16天前
绝大多数有效的组织首先具有稳定的结构,其次在稳定的基础上,又可以不断地更新、生长与迭代。

阿晓Ocean: 多智能体应该是关于组织的,而非关于角色的。

00
阿晓Ocean
21天前
看完“The Thinking Game”,莫名其妙想到了黑镜里的这一集。哦不,是右边的图
00