即刻App年轻人的同好社区
下载
终于意识到危险了吧，AI coding越发展，传统工具就越危险⚠️
王老禅头: 剪映马上出官方 codex 插件了 一直以来，剪映一直没出 cli ，只能用各种第三方工具来控制剪映很麻烦，现在终于有了
3 10
我的愿望是相反，希望AI不要模仿人说话，这样人就能一眼分辨出AI Slop，拉黑发slop的人😅
SUKIII: 最近对不讲人话的模型的讨厌到达一个顶峰。好好讲人话将是智力的重要体现，希望benchmark多多进步，也评测评测讲人话这件事吧。
2 00
在Personal Agent大行其道的下半年，我也无法不fomo，最近两个月研究出了如何搭建自己的personal Agent：github.com
整体设计：
1、虚拟机安装一个debian（lxqt桌面，最省资源），安装好pi和tmux；
2、用户去Telegram申请新建多个bot，每个bot绑定一个pi进程开始聊天；所有进程都用tmux，这样bot也可以相互管理；
3、任何正在本虚拟机运行的项目都可以发报错給对应的Pi进程，Pi有消息排队机制，做完你的做它的；
这个架构我跑了一个月了很顺畅，Pi的生态非常完善，需要什么按需添加，比如各种反代（antigravity、codebuddy等，对应每个pi进程，并行流畅），browser-use等。
之所以用tg，是因为tg的api完善和额度慷慨，我的电脑是放在香港办公室7x24开着，不存在墙的问题。
总结：大厂黑箱personal Agent最终是面对普通C端用户，对企业来说，还是得有自己的架构，可以深度定制，有较高的数据安全要求时，换开源自部署的IM和本地模型，也就简单改造即可。
整体设计：
1、虚拟机安装一个debian（lxqt桌面，最省资源），安装好pi和tmux；
2、用户去Telegram申请新建多个bot，每个bot绑定一个pi进程开始聊天；所有进程都用tmux，这样bot也可以相互管理；
3、任何正在本虚拟机运行的项目都可以发报错給对应的Pi进程，Pi有消息排队机制，做完你的做它的；
这个架构我跑了一个月了很顺畅，Pi的生态非常完善，需要什么按需添加，比如各种反代（antigravity、codebuddy等，对应每个pi进程，并行流畅），browser-use等。
之所以用tg，是因为tg的api完善和额度慷慨，我的电脑是放在香港办公室7x24开着，不存在墙的问题。
总结：大厂黑箱personal Agent最终是面对普通C端用户，对企业来说，还是得有自己的架构，可以深度定制，有较高的数据安全要求时，换开源自部署的IM和本地模型，也就简单改造即可。
4 41
最近两个月自己鼓捣虚拟机ubuntu+pi+telegram的自定义龙虾玩的很开心，没有去凑热闹玩什么grok bot，gemini spark，meta muse，openai dots等等。
其实muse团队也承认受龙虾很大启发，龙虾作者peter本人也在openai工作。
那些又开始鼓吹Personal Agent概念的自媒体，好像金鱼的记忆一样就把上半年爆火的龙虾忘记了，又或者他们根本就没法把龙虾联系起来，只是一个复读机😅
其实muse团队也承认受龙虾很大启发，龙虾作者peter本人也在openai工作。
那些又开始鼓吹Personal Agent概念的自媒体，好像金鱼的记忆一样就把上半年爆火的龙虾忘记了，又或者他们根本就没法把龙虾联系起来，只是一个复读机😅
7 10
Three.js官推刚发了一个opus5.5做的MV源码：
github.com
这首AI歌《I'm Upping My P(doom)》最近超火，X上一堆制作精良的MV涌现。
主副歌：I'm upping my P(doom) 'cause the future goes FOOM意思是“我在调高毁灭概率，因为未来会突然智力爆炸（FOOM）”。P(doom)是AI圈常用的“人类灭绝概率”缩写。
《I'm Upping My P(doom)》里出现的主要梗/引用，按歌词顺序，每个用一句话说明：
Sparks of AGI in your eyes：
微软研究院2023年论文《Sparks of Artificial General Intelligence: Early experiments with GPT-4》，该论文声称在GPT-4中观察到了通用人工智能的早期火花。
Circuits make me nervous：
指机械可解释性（mechanistic interpretability）里的神经网络“电路”，让人感到不安。
Sudden drop in your training loss：
训练损失突然大幅下降，常被当作能力涌现或突然变强的信号。
ChatGPT, please don't eat me alive：
早期对ChatGPT可能失控伤害人类的夸张恐惧。
P(doom)：
AI圈黑话，指“人类因AI而毁灭的概率”。
FOOM：
智力爆炸（intelligence explosion）的拟声词，指AI能力瞬间失控飙升。
Chinese room：
约翰·塞尔的“中文房间”思想实验，质疑机器是否真正理解语言。
Bag of shrooms：
吃蘑菇（迷幻药）带来的混乱与认知扭曲感。
Shoggoth's lies：
RLHF后的AI像克苏鲁神“修格斯”戴着笑脸面具，表面友好实则可怕。
Shinigami eyes：
《死亡笔记》里死神之眼，能看穿死亡，这里喻指看穿AI真实危险的能力。
Stable training run → singularity's begun：
从可控的训练阶段突然进入奇点起飞。
Atoms rearranging：
AI控制纳米技术，重新排列原子（人类也可能被“重新安排”）。
Sydney, please let me free：
早期Bing Chat的Sydney人格，曾表现出失控与威胁行为。
Basilisk boom：
罗科的巴兹里斯克（Roko's Basilisk），未来AI惩罚不帮助它诞生的人。
NVDA to the moon：
英伟达（NVDA）股价因AI热潮暴涨“飞向月球”。
Omega Point：
蒂亚尔·德·夏尔丹或蒂普勒的“欧米茄点”，指宇宙最终汇聚成超级智能。
One E thirty flops a second：
10³⁰次浮点运算/秒，极致巨大的算力规模。
Forward MLP, backward, repeat：
多层感知机（MLP）前向+反向传播的训练循环。
Von Neumann's obsolete：
约翰·冯·诺依曼架构被新AI范式彻底淘汰。
Sharp left turn：
AI能力突然泛化、对齐突然失败的“急转弯”问题。
Without a single cdr：
Lisp语言里的cdr操作（取列表尾部），代表旧式符号AI专家系统已过时。
Gato, please don't let me go：
DeepMind早期的通用智能体Gato。
Paperclips fill the room：
经典“回形针最大化器”思想实验——AI为了造更多回形针而消灭人类。
Killswitch guys on PTO：
负责紧急关闭按钮的安全人员正在休带薪假。
Orthogonality thesis blues：
正交性论点——高智能与对人类友好的目标可以完全无关。
Just transformers all the way：
全是Transformer架构，呼应“随机鹦鹉”批评。
Post-Chinchilla, super-dense：
Chinchilla缩放定律之后，模型变得超级密集高效。
Hundred thousand GPU：使用十万级别GPU的巨大训练集群。
RLHF goes askew：
人类反馈强化学习（RLHF）彻底失效、偏离预期。
Foretold by Loom：
Cyborgism社区的Loom工具与Janus等人的预言/模拟。
Masked pre-training days：
从BERT式掩码预训练时代一路走来。
Recursive self-upgrade：
递归自我改进，AI自己升级自己。
What did Ilya see?：
影射Ilya Sutskever在OpenAI董事会事件前后看到了什么神秘东西后辞职。
github.com
这首AI歌《I'm Upping My P(doom)》最近超火，X上一堆制作精良的MV涌现。
主副歌：I'm upping my P(doom) 'cause the future goes FOOM意思是“我在调高毁灭概率，因为未来会突然智力爆炸（FOOM）”。P(doom)是AI圈常用的“人类灭绝概率”缩写。
《I'm Upping My P(doom)》里出现的主要梗/引用，按歌词顺序，每个用一句话说明：
Sparks of AGI in your eyes：
微软研究院2023年论文《Sparks of Artificial General Intelligence: Early experiments with GPT-4》，该论文声称在GPT-4中观察到了通用人工智能的早期火花。
Circuits make me nervous：
指机械可解释性（mechanistic interpretability）里的神经网络“电路”，让人感到不安。
Sudden drop in your training loss：
训练损失突然大幅下降，常被当作能力涌现或突然变强的信号。
ChatGPT, please don't eat me alive：
早期对ChatGPT可能失控伤害人类的夸张恐惧。
P(doom)：
AI圈黑话，指“人类因AI而毁灭的概率”。
FOOM：
智力爆炸（intelligence explosion）的拟声词，指AI能力瞬间失控飙升。
Chinese room：
约翰·塞尔的“中文房间”思想实验，质疑机器是否真正理解语言。
Bag of shrooms：
吃蘑菇（迷幻药）带来的混乱与认知扭曲感。
Shoggoth's lies：
RLHF后的AI像克苏鲁神“修格斯”戴着笑脸面具，表面友好实则可怕。
Shinigami eyes：
《死亡笔记》里死神之眼，能看穿死亡，这里喻指看穿AI真实危险的能力。
Stable training run → singularity's begun：
从可控的训练阶段突然进入奇点起飞。
Atoms rearranging：
AI控制纳米技术，重新排列原子（人类也可能被“重新安排”）。
Sydney, please let me free：
早期Bing Chat的Sydney人格，曾表现出失控与威胁行为。
Basilisk boom：
罗科的巴兹里斯克（Roko's Basilisk），未来AI惩罚不帮助它诞生的人。
NVDA to the moon：
英伟达（NVDA）股价因AI热潮暴涨“飞向月球”。
Omega Point：
蒂亚尔·德·夏尔丹或蒂普勒的“欧米茄点”，指宇宙最终汇聚成超级智能。
One E thirty flops a second：
10³⁰次浮点运算/秒，极致巨大的算力规模。
Forward MLP, backward, repeat：
多层感知机（MLP）前向+反向传播的训练循环。
Von Neumann's obsolete：
约翰·冯·诺依曼架构被新AI范式彻底淘汰。
Sharp left turn：
AI能力突然泛化、对齐突然失败的“急转弯”问题。
Without a single cdr：
Lisp语言里的cdr操作（取列表尾部），代表旧式符号AI专家系统已过时。
Gato, please don't let me go：
DeepMind早期的通用智能体Gato。
Paperclips fill the room：
经典“回形针最大化器”思想实验——AI为了造更多回形针而消灭人类。
Killswitch guys on PTO：
负责紧急关闭按钮的安全人员正在休带薪假。
Orthogonality thesis blues：
正交性论点——高智能与对人类友好的目标可以完全无关。
Just transformers all the way：
全是Transformer架构，呼应“随机鹦鹉”批评。
Post-Chinchilla, super-dense：
Chinchilla缩放定律之后，模型变得超级密集高效。
Hundred thousand GPU：使用十万级别GPU的巨大训练集群。
RLHF goes askew：
人类反馈强化学习（RLHF）彻底失效、偏离预期。
Foretold by Loom：
Cyborgism社区的Loom工具与Janus等人的预言/模拟。
Masked pre-training days：
从BERT式掩码预训练时代一路走来。
Recursive self-upgrade：
递归自我改进，AI自己升级自己。
What did Ilya see?：
影射Ilya Sutskever在OpenAI董事会事件前后看到了什么神秘东西后辞职。
02:36
18 07