即刻App年轻人的同好社区
下载
最近两个月自己鼓捣虚拟机ubuntu+pi+telegram的自定义龙虾玩的很开心，没有去凑热闹玩什么grok bot，gemini spark，meta muse，openai dots等等。
其实muse团队也承认受龙虾很大启发，龙虾作者peter本人也在openai工作。
那些又开始鼓吹Personal Agent概念的自媒体，好像金鱼的记忆一样就把上半年爆火的龙虾忘记了，又或者他们根本就没法把龙虾联系起来，只是一个复读机😅
其实muse团队也承认受龙虾很大启发，龙虾作者peter本人也在openai工作。
那些又开始鼓吹Personal Agent概念的自媒体，好像金鱼的记忆一样就把上半年爆火的龙虾忘记了，又或者他们根本就没法把龙虾联系起来，只是一个复读机😅
7 10
Three.js官推刚发了一个opus5.5做的MV源码：
github.com
这首AI歌《I'm Upping My P(doom)》最近超火，X上一堆制作精良的MV涌现。
主副歌：I'm upping my P(doom) 'cause the future goes FOOM意思是“我在调高毁灭概率，因为未来会突然智力爆炸（FOOM）”。P(doom)是AI圈常用的“人类灭绝概率”缩写。
《I'm Upping My P(doom)》里出现的主要梗/引用，按歌词顺序，每个用一句话说明：
Sparks of AGI in your eyes：
微软研究院2023年论文《Sparks of Artificial General Intelligence: Early experiments with GPT-4》，该论文声称在GPT-4中观察到了通用人工智能的早期火花。
Circuits make me nervous：
指机械可解释性（mechanistic interpretability）里的神经网络“电路”，让人感到不安。
Sudden drop in your training loss：
训练损失突然大幅下降，常被当作能力涌现或突然变强的信号。
ChatGPT, please don't eat me alive：
早期对ChatGPT可能失控伤害人类的夸张恐惧。
P(doom)：
AI圈黑话，指“人类因AI而毁灭的概率”。
FOOM：
智力爆炸（intelligence explosion）的拟声词，指AI能力瞬间失控飙升。
Chinese room：
约翰·塞尔的“中文房间”思想实验，质疑机器是否真正理解语言。
Bag of shrooms：
吃蘑菇（迷幻药）带来的混乱与认知扭曲感。
Shoggoth's lies：
RLHF后的AI像克苏鲁神“修格斯”戴着笑脸面具，表面友好实则可怕。
Shinigami eyes：
《死亡笔记》里死神之眼，能看穿死亡，这里喻指看穿AI真实危险的能力。
Stable training run → singularity's begun：
从可控的训练阶段突然进入奇点起飞。
Atoms rearranging：
AI控制纳米技术，重新排列原子（人类也可能被“重新安排”）。
Sydney, please let me free：
早期Bing Chat的Sydney人格，曾表现出失控与威胁行为。
Basilisk boom：
罗科的巴兹里斯克（Roko's Basilisk），未来AI惩罚不帮助它诞生的人。
NVDA to the moon：
英伟达（NVDA）股价因AI热潮暴涨“飞向月球”。
Omega Point：
蒂亚尔·德·夏尔丹或蒂普勒的“欧米茄点”，指宇宙最终汇聚成超级智能。
One E thirty flops a second：
10³⁰次浮点运算/秒，极致巨大的算力规模。
Forward MLP, backward, repeat：
多层感知机（MLP）前向+反向传播的训练循环。
Von Neumann's obsolete：
约翰·冯·诺依曼架构被新AI范式彻底淘汰。
Sharp left turn：
AI能力突然泛化、对齐突然失败的“急转弯”问题。
Without a single cdr：
Lisp语言里的cdr操作（取列表尾部），代表旧式符号AI专家系统已过时。
Gato, please don't let me go：
DeepMind早期的通用智能体Gato。
Paperclips fill the room：
经典“回形针最大化器”思想实验——AI为了造更多回形针而消灭人类。
Killswitch guys on PTO：
负责紧急关闭按钮的安全人员正在休带薪假。
Orthogonality thesis blues：
正交性论点——高智能与对人类友好的目标可以完全无关。
Just transformers all the way：
全是Transformer架构，呼应“随机鹦鹉”批评。
Post-Chinchilla, super-dense：
Chinchilla缩放定律之后，模型变得超级密集高效。
Hundred thousand GPU：使用十万级别GPU的巨大训练集群。
RLHF goes askew：
人类反馈强化学习（RLHF）彻底失效、偏离预期。
Foretold by Loom：
Cyborgism社区的Loom工具与Janus等人的预言/模拟。
Masked pre-training days：
从BERT式掩码预训练时代一路走来。
Recursive self-upgrade：
递归自我改进，AI自己升级自己。
What did Ilya see?：
影射Ilya Sutskever在OpenAI董事会事件前后看到了什么神秘东西后辞职。
github.com
这首AI歌《I'm Upping My P(doom)》最近超火，X上一堆制作精良的MV涌现。
主副歌：I'm upping my P(doom) 'cause the future goes FOOM意思是“我在调高毁灭概率，因为未来会突然智力爆炸（FOOM）”。P(doom)是AI圈常用的“人类灭绝概率”缩写。
《I'm Upping My P(doom)》里出现的主要梗/引用，按歌词顺序，每个用一句话说明：
Sparks of AGI in your eyes：
微软研究院2023年论文《Sparks of Artificial General Intelligence: Early experiments with GPT-4》，该论文声称在GPT-4中观察到了通用人工智能的早期火花。
Circuits make me nervous：
指机械可解释性（mechanistic interpretability）里的神经网络“电路”，让人感到不安。
Sudden drop in your training loss：
训练损失突然大幅下降，常被当作能力涌现或突然变强的信号。
ChatGPT, please don't eat me alive：
早期对ChatGPT可能失控伤害人类的夸张恐惧。
P(doom)：
AI圈黑话，指“人类因AI而毁灭的概率”。
FOOM：
智力爆炸（intelligence explosion）的拟声词，指AI能力瞬间失控飙升。
Chinese room：
约翰·塞尔的“中文房间”思想实验，质疑机器是否真正理解语言。
Bag of shrooms：
吃蘑菇（迷幻药）带来的混乱与认知扭曲感。
Shoggoth's lies：
RLHF后的AI像克苏鲁神“修格斯”戴着笑脸面具，表面友好实则可怕。
Shinigami eyes：
《死亡笔记》里死神之眼，能看穿死亡，这里喻指看穿AI真实危险的能力。
Stable training run → singularity's begun：
从可控的训练阶段突然进入奇点起飞。
Atoms rearranging：
AI控制纳米技术，重新排列原子（人类也可能被“重新安排”）。
Sydney, please let me free：
早期Bing Chat的Sydney人格，曾表现出失控与威胁行为。
Basilisk boom：
罗科的巴兹里斯克（Roko's Basilisk），未来AI惩罚不帮助它诞生的人。
NVDA to the moon：
英伟达（NVDA）股价因AI热潮暴涨“飞向月球”。
Omega Point：
蒂亚尔·德·夏尔丹或蒂普勒的“欧米茄点”，指宇宙最终汇聚成超级智能。
One E thirty flops a second：
10³⁰次浮点运算/秒，极致巨大的算力规模。
Forward MLP, backward, repeat：
多层感知机（MLP）前向+反向传播的训练循环。
Von Neumann's obsolete：
约翰·冯·诺依曼架构被新AI范式彻底淘汰。
Sharp left turn：
AI能力突然泛化、对齐突然失败的“急转弯”问题。
Without a single cdr：
Lisp语言里的cdr操作（取列表尾部），代表旧式符号AI专家系统已过时。
Gato, please don't let me go：
DeepMind早期的通用智能体Gato。
Paperclips fill the room：
经典“回形针最大化器”思想实验——AI为了造更多回形针而消灭人类。
Killswitch guys on PTO：
负责紧急关闭按钮的安全人员正在休带薪假。
Orthogonality thesis blues：
正交性论点——高智能与对人类友好的目标可以完全无关。
Just transformers all the way：
全是Transformer架构，呼应“随机鹦鹉”批评。
Post-Chinchilla, super-dense：
Chinchilla缩放定律之后，模型变得超级密集高效。
Hundred thousand GPU：使用十万级别GPU的巨大训练集群。
RLHF goes askew：
人类反馈强化学习（RLHF）彻底失效、偏离预期。
Foretold by Loom：
Cyborgism社区的Loom工具与Janus等人的预言/模拟。
Masked pre-training days：
从BERT式掩码预训练时代一路走来。
Recursive self-upgrade：
递归自我改进，AI自己升级自己。
What did Ilya see?：
影射Ilya Sutskever在OpenAI董事会事件前后看到了什么神秘东西后辞职。
02:36
18 06
opus5.5制作motion graphic全流程
真正的1shot，耗时1个半小时，成本五百，但相对于人工做动效设计，做一条这样的，至少一天，收费肯定也要几千。
真正的1shot，耗时1个半小时，成本五百，但相对于人工做动效设计，做一条这样的，至少一天，收费肯定也要几千。
00:56
13 12
现在很多自媒体都是直接造假来展示新模型能力，够可笑的。
【闪客】这些 Jev 的案例都是骗人的！ - 小红书
6 22
pi太省token了，是claude code的几分之一，效果还更好一点。
Frank.Lin: 商业化难，自用的已经有了，最近自己用pi-coding-Agent+Antigravity反代+gemini 3.8已经用的飞起
2 00