即刻App年轻人的同好社区
下载
App内打开
JacobCai
14关注8被关注0夸夸
JacobCai
2月前

数字游民Jarod: 这可能是今年最重要的AI新闻，但中文互联网还没什么人聊。 昨天，一家成立不到三年的多伦多芯片公司扔下了一颗核弹。他们不是做大模型的，不是做应用的，而是做了一件听起来很复古的事：把AI模型直接刻在芯片里。 这家公司叫 Taalas。他们做的芯片 HC1，运行 Llama 3.1 8B的速度是 17000 tokens/秒。作为对比，目前业界最快的 GPU 也就 2000 左右。十倍差距。 但这还不是最疯狂的。最疯狂的是，这块芯片只能跑这一个模型。不能换，不能改，不能升级。你买回家，它就永远只会做这一件事：以光速运行 Llama 3.1 8B。 Taalas 的赌注很简单：在这个所有人都追求灵活性的时代，他们选择了绝对的不灵活，换取绝对的效率。 要说清楚这件事为什么重要，得先理解过去几十年芯片发展的主线。从 CPU 到 GPU，再到各种 AI 加速器，所有人都在做同一件事：造一个通用的计算平台，然后用软件在上面跑各种模型。 这条路走到今天，遇到了一个硬边界。模型越来越大，内存带宽成了瓶颈。你把几百亿参数从显存搬到计算单元，这个过程消耗的能量和时间，已经比计算本身还要多了。 Taalas 的思路是：既然你每次都算同样的东西，为什么还要搬来搬去？直接把权重存在晶体管里不行吗？ 他们真的这么做了。HC1 芯片里没有显存，没有 HBM，没有复杂的缓存层级。模型的每一个权重都对应着芯片上的特定晶体管，矩阵乘法通过电路的物理连接直接完成。你输入一个 token，电流流过这些预先设计好的路径，输出就是下一个 token 的预测。 这就像录音带和现场演奏的区别。传统芯片是每次都要重新演奏，Taalas 是把演奏录在磁带里，播放就行了。 这种设计带来了几个惊人的结果。 第一是速度。17000 tokens/秒意味着什么？你几乎感受不到延迟。不是"很快"，是"瞬间"。有测试者说，按回车的瞬间，答案就已经完整出现在屏幕上，甚至看起来像是预先准备好的。 第二是功耗。传统 GPU 运行 AI 推理需要液冷，一个机柜动辄几十千瓦。Taalas 的芯片只要空气冷却，十张卡加起来才 2.5 千瓦。他们号称能效是 GPU 的十倍。 第三是成本。制造这样的芯片，他们说是传统方案的十分之一到二十分之一。 但代价也是真实的。这块芯片出厂那一刻，它的命运就已经注定。Llama 3.1 8B，就是这个芯片这辈子唯一能做的事。如果明年 Meta 发布了 Llama 4，这块芯片就变成了电子垃圾。如果你发现这个模型有偏见，或者在你的应用场景里效果不好，你不能微调它，不能换别的模型，只能再买一块新芯片。 Taalas 的解决方案是：把定制芯片的周期从一年压缩到两个月。他们和台积电合作，只改变两层金属掩膜，就能为不同的模型生产新芯片。他们声称训练一个模型要花十亿美元，而定制一块这样的芯片只要花一千万。 说到这个团队的背景，确实豪华得有点过分。CEO Ljubisa Bajic 是 Tenstorrent 的创始人，之前在 AMD 和 NVIDIA 都做过架构师。COO Lejla Bajic 是他的妻子，同样是 AMD 和 Tenstorrent 的资深工程师。CTO Drago Ignjatovic 是前 AMD 的 ASIC 设计总监。这三个人加起来，可能设计了过去十年里你用过的一些最重要的芯片。 2022 年，当 Jim Keller 加入 Tenstorrent 并接管公司后，Ljubisa 选择了离开。六个月后，他创立了 Taalas。显然，他和 Keller 对 AI 芯片的未来有不同的看法。Keller 想做一个通用的、可编程的、软件友好的平台，而 Ljubisa 走向了另一个极端：彻底的专用化。 他们刚刚完成了 1.69 亿美元的融资，总融资额 2.19 亿。投资人里有个名字值得注意：Pierre Lamond。这位老爷子是 Fairchild Semiconductor 的元老，红杉资本的前合伙人，被公认为半导体行业的奠基人之一。这样的大佬背书，说明这件事至少在技术逻辑上是成立的。 现在的问题是：市场会买单吗？ Taalas 需要找到那些愿意为了效率和成本，牺牲灵活性的场景。比如语音助手，需要毫秒级响应，而且模型不需要经常换。比如数据标注，需要处理海量文本，用的是固定模型。比如一些垂直领域的专用模型，训练好了就不动了。 但也有人不看好。芯片制造是有污染的，如果每两年就要换一批芯片，这比 GPU 的更新换代更频繁，环保问题怎么算？还有人质疑，AI 模型进化这么快，两个月流片时间还是太长，等你做出来，模型可能已经过时了。 更根本的问题是：当 OpenAI、Google、Anthropic 都在拼命证明他们的新模型比旧模型好得多的时候，谁会愿意把自己锁死在一个固定的模型上？ Taalas 的反驳是：模型迭代的周期正在变长，人们开始依恋特定的版本。OpenAI 把用户从 GPT-4.5 迁移到 GPT-5 的时候，很多人抱怨新版本太谄媚了。也许未来我们会像对待手机型号一样对待 AI 模型：iPhone 15 出来后，还是有人用 iPhone 14，因为它们各有各的好。 我不知道 Taalas 会不会成功。这可能是一家改变行业的公司，也可能是一个技术史上有趣的注脚。 感兴趣的朋友可以去他们的demo站点体验一下什么是光速级别的inference： chatjimmy.ai

00
JacobCai
2月前
JacobCai
3月前
JacobCai
3月前
JacobCai
3月前

AI柿子: 过去10年，GitHub上那些顶级开源项目，对普通人来说就是看得见摸不着 就拿yt-dlp来说，140k+ star的视频下载神器，功能强到爆 但你得会命令行、搞定环境配置、处理依赖冲突 光看到部署两个字，90%的人就已经关掉页面了 现在完全不一样了 有了Claude Code + Skills这套组合 你只需要对着Claude说一句："帮我把yt-dlp打包成Skill" 它就会自己去： 分析项目结构 写封装代码 处理所有依赖 几分钟后，你就有了一个开箱即用的视频下载工具 以后想下YouTube视频，直接扔链接就行 我从产品经理的角度看，这件事的本质不是"工具变简单了" 而是开源世界的生产关系被重构了 过去：技术能力是刚性门槛，你不会就是不会 现在：AI成了中间层，把专业工具翻译成自然语言接口 这意味着什么 GitHub上那些经过无数人验证的成熟项目，稳定性和成功率远超AI临时写的代码 现在这些都能变成你的"超级技能库" 而且不只是视频下载 格式转换、PDF处理、图片压缩、网页抓取... 那些你能想到的需求，90%都有大佬在GitHub上开源了完整解决方案 以前你用不了，现在你用Skills就能直接调用 补充一个技术细节： Skills本质是Claude Code的按需加载机制 它把常用的工作流、脚本、知识打包成独立模块 只在你需要的时候才调用，不会每次都消耗token 这个设计非常聪明——既省钱又高效 超级个体时代，信息差就是生产力 别人还在为"不会技术"发愁 你已经把全GitHub的轮子都装进自己的工具箱了 这才是真正的降维打击 就拿yt-dlp来说，140k+ star的视频下载神器，功能强到爆 但你得会命令行、搞定环境配置、处理依赖冲突 光看到部署两个字，90%的人就已经关掉页面了 现在完全不一样了 有了Claude Code + Skills这套组合 你只需要对着Claude说一句："帮我把yt-dlp打包成Skill" 它就会自己去： 分析项目结构 写封装代码 处理所有依赖 几分钟后，你就有了一个开箱即用的视频下载工具 以后想下YouTube视频，直接扔链接就行 我从产品经理的角度看，这件事的本质不是"工具变简单了" 而是开源世界的生产关系被重构了 过去：技术能力是刚性门槛，你不会就是不会 现在：AI成了中间层，把专业工具翻译成自然语言接口 这意味着什么 GitHub上那些经过无数人验证的成熟项目，稳定性和成功率远超AI临时写的代码 现在这些都能变成你的"超级技能库" 而且不只是视频下载 格式转换、PDF处理、图片压缩、网页抓取... 那些你能想到的需求，90%都有大佬在GitHub上开源了完整解决方案 以前你用不了，现在你用Skills就能直接调用 补充一个技术细节： Skills本质是Claude Code的按需加载机制 它把常用的工作流、脚本、知识打包成独立模块 只在你需要的时候才调用，不会每次都消耗token 这个设计非常聪明——既省钱又高效 超级个体时代，信息差就是生产力 别人还在为"不会技术"发愁 你已经把全GitHub的轮子都装进自己的工具箱了 这才是真正的降维打击

00
JacobCai
3月前

AI柿子: 这次分享一个价值10w的手机远程操控claude code/codex的保姆级教学⚠️ 完美解决出门不想带电脑 但是想继续编程 的困扰 用到了一个叫happy的github开源项目：github.com/slopus/happy 这个项目可以实现电脑和手机端的远程连接，使你可以远程操控claude code 以下是全流程的保姆级教学👇： 第一步检查node和npm版本 在命令行输入：node --version && npm --version 如果有没有安装的小伙伴可以自行问ai解决，这个非常简单 第二步：使用npm安装happy 命令行输入：npm install -g happy-coder 第三步：在手机端下载happy coder软件 此处注意要使用海外的apple store账号，之前怎么注册海外的账号也分享过 第四步：在电脑终端输入happy 输入happy会默认打开claude code 输入happy codex会打开codex 第五步：验证码验证 输入happy后，会出现验证码，需要用手机扫码，实现连接 第六步，在app内打开remote模式，即可畅快编程 如果对你有帮助麻烦大家三连支持下，谢谢大家！🙏

00
JacobCai
3月前

孙建伟: 随时随地，手机就能调用调用Code Agent， 近我把自己的电脑，变成了一个随叫随到的 AI 数字员工。有想法的时候，不用等回到工位，掏出手机就能直接让它写代码、跑命令、爬虫、写报告。 感觉不是在“用工具”，而是在远程指挥一个已经熟悉我全部工作环境的员工， 而且同时可以指挥很多个智能体。 这套方案的核心是 「本地部署服务 + 异地内网穿透」。AI 编程环境实际跑在我自己的电脑或vps上，算力、文件、项目都在服务器；手机只是入口，通过安全的内网通道直接连回去用。 方法流程很简单： 1）本地电脑或海外vps长期在线，作为数字员工本体 2）电脑或服务器运行 OpenCode / Claude Code 等 AI 编程服务 3）用 Tailscale 做内网穿透，把手机和电脑连成私有网络 4）手机或终端用 SSH 或浏览器直接访问、下指令 完整思路和实操细节我整理在这里： https://l6uugl8evm.feishu.cn/wiki/XNlDwdcneiQwZek0OiycWkPdnwd?from=from_copylink

00
JacobCai
3月前
JacobCai
3月前

和平hepingfly: 我们平时使用 claude code 的时候，在它执行代码过程中，不可能一直盯着它（如果你不想用 yolo 模式的话）。 给大家分享一个刚写的 claude hooks ： 1️⃣ 可以实现，当 claude 需要我们确认的时候，自动播放声音「老板，请确认」 2️⃣ 当 claude 执行完任务的时候，自动播放声音「老板，我干完了」 播放声音利用的是系统 TTS，播报什么内容，你可以自定义。 如果你是 mac 系统，可以在命令行执行，say "老板，你好" ，自己测试一下，会听到自动播报声音。 具体配置： "hooks": { "Notification": [ { "matcher": "*", "hooks": [ { "type": "command", "command": "say '老板，请确认'" } ] } ], "Stop": [ { "matcher": "*", "hooks": [ { "type": "command", "command": "say '老板，我干完了'" } ] } ] } 使用方法： 把上面的 json 配置放到 ~/.claude/settings.json 这个用户目录的配置文件中即可 关于 claude hooks 使用，如果有不清楚的，可以看下面的文章 https://mp.weixin.qq.com/s/JjAlyYX8KIoQAhf8t3CcxA

00
JacobCai
3月前

袋鼠帝: Claude Code迎来最强开源对手！GitHub已经50.8k Star了，作者甚至为它烧掉2.4w美元。 🔥 隆重介绍最近在用的宝藏AI编程组合：OpenCode + Oh-My-OpenCode 不仅开源，还支持 GLM-4.7、MiniMax 2.1 等国产之光白嫖使用！ Gemini、ChatGPT、Claude 的 Pro 账号也能直接登录接管。 不过据说在opencode登录Claude容易封号（貌似会违反Claude服务协议...也太封闭了） 1️⃣ 真模型自由告别被一家模型捆绑！ OpenCode 支持几乎所有主流模型：Claude、GPT、Gemini、GLM-4.7、MiniMax 2.1... 你既可以用 API，也可以直接登录 Pro 账号，怎么划算怎么来，开发过程中随意切换模型。 2️⃣ 赛博朋克终端，和友好的桌面端 它的 TUI 终端模式有点赛博朋克风格，信息流、进度可视化，比 Claude Code 的毛坯终端性感多了。桌面端功能齐全，对新手更友好。 搭配核心插件：Oh-My-OpenCode，能力更强 OpenCode 的灵魂在于开源插件 Oh-My-OpenCode。装上它，直接超进化，完美复刻甚至某些地方超越 Claude Code： 3️⃣ 异步 SubAgent 传统的 AI 助手一个模型干所有活，效率低。这套组合可以派生出 Search Agent 查资料、Plan Agent 做规划、UI Agent 写前端。关键是异步执行，后台忙活不卡主线程。 4️⃣ 关键词，“暗号”触发机制太酷了： ulw (Ultrawork)：火力全开攻克难题。 think deeply：强制 AI 进行长思维链推理。 search / find：图书馆管理员模式，精准检索代码库。 5️⃣ 真·代码理解（非瞎猜文本） 集成了 LSP 和 AST-Grep。它像你的 IDE 一样，能清晰看到函数定义、变量引用、类继承关系，真正理解代码骨架。 6️⃣ 告别失忆、烂尾 上下文焦虑管理：用量达到阈值（85%）自动压缩陈旧记忆，腾出空间，防止 AI 突然失忆中断。 防截断机制：像严格的监工，强制检查代码中的 // ...rest of code，逼着 AI 把 TODO 写完，绝不烂尾。 7️⃣ 安装与体验支持 Mac/Win/Linux，安装简单（终端需 Node.js 和 Bun 环境）： 桌面端：http://opencode.ai/download 终端：npm install -g opencode-ai 插件：npx oh-my-opencode install 我实际体验下来，操作跟 Claude Code 基本无感衔接，但自由度完爆。 接入 GPT-5.2、Gemini 3 等模型随意切换，真的很香！如果你不想每月交订阅费，绝对值得花 10 分钟试试。 更多 AI 实战干货，关注袋鼠帝。 更详细的信息，见评论区~

00