即刻App年轻人的同好社区
下载
App内打开
Tefnut
456关注348被关注4夸夸
🧑‍🏫ENTP-T 6w7
🗂在和遗忘做抗争
💻CS PhD/Al4Science->Structural Biology
Tefnut
8天前
把这个月的GitHub Action额度用完了,Vibe Coding误我😅
00
Tefnut
11天前
现在 Grok Bot 能够保留 Tailscale 之后,我把一台 Omarchy 主机和两台 DGX Spark 都交给它管理了。虽然 Grok 模型现在一般,但 Grok Bot 这个产品还是挺不错的。以前觉得给助手拟人化没多大意义,现在意识到分成不同的 bots,对人来说是在降低认知负担。有点像用 Slack,只是同事变成了一群 bots。
00
Tefnut
12天前
跟Claude Max慷慨的额度相比,我的本地硬件竟然成了瓶颈,想自己做一套GB10 的推理引擎,结果总是在等手上的两台DGX Spark做实验。另一方面是各种CI/CD等待的时间越来越长。

与这些宝贵的时间相比,众多基础设施都可以被轻松加速,用Rust/Zig重写也好,重新整理复杂度更新算法也好。甚至做GPU kernels的时候都意识到如果不是嫌弃CUDA环境太重编译太慢,Triton都没有存在的必要了,现在前沿模型写个上千行的kernel都基本上一遍过。
00
Tefnut
15天前
全新的起点,来自逆摩尔定律。更高的价格,一半的显存。

个人 AI 超级计算的全新起点!NVIDIA DGX Spark 64GB 即将推出

00
Tefnut
1月前
我觉得 Jev 做了对的事情,让模型拟人其实不那么重要,关键是做决策。

所以接下来其实是如何把问题原子化的决策,以及如何构建更好的决策模型。
01
Tefnut
1月前
关于蒸馏这件事情,虽然我很喜欢在机器上部署开源模型,但是如果模型不是在通过智能本身在升级,那我们会离一条能持续发展的道路上越走越远。
00
Tefnut
1月前
当你有了两台DGX Spark。
另一方面是官方 200tok/s一天正经用得用好几百。

期待未来拥有DGX stataion的那一天。
00
Tefnut
1月前
这个在湖南做安全要找工作的本科生被anthropic发现啦
20
Tefnut
1月前
我跟老板说Astra,他跟我说Kamen Rider和Ultraman。
00