即刻App
年轻人的同好社区
下载
App内打开
Tefnut
456
关注
348
被关注
4
夸夸
🧑🏫ENTP-T 6w7
🗂在和遗忘做抗争
💻CS PhD/Al4Science->Structural Biology
Tefnut
8天前
把这个月的GitHub Action额度用完了,Vibe Coding误我😅
2
0
0
Tefnut
11天前
现在 Grok Bot 能够保留 Tailscale 之后,我把一台 Omarchy 主机和两台 DGX Spark 都交给它管理了。虽然 Grok 模型现在一般,但 Grok Bot 这个产品还是挺不错的。以前觉得给助手拟人化没多大意义,现在意识到分成不同的 bots,对人来说是在降低认知负担。有点像用 Slack,只是同事变成了一群 bots。
2
0
0
Tefnut
12天前
跟Claude Max慷慨的额度相比,我的本地硬件竟然成了瓶颈,想自己做一套GB10 的推理引擎,结果总是在等手上的两台DGX Spark做实验。另一方面是各种CI/CD等待的时间越来越长。
与这些宝贵的时间相比,众多基础设施都可以被轻松加速,用Rust/Zig重写也好,重新整理复杂度更新算法也好。甚至做GPU kernels的时候都意识到如果不是嫌弃CUDA环境太重编译太慢,Triton都没有存在的必要了,现在前沿模型写个上千行的kernel都基本上一遍过。
2
0
0
Tefnut
15天前
全新的起点,来自逆摩尔定律。更高的价格,一半的显存。
个人 AI 超级计算的全新起点!NVIDIA DGX Spark 64GB 即将推出
2
0
0
Tefnut
1月前
我觉得 Jev 做了对的事情,让模型拟人其实不那么重要,关键是做决策。
所以接下来其实是如何把问题原子化的决策,以及如何构建更好的决策模型。
3
0
1
Tefnut
1月前
能力是够了,现在更在乎快不快,不仅是tok/s,还有tok/task
莫子皓Peter: 其实有个象征性的事件 在这波 personal ai的浪潮里面,没有人在乎也没有人讨论背后是什么模型。 我觉得这就是一个标志性时间点,真正的价值从模型转到应用的时间点。 说得更明确一点,用户不在乎 geek不在乎 投资人不在乎 x根本没人讨论用的啥模型,但是都在讨论能干到啥。
2
0
0
Tefnut
1月前
关于蒸馏这件事情,虽然我很喜欢在机器上部署开源模型,但是如果模型不是在通过智能本身在升级,那我们会离一条能持续发展的道路上越走越远。
2
0
0
Tefnut
1月前
当你有了两台DGX Spark。
另一方面是官方 200tok/s一天正经用得用好几百。
期待未来拥有DGX stataion的那一天。
3
0
0
Tefnut
1月前
这个在湖南做安全要找工作的本科生被anthropic发现啦
4
2
0
Tefnut
1月前
我跟老板说Astra,他跟我说Kamen Rider和Ultraman。
2
0
0