即刻App年轻人的同好社区
下载
App内打开
Tefnut
456关注350被关注4夸夸
🧑‍🏫ENTP-T 6w7
🗂在和遗忘做抗争
💻CS PhD/Al4Science->Structural Biology
Tefnut
3天前
我觉得 Jev 做了对的事情,让模型拟人其实不那么重要,关键是做决策。

所以接下来其实是如何把问题原子化的决策,以及如何构建更好的决策模型。
00
Tefnut
9天前
关于蒸馏这件事情,虽然我很喜欢在机器上部署开源模型,但是如果模型不是在通过智能本身在升级,那我们会离一条能持续发展的道路上越走越远。
00
Tefnut
10天前
当你有了两台DGX Spark。
另一方面是官方 200tok/s一天正经用得用好几百。

期待未来拥有DGX stataion的那一天。
00
Tefnut
10天前
这个在湖南做安全要找工作的本科生被anthropic发现啦
20
Tefnut
10天前
我跟老板说Astra,他跟我说Kamen Rider和Ultraman。
00
Tefnut
13天前
对于LLM的正确认知:

它只是在给人类做speculative decoding。
00
Tefnut
14天前
LLM 在做算子优化方面确实能力出众,很多问题太好验证了。
00
Tefnut
14天前
异构计算确实很有前景,但是这个搞法还是有点昂贵了,现在贵的就是显存结果要求直接翻倍。

但是可以考虑把drafter模型扩展一下,比如弄个 9B的,放在显卡上跑。
00
Tefnut
16天前
Astra 似乎是第一个能不假思索的模型。

假思索。
00