即刻App
年轻人的同好社区
下载
App内打开
Tefnut
456
关注
350
被关注
4
夸夸
🧑🏫ENTP-T 6w7
🗂在和遗忘做抗争
💻CS PhD/Al4Science->Structural Biology
Tefnut
3天前
我觉得 Jev 做了对的事情,让模型拟人其实不那么重要,关键是做决策。
所以接下来其实是如何把问题原子化的决策,以及如何构建更好的决策模型。
3
0
0
Tefnut
4天前
能力是够了,现在更在乎快不快,不仅是tok/s,还有tok/task
莫子皓Peter: 其实有个象征性的事件 在这波 personal ai的浪潮里面,没有人在乎也没有人讨论背后是什么模型。 我觉得这就是一个标志性时间点,真正的价值从模型转到应用的时间点。 说得更明确一点,用户不在乎 geek不在乎 投资人不在乎 x根本没人讨论用的啥模型,但是都在讨论能干到啥。
1
0
0
Tefnut
9天前
关于蒸馏这件事情,虽然我很喜欢在机器上部署开源模型,但是如果模型不是在通过智能本身在升级,那我们会离一条能持续发展的道路上越走越远。
2
0
0
Tefnut
10天前
当你有了两台DGX Spark。
另一方面是官方 200tok/s一天正经用得用好几百。
期待未来拥有DGX stataion的那一天。
3
0
0
Tefnut
10天前
这个在湖南做安全要找工作的本科生被anthropic发现啦
4
2
0
Tefnut
10天前
我跟老板说Astra,他跟我说Kamen Rider和Ultraman。
2
0
0
Tefnut
13天前
对于LLM的正确认知:
它只是在给人类做speculative decoding。
3
0
0
Tefnut
14天前
LLM 在做算子优化方面确实能力出众,很多问题太好验证了。
4
0
0
Tefnut
14天前
异构计算确实很有前景,但是这个搞法还是有点昂贵了,现在贵的就是显存结果要求直接翻倍。
但是可以考虑把drafter模型扩展一下,比如弄个 9B的,放在显卡上跑。
2
0
0
Tefnut
16天前
Astra 似乎是第一个能不假思索的模型。
不 假思索。
2
0
0