即刻App年轻人的同好社区
下载
发现了一个优质的书籍推荐网站，用户只需要输入感兴趣的书籍，就能获得相关书籍推荐。
为什么说高质量呢？因为build这个产品的hacker使用了完整的数据收集、处理和模型训练评估的全过程，并且公开了模型、硬件和评估参数。
我做了些解读如下，为什么要做解读呢？因为我之前一直想做个这样的产品
·
作者不满Amazon收购Goodreads之后的推荐质量下滑，而且难找到阅读品味相似的用户，所以手搓了这个网站。
核心功能：
输入或从GR导入你最近阅读的1～64本书，就能获得相关书籍推荐，书籍搜索支持模糊搜索。
我用三本看过的哲学书《加缪手记 与神对话 日常生活中的自我呈现》测试效果，推荐的书还算合我胃口，还有我正在读的Not give a fuck。
数据：
数据采集上也是经过思考的，考虑到服务器负载、数据对推荐的质量影响、私密数据权限，采集到4300多万用户共13亿数据。
模型：
基于SASRec模型在A100 80GB GPU上进行训练和实验，SASRec本质上是一个在item ID上运行的transformer解码器而不是token。对实验的预测召回结果和top30的准确率进行人工判断并和参考文献对比。
为什么说高质量呢？因为build这个产品的hacker使用了完整的数据收集、处理和模型训练评估的全过程，并且公开了模型、硬件和评估参数。
我做了些解读如下，为什么要做解读呢？因为我之前一直想做个这样的产品
·
作者不满Amazon收购Goodreads之后的推荐质量下滑，而且难找到阅读品味相似的用户，所以手搓了这个网站。
核心功能：
输入或从GR导入你最近阅读的1～64本书，就能获得相关书籍推荐，书籍搜索支持模糊搜索。
我用三本看过的哲学书《加缪手记 与神对话 日常生活中的自我呈现》测试效果，推荐的书还算合我胃口，还有我正在读的Not give a fuck。
数据：
数据采集上也是经过思考的，考虑到服务器负载、数据对推荐的质量影响、私密数据权限，采集到4300多万用户共13亿数据。
模型：
基于SASRec模型在A100 80GB GPU上进行训练和实验，SASRec本质上是一个在item ID上运行的transformer解码器而不是token。对实验的预测召回结果和top30的准确率进行人工判断并和参考文献对比。
6 01
1 00
# Lenny很多对谈都有价值但我想先推荐Chip
第一反应是Lenny终于采访Chip了🥲
Chip Huyen 是我一直关注的AI从业者，她的个人博客会用非常简单易懂的语言详尽讲解一个AI技术，没有趣味但当你读完之后会觉得这个技术就应该是这样的，还会有一些人生经历思考，我写文章的部分动机来源于她，她是前 Netflix AI 研究员、NVIDIA Nemo 平台核心开发者、斯坦福大学讲师，还出版了两本传阅较广的书籍《AI Engineering》《Designing Machine Learning System》
虽然这篇和 Lenny 的对谈有很多观点属于老生常谈，但对于AI核心技术入门来说是个有利于树立正确认知的source。
第一反应是Lenny终于采访Chip了🥲
Chip Huyen 是我一直关注的AI从业者，她的个人博客会用非常简单易懂的语言详尽讲解一个AI技术，没有趣味但当你读完之后会觉得这个技术就应该是这样的，还会有一些人生经历思考，我写文章的部分动机来源于她，她是前 Netflix AI 研究员、NVIDIA Nemo 平台核心开发者、斯坦福大学讲师，还出版了两本传阅较广的书籍《AI Engineering》《Designing Machine Learning System》
虽然这篇和 Lenny 的对谈有很多观点属于老生常谈，但对于AI核心技术入门来说是个有利于树立正确认知的source。
3 00
# DeepSeek最新文章是“一图胜千言”的具像化
💡 为解决大型语言模型（LLMs）处理长上下文时的效率瓶颈，dpsk最新paper能够实现：
> 解决长文本处理的计算挑战： 当前LLMs在处理长文本内容时面临显著的计算挑战，因为计算成本与序列长度呈二次方缩放关系。 > 探索视觉压缩潜力： 研究人员探索利用视觉模态作为文本信息的高效压缩介质的潜力。一个包含文档文本的图像可以用明显少于等效数字文本的令牌来表示丰富的信息，暗示光学压缩可以实现更高的压缩比。
> 重新审视VLM以提高效率： 从以LLM为中心的角度重新审视视觉-语言模型（VLMs），重点关注视觉编码器如何增强LLMs处理文本信息的效率，而不是基础的VQA任务，例如存在性判断、计数、颜色/属性、空间关系、OCR 文本问答、时序视频提问等。
> 回答关键研究问题： OCR任务提供了一个理想的测试平台来验证这种视觉-文本压缩范式。模型试图回答一个关键研究问题：对于包含1000个单词的文档，至少需要多少视觉令牌才能进行解码？这对于“一图胜千言”的原理研究具有重要意义。
·
dpsk最新发布的这篇文章是“一图胜千言”的具像化，我们之前理解一图胜千言主要是在可视化领域，一张达意的可视化图表能涵盖背后的海量数据洞察，而dpsk利用图像技术很好地解决了LLMs上下文瓶颈的问题，没有完全解决但至少给大伙指出一条新路径，不用只一味卷文本上下文长度了。
·
karpathy鲜少在推特表达喜欢什么，通常是转推荐其他新技术、新产品，或者进行一轮批判性思考，能看出来AK是被这篇文章惊艳了。
·
原文：www.arxiv.org
💡 为解决大型语言模型（LLMs）处理长上下文时的效率瓶颈，dpsk最新paper能够实现：
> 解决长文本处理的计算挑战： 当前LLMs在处理长文本内容时面临显著的计算挑战，因为计算成本与序列长度呈二次方缩放关系。 > 探索视觉压缩潜力： 研究人员探索利用视觉模态作为文本信息的高效压缩介质的潜力。一个包含文档文本的图像可以用明显少于等效数字文本的令牌来表示丰富的信息，暗示光学压缩可以实现更高的压缩比。
> 重新审视VLM以提高效率： 从以LLM为中心的角度重新审视视觉-语言模型（VLMs），重点关注视觉编码器如何增强LLMs处理文本信息的效率，而不是基础的VQA任务，例如存在性判断、计数、颜色/属性、空间关系、OCR 文本问答、时序视频提问等。
> 回答关键研究问题： OCR任务提供了一个理想的测试平台来验证这种视觉-文本压缩范式。模型试图回答一个关键研究问题：对于包含1000个单词的文档，至少需要多少视觉令牌才能进行解码？这对于“一图胜千言”的原理研究具有重要意义。
·
dpsk最新发布的这篇文章是“一图胜千言”的具像化，我们之前理解一图胜千言主要是在可视化领域，一张达意的可视化图表能涵盖背后的海量数据洞察，而dpsk利用图像技术很好地解决了LLMs上下文瓶颈的问题，没有完全解决但至少给大伙指出一条新路径，不用只一味卷文本上下文长度了。
·
karpathy鲜少在推特表达喜欢什么，通常是转推荐其他新技术、新产品，或者进行一轮批判性思考，能看出来AK是被这篇文章惊艳了。
·
原文：www.arxiv.org
2 00
AI已经进化出眼睛了｜主动式可视化分析
可视化分析（VA）通常涉及复杂的工具和数据，用户有时会感到不知所措。虽然现有的反应式AI助手可以提供帮助，但它们依赖于用户的明确请求，在用户最需要帮助时却无法主动提供建议。研究旨在开发一种能够自主确定何时以及提供何种帮助，并保持可解释性和可控性的主动式AI。
可视分析应该是学术界和工业界连接很紧密的学科，这些研究相信不久的将来会用到各种ChatBI产品中，而ChatBI类产品正好是数据垂类公司、大中小互联网企业都必备的产品。
前几天刷到hacker news有个帖子争论自然语言交互是不是好的AI交互，有些设计出身的hacker非常严肃的批评了现在的一些vibe coding产品，设计出来的东西毫无design language。也有些任务比较复杂的用户认为用文字说清楚一件事再等AI执行完的功夫自己已经做完这件事了。
我始终认为自然语言交互只是人类推开AI门缝钥匙，还有很多值得探索。
原文：arxiv.org
可视化分析（VA）通常涉及复杂的工具和数据，用户有时会感到不知所措。虽然现有的反应式AI助手可以提供帮助，但它们依赖于用户的明确请求，在用户最需要帮助时却无法主动提供建议。研究旨在开发一种能够自主确定何时以及提供何种帮助，并保持可解释性和可控性的主动式AI。
可视分析应该是学术界和工业界连接很紧密的学科，这些研究相信不久的将来会用到各种ChatBI产品中，而ChatBI类产品正好是数据垂类公司、大中小互联网企业都必备的产品。
前几天刷到hacker news有个帖子争论自然语言交互是不是好的AI交互，有些设计出身的hacker非常严肃的批评了现在的一些vibe coding产品，设计出来的东西毫无design language。也有些任务比较复杂的用户认为用文字说清楚一件事再等AI执行完的功夫自己已经做完这件事了。
我始终认为自然语言交互只是人类推开AI门缝钥匙，还有很多值得探索。
原文：arxiv.org
1 00