即刻App年轻人的同好社区
下载
App内打开
Haijun
14天前
非常非常值得一看的来自 LangChain 团队的 RAG 视频:当 LLM 的上下文足够长了就不需要 RAG 了吗?
—— RAG在长上下文大语言模型(LLM)中的应用探讨

随着上下文窗口增至超过100万Token,很多人质疑RAG是否已经过时。我们结合几个最新的项目成果来分析这个问题。我们讨论了长上下文LLM在事实推理和信息检索方

面现有的限制(采用多针索引分析法),同时也探讨了上下文窗口扩展可能带来的RAG应用场景的变化,如文档中心的索引技术和RAG的流程优化。

幻灯片展示:docs.google.com

重点参考文献:

1/ 多针索引分析:

blog.langchain.dev

2/ RAPTOR研究项目

项目首页:github.com
视频介绍:youtube.com

3/ Dense-X / 多维数据索引技术:

学术论文:arxiv.org
相关博客:blog.langchain.dev

4/ 长上下文数据嵌入技术:

研究概览:hazyresearch.stanford.edu
技术教程:together.ai

5/ 自适应RAG:
论文一:arxiv.org
论文二:arxiv.org
研究动态:blog.langchain.dev

0:20 - 上下文窗口正逐渐增大
2:10 - 多针索引挑战
9:30 - RAG的未来变革
12:00 - 查询机制分析
13:07 - 以文档为中心的索引技术
16:23 - 自我反思的RAG模式
19:40 - 总结
05:14
212

来自圈子

圈子图片

AI探索站

65988人已经加入