大家好,Boltzbit刚刚发布了最新论文的Preview Version: Infinite-Parameter LLMs — Generating and Adapting Weights from Live Data。
核心在探索一个问题:LLM能不能从持续产生的 live data中学习,并动态生成/适应自己的weights,而不是把学习结果锁在context、RAG或单独的memory里?
基于我们的Bayesian Self-learning Transformers (BAST)框架,我们在实验中观察到最高1,000× faster learning,并在长上下文场景下验证了它相对于传统memory-based learning(如RAG)在性能和成本上的优势。
如果大家对Continual Learning、dynamic weights / adaptive models或AI agents的self-learning感兴趣,欢迎看看论文,也非常欢迎 feedback ⬇️🌹 如果能在X上点赞转发支持,感激不尽🥺