最新一期 Lex Fridman 采访 Cursor 团队,很精彩。干货很多:
Cursor产品亮点
- Forking VS Code:更灵活的AI集成,超越了 VS Code 扩展的局限性
- 高效缓存技术:
- KV cache:预填充缓存,减少按键时需计算的Token数量,显著降低响应时间
- 推理缓存:预计算用户可能接受的建议,实现快速响应
- 优化的注意力机制:
- 多查询注意力:减少 KV cache 大小,提升速度
- 多潜在注意力(MLA):将键和值压缩为一个潜在向量,进一步优化
- 阴影工作空间:允许 AI Agent 在不保存的情况下修改代码,提供即时反馈
Cursor未来计划
- 远程沙盒环境:开发能重现用户环境的远程执行系统,用于长时间任务
- 改进AI调试能力:聚焦于简单错误检测,逐步扩展到更复杂的错误检测
- 增强代码库索引系统:通过嵌入和分块存储代码,提高检索质量和效率
- 探索同态加密:用于语言模型推理,增强隐私保护
- 优化上下文处理:探索无限上下文窗口和更高效的缓存方法
未来 AI 对 Programer 影响滴看法(属于乐观派)
- AI 辅助编程将成为主流,但编程人员仍将保持对过程的掌控
- 编程技能演变:减少模板化代码,更依赖创造性解决问题的能力
- 编程普及化:随着工具进步,更多人能参与编程
- 人机交互升级:通过意图注入等手段,实现与AI工具的高带宽沟通
除此之外,还提到:
- 目前公开的关于 Coding 能力的 Benchmark 的局限性(没啥参考意义)
- 目前综合来看,Claude 3.5 Sonnet Coding 能力表现最佳。然后... o1 在复杂任务处理让人期待(有捧投资人嫌疑🐶)