作为应用开发者,啥 fancy 模型都用过,deepseek 除了性价比足够好之外,最惊艳我的功能其实是对话前缀续写功能。
允许用户提供部分输入(如代码片段开头或文本段落起始句),模型会根据上下文自动补全后续内容。只需要在API请求中设置以`assistant`角色开头的消息,并标记为前缀(`"prefix": True`),模型将基于此上下文生成连贯的后续内容。
在做类似 Claude artifact/ChatGPT canvas 功能的时候,总会遇到输出上下文窗口用尽的情况,很难处理,有了这个 prefix,不要太简单。这个功能创新,OpenAI 和 Claude 做得都不太好。但项目中我感觉 sonnet 3.5+deepseekr1 算是最佳组合了。