即刻App年轻人的同好社区
下载
App内打开
小透明的朋友圈
3月前
“套壳”的四重进阶:

一阶:直接引用OpenAI接口,ChatGPT回答什么,套壳产品回答什么。卷UI、形态、成本。

二阶:构建Prompt。大模型可以类比为研发,Prompt可以类比为需求文档,需求文档越清晰,研发实现得越精准。套壳产品可以积累自己的优质Prompt,卷Prompt质量高,卷Prompt分发。

三阶:Embedding特定数据集。把特定数据集进行向量化,在部分场景构建自己的向量数据库,以达到可以回答ChatGPT回答不出来的问题。比如垂直领域、私人数据等。Embedding可以将段落文本编码成固定维度的向量,从而便于进行语义相似度的比较,相较于Prompt可以进行更精准的检索从而获得更专业的回答。

四阶:微调Fine-Tuning。使用优质的问答数据进行二次训练,让模型更匹配对特定任务的理解。相较于Embedding和Prompt两者需要消耗大量的Token,微调是训练大模型本身,消耗的token更少,响应速度也更快。

如果把模仿Llama2架构做预训练也算进去,可以看作第五阶。这五重进阶,基本囊括了大模型“套壳”的每一个场景。

尽管都是“套壳”,但“套壳”的程度不同,现在也有很多“套壳”的产品因为精巧的设计和良好的定价策略生存了下来,甚至活得不错。
423

来自圈子

圈子图片

笔记交流站

6555人已经加入