🚛 Knit新支持了OpenAI针对3.5和4新出的logprobs参数,这个参数其实是个老参数,在老的OpenAI Playground里支持的很好,不过新模型和新的Playground一直都没支持。
打开新的选项后,你可以在Knit编辑器里看到每个token出现的概率,以及其他前5概率的token。这对于理解prompt输出的可能性和稳定性是非常重要的。(之前更接近摸石头过河)
如此一来,可以通过不断查看token概率和调节prompt/temperature/topP等参数让prompt输出的稳定性达到最佳。