即刻App年轻人的同好社区
下载
App内打开
海玮
6天前
从种种迹象来看,人们对新技术的重视程度 >> prompt工程。

但汉语新解的传播,在我角度看来:
1. prompt输入的简单、无门槛,容易让人轻视其潜力。
2. 规范性和掉书包,能让prompt给输出结果带来很大的质量提升。
3. 规范输入场景,能提高输出的质量上限(让用户部分prompt更标准,信息压缩量更多)

又回想起了kimi那篇文章:
“你不能只提升窗口,不能只看数字,今天是几百万还是多少亿的窗口没有意义。你要看它在这个窗口下能实现的:
1. 推理能力
2. the faithfulness的能力(对原始信息的忠实度)
3. the instruction following的能力(遵循指令的能力)
——不应该只追求单一指标,而是结合指标和能力。”

其实代码侧能做这些努力,prompt侧一样可以做类似的努力。至少
1. 结构性,LLM读取代码结构(比如先new一个对象,然后再让对象执行xxx等)比理解自然语言更加精准(类instruction follow)
2. 掉书包,比如xx的语言风格,像是一个索引,让LLM知道世界模型里需要提取什么部分,从而给出更具体,质量更高的文字(类faithfulness)
在目前的各种实践结果来看,都是能让大模型“起反应”的。
05