好的 context engineer,在于在调用大模型之前,对 context 预先计算过。
这个计算是指,将冗余或者需要二次推理的信息进行计算为更精准的方式。
例如:用户问「多久之后发生?」
别告诉模型“今天是11月5日,活动是11月8日”,
而是告诉它“还有3天发生”。
人类靠压缩记忆提高效率,AI 也一样,大部分 Agent 开发没有对 context 或者信息做比较好的整理,AI 也没有想的那么智能,越少 AI 在 context 中的推理次数,调用结果越稳定。
Long context ≠ Long-term reasoning