1.3 上下文是 AI 协作的核心货币
如果把 AI 协作比作一个经济体,那上下文就是它的货币。没有货币,交易无法进行。没有上下文,AI 无法有效工作。
这不是比喻,这是技术事实。
大语言模型的核心机制是"根据输入预测输出"。输入就是上下文,输出就是回答。上下文的质量——相关性、完整性、清晰度——直接决定了输出质量。这是底层技术决定的,不是谁的设计偏好。
上下文有三个关键维度:
第一,相关性。 AI 收到 10,000 个 token 的上下文,其中 8,000 是无关的,那么 AI 要从 8,000 个噪音里找到 2,000 个信号。这不是做不到,但浪费了模型的注意力预算。好的上下文应该只包含当前任务需要的信息,不该有的一个字都不要有。
第二,完整性。 上下文有缺失,AI 会脑补。有时候脑补对了,有时候错了。错了你也不知道,因为 AI 不会主动告诉你"你给我的信息不全"。它只会给出一个看似合理的答案,然后在某个细节上暴露问题。上下文缺失的后果是隐性的,比显性错误更难排查。
第三,结构清晰度。 同样一段信息,写成一段连续的文字,和写成结构化的分层文档,AI 的理解效率差很多。结构化的信息更容易被 AI 的路由和索引机制利用,非结构化的信息只能靠模型硬读。
所以,上下文管理不是"写文档",而是"设计信息结构"。
大多数人使用 AI 的方式是:打开对话框,把背景信息粘进去,开始提问。这个方式看似高效,但每次都在重新构建上下文,没有积累。
而一个成熟的 AI 协作方式应该是:上下文是预先准备好的,任务是按需启动的,AI 读取的是结构化的上下文,而不是对话历史。
就像你写代码不会每次重新打一遍标准库,而是 import 进来。上下文也应该被 import,而不是被重复。
Comments
Post a Comment