1.1 对话不是上下文
你打开 ChatGPT,开始一个新的对话。你描述了项目的背景,说了你的需求,AI 给出了一个不错的回答。你继续追问,AI 理解你的意思,来回几轮,事情推进得挺顺利。
第二天,你打开同一个对话,发现上下文太长,AI 开始遗忘前面的内容。或者你干脆新建了一个对话,把昨天说过的话再说一遍。
这个场景你熟悉吗?熟悉就对了。几乎每个 AI 重度用户都在经历这个循环。
问题出在哪?
问题在于我们把"对话"当成了"上下文"。对话是一条线,从左到右,从开始到结束。但一个项目是网状的,有背景、有历史、有依赖、有多个并行任务。用一条线去承载一个网,必然断裂。
想想你平时怎么跟人协作的。一个新同事加入项目,你不会把过去三个月的聊天记录扔给他,让他自己看。你会给他一份文档:项目背景、技术选型、当前进度、接下来要做什么。这份文档就是上下文。
但跟 AI 协作时,我们恰恰在做相反的事情。我们每次都给 AI 一段对话历史,期望它自己从中提取出真正需要的信息。但对话历史里充满了试错、方向调整、废话和重复。AI 要从这些噪音里找出信号,不是做不到,但 token 数量和注意力都有限,效果必然随着对话长度衰减。
对话适合什么?
对话适合探索、头脑风暴、快速问答。这些场景的特点是:不需要长期记忆,不需要跨任务复用上下文,一次性的。
但当你开始做一个项目,需要分多个阶段完成,需要 AI 理解项目的全貌而不是当前这一小段对话时,对话模式就失效了。
那怎么办?
你需要把"上下文"从对话中剥离出来,独立管理。上下文应该是一个结构化的、可持久化的、可跨对话复用的资产,而不是对话的附属品。
这是整本书的起点。如果你认同这个问题的存在,后面的内容就都是围绕这个问题展开的。
Comments
Post a Comment