2.3 路由机制:按需读取,不搞全量注入

AI 的上下文窗口在变大,从 4K 到 8K、16K、32K、128K,甚至 1M。但上下文窗口越大,越不能啥都往里塞。

这个道理很简单:给你一百本书,让你从里面找答案,你也能找到,但效率远不如直接给你一本相关的书。AI 也一样。更大的上下文窗口解决的是"能不能装下"的问题,不是"该不该装下"的问题。

路由机制的核心思想是:AI 按需读取,只加载当前任务需要的上下文。

怎么做到?靠一个索引文件。

在 AI Context Workspace 中,根目录有一个 AGENTS.md(或类似的入口文件)。这个文件不是上下文仓库,而是路由表。它告诉你:

  • 背景信息在哪里(background/)
  • 约定规范在哪里(conventions/)
  • 当前有哪些活跃任务(artifacts/index.json)
  • 每个目录下有什么、是干什么用的

路由表只放路径和一句话说明,不放具体内容。具体内容存在各自的文件里,AI 在需要的时候按路径去读。

这样做的好处是什么?

第一,上下文精简。 入口文件只有几十行,AI 一眼就能看懂整个工作区的结构。不需要在 10 万 token 的上下文里找入口。

第二,按需加载。 一个任务只需要读背景中和当前任务相关的部分,以及约定中适用的规范。其他内容不加载,不占上下文窗口,不产生噪音。

第三,可扩展。 工作区可以无限增长。背景可以写一百份文档,约定可以写几十条规范,但入口文件始终保持精简。新增内容不影响已有任务的上下文质量。

路由机制在实践中怎么用?

一个典型的工作流是这样的:

  1. AI 读入口文件,了解工作区结构
  2. AI 读 artifacts/index.json,了解当前任务状态
  3. AI 根据任务需要,按路径读取 background/ 中的相关背景
  4. AI 读取 conventions/ 中的相关规范
  5. AI 执行任务,更新 artifacts/ 中的状态
  6. 完成后,AI 不再需要保留背景和约定的上下文,可以释放

整个过程,AI 只加载了完成任务所需的最小上下文集合。不多不少。

路由不是新技术,但很少有人把它用在 AI 协作上。

互联网用 URL 路由页面,操作系统用 PATH 路由文件,代码用 import 路由模块。路由是信息管理的基本手段。但到了 AI 协作,大多数人还在用"全量注入"的方式——把全部信息塞进一个 Prompt,期望 AI 自己处理。

路由机制不是 AI Context Workspace 的发明,但它是让 AI 协作可扩展的关键设计。

Comments

Popular posts from this blog

How to turn off Sass warning prompts in Nuxt.js projects

Configuring SSH Access to a Docker Container via an Alternative Port

Quickly Set Up a Cloud Database Using MongoDB Atlas