Context Engineering:AI 智能体的新型基础设施建设
Published on 2026-06-05
从上下文窗口的物理限制,到按需获取外部记忆的协议层解耦——Anthropic 主导的 Context Engineering 和 MCP 正在重新定义 AI 应用的开发范式。本文深入解析这一趋势对 AI 编程和 Agent 架构的深远影响。
Context Engineering:AI 智能体的新型基础设施建设
如果你使用过大语言模型,一定遇到过这个问题:给 AI 发送了大量背景信息后,换一个对话窗口,它就像失忆了一样,什么都不记得。这不是模型的 bug,而是整个 AI 应用范式正在经历的一次深刻变革的缩影。
这场变革有一个正在兴起名字:Context Engineering——上下文工程。
从"有多少显存,就有多少智能"说起
2023 年,业界流传一句话:"有多少显存,就有多少智能。"彼时,LLM 的上下文窗口是4K、8K,后来卷到 128K、200K。开发者们兴奋地往上下文里塞更多文档、更多对话历史、更多代码,以为窗口越大,AI 就越聪明。
但很快人们发现这不是线性关系。当你往200K 上下文中塞入一份10 万字的技术文档时,AI 的表现并非"更好地理解了文档",而是开始出现中间遗忘——重要信息在序列的中间位置,模型对其的感知能力显著下降。这被研究者称为"中间丢失问题"(Lost in the Middle)。
更重要的是,经济账算不过来。以 GPT-4 Turbo128K 上下文为例,每一次完整的上下文传递,其成本远高于只传递相关片段。当你构建一个日均服务 10 万次请求的 AI 应用时,上下文膨胀带来的成本是致命的。
于是,行业开始分化出两条路:更大窗口与更聪明地上下文。Anthropic 在 2024 年初给出了答案——不是继续扩大窗口,而是重新设计信息传递的方式。
Claude 的"上下文提示":把答案嵌在问题里
Anthropic 在2024 年 3 月发表了一篇技术博客,标题简单直接:"Prompting Guidelines"。其中最核心的一条建议后来被广泛引用:
把答案嵌在用户的问题里,而不是依赖模型自己的记忆。
这不是在说模型的记忆不可靠。这是在说,上下文本身就是一种编程范式。
具体怎么操作?Anthropic 建议开发者在提示中显式包含:用户可能不知道但模型需要知道的关键背景、与当前任务直接相关的历史信息摘要、以及预期的回答格式和质量标准。
这三件事,本质上是在构建一个上下文协议(Context Protocol)——一种在每次请求时双方共同遵循的信息契约。
Memory:AI Agent 的第三根支柱
如果你关注 AI Agent 的发展,会发现行业的共识架构正在形成三根支柱:工具调用(Tool Use)、推理(Reasoning) 和 记忆(Memory)。
工具调用让 Agent 能操控外部世界。推理让 Agent 能规划行动步骤。而记忆——让 Agent 能跨对话、跨任务保留关键信息——长期处于被忽视的状态。
为什么?因为记忆的实现远比看起来困难。
一个朴素的想法是:给 Agent 接一个向量数据库,把所有对话都存进去,检索时拿出来。实践中这个方案问题很多:对话片段零碎、检索命中率不稳定、长期记忆和短期记忆没有区分、没有优先级机制。
行业正在探索更成熟的方案:
第一层:会话记忆(Session Memory)。在一次对话窗口内,模型持续保有对之前交流内容的感知。这是基础层,但窗口有限。
第二层:个性化记忆(Persona/Preference Memory)。记录用户的工作习惯、偏好设置、专业领域,在后续对话中自动适配。这一层的数据结构相对稳定,适合用结构化方式存储。
第三层:项目记忆(Project Memory)。当 Agent 参与一个长期项目时,它需要对这个项目的技术栈、架构决策、已知 bug、团队规范有完整记忆。这是最难的一层,因为项目信息不仅量大,而且会不断演进。
第四层:组织记忆(Organizational Memory)。这是更超前的愿景——Agent 不仅记住单个用户,还能了解整个团队的知识体系、工作流程、决策历史,形成组织层面的共享记忆。
MCP 的出现:记忆需要协议
2024 年 11 月,Anthropic 正式发布 Model Context Protocol(MCP),这是一套用于连接 AI 模型与外部数据源、工具的开放协议。
MCP 解决的核心问题是什么?是上下文供给的可扩展性。
过去,开发者为每个数据源(GitHub、Slack、数据库)编写独立的集成代码。引入一个新数据源需要数周的工程工作。MCP 提供了一个标准化的连接层,让数据源可以即插即用。
更重要的是,MCP 的设计天然支持记忆层级的分离。通过 MCP,Agent 可以安全地连接到知识库、代码库、用户偏好存储,而无需每次都将这些信息塞进 prompt。
这意味着一个重要的架构转变正在发生:从"把所有信息塞进上下文"到"按需获取外部记忆"。
这是 AI 应用架构史上的一次解耦。上下文窗口不再是唯一的瓶颈——当信息可以通过标准协议按需获取时,模型的"虚拟上下文窗口"实际上可以认为是无限的。
为什么这对 AI 编程者最重要
对于每天用 AI 写代码的人来说,Context Engineering 的进展直接影响两件事:
第一,代码生成的稳定性。
当你让 AI 阅读一份 3000 行的代码库生成一个新功能时,传统做法是把整个代码库塞进上下文。上下文窗口大还好,窗口小的模型会遗忘远处的依赖关系,生成出引用不存在变量或函数的代码。
更聪明的做法是通过 MCP 连接到代码库,让 Agent 只在需要时获取相关文件的内容。这样不仅上下文利用效率更高,生成质量也更稳定。
第二,团队知识的一致性。
在大型代码库中,存在大量隐性的团队规范:为什么这个模块用这个设计模式?为什么这个地方禁用 lint规则?这些信息散落在 PR 评论、文档、资深开发者的经验中,没有任何一个 LLM 的预训练数据覆盖了这些内容。
通过构建组织级记忆系统,让 AI Agent 在每次代码审查和生成时都能获取这些背景信息,团队的知识资产第一次可以被真正复用。
这场基础设施建设的意义
互联网的核心基础设施创新,发生在数据通路层面——TCP/IP、HTTP、REST API。每一次协议层的突破,都会催生一批应用层的繁荣。
Context Engineering 和 MCP 的意义类似。它们不是某一个 AI 功能的改进,而是底层通信协议的演进。
当这个协议层成熟后,开发者的注意力可以从"怎么让模型读到更多信息"转移到"怎么让模型用到更准确的信息"。这意味着 AI 应用的质量瓶颈,将从模型能力转向数据质量——而数据质量是可以系统性提升的。
这也许才是 AI Agent 走向成熟应用最坚实的基础。
如果你在构建 AI 应用时有关于上下文管理的经验或困惑,欢迎在评论区交流。