AI 与大模型 · 前沿
上下文工程(Context Engineering)
比写提示词再进一层:安排模型回答前能看到的所有内容——给哪些资料、按什么顺序、哪些该略去。它决定模型在什么信息环境下作答。
TL;DR三十秒版本
- 不光琢磨那句话怎么写,还把模型答题前能看到的东西都安排一遍。
- 给哪些资料、按什么顺序、哪段旧对话该丢,都归它管。
- 信息给对了位置比给得多更管用,一股脑全塞反而帮倒忙。
Overview详细说说
上下文工程琢磨的不是一句话怎么措辞,而是模型动手之前能看到哪些信息:哪些资料该递进去,按什么顺序摆,哪段历史该丢掉,哪些工具说明该附上。换个说法,它管的是给模型布置一个什么样的作答环境。
之所以要往这一层走,是因为模型一次能读进来的内容有上限,塞得越多越容易抓不住重点。光把提问打磨得漂亮,不如先把该看什么安排明白。这一步做得好,提问随便一点也能答得不错。功夫于是从写好一句话,挪到了搭好一整套输入。
它和写提示词的关系是包含,而不是取代。提示词是上下文里的一部分,上下文工程还要管资料、历史、示例和工具说明。RAG 也可以看成它的一种手段——专门负责把外部资料挑出来补进去,而上下文工程要权衡的东西比检索更宽,两者是包含关系,不是互相替代。
落到实际,你感觉得到的是模型答得更稳、更少跑偏,却说不清是哪一步起了作用。有些框架把这件事列为核心能力,自动决定保留哪段对话、加载哪个文件、什么时候清理旧内容。它不是什么黑科技,本质还是把话说清、把料备齐,只是视野从一句话扩到了整片信息。把该给的信息放到对的位置,比一味堆更多信息更有效。
Myths常见误解
- ✕以为提示词写好就够了 ✓提示词只是其中一块,资料、历史、示例放得对不对同样影响结果
- ✕以为多给资料总是好事 ✓塞太多无关内容会稀释重点,模型反而抓不住你要什么
- ✕以为它是某种高深技术 ✓本质还是把话说清、把料备齐,只是范围从一句话扩到整片信息
In practice你会在哪用到它
- 把该用的那几份资料按先后摆好,再让模型动手答题
- 长对话里主动清掉跑题的旧内容,让重点留在眼前
- 发现回答变飘时,先回头看这轮给它看的东西是不是太杂
Summary记住这几点就够了
- 安排模型回答前能看到的全部信息
- 比只打磨一句提示词更进一层
- 资料取舍、排列顺序、历史保留都归它管
- 提示词是它的一部分,RAG 是它的手段之一
常见问题
上下文工程(Context Engineering)是什么意思?
不光琢磨那句话怎么写,还把模型答题前能看到的东西都安排一遍。给哪些资料、按什么顺序、哪段旧对话该丢,都归它管。信息给对了位置比给得多更管用,一股脑全塞反而帮倒忙。
上下文工程(Context Engineering)一般用在什么地方?
把该用的那几份资料按先后摆好,再让模型动手答题;长对话里主动清掉跑题的旧内容,让重点留在眼前;发现回答变飘时,先回头看这轮给它看的东西是不是太杂。
关于上下文工程(Context Engineering),最容易搞错的是什么?
以为提示词写好就够了,其实提示词只是其中一块,资料、历史、示例放得对不对同样影响结果;以为多给资料总是好事,其实塞太多无关内容会稀释重点,模型反而抓不住你要什么。
上下文工程(Context Engineering)要记住哪几点?
安排模型回答前能看到的全部信息;比只打磨一句提示词更进一层;资料取舍、排列顺序、历史保留都归它管;提示词是它的一部分,RAG 是它的手段之一。
容易踩的坑 把资料一股脑全塞进去通常帮倒忙,模型反而更容易抓错重点。
全站第 27 / 186 条 · 全部词条
接着读Related reading
智能体(Agent)
一种能自己定目标、拆步骤、调用工具去完成任务的 AI 程序。你交给它一件事,它自己安排怎么做,而不是你问一句它才答一句。
LLM(大语言模型)
读过海量文字之后学会“接下一句”的超大程序。你输入的任何一句话,它都在猜后面最可能出现什么,写作、翻译、答题都是这一件事的不同用法。
嵌入(Embedding)
把一段文字换算成一串数字,让电脑能比较哪两句话意思更接近。搜索和知识库能在换了说法时也找对答案,靠的就是它。
Claude(大语言模型)
Anthropic 公司开发的大语言模型,以长文档理解和写作、写代码见长。它既是网页和手机里的聊天助手,也有专门的编程形态。
提示词(Prompt)
你发给 AI 的那段话,也就是给它的指令或提问。这一段写得好不好,直接决定它给你的答案对不对路。
MCP(模型上下文协议)
一套让 AI 能统一接上外部工具和数据的接口标准。工具按它做一次,各种 AI 助手就能直接调用,省得给每个工具单独写对接代码。