AI 与大模型 · 进阶
上下文窗口(Context Window)
AI 在一次对话里能同时读进去的文字总量。这个量有上限,聊得越久,开头的内容越容易被挤出去。
TL;DR三十秒版本
- AI 一次能读进去的文字总量,这个量有上限。
- 它没有记性:每答一次都把前面的对话重读一遍,读不下就丢掉最早的部分。
- 窗口大只是能装更多,不代表更聪明,塞太多无关内容反而会答偏。
Overview详细说说
你和 AI 聊天时,它并不是真的“记得”。每回答一次,它都要把你的问题连同前面的对话重新读一遍,上下文窗口就是这个“一次最多能读多少字”的上限。桌面大小是固定的,摊开的纸摆满了,就得把旧的收走,才能放新的。
模型没法一次记住无限长的内容。窗口越大,能一次性塞进去的资料越多,比如一整份合同、一整个代码库;窗口越小,聊得越久,它就越容易忘掉开头定下的约定。
你把一篇很长的报告丢给 AI,它答到一半开始答非所问,往往不是它笨,而是报告超出了窗口,前面那段被挤出去了。这时候把资料分段、只喂最相关的部分,效果反而更好。
窗口大不等于更聪明。塞进太多无关内容,还会干扰它抓住重点。它衡量的是“一次能看多少字”,跟它能记住多久、会不会因此变聪明,是两码事。
想少踩坑,有个实用习惯:长材料宁可分段喂,或者每次开一段新对话,只带这次真正用得上的内容。把整本手册一股脑塞进去,往往不如挑出关键几页效果好。
不同的 AI 工具给的窗口大小不一样,同一个工具换了版本也可能变。选工具时,如果常要处理长文档、长代码,窗口够不够用值得留意;但它是众多指标里的一个,不必只盯着这个数字看。
Myths常见误解
- ✕以为聊得越久它记得越牢 ✓它每答一次都要重读一遍,读不下的部分就是真的丢了
- ✕以为窗口大就更聪明 ✓窗口只说明能装多少,理解得好不好是另一回事
- ✕以为东西塞得越多越好 ✓无关内容会稀释重点,问得越杂它越抓不住你要什么
In practice你会在哪用到它
- 长对话到后面它开始答非所问,多半是把前面的话挤出去了
- 处理超长报告时先分段,只喂最相关的那部分
- 重要的事另开一段新对话,比在一串里越堆越多更靠谱
Summary记住这几点就够了
- 指 AI 一次最多能读进多少文字
- 聊得越久,开头的内容越容易被挤掉
- 窗口大并不等于它就一定更聪明
- 塞太多无关内容反而会让它抓不住重点
常见问题
上下文窗口(Context Window)是什么意思?
AI 一次能读进去的文字总量,这个量有上限。它没有记性:每答一次都把前面的对话重读一遍,读不下就丢掉最早的部分。窗口大只是能装更多,不代表更聪明,塞太多无关内容反而会答偏。
上下文窗口(Context Window)一般用在什么地方?
长对话到后面它开始答非所问,多半是把前面的话挤出去了;处理超长报告时先分段,只喂最相关的那部分;重要的事另开一段新对话,比在一串里越堆越多更靠谱。
关于上下文窗口(Context Window),最容易搞错的是什么?
以为聊得越久它记得越牢,其实它每答一次都要重读一遍,读不下的部分就是真的丢了;以为窗口大就更聪明,其实窗口只说明能装多少,理解得好不好是另一回事。
上下文窗口(Context Window)要记住哪几点?
指 AI 一次最多能读进多少文字;聊得越久,开头的内容越容易被挤掉;窗口大并不等于它就一定更聪明;塞太多无关内容反而会让它抓不住重点。
容易踩的坑 聊到后面发现它忘了前面说的,多半是超出了窗口,而不是它变笨了。
全站第 8 / 186 条 · 全部词条
接着读Related reading
智能体(Agent)
一种能自己定目标、拆步骤、调用工具去完成任务的 AI 程序。你交给它一件事,它自己安排怎么做,而不是你问一句它才答一句。
LLM(大语言模型)
读过海量文字之后学会“接下一句”的超大程序。你输入的任何一句话,它都在猜后面最可能出现什么,写作、翻译、答题都是这一件事的不同用法。
嵌入(Embedding)
把一段文字换算成一串数字,让电脑能比较哪两句话意思更接近。搜索和知识库能在换了说法时也找对答案,靠的就是它。
Claude(大语言模型)
Anthropic 公司开发的大语言模型,以长文档理解和写作、写代码见长。它既是网页和手机里的聊天助手,也有专门的编程形态。
提示词(Prompt)
你发给 AI 的那段话,也就是给它的指令或提问。这一段写得好不好,直接决定它给你的答案对不对路。
MCP(模型上下文协议)
一套让 AI 能统一接上外部工具和数据的接口标准。工具按它做一次,各种 AI 助手就能直接调用,省得给每个工具单独写对接代码。