术语●○○3 分钟 · +20 XP
Context Window(上下文窗口)
上下文窗口,是 AI 能同时“记在脑子里”的文本量。
定义
Context window(上下文窗口)是模型在一次请求中能同时看到的最大文本量(以 token 计算)——你的消息、上传的文件、之前的对话,以及回答本身,全部算在一起。
一个比喻
想象一张书桌。不管你有多聪明,你只能读到桌上摆着的东西。旁边文件柜里的资料,除非你专门拿出来放到桌上,否则你看不到。上下文窗口,就是这张书桌的大小。
为什么这很重要?
如果对话或文件太长,就不可能全部塞进去。较早的消息或文件的一部分会被“挤出去”,或者需要被总结。AI 因此实际上会“忘记”它们——不是因为它笨,而是因为空间不够了。
实用建议
在长对话或大型代码库中,只分享相关片段,而不是一股脑全部塞进去,会更有效。有些 agent 会自动总结旧内容(“压缩”),以腾出空间。
示例
一个拥有 20 万 token 上下文窗口的模型,大约能同时“看到”一整本中等篇幅的书。
小测验
当一段对话超出上下文窗口时,会发生什么?
来源
- Anthropic 文档:上下文窗口 ↗ docs.anthropic.com
- OpenAI 文档:文本生成 ↗ platform.openai.com
- 维基百科:大型语言模型 ↗ zh.wikipedia.org