promptgarden 🌱
🌍 DE
术语●○○3 分钟 · +20 XP

Context Window(上下文窗口)

上下文窗口,是 AI 能同时“记在脑子里”的文本量。

定义

Context window(上下文窗口)是模型在一次请求中能同时看到的最大文本量(以 token 计算)——你的消息、上传的文件、之前的对话,以及回答本身,全部算在一起。

一个比喻

想象一张书桌。不管你有多聪明,你只能读到桌上摆着的东西。旁边文件柜里的资料,除非你专门拿出来放到桌上,否则你看不到。上下文窗口,就是这张书桌的大小。

为什么这很重要?

如果对话或文件太长,就不可能全部塞进去。较早的消息或文件的一部分会被“挤出去”,或者需要被总结。AI 因此实际上会“忘记”它们——不是因为它笨,而是因为空间不够了。

实用建议

在长对话或大型代码库中,只分享相关片段,而不是一股脑全部塞进去,会更有效。有些 agent 会自动总结旧内容(“压缩”),以腾出空间。

示例

一个拥有 20 万 token 上下文窗口的模型,大约能同时“看到”一整本中等篇幅的书。

小测验

当一段对话超出上下文窗口时,会发生什么?

来源

相关主题

Token——为什么它们要花钱 ●○○什么是 LLM? ●○○Agent loop:思考 → 行动 → 检查 → 重复 ●●○