上下文窗口

什么是上下文窗口

上下文窗口（Context Window）指大语言模型在单次对话中能同时处理的输入与输出 token 总数上限。通俗说：它是模型的"工作记忆"——一次问答里放得下的材料、历史对话和生成内容的总量。

为什么重要

上下文窗口直接决定两类能力：一是单次任务能塞进多少材料（比如一次读完整份论文、整份合同）；二是对话能记住多久的历史（上下文越长，聊到后面越不容易忘前面）。长文档处理、Agent 多轮任务、代码仓库理解都依赖大窗口。

常见误区

• 窗口大 ≠ 理解好：模型对长窗口中间部分的注意力仍可能衰减，窗口越大、内容越长，越要注意信息放置位置。
• 窗口按 token 计，不是按字数：中文一字常对应多个 token，同样的字量占用窗口不同。
• 输出也占窗口：生成内容与输入共享同一个窗口，输入太长会压缩可生成的长度。

使用技巧

1. 关键信息前置：把最重要的内容放在开头和结尾，中间部分容易注意力衰减。
2. 长文档分段：超长材料先分段处理或摘要，再合并提问，比一次全塞更稳。
3. 注意剩余窗口：输入过长时先确认还能生成多少，避免"前面能读、后面写不动"。

小结

上下文窗口是衡量大模型能力的基础指标之一：窗口越大，单次能处理的任务越重。但它不等于全部能力，理解质量与信息放置同样重要。具体窗口大小因模型而异，使用前先查当前模型的说明。