上下文窗口

每次请求都会被组装成一条完整的 Token 序列。如果长对话或大文档超出窗口，应用就必须截断内容、总结较早的对话，或只检索相关部分。上下文窗口已随时间显著扩大，使得在一次请求中处理整份报告或整个代码库成为可能。

为什么重要：窗口大小决定了工具能否一次分析完一份长合同、记住对话前面的内容，或处理大型代码库。更大的上下文也意味着更高的成本，因为窗口中的每个 Token 在每次请求时都按输入计费。

举例：如果把一份 300 页的报告粘贴进窗口不够大的助手，它可能只读取其中一部分，或要求你分段提交；而 RAG 系统只会检索相关章节。

局限：窗口大并不保证模型能充分利用全部内容。Liu 等人 2023 年的研究《Lost in the Middle》发现，模型可能遗漏长输入中间位置的信息，因此关键指令和事实最好清楚明确地写出。