OpenAI API上下文长度超限怎么办：输入与输出Token预算排查
直接答案
OpenAI API报context length exceeded、input too long、截断或输出不完整时，按模型上下文、真实Token、历史、工具schema、文件、输出上限、truncation与状态管理逐层定位。
症状、差异与判断依据
直接答案
先保存脱敏后的模型、端点、请求结构、各输入组件大小、输出上限、truncation设置、响应 status/incomplete details、usage和 x-request-id。用与目标模型相符的 Token 计数方式测量系统指令、历史、当前问题、工具/schema与检索内容，按当前 OpenAI Docs确认模型上下文和输出限制。优先删除重复历史、无关工具与低相关检索片段，再保留明确输出余量；长文分块/检索或使用适合的状态管理。不要通过静默裁掉最旧消息而不检查其中是否包含安全指令、用户约束和必要事实。
一、区分请求被拒绝与响应不完整
请求在处理前因总上下文超限被拒绝，通常会返回结构化 API 错误；请求被接受后，也可能因为输出预算、模型停止条件或其他原因返回 incomplete/截断状态。两者处理不同：前者缩减/重组输入，后者检查响应状态、finish/incomplete details与输出上限。 不要只判断 HTTP 200。应用必须读取 Responses API返回的顶层状态和内容项类型，拒绝、错误与不完整输出不能标记为完整答案。
二、记录所选模型的当前能力
上下文窗口、最大输出和功能支持属于具体模型能力。部署时从当前官方模型文档和账户可用配置确认，不要用模型家族名称猜。模型别名或版本切换后重新跑边界测试。 记录请求实际发送的 model值和响应模型标识（如果接口提供），避免配置层回退到另一个模型而监控仍按旧上限计算。没有官方证据时把限制标为 UNKNOWN，而不是编造数字。
三、拆分输入预算
为每次请求建立预算表：system/developer指令、用户当前输入、历史消息、工具说明与 JSON Schema、结构化输出 schema、检索片段、文件/图片和协议封装。分别计数，才能发现某个工具 schema 或重复 RAG 内容占据大部分空间。 日志只保存 Token数、字符数、条目数和内容哈希，不保存敏感正文。按组件监控高分位，避免平均值掩盖极端长请求。
四、字符数不等于Token数
中文、代码、JSON、Base64、URL和自然语言的 Token密度不同。用字符数/4之类经验只能做粗略预警，不能用于硬边界。应使用目标模型适用的 tokenizer或官方计数能力（若当前接口提供）进行估算/确认。 Tokenizer和模型版本可能更新；预算应保留安全余量，不要精确卡到理论上限。多模态输入还有各自计费/表示方式，不能只分词文字说明。
五、聊天历史是最常见增长源
每轮把完整对话重新发送，会让输入单调增长。先区分需要逐字保留的近期上下文、可压缩的旧事实、可从数据库读取的结构化状态和无关闲聊。历史摘要要记录来源与时间，重要约束不能被模糊概括。 使用 API会话/previous response等状态能力时仍需理解保留与计费边界，不能假设服务端引用让所有历史“免费且无限”。按 OpenAI Docs当前行为设计，并监控 usage。
六、工具定义和Schema可能非常大
几十个工具、冗长 description、重复枚举和深层 JSON Schema会在每次请求占用输入。只向模型提供当前任务可能使用的工具，复用简洁定义，删除可由程序验证而无需模型理解的说明。 不要为了省 Token牺牲参数语义或安全约束。用工具选择路由在请求前筛选候选，再对缩减前后做工具调用准确率回归。
七、结构化输出也要预留输出空间
复杂 JSON Schema不仅占输入，生成的对象也可能很长。数组上限、详细字段和长文本共同影响输出。为业务结果设置合理最大项数和字段长度，让分页/后续请求承载剩余内容。 响应被截断时，半个 JSON通常无法安全解析。检查不完整状态，不要用字符串补括号伪装合法；重新请求更小范围或让模型按分页游标输出。
八、RAG检索不是越多越好
把 top 50 全文片段全部放入上下文，会重复、冲突并挤压回答空间。先去重、按文档/章节合并、限制单来源占比，再用 reranker或任务相关性筛选。保留可访问来源 ID与 URL，便于引用和追溯。 对“少片段、高相关”与“大量片段”做答案正确率测试。缩减不能只看 Token节省，也要验证证据覆盖率。
九、文件与Base64会迅速膨胀
把二进制直接 Base64塞进 JSON通常显著扩大请求。优先使用 API当前支持的文件输入、URL或 file ID方式，并只上传任务需要内容。PDF可能包含文本和页面图像处理，实际输入成本不能只看文件字节。 大文档先做页级/章节级索引，按问题检索相关部分。不要把包含秘密或无关附件的整个目录上传；文件访问、保留和删除按数据政策管理。
排障步骤与验证
十、输出上限不是上下文之外的免费额度
请求要同时容纳输入和潜在输出，具体约束以模型/端点文档为准。设置很大的最大输出不能增加模型上下文，反而可能使预算冲突或成本不可控。根据任务类型设置上限，并给停止/拒绝/不完整留处理分支。 记录实际 output tokens与上限命中率。多数回答远低于上限时可调整；经常命中则应分页、拆任务或改善提示结构。
十一、推理模型要观察完整Usage
部分模型可能在可见输出之外使用 reasoning tokens，OpenAI API usage可提供相应细分（以当前模型和响应字段为准）。只统计可见文本会低估总输出/成本与预算。保存脱敏 usage字段并按模型版本聚合。 不要把内部推理内容当作可读取或可控制的普通文本。使用官方提供的 reasoning effort等参数时，按任务质量与延迟做评测，而不是仅为避免超限盲目降到最低。
十二、Truncation策略必须显式
Responses API可能提供 truncation相关选项（以当前参考为准）。自动截断能让某些超长请求继续，但可能丢掉早期关键输入。明确选择失败还是截断，并记录实际发生情况；安全和合规任务通常更适合显式失败后重组。 如果截断历史，先保留系统/开发者约束、当前任务、必要业务状态和来源，再按策略压缩旧对话。给用户可见提示说明上下文已缩减，而不是悄悄生成可能失真的答案。
十三、摘要也会积累错误
反复“摘要上一版摘要”会丢细节并固化错误。保留结构化事实表、原消息索引和摘要版本；定期从原始证据重建，而不是无限递归压缩。摘要标注未确定事项，不把推测改写成事实。 关键字段如订单 ID、金额、日期和授权范围由程序存储并注入，不依赖自然语言摘要记忆。对摘要做事实一致性测试。
十四、拆分长任务而非任意切断
长文处理可按章节 map，再用有界汇总 reduce；代码库任务按相关文件检索；批量数据按页面/游标处理。每个子任务保存输入哈希、结果、来源和错误，最终汇总只引用已完成子结果。 分块边界要有重叠或结构感知，避免把定义与例子、标题与正文分开。拆分后仍需全局一致性检查，不能把局部答案机械拼接。
十五、处理超限错误的用户体验
返回明确错误：“输入超过当前模型可处理范围”，提供可操作选择：删除附件、缩短历史、选择章节或允许受控摘要。不要显示内部堆栈或模型秘密配置，也不要自动丢数据后返回看似成功。 后台任务保留 checkpoint，用户缩减后从安全位置恢复。重复提交同一超长请求应快速命中预检，避免反复调用 API产生无效成本。
十六、建立请求前预算门禁
调用 API前计算/估算组件 Token，使用按模型版本配置的输入预算和输出预留。超过软阈值先压缩/检索，超过硬阈值拒绝并记录；配置来源和更新时间可审计。 门禁与服务端结果对比，监控估算误差。如果 API仍报告超限，保存 request ID和组件统计，调整余量，不记录原文。
十七、修复后的验收清单
覆盖短输入、接近上限、超过上限、长历史、大工具 schema、RAG重复片段、多文件、结构化长输出和推理模型。确认预检分类准确，超限不调用或安全失败，不完整响应不标完成，截断有日志和用户提示。 升级模型/SDK后重跑边界。监控 input/output/reasoning/total tokens、组件占比、超限率、截断率、不完整率、估算误差和压缩后质量。生产日志中不保存提示、文件、API Key或完整响应。
总结
OpenAI API上下文超限是完整请求预算问题，不是最后一句话长度问题。固定模型当前能力，按组件统计输入，给输出与推理留余量；减少重复历史、无关工具和低相关 RAG，长任务用检索/分块。请求前门禁与响应完整性检查同时存在，才能避免静默截断、无效重试和错误答案。
OpenAI官方资料
OpenAI API Docs：Text generation：https://platform.openai.com/docs/guides/text OpenAI API Docs：Conversation state：https://platform.openai.com/docs/guides/conversation-state OpenAI API Docs：Error codes：https://platform.openai.com/docs/guides/error-codes OpenAI API Reference：Create a model response：https://platform.openai.com/docs/api-reference/responses/create
常见问题
只统计用户最后一句够吗？
不够。系统指令、历史、工具、schema、检索与文件都可能进入输入预算。
把max output调小一定能解决超限吗？
只有总预算冲突时可能帮助；输入本身已超限仍需缩减。具体规则以所选模型当前文档为准。
自动截断是否安全？
不总是。它可能删除关键约束和事实。应显式策略、记录发生情况，并对高风险任务优先失败后重组。
为什么字符不多但Token很多？
代码、JSON、Base64、URL和不同语言分词密度不同。使用目标模型适用的 Token计数，不用固定字符比例做硬判断。
HTTP 200是否表示输出完整？
不一定。还要读取响应顶层状态、内容类型、usage和 incomplete/stop详情，拒绝与截断不能当完整答案。
官方与规范资料
OpenAI API 错误处理OpenAI 官方文档
Responses API：Create a model responseOpenAI 官方文档