事情的起因很蠢：我想让模型帮我整理一份几十万字的访谈记录，一股脑全贴进去，模型吭哧吭哧输出到一半，戛然而止。重试两次，还是一样。查了半天才明白，不是我提示词写得烂，是"上下文窗口"这个硬上限卡住了我。这篇就是那次翻车换来的清单。
先搞懂三个基本概念#
- Token：模型"阅读"的最小单位，不是字也不是词。粗略估算，英文约 4 个字符折 1 个 token，中文约 1 到 2 个汉字折 1 个 token，具体看分词器。
- 上下文窗口：一次对话里模型能"记住"的 token 总量上限，输入和输出都算在里面。窗口满了，最早的内容就会被挤出去，模型就"失忆"了。
- 输出上限：很多模型输入窗口很大，但单次输出有单独上限。输入 100 万 token，不代表一次能吐 100 万字。
选模型时真正要看的清单#
- 窗口标称值：2025 年主流水平大概是这样——GPT-4o 系列 12.8 万 token，Claude 系列 20 万 token（部分版本提供 100 万 token 的测试选项），Gemini 系列最高到 100 万 token，国产的 DeepSeek、Kimi、Qwen 也都在几万到几十万 token 量级。数字越大，能一次性喂的资料越多。
- 长上下文是否"注水"：窗口大不等于记得牢。有些模型窗口标 100 万，实际超过 20 万就开始胡说八道。看第三方长文本评测（比如"大海捞针"测试）的成绩，比看宣传数字靠谱。
- 输出上限够不够：要让模型写长文、做大篇幅整理，先看单次输出上限。输入窗口 100 万、输出只给几千 token 的模型，干不了长输出的活。
- 价格按 token 算：窗口越大、模型越强，API 价格通常越高。日常聊天用小窗口便宜模型就行，别拿高射炮打蚊子。
- 你的场景到底需要多大：翻译一篇论文、整理会议纪要，几万 token 绰绰有余；要啃整本书、做跨文档检索，才需要 10 万 token 以上的窗口。先估算自己的资料量，再选模型，别为用不上的窗口付费。
我踩过的几个坑，列出来给你避#
- 坑一：把全文塞进去指望一次搞定。正确姿势是分块处理：先让模型给每章提摘要，再基于摘要做总纲，效果反而更好。
- 坑二：以为窗口大就不用做提示词优化。窗口再大，塞一堆无关内容进去，模型注意力也会被稀释，关键信息反而答不准。
- 坑三：忽略"记忆"是按对话算的。新开一个对话，之前的上下文就清零了。重要结论及时让模型总结存档，别指望它一直记得。
- 坑四：中英文混排时 token 消耗超预期。中文资料比你想象的更"占地方"，估算用量时留点余量。
一句话总结#
上下文窗口就是模型的"工作台面"，台面越大，能同时摊开的资料越多。但台面大不代表手艺好，选模型时窗口、输出上限、长文本实测成绩、价格四个一起看，别只盯着一个数字。
如果你还在纠结要不要为更大的模型付费，可以看看这篇 ChatGPT Plus 值不值 的算账思路；写代码场景的选型可以参考 Copilot 和 Cursor 怎么选；做演示文稿的话，Gamma 的 AI 生成 PPT 指南里也有长文档输入的实战经验。
实战：我的分块处理工作流#
翻车之后，我总结出一套处理长文档的标准流程，现在啃几十万字的资料都是这么干的，分享出来：
第一步：切分。 按章节或按固定字数（比如每 2 万字一块）把文档切开。切的时候注意别在句子中间拦腰截断，留一点上下文重叠，模型接得更顺。
第二步：逐块摘要。 让模型给每一块生成结构化摘要：核心观点 3 条、关键数据、待确认的疑问点。摘要阶段用便宜、窗口够用的模型就行，别浪费贵的。
第三步：摘要的摘要。 把所有块的摘要拼在一起（这时候体量已经小了一个数量级），让模型做总纲、找矛盾点、列时间线。这一步才上强模型，钱花在刀刃上。
第四步：回查原文。 总纲里任何关键结论，都让模型指出"出自第几块原文"，人工抽查核对。AI 总结长文时编造细节的概率不低，这一步不能省。
这套流程还有个好处：中途断了不心疼，每一块的摘要都是阶段性成果。不像一开始那样，一次失败就前功尽弃。
给不同人的选型建议#
- 学生党：免费模型的窗口基本够用，Kimi、DeepSeek 的长文本表现对付论文和课件绰绰有余，参考学生党 AI 工具推荐。
- 职场人：经常要啃行业报告、合同，选个窗口大、输出稳定的付费模型，效率提升值回票价。
- 开发者：读代码仓库用长上下文模型一口气看多个文件，配合站内的 Copilot 和 Cursor 选型指南里的工具链，效果翻倍。
记住：窗口是工具，不是目的。先想清楚你要解决什么问题，再选多大的台面。