你可能会说
这个 AI 功能涉及到上下文窗口,帮我理解一下然后集成进去。
AI 一次对话中能「记住」的最大文字量。
AI 一次对话中能「记住」的最大文字量。超出这个窗口的内容,AI 就「忘了」。不同模型窗口大小不同(4K~200K Token)。
生活类比
像人的短期记忆——刚听到的电话号码能记住,但一小时前说的早就忘了。窗口越大,记性越好。
🎮 动手试试
关于「上下文窗口」,以下哪个描述最准确?
你可以这样告诉 AI
我要分析一份3万字的合同,帮我看看哪个模型的上下文窗口够大,不会被截断,顺便告诉我怎么分批投喂最稳妥。
上下文窗口是模型一次能「看到」的文字量上限(记忆力),模型本身是理解和生成文字的能力(智力)。
长文档处理
需要 AI 分析整本书或长报告时,要选大窗口模型(如 200K),否则内容会被截断丢失关键信息。
和 AI 协作时
想让 AI 重构一个复杂模块,先把相关代码文件都贴给它,确保在窗口内,然后说「基于以上代码,帮我重构 user 模块」。
短问答场景
只问「这段代码什么意思」这类单次简短问题,不需要关心窗口大小,随便一个模型都够用。
离线批处理任务
用脚本批量处理文件、跑自动化测试等不涉及实时 AI 对话的项目,完全不用关心上下文窗口。
AI 一次对话中能「记住」的最大文字量。超出这个窗口的内容,AI 就「忘了」。不同模型窗口大小不同(
像人的短期记忆——刚听到的电话号码能记住,但一小时前说的早就忘了。窗口越大,记性越好。
聊了很久后 AI 开始「忘事」,就是上下文窗口满了。