a2.5概念⏱ 约 7 分钟
喂料的艺术:上下文工程
同一个小雅,喂得巧 vs 喂得糙,效果天差地别
🔎 最后验证 2026-06📚 来源:🧰 扣子 Coze✅ 21 人学过👁 56 次阅读
为什么学这个
你可能遇到过:小雅有时答非所问、啰嗦、还又慢又贵。第一反应是"模型不行"?
八成不是模型的锅,是你喂给它的那盘"料"出了问题。
小雅每次回答,吃的是一盘菜:系统提示 + 检索到的资料 + 对话历史。这盘菜配得好不好,直接决定它答得准不准。这一节学的,就是配这盘菜的手艺——上下文工程。学完,你调出来的小雅又准又省。
小雅每次"吃"进去的是什么?
它那块白板上,通常拼着这几样:
| 成分 | 是什么 | 谁提供 |
|---|---|---|
| 🧭 系统提示 | 它是谁、规则、工作守则 | 你写的人设 |
| 📚 检索资料 | RAG 捞出来的相关片段 | 知识库 |
| 💬 对话历史 | 这轮之前说过的话 | 自动带上 |
| 🔧 工具结果 | 刚调用工具拿到的返回 | 运行时 |
上下文工程,就是决定这盘菜:放哪几样、各放多少、怎么排序、放不下时砍谁。
💡 打个比方
就像给专家做简报:
- 糟糕的简报:把一卡车文件全倒给他,"你自己翻吧"——他又累又抓不住重点。
- 高手的简报:只挑关键几页、按重要性排好、一页纸讲清——专家三秒进入状态。
给小雅喂料,是一模一样的道理。垃圾进,垃圾出。
🧭系统提示
它是谁、规则
📚检索资料
RAG 捞到的相关片段
💬对话历史
必要的上文(可摘要)
🍳拼成上下文
喂给模型 → 回答
上下文工程:把对的几样、按对的比例,拼成喂给模型的一盘菜
三条立竿见影的喂料原则
- 只放相关的,别贪多:RAG 召回不是越多越好。捞 20 段里有 18 段是噪声,反而把小雅带偏。精准的 3 段,胜过模糊的 20 段。
- 重要的放两头:模型对长上下文的"中间部分"容易走神(业内叫"迷失在中间",不同模型程度不同、新模型已有改善,但作为习惯仍值得这么放)。所以最关键的指令/资料,放在开头或结尾,别埋在中间。
- 历史太长就摘要:对话越滚越长,别原样全带,压缩成要点再带上——省钱、提速、还更聚焦。
❓ 测验
小雅的 RAG 召回设成「每次捞回最相关的 20 段」,结果回答反而变差了,最可能的原因?
✏️ 填空
因为模型对长上下文的中间部分容易走神,所以最重要的内容要放在开头或 ___。
🙌 动手:把小雅的"召回"调精准
- 打开小雅关联的知识库设置,找到召回 / 检索相关参数(如"召回条数""相关度阈值",名称以平台为准)。
- 先把召回条数调得很大(如 15–20),问一个问题,感受它是否变啰嗦/跑偏。
- 再调回少而精(如 3–5 条)+ 提高相关度阈值,问同样的问题。
- 对比两次——你会体会到"喂少而准"往往比"喂多而杂"答得更好。
✅ 学完这步,你不只是"会用"小雅,而是会调教它了——这正是新手和高手的分水岭。
⚠️ 避坑「塞得越多越好」是最大的错觉
很多人觉得:把所有资料、所有历史全喂进去,它信息最全、答得最好。恰恰相反。
上下文越长:① 越贵(按量计费)② 越慢 ③ 模型越容易"迷失在中间"、抓不住重点。克制地喂、喂对位置,几乎总是更好。 记住四个字:少而精。
🤖 给小雅设计一套「喂料策略」
我有一个带知识库的 AI 助手。请帮我设计它的『上下文喂料策略』:系统提示放什么、RAG 召回几段合适、对话历史怎么处理(什么时候摘要)、最重要的信息放在什么位置。给出可操作的建议。
✅ 小结
现在你掌握了一门很值钱的手艺——上下文工程:少而精、要点放两头、历史会摘要。同样的模型和资料,喂得巧,小雅就又准又省。
到这里,这一章的四块拼图都齐了:你懂了它为什么会忘(上下文窗口)、给它装了记忆、教它读你的资料(RAG)、还学会了喂对料。
下一节是本章的收官里程碑——我们把这些全部合体,做一个记得你、又读得懂你资料的"学习搭子"小雅。你会真切感到:它,开始懂你了。
下一节 → 里程碑:做一个「懂你」的私人知识助理

都看到这了,打个赏呗!
接下来 · a2.6
里程碑:做一个「懂你」的学习搭子
继续读下一节 →