AI 应用术语大白话:温度、TopK、召回、Rerank 到底是什么?调参之前先看懂这张地图
AI 应用术语 · 独立篇 | 基于 Dify 1.16.x 与通用 AI 应用实践实测(2026-09)
📖 摘要:做知识库问答、调 AI 应用参数,绕不开温度、TopP、TopK、召回、阈值、Rerank 这一串名词——每个都看得懂,凑在一起不知道先动哪个。本文把 AI 应用里最常见的术语按六个层次排成一张地图:模型旋钮怎么调(附参数取值表)、检索四道闸按什么顺序排查、Agent 与记忆、编排结构、平台形态各是什么,最后给出几组最容易混的对比和一个「太长不看」调参口诀。基于 Dify 1.16.x 实测:检索噪声从 75% 压到 0 靠的不是调参而是元数据过滤,思考模式该关就关——调参前先看懂地图,能少走一半弯路。
导读
这篇写给三类人:正在 Dify 里搭知识库、被检索参数绕晕的开发者;把 AI 应用调出「上午答对、下午答错」想找原因的工程同学;以及要给别人讲方案、但担心术语说不清的技术对接人。
阅读收益:拿到一张术语地图(六个层次之间的关系)、一份旋钮参数取值表、一套检索问题排查顺序。全程无代码,全是能直接用的大白话和实测结论。
场景:调参,是最容易把 AI 调坏的操作
先讲两个我亲手翻过的车。
第一辆:一个问答型应用,同事觉得「回答太死板」,把温度从 0.2 一路拉到 0.9。结果客户问「这个功能怎么开通」,模型开始热情地即兴发挥——把不存在的功能说得有鼻子有眼。不是模型变笨了,是它被允许「自由发挥」了。
第二辆:知识库检索不准,第一反应是把 TopK 从 10 调到 3,「少捞一点噪声就少一点」。结果噪声比例纹丝不动——因为噪声根本不是「捞太多」造成的,是没被挡住的相似内容混了进来。调小 TopK 只是少看了几条,该混进来的照样混。
两个翻车的共同点:没搞懂术语背后的作用层次就动手。参数不是旋钮堆,它们分层管不同的事。先看懂地图,再决定拧哪个。
一张地图:六个层次
#mermaid-svg-izrtnya4MSew9ASX{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-izrtnya4MSew9ASX .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-izrtnya4MSew9ASX .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-izrtnya4MSew9ASX .error-icon{fill:#552222;}#mermaid-svg-izrtnya4MSew9ASX .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-izrtnya4MSew9ASX .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-izrtnya4MSew9ASX .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-izrtnya4MSew9ASX .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-izrtnya4MSew9ASX .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-izrtnya4MSew9ASX .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-izrtnya4MSew9ASX .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-izrtnya4MSew9ASX .marker{fill:#333333;stroke:#333333;}#mermaid-svg-izrtnya4MSew9ASX .marker.cross{stroke:#333333;}#mermaid-svg-izrtnya4MSew9ASX svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-izrtnya4MSew9ASX p{margin:0;}#mermaid-svg-izrtnya4MSew9ASX .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-izrtnya4MSew9ASX .cluster-label text{fill:#333;}#mermaid-svg-izrtnya4MSew9ASX .cluster-label span{color:#333;}#mermaid-svg-izrtnya4MSew9ASX .cluster-label span p{background-color:transparent;}#mermaid-svg-izrtnya4MSew9ASX .label text,#mermaid-svg-izrtnya4MSew9ASX span{fill:#333;color:#333;}#mermaid-svg-izrtnya4MSew9ASX .node rect,#mermaid-svg-izrtnya4MSew9ASX .node circle,#mermaid-svg-izrtnya4MSew9ASX .node ellipse,#mermaid-svg-izrtnya4MSew9ASX .node polygon,#mermaid-svg-izrtnya4MSew9ASX .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-izrtnya4MSew9ASX .rough-node .label text,#mermaid-svg-izrtnya4MSew9ASX .node .label text,#mermaid-svg-izrtnya4MSew9ASX .image-shape .label,#mermaid-svg-izrtnya4MSew9ASX .icon-shape .label{text-anchor:middle;}#mermaid-svg-izrtnya4MSew9ASX .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-izrtnya4MSew9ASX .rough-node .label,#mermaid-svg-izrtnya4MSew9ASX .node .label,#mermaid-svg-izrtnya4MSew9ASX .image-shape .label,#mermaid-svg-izrtnya4MSew9ASX .icon-shape .label{text-align:center;}#mermaid-svg-izrtnya4MSew9ASX .node.clickable{cursor:pointer;}#mermaid-svg-izrtnya4MSew9ASX .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-izrtnya4MSew9ASX .arrowheadPath{fill:#333333;}#mermaid-svg-izrtnya4MSew9ASX .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-izrtnya4MSew9ASX .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-izrtnya4MSew9ASX .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-izrtnya4MSew9ASX .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-izrtnya4MSew9ASX .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-izrtnya4MSew9ASX .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-izrtnya4MSew9ASX .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-izrtnya4MSew9ASX .cluster text{fill:#333;}#mermaid-svg-izrtnya4MSew9ASX .cluster span{color:#333;}#mermaid-svg-izrtnya4MSew9ASX div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-izrtnya4MSew9ASX .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-izrtnya4MSew9ASX rect.text{fill:none;stroke-width:0;}#mermaid-svg-izrtnya4MSew9ASX .icon-shape,#mermaid-svg-izrtnya4MSew9ASX .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-izrtnya4MSew9ASX .icon-shape p,#mermaid-svg-izrtnya4MSew9ASX .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-izrtnya4MSew9ASX .icon-shape .label rect,#mermaid-svg-izrtnya4MSew9ASX .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-izrtnya4MSew9ASX .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-izrtnya4MSew9ASX .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-izrtnya4MSew9ASX :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}
第一层 · 模型旋钮:温度、TopP、长度、惩罚、停止序列
第二层 · 检索闸门:召回、TopK、阈值、过滤、Rerank
第三层 · Agent 与记忆:提示词、上下文、工具调用
第四层 · 编排结构:工作流、节点、变量
第五层 · 平台形态:数据集、模型供应商、Token
第六层 · 易混对比:温度vsTopP、TopKvs阈值、召回vsRerank
从最底层的「模型行为」到最上层的「整个应用长什么样」,调参出问题,先定位是哪一层,再动那一层的参数。
第一层:模型旋钮怎么调(附取值表)
这一层管同一个问题:模型输出有多随机、多长、多守规矩。
| 温度 Temperature | 保守、稳定、几乎每次答一样 | 发散、有惊喜也容易跑偏 | 问答/客服 0-0.3;创作 0.7-0.9 | 问答类直接压 0,配用例逐条验证 |
| TopP | 只在高概率词里选 | 允许更多低概率词 | 0.1-1.0,常用 0.7-0.9 | 和温度二选一,别同时猛拉 |
| Max Tokens | 生成短,防失控 | 支持长输出 | 按需 512-8192 | 长报告调大,短问答调小省钱 |
| 频率惩罚 | 允许重复 | 惩罚车轱辘话 | 0-1 常用 0.1-0.5 | 嫌啰嗦时调 |
| 存在惩罚 | 允许旧话题 | 逼它聊新内容 | 0-1 | 摘要/发散类 |
补充一条实操:我们交付问答类应用,温度直接压到 0,再配 18 条固定用例逐条验证——18 条全过才敢放出去。压到 0 不等于绝对不出错,但至少错误是稳定可复现的;温度高了,错都错得随机,你连复现都没法复现。
一个容易忽略的「旋钮」是思考模式:不少新模型默认先想后答。复杂推理确实更准,但纯速答场景开着它只会白等——我们实测过一类故障:AI 转圈两分钟然后给空白回答,关掉思考模式立刻恢复,单次问答从 54 秒缩到几秒。它不是越开越好的开关。
第二层:检索四道闸,按什么顺序排查
知识库问答(RAG)的检索链路,画出来是这样:
#mermaid-svg-3o13C5sXusVnNJij{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-3o13C5sXusVnNJij .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-3o13C5sXusVnNJij .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-3o13C5sXusVnNJij .error-icon{fill:#552222;}#mermaid-svg-3o13C5sXusVnNJij .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-3o13C5sXusVnNJij .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-3o13C5sXusVnNJij .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-3o13C5sXusVnNJij .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-3o13C5sXusVnNJij .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-3o13C5sXusVnNJij .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-3o13C5sXusVnNJij .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-3o13C5sXusVnNJij .marker{fill:#333333;stroke:#333333;}#mermaid-svg-3o13C5sXusVnNJij .marker.cross{stroke:#333333;}#mermaid-svg-3o13C5sXusVnNJij svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-3o13C5sXusVnNJij p{margin:0;}#mermaid-svg-3o13C5sXusVnNJij .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-3o13C5sXusVnNJij .cluster-label text{fill:#333;}#mermaid-svg-3o13C5sXusVnNJij .cluster-label span{color:#333;}#mermaid-svg-3o13C5sXusVnNJij .cluster-label span p{background-color:transparent;}#mermaid-svg-3o13C5sXusVnNJij .label text,#mermaid-svg-3o13C5sXusVnNJij span{fill:#333;color:#333;}#mermaid-svg-3o13C5sXusVnNJij .node rect,#mermaid-svg-3o13C5sXusVnNJij .node circle,#mermaid-svg-3o13C5sXusVnNJij .node ellipse,#mermaid-svg-3o13C5sXusVnNJij .node polygon,#mermaid-svg-3o13C5sXusVnNJij .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-3o13C5sXusVnNJij .rough-node .label text,#mermaid-svg-3o13C5sXusVnNJij .node .label text,#mermaid-svg-3o13C5sXusVnNJij .image-shape .label,#mermaid-svg-3o13C5sXusVnNJij .icon-shape .label{text-anchor:middle;}#mermaid-svg-3o13C5sXusVnNJij .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-3o13C5sXusVnNJij .rough-node .label,#mermaid-svg-3o13C5sXusVnNJij .node .label,#mermaid-svg-3o13C5sXusVnNJij .image-shape .label,#mermaid-svg-3o13C5sXusVnNJij .icon-shape .label{text-align:center;}#mermaid-svg-3o13C5sXusVnNJij .node.clickable{cursor:pointer;}#mermaid-svg-3o13C5sXusVnNJij .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-3o13C5sXusVnNJij .arrowheadPath{fill:#333333;}#mermaid-svg-3o13C5sXusVnNJij .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-3o13C5sXusVnNJij .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-3o13C5sXusVnNJij .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-3o13C5sXusVnNJij .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-3o13C5sXusVnNJij .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-3o13C5sXusVnNJij .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-3o13C5sXusVnNJij .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-3o13C5sXusVnNJij .cluster text{fill:#333;}#mermaid-svg-3o13C5sXusVnNJij .cluster span{color:#333;}#mermaid-svg-3o13C5sXusVnNJij div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-3o13C5sXusVnNJij .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-3o13C5sXusVnNJij rect.text{fill:none;stroke-width:0;}#mermaid-svg-3o13C5sXusVnNJij .icon-shape,#mermaid-svg-3o13C5sXusVnNJij .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-3o13C5sXusVnNJij .icon-shape p,#mermaid-svg-3o13C5sXusVnNJij .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-3o13C5sXusVnNJij .icon-shape .label rect,#mermaid-svg-3o13C5sXusVnNJij .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-3o13C5sXusVnNJij .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-3o13C5sXusVnNJij .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-3o13C5sXusVnNJij :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}
文档
分段
向量化入库
用户提问
召回候选段
TopK 限量
阈值去噪
过滤 / Rerank 精排
交给模型回答
两个容易混的参数关系先讲透:TopK 是数量上限(捞多少),阈值是质量底线(多像才算),Rerank 是精排(好答案提到最前)。三道闸各管一段,只拧一个没用。
回答不准时按这个顺序排查,而不是直接动参数:
| ① 有没有捞到 | 检索结果空/少? | 查分段质量、看是否该上混合检索 |
| ② 捞的是不是对的 | 结果相关但排序乱? | 上 Rerank 精排 |
| ③ 噪声是不是混进来了 | 相似内容串台(问 A 答 B)? | 加元数据过滤,不是调 TopK |
| ④ 是不是真没相关内容 | 库里就没有? | 补文档,别指望参数 |
举个实测:一个大文档知识库,初步结果里 75% 是噪声——问 A 产品线,B 产品线的相似章节也被捞上来。把 TopK 调小、阈值调高都没用,因为噪声不是「多」出来的,是没被挡住的。真正的解法是入库时给每段打产品线标签、查询时先按标签圈定范围再检索——一道规则闸门,噪声从 75% 直接压到 0。(完整排查过程在门户:检索噪声 75% 降到 0 的确定性闸门,有需要可深挖。)
第三层到第五层:快速速查
这三层名词多但关系直白,一张表过完:
| 系统提示词 | 给模型的岗位说明书——最值钱的配置,没有之一 |
| 上下文窗口 | 模型一次能看见的总量,超了会忘 |
| 记忆 | 多轮对话里记得前面聊过什么 |
| 工具调用 | 模型申请调外部能力,系统执行——不是模型自己会 |
| 幻觉 | 没依据也敢一本正经地编——RAG 就是给它依据 |
| 工作流 / 对话流 | 把步骤画成流程图 / 面向多轮对话的流程图 |
| 节点 / 变量 | 流程里的一步 / 步骤间传的数据 |
| DSL | 工作流的「源代码」,导出导入靠它 |
| 数据集 | 平台里「知识库」的正式叫法(一个库=文档切片+向量索引) |
| 模型供应商 | 模型来源方,平台是插座,换模型不换应用 |
| Token | 计费与容量单位,约 1 个汉字≈1.5-2 token |
| 索引方式 | 建库选「高质量(向量,准但费钱)」还是「经济(关键词,快但糙)」 |
编排层一条设计经验值得记住:能确定的用流程写死,不能确定的才交给模型。把路由、判断、格式全交给模型自由发挥,就是「上午答对、下午答错」的根源。
容易混的几对 + 太长不看
| 温度 vs TopP | 温度=整体敢不敢发散;TopP=只在高概率里挑。都管随机性,机制不同,一般只动一个 |
| TopK vs 阈值 | TopK=最多捞 N 条(防漏);阈值=不够像不要(防噪)。一条管上限,一条管底线 |
| 召回 vs Rerank | 召回=便宜快速多捞(粗选);Rerank=聪明但贵地精排(精选)。先粗后精成本才可控 |
| 向量检索 vs 全文检索 | 向量找意思像的(跨词面),全文找字面有的(精确术语)——混合检索最好 |
| 知识库检索 vs 联网搜索 | 查你自己的文档 vs 查全网——可信度完全不同,直接决定你敢不敢对回答负责 |
调参口诀(太长不看版):
常见问题
给 AI 问答应用调参,先动温度还是 TopP?
先动温度。问答类压到 0-0.3 效果最可预期;TopP 和温度机制不同,常规场景动一个就够,两个一起猛拉容易把模型调「飘」。
知识库回答不准,先调 TopK、阈值还是 Rerank?
先别急着调参。先分清是「没捞到」(查分段、上混合检索)还是「捞到但捞错」(上 Rerank)还是「噪声混进来」(加元数据过滤)——我们实测 75% 的检索噪声是靠过滤压到 0 的,不是靠调参。
RAG 和微调什么关系?
RAG 是检索现成文档给模型当依据,适合文档量大、答案有标准口径的场景,改文档只改库;微调是把能力训练进模型,成本高、更新慢。绝大多数企业问答先做 RAG,拿检索能解决的,不值得花钱训练。
💬 你调参翻过最冤的一次车是什么?评论区聊聊,我拿真实案例接着写。
📚 更多实战记录见我的博客:鱼日先生
本文基于 Dify 1.16.x 与通用 AI 应用实践实测(2026-09),平台版本演进后以新版为准。AI 参与创作声明:本文由 AI 辅助写作,内容基于作者真实实测记录。





