欢迎光临
我们一直在努力

AI 应用术语大白话:温度、TopK、召回、Rerank 到底是什么?调参之前先看懂这张地图

AI 应用术语大白话:温度、TopK、召回、Rerank 到底是什么?调参之前先看懂这张地图

AI 应用术语 · 独立篇 | 基于 Dify 1.16.x 与通用 AI 应用实践实测(2026-09)

📖 摘要:做知识库问答、调 AI 应用参数,绕不开温度、TopP、TopK、召回、阈值、Rerank 这一串名词——每个都看得懂,凑在一起不知道先动哪个。本文把 AI 应用里最常见的术语按六个层次排成一张地图:模型旋钮怎么调(附参数取值表)、检索四道闸按什么顺序排查、Agent 与记忆、编排结构、平台形态各是什么,最后给出几组最容易混的对比和一个「太长不看」调参口诀。基于 Dify 1.16.x 实测:检索噪声从 75% 压到 0 靠的不是调参而是元数据过滤,思考模式该关就关——调参前先看懂地图,能少走一半弯路。

导读

这篇写给三类人:正在 Dify 里搭知识库、被检索参数绕晕的开发者;把 AI 应用调出「上午答对、下午答错」想找原因的工程同学;以及要给别人讲方案、但担心术语说不清的技术对接人。

阅读收益:拿到一张术语地图(六个层次之间的关系)、一份旋钮参数取值表、一套检索问题排查顺序。全程无代码,全是能直接用的大白话和实测结论。

场景:调参,是最容易把 AI 调坏的操作

先讲两个我亲手翻过的车。

第一辆:一个问答型应用,同事觉得「回答太死板」,把温度从 0.2 一路拉到 0.9。结果客户问「这个功能怎么开通」,模型开始热情地即兴发挥——把不存在的功能说得有鼻子有眼。不是模型变笨了,是它被允许「自由发挥」了。

第二辆:知识库检索不准,第一反应是把 TopK 从 10 调到 3,「少捞一点噪声就少一点」。结果噪声比例纹丝不动——因为噪声根本不是「捞太多」造成的,是没被挡住的相似内容混了进来。调小 TopK 只是少看了几条,该混进来的照样混。

两个翻车的共同点:没搞懂术语背后的作用层次就动手。参数不是旋钮堆,它们分层管不同的事。先看懂地图,再决定拧哪个。

一张地图:六个层次

#mermaid-svg-izrtnya4MSew9ASX{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-izrtnya4MSew9ASX .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-izrtnya4MSew9ASX .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-izrtnya4MSew9ASX .error-icon{fill:#552222;}#mermaid-svg-izrtnya4MSew9ASX .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-izrtnya4MSew9ASX .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-izrtnya4MSew9ASX .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-izrtnya4MSew9ASX .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-izrtnya4MSew9ASX .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-izrtnya4MSew9ASX .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-izrtnya4MSew9ASX .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-izrtnya4MSew9ASX .marker{fill:#333333;stroke:#333333;}#mermaid-svg-izrtnya4MSew9ASX .marker.cross{stroke:#333333;}#mermaid-svg-izrtnya4MSew9ASX svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-izrtnya4MSew9ASX p{margin:0;}#mermaid-svg-izrtnya4MSew9ASX .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-izrtnya4MSew9ASX .cluster-label text{fill:#333;}#mermaid-svg-izrtnya4MSew9ASX .cluster-label span{color:#333;}#mermaid-svg-izrtnya4MSew9ASX .cluster-label span p{background-color:transparent;}#mermaid-svg-izrtnya4MSew9ASX .label text,#mermaid-svg-izrtnya4MSew9ASX span{fill:#333;color:#333;}#mermaid-svg-izrtnya4MSew9ASX .node rect,#mermaid-svg-izrtnya4MSew9ASX .node circle,#mermaid-svg-izrtnya4MSew9ASX .node ellipse,#mermaid-svg-izrtnya4MSew9ASX .node polygon,#mermaid-svg-izrtnya4MSew9ASX .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-izrtnya4MSew9ASX .rough-node .label text,#mermaid-svg-izrtnya4MSew9ASX .node .label text,#mermaid-svg-izrtnya4MSew9ASX .image-shape .label,#mermaid-svg-izrtnya4MSew9ASX .icon-shape .label{text-anchor:middle;}#mermaid-svg-izrtnya4MSew9ASX .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-izrtnya4MSew9ASX .rough-node .label,#mermaid-svg-izrtnya4MSew9ASX .node .label,#mermaid-svg-izrtnya4MSew9ASX .image-shape .label,#mermaid-svg-izrtnya4MSew9ASX .icon-shape .label{text-align:center;}#mermaid-svg-izrtnya4MSew9ASX .node.clickable{cursor:pointer;}#mermaid-svg-izrtnya4MSew9ASX .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-izrtnya4MSew9ASX .arrowheadPath{fill:#333333;}#mermaid-svg-izrtnya4MSew9ASX .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-izrtnya4MSew9ASX .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-izrtnya4MSew9ASX .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-izrtnya4MSew9ASX .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-izrtnya4MSew9ASX .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-izrtnya4MSew9ASX .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-izrtnya4MSew9ASX .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-izrtnya4MSew9ASX .cluster text{fill:#333;}#mermaid-svg-izrtnya4MSew9ASX .cluster span{color:#333;}#mermaid-svg-izrtnya4MSew9ASX div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-izrtnya4MSew9ASX .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-izrtnya4MSew9ASX rect.text{fill:none;stroke-width:0;}#mermaid-svg-izrtnya4MSew9ASX .icon-shape,#mermaid-svg-izrtnya4MSew9ASX .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-izrtnya4MSew9ASX .icon-shape p,#mermaid-svg-izrtnya4MSew9ASX .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-izrtnya4MSew9ASX .icon-shape .label rect,#mermaid-svg-izrtnya4MSew9ASX .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-izrtnya4MSew9ASX .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-izrtnya4MSew9ASX .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-izrtnya4MSew9ASX :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

第一层 · 模型旋钮:温度、TopP、长度、惩罚、停止序列

第二层 · 检索闸门:召回、TopK、阈值、过滤、Rerank

第三层 · Agent 与记忆:提示词、上下文、工具调用

第四层 · 编排结构:工作流、节点、变量

第五层 · 平台形态:数据集、模型供应商、Token

第六层 · 易混对比:温度vsTopP、TopKvs阈值、召回vsRerank

从最底层的「模型行为」到最上层的「整个应用长什么样」,调参出问题,先定位是哪一层,再动那一层的参数。

第一层:模型旋钮怎么调(附取值表)

这一层管同一个问题:模型输出有多随机、多长、多守规矩。

旋钮调低调高常见取值典型场景
温度 Temperature 保守、稳定、几乎每次答一样 发散、有惊喜也容易跑偏 问答/客服 0-0.3;创作 0.7-0.9 问答类直接压 0,配用例逐条验证
TopP 只在高概率词里选 允许更多低概率词 0.1-1.0,常用 0.7-0.9 和温度二选一,别同时猛拉
Max Tokens 生成短,防失控 支持长输出 按需 512-8192 长报告调大,短问答调小省钱
频率惩罚 允许重复 惩罚车轱辘话 0-1 常用 0.1-0.5 嫌啰嗦时调
存在惩罚 允许旧话题 逼它聊新内容 0-1 摘要/发散类

补充一条实操:我们交付问答类应用,温度直接压到 0,再配 18 条固定用例逐条验证——18 条全过才敢放出去。压到 0 不等于绝对不出错,但至少错误是稳定可复现的;温度高了,错都错得随机,你连复现都没法复现。

一个容易忽略的「旋钮」是思考模式:不少新模型默认先想后答。复杂推理确实更准,但纯速答场景开着它只会白等——我们实测过一类故障:AI 转圈两分钟然后给空白回答,关掉思考模式立刻恢复,单次问答从 54 秒缩到几秒。它不是越开越好的开关。

第二层:检索四道闸,按什么顺序排查

知识库问答(RAG)的检索链路,画出来是这样:

#mermaid-svg-3o13C5sXusVnNJij{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-3o13C5sXusVnNJij .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-3o13C5sXusVnNJij .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-3o13C5sXusVnNJij .error-icon{fill:#552222;}#mermaid-svg-3o13C5sXusVnNJij .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-3o13C5sXusVnNJij .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-3o13C5sXusVnNJij .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-3o13C5sXusVnNJij .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-3o13C5sXusVnNJij .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-3o13C5sXusVnNJij .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-3o13C5sXusVnNJij .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-3o13C5sXusVnNJij .marker{fill:#333333;stroke:#333333;}#mermaid-svg-3o13C5sXusVnNJij .marker.cross{stroke:#333333;}#mermaid-svg-3o13C5sXusVnNJij svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-3o13C5sXusVnNJij p{margin:0;}#mermaid-svg-3o13C5sXusVnNJij .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-3o13C5sXusVnNJij .cluster-label text{fill:#333;}#mermaid-svg-3o13C5sXusVnNJij .cluster-label span{color:#333;}#mermaid-svg-3o13C5sXusVnNJij .cluster-label span p{background-color:transparent;}#mermaid-svg-3o13C5sXusVnNJij .label text,#mermaid-svg-3o13C5sXusVnNJij span{fill:#333;color:#333;}#mermaid-svg-3o13C5sXusVnNJij .node rect,#mermaid-svg-3o13C5sXusVnNJij .node circle,#mermaid-svg-3o13C5sXusVnNJij .node ellipse,#mermaid-svg-3o13C5sXusVnNJij .node polygon,#mermaid-svg-3o13C5sXusVnNJij .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-3o13C5sXusVnNJij .rough-node .label text,#mermaid-svg-3o13C5sXusVnNJij .node .label text,#mermaid-svg-3o13C5sXusVnNJij .image-shape .label,#mermaid-svg-3o13C5sXusVnNJij .icon-shape .label{text-anchor:middle;}#mermaid-svg-3o13C5sXusVnNJij .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-3o13C5sXusVnNJij .rough-node .label,#mermaid-svg-3o13C5sXusVnNJij .node .label,#mermaid-svg-3o13C5sXusVnNJij .image-shape .label,#mermaid-svg-3o13C5sXusVnNJij .icon-shape .label{text-align:center;}#mermaid-svg-3o13C5sXusVnNJij .node.clickable{cursor:pointer;}#mermaid-svg-3o13C5sXusVnNJij .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-3o13C5sXusVnNJij .arrowheadPath{fill:#333333;}#mermaid-svg-3o13C5sXusVnNJij .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-3o13C5sXusVnNJij .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-3o13C5sXusVnNJij .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-3o13C5sXusVnNJij .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-3o13C5sXusVnNJij .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-3o13C5sXusVnNJij .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-3o13C5sXusVnNJij .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-3o13C5sXusVnNJij .cluster text{fill:#333;}#mermaid-svg-3o13C5sXusVnNJij .cluster span{color:#333;}#mermaid-svg-3o13C5sXusVnNJij div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-3o13C5sXusVnNJij .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-3o13C5sXusVnNJij rect.text{fill:none;stroke-width:0;}#mermaid-svg-3o13C5sXusVnNJij .icon-shape,#mermaid-svg-3o13C5sXusVnNJij .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-3o13C5sXusVnNJij .icon-shape p,#mermaid-svg-3o13C5sXusVnNJij .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-3o13C5sXusVnNJij .icon-shape .label rect,#mermaid-svg-3o13C5sXusVnNJij .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-3o13C5sXusVnNJij .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-3o13C5sXusVnNJij .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-3o13C5sXusVnNJij :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

文档

分段

向量化入库

用户提问

召回候选段

TopK 限量

阈值去噪

过滤 / Rerank 精排

交给模型回答

两个容易混的参数关系先讲透:TopK 是数量上限(捞多少),阈值是质量底线(多像才算),Rerank 是精排(好答案提到最前)。三道闸各管一段,只拧一个没用。

回答不准时按这个顺序排查,而不是直接动参数:

排查步骤看什么怎么修
① 有没有捞到 检索结果空/少? 查分段质量、看是否该上混合检索
② 捞的是不是对的 结果相关但排序乱? 上 Rerank 精排
③ 噪声是不是混进来了 相似内容串台(问 A 答 B)? 加元数据过滤,不是调 TopK
④ 是不是真没相关内容 库里就没有? 补文档,别指望参数

举个实测:一个大文档知识库,初步结果里 75% 是噪声——问 A 产品线,B 产品线的相似章节也被捞上来。把 TopK 调小、阈值调高都没用,因为噪声不是「多」出来的,是没被挡住的。真正的解法是入库时给每段打产品线标签、查询时先按标签圈定范围再检索——一道规则闸门,噪声从 75% 直接压到 0。(完整排查过程在门户:检索噪声 75% 降到 0 的确定性闸门,有需要可深挖。)

第三层到第五层:快速速查

这三层名词多但关系直白,一张表过完:

术语一句话
系统提示词 给模型的岗位说明书——最值钱的配置,没有之一
上下文窗口 模型一次能看见的总量,超了会忘
记忆 多轮对话里记得前面聊过什么
工具调用 模型申请调外部能力,系统执行——不是模型自己会
幻觉 没依据也敢一本正经地编——RAG 就是给它依据
工作流 / 对话流 把步骤画成流程图 / 面向多轮对话的流程图
节点 / 变量 流程里的一步 / 步骤间传的数据
DSL 工作流的「源代码」,导出导入靠它
数据集 平台里「知识库」的正式叫法(一个库=文档切片+向量索引)
模型供应商 模型来源方,平台是插座,换模型不换应用
Token 计费与容量单位,约 1 个汉字≈1.5-2 token
索引方式 建库选「高质量(向量,准但费钱)」还是「经济(关键词,快但糙)」

编排层一条设计经验值得记住:能确定的用流程写死,不能确定的才交给模型。把路由、判断、格式全交给模型自由发挥,就是「上午答对、下午答错」的根源。

容易混的几对 + 太长不看

对比一句话区别
温度 vs TopP 温度=整体敢不敢发散;TopP=只在高概率里挑。都管随机性,机制不同,一般只动一个
TopK vs 阈值 TopK=最多捞 N 条(防漏);阈值=不够像不要(防噪)。一条管上限,一条管底线
召回 vs Rerank 召回=便宜快速多捞(粗选);Rerank=聪明但贵地精排(精选)。先粗后精成本才可控
向量检索 vs 全文检索 向量找意思像的(跨词面),全文找字面有的(精确术语)——混合检索最好
知识库检索 vs 联网搜索 查你自己的文档 vs 查全网——可信度完全不同,直接决定你敢不敢对回答负责

调参口诀(太长不看版):

  • 问答求稳:温度压 0,TopP 别动;
  • 回答不准:先查分段,再看过滤,参数最后动;
  • 噪声串台:元数据过滤优先于调 TopK;
  • 转圈/空白:先试关思考模式,再谈别的。
  • 常见问题

    给 AI 问答应用调参,先动温度还是 TopP?

    先动温度。问答类压到 0-0.3 效果最可预期;TopP 和温度机制不同,常规场景动一个就够,两个一起猛拉容易把模型调「飘」。

    知识库回答不准,先调 TopK、阈值还是 Rerank?

    先别急着调参。先分清是「没捞到」(查分段、上混合检索)还是「捞到但捞错」(上 Rerank)还是「噪声混进来」(加元数据过滤)——我们实测 75% 的检索噪声是靠过滤压到 0 的,不是靠调参。

    RAG 和微调什么关系?

    RAG 是检索现成文档给模型当依据,适合文档量大、答案有标准口径的场景,改文档只改库;微调是把能力训练进模型,成本高、更新慢。绝大多数企业问答先做 RAG,拿检索能解决的,不值得花钱训练。

    💬 你调参翻过最冤的一次车是什么?评论区聊聊,我拿真实案例接着写。

    📚 更多实战记录见我的博客:鱼日先生

    本文基于 Dify 1.16.x 与通用 AI 应用实践实测(2026-09),平台版本演进后以新版为准。AI 参与创作声明:本文由 AI 辅助写作,内容基于作者真实实测记录。

    赞(0)
    未经允许不得转载:171主机测评 » AI 应用术语大白话:温度、TopK、召回、Rerank 到底是什么?调参之前先看懂这张地图
    分享到: 更多 (0)

    评论 抢沙发

    • 昵称 (必填)
    • 邮箱 (必填)
    • 网址