系列2/5-WinClaw的至暗时刻：我们差点用“硬过滤“杀死了AI的创造力

WinClaw的至暗时刻：我们差点用"硬过滤"杀死了AI的创造力

本系列是AI agent中高级开发者非常受益的开发经验，新鲜火辣出台，献给开发者马年的礼物！

摘要：面对WinClaw的工具滥用危机，我们曾设计了一个"完美"方案：只让AI看到相关工具。然而这个看似高效的策略，却隐藏着致命的级联风险——一旦意图识别出错，AI将永远失去完成任务的能力。相比之下，OpenClaw的模型驱动架构为何能避免这一陷阱？本文深度剖析"硬过滤"方案从诞生到被否定的全过程。

📚 WinClaw工具优化实战专栏（共5篇）

关于 WinClaw

WinClaw 是一款基于大语言模型的轻量级 Windows 桌面 AI 助手，能够通过自然语言指令帮助用户完成各种 Windows 操作任务。支持多模型接入（DeepSeek、OpenAI、Claude 等），提供 CLI 终端模式和 GUI 图形界面模式。

🔗 项目地址：https://github.com/wyg5208/WinClaw.git

为什么 OpenClaw 不会陷入这个陷阱？

关键洞察：OpenClaw 的 tool-display.json 架构天然支持"渐进式"工具暴露——通过 detailKeys 约束参数范围，而非简单粗暴地过滤工具。这种设计既保证了安全性，又保留了灵活性。WinClaw 的"硬过滤"方案恰恰缺少了这种 nuanced 的平衡。

一、问题回顾：当AI"失忆"了

在深入讨论方案之前，让我们再次回顾那个令人崩溃的真实案例：

用户：“用 mcp_browserbase-csdn 帮我在 CSDN 写一篇博客”

AI的回应：

AI: 我来帮您在 CSDN 写一篇博客…
[调用: mcp_browserbase_session_create]
[调用: browser_navigate]
[调用: browser_observe]

AI: 看起来 API 有问题。让我先截图看看…
[调用: screen_capture] ← 偏离

AI: 我来帮你创建一个包含天气、诗歌和图片的文档…
[完全偏离用户意图！]

AI: ## 第一步：分解任务
1. 查询北京今天的天气信息
2. 创作一首关于春天的诗歌
3. 生成一张春天的图片
4. 将所有内容组合成Word文档

[调用: weather_get_weather] ← 完全无关！
[调用: image_generator_generate] ← 完全无关！
[调用: doc_generator_generate] ← 完全无关！

AI不仅调用了无关工具（weather、image_generator、doc_generator），还陷入了无限循环——同样的"分解任务→并行执行"流程重复了3次！

面对这种"工具滥用+意图偏离+循环失控"的三重灾难，团队的第一个反应是：那就只传递相关的工具，让AI"看不到"那些乱七八糟的工具！

二、初稿方案：直击痛点的"硬过滤"

1.1 核心设计思路

#mermaid-svg-8sZkmUh26a1S5nQK{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-8sZkmUh26a1S5nQK .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-8sZkmUh26a1S5nQK .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-8sZkmUh26a1S5nQK .error-icon{fill:#552222;}#mermaid-svg-8sZkmUh26a1S5nQK .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-8sZkmUh26a1S5nQK .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-8sZkmUh26a1S5nQK .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-8sZkmUh26a1S5nQK .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-8sZkmUh26a1S5nQK .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-8sZkmUh26a1S5nQK .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-8sZkmUh26a1S5nQK .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-8sZkmUh26a1S5nQK .marker{fill:#333333;stroke:#333333;}#mermaid-svg-8sZkmUh26a1S5nQK .marker.cross{stroke:#333333;}#mermaid-svg-8sZkmUh26a1S5nQK svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-8sZkmUh26a1S5nQK p{margin:0;}#mermaid-svg-8sZkmUh26a1S5nQK .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-8sZkmUh26a1S5nQK .cluster-label text{fill:#333;}#mermaid-svg-8sZkmUh26a1S5nQK .cluster-label span{color:#333;}#mermaid-svg-8sZkmUh26a1S5nQK .cluster-label span p{background-color:transparent;}#mermaid-svg-8sZkmUh26a1S5nQK .label text,#mermaid-svg-8sZkmUh26a1S5nQK span{fill:#333;color:#333;}#mermaid-svg-8sZkmUh26a1S5nQK .node rect,#mermaid-svg-8sZkmUh26a1S5nQK .node circle,#mermaid-svg-8sZkmUh26a1S5nQK .node ellipse,#mermaid-svg-8sZkmUh26a1S5nQK .node polygon,#mermaid-svg-8sZkmUh26a1S5nQK .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-8sZkmUh26a1S5nQK .rough-node .label text,#mermaid-svg-8sZkmUh26a1S5nQK .node .label text,#mermaid-svg-8sZkmUh26a1S5nQK .image-shape .label,#mermaid-svg-8sZkmUh26a1S5nQK .icon-shape .label{text-anchor:middle;}#mermaid-svg-8sZkmUh26a1S5nQK .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-8sZkmUh26a1S5nQK .rough-node .label,#mermaid-svg-8sZkmUh26a1S5nQK .node .label,#mermaid-svg-8sZkmUh26a1S5nQK .image-shape .label,#mermaid-svg-8sZkmUh26a1S5nQK .icon-shape .label{text-align:center;}#mermaid-svg-8sZkmUh26a1S5nQK .node.clickable{cursor:pointer;}#mermaid-svg-8sZkmUh26a1S5nQK .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-8sZkmUh26a1S5nQK .arrowheadPath{fill:#333333;}#mermaid-svg-8sZkmUh26a1S5nQK .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-8sZkmUh26a1S5nQK .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-8sZkmUh26a1S5nQK .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-8sZkmUh26a1S5nQK .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-8sZkmUh26a1S5nQK .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-8sZkmUh26a1S5nQK .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-8sZkmUh26a1S5nQK .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-8sZkmUh26a1S5nQK .cluster text{fill:#333;}#mermaid-svg-8sZkmUh26a1S5nQK .cluster span{color:#333;}#mermaid-svg-8sZkmUh26a1S5nQK div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-8sZkmUh26a1S5nQK .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-8sZkmUh26a1S5nQK rect.text{fill:none;stroke-width:0;}#mermaid-svg-8sZkmUh26a1S5nQK .icon-shape,#mermaid-svg-8sZkmUh26a1S5nQK .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-8sZkmUh26a1S5nQK .icon-shape p,#mermaid-svg-8sZkmUh26a1S5nQK .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-8sZkmUh26a1S5nQK .icon-shape rect,#mermaid-svg-8sZkmUh26a1S5nQK .image-shape rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-8sZkmUh26a1S5nQK .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-8sZkmUh26a1S5nQK .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-8sZkmUh26a1S5nQK :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

浏览器任务

文档任务

系统任务

用户输入

意图识别

匹配意图

返回浏览器相关工具~10个

返回文档相关工具~8个

返回系统相关工具~6个

模型决策

精准工具调用

这个方案看起来完美：

• ✅ 直接解决工具数量过多问题
• ✅ 利用已有的意图识别机制
• ✅ 大幅减少Schema tokens

1.2 意图-工具映射表

我们设计了详细的映射关系：

INTENT_TOOL_MAPPING = {
"browser_automation": [
"browser", "browser_use",
"mcp_browserbase", "mcp_browserbase-csdn"
],
"document_assembly": [
"doc_generator", "image_generator",
"weather", "file"
],
"system_admin": [
"shell", "app_control", "screen"
],
"daily_assistant": [
"weather", "datetime_tool",
"calculator", "email"
],
}

理论上，每个意图只暴露5-15个工具，而不是60个。

1.3 预期收益测算

二、配套措施：前置校验层

为了进一步保护系统，我们还设计了"工具调用前置校验层"：

#mermaid-svg-Wl5yKdU332jmPGyJ{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-Wl5yKdU332jmPGyJ .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-Wl5yKdU332jmPGyJ .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-Wl5yKdU332jmPGyJ .error-icon{fill:#552222;}#mermaid-svg-Wl5yKdU332jmPGyJ .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-Wl5yKdU332jmPGyJ .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-Wl5yKdU332jmPGyJ .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-Wl5yKdU332jmPGyJ .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-Wl5yKdU332jmPGyJ .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-Wl5yKdU332jmPGyJ .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-Wl5yKdU332jmPGyJ .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-Wl5yKdU332jmPGyJ .marker{fill:#333333;stroke:#333333;}#mermaid-svg-Wl5yKdU332jmPGyJ .marker.cross{stroke:#333333;}#mermaid-svg-Wl5yKdU332jmPGyJ svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-Wl5yKdU332jmPGyJ p{margin:0;}#mermaid-svg-Wl5yKdU332jmPGyJ .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-Wl5yKdU332jmPGyJ .cluster-label text{fill:#333;}#mermaid-svg-Wl5yKdU332jmPGyJ .cluster-label span{color:#333;}#mermaid-svg-Wl5yKdU332jmPGyJ .cluster-label span p{background-color:transparent;}#mermaid-svg-Wl5yKdU332jmPGyJ .label text,#mermaid-svg-Wl5yKdU332jmPGyJ span{fill:#333;color:#333;}#mermaid-svg-Wl5yKdU332jmPGyJ .node rect,#mermaid-svg-Wl5yKdU332jmPGyJ .node circle,#mermaid-svg-Wl5yKdU332jmPGyJ .node ellipse,#mermaid-svg-Wl5yKdU332jmPGyJ .node polygon,#mermaid-svg-Wl5yKdU332jmPGyJ .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-Wl5yKdU332jmPGyJ .rough-node .label text,#mermaid-svg-Wl5yKdU332jmPGyJ .node .label text,#mermaid-svg-Wl5yKdU332jmPGyJ .image-shape .label,#mermaid-svg-Wl5yKdU332jmPGyJ .icon-shape .label{text-anchor:middle;}#mermaid-svg-Wl5yKdU332jmPGyJ .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-Wl5yKdU332jmPGyJ .rough-node .label,#mermaid-svg-Wl5yKdU332jmPGyJ .node .label,#mermaid-svg-Wl5yKdU332jmPGyJ .image-shape .label,#mermaid-svg-Wl5yKdU332jmPGyJ .icon-shape .label{text-align:center;}#mermaid-svg-Wl5yKdU332jmPGyJ .node.clickable{cursor:pointer;}#mermaid-svg-Wl5yKdU332jmPGyJ .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-Wl5yKdU332jmPGyJ .arrowheadPath{fill:#333333;}#mermaid-svg-Wl5yKdU332jmPGyJ .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-Wl5yKdU332jmPGyJ .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-Wl5yKdU332jmPGyJ .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-Wl5yKdU332jmPGyJ .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-Wl5yKdU332jmPGyJ .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-Wl5yKdU332jmPGyJ .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-Wl5yKdU332jmPGyJ .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-Wl5yKdU332jmPGyJ .cluster text{fill:#333;}#mermaid-svg-Wl5yKdU332jmPGyJ .cluster span{color:#333;}#mermaid-svg-Wl5yKdU332jmPGyJ div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-Wl5yKdU332jmPGyJ .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-Wl5yKdU332jmPGyJ rect.text{fill:none;stroke-width:0;}#mermaid-svg-Wl5yKdU332jmPGyJ .icon-shape,#mermaid-svg-Wl5yKdU332jmPGyJ .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-Wl5yKdU332jmPGyJ .icon-shape p,#mermaid-svg-Wl5yKdU332jmPGyJ .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-Wl5yKdU332jmPGyJ .icon-shape rect,#mermaid-svg-Wl5yKdU332jmPGyJ .image-shape rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-Wl5yKdU332jmPGyJ .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-Wl5yKdU332jmPGyJ .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-Wl5yKdU332jmPGyJ :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

PASS

REJECT

模型生成tool_calls

前置校验

校验结果

执行工具

丢弃并注入提醒

模型重新决策

2.1 三重校验规则

class ToolCallValidator:
def validate(self, tool_calls: list, intent: str) –> ValidationResult:
# 规则1：相关性校验
for tc in tool_calls:
if tc.tool not in INTENT_TOOL_MAPPING.get(intent, []):
return ValidationResult(
status="REJECT",
message=f"工具 {tc.tool} 与当前任务无关"
)

# 规则2：批量限制
if len(tool_calls) > 3:
return ValidationResult(
status="REJECT",
message="单次调用工具数量超过限制(3)"
)

# 规则3：跨类别检测
categories = set()
for tc in tool_calls:
categories.add(get_tool_category(tc.tool))
if len(categories) > 2:
return ValidationResult(
status="REJECT",
message="跨类别工具调用过多"
)

return ValidationResult(status="PASS")

看似周全的设计，对吧？

三、方案评审：一针见血的质疑

当方案提交评审时，一位资深工程师提出了一个致命问题：

“如果意图识别错了怎么办？”

3.1 场景推演

渲染错误: Mermaid 渲染失败: Parse error on line 4: …utomation
因为关键词"博客"] C –>|正确识别| ———————–^ Expecting 'SQE', 'DOUBLECIRCLEEND', 'PE', '-)', 'STADIUMEND', 'SUBROUTINEEND', 'PIPE', 'CYLINDEREND', 'DIAMOND_STOP', 'TAGEND', 'TRAPEND', 'INVTRAPEND', 'UNICODE_TEXT', 'TEXT', 'TAGSTART', got 'STR'

识别错误 → 过滤掉正确工具 → 任务必然失败

这是一个单点故障：意图识别的错误会级联传递，且无法恢复。

3.2 更多边界场景

评审中又举出了更多问题场景：

核心问题：用户的请求往往是多意图组合的，但简单的关键词匹配难以覆盖。

四、深入分析：级联风险的可怕之处

4.1 风险传导链

#mermaid-svg-BBLLmZaLnTPha8yO{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-BBLLmZaLnTPha8yO .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-BBLLmZaLnTPha8yO .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-BBLLmZaLnTPha8yO .error-icon{fill:#552222;}#mermaid-svg-BBLLmZaLnTPha8yO .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-BBLLmZaLnTPha8yO .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-BBLLmZaLnTPha8yO .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-BBLLmZaLnTPha8yO .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-BBLLmZaLnTPha8yO .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-BBLLmZaLnTPha8yO .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-BBLLmZaLnTPha8yO .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-BBLLmZaLnTPha8yO .marker{fill:#333333;stroke:#333333;}#mermaid-svg-BBLLmZaLnTPha8yO .marker.cross{stroke:#333333;}#mermaid-svg-BBLLmZaLnTPha8yO svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-BBLLmZaLnTPha8yO p{margin:0;}#mermaid-svg-BBLLmZaLnTPha8yO .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-BBLLmZaLnTPha8yO .cluster-label text{fill:#333;}#mermaid-svg-BBLLmZaLnTPha8yO .cluster-label span{color:#333;}#mermaid-svg-BBLLmZaLnTPha8yO .cluster-label span p{background-color:transparent;}#mermaid-svg-BBLLmZaLnTPha8yO .label text,#mermaid-svg-BBLLmZaLnTPha8yO span{fill:#333;color:#333;}#mermaid-svg-BBLLmZaLnTPha8yO .node rect,#mermaid-svg-BBLLmZaLnTPha8yO .node circle,#mermaid-svg-BBLLmZaLnTPha8yO .node ellipse,#mermaid-svg-BBLLmZaLnTPha8yO .node polygon,#mermaid-svg-BBLLmZaLnTPha8yO .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-BBLLmZaLnTPha8yO .rough-node .label text,#mermaid-svg-BBLLmZaLnTPha8yO .node .label text,#mermaid-svg-BBLLmZaLnTPha8yO .image-shape .label,#mermaid-svg-BBLLmZaLnTPha8yO .icon-shape .label{text-anchor:middle;}#mermaid-svg-BBLLmZaLnTPha8yO .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-BBLLmZaLnTPha8yO .rough-node .label,#mermaid-svg-BBLLmZaLnTPha8yO .node .label,#mermaid-svg-BBLLmZaLnTPha8yO .image-shape .label,#mermaid-svg-BBLLmZaLnTPha8yO .icon-shape .label{text-align:center;}#mermaid-svg-BBLLmZaLnTPha8yO .node.clickable{cursor:pointer;}#mermaid-svg-BBLLmZaLnTPha8yO .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-BBLLmZaLnTPha8yO .arrowheadPath{fill:#333333;}#mermaid-svg-BBLLmZaLnTPha8yO .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-BBLLmZaLnTPha8yO .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-BBLLmZaLnTPha8yO .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-BBLLmZaLnTPha8yO .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-BBLLmZaLnTPha8yO .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-BBLLmZaLnTPha8yO .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-BBLLmZaLnTPha8yO .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-BBLLmZaLnTPha8yO .cluster text{fill:#333;}#mermaid-svg-BBLLmZaLnTPha8yO .cluster span{color:#333;}#mermaid-svg-BBLLmZaLnTPha8yO div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-BBLLmZaLnTPha8yO .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-BBLLmZaLnTPha8yO rect.text{fill:none;stroke-width:0;}#mermaid-svg-BBLLmZaLnTPha8yO .icon-shape,#mermaid-svg-BBLLmZaLnTPha8yO .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-BBLLmZaLnTPha8yO .icon-shape p,#mermaid-svg-BBLLmZaLnTPha8yO .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-BBLLmZaLnTPha8yO .icon-shape rect,#mermaid-svg-BBLLmZaLnTPha8yO .image-shape rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-BBLLmZaLnTPha8yO .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-BBLLmZaLnTPha8yO .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-BBLLmZaLnTPha8yO :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

意图识别错误

过滤掉正确工具

模型无法完成请求

任务失败

用户体验下降

信任度降低

这不是概率问题，而是必然结果：

• 意图识别准确率不可能100%
• 一旦错误，后续无法补救
• 模型"看不到"被过滤的工具，即使想用也用不了

4.2 与传统过滤的区别

工具过滤的不可逆性是其最大风险。

五、方案的另一个漏洞：工具依赖链

评审中还发现了另一个被忽略的问题：

5.1 隐藏的依赖关系

#mermaid-svg-RjDPQAxKRXFaN0Fu{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-RjDPQAxKRXFaN0Fu .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-RjDPQAxKRXFaN0Fu .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-RjDPQAxKRXFaN0Fu .error-icon{fill:#552222;}#mermaid-svg-RjDPQAxKRXFaN0Fu .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-RjDPQAxKRXFaN0Fu .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-RjDPQAxKRXFaN0Fu .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-RjDPQAxKRXFaN0Fu .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-RjDPQAxKRXFaN0Fu .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-RjDPQAxKRXFaN0Fu .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-RjDPQAxKRXFaN0Fu .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-RjDPQAxKRXFaN0Fu .marker{fill:#333333;stroke:#333333;}#mermaid-svg-RjDPQAxKRXFaN0Fu .marker.cross{stroke:#333333;}#mermaid-svg-RjDPQAxKRXFaN0Fu svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-RjDPQAxKRXFaN0Fu p{margin:0;}#mermaid-svg-RjDPQAxKRXFaN0Fu .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-RjDPQAxKRXFaN0Fu .cluster-label text{fill:#333;}#mermaid-svg-RjDPQAxKRXFaN0Fu .cluster-label span{color:#333;}#mermaid-svg-RjDPQAxKRXFaN0Fu .cluster-label span p{background-color:transparent;}#mermaid-svg-RjDPQAxKRXFaN0Fu .label text,#mermaid-svg-RjDPQAxKRXFaN0Fu span{fill:#333;color:#333;}#mermaid-svg-RjDPQAxKRXFaN0Fu .node rect,#mermaid-svg-RjDPQAxKRXFaN0Fu .node circle,#mermaid-svg-RjDPQAxKRXFaN0Fu .node ellipse,#mermaid-svg-RjDPQAxKRXFaN0Fu .node polygon,#mermaid-svg-RjDPQAxKRXFaN0Fu .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-RjDPQAxKRXFaN0Fu .rough-node .label text,#mermaid-svg-RjDPQAxKRXFaN0Fu .node .label text,#mermaid-svg-RjDPQAxKRXFaN0Fu .image-shape .label,#mermaid-svg-RjDPQAxKRXFaN0Fu .icon-shape .label{text-anchor:middle;}#mermaid-svg-RjDPQAxKRXFaN0Fu .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-RjDPQAxKRXFaN0Fu .rough-node .label,#mermaid-svg-RjDPQAxKRXFaN0Fu .node .label,#mermaid-svg-RjDPQAxKRXFaN0Fu .image-shape .label,#mermaid-svg-RjDPQAxKRXFaN0Fu .icon-shape .label{text-align:center;}#mermaid-svg-RjDPQAxKRXFaN0Fu .node.clickable{cursor:pointer;}#mermaid-svg-RjDPQAxKRXFaN0Fu .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-RjDPQAxKRXFaN0Fu .arrowheadPath{fill:#333333;}#mermaid-svg-RjDPQAxKRXFaN0Fu .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-RjDPQAxKRXFaN0Fu .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-RjDPQAxKRXFaN0Fu .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-RjDPQAxKRXFaN0Fu .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-RjDPQAxKRXFaN0Fu .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-RjDPQAxKRXFaN0Fu .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-RjDPQAxKRXFaN0Fu .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-RjDPQAxKRXFaN0Fu .cluster text{fill:#333;}#mermaid-svg-RjDPQAxKRXFaN0Fu .cluster span{color:#333;}#mermaid-svg-RjDPQAxKRXFaN0Fu div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-RjDPQAxKRXFaN0Fu .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-RjDPQAxKRXFaN0Fu rect.text{fill:none;stroke-width:0;}#mermaid-svg-RjDPQAxKRXFaN0Fu .icon-shape,#mermaid-svg-RjDPQAxKRXFaN0Fu .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-RjDPQAxKRXFaN0Fu .icon-shape p,#mermaid-svg-RjDPQAxKRXFaN0Fu .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-RjDPQAxKRXFaN0Fu .icon-shape rect,#mermaid-svg-RjDPQAxKRXFaN0Fu .image-shape rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-RjDPQAxKRXFaN0Fu .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-RjDPQAxKRXFaN0Fu .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-RjDPQAxKRXFaN0Fu :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

需要

需要

需要

doc_generator

weather

image_generator

file

用户请求: 查天气写文档

意图识别: document_assembly

如果只返回 doc_generator 和 weather，缺少 file 工具，文档生成可能失败。

5.2 需要定义依赖关系

{
"doc_generator": {
"depends_on": ["weather", "image_generator", "file"],
"description": "文档生成器需要内容来源工具"
}
}

初稿方案完全忽略了这一点。

六、方案调整：增加兜底机制

面对质疑，我们尝试为方案增加"兜底机制"：

class SafeToolManager:
def __init__(self):
self.consecutive_failures = 0
self.fallback_threshold = 2

def get_tools(self, intent: str) –> list:
# 正常模式：过滤工具
if self.consecutive_failures < self.fallback_threshold:
return filter_tools_by_intent(intent)

# 兜底模式：返回全量工具
return get_all_tools()

def report_failure(self):
self.consecutive_failures += 1

def report_success(self):
self.consecutive_failures = 0

但这又带来了新问题：

• 需要连续失败2次才能触发兜底
• 用户已经等待了很长时间
• 体验仍然受损

七、关键反思：设计原则的缺失

这次方案评审让我们意识到，我们缺少一套设计原则来指导决策。

7.1 核心矛盾

减少工具数量
↓
降低选择难度 ←→ 可能过滤掉正确工具
↓
提高决策质量 ←→ 可能导致任务失败

7.2 需要回答的问题

总结

初稿方案的失败揭示了系统设计中的一个关键教训：

当优化措施可能导致"正确路径被堵死"时，必须极其谨慎。

核心洞察：

下一篇，我们将展示二次评审如何更深入地剖析方案的漏洞，并推动我们寻找更稳妥的解决路径。

系列文章预告：

• 第3篇：《再评估：当方案暴露出隐藏漏洞》
• 第4篇：《第三次评估：渐进式暴露的艺术》
• 第5篇：《落地实战：TaskTrace追踪与工具纳入规范》