摘要
工业AI系统落地最现实的问题不是模型选型，是成本。API调用费用、向量数据库存储费用、知识库检索的Token消耗——这些费用在原型阶段几乎可以忽略，但一旦系统需要处理日均数百次甚至数千次调用，成本就变成了决定项目能否活下去的关键变量。本文从提示词压缩、检索缓存、混合部署策略三个维度，给出工业AI系统成本控制的完整工程方案。附带真实场景的Token消耗测算数据和各规模企业的部署成本对比。
一、问题定义
工业AI诊断系统的成本压力来自三个方向。
一是API调用费用。每次用户问“GH4169电子束焊热影响区裂纹怎么排查”，系统需要把相关知识条目从向量数据库里检索出来，和用户问题一起组装成提示词发给大模型，大模型返回诊断报告。这个过程消耗的Token量取决于知识条目的长度和数量。工业场景的知识条目通常很长——一条完整的诊断知识可能包含判据、成因排序、排查步骤、工艺建议，动辄几百字。检索返回三五条，加上系统提示词和用户问题，单次调用的输入Token轻松破两千。
二是向量数据库的存储和检索费用。上千条知识条目、每条几百字、外加向量维度通常取1536维或更高，存储量不算小。如果使用云端向量数据库服务，存储费和检索次数费是持续支出。
三是系统迭代的隐性成本。知识条目不是一成不变的，新标准、新工艺、新案例不断进来。每次更新都要重新做嵌入、重新入库，这些操作同样消耗API额度。
但这不意味着我们要为了省钱牺牲系统质量。成本控制的本质不是抠门，是在效果和花费之间找到最优平衡点。
二、提示词压缩：让每次API调用花的Token都有价值
2.1 问题在哪
工业AI系统的提示词，通常是这样拼出来的：
系统提示词（角色定义+输出格式要求，约200 Token）
+ 检索到的知识条目（3-5条，每条300-500 Token，合计900-2500 Token）
+ 用户问题（约50-100 Token）
+ 对话历史（累积可达数千Token）
= 单次调用输入Token: 2000-5000+
这里最大的变量是知识条目。检索返回3条还是5条、每条是精简摘要还是完整内容，Token消耗能差好几倍。
2.2 分级摘要策略
不需要每次都把知识条目的完整内容塞进提示词。可以做分级处理。
每条知识条目在入库时预生成两个版本：精简摘要版和完整版。精简摘要版只包含核心判据和操作建议，控制在100字以内，用于初始检索和快速匹配。完整版包含成因链、详细排查步骤、参数参考范围，用于用户明确需要深入诊断时调用。
首次检索默认使用摘要版做匹配。如果用户追问“具体怎么排查”或“参数调到多少”，再调用完整版。
class KnowledgeEntry:
def __init__(self, title, summary, full_co
