欢迎光临
我们一直在努力

什么是 Agent 的 Context Window?为什么它是 Agent 工程中最核心的约束之一?

👨‍⚕️ 主页: gis分享者 👨‍⚕️ 感谢各位大佬 点赞👍 收藏⭐ 留言📝 加关注✅! 👨‍⚕️ 收录于专栏:AI大模型原理和应用面试题

文章目录

  • 一、什么是 Context Window?
    • 1.1 ☘️定义
    • 1.2 ☘️可视化表示
    • 1.3 ☘️主流模型的 Context Window 对比
  • 二、为什么 Context Window 是核心约束?
    • 2.1 ☘️约束 1:记忆能力的物理限制
    • 2.2 ☘️约束 2:多轮对话的累积效应
    • 2.3 ☘️约束 3:工具调用的开销
    • 2.4 ☘️约束 4:System Prompt 的固定占用
    • 2.5 ☘️约束 5:长文档/代码处理的挑战
  • 三、扩展知识
    • 3.1 ☘️Context Window 里到底塞了什么
    • 3.2 ☘️OpenClaw 的 Context Window 管理机制
    • 3.3 ☘️主流的 Context 管理策略
    • 3.4 ☘️token 计算的坑
  • 四、追问

一、什么是 Context Window?

1.1 ☘️定义

Context Window(上下文窗口) 是大语言模型(LLM)在单次推理中能够处理的最大 token 数量限制。它包括:

Context Window = System Prompt + 对话历史 + 工具定义 + 用户输入 + 工具返回结果 + 模型输出

在这里插入图片描述

1.2 ☘️可视化表示

┌─────────────────────────────────────────────────────────────┐ │ Context Window │ │ ┌────────

赞(0)
未经允许不得转载:171主机测评 » 什么是 Agent 的 Context Window?为什么它是 Agent 工程中最核心的约束之一?
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址