应用模式层 · 网页版

AI Agents & OrchestrationAgent,智能体与编排

让大模型不止「回答」,而是带着工具在循环里「把事办完」:从循环与三大件,到编排、协议、上下文工程、评估护栏,再到低代码平台、记忆、Computer Use 与 Sub-agent 编排。本页是这一册的网页版,讲义 PPT 见页脚链接。

核实窗口 2026-07-07 至 07-17 MCP 新版 2026-07-28 已发布 · 相关小节已按新版更新

01是什么 / 为什么#agent-what-why

智能体(Agent)= 大模型在循环里自主使用工具完成任务:它自己决定下一步查什么、调什么、什么时候停。聊天机器人给你「答案」,agent 给你「结果」。全册总纲是 Anthropic 的忠告:能用工作流解决就别上 agent——自主性是花钱买的。

三兄弟:自主性是一道光谱

聊天机器人 Chatbot

一问一答,只生成文本,不碰外部系统。适合知识问答、文案、翻译;说得再好也「动不了手」,答案止步于建议。

工作流 Workflow

人预先写死步骤,模型在固定节点上被调用。适合流程固定的任务(工单分类→套模板回复);路径可控、可审计、成本可预期。

智能体 Agent

模型自己决定路径、自己选工具,步骤数不确定。适合开放式任务——排查、调研、编码;换来灵活,付出成本与不确定性。

循环怎么转,什么时候该上

基本循环四步:感知任务 → 思考规划 → 调用工具 → 观察结果,没完成就回到思考。停机条件必须显式设计:达成目标、超出步数/预算上限、或需要人来拍板——三者至少有其一,否则 agent 可能「跑飞」。这是护栏的第一块砖。

判断该不该上,两把尺:任务开放程度(路径能不能预先写死)和容错成本(单步出错可不可回退)。该上的信号:任务开放、有可验证的完成信号、允许多轮试错;先别上的信号:流程固定要求逐步审计、对延迟和成本极敏感的高频请求、出错不可回滚(转账、删数据——至少要加人工审批)。这两把尺连同六个「什么时候上」,都收进了启用条件决策器。

02核心组件#agent-components

拆开 agent 的三大件:

规划是大脑
记忆是笔记本
工具是双手

工具质量往往比模型选型更影响表现——工具是写给模型的产品。

规划与记忆

规划的主流是 ReAct 式「边想边做」:每步先写下推理再行动,用上一步的结果修正下一步——像老练的维修工,拆一步看一眼,随时修正判断。规划能力决定 agent 能接多大的活(单点技巧的出处在 Prompt Engineering 第 4 章)。记忆分两层:

短期记忆=上下文窗口

桌面,有限且贵。

长期记忆=外部存储

档案柜,跨会话保留按需取回。

「什么留在桌面、什么进档案柜」是上下文工程与记忆系统两节的主题。

一次 Function Calling 的完整来回

定义 用 JSON Schema 描述工具,写给模型看的说明书 决策 模型输出结构化调用请求 执行 你的代码真正去调 API、查库 回填 结果作为 tool_result 交回模型继续推理
高亮那步归你——权限、校验、审计都在这一格里。

关键在第三步:模型只「点菜」不「下厨」——真正执行的是你的代码,权限、校验、审计都握在你手里。这是对客户讲安全时最有力的一句话。这套一来一回被 MCP 标准化成了跨厂商协议,报文逐字段的注释见 MCP 网页版。

工具是写给模型的产品

两个常见的坑:

描述含糊、职责重叠

模型分不清 search_orders 和 query_orders 该用哪个。

解法:合并重复工具,描述里写清「什么时候用我、什么时候别用我」。

返回信息过载

一次回传几千行 JSON 挤爆上下文。

解法:只返回刚好够用的字段,错误信息要能指导模型下一步怎么办,而不是一句 error。

接工具不是「有 API 就行」——命名、描述、返回的设计直接决定 agent 用不用得好。

多模态让 agent 的感知从纯文本扩展到屏幕截图、图表、扫描件——视觉成为新的工具入参,也是 Computer Use 的前提(模型怎么看懂图见 Multimodal 模块)。

03编排模式#agent-orchestration

编排是系统的「组织架构图」:决定哪些模型调用、按什么结构组合。先看任务结构,再定架构,不是越复杂越好。

模式结构适用场景
链式 Prompt Chaining步骤串行,上一步输出是下一步输入任务能拆成固定先后:先写大纲再写正文
路由 Routing先分类,再分发给专门分支输入类型差异大:客服问题分技术/账务/售后
并行 Parallelization多路同时跑,再聚合子任务独立可同时做;或多路投票提置信度
指挥官-工人 Orchestrator-Workers中央模型动态拆任务、派工人、汇总子任务无法预先枚举:深度调研、多文件修改
评估-优化 Evaluator-Optimizer一个生成、一个评审,循环打磨有明确评价标准且值得迭代:翻译润色、报告质检

前三种路径写死,属于「工作流」;后两种开始有自主性。生产系统的常见折中是「骨架写死、血肉自主」:外层编排服务管流程(可视化、可重试、可审计),节点内让 agent 自由发挥——和传统 BPM 引擎的区别就在这里,两者常配合使用。multi-agent 的成本账(约 15× token 换什么)统一在 Sub-agent 编排一节算。

A2A:agent 之间怎么握手

A2A(Agent2Agent)是跨团队、跨厂商的 agent 互相发现与协作的开放协议:用签名 Agent Card 声明「我是谁、会什么」(签名防伪装),任务经标准接口互相委托,全程可审计。2026-03 发布 v1.0(当前 v1.0.1),Linux Foundation 治理,150+ 组织采用。一句对照:MCP 是「agent 用工具」的 USB-C,A2A 是「agent 找 agent」的名片加合同——组织内先把 MCP 用好,有跨组织协作需求再引入 A2A(协议细节见 A2A 模块)。

A2A 版本与采用规模核实 2026-07-12,来源 A2A releases / Linux Foundation 公告;框架现状(Microsoft Agent Framework 1.0 GA 合并 AutoGen 与 Semantic Kernel;LangGraph 已过 1.0、OpenAI Agents SDK 仍 0.x——短名单都能用,API 稳定性承诺不同)同日核实,来源 官方公告与 GitHub releases。不可外推边界:版本号与 API 稳定性承诺都是当日快照;「短名单都能用」指的是都有公开生产案例,不是能力等价——选型仍要按自己的负载实测。

04工具接入与 MCP#agent-tools-mcp

各家 function calling 格式不同,M 个应用 × N 个工具= M×N 套连接器;MCP 把它变成 M+N——AI 应用接工具的 USB-C。协议本身的解剖、传输、安全与生产落地,深入看 MCP 网页版;本节只讲 agent 侧独有的两件事。

agent 侧要点

信任边界在 Host:授权、可见性、调用确认都在宿主层控制,server 只声明能力、被动应答。设计取舍记一条:能用资源(Resources)就别包成工具(Tools)——只读数据走资源,上下文更干净、权限也更好管。现状一句话:现行规范 2026-07-28(无状态核心,server 更好扩容),旧版进入兼容期 (弃用到移除至少留 12 个月),AAIF 中立治理不绑定厂商。

生产工具的六层契约(agent 侧独有)

层管什么缺了会怎样
① 发现名称/用途/反例写清楚模型分不清该用哪个、什么时候不该用
② 输入严格 schema、取值范围、租户字段没有租户字段=跨客户越权
③ 授权主体、scope、资源级策略权限放大,出事破坏面失控
④ 执行超时、幂等、限流、审计重复下单、刷爆后端、事后说不清
⑤ 输出高信号、分页截断、带来源一次调用吃掉半个上下文窗口
⑥ 错误可重试/不可恢复/需审批,分类返回模型对着「500」死重试

投入在工具契约上的一小时,常比调一天提示词更能提升成功率——工具返回的质量决定模型「看到什么」,提示词只决定「怎么看」。评审 agent 方案先翻它的工具清单:六层缺哪层,事故就从哪层来。

MCP 版本现状核实 2026-07-30(建议复查日 2027-01-31),来源 modelcontextprotocol.io。不可外推边界:2026-07-28 新规范已发布,本节结论已按新版更新;引用时仍必须带版本号。

05上下文工程#agent-context

上下文是注意力预算:塞得越满,单位信息被关注的概率越低,表现随长度衰减(业内称 context rot,「越长越笨」是真实现象)。问题从「怎么说」(提示词工程)升级成了「给模型看什么」。

直觉案例:同一个排障任务,把 20 万 token 日志全塞给模型,不如先 grep 出 2 千 token 相关段落再给——后者更快、更准、还便宜一百倍。窗口大只给了「能塞」的自由,上下文工程决定「该塞什么」(长上下文为什么贵的机制账,见 LLM-Inference 网页版)。

板斧怎么做什么时候用
压缩 Compaction上下文快满时把历史总结成摘要重开:保留决策与未决事项,丢过程噪声 长任务续命的标配——Claude Code 的 auto-compact 就是它
结构化笔记 Note-taking关键进展写进外部文件(待办、进展日志),需要时读回 跨会话、跨窗口的持久化,成本几乎为零
即时检索 Just-in-time不预载全部资料,只存路径/指针,用到哪段现查现取 资料库大而杂时的首选——这正是 RAG 的主场
子 agent 隔离 Sub-agents派子 agent 深潜子问题,只带结论回来,过程垃圾留在分身里 探索型任务:大范围搜索、多文件排查(机制见第 10 节)

四板斧常组合使用。压缩有一条实操铁律:摘要必须保留「已决策事项」——丢了它,agent 会重复劳动甚至推翻自己。判断准绳一句话:每轮进入模型的上下文,是否都是「当前这步需要的最小高信号集合」。

Agentic RAG:两个模块的接缝

把检索当工具交给 agent:它自己决定查不查、查什么、查几轮,根据首轮结果改写查询再深挖——检索从「固定的前置步骤」变成「循环里的自主动作」,代价是延迟与成本随轮数上升。检索质量的地基(切分、Embedding、重排序、评估)全在 RAG 模块——那边把库建好,这边 agent 才有得查。RAG 建库的投资完全复用,区别只在调用方式。

06评估与护栏#agent-eval-guardrails

agent 是非确定的:同一任务每次路径都可能不同,单元测试思路失效。上线的门槛不是「演示成功」,而是「重复一百次的成功率」。给客户的总话术:不承诺不出错,承诺可度量、可回放、可兜底。

评估三刻度

刻度看什么特点与用法
结果级 Outcome只验终态:任务完成没有最贴近业务价值,但看不出为什么失败
轨迹级 Trajectory逐步检查工具调用序列是否合理定位问题的利器;可用 LLM-as-judge 自动打分
稳定性 pass^k同一任务跑 k 次全部成功的概率(τ-bench 引入)生产就绪度的硬指标——把「偶尔灵」打回原形

评估集从真实失败案例滚动积累,每次改动全量回归。可观测性三件套:全链路追踪(LangSmith / Langfuse / Arize Phoenix / W&B Weave,每步调用、token、延迟可回放)、在线评估(对生产流量抽样打分)、成本与告警。选型口诀:LangChain 栈选 LangSmith,数据不出门选 Langfuse / Phoenix 自托管。先上追踪、再上 multi-agent,顺序不能反。

OWASP 风险清单与防护组合拳

OWASP《Top 10 for Agentic Applications》(2026)是行业标准清单,风险的共性是「agent 轻信了不该信的内容」:

提示注入恶意指令藏在 agent 读到的网页、邮件、工具返回值里——间接注入最防不胜防
过度代理权限超过任务所需,破坏面放大
记忆投毒见记忆系统

防护是组合拳而非银弹:最小权限 + 高危动作人工审批 + 输入/输出过滤 + 不可信内容隔离标记 + 常态化对抗测试。像新员工入职三件套:工卡只开必要门禁、大额报销要主管签字、外来包裹先过安检。人工审批只审高危动作(转账、删除、对外发送),通常只占动作数的一小部分,却挡住绝大多数不可逆风险。agent 的安全不取决于模型够不够聪明,取决于权限与流程设计得够不够克制。

把审批范围划下来,顺手也把责任划清了。范围按动作分档,不按任务分档:读类动作(查询、汇总、起草)放手跑;写类动作限制在可回滚的范围里;不可逆动作签字放行。对应的责任链条正好三段——模型只输出调用请求(供应商侧)、你的代码真正执行(工程侧,权限与审计都在这一格)、高危动作由人签字(业务侧)。客户问「出了事谁负责」,答案就是这三段,逐段都有主体;配上可回放的全链路追踪,事故复盘就不是各执一词。

OWASP 清单与工具格局核实 2026-07-07,来源 genai.owasp.org 与各官方文档。深入的攻防机制见 Security 模块。不可外推边界:OWASP 清单是风险面的行业共识,不是覆盖度承诺——清单上没有的不等于不存在,记忆投毒(ASI06)就是后补进来的。

07低代码平台#agent-lowcode

客户的第一个问题往往不是「用什么框架」,而是「有没有平台」。低代码平台卖的不是 agent 循环,是外围工程:知识库、渠道、权限、审批流——像 WordPress 之于手写前端。 2026 年企业的默认路径是先平台、后下沉。

平台定位(主负载)许可证与商用要点规模口径(2026-07)
Coze / 扣子(字节)对话 bot 与多渠道分发最快 开源版 Apache 2.0——可商用可闭源二开 21.7k stars、V0.5.1;SaaS 扣子 3.0 多人多 Agent 协作
DifyLLM 应用底座,RAG 一等公民(摄取/切分/检索内置);v1.16.0 起携 Dify Agent(Open Beta) Apache 2.0 + 附加条款——多租户 SaaS、去 logo 需商业授权 159k stars、v1.17.1
n8n通用工作流自动化 + AI 节点,几百个 SaaS 连接器 fair-code——内部使用免费,不得转售 n8n 本身 ~208k stars;估值 ~$5.2B(2026-05 SAP 投资)
HiAgent(火山引擎)企业级:开发-运行-治理全流程、数字员工管理 商业产品,支持私有化,含 SLA 中国智能体平台份额第一梯队(IDC 口径)

选型按主负载对号入座:问答→Dify、集成→n8n、对话 bot→Coze、私有化+治理→HiAgent 类。 stars 与版本号会漂,方向不变。许可证是售前必答题——别等客户法务来问;「开源免费为什么买你的」的答案在托管、治理、SLA 与升级保障,不在功能本身。

与 code-first 的边界:分水岭三问

① 状态机复杂吗(多分支/回滚/长事务)?② 要可测试、可版本化吗(CI/评估回归)? ③ 要深度定制吗(自定义循环/上下文工程)?两个「是」就该下沉代码(LangGraph / Agent SDK)。生产范式是「平台做壳、复杂节点下沉代码」——Dify 节点里调一个 LangGraph 服务是常规操作;锁定主要在工作流画布(格式不通),对策是复杂逻辑早下沉,画布只做薄编排。

把锁定摊开看,迁移成本是逐层递增的:换生成模型最轻,工具契约与编排结构都不跟着模型走;换工具或后端次之,接了 MCP 就是换一个 server、agent 侧不动;换编排框架中等,看复杂逻辑有没有下沉成独立服务;换画布最重,因为画布格式互不相通。所以「怕被锁定」的注意力该放在最下面那层——越难换的层,越该薄。

四平台口径核实 2026-07-10(Coze / Dify / n8n 行 2026-10-20 刷新),来源 GitHub 仓库 / 官方文档 / 融资报道。

08记忆系统#agent-memory

记忆工程的本质是「挑什么值得记、取什么值得带」,不是容量竞赛。生产主流是分层:小核心常驻上下文 + 向量检索层按需取 + 显式遗忘策略。卖记忆功能必须捆绑卖记忆安全。

两张图:认知分类与工程分层

记什么(认知分类)

working 工作记忆手头便签
episodic 情景记忆日记
semantic 语义记忆常识卡片
procedural 程序记忆肌肉记忆

存哪里、归谁管、怎么删(工程分层)

层存多久归谁管
工作状态任务结束即归档agent 运行时
会话状态会话期Session 存储
长期记忆带 TTL、可更正删除记忆服务
业务事实永久权威系统(订单 / 合同)

设计评审两张表都要过。

事故常态:把一次推断写进长期记忆甚至业务库

比如「客户好像要退货」被当成事实存下来。铁律:模型可以从四层读,但写回权威事实库或长期记忆必须过验证。

框架画像(2026-07 口径)适用
Mem0托管记忆层:自动抽取,向量+图+KV 混合存储;67K+ stars 社区最大最快集成、托管起步
Letta(前 MemGPT)OS 式显式内存块:core 常驻提示、archival 靠工具取要精细控制记忆内容
Zep时序知识图谱、情景记忆;自报 LoCoMo 94.7%时间线与关系推理重的场景
LangMemLangGraph 原生记忆组件已深绑 LangGraph 栈

与 RAG 的边界:RAG 记组织的知识(文档、口径),记忆记这个用户与这个 agent 的交互史——载体技术相通(都是存储+检索),管理策略完全不同,两套并存。隐私合规按个人数据管理:可查可删(遗忘权)、最小化存储、保留期明确。

记忆投毒:比注入更阴险

攻击者把恶意内容写进长期记忆,此后每次会话都发作——与提示注入的关键区别:注入随会话重置,投毒跨会话持续。OWASP Agentic Top 10 已单列为 ASI06;研究口径触目惊心:MINJA 注入成功率 >95%,多项研究报 80–99.8%。三道防线:写入前过滤并标记来源、任务之间清理临时上下文、记忆写入鉴权并定期审计——把记忆当数据库管,不当草稿纸。投毒的记忆像后门,不主动审计根本发现不了。

框架横评与投毒研究核实 2026-07-11(Mem0 stars 2026-10-20 刷新),来源 2026 横评 / arXiv 2601.05504、2607.06595。防线与 Security 第 5 章同源展开。不可外推边界:投毒成功率来自研究环境的对抗实验,不能外推成生产系统的实际发生率;它支持的是「必须有写入过滤与审计」,不是「你已经被投毒了」。

09Computer Use#agent-computer-use

让 agent 像人一样看屏幕、动鼠标——没有 API 的系统也能自动化。像雇了个会用电脑的实习生:不用改造系统,但得盯着点。判据先行:有 API 就走 API,Computer Use 不是默认选项。

三条路线与两个基准口径

三条路线按任务所在处选:Claude Computer Use(截图+鼠键通用原语,跨 VM/远程桌面,唯一全桌面);Gemini Computer Use(DOM 感知,纯网页任务更稳更便宜); OpenAI Codex Background CU(2026-04 发布,macOS 桌面批量并行)。开源代表 Browser Use。

口径数字(2026-07)怎么解读
OSWorld-Verified(短窄任务)Claude Fable 5 达 85.96%(2024 年起步仅 14.9%)两年 5 倍:短任务已实用
OSWorld 2.0(长程多应用)Opus 4.8 仅 20.6%跨应用长任务还早,别超卖
浏览器基准OpenAI CUA:WebVoyager 87% / OSWorld 38.1%网页 ≠ 桌面,口径分开引

售前纪律:基准不是生产就绪认证——演示用「短、窄、可重试」的任务圈定范围,把 20.6% 那个数字主动讲出来反而赢信任。

与 RPA 的关系、安全与成本

RPA 流程写死——稳而脆,界面改一个按钮就断;Computer Use 自适应——但慢而贵。落地常态是混合:RPA 跑稳定主干,CU 处理变化页面与异常分支,存量投资不浪费。安全边界四件:跑在沙箱/虚拟桌面(别碰真实工作机)、账号最小权限、不可逆操作人审、屏幕内容当不可信输入——网页里藏一行字就可能指挥 agent,注入面转移到了屏幕上。成本提醒:每步都要截图进模型,视觉 token 是大头——按「步数 × 每步截图成本」估算,长流程常是 RPA 混合的账更好看。

路线与基准核实 2026-07-11(OSWorld-Verified 2026-10-20 刷新),来源 2026 对比矩阵 / arXiv 2606.29537。不可外推边界:两个基准的口径差得很远(短窄任务 vs 长程多应用),任何一个数字单拎出来都会误导,对客必须两个一起给。

10Sub-agent 编排#agent-subagent

Sub-agent 是一个普通 agent,只是雇主换成了另一个 agent——同一机制递归一层,不是新物种。派遣能力住在运行时层:模型只会输出「我要调这个工具」,运行时把新循环真的跑起来,产品层包装成配置、路由与面板。普通 chatbot 没有 sub-agent,是运行时没实现,不是模型不会。

主 Agent 上下文 = 与你的整段对话 任务书 · 自包含 Sub-agent A · 搜代码库 独立上下文 · 自己的工具循环 Sub-agent B · 查官方文档 独立上下文 · 自己的工具循环 Sub-agent C · 跑安全扫描 独立上下文 · 自己的工具循环 主对话只收三段结论(窄带通信) 过程废料随 sub-agent 一起销毁;复杂查询典型并行 3–5 个,研究时长最多压缩 90%
扇出与扇入:一份任务书进去,一段结论回来——隔离创造价值,隔离也制造成本。

三个关键性质,定一切用法与局限

① 独立上下文

看不到主对话历史,只看到那份「任务书」——连你们刚达成的共识它也不知道。

纪律:任务书必须自包含(目标、范围、约束、产出格式一样不能省)。

② 窄带通信

只交回一段最终文字,读过的一百个文件、试错的十轮随分身销毁——主对话干净了,代价是过程不可见、中途难纠偏(multi-agent 难调试,难就难在交接处)。

③ 深度上限

Claude Code 默认 3 层、环境变量可配(v2.1.219 起;v2.1.172–216 曾固定 5 层)、Codex 深度默认值以当日文档为准——没有上限的扇出就是没有上限的账单。

两家实操对照与触发四层

维度Claude CodeCodex
定义文件.claude/agents/*.md(Markdown + frontmatter).codex/agents/*.toml(TOML)
必填字段name、descriptionname、description、developer_instructions
内置角色Explore / Plan / general-purposeexplorer / worker / default
并发与运行默认后台运行(v2.1.198 起)并发上限键已改名(max_concurrent_threads_per_session),默认值由 Codex 定
嵌套深度默认 3 层,环境变量可配当前文档未列默认值
批量特技agent teams 多会话协作当前文档未列(以当日为准)

概念完全同构:配置文件+内置角色+并发/深度限额——学会一家,另一家只是方言。触发机制四层从软到硬:① description 自动路由(写得越具体命中越高)→ ② 对话点名 → ③ CLAUDE.md 常备指令(放倾向,别放硬流程)→ ④ skill 绑 context: fork(显式触发,硬保证)。

派与不派:一本账

口诀:「我要的是结果,还是过程?」——只要结果,外包给 sub-agent;过程影响后续决策,留在主对话。

基线:一次 10K token 的对话任务 基线 10K 单 agent 循环 ≈ 4× → 40K multi-agent ≈ 15× → 150K 放大一个数量级
柱长按 token 量等比画。买到什么:Anthropic 多 agent 研究系统内部评测比单 agent Opus 4 高 90.2%,token 用量单因素解释 80% 的性能方差——性能就是用 token 买的。

派与不派

怎么办什么情况
不派两三步的活;步骤强顺序依赖;依赖主对话已积累的理解
派 1 个过程废料多、结论短(全库搜索、调研)
派 N 个能切成互不依赖的块

治理三件:按任务价值分层开、并发限额、token 预算与超额熔断——先上追踪和预算,再开 multi-agent。

预算这一件对客还有第二重用处:agent 的成本之所以说不准,根子在步数不确定,而步数是可以设上限的。给单任务定一个 token 上限并配超额熔断,成本就从「说不准」变成「有封顶」,报价随之可算——单任务封顶 × 任务量。客户要的从来不是最低价,是知道最坏情况是多少。

机制与配置核实 2026-07-17(深度口径 2026-08-01、Codex 并发口径 2026-10-20 刷新),来源 Claude Code / Codex 官方文档;决策账数字来源 Anthropic 多 agent 研究系统工程博客(BrowseComp 内部评测口径,两家产品迭代都快,引用前先核日期)。

11决策器与问答#agent-cheatsheet

启用条件:六个「什么时候上」

要不要上 X启用条件
工作流 → agent路径无法预先写死、需要模型自主决策时才升级
单 agent → 多 agent可并行、信息面广(如深度调研)且预算容得下 ~15× token
代码 → 低代码平台快速验证/业务自维护;复杂状态机与 CI 需求出现就下沉代码
无记忆 → 记忆跨会话个性化有真实价值,且记忆安全三道防线已就位
API → Computer Use目标系统没有 API、流程短窄可重试;有 API 永远走 API
自研协作 → A2A存在跨厂商/跨组织的 agent 协作,才引入协议层

口诀:每一级升级都有成本——默认从最简单的形态起步,被真实需求推着升级,而不是被技术新鲜感推着。

启用条件决策器

把两把尺、六个启用条件和派与不派的账合成一张表单。判据全部来自本页各节,结论是起点不是终点——真实项目用评估集验证。

按症状导航

症状病根去哪节找防线
agent「跑飞」、做出格的事停机条件与权限没设计循环与停机 · 护栏组合拳
跑久了「变笨」上下文淤积,注意力被稀释四板斧
工具一堆、模型不会用描述含糊、返回过载工具是产品 · 六层契约
费用爆炸multi-agent 乱开、thinking 满档派与不派账
被人「教坏」、行为异常持续记忆投毒(跨会话发作)三道防线
演示灵、生产不灵没有评估集与稳定性口径三刻度与 pass^k

生产就绪:六条验收线

①任务结果(pass^k、判分器、业务指标)②控制边界(拒绝轨迹、越权回归、责任矩阵) ③工具与数据(错误分类表、重复调用测试、跨租户用例)④安全与隐私(威胁建模、红队记录) ⑤SLO 与成本(压测、预算告警、降级策略)⑥恢复与发布(故障演练、runbook、回滚记录)。终极判断一句话:任何一次运行都能回答「谁发起、允许什么、做了什么、为何停止、结果怎样、谁接管」——演示成功只证明可能性,不证明可长期托管。

现场高频追问

只收会改变某个决定的问题——会改变技术方案、风险判断、验收方法、对客沟通或下一步行动。

每题标出它加入本题库的日期:2026-07-07 来自讲义首版对练页, 2026-07-10/11 来自低代码/记忆/Computer Use 增章,2026-07-17 来自 Sub-agent 编排增章,2026-07-23 是按客户交锋场景补的四题(责任归属 / 成本估算 / 换模型换平台 / 能不能放手)。

Agent 和普通的对话机器人到底有什么区别?2026-07-07

机器人只「说」,agent 能「做」:它带着工具在循环里自主行动直到办完。问机器人退款流程,它告诉你步骤;让 agent 处理退款,它去查订单、走流程、给你结果。

这是全册的第一性区分:答案 vs 结果。分不清这一条,后面的成本、护栏、评估讨论都没有落点。

下一步 把对方的需求按三兄弟(机器人/工作流/agent)归位,再谈方案——多数「要 agent」的需求其实是工作流。

依据 是什么 / 为什么

是不是所有场景都该升级成 agent?2026-07-07

不是。流程固定、要求每步可审计的场景,工作流更便宜更可控。agent 适合路径没法预先写死的开放任务。从工作流起步,简单方案不够用再加自主性。

自主性是花钱买的:每多一分自主,就多一分 token 成本与不确定性——价值要配得上代价。这也是 Anthropic 官方立场,引用它反而显专业。

下一步 用决策器当场过一遍对方的场景,输出形态建议与理由。

依据 两把尺 · 启用条件

模型会不会直接操作我们的生产系统?2026-07-07

不会。模型只输出「调用请求」,真正执行的是你部署的代码。每个工具的权限、参数校验、审计日志都由你控制——模型递申请单,批不批、怎么办都在你的系统。

「模型点菜、代码下厨」是安全话术的根基:把担忧从「模型可不可信」转到「工具契约设计得好不好」,后者是工程可控的。

下一步 给对方看六层工具契约表,逐层过一遍他要暴露的第一个工具。

依据 核心组件 · 六层契约

多个 agent 是不是一定比一个强?2026-07-07

不一定。可并行、信息面广的任务(深度调研)确实强得多;串行依赖强的任务反而更慢更贵还难调试。先用单 agent 做基线,量化收益后再决定要不要拆。

15× token 换 90.2% 提升的账要算给对方看:性能就是用 token 买的,任务价值配得上这本账才划算。

下一步 按「要结果还是要过程」的口诀把对方的任务分堆,只对「要结果」的堆开 multi-agent。

依据 编排模式 · 派与不派账

现在模型上下文都百万级了,还需要上下文工程吗?2026-07-07

更需要。窗口变大不等于注意力变多——塞得越满、单位信息越被稀释,成本也线性上涨。大窗口给了「能塞」的自由,上下文工程决定「该塞什么」。

context rot 是真实现象,且省钱与提效在这里罕见地同向:压缩加即时检索通常把长任务成本降数倍,质量不降反升。

下一步 查一遍对方 agent 的每轮上下文构成,按四板斧逐项套——通常立竿见影。

依据 上下文工程

怎么证明 agent 上线后不会出乱子?2026-07-07

三层保障:上线前评估集全量回归、pass^k 稳定性达标;上线后全链路追踪加在线评估盯退化;权限上最小化加高危动作人工审批。不承诺不出错,承诺错了兜得住。

「可度量、可回放、可兜底」这九个字是把安全焦虑转化为工程清单的枢纽——审计友好,也是从演示走向生产的门票。

下一步 对照六条验收线列缺口清单;起步 20–50 条评估样本加开源追踪工具,一到两周建好。

依据 评估与护栏 · 六条验收线

Dify 是开源的,我们为什么要付钱?2026-07-10

开源解决「能不能用」,商业解决「谁来兜底」:托管、治理、SLA 与升级保障。先开源验证、规模化再评估商业版。

许可证还有暗礁:Dify 是 Apache 2.0 加附加条款(多租户 SaaS、去 logo 要商业授权),n8n 是 fair-code 不得转售——「开源」两个字下面各家边界差很多。

下一步 按主负载对号入座选平台,把许可证要点写进方案——别等客户法务来问。

依据 低代码平台

Agent 的记忆会不会被人「教坏」?2026-07-11

会,这叫记忆投毒(OWASP ASI06,研究口径注入成功率超 95%)。防线三道:写入过滤并标记来源、任务间清理、鉴权与定期审计——把记忆当数据库管,不当草稿纸。

投毒与注入的区别是持续性:注入随会话重置,投毒跨会话反复发作,像后门,不主动审计发现不了。卖记忆功能必须捆绑卖记忆安全。

下一步 方案里加一页「记忆写入策略」:什么内容允许入库、谁能写、保留多久、怎么审计。

依据 记忆系统

Computer Use 和 RPA 有什么区别?我们已经买了 RPA。2026-07-11

互补不替代:RPA 写死流程稳而脆(界面改一个按钮就断),CU 自适应但慢而贵。落地常态是混合——RPA 跑稳定主干,CU 接变化页面与异常分支,存量投资不浪费。

两个基准口径要主动讲:短窄任务 85.96% 已实用、长程多应用仅 20.6% ——把短板讲出来反而赢信任,也守住了承诺范围。

下一步 挑一个跨系统抄数据的人工流程,画「RPA 骨架 + CU 兜底」混合草图并按「步数 × 截图成本」估算。

依据 Computer Use

Sub-agent 会不会把费用跑爆?2026-07-17

会放大——研究类任务约 15× token。治理三件:按任务价值分层开、并发限额(Codex 默认 6 线程)、token 预算与超额熔断。先上追踪和预算,再开 multi-agent。

深度上限的存在理由就是这本账:没有上限的扇出就是没有上限的账单(Claude Code 默认 3 层、Codex 默认 1 层)。

下一步 在自己项目实测一次「三个 sub-agent 并行 vs 串行」的墙钟时间与 token,拿实测数字讲账。

依据 派与不派账

怎么保证某个 sub-agent 每次都被调用?2026-07-17

分层:日常写好 description 让它自动路由(写得越具体命中越高);要硬保证就用 skill 绑 context: fork——显式触发,必然进 sub-agent。

四层触发从软到硬(description → 点名 → CLAUDE.md → fork),对应「希望被用」到「必须被用」的不同强度——把机制讲清,客户对可控性的疑虑就落地了。

下一步 给最关键的一个 sub-agent 配 fork 硬保证,其余靠 description 路由,跑一周看命中率。

依据 触发四层 · 来源与核实

万一它自己干错了事,谁负责?出了问题怎么查?2026-07-23

责任别含糊,按执行链分三段就能落到人:模型只输出「我要调这个工具」——它连一次真正的写操作都做不了;执行的是你部署的代码,权限、参数校验、审计日志全在这一格,技术责任在这里;不可逆动作(转账、删除、对外发送)由人签字,业务责任在签字人。怎么查:全链路追踪把每步调用、token、延迟都留下来可回放,复盘不靠猜。验收拿这句话卡:任何一次运行都能回答「谁发起、允许什么、做了什么、为何停止、结果怎样、谁接管」——答不上就是还不能托管。

客户问「谁负责」,本质是怕出事之后没人说得清。把「AI 出错」拆成三段有主体的链条,责任就从模糊的技术风险变成能写进合同的条款;含糊地保证「不会出错」反而是最不可信的回答。

下一步 方案里加一张责任矩阵:逐个高危动作写明「谁批、谁执行、出事谁复盘」——这一页往往比架构图更能推动签字。

依据 评估与护栏 · 六条验收线

这套跑起来一个月要花多少钱?2026-07-23

先纠一个前提:agent 的账不按「问了几次」算,按「跑了几步」算——同一个问题,聊天机器人是一次调用,agent 是一串。所以估算就三个乘数:步数 × 每步上下文 × 任务量。量级参照本页派与不派那本账:单 agent 循环相对一次对话已是数倍,多 agent 再放大一个数量级;Computer Use 另算一本,每步截图的视觉 token 是大头。给客户的报法不是猜总额,是先给单任务设 token 上限并配超额熔断,再乘任务量——步数不确定,预算可以封顶。

客户真正怕的不是贵,是开口报不出、上线后账单失控。把「多少钱」换成「封顶多少」,既给了确定性,又顺势把预算熔断与追踪写进方案——这两样本来就是生产必需品。

下一步 拿对方一个真实任务用单 agent 跑一遍,记实测步数与 token 当报价基数;比任何估算都好用,还顺带暴露工具契约的毛病。

依据 派与不派账 · Computer Use 成本 · 上下文工程

以后换模型、换平台,是不是整套都要重做?2026-07-23

分层答,迁移成本从轻到重:换生成模型最轻——工具契约、编排结构、权限设计都不跟着模型走;换工具或后端次之——接了 MCP 就是换一个 server、agent 侧不动,这正是 M+N 替掉 M×N 的意义;换编排框架中等——取决于复杂逻辑有没有下沉成独立服务,而框架之间的 API 稳定性承诺本来就不一样;换低代码画布最重——画布格式互不相通,这才是真正的锁定点。一句话记住:锁定不在模型层,在画布层。

客户嘴上问「换模型」,风险其实不在那儿。把锁定风险准确指到画布层,一来显专业,二来自然引出你要给的架构建议——复杂逻辑早下沉、画布只做薄编排,这条现在做几乎不花钱,事后补要重写。

下一步 评审方案时问一句「哪些逻辑在画布里、哪些在代码里」——画布里放了状态机,就是已经记在账上的迁移债。

依据 与 code-first 的边界 · 工具接入与 MCP · 编排模式

能不能就交给它自己干,不用人盯着?2026-07-23

这不是「放手 / 不放手」的开关,按动作分档,不按任务分档:读类动作(查询、汇总、起草)直接放手;写类动作限制在可回滚的范围里;不可逆动作——转账、删除、对外发送——永远人签字。这一档通常只占动作数的一小部分,却挡住了绝大多数不可逆风险,所以「加人审」不等于「还得配个人全程盯着」。另外停机条件必须显式设计,三者至少有其一:达成目标 / 超出步数与预算上限 / 需要人来拍板——没有停机条件的 agent,才是真会跑飞的那种。

「不用人盯着」是客户心里的真实诉求,直接说「不行」会丢单,直接说「行」会埋雷。按动作分档把这个二选一变成一张能逐条谈的表,需要投多少人力也随之算得出来。

下一步 把对方这个场景的动作列个清单,逐条标「读 / 可回滚写 / 不可逆」——一张纸就能标完,人审范围当场清楚。

依据 循环与停机 · 护栏组合拳

12上云怎么落地#cloud

导语保留「不绑死单一供应商」的同时补上讲义脚注的另外两句:只列有真实云关联的服务;服务能力以各云 2026 年现状为准,对客引用前复查。

同一环节给多厂商代表选项,不绑死单一供应商;只列有真实云关联的环节,没有就不硬凑。服务能力以各云 2026 年现状为准,报方案前按当期文档复核。

底座与三大件:agent 落在哪些服务上

技术环节代表性云服务(多厂商,非绑定)给客户一句话
托管 agent 运行时Amazon Bedrock AgentCore / Azure AI Foundry Agent Service / Google Vertex AI Agent Builder运行、记忆、监控都有托管件,不必从零自建
模型接入与规划各云模型目录(Bedrock / Azure AI Foundry / Vertex AI)或模型原厂 API,用其上的旗舰推理模型模型可换可混,按任务挑性价比;规划靠模型本身,选推理能力强的档位
开发框架厂商原生 SDK(Claude Agent SDK / OpenAI Agents SDK / Google ADK)或独立框架(LangGraph / CrewAI)原生深度集成 vs 跨厂商可移植,按锁定顾虑选
长期记忆托管数据库与向量检索(RDS·DynamoDB / Cosmos DB / AlloyDB 等),或 Bedrock AgentCore Memory 类托管记忆件记忆本质是存储 + 检索,云上件很成熟
工具执行函数计算(AWS Lambda / Azure Functions / Cloud Run functions)+ API 网关每个工具一个无服务器函数:天然隔离、好加权限

顺着追问什么:这个场景的路径能不能预先写死?写得死就用工作流,别急着谈托管 agent 运行时。客户现在在哪朵云上,模型走云上目录还是原厂 API?团队对厂商锁定有多在意——愿不愿意用原生 SDK 换深度集成?

云替你做不了什么:托管运行时把循环、会话、扩缩容接过去,不替你定停机条件——目标怎么算达成、步数和预算上限设多少、哪一步必须人来拍板,仍然是你要设计的第一块砖。托管记忆件替你存和取,不替你判断哪句话值得写进长期记忆:把一次推断当成事实写回去,就是记忆那一节讲的事故常态。

编排与交接:路径写死的和写不死的

技术环节代表性云服务(多厂商,非绑定)给客户一句话
流程编排(写死路径)AWS Step Functions / Azure Durable Functions·Logic Apps / Google Cloud Workflows工作流用编排服务:可视化、可重试、可审计
多 agent 运行时Bedrock AgentCore / Azure AI Foundry Agent Service / Vertex AI Agent Builder(多 agent 与 A2A 支持陆续内建)托管运行时替你管会话、扩缩容与 agent 间通信
异步交接消息队列(SQS·EventBridge / Service Bus / Pub/Sub)agent 间交接用队列解耦,天然可重试可缓冲

顺着追问什么:这条流程里,哪几步每次都一样、哪几步得看情况定?写死的交编排服务,写不死的才留给 agent。agent 之间是同步等结果,还是可以异步交接、允许排队?有没有跨团队、跨厂商的 agent 要互相发现——有才轮到 A2A。

云替你做不了什么:编排服务管得住写死的那段:可视化、可重试、可审计说的都是它;agent 自主的那段每次路径都不同,只能靠评估集和全链路追踪盯着。队列让交接可重试可缓冲,可交接内容写得含糊,重试多少次也还是那个结果——派出去的任务书必须自包含,这是 sub-agent 那一节的纪律。

接工具:MCP 在企业里怎么部署

技术环节代表性云服务(多厂商,非绑定)给客户一句话
Server 托管函数计算 / 容器服务跑自建 server;主流云与平台陆续提供托管 MCP 目录与网关server 就是个小服务,云上部署与治理都是熟路
企业级管控API 网关 + OAuth(对接各云 IAM,Identity and Access Management)做统一认证、限流、审计把 MCP 流量纳入现有 API 治理体系,不另起炉灶
现成生态官方 servers 仓库 + 各厂商官方 server(GitHub、数据库、SaaS 类)先用现成的,只为私有系统写自己的 server

顺着追问什么:要接的私有系统有没有现成的官方 server,还是得自己写一个?MCP 流量走不走你们现有的 API 网关,认证接哪套 IAM?哪些 server 允许被调用、谁来批——授权落在宿主侧,这个人是谁?

云替你做不了什么:网关和 IAM 管的是「谁能调这个 server」,管不住「server 返回来的内容能不能信」——工具返回值本身就是间接注入的入口。托管目录解决的是找得到、连得上,解决不了工具描述写得好不好:描述含糊、职责重叠,模型照样选错工具,六层契约缺哪层事故就从哪层来。

上线之后:护栏、审计与账单

技术环节代表性云服务(多厂商,非绑定)给客户一句话
内容护栏Amazon Bedrock Guardrails / Azure AI Content Safety / Vertex AI 安全过滤输入输出过滤有托管件,不必自研
身份与权限各云 IAM + 密钥管理(Secrets Manager 类),给每个工具最小授权agent 的权限就是一组可审计的云权限
审计与合规云审计日志(CloudTrail 等)+ 追踪平台留档每一步谁调了什么,事后全程可查
全链路追踪LangSmith / Langfuse(开源可自托管)/ Arize Phoenix(开源)/ W&B Weave每步调用、token、延迟全记录、可回放;LangChain 技术栈选 LangSmith 集成最深,数据不出门选 Langfuse / Phoenix 自托管。
成本与告警平台自带仪表盘 + 云监控(CloudWatch / Azure Monitor / Cloud Monitoring)token 花费、错误率、延迟——agent 的「三高」都要有告警
预算与并发主流模型平台(方舟 / 百炼 / Bedrock 等)的配额与费用告警;模型网关的并发配额与排队策略按任务价值分层设 token 上限与超额熔断,并发上限要对齐网关配额

顺着追问什么:出了一条坏结果,现在多久能定位到是哪一步的问题?哪些动作是不可逆的,谁签字放行?单个任务的 token 上限打算定多少,超了是告警还是直接熔断——全量 trace 又归谁看,那批日志本身也是敏感数据。

云替你做不了什么:内容护栏过的是输入输出的文本,拦不住「权限给多了」——讲义的口径是组合拳而非银弹:最小权限 + 高危动作人工审批 + 输入输出过滤 + 不可信内容隔离标记 + 常态化对抗测试,过滤只解决其中文本那一层。

买平台还是自己搭:四种部署形态

技术环节代表性云服务(多厂商,非绑定)给客户一句话
SaaS 云端最快上手:扣子、Dify Cloud、n8n Cloud零运维;数据出域要过安全评估
自托管开源数据可控:Coze Studio / Dify / n8n 自部署(docker compose 起步)运维自负,升级线自己跟
云市场托管折中:各云应用市场一键部署开源版,云厂商管底座半托管;深度定制受限
企业平台私有化HiAgent 等:治理 + 支持 + SLA 一体成本最高,换来可审计与兜底

顺着追问什么:数据能不能出域,出域要过哪些安全评估?走自托管的话,升级线谁跟、运维谁背?要不要 SLA 和出事有人兜底——这件事愿意付多少?还有一句法务迟早会问:许可证条款你们看过没有?

云替你做不了什么:云市场一键部署管的是底座,深度定制照样受限;开源解决「能不能用」,商业版解决「谁来兜底」,这两件事别混着谈。托管省的是运维,省不掉锁定——最难换的是画布,因为画布格式互不相通,所以复杂逻辑要早下沉成独立服务,画布只做薄编排。

本节服务清单与「给客户一句话」与讲义各章的「上云怎么落地」页同源,未引入新事实;「顺着追问什么」与「云替你做不了什么」两格是网页版补的售前视角。不可外推边界:这是「哪个环节有云服务可用」的地图,不是选型结论——具体产品的地域可用性、配额、计价单位与生命周期状态会月级变动,出方案前按当期官方文档逐项复核。

14来源与核实#sources

本页时效性数字均经联网核实后写入,完整登记(事实 × 核实日期 × 信源)见本模块 MANIFEST。核实窗口 2026-07-07 至 2026-07-17。引用任何数字前先核日期。

来源 ID信源支持什么不能支持什么
src-anthropicAnthropic 工程博客(Building Effective Agents / context engineering / multi-agent research system) 五模式、四板斧、15×/90.2% 决策账内部评测口径(BrowseComp),不能外推为任意任务的收益承诺
src-mcpmodelcontextprotocol.io MCP 版本现状与治理(2026-07-07)已按 2026-07-28 新版更新
src-a2aA2A releases / Linux Foundation 公告 A2A v1.0 时间线与采用规模不涉及协议技术细节(见 A2A 模块)
src-frameworks微软官方公告 / GitHub releases 框架短名单与成熟度锚点(2026-07-12)版本号周级过期
src-owaspgenai.owasp.org / 各官方文档 Agentic Top 10 清单与可观测工具格局清单是风险目录,不是完整防护方案
src-lowcodeGitHub 仓库 / 官方文档 / 融资报道 四平台画像与许可证(2026-07-10)stars 与版本号会漂;许可证以原文为准
src-memory2026 横评 / arXiv 2601.05504、2607.06595 框架四强画像与投毒成功率口径Zep 94.7% 为自报数字;攻击成功率为研究环境
src-cu2026 对比矩阵 / coasty 榜 / arXiv 2606.29537 三路线与基准两口径(2026-07-11)基准 ≠ 生产就绪认证
src-subagentcode.claude.com/docs · developers.openai.com/codex两家 sub-agent 机制与配置(2026-07-17) 产品迭代快,字段与默认值引用前先核当日文档

下一次定点复查:2027-01-31(MCP 规范约半年一版,届时核一遍第 4 节的版本现状); sub-agent 两家的字段与默认值属周级易变项,引用当天核官方文档。