01是什么 / 为什么#agent-what-why
智能体(Agent)= 大模型在循环里自主使用工具完成任务:它自己决定下一步查什么、调什么、什么时候停。聊天机器人给你「答案」,agent 给你「结果」。全册总纲是 Anthropic 的忠告:能用工作流解决就别上 agent——自主性是花钱买的。
三兄弟:自主性是一道光谱
聊天机器人 Chatbot
一问一答,只生成文本,不碰外部系统。适合知识问答、文案、翻译;说得再好也「动不了手」,答案止步于建议。
工作流 Workflow
人预先写死步骤,模型在固定节点上被调用。适合流程固定的任务(工单分类→套模板回复);路径可控、可审计、成本可预期。
智能体 Agent
模型自己决定路径、自己选工具,步骤数不确定。适合开放式任务——排查、调研、编码;换来灵活,付出成本与不确定性。
循环怎么转,什么时候该上
基本循环四步:感知任务 → 思考规划 → 调用工具 → 观察结果,没完成就回到思考。停机条件必须显式设计:达成目标、超出步数/预算上限、或需要人来拍板——三者至少有其一,否则 agent 可能「跑飞」。这是护栏的第一块砖。
判断该不该上,两把尺:任务开放程度(路径能不能预先写死)和容错成本(单步出错可不可回退)。该上的信号:任务开放、有可验证的完成信号、允许多轮试错;先别上的信号:流程固定要求逐步审计、对延迟和成本极敏感的高频请求、出错不可回滚(转账、删数据——至少要加人工审批)。这两把尺连同六个「什么时候上」,都收进了启用条件决策器。
02核心组件#agent-components
拆开 agent 的三大件:
工具质量往往比模型选型更影响表现——工具是写给模型的产品。
规划与记忆
规划的主流是 ReAct 式「边想边做」:每步先写下推理再行动,用上一步的结果修正下一步——像老练的维修工,拆一步看一眼,随时修正判断。规划能力决定 agent 能接多大的活(单点技巧的出处在 Prompt Engineering 第 4 章)。记忆分两层:
短期记忆=上下文窗口
桌面,有限且贵。
长期记忆=外部存储
档案柜,跨会话保留按需取回。
「什么留在桌面、什么进档案柜」是上下文工程与记忆系统两节的主题。
一次 Function Calling 的完整来回
关键在第三步:模型只「点菜」不「下厨」——真正执行的是你的代码,权限、校验、审计都握在你手里。这是对客户讲安全时最有力的一句话。这套一来一回被 MCP 标准化成了跨厂商协议,报文逐字段的注释见 MCP 网页版。
工具是写给模型的产品
两个常见的坑:
描述含糊、职责重叠
模型分不清 search_orders 和 query_orders 该用哪个。
解法:合并重复工具,描述里写清「什么时候用我、什么时候别用我」。
返回信息过载
一次回传几千行 JSON 挤爆上下文。
解法:只返回刚好够用的字段,错误信息要能指导模型下一步怎么办,而不是一句 error。
接工具不是「有 API 就行」——命名、描述、返回的设计直接决定 agent 用不用得好。
多模态让 agent 的感知从纯文本扩展到屏幕截图、图表、扫描件——视觉成为新的工具入参,也是 Computer Use 的前提(模型怎么看懂图见 Multimodal 模块)。
03编排模式#agent-orchestration
编排是系统的「组织架构图」:决定哪些模型调用、按什么结构组合。先看任务结构,再定架构,不是越复杂越好。
| 模式 | 结构 | 适用场景 |
|---|---|---|
| 链式 Prompt Chaining | 步骤串行,上一步输出是下一步输入 | 任务能拆成固定先后:先写大纲再写正文 |
| 路由 Routing | 先分类,再分发给专门分支 | 输入类型差异大:客服问题分技术/账务/售后 |
| 并行 Parallelization | 多路同时跑,再聚合 | 子任务独立可同时做;或多路投票提置信度 |
| 指挥官-工人 Orchestrator-Workers | 中央模型动态拆任务、派工人、汇总 | 子任务无法预先枚举:深度调研、多文件修改 |
| 评估-优化 Evaluator-Optimizer | 一个生成、一个评审,循环打磨 | 有明确评价标准且值得迭代:翻译润色、报告质检 |
前三种路径写死,属于「工作流」;后两种开始有自主性。生产系统的常见折中是「骨架写死、血肉自主」:外层编排服务管流程(可视化、可重试、可审计),节点内让 agent 自由发挥——和传统 BPM 引擎的区别就在这里,两者常配合使用。multi-agent 的成本账(约 15× token 换什么)统一在 Sub-agent 编排一节算。
A2A:agent 之间怎么握手
A2A(Agent2Agent)是跨团队、跨厂商的 agent 互相发现与协作的开放协议:用签名 Agent Card 声明「我是谁、会什么」(签名防伪装),任务经标准接口互相委托,全程可审计。2026-03 发布 v1.0(当前 v1.0.1),Linux Foundation 治理,150+ 组织采用。一句对照:MCP 是「agent 用工具」的 USB-C,A2A 是「agent 找 agent」的名片加合同——组织内先把 MCP 用好,有跨组织协作需求再引入 A2A(协议细节见 A2A 模块)。
A2A 版本与采用规模核实 2026-07-12,来源 A2A releases / Linux Foundation 公告;框架现状(Microsoft Agent Framework 1.0 GA 合并 AutoGen 与 Semantic Kernel;LangGraph 已过 1.0、OpenAI Agents SDK 仍 0.x——短名单都能用,API 稳定性承诺不同)同日核实,来源 官方公告与 GitHub releases。不可外推边界:版本号与 API 稳定性承诺都是当日快照;「短名单都能用」指的是都有公开生产案例,不是能力等价——选型仍要按自己的负载实测。
04工具接入与 MCP#agent-tools-mcp
各家 function calling 格式不同,M 个应用 × N 个工具= M×N 套连接器;MCP 把它变成 M+N——AI 应用接工具的 USB-C。协议本身的解剖、传输、安全与生产落地,深入看 MCP 网页版;本节只讲 agent 侧独有的两件事。
agent 侧要点
信任边界在 Host:授权、可见性、调用确认都在宿主层控制,server 只声明能力、被动应答。设计取舍记一条:能用资源(Resources)就别包成工具(Tools)——只读数据走资源,上下文更干净、权限也更好管。现状一句话:现行规范 2026-07-28(无状态核心,server 更好扩容),旧版进入兼容期 (弃用到移除至少留 12 个月),AAIF 中立治理不绑定厂商。
生产工具的六层契约(agent 侧独有)
| 层 | 管什么 | 缺了会怎样 |
|---|---|---|
| ① 发现 | 名称/用途/反例写清楚 | 模型分不清该用哪个、什么时候不该用 |
| ② 输入 | 严格 schema、取值范围、租户字段 | 没有租户字段=跨客户越权 |
| ③ 授权 | 主体、scope、资源级策略 | 权限放大,出事破坏面失控 |
| ④ 执行 | 超时、幂等、限流、审计 | 重复下单、刷爆后端、事后说不清 |
| ⑤ 输出 | 高信号、分页截断、带来源 | 一次调用吃掉半个上下文窗口 |
| ⑥ 错误 | 可重试/不可恢复/需审批,分类返回 | 模型对着「500」死重试 |
投入在工具契约上的一小时,常比调一天提示词更能提升成功率——工具返回的质量决定模型「看到什么」,提示词只决定「怎么看」。评审 agent 方案先翻它的工具清单:六层缺哪层,事故就从哪层来。
MCP 版本现状核实 2026-07-30(建议复查日 2027-01-31),来源 modelcontextprotocol.io。不可外推边界:2026-07-28 新规范已发布,本节结论已按新版更新;引用时仍必须带版本号。
05上下文工程#agent-context
上下文是注意力预算:塞得越满,单位信息被关注的概率越低,表现随长度衰减(业内称 context rot,「越长越笨」是真实现象)。问题从「怎么说」(提示词工程)升级成了「给模型看什么」。
直觉案例:同一个排障任务,把 20 万 token 日志全塞给模型,不如先 grep 出 2 千 token 相关段落再给——后者更快、更准、还便宜一百倍。窗口大只给了「能塞」的自由,上下文工程决定「该塞什么」(长上下文为什么贵的机制账,见 LLM-Inference 网页版)。
| 板斧 | 怎么做 | 什么时候用 |
|---|---|---|
| 压缩 Compaction | 上下文快满时把历史总结成摘要重开:保留决策与未决事项,丢过程噪声 | 长任务续命的标配——Claude Code 的 auto-compact 就是它 |
| 结构化笔记 Note-taking | 关键进展写进外部文件(待办、进展日志),需要时读回 | 跨会话、跨窗口的持久化,成本几乎为零 |
| 即时检索 Just-in-time | 不预载全部资料,只存路径/指针,用到哪段现查现取 | 资料库大而杂时的首选——这正是 RAG 的主场 |
| 子 agent 隔离 Sub-agents | 派子 agent 深潜子问题,只带结论回来,过程垃圾留在分身里 | 探索型任务:大范围搜索、多文件排查(机制见第 10 节) |
四板斧常组合使用。压缩有一条实操铁律:摘要必须保留「已决策事项」——丢了它,agent 会重复劳动甚至推翻自己。判断准绳一句话:每轮进入模型的上下文,是否都是「当前这步需要的最小高信号集合」。
Agentic RAG:两个模块的接缝
把检索当工具交给 agent:它自己决定查不查、查什么、查几轮,根据首轮结果改写查询再深挖——检索从「固定的前置步骤」变成「循环里的自主动作」,代价是延迟与成本随轮数上升。检索质量的地基(切分、Embedding、重排序、评估)全在 RAG 模块——那边把库建好,这边 agent 才有得查。RAG 建库的投资完全复用,区别只在调用方式。
06评估与护栏#agent-eval-guardrails
agent 是非确定的:同一任务每次路径都可能不同,单元测试思路失效。上线的门槛不是「演示成功」,而是「重复一百次的成功率」。给客户的总话术:不承诺不出错,承诺可度量、可回放、可兜底。
评估三刻度
| 刻度 | 看什么 | 特点与用法 |
|---|---|---|
| 结果级 Outcome | 只验终态:任务完成没有 | 最贴近业务价值,但看不出为什么失败 |
| 轨迹级 Trajectory | 逐步检查工具调用序列是否合理 | 定位问题的利器;可用 LLM-as-judge 自动打分 |
| 稳定性 pass^k | 同一任务跑 k 次全部成功的概率(τ-bench 引入) | 生产就绪度的硬指标——把「偶尔灵」打回原形 |
评估集从真实失败案例滚动积累,每次改动全量回归。可观测性三件套:全链路追踪(LangSmith / Langfuse / Arize Phoenix / W&B Weave,每步调用、token、延迟可回放)、在线评估(对生产流量抽样打分)、成本与告警。选型口诀:LangChain 栈选 LangSmith,数据不出门选 Langfuse / Phoenix 自托管。先上追踪、再上 multi-agent,顺序不能反。
OWASP 风险清单与防护组合拳
OWASP《Top 10 for Agentic Applications》(2026)是行业标准清单,风险的共性是「agent 轻信了不该信的内容」:
防护是组合拳而非银弹:最小权限 + 高危动作人工审批 + 输入/输出过滤 + 不可信内容隔离标记 + 常态化对抗测试。像新员工入职三件套:工卡只开必要门禁、大额报销要主管签字、外来包裹先过安检。人工审批只审高危动作(转账、删除、对外发送),通常只占动作数的一小部分,却挡住绝大多数不可逆风险。agent 的安全不取决于模型够不够聪明,取决于权限与流程设计得够不够克制。
把审批范围划下来,顺手也把责任划清了。范围按动作分档,不按任务分档:读类动作(查询、汇总、起草)放手跑;写类动作限制在可回滚的范围里;不可逆动作签字放行。对应的责任链条正好三段——模型只输出调用请求(供应商侧)、你的代码真正执行(工程侧,权限与审计都在这一格)、高危动作由人签字(业务侧)。客户问「出了事谁负责」,答案就是这三段,逐段都有主体;配上可回放的全链路追踪,事故复盘就不是各执一词。
OWASP 清单与工具格局核实 2026-07-07,来源 genai.owasp.org 与各官方文档。深入的攻防机制见 Security 模块。不可外推边界:OWASP 清单是风险面的行业共识,不是覆盖度承诺——清单上没有的不等于不存在,记忆投毒(ASI06)就是后补进来的。
07低代码平台#agent-lowcode
客户的第一个问题往往不是「用什么框架」,而是「有没有平台」。低代码平台卖的不是 agent 循环,是外围工程:知识库、渠道、权限、审批流——像 WordPress 之于手写前端。 2026 年企业的默认路径是先平台、后下沉。
| 平台 | 定位(主负载) | 许可证与商用要点 | 规模口径(2026-07) |
|---|---|---|---|
| Coze / 扣子(字节) | 对话 bot 与多渠道分发最快 | 开源版 Apache 2.0——可商用可闭源二开 | 21.7k stars、V0.5.1;SaaS 扣子 3.0 多人多 Agent 协作 |
| Dify | LLM 应用底座,RAG 一等公民(摄取/切分/检索内置);v1.16.0 起携 Dify Agent(Open Beta) | Apache 2.0 + 附加条款——多租户 SaaS、去 logo 需商业授权 | 159k stars、v1.17.1 |
| n8n | 通用工作流自动化 + AI 节点,几百个 SaaS 连接器 | fair-code——内部使用免费,不得转售 n8n 本身 | ~208k stars;估值 ~$5.2B(2026-05 SAP 投资) |
| HiAgent(火山引擎) | 企业级:开发-运行-治理全流程、数字员工管理 | 商业产品,支持私有化,含 SLA | 中国智能体平台份额第一梯队(IDC 口径) |
选型按主负载对号入座:问答→Dify、集成→n8n、对话 bot→Coze、私有化+治理→HiAgent 类。 stars 与版本号会漂,方向不变。许可证是售前必答题——别等客户法务来问;「开源免费为什么买你的」的答案在托管、治理、SLA 与升级保障,不在功能本身。
与 code-first 的边界:分水岭三问
① 状态机复杂吗(多分支/回滚/长事务)?② 要可测试、可版本化吗(CI/评估回归)? ③ 要深度定制吗(自定义循环/上下文工程)?两个「是」就该下沉代码(LangGraph / Agent SDK)。生产范式是「平台做壳、复杂节点下沉代码」——Dify 节点里调一个 LangGraph 服务是常规操作;锁定主要在工作流画布(格式不通),对策是复杂逻辑早下沉,画布只做薄编排。
把锁定摊开看,迁移成本是逐层递增的:换生成模型最轻,工具契约与编排结构都不跟着模型走;换工具或后端次之,接了 MCP 就是换一个 server、agent 侧不动;换编排框架中等,看复杂逻辑有没有下沉成独立服务;换画布最重,因为画布格式互不相通。所以「怕被锁定」的注意力该放在最下面那层——越难换的层,越该薄。
四平台口径核实 2026-07-10(Coze / Dify / n8n 行 2026-10-20 刷新),来源 GitHub 仓库 / 官方文档 / 融资报道。
08记忆系统#agent-memory
记忆工程的本质是「挑什么值得记、取什么值得带」,不是容量竞赛。生产主流是分层:小核心常驻上下文 + 向量检索层按需取 + 显式遗忘策略。卖记忆功能必须捆绑卖记忆安全。
两张图:认知分类与工程分层
记什么(认知分类)
| working 工作记忆 | 手头便签 |
| episodic 情景记忆 | 日记 |
| semantic 语义记忆 | 常识卡片 |
| procedural 程序记忆 | 肌肉记忆 |
存哪里、归谁管、怎么删(工程分层)
| 层 | 存多久 | 归谁管 |
|---|---|---|
| 工作状态 | 任务结束即归档 | agent 运行时 |
| 会话状态 | 会话期 | Session 存储 |
| 长期记忆 | 带 TTL、可更正删除 | 记忆服务 |
| 业务事实 | 永久 | 权威系统(订单 / 合同) |
设计评审两张表都要过。
事故常态:把一次推断写进长期记忆甚至业务库
比如「客户好像要退货」被当成事实存下来。铁律:模型可以从四层读,但写回权威事实库或长期记忆必须过验证。
| 框架 | 画像(2026-07 口径) | 适用 |
|---|---|---|
| Mem0 | 托管记忆层:自动抽取,向量+图+KV 混合存储;67K+ stars 社区最大 | 最快集成、托管起步 |
| Letta(前 MemGPT) | OS 式显式内存块:core 常驻提示、archival 靠工具取 | 要精细控制记忆内容 |
| Zep | 时序知识图谱、情景记忆;自报 LoCoMo 94.7% | 时间线与关系推理重的场景 |
| LangMem | LangGraph 原生记忆组件 | 已深绑 LangGraph 栈 |
与 RAG 的边界:RAG 记组织的知识(文档、口径),记忆记这个用户与这个 agent 的交互史——载体技术相通(都是存储+检索),管理策略完全不同,两套并存。隐私合规按个人数据管理:可查可删(遗忘权)、最小化存储、保留期明确。
记忆投毒:比注入更阴险
攻击者把恶意内容写进长期记忆,此后每次会话都发作——与提示注入的关键区别:注入随会话重置,投毒跨会话持续。OWASP Agentic Top 10 已单列为 ASI06;研究口径触目惊心:MINJA 注入成功率 >95%,多项研究报 80–99.8%。三道防线:写入前过滤并标记来源、任务之间清理临时上下文、记忆写入鉴权并定期审计——把记忆当数据库管,不当草稿纸。投毒的记忆像后门,不主动审计根本发现不了。
框架横评与投毒研究核实 2026-07-11(Mem0 stars 2026-10-20 刷新),来源 2026 横评 / arXiv 2601.05504、2607.06595。防线与 Security 第 5 章同源展开。不可外推边界:投毒成功率来自研究环境的对抗实验,不能外推成生产系统的实际发生率;它支持的是「必须有写入过滤与审计」,不是「你已经被投毒了」。
09Computer Use#agent-computer-use
让 agent 像人一样看屏幕、动鼠标——没有 API 的系统也能自动化。像雇了个会用电脑的实习生:不用改造系统,但得盯着点。判据先行:有 API 就走 API,Computer Use 不是默认选项。
三条路线与两个基准口径
三条路线按任务所在处选:Claude Computer Use(截图+鼠键通用原语,跨 VM/远程桌面,唯一全桌面);Gemini Computer Use(DOM 感知,纯网页任务更稳更便宜); OpenAI Codex Background CU(2026-04 发布,macOS 桌面批量并行)。开源代表 Browser Use。
| 口径 | 数字(2026-07) | 怎么解读 |
|---|---|---|
| OSWorld-Verified(短窄任务) | Claude Fable 5 达 85.96%(2024 年起步仅 14.9%) | 两年 5 倍:短任务已实用 |
| OSWorld 2.0(长程多应用) | Opus 4.8 仅 20.6% | 跨应用长任务还早,别超卖 |
| 浏览器基准 | OpenAI CUA:WebVoyager 87% / OSWorld 38.1% | 网页 ≠ 桌面,口径分开引 |
售前纪律:基准不是生产就绪认证——演示用「短、窄、可重试」的任务圈定范围,把 20.6% 那个数字主动讲出来反而赢信任。
与 RPA 的关系、安全与成本
RPA 流程写死——稳而脆,界面改一个按钮就断;Computer Use 自适应——但慢而贵。落地常态是混合:RPA 跑稳定主干,CU 处理变化页面与异常分支,存量投资不浪费。安全边界四件:跑在沙箱/虚拟桌面(别碰真实工作机)、账号最小权限、不可逆操作人审、屏幕内容当不可信输入——网页里藏一行字就可能指挥 agent,注入面转移到了屏幕上。成本提醒:每步都要截图进模型,视觉 token 是大头——按「步数 × 每步截图成本」估算,长流程常是 RPA 混合的账更好看。
路线与基准核实 2026-07-11(OSWorld-Verified 2026-10-20 刷新),来源 2026 对比矩阵 / arXiv 2606.29537。不可外推边界:两个基准的口径差得很远(短窄任务 vs 长程多应用),任何一个数字单拎出来都会误导,对客必须两个一起给。
10Sub-agent 编排#agent-subagent
Sub-agent 是一个普通 agent,只是雇主换成了另一个 agent——同一机制递归一层,不是新物种。派遣能力住在运行时层:模型只会输出「我要调这个工具」,运行时把新循环真的跑起来,产品层包装成配置、路由与面板。普通 chatbot 没有 sub-agent,是运行时没实现,不是模型不会。
三个关键性质,定一切用法与局限
① 独立上下文
看不到主对话历史,只看到那份「任务书」——连你们刚达成的共识它也不知道。
纪律:任务书必须自包含(目标、范围、约束、产出格式一样不能省)。
② 窄带通信
只交回一段最终文字,读过的一百个文件、试错的十轮随分身销毁——主对话干净了,代价是过程不可见、中途难纠偏(multi-agent 难调试,难就难在交接处)。
③ 深度上限
Claude Code 默认 3 层、环境变量可配(v2.1.219 起;v2.1.172–216 曾固定 5 层)、Codex 深度默认值以当日文档为准——没有上限的扇出就是没有上限的账单。
两家实操对照与触发四层
| 维度 | Claude Code | Codex |
|---|---|---|
| 定义文件 | .claude/agents/*.md(Markdown + frontmatter) | .codex/agents/*.toml(TOML) |
| 必填字段 | name、description | name、description、developer_instructions |
| 内置角色 | Explore / Plan / general-purpose | explorer / worker / default |
| 并发与运行 | 默认后台运行(v2.1.198 起) | 并发上限键已改名(max_concurrent_threads_per_session),默认值由 Codex 定 |
| 嵌套深度 | 默认 3 层,环境变量可配 | 当前文档未列默认值 |
| 批量特技 | agent teams 多会话协作 | 当前文档未列(以当日为准) |
概念完全同构:配置文件+内置角色+并发/深度限额——学会一家,另一家只是方言。触发机制四层从软到硬:① description 自动路由(写得越具体命中越高)→ ② 对话点名 → ③ CLAUDE.md 常备指令(放倾向,别放硬流程)→ ④ skill 绑 context: fork(显式触发,硬保证)。
派与不派:一本账
口诀:「我要的是结果,还是过程?」——只要结果,外包给 sub-agent;过程影响后续决策,留在主对话。
派与不派
| 怎么办 | 什么情况 |
|---|---|
| 不派 | 两三步的活;步骤强顺序依赖;依赖主对话已积累的理解 |
| 派 1 个 | 过程废料多、结论短(全库搜索、调研) |
| 派 N 个 | 能切成互不依赖的块 |
治理三件:按任务价值分层开、并发限额、token 预算与超额熔断——先上追踪和预算,再开 multi-agent。
预算这一件对客还有第二重用处:agent 的成本之所以说不准,根子在步数不确定,而步数是可以设上限的。给单任务定一个 token 上限并配超额熔断,成本就从「说不准」变成「有封顶」,报价随之可算——单任务封顶 × 任务量。客户要的从来不是最低价,是知道最坏情况是多少。
机制与配置核实 2026-07-17(深度口径 2026-08-01、Codex 并发口径 2026-10-20 刷新),来源 Claude Code / Codex 官方文档;决策账数字来源 Anthropic 多 agent 研究系统工程博客(BrowseComp 内部评测口径,两家产品迭代都快,引用前先核日期)。
11决策器与问答#agent-cheatsheet
启用条件:六个「什么时候上」
| 要不要上 X | 启用条件 |
|---|---|
| 工作流 → agent | 路径无法预先写死、需要模型自主决策时才升级 |
| 单 agent → 多 agent | 可并行、信息面广(如深度调研)且预算容得下 ~15× token |
| 代码 → 低代码平台 | 快速验证/业务自维护;复杂状态机与 CI 需求出现就下沉代码 |
| 无记忆 → 记忆 | 跨会话个性化有真实价值,且记忆安全三道防线已就位 |
| API → Computer Use | 目标系统没有 API、流程短窄可重试;有 API 永远走 API |
| 自研协作 → A2A | 存在跨厂商/跨组织的 agent 协作,才引入协议层 |
口诀:每一级升级都有成本——默认从最简单的形态起步,被真实需求推着升级,而不是被技术新鲜感推着。
启用条件决策器
把两把尺、六个启用条件和派与不派的账合成一张表单。判据全部来自本页各节,结论是起点不是终点——真实项目用评估集验证。
按症状导航
| 症状 | 病根 | 去哪节找防线 |
|---|---|---|
| agent「跑飞」、做出格的事 | 停机条件与权限没设计 | 循环与停机 · 护栏组合拳 |
| 跑久了「变笨」 | 上下文淤积,注意力被稀释 | 四板斧 |
| 工具一堆、模型不会用 | 描述含糊、返回过载 | 工具是产品 · 六层契约 |
| 费用爆炸 | multi-agent 乱开、thinking 满档 | 派与不派账 |
| 被人「教坏」、行为异常持续 | 记忆投毒(跨会话发作) | 三道防线 |
| 演示灵、生产不灵 | 没有评估集与稳定性口径 | 三刻度与 pass^k |
生产就绪:六条验收线
①任务结果(pass^k、判分器、业务指标)②控制边界(拒绝轨迹、越权回归、责任矩阵) ③工具与数据(错误分类表、重复调用测试、跨租户用例)④安全与隐私(威胁建模、红队记录) ⑤SLO 与成本(压测、预算告警、降级策略)⑥恢复与发布(故障演练、runbook、回滚记录)。终极判断一句话:任何一次运行都能回答「谁发起、允许什么、做了什么、为何停止、结果怎样、谁接管」——演示成功只证明可能性,不证明可长期托管。
现场高频追问
只收会改变某个决定的问题——会改变技术方案、风险判断、验收方法、对客沟通或下一步行动。
每题标出它加入本题库的日期:2026-07-07 来自讲义首版对练页, 2026-07-10/11 来自低代码/记忆/Computer Use 增章,2026-07-17 来自 Sub-agent 编排增章,2026-07-23 是按客户交锋场景补的四题(责任归属 / 成本估算 / 换模型换平台 / 能不能放手)。
Agent 和普通的对话机器人到底有什么区别?2026-07-07
机器人只「说」,agent 能「做」:它带着工具在循环里自主行动直到办完。问机器人退款流程,它告诉你步骤;让 agent 处理退款,它去查订单、走流程、给你结果。
这是全册的第一性区分:答案 vs 结果。分不清这一条,后面的成本、护栏、评估讨论都没有落点。
下一步 把对方的需求按三兄弟(机器人/工作流/agent)归位,再谈方案——多数「要 agent」的需求其实是工作流。
依据 是什么 / 为什么
是不是所有场景都该升级成 agent?2026-07-07
模型会不会直接操作我们的生产系统?2026-07-07
多个 agent 是不是一定比一个强?2026-07-07
现在模型上下文都百万级了,还需要上下文工程吗?2026-07-07
更需要。窗口变大不等于注意力变多——塞得越满、单位信息越被稀释,成本也线性上涨。大窗口给了「能塞」的自由,上下文工程决定「该塞什么」。
context rot 是真实现象,且省钱与提效在这里罕见地同向:压缩加即时检索通常把长任务成本降数倍,质量不降反升。
下一步 查一遍对方 agent 的每轮上下文构成,按四板斧逐项套——通常立竿见影。
依据 上下文工程
怎么证明 agent 上线后不会出乱子?2026-07-07
Dify 是开源的,我们为什么要付钱?2026-07-10
开源解决「能不能用」,商业解决「谁来兜底」:托管、治理、SLA 与升级保障。先开源验证、规模化再评估商业版。
许可证还有暗礁:Dify 是 Apache 2.0 加附加条款(多租户 SaaS、去 logo 要商业授权),n8n 是 fair-code 不得转售——「开源」两个字下面各家边界差很多。
下一步 按主负载对号入座选平台,把许可证要点写进方案——别等客户法务来问。
依据 低代码平台
Agent 的记忆会不会被人「教坏」?2026-07-11
会,这叫记忆投毒(OWASP ASI06,研究口径注入成功率超 95%)。防线三道:写入过滤并标记来源、任务间清理、鉴权与定期审计——把记忆当数据库管,不当草稿纸。
投毒与注入的区别是持续性:注入随会话重置,投毒跨会话反复发作,像后门,不主动审计发现不了。卖记忆功能必须捆绑卖记忆安全。
下一步 方案里加一页「记忆写入策略」:什么内容允许入库、谁能写、保留多久、怎么审计。
依据 记忆系统
Computer Use 和 RPA 有什么区别?我们已经买了 RPA。2026-07-11
互补不替代:RPA 写死流程稳而脆(界面改一个按钮就断),CU 自适应但慢而贵。落地常态是混合——RPA 跑稳定主干,CU 接变化页面与异常分支,存量投资不浪费。
两个基准口径要主动讲:短窄任务 85.96% 已实用、长程多应用仅 20.6% ——把短板讲出来反而赢信任,也守住了承诺范围。
下一步 挑一个跨系统抄数据的人工流程,画「RPA 骨架 + CU 兜底」混合草图并按「步数 × 截图成本」估算。
依据 Computer Use
Sub-agent 会不会把费用跑爆?2026-07-17
会放大——研究类任务约 15× token。治理三件:按任务价值分层开、并发限额(Codex 默认 6 线程)、token 预算与超额熔断。先上追踪和预算,再开 multi-agent。
深度上限的存在理由就是这本账:没有上限的扇出就是没有上限的账单(Claude Code 默认 3 层、Codex 默认 1 层)。
下一步 在自己项目实测一次「三个 sub-agent 并行 vs 串行」的墙钟时间与 token,拿实测数字讲账。
依据 派与不派账
怎么保证某个 sub-agent 每次都被调用?2026-07-17
万一它自己干错了事,谁负责?出了问题怎么查?2026-07-23
责任别含糊,按执行链分三段就能落到人:模型只输出「我要调这个工具」——它连一次真正的写操作都做不了;执行的是你部署的代码,权限、参数校验、审计日志全在这一格,技术责任在这里;不可逆动作(转账、删除、对外发送)由人签字,业务责任在签字人。怎么查:全链路追踪把每步调用、token、延迟都留下来可回放,复盘不靠猜。验收拿这句话卡:任何一次运行都能回答「谁发起、允许什么、做了什么、为何停止、结果怎样、谁接管」——答不上就是还不能托管。
客户问「谁负责」,本质是怕出事之后没人说得清。把「AI 出错」拆成三段有主体的链条,责任就从模糊的技术风险变成能写进合同的条款;含糊地保证「不会出错」反而是最不可信的回答。
下一步 方案里加一张责任矩阵:逐个高危动作写明「谁批、谁执行、出事谁复盘」——这一页往往比架构图更能推动签字。
这套跑起来一个月要花多少钱?2026-07-23
先纠一个前提:agent 的账不按「问了几次」算,按「跑了几步」算——同一个问题,聊天机器人是一次调用,agent 是一串。所以估算就三个乘数:步数 × 每步上下文 × 任务量。量级参照本页派与不派那本账:单 agent 循环相对一次对话已是数倍,多 agent 再放大一个数量级;Computer Use 另算一本,每步截图的视觉 token 是大头。给客户的报法不是猜总额,是先给单任务设 token 上限并配超额熔断,再乘任务量——步数不确定,预算可以封顶。
客户真正怕的不是贵,是开口报不出、上线后账单失控。把「多少钱」换成「封顶多少」,既给了确定性,又顺势把预算熔断与追踪写进方案——这两样本来就是生产必需品。
下一步 拿对方一个真实任务用单 agent 跑一遍,记实测步数与 token 当报价基数;比任何估算都好用,还顺带暴露工具契约的毛病。
依据 派与不派账 · Computer Use 成本 · 上下文工程
以后换模型、换平台,是不是整套都要重做?2026-07-23
分层答,迁移成本从轻到重:换生成模型最轻——工具契约、编排结构、权限设计都不跟着模型走;换工具或后端次之——接了 MCP 就是换一个 server、agent 侧不动,这正是 M+N 替掉 M×N 的意义;换编排框架中等——取决于复杂逻辑有没有下沉成独立服务,而框架之间的 API 稳定性承诺本来就不一样;换低代码画布最重——画布格式互不相通,这才是真正的锁定点。一句话记住:锁定不在模型层,在画布层。
客户嘴上问「换模型」,风险其实不在那儿。把锁定风险准确指到画布层,一来显专业,二来自然引出你要给的架构建议——复杂逻辑早下沉、画布只做薄编排,这条现在做几乎不花钱,事后补要重写。
下一步 评审方案时问一句「哪些逻辑在画布里、哪些在代码里」——画布里放了状态机,就是已经记在账上的迁移债。
依据 与 code-first 的边界 · 工具接入与 MCP · 编排模式
能不能就交给它自己干,不用人盯着?2026-07-23
这不是「放手 / 不放手」的开关,按动作分档,不按任务分档:读类动作(查询、汇总、起草)直接放手;写类动作限制在可回滚的范围里;不可逆动作——转账、删除、对外发送——永远人签字。这一档通常只占动作数的一小部分,却挡住了绝大多数不可逆风险,所以「加人审」不等于「还得配个人全程盯着」。另外停机条件必须显式设计,三者至少有其一:达成目标 / 超出步数与预算上限 / 需要人来拍板——没有停机条件的 agent,才是真会跑飞的那种。
「不用人盯着」是客户心里的真实诉求,直接说「不行」会丢单,直接说「行」会埋雷。按动作分档把这个二选一变成一张能逐条谈的表,需要投多少人力也随之算得出来。
下一步 把对方这个场景的动作列个清单,逐条标「读 / 可回滚写 / 不可逆」——一张纸就能标完,人审范围当场清楚。
12上云怎么落地#cloud
导语保留「不绑死单一供应商」的同时补上讲义脚注的另外两句:只列有真实云关联的服务;服务能力以各云 2026 年现状为准,对客引用前复查。
同一环节给多厂商代表选项,不绑死单一供应商;只列有真实云关联的环节,没有就不硬凑。服务能力以各云 2026 年现状为准,报方案前按当期文档复核。
底座与三大件:agent 落在哪些服务上
| 技术环节 | 代表性云服务(多厂商,非绑定) | 给客户一句话 |
|---|---|---|
| 托管 agent 运行时 | Amazon Bedrock AgentCore / Azure AI Foundry Agent Service / Google Vertex AI Agent Builder | 运行、记忆、监控都有托管件,不必从零自建 |
| 模型接入与规划 | 各云模型目录(Bedrock / Azure AI Foundry / Vertex AI)或模型原厂 API,用其上的旗舰推理模型 | 模型可换可混,按任务挑性价比;规划靠模型本身,选推理能力强的档位 |
| 开发框架 | 厂商原生 SDK(Claude Agent SDK / OpenAI Agents SDK / Google ADK)或独立框架(LangGraph / CrewAI) | 原生深度集成 vs 跨厂商可移植,按锁定顾虑选 |
| 长期记忆 | 托管数据库与向量检索(RDS·DynamoDB / Cosmos DB / AlloyDB 等),或 Bedrock AgentCore Memory 类托管记忆件 | 记忆本质是存储 + 检索,云上件很成熟 |
| 工具执行 | 函数计算(AWS Lambda / Azure Functions / Cloud Run functions)+ API 网关 | 每个工具一个无服务器函数:天然隔离、好加权限 |
顺着追问什么:这个场景的路径能不能预先写死?写得死就用工作流,别急着谈托管 agent 运行时。客户现在在哪朵云上,模型走云上目录还是原厂 API?团队对厂商锁定有多在意——愿不愿意用原生 SDK 换深度集成?
云替你做不了什么:托管运行时把循环、会话、扩缩容接过去,不替你定停机条件——目标怎么算达成、步数和预算上限设多少、哪一步必须人来拍板,仍然是你要设计的第一块砖。托管记忆件替你存和取,不替你判断哪句话值得写进长期记忆:把一次推断当成事实写回去,就是记忆那一节讲的事故常态。
编排与交接:路径写死的和写不死的
| 技术环节 | 代表性云服务(多厂商,非绑定) | 给客户一句话 |
|---|---|---|
| 流程编排(写死路径) | AWS Step Functions / Azure Durable Functions·Logic Apps / Google Cloud Workflows | 工作流用编排服务:可视化、可重试、可审计 |
| 多 agent 运行时 | Bedrock AgentCore / Azure AI Foundry Agent Service / Vertex AI Agent Builder(多 agent 与 A2A 支持陆续内建) | 托管运行时替你管会话、扩缩容与 agent 间通信 |
| 异步交接 | 消息队列(SQS·EventBridge / Service Bus / Pub/Sub) | agent 间交接用队列解耦,天然可重试可缓冲 |
顺着追问什么:这条流程里,哪几步每次都一样、哪几步得看情况定?写死的交编排服务,写不死的才留给 agent。agent 之间是同步等结果,还是可以异步交接、允许排队?有没有跨团队、跨厂商的 agent 要互相发现——有才轮到 A2A。
云替你做不了什么:编排服务管得住写死的那段:可视化、可重试、可审计说的都是它;agent 自主的那段每次路径都不同,只能靠评估集和全链路追踪盯着。队列让交接可重试可缓冲,可交接内容写得含糊,重试多少次也还是那个结果——派出去的任务书必须自包含,这是 sub-agent 那一节的纪律。
接工具:MCP 在企业里怎么部署
| 技术环节 | 代表性云服务(多厂商,非绑定) | 给客户一句话 |
|---|---|---|
| Server 托管 | 函数计算 / 容器服务跑自建 server;主流云与平台陆续提供托管 MCP 目录与网关 | server 就是个小服务,云上部署与治理都是熟路 |
| 企业级管控 | API 网关 + OAuth(对接各云 IAM,Identity and Access Management)做统一认证、限流、审计 | 把 MCP 流量纳入现有 API 治理体系,不另起炉灶 |
| 现成生态 | 官方 servers 仓库 + 各厂商官方 server(GitHub、数据库、SaaS 类) | 先用现成的,只为私有系统写自己的 server |
顺着追问什么:要接的私有系统有没有现成的官方 server,还是得自己写一个?MCP 流量走不走你们现有的 API 网关,认证接哪套 IAM?哪些 server 允许被调用、谁来批——授权落在宿主侧,这个人是谁?
云替你做不了什么:网关和 IAM 管的是「谁能调这个 server」,管不住「server 返回来的内容能不能信」——工具返回值本身就是间接注入的入口。托管目录解决的是找得到、连得上,解决不了工具描述写得好不好:描述含糊、职责重叠,模型照样选错工具,六层契约缺哪层事故就从哪层来。
上线之后:护栏、审计与账单
| 技术环节 | 代表性云服务(多厂商,非绑定) | 给客户一句话 |
|---|---|---|
| 内容护栏 | Amazon Bedrock Guardrails / Azure AI Content Safety / Vertex AI 安全过滤 | 输入输出过滤有托管件,不必自研 |
| 身份与权限 | 各云 IAM + 密钥管理(Secrets Manager 类),给每个工具最小授权 | agent 的权限就是一组可审计的云权限 |
| 审计与合规 | 云审计日志(CloudTrail 等)+ 追踪平台留档 | 每一步谁调了什么,事后全程可查 |
| 全链路追踪 | LangSmith / Langfuse(开源可自托管)/ Arize Phoenix(开源)/ W&B Weave | 每步调用、token、延迟全记录、可回放;LangChain 技术栈选 LangSmith 集成最深,数据不出门选 Langfuse / Phoenix 自托管。 |
| 成本与告警 | 平台自带仪表盘 + 云监控(CloudWatch / Azure Monitor / Cloud Monitoring) | token 花费、错误率、延迟——agent 的「三高」都要有告警 |
| 预算与并发 | 主流模型平台(方舟 / 百炼 / Bedrock 等)的配额与费用告警;模型网关的并发配额与排队策略 | 按任务价值分层设 token 上限与超额熔断,并发上限要对齐网关配额 |
顺着追问什么:出了一条坏结果,现在多久能定位到是哪一步的问题?哪些动作是不可逆的,谁签字放行?单个任务的 token 上限打算定多少,超了是告警还是直接熔断——全量 trace 又归谁看,那批日志本身也是敏感数据。
云替你做不了什么:内容护栏过的是输入输出的文本,拦不住「权限给多了」——讲义的口径是组合拳而非银弹:最小权限 + 高危动作人工审批 + 输入输出过滤 + 不可信内容隔离标记 + 常态化对抗测试,过滤只解决其中文本那一层。
买平台还是自己搭:四种部署形态
| 技术环节 | 代表性云服务(多厂商,非绑定) | 给客户一句话 |
|---|---|---|
| SaaS 云端 | 最快上手:扣子、Dify Cloud、n8n Cloud | 零运维;数据出域要过安全评估 |
| 自托管开源 | 数据可控:Coze Studio / Dify / n8n 自部署(docker compose 起步) | 运维自负,升级线自己跟 |
| 云市场托管 | 折中:各云应用市场一键部署开源版,云厂商管底座 | 半托管;深度定制受限 |
| 企业平台私有化 | HiAgent 等:治理 + 支持 + SLA 一体 | 成本最高,换来可审计与兜底 |
顺着追问什么:数据能不能出域,出域要过哪些安全评估?走自托管的话,升级线谁跟、运维谁背?要不要 SLA 和出事有人兜底——这件事愿意付多少?还有一句法务迟早会问:许可证条款你们看过没有?
云替你做不了什么:云市场一键部署管的是底座,深度定制照样受限;开源解决「能不能用」,商业版解决「谁来兜底」,这两件事别混着谈。托管省的是运维,省不掉锁定——最难换的是画布,因为画布格式互不相通,所以复杂逻辑要早下沉成独立服务,画布只做薄编排。
本节服务清单与「给客户一句话」与讲义各章的「上云怎么落地」页同源,未引入新事实;「顺着追问什么」与「云替你做不了什么」两格是网页版补的售前视角。不可外推边界:这是「哪个环节有云服务可用」的地图,不是选型结论——具体产品的地域可用性、配额、计价单位与生命周期状态会月级变动,出方案前按当期官方文档逐项复核。
14来源与核实#sources
本页时效性数字均经联网核实后写入,完整登记(事实 × 核实日期 × 信源)见本模块 MANIFEST。核实窗口 2026-07-07 至 2026-07-17。引用任何数字前先核日期。
| 来源 ID | 信源 | 支持什么 | 不能支持什么 |
|---|---|---|---|
src-anthropic | Anthropic 工程博客(Building Effective Agents / context engineering / multi-agent research system) | 五模式、四板斧、15×/90.2% 决策账 | 内部评测口径(BrowseComp),不能外推为任意任务的收益承诺 |
src-mcp | modelcontextprotocol.io | MCP 版本现状与治理(2026-07-07) | 已按 2026-07-28 新版更新 |
src-a2a | A2A releases / Linux Foundation 公告 | A2A v1.0 时间线与采用规模 | 不涉及协议技术细节(见 A2A 模块) |
src-frameworks | 微软官方公告 / GitHub releases | 框架短名单与成熟度锚点(2026-07-12) | 版本号周级过期 |
src-owasp | genai.owasp.org / 各官方文档 | Agentic Top 10 清单与可观测工具格局 | 清单是风险目录,不是完整防护方案 |
src-lowcode | GitHub 仓库 / 官方文档 / 融资报道 | 四平台画像与许可证(2026-07-10) | stars 与版本号会漂;许可证以原文为准 |
src-memory | 2026 横评 / arXiv 2601.05504、2607.06595 | 框架四强画像与投毒成功率口径 | Zep 94.7% 为自报数字;攻击成功率为研究环境 |
src-cu | 2026 对比矩阵 / coasty 榜 / arXiv 2606.29537 | 三路线与基准两口径(2026-07-11) | 基准 ≠ 生产就绪认证 |
src-subagent | code.claude.com/docs · developers.openai.com/codex | 两家 sub-agent 机制与配置(2026-07-17) | 产品迭代快,字段与默认值引用前先核当日文档 |
下一次定点复查:2027-01-31(MCP 规范约半年一版,届时核一遍第 4 节的版本现状); sub-agent 两家的字段与默认值属周级易变项,引用当天核官方文档。