工程保障层 · Engineering Assurance

AI-Gateway · AI 网关

一旦你不止调用一个模型,"多对多"的接入、成本、安全就会失控。本模块把 AI 网关讲成一条运营主线:认清定位(统一入口 + 运营管控层)→ 统一接入 → 智能路由与容灾 → 按 token 管成本 → 挂上安全护栏 → 全链路可观测 → 连上 MCP 与 Agent → 会选型上云。面向售前技术,重取舍与落地,用"配电箱"类比讲活每个概念。

本模块产出物:
· 讲义式 PPT:AI-Gateway-讲义.pptx(主力成品,86 页,✅ 已完成,第 7 章「AI 网关 + MCP 网关」按需展开,2026-07-10 增补授权时序深潜 3 页)
· 精选电子书书单:电子书书单.md(10 项,偏实践)✅
· 原始素材留痕:raw-data/(含 2026-07-09 与 2026-07-10 两份联网核实笔记,时效性事实以此为准;历史版本在 raw-data/history/)

章节列表与状态

#章节要点状态
1是什么·为什么多对多之痛(M×N 私接线)、AI 网关=统一入口+运营管控层、LLM 专属六件套、与 MCP/A2A/推理服务/API 网关的边界辨析✅ 已完成
2统一接入与协议转换OpenAI 兼容层、参数映射/能力协商/优雅降级、工具调用格式统一、虚拟密钥(一把逻辑钥匙管多真钥匙)✅ 已完成
3路由·负载·容灾为什么路由、五策略(成本/延迟/质量/复杂度/语义)、fallback+重试+熔断控爆炸半径、RouteLLM/FrugalGPT 省钱实证✅ 已完成
4流量与成本治理为什么按 token 而非按请求、配额/预算/花费归集、精确 vs 语义缓存原理、语义缓存的坑(阈值/串答)、三云对照✅ 已完成
5安全·合规·护栏(挂载点)网关作统一安全落地位、鉴权/多租户/密钥托管、护栏 pre/post 钩子(PII/注入/内容安全)、与 Security 模块串联、三云内容安全对照✅ 已完成
6可观测网关是天然观测点、三支柱+AI 特有维度(token/成本/质量)、OpenTelemetry GenAI 语义约定 / OpenInference 标准化✅ 已完成
7AI 网关 + MCP 网关(展开章)从"管模型"到"管工具与 Agent"、MCP 网关六职责、openapi-to-mcp、MCP 授权(OIDC token 交换)、授权时序深潜(六步时序图 RFC 8693/8707 · OAuth 2.1 规范现状 · 三大反模式:token 透传/混淆代理/万能钥匙)、模型+MCP+Agent 三合一、与 MCP/A2A/Agent 串联✅ 已完成
8选型与上云·售前速查自托管 vs 托管决策、六大开源网关横评、三云托管对照、一页速查(能力→在网关怎么配→上云用什么)、综合问答✅ 已完成
串联:AI 网关是全库多条工程线的"落地枢纽"——第 5 章把 Security 的护栏/审计/最小权限落到网关这层(一处挂、处处生效);第 7 章把 MCP、A2A、Agent 的工具与智能体流量统一代理治理;第 3/6 章的路由降级与观测质量接 Evaluation 打分;成本治理章说明网关在 LLM-Inference 之上做多模型统一治理(逐条见 MANIFEST 串联出边)。