# AI-Gateway · 精选电子书书单

> 面向"售前技术"角色（有 Python/API 基础，重底层概念与取舍，不啃重理论）。可合法免费获取的资料直接列官方链接。
> 时效性事实核实日期：2026-07-09（依据见 `raw-data/2026-07-09-联网核实笔记.md`）。
> 链接可达性复核：2026-08-01（本轮只核链接是否可达且对题，事实项核实日期见上行）。
>
> AI 网关是工程/产品主题，最好的资料是官方文档、云参考架构、中立横评与少量实证论文——不是大部头。故本单以"能上手、能选型"为第一标准。

| # | 书名 / 资料 | 作者/机构 | 类型 | 一句话简介 | 覆盖子主题 | 获取方式 |
| --- | --- | --- | --- | --- | --- | --- |
| 1 | LiteLLM 官方文档（Proxy / AI Gateway） | BerriAI | 🛠️实践 | 上手第一站：一个 OpenAI 兼容端点代理 100+ 模型，虚拟密钥、预算、护栏、路由全有可跑配置 | 统一接入, 成本治理, 护栏, 路由 | 🔗 官方：https://docs.litellm.ai |
| 2 | AI gateway capabilities in Azure API Management + `Azure-Samples/AI-Gateway` 实验室 | Microsoft | 🛠️实践 | 最完整的托管 AI 网关：token 限流、语义缓存、Unified Model API；配套 Jupyter 实验室手把手 | 云托管, token 限流, 语义缓存, MCP | 🔗 文档：https://learn.microsoft.com/azure/api-management/genai-gateway-capabilities ·实验室：https://github.com/Azure-Samples/AI-Gateway |
| 3 | Envoy AI Gateway 官方文档 / 能力页 | Tetrate + Bloomberg（CNCF Envoy Gateway） | 🛠️实践 | 云原生标准派：v1.0（2026-06-23）token 限流 + OpenInference/OTel 可观测，K8s/Istio 天然加装 | 云原生, 路由, 可观测 | 🔗 官方：https://aigateway.envoyproxy.io/docs/capabilities/ |
| 4 | Higress AI 网关文档 | 阿里（开源） | 🛠️实践 | 国内落地首选：Istio+Envoy+Wasm 插件，含提示注入检测、模型级 Fallback、MCP 托管与 openapi-to-mcp | 国内落地, 安全护栏, MCP 网关 | 🔗 官方：https://higress.ai/en/ai-gateway/ ·GitHub：https://github.com/higress-group/higress |
| 5 | What is an AI Gateway + MCP Gateway 学习中心 | Apache APISIX | 🛠️实践 | 从 API 网关视角讲 AI 网关与 MCP 流量治理，概念清晰、可对照自建 | 概念, MCP 网关, Agent 流量 | 🔗 官方：https://apisix.apache.org/ai-gateway/ ·MCP：https://apisix.apache.org/learning-center/mcp-protocol-ai-gateway/ |
| 6 | Kong AI Gateway 文档 / Cloudflare AI Gateway 文档 | Kong / Cloudflare | 🛠️实践 | 两种典型托管路线：老牌 API 网关加 LLM 插件 vs 边缘网络主打花费上限与缓存 | 云托管, 成本, 缓存 | 🔗 Kong：https://developer.konghq.com/ai-gateway/ ·CF：https://developers.cloudflare.com/ai-gateway/ |
| 7 | RouteLLM: Learning to Route LLMs with Preference Data | LMSYS / UC Berkeley | 🛠️实践 | 强弱模型混路由，保住质量的同时大幅省钱——"路由为什么值钱"的实证 | 路由, 成本优化 | 🔗 官方免费下载：https://arxiv.org/abs/2406.18665 |
| 8 | FrugalGPT: Using LLMs While Reducing Cost and Improving Performance | Stanford | 🛠️实践 | 级联（cascade）+ 成本优化经典，网关成本治理章节的理论底座 | 成本治理, 级联路由 | 🔗 官方免费下载：https://arxiv.org/abs/2305.05176 |
| 9 | A Definitive Guide to AI Gateways in 2026（竞争格局横评） | TrueFoundry / Tetrate | 🛠️实践 | 中立选型弹药：把开源与云托管网关按能力维度摆一起对比 | 选型, 竞争格局 | 🔗 TrueFoundry：https://www.truefoundry.com/blog/a-definitive-guide-to-ai-gateways-in-2026-competitive-landscape-comparison ·Tetrate：https://tetrate.io/learn/ai/best-enterprise-ai-gateway |
| 10 | OpenTelemetry GenAI 语义约定 | OpenTelemetry / CNCF | 🛠️实践 | AI 可观测正在收敛的标准：网关吐出的 trace/metrics 该长什么样 | 可观测, 标准 | 🔗 官方：https://github.com/open-telemetry/semantic-conventions-genai |

## 阅读建议（售前取用顺序）

1. **先读 #1 LiteLLM 文档**——半小时就能在本地起一个真网关，把"统一接入/虚拟密钥/预算/fallback"从抽象名词变成手上能跑的东西。客户问得最多的也是这些。
2. **要做云上 demo / 讲上云落地，读 #2 Azure APIM**——它的实验室 repo 是把"token 限流 + 语义缓存 + 多模型统一"讲给客户看的现成脚本；再顺手翻 #6 建立三云对照感。
3. **被客户追问"路由/缓存能省多少钱、会不会答错"时，看 #7 RouteLLM + #8 FrugalGPT**——有数据、有方法，能把"省钱"说得让人信。
4. **走云原生/K8s 客户或国内客户，读 #3 Envoy AI Gateway + #4 Higress**——一个是 CNCF 标准派，一个是国内生态与中文资料最全、且 MCP 能力最激进的。
5. **做选型对比表、准备"你们和 X 有什么区别"，翻 #9 横评 + #10 OTel 标准**——前者给格局，后者让你在可观测这一栏说得比对手细。

> 链接探活：2026-08-01（逐条打开验证；被反爬拦的页面以官方佐证核实）。