本模块产出物:
· 讲义式 PPT:
· 精选电子书书单:
· 原始素材留痕:
· 讲义式 PPT:
AI-Infra-Platform-讲义.pptx(主力成品,✅ 81 页)· 精选电子书书单:
电子书书单.md(✅ 10 项)· 原始素材留痕:
raw-data/(2026-07-09 起)
章节列表与状态
| # | 章节 | 要点 | 状态 |
|---|---|---|---|
| 1 | 平台全景 | 裸机之痛四种浪费、四大职责(调度/隔离/容错/观测)、为什么是 K8s | ✅ |
| 2 | K8s + GPU 基础 | 原生资源模型、device plugin 三天花板、DRA(1.34 GA)、GPU Operator | ✅ |
| 3 | 作业调度 | gang scheduling、碎片与 bin-packing、Kueue/Volcano/KAI/Slurm 分层、配额抢占 | ✅ |
| 4 | GPU 切分与多租户 | MIG / 时间片 / MPS / HAMi 对比、三把尺子选型、DRA 统一编排 | ✅ |
| 5 | 训练容错工程 | 故障是常态、checkpoint 两难、自愈循环、托管训练容错 | ✅ |
| 6 | 可观测性与利用率 | 利用率三层口径、MFU/goodput、四大黑洞、DCGM 与成本分摊 | ✅ |
| 7 | 推理服务平台化 | 推理 vs 训练调度、KServe/llm-d/Dynamo 承载、弹性扩缩容信号 | ✅ |
| 8 | 云上形态与售前速查 | 四种算力形态、三问定档、责任递交线、两张速查表 | ✅ |
串联:本模块是"算力底座层"的平台半边,姊妹模块 AI-Infra-Compute 讲硬件半边(GPU、网络、存储)。向上衔接 LLM-Training(训练作业是调度与容错的头号负载)与 LLM-Inference(推理引擎与 P/D 分离在那本讲机制,本模块第 7 章讲平台承载)——云上算力形态一章与全库"上云落地"挂钩最紧。机器可读的章节 ID、时效性事实与串联出边见
MANIFEST.md。