算力与数据底座 · Compute · Platform · Data

AI-Infra-Platform · 集群平台与调度

把一堆 GPU 变成一个好用的平台:Kubernetes + GPU 的组合怎么落地、训练/推理作业怎么调度(Slurm / Volcano / Kueue / KAI)、一张卡怎么切给多个租户(MIG / 时间片 / HAMi)、大规模训练怎么容错与断点续训、集群怎么可观测,以及云上算力的几种形态(GPU 裸金属 / 托管 K8s / 托管训练 / API)各适合什么客户。面向售前技术,讲清平台层每个环节解决什么痛、方案之间怎么选。

本模块产出物:
· 讲义式 PPT:AI-Infra-Platform-讲义.pptx(主力成品,✅ 81 页)
· 精选电子书书单:电子书书单.md(✅ 10 项)
· 原始素材留痕:raw-data/(2026-07-09 起)

章节列表与状态

#章节要点状态
1平台全景裸机之痛四种浪费、四大职责(调度/隔离/容错/观测)、为什么是 K8s✅
2K8s + GPU 基础原生资源模型、device plugin 三天花板、DRA(1.34 GA)、GPU Operator✅
3作业调度gang scheduling、碎片与 bin-packing、Kueue/Volcano/KAI/Slurm 分层、配额抢占✅
4GPU 切分与多租户MIG / 时间片 / MPS / HAMi 对比、三把尺子选型、DRA 统一编排✅
5训练容错工程故障是常态、checkpoint 两难、自愈循环、托管训练容错✅
6可观测性与利用率利用率三层口径、MFU/goodput、四大黑洞、DCGM 与成本分摊✅
7推理服务平台化推理 vs 训练调度、KServe/llm-d/Dynamo 承载、弹性扩缩容信号✅
8云上形态与售前速查四种算力形态、三问定档、责任递交线、两张速查表✅
串联:本模块是"算力底座层"的平台半边,姊妹模块 AI-Infra-Compute 讲硬件半边(GPU、网络、存储)。向上衔接 LLM-Training(训练作业是调度与容错的头号负载)与 LLM-Inference(推理引擎与 P/D 分离在那本讲机制,本模块第 7 章讲平台承载)——云上算力形态一章与全库"上云落地"挂钩最紧。机器可读的章节 ID、时效性事实与串联出边见 MANIFEST.md。