Model Landscape模型格局与选型

01全景地图#ml-map

两个市场：同一批模型，两张榜单

引用任何份额数字前，先说清是哪个市场的口径——企业与消费两张榜单已经分裂。企业市场（Menlo 口径）看能力、信任、合同：Anthropic 40% 第一、OpenAI 27%（从 2023 年的 50% 一路下滑）、Google 21%（三年三倍）。消费市场看品牌与生态：ChatGPT 约 74% 独占、日均 25 亿+ prompts——与企业榜完全两样。

企业侧的量级也值得记：2026 年企业 LLM 支出已达 $8.4B、年底看 $15B——这是生产预算不是试验预算；Claude Code 单产品年化 $1B、企业编码市场 54%，是「编码成为第一生产场景」的标志性证据。

核实 2026-07-10，来源 Menlo 企业报告。份额的赏味期约半年，引用时带口径与日期。

一年三变局

三件事共同指向一个结论：模型是快速贬值资产——选型的重点从「选对一个」变成「保持可换」。这句话是全册的总纲，后面每一节都在为它提供论据或工具。

02闭源旗舰五张名片#ml-closed

价格与版本为 2026-10-20 口径（GPT-6 家族、Claude Opus 5.5/Sonnet 5.5、Gemini 4 Argon、Grok 4.7 已并入，来源 OpenAI 官方价格页；Anthropic/Google/xAI 官方价同轮核对），来源 各厂商官网价格页。这类数字赏味期 1–3 个月。

03开放权重格局#ml-open

追平靠什么：三板斧的因果链

追平不是「砸更多卡」砸出来的，是三项技术叠出来的：MoE（Mixture of Experts）稀疏激活让大参数只花小算力（Qwen3.8 旗舰 2.4T 总参、每次只激活 95B）；从前沿模型蒸馏把闭源模型的能力「教」给开放模型；合成数据管线解决高质量训练数据的供给。架构机制在 LLM 原理模块，训练侧在 LLM-Training。

追平也有边界：最难的推理任务闭源仍领先半个身位——所以三层路由里两边都有位置，不是二选一。

西方线：收尾、转宽松、下沉

Llama 4（Scout 109B/激活 17B、10M 上下文；Maverick 400B/17B、1M）成最后开放版本，存量生态最深、新项目谨慎押注；Mistral Large 3 / Small 4 已转 Apache 2.0（2026-03），欧系合规友好； Gemma 4 下沉端侧——26B MoE 激活 3.8B，E2B 2.3B 有效参数（32k 口径 bf16 约 4.6GB / 量化约 0.8GB）。三个关键词：收尾、转宽松、下沉——开放权重的创新中心已东移。

榜单口径 2026-10-20 快照，来源 BenchLM / Artificial Analysis。排名月月在换，「前排是中国队」这个结构一年内稳定。

04中国格局与豆包#ml-china

这张表是「首看」不是「只看」——最终以客户评估集的实测为准。

豆包：两条腿走路的国民模型

家族一条主线加两条专线：2.1 Pro 主线旗舰（2026-06-23 发布，¥6/¥30，缓存命中 ¥1.2）、 2.1 Turbo 半价走量档、Seed-Evolving 专线月更 2–4 次（Coding/Agent 最激进迭代）、 Seed-2.0-lite 家族首个原生统一全模态（2026-05）。日均 tokens 调用量 180 万亿+（2026-06，过去一年增长超 10 倍），国内第一梯队。

理解定位的钥匙是「模型即入口」：C 端免费换规模、B 端绑火山方舟换收入——模型是云的获客入口，云是模型的商业化出口。这决定了它的价格永远激进，也解释了它为什么不开源（开源会削弱这个飞轮，与 Qwen/DeepSeek 的开源换生态是两条都跑通的路）。

绕不开的两个战略题

算力自主：GLM-5 全程用华为昇腾训练、零英伟达——「没有英伟达就训不出前沿模型」的说法已被证伪，私有化方案里「国产算力档」有了前沿模型选项（深潜见 AI-Infra-Compute）。出海与合规双轨：国产模型出海与国内商用是两套规则，国内涉及备案与内容合规（见 Security 第 8 章）——涉及跨境场景先标注「合规待确认」，别当场拍板。

四强横评「超越时刻」为 2026-06 社区共识口径、豆包数字 2026-10-20 核实，来源 qiniu 横评 / 新华网 / 火山方舟价格页。

05国内平台格局#ml-platforms

两种货架哲学，决定议价权

百炼/千帆是「全家桶统一纳管」，方舟/腾讯以自研为主轴、三方为辅。货架宽度接近，哲学不同——差别体现在客户的议价权与锁定度，这比单价更值得先聊。锁定真正来自数据与工作流而非 API：用兼容层/网关保住切换能力（机制见 AI-Gateway），重要场景保留第二货源。

选型三问：问完名单自然收敛

① 客户已经绑在哪朵云、哪个生态？——云资源、数据、投放渠道在哪家，迁移成本就偏向哪家，「顺路」常胜过「最优」。② 要自研旗舰还是多模型组合？——认准单一旗舰看自研档位与更新节奏，要组合与议价权看三方货架宽度。③ 私有化与合规的底线在哪里？——需要专有云就先筛掉纯公有云方案；备案与内容安全配套各家都有，材料支持深度不同。

口径对齐四步：表面单价会骗人

¥6/¥30（豆包 2.1 Pro）、¥12/¥36（Qwen3.8-Max ≤1M）、¥0.5/¥2（Hunyuan-a13b）三组数字不可直接比大小。对齐口径的固定动作：

平台数字 2026-10-20 核实（来源 各平台官网计费文档）。「口径对齐四步」是本页把讲义警示句展开成的操作清单，未引入新事实。文心 5.1「搜索登顶/成本 6%」为厂商口径，引用需注明。

06许可证与合规#ml-license

Llama 的两个雷与蒸馏暗礁

Llama Community License 两处要提前核：700M MAU（Monthly Active Users）帽——月活超 7 亿需向 Meta 另行申请授权；欧盟条款——多模态版本对欧盟实体有使用限制。给大厂或欧企做方案时必查。更隐蔽的是蒸馏继承：用 Llama 蒸馏的学生模型仍可能带 Llama 条款——微调/蒸馏选型时基座许可证要先过。

商用检查四问

① 这个权重的许可证原文是哪份、哪个版本？② 微调/蒸馏出来的衍生模型受什么条款约束？ ③ 允许再分发吗（打进产品卖给客户）？④ 你的客户的客户使用，算不算触发条款？——四问答完再进方案。趋势对采购有利：宽松化是 2026 主旋律（Mistral 转 Apache、中国主力选 MIT），但 Llama 系例外要单独核。

口径依据各 LICENSE 原文与 OSAID v1.0，核实 2026-07-10，来源 LICENSE 原文 / HF blog。许可证是少数「答错会出事故」的领域，拿不准就说「以法务核定为准」。

07价格与成本工程#ml-price

人民币参照：豆包 2.1 Pro ¥6/¥30（约 $0.85/$4.2）在走量档很有攻击性。

缓存经济学：最容易忽视的成本杠杆

缓存读折 90%（OpenAI 口径，各家类似）、写按 1.25×；豆包命中价 ¥1.2 对名义 ¥6。等效成本的算法：

真实成本 = 名义单价 ×（1 − 缓存命中率 × 折扣率）。系统提示、少样本示例、工具定义都是高复用段——客服/Agent 场景命中率常见 60–90%，等效价直接砍半以上。对客报价必问一句「你的提示词有多少是重复的」。命中率背后的机制（前缀缓存）在 LLM-Inference 网页版批处理一节。

报价纪律

① 写量级不写精确价，精确价放附录并标日期；② 注明「以官网当日为准」并给活水源链接； ③ 合同锁「档位与降价传导」，不锁单一型号价格——过去一年市场降了 30–60%，不写降价传导客户就吃亏。thinking 模式的账单问题（思考 token 十倍于普通回答）见能力矩阵的预算控制。

价格为 2026-10-20 口径（OpenAI/Anthropic/Google/xAI/DeepSeek 官方价逐字核对），来源 各厂商官网价格页。价格是本页最快过期的数字——学光谱结构和算法，数字在引用当天重查。

08能力矩阵与推理模型#ml-capability

上下文：窗口 ≠ 有效窗口

三档谱系：128K 常规档（多数生产模型标配）→ 1M 长文档档（Fable 5.1 / Gemini / Llama 4 Maverick）→ 10M 极限档（Llama 4 Scout，生态检验中）。三个「但是」：①长文中段召回会衰减； ②成本随长度暴涨（平方级根源见 LLM 原理）； ③「1M 窗口杀死 RAG」是伪命题——权限、新鲜度、成本三关 RAG 仍不可替代。对客话术：窗口决定「能不能塞进去」，不决定「记不记得住、划不划算」。

多模态：原生还是拼的

按「原生统一 vs 外挂拼接」看：原生的体验与延迟优势明显——机制深潜见 Multimodal 模块。

思考预算：拨盘，不是开关

两种旋钮：L1 可控——你来定深浅，旋钮已从 token 预算转向档位（Anthropic adaptive thinking + effort，budget_tokens 在 Opus 4.7 及以后返回 400；Google thinking_level； OpenAI reasoning effort 分档），适合成本敏感、难度可预估的场景；L2 自适应——模型按难度自动调深浅（Claude 的 adaptive thinking 是代表），省心但成本波动大，要配预算上限。全部头部实验室已收敛到「快慢混合」范式。

overthinking 有实证：超过临界思考预算后准确率稳定下降（arXiv 2506.04210）——简单任务开满档 thinking 更慢、更贵、还可能更错，像考试检查太多遍开始把对的改错。工程对策：按任务难度分级配预算、评估集里加「简单题不许想太久」的用例。帮客户把预算调到「刚刚好」，一次优化常省 30%+ 推理成本。思考 token 烧的是 decode——机制见 LLM-Inference 网页版。

思考预算与 overthinking 口径来自 arXiv 2507.02076 / 2506.04210，核实 2026-07-10。

09选型方法论#ml-selection

多一家的边际成本，比客户以为的低得多——前提是抽象层先建好。统一收到网关之后，引入第二家要付的只有三样：路由层加一条配置、评估集多跑一遍回归、许可与数据条款多核一份。抽象层是一次性投入，之后每多一家都摊在它上面；反过来，没有抽象层又必须换的那天，动的是业务代码，那才叫重做。所以「要不要多一家」在架构上早该定，与具体选谁无关。

三层路由：1 : 8 : 1

五约束决策树（也是下方筛选器的判据）

顺序有讲究：先用硬约束砍掉大半选项，再在剩下里比性能——反过来会陷入无穷的榜单争论。

两道防线与验收

防线一：对榜单保持怀疑——Leaderboard Illusion 已证实厂商私测多变体、择优公开（曾有厂商私测 27 个变体只发最好那个）；MMLU 类基准饱和在 88%+ 拉不开差距。榜单只做初筛。防线二：自建评估集终审——用客户真实数据抽样建评估集（方法在 Evaluation 第 5 章），换模型 = 跑一遍回归。评估集是客户的资产，模型是易耗品——这也是「保持可换」的技术前提。

升级也要当发布链管：锁定当前版 → 候选版 → 离线评测 → 金丝雀放量 → 晋升或回滚；收到退役通知先跑回归证据，不是直接换模型 ID。终极验收一句话：在真实部署端点上，模型以可接受成本持续产出合格结果，并能被观察、升级、回滚和替换——Demo 里能回答只证明了最浅的一层。

把这句拆成选型验收的六条证据线，按四个验收面归拢——每条都要索取具体证据件，不是听承诺（前两面各含两条，后两面各一条）：

证据怎么来？靠一次组织得当的选型验证，四条起码规矩缺一不可：用客户自己的真实任务样本（演示题上人人都及格）、同一套判分标准且阈值事前签（事后再争的验收都会变成扯皮）、盲掉品牌打分（否则结论跟着 logo 走）、成本与延迟跟质量一起量（只比质量会选出一个跑不上生产的赢家）。它的产物不是一张对比表，是一份可重跑的评测包——换模型那天靠它出回归证据。

生命周期那一面最容易被跳过，因为它准备的是「还没发生的事」。三个事前动作把它坐实：调用时钉住具体版本号，不用滚动别名；把弃用通知期与新旧并行期写进合同，别等公告；备选路径必须跑过一次回归——只写在方案书上的备选，到那天等于没有。做齐了，供应商退役一个型号对你就只是一次例行发布，不是事故；模型悄悄换了 checkpoint 的那一类，则要靠回归集定期重跑才看得见（节奏与排查链见 AI-Ops 三类漂移）。

案例与趋势核实 2026-07-10，来源 Walmart/ServiceNow 报道与 Gartner 转引；Leaderboard Illusion 见 arXiv 2504.20879。不可外推边界：Gartner 的占比是预测不是实测、且为转引口径；两个客户案例是公开报道的单点，能说明「多模型已是大客户的现实选择」，不能当成行业普遍做法的证据。

10保鲜与问答#ml-cheatsheet

这一册数字的赏味期限

本册是全库事实密度最高、最易过期的模块——引用任何数字带上「截至 2026-07」的口径声明，是专业度也是自我保护。

现场高频追问

只收会改变某个决定的问题——会改变技术方案、风险判断、验收方法、对客沟通或下一步行动。每题给结论、给机制或权衡、给一个可执行的下一步，并回链依据。

每题标出它加入本题库的日期：2026-07-10 的来自讲义首版各章对练页， 2026-07-17 的来自国内平台增章，2026-07-23 是按客户交锋场景补的三题（再引一家 / 选型怎么验 / 模型被停了）。

11相关模块#related

同一个概念在库里只有一个主要归属，其余模块讲的是它的另一个层面。

12来源与核实#sources

本页时效性数字均经联网核实后写入，完整登记（事实 × 核实日期 × 信源）见本模块 MANIFEST。核实窗口 2026-07-10（国内平台章 2026-07-17）。引用任何数字前先核日期。