企业 AI 工程蓝图：七层架构、四个运行平面与交付门禁

本文件是 35 页授课 PPT 的工程细节补充。研究核验日为 2026-10-18，不声称覆盖 10 月尚未发生的变化。所有目标架构、门槛、周期与算例均为参考设计。没有调用客户云账户或联通生产系统，没有验证商业 SLA，也没有虚构联通落地效果。

1. 证据口径与关键产品变化

• A 官方已证实：官方文档、官方开源仓库或一手公开发布明确支持。它证明公开能力，不证明所有地域、版本、SKU 或账户均已可用。
• B 公开材料推断：从公开组件和接口推导的逻辑结构、方法或依赖。不会补推内部数据库、网络拓扑和组织部署。
• C 研究者参考设计：本文的企业控制面、网关、权限、状态机、七层架构、建设路线及工单示例。

Model Studio 与 Agent Studio 在本课中分别用于解释百炼的模型/应用平台资料与当前 Agent 全栈能力资料。两套文档和控制台入口并存，课程没有宣称它们是互不重叠的独立系统，也没有依据名称推断内部服务复用关系。

2. 七层逐层设计契约

以下全部为 C 目标参考设计。优先级 P0 为试点必需，P1 为受控生产，P2 为规模化。优先级针对能力缺口，不代表重新建设已经存在的系统。

L1 基础资源层

• 目标：提供可隔离、可计量、可恢复的算力、存储和网络，为训练、推理和 Agent 执行提供不同资源池。
• 关键组件：Kubernetes、GPU 调度、容器镜像仓库、对象存储、块/文件存储、网络策略、密钥服务、地域与可用区容量管理。
• 接口与数据流：研发交付通过 OCI 镜像和 Kubernetes API 发布，模型层读取对象存储权重，Runtime 申请隔离执行环境，指标通过 OTel/Prometheus 类接口汇聚。
• 依赖：企业 IAM、私有网络、DNS、时间同步、镜像与供应链安全。训练与在线推理需要分别定义抢占、队列和资源保障。
• 选型：优先复用既有云与容器平台。跨 GPU 通信量大时核对拓扑感知调度，不能只看总 GPU 数。ACK 公开提供此类能力，但具体硬件效果须压测。S32
• 优先级与验收：P0 网络、身份、资源配额与基础日志；P1 故障域隔离、备份恢复；P2 多地域与边缘容量。验收包含节点失效、镜像拉取失败、资源耗尽和存储恢复演练。

L2 模型供给层

• 目标：把外部 MaaS 与私有模型转成具备清晰能力、版本和运行属性的受控端点。
• 组件：模型注册、权重与许可证记录、推理引擎、部署控制器、健康探测、弹性伸缩、模型能力清单。
• 接口与数据流：控制面登记 endpoint、model_id、version、region、context_limit、modalities、tool_schema、data_policy。Gateway 通过适配层调用 HTTPS/流式接口，训练流水线将模型产物注册后部署。
• 依赖：L1 算力与存储、模型许可、评测合格集。训练与推理版本、Tokenizer、量化配置必须建立关联。
• 选型：通用低运维场景可选 MaaS，敏感数据或控制要求高时选私有端点。PAI 的训练、注册和 EAS 服务化是可复用选项。S12、S31
• 优先级与验收：P0 一个主端点与可验证版本；P1 合格备用端点和容量预留；P2 自动扩缩与多资源池。验证冷启动、模型加载失败、长上下文与最大输出的实际容量。

L3 模型服务层

• 目标：统一入口与治理，隔离调用方和供应商差异，维护质量、成本与时延的可控边界。
• 组件：Model Gateway、协议适配、模型目录、路由、RBAC/ABAC、限流、预算账本、熔断、缓存、用量计量。
• 接口与数据流：接收 principal、tenant、project、purpose、data_class、deadline、release_id。先验证策略并原子预留预算，再调用合格端点，最后结算实际 usage、释放预留并输出审计事件。
• 依赖：L2 端点能力与健康、治理平面策略、账本强一致操作。共享缓存需要包含权限域与知识版本。
• 选型：已有 API Gateway 可扩展模型语义策略，也可独立部署模型网关。阿里云 AI 网关属于独立能力选项，不能把其所有特性算作百炼默认特性。S30
• 优先级与验收：P0 认证、模型白名单、限流、计量；P1 预算预留、fallback、熔断；P2 自适应路由。验证跨租户、并发扣减、SSE 中断、取消、429、缺失 usage 和对账。

L4 数据与知识层

• 目标：稳定供给业务上下文，确保内容可追溯、及时、可授权。
• 组件：数据连接、CDC/任务队列、解析、清洗、切片、元数据、向量与关键词索引、重排、结构化查询、本体/图谱、上下文编译服务。
• 接口与数据流：离线从文档与业务系统产生文档版本、ACL 与索引。在线接收 query + principal + purpose + snapshot，返回 evidence_id、出处、分值、时间与授权范围。业务状态通过只读 API/视图实时查询。
• 依赖：源系统数据契约、租户身份、知识负责人、删除与撤权事件。图谱中的推断关系必须与权威拓扑关系分开标记。
• 选型：先用混合检索和元数据过滤，再根据关联查询价值评估图谱。精确数值和实时状态走结构化查询。百炼知识服务提供可复用能力，企业行列权限与版本策略需验证。S08
• 优先级与验收：P0 核心知识、来源、权限、增量更新；P1 重排、引用校验与删除传播；P2 本体与图谱。验收召回质量、知识新鲜度、撤权延迟、索引切换和缓存污染。

L5 智能体工程层

• 目标：运行有界任务，管理跨步骤状态，安全执行企业工具。
• 组件：Runtime、Workflow、任务队列、Session、检查点、事件日志、Tool Gateway、MCP、Skill Registry、Sandbox、受控 Memory、审批桥接。
• 接口与数据流：任务 API 产生 task_id，事件流提供进度。Agent 读取上下文并产生动作意图，工作流校验后申请授权，执行器记录幂等键和外部 operation_id，结果进入检查点。
• 依赖：L3 模型、L4 上下文、身份与工具权限、业务系统幂等或对账能力。长任务需要租约和单写者约束，避免多个恢复进程并行执行同一步骤。
• 选型：固定步骤使用工作流，动态取证用单 Agent。仅在任务可独立拆分时引入多 Agent。托管 Runtime 与开源框架均可评估，但业务状态与补偿责任不能外包给一句 Prompt。S06、S16
• 优先级与验收：P0 只读工具、有界循环、Schema；P1 审批、持久状态、幂等、补偿；P2 多 Agent 与共享 Skill。验证进程崩溃、重复事件、乱序、审批超时、参数变更与工具结果不确定。

L6 研发交付层

• 目标：将代码、模型、数据、上下文、工具和评测组成可追溯的发布单元。
• 组件：AI IDE、Git、制品、六类注册表、评测集与裁判版本、CI/CD、环境管理、灰度、回滚、Agent Registry。
• 接口与数据流：PR 触发构建和评测，产出 release manifest 与报告。通过发布 API/配置控制器下发期望版本，生产 Trace 关联 release_id，脱敏坏例回到评测集。
• 依赖：所有下层能力具有可固定的版本或快照。隐藏测试集不可参与日常调优，生产凭证不得注入普通构建任务。
• 选型：保留现有 DevOps，增加 AI 评测脚本与资产绑定。云效 Flow 的扩展与门禁能力可承载该设计，不假定存在自动完成一切的内建插件。S14
• 优先级与验收：P0 资产清单与离线评测；P1 环境隔离、灰度和在途任务兼容；P2 多团队自助模板。验收回滚后版本完整、知识快照可定位、运行轨迹可重放。

L7 业务应用层

• 目标：把平台能力转化为网络运维、客服、营销、经营分析、研发与办公的可验证收益。
• 组件：业务入口、SSO、任务工作台、审批与接管界面、反馈、业务 KPI 与领域验收集。
• 接口与数据流：从 OSS/BSS/ITSM 接收事件或用户请求，展示证据与建议、审批动作差异和执行状态，最终回写业务系统。
• 依赖：明确业务负责人、真实数据和权限、可比较基线。应用发布后仍需维护故障分类、知识与验收标准。
• 选型：从低风险、高频、数据可得的只读辅助场景开始。网络核心变更、客户账户操作等场景需要更严格的执行控制。
• 优先级与验收：P0 单场景试点，P1 受控生产，P2 跨部门复用。衡量用户采用、建议采纳、任务完成、错误后果、业务质量和单位收益。

3. 四平面的运行契约与降级

高可用方案要同时覆盖模型提供商、区域网络、状态库和业务工具。两个端点若共享同一模型集群或控制依赖，不能按独立故障计算冗余收益。跨地域复制业务状态还要考虑数据驻留与延迟。RTO/RPO 由业务负责人批准并通过演练验证，本课不臆定运营商标准。

4. Model Gateway 参考请求契约

以下为企业内部参考 Schema，不是百炼实际请求格式。

{
  "request_id": "req-example",
  "tenant": "province-example",
  "project": "network-ops",
  "principal": "service-and-user-reference",
  "purpose": "incident-diagnosis",
  "data_class": "internal-restricted",
  "release_id": "release-17",
  "model_policy": "diagnosis-approved-v3",
  "deadline_ms": 12000,
  "attempt_budget": 2,
  "max_output_tokens": 1200,
  "stream": true
}

1. 验证调用方与终端主体，解析用途和数据域，禁止应用自行提升属性。
2. 从注册表读取候选模型，依次过滤地域、数据政策、协议能力、上下文长度和质量切片。
3. 以输入估计与最大输出原子预留预算，分配 request/attempt ID。
4. 选取候选并适配请求，保留上游错误类别和重试提示。
5. 对可恢复故障进行总 deadline 内的有界重试。每层复用同一尝试预算，避免乘法放大。
6. 首 Token 已发出后，失败显示为部分完成，不将另一模型输出透明拼接。需要恢复时由应用显式启动新尝试。
7. 客户端取消传给上游。usage 缺失时保留估算账，最终与供应商账单核销。预留、实耗与释放均可审计。

路由策略参考：先求合格集合，再在其中优化成本与时延。训练一个路由分类器不是 P0 必需项。模型回报的“信心”不能直接决定核心系统是否允许执行。

5. 性能、容量与成本测量

• T_end_to_end = T_queue + T_retrieval + T_rerank + ΣT_model + ΣT_tool + T_orchestration。真实流程若有并行和重叠，按关键路径计算。
• TTFT 与完整响应时长分别测量。p95/p99 应按租户、任务、模型、上下文长度分组，分组件分位数不能直接相加。
• 平均并发可用 L = λ × W 估计，前提是系统稳定且指标口径一致。教学例：20 次/秒 × 8 秒 = 160 平均在途请求，仍需根据尾部和故障预留容量。
• 吞吐受 RPM、TPM、输出速度、显存、KV cache、连接数与队列共同限制。不同模型分词方式和计价项不同，内部计量应保存供应商原始 usage。
• C_success = (模型 + 检索 + 运行时 + 工具 + 观测 + 人工复核 + 分摊基础成本) / 成功任务数。
• 教学例：100 次尝试共 12 元，80 次成功，则每次成功任务为 0.15 元。这不是任何厂商价格，也不是联通实际运行数据。
• 私有部署 TCO 应包含 GPU 利用率、空闲、冗余、维护、能源、存储、网络与工程团队。MaaS 单价和自有 GPU 单价不可直接相减判断收益。

6. 工单十步骤映射

所有步骤为架构设计示例。

执行恢复的关键规则

PREPARED → WAIT_APPROVAL → AUTHORIZED → EXECUTING → VERIFYING → SUCCEEDED 是主路径，另有 REJECTED / EXPIRED / COMPENSATING / ESCALATED / FAILED。

• 检查点恢复不保证外部操作恰好执行一次。若业务系统不支持幂等键，需要对账接口、唯一业务动作 ID、前置状态检查与人工处理不确定结果。
• outbox 将“记录待发送动作”和“任务状态更新”置于同一本地事务，投递可能重复，消费端仍需幂等。
• 审批绑定对象、参数、版本、风险和有效期。审批后目标或参数变化必须重新审批。
• 设备操作补偿不一定能完整撤销影响。补偿本身应有授权、超时与失败接管路径。
• 任务成功条件取决于业务状态，模型声称完成不能关闭工单。

7. 资产发布清单与评测门禁

release_id: release-17
code_image_digest: sha256:<approved-image>
model_endpoint: approved-diagnosis-endpoint
model_version: pinned-or-audited-provider-version
knowledge_snapshot: kb-v8
acl_policy_version: acl-v4
prompt_version: prompt-v3
context_policy_version: context-v2
tools:
  query_network: tool-v5
  execute_change: tool-v2
agent_definition: agent-v7
workflow_definition: workflow-v9
evaluation_dataset: eval-v12
evaluator_version: judge-and-rules-v4
approval_policy: risk-policy-v6

如果供应商只提供滚动模型别名，记录该限制、响应模型标识与测试时间，增加持续回归，并将回滚可达性列为风险。不要声称滚动别名具备不可变版本语义。

评测分四类：组件契约与权限断言、检索和答案质量、端到端行动轨迹、线上业务结果。黄金集需包含常见、长尾、高风险、缺数据、冲突证据、越权、提示注入和依赖失败。训练/调优与验收集按事件或时间划分，保留独立测试集。

LLM Judge 用于语义维度，Code 评估器用于确定规则。对裁判建立专家对照集，报告一致率与误判样例，不把裁判分数当作客观真理。重复运行抽样评估方差，按切片报告区间和样本量。S24、S25

教学门禁示例：未授权写操作为零；核心切片质量不低于基线；输出 Schema 合格；引用可访问且支持结论；p95/p99、成功任务成本、恢复时间在批准预算内。具体数值由试点基线和风险责任人决定。

8. 组织责任、平台采用与 ROI

平台采用率要定义分母，例如“有资格使用平台的团队中，本月完成至少一次生产发布的团队占比”。复用率可统计生产应用复用已认证工具或知识服务的比例。避免用注册用户数或调用 Token 数替代业务价值。

工单收益评估采用匹配对照或分组灰度，控制故障严重度、设备类型、区域、值班班次和季节因素。MTTR 报告中位数、p95 和样本量，建议采纳率区分“展示建议”“审核可采纳建议”和“实际执行建议”的分母，工单质量包括复开率、证据完整性、误处置和升级率。

ROI = (可兑现年度收益 - 年度总成本) / 年度总成本。工时节省、避免损失和业务增量分别估算，不重复累计。同一改善若已计入增量处理量，不再全额计为人员成本节省。先给敏感性区间，不编造单点收益。

9. 百炼与现有体系的 PoC 验收卡

1. 核对站点、地域、账户、套餐、功能状态、API 版本和弃用公告。
2. 认证：终端用户权限到企业后端，再到平台凭证，验证主/子账户和业务空间边界。
3. 模型：固定或记录版本，测试长上下文、工具参数、结构化输出、流式中断与错误码。
4. 知识：测试源 ACL、撤权、增量、删除、引用下载和缓存隔离。
5. Runtime：验证任务中断、检查点、重复事件、乱序和审批等待。按形态区分 Agent 应用与 Managed Agents。
6. 网络：分别验证企业访问平台、平台访问工具、跨区域访问三条路径，PrivateLink 入站不能证明反向路径可用。
7. 发布：确认草稿、发布、历史版本、灰度、回滚和在途任务兼容。
8. 观测：确认 Trace 是否覆盖内部调用、是否可导出、如何关联企业 trace_id、如何脱敏与保留。
9. 成本：核对模型、知识、沙箱/运行时、网络、观测与存储的独立费用。
10. 迁移：保留原始知识、工具契约和发布清单，演练替换模型或运行平台。

以上卡片为本课设计，不表示已经完成实际云账户验证。