亚马逊 IA 的层级化多智能体：建立" BERT小模型分诊+大模型生成"的混合架构

案例定位：面向AI项目审计、PoC设计、方案复用与交付复盘的结构化案例。
事实边界：本文仅把材料中明确披露的内容视为案例事实；PoC门槛与实施步骤属于FDE交付建议。

二、案例基本信息

三、30秒案例摘要

亚马逊围绕企业级智能体平台开展AI能力建设。案例所对应的核心矛盾是：IA 的评估结果说：90% 的业务问题能被它精准拆解。方案侧的关键做法是：亚马逊通过分层智能体架构，用33M小模型做路由、API确定性替代SQL灵活性，将电商BI从"认知霸凌的数据坟墓"重构为"秒级响应的决策助手"，在牺牲27.1%覆盖率的前提下实现96.9%精确率与15秒P90延迟，标志着BI行业从"人找…。当前材料可确认的结果为：职能划得死板，换来了 89.5% 的准确率。

从FDE交付视角，这类项目不应直接以“大模型上线”作为目标，而应把统一承载知识、工具和工作流，让员工以自然语言完成跨系统任务定义为可评价任务。建议先以选择 3—5 个高频、可衡量、低风险任务，每类准备 100 条真实任务建立测试集，以任务完成率、端到端处理时长、人工步骤数为核心指标，通过PoC后再进入系统集成与生产化。

四、企业背景与项目起因

4.1 企业与业务背景

已披露事实

• 亚马逊通过分层智能体架构，用33M小模型做路由、API确定性替代SQL灵活性，将电商BI从"认知霸凌的数据坟墓"重构为"秒级响应的决策助手"，在牺牲27.1%覆盖率的前提下实现96.9%精确率与15秒P90延迟，标志着BI行业从"人找数据"向"任务找数据"的范式跃迁。
• IA 的评估结果说：90% 的业务问题能被它精准拆解。
• IA 一上线，就能看出 BI 行业在变：从「人找数据」变成「任务找数据」。

4.2 项目发起原因

已披露或可直接识别的问题

• IA 的评估结果说：90% 的业务问题能被它精准拆解。
• 在「P90 延迟必须低于 15 秒」的死线之下，这 7 倍的耗时差，就是产品能上线和不能上线的区别。
• 底层有一道基于 Auto-encoder (AE) 的安检门，专拦「域外 (OOD)」问题。
• IA 的评估里藏着一个 10.5% 的错误率。

FDE补充判断

项目边界应收敛到“统一承载知识、工具和工作流，让员工以自然语言完成跨系统任务”，并在启动会中确认业务负责人、真实使用者、数据负责人和最终验收人。若无法确认这四类角色，项目容易停留在演示层。

五、原始流程与核心问题

5.1 AI介入前的工作流程

以下流程为基于场景的FDE复盘推断，必须在客户访谈和跟岗观察中确认。

员工切换多个系统 → 查询信息 → 人工判断 → 分别操作 → 汇总与回传。

5.2 核心问题

5.3 项目前基线

六、场景选择与价值判断

6.1 候选场景

6.2 选择原因

第一阶段建议选择“企业级智能体平台”，因为任务边界可以被定义，输入与输出可以形成测试样本，并能通过任务完成率、端到端处理时长评价。上线初期保留人工审核和异常兜底，可以在控制业务风险的前提下验证价值。

6.3 核心验证假设

如果使用智能体 + 大语言模型 + 数据分析与BI组合方案完成“统一承载知识、工具和工作流，让员工以自然语言完成跨系统任务”，预计能够让任务完成率和端到端处理时长达到双方约定目标，同时把高风险异常控制在人工审核与可回滚范围内。

七、AI解决方案设计

7.1 方案概述

• 亚马逊通过分层智能体架构，用33M小模型做路由、API确定性替代SQL灵活性，将电商BI从"认知霸凌的数据坟墓"重构为"秒级响应的决策助手"，在牺牲27.1%覆盖率的前提下实现96.9%精确率与15秒P90延迟，标志着BI行业从"人找数据"向"任务找数据"的范式跃迁。
• 底层有一道基于 Auto-encoder (AE) 的安检门，专拦「域外 (OOD)」问题。
• 聊 AI Agent 的时候，大家总有种「塞个大模型进去就万事大吉」的乐观。
• 真正让我盯着屏幕愣了好几秒的，不是这个数字，是架构里那种近乎冷酷的实用主义：他们用参数量只有 33M 的「老兵」 BERT 做关键路由，在路由任务上压过了 8B 大模型。

建议的任务链路为：业务系统或工作台发起任务 → 数据与权限校验 → AI识别、检索、预测或优化 → 规则校验 → 返回建议/执行动作 → 人工确认高风险结果 → 结果写回与日志留存。

7.2 系统组成

7.3 核心业务对象

1. 用户：需要定义唯一标识、关键属性、状态和与其他对象的关系。
2. 角色：需要定义唯一标识、关键属性、状态和与其他对象的关系。
3. 任务：需要定义唯一标识、关键属性、状态和与其他对象的关系。
4. 知识：需要定义唯一标识、关键属性、状态和与其他对象的关系。
5. 技能：需要定义唯一标识、关键属性、状态和与其他对象的关系。
6. 工具：需要定义唯一标识、关键属性、状态和与其他对象的关系。
7. 业务对象：需要定义唯一标识、关键属性、状态和与其他对象的关系。
8. 审计事件：需要定义唯一标识、关键属性、状态和与其他对象的关系。

7.4 AI与人的分工

7.5 技术选型说明

• 材料可识别技术：智能体、大语言模型、数据分析与BI、API与系统集成。
• 选型原则：先选择能验证核心假设的最简单路径，再根据准确率、成本、时延和部署约束升级。
• Agent或工作流：只有任务涉及多步判断、工具调用或状态管理时才使用Agent；稳定规则优先交给确定性工作流。
• 知识库/RAG：涉及企业知识时必须提供引用、版本和权限过滤；无知识检索需求时不强行使用。
• 部署方式：由数据敏感度、时延、并发、可运维性和企业基础设施共同决定，材料未披露最终选择。

八、项目交付过程

8.1 第一阶段：需求调研（Audit）

材料未披露访谈岗位、跟岗次数和需求变化记录。正式交付时，FDE应分别访谈战略层、运营层和执行层，并至少跟随真实用户完成3次端到端任务。调研输出应包括As-Is流程、痛点优先级、干系人、项目边界和成功标准。

8.2 第二阶段：数据与知识准备

材料中的数据线索

• 亚马逊通过分层智能体架构，用33M小模型做路由、API确定性替代SQL灵活性，将电商BI从"认知霸凌的数据坟墓"重构为"秒级响应的决策助手"，在牺牲27.1%覆盖率的前提下实现96.9%精确率与15秒P90延迟，标志着BI行业从"人找数据"向"任务找数据"的范式跃迁。
• 如果问 2026 年专业卖家该盯什么，我会说：少折腾仪表盘，多想想怎么把数据 API 做成 Agent 能直接调、调得顺的东西。
• 数据不是在帮你做决策，是在对你进行无休止的认知霸凌。
• 很多卖家半夜在 Seller Central 各个标签页之间跳，累的不是身体，是面对一整座「数据坟墓」。

数据准备需执行4C检查：完整性、口径一致性、准确性与时效性；敏感字段先脱敏，再划分训练集、验证集、盲测集和异常集。业务专家负责确认标签与知识版本。

8.3 第三阶段：PoC验证（Evals）

8.4 第四阶段：开发与迭代

交付范围应覆盖数据管道、AI能力、工作流、接口、权限、异常处理、日志、监控和用户界面。材料可识别的技术包括智能体、大语言模型、数据分析与BI、API与系统集成。材料没有系统披露首版问题、根因和迭代前后指标，因此不能把推荐方案写成已经发生的项目事实。

建议至少保留一次完整迭代记录：问题现象 → 根因 → 调整内容 → 回归测试集 → 指标变化 → 是否进入下一阶段。

8.5 第五阶段：试运行与上线（Deployment）

当前阶段判断：生产运行/规模化（材料披露）。若进入生产，建议先选择3—5名真实用户和5—10个典型任务开展UAT，再按小流量、部门级、全量三个阶段灰度。上线前必须确认人工兜底、回滚、告警、用户培训与知识运营责任人。

九、项目结果与价值验证

9.1 核心结果

材料披露的结果（对外引用前需复核原始台账）

• 职能划得死板，换来了 89.5% 的准确率。
• 分类准确率（Accuracy）。

9.2 价值分类

• 已披露价值：职能划得死板，换来了 89.5% 的准确率。
• 初步价值：AI有机会减少重复劳动、缩短任务周期并提升判断一致性，但需通过真实用户试运行验证。
• 预期价值：若PoC与UAT达标，可进一步扩展到“跨部门多智能体协同”；该项属于规划，不是已验证成果。

9.3 投入产出

建议按以下公式建立项目账：年度价值 = 效率节省 + 质量损失减少 + 经营增益；年度成本 = 建设投入 + 集成投入 + 模型/算力成本 + 知识运营与运维成本。ROI与回收周期只有在基线、运行周期和成本口径完整时才计算，当前材料不足以给出可靠数值。

十、问题、失败与关键迭代

10.1 已披露问题

• IA 的评估结果说：90% 的业务问题能被它精准拆解。
• 在「P90 延迟必须低于 15 秒」的死线之下，这 7 倍的耗时差，就是产品能上线和不能上线的区别。
• 底层有一道基于 Auto-encoder (AE) 的安检门，专拦「域外 (OOD)」问题。

10.2 交付风险卡（需验证，不代表已经发生）

风险1：场景铺得过宽导致价值不清

• 问题现象：待PoC和试运行观察。
• 根本原因：需通过数据分析、用户访谈和日志定位。
• 影响范围：可能影响准确率、使用率、稳定性或合规。
• 缓解方式：建立专项测试集、人工兜底、监控告警和回归验证。
• 关闭标准：风险指标达到双方约定门槛并连续稳定运行。

风险2：工具权限过大造成越权操作

• 问题现象：待PoC和试运行观察。
• 根本原因：需通过数据分析、用户访谈和日志定位。
• 影响范围：可能影响准确率、使用率、稳定性或合规。
• 缓解方式：建立专项测试集、人工兜底、监控告警和回归验证。
• 关闭标准：风险指标达到双方约定门槛并连续稳定运行。

风险3：技能缺乏版本和质量治理

• 问题现象：待PoC和试运行观察。
• 根本原因：需通过数据分析、用户访谈和日志定位。
• 影响范围：可能影响准确率、使用率、稳定性或合规。
• 缓解方式：建立专项测试集、人工兜底、监控告警和回归验证。
• 关闭标准：风险指标达到双方约定门槛并连续稳定运行。

十一、安全与生产化机制

数据安全

• 盘点用户、角色、任务、知识、技能、工具、业务对象、审计事件中的个人信息、经营数据、工艺参数和知识产权。
• 训练、测试与日志数据按最小必要原则脱敏；明确外部模型是否留存数据。
• 权限继承业务系统，检索、查看、生成与执行分别授权。

AI安全

• 输出附置信度、依据或引用；低置信度和无答案任务拒答或转人工。
• 高风险动作必须人工确认，工具调用采用白名单、参数校验和最小权限。
• 建立模型、Prompt、知识和工作流版本管理，支持一键回滚。

持续运营

• 每周复盘错误样本，每月回归核心测试集，并监控任务完成率、端到端处理时长、人工步骤数。
• 明确业务知识负责人、技术运维负责人和价值指标负责人。

十二、FDE角色与交付复盘

本项目中，FDE应承担需求调研、业务流程建模、数据审计、PoC设计、方案集成、用户验收和价值复盘。最重要的判断不是“使用哪一个模型”，而是把项目收敛到“统一承载知识、工具和工作流，让员工以自然语言完成跨系统任务”这一可验证任务，并为高风险结果设计人机边界。

1. 最重要判断：用可量化任务替代宽泛的AI转型目标。
2. 最难协调关系：业务价值负责人、真实用户、IT/数据团队与技术供应商之间的目标和责任边界。
3. 可复用能力：场景审计方法、测试集、指标体系、工作流、权限与监控组件。

十三、可复用资产

十四、下一阶段计划

1. 补证：补齐业务量、人工时长、质量损失、数据质量、真实运行范围和项目成本。
2. 验证：按建议测试集完成离线盲测，再用真实用户开展小范围UAT。
3. 扩展：当前场景稳定后，评估“跨部门多智能体协同”，并把通用组件沉淀到企业AI平台。

下一阶段的首要目标不是增加功能，而是建立持续评测、错误样本回流、知识更新、模型监控和价值台账，使任务完成率、端到端处理时长可以长期追踪。

十五、结语：给同类企业的三条建议

1. 从高频、可衡量、风险可控的任务开始：先验证一个闭环，不把多个部门的愿望一次性塞进PoC。
2. 启动前先准备基线、数据和验收人：没有基线无法证明价值，没有真实用户和业务验收人无法进入生产。
3. 把人机边界和运营机制写进方案：明确AI做什么、人确认什么、异常如何降级、错误由谁修正，才能把演示变成可持续系统。