生产系统安全场景Agent

案例定位：面向AI项目审计、PoC设计、方案复用与交付复盘的结构化案例。
事实边界：本文仅把材料中明确披露的内容视为案例事实；PoC门槛与实施步骤属于FDE交付建议。

二、案例基本信息

三、30秒案例摘要

某装备制造企业（原材料未明确披露名称）围绕安全生产与智能巡检开展AI能力建设。案例所对应的核心矛盾是：资料分享：传统安全警示材料有人工制作， 制作周期长，人工成本高，难以满足快速灵活的生产安全需要。方案侧的关键做法是：企业希望构建安全管理的系统模型，通过生产系统安全场景Agent来实现基于危险源风险识别，岗前教育和事故教育，帮助某钢铁集团提升员工安全意识， 真正做到了全员参与危险源识别活动，提高人的意识和技能。当前材料可确认的结果为：企业希望构建安全管理的系统模型，通过生产系统安全场景Agent来实现基于危险源风险识别，岗前教育和事故教育，帮助某钢铁集团提升员工安全意识， 真正做到了全员参与危险源识别活动，提高人的意识和技能。

从FDE交付视角，这类项目不应直接以“大模型上线”作为目标，而应把持续识别现场异常和违规行为，并驱动告警、处置与复盘闭环定义为可评价任务。建议先以覆盖正常、违规、遮挡、弱光和设备异常的现场视频/图片与巡检记录建立测试集，以高风险事件召回率、误报率、告警响应时间为核心指标，通过PoC后再进入系统集成与生产化。

四、企业背景与项目起因

4.1 企业与业务背景

已披露事实

• 企业希望构建安全管理的系统模型，通过生产系统安全场景Agent来实现基于危险源风险识别，岗前教育和事故教育，帮助某钢铁集团提升员工安全意识， 真正做到了全员参与危险源识别活动，提高人的意识和技能。
• 高效管理：针对往期案例分析、现场安全建议、安全报告分享、安全工具指导等常用场景定制Agent，同时根据实际业务、人员灵活配置安全Agent。
• 安全永远是制造企业第一要素！。

4.2 项目发起原因

已披露或可直接识别的问题

• 资料分享：传统安全警示材料有人工制作， 制作周期长，人工成本高，难以满足快速灵活的生产安全需要。
• 安全指引：遇到安全事故时的应急处理依赖人员经验，难以快速、准确提供有价值的应急指导意见。
• 避免在雷暴预營期间从事高风险活动，如登山、徒步、钓鱼、游泳等户外活。
• 这些活动会增加暴露在雷电风险下的可能性。

FDE补充判断

项目边界应收敛到“持续识别现场异常和违规行为，并驱动告警、处置与复盘闭环”，并在启动会中确认业务负责人、真实使用者、数据负责人和最终验收人。若无法确认这四类角色，项目容易停留在演示层。

五、原始流程与核心问题

5.1 AI介入前的工作流程

以下流程为基于场景的FDE复盘推断，必须在客户访谈和跟岗观察中确认。

制定巡检计划 → 人员现场检查 → 手工记录 → 上报异常 → 派单整改 → 复核关闭。

5.2 核心问题

5.3 项目前基线

六、场景选择与价值判断

6.1 候选场景

6.2 选择原因

第一阶段建议选择“安全生产与智能巡检”，因为任务边界可以被定义，输入与输出可以形成测试样本，并能通过高风险事件召回率、误报率评价。上线初期保留人工审核和异常兜底，可以在控制业务风险的前提下验证价值。

6.3 核心验证假设

如果使用智能体 + 大语言模型 + RAG组合方案完成“持续识别现场异常和违规行为，并驱动告警、处置与复盘闭环”，预计能够让高风险事件召回率和误报率达到双方约定目标，同时把高风险异常控制在人工审核与可回滚范围内。

七、AI解决方案设计

7.1 方案概述

• 企业希望构建安全管理的系统模型，通过生产系统安全场景Agent来实现基于危险源风险识别，岗前教育和事故教育，帮助某钢铁集团提升员工安全意识， 真正做到了全员参与危险源识别活动，提高人的意识和技能。
• 灵活分享：基于LLM能力（资料理解、内容生成、人机对话），打造安全分享平台，一站式提供安全警示报告、安全分享材料、安全知识题库等功能。
• 安全生产：通过对以往事故案例拆解分析，形成安全应急资料库，根据实际场景提供有效安全建议。
• 实现场景有效覆盖与高效管理。

建议的任务链路为：业务系统或工作台发起任务 → 数据与权限校验 → AI识别、检索、预测或优化 → 规则校验 → 返回建议/执行动作 → 人工确认高风险结果 → 结果写回与日志留存。

7.2 系统组成

7.3 核心业务对象

1. 人员：需要定义唯一标识、关键属性、状态和与其他对象的关系。
2. 设备：需要定义唯一标识、关键属性、状态和与其他对象的关系。
3. 区域：需要定义唯一标识、关键属性、状态和与其他对象的关系。
4. 风险事件：需要定义唯一标识、关键属性、状态和与其他对象的关系。
5. 告警：需要定义唯一标识、关键属性、状态和与其他对象的关系。
6. 工单：需要定义唯一标识、关键属性、状态和与其他对象的关系。
7. 整改记录：需要定义唯一标识、关键属性、状态和与其他对象的关系。

7.4 AI与人的分工

7.5 技术选型说明

• 材料可识别技术：智能体、大语言模型、RAG、OCR、API与系统集成。
• 选型原则：先选择能验证核心假设的最简单路径，再根据准确率、成本、时延和部署约束升级。
• Agent或工作流：只有任务涉及多步判断、工具调用或状态管理时才使用Agent；稳定规则优先交给确定性工作流。
• 知识库/RAG：涉及企业知识时必须提供引用、版本和权限过滤；无知识检索需求时不强行使用。
• 部署方式：由数据敏感度、时延、并发、可运维性和企业基础设施共同决定，材料未披露最终选择。

八、项目交付过程

8.1 第一阶段：需求调研（Audit）

材料未披露访谈岗位、跟岗次数和需求变化记录。正式交付时，FDE应分别访谈战略层、运营层和执行层，并至少跟随真实用户完成3次端到端任务。调研输出应包括As-Is流程、痛点优先级、干系人、项目边界和成功标准。

8.2 第二阶段：数据与知识准备

材料中的数据线索

• 灵活分享：基于LLM能力（资料理解、内容生成、人机对话），打造安全分享平台，一站式提供安全警示报告、安全分享材料、安全知识题库等功能。

数据准备需执行4C检查：完整性、口径一致性、准确性与时效性；敏感字段先脱敏，再划分训练集、验证集、盲测集和异常集。业务专家负责确认标签与知识版本。

8.3 第三阶段：PoC验证（Evals）

8.4 第四阶段：开发与迭代

交付范围应覆盖数据管道、AI能力、工作流、接口、权限、异常处理、日志、监控和用户界面。材料可识别的技术包括智能体、大语言模型、RAG、OCR、API与系统集成。材料没有系统披露首版问题、根因和迭代前后指标，因此不能把推荐方案写成已经发生的项目事实。

建议至少保留一次完整迭代记录：问题现象 → 根因 → 调整内容 → 回归测试集 → 指标变化 → 是否进入下一阶段。

8.5 第五阶段：试运行与上线（Deployment）

当前阶段判断：方案已披露（运行阶段待核验）。若进入生产，建议先选择3—5名真实用户和5—10个典型任务开展UAT，再按小流量、部门级、全量三个阶段灰度。上线前必须确认人工兜底、回滚、告警、用户培训与知识运营责任人。

九、项目结果与价值验证

9.1 核心结果

材料披露的结果（对外引用前需复核原始台账）

• 企业希望构建安全管理的系统模型，通过生产系统安全场景Agent来实现基于危险源风险识别，岗前教育和事故教育，帮助某钢铁集团提升员工安全意识， 真正做到了全员参与危险源识别活动，提高人的意识和技能。

9.2 价值分类

• 已披露价值：企业希望构建安全管理的系统模型，通过生产系统安全场景Agent来实现基于危险源风险识别，岗前教育和事故教育，帮助某钢铁集团提升员工安全意识， 真正做到了全员参与危险源识别活动，提高人的意识和技能。
• 初步价值：AI有机会减少重复劳动、缩短任务周期并提升判断一致性，但需通过真实用户试运行验证。
• 预期价值：若PoC与UAT达标，可进一步扩展到“风险预测与隐患整改分析”；该项属于规划，不是已验证成果。

9.3 投入产出

建议按以下公式建立项目账：年度价值 = 效率节省 + 质量损失减少 + 经营增益；年度成本 = 建设投入 + 集成投入 + 模型/算力成本 + 知识运营与运维成本。ROI与回收周期只有在基线、运行周期和成本口径完整时才计算，当前材料不足以给出可靠数值。

十、问题、失败与关键迭代

10.1 已披露问题

• 资料分享：传统安全警示材料有人工制作， 制作周期长，人工成本高，难以满足快速灵活的生产安全需要。
• 安全指引：遇到安全事故时的应急处理依赖人员经验，难以快速、准确提供有价值的应急指导意见。
• 避免在雷暴预營期间从事高风险活动，如登山、徒步、钓鱼、游泳等户外活。

10.2 交付风险卡（需验证，不代表已经发生）

风险1：遮挡和环境变化造成误报漏报

• 问题现象：待PoC和试运行观察。
• 根本原因：需通过数据分析、用户访谈和日志定位。
• 影响范围：可能影响准确率、使用率、稳定性或合规。
• 缓解方式：建立专项测试集、人工兜底、监控告警和回归验证。
• 关闭标准：风险指标达到双方约定门槛并连续稳定运行。

风险2：告警疲劳降低一线响应意愿

• 问题现象：待PoC和试运行观察。
• 根本原因：需通过数据分析、用户访谈和日志定位。
• 影响范围：可能影响准确率、使用率、稳定性或合规。
• 缓解方式：建立专项测试集、人工兜底、监控告警和回归验证。
• 关闭标准：风险指标达到双方约定门槛并连续稳定运行。

风险3：涉及人员影像与行为数据合规

• 问题现象：待PoC和试运行观察。
• 根本原因：需通过数据分析、用户访谈和日志定位。
• 影响范围：可能影响准确率、使用率、稳定性或合规。
• 缓解方式：建立专项测试集、人工兜底、监控告警和回归验证。
• 关闭标准：风险指标达到双方约定门槛并连续稳定运行。

十一、安全与生产化机制

数据安全

• 盘点人员、设备、区域、风险事件、告警、工单、整改记录中的个人信息、经营数据、工艺参数和知识产权。
• 训练、测试与日志数据按最小必要原则脱敏；明确外部模型是否留存数据。
• 权限继承业务系统，检索、查看、生成与执行分别授权。

AI安全

• 输出附置信度、依据或引用；低置信度和无答案任务拒答或转人工。
• 高风险动作必须人工确认，工具调用采用白名单、参数校验和最小权限。
• 建立模型、Prompt、知识和工作流版本管理，支持一键回滚。

持续运营

• 每周复盘错误样本，每月回归核心测试集，并监控高风险事件召回率、误报率、告警响应时间。
• 明确业务知识负责人、技术运维负责人和价值指标负责人。

十二、FDE角色与交付复盘

本项目中，FDE应承担需求调研、业务流程建模、数据审计、PoC设计、方案集成、用户验收和价值复盘。最重要的判断不是“使用哪一个模型”，而是把项目收敛到“持续识别现场异常和违规行为，并驱动告警、处置与复盘闭环”这一可验证任务，并为高风险结果设计人机边界。

1. 最重要判断：用可量化任务替代宽泛的AI转型目标。
2. 最难协调关系：业务价值负责人、真实用户、IT/数据团队与技术供应商之间的目标和责任边界。
3. 可复用能力：场景审计方法、测试集、指标体系、工作流、权限与监控组件。

十三、可复用资产

十四、下一阶段计划

1. 补证：补齐业务量、人工时长、质量损失、数据质量、真实运行范围和项目成本。
2. 验证：按建议测试集完成离线盲测，再用真实用户开展小范围UAT。
3. 扩展：当前场景稳定后，评估“风险预测与隐患整改分析”，并把通用组件沉淀到企业AI平台。

下一阶段的首要目标不是增加功能，而是建立持续评测、错误样本回流、知识更新、模型监控和价值台账，使高风险事件召回率、误报率可以长期追踪。

十五、结语：给同类企业的三条建议

1. 从高频、可衡量、风险可控的任务开始：先验证一个闭环，不把多个部门的愿望一次性塞进PoC。
2. 启动前先准备基线、数据和验收人：没有基线无法证明价值，没有真实用户和业务验收人无法进入生产。
3. 把人机边界和运营机制写进方案：明确AI做什么、人确认什么、异常如何降级、错误由谁修正，才能把演示变成可持续系统。