第五步：加入人工审核、监控与回滚
在真正发送、发布或更新前暂停流程，并用日志、告警和回滚保证可控。
安全上线前要加入人工审核点，尤其是在发送消息、公开发布、修改客户数据或产生费用之前。流程还应记录每次运行、失败原因和关键输入输出，并提供暂停、重跑和恢复到旧版本的方法。
- 选择必须人工确认的节点
- 设计失败通知
- 完成小范围上线检查
01
把审批放在不可逆动作之前
审批内容应展示原始输入、AI 输出、风险提示和即将执行的动作。
- 审批人明确
- 拒绝后停止
- 超时有处理规则
02
记录可排错的运行信息
保存运行编号、步骤状态、错误摘要和时间，不在普通日志中泄露密钥或完整敏感内容。
- 能定位失败步骤
- 有失败通知
- 日志符合数据政策
03
从小范围开始
先用测试数据和少量真实任务运行，观察错误率、人工修改率和节省时间。
- 有暂停开关
- 旧版本可恢复
- 指标达到预期再扩大
可复制流程蓝图
先在测试环境搭建这条最小流程
触发 → AI生成草稿 → 写入待审核表 → 请求审批 → 批准后执行动作 / 拒绝后停止并记录原因 → 失败时通知负责人。
动手练习 · 约 20 分钟
完成本步骤
- 在流程末端加入审批
- 测试批准、拒绝、超时
- 制造一次可控失败
- 验证暂停和恢复流程
出现以下情况先不要上线
- 审批放在动作之后
- 错误后自动无限重试
- 上线后无人查看失败通知
常见问题
哪些动作必须人工审核？
至少包括付款、删除、公开发布、对外承诺、敏感数据变更和其他高影响动作。
自动重试安全吗？
只对确认幂等且不会重复产生副作用的步骤使用有限重试，并设置上限和告警。
何时可以取消人工审核？
需要结合风险、稳定运行数据、错误成本和组织政策评估；高影响动作通常仍应保留。