第三步:把 AI 变成可检查的处理步骤
让 AI 负责摘要、分类或草稿,并用固定字段和失败规则限制输出。
AI 步骤应只承担一个清楚任务,并输出固定字段。提示词要写明允许依据、分类标签、字数、缺失信息处理和禁止事项;解析失败、结果为空或超出边界时,应停止并转入人工检查。
- 为 AI 步骤限定单一任务
- 设计固定输出字段
- 定义失败和降级规则
01
先选择可核对的 AI 任务
摘要、标签分类、信息提取和草稿通常比自主决策更适合作为初学步骤。
- 输入有依据
- 输出可逐项检查
- 不代替专业判断
02
输出固定结构
要求 summary、category、confidence_reason 等字段,并限定标签集合。
- 字段数量固定
- 标签范围固定
- 缺失时返回明确状态
03
为异常准备出口
低置信、格式错误、敏感内容或输入不足时,不要猜测,应写入审核队列。
- 有失败状态
- 有原始输入留存
- 有人工接手路径
可复制流程蓝图
先在测试环境搭建这条最小流程
仅依据输入文本输出:summary(80字内)、category(咨询/投诉/建议/其他)、needs_review(true/false)、reason。信息不足时 needs_review=true,不补充事实。
动手练习 · 约 20 分钟
完成本步骤
- 选择摘要或分类任务
- 定义不超过四个输出字段
- 准备正常、空白、模糊三类样本
- 记录每类预期结果
出现以下情况先不要上线
- 让 AI 同时判断和执行高风险动作
- 输出没有固定格式
- 把置信语气当成正确性
常见问题
AI 能否决定是否退款?
不应由零基础流程直接决定。可以整理材料或标记风险,但最终决定应按业务权限由人处理。
为什么要限制分类标签?
固定标签更容易验证、统计和路由,能减少模型自由发挥。
需要保存原始输入吗?
在符合隐私和保留政策的前提下,保留必要输入有助于复核和排错。