Human-in-the-Loop Architecture（人在环架构）
知识库位置：
FDE Knowledge Base/04 Architecture/Patterns/10-Human-in-the-Loop-Architecture.md
Architecture Metadata（架构元数据）
Section titled “Architecture Metadata（架构元数据）”Architecture ID: ARCH-010
Category（类别）:Control（管控）
Primary Business Problem（主要业务问题）:Controlled Human Approval for AI / Automation Outcomes（AI/自动化结果的可控人工审批）
Complexity（复杂度）:Medium（中）
AI Dependency（AI 依赖度）:Optional（可选：可包裹规则引擎输出）
Data Dependency（数据依赖度）:Low（低）
Integration Complexity（集成复杂度）:Medium（中）
Human Review（人工复核）:Core（核心机制本身）
Status: CoreVersion: v0.2Business Problem（业务问题）
Section titled “Business Problem（业务问题）”AI 或自动化能够完成大部分任务，但部分场景：
- 风险高
- 不确定性高
- 数据不足
- 需要授权
- 法规要求人工审核
因此需要：
Human-in-the-Loop（HITL，人在环）
Important Principle（重要原则）
Section titled “Important Principle（重要原则）”HITL 不是：
加一个「Approve（批准）」按钮。
它是一套完整的责任和决策架构。
Architecture（架构）
Section titled “Architecture（架构）”Input（输入） ↓Automation / AI（自动化 / AI） ↓Risk / Confidence Evaluation（风险 / 置信度评估） ↓Decision Gate（决策门控） ┌───────────────┬────────────────┐ ↓ ↓ ↓Auto Approve Human Review Specialist Escalation（自动批准） （人工复核） （专家升级处理） ↓ ↓ ↓Execution Decision Decision（执行） （决策） （决策） └───────────────┴────────────────┘ ↓ Audit（审计） ↓ Feedback（反馈）Routing Criteria（路由标准）
Section titled “Routing Criteria（路由标准）”可以基于：
- Confidence（置信度）
- Amount（金额）
- Risk Score（风险评分）
- User Role（用户角色）
- Policy（策略）
- Exception Type（异常类型）
例如：
Low Risk（低风险）→ Auto（自动处理）
Medium Risk（中风险）→ Human Reviewer（人工复核员）
High Risk（高风险）→ Specialist / Manager（专家 / 经理）Reviewer Experience（复核体验）
Section titled “Reviewer Experience（复核体验）”Human Review（人工复核）页面必须提供：
- AI Result（AI 结果）
- Source Data（源数据）
- Evidence（证据）
- Confidence（置信度）
- Reason（理由）
- Available Actions（可执行操作）
不要让审核人员只看到：
AI says: Approve（AI 说：批准）SLA（服务等级协议）
Section titled “SLA（服务等级协议）”Human Review 也需要定义：
- Review SLA（复核时限）
- Escalation（升级机制）
- Timeout（超时处理）
- Reassignment（改派机制）
否则自动化流程会卡在人工步骤。
Feedback Loop（反馈闭环）
Section titled “Feedback Loop（反馈闭环）”Human Correction（人工修正）应回流：
AI Output（AI 输出）↓Human Correction（人工修正）↓Feedback Dataset（反馈数据集）↓Evaluation / Model Improvement（评估 / 模型改进）Security（安全）
Section titled “Security（安全）”必须记录：
- Who Reviewed（谁审核的）
- What They Saw（他们看到了什么）
- What They Changed（他们改了什么）
- When（何时）
- Why（为什么）
Failure Modes（失败模式）
Section titled “Failure Modes（失败模式）”- Reviewer Blindly Approves（复核员盲目批准）
- Review Queue Backlog（复核队列积压）
- No Escalation（没有升级机制）
- No Accountability（没有责任归属）
- Wrong Risk Threshold（风险阈值错误）
- Feedback Not Captured（反馈未被记录）
Implementation Path（实施路径）
Section titled “Implementation Path（实施路径）”Stage 1All AI outputs reviewed（全部 AI 输出均人工复核）
Stage 2Low-risk auto + high-risk review（低风险自动 + 高风险复核）
Stage 3Dynamic risk routing（动态风险路由）
Stage 4Specialist escalation（专家升级）
Stage 5Feedback-driven optimization（反馈驱动优化）