跳转到内容

Production Incident at Customer(客户生产事故)

知识库位置:FDE Knowledge Base/09 Field Guides/12-Production-Incident-at-Customer.md

客户生产系统出现故障。

可能:

  • 系统完全不可用
  • AI 输出严重异常
  • Integration(集成)失败
  • 数据处理错误
  • 权限问题
  • Performance Degradation(性能劣化)

Incident(事故)中的优先顺序:

Protect(保护)
↓
Restore(恢复)
↓
Communicate(沟通)
↓
Investigate(调查)
↓
Prevent(预防)

而不是:

Find who caused it(先找是谁造成的)

Step 1 — Assess Severity(评估严重度)

Section titled “Step 1 — Assess Severity(评估严重度)”

参考:Troubleshooting README(严重等级与证据包)

判断:

  • SEV-1
  • SEV-2
  • SEV-3
  • SEV-4

Step 2 — Establish Incident Command(建立事故指挥)

Section titled “Step 2 — Establish Incident Command(建立事故指挥)”

明确:

  • Incident Commander(事故指挥官)
  • Technical Lead(技术负责人)
  • Customer Communication Owner(客户沟通负责人)
  • Engineering Owners(工程负责人)

不要所有人同时指挥。


Step 3 — Define Impact(定义影响)

Section titled “Step 3 — Define Impact(定义影响)”

回答:

Who is affected?(谁受影响?)
What is broken?(什么坏了?)
Since when?(从何时开始?)
How many users?(多少用户?)
Business impact?(业务影响?)
Data impact?(数据影响?)

优先考虑:

  • Rollback(回滚)
  • Disable Feature(禁用功能)
  • Failover(故障切换)
  • Manual Process(人工流程)
  • Read-only Mode(只读模式)
  • Stop Risky Automation(停止高风险自动化)

更新应包含:

Current Impact(当前影响)
What We Know(我们已知什么)
What We Are Doing(我们正在做什么)
Next Update(下次更新时间)

不要过早猜 Root Cause(根本原因)。


保存:

  • Logs(日志)
  • Traces(链路追踪)
  • Metrics(指标)
  • Request IDs(请求编号)
  • Timeline(时间线)
  • Deployments(部署记录)
  • Config Changes(配置变更)

Step 7 — Root Cause Later(事后找根因)

Section titled “Step 7 — Root Cause Later(事后找根因)”

业务恢复后再进行:

Root Cause Analysis(根本原因分析)

并形成:

  • Root Cause(根本原因)
  • Contributing Factors(促成因素)
  • Detection Gap(检测盲区)
  • Corrective Actions(纠正措施)
  • Prevention(预防措施)

如果 AI 产生高风险错误:

可以先:

Disable automation(禁用自动化)
↓
Switch to recommendation-only(切换为仅建议)
↓
Human review(人工复核)

而不是必须整个系统下线。


不要:

  • 在生产事故中随意试验多个改动
  • 没有记录就直接修改
  • 对客户做未经证实的 Root Cause 声明
  • 隐瞒严重影响