Security Blocks the Project（安全团队阻止项目）

知识库位置：FDE Knowledge Base/09 Field Guides/05-Security-Blocks-the-Project.md

Situation（情景）

客户 Security（安全）团队表示：

不能上线。

或者提出大量要求导致项目停滞。

---

What It Usually Means（通常意味着什么）

很多时候不是 Security「阻碍创新」。

而是 Security 太晚才进入项目。

常见未解决问题：

• 数据去哪
• 谁能访问
• Model Provider（模型供应商）如何处理数据
• Logging（日志）什么
• Secret（密钥）怎么存
• AI 能调用哪些 Tool（工具）
• Incident（事故）怎么处理

---

First Principle（第一原则）

不要把 Security 当成：

Final Approval Step（最终审批环节）。

应该把它当成：

Architecture Stakeholder（架构干系人）。

---

Questions to Clarify（需要澄清的问题）

• 具体阻塞项是什么？
• 哪个 Risk Category（风险类别）？
• 哪项 Policy（政策）不满足？
• 是 Mandatory（强制）还是 Recommended（建议）？
• 哪些 Alternative Control（替代控制）可接受？
• 需要什么 Evidence（证据）？
• 谁能正式批准 Risk Acceptance（风险接受）？

---

Common Categories（常见类别）

Data Privacy（数据隐私）
Access Control（访问控制）
Secrets（密钥）
Network（网络）
Vendor Risk（供应商风险）
Model Risk（模型风险）
Audit（审计）
Retention（留存）
Tool Execution（工具执行）

---

Recommended Response（推荐应对）

Convert Concerns into Requirements（把顾虑转成需求）

例如：

"External LLM is risky"（「外部大模型有风险」）

转成：

No customer data retained by provider（供应商不留存客户数据）
Region requirement（区域要求）
Encryption（加密）
DPA（数据处理协议）
Access audit（访问审计）

这样才可以设计。

Minimize Data（最小化数据）

只发送必要数据。

Isolate High-risk Operations（隔离高风险操作）

例如：

AI
↓
Recommendation only（仅给建议）
↓
Internal system executes action（内部系统执行动作）

Add Human Approval（增加人工审批）

对高风险操作降低自动化等级。

---

What NOT to Do（不要做什么）

不要：

• 绕过 Security
• 隐瞒模型调用
• 把 Secret 写进代码
• 认为「我们不会让模型泄漏」就是安全控制

---

Decision Path（决策路径）

Security Concern（安全顾虑）
↓
Can mitigate technically?（技术上可缓解？）
├─ Yes → redesign（重新设计）
└─ No
    ↓
Can business accept residual risk?（业务可接受剩余风险？）
├─ Yes → formal risk acceptance（正式风险接受）
└─ No → re-scope / stop（重定范围/停止）

---

Artifacts（要产出的工件）

• Security Architecture（安全架构）
• Data Flow（数据流）
• Threat / Risk Summary（威胁/风险摘要）
• Control Mapping（控制映射）
• Risk Acceptance Decision（风险接受决策）

---

Related Topics（关联知识）

• AI Security Checklist（AI 安全检查清单）
• Authentication & Authorization（认证与授权）
• Architecture Workshop（架构工作坊）