AI合规、数据安全与风险边界
在金融、医疗、政务等强监管行业，合规不是AI项目的刹车，而是能否上路的准入证。本课程给出一套可直接落地的企业AI合规框架。
先判断：你是否需要学这一模块 SELF CHECK
命中 2 条以上，建议优先安排本模块；勾选可当作业前的需求确认表使用。
学习目标 OBJECTIVES
- 1掌握企业数据分级方法，明确哪些数据绝对不能进公有云模型
- 2建立工具准入清单：可用、限用、禁用三类工具的判定标准
- 3设计AI输出审核SOP：什么必审、什么抽检、谁来签字
- 4了解主要监管要求（数据安全法、生成式AI服务管理办法、行业监管）与AI生成内容标识义务
- 5掌握提示词注入、越权访问、数据泄露三类典型风险的防护做法
核心知识点 KEY POINTS
数据分级：四级分类法
公开信息 / 内部信息 / 敏感信息（客户资料、合同、财务）/ 核心机密（算法、配方、未披露信息）。前两级可在合规工具中使用，敏感级需脱敏或私有化，核心级默认不进模型。
工具准入三色清单
绿名单（企业采购、数据可控、可签协议）、黄名单（限内部非敏内容、禁止粘客户数据）、红名单（未评估的外部工具一律禁用）。清单要具体到产品名和版本号。
部署形态选择
公有云SaaS（快、便宜、数据出网）、私有化部署（数据不出企业、成本高）、混合模式（通用能力走公有云，业务知识走本地）。按数据分级而非按预算决定。
输出审核机制
按风险等级设计：对外发布与合同类内容“人工必审+留痕”，内部辅助内容“抽检+使用人负责”，批量生成内容“先审样本再放量”。
典型风险与防护
提示词注入（外部文档中的恶意指令）、越权调用（Agent拿到过高权限）、数据回传训练（需确认关闭训练选项）。对应防护：输入清洗、最小权限原则、供应商协议条款。
生成内容标识与知识产权
AI生成的公开内容需按规标识；AI生成物的著作权归属与使用边界需在企业制度中明确，尤其是设计与文案类交付物。
方法论与操作步骤 METHOD & STEPS
第一步：做一次数据盘点与分级
列出各部门日常接触的数据类型，按四级分类标注，明确每级的可用工具与脱敏要求。
第二步：发布工具三色清单
由IT+法务+业务三方评审，形成可用/限用/禁用清单，配使用说明与责任人，纳入新员工培训。
第三步：确定部署形态
敏感级以上数据场景采用私有化或混合部署；明确供应商的数据使用条款（是否用于训练、存储地、留存期）。
第四步：建立输出审核SOP
定义必审清单、审核要点（事实、合规话术、承诺性表述、个人信息）、审核人与留痕方式。
第五步：日志与审计
保留关键场景的调用日志与输入输出快照，支持事后追溯；按季度做一次合规复盘与清单更新。
真实落地场景案例 REAL CASES
AI合规必修与制度先行
业务场景
银行业监管严格，业务人员渴望用AI但担心触碰合规红线，导致工具使用“地下化”。
AI应用做法
把AI合规设为全员必修模块，先出制度再放工具：数据分级清单、工具三色清单、输出审核SOP三件套同步发布。
客户信息脱敏后才进AI
业务场景
案件材料含大量当事人身份信息与商业秘密，直接粘贴进公有云工具存在泄露风险。
AI应用做法
建立“要素抽取+脱敏替换”前置流程：先本地脱敏，再交由AI做案情梳理与文书初稿，输出后人工还原与复核。
涉及工具与产出物 TOOLS & DELIVERABLES
- 数据分级清单模板
- 工具三色准入清单
- 私有化/混合部署方案
- 内容审核API
- 调用日志与审计看板
- 《企业AI使用规范》制度文件
- 数据分级清单与脱敏规则
- AI输出审核SOP与必审清单
- 供应商数据条款核对表
随堂练习与验收标准 PRACTICE & ACCEPTANCE
- 列出你日常接触的10类数据，按公开/内部/敏感/核心四级标注，并写出对应的可用工具。
- 审核一段AI生成的对客话术，标出其中的承诺性表述、事实性表述与个人信息，说明哪些必须删改。
- 为你所在部门起草一版《AI使用三色清单》（可用/限用/禁用），具体到产品名。
- 完成本部门数据分级清单（≥10类数据）
- 通过合规审核测试：能准确识别对客话术中的风险表述
- 提交一版《AI使用三色清单》草案
常见误区 PITFALLS
合规问题留到上线前再讨论，导致项目临时叫停
合规前置：立项时就完成数据分级与工具准入判定
只发一纸“禁止使用外部AI”的通知
禁而不疏必然转入地下，应给出可用的合规替代方案
认为私有化部署就绝对安全
私有化解决数据出网问题，权限控制与输出审核仍需独立建设
只审核AI输出，不管理AI输入
输入侧的提示词注入与越权调用同样需要防护
建议课时 RECOMMENDED HOURS
| 适合人群 | 建议课时 | 建议形式 |
|---|---|---|
| 全员 | 1课时 | 必修：规范宣讲 + 签署承诺 |
| 业务岗 | 2课时 | 含本岗位数据分级练习 |
| 技术岗 | 3课时 | 含部署方案与防护设计 |
| 管理者 | 2课时 | 含责任边界与制度发布 |
721 时间分配（合计 2 课时 / 约 90 分钟）
| 环节 | 占比 | 课时 | 时长 | 内容说明 |
|---|---|---|---|---|
| 讲授 | 35% | 0.7 课时 | 约 32 分钟 | 讲概念、讲方法、拆解案例 |
| 实操演练 | 45% | 0.9 课时 | 约 40 分钟 | 随堂动手，产出真实业务成果 |
| 研讨点评 | 20% | 0.4 课时 | 约 18 分钟 | 方案互评、答疑与改进建议 |
按 721 法则设计：以实操为主、讲授为辅、研讨收口；1 课时按 45 分钟计，可按企业作息调整。