模块 14第 4 学期 · 生产运维

合规、治理与审计

登录后可在不同设备间同步进度。在此之前，进度只保存在当前浏览器中。

本模块面向工程师讲解各类框架，不构成法律意见；请就你所在司法辖区和行业的具体义务咨询合格的法律顾问。

为什么重要

“企业级”归根结底意味着你能证明它。企业采购会发来安全问卷；监管机构会要求调取记录；投资人尽调会问数据怎么处理。你在 M01 到 M13 中构建的一切，在这里都会变成证据。

学习目标

  1. 构建能回答“谁、在什么时候、从哪里、代表谁、做了什么”的审计追踪。
  2. 应用数据保护原则（以新加坡 PDPA 为参照，并与 GDPR 对比）。
  3. 理解 SOC 2 和 ISO/IEC 27001 的结构，以及如何持续收集证据。
  4. 了解新加坡金融科技适用的行业规则（MAS Technology Risk Management Guidelines、外包方面的监管要求）。
  5. 用 IMDA Model AI Governance Framework for Agentic AI 治理 AI 系统，并了解 EU AI Act 可能在哪些情况下适用。
  6. 用证据回答供应商安全问卷。

课程内容

14.1 审计追踪

  • 对安全和业务相关事件做只追加的日志：登录、权限变更、数据导出、管理员操作、资金流转、agent 工具调用及审批。
  • 字段：操作者（人或 agent 身份）、代表谁（on-behalf-of）、操作、对象、变更前/后、时间戳（服务端）、IP/设备、request ID、结果。
  • 防篡改可验证（一次写入存储、哈希链，或放在单独账号中），并有保留规则。
  • 与调试日志分开；对审计日志的访问本身也要被审计。

14.2 数据保护：以 PDPA（新加坡）为参照

工程师需要落地的关键义务：

  • 同意与目的： 只为声明的目的收集数据；记录用户同意。
  • 访问与更正： 用户可以申请查看并更正自己的数据。要做好导出和编辑的通道。
  • 保护： 合理的安全措施（即 M05 的全部内容）。
  • 保留限制： 不再需要时删除或匿名化。要做好数据保留任务。
  • 转移限制： 数据离开新加坡时需有同等水平的保护（查清你的云区域和 AI 服务商在哪里处理数据）。
  • 数据泄露通报： 及时评估疑似泄露；在确定泄露属于须通报情形后的 3 个日历日内通知 PDPC，并在需要时通知受影响的个人。
  • NRIC 及身份证号码： 限制收集；在界面和日志中做掩码处理。
  • 问责： 任命数据保护官（DPO），并将政策形成文档。 GDPR 在此基础上增加了更严格的合法性基础规则、72 小时内通知监管机构、包括删除权和可携带权在内的数据主体权利，以及针对高风险处理的 DPIA。

工程实践模式：数据清单/数据地图、分级（公开、内部、机密、受限）、受限数据做字段级加密、在日志和发给 LLM 服务商的提示词中做 PII 脱敏、删除操作按计划同步到备份、与每个子处理方签订 DPA（包括 AI 厂商，并核查其训练和数据保留条款）。

14.3 安全框架：SOC 2 与 ISO/IEC 27001

  • SOC 2（AICPA）：审计师依据 Trust Services Criteria（安全性，另可选可用性、处理完整性、保密性、隐私）对控制措施出具的报告。Type I 评估某一时点的控制设计；Type II 评估一段时期内（通常 3 到 12 个月）的运行有效性。
  • ISO/IEC 27001:2022： 可认证的信息安全管理体系，附录 A 列出控制项（2022 版共 93 项）。
  • 审计师关注的内容与本课程一一对应：访问权限复核、MFA、通过 PR 和 CI 进行变更管理、漏洞管理、日志与监控、事故响应、备份与恢复测试、供应商管理、安全培训、制度政策。
  • 使用合规自动化工具（Vanta、Drata、Secureframe 或开源替代品），从 GitHub、云平台和身份服务商持续收集证据。

14.4 新加坡金融科技：MAS 的监管要求

对于受 MAS 监管的机构及其技术服务商，MAS Technology Risk Management（TRM）Guidelines 对技术风险治理、安全软件开发、IT 韧性、访问控制、密码学、网络安全监测和事故管理提出了要求，还涵盖外包和云风险。相关事故的通报时限很短；要在用得上之前就搞清楚。如果你为持牌机构开发产品，预计对方的供应商评估会对照 TRM 来检查。

14.5 AI 治理

  • IMDA Model AI Governance Framework for Agentic AI（2026 年 1 月发布，2026 年 5 月更新）：事先划定风险边界；通过审批节点让人真正承担责任；贯穿全生命周期的技术控制；对终端用户保持透明并提供培训。你在 M06 中的证据就对应这里。
  • 测试实践可参考 AI Verify 和 IMDA 的 LLM 测试入门工具包。
  • EU AI Act： 按风险分级设定义务，适用于服务欧盟市场的提供方和部署方；信用评分和部分就业相关用途属于高风险。请查阅最新时间表，因为分阶段实施的日期曾多次调整。
  • ISO/IEC 42001（AI 管理体系）和 NIST AI RMF 是企业 AI 治理的参考框架。
  • 维护一份模型/AI 登记册：每个 AI 功能的用途、模型与厂商、所用数据、风险等级、控制措施、负责人、eval 结果。

14.6 信任材料包

一个认真的 B2B 卖家会交给买家这些材料：安全概览页、架构和数据流图、子处理方清单、DPA、渗透测试摘要、SOC 2 报告或 ISO 证书（或取得它的路线图）、事故响应和 BCP 摘要、AI 使用与治理声明、填好的标准问卷（SIG Lite 或 CAIQ）。

实验 14：通过安全问卷

  1. 为你的应用绘制数据地图：每个个人数据字段的用途、存放位置、保留期限、谁能访问、哪些子处理方会收到它。
  2. 为管理员操作和 agent 工具调用实现审计日志。
  3. 实现用户数据导出和删除。
  4. 为你的应用完成一份 100 题的供应商安全问卷，每个“是”都附上证据链接。
  5. 写一页对应 IMDA MGF 的 AI 治理声明。

完成标准（Definition of Done）

AI 提示词包

  • “扫描 schema 和代码；生成一份数据地图，列出每个个人数据字段、它的流向，以及哪些第三方会收到它。”
  • “只使用仓库和配置中实际存在的证据，起草这份安全问卷的答案；任何缺乏支撑的项都标记为差距。”