AI 隐私安全指南：你的对话可能被谁看到？

"我把公司机密发给 AI 了，会不会泄露？"

"AI 的回复会被保存吗？会被用来训练吗？"

"用 AI 处理敏感数据安全吗？"

这是每个企业用户在用 AI 时都会担心的问题。

AI 隐私的三个层次

第一层：AI 服务商

当你使用 ChatGPT、Claude、Gemini 等服务时，最关键的不是“听说会/不会”，而是把下面这些项在官方页面里核对清楚（并记录核对日期）。

核对清单（以厂商当前政策与产品开关为准）：

• 对话/文件是否会被用于训练或“改进模型”，默认开/关是什么？是否提供关闭入口？
• 对话/文件是否会被保存？保存多久？是否提供删除与删除窗口说明？
• 是否存在人工审核/质检？在什么条件下可能被人工查看？
• 是否区分个人版与企业版的默认策略？
• 是否提供数据导出、账户删除、数据删除的自助入口？
• 是否披露子处理方（sub-processors）与数据处理协议（DPA）获取方式？

第二层：AI 基础设施提供商

即使你与 AI 服务商签了合同，你的数据通常仍要经过云服务与网络基础设施。这里建议重点核对“数据在哪里、谁可能接触到、发生事件后怎么追踪”。

核对清单：

• 数据驻留/区域：数据处理与存储发生在哪些国家或地区？是否支持选择区域？
• 政府请求与披露：服务商/云厂商是否提供透明度报告或执法请求说明？
• 密钥与加密：是否支持客户自持密钥（BYOK/KMS）或更细粒度的加密策略？
• 访问控制与审计：是否有可用的访问日志、审计日志与告警机制？
• 事件响应：是否明确漏洞/事件通告与响应流程（SLA、通知渠道、应急联系人）？

第三层：你的组织内部

组织内部往往才是“最常见的风险来源”：员工误发、共享链接外泄、账号权限失控、第三方连接器权限过大等。

核对清单：

• 明确“允许输入/禁止输入”的数据分级与示例（含供应商合同、代码、客户信息等）
• 账号与权限：SSO、最小权限、离职回收、共享账号治理
• 连接器与插件：哪些系统允许接入？谁能授权？授权范围与有效期如何管理？
• 日志与审计：保留哪些日志、谁能查看、如何脱敏与留痕
• 训练与演练：定期做一次“敏感信息误发”的桌面演练与复盘

主流 AI 服务的隐私政策

不同厂商的策略差异很大，而且会随时间调整。与其记住“某某一定不会/一定会”，更实用的做法是：每次选型或上线前，把下面几项在官方页面里核对清楚。

你需要重点确认：

• 是否用于模型训练/改进：默认开/关？是否支持组织级别关闭？
• 数据保留期限：保存多久？能否配置？删除后的保留窗口是什么？
• 人工审核/质检：是否可能被人工查看？在什么条件下会触发？
• 第三方连接器：接入网盘、邮件、工单等时，数据如何流动、谁能访问？
• 合规与审计：是否提供 DPA、审计日志、访问控制、密钥管理、地域驻留等能力？

企业如何保护 AI 隐私？

1. 选择企业级 AI 服务

别把“企业版”当成天然安全。更稳妥的做法是把安全与合规要求写成核对清单，并能在合同/信任中心/审计材料里验证。

核对清单：

• 数据不用于训练（或明确可配置关闭）与相关条款/开关说明
• DPA/子处理方清单/数据流说明可获取
• SSO、RBAC、审计日志、导出与删除能力齐备
• 合规证明材料可验证（如 SOC、ISO 体系文件与报告获取流程）
• 地域驻留/跨境传输方案明确

2. 建立 AI 使用规范

明确告诉员工：

• 哪些信息可以发给 AI
• 哪些信息不能发给 AI
• 如何识别敏感信息
• 违规使用的后果

3. 部署私有 AI

对于高度敏感的场景，可以考虑：

• 本地部署开源模型（如 Llama）
• 私有化 AI 服务
• 完全离线使用

4. 使用数据脱敏

在发给 AI 之前：

• 去掉人名、地名等识别信息
• 用代号替代真实公司名
• 金额等敏感数据模糊化

5. 监控和审计

• 记录 AI 使用日志
• 定期审计使用情况
• 发现异常及时处理

个人如何保护隐私？

1. 了解你使用的 AI 服务

核对清单：

• 隐私政策/数据使用说明里是否明确“是否用于训练/改进”
• 是否提供关闭训练（opt out）与删除数据入口
• 是否区分“聊天记录保存”与“用于训练”的两个开关

2. 不要分享的内容

• 真实姓名、身份证号、银行卡号
• 密码、安全码
• 商业机密
• 医疗记录等隐私信息

3. 使用隐私模式

不要假设“隐私模式”一定等于“不保存/不训练”。建议把“开关名称”和“官方说明链接”记录下来，并定期复核：

• 关闭聊天记录/历史记录保存
• 关闭用于训练/改进
• 确认删除窗口与保留期限

4. 定期清理记录

• 删除不需要的对话
• 清理使用历史
• 取消不必要的数据同步

敏感行业如何合规使用 AI？

金融行业

核对清单（以所在地监管为准）：

• 明确是否涉及受监管的金融个人信息/交易数据/反洗钱相关数据
• 训练与推理数据的授权、留痕、审计与最小化原则落地
• 供应商管理：第三方风险评估、合同条款、事件通报与退出机制

医疗行业

核对清单（以所在地监管为准）：

• 明确是否属于受保护健康信息（PHI）或等同敏感健康数据
• 数据脱敏与访问控制是否满足合规要求
• 与服务商是否需要签署相应数据处理协议（如适用）

法律行业

• 律师-客户特权可能受影响
• 机密案件信息需谨慎
• 建议使用企业级保密 AI

AI 隐私的未来趋势

1. 隐私计算

联邦学习、差分隐私等技术：

• 让 AI 学习数据模式，但不获取原始数据
• 在保护隐私的同时训练模型

2. 本地 AI

在本地设备上运行 AI：

• 数据不出设备
• 完全离线可用
• 隐私有保障

3. 可信 AI

建立 AI 隐私可信认证：

• 明确标注数据使用政策
• 第三方审计
• 用户知情同意

结语

AI 隐私保护是一场持续的战斗。

服务商在进步，攻击者在进化，法规在完善。

作为用户，我们要做的就是：了解风险，做好防护，善用工具。

在选择与使用任何 AI 产品（包括 AI Chat）时，把“可核对的设置与条款”当作第一优先级：能在官方页面/合同里找到依据，才算真正可控。

参考与延伸阅读

• OpenAI：Enterprise privacy at OpenAI https://openai.com/api-data-privacy
• OpenAI：How your data is used to improve model performance https://openai.com/policies/how-your-data-is-used-to-improve-model-performance/
• Anthropic：Privacy Policy https://www.anthropic.com/legal/privacy
• Anthropic：Is my data used for model training? https://privacy.claude.com/en/articles/7996868-is-my-data-used-for-model-training
• Google：Gemini Apps Privacy Hub https://support.google.com/gemini/answer/13594961
• OWASP：Top 10 for Large Language Model Applications https://owasp.org/www-project-top-10-for-large-language-model-applications/
• NIST：AI Risk Management Framework https://www.nist.gov/ai-risk-management-framework
• NIST：Privacy Framework https://www.nist.gov/privacy-framework
• AICPA：SOC Suite of Services https://www.aicpa-cima.com/resources/landing/system-and-organization-controls-soc-suite-of-services
• ISO：ISO/IEC 27001 Information security management https://www.iso.org/isoiec-27001-information-security.html
• U.S. HHS：HIPAA https://www.hhs.gov/hipaa/index.html
• AWS：Information Requests Reports https://aws.amazon.com/compliance/reports/information-requests/
• Google：Transparency Report https://transparencyreport.google.com/
• Microsoft：Law Enforcement Requests Report https://www.microsoft.com/en-us/corporate-responsibility/reports