AI 企业常被问到的问题
- 是否使用客户数据训练或改进模型？能否关闭？
- 使用了哪些第三方模型，数据会不会传给它们？
- 如何评估模型输出的准确性、偏见和安全性？
- 有没有人工审核机制？出错时如何处理？
- 是否符合欧盟《人工智能法》？有没有 AI 治理框架或认证？
AI 与大模型应用合规的推荐顺序
- 安全底座：SOC 2 或 ISO/IEC 27001，AI 企业同样绕不开
- 数据合规：训练与推理数据的来源、授权和个人信息处理，面向欧洲时落实 GDPR
- 已生效的 AI 义务：按 欧盟《人工智能法》 排查禁止性实践，落实透明度和 AI 素养
- AI 治理体系：用 ISO/IEC 42001 承接客户尽调和未来的高风险义务
AI 特有的准备事项
- AI 系统清单：每个 AI 功能使用的模型、数据、用户和地区
- 模型供应链：第三方模型的服务条款、数据使用政策和合规文件
- 评估与监控记录：上线前评估、上线后监控和问题处理
- 用户告知与标注：与 AI 交互的告知、AI 生成内容标注
- 合同条款：数据使用、输出责任、知识产权与限制用途
更多见 AI 产品被客户问到的治理问题。