第五课：AI隐私、版权、安全与负责任使用

使用 AI 的风险通常不来自“工具本身很可怕”，而来自错误资料进入系统、生成结果未经检查、权限过大，或把需要人负责的决定交给自动化。安全使用不是停止使用 AI，而是在输入、处理、输出和行动四个阶段设置边界。

这堂课适合谁

• 会上传文件、客户资料、图片或工作文档到 AI 的人
• 用 AI 生成文章、广告、图片、声音或视频的人
• 想建立自动化、客服或 AI Agent 的小团队
• 教师、家长、学生和需要处理他人资料的使用者

输入阶段：先判断资料能否上传

不要默认“只是让 AI 看一下”就没有风险。输入前检查资料是否包含：

• 密码、API key、银行资料和付款信息
• 身份证、护照、地址、电话和健康资料
• 客户名单、订单、员工档案和未公开财务资料
• 受保密协议、雇佣合约或客户条款约束的文件
• 未发布产品、源代码、商业计划和投标资料
• 儿童或无法有效同意者的个人资料

如果任务可以用匿名化、虚构样本或汇总数字完成，就不要上传原始资料。企业账户、API 与消费账户的资料政策可能不同，使用前应查看当前条款、保留时间、训练设置和管理员控制。

输出阶段：版权与内容责任

AI 生成内容不代表“任何用途都安全”。你仍要检查：

• 是否模仿可识别艺术家、品牌、人物或受保护角色
• 是否包含未经许可的商标、Logo、照片或长段原文
• 音乐、字体、素材和数据是否允许商业使用
• 生成内容是否与现有作品过度相似
• 客户是否要求披露 AI 使用
• 发布平台是否有 AI 内容标示规则

版权归属与可保护程度会因国家、创作过程和实际人类贡献而不同。商业项目应保存 Prompt、原始素材、人工编辑和授权记录；重要争议应咨询合资格法律人士。

偏见、误导与深度伪造

模型从资料中学习，可能复制社会偏见、刻板印象或不平衡代表。招聘、教育、信贷、医疗和保险等高影响用途，不能只依赖模型评分。

生成或修改人物声音、照片和视频时，应获得适当同意，避免让观众误以为真实人物说过或做过某事。讽刺、示范或教育用途也应明确标示，不能用来冒充、诈骗或伤害他人。

实际操作：四层风险检查

第一层：资料

确认资料来源、敏感度、授权和最小必要范围。能删除姓名就删除，能用区间就不要用精确个人数据。

第二层：模型

检查产品隐私设置、数据保留、账户类型、使用地区和安全限制。不要假设所有 AI 工具都遵守同一政策。

第三层：输出

核实事实、版权、偏见、语气和潜在伤害。对个人作出判断时，应给人类复核和申诉机会。

第四层：行动

任何付款、删除、账号变更、公开发布或对客户作出承诺的动作，都应设置人工批准、最低权限、日志和撤回方法。

示例 Prompt：安全预审

请只做风险预审，不要处理或重写资料内容。

场景：我们想把客户咨询记录交给 AI 分类，以找出常见问题。
资料字段：姓名、电话、Email、订单编号、产品、咨询内容、处理结果。
用途：内部改善 FAQ，不用于自动拒绝客户或决定退款。

请输出：
1. 应删除或匿名化的字段
2. 仍可能识别个人的组合风险
3. 最小必要资料建议
4. 人工审核点
5. 保存、权限、日志和删除方面应向工具供应商确认的问题

不要提供法律结论；遇到不确定事项请标记需要隐私或法律专业人士确认。

小团队 AI 使用规则模板

• 只使用公司批准的工具和账户。
• 机密、个人或客户资料默认不得输入公共 AI 工具。
• 所有对外事实、价格、承诺和专业建议必须人工审核。
• AI 生成图片、声音和视频必须记录来源并检查授权。
• 自动化只取得完成任务所需的最低权限。
• 发生误发、资料外泄或异常动作时，立即停止流程并保留日志。
• 每三个月或工具重大更新后复核政策。

注意事项

• 本课是一般教育内容，不是法律、隐私、网络安全或合规意见。
• 删除姓名并不一定完成匿名化，其他字段组合仍可能识别个人。
• “企业级”“安全”“合规”是宽泛说法，应查看具体认证、地区、合约与责任范围。
• AI 的拒绝机制不能代替组织自己的权限和审核。
• 对儿童、弱势群体和高风险领域应采用更严格标准。

完成检查

• 我知道哪些资料不应输入未经批准的 AI 工具。
• 我能说明授权、商用权与 AI 生成不是同一件事。
• 我为高风险输出设置了人工审核。
• 自动化权限采用最小必要原则，并有日志与停止方法。

FAQ

把姓名删掉就可以上传客户资料吗？

不一定。电话号码、地址、订单、时间和行为资料组合后仍可能识别个人。应评估整个数据集并采用最小必要范围。

AI 生成图片可以直接商用吗？

不能一概而论。要检查工具条款、输入素材授权、生成结果相似性、商标与人物权利，并考虑当地法律和平台要求。

公司是否应该完全禁止员工使用 AI？

全面禁止可能令实际使用转入不可见渠道。更务实的是批准工具、资料分类、明确禁区、培训员工并保留审核与事故响应流程。

AI 安全是否只是网络安全？

不是。它还包括错误信息、偏见、隐私、版权、可解释性、失控动作、人类监督和社会影响。

官方延伸阅读

• Rakyat Digital：AI Safety
• NIST AI Risk Management Framework
• UNESCO：Guidance for Generative AI in Education and Research
• 马来西亚国家 AI 治理与伦理指南

总结与下一课

安全使用 AI 的关键是：少给敏感资料、明确授权、检查输出、限制行动权限，并让人对关键决定负责。规则应写入团队流程，而不是只靠使用者记得小心。

下一课：把 AI 用在写作、研究、图片与数据。返回 AI基础学习中心 查看进度。