生成式人工智能现已广泛应用于企业办公、内容创作、客户服务等场景,随之暴露的数据使用、内容输出、隐私保护等合规问题愈发突出。国家出台《生成式人工智能服务管理暂行办法》规范行业发展、落实安全管控。本文结合政策内容,梳理企业AI落地的核心合规要点,供从业者参考。

一、训练数据管理,筑牢底层合规基础

企业在开展人工智能模型训练和微调工作时,最需要关注的就是训练数据的问题,一定要保证数据来源正规,整体使用符合相关规范

企业在选取模型和训练数据的过程中,尽量选用正规渠道的资源,不要随意去抓取网络上的各类公开内容。在使用各类数据素材时,也要重视知识产权的相关规定,不随意使用别人拥有版权的文字、图片等内容。

如果企业使用的训练数据当中,包含了普通用户的个人信息,就需要按照相关规定提前获取对应的使用权限。同时也要对数据进行简单的清理处理,尽量保证训练数据合规可用,不会出现违规问题。

除此之外,企业最好搭建一套简单的数据保存和溯源机制,后续一旦出现数据相关的问题,也可以及时开展核查和整改工作。

打开网易新闻 查看更多图片
生成式人工智能训练数据管理图

二、内容输出管控,规避AI生成内容风险

只要企业上线运营生成式人工智能相关服务,就要对AI输出的所有内容负责,做好日常的内容管理和把控工作。

企业需要搭建基础的内容审核体系,对人工智能生成的所有内容进行筛查,尽量规避违规内容、带有歧视性内容的产生。与此同时,企业也要告知使用用户,人工智能并不是完美的,存在一定的功能短板,不要全盘相信AI生成的所有内容

如果企业研发的AI服务是面向未成年人开放使用的,就必须配套对应的防护措施,尽可能降低人工智能对未成年人造成的各类不良影响。

三、运营流程规范,完善内部管理制度

(一)明确权责与服务约定

企业如果面向普通大众提供人工智能服务,需要提前和使用用户签订正规的服务协议,把双方的权利和责任都划分清楚。企业还要主动公示服务的适用范围,引导用户规范、合理地使用AI工具。

(二)做好信息安全与隐私保护

企业在运营AI服务的全过程中,都要好好保护用户的个人隐私,还有企业自身的商业信息。按照规范要求收集和存储数据,绝对不能私自泄露、对外传播用户的相关数据。另外,企业可以开通用户反馈渠道,及时处理用户反馈的侵权、数据滥用等各类问题。

四、企业落地整体建议

企业需要对照自身的实际业务,认真判断自身业务是否属于这份管理办法的监管范围。企业对外公开提供AI服务,和只在企业内部使用AI模型,两种情况的合规标准不一样,需要区分对待。

企业可以逐一梳理自身正在运行的AI项目,对照最新的政策规定逐一自查,慢慢养成常态化合规检查的习惯。企业在发展AI技术、创新业务模式的同时,也要做好风险防控工作,让人工智能相关业务可以长期、稳定、合规地开展下去。