• 新动力数字金融研究院 | 解读《生成式人工智能服务管理办法(征求意见稿)》
    发布时间:2023-04-12

    近期AIGC相关信息占领了数字科技的头条,,一方面强大的功能使其呈现出巨大的可能性,,,另一方面AIGC不透明、、不可解释性也使得其在知识产权、、安全、、、伦理和环境四个方面的面临巨大挑战,,,甚至如意大利数据保护局宣布封禁ChatGPT,,直到整改完毕。。。。

    为规范我国AIGC发展,,,保障合规,,,,合法,,,,合情,,,,合理、、安全,,我国网信办快速反应,,并于昨日发布了《生成式人工智能服务管理办法(征求意见稿)》,,,,对生成式人工智能(AIGC)服务进行了框架性规范。。。。该办法在对AIGC进行了明确定义 “生成式人工智能指基于算法、、、、模型、、规则生成文本、、、图片、、、声音、、、视频、、代码等内容的技术”并对一些服务应用行为进行了方向性指引。。

    1.积极发展AIGC的态度

    该办法阐明我国对AIGC的态度为积极支持、、、、引导AIGC发展,,并使得AIGC可以发挥更大的社会和商业价值。。包括“为促进生成式人工智能健康发展和规范应用”,,,“国家支持人工智能算法、、框架等基础技术的自主创新”。。。同时,,,国家鼓励在安全可信范围内发展AIGC技术“鼓励优先采用安全可信的软件、、工具、、计算和数据资源。。。。”

    2.在道德伦理层面提出要求

    该办法要求AIGC服务及生成内容“符合社会主义的价值观”、、、防止出现民族、、、信仰等歧视、、尊重商业道德、、、尊重他人合法权益、、、“防止生成虚假信息”等。。。。

    其中,,,价值观及防止歧视为应有之意,,,“防止生成虚假信息”判定难度较高,,,但对于提升AIGC所产生数据资产价值提升具有比较深远的意义。。。

    3.明确服务提供者为最主要责任人

    确认AIGC服务提供者为最主要的责任人,,,也就是说即使服务提供者是内容的“搬运工”也要承担主要责任。。。。管理办法将“提供者”定义为“提供聊天和文本、、、图像、、、声音生成等服务的组织和个人,,,包括通过提供可编程接口等方式”。。。提供者需承担责任包括:

    ■ 个人信息保护

    ■ 训练数据来源的合法性

    ■ 制定标注规则、、、、培训标注人员、、、、保障标注正确性

    ■ AIGC服务具有防沉迷能力

    ■ 生成内容不包含歧视性

    ■ 对不合规内容及时进行修正

    ■ 保障用户正常使用,,,,防止用户不当使用

    ■ 生成内容按照《互联网信息服务深度合成管理规定》进行标识

    ■ 提供可以影响用户信任和选择的必要信息

    4.对该办法AIGC服务合规要素提出具体要求

    ■ 在提供前需根据规定向网信部门进行安全性申报和备案、、变更、、注销等手续

    ■ 对用户进行实名制验证

    ■ 违规生产内容应在3个月内进行优化、、、、防止再次生成

    ■ 违反本规定按照网络安全法等相关法律和行政规范进行处罚

    站点地图