引言
2024年9月14日，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》（下称“《AIGC内容标识办法》”），旨在规范人工智能生成合成内容标识。同时，作为《AIGC内容标识办法》的配套性国家标准，《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》（下称“《标识方法》”）也在当日公布。
在《AIGC内容标识办法》发布之前，我国《互联网信息服务算法推荐管理规定》（下称“《算法推荐规定》”）、《互联网信息服务深度合成管理规定》（下称“《深度合成规定》”）与《生成式人工智能服务管理暂行办法》（下称“《AIGC办法》”）已提出就算法生成合成信息、深度合成信息内容（包括图片、视频等）履行标识义务的概要性规定。我们理解，本次《AIGC内容标识办法》在结合前述规定的基础上，明确以人工智能生成合成内容为治理客体，就标识义务主体、适用范围、标识类型、标识部署场景与部署方式等提出进一步细化规定，从而推动人工智能生成合成内容标识义务在实践中的落地，以促进人工智能健康发展，保护公民、法人和其他组织合法权益与维护社会公共利益。本文将简要介绍《AIGC内容标识办法》的主要内容。
一、《AIGC内容标识办法》主要内容
（一）明确适用对象与适用范围
根据《AIGC内容标识办法》第二条的规定，履行标识义务的核心主体为人工智能生成合成内容的网络信息服务提供者（下称“服务提供者”）。该规定顺应了《深度合成规定》、《AIGC办法》中有关生成合成内容标识义务主体的规定，即履行内容标识义务的主体应当为应用深度合成技术与生成式人工智能技术提供生成合成内容服务的组织、个人，义务直接主体暂不包含仅为人工智能生成合成内容提供技术支持的组织、个人。
其次，《AIGC内容标识办法》第二条明确规定，研发、应用人工智能生成合成技术，但未向境内公众提供服务的，不适用该办法的规定。该适用范围的立法逻辑与《AIGC办法》保持一致，是在《算法推荐规定》与《深度合成规定》有关属地管辖效力条款之上所确立的域外适用条款。我们理解，实践中，相关企业无论是以嵌入式集成，或是通过应用程序接口在产品和服务中封装等方式在中国境内提供人工智能生成合成内容服务的情形，均存在适用《AIGC内容标识办法》的可能性，故相关企业应当充分考量该等境外服务在中国法下的合法合规性。。
（二）区分标识的类型、使用场景与部署方式
此前《算法推荐规定》《深度合成规定》分别仅对算法生成合成信息与相关深度合成信息内容提出需要在合理位置、区域进行显著标识的义务，但未对标识的具体类型、“合理位置、区域”的具体方位以及“显著”的程度认定方式等概念做进一步释义。
本次出台的《AIGC内容标识办法》就前述有待澄清的内容做出回应：首先，以用户是否可以明确感知为判断标准，该办法明确提出两种人工智能生成合成内容标识的种类，即“显式标识”与“隐式标识”。其次，《AIGC内容标识办法》明确了两类标识所应当适用的场景，将《深度合成规定》第十七条所提出的“显著标识”与“显式标识”建立了直接的对应关系。最后，根据不同人工智能生成合成内容的载体与形式（如文本、音频、图片等），《AIGC内容标识办法》罗列与说明了部署各类显式标识的部署位置和隐式标识所应当包含的信息要素。对此，我们以下述表格的方式予以直观总结：
同时，与《AIGC内容标识办法》同日公布的《标识方法》对显式标识和隐式标识的方法提供了更为明确的指引。《标识方法》适用于规范生成合成服务提供者和内容传播服务提供者对人工智能生成合成内容开展的标识活动，其从应用场景、标识方式、标识示例等方面，对各种类型的人工智能生成内容以及交互场景界面的标识方法进行更具体的规定。就显式标识而言，《标识方法》规定了在不同的应用场景下（包括文本内容、图片内容、音频内容、视频内容等）标识的形式、位置以及要素等内容。就隐式标识而言，《标识方法》明确隐式标识的实现方式包括元数据隐式标识、内容隐式标识等，并就元数据隐式标识的要素以及格式进行了具体说明（见下表小结）。
（三）新增网络信息内容传播平台服务提供者的核验与标识义务
如前所述，此前《算法推荐规定》《深度合成规定》与《AIGC办法》规定的核验与标识义务主体主要为人工智能生成合成内容的网络信息服务提供者。但此次《AIGC内容标识办法》第六条，将网络信息内容传播平台服务的服务提供者（以下简称“平台服务提供者”）也纳入了核验与标识的义务主体。该办法从以下多个维度对平台服务提供者的义务进行了规范：
- 核验义务：平台服务提供者应当核验文件元数据中是否含有隐式标识，以识别生成合成内容（第六条第一款）。
- 标识义务：根据核验结果、用户声明和主动检测，平台服务提供者应当在发布内容周边添加显著的提示标识，提醒用户内容的性质（确为、可能或疑似生成合成内容）（第六条第二、三款）。
- 元数据完善义务：对于相关内容，应在文件元数据中添加生成合成内容属性信息和传播要素信息，增强内容的可追溯性（第六条第四款）。
- 功能提供与用户教育义务：提供必要的标识功能，提醒用户主动声明发布内容中是否包含生成合成内容（第六条第五款）。
首先，从标识效果考量，该办法有利于形成更完善的监管体系。平台服务提供者直接面向公众提供网络信息服务，直接决定了用户接触的信息内容，在信息传播链条中起到了重要作用。同时，平台服务提供者通常具备更先进的技术手段和资源，检测和标识生成合成内容，如元数据核验、内容分析等，以履行核验与标识义务。将平台服务提供者纳入责任范围，有助于形成一个全链条、多层次的监管体系，从内容生成、处理再到传播，每个环节都将具有明确的责任主体。
其次，从立法思路考量，增加平台服务提供者的核验与标识义务也与此前的立法思路一脉相承。《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》明确“使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更，导致舆论属性或者社会动员能力发生重大变化的”应当进行安全评估。《互联网信息服务算法推荐管理规定》也要求，具有舆论属性或者社会动员能力的算法推荐服务提供者履行算法备案义务。平台服务提供者主要为社交媒体、内容分享平台、论坛、博客等，大多可以被认定为具有舆论属性或社会动员能力的互联网信息服务提供者。由于其在信息传播中的重要地位和影响力，法律法规设定了更严格的监管措施和要求，以防范潜在的风险，包括履行安全评估、算法备案等。此次新增内容核验与标识等义务，体现了法律对关键互联网服务提供者的统一监管思路，即通过加强对信息传播核心环节的监管，维护网络空间的安全和秩序。
最后，从责任原则考量，该规定的设置与“避风港原则”存在较大差异。避风港原则是互联网法律中的一个重要原则，旨在平衡网络服务提供者的责任与互联网发展的需要，其核心内容包括，被动中立义务、通知—删除机制以及责任免除，即只要服务提供者未参与内容的制作、选择或修改，且在接到通知后及时采取了必要措施，可以免除相应的法律责任。平台服务提供者责任强调主动责任，服务提供者需要主动核验、检测并标识生成合成内容。避风港原则强调被动中立，服务提供者无需对用户内容进行主动监控，只在被通知后采取行动。也就是说服务提供者责任要求服务提供者从被动中立转向主动作为。但我们理解避风港原则在一般的内容提供领域仍然适用，只是在涉及人工智能生成合成内容的特殊领域，平台服务提供者需要承担更高的注意义务和责任。
（四）新增用户获取不含显式标识内容的前提要件与标识义务
此前，《深度合成规定》仅提出深度合成服务提供者应当提供显著标识功能，并提示深度合成服务使用者（包括用户）可以进行显著标识的义务，以及任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识的义务。在此基础上，此前的规定均未就用户对于自身传播的生成合成内容是否具有标识义务提出明确要求。
目前，考虑到用户在实践中可能对于获取不含显式标识的生成合成内容，以及向网络信息内容传播平台上传生成合成内容的实际需求，《AIGC内容标识办法》第九条、第十条分别就提出了服务提供者向用户提供不含显式标识的生成合成内容的前提条件，并提出用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时的要求。具体而言，如用户需要服务提供者提供没有添加显式标识的生成合成内容，服务提供者需事先履行通过用户协议明确用户的标识义务和使用责任，并留存相关日志不少于六个月的义务。此外，用户向提供网络信息内容传播平台上传生成合成内容时，也应当主动声明并使用平台提供的标识功能，对生成合成内容进行标识。换言之，用户有权获取不含显式标识的生成合成内容，但若用户需要将人工智能生成内容通过网络信息内容传播平台再行传播则仍需履行标识义务。
如前所述，《AIGC内容标识办法》致力于构建一个全链条、多层次的监管体系，将更多的责任主体纳入人工智能生成合成内容标识义务体系之中。若用户仅为自身使用人工智能生成内容，则从便利用户使用的角度出发，服务提供者应向其提供没有添加显式标识的生成合成内容。但若用户将人工智能生成内容通过网络信息内容传播平台上传进而传播时，其角色定位则由服务使用者转变为内容传播者，理应为其传播的人工智能生成内容进行标注，承担相应的标注义务。用户标识义务结合《AIGC内容标识办法》第六条规定的平台服务提供者的核验与标识义务，有助于保障公众接触到的人工智能生成内容已经获得充分标注。
此外，通过对标识义务的整体梳理不难发现，《AIGC内容标识办法》主要从传播角度规制人工智能生成内容，赋予了不同主体不同的标识义务。服务提供者直接产生人工智能生成内容，直接向公众进行传播，对于服务提供者而言，其是内容传播链条的起点，也是标注义务的起点，因此对其施加最严格的标注义务。网络信息内容传播平台作为向公众传播人工智能生成内容的重要平台，容易具有舆论属性或社会动员能力。因此，对于实质的内容传播者——用户，以及形式的内容传播者——平台，也施加了相应的标注义务，共同构建了一个全链条、多层次的标注义务与责任体系。同时，若用户没有对人工智能内容进行传播则不应纳入标注义务与责任体系之中，因此《AIGC内容标识办法》第九条赋予了用户获取不含显式标识内容的权利。
结语
本次《AIGC内容标识办法》的出台标志着中国在人工智能领域规范管理方面迈出了重要一步。我们理解，首先，履行生成合成内容标识义务向来是服务提供者所面临的难点问题，本次《AIGC内容标识办法》的发布对各责任主体标识义务的履行提供了可执行性更高的落地指南。其次，该办法明确了服务提供者、网络信息内容传播平台与用户等主体在生成合成内容制作与使用方面的责任和义务，构建了更为清晰的法律责任体系。再次，伴随在生成合成的内容中添加显式或隐式标识举措的落地，互联网信息内容的透明度将显著提升，用户可以在此基础上直观识别内容是否由人工智能生成，有助于用户免受虚假内容的负面影响。最后，数字水印等隐式标识的应用有助于保护内容创作者的权利，防止未经授权内容的复制和分发。值得说明的是，我国出台《AIGC内容标识办法》的做法也与国际上对人工智能生成内容标识的探索相呼应，有助于推动全球范围内有关人工智能治理的合作与交流，共同应对生成式人工智能技术带来的挑战。
但与此同时，我们理解《AIGC内容标识办法》仍有部分问题有待明确。比如，首先，对于疑似生成合成的内容，《AIGC内容标识办法》第六条规定了由网络信息内容传播平台服务者履行的提示标识义务与元数据完善义务，即应在内容周边添加提示标识，以及在文件元数据中添加生成合成内容属性信息以及传播要素信息等，但对于提示标识义务与元数据完善义务的适用规则，如何种义务具有优先适用性以及二者是否需要同时适用等问题，尚待进一步明确。其次，对于疑似生成合成的内容，考虑到网络信息内容传播平台服务者可能仅作为生成合成内容的托管者，并未直接或参与制作相关人工智能生成合成内容，因此，元数据完善义务对于网络信息内容传播平台服务者而言是否具有实际的、技术上的可执行性或许仍存在讨论空间。再次，对于通过用户协议明确用户“使用责任”的具体内涵，此前立法如《深度合成规定》《AIGC办法》均未提出明确规定，因此，用户“使用责任”的具体外延与边界也有待进一步明确。最后，《AIGC内容标识办法》新增了用户标识义务，但对于如何就用户履行再标识义务进行后续监督，相关监督方式与监督主体如何认定等问题，也值得《AIGC内容标识办法》进一步考量。
综上所述，我们仍期待《AIGC内容标识办法》在逐步完善的过程中为社会公众带来一个更加健康、透明和负责任的人工智能应用环境。
扫码订阅“金杜律师事务所”，了解更多业务资讯
