真假难辨：再议AI深度伪造（Deepfake）之法律边界 - 金杜律师事务所

引言

作为AI技术进步的产物之一，“AI深度伪造（deepfake）”技术让歌手“唱着”那些根本没有唱过的“歌”、让演员“演着”从没有演过的“剧”。与此同时，AI deepfake技术的滥用正在掀起一股虚假和诽谤内容的浪潮。2024年2月，犯罪嫌疑人用深度伪造（deepfake）技术进行AI换脸后，假冒跨国企业奥雅纳（Arup）英国总部的CFO及高管团队，成功骗走了该企业香港分公司近2亿港币[1]。更有甚者，犯罪嫌疑人利用deepfake技术制作和传播换脸后的女性色情图片、视频。许多明星艺人，如著名歌星Taylor Swift[2]深受其扰，且大量素人也沦为这场AI deepfake技术“侵扰”的对象。例如，近日韩国新闻报道大量女性成为深度伪造性犯罪受害者，其中有近三分之一为未成年人[3]。AI deepfake技术野蛮生长给观众带来新鲜感官体验的同时，其所造成的侵权问题屡见不鲜且愈演愈烈。

笔者团队曾于2023年5月撰写了一篇文章：《相由AI生：浅谈深度伪造（Deepfake）与个人形象权》，分析了当时中美两国关于深度伪造（deepfake）的法律规制及司法实践。一年之后，AI deepfake技术应用愈加广泛，而伴随技术革新的是个人形象权因技术滥用被侵犯的“灰色地带”也悄然扩张。具体而言，个人形象权的受损客体从肖像扩张到了声音，受损主体也从名人不断向素人蔓延，且侵权现象呈现色情化和犯罪化特征。除此之外，在全球最近的司法实践中，AI deepfake技术不仅被用于制作自然人的数字分身（digital replicas[4]）产生侵权争议，也被用于“复活”已故人士继而引发争议。本文将在前文基础上继续梳理美国和中国关于深度伪造（deepfake）的最新法律规范及司法实践，拟进一步探讨AI与个人形象权保护的关系。

一、美国

（一）立法进展

美国法中与deepfake最相关的是隐私权和个人形象权[5]。目前，在联邦法层面，美国尚未有针对个人形象权的已生效法律。在州法层面，美国部分州并未立法承认隐私权和个人形象权，而承认这两个权利的州在具体权利条款上也因州而异，尤其是在个人形象权的保护期限、侵权构成、第一修正案的适用以及司法救济等方面的规定均不相同。

1. 美国各州涉Deepfake的立法动态

田纳西州是美国第一个对受AI deepfake侵犯的个人形象权进行立法保护的州。其2024年7月1日生效的《确保肖像、声音和图像安全法》（Ensuring Likeness Voice and Image Security Act，简称“The ELVIS Act”）明确了未经权利人同意不得对任何人（every individual[6]）的包括声音在内的个人形象权客体进行AI克隆。（详见团队此前文章《浅析AI克隆艺人声音的侵权问题——中美新近立法与司法实践对比》）随后，伊利诺伊州州长于2024年8月9日签署了HB4875法案[7]，该州成为美国第二个保护个人形象权以防止AI技术侵害的州。该法案修改了该州之前的《个人形象权法》（Right of Publicity Act）部分条款，赋予个人通过诉讼救济其被未授权的数字复制品侵犯的个人形象权。

同时，加利福尼亚州和纽约州也在加强针对AI deepfake侵犯个人形象权问题的立法。譬如，加利福尼亚州继2019年颁布打击色情制品深度伪造的AB602法案[8]之后，又于2024年8月底在州参众两院投票通过AB2602法案[9]，修改了《加州劳动法典（the Labor Code of California）》部分条款。该法案规定使用表演者的“数字复制品（digital replica）”应获得授权，旨在保护所有表演者在影视、游戏、有声书及广告等领域的形象和声音权益。随后于2024年8月31日，州参众两院投票通过了AB1836法案[10]。该法案修改了《加州民法典（the Civil Code of California）》部分条款，以保护已故名人的数字复制权[11]。AB2602法案及AB1836法案仍待加州州长签署才能正式生效。而纽约州州长于2023年9月29日签署S1042A法案[12]修改了《纽约州刑法（New York Penal Law）》部分条款。该法案明确禁止传播利用AI deepfake技术制作的未经本人同意的色情图像，但没有禁止制造此类深度伪造内容的行为[13]。

2. 美国联邦涉Deepfake的立法动态

尽管美国各州正在针对AI deepfake侵犯个人形象权问题积极修改相关立法，但各州的立法所针对的保护对象、保护期限以及救济措施依然存在着不一致的问题，因此美国版权局在2024年7月底的报告中指出“美国迫切需要制定一部联邦法律来解决未经授权的数字复制品问题”[14]。目前，美国联邦法律并未形成专门针对deepfake的整体规范框架，仅根据《版权法》、《联邦贸易委员会法》、《兰哈姆法》和《通信法》针对deepfake所涉及的不同领域问题提供有限保护。

但联邦层面也在不断探索专门针对deepfake的立法。2024年7月31日,克里斯·库恩斯（Chris Coons）等议员正式向参议院提出《培育原创、促进艺术和保障娱乐行业安全法案（草案）》（Nurture Originals, Foster Art, and Keep Entertainment Safe Act of 2023，简称“NO FAKES Act”）[15]，其中包括以下几个要点。

其一，NO FAKES Act从联邦层面创设了“数字复制权”（digital replication right），作为一项用于保护所有人的声音和视觉形象的知识产权。具体而言，数字复制权是一种可以授权他人在数字复制品中使用个人声音和视觉形象的财产权。该法案规定数字复制权生前不得转让但可授权、可继承且权利人死后该权利仍然受到保护（最长保护期可达70年）；该权利保护对象包括成年人和未成年人[16]。其二，法案明确了侵犯数字复制权的情形（未经权利人同意制作、发布、复制、传播或其他方式向公众提供的行为）、诉讼时效（发现侵权之日起三年）和权利救济类型（包括金钱赔偿、禁令、惩罚性赔偿以及负担律师费等）。其三，该法案突出的特点是平衡了各方利益。首先平衡了艺人（演员/编剧等）和公司的利益。去年以来好莱坞持续的工会大罢工轰轰烈烈，该法案的出现有利于缓解演员/编剧和影视制作公司的紧张关系。对艺人而言，该法案从联邦层面否认了数字复制权的可转让性，由此可以保护权利人的利益在其生前演艺生涯内不受大型唱片公司、制片公司等巨头强迫转让的风险，在死后仍然可以通过展期的方式维护其权利利益。除此之外，考虑到互联网平台的利益，法案也延续了美国《千禧年数字版权法》（Digital Millennium Copyright Act of 1998，简称“DMCA”)确定的“通知—删除”避风港原则。

同期，2024年7月11日，美国参议院商务委员会主席玛丽亚·坎特威尔（Maria Cantwell）等人提出《内容来源保护及防止编辑和深度伪造媒体完整性（草案）》（Content Origin Protection and Integrity from Edited and Deepfaked Media Act，简称“COPIED Act”）旨在对人工智能生成的内容制定新的联邦透明度准则，保护记者、艺术家和词曲作家的原创内容免受非法AI deepfake技术篡改和滥用[17]。2024年7月24日，由参议员迪克·德宾（Dick Durbin）等人提出的《2024年破坏明确伪造图像和未经同意的编辑法案》（Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024，简称“DEFIANCE Act”）在参议院已通过。该法案界定了数字伪造（digital forgery, often called deepfakes）的概念[18]，旨在追究行为人未经权利人同意利用deepfake技术制作、传播虚假私密图像和视频的责任[19] 。

（二）司法案例

乔治卡林遗产维权案

2024年6月18日，美国加利福尼亚州中区地方法院就一起关于利用deepfake技术侵犯已故艺人个人形象权及版权的案件（Main Sequence, Ltd. v. Dudesy, LLC[20]）作出了和解同意判决和永久禁令[21]。本案中，共同原告Main Sequence, Ltd.是一家位于美国缅因州的公司，负责管理已故喜剧演员乔治·卡林（George Carlin）[22]的遗产（包括其个人形象权及其版权作品），杰罗尔德·哈姆扎（Jerold Hamza）是卡林遗产的执行人；被告Dudesy, LLC运营一个名为 “Dudesy” 的YouTube播客频道。

2024年1月25日，原告提起诉讼，指控被告未经授权、擅自使用AI技术“复活”了已于2008年去世的喜剧演员卡林。根据起诉书，被告未经授权使用卡林的原创版权作品（即卡林的单口喜剧）编写了一个喜剧节目特辑的剧本，反映卡林自其去世后对时事的评论，并制作了一个模仿卡林声音的版本来“表演”这个剧本。被告于2024年1月9日在Dudesy播客的YouTube频道上发布了这个AI生成的名为“I'm Glad I'm Dead”的喜剧节目特辑（简称“被诉节目”），因此产生了流量以及收益。原告认为，根据《加州普通法》（CAL. COMMON LAW）、《加州民法典》第3344条（其中 CAL. CIV. CODE § 3344.1[23]特别提出对权利人死后个人形象权的保护）以及美国《版权法》第501条（17 U.S.C. § 501）[24]，被告的上述行为侵犯了喜剧演员卡林的版权和个人形象权。2024年1月31日，被告通知原告其已在Dudesy播客的YouTube频道下架了被诉节目，并采取合理措施从Dudesy播客及Dudesy的社交媒体账户（包括Instagram、Facebook和TikTok）上删除了所有提及卡林的内容。2024年4月1日，双方达成和解并于次日向加州中区地方法院提交了同意判决和永久禁令的联合动议[25]。

2024年6月18日，加州中区地方法院发布了和解同意判决和永久禁令。法院认定被告在原告不知情或未同意的情况下用AI技术制作的视频侵犯了原告的权利（“in violation of Plaintiffs’ rights”），因此对被告发出永久禁令，永久禁止被告在任何网站、账号或平台发布被诉节目，并永久禁止被告未经原告的书面同意在所有社交媒体上使用乔治·卡林的肖像、声音和形象[26]。

二、中国

（一）中国关于“深度伪造”的法律规范

中国法针对深度伪造的法律规定主要以《民法典·人格权编》条款、《个人信息保护法》以及《互联网信息服务深度合成管理规定》（以下简称“《深度合成管理规定》”）、《生成式人工智能服务管理暂行办法》（以下简称“《暂行办法》”）等互联网管理相关法律法规构建了规范框架。

1. 《民法典·人格权编》相关规定

《民法典》第1019条[27]旨在保护公民肖像权。未经他人同意通过深度伪造技术制作、使用和公开他人肖像是侵犯肖像权的行为。在古风汉服网红魏某诉“AI换脸”App系列案件[28]中，一审法院认为通过AI换脸技术替换了原视频中的自然人形象，属于《民法典》第1019条的“以利用信息技术伪造的方式”侵害他人肖像权的行为。此外，声音作为重要的人格标识，具有识别个人身份的重要作用和人身专属性的特点，也因此具备了法律意义上的人格属性。深度伪造他人声音的行为适用人格权保护在中国已有相关司法案件进行了确认（见下文“殷某诉AI声音深度伪造案”）。

2. 《深度合成管理规定》和《暂行办法》

2023年1月10日起生效的《深度合成管理规定》[29]和2023年8月15日起施行的《暂行办法》[30]都明确了提供和使用生成式人工智能服务，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

《深度合成管理规定》和《暂行办法》均表明保护自然人的权利在互联网中免受包括deepfake技术在内的生成式人工智能技术滥用的侵犯，也表达了在鼓励人工智能技术发展的同时也会加强对平台的监管。针对deepfake技术，中国监管机构试图通过已有的法律法规（例如《民法典》，《深度合成管理规定》）和针对生成式人工智能的新立法（例如《暂行办法》）来进行规制，并通过司法判例来逐渐明晰其法律边界。

（二）中国关于“深度伪造”的最新案例

1. 殷某诉AI声音深度伪造案——中国首例 AI 生成声音侵权案

2024年4月23日，北京互联网法院一审开庭宣判了中国首例AI生成声音侵权案。[31]本案中，原告殷某某是一名配音演员，原告曾与被告二签订了委托协议，为其录制录音制品（经合同约定，录音制品的版权归被告二所有）。被告二随后将原告的录音制品提供给被告三，授权其利用原告的声音进行人工智能开发使用。被告三将原告声音进行了AI训练后开发出与原告声音相同的AI-文本转语音产品。该产品随后被告四托管，由被告五分销，最终由被告一购买后通过第三方接口在被告一平台上向公众提供服务。后来原告发现了自己的声音在该平台上广泛流传。原告殷某某以五被告侵害其声音权益为由向法院提起诉讼，要求被告应立即停止侵权、赔礼道歉，并赔偿原告经济损失、精神损失。

法院认为：（1）自然人声音可以对外展示个人的行为和身份。利用人工智能合成的声音，如果能使一般社会公众或者相关领域的公众根据其音色、语调和发音风格，关联到该自然人，可以认定为具有可识别性。（2）在明确认定具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。（3）被告二对录音制品享有著作权等权利，不包括被授权可以对原告声音进行AI化使用。未经原告许可AI化使用原告声音，构成对原告声音权益的侵犯。

据此法院宣判：（1）被告一北京某智能科技公司、被告三某软件公司向原告赔礼道歉；（2）被告二北京某文化传媒公司、被告三某软件公司向原告赔偿损失共计25万元。

2. 廖某诉某科技文化案——“AI换脸”软件侵权案件

2024年6月20日，北京互联网法院审理了一起“AI换脸”软件侵犯个人信息权益的案件[32]。本案中，原告廖女士和吴女士是国风短视频模特，被告为经营某“换脸” App的运营商。原告提出两项侵权控诉：（1）该APP软件以自己发布的视频为基础制作了“换装”模板提供给用户付费使用，该行为侵害了原告的肖像权;（2）被告未经同意擅自上传和使用了具有原告肖像信息的视频，这一行为系被告非法获取原告人脸信息并篡改，侵害了原告的个人信息权益。原告据此要求被告赔礼道歉，并赔偿精神损失和经济损失。

法院认为：

（1）被告行为不构成对原告肖像权的侵害。第一，换脸模板视频不具有肖像权上的识别性。本案中，涉案出镜视频中的人物面部被消除后替换，本质上已经将视频中具有识别性的核心部分剔除，公众无法识别出模板中的人物是原告。第二，被告的行为不属于法定侵犯肖像权的行为。被告并未制作含有原告肖像的视频；被告虽使用了原告的涉案出镜视频，但并非是对原告肖像的利用，也并未丑化、污损、伪造原告肖像。

（2）被告行为构成对原告个人信息权益的侵犯。第一，原告涉案出镜视频中有包括原告人脸信息的个人信息。原告涉案出镜视频动态呈现了原告的面部特征等个体化特征，是“与已识别或可识别的自然人有关的信息”[33]。第二，被告实施了处理原告个人信息的行为。涉案换脸行为属于个人信息处理行为，App提供的“换脸”过程采用了检测人脸关键点的人脸识别技术，再将提供的人脸图像对应的人脸特征融合到模板图像中的特定人物上，生成的图片兼具指定图像和模板图像中的人脸特征，这需要将新的静态图片中的特征与原视频的部分面部特征、表情等通过算法进行融合，使得替换后的模板视频表现自然流畅。上述过程，涉及对原告个人信息的收集、使用、分析等，因此通过“换脸”形成换脸模板视频的过程，属于对原告个人信息的处理。第三，被告处理信息的行为未获得原告的授权，之后又商业使用载有原告个人信息的视频，侵害了原告的个人信息权益。

最后，法院判决被告向原告赔礼道歉，赔偿精神损失及经济损失。

结语

通过上文对于法律法规和案例的梳理可见，中国和美国均十分关注AI deepfake引发的法律问题，并尝试通过立法和司法途径来加以规制。中美监管机构目前的共识为：（1）中美在立法和司法中明确AI deepfake应当获得权利人同意；（2）利用AI deepfake生成的视频/音频应当履行透明度义务，例如通过水印标识其为AI深度合成。同时，中美针对AI deepfake的规制思路也存在一定差异，目前美国利用“个人形象权”作为主要监管路径，通过联邦和各州立法来进行调整。中国由于并未有“个人形象权”概念，从司法实践中可以发现，中国法院目前试图从著作权、人格权、个人信息权益和反不正当竞争多角度进行个案认定。此外，中美都面临相关监管措施如何细化的问题，例如避风港原则在AI deepfake问题上如何适用、针对已故名人的“数字复活”问题如何规制、可识别性的具体判断标准为何等等。我们将对AI deepfake问题的立法进展和司法实务保持关注和持续研究，以逐步明晰其法律边界。

感谢王默、赵怡冰，实习生赵一帆、李珊珊对本文作出的贡献。

扫码订阅“金杜律师事务所”，了解更多业务资讯