相由AI生：浅谈深度伪造（Deepfake）与个人形象权

标签：知识产权，数字经济，电信、传媒、娱乐与高科技-数据及隐私权保护，人工智能

2023年2月，一段由AI生成的知名播客主持人乔·罗根（Joe Rogan）推销男性补品的深度伪造（deepfake）广告在某社交平台上疯传。[1]这段广告使公众难以分辨名人形象的真伪，最终被平台删除。未经授权的深度伪造视频开辟了一个新的法律灰色地带——名人难以保护其肖像权，其对个人形象商业化的控制也受到影响。随着AI技术的革新，生成人脸的技术难度和成本大幅降低，侵害他人肖像权的行为层出不穷，而法律法规滞后于技术变革，个人形象权的保护面临着法律上的挑战。

在人工智能时代，娱乐产业对于个人形象权的保护也存在着模糊地带。2023年1月，全球第一部运用深度伪造技术实现AI合成名人面孔的节目——《深度伪造邻居之战》（Deep Fake Neighbor Wars）在英国电视公司ITV的流媒体平台上线。[2]在这部没有明星实际出演的喜剧中，一群在替身演员基础上由AI合成的“名人”成为了邻居，在一起插科打诨。这类AI合成媒体（synthetic media）对名人肖像的使用给法律带来了新问题：面孔被AI合成的名人是否有权控制其个人形象并由此获得报酬？名人能否主张肖像权被侵害？节目制片方是否需要承担侵权责任？政府对于这类新兴内容是否有监管要求？

本文将通过对个人形象权的比较法研究，分析美国、中国关于深度伪造（deepfake）的法律规制、司法实践，以探讨人工智能技术与个人形象权的边界。

一、深度伪造（Deepfake）概念

Deepfake（深度伪造）一词由“deep learning”（深度学习）和“fake”（伪造）组合而成。深度伪造作为一种人工智能人像生成技术，主要包含以下内容：

1. 面部替换：将人像覆盖至既有图片或视频上，实现面部合成以假乱真。

2. 面部重演：操纵视频中人像的面部特征，扭曲一个人的表情，包括口型、眉毛、眼睛的运动和头部的倾斜。

3. 人脸生成：基于训练数据生成全新的人脸图像。

Deepfake一词起源于2017年。一名叫做“deepfakes”的Reddit平台用户在该平台发布AI合成的名人换脸视频。此后这种技术被称为deepfake。深度伪造主要基于生成对抗网络（Generative Adversarial Network, GAN），这是一种人工智能深度学习模型，其工作原理是由两个神经网络相互对抗：第一个用于生成图像，第二个用于判别该输出是否真实。该模型经过交替优化训练后，生成的深度伪造内容可以与真人形象无异，足以骗过人的眼睛。

二、美国法上的个人形象权与涉及deepfake的法律

个人形象权（the right of publicity）是指个人有权控制代表其个体特征且具有商业价值的形象要素，并由此获得报酬的权利。其中，代表个体特征形象的要素（persona）包括：个人姓名、声音、照片、形象、签名以及其他可区分个体特征的内容等。[3]未经授权擅自商业性使用个人的名称、肖像、声音或其他具有个人特征的要素，可能构成对个人形象权的侵犯。[4]

1. 美国对个人形象权的法律规定

美国法以各州立法及判例法的形式形成了个人形象权的法律保护体系。大部分州制定了关于个人形象权的法律法规。

《加利福尼亚州民法》第3344章及第3344.1章节（California Civil Code Section 3344 and Section 3344.1，也被称为“加利福尼亚州个人形象权法（California Rights of Publicity Statute）”）将个人形象权视为一种财产权利，即将当事人的个人特征形象（包括肖像、姓名、声音、签名及相似特征）进行商业性使用并由此获得报酬的权利。由于未经同意的换脸色情视频泛滥，许多名人的形象出现于深度伪造视频中，被用于牟利目的。2019年，加利福尼亚州颁布了打击“深度伪造”的立法（Assembly Bill 602, AB602, California Civil Code Section 1708.86.），旨在打击在加利福尼亚州未经授权的deepfake色情视频（使用数字或电子技术描绘个人的露骨材料），以救济非自愿色情制品的受害者，使得其有权寻求禁令救济并得到补偿性和惩罚性损害赔偿及律师费。[5]

纽约州《纽约公民权利法案》（New York Civil Rights Law）第50条及第51条规定了个人形象权——未经当事人事先书面同意，禁止他人为广告、商业用途使用其姓名、肖像、照片或声音。[6]2020年修订时新增了针对deepfake视频的条款。其中，第 52-c 条规定，若个人形象未经同意被数字化（digitization）合成于色情内容中，受害者有权因deepfake视频的传播而获得“非法传播或发布对个人的色情描绘（sexually explicit depiction）的私人诉讼权”，且有权获得禁令救济、补偿性和惩罚性损害赔偿以及律师费。[7]

同时，个人形象未经授权被深度伪造技术用于商业用途的问题也引起了美国联邦监管部门的关注。2023年3月20日，美国联邦贸易委员会 （FTC） 发布了一篇博客文章。该文章指出：鉴于名人深度伪造视频愈发频繁，FTC建议开发或提供生成式人工智能产品的公司以及广告商考虑AI合成媒体带来的欺诈风险。若上述公司通过深度伪造误导消费者，其可能会面临FTC的执法行动。[8]

为保护个人形象权，避免深度伪造技术的不良影响，各大社交平台也先后修改其平台规则及用户政策，有条件地规制deepfake内容。[9]例如，2023年3月21日，TikTok 在更新的平台社区准则中规定，禁止针对个人形象的deepfake视频，公众人物除外；同时，更新后的平台准则还禁止未经公众人物同意的产品代言或其他违反平台政策的涉公众人物deepfake合成视频。新准则同时规定，所有展示真实场景的deepfake视频都必须明确披露其为合成（synthetic）、虚假（fake or not real）或受更改（altered）。[10]

2. 美国涉deepfake的相关案例

(1) 凯兰德·杨诉NeoCortext公司案（Young v. NeoCortext, Inc.）[11]

2023年4月3日，美国真人秀节目《老大哥（Big Brother）》出身的名人凯兰德·杨（Kyland Young）向美国加利福尼亚中区联邦地区法院（C.D.Cal）起诉NeoCortext公司，主张该公司的换脸应用程序Reface违反了加利福尼亚州个人形象权法。被告所开发的Reface应用是一款深度伪造（deepfake）应用程序，其运作模式为：(1) 在该应用的免费版本中，用户能够从“预设图库（Pre-set catalogue）”中选择希望换脸的名人。Reface会扫描用户上传的本人图片或视频并以此为基础生成与预设图库中选中的明星、运动员等名人交换面孔后的新的图片或视频。免费版Reface生成的换脸新图片会有明显的、不可移除的“Reface应用制作”水印。(2) 免费版Reface有选项可引导用户跳转至收费的专业版（Pro Version）Reface，按月收取订阅费或者一次性的终生订阅费。用户付费之后使用Reface生成的换脸新图片或视频不再显示免费版中的水印。原告杨称被告NeoCortext公司在未经其同意的情况下“商业利用”其肖像、图像、姓名和声音，通过以下两种方式推广 Reface 应用程序的付费订阅：(1) 允许用户付费移除合成图片上的水印；以及(2) 用水印作为免费广告以吸引新用户。除了禁止NeoCortext公司将他和其他集体成员的“姓名，声音，签名，照片或肖像用于商业目的”的禁止令救济外，杨还寻求金钱赔偿（即“每个集体成员的实际损害赔偿或每次违规750美元”加上合理的诉讼费用和律师费），以及对拟议的集体诉讼的认证。此案尚在审理中。

(2) 汉密尔顿诉斯贝特案（Hamilton v. Speight）[12]

美国法院在保护个人形象权时，还需要平衡其与美国宪法第一修正案规定的言论自由权之间的关系。2019年至2020年，美国宾夕法尼亚州东区联邦法院以及联邦第三巡回上诉法院在汉密尔顿诉斯贝特案中均通过“转换性使用（transformative use）”的判断平衡了个人形象权与言论自由权之间的关系。此案是一起与深度伪造技术类似的涉及人工智能合成游戏人物的诉讼。本案中，原告兰伍德·汉密尔顿（Lenwood Hamilton）是一名前职业摔角手和橄榄球运动员、艺人以及励志演说家，其起诉涉案视频游戏的设计者莱斯特·斯贝特（Lester Speight）及涉案游戏的制作方、出品方（统称“被告”）使用其肖像作为游戏中的一个角色，故侵犯了其个人形象权。被告则辩称，其作品应享有第一修正案关于言论自由的保护。宾夕法尼亚州东区联邦法院认为本案中被告的言论自由权胜过原告汉密尔顿的个人形象权，因为涉案游戏中的角色是对原告创造并表演的“硬石汉密尔顿（Hard Rock Hamilton）”这个角色的转换性使用，并于2019年作出有利于被告的简易判决（summary judgment）。[13]原告汉密尔顿对该判决不服，上诉至美国联邦第三巡回上诉法院。

美国联邦第三巡回上诉法院认为，尽管被告视频游戏中的角色形象与原告具有相似的面部特征、肤色、发型、身材、声音、运动能力和服装等元素，但也存在其他显著的差异，原告最多只是该游戏角色形象的合成原材料之一；并且被告的游戏角色有独特的设计和故事（例如涉案游戏角色是在一个虚拟星球上参加一场虚拟的战争，而不是像原告一样在地球上从事职业摔角运动），“以至于它主要已成为被告自己的表达（own expression）”。因此法院认为被告对原告肖像的使用构成“转换性使用”，由此于2020年驳回了原告的请求，判定被告不侵权。[14]汉密尔顿对该判决不服，诉至美国最高法院，于2021年被驳回其对美国联邦第三巡回上诉法院的调卷令（writ of certiorari）申请（即美国最高法院拒绝重审该案件）。[15]

三、中国法涉及深度伪造的侵权风险与监管要求

1. 中国关于“深度伪造”的相关法律法规

中国法针对深度伪造的法律规定主要涉及肖像权、互联网法规以及个人信息等领域。首先，《民法典》第1019条规定：“任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。”根据该规定，即使没有营利目的和主观恶意，未经本人同意的深度伪造行为仍可能侵害肖像权。

同时，深度伪造技术需要获取大量人脸图像中的特征数据，而人脸信息属于法律予以特殊保护的生物识别信息，使用人脸信息要获得肖像权人的单独授权。2022年12月发布的《互联网信息服务深度合成管理规定》（下称《管理规定》）、2023年4月发布的《生成式人工智能服务管理办法（征求意见稿）》（下称《征求意见稿》）等部门规章及规范性文件，对侵犯他人肖像权的深度伪造内容提出了不同程度的规制要求。

譬如，《管理规定》定义的“深度合成技术”包括人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术。[16]《管理规定》对深度伪造提出较有针对性的规制。首先，因deepfake涉及人脸等生物识别信息的显著编辑功能，《管理规定》第14条第2款规定，deepfake服务提供者和技术支持者应当提示服务使用者依法告知人脸被编辑的个人（即肖像权人），并取得其单独同意。[17] 此外，为避免deepfake可能导致公众混淆或者误认，《管理规定》第17条第1款第3项规定，服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。[18]

另，《征求意见稿》中的部分规定针对深度伪造也进一步加以了规制。譬如第4条及第18条明确规定，人工智能生成内容应当尊重他人合法利益，不得损害肖像权、名誉权和个人隐私。[19] 第13条规定，服务提供者应当建立用户投诉接收处理机制；在发现知悉生成的内容侵害他人肖像权时，应当采取措施，停止生成。[20]

2. 涉及深度伪造的中国案例

(1) 古风汉服网红魏某诉“AI换脸”App系列案件[21]

2022年8月，成都铁路运输第一法院审理了一批使用“AI换脸”App程序侵害他人肖像权的一审案件。原告魏某是一名古风汉服网红，在短视频平台上发布古风视频。2022年7月，魏某分别起诉四家运营AI换脸软件的公司，认为被告在原告未授权的情况下，在其运营的App中上传包含原告肖像的视频作品，生成AI换脸视频，侵犯了其肖像权。

一审法院认为：（i）肖像权属于自然人的人格权，未经本人同意，不得擅自使用他人肖像；（ii）被告经营的软件以“换脸”为主要功能和卖点，利用基于他人形象拍摄制作的素材引流，诱导用户点击下载、付费。被告的行为具有营利目的，不属于合理使用范畴；（iii）涉案软件通过AI换脸技术替换了原视频中的自然人形象，供其用户使用，属于《民法典》第1019条规定的“以利用信息技术伪造的方式”侵害他人肖像权的行为，侵犯肖像权人的人格尊严。综上，成都铁路运输第一法院在四起案件中作出判决，支持原告主张（因被告已删除涉案视频），判令被告侵权成立。

(2) 中国其他类似案例

2022年12月，杭州互联网法院也审理了一起类似的“AI换脸”App程序利用深度伪造技术侵害他人肖像权的案件[22]。

该案中，杭州互联网法院分析了深度伪造视频中肖像的可识别性，认定AI合成的视频与特定自然人之间能够建立对应联系。法院认为，原告楼某某为古风汉服模特，经常发布古风汉服照片和视频，对案涉模板视频及替换合成后视频中所载对应形象的人物肖像均享有肖像权。对于换脸后的视频，楼某某仅留存身体形象，但对比原视频素材，普通人仍能通过未被修改的相应场景和细节识别出身体形象对应主体为楼某某。因此，法院认为被告利用深度合成技术将其他用户提供的人脸替换至涉案视频中，并生成形象逼真的伪造肖像视频的行为侵害了原告楼某某的肖像权。最终，杭州互联网法院判决App开发者赔礼道歉并赔偿损失5000元，双方当事人均服判息诉，判决已生效。

上述案例表明，国内各地法院对deepfake的侵权认定及判赔标准大致统一。开发运营者利用deepfake技术侵害他人肖像权，在删除侵权视频后，需承担赔礼道歉、赔偿损失的责任。赔偿金额根据涉案视频肖像的商业价值、涉案侵权视频数量、被告的过错程度等因素综合酌定。

四、结语

当生成式AI的发展使得深度伪造模糊了真与假的界限之时，如何保护个人形象权给法律带来了挑战。深度伪造技术的商业应用必须获得肖像权人的明确同意，并显著标识。技术应当有边界，平台应当及时删除并停止生成违反法律法规的深度伪造内容。

为促进人工智能技术的合法和有益使用，深度伪造技术的负面影响应当受到法律的规制，以更好地应对AIGC时代的挑战。随着deepfake的潜在问题及法律风险日益受到重视，未来，法律规制必将愈加明确与严格，我们将对此保持关注。

感谢律师王默、实习生陈玮聪对本文作出的贡献。

扫码订阅“金杜律师事务所”，了解更多业务资讯