AI原生应用相关法律问题研究：AI+虚拟数字人的法律问题

标签：人工智能

近年来，随着AI 技术快速发展，虚拟数字人行业也进入了新的发展阶段。AI 技术可覆盖虚拟数字人的建模、视频生成、驱动等全流程，一方面使虚拟数字人的制作成本降低、制作周期缩短，另一方面，多模态 AI 技术使得虚拟数字人的交互能力更上一个台阶。可以说，在AI 技术的赋能下，虚拟数字人同时拥有“好看的皮囊”和“有趣的灵魂”将不再是设想。本文将介绍AI技术在虚拟数字人行业的应用及背后的法律合规问题。

一、AI+虚拟数字人的应用场景和发展趋势

相较于传统的真人驱动型虚拟数字人（指基于真人的动作、表情等通过动作捕捉设备驱动的虚拟数字人），AI虚拟数字人是采用人工智能技术和仿真技术驱动生成的数字化虚拟人物，能够通过深度学习模型、神经网络渲染、自然语言处理等技术，具备灵敏且稳定的感知、表达甚至学习技能等自动交互能力，其生成过程依靠大量的数据采集与处理，并可通过深度学习等技术实现自主学习和调整。

目前，AI虚拟数字人在多行业、多场景均有落地应用，在具体应用场景上大致可分为两类：服务型虚拟数字人和身份型虚拟数字人。服务型虚拟数字人定位于功能性，主要用于替代真人服务，代表性应用包括数字员工、数字客服、虚拟关怀师、虚拟陪伴助手等；身份型虚拟数字人定位于身份属性，主要用于娱乐或社交活动，代表性应用包括虚拟偶像、虚拟主播、虚拟数字分身等。

AI虚拟数字人作为数字化服务的一种新形态，在全球经济下行压力加大的形势下，能够为企业提供更高效、便捷和个性化的客户服务，助力企业降本增效、推动产业数智化发展。根据iiMedia Research（艾媒咨询）的一项数据显示，2022年中国虚拟数字人核心市场规模为120.8亿元，同比增长94.2%，预计2025年将达480.6亿元，在传统行业数字化转型及降本增效的需求推动下，中国AI虚拟数字人业务需求将进一步释放，预计市场规模将持续增长。

二、AI+虚拟数字人需关注的法律合规要点问题

在不同的应用场景下，AI虚拟数字人将牵涉到复杂多样的法律问题，本文将择以下几个方面重点讨论可能涉及到的合规问题：

1. AI虚拟数字人的侵权风险

该问题主要包含人格权侵权和著作权侵权两个方面：

（1）人格权侵权问题

以真人原型生成的AI虚拟数字人（例如以某央视主持人为原型的AI虚拟主持人“小小撒”，因演唱周杰伦歌曲大放异彩的龚俊数字人等）容易引发人格权领域的侵权风险。根据《民法典》，人格权是指民事主体享有的生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等权利[1]。

以真人原型生成的虚拟数字人，其外形能够被识别对应到真人原型身上，若虚拟数字人采用了真人原型的姓名、艺名或昵称，或者使用了真人原型独具特色的音色进行口语表达或唱歌表演，在未获真人原型充分授权的情况下，可能涉嫌肖像权、姓名权以及自然人声音权益等一般人格权益的侵权，引发索赔问题。此前已有多个电商直播间被爆出使用明星AI换脸直播，涉嫌侵权。此外，以真人原型生成的虚拟数字人若在与观众互动过程中存在言行不当，也将导致其真人原型的社会评价降低，进而导致侵害真人原型的名誉权[2]。

以某公众人物H与某人工智能科技有限公司（以下简称A公司）网络侵权责任纠纷一案为例。A公司运营一款陪伴智能AI聊天软件，用户可发送文字、图片等进行用户与智能AI机器人的人机互动，同时该软件为用户提供角色调教功能，用户可自行创设或添加“AI陪伴者”。A公司未经H授权，将用户制作上传的以H姓名、肖像为标识的虚拟形象推送至“AI陪伴者”，并通过算法应用，将该角色开放给众多用户，允许用户调教该“AI陪伴者”。北京互联网法院经审理认为，虽然涉嫌侵权的具体图文由用户上传，但A公司的产品设计和对算法的应用实际上鼓励、组织了用户的上传行为，直接决定了软件核心功能的实现，该公司不再只是中立的技术服务提供者，而应作为内容服务提供者承担侵权责任。A公司未经同意使用H的姓名、肖像，设定涉及H人格自由和人格尊严的调教功能，构成了对H姓名权、肖像权、一般人格权的侵害，判令被告承担赔礼道歉、赔偿原告经济损失及精神损害抚慰金的民事责任。

（2）著作权侵权问题

除了人格权侵权问题外，AI虚拟数字人的外观形象设计、进行的直播和歌舞表演以及通过生成式人工智能技术“创作”出的文本、绘画和音乐，均可能涉及到大量文本、绘画和音乐等素材的使用，其中隐藏着著作权侵权风险。例如2022年某卫视跨年晚会上出现的邓丽君数字人，若未获得相关歌曲版权授权就进行表演，可能存在著作权侵权问题。

针对以上人格权和著作权侵权问题，运营方若计划采购AI虚拟数字人服务，需要考虑： AI技术方所提供的训练数据来源是哪里？相关的人格权、著作权的授权链条是否清晰、完整？是否需要单独取得真人原型和著作权人的二次授权？要尽可能核实素材库内容本身的合规性，避免与AI技术方一起成为侵权行为的共同责任主体。

2. AI虚拟主播的直播言行失范问题

利用AI虚拟主播开展网络直播活动是目前AI技术赋能虚拟数字人行业的一大应用场景，在此类活动中需要注意， AI虚拟主播虽然只是虚拟数字人，也不能在直播活动中肆无忌惮、随心所欲。国外曾有某虚拟偶像团体成员因言行不当问题被封禁，导致运营方遭受了巨额经济损失。因此，AI虚拟主播直播活动的参与方，包括运营方、AI技术提供方、直播平台运营方等，都要充分重视对AI虚拟主播言行内容的审核和把控，避免直播“翻车”事故并引发连带责任。

2022年6月，国家广播电视总局、文化和旅游部联合发布《网络主播行为规范》，对网络主播提供表演及视听服务、参与网络营销活动等从业行为作出了规范性要求[3]，其中要求网络主播应该树立良好形象，营造积极向上、健康有序、和谐清朗的网络空间，不得发布违法违规内容，宣扬淫秽、暴力、恐怖、教唆犯罪、炒作丑闻等违反公序良俗的内容等。与此同时，该规范还规定“利用人工智能技术合成的虚拟主播及内容，参照本行为规范。”明确将AI虚拟主播的直播行为纳入到监管范畴中。

针对AI虚拟主播开展直播带货活动的，还需要遵守《电子商务法》《广告法》等电商领域的相关法规。以《广告法》为例，AI虚拟主播的直播过程需要遵守包括但不限于：不得使用“国家级”、“最高级”、“最佳”、“唯一”、“独一无二”、“全网首发”、“最好”、“销量第一”、“最先进”、“首选”等极限用语；推荐产品时，不得贬低其他商品或者服务；不得使用虚假或引人误解的言语进行产品推荐。从内容角度而言，尤其注意不得出现不当政治言论，不得宣扬基于种族、国籍、地域、性别、职业、身心缺陷等理由的歧视；不得利用未成年人角色进行非广告类的商业宣传、表演或作为噱头获取商业或不正当利益，指引错误价值观、人生观和道德观的内容；不得展示或炒作大量奢侈品、珠宝、纸币等资产，展示无节制奢靡生活，贬低低收入群体的炫富行为等。

客观来说，不管是对运营方、AI技术提供方，或者是直播平台运营方，对AI虚拟主播的直播言行做合规审查，其难度相较真人主播来说要更大一些，主要原因在于，AI虚拟主播与直播观众互动时所产生的内容，除了提前输入的脚本外，还包含了以生成式人工智能技术为基础的AI产物，受限于AI技术所依托的海量数据和生成结果的“黑盒效应”，品牌方很难全面审查数据内容的合规性。其次，基于AI虚拟主播直播时与观众实时互动的特点，实际上不存在对虚拟主播输出内容进行审查的空档时间。因此，相较于真人主播而言，AI虚拟主播的直播内容不可控风险更高，直播“翻车”风险更大，这也导致了目前部分直播平台为了规避AI驱动的不稳定性，限制或完全禁止“AI驱动型”虚拟主播进行直播，例如：抖音平台在《抖音关于人工智能生成内容的平台规范暨行业倡议》中阐明其对于“AI驱动型”虚拟主播的态度：使用已注册的虚拟人形象进行直播时，必须由真人驱动进行实时互动，不允许完全由人工智能驱动进行互动。

3. AI虚拟数字人的商业代言风险

通过运营AI虚拟数字人孵化粉丝群体，进而开展商业品牌代言活动，目前是虚拟数字人的一大应用场景，典型案例比如2021年5月横空出世并一夜爆火的AI虚拟数字人AYAYI，凭借着又美又飒的形象人设，在亮相一个月后就有商业邀约找上门来。目前，AYAYI已经与一众美妆、汽车、时尚等品牌达成合作，并作为某日资美妆品牌官宣的数字代言人，为其旗下新品进行宣传。

利用AI虚拟数字人开展商业代言活动，运营方需要谨慎对待选品问题，比如由虚拟数字人代言美妆产品可能会引发一定争议，虚拟数字人本身没有实体，却要强调产品上脸服帖、滋润不拔干等功效，容易让消费者产生虚假宣传的感觉，引发品牌方的处罚风险。

此外，由于AI虚拟数字人并不满足我国《广告法》项下的广告代言人定义[4]，以真人原型生成的AI虚拟数字人在直播带货过程中，若消费者基于明星艺人等公众人物的影响力和信任在直播间消费购买商品的，可能被认定为构成明星本人的广告代言行为[5]。但如前所述，AI虚拟数字人在直播过程中输出的内容可能是基于AI技术实时生成或由品牌方或运营方事先输入脚本的内容，并非完全是明星艺人本人的真实意思表示，若出现代言风险，此时在合同层面根据广告内容生成方式和来源明确约定最终的责任承担主体就会显得格外重要。

4. AI虚拟数字员工场景下需考虑从业资质等问题

将AI虚拟数字人作为员工投放到金融、房地产、教育等行业也是目前的一大热潮。2021年，某房地产企业的首位虚拟数字员工“崔筱盼”甚至还因为催办单据核销率高而获得集团总部年度优秀新人奖，一时间引发热议。

在此类应用场景下，企业要谨慎考虑虚拟数字员工的投放场景，例如若将虚拟数字人作为理财顾问、保险咨询师、私人教练等角色面向客户，可能要考虑是否具备从业资质的问题。此外，还需关注其提供的服务可能属于《互联网信息服务算法推荐管理规定》第二条规定的利用个性化推送类、排序精选类、检索过滤类等算法技术向用户提供信息的应用算法推荐技术，服务提供者应承担信息安全管理、用户权益保护等责任。

5. 直播平台的安全评估和显著标识义务

根据《网络直播营销管理办法（试行）》第十三条，“直播营销平台应当加强新技术新应用新功能上线和使用管理，对利用人工智能、数字视觉、虚拟现实、语音合成等技术展示的虚拟形象从事网络直播营销的，应当按照有关规定进行安全评估，并以显著方式予以标识。”因此，对于平台内存在AI虚拟主播直播活动的，直播平台运营方需要注意履行安全评估和显著标识义务。

如前所述，虚拟数字人直播带货活动可能引发明星本人的代言风险，因此从运营方和艺人经纪方的角度来说，对AI虚拟数字人的直播带货活动进行显著标识也是运营方和艺人方面区分真人带货，规避广告代言风险的有效措施之一。此外，在技术成熟的情况下，真人原型与AI虚拟数字人之间的“真假难辨”，可能会涉及到《反不正当竞争法》项下的经营者混淆[6]行为，此时若采用显著方式予以标注，也有助于相关方避免不正当竞争风险。

三、合规建议

针对上述问题，我们提示“AI+虚拟数字人”的相关参与方考虑以下合规建议：

1. 核查训练数据来源，取得完整授权，避免侵权风险

运营方在决定使用AI虚拟数字人服务前，应当向AI技术提供方了解虚拟数字人的创作背景情况，核查AI技术方的模型数据来源，以及相关授权链是否清晰、完整。若存在真人原型，是否取得真人原型的肖像权授权；对于已知的受著作权保护内容，需要与著作权人签订著作权授权使用协议，获得著作权授权。

2. 做好对AI虚拟数字人的言行内容的审查

AI技术提供方在为客户打造AI虚拟数字人时，除了侧重虚拟数字人的商业营销属性外，也要坚持科技伦理先行，剔除训练数据中的违法违规内容及歧视、偏见等不良信息，强化模型技术处理的精细程度，避免AI虚拟数字人在直播互动过程中生成输出不当内容；运营方在直播前要做好对直播脚本、直播间背景、直播音乐、广告内容等的事先审核，此外，在AI生成技术目前尚不完全稳定的情况下，可考虑配备真人助播，实时监控跟进AI虚拟主播与观众的互动过程，及时发现问题并反馈技术方进行模型调整与优化；直播平台运营方需加强巡视力度，及时发现AI虚拟主播直播过程出现的违规问题并第一时间进行纠正和处理。

3. 相关方的业务合作合同里需要约定清楚侵权责任划分权责机制

运营方在与AI技术提供方的业务合作合同中应关注对于交付的AI虚拟数字人服务的侵权责任划分、训练数据合法合规性、授权来源合法性等内容是否进行了合理约定。对AI虚拟数字人与用户互动过程中基于AI技术不成熟原因生成的不当内容，可参考类似于明星代言合同中对明星不当言行的约束条款，约定由技术提供方承担一定赔偿责任。此外，对于MCN机构而言，如需对知名艺人形象进行虚拟数字人开发并对外授权的，建议更新相关经纪协议内容，避免超出原有的经纪范围；对于艺人而言，需要特别考虑以本人形象开发虚拟数字人进行直播带货的模式下，艺人可能被认定为广告代言人，如相关广告被认定为虚假广告的，艺人可能会被要求承担连带责任，因此，建议艺人与合作方明确限定本人形象的使用范围，设定负面清单并建立单次使用特别同意制度。

4. 谨慎考虑数字员工的投放场景和资质要求，依法履行合规义务

为了避免触发从业资质问题以及因AI技术不稳定造成输出内容“翻车”问题，企业应谨慎考虑在创造性、核心性岗位上投放数字员工，暂时将数字员工的使用场景集中在类似客服等简单、重复性工种上，从运营安全性角度来说更为稳妥一些。此外，运营方还需注意落实《互联网信息服务算法推荐管理规定》等AI监管领域法律法规所要求的信息安全管理、用户权益保护等合规责任。

5. 直播平台应做好安全评估和显著标识工作

除了直播平台外，品牌方和艺人经纪方也需关注直播过程是否已做了显著标识，以尽可能规避艺人广告代言风险和不正当竞争风险。

扫码订阅“金杜律师事务所”，了解更多业务资讯