AI原生应用相关法律问题研究：AI+游戏法律问题

标签：证券与资本市场，数字经济，电信、传媒、娱乐与高科技，人工智能

2023年年初，微软在北京举办了“GDC 2023中国行—予力游戏赋能开发”大会，公布了多项AI技术在游戏开发领域的技术性进展和落地应用场景，从美术资源制作到游戏体验优化到运营和营销，AI技术能够在游戏的各个领域赋能，帮助游戏厂商降低开发成本，大幅提高游戏生产的品质和效率，也正因为如此，集合文本、图像、音频、视频等要素于一体的游戏产业，势必将成为AI技术落地的最佳渠道之一。本篇将着眼于AI与游戏行业的结合，探讨相关法律问题。

一、游戏+AI的发展趋势和应用场景

大型游戏的开发过程通常包含文本、图像、音效、音乐、3D模型、动画、电影、代码等极为丰富的环节，涵盖了娱乐及媒体行业所有的内容形式。传统游戏的开发过程耗时漫长且流程复杂，开发单位以年为计投入大量人力、物力、财力，行业内存在着“质量、速度、成本”中只能有两个的不可能三角。以销量超4600万份的《荒野大镖客：救赎2》为例，游戏拥有超过28平方英里接近真实景象的地图和1000个NPC，即使专职开发人员超1200人，也用了8年才完成，开发成本近3亿美元，而专职开发人员少于《荒野大镖客：救赎2》的《星际公民》，已开发了10年之久，至今尚未正式发售。而随着AI技术的逐渐成熟，AI可以优化从游戏策划到剧情、音频、图像、动画制作再到宣发等游戏制作全流程，提高开发人员创造效率，减少研发周期和人员规模。例如，Ghostwriter可帮助研发人员设计游戏剧情和对话内容；Stable Diffusion可快速创建成场景、道具、武器等游戏资产。目前，在B站上全程使用AI技术生成一款互动游戏，整个制作过程最快仅需6小时，与传统游戏的制作周期相比，实可谓是一项大革新。

在游戏行业领域内，AI技术的应用场景非常丰富：

（1）绘画设计。AI辅助绘画目前可在角色、装饰、场景、3D影像生成、画风模仿等方面落地应用，研发人员只需输入关键词和素材，即可生成相应图像，帮助美术人员快速完成绘画设计，提升工作效率。随着 Stable Diffusion 等工具突破生成精度等问题，手握强大AI 工具，美术工作人员可达成“一人成军”的效果。例如，仿真游戏《微软模拟飞行2020》与Blackshark.ai合作，借助AI和云计算，通过2D卫星图像生成世界各地约15亿座3D建筑物，并保证数据实时交互，突破了人工制作的桎梏。

（2）代码编写。大型游戏通常具有很高的技术经验门槛，需要编写复杂算法以支撑游戏运行。AI模型可作为代码生成工具，根据用户的自然语言指令生成相应的代码程序。AI可精确处理原本耗时的撰写代码、优化代码等基础工作，将研发人员从繁复的编写代码工作中解放出来，为其完成更多创造性工作节约时间和精力的同时，大幅降低游戏制作门槛，推动更多新游戏面世。

（3）内容生成。AI可辅助设计游戏中的剧情及对话，根据用户要求生成不同场景、背景、角色的个性化内容，玩家和玩家、玩家和NPC的交互不再受限于固定设置，而是以更高的自由度参与游戏世界，游戏内容将极度个性化。

（4）NPC互动。AI技术可进一步提高NPC真实性、合理性，提高其多轮对话能力，弱化其和真人玩家的边界感，为玩家提供千人千面的游戏反馈，提升玩家的操作空间和体验感。目前已经有不少公司，比如国外的inwold.ai，中国的启元世界、超参数，都在尝试做AI NPC，希望NPC能够在一个开放世界大环境里，基于自己的人设、和其他人的关系等，和外界自主涌现交互，而不是被简单规则约束的玩偶。

可以说，面对越来越高的开发成本，游戏行业降本增效以提高盈利能力、行业竞争力的强烈需求，共同推动了AI技术与游戏行业的深度结合。

二、游戏+AI的合规要点问题

从现阶段AI技术的发展程度看，AI赋能游戏行业目前主要可能涉及到以下合规要点问题：

1. 数据来源的合法性问题

根据《生成式人工智能服务管理暂行办法》第七条，生成式人工智能服务提供者在开展预训练、优化训练等训练数据处理活动，应当确保使用具有合法来源的数据和基础模型。

如前文介绍，游戏角色形象、场景设置、对话台词、背景音效等游戏组成元素均可以通过AI技术辅助搭建，这个过程需要输入大量素材作为训练数据。因此，对于游戏开发企业来说，首先要关注的就是使用的数据是否具有合法来源。目前游戏厂商的数据来源主要包括自行采集、向第三方采购数据和通过公开渠道爬取数据等途径。其中，自行采集数据只要事先向用户做好告知义务并取得用户的授权同意，一般情况下不存在太大的合规问题。可能存在问题的主要是向第三方采购数据和通过公开渠道爬取数据。

向第三方采购数据的，若第三方提供的数据权属存在瑕疵，或者未经数据所有者的授权提供，可能导致游戏开发企业使用第三方数据的合法性基础存在瑕疵，影响游戏业务的持续运营，甚至引发对游戏开发企业的索赔。

通过公开渠道（例如搜索引擎、社交平台、电商平台、其他游戏平台网站等）爬取数据是目前企业采集公开数据的常用技术手段之一，但爬取过程需要遵循合规路径，否则可能涉嫌非法爬虫行为。目前，司法实务界主要从以下四个因素来判断爬虫行为是否合法：一是数据是否属于开放数据。数据是否公开不是合法性判断的标准，是否为开放数据才是，公开数据不必然等同于开放数据；二是取得数据的手段是否合法。爬虫采用的技术是否突破数据访问控制，是否突破网站的Robots协议[1]。在司法实践中，Robots 协议规则是判断抓取信息一方行为正当性的关键因素，Robots协议约定不能爬取的范围就是爬虫的红线；三是使用目的是否合法。如果爬虫的目的是实质性替代被爬者提供的部分产品内容或服务，则会被认为目的不合法；四是是否造成损害。爬虫是否实质上妨碍被爬者的正常经营，是否不合理增加运营成本，是否破坏系统正常运行。因此，企业如果违反被爬网站的Robots协议，爬取了被爬网站授权范围以外的数据，用于实质性替代被爬对象的产品或服务，可能被认定为非法爬取行为，除了可能会涉及不正当竞争行为[2]的行政责任，还可能构成侵犯权利人合法权益，涉及到民事侵权责任。此外，若爬取方明知没有授权而故意避开或强行突破网站的反爬虫技术设置进行爬取，属于“未经授权”访问或获取数据，根据我国刑法规定，突破技术屏障入侵他人计算机系统、获取系统内的数据，可能构成“非法侵入计算机信息系统罪”“非法获取计算机信息系统数据罪”“破坏计算机信息系统罪”等刑事责任：

《数据安全法》第三十二条：“任何组织、个人收集数据，应当采取合法、正当的方式，不得窃取或者以其他非法方式获取数据。法律、行政法规对收集、使用数据的目的、范围有规定的，应当在法律、行政法规规定的目的和范围内收集、使用数据。”

《数据安全法》第五十一条：“窃取或者以其他非法方式获取数据，开展数据处理活动排除、限制竞争，或者损害个人、组织合法权益的，依照有关法律、行政法规的规定处罚。”

《数据安全法》第五十二条：“违反本法规定，给他人造成损害的，依法承担民事责任。违反本法规定，构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。”

此外，若被认定为非法爬虫行为，则有关著作权保护的“避风港”原则[3]可能不再奏效。以著名的D公司诉A公司侵犯著作权案为例，A公司违反Robots协议爬取D公司网上的商户基本信息及点评内容，将其刊登在自身运营的A公司网站上，使得用户无需到达D公司网站即可获得商户基本信息及点评内容，法院认为，A公司的行为超出了“合理使用”的范畴，已构成对D公司的市场化替代，其行为违反了《著作权法》规定，不具有合法性，对于A公司依据“避风港原则”提出的抗辩理由“已在接到D公司的通知后对相关侵权内容进行了删除”最终不予认可。

2. 游戏素材的版权侵权问题

根据《生成式人工智能服务管理暂行办法》的相关规定，提供和使用生成式人工智能服务，应当尊重知识产权、商业道德。生成式人工智能服务提供者开展预训练、优化训练等训练数据处理活动，涉及知识产权的，不得侵害他人依法享有的知识产权。

AI游戏开发涉及的训练素材通常会包含大量他人享有著作权的文字、绘画、音乐等内容，若未获得著作权人的授权使用，可能导致著作权侵权行为。例如：如果游戏开发者利用AI合成技术将某受著作权保护的音乐、图像合成在游戏中，可能会涉及对原有作品的复制；如果开发者将原有作品作为参考图添加进图像编码器，按照AI指令进行处理并最终生成目标图像，可能会涉及到对原有作品的改编；如果AI生成的游戏产品与原有作品构成了实质性相似，构成侵犯原有作品作者的著作权，将导致游戏开发者面临高额索赔。

2023年，美国加州的三名漫画家对Stability AI等三家AIGC公司发起诉讼，指控Stability AI使用Stable Diffusion模型开发的付费AI图像生成工具构成版权侵权。此外，据外媒报道，2023年7月，一些使用AI技术制作的游戏在Steam平台上被禁止发行，原因是开发者没有获得所有必要的版权。对此，Steam平台回应称，“由于AI的合法著作权及拥有权存在灰色地带，除非开发者能够确认拥有AI训练资料库的使用权及拥有权，否则无法发布这些用AI生成的游戏。”由此可见，游戏素材的版权侵权问题如无法获得有效解决，势必将导致AI技术赋能游戏产业的实效大打折扣。

3. 游戏内容存在违法违规信息

《生成式人工智能服务管理暂行办法》第四条规定：“提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。”

《网络信息内容生态治理规定》第六条规定：“网络信息内容生产者不得制作、复制、发布含有下列内容的违法信息：（一）反对宪法所确定的基本原则的；（二）危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一的；（三）损害国家荣誉和利益的；（四）歪曲、丑化、亵渎、否定英雄烈士事迹和精神，以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉的；（五）宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动的；（六）煽动民族仇恨、民族歧视，破坏民族团结的；（七）破坏国家宗教政策，宣扬邪教和封建迷信的；（八）散布谣言，扰乱经济秩序和社会秩序的；（九）散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的；（十）侮辱或者诽谤他人，侵害他人名誉、隐私和其他合法权益的；（十一）法律、行政法规禁止的其他内容。”

《网络安全法》第十三条规定：“国家支持研究开发有利于未成年人健康成长的网络产品和服务，依法惩治利用网络从事危害未成年人身心健康的活动，为未成年人提供安全、健康的网络环境。”

AI模型经过训练后，对一些概念具备了比较稳定的“认知”，围绕相关概念的生成内容通常表现出惊人的一致性。一旦AI模型的训练数据里包含违规违法内容或偏见、歧视等有害信息，而算法又未能对其进行阻拦或纠正，则AI生成的游戏内容里可能也会包含违规违法及有害内容，这将导致游戏产品不能取得版号上架运营，或者出现被下架停运的后果。

4. 游戏玩家的个人信息保护问题

目前游戏公司发力to C业务的一大方向是利用AI技术学习玩家行为，为玩家提供定制化个性游戏服务。例如游戏厂商通过收集玩家的游戏时长、过往游戏经验及习惯等行为数据，分析总结玩家偏好，为其针对性地推荐个性化游戏产品，比如向热衷于交友的玩家推荐社交属性较强的游戏、向热衷于建设制造的玩家推荐偏生活类的游戏。这一过程会涉及到对用户个人信息的采集和自动化决策处理[4]，需要严格遵守个人信息保护的有关规定：

《网络安全法》第四十一条规定：“网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意。网络运营者不得收集与其提供的服务无关的个人信息，不得违反法律、行政法规的规定和双方的约定收集、使用个人信息，并应当依照法律、行政法规的规定和与用户的约定，处理其保存的个人信息。”

《个人信息保护法》第二十四条第二款：“通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。”

此外，《生成式人工智能服务管理暂行办法》第十条[5]要求生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。目前，在未成年人防沉迷保护领域，已有不少游戏厂商通过收集玩家行为数据（例如收集玩家在终端设备操作游戏时形成的点击压力和半径、加速度方向、重力方向以及玩家在游戏中通过在线语音方式互动产生的语音数据等），利用AI技术进行用户画像，精准识别未成年玩家，从而实施严格的防沉迷措施。上述收集动作因涉及到未成年人的信息，因此除了需满足个人信息保护的一般性要求外，还应当符合《个人信息保护法》的以下特别规定：

《个人信息保护法》第三十一条：“个人信息处理者处理不满十四周岁未成年人个人信息的，应当取得未成年人的父母或者其他监护人的同意。”

再比如，目前市面上很多款游戏中都有捏脸系统，玩家可以上传一张自然人照片，利用AI技术识图捏脸，创建其在游戏里的“分身”角色。这一过程涉及到个人敏感信息[6]的使用和处理，存在更大的安全风险。若玩家上传的是自己的照片，则该信息一旦泄露并被非法使用，将导致用户人格尊严受到侵害或者人身财产安全受到危害。若玩家上传的是他人的照片，则可能存在侵犯他人肖像权和隐私权等问题。因此，对于收集和处理个人敏感信息的，需要遵守更为严格的规定：

《个人信息保护法》第二十八条第二款：“只有在具有特定的目的和充分的必要性，并采取严格保护措施的情形下，个人信息处理者方可处理敏感个人信息。”

《个人信息保护法》第二十九条：“处理敏感个人信息应当取得个人的单独同意；法律、行政法规规定处理敏感个人信息应当取得书面同意的，从其规定。”

《个人信息保护法》第三十条：“个人信息处理者处理敏感个人信息的，除本法第十七条第一款规定的事项外，还应当向个人告知处理敏感个人信息的必要性以及对个人权益的影响；依照本法规定可以不向个人告知的除外。”

三、合规策略和建议

针对上述合规风险，建议游戏开发企业重视并执行以下合规策略：

（1）训练数据的获取和采集应当遵循合规方式。通过公开渠道爬取数据的，应当严格遵守Robots协议。向第三方采购数据的，应当对数据来源的合法性进行必要审查，包括事先核查供应商资质，对其业务范围、履约能力、数据与网络安全体系建设情况等进行核查，核查第三方提供的数据权属是否清晰、完整，是否拥有数据所有者的合法授权。此外，游戏开发企业在与供应商订立采购合同时，可以在条款中要求供应商对数据来源的合法合规性作出陈述保证，并约定违约赔偿机制。

（2）利用素材生成游戏内容前，对于已知的受版权保护内容，提前取得著作权人的合法授权。应当与著作权人订立许可使用合同，约定训练素材许可使用的范围、期间、权利种类，尤其是素材是否可以被直接用于游戏内容开发，以避免游戏开发完成公布后触发版权侵权风险。

（3）通过人工和技术手段加强对游戏内容侵权和违法违规信息的审查力度。除了对AI训练时输入的素材进行筛选外，游戏开发完成后也需要对游戏内容输出的合规性进行多轮测试，使其遵守相关内容要求。目前已有游戏厂商利用AI图像识别、文本分类、语音识别等技术开展游戏环境监测和净化行动，防范玩家上传不合规的图片或信息，因此，游戏企业可以借助AI技术的强大计算能力，通过不断优化词库、数据库等方式及其他技术手段，在海量的AI生成内容中快速识别和发现涉嫌侵权和违规的信息，当然，这需要游戏企业加大对算法和训练数据标注技术的研发投入。不过，现阶段还是应当把 AI定义为“辅助工具”，人工介入进行游戏内容的过滤和筛选也是相当有必要的。

（4）涉及对游戏玩家个人信息的使用和处理的，应当严格执行《个人信息保护法》的规定。包括，在获取玩家个人信息前通过游戏平台《用户协议》《隐私政策》以及弹窗等形式向玩家明示，充分告知玩家处理其个人信息的范围、处理方式等事项，取得玩家的授权和同意；对于通过自动化决策方式向玩家进行个性化游戏推荐的，应赋予玩家拒绝及关闭使用这一技术的权限；此外，就人脸等个人敏感信息的收集和处理，需满足特定目的和充分必要性的要求，取得个人单独同意并采取更为严格的保护措施，例如将个人身份信息与生物识别信息分别存储等；针对涉及未满十四周岁未成年人信息的使用和处理的，还需额外取得其父母或监护人的同意。

扫码订阅“金杜律师事务所”，了解更多业务资讯