前沿观察,

AI原生应用相关法律问题研究:AI+教育法律问题

中国 | 中文
所在网站 :    中国   |   中文
澳大利亚
中国香港特别行政区
德国
新加坡
西班牙
英国
美国
全球

标签:证券与资本市场数字经济电信、传媒、娱乐与高科技

百度创始人、董事长兼CEO李彦宏在2023百度世界大会上指出“AI应用原生时代即将来临。没有构建于基础模型之上的丰富 AI 原生应用,大模型就一文不值。”

大模型与人工智能应用的关系或可借鉴移动互联时代的生态圈,即智能手机和手机操作系统是底层基础,而形形色色的移动应用是核心元素及触达用户的终端。大模型正如移动互联时代的手机操作系统,未来可能仅有少数几家大模型作为底层操作系统,统一整个市场,但基于大模型的AI应用必将迎来百花齐放、百舸争流的大繁荣。

在搜索、文档、教育、游戏、医疗、金融、电商、专业服务、数据查询分析、营销、政务等领域,AI应用已经展现了广泛且良好的应用前景,未来也将出现更多行业通过AI改进用户体验、提高效率甚至带来新一轮产业变革浪潮。

我国针对人工智能领域已经颁布《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等法规,形成了初步的监管框架。2023年10月18日,中央网信办又发布了《全球人工智能治理倡议》,围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理的中国方案。但各行业的AI应用,除需遵守人工智能监管要求以及行业现有的监管及合规要求外,还需要兼顾基于人工智能及行业结合过程中产生的新的监管、合规问题。

本系列将逐一探析相关行业通过AI重构后面临的监管框架以及相关法律问题。此篇为第一篇,即AI+教育行业的法律问题。

一、教育+AI的发展趋势

截至目前,人工智能在教育行业的应用主要有三个层次。第一个层次是将一些通用且成熟的人工智能应用作为教育工具使用,或者嵌套在教育应用中。例如基于语音识别技术、图像识别技术而开发的口语测评、拍照搜题等教育产品。第二个层次是通过综合人工智能技术对教育应用进行赋能、提升既有教育应用的效率。例如基于云计算技术或大模型开发的AI虚拟助教、AI互动课程、AI作业批改等人工智能教育产品,可以减少人力工作,提高教学者和学习者的效率。第三个层次相对较为前沿,主要趋势体现为,不仅仅通过软件或机器替代一些简单的人类工作,而是真正由人工智能主导教学、定义教学,形成完全不同于人类教师的教育方法和知识图谱,或者是对学习者的自适应学习提供智能化的支持。

应用在教育行业的人工智能技术主要包括语音识别、图像识别、计算机视觉、增强智能、智能机器人、自然语言处理、知识图谱、决策智能、数据标注服务等。

从应用场景角度,教育+AI产品主要可划分为教学、学习、考试、测评、管理等不同类型。

1. 教学应用场景:企业通过研发人工智能技术相关的智能软件和硬件,为教学提供便利,如通过大数据分析及可视化、学情分析和实时交互,并结合学生学习现状和学习表现对教学内容及活动进行个性化定制,例如智能教育机器人,为中小学及普通职业学生提供课程、竞赛、实践等学习机会。

2. 学习应用场景:通过智能学习软硬件等方式对学生学习情况进行精准分析,构建基础知识图谱,形成针对不同学生不同知识点的有效学习路径,并根据学生的能力和偏好为学生规划适合的学习路径并推荐学生相关的学习资源,例如思维学习机、家庭学习智慧屏、学习单词、阅读APP等。

3. 考试应用场景:通过AI技术自动批改、口语测评、考试分析(运用计算机视觉、数据挖掘、自然语言处理等技术汇总各群体考试结果,生成考试情况的相关报告并归结错因用于辅助老师的精准教学)、个性化组卷(通过数据挖掘等方式对已有题库的数据进行分析整理、组合协助老师为不同层级的学习者制定考卷),例如通过大数据提供算法的学情分析等服务、在线教育平台提供的智能陪练服务。

4. 能力测评场景:通过采集学生完整的成长数据多维度全面且综合地评价学生的发展状况并生成综合素质评价报告、课堂评测报告、师生匹配评测,用于提升课堂教学质量、为学生匹配合适教师等,例如对学生进行全方位的成长评控体系建设系统,主要聚焦在过程性评价以及课程育人、活动育人、空间育人、协同育人等多种育人模式。

5. 规划管理场景:包括智能升学生涯规划和智能职业生涯规划,通过大数据分析、可视化、智能评测、个性化推荐等方式,从学生能力学习偏好、自身学科水平、大学报考条件限制等维度帮助学生解决选课、选科、选校等生涯规划服务;基于学生差异化的特长和个性化特征评估学生职业兴趣,智能生成职业生涯规划计划,例如AI高考志愿填报服务平台。

二、教育+AI的监管框架

随着近年来互联网和AI技术的迅猛发展,教育行业被AI赋能,通过在线教育为载体向客户提供新的教育模式,并且以AI技术赋能的智能教育产品也相继涌现,逐渐打造智能教育新生态。在教育+AI的业态下,智能教育企业不仅要遵守在线教育行业的准入要求,同时也要符合互联网经营、AI有关的监管政策,教育+AI面临着新的合规挑战。以下将分别从行业准入要求、主要资质证照、提供生成式人工智能服务相关的合规义务、AI教育辅助工具的监管概要等方面进行分析。

1. 教育+AI行业准入要求

我国教育体系可以分为学历教育和非学历教育,学历教育为学生提供获得教育部认证的证书或学位,包括学前教育、义务教育(小学、初中)、高中教育及高等教育,非学历教育是学历教育的补充,包括校外辅导、外语培训、职业培训等。根据上述教育体系并结合在线教育行业的准入规则,按照接受教育服务的对象和教育服务的内容,在线教育主要划分为面向学龄前儿童的在线培训、面向中小学生学科类在线培训、面向中小学生的非学科类在线培训(语言能力、艺术、体育、科技、研学等)以及面向成人的非学历教育在线培训。

目前国家相关政策已明确不得开展面向学龄前儿童的线上培训,面向义务教育阶段和高中学生的学科类培训也受到严格的限制,曾涉及该等业务的上市公司也陆续停止小学、初中、高中阶段学科类培训业务,如2021年10月,某知名教育上市公司发布公告,停止经营中国内地义务教育阶段学科类校外培训服务。面向中小学生非学科类的在线培训,目前各地正全面规范该等培训行为,如规定培训内容和时间、加强收费管理,在满足设置标准并完成法人登记等准入流程后方可开展;面向成人的非学历教育在线培训目前尚未形成完整的监管规定,但需要根据实际从事的培训内容并结合当地政策的设置标准申请准入。具体如下:

(1)面向学龄前儿童的在线培训

面向学龄前儿童的在线培训业务目前已无法获得准入批准。根据《关于进一步减轻义务教育阶段学生作业负担和校外培训负担的意见》(“《双减政策》”),统筹做好面向3至6岁学龄前儿童的校外培训治理工作,不得开展面向学龄前儿童的线上培训。北京市于2022年4月印发了《关于进一步做好教育移动互联网应用程序备案及管理工作的通知》,明确不再受理学前线上培训教育移动应用备案申请,已备案的予以撤销。

(2)面向中小学生学科类在线培训

面向中小学生学科类在线培训业务目前已无法获得准入批准。根据《双减政策》,各地不再审批新的面向义务教育阶段学生的学科类校外培训机构,现有学科类培训机构统一登记为非营利性机构,线上学科类培训机构由备案证改为审批制,未经许可不得以任何线上方式从事有偿性学科类培训;不再审批新的面向普通高中学生的学科类校外培训机构。对面向普通高中学生的学科类培训机构的管理,参照《双减政策》有关规定执行。

虽然《双减政策》的重心为小学、初中义务教育阶段,高中阶段学科类培训曾一度被部分教育培训行业人士视作为缓冲地带,但教育部发布的2022年工作要点中明确表示,要指导各地落实高中阶段学科类培训严格参照义务教育阶段执行的政策要求,实践中面向高中阶段学生的在线培训原则参照义务教育标准执行。

因此,虽然《双减政策》前取得审批并已登记为非营利性机构的可以继续面向中小学生提供学科类在线培训,如北京希望在线线上学科培训学校(希望学APP-提供小学至高中课程及服务)、北京猿辅导线上学科培训学校(猿辅导APP-提供小学至高中课程及服务)、北京途途向上线上学科培训学校(途途课堂APP-提供小学至高中课程及服务),但由于不再审批新的面向义务教育阶段学生的学科类校外培训机构,如企业拟进入该业务领域存在障碍。

(3)面向中小学生非学科类在线培训

面向中小学生非学科类的在线培训,目前各地正全面规范该等培训行为,在满足设置标准并完成法人登记等准入流程后方可开展。2022年11月《教育部等十三部门关于规范面向中小学生的非学科类校外培训的意见》(“《非学科类校外培训的意见》”)实施,针对面向中小学生的非学科类校外培训进行了规范,明确各地区分体育、文化艺术、科技等类别培训机构,明确相应主管部门。省级主管部门要结合本地实际,牵头制定相应类别线上和线下培训机构的基本设置标准。线上机构还应符合网络安全有关标准。非学科类线上培训机构须依法取得省级有关主管部门的行政许可后,再依法进行法人登记,并向所在地省级电信主管部门履行互联网信息服务核准手续。

上述《非学科类校外培训的意见》实施以来,各地针对非学科类校外培训陆续制定了相关的政策文件,如广东省于2023年6月发布了《广东省教育厅关于切实解决面向中小学生的非学科类校外培训机构审批工作系列问题的通知(二)》,明确了非学科类校外培训机构的审批依据、设置标准、申报材料并启动线上非学科类培训机构办学许可证的申报审批、申报指南等。

(4)面向成人的非学历教育在线培训

目前法律监管体系中没有针对面向成人的非学历教育的定义和明确的哪些业务应落入相关法律法规调整的范围,面向成人的非学历教育在线培训目前尚未形成完整的监管规定。相较于上述面向中小学生的在线培训而言,面向成人的非学历教育在线培训监管环境整体较为宽松。2021年7月,教育部印发了《关于加强社会成人教育培训管理的通知》,对成人教育培训机构的名称使用、招生管理、培训内容进行了规范,提出鼓励采用“互联网+”的混合学习模式,搭建网络学习平台和移动学习平台,加强资源建设,提升服务和管理水平,推进人工智能在教育培训和管理等方面的全流程应用,提高教育培训的便利度和实效性。

2. 教育+AI业务的主要资质证照要求

(1)办学许可证

面向中小学生学科类在线培训、面向中小学生非学科类在线培训原则上均应取得办学许可证。《中华人民共和国民办教育促进法》第六十五条规定:“本法所称的民办学校包括依法举办的其他民办教育机构”,《中华人民共和国民办教育促进法实施条例》第十六条规定:“利用互联网技术在线实施教育活动应当符合国家互联网管理有关法律、行政法规的规定。利用互联网技术在线实施教育活动的民办学校应当取得相应的办学许可。”各地区主管部门出台的相关通知(如《广东省教育厅关于切实解决面向中小学生的非学科类校外培训机构审批工作系列问题的通知(二)》),明确了非学科类校外培训机构办学许可证的申报、审批工作和审批依据。

面向成人的非学历教育在线培训,由于实践中培训包含的内容较多(如招录考试类、资格准入类、职业技能类、企业管理类、生活技能类、兴趣爱好类等)并且线上培训内容、培训形式和法律关系呈现多样化,建议根据不同的在线培训模式和培训内容并结合所在地的最新政策进行判断。

(2)增值电信业务经营许可证

教育+AI业务一般涉及向网络用户有偿提供信息服务(即经营性互联网信息服务),国家对经营性互联网信息服务实行许可制度,在线教育机构通常需要就此申请取得《增值电信业务经营许可证》。

根据《互联网信息服务管理办法》,从事经营性互联网信息服务(即通过互联网向上网用户有偿提供信息或者网页制作等服务活动)的主体应当向电信管理机构或者国务院信息产业主管部门申请办理互联网信息服务增值电信业务经营许可证;从事非经营性互联网信息服务(即通过互联网向上网用户无偿提供具有公开性、共享性信息的服务活动),应向电信管理机构或者国务院信息产业主管部门办理备案手续。

(3)网络文化经营许可证

从事经营性互联网文化活动[1]的主体,应取得文化部门颁发的《网络文化经营许可证》。根据文化和旅游部办公厅于2019年5月颁发的《关于调整<网络文化经营许可证>审批范围进一步规范审批工作的通知》,“网络表演”指以网络表演者个人现场进行的文艺表演活动等为主要内容,通过互联网、移动通讯网、移动互联网等信息网络,实时传播或者以音视频形式上载传播而形成的互联网文化产品;教育类、培训类等直播不属于网络表演,不属于互联网文化产品,因而不需要取得网络文化经营许可证。其后,北京市文化和旅游局、天津市文化和旅游局于2020年3月相继发文,明确确认教育类直播不属于网络文艺表演活动,不需要申请办理《网络文化经营许可证》。

参考近期某线上教育公司招股书披露,该公司研发并提供直播或录播形式的在线课程,并辅以在线自学资料和工具,但并未披露其获得《网络文化经营许可证》。从前述规定及案例来看,通过互联网提供在线教育(比如远程视频培训等)自身并不构成互联网文化产品,原则上无需取得相关证照,但如果涉及特定文化类业务,或教育被AI赋能时属于经营性互联网文化活动,应取得《网络文化经营许可证》。

(4)信息网络传播视听节目许可证

根据《互联网视听节目服务管理规定》,在中国境内向公众提供互联网(含移动互联网)视听节目服务活动[2]应当取得广播电影电视主管部颁发的信息网络传播视听节目许可证。并且,申请从事互联网视听节目服务,必须为国有独资或国有控股单位,因此非国资的民营教育机构由于不符合申请条件,通常而言并不能取得该许可证。

实践中,从事线上教育的企业是否需要取得视听许可证并不完全明确。参考近期某线上教育公司的招股书披露,由于视听节目服务的定义较为含糊,尚不确定线上培训服务是否属于该定义的范畴,以及是否须要取得视听许可证。该公司提供直播或录播形式的在线培训课程及在线自学资料,但由于缺少视听许可证,于2019年12月被相关部门处以人民币3,000元罚款,后通过与相关广电部门访谈确认,不会因为未取得视听许可证被要求终止视听节目服务业务。

因此为避免相关合规风险,建议结合教育+AI企业实际从事的业务,就是否应取得该证书与相关广电部门进行确认。

(5)网络出版服务许可证

在线教育公司将编辑加工后的数字化作品向客户提供是否属于前述规定中的网络出版服务,目前缺乏明确、统一的监管尺度。部分在线教育公司在招股书中披露,通过与主管部门进行访谈,确认无需取得网络出版服务许可证即可开展在线培训服务,包括通过线上平台提供音视频课程及材料。

鉴于《网络出版服务管理规定》本身较为模糊且针对在线教育没有进一步明确的规定,如公司向消费者提供相关培训视频、学习资料,建议就是否应需取得《网络出版服务许可证》咨询地方出版主管部门的意见。

3. 提供生成式人工智能服务相关的合规义务

教育+AI在遵守在线教育相关要求的基础上,也需要遵守并履行人工智能领域相关的合规义务,主要包括:(1)算法备案义务;(2)安全评估义务;(3)网络安全与数据合规义务等。同时,随着生成式人工智能技术的不断发展,应用于教育行业相关AI应用仍在不断地创新和发展,可能不断产生新的监管、合规挑战。为应对该等问题,除遵守目前规定的具体合规要求外,教育+AI发展过程中也需尊重和遵守人工智能领域相关伦理治理要求及科技伦理审查要求。上述合规义务及伦理治理要求具体如下:

(1)算法备案义务

如果教育+AI提供的算法推荐服务、生成式人工智能服务或深度合成服务具有舆论属性或者社会动员能力的,应履行算法备案手续,在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。算法推荐服务提供者的备案信息发生变更的,应当在变更之日起十个工作日内办理变更手续。算法推荐服务提供者终止服务的,应当在终止服务之日起二十个工作日内办理注销备案手续,并作出妥善安排。

(2)安全评估义务

如果教育+AI提供的算法推荐服务、生成式人工智能服务或深度合成服务具有舆论属性或者社会动员能力的,还需根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》开展安全评估,应当对信息服务和新技术新应用的合法性,落实法律、行政法规、部门规章和标准规定的安全措施的有效性,防控安全风险的有效性等情况进行全面评估,并且应该将评估报告通过全国互联网安全管理服务平台提交所在地地市级以上网信部门和公安机关。

(3)网络安全义务

《网络安全法》对作为网络运营者的企业提出的合规义务可以总结为两个方面:一方面,从网络运行安全的角度出发,要求网络运营者应当按照网络安全等级保护制度的要求,履行安全保护义务,保障网络免受干扰、破坏或者未经授权的访问,防止网络数据泄露或者被窃取、篡改。另一方面,从网络信息安全的角度出发,要求网络运营者应当对其收集的用户信息严格保密,并建立健全用户信息保护制度,并采取技术措施和其他必要措施,确保其收集的个人信息安全,防止信息泄露、毁损、丢失。人工智能服务涉及大量网络数据和信息收集、处理环节,服务提供者属于网络运营者,应履行上述一般性网络安全合规义务,通过制度和技术手段保障网络安全。

(4)数据安全义务

《数据安全法》从多方面规定了企业的数据安全保护义务,包括数据分类分级、安全管理制度、风险监测、风险评估等,面向消费者提供生成式人工智能服务的平台运营方作为《数据安全法》项下的数据安全合规主体,因此也应当履行《数据安全法》项下的合规义务,包括但不限于:对数据的重要程度、敏感程度等进行分级,并根据其重要程度、敏感程度的不同进行分级保护;建立健全全流程数据安全管理制度,组织开展数据安全教育培训,采取相应的技术措施和其他必要措施,保障数据安全;加强风险监测,发现数据安全缺陷、漏洞等风险时,应当立即采取补救措施等。

(5)伦理治理及审查要求

人工智能的迅猛发展积极、深刻地改变了个人生活和社会运行,但同时也带来诸多伦理安全风险,《网络安全标准实践指南——人工智能伦理安全风险防范指引》概括的人工智能伦理安全风险包括失控性风险、社会性风险、侵权性风险、歧视性风险、责任性风险。

2023年10月18日,中央网信办发布了《全球人工智能治理倡议》,立足人工智能发展、安全、治理三大核心方面,为全球人工治理问题共提出11项倡议,包括以人为本、尊重主权、智能向善、平等互利、敏捷治理、制度保障、公平和非歧视原则、伦理先行、协商共治、技术治理、增强发展中国家代表性等。

2023年10月,科技部等多部门联合发布《科技伦理审查办法(试行)》,该办法将于2023年12月1日起正式实施。该办法对于涉及以人为研究参与者的科技活动,包括利用人类生物样本、个人信息数据等的科技活动,或不直接涉及人或实验动物,但可能在生命健康、生态环境、公共秩序、可持续发展等方面带来伦理风险挑战的科技活动进行的科技伦理审查和监管做出了规定,其中明确从事人工智能科技活动的单位研究内容涉及科技伦理敏感领域的应设立科技伦理(审查)委员会,如涉及具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统,还需报请所在地方或相关行业主管部门组织开展专家复核。提供教育+AI产品和服务的企业在其产品研发、运行过程中应充分尊重和遵守前述伦理治理要求,并按要求相应开展内外部伦理审查。

4. AI教育辅助工具的监管要求

随着教育+AI应用领域的进一步扩展,除上述通过线上提供智能教育外,也涌现出一批教育辅助工具类产品,如智能教育机器人、智能学习机、智能管理系统等。根据《双减政策》,线上培训机构不得提供和传播“拍照搜题”等惰化学生思维能力、影响学生独立思考、违背教育教学规律的不良学习方法,因此,AI教育辅助产品不仅需要关注AI提供的便利以及对效率的提升,还需要关注产品是否符合国家教育政策。

智能教育辅助工具基于互联网连接硬件和软件平台,运用人工智能和大数据等信息技术,以满足不同教育场景的使用。因此,如果向网络用户有偿提供信息服务(即经营性互联网信息服务),可能需要就此申请取得《增值电信业务经营许可证》,产品研发和使用过程中数据来源合规、生成内容合规、知识产权保护、个人信息保护等问题也需要予以重视,具体可参见本文第“三、 教育+AI的知识产权问题”和“四、    教育+AI的个人信息保护及未成年人保护问题”

三、教育+AI的知识产权问题

基于教育自身的特性,作为知识、技能、价值观传播和传递的方式,教育本身与知识产权有着天然的密不可分的关系,而AI技术与教育行业的结合,形成在线教育等新的教育模式以及应用AI技术的智能教育产品,在知识产权方面也为教育行业带来新的挑战。一方面,教育+AI的结合提升了教育信息化程度,助推了教育模式的革新,促进在线教育等模式的蓬勃发展,丰富了教育活动形成的作品的形式,需进一步厘清相关作品权属问题;另一方面,AI技术在教育中的广泛应用也使得知识产权侵权的方式更为复杂多样,对企业规避知识产权侵权风险的要求不断提升。

1. 教育+AI形成作品的权属问题

教育+AI的结合丰富了教育活动形成的作品的形式,比如在教学活动中形成的在线授课内容、教学课件、授课视频、教材或试题库、在线教育软件等,这些内容如构成文学、艺术和科学领域内具有独创性并能以某种有形形式复制的智力成果,均应属于著作权法保护的作品的范畴。

根据《著作权法》的一般规定,作品的著作权应归属于作者,老师口述的在线授课内容、自行创作的教学课件等如无特殊情况著作权应归老师所有[3]。但是由于教育+AI形成的相关作品大部分需依托特定的教育机构或其他教育服务企业,作者可能为该等组织的员工或合作方,因此相关作品的著作权权属需进一步考虑职务作品、委托作品等情形,不能一概而论。

就职务作品而言,根据《著作权法》第十八条,如果作者(老师或其他教学、教研人员)是作为教育机构或相关企业的员工为完成教学、教研等工作任务而创作相关作品(如制作课件、编写教材等),则应属于职务作品,职务作品的权属存在两种情况:

(1)一般职务作品的著作权仍由作者享有,但作者单位有权在其业务范围内优先使用。作品完成两年内,未经单位同意,作者不得许可第三人以与单位使用的相同方式使用该作品。

(2)满足特定条件的职务作品,著作权可以由单位享有。比如员工利用教育机构的物质技术条件、并由机构承担责任的课件、教学及教辅材料、在线教育软件等;或者法律、行政法规规定,或者合同约定著作权由机构享有的相关职务作品。对于著作权由单位享有的职务作品,作为作者的老师或员工对作品仍享有署名权,且教育机构可以给予老师奖励。

就委托作品而言,著作权的归属可由委托人和受托人通过合同约定,合同未作明确约定或者没有订立合同的,著作权属于受托人。如果教学活动形成作品的作者系教育机构或相关企业员工以外的第三方,则该等作品可能构成机构委托其创作的作品,作品权属应通过委托合同、合作合同等进行约定,如无明确约定则著作权归第三方所有,教育机构作为委托方有权在约定的使用范围内享有使用作品或在委托创作目的的范围内使用作品。

在根据著作权法的要求不断厘清作品权属的同时,结合教育+AI领域的作品表现形式、传播方式的特点,相关企业或者作者为保护其对作品的著作权,可以采用必要的技术手段保护著作权,如在其作品中自动添加权利人及作者的水印、LOGO,采取技术手段限制非法复制等。

2. AI技术的应用提高了规避知识产权侵权风险的要求

AI技术在教育中的广泛应用使得教育+AI领域知识产权侵权的方式更为复杂多样,一方面,教育+AI涉及大量学习内容、素材的使用,本身存在较强的知识产权合规需求,另一方面,新技术、新应用带来的新型侵权行为不断出现,例如点读笔产品借助点读笔上的摄像头可同步读出教材内容,又如AI早教机器人通过内置教材文件定向链接方式在线提供涉案教材的点读播放服务等。此外,AI技术尤其是AI大模型的使用使得上述侵权风险被显著放大,AI大模型的训练涉及到大量预训练、优化训练数据,数据中存在的内容不合规及侵权风险也会进一步传导到教育+AI应用层面,且可能进一步导致相关生成内容的侵权风险。新技术的诞生丰富了学习的方式,拓展了新的学习场景。但在这些新方式、新场景下,教育+AI应用及服务提供者更需关注其应用与服务的内容不应侵犯第三方的知识产权,或成为侵犯第三方知识产权的工具。

为了鼓励创作,促进文化科学的不断繁荣,著作权法在保护权利人的同时也规定了特定情形下可以不经权利人许可、不向其支付报酬的合理使用制度,就教育领域而言,可能涉及的合理使用的情形包括“为学校课堂教学或者科学研究,翻译、改编、汇编、播放或者少量复制已经发表的作品,供教学或者科研人员使用,但不得出版发行”。虽然著作权法规定了可以合理使用的例外情形,但由于这一制度本身系对著作权人权利的限制,因此除满足特定情形外还应在必要限度内使用,即不得影响作品的正常使用,也不得不合理地损害著作权人的合法权益;如果使用超过必要限度,导致影响原作品的使用或著作权人的合法权益,则仍应被认定为侵权。在教育+AI应用与服务中,伴随着新技术的发展,作品可能被迅速复制、在更广泛的范围内传播并被进一步演绎,这可能影响著作权人相关权能的实现;同时,商业化运用本身也存在被认定为超出合理使用范围的可能,导致相关作品的使用仍然构成侵权行为。

随着AI技术的进一步发展,教育+AI的应用和服务的外延仍将不断扩展,相关的知识产权侵权形式也可能不断增加,相关企业在业务发展的同时也需不断提升识别和规避知识产权侵权风险的能力,促进业务合规开展。

四、教育+AI的个人信息保护及未成年人保护问题

教育+AI主要依托平台、系统或通过软件+硬件等形式为学习者提供教育服务或教育辅助服务,为实现服务目的,需要收集学习者与服务相关的信息,其中包含学习者大量的个人信息。同时考虑受教育群体的年龄分布,教育+AI产品与服务的面向的群体中,大部分为不满十八周岁的未成年人,且其中很多为未满十四周岁的儿童。因此,教育+AI产品和服务的设计和开发需充分考虑个人信息保护及未成年人保护问题。

近年来,与未成年人个人信息保护相关的法律法规不断制定和实施,包括《中华人民共和国个人信息保护法》《中华人民共和国未成年人保护法》《儿童个人信息网络保护规定》等。根据上述法律法规及个人信息保护相关的标准,就未成年人个人信息保护,现行规定根据未成年人的年龄制定了不同的保护要求,就收集年满十四周岁未成年人的个人信息前,应征得未成年人或其监护人的明示同意;而处理不满十四周岁未成年人个人信息的,应当取得未成年人的父母或者其他监护人的同意。

考虑到未成年人的心智发育程度,个人信息保护相关规定对于处理不满十四周岁未成年人信息设置了更为严苛的标准,比如将未满十四周岁的未成年人的个人信息直接规定为敏感个人信息,要求只有在具有特定的目的和充分的必要性,并采取严格保护措施的情形下才可以处理;单独设置儿童个人信息处理规则、用户协议和专人负责儿童个人信息网络保护;需要设置严格的内部访问权限等。

近日,国务院公开发布了《未成年人网络保护条例》,该条例作为我国第一部专门性的未成年人网络保护综合立法将于2024年1月1日起施行。该条例对包含个人信息保护在内的未成年人网络保护各个方面进行了系统性的规定。

就个人信息保护方面,在现有未成年人个人信息保护相关规定的基础上,《未成年人网络保护条例》进一步明确了对于未成年人个人信息处理,处理者对内部工作人员应当以最小授权为原则,并要求个人信息处理者每年自行或聘请第三方对处理的未成年人个人信息进行合规审计,并将审计情况及时报告网信等部门。

就未成年人网络信息内容方面,《未成年人网络保护条例》明确要求不得制作、复制、发布、传播危害未成年人身心健康内容的网络信息,不得向未成年人发送、推送或者诱骗、强迫未成年人接触含有危害或者可能影响未成年人身心健康内容的网络信息等。教育服务与产品,尤其是面向未成年人的教育服务对其价值观的树立具有深远影响,因此相关服务和产品的内容更需严格审核把关。如近期某知名上市科技企业的智能教育产品中出现了违背主流价值观的内容,被家长投诉并对外发布,对其产品声誉及企业价值造成不利影响。

对于在线教育网络产品和服务相关的网络信息内容,《未成年人网络保护条例》进一步要求运营者根据不同年龄阶段未成年人身心发展特点和认知能力提供相应的产品和服务,且需注意不得在首页首屏、弹窗、热搜等处于产品或者服务醒目位置、易引起用户关注的重点环节呈现可能影响未成年人身心健康的信息,不得通过自动化决策方式向未成年人进行商业营销等。

扫码订阅“金杜律师事务所”,了解更多业务资讯

经营性互联网文化活动是指以营利为目的,通过向上网用户收费或者以电子商务、广告、赞助等方式获取利益,提供互联网文化产品及其服务的活动。其中互联网文化产品是指通过互联网生产、传播和流通的文化产品,主要包括:(1)专门为互联网而生产的网络音乐娱乐、网络游戏、网络演出剧(节)目、网络表演、网络艺术品、网络动漫等互联网文化产品;(2)将音乐娱乐、游戏、演出剧(节)目、表演、艺术品、动漫等文化产品以一定的技术手段制作、复制到互联网上传播的互联网文化产品

即制作、编辑、集成并通过互联网向公众提供视音频节目,以及为他人提供上传及传播视听节目服务的活动

2023年4月,北京互联网法院发布的数字教育著作权纠纷典型案例吉某诉北京某教育公司侵害作品信息网络传播权纠纷案中明确教师授课所产生的口述作品著作权一般归属于教师个人。原文见《4·26特辑丨北京互联网法院数字教育著作权纠纷典型案例》,载微信公众号“北京互联网法院”,https://mp.weixin.qq.com/s/7oDyb2MpfuFzNy_aaXz4kA,2023年4月18日发布。

参考资料

  • [1]

    经营性互联网文化活动是指以营利为目的,通过向上网用户收费或者以电子商务、广告、赞助等方式获取利益,提供互联网文化产品及其服务的活动。其中互联网文化产品是指通过互联网生产、传播和流通的文化产品,主要包括:(1)专门为互联网而生产的网络音乐娱乐、网络游戏、网络演出剧(节)目、网络表演、网络艺术品、网络动漫等互联网文化产品;(2)将音乐娱乐、游戏、演出剧(节)目、表演、艺术品、动漫等文化产品以一定的技术手段制作、复制到互联网上传播的互联网文化产品

  • [2]

    即制作、编辑、集成并通过互联网向公众提供视音频节目,以及为他人提供上传及传播视听节目服务的活动

  • [3]

    2023年4月,北京互联网法院发布的数字教育著作权纠纷典型案例吉某诉北京某教育公司侵害作品信息网络传播权纠纷案中明确教师授课所产生的口述作品著作权一般归属于教师个人。原文见《4·26特辑丨北京互联网法院数字教育著作权纠纷典型案例》,载微信公众号“北京互联网法院”,https://mp.weixin.qq.com/s/7oDyb2MpfuFzNy_aaXz4kA,2023年4月18日发布。

最新文章
前沿观察
2021年9月,承载着促进粤港澳地区金融市场互联互通期许的“跨境理财通1.0时代”正式上线,其中南向通资金净流出额上限以及北向通资金净流入额上限均设置为1500亿元人民币。然而根据中国人民银行广东省分行截至2024年1月23日24时的统计数据,跨境理财通南向通净流出500,519.66万元,已用额度500,519.66万元(占比3.34%);北向通净流入23,511.56万元,已用额度23,511.56万元(占比0.16%)。 为促进跨境理财通的试点便利化且提升投资额度的使用率,中国人民银行广东省分行、中国人民银行深圳市分行、国家金融监督管理总局广东监管局、国家金融监督管理总局深圳监管局、中国证券监督管理委员会广东监管局和中国证券监督管理委员会深圳监管局于2024年1月24日联合发布新修订的《粤港澳大湾区“跨境理财通”业务试点实施细则》(以下简称《实施细则2.0》),降低投资者准入门槛、扩大试点范围、优化营销以进一步推动粤港澳大湾区金融互联互通。《实施细则2.0》自2024年2月26日起施行。鉴往知来,方能曲突徙薪。《实施细则2.0》的施行昭示着投资更为便捷通畅的“跨境理财通2.0时代”的来临,在此背景下,本文将结合过往两年试点中的实务经验和市场观察,厘清跨境理财通的机制变迁、运行与业务合规要点,梳理实践中的遗留问题,以使委曲详尽,利害缕析。银行与融资,金融机构-银行

2024/02/29

前沿观察
Sora是OpenAI公布的全新的生成式人工智能模型,它是一个文生视频模型(Text to Video),能够根据输入的提示词,生成最长达60秒的逼真视频。Sora在发布后引起了广泛的关注和讨论,虽然其生成的视频仍有瑕疵,遭到一些专业人士以及竞争对手谷歌等的吐槽,但是其生成的视频质量高,包含了高度精细的背景、复杂的运镜、丰富的角色,以及多变的风格和微表情等,使得人们对其的应用前景充满期待。与此同时,Sora也引发了一些关于版权、商标和数据合规等法律问题的讨论。我们很有兴趣做一个假设,如果Sora在中国提供服务,应当遵守哪些法律指引呢?经过梳理分析,我们发现实际上Sora可能会用上我国所有的新技术新应用立法(目前我国新兴领域立法体系主要关注网络安全和数据安全问题,因此生成式人工智能的知识产权保护问题不在本文中讨论)。本文以此作为思想试验,以Sora为调整对象,分析解构我国新兴领域立法规定及合规概要,希望可以让我们更深入地认识大模型,也可借此了解和熟悉我国的新兴领域立法体系。合规业务-网络安全与数据合规,数字经济

2024/02/29

前沿观察
近年来,得益于基础设施和信息技术的快速发展和广泛应用,量化交易规模持续上升,已成为包括公私募基金在内投资者参与证券交易的重要方式之一。从市场实践来看,量化交易在促进价格发现、增强流动性及提升交易效率等方面具有积极作用,同时也因为量化机构在技术、信息方面形成的相对优势,特定市场环境下也出现了如因高频量化交易行为所导致的市场波动等风险。在此情况下,监管机构就量化交易陆续出台了系列监管措施。无论是公募基金还是私募基金,在开展量化交易活动时,都必须在中国证券投资基金业协会(“中基协”)、中国证券监督管理委员会(“中国证监会”)等监管部门设定的公募或私募基金常规性监管框架内规范运作,同时还需遵循特别针对包括量化交易在内的程序化交易制定的信息报告制度等专门监管要求。本文将从量化私募基金的角度出发,对其及其开展量化交易活动的监管要求进行梳理、分析。私募股权与基金-私募基金股权投资,金融机构-金融市场监管

2024/02/29