˙
新闻与出版物
互联网平台内容审查边界 ——评“AI陪伴”软件侵害人格权案
2022年06月09日 发布人:华诚小编

互联网平台内容审查边界——评“AI陪伴”软件侵害人格权案

吴月琴团队 刘家成

 

《民法典》编纂的最大亮点之一,是将人格权独立成编,除列举一系列具体人格权外,还兜底规定了自然人基于人身自由、人格尊严产生的其他人格利益,即所谓的“一般人格权”。“列举+兜底”条文表述体现了人格保护的全面性、开放性、包容性,这种精神在元宇宙时代也应有所体现。近期最高院以指导案例的形式,表达了人格利益保护的重要性,本文将以“AI陪伴”软件侵害人格权案(以下简称“本案”)进行简要梳理,帮助读者理解相关注意事项。

 

一、基本案情

被告是某款手机软件的开发者及运营者,用户在该软件中可自行创设AI陪伴者”,设置陪伴者的名称、头像,设置与该陪伴者的人物关系(如男朋友、女朋友、哥哥、妹妹、儿子等),并通过设置陪伴者的回复语言,“调教”该“AI陪伴者”与用户的互动语言。本案原告何某系公众人物,在该款软件中被设置为陪伴人物。用户在设置“何某”为陪伴人物时,上传了大量原告肖像图片,用以设置人物头像。被告通过聚类算法,将该角色按身份分类,并以协同推荐算法向其他用户推介该角色。为了进一步使AI角色拟人化,被告还为AI角色提供了“调教”算法机制,即用户上传各类文字、原告肖像图片、表情包等互动语料,部分用户参与审核后,被告使用人工智能筛选、分类后将语料加入系统推送,根据话题类别,随机用于AI角色与用户的对话中。

 

二、法院观点

(一)软件运营者为内容服务提供者。

产品设计和算法应用直接决定了软件的核心功能,软件运营者实质鼓励、组织了用户的上传行为,不再只是中立的技术服务提供者,应作为内容服务提供者承担侵权责任。

(二)自然人虚拟形象应受保护。

自然人的姓名、肖像、人格特点等综合而成的整体形象可以投射到AI形象,这种投射属于对包含了自然人肖像、姓名的整体人格形象的使用。尽管公众人物的人格利益应当受到一定限缩,但是对人格表征进行系统地、组织性地功能设计及商业化利用已经超出了合理的限度,构成对自然人姓名权、肖像权、一般人格权的侵害。

 

三、要点分析

(一)自然人的虚拟形象

根据《民法典》第1018条第2款的规定,肖像是通过影像、雕塑、绘画等方式在一定载体上所反应的特定自然人可以被识别的外部形象。肖像并不限于面部特征,凡足以呈现自然人的外部形象,并且可以使他人清楚识别出该外部特征属于特定的自然人,这种外部形象即属于肖像。1判断的标准以一般理性人为依据。2以数据为载体展现自然人外部特征的虚拟人物属于肖像权的射程之内。虚拟人物的形象可能有如下三种情况:

1. 自己的肖像

自然人可对自己的姓名及肖像进行授权使用,自然人的上传及制作行为即是该种行为的具体体现。如果用户协议有相关约定,软件运营者可以在约定的范围内对虚拟人物进行使用。

2. 他人的肖像

自然人对自己的肖像享有专有权,有权禁止他人在未经其同意的情况下,擅自使用其肖像。用户如果使用他人肖像,需得到他人的同意,否则可能涉嫌侵权行为。我们理解,软件运营者至少负有一种形式审查义务,可在用户上传肖像信息时,以单独的弹窗形式对授权进行验证。当权利人发现侵权行为时,运营者应当即时采取相应措施,停止用户的侵权行为,防止损失的进一步扩张。

3. 不存在的肖像

这种情形是指自然人利用建模等技术,创立的虚拟人偶形象。这种情形涉及虚拟人物的赋权及著作权保护等问题,由于本案并不存在相关情形,于此不加论述。

 

(二)姓名权

姓名权指自然人有权决定、使用、变更或者许可他人使用自己姓名的权利。(《民法典》第1012条)姓名权人可以将其在民法中的姓名用于商业领域,使其民法领域的姓名成为商业领域的名称,此时该商业领域的名称除了受民法规则调整之外,还受有关商法规范的调整。此外,姓名权人还可以借助本人的知名度,允许他人在服务在商品或者商品广告中使用了自己的姓名,以此获得经济报酬。姓名的知名度很可能会影响侵权责任的范围问题。

根据《民法典》第1023条第1款规定“对姓名等的许可使用,参照适用肖像许可使用的有关规定。”实践中已经有判例判定未经本人许可,在产品外包装上以题字落款形式使用科学家姓名属于商业使用,则属于侵犯姓名许可权。3本案中,明星何某作为知名人士,经营者未经何某同意,擅自使用何某的姓名进行营利行为,使虚拟人物与何某之间产生联系,具有过错,应当承担相应的侵权责任。

 

(三)肖像权

根据《民法典》第1018条的规定,肖像权具有制作、使用、公开或者许可他人使用四项权能。4肖像权人可排除他人对自己行使权能的妨害行为,以实现自己的支配。

制作是指通过拍摄、雕塑、制作头像等方式再现自然人的外部形象。虽然肖像需要一定的物质载体体现,但是肖像本身并不等同于该物质载体。

使用是指自然人有权决定是否在书籍、报刊、电影、电视、网络等载体中使用其肖像,包括发表、复制、发行、出租、展览等使用方式。肖像权人有权将自己的肖像用于任何合法目的(无论是否获得财产利益)。

公开是指以广告宣传、装饰橱窗、用作商标等方式将自然人的肖像公之于众。肖像权人对于已经制作的肖像,可以自己对外公开或者许可他人公开,禁止他人公开。

许可他人使用指自然人同意他人使用自己的肖像、这其中也包括以商业为目的使用肖像。无论是否是有偿使用,他人使用肖像都必须经过肖像权人的许可同意。《民法典》第1021条至1022条对肖像使用合同专门进行了规范,因为与本案中尚未出现相关合同,于此不加赘述。

结合上述肖像权的权能,用户使用何某的肖像,无论是否用于营利目的,均必须得到肖像权人的许可同意,否则即属于侵权行为。(《民法典》第1019条)根据《精神损害赔偿司法解释》第1条的规定,侵害肖像权的赔偿损失请求权,不以造成财产损失为前提要件,何某可径直向用户主张维护权益。关于侵害肖像权的损害赔偿责任,可依《民法典》侵权责任编的规定确定。而停止侵害、消除危险、恢复名誉的请求权则可依照《民法典》第995条、第997条处理。

 

(四)一般人格权

一般人格权,是指关于人之存在及尊严的权利。5《民法典》总则编第109条、人格权编中的第990条第2款将自然人的一般人格权概括为人身自由、人格尊严。一般人格权发挥着对人格权益进行兜底性保护的功能,在适用上需要进行限制,以避免自由裁量权的无限扩张。具体限制为:

首先,被侵犯的人格权益没有法律的明确规定,并且无法纳入具体列举的人格权的保护范围。其次,被侵犯的人格权益是基于人身自由、人格尊严产生的。被侵犯的人格权益在个案中是否值得保护,必须通过在个案中顾及所有情况,并通过以比例原则为导引的利益权衡予以确定。具体而言,认定行为人承担侵害具体人格权之外的人格利益的民事责任,应当考虑行为人和受害人的职业、影响范围、过错程度,以及行为的目的、方式、后果等因素。6

本案中的用户可与该AI角色设定身份关系、设定任意相互称谓、通过制作素材“调教”虚拟人物。虽然身份关系的设定以及素材的制作并不直接侵犯名誉权等具体人格权(除非明显具有侮辱性),但其确实对何某的人格尊严及人格自由造成影响,用户的行为自由不能逾越公众人物的人格权益的底线。

 

(五)技术中立原则

技术中立原则的含义指如果产品本身属于技术创新,且该技术本身未侵犯其他合法权益时,该技术的提供者不构成非法利用技术的帮助侵权情形。7我国立法者认为,网络服务者对网络用户上传内容的合法性不负有一般性的审查义务,并应遵守“通知-删除”规则。8该规则规定,若网络服务提供者知道或者应当知道网络用户利用其网络侵害他人民事权益,未采取必要措施的,与该网络用户承担连带责任。(《民法典》第1197条)

本案中,单纯的虚拟形象制作技术本身并非实质性侵权,如果软件运营者只是为用户提供该技术,或可依据技术中立原则免责,但软件运营者还使用了算法、人工智能筛选等技术,对虚拟人物进行分类、推荐素材及辅助“调教”等,其行为已表明其对所提供的内容知悉。但是软件运营者不仅未采取任何措施,还进一步利用自然人的知名度,扩大了侵权行为的影响(将虚拟人物广泛推广),属于应当知道侵权行为的情形。按照《民法典》第1197条,软件运营者应当承担相应的民事责任。

 

四、合规启示

(一)自然人的人格权及于虚拟形象

肖像权的客体为自然人的外部客体,如果运营者欲在虚拟空间中再现自然人的形象应当注意该外部形象的权属问题,对于利用他人形象的问题应当更加慎重。为减少这种风险,软件运营者可以对用户进行实名认证,并且对于用户使用他人形象的行为验证《授权同意书》等文件。同时,因为用户的姓名、肖像等信息属于个人信息,还可能涉及个人信息法的规制问题,需要运营者加以注意。

 

(二)算法应用者的内容审核义务

我们之前在“延禧攻略”案的评析9中,分析了算法推荐服务者的著作权审核义务;在本案中我们看出,法院为算法推荐服务者设立了用户形象的审核义务;都属于算法推荐服务者对所处理内容的审核义务。我们认为,在可预见的将来,随着技术的升级,算法推荐服务者对内容进行实质性审核,将愈发具有技术条件。相应的,算法推荐服务者的内容审查义务将受到较之以往更高的要求,例如应当对人像、声音等生物识别信息获取单独同意并完成个人信息保护影响评估。根据《互联网信息服务算法推荐管理规定》第9条,算法推荐服务者还应当建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输。

 

(三)用户权益保护机制

除算法推荐服务者自行检查发现问题外,当其收到投诉申请时,即使其并未查看申请内容,合理期间经过后,也属于明知或应当侵权行为的情形。根据《互联网信息服务管理办法》第15条、第16条的规定,互联网信息服务提供者发现有侵害他人权益情形的,应当立即停止侵权行为,保存有关记录。为减少侵权风险,算法推荐服务者应当设置便捷有效的用户申诉和公众投诉、举报入口,明确处理流程和反馈时限,及时受理、处理并反馈处理结果。(《互联网信息服务算法推荐管理规定》第22条)

注释:

 1.参见王泽鉴:《人格权法:法释义学、比较法、案例研究》,北京大学出版社2013年版,第141页。

 2.最高人民法院民法典贯彻实施工作领导小组主编:《中华人民共和国民法典人格权编理解与适用》,人民法院出版社2020年版,第238页。

 3.参见湖北省高级人民法院(2017)鄂民终3252号民事判决书。

 4.黄薇主编:《中华人民共和国民法典人格权编解读》,中国法制出版社2020年版,第139-142页。

 5.梁慧星:《民法总论》(第五版),法律出版社2017年版,第92页。

 6.黄薇主编:《中华人民共和国民法典人格权编理解与适用》,人民法院出版社2020年版,第39-40页。

 7.徐亚文、蔡葵:《技术创新引起的法律难题及解决路径:对快播、网约车营运等案的思考》,载《河北法学》2017年第5期。

 8.徐伟:《通知移除制度的重新定性及其体系效应》,载《现代法学》2013年第1期。

 9.见本手册《算法推荐服务者的著作权侵权认定——评<延禧攻略>案》。


本网站之内容旨在提供有关华诚的一般信息。本网站之内容不得被视为与访问者建立律师-客户关系,也不视为是为任何具体事宜提供法律意见。网站访问者应向律师咨询以获得专业法律意见。 对于任何争议的特定事实和情况,在没有获得恰当的法律或其他专业意见之前,本所客户和其他网站访问者不能将华诚网站上的任何信息作为采取行动与否的依据。

© Copyright 2000-2015 All Rights Reserved | 沪ICP备15028801号 隐私保护 | 用户反馈

沪公网安备 31010402001317号

Lin