˙
新闻与出版物
华诚数据丨从百度网盘“审核门”谈起,网络服务提供者的内容审查边界在哪里?
2022年09月06日 发布人:发布人:华诚小编 下载PDF文件

华诚数据丨从百度网盘“审核门”谈起,网络服务提供者的内容审查边界在哪里?

吴月琴 刘家成

 

01事件回顾与核心问题

 

2022年8月18日,有网友发微博称,“一直以为百度网盘是机器审核,没想到是真人审核,审核人员还能随随便便把用户的照片截下来保存发到网上”引发广泛关注。当天22时39分,百度网盘微博发布严正声明,称不存在照片的人工审核,网传内容是谣言。8月20日,百度网盘再度发声称,已固定证据并报警,坚决维护自身合法权益。

近年来,平台不断增强内容审核方面的投入。大多数平台采用的审核形式是机器+人工——对于用户上传的内容,人工智能(AI)会先进行程序审核,通过比对违规数据库对内容进行标注和过滤,如果难以判断,则会显示风险提醒,为人工审核提供辅助。

结合百度网盘审核门事件,舆论聚焦于以下几点争议:第一,网络服务提供者是否有权对用户的文件进行审查?第二,如有权审查,审查边界在哪里?审查方式是什么?第三,审查应如何兼顾个人隐私权益与公共利益?

网络服务提供者的审查义务是指网络服务提供者应主动、积极地采取行动,采取合理措施,检查第三方提供的内容是否违法,在发现违法内容时,及时采取必要制止措施的义务。梳理法律法规,该等审查义务存在公法与私法两种来源,立法上审查义务形成了二元秩序:前者是指源自公法规范的网络服务提供者的审查义务[1],后者是指源自私法规范的网络服务提供者的审查义务。[2]

随着公法规范的不断出台,网络服务提供者的审查义务规制更为明晰,也推动着私法审查义务的加重。北京市高级人民法院《关于审理涉及网络环境下著作权纠纷案件若干问题的指导意见(一)》第17条规定“提供信息存储空间、搜索、链接、P2P(点对点)等服务的网络服务提供者对他人利用其服务传播作品、表演、录音录像制品是否侵权一般不负有事先进行主动审查、监控的义务。”这些规定免除了网络服务提供者的私法审查义务,但该条又规定“依照相关法律及其规定应当进行审查的,应当审查。”即公法规范要求网络服务提供者承担审查义务,仍应履行需要审查义务,否则将可能违反法定义务遭受处罚。

 

 

02审查义务的法律规制

 

1、审查义务的公法渊源
    网络服务提供者泛指以提供互联网为基础平台的各类服务主体,包括网络自动接入、网络缓存服务、信息存储空间服务以及搜索服务提供者等。为更好地监督用户在网上发布的信息,维护网络秩序与安全等公共利益,政府将合法性评估的权利与义务转让给私人互联网企业,使其承担内容合法性审查并及时删除违法内容的行政责任,是网络平台替代政府成为用户发布内容信息的主要监管者。
[3]

这种赋权方式主要有如下三种表述形式:

第一,直接规定网络服务提供者必须对第三方提供的内容进行审查。如《互联网等信息网络传播视听节目管理办法》第20条规定,“持证机构应建立健全节目审查、安全播出的管理制度,实行节目总编负责制,配备节目审查员,对其播放的节目内容进行审查。”[4]

第二,要求网络服务提供者对第三方提供的内容设立检查制度。《计算机信息网络国际联网安全保护管理办法》第10条[5]规定了相应主体应建立健全安全保护管理制度。[6]

第三,要求网络服务提供者管理第三方提供的内容。如《网络安全法》第47条规定,“网络运营者应当加强对其用户发布的信息的管理,发现法律、行政法规禁止发布或者传输的信息的,应当立即停止传输该信息,采取消除等处置措施,防止信息扩散,保存有关记录,并向有关主管部门报告。”[7]在“杭州刀豆网络科技有限公司诉长沙百赞网络科技有限公司等侵害作品信息网络传播权纠纷案”中,法院也明确指出腾讯公司作为基础性网络服务提供者,不仅在涉及国家安全等刑事犯罪时负有协助执法义务,而且对于色情、恐怖、赌博等明显违法信息应进行主动审查,发现法律、行政法规禁止发布或者传输的信息的,应当采取技术上可行的必要措施立即停止传输该信息。[8]

分析上述规范,不难发现相应条款的规范结构为:如果网络服务提供者“发现”,或者“明知或应知”相关违法活动时,需采取行动予以处理,否则需要承担责任。[9] 理论界与实务界在如何理解“明知或应知”存在分歧:有学者指出网络服务具有集聚性的特点。大型网络服务提供者面对的网络信息数量往往数以亿计,如推特(Twitter)每天用户所发信息超过5亿条[10],百度网盘在2020年数据存储总量超过1000亿GB,人均数据存储量超过200GB。[11]在如此海量的内容面前,要求网络服务提供者对所有信息逐一进行全面的合法性审查,将使其不堪重负。[12] 反对的观点则认为,对网络内容中的违法行为,网络服务提供者拥有最便利的发现和限制能力,它是成本最低的违法行为的控制者。对于早期的互联网企业,若施加过于严格的责任,则可能对其产生灭顶之灾;但近年来大量互联网企业已经拥有较为雄厚的资本,其有足够的能力与资源来承担责任。且信息技术的进步,使得互联网企业可以成本低廉的方式过滤掉大量违法内容。[13]

 

2、公法审查义务对私法审查义务的影响

探讨这一问题的意义,举个直观的例子,即网络平台有公法义务,应当且能够审查过滤“黄暴反(黄色、暴力、反动)”,是否就负有私法上的审查义务,要主动审查过滤版权?”

《民法典》第1195条第2款沿袭了原《侵权责任法》第36条第2款有关“避风港”原则的规定,对网络服务提供者的民事责任进行了限制。该规定的考量在于:网络服务提供者主要为信息交流提供技术支撑,提供的是一种平台或通道服务,对于信息的传送、信息的内容以及信息的接受通常并不进行主动组织、筛选和审查;此外,对于网络上海量的信息进行筛选和审查,也超出了网络服务提供者的能力范围。为了保障网络服务提供者能够正常开展平台或者通道服务,免遭莫名其妙的纠纷和不可预见的责任风险,保障网络整体的顺利运行,为其设置“避风港”和责任限制是必要的。[14]《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》第8条第2款也规定“网络服务提供者未对网络用户侵害信息网络传播权的行为主动进行审查的,人民法院不应据此认定其具有过错。”按照上述规范,网络服务提供者在私法上似不承担审查义务。

然而,法律实践问题并没有简单的答案。网络平台往往还负担着公法上的审查义务,有学者指出无论是民事法律规定的注意义务还是非民事法律规定的注意义务,根本上说,具有相同的本旨。公法上的审查义务也可能成为私法领域的考虑因素。[15]在“广东XX律师事务所、北京奇虎科技有限公司等网络侵权责任纠纷案”中,一审法院指出《中华人民共和国广告法》第三十四条第二款规定,“广告发布者依据法律、行政法规查验有关证明文件,核对广告内容。目前,奇虎公司仅对知名商标、驰名商标作出主动屏蔽,未对其他关键词设置必要的技术审查,未尽到合理审慎的注意义务,主观上存在过错,客观上为该所的侵权行为提供了帮助,构成共同侵权”。[16] 从《广告法》第五章的内容来看,广告法明显更侧重于公共利益的保护,主要由市场监督管理部门负责监管相关违法行为,属于公法的范畴。故由此可以推出公法上的注意义务可能成为了网络服务提供者的审查义务的组成部分。

在网络提供者已经负担公法上的审查义务时,有可能会被认定为对侵权内容有更高的注意义务。在“上海全土豆网络科技有限公司与新传在线(北京)信息技术有限公司侵犯著作财产权纠纷上诉案”[17]中,法院认为尽管土豆网的“审片组”只是对反动、色情、暴力等视频内容进行审查,但涉案作品《疯狂的石头》是当时大陆热播的影片,土豆网在审片过程中不可能不注意到该影片上传属于未经许可的侵权行为,进而具备合理理由知晓侵权行为,其不采取合理措施防止侵权行为的发生主观上具有过错,应当承担侵权责任。[18]

综上,承担公法审查义务的网络服务提供者,其在私法上的注意义务自然会被提升至更高的水平,容易被认定对侵权内容处于“应知”的状态,故网络服务提供者应当结合业务特点谨慎完善对网络内容的审查机制。

但也有学者明确反对漫无边际地扩大网络服务提供者的审查义务,“一方面,通常情况下审查过滤“黄暴反”比审查过滤版权侵权难度要低,更具有技术可行性;另一方面,审查“黄暴反”代表的是公共利益,其比版权这种私人利益具有更高的保护价值,值得付出更高的成本和代价。同时,审查过滤义务的承担必须要考虑合理成本的问题,不能仅因为网络平台在不计成本和代价的情况下具备审查过滤版权侵权的能力,就要求其承担审查过滤义务,否则浏览器经营者、中国电信等基础电信服务提供者也会需要承担版权审查过滤义务。最后,基于平等保护的要求,如果版权侵权可以审查过滤,那为何不对商标权、专利权和人格权侵权也进行审查过滤呢?按照这个逻辑,将使得网络平台对所有民事权利都进行审查过滤,这显然是脱离现实的”[19]

 

3、审查义务的影响因素

(1) 网络服务提供者的类型。提供的服务内容不同,不同网络服务提供者对网络信息内容进行编辑、控制的权利和能力存在很大差异,进而对其审查的义务的要求也不相同,《信息网络传播权保护条例》针对不同的服务类型,列明了不同的免责事由可供参考。(详见下表)

服务类型

免责事由

实践例证

网络自动接入或自动传输服务

(一)未选择并且未改变所传输的作品、表演、录音录像制品;

(二)向指定的服务对象提供该作品、表演、录音录像制品,并防止指定的服务对象以外的其他人获得。

中国移动等电信运营单位、微信小程序

网络缓存服务

(一)未改变自动存储的作品、表演、录音录像制品;

(二)不影响提供作品、表演、录音录像制品的原网络服务提供者掌握服务对象获取该作品、表演、录音录像制品的情况;

(三)在原网络服务提供者修改、删除或者屏蔽该作品、表演、录音录像制品时,根据技术安排自动予以修改、删除或者屏蔽。

网络视频软件中的视频缓存加速服务、社交网站中的预加载服务

信息存储空间

(一)明确标示该信息存储空间是为服务对象所提供,并公开网络服务提供者的名称、联系人、网络地址;

(二)未改变服务对象所提供的作品、表演、录音录像制品;

(三)不知道也没有合理的理由应当知道服务对象提供的作品、表演、录音录像制品侵权;

(四)未从服务对象提供作品、表演、录音录像制品中直接获得经济利益;

(五)在接到权利人的通知书后,根据本条例规定删除权利人认为侵权的作品、表演、录音录像制品。

视频网站、电商平台、云服务存储平台

搜索或链接服务

接到权利人的通知书后,根据本条例规定断开与侵权的作品、表演、录音录像制品的链接的,不承担赔偿责任;但是,明知或者应知所链接的作品、表演、录音录像制品侵权的,应当承担共同侵权责任。

各类搜索引擎

在北京微播视界科技有限公司诉百度在线网络技术(北京)有限公司、百度网讯科技有限公司侵害作品信息网络传播权案中,法院认为百度在线公司和百度网讯公司为存储空间服务提供者,二者在收到微播视界公司有效投诉即纸质投诉函后,删除被控侵权短视频的行为在合理期限内,已履行“通知-删除”义务,其行为符合进入“避风港”的要件。[20] 由此可以推论,法院认为存储空间服务提供者并非完全需确保所存储内容的合法性。

(2)网络服务提供者的技术能力。不同的网络服务提供者对内容的掌控能力并不相同,对于小微企业如果苛以完全审查的重任,则由此带来的运营成本的升高,可能会扼杀小微企业的发展,进一步巩固大型互联网企业的主导地位。对于大型互联网企业而言,因其资金雄厚,且积累了众多技术,使其负担一定程度的审核义务并不会造成其运营成本的大幅上升[21],相反,企业还可能因履行审查义务所享受相应的收益,如:网络内容质量的提升、AI识别技术的升级、企业商誉的提升等。[22]需注意的是,尽管技术的研发和更新需投入大量的资金,但由于技术的迁移性,一旦大型网络服务提供者完成了审查系统的技术架构,就能以极低的成本向社会扩散,从而使得技术性审查的成本可以为小微企业所承担。[23]如阿里云提供的内容安全业务可以提供图片、视频、语音、文字、网页等多媒体的内容风险智能识别和审核服务,帮助用户发现色情、暴恐、政治敏感等风险内容。在可预见的将来,随着审查技术的日趋成熟,对网络服务提供者的内容审查义务也会越来越高。

(3)法律的特殊规定。针对一些特殊领域的网络服务,法律为其设定了更高的注意义务。如《互联网危险物品信息发布管理规定》第12条规定,网络服务提供者应当加强对接入网站及用户发布信息的管理,定期对发布信息进行巡查。《网络交易监督管理办法》第29条规定,网络交易平台经营者应当对平台内经营者及其发布的商品或者服务信息建立检查监控制度。《网络食品安全违法行为查处办法》第14条亦规定,平台需要建立主动监控系统,且这种监控系统需设置专门的机构或指定专职管理人员,对平台上的食品经营行为及信息进行检查。其明确指出,除了使用关键词过滤等自动审查技术外,相关主体还必须采用人工审查的方式予以补充。

 

 

03合规建议

 

1、用户协议

用户协议的内容是网络服务提供者与用户之间就网络服务订立的合同,在处理当事人之间的纠纷时具有优先性。因而,笔者建议网络服务提供者在用户协议中不主动承诺对网络内容的全面、充分的审查,并与用户侵权行为划清权责界限,以便日常追偿。以百度网盘为例,百度在其用户协议中,就表明自身系信息存储空间平台,并不保证内容的合法性、正确性、完整性、真实性或品质。用户若通过百度网盘服务散布和传播反动、色情或其他违反国家法律、法规的信息导致任何第三方提出索赔要求或衍生的任何损害或损失,由用户自行承担全部责任。这样的表述为百度网络的审查义务预留了空间,即百度网盘可对用户上传的内容进行审查,同时百度在私法上无需为审查的结果承担责任。

笔者建议网络服务提供者可在用户协议中

(1)描述业务范围以表明自身的网络服务提供者的类型,以适当减轻将来的举证负担;

(2)如无必要,谨慎在用户协议中承诺履行全面或充分的内容审查义务,否则将来可能为审查结果承担责任;

(3)特别标明法律禁止传播的内容,从源头减轻审核义务;

(4)简要介绍审核流程,证明自身确已完成审核机制的构建;

(5)在用户协议中明确用户侵权行为的类型、界定及相应责任承担,减轻纠纷发生时平台有关侵权行为的举证责任,便于因未尽审查义务后向侵权用户追偿;

(6)载明“通知—采取合理措施”机制,为权利人提供便捷的救济渠道[24]

(7)若提供信息存储空间,为用户提供不同的选择,以提升用户的好感。如提供私密空间存储,承诺不予审查,并不提供分享服务;提供一般空间存储,提供分享功能,并运用自动化技术进行适当筛查。

 

2、技术审查与人工审查相结合

尽管目前自动化审查的技术发展迅速,但如果仅仅依赖自动化审查技术可能对合规义务有较大的挑战。2021年公布的《关于进一步压实网站平台信息内容管理主体责任的意见》指出网络平台应当“严格落实总编辑负责制度,明确总编辑信息内容审核权利责任,建立总编辑全产品、全链条信息内容审核把关工作机制。完善人工审核制度,进一步扩大人工审核范围,细化审核标准,完善审核流程,确保审核质量。”因此,无论是出于技术要求,亦或是落实法律规定,人工审查均是必不可少的部分。[25]

因此,网络服务提供者在提升技术审查准确性的同时,还应当完善人工审查制度,主要为

(1)技术审查技术的迭代更新。对网络服务提供者而言,技术审查仍然是履行审查义务的基本盘,技术的提升会带来准确率与速度的提升,减轻复核的负担。

(2)专门的内容管理部门。网络服务提供者应当从制度上确定人工审查的部门,并且该部门的人员组成应当严格履行保密义务,在系统层面记录其审核日志,屏蔽所有拷贝资料的途径。

(3)人工审查作为技术审查的补充。人工审查相较于技术审查的优势在于内容的合法性的把控,更适用于对重点内容的把控。主要包括对AI判定风险的内容进行复核、对用户投诉的内容进行审查、对传播范围广泛的文件审核等。

(4)在日常工作中,加强对员工的培训,增强员工的法律意识

 

 

尾注

[1]《中华人民共和国网络安全法》第47条规定:“网络运营者应当加强对其用户发布的信息的管理,发现法律、行政法规禁止发布或者传输的信息的,应当立即停止传输该信息,采取消除等处置措施,防止信息扩散,保存有关记录,并向有关主管部门报告。”

[2] 在“新传诉土豆案”中,土豆网对热门影片应当予以重视,因其未尽到合理的注意义务,存在过错,应当承担侵权。参见上海市高级人民法院(2008)沪高民三(知)终字第62号民事判决书。

[3] 参见李丹丹:《网络平台内容审查范围的界定》,载《信息安全研究》2019年第9期,第834-835页。

[4] 类似的还有:《网络食品安全违法行为查处办法》第14条第1款,“网络食品交易第三方平台提供者应当对入网食品生产经营者食品生产经营许可证、入网食品添加剂生产企业生产许可证等材料进行审查,如实记录并及时更新。”《互联网信息服务管理办法》第13条规定“互联网信息服务提供者应当向上网用户提供良好的服务,并保证所提供的信息内容合法。”等。

[5] 《计算机信息网络国际联网安全保护管理办法》第10条规定:“互联单位、接入单位及使用计算机信息网络国际联网的法人和其他组织应当履行下列安全保护职责:(一)负责本网络的安全保护管理工作,建立健全安全保护管理制度;(二)落实安全保护技术措施,保障本网络的运行安全和信息安全;(三)负责对本网络用户的安全教育和培训;(四)对委托发布信息的单位和个人进行登记,并对所提供的信息内容按照本办法第五条进行审核;(五)建立计算机信息网络电子公告系统的用户登记和信息管理制度;(六)发现有本办法第四条、第五条、第六条、第七条所列情形之一的,应当保留有关原始记录,并在24小时内向当地公安机关报告;(七)按照国家有关规定,删除本网络中含有本办法第五条内容的地址、目录或者关闭服务器。”

[6] 类似的规定还有:《互联网危险物品信息发布管理规定》第12条,“网络服务提供者应当加强对接入网站及用户发布信息的管理,定期对发布信息进行巡查,对法律、法规和本规定禁止发布或者传输的危险物品信息,应当立即停止传输,采取消除等处置措施,保存有关记录,并向公安机关等主管部门报告。”《互联网直播服务管理规定》第7条,“互联网直播服务提供者应当落实主体责任,配备与服务规模相适应的专业人员,健全信息审核、信息安全管理、值班巡查、应急处置、技术保障等制度。提供互联网新闻信息直播服务的,应当设立总编辑。互联网直播服务提供者应当建立直播内容审核平台,根据互联网直播的内容类别、用户规模等实施分级分类管理,对图文、视频、音频等直播内容加注或播报平台标识信息,对互联网新闻信息直播及其互动内容实施先审后发管理。”等

[7] 《互联网论坛社区服务管理规定》第5条、《互联网跟帖评论服务管理规定》第5条与《互联网群组信息服务管理规定》均在表述中将信息审核纳入管理制度中,且上述规定皆以《网络安全法》等法律为制定依据,故有理由推定信息的管理包括信息的审查。

[8] 杭州互联网法院(2018)浙0192民初7184号民事判决书。

[9] 《民法典》第1197条规定:“网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益,未采取必要措施的,与该网络用户承担连带责任。”

[10] 参见吴心韬:《推特 展翅高飞的小鸟》,载《中国证券报》2013年11月9日。

[11] 百度网盘于2020年11月27日在新浪微博公布上述数据

[12] 姚志伟:《技术性审查:网络服务提供者公法审查义务困境之破解》,载《法商研究》2019年第1期,第32-33页

[13] 参见赵鹏:《私人审查的界限》,载《清华法学》2016年第6期,第123页。

[14] 最高人民法院民法典贯彻实施工作领导小组主编:《中华人民共和国民法典侵权责任编理解与适用》,人民法院出版社2020年版,第271页。

[15] 屈茂辉:《论民法上的注意义务》,载《北方法学》2007 年第1 期,第28 页。

[16] 广州市中级人民法院(2021)粤01民终21436号民事判决书。

[17] 上海市高级人民法院(2008)沪高民三(知)终字第62号民事判决书。

[18] 原《互联网等信息网络传播视听节目管理办法》(现已废止)第20条规定,“持证机构应建立健全节目审查、安全播出的管理制度,实行节目总编负责制,配备节目审查员,对其播放的节目内容进行审查。”《互联网视听节目服务管理规定》第16条也有类似的规定。

[19]参见姚志伟《平台能够审查过滤“黄暴反”,就要审查过滤版权吗?》载于知产力2022-08-25

[20] 北京互联网法院(2018)京0491民初1号民事判决书。

[21] 实践中,无论在国内还是国外、大型互联网服务提供者对技术性审查都积累了较多的经验。在国内,各类大型网络服务提供者,包括网络社交服务提供者、网络搜索服务提供者都已经在利用技术性措施对用户内容进行审查。在国外,在国外,脸书(Facebook)和推特(Twitter)等社交网站利用技术性措施剔除恐怖主义和极端主义内容已十分常见

[22] 参见盛媛:《英首相酝酿“清网”行动,封杀极端主义网络空间》,载《第一财经日报》2017年6月6日。

[23] 参见崔国斌:《论网络服务商版权内容过滤义务》,《中国法学》2017年第2期。

[24] 在具体落实上,可在内容展示页面设置显著按钮,用户点击按钮后,可进入标准化的填写页面,降低权利人投诉难度,并在收到通知后,对权利人及时回复并采取必要措施。

[25] 《互联网平台落实主体责任指南(征求意见稿)》三、重点任务(四)健全内容审核机制。


本网站之内容旨在提供有关华诚的一般信息。本网站之内容不得被视为与访问者建立律师-客户关系,也不视为是为任何具体事宜提供法律意见。网站访问者应向律师咨询以获得专业法律意见。 对于任何争议的特定事实和情况,在没有获得恰当的法律或其他专业意见之前,本所客户和其他网站访问者不能将华诚网站上的任何信息作为采取行动与否的依据。

© Copyright 2000-2015 All Rights Reserved | 沪ICP备15028801号 隐私保护 | 用户反馈

沪公网安备 31010402001317号

Lin