网络平台暗黑模式的法律规制...同自治与基本权利到信义义务_李芊.pdf
《网络平台暗黑模式的法律规制...同自治与基本权利到信义义务_李芊.pdf》由会员分享,可在线阅读,更多相关《网络平台暗黑模式的法律规制...同自治与基本权利到信义义务_李芊.pdf(16页珍藏版)》请在咨信网上搜索。
1、 103 网络平台暗黑模式的法律规制从合同自治与基本权利到信义义务摘要:在识别与规制暗黑模式时,有两种较为典型的规制路径:以美国为代表的合同路径与以欧盟为代表的权利路径。合同路径可以识别出具有欺骗性与不公平的操纵行为,而权利路径可以识别出损害数据权利与个人尊严的操纵行为。合同路径通常把暗黑模式转化为格式合同与消费者保护相关争议进行讨论,而权利路径通常在司法与行政层面通过对欧盟一般数据保护条例进一步解释展开规制。在具体实践中,这两种法律路径可以解决某些暗黑模式问题,但难以完全应对大规模操纵中的风险问题,需要进一步引入信义义务。信义义务可以实现合同保护进路与基本权利保护进路的升级,有利于对暗黑模式
2、实施综合治理。关键词:暗黑模式;合同保护;格式合同;权利保护;信义义务中图分类号:D922.294 文献标识码:A 文章编号:1674-9502(2023)02-0103-16作者:李芊,中国人民大学法学博士研究生。李 芊当今,通过隐藏关键信息或使用特殊技术手段使用户出现认知偏差并做出非理性行为的网络产品设计比比皆是,这一做法被称为“暗黑模式”。总结现有司法实践可以发现,暗黑模式与操控问题已经成为网络平台监管与数据保护领域的焦点问题之一,不仅在我国已经涌现出一批典型案例,在国外,此类技术设计同样也引起较大关注。此类案件频发使得法律是否需要以及如何对暗黑模式进行规制等问题被逐步提上议程。“暗黑模
3、式”这一概念最早由英国用户体验设计师 Harry Brignull 于 2010 年 8 月明确提出。根据他的观察,暗黑模式可以被划分为 11 种不同的类型。从技术与市场角度来看,现有研究普遍视暗黑模式为一种市场竞争下形成的营销方式,旨在通过特定的技术设计与营销技巧向用户推销产品与服务,致使用户作出符合商家预期的行为。对于商家而言,暗黑模式属于积极的营销技术。此外,本文系 2022 年度最高人民法院司法研究重大课题“算法技术的法律规制研究”的阶段性研究成果,项目编号:ZGFYZDKT202211-01。参见上海长宁法院:刘某某诉上海寻梦信息技术有限公司网络侵权责任纠纷案一审宣判,“上海长宁法院
4、”微信公众号,2022年 11 月 20 日访问。2022 年 1 月,美国得克萨斯州、印第安纳州、华盛顿州和哥伦比亚特区四地总检察长针对谷歌联合提起诉讼,指控其通过欺骗性位置跟踪技术侵犯了用户的隐私。诉状中,四位总检察长共同指出:该公司部署了“暗黑模式”(Dark Pattern),利用设计技巧帮助企业暗中干扰用户决策,违反了各州与华盛顿特区的消费者保护法。参见姬祥:位置数据合规要点:详细梳理谷歌与四十州和解案,https:/ 年 2 月 1 日访问。See Harry Brignull,“Types of Dark Pattern”,https:/www.deceptive.design/
5、,accessed by Dec.12,2022.初创学者佳作DOI:10.19916/31-2011/d.20230302.003 104 上海政法学院学报(法治论丛)2023 年第 2 期暗黑模式有时还会与其他技术设计相结合,产生更具影响力的效果。在法律领域,暗黑模式总是与操纵问题相关,并逐渐发展为规模化操纵的典型。暗黑模式通常依托告知同意机制而与用户建立联系。相比偶发操纵行为,规模化的暗黑模式能够渗透到用户生活的方方面面,因而具有更强的破坏力。虽然目前世界上绝大多数国家和地区都通过立法对告知同意机制进行确立和改进,但是,面对层出不穷的暗黑模式问题,现有法律规范仍存在着诸多疏漏和不足。暗黑
6、模式的法律规制面临着如下挑战:首先,暗黑模式的呈现方式多变,并不是每种技术设计都违反了法律的规定,因此需要明确其范围;其次,由于暗黑模式对现有法律规范形成了较大冲击,因此需要明确具体的应对方式;最后,规模化的暗黑模式无疑为现实规制增加了难度,传统的保护模式是否可以有效应对群体操纵问题,以及当规范缺位时应当如何处理等问题亟待回答。本文在全面分析与评估现有的合同路径与权利路径的基础上,提出了两者在应对暗黑模式规制问题上的局限,主张以信义义务作为规制工具的补充,最终实现对暗黑模式的综合治理。一、比较法视域下的暗黑模式立法规制在全球范围内,欧盟与美国已经率先在暗黑模式的规制问题方面展开了立法、执法与司
7、法实践,并分别呈现出典型的地域传统与法治特色。(一)欧盟围绕暗黑模式设计展开的立法实践2020 年,欧盟通过了数字服务法(Digital Services Act,DSA)。该法案首次明确提出禁止在线平台使用欺骗、操纵的设计、组织或操作界面,特别是信息超载、虚假的等级制度和阻碍技术等操纵性技术手段扭曲或损害用户的自由和知情权。2022年3月21日,欧洲数据保护委员会(EDPB)发布了关于社交媒体平台界面的暗黑模式指南 3/2022(以下简称“指南”)。这份指南指出,平台所呈现的某些用户界面实质上已违反一般数据保护条例(General Data Protection Regulation,GDP
8、R)关于收集信息以及获取同意的规定,并把暗黑模式定义为:“导致用户在处理其个人数据时作出预期外、不情愿与具有潜在伤害的决定的社交媒体界面与用户体验设计。”指南总结了暗黑模式的 6 种基本类型,并提供了相关样例:(1)信息超载(Overloading):是指社交媒体设计出大量的同意请求、信息与选择促使用户分享更多甚至是超出预期的个人数据;(2)信息遗漏(Skipping):是指社交媒体通过设计让用户忘记(或不考虑)全部或者部分数据保护方面的措施;(3)信息诱导(Stirring):是指社交媒体通过界面设计操纵用户的情感与视觉进而影响用户的选择;(4)信息阻碍(Hindering):是指社交媒体通
9、过难以操作的设计阻碍用户获取信息或管理数据;(5)界面反复无常(Fickle):是指社交媒体设计出不连贯、不清晰的界面使用户较难使 See The European Parliament and The Council of the European Union,“Regulation of the European Parliament and of the Council on a Single Market For Digital Services(Digital Services Act)”,2022,https:/eur-lex.europa.eu/legal-content/EN/
10、TXT/?uri=CELEX:32022R2065,accessed by Feb.2,2023.See EDPB,“Guidelines 3/2022 on Dark Patterns in Social Media Platform Interfaces:How to Recognise and Avoid Them”,2022,https:/edpb.europa.eu/our-work-tools/documents/public-consultations/2022/guidelines-32022-dark-patterns-social-media_en,accessed by
11、Feb.2,2023.105 网络平台暗黑模式的法律规制用数据保护工具,也较难理解数据处理的目的;(6)界面不明确(Left in the dark):是指社交媒体通过设计隐藏信息界面让用户不确定平台处理数据的过程与可拥有的数据控制方式。按照操纵方式的不同,上述 6 种情形可以更进一步分为基于设计内容与基于设计形式的暗黑模式。基于设计内容的暗黑模式是指呈现给用户的内容蕴含着暗黑模式技术,包括语言措辞、信息的内容等;而基于设计形式的暗黑模式则是指内容所展现的形式,包括显示方式、浏览方式、交互方式等可能会直接影响到用户感知的方式。指南不仅详细分析了所应遵循的 GDPR 数据保护原则,而且还根据不同
12、场景罗列了可能会出现的具体形式。(二)美国围绕“消极选择营销”展开的立法实践在联邦层面,美国联邦贸易委员会(FTC)主要依据联邦贸易委员会法案(FTCA)第 5 条,针对消费者的数据保护问题展开执法活动。近年来,FTC 越来越关注消费市场中常见的“消极选择营销”(Negative Option Marketing)模式。“消极选择营销”泛指在商业交易中卖方将买方未能及时拒绝要约和取消同意的行为解释为同意商品或服务的买卖。早在 2007 年,FTC 就召集各行业代表举办了以消极选择营销为主题的研讨会。随着互联网的发展,这种营销模式变得愈发多样、复杂,并逐渐发展为暗黑模式。2021 年 4 月,F
13、TC 在其举办的线上研讨会上重申规制暗黑模式的重要性,并围绕着暗黑模式的定义、影响暗黑模式设计的要素、影响、伤害及消费者对暗黑模式的态度以及解决方案等内容展开讨论。同年 10 月,FTC 发布了政策声明,警告平台企业不能在订阅服务中使用暗黑模式。FTC 还列出了一系列欺骗或不公正地对待消费者的典型行为,例如:不充分披露与隐藏消费消息;未经消费者同意获取注册信息;阻碍消费者选择退出与退款的程序;等等。此外,FTC还通过总结执法和参与司法案例的经验,确定了规制暗黑模式的四个底线要求:第一,营销人员必须清楚而显著地披露消极选择的实质性条款,至少包括该项消极选择的存在、选择所需的总成本,以及如何取消该
14、项选择等关键条款;第二,在消费者同意购买之前,卖方必须披露重要条款与信息;第三,营销人员必须获得消费者对该产品交易的明确同意;第四,营销人员不得对退出程序设置不合理的障碍,必须尊重用户发出的、符合程序的退出请求。另外,美国国会于 2010 年通过了恢复网上购物者信心法案(Restore Online ShoppersConfidence Act,ROSCA),旨在解决部分网络消极选项营销行为所持续产生的负面影响。ROSCA禁止企业通过任何消极选择设计向消费者收取或试图收取购买互联网上出售的商品或服务所产生的 See Federal Trade Commission,“Negative Opti
15、on:A Report by the Staff of the FTCs Division of Enforcement”,2009,https:/www.ftc.gov/sites/default/files/documents/reports/negative-options-federal-trade-commission-workshop-analyzing-negative-option-marketing-report-staff/p064202negativeoptionreport.pdf,accessed by Feb.2,2023.See Federal Trade Com
16、mission,“Bringing Dark Patterns to Light:An FTC Workshop”,2021,https:/www.ftc.gov/news-events/events/2021/04/bringing-dark-patterns-light-ftc-workshop,accessed by Nov.29,2022.See Federal Trade Commission,“FTC to Ramp up Enforcement Against Illegal Dark Patterns That Trick or Trap Consumers into Subs
17、criptions”,2021,https:/www.ftc.gov/news-events/news/press-releases/2021/10/ftc-ramp-enforcement-against-illegal-dark-patterns-trick-or-trap-consumers-subscriptions,accessed by Nov.29,2022.106 上海政法学院学报(法治论丛)2023 年第 2 期费用,除非营销者在获取消费者的账单信息之前,已经清楚且显著地披露了交易的所有重要条款;在向消费者收取费用前,已经取得消费者明确的同意;营销者向消费者提供了简单的退出机
18、制。除此之外,美国国会还制定了包括电话营销销售规则(Telemarketing Sales Rule,TSR)在内的一系列单行法案,并被 FTC 应用在执法工作之中。在州层面,目前美国各州已通过的 5 部隐私法中,已有 3 部明确指出了暗黑模式的存在。2020年,加利福尼亚州在加利福尼亚隐私权法案(California Privacy Rights Act,CPRA)中为消费者提供额外的隐私保护,明确禁止使用暗黑模式。根据 CPRA 的倡议,企业需要避免以下 5 种暗黑模式设计:语言使用过于宽泛与简单;用户在隐私程度保护高低不同的选择面前花费不同的时间;出现让人困惑的选择因素与语言;使用操纵性
19、质的语言;用户访问请求权(DSAR)在现实中难以实现。科罗拉多州于 2021 年 7 月通过的科罗拉多州隐私法(Colorado Privacy Act,CPA)对暗黑模式的定义与 CPRA 基本保持一致,并同样规定禁止使用暗黑模式。紧随其后,康涅狄格州于 2022 年 5月也通过了类似立法。综上所述,欧盟与美国对于暗黑模式的规制有诸多不同。首先,欧盟立法属于“防御型”,偏向于保障个人对数据的控制,而美国立法属于“矫正型”,偏向于维护市场公平与消费者利益;其次,欧盟通过直接立法的方式限制使用暗黑模式,而美国立法者则更关注强制披露义务,并重在纠偏;最后,欧盟通过统一立法的方式,为应对暗黑模式设立
20、了基本原则与具体且有可操作性的法律规范,而美国则通过“判例”形成了普通法规则,对暗黑模式的种类进行了归纳,并提出了更有针对性的规制要求。欧盟与美国所形成的不同制度方案设计与规范选择表明,基于不同的社会考量,规制暗黑模式的路径选择并不单一。有鉴于此,下文对上述两种典型路径及其所反映出的深层次考量分别展开阐述与分析。二、合同保护路径的综合分析经验表明,长期偏好维持市场自由竞争的国家通常倾向于采用合同保护路径规制暗黑模式,尤其重视以弹窗、隐私政策等形式呈现的告知同意机制,但是这一机制明显有别于传统意义上的合同 See Federal Trade Commission,“Restore Online
21、Shoppers Confidence Act”,2010,https:/www.ftc.gov/legal-library/browse/statutes/restore-online-shoppers-confidence-act,accessed by Nov.27,2022.See Federal Trade Commission,“Telemarketing Sales Rule”,2010,https:/www.ftc.gov/legal-library/browse/rules/telemarketing-sales-rule,accessed by Nov.27,2022.CP
22、RA 对暗黑模式定义为:“a user interface designed or manipulated with the substantial effect of subverting or impairing user autonomy,decision making,or choice,as further defined by regulation”(被设计或操纵的用户界面,其实质地颠覆或损害了法规保护的用户的自主、决策或选择权),2020,https:/leginfo.legislature.ca.gov/faces/codes_displayText.xhtml?divisio
23、n=3.&part=4.&lawCode=CIV&title=1.81.5,accessed by Nov.27,2022。See Isha Marathe,“Proposed CPRA Rules Show Dark Patterns a Growing Focus for State Privacy Laws”,2022,https:/ by Nov.25,2022.参见胡凌:功能视角下个人信息的公共性及其实现,法制与社会发展2021 年第 5 期。107 网络平台暗黑模式的法律规制形式,我国学者也对告知同意的性质多有讨论。传统合同法理论认为,合同的主要功能是通过确定当事人之间达成的合意,
24、为其行为提供合理预期。晚近以来,随着工业化与信息化程度的不断提高,格式合同正在各行各业中得到广泛应用,并逐渐成为商业化过程中重要的法律形式。同时,商业化与自由竞争催生了企业自我监管的盛行,企业试图通过发布格式合同强调自我监管,进一步增强企业自身的市场竞争力。商业格式合同的发展演变使传统合同中的协商过程与约束功能大打折扣。因此,商事合同的功能事实上已经成为兼具对抗外在监管与维护声誉的关键机制。暗黑模式在合同领域的讨论多半是围绕着商业格式合同展开的,排除个体之间偶然的合同关系。总结现有研究,合同保护路径存在的主要争议如下:首先,格式合同有可能阻碍当事人开展协商,进而破坏当事人的合理预期,此举是否有
25、违合同制度的目的与价值;其次,格式合同可能会剥夺当事人自由选择的权利,是否有破坏当事人自主性之嫌;最后,格式合同事实上导致当事人之间原有法律拟制的平等地位失衡,是否需要借助法律工具加以补救;等等。针对上述问题,基于不同的理论预设与实证前提,合同保护路径引发了大量针锋相对的讨论。(一)从效率价值与多元救济出发的考量首先,合同路径有利于促进交易的效率。著名合同法专家艾伦施瓦茨(AlanSchwartz)与罗伯特斯考特(RobertE.Scott)认为,合同规范的元理论目标是效率与各方福利最大化,合同法的最终目的应该是促进与维护缔约双方交易利益的实现。格式合同的经济价值依赖于两项原则:一是合同的可分
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 网络 平台 暗黑 模式 法律 规制 自治 基本权利 信义 义务 李芊
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。