生成式人工智能的法律定位与分层治理.pdf
《生成式人工智能的法律定位与分层治理.pdf》由会员分享,可在线阅读,更多相关《生成式人工智能的法律定位与分层治理.pdf(16页珍藏版)》请在咨信网上搜索。
1、ChatGPT 的法律回应文章编号:1001-2397(2023)04-0126-16收稿日期:2023-03-01基金项目:国家重点研发计划重点专项“知识产权司法保护与跨部门协同服务关键技术研究”(2022YFC3303000)作者简介:张凌寒(1982),女,河北张家口人,中国政法大学数据法治实验室教授、博士生导师,法律博士。生成式人工智能的法律定位与分层治理张凌寒(中国政法大学,北京 100091)摘 要:生成式人工智能改变了数字社会的生产架构,向既有的技术治理体系提出挑战。一是生成式人工智能呈现“基础模型专业模型服务应用”的分层业态,无法在现有的“技术支持者服务提供者内容生产者”监管框
2、架中找到适配的法律定位;二是其传播模式和技术指标使得原有规制工具难以适用。生成式人工智能治理应符合其功能业态的技术逻辑,也应基于其在数字社会生产的地位,重新认识和调整生成式人工智能的法律定位,将模型作为新型的法律治理对象。生成式人工智能的基础模型因可接入千行百业而具有通用性,因同时提供信息内容与机器所需合成数据而具有强大赋能性,是人工智能时代的新型数字基础设施。应构建“基础模型专业模型服务应用”的分层治理体系,在不同的层次适配不同的规制思路与工具。在基础模型层以发展为导向,将其作为数字社会新型基础设施设置法律制度;在专业模型层以审慎包容为理念,进行分级分类并设置合理避风港规则;在服务应用层实施
3、敏捷治理,建立合理容错制度。由此,我国得以从单一场景的算法治理发展为适应不同治理目标的复合型系统性治理。关键词:生成式人工智能;分层治理;数字基础设施;模型规制中图分类号:DF03 文献标志码:A DOI:10.3969/j.issn.1001-2397.2023.04.09 开放科学(资源服务)标识码(OSID):一、问题的提出从美国人工智能公司 OpenAI 推出的爆款应用 ChatGPT 到其迭代产品 GPT-4 上线问世,仅仅间隔 4 个月时间。相比 ChatGPT,GPT-4 实现了几个方面的飞跃式提升:识图能力得到强化,文字输入限制提升,回答准确性显著提高,能够生成歌词、创意文本,
4、并实现不同风格切换。一时之间,各大互联网公司纷纷在 2023 年 3 月内发布研发成果:著名人工智能绘画工具 Midjourney 升级至6212023 年 7 月第 45 卷 第 4 期 Modern Law Science Jul.,2023Vol.45 No.4Midjourney V5;谷歌开放大语言模型 PaLM 的 API,同时发布了帮助开发者快速构建生成式 AI 应用的工具 MakerSuite;Adobe 全新创意生成式人工智能 Firefly 亮相;百度发布文心一言,等等。大模型驱动的生成式人工智能以前所未有的态势闯入了社会生活的方方面面,不仅推动人工智能技术进入新的时代,也
5、可以预见其将在基础科学研究、学术出版、医药研发、教育等多个领域带来深刻影响。预训练大模型加速了人工智能技术的迭代发展,以 ChatGPT 为代表的生成式人工智能并非昙花一现。其对社会的深远影响可体现在以下三个层面:第一,在知识生产层面,科研方法不再受困于自由度过高引起的“维度灾难”,深度学习可以承载海量计算,科研范式将从效率比较低的“作坊模式”转向“平台模式”;第二,在人机关系层面,信息内容传播方式从平台加算法的推荐信息流传播,到一对一智慧问答传播,实现了认知层面的人机对齐;第三,在产业发展层面,ChatGPT 类生成式人工智能大模型的主要功能在于为产业赋能,其可以接入多个垂直行业应用提高生产
6、效率。生成式人工智能表现虽然惊艳,但带来的风险与法律挑战同样令人担忧。其知识产权侵权、生成虚假信息问题受到广泛关注,同时,它在训练过程中需要被“投喂”海量数据的来源问题、它所生产的内容中潜在的歧视问题,给数据安全、算法安全、网络谣言、数据主权、国家安全等方面带来潜在风险。生成式人工智能的发展超出各国监管预期,因此尚未与各国法律中对个人信息处理者、数据处理者与算法服务提供者的相关义务协调衔接。正是考虑到生成式人工智能给社会治理等各方面带来的挑战,各国政府不约而同做出了相应的立法与监管动作。意大利宣布从 3 月 31 日起禁止使用 ChatGPT,同时对其隐私安全问题立案调查。德国、法国、爱尔兰等
7、国也效仿意大利的做法,加强对生成式人工智能的监管。4 月 11 日,美国商务部下属机构也发布“人工智能问责政策”征求意见稿,就是否需要对 ChatGPT 等人工智能工具监管征求意见。同日,国家网信办发布生成式人工智能服务管理办法(征求意见稿)(下文简称办法(征求意见稿),拟规范生成式人工智能的发展。2023 年 7 月 10 日,生成式人工智能服务管理暂行办法公布。当前,生成式人工智能的治理仍是多方聚焦共商的重要话题。一是我国的网络治理与算法监管一直以来以服务提供者作为抓手,要求其承担主体责任并履行一系列网络、数据、算法的安全运行义务,但生成式人工智能以预训练大模型作为技术基座,原有以服务提供
8、者为抓手的监管框架无法直接将义务施加于生成式人工智能技术提供者。二是目前对于生成式人工智能服务的定位无法确定,显然互联网信息服务深度合成管理规定(下文简称深度合成管理规定)对技术支持者仅将其作为服务提供者的辅助者,范围过于狭窄,无法应对居于技术运行关键地位的生成式人工智能技术提供者。三是原有的算法治理框架诸多具体制度均以解决企业和监管部门的信息不对称为目标,算法备案、算法透明、算法解释等均以企业向监管部门披露信息为目的。但生成式人工智能的预训练大模型海量的训练数据和数以千亿的参数设置显然进一步加剧了监管工具的适用难度。甚至可以说,在面对生成式人工智能时,社会公众、监管部门,甚至开发企业本身都共
9、同面对着未知721张凌寒:生成式人工智能的法律定位与分层治理 参见郭春镇:生成式 AI 的融贯性法律治理 以生成式预训练模型(GPT)为例,载现代法学2023 年第 3 期,第 89 页。参见王卫:平衡科技创新与隐私保护 多国计划加强对 ChatGPT 监管,载法治日报2023 年 4 月 10 日,第 5 版。领域。此次生成式人工智能的监管思路,相比于深度合成的监管确实体现出监管逻辑更新和制度体系迭代的新趋势。但也需要指出,办法(征求意见稿)仍采取算法和深度合成的评估、标注等监管工具,其规制的主要对象仍是信息内容服务。然而,生成式人工智能的功能远不止提供信息内容服务,智慧问答只是其诸多功能中
10、的一个。生成式人工智能可以作为“技术基座”赋能金融、医疗、自动驾驶等多个领域。在产业分层中,生成式人工智能首先通过海量数据使得生成式人工智能底层大模型“见多识广”,具有强大能力;其次通过“术业有专攻”的专业优化训练,让其适配不同行业和场景;再次可以向 C 端用户直接提供服务应用。未来将为千行百业赋能,成为人工智能时代的数字基础设施。本文主要讨论生成式人工智能如何在法律体系中定位以及监管框架构建。生成式人工智能的技术跃迁正在推进产业变革,现有监管体系亦面临挑战,制度应如何回应?技术与社会制度的关系正在超越线性的决定论,制度可影响技术发展的进程但无法控制其进化的路径。本文的讨论突破了机械决定论和传
11、统线性思维方式,强调技术与制度的交互作用。生成式人工智能正在改变数字社会生产结构与社会关系。制度应面对技术发展,合理定位并与技术形成良性互动。二、生成式人工智能改变网络治理底层架构带来法律定位困难与监管挑战我国网络法律制度框架基本搭建完成,一直以来的网络治理不约而同以网络服务提供者作为关键主体,因此平台责任一直是技术治理的核心议题。相对而言,技术支持者由于并不与用户直接发生互动因而并非规制的重点。我国的人工智能治理体系中,对技术支持者的要求一般为遵循人工智能伦理的软性要求,硬性要求仅在深度合成管理规定有所规定,即参照服务提供者承担一定的合规义务。此外,为了解决监管部门与技术企业信息不对称的问题
12、,我国的监管工具箱包括算法备案、算法检查、算法解释说明等。这个规制体系适应平台聚合用户生产内容并通过算法进行信息推送的数字生产逻辑,但在人工智能生成内容时代则存在一系列制度上的不适应之处。(一)现有监管框架的“技术支持者服务提供者内容生产者”体系及其逻辑数据、算法、平台都是人工智能治理的具体对象。近十年间,我国围绕平台经济的兴起建立起现有的网络法律制度框架。平台作为服务提供者是网络法律规则的核心规制对象,平台责任也成为数字经济治理的核心议题。后续随着技术应用的发展,我国的网络治理框架向前延伸至“技术支821 现 代 法 学 2023 年第 4 期 参见张凌寒:深度合成治理的逻辑更新与体系迭代
13、ChatGPT 等生成型人工智能治理的中国路径,载法律科学2023 年第3 期,第 45 页。参见美爱德华阿什福德李:协同进化:人类与机器融合的未来,李杨译,中信出版社 2022 年版,第 334-336 页。相关研究参见张欣:从算法危机到算法信任:算法治理的多元方案和本土化路径,载华东政法大学学报2019 年第 6 期,第17-30 页;赵鹏:私人审查的界限 论网络交易平台对用户内容的行政责任,载清华法学2016 年第 6 期,第 115-132 页;薛军:电子商务法平台责任的内涵及其适用模式,载法律科学2023 年第 1 期,第 57-68 页;胡凌:平台视角中的人工智能法律责任,载交大法
14、学2019 年第 3 期,第 5-19 页;张凌寒:平台“穿透式监管”的理据及限度,载法律科学2022 年第 1 期,第 106-114 页。持者”。为了内容监管的需要,也将“内容生产者”纳入了网络治理体系,形成了依照“技术支持者服务提供者内容生产者”三类主体分别设置法律责任,以服务提供者为核心抓手的规制体系。网络服务提供者(平台)是汇聚用户生产的信息内容和调动生产资源要素的社会生产组织者。服务提供者的责任内容逐渐丰富的过程,也是平台逐步在数字社会生产中组织更多社会资源、加强数字基础设施建设与增强对生产要素控制力的过程。服务提供者不断整合信息基础服务(如身份认证、物流)、交易流程、信用评价、内
15、容推荐,并把劳动力(如骑手)、实体资源(如网约车、饭店)等生产性资源链接到网络上,改变了工业经济生产方式,形成了依托服务提供者调动生产资源、匹配多方需求的网络,通过海量用户吸引更多的服务链接到平台上形成网络效应。因此,网络服务提供者的法律义务在近年来急剧扩张,国家从个人信息保护义务、数据安全、算法安全、信息内容安全等多个方面均提出了压实主体责任的主张。具体到信息内容领域,我国逐步形成了以服务提供者为核心,向前延伸至技术支持者,同时扩展到内容生产者的治理链条。网络信息内容生态治理规定规定了内容生产者的范围,即制作、复制、发布网络信息内容的组织或者个人。技术支持者进入规制范围则源自深度合成管理规定
16、,主要是指为服务提供者提供技术支持,如提供具有编辑生物识别等特定信息功能的模型、模板等工具的技术者。信息内容安全的治理体系依照从内容生产(内容生产者)、传播过程(服务提供者)和用户接收终端(用户)流程构建。内容生产环节包括在权威信息源通过发放互联网新闻牌照进行控制,在用户信息源通过账户账号管理避免机器人、水军、僵尸账号等问题,并要求以上内容生产者承担遵守内容安全底线的义务;在传播过程中压实服务提供者的平台主体责任,要求平台作为服务提供者建立包括过滤、辟谣、提示、标记、应急、删除等机制的安全管理体系,并同时管理算法控制推荐信息流。对技术支持者的要求始于深度合成管理规定,因其模板等技术支持可以影响
17、内容生成。服务提供者始终是算法和人工智能监管的重点,对技术开发层的技术支持者则多为伦理要求,少有直接规制。人工智能技术有待解决的风险包括信任风险、公平风险、失控风险、社会风险、责任风险,对应的治理需求则是实现人工智能的透明度、公平性、可控性、包容性和可问责性。一般认为,我国人工智能治理中对于算法系统设计使用的公开透明、算法结果的公正、相应问责机制的建立等制度基本由现有算法监管体系实现。这些制度的最终落脚点仍落在服务提供者身上。综上所述,我国的网络治理体系以服务提供者(平台)作为核心抓手是基于其数字社会生产组织者的地位。在信息内容领域更是明确了“技术支持者服务提供者内容生产者”的监管框架,规制对
18、象一般为服务提供者和内容生产者,技术支持者仅由于对信息内容的影响刚刚被纳入监管范围。(二)生成式人工智能的分层业态突破主体界分引发法律定位困难生成式人工智能整个产业呈现明显的分层,区别于原有的“技术支持者服务提供者内容生921张凌寒:生成式人工智能的法律定位与分层治理 参见胡凌:平台视角中的人工智能法律责任,载交大法学2019 年第 3 期,第 6 页。参见张凌寒:平台穿透式监管的理据及限度,载法律科学2022 年第 1 期,第 109 页。参见张凌寒:数字生产论下的数据安全保障义务,载法学论坛2021 年第 2 期,第 51 页。产者”相对泾渭分明的法律主体界分,从底层的基础模型开始即可对终
19、端的服务应用层内容生产产生直接影响。生成式人工智能整体呈现将技术支持、服务提供与内容生产“三位一体”融合的技术形态,打破了现有的网络治理法律制度对数字社会生产方式在结构方面的底层设定。生成式人工智能的业态可分为三个层次,分别为“基础模型专业模型服务应用”。第一层为基础模型层。可以将基础模型层理解为操作系统,世界范围内可能存在少量具有竞争关系的通用性基础模型,以及若干在特定行业高价值专业化的基础模型。但由于训练开发成本惊人,因此只能由少数知名企业与机构提供。超千亿参数的大模型研发,并不仅仅是算法问题,而是囊括了底层庞大算力、网络、大数据、机器学习等诸多领域的复杂系统性工程,需要有超大规模人工智能
20、基础设施的支撑。生成式人工智能大模型与云计算相互依赖,在云服务基础上叠加模型即服务的业态,可为专业模型层提供人工智能基础服务,也可直接为客户端用户提供服务。第二层为专业模型层。在基础模型的技术支持下,企业可通过深度学习平台等进行适应专业垂直细分领域和场景的个性化定制。作为下游垂直细分领域的开发者,可以在基础模型的基础上简化开发工作,并以专业模型为基础开发服务应用。与开发昂贵的基础模型不同,产品模型是在基础模型基础上进行专业领域知识与专业数据的优化训练。这是因为直接将基础模型应用于专业领域存在可信性不足的问题,也会由于缺乏专业知识导致表现不佳,如专门为生物制药提供服务的产品模型,专门构建融合了领
21、域知识的大模型分子图预训练模型,应用于药物设计、靶点发现等生物制药领域,并将其作为生物制药模型的核心基础。这类专业模型可被用于金融、就业、生物医药、教育等领域,根据垂直细分场景需求专门训练或定制。第三层为服务应用层。该层兼具技术与内容生产者角色,如应用于搜索引擎、智能问答、音视频生成,直接为客户端用户提供服务。当基础模型直接提供客户端的智慧问答时,就成为了服务应用层,如 ChatGPT 即基础模型直接为用户提供智慧问答服务。技术跃迁突破了现有法律制度的底层设定。“技术支持者服务提供者内容生产者”的法律主体界分已经随着技术的发展被逐渐消解。先是近年来技术中立原则被立法和判例屡次否认,服务提供者和
22、内容生产者的角色界限已经不再明晰。生成式人工智能的大模型进一步将三者功能实质上融为一体,既可以模型即服务的形式为企业提供技术服务,又可以通过智慧问答的方式直接提供对用户的内容生成,法律主体的界限在技术实际运行中已经模糊。互联网发展初期的技术结构,也就是专业生产内容时代确立的“网络服务提供者”与“内容生产者”的二元结构已经随着技术发展被逐渐消解。在用户生成内容时代,平台是“服务提供者”,用户取代专业媒体成为海量的活跃于平台的“内容生产者”。平台通过算法控制用户生成内容的信息流,既是信源又是信道,成为“基于算法”的信息发布者。平台(服务提供者)基于推荐算法对信息流的控制,使其一定程度上具有了内容生
23、产者的性质,经过了较长的理论探讨和司法判例才在司法判例中得到承认。031 现 代 法 学 2023 年第 4 期张凌寒:搜索引擎自动补足算法的损害及规制,载华东政法大学学报2019 年第 6 期,第 41 页。生成式人工智能的底层通用能力直接打破了网络治理领域一直以来的网络服务提供者与信息内容生产者的二元藩篱,更是进一步将“技术支持者”的功能与上述二者相融合。例如,ChatGPT 可以被接入智能客服场景,当用户与智能客服发生对话时,其提供的内容既直接与基础模型的预训练数据与参数有关,也与专业模型的优化垂直领域训练数据直接相关。有学者从划分标准、规则适用、理论体系等方面论证了生成式人工智能服务提
24、供者在形式上符合网络内容服务提供者的定义,但在实质意义上不宜将其认定为网络内容服务提供者。与此同时,在模型即服务的业态下,无论是通过 API 接口介入基础模型并保持在线的形式,还是提供开源基础模型服务的形式,其在现有监管框架内又同时符合“技术支持者”和“服务提供者”角色。如果说用户生成内容时代,法律可以通过提高平台基于算法的注意义务来进行法律角色与责任规则的调适,那么,在人工智能生成内容时代,三分的法律主体认定规则是否有存在必要都成了问题。生成式人工智能使得数字社会生产方式的结构已经发生变化,以原有的主体为核心的治理模式无法应对技术的发展。(三)生成式人工智能的传播模式与技术指标难以适用原有监
25、管工具生成式人工智能的技术跃迁,已经形成了底层技术基座与产业技术链条,训练数据与参数指数级增长,打破了现有的网络治理法律制度对数字社会生产方式在信息传播方式方面的底层设定。这使得围绕信息不对称建立起来的透明度监管工具箱面临着困难,信息内容传播中的责任认定和责任分配也面临着挑战。产业模式和技术参数指标决定了透明度的监管工具箱的适用困难。生成式人工智能的预训练大模型类似于其在海量数据的自监督学习阶段完成“基础”教育,然后再由垂直产业企业根据自身需要进行专门性训练和参数微调,类似于“专业”教育。过去算法监管针对的是分散化的模型研发131张凌寒:生成式人工智能的法律定位与分层治理 参见徐伟:论生成式人
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 生成 人工智能 法律 定位 分层 治理
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。