ChatGPT的数据安全风险及其合规管理.pdf
《ChatGPT的数据安全风险及其合规管理.pdf》由会员分享,可在线阅读,更多相关《ChatGPT的数据安全风险及其合规管理.pdf(11页珍藏版)》请在咨信网上搜索。
1、人工智能法治专题文章编号:1008-4355(2023)04-0098-11收稿日期:2023-04-05基金项目:2022 年西南政法大学智能司法研究院合规专项课题“医疗人工智能刑事合规原理与实务研究”(ZNHG2022K06)作者简介:霍俊阁(1990),男,河南开封人,西南政法大学智能司法研究院研究人员,西南政法大学数字法治政府研究院研究人员,西南政法大学人工智能法学院讲师,法学博士。参见朱光辉、王喜文:ChatGPT 的运行模式、关键技术及未来图景,载新疆师范大学学报(哲学社会科学版)2023 年第 4 期,第 113-122 页。参见张海、刘畅、王东波、赵志枭:ChatGPT 用户使
2、用意愿影响因素研究,载情报理论与实践2023 年第 4 期,第 15-22 页。ChatGPT 的数据安全风险及其合规管理霍俊阁(西南政法大学,重庆 401120)摘 要:ChatGPT 在积极赋能社会各领域发展过程中也隐含着数据安全风险,可能侵犯公民与企业合法权益、损害公共利益和国家安全。应当坚持“四个治理”原则,将合规管理方式引入到 ChatGPT 的数据安全风险治理体系,创新 ChatGPT 数据安全风险的治理方式。以合规管理方式治理 ChatGPT 的数据安全风险,需要 ChatGPT 的研发、生产、运用企业依据有效性原则、全面性原则、独立性原则、相称性原则开展数据合规管理,并从数据合
3、规管理制度、数据安全风险识别与评估、数据安全风险应对处置、数据合规奖惩、数据合规科技创新、数据合规管理评估、数据合规文化培育等方面建立和实施数据合规管理方案。关键词:人工智能;ChatGPT;数据安全风险;“四个治理”;合规管理中图分类号:DF49 文献标志码:A DOI:10.3969/j.issn.1008-4355.2023.04.08 开放科学(资源服务)标识码(OSID):自美国 OpenAI 公司发布 ChatGPT 以来,ChatGPT 的推广应用和技术迭代一直备受人工智能专家、社会公众和法学界关注。ChatGPT 在互动问答、论文写作、代码编写、视频创作等方面的表现,极大冲击了
4、人们对人工智能技术的既有认知。ChatGPT 能够取得如此优异的表现,得益于其是一种由GPT-3.5 模型提供支持的、基于互联网可用数据训练的文本生成深度学习模型。作为生成式人工智能技术的典型代表,ChatGPT 必将开拓人工智能技术应用的新场景。但 ChatGPT 是以大量数据为基础产生的人工智能技术,大量数据的流动和调用必然会涉及数据安全问题,数据安全风险的管理成为 ChatGPT 发展过程中的一项重要议题。尽管现阶段我国相关领域还未广泛应用 ChatGPT,892023 年 8 月第 25 卷 第 4 期 Journal of Southwest University of Politi
5、cal Science&Law Aug.,2023Vol.25 No.4ChatGPT 的数据安全风险在我国的社会场景中还没有大规模出现,但从应然层面前瞻性地建构ChatGPT 数据安全风险的化解机制,保障相关数据的安全利用,是推动 ChatGPT 等生成式人工智能规范发展的必然要求。基于此,本文将在梳理 ChatGPT 数据安全风险的基础上,积极建构 ChatGPT数据安全的合规管理体系,以实现 ChatGPT 数据安全风险的合规防控。一、ChatGPT 运行周期内的数据安全风险梳理 ChatGPT 需要数据输入并通过算法模型对数据进行处理,才能有结果输出,在这一过程中就可能发生各类数据安全
6、问题。且 ChatGPT 在数据输入、数据处理、数据输出阶段均可能发生数据安全事件,引发侵犯公民、企业合法权益及损害公共利益、国家安全等安全风险。(一)ChatGPT 在数据收集阶段的安全风险根据 OpenAI 使用条款的规定,OpenAI 对任何用户的输入和输出内容拥有广泛使用权以改善ChatGPT。可是,不是所有的用户都愿意将其数据提供给 ChatGPT,每个用户也并非都愿意 ChatG-PT 收集其全部数据。更加值得警惕的是,不同于公开的社交平台,生成式人工智能很可能会收集到大量高度敏感的隐私信息乃至保密信息。以致于,微软和亚马逊就曾因担心泄露机密信息而禁止公司员工向 ChatGPT 分
7、享敏感数据,埃森哲公司也因类似原因警告员工不要将客户信息透露给ChatGPT。如果 ChatGPT 非法收集了个人数据、企业数据、公共数据,必然会引发数据安全风险。第一,非法收集个人数据会侵犯公民个人信息。任何组织、个人收集数据都应当合法、正当,ChatGPT 要收集用户的个人数据必须采取合法、正当的方式。而且,从数据收集目的和收集对象来看,ChatGPT 对用户数据的收集不属于个人信息保护法第 13 条规定的无需获得个人同意的情形。所以,ChatGPT 收集用户个人数据时应当获得用户同意。如果 ChatGPT 在未经用户同意的情形下非法收集了用户的个人数据,则可能违反相关法律规范中有关公民个
8、人信息保护的规定,引发侵犯公民个人信息的安全风险。第二,非法收集企业数据会侵犯企业数据权益、企业商业秘密、公民个人信息,引发对计算机信息系统数据的非法获取。首先,ChatGPT 非法收集企业数据的行为,必然会侵犯企业数据权益。因为数据企业对合法收集的,包括个人数据在内的全部数据享有支配的权利,其属于独立于人格权、物权、债权、知识产权的新型财产权。其次,形成于企业经营、管理过程中的企业数据,除包括一般性的企业数据外,还可能包含商业秘密数据、公民个人数据。如果 ChatGPT 非法收集了企业数据中的商业秘密数据、公民个人数据,还会进一步损害他人商业秘密、侵犯公民个人信息。最后,ChatG-PT 对
9、企业数据的非法收集,如果是通过非法侵入他人计算机信息系统方式实现的,则会引发非法获99霍俊阁:ChatGPT 的数据安全风险及其合规管理参见任文岱:ChatGPT 热度不减:专家建议人工智能领域制定行业安全标准,载民主与法制时报2023 年 3 月 22 日,第 3 版。参见袁秀月:生成内容属于谁?会侵权泄密吗?ChatGPT 法律风险详解,载中国新闻网,http:/ 年 6 月 21 日访问。参见三十所信息中心:ChatGPT 等生成式人工智能的信息安全风险,载安全内参网,https:/ 年 6 月 22 日访问。参见周明阳:“ChatGPT 禁令”频发为哪般,载经济日报2023 年 3 月
10、 2 日,第 9 版。参见程啸:论大数据时代的个人数据权利,载中国社会科学2018 年第 3 期,第 102-122 页。取计算机信息系统数据的安全风险。第三,非法收集公共数据将侵犯国家秘密、商业秘密、个人信息,导致对计算机信息系统数据的非法获取。公共数据是各级行政机关及具有公共管理和服务职能的事业单位,在依法履行职责过程中获得的各类数据资源。公共数据范围的广泛性,使之不可避免地会包含涉及国家秘密、商业秘密和个人信息的数据。而当前大多数地区有关公共数据开放的规范性文件,均明确禁止开放涉及国家秘密、商业秘密、个人隐私的公共数据。若 ChatGPT 未经同意或者法定授权,非法收集了涉及国家秘密、商
11、业秘密、个人隐私的公共数据,会产生侵犯国家秘密、商业秘密、公民个人信息的安全风险。此外,在收集手段上,如果 ChatGPT 通过非法侵入他人计算机信息系统的方式收集公共数据,则会引发非法获取计算机信息系统数据的安全风险。(二)ChatGPT 在数据处理阶段的安全风险受技术漏洞、生成特性、内部窃取等因素的影响,ChatGPT 在依据算法处理数据的过程中,可能发生数据泄露和数据滥用的安全事件。例如,ChatGPT 曾经出现的技术漏洞已经使部分用户的信息被泄露。再如,用户可能会借助所提问题避开 ChatGPT 的过滤机制,进而获取其他用户输入 ChatG-PT 的数据。而 ChatGPT 对所处理数
12、据的泄露、滥用必然会带来安全风险,侵犯公民、企业的合法权益,甚至损害公共利益和国家安全。一方面,ChatGPT 对个人数据、企业数据的泄露和滥用,会侵犯公民个人信息、企业商业秘密,以及公民、企业的其他合法权益。时常出现的数据安全事件表明,现阶段人们尚无法完全杜绝人工智能对所处理数据的泄露和滥用。并且,在 ChatGPT 环境下,个人数据、企业数据的泄露与滥用风险将会进一步加剧。因为“用户在使用 ChatGPT 的过程中,可能会出于和机器人对话的游戏心态,主动向 ChatGPT 泄露一些个人信息以及隐私事项”,但 OpenAI 的使用条款并没有对用户可能输入ChatGPT 的机密信息提供任何保护
13、。一旦 ChatGPT 泄露和滥用了用户输入的个人数据、企业数据,既可能因违反相关法律规范而直接侵犯公民个人信息、企业商业秘密,也可能因相关数据被非法利用,而间接侵犯公民的其他人身权利、财产权利,损害企业的商业信誉、名誉、竞争优势和财产权利。另一方面,ChatGPT 对公共数据、个人数据、企业数据的泄露和滥用,会进一步损害公共利益、威胁国家安全。如果 ChatGPT 泄露和滥用了与社会管理、公共服务、国民经济发展、国家安全、关键信息基础设施等直接相关的公共数据,无疑会引发损害公共利益、国家安全的安全风险。如果 ChatG-PT 泄露和滥用了个人数据、企业数据,也会引发上述风险。因为大规模的数据
14、泄露及数据监听、窃取事件所引发的数据安全、隐私保护等问题,会严重影响社会安全和国家安全。而且,公民个人的基因信息、健康状况等隐私数据,及企业自身产生的经营、管理数据,常常会经由大数据的聚合分析而呈现出群体性、区域性、行业性特征,从而与社会政策、国家政策的制定密切关联。001 西南政法大学学报 2023 年第 4 期参见重庆市公共数据开放管理暂行办法第 3 条、浙江省公共数据开放与安全管理暂行办法第 2 条。唐嘉仪、李春凤、黄凌颖:新闻伦理视野下的 AIGC:冲击与反思,载南方传媒研究2023 年第 2 期,第 33 页。参见郝磊:ChatGPT 背景下隐私权的保护困境及其法律应对,载天津师范大
15、学学报(社会科学版)2023 年第 4 期,第 8-10页。参见刘振鹏、孙静薇、王烁、王文胜、尹文召、张彬:PDMP:k 个性化数据脱敏保护方法,载计算机应用研究2020 年第 10 期,第 3068-3070 页。(三)ChatGPT 在数据输出阶段的安全风险能够生成内容是 ChatGPT 等生成式人工智能区别于其他人工智能的显著技术特点。但是,这也会使 ChatGPT 在数据输出阶段,产生有别于传统人工智能数据安全风险的新风险。ChatGPT 在此阶段的数据安全风险,分布于输出违法信息与输出合法信息两种情形。在输出违法信息情形下,ChatGPT 的数据安全风险主要表现为以下几点。一是,由于
16、 ChatGPT 在生成答案时往往是通过词语和词语之间的关联关系生成文本,其并不能判别生成文本内容的真伪,以致于很可能会传播与事实不符的信息。如,ChatGPT 引发的有关杭州市 2023 年 3 月 1 号取消限行的假消息事件即是如此。所以,如果 ChatGPT 输出了针对特定主体的网络虚假信息,则可能造成侵犯公民、企业名誉的安全风险;如果 ChatGPT 向用户输出了针对不特定主体的网络虚假信息,则可能引发侵犯社会公共秩序的安全风险。二是,若 ChatGPT 输出的是煽动分裂国家、颠覆国家政权,煽动民族仇恨和民族歧视等危害国家安全的信息,则存在侵犯国家安全的风险。因为 ChatGPT 会受
17、到自己所学习的带有偏见性甚至歧视性内容的影响,进而生产出带有偏见和歧视的内容。三是,若 ChatGPT 输出的是包含欺诈、赌博、色情等危害社会公共秩序的其他信息,则会引发侵犯社会公共秩序的安全风险。在输出合法信息情形下,ChatGPT 也可能因违反信息保密义务或者没有取得授权而产生数据安全风险。在输出秘密类信息时,若 ChatGPT 输出的是依据法律规范规定或约定需要保密的,涉及个人隐私、商业秘密、国家秘密的信息,则可能产生侵犯公民个人信息、侵犯商业秘密及故意、过失泄露国家秘密的安全风险。在输出授权使用类信息时,如果 ChatGPT 未经授权输出了法律规定需授权才能使用的信息,则会产生侵犯他人
18、知识产权的安全风险。因为 ChatGPT 不会体现部分数据的正确来源,受版权保护的资料与数据在 ChatGPT 向用户提供回复时就容易造成侵权纠纷。如,全球最大的媒体集团之一新闻集团(News Corp.)旗下的道琼斯公司曾发布声明,对 OpenAI 在未经道琼斯授权情况下违规使用华尔街日报的行为进行了指责。因此,在输出合法信息情形下,Chat-GPT 也存在侵犯公民个人信息、商业秘密、知识产权,以及故意、过失泄露国家秘密等安全风险。二、ChatGPT 的数据安全风险应引入合规管理 当前,在应对数据安全风险时,数据合规已经成为一个重要选择。因为数据合规是为了预防在数据处理和管理过程中的各种风险
19、,在遵守相关法律法规的基础上,建立的专门针对数据保护的合规管理体系。要防范 ChatGPT 的数据安全风险,应当在 ChatGPT 的数据安全风险治理体系中引入合规管理方式,从企业角度建立 ChatGPT 的数据合规管理体系。而且,从企业角度开展的 ChatGPT101霍俊阁:ChatGPT 的数据安全风险及其合规管理参见沈威:ChatGPT:形成机理与问题应对,载中国社会科学报2023 年 3 月 7 日,第 7 版。参见王沛楠、史安斌:“持久危机”下的全球新闻传播新趋势 基于 2023 年六大热点议题的分析,载新闻记者2023 年第 1期,第 89-96 页。参见张夏恒:ChatGPT 的
20、逻辑解构、影响研判及政策建议,载新疆师范大学学报(哲学社会科学版)2023 年第 5 期,第 113-123 页。参见陈永伟:超越 ChatGPT:生成式 AI 的机遇、风险与挑战,载山东大学学报(哲学社会科学版)2023 年第 3 期,第 127-143页。参见王颖博:互联网平台企业的数据合规,载未来与发展2022 年第 11 期,第 70-77 页。的数据合规管理,是 ChatGPT 的研发、生产、运用企业在数据安全风险发生之前,以预防数据安全风险为内容的日常性管理。以这一事前的合规管理方式防范 ChatGPT 的数据安全风险,也是落实中共中央关于全面深化改革若干重大问题的决定所提出的,坚
21、持系统治理、依法治理、综合治理、源头治理的“四个治理”原则,创新 ChatGPT 数据安全风险治理方式的要求。(一)系统治理 ChatGPT 数据安全风险的要求“过去的综合治理和社会管理是政府系统各部门之间的协同,以及在政府主导下单位组织、社区的配合。现在的系统治理强调政府的主导作用,同时鼓励和支持社会各方面参与。”系统治理已经实现了由政府部门向包括政府部门、社会组织、公民等在内的更大范围的多元主体拓展。而要实现系统治理,除了做好主体权责划界、主体监督制约之外,还应做好主体协调配合的多元合作共治,要充分发挥社会各类组织的作用,引领和推动公民、家庭积极参与国家治理。换言之,多元主体的合作共治是系
22、统治理在社会治理层面的必然要求。那么,在 ChatGPT 数据安全风险的治理维度,系统治理就要求积极引入社会、企业等多方主体参与,形成政府领导下的多元主体合作共治格局。这就要求在 ChatGPT 的数据安全风险治理中引入合规管理机制。因为企业数据合规机制本质上是一种基于多元共治理念的数据治理模式,其具备实现多元主体合作共治的系统治理功能。一方面,国家与企业“共治”是企业合规的精髓所在,通过合规管理方式治理 ChatGPT 的数据安全风险,能够促使企业参与到自身数据安全风险的防控体系之中,形成企业与政府部门之间的合作共治。另一方面,与企业其他职能部门、政府机关、第三方机构进行对接,通过协作共同推
23、动企业数据合规体系的建设与完善,形成企业数据合规的“多元共治”格局,也是企业数据合规日常管理的重要工作内容。从日常管理角度来看,以合规管理方式防控 ChatGPT 的数据安全风险,能够积极推动第三方机构参与 ChatGPT 的研发、生产、运用企业的数据安全风险治理活动,实现企业、政府部门、第三方机构等多元主体的合作共治局面。因此,通过合规管理方式防控 ChatGPT 的数据安全风险,是实现 ChatGPT 数据安全风险系统治理的内在需求。(二)依法治理 ChatGPT 数据安全风险的要求在社会治理中,依法治理最深厚的推动力量在于人人懂法、人人尊法、人人守法、人人用法,其既要树立法律权威,也要提
24、升社会公众按照法律要求办事的行为习惯。具体到 ChatGPT 数据安全风险的依法治理,不仅要确立法律在 ChatGPT 研发、生产、运用中的权威性,而且要提升 ChatGPT 的研发、生产、运用企业及其员工按照数据相关法律规范行事的行为习惯。原本在逻辑上,既可以借助裁判规范功能,也可以凭借法律规范的行为规范功能,树立法律在201 西南政法大学学报 2023 年第 4 期陈瑞华教授指出,数据合规包括危机发生前的日常性合规体系与危机发生后的合规整改体系两种模式。参见蒋安杰:数据合规高端论坛在京举行,载法治日报2021 年 9 月 29 日,第 9 版。本文所言 ChatGPT 相关企业的数据合规,
25、指的是企业在危机发生前的日常性合规体系模式。王思斌:社会工作在创新社会治理体系中的地位和作用 一种基础服务型社会治理,载社会工作2014 年第 1 期,第 6页。参见侯衍社、刘大正:把制度优势转化为治理效能的重要保证,载红旗文稿2019 年第 24 期,第 14-16 页。参见孙跃:数字经济时代企业数据合规及其构建,载湖北社会科学2022 年第 8 期,第 119-128 页。参见孙国祥:涉案企业合规改革与刑法修正,载中国刑事法杂志2022 年第 3 期,第 50-67 页。参见孙跃:数字经济时代企业数据合规及其构建,载湖北社会科学2022 年第 8 期,第 119-128 页。参见侯衍社、刘
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- ChatGPT 数据 安全 风险 及其 合规 管理
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。