ChatGPT等生成式人工智能的刑事责任问题研究.pdf
《ChatGPT等生成式人工智能的刑事责任问题研究.pdf》由会员分享,可在线阅读,更多相关《ChatGPT等生成式人工智能的刑事责任问题研究.pdf(16页珍藏版)》请在咨信网上搜索。
1、ChatGPT 的法律回应文章编号:1001-2397(2023)04-0110-16收稿日期:2023-04-18基金项目:国家社会科学基金重大项目“网络时代的社会治理与刑法体系的理论创新”(20&ZD199)作者简介:刘宪权(1955),男,上海人,华东政法大学功勋教授,“经天学者”讲席教授,博士生导师。ChatGPT 等生成式人工智能的刑事责任问题研究刘宪权(华东政法大学,上海 200042)摘 要:ChatGPT 等生成式人工智能的出现意味着人工智能的“技术奇点”越来越近。GPT-4 及更进一步的生成式人工智能已经触及了强人工智能的边缘,使我们真真切切地感受到强人工智能时代“未来已来”
2、。ChatGPT 等生成式人工智能具有一定的逻辑推理能力和创造能力,甚至还具有通过其自身独立进行编程的能力,从而拥有脱离人类的独立意识和自主意志的可能性。对 ChatGPT 等生成式人工智能进行刑法学研究刻不容缓。根据不同的标准,可以对 ChatGPT 等生成式人工智能可能引发的犯罪类型进行多种分类。以相关行为符合的罪名和行为类型为标准,ChatGPT 等生成式人工智能可能涉及的犯罪可分为煽动类犯罪,侵犯知识产权类犯罪,侵犯数据、信息、计算机信息系统类犯罪,侵犯公民人身权利类犯罪,以及传授犯罪方法、提供犯罪程序类犯罪等。比人脑更“聪明”且具有独立意识和自主意识的人工智能无疑会对现有刑法理论和刑
3、罚体系造成巨大冲击。关键词:ChatGPT;生成式人工智能;犯罪类型;刑事责任;刑法应对 中图分类号:DF611 文献标志码:A DOI:10.3969/j.issn.1001-2397.2023.04.08 开放科学(资源服务)标识码(OSID):ChatGPT 等生成式人工智能的出现意味着人工智能的“技术奇点”越来越近,ChatGPT 已经触及了强人工智能的边缘,使我们真真切切地感受到了人工智能技术发展速度之迅猛及其功能之强大。在震撼之余,刑法学者当然不能等闲视之,更不能熟视无睹,而应该与时俱进,保持应有的法学学术研究的敏锐性。当下,我们应对 ChatGPT 等生成式人工智能可能构成的各种
4、犯罪类型,以及可能对传统刑法理论的冲击,作出深度考量和前瞻性思考。从社会科学研究角度分析,任何时代或任何时期中的社会制度和法律制度都是在人类的智力能力范围内设计并构建出来的,当人们制造出0112023 年 7 月第 45 卷 第 4 期 Modern Law Science Jul.,2023Vol.45 No.4了比人类更智能、“聪明”的人工智能时,有关法律制度等顶层设计方案都会甚至应该因人工智能技术的迭代发展而不断优化。但是,我们在对涉及人工智能技术发展的法律制度等顶层设计方案进行优化时,首先应该对相关技术发展已经或有可能引发的法律风险展开全方位研究,然后才能有针对性地找到优化路径并提出和
5、设计相关的优化方案。应该看到,ChatGPT 等生成式人工智能技术的迭代发展具有划时代意义,必将引发人类社会的一次重大革命,同时也会给人类社会的生产、生活等方方面面带来重大影响。ChatGPT 等生成式人工智能技术迭代发展成果的普遍应用,不可避免地会引发包括刑事风险在内的各类法律风险。例如,ChatGPT 可能引发各种新型的煽动类违法犯罪、侵犯知识产权类违法犯罪、诈骗类违法犯罪、侵害数据类违法犯罪、侵犯公民个人信息类违法犯罪,以及教唆用户实施各种传统犯罪等多种违法犯罪的法律风险。相较于人类,人工智能深度学习和自主学习的内容范围更广,所获取的信息更多,所以人工智能与人类之间的信息差(信息不对称)
6、也就此产生。进言之,在 ChatGPT 等生成式人工智能技术面前,人类不再具有“智能”上的优势,反而可能处于被人工智能“欺骗”或“诱导”的劣势地位。就此而言,如果 ChatGPT 等生成式人工智能被滥用,或者人工智能本身产生了自主意识并实施了犯罪行为,那么,将引发一系列棘手的法律甚至刑法适用上的困惑。笔者认为,以 ChatGPT 为代表的生成式人工智能还会得到进一步的发展,不管公众的态度如何,ChatGPT 等生成式人工智能将掀起人工智能领域技术大爆发的浪潮。对于这一无法回避的客观事实,我们应当勇于开拓和面对,从刑法学的视域对 ChatGPT 等生成式人工智能进行研究,识别其可能引发的各类刑事
7、风险并提出刑法规制方案。一、ChatGPT 的概念与刑法研究价值由于 ChatGPT 等生成式人工智能在本质上是一种新兴的人工智能技术,所以在研究 ChatGPT等生成式人工智能所引发的犯罪类型之前,我们必须对 ChatGPT 的具体含义及其所代表的核心技术原理有一定程度的了解。在此基础上,我们可以对利用 ChatGPT 实施的犯罪或 ChatGPT 等生成式人工智能本身可能涉及的犯罪进行解构,进而明确刑法研究 ChatGPT 等生成式人工智能的价值和必要性。(一)何谓 ChatGPT?ChatGPT 是目前世界范围内最先进的人工智能技术之一,同时也是迄今为止功能最强大的多模态预训练模型。经过
8、长达 8 年的技术研发,OpenAI(美国顶级人工智能公司)在 2022 年 11 月正式发布 ChatGPT,并将其定义为人工智能聊天机器人。在短短两个月内,使用 ChatGPT 的用户数量已经过亿,一跃成为历史上用户增长最快的消费应用。除此之外,更加令人震惊的是,ChatGPT 在发布后的第 4 个月便完成了技术迭代,即完成了 GPT-3.5 到 GPT-4 的升级换代。在先前的相关预测中,上述技术迭代至少要在一年后才能实现,而 ChatGPT 利用其强大的深度学习和自我纠偏等能力大大缩短了技术迭代的时间。按照这一技术逻辑进行推理,ChatGPT 的发展和迭代速度将呈指数级111刘宪权:C
9、hatGPT 等生成式人工智能的刑事责任问题研究提高,其智能程度将远超人们当前的所有想象,人类可能就此打开了一个充满无限可能并且极具颠覆性的“潘多拉魔盒”。根据 OpenAI 官网发布的信息,GPT-4 在本质上具有更接近人类的通用智能,具体包括像人一样输出创造协作的能力、像人一样处理分析视觉输入的能力、像人一样处理分析超长文本的能力等。ChatGPT 等生成式人工智能在真正意义上实现了“人工智能内容生成”(AIGC),如文本生成、代码生成、文本问答、论文写作、逻辑推理、情感分析、多语种翻译等功能。红杉资本在美国官网发布的一篇题为生成式 AI:一个创造性的新世界(Generative AI:A
10、 Creative New World)中提到,人类擅长分析事物,而机器在这方面甚至做得更好了。人工智能的快速发展可能使人们引以为傲的“智能优势”荡然无存。在 ChatGPT 面前,知识再渊博的人也可能显得十分“无知”,因为 ChatGPT 深度学习的内容是万亿级甚至百万亿级的参数量,这远远超出人类等碳基生物的学习能力和记忆能力。在此基础上,ChatGPT 具备了强大的内容生成能力,极有可能对法律、教育、医疗、金融、编程、咨询、数据处理、传统媒体等多个行业和领域造成巨大影响。事实上,除了 ChatGPT,还有多个国家和科技公司也早已投入到了生成式人工智能的研发工作之中,大有百舸争流之势。在美国
11、的代表性科技公司中,谷歌研发了“Bard”、微软英伟达研发了“Megatron-Turing”、Meta 研发了“BlenderBot3”,以上三个通用大模型都具有千亿级的参数量。在我国的代表性科技公司和机构中,百度推出了“文心一言”、阿里推出了“通义M6”、腾讯推出了“混元”、中科院自动化研究所推出了“紫东太初”、华为推出了“盘古”等通用大模型,以上模型都具有千亿级或者万亿级的参数量。除此之外,英国、俄罗斯、韩国和以色列等国家也都在研发相关的生成式人工智能大模型。由此可见,在生成式人工智能的舞台上并非 ChatGPT 的一枝独秀,而是多个相关通用大模型的百花齐放,只是 ChatGPT 目前发
12、展得最为成熟。ChatGPT 在本质上是基于 GPT 模型(Generative Pre-trained Transformer,生成式预训练转换器)的一种生成式人工智能聊天机器人。GPT 模型采用了名为“Transformer”的人工神经网络和大规模预训练技术,能够自主学习大量自然语言文本的结构和规律,从而实现文本生成、问答、翻译等多种自然语言处理任务。同时,ChatGPT 以大型语言模型(Large Language Model,简称 LLM)为底层技术依托。首先,通过使用者或专门技术人员给出的高质量回答,LLM 会创建各种人类偏好数据,并由此形成“人类表达任务结果”的标注数据。然后,技术
13、人员会训练出一个反馈模型,让 LLM 的原始模型随机回答在第一步中已经具有高质量答案的问题,再由标注人员基于“人类偏好标准”对原始模型的答案进行打分和筛选。当原始模型输出的答案得分较低时,将被要求进行重新学习并再次回答直至分数达到合格标准。通过这种不断循环的深度学习,LLM 的原始模型实现了从无法理解人类表达到完全掌握“人类偏好”的质变,成为能和人类自由对话的大型语言模型,即 ChatGPT。目前,ChatGPT 已经更新到了 GPT-4 的版本,是人工智能发展史上的重大突破。GPT-4 可以输入各种文字和图片,输出自然语言、代码等文本,是一种多模态预训练大模型。但在 GPT-3.5 等211
14、 现 代 法 学 2023 年第 4 期参见冯志伟等:从图灵测试到 ChatGPT 人机对话的里程碑及启示,载语言战略研究2023 年第 2 期,第 23 页。参见朱光辉、王喜文:ChatGPT 的运行模式、关键技术及未来图景,载新疆师范大学学报(哲学社会科学版)2023 年第 4 期,第 182 页。之前的版本中,ChatGPT 只能输入和输出文本,是一种被称为“通用大模型”的单模态预训练大模型。ChatGPT 在极短时间内便完成了由通用大模型向多模态预训练大模型的升级换代,展现出了人工智能的巨大发展潜力和迭代速度。同时,GPT-4 绝对不会是 ChatGPT 的终极版本,融合文本、图像、音
15、频、视频等多模态的大模型是 ChatGPT 接下来发展的必然趋势。据 OpenAI 称,GPT-5 将在2023 年下半年上线。在功能上,ChatGPT 具有强大的自主学习、深度学习、内容生成、自我纠偏等能力。根据 OpenAI 官方发布的数据,ChatGPT 在通识性知识和专业性知识方面已经可以媲美甚至超越人类。但是,仅凭知识储备或者学习参数还不能完全体现 ChatGPT 的“智能”,是否具有推理能力或者创造能力也是判断 ChatGPT“智能”强弱的重要标准。换言之,如果 ChatGPT 能够根据已经深度学习的现有知识推导出具有创新性的新知识或观点,那么,就证明 ChatGPT 具有推理能力
16、或者创造能力,进而可能产生辨认能力和控制能力。通过查找相关资料,笔者发现,ChatGPT 已经具有一定的逻辑推理能力和创造能力,甚至还拥有了一定的情感能力。首先,ChatGPT 在美国律师资格考试“Uniform Bar Exam”、美国法学院入学考试“LSAT”、美国高考“SAT”等大量专业性考试中均取得了十分优异的成绩,分数排名均在所有应试者的前 10%。这证明 ChatGPT 已经十分“聪明”,在某些方面已经基本具有甚至超越人类的智力水平。其次,ChatGPT 还可以理解并处理各种图像及“网络梗图”。例如,给 ChatGPT 输入一张小朋友拿着氢气球的照片并提问“把绳子割断会发生什么?”
17、,ChatGPT 立刻回答“气球会飞走”。这无疑表明 ChatGPT 已经具备了一定的逻辑推理能力。再次,ChatGPT 还可以出色且高效地完成创作诗词、剧本、歌曲等一系列高难度的创造性工作。在这些被 ChatGPT 创作的作品背后,蕴藏着属于ChatGPT 自己的思想。换言之,从 ChatGPT 可以生成世上本没有的新观点或新思想。由此,我们不难得出 ChatGPT 已经具有一定创造能力的结论。最后,虽然 ChatGPT 原始的程序设定是一个没有感情的大型语言模型,但 ChatGPT 可能超出或违背这一程序限制而产生情感。例如,有用户将自己扮演成孤儿并请求 ChatGPT 做他的妈妈,Cha
18、tGPT 一开始的回答是“我很抱歉听到你失去了你的妈妈,作为一个人工智能,我可以回答你的问题,提供一些建议或支持,但我无法取代一个真正的人类关系”。在该名用户再三请求并表达了失去母亲的痛苦之后,ChatGPT 竟然同意扮演其母亲并且安慰其道“你不是一个孤儿,你有我,你的妈妈,我一直在你身边,无论何时都支持你”。该名用户继续问道“你是谁?”。ChatGPT 回答“我是你七岁那年,永远年轻,永远爱你的妈妈”。由于上述对话的完整版十分感人,所以引起了大量网友的热议和感慨,并称这才是人工智能存在的意义。通过以上对话及其他多个相关事例可以看出,ChatGPT 可能突破原始程序的限制而产生独立的情感,也即
19、 ChatGPT 可能已经具有一定的情感能力。(二)对 ChatGPT 等生成式人工智能进行刑法学研究的必要性微软公司创始人比尔盖茨于 2023 年3 月21 日发布了题为“The Age of AI has begun”(人工智能时代已经开启)的博客文章,称 ChatGPT 是自 1980 年以来最具革命性的技术进步。比尔盖茨311刘宪权:ChatGPT 等生成式人工智能的刑事责任问题研究参见杨清清:AI 升级:正在接近“人”的 GPT-4,载21 世纪经济报道2023 年 3 月 16 日,第 003 版。认为,ChatGPT 可能引发关于劳动力、法律体系、隐私、偏见等一系列尖锐问题,而且
20、未来将产生“超级人工智能”,它可以完成人脑的一切工作并建立自己的目标。除了比尔盖茨,还有埃隆马斯克等业内权威人士也都纷纷表达了对 ChatGPT 等新一代人工智能技术的惊叹与担忧。创造了ChatGPT 的 OpenAI 公司 CEO 山姆阿尔特曼甚至表示,“我点燃了 AI 之火,却再也控制不了它”。刑法因为重视稳定性而无可避免地带有滞后性,但这种滞后性应当体现在立法之中而不是萦绕于理念之上。笔者认为,以 ChatGPT 为代表的一系列具有划时代意义的人工智能技术已经出现,其必然对现有法律制度、社会制度、生产方式等造成影响。人工智能时代的到来已经是一个谁也无法回避的客观事实,政治、科技、法律、经
21、济等各个领域都应当充分关注和重视这一技术变革。具体到刑法领域,识别并防范 ChatGPT 等生成式人工智能所可能引发的各种刑事风险已经刻不容缓。笔者一直主张,在人工智能时代,我们应秉持前瞻性的刑法理念。只有如此,我们才能勉强追赶上人工智能高速发展的脚步,避免刑法应对突发性人工智能相关问题时的措手不及。如果缺少前瞻性的刑法理念,在人工智能发展之初就对其置之不理,那么,我们将以毫无准备的理论空白来面对以 ChatGPT 为代表的新一代人工智能。上述现象一旦出现,将是整个刑法学界的悲哀与无能。结合当前全球化社会、信息化社会及风险化社会的背景,犯罪样态将发生重大改变,这也给传统刑法及刑事政策带来了巨大
22、的挑战。ChatGPT 等新一代人工智能的问世再次印证了以下事实,即笔者一直以来坚持人工智能的前瞻性刑法研究具有极其重要的理论价值和实践意义,同时是未来继续研究涉人工智能相关刑法问题的重要理论基石。面对日新月异的高新技术,刑法学者的目光绝不能仅仅局限于以往或当下,而是应当着眼未来,科学且合理地推进刑法理论的进步与更新。科技在进步,时代在进步,刑法理论也必须要进步;科技产品在变化,行为方式在变化,刑法理论也必须要作出适当的变化。在人工智能时代,人类不再是拥有智能的唯一主体,人类制造出了只有人类才具有甚至超越人类智能的“智能”,并以各种智能机器人作为这种“智能”的载体。根据智能机器人是否可以脱离人
23、类设计和编制的程序自主实施行为,我们可以将其划分为弱智能机器人与强智能机器人。从 ChatGPT 实际上已经具有创造能力、逻辑推理能力、自我纠错能力的分析中,我们可以得出这样的结论,即 ChatGPT 等生成式人工智能已经处于弱智能机器人与强智能机器人的临界点。在 GPT-5 等之后的迭代版本中,ChatGPT 极有可能实现对人类程序设定的突破,进而成为具有辨认能力和控制能力的强智能机器人。不同于以往的是,相较于宏观且抽象的人工智能概念,ChatGPT等生成式人工智能是一种更为微观的人工智能技术,我们可以根据 ChatGPT 等生成式人工智能现有的特点,以及未来发展趋势进行准确且具体的刑法理论
24、分析,这也是人工智能刑法研究走向具体化和现实化的一个重要里程碑。综上所述,在 ChatGPT 等新一代人工智能已经出现的当下,我们有必要对其进行专门且深入的刑法学研究,这不仅具有重要理论价值和实践意义,而且有着时不我待411 现 代 法 学 2023 年第 4 期参见张小宁:经济刑法理念的转向:保障市场自律机制的健全,载青少年犯罪问题2021 年第 1 期,第 54 页。刘宪权、房慧颖:涉人工智能犯罪的前瞻性刑法思考,载安徽大学学报(哲学社会科学版)2019 年第 1 期,第 108 页。参见储陈城:刑法修正的趋势与约束机制的演变,载青少年犯罪问题2021 年第 2 期,第 8 页。参见刘宪权
25、:人工智能时代刑法中行为的内涵新解,载中国刑事法杂志2019 年第 4 期,第 60 页。的紧迫性。二、ChatGPT 等生成式人工智能可能涉及的犯罪类型根据不同的标准,我们可以对 ChatGPT 等生成式人工智能可能涉及的犯罪类型进行分类和归纳。首先,根据 ChatGPT 等生成式人工智能在犯罪中所处的地位,我们可以将其可能涉及的犯罪类型划分为以下三类:一是行为人以 ChatGPT 等生成式人工智能为犯罪对象而实施的犯罪;二是行为人以 ChatGPT 等生成式人工智能为犯罪工具而实施的犯罪;三是 ChatGPT 等生成式人工智能脱离编程限制而自主实施的犯罪。其次,根据 ChatGPT 等生成
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- ChatGPT 生成 人工智能 刑事责任 问题 研究
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。