ChatGPT在犯罪中的潜在应用分析及执法应对策略初探.pdf
《ChatGPT在犯罪中的潜在应用分析及执法应对策略初探.pdf》由会员分享,可在线阅读,更多相关《ChatGPT在犯罪中的潜在应用分析及执法应对策略初探.pdf(9页珍藏版)》请在咨信网上搜索。
1、刑事技术前沿探讨2023 年 第 48 卷 第 4 期DOI:10.16467/j.1008-3650.2023.0025ChatGPT在犯罪中的潜在应用分析及执法应对策略初探孟庆振1,王少峰2,3,温玄林4,张炜琛4,周 红1,陈 松1,*(1.公安部鉴定中心,北京 100038;2.中国人民公安大学,北京 100038;3.北京市公安局,北京 100740;4.公安部科技信息化局,北京 100741)摘 要:ChatGPT甫一问世即引发广泛关注。本文以ChatGPT为例,简述了大语言模型的用途、技术特点和优势,并对当前面临的争议、伦理困境和信息安全风险进行了梳理分析。本文重点分析了大语言模
2、型在犯罪中的可能应用场景,从利用 ChatGPT 辅助犯罪技能获取、实施网络犯罪、网络钓鱼攻击、散布虚假信息等方面进行探讨。本文还对执法层面利用 ChatGPT 服务犯罪打击、犯罪预防、执法决策、执法能力建设等进行了探析。本文认为,执法部门应保持开放态度,密切关注以ChatGPT为代表的人工智能技术应用对犯罪的影响,加强研究跟进,从“积极”和“消极”两个方面做好应对,应用新技术助力执法、提升效能。关键词:ChatGPT;犯罪;网络犯罪;电信诈骗;执法;个人信息保护中图分类号:DF793.2 文献标识码:A 文章编号:1008-3650(2023)04-0331-09 Potential App
3、lication of ChatGPT in Crime and Preliminary Study on Law Enforcement Response StrategiesMENG Qingzhen1,WANG Shaofeng 2,3,WEN Xuanlin 4,ZHANG Weichen 4,ZHOU Hong 1,CHEN Song 1,*(1.Institute of Forensic Science,Ministry of Public Security,Beijing 100038,China;2.Peoples Public Security University of C
4、hina,Beijing 100038,China;3.Beijing Public Security Bureau,Beijing 100740,China;4.Science and Technology Information Department of the Ministry of Public Security,Beijing 100741,China)ABSTRACT:As soon as ChatGPT came out,it attracted widespread attention.This article takes ChatGPT as an example,brie
5、fl y describes the use,characteristics and advantages of large language models,and analyzes the current controversies,ethical dilemmas and information security risks.This paper focuses on the analysis of the possible applications of large language models in crimes,and discusses the use of ChatGPT to
6、 assist in the acquisition of criminal skills,the implementation of cybercrimes,phishing attacks,and the dissemination of false information.This paper also explores the use of ChatGPT at the law enforcement fields,including serving crime fighting,crime prevention,law enforcement decision-making,and
7、law enforcement capacity building.This paper believes that law enforcement agencies should keep an open attitude,pay close attention to the impact of the application of artificial intelligence technology on crime,represented by ChatGPT.Law enforcement agencies should strengthen research and deal wit
8、h ChatGPT from both aspects of“positive”and“negative”attitude,applying new technologies to help with law enforcement activities and improve effi ciency.KEY WORDS:ChatGPT;crime;cybercrime;telecom fraud;law enforcement;personal information protection 第一作者简介:孟庆振,男,山东邹城人,硕士,副高级警务技术任职资格,研究方向为刑事技术综合管理和国际化
9、。E-mail:*通信作者简介:陈松,男,安徽宿州人,学士,主任法医师,研究方向为法医遗传学、刑事技术国际化。E-mail: 网络首发时间:2023-04-27;网络首发地址:https:/doi.org/10.16467/j.1008-3650.2023.0025刑事技术Forensic Science and Technology3322023 年 第 48 卷 第 4 期ChatGPT 自 2022 年底问世以来,因其“智商高”、互动性强、应用场域广1-3,引起了公众的极大关注。科技进步造福人类社会,也塑造着人自身。科技是造福人类,还是对人类造成危害,取决于其如何被应用。ChatGPT
10、对各行业的可能影响引起热议,其对犯罪的影响同样引起专家学者的注意4。在 ChatGPT 之前,人工智能(artifi cial intelligence,AI)在犯罪中的应用及公安执法中的实践已有广泛报道。如 AI 在案件侦查5-6、犯罪预测预防7-8、监所安防9、安检10、现场勘查11-13等方面应用已有不少研究,在刑事科学技术鉴定中,AI 在法医14-16、指纹17、足迹18-19等方面的应用亦多有报道。同样,人工智能在深度伪造20、滥用个体生物信息21等方面的可能滥用及对犯罪的风险22,也已得到关注。当前,以 ChatGPT 为代表的大型语言模型(large language model
11、,LLM)应用异军突起,与以往 AI 应用相比,有其独特性。尽管 OpenAI 公司未在我国开展 ChatGPT 业务,但以大型语言模型技术为基础的应用可影响到我国,并且我国互联网企业也开始开发基于大型语言模型技术的应用系统,大型语言模型技术应当引起我国执法部门的关注。本文以ChatGPT 为例,梳理分析了 LLM 在犯罪中的可能应用,探讨我国执法部门如何有效借助类似应用服务执法、提升效率,并对执法部门应对大语言模型技术带来的安全风险和新挑战进行展望。1 ChatGPT及其特点ChatGPT,全称聊天生成预训练转换器(chat generative pre-trained transforme
12、r),是 OpenAI 开 发的人工智能聊天机器人程序,于 2022 年 11 月推出。ChatGPT 基于 GPT-3.5 架构的大型语言模型并以强化学习训练,呈现出交互式人工智能界面,能够通过解决后续问题、识别自己的错误、质疑不一致和拒绝某些请求来参与对话23,能够“理解自然的人类语言”,并为复杂的问题提供信息和解决方案。2023年 3 月,OpenAI 推出 GPT-4 版本24。该应用软件的核心是大型语言模型,该模型通过大量文本数据(如书籍、文章和网页)训练,允许 ChatGPT 理解语言的模式和结构,并生成与它所学的风格和语气相似的新文本。1.1 ChatGPT用途ChatGPT 用
13、途广泛,有编写和调试计算机程序的能力,能够创作音乐、电视剧、童话故事和学生论文;用于回答测试问题,并在某些测试情境下,水平高于普通人类测试者;写诗、写歌词;模拟 Linux 虚拟机等25。特别值得关注的是 GPT-4,除了像 ChatGPT 一样能够完成文本对话,还能够进行更复杂的图像理解任务。GPT-4 发布后,微软已宣布将其整合入 Offi ce 办公软件,并推出人工智能助理 Copilot。未来,用户通过自然语言描述需求,Copilot 即可完成相应功能,例如在 Word 中起草文章草稿,在 PowerPoint 中整合素材并制作美观的幻灯片,在 Excel 中完成数据分析与图表生成。C
14、opilot 的发布或将极大提高人类在知识创造方面的生产力26。1.2 ChatGPT技术特点ChatGPT 使用无监督预训练(unsupervised pre-training)技术,在预训练阶段,模型通过分析数据中的模式和关系来学习理解和生成自然语言,这个阶段的训练所用的语料是静态的,而在投入运行后将在与用户的交流和对话中强化学习,相当于 ChatGPT的上亿用户的每次使用都是对它的训练,促进其成长27。有研究分析称,ChatGPT 给出的答案论述条理清晰、井然有序,更难得的是符合大众日常语言习惯,势必会给各行业带来巨大冲击和挑战,同时也意味着新机遇的诞生26。ChatGPT 效果强大,主
15、要包括两个原因:一是训练语料的质量和多样性,这主要依托强大的数据收集、标注和运算能力。一般而言,AI 语料数据来源有互联网数据、企业数据、用户生成数据以及机器生成数据28。ChatGPT 的训练数据包括大规模文本数据和公共数据集,如维基百科、新闻文章、图书、论坛帖子等。此外,互联网语料数据搜集基于爬虫技术,通过对数据的抽取、标注、去重、去噪、关联、转换等清洗过程,将数据转换成结构化的标准数据使用29。二是基于人类反馈的强化学习(reinforcement learning from human feedback,RLHF),即利用人类的反馈优化目标模型,让模型输出更符合人类直觉的结果。RLHF
16、 更关注在动态环境中持续地进行学习和优化,能够处理大量的数据、通过反馈调整策略,并进行在线学习。其核心特点包括:需要人工标注数据,即需要人工给出每个数据点的正确答案,从而用于模型的训练和优化;适用性广泛,可用于各种不同类型的任务,包括图像分类、自然语言处理、机器翻译等;可提高模型性能,根据反馈逐渐优化性能,提高准确度和鲁棒性;依赖标注数据的质量,由于人工反馈增强学习需要依赖标注数据进行训练,因此标注数据的质量会直接影响模型的性能30。3332023 年 第 48 卷 第 4 期孟庆振,等:ChatGPT在犯罪中的潜在应用分析及执法应对策略初探1.3 ChatGPT优势作为聊天机器人,ChatG
17、PT 在经过大量数据训练后,可根据接收到的输入生成响应,且更自然、更多样化。专家分析称,ChatGPT 的优势包括:知识渊博,ChatGPT 可获得大量信息和知识,涉及广泛主题;反应灵敏,ChatGPT 可迅速回答问题并提供帮助;个性化,ChatGPT 可根据用户的输入给出个性化的答复;微调性,ChatGPT 的反应和整体性能可根据用户反馈进行快速微调纠正31。总体而言,“更为智能的交互”是 ChatGPT 显著特点和优势,也是其引起全球广泛关注的主因。特别是,由于 ChatGPT 具有代码理解和生成能力,因此极大地拓宽了其应用场景32。2 ChatGPT风险挑战ChatGPT 问世后用户量激
18、增,成为人类科技史上消费者增长速度最快的应用程序。ChatGPT 已成为 AI 发展历程中现象级事件。纽约时报称其为“有史以来向公众发布的最佳人工智能聊天机器人”33,赞扬者称其“可能会改变我们对工作方式、思考方式以及人类创造力的想法”34。与广阔应用前景引起的热议相对应的是,ChatGPT 同样引发广泛争议。有批评者将其比作“随机鹦鹉”35,称其对内容“一无所知”且“错误率高”,甚至是“一本正经的胡说八道”。特别是,其在数据安全、生成内容归属权、学术伦理等方面,存在着诸多争议。2.1 ChatGPT与数据信息安全ChatGPT 的效能依托于海量数据信息,对数据信息进行加工处理,最后生成以数据
19、信息为形式的答案。由此,其对数据信息进行收集、存储、加工、输出、利用的过程中,带来的安全问题至少包括两个层面:一是就数据信息本身而言,存在数据安全风险36。正如前文介绍,ChatGPT 使用的语料库部分通过爬虫技术获取互联网数据,但爬虫的爬取会导致核心数据泄漏、失窃29。而且,更多的用户使用 ChatGPT、更海量的信息涌入,可能导致服务的误用或滥用,甚至将部分内部数据和敏感数据输入到人工智能平台,成为其算法模型的语料,数据信息安全风险加大。何况,用户个人信息的泄露也存在侵犯隐私权问题。此外,用户使用 ChatGPT 完成任务时,服务提供方同样可以捕捉用户输入文本间的内在联系,并将计算结果综合
20、起来“还原”出用户的意图,且可在开源环境下通过用户的行为数据,实现对用户的精准画像,使得用户反而成为竞争对手监视的目标,造成重要情报泄密37,尤其是在政府、商业和情报竞争方面使用 ChatGPT 存在较大泄密风险。二是就数据信息表达的内容而言,存在内容的误导和误用。ChatGPT 会根据不同语言的数据源进行自我训练,显示出一定的语言和文化差异。已有测试显示,ChatGPT 对同一个问题可能给出不同甚至相反的回答,特别是涉及政治、文化、历史、地理等方面的问题。同一个问题,按中英文输入后的显示存在差别乃至相反,对于使用者可能产生误导。更有甚者,或可专门“喂料”,专门强化其对某些问题的倾向性,使其成
21、为对外输出虚假信息的工具36。2023 年 3 月,意大利个人数据保护局发布信息称,ChatGPT 不重视用户资料,且无法核实用户年龄,该机构已封锁 ChatGPT,限制 OpenAI 处理意大利用户信息数据,同时对其隐私安全问题立案调查38。欧洲部分国家对此关注,法国、德国、爱尔兰等或效仿意大利的做法,加强对 ChatGPT 的监管39。2.2 ChatGPT与生成内容的知识产权争议学术界关于人工智能生成的文章是否属于著作权法中界定的“作品”存在争论,而 ChatGPT类大语言模型或使该问题更严峻。一般认为,人工智能是算法、规则和模板运用下的产物,不能体现创作者独特的个性,也不是创作者的精神
22、活动,不能算作法定“作品”40。但同时也应承认,人工智能“生产”的内容,是人类干预的结果,也反映了人类意志,具有“可版权性”。如前述,ChatGPT 依托于数据输入、训练优化,处理的海量信息中难免涉及数字化作品,如未能得到著作权人的授权,可能面临侵犯版权风险。2023 年 4 月,国家互联网信息办公室起草了生成式人工智能服务管理办法(征求意见稿),已明确要求“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”,包括“不含有侵犯知识产权的内容”,“数据包含个人信息的,应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形”41。2.3 ChatGPT与学术伦理争议C
23、hatGPT 强大的文本生成能力,使其在学术论文撰写、完成学生作业方面具有显著优势,易为科研人员、学生广泛使用,引起抄袭、学术剽窃等问题。2023 年 2 月,香港大学即声明,禁止在大学的任何课程、作业和评估中使用 ChatGPT 或其他人工智能工具,否则将被大学视为“剽窃”42。美国语言学家诺姆 乔姆斯基(Noam Chomsky)认为,刑事技术Forensic Science and Technology3342023 年 第 48 卷 第 4 期ChatGPT 从海量数据中发现规律,并依照规则将数据串连在一起,形成像人写的文章和内容,这本质上是一个高科技剽窃系统43。乔姆斯基强调,AI
24、和人类在思考方式、学习语言与生成解释的能力及道德思考方面差异极大。如 ChatGPT 式的机器学习程序继续主导人工智能领域,那么人类科学水平以及道德标准都可能降低43。系统本身是非道德性的,因此,ChatGPT 及类似应用,本质上也无法在自身生成内容的能力与相关社会法律、文化、伦理的约束之间进行平衡。结果是,ChatGPT 可能同时生成真相和谎言、同时支持道德和不道德,或者不对相关问题进行倾向性表态。3 ChatGPT在犯罪中的可能应用场景分析当前,新型犯罪形态呈现智能化、网络化、集团化、隐蔽性等特点44。犯罪分子往往对新技术较为敏感,利用新技术尚未普及时的监管漏洞从事违法行为。ChatGPT
25、 问世后仅几周就发现了其被用于犯罪的案例。近期,欧洲警察署创新实验室发布研究报告ChatGPT大语言模型对执法的影响(ChatGPT:The Impact of Large Language Models on Law Enforcement)45,探讨犯罪分子如何滥用ChatGPT,以及如何应用该工具协助调查。本节对ChatGPT 在犯罪中可能应用的场景及产生的影响进行了探析。3.1 ChatGPT用于“升级犯罪技术”ChatGPT 能够快速提供可应用于大量不同上下文的现成答案。虽然设计中考虑了负面应用的屏蔽,即“不对有害输入请求进行回应”,但用户很容易找到绕过内容过滤系统的方法,获取犯罪“
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- ChatGPT 犯罪 中的 潜在 应用 分析 执法 应对 策略 初探
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。