自动化侦查决策:实践态势、风险及进路.pdf
《自动化侦查决策:实践态势、风险及进路.pdf》由会员分享,可在线阅读,更多相关《自动化侦查决策:实践态势、风险及进路.pdf(8页珍藏版)》请在咨信网上搜索。
1、收稿日期:2023-03-02摇 摇 摇 摇 摇 摇 修回日期:2023-04-03基金项目:江苏省社会科学基金项目“数据侦查中个人信息权保护研究冶(编号:20FXB002)。作者简介:何摇 军,男,1972 年生,博士,副教授,硕士生导师,研究方向:犯罪情报、数据侦查。自动化侦查决策:实践态势、风险及进路*何摇 军(江苏警官学院摇 南京摇 210031)摘摇 要:研究目的自动化决策正日益成为侦查决策新范式。相比民商事领域、行政领域的自动化决策,自动化侦查决策会直接涉及人的生命、自由等基本权利,权力和权利的冲突会更为激烈。研究自动化侦查决策,有助于规制侦查决策、保障个人权利、促进侦查技术和法治
2、的协同演进。研究方法通过实证研究法、规范分析法、文献分析法阐释自动化侦查决策的实践态势及其风险,并提出解决思路。研究结论应当辩证地看待自动化决策,发挥自动化决策的优势,认识到自动化决策是侦查的未来。应对和化解自动化决策风险需要构建数据质量和算法评估机制,构建以人为本、人机协同的侦查决策机制,构建与自动化决策相适应的权利体系,建立适度透明制度及审计、救济、责任制度。关键词:侦查;侦查情报;侦查决策;自动化决策;决策风险中图分类号:D918摇 摇 摇 摇 摇 摇 摇 摇 文献标识码:A摇 摇 摇 摇 摇 摇 摇 文章编号:1002-1965(2023)09-0044-07引用格式:何摇 军.自动化
3、侦查决策:实践态势、风险及进路J.情报杂志,2023,42(9):44-50,56.DOI:10.3969/j.issn.1002-1965.2023.09.008Automated Decision-Making in Investigation:Practice Situation,Risks and ApproachesHe Jun(Jiangsu Police Institute,Nanjing摇 210031)Abstract:Research purpose Automated decision-making is gradually becoming a new paradigm
4、 for investigative decision-making.Compared with automated decision-making in the civil,commercial and administrative fields,automated investigative decision-makingwill directly involve basic rights such as human life and freedom,and the conflict between power and rights will be more intense.Researc
5、hon automated investigative decision-making will help regulate investigative decision-making and safeguard the co-evolution of individualrights,investigative technologies,and the rule of law.Research method Through empirical research,normative analysis,and literatureanalysis,the practice situation a
6、nd risks of automated investigation decision-making are explained,and solutions are proposed.Researchconclusion Automated decision-making should be viewed dialectically,the advantages of automated decision-making should be broughtinto play,and automated decision-making should be recognized as the fu
7、ture of investigation.To deal with and resolve the risks of auto鄄mated decision-making,it is necessary to build data quality and algorithm evaluation mechanisms,build a people-oriented,human-ma鄄chine collaborative investigation and decision-making mechanism,build a rights system that is compatible w
8、ith automated decision-mak鄄ing,and establish a moderately transparent system and audit,relief,and accountability systems.Key words:investigation;investigative intelligence;investigative decision-making;automated decision-making;decision risk0摇 引摇 言随着大数据技术、人工智能的发展,算法正在以不同的强度取代人类的判断1,“我们正在进入一个新时代,大部分执
9、法过程可能会实现自动化几乎没有人类的监督或干预冶2。大数据时代,侦查决策正在从人力情报、人工决策向数据情报、自动化决策转变。如自动化数据收集、自动化数据比对、自动化数据画像、自动化识别犯罪嫌疑人等等。当前,自动化决策嵌入侦查过程的广度和深度都在急剧增加,正在从局部的、某些环节进入到侦查工作的核心地带,弥散到侦查的方方面面并有向系统化进展的趋向,个别性、分散性、经验性的人工决策方式正在越来越多的被自动化的、系统化算法决策所取代。可以说,自动化决策的嵌第 42 卷摇 第 9 期2023 年 9 月摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇情摇 报摇 杂摇 志JOURNAL OF INTEL
10、LIGENCE摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇Vol.42摇 No.9Sep.摇 2023入正在改变侦查决策的呈现形态与运行逻辑,一种以算法自动化决策为主的侦查决策新范式正在形成。然而,侦查中的自动化决策所产生的效应是双刃的:一方面,自动化决策赋能侦查,化解“数据冗余、知识匮乏冶的侦查困境,提高了侦查效率,解放了警力,提升侦查机关应对犯罪的能力;另一方面,算法自动化决策既可能存在事实真相的风险,也驱动了侦查权力的扩张,打破了原先法律规制的侦查权和公民权利平衡的结构,侦查人员困在算法中,公民权利被算法算计。不论是我国的立法还是学界研究,对侦查中的自动化决策都缺乏关注。从立法上看
11、,我国个人信息保护法虽已对自动化决策做出了明确规定,然而刑事诉讼法公安机关办理刑事案件程序规定人民检察院刑事诉讼规则等法律法规对侦查程序中的自动化决策均没有做出相应的规定。从学界的研究看,我国学者对自动化商业决策、自动化行政决策做出了卓有成效的探讨,但对自动化侦查决策鲜见展开研究,对自动化侦查决策对正当程序、对公民权利的影响也缺乏反思。相比民商事领域、行政领域的自动化决策,自动化侦查决策会直接涉及人的生命、自由等基本权利(如错误的抓捕、拦截和监控),权力和权利的冲突会更为强烈。因此,就侦查来说,我们一方面要研究如何应用自动化决策,以提升打击犯罪的效能;另一方面要研究如何规制侦查中自动化决策,以
12、保障个人权利。本文拟从侦查中自动化决策的实践态势出发,分析自动化决策在侦查程序中的风险,然后论证如何应对风险,以规制自动化决策。本课题的研究将有助于侦查技术和法治的协同演进。1摇 自动化侦查决策的实践态势侦查决策是基于侦查情报导向侦查行动的决断。侦查过程是由一系列决策推动的,可以说侦查过程就是决策过程。自动化侦查决策是通过计算机程序自动获取、分析数据,对犯罪信息做出决断进而导向侦查行动的过程。摇 1.1摇 自动化侦查决策的实践样态自动化侦查决策过程和所有的算法决策一样,由三个部分组成,即输入层、算法层和输出层。输入层即数据的收集和清洗以及将其作为算法处理的对象输入计算机的过程;算法层是对数据进
13、行加工处理的过程;输出层是算法加工处理的结果或展示或应用的过程。在自动化侦查决策过程中,数据是决策的基础和燃料,算法是决策的引擎和灵魂。实践中,自动化侦查决策的样态可以从不同的视角来看:a.从技术机理来看,自动化侦查决策有两种基本样态,即基于人工编码的自动化决策和基于机器学习的自动化决策。基于人工编码的自动化决策的算法规则是人类专家预先编写程序规则,输入数据后根据预先明确的算法规则输出决策。其算法规则运用了人类专门知识、经验,因此,又被称为专家系统。如指纹比对、DNA 比对就是基于人工编码的自动化决策。基于机器学习的自动化决策是通过从历史数据中学习而自下向上自动构建驱动系统的规则。其过程是预先
14、构建初始化模型、输入训练数据、算法自我训练、输入验证数据、验证算法结果、生成算法规则。人类只是设计机器学习的过程,而不是直接给定规则3。机器学习又可以分为无监督学习、监督学习和强化学习模式。对于侦查来说,“无监督学习侧重于从数据中发现关联性,它要解决的是涉案数据的聚类问题;而监督学习是根据所输入的数据判断其发展趋势,它针对的是犯罪轨迹的机器预测问题;强化学习则是依据给定数据来提供动作建议,它关注的是侦查活动的机器决策问题冶4。实践中,自动化侦查决策更多是两种决策形态的混合。b.从决策的时间特征来看,自动化侦查决策可以分为回溯性决策、监控性决策、预测性决策。自动化嵌入侦查改变了侦查决策权行使范围
15、,不仅指向回溯性,还指向了监控和预测。回溯性决策是指对已发生的犯罪事实发现和识别的决策功能体系,如自动化指纹数据比对、DNA 比对,目的在于发现犯罪现场痕迹物证是否为犯罪嫌疑人所留。监控型决策是基于数据模型监控而做出实时决策。预测性决策是对尚未发生的犯罪事实做出预测决策。c.从决策的影响程度来看,自动化侦查决策可以分为战略决策与战术决策。战略决策是对侦查活动中的全局性问题做出的决策。战术性决策则是针对刑事案件中具体问题的决策,其目的在于解决侦查中的具体任务。如犯罪形势预测就是战略决策,而预测犯罪活动、预测潜在犯罪人、预测犯罪人身份、预测犯罪被害人则是战术决策。摇 1.2摇 自动化侦查决策的特点
16、1.2.1摇相关关系、量化统计决策取代了因果、主观经验定性的决策从传统的人工决策到自动化决策,决策的逻辑发生了根本变化。传统的人工决策是基于主观经验的、由果溯因的定性决策。大数据时代,犯罪的存在表现为数据存在,犯罪的因果关系弥散于海量数据之中,自动化决策是基于数据的量化统计决策,是基于数据的相关关系来做出决断。1.2.2摇 自动化决策的自动性和自主性专家系统和机器学习都具有自动性,即不需要人54摇 第 9 期摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 何摇 军:自动化侦查决策:实践态势、风险及进路工干预会自动运行。但在自主性上,两者差异巨大。专家系统几乎没有自主性,其运行规则受人类的控制,
17、实质是利用计算机替代自然人实现唯手熟尔的重复性基础工作和流程性工作5。机器学习自主性(Autono鄄my)强,是由计算机直接从事物原始特征出发,自动学习和生成高级的认知结果6,没有人为干涉。因此,有学者称专家系统为半自动系统,而将机器学习算法决策称为自治系统7。实践中的自动化侦查决策多是混合型,是专家系统和机器学习决策的混合。摇 1.3摇 自动化侦查决策的发展趋势1.3.1摇 自动化决策的生态化一方面,侦查过程为数据和算法技术所深度浸透,自动化决策已嵌入到侦查的方方面面,从犯罪信息查询、线索发现、特征比对、嫌疑人识别到犯罪预测和监控等几乎侦查所有环节都有体现;另一方面,侦查的运作越来越依赖数据
18、、算法及其自动化,侦查行为几乎无法摆脱这无处不在的系统,形成了“以任何信息技术设备为载体、以持续控制形式干预和引导日常社会互动的高度自主的精细化治理秩序冶8。由此可见,自动化决策成为侦查运行的底层结构和隐形秩序,是侦查运行的基本生态。1.3.2摇 以大数据、算法平台为核心的系统化自动化决策与警务信息化的发展有着共进的逻辑。就我国警务信息化来说,起步于 20 世纪 90 年代金盾工程(结构化数据库驱动警务形态),随着信息技术、人工智能特别是大型神经网络技术的发展,现已初步形成大数据平台为核心的数据自动收集、汇聚、精准分析研判决策到自动推送、及时反馈评价的自动化系统。2摇 自动化侦查决策的风险现行
19、的侦查程序立法设计是以人的理性决策和因果关系为逻辑基点构建起来的,至少有以下目标:基于决策结果查明事实真相,决策过程客观、公正,符合正当程序。凯西欧尼尔认为基于数据的计算有三项特质:不透明、大规模应用以及会造成伤害,是毁灭性武器9。基于数据计算的自动化侦查决策,以机器算法替代人的理性,以相关关系替代了因果关系,从根本上动摇了现行侦查程序的运行逻辑,产生了风险。摇 2.1摇 事实错误的风险数据记录的瑕疵或错误、算法的局限性、侦查人员的盲从性、决策偏差的系统放大机制都会导致犯罪事实的错误,最终可能形成冤假错案风险。a.数据质量的瑕疵或错误带来的事实错误风险。一方面,数据是由 0 和 1 的组合的简
20、单格栅,数据记录将立体的、丰富多彩的、深度化的世界降维为单一的、平面化的、粗略的数据符码,它限制意义及消除歧义或噪音,无法精准表征世界的复杂性。另一方面,由于数据记录的偏在性、脱域性、不均衡性(偏重特定人群、特定地区的数据)、结构的混杂型、记录的缺省甚至是错误数据而带来数据不能准确反映事实。数据记录的瑕疵或错误,就会形成决策中“偏见进,偏见出冶,而这可能形成侦查决策中事实真相错误风险的起点。实践中,数据质量成为困扰警方的主要因素,因数据质量而产生的侦查决策错误并不鲜见。如个别无辜公民由于身份证数据瑕疵等原因而被警方错误羁押10。b.算法自身的局限带来的事实错误风险。首先,算法的简化可能导致“以
21、偏盖全冶的错误。凯西欧尼尔认为,“模型本质上是简化了的现实,没有模型可以考虑到现实世界里的所有复杂情况冶9。不论是专家系统还是机器学习系统,其严重忽略个案情景的因应考量,其高度形式化、一致化和规模化应用与犯罪事件的丰富多彩、千差万别存在冲突,难免会出现“以偏盖全冶的错误。其次,算法是相关关系的量化计算,偏离了传统的因果联系的确定性,无法为真实性提供逻辑上的保证。如有研究人员训练机器通过输入人工标注为“狗冶和“狼冶的图像来区分狗和狼,该算法虽正确地对许多新图片进行了分类,但它并没有理解狗和狼的区别,而是发现了狼比狗更有可能在雪地里被发现的区分模式,因此将所有带有雪的图片都识别为“狼冶11。最后,
22、历史的数据及其算法难以应对“勇于冶创新的犯罪。自动化决策究其实质是用历史数据为现在和将来做出决策,而犯罪是不断创新变化的,依赖过去的数据来对现在和未来犯罪作出决策本身就存在偏见12,也许“某件事情1 000 天的历史不会告诉你第 1001 天的任何信息冶13。c.侦查人员对自动化决策结果的盲从性,难以纠正事实错误。自动化侦查决策要实现在“大海中捞针冶,就必须按照有罪假定进行数据编码,从而对似是而非的碎片化数据重组进而进行嫌疑判定。而在自动化系统内,侦查人员获取的信息是经过算法过滤和推荐而被困在算法的“信息茧房冶中,人类在面对计算机给出的正确解决方案的时候倾向于无视或不去搜索相反的信息,不太愿意
23、偏离或者质疑算法形成的结果14,因此,一旦自动化决策确定为嫌疑,就会证实嫌疑,侦查人员难以提出相反意见。d.决策偏差的系统性放大风险。由于自动化决策的生态化、系统化,使得某个环节的决策错误不断在系统流转,成为前置决策,前置决策偏差会影响后续决策,就会不断被复制、确证和放大,形成偏差的放大效应机制。决策偏差、放大就可能成64 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 情摇 报摇 杂摇 志摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 摇 第 42 卷为错案的根源。摇 2.2摇 自动化侦查决策歧视与公平公正冲突2.2.1摇 自动化侦查决
24、策歧视的内涵和类型自动化决策不仅会产生事实错误的风险,也会产生歧视。歧视不同于偏见,从根本上说,决策偏见是普遍存在的,人类决策也会存在偏见,算法决策偏见是算法技术得以应用的前提,算法的按优先级排序、归类处理、关联选择、过滤排除等本身就是一种差别对待系统15。但偏见并不都是歧视,只有那些引发消极后果才是决策歧视。自动化侦查决策歧视的产生因素贯穿于自动化决策的整个过程中,从数据选择、数据标注、数据编码、自主学习到决策应用等都可能是产生歧视的原因。根据歧视产生机理来说,自动化侦查决策歧视主要可以分为三种类型:专家编码型歧视、学习型歧视、以偏概全型歧视。专家编码型的歧视是指专家在编制预先标准和算法规则
25、中,有意无意将专家头脑中的歧视注入其中,从而产生了决策歧视。如刑事侦查中的地域歧视、种族歧视等歧视性思想会悄无声息的编入算法模型中去,形成“正当化冶、常态化决策歧视。实际上,在自动化决策程序开发中每一个步骤都可以注入人为歧视。学习型歧视是指机器学习对社会歧视的自主习得,机器学习在自主学习中会将社会现实中既存的社会偏见、歧视观念、歧视文化、歧视制度等“知识冶予以结构性学习,创造出集团属性的片区,继而将个人精准归类至特定的片区中去,形成“基于集团爷属性而歧视个人的情况冶16。如谷歌视觉云将把一个手持温度计的黑人的物体归类为“枪冶,而在描绘一个白人的同一图像中,该物体被归类为“电子仪器冶。以偏概全型
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 自动化 侦查 决策 实践 态势 风险 进路
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。