人工智能司法的可解释性困境及其纾解_周媛.pdf
《人工智能司法的可解释性困境及其纾解_周媛.pdf》由会员分享,可在线阅读,更多相关《人工智能司法的可解释性困境及其纾解_周媛.pdf(18页珍藏版)》请在咨信网上搜索。
1、*周媛,上海交通大学凯原法学院博士研究生;张晓君,西南政法大学国际法学院教授。本文为国家社会科学基金项目“城市更新中促进绿色建筑发展法律机制研究”(2 1 B F X 1 3 6)的阶段性成果。1 如上海刑事案件智能审判系统、北京“睿法官”审判辅助系统、河北“智审”审判系统和浙江“金融智慧庭审平台”等。参见聂友伦:人工智能司法的三重矛盾,载 浙江工商大学学报2 0 2 2年第2期。N o.2,2 0 2 3p p.3 2 0人工智能司法的可解释性困境及其纾解周 媛 张晓君*内容提要:加强对人工智能司法发展及风险的研究是时代课题,其中人工智能司法的可解释性困境尤为关键。人工智能司法可解释性指的是
2、司法决策或行为的可理解与透明性,涉及基础数据、目标任务、算法模型以及人的认知这四类关键要素。不可解释困境主要是由数据失效、算法黑箱、智能技术局限、决策程序和价值缺失等因素所致。但是,人工智能司法的不可解释困境其实是一个伪命题,可解释性具备认知层面和制度层面两方面基础。纾解困境的具体策略包括:构建司法信息公开共享制度,提高有用数据的甄别与利用效率;从软硬法结合视角建构司法系统的运行标准与制度规则;从全过程视角强化主体之间的协同治理;通过指导性案例和司法解释赋权法官的司法解释空间,提高法律解释技术;强化交叉学科人才建设,提高对人工智能司法决策模型的引领;发挥法官的自律与能动性,实现司法智能决策的人
3、机协同。未来,不仅需要把握司法价值与技术理性的平衡,还需考虑人工智能对司法的差异化介入,推动人工智能司法战略目标实现。关键词:人工智能 司法 算法 可解释性 协同治理一、问题的提出党的二十大报告明确提出:“构建新一代信息技术、人工智能、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎。”自2 0 1 5年起,人工智能与司法工作深度融合发展战略上升为国家战略,各地纷纷开启智慧法院建设步伐。1从智慧司法1.0到4.0,人工智能司法已成为一种现实,深刻地改变着传统法院的组织能力与管理结构,冲击着诉讼架构和程3DOI:10.16823/ki.10-1281/d.2023.02.0022
4、0 2 3年第2期序机制,重塑法律人的理念、情感、行为乃至结果模式,甚至影响整个司法权力在国家权力架构中的定位。2但对于智慧法院建设,学界呈现两种分歧立场:一种观点认为,从司法本质看人工智能司法具有主体正当性,从司法裁判的手段看智能裁判具有逻辑正当性,从司法过程看人工智能司法具有程序正当性,从司法结果看智能司法具有结果正当性,因此,人工智能司法的整体正当性充足。3另一种观点认为,人工智能司法的运用程度有限,只能作为一种实现司法正义的辅助手段,不能排斥法官的心证和裁量,这是其运用所应遵守的基本原则。4然而,法律是一种风险控制机制,习近平总书记在中国共产党第十九届中央政治局第九次集体学习时强调:“
5、要加强人工智能发展的潜在风险研判和防范,维护人民利益和国家安全,确保人工智能安全、可靠、可控。要整合多学科力量,加强人工智能相关法律、伦理、社会问题研究,建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。”5法律是风险识别和控制的主要手段。法律是一种社会建构。因此,对法律的合适态度,应该是审慎而非颂扬(c e l e b r a t i o n)。6法律的保守主义立场使得我们更需要保持一种批判主义研究进路。目前学界对人工智能司法的批判性研究成果大致可归为以下几个方面:一是人工智能司法产品运用过程中外部技术环境的限制,最为典型的是作为智能司法决策基础的司法数据样本存在“伪充分性”,7还
6、包括法律语言与计算机语言的隔阂等;二是人工智能内在的技术困境,典型的是算法歧视、算法黑洞与算法霸权;三是人工智能的伦理与价值困境,体现在人工智能无法对司法正义作出实质性权衡,也无法复制法律人的“情怀”和“匠心”;8四是人工智能受到司法环境的制约,如国家的政策性、政治性因素,地域因素,习惯规则以及法律体系的差异等。作为一项智能推理与决策技术,无论是人工智能司法数据的“伪充分性”、算法黑洞困境,还是人工智能的伦理与价值困境,都指向人类如何正确使用人工智能,而至于人工智能又如何满足人类对司法正义与价值目标的追求,透明性、可解释性及由此产生的可信赖性成了解决问题的关键。2 0 1 9年4月,欧盟委员会
7、发布的 人工智能道德准则提出了值得信赖的透明性规则;2 0 2 1年1月,欧洲议会和理事会发布的 关于人工智能的统一规则(人工智能法)并修正某些联合立法行为同样对人工智能的透明性和可理解性进行了着重强调。92 0 2 1年9月,我国国家新一代人工智能治理专业委员会发布了 新一代人工智能伦理规范,明确提出人工智能发展需遵守“确保可控可信、强化责任担当”等六项基本伦理要求,基于可解释性才能实现验证、审核、预测与信赖。事实上,我国以人民为中心的司法审判工作本质是一种“回应型司法”或“纠纷解决型司法”,1 0回应型的内4234567891 0参见徐骏:智慧法院的法理审思,载 法学2 0 1 7年第3期
8、。参见彭中礼:司法裁判人工智能化的正当性,载 政法论丛2 0 2 1年第5期。参见季卫东:人工智能时代的司法权之变,载 东方法学2 0 1 8年第1期。习近平:加强领导做好规划明确任务夯实基础 推动我国新一代人工智能健康发展,载 人民日报2 0 1 8年1 1月1日,第0 1版。参见 英哈特:法律的概念(第3版),许家馨、李冠宜译,法律出版社2 0 1 8年版,第1页。参见前引 1,聂友伦文。参见马长山:司法人工智能的重塑效应及其限度,载 法学研究2 0 2 0年第4期。参见刘艳红:人工智能的可解释性与A I的法律责任问题研究,载 法制与社会发展2 0 2 2年第1期。参见 美米尔伊安R.达玛
9、什卡:司法和国家权力的多种面孔 比较视野中的法律程序(修订版),郑戈译,中国政法大学出版社2 0 1 5年版,第1 4 1 5页。周 媛 张晓君:人工智能司法的可解释性困境及其纾解在向度正是追求司法活动的透明性和可解释性。例如,行政诉讼领域的“行政争议的实质性解决”,法理逻辑即是通过充足的沟通与恰当的交流平台,让诉讼活动评价回归当事人的“体验感”,提高当事人的司法获得感,从而增强司法判决的可接受性。行政裁判的可解释性正是实质性解决行政争议的前提条件。虽然近年来对于人工智能的可解释性的研究逐渐升温,但事实上人们对人工智能“黑洞”的内在原因及破解路径仍然疑问重重,就像2 0 1 7年A l p h
10、 a G o如何战胜了两位世界围棋冠军,赛后柯洁坦言其策略是那么让人惊诧。国内法学界聚焦人工智能司法的可解释性这类子领域的有力研究成果并不多见。1 1因此,下文从人工智能司法可解释性困境的具体表现入手,阐释人工智能可解释性的具体内涵,探寻可解释性困境的具体方面及其形成的机理,进而对可解释性的主客观基础作出研判,得出纾解人工智能司法可解释性困境的有效之道。二、可解释性界定与人工智能司法可解释性困境概念是逻辑研究的起点。对解释性的界定成为本文研究的起点。由于理解活动“具有双重的主观性:理解对象的主观性和自身活动的主观性”1 2,在对研究概念和对象进行界定和选取时要尽可能做到多维度、多视角。(一)解
11、释与可解释性:多学科融合视角“解释”在汉语中包含两层词义:分析阐明和说明含义、原因、理由等。但在科学哲学领域,“解释”一词的词义往往从本体含义转移至语境功能层面,关联到解释主体和对象之间的逻辑关系。例如,亚里士多德就曾通过物理学的观察提炼出“四因说”,得出解释其实就是对事物(解释项)与事物(被解释项)之间“为什么”产生、发展、变化、消亡等一系列动因的说明。学者亨普尔(C a r lG.H e m p e l)和奥本海姆(P o u lO p p e n h e i m)在 解释的逻辑研究一书中进一步明确解释的“阐释”作用,即解释是对解释项与被解释项之间关系与逻辑的重构,或达到论证某种关联的目的
12、。1 3由此,这种解释功能也被定义为对解释项与被解释项因果关系的挖掘,如美国哲学家刘易斯(C l a r e n c e I r v i n gL e w i s)直接将解释等同于因果关系的说明,“解释一个事件就是提供一些关于其因果历史的信息。在解释的行为中,一个拥有一些关于某个事件的因果历史的信息(我称之为解释性信息)的人试图把它传达给其他人”1 4。但是,因果关系并非事物关联性的全部,并非所有的因果关系都存在唯一的解释形式,由此,解释的路径和方法具有多元性,特别是科学哲学领域不同的逻辑将引导出不同的可解释性方法。例如,在知识图谱的推理方法中,至少存在“符号主义”“行为主义”“连接主义”“新
13、型混合”四种可解释知识推理类型,不同的51 11 21 31 4相关文献参见前引 9,刘艳红文;姚叶:人工智能算法的不可解释性:风险、原因、纾解 兼论我国“举报人免责制度”的具体建构(英文),载 科技与法律(中英文)2 0 2 2年第3期;苏宇:优化算法可解释性及透明度义务之诠释与展开,载 法律科学(西北政法大学学报)2 0 2 2年第1期等。德马克斯韦伯:社会科学方法论,韩水法、莫茜译,商务印书馆2 0 2 0年版,序言第1 7页。S e eC a r lG.H e m p e l&P a u lO p p e n h e i m,S t u d i e s i nt h eL o g i
14、co fE x p l a n a t i o n,1 5P h i l o s o p h yo fS c i e n c e1 3 5(1 9 4 8).转引自闫坤如:可解释人工智能:本源、进路与实践,载 探索与争鸣2 0 2 2年第8期,第1 0 7页。2 0 2 3年第2期推理类型又对应着不同的推理方法。1 5这就需要以一种多学科融合的角度来理解人工智能领域的解释。回到人工智能领域,人工智能领域的解释本质是指人工智能的可理解性或透明性,亦即人工智能的“演绎法则”能够被人所认识、领悟。从亚里士多德的“四因说”出发,人工智能的可解释性作为语境词汇,至少会涉及基础数据、目标任务、算法模型以及
15、人的认知这四类关键要素。其一,数据是人工智能得以存在的前提,人工智能本质即是借用计算机对大数据强大的搜索统计、计量分析、深度学习等功能,而形成的一种计算认知,足够多、足够好与足够真实的大数据是人工智能的必要条件。但采集哪些数据不采集哪些数据,对于人工智能而言似乎并不是一个不言自明的清晰逻辑,它有待于目标任务的明确设定。其二,目标任务在逻辑上是为达到某种效果或完成某种行为,但如何将这种效果或行为设定转换为计算机语言以完成人类语言向数智语言的转变,需要抓住的关键是两类“语言”之间的联结点在哪里。一般而言,事物的规律性是两者之间的联结点,因此可以通过足够优质的大数据进行因果逻辑抑或形式逻辑的推理,建
16、立两者之间的确定性或概率性的关联,形成一种以事物的规律性和逻辑自洽为中心的算法模式。其三,算法模型是数据充足、目标明确的基础上所刻画的一种客观逻辑结果,它也是人工智能可解释性的关键所在,按照可解释性的程度大致可划分出三类算法模型:1 6(1)参数模糊型,主要是指由于任务的复杂性与数据的繁杂性,算法模型并非设定一个单一的清晰的范围值或确定的任务目标,只是在一个可能的概率值范围内搜索更多的可能有用的数据,从而完成相对模糊的逻辑关联运算,如深度学习模型;(2)参数明确型,主要是指任务较为明确、逻辑较为清晰的目标运算,这类运算通常在给定的范围值内,搜集较大关联性的数据,从而得出较为公认或公式化的算法模
17、型,如统计学习模式;(3)参数外显型,相比于明确型,这类算法本身具有透明性,也可称为“白盒模型”,需要提取哪些数据以及目标设定都十分明确,得出的结果也自然较为单一,通常遵循条件式因果推理规律,如专家知识模型。其四,人的认知是这四类关键要素的决定因素,相对于算法模型而言,人的认知与意志更具主观性,主观性会加剧对人工智能决策过程的理解差异,不同群体由于知识范围的差异对算法决策的理解能力自当不同,如何弥合主观与客观之间的鸿沟成为打开算法“黑盒”的金钥匙。人工智能融入司法,相应的可解释性问题自然而然转移到对司法基础数据、司法目标任务、司法决策算法模型以及法官的认知这四类关键要素的理解上。首先,司法数据
18、从内容和对象来看,是人民法院“在司法工作中形成的审判流程、执行信息、法律文书、庭审活动信息、司法政务、司法人事、外部协查等数据的总和及其关联关系”1 7;但从结果来看,它主要指向司法裁判文书以及相应的裁判技术。司法数据的存在是人工智能介入的基础,司法数据“质量”决定人工智能司法决策的真实性、可靠性,若是司法数据偏差自然会引发可理解性困境。其次,司法目标61 51 61 7参见夏毅、兰明敬、陈晓慧、罗军勇、周刚、何鹏:可解释的知识图谱推理方法综述,载 网络与信息安全学报2 0 2 2年第5期。参见刘桐、顾小清:走向可解释性:打开教育中人工智能的“黑盒”,载 中国电化教育2 0 2 2年第5期。孙
19、晓勇:司法大数据在中国法院的应用与前景展望,载 中国法学2 0 2 1年第4期,第1 2 4页。周 媛 张晓君:人工智能司法的可解释性困境及其纾解任务是司法裁判要达成的政治效果和社会效果,我国司法的目标是以人民为中心,惩戒犯罪、化解社会矛盾,实现公平公正高效的司法服务。然而这一目标决定人工智能司法的行为逻辑或演绎规则必须纳入利益平衡与价值考量,而这正是计算机语言难以充分解释的又一困境之所在。再次,司法裁判的过程是对案件事实与证据、法律规则要素以及法官裁量标准的综合性判断,随着事实与证据的量化、法律规则以及法官裁量的标准化,司法裁判逐渐走向自动化,司法决策算法模型是自动化的一种表现,但事实与证据
20、的模糊性、法律规则的滞后性以及法官裁量的主观性都可能导致算法决策模型难以形式化。事实上,目前的人工智能司法模型多体现为较为简单的统计学习型,如何进行智能司法深度学习是一大理论难题。最后,法官对法律的理解以及价值观的培育是司法目标能够达成的关键,统一法官的思维模式可保证司法目标的一致性,但在具体的案件类型、地区差异以及场景化司法运行过程中,法官基于实质平等的法律解释与续造所发挥的主观能动性恰是实现司法公平、公正的重要前提,而这增加了人工智能司法技术标准的设计难度,自然增加了不可解释性空间。司法这四个基础要素导入人工智能领域在实践中衍生出以下可解释性困境具体形态。(二)人工智能司法可解释性困境的具
21、体形态第一,司法数据“低劣”引发人工智能决策失真。马云曾说,在2 1世纪数据好比支撑社会经济发展的“石油”。“司法大数据与人工智能技术的实质是建立了一种基于海量数据挖掘的认知范式,数据具有绝对的前置性。”1 8以数据为中心的司法智能是从相关的类案情节中提取判决规律的一种非理论预设的认知技术。足够多、足够优质的类案数据既是司法公正决策的前提,更是获得人们理解的基础。仅凭单个或特殊案例所总结的判决结论往往不具有较强的说服力,“坏的”“低劣”的数据也会导致人们对司法决策理解的偏差。从司法样本数据来看,“不充分”和“低劣”数据主要表现在:一是司法数据本身存在主观性,哪些数据可以公开、哪些不能公开,已经
22、受到人为因素的左右,基于主观筛选和缺失样本所进行的司法决策很可能会背离实践真实样态,导致人们对司法决策能力和效果的误解。例如,在行政协议纠纷中涉及政府利益和商业秘密的案件一般不被公开,这些案件往往最能体现行政的本质;在刑事案件中,一般轻微伤或自诉案件可能按撤诉或协商处理,一旦撤诉或协商处理,相关定罪样本或要素就无法有效得以统计,计算机自然不能进行深度学习。二是司法数据分类或标记的科学性存疑。计算机是靠代码进行识别的,存在相应的代码才能进行统计或归纳,但对司法案件的代码分类或标记因素会因法官或研究人员的理解差异而参差不齐。例如,刑事判决书中,被告人的犯罪动机、犯罪环境等因素往往很难得到类型化标记
23、;在刑事被告人赔偿案件中,赔偿数额及相关酌定情节也通常属于不被标记的范畴。因此,“这些未被标记的因素便会游离于所得数据之外,继而造成数据充分性问题,导致预测模型失准”1 9。三是司法数据的变换性使得精确性不足。在主观性之外,数据所依赖的环境同样重要。换言之,数据样本的真实性与数据所产生的特定环境密切相关,“人们在特定环境中分71 81 9王禄生:司法大数据与人工智能技术应用的风险及伦理规制,载 法商研究2 0 1 9年第2期,第1 0 2页。前引 1,聂友伦文,第6 8页。2 0 2 3年第2期析数据并将意义赋予了数据”2 0才能消除样本的分歧增进标注代码的可理解性。然而,也会存在司法异地差异
24、、人为差异等因素导致的数据非真实性或系统性错误,这就会引发“错误的前提导致错误的结论”2 1(g a r b a g e i n,g a r b a g eo u t),加深人们对人工智能司法决策的误解。第二,人工智能算法黑箱冲击司法透明,导致司法不公。算法是第二类关键性要素,但算法黑箱问题一直是困扰理论与实务界的头号难题。算法的不透明性大致存在三种情形:一是因国家秘密、商业秘密等保密之需要而形成的不透明,二是因技术的不成熟而引发的不透明,三是人工智能算法内部的复杂性而产生的不透明。2 2不论何种情况,由于价值平衡、技术有限以及民众知识差异等因素的制约,算法公开的程度都十分有限。这种限度不仅体
25、现在由计算机技术人员和法律专业人员组成的审查机构审查的广度和深度有限,还体现在审查结果要尽量避免损害私人权利以及抑制新技术创新的负面效应。实践中,这三类不透明性往往交错在一起,加剧算法的不透明性。例如,目前概率建模下司法要素被压缩为几个方面,而采取启发式算法系统可模拟法官的思维,但这种思维决策过程是如何运作的往往无法被“追溯与验证”。2 3腾讯研究院也明确表示:“在A I深度学习模型的输入数据和输出结果之间,存在着人们无法洞悉的 隐层,深埋于这些结构底下的零碎数据和模型参数,蕴含着大量对人类而言都难以理解的代码和数值,这使得A I的工作原理难以解释”。2 4人工智能算法黑箱易引发的可解释性问题
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 司法 解释性 困境 及其 周媛
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。