人工智能参与行政决策的法治风险探究.pdf
《人工智能参与行政决策的法治风险探究.pdf》由会员分享,可在线阅读,更多相关《人工智能参与行政决策的法治风险探究.pdf(6页珍藏版)》请在咨信网上搜索。
1、收稿日期:2023-03-21作者简介:苏丽(1980-),女,河北灵寿人,副教授,主要从事宪法与行政法、政府法治研究。淤人工智能(简称“AI”)定义能模仿人类思维、行为的智慧机器,AI 是人的逻辑能力(分类总结推理判断),决策能力,机器存储、运算能力,以及大数据的有序结合,三者缺一不可。一、问题的提出行政决策作为一种重要的行政活动,是指具有法定行政权的国家行政机关或政府官员在面临行政辖区内公共问题时,为实现行政目标,依法拟定并选择决策方案,作出行政决策的行为。行政决策具体包括收集信息、拟定方案、作出决定几个环节。我国的行政决策随着时代的变迁和法治发展,已由权力集中、运作封闭和内部协调为特征的
2、传统决策模式转为现代决策模式,更加注重决策过程的民主参与与专家参与,增强决策的开放性、合法性和科学性。1中国共产党第十九次全国代表大会强调了科学决策、民主决策和依法决策的重要性,推进重大行政决策的科学化、民主化和法治化更是成为了推进行政决策体制变革的基本目标。中国共产党第二十次全国代表大会又进一步强调坚持科学决策、民主决策、依法决策,全面落实重大决策程序制度。在这一目标的指引下,人工智能作为科技发展的最前沿逐步走入行政决策领域。一方面为政府决策注入新鲜的治理资源,另一方面因为人工智能算法设计及责任承担能力的欠缺,使得人工智能在参与政府决策时存在风险。人工智能嵌入政府决策,是以社会关系为设计基础
3、,并通过算法将其转化为精确可量化的固定数字关系,遵循严格算法逻辑规则所形成的“社会规则+算法规则”模式化治理方式,是寻求科技发展与政府决策权力实施两者的有机结合,是一个值得持续关注的重要研究课题。本文首先指出目前人工智能参与行政决策对于促进现代行政决策体制发展的作用,然后结合行政法治原理与行政相对人权利保护原则,阐明其可能引发的风险,最后以行政机关监管、行政相对人保护、人工智能算法科学有限度等三方面结合的系统视角指出化解风险的路径。论证中重点突出以下三个问题:一是突显行政决策的动态性。行政决策是包含问题设定、收集信息、拟定方案、作出决定的动态行为过程,并且在分析中将行政决策的主体与对象紧密相联
4、,关注行政相对人的权利义务。二是突显人工智能参与行政决策的现实性。人工智能参与行政决策的过程,是人工智能算法的设计直接应用到行政决策的过程,这种应用也会直接影响到行政相对人的权益。三是突显人工智能参与行政决策的系统性。在探讨人工智能参与行政决策时,应当结合行政决策体制改革目标和行政法治原理以及对行政相对人权利的保护几个方面系统展开论证。二、人工智能参与行政决策的优越性人工智能(简称“AI”)是能模仿人类思维、行为的智慧机器。淤实践中,行政领域的数字化转型日益人工智能参与行政决策的法治风险探究苏丽,张卓玉(河北政法职业学院 行政法务系,河北 石家庄050061)摘要:人工智能参与行政决策契合行政
5、决策体制改革方向,能够应用于行政决策的全过程和多领域。人工智能参与行政决策有助于行政决策的科学化、民主化和法治化。但人工智能参与行政决策也存在法治风险:算法偏差、算法歧视、算法至上不同程度上危及到行政相对人的实体权利和程序性权利,有违正当程序原则的具体要求,一定程度上对行政法治原则形成挑战。由此应当围绕人工智能算法问题,从多角度、多方向寻找风险防范路径,不断完善人工智能算法的合法化设计,加强行政机关对人工智能算法的合法性审查,保障行政相对人对人工智能算法的合法权利主张,健全算法辅助决策的行政责任制度,从而契合行政法治原理的要求。关键词:人工智能;算法;行政决策;依法行政中图分类号:D922.1
6、文献标识码:A文章编号:1673-1972(2023)04-0155-06第 25 卷 第 4 期石家庄学院学报Vol.25,No.42023 年 7 月Journal of Shijiazhuang UniversityJul.2023深化,人工智能与行政决策在全过程和多领域进行紧密结合。人工智能参与行政决策的领域愈发广泛,包括辅助食品安全决策、辅助环境保护决策、辅助公共安全决策等,且行政决策中人工智能算法的应用体现在行政决策过程的前、中、后不同时期,借助人工智能算法收集决策信息、评估决策方案、监督决策执行,促进行政决策朝着民主性、科学性和合法性提升的方向进步。(一)人工智能可以广泛高效收集
7、民众意见,提高行政决策的民主性人工智能按照算法规则高效地、全面地收集和传递数据信息。针对听证会、论证会和座谈会等传统的民主决策形式中存在的收集信息困难、样本数量有限、信息汇总缓慢的现状,人工智能的参与能以更快的速度收集民意,并细分归类民意类型,更精准识别民众需求且第一时间传达至政府,效率明显提高。针对某一特定决策人工智能可以迅速抓取特定人群的特定信息,精准识别公众的意愿,给政府决策提供更有价值的参考,使得行政决策更加符合公众意愿,提高行政决策的亲民性。人工智能可以更大范围收集海量数据,包括不同社会人群横向数据和决策前后不同阶段的纵向数据,让决策在时间、空间两个维度更大程度上体现民意,让决策之后
8、的执行和落实更易得到公民的接受,整体上提高决策的民主性。(二)人工智能可以提供智力支持,保证行政决策的科学性行政决策作为行政机关作出行政行为的前端行为,需要民主的程序、科学的方法,必要时需要其他智力支持。1.人工智能算法有助于提高决策模型的构建在传统模式下,科学决策要求组织专家进行论证,而人工智能算法辅助行政决策能够做到用算法模型模拟人类决策过程,通过对收集的信息加以深度学习,不断提高决策模型的复杂程度。此外,传统专家论证有时也会因专家们专业背景和利益所限,出现专家意见不协调、不中立和不客观的问题。人工智能算法不仅通过深度学习模仿专家决策,甚至在知识储备上将超过专家,更为重要的是,人工智能算法
9、因其无利益和专业背景的限制问题,其得出的结果更加科学统一。人工智能算法的深度学习与在深度学习基础上产生的自主推导为行政决策提供了不同路径的智力支持。2.人工智能算法有助于提高行政决策风险评估能力在作出行政决策时,同时也强调风险评估。如何进行风险评估是一个事关科学的问题,科学性是风险评估的规范要求。一般而言,评估决策后果和决策风险需要运用科学技术和科学方法进行后果预测,风险评估一般只解决事实问题,风险评估的目的在于建立概率性的因果关系。引入人工智能算法来开展数据分析或行为预测,有助于研判复杂的政策问题,评估风险。3.人工智能算法有助于帮助审查决策过程、决策结果是否科学人工智能算法不仅能够辅助政府
10、决策,提高行政机关决策的科学性,还能够检验行政机关决策的科学性。实时监控行政机关决策的施行是否偏离原定计划与原定目标,并将民众的新诉求传递给行政机关,以期实现决策执行过程中的动态调整。当这一过程不断被重复之后,便能够形成一套成熟的行政决策执行监控系统,建立一套评估决策科学性的数字指标,实现对政府的“数字式管理”,大大提高行政决策的科学性。(三)人工智能可以提供智力支持,保障行政决策的合法性应用于行政决策领域的人工智能在事前被植入大量的法律政策、法律规范、实践判例和热点案例、学者研究等信息,让人工智能的“脑容量”超级百科权威,在科学算法的支撑下,最终使得人工智能在参与行政决策的过程中,可以更为全
11、面地梳理行政决策争议点和风险点,更及时地分析不同行政决策的后果及隐患,面对复杂政策问题,进行风险评估。针对紧急问题进行应急处置,开展战略决策,为动态制定和修订政策提供必要的参考,最大限度地保障行政决策的合法性。三、人工智能参与行政决策的法治风险从人工智能参与行政决策的功能看,人工智能的参与有助于实现民主决策、科学决策和依法决策。基于人工智能算法本身不足以及算法设计者的偏见、对人工智能法律监管缺位等原因导致人工智能在参与行政决策前、中、后不同时期带来不同的风险。(一)人工智能算法本身带来的风险在人工智能参与行政决策过程中算法偏差会不同程度地影响到相对人的权利。算法偏差是指算法的运作偏离预定目的。
12、目标设定、数据收集、算法设计一旦设定存在不合理,其程序运行偏离公正时很难由技术人员自身从技术角度进行纠正。石家庄学院学报2023 年 7 月156苏丽,张卓玉:人工智能参与行政决策的法治风险探究1.抓取数据不全、分析数据不深入会一定程度影响行政相对人的真实权益关切尽管算法本身抓取数据的能力已经十分强大,它还是无法把握所有能够由人类所感知的因素。行政决策类法律工作是一个以处理人类之间的法律关系为主要内容的典型工作,其服务对象是带有思想感情、价值观念、道德意识及情势判断能力等的“活生生”的人,而不是一成不变的物体。虽然人工智能可以通过计算将人的行为进行数据化、模型化,但是人类的行为、思想、感情和观
13、念会随着生活状态和社会影响不断变化、因人而异,人工智能通过数据测算到的一部分人的知识结构和行为特征不可能涵盖到所有人。即算法设计无法关注人类内在世界,无法体验人类丰富的情感需求,其搜集到的数据无论多么庞大,终究也会在深入度上受到限制。而某些时候这些无法量化的感性因素也是行政机关进行行政决策时应当考虑的因素,也会影响到行政决策结果的公正与否。2.公开数据不谨慎、生成结论性信息不科学会一定程度危及行政相对人的隐私权益保护在数字化今天,隐私的保护成为公民关注的重大课题,传统行政决策一般不涉及社会大范围的公民信息收集、运用,而人工智能参与行政决策就在于对海量数据的收集与运用,特别是为各项决策储备“大数
14、据”,但一旦出现算法设计不规范导致公众信息泄露就会侵犯到公民的隐私权。同时算法的设计如何规避不必要的数据收集和公开,也依赖技术人员的职业操守与监督程序的建立完善。(二)人工智能算法设计者带来的风险目前的人工智能产品难以实现类人属性,其认知结构建立在人类知识和经验的基础上,其运算基础和逻辑离不开人类为其建立的数据库,人工智能依靠人类对其“输入”的数据定向“输出”成果,从这种意义上来说,人工智能算法设计者是真正操控算法,影响人工智能作用发挥的核心主体。在其进行设计过程中会因为个人知识和能力等因素引发不同程度的算法歧视。算法歧视是人工智能自动化决策中,由数据分析导致的对特定群体的、可重复的不公正对待
15、。算法歧视正在人工智能参与行政决策的多个场域出现,对行政相对人的实体权利会带来不利影响。算法歧视性设计的存在会一定程度影响行政相对人对行政决策公平公正度的信赖。当前人工智能算法的设计、建立需要技术人员进行设定,而技术人员设定方面存在的数据选择、运用偏差,在人工智能算法辅助决策运行中会造成无法逆转的、持续性的不合理结果,促进歧视性行政决策的生成,进而影响到广大行政相对人对行政决策公平公正度的信赖。(三)政府决策理念带来的风险政府在决策过程中将人工智能奉为瑰宝,过度追求高效而忽视了正当程序要求。算法至上是指算法设计目的取代其他目的成为算法运行的必然目的。算法代表和算法至上与民众的真实意愿表达不符,
16、会对行政相对人的程序性权利造成不利影响。第一,不符合正当程序原则的具体要求。行政决策需要一套行之有效、合法合规的程序作为保障,正当程序原则是基本的价值遵循。公平、公正、公开则是行政程序正当原则的三个面向。2106-108应通过设置正当行政程序规范行政权,为行政相对人提供最低限度的程序正义,驱使行政机关在实现行政目的时采取更善的手段,从而提高行政决策的可接受度。正当程序原则要求充分保障行政相对人行使陈述、申辩、听证的权利,关注行政相对人的诉求,对行政行为作出的依据和理由进行解释说明。但人工智能算法辅助行政决策在一定程度上与上述要求存在抵触。由于算法行政决策一定程度上的自主性、瞬时性以及不可解释性
17、等因素的多重共同作用,正当程序原则所要求的决策公开可能被架空。3进而,由于程序正当性的缺失,决策的可接受度与信服力也将下降。第二,不符合行政相对人的真实意愿表达。人工智能算法基础在于大数据的收集、应用,而对于何种数据信息才是行政相对人真实意愿的表达,本来是由行政相对人所决定的,但人工智能算法的应用使得其所选取的数据、设计的应用模式成为了行政相对人表达意愿的“代表”,该“代表”有无体现行政相对人真实意愿、何种程度上体现行政相对人真实意愿,则有赖于技术人员在算法设计上的全面性、科学性和精准性。但由于行政决策所面对的社会情况复杂多变,技术人员算法设计的把控难免留有空白区域。(四)人工智能算法责任分配
18、难题带来的风险行政责任的存在是确保政府“负责任”治理的最终保障。4然而,与传统行政决策体制机制不同,人工智能算法辅助决策过程中,涉及行政组织主体、算法运营主体、算法系统本身以及行政相对人的多方互动。算法决策错误的行政责任无法像传统行政责任一样,原则上概由行政组织体承担,这是因为算法隐匿、算法偏差等问题的存在,并不来源于行政主体的过错与失职。此外,交由算法运营主体承担行政责任也不妥,因为它们不具有行政主体的资格能力。再者,算法系统本身是没有责任意识与责任能力的,因此人类之第 4 期157间的责任关系也不应当被转移到机器与人类。5四、人工智能参与行政决策法治风险的应对方案为了应对人工智能辅助行政决
19、策可能造成的法治风险,必须结合行政法治原理以保护行政相对人和行政相对人的合法权益为底线约束人工智能算法在行政决策中的应用。为此,有必要围绕人工智能算法问题,从人工智能算法自身、行政机关、行政相对人三个方向上寻找法治出路,强调完善人工智能算法的合法化设计,加强行政机关对人工智能算法的合法性审查,保障行政相对人对人工智能算法的合法权利主张,从而契合行政法治原理的要求。(一)建立算法决策的事前风险评估机制为了准确、有效地监测算法行政中算法决策的应用风险,提升行政活动的公平性,应当建立算法决策的事前风险评估机制。一方面,利用算法进行决策的行政机关应当采取措施有效规范算法决策系统对数据的收集、选择与处理
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 参与 行政 决策 法治 风险 探究
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。