基于Post-ELSI的人...智能政策国际比较与经验镜鉴_张成岗.pdf
《基于Post-ELSI的人...智能政策国际比较与经验镜鉴_张成岗.pdf》由会员分享,可在线阅读,更多相关《基于Post-ELSI的人...智能政策国际比较与经验镜鉴_张成岗.pdf(8页珍藏版)》请在咨信网上搜索。
1、收稿日期:20220920作者简介:张成岗(1973),男,河北赞皇人,清华大学社会学系教授、社会治理与发展研究院院长,研究方向为社会治理与政策、技术社会学、风险灾害与应急管理;阿柔娜,清华大学社会学系博士研究生。基金项目:本文系国家社科基金重大研究专项“一带一路 建设面临的主要风险及应对研究”(18VDL015)、贵阳市南明区“社会治理现代化专题研究”(2022002068)的阶段性成果。2023 年第 3 期总第 129 期江苏行政学院学报Journal of Jiangsu Administration InstituteNo 3,2023General No 129社会学研究基于 Po
2、st-ELSI 的人工智能政策国际比较与经验镜鉴张成岗,阿柔娜(清华大学 社会学系,北京100084)摘要:人工智能技术发展带来的社会风险日益受到关注,各国和欧盟均致力于通过制定和实施人工智能政策形塑人工智能技术,Post-ELSI 为人工智能政策的评估提供对伦理、法律和社会因素更全面和细致分析的新思路。本文基于 Post-ELSI 理论框架,运用 NVivo12 plus 质性资料的数据分析工具对 20162020 年中国、美国、韩国、日本、欧盟等发布的 29 份人工智能政策,从伦理(安全、隐私、责任等)、法律(确权、监管、算法等)、社会(公正、平等、治理等)三方面进行评估分析。研究发现,在
3、 Post-ELSI 框架下,中国、美国、韩国、日本和欧盟的人工智能政策具有很大同质性,均将“技术精英”与“技术难民”、“人机协作”与“机器换人”、“对症下药”与“被人工智能评估的人”视为关切利益,但在伦理危机、负责任监管和社会福祉等方面的关注程度与政策措施存在较大差异性。通过镜鉴国际经验,可以为制定具有中国特色的“负责任的”人工智能政策提供有力支撑。关键词:人工智能;伦理;法律;社会;国际比较中图分类号:C934文献标识码:A文章编号:10098860(2023)03006908一、Post-ELSI:一种整合性人工智能评估框架人工智能作为新一轮科技革命的核心驱动力,正在全面融入社会生活并重
4、塑社会现实。世界各国人工智能治理的关注度日益增高,最为直接的表现是人工智能政策的陆续出台与实施,这能够有效规约人工智能发展中潜在的或面临的多维度风险,促进人工智能良性发展。我国是人工智能发展和全球治理的重要参与者。近年来,国内人工智能政策的国际比较研究主要涉及教育应用 1、产业经济 2、风险治理 3等多个领域,重点强调方法创新,如通过创新价值链和 PMC 指数模型等静态的政策工具,对比不同国家的政策目标、主题和措施 4 5;基于动态的“政策类型扩散机制”框架,比较不同国家的人工智能政策的扩散规律 6;以及构建动静态相结合的跨国比较分析96框架,挖掘各国人工智能政策的背景差异和共识 7。由此,人
5、工智能政策的国际比较研究多为基于静态的理论视角和动态的扩散框架,对比分析人工智能政策的应用领域、技术伦理、价值生产和风险规约等内容,尚缺少从伦理道德、法律规范和社会规约的角度来对比分析不同国家的人工智能政策。鉴于此,本研究尝试基于人工智能政策制定路线图8,结合 Post-ELSI 技术评估研究(Post-Ethics,Legal,and Social Impli-cations Technology Evaluation esearch,PETE)的基本原则和框架9,对人工智能政策中关于人类实践引发的社会和伦理的关注,人类价值在知识共同生产中的角色,及政策机会成本的考量等展开对比分析。Post
6、-ELSI 缘起英国 ECS 资助的系列研讨会,在会上一组研究人员探索了建立该框架的可能性10,后有学者提出 Post-ELSI 宣言,并指出了该框架的基本原则,即协作试验、共担风险、反身性协同、开放讨论非共同目标和睦邻关系 11。该框架是在美国 ELSI(Ethics,Legal,and Social Implications)、ELSA(Ethics,Legal,and Social Aspects)及英国 I(esearch e-sponsible Innovations)基础上形成的一种新兴科技伦 理 治 理 研 究 的 跨 领 域 合 作 关 系 创新 12 13。从行动基础来看,P
7、ost-ELSI 框架旨在将自然科学和社会科学对技术与社会的责任缠绕在一起,技术与社会活动之间的关系转变为有反馈的非线性关系,尤其强调协同完成新技术的设计、开发和应用。从行动主体来看,该框架强调社会科学家、自然科学家和政策制定者等角色的协同关系的建立。从行动过程来看,该框架强调创新全过程中的角色转换,不同环境中的角色建立对于协作的成功与否至关重要,尤其是社会科学家从外部到协作的角色的转换。从行动回应来看,该框架致力于更多合作关系、更深层次协作、跨学科知识的共同生产和更具体的政策制定。在此基础上,已有学者探究将该框架用于人工智能技术评估和伦理研究的有效性和局限性。例如,在技术评估中纳入该框架,通
8、过科学计量研究,分析人工智能相关的高引用出版物的重要主体和全球趋势,以便更好地获得利益相关者的信任14。再如,运用该框架对日本、美国和德国的人工智能政策和公众对人工智能相关的伦理、法律和社会问题的态度进行定量评估,对比分析不同国家政策和民众的 ELSI 关注点 15。本文将在 Post-ELSI 框架下剖析欧盟及多个国家在 20162020 年间人工智能政策中伦理、法律和社会三个向度内容,旨在借鉴国际经验,从而为我国人工智能政策的制定与实施提供参照。二、数据及方法(一)文本选取2016 年,韩国较早从国家层面出台专门针对人工智能技术的政策文本,后续法国、日本、中国、美国等国家相继出台符合各国基
9、本国情的国家层面的人工智能政策文本。其中,韩国、日本、中国、欧盟、美国的国家(或国际)层面的人工智能政策的全球影响力较高,且日本、韩国和中国是数字化转型的较为活跃国家和人工智能的早期采用者16。由此,本研究遵循公开、权威及相关性等原则,遴选出 20162020 年韩国、日本、中国、美国和欧盟等国家(或国际)层面出台的与人工智能直接相关的引导类和规划类政策文件,作为人工智能政策国际比较研究的政策文本。需要说明的是,欧盟出台的人工智能政策文本是欧盟各国制定人工智能政策的主要依据,因此,选取欧盟的人工智能政策以代表欧盟各国的人工智能政策的关切点。美国在 2016 年发布为人工智能的未来准备和国家人工
10、智能研发战略计划 两份人工智能报告后,美国政府对人工智能技术采取相对自由放任态度。直到 2019 年,在美国人工智能倡议的推动下,美国前总统特朗普签署行政命令,本文也将此行政命令纳入到美国的人工智能政策文本中。对已检索到的所有国家(或国际)层面人工智能政策文本进行深入阅读,剔除与国家人工智能政策无关及重复文本,筛选出关联度较高的国家(或国际)层面政策文本 29 份作为研究样本,并按照国别分类后根据政策出台时间顺序进行编码(如表 1 所示)。07(二)研究方法本文通过 Nvivo12 Plus 质性分析软件,将质性资料以量化形式表示,具体而言:首先,通过人工的内容分析法,对收集到的政策文本逐一阅
11、读和筛选,初步对政策文本进行编码,形成子节点。其次,基于 Post-ELSI 框架,对政策文本进行自由编码,形成初步子节点编码体系。再次,结合Nvivo12 Plus 工具的文本搜索和词频统计等功能,进一步对节点进行分析,过滤政策文本中反复出现的高频动词和相关度较低的名词,如“支持、机制、引导”等。最后,修正编码,通过范畴化命名,对政策文本进行编码,产生 6 个主范畴并将主范畴分别对应于 Post-ELSI 框架的核心类别。各子节点中的参考点与参考依据见表2。表 1各国国家层面及欧盟的人工智能政策汇总来源人工智能政策文本顺序编码数量中国1 “互联网+”人工智能三年行动实施方案 的通知(发改高技
12、 2016 1078 号)、2 国务院 新一代人工智能发展规划(国发 2017 35 号)、3 工业和信息化部关于印发 促进新一代人工智能产业发展三年行动计划(20182020 年)的通知(工信部科 2017 315 号)、4 国家发展改革委办公厅关于组织实施 2018 年“互联网+”、人工智能创新发展和数字经济试点重大工程的通知(发改办高技 2017 1668 号)、5 教育部国家发展改革委财政部印发 关于“双一流”建设高校促进学科融合加快人工智能领域研究生培养的若干意见 的通知(教研 2020 4 号)、6 国家新一代人工智能治理专业委员会 新一代人工智能治理准则 发展负责任的人工智能、7
13、 中国电子技术标准化研究院 人工智能标准化白皮书(2018 版)7欧盟8 欧盟委员会(2018)为了欧洲的人工智能、9 欧盟委员会(2019)值得信赖的人工智能的伦理原则、10 欧盟委员会(2019)在以人类为中心的人工智能中建立信任、11 欧盟委员会(2019)值得信赖的人工智能的政策和投资建议、12 OECD 人工智能原则、13 欧盟委员会人工智能白皮书 20206美国14 白宫科技政策办公室 为人工智能的未来准备 和 国家人工智能研发战略计划:2019 年更新版、15 总统签署的维护美国人工智能领导地位的行政命令保持美国人工智能的领导力、16 美国如何领导人工智能:联邦参与制定技术标准及
14、相关工具的计划、17 人工智能应用监管指南、18 第一份关于网络信息技术的人工智能研发计划、19 美国人民的人工智能、20国家人工智能倡议法案7日本21 人工智能战略 2019(为所有人的人工智能:人、产业、区域和政府)、22 人工智能研究指南、23 治理创新:为 5 0 社会重新设计法律和建筑、24 以人为核心的人工智能的社会准则、25 人工智能技术战略5韩国26 面向 I Korea 40 的人工智能研发战略、27 人工智能国家战略、28 国家人工智能伦理标准、29 人工智能信息产业发展战略4表 2各子节点中的参考点来源与参考依据举例关键词标签主范畴名称核心类别J3:To realize
15、an equal footing of regulations among businesses within and outside the national terri-tory,a review of the scope of extraterritorial application of domestic laws may be conducted伦理、平等、价值、隐私、自由、共享风险评估K2:Humans became the masters of the earth as they came to have intelligence and,at the sametime,bega
16、n to take unlimited responsibility for this world责任、透明、产业、风险(危机)伦理危机伦理规约U6:President Trump signed a Presidential Memorandum directing Secretary of Transportation ElaineChao to establish an unmanned aircraft system(UAS)integration pilot program(IPP),which thePresident signed into law with the 2018 Fe
17、deral Aviation Administration(FAA)eauthorization Act法律、体系、确权、安全、人才制度体系U3:iii)transparency and explainability;iv)robustness,security and safety;and v)accountability问责、监管、审查监管与责任法律保障E2:Building on its first deliverable,the group has put forward 33 recommendations that can guidetrustworthy Al towards s
18、ustainability,growth,competitiveness,and inclusion社会、可持续、环境友好、人类为中心、心理社会福祉U4:Consider“appropriate strategies for engaging in the development of regulatory approachesthrough international regulatory cooperation,particularly in emerging technology areas”研究、生产力、就业、信任、合作(沟通、协调)产业发展转型社会治理17三、基于 Post-ELSI
19、 的人工智能政策解析为厘清各国及欧盟人工智能政策的关切点并对比其共性和差异性,本文立足 Post-ELSI 框架,从主题词分布、政策措施和政府注意力配置三个维度展开分析。(一)基于 Post-ELSI 的人工智能政策主题词分布借鉴欧盟 人工智能的伦理:问题和倡议中关于伦理、法律和社会的关键词描述,将隐私、自 由、信 任 作 为 表 征 Post-ELSI 的 关 键词17。通过 NVivo12plus 工具对 29 份国家(或国际)层面的人工智能政策文本进行高频词查询,筛选出词频数大于 30 的节点,并剔除类似“扩展、推导、限度”等无明显作用的词语,汇整出 30 个高频词作为人工智能政策关键词
20、(见表 3)。比对代表各国人工智能政策的关键词与表征 Post-ELSI 的关键词,将重合的节点作为人工智能政策主题词的分析对象,可得出如下结论:1 从关于伦理规约主题词来看,各国及欧盟侧重点具有明显差异,整体上美国较之其他国家更为重视伦理规约。具体来看,美国侧重于“伦理”、“隐私”、“共享”,欧盟侧重于“价值”,日本侧重于“审查”、“平等”、“自由”,而中国则更关注伦理中的“责任”、“透明”。美国保持美国人工智能的领导力 强调了五个关键原则以确保美国在人工智能领域的领导地位,其中就明确有“保护公民自由、隐私和美国价值观”的原则。但实际上,美国将人工智能的治理很大程度置于私营部门,这导致美国人
21、工智能竞争力的提升以牺牲公民人权和隐私等其他价值观为代价18。我国在 2017 年发布新一代人工智能发展规划 时,明确在人工智能的重要领域建立道德规范,但我国对于人工智能伦理框架的建构工作推动较为缓慢。直到2019 年,科技部成立“国家新一代人工智能治理专业委员会”,后印发实施新一代人工智能治理准则 发展负责任的人工智能,提出包含包容共享、公平公正和尊重隐私在内的八项原则,强调了透明度、责任感、协作和敏捷性对于应对人工智能引发的风险的重要性。表 3人工智能政策关键词中国欧盟美国日本韩国伦理7133782419平等639505434价值271418312314隐私526519510531自由58
22、10117共享363717312516审查10811514320213责任36940735615透明4733441916人才8923345432法律3412346465体系568251216974确权46776252136问责1323782681监管86111821安全23745868049社会11042366912治理4823152153基础设施447747015可持续21371236产业165971129986生产力258231859634研究4215477923232环境友好123326312115人类为中心3286317511764心理525712就业95121121信任1894378
23、8664风险(危机)3414335412合作(沟通、协调)51215963462 主范畴“制度体系”及“监管与责任”两个部分与 Post-ELSI 框架下的法律保障下的关键词重合节点较多,且我国较之其他国家更为重视该领域。“体系”、“确权”、“安全”、“人才”贯穿我国人工智能政策顶层设计,出现频数远高于其他国家。尤其是,我国重视人工智能人才的培育。2020 年教育部、国家发改委和财政部联合印发 关于“双一流”建设高校促进学科融合 加快人工智能领域研究生培养的若干意见,提到将人工智能纳入“国家关键领域急需高层次人才培养专项招生计划”,“强化产教融合,构建自主创新和人才培养共同体”,这将为我国抢抓
24、新一轮科技革命和产业变革机遇提供强有力的人才支撑。3 各国及欧盟人工智能政策关于社会治理主题词的频数和比例均处于中等水平。日本27较之其他国家在这一方面有较高关注度,“合作”、“治理”、“信任”等关键词出现的频率均较高。日本在2019 年成立“以人为本的人工智能社会准则委员会”,并发布以人为核心的人工智能的社会准则,提出“为了使 5 0 社会尽可能有效,所有利益相关者必须相互密切合作和互动”,表明日本从政策制定角度逐步完善交流合作的体制机制建设。美国在保持美国人工智能的领导力 强调“促进支持研究,保护美国的技术优势,免受竞争对手的影响”,并通过采取对众多人工智能产品限制出口、贸易协议中施压等方
25、式,阻碍竞争对手超越其在人工智能领域的领导地位。日本和美国的人工智能政策都强调内部利益相关者的合作,以保证各自在人工智能领域的地位。(二)基于 Post-ELSI 的人工智能政策措施分析人工智能政策措施是人工智能政策内容制定和 执 行 的 重 要 方 法 和 路 径。基 于 Nvi-vo12plus 工具的矩阵编码功能,对各国人工智能政策文本中主要任务创建节点并进行编码,再按照人工智能政策措施主题名称筛选查验,并根据人工智能政策高频关键词的关联度合并节点,形成各国人工智能政策措施的六大类别(如表 4 所示)。1 各国及欧盟在政策措施上均提到建构安全风险评估、预警及监管体系,以应对人工智能发展过
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 Post ELSI 智能 政策 国际 比较 经验 张成岗
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。