2022年可信人工智能产业生态发展报告.pdf
《2022年可信人工智能产业生态发展报告.pdf》由会员分享,可在线阅读,更多相关《2022年可信人工智能产业生态发展报告.pdf(63页珍藏版)》请在咨信网上搜索。
1、可信人工智能产业生态可信人工智能产业生态 发展发展报告报告 (20222022 年年)中国信息通信研究院华东分院 中国信息通信研究院云计算与大数据研究所 2022 年 9 月 前前 言言 随着新一轮科技革命和产业变革的深入推进,人工智能呈现爆发式成长,广泛应用于日常生产、生活的方方面面,社会各界对可信品质的关注度也提升到了前所未有的高度。近年来,各界均在不断探索将更多的可信理念从基础能力、算法技术、应用场景和产品设备等不同层面进行融合实践,实现了人工智能在安全性、可靠性、可解释、可问责等一系列内在属性的可信赖程度逐步提升,为构建我国可信人工智能产业生态提供了有益参考。为广泛吸纳产学研用各界的优
2、秀经验,中国信息通信研究院联合京东探索研究院及政产学研多家单位共同编写可信人工智能产业生态发展报告,对人工智能产业融合可信要素的发展态势进行总体分析,研判发展趋势并提出措施建议,希望能为社会各界提供借鉴和参考。报告主要观点如下:全球可信人工智能发展态势向好。人工智能监管向立法执法拓展,欧盟发布全球首部人工智能法案,美国推出2022 算法问责法案,中国人工智能地方立法相继落地;稳定性、隐私保护成为热点,可解释性、公平性等研究正逐步开展;标准层面,行业组织、企业和研究机构共同推进,全力打造可信 AI 标准体系。可信人工智能产业生态加快形成。可信人工智能伦理、法律研究进一步深入,在硬件、技术、应用及
3、支撑体系等层面蓬勃发展,形成兼顾稳定性、可解释性、隐私保护和公平性,涵盖基础硬件、技术平台、产品设备、应用场景等多元化产业生态。未来,可信人工智能向着形成产业共识、突出理念落地、优化技术布局、注重动态平衡、强化多元主体发展。凝聚强化产业共识,进一步向具体实践迈进,可信人工智能一体化研究和技术发展加速创新,能力之间的动态平衡引发更多关注,并形成了多元化主体参与的可信人工智能生态。建议从加强要素协同、前瞻布局研究、健全标准体系、强化可信流程管理、推动产业交流合作等方面推动深入落地。协调制度、技术、人员整体推进;前瞻布局技术研究,将可信理念融入全流程管理;健全标准评估体系,系统性推进更多领域可信落地
4、;强化产业交流合作,共同打造可信产业生态朋友圈。可信人工智能正处于飞速发展阶段,我们的认识有待不断深化,报告存在不足之处,烦请不吝指正。目目 录录 一、可信人工智能发展背景.1(一)基本内涵.1(二)发展意义.4 二、可信人工智能发展态势.5(一)总体发展.5(二)政策规划.9(三)技术进展.10(四)标准建设.13 三、可信人工智能生态分析.16(一)基础能力.16(二)算法技术.23(三)应用场景.29(四)产品设备.39 四、可信人工智能前景展望.49(一)未来发展趋势.49(二)产业发展建议.52 图图 目目 录录 图 1 全球主要国家及组织可信人工智能发展动向.6 图 2 全球可信人
5、工智能产业生态实践图.7 图 3 可信人工智能相关政策发展历程.10 图 4 可信人工智能领域论文数量(2017-2022.4).11 图 5 全球/中国可信人工智能领域专利申请量(2017-2022.4).12 图 6 可信人工智能领域专利申请量技术分布(2017-2022.4).13 图 7 平台系统领域的典型可信应用.17 图 8 数据要素领域的典型可信应用.20 图 9 计算能力领域的典型应用.22 图 10 计算机视觉领域典型可信应用.24 图 11 智能语音领域的典型可信应用.27 图 12 自然语言处理领域的典型可信应用.28 图 13 智慧金融领域的典型可信需求与实践.30 图
6、 14 智慧医疗领域的典型可信需求与实践.32 图 15 智慧教育领域的典型可信需求与实践.35 图 16 智能制造领域的典型可信需求与实践.36 图 17 智慧政务领域的典型可信需求与实践.39 图 18 医疗设备与器械领域的典型可信需求与实践.40 图 19 智能终端领域的典型可信需求与实践.42 图 20 智能驾驶领域的典型可信需求与实践.45 图 21 智能机器人领域的典型可信需求与实践.46 图 22 虚拟现实设备领域的典型可信需求与实践.48 表表 目目 录录 表 1 主流可信人工智能概念梳理.1 表 2 主要国际组织可信人工智能标准进展.14 可信人工智能产业生态发展报告(202
7、2 年)1 一、可信人工智能发展背景一、可信人工智能发展背景(一)基本内涵(一)基本内涵 可信人工智能并不是一个新名词,随着可信实践的深入,产业界对可信人工智能的认识也在不断深化。目前关于可信人工智能概念解释繁多,我们梳理了一些具有代表性的观点。业界除了关注透明度、隐私保护、责任、公平等方面,近年更强调“人类对可信人工智能认识及素养的提升”以及“对提升人工智能可信度的可持续性工具的提出”。表 1 主流可信人工智能概念梳理 国家国家/组组织织 时间时间 文件文件/项目项目 内涵内涵 美国 2019.10 人工智能原则:国防部应用人工智能伦理建议 1)负责任;2)公平性;3)可追溯性;4)可靠性;
8、5)可控性 2021.07“可信及负责任人工智能”项目 1)准确性;2)可解释性;3)隐私;4)可靠性;5)稳健性;6)安全性;7)减少有害偏见 2021.11 人工智能指南道德标准 人工智能系统开发、测试和审查符合最高公平性、问责制和透明度标准 欧盟 2017.01 关于机器人民事法规则的欧洲委员会建议 1)自由;2)隐私;3)正值和尊严;4)自决和不歧视;5)个人数据保护 2019.04 人 工 智 能 道 德 准则 1)受人类监管;2)技术的稳健性和安全性;3)隐私和数据管理;4)透明度;5)多样性、非歧视性和公平性;6)社会和环境福祉;7)问责制 日本 2017.02 人工智能学会伦理
9、指针 1)对人类的贡献;2)遵守法律规则;3)尊重他人隐私权;4)公正性;5)安全性;6)诚信行为;7)对社会的责任 可信人工智能产业生态发展报告(2022 年)2 2017.07 AI发展纲领 开发者参照技术的特性在可能的范围内,应努力排除包含 AI 系统学习数据在内,所形成的一切偏见和其他不当差别对待的措施;开发者应遵守国际人权法、国际人道法,随时注意 AI 系统是否有不符合人类价值的行为 2019.03 以人为中心的人工智能社会原则 1)以人为中心;2)教育应用;3)隐私保护;4)安全保障;5)公平竞争;6)公平;7)问责和透明;8)创新 加拿大 2018.12 可靠的人工智能草案蒙特利
10、尔宣言 1)福祉;2)自主;3)正义;4)隐私;5)知识;6)民主;7)责任 澳大利亚 2019.11 澳大利亚人工智能伦理框架 1)人类、社会和环境福祉;2)以人为本的价值观;3)公平;4)隐私保护和安全;5)可靠性和安全性;6)透明度和可解释性;7)可争论性;8)问责性 新西兰 2020.03 新西兰值得信赖的人 工 智 能 的 指 导 原则 1)公平和正义;2)可靠性、安全性和私密性;3)透明度;4)人类的监督和责任;5)福利 韩国 2020.12 国家人工智能伦理标准 1)人权保障;2)隐私保护;3)尊重多样性;4)禁止侵权;5)社会宣传;6)主体合作;7)数据管理;8)明确责任;9)
11、确保安全;10)透明度 中国 2017.11 S36 香山会议 中国科学院何积丰院士首次提出可信人工智能,包含人、信息、物理三大要素 2019.08 人工智能行业自律公约 1)安全可控;2)透明可释;3);保护隐私;4)明确责任;5)多元包容 2019.09 新一代人工智能伦理规范 1)增进人类福祉;2)促进公平公正;3)保护隐私安全;4)确保可控可信;5)强化责任担当;6)提升伦理素养 2021.07 可信人工智能白皮书 可信人工智能是从技术和工程实践的角度,落实伦理治理要求,实现创新发展和风险治理的有效平衡。可信包含可靠可控、透明可释、数据保护、明确责任、多元包容 5项可信要素 可信人工智
12、能产业生态发展报告(2022 年)3 生命未来研究机构 2017.02 阿西洛马 AI原则 安全性、故障透明性、司法透明性、责任、价值观的调和、人类价值观、个人隐私权、自由和隐私、共享利益、共享繁荣、人类控制、非破坏 IEEE 2017.03 旨在推进人工智能和自治系统的伦理设计的 IEEE全球倡议书 1)人权;2)福祉;3)问责;4)透明;5)慎用 G20 2019.06 G20 人工智能原则 1)包容性增长、可持续发展及人类福祉;2)以人为本的价值观和公平;3)透明度和可解释性;4)健壮性、信息安全性和物理安全性;5)问责制 世界卫生组织 2021.06 健康领域人工智能伦理与治理指南 1
13、)保护自主权;2)促进人类安全和福祉;3)确保透明度;4)促进问责制;5)确保公平;6)促进具有响应性和可持续性的工具 联合国教科文组织 2021.11 人工智能伦理问题建议书 1)相称性和不损害;2)安全和安保;3)公平和非歧视;4)可持续性;5)隐私权和数据保护;6)透明度和可解释性;7)责任和问责;8)人类的监督和决定;9)认识和素养 资料来源:根据公开资料整理 针对人工智能产业现状,切实结合当前发展需求,我们认为可信人工智能白皮书中对“可信人工智能”的表述更为贴切,因此本报告将沿用中国信通院所提出的内涵,即“可信反映了人工智能系统、产品和服务在安全性、可靠性、可解释、可问责等一系列内在
14、属性的可信赖程度。”基于这一内涵,企业、院校和各类机构等各类参与者,在人工智能产业各个环节中,秉持可信理念,将可信贯穿研发、生产、经营等内部全流程,落实于算力、算法、数据等产业核心要素中,打造出全面融合可信要素的人工智能产业,构建形成了可信的人工智能产业生态。可信人工智能产业生态发展报告(2022 年)4(二)发展意义(二)发展意义 人工智能作为新一轮科技革命和产业变革的重要驱动力量,广泛应用于医疗、金融、交通等领域,带来了巨大的经济效益与社会效益。据 IDC 相关数据,2021 年全球人工智能产业规模为 3619 亿美元,并预计在 2022 年同比增长 19.6%,超过到 4300 亿美元。
15、然而随着人工智能应用的深入,其自身的技术缺陷以及带来的决策偏见、使用安全等问题引发了信任危机,可信成为关注焦点。技术上,算法脆弱易受攻击带来的危险性;黑箱模型导致算法不透明,使得人们无法直观理解决策背后的原因。应用上,训练数据中存在的偏见歧视导致公平性缺失;以人脸识别技术为代表的生物识别信息的频繁使用增加了隐私泄露的可能。伦理上,人工智能系统决策复杂,难以界定责任主体,带来伦理安全问题。构建可信人工智能成为缓解和消除这些担忧的必然选择。学术界率先推开了可信人工智能的大门,在可信人工智能概念提出后,逐步推广可信共识。2020 年起,可信人工智能领域研究论文数量飞速增长,围绕鲁棒性、可解释性、隐私
16、保护等方面的技术研究持续升温。随着产业界开始落地实践,针对人工智能产业化过程中的可信探索与实践不断成熟,融合可信要素的人工智能产业生态开始兴起。可信已经成为人工智能产业发展必备要素,驱动人工智能规范发展。人工智能只有可信可靠,才能获得可持续性发展。对用户而言,可信要素将推动人工智能技术黑箱趋于透明,增强用户对人工可信人工智能产业生态发展报告(2022 年)5 智能的信任感。对开发者而言,可解释的人工智能有助于全生命周期的企业管理,有助于履行内部报告和外部监管合规义务,确保应用和服务在最大程度上减少偏见。可信作为传统领域数字化转型赋能因子,培育数字经济新兴增长点。随着人工智能产业对可信的探索与实
17、践不断成熟,其代表的透明度高、可解释性强、确定性高的特性将与国防、法律、医疗等领域深度结合,缓解当前应用人工智能时所遇到的隐私保护、系统稳定等问题,以可信赋能数字化转型,甚至衍生出新的细分领域赛道,促进传统产业生态健康高质量发展,成为数字经济新的可持续增长点。二、可信人工智能发展态势二、可信人工智能发展态势(一)总体发展(一)总体发展 可信人工智能处于快速发展中。2017 年可信人工智能的概念正式提出后,各国积极开展研究,随后可信理念深入到人工智能全生命周期,各项人工智能监管指南相继推出,2021 年后融合可信要素的人工智能产业生态开始构建。目前,企业已成为实践可信人工智能的主要力量,各大高校
18、与行业组织也在积极同步推进打造人工智能可信生态环境。可信人工智能产业生态发展报告(2022 年)6 资料来源:中国信息通信研究院整理 图 1 全球主要国家及组织可信人工智能发展动向 总体来看,可信人工智能的发展与各国人工智能产业基础紧密关联,随着人工智能产业化过程中可信要素的融入,企业日益成为可信人工智能实践主体。以微软、谷歌为代表的美国科技巨头通过内部开设人工智能伦理委员会,以及发布专注于人工智能可解释、公平性等伦理服务及工具,开展可信人工智能探索工作;以商汤、腾讯为代表的中国头部科技企业通过发布行业内人工智能可解释、伦理等领域专业报告,分享各自在可信 AI 技术、标准、服务等相关实践;以
19、SynSence 为代表的欧洲企业通过在自身产品中融合可信元素,以提高 AI 工具服务的可信度;以 GuardKnox 为代表的以色列企业致力于将安全融入到智慧交通领域,实现“零信任”;以三星为代表的日韩企业则注重人工智能行业应用中隐私安全的保障。可信人工智能产业生态发展报告(2022 年)7 资料来源:中国信息通信研究院整理 图 2 全球可信人工智能产业生态实践图 在可信人工智能实践上,世界各国高度重视,在政策、技术、标准的研究制定上均采取了相关措施。美国、欧盟、中国依托人工智能技术、人才、产业优势,在可信人工智能研究及治理实践上处于全球领先,成为全球可信人工智能领跑者;以日本、韩国、加拿大
20、等为代表的人工智能第二发展梯队的追赶正在加速,试图通过构建人工智能伦理标准打造人工智能健康发展环境。政策发布上,全球持续探索人工智能立法,推动可信人工智能范式法制化。自 2021 年以来,从欧盟发布人工智能领域的第一份综合性法案人工智能法案,到美国推出2022 算法问责法案,再到中国深圳、上海等各地方相继推动人工智能立法条例。各国针对人工智能算法的监测、人工智能应用的审查的相关监管法规不断增加,人工智能治理已进入建章立制阶段。可信人工智能产业生态发展报告(2022 年)8 技术研究上,提升人工智能系统稳定性、隐私保护技术占据可信人工智能技术研究主流,可解释性、公平性等技术研究紧随其后。当前以对
21、抗训练、梯度屏蔽为代表的人工智能系统稳定性技术稳步发展,技术重点从数字域逐步向物理域扩展12,人工智能系统的稳定性测试技术成为科技巨头布局方向;以同态加密、多方安全计算、差分隐私等为代表的隐私安全技术发展迅速34,全球隐私计算专利数量迎来井喷;人工智能可解释性增强技术研究当前仍处于初期阶段,以谷歌、IBM、微软、腾讯为代表的科技巨头推出多个AI 可解释性工具及服务;提升人工智能公平性主流方法分别从数据和技术两方面入手,通过构建完整异构数据集及引入公平决策量化指标算法,以减轻决策偏差。标准研制上,行业组织成为可信人工智能标准重要推进者,涵盖多个可信人工智能领域。国际标准化组织和国际电工委员ISO
22、/IEC 布局最早,涉及 AI 系统偏差、风险管理、AI 系统质量模型、神经网络鲁棒性等;电气和电子工程师协会(IEEE)主要以隐私、可解释为突破点;中国人工智能产业发展联盟(AIIA)牵头制定了可信 AI 操作指引,成立人工智能治理与可信委员会,并持续开展可信 AI 测试工具征集和可信 AI 试评估等落地实践。自 2021年起,中美两国加快了对可信人工智能领域标准研制工作的步伐,美国发布人工智能风险管理框架概念文件旨在降低人工智能系统风险;全国信标委人工智能分委会作为中国可信人工智能标准主可信人工智能产业生态发展报告(2022 年)9 要研制单位,持续推动人工智能 可信赖规范 第一部分:通用
23、要求等可信赖人工智能标准系列研究工作。(二)政策规划(二)政策规划 2017 年以来,全球各个国家(地区)在可信人工智能领域进行了广泛的政策部署,内容主要涉及伦理道德、隐私保护、负责任、公平性、安全性等层面,在实施路径与侧重点方面体现出了一定的特色与差异。美国以政府和行业双轮驱动 AI 创新发展,维护人工智能领域的全球领导地位。美国以推动快速发展、降低创新门槛以及成本最小化为宗旨,政府和行业共同发力。一是制定基于性能的灵活性框架,权衡 AI 技术创新利弊,以适应 AI 应用程序的快速迭代和更新;二是设立行业准则、“安全港”、灵活监管、监管例外、监管豁免等内容,促进效益最大化的同时最小化潜在风险
24、;三是制定可信 AI标准指南为产业创新与发展提供详细路线图。欧盟致力于构建 AI 信任生态系统与监管框架,确保成为数字化转型的领先者。一是以合法性、伦理性和鲁棒性为基准制定可信人工智能框架,提出了实现可信 AI 的方法与评价准则,为培育可信生态提供参照;二是通过发布走向卓越与信任欧盟人工智能监管新路径,依托私营与公共投资的相互合作,为建立可信 AI 生态创造政策环境;三是规划制定人工智能法并定位全球最高标准,通过制订灵活完整的规则为可信应用生态提供法制保障。可信人工智能产业生态发展报告(2022 年)10 我国协调发展与治理,凭借规范化治理确保人工智能可信赖。一是从规则、标准、评估、管控等层面
25、的战略角度出发,协调并明确发展与治理的关系;二是通过成立新一代人工智能治理专业委员会,为人工智能治理框架和行动指南提供技术与规则支撑,积极引导全社会负责任地开展 AI 研发与应用活动;三是通过在个人信息保护、网络安全、数据安全等领域强化立法与执法力度,构建可信人工智能底层要素的坚固法律体系,进而确保各领域应用安全可靠。资料来源:根据公开资料整理 图 3 可信人工智能相关政策发展历程(三)技术进展(三)技术进展 当前对于可信人工智能技术聚焦在提升人工智能系统稳定性、可解释性、隐私保护、公平性等方面,这些技术构成了可信人工智能的基础支撑能力。我们结合当前产业与技术发展最新趋势及热点,对相关文献及专
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 2022 可信 人工智能 产业 生态 发展 报告
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【Stan****Shan】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【Stan****Shan】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。