我国算法治理政策法规内容及框架分析.pdf
《我国算法治理政策法规内容及框架分析.pdf》由会员分享,可在线阅读,更多相关《我国算法治理政策法规内容及框架分析.pdf(13页珍藏版)》请在咨信网上搜索。
1、收稿日期:基金项目:国家社会科学基金一般项目“数智环境下情报分析算法风险治理路径研究”(项目编号:)。作者简介:张涛(),男,副教授,博士,硕士生导师,研究方向:政策文本计算,数据与算法安全治理。韦晓霞(),女,硕士研究生,研究方向:算法治理政策与法律。数据共享与数据治理我国算法治理政策法规内容及框架分析张 涛 韦晓霞(黑龙江大学信息管理学院,黑龙江 哈尔滨)摘 要:目的 意义 数智时代算法在经济社会发展过程中发挥了重要作用,算法治理逐渐进入公众视野,算法治理目标的实现必须依靠各种政策法规的组合搭配,对我国算法治理政策法规现状的分析有助于促进算法健康、有序、繁荣发展。方法 过程 本文借助 质性
2、文本分析软件,以我国 部算法治理政策法规为样本,对其内容进行编码分析,同时提取概括出我国算法治理政策法规框架。结果 结论 我国算法治理当前存在缺乏总领性法律引导、主题分布不均衡、行业标准规范不细化、尚无地方专项政策的问题。基于此,本文提出我国应从提升算法治理“力度深度精度广度”入手,逐步将较为零散的算法治理政策法规聚合成为具有中国特色的算法治理政策法规体系。关键词:算法治理;质性文本分析;政策文本分析;算法治理政策法规:中图分类号;文献标识码 文章编号 ()(,):,:“,”,“”,:;年 月第 卷第 期现 代 情 报 ,年 月,习近平总书记在党的二十大报告中强调,提高防范化解重大风险能力,严
3、密防范系统性安全风险,同时加快建设数字中国的决策部署,而加强算法风险防范与治理研究符合总体国家安全发展战略需求与战略导向。随着新一代人工智能正在全球范围内蓬勃兴起,为经济社会发展注入新动能的同时,也在深刻改变人们的生产生活方式。作为人工智能的核心要素之一,算法从底层影响着人类社会的发展与变迁,并潜移默化地改写着人类社会发展逻辑,算法黑箱、算法共谋、算法歧视、算法偏见等风险也随之而来,为社会稳定及国家安全带来了深远的影响。近年来,今日头条、快手、滴滴、美团等平台的一系列算法安全事件将算法推向风口浪尖,算法严重影响民众的认知与判断,一经发布也引起了社会各界对 算法运用将引发的知识产权问题、安全和隐
4、私问题、道德和伦理问题的担忧。年 月,互联网信息服务算法推荐管理规定 正式实施,旨在对算法推荐进行规制,确保用户隐私和数据安全,这意味着算法将告别野蛮生长阶段,被全面纳入国家监管视野,在未来一段时间内,国家将在算法治理各领域各行业细化布局。我国已经在算法治理方面取得了一些成就,但由于起步较晚,与欧美国家(地区)仍存在一定差距,因此,准确地对我国算法治理政策法规的现状及问题进行分析具有重要的现实意义。近年来,算法治理逐步成为学术研究热点,但通过中国知网检索发现,国内对算法治理政策法规文本的研究较少,如魏俊斌认为,关于加强互联网信息服务算法综合治理的指导意见 与 互联网信息服务算法推荐管理规定 的
5、出台为思想政治教育网络智能环境的治理奠定了法制基础,未来应该强化算法监管,维护教育领域数据安全。方师师从算法治理的政策矩阵出发,梳理了 互联网信息服务算法推荐管理规定 中相关联的政策矩阵,从管理导向、场景适用、记录铭刻 个层面进行解读。张凌寒从法学视角切入,对 中华人民共和国电子商务法 中体现平台算法责任的条款进行分析,对 中华人民共和国个人信息保护法 中有关平台算法自动化决策治理基本框架展开探讨,提出建立平台算法的多元治理体系与层次明晰的平台算法责任体系。当前算法治理政策法规研究主要集中于对单一算法治理政策法规的解读,尚缺乏从全局视角对我国算法治理政策法规现状的分析。因此,本文借助 质性分析
6、软件,对我国 部算法治理政策法规进行内容分析,研究旨在解决以下 个问题:一是从内容上分析我国算法治理政策法规现状;二是梳理当前我国算法治理政策法规框架;三是基于现有问题有针对性地提出我国算法治理对策建议,旨在为我国算法治理政策法规制定和优化提供参考。研究方法与过程 数据选取政策文本是公众了解国家政治方针的直接路径,也是政策研究的重要工具和载体。由于我国直接以“算法”或“算法治理”命名的政策仅有 互联网信息服务算法推荐管理规定(以下简称规定)关于加强互联网信息服务算法综合治理的指导意见(以下简称指导意见)两部,而其他的“算法治理”多嵌入于其他政策法规中,如中华人民共和国电子商务法 明确了平台运行
7、过程中的算法规范与责任;中华人民共和国个人信息保护法 确立了我国算法自动化决策治理的基本框架。本文综合已有算法治理相关文献,选取当前与算法治理密切相关的 份政策法规作为分析样本,如表 所示,包括全国人民代表大会、国家互联网信息办公室等颁布的 部中央层面的政策法规,以及全国信息安全标准化技术委员会、国家新一代人工智能治理专业委员会等发布的 部行业层面的政策。研究过程本文利用质性分析工具 对我国算法治理政策法规文本进行量化研究,研究重点在于对我国算法治理政策法规内容及框架进行分析,具体研究过程如下:以 指导意见 和 规定 两部政策为核心,综合 部算法治理政策法规内容,同时,参照张凌寒论著中所提出的
8、基于事前、事中、事后的算法治理框架,确定预编码规则;研究团队对 的政策样本进行预编码,根据预编码结果,进一步修正完善确定最终编码规则;年 月第 卷第 期我国算法治理政策法规内容及框架分析,表 我国算法治理政策法规列表层级发布日期政策名称发文机关中央层面 年 月中华人民共和国电子商务法全国人民代表大会 年 月关于平台经济领域的反垄断指南国务院反垄断委员会 年 月中华人民共和国个人信息保护法全国人民代表大会 年 月关于加强互联网信息服务算法综合治理的指导意见国家互联网信息办公室、中央宣传部、教育部、科学技术部、工业和信息化部、公安部、文化和旅游部、国家市场监督管理总局、国家广播电视总局 年 月关于
9、推动平台经济规范健康持续发展的若干意见国家发展改革委、市场监管总局、中央网信办、工业和信息化部、人力资源社会保障部、农业农村部、商务部、人民银行税务总局 年 月互联网信息服务算法推荐管理规定国家互联网信息办公室、工业和信息化部、公安部、市场监管总局 年 月互联网信息服务深度合成管理规定国家互联网信息办公室、工业和信息化部、公安部行业层面 年 月人工智能深度学习算法评估规范中国电子技术标准化研究院、中科院软件所 年 月人工智能数据安全风险与治理赛博研究院、上海观安信息技术股份有限公司 年 月网络安全标准实践指南人工智能伦理安全风险防范指引全国信息安全标准化技术委员会 年 月信息安全技术机器学习算
10、法安全评估规范 国家标准(征求意见稿)全国信息安全标准化技术委员会 年 月新一代人工智能伦理规范国家新一代人工智能治理专业委员会随后团队两名成员采用背对背文本分析方式对文本进行编码,对编码一致的数据进行合并,剩余不确定的数据进行讨论并完成编码;从中央和行业两个层面对算法治理政策法规内容分析;基于既有政策法规分析结果,形成了“概述层规范层流程层”的算法治理政策法规三维框架;通过梳理总结我国算法治理政策法规现存在的问题,有针对性地从治理“力度精度深度广度”视角提出对策建议。文本编码本研究采用归纳式类目构建方法,针对政策文本直接构建分析类目。首先针对算法治理政策法规文本内容划分 个一级类目,然后采用
11、 中所提出的具体编码思路划分为 个二级类目,最后针对算法治理各阶段的观测要点划分为 个三级类目。本研究借助 质性分析软件形成我国算法治理政策法规文本编码类目表,如表 所示。我国算法治理政策法规内容分析本文从中央和行业两个层面对我国算法治理政策法规内容进行分析,旨在揭示我国算法治理政策法规的现状。中央层面对 部中央层面算法治理政策法规进行编码分析发现,信息服务规范(次)、算法监管(次)、算法问责(次)、用户权益保护(次)方面词频较高,合计占比约,如图 所示,气泡大小表示单部政策法规关注某一类别内容的多少,气泡密集则表示多部政策法规集中关注某一类别,政策法规内容多分散在多个二级类目中,且分布较为均
12、衡。总体来说,中央层面算法治理政策法规关注是宏观层面的顶层设计,具有一定引领性。)中华人民共和国电子商务法 首次明确了对网络交易平台日常运营中的算法规范,以及网络交易平台因不当部署、应用算法所应承担的法律责任。算法问责(次)和信息服务规范(次)两个类目词频较高,其中第 条首次提出推荐算法应提供非个性化的一般搜索结果,即算法个性化推荐必须尊重和平等对待每一位消费者;第 条明确规定不得利用技术手段对交易进行不合理限制,年 月第 卷第 期现 代 情 报 ,表 我国算法治理政策法规文本编码类目表一级类目二级类目三级类目类目描述编码参考点政策概述政策主体是否说明参与政策制定、执行、监督和审查的个人或组织
13、,包括全国人大、国家互联网信息办公室、发展改革委等政策客体是否说明政策适用的对象(如从事人工智能管理、研发、供应、使用等相关活动的自然人、法人和其他相关机构等)政策目标是否说明政策制定的目标(如旨在将伦理道德融入人工智能全生命周期,促进公平、公正、和谐、安全,避免偏见、歧视、隐私和信息泄露等问题)政策范围是否明确说明在政策实施过程中,其他相关的中央及行业层面的政策法规应优先于本政策政策内容算法生态规范算法导向正确是否要求在算法应用过程中坚持主流价值导向,引导算法向上向善发展算法公开透明是否要求坚持公平公正原则,规范算法应用行为,促进算法公开透明算法创新发展是否要求加强算法创新能力,积极开展研发
14、工作,支持算法与社会、经济各领域深度结合算法滥用风险是否要求维护基本网络空间秩序,防范算法滥用行为带来的风险隐患算法伦理规范基本伦理规范是否明确说明从事算法相关活动过程中应遵守的伦理规范,如增进人类福祉、保证隐私安全等管理规范是否明确说明算法管理活动过程中应遵守的规范,如推动敏捷治理、总结实践经验等研发规范是否明确说明算法研发活动过程中应遵守的规范,如加强自我约束、将伦理道德融入技术研发环节等供应规范是否明确说明算法供应活动过程中应遵守的规范,如尊重市场规则、不破坏有序竞争、保障用户权益等使用规范是否明确说明算法使用活动过程中应遵守的规范,如加强产品使用前评估、及时反馈相关问题等信息服务规范用
15、户推送管理是否规定不得将违法和不良信息关键词作为用户标签,据此推送信息页面生态管理是否规定在首屏首页、精选推荐等重点环节呈现的信息要符合主流价值导向信息内容标识是否规定使用算法技术生成或编辑后的内容,需要添加不影响用户使用的标识信息安全管理是否要求建立健全识别违法和不良信息的特征库,完善入库标准、规则和程序,是否明确规定发现违法和不良信息后的处理机制新闻信息服务是否明确说明利用算法提供新闻信息服务,需要获得相应许可,依法开展新闻服务算法设计过程是否要求加强技术管理,定期审核、评估算法机制机理,并且不得设置违反法律法规或伦理道德的算法模型算法安全主体责任是否要求落实算法安全责任,建立健全基础制度
16、和措施,配备专业人员、技术保障 年 月第 卷第 期我国算法治理政策法规内容及框架分析,表 (续)一级类目二级类目三级类目类目描述编码参考点政策内容信息服务规范数据安全与质量保障是否要求保障训练数据安全,增强训练数据集质量,防止训练数据隐私信息丢失规则透明度是否要求优化检索、排序、推送等规则的透明度和可解释性,预防、减少用户争议纠纷个人信息认证是否要求基于移动电话号码、身份证件号码等方式依法对用户进行真实身份信息认证个人信息保护是否规定不得过度采集用户敏感信息,违背个人信息安全规范,导致个人信息泄露自动化决策是否要求利用个人信息进行自动化决策时,需要保证决策公平透明,不得实行差别待遇干预信息呈现
17、是否规定不得利用算法屏蔽信息、过度推荐等影响网络舆论,规避监督管理行为不正当竞争行为是否规定不得利用算法妨碍、破坏其他事务正常运行,实施垄断和不正当竞争行为用户权益保护用户申诉权是否要求设置便捷有效的用户申诉和公众投诉入口,明确处理流程和反馈时限,及时受理、处理并反馈处理结果用户算法知情权是否以显著方式告知用户算法基本情况,向用户及时、准确、完整、清晰、无歧义地解释相关活动用户算法选择权是否要求向用户提供便捷的关闭算法应用活动的选项,用户个人有权要求进行算法说明、解释特殊群体权益保护是否针对未成年人、老年人、劳动者、消费者等特殊群体,根据其兴趣爱好、消费习惯等特征提供单独选项算法分级分类算法分
18、类是否明确说明对算法进行分类,如按内容类别划分,实施专项治理算法分级是否明确说明对算法进行分级,如按风险等级划分,有效识别高风险类算法算法备案算法备案要求是否要求建立算法备案制度,梳理算法备案基本情况,明确算法备案范围,有序开展备案工作算法备案流程是否明确说明算法备案所需时间期限、备案系统、填报内容等信息算法备案变更是否明确说明变更备案信息的时间期限、内容等要求算法备案公示是否要求在对外提供服务的网站、应用程序等平台的显著位置标明其备案编号,并提供公示信息链接算法备案注销是否明确说明备案注销需注意的时间期限以及其他信息算法评估安全评估规范是否要求积极开展算法安全评估,组织建立专业技术评估队伍,
19、深入分析算法机制机理,提出针对性应对措施安全评估流程是否明确说明算法评估的流程以及各流程的评估范围、评估目标等算法监管信息保密是否规定履行职责中知悉的个人隐私、个人信息和商业秘密应当依法予以保密,不得泄露或者非法向他人提供算法监测是否要求有效检测算法安全风险,对算法的数据使用、应用场景、影响效果等开展日常监测工作监管模式创新是否要求持续推进监管模式创新,推进监管模式与算法技术协同发展,防范监管模式落后导致的算法安全风险 年 月第 卷第 期现 代 情 报 ,表 (续)一级类目二级类目三级类目类目描述编码参考点政策内容算法监管多元参与主体是否明确说明政府、企业、行业组织和网民需要共同努力,多主体协
20、同治理算法审计是否明确说明利用审计工具进行全面检测,定期进行合规检测算法问责违规追究责任是否明确说明违反政策条例后应追究相应法律责任违规取得备案是否明确说明通过隐瞒有关情况、提供虚假材料等不正当方式取得备案的,予以撤销备案、警告,情节严重的,责令暂停信息更新,并处罚款依法注销备案是否明确说明终止服务时应按规定要求办理注销备案手续提供针对个人特征选项是否利用搜索算法,根据消费者的消费习惯、兴趣爱好等特征向其提供特定搜索结果,未向消费者提供不针对其个人特征的选项限制平台交易是否利用技术手段,对平台内交易进行不合理限制或者附加不合理条件,或者向平台内经营者收取不合理费用图 中央层面政策内容分布气泡图
21、这是对滥用算法行为的规制;第 条明确表示竞价排名的商品或者服务必须显著标明广告。这些条款均体现了 中华人民共和国电子商务法 在平台算法应用规范与问责中的重要作用。)中华人民共和国个人信息保护法 确立了我国算法自动化决策治理的基本框架,为平台自动化决策的设计部署、运行与结果输出划定了合法边界。该法规多处提及利用个人信息进行自动化决策,其中包括信息服务规范主题中自动化决策词频为 次,用户推送管理词频为 次,该法规第 条提到利用自动化决策方式做出可能影响个人权益的决定时,个人有权要求做出情况说明,并有权拒绝该决定;算法评估词频为 次,第 条强调应当在事前进行个人信息保护的影响评估工 年 月第 卷第
22、期我国算法治理政策法规内容及框架分析,作,尤其针对利用个人信息进行自动化决策的行为。以上条款体现了 个人信息保护法 在算法自动化决策治理方面的立法思路。)关于加强互联网信息服务算法综合治理的指导意见 的出台,意味着对算法进行规制已经被中央层面纳入议程,指导意见 首次明确了“算法治理”的概念,并针对算法治理提出系统性、全面性的规范要求,其核心内容强调要利用 年左右时间,逐步建立起治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。算法监管词频为 次,其中算法监管部分着重强调参与主体的多元性,旨在形成政府监管、企业履责、行业自律、社会监督的算法安全多元共治局面。指导意见 中算法评估(次
23、)、算法备案(次)、算法分级分类(次)个类目虽然词频较低,但这些主题从宏观层面提出了算法治理的具体措施,为我国构建算法安全监管体系提供重要依据。)互联网信息服务算法推荐管理规定 是世界第一部系统性、全面性规制算法的法律文件,为国家建立算法安全治理体系打下制度基础。信息服务规范(次)、算法问责(次)、用户权益保护(次)个类目词频较高,能够看出 规定主要聚焦算法推荐服务乱象问题,有助于构建算法安全治理体系,有效规范了互联网信息服务算法推荐活动。同时,算法分级分类管理、建立算法备案制度、建立算法安全评估机制,开展算法监督检查、建立算法法律责任认定标准等内容、均能体现出规定 提出的贯穿算法推荐服务事前
24、、事中、事后监管的总体思路。)互联网信息服务深度合成管理规定(以下简称深度合成规定)是在我国加强互联网信息服务算法综合治理框架下展开的,该规定是我国开展算法治理工作的重要一环,标志着深度合成服务已成为我国算法治理中率先专门立法的算法服务类型。深度合成规定 的主题结构分布与 规定相似,信息服务规范(次)词频最高,其次为算法评估(次)、用户权益保护(次)、算法备案(次),词频分布相对均衡,深度合成规定 提出了从算法备案、算法评估、算法监管再到算法问责全流程规范思路。总体来说,中央层面已经明确深度合成服务范围内的算法治理工作思路,在此之后,行业组织还需要在生成合成类算法服务范围、深度合成技术具体范围
25、、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等方面进一步细化配套标准规范。)关于推动平台经济规范健康持续发展的若干意见(以下简称意见)和 关于平台经济领域的反垄断指南(以下简称指南)均是定位于平台经济,直指互联网平台企业面临的社会责任问题的文件,其目的在于促进平台经济规范有序创新健康持续发展。本研究只针对以上两部政策中与平台算法相关的内容进行编码,因此,在 意见内容结构分布中,算法监管(次)、信息服务规范(次)、用户权益保护(次)词频相对较高,意见 针对平台责任做出了明确的界定与要求,提出通过引入区块链、人工智能等新兴信息技术构建多元主体共享的监管信息平台。而 指南中突出
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 我国 算法 治理 政策法规 内容 框架 分析
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。