生成式人工智能视阈下算法审计的制度构建与路径创新.pdf
《生成式人工智能视阈下算法审计的制度构建与路径创新.pdf》由会员分享,可在线阅读,更多相关《生成式人工智能视阈下算法审计的制度构建与路径创新.pdf(7页珍藏版)》请在咨信网上搜索。
1、 年第 期(第 卷总第 期)生成式人工智能视阈下算法审计的制度构建与路径创新王兆毓(清华大学 法学院 北京)摘 要:随着文心一言、通义千问、等我国生成式人工智能算法研发与应用的落地 加快构建并完善面向生成式人工智能的算法治理已成为完善算法监管体系的题中之义 在算法治理体系之中 算法审计制度有利于算法异化与算法风险的纠偏问责 促进算法公平与数字正义的实质透明 并实现算法公开与商业秘密的张力弥合 从而成为算法规制的关键制度配置 在全流程治理视角下 唯有“用算法审计算法”实现书面合规审计与技术合规审计的协同并举 才能在算法内外部对算法的透明度、公平性、可控性、包容性和可问责进行多维视角的有效评估 而
2、在算法审计实践之中 现行法仍需完善刚柔并济的差序规制格局 巩固分类分级的精准治理 以实现算法审计内外兼修的制度衔接 促进算法治理从碎片化监管迈向更为一体化、敏捷化、精准化的治理格局关键词:算法审计 算法治理 透明度 个人信息保护中图分类号:文献标识码:/引用格式:王兆毓.生成式人工智能视阈下算法审计的制度构建与路径创新.网络安全与数据治理 ():.():.:基金项目:国家社会科学基金重大项目()引言随着信息技术的发展 算法已然在潜移默化地“编码”我们的生活 绘画工具、和生成式对话模型 等人工智能生成内容()一鸣惊人 作为支撑的生成式人工智能算法呈现出涌现性、拓展性、复合性等优势并成为人工智能的
3、全新热点 生成式人工智能算法已然能够在职位推荐、创意绘图、智慧医疗等诸多应用场景下提供高效的解决方案 与此同时 提示语注入攻击、“毒害”内容、深度合成图像侵权等外部性风险层出不穷 使得面向生成式人工智能的治理与监管呼之欲出 而作为算法监管的重要工具 算法审计制度投稿网址:年第 期(第 卷总第 期)已经在相关法律制度中得以明确并在算法治理体系中处于举足轻重的地位 年 月 中共中央 国务院关于构建数据基础制度更好发挥数据要素作用的意见(以下简称“数据二十条”)对外发布 进一步明确了建立数据要素生产流通使用全过程的算法审查制度 年 月 国家互联网信息办公室发布关于 生成式人工智能服务管理办法(征求意
4、见稿)(以下简称“生成式管理办法”)并公开征求意见 成为首部直接面向生成式人工智能的规范性文件 在此之余 如何针对生成式人工智能建立合法有效的算法审计制度 亟待理论与实践做出更有力的回应 算法审计的制度价值生成式人工智能以 模型和 模型等为基础 并通过注意力机制、强化学习等手段对结果进行优化 由此产生的大规模神经网络由于可解释性的欠缺而成为“算法黑箱”算法审计制度的价值便是以适度“打开”算法黑箱为起点 旨在建构实质意义上的算法公开 算法公开又可以从两种相互独立亦相互交织的表现形式得以实现:算法问责和算法透明 从算法公开的形式侧面审视 算法审计的价值在于通过面向算法异化与算法风险的纠偏实现算法问
5、责 从实质侧面审视 算法审计通过算法透明促进实质现实的算法公平与数字正义 从适正侧面审视 算法审计以适度性弥合算法公开、用户权益保护与商业秘密的制度张力 形式侧面:算法异化与算法风险的纠偏问责算法训练的过程是拟合输入与输出之间客观的相关关系 但以生成式人工智能为代表的人工智能技术仍不免是一种人为构建和实施的知识体系 当这一知识体系深度嵌入公民的日常生活 算法已成为社会权力体系中举足轻重的构成部分 欠完善的算法规制体系亟待现行法对算法的权力监管与算法侵害作出更有力的回应算法审计制度的价值基础 首先便在于对算法异化与算法风险的溯源纠偏算法审计是对算法设计、训练、验证整体过程的合法性评估 通过评估结
6、果使得用户对算法的外部风险建立合理预期 并监督算法开发者面向审计结果进行算法的整体迭代与优化 同时 算法审计揭示算法是否公平、是否存在歧视等合规的具体内容 成为用户面向算法侵害取得救济的间接依据 奠定算法在实质上的可问责体系 算法审计构建的针对算法异化与算法风险的纠偏问责体系 成为事前、事中、事后对用户权益全方位保障的治理基础 实质侧面:算法公平与数字正义的实质透明生成式人工智能等算法技术的应用正在无形之中刻画出“数字鸿沟”并加剧了组织间、企业间、国家间的发展差距 在平台与企业内部 算法为用户群体建立了差异化的“用户画像”甚至发展成为歧视性的定价方法或推荐机制 差异化的用户画像绝不应当成为数字
7、不平等、数字非正义的价值基础 但算法正在实质上强化这种数字社会的不平等与非正义为了消解鸿沟之下的算法暴政 算法透明成为数据时代公平和正义的全新导向 在生成式人工智能的诸多应用场景中 算法常常是不透明、不可解释、不容置疑的 非透明的算法应用场景下 用户受到负面评价可能仅仅是因为“算法说不”而缺乏相应的解释说明机制与决策透明化过程的呈现 算法审计制度在算法外部通过审计手段与审计技术 对算法内部进行实质的透明化 进而满足算法透明的价值导向和监管要求 并回应公民对于算法的不信任 因此 科学有效的审计制度是数字经济时代算法公平与数字正义的应有之义 适正侧面:算法公开与商业秘密的张力弥合生成式人工智能等算
8、法为企业提供高效、准确和自动化的决策支持 帮助企业优化业务流程、提高生产效率并降低运作成本 已发展成为企业的重要资产乃至核心竞争力 在司法实践中 算法常常受到商业秘密或知识产权的制度保护 但由此衍生的算法的秘密性为算法披上了“表面中立”的面纱 并将其“歧视本性”隐藏于算法黑箱背后为了规 制 算 法 黑箱 有 学 者 认 为 唯 有“打 开 黑箱”对算法设计和开发的过程进行详细解释与说明并进行全局开源或面向特定主体的局部开源方可行之有效地进行治理 然而算法透明度、算法解释与商业秘密、知识产权保护总是处在一种动态的制度张力之中盲目地打开算法黑箱会使制度张力失效而打破双方的利益平衡 此外 由于生成式
9、人工智能算法仅具有较低的算法可解释性 纵使通过算法开源打开了算法黑箱 可能仍然无法对其可能存在的异化风险进行完全评估而算法审计则不仅聚焦于算法内部的实现方法和效能评估 亦关注算法外部的结果分析和应用风险 进而可以在不打开算法黑箱的情况下对其建立适度的透明度与可解释性 弥合算法透明度、算法可解释性与商业秘密和知识产权保护的制度张力 兼顾算法开发者与算法使用者之间的利益平衡 算法审计的体系展开比较法视野下 欧盟的 人工智能提案()、美国的 算法问责法案()、加拿大的 自动化决策指令(数据治理 年第 期(第 卷总第 期)等已对算法治理提出了有效的规制方案结合域外相关立法与实践经验 我国算法审计的体系
10、展开 应当在全流程治理视角下明确算法审计的对象 结合书面合规审计和技术合规审计的审计方法 通过多元主体共治对透明度、公平性、可控性、包容性和可问责的多维视角具体展开 进而兼顾算法的共性与个性 平衡算法开发者与算法使用者的利益 并有效防范算法的异化风险 审计对象:全流程治理下的模块化审计从审计对象而言 为了平衡算法审计制度中对于审计公平、审计正义的价值追求以及审计可操作性、审计效率的实践需要 算法审计对象可以在全流程算法治理框架之下通过模块化解构得以明确全流程治理是指算法治理应当面向整个算法开发流程的需求、设计、开发、验证、应用、监测等全部流程旨在落实全流程、全方位、全周期的溯源治理 在数据安全
11、领域 数据“全生命周期”保护的理念已经得到制度落实 构建出全生命周期下数据处理者的一般义务与不同生命周期阶段下数据处理者的特殊义务相融合的规制路径 在算法治理的实践框架下 也应当相对应地树立算法的“全生命周期”全流程治理的监管理念但全流程治理并不意味着面向全流程的算法审计这会在实质上将数据治理、算法治理与平台治理的边界模糊化 最终导致不同治理路径之间难以分割 算法审计的实践路径亦难以明确 全流程治理的理念确立 恰恰是为了通过对于全流程的模块化解构而明确“算法”的概念与内涵 使得算法审计更具有明确性与可操作性在算法的工业开发中 主流开发流程框架包括但不限于微软团队的通用机器学习工作流()、团队数
12、据科学过程框架()和欧盟起草的跨行业数据挖掘标准流程()等 在算法审计的模块化解构之中 可以参考算法开发技术中的相关实现方式 通过对通用技术开发流的个性与共性的全局考量 将全流程算法治理的模块化设计分解为数据收集与处理、算法设计与训练和平台部署与应用 如图 所示 在模块化解构的视角下审视“算法”的外延及内涵 算法审计的“算法”并不只是一个静态的工程结果 而是动态的工程过程 算法是主要包括了模型训练、模型验证等的开发过程 是数据收集与处理的直接目的 也是后续平台部署与应用的基础图 通用算法开发流与算法审计的模块化解构注:以上对于开发流描述的流程图均为该流程的简化示意 实际开发工作中子流程之间往往
13、不是高度线性而是循环往复的 审计方法:书面合规审计和技术合规审计传统审计是国家授权或接受委托的专职机构和人员对被审计单位进行审查监督、评价经济责任等的一项独立性的经济监督活动 而算法审计在本质上亦是一种从算法外部所进行的独立的合规性分析与合法性监督活动 为达到审计效能 可以采取不同的审计方法或审计工具 进而衍生出书面合规审计与算法合规审计书面合规审计主要是通过被审计单位算法的需求设计、训练日志、验证结果等 从书面角度对算法合规需求的满足进行的定性分析 例如在荷兰的算法审计实践之中 审计框架的起点是七个通用问题 包括算法名称、算法应用过程、是否适用个人数据等 此阶段仅需要通过对审计材料的书面评估
14、即可回答上述通用问题 得到定性的通用问题答案后进行后续的审计流程投稿网址:年第 期(第 卷总第 期)但随着算法的复杂度和复杂性的日益攀升 书面合规审计已无法对算法进行全面高效的评估 进而引发“用算法审计算法”的切实需求 技术合规审计即为审计算法在特定环境中使用时表现的数据、性能、状态等然后通过技术手段评估算法的合规性以及是否需要作出相应的调整 通常表现为以定量分析手段得到定量或定性的结果 例如针对算法的非歧视性 域外的技术合规审计已经探索了相关性分析算法、特征指标矩阵、计划实验法等多种有效的量化框架或方法 技术合规审计通过“模型不可见”()的技术路径实现 并延伸出“审计研究”()等体系化的研究
15、方法 审计主体:内外部结合的多元主体审计从审计主体而言 在多中心协同治理范式的要求下算法审计应当是多元主体的协同共治审计体系 包括了企业自治的内部审计与第三方主体独立的外部审计内部审计是算法开发主体自行开展的对于算法的评估审计活动 在企业内部自治的需求下 算法开发者通过对自身算法工程开发及应用场景的合规预设 对算法的合规性需求进行实现 防止通过代码编写出社会性的偏见与谬误 相较于外部审计 内部审计直接面向算法的开发人员及开发过程 获得更为详实的可审计信息并直接将算法审计结果作用于算法的优化与迭代之中在受托责任理论的视角下 内部审计是受托责任系统中的控制机制 也是公司治理中的重要组成部分 在算法
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 生成 人工智能 视阈下 算法 审计 制度 构建 路径 创新
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。