大数据时代下隐私计算的应用融合.pdf

2023 年第 7 期161计算机应用信息技术与信息化大数据时代下隐私计算的应用融合赵 茜1 何欢欢2 陈 刚1 张丽娟1ZHAO Qian HE Huanhuan CHEN Gang ZHANG Lijuan 摘要 隐私计算作为一个实现数据“可用不可见”的工具盒，可以在融合多方数据时，不共享数据，但是共享数据的价值，保障数据安全，为数据的流通融合提供新的解决途径。该文从隐私计算的技术原理入手，对比联邦学习、多方安全计算和可信执行环境的技术实现路径，接着探讨其与金融、医疗和政务领域融合的应用场景，阐述隐私计算成为打通行业壁垒、促进数据广域流通的关键，最后探究隐私计算在产业、应用和技术角度存在的问题，并对其未来发展趋势提出展望。关键词 隐私计算；联邦学习；多方安全计算；可信执行环境；数据安全；应用场景doi：10.3969/j.issn.1672-9528.2023.07.0411.广州华商学院 广东广州 5113992.国家知识产权局专利局专利审查协作广东中心 广东广州 511399 基金项目 广东省哲学社会科学“十三五”规划学科共建项目：基于大数据的高校学生精准扶贫政策与策略研究（GD17XGL19）;校级青年学术科研项目（2021HSQX52）：基于大数据技术的电商扶贫研究以农业为例0 引言数据正颠覆世界的发展模式，成为继能源、资源和信息之后的第四大资源。但是近年来从隐私数据泄露，到手机被应用软件监听；从用户被画像“杀熟”，到涉密信息被捕获，数据安全问题频出，数据泄露带来的隐私问题和财产风险正逐步消减公众与市场行业之间的信任，如何既应用数据、挖掘价值，又保障数据安全，兼顾效益与风险，是当前面临的重要课题。2021 年工信部面向行业内外征求对工业和信息化领域数据安全管理办法（试行）的意见，进一步体现了国家从政策法律和实践试点两个方面进行数据安全布局。“十四五”规划中也多次提及数字化、数据经济、数据安全，隐私保障等，数据安全已成为国家重点部署的关键领域。隐私计算作为一个实现数据“可用不可见”的工具盒，在联邦机器学习、可信执行环境、和多方安全计算技术的支持下，可以在融合多方数据时，不共享数据，但是共享数据的价值，保障数据安全，为数据的流通融合提供新的解决途径1。当前，隐私计算已经在金融、医疗与政务等应用场景上融合，并取得一定成果，未来，其应用场景仍十分广阔，涉及数据合规分享或多方使用数据的领域都需要隐私计算，如何将其变成全域泛在应用是我们值得探讨的问题。本文将从隐私计算的技术原理、与金融、医疗和政务融合的应用场景、探究隐私计算存在的问题，并对其未来发展趋势提出展望。1 隐私计算相关技术隐私计算融合了数据科学、人工智能和密码学等众多技术体系，在保证数据安全的基础上，联合各方进行训练学习。隐私计算的技术实现路径比较多：如数据加密与再处理-多方安全计算；通过可信环境进行大数据分析与管理-可信执行环境；数据不动而模型动-联邦学习。从宏观上讲，底层原始数据输入进隐私计算抽象模型后，计算结果为上层业务应用服务；从微观上讲，原始数据会以隐私保护的方式输入、计算和输出，不共享数据，但共享数据的价值2。1.1 多方安全计算 多方安全计算的概念，是在提出百万富翁的问题后被引入的，即解决两个百万富翁在不泄露自己的财产信息的情况下来比较谁更富有的问题。多方安全计算是基于密码学，以交互不可逆的密文数据方式，在无可信第三方时，让每个参与者在不能得到其他参与者的输入信息下，依托特殊的加密算法和协议直接进行计算，得到计算结果。由于密码学的复杂度高、多方安全计算的技术可用性和性能在近几年才得以迅速提升，引起产业的高度关注。如今多方安全计算衍生出同态加密(homomorphic encryption)、密钥共享(secret sharing)、不经意传输(oblivious transfer)和混淆电路(garbled circuit)等多个技术分支。1.2 联邦机器学习联邦学习是一种分布式机器学习框架，基于隐私保护的基础之上，多方在中心服务器的协调下共同训练模型，提升模型效果。在 2012 年即有学者发表了相关的研究成果，后来谷歌在 2016 年首次提到联邦学习，旨在不聚合参与方原始数据的前提下，实现保护终端数据隐私的联合建模3。联邦学2023 年第 7 期162计算机应用信息技术与信息化习多适用于政务或者金融的场景，可关联相关合作方的数据进行多方共识可信赖的风控模型的构建，用来保护数据隐私的主流方法是差分隐私和加密算法4。联邦学习示意图如图1 所示。图 1 联邦学习示意图1.3 可信执行环境可信执行环境的核心思想是利用软硬件在计算中构建多个安全运行环境如表 1 所示，并让数据在可信和隔离的安全空间内运。它的概念源于 open mobile terminal platform(OMTP)提出的一种保护移动设备上敏感信息安全的双系统解决方案5，在传统系统运行环境之外，提供一个隔离且安全系统用于处理敏感数据，任何外部攻击者甚至权限更高的管理员都无法窃取数据。当隐私计算中，除了涉及到的算法模型比较复杂，对参与计算的大数据量有要求时，可以使用可信执行环境对算法模型进行编译发布。表 1 隐私计算相关技术对比技术多方安全计算可信执行环境联邦学习安全机制密码学原理引入可信硬件 数据不动，模型动性能低中高高通用性高中低高效性中中低准确性高高中高可控性高中高保密性高中高中可信方不需要需要不需要2 应用场景隐私计算的技术实现路径较多，不同技术实现方式针对的业务场景和侧重点略有不同，未来隐私安全计算结合实际场景的过程中，多种技术融合已成为趋势随着越来越多的行业进入隐私计算范畴，隐私计算的应用将成为打通行业壁垒、促进数据广域流通的关键，跨行业的数据流通成为一项基础能力。应用场景融合如图 2 所示。2.1 医疗+隐私计算在包含患者大量隐私的医疗数据中，原来采用的多是脱敏技术，在原始数据中去除可能识别出个人，或者其亲属、雇主、家庭成员的信息。但数据脱敏只是一种约束和保护，它并不是完全没有风险的，只是把风险控制在一个很低的范围。如果脱敏的是基因数据，每个人的基因数据大约有 30 亿个位点，其中 99%的基因数据是相同无差异的，另外 1%的基因数据决定了人类的疾病和生理特征等，如果将这些特殊的基因位点去掉，基因数据的功能性也会大打折扣。在这种情况下，单纯通过脱敏很难保证基因数据的隐私安全，脱敏后的数据还是有可能定位出个人信息的。为了解决脱敏所存在的不足和风险，有些研究人员也提出了“沙箱”的隐私计算方式，即在数据使用方在数据提供方指定的环境内完成计算并获得数据结果而非原始数据。但这种方法也存在很多问题，例如在大多数医学科研研究中，都是需要用到多源的数据合作分析，而通过“沙箱”模式，很难找到一个独立的沙箱，将数据源放在一起。所以经常会有每个数据源或者医院采用独立的模式进行计算，获得独立的模型之后将模型结果进行汇总。其缺点是得到的模型的精度并不等价于将数据汇总以后的精度，影响多中心研究的效率。为了解决“沙箱”带来的问题，衍生出了隐私计算技术，它通过融合联邦学习、可信执行环境等一系列的技术，可以实现数据的虚拟融合，在合规的前提下平衡了数据共享与隐私保护。现在我国首套跨省多中心基因分析系统就是通过隐私计算技术，将计算节点部署到各个医院的防火墙后面，就可以实现在病人数据不可见的前提下，完成联合的分析和计算，并且通过隐私计算获得的模型精度与明文下将数据汇总后的模型精度相当，也能够通过隐私计算触达到更多的数据，使模型的效果进一步提高6。2.2 金融+隐私计算利用隐私计算，可以使金融机构对运营商、政务、征信等数据实现应用场景所需的价值进行融合，从而在开放金融生态下，为用户提供可信且安全的聚合金融服务。联邦学习是现阶段金融行业应用比较多的一项隐私计算技术。它的性能相对TEE（可信执行环境）略低，但比MPC（多方安全计算）略强。它的通用性相对中等，一些主流通用模型都可以完成。图 2 应用场景融合 2023 年第 7 期163计算机应用信息技术与信息化市场上很多隐私计算的厂商，基于 FATE 框架进行了大量的封装和提升，通过 MPC 和同态加密等技术的融合进一步提升联邦学习的安全性。原来金融机构是以机构内部的客户数据为中心，但现在客户在各个银行或者机构都会有一些相应数据，比如代发工资后，客户可能会把资金放在股市、基金、理财等地方。当需要资产证明的时候，可以使用跨机构的用户资产等级视图的话，就不用将资金挪到一个地方，可以基于多方安全计算去实现跨机构的数据资产计算，同时底层是结合区块链，做计算结果的存证，包括各方之间的参与，各方之间的调度，然后去确保整个隐私计算的流程是通过经确认设计的方式去做相应串接的，最后明确各方数据价值的贡献，以此来达到以客户为中心的目的。联合风控也是隐私计算在金融领域的一个重要应用场景。一般而言，金融机构之间、金融机构与其他行业机构之间的数据壁垒较高，客户在一家金融机构的业务数据无法满足金融风控的需求，“数据孤岛”现象严重，提升了金融机构的风险，难以降低融资成本。通过隐私计算技术能够链接工商、税务、社保、电力等不同部门、不同地域的数据，结合银行金融服务资源，提升中小微企业、个人用户在贷前、贷中、贷后的信用评价、风险议价、经营能力预判的准确性，扩大服务范围和质量，支持实体经济发展。2.3 政务+隐私计算隐私计算之所以能够成为目前数据流通领域内最受关注的技术热点，主要还是因为数字经济时代数据被视作了一个关键的生产要素7，它必须通过跨领域、跨行业、跨地域的机构间的流通释放其要素价值。而作为数据规模大、种类多、价值高的政务行业正成为隐私计算技术落地的重要场景之一。根据国家十四五规划和 2035 年远景目标纲要内容，强化数据资源全生命周期安全保护，构建统一的国家公共数据开放平台和开发利用端口，优先推动高价值数据集向社会开放，鼓励第三方深化对公共数据的挖掘利用。近年来，各地政府也积极推进政务数据的开放共享，比如面向特殊部门，依托区块链平台提供的不动产登记数据，基于秘密分享等多方安全计算技术，开发区块链不动产登记信息密查系统，在多方（发起方、反馈方等）数据相互保密的前提下进行高效的数据融合和计算，以细粒度权限管理和严密的多方安全流程进一步保护密文数据，提供信息密查手段。政务数据涉及民生，隐私计算不仅提升数据开放利用和安全管理水平，还在统筹管理、算力设施、数据服务一体化等多方面的关键基础设施起到支撑作用，并对探索创新核心技术攻关方向发挥着重要保障作用8-10。3 隐私计算存在的问题3.1 产品缺乏体系化安全能力隐私计算产品的传统安全能力虽然进一步增强，但仍然存在诸多问题。算法协议无法实现绝对安全，一方面是因为算法协议本身差异化较大，难以形成统一的安全基础，另一方面安全协议依赖安全假设，仍存在安全风险；开发应用也存在安全风险，生产化过程和第三方机构的介入都会带来风险；安全边界及分级的共识还未达成一致，隐私计算参与者很难直观验证所用产品的安全性，真实应用中的信任共识通常难以达成，使得隐私计算部署和使用进展缓慢11。3.2 合规路径亟需形成共识 由于数据处理效果的合规判断规则仍不明确，隐私计算与匿名化之间的适配成为隐私计算合规的关键要点12。隐私计算有助于一定条件下实现匿名化，但是对于完全满足匿名化标准，不可复原，不可识别，且无需经过授权统一的要求，尚无可供借鉴的合规红线；对于满足通常场景应用和技术事件中的匿名化标准，合规思路还处在初期设想阶段，需要实践和监管机构的认可；对于仅满足去标识化，未达到匿名化的标准，又降低了技术应用的吸引力。隐私计算应用的合规性要求相关方不断探索平衡合规、效率和精度要求的实践路径。3.3 异构平台的互联互通仍需探索产品间技术壁垒难打通将促使数据“孤岛”变“群岛”，而异构平台的互联互通是打通数据“群岛”的必经之路13。现阶段探索互联互通的技术方案较多，但没有成熟的案例可供参考，从技术发展的角度，存在异构互联互通平台底层技术框架和密码学协议不同，工程优化方案多样，功能实现设计的存在个性化和差异化，还有涉及核心知识产权等问题，继续探索分层次、分步骤的异构平台互联、基于中间件、区块链方案的实现思路或者广泛的技术企业间战略合作，都是互联互通的解决方案，让隐私计算发挥助推器作用，加速推进跨机构数据流通。3.4 隐私计算存在性能瓶颈隐私计算存在着性能化瓶颈，而这影响着其规模化应用。难以支持海量数据实时计算，密文计算需要更大的计算和通信负载，并且对隐私计算参与方的资源配备要求较高，另外提升性能与强化安全难以兼顾，随着安全性的提升，隐私计算的性能通常会有较大幅度的下降14-15。4 隐私未来发展趋势4.1 产业角度（1）数权分置。在技术发展和政策引导的双重驱动下，隐私计算的关注度日渐提升。随着政府提出建立分置的数据产权运行制度和合规高效的数据要素流通和交易制度，使得隐私计算有了更加明确的用武之地。数据产权分置，使隐私计算迎来发展机遇16。（2）理念扩展。隐私计算最初是指面向对隐私信息的可计算模型与公理化系统，后来发展为一系列保证数据流通过程中“可用不可见”的技术17。现今其范围扩大为任何可实2023 年第 7 期164计算机应用信息技术与信息化现保护隐私前提下数据共享计算的技术，隐私计算技术外延不断深化，相关技术产品数量快速增长，众多业务需求者开始从市场观望者转入技术研发的队伍，以期为自身业务赋能。4.2 应用角度（1）便捷使用。隐私计算已经从场景验证阶段进入场景落地阶段，性能加速、稳定性提高、易用性增强和支持场景更丰富，覆盖金融风控、精准营销、政务服务、保险定价、医疗健康等场景，大部分的金融行业旨在对内赋能，互联网、通信、医疗、能源行业旨在对外赋能，政务行业旨在双向赋能，产品进入实施部署阶段比例明显提升，且能够支持较大规模应用的实施18。（2）软硬协同。提升隐私计算的安全性和性能的主流方案是软硬结合，使用安全硬件如可信硬件、硬件密码模块，进行安全加固，实现安全隔离和提高保密性和完整性，使用性能硬件如加速卡（GPU 等）进行性能加速，辅助进行密码运算和模型运算19。隐私计算应用进一步发展丰富、不断向多行业扩展，而隐私计算一体机作为软硬结合的一体化专用设备，是新的产品突破口，因其开箱即用，降低了综合成本，成为当下隐私计算产品应用的新形态。4.3 技术角度(1)技术融合。隐私计算不同技术路线有着不同的优势和不足。多方安全计算安全性高，但存在计算和通信瓶颈等问题；联邦学习速度快，但对于隐私信息保护能力存在隐患；可信执行环境信任硬件，但存在侧信道攻击等问题。各技术路线之间有望通过融合的方式达成“1+12”的目标。(2)开源探索。开源平台类资源功能较完备，方便用户快速上手，支持各种能力，满足不同场景需求，可以通过分层架构和模块化减少应用之间的依赖，还可以兼容其他框架，有助于达成共识，有利于隐私计算的互联互通20。5 结语隐私计算为打破数据孤岛、发觉数据价值、加强数据安全等方面提供了解决办法，但也存在一些问题。本文对隐私计算的技术原理进行介绍、分析了隐私计算与金融、医疗和政务融合的应用场景、探究隐私计算存在的问题，并对其未来发展趋势提出展望。我国隐私计算发展具有广阔前景，但打造安全可靠、性能优越、使用便捷和灵活扩展的隐私计算平台仍是任重道远。参考文献：1 闫树,吕艾临.隐私计算发展综述 J.信息通信技术与政策,2021,47(6):1-11.2 朱军,曹朋帅.隐私计算为掘金大数据保驾护航 J.中国电信业,2022(06):14-18.3 李凤华,李晖,贾焰,等.隐私计算研究范畴及发展趋势J.通信学报,2016,37(4):1-11.4 石元兵,张舒黎,曹占涛,等.隐私计算融合应用研究 J.通信技术,2022,55(7):919-925.5 李晖.隐私计算:面向隐私保护的新型计算 J.信息通信技术,2018,12(6):6-8.6 SUN Y，LIU D，WANG N.A three-way interaction model of in-formation withholding:Investigating the role of selfconstrualJ.Data and information management,2017(1):61-73.7 中华人民共和国国务院.中共中央国务院关于构建更加完善的要素市场化配置体制机制的意见EB/OL.(2020-04-09)2023-02-20.https:/ 丘 杰 雄.隐 私 计 算 金 融 应 用 展 望 J.金 融 科 技 时代,2022(04)：42-45.9 张辰雨.隐私计算关键技术发展趋势展望 J.中国工业和信息化,2021(10):16-22.10 曾坚朋,赵正,杜自然,等.数据流通场景下的统一隐私计算框架研究：基于深圳数据交易所的实践 J.数据分析与知识发现，2022(01)：35-42 11 莫梓嘉,高志鹏,等.面向车联网数据隐私保护的高效分布式模型共享策略 J.通信学报,2022,43(4):83-94.12 王伟光.基于数据共享的医疗信息隐私保护分析 J.集成电路应用,2021,38(8):214-215.13 窦悦.数据开放共享与个人隐私保护对策研究：层次数据与算法问责 J.现代情报,2021,41(7):146-153.14顾绵雪,韩嵩,李凤华,等.一种基于区块链的数据链接隐私计算方法：CN201811403433.6P.2019-04-16.15王童,马文平,罗维.基于区块链的信息共享及安全多方 计 算 模 型 J.计 算 机 科 学，2019,46(9):162-168.16 李伟,曲艺,贾维刚.大数据时代背景下的云计算技术应用 J.中国新通信,2019,21(24):98.17 邵航,高思琪,钟离,等.同态加密在隐私计算中的应用综述 J.电信网技术,2022(008):75-88.18 焦四辈,杨正军,国炜.智能终端可信执行环境安全性分析 J.互联网天地,2016(8):8-13.19 李凤华,李晖,牛犇,等.隐私计算:概念、计算框架及其未来发展趋势 J.工程,2019(06):425-454.20 丁莹.隐私计算产业政策环境分析 J.通讯世界,2022,29(4):3.【作者简介】赵茜（1995.3），女，汉族，山东省莱州市，硕士研究生，助教，高校教师，研究方向：大数据、隐私计算、区块链、金融科技。（收稿日期：2023-02-26 修回日期：2023-04-02）