被武器化的虚假信息:深度伪造与舆论战.pdf
《被武器化的虚假信息:深度伪造与舆论战.pdf》由会员分享,可在线阅读,更多相关《被武器化的虚假信息:深度伪造与舆论战.pdf(7页珍藏版)》请在咨信网上搜索。
1、第 44 卷第 3 期 国 防 科 技 Vol.44,No.3 2023 年 6 月 NATIONAL DEFENSE TECHNOLOGY Jun.2023 收稿日期 2022-10-10 修回日期 2023-04-25 采用日期 2023-05-26 基金项目 国家社会科学基金重大项目(16ZDA210)*通信作者 韩泽婷,E-mail: 作者简介 李战子,女,教授,博士生导师,研究方向为国防语言、功能语言学、话语分析和新媒体素养;韩泽婷,女,博士研究生,讲师,研究方向为功能语言学、话语分析和新媒体素养。被武器化的虚假信息:深度伪造与舆论战 李战子1,韩泽婷1,2*(1.国防科技大学国际关
2、系学院,江苏 南京 210039;2.湖南工程学院,湖南 湘潭 411104)摘 要 由深度伪造生成的虚假信息欺骗性、危害性强,这类虚假信息的传播给国家安全带来潜在的严重危害。概述深度伪造的概念和应用类型,分析其对国家安全和公共信任带来的风险,提出须警惕所谓“技术中性”论调,对西方掌控优势且对全球治理产生重大影响力的技术提前布控,做好谋划,同时制定科技伦理和相应法律规制,避免其成为危害国家安全的武器。例如:加快反深伪检测技术的更新迭代,实施政府、民间企业、社交平台跨部门合作;解构西方话语陷阱,洞察虚假信息背后的战略意图,掌握议程设置主动权,加强国际舆论引导;推进培育新媒体素养,提升对深度伪造信
3、息的辨识能力。关键词 虚假信息;深度伪造;国家安全 中图分类号 TJ01;E01 文献标志码 A 文章编号 1671-4547(2023)03-0121-07 DOI:10.13943/j.issn 1671-4547.2023.03.16 引言 早在1989年,威廉林德等几位美军军官就在改变中的战争面貌:进入第四代战争一文中指出,下一代战争比过去的战争更去中心化,“更具流动性、分散性和非对称性”“电视新闻或将成为比装甲师威力更大的作战武器”1。大数据和机器智能的出现对社会和国家安全产生了深刻影响。现代战争的形式已从物理搏杀、信息作战升级为智能化战争,后者的特点是无前后方、无单一作战领域、无传
4、统胜负、无时无刻不在进行,并且无简单对手。战争的目的也从资源利益和文化霸权转向力量威慑和话语权的争夺。在国际竞争中,舆论的重要性日益凸显:近年来发生的地区冲突中,大多都有相关国家、组织和个人在社交媒体平台发声,试图影响国际舆论走向甚至行动策略2。依托人工智能(Artificial Intelligence,简称AI)的“深度伪造”是虚假信息的一种高级形态,能够呈现以假乱真的效果。在全球全 媒体社交平台的加持之下,深度伪造引发病毒式传播,被网络霸权国所武器化。本文探讨深度伪造的类型及其在舆论战中的应用,旨在提出舆论战中应对虚假信息武器化的策略。1 深度伪造 1.1 深度伪造的概念和特征“深度伪造
5、”一词译自英文“Deepfake”,最初源于社交网站Reddit上一个名为“deepfakes”的用户。该用户于2017年12月在Reddit上发布了经“换脸”技术伪造生成的女明星色情视 122 国防科技 2023 年第 3 期(总第 340 期)频3。目前国际社会尚未就深度伪造形成统一的定义,多指利用数据生成器和数据鉴别器构成的生成式对抗网络(GANs)进行博弈,生成难以辨别的伪造图像、音频、视频和文本4。通过其命名方式,可以看出这一概念至少包含两层意义:第一,深度伪造是“深度学习”(deep learning)和“伪造”(fake)的结合;第二,与通过Photoshop等传统图像工具或改变
6、帧速率而生成的“廉价造假”(cheap fake)不同,深度伪造具有更高的欺骗性。Seow等5回顾了深度伪造仰仗的两大无监督机器学习技术:自动编码器和生成式对抗网络。近年来,基于扩散模型的生成技术凭借其强大的生成能力成为新兴领域之一,如今已经取得巨大成就。作为一种新的生成模型范式,扩散模型具有与生成式对抗网络不同的特质,其生成表现更为优越。尤其是在多模态学习的基础上,扩散模型通过语言提示或者示例即可生成目标图像或者影像,这使得伪造成本进一步降低。扩散模型通常包括两个过程从信号逐步到噪声的正向/扩散过程和从噪声逐步到信号的逆向过程,目的是将先验分布转化为随机噪声,然后逐步修正变换,重建一个与先验
7、分布相同的全新样本。在引导扩散过程中,通过在每一步逆向过程里引入与朝向目标类别相同的梯度信息来实现针对性生成。引导方式包括三类:文本引导,即基于文本条件的图像生成,希望生成的图像符合文本描述;图片引导,即以参考图片为基础,希望生成的图片与参考图片相似;混合引导,即将前两类引导函数以一定的比例加起来,使算法同时基于多种引导条件进行生成,以得到丰富的编辑效果。通过梳理深度伪造的概念和工作原理,可将其特征归纳如下:第一,能快速、精准地捕捉场景、内容、情感、风格等语境要素,从而能够智能合成视频、音频、图像和文字;第二,为了提高生成脸谱图的还原度,深度伪造需采集海量人脸数据、学习大量样本,因此,主要攻击
8、公众人物形象;第三,日趋“平民化”,即机器训练周期日益缩短、技术门槛降低、造假成本下降;第四,从单一模态向多模态生成发展;第五,以社交媒体平台为主传播渠道,具有极强传播性。1.2 深度伪造的技术及应用类型 2016年以来由虚假信息引发的国际争端、内政危机和社会争议此起彼伏,助推了一系列有关虚假信息的学术研究热潮。西方研究的起始时间和关注度均较高,背后有其复杂的政治、经济、社会、技术原因。第一,虚假信息泛滥给国家安全、民主政治带来深重危机。在英国脱欧公投和美、法等国的总统大选中,社交媒体平台出现了大量虚假信息。这些信息不仅可能干预他国选举秩序、影响选民,导致政治极化加剧,甚至可能破坏国际规则、影
9、响政治进程。第二,假新闻往往带来更多的流量和广告收益,而传统媒体报导真实新闻流量较低,这种极不健康的新闻生态引发相关业界的强烈担忧。第三,深度伪造、机器人程序与算法技术等让虚假信息的传播力和影响力持续扩大,造成恶劣的社会影响。网络数据激增,各种真假信息鱼龙混杂,一律用“假新闻”(fake news)这一术语来指称容易沦为“标签化”使用,妨害信息治理。有西方学者依据信息是否具有欺骗意图将其分为错误信息(misinformation)和虚假信息(disinformation)两类。前者是指由于粗心大意或认知偏差等因素传播的模糊、不准确的信息,而后者则指蓄意捏造和操纵的信息,相比错误信息的“无心之过
10、”、“诚实错误”和“意外传播”,虚假信息具有蓄意伤害性。Wardle等6根据“伤害意图”和“虚假性”两个维度,将信息失序划分为错误信息、虚假信息和有害信息三种类型。他们认为,信息失序经历了一个伤害性由弱到强的连续体,从最弱到最强共包含七种信息类别:讽刺和仿拟、错误联系、误导性内容、虚假语境、冒名顶替内容、操纵内容以及捏造内容。就虚假性而言,深度伪造技术显然可用来生成冒名顶替内容,或对文字、图像、视频、音频进行捏造,从而影响受众认知。依据不同分类标准,深度伪造可归为不同类型7-8。参照Wardle等对信息失序的描述,根据伤害意图的强弱,可将深度伪造分成三类。第一类是发挥正向效益的“深度合成”技术
11、,李战子,等:被武器化的虚假信息:深度伪造与舆论战 123 准确而言,它不属于虚假信息的范畴。这类技术广泛应用于影视媒体、广告营销和社交娱乐,具有极强的娱乐性与传播性。例如,元宇宙、人工智能合成主播、虚拟偶像、修复历史老照片、影视剧本地化配音、“数字复活”已故演员等已成为时下热门领域。美国电影星球大战外传:侠盗一号就重现了已故演员凯丽费雪饰演的莱娅公主9。清华大学人工智能研究院、国家工业信息安全发展研究中心等单位联合发布的深度合成十大趋势报告(2022)10显示,2021年,国内外主流视频网站和社交媒体发布的深度合成视频数量相比2017年已增长10倍以上,点赞数量超过3亿。除视觉合成技术之外,
12、AI合成语音技术也日臻完善。它能将言语功能障碍患者的大脑活动转化为合成语音,让其重获新“声”。第二类是相对偏中性的深度伪造,主要指看似幽默搞笑的深伪作品,目的是娱乐消费,或者是操纵信息进而损害公众形象。第三类是纯粹恶意的深度伪造,即出于某种政治、商业利益而蓄意操纵信息,故意制造假象,欺骗和伤害受众,对集体利益、社会治理和国家安全带来损害。就伪造技术而言,深度伪造分为四类:深度伪造图像、深度伪造视频、深度伪造音频和文本生成。需要指出的是,从多模态符号学角度看,图像和视频显然属于两个不同的模态。图像为静态,视频为动态。深度伪造视频往往涉及深度伪造图像、声音克隆和合成文本等多个模态的组合,因此在概念
13、上需要对二者进行区分。深度伪造图像的主要风险来自生物特征合成、信息内容篡改和对抗样本生成11。通过生物特征合成实现2D人脸替换、人脸生成、人物属性编辑、人脸操控、姿势操控;通过信息内容篡改(如伪造笔迹、文件等)实现信息内容虚构;通过生成对抗样本破防图像辨识系统伪造的图像在清晰度、逼真度、可编辑性、攻击性等方面已发展到较高程度。恶意分子可使用深度伪造图像技术生成煽动性内容,例如一则捏造的战地新闻,配以伪造的军事人员参与战争罪行的图片,从而激化民众,煽动暴力。除制造虚假信息之外,这项技术还被用于攻击反深伪检测系统。Gandhi等12通过对抗扰动攻击实现伪造检出率从95%到27%的显著下降。深度伪造
14、视频的主要风险来自于人脸伪造。基本方法是采用GANs或卷积神经网络等算法逐帧实现全脸合成、重现、换脸和面部特征操纵。全脸合成是指从面部数据的隐藏表征中学习和生成一个超现实的虚拟人物。重现则指将源对象的面部表情或肢体动作“嫁接”到目标对象上,分为“神经纹理”“面部表情重现”“动作重现”三类。换脸相较于重现的技术门槛更低,它是指在不改变原有面部表情、头部姿势和光线的情况下实现脸部交换。面部特征操纵则是根据预先设定的条件编辑、迁移属性,如瞳孔颜色、发型、皱纹、肤色、性别、年龄、配饰等。随着深伪技术不断成熟,面部表情、肢体动作和视线方向都能实现实时迁移。2018年4月,一则奥巴马辱骂特朗普是“笨蛋”的
15、深度伪造视频在“推特”平台上引起疯狂转发就是一个典型案例。深度伪造音频是典型的深度伪造应用类型之一,主要是指由语音合成技术、语音转换技术和对抗攻击技术等人工智能技术生成的非自然语音。由于音频伪造以卷积神经网络、生成对抗网络等算法为基础,造假者可以让机器学习目标语音特征,从而实现合成、转换、编辑、对抗等实时或延时音频信息表达,所生成的声音能够做到与真人声音无异。例如:根据给定的一段特定文字生成目标人物的说话音频;通过语音转换成合成语音来实现风格、音色、韵律的迁移;通过音频编辑实现对语音内容的篡改;通过在原始音频上添加一段微小的扰动,使目标模型对音频样本的真实性、正确性作出误判;等等。与视觉伪造相
16、比,声音伪造更隐蔽。由于许多语音录音来源于音质差的电话通话或嘈杂场所的录音,这使得音频真伪鉴别难上加难。此外,聊天生成型预训练变换器(ChatGPT)这类技术已经可以生成具有适应性、可实时响应的逼真脚本,这意味着深度伪造已经从静态录音转变为可以对话的实时虚拟形象。目前,文本生成技术日渐成熟。研究者通过124 国防科技 2023 年第 3 期(总第 340 期)自然语言模型使合成文本在措辞、语法、逻辑等方面取得了显著进步,所支持的语种和文体风格也更加多样。这一应用的主要风险来自恶意文章自动生成传播。例如,竞争对手国家会使用文本生成程序规模化生产基于文本的宣传材料,也可能使用深度伪造文本生成技术就
17、特定主题大规模生成虚假新闻,并应用于信息战中。2 深度伪造在西方国家舆论战中的应用 Waldemarsson13概括了深度伪造被武器化的四个方面。第一,操纵选举,危害国家安全。深度伪造视频常被用来抹黑政治人物,进而威胁选举秩序。美国众议院情报委员会就曾于2019年6月组织听证会,重点分析深度伪造技术影响下的国家和选举安全风险。第二,加剧国内社会阶层分化,丑化对手国家的国际形象。第三,降低公共机构、政府部门的公信力。一些公职人员经常遭到深度伪造的攻击。例如,一段在互联网上引起病毒式传播的深度伪造的视频中如果出现如下画面:一名警察实施暴力行为;一名法官与当事人私下讨论如何绕过司法系统进行利益交易;
18、一名边境警卫使用带有种族主义的话语;等等。这些都可能会对所在国政府的民众支持率产生影响。第四,造成对整个新闻媒体行业的信任赤字。一方面,虚假内容的高难度甄别影响了新闻部门事实核查的有效性。另一方面,机器人报导、文本生成算法等工具的发展,能以更经济的方式生成“足够好”的假新闻。深度伪造技术还可实现自动评论和转发,营造出该信息被广泛传播的假象,显著缩短了操作所需时间,降低了技巧难度,从而降低了开展大规模网络信息战的成本,并扩大了互动参与的范围14。相较于国外,我国的网络信息生态系统和 治理模式不同,本土的虚假信息研究成果数量和热度不算突出。龙坤等15认为,深度伪造为国家间的政治抹黑、军事欺骗、经济
19、犯罪甚至恐怖主义行动提供了新工具,针对政治安全、经济安全、社会安全、国民安全等国家安全领域遭遇的挑战提出了应对策略。刘国柱16认为西方国家利用深度伪造鼓吹宗教极端思想,帮助民族分离势力的渗透和分裂活动,给国家安全带来重大影响。近年来,一些学者高度关注人工智能和深度伪造在舆论战等方面的应用风险与治理。舆论战通过议程设置和各种媒介宣传(虚假的文字、图片报导)瓦解敌方斗志,营造有利于自身的舆论环境。杨辰17探讨了人工智能在军事领域的运用及其对国家安全的影响路径。深度伪造作为高级的虚假信息形式,使虚假信息生产和传播更为智能、精准、迅捷和隐蔽。研究表明,深度伪造视频往往比假新闻看上去更“生动”“可信”“
20、有说服力”,参与者在社交媒体上分享含有深度伪造视频的虚假信息的意愿更高18。在全员传播的自媒体时代,信息传播发生在任意时间地点,舆论操纵就没有了“战时”和“平时”之分。一张视觉冲击力强 的深伪图片,一段合成的具有煽动性的政要演讲,都可能在社会重大事件或政治事件节点上被用于操纵舆论意见,激化社会矛盾,影响一国的国际形象。此外,社会舆论操纵程度加深,计算宣传大行其道,成为人工智能时代社会舆 论操纵的新方式,舆论愈发被“社交机器人”和各种“算法偏见”所操控17。在新冠病毒肆虐全球之时,某些西方国家使用社交机器人在各大社交媒体平台散播有关中国疫情的深度伪造信息。社交机器人通过增加“点赞”、转发、劫持热
21、门话题标签等方式,达到以假乱真、搅乱民意、挑起对立等目的。另外,深度伪造也为间谍活动大开方便之门。许多外国情报人员和某些受特定利益团体驱使的代理人创建虚假社交媒体账户。他们绝大多数使用无法溯源的深度伪造合成头像,以便在招募情报来源、策划舆论、从事分裂活动时绕过虚假信息检测和防御程序。除了操纵受众认知,污化舆论环境外,深度伪造还引发了伦理担忧。“色情深伪”和诸如DeepNude等“脱衣软件”的出现足以说明问题。Ruiter19从道义论、结果论、德性伦理学和社会人际关系四个方面论述了深度伪造的伦理挑战。这一技术的武器化可能造成整个 李战子,等:被武器化的虚假信息:深度伪造与舆论战 125 社会对个
22、人的“错误归因”,即所谓“数字冒名顶替”和“人格剽窃”20-21。现如今,部分媒体宣扬的所谓“技术中性论”容易降低人们对深度伪造的警惕,给国家安全带来更多的不确定性。因此,必须通过科技伦理使人工智能的开发和应用被限制在伦理和法律边界之内。对于暂时无法确定但现实风险较高的人工智能应用理应暂时叫停,直到各界达成共识。深度伪造模糊了虚假和真相的边界,将对社会信任、媒体信任、政治信任产生巨大影响。就我国现状来看,我们须严加防范这项技术成为电信诈骗、敲诈勒索、网络骚扰和舆论霸凌的武器,避免其沦为颠覆伦理道德、左右受众认知观念、放大偏见和绑架民意的推手。3 虚假信息治理 3.1 加大反深伪检测技术的开发,
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 武器 虚假 信息 深度 伪造 舆论
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。