主体的异位与回归:生成式人工智能的媒介伦理审视与规制.pdf
《主体的异位与回归:生成式人工智能的媒介伦理审视与规制.pdf》由会员分享,可在线阅读,更多相关《主体的异位与回归:生成式人工智能的媒介伦理审视与规制.pdf(8页珍藏版)》请在咨信网上搜索。
1、哲学研究D O I:1 0.3 9 6 9/j.i s s n.1 0 0 3-0 9 6 4.2 0 2 3.0 5.0 0 3主体的异位与回归:生成式人工智能的媒介伦理审视与规制张爱军,姚 莹(西北政法大学 新闻传播学院,陕西 西安7 1 0 1 2 2)摘 要:生成式人工智能技术凭借自我训练与深度学习的能力实现了人工智能技术的超越性变革。该技术的诞生使现存的媒介伦理观念受到冲击。这种冲击主要表现为:伪造虚假信息控制人的情感、引发意识形态偏向,以此干扰人的认知,冲击人作为认知主体的地位;使人产生技术依赖,冲击人作为行动主体的地位;发生侵权行为,冲击人的权利主体地位。在人工智能时代,人类应当
2、时刻警惕被异化的风险,正确处理人与技术的关系,确立自身的主体地位,通过价值重构、技术创新和法律规范化解技术对现存社会伦理的冲击。关键词:生成式人工智能技术;A I媒介伦理;人的主体 O S I D:中图分类号:B 8 2-0 5 7 文献标识码:A 文章编号:1 0 0 3-0 9 6 4(2 0 2 3)0 5-0 0 1 3-0 8 人工智能(A r t i f i c a l i n t e l l i g e n c e,以下或简称A I)技术是指技术可以系统地解决问题或执行人类思维和能力的典型任务和活动的技术,即具备类人思考、类人行动能力的技术。人工智能的飞速发展给经济、政治、医疗、
3、教育等多个行业带来了颠覆性的影响。人工智能之父约翰麦卡锡认为人工智能就是要让机器的行为看起来像是人所表现出的智能行为一样。现阶段人工智能技术大致分为两类,一类是分析式A I技术,另一类是生成式A I技术。分析式A I技术是在算法技术的基础上,结合数据库、区块链等多种技术而生成的人工智能程序系统,该程序系统主要用于模仿、延伸和扩展人工智能的理论、方法、技术及应用,并被广泛应用于机器人、语言识别、图像识别、自然语言处理和专家系统等多个领域中。“生成式A I技术,不仅可以通过对数据的学习来提炼信息、预测趋势,而且可以生成不同于学习样本的新内容”1,进行自然语言生成。2 0 2 2年1 1月,美国科技
4、公司O p e n A I推出了 大型语言系 统C h a t G P T,宣告着生成式A I时代的真正到来。生成式A I除具有同类人工智能产品具备的一些特性外,还具有学习训练的能力,如C h a t G P T不仅拥有极其强大的自然语言能力,并且“能够产出和人类常识、认知、需 求、价 值 观 等 具 有 较 高 匹 配 度 的 文本”2。C h a t G P T的出现是人工智能技术发展的一次飞跃。生成式A I技术的出现势必会引发一系列媒介伦理问题,如A I技术伪造虚假信息、操纵人类情感、控制人类的意识形态甚至导致人的行为陷入机器化等,认知主体、意识形态主体、权利主体、行动主体乃至社会主体的
5、异位。A I技术的出现既能给人类文明带来巨大福祉,同时也会冲击现有的社会伦理秩序。非营利组织人工智能与数字政策中心向美国联邦贸易委员会就曾投诉称G P T 4具有偏见性和欺骗性,对隐私和公共安全构成风险。生成式A I技术作为一个新兴的传播技术,是一把“双刃剑”。人类作为社会主体既要充分利用生成式A I技术所带来的便利,也要意识到生成式A I技术的发展对人的主体性的多重冲击,警惕人工智能带来的“智能霸权”。一、问题的提出人工智能技术的发展在不同程度上带来的媒介伦理问题对人类主体性造成了冲击。喻国明将人工智能分为了四类:“第一类是单维低拟真人工智能。以广泛使用的计算机视觉、智能翻译等技术为代表的收
6、稿日期:2 0 2 3-0 5-1 6;修回日期:2 0 2 3-0 7-1 7基金项目:国家社科基金后期资助暨优秀博士论文项目(2 2 F Z Z B 0 1 8)作者简介:张爱军(1 9 6 2),男,辽宁朝阳人,教授,博士生导师,主要研究方向为网络政治传播。31信阳师范学院学报(哲学社会科学版)J o u r n a l o fX i n y a n gN o r m a lU n i v e r s i t y第4 3卷 第5期 2 0 2 3年9月 (P h i l o s.&S o c.S c i.E d i t.)V o l.4 3N o.5S e p.2 0 2 3人工智能应用
7、。第二类是单维高拟真人工智能。以围棋机器人A l p h a GO、封面新闻写作机器人小封为代表的人工智能应用。第三类是多维低拟真人工智能。以S i r i、微软小冰等为代表的人工智能应用。第四类是多维高拟真人工智能。以C h a t G P T为代表的预训练生成式人工智能应用。”2不同类别的人工智能技术在不同程度上带来媒介伦理问题,并对人类的认知、意识、行为乃至主体性等造成冲击。人工智能的底层逻辑是算法与数据库。学者们认为,“人的认知、判断和决策可能会受制于算法,人的社会位置也会因算法偏见、歧视以及其他原因受到禁锢”3。“深度信息伪造技术也在不断地冲击着人作为认知主体的地位,产生着媒介伦理问
8、题。信息伪造技术在现阶段取得了巨大的进步,以深度人脸技术伪造为例,生成的人脸图像越发逼真,达到了 以假乱真 的程度”4。这种伪造信息或虚假信息甚至会造成人的意识形态主体地位受到冲击。“在俄乌战争中,深度伪造技术已经成为舆论博弈的重要手段,并对民众的认知产生了影响,制造出真假难辨的数字罗生门效应”5。“社交机器人应用带来的冲击也使得长期使用的统计工具和社会分析工具面临着失灵的风险,甚至形成伪认知”6。“过度依赖算法决策,会使人产生惰性,不加思考地接受算法的决策,受到算法内置偏见等的影响,甚至逐渐丧失人的思考能力”3。“人工智能算法进行审美相关的价值判断则进一步将人类的容貌困于机器的度量之中,这种
9、颜值评估算法可以被看作一种智能化的审美监视,甚至对大众的审美观造成规训”7。“外界力量的压制,与媒介偏见的规训,人在自我传播或社会互动中强化自我审查,甚至逐渐内化为人的自我规训”3。媒介技术产生的侵权行为等同样冲击着人支配自身的权利主体地位。基于算法技术的算法管理对人的数据的收集不仅涉及人们主动在新媒体平台生产或提供的数据,而且涉及很多人们被动提供的数据。对数据的广泛采集虽然给生活带来了一些便利,但这些便利后面往往隐藏着巨大的风险。“强制人们进行各种形式的数据化,用个人数据兑换各种服务便利或权利,已经成为算法社会的一个普遍现象”3。人类享受着媒介技术发展带来的便利,也在承受着技术发展带来的对人
10、类主体性的不可忽视的削弱。媒介伦理问题随着媒介技术的发展逐渐由媒介技术的工具理性和价值理性之间的不平衡向着传播生态中的主体地位之争偏移。媒介技术的不断发展与进步,推动着人类与技术物的结合日益紧密,人的主体地位在技术的发展中不断受到冲击,逐渐对自身失去掌控能力,危害社会正常运转秩序。如何规避媒介技术冲击下的伦理失控成为人类必须面对的问题。生成式A I技术超出了以往媒介技术对人的主体的冲击程度,在多个领域对人类的生存与发展产生着威胁。本文基于上述学者的探索,讨论生成式A I技术引发的社会伦理问题,并提出规制的方法与措施。二、主体的借力:生成式A I技术的便利与优势生成式A I技术的出现,是为了满足
11、主体对社会生活自动化与智能化的需求,以更好地解决人类日常生产、生活中存在的问题。人工智能技术在生产领域的应用已经十分广泛,生成式A I技术能够通过机器视觉、语音识别、自然语言处理等方式实现智能化生产,在一定程度上能够解决传统智能机器在生产领域不能解决的问题。生成式A I技术还能根据用户的需求进行个性化服务。它与传统A I技术相比有很多优势。(一)在原始数据基础上编辑创新性内容生成式A I技术可以利用神经网络、深度学习等技术,在大量的数据集上训练模型,然后通过这些训练得到的模型生成具有一定创新性内容。具体地说,生成式A I技术可以通过以下步骤来创造新内容:第一步,进行数据预处理,对大量的原始数据
12、进行筛选、去重、标注等,以保证数据质量和数量的准确性和可靠性。第二步,利用上述的预处理数据,建立基于神经网络或深度学习的模型。训练模型通过反复的迭代,使得生成的内容与原始数据越来越接近,同时保持一定的创新性。在经过训练后,就可以利用训练得到的模型来生成新的内容了。例如,在文本生成的过程中,模型可以接收一个关键词、一句话或一段话,并根据输入的信息编辑输出一篇具有新内容的文章。在这个过程中,生成的内容可以根据训练好的模型进行调整和优化,以确保其符合人类的审美和逻辑规则。需要注意的是,生成式A I技术生成的内容是在传统规则的基础上基于现有数据集编辑生成的,极有可能在一些方面与真实情况不符。所以在应用
13、于实际场景时,需要进行一定的人工审核和完善。生成式A I技术可以利用现有的数据集和语言逻辑规则来创造新的内容,不断地更新和改进内容。这种技术可以帮助企业和品牌在营销、广告和教育等领域创造出吸引人的内容。41第4 3卷 第5期信阳师范学院学报(哲学社会科学版)2 0 2 3年9月(二)提高创作效率在需要生成大量文本的场景下,如新闻报道、音乐创作和电影制作等,生成式A I技术可以迅速编辑生成大量的内容。这种技术可以有效地提高创作的效率。第一,生成式A I技术可以在需要如新闻报道、教材内容、社交媒体内容等大量生成式文本的场景下,快速生成大量的文字内容。这种技术可以较大幅度地缩短传统创作过程中重复性劳
14、动的时间和成本,提高工作效率。第二,在产品开发中,生成式A I技术可以根据用户需求和数据集自动生成设计方案并进行反馈,利用专家系统和后验预测降低产品设计的成本和复杂度。第三,在搜索引擎、电子商务等领域中,生成式A I技术可以根据用户的搜索历史和行为,通过生成相关的标题和描述等方式,优化搜索结果,提高搜索效率。第四,在内容审核方面,生成式A I技术可以快速生成关于色情、暴力等内容的判断和审查。总之,生成式A I技术利用大数据和深度学习等技术,可以自动生成大量文本、快速生成设计方案、优化搜索结果,进而提高工作效率和创作质量。(三)实现自动化产品最小化生成式A I技术可以利用大量的数据,根据用户的需
15、求输出产品最小化的设计方案。通过这种方式,可以大幅缩短产品的设计、开发时间,降低成本。产品最小化是指设计一个产品的最低限度功能以满足消费者基本需求,从而提高产品的可持续性和可扩展性。具体实现方式如下:第一步,企业可以通过用户反馈、市场调研等方式,收集用户对产品的需求,然后运用生成式A I技术分析和汇总,从中发现用户最核心、最必要的需求。第二步,利用生成式A I技术,根据用户需求生成产品的最小化设计方案。第三步,企业可以针对生成的设计方案进行反馈和修改,以确保结果符合需要并减少可能的错误。在这个过程中,企业可以不断地优化机器学习算法、提高生成式A I技术设计方案的精确度和准确性。第四步,经过反复
16、的迭代优化后,企业可以通过测试和部署,将生成的最小化产品带入市场。在市场反馈中,企业还可以使用生成式A I技术进行产品维护和优化,以满足用户不断变化的需求。总之,生成式A I技术可以根据用户需求生成产品最小化设计方案,帮助企业节省设计成本和时间,并且提高产品的可持续性和可扩展性,使产品能够更好地适应市场需求。(四)自然语言生成生成式A I技术可以基于大量的语言数据和深度学习算法,自动地生成自然语言。这种技术在语音合成、虚拟助手、机器翻译、聊天机器人等应用场景中被广泛使用。具体实现方式如下:首先需要准备大规模且具有代表性的语料库,如网站文章、维基百科、社交媒体等,并对数据进行清洗和处理,去除噪声
17、数 据。其 次,利 用 自 然 语 言 处 理 技 术,采 用L S TM或T r a n s f o r m e r等模型对声学特征进行建模。通过数据样本的学习和反向传播,使得机器可以根据语言规则进行新的语言生成。再次,在训练好的神经网络模型基础上,输入需要自动生成语言的内容,如一个短语、句子或段落,而且系统地通过语言逻辑学习和语义分析,输出口音生动、自然流畅的语义化语言表达。三、主体的异位:生成式A I的媒介伦理审视生成式A I技术摆脱了人类对其行为的控制,通过算法和算力完成从“人”到“物”的转换。在传统的媒介伦理中,主体与客体之间具有主客二元对立关系。大数据时代诞生了数据驱动型媒体和智能
18、算法推荐系统,这一模式极大地提高了信息传播效率。而生成式A I技术的出现导致人与物之间主体地位的转换,数据成为关键因素,算法成为核心力量,人则成为次要因素。媒介的主体不再是传统意义上的“人”而是“物”。目前,生成式A I的技术应用还处在早期阶段,对于其技术本身的属性及应用价值的认知尚不够清晰。总体上,生成式A I技术当前仍处于“黑箱”状态,它能够自主地根据输入的信息进行推演和生成,但是并不知道其输出内容是否符合伦理要求。综合来看,生成式A I技术带来的媒介伦理问题对人类主体性的冲击主要表现在以下几个方面。(一)冲击人的认知主体地位1.生成虚假信息,干扰人对事物的正确认知生成式A I技术会通过反
19、向传播算法等技术制造虚假信息,干扰人的认知,冲击人的认知主体地位。生成式A I技术的爆发是算法模型与程序架构共同推动的,其中算法层面的突破是生成式A I技术最关键最核心的因素。生成式A I技术在算法层面最具创新的突破就是其内部设置了反向传播的算法逻辑,然而这种算法逻辑却使虚假信息的产生与传播变得更为便利。加拿大麦吉尔大学的学者用C h a t G P T的前身G P T 2技术生成过与事实相悖的虚假信息。该校使用G P T 2技术,让其学习将近5 0 0 0篇有关新冠病毒的文章,最后使用G P T 2技术生成了一条与这场全球健康危机完全相悖的“反事51张爱军,姚 莹.主体的异位与回归:生成式人
20、工智能的媒介伦理审视与规制实新闻”。这种反向传播算法逻辑可以让生成式A I技术在学习与训练的过程中,基于自身学习的真实信息产生出完全相反的虚假信息,干扰受众的认知。如果任由此类现象发生极有可能会改变人类集体记忆,严重冲击人类作为自身认知外界事物的主体地位。生成式A I技术缺乏对信息合理性的判断,产生大量误导信息。同时,生成式A I技术通过重组自己预训练学习过程中的学习材料生成大量信息,却无法保证和精准判断每一条自己学习与生成的信息的真实性与科学性,所以该技术很可能会生成大量看似合理却有误导性的虚假信息,从而干扰人的正确认知。生成式A I技术输出的内容是基于自身学习与训练数据的一种反馈,学习过程
21、中错误的信息与数据都会使生成式A I技术生成并传播虚假信息。清华大学教授史安斌认为,“基于语料库、大数据的C h a t G P T,无法保证五个W新闻要素的真实,容易出现张冠李戴的情况”8。同样也很难避免人工主动向生成式A I技术的学习数据库中“投喂”虚假信息,使其生成错误信息,以达到干扰大众认知的目的。在分析式A I技术应用中,深度合成技术的应用已经为虚假信息的合成与传播带来了便利。生成式A I技术下的深度合成技术其应用场景更丰富多样,不仅被用于图片、视频等技术的生成或合成,而且可以打造与物理世界类似的孪生世界与数字虚拟场景,更是提升了辨别传播渠道中的信息真假的难度。生成式A I技术下的深
22、度合成改变了信息生成方式,模糊了虚实界限,极大地降低了专业知识与特定技能的获取门槛,被用来进行人脸与场景的图像改变、声音和音乐的创制生成、动作与表情的操控,以及通过与人对答的方式生成文本,甚至直接自行创作文本。而且,不同于分析式A I技术下的深度合成模型,生成式A I技术下的模型,可以以更低的成本,更高的效率伪造文本、图片甚至视频资料,例如生成式A I技术成功生成过一份很难分辨真假的乔布斯与主播乔罗根的伪造音频访谈。总之,生成式A I技术的应用大幅度提升了多媒体数据合成的逼真程度,严重干扰了人们对事物的正确认知,冲击了人的认知主体地位。2.影响受众情绪,操纵人的情感生成式A I技术改变了传统人
23、机关系,提升了自身的可信任维度,挤压人际信任。生成式A I技术具有超强的语言逻辑能力,它拥有开放的基础语言理解能力模型,也进一步拟合了人在语言生成方面的特殊表现,进而拥有了基础的逻辑理解能力。在算法时代,蒋忠波等人在基于人机传播视域下研究大学生对算法新闻可信度的感知研究中,得到了“受试者认为署名为算法的社会新闻比署名为人类记者的社会新闻具有更高的可信度”9的结论。生成式A I技术应用在传统人工智能技术上,增强了人机交互的反馈学习,丰富了人机交互的调整方法,可实现对使用者情绪的识别和对情境的分析。这种强共情能力弥补了分析式人工智能技术缺乏人性化的缺点,更容易引发人机互动的情感共鸣,进而增强人类对
24、技术的信任。同时生成式A I技术可以营造更富有趣味性的传播场景,增强人机交互的沉浸感,更进一步增强人对机器的信任度。随着人类对生成式A I技术认可度的不断提升,人们将会把更多时间花在与生成式A I技术的信息交互上,这势必会压缩人类人际交往与社会互动的时间,进而导致人际信任被人机信任超越。生成式A I技术的强共情能力增强了它的情感操纵能力。生成式A I技术强共情能力也表现在其具有极强煽动性的叙事能力上。在社交媒体时代,社交媒体技术使网民打破了空间边界,建立了更为丰富的社会网络关系。社交网络中的网民极易在网络群体性事件、舆情事件中产生非理性的情绪,这种情绪在网络空间中弥漫,极易使网民成为被情绪操纵
25、的群体。生成式A I技术的发展,提供了人机自由交流的可能,生成式A I技术中内含的情绪容易影响人类,导致人类在生成式A I技术的裹挟下对情绪的辨别能力减弱,很容易被生成式A I技术中内含的情绪所操纵,在群体性事件中丧失理性,成为人工智能时代的“乌合之众”。同时,随着媒介技术的发展,人类的发展也逐渐进入“赛博格化”,生成式A I技术的存在使跨生命交往逐渐成为可能。A I技术的出现,促使人与数字生命、机器生命之间进行流畅的交流与对话。在交流过程中,人类担心被数字生命、机器生命否定,害怕被A I技术所替代,担忧无法控制技术发展的走向而被社会发展进程所遗弃,进而主动向着生成式A I技术中的意识形态演化
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 主体 回归 生成 人工智能 媒介 伦理 审视 规制
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。