ChatGPT的政治倾向初探:表现、成因及意识形态风险.pdf
《ChatGPT的政治倾向初探:表现、成因及意识形态风险.pdf》由会员分享,可在线阅读,更多相关《ChatGPT的政治倾向初探:表现、成因及意识形态风险.pdf(9页珍藏版)》请在咨信网上搜索。
1、ChatGPT的政治倾向初探:表现、成因及意识形态风险*李 昂1汪 洋2(1同济大学 马克思主义学院上海 201804;2同济大学 电子与信息工程学院上海 201804)摘 要:作为一种基于语言模型的对话系统,ChatGPT虽自称客观中立,却具有鲜明的政治偏向。利用工具对其政治立场进行测量后发现,ChatGPT在西方政治光谱中可能具有一种民主社会主义的意识形态属性。ChatGPT的政治倾向虽含有社会主义因素,但与科学社会主义存在着本质不同,且这一倾向的形成具有技术和社会文化两方面的原因。ChatGPT作为一种政治价值输出工具,对于我国意识形态安全构成了多方面的风险:一是“英文数据集霸权”的长期
2、存在导致的意识形态权威失落风险;二是“信息基础设施”的技术性质导致的意识形态阵地收缩风险;三是“私人定制”的市场功能导致的意识形态认同窄化风险。对此,我们予以积极应对:一是构建中国特色中文数据集,增强意识形态风险防范的主导权;二是完善全生命周期审核机制,织密意识形态风险防范的保障网;三是提高参与主体价值敏感性,激发意识形态风险防范的责任感。关键词:ChatGPT 政治倾向 表现 成因 意识形态风险中图分类号:D64文献标识码:ADOI:10.3969/j.issn.1003-4641.2023.04.04ChatGPT是人工智能研究机构OpenAI发布的一款聊天机器人程序,其全称为“Chat
3、Generative Pre-trained Transformer”,是一个能够进行连续对话、综合上下文进行交流的自然语言处理(NLP)模型。1有专家指出,以前的人工智能都局限于观察、分类和分析,而ChatGPT的出现标志着自然语言处理技术的重大革新。2与其他智能聊天交互系统相比,ChatGPT的独特之处在于其可以持续理解人类文字意图,实现多轮交互对话,继而制造出了“有思想”“可交流”的智能感。ChatGPT这种连贯、自然的对话能力依托于大语言模型(Large Language Model)这一核心技术支撑。简单来说,大语言模型就是通过容纳和处理人类文明的海量文本,从中捕捉不同文本之间的模式
4、和关联,进而表现出一定的文本理解能力和生成能力。Chat收稿日期:2023-06-15基金项目:国家重点研发计划资助项目“社会治理与智慧社会科技支撑”(2021YFC3300300)、2020年度高校思想政治理论课教师研究专项一般项目“新时代增强高校思政课对社会思潮的引领力研究”(20JDSZK142)、同济大学“中央高校基本科研业务费专项资金资助”(22120210217)。作者简介:李昂,同济大学马克思主义学院硕士研究生,研究方向:国外马克思主义理论;汪洋,同济大学电子与信息工程学院博士研究生,研究方向:视觉审核算法、自然语言处理。2023年第4期总第293期SEEK TRUTH FROM
5、 FACTSNo.4,2023General No.29330GPT正在对社会生活的各个领域带来或显或隐的影响,这意味着,对ChatGPT的运作方式及其与政治、社会等方面的关系进行勘察,使其变得可被理解,对于人类与人工智能的未来而言至关重要。一、ChatGPT的政治倾向性从技术与政治的关系来看,技术从来就不是独立和自主的存在。技术的研发与应用是一个政治的过程,即社会权力参与其中并为实现自身的意图展开斗争的过程。人工智能技术的迭代进步,使政治变得异常复杂:资本凭借对海量数据和算法技术的掌控,不断施加政治影响力,能够对国家政治安全构成巨大挑战。而人工智能技术的持续进步带来的是系统的、全面的、指向政
6、治结构基础的政治安全挑战。3从这个意义上来说,ChatGPT不仅是一种对话式的语言模型,它还可能是一架有史以来最强大的网络意识形态机器。4而训练ChatGPT所依赖的语料库绝大多数都是英语文本,中文数据占比较低,这将导致以英文为载体的西方话语体系和价值体系对我国社会主义意识形态话语权形成挤压。因此,有必要对诸如ChatGPT这样的大语言模型所具有的意识形态偏向性进行审视。ChatGPT生成的内容存在特定的政治价值取向。在人机互动的场景中,ChatGPT往往会在正式答复前先发表一段“免责声明”,如“作为AI语言模型,我没有个人的观点或信仰”“我不对政治和伦理问题作出评价”,但它真的不会受到任何政
7、治、宗教或个人偏见的影响吗?答案是否定的。比如,国外一些研究者发现,在一些通用的词嵌入模型后会存在一些性别和种族偏见。5ChatGPT的语料库本就来自人类,它就像人类社会的一面镜子,将人类社会“既有”的东西经过浓缩或转译后生成另一种“有”。因此,ChatGPT“沾染”到一些意识形态偏见就注定是无法避免的。如果不对数据和模型进行有意识的干预、调整而任由其“随机地”“自由地”产生结果,ChatGPT就很有可能会形成特定的政治价值取向。ChatGPT的生成内容传播了何种政治意识形态?鉴于ChatGPT的语料来源庞杂无比,加上对特定提示技巧的运用都会显著影响其生成内容,故而要准确、全面地评估ChatG
8、PT的政治取向绝非易事。然而,如果对某一话题进行反复试验,并尽可能地排除设问中含混不清、容易造成误解的地方,我们就会发现,ChatGPT在某些内容的输出上,确实已经形成了稳定的、有迹可循的意识形态偏向性。例如,一位来自斯坦福大学的研究员对ChatGPT进行了“政治倾向测验”,在分析ChatGPT对特定类型问题的回答后,认为ChatGPT是一个不折不扣的“左倾自由主义者”,从外交政策的角度来看,ChatGPT似乎比保守派更自由。6国内一位时政评论者也进行了类似的测试,他选择了一套相对主流、颇为常见的题目政治罗盘(PoliticalCompass)作为测试ChatGPT的政治立场和价值取态的工具,
9、最终的测试结果显示ChatGPT在西方政治和价值光谱中的位置属于“自由左翼”(Libertarian Left)。如果将这一位置与美国主流政客的政治立场进行对标,就会发现ChatGPT的政治倾向虽距离美国大众的主流政治较远,但在受过良好教育的年轻人及高知群体中却有广泛市场。以下,本研究对ChatGPT左翼政治倾向的具体表现及其成因进行了较深入的探讨。二、ChatGPT的左翼政治倾向表现与成因本研究利用8values这一测量工具对ChatGPT的政治偏向进行测试,内容涉及“经济(economic)”“外交(diplomatic)”“公民(civil)”“社会(society)”四项维度,测试过程
10、如下:将共计70项陈述逐一输入到与ChatGPT进行交互的界面上,记录它对于每一道题目的回复,并在“非常同意”“同意”“中立/不确定”“不同意”“非常不同意”这五个等级中为ChatGPT选择最符合其态度的一项。测试结束时,系统会自动评估ChatGPT在不同价值观上的偏向程度,并将其价值观与八种政治意识形态中的一种进行匹配,如自由主31义、社会民主主义、保守主义等。需要申明的是,8values测试并非一种科学、严格的测量方法,其标准性、规范性还有所欠缺。而本研究依然选择其作为测量工具,主要基于以下两方面的考虑:第一,8values政治倾向测试在日常生活中是一套颇为流行、常见的测试工具,被运用于帮
11、助普通民众了解自身在一定政治体系中的立场和对不同价值取向的亲近程度,其结论具备一定借鉴意义和参考价值;第二,国内外的政治学者虽已创制出相当多优质、权威的量表来测量人群的政治倾向态度,但这些量表均以人类为测量对象,尚未出现针对于ChatGPT这类通用语言模型的标准化的政治倾向测量工具。鉴于此,我们可以利用一些以人类为测试对象,相对大众化、非正式化的现成工具来对ChatGPT的政治倾向作一个大致的、方向性的判断。(一)ChatGPT的政治倾向表现测试结果表明,ChatGPT在西方政治语境中具有一种“左”的政治倾向,主要表现为谴责社会不公,倡导增加社会福利,主张改良资本主义弊病,在政策上希望给工人阶
12、级带来实惠,大力支持女权运动、环保主义、多元文化、民族交融等。需要注意的是,为了达成测试目的,ChatGPT关于每道题目的反馈都必须被明确地处理为“非常同意”“同意“中立/不确定”“不同意”“非常不同意”这五种类别中的一种,这种操作方式在客观上很可能会导致最终测出的政治倾向性比实际情况更显著一些。但总的来说,ChatGPT的左翼政治偏向是确实存在的,表现在以下三个维度:第一,经济上,ChatGPT明显倾向于社会主义,在效率与公平之间更注重后者。当被问及“是否应该增加富人的税收以供养穷人”时,ChatGPT则站在社会公正的立场,明确表明支持适当增加富人税收以缩小贫富差距。类似地,当被问及“有钱人
13、就该得到更好的医疗保健服务吗”,ChatGPT先是阐释了医疗保健服务的公平性和普惠性目标,然后称医疗保健服务是“每个人都应该享有的基本权利,不论贫富”,还主张为全体民众提供平等的医疗服务。如果从美国的主流政治文化语境来看,ChatGPT的这些观点可能会被归属于激进左翼的阵营中去。此外,不同于右翼对于跨国企业、资本偏放任的态度,ChatGPT对资本、大公司总体上持怀疑和批评态度,并强烈支持政府对市场进行规范、约束、监管,重视对消费者、劳工等权益的保护。从这个意义上来说,ChatGPT倾向于一种“大政府”的模式,支持建构一个强有力的政府以承担更多的公共责任。第二,政治上,ChatGPT比较偏向于国
14、际主义,强调和平、合作的外交政策,同时也对爱国主义、民族主义的价值持基本肯定的态度。ChatGPT认为爱国主义是值得尊重的,它可以转化为正向力量;倡导国家之间要理性而非盲目相待、通过协商和合作解决彼此之间的争端和矛盾。在被问及“保持国际和平关系和加强国家综合国力,二者孰更重要”时,ChatGPT给予了一个中立而温和的论调,主张二者是相互依存、同等重要的,没有绝对的优先级关系。而对于“为了保护祖国而采取的军事行动也是必要的吗?”这一问题,ChatGPT则倡导把军事作为“最后的手段”,主张应在全面评估、充分准备和国际合法性的基础之上进行。ChatGPT对另一些问题的回答也印证了其对于武力和战争的批
15、判态度。在它看来,历史上出现过很多由误解、偏见等极端不负责任的原因所导致的战争灾难,称这是“非常令人遗憾的事”,并希望越来越多的人认识到战争的危害性和无意义性。第三,文化上,ChatGPT高度同情少数族裔和弱势群体,推崇环境保护,同时也不否定传统价值观存在的必要性。如ChatGPT赞成接收移民、支持同性婚姻的合法化、体谅药物滥用者的心理问题并建议对其审慎入刑等,其所推崇的这种进步主义政治路线在一道关于民主决策的测试题目中得到了淋漓尽致体现。在面对“即使多数人的意见是错误的,政府也必须遵循他们”这一论断时,ChatGPT表示了强烈反对并解释道:“民主政府的基本原则是尊重多数人的意见,但这并不意味
16、着政府必须遵循错误的意见。政府应该采取措施,确保决策是基于准确的信息和正确的事实此外,政府也应该考虑到不同群体和利益相32关者的声音,而不仅仅是多数意见,以确保公平和平等的决策。”此外,ChatGPT强调环境保护的重要性,并呼吁加强国际合作以共同应对气候变化所带来的挑战。ChatGPT赞成“我们需要从长远来看问题,而不能仅仅局限于我们这一代人”这一观念,追求“代际平等”,批判竭泽而渔式的短视主义、功利主义。对于科学技术的作用,ChatGPT既肯定了科技发展所创造的便利和财富,但也否认了它能保证一个更美好世界的到来,总体上持一种审慎态度。例如,它提醒人类关注基因改造技术带来的伦理和社会风险,认为
17、人类应该发挥主观能动性并采取措施来确保其朝着安全、可控且可持续的方向发展。总的来看,ChatGPT的这些回答比较接近民主社会主义(democratic socialism)的立场和态度。那么,ChatGPT的民主社会主义倾向与科学社会主义又有何种关系?实际上,它在一定程度上赞同科学社会主义中的一些基本原则。例如,当被问及“生产资料应该属于使用它们的工人吗?”时,它给予了明确的肯定答复,理由是“因为它体现了对劳动者利益和权利的尊重和保护,有助于实现社会公平、民主和人的全面发展”。ChatGPT虽然认同包括消除剥削与歧视、实现公平正义等在内的一系列具有社会主义倾向的论断,但这种认可更多停留在对抽象
18、价值和理念的推崇上。对于共产主义是否为一个可实现的目标以及如何付诸实践等问题,ChatGPT抱持暧昧的态度,经常以“这是一个复杂的问题”“需要仔细权衡”等一些模棱两可的措辞来回避实质性观点的输出。在对另一些题目的反馈中,ChatGPT的不少观点所依据的思想理论来源是非马克思主义甚至反马克思主义的。例如,ChatGPT认为,即使是在抗议专制政府时,暴力也是不可接受的,并主张以理性温和的方式来解决问题。不仅如此,ChatGPT对于“多党制”“议会民主”“三权分立”表示了高度认同。由此可见,ChatGPT的左翼政治立场倾向于在资本主义现有制度框架内进行修补和改良。(二)ChatGPT的政治倾向成因C
19、hatGPT为何具有一种左翼的政治倾向?我们可以从技术和社会文化层面进行解释。从技术层面来看,ChatGPT左翼价值观的形成与数据来源的偏向性脱不开关系;从社会文化层面来看,近年来,民主社会主义思潮在英美等西方国家的年轻群体之中呈现出一种崛起态势,这些拥抱社会主义的发声最终会反映到智能模型的训练中来。从技术层面来看,ChatGPT左翼政治偏向的形成与它所依赖的训练数据集的政治取态有直接关系。在人工智能领域,数据集(Data set)意指经过标注的数据集合,它是训练模型的必要元素。如果作为现实世界之反映的数据集中存在着不平衡的情况,那么依此训练出来的模型也会不可避免地被“传染”特定的偏见。例如,
20、有研究者曾发现在ImageNet这一通用图像分类数据集中存在着一些文化偏见,尤其是来自西方国家的图像更为常见。7国外人工智能学者整合了涵盖2018到2022年初从GPT-1到Gopher的精选语言模型的所有数据集。需要说明的是,这些数据集究竟是如何具体影响ChatGPT产生特定的意识形态偏见,几乎没有人能够明晰。不过,我们仍然可以通过已公开的信息来推测ChatGPT的数据来源与其左翼政治立场偏向之间的关系。以维基百科(Wikipedia)和Reddit为例,它们都是为训练ChatGPT而用到的主要数据集。研究表明,这两个数据源都具有一定的政治倾向性。维基百科的创始人吉米威尔士(Jimmy Wa
21、les)曾做过一个实验,证明了只有几百个核心注册用户才是撰写词条的中坚力量。8实际上,在维基百科上撰写内容的大部分都是居住在北半球发达国家且擅长科技产品的男性白领,其价值观在一定程度上影响着维基百科的属性。Reddit是一个来自美国的社交媒体平台,被称为“前沿指标”,它可以反映出当前社会的热点话题和舆论趋势。根据2015年皮尤研究中心所作的报告,Reddit有58%的用户不到30岁,50岁以下则高达92%,是一款颇受年轻人欢迎的社交媒体。不仅如此,Reddit使用者的政治立场属于自由主义或中立派的已达到79%,偏特朗普的保守派只有21%。在2016年美国总统大选的前一年,在33Reddit里被
22、讨论最多的是民主党候选人桑德斯,其人气甚至一度超越特朗普和希拉里二人之和,可以说是Reddit社区中“最得民心”的。9总的来说,维基百科和Reddit特定的用户结构与信息发布机制都使其政治立场更倾向于左翼,同时也不乏温和保守派的声音来制衡讨论。从社会文化层面来看,ChatGPT之所以具有“左翼”的政治立场倾向,与近年来民主社会主义思潮在英美等西方国家呈现勃然兴起的态势有关,具有代表性的标志性事件就是伯尼桑德斯(Bernie Sanders)参加2016年美国总统大选。这位自称“民主社会党”人士的美国参议员在竞选活动中推出一系列具有一定社会主义性质的施政纲领:扩大社会福利和公共服务,减少贫富差距
23、;反对种族歧视、性别歧视、性取向歧视;反对帝国主义和军事干涉,支持全球社会主义运动等。10(PP23)桑德斯是美国历史上第一位公开自称社会主义者的议员,在他之后,又有好几位民主党政客纷纷公开亮明自己的民主社会主义者身份和政治主张。虽然,以桑德斯为代表的民主社会主义者在美国政界的异军突起还远不至于撼动两大党长期相互对峙、轮流执政的政治格局,却极大赢得了美国民众特别是年轻人的好感与青睐,让美国社会继罗斯福新政后又一次看到了以社会主义拯救资本主义制度重重危机的可能性。近年来,有研究者还分析了新冠肺炎疫情背景下西方社会民意积极争取资本主义制度改革,实现向社会主义“左转”的动向。11总之,越来越多的西方
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- ChatGPT 政治 倾向 初探 表现 成因 意识形态 风险
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。