在共生中抵抗：算法社会的技术迷思与主体之困_王鑫.pdf

在共生中抵抗:算法社会的技术迷思与主体之困王 鑫摘要:算法社会已然成为技术定义时代特征的一种描述。深度学习算法使 AI 不断升级,这也潜藏着人与技术之间的权力争夺和人的主体性危机:算法技术带来的便捷生活表象掩盖了人作为主体被束缚的现实以及难以“逃逸”的困境;算法代理不断僭越主体的能力,代替人的判断和选择,高效、快速和简化的算法思维则体现为极致的工具理性。在算法构建的技术世界里,人的隐私和信息变得透明,面孔却变得模糊,人的丰富性与多样性被高度同质化地处理,作为主体的人被算法决定看见或遮蔽。对算法社会的批判性反思也意味着共生中的抵抗:人自身暗含解放之力,即通过欲望、情感、想象力和肉身建立与世界的关系;抑或通过转换理解算法的思维和观念,寻求未来人机友好关系的可能。关键词:算法;主体性;权力;技术;文化作者简介:王鑫,文学博士,同济大学艺术与传媒学院传播系主任、长聘教授、博士生导师。中图分类号:G206 文献标识码:A 文章编号:1008-1569(2023)04-0218-11新媒介技术发展通常以日常经验的方式引发社会变革以及人的生存状态改变。无论是作为计算机数据处理技术,还是被视为新的“认识论”,抑或是一种结构性力量,算法都被历史性地邀请出场,成为研究和思考诸多问题的背景与参照。深描或进一步揭示人与算法之间的张力关系和矛盾状态,尤其是人的主体性以及人与算法之间的权力争夺,有助于探究未来人-机社会中人的生存状态和伦理困境,并警惕强大技术所建构的程序性生活对人的管理和安排,以及由此引发的人类主体性危机。近年来,国内外学者对算法的研究日益多样和深入,这表明算法作为技术不可逆转之“势”已经渗透到政治、经济、社会、文化和生活的多个方面,并成为当下人与技术之间的主要问题和矛盾焦点。一一、技技术术迷迷思思的的隐隐忧忧与与算算法法社社会会的的主主体体困困境境 (一一)重重返返算算法法社社会会中中的的人人的的主主体体性性问问题题讨讨论论 人的主体性问题一直被认为是“人类中心主义”的某种转化性叙述,但随着技术高速发218DOI:10.13658/ki.sar.2023.04.007展,围绕技术展开的社会现实生活又滑向了“技术中心主义”的泥淖。重返算法社会中的人的主体性问题,对于反思和塑造人-机(技)关系尤为重要。关于技术,贝尔纳斯蒂格勒(Bernard Stiegler)认为,这种有机化的被动物质在其自身的机制中进化,也随时间推移而演变,技术物体有其自身的趋势。凯文凯利(Kevin Kelly)认为,科技体是一个系统,科技体机械化的“想要”与其说是仔细思考的结果,不如说是一种趋势、倾向、冲动、轨迹。科技有其自身的生命周期和演绎轨迹、人类是技术诞生的中介等观点,提醒人们对技术(算法)的批判不能太过于“人类中心主义”,但是人的主体性反思以及人与技术之间的权力争夺和关系建构也贯穿始终。算法经由时间演进聚集到当下的状态,成为影响人类的重要技术力量,“它(算法)占据着欲望的尖端和由此产生的满足感泡沫之间的空间,是一种抽象的协调工具,为各种目的提供程序性手段。由符号和符号构成的算法规则,就像思想一样,存在于一个超越时间的世界里”。可见,算法已经超越了实体和具象,以抽象符号建构规则,塑造人类社会。如何能更好地找到人-机相处的合适位置,并在与算法共生中保持人的位置和自由,已经成为必须面对的问题。算法社会的技术迷思主要涉及算法代理、算法权威、算法监控、算法权力和算法崇拜等问题。随着人越来越多地接受程序化的指令,属于人的能力、判断、思考和情感等类特质是否还能保全,人能否继续按照人的尊严和自由活动的方式生活,需要进一步考察。但是目前涉及人的主体性的讨论,多在论及其他问题时作为既有概念引入并使用,又或含混地置换个体或者群体等语义表述,缺乏对算法社会主体之困的深入辨析。关于算法与人的权力争夺问题的讨论,法律和伦理偏重于对如何制约算法权力这一问题的观照,对算法与人权力争夺的社会文化逻辑还缺乏必要的阐释。实际上,学者关于算法的思考始终存在某种矛盾:难以拒绝的科技之“势”与难以逾越的人文之“忧”。特别是算法已成为社会治理的重要手段和方式,即形成了“通过传感、大规模数据存储和法律、商业或工业框架内的算法处理来实现的数字控制和管理系统”,人们不断强化算法掌握、控制和筛选等能力,并由此构成了对社会运作机制的深度介入,形成算法信任和依赖。不过,虽然缺乏社会语境和人的介入的技术路线看起来客观、权威,但仍旧渗透着某种忧虑:日常生活越来越多地被算法代理,人的主体性和整体性遭遇危机。本文试图从算法社会中的技术-媒介-主体性的关系构成入手,探究人与算法之间的主体与权力关系、人-机对抗的深层原因以及可能友好相处的方式。219 贝尔纳斯蒂格勒:技术与时间:爱比米修斯的过失,裴程译,译林出版社 2019 年版,第 53 页。凯文凯利:科技想要什么,严丽娟译,电子工业出版社 2016 年版,第 21 页。David Berlinski,The Advent of the Algorithm:The Idea That Rules the World,Harcourt Inc,2000,preface.Jones R.H.,“The Text is Reading You:Teaching Language in the Age of the Algorithm”,Linguistics and Education,2021,62(SI).喻国明、赵文宇:算法是一种新的传播观:未来传播与传播学的重构,西南民族大学学报(人文社会科学版)2020年第 5 期。布莱恩克里斯汀、汤姆格里菲斯:算法之美,万慧、胡小悦译,中信出版社 2018 年版。张跣:算法社会的受众劳动及其创造性破坏,探索与争鸣2021 年第 3 期。王鑫:算法批判与人-机社会想象,探索与争鸣2021 年第 3 期。周志强:算法社会的文化逻辑 算法正义、“荒谬合理”与抽象性压抑,探索与争鸣2021 年第 3 期。彭兰:生存、认知、关系:算法将如何改变我们,新闻界2021 年第 3 期。陈昌凤、张舒媛:新闻生产中算法运用的技术路径与价值逻辑,现代出版2021 年第 3 期。陈昌凤:传播关系千变万化,人是不变的主体,全球传媒学刊2021 年第 1 期。Paul Dourish,“Algorithms and Their Others:Algorithmic Culture in Context”,Big Data&Society,2016,3(2),pp.1-11.(二二)伴伴生生与与宰宰制制:算算法法与与人人之之间间关关系系的的演演进进与与现现实实 公元 9 世纪,波斯数学家阿尔花剌子模(AL-Khwarizmi)发现了阿拉伯数字的运算规则,提出了算法概念。算法确立的数学和逻辑关系,逐渐演变成解决实际问题的方案描述和清晰指令。算法不仅是数学上的计算,也是一种法则、程序、方法和规律,是人类认识世界、改造世界的手段之一。人类逐渐发现数学规律,并运用数理关系改造世界,在制造和使用工具中,改变了人类社会的生产力,也因为使用技术工具而创造了人类世界的多种可能性。人与技术在漫长的对象化关系发展历程中,始终伴随着共生和对抗的矛盾关系:“人被视为科技的发明者、使用者,对科技构成支配性的地位;与此同时,科技也不断使人嵌入其中,甚至使人异化。”随着计算机技术的不断发展,算法获得了越来越多的社会功能,并且成为决策和判断的依据,特别是算法被资本裹挟,使数据渗透在资本再生、社会治理以及日常生活的方方面面,而不再是单一的信息。算法建立了可见的人与不可见的数据之间的关系,比如疫情下的行程码等,社会生活转化为可以量化的数据,社会机构、管理部门以及企业的决策愈加依赖算法分析,越来越多的程序在提供相关服务时需要用户提供个人信息,这就形成了“人数据算法决策程序人”的闭环链条。在不透明的技术牵引中,人越来越受制于程序性的要求。不过,人们也对算法进行了批判性的审视:宣称算法并不具有价值观上的偏狭,而是客观、中立地用“数据说话”,但有研究表明,“谷歌搜索”处在性别和种族歧视的前端;算法制造了效率和优势,加速了现代社会的时间感,却让人失去了对缓慢事物的感知和接受能力;算法进行优先级排序的同时,完成了某种区分;它以一种更加隐匿的方式制造了新的不平等和偏见,比如算法对于老年人的不友好等。这表明,算法权力的触角已经延伸到社会生活可见和不可见的领域,“数据殖民主义”权力逻辑正在发生。从人与技术的历史和逻辑演进过程可知,人类比以往更加依赖也更加受制于工具和技术,技术之“势”不断覆盖人的自然能力和社会能力。从马克思批判异化迄今,人类不断加快生产自己的“对立面”。算法通过对数据的运算、选择、排序和优化,增强对人的黏性,它“概括和封装了日益增长的原子化和碎片化趋势,这种趋势与日益强调日常中明显的单一性、量化和分类产生了更广泛的共鸣”。这已经不是个体的问题,而是一个时代的人的生存症候。二二、规规训训与与突突围围:算算法法制制造造的的主主体体新新困困及及其其对对抗抗因因由由 人在漫长实践中建立起类能力和类感觉,这是人的主体性的彰显。本文以人的生命感和世间感来表明人的主体特征,包括人的身体、情感、想象和理性,以及调动人的“类能力”与外部世界建立多元和复杂的关系。当人的心理、观念、情感以及生命感被计算和规训,并转化为流量服务于资本权力、政治权力以及其他权力时,人的主体性将陷入危机。这里主要从220东南学术2023 年第 4 期 王鑫、沙永锋:从 AI 到 AM:人工智能的知识观,新闻与传播评论2018 年第 6 期。Safiya Umoja Noble,Algorithms of Oppression:How Search Engines Reinforce Racism,New York University,2018,p.17.Kotliar,D.M.,“Data Orientalism:on the Algorithmic Construction of the non-Western Other”,Theory and Society,2020,49(5-6),pp.919-939.Michele Willson,“Algorithms(and the)Everyday”,Information Communication&Society,2017,20(1),pp.137-150.身体、感觉(感性)、思维(理性)三个方面探察算法制造的主体新困,不过其中也蕴藏着对抗的因由。(一一)算算法法剥剥离离:智智能能介介入入与与主主体体“逃逃逸逸”困困境境 算法高度介入人类社会生活,并对人的感觉和日常经验进行重建,比如“信息茧房”揭示出算法社会中人与信息之间的单一和同质化关系。人际交流也出现两个明显的改变 脱离身体的在场和实体社交的障碍。算法投其所好的供给以及人对算法的笃信和认同,看似是大量信息的获取,但由于“回音壁”效应,人只是持续性地接收重复的信息。这就使得外部多元化的声音变弱,导致认知固化,从而形成某种意识形态的偏见和观念上的聚集性偏狭,陷入交流的障碍并难以达成共识。人们过度依赖算法的推荐,成为“行走”在系统里的人。比如以往的出租车司机依据多年经验可以熟悉城市的大街小巷,成为城市生活的见证者和记录者,而现在的出租车司机更多依赖导航。导航的确快捷便利、省时省力,可一旦导航失灵,依赖导航的司机将会在城市中失去位置感和方向感,而失去对于城市街区的记忆和认知,生活的城市将变成“消失的附近”,人也将变成城市中缺乏能动性的机械移动者和程序固守者。此外,轻巧和效率让人在获取便捷的同时,作为交换,不得不在“数据池”中交付个人信息。人在算法中只能呈现单一的数据属性而不是更加丰富的面向。数据化的人或许就像罗蒂在哲学和自然之镜一书中提到的“对跖人”一样,只具有一套完备的神经纤维和系统组合,而没有“心”。然而没有“心”的生活,难以形成记忆、体验、感受等属于人的生命感的部分,并且难以建立人与周围“世界”的联系。人利用算法的同时制造了自身的主体困境,但是人的反思能力使其有了自我救赎意味的“中辍”等逃逸行为,即人为阻断算法技术对人的控制,从而获取一定程度的可支配的能力和自由。但是算法已经把“逃逸者”置于与其紧密相连的社群之中,私人生活与公共生活捆绑在一起,“逃逸”的结果不只是人在社群中的边缘化,还是对个体社会性生存的疏离。当整个社会处在被算法高度控制的阶段时,人的“中辍”时间将越来越短,“逃离”只能是个体的短暂行为,算法嵌入社会治理和社会结构也导致人的逃逸成本过高。这就是算法的“可怕”和难以逾越之处 从控制个体到控制社群,再到控制整个社会结构。算法的虹吸效应涣散了主体的注意力和自我建构能力,虽然利用科技控制自然的能力看似很强,但是人掌控自己的能力却越来越弱,其在算法社会中可能会失去更多的人的类能力。(二二)算算法法代代理理:被被僭僭越越的的主主体体能能力力 人生活在危险的世界之中,便不得不寻求安全。趋利避害是人的本能,寻求确定性也是确保人自身的安全。需要注意的是,算法提供的确定性和精准性究竟让人产生了安全感还是新的恐慌?“算法在网上跟踪我们,追踪我们的消费,收集我们的喜好。算法知道的太多了,但我们往往没有意识到这些阴影落在我们面前,根据我们现有的偏好选择我们看到的内容,即所谓的过滤泡沫。”算法测算精准、过程精细、目标明晰,似乎规避了失败、风险和冗余,成为最优的排序与选择,人们在算法的庇护之下获得某种确定性并因此感到安全。那么为何这种确定性会带来“恐慌”呢?因为人把自身权利让渡给算法的同时,是算法221 理查德罗蒂:哲学和自然之镜,李幼蒸译,商务印书馆 2003 年版,第 66-67 页。约翰杜威:确定性的寻求 关于知行关系的研究,傅统先译,上海人民出版社 2005 年版,第 1 页。Philip Roscoe,“Algorithmic Life:Calculative Devices in the Age of Big Data”,Journal of Cultural Economy,2016,9(6),pp.631-634.对人的思考和行动的接管。算法介入越多,人对外部世界的把控能力下降得越快。此外,算法嵌入了优胜劣汰的价值观,对优秀的重视和对平庸的摒弃,制造了少数的确定性和安全,却带来了大量的变数与危险,算法并不提供社会整体的确定性。人的信息、时间和能动性在不知不觉中被算法“拿走”,特别是人把决策、判断和选择的权利交付算法的那一刻,也是人向技术让渡自身主体能力的开始:智能导航替代了人对路线的记忆和空间感知;音乐 APP的歌曲推荐将一个人的趣味“粗暴”地固定为某种类型;微博的信息推送、购物平台的商品推荐以及餐饮打卡浏览等,都会因为一个信息的浏览而直接固定用户的信息获取偏向。这种以结果和目的为导向的算法选择忽略了过程对人的意义,而过程恰恰体现了人的丰富性、能动性和想象力。随着计算机技术对人类社会的深度建构,人的恐慌不只是尼尔波斯曼(Neil Postman)所言的文化向技术投降,而是技术在更大范围地取代人的工作,进而改变社会生产生活方式。可见,算法从一开始就不只是接管某些工作的工具,它直接作用于人的价值观、行为和习惯。但是算法难以感知人的复杂情感和情绪变化,以及隐匿于言语之外的人的潜在意图,算法代理给出的“最优解”也不过是机器的选择。这并不是一个新的问题,波兹曼认为,人类越依赖科技作出决策和判断,就越容易失去对事物的决策和判断能力,“丧失了上一个阶段占主导地位的技能和洞见”。算法精准、细致的推荐以及形成的“过滤泡”,限制了人的想象和多样生活的可能。正如陈嘉映所言,“如果一个社会里,人人都按照一套固定的价值排序来生活,人人都争做影子次序里最重要的事情那会是一个多么让人丧气的社会”。完美的算法并非一定产生真正的安全和确定。“权力通过算法实施,因为算法的输出可以巩固、维护或产生某些真理。从这个角度来看,算法可以被理解为围绕诸如风险、品位、选择、生活方式、健康等事物创造真理。”可见,算法真理并不是所谓的客观的真理,而是巩固、维护某种既定利益或者部分人的真理。不过,随着人被算法异化的程度越来越高,人的肉身、欲望和感性的价值将在人机社会中被再次确认。(三三)算算法法思思维维:基基于于数数字字理理性性的的选选择择 所谓算法思维,是基于计算机算法的运行模式、过程、功能以及目的指向,而形成的选择、排序和推优的一种思维方式。在算法社会,它主导甚至决定了人的决策与判断。算法思维指向高效、快速和简化,以实用、效益、速度和规模(流量)为基本内容,以社会不断上升为目的,一方面凸显了典型的社会达尔文主义诉求,另一方面体现了极致的工具理性。“算法表现为快而不是慢,自动化而不是动手操作,机械化而不是人类”,当人与技术深度互构,技术的运行过程和模式也将深刻影响人的思维与判断,毕竟每一种工具都嵌入了意识形态偏向。人以算法思维进行判断和选择会带来两个问题:一是忽略决策的历史性与语境,二是忽略人的直观能力与情感。对这两点的忽略,使算法思维和决策很容易成为主导算法的少数精英的立场与判断 通过数据分析进行决策,体现精英意志和效率优先,抛弃缓慢的、低效的和低价值的事物。因此,算法思维是一种优胜劣汰的思维,也是整齐划一的思维,它制222东南学术2023 年第 4 期 尼尔波斯曼:技术垄断:文化向技术投降,何道宽译,北京大学出版社 2007 年版,第 57 页。陈嘉映:价值的理由,上海文艺出版社 2021 年版,第 6-7 页。David Beer,“The Social Power of Algorithms”,Information Communication&Society,2017,20(1),pp.1-13.Paul Dourish,“Algorithms and Their Others:Algorithmic Culture in Context”,Big Data&Society,2016,3(2),pp.1-11.造了更加精细化的社会分层。人类社会的丰富和多元、发展的多向和不平衡以及历史过程的差异和特殊,并非去语境化的算法能够清晰涵盖的。算法理性与人之理性的不同之处,在于“数字理性”和“生命理性”的区别。前者因为缺乏人的肉身和经验,只是机械体基于计算而具有的理性。它将人视为“数据点”,没有声音、容貌、气息,就像一个物体,在数据池留下移动的轨迹,算法再根据这些轨迹进行计算、选择、排序和推荐。“由于社会被广泛地挖掘,它的数据被用来预测人类行为和自动化决策过程。”生命理性则具有多重内涵和意蕴,并且与感性、社会语境交织在一起。人的理性与感性并不能完全分开,一个偏重理性的人也会在特定语境中出现感性替代理性的情况。算法理性是工具理性发展的高阶,能够更加精准地代理人的决策,“组合算法缺乏语境适应性,算法是范例程序。这意味着算法所构造的图景是二维的:它牺牲了差异和单一性来换取全面性和效率”。算法超强的数据加工能力和人类留在数据池中不断丰富的信息,使算法具有愈发强大的影响力。人文社会科学领域开始依赖大数据,这是否意味着算法已经替代专家和培训师,掌握了新的话语和指导行动的权力?算法理性是一种更为极致的工具理性,它以清晰、简明的方式呈现工具理性导向下的利益最大化,使效益最大化诉求变为事实,可以说,算法理性正成为指导个人行为和社会总体价值的范式。算法文化工业并不是对于以往时代内容的跳脱,赫伯特马尔库塞(Herbert Marcuse)认为:“技术理性这一概念也许本身就是意识形态的。不仅是技术的应用,而且技术本身就是(对自然和人的)统治 有计划的、科学的、计算好的和正在计算的控制。技术始终是一种历史-社会的规划:一个社会及其统治利益打算用人或物所做的事情都被技术规划着。”数字理性最终导向的,是人被数据操控思考和行为,被数据“奴役”。三三、算算法法社社会会中中技技术术权权力力与与人人的的存存在在状状态态:主主体体之之困困的的表表征征及及其其影影响响 算法像一个“幽灵”徘徊在互联网空间,为每一个“造访者”留下痕迹,并能追踪这些“足迹”,适时与人构成某种关系,从而将其影响置入日常生活和社会空间中。人们在微博、抖音、Facebook、Twitter 等社交平台上看到的是,人类的思想、行为、组织和表达被包裹在大数据与大规模计算的逻辑之中,这种被称为“算法文化”的新文化形态,实际上暗含着人与算法在技术、文化、话语等场域之间的权力之争。数据成为人类社会生产、消费、传播和交换的重要向导,算法虽然不生产产品,但是生产与产品有关的行为,并进行着“技术文化媒介人”之间的关系调整甚至改变,新的权力构型由此产生。(一一)算算法法对对“裸裸身身”人人的的宰宰制制 算法被诟病的一大缺陷是不透明性。每个进入算法系统中的人都可以被算法看清楚,但是人却不知道自己在其中留下了什么。算法系统的不透明与透明的人两者之间构成权力223 Tobias Schfer&Karin van Es,The Datafied Society:Studying Culture through Data,Amsterdam University Press,2017,p.13.Tayfun Kasapoglu,Anu Masso,Stefano Calzati,“Unpacking Algorithms as Technologies of Power:Syrian Refugees and Data Experts on Algorithmic Governance”,Digital Geography and Society,2021,2.Herbert Marcuse,Negations:Essays in Critical Theory,translated by Jeremy J.Shapiro,MayFlyBooks,2009,p.168.倒置,“算法的力量在于它们决定什么是重要的,决定什么是最显而易见的”。这并不是对人-机关系持悲观立场,但是至少目前算法的“不透明”状态会制造新的不平等,利用算法的平台以及少数人正在获取巨大的利益。然而,谁拥有观看这些“透明的人”的权力?“私营公司收集的大量数据使它们成为信息共享的重要合作伙伴,双方都有很大的交易空间。政府机构想要的数据是他们不能合法地为自己收集的,而数据经纪人拥有这些数据并且想要出售它们。”数字文化批评家伊恩博格斯特(Ian Bogost)指出,人与软件之间陷入了“计算神权政治”:我们所谓的算法文化与其说是一种物质现象,不如说是一种虔诚的文化,一种对计算机的恳求,人们允许计算机代替他们心中的神,即使他们同时声称科学使我们对宗教无动于衷。数据就是生产力和财富的思维逻辑显然会制造出更多的寡头经济,中国互联网公司制造的互联网帝国收割了不可计数的数据,算法对其进行深加工,为平台的拥有者提供最优化的决策依据,以获取更多的利益,这也使得控制技术运行机制的人积累了权力。这与电影楚门的世界中基斯督与楚门的关系类似。楚门自出生就被无数摄像头包围,但他对此一无所知,他是一个透明的人,其人生掌握在导演基斯督的手中。“在消费者层面,我们正步入一个数据化(Datafication)的时代,人们日常生活中的方方面面都可以转化为数据资源。在算法经济中,娴熟的市场玩家努力提升自己获取消费者个人信息的能力。以此为据,他们期望能在关键的营销活动中准确锁定潜在买家,并且不断强化自身在瞬息万变的市场环境中的反应速度。”“困在系统里”的不只是快递小哥,也是正在被算法计算的每一个人。“不透明”的算法操纵了权力和财富,也生产了价值观。这一看似最优和正确的决策忽略了一个事实,即人不是机器,具有情感和弱点。人与算法之间的关系,以及这些关系在何种程度上变得有意义,与用户对算法中的权力、透明度和正义的反思交织在一起。不过,这里还有一个隐匿的线索,即“人(少数)算法人(多数)”的链条中暗含着有人决定算法让谁困在系统里,“算法是如何提供关于人的有害信息,创建并规范结构性、系统性孤立,或实施数字红线,所有这些都加强了压迫性的社会和经济关系”。技术所表征的现实总是指向社会道德和社会治理方面,当我们批判算法制造的伦理和人类生存困境时,更要警惕谁是真正的“上帝之手”。(二二)算算法法权权力力外外溢溢:被被模模糊糊的的人人 算法社会中的新问题与以往社会中的问题构成衔接,只是在深度、广度或影响力方面发生变化。工具理性主导的社会生产以经济效益作为考察标准。在这一点上,算法工业与文化工业并无不同,这是一种高级的“合谋”:资本与数据的媾和。对算法的批判,也成为对资本主义意识形态和资本控制权力的批判。无论是文化工业还是算法工业,资本都是原始动力,并且以算法为技术牵引,形成“资本流量平台”的利益和权力闭环:资本需要流量并制造流量;流量是注意力和传播力,带来资本的增殖;平台追逐资本,但也受制于资本。资224东南学术2023 年第 4 期 David Beer,“The Social Power of Algorithms”,Information Communication&Society,2017,20(1),pp.1-13.Frank Pasquale,The Black Box Society:The Secret Algorithms That Control Money and Information,Harvard University Press,2015,p.49.Ed Finn,What Algorithms Want:Imagination in the Age of Computing,The MIT Press,2017,p.7.尼尔波斯曼:技术垄断:文化向技术投降,第 4 页。阿里尔扎拉奇、莫里斯E.斯图克:算法的陷阱:超级平台、算法垄断与场景欺骗,余潇译,中信出版社 2018 年版,第 40 页。Safiya Umoja Noble,Algorithms of Oppression:How Search Engines Reinforce Racism,New York University Press,2018,p.10.本、流量和平台共同构成了算法工业的生产链条,算法技术隐匿其中,将“看不见的手”伸向用户,获取用户信息,并将无数人的情绪、情感和生命状态变成抽象的数据,人失去了身份和面孔。大众文化的兴起和流行与大众媒介发展息息相关,算法文化的发展也必将与计算机科学的发展相关联。资本与数据媾和之后,借助于算法和流量之间的技术逻辑,文化生产的前端、中端和末端都是“计算”好的。算法工业这台高精度机器并不在意“人”是谁,而是关注“人”的信息有没有被转化为数据。文化工业社会还能看到山呼海啸般的大众,算法工业则显现出与其相反的特质。除了有组织的粉丝社群制造出来的“热闹”外,大多数用户/受众在个人的“泡泡”或“格子间”里进行在线狂欢。算法工业依靠数据进行的生产、传播与消费,更像一场超大规模的“计算”过程,无数个体在这种文化形态中模糊了面孔。相比之下文化工业中的“迷”群还闪烁着面孔和行为,而后者只剩下轨迹。算法和大数据为政府、企业以及社会部门提供社会治理的便捷手段,甚至成为一种管理“神话”,人们可以找到各种各样借助算法而让生活变得更加便利、高效的个案。同时,人们也发现,越来越多的数据符号覆盖着人们存在的多样性,社会依据符号的标准框定个体的选择和行为。算法治理下的社会,人在各种程序允许中获得行动的可能性,人的面孔和情感依然是模糊的,甚至是不可见的,人的丰富性与多样性也被高度同质化地处理。算法权力的外溢一定程度上模糊了人的存在,人的权利被忽略和漠视。人在系统和程序指引下满足生活不同场景的需要,数据信息代替回答了“是谁、为何以及如何”的问题,“在21 世纪,人工智能将成为一个主要的人权问题。我们才刚刚开始了解这些决策工具在掩盖和加深社会不平等方面的长期后果”。虽然算法权力日益扩张构成对主体性的压迫,但是其通常会被合理化的修辞和软件设计的程序隐喻所掩盖。本文在这里提出“算法”辩证法作为批判的“武器”,是受到来自阿多诺和霍克海默的启蒙辩证法的启发。启蒙原本是作为对神话、迷魅的祛除,而作为非理性和迷魅之对立面的理性被奉若新的“神明”,启蒙一步步走向了它的反面。算法亦是如此。算法原本是作为提高人类计算效率和追求最优化效果的工具,但是它如当时的启蒙一样,走向了自己的反面:从服务人类逐渐变成操纵人类。特别是在资本和数据的结合下,算法成为新的权力“神话”。(三三)算算法法决决定定的的“看看见见”:被被遮遮蔽蔽的的人人和和“世世界界”从媒介到人、从信息到现场,走向算法社会的人的媒介生活正在发生改变。算法使新闻发生的“世界”隐退,人们看到的只是实时更新的信息,而难以在时间、空间、背景、原因多重向度下看到新闻发生的“世界”。算法、资本和平台之间更加深度裹挟,它们共同决定热搜的内容,加速信息的出现和退场,制造更多的“看见”与“看不见”。以算法主导的 AI(人工智能)高度介入新闻生产的诸多环节,特别是在社交媒体中,算法与平台媒体之间的亲密关系远大于其他传统媒体,这也为算法制造“爆款”和热搜奠定了基础。但是“速火”与“速朽”是事物的两面,热搜新闻中的当事人被算法推入“顶流”,其也会因为流量的降低而不再有热度,甚至在算法制造的新热搜中被遗忘。算法主导下的热搜与传统媒体“把关人”不同,后者依据专业理念和复杂情境决定内容可见与否和以何种方式可见;算法则依据热搜信息的特点把关,决定谁可以成为“热搜”,二者彼此烘托,服务于各自的利益和目的。人们静候热搜和爆款新闻制造新的震惊与狂欢,算法主导下的媒介化生活225 Safiya Umoja Noble,Algorithms of Oppression:How Search Engines Reinforce Racism,New York University Press,2018,p.1.降低了人的智性思考能力,造成群体性的观念偏执,“大数据使思考变得多余计算看不见事件的存在,而真正的思考却是事件性的”。此外,算法决定的“看见”很大程度上折损了新闻的“生命感”和“大地性”特质。新闻不只有短、平、快的报道和信息集合,还有对新闻事件的深度调查,在千丝万缕的关系中探寻真相,而这必须借助人的经验、判断、专业能力和对事件探查的敏锐性等。随着对新闻现场的远离,诸多报道很难反映人的要求和关注,这也相应弱化了新闻的社会功能。虽然有诸多关于新闻业在新技术下的转型研究,但是新闻现场里没有了“人”,新闻关怀中缺失了“人”,新闻生产中弱化了“人”,新闻的“生命感”也将会被荡空,而这恰是人的主体性缺失之体现。本文言及的新闻“大地性”,主要指记者基于职业要求在新闻现场对当事人以及新闻事件的报道,要求新闻报道回归其发生的空间、环境和人物之中,呈现事件本身的“世界”。真相需要在深入采访中拓宽现场边界,厘清事件关系,不断在“大地”上显露世界的真实。算法虽然可以利用大数据优势,但是无法代替记者身体的在场,这是新闻的“大地”,与社交媒体的信息“云端”相对。记者在新闻现场中调查、分析、报道,体现的是人的主体性,而算法依据设计者和平台的利益需求,制造流量的“胜利”,遮蔽身处“大地”中的记者对事件的报道。随着新闻调查记者的锐减,社会权力的“毛细血管”如何发生作用难以被“看见”,新闻事件中的各种人物也难以被看见。新媒介技术的发展不仅影响传统媒体,也给新闻行业带来结构性影响,更主要的是,算法遮蔽了人及其生存的世界,让人逐步失去被照见的可能。四四、共共生生中中抵抵抗抗:超超越越主主体体之之困困的的反反思思与与想想象象 在新技术降临的时代,人与算法关系中的主体性问题,以及在未来更充分的人机社会里,人的生存伦理和价值如何实现,在今天看来尤为重要。尽管本文对算法持有鲜明的批判立场,认为算法正在不断惊扰人类的生命特质并且强化了技术理性的优先地位而使人类处境堪忧。但是算法作为科技之“势”的无可回避和逆转,又是当代人必须面对的现实,人的主体困境以及人与技术的权力之争远比本文描述得更加精细和彻底。但是,这并不意味着人类在与算法的博弈中处于被动且毫无办法,对于困境的剖析意在探索可能性路径,“在隐喻性的大数据这个词中,已经有一个关于人类与我们称之为社会的领域之间不断变化的关系的故事,这个领域是高度可争论的”。受困于算法之下的人,也潜藏着某种抵抗的动力。(一一)一一种种反反思思:人人自自身身暗暗含含解解放放之之力力 面对巨大的技术迷思与主体困境,人成为救赎自身的最大可能性和路径。人本身暗含着解放自身的力量,可以从心理、自由意志、批判性思考以及制度设计等方面对算法制造的主体性困境予以突围。当然,这里只是提供一个思考路径,落实到具体生活层面还需要更细致的设计和更系统的规划。一是人的“不透明性”。巨大的算法“黑箱”带来了不透明性,人同样具有这种特征。实际上,人在机器和算法中的“透明性”掩盖了其的“不透明性”存在。在西格蒙德弗洛伊德226东南学术2023 年第 4 期 韩炳哲:他者的消失,吴琼译,中信出版社 2019 年版,第 6 页。Mirko Tobias Schfer&Karin van Es,The Datafied Society:Studying Culture through Data,Amsterdam University Press,2017,p.235.(Sigmund Freud)的“本我”“自我”“超我”理论中,人类精神意识在海平面下巨大的看不见的部分就是“本我”,人的“本我”具有“不透明性”。如果按照这一逻辑,“数据池”中的信息更多是人的“自我”部分的呈现,是经过处理和掩藏的,或者被虚假呈现的部分,这是算法很难确认的。也就是说,被算法精确加工的数据本身,实际上存在不真实性或者不确定性。如果数据真实的逻辑前提不存在,那么越是精准推荐,其结果可能越是“南辕北辙”。这就从精神分析立场提供了一种博弈的可能:人可以通过自身的不透明性和“黑箱”气质,来抵御算法的操控。二是人的“中辍”行为。“中辍”一般指主体对于被束缚状态的自觉中止和“逃逸”,这也显示出主体的理性以及对操控行为的自觉抵抗。这是从人的自由意志角度提供的另一种可能性。不过,人需要更合适的替代性内容作为更好的“逃逸”出口,这也启发人可能有机会暂时摆脱算法的束缚和控制。三是人对算法的批判性思考。人不断地进入世界,这个世界不仅依赖学习,还依赖人的身心投入。杜威曾说:“在自然中并没有孤立无关的事情,但同时彼此的交相作用和联系又不是笼统的和完全相同的。在交相作用的事情之间有比较紧密的结合,也有比较松弛的结合,而这些结合就规定了它们具有一定的开端和结尾。”计算机无法揭示社会问题的复杂性和多元性,算法只能对人提供的信息进行分析和加工,但是隐匿的人的意图、信念或者无意识的内容是很难处理的。(二二)理理解解人人与与技技术术关关系系的的超超越越性性观观念念 转换理解算法的思维和观念,隐匿批判算法的拯救之力,“反思算法社会中人与算法之间的新困,主旨不是解构而是建构,超越主客二分对立模式,转换对科技(算法)的观念,知道算法想要什么,并与算法形成和谐共生关系,这才是批判的意义”。既然科技之趋势避无可避,人们就需要一方面认识“物性”、顺应“物性”,另一方面秉持科学的审慎和对人类主体性的关注,在引导“物性”的过程中最大限度地建立与物共生的友好关系,而不是单一对抗和支配性关系。尊重物性规律,才能更好地发挥人的能动性。无论是器物还是语言都是一种中介物,具有“摆渡”作用而不是终极目的,如庄子所言“得鱼而忘筌”“得兔而忘蹄”“得意而忘言”。这在价值和思维层面,为理解人类与算法的关系以及超越主体之困提供了灵感。此外,我们要从生命和世界的角度去理解人自身。“生活深处,世界不是分成你和你要选择的东西,你跟你周边的人与事融合为难解难分的命运。”虽然算法会以自身的逻辑进行选择、区分、保存和遗弃,但是人的生命感和宇宙感越丰富,人保留类能力和类特征的疆域就会越宽阔,其与算法和谐共生的可能性就越大。人是以“身心”投入生活与环境,并在时间和历史中认识与理解世界的。“我们不像计算机:机器总是耐心和愉快地等待