算法嵌入课堂教学：机遇、风险及其防范.pdf

CMYK当代教育科学22023年第7 期课程与教学算法嵌入课堂教学：机遇、风险及其防范李书琴刘旭摘要：人工智能技术推动课堂教学改革创新，本质上是依靠算法这一“看不见的手”发挥作用。理性审视智能时代课堂教学的算法嵌入，既是对人工智能技术底层逻辑的批判反思，也是对课堂教学改革新方向的探索突破。算法使教学效率的循证提升、教学内容的精准推荐、学习路径的个性定制、教学评价的创新改进成为可能。但是，算法嵌入课堂教学智能系统引发的算法逻辑遮蔽教学主体，算法黑箱消解知识价值，算法致瘾固限学习质量，算法偏见异化教学评价的多重风险不容忽视。鉴于此，防范算法风险应以道驭术，提高师生的算法素养；打开算法黑箱，透明化知识的供给机制；人机双向赋能，助力深度学习的发生；善法规约算法，回归评价育人的路向。关键词：课堂教学；算法；机遇；风险；人工智能课题来源：本文系湖南省社会科学基金项目“课堂实现五育融合的机制与策略研究”（项目编号：22YHA059）、湖南省研究生科研创新项目重点项目“理解乡村教师情感劳动：一项为期四年的叙事探究”（项目编号：CX20220452)的研究成果之一。作者简介：李书琴（1 9 9 5-），女，湖南郴州人，湖南师范大学教育科学学院博士研究生，主要研究方向为课程与教学论；刘旭（1 9 6 5-），男，湖北洪湖人，湖南师范大学教育科学学院教授、博士生导师，,主要研究方向为课程与教学论、教师教育。人工智能技术的迅猛发展在教学领域展现出广阔的应用前景，各种智能教学平台、智适应学习系统、智能教学管理、智能测评等一系列智能技术不断嵌人课堂教学,驱动着教学理念、教学研究和教学实践的全方位变革。近年来,ChatGPT(Chat Generative Pre-trained Transformer)亦凭借其超强的学习能力、灵活的交互能力和较高质量的文本生成能力在世界范围内引发追捧和热议，微软等科技公司纷纷提出将ChatGPT置入相关搜索引擎和应用中。可以预见的是，各种内置ChatGPT的智能教学应用也将紧随其后，势必引发新一轮的教学改革潮。然而,无论是何种智能教学应用，都离不开人工智能技术的底层逻辑一一算法(algorithm)的支持。“如果说数据是土壤的话,人工智能就是成熟的作物,而算法则是种子”，1离开算法，人工智能技术就无法发挥作用。算法最早由波斯数学家Al-Khwarizmi（约7 8 0 850年)提出，用于指称代数运算规则,2 0 世纪以来被广泛应用于计算机领域。计算机科学中的算法是“一组有限、抽象、有效、复合的控制结构，它能在强制性给定的规则下完成既定目的”。2 人们将解决问题的方案转换为算法后，给定输入数据，算法就能让计算机执行程序，快速求得最优解（见图1）。相较于程式-43-CMYK课程与教学既定的算法，现阶段的人工智能大多使用以深度学习为代表的机器学习算法，它们无需遵守固定的决策规则和权重，而是模拟人脑神经元交流方式，具有自主学习、主动调整、自行决策的特性。3 本研究所使用的“算法”即指此类机器学习算法。人（设计方案）问题想法数据模型数据表示基本思路数据处理图1 计算机求解的一般过程 4 尽管已有研究针对人工智能技术在教学场景中的应用以及面临的挑战等重要命题开展了许多有益的探索，但鲜少研究深入具体地检视算法在教学领域的深层次影响。随着人类逐步从弱人工智能时代走向强人工智能时代，算法这一“看不见的手”所带来的风险与日俱增。理性审视智能时代课堂教学的算法嵌人，既是对人工智能技术底层逻辑的批判反思，也是对课堂教学改革新方向的探索突破。基于此，本文将以算法技术为切入点，审视算法嵌入课堂教学的价值,研判算法可能带来的风险，探析可行的风险防范策略，以期更好地使算法深度赋能课堂教学改革。一、算法嵌入课堂教学的机遇审视算法是智能时代课堂教学变革的技术底座。无论是面对面课堂、混合式课堂还是线上课堂，各种智能应用都要依靠算法感知、采集和组织教学大数据，基于算法模型输出数据分析结果，为教学提供预测、诊断、推荐和决策。算法嵌人课堂教学，使教学效率的循证提升、教学内容的精准推荐、学习路径的个性定制、教学成效的创新评价成为可能。（一)教学效率的循证提升提高教学效率是教育改革不变的主题，尤其在“双减”背景下，只有提质增效，才能真正减轻学生的负担。高效率的教学，是指通过教学要素的合理配置，-44-2023年第7 期当代教育科学使最小的投入能够实现最多的教学产出。相比传统的基于教师“经验”的教学,算法采取的是基于“证据”的逻辑进行教学决策，依靠其强大的数据挖掘、存储和分析能力，有助于教学效率的循证提升。一方面,算法挖掘数据的速度广,存储内容多,以替代教师完成部分工作的形式提高教学效率。算法计算机（执行方案）实现“一切皆可计算”的前提是挖掘教学相关的一切算法程序程序语言编程环境信息并以数据形式存储。从数量上来说，这些数据是海量的，人脑的记忆容量无法企及；就性质而言，这些数据是跨时空的，包含全员、全程、全景的信息；在形态方面，包括文本、图像、语音、视频、生理信息等多模态的数据。而且，轻量化的算法既不会占用过多的存储空间，又能方便教师随时调用教学数据库，使教师能将更多的时间和精力投人学生高阶能力和情感态度价值观的培养中。例如,现有的自动文本分析算法技术可以调用海量语料库，建立语言水平预测模型，自动批改学生的作文，给出评分和文本建议，整个过程无需教师监督。另外,许多图像识别算法技术可以帮助教师批改作业和阅卷，语音识别算法技术可以帮助教师进行语言类学习的测评，人机交互算法技术可以辅助教师进行自动答疑、陪练，能减少教师的工作负担，提高教师的工作效率。另一方面，算法高速的数据分析和学习能力，支持依循证据的教学决策，以赋能教师的方式提高教学效率。面对纷繁复杂的教学情境，教师很难快速纵观全局做出判断,往往只能结合经验进行决策。但算法的计算速度快、计算能力强，能以“完全理性”的方式在短时间内处理挖掘并存储的海量、异构、多模数据，提供智能诊断与学情分析,为教师提供优质适切的教学内容与教学方法。例如,Cobos等开发的教学模式推荐系统(RSPP),能根据使用该系统的所有师生、课程和场景的特征分析，快速向教师推荐教学模式，大大提高了教学效率。5 在教学过程中,算法还能根据师生反馈的互动数据，即时调整其内容与路径推荐，生成新的教学建议。如Mostafavi和Barnes设计的智能导学系统能够随着学习者掌握程度的变化给出差异化的提示，在减少学习者花费时间的同时提高了学习参与率。6 此外,强大的算法还有利于突破人脑的CMYK当代教育科学2023年第7 期定式思维限制，能够依循证据挖掘更多高质量的知识，发现更多有效教学的规律，从而促进教学效率的提升。(二)教学内容的精准推荐智能时代的知识生产更加高效，知识边界不断拓宽，知识形态日渐丰富，知识传播更加灵活，知识增长呈爆炸之势。这虽能为师生提供更多的选择,但如何从海量多模、杂乱无章的信息中筛选合适的教学内容是教师面临的一大挑战。智能算法的引入提供了机遇，它能够根据学生所需精准推荐，为师生提供适切的教学内容。精准推荐一般基于内容过滤、协同过滤、矩阵分解、基于用户的推荐、本体(ontology)等算法。7 近年来，运用混合算法模型的的智能推荐系统显现出巨大的潜力，它们能够相互扬长避短，提升教学内容推荐的精准度,有助于提高教学效率和质量。如Benhamdi等运用基于协同和内容过滤的推荐算法设计的个性化推荐系统(NPR-eL)能够根据学生的偏好、兴趣、学习水平和记忆能力提供个性化的学习材料。8 国外一些主打分级阅读的平台，如Newsela、H e a d s p r o u t、LightSail 等,正是集成多种机器学习算法，为学生推荐符合其阅读水平的阅读材料。无论使用何种算法,其智能化推荐的运作机理都是基于“内容一一学生一一场景”的三维适配（见图2）。第一维是内容层。算法技术能够快速挖掘、集约泛在分布的多模教学资源,形成一个跨领域、开放、可扩展的资源库。接着，通过智能语法和语义解析教学内容的学科、关键词、特征、类型、难易度、适用对象、适用场景等属性，标注大量的标签,以此进行分级、聚类和相互链接，建立多种形态的知识图谱，形成具有内在逻辑和秩序、相互映射关联的教学资源集。第二维是用户层。算法不仅能分析教师的教学风格,还能通过网络爬虫、视频监控、物联感知、可穿戴设备等算法技术将学生的身体、心理、行为、关系、位置等信息数据化，从中提取、加权、聚类分析学生的学习特征，建立学生的学习画像模型，用于预测学生个性化、动态的学习需求。第三维是场景层。算法技术能快速判断当前的教学场景模式，如面对面课堂、混合式课堂课程与教学或在线课堂,根据不同的教学场景模式规划不同的教学路径；也能分析具体的课堂教学情境，例如,该学科的培养目标、该堂课的教学目标、当前所处的教学环节等；还能计算当前的教学环境特征，包括教室的灯光、温度、湿度、光照、技术设施等。根据海量教学内容的意义匹配、学生差异化特征的需求匹配和场景识别的情境匹配进行计算，算法将筛选、过滤、排序后的知识信息推荐给教师和学生，实现海量教学内容、师生需求和多维场景的关联匹配。教学内容的精准推荐判断教学场景模式分析课堂教学情境一计算教学环境特征个采集教学的大数据分析加权学生特征建立学生多维画像个集约多模教学资源标注精细内容属性建立多态知识图谱内容过滤、协同过滤、矩阵分解、基于用户的推荐等算法图2 算法实现精准推荐的原理（三）学习路径的个性定制学习路径是学习者学习过程中选择或被选择的一系列概念和活动的序列集合 9 。在教学领域,算法最引人注目的优势就是向学生提供个性化的学习路径，为解决“因材施教”的难题提供技术支撑。算法推荐个性化学习路径的基础是绘制学生画像。学生画像的构成要素包括学生个体的基本信息（如姓名、性别、年龄、地区）学习水平（如背景知识、技能）学习风格（如感知型、直觉型、视觉型）、学习体征（如语音、表情、眼动）、学习心理（如兴趣、动机、态度）、学习行为（如参与度、互动轨迹、点击率）、学习结果（如知识掌握、问题解决、态度倾向）等。根据数字画像，算法会对学生的学习偏好进行分析与预测，制定满足学生个性特征和学习需求的学习目标,链接符合其发展水平的高粒度知识内容，以可视化、游戏化、趣味化的方式提供满足学习兴趣的学习活动与作业，给予针对性的实时反馈，进而实现学习路径的个性化定制。个性化学习路径的优势在于学习计划随着学生的优势、需求、动机与目标而改变，使每位学生的充分-45-场景层用户层内容层CMYK课程与教学发展成为可能。一方面,基于多种算法支撑的学习分析技术可以将学习目标定位于学生的“最近发展区”，精准地促进每位学生获得相应的发展，避免“认知过负”“认知过载”等问题。Lin等基于遗传算法开发的个性化辅差学习系统为此提供了强有力的证据。他们在JAVA课程中为期两年的实验结果表明，初级和高级水平的学习者成绩均得到提升,且在前测时属于低成就水平学生的成绩提升幅度显著优于高成就水平学生。【1 0 另一方面,学生学习路径的序列是自适应的。在传统的课堂中,学生的学习路径沿着教师的新知导人、概念讲解、问题解决、巩固练习等教学活动依次展开,学生学习的内容和步调是统一的。而在算法支持的学习环境中,学习路径是学生自定步调和掌控的学习序列组合,无论是学习目标、学习内容、学习活动、练习与作业还是学习反馈都具有个体差异，学生可以进行自适应学习 1 。如,有学者提出一种基于知识结构和学习诊断的学习路径生成方法(LD-LP),能根据学生的学业成绩和学习时间自适应调整学习知识的难度，实验结果亦表明其具有较高的自适应性和正反馈性。【1 2 目前,这种自适应学习平台的应用日益广泛，包括Knewton、H i g h l i g h t、K i d a p t i v e 等。（四）教学评价的创新改进教学评价是对教师的教和学生的学进行价值判断的过程。传统的教学评价存在评价信度较弱、评价数据片面、评价方法单一、评价结果使用不足等问题。智能算法破除了许多技术限制，为教学评价改革提供支撑引领。目前,许多智能测评平台,如Gradescope、ExamSoft,以及各种智能辅助教学、自适应学习平台，口语测评、智能阅卷等平台中内嵌的评价系统，都依赖算法功能的发挥。算法赋能教学评价的创新改进主要体现在以下几个方面。第一,评价指标的综合性。科学的评价指标体系是算法赋能教学评价的前提。算法可以协调教师、学生、教学管理人员以及信息技术人员的意见，针对不同评价对象和评价内容设计科学的指标体系与指标权重,形成较科学的评价框架。1 3 这不仅能为提高教学质量提供更客观综合的依据，也有助于扭转教学评价重分数轻素质的功利化偏好。-46-2023年第7 期当代教育科学第二,评价数据的系统性。系统的评价数据是算法赋能教学评价的基础。不同于传统教学评价获取的碎片化数据，算法能够采集系统全面的数据，从局限于一堂课的片断数据转向跨时空的线上线下、校内校外的全过程学习数据，从学生的测评成绩转向广维度的数据，从单一的文本数据转向语音、图像、视频等的多形态数据，进一步提升教学评价的精准度。第三，评价方法的多样性。多样的评价方法是算法赋能教学评价的关键。传统教学评价常采用练习测验、问卷调查、学生评教、同行听评课等方式，而算法可以综合多种评价方法。如有研究者使用多种算法记录学生头、眼、唇的特征变化，对倾听、疑惑、理解、抗拒、不屑这5 种课堂表情进行识别，从关注度、参与度、疑难度、活跃时间四个维度评估课堂教学效果。【1 4 而且,评价方法开展的过程主要由算法进行逻辑推演，避免评价过程中主观因素的干扰，能得到更加客观的结果。第四，评价反馈的即时性。即时的评价反馈是算法赋能教学评价的亮点。算法无时无刻都在进行大量的伴随式数据采集、处理、分析与应用,因而每个学生无需完成最终的评估就能即时获得详细的反馈。反馈以智能化、可视化的方式实时呈现，使师生清晰直观地了解教学效果,及时调整后续的教学内容、活动与策略。Grivokostopoulou开发的人工智能教学系统（AITS)具有内嵌的自动评估机制，可以为学生提供有意义的即时反馈。实验结果表明，使用AITS干预的学习效果显著优于传统教学组,反映了即时评价反馈的优势。1 5 二、算法嵌入课堂教学的风险研判算法为课堂教学变革勾勒出美好的智能图景。然而,若我们审慎地思考，便会发现算法在带来众多机遇的同时，内在隐藏着教学本体价值被侵蚀的多重风险。（一）算法逻辑遮蔽教学主体算法逻辑之下，一切人和物都会被剥离掉不必要CMYK当代教育科学2023年第7 期的细节,变成抽象化的数据属性；一切的事件都会被抽丝剥茧,给出形式化的可操作性定义；一切的分析和决策都强调高效率运转，提供精确的数字结果；一切的交流和互动都会被实时监控,用于操控师生的注意力。当算法逻辑不断嵌入甚至操控课堂教学时，产生了教学主体被遮蔽的风险。第一，算法的符号性消解了师生生命的丰富性。在算法系统里，教师和学生“消失”了。算法技术将师生身体、心理、行为、关系、位置等数据化的过程，实际上是祛除精神、情感、道德、社会、文化等个性化因素的过程。算法对师生进行抽象、剥离、加权,将其赋值为符号化的属性，使丰富的生命降维成属性的集合，“属性成为连接人、实体和事件的机制”。【1 6 用德勒兹的话来说，算法并不关心具体的人，它只是以可分体的控制方式用数字代替人,只关注分体量化的特性。1 1 7 于是，师生成为属性的集群存在，由符号化的属性定义其性质。第二，算法的有限性和确定性剥夺师生的自由性。算法的有限性是指算法只能由有限的字母和数量符号组成，它必须在有限的时间内完成特定的计算,且必须在执行有限的步骤后暂停；1 8 确定性是指算法中的每一条指令必须有确切的含义，不会产生二义性。【1 9 这决定了算法只能根据有限的数据和限定的规则进行计算,其提供的教学决策也是有限的。与其说算法能为师生提供自由的教学服务，不如说它牺牲了学生生命发展不可或缺的涌现性、不确定性和生成性因素，换来可控制的、确定的和公式化的教学过程。这无疑会禁教师的教学自主权，消解学生自由发展的可能性，使教学变得像工厂生产标准化的产品那样来培养学生。2 0 第三，算法对效率的极度追求挤占师生的目的性。教学的本质目的是育人，追求的是在教学主体间交往中促进学生的德智体美劳全面发展。然而，算法在优化升级时考虑的是轻量化、低耗时和低成本,追求的是一套模型征服全世界。尽管算法提高了课堂教学的效率,但师生的目的性也在这种“效率为王”的膨胀中逐渐沦为边缘地位,师生之间、生生之间的思维碰撞、情感共鸣和精神提升被淡化，无疑会加剧人课程与教学与人之间的疏离与淡漠。第四,算法独裁制约师生的能动性。算法决策看似符合师生的教学需求，实质却是用投其所好的方式强化师生对算法的依赖。师生在教学互动中的数据被采集得越多,算法就越能推测师生的需求，越能在有限的时间内通过其提供的教学内容吸引师生的注意力,弱化师生独立判断的能力。当教师过度依赖算法推荐教学资源、策略和评价，其教学设计能力、创新能力、反思能力会逐步下降；学生过度依赖算法推荐学习内容和学习辅导,其对知识的主动检索与构建能力会逐渐下降。久而久之，师生沦为算法技术阴影下的“臣民”。2 1（二）算法黑箱消解知识价值算法黑箱是指算法运行某个阶段的内部复杂性和不透明性。目前常见的算法黑箱类型有两种(见图3)：一种是输入和输出的数据都可观测，只有算法的内部结构处于黑箱状态；另一种是只有输出数据可观测,输入数据和算法内部结构均处于黑箱状态。2 知识是课堂教学的基本要素，肩负引导个人成长、助力社会发展、推动文化繁荣的三重价值属性。当算法替代教师筛选知识、组织知识和呈现知识时，教师既不清楚是怎样的内容被输入数据库，也根本无法知晓算法推荐的原理,更难以通过技术手段改变算法的推荐机制，这将引发知识的多重价值被消解的风险。(1)输入端与输出端可见(2)仅输出端可见输入输出图3 常见的两种算法黑箱类型一方面，由于算法输人数据库的不可观测,失实、低质和失范的内容可能被当成知识推荐。在智能教学应用中，尽管传统的纸质教材会以数字化的方式呈现，但其他的内容数据却很可能只由技术研发人员选择。德勤发布的全球教育智能化发展报告显示，我国智适应教学企业倾向于自已开发教材内容，未经教师和学科专家严格把关。2 3 另外,算法虽具备从互联网中高速挖掘海量资源的能力，但它很可能提供虚假信息，且不具备价值判断的功能，无法识别逻辑正确-47-输入输出CMYK课程与教学但价值歪曲的内容。如ChatGPT已被连续爆出捏造不实信息，多本知名期刊也接连发出警告：不能轻信ChatGPT能提供可靠的事实和参考。2 4 试想,若那些质量良莠不齐、价值引领失范的内容进入教学资源库，必将威胁教学的意识形态功能和人才培养质量。另一方面，由于算法内部结构运行的不透明,其推荐机制导致的“知识茧房”无法得到及时干预。算法为了取悦学生的喜好，往往会进一步加强我们对某些问题的“既有看法”，降低那些与学生喜好不符内容的重要程度。2 5 例如,在辅助阅读教学的平台中，一位学生经常阅读自然科学类文章，算法便会记录学生的兴趣，持续向其推荐同类型的知识内容，而且，算法还能根据学生在系统中的人际关系进行相似推荐,使相同兴趣的学生群体聚集到“过滤气泡”中。久而久之,算法以个性化定制的名义将学生困在同质化内容的“回音室”内，那些凝聚着人类智慧的“强有力知识”被排除，学生楷于像蚕茧一样的“茧房 中。2 6 虽然师生可以对某些推荐的内容标注“不感兴趣”，但无法探查算法如何进行筛选、过滤、排序知识内容，也就无法从根本上施加有效的干预。即使技术人员也很难干预,因为整套算法系统由大型团队分工完成，个人无法知悉算法的全貌。这不仅无益于知识本身的繁荣发展，也会固化学生的视野和思维，更有可能导致学生的价值观分化甚至极化。（三）算法致瘾固限学习质量致瘾性是算法潜在的危险性特征。若算法致瘾机制的运作能够使学生对真正的学习“欲罢不能”,那是一件益事。然而,算法致瘾机制建立在“复制历史”的工作路径和无处不在的“糖衣”之上,学生的学习质量面临圃限的风险。其一,算法基于“历史”的预测局限了学习的广度。算法根据学生过去的学习画像设计未来学习路径，这种预测建立在“学生是已知的”和“学生的发展是连续的”两个前提之上，但这一假设并不充分。一方面，尽管算法构建的学生画像数据十分丰富，但学生停留时间的长短、勾选兴趣标签的多寡、答题的正误等量化数据无法反映作为整体的学生学习的全貌。学生还存在许多已知却难以编码为计算符号和许多-48-2023年第7 期当代教育科学根本未知的方面,如潜在的兴趣、内隐的思维和偶发的灵感就很难被算法捕捉和量化。另一方面,尽管学生的发展具有规律性、连续性、阶段性的特征，但也同样具有无规律性、非连续性、无序性的特征，正如博尔诺夫一针见血地指出：“在人类生命过程中非连续性成分具有根本性的意义。”2 7 正是那些偶然的、断裂的、非理性的遭遇塑造了自由独特的生命。因此，自适应的个性化学习路径，虽能在一定程度上为学生带来愉悦的学习体验，但算法仅基于片面的“已知”和“连续性规律”定制学习路径，必然会导致推荐的知识信息准确度不足、学习过程僵化和学习的生成性阙如。学生持续的学习被用于算法更新画像数据以及程式化算法对历史数据的路径依赖双向强化着这一风险，最终的代价便是学生无限发展的可能性被剥夺。其二,算法制造的“糖衣”浅化了学习的深度。算法根据画像数据分析学生学情后，通过触手可及的目标引导学生开始学习；采用一系列泛娱乐化的形式丰富和强化学生的感官体验，如悦耳动听的提示音、五彩缤纷的图像、拟人化的卡通学伴、虚拟化的人机交互等；使用游戏化的激励机制，使学生在毫不费力的进步中体验成就感，将学生学习过程中可能产生的挫败感降到最低程度。直言之,算法消解了学习过程的复杂性和深刻性，将其简化为取悦学生表面兴趣为导向的“供需”关系，通过为学习裹上厚厚的“糖衣”以实现其致瘾目的。然而，“信息只有经历人脑的经验改造、人心的信念内化和入身的行为建构才能成为知识”，2 8 在算法营造的快餐式、泛娱乐化和游戏化的浅层学习温床中，学生被肤浅的感官体验占据和引导，沉浸于“升级打怪”的廉价快感，只能机械地记住一些零散的、孤立的和浅表化的碎片信息，很难将其内化为真正的知识,更难以发展出深度理解、自主决策、批判反思、广泛迁移的高阶能力。不仅如此，在“糖衣”的持续喂养下,学生会变成被“宠坏的孩子”，他的意志被削弱，耐心被蚀尽，只会逃避困难问题，“从一切没有人为地用有趣的事物环绕起来的事情离身而去”。2 9（四）算法偏见异化教学评价CMYK当代教育科学22023年第7 期算法是处理数据的一套指令，看似只关乎代码和数学运算，是完全客观的。然而，多项研究揭示了算法内嵌的偏见,如英国学校预测学生考试结果的算法被发现带有社会经济地位偏见 3 0 ,还有一些算法甚至隐含着种族偏见和性别偏见。尽管算法为教学评价改革提供了新模型、新数据和新方法，但隐藏于设计开发、数据收集、分析运行和决策应用环节的算法偏见（图4）带来的教学评价异化风险不容忽视。设计开发算法研发人员的偏见数据收集输入数据存在的偏见分析运行算法局限导致的偏见决策应用输出结果制造的偏见图4 算法偏见示意图在设计开发阶段，算法研发人员的偏见被引人，影响教学评价的科学性。算法不是在真空中产生的，而是人们 用数学工具包装出来的各种主观观点”。3 1 设计教学评价算法的人员是否能做到公平公正，是否理解教学评价的价值追求，都将影响教学评价的科学、客观与专业程度。开发者在构建教学评价的算法模型时很可能将自身偏见、社会风气、制度体制以及文化差异无意识地或有意识地嵌人算法之中。3 2 在数据收集阶段,用于算法训练和分析的数据可能存在偏见，使教学评价“偏见进，偏见出”。一方面，用于训练算法模型的数据集为大样本数据，捕捉的是师生的“最大公约数”,那些有特殊学习需要、处于经济地位弱势、生活在老少边穷地区的学生数据容易被非随机地、系统性地“边缘化”。另一方面，算法采集并储存的分析数据局限于能被符号精确化定义的类型,如认知领域的学习数据,那些复杂的、突现的、非还原性的情感价值态度会被排除在外。在分析运行阶段，算法会复制偏见，造成教学评价中的偏见循环。算法只能优先进行相关分析，很难进行因果推断，无法分析数据“为什么”或“怎么样”，3 3 因而不仅很难识别和消除数据中存在的偏见,反而会学习并强化这些偏见，持续输出带有偏见的评价反课程与教学馈。Rybinsky和Kopciuszewska的研究证实了这一点，他们使用算法对1 6 0 万份学生评教数据集进行训练，结果发现算法无法分析数据差异及偏见背后的原因，只能学习评教数据存在的关于课程难度、性别或教师职级的各种偏见,并在输出结果时进一步放大这些偏见。3 4 在决策应用阶段，算法会制造新的偏见，影响教学评价的价值追求。算法使用数据标识教学评价的结果，但是，数据化的结果无法标识什么是“好的教学”，无法实践“好的教学”，更容易引发教育竞争和学习焦虑。3 5 学习排行榜在智能教学系统中屡见不鲜，但是，学生的学习水平不仅与其认知能力有关，也会受到其所处的文化背景、社会地位、经济水平的影响。算法在评价时无法综合考量这些结构性的质性因素，却又以排名的方式呈现不透明模型的计算结果,既容易引发学生之间竞争内耗,也可能加重对榜末学生的误判、伤害和歧视,致使“强者越强，弱者越弱”的恶性循环。3 6 三、算法嵌入课堂教学的风险防范算法在课堂教学中的嵌人引发遮蔽教学主体、消解知识价值、囿限学习质量、异化教学评价的多重风险。这些风险紧紧嵌人教学生态系统中，只有教学相关利益者共同努力、协同施策，才能超越算法诸多机遇带来的迷幻表象，推动课堂教学的智慧化发展，落实教学育人的核心任务。（一)以道驭术,提高师生的算法素养防范算法遮蔽风险的最佳之道似乎是减少算法的应用，然而，算法早已全方位嵌人教学和日常生活的各个领域,师生对算法的感知、理解与使用反过来促成了算法本身：师生在教学中使用算法越多,算法对师生的了解程度就越深；算法越能窥探师生的喜好与需求，提供的服务就越精准，师生从中获得的满足感越多，就越容易依赖算法。在这种背景下，着力提升师生的算法素养，以智慧之“道”驭算法之“术”，或是突破算法逻辑的多重禁,重新彰显师生主体性的必然进路。-49-CMYK课程与教学算法素养是智能时代必备的素养之一，它是指“理解人工智能算法如何在数据中找到可应用于人机交互的模式和联系的能力”。3 7 具体来说,算法素养应体现在知识、能力、情感态度与价值观三个维度。在知识维度，师生应了解算法的定义、发展、功能、范围等事实性知识，识别算法的组件、模块、类型、特征等概念性知识,理解算法如何进行分类、排序、预测、推荐、评估、决策等程序性知识。在能力维度,师生应培养对算法训练数据、模型设计和结果输出的辨别、判断、理解和批判能力；合理应用算法在各个场景中解决现实问题，掌握与算法技术交互协同的能力。在情感、态度与价值观维度，师生应培养合法规、合道德、安全负责的算法使用意识，能够保护自身与他人的隐私和利益，深刻理解和反思算法的多重影响。提高师生的算法素养，一方面需要将算法素养融人教师教育一体化发展的全过程。在职前教师教育阶段，应充分运用人工智能技术赋能师范生培养模式改革,将算法素养融入学科知识与教育教学技能的培养之中。在职后教师教育阶段，为教师搭建人工智能技术应用能力提升的平台，将算法教育课程纳人各类教师培训项目中，着力建设能应对智能时代新形势、新使命、新挑战的高素质专业化创新型教师队伍。此外，最有效的算法素养提升路径应当是为教师提供参与算法设计的机会。算法研发企业可以主动打破技术鸿沟，邀请教师参与教学类算法应用的设计与优化，使教师可以在算法开发实践中增进对算法原理的了解，实现以价值理性平衡技术理性，从教学规律优化算法设计的目的。另一方面,研制算法素养通用框架和课程标准,将提升算法素养融人培养学生的各级各类课程教学中,让学生在算法实践与反思中增长算法素养。算法教育课程的目标应围绕算法素养通用框架制定，同时有效对接学生发展核心素养的框架。算法教育课程的内容应根据大、中、小、幼不同学段学生的特点统筹安排，合理衔接。算法教育课程的实施应着重采用批判反思教学法，强调算法偏见、信任、可信度、不透明性、多样性和社会正义、相称性（算法如何与我们互动以塑造和重塑知识和人的主体性)等关键概念，帮助学生重新审视算法的功能，而不是仅停-50-2023年第7 期当代教育科学留在如何使用算法更快捷地搜索知识。3 8（二）打开黑箱，透明化知识供给机制联合国教科文组织在2 0 2 1 年发布的人工智能伦理问题建议中强调：“人工智能系统的透明度和可解释性往往是确保人权、基本自由和伦理原则得到尊重、保护和促进的必要先决条件。”3 9 打开算法黑箱，是保证人工智能系统透明度和可解释性的关键,亦是保证课堂教学中知识价值充分彰显的必由之路。算法黑箱的成因复杂，因而打开算法黑箱也需要从法制监管、算法披露和学校把关三个层面展开。首先，政府应建立监管机制，以法制约束算法的透明化运行。出于保护知识产权或商业竞争利益的目的，许多企业会故意制造算法黑箱，这决定了算法黑箱的治理仅依靠教师或学校单方面的力量无法完成。教学具有公共利益属性，政府必须建立和完善算法问责制，明确算法供给责任主体的权利与义务，监管算法从设计到教学应用的全过程，严格惩治违反法律和道德规范的行为。目前,世界上许多国家和组织都在制定法律法规，以促进算法的透明化运行；我国也于今年出台了互联网信息服务算法推荐管理规定，但细化到教育教学领域算法的监管制度还需要相关部门尽快填补空白。其次，企业应摒弃零和博奔思维，在平衡商业利益与公共利益的基础上，使算法“黑箱”变成“白箱”。透明化算法的内部结构并不意味着所有代码和数据都公之于众，出于保护师生隐私的考虑，可以提交给政府指定的第三方监管机构。算法至少应以简单易懂的形式向师生和其他公众披露数据、模型、推断与交互四个层面的信息。4 0 具体地说，数据层包括训练数据的来源、抽样方法、质量描述，内置教学资源库的来源，对知识内容进行排序、分类、筛除的标准，算法建构学生画像时获取的数据元素、属性生成规则等。模型层包括算法的定义、输人变量、特征加权、参数设置、建模工具、内嵌规则等。推断层包括算法推荐的类型、准确性、误差分析等，如算法对学生画像、知识内容和教学场景的三维匹配原理。交互层包括提供算法存在的提示,开启或关闭算法的选择按键等。总之，无论多么复杂的算法，在应用至课堂教学时都应CMYK当代教育科学2023年第7 期保证其透明度和可解释性。最后，学校应发挥审查与监督作用，保证科学优质的知识内容顺利进人课堂教学。一方面,在算法进入课堂之前，学校应强制技术公司提供有关算法设计理念、数据来源、代码模型、运行机制和可能风险等方面信息的详细报告，组织学科专家、教师等进行伦理及教学专业层面的审查，确保算法能够提供主流价值引领、科学优质、丰富多元的知识内容。只有通过包容性、公平性、可靠性、透明性、可解释性、鲁棒性等的检验和风险评估,算法才能应用至教学实践。【4 1 另一方面，学校应保障师生作为数据主体的监督权，收集师生在算法使用过程中的反馈,如使用过程中发现的低质量、有害的内容等,并及时对接相关技术部门,以调整算法模型。（三)双向赋能，助力深度学习的发生走向教学中的深度学习是破解算法致瘾力量操控的浅层学习的必由之路。深度学习是指“在教师的引领下，学生围绕着具有挑战性的学习主题，全身心积极参与、体验成功、获得发展的有意义的学习过程”。【4 2 在目标方面,深度学习强调激发学生内在学习动机而非浅表的学习兴趣，培养学生的核心素养而非识记能力；就内容而言，深度学习强调对学科核心知识与广域知识的融会贯通，而非“茧房内同质知识的吸收；从过程来说，深度学习关注教学主体相互交流合作与共同体验探究的过程中生成对知识的理解与批判反思，而非孤岛式的、日渐固化的个性化学习。【4 3 显然,无论算法技术进展到何种高级阶段，都始终无法撼动教师在促进学生深度学习过程中的地位。因此，与其对立人机关系,不如走向“人机共教、人机共育”，通过教师与算法的双向赋能，跳出算法制造的浅层学习陷阱，共同助力深度学习的发生。教师与算法双向赋能的前提是教师主导地位的重新确立。尽管算法提供了诸多机遇，但其仍然需要由人类控制,因为再高级的算法也会犯非常愚蠢的错误。教学事关教师的立身之本，也直接决定着党和国家的人才培养质量，教师控制算法是双向赋能的第一原则。这并不意味着教师需要事无巨细地检查算法课程与教学的每一项决策，而是具有对算法运行机制的知情权，对算法运行过程的监督权，对算法运行结果的干预权。尤其是在一些涉及价值判断的教学评价中,教师具有最终决策权。教师与算法双向赋能的基础是算法的迭代优化。算法提供的智能服务只是指导和支持，而非凌驾于师生之上的绝对权威。现阶段的算法还面临着只能把握群体特征、依赖历史数据、采用泛娱乐化手段迎合学生学习兴趣的问题，今后的算法研发应着重于如何更好地结合大数据与小数据、历史数据与当下数据进行预测分析，推送的教学内容既要有体现价值多元的个性内容，又要有符合主流价值引领的共性内容；既要符合学生的学习兴趣，又要鼓励学生展开自主探究。教师与算法双向赋能的关键是厘清教师与算法在课堂教学中的不同担当。算法的优势集中体现在教学工作中重复性、稳定性和确定性的部分，而教师更能胜任创意性、不确定性、非连续性的部分，尤其是学生在深度学习中的思维碰撞与情理交融方面，教师的“道德、情感、哲学、审美、批判性思维和创造性思维素养”发挥着重要作用。4 虽然许多研究认为算法可以在部分教学活动上完全取代教师，教师则负责其余的工作，但二者并不能完全割裂；真正的双向赋能应该是在同一项活动中，教师参照算法结果后结合自身的实践智慧做出最终判断。以批改作文为例，算法能够快速检测标点符号或字词句段的错误，给出最终评分或等级，但无法提供更细致的修改意见；而教师可以在此基础上提供多样化的评语反馈，进行真挚的心灵沟通，甚至可以通过学生的作文发现学生的学习需求、思想动向和家庭背景等，从而及时调整接下来的教学设计，进行有针对性的育人活动。（四）“善法 规约，回归评价育人的路向算法偏见影响教学评价的科学性、专业性、客观性和价值追求。防范这一风险，必须使用“善法”进行规约,将“算法从善”的规范者指引的伦理框架嵌入算法的各个环节，使算法的开发、运行、应用都符合道德的目的。4 5 虽然算法偏见的来源十分复杂,但从整体-51-CMYK课程与教学上看，主要源于算法对人类偏见的复制和算法自身的偏见，因而“善法”至少应置入这两个基本向度，以促进学生发展为中心的教学评价实现。一方面,以“善法”规约算法研发者和应用者的价值观。算法是人的智慧和意图结合的产物，承载着研发者和使用者的价值观。在培养算法研发者时,应着力改进科技伦理教育，将生命伦理、科学伦理、技术伦理、职业伦理等纳人课程内容，开展启发式、情境式、案例式教学，使其在体验中内化基本的道德伦理规范。在职业工程师的资格认定中增加科技伦理的权重，严格把关从业标准，提升科技人才的伦理自觉。当研发者要设计应用于教学的算法时，政、企应开展相关培训,使算法研发人员能明晰教学评价的基本旨趣，最大程度减少自身的偏见带入，确保教学评价的公平、公正。教学利益相关者不仅应充分发挥监督权，避免算法偏见产生的歧视、不平等和排斥，也应始终坚守以人为本的价值立场，辩证使用教学评价结果，使基于排名的“军备竞赛”变成基于发展的“和平协议”,真正促进学生的自主个性发展。【4 6 另一方面，将“善法嵌人教学评价算法内部。依据瓦拉赫等人提出的机器人伦理，使算法遵循“善法”可以从三条路径展开：“自上而下进路”“自下而上进路 以及“混合式进路”。自上而下的进路是指在算法设计之初，将伦理规范、价值观念等分解为可计算、可管理的模块，之后按层级布置模块进行嵌人。4 7 例如，Joseph等将罗尔斯的“机会公平”原则嵌入决策框架，构想了一种公平算法，使算法的每一步都能实现可以被证明的个体公平。4 8 因此，教育法律法规、教学伦理