风险与防范:中小学人工智能教育的伦理考量.pdf
《风险与防范:中小学人工智能教育的伦理考量.pdf》由会员分享,可在线阅读,更多相关《风险与防范:中小学人工智能教育的伦理考量.pdf(6页珍藏版)》请在咨信网上搜索。
1、第 46 卷第 4 期教学研究Vol.46 No.42023 年 7 月Research in TeachingJul.2023风险与防范:中小学人工智能教育的伦理考量蒋馨培1赵磊磊2,(1.江南大学 教育学院,江苏 无锡 214122;2.南京师范大学 教育科学学院,江苏 南京 210097)收稿日期 2022-09-18 基金项目 江苏高校哲学社会科学研究一般项目(2022SJYB0967)作者简介 蒋馨培(1998),女,河南信阳人。硕士研究生,主要研究方向为人工智能教育。通信作者 赵磊磊(1991),男,河南新蔡人。副教授,博士,硕士生导师,主要研究方向为教育学原理、智能教育。摘 要
2、随着智能技术的发展,培育具有智能素养的公民成为教育关注的重点,人工智能教育也成为中小学课程教学的核心。中小学人工智能教育经历了起步期、发展期步入了转型期,相应的智能技术的使用也引发了新的伦理风险:技术至上消解了师生的教育主体地位、人机互动频繁遮蔽教育主体情感需求、算法推荐难以挖掘个性化育人的本质、人工智能教育过程缺乏风险防范与问责机制等伦理风险问题。据此,提出中小学人工智能教育伦理风险防范措施:第一,明晰工具价值,促进教育主体角色地位回归;第二,聚焦人文关怀,捕捉教育主体的情感诉求;第三,关注育人本质,创设人机协同型智能教育模式;第四,重塑技术规范,架构技术伦理风险管控体系。关键词 人工智能教
3、育;中小学人工智能;伦理风险;风险防范;技术伦理 中图分类号 G646 文献标识码 A 文章编号 1005-4634(2023)04-0082-061 研究背景 人工智能教育是面向人工智能素养提升的教育,强调培养学生编程、协作、问题解决与创新等核心能力,着重关注计算、数据、批判性与设计等跨学科思维的形成1,这一教育充分利用现有高质量的 AI 科普资源、开源软件等,改变传统教学模式2。在中小学开展 AI 教育,不仅能科普 AI 知识,还能够锻炼学生的逻辑思维能力和问题解决能力3,培养学生的人工智能素养,使其具备适应未来智能型社会的基本能力4,实现人的生命价值5。综合来说,中小学人工智能教育的内容
4、应主要包括 3 个方面:一是要用人工智能学习(例如,在课堂上使用人工智能驱动的工具),二是要学习人工智能(人工智能技术是什么?由什么组成?如何运转),三是要为人工智能做准备(例如,让学生不仅理解人工智能的技术原理,更需明白人工智能对人类生活的影响)。人工智能及大数据技术对社会各行各业都产生了长远的、变革性的影响,同时人工智能正与个性化智能导学、教育大数据收集分析等技术携手不断地推动教育智能化变革。智能技术与人才培养成为国家核心竞争力的重要组成要素,而人工智能教育也成为国家政策的关注重点。对此,国家出台了相应的政策为我国中小学人工智能教育课程的开展与推进提供政策导向与保障,也为各校构建校本化人工
5、智能教育课程指明了大致方向。2017 年 7 月国务院印发新一代人工智能发展规划,明确提出“实施全民智能教育项目,在中小学阶段设置人工智能相关课程”6。2018 年 4月教育部印发高等学校人工智能创新行动计划,提出“构建人工智能多层次教育体系,在中小学阶段引入人工智能普及教育”7。教育部颁布的义务教育小学科学标准明确指出:科学素养是指了解必要的科学技术知识及其对社会和个人的影响。很显然,人工智能课程应属于“必要的科学技术知识”8。随着国家政策的出台,关于人工智能教育的讨论也不断增加,主要包括以下几个方面:一是关于中小学人工智能开展的价值目标探讨9;二是关于中小学人工智能教育的学习内容探讨10;
6、三是关于中小学人工智能教育开展过程中存在的伦理问题探讨。中小学人工智能教育的开展能够让儿童理解人工智能与人类智能的区别,了解人工智能仅仅是对人类智能的一种延展而非替代。然而,当前系统性探讨中小学人工智能教育开展过程中的伦理问题文章较少,人工智能教育实际开第 4 期蒋馨培 赵磊磊 风险与防范:中小学人工智能教育的伦理考量83 展过程中存在的伦理问题亟待解决。因此,如何在有效利用智能技术为教育带来红利的同时又避免技术破坏人类社会的道德准则,成为中小学人工智能教育发展必须重视和首要需解决的问题。2 中小学人工智能教育伦理探寻的历史变革 教育是随着时代发展的事业,教育伦理亦然。进入 21 世纪以来,随
7、着中小学人工智能教育的不断发展,人们既热衷于在教育中应用人工智能技术,又产生了相应的忧思,人工智能教育中存在的伦理问题成了教育领域关注的热点。对于具有时代性的人工智能教育伦理问题而言,对其历史变革进行梳理具有一定的必要性。2.1 人工智能教育起步期:立足“机器人教育”表层伦理问题探讨 2003 年颁布的普通高中新课程标准将“简易机器人制作”列入“通用技术课程”选修内容,由于教育机器人本身具有的高灵活性、强互动性,可以很大程度上助益教学创新,增强学生的动手与思维发展,机器人教育也成为人工智能教育开展的主要课程形式。在这一阶段,以“机器人教育”“机器人教学”为主题的文献逐渐增多,提到了智能导师系统
8、类人的教学模式11,教育机器人对学生学习的正向影响12。学界对机器人教育过程中存在的伦理问题也展开了相应的讨论,如认为机器无法仅靠掌握学生学习信息(登录时间、上课的次数、提交电子作业的情况)来判断一名学生的学习情况13,机器学习虽为用户的“个性化学习”提供了实现的可能,但是数据收集标准不统一、处理规范不完善严重影响人工智能教育应用的有序发展14。在机器人教育开展的过程中,学者们关注到了机器人应用可能引发的伦理风险问题,但没有深入挖掘相应的风险解决策略。2.2 人工智能教育发展期:聚焦“编程教育”内隐伦理风险形式 2017 年 7 月,国务院发布新一代人工智能发展规划,促进中小学人工智能教育快速
9、发展。规划明确提出:“在中小学阶段逐步推广编程教育。”6同年 10 月,教育部关于印发中小学综合实践活动课程指导纲要的通知指出,要通过信息技术的学习实践,提高学生利用信息技术进行分析和解决问题的能力以及数字化产品的设计与制作能力15。自此,中小学人工智能教育的重心从机器人教育转到编程教育。中小学阶段编程教育主要是让学生感受编程思想,但多数学校在开展编程教育的过程中,不考虑学生的实际情况,教授难度较高的编程知识或以竞赛促学习,违背了编程教育的初衷,或是带来了相应的算法风险16(数字鸿沟、定制性算法)。结合编程教育这一背景,多数学者从师资建设、课程体系构建、教学方式等角度分析潜在的伦理风险并提出了
10、相应措施,推动了编程教育的发展。2.3 人工智能教育转型期:关注“智能技术”多形态伦理风险 进入 21 世纪,中小学阶段的人工智能教育迎来了良好的发展环境与强劲的发展态势。2021 年10 月,中国教育学会中小学信息技术教育专业委员会发布中小学人工智能课程开发标准(试行)文件,阐述中小学人工智能课程的开发标准和教学内容17。联合国教科文组织也于 2022 年2 月发布中小学人工智能课程蓝图:亟需政府支持文件,为国家层面构建人工智能课程体系提供框架指导18。在智能时代这一新的发展背景与国家政策的助力下,人工智能教育课程的构建也迈向了体系化,关于人工智能教育技术伦理风险的研究爆炸性增长。文献梳理发
11、现,多指出技术应用于教育中所带来的关系风险19(如师生关系异化、技术僭越主体权利)、监管风险20(系统提供商权责不明)、情感风险21(忽视教育主体情感需求)等。这些伦理问题的探讨,也为中小学人工智能教育教学提供重新调整、反思、提升的契机,为人工智能教育提供新的发展机遇。3 中小学人工智能教育发展中的伦理风险表征 目前,学者对中小学人工智能教育发展中伦理风险的关注视角存在一定差异。苏明等学者基于马克思主义技术批判人的异化与教育的异化,对人工智能教育提出了价值审视、公平性审视、人性审视、责任审视和终极目标审视,强调发挥人工智能教育的积极作用22。刘盾等学者从哲学与伦理的双重视角,分析人工智能对教育
12、的冲击,指出人工智能应用于教育可能会导致人与教育的分离脱节、人文教育缺失以及对教师职业的威胁等伦理问题23。Perrotta 等学者对机器学84 教学研究2023习与人的个性兼容性提出了质疑,通过分析“深度学习”和智能辅导机器对学生教育表现的预测结果,认为人工智能教育中算法对学习者的学习数据分析不当24。归纳来看,人工智能教育涉及到技术僭越、情感缺失、算法风险、过程管控等伦理风险问题,由此,本研究从主体地位、情感需求、算法局限、外在规范 4 个方面分析中小学人工智能教育应用中存在的伦理风险表征形式。3.1 技术至上消解师生的教育主体地位 技术本身只是提供使用价值的工具,如若过于崇尚技术而形成技
13、术至上的理念,将会消解师生在教育教学中的主体地位,带来一定的关系伦理风险。具体来说,其一,技术至上会破坏教师教学主权。当前,中小学人工智能教育的主题是教授智能知识与技术,人工智能教育课程开设的过程中必然要使用到智能技术,如学习机器人、机器助手等工具,技术的过度使用导致教师在教学设计、决策、诊断、评价等方面的部分职能已经被人工智能所代替。同时,教师采用智能助手为学生的作业评分,技术在教学中的过多参与在某种程度上已经消解教师的“主体权威”和“知识权威”,教师也极易沦为技术的附庸,从而导致自身的观察能力与教育机智有所下降。其二,技术理性造成教育主体地位缺失。尽管智能技术是基于人类智慧衍生的智能产品,
14、但是技术内在的逻辑要求教育主体抛弃多样的情感感受,依照技术理性行事,提高教学效率,这本身就有违教育规律。同时,教育教学中的某些规则被技术规则替代,使教育主体交往的规则被破坏。技术则越来越显示出类似于教育主体的某些特征,渐渐发展成为客体身份的主体存在,导致教育主体地位缺失变成了一个普遍现象。3.2 人机互动频繁遮蔽教育主体的情感需求 人是社会关系的总和,社会性是人的本质属性。在使用人工智能技术时要遵循人类社会的道德标准与行为准则,以防技术破坏人类社会独有的情感联结。中小学人工智能教育过程中各类技术设备的使用,虽革新了教学方式,但也极易导致教育主体的情感需求被忽视。具体来说,一是教育主体意识不到自
15、身的情感需求。当学生过多地沉浸于虚拟空间与虚拟机器时,极易导致其遗忘真实世界。由于学习机器人能够捕捉学生的面部表情、情感波动,为学生提供及时的学习服务,使学生有一种在课堂上和教师互动的真实参与感。这种过多的人机互动,致使学生渐渐远离现实生活而与同伴产生疏离,导致其社会交往能力和群体意识逐渐下降,违背教育主体同伴交往的情感需求。二是技术的过度使用导致教育主体情感需求被忽视。中小学人工智能教育开展的形式是将人工智能领域最新的知识和模型搬入课堂,便于让学生通过实操理解智能技术背后的原理。另外,还有智能机器人、教学辅助等智能设备的使用,导致课堂极易忽视教师对学生“因材施教”的指导作用。教育本身就是灵魂
16、撼动的职业,需要教育主体的情感交流参与,过多依靠人工智能技术的使用,极易忽视教育过程中学生情感与品格的塑造,不利于学生的全面发展。3.3 算法推荐难以挖掘个性化育人的本质 教学中利用大数据分析和算法推荐,能够基于学生的学习能力或技能水平动态调整课程难度或种类,能适应每个学习者的速度和进度并实时调整内容;或在恰当的时机提供定制化的练习,实现大规模的个性化学习25。但是,人工智能教育育人的本质仍是促进学生的个性化发展,当过多依赖于人工智能的算法推荐,极易出现“信息茧房”效应,导致教学偏离个性化育人的轨道。一方面,算法技术通过采集学生的行为轨迹、学习风格等信息,推送学生感兴趣的内容,而那些被判定为“
17、不感兴趣”“边缘化”的信息就由算法技术自主排除。长此以往,学生的信息获取渠道就被困于一个固定的范围内,学生擅长的学科知识将会得到快速扩充,知识获取的途径也越来越狭窄。智能化算法的推荐破坏了信息收集中的全面性,使人的思维被算法所局限,学生主动获取信息、搜集信息、分析信息的能力退化,致使人的个性化思维难以发展。另一方面,教育教学中过多地依赖于算法技术,不利于学生进行深度学习。学生使用互联网搜索引擎对相关信息进行点击、查看,智能算法的便捷性让学生享受到了信息爆炸的愉悦,同时也使学生过多地依赖于网络,对于自身发展的规划、选择不够明晰。太多的知识信息注定了学生的学习只能是浅尝辄止的,并没有达到深度学习,
18、对于学生持续发展并无很大的助益。3.4人工智能教育过程缺乏风险规范与问责机制 智能教育的过程是利用智能技术优化教学过第 4 期蒋馨培 赵磊磊 风险与防范:中小学人工智能教育的伦理考量85 程,以实现人全面发展目标的过程。人们正处于一个技术主导命运的时代,在技术延伸到和人高度相关的教育领域时,有必要对智能技术的应用建立系统监管机构和问责机制。当前,人工智能教育伦理缺乏相对规范的监管和问责机制,在技术风险防控方面存在较大漏洞。如数据收集过程中存在个人信息数据被泄露的安全隐患,机器学习等算法存在偏误、歧视的缺陷。在此方面,如若不进行及时的监管治理,将会造成人工智能应用失序的现象。2018 年 AI
19、Now 报告中提到,人工智能行业“迫切需要新的治理方法”,因为“大多数科技公司的内部治理结构未能确保对人工智能系统的问责制”26。只有设置相应的监管与制裁措施,建立外部权威规范,当人工智能教育出现伦理风险问题时才能够及时有效地解决,甚至从根源上保障教育主体的自身权利。另一方面,人工智能教育课程开展的过程中并没有设置相应的风险防范与问责机制。在中小学人工智能教育课程开设的过程中,学生要能够根据特定的情境要求,将相应的硬件与智能技术组装连接搭建出算法模型,以解决实际问题。比如,开发垃圾自动识别系统、东西分拣系统等。在这个开发过程中,算法系统所需的信息数据边界并没有被界定,极易导致过度收集个人或社会
20、的隐私信息,破坏人类社会的道德标准。4 中小学人工智能教育伦理风险的防范策略 基于前文探讨的中小学人工智能教育存在的伦理风险问题,提出相应的伦理风险防范措施,以期把技术行为可能引起的伦理风险可能性降到最低,发挥智能技术对社会、教育、个人创造福祉的作用。4.1 明晰工具价值,促进教育主体角色地位回归 智能技术在教育教学过程中只是作为工具使用,如若智能技术颠覆了以“主客体”为本质的人技关系,将会导致不可预测的道德危机。面对技术至上等观念带来的教育主体地位消解的现象,教育工作者应首要明晰智能技术的工具价值,以促进教育主体角色地位的回归。首先,在教师主体角色地位回归这一方面,教师需明晰智能技术的工具效
21、用,通过用好“人工智能技术”去上好“人工智能教育课堂”。教师可以将数据资源库、数字课程等优质教学资源,插入到日常的智能教育课堂当中,为学生提供一个真实的学习情境,加强学生对于智能技术概念原理等知识的理解。同时,教师也应保持着终身学习的信念,利用网络学习资源,提升自身的信息化教学水平,积极构建自身的信息素养核心竞争力,增强对人工智能教育课堂的驾驭能力。包括充分提升自身的信息素养知识、操作能力,运用教学机智对课堂中的突发情况进行有效化解,结合自身的专业素质整合教学设计和调整教学过程。只有这样,才能更好地发挥教师在教学过程中的主体地位。其次,谨防教育主体地位的缺失,教育主体应明确对技术使用的限度,不
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 风险 防范 中小学 人工智能 教育 伦理 考量
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。