ChatGPT运用于教育的伦理风险及其防控.pdf
《ChatGPT运用于教育的伦理风险及其防控.pdf》由会员分享,可在线阅读,更多相关《ChatGPT运用于教育的伦理风险及其防控.pdf(10页珍藏版)》请在咨信网上搜索。
1、 基金项目国家社科基金项目“学校立德树人的长效机制研究”(编号:B E A ).收稿日期 作者简介 冯永刚,男,山东师范大学教育学部教授,博士生导师;屈玲,女,山东师范大学教育学部博士研究生.年月内 蒙 古 社 会 科 学J u l 第 卷第期I NN E R MONG O L I AS O C I A LS C I E N C E SV o l D O I:/j c n k i i s s n C h a t G P T运用于教育的伦理风险及其防控冯永刚,屈玲(山东师范大学教育学部,山东济南 )摘要C h a t G P T热潮下的教育伦理是C h a t G P T等人工智能技术在教育领域
2、开发、应用与治理过程中,教育智能体 教育参与者与智能机器 应该遵循的道德关系、伦理准则及行为规范.教育“善”是人工智能时代教育伦理的内在属性和集中彰显.然而,随着C h a t G P T等人工智能技术与教育的融合,引发了一系列显在和潜在的教育伦理风险,表现为技术向“善”趋于异化、个体崇“善”走向衰微、社会趋“善”面临溃散等.为促进教育向“善”发展,有效防控C h a t G P T运用于教育的伦理风险,应改良智能技术,加快人机双师协同育人;回归人性本真,敦促德性良知重返人心;匡扶社会正义,促进教育优质均衡发展.关键词 人工智能;C h a t G P T;教育伦理;伦理规约;风险防控 中图分
3、类号T P ;G 文献标识码A 文章编号 ()人工智能(A r t i f i c i a l I n t e l l i g e n c e,A I)诞生于 世纪中期.在 年举行的人工智能专题会议中,约翰麦卡锡和马文闵斯基首次提出了“人工智能”一词,并将其视作一门研制智能机器的科学与技术.(P)晚近几年,人工智能已逐步渗透到教育领域,并加快了教育现代化的进程.恰逢全世界如火如荼地推动人工智能教育变革之际,美国的O p e nA I公司于 年底推出了一种“聊天生成预训练转换模型”C h a t G P T(C h a tG e n e r a t i v eP r e t r a i n e
4、dT r a n s f o r m e r),这是继推出深度学习技术后又一里程碑式的技术革命.C h a t G P T一经推出便在短期内火遍全球,就教育领域而言,这一技术的“爆火”让我们更加深切地感受到教育与人工智能深度融合的时代已然来临,人们要更加关注C h a t G P T等智能技术应用于教育后现存或潜在的伦理风险.当前,以C h a t G P T为代表的生成式人工智能技术应用于教育领域后,在重塑教育生态的同时也在不断侵蚀着教育伦理壁垒,故而,原有的围绕人类教育行为进行考察和分析的教育伦理框架已不适应人机共存的教育发展现状,在一定程度上引发了一系列教育伦理问题.因此,为促进人们在
5、教 育 领 域 合 乎 伦 理 规 范 的 基 础 上 安 全 使 用C h a t G P T技术,亟待审视并防控C h a t G P T运用于教育的伦理风险.一、C h a t G P T热潮下教育伦理的概念钩沉在西方,伦理学始于古希腊哲学家苏格拉底和亚里士多德,此后历经多个伦理学派,社会中的一切道德现象及善恶矛盾皆是伦理的研究范畴.黑格尔指出,伦理是道德和法的统一.(P )这就意味着伦理既是一种使人向善的内在理念与精神,也是社会约束人之行为的外在规范与要求.教育伦理则是伦理在教育领域的特殊运用,教育中的一切道德现象和善恶矛盾都可作为教育伦理的研究范畴.传统教育伦理的教育行为主体包含个体
6、和社会两个方面,是一种为达成教育“善”而对个体和社会教育行为进行规约的道德规范.传统教育伦理不仅要对微观教育领域中教育者的伦理状况与道德表现进行评价,而且还要对宏观教育领域中社会层面的教育制度、教育决策、教育活动等进行根本性的伦理道德审视.随着C h a t G P T在教育领域的广泛运用,人工智能逐渐成为一种新的教育主体.人工 智 能 不 断 扩 大 人 的 智 能,具 备 人 的 意识,在教育应用的过程中若不能对C h a t G P T进行有效的规制,必然会损害教育的正当利益,不利于教育“善”的实现.为达成教育伦理的终极价值 教育“善”,人们亟待从教育伦理研究的整体性出发,将技术层面的教
7、育伦理纳入C h a t G P T热潮下教育伦理的研究范畴.教育伦理是人伦道德之理,是教育活动中人与人相处的各种道德行为准则,教育伦理的与时俱进性决定了C h a t G P T热潮下的教育伦理将有别于以往传统认知中的教育伦理概念.目前人们对人工智能时代教育伦理的探讨主要有两种倾向:一是从人工智能的技术视角出发,探讨必要的伦理准则以规范C h a t G P T技术;二是从技术主体的角度切入,制定特定的道德行为规范以规制与C h a t G P T相关的技术主体.(一)智能技术视角:C h a t G P T热潮下对教育伦理的解读随着C h a t G P T教育应用热潮的到来,越来越多的人
8、工智能技术被植入教育领域,不仅实现了万物互联,促进了虚实结合,而且改变了教育活动的传统实践模式.为避免人工智能教育应用引起教育异化,确保人工智能时代的教育向“善”发展,人们亟待探究C h a t G P T教育应用热潮下教育伦理的本质,以明确C h a t G P T在教育应用过程中需要遵循何种伦理准则.聚焦近期人们对人工智能时代教育伦理概念的相关研究发现,部分学者倾向于从人工智能技术的视角探究人工智能时代教育伦理的本质属性.有研究指出,人工智能时代的教育伦理是教育人工智能开发、应用等要遵循的道德与准则,主要集中于教育人工智能的道德发展和部署.人工智能时代的教育伦理内涵体现在“应为”和“禁为”
9、两个层面,要通过伦理规范来消除低层次、局限性认识所造成的伦理限制,规避人工智能技术的缺约束、不节制等非理性应用.综合多位学者对于人工智能时代教育伦理的界定,现将智能技术视角下教育伦理定义为C h a t G P T等人工智能技术(或物化的教育技术产品)在系统开发、教育服务和教育应用的过程中应该遵循的一般伦理原则和行为规范.其中,C h a t G P T教育应用热潮下教育伦理的主要任务是从安全、透明、可释、公平等多个层面打造合乎伦理的人工智能系统,这就有赖于克服人工智能本身的伦理局限性,设置人工智能教育伦理底线,加强对算法、数据等层面的伦理规约.(二)技术主体视角:C h a t G P T热
10、潮下教育伦理的释义C h a t G P T介入教育活动丰盈了原有的教育关系网络结构,故而人工智能技术裹挟的教育伦理规制群体的范围也将随之发生改变.概而论之,为确保人们正确使用人工智能技术以实现教育“善”,C h a t G P T热潮下的教育伦理除了对教师和学生等使用者进行必要的道德引导与约束,还要规制教育领域中开发或治理C h a t G P T技术的群体.技术主体是教育伦理的重要规制对象,故而多数学者倾向于从技术主体的角度理解教育伦理的本质.如有研究者强调人工智能时代的教育伦理是确保教育活动符合道德规范、协调利益关系、趋向教育价值与善的基本准则,表征为教师的育人价值、推动学生的全面发展和
11、实现教育的美德与善行;也有研究者认为人工智能时代的教育伦理是教育教学过程中的人机道德关系;还有研究者指出,人工智能时代教育伦理的伦理内涵是厘清教育活动中的人机伦理关系,促进人机协作共生,需通过构建伦理框架、规范及原则为教育主体带来福祉.综合上述研究者的观点,现将技术主体视角下人工智能时代的教育伦理定义为在C h a t G P T应用、开发、治理等过程中,技术主体所应遵循的道德关系、伦理准则及行为规范.一般而言,“以人为本”是教育伦理永恒不变的价值坚守,C h a t G P T教育应用热潮下的教育伦理强调,技术主体要在教育伦理的指导下不断完善自身的职业道德和个人品德,以更好地驾驭技术.总之,
12、C h a t G P T教育应用热潮下的教育伦理具有丰富的伦理内涵,人们从人工智能技术和技术主体两个视角切入,对其内涵本质进行不同层面的解读,拓宽了研究视角.基于这两种解释,本研究从人工智能与教育融合的角度将C h a t G P T教育应用热潮下的教育伦理界定为C h a t G P T等人工智能技术在教育领域开发、应用与治理的过程中,教育智能体 教育参与者与智能机器 应该遵循的道德关系、伦理准则及行为规范.二、C h a t G P T教育应用的伦理风险表征教育“善”是教育伦理的实践形态和终极价值追求,传统教育伦理的主要研究对象仅局限于教育中的个体,主要解决个体层面的教育伦理问题,以实现
13、个体教育行为的至“善”.随着C h a t G P T在教育领域的广泛应用,人们开始将技术应用层面的伦理问题纳入研究范畴,故此阶段的教育伦理价值涉及技术应用层面的教育“善”.然而,教育活动的社会公共属性注定社会层面的教育伦理问题也应成为人工智能时代教育伦理的研究对象,教育“善”的实现亦需要社会“善”的加持.故从教育伦理研究视域的完整性而言,C h a t G P T教育应用热潮下的教育伦理应该是技术应用教育伦理、个体教育伦理和社 会教育伦理 的融合,而将 技术应用 教育“善”、个体教育“善”和社会教育“善”视作人工智能时代教育伦理的表征形态亦成为一种逻辑上的必然.通过对技术层面、个体层面和社会
14、层面进行的伦理风险剖析可知,当前将C h a t G P T运用于教育过程中不仅引发了显性的伦理风险,而且还暗藏着诸多未来可能触发的潜在伦理风险.(一)教育智能化致使技术向“善”趋于异化C h a t G P T在教育应用过程中需要技术使用者帮助其做出一定的道德判断与选择,故而技术“善”的实现有赖于个体“善”的实现.人工智能技术的教育“善”强调C h a t G P T等人工智能教育应用过程及结果带来的“善”是数据、算法等人工智能技术安全、科学地应用于教育活动的伦理要求.人工智能技术向“善”强 调 促 进 技 术 为“善”,避 免 其 作“恶”,即在不损害人们利益的情况下利用人工智能技术促进教
15、育活动向好发展.然而,C h a t G P T在数据和算法层面存在的问题使师生面临隐私泄露的危机,并逐步沦为算法的“囚徒”,这就违背了技术发展的初衷,致使技术向“善”趋于异化.一方面,数据共享触发安全隐患,致使师生遭受隐私泄露风险.大数据贯穿人工智能系统运行的全过程,是C h a t G P T算法运行的基础,但人工智能技术风险控制的不确定性给师生带来隐私数据泄露的危机,使教育出现了“恶”性价值.在通常情况下,人工智能技术在教育应用过程中为促进学生内在学习过程的可视化,需全程追踪人们的学习情况,并对人们的相关学习数据进行捕捉分析,进而为其提供适切的教学策略和学习策略.为确保信息采集的准确性,
16、人们利用互联网感知技术、视频录制技术等采集学生的行为、情感、成绩以及管理等不同层面的教育数据,但这种对教师教学和学生学习过程进行全方位监控的行为触发了师生隐私安全问题.由于人工智能在数据采集后不可避免地会对师生的身份信息、特征、偏好等隐私性信息进行数据分析,况且,目前人们尚未有充足的证据表明人工智能在分析和处理数据时不会发生个人隐私泄露的风险,故而,人工智能在处理和分析师生信息数据的过程中存在着个人隐私数据泄露的风险.此外,当前人们对于谁拥有数据的掌控权、泄露的责任权等责任伦理问题尚未形成明确的权责分配制度,导致一些道德感缺失的技术人员窃取教育数据,并造成网络诈骗、电话诈骗、非法监控、学术剽窃
17、、恶意信息推送等,给人们的生活与学习带来了诸多隐忧.另一方面,算法霸权隐含恶性风险,致使师生逐步沦为算法的“囚徒”.随着人工神经网络、贝叶斯、决策树、关联规则学习、监督学习、强化学习、深度学习、C h a t G P T等各类人工智能算法的涌现,算法程序日益成为C h a t G P T等人工智能内在运行的重要载体.算法因看不见、摸不着却在暗中起效的本质,正在成为一种新兴的霸权,在算法霸权下隐藏着诸多恶性风险,致使师生正逐步沦为算法的“囚徒”.算法的既定性导致教育被浅层化,“黑箱”效应、算法偏见和算法推荐给教育带来的危害不容小觑.可见,算法本身并非完美无缺的程序工具,它不仅会出错,而且还潜藏着
18、一系列风险,如“算法黑箱”对教育主体知情权的忽视、“算法歧视”对教育主体教育公平权利的剥夺、“算法推荐”对教育主体选择权的限制等.其中,“算法黑箱”让诸多算法流程处于不透明的状态,不仅会造成数据杀熟、性别歧视等不公平现象,还会使教育使用者的知情权在相当程度上失去保障.“算法歧视”是一种隐形的不正义,会差别对待数据主体,尤其是在评估学生的过程中会产生歧视性结果,但由于“算法黑箱”的缘故,“算法歧视”很难被人们监管和审查.“算法推荐”则在一定程度上窄化了用户的知识域,破坏了信息呈现的全面性和多样性,长此以往,学生将丧失理性判断,无法直接决定其能够接触的知识内容.可见,算法只是辅助教学的有效工具,不
19、应让师生成为智能算法的附庸和“囚徒”.(二)教育智能化促逼个体崇“善”走向衰微C h a t G P T热潮下的个体教育“善”是道德人格在教育实践中的反映,是个体在教育责任伦理、教育规范伦理和教育美德伦理的融合与统一,既指教师“善”与学生“善”,也指技术人员“善”.其中,个体教育“善”的实现离不开社会教育“善”的系统性支撑.个体崇“善”强调个体在教育活动中需保持应有的善知与善行,要求教师恪守“良心”育人的道德底线,要求学生追求崇高的道德人格,要求技术主体颂扬“利他”的教育伦理精神.然而随着人工智能风靡教育领域,人工智能技术改变了人们原有的学习生活、传统观念、情感关系和思维方式 等,促逼个体崇“
20、善”走向衰微.其一,技术滥用导致教育泛娱乐化,促逼教师陷入教学失责的境地.近年来,C h a t G P T的发展日新月异,但C h a t G P T在教育领域运用的好坏关键在于教师.教师若使用得当则如虎添翼,反之则会遭到反噬.教学是一种良心活,C h a t G P T的不合理应用致使教师陷入泛娱乐化的教育误区,泛娱乐化的教育行为违背了教师有效教学的职业要求,促逼教师陷入教学失责的境地.教师的技术滥用给教学以沉重打击.美国媒体文化研究者尼尔波兹曼曾批判技术媒介对社会的泛娱乐化影响.他指出,教学是一种娱乐活动,但在技术媒介的作用下人们逐渐成为娱乐的俘虏,人们不再理性地思考,而是 完 全 沉
21、浸 在 娱 乐 文 化 中.(P P )尼尔波兹曼的观点印证了当前教师在教学中对技术使用的现状.C h a t G P T在为教师制定教学计划的同时,也为教师的智能教学提供了视频、图片、音乐、聊天等娱乐性教学功能,一定程度上让课堂变得“生动有趣”,但教师为迎合学生兴趣、满足学生的心理需要,追求低层次的感官刺激而不加思考地滥用C h a t G P T则是一种泛娱乐化的教学行为,这种行为偏离了教师在教学过程中应具备的理性情感和道德要求,是教师教学失责的表现.教师的教学失责行为违反了教学“积识成智”的本质,背离了智能教育教学的应然伦理追求.其二,智能虚拟暗藏道德危机,促逼学生深陷道德人格缺失的困境
22、.人工智能技术以智能教学系统、智能学习平台、智能教师、智慧校园等形式广泛应用于教育领域.但C h a t G P T在应用过程中为学生营造的学习环境终究是一种虚拟的教育空间,这种智能虚拟脱离了真实社会,暗藏着道德危机.人工智能制造出来的虚拟实践教育模式打破了学生学习的时空限制,但虚拟情境缺少直觉形象的道德情境,终究不是社会现实情境,学生与学生、教师与学生之间真实而有温度的道德情感交互则被线上虚拟空间所取代,成为一种冰冷的符号与符号的互动,无法与学生实现精神上的道德情感共鸣,违背了学生道德信念养成的主体在场性原则,这种游离于真实社会的道德养成方式使学生的道德感缺乏真实性和有效性,造成了情感冷漠.
23、如虚拟空间中学生道德培养的主体不在场性、智能虚拟空间本身的道德法规滞后、学生对智能虚拟空间的道德意识淡薄等,均对学生健全道德人格的培养提出了挑战.目前,C h a t G P T改善了教学,但也暴露出了一些问题,有教师担心学生使用C h a t G P T作弊,引起学生价值观的偏差等,因为C h a t G P T生成的文本内容一般是根据已有文献整合而来,所以学生在使用C h a t G P T写作业或者论文的过程中不可避免地涉及抄袭问题,这种不自知的抄袭行为已然危及了学生的学术道德底线,冲击着学生的诚信品质.可见,虚拟环境更容易蒙蔽其道德判断的能力,消解道德责任感,极易使学生陷入非理性主义的
24、道德漩涡.其三,科技迭代带来资本红利,促逼技术者堕入功利化窠臼.人工智能技术人员是C h a t G P T开发过程的主体力量和智力支撑,其素养直接关系着人工智能设计方向的好坏,技术主体的行为失范将直接影响人工智能在教育中的应用效果.人工智能技术人员包括人工智能的系统设计者、系统架构者、程序员和监测者.C h a t G P T的广泛应用和迭代革新,给部分技术主体带来了可观的资本红利,人们在利益驱动下逐步堕入功利化窠臼.一方面,部分技术主体在利益的驱动下售卖学校用户的数据资源,此外,因问责制度尚不完善,技术人员售卖隐私的行径如何问责以及向谁问责、是否需要问责等人工智能技术行业准则尚无依据,因此
25、,在没有制度法规的约束下,涉事人员的不当行径只会愈演愈烈.另一方面,多数技术人员只是服务于企业的下属员工,为了生计生存把企业利益和绩效放在第一位,这在一定程度上冲击着技术人员的职业道德底线,遮蔽了技术人员的职业操守.在这种利益导向下开发的人工智能产品必然存在一定程度的伦理隐患.(三)教育智能化导致社会趋“善”面临溃散社会教育“善”是教育“善”的重要组成部分,体现着社会在伦理层面对教育的要求,承担着丰富社会公共精神和公共福利的责任.以C h a t G P T为代表的人工智能时代,社会教育“善”以公正合理的教育制度、政策、观念为实践形态,为教育“善”的全面实现提供了外在的基础性保障.“人的本质不
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- ChatGPT 运用于 教育 伦理 风险 及其
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。