摘要:人工智能在投入教育行业后,潜在的伦理困境逐渐显现。通过问卷调查统计在校师范生对于初高中教育人工智能伦理问题的认知现状,得知目前初高中教育人工智能的伦理困境主要表现在数据易失真导致教育应用程度低、算法歧视渗透加剧教育领域现存歧视、人机互动频繁影响教育主体的情感联结、教育人工智能资源分配不均等化阻碍教育公平四方面。依此得出了四个层面的对策:加强人工把控,提升信息质量;推动校企合作,进行AI“教育定制”;强化人文关怀,加强师生情感联结;建立教育人工智能资源共享平台。

　　关键词:教育人工智能；认知现状；伦理困境；对策探究

　　随着人工智能技术的不断进步,人工智能与各领域、各学科不断交叉融合。教育人工智能(Education-Artificial Intelligence,EAI)作为人工智能与学习科学的结合,为学习者的高效学习创造条件。但人工智能的教育应用在带来许多利好现象的同时,也带来了新的挑战,特别是对教育人工智能伦理尚未具有共识性的定义,针对人工智能教育应用在中学阶段产生的伦理问题也亟待解决。

　　一、教育人工智能的伦理困境

　　1.数据准确性存疑导致教育应用程度较低

　　AI大模型训练整体呈现出数据来源不透明、回应数据呈现空泛化的现象,数据错误问题频出。在涉及相对专业领域性的问题时,错误会更为频繁。虽然在一般情况下,在人为调试、反复纠正下能使答案逐渐完善,但其消耗的时间成本反而极有可能超出了自主利用搜索引擎进行检索筛选所用,一定程度上丧失了原本具有的优势。

　　在校园语境下进行应用时,部分信息辨别能力较差的学生容易轻信,甚至全盘接受人工智能回馈的信息。学生若经常自主利用教育人工智能进行辅助学习,但若人工智能反馈结果频繁出现各类错误,而教师未能及时对此加以纠正,则极有可能造成不良的教育结果。从教师角度而言,教师需要频繁花费心力对模型进行训练,以方便模型得以发挥正确效用,但这容易导致教师工作量的显著累积。各种难以预料的数据输出错误在一定程度上导致人工智能在教育角色层次上的受限和推广应用程度的低下。

　　2.算法歧视渗透加剧教育领域的现存歧视

　　人工智能语境下的算法歧视较难避免。算法歧视是以算法为手段实施的歧视行为,主要指在大数据支持下依靠机器计算的智能算法对数据主体做决策分析时,对数据主体进行差别对待。从数据收集阶段到最终的决策阶段,人类社会的偏见会以多种形式进入算法中,从而使算法最终输出一个歧视性结果。这些歧视性结果的渗透将会加剧中学教育领域的现存歧视。

　　于教师群体而言,教师受到歧视性结果的影响可能会不自觉做出歧视行为。一方面,由于算法的专业性以及算法决策过程的不透明性,其裹挟的歧视性结果具有隐蔽性。若教师未能将歧视性结果识别出来而盲信、盲从,可能会进一步固化教师本身既有的歧视态度和歧视行为。另一方面,人工智能是通过采集过去记录的教育数据,分析、挖掘学习者特征并以此为基础做出决策和预测学习者未来的发展趋势的,算法在学生发展中容易产生“历史性与发展型的背离”“平均化与精准化的背离”的歧视。若教师在教学设计、决策、诊断、评价等方面过度受到歧视性结果的影响,可能会不自觉地对不同学生进行差别对待。

　　于学生群体而言,算法歧视潜移默化的影响可能阻碍部分学生的全面发展,导致学习结果呈现两极分化。一方面,社会主流价值中存在的歧视潜移默化中影响着人们的行为,而算法歧视无形中反映着社会中存在的偏见。受此影响,学生可能形成错误的认知和价值观,导致学生在交往中展现出对世界狭隘的认知和偏见,加剧社会的矛盾和冲突。另一方面,由于算法歧视的存在,可能出现学生无法得到优质的服务,甚至部分学生得不到服务等服务对象不匹配的情况。学生感受到算法对他们的不公平对待时,可能会陷入自我怀疑、自我否定的困境,导致学习结果两极分化。

　　算法歧视与教育伦理所秉持的美德与善行相悖。长期如此,不仅会影响教师的职业发展、学生的个人成长,更会阻碍教育公平的推进和社会公平正义的实现。

　　3.人机互动频繁影响教育主体的情感联结

　　在“学为中心”的教育趋势下,问题导向的研究性学习势必会成为课堂教学的主要方式。在这一过程中,教育人工智能能够为学生的学习提供更多的帮助,比教师和同伴更能胜任教学顾问的角色。这种“人工智能拟人化的陪伴模式会导致学生的情感成瘾问题”,破坏教育主体间独有的情感联结,造成“情感遮蔽”现象。

　　具体而言,一是教师过度依赖教育人工智能,难以观照学生的情感诉求。教育人工智能的机械化逻辑,将人的生命发展符号化,但冰冷的文字符号并不能准确传达教育主体间的情感,技术的过度使用极易导致在教育过程中忽视“因材施教”,忽视教育过程中情感交流、隐性知识、人文关怀的力量。二是学生过度依赖“技术陪伴”,使其同伴交往、师生交流情感需求下降。与同伴和老师相比,与人工智能的交往更具有隐秘性和“私己性”,所以学生会更乐于同人工智能进行情感交流。人工智能在教学中的频繁使用在某种程度上消解了教师的主体地位,学生与同伴、教师之间会随着交流的减少而产生疏离感。

　　人是一切社会关系的总和,教育的本质是灵魂与灵魂之间的碰撞,需要教育主体的情感联系。但频繁的人机互动不仅容易造成教师对学生情感需求的忽视,而且会导致学生的群体意识和社会责任感的下降,不利于培养担当民族复兴大任的时代新人。

　　4.教育人工智能资源分配不均等化阻碍教育公平

　　部分偏远县城学校、乡村学校较难接触获取前沿教育信息平台,因信息落后导致的数字鸿沟进一步拉大,从而间接导致教育人工智能资源的普适性受到客观人文情况的限制。提供教育人工智能技术应用的初高中校园的资源主要获取途径有:自身的研究、地方政府的支持或同其他高校合作获取相应资源。但这种资源获取的途径恰是县城、乡村的中学最为缺失的。在资源层面的不完全平等现状,给教育公平的进一步实现增添了先进技术层面的负担。

　　二、教育人工智能伦理问题的对策探究

　　1.加强人工把控,提升信息质量

　　教育人工智能开发方应充分专注自身职能,合理筛选、收集教育领域权威网站的各类学习资源,并同时注重对各类教育资源的审核和把控。这就首先需要和各大高校、初高中、教育局的教育相关人士进行紧密合作、联合开发等,进行多方校对、人工审核、反复实验,同时进行教学实际试点并获取有效的反馈,把关信息质量,在最大程度上提高信息输出的准确程度。

　　学校应及时关注学生个体的使用情况,为教师和学生提供便利化的反馈渠道,聆听并收集统计学生的使用反馈和态度趋向,并及时同合作单位进行积极沟通,尽力协助企业进行集中的软件改善,促进信息库持续地得到与时俱进的修正与填充,形成互惠共赢的局面。

　　一线教师在提供教育人工智能工具时,也不应放任学生全面自主使用,防止全盘吸收人工智能生成的可能错误结果而教师不知情的情况发生。目前,教育人工智能能回答得相对正确的各类问题在于能快速生成基本学科知识并做出阐释,但其面对细节性或应试型的实战漏洞百出。教师应在平日教学中打牢基本教学知识地基,及时关注抽查学生教育人工智能使用情况,若发现问题则及时纠正其中生成的信息错误,避免学生产生错误印象,影响后续学习。

　　2.推动校企合作,进行AI“教育定制”

　　算法、数据分析等是教育人工智能的重要技术,但算法本身存在的歧视风险不利于教育的发展。学校与企业应加强合作,针对不同的教学场景、学生情况,实现技术的有效供给,推动人工智能的“教育定制”。

　　一方面,学校通过与企业的紧密合作,促进教师自身教育人工智能伦理素养的提升。学校与企业之间有效的技术对接,增进初高中一线教师对最新的人工智能技术和应用趋势的了解,将这些技术合理地应用于教学之中,为学生提供前沿的体验。同时,教师作为教学的主导者,对于教育人工智能知识产生的结果予以严格把关并及时给予企业反馈,推动教育人工智能育人效果实现最大化。

　　另一方面,企业在开发时应咨询初高中一线教育工作者的意见。一线教育工作者长期教育实践中积累的教学经验有助于开发者更好地考虑教育领域的人工智能服务需求,一定程度上有利于教育人工智能中技术理性和人文情感的融合。同时,企业可以通过初高中一线教育工作者收集学生的学习数据和服务需求,为学校提供更加个性化、更精准的教育服务。

　　利用AI“教育定制”推动区域教育发展,促进教育发展成果更多更公平惠及全体人民。依托政府力量,推动教育人工智能在全国范围内的普及,从而弥补欠发达地区的师资等教育资源的缺乏,加快欠发达地区教育高质量发展,实现教育公平。

　　3.强化人文关怀,加强师生情感联结

　　教育人工智能具有的“技术”和“类人”的双重属性容易使学生沉溺于“技术陪伴”,难以与教师和同伴建立亲密的情感联结。在此情境下,教师作为教育交往的引领者,应强化教育人工智能视域下的人文关怀,密切关注学生的内在情感诉求,形成富有人文关怀和情感交互的班级氛围。其一,教师在尊重和信任学生的“技术使用”下,引导学生正确处理人机关系。如在课堂教学中,教师通过创设人机互动课堂,和学生一同对道德责任、人际关系等话题展开讨论,助力学生价值观的正向培育。其二,教师要善于加强师生之间的面对面互动,培育学生的亲师性和向师性。如在课堂之外,教师主动和学生分享具有趣味性的个人经历和具有参考价值的经验等,搭建起师生之间的沟通桥梁。

　　学生作为教育主体,要以正确、端正的态度和合乎伦理的方式对待教育人工智能。同时,要大胆、主动地与同伴和教师进行沟通,表达自己的需求,通过交流建立起与同伴、教师之间的情感联系,从而更好地获得符合知识需求和心理情感需求的指导和帮助。

　　4.建立教育人工智能资源共享平台

　　教育人工智能资源的传播、应用和推广在受数字鸿沟影响较大的农村地区有着较大程度的限制。国家相关部门应牵头主办完全公益性质的教育人工智能资源共享平台,与各大高校共同合作建设推广,上传具备实用价值的研究成果或技术路线,并鼓励民间企业和科技研发者进行成果共享,策划对应的版权保护机制,尝试争取社会各界的力量共同建设平台,为部分欠发达地区提供可靠、可持续使用的教育人工智能资源路径。

　　教育人工智能的发展如火如荼,但在投入教育领域的使用时不免需要考虑作为企业家应承担的社会责任、教育家应承担的育人责任,最大程度上减少潜在伦理问题导致的不良影响,也需要社会各界持续贡献力量,促进教育人工智能可持续发展。

　　参考文献

　　[1]汪怀君,汝绪华.人工智能算法歧视及其治理[J].科学技术哲学研究,2020,37(2):101-106.

　　[2]刘朝.算法歧视的表现、成因与治理策略[J].人民论坛,2022(2):64-68.

　　[3]孟令宇.从算法偏见到算法歧视:算法歧视的责任问题探究[J].东北大学学报(社会科学版),2022,24(1):1-9.

　　[4]张立国,刘晓琳,常家硕.人工智能教育伦理问题及其规约[J].电化教育研究,2021,42(8):5-11.

　　[5]倪琴,刘志,郝煜佳,贺樑.智能教育场景下的算法歧视:潜在风险、成因剖析与治理策略[J].中国电化教育,2022(12):93-100.

　　[6]丁奕,吕寒雪.当教师遇上ChatGPT:挑战与应对之道[J].当代教育论坛,2024(2):10-18.

　　[7]朱永新,杨帆.ChatGPT/生成式人工智能与教育创新:机遇、挑战以及未来[J].华东师范大学学报(教育科学版),2023,41(7):1-14.

　　[8]冯锐,孙佳晶,孙发勤.人工智能在教育应用中的伦理风险与理性抉择[J].远程教育杂志,2020,38(3):47-54.

　　[9]蒋馨培,赵磊磊.风险与防范:中小学人工智能教育的伦理考量[J].教学研究,2023,46(4):82-87.

　　[10]陈倩倩,张立新.教育人工智能的伦理审思:现象剖析与愿景构建—基于“人机协同”的分析视角[J].远程教育杂志,2023,41(3):104-112.

　　[11]叶飞.学校公共精神教育的公共性困境及其超越[J].中国教育学刊,2019(6):92.

　　[12]胡小勇,黄婕,林梓柔,等.教育人工智能伦理:内涵框架、认知现状与风险规避[J].现代远程教育研究,2022,34(2):21-28,36.

　　[13]于秋月,刘坚.“人工智能+教育”的伦理分析及主体重塑[J].学术探索,2024(1):148-156.