世界银行指出，数字环境已成为日常生活中不可或缺的一部分，它模糊了学校、工作与家庭之间长久以来的界限，同时也给社会带来了诸多新型风险。在不断变化的数字教育系统内，人们日益依赖数字设备和技术来接受教育、获取知识、进行沟通、享受娱乐、维系社交关系以及参与公民讨论，也逐渐察觉到其中潜在的风险。
数字化转型的首要风险，在于其可能加剧社会排斥与扩大数字鸿沟。新冠疫情的暴发更是加剧了这一现象，尽管数字化教育服务迅速扩张，却未能带来平等的受益，反而凸显了深层次的数字鸿沟，导致了学习机会的巨大不平等。这种鸿沟不仅关乎数字接入问题，还受到接入条件、自主性、数字技能、学习动机、使用目的、使用质量以及社会和文化资源等多重因素的影响。学者们已将这些因素细分为三大层次：接入鸿沟、使用鸿沟和结果鸿沟。
将公共教育资源与营利性学习平台、视频会议和在线监考服务等相结合，可能会对学生的隐私构成严重威胁。在疫情期间，多数教育技术产品以免费形式提供，这导致政府实际上将在线教育的成本转嫁给了学生，而学生在无意识中被迫为自身的学习权、隐私权、信息获取权等付出代价。当前学校数字平台上的默认同意模式往往是一种非自愿的选择，因为选择退出可能意味着失去学习机会。因此，法律应得到妥善执行并定期更新，以确保教育科技公司恪守数据隐私权限。同时，家长、教师和学校管理人员也应更加深入地了解教育科技公司对学生数据的利用方式。
此外，学生的在线安全、健康及福祉同样面临风险。在数字环境中，学习者可能接触到仇恨性内容（基于宗教、种族、性别、残疾或性取向等因素）、有害内容（如网络诈骗、色情或暴力材料）、违反国家法律和社会文化规范的内容，以及故意歪曲新闻和信息的内容。社交媒体使用的增加导致阅读能力下降和注意力持续时间缩短，使学生更易轻信假新闻，且可能缺乏辨识误导性信息的能力。在这方面，芬兰在欧洲表现突出，正致力于向学生传授识别假新闻的知识，从学前教育起，媒体素养便已成为其国家核心课程的一部分。
尽管人工智能教育所宣称的益处预示着虚拟教师和个性化学习的未来，但教育系统和学习者所面临的重大风险尚未得到解决，许多风险仍然未知。在引入人工智能至教育系统之前，我们必须先建立一个以学习和人类发展为本的伦理框架，明确并充分考虑公平、问责、透明、偏见、自主性、代理权和包容性等问题。
更多信息请参阅：
编译自：世界银行，2024-10-21
编译者：上海师范大学国际与比较教育研究院 李滢滢