关于英国教育部《教育中的生成式人工智能：部门的声明》的点评
关于英国教育部《教育中的生成式人工智能：部门的声明》的点评
龚超1,3 张鹏宇3 周丹2,3
(1. 清华大学日本研究中心；2.清华大学教育研究院；3.未来基因(北京)人工智能研究院)
在这份《教育中的生成式人工智能》文件中，英国教育部全面讨论了生成式人工智能在教育领域的应用、潜在影响及未来发展。文件首先定义了生成式人工智能技术，包括它如何工作、它的主要功能以及在教育中可能的应用场景。接着，文件分析了这类技术在教学、学习和评估中的具体用途，突出其对提高教育质量和效率的贡献。
文件还特别关注了生成式人工智能可能带来的伦理问题和挑战，例如数据隐私、算法偏见以及对学生心理健康的影响。教育部在文件中强调了制定相应政策和指导原则的重要性，以确保技术的健康发展和正面影响。
此外，文件提到了必要的监管框架，以便在推广生成式人工智能应用的同时，保护学生和教育机构的权益。教育部还计划支持相关研究和试点项目，以探索最佳实践和创新方法。
最后，文件展望了生成式人工智能技术的未来发展方向，并讨论了持续监测和评估技术影响的必要性，确保这些先进技术能够在促进学习和教学创新的同时，也注重维护教育公平和质量。
对教育主管部门的机遇和挑战：
文件中探讨了生成式人工智能（AI）为教育主管部门带来的机遇与挑战，体现了对未来教育形态的深刻洞察。
首先，生成式AI为教育部门提供了极大的机遇，尤其是在提高教育质量和可达性方面。通过利用AI技术，可以开发出个性化学习方案，根据学生的学习习惯和能力调整教学内容和速度，这有助于提升学生的学习效率和成绩。此外，AI技术可以实现资源的优化配置，通过智能分析教育资源和学生表现数据，为教育政策制定提供数据支持，使教育决策更加科学合理。
然而，这些技术的应用也带来了不少挑战。首先是伦理和隐私问题，生成式AI的应用需要处理大量个人数据，如何保护这些数据的安全和学生的隐私是主管部门必须面对的问题。其次是技术的公平性问题，需要确保AI技术的应用不会加剧现有的教育不平等现象，例如，资源贫乏地区可能无法有效接入这些高科技产品。此外，还有技术依赖的风险，过度依赖AI可能会削弱传统教育的作用和学生的基本学习能力。
总之，生成式AI技术在为教育领域带来前所未有的机遇的同时，也对教育主管部门提出了一系列挑战，需要通过制定合理的政策、建立严格的监管框架，以及持续的技术和伦理审查，来确保其在教育领域的健康和持续发展。
对教师的机遇和挑战：
文件中详细讨论了生成式人工智能对教师职业带来的机遇与挑战，突出了这一技术革新在教育领域的深远影响。
对于教师而言，生成式人工智能首先提供了巨大的机遇。它能够协助教师进行教学内容的个性化设计，通过AI分析学生的学习进度和理解能力，教师可以更精准地调整教学策略，满足不同学生的学习需求。此外，AI还可以承担一些基本的教学任务，如自动批改作业和测试，这样教师就可以将更多时间和精力投入到教学创新和学生互动中，提升教学质量。
然而，这些技术也带来了挑战。文件中指出，教师需要掌握新的技能以有效地整合和使用生成式人工智能工具，这可能需要在职培训和持续的专业发展支持。对一些不具备必要技术背景的教师来说，这可能是一个较大的挑战。同时，存在着对人工智能可能取代教师角色的担忧，特别是在那些可以通过自动化程序进行的教育活动中。这种担忧可能影响教师的职业稳定性和发展前景。
综上所述，生成式人工智能在为教师提供支持和优化教学过程的同时，也要求他们适应新的教育工具和方法，同时面对职业角色可能发生的变化。教育主管部门需在推广AI应用的同时，提供必要的支持和培训，确保教师能够有效利用这些技术，从而使其成为教学改革和教育提升的助力而非威胁。
对学生的机遇和挑战：
根据文件内容，生成式人工智能对学生在教育过程中带来了多重机遇和挑战。
机遇方面，生成式人工智能可以极大地增强教育的个性化和可接入性。利用AI技术，可以为学生提供定制化的学习路径，帮助他们根据自己的学习速度和兴趣进行学习，这有助于提高学习动机和效果。AI还可以通过虚拟助教等形式，提供即时反馈和辅导，帮助学生在遇到学习难题时得到及时支持。此外，生成式AI能够通过分析大量数据来识别学习趋势和潜在问题，为学生的学习提供科学的指导和建议。
然而，挑战同样显著。文件中指出，依赖AI技术可能会影响学生的自主学习能力和批判性思维。在AI提供了过多的学习支持和资源的情况下，学生可能会变得过于依赖技术，从而减弱解决问题的能力和独立思考的习惯。此外，数据隐私和安全是另一大关切，学生和家长可能对学习过程中生成和处理的个人数据的安全和使用方式感到担忧。还有，技术接入不平等可能加剧教育不公，尤其是在经济条件较差的地区，学生可能无法充分访问到先进的AI教育工具和资源。
综上所述，生成式人工智能为学生的学习提供了前所未有的机遇，但同时也带来了新的挑战，需要教育政策制定者、学校和社会各界共同努力，制定合理的应对策略，确保所有学生都能在安全和公平的环境中受益于AI技术的发展。
对我国教育主管部门的启示：
英国教育部发布的《教育中的生成式人工智能》文件对中国教育主管部门提供了诸多启示，尤其在如何利用人工智能技术推动教育现代化方面。
首先，文件强调了人工智能在教育中的应用需要建立在充分的政策支持和伦理指导基础上。这对中国教育主管部门是一个重要启示，即在推动AI教育应用的同时，需要制定详细的政策框架和伦理准则，确保技术应用的正当性和道德性。例如，可以通过设立教育数据保护规定，确保学生信息安全，以及通过制定AI教育应用标准，指导和规范AI教育产品的开发和使用。
其次，文件中提到了AI技术在个性化学习和提升教学效率方面的巨大潜力。对中国教育主管部门而言，这是探索如何利用AI技术解决教育资源不均和提升教育质量的重要启示。例如，通过发展智能教学系统，可以针对不同地区、不同背景的学生提供定制化的教学内容和方法，有效缩小教育差距。
此外，文件还指出了AI教育发展中的伦理和社会问题，如算法偏见和对教育公平的影响。这提示中国教育主管部门在推动AI教育应用的同时，需要关注技术应用可能带来的社会问题。通过加强研究和监管，确保AI技术的公正性和透明度，避免技术应用加剧社会不平等。
最后，文件中的国际合作和研究倡议提供了一个框架，中国教育主管部门可以在此基础上推动国际交流和合作，共享教育AI技术的最新研究成果和实践经验，提升本国的教育科技水平。
综上所述，这份文件不仅为中国教育主管部门在AI技术应用中提供了政策和伦理的指导，也为解决实际教育问题和推动国际合作提供了宝贵的参考。
译文：
教育中的生成式人工智能：部门的声明
2023年3月
摘要
本文件阐述了教育部关于在教育领域使用生成式人工智能（AI），包括像ChatGPT或Google Bard这样的大型语言模型（LLMs）的立场。
本声明基于政府《促进创新的人工智能监管方法》白皮书，并紧随政府最近宣布的成立模型基金会任务组的动向，该任务组将考虑英国在这一重要技术上的国内能力。
生成式AI指的是能够基于模型训练过的大量数据创造新内容的技术，包括音频、代码、图像、文本、模拟和视频等。
教育领域的关键信息
尽管生成式AI并非新技术，但最近的进步和公众对这项技术的访问意味着现在普通公众可以使用这项技术产生AI生成内容。这为教育领域带来了机遇与挑战。
如果使用得当，技术（包括生成式AI）具有减少教育领域的工作量的潜力，并释放教师的时间，使他们能够专注于提供卓越的教学。
学校、学院、大学以及颁奖组织需要继续采取适当的措施来预防作弊行为，包括使用生成式AI和其他新兴技术的作弊行为。
教育领域必须继续保护其数据、资源、员工和学生，尤其是：
必须保护个人和敏感数据，因此不得将这些数据输入到生成式AI工具中。
教育机构应审查并加强其网络安全，尤其是因为生成式AI可能增加的攻击复杂性和可信度。
教育机构必须继续保护学生免受包括可能由生成式AI产生的有害内容在内的在线内容的伤害。
背景
OpenAI在2022年11月发布的ChatGPT增加了人们对建立在如ChatGPT和Google Bard等大型语言模型（LLMs）上的生成式人工智能（AI）的关注和兴趣。这些工具能够回答问题、完成书面任务，并以类似人类的方式响应提示。生成式AI的其他形式可以产生音频、代码、图像、视频和模拟。这项技术并不是新的，已经能在日常环境中找到应用，如电子邮件中的垃圾邮件过滤、媒体推荐系统、导航应用和在线聊天机器人等。
生成式AI工具擅长快速分析、结构化和撰写文本或将文本提示转化为音频、视频和图像。然而，它们产生的内容并不总是准确或适当的，因为它对真实的考虑有限，可能输出有偏见的信息。
拥有生成式AI的访问权限并不能替代长期记忆中的知识，至少我们不能在没有知识的基础上充分利用生成式AI。我们只有在能够清楚地写作并理解我们询问的领域时，才能学会如何编写好的提示。我们只有在有一个对照的模式时，才能对结果进行感知检查。因此，生成式AI工具可以使某些书面任务更快更容易，但不能替代人类专家的判断和深入的学科知识。
确保我们的教育系统使学生获得知识、专业技能和智力能力比以往任何时候都更重要。
教育部门应该充分利用技术提供的机会，有效、安全和恰当地使用技术，提供卓越的教育，为学生做好为社会和未来工作场所做出贡献的准备。
有效实践
当技术被合理使用时，它具有减轻工作量和释放教师时间的潜力。我们认识到教师工作量是一个重要问题，并致力于帮助教师减少非面向学生的活动的时间，包括使用生成式人工智能。
教育部正在召集专家与教育界合作，分享和识别最佳实践以及使用生成式人工智能改善教育和减轻工作量的机会。
使用生成式人工智能工具时，重要的是要了解数据隐私的含义。个人和敏感数据必须得到保护，因此不得输入到生成式人工智能工具中。
生成式人工智能工具可能产生不可靠的信息，因此生成的任何内容都需要专业判断来检查其适当性和准确性。
生成式人工智能基于其训练数据集返回结果。在许多情况下，给定工具可能未在英语课程上进行训练。重要的是不要假设人工智能输出一定和根据我们课程背景开发的人类设计资源一样。
无论使用何种工具或资源制作行政计划、政策或文档，最终文档的质量和内容仍是制作人及其所属组织的专业责任。
学校和学院可能需要审查作业政策，根据生成式人工智能的可用性，必要时考虑作业和其他形式的非监督学习的方法。
未来的知识和技能
为了应对不确定的未来，最好的准备方式是在已被证明对构建当今世界中最有影响力的知识上打下坚实的基础。
为了利用生成式人工智能的潜力，学生需要具备知识并发展其智力能力。牢固的基础知识确保学生掌握正确的组成技能，以最好地使用生成式人工智能。因此，一个严谨且知识丰富的课程对于装备学生面对未来至关重要。
教育部门需要准备学生应对不断变化的工作环境，包括教会他们安全、适当地使用新兴技术，如生成式人工智能。在教育的不同阶段，这可能包括理解生成式人工智能的局限性、可靠性和潜在偏见，以及互联网上的信息是如何组织和排名的，并在线上安全防护以防止有害或误导性内容。
人工智能办公室（科学、创新和技术部的一个单位）目前正在研究未来劳动力培训所需的技能。
教育系统应支持学生，特别是年轻学生，识别和使用适当的资源来支持他们的持续教育。这包括鼓励有效使用适龄资源（在某些情况下可能包括生成式人工智能），并防止过度依赖有限的工具或资源。
教育部将继续与专家合作，考虑和应对生成式人工智能和其他新兴技术的影响，包括支持小学和中学教授知识丰富的计算机课程，直至16岁。
正式评估
学校、学院、大学以及颁奖机构需要继续采取合理的步骤来防止包括使用生成式人工智能在内的舞弊行为。考试委员会已经设定了严格的规则，确保学生的作业是他们自己完成的。
虽然生成式人工智能技术可以产生流畅且令人信服的用户提示响应，但生成的内容可能在事实上是不准确的。学生需要基础知识和技能来辨别和判断信息的准确性和适当性，因此知识丰富的课程变得更加重要。
我们的评估系统必须能够公平且稳健地评估被考查者的技能和知识。
联合资格认证委员会已经发布了在评估中使用人工智能的指南，以支持教师和考试中心保护资格认证的完整性。这些指南包括了什么算作人工智能滥用，和对教师及考试中心的要求。以帮助预防和检测舞弊行为。
降低危害
生成式人工智能存储并从输入的数据中学习。为了确保个人隐私，个人和敏感数据不应该被输入到生成人工智能工具中。输入的任何数据都不应是可识别的，而且应该被视为发布到了互联网上。
教育部门的所有工作人员都应该意识到，生成式人工智能可以创建各种可信的内容。例如，更可信的诈骗电子邮件，要求付款。而且可能与在网上找到的内容没有本质上的区别，值得注意的是，人们与生成式人工智能的互动方式是不同的。并且生成式人工智能产生的内容可能看起来更有权威性和可信度。
因此，需要告知教育机构运用他们的判断，通过遵循教育部发布的网络标准来有效管理网络风险比以往任何时候都更重要。
教育机构必须确保儿童和年轻人不会访问或创造有害或不适当的内容，包括通过生成式人工智能生成这些内容。
教育部的法定保护指导方针《保证儿童在教育中的安全》已经为学校和学院提供了关于他们应该做些什么的信息。保护中小学生上网就是尽一切可能合理地限制孩子暴露在学校或大学IT系统的风险中。
学校和学院应该参考过滤和监控标准，以确保他们有适当的系统。