关于英国教育部《教育中的生成式人工智能-教育者和专家观点》的点评
龚超1,3 张鹏宇3 周丹2,3
(1. 清华大学日本研究中心；2.清华大学教育研究院；3.未来基因(北京)人工智能研究院)
该文件文件首先介绍了生成式人工智能技术在教育领域应用的背景和当前趋势。强调了人工智能技术在改进教学方法、个性化学习路径和管理教育资源方面的潜力。此外，还探讨了这项技术可能带来的挑战，如数据隐私问题、学习评估的准确性等。
文件详细讨论了教育目标与人工智能应用相结合的具体方式。例如，如何利用AI辅助工具来提高学生的学习效率、教师的教学质量和教育行政管理的效能。阐述了政府在推动AI在教育中应用时的政策框架和实施策略。包括制定相应的法规、确保技术的可访问性和可持续性，以及通过培训计划提升教师和管理者的AI应用能力。探讨了在教育中应用AI时需要考虑的伦理和风险问题，特别是关于数据保护、算法偏见和学生福祉的问题。文件提出了必要的风险评估措施和监管机制来确保这些问题得到妥善管理。文档中还包括了一些在英国本土及国际上应用AI教育技术的案例研究，展示了这些技术在实际教学中的应用效果和遇到的挑战。
最后，文件对未来生成式AI在教育领域的发展前景进行了展望，强调了持续研究和技术创新的重要性，以及对教育政策调整的必要性，以适应这一不断变化的技术领域。
对教育部门的机遇和挑战
在文件中，生成式人工智能对教育主管部门带来的机遇与挑战得到了详细的讨论。首先，机遇方面，生成式AI可以极大地提高教育质量和管理效率。例如，AI可以协助设计个性化学习计划，通过分析学生的学习习惯和成绩，提供定制化的学习资源和建议。此外，AI技术还能帮助教育主管部门在资源配置、学校管理以及政策制定等方面做出更精准的决策，提高教育系统的整体运行效率。
然而，这些机遇同时也带来了一系列挑战。首先是技术实施的复杂性和成本问题。虽然AI技术具有巨大潜力，但其开发和维护需要显著的技术支持和财政投入。此外，数据隐私和安全问题也是重大挑战，教育部门需要确保学生信息的安全，防止数据泄露给第三方或被滥用。AI技术的引入还可能加剧教育不平等，特别是在资源分配不均的情况下，技术先进的学校和地区可能会得到更多的好处，而其他地区则可能被边缘化。
综上所述，生成式人工智能为教育主管部门带来了前所未有的机遇，但也伴随着诸多挑战。这要求教育部门在引入和应用AI技术时，采取周密的策略和措施，确保技术应用的公平性和安全性。
对教师的机遇和挑战
根据文件内容，生成式人工智能对教师的职业生涯带来了显著的机遇与挑战。机遇方面，AI可以作为强大的辅助工具，帮助教师更好地理解学生的需求和进展，从而提供更有针对性的指导和支持。例如，通过数据分析，AI可以帮助教师识别学生的学习难点和兴趣点，使教师能够更有效地进行课程设计和个性化教学。此外，AI还能承担一些行政和评估工作，减轻教师的工作负担，使他们能够更多地专注于教学和学生互动。
然而，这些技术也带来了一些挑战。首先，教师需要掌握新的技能和知识，以有效地利用AI技术。这可能需要时间和资源进行额外的培训和学习。其次，有关AI可能取代教师职能的担忧也引发了广泛的讨论。虽然AI可以进行个性化教学和评估，但它也可能导致教师角色的边缘化，尤其是在传统的教学方法和评估中。此外，依赖AI进行教学决策可能导致对技术的过度信赖，忽视教师的直觉和专业判断。
文件强调，要充分利用AI带来的机遇，同时妥善应对挑战，教师和教育机构需要积极适应新技术，确保技术的应用符合教育的核心价值和目标。此外，教育政策制定者需要提供支持和资源，确保教师在技术变革中能够获得必要的支持和培训。
对学生的机遇和挑战
文件中详细探讨了生成式人工智能对学生带来的机遇与挑战。从机遇角度来看，生成式AI为学生提供了极具个性化的学习体验，能够根据每个学生的学习速度、兴趣和能力调整教学内容和难度，从而提高学习效率和兴趣。AI技术还可以通过游戏化学习和虚拟现实等手段，使学习过程更加互动和吸引人。此外，AI的数据分析能力能帮助识别学生的潜在问题和优势，为他们提供及时的反馈和辅导，从而促进他们的全面发展。
然而，对于学生而言，生成式AI的应用也伴随着挑战。数据隐私和安全是主要担忧之一，学生和家长可能对学生数据的收集和使用感到担忧。此外，对于依赖技术的学习方式，可能会减少学生与教师之间的面对面互动，影响学生的社交技能和情感发展。还有一个挑战是技术鸿沟，即不同社会经济背景下的学生可能无法平等地访问高质量的AI教育资源，这可能加剧教育不平等。
文件强调，要最大化AI技术在教育中的积极作用，同时解决相关挑战，需要教育主管部门、学校和政策制定者共同努力，制定相应的政策和措施，确保所有学生都能公平地享受到AI技术带来的好处，并妥善处理隐私和安全问题。此外，需要通过教师培训和学校指导，确保技术的合理使用，以及在不减少人际互动的前提下，利用技术优化学习过程。
对我国教育主管部门的启示：
文件中关于生成式人工智能在教育中的应用为中国教育主管部门提供了重要的启示。首先，文件强调了政策制定的重要性，指出教育部门需要建立一个全面的政策框架来指导AI技术的有效和伦理性使用。这对于中国教育主管部门来说，意味着需要制定相应的国家或地区级政策，明确技术使用的标准和限制，确保技术应用与教育公平性和教育质量的提升同步进行。
其次，文件提到了关于技术培训和专业发展的必要性。对于中国的教育主管部门而言，这表明需要为教师和教育管理者提供持续的职业培训，使他们能够掌握AI技术的应用，并有效地整合到教学和管理过程中。此外，也需要重视学生的信息素养和技术能力的培养，确保学生能够在技术驱动的学习环境中自信和安全地学习。
文件中还讨论了AI在教育中实施时所面临的风险和挑战，例如数据隐私和算法偏见问题。这为中国教育主管部门提供了预见性的警示，强调在推广AI应用的同时，必须建立严格的数据保护措施和算法审查机制，确保学生的个人信息安全和教学公正性。
最后，文件对未来的发展趋势进行了展望，指出AI技术将持续进化，并在教育领域扮演越来越重要的角色。对中国教育主管部门而言，这意味着需要有前瞻性的技术投资和研究支持，同时与国际教育技术的发展保持同步，通过国际合作和交流，加速本国教育创新的步伐。
综上所述，这份文件为中国教育主管部门在引入和应用教育技术时提供了宝贵的参考和指导，特别是在政策制定、师资培训、学生保护以及国际合作方面。
《教育中的生成式人工智能：更新于2023年10月26日》译文
教育中的生成式人工智能
更新于2023年10月26日
本文档阐述了教育部（DfE）关于在教育领域使用生成式人工智能（AI），包括像ChatGPT或Google Bard这样的大型语言模型（LLMs）的立场。
这份声明：
- 基于政府《促进创新的人工智能监管方法》白皮书的指导
- 遵循政府成立专家前沿AI工作组的公告，以帮助英国采用下一代安全人工智能。
理解生成式AI
生成式AI指的是能够基于大量数据生成新内容的技术，这些数据是模型从各种作品和其他来源训练得来的。ChatGPT和Google Bard是基于大型语言模型（LLMs）构建的生成式人工智能（AI）工具。像ChatGPT和Google Bard这样的工具可以：
回答问题
完成书面任务
以类似人类的方式回应提示
其他形式的生成式AI可以产生：
音频
代码图像
文本
模拟
视频
AI技术并不是新事物，我们已经在日常生活中使用它进行：
电子邮件垃圾邮件过滤
媒体推荐系统
导航应用
在线聊天机器人
然而，近期技术的进步意味着我们现在可以使用像ChatGPT和Google Bard这样的工具来生成AI内容。这为教育部门创造了机会和挑战。
教育部门的机会
生成式AI工具擅长快速：
分析、构建和书写文本，
将提示转化为音频、视频和图像
当适当使用时，生成式AI具有的潜力是：
减轻教育部门工作量
释放教师时间，让他们专注于提供卓越的教学
然而，生成式AI产生的内容可能是：
不准确的
不适当的
带有偏见的
被断章取义或未经允许使用
过时或不可靠的
有效使用AI
教师的工作量是一个重要问题，我们致力于帮助教师减少非面向学生活动的时间。
我们正在与教育部门和专家合作，识别机会，利用生成式AI改进教育和减轻工作量。
访问生成式AI不是拥有长期记忆知识的替代品。为了最大限度地利用生成式AI，我们需要拥有可供借鉴的知识。
我们只能：
学习如何编写好的提示，如果我们能清晰地写作并理解我们询问的领域
检查结果，如果我们有一个可比较的模式
生成式AI工具可以使某些书面任务更快更容易，但不能取代人类专家的判断力和深入的学科知识。确保我们的教育系统让学生获得知识、专业技能和智力能力比以往任何时候都重要。
教育部门应该：
充分利用技术提供的机会
安全有效地使用技术，提供卓越的教育，为学生贡献社会和未来工作场景做准备
生成式AI工具的局限性
生成式AI工具可能产生不可靠的信息，因此任何生成的内容都需要专业的判断来检查其适当性和准确性。
生成式AI：
根据其所训练的数据集返回结果——例如，一个生成式AI工具可能没有根据英语课程进行训练
可能无法提供与我们课程背景下人为设计的资源相当的结果
无论使用哪些工具或资源来制作计划、政策或文件，最终文件的质量和内容始终是制作它的人和所属组织的专业责任。
学校和学院可能需要审查家庭作业政策和其他类型的非监督学习，以考虑生成式AI的可用性。
高等教育机构可能需要审查《知识资产管理指引》中关于制定学生创造自己的知识产权的政策，以及他们如何在使用生成式AI的过程中与他人的知识产权互动。
保护数据、学生和教职工
生成式人工智能：
存储并从提供的数据中学习——输入的任何数据都不应该是可识别的
可以创造令人信服的内容，包括更具信服力的诈骗电子邮件请求支付——人们与生成式人工智能的互动方式不同，生成的内容可能显得更权威和可信
学校和学院应该：
按照数据保护法规保护个人和特殊类别数据
不允许或导致使用学生的作品等知识产权来训练生成式人工智能模型，除非有适当的同意或版权豁免
通过参考网络安全标准来审查和加强其网络安全——生成式人工智能可能会增加攻击的复杂性和可信度
确保儿童和青少年不会访问或创建有害或不当的在线内容，包括通过生成式人工智能生成的内容
《保护儿童安全教育指南》为学校和学院提供了：
他们需要做些什么来保护在线学生
如何限制儿童通过学校或学院的IT系统接触到风险
参考筛选和监控标准以确保他们有适当的系统
数据隐私
在使用生成式人工智能工具时，需要注意数据隐私的影响，就像使用任何新技术一样。个人和特殊类别数据必须按照数据保护法规进行保护。
如果在其环境中严格必要使用个人和特殊类别数据的生成式人工智能工具，教育机构必须确保产品和程序符合数据保护法规及其现有数据隐私政策，以保护数据。
教育机构还应该公开透明，确保数据主体（学生）了解他们的个人或特殊类别数据正在使用AI工具处理。
知识产权
大多数生成工具会使用用户提交的输入来进一步训练和优化其模型。然而，学生拥有其创造的原创内容的知识产权（IP）。原创内容可能包括显示工作过程的任何内容或超出多项选择题的内容。只有在版权持有者同意或适用版权豁免的情况下，才能使用知识产权来训练AI。
部分工具允许用户选择不使用输入来训练模型。
教育机构不得允许或导致使用学生的原创作品来训练生成式人工智能模型，除非他们获得了适当的同意或版权豁免。如果学生超过18岁，需要由学生本人同意；如果未满18岁，则需要由其父母或法定监护人同意。
版权豁免是有限的，教育机构可能需要就此获取法律建议，以确保其行为符合法律规定。
正式评估
学校、学院、大学和奖励机构需要继续采取合理措施，防止涉及使用生成式人工智能的不当行为。
资历架构联合委员会已就人工智能在评核中的应用发出指引(https://www. jcq.org.uk/exams-office/malpractice/artificial支持教师和考试中心保护资格的完整性。本指南包括以下方面的信息:
什么才算滥用人工智能
对教师和考试中心的要求，以帮助预防和发现不当行为
未来的知识和技能
为了利用生成式人工智能的潜力，学生将受益于知识丰富的课程，使他们成为技术的知情用户，并了解其对社会的影响。坚实的基础知识确保学生能够发展正确的技能，以充分利用生成型人工智能。
教育部门需要:
让学生为改变工作环境做好准备
教学生如何安全、适当地使用新兴技术，如生成式人工智能
在不同的教育阶段，这种教学可能包括:
生成式人工智能的局限性、可靠性和潜在偏见互联网上的信息是如何组织和排列的
防止有害或误导性内容的在线安全
理解和保护IP权利
安全、负责任地创建和使用数字内容
技术的影响，包括颠覆性技术和使能技术
关于计算机如何工作、相互连接、遵循规则和处理数据的基础知识
人工智能办公室目前正在进行技能研究，生成式人工智能(AI)在教育中的应用是未来劳动力培训所需要的。
教育系统应:
支持学生，特别是年幼的学生，确定和使用适当的资源，以支持他们的继续教育
鼓励有效使用适合年龄的资源(在某些情况下，可能包括生成式人工智能)
防止过度依赖有限数量的工具或资源
教育部将继续与专家合作，以便:
考虑并应对生成性人工智能和其他新兴技术的影响
支持中小学向16岁以下儿童教授知识丰富的计算机课程