联合国教科文组织(UNESCO)周四(9月7日)发布了首份关于在教育中使用生成式人工智能(AIGC)的指南,敦促政府机构规范使用这项技术,包括保护数据隐私和对用户设置年龄限制。
这份报告的题目是:《教育与研究中生成式人工智能使用指南》(Guidance for Generative AI in Education and Research),目前似乎只有英文版本。
在这份长达44页的报告中,教科文组织指出:“公共可用的生成式人工智能(GenAI)工具正在迅速崛起,迭代版本的发布速度超过了国家监管框架的调整速度。由于大多数国家都没有关于 GenAI 的国家法规,因此用户的数据隐私得不到保护,教育机构也基本上没有做好验证这些工具的准备。”
该指南旨在支持规划适当的法规、政策和人员能力发展计划,确保生成式人工智能(GenAI)成为真正有益于教师、学习者和研究人员的工具。
《指南》还就教育和研究中生成式人工智能应用展开了讨论。生成式人工智能模型通过特定数据进行训练,以服务于教育目的。
此外,《指南》还总结了围绕生成式人工智能的一些主要争议,从数字贫困的恶化到观点的同质化,从深度伪造到版权问题。
基于人文愿景,《指南》提出了监管生成式人工智能工具的关键步骤,包括强制要求保护数据隐私,并为与生成式人工智能平台的独立对话设定年龄限制。
为了指导在教育和研究中正确使用这些工具,本指南建议在伦理验证和教学设计过程中采用适合人类和年龄的方法。教科文组织强调了政府批准人工智能课程的必要性,包括在学校教育、职业技术教育和培训中设置相关课程。
此外,同时,联合国教科文组织还呼吁在一定程度防止生成式人工智能的过度使用。因为通常,人们通过观察真实世界、通过实验探讨等实践经验、以及通过独立逻辑推理来发展认知能力和社交技能,而生成式人工智能有可能会剥夺人们发展这些能力的机会。
教科文组织总干事Audrey Azoulay表示,生成式人工智能可能是人类发展的巨大机遇,但它也可能造成伤害和偏见。 她补充道,“如果没有公众参与,没有政府的必要保障和监管,它就无法融入教育。”
在《指南》的前言中,教科文组织的教育助理总干事Stefania Giannini称,“我们正在努力使教育系统的转型速度与技术进步和这些机器学习模型的进步速度保持一致。”