关于校园里的人脸识别技术

昨天,在技术派教师 微信圈子,一篇推文引发了讨论。

事情的经过是这样的:

在 技术派教师 微信圈子中,圈友 Make 转发了来自微信公众号凤凰网财经的一篇题为《监控那个“坏学生”》的文章,这篇文章是凤凰网财经转发自微信公众号深燃(shenrancaijing)的。

文章关注的是,1月28日,一份来自河南鹤壁高中的“违纪情况通报”,该通报公布了学校高三年级1月18日-1月24日的违纪情况:

3班XXX上课睡觉、4班XXX在抹护手霜、5班XXX考试睡觉、7班XXX向别人传爆米花…..

这份“通报”在诸多社交平台上流传,引发巨大争议。

21世纪,我们生活在一个摄像头和面部识别系统无处不在的生存环境之中,在每一个人的周围,射频识别芯片和电子收费器随处可见,具有定位和位置跟踪功能的智能手机,使得个人隐私与技术伦理问题空前突出。

今天,面部识别技术现已被引入到人们公共生活的各个方面。从治安、社区管理、银行、交通、以及校园和学校生活….

这些试图将人工智能技术、新型传感器、大数据、以及面部识别与检测技术集成到包括中小学校的学校教育实践之中,试图解决诸如校园安全、自动注册、门禁、监考、课堂纪律、以及学生情绪检测等问题。

到目前为止,这些技术在很大程度上已经被视为对常规学校系统的一种重要补充。然而,教育工作者、尤其是教育科技工作者,必须要深刻地和清醒地认识到:校园里的摄像头和人脸识别,在产生可能的预期的积极效应的同时,势必会带来诸多许多其他社会挑战和问题,需要特别加以关注。

你知道,

在这黑洞洞的摄像头的背后,

谁在瞪着大眼睛看着你吗?

你知道,

谁在以什么目的何种方式

在使用你的​授课和影像吗?

你知道

到底谁在为你的​肖像权负责吗?

之前,2019年9月,自留地君曾发表过一篇推文,题目是《教室里的摄像头与人脸识别技术》。

最近一些年,人们开始对人脸识别与面部检测技术表现出浓厚兴趣,试图将其作为学生在面对面的课堂教学以及在线教学情景中“参与”和“投入”学习的一种指标加以应用。在每年的展会上,也总是可以看到不少类似的系统和产品受到人们的关注。

学生的诸如眉毛抬高、眼睑紧绷和口腔凹陷之类的面部动作,面部微表情状态,以及眼动眼神等,也许可以让我们瞥见学习者的思考方式、专注程度、学习体验等等。

不少研究人员试图以此作为证明学生是否(不)参与面对面或在线学习环境的一个指标。作为一种持续、非侵入性的方式……,来了解学习者当前心态的某些方面’,这是人们对面部识别兴趣日益增长的重要动力。

当然,我们也必须意识到,做一种合乎人的目的性的存在,在校园中人脸识别技术的应用也有许多问题和担忧,这些隐忧使得人们对学校中的面部识别技术的实施产生了进一步的严重怀疑。这些怀疑和争论包括:

由于面部识别技术量化和构造学生面部数据的统计过程本质上是机械的和简化的,在增加算法辅助和技术支持的同时,它可能会导致学校教师与学生之间的互动减少,从而使得学校交流变得非人性化。

面部识别是机器学习的结果,这就使得人脸侦测识别系统会偏重于“检测”和识别出的某种人群,如黄种人或白人,而对其他性别和种族无法“识别”,导致事实上的歧视。

在校园里的人脸识别,“共享”自己的哪些数据以及什么时候共享数据方面,学生没有选择权,也没有办法进行自我策划和限制。这也增加了关于学校面部识别系统的“知情同意”承诺的不足。在这一点上,与教室里的摄像头所带来的伦理挑战是一致的。

面部识别是一项影响深远的技术。这些技术将继续被学校以各种意图和理由所采用,从在校园安全,到更好地指导老师在教室内的注意力。

这个是大趋势,锐不可挡!在整个2021年,以及之后的相当长一段时间里,各级地方教育行政部门、各级各类学校、以及教育科技研究人员、相关的企业和厂商,都将会持续关注和推进该技术及其在学校场景中的应用。

教育工作者现在面临的主要挑战是,是否存在某种方式,重塑这些技术,以实现更有益的、和/或更好的、更加合乎人的目的性的现实未来前景。

参考文献:

Mark Andrejevic & Neil Selwyn (2020) Facial recognition technology in schools: critical questions and concerns, Learning, Media and Technology, 45:2, 115-128, DOI: 10.1080/17439884.2020.1686014

Brenda Leong (2019) Facial recognition and the future of privacy: I always feel like … somebody’s watching me, Bulletin of the Atomic Scientists, 75:3, 109-115, DOI: 10.1080/00963402.2019.1604886