打开

银川一小学装人脸识别系统引热议,专家:需家长书面确认同意

subtitle
澎湃新闻 2021-04-13 21:50

人脸识别技术应用范围越来越广,但其潜在的一些安全隐患也令许多业内专家、学者对其使用、推广持审慎态度。
近日,宁夏银川市兴庆区回民二小观湖校区(以下简称“回二观湖校区”)将在学校内安装人脸识别系统的事情引发讨论。对此有该校家长质疑,人脸识别系统是否会侵犯学生隐私,存在泄露学生个人信息的安全隐患。
对此,全国政协委员、上海市信息安全行业协会名誉会长谈剑锋认为,学校要讲清楚数据怎么采集、怎么存储、怎么使用、怎么销毁。说清楚后,征得家长同意的情况下可以做。
中国人民大学法学院副教授、哈佛大学法学博士郭锐表示,人工智能在教育场景下的使用需特别谨慎。而在学校推广使用人脸识别技术,则需征得每一位家长的书面同意。
4月12日,银川市兴庆区教育局一位相关负责人就此事向澎湃新闻(www.thepaper.cn)表示,人脸识别系统仅为确保孩子在校安全,目前还在前期筹备阶段,最终使用需家长同意。不过澎湃新闻近日采访多位该校家长发现,家长们只接到学校关于提交照片的通知,并未签署任何与人脸识别系统使用相关的书面知情同意书。

打开网易新闻 查看更多图片

学校门口已经安装好人脸识别系统。本文图片 新消息报 图

区教育局:暂时在前期筹备阶段
多位回二观湖校区的家长向澎湃新闻表示,近日接到学校通知,为方便出入校门“刷脸”通行,要求提交一张孩子的近期免冠证件照电子版。但学校并没有就使用人脸识别系统一事向他们征求意见,只是通知在规定时间内,尽快提交学生的电子版照片和学籍号。
对此,中国人民大学法学院副教授、哈佛大学法学博士郭锐表示,根据《民法典》和《网络安全法》的相关规定,需要有家长明确的书面同意书,学校方可使用学生的人脸识别数据。
宁夏本地媒体《新消息报》4月12日也报道了这一事件,一篇题为《银川一小学实行“刷脸”通行!家长担心泄露学生信息》的文章中写道:银川市兴庆区回民二小信息中心主任段帅介绍,该校观湖校区目前有4500多名学生,学校规模逐渐扩大,如何保障在校师生的安全显得尤为重要。2020年8月,学校围绕智能化校园安全管理建设的“智管中心”项目启动,目前,已进入最后的信息录入与调试阶段。

上述报道提到,该项目建设完成后,学校师生进出校门将实现无感化人脸认证,校内公共开放区域及教学区域都将实现安防覆盖。该系统还可对孩子可能存在的推搡、打架等风险进行预警,如密度超标报警、语音提示、远程喊话等。系统运行后,一旦某位学生出现意外情况,只要输入学生的班级及名字,系统就会自动生成该学生一天的轨迹记录,有利于快速追溯到异常情况。在辅助教学方面,电子班牌、课堂人脸点名、巡课督导、考试管理都可以达到智能管理的目的。
多位家长表示,学校并未知会此次人脸采集的具体使用情况等信息。上述《新消息报》报道中提到的推搡、打架等风险预警、辅助教学功能等,他们也不曾从学校方面获悉、了解过。
4月12日,澎湃新闻致电银川市兴庆区教育局,一位相关负责人表示,这套人脸识别系统是智能安防的一部分,学校是个公益性质的地方,主要为孩子安全着想。教育部门不会拿孩子的信息牟利。
这位负责人提到,对使用人脸识别系统的安全问题教育部门也做了充分考量,回二观湖校区建立的网络是一个密闭的内网,不允许接入互联网。人脸识别系统就是为了确保孩子在校安全,没有别的用途。但人脸识别系统是否会识别孩子上课时的面部表情和动作等,这位负责人表示尚不清楚,没有听到这样的说法。
这位负责人还表示,目前人脸识别系统是否使用也在征求家长意见,建立在家长同意的基础上,不是教育行政部门想咋干就咋干,暂时在前期筹备阶段。
专家:学校需清楚告知家长数据如何采集等
4月12日,全国政协委员、上海市信息安全行业协会名誉会长谈剑锋就此事接受澎湃新闻采访时表示,作为学校安全场景,将“刷脸”作为监管手段和方式都可以理解,“但数据怎么采集、怎么存储、怎么使用、怎么销毁,这是一套机制,应该说清楚。说清楚后,征得家长同意的情况下学校可以做。”
谈剑锋表示,数据采集是否仅是用在安全保卫方面?如果数据被第三方公司获取,学校应该承担什么样的责任?学生毕业了人脸数据还要留存吗?数据怎样销毁?这几个问题要问清楚,学校不是不能用,而是看学校怎么用。

在学校北门房的监控中心,段帅介绍各方位监控摄像机的运行情况。

针对上述兴庆区教育局相关负责人提到的,人脸识别系统运行依靠一个“密闭的内网”这一说法。谈剑锋则认为,信息是否存在泄露风险和内网、外网无关,很多内网也有受到攻击的。而且数据泄露不一定是靠外网,很多数据泄露是内部职员出卖数据,只要采集就有泄露风险。
“关键要说清楚,出问题后校方承担什么责任,不是说数据出不出的去,而是一旦泄露后造成损失,谁来承担这个责任。”谈剑锋说,“人脸是生物特征数据,生物特征数据有个特点,不可再生性、唯一性。”这意味着,人脸信息一旦泄露,损失不可逆。
而在郭锐看来,学校和教育这个场景,是保护个人信息很敏感的场景,任何人工智能技术的使用,包括人脸识别在内,都要特别谨慎。任何使用都需家长同意,教育主管部门也要审查使用用途。这些用途如果不是学生和家长一起决定同意的,学校的做法就不妥当。
对学校提及的“该系统还可以对孩子可能存在的推搡、打架等风险进行预警,如密度超标报警、语音提示、远程喊话”这一用途。同时也是全国标准化委员会人工智能总体组社会伦理研究负责人的郭锐认为,如涉及校园霸凌问题,用新的技术能帮助解决这一问题当然是好事。但这背后其实体现的是深层次的矛盾,比如学校是否资源不够,很少的老师要管很多的学生,当然很多地方就管不到。技术当然能弥补资源不足的短板,但把它当作一个完全的解决方案,可能会比较表面,反倒产生这些问题的深层矛盾就不会有更多关注。
“很多霸凌都在摄像头看不到的地方发生,甚至在学校外面发生。有时互相瞪一眼就表明了想要霸凌的意向,但技术无论如何是监控不到的。不去解决深层矛盾,想要依靠一个技术,表面化的把问题解决了,这个做法不可取。”郭锐表示。
也有家长担心,该校提及的人脸识别“智管中心”项目在辅助教学方面的功能,如“电子班牌、课堂人脸点名、巡课督导、考试管理”等,是否意味着学校会用人脸识别系统监控学生课堂表现呢?
对此,郭锐认为家长的担心有其道理,比如小孩上课打瞌睡,其实是整体学习的一部分。要把上课表现这一项拎出来,恐怕是把人当作机器对待。“一个真正的教育者不会这样想问题。这都不能真正帮助教育,而且会侵犯学生隐私,不客气地说这都是外行做法。”
郭锐表示,总的来说,在教育里使用人工智能技术,很多人都想用它来达到一个比较简单、直接、明确的目标。但在教育里,很多需要解决的问题是互相关联的,很少有一些事情是只需解决这一个问题。想要追求用技术解决一个老大难问题,这个思路其实不太对。

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。
帮TA点赞
大家都在看打开应用 查看全部
网易热搜每30分钟更新
打开应用 查看全部
打开