人脸识别进校园后,连上课打瞌睡都能被识别出来,这真的合适吗?

2022-06-21 15:47:52 微幼科技 226

前不久,人脸识别类技术进校园的话题持续引发关注,此类人工智能(AI)技术除了应用于校园门禁控制、学生考勤管理,还能全程监控课堂,就连学生发呆、打瞌睡和玩手机等动作行为都能被识别出来。

随着AI时代的来临,AI技术在为教学提供辅助、提高学校管理效率、确保学生安全的同时,也面临公共数据采集与个人隐私保护、使用目的的正当性、数据泄露风险等争议,AI技术进校园,边界究竟在哪儿?


变化:人脸识别潜入校园

新学期伊始,中国药科大学的学生们发现,熟悉的校园出现了新的改变——校门口、宿舍和图书馆都安装了人脸识别门禁。

对此,学生们的接受度还挺高。不少学生认为,门禁识别准确、速度快,不用再担心忘记带校园卡,确实比较方便。而且采集了学生出入宿舍、图书馆等信息的系统,还能帮助学校统计学生的回寝时间、晚归次数等,提高了宿舍的安全性。


而在学校的教室里,也在尝试使用人脸识别系统。中国药科大学图书与信息中心主任许建真说:


之前有的同学点完名就跑掉了或者请别的同学代(点名),但是有了人脸识别就没这个问题了,只要你进教室那一刻起,它就对你全程进行识别。你低头多长时间,你是否在玩手机,你是否在发呆,你是否在看别的书,都能感知到。


在校方看来,这能有效解决传统考勤方式中管理难度大、效率低的问题,从而方便教务管理者实时掌握班级学生考勤情况,是在探索泛在、灵活、智能的教育教学新环境建设与应用模式,努力提升技术能力和服务水平


当前,为引领推动教育信息化转段升级,《教育信息化十年发展规划(2011—2020年)》《教育信息化2.0行动计划》《中国教育现代化2035》《加快推进教育现代化实施方案(2018—2022年)》等政策文件相继出台。

在业内专家看来,信息技术与教育教学深度融合已是大势所趋。为此,不少学校都在积极探索利用AI技术服务于教育教学以及日常管理,人脸识别类技术就是该探索的一种。

安全是人脸识别技术在校园应用的最初方向。据记者了解,在山东、上海、河南等地的一些幼儿园和小学,已经开始探索运用人脸识别技术进行校园智能安防。这类智慧型校园安防系统,能对校园及周边一定距离的安全区,进行实时监控。

当学校有大型活动时或者学生集中放学时间,校园大门口会聚集大量人员,该系统将自动进行非安全身份识别,一旦有陌生人靠近,系统监视屏会自动报警提醒,学校安保人员可及时处置。

除了应用于安防,一些学校也开始试水用人脸识别来保证出勤率和提高听课效率。去年4月份,重庆二十九中在教室内启用了一套人工智能分析评估系统,该系统通过观测学生细微的表情变化,来判断学生对所学内容的理解程度。专注度高的学生占比35%思考学生占比29%疑惑学生占比18%不理解学生占比3%,课堂两侧,两个电脑屏幕滚动着由大数据实时分析出的学生学习效果图。

杭州十一中的智慧课堂行为管理系统,则会每隔30秒进行一次扫描,针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为,再结合高兴、伤心、愤怒、反感等表情识别,分析出学生们在课堂上的状态。

还有一些学校开始尝试将人脸识别技术应用于学生的日常管理。去年11月,贵州11所中小学校开始推广使用智慧校服项目,利用RFID(射频识别)+人脸识别科技集成智能校服考勤系统,当穿着智慧校服的学生通过人脸识别进出校园后,系统内会自动记录学生进出校园和宿舍的精确分秒时间,同时保存前后20秒的实时视频。

一旦学生在上课时间内未经允许离开校园,GPS定位芯片会记录学生位置并激活门禁闸机自动语音报警器,提醒有学生离开校园。假如学生互换校服,警报会响起,它也能发送准确的具体位置,帮助学校和家长快速定位。

争议:是危还是机

人脸识别系统刚开始进入中国药科大学课堂,该校就有学生担忧,此举识别有侵犯个人隐私之嫌,一举一动都被人脸摄像头监视,让人后背发凉

校方表示,学校之前已向公安部门和法务部门咨询,由于教室属于公开场所,因此不存在侵犯隐私的说法。


对此,北京志霖律师事务所副主任赵占领说:


我国法律对于隐私权没有特别明确的界定,严格来看,教室属于公共场所,安装人脸识别摄像头,虽然不违法,但需要明确告知学生,给学生知情权和选择权。


利用人脸识别类技术,无论是进行课堂管理还是教学效果分析,都不可避免要收集海量数据。首都师范大学基础教育发展研究院教授苏尚锋认为,


教室内使用人脸识别的初衷是对学生学习行为进行个性化追踪,而其目的在于经分析生成个性化的学习方案,以帮助学生提高学习效率,在这种理想情况下,是符合人工智能+教育未来趋势的。


在使用目的的正当性上,中国基础教育质量监测协同创新中心网络平台部主任张生认为,用人脸识别类技术来对学生进行管理,不能本末倒置,学校应回归教育本身,多反思课堂的教学效果

人脸识别作为一项技术,其本身并没有什么问题,关键在于如何运用。同样的人脸识别技术,帮助幼儿园和小学建立智慧安防系统,用来寻找丢失的幼童或监护老人,就很少陷入争议。

赵占领说:在这些场景里,个人隐私让位于人命关天的安全需求,这也符合人们心中牢固的共识。

在很多家长看来,对校园及周边实时严密监控,智能身份识别,严进严出,将危险扼杀在摇篮中,也大大降低了歹徒闯入校园作案的可能性,学生安全有保障。

人脸识别类技术的潜在危险还有数据泄露风险。

赵占领告诉记者:人脸识别监控课堂的行为会产生大量的隐私数据,如果没建立相应的数据安全规范或未尽到妥善保管义务导致数据发生泄露,这些数据一旦被恶意使用,就会侵犯老师和学生的相关隐私权利,情节严重的可能会导致违法行为的产生。

在业内人士看来,如果从教育教学发展等长远角度以及公共利益的立场来考量,在使用人脸识别类等AI技术的抉择上,不能因噎废食

北京师范大学智慧学习研究院副院长曾海军说,包括人脸识别在内的AI技术广泛而有效地应用于教学、管理和服务,是未来学校教育发展的必然趋势——


规模化教育和个性化学习相结合的AI技术,具有更强的灵活性、包容性,可以助力重塑学校教育,进一步提升教学的效果、效率和效益,以适应现代信息化、数字化、智能化的学习型和创新型社会的需要。


面对教育场景内不甚成熟的人脸识别类技术应用,以及个人隐私、数据安全等风险和争议,教育部科学技术司司长雷朝滋表示,希望学校非常慎重地使用这些技术软件,包含学生的个人信息都要非常谨慎,能不采集就不采,能少采集就少采集,尤其涉及个人生物信息的。雷朝滋还表示,目前教育部已开始关注这一情况,已组织专家进行论证研究。

共存:坚守教育本位,合乎法律伦理

技术发展得太快,一个不留神,人脸识别类技术已经进校园、进课堂了,而我们关于其带来的复杂的伦理、法律和安全等问题的讨论,似乎慢了些。

不可否认的是,AI已成为扩大优质教育资源覆盖面和实现新型智能教育服务模式的重要一环。曾海军认为,抱着鸵鸟心态,完全拒绝此类技术在教育场景内的应用,按照传统的思维方式和模式来应对新变化,并不现实。

业内专家的共识是,AI是信息化发展的新阶段,面对其衍生出的复杂的安全、隐私等问题,仍需要进一步规范,提前布局,谨慎应对


不管AI如何与教育耦合,都必须坚守教育本位的定位,将以人为本放在首位。

张生说,学生的生命成长能否得到促进,是衡量技术在教育领域中应用有效性的唯一标准,在技术应用中,学生、家长、教师的体验和满意度都是需要考察的重点。

AI技术能否促进教与学也是重要的评判标准。苏尚锋认为,AI技术在教育场景内大规模推广使用之前,需要由教育专业人士所组成的团队进行评估与鉴定,要经过严格的科学实验和论证,要对该技术在教育教学工作中所处的位置有明晰的分辨与判断,并对其使用制定一套明确的程序与规范,从而切实做到技术服务于教育、服务于育人工作。

隐私权是一项基本的人权,现代社会对个人隐私的保护已经形成共识。目前学界主要将隐私分为信息隐私、空间隐私、自决隐私等领域,当下,在教育场景内,上述三种隐私均存在被AI类产品侵犯的风险。因此,在应用AI技术时,除明确法律红线以外,还要做到尊重学生和程序透明化,由当事人及家长来做选择。

苏尚锋建议:


使用的基本原则,应该是被监控者知情同意和最大程度的隐私保护。在不违法的条件下,如果用于中小学生,理应得到其法定监护人以及学生本身的认可,如果用于大学生,理当做到明确告知并获得许可。


2017年6月1日起正式施行的《中华人民共和国网络安全法》,明确规定了要对非法收集、买卖用户数据的行为进行处罚。面对可怕的数据泄露风险,专家建议,应规范和明确数据所有权、数据隐私和服务之间的关系,将公共利益的数据可用性放在法律和伦理框架下运行,通过相应的机制确保AI应用的安全、合乎伦理和注重隐私。

曾海军说:


应构建预警机制,一旦发现类似于隐私泄露、数据安全、病毒传播、系统不稳定等情况,应及时预警和进行相关处置,确保整个系统的可信、可靠、稳定。


在教育场景内使用AI技术,需要进一步推进法治化进程,建立相关法律法规,做到有法可依。张生认为,这是确保技术不被滥用、限制技术的负面影响、真正发挥其促进教育教学作用的关键所在。他还呼吁各级各类政府要加强监管,在为新业态发展留足空间的前提下守住底线。

可喜的是,好的改变已经发生。

目前欧盟、英国、日本等国际组织和国家,均发布了人工智能的伦理准则。

2019年国际人工智能与教育大会达成的《北京共识》重点聚焦了安全和伦理问题,关注服务于人,将和谐与优化共生这一中国哲学和文化中的特色理念,作为寻求跨行业、跨部门、跨地区全球协作的指导思想,并强调促进人工智能相关准则的落地,为未来打造负责任的、有益的人工智能

本文选自中国教育报、文汇教育,版权归原创作者所有


延伸阅读:

人脸识别进校园究竟会有哪些利弊?

来源|新华网

● 人脸识别进校园,既有数据安全也有个人隐私问题,包含学生的个人信息要非常谨慎,能不采集就不采集,能少采集就少采集,尤其涉及个人生物信息的

● 网络安全法规定,网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意

● 表情监控在某种程度上侵犯了学生的尊严,也是对学生自主学习能力和教师授课能力的不信任。学生长期在监控环境下学习、成长,容易养成表演性人格

随着人工智能不断发展,人脸识别技术被越来越多地应用于校园中。

据了解,一所知名大学2019级新生刷脸就能瞬间完成报到程序,系统是这所学校的学生研发的,学生对着摄像头,人脸识别系统就开始进行比对,眨眼间就能完成扫描,整个报到注册手续几乎不到一秒钟。此外,通过人脸识别还可以对学生进行考勤,以及实时观察学生的上课状况等。

对此,教育部科学技术司司长雷朝滋认为,(对于人脸识别技术应用)我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。教育部已经开始关注这个事情,组织专家论证研究。

雷朝滋还说,人脸识别进校园,既有数据安全也有个人隐私问题,包含学生的个人信息都要非常谨慎,能不采集就不采集,能少采集就少采集,尤其涉及个人生物信息的。

人脸识别进校园究竟会有哪些利弊?《法制日报》记者对此进行了采访。实时监控课堂表现老师学生压力增大

近日,中国药科大学试水人脸识别进课堂,在校门口、学生宿舍、图书馆及部分教室等场所安装人脸识别系统。这个系统除了能自动识别学生的出勤情况外,还能识别出学生是否认真听讲,课堂上抬头低头了几次,低头是否在玩手机,是否闭眼打瞌睡等。有网友认为,这样的系统在校园广泛应用或涉嫌侵犯隐私。

据了解,早在2015年,国内一所知名高校就曾在高校信息化建设中首次引入人脸识别技术。近年来,有些地方的初中出于提升校园安全考虑,在校园门口安装人脸识别考勤系统。

现在是互联网科技时代,到处都讲‘互联网+教育’,这是教育的创新,我们也很乐意看到新技术的应用能给教育行业带来新的生机。一位从教近10年的高中老师杨妮(化名)对《法制日报》记者说。

初、高中学生上课自觉性比较差,需要老师的督促,如果上课期间需要老师不停地维持课堂纪律,那么课堂质量就会有所降低。而且传统的点名方式浪费时间,准确率也不高。从这个方面来说,在教室安装人脸识别系统确实能帮助老师维持课堂的秩序,从而专心把精力放在对课堂内容的把控上,很大程度上提高了课堂效率。杨妮说。

杨妮认为,尽管人脸识别系统能给教学带来一些好处,但是如果老师和学生长期处于人工智能的监视之下,有可能会适得其反。一旦学生意识到自己处于监控状态之下,那他们在课堂中的表现就必然是失真的,老师们无法得到真实的教学反馈,也不能准确了解学生们的兴趣点和对知识的掌握情况。

对于老师而言,在监控之下教学,难免会出现迎合的心态,无法完全放开自主发挥。老师们把课堂教学变成表演,学生们也在表演,长此以往,教学效果就会不断降低。杨妮说。

西安一名大学生陈霖(化名)告诉《法制日报》记者,没有哪个学生会喜欢这种上课方式。这就像是有人在一直监视你,没有人会喜欢被监视。对于类似的系统,我们肯定是比较抵触的,如果强制安装,那只会让大家的逆反心理更重,根本达不到提高课堂质量的效果,学习关键还是要靠自觉。

陈霖就读的大学目前已经开始通过人脸识别进行考勤,出入宿舍也会有人脸识别。

这些都是出于安全考虑,我们可以理解,但如果人脸识别真的推广到教室里,连大家的细微表情都能监控,那就有点可怕了。陈霖说。人脸识别侵犯隐私教育创新尊重学生

据中国药科大学图书与信息中心有关负责人介绍,目前学校在两间教室试点安装的人脸识别系统,除了自动识别学生出勤情况外,学生是否认真听讲,课堂上是否抬头低头,低头是否在玩手机,是否闭眼打瞌睡,都逃不过系统的法眼。

上述人脸识别系统引起关注后不久,该人脸识别系统的开发企业回应称,该图为技术场景化概念演示。针对网友热议的隐私保护等问题,这家开发企业称,在人工智能技术的各种场景中,会坚持正当性、数据隐私保护等核心原则,接受社会的广泛建议和监督。


中国传媒大学法律系主任郑宁认为,人脸识别系统在校园推广确实有侵犯学生隐私的可能性。人脸属于个人生物信息,而且属于可以识别的个人信息,一旦被泄露或被不法分子利用,风险远远高于其他信息。

郑宁告诉《法制日报》记者,网络安全法中提到,网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意。网络运营者不得收集与其提供的服务无关的个人信息,不得违反法律、行政法规的规定和双方的约定收集、使用个人信息,并应当依照法律、行政法规的规定和与用户的约定,处理其保存的个人信息。民法总则也明确提出,自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的,应当依法取得并确保信息安全,不得非法收集、使用、加工、传输他人个人信息,不得非法买卖、提供或者公开他人个人信息。

郑宁认为,人格尊严是法律规定的人的基本权利,表情监控在某种程度上侵犯了学生的尊严,也是对学生自主学习能力和教师授课能力的不信任。

作为一线教师,我认为,靠人脸识别系统对学生进行表情监控来提高课堂效率,既不合法,也不合理。提高课堂效率,归根到底,还是要靠先进的教学理念和教学方式、丰富生动的教学内容。郑宁说。

21世纪教育研究院副院长熊丙奇告诉《法制日报》记者,去年,某中学使用黑科技打造智慧教室,对学生进行表情监控,以提高课堂教学效率,舆论对此普遍质疑,认为此举不尊重学生的人格权利,侵犯学生隐私。学生长期在监控环境下学习、成长,容易养成表演性人格。因此,对这种所谓的技术创新应该持十分慎重的态度。

熊丙奇还认为,在资本逐利和学校提高教学效果的双重驱动下,一些企业开发并推广这种以监控学生上课表情、行为的人工智能系统,也有一些学校采用这样的系统,并以使用后的效果,诸如学生上课更投入,老师管理学生更方便,学生成绩提升以及学生间、师生间的冲突与纠纷减少,来论证采用这一系统的科学性、合理性。

现代科学技术当然可以用于教育教学中,但需要首先分辨清楚教育是什么。很显然,在教室里安装监控,全天无休地对着学生,适时采集学生的表情、动作,这种做法的反教育性质比较明显,但却得到个别教育管理者和学校的认可。这是因为有的教育者和办学者忽略了教育的本质,只是考虑怎么管理方便以及怎样提高成绩。熊丙奇说,学校是育人的地方,必须帮助学生健康成长,所有的教育创新必须以尊重学生的人格为基本出发点。新技术推广须谨慎教育不能偏离正轨

另据了解,除了中国药科大学之外,某小学也在使用同一套系统。这套系统运用在姿态评估、表情识别、语言识别、教师轨迹热力分析等方面,可以捕捉到学生在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为,或者快速奔跑、摔跤、打架、拥挤等危险动作。

郑宁认为,在学校推广人脸识别技术要特别慎重。一些学校启用人脸识别进出校门,作为校园安全管理措施,有其正当性,但应该向师生明示收集、使用个人信息的目的、方式、范围,并取得他们的授权,并且建立完善的个人信息安全保护措施,防止相关信息泄露或被不法分子利用,否则要承担相应的法律责任。在课堂里利用人脸识别进行表情监控,除非经过学生明确授权,否则应当禁止。

在熊丙奇看来,教室里可以安装监控,但应该只在两种情况下使用,一是在考试时监控考场秩序,二是在获得教师和学生同意的情况下,直播课堂教学,与其他学校、课堂共享教育资源。如果一直使用监控,盯着学生和教师的上课情况,会让整个教学活动变为表演,对学生的人格成长产生很大的负面影响。

也有人说安装监控系统,便于教师管理学生,但其实在监控体系之下,教师也是被管理对象,长期使用监控系统,对教师的职业化、专业化发展也会有很大的负面影响,教师上课就依靠智能系统的‘反馈’,告诉教师哪个学生不认真,哪个学生不专注,这是技术识别的结果。离开了技术手段,老师还会教学吗?教育是有情感和灵魂的事业,无节制地使用人脸识别等技术,会把教育变得没有灵魂和情感,那还不如使用教育机器人。熊丙奇说。

熊丙奇认为,要让教育创新符合教育规律,应该由教师委员会和学术委员会进行论证,并广泛听取教师和学生的意见,不能由少数人决定。在资本驱动下,某些企业倾向于对一些教育领域的新概念进行炒作,某些学校会因此变得急功近利,让人工智能+教育的路越走越偏,因此需要及时正本清源、回归正道。