加入收藏 | 设为首页 |

人脸识别行业蒙眼狂奔:刷脸无处不在 隐私难保障

隐私 时间:2019-10-21 07:57:05 浏览:
人脸识别十字路口:脸的恐慌来源:《中国新闻周刊》记者/杨智杰人脸识别公司正在不断地尝试打破更多边界急于向投资人证明自己的估值“低调的学校上热搜,准没好

  急于向投资人证明自己的估值

  “低调的学校上热搜,准没好事。”中国药科大学大四学生周琪看到学校的新闻时想。

  8月底,有“药界清华”之称的中国药科大学全面引入人脸识别技术,不仅用于门禁,还在试点教室安装摄像头刷脸考勤,并对学生课堂听课情况全面监控。有报道称:“在部分教室试水后,逃课和‘替同学答到’或将成为历史。”

  一切早有端倪。6月,周琪收到学校通知,称为了做好人脸识别系统,学生要提交高要求的照片做信息采集。两个月后,周琪就体验到了人脸识别的应用,出入校门、图书馆等“刷脸”通过,不用费劲找学生卡很方便,但是她没想到随之而来的是一场风暴。

  最初的宣传焦点,是学校应用了先进的AI技术,但风向很快转变,更多人开始对教室里无时无刻的监控感到恐惧。

  在赛迪顾问人工智能部门负责人王晓宁看来,这次的争议,是人脸识别技术深入应用后必然会面临的一个节点。从业内来看,2019年,将是人脸识别被市场检验的关键一年,很多公司正急于证明自己的变现能力,抢占更多赛道。但整个行业却突然被集体卷入风暴眼:人脸识别使用的边界,到底是什么?

  校园信息化的利弊

  山世光看到中国药科大学的新闻时,并不意外。他是中科院计算所研究员、中科院智能信息处理重点实验室常务副主任,研究人脸识别技术已经有二十多年。

  对于做技术的人而言,在校园应用人脸识别技术监控学生状态不算新鲜事。“在业内,一些科技公司早已有了这样的设想,或者拥有了接近成熟的技术。”山世光说。

  人脸识别进课堂的探索最早引发关注,始于2018年。在2018年第75届中国教育装备展示会上,人工智能公司旷视科技曾展出其智慧教育解决方案,利用人脸识别、表情识别等技术,记录学生行为、表情、专注度、前排上座率等多维度课堂数据,辅助教学评估。除了旷视,百度、腾讯云等其他科技公司也都推出了“课堂专注度”分析的解决方案,技术和应用场景都相差无几。

  一些学校和培训机构正积极拥抱这项新技术。百度AI开放平台显示,杭州金沙湖实验学校、在线机构海风教育,以及小童科技创业公司均是教育方案的客户。

  去年3月底,浙江省杭州十一中在高一两个班级试运行“智慧课堂行为管理系统”。与中国药科大学几乎同步,今年8月底,上海中医药大学附属闵行蔷薇小学与上海交通大学E-LEARNING实验室合作,开发了智慧课堂行为分析系统。

  这些系统的做法普遍类似:每隔一段时间,用摄像头扫描一次学生的脸,采集并分析他们的坐姿、表情,评价他们有没有专注听讲。山世光把人脸识别监控学生状态的能力,称作“对人的深刻理解”。相较于常见的用于门禁“刷脸”的身份识别能力,这是更高的要求。

  深刻理解人类,本是人们对人工智能的美好期待之一,但是用在教室这个场景下,却引起极大的不适感。

  山世光从业内了解到,一些学校和老师的确对这项技术有需求。中国药科大学图书与信息中心主任许建真在接受媒体采访时就提到,安装人脸识别系统是教务部门的要求,意在减少学生逃课、早退、找人代课以及上课不认真听讲等行为,严肃课堂纪律,同时评估老师的教学质量。

  “不是说做技术的人非把这个方案推销给学校,一些老师在教学上面临难题,他们不能关注到班里的每一个孩子,无法准确把握全班同学的学习状态,如果有人脸理解技术做辅助,老师们可以更好地调整教学办法。”同样身为老师,山世光也有相似的感触。

  但他也提到,不同职位的教育工作者对此有不同的态度。学校领导倾向于认为该技术有助于提升教学质量,而一些教师持反对意见,认为自己也被监控了。

  “大家的争议主要在于公共场合下,个人信息被利用前的知情权,信息被采集的范围和使用边界等问题。” 赛迪顾问人工智能部门负责人王晓宁对《中国新闻周刊》说。

  中国药科大学在使用这项技术前,曾向当地公安部门和法务部门咨询,得到的答复是,教室属于公共场所,不存在侵犯隐私的问题。

  但中国政法大学传播法研究中心副主任朱巍认为,人脸识别要获取学生的肖像权,肯定涉及侵犯学生隐私权,“尽管很多时候在使用肖像权上,学校会和学生有协议,但是学生通常是弱势群体,这样的协议是无效的,所以人脸识别监控的行为值得去探讨。”

  教育学者关注的另一个问题是:即便不讨论隐私,用人脸识别监控学生的状态,更涉及教育的根本价值观。

  在人脸识别进入课堂前,很多教室早已安装了监控摄像头。中国教育科学研究院研究员储朝晖告诉《中国新闻周刊》,是否在教室里引入监控,是教育领域研究几十年的老问题,业内的结论是:不能。他认为,反对基于两个原因:“一、安装监控系统后,教师和学生会以伪装的面目出现在教学环境中,长此以往,教师和学生也会以伪装的人格出现在社会上,这个习惯很难消除,可能会引发严重的社会问题;二、这涉及对教师和学生基本权利尊重的问题。”

  “人脸识别技术本身并无好坏,关键是看技术如何被使用。”山世光说,如何被使用,是一道选择题,隐私、(公共)安全和便捷是三个选项,最好的答案是在三个维度上取得平衡,“中国药科大学引入人脸识别技术并不新鲜,它之所以成为社会热点事件,是因为在以上三个方面没有很好地平衡。”

  在一片质疑声中,教育+AI却正成为未来教育的趋势。前瞻产业研究院报告显示,2023年,“智慧教育”市场规模有望突破万亿。作为AI领域目前最成熟的技术,人脸识别正深入教育行业,在刷脸签到、学员身份查询、校园安防、课堂检测等诸多场景应用。

  一个绕不开的疑问是:人脸识别在校园里使用的边界到底是什么?

  在储朝晖看来,人脸识别技术在校园唯一适合的场景就是安防,用于识别非学校人员,保护学生安全,其余场景都用不上。“技术对于教学只能是锦上添花,不能替代教与学的位置。”储朝晖对《中国新闻周刊》说。

  教育部已经就中国药科大学的新闻作出了回应。科学技术司司长雷朝滋在接受澎湃新闻采访时表示,“(对于人脸识别技术应用)我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。”他认为,人脸识别进校园,既有数据安全也有个人隐私问题。对于学生个人信息要非常谨慎,能不采集就不采。能少采集就少采集,尤其是涉及个人生物信息。

  教育部在近日也告诉《中国新闻周刊》,目前教育部正在针对人脸识别技术制定相关管理文件。

  2018年1月10日,比亚迪和华为公司联合发布“云轨”无人驾驶系统。“云轨”实现了全自动无人驾驶运行,并具有人脸识别、断电无人驾驶、自动诊断等多种功能。图/新华

  蒙眼狂奔的行业

  在中国药科大学引发风波的同时,以人脸识别起家的旷视科技也被推向了风口浪尖。