公司LOGO
新闻分类
当前位置:首页 > 新闻中心 > 行业新闻 > 查看新闻
人脸识别的弊端:触发脸的恐慌
作者:番禺监控安装公司  来源:中安网  发表时间:2019-11-4 13:17:08  点击:256

 

人脸识别十字路口:触发脸的恐慌

 

 

摘要:从业内来看,2019年,将是人 脸识别被市场检验的关键一年,很多公 司正急于证明自己的变现能力,抢占更多赛道。但整个 行业却突然被集体卷入风暴眼:人脸识别使用的边界,到底是什么?

 

 

    “低调的学校上热搜,准没好事。”中国药 科大学大四学生周琪看到学校的新闻时想。

  8月底,有“药界清华”之称的 中国药科大学全面引入人脸识别技术,不仅用于门禁,还在试 点教室安装摄像头刷脸考勤,并对学 生课堂听课情况全面监控。有报道称:“在部分教室试水后,逃课和‘替同学答到’或将成为历史。”

  一切早有端倪。6月,周琪收到学校通知,称为了 做好人脸识别系统,学生要 提交高要求的照片做信息采集。两个月后,周琪就 体验到了人脸识别的应用,出入校门、图书馆等“刷脸”通过,不用费 劲找学生卡很方便,但是她 没想到随之而来的是一场风暴。

  最初的宣传焦点,是学校应用了先进的AI技术,但风向很快转变,更多人 开始对教室里无时无刻的监控感到恐惧。

  在赛迪 顾问人工智能部门负责人王晓宁看来,这次的争议,是人脸 识别技术深入应用后必然会面临的一个节点。从业内来看,2019年,将是人 脸识别被市场检验的关键一年,很多公 司正急于证明自己的变现能力,抢占更多赛道。但整个 行业却突然被集体卷入风暴眼:人脸识别使用的边界,到底是什么?

  校园信息化的利弊

  山世光 看到中国药科大学的新闻时,并不意外。他是中 科院计算所研究员、中科院 智能信息处理重点实验室常务副主任,研究人 脸识别技术已经有二十多年。

  对于做技术的人而言,在校园 应用人脸识别技术监控学生状态不算新鲜事。“在业内,一些科 技公司早已有了这样的设想,或者拥 有了接近成熟的技术。”山世光说。

  人脸识 别进课堂的探索最早引发关注,始于2018年。在2018年第75届中国 教育装备展示会上,人工智 能公司旷视科技曾展出其智慧教育解决方案,利用人脸识别、表情识别等技术,记录学生行为、表情、专注度、前排上 座率等多维度课堂数据,辅助教学评估。除了旷视,百度、腾讯云 等其他科技公司也都推出了“课堂专注度”分析的解决方案,技术和 应用场景都相差无几。

  一些学 校和培训机构正积极拥抱这项新技术。百度AI开放平台显示,杭州金沙湖实验学校、在线机构海风教育,以及小 童科技创业公司均是教育方案的客户。

  去年3月底,浙江省 杭州十一中在高一两个班级试运行“智慧课 堂行为管理系统”。与中国 药科大学几乎同步,今年8月底,上海中 医药大学附属闵行蔷薇小学与上海交通大学E-LEARNING实验室合作,开发了 智慧课堂行为分析系统。

  这些系 统的做法普遍类似:每隔一段时间,用摄像 头扫描一次学生的脸,采集并 分析他们的坐姿、表情,评价他 们有没有专注听讲。山世光 把人脸识别监控学生状态的能力,称作“对人的深刻理解”。相较于 常见的用于门禁“刷脸”的身份识别能力,这是更高的要求。

  深刻理解人类,本是人 们对人工智能的美好期待之一,但是用 在教室这个场景下,却引起极大的不适感。

  山世光从业内了解到,一些学 校和老师的确对这项技术有需求。中国药 科大学图书与信息中心主任许建真在接受媒体采访时就提到,安装人 脸识别系统是教务部门的要求,意在减少学生逃课、早退、找人代 课以及上课不认真听讲等行为,严肃课堂纪律,同时评 估老师的教学质量。

  “不是说 做技术的人非把这个方案推销给学校,一些老 师在教学上面临难题,他们不 能关注到班里的每一个孩子,无法准 确把握全班同学的学习状态,如果有 人脸理解技术做辅助,老师们 可以更好地调整教学办法。”同样身为老师,山世光 也有相似的感触。

  但他也提到,不同职 位的教育工作者对此有不同的态度。学校领 导倾向于认为该技术有助于提升教学质量,而一些 教师持反对意见,认为自己也被监控了。

  “大家的 争议主要在于公共场合下,个人信 息被利用前的知情权,信息被 采集的范围和使用边界等问题。” 赛迪顾 问人工智能部门负责人王晓宁对《中国新闻周刊》说。

  中国药 科大学在使用这项技术前,曾向当 地公安部门和法务部门咨询,得到的答复是,教室属于公共场所,不存在 侵犯隐私的问题。

  但中国 政法大学传播法研究中心副主任朱巍认为,人脸识 别要获取学生的肖像权,肯定涉 及侵犯学生隐私权,“尽管很 多时候在使用肖像权上,学校会和学生有协议,但是学 生通常是弱势群体,这样的协议是无效的,所以人 脸识别监控的行为值得去探讨。”

  教育学 者关注的另一个问题是:即便不讨论隐私,用人脸 识别监控学生的状态,更涉及 教育的根本价值观。

  在人脸 识别进入课堂前,很多教 室早已安装了监控摄像头。中国教 育科学研究院研究员储朝晖告诉《中国新闻周刊》,是否在 教室里引入监控,是教育 领域研究几十年的老问题,业内的结论是:不能。他认为,反对基于两个原因:“一、安装后,教师和 学生会以伪装的面目出现在教学环境中,长此以往,教师和 学生也会以伪装的人格出现在社会上,这个习惯很难消除,可能会 引发严重的社会问题;二、这涉及 对教师和学生基本权利尊重的问题。”

  “人脸识 别技术本身并无好坏,关键是 看技术如何被使用。”山世光说,如何被使用,是一道选择题,隐私、(公共)安全和 便捷是三个选项,最好的 答案是在三个维度上取得平衡,“中国药 科大学引入人脸识别技术并不新鲜,它之所 以成为社会热点事件,是因为 在以上三个方面没有很好地平衡。”

  在一片质疑声中,教育+AI却正成 为未来教育的趋势。前瞻产 业研究院报告显示,2023年,“智慧教育”市场规 模有望突破万亿。作为AI领域目 前最成熟的技术,人脸识 别正深入教育行业,在刷脸签到、学员身份查询、校园、课堂检 测等诸多场景应用。

  一个绕不开的疑问是:人脸识 别在校园里使用的边界到底是什么?

  在储朝晖看来,人脸识 别技术在校园唯一适合的场景就是安防,用于识别非学校人员,保护学生安全,其余场景都用不上。“技术对 于教学只能是锦上添花,不能替 代教与学的位置。”储朝晖对《中国新闻周刊》说。

  教育部 已经就中国药科大学的新闻作出了回应。科学技 术司司长雷朝滋在接受澎湃新闻采访时表示,“(对于人 脸识别技术应用)我们要 加以限制和管理。现在我 们希望学校非常慎重地使用这些技术软件。”他认为,人脸识别进校园,既有数 据安全也有个人隐私问题。对于学 生个人信息要非常谨慎,能不采集就不采。能少采集就少采集,尤其是 涉及个人生物信息。

  教育部在近日也告诉《中国新闻周刊》,目前教 育部正在针对人脸识别技术制定相关管理文件。

无人驾驶

  2018年1月10日,比亚迪 和华为公司联合发布“云轨”无人驾驶系统。“云轨”实现了 全自动无人驾驶运行,并具有人脸识别、断电无人驾驶、自动诊断等多种功能。图/新华

  蒙眼狂奔的行业

  在中国 药科大学引发风波的同时,以人脸 识别起家的旷视科技也被推向了风口浪尖。

  9月初,旷视科技“智慧课堂解决方案”的视频在网上流传。视频中,公司运 用人脸识别技术,学生的脸被方框圈出,旁边显示“专注度33%,表情分析结果:厌恶”“趴桌子0次,玩手机0次,睡觉0次,听讲6次,阅读8次,举手6次……”

  这样先进的“科技”,让很多人不寒而栗。不过,据核实,中国药 科大学使用的并非旷视科技的技术,但是这 个视频却成了人脸识别监控学生状态最形象的注解。

  旷视科 技很快作出官方回应,称网上 出现的课堂行为分析图片,只是技 术场景化概念演示。旷视在 教育领域的产品专注于保护孩子在校园的安全,其列举 的方案内容主要是在出入校门的身份识别。这样的解释,却很难自圆其说。

  陷入争议和风波,对刚刚申请IPO的旷视来说,不是一个好兆头。8月25日,旷视科 技在港交所提交IPO招股文件,一旦成功IPO,旷视科技将是AI上市第一股。

  作为AI明星创业公司,旷视一路高歌猛进,正代表 了国内人脸识别产业的发展速度。以人脸 识别发家的商汤、旷视、依图、云从四大计算机视觉“四小龙”,一直是资本的宠儿,也是人 工智能公司中的“网红”。IDC(互联网数据中心)统计,2017年CV“四小龙”合计占 据计算机视觉应用市场69.4%的市场份额。

  人脸识 别所属的计算机视觉技术,是无人驾驶、VR/AR、医疗检 测等应用背后的基础技术之一。在深度 学习算法驱动下,计算机 视觉技术在近几年取得了突破性的进展。众多巨 头和创业公司纷纷涌入,人脸识别成为AI最热门的赛道之一。

  国金证 券行业研报提到,计算机 视觉是最具商业化价值的赛道,全球40%的AI企业都集中在该领域。应用方向上,国内以安防、金融和互联网为主,国外以消费、机器人 和智能驾驶为主。

  在所有 计算机视觉创业公司中,人脸识 别的公司数量最多,技术成熟度也比较高。目前,中国人 脸识别精确度已经超过人眼。前瞻产 业研究院的数据显示,2016年,我国人 脸识别行业市场规模约为17.25亿元,同比增长27.97%。

  “四小龙”基本都 靠人脸识别技术起家,不过,这些以 单点技术起家的CV(计算机视觉)公司正努力摆脱“CV”标签,从最初 的算法提供商转变成平台或者服务商。旷视科 技品牌市场团队副总裁谢忆楠曾对《中国新闻周刊》表示,大家跑 马圈地的阶段结束,证明算 法是否世界第一不重要了,目前进 入到了证明商业价值的阶段,要看技 术给行业能带来什么改变。

  旷视在 成立之初主要推出Face++人脸识别开放平台,如今,其官网则强调自己是“智能物 联网方案提供专家”,业务涉及安防、金融、零售等领域。商汤重点发力金融、安防、智能驾驶、移动互联网、医疗和教育等行业,云从将金融、安防、风控、交通、商业作 为重点探索场景,依图也聚焦安防、医疗和金融、零售等行业。

  从头部 公司探索的应用场景看来,计算机 视觉的应用仍然暴露出明显的问题:应用领域重合,落地产品同质化,竞争异常激烈。

  不少业 内人士都注意到,随着人 脸识别技术应用进入“井喷期”,“挂羊头卖狗肉”的产品不少,存在较大的产业泡沫。以最常见的“考勤机”为例,价值数 百元至上万元不等,一些畅销的“千元机”,只要脸 部采集的数据能吻合六成以上,便能认定是同一人。市场良莠不齐,很多打着“人工智能”旗号的 人脸识别技术真假难辨。

  国金证 券报告提到了另一个行业痛点:计算机 视觉技术研发周期长、盈利困难。除安防、金融等少数场景,大多数 领域还找不到清昕的商业模式。

  旷视科 技一直处于亏损状态,根据其招股书显示,2016年至2019年上半年,旷视科技分别亏损3.43亿元、7.59亿元,及33.51亿元和52亿元。不过旷视科技回应,大幅亏 损主要是由于上市引发的优先股的公允价值变动。

  旷视招股书显示,旷视成立8年来,共融资13.51亿人民币,业内预 计旷视的估值会在40亿美元左右。而另一 家独角兽商汤则是“四小龙之首”,其联合 创始人徐立近日证实,商汤今年的估值超过75亿美元。线性资 本创始人王淮曾对《中国新闻周刊》介绍,“如果仅 仅是做人脸识别撑不起这么高的估值,这些公 司必然要去拓展其他业务,才能匹 配这样的高估值。”

  人脸识别公司,正在不 断地尝试打破更多边界,急于向 投资人证明自己的估值。人脸识 别进课堂的争议,正是在 这个大背景下发生的。一位行 业人士在接受虎嗅网采访时坦言,作为一家将要IPO,但营收并不好看、还存在 亏损的人脸识别技术公司之一,业绩压 力也让他们想寻找各个途径实现技术变现,对于一 些产品设计的思考可能欠妥当。

人脸识别

  5月7日,在福州 举行的第二届数字中国建设成果展览会上,观众了 解体验人脸识别技术。图/视觉中国

  刷脸无处不在

  在产业 前景和资本助推下,人脸识 别正在成为无法阻挡的趋势。

  前瞻产 业研究院报告显示,随着国 内智慧城市的深入发展,城市监 控的高清化进一步普及,摄像头 数量大规模增长,人脸识 别在数据采集上的阻碍大大减小,提升了 人脸识别的质量与应用领域。预计未来5年人脸 识别市场规模将保持年均25%的增速,2022年市场规模将达到约67亿元。

  越来越多高校、医院、社区、工业园区、景区、机场、火车站,都在推广“刷脸”通行。清华大 学新闻学院教授沈阳曾对媒体提到,中国人 平均每天要暴露在各种摄像头下超过500次。

  2017年5月,上海开始试点“电子警察”抓拍行人闯红灯设备。一旦监 测到有行人闯红灯,设备就 会对闯红灯行为进行完整摄录,并对该 行人进行连续抓拍进行人脸识别,随即在 周边的公交站点显示屏上进行公告。这项技术目前在深圳、天津、太原、济南等 多个城市都已经展开使用。

  各种应用场景“脑洞大开”,2017年,北京天坛公园在3座公厕中安装了6台人脸识别厕纸机,以此杜 绝偷厕纸的行为。

  在网约车行业,基于人 脸识别的驾驶员身份验证,也开始普遍应用。比如,美团打 车的新注册驾驶员,在首次接单前、更换手 机设备或活跃接单驾驶员都会触发App端人脸识别,通过技 术比对确认实际运营驾驶员与平台注册信息及公安部门登记信息是否一致。人脸识 别未通过的驾驶员将不能接单,需重新提交信息。

  而让更多人“惊喜”的是,人脸识 别在抓获逃犯方面,屡建奇功。有网友统计,自2018年以来,“歌神”张学友 在全国各地的巡回演唱会中,警方依 靠人脸识别技术,抓获了几十名逃犯。

  人脸识 别在社交应用软件中也无孔不入。8月底,国内一个AI换脸App“ZAO”在朋友圈刷屏,仅需一张照片,用户就 可以换脸成为热门剧作里的角色。其实,此类社 交性的应用早就无处不在,美颜相机、照片换脸,背后皆 是人脸识别技术在支持。

  但对这 项技术安全隐患的担忧,从来没有停歇。人脸和 其他生物特征数据(如指纹)之间的 一个巨大区别是,它们可 以远距离起作用。智能硬件、摄像头 随时随地采集个人影像资料,长时间、大规模 地积累用户数据,而不被察觉。

  除了被强制收集,这些人脸信息的存储,同样存在安全隐患。今年2月,GDI基金会 荷兰安全研究员Victor Gevers在推特上爆料,中国深 网视界科技有限公司(SenseNets)发生了 大规模数据泄露事件,称这家公司掌握的250多万人的个人信息,其中包含身份证号码、地址、生日、通行证、雇主,以及其过去24小时内 路过摄像头的位置,可供任何人访问。

  人脸识 别技术本身也存在很多漏洞。在GeekPwn2017国际安全极客大赛上,毕业于 浙江大学计算机专业的90后女选手“tyy”仅用时 两分半钟就破解了人脸识别,把设备 中存储的评委人脸换成了自己的脸,这也意 味着可以用任意人脸来“蒙骗”人脸识别系统,打开门禁。

  “目前,对人们 生物特征的保护,例如虹膜、人脸、指纹等的保护,都没有 被写进现有法律,信息保护的责任主体、责任边界,如何使用、处理和销毁信息,法律都未具体规定。”中国政 法大学传播法研究中心副主任朱巍告诉《中国新闻周刊》,在法律脱节的当下,商业伦理要有约束力,“人脸识 别公司作为技术源头以及获益者,必须让 用户有获知风险的知情权。”

  技术发 展的伦理和法律边界

  不仅在中国,当前全 球很多国家都笼罩着“被人脸识别监控”的忧虑。

  近日,微软删 除了其最大的人脸识别数据库MS Celeb,英国《金融时报》报道,数据库 中采集的很多图像的主人并没有授权这一行为,MS Celeb 数据库通过“知识共享”许可证 来抓取和搜索图像,这引发一些人的反对。

  美国的 一些地方开始出台禁令,对人脸识别说不。今年5月14日,美国高 新技术产业聚集的旧金山通过一条禁令,决定该 市所有政府部门,包括该 市交通管理局和执法部门,都禁止 使用这个新技术。随后,马萨诸 塞州的萨默维尔和加州的奥克兰相继出台人脸识别禁令。

  欧洲对 人脸识别的使用更为谨慎。2018年5月,欧盟实 施通用数据保护条例(简称“GDPR”),规定违 规收集个人信息(其中包含指纹、人脸识别、视网膜扫描、线上定位资料等)、没有保 障数据安全的互联网公司,最高可罚款2000万欧元 或全球营业额的4%,被称为“史上最严”条例。

  近日,瑞典一 所高中因使用了人脸识别系统记录学生的出勤率,经过调 查后被认定学校对学生个人信息处理不符合“GDPR”的规定,收到了第一张基于“GDPR”的罚单,金额为20万瑞典克朗(约合14.5万人民币)。

  美国国 家标准与技术研究院(NIST)2018年全球 人脸识别算法测试最新结果中,2018年共有全球39家企业 和机构参与本次竞赛,前五名 算法被中国公司包揽。

  山世光认为,中国人 脸识别技术和产业的发展,得益于 互联网上大量的数据,比如网 民很乐于在互联网上发布自己的照片,加上国内外政界、娱乐界 公众人物的照片,科技公 司都可以拿来用作训练人脸识别的能力,这在法 律上也处于灰色地带。

  “这些数 据采集后如何保存、传输,传给谁,怎么用,谁能看得到,谁能把数据考走,能否放在网络上等等,都是纯粹的法律问题。”山世光对《中国新闻周刊》说。

  作为技术研发者,山世光 内心的感受很复杂。在他看来,一方面,中国的 人脸识别技术和应用均在全球领先,如果完 全追随美国和欧洲对数据和隐私的保护,对人脸 识别发展会产生很大的阻碍。

  但他承认,人脸识 别技术带来的隐私和安全问题,已经到 了必须正视的时候,“要在隐私、安全和 便捷三者之间找到恰当的平衡,允许技 术适度向前发展,同时保护公民隐私。”

 


关于迅为 | 联系我们 | 产品中心 | 公司历程 | 公司风采 | 工程案例 | 安防知识 | 网站地图
专业提供珠三角地区监控系统监控安装工程监控设备器材门禁安装防盗报警工程网络机房建设公共广播系统等业务
广州迅 为安防版权所有;本网所 有资讯内容未经书面同意不得转载。Copyright(c) 2000-2013. All rights reserved. icp备案号: 粤ICP备11108350号-2 号
联系地址:广州市 番禺市桥工业路37号 公司电话:020-22861291移动电话:18927550992 QQ:465739160 访问量:2731364   

友情链接:    欢乐棋牌---首页_欢迎您   开源棋牌app下载_安全棋牌   三多棋牌游戏平台下载     辰龙游戏_首页