
案情
家住杭州的郭先生是杭州野生动物世界的年卡用户。每次入园,他需要在闸机上刷年卡,同时验证指纹。这种入园方式,自今年4月花费1360元办理了年卡以来,他已经经历过5次。
今年10月,一条短信带来了改变。10月17日,郭先生收到动物世界发来的消息,“园区年卡系统已升级为人脸识别入园,原指纹识别已取消,即日起,未注册人脸识别的用户将无法正常入园。”
郭先生的工作与法律相关,他敏感地察觉到,自己的权利或许受到了损害。他认为,人脸识别收集的面部特征信息属于个人敏感信息,一旦泄露、非法提供或者滥用将极易危害人身和财产安全。而杭州野生动物世界在未经其同意的情况下,通过升级年卡系统强制收集个人生物识别信息,违反了《消费者权益保护法》等法律的相关规定。
随后,郭先生到动物世界和工作人员协商,要求退还年卡费用。协商无果后,他将动物世界诉至法院。2019年11月1日,杭州市富阳区人民法院正式受理此案。
此案被称为国内“人脸识别第一案”,引发了舆论关于技术与安全的讨论。
人脸识别具备一定技术优势
11月5日上午10点,一位女士带着孩子来到动物世界,检票口闸机处有两个通道,各有一台人脸识别设备,扫描不到5秒,闸口打开,这位女士和孩子顺利入园。
在此之前,她刚刚在自助购票机上购买了年卡,随后到年卡中心,对着摄像头注册人脸信息,激活年卡。面对新京报记者的询问,这位女士表示,“很方便”。
人脸识别入园系统是动物世界今年7月份启用的,在此之前,入园需要同时验证年卡和指纹。10月5日,动物世界品牌经理袁女士表示,他们曾到其他景区考察,综合考虑了成本和便捷度后,才决定针对年卡用户启用人脸识别系统。
“以前指纹和年卡同时核验,效率比较低,且存在指纹识别不准确的情况。”袁女士说,有年卡用户反映,可能吃个螃蟹手指头划破了,下次来就进不去,要去年卡中心重新录指纹,很麻烦。另一方面,使用指纹识别系统时,用户必须要同时带上年卡,有人的卡忘带或者丢了就要重新补卡,补卡会产生20元费用,“这也会给用户造成一定的经济损失。”
而启用了人脸识别系统后,袁女士表示,“很多用户都说还是很方便的,效率快很多,准确率更高。”
不过,某人工智能科技企业高级品牌经理傅小龙看来,人脸识别和指纹识别在效率上只有零点几秒的差异,但人脸识别存在“非接触”和“无感”的优势。
“指纹需要接触,有人有卫生考虑,人脸识别用户体验感更好,”傅小龙说,“另外有少数人因天生原因,确实是识别不出指纹的。”
其实不难发现,动物世界的人脸识别也无法做到完全精准。10月5日上午,一位女士在人脸识别设备前卡住了。她有点尴尬地说,之前注册人脸信息时是素颜,但当天来游园化了妆。
对此,河南大学计算机与信息工程学院教授张重生指出,年卡用户办理年卡时将照片录入系统,刷脸进景区时,摄像头捕捉到脸部图像后,传送回服务器上,在已经注册的人脸数据库中进行比对,返回信息。对于上面这位女士出现的情况,张重生表示,有可能是因为此人工识别系统算法没有见过足够多的化妆后的数据。
存个人信息泄露风险
面对郭先生的质疑,动物世界工作人员曾表示,“手机号、姓名、指纹信息都提供了,现在不就是刷个脸吗?”
这让郭兵难以接受,“因为人脸识别可能损害是最大的,可能造成终身损害。”他担心,“人脸信息一旦被泄露或者被非法获取了,或者一些工作人员为了不正当的目的,把这些信息泄露了,怎么控制?”
傅小龙指出,动物世界是否会发生数据泄露,取决于采用了什么样的技术方案,如果人脸数据储存在动物园的服务器上,那么的确有可能发生泄露,但景区的数据也有可能“只比对,不存储。”
据傅小龙介绍,即便发生了数据泄露,如果园区对数据进行了脱敏,非法获取了这些信息的人便无法追溯到游客的真实信息,“不知道是男是女,是哪位游客”,这与实施公司的资质能力有关。
11月5日,记者向动物世界品牌经理袁女士询问园区的人脸识别系统是由哪家公司提供技术支持,公司资质如何,是否进行数据储存与脱敏。袁女士表示,这属于商业机密,不方便回答。但袁女士说,“我们和技术公司也不是第一次合作了,肯定是综合考量过的。”
人脸识别进入社会各个角落,监管还需跟进
首先,我们承认,这的确是一项科学又便民的好技术,但并不意味着它百利而无一害。
每隔一段时间,人脸识别总会以一种“负面形象”进入大众视野,被人们探讨,不久前轰动一时的“ZAO”换脸APP风波,8元3000张人脸在网上公开售卖等,不断的挑战着大众的底线。
在过去几千年的熟人社会里,脸是人与人建立关系的根本,我们凭着一张脸建立亲情、友情、爱情的关系,也凭着一张脸确立信任与合作。今天,这张脸依旧保持这些功能,但又有了新的意义。当我们的脸和个人银行账户、个人身份信息绑定在一起时,脸已经不再是传统意义的脸了,其本身有巨大的经济价值和信息价值,这要求我们必须谨慎对待自己的脸、指纹等个人生物信息。
正如在起诉书中所指出的,郭先生引用了《消费者权益保护法》第29条规定,“经营者收集、使用消费者个人信息,应当遵循合法、正当、必要的原则,明示收集、使用信息的目的、方式和范围,并经消费者同意。”
在他看来,动物世界并非必须要采用人脸识别技术,理论上来讲,“必要”一般指的是要达到某一个目的,采取的方式对权益受影响的这些人(消费者)的损害应该最小,“现在采取的方式显然对消费者有非常大的权益侵害可能性”。
对此,君合律师事务所刘佳迪律师分析,2018年5月开始实施的全国信息安全标准化技术委员会制定的《信息安全技术个人信息安全规范》中提到,个人信息控制者在开展个人信息处理活动时,应遵循最少够用原则,“就是只要收集的信息,能够足以使得提供服务就即可,不需要去收集提供服务之外的过多的信息。”刘佳迪认为,动物世界通过原来的指纹识别方案即可保证游客入园,面部信息的收集未必是必要的。
对于动物世界收集面部信息的正当性,刘佳迪表示,我国法律目前还没有严格限定收集个人信息的机构。
“到底哪些行业或者哪些类别的机构才有权利去收集个人生物信息,在法律层面还是空白,但不排除监管机构目前也关注到目前有滥用的这种情形,从而在立法层面会采取更多的行动。”刘佳迪说。
在郭先生看来,法律不可避免具有滞后性,尤其是在互联网时代,新技术每时每刻都在不断推出,但应对新技术的法律不可能那么及时制定或者修改出来。他希望,此事通过法院判决,起到指引或者规范的作用。
实际上,要做到却很难。尤其是当AI这把火烧透了人脸识别这个狭小赛道时,先是行业外BAT等巨头携着资本、品牌力量顺势搅局;紧接着身处于这个行业的老兵也不甘示弱,纷纷“揭竿而起”,一场人脸识别登陆战就此拉开。
众多企业机构积极拥抱新技术,部分小区、学校、公司、景区等公共场所纷纷采用人脸识别、指纹识别等新技术,既方便管理,又能提高效率。只是,这些企业机构忽视了一个更为重要的问题:当自己手握海量个人信息时,能否保证这些信息不被泄露,不被盗用?
几乎所有人都知道,当一项技术令人担忧时,监管就必须有所行动,应尽快出台相关法律法规,对涉及个人生物信息的技术进行行业规范,对已使用相关技术的企业单位进行审核,该取缔的取缔,该整改的整改。还应加强监管和防范,比如制定相关准入规则,规范行业标准,以法律法规为准绳,规范此类技术的使用。只有这样,才能杜绝人们的个人生物信息被滥用,才能真正保护大众。
但就目前来看,情况并不乐观。
一方面,政策对隐私保护的力度还不足以震慑人脸识别的隐私泄露问题。
今年6月,全国信息安全标准化技术委员会发布了《信息技术 安全技术 生物特征识别信息的保护要求(征求意见稿)》,其中对于生物特征识别数据(biometric data)的定义为“生物特征样本、生物特征、生物特征模型、生物性质、原始描述数据的生物识别特征,或上述数据的聚合”,而“人脸”被列为可据以对个体进行识别的生理特征之一。然而,对于承载人脸图像的照片是否会被认定为个人敏感信息,我国目前尚未予以明确。
根据欧盟地区的数据保护法《通用数据保护条例》(“GDPR”)的规定,面部图像(facial image)构成特殊类型个人数据下的“生物识别数据”,进而相较于一般个人数据受制于更高的保护要求。根据其定义,“生物识别数据”是指经由特定技术处理,获取的有关自然人身体、生理或行为特征的个人数据,并且该个人数据能够识别或确认特定自然人。GDPR进一步指出,处理照片并不当然地被认为是处理生物识别数据,而仅在当通过特定技术方法对照片进行处理,使其能够识别或确认特定自然人时,才被视为构成生物识别数据。
因而一般而言,包含人脸图像的照片在性质上并非当然构成受到更高保护程度的生物识别信息/个人敏感信息,而是当经由特定技术处理后能够使其具有可识别个人身份的属性时,才会受制于更高的合规要求。
另一方面,企业对于隐私保护的重视程度不足,公众对于隐私保护的意识也有点姗姗来迟。
目前市场上兜售的人脸照片大多用于训练人脸识别模型。需要训练人脸识别模型的,是做人脸识别技术的科技公司。人脸识别是人工智能技术目前最活跃的应用领域之一,数据量越大,越有助于训练出更精准的识别技术。
数据量越大,保护隐私就成了更难解决的问题。更何况随着人脸识别技术应用进入“井喷期”,“挂羊头卖狗肉”的产品不少,存在较大的产业泡沫。以最常见的“考勤机”为例,价值数百元至上万元不等,一些畅销的“千元机”,只要脸部采集的数据能吻合六成以上,便能认定是同一人。市场良莠不齐,很多打着“人工智能”旗号的人脸识别技术真假难辨,趁火打劫。
数字联盟联合创始人刘晶晶提到:“一般来讲,上市公司一般是有完整的安全团队的,但有的企业虽然发展很快,但是安全和风控意识还是比较薄弱,可能公司的风控团队仅仅只有一两个人而已,甚至缺乏完整的设备、账号和人脸认证等安全机制。一个明显的趋势是不管是互联网巨头还是人工智能独角兽,都热衷于跑马圈地做大业务,对数据安全的投入却少之又少。这是当前信息泄露很重要的原因之一,一旦有人越轨,我们的信息就容易泄露。”
监管不到位,企业隐私保护重视程度不足,个人隐私保护意识尚在觉醒期,在这样的情形下,我们能想到的最好的办法就是自救——反其道而行之,既然你有办法“偷”我的信息,那我也有办法“骗”过你。
殊不知,却让大众担忧的情绪更甚。
警惕技术漏洞,安全是一场持久战
2018年,日本一家REAL-f公司制作出了一款3D面具。据路透社报道,这种面具是该公司的创始人Osamu Kitagawa花了两年时间研究出来的制作方案,材质是树脂和塑料,通过将高质量的人脸扫描图片制作,包含人脸皮肤的微小皱纹、血管的面具。
据悉该公司每年收到的订单约为100个左右,主要用于一些需要面部识别功能的产品测试中,比如有家日本汽车公司订购它的原因是用于检测司机何时点头。而对于消费电子行业,这种超逼真的面具同样具有意义,比如测试智能手机的人脸识别功能安全程度。
无独有偶,2019年12月12日,美国《财富》杂志报道,美国圣地亚哥的一家人工智能公司Kneron用高清3D面具和照片,在世界多地成功欺骗了人脸识别系统,其中包括中国的微信和支付宝。该团队还宣称,他们用同样的方式进入了中国的火车站。
随后支付宝和微信都及时做出了说明,支付宝表示目前国内并没有出现过这种情况,之前他们也想了解到更多的信息,奈何对方已将相关视频与新闻下架,没有太多的信息。
微信官方也表示没有出现过技术被盗的情况,采用各种技术,来阻止面具、视频、照片等方式瞒天过海。两家企业纷纷表示,如果出现类似的刷脸支付问题可以请求全额赔付。
这算是给大家吃了一颗定心丸,如果出现盗刷的情况,至少还有补救的方法。但是没人希望自己的资金成为别人眼中的猎物。
对此,网友也调侃:骗没骗过AI不知道,但是我觉得自己就好像装在套子里的人,哪里都有我的“脸”。
除了用3D面具外,有人还发现了人脸识别的一个bug,只要在脸上贴个符,人脸识别系统就休想偷我的脸,并且可以迁移到其他AI上,骗无止境。
当然,面部识别支付被攻破不应当成为普通用户产生焦虑的来源,更不能一口否定技术发展。只是这样的事件在发生之后的确能给相关技术研发人员提个醒,不断完善面部识别技术。但在这场反AI的骗局中,可能谁都不是最终赢家,最好的解决办法就是让技术不断消解大众的恐慌和担忧,那么如何在现有的技术手段下保护大众的隐私不被侵犯呢?雷锋网采访了几位业内专家聊了聊如何用技术消解大众的恐慌。
技术如何消解大众忧虑?
在缺乏技术精度等性能标准的情况下,如何保障用户授权被盗用?如何解决仿冒身份等问题?
芯盾时代副总裁杜旭认为:“验证精度需要依赖多种因素认证来判断,人脸只是验证的一个维度,从身份验证的技术上 来看,至少需要两个维度才能较为清晰的验证一个人的身份,这些维度包括与个人相关的个人所知、所持、所有的信息与行为信息。其中,所知包含随着年龄、生活阅历的增长而增长的知识, 涉及的验证手段是滑动验证码、图形验证码、挑战应答、数学知识等,也包括账号密码、短信密码等; 所持包括手机、U盾、蓝牙盾、门卡等物理设备;所有”即是人与生俱来的特征,如指纹、声纹、人脸、虹膜等;行为信息则是常在地点、常在时间、常在行为等。
值得注意的是,同一维度的双因素验证是不安全的,比如人脸和指纹,账号密码和短信验证码,只有交叉的两个维度的因素才能综合提高验证的安全性。”
眼神科技人工智能研究院院长江武明也表达了同样的看法,在他看来,技术的发展不单单将人脸的可识别性进行最大化发挥,更是不断深入地挖掘人脸背后的价值。通过人脸识别技术,人脸信息不仅可以用来准确地识别“我是谁”,同时可以用来比对“我是否是我”;甚至,通过结合大数据技术能够获知、预测“我是一个什么样的人”,而根本无需知道“我是谁”。
因此,从技术层面而言,人脸识别信息的使用可能带来更高的安全风险。相较于其他个人信息类型,人脸识别可以通过远距离与较为隐蔽的操作实现,人脸图像的收集更可能以被收集人无感知的方式进行,存在更大的技术滥用的潜在隐患。但是从单一认证技术出发,机器学习系统永远不可能做到像密码那样,真正的唯一。针对目前的现状,一般会想办法在整个认证的过程中,按照安全等级的需求,选择不同的组合认证方式。在不同的安全等级的需求下,平衡便捷性和安全性的天平,从而做出更合理的方案,比如通过多模态组合认证的方式,增加识别的安全等级,构建一套完整的生物识别安全体系等来保障安全,所以这种问题还是可解的。
除了用技术手段消解大众的恐慌外,让大众真正认识这项技术则是更为重要的一项工作,因为往往一项新技术出现时,大多数人都着力渲染的都是其会让我们的生活变得更加智能,却很少有人明确的表示这个技术是否安全。
对此,芯盾时代副总裁杜旭告诉雷锋网:“技术本身没有好坏,技术是中立的,但使用技术的人是有立场的。人脸识别技术的安全问题不在于该项技术本身,而是应用的问题。危险在于利用这项技术达到了不该达到的目的,实施了不该实施的行为。
人脸识别技术,归根结底是一种人像识别的算法,其追求的是越来越精准的识别技术,而不是识别环境,目前的造假都是在了解了算法之后的欺骗,实际上是一种有针对性的攻击,不应该算人脸技术应该防范的领域,这些攻击会随着人脸技术的更新消亡,当然也还会出现新的攻击,理论上来说都是对算法的完善 和攻击,所以安全问题和算法应该是两个维度,重要的是使用者应该如何使用。”
一位安全从业者也表示,“其实隐私被侵犯,主要是指线上服务和交易系统中对敏感数据采集、存储、使用以及共享等环节出现的问题。这与人脸识别以及其他生物识别技术无关,属于应用系统问题。除了精准度与防伪性更高,人脸识别跟指纹并没有本质区别,我们可以把它理解为一种升级版的钥匙。”
“在没有跟其他‘信息’做关联的情况下,本身并不会带来太多危害,但是假如同时能获取这个人的身份证、电话、具体消费出行信息以及行为踪迹,那么危害就很直接了。”
举个例子,假如你家也安装了人脸识别锁或指纹锁,综合以上信息进行更大规模的数据搜集和分析后,“专业人士”其实可以轻松踏遍你家里的每一个角落。
更有意思的是,即便有太多技术公司都在声称为保护用户的数据隐私使用了大量“独门技术秘笈”,但实际上我们始终无法对这些技术举措有一个直观且清晰的认识,更无法判断其成效究竟有几分。
甚至于从现实来看,他们对待数据的态度与自己口中的“愿景”是完全矛盾的。
这样看来,人脸识别与大众的这场隐私安全保卫战还将持续更长时间,但可以肯定的是,随着技术的不断进步,人脸识别的安全性将会不断提高,大众的隐私忧虑也会逐渐减弱。