2019年11月14日 星期四
刷脸的伦理与法律边界在哪里?
第19版:刷脸时代 2019-11-04

刷脸的伦理与法律边界在哪里?

吴雪

2017年9月26日,北京,考生经过人脸识别系统确认后进入考场。

2017年9月4日,沈阳,行人闯红灯人脸识别系统显示信息大屏亮相十字路口。

2019年4月6日,北京奥林匹克公园中心区,公厕内的人脸识别厕纸机

校园刷脸会否涉及学生隐私?小区监控的边界在哪里?刷脸失误带来的成本谁来承担?城市管理者怎样将技术用对地方,而又不越界公民的隐私底线?假如我的脸被“卖”了,难道我要去换一张脸吗?

记者|吴雪

AI换脸软件“ZAO”的走红,打开了人脸数据应用的潘多拉魔盒。

在北京中关村的一家咖啡馆里,刘嘉正在演示自己的创业项目。只见他上传一张用户照片,几秒内就可自动生成一份长达12页的“事业报告”,报告会对一个人的外形、性格、内在进行分析评价,诊断其职业和管理风格,多次试验后,准确度惊人。

“这绝对不是AI算命。”刘嘉反复向记者强调产品是基于基因学、心理学、医学等科学,并结合了AI和大数据等前沿技术。攀谈中,记者猜测刘嘉的目标很可能是——只需一张照片,就能洞悉你的一切。

惊奇,伴随着恐惧。刘嘉的项目只是人脸识别浪潮中的一朵小小浪花,但不得不承认一个事实,我们的人脸正在成为别人的一门生意。从17万条数据在网络商城公开售卖,到昙花一现的换脸游戏“ZAO”,再到刷脸时代的一路狂奔,人们在享受便捷红利的同时,也面临安全隐患和伦理道德的双重拷问。

“人家一扫你的脸就支付了,这不相当于一个行走的密码吗?”这位消费者“不敢刷脸”的担忧,正在成为大众拒绝刷脸的普遍理由,校园刷脸会否涉及学生隐私?小区监控的边界在哪里?刷脸失误带来的成本谁来承担?城市管理者怎样将技术用对地方,而又不越界公民的隐私底线?假如我的脸被“卖”了,难道我要去换一张脸吗?

这些问题,都值得探讨,或者给出一个合理的答案。

便捷背后的“乌龙事件”

你是谁?每一天,人们都需要无数次回答这个问题,向各种人、机器亮明身份。路遇警察临检,出示身份;出入境,护照必须傍身扫描,即便是人尽皆知的马化腾,如果手机设置了安全认证,每天一次次向手机证明“我就是我”,也是必要操作。

刷脸的出现,似乎解决了这一繁琐程序。四年前,马云在德国汉诺威参加通信和信息技术博览会时,现场用刷脸支付在淘宝上购买了一枚1948年的汉诺威纪念邮票,正式将刷脸技术推至台前,人们开始意识到,丢掉证件、手机、车票等身外物,凭着一张脸穿行世界,不再是天方夜谭。

位于松江大学城的上海对外经贸大学,一栋宿舍楼前,大三学生许娟正在进行刷脸开门,“我带着眼镜,也能识别得很清楚,不用进门前再翻包找一卡通了。”许娟说,从去年开始,学校率先采用了国际领先算法的“人脸识别”系统,在宿舍刷脸进出、在图书馆借阅图书,靠一张脸就能在校园里畅行无阻。

“除了出入宿舍和图书馆的监控,还可以帮助宿管阿姨统计学生的回寝时间、晚归次数等,提高了宿舍的安全性。”上海对外经贸大学信息中心副主任刘亮亮告诉《新民周刊》,刷脸系统的上线,确实提升了学校的管理效率,但也存在不足,比如学生的照片久远、像素较低,会影响刷脸识别率,但总体来说是小概率事件。

相比之下,失误率在城市管理中面临的挑战似乎更大。前不久,“丰巢快递柜刷脸漏洞”的话题冲上了微博热搜,浙江嘉兴一所小学四名小学生,拿着一张打印的家长头像,成功打开了小区门口的丰巢快递柜,取走了原本不属于他们的快递。结果证实,丰巢采用的人脸识别是一张2D平面图像,安全级别不够,极易破解。

电子抓拍也难免“乌龙”。一位长年跑福建到汕头线路的大货司机称,有一次,在家休假的他竟然收到了货车在其他省份的违法记录,事后虽证实是人脸识别的匹配有误,但也给他带来了不小的麻烦。“我不可能为了一二百元的罚款,再去交涉,太浪费时间,后来干脆就交了罚款。”

取件刷脸的潦草上线,大货司机吃的“哑巴亏”,难免让公众对刷脸的安全系数持怀疑态度。可怕的是,类似棘手的乌龙事件是不分地域的。曾有机构使用亚马逊公司的面部识别系统扫描了535名国会议员的面部照片,并与相关数据库中的2.5万张罪犯照片比对,结果28名议员被系统识别为罪犯。而“把普通人错认为罪犯”的高失误率,早在2017年的欧洲冠军联赛决赛上,就被媒体大肆报道过。

技术成熟度的质疑源于技术本身,社会伦理则需要其他学科知识来解决。当人脸作为认证信息对准镜头时,镜头不仅可能会“说谎”,还会带上“有色眼镜”,专业用语叫做算法歧视。多年以前,眼睛普遍比较小的美国亚裔们总是跑去消费者协会投诉,说自己根本没闭眼,但尼康相机的“眨眼提醒”总是提示他们拍照时眨眼了。

《Nature》也有文章曾指出,计算机视觉算法对一张印度新娘的照片只会贴上“表演艺术”和“礼服”两个标签,而谷歌的面部识别技术也一度总把黑人朋友标记为“猩猩”;美国麻省理工学院“媒体实验室”曾针对微软、IBM和中国旷视科技3家公司进行过测试,结果显示,在1270张图片中判断人物性别,对肤色较浅男性的判断错误率低于1%,但对肤色较深女性的判断错误率从21%到35%不等。

有学者指出,算法歧视主要是数据中地域多样性的缺乏导致的,但不可否认,一旦人脸识别技术应用到司法、执法等关键领域,技术问题所带来的影响绝不只是啼笑皆非的“乌龙事件”那么简单。去年,支付宝推出刷脸支付产品“蜻蜓”,以“现金返还奖励、安装成本降低”作为诚意邀请,仍然遭遇中小商户的摇头拒绝,刷脸的推广实际上并不顺利。

“上帝视角”的边界在哪

目前看来,失误率带来的尴尬,似乎不是技术运用者最担心的问题。对于被监控者来说,在被错误判定为违法者或缺勤打卡人时,最多付出时间和金钱成本,而这些相较于刷脸工具的便捷性,大多数人的态度是可以容忍。

因此,在人工智能不断渗透人类生活的今天,人脸识别的边界就显得特别重要。“上帝视角还是凡人视角”的辩题,业界早已争论多年。大门口考勤、医务室治疗、演唱会抓捕逃犯甚至科学家通过识别情绪传感器作研究,好处自然不必说。但不止一所高校对于人脸识别进课堂有所保留,也是事实。

“只要你进教室那一刻起,系统每隔30秒会对你全程进行扫描。你低头多长时间,玩手机几次,发呆几次,阅读几次,趴桌子几次,全都能感知到,若不专注行为达到一定分值,系统就会向显示屏推送提醒。”关于多家高校启动的学情分析课堂,中国农业大学本科生院综合处处长韦笑表达了自己的顾虑,他认为,学生的抬头率并不能精准判断学生的能力和效率,而且教室作为特殊的公共场所,监控下的教师和学生的行为,很可能都不是真实状态。

习惯在课堂上走神的大三学生聪聪说,这种强迫式的“盯梢”,并不能帮自己自律,反而会有些逆反情绪。“我一般夜晚学习效率高,但从数据判定看我就是不努力学习的那个人,会不会太偏见了。”一所公立师范学校的申姓老师也表示,通过监控,老师确实更了解学生,工作效率也提高了,但教师的行为暴露在天眼之下,导致一些课件伪装、业绩作假的行为出现,同样会阻碍真实教学的发生。

而一些校园启动的“智慧德育”系统,更易引发伦理争议。设想一个场景,以往老师看到做好事或调皮捣蛋的孩子,如果不是本班学生,根本不知道是谁。现在好了,只要掏出手机,对准学生一咔嚓,屏幕立即跳出他的信息,父母职位、孩子年龄、家庭情况摸得门清儿,结合不同学生家庭信息,老师是否会使用不同处理方式,不好说,但可以肯定,传统的有教无类,学生平等,在类似情形下被“刷脸神器”撬动了。

中国教育科学研究院研究员储朝晖认为,在人工智能的包办下,教育链条或只剩下智能,“人工”慢慢在减少,但技术对于教学只能是锦上添花,并不能替代教与学的位置。“水至清则无鱼,这个简单的道理谁都懂,如果人脸识别没用对地方,很可能得到一个‘留得住学生的人,留不住学生的心’的结果。”

什么时候该刷脸,刷脸的伦理界限在哪里,关于边界的社会矛盾对冲也越发凸显。一位刷脸系统代理商刘闯告诉记者,曾经有一家健身房找上他们,说为了防止实体钥匙丢失,希望在更衣室储物柜上加入“刷脸”系统,他的第一反应是“拒绝”。“你在更衣室的柜子上使用摄像头,本身就是一个非常大的错误,这种涉及公众隐私的场所,应该坚决不允许人脸识别。”

那么,换言之,在公共场所使用人脸识别就变得合理正当了吗?未必。法国巴黎的一家书店,通过分析监控视频,仔细观察购物者的动作,店员会上前做出“心领神会”的服务,但在机器面前,每一个强忍住的哈欠,每一丝恼怒的表情都会被察觉,人际关系可能变得更加理性,也似乎会更加机械而冷漠,试问,这样的上帝视角真的好吗?

此前,公众就对谷歌曾研发的一款装在智能手机上的街景软件,表达过强烈不满,原因是当这个软件扫描街景时,也会对路过的行人进行面部信息采集,最终谷歌妥协并对人脸信息打马赛克。只不过“上帝视角”的按钮一旦触发,谁又会保证不会有“第二个谷歌”出现,偷偷在你走路时,坐在地铁时,不知不觉将你的人脸信息搜集走,而你却毫无察觉。

在人脸识别的圈子,边界至今仍是一个探不到底的“规则黑洞”。

人脸被卖的风险 很可怕

那么,问题来了,是不是本人只要不做违法违规的坏事,信息被采集也无所谓。正如苹果公司CEO库克曾说过的话,“技术本身没有好与坏,一切由我们人来决定”。

在人脸识别快速发展的四年,安全隐患与伦理后果,并不是危言耸听。今年9月,有媒体报道,网上有商家公开兜售17万条“人脸数据”,涵盖2000人的肖像,每个人约有50到100张照片,而被兜售者并不知情。

据兜售的商家称,自己平时从事人工智能相关工作,收集人脸数据发售,不过就是“挣个饭钱”而已,在其售卖的人脸样本中,一部分是从搜索引擎上抓取的,另一部分来自境外一家软件公司的数据库等。早在2017年,前美国中央情报局技术分析员斯诺登就曾预言,随着手机解锁的普遍应用,人脸识别终将面临被泄露和被滥用的风险。

以昙花一现的换脸游戏“ZAO”为例,披着“隐形条款”公然搜集用户人脸信息,它降低了AI换脸的使用门槛,但同样可能被爱炫富的微商们用于“和明星总统握手”的虚假宣传,如果马云“亲自代言”的视频很奏效,“马云语录”的鸡血开场白取代也是分分钟的事。

早在2017年底,国外一位ID为“deepfakes”的网友,就利用换脸技术将色情作品中的主角换成明星脸,并上传到著名的色情影片分享网站Pornhub上,试想一下,如果有人把我们换脸成犯罪事件主角、被绑架的人质……或者伪装成我们进行视频通话,对亲友进行诈骗,后果不堪设想。

当然,更可怕的是“有人伪装你的脸”,福布斯记者Thomas Brewster曾用合成的一张3D头像,打印出一个3D头型,并成功解锁了4款手机,人脸识别被成功骗过,足以证明伪装门槛到底有多低。记者用淘宝搜索“假脸面皮”,发现以二三十块的极低价格,即可轻松买到周润发、刘德华、周星驰等明星的乳胶面具,有商家也可接受定制。

“ZAO”下架后的第一时间,支付宝曾站出来回应,“不管换脸软件多逼真,都无法突破刷脸支付。”但在大批用户已开通“刷脸支付”的当下,人们难免战战兢兢。中国图像图形学学会可视化与可视分析专委会秘书长、天津大学软件工程专业教授张加万表示,人脸识别技术并没有人们想象的那么安全,即使人脸识别中的活体检测技术,也并非铜墙铁壁般牢靠,“如果人脸数据和个人信息打通,将彻底迎来透明时代,整个面部识别也就形同虚设了”。

随着低成本、快速、大量地记录,存储和分析人脸图像的能力终有一天会使隐私、公平和信任等发生根本性的改变。今年5月,巧达科技就利用大量代理IP地址、伪造设备标识等技术手段“打通”数据,非法窃取用户信息,36名嫌疑人连续两年获利5.3亿元。办案民警介绍,爬虫工程师将搜集来的2.2亿份简历、10亿份通讯录,重新合并、排列,结合社会、组织、家庭关系,“再比对”后形成完整的简历和用户画像。

张加万表示,由于面部信息是具有唯一性特征的生物信息,银行卡信息泄露还可以更换银行卡,人脸信息泄露后将是终身泄露。未来,非常可能出现的场景是:当我们走进一家商店,店员立刻就能知晓关于我们的一切:身份、职业、收入、偏好、性格……而当这一天来临时,每个人都将处于“裸奔”状态,甚至戴上面具也无济于事,因为摄像头还能识别你的体型甚至步态。

技术跑在了监管前面

坦白讲,我们除非与世隔绝,否则无法完全拒绝人脸识别。

以换脸游戏“ZAO”为例,技术是成熟的,之所以不能被推广,就是因为还有很多法律、伦理问题没有讨论清楚。美国学术界、政府机构和初创企业试图从技术上设置“安全壁垒”,比如推出自己的图像、视频验证、标记技术,期望通过在你拍摄照片或视频的时候自动添加时间、位置信息等方式,对抗AI换脸视频、图片带来的威胁,但显然无法解决根本矛盾。

上海申蕴律师事务所陆斌律师向《新民周刊》表示,目前国家还没有一部针对“人脸识别”“刷脸”问题的专门法律,对于网络运营商采集的公民“人脸识别”,只能援引《民法总则》《侵权责任法》《网络安全法》等法律来进行保障。关于个人敏感信息、生物信息等还没有明确的法律界定,建议尽快通过立法予以明确。

当技术跑在了监管前面,刷脸就该被禁用吗?在陆斌看来,如果法律跟不上就限制科技发展,是“因噎废食”的做法,不明智也不可取,总体来说,“刷脸”“二维码”“指纹识别”等新技术的发展带给社会的便利显然是利大于弊的。综合目前世界多国的做法,立法强化对人脸信息搜集的应用场景约束已经开始。今年7月,马萨诸塞州的萨默维尔市成为美国第二个禁止人脸识别的城市,但只是禁止了公共场所的使用权,并未涉及商业范畴。

“人脸识别技术在商业上的使用无法一刀切禁止”,对外经贸大学数字经济与法律创新研究中心执行主任许可认为,从理论上讲,所有的数据都有泄露的可能。对于个人而言,需要在便利性和个人信息保护上权衡和取舍,对于珍视个人信息胜于便利的人,最好完全不使用任何要求进行人脸识别的App,通过市场机制倒逼企业做好隐私保护。

至于人们担心的金融支付安全,央行科技司司长李伟在9月20日的金融网络安全论坛上建议,一方面,不要简单地将人脸特征作为唯一的交易验证因素,须根据风险等级结合用户口令等其他因素进行多因素认证;另一方面,金融机构在相关交易时,人脸数据采集应提前告知用户信息使用的方式,明确获得客户授权。

不过有专家也提醒,现在对于人脸数据的科普还远远不能让人们充分意识到其隐藏的风险,“很多客户根本看不懂那些授权文件里的内容代表哪些具体内涵,但为了使用那些服务,还是同意了授权。”因此,在技术仍存在风险的时候,广泛应用于各种商业领域,应当慎重。

中国人民大学法学院教授刘俊海表示:“针对刷脸支付,监管者应当与时俱进,尽快出台相应的法律法规,自觉消除监管的漏洞,用技术来强化监管。监管者也应当尽快出台相关的生物特征有关的信息采集的法律规则和技术标准。关于(消费者)所处的位置、活动轨迹、浏览的习惯等等,都应当纳入法制的监管轨道上来。”

除此之外,刘俊海认为:企业也应当自律,推广刷脸技术时换位思考,解决痛点,能够证明自己采集的消费者的生物信息等敏感信息,是合法、透明、安全的。今年5月,我们关于数据的立法出台,明确规定网络运营方在收集个人信息时,必须明确经过用户同意,禁止以默认授权、功能捆绑等形式强迫、误导。欧洲监管机构在2018年5月生效的《通用数据保护条例》,也规定将包括“脸纹”在内的生物信息属于其所有者,使用这些信息需要征得本人同意,值得借鉴。

教育部科学技术司司长雷朝滋接受媒体采访时也曾发出提醒,建议学校慎重使用这些技术软件,关于学生的个人信息,能不采集就不采集,能少采集就少采集。这些警告同样适用于城市管理、商业运作甚至个人生活,关键在于,雷朝滋的提醒是否能够引起人们的足够重视?“刷脸”时代里,公众能否对自己的安全负责?

有一句话说科技是为懒人而生,越懒越方便越好。据一位智慧社区项目代理商回忆,他们在做智慧社区项目时,有些小区用户希望使用人脸识别系统的同时,保留原来的磁扣门禁等方式,他们照做了,“但体验过刷脸的人基本都把磁扣方式忘掉了,因为他尝到了便捷的甜头”。

放大

缩小

上一版

下一版

下载

读报纸首页