打开

他是第一个因人脸识别错误被关监狱的人,证据仅仅是1张驾照照片

subtitle
果壳 2021-04-16 04:13

来源丨量子位(ID:QbitAI)

作者丨萧箫

只因和小偷长得像,就被人脸识别“抓”进监狱关了30个小时。

打开网易新闻 查看更多图片

而人脸识别系统的依据,仅仅是一张驾照照片。

这是发生在2019年的事情,被错误逮捕的对象,是一位名叫Robert Williams的黑人男子,在交了1000美元后,他才被保释出去。

据《连线》(Wired)杂志报道称,这可能是同类案件中已知的第一个案例

而直到现在,这起案件才正式向联邦提起诉讼

人脸识别错误第一案

事情得从三年前说起。

2018年,一个小偷在一家Shinola零售店偷了几块名表,被店里的监控拍了下来。

监控拍到的图像非常模糊,那名小偷全程没有抬头看监控。

在这种情况下,警方用了人脸识别技术,并仅凭借一张驾照照片锁定了42岁的Robert Williams。

2019年,警方拿着他的照片询问店中的一名保安,后者确定是他,但其实这名保安并没有目击现场事发。

在被逮捕时,Robert Williams刚下班回家,就在自己的妻女面前被警方带走,期间根本没问他是否有不在场证明。

随后,他在监狱里肮脏的水泥地板上躺了30个小时。

直到缴纳1000美元的保释金,Robert Williams才被放出来。

现在,美国公民自由联盟(ACLU)、密歇根大学法学院,代表Robert Williams正式提起联邦诉讼。

从诉讼文件来看,这是在美国第一起因人脸识别错误被非法逮捕的案件。

但Robert Williams想要的,不只是赔偿损失。

他希望这起案件能修改相关政策,以制止人脸识别技术的滥用。

Robert Williams本人表示:

仅仅因为机器算法的问题,就在妻女面前被逮捕,希望这种事情不要再发生在其他人身上。

相似案件不止一起

但事实上,人脸识别“抓”错人的事情,在这之后又发生了好几起。

第二起因人脸识别导致的错误逮捕,同样是一名黑人男子Michael Oliver,他在去年起诉了警察局。

而据NJ Advance Media报道,新泽西州也发生过同样的事情,警方在用人脸识别逮捕一位名叫Nijeer Parks的黑人男子后,将他在监狱关了10天,才发现抓错了人。

在此期间,警方没有验指纹、没有测DNA,仅仅凭借人脸识别系统就锁定了嫌疑人。

目前,Nijeer Parks也仍然在上诉中,新泽西州也已经禁止使用这种软件。

但据了解,数以千计的执法机构已经在采用人脸识别的技术,查找罪犯。

人脸识别系统,却往往并不那么可靠。

2017年的欧冠比赛上,英国警方采用了人脸识别系统,总共发出2470次警报,错误率高达92%。

而美国警方采用的人脸识别软件,通常只依赖于数十亿张社交媒体照片来识别犯罪嫌疑人。

从技术上来说,人们无法从人脸识别中确定某个嫌疑人的唯一性。

该不该用人脸识别?

人脸识别技术,已经被美国警方采用了二十多年。

但来自MIT和NIST的研究人员发现,这项技术对于白人男性的识别效果相对更好,这也和人脸识别数据集中的样本数量有关。

而其他人种,在这类数据集下训练出来的识别效果往往并不理想。

不止数据集。

人脸识别的另一个问题是,监控摄像头会压缩视频图像,导致用来区分嫌疑人的皮肤、静脉和痣等图案被去除、损坏或变形。

事实上,由于采集视频的光照条件不同,一些伪影可能会被误认为是面部特征(如痣)之一。

最重要的是,人脸识别所用的AI模型算法,可解释性非常差,缺乏支持法医意见的经验数据。

目前,微软、IBM和亚马逊等互联网巨头,已经保证不将人脸识别系统出售给警方。

但人脸识别技术本身,却处在了一个有点尴尬的位置上。

一方面是技术伴随的隐私和准确率的问题,另一方面却是它带来的便利性和商业利益。

就连国内售楼部的摄像头,都已经对准了路人,进行“身份识别”。

人脸识别用在哪里、怎么使用,仍旧亟待商榷。

参考文献

[1]https://www.theverge.com/2021/4/13/22382398/robert-williams-detroit-police-department-aclu-lawsuit-facial-recognition-wrongful-arrest

[2]https://www.aclu.org/press-releases/michigan-father-sues-detroit-police-department-wrongful-arrest-based-faulty-facial [3]https://www.wired.com/story/flawed-facial-recognition-system-sent-man-jail/

本文经授权转载自量子位(ID:QbitAI),如需二次转载请联系原作者

欢迎转发到朋友圈。

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。
52赞
大家都在看打开应用 查看全部
网易热搜每30分钟更新
打开应用 查看全部
打开