他是第一个因人脸识别错误被关监狱的人,证据仅仅是1张驾照照片

百家 作者:量子位 2021-04-14 13:55:52 阅读:462
萧箫 发自 凹非寺
量子位 报道 | 公众号 QbitAI

只因和小偷长得像,就被人脸识别“抓”进监狱关了30个小时。

而人脸识别系统的依据,仅仅是一张驾照照片。

这是发生在2019年的事情,被错误逮捕的对象,是一位名叫Robert Williams的黑人男子,在交了1000美元后,他才被保释出去。

据《连线》(Wired)杂志报道称,这可能是同类案件中已知的第一个案例

而直到现在,这起案件才正式向联邦提起诉讼

人脸识别错误第一案

事情得从三年前说起。

2018年,一个小偷在一家Shinola零售店偷了几块名表,被店里的监控拍了下来。

监控拍到的图像非常模糊,那名小偷全程没有抬头看监控。

在这种情况下,警方用了人脸识别技术,并仅凭借一张驾照照片锁定了42岁的Robert Williams。

2019年,警方拿着他的照片询问店中的一名保安,后者确定是他,但其实这名保安并没有目击现场事发。

在被逮捕时,Robert Williams刚下班回家,就在自己的妻女面前被警方带走,期间根本没问他是否有不在场证明。

随后,他在监狱里肮脏的水泥地板上躺了30个小时。

直到缴纳1000美元的保释金,Robert Williams才被放出来。

现在,美国公民自由联盟(ACLU)、密歇根大学法学院,代表Robert Williams正式提起联邦诉讼。

从诉讼文件来看,这是在美国第一起因人脸识别错误被非法逮捕的案件。

但Robert Williams想要的,不只是赔偿损失。

他希望这起案件能修改相关政策,以制止人脸识别技术的滥用。

Robert Williams本人表示:

仅仅因为机器算法的问题,就在妻女面前被逮捕,希望这种事情不要再发生在其他人身上。

相似案件不止一起

但事实上,人脸识别“抓”错人的事情,在这之后又发生了好几起。

第二起因人脸识别导致的错误逮捕,同样是一名黑人男子Michael Oliver,他在去年起诉了警察局。

而据NJ Advance Media报道,新泽西州也发生过同样的事情,警方在用人脸识别逮捕一位名叫Nijeer Parks的黑人男子后,将他在监狱关了10天,才发现抓错了人

在此期间,警方没有验指纹、没有测DNA,仅仅凭借人脸识别系统就锁定了嫌疑人。

目前,Nijeer Parks也仍然在上诉中,新泽西州也已经禁止使用这种软件。

但据了解,数以千计的执法机构已经在采用人脸识别的技术,查找罪犯。

人脸识别系统,却往往并不那么可靠。

2017年的欧冠比赛上,英国警方采用了人脸识别系统,总共发出2470次警报,错误率高达92%。

而美国警方采用的人脸识别软件,通常只依赖于数十亿张社交媒体照片来识别犯罪嫌疑人。

从技术上来说,人们无法从人脸识别中确定某个嫌疑人的唯一性。

该不该用人脸识别?

人脸识别技术,已经被美国警方采用了二十多年。

但来自MIT和NIST的研究人员发现,这项技术对于白人男性的识别效果相对更好,这也和人脸识别数据集中的样本数量有关。

而其他人种,在这类数据集下训练出来的识别效果往往并不理想。

不止数据集。

人脸识别的另一个问题是,监控摄像头会压缩视频图像,导致用来区分嫌疑人的皮肤、静脉和痣等图案被去除、损坏或变形。

事实上,由于采集视频的光照条件不同,一些伪影可能会被误认为是面部特征(如痣)之一。

最重要的是,人脸识别所用的AI模型算法,可解释性非常差,缺乏支持法医意见的经验数据。

目前,微软、IBM和亚马逊等互联网巨头,已经保证不将人脸识别系统出售给警方。

但人脸识别技术本身,却处在了一个有点尴尬的位置上。

一方面是技术伴随的隐私和准确率的问题,另一方面却是它带来的便利性和商业利益。

就连国内售楼部的摄像头,都已经对准了路人,进行“身份识别”。

人脸识别用在哪里、怎么使用,仍旧亟待商榷。

参考链接:
[1]https://www.theverge.com/2021/4/13/22382398/robert-williams-detroit-police-department-aclu-lawsuit-facial-recognition-wrongful-arrest
[2]https://www.aclu.org/press-releases/michigan-father-sues-detroit-police-department-wrongful-arrest-based-faulty-facial
[3]https://www.wired.com/story/flawed-facial-recognition-system-sent-man-jail/

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。

加入AI社群,拓展你的AI行业人脉

量子位「AI社群」招募中!欢迎AI从业者、关注AI行业的小伙伴们扫码加入,与50000+名好友共同关注人工智能行业发展&技术进展

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见~


关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:http://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

图库
关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接