当前所在位置:首页>客流资讯>客流行业分析

亚马逊人脸识别技术再遭滑铁卢:从120名官员中认出了26名罪犯

时间:2019-08-22 小编:ETAG001 点击:19322

Rekognition是亚马逊研发的一款图像分析软件。亚马逊已经将这项技术销售给了美国的几个执法机构,比如说华盛顿县治安官办公室,旨在利用软件的面部识别算法实时自动识别和跟踪犯罪嫌疑人;亚马逊也在争取将能把这项技术卖给美国政府。




这是什么神奇算法,“看”一眼就能知道对方是不是犯罪嫌疑人?


Rekognition需要被辨识的脸部照片作为基础数据库,目前基础数据库的建设主要基于亚马逊的云服务AWS。当摄像头捕捉到现实中的人脸或用户上传对比照片后,Rekognition会自动将它们与基础数据库中的照片进行对比;如果相似度足够高,那么Rekognition就认为这个人属于基础数据库中的某个人。在软件中,将这个相似度称作“可信度阈值”,它的默认值为80%。


利用先进科技,让犯罪嫌疑人无处逃遁,想象一下就觉得似乎世界变得更美好了一点。然而,这种想法也遭到了不少人的反对,比如一直和Rekognition唱反调的美国公民自由联盟(American Civil Liberties Union,ACLU,一个非盈利组织)。


8月14日,ACLU对它进行了一项测试,Rekognition的表现却令人大跌眼镜:基于25000人的犯罪嫌疑人基础数据库,ACLU上传了120张立法者的照片让Rekognition一试身手,结果是,Rekognition用误判26名立法者为犯罪嫌疑人的结果,证明了自己身手不佳。


实际上,这并不是Rekognition第一次“犯错误”,早在2018年,它就已经错误地将28名国会议员识别为罪犯,万万没想到,经过1年的努力,它义无反顾地在将政府官员识别为罪犯的路上越走越远……r


不得不说,这软件给我们提供了一份充满了戏剧性的“答卷”,然而作为承担身份识别重要角色的软件,这样的结果无法不让人对其严谨性和严肃性产生质疑。


旧金山议员丁右立(Phil Ting)提议禁止使用这个软件系统,并且表示这样的错误识别结果将会给人们带来巨大的负面影响,当你被人认为是一个罪犯, “可能会影响你找工作的能力、影响你买房租房的能力。”这远不是一项技术犯了一个可笑的错误那么简单,而是确确实实会有活生生的人们,受到这一错误带来的实际影响。


那么,面对再一次的重大失误,作为软件开发商亚马逊对此作何解释?福布斯这样报道:“当使用面部识别来判断调查中的嫌疑人时,执法部门应该使用推荐的99%的可信度阈值,并且仅将这些预测作为调查的一个要素(而非唯一决定因素)”。


ACLU表示这种解释无法让人信服。在测试中使用的80%的可信度阈值,实际上是软件提供的默认设置。既然99%的可信度阈值才是推荐使用值,为什么亚马逊不将默认可信度阈值设置为99%呢?然而对此,亚马逊并未给出答复。


实际上,这款软件在整个美国进行了推广和试用,除了在识别准确度方面存在问题,在各地的试用中还暴露出了其他一系列问题。比如,由于准确度引发的,在有色人种聚居地识别错误可能造成种族歧视问题,引发警民冲突;在佛罗里达州奥兰多试用期间,还出现网络带宽问题导致软件无法良好运行等问题,很显然,Rekognition并没有为真正能够推广和应用做好准备。另外,人脸识别技术的滥用,是不是也在一定程度上侵犯了公民的隐私和自由?


未来,Rekognition将会走向何方,目前我们无法做出判断。


分享: