贝索斯该头疼了:还要不要把面部识别技术卖给警方?通信
在报道 Google 放弃与国防部续约一事时,雷锋网曾经表达过,在 AI 技术不断发展的大趋势面前,几乎所有的科技巨头都要面临愈加严苛的道德评判和舆论环境――此前不得不接受美国国会听证的 Facebook 如此,被迫放弃与国防部的合作续约的 Google 也是如此。
在报道 Google 放弃与国防部续约一事时,雷锋网曾经表达过,在 AI 技术不断发展的大趋势面前,几乎所有的科技巨头都要面临愈加严苛的道德评判和舆论环境――此前不得不接受美国国会听证的 Facebook 如此,被迫放弃与国防部的合作续约的 Google 也是如此。
现在,轮到另外一个巨头了,这次是电商老大亚马逊。当面部识别被用于警方
事情并不是突然发生的,而是存在于长期以来的酝酿之中。
2016 年,亚马逊推出了一款面部识别工具 Rekognition;它能够对图像和视频进行实施识别,甄别中其中的内容, 比如说人物面孔、场景、文字、物体等;当然,这背后利用的还是亚马逊强大的人工智能技术和 AWS。这一技术本身看起来没有什么问题,而且能够带来很多好处,但问题在于它的实际应用场景会引起人们的不同反应;比如说警察部门。
的确,亚马逊的 Rekognition 已经被应用于美国相关政府部门, 在亚马逊官网的相关介绍页面中,Rekognition 已经被应用于 Washington County Sheriff's Office in Oregon(华盛顿郡警长办公室),当然被该页面介绍的,是一个正面案例:一个商店扒手被利用该工具成功抓获。2017 年 6 月,亚马逊在官方博客上发布了一篇来自上述 Office 的分析师所撰写了文章,其内容是如何利用 Amazon Rekognition 去识别案件中的嫌疑人。
雷锋网了解到,该分析师在文章中提到了两个案例;在第一个案例中,银行监控摄像头捕捉到失窃信用卡被用来取现的镜头,但是由于光线和角度问题,办案人员无法进行人工识别,而通过 Amazon Rekognition 则实现了 95% 的人员匹配度。另外一个案例是,利用 Amazon Rekognition,办案人员成功地在 Facebook 联系上一个利用假名来发布内容的个人。
这篇文章的最后,该分析师强调了利用 AWS 去进行人脸识别的便利性,并表示 Amazon Rekognition 已经成为他所在 Office 用来甄别嫌疑人的有利工具,并希望它成为法律案件进行面部识别的标准工具。
当然,除了上述被提到的案例,Amazon Rekognition 也被应用于其他的警察相关机构中,比如说奥兰多警察局。在亚马逊的声明中也提到,不少机构利用这项技术去找到被拐卖人员和丢失的儿童。另外,其实 Amazon Rekognition 也有很多非执法的商业类客户,比如说 Pinterest 和 C-SPAN。
亚马逊所面临的舆论声浪
然而,即使如此,由 Amazon Rekognition 与美国执法部门合作所带来的负面舆论效应已经在发酵中,尤其是在涉及到人们的隐私层面,已经有不少机构和个人对亚马逊表达了不满。
2018 年 5 月份下旬,美国公民自由同盟(American Civil Liberties Union,简称 ACLU)和其他一些隐私保护团体要求亚马逊停止面向警察机构去售卖 Amazon Rekognition,原因是执法部门可能会利用这一技术、非常简单地去构建一个能够识别并实时监控任何人行踪的系统。ACLU 表示:
人们应当自由地走在大街上,而非处于政府的眼皮子底下。在美国的社区进行面部识别威胁了这样的自由……面部识别并不是中立的技术,不管亚马逊如何部署。它使大规模监控自动化,威胁到人们在政府监视之外的私人生活自由,并准备放大刑事司法系统中的偏见和不平等。
根据 ACLU 获取的邮件显示,华盛顿郡警长办公室只需要花费 400 美元就可以把 305000 图片导入到拥有 Amazon Rekognition 技术的识别系统中去,每个月付费 6 美元就能持续使用这项服务。但是,上述警长办公室并不认为自己威胁到了 ACLU 所提到的自由,它的一位发言人表示:
其实我们并没有大规模搜集数据,而且也没有把摄像头布置在街角。我们希望本地社区知道我们在干什么,以及我们如何利用它来处理犯罪问题――它是什么,它不是什么。
在雷锋网看来,显然,包括 ACLU 在内,众多关注个人隐私的美国民众并不会对这位发言人的话买账――他们不仅仅担忧这项技术的应用已经被用于哪些领域,也在担忧它被应用于隐私侵犯的潜在可能性。不过它们发给亚马逊的信并没有得到非常明确的回应。
事情在上周五得到进一步发酵。有将近 20 家亚马逊的股东机构向亚马逊 CEO Jeff Bezos 发出信件,对亚马逊 Rekognition 被应用于执法部门所带来的问题和影响进行担忧。
这些股东们在信中写到:
亚马逊股东担心这样的政府监视设施技术,不仅可能对全国客户和其他利益相关者构成隐私威胁,而且可能提高我们公司面临的实质性风险,为我们公司的股价带来负面影响,并为股东增加金融风险。
当然,这些股东们也在担心,Rekognition 可能违反女性、有色人种、移民以及其他边缘化群体的民权,这些人特别容易成为警方关注的目标。
截至目前,亚马逊还没有对股东们的致信作出公开回应。
1.TMT观察网遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2.TMT观察网的原创文章,请转载时务必注明文章作者和"来源:TMT观察网",不尊重原创的行为TMT观察网或将追究责任;
3.作者投稿可能会经TMT观察网编辑修改或补充。