亚马逊告诉员工,它将继续向执法部门出售面部识别软件

评论

  James Bareham / The Verge的插图亚马逊最近因为有争议的Rekognition系统(一种功能强大的面部识别软件)向政府和执法机构颁发许可而受到抨击,最近的发展涉及亚马逊与美国移民和海关执法部门(ICE)的联系。在整个夏天达成Rekognition使用协议。现在,亚马逊的员工正在扼杀公司在销售此类技术方面的领导地位,特别是当它可以用来追踪人类并将其送回海外潜在的危险环境时。

  亚马逊网络服务公司首席执行官Andrew Jassy今天在一次全体会议上告诉员工,“我们对亚马逊重新认识为执法和法律规范中各种规模和各类行业的客户提供的价值感到非常强烈和非常强烈。执法,“一位不愿透露姓名并与The Verge交谈的亚马逊员工表示,并提供了部分谈话记录。BuzzFeed首先在今天下午早些时候报道了Jassy的评论。

 

  亚马逊没有立即发表评论。

  给我们一个提示? 使用SecureDrop或Signal安全地向The Verge发送消息和文件,而不会泄露您的身份。AWS是亚马逊的云计算部门,负责为Rekognition提供电源,目前佛罗里达州和俄勒冈州的警察部门正在使用它。亚马逊首席执行官杰夫贝索斯(Jeff Bezos)特意回答了Jassy关于Rekognition和与ICE等组织的潜在政府合同的问题。Jassy继续说“你不想摆脱这种技术”,但指出违反AWS的服务条款或违反一般宪法权利的行为将迫使亚马逊禁止使用其服务。然而,他确实指出,该公司认为“政府有责任帮助明确规则应该是什么样的技术指南”。

  亚马逊与Rekognition一起参与政府合同的复杂化研究证明,该系统在准确性和固有的种族偏见方面存在严重缺陷。美国公民自由联盟在夏季测试了Rekognition,并发现该系统错误地从25,000个面部照片的数据库中找到了28位国会议员。(亚马逊在其研究中反对ACLU的研究结果,其深度学习和人工智能总经理马特伍德在7月份的博客文章中称,使用Rekognition API进行测试的数据是以80%的信心生成的率,远低于它建议的执法比赛的99%置信率。)

 

  该公司还拒绝参与国家标准与技术研究所运行的算法偏差综合研究,该研究旨在确定何时种族和性别偏见可能影响面部识别算法的错误率。

 

  亚马逊并不是唯一一家遭遇其员工关于产品如何被美国政府出售和使用的技术巨头。谷歌领导层今年因参与五角大楼无人机计划(Maven项目)而面临巨大反对,迫使该公司宣布明年不会续签合同,并公布一套有关人工智能使用和产品开发的道德准则。谷歌也计划为中国市场推出符合政府审查政策的新闻和搜索产品。

 

  以下是全体会议交流的完整记录:

 

  问: 针对亚马逊员工和民权团体对亚马逊向政府和警察组织(包括ICE)出售面部识别技术所表达的担忧,我们采取了哪些措施?

 

  亚马逊首席执行官Jeff Bezos: 很好。安迪,你想拿那个吗?

 

  AWS首席执行官Andrew Jassy: 谢谢,所以我们指的是Amazon Rekognition,这是AWS的深度学习图像识别,面部识别,视频识别服务,你知道,我们在亚马逊有超过五十万名员工,我我们认为我们的人们会有非常广泛的意见,这很好。但我们对亚马逊Rekognition为执法和执法外的各种规模和各类行业的客户提供的价值感到非常强烈和非常强烈。

 

  你可以看到人们在服务一年零一年后实际获得的价值,其中Rekognition被积极用于帮助阻止人口贩运,让失踪的孩子与父母团聚,用于教育应用,安全和多因素身份验证,以防止被盗。

 

  Amazon Rekognition享有很多价值。当然,现在,对于任何类型的技术,您必须确保它的使用是负责任的,而且对于新技术和现有技术都是如此。想想可以用计算机或服务器完成的所有邪恶,并且已经完成,如果我们不知道人们如何拥有计算机,你会想到我们的世界会有什么不同的地方。

 

  所以你不想摆脱那种技术。您希望确保人们负责任地使用该技术,并且我们在AWS中拥有一组术语和服务。我们所有的服务,包括Rekognition,如果人们违反这些服务条款并且不负责任地使用它们,他们将无法再使用我们的服务。事实上,如果我们发现人们侵犯了宪法权利,他们将无法使用这些服务。顺便说一句,我也认为,在民主制度中,政府的责任往往也有助于明确规则应该是什么样的技术指南。而且,如果发生这种情况,我们也会遵守这些规则。谢谢。

今日热点

特别推荐

小编精选

热点排行

热门推荐

注:凡本网注明来源非中国彩虹热线的作品,均转载自其它媒体,并不代表本网赞同其观点和对其真实性负责。

中国彩虹热线致力于资讯传播,希望建立合作关系。若有任何不当请联系我们,将会在24小时内删除。邮箱QQ:361040607@qq.com

联系我们|zgchrx.com All Right Reserve 版权所有 备案号 渝ICP备09011476号-2