人工智能研究人员告诉亚马逊停止向警方出售“有缺陷”的面部识别

　　来自谷歌、Facebook、微软和一些顶尖大学的人工智能研究人员呼吁亚马逊停止向执法部门出售其面部识别技术。

　　在今天发表的一封公开信中，研究人员表示，研究一再表明亚马逊的算法存在缺陷，深色皮肤和女性面孔的错误率更高。研究人员表示，如果警方采用此类技术，则有可能加剧种族歧视，制造错误身份的案件，并鼓励对边缘化群体进行侵入性监视。

　　“有缺陷的面部分析技术正在强化人类的偏见，”科罗拉多大学博尔德分校的博士生、这封信的 26 名签署人之一摩根克劳斯舒尔曼通过电子邮件告诉The Verge。Scheuerman 说，此类技术“可能被用于恶意意图……以提供它们的公司不知道的方式。”

　　其他签署人包括谷歌研究员 Timnit Gebru，他的工作突出了面部识别算法的缺陷；Yoshua Bengio，一位最近获得图灵奖的人工智能研究员；加州理工学院教授、亚马逊 AWS 子公司前首席科学家 Anima Anandkumar。

　　Anandkumar通过电子邮件告诉The Verge，她希望这封信将开启“关于我们如何评估人脸识别的公开对话”，并补充说需要技术框架来审查这项技术。“只有在我们制定了评估这些系统的技术框架后，政府监管才能出台，”Anandkumar 说。

　　作为面部识别技术的领先供应商之一，亚马逊的算法曾多次以这种方式受到审查。今年早些时候发表的一项研究表明，该公司的软件更难识别肤色较深的男性和女性的性别，而美国公民自由联盟在 2018 年进行的一项测试发现，亚马逊的 Rekognition 软件错误地将 28 名国会议员的照片与进行了匹配面部照片。

　　亚马逊为其技术辩护，今天发表的大部分信函都逐点反驳了该公司的批评。例如，作者指出，虽然亚马逊表示没有收到执法部门滥用其面部识别的报告，但这并不是一个有意义的声明，因为没有法律来审核其应用程序。

　　在回应公开信时，亚马逊重申，它认为批评者的评估“具有误导性”，随后对该技术的更新“几乎在服务的每个领域都得到了改进”。

　　随着研究发现这项技术存在更多缺陷，研究人员、股东和技术员工之间的越来越频繁。谷歌拒绝销售面部识别软件，因为它可能被滥用，而微软则呼吁政府监管。然而，究竟应该如何监督这项技术是一个难题。

　　“这些技术的开发方式需要不伤害人类，也不会对历史上已经被边缘化的群体造成长期伤害，”Scheuerman 说。他强调，为了做到这一点，开发面部识别技术的人和批评它的人之间需要进行更多的对话。“这是一个跨学科的问题，需要跨学科的方法。”

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186