人工智能(AI)和机器学习用于推动各种重要的现代软件技术的发展。例如,人工智能为分析软件,Google的bugspot工具以及面向程序员的代码编译器提供了强大动力。人工智能也为 面部识别软件 通常由执法人员,房东和私人公民使用。

在基于人工智能的软件的所有用途中,面部识别非常重要。依靠视频监控的大型建筑物的安全团队(例如学校和机场)可以从这项技术中受益匪浅。 人工智能算法有可能检测到财产上的已知罪犯或未经授权的人。有些系统可以识别枪支,而另一些系统则可以跟踪每个人的运动,并且只需单击一下即可提供有关其位置的实时更新。

面部识别软件具有惊人的潜力

美国警方已使用面部识别软件成功识别大规模枪击嫌疑犯。印度新德里的警察使用这项技术在四天内识别了近3,000名失踪儿童。基于AI的软件扫描了45,000张孤儿院和寄养家庭中儿童的照片,并将2,930名孩子与政府失散儿童数据库中的照片进行了匹配。这是令人印象深刻的成功率。

政府还使用面部识别软件来帮助难民通过称为REFUNITE的在线数据库找到家人。该数据库结合了来自多个代理商的数据,并允许用户执行自己的搜索。

尽管潜力巨大,但基于AI的软件还是有偏见的

面部识别软件据称可增强公共安全性,因为AI算法比人眼更准确。但是,那是真的 当你是白人男性时。事实是,人工智能算法对皮肤黝黑的女性和女性具有隐性偏见。这种偏差存在于两种主要类型的软件中:面部识别软件和风险评估软件。

例如,麻省理工学院媒体实验室的研究人员在一项实验中使用了面部识别软件,该实验最多可将35%的深色皮肤女性识别为男性。妇女和深色皮肤的人错误率最高。

风险评估中存在另一个偏见。一些监狱使用计算机程序来预测将来每个犯人犯罪的可能性。不幸的是,时间已经表明这些评估偏向于皮肤黝黑的人。皮肤黝黑的人通常被认为比皮肤黝黑的人更高。问题在于,当一个人穿越刑事司法系统时,当局会使用风险评估分数来为决策提供依据。法官经常使用这些分数来确定保证金数额以及一个人是否应该获得假释。

2014年,美国总检察长埃里克·霍尔德(Eric Holder)呼吁美国量刑委员会研究风险评估评分的使用,因为他看到了潜在的偏见。该委员会选择不研究风险评分。但是,一家名为ProPublica的独立非营利性新闻机构研究了分数,发现它们在预测暴力犯罪方面非常不可靠。他们在佛罗里达州布劳沃德县(Broward County)的7,000多人中进行了研究,发现只有20%的人预计会犯下暴力罪行。

这种偏见是 有一段时间了,但专家尚未创建解决方案。如果政府和警察尚未使用该技术,那么人们不会对错误率感到惊慌。

美国公民自由联盟认为警察使用的面部识别软件存在偏见

2018年,美国公民自由联盟(ACLU)进行了一项测试,以查看警方使用的亚马逊面部识别软件是否存在种族偏见。结果?包括加州代表和哈佛毕业生吉米·戈麦斯(Jimmy Gomez)在内的28名美国国会议员与面部照片被错误地配对。美国公民自由协会(ACLU)的测试显示,有40%的错误匹配都涉及有色人种。

尽管错误率很高,但是警察已经使用了亚马逊的面部识别工具(Rekognition)。公民自由组织和立法者非常担心按原样使用此软件可能会伤害少数群体。激进主义者呼吁政府监管以防止滥用,因为该软件过早成为主流。

政府是否在压制AI的种族偏见?

加拿大移民局连续两年拒绝向希望参加人工智能重大会议的大约二十名AI学者颁发签证。来自AI小组的研究人员布莱克(Black in 人工智能)的研究人员计划教育人们有关AI的种族偏见,但在2018年和2019年被拒绝签证。在向政府施压后,一些否认在2019年得到了扭转。

加拿大政府拒绝签证,声称无法保证研究人员在访问结束后会离开加拿大。该组织及其许多支持者不认为拒绝签证是合法的。加拿大的经济通常会从海外游客中受益,他们 2018年花费超过210亿美元。加拿大为什么要连续两年拒绝很多签证,除非他们试图压制研究人员表达他们的担忧?

尽管没有直接证据表明有故意压制,但整体情况很奇怪,值得彻底调查。

人工智能为什么要努力识别肤色黝黑的女性和女性?

对妇女的性别偏见 甚至在面部识别成为主流之前,有色人种就已经存在于AI驱动的软件中。

由于缺乏色彩对比,因此较深色的皮肤会使计算机算法更难识别面部特征,这是有道理的。用于训练AI系统的照片还可能包含比皮肤黑皮肤的人和女性更多的皮肤白皙的人和男性。这两个因素都可能导致该问题。

当女性正在化妆以掩盖皱纹或短发时,计算机可能很难识别面部特征。 人工智能驱动的算法只能训练识别模式。如果将短发登记为表明男性的因素,则会导致结果偏斜。

尽管这个问题直截了当,但一些面部识别批评家并没有解释一个因素:面部分析似乎存在种族和性别偏见,而面部识别却不存在。这两个术语可以互换使用,但是它们是不同的过程。

面部识别与面部分析

当麻省理工学院使用微软和IBM的面部识别工具进行研究时,他们发现这些工具的错误率低于亚马逊的Rekognition。作为回应,亚马逊对麻省理工学院的研究结果提出异议,声称研究人员使用“面部分析”而非“面部识别”来测试偏见。

面部识别可识别面部特征,并尝试将面部与现有的面部数据库进行匹配。面部分析使用面部特征来识别其他因素,例如性别,种族或 检测疲劳的驾驶员。亚马逊发言人表示,使用面部分析来评估面部识别的准确性没有任何意义,这是一个合理的主张。

尽管这两个过程并不相同,但是面部分析在识别嫌疑犯方面仍然发挥着重要作用,在被警察使用之前应该更加准确。例如,如果嫌疑犯在视频中被捕获但无法清晰看到,之前没有被捕,并且无法与数据库匹配,则将使用面部分析来获取嫌疑犯的身份。如果那个嫌疑人是被错误地识别为男性的女性,则可能永远找不到。

我们是否过早使用面部识别软件?

虽然这并不奇怪,但令我失望的是,在可能会造成严重后果的情况下部署有偏见的软件。

尽管使用面部识别软件的好处显而易见,但现在是时候对该技术进行监管,并迫使开发人员提高其准确性,然后再将其部署在高风险的情况下。

Frank Landman

弗兰克·兰德曼

弗兰克(Frank)是一位自由撰稿人,以各种社论的身份工作了10多年。他介绍了与业务相关的技术趋势。