为什么人脸识别系统总是认错黑人？( 二 ) ：为什么人脸识别系统总是认

左：被盗商店拍下的嫌疑人
右：威廉姆斯的驾照照片▼

文章图片
拒不招认的威廉姆斯，在被拘留了30个小时后，终于等到了一句答复：
不好意思，我猜是电脑搞错了。
与这两次误捕相比，奥利弗的遭遇更加心塞。
案发当时，这位老师看到学生在打群架，赶紧掏出手机录像，还没录多久，一个黑人男子就突然出现在车窗外，凶神恶煞地抢走了手机。
左：手机录下的抢手机黑人男子
右：被捕的奥利弗▼

文章图片
审讯室里，当FBI把照片摆成一排，准备开启讲道理模式时，奥利弗实在没忍住：我的胳膊上有陈年酿造的文身，你们再看看嫌疑人，胳膊上空空如也，我们怎么能是同一个人呢？
俩人的纹身区别▼

文章图片
嘿，原来又是误会。
荒唐树上荒唐果，荒唐树下，尽是美国黑小伙儿。
纽约时报刊文▼

文章图片
数据集中的一部分▼

文章图片
在这个过程中，数据集、算法和传感器都是关键，那么，问题到底出在哪一环中呢？
1、缺失的数据集。
早期，研究人员要想得到人脸照片，唯一的方式就是购买：贴出广告，吸引有意向的人来到实验室，在签署同意书后，让这些人在不同的光线下，用不同的姿势拍照，以此作为训练AI的样本。
这种方式创建出的数据集，照片质量高，样本分布均衡，只有一个缺点：费钱。
到了互联网时代，一种又快又不用花钱的照片获取方式出现了：网络搜索下载。铺天盖地的新闻图片，抓来就能训练。
白嫖来的样本，自然比不上付费的，别的不说，光样本数据量分布就不达标。
在美国，有超过40%的成年公民，主要通过Facebook来看新闻，有媒体对新闻配图按性别进行了统计，惊讶的发现，不管是经济还是娱乐版块，女性的出场率都远远低于男性，哪怕都是单人新闻图片，女性形象在图片中的占比，也处于劣势。
【为什么人脸识别系统总是认错黑人？】女性出场率远低男性▼

文章图片
但在现实中，美国的男女比例是大致均衡的。
目前来看，单就网络上展示的性别比例，女性就已经输了，那肤色比例是否平均呢？
乔伊·博拉姆维尼▼

文章图片
为了抵抗数据集中存在的歧视，她发起了一个叫做“性别阴影”(GenderShades)的项目，重点强调交叉性：数据集应该兼顾四个类型，包括深肤色男/女性，以及浅肤色男/女性。
“性别阴影”项目▼

文章图片
2、一再失误的算法。
2015年，美国发生了一件“震惊三连”的事情。
当事人气到爆粗口▼

文章图片
震惊之余， JackyAlciné第一时间向Google投诉，而Google听说这一事件后，同样表现的很震惊，马上向JackyAlciné道歉，并承诺立刻整改。
魔幻并没有停在这里。
现实中，深肤色人的面部特性确实比较难找，尤其在暗光环境下，光是检测到脸就很难了，更别提捕捉面部特征，这对于算法确实是一大挑战。
对算法来说，深肤色面部检测虽然是挑战，但也不是不能优化，关键在于是否利益相关。
以上虽为个人猜测，但是，我也找到了一点论据支撑。
很多互联网公司都有招聘算法，以亚马逊为例：如果一个男性是能力匹配的基准线，那么，女性申请者和她们的属性就会对应降级，再加上众所周知的历史传统，在实际操作中，肤色同样是职位考量的因素之一。
这不禁让我想到小说《心是孤独的猎手》中的一句话：对黑人来说，所有白人长得都差不多，但黑人会费心辨认他们。另一方面，对白人来说，所有黑人长得都差不多，但白人通常不会费心记住一张黑人的脸。