为什么人脸识别系统总是认错黑人？( 三 ) ：为什么人脸识别系统总是认

职位人选的底色，不仅会影响到某个算法的开发和执行，还会深刻影响整个领域的多样性，具象到现实，一定会出现深肤色人群被误认成大猩猩这样的闹剧，以及忽略算法优化、只是删掉大猩猩分类的神操作。
3、选择性失明的传感器。
如果说眼睛是心灵的窗户，那有些传感器的心是真的不灵。
2009年，德克萨斯州，在一家露营商店工作的两位工人，正在电脑上测试惠普新出的面部自动跟踪系统，并用视频记录下了整个过程。
测试视频▼

文章图片
在视频中，他们自称黑人德西和白人旺达。
黑人德西说：“看看我进入画面时会发生什么。 ”尴尬的是，什么都没有发生，摄像头完全追踪不到德西的脸。
但是，当白人旺达的脸出现在摄像头面前时，面部追踪系统就开始工作了。
此外，一位用户名叫做TeejMeister的油管用户，也曾吐槽一个感应洗手池：“白人专用？”
TeejMeister:“白人专用？”▼

文章图片

文章图片
被误抓的黑人小哥
竟击中社会G点？
20世纪40年代，乔治·奥威尔创作了一部反乌托邦小说《1984》，勾勒了一副令人窒息、压抑的画面：
未来的一大景象，是公民处于无处不在的严密监视下，为了躲避“老大哥”的监视，公民不得不秘密找到一个黑暗房间，通过在对方手臂上敲击密码来互相交流。
《1984》中的“老大哥”▼

文章图片
小说只是艺术创作，但历史的车轮滚滚向前，黑人却始终站在话语权的边缘。
18世纪，纽约曾施行一套法律：灯笼法(LanternLaws) 。
LanternLaws▼

文章图片
灯笼法规定，日落之后，黑人、混血儿和土著奴隶要想在城市里走动，如果身边没有白人，就必须携带一个蜡烛灯笼。如果不这样做，一经发现，就会被抓进监狱，直到“主人”来认领，而在等待期间，他们可能会经历殴打等各种遭遇。
同一个城市的灯笼，并没有平等照亮每个人的权利，光是一种偏见，社会没有看见。
2019年， 28岁的伦敦黑人男子巴达，正在通过网站更新护照，一个重要步骤是上传照片。
重试N多次，系统始终提示照片张嘴无效，无奈之下，巴达只能在备注中写道：“我的嘴是闭着的，我只是嘴唇很厚。 ”
张嘴？无效？▼

文章图片
同一个国家的业务平台，并没有公平对待每个人的权利，算法是一种偏见，社会没有看见。
直到几位黑人小哥被警局误抓，才终于击中了社会G点，这种来源于种族歧视和隐私信息滥用的双重愤怒，让社会不得不看见。
蹲在警局里的黑人小哥挥挥翅膀，改变了不少风向。
看似一切都在改变，不过有趣的是：狡兔还有三窟，偏见又怎会把自己封在条框里？只要人心里有它的位置，它便能永生。
参考资料：
https://abc7news.com/criminal-facial-recognition-racial-bias-in-technology-man-falsely-arrested-nijeer-parks/9197215/
https://abcnews.go.com/Business/federal-study-finds-racial-bias-facial-recognition-tech/story?id=67853261
https://www.nytimes.com/2020/06/24/technology/facial-recognition-arrest.htmlhttps://www.freep.com/story/news/local/michigan/detroit/2020/07/10/facial-recognition-detroit-michael-oliver-robert-williams/5392166002/
https://www.nytimes.com/2018/02/09/technology/facial-recognition-race-artificial-intelligence.html?auth=login-google
http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
https://www.media.mit.edu/projects/gender-shades/overview/