​缺乏STEM多样性导致AI具有白人男性的偏见

纽约大学AI Now Institute 的一份报告发现，主要由白人男性编码的劳动力正在造成算法偏差。

该报告强调，在逐渐缩小的同时，微软，谷歌和Facebook等主要技术公司缺乏多元化的代表，这导致AI越来越多地迎合白人男性。

例如，在Facebook，公司AI员工中只有15%是女性。对于谷歌来说，这个问题甚至更为严重，只有10%是女性。

报告作者Sarah Myers West，Meredith Whittaker和Kate Crawford写道：

迄今为止，人工智能行业的多样性问题和其构建的系统中的偏差问题已被单独考虑。

我们建议这是同一个问题的两个版本：劳动力和系统建设中的歧视问题深深交织在一起。”

随着人工智能在整个社会中得到越来越广泛的使用，存在一些群体被其优势抛弃的危险，同时“强化了对“正常”人的狭idea观念”。

研究人员重点介绍了这种情况的发生地点：

亚马逊备受争议的 Rekognition面部识别AI特别是针对深色皮肤女性，尽管单独的分析发现其他AI也面临着非白人男性面临的此类困难。

一种简历扫描型AI，它以成功申请人的先前示例为基准。人工智能降低了在履历表中包括“妇女”或参加女子大学的人的等级。

目前，AI已部署在少数改变生活的领域，但这种情况正在迅速改变。执法部门已经在寻求使用该技术来识别罪犯，甚至在某些情况下先发制人，并做出判决决定，包括是否应准予保释。

研究人员指出：“将AI系统用于种族和性别的分类，检测和预测的迫切需要进行重新评估。” “这些工具的商业化部署引起了广泛关注。”