科技动态

AI的多元化危机:研究报告吐槽人工智能领域过于“白人直男癌”

微信扫一扫,分享到朋友圈

AI的多元化危机:研究报告吐槽人工智能领域过于“白人直男癌”
0

AI Now 研究所在今日发布的一份报告中称,人工智能行业面临着“多样化危机”,并且直指该领域方向的“关键问题”。报告发现,女性和有色人种在 AI 领域的比例严重不足,约 80% 人工智能教授性别为男性。即便是 Facebook 和 Google 这样的大公司,也只有大约 10% 的女性 AI 研究人员,更别提有色人种只占其中的一小部分了。

报告截图(来自:AI Now | PDF,via TheVerge)

AI Now Institute 联席主管 Meredith Whittaker 一针见血地指出,在打造影响其他人群的工具上,AI 领域缺乏多样性、过于“白人直男癌”了。

更糟糕的是,通过修复潜在求职者“渠道”来改善问题的方案,很大程度上也都失败了。研究人员写到:“经过数十年的管道研究、评估了从学校到行业的各类求职者流动,AI 领域在多样性上并未取得实质性进展”。

为此,AI Now Institute 提出了一些改善问题的建议,比如企业能够发布更多按照种族和性别划分的补偿数据,以及通过公布骚扰/歧视报告,来提升透明度。

有观点指出,尽管多样性是科技行业难以逾越的鸿沟,但其在 AI 领域埋下的风险却要大得多,尤其是某些潜在含有偏见的技术(比如面部识别),可能会不成比例地影响历史上被边缘化的那部分群体。

其实早在 2017 年,就有面部扫描识别程序存在不公正现象的批评。但除了更加严格的测试,AI 工具的制造商们,也必须切实最好风险规避,将这些系统打造得既安全又公平。

早前亚马逊因 Rekognition 面部识别技术存在偏见而遭到炮轰,谷歌也在各界压力传导下成立了人工智能审查委员会。

研究人员指出,“人工智能中领域的多样性危机,已有详细记录且造成了广泛的影响,涉及行业 / 学术领域的不平等、招聘 / 晋升差异、反映和扩大有偏见的观念、以及自动化系统中的生物识别等方面”。

阅读原文...


cnBeta

AMD Zen 3 架构将使用 7nm EUV 工艺,晶体管密度提升 20%

上一篇

iPhone XR 畅销英国,但三星销量仍居欧洲第一

下一篇

您也可能喜欢

评论已经被关闭。

插入图片
AI的多元化危机:研究报告吐槽人工智能领域过于“白人直男癌”

长按储存图像,分享给朋友