Google图像“种族主义算法”有一个修复程序,但不是很棒的
出版
|最近更新时间
技术在大多数情况下很棒。它使许多过去变得非常困难和乏味的事情变得更加容易,更快。
但是,这可能是一个雷区。即使是强大的,无所不包的搜索上帝,Google也无法免疫实验新技术带来的磨牙问题。
它遇到的问题也很糟糕。
在2015年,黑人软件开发商JackyAlciné对Google Images与他的伴侣的照片标记为“大猩猩”这一事实感到非常生气。
他在推特上发了推文,该公司表示“令人震惊和真正的遗憾”,并告诉他这是“从事长期修复工作”。
那么,从那以后的两年中,Google做了什么?好吧,它只是从系统可用的搜索词中删除了大猩猩一词。还删除了其他几只猴子和灵长类动物的名称,以阻止这种情况再次发生。
除了是Google集体面孔上的巨大鸡蛋外,这种混合也具有真正的影响。
拥有标签简单的人类图像的技术是一个非常愚蠢的问题,但是如果您试图开发图像识别软件来驾驶汽车(Google是),那是一个危险的愚蠢问题。
这本技术杂志有线测试了Google Photos的图像识别系统,并将40,000张图像用动物送入系统。
尽管它能够识别大多数动物,而且显然甚至设法发现了单个狗的品种,并且可以识别一些猿类,例如猩猩,但还没有返回的搜索结果,这些结果已经确定了'Gorilla','Gorilla','Chimp',Chimp''''黑猩猩'或“猴子”。
在另一项测试中,他们喂了10,000张面部识别研究人员的照片。
Google图像将黑人识别为大猩猩pic.twitter.com/cvoqadyell
-Quinton(@Quinton91628130)2015年7月2日
他们发现:“搜索词'非裔美国人'只出现了放牧羚羊的形象。
“打字'黑人','黑人妇女'或'黑人',导致Google的系统返回了人的黑白图像,并以性别正确排序,但没有被种族过滤。
“唯一的搜索术语是,肤色深色的人似乎选择的结果是'Afro'和'非洲人',尽管结果是混杂的。”
Google已经确认,自2015年事件发生以来,“大猩猩”就受到了审查,一位发言人说:“图像标签技术还在很早,不幸的是它远不及完美。”
在这个证据上,黑镜风格的无人驾驶汽车目前不在菜单上- 鉴于那个结局的结局,这可能是最好的。