“可怕的实验”似乎表明Twitter的裁剪工具是有种族偏见的

subtitle 素年的大未央09-23 07:25

一名进行了“可怕实验”的程序员认为,Twitter的自动化工具更偏爱白人的脸。

打开网易新闻 查看更多图片

推特的裁剪工具决定显示一张米奇·麦康奈尔的照片而不是巴拉克·奥巴马的照片。

在用户声称Twitter的图像裁剪功能更偏向于白人面孔后,Twitter启动了一项调查。

该社交网络的移动应用程序上有一个自动工具,可以自动裁剪大到屏幕不适合的图片,并选择图片的哪些部分应该剪掉。

但一名毕业程序员的实验似乎显示出种族偏见。

推特已经发誓要进行调查

为了看看推特的算法会选择什么,托尼·阿切里发布了一张长照,上面是参议院共和党领袖米奇·麦康奈尔,下面是美国前总统巴拉克·奥巴马,中间用空白隔开。

在第二张图片中,奥巴马的头像放在顶部,麦康奈尔的头像放在底部。

这两次,前总统都被裁掉了。

在“可怕的实验”之后,Arcieri先生写道:“推特只是种族主义在机器学习算法中体现的一个例子。”

截至发稿时,他的实验已经被转发了78000次。

推特发誓要调查此事,但在一份声明中表示:“我们的团队在发布模型之前进行了偏见测试,在我们的测试中没有发现种族或性别偏见的证据。”

“很明显,从这些例子中我们需要做更多的分析。

我们将继续分享我们学到的东西,我们采取的行动,并将我们的分析开源,以便其他人可以审查和复制。”

一位推特的代表还提到了一位卡内基梅隆大学科学家的研究,这位科学家分析了92张图片。

在那次实验中,算法偏爱黑人面孔52次。

早在2018年,该公司就表示,该工具基于一种“神经网络”,利用人工智能来预测用户对照片的哪个部分感兴趣。

人工智能研究所(AI Now Institute)联合创始人梅雷迪思惠特克(Meredith Whittaker)对汤森路透基金会(Thomson Reuters Foundation)表示:“这是一长列令人厌倦的例子中的另一个,这些例子表明,自动化系统为种族主义、厌女症和歧视历史编码。”

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
打开网易新闻,阅读体验更佳
大家都在看