新西兰人工智能(AI)和数据专家表示,一家试用面部识别技术的超市误将一名毛利女性当作小偷,这并不令人感到奇怪。
人工智能不智能
一名毛利女性当时正在新西兰北岛罗托鲁瓦的New World超市购物,该超市是Foodstuffs总公司在北岛试行人工智能技术的25家超市之一。
该技术可以扫描顾客的面部,并将图像与超市数据库中的已知罪犯或嫌疑人进行比对。
结果,这名没有犯罪史的毛利女性被识别成小偷。
该领域的专家Karaitiana Taiuru表示,他相信还有其他毛利人受到了影响但没有站出来。
他说,Foodstuffs使用的AI是基于国际数据训练出来的,而不是在新西兰背景下训练出来的。
“我们从国际数据和国际研究中了解到,这些系统取材于欧洲长相的男性,只是在最近几年才加入新的数据,比如有色人种、女性、留胡须的男性等。”
“任何毛利人、太平洋岛民、有色人种等等都不会被系统识别。这就是为什么我们必须要对系统进行人工双重检查,而在这种情况下,人工双重检查失败了。”
未来仍具挑战
专家说,通过适当的员工培训可以减少这种偏差,但必须根据新西兰人口的特点进行培训。
但目前,新西兰还没有现成的这方面的培训。
他说,如果你被面部识别技术误认,最好向使用该技术的机构或隐私专员投诉。
Figure NZ首席执行官Ngapera Riley本人就来自罗托鲁瓦,她说毛利人的相貌被误判这实在令人愤慨。
“这是一个明显的例子,说明了为什么面部识别技术在现阶段可能并不可靠。”
“在罗托鲁瓦的超市试验中出现这种情况我并不感到惊讶,但这些超市拥有大量资金和资源,因此他们确实应该更好地防止这种情况发生。”
她说,在像罗托鲁瓦这样的毛利人聚居区发生这样的事情很不光彩。
新西兰目前还没有针对生物识别技术的特别规定。
不过,隐私专员办公室正在征求公众对生物识别实践准则草案的意见。
这意味着这个问题正在得到认真对待。
关注新西兰早知道,了解更多晨间新闻
关注这才是新西兰,获取每日最新资讯