网易logo

我脑补了让AI当法官的一天,结果太吓人

subtitle 王三三 06-07 00:02 跟贴 7194 条

  就不和这个世界一样!这是三三有梗改版后的第10期,总第112期。

  周六深夜一点,刚和朋友喝完酒的我从酒馆里走出来,正准备走回两公里以外的家。

  哈,人品真好,看到对面稀稀拉拉地停着几辆色彩鲜明的共享单车,不用在北方的寒风中走半个小时回家了。

  但人行横道上正亮着红灯,旁边亮着倒数的“59……58……”,好像走完一分钟需要花一个世纪。

  我往人行道两边看了一眼,连一辆车的影子都没有,赶紧向街对面走过去。街对面隐约闪了一下光,我没在意,现在共享单车还挺注重安全,还装了反光板,挺好的。

  走到对面,我拿出手机扫单车上的二维码,手机上突然弹出了一条单车运营商的弹窗:“因为您的信用积分较低,您暂时无权使用共享单车,请尽快提高您的信用积分。”

  我沮丧地打开手机上的“信用助手”app,发现我有一条交通违法记录。原来刚刚过马路时的闪光不是来自单车的反光板,而是专门负责拍摄行人闯红灯的摄像头:AI可不管你是不是在横穿一条根本没人的路。

  更可怕的是,第二天早上坐公交去上班时,我发现我那张因为酒精涨红的大脸,出现在公交的移动电视上,上面挂着我的名字、公司和电话……

  对,没错,上面这个场景是我脑补的。但你以为这个英剧《黑镜》里才会出现的场景,真的离你很远吗?

  在英国,早在2011年就有185万个摄像头分布在酒吧、火车站、居民楼和街头。这意味着每32个人就有一个摄像头,一个普通人一天会出现在多达70个摄像头的镜头中。虽然其中警方使用的摄像头比例“只占”很小一部分,比如2011年整个苏格兰的警用摄像头“只有”2,200个,但英国人对《1984》中的老大哥怕得要死,倒霉的英国警方每年都要被文艺工作者们黑上好几轮。

英国涂鸦艺术家班克西的著名作品《你瞅啥》 图/wallpapersafari.com

  那中国有多少摄像头呢?我也不知道。但羊驼是很害羞的动物,我每次被人盯着都会觉得难受,每天骑共享单车回家的半小时,都要难受好几次。

  到家搜了搜,我更是背后一凉。都说建国后不许成精,摄像头明显不服啊,不信你看这些新闻:

  济南的那种摄像头,不但可以自动抓拍闯红灯的行人,还会把他们录入“公安交通管理诚信信息平台”,向工作单位或社区居委会提出警告,通过电视媒体和网络平台曝光。深圳的系统更厉害,在济南套餐以外,违章者的个人信用记录也会受到影响。就是说,如果你深夜闯了哪怕一次红灯,不但将被晒到公交车的移动屏幕上,理论上还可能没法骑共享单车、没法从银行借到钱,甚至没法坐高铁。

  其实,我最害怕的不是过马路闯红灯被计入个人信用记录,“带有偏见的人工智能”和无处不在的摄像头结合,才是最可怕的。

  我记得去年上海交大的两位研究者发布了一项研究,用深度学习技术分析了几百名罪犯和守法公民的身份证照,发现用这种算法得出的模型,分辨罪犯的成功率达到了86%。这种技术如果被应用在真正的司法领域,即使你没有犯法,只是碰巧长了一张像罪犯的脸,也有可能被抓去坐牢。

  你一定觉得我在危言耸听对吧?曾获得普利策奖的美国新锐媒体ProPublica去年写过过一篇名为《机器偏见》的报道,美国9个州的司法系统都使用了一家叫“北角”(Northpointe)公司提供的人工智能系统,这个AI通过嫌疑人的肖像、犯罪史、收入情况等判断嫌疑人再次犯罪的概率:如果AI判断嫌疑人未来犯罪的风险低,法官可能会参考这个数据在量刑上予以轻判,反之则重判。

  那么,你猜下面的两位曾入狱的小哥,哪位犯罪的风险比较高?北角公司人工智能的判断是,左边的黑人小哥属于高风险罪犯,右边的白人小哥则是低风险。

  但现实是被人工智能判定为低风险的白人小哥,在第一次入狱后三次因为携带毒品被捕,被判定高风险的黑人小哥却改过自新,再没有过入狱的纪录。惊喜不惊喜?意外不意外?

  这也不仅是个例:ProPublica的编辑替法官们算了算,黑人被AI冤枉的概率比白人高20%,白人被AI误判低风险又犯罪的概率比黑人高20%。也就是说,北角的人工智能没学到人类的优点,却遗传了人类的种族偏见。

  查资料查到这里,我有点害怕了:预防犯罪和恐怖主义袭击从来都是人类梦寐以求的,如果人类把带有偏见、尚不成熟的人工智能技术应用到预防犯罪上,充当法官,通过无处不在的摄像头去监视每个人的脸,草率地把那些“看起来不是好人”的人抓起来,那将会有多少会被冤枉入狱?即使被冤枉的窦娥最后沉冤得雪,又能如何追究一台处理器的责任?

  我想起了一部科幻片,预言式的描述了这种可能性。关注三三微信公号(搜索“网易王三三”或“wywss163”),回复“人工智能”,就能知道是看到这种未来多么恐怖了。

  我从来不是只反对科技发展的驼,我认为阿法狗战胜柯洁是人类对自身的超越,也认为面部识别技术能帮助警方更快的抓住危险的罪犯是好事。但在技术能变得更公正公平之前,千万别让它成为少数人奴隶社会的工具,或者放大人类已有偏见的工具。

  以上内容纯属胡诌,感谢你每天陪我一起幽默。网易新闻首发,未经授权不得转载。

热门跟贴
打开网易新闻,查看更多跟贴
大家都在看