打开

Google、Instagram、Twitter 前员工揭秘,互联网如何利用你的心理来对付你

subtitle
果壳 2021-02-24 20:32

来源 | APPSO

作者 | 吴淇

“时间就是金钱”这句谚语,在 2011 年被拍成了科幻片《时间规划局》。 电影构筑的未来世界中,“时间”完全等同于金钱,辛苦工作赚“时间”,再用“时间”买买买。

打开网易新闻 查看更多图片


电影《时间规划局》(2011)

好像只会出现在科幻片的奇思妙想,却在当下以另一种形式成为现实——我们的注意力和时间,暗地里被兜售给广告商赚取金钱。但这仅仅是冰山一角,屏幕那端藏着太多见不得人的谜团。

有多少次看到广告、收到推送,会觉得手机在窃听自己的生活?

明明是悄悄关注某人,还是会毫不遗漏收到他/她的动态。亲朋好友的生日总有及时的提醒,说不定还会有礼物推荐。甚至还有一个说法,对着男友的手机多念叨自己想要的礼物,男友就会收到相关推荐。

这一切背后的秘密,都在去年 9 月 9 日上映的《监视资本主义:智能陷阱》(以下简称《智能陷阱》),这部 Netflix 高分纪录片中得到揭晓。

《监视资本主义:智能陷阱》海报 | Netflix

虽然被定义为纪录片,看完这片子却不禁惊叹,纪录片还可以这样拍!

既有科幻片十足的虚构画面,又有贴合讲述的改编故事,还有借鉴剧情片的精彩剪辑。看了 app 标记后戳进去的这一段,不正是《梦之安魂曲》对毒瘾的描绘吗?





纪录片《监视资本主义:智能陷阱》



电影《梦之安魂曲》(2000)

而且还会不时来个打脸环节——那边 Facebook 创始人马克·扎克伯格刚声称“人工智能可以解决问题”,《数学杀伤性武器》(Weapons of Math Destruction)的作者 Cathy O’Neil 博士立马现身,有理有据地解释“这是骗人的”。

纪录片《监视资本主义:智能陷阱》中马克·扎克伯格和 Cathy O’Neil

看完片子疯狂安利的观众不在少数,在推特上搜索片名,就会看到一堆“你一定要看”、“你一定要看”、“你一定要看”……分享热情丝毫不亚于传教的狂热信徒。还有人将这部纪录片跟“开眼看世界”这个词语挂钩。

这部片子解释了远远超出为什么一分钟从 Google 搜索最佳沙发,下一分钟就会在 Facebook 信息推送中看到沙发广告这个问题。

——烂番茄上美联社马克·肯尼迪的热门评论

国人请自动将 Google 替代为百度,Facebook 替代为微博、小红书、抖音等等,是不是有那味儿了?读完接下来的揭秘,你也有望成为另一位 Cathy O’Neil 博士,振振有词地戳穿科技大佬们的谎言。

Netflix 的高招:用科技公司如何竞争注意力的揭秘,来赢取注意力

《智能陷阱》请来很多业界核心人物,曾服务过 Facebook、Instagram、Google、YouTube、苹果、推特、火狐、Pinterest……如果主演一栏只能写上一位,那必定是前 Google 设计道德伦理学家、人道技术中心的创始人特里斯坦·哈里斯(Tristan Harris)。

特里斯坦·哈里斯(Tristan Harris)

聊到特里斯坦与 Netflix 的“过节”,那得回到 2017 年特里斯坦在 TED 上发表的演讲《科技公司如何控制你的注意力》,将 Netflix 作为抨击对象,还引用 Netflix CEO Reed Hastings 那段时间说过的一句话:“我们最大的对手是 Facebook, YouTube 和睡眠”。

不少人误以为 Netflix 的竞争对手是网络媒体,但他的竞争对手名单上有所有会瓜分人类注意力的事物。



这些科技公司之间的竞争,特里斯坦也给出了简单的例子——YouTube 增加自动播放下一个视频的功能,来提升用户停留的时间,Netflix 看到后也开始自动播放下一集,Facebook 发现后自动播放推送中的所有视频,连用户按下播放键的片刻也要全数扼杀。



看似简单的功能设计,背后有一门不简单的学问,名叫劝服性技术。特里斯坦恰好就是这方面的天才,在谷歌工作期间他就负责这一块——名正言顺地用技术结合心理学,去左右人们的想法。

我们今天不停刷微博、淘宝的“刷”这个动作,因为“对方正在输入……”便在对话框内等待的行为,收到照片被圈、群里被 @ 之后会进入互动环节等等,都是被这群工程师精心设计过的,用来竞争用户花在自家产品上的时间。

Netflix 明明知道自己也是被抨击对象,却在揭秘上不懈努力。先在 2019 年拍了《隐私大盗》,就 Facebook 干扰川普大选、脱欧投票等政治活动进行揭秘,再在 2020 年上了这部《智能陷阱》,赚了无数观众的 94 分钟。

由科技公司主导、科技专家坐镇的《智能陷阱》,也在说服力和可信度上,给了观众一颗定心丸。

《智能陷阱》中的部分受访工程师

世界上最值钱的是数据,石油被挤到第二位了

特里斯坦在 TED 演讲的第一段描述非常硬核——他将屏幕那端比作控制室,里面有一群人在工作,如何去决定用户的思想和情感。《智能陷阱》则将这个如同存在于科幻片的房间,在影片里面做了出来。

在科技大咖持续讲解的同时,片子还虚构了一个受困于“智能陷阱”的家庭。其中名叫本的男孩还是一个学生,却已经是 Facebook 的重度上瘾者。他在屏幕那端,被工程师造出了一个仿若巫毒娃娃的模型。



看什么东西,看了多久,看的速度,都会被记录下来作为数据,打造越来越精准的模型。模型越精准,预判能力也会更优秀。预判能力用更通俗的话来解释,就是越来越像肚子里的蛔虫那般懂你。



我们在生活中或多或少会埋汰,身边亲近的人不懂自己。反过来思考,为什么这些平台可以这么懂我们?答案很简单,懂我们可以让它们赚钱,甚至于单靠懂我们就可以赚钱。

最有钱的公司就是技术公司,Google Docs、Facebook、亚马逊、Tesla。

这些公司成为世界上最有势力的公司,是因为去年数据在价值上超越石油。

数据是地球上最宝贵的资产。这些公司很值钱,因为他们在剥削人们的资产。

——前剑桥分析的商业发展总监布瑞特妮·凯瑟(Brittany Kaiser)在纪录片《隐私大盗》中的讲述

《让世界天翻地覆的数据》. 图片来自:纪录片《隐私大盗》(2019)

布瑞特妮曾经为参议员写了一个用来质询马克·扎克伯格的问题: “Facebook 的收益有多少直接来自将用户的个人数据货币化? ”一旁的朋友惊呼: “全都是”。

每到年末年初的时候,朋友圈分享的那些来自网易云、豆瓣、支付宝等平台的年度报告,不正是明晃晃的证据吗?

很多这种技术公司有三个主要目标。

有一个参与度目标,增加你的使用,让你一直滑动屏幕。

有一个增长目标,让你不断回来,尽可能多地邀请朋友,让他们再邀请更多的朋友。

还有一个广告目标,确保一切按照预期发展。我们尽量多地从广告上挣钱。

每一个目标都由一个算法驱动。算法的作用是找出,给你展示什么,让数据上涨。

——特里斯坦·哈里斯



影片在个性化定制世界的摧毁中结束

有了很多很多的数据,将用户的性格剖析完毕,能够预测用户的行为,如何换取商业价值?我们终于聊到最关键的一步:个性化定制。

个性化定制表面看上去是个褒义词,像测量体型定制衣服一样,量身定做了一个专属于我们每个人的内容页,根据我们的性格、喜好以及当下的需求,推送不同的信息。

维基百科就是一个反向的例子,百度百科也是一样的道理。

当你打开一个维基百科网页,你和别人看到的东西是一样的。所以,这是网络上少有的,我们统一共享的东西。

现在想象一下,维基百科说:“我们要给每一个人不同的个性化定义,有人给我们钱,让我们这样做。”维基百科就会监视你,会计算“我要做什么,才能代表一些商业利益让这个人产生一点改变?”对吧。

然后就会改变整个词条。你能想象吗?你应该能够想象得到,因为在 Facebook 页面上,就是这样的。你的 YouTube 推送,就是这样的。

——《立刻删除你社交媒体的十个观点》作者贾伦·拉尼尔(Jaron Lanier)

即便是两个非常亲近的朋友,他们两个有着完全相同的朋友圈子,他们会认为“我们在脸书上的新推送上,会看到完全相同的信息”。但事实远非如此,他们会看到完全不同的世界,因为这是基于计算机的计算,对每一个人来说,最完美的呈现。

——特里斯坦·哈里斯

反复迭代升级后,会个性化呈现给每个人最完美的世界。这个世界里,每一个人都认同你,在收到的推送消息中,每个人都跟你极其相似。让你认同的完美世界,会在你放松警惕的时候,反过来影响你,以实现它的商业目标与价值。

因为这跟量体裁衣不一样的是,我们没有花钱,只是用户,而广告商或者政客掏钱了,他们才是客户。客户才是社交媒体的“上帝”。

在片子里面虚构的小家庭里,妈妈想让孩子们摆脱手机上瘾的状态,但都失败了。

女孩艾拉砸碎锁住手机的玻璃罐,拿到房间里面自拍、修图、等点赞。点赞太少便删掉再拍、再修图、再发布。渐渐地,她开始无法接受自己真实的模样。

我们制作“点赞”按钮的时候,我们全部的动机是“我们可以在世界中传播积极和爱吗?”

时间快进到当下,青少年会因为没有得到足够多的点赞而抑郁。

这个想法或者会导致政治两极分化,当时是完全无法想象的。

——前 Facebook、Google 工程师、Asana 联合创始人 Justin Rosenstein

男孩本在放下手机的空虚三天后,重新沉迷到了社交网络中。之后,他还被推送的阴谋论信息所影响,因为人工智能会为了吸引人注意不惜推送虚假消息,直至在抗议集会中被捕。

这个故事结束的方式也颇有深意。屏幕那端的控制室被销毁了,“巫毒娃娃”被放了下来回到真实的状态。



不禁联想起电影《楚门的世界》,从出生便活在“直播”中的楚门,终于走出了“片场”这个虚构的世界。

电影《楚门的世界》(1998)

也许,我们与其对假想的未来中的人工智能感到担心, 不如解决当下就存在的人工智能问题, 就是那些争夺注意力的新闻推送。

解决这个问题 是解决其他问题的关键所在。归根到底,在一生中, 我们共同拥有的就是注意力和时间。时间会被我们自己充分利用吗?

——特里斯坦·哈里斯



在片子中,这些科技大咖对提出完全解决问题的方法也会摇头、叹气,但他们对个人也给出了一些很有用的小建议:


  • 关闭通知或尽可能减少不必要的通知,卸载不必要且浪费时间的 app


  • 使用浏览器扩展程序阻止推荐,不在 YouTube 等平台接收推荐的视频


  • 获取具有不同观点的信息来源,关注跟自己不同观点的人


  • 分享、点赞或评论前,先核查信息的真实性


  • 为自己以及孩子规划使用智能设备的时间



多亏了这群走出来发声的勇敢工程师,他们亲手搭建了让大家上瘾的数据世界,也担起自己的责任,离开那个世界,走到我们面前,让大家都成为知情者。只有知悉问题,才能在不久的未来走出困境。

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。
82赞
大家都在看打开应用 查看全部
网易热搜每30分钟更新
打开应用 查看全部
打开