打开网易新闻 查看更多图片

“绿网计划”来了!图为淘宝、闲鱼等同步上线的宣导页面

网商君

这是互联网上令人痛心的数据。

11月28日,2020数字化治理高峰论坛,阿里安全和百度安全公布了两组数据:阿里平台上一年有72亿非正常搜索,而百度前三个季度就有386.7亿。

什么叫非正常搜索?指的是那些可能对社会带来风险和不适的搜索行为,以软色情、破解游戏防沉迷系统、野生动植物,甚至毒品、自杀等为关键词进行搜索。这些搜索背后,有些是企图作恶,更多则是好奇或迷茫。

如何破解非正常搜索问题?在浙江省市场监督管理局指导下,阿里安全、阿里巴巴公益基金会、百度安全联合发起了“绿网计划”,淘宝、闲鱼、UC、高德、优酷、夸克等互联网应用也已经加入。

“以前你搜违禁词,出来的就是‘抱歉,无法显示’这样的空页面,今天之后,这些页面将会换成公益宣导页。”阿里巴巴集团首席风险官郑俊芳说。

比如,假如有人搜“象牙”,淘宝会给这位用户推送野生象濒危、呼吁保护大象的信息;假如有人搜“自杀”,淘宝会推送心理援助信息和咨询热线。

林志玲、佟大为、王珞丹、毛晓彤、赵奕欢等11位演艺界明星,则出任“绿网计划”形象大使,并通过录制寄语的方式呼吁大家关注。

用AI守护,致爱万物。

打开网易新闻 查看更多图片

河南13岁少年的故事

今年疫情期间,河南少年小伟(化名)居家学习,母亲每天督促他写作业,因没有完成母亲安排的作业,引发冲突,他一时想不开,产生轻生念头。

“这个东西吃多了能死嘛?”小伟向一家淘宝店的客服人员问道。几经交流,客服发现小伟言语间有轻生倾向,一边安抚,一边询问他的收货地址,并及时把情况反馈给阿里安全自杀干预师团队。

自杀干预专家武纲接到通知后,立即启动紧急干预程序,根据店铺客服提供的信息,排查小伟的下单情况,并联动平台客服向小伟所在的河南漯河当地警方报警。

报警信息经110转到漯河市公安局沙北分局治安大队一中队,队长胡广战根据客服提供的收货信息开展综合研判,联系到亲属。民警上门后吃了一惊,有轻生念头的小伟竟是一位13岁的男孩。

河南漯河警方发来的感谢信息

在各方努力下,从发现风险情况,再到民警入户干预,前后只用了一个多小时。

“当我们上门的时候,男孩母亲还不知发生这样的事情,听说事情经过以后,表示以后教育孩子时会注意方式方法,并关注孩子近期动向,做好孩子心理疏导。”胡广战说。

武纲结合以往干预的案例分析说,有自杀倾向的年轻人,大部分是冲动型的,和他们多聊聊,交谈过程多倾听,身边的亲友多给一些帮助和温暖,大多数人都能迈过那道坎。

重庆年轻女孩的故事

作为国内最大的电商平台,淘宝已成为感知社会情绪的一个触角。在发现有自杀倾向的人后,如何借助平台的力量,关爱他们,避免悲剧发生?

2019年7月,阿里安全牵头,联动阿里健康、阿里CCO(阿里巴巴集团客户体验事业群)等部门推出守护生命项目,建立心理危机干预机制,一方面利用人工智能技术感知风险,另一方面对商家开展专业培训。当商家发现风险,会及时安抚、劝阻,筑起第一道保护屏障,并通知阿里安全“自杀干预师”。紧急情况下,平台联动警方及时介入。

今年3月的一天,阿里CCO的瑞符(花名)接到来自商家的求助。

以下为商家和消费者的对话:

“我朋友圈看到了有人要自杀,你可以不要发货吗?”

“亲,通过您提供的手机号码,没有查到订单哦”

商家无法查到订单,但又认为这个事情很危险,立刻联系了阿里客服。

瑞符迅速查找订单信息,发现这位消费者确实在其他商家分别购买了用于轻生的不同商品,且部分商品已到货。

瑞符立刻联系商家拦截尚未发货的风险订单;同时,拨通了用户所在地重庆市涪陵区警方的110报警电话。

一场跨越千里的生死极速开始了。

涪陵区公安局荔枝派出所立即派民警前往消费者家中。但是民警到了收货地址发现,这并不是实际地址,拨打订单上的电话也一直未接。

民警开始在小区周边走访排查,两个小时后,终于找到了那位一时想不开的年轻女子。而直到民警上门,她父母才意识到,原来女儿有过这样的傻念头。

据她父母透露,女儿患有抑郁症多年,病情一直反复,时好时坏。原本想带女儿去看病,却因为疫情一直耽搁着。

警方反馈,女孩因为疫情一直在家闷着,这次原本好转的病情又恶化了。

经过这次事情,父母决定尽快带女儿去看病治疗。同时警方也带回了那个原本准备用于自杀、已经到货却还没来得及取回的物品。

几天后,重庆涪陵警方给瑞符打来电话,告知女孩目前情况稳定。涪陵警方还发来一封感谢信:“此次警企联动,接力相助,成功阻止女子轻生,及时挽回了一条年轻的生命,也挽救了一个幸福的家庭。”

打开网易新闻 查看更多图片

重庆涪陵警方给“守护生命”项目组发来感谢信

今年6月,在心理干预机制运行近一年后,阿里安全联合中国网络社会组织联合会、共青团中央维护青少年权益部、阿里巴巴公益等推出“守护生命计划”,国家精神卫生项目办公室还给予专业知识支持。此外,项目邀请邓伦、谭松韵等知名艺人担任关爱大使。

每一次求助都应该得到回应

在“守护生命”公益计划中,页面转化引导也发挥了关键作用。

“亲,你不孤单,我们和你在一起”。当用户在淘宝手机端搜索与自杀相关的内容时,会自动跳出“守护生命”宣导页面,在显著位置提示12355青少年服务热线及国家免费心理咨询热线。页面还设置了心理健康知识板块,引导有焦虑、失眠、情感障碍等特征的人士,掌握科学应对的方法。

国家精神卫生项目办公室常务副主任马宁说,中国抑郁症患者呈现增长趋势,但就诊率很低。因此,需要加强宣传教育,营造理解、关爱、互助的社会氛围。

自去年以来,“守护生命”公益已救回因抑郁症等原因而轻生的数千个鲜活生命。

如今,在“守护生命”公益计划的基础上,阿里安全、阿里巴巴公益基金会、百度安全联合发起了“绿网计划”。

据介绍,“绿网计划”关注的焦点是抑郁症等自杀人群的守护生命公益,珍稀野生动植物保护公益以及涉烟草、游戏沉迷、色情和毒品等未成年人保护公益领域。

对参与这一计划的各家互联网平台而言,除了对“黄、赌、毒”和作恶者的搜索行为做坚决管控,还需厘清到底哪些用户“请求”需要引导和帮助。比如,有些搜索可能是沉迷游戏的少年在无奈求助,也可能是因抑郁试图轻生的绝望呼救。

阿里巴巴集团首席风险官郑俊芳宣布“绿网计划”开启

每一次求助都应该得到回应,但回应不应该是空白的页面和冰冷的报错。项目发起代表方、阿里巴巴集团首席风险官郑俊芳说:“我们希望将这些时刻都在发生的非正常搜索,转化成为社会各界都能参与进来,一起做正向引导的公益项目。”

用“智理”实现“治理”

作为“绿网计划”的共同发起方,百度副总裁马杰表示,利用人工智能技术结合人工巡查,百度安全2020年前三季度治理全网以色情、博彩、电信网络欺诈、非法信息披露及交易为代表的各类有害信息网页高达386.7亿次。

此外,在世界儿童保护日、“互联护苗2020”专项行动中,百度安全也联合监管部门针对影响未成年人健康成长的有害信息,进行了专项治理。

浙江省市场监督管理局网监局局长金翔评价,把无法搜到的相关信息变成了一个个公益宣导,“绿网行动”迈出的是对网络治理由堵到疏的一大步,也是用新理念、新思维对数字化治理新模式的探索。“我们对阿里巴巴、百度等主动担当以及勇于创新的精神,应当给予高度的肯定和全力的支持。”

他还呼吁,有更多平台和企业参与进来,让网络治理从事后走向事前,从惩戒转向预防,用“智理”实现“治理”。