算法成为儿童色情帮凶?网友爆料称短视频平台发现儿童色情内容

subtitle 南方都市报03-27 00:04 跟贴 15657 条

算法,是当今时代无法回避的词语之一。在短视频平台上,它能了解一个人的喜好,自动推荐用户可能喜欢的视频或是感兴趣的人。

然而,也有人利用算法的这一特性来作恶。近日,网友王女士和赵女士(化名)在某知名短视频平台上发现了疑似儿童色情内容。她们“顺藤摸瓜”,在相关视频的推荐关注人、评论和喜好列表中,找出了更多的儿童色情内容甚至疑似恋童癖。

(注:恋童癖,通常是以儿童为对象获得性满足的一种性取向。)

1

多个账号以“父亲”“哥哥”的名义发布儿童软色情视频

王女士提供南都记者的资料显示,有一个名为“sangha6839128464”账号(现已被删除)发布了疑似“擦边球”的儿童色情视频,其中部分画面涉及儿童的私密部位和部分裸露身体。同时,视频评论中充斥着露骨的猥亵文字。

打开网易新闻 查看更多图片

更令王女士感到惊悚的是,在看到上述视频后,她通过视频评论、关注和喜好列表,“总会发现一批又一批新的有恋童倾向的用户”。其中部分用户的喜好列表几乎都是儿童视频。

在发现这些视频后,王女士曾在网上发帖爆料,受到网友关注。许多网友自发向短视频平台举报可疑账号,截至南都记者发稿时,部分账号已被封禁。

然而,被封禁的账号不过是冰山一角。

南都记者使用与王女士同样的方法,又发现了新一批的疑似有恋童倾向的用户。其中,一名资料显示为八岁的儿童用户拥有1.5万粉丝,累计获得近14万个赞。他发布的视频内容大多是一名男孩身着超短裤做出各类动作,有明显的儿童色情嫌疑。

另一名疑似发布儿童软色情的账号则主要拍摄儿童的足部,评论中多数是猥亵词汇,如 “心和身体总得要一个吧,既然心得不到,那就……”“师傅,可以传授我点找弟弟的秘诀吗”,等等。

南都记者注意到,在绝大多数疑似恋童癖的账户中,拍摄者都声称自己与被拍摄儿童是“父子”或“兄弟”关系。然而,也有网友在评论中提出质疑:如果拍摄者是孩子的亲人,为何要拍摄此类明显带有色情意味的视频?

2

多个短视频平台都存在儿童色情擦边球内容 更有人在平台隐晦兜售儿童色情片

南都记者用类似的方法在其他几个知名短视频平台上搜索,也发现了疑似儿童软色情的内容(见下图),可见,通过较为隐蔽的方式逃避审核发布儿童色情内容已经成为一个较为普遍的现象。

除了前述的视频发布者,平台上还存在着另一部分隐藏得更深的疑似恋童癖用户。他们的主页看似正常,形象或许是和蔼的父亲、温柔的哥哥、爱旅行的普通人……但他们有个共同点——频繁出现在疑似儿童软色情视频的评论中。

有用户在相关视频下留言问“为什么给我推荐未成年人”,另一用户则戏谑地回复称“大数据准就是没错”。

南都记者在实测中新建了账户并且关注了22名疑似恋童癖用户,并在接下来的两天中点击观看测试,首页推荐的视频就多数为儿童视频。其中一次,在南都记者连续刷完三个普通儿童视频后,突然出现了视频画面:疑似是一名穿着裤子的儿童,但镜头却正对着他的私密部位。该视频评论中再次出现了此前的疑似恋童癖用户。

此外,南都记者还发现,有人借机在平台上兜售儿童色情片。

该用户的账户内有儿童吐舌头等擦边球视频,账户资料显示为14岁的,简介为“你情我愿,来场各取所需的交易吧!”和QQ号码。南都记者与他取得联系后,他立即发了标题带有“13岁”等字眼的儿童色情片截图,并表示“10元一部,50元40部”。在南都记者发稿时,该男孩的账户简介又改成了“傍个大款哥哥做对象”。

3

算法成恋童癖帮凶在国外已有实证 专家称平台应承担辨别视频内容主体责任

爆料人赵女士告诉南都记者,在参与寻找恋童癖的过程中,她体会到了大数据的力量——当她关注某个恋童癖后,系统会自动推荐相关用户。

在南都记者的实测中,平台推荐的账户部分是疑似恋童癖账户,也有部分是普通儿童账户。但是这仍然意味着,恋童癖们只需通过社交网络和算法推荐列表,总能找到他们想要的儿童视频。

算法成为恋童癖的“帮凶”,在国外已有实证。有美国学者研究发现,美国大型视频网站YouTube的推荐机制,能引领恋童癖们观看更多的儿童视频。

在这项研究中,哈佛大学伯克曼克莱因互联网与社会中心(Berkman Klein Center for Internet and Society)的乔纳斯·凯泽(Jonas Kaiser)等人注意到了这样一个案例:在YouTube上,一部儿童游泳视频观看量突然猛增。他们发现,这是因为恋童癖此前看过其他裸露身体的儿童视频,于是算法将该游泳视频推荐给恋童癖们。

一名研究推荐算法的技术人员告诉南都记者,恋童癖们能够源源不断地看到视频,背后正是算法的一般推荐思路:根据他们的行为记录和兴趣,判定他们喜好儿童视频,再将其他类似的视频推荐给他们。

北京青少年法律援助与研究中心副主任于旭坤告诉南都记者,在上述案例中,平台要承担主体责任。今年3月1日新施行的《网络信息内容生态治理规定》中包含“网络信息内容服务平台”专章,其中规定,短视频平台需要先审后播,健全内容审核机制。

南都记者注意到,《规定》还明确,“采用个性化算法推荐技术推送信息”的网络信息内容服务平台应当“优化信息推荐机制,加强版面页面生态管理”。

4

能否利用技术打击恋童癖?技术人员称群体隐蔽增加打击难度

据介绍,该短视频平台已经上线了“青少年模式”,从审核、产品、内容等层面推出了多项措施,包括升级未成年人审核模型、组建未成年人专项审核团队、设置未成年人安全相关的专项举报入口等。同时,该平台也对不良内容采取机器审核与人工审核的方式,如有发现不良内容,平台会根据情节严重程度,采取审核不通过、永久封禁等处理。

然而,恋童癖群体还是通过发布“擦边球”的视频和评论等隐晦的方式,逃过了平台的审查。同时,算法似乎还为该群体提供了便利,能更顺畅地观看儿童视频和找到“同道中人”。

那么,是否能利用技术去打击恋童癖?该技术人员告诉南都记者,或许可以参考打击网络平台黄赌毒等言论的做法,成立专门的识别疑似恋童癖课题。技术人员在收集恋童癖的行为和评论后,建立模型来识别类似情况,平台可设定不允许此类行为或评论出现。

但这不是一件容易的事情。该技术人员坦言,“目前数据太少、人群更少而且隐蔽,难以定义和发现恋童癖”,企业方面也没有驱动力做此类调研。

乔纳斯·凯泽接受外媒采访时称,在恋童癖案例中的推荐视频流中,平台应让儿童难以去上传他们的视频。他也建议在儿童视频中禁用评论功能,同时认为应该重新考虑何时以及如何使用推荐算法。

需要指出的是,除了平台,家长也是打击恋童癖的重要一环。实际上,除了儿童软色情视频,普通用户发布的儿童视频也成为恋童癖们窥视的对象。但许多家长经常毫无防备心地发布孩子的视频,丝毫不清楚他们的子女成为了恋童癖们“意淫”的对象。

南都记者注意到,在部分儿童视频的评论中,家长并未对不良评论作出任何举动。于旭坤告诉南都记者,这是因为家长们缺乏对儿童的保护意识。她建议学校、互联网企业、媒体等教育引导父母学会保护儿童个人信息,正确履行监护职责。

采写:南都记者陈志芳

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
打开网易新闻,阅读体验更佳
大家都在看