logo

人工智能成为Facebook打击恐怖主义的新武器

subtitle 网易智能06-17 17:36 跟贴 17 条

  【网易智能讯 6月17日消息】Facebook已开始利用人工智能技术,以阻止恐怖分子利用其网络进行相关活动。

  周四,公司官员在一篇博客文章中表示,Facebook将通过人工审阅和人工智能技术,确保宣扬恐怖主义的内容在还没接触到其浏览者之前就遭屏蔽。

  Facebook和Youtube在早前就已经利用了相关技术来屏蔽儿童色情内容。但在此之前,Facebook一直不愿意将这一技术应用到其他不那么黑白分明的内容上。在大多数情况下,Facebook只有在用户举报时才删除那些令人反感的内容。

  政府已向Facebook和其他互联网公司不断施压,要求它们阻止恐怖主义组织在其网页上发布宣扬恐怖主义或是“征兵”广告。本月早些时候,英国首相特雷莎·梅呼吁各国政府签署国际协议,以防止极端主义在网络上蔓延。一些提议的措施将要求公司对其网站上发布的资料负法律责任。

  Facebook全球政策主管Brian Fishman发布这篇博文中没有提到首相梅的提议。但文章中承认人们的质疑:“在最近的恐怖袭击之后,人们质疑科技公司在网络反恐方面的作用。我们想要对这些问题做出切实回应。我们同意社交媒体不应该成为恐怖分子发声的地方这一观点。”

  这一过程利用了图像识别技术,通过该技术,Facebook将人们上传的图片和视频和已知的恐怖主义图片和视频作对比。这意味着这些做对比的恐怖主义视频和图片要么是之前就被Facebook屏蔽过,要么是来自由Facebook、推特与Youtube共享的一个恐怖主义图片数据库。

  Facebook还对之前被屏蔽的那些宣扬恐怖主义的文章进行文本分析,找到这些文本的共同特点。之后,将这些特点录入机器学习系统之中,不断迭代,使其能够很快侦测到类似的帖子。

  Bickert和Bickert表示,当Facebook收到“恐怖主义内容”的举报时,公司会立即对所举报内容进行审查。此外,这篇博文还表示,在极端情况下,当系统发现了受重大伤害的证据时,会立即通知当局。

  但是人工智能仅仅只是该过程的一部分而已。这项技术目前还不能理解语言上以及不同语境间的细微差别,所以目前还是以人工审查为主。

  Facebook表示,超过150名雇员的“主要或全部工作内容就是打击网络恐怖主义”。这篇博文透露,这150人中包括反恐专家、前检察官、前执法人员、分析人士以及工程师。

  【英文来源:New York Post编译:网易见外智能编译平台 审校:Jack Cheng】

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。
热门跟贴
大家都在看