AI发力助YouTube清除极端视频 但这只是起点
作者:海外创投-孟小白 来源:海外创投2017年08月03日 15:39:57

有一天,审查部门可能一个人类也不需要了。

互联网是一个开放的平台,极端恐怖分子不请自来。今年已经有不少大公司投诉,在YouTube投放的广告出现在极端分子的招募视频中。另外,Facebook计划雇佣3000多人的团队每天审查网站上的不良内容。

几个月前,Google宣布将使用更多的机器学习和人工智能技术甄别极端视频。近日,Google博客公布了结果:AI甄别和标记极端视频的能力远远超出人类。数据显示,AI在75%的情况下,都能比人类先甄别极端视频。调查人员表明,AI能够处理的视频数量是人类的两倍,而且这个差距随着系统升级会变得越来越大。

拥有了这项技术,YouTube的野心不止于甄别和删除极端视频、或者将用户跳转至其他内容。公司将为所有种类的视频制定更严格的限制;接下来的几周,Google的人工智能将被用来判断其他被举报的视频,例如仇恨言论、攻击性和暴力视频。就算这些视频没有直接违反平台的政策,他们也会被限制播放。这样技术还能够屏蔽评论、点赞和搜索优先权。

极端视频上传者和审查者就像在玩一场猫鼠游戏。在传统媒体时代,媒体是猫看守信息进出的大门,但是在互联网时代,猫少鼠多;即便猫最终还是可以抓到老鼠,但是老鼠在短暂时间内可能造成的破坏不可估量。

例如昨天,英国卡迪夫市一个闹市街区的户外广告牌被黑客攻击,并播放了大量攻击性信息,例如纳粹符号、极端伊斯兰的图片并宣称该地区为伊斯兰法的管辖范围。这件事情虽然没有对市民造成人身伤害,但是却令人十分担忧。

如果恐怖分子侵入了更多的广告牌,并且播放恐慌信息,那么人们的安全就会受到严峻的威胁。制止这样的情况非常需要AI的帮助,因为人类几乎不可能在第一时间发现这些视频,但是AI可以在监测到视频上传时就发出警报。当然,这其中对技术的要求应该会更加复杂;也许有一天,监测极端视频的AI会被加密在传播工具的硬件当中。

一方面,我们需要AI帮助赢得和极端分子的这场猫鼠游戏;另一方面,我又为老大哥是一个AI而感到深深的不安。当AI屏蔽对象不再只是极端视频时,你就必须得有穿越AI法眼的能力了。

关键词: 社交电商 FACEBOOK AI