ITBear旗下自媒体矩阵:

新武器!Facebook新AI系统宣布完成:轻易检测违规内容

   时间:2018-09-12 15:34:44 来源:新浪科技编辑:星辉 发表评论无障碍通道

(原标题:Facebook推出新AI系统:有助于检测仇恨言论)

北京时间9月12日,Facebook宣布开发出一款新型人工智能(AI)系统,可用于检测仇恨性言论。美国科技媒体CNET认为,这款“武器”的推出可谓恰逢其时,在Facebook面临内容审查的当下,会大有用处。

这一系统的代号为“Rosetta”,可帮助计算机阅读和理解每天发布到社交网络的数十亿张图像和视频。凭借这套新系统,Facebook可以更容易地发现平台上哪些内容违反了反仇恨言论规则。

通常情况下,计算机使用一种名为光学字符识别(OCR)的方法来识别图片或视频中的内容,但是,由于Facebook网信息庞大——每个月有22亿人使用该社交网络——OCR的缺点暴露无遗。因此,Facebook宣布建立一套更大规模的系统。

该系统同时适用于Facebook和Instagram,还可用于改进照片搜索和新闻流的表面内容。Rosetta通过从十多亿个图像和视频帧中实时地提取不同语言的文本,对网站内容实施监测。

随着Facebook在社交网络上对内容进行审查,这套系统肯定会派上用场。此前,Facebook网曾被指责对缅甸、斯里兰卡和印度的暴力事件负有一定责任。上个月,该社交网络表示,由于在Facebook平台发现虚假信息,该公司正在采取行动,阻止缅甸的“仇恨传播”,截止到目前,鉴于缅甸国内针对罗辛亚穆斯林的种族暴力仍在继续,Facebook已删除了18个帐户和52个与缅甸军方有关的网页。

今年7月,Facebook表示将开始删除旨在煽动或加剧暴力的虚假信息,包括书面帖子和受人操纵的图像。此前,Facebook只禁止直接调用暴力内容,当前的新政策还涵盖有可能激起身体伤害的假新闻。

上周,Facebook首席运营官雪莉·桑德伯格(Sheryl Sandberg)和Twitter首席执行官杰克·多尔西(Jack Dorsey)一起到国会作证,就公司为保护用户而设立的内容审查政策和安全措施进行阐述。

Facebook的首席执行官马克·扎克伯格过去经常说,正在寻求利用人工智能技术,以便积极主动地检测平台上令人讨厌的内容,而不是等待人们去标记举报。但是当该公司开发这项技术时,他又说,社交网络正在雇用两万名人类主持人来监管平台上的有害信息。

此外,Facebook星期二还表示,正在向自动翻译工具集添加新的语言。新近增加的24种新语种包括豪撒语、乌尔都语和尼泊尔语,至此,翻译语言总数已超过125种。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  网站留言  |  RSS订阅  |  违规举报  |  开放转载  |  滚动资讯  |  English Version
关闭
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群