您的位置:首页>>互联网

人工智能的极限?

发布时间:2018-05-17 09:21:43  来源:TechNews科技新报     采编:贺飞  背景:

  Facebook 非常擅长移除平台上的色情、暴力、犯罪等内容,社交巨头在 16 日公布了「年度透明度报告」(Facebook Transparency Report),详细列出各种违反社交准则内容被移除的比例,但详细观察后会发现,「仇恨言论」移除的比例相当低,难不成是世界和平,大家都口说好话不再攻击彼此了吗?不,这背后其实跟人工智能(AI)系统的能力极限有关。究竟为什么 AI 下围棋能赢人类、 AI 机器人都能获得公民权的现在,仍赶不上仇恨言论增生的速度呢?

  Facebook 公布年度透明度报告,仇恨言论移除比例最低

  在外界纷纷期待 Facebook 拿出魄力整顿平台仇恨内容的态势下,Facebook 大幅提高了今年(2018)内容审查团队的预算,预计在今年底前聘用 1 万名审查人员。

  16 日公布的「年度透明度报告」(Facebook Transparency Report)多达 86 页报告中,Facebook 公布今年第一季共删除了 5.83 亿个假帐号、8 亿 6,580 万则贴文,Facebook 将这些内容分为六大类,从数字来看,系统主动清除暴力内容比例是 86%、色情内容 96%,垃圾内容比例更高达 100%,令人意外的是,仇恨言论比例只有 38%,是所有类别最低的。

  仇恨言论方面,科技技术仍无法运作顺畅,仍需透过人工审查团队协助。第一季成功移除了 250 万则仇恨言论贴文,其中 38% 仇恨言论是由我们的科技揪出。──Facebook

  歧视用语使用情境不同,仇恨言论难判断

  但这其实不能完全责怪 Facebook,原因是目前人工智能(AI)对于仇恨言论定义的理解仍不够深刻。

  举例来说,歧视性用语在某些情况下也会用于戏谑、自我解嘲等目的,而这些用语大多只在特定语境(包括个人主观因素、地域差异、时代差异影响)才会产生歧视性意义,所以并没有明确标准可判定某种用语是否为歧视,人类对「贬义、侵略性的内容」判定很主观,甚至因人而异,不要说机器,甚至连人类自己判断可能都没统一的标准。

  Facebook 产品管理副总裁罗森(Guy Rosen)就点出其中的困难处:

  像是 AI 这类的科技,要准确判断所有有害内容还有一段路要走,举例来说,AI 还没有足够的能力,辨识一个人是在散布仇恨,或只单纯描述自身被伤害的经验,这可能会衍生出一些问题。

  ▲ 没有明确的标准可判定某种用语是否歧视,人类对「贬义、侵略性的内容」判定很主观,甚至因人而异。(Source:pixabay)

  除了用词本身,使用情境也是一大关键,假设有一个用户,只是单纯发文讲述他被当众羞辱的经验,描述的文字引用包含仇恨内容的原句,那这样的贴文算不算仇恨言论内容?应不应该强制移除?身为人类的我们都能同意这样的内容不算数,但 AI 又该如何理解这两者之间的细微差别呢?

  另外,从文化面来说,有些字眼也许在某些文化中是贬抑,但在另一种文化却没有这个意思,又或者是同形异义,这些又该如何让 AI 理解呢?

  扎克伯格乐观看待,5 到 10 年内开发新 AI 工具

  如同扎克伯格自己贴文所说:「我今年的首要任务是要让人们感到安全。」为了将伤害降到最低,即使拥有大量科技资源的 Facebook,仍倾向使用人工审查来把关内容。

  今年刚落幕的开发者大会 F8,Facebook 也谈到,「要完全理解人类的语境,还是需要透过人类的双眼,我们的团队会亲自审查,确定没问题。」

  ▲ 扎克伯格表示,未来 5 至 10 年内,Facebook 可开发出精准理解语意细微差异的 AI 工具。(Source:Facebook)

  扎克伯格也在听证会表示,他相信未来 5 到 10 年内,Facebook 可开发出能精准理解语意细微差异的人工智能工具,将能更准确标记仇恨言论,他对这样的未来相当乐观。




关注ITBear科技资讯公众号(itbear365 ),每天推送你感兴趣的科技内容。

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站首页 本文来源:TechNews科技新报

本文评论
上海移动大流量宽带融合套餐缘何倍受欢迎?“四新”成果惹人眼红!
魔都,中国发展最快的城市之一,无数个变化每一天都在生活在这里的人们身边发生。日新月异之中,总...
日期:11-23
华为云应用编排  手把手教您轻松搭建TensorFlow环境
随着全球科技变革的推进,人工智能成为各大公司的研究热点和战略重心。TensorFlow是谷歌推出的开源...
日期:11-23
20年一道坎,互联网巨头们的生死劫
欢迎关注“创事记”的微信订阅号:sinachuangshiji
日期:11-23
CCTV-1《生活圈》联合趣头条APP活动征集
11月22日CCTV-1《生活圈》栏目携手移动内容平台趣头条APP发起征集活动,主题为“第一次见丈母...
日期:11-22
中国网络安全细分领域矩阵图发布  安博通影响力持续上升
简介:安博通入选态势感知矩阵,综合排名第7位
  2018年11月21日,安全媒体安全牛首次发布《...
日期:11-22
这群人踏遍960万平方公里,拍下了16582张日常,告诉你祖国有多美!
无论生活在哪座城市,我们出门都离不开手机地图!只要打开手机,动一动手指就能找到你想要的目的地。...
日期:11-21
UC开创视频AI交互新模式  270万用户剁手“灌篮”圈球大作战
近日,频上热搜的篮球竞技类综艺节目《这!就是灌篮》决出总冠军,优酷超12亿总播放量,见证了热血篮...
日期:11-21
中德合作结出新硕果 人工智能助力粤港澳经济发展
作为新一轮产业变革的核心驱动力,当人工智能遇到“机遇之城”珠海,二者将擦出怎样的火...
日期:11-21
云知声 AI 全栈能力再获突破!人脸识别技术达业界领先水平
《经济学人》杂志称:许多硅谷公司以“全栈”(fullstack)而自豪。其原意指打造一套完整的...
日期:11-21
打造智慧生活场景  分布式路由Mesh WiFi技术开启家庭无缝覆盖时代
现在最新最有效的家庭WiFi组网方法,你知道是什么吗?无线扩展器、电力猫,高功率路由器…&hel...
日期:11-21
知道创宇赵伟:态势感知是承载网络安全产业的航空母舰
面对新的安全形势,传统安全体系正在遭遇瓶颈,需要进一步提升安全运营水平的同时积极的开展主动防...
日期:11-21
亚马逊直销苹果产品,小卖家躺着赚钱的机会不再
11月21日消息,据国外媒体报道,本月亚马逊与苹果达成了一项协议,亚马逊能够直销诸如iPhone XS、iP...
日期:11-21
从优秀到伟大  虎牙探索游戏直播平台新时代的使命
近日,虎牙(NYSE:HUYA)公布了2018年第三季度财报。在这个刚刚结束的季度,虎牙多项关键指标表现抢...
日期:11-19
KoiMiner 6.0盯上SQL Server服务器 腾讯智慧安全展开全面防御
作为一个远程桌面的端口,1433端口主要供SQL Server(微软公司开发的数据库系统)对外提供服务。由于...
日期:11-19
谷歌拟推出用户实名评价搜索结果功能
北京时间11月19日上午消息,据外媒“Search Engine Journal”报道,谷歌打算推出一项的新...
日期:11-19
互联网太老了 2030年有望出现新一代互联网
你可曾想过,当我们兴奋的畅谈美好智能时代的时候,我们的网络世界却还未到达现实世界的智慧?原因就...
日期:11-19
百度云计算中心深谙IDC发展之道 安全是目标 能耗是方向
随着《国务院关于加快发展节能环保产业的意见》、《国家绿色数据中心试点工作方案》等等政策的陆续...
日期:11-19
谷歌安卓应用防护增强:号称一个应用也不漏过
11月19日消息 据ZDNet消息,谷歌用于扫描用户手机所安装应用的服务Google Play Protect已经大大增强...
日期:11-19
海南首个5G基站开通:进入5G预商用时代
根据海南日报的报道,11月16日,海南移动在海口开通海南省首个5G基站,标志着海南进入5G预商用时代...
日期:11-19
中国游戏的“下半场”
这是最坏的时代,也是最好的时代。
  回望即将过去的2018,中国游戏产业是在冰火交集中度过...
日期:11-19