您的位置:首页>>互联网

人工智能的极限?

发布时间:2018-05-17 09:21:43  来源:TechNews科技新报    编辑:贺飞  背景:

  Facebook 非常擅长移除平台上的色情、暴力、犯罪等内容,社交巨头在 16 日公布了「年度透明度报告」(Facebook Transparency Report),详细列出各种违反社交准则内容被移除的比例,但详细观察后会发现,「仇恨言论」移除的比例相当低,难不成是世界和平,大家都口说好话不再攻击彼此了吗?不,这背后其实跟人工智能(AI)系统的能力极限有关。究竟为什么 AI 下围棋能赢人类、 AI 机器人都能获得公民权的现在,仍赶不上仇恨言论增生的速度呢?

  Facebook 公布年度透明度报告,仇恨言论移除比例最低

  在外界纷纷期待 Facebook 拿出魄力整顿平台仇恨内容的态势下,Facebook 大幅提高了今年(2018)内容审查团队的预算,预计在今年底前聘用 1 万名审查人员。

  16 日公布的「年度透明度报告」(Facebook Transparency Report)多达 86 页报告中,Facebook 公布今年第一季共删除了 5.83 亿个假帐号、8 亿 6,580 万则贴文,Facebook 将这些内容分为六大类,从数字来看,系统主动清除暴力内容比例是 86%、色情内容 96%,垃圾内容比例更高达 100%,令人意外的是,仇恨言论比例只有 38%,是所有类别最低的。

  仇恨言论方面,科技技术仍无法运作顺畅,仍需透过人工审查团队协助。第一季成功移除了 250 万则仇恨言论贴文,其中 38% 仇恨言论是由我们的科技揪出。──Facebook

  歧视用语使用情境不同,仇恨言论难判断

  但这其实不能完全责怪 Facebook,原因是目前人工智能(AI)对于仇恨言论定义的理解仍不够深刻。

  举例来说,歧视性用语在某些情况下也会用于戏谑、自我解嘲等目的,而这些用语大多只在特定语境(包括个人主观因素、地域差异、时代差异影响)才会产生歧视性意义,所以并没有明确标准可判定某种用语是否为歧视,人类对「贬义、侵略性的内容」判定很主观,甚至因人而异,不要说机器,甚至连人类自己判断可能都没统一的标准。

  Facebook 产品管理副总裁罗森(Guy Rosen)就点出其中的困难处:

  像是 AI 这类的科技,要准确判断所有有害内容还有一段路要走,举例来说,AI 还没有足够的能力,辨识一个人是在散布仇恨,或只单纯描述自身被伤害的经验,这可能会衍生出一些问题。

  ▲ 没有明确的标准可判定某种用语是否歧视,人类对「贬义、侵略性的内容」判定很主观,甚至因人而异。(Source:pixabay)

  除了用词本身,使用情境也是一大关键,假设有一个用户,只是单纯发文讲述他被当众羞辱的经验,描述的文字引用包含仇恨内容的原句,那这样的贴文算不算仇恨言论内容?应不应该强制移除?身为人类的我们都能同意这样的内容不算数,但 AI 又该如何理解这两者之间的细微差别呢?

  另外,从文化面来说,有些字眼也许在某些文化中是贬抑,但在另一种文化却没有这个意思,又或者是同形异义,这些又该如何让 AI 理解呢?

  扎克伯格乐观看待,5 到 10 年内开发新 AI 工具

  如同扎克伯格自己贴文所说:「我今年的首要任务是要让人们感到安全。」为了将伤害降到最低,即使拥有大量科技资源的 Facebook,仍倾向使用人工审查来把关内容。

  今年刚落幕的开发者大会 F8,Facebook 也谈到,「要完全理解人类的语境,还是需要透过人类的双眼,我们的团队会亲自审查,确定没问题。」

  ▲ 扎克伯格表示,未来 5 至 10 年内,Facebook 可开发出精准理解语意细微差异的 AI 工具。(Source:Facebook)

  扎克伯格也在听证会表示,他相信未来 5 到 10 年内,Facebook 可开发出能精准理解语意细微差异的人工智能工具,将能更准确标记仇恨言论,他对这样的未来相当乐观。




关注ITBear科技资讯公众号(itbear365 ),每天推送你感兴趣的科技内容。

  声明:本文仅为传递更多网络信息,不代表ITBear观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页 本文来源:TechNews科技新报

本文评论
谢邀知乎,微软小冰发布知乎盐Club主题曲《我知我新》
5月16日,知乎收到一份特殊的“礼物”:一首由人工智能少女小冰作词并演唱的新歌《我知我...
日期:05-16
2018年三大收购预测:苹果收购特斯拉?
Dealogic的数据显示,截至2018年,全球并购交易总额达1.85万亿美元,而在未来也许有三笔交易将会成...
日期:05-15
512勒索风暴周年纪:那些反勒索的先行者和安全盾
电脑中所有文件突然无法打开,屏幕上显现出“缴纳赎金”的字样,众多高校毕业生的毕业论...
日期:05-14
服务器成勒索攻击重灾区 超五成缘于“弱口令”
从2017年5月爆发的 WannCry 开始,勒索病毒真正以嚣张之势走向了大众视野。与我们印象中偏向于勒索...
日期:05-14
特朗普对Ai重视不够 美科技界人士比政府更着急
随着人工智能技术越来越被认为是经济增长的新动力,各国都在为相关的技术研究和相关投入加码,美国...
日期:05-11
腾讯医疗的 AI 联合实验室,互联网医院的未来?
人工智能技术的迅速升温,为各行各业带来了突破性的变革。但由于医疗行业的低容错率和重要性,医疗...
日期:05-11
谷歌推行防沉迷机制,“新网瘾战争”吹响战歌
 Android P上线这一系列功能,意味着反沉迷不仅仅针对于某一款App,也不仅仅针对于某一款手机,而是安卓阵营的所有移动设备。
日期:05-11
爱奇艺自研DRM系统获ChinaDRM实验室认证 成国内首个获认可的网络视频平台
近日,爱奇艺自主研发的数字版权管理(DRM)系统获中国最权威的广播影视数字版权组织ChinaDRM实验室的...
日期:05-10
中国砸巨资美国坐不住 白宫邀百位商业领袖讨论AI
据国外媒体报道,为了应对中国人工智能技术的快速发展,来自谷歌、高盛、波音和CVS Health等在内40...
日期:05-10
QQ 消息“红色感叹号”出事故  这是要“搞死”多少人啊?
昨天晚间9点40分左右,腾讯QQ服务突然出现故障,具体表现为消息频频显示发送失败叹号,文件传输也不...
日期:05-10
DeepMind新论文:人工智能学会像哺乳动物那样抄近路
DeepMind新论文:人工智能学会像哺乳动物那样抄近路
日期:05-10
银川互联网医院监管平台正式上线 实时监管为互联网医院戴“紧箍”
5月8日上午,银川市大数据管理服务局与市卫生计生委联合召开发布会,宣布银川互联网医院监管平台正...
日期:05-09
微软想拿出 2500 万美元,用 AI 改变残障人士的生活
根据世界银行的数据,全球共有超过 10 亿的残疾人,很多时候,他们并不能像其他人那样享有科技带来的便利。
日期:05-08
新型“钓鱼邮件”攻击来袭 虚拟数字货币钱包成盗号木马新目标
近日,腾讯御见威胁情报中心监测到一批携带CVE-2017-11882漏洞文档的钓鱼邮件在全球范围传播,用户...
日期:05-08
雷军一文成热点引发回复潮,盘点那些回信的大佬们
昨天,小米公司提交招股书,确认将在港交所上市,同时雷军也发布了一篇题目叫《小米是...
日期:05-04
【喜讯】Huawei Pay联合羊城通推出“吸卡”服务
5月4日,Huawei Pay联合广州羊城通有限公司发布羊城通服务创新产品,即羊城通‘吸卡’服...
日期:05-04
企业微信两周年:用户数相比去年增长500%,80%中国500强企业已开通
5月4日,企业微信发布《2018智慧企业数据报告》。报告显示,相比去年,企业微信今年注册企业数量整...
日期:05-04
未来智能化商业峰会:五月合肥大幕再启,智能化商业大势已现
4月27日,未来智能化商业峰会首站在慈溪完美落幕。作为“AIoT新商业生态”暨峰会百城巡展...
日期:05-04
IPv6来了 再不搞好网络安全就真的落后了……
5月2日,工信部发布关于贯彻落实《推进互联网协议第六版(IPv6)规模部署行动计划》的通知,大力推进I...
日期:05-04
当物联网设备超过全球人口,云计算真的无所不能吗?
01 我们真的拥有近乎无限的计算能力吗
  二十年前,一位浙江的民营企业家傲娇地告诉媒体,汽...
日期:05-03