您的位置:首页>>业界动态

科技圈中X大未解之谜之一:谷歌BERT和百度ERNIE是什么关系

发布时间:2019-08-07 11:14:00  来源:互联网    背景:

  娱乐圈有八卦、科技圈也有不少瓜,比如今天想和大家探讨的这对科技圈CP。

  说到美国动漫《芝麻街》中的BERT,很多人就会自然而然想到他的好朋友ERNIE,在科技圈中的BERT和ERNIE也经常被同时cue到……

  有趣的是,昔日的“好朋友”竟然来自中美两家科技巨头,这个关系可以说是相当的微妙。

  谷歌BERT,对于混迹于科技圈的程序猿肯定不陌生,如果你的研究领域刚好是NLP,可能会对BERT有更深入的了解,它是去年由谷歌发布的预训练模型,曾在机器阅读理解顶级水平测试SQuAD1.1中表现优异。

  今年3月,百度推出知识增强的语义表示模型ERNIE,来自英文“Enhanced Representation from kNowledge IntEgration”的缩写,在自然语言推断、语义相似度、命名实体识别、情感分析、问答匹配等自然语言处理(NLP)各类中文任务上全面超越 BERT。

  现在ERNIE再次重大升级,发布了持续学习的语义理解框架ERNIE 2.0,及基于此框架的ERNIE 2.0预训练模型。继1.0后,ERNIE又在英文任务方面取得全新突破,在共计16个中英文任务上超越了BERT和XLNet, 取得了SOTA效果,可谓纵横中外、国货之光了。

C:\Users\lingmiao.yan\AppData\Local\Temp\WeChat Files\8bfba6e8836df7e5d5e50cad744d895.jpg

  BERT和ERNIE就在这种状况下相遇了,只要其中一个被媒体提及,那另一个绝对是如影随形。夸张的说一句BERT和ERNIE就像有天然的“绯闻”体质。

  BERT和ERNIE的原理,和小朋友通过做语文练习题来学习语言非常类似,BERT通过做海量的完型填空练习题学习人类语言,而ERNIE是通过做更多样、更复杂的练习题来加强语言的学习,例如,给打乱的句子排序,判断两个句子具有何种逻辑关系,判断两个句子是否表达同一个意思等。

  BERT和ERNIE不仅是各大科技媒体的“宠儿”,还在今年的中美两大科技盛会中被“点名”。

  在上个月的百度AI开发者大会中,百度CTO王海峰博士也在会上详细解读了ERNIE。作为一名实打实的中国开发者,一方面对于中国AI进展感到十分自豪,另一方也觉得BERT和ERNIE还能以这样的方式组CP简直愈来愈有趣。

C:\Users\XINYAN~1.HUA\AppData\Local\Temp\WeChat Files\04e19b756cad3c14abd1118fda2554f.jpg

2019百度AI开发者大会 百度CTO王海峰讲解ERNIE

  在更早的5月份谷歌I/O大会中,谷歌宣布推出全新的BERT语言学习模型,谷歌AI大牛Jeff Dean 似乎也在为BERT的新进展站台。

C:\Users\XINYAN~1.HUA\AppData\Local\Temp\WeChat Files\3bc825b1fb5230d6fcdde0df2f7c910.jpg

2019谷歌I/O大会 谷歌大神Jeff Dean讲解BERT

  开扒这么多BERT和ERNIE的“爱恨纠葛”。不过说真的,百度ERNIE的表现也的确惊艳,更新速度也快,看论文也能了解不少技术细节,百度在NLP领域还是相当有具备国际竞争力了。

  不得不说,中国AI发展的速度相当迅速,百度作为中国AI代表企业之一,在ERNIE推出之时就可以与谷歌BERT抗衡,并在多项中英文任务上超越BERT。相信ERNIE和BERT将持续在NLP领域为我们带来更多的惊喜,除了嗑不完的瓜,也有用不完的便捷。燃烧吧,新时代人工智能!

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站首页 本文来源:互联网

本文评论
头号玩咖参展2019世界VR产业大会 国务院副总理刘鹤莅临指导
2019年10月19日-21日, 2019世界VR产业大会在江西南昌举行。在同期举办的2019 VR/AR产品和应用展览...
日期:10-19
世界VR产业大会开幕 玖的揽获「中国VR50强企业」「VR/AR年度创新奖」两大奖项
10月19日,以“VR让世界更精彩——VR+5G开启感知新时代”为主题的第二届世界VR...
日期:10-19
开发者服务起风了:2019极光开发者大会,聚焦开发价值!
2019年10月19日,“2019极光开发者大会”在深圳召开,数千位互联网公司技术领袖、合作伙...
日期:10-19
华为:希望把VR/AR打造成下个智能手机产业
10月19日消息,2019世界VR产业大会在江西省南昌市举行。华为轮值董事长郭平发表了《打造VR/AR信息高...
日期:10-19
华为云受邀参加2019IDC中国数字化转型年度盛典,“5G+云+AI”助力企业数字转型
2019年10月18日,由IDC中国主办的“2019 IDC数字化转型年度盛典暨第四届中国数字化转型领军用...
日期:10-19
语音识别大拿Daniel Povey正式加入小米,将组团队开发下一代Kaldi
10月19日消息 据小米集团副总裁、小米技术委员会主席@崔宝秋-小米 消息,语音识别大拿Daniel Povey...
日期:10-19
蚂蚁金服共享智能平台打破数据孤岛,荣获“2019CCF 科技进步优秀奖”
10月18日,在2019中国计算机大会上,“蚂蚁金服隐私保护共享智能平台”荣获“CCF科...
日期:10-19
我国研发5款自主产权3D显卡:支持国产处理器及操作系统
   继国产处理器获得突破之后,国产GPU/显卡也取得了重大进展。
日期:10-19
华为开发者大会2020将于明年2月11日在深圳召开
10月19日消息 今日上午,据华为中国官方消息,华为开发者大会2020将于2020年2月11日-12日在深圳召开...
日期:10-19
Digitimes:英特尔将在2020年中发布Xe独显,采用10nm工艺
10月19日消息 根据TPU的报道,接近Digitimes的消息人士透露,英特尔将很快推出其首个10纳米独立显卡...
日期:10-19
AMD有望在11月5日发布新款线程撕裂者和TRX40芯片组
10月19日消息 根据VideoCardz的独家爆料,AMD计划发布三款Threadripper 3000处理器,分别是 3960X,...
日期:10-19
英特尔将于月底推出新款超低压处理器:10nm工艺,3D封装
10月19日消息 根据Notebookcheck的报道,英特尔将于2019年10月23日和24日在加州圣克拉拉的凯悦酒店...
日期:10-19
政企智能转型升级正当时 华为云打造西安智慧产业新高地
10月17日,由华为公司主办的“西安·选择不凡 华为云城市峰会2019”在西安如期举行...
日期:10-19
华为云依托5G+云+AI技术 加速政企转型升级
10月17日,“西安·选择不凡 华为云城市峰会2019”如期在西安举行。西安市市长李明...
日期:10-19
西安航天基地华为云人工智能创新中心正式发布
10月17日,西安·选择不凡 华为云城市峰会2019在西安举行,针对Cloud 2.0时代下的政企上云需...
日期:10-19
人才培养正当时,华为云联合7大高校发布西北鲲鹏人才培养计划
  10月17日,西安·选择不凡 华为云城市峰会2019在西安拉开帷幕,着眼西北地区科技创新发展,华...
日期:10-19
爱奇艺创新CDN系统奇速播荣获中国计算机学会 “CCF科学技术奖科技进步杰出奖”
10月17日-19日,由中国计算机学会(CCF)创办的2019中国计算机大会在苏州举办,爱奇艺融合边缘云的新...
日期:10-19
世界互联网大会开幕,UCloud优刻得展示企业上云新科技
10月18日上午,第六届世界互联网大会“互联网之光”博览会在浙江乌镇拉开帷幕。国家互联...
日期:10-19
Breeno语音“万物互融”丰富覆盖渠道,为开发者提供更多品牌精准客群
10月15日「OnePlus 7T 系列新品发布会」在北京举办。此次发布会除了发布了硬件端旗舰级一加手机,也...
日期:10-18
哈弗H6斩获第76个月销冠,不断刷新SUV市场销量记录
进入2019年下半年后,中国汽车市场发生了微妙的变化,轿车相较2018年依旧呈现下跌态势,而SUV异军突起,...
日期:10-18
  专栏介绍
王涵 的专栏
王涵发表的文章
积分:
自我介绍 :