ITBear旗下自媒体矩阵:

百度语音识别技术突破,巨头崛起,传统没落?

   时间:2016-11-03 13:56:47 来源:互联网编辑:星辉 发表评论无障碍通道

语音识别行业正面临新一轮的洗牌。

早在两年前,大家的普遍认识是语音识别领域将会催生出巨头公司。所以当苹果、Google、百度、三星和微软提出要收购当时全球语音领域的老大Nuance的时候,Nuance CEO Paul Ricci一口回绝。

但随之不久,苹果、Google和微软都选择了摆脱Nuance的依赖,自建团队开发语音业务。在那之后,Nuance的市场份额节节下跌,2014年还高达60%的市场份额,一年时间缩水一半只剩31.1%(Source:Research and Markets)。相比之下,Google语音识别的市场份额增长明显。

在英语领域,我们看到的趋势是作为搜索巨头的Google逐渐占据行业的主导权。那对于中文领域的市场,是否会重现在英语领域语音识别发生的历史呢?当百度重兵布局语音领域,是否会成为中国语音识别领域标准的制定者,占据行业主导权呢?

我们从多个角度分析。

1.语音识别新架构:用做图像的方法做语音

近些年来,我们发现在图像领域有一个明显的发展趋势:越来越深的卷积神经网络层级(CNN),从最初的8层,到19层、22层、乃至152层的网络结构。而随着网络结构的加深,ImageNet竞赛的错误率也从2012年的16.4%逐步下降到3.57%。

ImageNet竞赛中,越来越深的CNN不断刷新着其性能

那么,深度学习在图像领域的进展,是否能够在语音识别上有所突破呢?

通常情况下,语音识别是基于时频分析后的语音谱完成的。如果将卷积神经网络的思想应用在语音识别的声学建模上,我们就可以把时频谱当作一张图像来处理。而由于卷积神经网络的局部连接和权重共享的特点,它具有很好的平移不变性,所以可以将它应用在语音识别中,而且还能克服语音信号本身的多样性(说话人自身、以及说话人间、环境等)。

Deep CNN语音识别的建模过程

但这里遇到一个问题,虽然在ImageNet竞赛中得到广泛关注的Deep CNN结构能够显著提高性能,但由于无法实现实时的计算,其很难在产品模型中得到实际的应用。

一个解决方案是借鉴Residual连接的思想,训练一个数十层的包含Residual连接的 Deep CNN,以用于工业产品中。

百度对此做了对比实验,最终发现Deep CNN架构不仅能够显著提升HMM语音识别系统的性能,而且也能提升CTC语音识别系统的性能。在此同时,百度也尝试了将LSTM或GRU的循环隐层和CNN结合,这是相对较好的选择。

这也推导出了百度发布的新型语音识别架构:Deep CNN + LSTM + CTC。

模型结构采用:Deep CNN + Deep LSTM。

建模方式:基于CTC的端对端建模。

通过创新的架构,百度大幅提升了语音识别产品的性能,相对于工业界现有的CLDNN 结构,错误率相对降低了10%以上。

2.新架构推动语音大规模产业化

从历史来看,产品和系统真正的大规模使用和推广,一般都来自于基础性的变革和突破。

对于语音识别来说,真正能够实现大规模使用的系统,一定要满足:在不同场景、方言下的稳定性,大规模的训练能力,极短的训练时间,大大降低的机器耗费。这好比 Android 一样,稳定、支持海量应用和场景开发、开发时间短、开发成本低。

而Deep CNN和LSTM、CTC结合的架构,在以下几个方面有显著的优势:

1)更强的通用性。使用一个单独的算法完成从任务输入端到输出端的所有过程。

2)大规模训练的能力。能够在约10万小时的精准标注语音数据中完成训练。

3)大大降低服务成本。以CTC为例,它能够让语音识别解码的计算量降下来,光这部分成本就能降低近1倍。

4)适合工业界。据百度Deep Speech中文研发负责人李先刚介绍,百度不仅能达到近十万级的数据规模,而且能够支持高性能计算,这可以让优秀的模型直接移植到产品线中。

5)性能更优秀。以往语音系统将训练过程拆解,人为干预多,但效果不一定好。端对端模型减少了人为干预,直接从输入端到输出端,一般性能会更好。

6)层数越深,效果越好。引入了深层CNN的概念,语音识别的性能得到显著的提升,正如李先刚博士所言:‘The Deeper , The Better’。

李先刚博士特意提到了百度语音的研发侧重点。与学术研究不同,百度语音聚焦于技术的实际应用,技术难度和实现程度更高。针对语音识别产品而言,首先要具备在大规模语音数据库上体现性能提升,其次就是具有适合语音在线识别产品运行的模型。

正是基于以上这些优势,让百度语音识别真正成为大规模产业化的基础,带来真正的人机交互变革。

3.语音识别以量取胜的同时,也以质取胜

语音识别技术经历了长达60年的发展。2006年Hinton提出了深度置信网络,掀起了深度学习的热潮。2009年,Hinton以及他的学生D. Mohamed将深度神经网络应用于语音的声学建模,在小词汇量连续语音识别数据库TIMIT上获得成功。从2010年开始,微软的俞栋、邓力等学者首先尝试将深度学习技术引入到语音识别,随后逐渐成为了主流。

而在以深度学习的发展脉络下,语音识别的准确率和通用性,本质就在于:

数据量的多少,这很大程度来自于搜索量、使用量的规模;

算法的优劣,顶级人才在这方面有极其重要的作用;

计算能力的水平,尤其是在大规模产业化和成本因素下,FPGA等专业硬件的发展水平也非常重要。

而在这三方面的比拼中,巨头公司将会占据极大的优势,因为它们拥有最多的数据,最顶级的人才以及最强大的计算能力水平。所以当Google开放语音识别API 后,在英语语音识别的市场中,Google将比Nuance有更大的优势。

而在中文市场中,百度也将扮演着和Google在英语市场相似的角色。

4.传统专利池受到挑战,竞争回归技术

语音识别的模型算法每年都有很大的变化。就以百度自己的语音识别技术来说,2013 年语音识别技术主要还是基于美尔子带CNN模型,2014年发展出了Sequence Discriminative Training(区分度模型),2015年初发展出基于LSTM –HMM的语音识别,年底发展出基于LSTM-CTC的端对端语音识别系统,而现在把Deep CNN模型和 LSTM、CTC结合了起来。

百度语音识别技术每年迭代算法模型

在快速发展的技术下,很多公司选择了采取组建知识产权产业联盟的方法。2015年 11月,百度开放了上百项智能语音专利,和海尔、京东、中兴通讯、中国普天等 20 多家单位组建了智能语音知识产权产业联盟。

这种开放式创新和开放式知识产权许可的结合,也许会成为智能语音未来的产业核心模式。这也意味着传统语音的专利池,在快速发展、迭代的语音技术下,在更开放的语音联盟下,会失去过去的保护作用。

所以智能语音的未来发展,关键还是在于核心技术的突破,这也就来到了数据、算法和计算能力的比拼,这方面百度会有很大优势。

5.人工智能技术生态的重要作用

当Google发布了语音开放API,其对Nuance的打击是致命的。这不仅仅是因为Google在产品、技术上的优势,而且也来自于Google强大的人工智能技术生态,例如以TensorFlow为代表的深度学习引擎,因为大量的一线工作人员使用,其对语音识别领域的开发选择有强大的影响力。

当语音技术逐渐往大规模产业化发展时,公司的技术生态会非常重要。对于百度来说,9月份开源的PaddlePaddle,1月份开源的Warp-CTC,都对产业界有深远的影响。

基于上面的分析,我们认为语音识别将进入大规模产业化的时代。而在核心技术和能力的比拼下,语音识别也将进入巨头崛起,传统语音公司稍显没落的时代。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  网站留言  |  RSS订阅  |  违规举报  |  开放转载  |  滚动资讯  |  English Version
关闭
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群