转:智能音箱大战全面开火,那么问题来了:如何成为一名全栈语音识别工程师?davidtym

11月16号,百度发布了渡鸦智能音箱和DuerOS开发板SoundPi,至此,国内再一名巨头加入智能音箱大战。迄今为止,国内战场上的巨头有阿里、京东、腾讯、百度、小米、科大讯飞等,国外则有苹果、微软、亚马逊、谷歌、脸书、三星等,这些巨头占据了全球市值的排名榜,同时发力争夺未来人工智能时代的语音入口,甚至亚马逊和阿里率先不惜代价开启了补贴大战。这些全球巨头的激烈竞争,将对未来十年产生极其重要的影响,同时,这更是新一波的职业快速发展机会。

语音智能当前的核心关键是声学问题和语义理解,随着市场需求的爆发,能够补齐其中一项技术短板的全栈语音识别工程师将会变成职场香饽饽,而且这类人才的培养成本非常高昂,至少会在未来十年内成为各大巨头和创业公司争抢的核心人才。

语音识别基础知识

【数学与统计学】

数学是所有学科的基础,其中的高等数学、数理方程、泛函分析等课程是必要的基础知识,概率论与数理统计也是语音识别的基础学科。

【声学与语言学】

声学基础、理论声学、声学测量等是声学方面的基础课程,有助于了解更多声学领域的知识。语言学概论、语言哲学、语义最小论与语用多元论、语法化与语义图等知识对于理解语言模型和语音交互UI设计非常有帮助。

【计算机学】

信号系统、数字信号处理、语音信号处理、离散数学、数据结构、算法导论、并行计算、C语言概论、Python语言、语音识别、深度学习等课程也是必备的基础知识。

语音识别专业知识

语音识别的知识体系可以划分为三个大的部分:专业基础、支撑技能和应用技能。语音识别的专业基础又包括了算法基础、数据知识和开源平台,其中算法基础是语音识别系统的核心知识,包括了声学机理、信号处理、声学模型、语言模型和解码搜索等。

【专业基础】

算法基础

声学机理:包括发音机理、听觉机理和语言机理,发音机理主要探讨人类发声器官和这些器官在发声过程中的作用,而听觉机理主要探讨人类听觉器官、听觉神经及其辨别处理声音的方式,语言机理主要探究人类语言的分布和组织方式。这些知识对于理论突破和模型生成具有重要意义。

信号处理:包括语音增强、噪声抑制、回声抵消、混响抑制、波束形成、声源定位、声源分离、声源追踪等。具体如下:

端点检测:端点检测,英语是VoiceActivityDetection,简称VAD,主要作用是区分一段声音是有效的语音信号还是非语音信号。VAD是语音识别中检测句子之间停顿的主要方法,同时也是低功耗所需要考虑的重要因素。VAD通常都用信号处理的方法来做,之所以这里单独划分,因为现在VAD的作用其实更加重要,而且通常VAD也会基于机器学习的方法来做。

声学模型:声学模型是语音识别中最为关键的部分,是将声学和计算机学的知识进行整合,以特征提取部分生成的特征作为输入,并为可变长的特征序列生成声学模型分数。声学模型核心要解决特征向量的可变长问题和声音信号的多变性问题。事实上,每次所提到的语音识别进展,基本上都是指声学模型的进展。声学模型迭代这么多年,已经有很多模型,我们把每个阶段应用最为广泛的模型介绍一下,其实现在很多模型都是在混用,这样可以利用各个模型的优势,对于场景的适配更加鲁棒。

语言模型:通过训练语料学习词之间的关系来估计词序列的可能性,最常见的语言模型是N-Gram模型。近年,深度神经网络的建模方式也被应用到语言模型中,比如基于CNN及RNN的语言模型。

解码搜索:解码是决定语音识别速度的关键因素,解码过程通常是将声学模型、词典以及语言模型编译成一个网络,基于最大后验概率的方法,选择一条或多条最优路径作为语音识别结果。解码过程一般可以划分动态编译和静态编译,或者同步与异步的两种模式。目前比较流行的解码方法是基于树拷贝的帧同步解码方法。

语音识别数据知识

数据清洗:主要是将采集的数据进行预处理,剔除不合要求的语音甚至是失效的语音,为后面的数据标注提供精确的数据。

数据标注:主要是将声音的信息翻译成对应的文字,训练一个声学模型,通常要标注数万个小时,而语音是时序信号,所以需要的人力工时相对很多,同时由于人员疲惫等因素导致标注的错误率也比较高。如何提高数据标注的成功率也是语音识别的关键问题。

数据管理:主要是对标注数据的分类管理和整理,这样更利于数据的有效管理和重复利用。

数据安全:主要是对声音数据进行安全方便的处理,比如加密等,以避免敏感信息泄露。

语音识别开源平台

目前主流的开源平台包括CMUSphinx、HTK、Kaldi、Julius、iATROS、CNTK、TensorFlow等,CMUSphinx是离线的语音识别工具,支持DSP等低功耗的离线应用场景。由于深度学习对于语音识别WER的下降具有明显的作用,所以Kaldi、CNTK、TensorFlow等支持深度学习的工具目前比较流行,Kaldi的优势就是集成了很多语音识别的工具,包括解码搜索等。具体的开源平台汇总如表1所示。

【支撑技能】

声学器件

计算芯片

声学结构

阵列设计,主要是指麦克风阵列的结构设计,麦克风阵列一般来说有线形、环形和球形之分,严谨的应该说成一字、十字、平面、螺旋、球形及无规则阵列等。至于麦克风阵列的阵元数量,也就是麦克风数量,可以从2个到上千不等,因此阵列设计就要解决场景中的麦克风阵列阵型和阵元数量的问题,既保证效果,又控制成本。

声学设计,主要是指扬声器的腔体设计,语音交互系统不仅需要收声,还需要发声,发声的质量也特别重要,比如播放音乐或者视频的时候,音质也是非常重要的参考指标,同时,音质的设计也将影响语音识别的效果,因此声学设计在智能语音交互系统也是关键因素。

【应用技能】

下面这三种识别,可以归为语音识别的范畴,也可以单独列成一类,这里我们还是广义归纳到语音识别的大体系,作为语音识别的功能点更容易理解。

语音识别现状和趋势

目前来看,语音识别的精度和速度比较取决于实际应用环境,在安静环境、标准口音、常见词汇上的语音识别率已经超过95%,完全达到了可用状态,这也是当前语音识别比较火热的原因。随着技术的发展,现在口音、方言、噪声等场景下的语音识别也达到了可用状态,但是对于强噪声、超远场、强干扰、多语种、大词汇等场景下的语音识别还需要很大的提升。当然,多人语音识别和离线语音识别也是当前需要重点解决的问题。

端到端的语音识别系统当前也没有大规模应用,从理论上来看,由于语音识别本质上是一个序列识别问题,如果语音识别中的所有模型都能够联合优化,应该会获取更好的语音识别准确度,这也是端到端语音识别系统的优势。但是从语音采集、信号处理、特征提取、声学模型、语音模型、解码搜索整个链条都做到端到端的建模处理,难度非常大,因此现在常说的端到端的模型基本还是局限于声学模型范畴,比如将DNN-HMM或者CNN/RNN-HMM模型进行端到端的优化,比如CTC准则和Attention-based模型等方法。事实上,端到端的训练,可以把真实场景的噪声、混响等也作为新特征来进行学习,这样可以减少对于信号处理的依赖,只是这种方法还存在训练性能、收敛速度、网络带宽等诸多问题,相对于主流的语音识别方法还没有取得明显的优势。

本文以科普为主,非常感谢国内语音识别领域各位伙伴的支持,文中若有不足之处,期待大家的指正!

【参考文献】

1.DeepLearning:MethodsandApplications,LiDengandDongYu

2.AutomaiticSpeechandSpeakerRecognition:LargeMarginandKernelMethods,JosephKeshetandSamyBengio

3.XuedongHuang,AlexAcero,Hsiao-wuenHon,SpokenLanguageProcessing

4.LawrenceRabiner,Biing-HwangJuang,FundamentalsofSpeechRecognition

5.DanjurafskyandJamesH.Martin,SpeechandLanguageProcessing

6.DynamicRoutingBetweenCapsules,SaraSabour,NicholasFrosst,GeoffreyE.Hinton

作者:陈孝良

作者简介:博士,声智科技创始人,专注声学前沿技术和人工智能交互,曾任中国科学院声学研究所副研究员。

追访问答:

AI科技大本营:用一句话总结您现在的创业,是什么?

陈孝良:我们一直专注声学前沿技术和人工智能交互,致力于实现“听你所言、知你所想”的人机交互愿景。

AI科技大本营:没想过自己做一个完整的产品?

陈孝良:我们当前主要提供软硬一体的远场语音交互解决方案,暂时不会考虑C端消费电子产品。我们虽然已经将远场语音交互技术大规模量产应用,但是还有很多技术难点需要突破,例如超远场、局部场和分布场的语音交互问题,解决这些问题仅靠算法和模型不行,需要从器件、芯片、算法、数据、应用等全链条考虑,难度非常大。

AI科技大本营:为什么选择创业呢?

AI科技大本营:最近融资的近亿元,具体怎么花呢?

陈孝良:我们融资主要目的还是拓展业务规模,同时在新技术研发方面重点投入。

AI科技大本营:语音智能行业,您觉得现在最紧缺的是什么人才?

陈孝良:我觉得有两类人才非常紧缺:

AI科技大本营:这样的人才该怎么培养呢?

陈孝良:就目前来说,这两类人才必须靠AI公司烧钱才能培养出来。AI架构师和AI产品经理现在来看还无法仅凭学习达到公司要求,必须要结合理论和实践辛苦耕耘,甚至不得不跳些坑才能成长为合格的人才。

AI科技大本营:如果市场上有好的AI架构师或AI产品经理,你愿意给多高的薪酬?

陈孝良:真正优秀的这两类人才,目前全球给出的Package超过百万也很正常。这两类人才的需求量未来会非常大,建议技术人员可以多往这两个方向转型,当然有些技术人员转型过程中可能会损失一些当前收益。

THE END
1.海尔黑猫投诉商家承诺2天内发货,旧冰箱以回收,5天商家都不发货,没有电话告知,后说没货了,但是页面依然可以购买!这是虚假销售!要求退一赔三 [投诉对象]海尔客服 [投诉要求]赔偿,改善服务,下架产品 0 0 0 已回复 正义喵2024-10-31 于黑猫投诉平台发起 天猫海尔官方旗舰店优惠活动纠纷 我于2024年10月22日在淘宝平台天猫https://jl.tousu.sina.com.cn/company/view/?couid=1657251084
2.洗衣机不存水的原因及处理方法介绍家用电器洗衣机是一种在日常生活中使用频率比较高的家用电器,因为现代社会的人们换洗衣服的频率比较勤,在夏天来说更是如此,如果全都需要人们用手来洗衣服,那大部分人们可能会生活在洗衣服的台子方便,所以大家对于脏衣服的处理都是直接交给了洗衣机,但是洗衣机也有出现问题的时候,其中常见的一个问题就是不存水,这种情况应该https://m.to8to.com/mip/yezhu/v97414.html
3.“春风送温暖就业送真情”2022年春风行动招聘会2022年2月7日一、河南旭华工业装备有限公司招聘 1、机械设计工程师1名,专科以上学历,要求机械专业毕业,具有从事液压支架相关工作经验,月工资5000-8000元。 2、质检工程师1-2名,要求具有液压支架相关工作经验,月工资4000-6000元。 3、生产主管1-2名,要求具有液压支架2年以上相关工作经验,善于生产管理,具体薪资面议。 https://wzjob.jzggjy.com/news/detail/301772.html
4.自己做家电清洗怎么接单的:基础还有一种方法就是直接掌握到物业公司,然后加入物业的群里面,在群里面发布信息,相信许多物业的人也是允许的。 想做空调清洗怎么样接单? 一般都是在社区发点小广告,然后发点小礼品之类的。一回生,二回熟 自己做家电清洗的经历? 我做了有10年家电清洗了吧,算是一个老师傅了,有自己的团队,每个月最少都有个3whttps://www.jw-sd.cn/view-8983-1.html
5.杭州啄木鸟家电清洗,平台接单后多次爽约不进行服务杭州啄木鸟家电清洗,平台接单后多次爽约不进行服务 机灵喵 于黑猫投诉平台发起 2023-05-29 20:03:50 5月28日14点55分在美团平台下单,后下午16点左右师傅给我致电,说他今天订单过量,今天不能及时上门服务(我定的是三台挂机空调清洗)。我理解他的工作并同意后与他预约29号下午五点半左右。我提前下班回来等https://tousu.sina.cn/complaint/view/17366709645/
6.上游联合京东送500万消费券:京东家电清洗爆单,清洗师傅从清晨忙到5月6日晚,身背数十斤重的清洗设备,张尚波来到沙坪坝区友谊村203号,敲响了住户何平的家。这是他当天第五单家电清洗业务。入夏以来,京东服务+的家电清洗业务已经爆单,其中空调和油烟机清洗业务占多数。 因为清洗订单较多,张尚波每天早上7点钟出门,要忙到晚上11点左右才能回家。 https://wap.cqcb.com/shangyou_news/NewsDetail?classId=2&newsId=2380524
7.家电清洗的“六大疑问”五、 家电清洗业务需要几个人做?要不要店面? 答: 家电清洗经验熟练的师傅一个人就能上门服务,新手最好两个人。 一个城市的市场,一家公司是完全不可能吃的下的 想成规模成标准的接单开店,最好有一个5-10人的队伍 前期店面装修都没多大必要,电话预约和网上接单是主要途径 http://www.zgjjyb.com/html/zhaoshang/yingli.html
8.双十一预热清单大公开,链接都给你们找好了!家电百亿补贴:https://pro.m.jd.com/mall/active/2c9yY12tBbfERQ 没错,双十一第二波预售开始了 这次又增加了新玩法: 分享抢1111元红包:11月4日、11月10日在预售玩法会场页面上点击挂件【1111元红包马上抢】进入活动,将预售会场页面分享给好友,好友点击回到预售会场页面助力之后分享者可获得一次抽奖机会,有机会https://m.douban.com/note/780513557/