CN111508478A - 语音识别方法和装置 - Google Patents
语音识别方法和装置 Download PDFInfo
- Publication number
- CN111508478A CN111508478A CN202010271924.0A CN202010271924A CN111508478A CN 111508478 A CN111508478 A CN 111508478A CN 202010271924 A CN202010271924 A CN 202010271924A CN 111508478 A CN111508478 A CN 111508478A
- Authority
- CN
- China
- Prior art keywords
- language model
- decoding
- network constructed
- constructed based
- recognition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/28—Constructional details of speech recognition systems
- G10L15/30—Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/24—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being the cepstrum
Abstract
本公开的实施例公开了语音识别方法和装置。该方法的一具体实施方式包括:利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,第二语言模型的阶数低于第一语言模型;利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果。该实施方式实现了有助于提升对待识别语音的识别速度。
Description
技术领域
本公开的实施例涉及计算机技术领域,具体涉及语音识别方法和装置。
背景技术
语音识别技术(ASR,Automatic Speech Recognition)是目前发展迅速且逐渐应用于如工业、通信、医疗、电子产品等各领域的技术之一。例如,许多移动终端都具备语音助手以提供语音服务、地图应用中所使用的语音导航等等。
语音识别技术的目的通常是让机器通过识别和理解过程把语音转变为相应的文本。现有的一些语音识别方法中都是基于解码网络(或称解码器等)完成语音识别。解码网络是ASR中连接起声学模型、语言模型、发音词典等以得到语音识别结果的重要组件之一。
一些语音识别方法的识别过程通常是基于Composition(组合),Determinization(确定化),Minimization(最小化),Epsilon Removal(空转移去除),Weight Pushing(权重推移)等算法包括将声学模型、语言模型、发音词典表示成对应的WFST(Weight Finite-State Transducers,加权有限状态转换器/加权有限状态转换机),然后在其中寻找最优路径作为识别结果。
发明内容
本公开的实施例提出了语音识别方法和装置。
第一方面,本公开的实施例提供了一种语音识别方法,该方法包括:利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,第二语言模型的阶数低于第一语言模型;利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果。
第二方面,本公开的实施例提供了一种语音识别装置,该装置包括:第一识别单元,被配置成利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,第二语言模型的阶数低于第一语言模型;第二识别单元,被配置成利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果。
第三方面,本公开的实施例提供了一种电子设备,该电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面,本公开的实施例提供了一种计算机可读介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本公开的实施例提供的语音识别方法和装置,通过利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,然后利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果,并且设置第二语言模型的阶数低于第一语言模型从而在实现对待识别语音数据进行两遍解码的基础上,通过降低第二语言模型的阶数以降低对待识别语音数据的第一遍解码过程中的资源消耗,从而有助于提升对待识别语音的识别速度。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:
图1是本公开的一个实施例可以应用于其中的示例性系统架构图;
图2是根据本公开的语音识别方法的一个实施例的流程图;
图3是根据本公开的语音识别方法的又一个应用场景的示意图;
图4是根据本公开的语音识别方法的又一个实施例的流程图;
图5是根据本公开的语音识别装置的一个实施例的结构示意图;
图6是适于用来实现本公开的实施例的电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的语音识别方法或语音识别装置的实施例的示例性架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种客户端应用。人流浏览器类应用、地图类应用、购物类应用、搜索类应用、社交平台应用、语音服务类应用等。
终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如为终端设备101、102、103发送的待识别语音数据进行处理的后端服务器。服务器105可以对待识别语音数据进行识别,得到将识别结果,并将识别结果反馈给终端设备101、102、103。
需要说明的是,上述待识别语音数据也可以直接存储在服务器105的本地,服务器105可以直接提取本地所存储的待识别语音数据并进行识别,此时,可以不存在终端设备101、102、103和网络104。
需要说明的是,本公开的实施例所提供的语音识别方法一般由服务器105执行,相应地,语音识别装置一般设置于服务器105中。
还需要指出的是,终端设备101、102、103中也可以安装有语音识别类应用,终端设备101、102、103也可以基于语音识别类应用对待识别语音数据进行识别,此时,语音识别方法也可以由终端设备101、102、103执行,相应地,语音识别装置也可以设置于终端设备101、102、103中。此时,示例性系统架构100可以不存在服务器105和网络104。
需要说明的是,服务器105可以是硬件,也可以是软件。当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器105为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,其示出了根据本公开的语音识别方法的一个实施例的流程200。该语音识别方法包括以下步骤:
步骤201,利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果。
在本实施例中,语音识别方法的执行主体(如图1所示的服务器105)可以先利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络对待识别语音数据进行第一遍解码,得到第一解码结果。
其中,语言模型可以用于表示字序列发生的概率。语言模型可以采用N-Gram(N元文法)模型。N元文法假定一个字出现的概率仅与其前面的N-1个字出现的概率有关。
热词集可以由技术人员根据实际的应用需求和应用场景进行灵活设置。一般地,可以将对识别准确率要求较高的一些词和识别效果较差的一些词组成热词集。
作为示例,若应用场景中经常出现各种地名,那么就可以将各种地名组成热词集,以提升这些地名的识别率。
在语音识别中,解码网络通常基于语言模型、声学模型、发音词典等进行构建,并通过在解码网络中寻求最优路径作为语音识别结果。一般地,解码网络的表示方式可以根据实际的应用需求灵活设置。例如,可以利用加权有限状态转换器WFST表示解码网络。又例如,可以基于KenLM等工具中的表示方法表示解码网路。
可选地,基于第一语言模型构建的解码网络具体可以是基于第一语言模型、声学模型、发音词典等构建的WFST。
其中,WFST中的每个状态转移(即每条边)包括输入和输出两个标签,且每个状态转移具有对应的权重。每个状态转移表示在该状态对应的历史(即前n-1个词)的条件下出现跳转后的词的概率,而这个概率通常就可以作为该状态转移的权重。
在本实施例中,待识别语音数据可以是各种待识别的语音的特征。其中,语音的特征包括如MFCC(Mel-scaleFrequency Cepstral Coefficients,梅尔倒谱系数)、Fbank等等。
其中,利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络对待识别语音数据进行第一遍解码的过程一般可以为:在利用第一语言模型构建的解码网络对待识别语音数据进行解码的过程中,可以利用基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络调整(如提升)利用第一语言模型构建的解码网络中的属于热词集中的词对应的匹配概率。
具体地,可以由技术人员预先设置热词集中的各个热词分别对应的预设概率。同时,在第一遍解码过程中,比较基于第二语言模型构建的解码网络中的属于热词集中的词对应的匹配概率与该热词对应的预设概率的大小关系。若该热词对应的预设概率较大,则对利用第一语言模型构建的解码网络中的属于热词集中的词对应的匹配概率进行调整(如提升匹配概率)。若该热词对应的预设概率较小,则可以不调整利用第一语言模型构建的解码网络中的属于热词集中的词对应的匹配概率。
可选地,第一解码结果可以用于指示待识别语音数据的各候选识别结果以及各候选识别结果分别对应的匹配分值。
其中,匹配概率和匹配分值都可以用于表征对应的识别结果的准确率。一般地,可以从解码网络中的每条路径指示的识别结果中选取对应的匹配概率符合预设条件的识别结果作为候选识别结果,并根据对应的匹配概率确定候选识别结果对应的匹配分值。
一般地,第一解码结果可以用词图(Lattice)表示。其中,词图中对的每条路径都对应一个候选识别结果。
应当可以理解,匹配概率和匹配分值可以采用各种不同的表示方法。例如,可以将匹配概率的负对数作为匹配分值。此时,可以按照对应的匹配分值由小到大的顺序,从待识别语音数据的各识别结果中选取若干识别结果作为候选识别结果。
在本实施例中,第二语言模型的阶数可以低于第一语言模型。例如,第一语言模型可以为3-gram语言模型或4-gram语言模型。此时,第二语言模型可以为2-gram语言模型,即第二语言模型的阶数为2。
现有技术中,在对待识别语音数据进行第一遍解码时,单独加载的第二语言模型通常和第一语言模型是一样的,而动态加载语言模型通常是比较耗时且耗费内存的事件,因此,第一遍解码的过程通常速度较慢、资源占用率较高。
通过将第二语言模型设置的阶数设置为2,可以一定程度地降低一遍解码过程中单独加载第二语言模型的时间和内存占用率,从而有助于提升第一遍解码的速度。
步骤202,利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果。
在本实施例中,在得到第一解码结果之后,可以利用基于第三语言模型构建的解码网络对第一解码结果进行第二遍解码,以得到待识别语音数据的识别结果。其中第二遍解码的过程即是利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分(Rescore)的过程。
其中,基于第三语言模型构建的解码网络同样可以采用各种表示方式。例如,可以利用WFST表示解码网络,也可以利用KenLM中的表示方式表示解码网络等等。
一般地,对第一解码结果指示的各候选识别结果进行重打分的过程可以是重新确定各候选识别结果分别对应的匹配分值,然后根据各候选识别结果分别对应的匹配分值,确定待识别语音数据的识别结果。
可选地,第三语言模型的阶数可以高于第一语言模型。此时,基于第一语言模型对待识别语音数据进行粗糙的第一遍解码,然后基于更高阶的第三语言模型进行精细的第二遍解码,从而完成两遍解码过程,不需要构建一个过大的解码网络进行解码。由此,可以提升解码速度的同时,保证解码结果的准确性。
需要说明的是,为了便于描述不同的语言模型,将语言模型分别命名为第一语言模型、第二语言模型、第三语言模型,本领域技术人员应当理解,其中的“第一”、“第二”和“第三”并不构成对语言模型的特殊限定。
需要说明的是,上述构建解码网络的具体过程,以及具体的解码过程等都是目前广泛研究和应用的公知技术,在此不再赘述。
本公开的上述实施例提供的方法通过在对待识别语音数据的第一遍解码过程中,设置单独加载的第二语言模型的阶数低于第一语言模型的阶数,从而降低了加载第二语言模型的内存占用率,并提升加载第二语言模型的效率,有助于提升第一遍解码的速度,进而有助于提升对待识别语音的整体识别速度。
进一步参见图3,其示出了语音识别方法的又一个实施例的流程300。该语音识别方法的流程300,包括以下步骤:
步骤301,利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,第二语言模型的阶数为二,且对于基于第二语言模型构建的解码网络中的词,使用整数类型int记录该词的前一个词。
在本实施例中,第二语言模型可以为2-gram语言模型。这时,下一个词的出现只依赖于其前面的一个词。因此,对于每个出现的词,需要记录该词的前一个词作为历史条件。
现有技术中,由于第二语言模型通常和第一语言模型一样。例如,第二语言模型通常为4-gram语言模型或3-gram语言模型等。此时,对于每个出现的词,需要记录该词的前三个或两个词作为历史条件。
一般地,采用数组、向量等数据类型存储每个出现的词的历史。因此,随着状态转移的变换,需要不断地动态调整内存。例如,在跳转到下一个词时,需要先对数组或向量等进行内存扩展,以存储新的前一个词,同时还需要删除历史中最早的一个词。这样频繁的内存操作必然会导致解码速度较慢。
对于每个出现的词,通过采用int记录该词的前一个词作为历史,这样,每次状态转移的变换,都只需要对int进行重新赋值即可,就完全避免掉了对内存的频繁操作,从而有效地提升了解码速度。
步骤302,利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果。
上述步骤302的具体的执行过程可参考图2对应实施例中的步骤202的相关说明,在此不再赘述。
本公开的上述实施例提供的方法通过在对待识别语音数据的第一遍解码时加载二阶的第二语言模型,并采用int存储每个词的历史,从而在出现下一个词时,只需要对int进行赋值即可更新历史,而完全不涉及对内存的相关操作,从而极大地提升了第一遍解码的速度,进而提升语音识别的整体识别效率。
进一步参考图4,其示出了语音识别方法的又一个实施例的流程400。该语音识别方法的流程400,包括以下步骤:
步骤401,利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,第一解码结果基于利用第一语言模型构建的解码网络中的各边指示的识别结果对应的匹配分值和奖励分值确定。
在本实施例中,在第一遍解码过程中,在利用基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络对利用基于第一语言模型构建的解码网络中的属于热词集中的词对应的匹配概率进行调整的同时,还可以进一步设置奖励分值,以进一步提升期望识别的词的识别率。
其中,奖励分值的设置方式可以根据实际的应用场景灵活设置。例如,对于期望进一步提升识别率的词,可以预先针对该词设置奖励分值。此时,对于利用第一语言模型构建的解码网络中的各边指示的识别结果中的每个识别结果,可以先确定该识别结果是否包括期望识别的词,若包括,可以对该识别结果添加奖励分值。若不包括,则可以设置该识别结果添对应的奖励分值为零等。
又例如,若期望进一步提升针对属于热词集中的词的识别率,可以对属于热词集中的词添加奖励分值。
可选地,对于利用第一语言模型构建的解码网络中的各边指示的识别结果中的每个识别结果,可以根据该识别结果包括的、属于热词集中的词对应的分词数目确定该识别结果的奖励分值。其中,识别结果的奖励分值可以正比于其对应的分词数目。
其中,对于任一词,该词对应的分词数目可以指对该词进行分词后得到的分词的数目。举例来说,对于词“汽车”来说,分词后只得到“汽车”一个词,因此,“汽车”对应的分词数目为一。对于词“加长型汽车”来说,分词后可以得到“加长型”和“汽车”两个词,因此,“加长型汽车”对应的分词数目为二。
此时,对于待识别语音数据的每个识别结果,可以根据该识别结果对应的匹配概率和奖励分值综合确定该识别结果的匹配分值。应当可以理解,确定匹配分值的具体方法可以根据实际的应用需求灵活设置。例如,可以先根据识别结果对应的匹配概率计算对应的初始匹配分值,然后取初始匹配分值与奖励分值的总和作为识别结果的匹配分值。
在本实施例中,识别结果的奖励分值可以正比于其对应的分词数目。例如,可以设置识别结果的奖励分值等于其对应的分词数目乘以预设参数。其中,预设参数可以由技术人员预先设置。
在许多情况下,热词集通常是不断变化的。若针对热词集中的每个词,在解码过程中单独调整其对应的概率和奖励值会随着热词集的扩大而费时费力。
由于识别结果对应的分词数目越多,可以表征该识别结果对应的状态转移次数后者对应路径的边越多,因此,其所加的权重也可以越多,所以根据对应的分词数目为识别结果设置奖励分值,可以进一步提升对热词集中的词的识别准确率。而且这种方式也不需要额外的训练数据和训练过程。
步骤402,利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果。
上述步骤402的具体的执行过程可参考图2对应实施例中的步骤202的相关说明,在此不再赘述。
本公开的上述实施例提供的方法通过在解码过程中设置奖励分值,可以不增加额外的开销的情况下,进一步提升期望识别的词的识别率。尤其根据待识别语音数据的识别结果包括的属于热词集中对的词对应的分词的数目,为识别结果设置奖励分值,可以实现几乎无成本增加地提升对热词集中的词的识别准确率。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了语音识别装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例提供的语音识别装置500包括第一识别单元501和第二识别单元502。其中,第一识别单元501被配置成利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,第二语言模型的阶数低于第一语言模型;第二识别单元502被配置成利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果。
在本实施例中,语音识别装置500中:第一识别单元501和第二识别单元502的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201和步骤202的相关说明,在此不再赘述。
本公开的上述实施例提供的装置,通过第一识别单元利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,第二语言模型的阶数低于第一语言模型;第二识别单元利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果,从而降低了加载第二语言模型的内存占用率,并提升加载第二语言模型的效率,有助于提升第一遍解码的速度,进而有助于提升对待识别语音的整体识别速度。
下面参考图6,其示出了适于用来实现本公开的实施例的电子设备(例如图1中的服务器)600的结构示意图。图6示出的服务器仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开的实施例的方法中限定的上述功能。
需要说明的是,本公开的实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
根据本公开的一个或多个实施例,本公开提供了一种语音识别方法,该方法包括:利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,第二语言模型的阶数低于第一语言模型;利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果。
根据本公开的一个或多个实施例,第三语言模型的阶数高于第一语言模型。
根据本公开的一个或多个实施例,第二语言模型的阶数为二。
根据本公开的一个或多个实施例,对于基于第二语言模型构建的解码网络中的词,使用整数类型int记录该词的前一个词。
根据本公开的一个或多个实施例,第一解码结果用于指示待识别语音数据的各候选识别结果以及各候选识别结果分别对应的匹配分值。
根据本公开的一个或多个实施例,第一解码结果基于上述基于第一语言模型构建的解码网络中的各边指示的识别结果对应的匹配分值和奖励分值确定。
根据本公开的一个或多个实施例,基于第一语言模型构建的解码网络中的各边指示的识别结果对应的奖励分值通过如下步骤确定:根据识别结果包括的、属于热词集中的词对应的分词数目确定识别结果的奖励分值,其中,识别结果的奖励分值正比于其对应的分词数目。
根据本公开的一个或多个实施例,本公开提供了一种语音识别装置,该装置包括:第一识别单元,被配置成利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,第二语言模型的阶数低于所述第一语言模型;第二识别单元,被配置成利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果。
根据本公开的一个或多个实施例,第三语言模型的阶数高于第一语言模型。
根据本公开的一个或多个实施例,第二语言模型的阶数为二。
根据本公开的一个或多个实施例,对于基于第二语言模型构建的解码网络中的词,使用整数类型int记录该词的前一个词。
根据本公开的一个或多个实施例,第一解码结果用于指示待识别语音数据的各候选识别结果以及各候选识别结果分别对应的匹配分值。
根据本公开的一个或多个实施例,第一解码结果基于上述基于第一语言模型构建的解码网络中的各边指示的识别结果对应的匹配分值和奖励分值确定。
根据本公开的一个或多个实施例,基于第一语言模型构建的解码网络中的各边指示的识别结果对应的奖励分值通过如下步骤确定:根据识别结果包括的、属于热词集中的词对应的分词数目确定识别结果的奖励分值,其中,识别结果的奖励分值正比于其对应的分词数目。
作为另一方面,本公开还提供了一种计算机可读介质。该计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,第一解码结果用于指示待识别语音数据的各候选识别结果以及各候选识别结果分别对应的匹配分值,第二语言模型的阶数低于第一语言模型;利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果,其中,第三语言模型的阶数高于第一语言模型。
描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括第一识别单元和第二识别单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,第二识别单元还可以被描述为“利用基于第三语言模型构建的解码网络对第一解码结果指示的各候选识别结果进行重打分,得到待识别语音数据的识别结果的单元”。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种语音识别方法,包括:
利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,所述第二语言模型的阶数低于所述第一语言模型;
利用基于第三语言模型构建的解码网络对所述第一解码结果指示的各候选识别结果进行重打分,得到所述待识别语音数据的识别结果。
2.根据权利要求1所述的方法,其中,所述第三语言模型的阶数高于所述第一语言模型。
3.根据权利要求1所述的方法,其中,所述第二语言模型的阶数为二。
4.根据权利要求3所述的方法,其中,对于所述基于第二语言模型构建的解码网络中的词,使用整数类型int记录该词的前一个词。
5.根据权利要求1所述的方法,其中,所述第一解码结果用于指示所述待识别语音数据的各候选识别结果以及各候选识别结果分别对应的匹配分值。
6.根据权利要求5所述的方法,其中,所述第一解码结果基于所述基于第一语言模型构建的解码网络中的各边指示的识别结果对应的匹配分值和奖励分值确定。
7.根据权利要求6所述的方法,其中,所述基于第一语言模型构建的解码网络中的各边指示的识别结果对应的奖励分值通过如下步骤确定:根据识别结果包括的、属于所述热词集中的词对应的分词数目确定识别结果的奖励分值,其中,识别结果的奖励分值正比于其对应的分词数目。
8.一种语音识别装置,包括:
第一识别单元,被配置成利用基于第一语言模型构建的解码网络、基于预设的热词集构建的解码网络和基于第二语言模型构建的解码网络确定待识别语音数据的第一解码结果,其中,所述第二语言模型的阶数低于所述第一语言模型;
第二识别单元,被配置成利用基于第三语言模型构建的解码网络对所述第一解码结果指示的各候选识别结果进行重打分,得到所述待识别语音数据的识别结果。
9.一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010271924.0A CN111508478B (zh) | 2020-04-08 | 2020-04-08 | 语音识别方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010271924.0A CN111508478B (zh) | 2020-04-08 | 2020-04-08 | 语音识别方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111508478A true CN111508478A (zh) | 2020-08-07 |
CN111508478B CN111508478B (zh) | 2023-04-11 |
Family
ID=71864536
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010271924.0A Active CN111508478B (zh) | 2020-04-08 | 2020-04-08 | 语音识别方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111508478B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111933119A (zh) * | 2020-08-18 | 2020-11-13 | 北京字节跳动网络技术有限公司 | 用于生成语音识别网络的方法、装置、电子设备和介质 |
CN111968648A (zh) * | 2020-08-27 | 2020-11-20 | 北京字节跳动网络技术有限公司 | 语音识别方法、装置、可读介质及电子设备 |
CN113450803A (zh) * | 2021-06-09 | 2021-09-28 | 上海明略人工智能(集团)有限公司 | 会议录音转写方法、系统、计算机设备和可读存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102592595A (zh) * | 2012-03-19 | 2012-07-18 | 安徽科大讯飞信息科技股份有限公司 | 语音识别方法及系统 |
US20150279360A1 (en) * | 2014-04-01 | 2015-10-01 | Google Inc. | Language modeling in speech recognition |
CN108711422A (zh) * | 2018-05-14 | 2018-10-26 | 腾讯科技(深圳)有限公司 | 语音识别方法、装置、计算机可读存储介质和计算机设备 |
US10438591B1 (en) * | 2012-10-30 | 2019-10-08 | Google Llc | Hotword-based speaker recognition |
CN110544477A (zh) * | 2019-09-29 | 2019-12-06 | 北京声智科技有限公司 | 一种语音识别方法、装置、设备及介质 |
CN110610700A (zh) * | 2019-10-16 | 2019-12-24 | 科大讯飞股份有限公司 | 解码网络构建方法、语音识别方法、装置、设备及存储介质 |
CN110689881A (zh) * | 2018-06-20 | 2020-01-14 | 深圳市北科瑞声科技股份有限公司 | 语音识别方法、装置、计算机设备和存储介质 |
CN110797026A (zh) * | 2019-09-17 | 2020-02-14 | 腾讯科技(深圳)有限公司 | 一种语音识别方法、装置及存储介质 |
CN110879839A (zh) * | 2019-11-27 | 2020-03-13 | 北京声智科技有限公司 | 一种热词识别方法、装置及系统 |
-
2020
- 2020-04-08 CN CN202010271924.0A patent/CN111508478B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102592595A (zh) * | 2012-03-19 | 2012-07-18 | 安徽科大讯飞信息科技股份有限公司 | 语音识别方法及系统 |
US10438591B1 (en) * | 2012-10-30 | 2019-10-08 | Google Llc | Hotword-based speaker recognition |
US20150279360A1 (en) * | 2014-04-01 | 2015-10-01 | Google Inc. | Language modeling in speech recognition |
CN108711422A (zh) * | 2018-05-14 | 2018-10-26 | 腾讯科技(深圳)有限公司 | 语音识别方法、装置、计算机可读存储介质和计算机设备 |
CN110689881A (zh) * | 2018-06-20 | 2020-01-14 | 深圳市北科瑞声科技股份有限公司 | 语音识别方法、装置、计算机设备和存储介质 |
CN110797026A (zh) * | 2019-09-17 | 2020-02-14 | 腾讯科技(深圳)有限公司 | 一种语音识别方法、装置及存储介质 |
CN110544477A (zh) * | 2019-09-29 | 2019-12-06 | 北京声智科技有限公司 | 一种语音识别方法、装置、设备及介质 |
CN110610700A (zh) * | 2019-10-16 | 2019-12-24 | 科大讯飞股份有限公司 | 解码网络构建方法、语音识别方法、装置、设备及存储介质 |
CN110879839A (zh) * | 2019-11-27 | 2020-03-13 | 北京声智科技有限公司 | 一种热词识别方法、装置及系统 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111933119A (zh) * | 2020-08-18 | 2020-11-13 | 北京字节跳动网络技术有限公司 | 用于生成语音识别网络的方法、装置、电子设备和介质 |
CN111933119B (zh) * | 2020-08-18 | 2022-04-05 | 北京字节跳动网络技术有限公司 | 用于生成语音识别网络的方法、装置、电子设备和介质 |
CN111968648A (zh) * | 2020-08-27 | 2020-11-20 | 北京字节跳动网络技术有限公司 | 语音识别方法、装置、可读介质及电子设备 |
CN111968648B (zh) * | 2020-08-27 | 2021-12-24 | 北京字节跳动网络技术有限公司 | 语音识别方法、装置、可读介质及电子设备 |
CN113450803A (zh) * | 2021-06-09 | 2021-09-28 | 上海明略人工智能(集团)有限公司 | 会议录音转写方法、系统、计算机设备和可读存储介质 |
CN113450803B (zh) * | 2021-06-09 | 2024-03-19 | 上海明略人工智能(集团)有限公司 | 会议录音转写方法、系统、计算机设备和可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111508478B (zh) | 2023-04-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108630190B (zh) | 用于生成语音合成模型的方法和装置 | |
CN111508478B (zh) | 语音识别方法和装置 | |
CN111104482A (zh) | 数据处理方法和装置 | |
CN112509562B (zh) | 用于文本后处理的方法、装置、电子设备和介质 | |
JP6974421B2 (ja) | 音声認識方法及び装置 | |
CN111986655B (zh) | 音频内容识别方法、装置、设备和计算机可读介质 | |
CN111428010A (zh) | 人机智能问答的方法和装置 | |
CN112259089A (zh) | 语音识别方法及装置 | |
CN111078849A (zh) | 用于输出信息的方法和装置 | |
CN111968657B (zh) | 语音处理方法、装置、电子设备和计算机可读介质 | |
CN110675865B (zh) | 用于训练混合语言识别模型的方法和装置 | |
CN113378855A (zh) | 用于处理多任务的方法、相关装置及计算机程序产品 | |
CN112634904A (zh) | 热词识别方法、装置、介质和电子设备 | |
CN111858916A (zh) | 用于聚类句子的方法和装置 | |
CN107656627B (zh) | 信息输入方法和装置 | |
CN112017685B (zh) | 语音生成方法、装置、设备和计算机可读介质 | |
CN111933119B (zh) | 用于生成语音识别网络的方法、装置、电子设备和介质 | |
CN111652002B (zh) | 文本划分方法、装置、设备和计算机可读介质 | |
CN112652329B (zh) | 文本重对齐方法、装置、电子设备和存储介质 | |
CN114765025A (zh) | 语音识别模型的生成方法、识别方法、装置、介质及设备 | |
CN111126078B (zh) | 翻译的方法和装置 | |
CN111027332B (zh) | 生成翻译模型的方法和装置 | |
CN112530416A (zh) | 语音识别方法、装置、设备和计算机可读介质 | |
CN112307162A (zh) | 用于信息交互的方法和装置 | |
CN110808035B (zh) | 用于训练混合语言识别模型的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |