CN113870848A - 语音建模单元的构建方法、装置和计算机设备 - Google Patents

语音建模单元的构建方法、装置和计算机设备 Download PDF

Info

Publication number
CN113870848A
CN113870848A CN202111456505.5A CN202111456505A CN113870848A CN 113870848 A CN113870848 A CN 113870848A CN 202111456505 A CN202111456505 A CN 202111456505A CN 113870848 A CN113870848 A CN 113870848A
Authority
CN
China
Prior art keywords
modeling unit
modeling
token
unit table
updated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111456505.5A
Other languages
English (en)
Other versions
CN113870848B (zh
Inventor
李�杰
王广新
杨汉丹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Youjie Zhixin Technology Co ltd
Original Assignee
Shenzhen Youjie Zhixin Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Youjie Zhixin Technology Co ltd filed Critical Shenzhen Youjie Zhixin Technology Co ltd
Priority to CN202111456505.5A priority Critical patent/CN113870848B/zh
Publication of CN113870848A publication Critical patent/CN113870848A/zh
Application granted granted Critical
Publication of CN113870848B publication Critical patent/CN113870848B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/06Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/063Training
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3343Query execution using phonetics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/205Parsing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/237Lexical tools
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/02Feature extraction for speech recognition; Selection of recognition unit
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/06Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/063Training
    • G10L2015/0631Creating reference templates; Clustering

Abstract

本申请提供了一种语音建模单元的构建方法、装置和计算机设备,构建系统以发音音素为基础(即以初始建模单元表为基础),通过扩展生成建模单元的方式(即选取更新建模单元,并以此得到更新建模单元表),从而充分结合了发音特点,使得最终构建的更新建模单元表能够充分利用发音信息。并且,由于最终的更新建模单元表中包含了扩展后的建模单元,扩展了建模单元的类别数目,从而使得应用于语音识别任务时,能够有效减少帧序列到建模单元序列任务中后者的长度,进而降低了语音识别中网络学习的难度,并提升了识别准确度。进一步的,本申请可以根据自身需求限制更新建模单元表中建模单元的规模,从而满足资源受限设备的需求。

Description

语音建模单元的构建方法、装置和计算机设备
技术领域
本申请涉及语音识别技术领域,特别涉及一种语音建模单元的构建方法、装置和计算机设备。
背景技术
语音识别算法在终端设备部署时,建模单元的选择或设计,需要满足终端设备算力和内存的限制。以英文语音识别为例,常用的建模单元选择音素或者字(word级别)。在算力和内存受限设备上部署时,存在如下不足:
一、字级别建模单元种类过多,不满足内存限制;
二、音素类别数目较小,(不带音调的音素一般是39类)粒度较小,表达能力偏弱,因此生成的label序列过长,增加了网络学习的难度。
发明内容
本申请的主要目的为提供一种语音建模单元的构建方法、装置和计算机设备,旨在解决现有语音识别算法的建模单元不适用于资源受限设备,或者表达能力较弱的弊端。
为实现上述目的,本申请提供了一种语音建模单元的构建方法,包括:
S1:获取初始建模单元表和训练文本语料,并根据所述训练文本语料中各个token的第一出现频次,生成词频字典,其中,单个所述token对应所述训练文本语料的单个单词,单个所述token包含若干个音素单元;
S2:根据所述词频字典生成建模单元任务参数,并根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列,单个所述建模单元序列包括若干个建模单元;
S3:基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次,所述token的子串由该token所包含的所有音素单元基于该token对应的建模单元序列拆分得到;
S4:将各所述子串按照各自对应的出现频次进行降序排列,并从排列后的各所述子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到所述初始建模单元表,得到更新建模单元表;
S5:循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建。
本申请还提供了一种语音建模单元的构建装置,包括:
获取模块,用于获取初始建模单元表和训练文本语料,并根据所述训练文本语料中各个token的第一出现频次,生成词频字典,其中,单个所述token对应所述训练文本语料的单个单词,单个所述token包含若干个音素单元;
解析模块,用于根据所述词频字典生成建模单元任务参数,并根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列,单个所述建模单元序列包括若干个建模单元;
计算模块,用于基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次,所述token的子串由该token所包含的所有音素单元基于该token对应的建模单元序列拆分得到;
筛选模块,用于将各所述子串按照各自对应的出现频次进行降序排列,并从排列后的各所述子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到所述初始建模单元表,得到更新建模单元表;
循环模块,用于循环迭代所述解析模块、所述计算模块和所述筛选模块执行的方法,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建。
本申请还提供一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述方法的步骤。
本申请还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一项所述的方法的步骤。
本申请中提供的一种语音建模单元的构建方法、装置和计算机设备,构建系统首先获取初始建模单元表和训练文本语料,并根据训练文本语料中各个token的第一出现频次,生成词频字典,其中,单个token对应训练文本语料的单个单词,单个token包含若干个音素单元。然后,根据词频字典生成建模单元任务参数,并根据建模单元任务参数和初始建模单元表,将各token解析为各自对应的建模单元序列,单个建模单元序列包括若干个建模单元。构建系统基于各个token分别对应的第一出现频次,以及各个token的子串分别对应的第二出现频次,计算得到各个子串的第三出现频次,token的子串由该token所包含的所有音素单元基于该token对应的建模单元序列拆分得到。构建系统将各子串按照各自对应的出现频次进行降序排列,并从排列后的各子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到初始建模单元表,得到更新建模单元表。最后,构建系统循环迭代上述步骤,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成语音建模单元的构建。本申请中,构建系统以发音音素为基础(即以初始建模单元表为基础),通过扩展生成建模单元的方式(即选取更新建模单元,并以此得到更新建模单元表),从而充分结合了发音特点,使得最终构建的更新建模单元表能够充分利用发音信息。并且,由于最终的更新建模单元表中包含了扩展后的建模单元,扩展了建模单元的类别数目,从而使得应用于语音识别任务时,能够有效减少帧序列到建模单元序列任务中后者的长度,进而降低了语音识别中网络学习的难度,并提升了识别准确度。进一步的,本申请可以根据自身需求限制更新建模单元表中建模单元的规模,从而满足资源受限设备的需求。
附图说明
图1是本申请一实施例中语音建模单元的构建方法的步骤示意图;
图2是本申请一实施例中语音建模单元的构建装置的整体结构框图;
图3是本申请一实施例的计算机设备的结构示意框图。
本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
参照图1,本申请一实施例中提供了一种语音建模单元的构建方法,包括:
S1:获取初始建模单元表和训练文本语料,并根据所述训练文本语料中各个token的第一出现频次,生成词频字典,其中,单个所述token对应所述训练文本语料的单个单词,单个所述token包含若干个音素单元;
S2:根据所述词频字典生成建模单元任务参数,并根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列,单个所述建模单元序列包括若干个建模单元;
S3:基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次,所述token的子串由该token所包含的所有音素单元基于该token对应的建模单元序列拆分得到;
S4:将各所述子串按照各自对应的出现频次进行降序排列,并从排列后的各所述子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到所述初始建模单元表,得到更新建模单元表;
S5:循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建。
本实施例中,构建系统初始化建模单元表,选取39个基础的音素作为初始的建模单元,从而形成初始建模单元表。并且,构建系统调取用户录入或预存的训练文本语料,然后通过映射工具(比如g2p)将训练文本语料映射为对应的音素序列。单个token对应训练文本语料的单个单词,每个token以音素为单元,中间用下划线连接,不同的token之间用空格分开。比如 hey snips --->'HH_EY', 'S_N_IH_P_S',其中HH_EY是一个token,S_N_IH_P_S为一个token。构建系统统计训练文本语料中各个token的第一出现频次,生成词频字典(词频字典即包含了各个token分别对应的第一出现频次)。构建系统根据词频字典中各个token分别对应的第一出现频次生成建模单元任务参数,比如频次阈值,建模单元最大长度(在实际应用中,建模单元最大长度也可以由用户自定义),方便后续建模单元生成任务的筛选。构建系统根据建模单元任务参数中的建模单元最大长度,以及初始建模单元表,将各个token解析为各自对应的建模单元序列,单个建模单元序列中包含若干个建模单元。具体地,构建系统首先按照单个token中各个音素单元的排列顺序,顺序筛选数量与建模单元最大长度一致的若干个音素单元组成第一建模单元,然后判断第一建模单元是否包含于初始建模单元表中。如果第一建模单元包含于初始建模单元表中,则将第一建模单元加入建模单元序列中(初始的建模单元序列为空白序列);如果第一建模单元没有包含于初始建模单元表中,则将第一建模单元排序最末的音素单元去除,并判断去除排序最末的音素单元后的第一建模单元是否包含于初始建模单元表中。此时,若去除排序最末的音素单元后的第一建模单元包含于初始建模单元表中,则将去除排序最末的音素单元后的第一建模单元加入建模单元序列中。构建系统按照上述规则顺序地、不重复地拆分单个token,直至得到包含单个token所有音素单元的建模单元序列;由此,构建系统解析得到各个token各自对应的建模单元序列。构建系统基于各个token分别对应的若干个建模单元,将各个token进行拆解,得到各token分别对应的多个子串。然后根据各个子串在单个token中的第二出现频次,以及各个token的所述第一出现频次,统计得到各个子串分别对应的第三出现频次(第三出现频次表征子串在整个训练文本语料中总的出现频次)。构建系统将各个子串按照各自对应的出现频次进行降序排列,然后从排列后的各个子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到初始建模单元表(比如选择排序前30个子串,这30个子串即为第一子串,作为更新建模单元加入到初始建模单元表中),对初始建模单元表进行扩展更新,得到更新建模单元表。构建系统循环迭代步骤S2—S4对应的处理方法,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,通过循环迭代逐步扩展更新建模单元表,并逐次剔除建模单元表中无意义的建模单元,直至某一次的更新建模单元表符合预设条件(比如某一次的更新建模单元表所包含的建模单元的数量大于或等于数量阈值;或者当前次的更新建模单元表与上一次的更新建模单元表之间的相似度大于相似度阈值),则停止循环迭代,完成语音识别任务所需的语音建模单元的构建(即最终次的更新建模单元表的扩展更新)。使用时,模型训练系统根据最终次的更新建模单元表,将训练语料映射为整数id,即可使用该更新建模单元表进行语音识别训练。
本实施例中,构建系统以发音音素为基础(即以初始建模单元表为基础),通过扩展生成建模单元的方式(即选取更新建模单元,并以此得到更新建模单元表),从而充分结合了发音特点,使得最终构建的更新建模单元表能够充分利用发音信息。并且,由于最终的更新建模单元表中包含了扩展后的建模单元,扩展了建模单元的类别数目,从而使得应用于语音识别任务时,能够有效减少帧序列到建模单元序列任务中后者的长度,进而降低了语音识别中网络学习的难度,并提升了识别准确度。进一步的,本申请可以根据自身需求限制更新建模单元表中建模单元的规模,从而满足资源受限设备的需求。
进一步的,所述基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次的步骤,包括:
S301:基于各所述token分别对应的若干个所述建模单元,将各所述token进行拆解,得到各所述token分别对应的多个所述子串;
S302:根据各所述子串在单个token中的所述第二出现频次,以及各所述token的所述第一出现频次,统计得到各所述子串分别对应的所述第三出现频次。
本实施例中,构建系统基于各个token各自对应的若干个建模单元,将各个token进行拆解,得到各个token分别对应的多个子串。以token :a_b_c_d_e为例进行说明,a_b_c_d_e对应的建模单元序列为:a b_c d e(其中,a,b_c,d,e为4个建模单元);则将a_b_c_d_e拆解为12个子串:a,a_b,a_b_c,a_b_c_d,a_b_c_d_e ;b,b_c,b_c_d,b_c_d_e;d,d_e(此处b_c为建模单元,故直接跳到了d开始);e。构建系统按照各个子串在单个token中的第二出现频次,以及各个token分别对应的第一出现频次,统计得到各个子串分别对应的第三出现频次。比如在上述所列举的例子中,token 中子串a的第二出现频次为1,包含有子串a的token在训练文本语料中的出现次数为100;则子串a对应的第三出现频次为100。
进一步的,所述建模单元任务参数包括建模单元最大长度,所述根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列的步骤中,单个所述token解析为建模单元序列的步骤,包括:
S201:按照所述token中各所述音素单元的排列顺序,顺序筛选数量与所述建模单元最大长度一致的若干个音素单元组成第一建模单元;
S202:判断所述第一建模单元是否包含于所述初始建模单元表中;
S203:若所述第一建模单元包含于所述初始建模单元表中,则将所述第一建模单元加入建模单元序列中;
S204:若所述第一建模单元没有包含于所述初始建模单元表中,则将所述第一建模单元排序最末的音素单元去除,并判断去除排序最末的音素单元后的第一建模单元是否包含于所述初始建模单元表中;
S205:若去除排序最末的音素单元后的第一建模单元包含于所述初始建模单元表中,则将所述去除排序最末的音素单元后的第一建模单元加入建模单元序列中;
S206:按照步骤S201—S205对应的规则,顺序地、不重复地拆分所述token,直至得到包含所述token所有音素单元的建模单元序列。
本实施例中,构建系统将各个token解析为各自对应的建模单元序列的逻辑相同,下面以单个token的解析过程为例进行详细说明。构建系统首先按照token中各个音素单元的排列顺序,顺序筛选数量与建模单元最大长度一致的若干个音素单元组成第一建模单元。然后,以初始建模单元表为基准,判断第一建模单元是否包含于初始建模单元表中(即判断初始建模单元表中是否存在于第一建模单元相同的建模单元)。如果第一建模单元包含于初始建模单元表中,则将第一建模单元加入建模单元序列中(初始的建模单元序列为空白序列)。如果第一建模单元没有包含与初始建模单元表中,则将第一建模单元中排序最末的音素单元去除,并判断去除排序最末的音素单元后的第二建模单元是否包含于初始建模单元表中。如果去除排序最末的音素单元后的第一建模单元包含于初始建模单元表中,则将去除排序最末的音素单元后的第一建模单元加入建模单元序列中。构建按照上述规则顺序地、不重复地拆分该token,直至得到包含该token所有音素单元的建模单元序列。下面以token为a_b_c_d_e(其中a、b、c、d、e为音素单元,不是表示单个字母)为例进行具体说明,假设建模单元最大长度为3,首先判断第一建模单元a_b_c是否在初始建模单元表里;若在,则在建模单元序列中添加a_b_c,下一个第一建模单元则跳到d开始继续解析(即下一个第一建模单元为d_e)。若a_b_c不在初始建模单元表里面,则去除排序最末的音素单元c,检查a_b 是否在初始建模单元表里,若a_b在初始建模单元表中,则在建模单元序列中添加a_b,下一个跳到c(即下一个第一建模单元为c_d_e),按照上述规则继续解析;若a_b不在初始建模单元表里,则直接将a添加到建模单元序列里,下一个跳到b(下一个第一建模单元为b_c_d),按照上述规则继续解析,依次顺序拆解,直至建模单元序列中包含a、b、c、d、e 5个音素单元。
进一步的,所述建模单元任务参数包括频次阈值,所述循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建的步骤,包括:
S501:从所述词频字典中筛选出第一出现频次的最大值和第一出现频次的最小值;
S502:计算所述第一出现频次的最大值和所述第一出现频次的最小值的均值,得到频次阈值。
本实施例中,构建系统在迭代循环过程中,每次都需要根据建模单元任务参数中的频次阈值,淘汰初始建模单元表中出现频次小于频次阈值的建模单元(这部分建模单元为无意义单元)。具体地,构建系统从词频字典中筛选出第一出现频次的最大值和第一出现频次的最小值,然后计算第一出现频次的最大值和第一出现频次的最小值两者的均值,得到所需的频次阈值,方便后续建模单元任务的筛选。
进一步的,所述循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建的步骤,还包括:
S503:在迭代循环过程中,基于步骤S3获取当前次的所述初始建模单元表中各个第一建模单元分别对应的第四出现频次;
S504:从各所述第一建模单元中,筛选出第四出现频次小于频次阈值的若干个第二建模单元剔除。
本实施例中,在迭代循环过程中,构建单元通过步骤S3统计得到各个子串分别对应的第三出现频次(第三出现频次表征子串在整个训练文本语料中总的出现频次),而当前次的初始建模单元表所包含的各个第一建模单元同样包含于各个子串中(由步骤S301、S302可知,初始建模单元表中各个第一建模单元也属于所有子串中的一部分),由此可以从中筛选出各个第一建模单元分别对应的第四出现频次。然后,将各个第一建模单元分别对应的第四出现频次与频次阈值进行比对,从而筛选出第四出现频次小于频次阈值的若干个第二建模单元,并将这些第二建模单元从初始建模单元表中剔除(这些第二建模单元为无意义单元),从而提高当前次的更新建模单元表的有效性。优选的,短建模单元要减去包含它的对应的长建模单元个数;举例说明,比如频次阈值为400,长建模单元a_b_c对应的第四出现频次为500个,短建模单元a_b对应的第四出现频次为1200个,长建模单元a_b_c和短建模单元a_b均可以作为新的建模单元候选,计算长建模单元a_b_c的同时,要更新a_b的第四出现频次计数为1200-500=700。需要注意的是,本实施例所述的剔除初始建模单元表中出现频次小于频次阈值的建模单元,不包括最初始的39个基础的音素作为的建模单元。
进一步的,所述预设条件,包括:
S505:判断当前次的所述更新建模单元表所包含的所有第三建模单元的数量是否大于数量阈值;
S506:若当前次的所述更新建模单元表所包含的所有第三建模单元的数量大于数量阈值,则判定当前次的所述更新建模单元表符合预设条件,并停止循环迭代。
本实施例中,构建系统在每次更新扩展得到新的更新建模单元表后,判断当前次的更新建模单元表所包含的所有第三建模单元的数量是否大于数量阈值。如果当前次的更新建模单元表所包含的所有第三建模单元的数量大于数量阈值,则判定当前次的更新建模单元表符合预设条件,构建系统停止循环迭代,完成语音建模单元的构建。比如,数量阈值为100个,当前次扩展后的更新建模单元表所包含的第三建模单元的数量为120个,则构建系统判定当前次的更新建模单元表符合预设条件,停止循环迭代。优先的,更新建模单元表中各个第三建模单元是按照各自对应的出现频次进行降序排列(即排序越靠近的第三建模单元,出现频次越高),为了满足数量阈值的要求,构建系统将超出数量阈值的、排序靠后的若干个第三建模单元剔除。比如上述所举例子中,数量阈值为100个,当前次的更新建模单元表所包含的第三建模单元的数量为120个,则将更新建模单元表中排序100位之后的20个第三建模单元剔除。
进一步的,所述预设条件,还包括:
S507:根据当前次的所述更新建模单元表中排序前第二预设数量个第四建模单元,和当前次的所述初始建模单元表中排序前第二预设数量个第五建模单元,判断当前次的所述更新建模单元表和当前次的所述初始建模单元表之间的相似度是否大于相似度阈值;
S508:若当前次的所述更新建模单元表和当前次的所述初始建模单元表之间的相似度大于相似度阈值,则判定当前次的所述更新建模单元表符合预设条件,并停止循环迭代。
本实施例中,构建系统可以依据另一预设条件判断是否停止循环迭代,具体地:构建系统根据当前次的更新建模单元表中排序前第二预设数量个第四建模单元,和当前次的初始建模单元表(即上一次的更新建模单元表)中排序前第二预设数量个第五建模单元,判断当前次的更新建模单元表和当前次的初始建模单元表之间的相似度是否大于相似度阈值。如果前次的更新建模单元表和当前次的初始建模单元表之间的相似度大于相似度阈值,则判定当前次的更新建模单元表符合预设条件,构建系统停止循环迭代。比如从当前次的更新建模单元表中筛选排序前100个第四建模单元,和当前次的初始建模单元表中排序前100个第五建模单元进行比对,假设这100个第四建模单元和第五建模单元中有95个相同,则当前次的更新建模单元表和当前次的初始建模单元表之间的相似度为95%。假定相似度阈值为90%,由于95%大雨90%,则判定当前次的更新建模单元表符合预设条件。优选的,假设当前次的初始建模单元总共有200个第四建模单元,构建系统可以按照数量阈值的要求,顺序筛选符合数量阈值的第四建模单元作为最终的建模单元表(比如筛选排序前100个第四建模单元作为最终的建模单元表)。
参照图2,本申请一实施例中还提供了一种语音建模单元的构建装置,包括:
获取模块1,用于获取初始建模单元表和训练文本语料,并根据所述训练文本语料中各个token的第一出现频次,生成词频字典,其中,单个所述token对应所述训练文本语料的单个单词,单个所述token包含若干个音素单元;
解析模块2,用于根据所述词频字典生成建模单元任务参数,并根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列,单个所述建模单元序列包括若干个建模单元;
计算模块3,用于基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次,所述token的子串由该token所包含的所有音素单元基于该token对应的建模单元序列拆分得到;
筛选模块4,用于将各所述子串按照各自对应的出现频次进行降序排列,并从排列后的各所述子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到所述初始建模单元表,得到更新建模单元表;
循环模块5,用于循环迭代所述解析模块2、所述计算模块3和所述筛选模块4执行的方法,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建。
进一步的,所述计算模块2,包括:
拆解单元,用于基于各所述token分别对应的若干个所述建模单元,将各所述token进行拆解,得到各所述token分别对应的多个所述子串;
统计单元,用于根据各所述子串在单个token中的所述第二出现频次,以及各所述token的所述第一出现频次,统计得到各所述子串分别对应的所述第三出现频次。
进一步的,所述建模单元任务参数包括建模单元最大长度,所述解析模块2,包括:
第一筛选单元,用于按照所述token中各所述音素单元的排列顺序,顺序筛选数量与所述建模单元最大长度一致的若干个音素单元组成第一建模单元;
第一判断单元,用于判断所述第一建模单元是否包含于所述初始建模单元表中;
第一添加单元,用于若所述第一建模单元包含于所述初始建模单元表中,则将所述第一建模单元加入建模单元序列中;
第二判断单元,用于若所述第一建模单元没有包含于所述初始建模单元表中,则将所述第一建模单元排序最末的音素单元去除,并判断去除排序最末的音素单元后的第一建模单元是否包含于所述初始建模单元表中;
第二添加单元,用于若去除排序最末的音素单元后的第一建模单元包含于所述初始建模单元表中,则将所述去除排序最末的音素单元后的第一建模单元加入建模单元序列中;
拆分单元,用于按照第一筛选单元、第一判断单元、第一添加单元、第二判断单元和第二添加单元所执行的方法对应的规则,顺序地、不重复地拆分所述token,直至得到包含所述token所有音素单元的建模单元序列。
进一步的,所述建模单元任务参数包括频次阈值,所述循环模块5,包括:
第二筛选单元,用于从所述词频字典中筛选出第一出现频次的最大值和第一出现频次的最小值;
计算单元,用于计算所述第一出现频次的最大值和所述第一出现频次的最小值的均值,得到频次阈值。
进一步的,所述循环模块5,还包括:
获取单元,用于在迭代循环过程中,基于步骤S3获取当前次的所述初始建模单元表中各个第一建模单元分别对应的第四出现频次;
剔除单元,用于从各所述第一建模单元中,筛选出第四出现频次小于频次阈值的若干个第二建模单元剔除。
进一步的,所述循环模块5,还包括:
第三判断单元,用于判断当前次的所述更新建模单元表所包含的所有第三建模单元的数量是否大于数量阈值;
第一判定单元,用于若当前次的所述更新建模单元表所包含的所有第三建模单元的数量大于数量阈值,则判定当前次的所述更新建模单元表符合预设条件,并停止循环迭代。
进一步的,所述循环模块5,还包括:
第四判断单元,用于根据当前次的所述更新建模单元表中排序前第二预设数量个第四建模单元,和当前次的所述初始建模单元表中排序前第二预设数量个第五建模单元,判断当前次的所述更新建模单元表和当前次的所述初始建模单元表之间的相似度是否大于相似度阈值;
第二判定单元,用于若当前次的所述更新建模单元表和当前次的所述初始建模单元表之间的相似度大于相似度阈值,则判定当前次的所述更新建模单元表符合预设条件,并停止循环迭代。
本实施例中,语音建模单元的构建装置中各模块、单元用于对应执行与上述语音建模单元的构建方法中的各个步骤,其具体实施过程在此不做详述。
本实施例提供的一种语音建模单元的构建装置,构建系统首先获取初始建模单元表和训练文本语料,并根据训练文本语料中各个token的第一出现频次,生成词频字典,其中,单个token对应训练文本语料的单个单词,单个token包含若干个音素单元。然后,根据词频字典生成建模单元任务参数,并根据建模单元任务参数和初始建模单元表,将各token解析为各自对应的建模单元序列,单个建模单元序列包括若干个建模单元。构建系统基于各个token分别对应的第一出现频次,以及各个token的子串分别对应的第二出现频次,计算得到各个子串的第三出现频次,token的子串由该token所包含的所有音素单元基于该token对应的建模单元序列拆分得到。构建系统将各子串按照各自对应的出现频次进行降序排列,并从排列后的各子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到初始建模单元表,得到更新建模单元表。最后,构建系统循环迭代上述步骤,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成语音建模单元的构建。本申请中,构建系统以发音音素为基础(即以初始建模单元表为基础),通过扩展生成建模单元的方式(即选取更新建模单元,并以此得到更新建模单元表),从而充分结合了发音特点,使得最终构建的更新建模单元表能够充分利用发音信息。并且,由于最终的更新建模单元表中包含了扩展后的建模单元,扩展了建模单元的类别数目,从而使得应用于语音识别任务时,能够有效减少帧序列到建模单元序列任务中后者的长度,进而降低了语音识别中网络学习的难度,并提升了识别准确度。进一步的,本申请可以根据自身需求限制更新建模单元表中建模单元的规模,从而满足资源受限设备的需求。
参照图3,本申请实施例中还提供一种计算机设备,该计算机设备可以是服务器,其内部结构可以如图3所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设计的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储训练文本语料等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种语音建模单元的构建方法。
上述处理器执行上述语音建模单元的构建方法的步骤:
S1:获取初始建模单元表和训练文本语料,并根据所述训练文本语料中各个token的第一出现频次,生成词频字典,其中,单个所述token对应所述训练文本语料的单个单词,单个所述token包含若干个音素单元;
S2:根据所述词频字典生成建模单元任务参数,并根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列,单个所述建模单元序列包括若干个建模单元;
S3:基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次,所述token的子串由该token所包含的所有音素单元基于该token对应的建模单元序列拆分得到;
S4:将各所述子串按照各自对应的出现频次进行降序排列,并从排列后的各所述子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到所述初始建模单元表,得到更新建模单元表;
S5:循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建。
进一步的,所述基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次的步骤,包括:
S301:基于各所述token分别对应的若干个所述建模单元,将各所述token进行拆解,得到各所述token分别对应的多个所述子串;
S302:根据各所述子串在单个token中的所述第二出现频次,以及各所述token的所述第一出现频次,统计得到各所述子串分别对应的所述第三出现频次。
进一步的,所述建模单元任务参数包括建模单元最大长度,所述根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列的步骤中,单个所述token解析为建模单元序列的步骤,包括:
S201:按照所述token中各所述音素单元的排列顺序,顺序筛选数量与所述建模单元最大长度一致的若干个音素单元组成第一建模单元;
S202:判断所述第一建模单元是否包含于所述初始建模单元表中;
S203:若所述第一建模单元包含于所述初始建模单元表中,则将所述第一建模单元加入建模单元序列中;
S204:若所述第一建模单元没有包含于所述初始建模单元表中,则将所述第一建模单元排序最末的音素单元去除,并判断去除排序最末的音素单元后的第一建模单元是否包含于所述初始建模单元表中;
S205:若去除排序最末的音素单元后的第一建模单元包含于所述初始建模单元表中,则将所述去除排序最末的音素单元后的第一建模单元加入建模单元序列中;
S206:按照步骤S201—S205对应的规则,顺序地、不重复地拆分所述token,直至得到包含所述token所有音素单元的建模单元序列。
进一步的,所述建模单元任务参数包括频次阈值,所述循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建的步骤,包括:
S501:从所述词频字典中筛选出第一出现频次的最大值和第一出现频次的最小值;
S502:计算所述第一出现频次的最大值和所述第一出现频次的最小值的均值,得到频次阈值。
进一步的,所述循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建的步骤,还包括:
S503:在迭代循环过程中,基于步骤S3获取当前次的所述初始建模单元表中各个第一建模单元分别对应的第四出现频次;
S504:从各所述第一建模单元中,筛选出第四出现频次小于频次阈值的若干个第二建模单元剔除。
进一步的,所述预设条件,包括:
S505:判断当前次的所述更新建模单元表所包含的所有第三建模单元的数量是否大于数量阈值;
S506:若当前次的所述更新建模单元表所包含的所有第三建模单元的数量大于数量阈值,则判定当前次的所述更新建模单元表符合预设条件,并停止循环迭代。
进一步的,所述预设条件,还包括:
S507:根据当前次的所述更新建模单元表中排序前第二预设数量个第四建模单元,和当前次的所述初始建模单元表中排序前第二预设数量个第五建模单元,判断当前次的所述更新建模单元表和当前次的所述初始建模单元表之间的相似度是否大于相似度阈值;
S508:若当前次的所述更新建模单元表和当前次的所述初始建模单元表之间的相似度大于相似度阈值,则判定当前次的所述更新建模单元表符合预设条件,并停止循环迭代。
本申请一实施例还提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现语音建模单元的构建方法,所述语音建模单元的构建方法具体为:
S1:获取初始建模单元表和训练文本语料,并根据所述训练文本语料中各个token的第一出现频次,生成词频字典,其中,单个所述token对应所述训练文本语料的单个单词,单个所述token包含若干个音素单元;
S2:根据所述词频字典生成建模单元任务参数,并根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列,单个所述建模单元序列包括若干个建模单元;
S3:基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次,所述token的子串由该token所包含的所有音素单元基于该token对应的建模单元序列拆分得到;
S4:将各所述子串按照各自对应的出现频次进行降序排列,并从排列后的各所述子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到所述初始建模单元表,得到更新建模单元表;
S5:循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建。
进一步的,所述基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次的步骤,包括:
S301:基于各所述token分别对应的若干个所述建模单元,将各所述token进行拆解,得到各所述token分别对应的多个所述子串;
S302:根据各所述子串在单个token中的所述第二出现频次,以及各所述token的所述第一出现频次,统计得到各所述子串分别对应的所述第三出现频次。
进一步的,所述建模单元任务参数包括建模单元最大长度,所述根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列的步骤中,单个所述token解析为建模单元序列的步骤,包括:
S201:按照所述token中各所述音素单元的排列顺序,顺序筛选数量与所述建模单元最大长度一致的若干个音素单元组成第一建模单元;
S202:判断所述第一建模单元是否包含于所述初始建模单元表中;
S203:若所述第一建模单元包含于所述初始建模单元表中,则将所述第一建模单元加入建模单元序列中;
S204:若所述第一建模单元没有包含于所述初始建模单元表中,则将所述第一建模单元排序最末的音素单元去除,并判断去除排序最末的音素单元后的第一建模单元是否包含于所述初始建模单元表中;
S205:若去除排序最末的音素单元后的第一建模单元包含于所述初始建模单元表中,则将所述去除排序最末的音素单元后的第一建模单元加入建模单元序列中;
S206:按照步骤S201—S205对应的规则,顺序地、不重复地拆分所述token,直至得到包含所述token所有音素单元的建模单元序列。
进一步的,所述建模单元任务参数包括频次阈值,所述循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建的步骤,包括:
S501:从所述词频字典中筛选出第一出现频次的最大值和第一出现频次的最小值;
S502:计算所述第一出现频次的最大值和所述第一出现频次的最小值的均值,得到频次阈值。
进一步的,所述循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建的步骤,还包括:
S503:在迭代循环过程中,基于步骤S3获取当前次的所述初始建模单元表中各个第一建模单元分别对应的第四出现频次;
S504:从各所述第一建模单元中,筛选出第四出现频次小于频次阈值的若干个第二建模单元剔除。
进一步的,所述预设条件,包括:
S505:判断当前次的所述更新建模单元表所包含的所有第三建模单元的数量是否大于数量阈值;
S506:若当前次的所述更新建模单元表所包含的所有第三建模单元的数量大于数量阈值,则判定当前次的所述更新建模单元表符合预设条件,并停止循环迭代。
进一步的,所述预设条件,还包括:
S507:根据当前次的所述更新建模单元表中排序前第二预设数量个第四建模单元,和当前次的所述初始建模单元表中排序前第二预设数量个第五建模单元,判断当前次的所述更新建模单元表和当前次的所述初始建模单元表之间的相似度是否大于相似度阈值;
S508:若当前次的所述更新建模单元表和当前次的所述初始建模单元表之间的相似度大于相似度阈值,则判定当前次的所述更新建模单元表符合预设条件,并停止循环迭代。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储与一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的和实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM通过多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双速据率SDRAM(SSRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其它变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、装置、第一物体或者方法不仅包括那些要素,而且还包括没有明确列出的其它要素,或者是还包括为这种过程、装置、第一物体或者方法所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、装置、第一物体或者方法中还存在另外的相同要素。
以上所述仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其它相关的技术领域,均同理包括在本申请的专利保护范围内。

Claims (10)

1.一种语音建模单元的构建方法,其特征在于,包括:
S1:获取初始建模单元表和训练文本语料,并根据所述训练文本语料中各个token的第一出现频次,生成词频字典,其中,单个所述token对应所述训练文本语料的单个单词,单个所述token包含若干个音素单元;
S2:根据所述词频字典生成建模单元任务参数,并根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列,单个所述建模单元序列包括若干个建模单元;
S3:基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次,所述token的子串由该token所包含的所有音素单元基于该token对应的建模单元序列拆分得到;
S4:将各所述子串按照各自对应的出现频次进行降序排列,并从排列后的各所述子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到所述初始建模单元表,得到更新建模单元表;
S5:循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建。
2.根据权利要求1所述的语音建模单元的构建方法,其特征在于,所述基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次的步骤,包括:
基于各所述token分别对应的若干个所述建模单元,将各所述token进行拆解,得到各所述token分别对应的多个所述子串;
根据各所述子串在单个token中的所述第二出现频次,以及各所述token的所述第一出现频次,统计得到各所述子串分别对应的所述第三出现频次。
3.根据权利要求1所述的语音建模单元的构建方法,其特征在于,所述建模单元任务参数包括建模单元最大长度,所述根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列的步骤中,单个所述token解析为建模单元序列的步骤,包括:
S201:按照所述token中各所述音素单元的排列顺序,顺序筛选数量与所述建模单元最大长度一致的若干个音素单元组成第一建模单元;
S202:判断所述第一建模单元是否包含于所述初始建模单元表中;
S203:若所述第一建模单元包含于所述初始建模单元表中,则将所述第一建模单元加入建模单元序列中;
S204:若所述第一建模单元没有包含于所述初始建模单元表中,则将所述第一建模单元排序最末的音素单元去除,并判断去除排序最末的音素单元后的第一建模单元是否包含于所述初始建模单元表中;
S205:若去除排序最末的音素单元后的第一建模单元包含于所述初始建模单元表中,则将所述去除排序最末的音素单元后的第一建模单元加入建模单元序列中;
S206:按照步骤S201—S205对应的规则,顺序地、不重复地拆分所述token,直至得到包含所述token所有音素单元的建模单元序列。
4.根据权利要求1所述的语音建模单元的构建方法,其特征在于,所述建模单元任务参数包括频次阈值,所述循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建的步骤,包括:
从所述词频字典中筛选出第一出现频次的最大值和第一出现频次的最小值;
计算所述第一出现频次的最大值和所述第一出现频次的最小值的均值,得到频次阈值。
5.根据权利要求4所述的语音建模单元的构建方法,其特征在于,所述循环迭代步骤S2—S4,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建的步骤,还包括:
在迭代循环过程中,基于步骤S3获取当前次的所述初始建模单元表中各个第一建模单元分别对应的第四出现频次;
从各所述第一建模单元中,筛选出第四出现频次小于频次阈值的若干个第二建模单元剔除。
6.根据权利要求1所述的语音建模单元的构建方法,其特征在于,所述预设条件,包括:
判断当前次的所述更新建模单元表所包含的所有第三建模单元的数量是否大于数量阈值;
若当前次的所述更新建模单元表所包含的所有第三建模单元的数量大于数量阈值,则判定当前次的所述更新建模单元表符合预设条件,并停止循环迭代。
7.根据权利要求1所述的语音建模单元的构建方法,其特征在于,所述预设条件,还包括:
根据当前次的所述更新建模单元表中排序前第二预设数量个第四建模单元,和当前次的所述初始建模单元表中排序前第二预设数量个第五建模单元,判断当前次的所述更新建模单元表和当前次的所述初始建模单元表之间的相似度是否大于相似度阈值;
若当前次的所述更新建模单元表和当前次的所述初始建模单元表之间的相似度大于相似度阈值,则判定当前次的所述更新建模单元表符合预设条件,并停止循环迭代。
8.一种语音建模单元的构建装置,其特征在于,包括:
获取模块,用于获取初始建模单元表和训练文本语料,并根据所述训练文本语料中各个token的第一出现频次,生成词频字典,其中,单个所述token对应所述训练文本语料的单个单词,单个所述token包含若干个音素单元;
解析模块,用于根据所述词频字典生成建模单元任务参数,并根据所述建模单元任务参数和所述初始建模单元表,将各所述token解析为各自对应的建模单元序列,单个所述建模单元序列包括若干个建模单元;
计算模块,用于基于各所述token分别对应的第一出现频次,以及各所述token的子串分别对应的第二出现频次,计算得到各所述子串的第三出现频次,所述token的子串由该token所包含的所有音素单元基于该token对应的建模单元序列拆分得到;
筛选模块,用于将各所述子串按照各自对应的出现频次进行降序排列,并从排列后的各所述子串中降序筛选出第一预设数量个第一子串作为更新建模单元加入到所述初始建模单元表,得到更新建模单元表;
循环模块,用于循环迭代所述解析模块、所述计算模块和所述筛选模块执行的方法,并在循环迭代过程中将当前次的更新建模单元表作为下一次的初始建模单元表,直至更新建模单元表符合预设条件,则停止循环迭代,完成所述语音建模单元的构建。
9.一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
CN202111456505.5A 2021-12-02 2021-12-02 语音建模单元的构建方法、装置和计算机设备 Active CN113870848B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111456505.5A CN113870848B (zh) 2021-12-02 2021-12-02 语音建模单元的构建方法、装置和计算机设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111456505.5A CN113870848B (zh) 2021-12-02 2021-12-02 语音建模单元的构建方法、装置和计算机设备

Publications (2)

Publication Number Publication Date
CN113870848A true CN113870848A (zh) 2021-12-31
CN113870848B CN113870848B (zh) 2022-04-26

Family

ID=78985575

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111456505.5A Active CN113870848B (zh) 2021-12-02 2021-12-02 语音建模单元的构建方法、装置和计算机设备

Country Status (1)

Country Link
CN (1) CN113870848B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080172224A1 (en) * 2007-01-11 2008-07-17 Microsoft Corporation Position-dependent phonetic models for reliable pronunciation identification
CN105869624A (zh) * 2016-03-29 2016-08-17 腾讯科技(深圳)有限公司 数字语音识别中语音解码网络的构建方法及装置
CN108564940A (zh) * 2018-03-20 2018-09-21 平安科技(深圳)有限公司 语音识别方法、服务器及计算机可读存储介质
CN109346064A (zh) * 2018-12-13 2019-02-15 苏州思必驰信息科技有限公司 用于端到端语音识别模型的训练方法及系统
CN111192570A (zh) * 2020-01-06 2020-05-22 厦门快商通科技股份有限公司 语言模型训练方法、系统、移动终端及存储介质
CN111768761A (zh) * 2019-03-14 2020-10-13 京东数字科技控股有限公司 一种语音识别模型的训练方法和装置
CN112116907A (zh) * 2020-10-22 2020-12-22 浙江同花顺智能科技有限公司 语音识别模型建立、语音识别方法、装置、设备和介质
CN113506574A (zh) * 2021-09-09 2021-10-15 深圳市友杰智新科技有限公司 自定义命令词的识别方法、装置和计算机设备

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080172224A1 (en) * 2007-01-11 2008-07-17 Microsoft Corporation Position-dependent phonetic models for reliable pronunciation identification
CN105869624A (zh) * 2016-03-29 2016-08-17 腾讯科技(深圳)有限公司 数字语音识别中语音解码网络的构建方法及装置
CN108564940A (zh) * 2018-03-20 2018-09-21 平安科技(深圳)有限公司 语音识别方法、服务器及计算机可读存储介质
CN109346064A (zh) * 2018-12-13 2019-02-15 苏州思必驰信息科技有限公司 用于端到端语音识别模型的训练方法及系统
CN111768761A (zh) * 2019-03-14 2020-10-13 京东数字科技控股有限公司 一种语音识别模型的训练方法和装置
CN111192570A (zh) * 2020-01-06 2020-05-22 厦门快商通科技股份有限公司 语言模型训练方法、系统、移动终端及存储介质
CN112116907A (zh) * 2020-10-22 2020-12-22 浙江同花顺智能科技有限公司 语音识别模型建立、语音识别方法、装置、设备和介质
CN113506574A (zh) * 2021-09-09 2021-10-15 深圳市友杰智新科技有限公司 自定义命令词的识别方法、装置和计算机设备

Also Published As

Publication number Publication date
CN113870848B (zh) 2022-04-26

Similar Documents

Publication Publication Date Title
CN109063217B (zh) 电力营销系统中的工单分类方法、装置及其相关设备
EP4131076A1 (en) Serialized data processing method and device, and text processing method and device
CN111462751B (zh) 解码语音数据的方法、装置、计算机设备和存储介质
US20060277045A1 (en) System and method for word-sense disambiguation by recursive partitioning
CN106843523B (zh) 基于人工智能的文字输入方法和装置
US20150278194A1 (en) Information processing device, information processing method and medium
CN106030568A (zh) 自然语言处理系统、自然语言处理方法、以及自然语言处理程序
CN113270103A (zh) 基于语义增强的智能语音对话方法、装置、设备及介质
CN114416984A (zh) 基于人工智能的文本分类方法、装置、设备及存储介质
CN112800748B (zh) 适用于多音字的音素预测方法、装置、设备及存储介质
JP2012146263A (ja) 言語モデル学習装置、言語モデル学習方法、言語解析装置、及びプログラム
CN113870848B (zh) 语音建模单元的构建方法、装置和计算机设备
CN113221552A (zh) 一种基于深度学习的多模型分词方法、装置及电子设备
CN113255343A (zh) 标签数据的语义识别方法、装置、计算机设备及存储介质
US11893344B2 (en) Morpheme analysis learning device, morpheme analysis device, method, and program
KR20120052591A (ko) 연속어 음성인식 시스템에서 오류수정 장치 및 방법
CN112989022B (zh) 虚拟文本智能选取方法、装置以及计算机设备
US10467530B2 (en) Searching text via function learning
CN113724688B (zh) 语音识别的后处理方法、装置和计算机设备
CN108073704B (zh) 一种liwc词表扩展方法
CN112905763A (zh) 会话系统开发方法、装置、计算机设备及存储介质
CN112464649A (zh) 多音字的拼音转换方法、装置、计算机设备和存储介质
CN111310454B (zh) 一种基于领域迁移的关系抽取方法及装置
CN112668324B (zh) 语料数据处理方法、装置、电子设备及存储介质
KR101767625B1 (ko) 동적 계획법 기반 일본어 문장 최소 분할 탐색 장치 및 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant