CN112905869A - 语言模型的自适应训练方法、装置、存储介质及设备 - Google Patents
语言模型的自适应训练方法、装置、存储介质及设备 Download PDFInfo
- Publication number
- CN112905869A CN112905869A CN202110328172.1A CN202110328172A CN112905869A CN 112905869 A CN112905869 A CN 112905869A CN 202110328172 A CN202110328172 A CN 202110328172A CN 112905869 A CN112905869 A CN 112905869A
- Authority
- CN
- China
- Prior art keywords
- language model
- training
- adaptive
- search graph
- dynamic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012549 training Methods 0.000 title claims abstract description 136
- 238000000034 method Methods 0.000 title claims abstract description 51
- 230000003044 adaptive effect Effects 0.000 title claims description 29
- 230000003068 static effect Effects 0.000 claims abstract description 57
- 238000004590 computer program Methods 0.000 claims description 9
- 238000009825 accumulation Methods 0.000 claims description 7
- 230000011218 segmentation Effects 0.000 claims description 4
- 238000012360 testing method Methods 0.000 abstract description 5
- 230000002708 enhancing effect Effects 0.000 abstract description 4
- 238000012423 maintenance Methods 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 3
- 238000003780 insertion Methods 0.000 description 3
- 230000037431 insertion Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/40—Transformation of program code
- G06F8/41—Compilation
- G06F8/43—Checking; Contextual analysis
- G06F8/436—Semantic checking
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Machine Translation (AREA)
Abstract
本发明公开了一种语言模型的自适应训练方法、装置、存储介质及设备，其中，该自适应训练方法包括：实时在线获取新增训练语料；对所述新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；将所述动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，形成自适应识别搜索图以进行自适应语言识别。本发明实施例能够使运行中的语音识别服务在不停服的情况下动态热更新和添加错误识别文本和其他生僻词，新增词文本的修正语言模型数据，从而可以随时修正错误，增强识别性能、不需要回归测试，大大提高效率和维护成本。
Description
技术领域
本发明实施例涉及网络技术领域，尤其涉及语言模型的自适应训练方法、装置、存储介质及设备。
背景技术
随着大数据时代的来临，大词表连续语音识别，也就是通常说的听写识别技术，通过对大规模语音数据和文本数据的学习，声学模型和语言模型的准确度和可用度，都已经达到了比较好的水平。然而，即便如此，通用的大词表连续语言识别，仍然无法完美应对实际应用中碰到的各种说法句式、生僻词、生僻措辞和文法的支持。通常需要有人定期搜集和积累识别错误和难以识别的句子文本，然后重新离线训练和更新语言模型，使其能够适应这些错误并得到正确结果。
但是，这种离线训练和更新语言模型的做法代价较大，有时候为了一个或者几十个错误就要更新一次，费时费力，对运行中的系统又要进行回归测试等，效率不高。
发明内容
本发明实施例提供了语言模型的自适应训练方法、装置、存储介质及设备，以在不停服的情况下动态热更新和添加错误识别文本和其他生僻词，新增词文本的修正语言模型数据。
第一方面，本发明实施例提供了一种语言模型的自适应训练方法，包括：
实时在线获取新增训练语料；
对所述新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；
将所述动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，形成自适应识别搜索图以进行自适应语言识别。
第二方面，本发明实施例还提供了一种语言模型的自适应训练装置，所述语言模型包含于端到端的语音识别系统中，所述自适应训练装置包括：
训练语料获取模块，用于实时在线获取新增训练语料；
动态图编译模块，用于对所述新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；
静态图编译模块，用于将所述动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，形成自适应识别搜索图以进行自适应语言识别。
第三方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面所述的语言模型的自适应训练方法。
第四方面，本发明实施例还提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面所述的语言模型的自适应训练方法。
本发明实施例中，首先通过实时在线获取新增训练语料；然后对新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；再将动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，最后形成自适应识别搜索图以进行自适应语言识别。本发明实施例利用上述技术方案，能够使运行中的语音识别服务在不停服的情况下动态热更新和添加错误识别文本和其他生僻词，新增词文本的修正语言模型数据，从而可以随时修正错误，增强识别性能、不需要回归测试，大大提高效率和维护成本。
附图说明
图1为本发明实施例一提供的一种语言模型的自适应训练方法的流程示意图；
图2是本发明实施例一提供的动态识别搜索图插入静态识别搜索图的原理示意图；
图3为本发明实施例二提供的一种语言模型的自适应训练方法的流程示意图；
图4是本发明实施例二提供的自适应训练的流程图；
图5为本发明实施例三提供的一种语言模型的自适应训练装置的结构示意图；
图6为本发明实施例四提供的一种计算机设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理，但是其中的许多操作可以被并行地、并发地或者同时实施。此外，各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。此外，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。
本发明使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”。
需要注意，本发明中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
实施例一
图1为本发明实施例一提供的一种语言模型的自适应训练方法的流程示意图，该方法可以由语言模型的自适应训练装置来执行，其中该装置可由软件和/或硬件实现，并一般集成在计算机设备上。如图1所示，本发明实施例一提供的一种语言模型的自适应训练方法，包括如下步骤：
S110、实时在线获取新增训练语料；
示例性地，本发明实施例中的语言模型是端到端的语言识别系统中的语言模型，具体可以为深度语言模型。训练语料来源于日常生活中的各个方面，而新增训练语料表示对现有训练语料的补充，其可以是针对特定应用场景的新的词语、语句等，也可以是日益增加和更新的日常用语或专业用语等；可以理解，在网络、科技发展的社会，语言、文字等也在更新和发展，此处的新增训练语料也包含新创造的语言和文字等，此次不做限制。
新增训练语料为已有训练语料和语言模型的基础上，人为添加的训练语料，用语对已有语言模型进行更新，实现自适应语音识别。
S120、对新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；
本领域技术人员可以理解，语言模型的语音识别过程，一般需要编译转换为识别搜索图，加载在识别器上以实现语音识别过程。此处，将新增训练语料通过语言模型训练和积累，编译形成动态识别搜索图的过程，实质上是赋予新的语言模型对新增训练语料的语音识别能力的过程。可以理解，此处的动态识别搜索图实质上是创建了基于新增训练语料的语言模型概率。
S130、将动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，形成自适应识别搜索图以进行自适应语言识别。
图2是本发明实施例提供的动态识别搜索图插入静态识别搜索图的原理示意图，参考图2，静态识别搜索图是基于离线训练更新的语言模型编译形成，其负责主要的、基础的和初始的语言识别功能。本实施例重点在于，在静态识别搜索图中预先设置槽位，可以在该槽位中增加新的子语言模型，其可定义为动态识别搜索图的热插拔技术，实现了一个实时动态搜索识别图的编译系统，让维护者可以按需通过界面输入需要补充的文本语料，实时编译动态搜索识别图。在实际的识别过程中，解码器卸下原有的旧静态识别搜索图，通过插入新的动态识别搜索图即可继续工作，并能识别之前不能识别的语言样本。
本实施例能够实现上述的动态识别搜索图的动态插入，即实现语言识别的修正功能，原理就在于统计语言模型的概率上下文连续性。需要修正的识别文本，通过人为添加，在动态识别搜索图的语言模型中获得充分学习，并且保留了较好的语言模型概率。在经过插入到原来已经均衡设计过的静态识别搜索图中的槽位中时，新增加的词和新的说法可以整体融入到原来的大静态语言模型的上下文概率环境中，让新增加的词不仅在完全吻合添加文本说法的情况下能够被识别，同时也由于继承了原来静态大语言模型的上下文概率，在其他句式中出现新词以及新说法的时候，同样能够得到较好的语言模型概率，从而得以进行语音识别。
本发明实施例一提供的一种语言模型的自适应训练方法，首先通过实时在线获取新增训练语料；然后对新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；再将动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，最后形成自适应识别搜索图以进行自适应语言识别。本发明实施例利用上述技术方案，能够使运行中的语音识别服务在不停服的情况下动态热更新和添加错误识别文本和其他生僻词，新增词文本的修正语言模型数据，从而可以随时修正错误，增强识别性能、不需要回归测试，大大提高效率和维护成本。
在上述实施例的基础上，提出了上述实施例的变型实施例，在此需要说明的是，为了使描述简要，在变型实施例中仅描述与上述实施例的不同之处。
在一个具体实施例中新增训练语料可包括未存在于静态语言模型对应的训练语料库中的训练语料、未能由静态识别搜索图识别的训练语料和由静态识别搜索图识别错误的训练语料中的至少一种。
此外，在本发明的一个实施例中，可设置静态识别搜索图根据静态语言模型以及相应的声学模型和发音字典通过编译获得。具体地，静态语言模型采用n元文法n-gram进行语言模型分词训练获得，其中，n大于或等于3。n-gram是基于统计的语言模型，语言本身是上下文相关的，n-gram假设第n个词与前n-1个词相关，句子的概率是各个词出现概率的乘积。在利用n-gram进行语言训练的基础上，能够保证静态语言模型具备深度语言模型的特性，能够提高语言的识别效率和成功率。
实施例二
图3为本发明实施例二提供的一种语言模型的自适应训练方法的流程示意图，本实施例二在上述各实施例的基础上进行优化。在本实施例中，将S120、对新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图，进一步具体化为：S221、对新增训练语料进行语言模型训练并积累，形成动态语言模型；S222、根据动态语言模型以及相应的声学模型和发音字典，编译获得动态识别搜索图。
进一步地，本实施例还将S221、对新增训练语料进行语言模型训练并积累，形成动态语言模型，进一步优化为：采用n元文法n-gram对新增训练语料进行语言模型分词训练并积累，形成动态语言模型，其中，n大于或等于3。在上述优化的基础上，将S130、将动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，形成自适应识别搜索图以进行自适应语言识别，具体优化为：S231、在静态语言模型中引入特殊字符<SUB>，特殊字符<SUB>用于随机挑选静态语言模型对应的训练语料中语句的单词，并进行随机替换添加为新语句；S232、将动态识别搜索图作为字符，替换特殊字符<SUB>。
本实施例尚未详尽的内容请参考实施例一。
图4是本发明实施例二提供的自适应训练的流程图，下面参考实施例中的图3以及本实施例的图4，对本发明实施例提供的语言模型的自适应训练方法进行具体介绍。首先，参见图2，本发明实施例二提供的一种语言模型的自适应训练方法包括如下步骤：
S210、实时在线获取新增训练语料；
S221、对新增训练语料进行语言模型训练并积累，形成动态语言模型；
S222、根据动态语言模型以及相应的声学模型和发音字典，编译获得动态识别搜索图。
S231、在静态语言模型中引入特殊字符<SUB>，特殊字符<SUB>用于随机挑选静态语言模型对应的训练语料中语句的单词，并进行随机替换添加为新语句；
参看图3和图4，其中，为了在静态语言模型中开一个合适的slot槽位，本实施例引入一个特殊字符<SUB>，利用该字符随机挑选训练语料中某些句子中的某个单词，进行随机替换后添加为新句子。这样就可以训练出一个<SUB>特殊词的1-gram在其他n-gram里面的上下文跳转概率，并且这个概率是较大的一个概率，以利于后面插入动态识别搜索图之后，动态识别搜索图中的内容能够得到较好的上下文概率。
静态识别搜索图的原始ARPA语言模型经过这个处理之后，<SUB>将作为一个可以被替换的插入槽位，编译之后，<SUB>在搜索图中被标记为一个特殊位置，为后续插入动态识别搜索图做准备。
S232、将动态识别搜索图作为字符，替换特殊字符<SUB>。
具体地，将动态识别搜索图插入静态识别搜索图中(专门开发的功能模块)，找到<SUB>位置相连接的上下文，将动态识别搜索图整体当做一个词，替换与<SUB>这个特殊槽位，将与<SUB>起始点和结束点相连接的所有的连接重新连接到动态识别搜索图的起始点和结束点上。
本发明实施例二提供的一种语言模型的自适应训练方法，具体化了动态识别搜索图插入静态搜索识别图的过程，通过在静态搜索识别图中增加特殊字符<SUB>，利用特殊字符<SUB>作为替换的槽位，可使得新插入的动态识别搜索图能够实现与静态识别搜索图中上下文的连接。换言之，可以保证整个静态识别搜索图的语言识别能力的同时，还能兼容动态识别搜索图中新增训练语料的语言识别，实现静态识别搜索图的更新修正。
实施例三
图5为本发明实施例三提供的一种语言模型的自适应训练装置的结构示意图，该装置可由软件和/或硬件实现，并一般集成在计算机设备上，此外，需要说明的是，该自适应训练装置中的语言模型包含于端到端的语音识别系统中。如图3所示，该装置包括：训练语料获取模块100，用于实时在线获取新增训练语料；动态图编译模块200，用于对新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；静态图编译模块300，用于将动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，形成自适应识别搜索图以进行自适应语言识别。
其中，训练语料获取模块100负责接收和获取维护人员输入的新增训练语料，通过动态图编译模块200，能够将该新增的训练语料通过语言模型训练形成相应的小规模的语言模型。而静态图编译模块300则可收纳动态图编译模块200形成的新的动态识别搜索图，将其插入原有的静态识别搜索图中，实现静态识别搜索图的更新和修正，从而弥补原有静态识别搜索图对新生词本或原有训练语料中不包含的词语或语句的识别能力，实现了整个语言模型的自适应训练和语音识别。
在本实施例中，该语言模型的自适应训练装置，首先通过训练语料获取模块实时在线获取新增训练语料；然后利用动态图编译模块对新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；再由静态图编译模块将动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，最后形成自适应识别搜索图以进行自适应语言识别。本发明实施例利用上述技术方案，能够使运行中的语音识别服务在不停服的情况下动态热更新和添加错误识别文本和其他生僻词，新增词文本的修正语言模型数据，从而可以随时修正错误，增强识别性能、不需要回归测试，大大提高效率和维护成本。进一步的，动态图编译模块200可包括动态语言模型训练模块和动态图编译模块，动态语言模型训练模块用于对新增训练语料进行语言模型训练并积累，形成动态语言模型；和动态图编译模块用于根据动态语言模型以及相应的声学模型和发音字典，编译获得动态识别搜索图。
上述语言模型的自适应训练装置可执行本发明任意实施例所提供的语言模型的自适应训练方法，具备执行方法相应的功能模块和有益效果。
实施例四
图6为本发明实施例四提供的一种计算机设备的结构示意图。如图6所示，本发明实施例四提供的计算机设备包括：一个或多个处理器41和存储装置42；该设备中的处理器41可以是一个或多个，图6中以一个处理器41为例；存储装置42用于存储一个或多个程序；所述一个或多个程序被所述一个或多个处理器41执行，使得所述一个或多个处理器41实现如本发明实施例中任一项所述的语言模型的自适应训练方法。
所述设备还可以包括：输入装置43和输出装置44。
设备中的处理器41、存储装置42、输入装置43和输出装置44可以通过总线或其他方式连接，图6中以通过总线连接为例。
该设备中的存储装置42作为一种计算机可读存储介质，可用于存储一个或多个程序，所述程序可以是软件程序、计算机可执行程序以及模块，如本发明实施例一或二所提供语言模型自适应训练方法对应的程序指令/模块(例如，附图5所示的语言模型自适应训练装置中的模块，包括训练语料获取模块100、动态图编译模块200和静态图编译模块300)。处理器41通过运行存储在存储装置42中的软件程序、指令以及模块，从而执行终端设备的各种功能应用以及数据处理，即实现上述方法实施例中语言模型自适应训练方法。
存储装置42可包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序；存储数据区可存储根据设备的使用所创建的数据等。此外，存储装置42可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中，存储装置42可进一步包括相对于处理器41远程设置的存储器，这些远程存储器可以通过网络连接至设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入装置43可用于接收输入的数字或字符信息，以及产生与设备的用户设置以及功能控制有关的键信号输入。输出装置44可包括显示屏等显示设备。
并且，当上述设备所包括一个或者多个程序被所述一个或者多个处理器41执行时，程序进行如下操作：
实时在线获取新增训练语料；
对所述新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；
将所述动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，形成自适应识别搜索图以进行自适应语言识别。
实施例五
本发明实施例五提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时用于执行上述实施例提供的语言模型自适应训练方法，该方法包括：实时在线获取新增训练语料；
对所述新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；
将所述动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，形成自适应识别搜索图以进行自适应语言识别。
可选的，该程序被处理器执行时还可以用于执行本发明任意实施例所提供的语言模型自适应训练方法。
本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(Random AccessMemory，RAM)、只读存储器(Read Only Memory，ROM)、可擦式可编程只读存储器(ErasableProgrammable Read Only Memory，EPROM)、闪存、光纤、便携式CD-ROM、光存储器件、磁存储器件、或者上述的任意合适的组合。计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于：电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、无线电频率(RadioFrequency，RF)等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种语言模型的自适应训练方法，其特征在于，包括：
实时在线获取新增训练语料；
对所述新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；
将所述动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，形成自适应识别搜索图以进行自适应语言识别。
2.根据权利要求1所述的语言模型的自适应训练方法，其特征在于，对所述新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图，包括：
对所述新增训练语料进行语言模型训练并积累，形成动态语言模型；
根据所述动态语言模型以及相应的声学模型和发音字典，编译获得动态识别搜索图。
3.根据权利要求2所述的语言模型的自适应训练方法，其特征在于，所述对所述新增训练语料进行语言模型训练并积累，形成动态语言模型，包括：
采用n元文法n-gram对所述新增训练语料进行语言模型分词训练并积累，形成所述动态语言模型，其中，n大于或等于3。
4.根据权利要求1所述的语言模型的自适应训练方法，其特征在于，将所述动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，包括：
在所述静态语言模型中引入特殊字符<SUB>，所述特殊字符<SUB>用于随机挑选所述静态语言模型对应的训练语料中语句的单词，并进行随机替换添加为新语句；
将所述动态识别搜索图作为字符，替换所述特殊字符<SUB>。
5.根据权利要求1所述的语言模型的自适应训练方法，其特征在于，所述静态识别搜索图根据静态语言模型以及相应的声学模型和发音字典通过编译获得。
6.根据权利要求5所述的语言模型的自适应训练方法，其特征在于，所述静态语言模型采用n元文法n-gram进行语言模型分词训练获得，其中，n大于或等于3。
7.根据权利要求1所述的语言模型的自适应训练方法，其特征在于，所述新增训练语料包括未存在于所述静态语言模型对应的训练语料库中的训练语料、未能由所述静态识别搜索图识别的训练语料和由所述静态识别搜索图识别错误的训练语料中的至少一种。
8.一种语言模型的自适应训练装置，其特征在于，所述语言模型包含于端到端的语音识别系统中，所述自适应训练装置包括：
训练语料获取模块，用于实时在线获取新增训练语料；
动态图编译模块，用于对所述新增训练语料进行语言模型训练并积累，编译形成动态识别搜索图；
静态图编译模块，用于将所述动态识别搜索图作为子图，插入到静态识别搜索图的预先设定的槽位中，形成自适应识别搜索图以进行自适应语言识别。
9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一项所述的语言模型的自适应训练方法。
10.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1-7任一项所述的语言模型的自适应训练方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110328172.1A CN112905869B (zh) | 2021-03-26 | 2021-03-26 | 语言模型的自适应训练方法、装置、存储介质及设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110328172.1A CN112905869B (zh) | 2021-03-26 | 2021-03-26 | 语言模型的自适应训练方法、装置、存储介质及设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112905869A true CN112905869A (zh) | 2021-06-04 |
| CN112905869B CN112905869B (zh) | 2024-07-26 |
Family
ID=76109234
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110328172.1A Active CN112905869B (zh) | 2021-03-26 | 2021-03-26 | 语言模型的自适应训练方法、装置、存储介质及设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112905869B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113553843A (zh) * | 2021-06-24 | 2021-10-26 | 青岛海尔科技有限公司 | 技能创建方法和装置 |
Citations (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102789484A (zh) * | 2012-06-28 | 2012-11-21 | 奇智软件（北京）有限公司 | 一种网页信息处理方法和装置 |
| CN102867040A (zh) * | 2012-08-31 | 2013-01-09 | 中国科学院计算技术研究所 | 一种面向中文搜索引擎混杂语言的查询纠错方法及系统 |
| US20140278424A1 (en) * | 2013-03-13 | 2014-09-18 | Microsoft Corporation | Kernel deep convex networks and end-to-end learning |
| US20150127319A1 (en) * | 2013-11-07 | 2015-05-07 | Microsoft Corporation | Filled Translation for Bootstrapping Language Understanding of Low-Resourced Languages |
| CN106776564A (zh) * | 2016-12-21 | 2017-05-31 | 张永成 | 一种基于知识图谱的语义识别方法及系统 |
| CN108062307A (zh) * | 2018-01-04 | 2018-05-22 | 中国科学技术大学 | 基于词嵌入模型的文本语义隐写分析方法 |
| CN108399169A (zh) * | 2017-02-06 | 2018-08-14 | 阿里巴巴集团控股有限公司 | 基于问答系统的对话处理方法、装置和系统及移动设备 |
| CN108962224A (zh) * | 2018-07-19 | 2018-12-07 | 苏州思必驰信息科技有限公司 | 口语理解和语言模型联合建模方法、对话方法及系统 |
| CN109408800A (zh) * | 2018-08-23 | 2019-03-01 | 优视科技（中国）有限公司 | 对话机器人系统及相关技能配置方法 |
| CN109558600A (zh) * | 2018-11-14 | 2019-04-02 | 北京字节跳动网络技术有限公司 | 翻译处理方法及装置 |
| CN109635305A (zh) * | 2018-12-17 | 2019-04-16 | 北京百度网讯科技有限公司 | 语音翻译方法及装置、设备及存储介质 |
| CN110111787A (zh) * | 2019-04-30 | 2019-08-09 | 华为技术有限公司 | 一种语义解析方法及服务器 |
| CN110276023A (zh) * | 2019-06-20 | 2019-09-24 | 北京百度网讯科技有限公司 | Poi变迁事件发现方法、装置、计算设备和介质 |
| CN110288985A (zh) * | 2019-06-28 | 2019-09-27 | 北京猎户星空科技有限公司 | 语音数据处理方法、装置、电子设备及存储介质 |
| CN110349568A (zh) * | 2019-06-06 | 2019-10-18 | 平安科技（深圳）有限公司 | 语音检索方法、装置、计算机设备及存储介质 |
| CN110704641A (zh) * | 2019-10-11 | 2020-01-17 | 零犀(北京)科技有限公司 | 一种万级意图分类方法、装置、存储介质及电子设备 |
| CN110728313A (zh) * | 2019-09-29 | 2020-01-24 | 北京声智科技有限公司 | 一种用于意图分类识别的分类模型训练方法及装置 |
| CN111090720A (zh) * | 2019-11-22 | 2020-05-01 | 北京捷通华声科技股份有限公司 | 一种热词的添加方法和装置 |
| CN111260033A (zh) * | 2020-01-15 | 2020-06-09 | 电子科技大学 | 一种基于卷积神经网络模型的网站后门检测方法 |
| CN111291166A (zh) * | 2020-05-09 | 2020-06-16 | 支付宝(杭州)信息技术有限公司 | 基于Bert的语言模型的训练方法及装置 |
| CN111489735A (zh) * | 2020-04-22 | 2020-08-04 | 北京声智科技有限公司 | 语音识别模型训练方法及装置 |
| CN111859994A (zh) * | 2020-06-08 | 2020-10-30 | 北京百度网讯科技有限公司 | 机器翻译模型获取及文本翻译方法、装置及存储介质 |
| CN111916088A (zh) * | 2020-08-12 | 2020-11-10 | 腾讯科技（深圳）有限公司 | 一种语音语料的生成方法、设备及计算机可读存储介质 |
| CN111933119A (zh) * | 2020-08-18 | 2020-11-13 | 北京字节跳动网络技术有限公司 | 用于生成语音识别网络的方法、装置、电子设备和介质 |
| CN112084337A (zh) * | 2020-09-17 | 2020-12-15 | 腾讯科技（深圳）有限公司 | 文本分类模型的训练方法、文本分类方法及设备 |
| CN112185368A (zh) * | 2019-07-04 | 2021-01-05 | 宝马股份公司 | 自适应的人机语音对话装置和设备、交互系统和车辆 |
| CN112466279A (zh) * | 2021-02-02 | 2021-03-09 | 深圳市阿卡索资讯股份有限公司 | 一种英语口语发音自动纠正方法和装置 |
-
2021
- 2021-03-26 CN CN202110328172.1A patent/CN112905869B/zh active Active
Patent Citations (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102789484A (zh) * | 2012-06-28 | 2012-11-21 | 奇智软件（北京）有限公司 | 一种网页信息处理方法和装置 |
| CN102867040A (zh) * | 2012-08-31 | 2013-01-09 | 中国科学院计算技术研究所 | 一种面向中文搜索引擎混杂语言的查询纠错方法及系统 |
| US20140278424A1 (en) * | 2013-03-13 | 2014-09-18 | Microsoft Corporation | Kernel deep convex networks and end-to-end learning |
| US20150127319A1 (en) * | 2013-11-07 | 2015-05-07 | Microsoft Corporation | Filled Translation for Bootstrapping Language Understanding of Low-Resourced Languages |
| CN106776564A (zh) * | 2016-12-21 | 2017-05-31 | 张永成 | 一种基于知识图谱的语义识别方法及系统 |
| CN108399169A (zh) * | 2017-02-06 | 2018-08-14 | 阿里巴巴集团控股有限公司 | 基于问答系统的对话处理方法、装置和系统及移动设备 |
| CN108062307A (zh) * | 2018-01-04 | 2018-05-22 | 中国科学技术大学 | 基于词嵌入模型的文本语义隐写分析方法 |
| CN108962224A (zh) * | 2018-07-19 | 2018-12-07 | 苏州思必驰信息科技有限公司 | 口语理解和语言模型联合建模方法、对话方法及系统 |
| CN109408800A (zh) * | 2018-08-23 | 2019-03-01 | 优视科技（中国）有限公司 | 对话机器人系统及相关技能配置方法 |
| CN109558600A (zh) * | 2018-11-14 | 2019-04-02 | 北京字节跳动网络技术有限公司 | 翻译处理方法及装置 |
| CN109635305A (zh) * | 2018-12-17 | 2019-04-16 | 北京百度网讯科技有限公司 | 语音翻译方法及装置、设备及存储介质 |
| CN110111787A (zh) * | 2019-04-30 | 2019-08-09 | 华为技术有限公司 | 一种语义解析方法及服务器 |
| CN110349568A (zh) * | 2019-06-06 | 2019-10-18 | 平安科技（深圳）有限公司 | 语音检索方法、装置、计算机设备及存储介质 |
| CN110276023A (zh) * | 2019-06-20 | 2019-09-24 | 北京百度网讯科技有限公司 | Poi变迁事件发现方法、装置、计算设备和介质 |
| CN110288985A (zh) * | 2019-06-28 | 2019-09-27 | 北京猎户星空科技有限公司 | 语音数据处理方法、装置、电子设备及存储介质 |
| CN112185368A (zh) * | 2019-07-04 | 2021-01-05 | 宝马股份公司 | 自适应的人机语音对话装置和设备、交互系统和车辆 |
| CN110728313A (zh) * | 2019-09-29 | 2020-01-24 | 北京声智科技有限公司 | 一种用于意图分类识别的分类模型训练方法及装置 |
| CN110704641A (zh) * | 2019-10-11 | 2020-01-17 | 零犀(北京)科技有限公司 | 一种万级意图分类方法、装置、存储介质及电子设备 |
| CN111090720A (zh) * | 2019-11-22 | 2020-05-01 | 北京捷通华声科技股份有限公司 | 一种热词的添加方法和装置 |
| CN111260033A (zh) * | 2020-01-15 | 2020-06-09 | 电子科技大学 | 一种基于卷积神经网络模型的网站后门检测方法 |
| CN111489735A (zh) * | 2020-04-22 | 2020-08-04 | 北京声智科技有限公司 | 语音识别模型训练方法及装置 |
| CN111291166A (zh) * | 2020-05-09 | 2020-06-16 | 支付宝(杭州)信息技术有限公司 | 基于Bert的语言模型的训练方法及装置 |
| CN111859994A (zh) * | 2020-06-08 | 2020-10-30 | 北京百度网讯科技有限公司 | 机器翻译模型获取及文本翻译方法、装置及存储介质 |
| CN111916088A (zh) * | 2020-08-12 | 2020-11-10 | 腾讯科技（深圳）有限公司 | 一种语音语料的生成方法、设备及计算机可读存储介质 |
| CN111933119A (zh) * | 2020-08-18 | 2020-11-13 | 北京字节跳动网络技术有限公司 | 用于生成语音识别网络的方法、装置、电子设备和介质 |
| CN112084337A (zh) * | 2020-09-17 | 2020-12-15 | 腾讯科技（深圳）有限公司 | 文本分类模型的训练方法、文本分类方法及设备 |
| CN112466279A (zh) * | 2021-02-02 | 2021-03-09 | 深圳市阿卡索资讯股份有限公司 | 一种英语口语发音自动纠正方法和装置 |
Non-Patent Citations (3)
| Title |
|---|
| 邓际锋;张桂戌;: "在动态语言Lua中支持契约式开发", 计算机工程与应用, no. 19, 1 July 2006 (2006-07-01), pages 77 - 80 * |
| 韩璞;王文治;翟永杰;张婧;: "基于虚拟DCS的混合仿真系统设计与开发", 华北电力大学学报(自然科学版), no. 04, 30 July 2006 (2006-07-30), pages 3 - 6 * |
| 魏忠钰;范智昊;王瑞泽;承怡菁;赵王榕;黄萱菁;: "从视觉到文本:图像描述生成的研究进展综述", 中文信息学报, no. 07, 15 July 2020 (2020-07-15), pages 23 - 33 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113553843A (zh) * | 2021-06-24 | 2021-10-26 | 青岛海尔科技有限公司 | 技能创建方法和装置 |
| CN113553843B (zh) * | 2021-06-24 | 2023-12-19 | 青岛海尔科技有限公司 | 技能创建方法和装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112905869B (zh) | 2024-07-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110473531B (zh) | 语音识别方法、装置、电子设备、系统及存储介质 | |
| CN106683677B (zh) | 语音识别方法及装置 | |
| KR100908358B1 (ko) | 음성 인식을 위한 방법, 모듈, 디바이스 및 서버 | |
| US8543401B2 (en) | System and method for improving performance of semantic classifiers in spoken dialog systems | |
| US9558183B2 (en) | System and method for the localization of statistical classifiers based on machine translation | |
| JP5901001B1 (ja) | 音響言語モデルトレーニングのための方法およびデバイス | |
| CN110717039A (zh) | 文本分类方法和装置、电子设备、计算机可读存储介质 | |
| CN108899013B (zh) | 语音搜索方法、装置和语音识别系统 | |
| CN111613212B (zh) | 语音识别方法、系统、电子设备和存储介质 | |
| JP4680691B2 (ja) | 対話システム | |
| KR102046486B1 (ko) | 정보 입력 방법 | |
| CN1667700A (zh) | 使用发音图表来改进新字的发音学习 | |
| CN103635963A (zh) | 语言模型的跨语种初始化 | |
| US11315547B2 (en) | Method and system for generating speech recognition training data | |
| CN111326144B (zh) | 语音数据处理方法、装置、介质和计算设备 | |
| CN111312209A (zh) | 文本到语音的转换处理方法、装置及电子设备 | |
| CN113053390B (zh) | 基于语音识别的文本处理方法、装置、电子设备及介质 | |
| CN112216284B (zh) | 训练数据更新方法及系统、语音识别方法及系统、设备 | |
| CN111563390A (zh) | 文本生成方法、装置和电子设备 | |
| CN112905869B (zh) | 语言模型的自适应训练方法、装置、存储介质及设备 | |
| CN114492396A (zh) | 用于汽车专有名词的文本错误纠正方法及可读存储介质 | |
| JP7182584B2 (ja) | スピーチ理解における解析異常の情報を出力するための方法 | |
| CN104347081A (zh) | 一种测试场景说法覆盖度的方法和装置 | |
| US20040034519A1 (en) | Dynamic language models for speech recognition | |
| KR20120045906A (ko) | 코퍼스 오류 교정 장치 및 그 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20210906 Address after: 301-112, floor 3, building 2, No. 18, YANGFANGDIAN Road, Haidian District, Beijing 100038 Applicant after: Beijing Rubu Technology Co.,Ltd. Address before: Room 508-598, Xitian Gezhuang Town Government Office Building, No. 8 Xitong Road, Miyun District Economic Development Zone, Beijing 101500 Applicant before: BEIJING ROOBO TECHNOLOGY Co.,Ltd. |
|
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20240627 Address after: 518000 303, block B, Fu'an science and technology building, No. 013, Gaoxin South 1st Road, high tech Zone community, Yuehai street, Nanshan District, Shenzhen, Guangdong Applicant after: Shenzhen haoxueduo Intelligent Technology Co.,Ltd. Country or region after: China Address before: 301-112, floor 3, building 2, No. 18, YANGFANGDIAN Road, Haidian District, Beijing 100038 Applicant before: Beijing Rubu Technology Co.,Ltd. Country or region before: China |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |