CN113593528B - 语音切分模型的训练方法、装置、电子设备及存储介质 - Google Patents
语音切分模型的训练方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113593528B CN113593528B CN202110735369.7A CN202110735369A CN113593528B CN 113593528 B CN113593528 B CN 113593528B CN 202110735369 A CN202110735369 A CN 202110735369A CN 113593528 B CN113593528 B CN 113593528B
- Authority
- CN
- China
- Prior art keywords
- sample
- voice
- speech
- fragments
- segments
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000011218 segmentation Effects 0.000 title claims abstract description 117
- 238000012549 training Methods 0.000 title claims abstract description 69
- 238000000034 method Methods 0.000 title claims abstract description 49
- 239000012634 fragment Substances 0.000 claims abstract description 113
- 238000013519 translation Methods 0.000 claims abstract description 53
- 239000000126 substance Substances 0.000 claims description 4
- 238000005516 engineering process Methods 0.000 abstract description 12
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000013135 deep learning Methods 0.000 abstract description 6
- 238000003058 natural language processing Methods 0.000 abstract description 4
- 238000000605 extraction Methods 0.000 description 24
- 238000004891 communication Methods 0.000 description 13
- 238000012545 processing Methods 0.000 description 11
- 238000004590 computer program Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 6
- 230000003993 interaction Effects 0.000 description 5
- 238000000638 solvent extraction Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000005192 partition Methods 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 235000021178 picnic Nutrition 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000003924 mental process Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/04—Segmentation; Word boundary detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
- G06F40/58—Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
- G10L15/063—Training
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Acoustics & Sound (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Machine Translation (AREA)
Abstract
本申请公开了语音切分模型的训练方法、装置、电子设备及存储介质,涉及计算机技术领域,具体涉及语音技术、深度学习和自然语言处理等人工智能技术领域。具体实施方案为,获取样本语音,并获取待训练的语音切分模型;将样本语音划分为多个样本语音片段;根据语音翻译模型对多个样本语音片段进行翻译,以生成多个样本文本片段;根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值;以及根据多个样本语音片段的标签值和多个样本语音片段对语音切分模型进行训练,以生成训练之后的语音切分模型。由此,能够提高语音切分模型的准确度,且可通过训练的语音切分模型为后续的同声传译提供有意义的语音片段,从而能够提高同声传译的准确率。
Description
技术领域
本申请涉及计算机技术领域,具体涉及智能搜索、大数据和深度学习等人工智能技术领域,尤其涉及一种语音切分模型、装置和电子设备。
背景技术
随着同声传译技术越来越成熟,同声传译设备成为了国际会议、外交外事、会晤谈判、商务活动、新闻传媒等一些国际场合同步翻译不可缺少的设备。
同声传译是指在不打断讲话者讲话的情况下,不断的将内容通过不同的语言传递给听众的一种翻译方式。相关技术中,主流方法是每隔T时间(通常T=几百毫秒)对当前输入流式语音进行一次片段分类,并判断当前语音是否为一个字的边界(word boundary),如果是的话,就采用固定策略进行翻译。
发明内容
本申请提供了一种用于语音切分模型的训练方法、装置、电子设备及存储介质。
根据本申请的一方面,提供了一种语音切分模型的训练方法,包括:
获取样本语音,并获取待训练的语音切分模型;
将所述样本语音划分为多个样本语音片段;
根据语音翻译模型对所述多个样本语音片段进行翻译,以生成多个样本文本片段;
根据所述多个样本文本片段和预设条件,生成所述多个样本语音片段的标签值;以及
根据所述多个样本语音片段的标签值和所述多个样本语音片段对所述语音切分模型进行训练,以生成训练之后的所述语音切分模型。
根据本申请的另一方面,提供了一种语音切分模型的训练装置,包括:
获取模块,用于获取样本语音,并获取待训练的语音切分模型;
划分模块,用于将所述样本语音划分为多个样本语音片段;
第一生成模块,用于根据语音翻译模型对所述多个样本语音片段进行翻译,以生成多个样本文本片段;
第二生成模块,用于根据所述多个样本文本片段和预设条件,生成所述多个样本语音片段的标签值;以及
训练模块,用于根据所述多个样本语音片段的标签值和所述多个样本语音片段对所述语音切分模型进行训练,以生成训练之后的所述语音切分模型。
根据本申请的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述一方面实施例所述的语音切分模型的训练方法。
根据本申请另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其上存储有计算机程序,所述计算机指令用于使所述计算机执行上述一方面实施例所述的语音切分模型的训练方法。
根据本申请的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现上述一方面实施例所述的语音切分模型的训练方法。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1为本申请实施例提供的一种语音切分模型的训练方法的流程示意图;
图2为本申请实施例提供的另一种语音切分模型的训练方法的流程示意图;
图3为本申请具体实施例提供的多个样本语音片段的示意图;
图4为本申请具体实施例提供的多个样本语音片段与多个样本文本片段的对照示意图;
图5为本申请实施例提供的另一种语音切分模型的训练方法的流程示意图;
图6为本申请实施例提供的一种语音切分模型的训练装置的结构示意图;以及
图7为根据本申请实施例的语音切分模型的训练方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
下面参考附图描述本申请实施例的语音切分模型方法、装置和电子设备。
人工智能是研究使用计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术领域也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术包括计算机视觉技术、语音识别技术、自然语言处理技术以及深度学习、大数据处理技术、知识图谱技术等几大方向。
自然语言处理是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。
深度学习是机器学习领域中一个新的研究方向。深度学习是学习样本数据的内在规律和表示层次,这些学习过程中获得的信息对诸如文字,图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据。深度学习是一个复杂的机器学习算法,在语音和图像识别方面取得的效果,远远超过先前相关技术。
语音技术是让计算机能听、能看、能说、能感觉,是未来人机交互的发展方向,其中语音成为未来最被看好的人机交互方式,语音比其他的交互方式有更多的优势。让计算机说话需要用到语音合成技术,其核心是文语转换技术(Text to Speech)。
本申请实施例提供的语音切分模型的训练方法,可以由电子设备来执行,该电子设备可为PC(Personal Computer,个人计算机)电脑、平板电脑、掌上电脑或手机等,此处不做任何限定。
在本申请实施例中,电子设备中可以设置有处理组件、存储组件和驱动组件。可选的,该驱动组件和处理组件可以集成设置,该存储组件可以存储操作系统、应用程序或其他程序模块,该处理组件通过执行存储组件中存储的应用程序来实现本申请实施例提供的语音切分模型的训练方法。
图1为本申请实施例提供的一种语音切分模型的训练方法的流程示意图。
本申请实施例的语音切分模型的训练方法,还可由本申请实施例提供的语音切分模型的训练装置执行,该装置可配置于电子设备中,以实现将获取到的样本语音划分为多个样本语音片段,并根据语音翻译模型对多个样本语音片段进行翻译,以生成多个样本文本片段,以及根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值,而后根据多个样本语音片段的标签值和多个样本语音片段对待训练的语音切分模型进行训练,从而能够提高语音切分模型的准确度。
作为一种可能的情况,本申请实施例的语音切分模型的训练方法还可以在服务器端执行,服务器可以为云服务器,可以在云端执行该语音切分模型的训练方法。
如图1所示,该语音切分模型的训练方法,可包括:
步骤101,获取样本语音,并获取待训练的语音切分模型。其中,样本语音可为多个,且该样本语音可为中文语音、英文语音或德文语音等,此处不做任何限定。
在本申请实施例中,获取样本语音的途径可有多条,其中,可通过收集同声传译装置在进行同声传译时的语音,来获取样本语音,还可人为主动创造样本语音,例如,根据相关人员的需求,通过相关的录音设备进行样本语音的录音,还可主动收集一些路人的话语,来获取样本语音,此处不做任何限定。
需要说明的是,该实施例中所描述的样本语音可具有完整的含义,例如,“今天天气很好”、“今天天气很好,我们去郊游吧”、“多么美好的一天”等。
在本申请实施例中,上述的待训练的语音切分模型可预存在电子设备的存储空间中,以方便调取使用,其中,该存储空间不仅限于实体的存储空间,例如,硬盘,上述存储空间还可以是连接电子设备的网络硬盘的存储空间(云存储空间)。
具体地,电子设备在获取到样本语音之后,还可从自身的存储空间中获取(调取)待训练的语音切分模型。
步骤102,将样本语音划分为多个样本语音片段。
在本申请实施例中,可根据预设的样本语音片段提取算法,将样本语音划分为多个样本语音片段,其中,该样本语音片段提取算法可根据实际情况进行标定。
具体地,电子设备在获取到样本语音和待训练的语音切分模型之后,可根据预设的样本语音片段提取算法,将样本语音划分为多个样本语音片段,例如,将样本语音:“多么美好的一天”,划分为:“多么、多么美、多么美好和多么美好的”四个样本语音片段。
作为一种可能的情况,电子设备还可通过样本语音片段提取模型对样本语音进行处理(划分),以生成多个样本语音片段。
需要说明的是,该实施例中所描述的样本语音片段提取模型可以是提前训练好的,并将其预存在电子设备的存储空间中,以方便调取应用。
其中,该样本语音片段提取模型的训练与生成可由相关的服务器进行,该服务器可以是云端服务器,也可以是一台电脑的主机,该服务器与可执行申请实施例提供的语音切分模型的训练方法的电子设备之间,建立有通信连接,该通信连接可以是无线网络连接和有线网络连接的至少一种。服务器可将训练完成的样本语音片段提取模型发送给电子设备,以便电子设备在需要时调用,从而大大减少电子设备的计算压力。
具体地,电子设备在获取到样本语音和待训练的语音切分模型之后,可从自身的存储空间中调出样本语音片段提取模型,并将该样本语音输入至该样本语音片段提取模型,从而通过该样本语音片段提取模型对该样本语音进行处理,从而得到该样本语音片段提取模型输出的多个样本语音片段。
作为另一种可能的情况,电子设备还可使用划分工具(例如,插件),将样本语音划分为多个样本语音片段。
进一步地,为了提高样本语音划分的精确度,在本申请实施例中,电子设备在获取到样本语音和待训练的语音切分模型之后,还可先对样本语音进行预处理,以去除该样本语音中的空白部分,以及该样本语音中的杂音等。
步骤103,根据语音翻译模型对多个样本语音片段进行翻译,以生成多个样本文本片段。
需要说明的是,该实施例中所描述的翻译模型可以是提前训练好的,并将其预存在电子设备的存储空间中,以方便调取应用。
具体地,电子设备在得到多个样本语音片段之后,可从自身的存储空间中调出语音翻译模型,并可将该多个样本语音片段依次输入至该语音翻译模型,从而通过该语音翻译模型翻译该多个样本语音片,以得到该语音翻译模型输出的多个样本文本片段。
步骤104,根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值。其中,预设条件可根据实际情况进行标定,例如,该预设条件可包括样本文本片段为整句语音翻译结果(即,样本语音的翻译结果)的一个前缀。
步骤105,根据多个样本语音片段的标签值和多个样本语音片段对语音切分模型进行训练,以生成训练之后的语音切分模型。
具体地,电子设备在得到多个样本文本片段之后,可根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值,然后将多个样本语音片段中的样本语音片段依次输入语音切分模型,以生成多个预测的标签值,并根据预测的标签值和当前输入的样本语音片段对应的标签值,生成损失值,以及根据该损失值对语音切分模型进行训练,从而优化该语音切分模型。
在本申请实施例中,首先获取样本语音,并获取待训练的语音切分模型,以及将样本语音划分为多个样本语音片段,然后根据语音翻译模型对多个样本语音片段进行翻译,以生成多个样本文本片段,并根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值,最后根据多个样本语音片段的标签值和多个样本语音片段对语音切分模型进行训练,以生成训练之后的语音切分模型。由此,能够提高语音切分模型的准确度,且可通过训练的语音切分模型为后续的同声传译提供有意义的语音片段,从而能够提高同声传译的准确率。
为了清楚的说明上一实施例,在本申请的一个实施例中,如图2所示,将样本语音划分为多个样本语音片段,可包括:
步骤201,获取时间间隔,其中,该时间间隔可以根据实际情况进行标定。应该说明的是,该实施例中所描述的时间间隔可以是相关人员提前设置好的,并将其预存在电子设备中,以便需要时调用。
步骤202,根据时间间隔对样本语音进行划分,以生成多个语音片段,其中,多个语音片段包括样本语音。
步骤203,将多个语音片段中的样本语音删除,以得到多个样本语音片段。
具体地,电子设备在获取到样本语音之后,可先从自身的存储空间中调出(获取)时间间隔(几百毫秒),然后电子设备可根据该时间间隔对样本语音进行划分,例如,可每隔该时间间隔,取当前的语音内容,以生成多个语音片段。再然后电子设备可将该多个语音片段中的样本语音删除,以得到多个样本语音片段。
举例而言,参见图3,假设样本语音为中文语音:“多么美好的一天”,则根据时间间隔对该样本语音进行划分,可得到“多么、多么美、多么美好、多么美好的和多么美好的一天”五个语音片段,其中,第五个(即,最后一个)语音片段可为样本语音“多么美好的一天”。然后可将该五个语音片段中的最后一个语音片段(即,样本语音)删除,从而得到四个样本语音片段“多么、多么美、多么美好和多么美好的”。
由此,可将样本语音划分为多个样本语音片段,为后续语音切分模型的训练提供充足的样本数据,从而提升训练的效果。
进一步地,在本申请的一个实施例中,根据语音翻译模型对多个样本语音片段进行翻译,以生成多个样本文本片段,包括将多个样本语音片段输入至语音翻译模型,并通过语音翻译模型翻译多个样本语音片段,生成多个样本文本片段,其中,多个样本文本片段的语言与多个样本语音片的语言为不同语种。
具体地,电子设备在得到多个样本语音片段之后,可将多个样本语音片段中样本语音片段依次输入至语音翻译模型,而后该语音翻译模型可依次翻译输入的样本语音片段,从而得到多个样本文本片段。
举例而言,参见图4,假设多个样本语音片段分别为“多么、多么美、多么美好和多么美好的”,则其经过语音翻译模型对应输出的多个样本文本片段可为“What、Whatbeautiful、What nice、What a beautiful day”。
由此,可以通过语音翻译模型准确地得到多个样本语音片段对应的翻译结果。
进一步地,在本申请的一个实施例中,根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值,可包括分别判断多个样本文本片段中的每个样本文本片段是否满足预设条件,并根据相应的判断结果生成标签值,其中,如果样本文本片段满足预设条件,则样本文本片段对应的样本语音片段的标签值为“1”;如果样本文本片段不满足预设条件,则样本文本片段对应的样本语音片段的标签值为“0”。
具体地,电子设备在得到多个样本文本片段之后,可分别判断多个样本文本片段中的每个样本文本片段是否为整句语音翻译结果(即,样本语音的翻译结果)的一个前缀,并可根据相应的判断结果生成标签值。其中,在判断样本文本片段为整句语音翻译结果(即,样本语音的翻译结果)的一个前缀时,则电子设备生成的该样本文本片段对应的样本语音片段的标签值可为“1”,在判断样本文本片段不为整句语音翻译结果(即,样本语音的翻译结果)的一个前缀时,则电子设备生成的该样本文本片段对应的样本语音片段的标签值可为“0”。由此,可将语音翻译模型的输出结果转换成了概率,即正样本为“1”(正确的概率100%),负样本为“0”(正确的概率0%),为后续对语音切分模型的训练提供必要的训练参数。
举例而言,参见图4,假设多个样本文本片段为“What、What beautiful、Whatnice、What a beautiful day”,则对应的第1和第4个样本语音片段是表意明确的语音片段,即为正样本其对应的标签值为“1”,第2和第3个样本语音片段表意不明确,即为负样本其对应的标签值为“0”。
需要说明的是,该实施例中所描述的预设条件之所以可包括样本文本片段为整句语音翻译结果(即,样本语音的翻译结果)的一个前缀,可以是为了判断样本文本片段对应的样本语音片段是否为语意明确的语音片段。
在本申请的一个实施例中,如图5所示,根据多个样本语音片段的标签值和多个样本语音片段对语音切分模型进行训练,可包括:
步骤501,将样本语音片段输入语音切分模型以生成预测的标签值。
步骤502,根据预测的标签值和样本语音片段对应的标签值,生成损失值。应该说明的是,该实施例中的损失值可以通过损失值公式计算获得。
步骤503,根据损失值对语音切分模型进行训练。
具体地,电子设备在得到多个样本语音片段的标签值之后,可利用该多个样本语音片段及其对应的标签值对语音切分模型进行训练,其中,在训练过程中,可将样本语音片段输入语音切分模型以生成预测的标签值,并可利用相关的损失值公式,根据该预测的标签值和该样本语音片段对应的标签值生成损失值,以及根据该损失值对语音切分模型进行训练,重复上述的训练操作直至完成本次基于多个样本语音片段的训练。由此,能够优化语音切分模型,进一步提高语音切分模型的准确度,且可通过训练的语音切分模型为后续的同声传译提供有意义的语音片段,从而能够提高同声传译的准确率。
图6为本申请实施例提供的一种语音切分模型的训练装置的结构示意图。
本申请实施例的语音切分模型的训练装置,可配置于电子设备中,以实现将获取到的样本语音划分为多个样本语音片段,并根据语音翻译模型对多个样本语音片段进行翻译,以生成多个样本文本片段,以及根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值,而后根据多个样本语音片段的标签值和多个样本语音片段对待训练的语音切分模型进行训练,从而能够提高语音切分模型的准确度。
如图6所示,该语音切分模型的训练装置600,可包括:获取模块610、划分模块620、第一生成模块630、第二生成模块640和训练模块650。
其中,获取模块610用于获取样本语音,并获取待训练的语音切分模型。其中,样本语音可为多个,且该样本语音可为中文语音、英文语音或德文语音等,此处不做任何限定。
在本申请实施例中,获取模块610获取样本语音的途径可有多条,其中,可通过收集同声传译装置在进行同声传译时的语音,来获取样本语音,还可人为主动创造样本语音,例如,根据相关人员的需求,通过相关的录音设备进行样本语音的录音,还可主动收集一些路人的话语,来获取样本语音,此处不做任何限定。
需要说明的是,该实施例中所描述的样本语音可具有完整的含义,例如,“今天天气很好”、“今天天气很好,我们去郊游吧”、“多么美好的一天”等。
在本申请实施例中,上述的待训练的语音切分模型可预存在电子设备的存储空间中,以方便调取使用,其中,该存储空间不仅限于实体的存储空间,例如,硬盘,上述存储空间还可以是连接电子设备的网络硬盘的存储空间(云存储空间)。
具体地,获取模块610在获取到样本语音之后,还可从电子设备的存储空间中获取(调取)待训练的语音切分模型。
划分模块620用于将样本语音划分为多个样本语音片段。
在本申请实施例中,划分模块620可根据预设的样本语音片段提取算法,将样本语音划分为多个样本语音片段,其中,该样本语音片段提取算法可根据实际情况进行标定。
具体地,在获取模块610获取到样本语音和待训练的语音切分模型之后,划分模块620可根据预设的样本语音片段提取算法,将样本语音划分为多个样本语音片段,例如,将样本语音:“多么美好的一天”,划分为:“多么、多么美、多么美好和多么美好的”四个样本语音片段。
作为一种可能的情况,划分模块620还可调取样本语音片段提取模型对样本语音进行处理(划分),以生成多个样本语音片段。
需要说明的是,该实施例中所描述的样本语音片段提取模型可以是提前训练好的,并将其预存在电子设备的存储空间中,以方便调取应用。
其中,该样本语音片段提取模型的训练与生成可由相关的服务器进行,该服务器可以是云端服务器,也可以是一台电脑的主机,该服务器与可执行申请实施例提供的语音切分模型的训练方法的电子设备之间,建立有通信连接,该通信连接可以是无线网络连接和有线网络连接的至少一种。服务器可将训练完成的样本语音片段提取模型发送给电子设备,以便电子设备在需要时调用,从而大大减少电子设备的计算压力。
具体地,在获取模块610获取到样本语音和待训练的语音切分模型之后,划分模块620可从电子设备的存储空间中调出样本语音片段提取模型,并将该样本语音输入至该样本语音片段提取模型,从而通过该样本语音片段提取模型对该样本语音进行处理,从而得到该样本语音片段提取模型输出的多个样本语音片段。
作为另一种可能的情况,划分模块620还可使用划分工具(例如,插件),将样本语音划分为多个样本语音片段。
进一步地,为了提高样本语音划分的精确度,在本申请实施例中,在获取模块610获取到样本语音和待训练的语音切分模型之后,划分模块620还可先对样本语音进行预处理,以去除该样本语音中的空白部分,以及该样本语音中的杂音等。
第一生成模块630用于根据语音翻译模型对多个样本语音片段进行翻译,以生成多个样本文本片段。
需要说明的是,该实施例中所描述的翻译模型可以是提前训练好的,并将其预存在电子设备的存储空间中,以方便调取应用。
具体地,在划分模块620得到多个样本语音片段之后,第一生成模块630可从电子设备的存储空间中调出语音翻译模型,并可将该多个样本语音片段依次输入至该语音翻译模型,从而通过该语音翻译模型翻译该多个样本语音片,以得到该语音翻译模型输出的多个样本文本片段。
第二生成模块640用于根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值。其中,预设条件可根据实际情况进行标定,例如,该预设条件可包括样本文本片段为整句语音翻译结果(即,样本语音的翻译结果)的一个前缀。
训练模块650用于根据多个样本语音片段的标签值和多个样本语音片段对语音切分模型进行训练,以生成训练之后的语音切分模型。
具体地,在第一生成模块630得到多个样本文本片段之后,第二生成模块640可根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值,然后训练模块650将多个样本语音片段中的样本语音片段依次输入语音切分模型,以生成多个预测的标签值,并根据预测的标签值和当前输入的样本语音片段对应的标签值,生成损失值,以及根据该损失值对语音切分模型进行训练,从而优化该语音切分模型。
在本申请实施例中,首先通过获取模块获取样本语音,并获取待训练的语音切分模型,然后通过划分模块将样本语音划分为多个样本语音片段,并通过第一生成模块根据语音翻译模型对多个样本语音片段进行翻译,以生成多个样本文本片段,以及通过第二生成模块根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值,最后通过训练模块根据多个样本语音片段的标签值和多个样本语音片段对语音切分模型进行训练,以生成训练之后的语音切分模型。由此,能够提高语音切分模型的准确度,且可通过训练的语音切分模型为后续的同声传译提供有意义的语音片段,从而能够提高同声传译的准确率。
在本申请的一个实施例中,获取模块610具体用于获取时间间隔,并根据时间间隔对样本语音进行划分,以生成多个语音片段,其中,多个语音片段包括样本语音,以及将多个语音片段中的样本语音删除,以得到多个样本语音片段。
在本申请的一个实施例中,第一生成模块630具体用于将多个样本语音片段输入至语音翻译模型,并通过语音翻译模型翻译多个样本语音片段,生成多个样本文本片段,其中,多个样本文本片段的语言与多个样本语音片的语言为不同语种。
在本申请的一个实施例中,第二生成模块640具体用于:分别判断多个样本文本片段中的每个样本文本片段是否满足预设条件,并根据相应的判断结果生成标签值;其中,如果样本文本片段满足预设条件,则样本文本片段对应的样本语音片段的标签值为“1”;如果样本文本片段不满足预设条件,则样本文本片段对应的样本语音片段的标签值为“0”。
在本申请的一个实施例中,训练模块650具体用于将样本语音片段输入语音切分模型以生成预测的标签值,并根据预测的标签值和样本语音片段对应的标签值,生成损失值,以及根据损失值对语音切分模型进行训练。
需要说明的是,前述对语音切分模型的训练方法实施例的解释说明也适用于该实施例的语音切分模型的训练装置,此处不再赘述。
本申请实施例的语音切分模型的训练装置,首先通过获取模块获取样本语音,并获取待训练的语音切分模型,然后通过划分模块将样本语音划分为多个样本语音片段,并通过第一生成模块根据语音翻译模型对多个样本语音片段进行翻译,以生成多个样本文本片段,以及通过第二生成模块根据多个样本文本片段和预设条件,生成多个样本语音片段的标签值,最后通过训练模块根据多个样本语音片段的标签值和多个样本语音片段对语音切分模型进行训练,以生成训练之后的语音切分模型。由此,能够提高语音切分模型的准确度,且可通过训练的语音切分模型为后续的同声传译提供有意义的语音片段,从而能够提高同声传译的准确率。
根据本申请的实施例,本申请还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图7示出了可以用来实施本申请的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示,设备700包括计算单元701,其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元706载到随机访问存储器(RAM)703中的计算机程序,来执行各种适当的动作和处理。在RAM703中,还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
设备700中的多个部件连接至I/O接口705,包括:输入单元706如键盘、鼠标等;输出单元707,例如各种类型的显示器、扬声器等;存储单元708,例如磁盘、光盘等;以及通信单元709,例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理,例如语音切分模型的训练方法。例如,在一些实施例中,语音切分模型的训练方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元706些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时,可以执行上文描述的语音切分模型的训练方法的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行语音切分模型的训练方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本申请的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本申请的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (12)
1.一种语音切分模型的训练方法,包括:
获取样本语音,并获取待训练的语音切分模型;
将所述样本语音划分为多个样本语音片段;
根据语音翻译模型对所述多个样本语音片段进行翻译,以生成多个样本文本片段;
根据所述多个样本文本片段和预设条件,生成所述多个样本语音片段的标签值,所述预设条件包括所述样本文本片段为整句样本语音翻译结果的前缀;以及
根据所述多个样本语音片段的标签值和所述多个样本语音片段对所述语音切分模型进行训练,以生成训练之后的所述语音切分模型。
2.根据权利要求1所述的方法,其中,将所述样本语音划分为多个样本语音片段,包括:
获取时间间隔;
根据所述时间间隔对所述样本语音进行划分,以生成多个语音片段,其中,所述多个语音片段包括所述样本语音;
将所述多个语音片段中的所述样本语音删除,以得到所述多个样本语音片段。
3.根据权利要求1所述的方法,其中,所述根据语音翻译模型对所述多个样本语音片段进行翻译,以生成多个样本文本片段,包括:
将所述多个样本语音片段输入至所述语音翻译模型;
通过所述语音翻译模型翻译所述多个样本语音片段,生成所述多个样本文本片段,其中,所述多个样本文本片段的语言与所述多个样本语音片的语言为不同语种。
4.根据权利要求1所述的方法,其中,所述根据所述多个样本文本片段和预设条件,生成所述多个样本语音片段的标签值,包括:
分别判断所述多个样本文本片段中的每个所述样本文本片段是否满足预设条件,并根据相应的判断结果生成所述标签值;其中,
如果所述样本文本片段满足预设条件,则所述样本文本片段对应的样本语音片段的标签值为“1”;
如果所述样本文本片段不满足预设条件,则所述样本文本片段对应的样本语音片段的标签值为“0”。
5.根据权利要求1所述的方法,其中,所述根据所述多个样本语音片段的标签值和所述多个样本语音片段对所述语音切分模型进行训练,包括:
将所述样本语音片段输入所述语音切分模型以生成预测的标签值;
根据所述预测的标签值和所述样本语音片段对应的标签值,生成损失值;
根据所述损失值对所述语音切分模型进行训练。
6.一种语音切分模型的训练装置,包括:
获取模块,用于获取样本语音,并获取待训练的语音切分模型;
划分模块,用于将所述样本语音划分为多个样本语音片段;
第一生成模块,用于根据语音翻译模型对所述多个样本语音片段进行翻译,以生成多个样本文本片段;
第二生成模块,用于根据所述多个样本文本片段和预设条件,生成所述多个样本语音片段的标签值,所述预设条件包括所述样本文本片段为整句样本语音翻译结果的前缀;以及
训练模块,用于根据所述多个样本语音片段的标签值和所述多个样本语音片段对所述语音切分模型进行训练,以生成训练之后的所述语音切分模型。
7.根据权利要求6所述的装置,其中,所述获取模块,具体用于:
获取时间间隔;
根据所述时间间隔对所述样本语音进行划分,以生成多个语音片段,其中,所述多个语音片段包括所述样本语音;
将所述多个语音片段中的所述样本语音删除,以得到所述多个样本语音片段。
8.根据权利要求6所述的装置,其中,所述第一生成模块,具体用于:
将所述多个样本语音片段输入至所述语音翻译模型;
通过所述语音翻译模型翻译所述多个样本语音片段,生成所述多个样本文本片段,其中,所述多个样本文本片段的语言与所述多个样本语音片的语言为不同语种。
9.根据权利要求6所述的装置,其中,所述第二生成模块,具体用于:
分别判断所述多个样本文本片段中的每个所述样本文本片段是否满足预设条件,并根据相应的判断结果生成所述标签值;其中,
如果所述样本文本片段满足预设条件,则所述样本文本片段对应的样本语音片段的标签值为“1”;
如果所述样本文本片段不满足预设条件,则所述样本文本片段对应的样本语音片段的标签值为“0”。
10.根据权利要求6所述的装置,其中,所述训练模块,具体用于:
将所述样本语音片段输入所述语音切分模型以生成预测的标签值;
根据所述预测的标签值和所述样本语音片段对应的标签值,生成损失值;
根据所述损失值对所述语音切分模型进行训练。
11.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的语音切分模型的训练方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-5中任一项所述的语音切分模型的训练方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110735369.7A CN113593528B (zh) | 2021-06-30 | 2021-06-30 | 语音切分模型的训练方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110735369.7A CN113593528B (zh) | 2021-06-30 | 2021-06-30 | 语音切分模型的训练方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113593528A CN113593528A (zh) | 2021-11-02 |
CN113593528B true CN113593528B (zh) | 2022-05-17 |
Family
ID=78245374
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110735369.7A Active CN113593528B (zh) | 2021-06-30 | 2021-06-30 | 语音切分模型的训练方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113593528B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103345922A (zh) * | 2013-07-05 | 2013-10-09 | 张巍 | 一种长篇幅语音全自动切分方法 |
CN108847217A (zh) * | 2018-05-31 | 2018-11-20 | 平安科技(深圳)有限公司 | 一种语音切分方法、装置、计算机设备及存储介质 |
CN109616097A (zh) * | 2019-01-04 | 2019-04-12 | 平安科技(深圳)有限公司 | 语音数据处理方法、装置、设备及存储介质 |
CN111312223A (zh) * | 2020-02-20 | 2020-06-19 | 北京声智科技有限公司 | 语音分割模型的训练方法、装置和电子设备 |
CN111696526A (zh) * | 2020-06-22 | 2020-09-22 | 北京达佳互联信息技术有限公司 | 语音识别模型的生成方法、语音识别方法、装置 |
CN112331188A (zh) * | 2019-07-31 | 2021-02-05 | 武汉Tcl集团工业研究院有限公司 | 一种语音数据处理方法、系统及终端设备 |
CN113053365A (zh) * | 2021-03-12 | 2021-06-29 | 云知声智能科技股份有限公司 | 语音分离方法、装置、设备和存储介质 |
-
2021
- 2021-06-30 CN CN202110735369.7A patent/CN113593528B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103345922A (zh) * | 2013-07-05 | 2013-10-09 | 张巍 | 一种长篇幅语音全自动切分方法 |
CN108847217A (zh) * | 2018-05-31 | 2018-11-20 | 平安科技(深圳)有限公司 | 一种语音切分方法、装置、计算机设备及存储介质 |
CN109616097A (zh) * | 2019-01-04 | 2019-04-12 | 平安科技(深圳)有限公司 | 语音数据处理方法、装置、设备及存储介质 |
CN112331188A (zh) * | 2019-07-31 | 2021-02-05 | 武汉Tcl集团工业研究院有限公司 | 一种语音数据处理方法、系统及终端设备 |
CN111312223A (zh) * | 2020-02-20 | 2020-06-19 | 北京声智科技有限公司 | 语音分割模型的训练方法、装置和电子设备 |
CN111696526A (zh) * | 2020-06-22 | 2020-09-22 | 北京达佳互联信息技术有限公司 | 语音识别模型的生成方法、语音识别方法、装置 |
CN113053365A (zh) * | 2021-03-12 | 2021-06-29 | 云知声智能科技股份有限公司 | 语音分离方法、装置、设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113593528A (zh) | 2021-11-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113705187B (zh) | 预训练语言模型的生成方法、装置、电子设备和存储介质 | |
CN112507706B (zh) | 知识预训练模型的训练方法、装置和电子设备 | |
CN112580339B (zh) | 模型的训练方法、装置、电子设备及存储介质 | |
CN112541070B (zh) | 槽位更新语料的挖掘方法、装置、电子设备和存储介质 | |
CN114416943B (zh) | 对话模型的训练方法、装置、电子设备及存储介质 | |
CN112784589B (zh) | 一种训练样本的生成方法、装置及电子设备 | |
CN112560846B (zh) | 纠错语料的生成方法、装置及电子设备 | |
CN114548110A (zh) | 语义理解方法、装置、电子设备及存储介质 | |
CN112466289A (zh) | 语音指令的识别方法、装置、语音设备和存储介质 | |
CN115309877A (zh) | 对话生成方法、对话模型训练方法及装置 | |
CN113360001A (zh) | 输入文本的处理方法、装置、电子设备和存储介质 | |
CN113656590A (zh) | 行业图谱的构建方法、装置、电子设备及存储介质 | |
JP2023025126A (ja) | 深層学習モデルのトレーニング方法及び装置、テキストデータ処理方法及び装置、電子機器、記憶媒体、並びにコンピュータプログラム | |
CN114267342A (zh) | 识别模型的训练方法、识别方法、电子设备及存储介质 | |
CN114758649B (zh) | 一种语音识别方法、装置、设备和介质 | |
CN116257690A (zh) | 一种资源推荐方法、装置、电子设备和存储介质 | |
CN113593528B (zh) | 语音切分模型的训练方法、装置、电子设备及存储介质 | |
CN113033179B (zh) | 知识获取方法、装置、电子设备及可读存储介质 | |
CN112530415B (zh) | 负向回复识别模型获取及负向回复识别方法和装置 | |
CN114119972A (zh) | 模型获取及对象处理方法、装置、电子设备及存储介质 | |
CN112784599B (zh) | 诗句的生成方法、装置、电子设备和存储介质 | |
CN114969195A (zh) | 对话内容挖掘方法和对话内容评估模型的生成方法 | |
CN113641724A (zh) | 知识标签挖掘方法、装置、电子设备及存储介质 | |
CN114020918A (zh) | 分类模型训练方法、翻译方法、装置及电子设备 | |
CN113342179A (zh) | 输入文本的处理方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |