CN116386611B - 一种教学声场环境的去噪方法 - Google Patents
一种教学声场环境的去噪方法 Download PDFInfo
- Publication number
- CN116386611B CN116386611B CN202310430698.XA CN202310430698A CN116386611B CN 116386611 B CN116386611 B CN 116386611B CN 202310430698 A CN202310430698 A CN 202310430698A CN 116386611 B CN116386611 B CN 116386611B
- Authority
- CN
- China
- Prior art keywords
- audio
- training
- network
- vector
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 40
- 239000013598 vector Substances 0.000 claims abstract description 130
- 238000012549 training Methods 0.000 claims description 88
- 238000000605 extraction Methods 0.000 claims description 35
- 238000006243 chemical reaction Methods 0.000 claims description 24
- 238000011156 evaluation Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 17
- 238000010276 construction Methods 0.000 claims 1
- 238000012545 processing Methods 0.000 abstract description 7
- 238000001228 spectrum Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 238000012952 Resampling Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000037433 frameshift Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
- G10L15/063—Training
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/194—Calculation of difference between files
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/16—Speech classification or search using artificial neural networks
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/20—Speech recognition techniques specially adapted for robustness in adverse environments, e.g. in noise, of stress induced speech
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T90/00—Enabling technologies or technologies with a potential or indirect contribution to GHG emissions mitigation
Abstract
本申请适用于语音处理技术领域，提供了一种教学声场环境的去噪方法，该方法包括：获取待处理音频，其中，待处理音频为教学声场环境中的音频；提取待处理音频中的第一音频特征向量；将第一音频特征向量输入至预先训练的噪音去除目标模型，得到预测音频；对预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频。可见，本申请实施例可以有效去除教学声场环境中的噪音。
Description
技术领域
本申请属于语音处理技术领域，尤其涉及一种教学声场环境的去噪方法。
背景技术
教学声场环境的声源主要是教师的讲解声、课件的解说、音乐和效果声。教学信息的传递主要是通过教师的讲授语音或影片、课件中的解说传递给学生。因此,教学声场环境的声音效果主要追求语言的清晰度,兼顾声音的丰满度。现有技术中，教学声场环境中往往会存在各种类型的噪音，降低信噪比、掩盖有用信息、破坏声场的正常分布，使声场存在染色，导致信息声音质感的严重削弱，为此，缺乏一种能够有效去除教学声场环境噪音的方法。
发明内容
本申请实施例提供了一种教学声场环境的去噪方法、装置、服务器以及计算机可读存储介质，可以解决现有技术中缺乏一种能够有效去除教学声场环境噪音的方法的技术问题。
第一方面，本申请实施例提供了一种教学声场环境的去噪方法，包括：
获取待处理音频；
提取所述待处理音频中的第一音频特征向量；
将所述第一音频特征向量输入至预先训练的噪音去除目标模型，得到预测音频；
对所述预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频。
在第一方面的可选的实现方式中，将所述第一音频特征向量输入至预先训练的噪音去除目标模型，得到预测音频之前，还包括：
构建预先训练的噪音去除目标模型。
在第一方面的可选的实现方式中，构建预先训练的噪音去除目标模型，包括：
获取训练音频；
根据所述训练音频和所述训练音频对应的真实音频，对噪音去除目标模型进行训练，得到训练后的噪音去除目标模型。
在第一方面的可选的实现方式中，噪音去除目标模型包括特征提取网络、特征编码网络、音频生成网络以及特征转换网络；
根据所述训练音频和所述训练音频对应的真实音频，对噪音去除目标模型进行训练，得到训练后的噪音去除目标模型，包括：
将所述训练音频输入至所述特征提取网络，得到第二音频特征向量；
所述训练音频对应的随机音频输入至所述特征编码网络，得到第三音频特征向量；
将所述第二音频特征向量和所述第三音频特征向量输入至所述音频生成网络，得到音频生成向量；
将所述音频生成向量输入至特征转换网络，得到预测训练音频；
对所述预测训练音频和所述真实音频进行音频相似度评价，根据相似度评价结果对所述音频生成网络进行迭代更新；
根据特征提取网络、特征编码网络、迭代更新后的音频生成网络以及特征转换网络，形成训练后的噪音去除目标模型。
在第一方面的可选的实现方式中，对所述预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频，包括：
生成所述预测音频对应的第一文本；
生成所述待处理音频对应的第二文本
将所述第一文本对应的第一文本向量和所述第二文本的第二向量代入至下列公式，得到文本相似度：
其中，H表示文本相似度，A表示第一文本向量，B表示第二文本向量；
当所述文本相似度大于相似度阈值时，判定结果为音频去噪成功，将判定结果为音频去噪成功对应的预测音频作为目标音频。
第二方面，本申请实施例提供了一种教学声场环境的去噪装置，包括：
获取模块，用于获取待处理音频；
提取模块，用于提取所述待处理音频中的第一音频特征向量；
预测模块，用于将所述第一音频特征向量输入至预先训练的噪音去除目标模型，得到预测音频；
判定模块，用于对所述预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频。
在第二方面的一种可选得实现方式中，所述装置，还包括：
构建模块。
在第二方面的一种可选得实现方式中，所述构建模块，包括：
获取子模块，用于获取训练音频；
训练子模块，用于根据所述训练音频和所述训练音频对应的真实音频，对噪音去除目标模型进行训练，得到训练后的噪音去除目标模型。
在第二方面的一种可选得实现方式中，噪音去除目标模型包括特征提取网络、特征编码网络、音频生成网络以及特征转换网络；
所述训练子模块，包括：
第一特征提取单元，用于将所述训练音频输入至所述特征提取网络，得到第二音频特征向量；
第二特征提取单元，所述训练音频对应的随机音频输入至所述特征编码网络，得到第三音频特征向量；
音频生成单元，用于将所述第二音频特征向量和所述第三音频特征向量输入至所述音频生成网络，得到音频生成向量；
特征转换单元，用于将所述音频生成向量输入至特征转换网络，得到预测训练音频；
音频相似度评价单元，用于对所述预测训练音频和所述真实音频进行音频相似度评价，根据相似度评价结果对所述音频生成网络进行迭代更新；
形成单元，用于根据特征提取网络、特征编码网络、迭代更新后的音频生成网络以及特征转换网络，形成训练后的噪音去除目标模型。
在第二方面的一种可选得实现方式中，所述判定模块，包括：
第一生成子模块，用于生成所述预测音频对应的第一文本；
第二生成子模块，用于生成所述待处理音频对应的第二文本
文本相似度子模块，用于将所述第一文本对应的第一文本向量和所述第二文本的第二向量代入至下列公式，得到文本相似度：
其中，H表示文本相似度，A表示第一文本向量，B表示第二文本向量；
判定子模块，用于当所述文本相似度大于相似度阈值时，判定结果为音频去噪成功，将判定结果为音频去噪成功对应的预测音频作为目标音频。
第三方面，本申请实施例提供了一种服务器，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述第一方面所述的方法。
第三方面，本申请实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如上述第一方面所述的方法。
本申请实施例与现有技术相比存在的有益效果是：
通过获取待处理音频，其中，待处理音频为教学声场环境中的音频，提取待处理音频中的第一音频特征向量，将第一音频特征向量输入至预先训练的噪音去除目标模型，得到预测音频，对预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频。可见，本申请实施例可以有效去除教学声场环境中的噪音。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的教学声场环境的去噪方法的流程示意图；
图2是本申请实施例提供的教学声场环境的去噪装置的结构框图；
图3是本申请实施例提供的服务器的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
应当理解，当在本申请说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
下面将通过具体实施例对本申请实施例提供的技术方案进行介绍。
参见图1，为本申请实施例提供的教学声场环境的去噪方法的流程示意图，该方法应用于服务器，该方法包括以下步骤：
步骤S101，获取待处理音频。
其中，待处理音频是教学声场环境中通过音频采集装置例如麦克风采集到的需要进行去噪的音频文件，该音频文件里面包含各种类型得噪音，包括稳态噪音(例如室内设施以及教学设备所产生的噪声)、非稳态噪音(例如窗外交通噪声、教室走廊中的噪声、临近教室的噪声等)以及其他人声音(例如除了培训讲师以外的学员发出的声音)。
步骤S102，提取待处理音频中的第一音频特征向量。
示例性地，采用步骤S301中提到的特征提取网络对待处理音频进行高维度特征提取，得到128维特征的第一音频特征向量。
步骤S103，将第一音频特征向量输入至预先训练的噪音去除目标模型，得到预测音频。
可以理解的是，预先训练得噪音去除目标模型，可以给基于第一音频特征向量去除待处理音频的噪音，得到没有噪音的预测音频。
具体应用中，将第一音频特征向量输入至预先训练的噪音去除目标模型，得到预测音频之前，还包括：
构建预先训练的噪音去除目标模型。
示例性地，构建预先训练的噪音去除目标模型，包括：
步骤S201，获取训练音频。
具体应用中，收集需要去除的稳态、非稳态以及其他人声音等类型的噪声，并获得训练音频，将各种类型噪声随机添加到训练音频中获得含有噪声的音频，将训练音频和对应的噪声音频组成训练数据对。
可以理解的是，构造训练数据，将没有噪音地数据中随机添加噪音，进而得到了有噪音地数据与没有噪音音频的数据对，进而利用数据对进行后续数据训练处理，也使得训练数据更具有可靠性。
步骤S202，根据训练音频和训练音频对应的真实音频，对噪音去除目标模型进行训练，得到训练后的噪音去除目标模型。
其中，噪音去除目标模型包括特征提取网络、特征编码网络、音频生成网络以及特征转换网络。
具体地，根据训练音频和训练音频对应的真实音频，对噪音去除目标模型进行训练，得到训练后的噪音去除目标模型，包括：
步骤S301，将训练音频输入至特征提取网络，得到第二音频特征向量。
其中，特征提取网络可以是VGGish模型。
可以理解的是，需要将含有噪音的音频数据输入至特征提取网络进行第一音频特征向量表达。噪音音频在数据处理时需要将噪音音频转换为机器可以识别的语言，将音频数据输入至特征提取网络，获得音频数据和其他音频数据能够进行区分的自身特征，进而形成一个第一音频特征向量来表示该音频数据。第一音频特征向量不仅能够很好的描述音频数据，而且能够将该音频数据和其他音频数据进行区分。此外，获得的第一音频特征向量能够表示和音频数据同一类别音频之间的差异较小。
示例性地，将含有噪音的音频数据需要进行第一音频特征向量表达，可以利用大规模音频数据集AudioSet，包含了大约210万个长度为10秒的声音片段和527个标签。随即使用该数据集进行预训练，VGGish模型将音频输入特征转化为具有语义和有意义的128维高维度的第一音频特征向量，而128维高维第一音频特征向量可以作为下游模型的输入，其中vggish和vgg模型结构基本相同，不同的是vggish输入是96×64大小的音频中得到的对数梅尔谱。相比于原来VGG模型的五组卷积，VGGish只有四组。最后的全连接层由1000改为128，这个的128维特征输出作为音频Embedding。
具体应用中，将训练音频输入至特征提取网络，得到第二音频特征向量可以是：对训练音频进行低维度特征提取，得到96×64大小的训练音频中得到的对数梅尔谱，将到96×64大小的训练音频中得到的对数梅尔谱的wav音频文件输入至VGGish模型进行高维度特征提取，得到128维特征的第二音频特征向量。
优选得，对训练音频进行低纬度特征提取，得到96×64大小的训练音频中得到的对数梅尔谱的过程如下：1.将音频重采样为16kHz单声道音频；2.使用25ms的时窗，10ms的帧移对音频进行短时傅里叶变换得到频谱图；3.通过将频谱图映射到64阶梅尔滤波器组中计算梅尔声谱；4.计算log(mel-spectrum+0.01)，得到稳定的梅尔声谱，所加0.01的偏置是为了避免对0取对数；5.然后这些特征被以0.96s的时长被组帧，并且没有帧的重叠，每一帧都包含64个梅尔频带，时长10ms(即总共96帧。
步骤S303，训练音频对应的随机音频输入至特征编码网络，得到第三音频特征向量。
其中，随机音频是根据训练音频中音频的长度随机生成相应时长的音频，特征编码网络也可以是VGGish模型，可以对随机音频进行高维度特征提取，得到128维特征的第三音频特征向量。
步骤S304，将第二音频特征向量和第三音频特征向量输入至音频生成网络，得到音频生成向量。
其中，音频生成网络包括自注意力层、全连接层以及卷积层。
可以理解的是，通过获得训练音频的第二音频特征向量和随机音频的第三向量，
通过模型的不断学习将第一音频特征向量能够生成与去除噪音后的噪音音频相同的音频文件，通过不断学习调整音频生成网络的参数将第一音频特征向量生成的音频文件不断接近没有噪音的音频文件。
示例性地，将第二音频特征向量和第三音频特征向量输入至音频生成网络，得到音频生成向量过程可以是：将第二音频特征向量和第三音频特征向量进行向量拼接，将拼接向量输入至音频生成网络的自注意力层，利用第二自注意力层提取拼接向量不同位置之间的依赖关系，获得拼接向量对应的第一音频特征向量；将拼接向量对应的第一音频特征向量输入至音频生成网络的全连接层，利用全连接层将拼接向量中不同位置的特征进行融合，获得拼接向量对应的融合后的第一音频特征向量；将拼接向量对应的融合后的第一音频特征向量，将融合后的第一音频特征向量进行卷积获得与需要真实生成的音频向量对应的第一音频特征向量相同维度的音频生成向量，并且将生成的音频生成向量不断调整需要真实生成的音频向量之间的差距，减小误差。
步骤S305，将音频生成向量输入至特征转换网络，得到预测训练音频。
其中，特征转换网络包括编码层、重采样层以及解码层。
示例性地，将音频生成向量输入至特征转换网络，得到预测训练音频可以是：在得到音频生成向量之后，将音频生成向量的特征数据输入编码层进行变分自编码，得到隐第一音频特征向量。其中，编码层是一个基于变分自编码器的结构，变分自编码器是一种由编码器和解码器组成的结构，经过训练得以使编码层输出的数据与初始数据之间的误差最小。将隐第一音频特征向量输入特征转换网络的重采样层进行随机采样，得到重采样第一音频特征向量。将重采样第一音频特征向量输入特征转换网络的解码层进行解码，得到预测训练音频。
步骤S306，对预测训练音频和真实音频进行音频相似度评价，根据相似度评价结果对音频生成网络进行迭代更新。
可以理解的是，通过音频生成网络调整使得随机音频的第三音频特征向量不断接近真实音频的第一音频特征向量，使其相似性越大。通过不断地调整音频生成网络地参数，使得随机音频的第一音频特征向量不断接近真实音频的第一音频特征向量，使其相似性越大，也即，随机音频的第一音频特征向量经过音频生成网络获得地音频向量并通过音频向量获得地音频与真实音频更相近。
需说明得是，音频相似度评价是用于测量音频之间的相似程度，常使用的算法是动态时间规整(Dynamic time warping，DTW)，其原理是通过对齐时间序列来评估它们之间相似性。DTW是一种基于对齐的度量(alignment-based metric)与常见的欧式距离不同，DTW考虑到了时间维度上的信息。
示例性地，对预测训练音频和真实音频进行音频相似度评价，根据相似度评价结果对音频生成网络进行迭代更新的过程可以是：根据训练数据不断调整音频生成模型的参数，当模型训练轮次满足预设轮次，或者损失函数满足设置的阈值时，则停止迭代更新。对获得的音频生成模型进行模型评估，当模型评估结果满足需求时，则获得的音频生成模型为目标音频生成模型，当模型评估结果不满足需求时，需要分析原因，并根据原因增加训练数据或者降低损失函数的阈值，进行重新训练。
步骤S307，根据特征提取网络、特征编码网络、迭代更新后的音频生成网络以及特征转换网络，形成训练后的噪音去除目标模型。
步骤S104，对预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频。
示例性地，对预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频，包括：
步骤S401，生成预测音频对应的第一文本。
示例性地，可以采用语音识别技术(Automatic Speech Recognition，ASR)将预测音频转换为第一文本。
步骤S402，生成待处理音频对应的第二文本。
示例性地，可以采用语音识别技术(Automatic Speech Recognition，ASR)将待处理音频转换为第二文本。
步骤S403，将第一文本对应的第一文本向量和第二文本的第二向量代入至下列公式，得到文本相似度：
其中，H表示文本相似度，A表示第一文本向量，B表示第二文本向量。
优选的，获取第一文本向量和获取第二文本向量的方式包括但是不限于one-hot(独热编码)、word2vvec(词向量编码)等编码方式。
步骤S404，当文本相似度大于相似度阈值时，判定结果为音频去噪成功，将判定结果为音频去噪成功对应的预测音频作为目标音频。
可以理解的是，由于噪音去除目标模型为生成模型，考虑到生成模型地质量，需要保证生成音频与新的噪音数据音频地内容相同，只不过生成音频中去除了噪音，因此可以判断生成音频与新的噪音数据音频地相似度，其中相似度地判断可以采用多种手段，例如，音频内容是否相近，音频识别内容是否相近。因此可以将生成音频与新的噪音数据音频分别进行语音识别，获得文本数据，将文本数据进行相似度判断，当文本数据地相似度大于设置地阈值时，则生成音频地语音内容与新的噪音数据音频地语音内容相同，故而判定音频去噪成功，进而实现噪音音频地去噪。
本申请实施例中，通过获取待处理音频，其中，待处理音频为教学声场环境中的音频，提取待处理音频中的第一音频特征向量，将第一音频特征向量输入至预先训练的噪音去除目标模型，得到预测音频，对预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频。可见，本申请实施例可以有效去除教学声场环境中的噪音。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
对应于上文实施例所述的方法，图2示出了本申请实施例提供的教学声场环境的去噪装置的结构框图，为了便于说明，仅示出了与本申请实施例相关的部分。
参照图2，该装置包括：
获取模块21，用于获取待处理音频；
提取模块22，用于提取所述待处理音频中的第一音频特征向量；
预测模块23，用于将所述第一音频特征向量输入至预先训练的噪音去除目标模型，得到预测音频；
判定模块24，用于对所述预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频。
在一种可选得实现方式中，所述装置，还包括：
构建模块。
在一种可选得实现方式中，所述构建模块，包括：
获取子模块，用于获取训练音频；
训练子模块，用于根据所述训练音频和所述训练音频对应的真实音频，对噪音去除目标模型进行训练，得到训练后的噪音去除目标模型。
在一种可选得实现方式中，噪音去除目标模型包括特征提取网络、特征编码网络、音频生成网络以及特征转换网络；
所述训练子模块，包括：
第一特征提取单元，用于将所述训练音频输入至所述特征提取网络，得到第二音频特征向量；
第二特征提取单元，所述训练音频对应的随机音频输入至所述特征编码网络，得到第三音频特征向量；
音频生成单元，用于将所述第二音频特征向量和所述第三音频特征向量输入至所述音频生成网络，得到音频生成向量；
特征转换单元，用于将所述音频生成向量输入至特征转换网络，得到预测训练音频；
音频相似度评价单元，用于对所述预测训练音频和所述真实音频进行音频相似度评价，根据相似度评价结果对所述音频生成网络进行迭代更新；
形成单元，用于根据特征提取网络、特征编码网络、迭代更新后的音频生成网络以及特征转换网络，形成训练后的噪音去除目标模型。
在一种可选得实现方式中，所述判定模块，包括：
第一生成子模块，用于生成所述预测音频对应的第一文本；
第二生成子模块，用于生成所述待处理音频对应的第二文本
文本相似度子模块，用于将所述第一文本对应的第一文本向量和所述第二文本得第二向量输入至下列公式，得到文本相似度：
其中，H表示文本相似度，A表示第一文本向量，B表示第二文本向量；
判定子模块，用于当所述文本相似度大于相似度阈值时，判定结果为音频去噪成功，将判定结果为音频去噪成功对应的预测音频作为目标音频。
需要说明的是，上述装置/单元之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
图3为本申请实施例提供的服务器的结构示意图。如图3所示，该实施例的服务器3包括：至少一个处理器30、存储器31以及存储在所述存储器31中并可在所述至少一个处理器30上运行的计算机程序32，所述处理器30执行所述计算机程序32时实现上述任意各个方法实施例中的步骤。
所述服务器3可以是云端服务器等计算设备。该服务器可包括，但不仅限于，处理器30、存储器31。本领域技术人员可以理解，图3仅仅是服务器3的举例，并不构成对服务器3的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如还可以包括输入输出设备、网络接入设备等。
所称处理器30可以是中央处理单元(Central Processing Unit，CPU)，该处理器30还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器31在一些实施例中可以是所述服务器3的内部存储单元，例如服务器3的硬盘或内存。所述存储器31在另一些实施例中也可以是所述服务器3的外部存储设备，例如所述服务器3上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器31还可以既包括所述服务器3的内部存储单元也包括外部存储设备。所述存储器31用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等，例如所述计算机程序的程序代码等。所述存储器31还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括：能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，RandomAccess Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区，根据立法和专利实践，计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的装置/网络设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/网络设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。
Claims (4)
1.一种教学声场环境的去噪方法，其特征在于，包括：
获取待处理音频，其中，所述待处理音频为教学声场环境中的音频；
将所述待处理音频输入至预先训练的噪音去除目标模型，得到预测音频；
对所述预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频；
将所述待处理音频输入至预先训练的噪音去除目标模型，得到预测音频之前，还包括：
构建预先训练的噪音去除目标模型；
构建预先训练的噪音去除目标模型，包括：
获取训练音频；
根据所述训练音频和所述训练音频对应的真实音频，对噪音去除目标模型进行训练，得到训练后的噪音去除目标模型；
噪音去除目标模型包括特征提取网络、特征编码网络、音频生成网络以及特征转换网络；
根据所述训练音频和所述训练音频对应的真实音频，对噪音去除目标模型进行训练，得到训练后的噪音去除目标模型，包括：
将所述训练音频输入至所述特征提取网络，得到第二音频特征向量；
所述训练音频对应的随机音频输入至所述特征编码网络，得到第三音频特征向量；
将所述第二音频特征向量和所述第三音频特征向量输入至所述音频生成网络，得到音频生成向量；
将所述音频生成向量输入至特征转换网络，得到预测训练音频；
对所述预测训练音频和所述真实音频进行音频相似度评价，根据相似度评价结果对所述音频生成网络进行迭代更新；
根据特征提取网络、特征编码网络、迭代更新后的音频生成网络以及特征转换网络，形成训练后的噪音去除目标模型；
对所述预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频，包括：
生成所述预测音频对应的第一文本；
生成所述待处理音频对应的第二文本
将所述第一文本对应的第一文本向量和所述第二文本的第二向量代入至下列公式，得到文本相似度：
其中，H表示文本相似度，A表示第一文本向量，B表示第二文本向量；
当所述文本相似度大于相似度阈值时，判定结果为音频去噪成功，将判定结果为音频去噪成功对应的预测音频作为目标音频。
2.一种教学声场环境的去噪装置，其特征在于，包括：
获取模块，用于获取待处理音频；
预测模块，用于将所述待处理音频输入至预先训练的噪音去除目标模型，得到预测音频；
判定模块，用于对所述预测音频进行音频去噪判定，将判定结果为音频去噪成功对应的预测音频作为目标音频；
所述装置，还包括：
构建模块；
所述构建模块，包括：
获取子模块，用于获取训练音频；
训练子模块，用于根据所述训练音频和所述训练音频对应的真实音频，对噪音去除目标模型进行训练，得到训练后的噪音去除目标模型；
噪音去除目标模型包括特征提取网络、特征编码网络、音频生成网络以及特征转换网络；
所述训练子模块，包括：
第一特征提取单元，用于将所述训练音频输入至所述特征提取网络，得到第二音频特征向量；
第二特征提取单元，所述训练音频对应的随机音频输入至所述特征编码网络，得到第三音频特征向量；
音频生成单元，用于将所述第二音频特征向量和所述第三音频特征向量输入至所述音频生成网络，得到音频生成向量；
特征转换单元，用于将所述音频生成向量输入至特征转换网络，得到预测训练音频；
音频相似度评价单元，用于对所述预测训练音频和所述真实音频进行音频相似度评价，根据相似度评价结果对所述音频生成网络进行迭代更新；
形成单元，用于根据特征提取网络、特征编码网络、迭代更新后的音频生成网络以及特征转换网络，形成训练后的噪音去除目标模型；
所述判定模块，包括：
第一生成子模块，用于生成所述预测音频对应的第一文本；
第二生成子模块，用于生成所述待处理音频对应的第二文本
文本相似度子模块，用于将所述第一文本对应的第一文本向量和所述第二文本的第二向量代入至下列公式，得到文本相似度：
其中，H表示文本相似度，A表示第一文本向量，B表示第二文本向量；
判定子模块，用于当所述文本相似度大于相似度阈值时，判定结果为音频去噪成功，将判定结果为音频去噪成功对应的预测音频作为目标音频。
3.一种服务器，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1所述的方法。
4.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310430698.XA CN116386611B (zh) | 2023-04-20 | 2023-04-20 | 一种教学声场环境的去噪方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310430698.XA CN116386611B (zh) | 2023-04-20 | 2023-04-20 | 一种教学声场环境的去噪方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116386611A CN116386611A (zh) | 2023-07-04 |
| CN116386611B true CN116386611B (zh) | 2023-10-13 |
Family
ID=86980630
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310430698.XA Active CN116386611B (zh) | 2023-04-20 | 2023-04-20 | 一种教学声场环境的去噪方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116386611B (zh) |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110310664A (zh) * | 2019-06-21 | 2019-10-08 | 深圳壹账通智能科技有限公司 | 设备降噪功能的测试方法及相关设备 |
| CN110491404A (zh) * | 2019-08-15 | 2019-11-22 | 广州华多网络科技有限公司 | 语音处理方法、装置、终端设备及存储介质 |
| CN110751960A (zh) * | 2019-10-16 | 2020-02-04 | 北京网众共创科技有限公司 | 噪声数据的确定方法及装置 |
| CN112927707A (zh) * | 2021-01-25 | 2021-06-08 | 北京达佳互联信息技术有限公司 | 语音增强模型的训练方法和装置及语音增强方法和装置 |
| CN113421584A (zh) * | 2021-07-05 | 2021-09-21 | 平安科技（深圳）有限公司 | 音频降噪方法、装置、计算机设备及存储介质 |
| CN113436643A (zh) * | 2021-06-25 | 2021-09-24 | 平安科技（深圳）有限公司 | 语音增强模型的训练及应用方法、装置、设备及存储介质 |
| CN113571047A (zh) * | 2021-07-20 | 2021-10-29 | 杭州海康威视数字技术股份有限公司 | 一种音频数据的处理方法、装置及设备 |
| CN114974280A (zh) * | 2022-05-12 | 2022-08-30 | 北京百度网讯科技有限公司 | 音频降噪模型的训练方法、音频降噪的方法及装置 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3576088A1 (en) * | 2018-05-30 | 2019-12-04 | Fraunhofer Gesellschaft zur Förderung der Angewand | Audio similarity evaluator, audio encoder, methods and computer program |
-
2023
- 2023-04-20 CN CN202310430698.XA patent/CN116386611B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110310664A (zh) * | 2019-06-21 | 2019-10-08 | 深圳壹账通智能科技有限公司 | 设备降噪功能的测试方法及相关设备 |
| CN110491404A (zh) * | 2019-08-15 | 2019-11-22 | 广州华多网络科技有限公司 | 语音处理方法、装置、终端设备及存储介质 |
| CN110751960A (zh) * | 2019-10-16 | 2020-02-04 | 北京网众共创科技有限公司 | 噪声数据的确定方法及装置 |
| CN112927707A (zh) * | 2021-01-25 | 2021-06-08 | 北京达佳互联信息技术有限公司 | 语音增强模型的训练方法和装置及语音增强方法和装置 |
| CN113436643A (zh) * | 2021-06-25 | 2021-09-24 | 平安科技（深圳）有限公司 | 语音增强模型的训练及应用方法、装置、设备及存储介质 |
| CN113421584A (zh) * | 2021-07-05 | 2021-09-21 | 平安科技（深圳）有限公司 | 音频降噪方法、装置、计算机设备及存储介质 |
| CN113571047A (zh) * | 2021-07-20 | 2021-10-29 | 杭州海康威视数字技术股份有限公司 | 一种音频数据的处理方法、装置及设备 |
| CN114974280A (zh) * | 2022-05-12 | 2022-08-30 | 北京百度网讯科技有限公司 | 音频降噪模型的训练方法、音频降噪的方法及装置 |
Non-Patent Citations (1)
| Title |
|---|
| Peng Teng et al..Voice Activity Detection Via Noise Reducing Using Non-Negative Sparse Coding.IEEE signal processing letters.2013,第475-478页. * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116386611A (zh) | 2023-07-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11062699B2 (en) | Speech recognition with trained GMM-HMM and LSTM models | |
| CN109599093B (zh) | 智能质检的关键词检测方法、装置、设备及可读存储介质 | |
| CN110706690A (zh) | 语音识别方法及其装置 | |
| CN110675862A (zh) | 语料获取方法、电子装置及存储介质 | |
| EP3989217B1 (en) | Method for detecting an audio adversarial attack with respect to a voice input processed by an automatic speech recognition system, corresponding device, computer program product and computer-readable carrier medium | |
| CN112927674B (zh) | 语音风格的迁移方法、装置、可读介质和电子设备 | |
| CN111653270B (zh) | 语音处理方法、装置、计算机可读存储介质及电子设备 | |
| CN115394287A (zh) | 混合语种语音识别方法、装置、系统及存储介质 | |
| Salekin et al. | Distant emotion recognition | |
| CN115312033A (zh) | 基于人工智能的语音情感识别方法、装置、设备及介质 | |
| CN111798846A (zh) | 语音命令词识别方法、装置、会议终端及会议终端系统 | |
| CN113539243A (zh) | 语音分类模型的训练方法、语音分类方法及相关装置 | |
| CN110718210B (zh) | 一种英文错误发音的识别方法、装置、介质和电子设备 | |
| CN116386611B (zh) | 一种教学声场环境的去噪方法 | |
| CN113053409B (zh) | 音频测评方法及装置 | |
| CN113160796B (zh) | 一种广播音频的语种识别方法、装置、设备及存储介质 | |
| CN112071331B (zh) | 语音文件修复方法、装置、计算机设备及存储介质 | |
| CN111477248B (zh) | 一种音频噪声检测方法及装置 | |
| CN114566156A (zh) | 一种关键词的语音识别方法及装置 | |
| CN114302301A (zh) | 频响校正方法及相关产品 | |
| CN115700871A (zh) | 模型训练和语音合成方法、装置、设备及介质 | |
| CN117649846B (zh) | 语音识别模型生成方法、语音识别方法、设备和介质 | |
| CN110444053B (zh) | 语言学习方法、计算机装置及可读存储介质 | |
| CN112820313B (zh) | 模型训练方法、语音分离方法、装置及电子设备 | |
| CN114203159A (zh) | 语音情感识别方法、终端设备及计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |