CN113903334B - 声源定位模型的训练与声源定位方法、装置 - Google Patents

声源定位模型的训练与声源定位方法、装置 Download PDF

Info

Publication number
CN113903334B
CN113903334B CN202111068636.6A CN202111068636A CN113903334B CN 113903334 B CN113903334 B CN 113903334B CN 202111068636 A CN202111068636 A CN 202111068636A CN 113903334 B CN113903334 B CN 113903334B
Authority
CN
China
Prior art keywords
audio
audio frame
frame
sound source
label
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111068636.6A
Other languages
English (en)
Other versions
CN113903334A (zh
Inventor
都伟
邹赛赛
杜腾宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202111068636.6A priority Critical patent/CN113903334B/zh
Publication of CN113903334A publication Critical patent/CN113903334A/zh
Priority to US17/658,513 priority patent/US20230077816A1/en
Priority to JP2022077103A priority patent/JP7367288B2/ja
Application granted granted Critical
Publication of CN113903334B publication Critical patent/CN113903334B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/18—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being spectral information of each sub-band
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
    • G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/04—Segmentation; Word boundary detection
    • G10L15/05—Word boundary detection
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/063—Training
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/16—Speech classification or search using artificial neural networks
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/78—Detection of presence or absence of voice signals
    • G10L25/87—Detection of discrete points within a voice signal
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/80—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using ultrasonic, sonic or infrasonic waves
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L2015/088—Word spotting
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/78—Detection of presence or absence of voice signals
    • G10L2025/783—Detection of presence or absence of voice signals based on threshold decision

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Signal Processing (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Stereophonic System (AREA)

Abstract

本公开提供了一种声源定位模型的训练与声源定位方法，涉及语音处理、深度学习等人工智能技术领域。声源定位模型的训练方法包括：根据包含唤醒词的音频信号得到样本音频；提取样本音频中至少一个音频帧的音频特征，标注至少一个音频帧的方向标签与掩码标签；使用至少一个音频帧的音频特征、方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型。声源定位方法包括：获取待处理音频信号，提取待处理音频信号中每个音频帧的音频特征；将每个音频帧的音频特征输入声源定位模型，得到声源定位模型针对每个音频帧输出的声源方向信息；确定待处理音频信号中的唤醒词尾点帧；根据对应唤醒词尾点帧的声源方向信息得到待处理音频信号的声源方向。

Description

声源定位模型的训练与声源定位方法、装置
技术领域
本公开涉及计算机技术领域，尤其涉及语音处理、深度学习等人工智能技术领域。提供了一种声源定位模型的训练与声源定位方法、装置、电子设备和可读存储介质。
背景技术
随着语音交互需求的增长，围绕着语音交互展开的产品受到越来越多的关注。声源定位是指通过分析音频采集装置所采集的音频信号，判断声源相对音频采集装置的方向。
声源定位的技术在智能家居、智能汽车等需要语音交互的产品和场景中有着广泛的应用。但现有技术在进行声源定位时存在声源定位的准确性较低、声源定位的效率较低等问题。
发明内容
根据本公开的第一方面，提供了一种声源定位模型的训练方法，包括：根据包含唤醒词的音频信号得到样本音频；提取所述样本音频中至少一个音频帧的音频特征，标注所述至少一个音频帧的方向标签与掩码标签；使用所述至少一个音频帧的音频特征以及所述至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型。
根据本公开的第二方面，提供了一种声源定位方法，包括：获取待处理音频信号，提取所述待处理音频信号中每个音频帧的音频特征；将所述每个音频帧的音频特征输入声源定位模型，得到所述声源定位模型针对每个音频帧输出的声源方向信息；确定所述待处理音频信号中的唤醒词尾点帧；根据对应所述唤醒词尾点帧的声源方向信息，得到所述待处理音频信号的声源方向。
根据本公开的第三方面，提供了一种声源定位模型的训练装置，包括：第一获取单元，用于根据包含唤醒词的音频信号得到样本音频；处理单元，用于提取所述样本音频中至少一个音频帧的音频特征，标注所述至少一个音频帧的方向标签与掩码标签；训练单元，用于使用所述至少一个音频帧的音频特征以及所述至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型。
根据本公开的第四方面，提供了一种声源定位装置，包括：第二获取单元，用于获取待处理音频信号，提取所述待处理音频信号中每个音频帧的音频特征；预测单元，用于将所述每个音频帧的音频特征输入声源定位模型，得到所述声源定位模型针对每个音频帧输出的声源方向信息；确定单元，用于确定所述待处理音频信号中的唤醒词尾点帧；定位单元，用于根据对应所述唤醒词尾点帧的声源方向信息，得到所述待处理音频信号的声源方向。
根据本公开的第五方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上所述的方法。
根据本公开的第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行如上所述的方法。
根据本公开的第七方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如上所述的方法。
由以上技术方案可以看出，本实施例在根据包含唤醒词的音频信号得到样本音频之后，针对样本音频中的至少一个音频帧，分别进行音频特征的提取以及方向标签与掩码标签的标注，进而使用至少一个音频帧的音频特征、方向标签与掩码标签来训练得到声源定位模型，从而增强声源定位模型的训练效果，提升声源定位模型在进行声源定位时的准确性与速度。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开第一实施例的示意图；
图2是根据本公开第二实施例的示意图；
图3是根据本公开第三实施例的示意图；
图4是根据本公开第四实施例的示意图；
图5是根据本公开第五实施例的示意图；
图6是用来实现本公开实施例的声源定位模型的训练与声源定位方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和机构的描述。
图1是根据本公开第一实施例的示意图。如图1所示，本实施例的声源定位模型的训练方法，包括：
S101、根据包含唤醒词的音频信号得到样本音频；
S102、提取所述样本音频中至少一个音频帧的音频特征，标注所述至少一个音频帧的方向标签与掩码标签；
S103、使用所述至少一个音频帧的音频特征以及所述至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型。
本实施例的声源定位模型的训练方法，在根据包含唤醒词的音频信号得到样本音频之后，针对样本音频中的至少一个音频帧，分别进行音频特征的提取以及方向标签与掩码标签的标注，进而使用至少一个音频帧的音频特征、方向标签与掩码标签来训练得到声源定位模型，从而增强声源定位模型的训练效果，提升声源定位模型在进行声源定位时的准确性与速度。
本实施例在执行S101时，首先获取包含唤醒词的音频信号，然后处理所获取的音频信号以得到样本音频；若本实施例执行S101获取了多个包含唤醒词的音频信号，则会相应地得到多个样本音频。
具体地，本实施例在执行S101根据包含唤醒词的音频信号得到样本音频时，可以采用的可选实现方式为：获取音频信号中所包含的唤醒词的词语长度；确定与所获取的词语长度对应的目标时长，本实施例可以根据预设的词语长度-目标时长之间的对应关系来确定，例如词语长度4对应的目标时长可以为2s，词语长度2对应的目标时长可以为1s；从音频信号中截取与所确定的目标时长对应的音频，作为样本音频。
其中，本实施例在执行S101从音频信号中截取与所确定的目标时长对应的音频时，可以采用随机截取的方式，也可以根据预设位置(例如音频信号的中间位置、开始位置或者结束)来进行截取。
也就是说，本实施例通过截取音频信号的方式来得到样本音频，能够对唤醒词位于不同位置的情况进行模拟，从而提升基于所截取的样本音频训练得到的声源定位模型的鲁棒性。
本实施例在执行S101得到样本音频之后，执行S102提取所得到的样本音频中至少一个音频帧的音频特征，标注至少一个音频帧的方向标签与掩码标签；其中，本实施例中的至少一个音频帧为样本音频中的全部音频帧或者部分音频帧。
本实施例执行S102提取的音频特征为FFT(Fast Fourier Transform，快速傅里叶变换)特征；本实施例执行S102标注的方向标签用于表示音频帧的实际方向；本实施例执行S102标注的掩码标签为1或者0，用于表示该音频帧是否参与神经网络模型的损失函数值的计算。
具体地，本实施例在执行S102提取样本音频中至少一个音频帧的音频特征时，可以采用的可选实现方式为：针对至少一个音频帧中的每个音频帧，得到该音频帧的每个通道的快速傅里叶变换(FFT)特征；分别提取每个通道的快速傅里叶变换特征中的实部与虚部，将提取结果作为该音频帧的音频特征。
举例来说，若音频帧为3通道的信号，本实施例在得到每个通道的FFT特征之后，再提取每个通道的FFT特征中的实部与虚部，最终将所提取的6通道特征作为音频帧的音频特征。
也就是说，本实施例通过对FFT特征中的实部与虚部进行提取的方式，在能够完整地保留相位信息的基础上，无需在音频特征中添加包含语义信息的log谱特征，进而减少计算量。
本实施例在执行S102标注至少一个音频帧的方向标签时，可以确定至少一个音频帧中的每个音频帧的实际方向，进而将方向标签中对应该实际方向位置处的值标注为1，其他位置标注为0。
举例来说，若预设方向为东、南、西、北这四个方向，若音频帧的实际方向为南，则本实施例执行S102时将该音频帧的方向标签标注为(0，1，0，0)。
具体地，本实施例在执行S102标注至少一个音频帧的掩码标签时，可以采用的可选实现方式为：针对至少一个音频帧中的每个音频帧，在确定该音频帧为位于音频信号中唤醒词尾点帧之前的预设帧数的音频帧的情况下，将该音频帧的掩码标签标注为预设标签，本实施例中的预设标签为1，标注为预设标签的音频帧参与神经网络模型的损伤函数的计算。
其中，本实施例中的预设帧数可以根据实际需求进行设置；若预设帧数为40帧，则本实施例在执行S102时将位于唤醒词尾点帧之前的40帧音频帧的掩码标签标注为预设标签。
也就是说，本实施例通过标注音频帧的掩码标签的方式，能够弱化局部唤醒信息，使得模型在训练过程中排除局部干扰，更多地关注完整唤醒词的方向信息。
本实施例在执行S102提取至少一个音频帧的音频特征并标注至少一个音频帧的方向标签与掩码标签之后，执行S103使用至少一个音频帧的音频特征以及至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型。
其中，本实施例执行S103训练的神经网络模型由依次相连的至少一层卷积网络层、至少一层循环网络层与全连接层构成；卷积网络层用于特征提取，卷积网络层可以为基于MobileNet的块(Block)；循环网络层用于特征计算，循环网络层可以为基于RNN(Recurrent Neural Network，循环神经网络)的GRU(Gated Recurrent Unit，门控循环单元)，该循环网络层能够根据记忆单元中位于当前音频帧之前的音频帧来进行当前音频帧的方向信息的预测；全连接层用于预测音频帧的方向，全连接层可以为Softmax层。
具体地，本实施例在执行S103使用至少一个音频帧的音频特征以及至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型时，可以采用的可选实现方式为：将至少一个音频帧的音频特征输入神经网络模型，得到神经网络模型针对至少一个音频帧中的每个音频帧输出的方向预测结果；在确定音频帧的掩码标签为预设标签的情况下，根据该音频帧的方向预测结果与方向标签计算损失函数值；根据计算得到的损失函数值，调整神经网络模型的参数，直至神经网络模型收敛，得到声源定位模型。
也就是说，本实施例在进行神经网络模型的训练时，能够基于音频帧的掩码标签，来选取用于进行参数更新的音频帧，使得神经网络模型更多地关注完整唤醒词的方向信息，从而提升神经网络模型的训练效果。
图2是根据本公开第二实施例的的示意图。如图2所示，本实施例示出了声源定位模型的结构示意图；图2中的声源定位模型由两层卷积网络层(基于MobileNet结构)、两层循环网络层(基于GRU结构)与一层全连接层构成，在保证了具有较低的计算量的情况下，还能够保证具有较为准确的定位效果；卷积网络层可以包含第一卷积层(卷积核大小为1×1，激活函数为Relu6)、第二卷积层(卷积核大小为3×3的深度卷积，激活函数为Relu6)与第三卷积层(卷积核大小为1×1，激活函数为Linear)。
图3是根据本公开第三实施例的示意图。如图3所示，本实施例的声源定位方法，具体可以包括如下步骤：
S301、获取待处理音频信号，提取所述待处理音频信号中每个音频帧的音频特征；
S302、将所述每个音频帧的音频特征输入声源定位模型，得到所述声源定位模型针对每个音频帧输出的声源方向信息；
S303、确定所述待处理音频信号中的唤醒词尾点帧；
S304、根据对应所述唤醒词尾点帧的声源方向信息，得到所述待处理音频信号的声源方向。
本实施例的声源定位方法，通过预先训练得到的声源定位模型来得到待处理音频信号中每个音频帧的声源方向信息，进而在确定待处理音频信号中的唤醒词尾点帧之后，即可根据对应该唤醒词尾点帧的声源方向信息，得到待处理音频信号的声源方向，能够提升在确定声源方向时的准确性与速度，并实现了在唤醒的时刻同时得到声源方向的目的，从而提升在确定声源方向时的及时性。
本实施例在执行S301时，可以将音频采集装置所采集的音频信号作为待处理音频信号，音频采集装置可以位于智能音箱、智能家电、智能汽车等智能设备中。
本实施例在执行S301提取待处理音频信号中每个音频帧的音频特征时，可以采用的可选实现方式为：针对每个音频帧，得到该音频帧的每个通道的快速傅里叶变换特征；分别提取每个通道的快速傅里叶变换特征中的实部与虚部，将提取结果作为该音频帧的音频特征。
本实施例在执行S301提取得到每个音频帧的音频特征之后，执行S302将所提取的每个音频帧的音频特征输入声源定位模型，得到由声源定位模型针对每个音频帧输出的声源方向信息。其中，本实施例执行S302所得到的声源方向信息用于表示该音频帧位于预设方向的概率值。
由于每个音频帧对应于待处理音频信号中的时序，因此本实施例在执行S302时可以将每个音频帧的音频特征依次输入声源定位模型，由声源定位模型中的至少一层循环网络层结合记忆单元中所记忆的状态进行特征计算，从而得到由声源定位模型针对每个音频帧输出的声源方向信息。
本实施例在执行S302得到声源定位模型针对每个音频帧输出的声源方向信息时，还可以包含以下内容：设置预设大小的时间窗，例如预设大小为2s，该时间窗用于在多个音频帧(即待处理音频信号)上进行滑动；在确定处理时长达到预设大小的情况下，对声源定位模型中至少一层循环网络层的记忆单元进行清空；将时间窗在多个音频帧上向后移动预设距离，例如预设距离为0.8s；由声源定位模型针对位于移动前、后的两个时间窗之间重叠部分的音频帧进行处理，得到每个音频帧的声源方向信息；检测是否确定了待处理音频信号中的唤醒词尾点帧，若否，转至执行确定处理时长是否达到预先时长的步骤，以此循环进行，直至确定了待处理音频信号中的唤醒词尾点帧。
也就是说，本实施例还可以通过设置时间窗的方式，来进行声源定位模的记忆清空与记忆回溯，从而提高声源定位模型输出各音频帧的声源方向信息的实时性，并确保了声源定位模型中至少一个循环网络层的记忆单元的记忆时长。
本实施例在执行S302得到声源定位模型针对每个音频帧输出的声源方向信息之后，执行S303确定待处理音频信号中的唤醒词尾点帧；其中，本实施例所确定的唤醒词尾点帧为唤醒词结束时刻所对应的音频帧。
具体地，本实施例在执行S303确定所述待处理音频信号中的唤醒词尾点帧时，可以采用的可选实现方式为：根据每个音频帧的音频特征，得到每个音频帧的唤醒词得分，本实施例可以使用预先训练得到的唤醒模型来得到唤醒词得分；将最后一个唤醒词得分超过预设得分阈值的音频帧，作为唤醒词尾点帧。
可以理解的是，本实施例可以同时进行音频帧的声源方向信息的预测与待处理音频信号中唤醒词尾点帧的确定。
本实施例在执行S303确定唤醒词尾点帧之后，执行S304根据对应所确定的唤醒词尾点帧的声源方向信息，得到待处理音频信号的声源方向。
本实施例在执行S304根据对应所确定的唤醒词尾点帧的声源方向信息，得到待处理音频信号的声源方向时，可以采用的可选实现方式为：确定对应唤醒词尾点帧的声源方向信息，即将各音频帧中属于唤醒词尾点帧的音频帧的声源定位信息作为唤醒词尾点帧的声源方向信息；将声源方向信息中最大值所对应的方向，作为待处理音频信号的声源方向。
举例来说，若预设方向分别为东、南、西、北，若本实施例执行S303所确定的对应唤醒词尾点帧的声源方向信息为(0.2，0.6，0.1，0.1)，则将最大值0.6对应的南方向作为待处理音频信号的声源方向。
图4是根据本公开第四实施例的示意图。如图4所示，本实施例的声源定位模型的训练装置400，包括：
第一获取单元401、用于根据包含唤醒词的音频信号得到样本音频；
处理单元402、用于提取所述样本音频中至少一个音频帧的音频特征，标注所述至少一个音频帧的方向标签与掩码标签；
训练单元403、用于使用所述至少一个音频帧的音频特征以及所述至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型。
第一获取单元401首先获取包含唤醒词的音频信号，然后处理所获取的音频信号以得到样本音频；若第一获取单元401获取了多个包含唤醒词的音频信号，则会相应地得到多个样本音频。
具体地，第一获取单元401在根据包含唤醒词的音频信号得到样本音频时，可以采用的可选实现方式为：获取音频信号中所包含的唤醒词的词语长度；确定与所获取的词语长度对应的目标时长；从音频信号中截取与所确定的目标时长对应的音频，作为样本音频。
其中，第一获取单元401在从音频信号中截取与所确定的目标时长对应的音频时，可以采用随机截取的方式，也可以根据预设位置(例如音频信号的中间位置、开始位置或者结束)来进行截取。
也就是说，本实施例通过截取音频信号的方式来得到样本音频，能够对唤醒词位于时间窗的不同位置的情况进行模拟，从而提升基于所截取的样本音频训练得到的声源定位模型的鲁棒性。
本实施例在由第一获取单元401得到样本音频之后，由处理单元402提取所得到的样本音频中至少一个音频帧的音频特征，标注至少一个音频帧的方向标签与掩码标签。
处理单元402提取的音频特征为FFT(Fast Fourier Transform，快速傅里叶变换)特征；处理单元402标注的方向标签用于表示音频帧的实际方向；处理单元402标注的掩码标签为1或者0，用于表示该音频帧是否参与神经网络模型的损失函数的计算。
具体地，处理单元402在提取样本音频中至少一个音频帧的音频特征时，可以采用的可选实现方式为：针对至少一个音频帧中的每个音频帧，得到该音频帧的每个通道的快速傅里叶变换(FFT)特征；分别提取每个通道的快速傅里叶变换特征中的实部与虚部，将提取结果作为该音频帧的音频特征。
也就是说，本实施例通过对FFT特征中的实部与虚部进行提取的方式，在能够完整地保留相位信息的基础上，无需在音频特征中添加包含语义信息的log谱特征，进而减少计算量。
处理单元402在标注至少一个音频帧的方向标签时，可以确定至少一个音频帧中的每个音频帧的实际方向，进而将方向标签中对应该实际方向位置处的值标注为1，其他位置标注为0。
具体地，处理单元402在标注至少一个音频帧的掩码标签时，可以采用的可选实现方式为：针对至少一个音频帧中的每个音频帧，在确定该音频帧为位于音频信号中唤醒词尾点帧之前的预设帧数的音频帧的情况下，将该音频帧的掩码标签标注为预设标签，本实施例中的预设标签为1，标注为预设标签的音频帧参与神经网络模型的损伤函数值的计算。
其中，本实施例中的预设帧数可以根据实际需求进行设置；若预设帧数为40帧，则处理单元402将位于唤醒词尾点帧之前的40帧音频帧的掩码标签标注为预设标签。
也就是说，本实施例通过标注音频帧的掩码标签的方式，能够弱化局部唤醒信息，使得模型在训练过程中排除局部干扰，更多地关注完整唤醒词的方向信息。
本实施例在由处理单元402提取至少一个音频帧的音频特征并标注至少一个音频帧的方向标签与掩码标签之后，由训练单元403使用至少一个音频帧的音频特征以及至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型。
训练单元403训练的神经网络模型由依次相连的至少一层卷积网络层、至少一层循环网络层与全连接层构成；卷积网络层用于特征提取，卷积网络层可以为基于MobileNet的块(Block)；循环网络层用于特征计算，循环网络层可以为基于RNN(Recurrent NeuralNetwork，循环神经网络)的GRU(Gated Recurrent Unit，门控循环单元)，该循环网络层能够根据记忆单元中位于当前音频帧之前的音频帧来进行当前音频帧的方向信息的预测；全连接层用于预测音频帧的方向，全连接层可以为Softmax层。
具体地，训练单元403在使用至少一个音频帧的音频特征以及至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型时，可以采用的可选实现方式为：将至少一个音频帧的音频特征输入神经网络模型，得到神经网络模型针对至少一个音频帧中的每个音频帧输出的方向预测结果；在确定音频帧的掩码标签为预设标签的情况下，根据该音频帧的方向预测结果与方向标签计算损失函数值；根据计算得到的损失函数值，调整神经网络模型的参数，直至神经网络模型收敛，得到声源定位模型。
也就是说，本实施例在进行神经网络模型的训练时，能够基于音频帧的掩码标签，来选取用于进行参数更新的音频帧，使得神经网络模型更多地关注完整唤醒词的方向信息，从而提升神经网络模型的训练效果。
图5是根据本公开第五实施例的示意图。如图5所示，本实施例的声源定位装置500，包括：
第二获取单元501、用于获取待处理音频信号，提取所述待处理音频信号中每个音频帧的音频特征；
预测单元502、用于将所述每个音频帧的音频特征输入声源定位模型，得到所述声源定位模型针对每个音频帧输出的声源方向信息；
确定单元503、用于确定所述待处理音频信号中的唤醒词尾点帧；
定位单元504、用于根据对应所述唤醒词尾点帧的声源方向信息，得到所述待处理音频信号的声源方向。
第二获取单元501可以将音频采集装置所采集的音频信号作为待处理音频信号。
第二获取单元501在提取待处理音频信号中每个音频帧的音频特征时，可以采用的可选实现方式为：针对每个音频帧，得到该音频帧的每个通道的快速傅里叶变换特征；分别提取每个通道的快速傅里叶变换特征中的实部与虚部，将提取结果作为该音频帧的音频特征。
本实施例在由第二获取单元501提取得到每个音频帧的音频特征之后，由预测单元502将所提取的每个音频帧的音频特征输入声源定位模型，得到由声源定位模型针对每个音频帧输出的声源方向信息。其中，预测单元502所得到的声源方向信息用于表示该音频帧位于预设方向的概率值。
由于每个音频帧对应于待处理音频信号中的时序，因此预测单元502可以将每个音频帧的音频特征依次输入声源定位模型，由声源定位模型中的至少一层循环网络层结合记忆单元中所记忆的状态进行特征计算，从而得到由声源定位模型针对每个音频帧输出的声源方向信息。
预测单元502在得到声源定位模型针对每个音频帧输出的声源方向信息时，还可以包含以下内容：设置预设大小的时间窗；在确定处理时长达到预设大小的情况下，对声源定位模型中至少一层循环网络层的记忆单元进行清空；将时间窗在多个音频帧上向后移动预设距离；由声源定位模型针对位于移动前、后的两个时间窗之间重叠部分的音频帧进行处理，得到每个音频帧的声源方向信息；检测是否确定了待处理音频信号中的唤醒词尾点帧，若否，则转至执行确定处理时长是否达到预先时长的步骤，以此循环进行，直至确定了待处理音频信号中的唤醒词尾点帧。
也就是说，本实施例还可以通过设置时间窗的方式，来进行声源定位模的记忆清空与记忆回溯，从而提高声源定位模型输出各音频帧的声源方向信息的实时性，并确保了声源定位模型中至少一个循环网络层的记忆单元的记忆时长。
本实施例在由预测单元502得到声源定位模型针对每个音频帧输出的声源方向信息之后，由确定单元503确定待处理音频信号中的唤醒词尾点帧；其中，确定单元503所确定的唤醒词尾点帧为唤醒词结束时刻所对应的音频帧。
具体地，确定单元503在确定所述待处理音频信号中的唤醒词尾点帧时，可以采用的可选实现方式为：根据各音频帧的音频特征，得到各音频帧的唤醒词得分；将最后一个唤醒词得分超过预设得分阈值的音频帧，作为唤醒词尾点帧。
本实施例在由确定单元503确定唤醒词尾点帧之后，由定位单元504根据对应所确定的唤醒词尾点帧的声源方向信息，得到待处理音频信号的声源方向。
定位单元504在根据对应所确定的唤醒词尾点帧的声源方向信息，得到待处理音频信号的声源方向时，可以采用的可选实现方式为：确定对应唤醒词尾点帧的声源方向信息；将声源方向信息中最大值所对应的方向，作为待处理音频信号的声源方向。
本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
如图6所示，是根据本公开实施例的声源定位模型的训练与声源定位方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示，设备600包括计算单元601，其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序，来执行各种适当的动作和处理。在RAM603中，还可存储设备600操作所需的各种程序和数据。计算单元601、ROM602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
设备600中的多个部件连接至I/O接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如声源定位模型的训练与声源定位方法。例如，在一些实施例中，声源定位模型的训练与声源定位方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。
在一些实施例中，计算机程序的部分或者全部可以经由ROM602和/或通信单元609而被载入和/或安装到设备300上。当计算机程序加载到RAM 603并由计算单元601执行时，可以执行上文描述的声源定位模型的训练与声源定位方法的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行声源定位模型的训练与声源定位方法。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程声源定位模型的训练与声源定位方法的装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务(“Virtual Private Server”，或简称“VPS”)中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (16)

1.一种声源定位模型的训练方法，包括：
根据包含唤醒词的音频信号得到样本音频；
提取所述样本音频中至少一个音频帧的音频特征，标注所述至少一个音频帧的方向标签与掩码标签，其中，音频帧的掩码标签为1或者0，音频帧的掩码标签为1，表示该音频帧参与神经网络模型的损失函数值的计算，音频帧的掩码标签为0，表示该音频帧不参与神经网络模型的损失函数值的计算；
使用所述至少一个音频帧的音频特征以及所述至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型；
所述根据包含唤醒词的音频信号得到样本音频包括：
获取所述音频信号中所包含的唤醒词的词语长度；
确定与所述词语长度对应的目标时长；
从所述音频信号中截取与所述目标时长对应的音频作为所述样本音频。
2.根据权利要求1所述的方法，其中，所述提取所述样本音频中至少一个音频帧的音频特征包括：
针对所述至少一个音频帧中的每个音频帧，得到该音频帧的每个通道的快速傅里叶变换特征；
分别提取每个通道的快速傅里叶变换特征中的实部与虚部，将提取结果作为该音频帧的音频特征。
3.根据权利要求1所述的方法，其中，所述标注所述至少一个音频帧的掩码标签包括：
针对所述至少一个音频帧中的每个音频帧，在确定该音频帧为位于所述音频信号中唤醒词尾点帧之前的预设帧数的音频帧的情况下，将该音频帧的掩码标签标注为预设标签。
4.根据权利要求1所述的方法，其中，所述使用所述至少一个音频帧的音频特征以及所述至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型包括：
将所述至少一个音频帧的音频特征输入所述神经网络模型，得到所述神经网络模型针对所述至少一个音频帧中的每个音频帧输出的方向预测结果；
在确定音频帧的掩码标签为预设标签的情况下，根据该音频帧的方向预测结果与方向标签计算损失函数值；
根据计算得到的损失函数值，调整所述神经网络模型的参数，直至所述神经网络模型收敛，得到所述声源定位模型。
5.一种声源定位方法，包括：
获取待处理音频信号，提取所述待处理音频信号中每个音频帧的音频特征；
将所述每个音频帧的音频特征输入声源定位模型，得到所述声源定位模型针对每个音频帧输出的声源方向信息；
确定所述待处理音频信号中的唤醒词尾点帧；
根据对应所述唤醒词尾点帧的声源方向信息，得到所述待处理音频信号的声源方向；
其中，所述声源定位模型是根据权利要求1~4中任一项方法预先训练得到的。
6.根据权利要求5所述的方法，其中，所述提取所述待处理音频信号中每个音频帧的音频特征包括：
针对每个音频帧，得到该音频帧的每个通道的快速傅里叶变换特征；
分别提取每个通道的快速傅里叶变换特征中的实部与虚部，将提取结果作为该音频帧的音频特征。
7.根据权利要求5所述的方法，其中，所述确定所述待处理音频信号中的唤醒词尾点帧包括：
根据所述每个音频帧的音频特征，得到所述每个音频帧的唤醒词得分；
将最后一个唤醒词得分超过预设得分阈值的音频帧，作为所述唤醒词尾点帧。
8.一种声源定位模型的训练装置，包括：
第一获取单元，用于根据包含唤醒词的音频信号得到样本音频；
处理单元，用于提取所述样本音频中至少一个音频帧的音频特征，标注所述至少一个音频帧的方向标签与掩码标签，其中，音频帧的掩码标签为1或者0，音频帧的掩码标签为1，表示该音频帧参与神经网络模型的损失函数值的计算，音频帧的掩码标签为0，表示该音频帧不参与神经网络模型的损失函数值的计算；
训练单元，用于使用所述至少一个音频帧的音频特征以及所述至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型；
所述第一获取单元在根据包含唤醒词的音频信号得到样本音频时，具体执行：
获取所述音频信号中所包含的唤醒词的词语长度；
确定与所述词语长度对应的目标时长；
从所述音频信号中截取与所述目标时长对应的音频作为所述样本音频。
9.根据权利要求8所述的装置，其中，所述处理单元在提取所述样本音频中至少一个音频帧的音频特征时，具体执行：
针对所述至少一个音频帧中的每个音频帧，得到该音频帧的每个通道的快速傅里叶变换特征；
分别提取每个通道的快速傅里叶变换特征中的实部与虚部，将提取结果作为该音频帧的音频特征。
10.根据权利要求8所述的装置，其中，所述处理单元在标注所述至少一个音频帧的掩码标签时，具体执行：
针对所述至少一个音频帧中的每个音频帧，在确定该音频帧为位于所述音频信号中唤醒词尾点帧之前的预设帧数的音频帧的情况下，将该音频帧的掩码标签标注为预设标签。
11.根据权利要求8所述的装置，其中，所述训练单元在使用所述至少一个音频帧的音频特征以及所述至少一个音频帧的方向标签与掩码标签对神经网络模型进行训练，得到声源定位模型时，具体执行：
将所述至少一个音频帧的音频特征输入所述神经网络模型，得到所述神经网络模型针对所述至少一个音频帧中的每个音频帧输出的方向预测结果；
在确定音频帧的掩码标签为预设标签的情况下，根据该音频帧的方向预测结果与方向标签计算损失函数值；
根据计算得到的损失函数值，调整所述神经网络模型的参数，直至所述神经网络模型收敛，得到所述声源定位模型。
12.一种声源定位装置，包括：
第二获取单元，用于获取待处理音频信号，提取所述待处理音频信号中每个音频帧的音频特征；
预测单元，用于将所述每个音频帧的音频特征输入声源定位模型，得到所述声源定位模型针对每个音频帧输出的声源方向信息；
确定单元，用于确定所述待处理音频信号中的唤醒词尾点帧；
定位单元，用于根据对应所述唤醒词尾点帧的声源方向信息，得到所述待处理音频信号的声源方向；
其中，所述声源定位模型是根据权利要求8~11中任一项装置预先训练得到的。
13.根据权利要求12所述的装置，其中，所述第二获取单元在提取所述待处理音频信号中每个音频帧的音频特征时，具体执行：
针对每个音频帧，得到该音频帧的每个通道的快速傅里叶变换特征；
分别提取每个通道的快速傅里叶变换特征中的实部与虚部，将提取结果作为该音频帧的音频特征。
14.根据权利要求12所述的装置，其中，所述确定单元在确定所述待处理音频信号中的唤醒词尾点帧时，具体执行：
根据所述每个音频帧的音频特征，得到所述每个音频帧的唤醒词得分；
将最后一个唤醒词得分超过预设得分阈值的音频帧，作为所述唤醒词尾点帧。
15.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。
CN202111068636.6A 2021-09-13 2021-09-13 声源定位模型的训练与声源定位方法、装置 Active CN113903334B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202111068636.6A CN113903334B (zh) 2021-09-13 2021-09-13 声源定位模型的训练与声源定位方法、装置
US17/658,513 US20230077816A1 (en) 2021-09-13 2022-04-08 Sound source localization model training and sound source localization method, and apparatus
JP2022077103A JP7367288B2 (ja) 2021-09-13 2022-05-09 音源定位モデルの訓練と音源定位方法、装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111068636.6A CN113903334B (zh) 2021-09-13 2021-09-13 声源定位模型的训练与声源定位方法、装置

Publications (2)

Publication Number Publication Date
CN113903334A CN113903334A (zh) 2022-01-07
CN113903334B true CN113903334B (zh) 2022-09-23

Family

ID=79027967

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111068636.6A Active CN113903334B (zh) 2021-09-13 2021-09-13 声源定位模型的训练与声源定位方法、装置

Country Status (3)

Country Link
US (1) US20230077816A1 (zh)
JP (1) JP7367288B2 (zh)
CN (1) CN113903334B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109767760A (zh) * 2019-02-23 2019-05-17 天津大学 基于振幅和相位信息的多目标学习的远场语音识别方法
CN110517677A (zh) * 2019-08-27 2019-11-29 腾讯科技（深圳）有限公司 语音处理系统、方法、设备、语音识别系统及存储介质
CN111696570A (zh) * 2020-08-17 2020-09-22 北京声智科技有限公司 语音信号处理方法、装置、设备及存储介质
CN112201272A (zh) * 2020-09-29 2021-01-08 腾讯音乐娱乐科技（深圳）有限公司 音频数据降噪的方法、装置、设备及存储介质
CN112201259A (zh) * 2020-09-23 2021-01-08 北京百度网讯科技有限公司 声源定位方法、装置、设备和计算机存储介质
CN112666522A (zh) * 2020-12-24 2021-04-16 北京地平线信息技术有限公司 唤醒词声源定位方法和装置
WO2021082572A1 (zh) * 2019-10-28 2021-05-06 苏宁云计算有限公司 一种唤醒模型生成方法、智能终端唤醒方法及装置
US11087739B1 (en) * 2018-11-13 2021-08-10 Amazon Technologies, Inc. On-device learning in a hybrid speech processing system

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11158334B2 (en) * 2018-03-29 2021-10-26 Sony Corporation Sound source direction estimation device, sound source direction estimation method, and program
KR20190118813A (ko) * 2018-04-11 2019-10-21 삼성전자주식회사 사용자 발화를 처리하는 시스템 및 그 시스템의 제어 방법
JP6992709B2 (ja) * 2018-08-31 2022-01-13 日本電信電話株式会社 マスク推定装置、マスク推定方法及びマスク推定プログラム
JP7245669B2 (ja) * 2019-02-27 2023-03-24 本田技研工業株式会社 音源分離装置、音源分離方法、およびプログラム
WO2021044551A1 (ja) * 2019-09-04 2021-03-11 日本電信電話株式会社 到来方向推定装置、モデル学習装置、到来方向推定方法、モデル学習方法、プログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11087739B1 (en) * 2018-11-13 2021-08-10 Amazon Technologies, Inc. On-device learning in a hybrid speech processing system
CN109767760A (zh) * 2019-02-23 2019-05-17 天津大学 基于振幅和相位信息的多目标学习的远场语音识别方法
CN110517677A (zh) * 2019-08-27 2019-11-29 腾讯科技（深圳）有限公司 语音处理系统、方法、设备、语音识别系统及存储介质
WO2021082572A1 (zh) * 2019-10-28 2021-05-06 苏宁云计算有限公司 一种唤醒模型生成方法、智能终端唤醒方法及装置
CN111696570A (zh) * 2020-08-17 2020-09-22 北京声智科技有限公司 语音信号处理方法、装置、设备及存储介质
CN112201259A (zh) * 2020-09-23 2021-01-08 北京百度网讯科技有限公司 声源定位方法、装置、设备和计算机存储介质
CN112201272A (zh) * 2020-09-29 2021-01-08 腾讯音乐娱乐科技（深圳）有限公司 音频数据降噪的方法、装置、设备及存储介质
CN112666522A (zh) * 2020-12-24 2021-04-16 北京地平线信息技术有限公司 唤醒词声源定位方法和装置

Also Published As

Publication number Publication date
JP2023041600A (ja) 2023-03-24
JP7367288B2 (ja) 2023-10-24
US20230077816A1 (en) 2023-03-16
CN113903334A (zh) 2022-01-07

Similar Documents

Publication Publication Date Title
CN107103903B (zh) 基于人工智能的声学模型训练方法、装置及存储介质
CN113344089B (zh) 模型训练方法、装置及电子设备
CN113436611B (zh) 车载语音设备的测试方法、装置、电子设备和存储介质
CN113836925A (zh) 预训练语言模型的训练方法、装置、电子设备及存储介质
CN113688887A (zh) 图像识别模型的训练与图像识别方法、装置
CN114881129A (zh) 一种模型训练方法、装置、电子设备及存储介质
CN112767935B (zh) 唤醒指标监测方法、装置及电子设备
CN114267342A (zh) 识别模型的训练方法、识别方法、电子设备及存储介质
CN113658586A (zh) 语音识别模型的训练方法、语音交互方法及装置
CN113947189A (zh) 图像生成模型的训练方法、装置、电子设备及存储介质
CN113903334B (zh) 声源定位模型的训练与声源定位方法、装置
CN115457329B (zh) 图像分类模型的训练方法、图像分类方法和装置
CN114399992B (zh) 语音指令响应方法、装置及存储介质
CN115292467A (zh) 信息处理与模型训练方法、装置、设备、介质及程序产品
CN114119972A (zh) 模型获取及对象处理方法、装置、电子设备及存储介质
CN112509567B (zh) 语音数据处理的方法、装置、设备、存储介质及程序产品
CN114549695A (zh) 图像生成方法、装置、电子设备及可读存储介质
CN115565186A (zh) 文字识别模型的训练方法、装置、电子设备和存储介质
CN112541557B (zh) 生成式对抗网络的训练方法、装置及电子设备
CN113704314A (zh) 数据的分析方法及装置、电子设备和存储介质
CN115840867A (zh) 数学解题模型的生成方法、装置、电子设备和存储介质
CN113901901A (zh) 图像处理模型的训练方法、装置、电子设备和介质
CN112632999A (zh) 命名实体识别模型获取及命名实体识别方法、装置及介质
CN113033431A (zh) 光学字符识别模型训练和识别方法、装置、设备及介质
CN112817463A (zh) 输入法获取音频数据的方法、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant