CN114363794A - 音频处理方法、装置、电子设备和计算机可读存储介质 - Google Patents
音频处理方法、装置、电子设备和计算机可读存储介质 Download PDFInfo
- Publication number
- CN114363794A CN114363794A CN202111618024.XA CN202111618024A CN114363794A CN 114363794 A CN114363794 A CN 114363794A CN 202111618024 A CN202111618024 A CN 202111618024A CN 114363794 A CN114363794 A CN 114363794A
- Authority
- CN
- China
- Prior art keywords
- audio
- virtual reality
- real scene
- scene
- audio stream
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 19
- 238000012545 processing Methods 0.000 claims abstract description 33
- 238000000034 method Methods 0.000 claims description 32
- 238000004590 computer program Methods 0.000 claims description 11
- 238000001914 filtration Methods 0.000 claims description 11
- 230000004931 aggregating effect Effects 0.000 claims description 10
- 230000002776 aggregation Effects 0.000 claims description 8
- 238000004220 aggregation Methods 0.000 claims description 8
- 230000004044 response Effects 0.000 claims description 5
- 238000010276 construction Methods 0.000 claims description 4
- 210000005069 ears Anatomy 0.000 claims description 4
- 239000000126 substance Substances 0.000 claims description 2
- 238000004458 analytical method Methods 0.000 claims 1
- 238000005516 engineering process Methods 0.000 abstract description 8
- 238000010586 diagram Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 8
- 238000007654 immersion Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000004088 simulation Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 241000208340 Araliaceae Species 0.000 description 1
- 241001342895 Chorus Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- HAORKNGNJCEJBX-UHFFFAOYSA-N cyprodinil Chemical compound N=1C(C)=CC(C2CC2)=NC=1NC1=CC=CC=C1 HAORKNGNJCEJBX-UHFFFAOYSA-N 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035807 sensation Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Stereophonic System (AREA)
Abstract
本公开提供了一种音频处理方法、装置、电子设备和计算机可读存储介质，涉及计算机技术领域，尤其涉及虚拟现实和语音技术领域。具体实现方案为：基于在真实场景中采集的音频流与其对应的音频源数据，得到真实场景的特征信息；基于特征信息构建空间滤波器；其中，空间滤波器用于基于在真实场景所对应的虚拟现实场景中接收到的音频流，得到在虚拟现实场景中播放的音频流。
Description
技术领域
本公开涉及计算机技术领域，尤其涉及虚拟现实和语音技术领域。
背景技术
虚拟现实(Virtual Reality，VR)是一种利用计算机模拟虚拟环境的技术，其融合了数字图像处理、音频处理、传感器技术等多方面的信息技术。如何提升在虚拟现实场景中的沉浸感，是相关技术中的热点问题。
发明内容
本公开提供了一种音频处理方法、装置、电子设备和计算机可读存储介质。
根据本公开的一方面，提供了一种音频处理方法，包括：
基于在真实场景中采集的音频流与其对应的音频源数据，得到真实场景的特征信息；
基于特征信息构建空间滤波器；其中，空间滤波器用于基于在真实场景所对应的虚拟现实场景中接收到的音频流，得到在虚拟现实场景中播放的音频流。
根据本公开的一方面，提供了一种音频处理方法，包括：
基于空间滤波器以及在虚拟现实场景中接收到的音频流，得到在虚拟现实场景中播放的音频流；
其中，空间滤波器是基于虚拟现实场景所对应的真实场景的特征信息得到的。
根据本公开的另一方面，提供了一种音频处理装置，包括：
特征获取模块，用于基于在真实场景中采集的音频流与其对应的音频源数据，得到真实场景的特征信息；
滤波器构建模块，用于基于特征信息构建空间滤波器；其中，空间滤波器用于基于在真实场景所对应的虚拟现实场景中接收到的音频流，得到在虚拟现实场景中播放的音频流。
根据本公开的另一方面，提供了一种音频处理装置，包括：
播放音频确定模块，用于基于空间滤波器以及在虚拟现实场景中接收到的音频流，得到在虚拟现实场景中播放的音频流；
其中，空间滤波器是基于虚拟现实场景所对应的真实场景的特征信息得到的。
根据本公开的另一方面，提供了一种电子设备，包括：
至少一个处理器；以及
与该至少一个处理器通信连接的存储器；其中，
该存储器存储有可被该至少一个处理器执行的指令，该指令被该至少一个处理器执行，以使该至少一个处理器能够执行本公开任一实施例中的方法。
根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行本公开任一实施例中的方法。
根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现本公开任一实施例中的方法。
本公开的技术方案中，可以在虚拟现实场景播放的音频流中还原真实场景中的声音状态，提升虚拟现实场景中的听觉仿真度，从而提升用户的沉浸感。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是本公开一实施例提供的音频处理方法的示意图；
图2是本公开另一实施例提供的音频处理方法的示意图；
图3是本公开实施例中真实场景中的录制点的示意图；
图4是本公开实施例中处理虚拟现实场景中的音频的示意图；
图5是本公开一实施例提供的音频处理装置的示意图；
图6是本公开另一实施例提供的音频处理装置的示意图；
图7是本公开又一实施例提供的音频处理装置的示意图；
图8是本公开又一实施例提供的音频处理装置的示意图；
图9是用来实现本公开实施例的音频处理方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
图1示出了本申请一实施例提供的音频处理方法的示意图。如图1所示，该方法包括：
步骤S110，基于在真实场景中采集的音频流与其对应的音频源数据，得到真实场景的特征信息；
步骤S120，基于特征信息构建空间滤波器；其中，空间滤波器用于基于在真实场景所对应的虚拟现实场景中接收到的音频流，得到在虚拟现实场景中播放的音频流。
在本申请实施例中，虚拟现实场景，可以是由电子设备输出的音频信息、图像信息等形成的仿真视听场景。与真实场景对应的虚拟现实场景，可以包括用于模拟该真实场景的虚拟现实场景。例如，真实场景为大会场，则对应的虚拟现实场景为模拟大会场的虚拟现实场景。
示例性地，可以在真实场景中放置收音装置，在播放音频源数据时采集音频流，则该音频流与该音频源数据对应。可选地，在真实场景中采集的音频流的数量可以有多个。其中，不同的音频流可以对应不同的音频源数据，也可以对应相同的音频源数据。例如，可以在播放某个音频源数据时，采用置于真实场景中的多个位置的多个收音装置，采集得到与该音频源数据对应的多个音频流。也可以在不同时刻播放不同的音频源数据，采用收音装置采集得到与不同的音频源数据对应的不同音频流。
可选地，真实场景的特征信息，可以包括用于表征真实场景的声音特性的相关信息。例如，在真实场景为超大型露天开放会场的情况下，该特征信息可以用于体现由于大会场中空间面积大、人员众多、向上开放等空间特性导致的声音特性。示例性地，特征信息可以由算法、音频处理器件等承载。
可选地，在本申请实施例中，可以通过对采集的音频流和音频源数据进行分析，得到真实场景的特征信息，并利用空间滤波器承载该特征信息。基于此，基于该空间滤波器对音频流进行处理，可以还原出真实场景的音频效果。可选地，该空间滤波器可以用于直接对虚拟现实场景中接收到的音频流进行处理，也可以用于在对虚拟现实场景中接收到的音频流进行一些预处理之后，对预处理得到的音频流进行处理。
可见，采用本申请实施例的方法，基于在真实场景采集的音频流来进行建模得到空间滤波器，基于该空间滤波器对虚拟现实场景中接收到的音频流进行处理，可以在音频流中还原真实场景中的声音状态，提升虚拟现实场景中的听觉仿真度，从而提升用户的沉浸感。
在一种示例性的实施方式中，上述步骤S110，基于在真实场景中采集的音频流与其对应的音频源数据，得到真实场景的特征信息，包括：
利用反卷积的方式提取在真实场景中采集的音频流与其对应的音频源数据之间的相关性；
基于相关性，得到真实场景的特征信息。
根据该实施方式，利用反卷积的方式可以准确提取采集的音频流与音频源数据之间的相关性，从而基于该相关性可以准确得到表征真实场景的声音特性的信息，进一步提升了声音还原的真实性。
在一种示例性的实施方式中，在真实场景中采集的音频流包括利用人工耳在真实场景中的多个位置采集的多个音频流。
示例性地，人工耳可以包括模拟人耳的收音装置。例如，一个人工耳可以包括相对距离约为人脸宽度(例如10至15厘米)的背向设置的两个收音装置。基于此，人工耳采集的音频流可以高度还原人体在真实场景中听到的声音。
根据该实施方式，一方面采用人工耳采集能够高度还原人体听到的声音的音频流，另一方面，在多个位置进行音频流采集，因此，可以得到真实场景中丰富且准确的声音特性，进一步提升声音还原的真实性。
可选地，人工耳与播放音频源数据之间的距离可以小于预设阈值，例如小于50米，以提升音频流的准确性。
示例性地，真实场景的特征信息包括真实场景的房间冲激响应(Room ImpulseResponse，RIR)和/或真实场景中的多个位置之间的相对空间方向特征。
根据该实施方式，基于RIR和/或不同位置间的相对空间方向特征，可以较为全面地反映真实场景中的声音特性，从而进一步提升声音还原的真实性。
图2示出了根据本申请另一实施例的音频处理方法的示意图。如图2所示，该方法包括：
步骤S210，基于空间滤波器以及在虚拟现实场景中接收到的音频流，得到在虚拟现实场景中播放的音频流；
其中，空间滤波器是基于虚拟现实场景所对应的真实场景的特征信息得到的。
示例性地，在虚拟现实场景中接收到的音频流，可以包括进入虚拟现实场景中的每个用户对应的音频流。也就是说，可以包括由每个用户采用的收音装置采集的音频流，这些音频流可以由用户的收音装置采集处理后经网络传输至执行上述方法的电子设备。
根据该方法，在虚拟现实场景中可以实时接收用户的音频流，并基于空间滤波器得到在虚拟现实场景中播放的音频流。由于空间滤波器是基于在真实场景采集的音频流和对应的音频源数据进行建模的，因此，在虚拟场景中播放的音频流可以还原真实场景中的声音状态，提升虚拟现实场景中的听觉仿真度，从而提升用户的沉浸感。
可选地，该空间滤波器可以是基于前述用于构建空间滤波器的任一音频处理方法得到。基于此，采用该空间滤波器实施的针对虚拟现实场景中接收到的音频的处理方法，具备相应的有益效果。
可选地，上述步骤S210，基于空间滤波器以及在虚拟现实场景中接收到的音频流，得到在虚拟现实场景中播放的音频流，包括：
对在虚拟现实场景中接收到的M个音频流中的至少部分音频流进行聚合，得到N个聚合音频流；其中，M为正整数，N为小于M的正整数；
基于空间滤波器对N个聚合音频流进行卷积处理，得到在虚拟现实场景中播放的音频流。
其中，对音频流进行聚合，也可以理解为混音。具体而言，对多个音频流进行聚合，可以是将多个不同数据通道的音频流叠加在同一数据通道中，即将多路音频流聚合为一路音频流。
示例性地，对M个音频流中的至少部分音频流进行聚合，可以先对M个音频流或者先对M个音频流中的部分音频流进行分组，得到N个音频组合，每个音频组合包括一个或多个音频流。然后，对同一个音频组合中的多个音频流进行聚合，得到一个聚合音频流。
根据该实施方式，通过先对虚拟现实场景中接收到的音频流进行聚合，再基于空间滤波器对聚合音频流进行卷积处理，可以减少滤波的计算量，从而提高在虚拟现实场景中的音频处理效率，降低音频延迟，进一步还原在真实场景中的听觉感受，提升用户在虚拟现实场景中的沉浸感。
在一种示例性的实施方式中，对在虚拟现实场景中接收到的M个音频流中的至少部分音频流进行聚合，得到N个聚合音频流，可以包括：
对在虚拟现实场景中接收到的M个音频流进行过滤，得到K个语音音频流；其中，K为小于等于M的正整数；
对K个语音音频流进行聚合，得到N个聚合音频流。
示例性地，对M个音频流进行过滤，可以包括：通过语音检测模块检测M个音频流中每个音频流中的语音信息，对不包含语音信息的音频流进行滤除，只保留包含语音信息的音频流。
根据该实施方式，可以过滤掉无效音频流，只对识别出语音的音频进行聚合，从而减少聚合和滤波的计算量，提高在虚拟现实场景中的音频处理效率，降低音频延迟，进一步还原在真实场景中的听觉感受，提升用户在虚拟现实场景中的沉浸感。
为了更清楚地了解本公开实施例的特点，下面以虚拟现实场景模拟大型会场为例，对本公开实施例的方法进行详细说明。该应用示例包括以下内容中的至少部分内容：
(一)采集原始数据
1、在真实的大型会场中确定多个录音点。例如，如图3所示，在观众席上取多个点310作为录制点。基于本公开实施例在计算速度、真实场景还原度等各方面所能达到的的效果，该大会场可以是容纳十万人超大型露天复杂开放会场。
2、利用音频播放装置例如高保真音箱播放特定音频(即音频源数据)，利用人工耳在预设的录制点上录制多组立体声数据。其中，音频播放装置可以设置在距离录制点50米以内。
(二)建模并还原空间声场的声学特性
根据采集到的多组立体声数据来进行建模，并通过反卷积的方式来还原其相关的声学特性，包括超大会场的房间冲激响应、不同位置间的相对空间方向特征等，形成一套滤波器库(空间滤波器)。
(三)处理虚拟现实场景中的音频
考虑到是对十万人进行实时收音和处理，如果对每一路都进行混音滤波处理，计算量惊人，因此，如图4所示，本示例中将整体的算法设计为两级。
第一级：通过语音检测模块410，对接收到的海量音频流进行过滤，过滤掉无效音频流，只将识别出语音的音频输入聚合单元420，进行聚合和混音。
第二级：对第一级聚合过来的多路音频流与空间滤波器(空间filter，也可以称为空间方位滤波器)430卷积，得到待播放的音频流，同时通过自动增益模块440来根据云端配的音量档位来调节输出音频流的音量大小。
根据上述示例中的方法，可以在元宇宙中打造超大型露天复杂开放会场，参会观众人数可达十万人。通过采用十万人参会观众声音的混音与背景音还原技术，使得虚拟显示场景中的观众能实时感受到所有参会者的背景声，包括万人大合唱、鼓掌欢呼声等，沉浸感大幅提升，虚拟现实场景更真实。同时，通过对实时音频进行两级处理，降低对十万级别的实时收音与处理的算力要求，提升了计算效率。
可见，采用本公开的技术方案，可以在虚拟现实场景播放的音频流中还原真实场景中的声音状态，提升虚拟现实场景中的听觉仿真度，从而提升用户的沉浸感。
本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
作为上述各方法的实现，本公开还提供一种音频处理装置。如图5所示，该装置包括：
特征获取模块510，用于基于在真实场景中采集的音频流与其对应的音频源数据，得到真实场景的特征信息；
滤波器构建模块520，用于基于特征信息构建空间滤波器；其中，空间滤波器用于基于在真实场景所对应的虚拟现实场景中接收到的音频流，得到在虚拟现实场景中播放的音频流。
示例性地，如图6所示，特征获取模块510可以包括：
反卷积单元610，用于利用反卷积的方式提取在真实场景中采集的音频流与其对应的音频源数据之间的相关性；
特征确定单元620，用于基于相关性，得到真实场景的特征信息。
示例性地，在真实场景中采集的音频流包括利用人工耳在真实场景中的多个位置采集的多个音频流。
示例性地，真实场景的特征信息包括真实场景的房间冲激响应和/或真实场景中的多个位置之间的相对空间方向特征。
另一方面，本公开实施例还提供一种音频处理装置700，如图7所示，该装置包括：
播放音频确定模块710，用于基于空间滤波器以及在虚拟现实场景中接收到的音频流，得到在虚拟现实场景中播放的音频流；
其中，空间滤波器是基于虚拟现实场景所对应的真实场景的特征信息得到的。
示例性地，空间滤波器是基于前述音频处理装置得到的。
示例性地，如图8所示，播放音频确定模块710可以包括：
音频聚合单元810，用于对在虚拟现实场景中接收到的M个音频流中的至少部分音频流进行聚合，得到N个聚合音频流；其中，M为正整数，N为小于M的正整数；
空间滤波单元820，用于基于空间滤波器对N个聚合音频流进行卷积处理，得到在虚拟现实场景中播放的音频流。
示例性地，音频聚合单元810具体用于：
对从虚拟现实场景中获得的M个音频流进行过滤，得到K个语音音频流；其中，K为小于等于M的正整数；
对K个语音音频流进行聚合，得到N个聚合音频流。
本公开实施例各装置中的各单元、模块或子模块的功能可以参见上述方法实施例中的对应描述，在此不再赘述。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或要求的本公开的实现。
如图9所示，电子设备900包括计算单元901，其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序来执行各种适当的动作和处理。在RAM 903中，还可存储电子设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入输出(I/O)接口905也连接至总线904。
电子设备900中的多个部件连接至I/O接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许电子设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理，例如音频处理方法。例如，在一些实施例中，音频处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到电子设备900上。当计算机程序加载到RAM 903并由计算单元901执行时，可以执行上文描述的音频处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元901可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行音频处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入、或者触觉输入来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。
Claims (19)
1.一种音频处理方法，包括：
基于在真实场景中采集的音频流与其对应的音频源数据，得到所述真实场景的特征信息；
基于所述特征信息构建空间滤波器；其中，所述空间滤波器用于基于在所述真实场景所对应的虚拟现实场景中接收到的音频流，得到在所述虚拟现实场景中播放的音频流。
2.根据权利要求1所述的方法，其中，所述基于在真实场景中采集的音频流与其对应的音频源数据，得到所述真实场景的特征信息，包括：
利用反卷积的方式提取在真实场景中采集的音频流与其对应的音频源数据之间的相关性；
基于所述相关性，得到所述真实场景的特征信息。
3.根据权利要求1或2所述的方法，其中，所述在真实场景中采集的音频流包括利用人工耳在所述真实场景中的多个位置采集的多个音频流。
4.根据权利要求1-3中任一项所述的方法，其中，所述真实场景的特征信息包括所述真实场景的房间冲激响应和/或所述真实场景中的多个位置之间的相对空间方向特征。
5.一种音频处理方法，包括：
基于空间滤波器以及在虚拟现实场景中接收到的音频流，得到在所述虚拟现实场景中播放的音频流；
其中，所述空间滤波器是基于所述虚拟现实场景所对应的真实场景的特征信息得到的。
6.根据权利要求5所述的方法，其中，所述空间滤波器是基于权利要求1-4中任一项所述的方法得到的。
7.根据权利要求5或6所述的方法，其中，所述基于空间滤波器以及在虚拟现实场景中接收到的音频流，得到在所述虚拟现实场景中播放的音频流，包括：
对在所述虚拟现实场景中接收到的M个音频流中的至少部分音频流进行聚合，得到N个聚合音频流；其中，M为正整数，N为小于M的正整数；
基于所述空间滤波器对所述N个聚合音频流进行卷积处理，得到在所述虚拟现实场景中播放的音频流。
8.根据权利要求7所述的方法，其中，所述对在所述虚拟现实场景中接收到的M个音频流中的至少部分音频流进行聚合，得到N个聚合音频流，包括：
对在所述虚拟现实场景中接收到的M个音频流进行过滤，得到K个语音音频流；其中，K为小于等于M的正整数；
对所述K个语音音频流进行聚合，得到所述N个聚合音频流。
9.一种音频处理装置，包括：
特征获取模块，用于基于在真实场景中采集的音频流与其对应的音频源数据，得到所述真实场景的特征信息；
滤波器构建模块，用于基于所述特征信息构建空间滤波器；其中，所述空间滤波器用于基于在所述真实场景所对应的虚拟现实场景中接收到的音频流，得到在所述虚拟现实场景中播放的音频流。
10.根据权利要求9所述的装置，其中，所述特征获取模块包括：
反卷积单元，用于利用反卷积的方式提取在真实场景中采集的音频流与其对应的音频源数据之间的相关性；
特征确定单元，用于基于所述相关性，得到所述真实场景的特征信息。
11.根据权利要求9或10所述的装置，其中，所述在真实场景中采集的音频流包括利用人工耳在所述真实场景中的多个位置采集的多个音频流。
12.根据权利要求9-11中任一项所述的装置，其中，所述真实场景的特征信息包括所述真实场景的房间冲激响应和/或所述真实场景中的多个位置之间的相对空间方向特征。
13.一种音频处理装置，包括：
播放音频确定模块，用于基于空间滤波器以及在虚拟现实场景中接收到的音频流，得到在所述虚拟现实场景中播放的音频流；
其中，所述空间滤波器是基于所述虚拟现实场景所对应的真实场景的特征信息得到的。
14.根据权利要求13所述的装置，其中，所述空间滤波器是基于权利要求9-12中任一项所述的装置得到的。
15.根据权利要求13或14所述的装置，其中，所述播放音频确定模块，包括：
音频聚合单元，用于对在所述虚拟现实场景中接收到的M个音频流中的至少部分音频流进行聚合，得到N个聚合音频流；其中，M为正整数，N为小于M的正整数；
空间滤波单元，用于基于所述空间滤波器对所述N个聚合音频流进行卷积处理，得到在所述虚拟现实场景中播放的音频流。
16.根据权利要求15所述的装置，其中，所述音频聚合单元具体用于：
对在所述虚拟现实场景中接收到的M个音频流进行过滤，得到K个语音音频流；其中，K为小于等于M的正整数；
对所述K个语音音频流进行聚合，得到N个聚合音频流。
17.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使计算机执行权利要求1-8中任一项所述的方法。
19.一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现根据权利要求1-8中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111618024.XA CN114363794B (zh) | 2021-12-27 | 2021-12-27 | 音频处理方法、装置、电子设备和计算机可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111618024.XA CN114363794B (zh) | 2021-12-27 | 2021-12-27 | 音频处理方法、装置、电子设备和计算机可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114363794A true CN114363794A (zh) | 2022-04-15 |
| CN114363794B CN114363794B (zh) | 2023-10-24 |
Family
ID=81103776
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111618024.XA Active CN114363794B (zh) | 2021-12-27 | 2021-12-27 | 音频处理方法、装置、电子设备和计算机可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114363794B (zh) |
Citations (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010263295A (ja) * | 2009-04-30 | 2010-11-18 | Heiankaku:Kk | スピーカ装置及び音の再生方法 |
| JP2012168367A (ja) * | 2011-02-15 | 2012-09-06 | Nippon Telegr & Teleph Corp <Ntt> | 再生装置とその方法と、プログラム |
| US20160088417A1 (en) * | 2013-04-30 | 2016-03-24 | Intellectual Discovery Co., Ltd. | Head mounted display and method for providing audio content by using same |
| US20160358364A1 (en) * | 2015-06-07 | 2016-12-08 | Apple Inc. | Automatic Rendering Of 3D Sound |
| CN106531201A (zh) * | 2016-10-18 | 2017-03-22 | 腾讯科技（深圳）有限公司 | 歌曲录制的方法和装置 |
| CN106888420A (zh) * | 2015-12-15 | 2017-06-23 | 森声数字科技（深圳）有限公司 | 一种音频采集装置 |
| US20170238119A1 (en) * | 2014-11-07 | 2017-08-17 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Apparatus and method for generating output signals based on an audio source signal, sound reproduction system and loudspeaker signal |
| CN107193386A (zh) * | 2017-06-29 | 2017-09-22 | 联想(北京)有限公司 | 音频信号处理方法及电子设备 |
| CN107632704A (zh) * | 2017-09-01 | 2018-01-26 | 广州励丰文化科技股份有限公司 | 一种基于光学定位的混合现实音频控制方法及服务设备 |
| CN109584892A (zh) * | 2018-11-29 | 2019-04-05 | 网易（杭州）网络有限公司 | 音效模拟方法、装置、介质及电子设备 |
| WO2019110870A1 (en) * | 2017-12-08 | 2019-06-13 | Nokia Technologies Oy | An apparatus and method for processing volumetric audio |
| US10425762B1 (en) * | 2018-10-19 | 2019-09-24 | Facebook Technologies, Llc | Head-related impulse responses for area sound sources located in the near field |
| US10484811B1 (en) * | 2018-09-10 | 2019-11-19 | Verizon Patent And Licensing Inc. | Methods and systems for providing a composite audio stream for an extended reality world |
| US20200145778A1 (en) * | 2017-06-30 | 2020-05-07 | Nokia Technologies Oy | An apparatus and associated methods |
| CN112492380A (zh) * | 2020-11-18 | 2021-03-12 | 腾讯科技（深圳）有限公司 | 音效调整方法、装置、设备及存储介质 |
| CN113630684A (zh) * | 2021-08-31 | 2021-11-09 | 恒玄科技(上海)股份有限公司 | 一种具有主动降噪功能的耳机及其降噪方法 |
-
2021
- 2021-12-27 CN CN202111618024.XA patent/CN114363794B/zh active Active
Patent Citations (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010263295A (ja) * | 2009-04-30 | 2010-11-18 | Heiankaku:Kk | スピーカ装置及び音の再生方法 |
| JP2012168367A (ja) * | 2011-02-15 | 2012-09-06 | Nippon Telegr & Teleph Corp <Ntt> | 再生装置とその方法と、プログラム |
| US20160088417A1 (en) * | 2013-04-30 | 2016-03-24 | Intellectual Discovery Co., Ltd. | Head mounted display and method for providing audio content by using same |
| US20170238119A1 (en) * | 2014-11-07 | 2017-08-17 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Apparatus and method for generating output signals based on an audio source signal, sound reproduction system and loudspeaker signal |
| US20160358364A1 (en) * | 2015-06-07 | 2016-12-08 | Apple Inc. | Automatic Rendering Of 3D Sound |
| CN106888420A (zh) * | 2015-12-15 | 2017-06-23 | 森声数字科技（深圳）有限公司 | 一种音频采集装置 |
| CN106531201A (zh) * | 2016-10-18 | 2017-03-22 | 腾讯科技（深圳）有限公司 | 歌曲录制的方法和装置 |
| CN107193386A (zh) * | 2017-06-29 | 2017-09-22 | 联想(北京)有限公司 | 音频信号处理方法及电子设备 |
| US20200145778A1 (en) * | 2017-06-30 | 2020-05-07 | Nokia Technologies Oy | An apparatus and associated methods |
| CN107632704A (zh) * | 2017-09-01 | 2018-01-26 | 广州励丰文化科技股份有限公司 | 一种基于光学定位的混合现实音频控制方法及服务设备 |
| WO2019110870A1 (en) * | 2017-12-08 | 2019-06-13 | Nokia Technologies Oy | An apparatus and method for processing volumetric audio |
| US10484811B1 (en) * | 2018-09-10 | 2019-11-19 | Verizon Patent And Licensing Inc. | Methods and systems for providing a composite audio stream for an extended reality world |
| US10425762B1 (en) * | 2018-10-19 | 2019-09-24 | Facebook Technologies, Llc | Head-related impulse responses for area sound sources located in the near field |
| CN109584892A (zh) * | 2018-11-29 | 2019-04-05 | 网易（杭州）网络有限公司 | 音效模拟方法、装置、介质及电子设备 |
| CN112492380A (zh) * | 2020-11-18 | 2021-03-12 | 腾讯科技（深圳）有限公司 | 音效调整方法、装置、设备及存储介质 |
| CN113630684A (zh) * | 2021-08-31 | 2021-11-09 | 恒玄科技(上海)股份有限公司 | 一种具有主动降噪功能的耳机及其降噪方法 |
Non-Patent Citations (2)
| Title |
|---|
| 张玉军;邢辉;洪增;: "沉浸式虚拟战场3维音效仿真研究", 兵工自动化, no. 01, pages 59 - 63 * |
| 曹洁;魏建勇;: "杂波环境下基于视听信息融合的目标跟踪", 兰州理工大学学报, no. 03, pages 85 - 89 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114363794B (zh) | 2023-10-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107680586B (zh) | 远场语音声学模型训练方法及系统 | |
| CN106465037B (zh) | 用于动态源的实时声音传播的参数波场编码 | |
| CN112106385B (zh) | 一种用于声音建模和呈现的系统 | |
| CN108564966B (zh) | 语音测试的方法及其设备、具有存储功能的装置 | |
| CN108521612B (zh) | 视频摘要的生成方法、装置、服务器及存储介质 | |
| EP4099709A1 (en) | Data processing method and apparatus, device, and readable storage medium | |
| WO2021227308A1 (zh) | 一种视频资源的生成方法和装置 | |
| CN114492831A (zh) | 联邦学习模型的生成方法及其装置 | |
| CN111863014A (zh) | 一种音频处理方法、装置、电子设备和可读存储介质 | |
| CN114222076B (zh) | 一种换脸视频生成方法、装置、设备以及存储介质 | |
| CN114038486A (zh) | 音频数据处理方法、装置、电子设备及计算机存储介质 | |
| WO2023246327A1 (zh) | 音频信号处理方法、装置和计算机设备 | |
| US20220212108A1 (en) | Audio frequency signal processing method and apparatus, terminal and storage medium | |
| CN113055751A (zh) | 数据处理方法、装置、电子设备和存储介质 | |
| CN114363794B (zh) | 音频处理方法、装置、电子设备和计算机可读存储介质 | |
| CN114286278B (zh) | 音频数据处理方法、装置、电子设备及存储介质 | |
| CN117837173A (zh) | 用于音频渲染的信号处理方法、装置和电子设备 | |
| CN114187318A (zh) | 图像分割的方法、装置、电子设备以及存储介质 | |
| CN114529649A (zh) | 图像处理方法和装置 | |
| CN111949860B (zh) | 用于生成相关度确定模型的方法和装置 | |
| Thery et al. | Impact of the visual rendering system on subjective auralization assessment in VR | |
| CN111382626B (zh) | 视频中违规图像的检测方法、装置、设备及存储介质 | |
| CN112084412A (zh) | 信息推送方法、装置、设备及存储介质 | |
| CN112201227A (zh) | 语音样本生成方法及装置、存储介质、电子装置 | |
| US11877143B2 (en) | Parameterized modeling of coherent and incoherent sound |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |