CN114038486A - 音频数据处理方法、装置、电子设备及计算机存储介质 - Google Patents
音频数据处理方法、装置、电子设备及计算机存储介质 Download PDFInfo
- Publication number
- CN114038486A CN114038486A CN202111618120.4A CN202111618120A CN114038486A CN 114038486 A CN114038486 A CN 114038486A CN 202111618120 A CN202111618120 A CN 202111618120A CN 114038486 A CN114038486 A CN 114038486A
- Authority
- CN
- China
- Prior art keywords
- audio data
- target
- spatial information
- data
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003860 storage Methods 0.000 title claims abstract description 16
- 238000003672 processing method Methods 0.000 title abstract description 15
- 238000012545 processing Methods 0.000 claims abstract description 77
- 230000008859 change Effects 0.000 claims abstract description 11
- 238000000034 method Methods 0.000 claims description 34
- 230000006870 function Effects 0.000 claims description 28
- 238000001914 filtration Methods 0.000 claims description 21
- 238000012546 transfer Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 12
- 230000009467 reduction Effects 0.000 claims description 11
- 230000000694 effects Effects 0.000 abstract description 14
- 238000005516 engineering process Methods 0.000 abstract description 14
- 210000003128 head Anatomy 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 238000004364 calculation method Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 210000005069 ears Anatomy 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008447 perception Effects 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 210000003454 tympanic membrane Anatomy 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 239000007789 gas Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
- 238000013316 zoning Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/75—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 for modelling vocal tract parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R1/00—Details of transducers, loudspeakers or microphones
- H04R1/20—Arrangements for obtaining desired frequency or directional characteristics
- H04R1/32—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Otolaryngology (AREA)
- Stereophonic System (AREA)
Abstract
本公开提供了音频数据处理方法、装置、电子设备及计算机存储介质,涉及计算机技术领域,尤其涉及语音技术等技术领域。具体实现方案为:接收目标音频数据以及设定的空间信息;根据所述目标音频数据的接收位置、所述设定的空间信息,对所述目标音频数据进行处理以改变所述目标音频数据的空间信息,得到向所述接收位置输出的播放音频数据。本公开实施例能够提高音频数据输出时的真实效果。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及语音技术等技术领域。
背景技术
随着计算机技术的发展,与计算机数据相关的各种分支技术也不断发展。从而能够通过计算机技术实现对人们生活中的各种信息进行模拟以及展示,比如,通过计算机技术,可以在显示屏幕上生成画面,向用户传递和展示计算机相关的视觉信息。同时,也可以通过计算机技术生成语音数据,比如,通过录制声音、向用户播放,能够再现原始生源的发声效果。
随着计算机各方面相关技术的进一步发展,用户对计算机模拟信息或者计算机处理信息也不断产生新的要求,为了满足用户不断产生的新的要求,需要对计算机处理语音等信息的技术进行进一步的改进。
发明内容
本公开提供了一种音频数据处理方法、装置、电子设备及计算机存储介质。
根据本公开的一方面,提供了一种音频数据方法,包括:
接收目标音频数据以及设定的空间信息;
根据目标音频数据的接收位置、设定的空间信息,对目标音频数据进行处理以改变目标音频数据的空间信息,得到向接收位置输出的播放音频数据。
根据本公开的另一方面,提供了一种音频数据装置,包括:
空间信息接收模块,用于接收目标音频数据以及设定的空间信息;
输出模块,用于根据目标音频数据的接收位置、设定的空间信息,对目标音频数据进行处理以改变目标音频数据的空间信息,得到向接收位置输出的播放音频数据。
根据本公开的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与该至少一个处理器通信连接的存储器;其中,
该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行本公开任一实施例中的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行本公开任一实施例中的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现本公开任一实施例中的方法。
根据本公开的技术,能够对目标音频数据进行空间信息的改变,使得向接收者输出对目标音频数据处理而产生的播放音频数据时,能够使接收者感知到声源具有设定的空间信息,从而可以在应用到多种涉及音视频播放的场景,打造预设的音频效果,提高用户体验。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开一实施例的音频数据处理方法示意图;
图2是根据本公开一示例的声源位置和接收位置示意图;
图3是根据本公开另一实施例的音频数据处理方法示意图;
图4是根据本公开又一实施例的音频数据处理方法示意图;
图5是根据本公开一示例的音频数据处理方法示意图;
图6是根据本公开一示例的音区划分示意图;
图7是根据本公开一实施例的音频数据处理装置示意图;
图8是根据本公开另一实施例的音频数据处理装置示意图;
图9是根据本公开又一实施例的音频数据处理装置示意图;
图10是根据本公开又一实施例的音频数据处理装置示意图;
图11是用来实现本公开实施例的音频数据处理方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
本公开实施例提供了一种音频数据方法,如图1所示,包括:
步骤S11:接收目标音频数据以及设定的空间信息;
步骤S12:根据目标音频数据的接收位置、设定的空间信息,对目标音频数据进行处理以改变目标音频数据的空间信息,得到向接收位置输出的播放音频数据。
本实施例中,目标音频数据可以是待处理的原始音频数据,可以不具备任何空间信息,也可以具有一定的空间信息。比如,在距离原始声源的一定位置处录制原始声源产生的音频数据作为目标音频数据,则录制得到的目标音频数据中能够体现录制点和原始声源之间的位置信息和原始声源所处的环境信息。如果直接将原始声源的音频数据进行播放或者在原始声源的位置录制音频数据作为目标音频数据,则得到的目标音频数据中可能不存在位置信息,如果原始声源所处的环境不具有任何声音阻挡物质,则原始声源产生的目标音频数据也不具备环境信息。
设定的空间信息,可以是根据接收者的设定或者对接收的预定要求,设定的接收者应当感受到的空间信息。比如,接收者在收听到播放音频数据时,能够感受到播放音频数据的声源位于自己左侧、右侧、正前方较近或较远的位置,或者能够感受到播放音频数据的声源为在元宇宙、封闭房间、会堂、或者开阔的外界环境中产生的。
上述元宇宙(Metaverse)可以是利用科技手段进行链接与创造的,与现实世界映射与交互的虚拟世界,具备新型社会体系的数字生活空间。元宇宙本质上是对现实世界的虚拟化、数字化过程,需要对内容生产、经济系统、用户体验以及实体世界内容等进行大量改造。但元宇宙的发展是循序渐进的,是在共享的基础设施、标准及协议的支撑下,由众多工具、平台不断融合、进化而最终成形。它基于扩展现实技术提供沉浸式体验,基于数字孪生技术生成现实世界的镜像,基于区块链技术搭建经济体系,将虚拟世界与现实世界在经济系统、社交系统、身份系统上密切融合,并且允许每个用户进行内容生产和世界编辑。
空间信息可以包括位置信息,比如,绝对坐标、相对坐标、与预设参考点之间的距离、与预设参考点之间的相对角度等中的至少一个。
空间信息还可以包括希望对接收者产生的空间感知信息,或者希望接收者对声源产生的空间感知信息。
比如,预设的空间信息包括世界坐标系下的坐标(x,y),则表示期望接收者在收听到对目标音频数据处理后产生的播放音频数据时,能够感知到声源大约位于坐标(x,y)。再如,预设的空间信息包括相对距离L,则表示期望接收者在收听到目标音频数据处理后的播放音频数据时,能够感知到声源大约位于距离自己的L位置处。
再如,预设的空间信息包括世界坐标系下的正南方向,则表示期望接收者在收听到对目标音频数据处理后产生的播放音频数据时,能够感知到声源大约位于正南方向。再如,预设的空间信息包括接收者正前方,则表示期望接收者听到目标音频数据处理后的播放音频数据时,能够感知到声源大约位于自己的正前方。
再如,预设的空间信息包括体积大约为V的正方体形状的空间,则表示期望接收者在收听到目标音频数据处理后的播放音频数据时,能够感知到声源以及自己处于体积大约为V的正方体形状的空间内。再如,预设的空间信息包括体积大约为V的球形空间,则表示期望接收者在收听到对目标音频数据处理后的播放音频数据时,能够感知到声源以及自己处于体积大约为V的球形空间内。
本实施例中,目标音频的接收位置可以是绝对位置或相对位置。比如,接收者位置始终处于相对原点。再如,接收者位置处于预设的世界坐标系的某坐标,或者相对坐标系中的某个坐标。接收位置可以通过设置信息得到,或者通过定位数据确定。
根据目标音频的接收位置、设定的空间信息,对目标音频数据进行处理以改变目标音频数据的空间信息,可以包括:根据接收位置、设定的空间信息,确定对目标音频数据进行调整或者添加的空间信息对应的调整量,对目标音频数据进行处理。
比如,目标音频数据在播放位置输出时,不具有任何空间信息,可将设定的空间信息对应的调整量添加到目标音频数据中,以添加空间信息,使得输出的播放音频数据被接收者收听到以后,能够被收听者感知到播放音频数据的声源具有设定的空间信息。
再如,目标音频数据在播放位置输出时,具有原始的空间信息,则可将设定的空间信息对应的调整量添加到目标音频数据中以改变空间信息,使得输出的播放音频数据被接收者收听到以后,能够被收听者感知到播放音频数据的声源具有设定的空间信息。
如图2所示,假设目标音频数据原本不具备空间信息,在图2所示的坐标系中的A位置播放时,接收者位于坐标系中的B位置,则接收者收听到播放的音频数据时,能够感知到声源位于坐标系中的A位置,如果对目标音频数据进行空间信息的改变,能够使得接收者感知到不同的声源空间信息。比如,能够感知到声源位于某个房间中,且位于相对坐标系中的C位置。
或者,接收者处于图2所示的坐标系中的B位置,直接在B位置向接收者输出音频数据,可在目标音频数据中添加空间信息或者改变目标音频数据原有的空间信息,使得接收者在接收到播放音频数据时,能够感知到声源位于C位置。
在一种具体的实现方式中,根据目标音频的接收位置、设定的空间信息,对目标音频数据进行处理,可以是通过预先训练的模型,根据输入的接收位置、设定的空间信息和目标音频数据进行计算处理,输出播放音频数据。
在另一种具体的实现方式中,根据目标音频的接收位置、设定的空间信息,对目标音频数据进行处理,可以是预先录制与接收位置、设定的空间信息对应的声波数据,将声波数据与目标音频数据进行混合,得到播放音频数据。
本实施例中,能够对目标音频数据进行空间信息的改变,使得向接收者输出对目标音频数据处理而产生的播放音频数据时,能够使接收者感知到声源具有设定的空间信息,从而可以在应用到多种涉及音视频播放的场景,打造预设的音频效果,提高用户体验。
在一种实施方式中,根据目标音频数据的接收位置、设定的空间信息,对目标音频数据进行处理,包括:
根据接收位置、设定的空间信息,在预设对应关系中查找目标数据;
根据目标数据,对目标音频数据进行处理。
本实施例中,目标数据可以是处理参数或处理函数中的至少一种。比如,在对目标音频数据进行空间信息的添加或更改时,预设的操作为滤波操作,则目标数据可以为滤波操作的参数。再如,未设置对目标音频数据进行空间信息的添加或更改时的操作,则可确定目标数据包括卷积计算和卷积计算参数,根据目标数据对目标音频数据进行处理时,可按照卷积计算参数对目标音频数据进行卷积计算处理。
在一种可能的实现方式中,目标数据可以包括处理参数,这种情况下,对目标数据执行何种处理可以是预先确定或默认的。
在另一种可能的实现方式中,目标数据可以包括处理方式和处理参数,在这种情况下,对目标数据执行何种处理可以是预先不确定的。
本实施例中,可预先构建接收位置、设定的空间信息和用于处理目标音频数据的目标数据的对应关系,在确定接收位置、设定的空间信息之后,就能够查找预设的对应关系,以快速确定如何对目标音频数据进行处理。
在一种实施方式中,如图3所示,设定的空间信息包括设定位置;根据接收位置、设定的空间信息,在预设对应关系中查找目标数据,包括:
步骤S31:根据接收位置和设定位置,确定相对位置;
步骤S32:根据相对位置与预设对应关系,确定目标数据;
步骤S33:根据目标数据对目标音频数据进行处理。
本实施例中,可以根据接收位置和设定的空间信息中的设定位置,确定二者之间的相对距离、相对角度的至少一种,作为相对位置。
比如,接收位置可以为设定坐标系中的坐标,设定位置可以为设定坐标系中的另一坐标,相对位置可以为二者之间的坐标之差。设定坐标系可以为平面坐标系或者三维坐标系。
再如,接收位置和设定位置之一可以为相对原点,接收位置和设定位置之另一可以为相对于相对原点的坐标。
在一种实现方式中,可根据接收者和设定位置之间的角度和距离的结合,以接收者或者设定位置为原点,将一定的角度范围和距离范围的相对位置划分为至少一个音区。比如,接收者和设定位置之间的相对距离处于第一范围、角度处于第二范围时,确定接收者或设定位置位于第一音区;接收者和设定位置之间的相对距离处于第三范围、角度处于第四范围时,确定接收者或设定位置位于第二音区,如此类推。对应关系记录为音区与目标数据的对应关系,从而在确定接收位置和设定位置之后,能够确定二者之间的相对距离所对应的音区,查找对应关系进一步确定目标数据。
预设对应关系可以为相对位置与目标数据的对应关系。比如,可以将相对距离划分为N个范围,每个范围对应一种目标数据。再如,可以将相对角度划分为M个范围,每个范围对应一种目标数据。
在另一种可能的实现方式中,设定的空间信息不仅包括设定位置,还可包括设定环境。比如可以设置设定环境为处于山谷之中、开阔的平原、海边、元宇宙中等。每一种设定环境可对应声音数据播放时,呈现出的周围存在墙体、自然山脉侧壁、水流及方向、或者周围为元宇宙时的空间环境效果。具体例如,可以通过构造一定的房间,模拟山谷、平原、海边、元宇宙等环境,从而获得设定环境对应的目标数据。
本实施例中,根据相对位置查询目标数据,从而能够对目标音频数据进行快速的处理。
在一种实施方式中,根据目标数据对目标音频数据进行处理,包括:
根据目标数据,确定滤波操作;
通过执行滤波操作,对目标音频数据进行处理。
本实施例中,根据目标数据,确定滤波操作,可以是在滤波操作为默认的操作的情况下,将目标数据作为滤波操作的参数。
本实施例中,根据目标数据,确定滤波操作,还可以是在无默认的操作的情况下,确定执行的操作的具体种类为滤波操作,以及执行的滤波操作的具参数。
本实施例中,通过滤波操作,能够改变目标音频数据的空间信息,使得对目标音频数据处理后得到的播放音频数据的空间信息能够接近于设定的空间信息。
在一种实施方式中,相对位置包括相对距离、相对角度的至少一种。
在具体实现方式中,相对位置也包括相对距离、相对角度的结合。
相对距离、相对角度可以是在平面坐标系下的距离或角度,也可以是在三维坐标系下的距离或角度。
本实施例中,能够对目标音频数据进行处理,产生与设定的空间信息对应的距离和角度效果,从而音频播放产品能够产生接近实际场景的音效,满足用户更多的需求。
在一种实施方式中,如图4所示,音频数据处理方法还包括:
步骤S41:获取设置于接收位置的接收装置接收到的第一音频数据;第一音频数据是设置于设定的空间信息的声源播放的第二音频数据在接收位置形成的;
步骤S42:根据第一音频数据、第二音频数据,得到目标数据;
步骤S43:根据目标数据、预设的空间信息和接收位置,生成预设对应关系。
上述步骤可以在接收目标音频数据之前执行,以预先确定对应关系。
在实际环境中播放音频数据时,会因为播放环境的不同而导致接收者产生不同的收听效果。比如,若声源距离接收者较近,则音量较大,且接收者能够感知到声源处于较近的位置。若声源距离接收者较远,则接收者接收到的声音的音量较小,且接收者能够感知到声源处于较远的位置。同时,声源位于接收者不同方位时,接收者也能感知到声源的不同方位。
本实施例中,第一音频数据可以是处于接收位置收到的音频声波数据。第二音频数据可以是声源播放的原始音频数据,即在不具备任何播放环境信息的情况下,在声源位置接收到的音频数据。即第一音频数据是在第二音频数据中添加了声源的空间信息和接收者的空间信息的音频数据。
在具体实现方式中,可根据预设的空间信息中对应预设环境,人工设置产生相应音效的房间,将声源设置于房间中的设定位置,在接收位置接收声源产生的音频数据,得到上述第一音频数据。
根据第一音频数据、第二音频数据,得到目标数据,可以是确定第一音频数据、第二音频数据之间的空间信息的差异,得到目标数据。从而,在将其它不具有空间信息的音频数据按照目标数据进行处理之后,能够使得其它音频数据具有第一音频数据、第二音频数据之间的空间信息的差异,当接收者再在接收位置接收到前述处理后的其它音频数据的情况下,能够感知到其它音频数据的声源具有与第一音频数据类似的空间信息。
本实施例中,能够在模拟真实的空间信息的情况下,接收音频数据,并根据接收到的音频数据和声源播放的原始音频数据之间的差异,确定目标数据,建立目标数据和设定的空间信息、接收位置的对应关系,从而能够保证对其它音频数据按照目标数据进行处理之后,能够产生与第一音频数据类似的空间信息效果。
在一种实施方式中,根据第一音频数据、第二音频数据,得到目标数据,包括:
将第一音频数据还原为第二音频数据,以确定还原操作的参数;
根据还原操作的参数,得到目标数据。
将第一音频数据还原为第二音频数据,以确定还原操作的参数,可以包括,将第一音频数据采用一定的处理方式,还原为第二音频数据,并确定还原过程中采用的操作参数,在后续对目标音频数据进行处理时,可采用同样的处理方式和操作参数。
本实施例中,还原操作可以是与处理目标音频数据的操作相反的操作,比如滤波操作、反卷积操作等可以改变音频数据的空间信息的操作。
本实施例中,通过对第一音频数据进行还原,得到第二音频数据以及目标数据,从而后续可记录目标数据和设定的空间信息、接收位置之间的对应关系,通过对应关系即可确定如何对目标音频数据进行处理,提高了处理目标音频数据的效率。
在一种实施方式中,根据还原操作的参数,得到目标数据,包括:
根据校准头相关传递函数和还原操作的参数,得到声学特征参数;
根据声学特征参数,得到目标数据。
本实施例中,校准头相关传递函数可以是对头相关传递函数进行校准后得到的。本实施例中的头相关传输函数(Head Related Transfer Functions,HRTF)又可以称为ATF(Anatomical Transfer Function,解剖学传递函数),是一种音效定位算法。
在还原操作为反卷积等操作的情况下,还原操作的参数可以为待校准的声学特征参数,具体可以包括房间声学冲激响应(RoomImpulseResponse,RIR)、空间方位特征等中的至少一种。
在本实施例中,空间方位特征是表示音频数据所具有的位置信息的特征。比如,表示音频的声源的远近、角度等信息的特征。
在本实施例中,根据校准头相关传递函数和还原操作的参数,得到声学特征参数,可以是采用校准头相关传递函数对还原操作的参数进行校准计算,得到声学特征参数。
本实施例中,能够对还原操作的参数进行校准,从而能够对大多数使用群体能够产生较为准确的效果。
在一种实施方式中,根据声学特征参数,得到目标数据,包括:
对声学特征参数进行动态均衡处理,得到处理后的声学特征参数;
将处理后的声学特征参数作为目标数据。
本实施例中,对声学特征参数进行动态均衡(Equalizer,EQ)处理,可以是采用动态均衡器,根据音频数据的频率段,进行动态均衡处理,使得各个频率段的声学特征参数能够平滑过渡,避免处理后的播放音频数据出现播放效果的突变或跳动。
在一种实施方式中,校准头相关传递函数是根据多个个体化的头相关传递函数进行加权平均计算得到的。
本实施例中,可以从开源的HRTF平台,获取不同人群对应的HRTF函数,将多个HRTF函数进行加权平均,归一为一个整体的函数,从而使得校准头相关传递函数能够尽量符合大众群体的感知特点。
在一种实施方式中,设定的空间信息还包括设定环境。
设定环境比如可以是元宇宙环境、山谷环境、封闭房间环境、会场环境、演播场地环境、体育场环境、开阔场地等。
设定环境既可以包括音频数据常规的传播介质,比如,地球的空气层,也可以包括非常规的传播介质,比如,固体、特殊气体、液体等。从而,通过对设定环境的配置,能够模拟出多种不同环境中产生的声音,在游戏、电影、仿真模拟体验中,能够提高体验者感受的真实性。
本实施例可通过对目标音频数据进行处理,使得得到的播放音频数据具备在设定环境中进行播放的效果。
本公开一种示例中,音频数据处理方法包括如图5所示的步骤:
步骤S51:创建虚拟空间方向感滤波器数据库。
本实例中,采用HRTF开源数据与人工耳结合的方式,实录数据建模还原。
人有两个耳朵,却能定位来自三维空间的声音,这得力于人耳对声音信号的分析系统。从空间任意一点传到人耳(鼓膜前)的信号的空间信息,都可以用一个滤波系统的操作来描述或产生,音源的原始音频数据经过滤波器进行一定的处理,就能够得到人耳两耳鼓膜在接收位置处接收到的音频数据。如果得到这组描述空间信息的滤波器(传递函数),即特定的HRTF(HEAD RELATED TRANSFER FUNCTION,头相关传递函数),就能还原来自空间这个方位的声音信号。而一般情况下,HRTF是高度个人化的,因此本公开示例中采用开源HRTF数据集中的多个HRTF,按一定权重做归一化计算,得到一组HRTF,作为校准HRTF,以达到适用于大多数人的情况。
在创建设定的空间信息、接收位置与目标数据的对应关系时,通过高保真音箱播放特定音频。高保真音箱能够尽量排除音箱本身对音频数据的空间信息产生的影响,设定音频可以包括人声、小频信号(低于某频率阈值的信号)和白噪声,从而覆盖各个频段范围。采用自制人工耳作为接收者,在预设的录音点(即前述实施例中的接收位置),采集多组立体声数据,并根据采集到的立体声数据来进行建模。立体声数据相当于前述实施例中的第一音频数据。通过反卷积的方式来还原其相关的声学特性,声学特征可包括RIR、空间方位特征等,通过校准HRTF进行处理,目的为做方位的校准以及打造更沉浸的房间感,得到多个方位(音区或相对位置)的滤波器系数,即前述实施例中的声学特征参数。同时根据前述特定音频的频谱分布,对声学特征参数做动态EQ调节得到最终的滤波系数,即目标数据。在本实例中,可针对空间一定范围内的各个相对位置进行滤波系数的采集,并建立对应关系,形成一套空间方向感滤波器数据库。
步骤S52:建立音区。
在实际使用时,用户的方位是实时变换的,本示例中,在此基础上结合人耳对方位的敏感度,根据声源方向和距离划分了多个音区。音区划分可以参照图6所示,每个扇形区域可以对应一个音区,包括最靠近圆心位置的扇形区域62到最靠近圆周的扇形区域61。在划分音区时,可将接收位置相对固定,设置为相对原点,针对原点附近设定距离范围内的整个区域,即图6所示的圆形区域进行音区划分。
仍然参照图6,在音区划分时,首先,可将以原点为圆心、设定长度的半径范围内的圆形区域,按照45°的角度间隔(或者5°、10°、15°、20°、25°、30°、35°、40°等1°-360°之间的其它数值)进行划分,形成多个大的初步扇形区域。针对多个初步扇形区域,按照0.5米的长度间隔(或者0.2米等0.1-10米范围内的其它长度),进行进一步划分,形成多个音区。
再如,还可以在以原点为圆心、半径0.5米(或者0.2米等其它长度间隔)长的圆形区域内,每45°划分为一个音区,一共划分为8个音区。在以原点为圆心、半径0.5-1.0的环形区域,每45°划分为一个音区,一共划分为8个音区。如此类推,半径1.0-1.5、1.5-2.0、2.0-2.5……的环形区域,各划分8个音区。
步骤S53:根据接收到的音频流以及方位信息,进行音区聚合。
实际中接收到的音频数据的RTC(Real_Time Clock,实时时钟)不同且可能不具有规律性,同时用户的数目和位置均是动态变化的,音区的个数以及划分方式可以通过预设方式进行固定。因此本示例中,采用音区聚合的方式来对接收到的音频流进行预处理,通过解析每一路音频流的空间方位信息,根据一定算法,将其分配到对应方位的各个音区中,维护一个zone_table(音区与目标数据对应关系表)来记录对应音区和用于处理目标音频数据的目标数据的对应关系,将多个用户音频流按照音区先聚合再进行下一步的处理。
步骤S54:音频数据处理。
对应的音区对应一组空间方位滤波器系数,采用步骤S53中划分的音区和对应的目标数据进行滤波器卷积计算或者滤波操作,产生对应方向的空间音效音频数据,即播放音频数据。
本公开实施例还提供一种音频数据处理装置,如图7所示,包括:
空间信息接收模块71,用于接收目标音频数据以及设定的空间信息;
输出模块72,用于根据目标音频数据的接收位置、设定的空间信息,对目标音频数据进行处理以改变目标音频数据的空间信息,得到向接收位置输出的播放音频数据。
在一种实施方式中,如图8所示,输出模块包括:
查找单元81,用于根据接收位置、设定的空间信息,在预设对应关系中查找目标数据;
查找结果处理单元82,用于根据目标数据,对目标音频数据进行处理。
在一种实施方式中,设定的空间信息包括设定位置;查找单元还用于:
根据接收位置和设定位置,确定相对位置;
根据相对位置与预设对应关系,确定目标数据;
根据目标数据对目标音频数据进行处理。
在一种实施方式中,查找单元还用于:
根据目标数据,确定滤波操作;
通过执行滤波操作,对目标音频数据进行处理。
在一种实施方式中,相对位置包括相对距离、相对角度的至少一种。
在一种实施方式中,如图9所示,音频数据处理装置还包括:
音频数据获取模块91,用于获取设置于接收位置的接收装置接收到的第一音频数据;第一音频数据是设置于设定的空间信息的声源播放的第二音频数据在接收位置形成的;
目标数据获取模块92,用于根据第一音频数据、第二音频数据,得到目标数据;
对应关系生成模块93,用于根据目标数据、预设的空间信息和接收位置,生成预设对应关系。
在一种实施方式中,如图10所示,目标数据获取模块包括:
参数确定单元101,用于将第一音频数据还原为第二音频数据,以确定还原操作的参数;
参数处理单元102,用于根据还原操作的参数,得到目标数据。
在一种实施方式中,参数处理单元还用于:
根据校准头相关传递函数和还原操作的参数,得到声学特征参数;
根据声学特征参数,得到目标数据。
在一种实施方式中,参数处理单元还用于:
对声学特征参数进行动态均衡处理,得到处理后的声学特征参数;
将处理后的声学特征参数作为目标数据。
在一种实施方式中,校准头相关传递函数是根据多个个体化的头相关传递函数进行加权平均计算得到的。
在一种实施方式中,设定的空间信息还包括设定环境。
本公开实施例能够应用于计算机技术领域,尤其能够应用于语音处理技术领域。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图11示出了可以用来实施本公开的实施例的示例电子设备110的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图11所示,设备110包括计算单元111,其可以根据存储在只读存储器(ROM)112中的计算机程序或者从存储单元118加载到随机访问存储器(RAM)113中的计算机程序,来执行各种适当的动作和处理。在RAM 113中,还可存储设备110操作所需的各种程序和数据。计算单元111、ROM 112以及RAM 113通过总线114彼此相连。输入/输出(I/O)接口115也连接至总线114。
设备110中的多个部件连接至I/O接口115,包括:输入单元116,例如键盘、鼠标等;输出单元117,例如各种类型的显示器、扬声器等;存储单元118,例如磁盘、光盘等;以及通信单元119,例如网卡、调制解调器、无线通信收发机等。通信单元119允许设备110通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元111可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元111的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元111执行上文所描述的各个方法和处理,例如音频数据处理方法。例如,在一些实施例中,音频数据处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元118。在一些实施例中,计算机程序的部分或者全部可以经由ROM 112和/或通信单元119而被载入和/或安装到设备110上。当计算机程序加载到RAM 113并由计算单元111执行时,可以执行上文描述的音频数据处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元111可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行音频数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (25)
1.一种音频数据方法,包括:
接收目标音频数据以及设定的空间信息;
根据所述目标音频数据的接收位置、所述设定的空间信息,对所述目标音频数据进行处理以改变所述目标音频数据的空间信息,得到向所述接收位置输出的播放音频数据。
2.根据权利要求1所述的方法,其中,所述根据所述目标音频数据的接收位置、所述设定的空间信息,对所述目标音频数据进行处理,包括:
根据所述接收位置、所述设定的空间信息,在预设对应关系中查找目标数据;
根据所述目标数据,对所述目标音频数据进行处理。
3.根据权利要求2所述的方法,其中,所述设定的空间信息包括设定位置;所述根据所述接收位置、所述设定的空间信息,在预设对应关系中查找目标数据,包括:
根据所述接收位置和所述设定位置,确定相对位置;
根据所述相对位置与所述预设对应关系,确定目标数据;
根据所述目标数据对所述目标音频数据进行处理。
4.根据权利要求3所述的方法,其中,所述根据目标数据对所述目标音频数据进行处理,包括:
根据所述目标数据,确定滤波操作;
通过执行所述滤波操作,对所述目标音频数据进行处理。
5.根据权利要求3或4所述的方法,其中,所述相对位置包括相对距离、相对角度的至少一种。
6.根据权利要求2-5中任意一项所述的方法,还包括:
获取设置于所述接收位置的接收装置接收到的第一音频数据;所述第一音频数据是设置于所述设定的空间信息的声源播放的第二音频数据在所述接收位置形成的;
根据所述第一音频数据、第二音频数据,得到所述目标数据;
根据所述目标数据、所述预设的空间信息和所述接收位置,生成所述预设对应关系。
7.根据权利要求6所述的方法,其中,所述根据所述第一音频数据、第二音频数据,得到所述目标数据,包括:
将所述第一音频数据还原为所述第二音频数据,以确定还原操作的参数;
根据所述还原操作的参数,得到所述目标数据。
8.根据权利要求7所述的方法,其中,所述根据所述还原操作的参数,得到所述目标数据,包括:
根据校准头相关传递函数和所述还原操作的参数,得到声学特征参数;
根据所述声学特征参数,得到所述目标数据。
9.根据权利要求8所述的方法,其中,所述根据所述声学特征参数,得到所述目标数据,包括:
对所述声学特征参数进行动态均衡处理,得到处理后的声学特征参数;
将所述处理后的声学特征参数作为所述目标数据。
10.根据权利要求8或9所述的方法,其中,所述校准头相关传递函数是根据多个个体化的头相关传递函数进行加权平均计算得到的。
11.根据权利要求1-10中任意一项所述的方法,其中,所述设定的空间信息包括设定环境。
12.一种音频数据处理装置,包括:
空间信息接收模块,用于接收目标音频数据以及设定的空间信息;
输出模块,用于根据所述目标音频数据的接收位置、所述设定的空间信息,对所述目标音频数据进行处理以改变所述目标音频数据的空间信息,得到向所述接收位置输出的播放音频数据。
13.根据权利要求12所述的装置,其中,所述输出模块包括:
查找单元,用于根据所述接收位置、所述设定的空间信息,在预设对应关系中查找目标数据;
查找结果处理单元,用于根据所述目标数据,对所述目标音频数据进行处理。
14.根据权利要求13所述的装置,其中,所述设定的空间信息包括设定位置;所述查找单元还用于:
根据所述接收位置和所述设定位置,确定相对位置;
根据所述相对位置与所述预设对应关系,确定目标数据;
根据所述目标数据对所述目标音频数据进行处理。
15.根据权利要求14所述的装置,其中,所述查找单元还用于:
根据所述目标数据,确定滤波操作;
通过执行所述滤波操作,对所述目标音频数据进行处理。
16.根据权利要求1415所述的装置,其中,所述相对位置包括相对距离、相对角度的至少一种。
17.根据权利要求13-16中任意一项所述的装置,还包括:
音频数据获取模块,用于获取设置于所述接收位置的接收装置接收到的第一音频数据;所述第一音频数据是设置于所述设定的空间信息的声源播放的第二音频数据在所述接收位置形成的;
目标数据获取模块,用于根据所述第一音频数据、第二音频数据,得到所述目标数据;
对应关系生成模块,用于根据所述目标数据、所述预设的空间信息和所述接收位置,生成所述预设对应关系。
18.根据权利要求17所述的装置,其中,所述目标数据获取模块包括:
参数确定单元,用于将所述第一音频数据还原为所述第二音频数据,以确定还原操作的参数;
参数处理单元,用于根据所述还原操作的参数,得到所述目标数据。
19.根据权利要求18所述的装置,其中,所述参数处理单元还用于:
根据校准头相关传递函数和所述还原操作的参数,得到声学特征参数;
根据所述声学特征参数,得到所述目标数据。
20.根据权利要求19所述的装置,其中,所述参数处理单元还用于:
对所述声学特征参数进行动态均衡处理,得到处理后的声学特征参数;
将所述处理后的声学特征参数作为所述目标数据。
21.根据权利要求19或20所述的装置,其中,所述校准头相关传递函数是根据多个个体化的头相关传递函数进行加权平均计算得到的。
22.根据权利要求12-21中任意一项所述的装置,其中,所述设定的空间信息包括设定环境。
23.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-11中任一项所述的方法。
24.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。
25.一种计算机程序产品,包括计算机程序/指令,其特征在于,该计算机程序/指令被处理器执行时实现权利要求1-7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111618120.4A CN114038486A (zh) | 2021-12-27 | 2021-12-27 | 音频数据处理方法、装置、电子设备及计算机存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111618120.4A CN114038486A (zh) | 2021-12-27 | 2021-12-27 | 音频数据处理方法、装置、电子设备及计算机存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114038486A true CN114038486A (zh) | 2022-02-11 |
Family
ID=80141308
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111618120.4A Pending CN114038486A (zh) | 2021-12-27 | 2021-12-27 | 音频数据处理方法、装置、电子设备及计算机存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114038486A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116700659A (zh) * | 2022-09-02 | 2023-09-05 | 荣耀终端有限公司 | 一种界面交互方法及电子设备 |
WO2023216044A1 (en) * | 2022-05-09 | 2023-11-16 | Harman International Industries, Incorporated | Techniques for rendering audio through a plurality of audio output devices |
-
2021
- 2021-12-27 CN CN202111618120.4A patent/CN114038486A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023216044A1 (en) * | 2022-05-09 | 2023-11-16 | Harman International Industries, Incorporated | Techniques for rendering audio through a plurality of audio output devices |
CN116700659A (zh) * | 2022-09-02 | 2023-09-05 | 荣耀终端有限公司 | 一种界面交互方法及电子设备 |
CN116700659B (zh) * | 2022-09-02 | 2024-03-08 | 荣耀终端有限公司 | 一种界面交互方法及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110168638B (zh) | 用于虚拟现实、增强现实及混合现实的音频位差 | |
KR101054932B1 (ko) | 스테레오 오디오 신호의 동적 디코딩 | |
US20190230436A1 (en) | Method, systems and apparatus for determining audio representation(s) of one or more audio sources | |
JP7210602B2 (ja) | オーディオ信号の処理用の方法及び装置 | |
CN111385728B (zh) | 一种音频信号处理方法及装置 | |
EP3569001B1 (en) | Method for processing vr audio and corresponding equipment | |
WO2018132235A1 (en) | Decoupled binaural rendering | |
EP3574662B1 (en) | Ambisonic audio with non-head tracked stereo based on head position and time | |
CN114038486A (zh) | 音频数据处理方法、装置、电子设备及计算机存储介质 | |
US11221821B2 (en) | Audio scene processing | |
JP2024069464A (ja) | 反響利得正規化 | |
US10419870B1 (en) | Applying audio technologies for the interactive gaming environment | |
CN109479178B (zh) | 基于呈现器意识感知差异的音频对象聚集 | |
Thery et al. | Impact of the visual rendering system on subjective auralization assessment in VR | |
CN111107481B (zh) | 一种音频渲染方法及装置 | |
US20240335751A1 (en) | Rendering ambisonics sound sources using fractional orders | |
US11523242B1 (en) | Combined HRTF for spatial audio plus hearing aid support and other enhancements | |
US20240096334A1 (en) | Multi-order optimized ambisonics decoding | |
CN116421971A (zh) | 空间音频信号的生成方法及装置、存储介质、电子设备 | |
CN118301536A (zh) | 音频的虚拟环绕处理方法、装置、电子设备和存储介质 | |
CN117061985A (zh) | 一种空间音频处理方法和装置 | |
CN118235432A (zh) | 经头部跟踪调整的双耳音频 | |
CN117793609A (zh) | 一种声场渲染方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |