CN115190412A - 生成渲染器内部数据结构的方法、装置、设备及存储介质 - Google Patents

Abstract

本公开涉及一种生成渲染器内部数据结构的方法、装置、设备及存储介质，该方法包括：根据音频制作模型中的模型元素，从预设模型元素类派生出对应的元素子类；将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性。通过渲染器基于音频制作模型元数据所提供的内容元数据和本地环境元数据，将一组具有相关元数据的音频信号转换为音频信号和元数据的不同配置，能够将音频信号渲染到高级音响系统中规定的所有扬声器配置，音频数据在渲染时在空间中能够实现三维声音的复现，从而提高了声音场景的质量。

Description

生成渲染器内部数据结构的方法、装置、设备及存储介质

技术领域

本公开涉及音频处理的技术领域，尤其涉及一种生成渲染器内部数据结构的方法、装置、设备及存储介质。

背景技术

随着科技的发展，音频变得越来越复杂。由早期的单声道音频演变成立体声，工作重心也注重左右声道的正确处理方式。但环绕声出现后，处理过程开始变得复杂。而环绕5.1扬声器系统则对多个通道进行排序约束，进而环绕6.1扬声器系统、环绕7.1扬声器系统等使音频处理千变万化，把正确的信号传递给合适的扬声器形成相互牵连的效果。因此，随着声音变得更具沉浸感和交互性，音频处理的复杂性也大大增加。

音频声道(或声道)，是指声音在录制或播放时在不同空间位置采集或回放的相互独立的音频信号。而声道数也就是声音录制时的音源数量或回放时相应的扬声器数量。例如，在环绕5.1扬声器系统中包括6个不同空间位置的音频信号，每个独立的音频信号被用于驱动对应空间位置的扬声器；在环绕7.1扬声器系统中包括8个不同空间位置的音频信号，每个独立的音频信号被用于驱动对应空间位置的扬声器。

因此，当前扬声器系统实现的效果依赖于扬声器的数量和空间位置。例如，双声道扬声器系统无法实现环绕5.1扬声器系统的效果。

发明内容

本公开的目的在于提出一种生成渲染器内部数据结构的方法、装置、设备及存储介质，以将音频制作模型元素生成对应的结构数据，便于对音频数据进行渲染。

本公开第一方面提供了一种生成渲染器内部数据结构的方法，包括：

根据音频制作模型中的模型元素，从预设模型元素类派生出对应的元素子类；

将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性。

本公开第二方面提供了一种生成渲染器内部数据结构的装置，包括：

元素子类派生模块，用于根据音频制作模型中的模型元素，从预设模型元素类派生出对应的元素子类；

类属性映射模块，用于将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性。

本公开第三方面提供了一种电子设备，包括：存储器以及一个或多个处理器；

所述存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如任意实施例提供的生成渲染器内部数据结构的方法。

本公开第四方面提供了一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器实现如任意实施例提供的生成渲染器内部数据结构的方法。

由上可见，本公开生成渲染器内部数据结构的方法，将音频制作模型中的模型元素转换为对应的元素子类，以便渲染器对音频数据进行渲染。从而在空间中能够实现三维声音的复现，从而提高了声音场景的质量。

附图说明

图1为本公开实施例中提供了一种三维声音频制作模型的示意图；

图2为本公开实施例中的生成渲染器内部数据结构的方法的流程图；

图3为本公开实施例中的生成渲染器内部数据结构的装置的结构示意图；

图4为本公开实施例提供的一种电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例

如图1所示，三维声音频制作模型由一组制作元素组成，每个制作元素用于描述音频制作的一个阶段，三维声音频制作模型包括内容制作部分和格式制作部分。

其中，所述内容制作部分包括：音频节目元素、音频内容元素、音频对象元素和音轨唯一标识元素；所述格式制作部分包括：音频包格式元素、音频通道格式元素、音频流格式元素和音频轨道格式元素；

所述音频节目元素引用至少一个所述音频内容元素；所述音频内容元素引用至少一个音频对象元素；所述音频对象元素引用对应的所述音频包格式元素和对应的所述音轨唯一标识元素；所述音轨唯一标识元素引用对应的所述音频轨道格式元素和对应的所述音频包格式元素；

所述音频包格式元素引用至少一个所述音频通道格式元素；所述音频流格式元素引用对应的所述音频通道格式元素和对应的所述音频包格式元素；所述音频轨道格式元素和对应的所述音频流格式元素相互引用。元素间的引用关系在图1中以箭头表示。

音频节目可以包括但不限于叙述、声音效果和背景音乐，所述音频节目元素可以用于描述节目，所述节目包括至少一个内容，所述音频内容元素用于描述所述音频节目元素中对应的一个内容。音频节目元素可以引用一个或多个音频内容元素，音频内容元素组合在一起以构建为完整的音频节目元素。

所述音频内容元素描述音频节目的一个组成部分(例如背景音乐)的内容，并引用一个或多个音频对象元素将内容与其格式联系起来。

所述音频对象元素用于建立内容、格式和有价值的信息，并确定实际音轨的音轨唯一标识。

格式制作部分包括：音频包格式元素、音频通道格式元素、音频流格式元素、音频轨道格式元素。

所述音频包格式元素，可以用于描述所述音频对象元素和原始音频数据依据通道分组打包时采用的格式。

所述音频通道格式元素可以用于表示单个音频采样序列和对其执行的预设操作，例如，在场景中渲染对象的移动。所述音频通道格式元素可以包含至少一个音频块格式元素。音频块格式元素可以视为音频通道格式元素的子元素，所以，音频通道格式元素和音频块格式元素之间为一种包含关系。

音频流，是渲染通道、对象、高阶环境音组件或包所需的音轨的组合。所述音频流格式元素用于建立音频轨道格式元素集和音频通道格式元素集之间的关系，或音频轨道格式集和音频包格式之间的关系。

所述音频轨道格式元素对应于单个音轨中的一组样本或数据，用于描述原始音频数据的格式，及渲染器的解码信号，还用于识别成功解码音轨数据所需的音轨组合。

通过三维声音频制作模型对原始音频数据进行制作后生成包含元数据的合成音频数据。

所述元数据(Metadata)是描述数据特性的信息，元数据支持的功能包括指示存储位置、历史数据、资源查找或文件记录。

合成音频数据以通信方式传输到远端后，由远端基于元数据对合成音频数据进行渲染，还原原始声音场景。

图1中示出了内容制作部分、格式制作部分和BW64(Broadcast Wave-64bit，64位广播波)文件之间的划分。内容制作部分和格式制作部分都构成了XML格式的元数据，它通常包含在BW64文件的一个块(“axml”块)中。底部的BW64文件部分包含“通道分配(chna)”块，它是一个查找表，用于连接元数据和文件中的音频节目。

内容制作部分描述音频的技术内容，例如它是否包含对话或特定语言，以及响度元数据。格式部分描述音频曲目的通道类型以及它们是如何组合在一起的，例如立体声对中的左声道和右声道。内容制作部分的元索通常是音频和节目所独有的，而格式制作部分的元素可以复用。

本公开提供了一种生成渲染器内部数据结构的方法，该方法可以适用在通过渲染器对音频数据进行渲染的情况下，实现将音频制作模型元素转换为对应的结构数据。如图2所示，该方法包括：

S210、根据音频制作模型中的模型元素，从预设模型元素类派生出对应的元素子类；

S220、将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性。

其中，音频制作模型是一个通用的元数据模型，可以表示为XML文档。本实施例的方法描述了如何将音频制作模型元数据映射到内部数据结构。应该注意的是，尽管XML是表示音频制作模型元数据的典型和通用形式，但是渲染器并不限于此表示。所有主要音频制作模型元素应表示为从ADMEement派生的子类，示例性的，该子类具有签名：

以上示例中，音频制作模型以“ADM”表示，每个音频制作模型元素类应扩展为所有音频制作模型元素的属性和子元素，这些属性和子元素映射到类属性。

可选的，所述将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性，包括：

若所述子元素包含多个值，将所述子元素做为一个类。

其中，如果子元素包含多个值，则它本身就是一个类。例如，跳转位置(jumpPosition)子元素是一个具有以下签名的类：

class JumpPosition{

bool flag；

float interpolationLength；

}；

可选的，所述将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性，包括：

所述模型元素对其他模型元素的引用以标识信息表示并储存，使用所引用的模型元素名称作为属性名。

其中，在XML解析过程中，对其他音频制作模型元素的引用以普通ID的形式存储，使用子元素名作为属性名(例如AudioObject.audioPackFormatIDRef)。为了简化后面的访问，这些引用将在后面的步骤中解析，其中解析的元素将直接添加到每个数据结构(AudioObject.audioPackFormats)。

示例性的，遵循这些规则，音频内容元素(AudioContent)的完整签名如下所示：

主要音频制作模型元素及其专用类在fileio.adm.elements.main_elements元素中实现。引用解析在每个类(在音频制作模型和每个主音频制作模型元素)中实现为lagy_lookup_references方法。主音频制作模型元素指内容制作部分包括的音频节目元素、音频内容元素、音频对象元素和音轨唯一标识元素；格式制作部分包括的音频包格式元素、音频通道格式元素、音频流格式元素和音频轨道格式元素。

音频通道格式元素包含至少一个音频块格式元素。可选的，所述根据音频制作模型中的模型元素，从预设模型元素类派生出对应的元素子类，包括：

所述音频块格式元素被分为多个音频块格式元素子类，包括音频块格式对象子类、音频块格式音床子类和音频块格式场景子类。

其中，音频块格式(audioBlockFormat)不同于其他音频制作模型元素，因为其子元素和属性因类型定义而异。为了反映这一点，音频块格式被分成多个类，每个类对应一个支持的类型定义(typeDefinition)：音频块格式对象子类(audioBlockFormatObjects)、音频块格式音床子类(AudioBlockFormatBed)和音频块格式场景子类(AudioBlockFormatScene)。它们以fileio.adm.elements.block formats实现。

可选的，所述将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性，包括：

对于所述音频块格式元素，所述子元素中的多个位置子元素的值合并至所述音频块格式元素子类的单个所述类属性中。

其中，位置由音频制作模型中的多个位置子元素表示。为了简化内部处理，这些子元素的值被合并到音频块格式(audioBlockFormat)表示中的单个属性中。

对于typeDefinition＝＝Objects，这是objectPolarPosition或ObjectCartesianPosition，具体取决于使用的坐标系，objectPolarPosition对应极坐标系，ObjectCartesianPosition对应笛卡尔坐标系。对于typeDefinition＝＝DirectSpeakers，为DirectSpeakerPolarPosition(对应极坐标系)或DirectSpeakerCartesianPosition(对应笛卡尔坐标系)。

可选的，所述将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性，包括：

所述模型元素的属性中的类型定义和类型标签共用一个实体表示。

其中，类型定义(typeDefinition)和类型标签(typeLabe1)属性描述一个单独的属性。因此，在内部只能使用一个实体来代表它们。示例性：

其中，Bed表示类型定义为音床，对应的类型标签为1；Matrix表示类型定义为矩阵，对应的类型标签为2；Objects表示类型定义为对象，对应的类型标签为3；Scene表示类型定义为场景，对应的类型标签为4；Binaural表示类型定义为双耳通道，对应的类型标签为5。

本实施例中生成渲染器内部数据结构的方法，将音频制作模型中的模型元素转换为对应的元素子类，以便渲染器对音频数据进行渲染。从而在空间中能够实现三维声音的复现，从而提高了声音场景的质量。

图3为本公开实施例提供的一种生成渲染器内部数据结构的装置的结构示意图。生成渲染器内部数据结构的装置，包括：

元素子类派生模块310，用于根据音频制作模型中的模型元素，从预设模型元素类派生出对应的元素子类；

类属性映射模块320，用于将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性。

可选的，类属性映射模块具体用于：

若所述子元素包含多个值，将所述子元素做为一个类。

可选的，类属性映射模块具体用于：

所述模型元素对其他模型元素的引用以标识信息表示并储存，使用所引用的模型元素名称作为属性名。

可选的，所述音频制作模型，包括内容制作部分和格式制作部分；

其中，所述内容制作部分包括：音频节目元素、音频内容元素、音频对象元素和音轨唯一标识元素；所述格式制作部分包括：音频包格式元素、音频通道格式元素、音频流格式元素和音频轨道格式元素；

所述音频节目元素引用至少一个所述音频内容元素；所述音频内容元素引用至少一个音频对象元素；所述音频对象元素引用对应的所述音频包格式元素和对应的所述音轨唯一标识元素；所述音轨唯一标识元素引用对应的所述音频轨道格式元素和对应的所述音频包格式元素；

所述音频包格式元素引用至少一个所述音频通道格式元素；所述音频流格式元素引用对应的所述音频通道格式元素和对应的所述音频包格式元素；所述音频轨道格式元素和对应的所述音频流格式元素相互引用；

所述音频通道格式元素包含至少一个音频块格式元素。

可选的，元素子类派生模块具体用于：

所述音频块格式元素被分为多个音频块格式元素子类，包括音频块格式对象子类、音频块格式音床子类和音频块格式场景子类。

可选的，类属性映射模块具体用于：

对于所述音频块格式元素，所述子元素中的多个位置子元素的值合并至所述音频块格式元素子类的单个所述类属性中。

可选的，类属性映射模块具体用于：

所述模型元素的属性中的类型定义和类型标签共用一个实体表示。

本发明实施例所提供的生成渲染器内部数据结构的装置可执行本发明任意实施例所提供的生成渲染器内部数据结构的方法，具备执行方法相应的功能模块和有益效果。

图4为本公开实施例提供的一种电子设备的结构示意图。如图4所示，该电子设备包括：处理器410、存储器420、输入装置430以及输出装置440。该电子设备中处理器30的数量可以是一个或者多个，图4中以一个处理器410为例。该电子设备中存储器420的数量可以是一个或者多个，图4中以一个存储器420为例。该电子设备的处理器410、存储器420、输入装置430以及输出装置440可以通过总线或者其他方式连接，图4中以通过总线连接为例。该电子设备可以是电脑和服务器等。本公开实施例以电子设备为服务器进行详细说明，该服务器可以是独立服务器或集群服务器。

存储器420作为一种计算机可读存储介质，可用于存储软件程序、计算机可执行程序以及模块，如本公开任意实施例所述生成渲染器内部数据结构的程序指令/模块。存储器420可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序；存储数据区可存储根据设备的使用所创建的数据等。此外，存储器420可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中，存储器420可进一步包括相对于处理器410远程设置的存储器，这些远程存储器可以通过网络连接至设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

输入装置430可用于接收输入的数字或者字符信息，以及产生与电子设备的观众用户设置以及功能控制有关的键信号输入，还可以是用于获取图像的摄像头以及获取音频数据的拾音设备。输出装置440可以包括扬声器等音频设备。需要说明的是，输入装置430和输出装置440的具体组成可以根据实际情况设定。

处理器410通过运行存储在存储器420中的软件程序、指令以及模块，从而执行设备的各种功能应用以及数据处理，即实现生成渲染器内部数据结构。

本公开实施例还提供一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器生成包括任意实施例提供的生成渲染器内部数据结构的方法。

当然，本公开实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上所述的电子方法操作，还可以执行本公开任意实施例所提供的电子方法中的相关操作，且具备相应的功能和有益效果。

通过以上关于实施方式的描述，所属领域的技术人员可以清楚地了解到，本公开可借助软件及必需的通用硬件来实现，当然也可以通过硬件实现，但很多情况下前者是更佳的实施方式。基于这样的理解，本公开的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如计算机的软盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、闪存(FLASH)、硬盘或光盘等，包括若干指令用以使得一台计算机设备(可以是机器人，个人计算机，服务器，或者网络设备等)执行本公开任意实施例所述的电子方法。

值得注意的是，上述电子装置中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本公开的保护范围。

应当理解，本公开的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

在本说明书的描述中，参考术语“在一实施例中”、“在又一实施例中”、“示例性的”或“在具体的实施例中”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本公开的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

虽然，上文中已经用一般性说明、具体实施方式及试验，对本公开作了详尽的描述，但在本公开基础上，可以对之作一些修改或改进，这对本领域技术人员而言是显而易见的。因此，在不偏离本公开精神的基础上所做的这些修改或改进，均属于本公开要求保护的范围。

Claims (10)

1.一种生成渲染器内部数据结构的方法，其特征在于，包括：

根据音频制作模型中的模型元素，从预设模型元素类派生出对应的元素子类；

将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性。

2.根据权利要求1所述的方法，其特征在于，所述将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性，包括：

若所述子元素包含多个值，将所述子元素做为一个类。

3.根据权利要求1所述的方法，其特征在于，所述将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性，包括：

所述模型元素对其他模型元素的引用以标识信息表示并储存，使用所引用的模型元素名称作为属性名。

4.根据权利要求1-3任一项所述的方法，其特征在于，所述音频制作模型，包括内容制作部分和格式制作部分；

其中，所述内容制作部分包括：音频节目元素、音频内容元素、音频对象元素和音轨唯一标识元素；所述格式制作部分包括：音频包格式元素、音频通道格式元素、音频流格式元素和音频轨道格式元素；

所述音频节目元素引用至少一个所述音频内容元素；所述音频内容元素引用至少一个音频对象元素；所述音频对象元素引用对应的所述音频包格式元素和对应的所述音轨唯一标识元素；所述音轨唯一标识元素引用对应的所述音频轨道格式元素和对应的所述音频包格式元素；

所述音频包格式元素引用至少一个所述音频通道格式元素；所述音频流格式元素引用对应的所述音频通道格式元素和对应的所述音频包格式元素；所述音频轨道格式元素和对应的所述音频流格式元素相互引用；

所述音频通道格式元素包含至少一个音频块格式元素。

5.根据权利要求4所述的方法，其特征在于，所述根据音频制作模型中的模型元素，从预设模型元素类派生出对应的元素子类，包括：

所述音频块格式元素被分为多个音频块格式元素子类，包括音频块格式对象子类、音频块格式音床子类和音频块格式场景子类。

6.根据权利要求5所述的方法，其特征在于，所述将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性，包括：

对于所述音频块格式元素，所述子元素中的多个位置子元素的值合并至所述音频块格式元素子类的单个所述类属性中。

7.根据权利要求1所述的方法，其特征在于，所述将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性，包括：

所述模型元素的属性中的类型定义和类型标签共用一个实体表示。

8.一种生成渲染器内部数据结构的装置，其特征在于，包括：

元素子类派生模块，用于根据音频制作模型中的模型元素，从预设模型元素类派生出对应的元素子类；

类属性映射模块，用于将所述模型元素的属性和子元素，映射到对应的所述元素子类的类属性。

9.一种电子设备，其特征在于，包括：存储器以及一个或多个处理器；

所述存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7任一项所述的方法。

10.一种包含计算机可执行指令的存储介质，其特征在于，所述计算机可执行指令在由计算机处理器实现如权利要求1-7任一项所述方法。

Images