CN111179956B - 音频信号的参数化重构 - Google Patents

音频信号的参数化重构 Download PDF

Info

Publication number
CN111179956B
CN111179956B CN202010024095.6A CN202010024095A CN111179956B CN 111179956 B CN111179956 B CN 111179956B CN 202010024095 A CN202010024095 A CN 202010024095A CN 111179956 B CN111179956 B CN 111179956B
Authority
CN
China
Prior art keywords
matrix
signal
dry
wet
upmix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010024095.6A
Other languages
English (en)
Other versions
CN111179956A (zh
Inventor
L·维勒莫斯
H-M·莱托恩
H·普恩哈根
T·赫冯恩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dolby International AB
Original Assignee
Dolby International AB
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dolby International AB filed Critical Dolby International AB
Priority to CN202010024095.6A priority Critical patent/CN111179956B/zh
Publication of CN111179956A publication Critical patent/CN111179956A/zh
Application granted granted Critical
Publication of CN111179956B publication Critical patent/CN111179956B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/16Vocoder architecture
    • G10L19/167Audio streaming, i.e. formatting and decoding of an encoded audio signal representation into a data stream for transmission or storage purposes
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/005Correction of errors induced by the transmission channel, if related to the coding algorithm
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/0212Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders using orthogonal transformation
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • G10L19/26Pre-filtering or post-filtering
    • G10L19/265Pre-filtering, e.g. high frequency emphasis prior to encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S5/00Pseudo-stereo systems, e.g. in which additional channel signals are derived from monophonic signals by means of phase shifting, time delay or reverberation 
    • H04S5/005Pseudo-stereo systems, e.g. in which additional channel signals are derived from monophonic signals by means of phase shifting, time delay or reverberation  of the pseudo five- or more-channel type, e.g. virtual surround
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2420/00Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/03Application of parametric coding in stereophonic audio systems

Abstract

本发明公开了音频信号的参数化重构。编码系统(400)将N声道音频信号(X)(其中,N≥3)编码为单声道下混信号(Y)连同干上混参数和湿上混参数(C,P)。在解码系统(200)中,去相关部分(101)基于下混信号输出(N‑1)声道去相关信号(Z);干上混部分(102)根据基于干上混参数而确定的干上混系数(C)线性地映射下混信号;湿上混部分(103)基于湿上混参数并且在已知中间矩阵属于预定义矩阵类的情况下填充所述中间矩阵,通过将中间矩阵乘以预定义矩阵来获得湿上混系数(P),以及根据湿上混系数线性地映射去相关信号;以及组合部分(104)组合来自上混部分的输出以获得与要被重构的信号对应的重构信号(X)。

Description

音频信号的参数化重构
本申请是基于申请号为201480057568.5、申请日为2014年10月21日、发明名称为“音频信号的参数化重构”的专利申请的分案申请。
相关申请的交叉引用
本申请要求2013年10月21日提交的美国临时专利申请No.61/893,770、2014年4月3日提交的美国临时专利申请No.61/974,544、以及2014年8月15日提交的美国临时专利申请No.62/037,693的优先权,每一专利申请的全部内容特此通过引用并入。
技术领域
本文中公开的发明一般涉及音频信号的编码和解码,并且特别地涉及多声道音频信号从下混信号和相关联的元数据的参数化重构。
背景技术
包括多个扬声器的音频回放系统被频繁地用于再现由多声道音频信号所表示的音频场景,其中,多声道音频信号的相应声道在相应的扬声器上被回放。多声道音频信号可能例如已经由多个声换能器被记录或者可能已通过音频制作设备被产生。在许多情形下,对于将音频信号传输到回放设备存在带宽限制,和/或对于将音频信号存储在计算机存储器中或者便携式存储设备上存在有限的空间。存在用于音频信号的参数化编码以便减少所需要的带宽或存储大小的音频编码系统。在编码器侧,这些系统通常将多声道音频信号下混为下混信号(其通常是单声道(一个声道)或立体声(两个声道)下混),并且提取通过比如水平差异(level difference)和互相关的参数描述声道的性质的边信息(sideinformation)。下混和边信息然后被编码,并且被发送到解码器侧。在解码器侧,在边信息的参数的控制下从下混重构(即,近似)多声道音频信号。
鉴于可供用于回放多声道音频内容(包括针对终端用户家庭中的这些终端用户的新兴部分)的范围广泛的不同类型的设备和系统,需要新的、替代的方式以高效地对多声道音频内容进行编码,以便减少带宽要求和/或存储所需的存储器大小、和/或便于解码器侧的多声道音频信号的重构。
附图说明
在以下,将参照附图且更详细地描述示例实施例,其中:
图1是根据示例实施例的用于基于单声道下混信号以及相关联的干(dry)上混参数和湿(wet)上混参数重构多声道音频信号的参数化重构部分的一般化框图;
图2是根据示例实施例的包括图1中描绘的参数化重构部分的音频解码系统的一般化框图;
图3是根据示例实施例的用于将多声道音频信号编码为单声道下混信号和相关联的元数据的参数化编码部分的一般化框图;
图4是根据示例实施例的包括图3中描绘的参数化编码部分的音频编码系统的一般化框图;
图5-11示出根据示例实施例的通过下混声道表示11.1声道音频信号的替代方式;
图12-13示出根据示例实施例的通过下混声道表示13.1声道音频信号的替代方式;以及
图14-16示出根据示例实施例的通过下混声道表示22.2声道音频信号的替代方式。
所有的附图都是示意性的,并且一般仅示出为了阐明本发明所必要的部分,而其它部分则可以被省略或者仅仅被建议。
具体实施方式
如本文中所使用的,音频信号可以是纯音频信号、视听信号或多媒体信号的音频部分或者与元数据组合的这些中的任何一个。
如本文中所使用的,声道是与预定义/固定的空间位置/方位或未定义的空间位置(诸如“左”或“右”)相关联的音频信号。
I.概述
根据第一方面,示例实施例提出了用于重构音频信号的音频解码系统以及方法和计算机程序产品。根据第一方面的提出的解码系统、方法和计算机程序产品一般可以共享相同的特征和优点。
根据示例实施例,提供了一种用于重构N声道音频信号的方法,其中,N≥3。所述方法包括:对单声道下混信号或携载用于重构更多音频信号的数据的多声道下混信号的声道连同相关联的干上混参数和湿上混参数一起进行接收;将具有多个(N个)声道的第一信号(其被称为干上混信号)计算为所述下混信号的线性映射,其中,作为计算所述干上混信号的一部分,一组干上混系数被应用于所述下混信号;基于所述下混信号产生(N-1)声道去相关信号;将具有多个(N个)声道的另一信号(其被称为湿上混信号)计算为所述去相关信号的线性映射,其中,作为计算所述湿上混信号的一部分,一组湿上混系数被应用于所述去相关信号的声道;以及组合所述干上混信号和湿上混信号以获得与要被重构的N声道音频信号对应的多维重构信号。所述方法进一步包括:基于接收的干上混参数确定所述一组干上混系数;基于接收的湿上混参数并且在已知具有比接收的湿上混参数的数量多的元素的中间矩阵属于预定义矩阵类(class)的情况下,填充所述中间矩阵;以及通过将所述中间矩阵与预定义矩阵相乘来获得所述一组湿上混系数,其中,所述一组湿上混系数对应于从所述相乘得到的矩阵并且包括比所述中间矩阵中的元素的数量多的系数。
在该示例实施例中,用于重构N声道音频信号的湿上混系数的数量大于接收的湿上混参数的数量。通过利用预定义矩阵和预定义矩阵类的知晓(knowledge)以从接收的湿上混参数获得湿上混系数,可以减少使得能够重构N声道音频信号所需要的信息量,从而允许减少从编码器侧连同下混信号一起传输的元数据的量。通过减少参数化重构所需要的数据量,可以减少N声道音频信号的参数化表示的传输所需的带宽和/或存储这样的表示所需的存储器大小。
(N-1)声道去相关信号用于增加收听者所感知到的重构的N声道音频信号的内容的维度。(N-1)声道去相关信号的声道可以具有至少大致与单声道下混信号相同的频谱,或者可以具有与单声道下混信号的频谱的重新缩放(rescale)/规范化的版本对应的频谱,并且可以连同单声道下混信号一起形成N个至少大致互不相关的声道。为了提供N声道音频信号的声道的忠实重构,去相关信号的声道的每一个优选地具有它被收听者感知为类似于下混信号的这样的性质。因此,尽管可以将互不相关的信号与来自例如白噪声的给定频谱合成,但是去相关信号的声道优选地通过处理下混信号来导出,例如包括将相应的全通滤波器应用于下混信号或者组合下混信号的部分,以便保留下混信号的尽可能多的性质(尤其是局部平稳的性质),包括下混信号的相对更细微的、心理声学制约的性质,诸如音色。
组合湿上混信号和干上混信号可以包括将来自湿上混信号的相应声道的音频内容添加到干上混信号的相应的对应声道的音频内容,诸如基于每一个采样或每一个变换系数加性混合(additive mixing)。
预定义矩阵类可以与对于该类中的所有矩阵都有效的至少一些矩阵元素的已知性质(诸如矩阵元素中的一些之间的某些关系,或者一些矩阵元素为零)相关联。这些性质的知晓允许基于比中间矩阵中的矩阵元素的全部数量少的湿上混参数来填充中间矩阵。解码器侧至少具有它基于较少的湿上混参数计算所有矩阵元素所需的元素的性质以及这些元素之间的关系的知晓。
干上混信号是下混信号的线性映射意指干上混信号是通过将第一线性变换应用于下混信号而获得的。该第一变换将一个声道当作输入并且提供N个声道作为输出,并且干上混系数是定义该第一线性变换的定量性质的系数。
湿上混信号是去相关信号的线性映射意指湿上混信号是通过将第二线性变换应用于去相关信号而获得的。该第二变换将N-1个声道当作输入并且提供N个声道作为输出,并且湿上混系数是定义该第二线性变换的定量性质的系数。
在示例实施例中,接收所述湿上混参数可以包括接收N(N-1)/2个湿上混参数。在本示例实施例中,填充所述中间矩阵可以包括基于接收的N(N-1)/2个湿上混参数并且在已知所述中间矩阵属于预定义矩阵类的情况下获得(N-1)2个矩阵元素的值。这可以包括立即将湿上混参数的值作为矩阵元素插入,或者以合适的方式对湿上混参数进行处理以导出矩阵元素的值。在本示例实施例中,所述预定义矩阵可以包括N(N-1)个元素,并且所述一组湿上混系数可以包括N(N-1)个系数。例如,接收所述湿上混参数可以包括接收至多N(N-1)/2个可独立分配的湿上混参数,和/或接收的湿上混参数的数量可以不多于用于重构N声道音频信号的湿上混系数的数量的一半。
要理解,当将湿上混信号的声道形成为去相关信号的声道的线性映射时省略来自去相关信号的声道的贡献对应于将具有值零的系数应用于该声道,即,省略来自声道的贡献不影响作为线性映射的部分而应用的系数的数量。
在示例实施例中,填充所述中间矩阵可以包括利用接收的湿上混参数作为所述中间矩阵中的元素。由于接收的湿上混参数在没有进行任何进一步处理的情况下被用作中间矩阵中的元素,所以可以降低填充中间矩阵以及获得上混系数所需的计算的复杂度,从而允许N声道音频信号的计算更高效的重构。
在示例实施例中,接收所述干上混参数可以包括接收(N-1)个干上混参数。在本示例实施例中,所述一组干上混系数可以包括N个系数,并且所述一组干上混系数基于接收的(N-1)个干上混参数并且基于所述一组干上混系数中的系数之间的预定义关系而确定。例如,接收所述干上混参数可以包括接收至多(N-1)个可独立分配的干上混参数。例如,所述下混信号可根据预定义规则作为要被重构的N声道音频信号的线性映射而获得,并且所述干上混系数之间的预定义关系可以基于所述预定义规则。
在示例实施例中,所述预定义矩阵类可以是以下中的一个:下三角矩阵或上三角矩阵,其中,该类中的所有矩阵的已知性质包括预定义矩阵元素为零;对称矩阵,其中,该类中的所有矩阵的已知性质包括(主对角线的任一侧的)预定义矩阵元素是相等的;以及正交矩阵和对角矩阵的乘积,其中,该类中的所有矩阵的已知性质包括预定义矩阵元素之间的已知关系。换句话说,所述预定义矩阵类可以是下三角矩阵类、上三角矩阵类、对称矩阵类、或正交矩阵和对角矩阵的乘积类。以上类中的每一个的共同性质是其维度少于矩阵元素的全部数量。
在示例实施例中,所述下混信号可以根据预定义规则作为要被重构的N声道音频信号的线性映射而获得。在本示例实施例中,所述预定义规则可以对预定义下混操作进行定义,并且所述预定义矩阵可以基于跨越所述预定义下混操作的核空间的向量。例如,所述预定义矩阵的行或列可以是形成预定义下混操作的核空间的基(例如,正交基)的向量。
在示例实施例中,对所述单声道下混信号连同相关联的干上混参数和湿上混参数一起进行接收可以包括对所述下混信号的时间段或时间/频率片(tile)连同与该时间段或时间/频率片相关联的干上混参数和湿上混参数一起进行接收。在本示例实施例中,所述多维重构信号可以对应于要被重构的N声道音频信号的时间段或时间/频率片。换句话说,所述N声道音频信号的重构在至少一些示例实施例中可以一次一个时间段或时间/频率片地执行。音频编码/解码系统通常例如通过将合适的滤波器组应用于输入的音频信号来将时间-频率空间分成时间/频率片。时间/频率片一般意指时间-频率空间的与时间间隔/段和频率子带对应的一部分。
根据示例实施例,提供了一种音频解码系统,所述音频解码系统包括第一参数化重构部分,所述第一参数化重构部分被配置为基于第一单声道下混信号以及相关联的干上混参数和湿上混参数重构N声道音频信号,其中,N≥3。所述第一参数化重构部分包括第一去相关部分,所述第一去相关部分被配置为接收所述第一下混信号并且基于此而输出第一(N-1)声道去相关信号。所述第一参数化重构部分还包括第一干上混部分,所述第一干上混部分被配置为:接收干上混参数和下混信号;基于所述干上混参数确定第一组干上混系数;以及输出通过根据所述第一组干上混系数线性地映射所述第一下混信号而计算的第一干上混信号。换句话说,通过将所述单声道下混信号乘以相应系数来获得第一干上混信号的声道,所述相应系数可以是干上混系数本身,或者可以是可经由干上混系数控制的系数。所述第一参数化重构部分进一步包括第一湿上混部分,所述第一湿上混部分被配置为:接收湿上混参数和第一去相关信号;基于接收的湿上混参数并且在已知具有比接收的湿上混参数的数量多的元素的第一中间矩阵属于第一预定义矩阵类的情况下(即,通过利用已知为对于预定义矩阵类中的所有矩阵成立的某些矩阵元素的性质),填充所述第一中间矩阵;通过将所述第一中间矩阵与第一预定义矩阵相乘来获得第一组湿上混系数,其中,所述第一组湿上混系数对应于从所述相乘得到的矩阵并且包括比所述第一中间矩阵中的元素的数量多的系数;以及输出通过根据所述第一组湿上混系数线性地映射所述第一去相关信号(即,通过利用湿上混系数形成去相关信号的声道的线性组合)而计算的第一湿上混信号。所述第一参数化重构部分还包括第一组合部分,所述第一组合部分被配置为接收所述第一干上混信号和第一湿上混信号,并且组合这些信号以获得与要被重构的N维音频信号对应的第一多维重构信号。
在示例实施例中,所述音频解码系统可以进一步包括第二参数化重构部分,所述第二参数化重构部分可独立于第一参数化重构部分操作,并且被配置为基于第二单声道下混信号以及相关联的干上混参数和湿上混参数重构N2声道音频信号,其中,N2≥2。N2=2或N2≥3例如可以成立。在本示例实施例中,所述第二参数化重构部分可以包括第二去相关部分、第二干上混部分、第二湿上混部分以及第二组合部分,并且所述第二参数化重构部分的所述部分可以类似于所述第一参数化重构部分的对应部分被配置。在本示例实施例中,所述第二湿上混部分可以被配置为利用属于第二预定义矩阵类的第二中间矩阵和第二预定义矩阵。所述第二预定义矩阵类和第二预定义矩阵可以分别与第一预定义矩阵类和第一预定义矩阵不同或相等。
在示例实施例中,所述音频解码系统可以适于基于多个下混声道以及相关联的干上混参数和湿上混参数重构多声道音频信号。在本示例实施例中,所述音频解码系统可以包括:多个重构部分,所述多个重构部分包括参数化重构部分,所述参数化重构部分可操作为基于相应的下混声道以及相应的相关联的干上混参数和湿上混参数独立地重构相应的多组音频信号声道;和控制部分,所述控制部分被配置为接收信令,所述信令指示与多声道音频信号的声道到由相应的下混声道所表示的、并且对于下混声道中的至少一些由相应的相关联的干上混参数和湿上混参数所表示的多组声道的划分对应的所述多声道音频信号的编码格式。在本示例实施例中,所述编码格式可以进一步对应于用于基于相应的湿上混参数获得与相应的多组声道中的至少一些相关联的湿上混系数的一组预定义矩阵。可选地,所述编码格式可以进一步对应于指示相应的中间矩阵基于相应的多组湿上混参数而将被如何填充的一组预定义矩阵类。
在本示例实施例中,所述解码系统可以被配置为响应于接收的指示第一编码格式的信令而使用所述多个重构部分的第一子集来重构所述多声道音频信号。在本示例实施例中,所述解码系统可以被配置为响应于接收的指示第二编码格式的信令而使用所述多个重构部分的第二子集来重构所述多声道音频信号,并且所述重构部分的第一子集和第二子集中的至少一个可以包括所述第一参数化重构部分。
根据多声道音频信号的音频内容的组成、用于从编码器侧到解码器侧的传输的可用带宽、收听者所感知的所需的回放质量和/或在解码器侧重构的音频信号的所需的保真度,最适合的编码格式在不同的应用和/或时段之间可以不同。通过对多声道音频信号支持多种编码格式,本示例实施例中的音频解码系统允许编码器侧利用更特别适合于当前情况的编码格式。
在示例实施例中,所述多个重构部分可以包括单声道重构部分,所述单声道重构部分可操作为基于其中至多单个音频声道已被编码的下混声道独立地重构单个音频声道。在本示例实施例中,所述重构部分的第一子集和第二子集中的至少一个可以包括所述单声道重构部分。所述多声道音频信号的一些声道对于收听者所感知到的多声道音频信号的总体印象可能是特别重要的。通过利用单声道重构部分来单独地将例如这样的声道编码在它自己的下混声道中,而其它声道则在其它下混声道中被一起参数化编码,可以增加重构的多声道音频信号的保真度。在一些示例实施例中,多声道音频信号的一个声道的音频内容可以具有与多声道音频信号的其它声道的音频内容不同的类型,并且可以通过利用以下的编码格式来增加重构的多声道音频信号的保真度:在该编码格式中,该声道被单独地编码在它自己的下混声道中。
在示例实施例中,所述第一编码格式可以对应于从比第二编码格式数量少的下混声道重构所述多声道音频信号。通过利用较少数量的下混声道,可以减少从编码器侧到解码器侧的传输所需的带宽。通过利用较多数量的下混声道,可以增加重构的多声道音频信号的保真度和/或感知的音频质量。
根据第二方面,示例实施例提出了用于对多声道音频信号进行编码的音频编码系统以及方法和计算机程序产品。根据第二方面的提出的编码系统、方法和计算机程序产品一般可以共享相同的特征和优点。而且,以上对于根据第一方面的解码系统、方法和计算机程序产品的特征呈现的优点对于根据第二方面的编码系统、方法和计算机程序产品的对应特征一般可以是有效的。
根据示例实施例,提供了一种用于将N声道音频信号编码为单声道下混信号和元数据的方法,所述元数据适合于所述音频信号从下混信号和基于所述下混信号而确定的(N-1)声道去相关信号的参数化重构,其中,N≥3。所述方法包括:接收所述音频信号;根据预定义规则将单声道下混信号计算为所述音频信号的线性映射;以及确定一组干上混系数以便定义近似所述音频信号的下混信号的线性映射(例如,在仅下混信号可供用于重构的假设下经由最小均方误差近似)。所述方法进一步包括基于接收的所述音频信号的协方差和通过所述下混信号的线性映射近似的所述音频信号的协方差之间的差确定中间矩阵,其中,所述中间矩阵在被乘以预定义矩阵时对应于一组湿上混系数,所述一组湿上混系数定义作为所述音频信号的参数化重构的一部分的所述去相关信号的线性映射,并且其中,所述一组湿上混系数包括比所述中间矩阵中的元素的数量多的系数。所述方法进一步包括将下混信号连同可从其导出所述一组干上混系数的干上混参数以及湿上混参数一起输出,其中,所述中间矩阵具有比输出的湿上混参数的数量多的元素,并且其中,假如所述中间矩阵属于预定义矩阵类,则所述中间矩阵由输出的湿上混参数唯一地定义。
解码器侧的音频信号的参数化重构副本包括作为一个贡献的通过下混信号的线性映射形成的干上混信号、以及作为另一贡献的通过去相关信号的线性映射形成的湿上混信号。所述一组干上混系数定义下混信号的线性映射,而所述一组湿上混系数定义去相关信号的线性映射。通过输出比湿上混系数的数量少的并且基于预定义矩阵和预定义矩阵类可从其导出湿上混系数的湿上混参数,可以减少被发送到解码器侧以使得能够重构N声道音频信号的信息量。通过减少参数化重构所需要的数据量,可以减少N声道音频信号的参数化表示的传输所需的带宽和/或存储这样的表示所需的存储器大小。
所述中间矩阵可以基于接收的音频信号的协方差和通过下混信号的线性映射近似的音频信号的协方差之间的差(例如对于补充通过下混信号的线性映射近似的音频信号的协方差的、通过去相关信号的线性映射获得的信号的协方差)而确定。
在示例实施例中,确定所述中间矩阵可以包括确定中间矩阵使得通过由所述一组湿上混系数定义的所述去相关信号的线性映射获得的信号的协方差近似于接收的所述音频信号的协方差和通过所述下混信号的线性映射近似的所述音频信号的协方差之间的差,或者与该差基本上一致。换句话说,所述中间矩阵可以被确定为使得作为通过下混信号的线性映射形成的干上混信号与通过去相关信号的线性映射形成的湿上混信号的和而获得的音频信号的重构副本完全地或至少近似地恢复接收的音频信号的协方差。
在示例实施例中,输出所述湿上混参数可以包括输出至多N(N-1)/2个可独立分配的湿上混参数。在本示例实施例中,所述中间矩阵可以具有(N-1)2个矩阵元素,并且假如所述中间矩阵属于预定义矩阵类,则所述中间矩阵可以由输出的湿上混参数唯一地定义。在本示例实施例中,所述一组湿上混系数可以包括N(N-1)个系数。
在示例实施例中,所述一组干上混系数可以包括N个系数。在本示例实施例中,输出所述干上混参数可以包括输出至多N-1个干上混参数,并且所述一组干上混系数可使用所述预定义规则从所述N-1个干上混参数导出。
在示例实施例中,确定的一组干上混系数可以定义与所述音频信号的最小均方误差近似对应的所述下混信号的线性映射,即,在一组下混信号的线性映射当中,确定的一组干上混系数可以定义最小均方意义上最佳近似音频信号的线性映射。
根据示例实施例,提供了一种音频编码系统,所述音频编码系统包括参数化编码部分,所述参数化编码部分被配置为将N声道音频信号编码为单声道下混信号和元数据,所述元数据适合于所述音频信号从下混信号和基于所述下混信号而确定的(N-1)声道去相关信号的参数化重构,其中,N≥3。所述参数化编码部分包括:下混部分,所述下混部分被配置为接收所述音频信号,并且根据预定义规则将单声道下混信号计算为所述音频信号的线性映射;以及第一分析部分,所述第一分析部分被配置为确定一组干上混系数以便定义近似所述音频信号的下混信号的线性映射。所述参数化编码部分进一步包括第二分析部分,所述第二分析部分被配置为基于接收的所述音频信号的协方差和通过所述下混信号的线性映射近似的所述音频信号的协方差之间的差确定中间矩阵,其中,所述中间矩阵在被乘以预定义矩阵时对应于一组湿上混系数,所述一组湿上混系数定义作为所述音频信号的参数化重构的一部分的所述去相关信号的线性映射,其中,所述一组湿上混系数包括比所述中间矩阵中的元素的数量多的系数。所述参数化编码部分被进一步配置为将下混信号连同可从其导出所述一组干上混系数的干上混参数以及湿上混参数一起输出,其中,所述中间矩阵具有比输出的湿上混参数的数量多的元素,并且其中,假如所述中间矩阵属于预定义矩阵类,则所述中间矩阵由输出的湿上混参数唯一地定义。
在示例实施例中,所述音频编码系统可以被配置为提供多个下混声道以及相关联的干上混参数和湿上混参数的形式的多声道音频信号的表示。在本示例实施例中,所述音频编码系统可以包括:多个编码部分,所述多个编码部分包括参数化编码部分,所述参数化编码部分可操作为基于相应的多组音频信号声道独立地计算相应的下混声道和相应的相关联的上混参数。在本示例实施例中,所述音频编码系统可以进一步包括控制部分,所述控制部分被配置为确定与所述多声道音频信号的声道到要由相应的下混声道所表示的、并且对于下混声道中的至少一些要由相应的相关联的干上混参数和湿下混参数所表示的多组声道的划分对应的所述多声道音频信号的编码格式。在本示例实施例中,所述编码格式可以进一步对应于用于计算所述相应的下混声道中的至少一些的一组预定义规则。在本示例实施例中,所述音频编码系统可以被配置为响应于确定的编码格式为第一编码格式而使用所述多个编码部分的第一子集来对所述多声道音频信号进行编码。在本示例实施例中,所述音频编码系统可以被配置为响应于确定的编码格式为第二编码格式而使用所述多个编码部分的第二子集来对所述多声道音频信号进行编码,并且所述编码部分的第一子集和第二子集中的至少一个可以包括所述第一参数化编码部分。在本示例实施例中,所述控制部分可以例如基于用于将多声道音频信号的编码版本传输到解码器侧的可用带宽、基于多声道音频信号的声道的音频内容和/或基于指示期望的编码格式的输入信号来确定编码格式。
在示例实施例中,所述多个编码部分可以包括单声道编码部分,所述单声道编码部分可操作为在下混声道中独立地对至多单个音频声道进行编码,并且所述编码部分的第一子集和第二子集中的至少一个可以包括所述单声道编码部分。
根据示例实施例,提供了一种计算机程序产品,所述计算机程序产品包括具有用于执行所述第一方面和第二方面的方法中的任何一个的指令的计算机可读介质。
根据示例实施例,在所述第一方面和第二方面的方法、编码系统、解码系统和计算机程序产品中的任何一个中,N=3或N=4可以成立。
进一步的示例实施例在从属权利要求中被定义。注意,示例实施例包括特征的所有组合,即使在互不相同的权利要求中被记载。
II.示例实施例
在将参照图3和图4描述的编码器侧,单声道下混信号Y根据以下方程被计算为N声道音频信号X=[x1…xn]T的线性映射:
其中,dn(n=1,…,N)是由下混矩阵D表示的下混系数。在将参照图1和图2描述的解码器侧,N声道音频信号的参数化重构根据以下方程执行:
其中,cn(n=1,…,N)是由矩阵干上混矩阵C表示的干上混系数,pn,k(n=1,…,N,k=1,…N-1)是由湿上混矩阵P表示的湿上混系数,并且zk(k=1,…,N-1)是基于下混信号Y而产生的(N-1)声道去相关信号Z的声道。如果每个音频信号的声道被表示为行,则原始音频信号X的协方差矩阵可以被表达为R=XXT,并且重构的音频信号的协方差矩阵可以被表达为/>要注意,如果例如音频信号被表示为包括复值变换系数的行,则可以例如考虑XX*(其中,X*是矩阵X的复共轭转置)的实数部分,而不是XXT
为了提供原始音频信号X的忠实重构,对于由方程(2)给出的重构来说可能有利的是恢复(reinstate)全协方差,即,可能有利的是利用干上混矩阵C和湿上混矩阵P使得
一种方法是首先通过对以下正规方程(normal equation)进行求解来找到给出最小二乘意义上的最佳可能的“干”上混的干上混矩阵C:
CYYT=XYT. (4)
对于通过矩阵C求解方程(4),以下方程成立:
假定去相关信号Z的声道是互不相关的,并且全部都具有等于单声道下混信号Y的能量的相同能量||Y||2,则可以根据以下方程来对正定缺失(missing)协方差ΔR进行因子分解:
ΔR=PPT||Y||2. (6)
可以通过利用求解方程(4)的干上混矩阵C和求解方程(6)的湿上混矩阵P来根据方程(3)恢复全协方差。方程(1)和(4)隐含对于非退化下混矩阵D而言,DCYrT=YYT,并且从而
方程(5)和(7)隐含D(X0-X)=DCY-Y=0并且
DΔR=0. (8)
因此,缺失协方差ΔR具有秩N-1,并且实际上可以通过利用具有N-1个互不相关的声道的去相关信号Z来提供。方程(6)和(8)隐含DP=0,使得求解方程(6)的湿上混矩阵P的列可以从跨越下混矩阵D的核空间的向量构造。用于找到合适的湿上混矩阵P的计算因此可以被移至该较低维数的空间。
令V是包含下混矩阵D的核空间(即,向量v的线性空间,其中Dv=0)的正交基的、大小为N(N-1)的矩阵。对于N=2、N=3和N=4的这样的预定义矩阵V的示例分别是:
在由V给出的基中,缺失协方差可以被表达为Rv=vT(ΔR)V。为了找到求解方程(6)的湿上混矩阵P,因此可以首先通过对Rv=HHT进行求解来找到矩阵H,并然后按照P=VH/||Y||获得P,其中,||Y||是单声道下混信号Y的能量的平方根。可以按照P=VHO/||Y||获得其它合适的上混矩阵P,其中,O是正交矩阵。可替代地,可以通过单声道下混信号Y的能量||Y||2来重新缩放缺失协方差Rv,并且改为对以下方程进行求解:
其中,H=HR||Y||,并且按照以下方程获得P:
P=VHR. (11)
当HR的项被量化并且期望的输出具有静音(silent)声道时,如以上所述的预定义矩阵V的性质可能是不方便的。作为示例,对于N=3,对于(9)的第二个矩阵更好的选择将是:
幸运的是,只要矩阵V的列是线性独立的,就可以丢弃这些列成对正交的要求。对于ΔR=VRvVT的期望的解Rv然后通过Rv=WT(ΔR)W与=V(VTV)-1(V的伪逆)来获得。
矩阵Rv是大小为(N-1)2的正半定矩阵,并且存在找到对于方程(10)的解、得到维数为N(N-1)/2的相应矩阵类(即,在所述相应矩阵类中,矩阵由N(N-1)/2个矩阵元素唯一地定义)内的解的若干方法。可以例如通过利用以下来获得解:
a.Cholesky因子分解,得到下三角HR
b.正平方根,得到对称正半定HR;或
c.极分解(polar),得到形式HR=OA的HN,其中,O是正交的,
并且Λ是对角的。
而且,存在选项a)和b)的规范化版本,在这些版本中,HR可以被表达为HR=AH0,其中,Λ是对角的,并且H0的全部对角元素都等于一。以上的替代方案a、b和c提供了不同矩阵类(即,下三角矩阵、对称矩阵以及对角矩阵和正交矩阵的乘积)中的解HR。如果HR所属于的矩阵类在解码器侧是已知的,即,如果已知HR属于例如根据以上替代方案a、b和c中的任何一个的预定义矩阵类,则可以仅基于HR的N(N-1)/2个元素来填充HR。如果同样矩阵V在解码器侧是已知的,例如,如果已知V是(9)中给出的矩阵中的一个,则然后可以经由方程(11)来获得根据方程(2)进行重构所需要的湿上混矩阵P。
图3是根据示例实施例的参数化编码部分300的一般化框图。该参数化编码部分300被配置为将N声道音频信号X编码为单声道下混信号Y和适合于根据方程(2)的音频信号X的参数化重构的元数据。参数化编码部分300包括下混部分301,该下混部分301接收音频信号X,并且根据预定义规则将单声道下混信号Y计算为音频信号X的线性映射。在本示例实施例中,下混部分301根据方程(1)计算下混信号Y,其中,下混矩阵D是预定义的并且对应于预定义规则。第一分析部分302确定干上混矩阵C所表示的一组干上混系数,以便定义近似音频信号X的下混信号Y的线性映射。该下混信号Y的线性映射在方程(2)中由CY表示。在本示例实施例中,根据方程(4)来确定N个干上混系数C,使得下混信号Y的线性映射CY对应于音频信号X的最小均方近似。第二分析部分303基于接收的音频信号X的协方差矩阵和通过下混信号Y的线性映射CY近似的音频信号的协方差矩阵之间的差来确定中间矩阵HR。在本示例实施例中,协方差矩阵是分别由第一处理部分304和第二处理部分305计算的,并然后被提供给第二分析部分303。在本示例实施例中,中间矩阵HR根据上述对方程(10)进行求解的方法b确定,从而得到对称的中间矩阵HR。如方程(1)和(11)中所指示的,中间矩阵HR在被乘以预定义矩阵V时经由一组湿上混参数P来定义作为解码器侧的音频信号X的参数化重构的一部分的、去相关信号Z的线性映射PZ。在本示例实施例中,对于情况N=3,中间矩阵V是(9)中的第二个矩阵,并且对于情况N=4,是(9)中的第三个矩阵。参数化编码部分300将下混信号Y连同干上混参数以及湿上混参数/>一起输出。在本示例实施例中,N个干上混系数C中的N-1个是干上混参数/>而剩余的一个干上混系数可经由方程(7)从干上混参数/>导出(如果预定义下混矩阵D已知的话)。由于中间矩阵HR属于对阵矩阵类,所以它由它的(N-1)2个元素中的N(N-1)/2个唯一地定义。在本示例实施例中,中间矩阵HR的元素中的N(N-1)/2个因此是湿上混参数/>在已知中间矩阵HR是对称的情况下,可从湿上混参数/>导出中间矩阵HR的其余部分。
图4是根据示例实施例的、包括参照图3描述的参数化编码部分300的音频编码系统400的一般化框图。在本示例实施例中,例如由一个或多个声换能器401记录的或者由音频制作设备401产生的音频内容是以N声道音频信号X的形式提供的。正交镜像滤波器(QMF)分析部分402将音频信号X逐个时间段地变换到QMF域中以供时间/频率片的形式的音频信号X的参数化编码部分300的处理。由参数化编码部分300输出的下混信号Y被QMF合成部分403从QMF域变换回去,并且被变换部分404变换到修正离散余弦变换(MDCT)域中。量化部分405和406分别对干上混参数和湿上混参数/>进行量化。例如,可以利用0.1或0.2(无量纲)的步长大小的均匀量化,接着进行哈夫曼编码的形式的熵编码。具有步长大小0.2的较粗略的量化可以例如被利用以节省传输带宽,而具有步长大小0.1的较精细的量化可以例如被利用以改善解码器侧的重构的保真度。MDCT变换的下混信号Y以及量化的干上混参数/>和湿上混参数/>然后被复用器407组合成比特流B,以供传输到解码器侧。音频编码系统400还可以包括核心编码器(图4中未示出),该核心编码器被配置为在下混信号Y被提供给复用器407之前使用感知音频编解码器(诸如Dolby Digital或MPEG AAC)对下混信号Y进行编码。
图1是根据示例实施例的、被配置为基于单声道下混信号Y以及相关联的干上混参数和湿上混参数/>来重构N声道音频信号X的参数化重构部分100的一般化框图。该参数化重构部分100适于根据方程(2)(即,使用干上混参数C和湿上混参数P)执行重构。然而,代替接收干上混参数C和湿上混参数P本身,可从其导出干上混参数C和湿上混参数P的干上混参数/>和湿上混参数/>被接收。去相关部分101接收下混信号Y,并且基于此而输出(N-1)声道去相关信号Z=[z1…zN-1]T。在本示例实施例中,通过对下混信号Y进行处理(包括将相应的全通滤波器应用于下混信号Y)来导出去相关信号Z的声道,以便提供与下混信号Y不相关的、并且具有在频谱上类似于下混信号Y而且也被收听者感知为类似于下混信号Y的音频内容的音频内容的声道。(N-1)声道去相关信号Z用于增加收听者所感知到的N声道音频信号X的重构版本/>的维度。在本示例实施例中,去相关信号Z的声道具有至少大致与单声道下混信号Y的频谱相同的频谱,并且连同单声道下混信号Y一起形成N个至少大致互不相关的声道。干上混部分102接收干上混参数/>和下混信号Y。在本示例实施例中,干上混参数/>与N个干上混系数C中的头N-1个一致,而剩余的干上混系数基于由方程(7)给出的干上混系数C之间的预定义关系来确定。干上混部分102输出通过根据所述一组干上混系数C线性地映射下混信号Y而计算的并且由方程(2)中的CY表示的干上混信号。湿上混部分103接收湿上混参数/>和去相关信号Z。在本示例实施例中,湿上混参数/>是根据方程(10)在编码器侧确定的中间矩阵HR的N(N-1)/2个元素。在本示例实施例中,在已知中间矩阵HR属于预定义矩阵类(即,它是对称的)并且利用该矩阵的元素之间的对应关系的情况下,湿上混部分103填充中间矩阵HR的剩余元素。湿上混部分103然后通过利用方程(11)(即,通过将中间矩阵HR乘以预定义矩阵V(即,对于情况N=3,(9)中的第二个矩阵,以及对于情况N=4,(9)中的第三个矩阵))来获得一组湿上混系数P。因此,N(N-1)个湿上混系数P从接收的N(N-1)/2个可独立分配的湿上混参数/>导出。湿上混部分103输出通过根据所述一组湿上混系数P线性地映射去相关信号Z而计算的并且由方程(2)中的PZ表示的湿上混信号。组合部分104接收干上混信号CY和湿上混信号PZ,并且组合这些信号以获得与要被重构的N声道音频信号X对应的第一多维重构信号/>在本示例实施例中,组合部分104通过根据方程(2)将干上混信号CY的相应声道的音频内容与湿上混信号PZ的相应声道进行组合来获得重构信号/>的相应声道。
图2是根据示例实施例的音频解码系统200的一般化框图。该音频解码系统200包括参照图1描述的参数化重构部分100。接收部分201(例如,包括解复用器)接收从参照图4描述的音频编码系统400传输的比特流B,并且从比特流B提取下混信号Y以及相关联的干上混参数和湿上混参数/>在下混信号Y使用感知音频编解码器(诸如Dolby Digital或MPEGAAC)被编码在比特流B中的情况下,音频解码系统200可以包括核心解码器(图2中未示出),该核心解码器被配置为当下混信号Y被从比特流B提取时对该下混信号Y进行解码。变换部分202通过执行逆MDCT来变换下混信号Y,并且QMF分析部分203将下混信号Y变换到QMF域中,以供时间/频率片的形式的下混信号Y的参数化重构部分100的处理。去量化部分204和205在将干上混参数/>和湿上混参数/>供给到参数化重构部分100之前将干上混参数/>和湿上混参数/>例如从熵编码格式去量化。如参照图4描述的,量化可能已经被以两个不同的步长大小(例如,0.1或0.2)中的一个执行。所利用的实际步长大小可以是预定义的,或者可以例如经由比特流B从编码器侧用信号通知给音频解码系统200。在一些示例实施例中,干上混系数C和湿上混系数P可以分别从已经在相应的去量化部分204和205中的干上混参数/>和湿上混参数/>导出,该去量化部分204和205可以可选地被认为分别是干上混部分102和湿上混部分103的一部分。在本示例实施例中,由参数化重构部分100输出的重构音频信号在被作为音频解码系统200的输出提供以供在多扬声器系统207上回放之前被QMF合成部分206从QMF域变换回去。
图5-11示出根据示例实施例的通过下混声道表示11.1声道音频信号的替代方式。在本示例实施例中,11.1声道音频信号包括以下声道:左(L)、右(R)、中心(C)、低频效果(LFE)、左侧(LS)、右侧(RS)、左后(LB)、右后(RB)、顶部左前(TFL)、顶部右前(TFR)、顶部左后(TBL)和顶部右后(TBR),这些在图5-11中由大写字母指示。表示11.1声道音频信号的替代方式对应于替代地将声道划分为多组声道,每一组由单个下混信号(可选地由相关联的湿上混参数和干上混参数)表示。多组声道中的每一组到其相应的单声道下混信号(和元数据)的编码可以独立地并且并行地执行。类似地,相应的多组声道从其相应的单声道下混信号的重构可以独立地并且并行地执行。
要理解,在参照图5-11(以及以下还参照图13-16)描述的示例实施例中,没有一个重构声道可以包括来自多于一个的下混声道以及从该单个下混信号导出的任何去相关信号的贡献,即,来自多个下混声道的贡献在参数化重构期间不被组合/混合。
在图5中,声道LS、TBL和LB形成由单个下混声道Is(及其相关联的元数据)所表示的声道组501。参照图3描述的参数化编码部分300可以以N=3被利用,以通过单个下混声道Is以及相关联的干上混参数和湿上混参数来表示三个音频声道LS、TBL和LB。假定预定义矩阵V和中间矩阵HR的预定义矩阵类(两者都与在参数化编码部分300中执行的编码相关联)在解码器侧是已知的,则参照图1描述的参数化重构部分100可以被利用以从下混信号Is以及相关联的干上混参数和湿上混参数重构三个声道LS、TBL和LB。类似地,声道RS、TBR和RB形成由单个下混声道rs所表示的声道组502,并且参数化编码部分300的另一实例可以与第一编码部分并行地被利用以通过单个下混声道rs以及相关联的干上混参数和湿上混参数表示三个声道RS、TBR和RB。而且,假定预定义矩阵V和中间矩阵HR所属于的预定义矩阵类(两者都与参数化编码部分300的第二实例相关联)在解码器侧是已知的,则参数化重构部分100的另一实例可以与第一参数化重构部分并行地被利用以从下混信号rs以及相关联的干上混参数和湿上混参数重构三个声道RS、TBR和RB。另一声道组503仅包括由下混声道I所表示的两个声道L和TFL。这两个声道到下混声道I以及相关联的湿上混参数和干上混参数的编码可以分别由与参照图3和图1描述的编码部分和重构部分类似的编码部分和重构部分执行,但是是针对N=2。另一声道组504仅包括由下混声道Ife所表示的单个声道LFE。在该情况下,不需要下混,并且下混声道Ife可以是声道LFE本身,可选地被变换到MDCT域中和/或使用感知音频编解码器被编码。
在图5-11中被利用以表示11.1声道音频信号的下混声道的总数有所变化。例如,图5中所示的示例利用6个下混声道,而图7中的示例利用10个下混声道。不同的下混配置可以适合于不同的情形,例如取决于用于传输下混信号和相关联的上混参数的可用带宽、和/或对11.1声道音频信号的重构应当达到的忠实程度的要求。
根据示例实施例,参照图4描述的音频编码系统400可以包括多个参数化编码部分,该参数化编码部分包括参照图3描述的参数化编码部分300。音频编码系统400可以包括控制部分(图4中未示出),该控制部分被配置为从与图5-11中所示的11.1声道音频信号的相应划分对应的编码格式的集合确定/选择用于11.1声道音频信号的编码格式。该编码格式进一步对应于用于计算相应的下混声道的一组预定义规则(其中的至少一些可以一致)、用于中间矩阵HR的一组预定义矩阵类(其中的至少一些可以一致)、以及用于基于相应的相关联的湿上混参数来获得与相应的多组声道中的至少一些相关联的湿上混系数的一组预定义矩阵V(其中的至少一些可以一致)。根据本示例实施例,音频编码系统被配置为使用所述多个编码部分的适合于确定的编码格式的子集来对11.1声道音频信号进行编码。如果例如确定的编码格式对应于图1中所示的11.1声道的划分,则编码系统可以利用被配置用于通过相应的单个下混声道表示相应的多组3个声道的2个编码部分、被配置用于通过相应的单个下混声道表示相应的多组2个声道的2个编码部分、以及被配置用于将相应的单个声道表示为相应的单个下混声道的2个编码部分。所有的下混信号以及相关联的湿上混参数和干上混参数可以被编码在同一个比特流B中,以供传输到解码器侧。要注意,伴随下混声道的元数据(即,湿上混参数和湿上混参数)的紧凑格式可以被编码部分中的一些利用,而在至少一些示例实施例中,其它元数据格式可以被利用。例如,编码部分中的一些可以输出全部数量的湿上混系数和干上混系数,而不是湿上混参数和干上混参数。还设想以下实施例:在这些实施例中,一些声道被编码以供利用少于N-1个去相关声道(或者甚至根本不利用去相关)进行重构,并且在这些实施例中用于参数化重构的元数据因此可以采取不同的形式。
根据示例实施例,参照图2描述的音频解码系统200可以包括对应的多个重构部分,该重构部分包括参照图1描述的用于重构由相应的下混信号所表示的11.1声道音频信号的相应的多组声道的参数化重构部分100。音频解码系统200可以包括被配置为从编码器侧接收指示确定的编码格式的信令的控制部分(图2中未示出),并且音频解码系统200可以利用所述多个重构部分的适当子集以从接收的下混信号以及相关联的干上混参数和湿上混参数重构11.1声道音频信号。
图12-13示出根据示例实施例的通过下混声道表示13.1声道音频信号的替代方式。13.1声道音频信号包括以下声道:左屏幕(LSCRN)、左宽(LW)、右屏幕(RSCRN)、右宽(RW)、中心(C)、低频效果(LFE)、左侧(LS)、右侧(RS)、左后(LB)、右后(RB)、顶部左前(TFL)、顶部右前(TFR)、顶部左后(TBL)和顶部右后(TBR)。将相应的声道组编码为相应的下混声道可以由如以上参照图5-11描述的独立并行地操作的相应的编码部分执行。类似地,基于相应的下混声道和相关联的上混参数对相应的声道组的重构可以由独立并行地操作的相应的重构部分执行。
图14-16示出根据示例实施例的通过下混声道表示22.2声道音频信号的替代方式。22.2声道音频信号包括以下声道:低频效果1(LFE1)、低频效果2(LFE2)、底部前中(BFC)、中心(C)、顶部前中(TFC)、左宽(LW)、底部左前(BFL)、左(L)、顶部左前(TFL)、顶侧左(TSL)、顶部左后(TBL)、左侧(LS)、左后(LB)、顶部中心(TC)、顶部中后(TBC)、中后(CB)、底部右前(BFR)、右(R)、右宽(RW)、顶部右前(TFR)、顶侧右(TSR)、顶部右后(TBR)、右侧(RS)和右后(RB)。图16中所示的22.2声道音频信号的划分包括声道组1601,其包括四个声道。参照图3描述的、但是以N=4实现的参数化编码部分300可以被利用以将这些声道编码为下混信号以及相关联的湿上混参数和干上混参数。类似地,参照图1描述的、但是以N=4实现的参数化重构部分100可以被利用以从下混信号以及相关联的湿上混参数和干上混参数重构这些声道。
III.等同、扩展、替代和其它
在研究以上描述之后,本公开的进一步的实施例对于本领域技术人员将变得清楚。即使目前的描述和附图公开了实施例和示例,但本公开也不限于这些具体示例。在不脱离由随附权利要求限定的本公开的范围的情况下,可以进行许多修改和变型。在权利要求中出现的任何附图标记都不应被理解为限制它们的范围。
另外,对公开的实施例的变型可以由技术人员在实施本公开时从附图、公开和所附权利要求的研究来理解和实现。在权利要求中,词语“包括”不排除其它元件或步骤,并且不定冠词“一个”不排除多个。仅有的某些措施在互不相同的从属权利要求中被记载的事实并不表明这些措施的组合不能被用于获利。
在上文中公开的设备和方法可以被实现为软件、固件、硬件或其组合。在硬件实现中,在以上描述中提及的功能单元之间的任务的划分不一定对应于划分成物理单元;相反,一个物理组件可以具有多个功能,并且一个任务可以由若干物理组件合作执行。某些组件或全部组件可以被实现为由数字信号处理器或微处理器执行的软件,或者被实现为硬件或专用集成电路。这样的软件可以分发在计算机可读介质上,该计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域技术人员公知的,术语计算机存储介质包括以存储信息(诸如计算机可读指令、数据结构、程序模块或其它数据)的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质两者。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪速存储器或其它存储器技术、CD-ROM、数字多功能盘(DVD)或其它光盘存储、磁盒、磁带、磁盘存储或其它磁存储设备、或者可以被用于存储期望信息并且可以被计算机访问的任何其它介质。此外,技术人员公知的是,通信介质通常包含计算机可读指令、数据结构、程序模块、或调制数据信号(诸如载波或其它输送机制)中的其它数据,并且包括任何信息递送介质。

Claims (9)

1.一种用于重构N声道音频信号(X)的方法,其中,N≥3,所述方法包括:
对单声道下混信号(Y)连同相关联的干上混参数和湿上混参数一起进行接收;
将干上混信号计算为所述下混信号的线性映射,其中,一组干上混系数(C)被应用于所述下混信号;
基于所述下混信号产生去相关信号(Z),其中,所述去相关信号具有N-1个声道;
将湿上混信号计算为所述去相关信号的线性映射,其中,一组湿上混系数(P)被应用于所述去相关信号的声道;以及
组合所述干上混信号和湿上混信号以获得与要被重构的N声道音频信号对应的多维重构信号
其中,所述方法进一步包括:
基于接收的干上混参数确定所述一组干上混系数;
基于接收的湿上混参数并且在已知具有比接收的湿上混参数的数量多的元素的中间矩阵属于预定义矩阵类的情况下,填充所述中间矩阵;以及
通过将所述中间矩阵与预定义矩阵相乘来获得所述一组湿上混系数,其中,所述一组湿上混系数对应于从所述相乘得到的矩阵并且包括比所述中间矩阵中的元素的数量多的系数。
2.根据权利要求1所述的方法,其中,接收所述湿上混参数包括接收N(N-1)/2个湿上混参数,其中,填充所述中间矩阵包括基于接收的N(N-1)/2个湿上混参数并且在已知所述中间矩阵属于预定义矩阵类的情况下获得(N-1)2个矩阵元素的值,其中,所述预定义矩阵包括N(N-1)个元素,并且其中,所述一组湿上混系数包括N(N-1)个系数。
3.根据权利要求1所述的方法,其中,填充所述中间矩阵包括利用接收的湿上混参数作为所述中间矩阵中的元素。
4.根据权利要求1所述的方法,其中,接收所述干上混参数包括接收N-1个干上混参数,其中,所述一组干上混系数包括N个系数,并且其中,所述一组干上混系数基于接收的N-1个干上混参数并且基于所述一组干上混系数中的系数之间的预定义关系而确定。
5.根据权利要求1所述的方法,其中,所述预定义矩阵类是以下中的一个:
下三角矩阵或上三角矩阵,其中,该类中的所有矩阵的已知性质包括预定义矩阵元素为零;
对称矩阵,其中,该类中的所有矩阵的已知性质包括预定义矩阵元素是相等的;以及
正交矩阵和对角矩阵的乘积,其中,该类中的所有矩阵的已知性质包括预定义矩阵元素之间的已知关系。
6.根据权利要求1所述的方法,其中,所述下混信号能够根据预定义规则作为要被重构的N声道音频信号的线性映射而获得,其中,所述预定义规则对预定义下混操作进行定义,并且其中,所述预定义矩阵基于跨越所述预定义下混操作的核空间的向量。
7.根据权利要求1所述的方法,其中,对所述单声道下混信号连同相关联的干上混参数和湿上混参数一起进行接收包括对所述下混信号的时间段或时间/频率片连同相关联的干上混参数和湿上混参数一起进行接收,并且其中,所述多维重构信号对应于要被重构的N声道音频信号的时间段或时间/频率片。
8.根据权利要求1所述的方法,其中,N=3或N=4。
9.一种非暂时性计算机可读介质,所述非暂时性计算机可读介质具有存储在其上的指令,所述指令在被一个或多个处理器执行时执行根据权利要求1所述的方法。
CN202010024095.6A 2013-10-21 2014-10-21 音频信号的参数化重构 Active CN111179956B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010024095.6A CN111179956B (zh) 2013-10-21 2014-10-21 音频信号的参数化重构

Applications Claiming Priority (9)

Application Number Priority Date Filing Date Title
US201361893770P 2013-10-21 2013-10-21
US61/893,770 2013-10-21
US201461974544P 2014-04-03 2014-04-03
US61/974,544 2014-04-03
US201462037693P 2014-08-15 2014-08-15
US62/037,693 2014-08-15
CN202010024095.6A CN111179956B (zh) 2013-10-21 2014-10-21 音频信号的参数化重构
CN201480057568.5A CN105917406B (zh) 2013-10-21 2014-10-21 音频信号的参数化重构
PCT/EP2014/072570 WO2015059153A1 (en) 2013-10-21 2014-10-21 Parametric reconstruction of audio signals

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201480057568.5A Division CN105917406B (zh) 2013-10-21 2014-10-21 音频信号的参数化重构

Publications (2)

Publication Number Publication Date
CN111179956A CN111179956A (zh) 2020-05-19
CN111179956B true CN111179956B (zh) 2023-08-11

Family

ID=51845388

Family Applications (3)

Application Number Title Priority Date Filing Date
CN202010024095.6A Active CN111179956B (zh) 2013-10-21 2014-10-21 音频信号的参数化重构
CN202010024100.3A Active CN111192592B (zh) 2013-10-21 2014-10-21 音频信号的参数化重构
CN201480057568.5A Active CN105917406B (zh) 2013-10-21 2014-10-21 音频信号的参数化重构

Family Applications After (2)

Application Number Title Priority Date Filing Date
CN202010024100.3A Active CN111192592B (zh) 2013-10-21 2014-10-21 音频信号的参数化重构
CN201480057568.5A Active CN105917406B (zh) 2013-10-21 2014-10-21 音频信号的参数化重构

Country Status (9)

Country Link
US (6) US9978385B2 (zh)
EP (1) EP3061089B1 (zh)
JP (1) JP6479786B2 (zh)
KR (4) KR102244379B1 (zh)
CN (3) CN111179956B (zh)
BR (1) BR112016008817B1 (zh)
ES (1) ES2660778T3 (zh)
RU (1) RU2648947C2 (zh)
WO (1) WO2015059153A1 (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2641463C2 (ru) 2013-10-21 2018-01-17 Долби Интернэшнл Аб Структура декоррелятора для параметрического восстановления звуковых сигналов
BR112017008015B1 (pt) 2014-10-31 2023-11-14 Dolby International Ab Métodos e sistemas de decodificação e codificação de áudio
TWI587286B (zh) 2014-10-31 2017-06-11 杜比國際公司 音頻訊號之解碼和編碼的方法及系統、電腦程式產品、與電腦可讀取媒體
US9986363B2 (en) * 2016-03-03 2018-05-29 Mach 1, Corp. Applications and format for immersive spatial sound
CN106851489A (zh) * 2017-03-23 2017-06-13 李业科 在小房间摆放多声道音箱的方法
US9820073B1 (en) 2017-05-10 2017-11-14 Tls Corp. Extracting a common signal from multiple audio signals
WO2019020757A2 (en) 2017-07-28 2019-01-31 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. APPARATUS FOR ENCODING OR DECODING A MULTI-CHANNEL SIGNAL ENCODED USING A FILLING SIGNAL GENERATED BY A BROADBAND FILTER
JP7107727B2 (ja) * 2018-04-17 2022-07-27 シャープ株式会社 音声処理装置、音声処理方法、プログラム、及び、プログラムの記録媒体
CN111696625A (zh) * 2020-04-21 2020-09-22 天津金域医学检验实验室有限公司 一种fish室荧光计数系统
TW202334938A (zh) 2021-12-20 2023-09-01 瑞典商都比國際公司 正交鏡像濾波器域中之沉浸式音訊及視訊服務空間重建濾波器庫

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3026283A1 (en) * 2001-06-14 2005-09-15 Dolby Laboratories Licensing Corporation Reconstructing audio signals with multiple decorrelation techniques
WO2006103584A1 (en) * 2005-03-30 2006-10-05 Koninklijke Philips Electronics N.V. Multi-channel audio coding
EP1738353A1 (en) * 2004-11-02 2007-01-03 Coding Technologies AB Multi parametrisation based multi-channel reconstruction
WO2008131903A1 (en) * 2007-04-26 2008-11-06 Dolby Sweden Ab Apparatus and method for synthesizing an output signal
CN101410890A (zh) * 2006-03-29 2009-04-15 杜比瑞典公司 减小数目的声道解码
CN101484936A (zh) * 2006-03-29 2009-07-15 皇家飞利浦电子股份有限公司 音频解码
EP2214162A1 (en) * 2009-01-28 2010-08-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Upmixer, method and computer program for upmixing a downmix audio signal

Family Cites Families (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6111958A (en) * 1997-03-21 2000-08-29 Euphonics, Incorporated Audio spatial enhancement apparatus and methods
US7280664B2 (en) * 2000-08-31 2007-10-09 Dolby Laboratories Licensing Corporation Method for apparatus for audio matrix decoding
SE0400998D0 (sv) * 2004-04-16 2004-04-16 Cooding Technologies Sweden Ab Method for representing multi-channel audio signals
SE0402651D0 (sv) * 2004-11-02 2004-11-02 Coding Tech Ab Advanced methods for interpolation and parameter signalling
SE0402649D0 (sv) 2004-11-02 2004-11-02 Coding Tech Ab Advanced methods of creating orthogonal signals
EP1844626A2 (en) 2005-01-24 2007-10-17 THX Ltd Ambient and direct surround sound system
DE102005010057A1 (de) 2005-03-04 2006-09-07 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erzeugen eines codierten Stereo-Signals eines Audiostücks oder Audiodatenstroms
DE602006004959D1 (de) * 2005-04-15 2009-03-12 Dolby Sweden Ab Zeitliche hüllkurvenformgebung von entkorrelierten signalen
WO2006126843A2 (en) * 2005-05-26 2006-11-30 Lg Electronics Inc. Method and apparatus for decoding audio signal
CN102013256B (zh) * 2005-07-14 2013-12-18 皇家飞利浦电子股份有限公司 用于生成多个输出音频通道的方法及设备
US7765104B2 (en) * 2005-08-30 2010-07-27 Lg Electronics Inc. Slot position coding of residual signals of spatial audio coding application
KR101228630B1 (ko) * 2005-09-02 2013-01-31 파나소닉 주식회사 에너지 정형 장치 및 에너지 정형 방법
KR100888474B1 (ko) * 2005-11-21 2009-03-12 삼성전자주식회사 멀티채널 오디오 신호의 부호화/복호화 장치 및 방법
JP2007178684A (ja) * 2005-12-27 2007-07-12 Matsushita Electric Ind Co Ltd マルチチャンネルオーディオ復号装置
US8208641B2 (en) * 2006-01-19 2012-06-26 Lg Electronics Inc. Method and apparatus for processing a media signal
ES2362920T3 (es) 2006-03-28 2011-07-15 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Método mejorado para la conformación de señales en reconstrucción de audio multicanal.
EP2002425B1 (en) 2006-04-03 2016-06-22 Lg Electronics Inc. Audio signal encoder and audio signal decoder
US8041041B1 (en) * 2006-05-30 2011-10-18 Anyka (Guangzhou) Microelectronics Technology Co., Ltd. Method and system for providing stereo-channel based multi-channel audio coding
US20080006379A1 (en) 2006-06-15 2008-01-10 The Force, Inc. Condition-based maintenance system and method
US7876904B2 (en) 2006-07-08 2011-01-25 Nokia Corporation Dynamic decoding of binaural audio signals
MY145497A (en) * 2006-10-16 2012-02-29 Dolby Sweden Ab Enhanced coding and parameter representation of multichannel downmixed object coding
DE102007018032B4 (de) * 2007-04-17 2010-11-11 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Erzeugung dekorrelierter Signale
BRPI0816557B1 (pt) * 2007-10-17 2020-02-18 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Codificação de áudio usando upmix
BR122020009732B1 (pt) * 2008-05-23 2021-01-19 Koninklijke Philips N.V. Método para a geração de um sinal esquerdo e de um sinal direito a partir de um sinal de downmix mono com base em parâmetros espaciais, meio legível por computador não transitório, aparelho de downmix estéreo paramétrico para a geração de um sinal de downmix mono a partir de um sinal esquerdo e de um sinal direito com base em parâmetros espaciais e método para a geração de um sinal residual de previsão para um sinal de diferença a partir de um sinal esquerdo e de um sinal direito com base em parâmetros espaciais
EP2144229A1 (en) * 2008-07-11 2010-01-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Efficient use of phase information in audio encoding and decoding
WO2010036059A2 (en) 2008-09-25 2010-04-01 Lg Electronics Inc. A method and an apparatus for processing a signal
EP2169665B1 (en) 2008-09-25 2018-05-02 LG Electronics Inc. A method and an apparatus for processing a signal
EP2169664A3 (en) 2008-09-25 2010-04-07 LG Electronics Inc. A method and an apparatus for processing a signal
EP2175670A1 (en) * 2008-10-07 2010-04-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Binaural rendering of a multi-channel audio signal
EP2214161A1 (en) * 2009-01-28 2010-08-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus, method and computer program for upmixing a downmix audio signal
US8666752B2 (en) 2009-03-18 2014-03-04 Samsung Electronics Co., Ltd. Apparatus and method for encoding and decoding multi-channel signal
MY160545A (en) * 2009-04-08 2017-03-15 Fraunhofer-Gesellschaft Zur Frderung Der Angewandten Forschung E V Apparatus, method and computer program for upmixing a downmix audio signal using a phase value smoothing
WO2010122455A1 (en) * 2009-04-21 2010-10-28 Koninklijke Philips Electronics N.V. Audio signal synthesizing
US8705769B2 (en) 2009-05-20 2014-04-22 Stmicroelectronics, Inc. Two-to-three channel upmix for center channel derivation
BRPI1009648B1 (pt) * 2009-06-24 2020-12-29 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V decodificador de sinal de áudio, método para decodificador um sinal de áudio e programa de computador com o uso de etapas de processamento de objeto de áudio em cascata
BR122021008665B1 (pt) * 2009-10-16 2022-01-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Mecanismo e método para fornecer um ou mais parâmetros ajustados para a provisão de uma representação de sinal upmix com base em uma representação de sinal downmix e uma informação lateral paramétrica associada com a representação de sinal downmix, usando um valor médio
MX2012004621A (es) * 2009-10-20 2012-05-08 Fraunhofer Ges Forschung Aparato para proporcionar una representacion de una señal de conversion ascendente sobre la base de una representacion de una señal de conversion descendente, aparato para proporcionar una corriente de bits que representa una señal de audio de canales multiples, metodos, programa de computacion y corriente de bits que utiliza una señalizacion de control de distorsion.
US9165558B2 (en) 2011-03-09 2015-10-20 Dts Llc System for dynamically creating and rendering audio objects
CN102446507B (zh) * 2011-09-27 2013-04-17 华为技术有限公司 一种下混信号生成、还原的方法和装置
WO2013120510A1 (en) * 2012-02-14 2013-08-22 Huawei Technologies Co., Ltd. A method and apparatus for performing an adaptive down- and up-mixing of a multi-channel audio signal
CN103325383A (zh) * 2012-03-23 2013-09-25 杜比实验室特许公司 音频处理方法和音频处理设备
WO2013181272A2 (en) 2012-05-31 2013-12-05 Dts Llc Object-based audio system using vector base amplitude panning
DE102012210525A1 (de) 2012-06-21 2013-12-24 Robert Bosch Gmbh Verfahren zur Funktionskontrolle eines Sensors zur Detektion von Teilchen und Sensor zur Detektion von Teilchen
US9288603B2 (en) 2012-07-15 2016-03-15 Qualcomm Incorporated Systems, methods, apparatus, and computer-readable media for backward-compatible audio coding
US9761229B2 (en) 2012-07-20 2017-09-12 Qualcomm Incorporated Systems, methods, apparatus, and computer-readable media for audio object clustering
EP2830053A1 (en) * 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multi-channel audio decoder, multi-channel audio encoder, methods and computer program using a residual-signal-based adjustment of a contribution of a decorrelated signal

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3026283A1 (en) * 2001-06-14 2005-09-15 Dolby Laboratories Licensing Corporation Reconstructing audio signals with multiple decorrelation techniques
EP1738353A1 (en) * 2004-11-02 2007-01-03 Coding Technologies AB Multi parametrisation based multi-channel reconstruction
CN1998046A (zh) * 2004-11-02 2007-07-11 编码技术股份公司 改善基于预测的多声道重构的性能的方法
WO2006103584A1 (en) * 2005-03-30 2006-10-05 Koninklijke Philips Electronics N.V. Multi-channel audio coding
CN101410890A (zh) * 2006-03-29 2009-04-15 杜比瑞典公司 减小数目的声道解码
CN101484936A (zh) * 2006-03-29 2009-07-15 皇家飞利浦电子股份有限公司 音频解码
WO2008131903A1 (en) * 2007-04-26 2008-11-06 Dolby Sweden Ab Apparatus and method for synthesizing an output signal
EP2214162A1 (en) * 2009-01-28 2010-08-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Upmixer, method and computer program for upmixing a downmix audio signal

Also Published As

Publication number Publication date
ES2660778T3 (es) 2018-03-26
KR102486365B1 (ko) 2023-01-09
BR112016008817A2 (zh) 2017-08-01
BR112016008817B1 (pt) 2022-03-22
US20180268831A1 (en) 2018-09-20
KR102381216B1 (ko) 2022-04-08
CN105917406B (zh) 2020-01-17
EP3061089A1 (en) 2016-08-31
JP2016537669A (ja) 2016-12-01
US11769516B2 (en) 2023-09-26
US20190325885A1 (en) 2019-10-24
CN111179956A (zh) 2020-05-19
CN111192592A (zh) 2020-05-22
KR20220044619A (ko) 2022-04-08
US20160247514A1 (en) 2016-08-25
US10242685B2 (en) 2019-03-26
US9978385B2 (en) 2018-05-22
US10614825B2 (en) 2020-04-07
CN111192592B (zh) 2023-09-15
EP3061089B1 (en) 2018-01-17
KR20230011480A (ko) 2023-01-20
KR20210046848A (ko) 2021-04-28
US20240087584A1 (en) 2024-03-14
RU2648947C2 (ru) 2018-03-28
JP6479786B2 (ja) 2019-03-06
WO2015059153A1 (en) 2015-04-30
US20230104408A1 (en) 2023-04-06
US20200302943A1 (en) 2020-09-24
US11450330B2 (en) 2022-09-20
KR20160099531A (ko) 2016-08-22
RU2016119563A (ru) 2017-11-28
KR102244379B1 (ko) 2021-04-26
CN105917406A (zh) 2016-08-31

Similar Documents

Publication Publication Date Title
CN111179956B (zh) 音频信号的参数化重构
CN107112020B (zh) 音频信号的参数化混合
KR101805327B1 (ko) 오디오 신호들의 파라메트릭 재구성을 위한 역상관기 구조
BR122020018172B1 (pt) Método para reconstruir um sinal de áudio de n canais, sistema de decodificação de áudio e meio legível por computador não transitório

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40024949

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant