CN108885879B - 使用帧控制同步来编码或解码多声道音频信号的装置和方法 - Google Patents

使用帧控制同步来编码或解码多声道音频信号的装置和方法 Download PDF

Info

Publication number
CN108885879B
CN108885879B CN201780019674.8A CN201780019674A CN108885879B CN 108885879 B CN108885879 B CN 108885879B CN 201780019674 A CN201780019674 A CN 201780019674A CN 108885879 B CN108885879 B CN 108885879B
Authority
CN
China
Prior art keywords
sequence
time
output
blocks
spectral
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201780019674.8A
Other languages
English (en)
Other versions
CN108885879A (zh
Inventor
吉约姆·福克斯
伊曼纽尔·拉维利
马库斯·缪特拉斯
马库斯·施内尔
斯蒂芬·多拉
马丁·迪茨
戈兰·马尔科维奇
埃伦妮·福托波罗
斯特凡·拜尔
沃尔夫冈·耶格斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Original Assignee
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV filed Critical Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Priority to CN202311130088.4A priority Critical patent/CN117238300A/zh
Publication of CN108885879A publication Critical patent/CN108885879A/zh
Application granted granted Critical
Publication of CN108885879B publication Critical patent/CN108885879B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/022Blocking, i.e. grouping of samples in time; Choice of analysis windows; Overlap factoring
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/04Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/18Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being spectral information of each sub-band
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S3/00Systems employing more than two channels, e.g. quadraphonic
    • H04S3/008Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/01Multi-channel, i.e. more than two input channels, sound reproduction with two speakers wherein the multi-channel information is substantially preserved
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/03Aspects of down-mixing multi-channel audio to configurations with lower numbers of playback channels, e.g. 7.1 -> 5.1
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2420/00Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/03Application of parametric coding in stereophonic audio systems

Abstract

使用用于将取样值的块的序列转换成频谱值的块的序列的时间‑频谱转换器、用于对频谱值的块应用联合多声道处理以获得块的至少一个结果序列的多声道处理器、用于将频谱值的块的结果序列转换成包括取样值的块的输出序列的时域表示的频谱‑时间转换器以及用于对取样值的块的输出序列进行编码以获得经编码的多声道信号的核心编码器对多声道音频信号进行编码,其中核心编码器以第一帧控制进行操作,并且其中时间‑频谱转换器或频谱‑时间转换器以与第一帧控制同步的第二帧控制进行操作,其中起始帧边界或结束帧边界与时间‑频谱转换器使用的窗口的重叠部分的起始时刻或结束时刻呈预定关系。

Description

使用帧控制同步来编码或解码多声道音频信号的装置和方法
技术领域
本申请涉及立体声处理或一般而言涉及多声道处理,其中多声道信号具有两个声道(诸如在立体声信号的情况下,左声道和右声道),或者多于两个声道(诸如三个、四个、五个或任何其它数量的声道)。
背景技术
相比于立体声音乐的存储及广播,立体声语音及特别是会话式立体声语音受到远较少的科学关注。实际上,在语音通信中,至今仍主要使用单声道传输。然而,随着网络带宽及容量的增加,预期基于立体声技术的通信将变得更普及且将带来更佳的收听体验。
为了高效存储或广播,在音乐的感知音频编码中已对立体声音频材料的高效编码进行长时间研究。在波形保留至关重要的高比特率下,已经长期采用称作中间/侧边(M/S)立体声的和-差立体声。对于低比特率,已经引入强度立体声及最近以来的参数立体声编码。在不同标准中采用最新技术,如HeAACv2及Mpeg USAC。其产生两声道信号的降混并关联紧凑空间边信息。
联合立体声编码通常建立在高频分辨率(即低时间分辨率,信号的时间-频率变换)上,且于是与在大部分语音编码器中执行的低延迟及时域处理不兼容。此外,产生的比特率通常为高。
另一方面,参数立体声采用位于编码器前端的额外滤波器组作为预处理器及位于解码器后端的额外滤波器组作为后处理器。因此,参数立体声可与如ACELP的常规语音编码器一起使用,如在MPEG USAC中进行的那样。此外,听觉场景的参数化可以最少量边信息达成,这适用于低比特率。但如同例如在MPEG USAC中,参数立体声并未被特别设计用于低延迟且不会针对不同会话式情境传递一致的质量。在空间场景的常规参数表示中,立体声影像的宽度被应用于两个合成声道上的解相关器人工复制并受由编码器计算及传输的声道间相干性(IC)参数的控制。对于大部分立体声语音,此种加宽立体声影像的方式不适于重新创建作为相当直接声音的语音的自然环境,原因在于相当直接声音是由位于空间内的特定位置的单个源产生(偶尔具有来自室内的一些混响)。相比之下,乐器具有比语音远更自然的宽度,其可通过将声道解相关而更佳地模拟。
当利用不重合麦克风纪录语音时也会出现问题,如在当麦克风彼此远离或用于双耳纪录或渲染时的A-B配置中。这些情境可被预期用于在电话会议中捕捉语音或用于在多点控制单元(MCU)中以遥远扬声器创建虚拟听觉场景。信号的到达时间从一个声道到另一个声道是不同的,不同于在重合麦克风上进行的纪录,例如X-Y(强度纪录)或M-S(中间-侧边纪录)。该未经时间对准的两个声道的相干性计算则可能被错误地估计,使得人工环境合成失败。
有关立体声处理的先前技术参考文献为专利号为5,434,948或8,811,621的美国专利。
文件WO 2006/089570 A1公开了近透明或透明的多声道编码器/解码器方案。多声道编码器/解码器方案额外产生波形类型残差信号。此残差信号连同一个或多个多声道参数一起被传输至解码器。与纯粹参数多声道解码器相反,加强式解码器由于额外残差信号而产生具有改进输出质量的多声道输出信号。在编码器侧,左声道及右声道两者均由分析滤波器组滤波。然后,对于每个子频带信号,针对子频带计算对准值及增益值。然后在进一步处理之前执行此种对准。在解码器侧,执行去对准及增益处理,然后对应信号被合成滤波器组合成,以便产生经解码的左信号及经解码的右信号。
另一方面,参数立体声采用额外滤波器组,其作为预处理器位于编码器的前端中且作为后处理器位于解码器的后端中。因此,参数立体声可与如ACELP的常规语音编码器一起使用,如在MPEG USAC中进行的那样。此外,听觉场景的参数化可用最小量的边信息达成,此适合于低比特率。然而,如例如在MPEG USAC中,参数立体声未针对低延迟特定设计,且整个系统示出非常高的算法延迟。
发明内容
本发明的目的是提供一种用于多声道编码/解码的改进概念,其是高效的并且处于获得低延迟的位置。
这个目的通过以下描述的用于编码多声道信号的装置、编码多声道信号的方法、用于解码经编码的多声道信号的装置、用于解码经编码的多声道信号的方法或计算机程序来实现。
本发明基于以下发现:多声道处理(即,联合多声道处理)的至少一部分且优选地所有部分在频谱域中执行。具体而言,优选地在频谱域中执行联合多声道处理的降混操作,并且附加地,执行时间和相位对准操作或甚至用于分析联合立体声/联合多声道处理的参数的过程。此外,执行用于核心编码器的帧控制和在频谱域中操作的立体声处理的同步。
核心编码器被配置为根据第一帧控制操作以提供帧序列,其中帧由起始帧边界和结束帧边界界定,并且时间-频谱转换器或频谱-时间转换器被配置为根据与第一帧控制同步的第二帧控制进行操作,其中帧序列的每一帧的起始帧边界或结束帧边界与针对取样值的块的序列的每个块由时间-频谱转换器(1000)所使用的或针对取样值的块的输出序列的每个块由频谱-时间转换器所使用的窗口的重叠部分的起始时刻或结束时刻存在预定关系。
在本发明中,多声道编码器的核心编码器被配置为根据成帧控制进行操作,并且立体声后处理器的时间-频谱转换器和频谱-时间转换器和重新取样器也被配置为根据与核心编码器的成帧控制同步的另外成帧控制进行操作。以这样一种方式执行同步:核心编码器的帧序列的每个帧的起始帧边界或结束帧边界与针对取样值的块的序列的每个块或针对频谱值的块的重新取样序列的每个块由时间-频谱转换器或频谱时间转换器所使用的窗口的重叠部分的起始时刻或结束时刻存在预定关系。因此,确保了后续的成帧操作彼此同步地操作。
在进一步的实施例中,具有先行(look-ahead)部分的先行操作由核心编码器执行。在这个实施例中,优选的是,先行部分也被时间-频谱转换器的分析窗口使用,其中使用分析窗口的重叠部分,该重叠部分的时间长度小于或等于先行部分的时间长度。
因此,通过使核心编码器的先行部分和分析窗口的重叠部分彼此相等或者通过使重叠部分甚至小于核心编码器的先行部分,不能在没有任何附加算法延迟的情况下实现立体声预处理器的时间-频谱分析。为了确保此开窗的先行部分不会过多地影响核心编码器先行功能性,优选的是使用分析窗口函数的逆来修正这个部分。
为了确保这是以良好的稳定性完成的,使用正弦窗口形状的平方根代替正弦窗口形状作为分析窗口,并且1.5次幂的正弦合成窗口被用于在频谱-时间转换器的输出端处执行重叠操作之前的合成开窗的目的。因此,确保修正函数假定与作为正弦函数的逆的修正函数相比关于其量值减小的值。
优选地,在多声道处理之后或者甚至在多声道处理之前执行频谱域重新取样,以便提供来自另一个频谱-时间转换器的输出信号,其已经处于随后连接的核心编码器所需的输出取样率。但是,同步核心编码器的帧控制与频谱时间或时间频谱转换器的发明性过程也可以应用于不执行任何频谱域重新取样的场景。
在解码器侧,优选地再次执行用于在频谱域中从降混信号生成第一声道信号和第二声道信号的至少一个操作,并且优选地,甚至在频谱域中执行整个逆多声道处理。此外,提供时间-频谱转换器,用于将经核心解码的信号转换为频谱域表示,并且在频域内,执行逆多声道处理。
核心解码器被配置为根据第一帧控制进行操作以提供帧序列,其中帧由起始帧边界和结束帧边界界定。时间-频谱转换器或频谱-时间转换器被配置为根据与第一帧控制同步的第二帧控制进行操作。具体而言,时间-频谱转换器或频谱-时间转换器被配置为根据与第一帧控制同步的第二帧控制进行操作,其中帧序列的每一帧的起始帧边界或结束帧边界与针对取样值的块的序列的每个块由时间-频谱转换器所使用的或针对取样值的块的至少两个输出序列的每个块由频谱-时间转换器所使用的窗口的重叠部分的起始时刻或结束时刻呈预定关系。
当然,优选的是使用相同的分析和合成窗口形状,因为不需要修正。另一方面,优选的是在解码器侧使用时间间隙,其中在解码器侧的时间-频谱转换器的分析窗口的前导重叠部分的结束与由多声道解码器侧的核心解码器输出的帧结束时的时刻之间存在时间间隙。因此,在这个时间间隙内的核心解码器输出样本对于立即由立体声后处理器进行的分析开窗的目的是不需要的而仅对于下一帧的处理/开窗是需要的。这种时间间隙可以例如通过使用通常在分析窗口的中间的非重叠部分来实现,这导致重叠部分的缩短。但是,也可以使用用于实现这种时间间隙的其它替代方案,但是通过中间的非重叠部分实现时间间隙是优选的方式。因此,这个时间间隙可以用于其它核心解码器操作或优选地当核心解码器从频域切换到时域帧时的切换事件之间的平滑操作,或者用于当参数改变或编码特性变化已经发生时可能有用的任何其它平滑操作。
在实施例中,频谱域重新取样在多声道逆处理之前执行或者在多声道逆处理之后执行,使得最终频谱-时间转换器以旨在用于时域输出信号的输出取样率将频谱重新取样信号转换到时域。
因此,实施例允许完全避免任何计算密集的时域重新取样操作。相反,多声道处理与重新取样相结合。在优选实施例中,频谱域重新取样在下取样的情况下通过截短频谱来执行,或者在上取样的情况下通过零填补频谱来执行。这些容易的操作(即,一方面截短频谱或另一方面零填补频谱以及优选的附加缩放,以便考虑在诸如DFT或FFT算法的频谱域/时域转换算法中执行的某些归一化操作)以非常高效和低延迟的方式完成频谱域重新取样操作。
此外,已经发现,编码器侧的至少一部分或甚至整个联合立体声处理/联合多声道处理和解码器侧的对应逆多声道处理适于在频域中执行。这不仅作为编码器侧的最小联合多声道处理对于的降混操作有效,或者作为解码器侧的最小逆多声道处理对于升混处理有效。相反,甚至也可以在频谱域中执行编码器侧的立体声场景分析和时间/相位对准或解码器侧的相位和时间去对准。这同样适用于编码器侧上优选地执行的侧边声道编码或者解码器侧上用于生成两个解码的输出声道的侧边声道合成及使用。
因此,本发明的优点是提供一种新的立体声编码方案,其比现有的立体声编码方案更适于立体声语音的转换。本发明的实施例提供了一种新架构,用于实现低延迟立体声编解码器,并在切换式音频编解码器内集成针对语音核心编码器和基于MDCT的核心编码器在频域中执行的共同立体声工具。
本发明的实施例涉及混合来自常规M/S立体声或参数立体声的元素的混合方法。实施例使用来自联合立体声编码的一些方面和工具以及来自参数立体声的其它方面和工具。更特别地,实施例采用在编码器的前端和解码器的后端进行的额外时间-频率分析和合成。通过采用具有复数值的滤波器组或者块变换来实现时间-频率分解和逆变换。从两个声道或多声道输入,立体声或多声道处理将输入声道组合并修改以输出被称为中间和侧边信号(MS)的输出。
本发明的实施例提供了一种用于减少由立体声模块引入的算法延迟的解决方案,其中延迟特别是来自其滤波器组的成帧和开窗。它提供了多速率逆变换,用于通过以不同的取样率产生相同的立体声处理信号对切换式编码器(如3GPP EVS)或在语音编码器(如ACELP)以及通用音频编码器(如TCX)之间切换的编码器进行馈送。而且,它提供了适于低延迟和低复杂系统的不同约束以及立体声处理的开窗。此外,实施例提供了一种用于在频谱域中组合和重新取样不同经解码的合成结果的方法,其中也应用逆立体声处理。
本发明的优选实施例包括频谱域重新取样器中的多功能,不仅生成频谱值的单个频谱域重新取样块,而且还附加地生成与不同的更高或更低取样率对应的频谱值的块的另外的重新取样序列。
此外,多声道编码器被配置为在频谱-时间转换器的输出端处附加地提供输出信号,该输出信号具有与输入到编码器侧上的时间-频谱转换器的原始第一和第二声道信号相同的取样率。因此,在实施例中,多声道编码器以原始输入取样率提供至少一个输出信号,其优选地用于基于MDCT的编码。此外,以对ACELP编码特别有用的中间取样率提供至少一个输出信号,并且附加地以另外的输出取样率提供另外的输出信号,该另外的输出取样率对于ACELP编码也是有用的,但是与其他输出取样率不同。
可以对中间信号或侧边信号或者对于从多声道信号的第一和第二声道信号得出的两个信号执行这些过程,其中在仅具有两个声道(附加地两个,例如,低频增强声道)的立体声信号的情况下,第一信号也可以是左信号并且第二信号可以是右信号。
附图说明
随后,参考附图详细讨论本发明的优选实施例,其中:
图1是多声道编码器的实施例的框图;
图2图示频谱域重新取样的实施例;
图3a-3c图示用于在频谱域中执行具有不同归一化和对应缩放的时间/频率或频率/时间转换的不同替代方案;
图3d图示用于某些实施例的不同频率分辨率和其它频率相关方面;
图4a图示编码器的实施例的框图;
图4b图示解码器的对应实施例的框图;
图5图示多声道编码器的优选实施例;
图6图示多声道解码器的实施例的框图;
图7a图示包括组合器的多声道解码器的另一个实施例;
图7b图示附加地包括组合器(加法)的多声道解码器的另一个实施例;
图8a图示示出用于若干取样率的窗口的不同特性的表;
图8b图示作为时间-频谱转换器和频谱-时间转换器的实现的DFT滤波器组的不同提议/实施例;
图8c图示DFT的两个分析窗口的序列,其时间分辨率为10ms;
图9a图示根据第一提议/实施例的编码器示意性开窗;
图9b图示根据第一提议/实施例的解码器示意性开窗;
图9c图示根据第一提议/实施例的编码器和解码器处的窗口;
图9d图示说明修正实施例的优选流程图;
图9e图示进一步说明修正实施例的流程图;
图9f图示用于解释时间间隙解码器侧实施例的流程图;
图10a图示根据第四提议/实施例的编码器示意性开窗;
图10b图示根据第四提议/实施例的解码器示意性窗口;
图10c图示根据第四提议/实施例的编码器和解码器处的窗口;
图11a图示根据第五提议/实施例的编码器示意性开窗;
图11b图示根据第五提议/实施例的解码器示意性开窗;
图11c图示根据第五提议/实施例的编码器和解码器处的窗口;
图12是信号处理器中使用降混的多声道处理的优选实现的框图;
图13是信号处理器内具有升混操作的逆多声道处理的优选实施例;
图14a图示为了对准声道而在用于编码的装置中执行的过程的流程图;
图14b图示在频域中执行的过程的优选实施例;
图14c图示使用具有零填补部分和重叠范围的分析窗口在用于编码的装置中执行的过程的优选实施例;
图14d图示在用于编码的装置的实施例中执行的进一步过程的流程图;
图15a图示由用于解码和编码多声道信号的装置的实施例执行的过程;
图15b图示关于一些方面的用于解码的装置的优选实现;以及
图15c图示在解码经编码的多声道信号的架构中的宽带去对准的上下文中执行的过程。
具体实施方式
图1图示用于编码包括至少两个声道1001、1002的多声道信号的装置。在双声道立体声场景的情况下,第一声道1001在左声道中,并且第二声道1002可以是右声道。但是,在多声道场景的情况下,第一声道1001和第二声道1002可以是多声道信号的任何声道,诸如例如一方面是左声道和另一方面是左环绕声道,或者一方面是右声道和另一方面是右环绕声道。但是,这些声道配对仅仅是示例,并且可以根据情况需要应用其它声道配对。
图1的多声道编码器包括时间-频谱转换器,用于将至少两个声道的取样值的块的序列转换成时间-频谱转换器的输出端处的频域表示。每个频域表示具有用于至少两个声道之一的频谱值的块的序列。特别地,第一声道1001或第二声道1002的取样值的块具有相关联输入取样率,并且时间-频谱转换器的输出序列的频谱值的块具有高达与输入取样率相关的最大输入频率的频谱值。在图1所示的实施例中,时间-频谱转换器连接到多声道处理器1010。这个多声道处理器被配置为用于对频谱值的块的序列应用联合多声道处理,以获得包括与至少两个声道有关的信息的频谱值的块的至少一个结果序列。典型的多声道处理操作是降混操作,但是优选的多声道操作包括稍后将描述的附加过程。
核心编码器1040被配置为根据第一帧控制来操作以提供帧的序列,其中帧由起始帧边界1901和结束帧边界1902界定。时间-频谱转换器1000或频谱-时间转换器1030被配置为根据与第一帧控制同步的第二帧控制进行操作,其中帧序列的每个帧的起始帧边界1901或结束帧边界1902与针对取样值的块的序列的每个块由时间-频谱转换器1000所使用的或针对取样值的块的输出序列的每个块由频谱-时间转换器1030所使用的窗口的重叠部分的起始时刻或结束时刻呈预定关系。
如图1中所示,频谱域重新取样是可选特征。也可以在没有任何重新取样的情况下或者在多声道处理之后或在多声道处理之前重新取样的情况下执行本发明。在使用的情况下,频谱域重新取样器1020在频域中对输入到频谱-时间转换器1030的数据或者对输入到多声道处理器1010的数据执行重新取样操作,其中频谱值的块的重新取样序列的块具有高达不同于最大输入频率1211的最大输出频率1231、1221的频谱值。随后,描述具有重新取样的实施例,但是要强调的是,重新取样是可选特征。
在另一个实施例中,多声道处理器1010连接到频谱域重新取样器1020,并且频谱域重新取样器1020的输出被输入到多声道处理器。这由虚连接线1021、1022说明。在这个替代实施例中,多声道处理器被配置为用于将联合多声道处理不应用于由时间-频谱转换器输出的频谱值的块的序列,而是应用于在连接线1022上获得的块的重新取样序列。
频谱域重新取样器1020被配置为用于重新取样由多声道处理器生成的结果序列,或者重新取样由时间-频谱转换器1000输出的块的序列,以获得如线1025所示的可以表示中间信号的频谱值的块的重新取样序列。优选地,频谱域重新取样器附加地对由多声道处理器生成的侧边信号执行重新取样,并且因此还输出与侧边信号对应的重新取样序列,如1026处所示。但是,侧边信号的生成和重新取样是可选的,并且对于低比特率实现不是必需的。优选地,频谱域重新取样器1020被配置为用于为了下取样而截短频谱值的块或用于为了上取样而对频谱值的块进行零填补。多声道编码器附加地包括频谱-时间转换器,用于将频谱值的块的重新取样序列转换成时域表示,该时域表示包括具有与输入取样率不同的相关联输出取样率的取样值的块的输出序列。在在多声道处理之前执行频谱域重新取样的替代实施例中,多声道处理器经由虚线1023将结果序列直接提供给频谱-时间转换器1030。在这种替代实施例中,可选特征是,附加地,已经在重新取样表示中由多声道处理器生成侧边信号,然后侧边信号也由频谱-时间转换器处理。
最后,频谱-时间转换器优选地提供时域中间信号1031和可选的时域侧边信号1032,它们都可以由核心编码器1040进行核心编码。一般而言,核心编码器被配置为用于对取样值的块的输出序列进行核心编码,以获得经编码的多声道信号。
图2图示对解释频谱域重新取样有用的频谱图。
图2中的上部图表图示在时间-频谱转换器1000的输出处可用的声道的频谱。这个频谱1210具有高达最大输入频率1211的频谱值。在上取样的情况下,零填补在延伸直至最大输出频率1221的零填补部分或零填补区域1220内执行。由于意图进行上取样,最大输出频率1221大于最大输入频率1211。
与此相比,图2中的下部图表图示由于对块的序列进行下取样所引起的过程。为此,在截短区域1230内截短块,使得在1231处的截短频谱的最大输出频率低于最大输入频率1211。
通常,与图2中的对应频谱相关联的取样率是频谱的最大频率的至少2倍。因此,对于图2中上面的情况,取样率将是最大输入频率1211的至少2倍。
在图2的第二个图表中,取样率将是最大输出频率1221(即,零填补区域1220的最高频率)的至少两倍。与此相反,在图2的最下面的图表中,取样率将是最大输出频率1231(即,在截短区域1230内截短后剩余的最高频谱值)的至少2倍。
图3a至3c图示可以在某些DFT前向或后向变换算法的上下文中使用的若干替代方案。在图3a中,考虑这样的情况,其中执行具有大小x的DFT,并且其中在正向变换算法1311中没有发生任何归一化。在方框1331处,示出具有不同大小y的后向变换,其中执行具有1/Ny的归一化。Ny是具有大小y的反向变换的频谱值的数量。然后,优选地通过Ny/Nx执行缩放,如方框1321所示。
与此相比,图3b图示这样的实现,其中归一化被分配给正向变换1312和反向变换1332。然后需要缩放,如方框1322所示,其中后向变换的频谱值的数量与正向变换的频谱值的数量之间的关系的平方根是有用的。
图3c图示另一种实现,其中在执行具有大小x的正向变换的情况下对正向变换执行整体归一化。然后,如方框1333中所示的后向变换在没有任何归一化的情况下操作,使得不需要任何缩放,如图3c中的示意性方框1323所示。因此,取决于某些算法,需要某些缩放操作或甚至不需要缩放操作。但是,优选地是根据图3a进行操作。
为了使总延迟保持低,本发明在编码器侧提供了一种方法,用于避免需要时域重新取样器并通过在DFT域中重新取样信号来替换时域重新取样器。例如,在EVS中,它允许节省来自时域重新取样器的0.9375ms的延迟。频域中的重新取样是通过零填补或截短频谱并正确缩放其来实现的。
考虑以速率fx取样的输入开窗信号x,其具有大小为Nx的频谱X,以及以速率fy重新取样的相同信号的版本y,其具有大小为Ny的频谱。于是,取样因子等于:
fy/fx=Ny/Nx
在下取样Nx>Ny的情况下。通过直接缩放和截短原始频谱X,可以简单地在频域中执行下取样:
Y[k]=X[k].Ny/Nx,对于k=0..Ny
在上取样Nx<Ny的情况下。通过直接缩放和零填补原始频谱X,可以简单地在频域中执行上取样:
Y[k]=X[k].Ny/Nx,对于k=0...Nx
Y[k]=0,对于k=Nx...Ny
两个重新取样操作可以总结为:
Y[k]=X[k].Ny/Nx,对于所有k=0...min(Ny,Nx)
Y[k]=0,对于所有k=min(Ny,Nx)...Ny,对于如果Ny>Nx
一旦获得新的频谱Y,就可以通过应用大小为Ny的相关联的逆变换iDFT来获得时域信号y:
y=iDFT(Y)
为了在不同帧上构造连续时间信号,然后对输出帧y进行开窗并重叠相加至先前获得的帧。
窗口形状对于所有取样率都相同,但是窗口在样本中具有不同的大小,并且取决于取样率而进行不同的取样。由于形状是纯粹分析定义的,窗口的样本数量及其值可以容易地得出。窗口的不同部分和大小可以在图8a中被发现为目标取样率的函数。在这种情况下,重叠部分(LA)中的正弦函数用于分析和合成窗口。对于这些区域,递增的ovlp_size系数由下式给出:
win_ovlp(k)=sin(pi*(k+0.5)/(2*ovlp_size));,对于k=0..ovlp_size-1
而递减的ovlp_size系数由下式给出:
win_ovlp(k)=sin(pi*(ovlp_size-1-k+0.5)/(2*ovlp_size));,对于k=0..ovlp_size-1
其中ovlp_size是取样率的函数并且在图8a中给出。
新的低延迟立体声编码是利用一些空间线索的联合中间/侧边(M/S)立体声编码,其中中间声道由主要单声道核心编码器(单声道核心编码器)编码,并且侧边声道在次核心编码器中编码。编码器和解码器原理在图4a和4b中描绘。
立体声处理主要在频域(FD)中执行。可选地,可以在频率分析之前在时域(TD)中执行某种立体声处理,这是针对ITD计算的情况,其可以在频率分析之前被计算和应用,以在进行立体声分析和处理之前在时间上对准声道。可替代地,ITD处理可以直接在频域中完成。由于如ACELP等常用的语音编码器不包含任何内部时间-频率分解,因此立体声编码借助于在核心编码器之前的分析及合成滤波器组及在核心解码器之后的分析合成滤波器组的另一阶段来添加额外的复调制滤波器组。在优选实施例中,采用具有低重叠区域的过取样DFT。但是,在其它实施例中,可以使用具有相似时间分辨率的任何复数值时间-频率分解。在立体声滤波器组之后,可以参考如QMF的滤波器组或如DFT的块变换。
立体声处理包括计算空间线索和/或立体声参数,如声道间时差(ITD)、声道间相位差(IPD)、声道间声级差(ILD)以及用于利用中间信号(M)预测侧边信号(S)的预测增益。重要的是要注意,编码器和解码器处的立体声滤波器组都在编码系统中引入额外的延迟。
图4a图示用于编码多声道信号的装置,其中,在这个实现中,使用声道间时间差(ITD)分析在时域中执行某种联合立体声处理,并且其中使用放在时间-频谱转换器1000之前的时移块1410在时域内应用这种ITD分析1420的结果。
然后,在频谱域内,执行进一步的立体声处理1010,其至少导致到中间信号M的左和右的降混以及可选地导致侧边信号S的计算,并且虽然未在图4a中明确示出,但是由可以应用两个不同的替代方案之一的图1中所示的频谱域重新取样器1020执行的重新取样操作,即,在多声道处理之后或在多声道处理之前执行重新取样。
此外,图4a图示优选核心编码器1040的进一步细节。特别地,为了在频谱-时间转换器1030的输出端处对时域中间信号m进行编码,使用EVS编码器。此外,为了侧边信号编码的目的,执行MDCT编码1440和随后连接的向量量化1450。
经编码的或经核心编码的中间信号和经核心编码的侧边信号被转发到多路复用器1500,多路复用器1500将这些经编码的信号与边信息一起多路复用。一种边信息是在1421处输出到多路复用器(并且可选地输出到立体声处理元件1010)的ID参数,并且其它参数是声道声级差/预测参数、声道间相位差(IPD参数)或立体声填充参数,如线1422处所示。相应地,用于解码由比特流1510表示的多声道信号的图4B的装置包括解复用器1520,在这个实施例中由用于经编码的中间信号m的EVS解码器1602和向量反量化器1603以及随后连接的逆MDCT方框1604组成的核心解码器。方框1604提供经核心解码的侧边信号s。使用时间-频谱转换器1610将经解码的信号m、s转换到频谱域,然后在频谱域内执行逆立体声处理和重新取样。再次,图4b图示这样一种情况:执行从M信号到左L和右R的升混,以及附加地执行使用IPD参数的窄带去对准,以及附加地执行用于使用线1605上的声道间声级差参数ILD和立体声填充参数计算尽可能好的左和右声道的进一步的过程。此外,解复用器1520不仅从比特流1510提取线1605上的参数,还提取线1606上的声道间时间差并将这个信息转发到块逆立体声处理/重新取样器并且附加地转发到在时域中执行的方框1650中的逆时移处理,即,在由以输出速率提供经解码的左和右信号的频谱-时间转换器执行的过程之后,其中例如,输出速率与EVS解码器1602的输出端处的速率不同,或者与IMDCT方框1604的输出端处的速率不同。
然后,立体声DFT可以提供信号的不同取样版本,其进一步被传递到切换式核心编码器。要编码的信号可以是中间声道、侧边声道,或左和右声道,或者从两个输入声道的旋转或声道映射产生的任何信号。由于切换式系统的不同核心编码器接受不同的取样率,因此立体声合成滤波器组可以提供多速率信号(multi-rated signal)是一个重要特征。原理在图5中示出。
在图5中,立体声模块将两个输入声道I和r作为输入,并在频域中将它们变换为信号M和S。在立体声处理中,输入声道最终可以被映射或修改,以生成两个新信号M和S。M通过3GPP标准EVS单声道或其修改版本而被进一步编码。这种编码器是切换式编码器,在MDCT核心(在EVS的情况下为TCX和HQ-Core)与语音编码器(EVS中的ACELP)之间切换。它还具有始终以12.8kHz运行的预处理功能以及以根据操作模式而变化的取样率(12.8、16、25.6或32kHz)运行的其它预处理功能。而且,ACELP以12.8或16kHz运行,而MDCT核心以输入取样率运行。信号S可以由标准EVS单声道编码器(或其修改版本)编码,或者由专门为其特点设计的特定侧边信号编码器编码。也有可能跳过侧边信号S的编码。
图5图示具有立体声处理的信号M和S的多速率合成滤波器组的优选立体声编码器细节。图5示出以输入速率(即,信号1001和1002具有的速率)执行时间频率变换的时间-频谱转换器1000。显然,图5附加地图示用于每个声道的时域分析框1000a、1000e。特别地,虽然图5示出显式时域分析框(即,用于将分析窗口应用于对应声道的开窗器),但应当注意的是,在本说明书中的其它地方,用于应用时域分析框的开窗器被认为包括在以某个取样率指示为“时间-频谱转换器”或“DFT”的方框中。此外,相应地,提及频谱-时间转换器通常包括在实际DFT算法的输出处的用于应用对应合成窗口的开窗器,其中为了最终获得输出样本,执行用对应的合成窗口开窗的取样值的块的重叠-相加。因此,即使例如方框1030仅提到“IDFT”,这个方框通常也还表示利用分析窗口对时域样本的块的后续开窗,以及再次随后的重叠-相加操作,以便最终获得时域m信号。
此外,图5图示特定立体声场景分析框1011,其执行在方框1010中使用以执行立体声处理和降混的参数,并且这些参数可以例如是图4a的线1422或1421上的参数。因此,方框1011可以与实现中图4a中的方框1420对应,其中甚至参数分析(即,立体声场景分析)在频谱域中进行,且特别地利用未经重新取样,但在对应于输入取样率的最大频率下的频谱值的块的序列。
此外,核心编码器1040包括基于MDCT的编码器分支1430a和ACELP编码分支1430b。特别地,用于中间信号M的中间编码器和用于侧边信号s的对应侧边编码器在基于MDCT的编码和ACELP编码之间执行切换编码,其中通常核心编码器附加地具有通常对某个先行部分操作的编码模式决策器,以便确定是使用基于MDCT的过程还是基于ACELP的过程来编码某个块或帧。此外,或者可替代地,核心编码器被配置为使用先行部分,以便确定诸如LPC参数等等之类的其它特性。
此外,核心编码器附加地包括以不同取样率的预处理器,诸如以12.8kHz操作的第一预处理器1430c和以由16kHz、25.6kHz或32kHz组成的取样率组的取样率操作的另一个预处理器1430d。
因此,一般而言,图5中所示的实施例被配置为具有用于从输入速率(其可以是8kHz、16kHz或32kHz)重新取样成不同于8、16或32的输出速率中任何一个的频谱域重新取样器。
此外,图5中的实施例附加地被配置为具有未经重新取样的附加分支,即,“输入速率下的IDFT”表示的用于中间信号并且可选地用于侧边信号的分支。
此外,图5中的编码器优选地包括重新取样器,其不仅重新取样到第一输出取样率,而且还重新取样到第二输出取样率,以便具有用于预处理器1430c和1430d两者的数据,例如,预处理器1430c和1430d可操作以执行某种滤波、某种LPC计算或某种其它信号处理,其优选地在已在图4a的上下文中提及的用于EVS编码器的3GPP标准中公开。
图6图示用于对经编码的多声道信号1601进行解码的装置的实施例。用于解码的装置包括核心解码器1600、时间-频谱转换器1610、可选的频谱域重新取样器1620、多声道处理器1630以及频谱-时间转换器1640。
核心解码器1600被配置为根据第一帧控制进行操作以提供帧序列,其中帧由起始帧边界1901和结束帧边界1902界定。时间-频谱转换器1610或频谱-时间转换器1640被配置为根据与第一帧控制同步的第二帧控制进行操作。时间-频谱转换器1610或频谱-时间转换器1640被配置为根据与第一帧控制同步的第二帧控制进行操作,其中帧序列的每个帧的起始帧边界1901或结束帧边界1902与针对取样值的块的序列的每个块由时间-频谱转换器1610所使用的或针对取样值的块的至少两个输出序列的每个块由频谱-时间转换器1640所使用的窗口的重叠部分的起始时刻或结束时刻呈预定关系。
再次,关于用于解码经编码的多声道信号1601的装置的本发明可以以若干替代方案实现。一种替代方案是根本不使用频谱域重新取样器。另一种替代方案是使用重新取样器并且被配置为在执行多声道处理之前在频谱域中对经核心解码的信号进行重新取样。这种替代方案由图6中的实线示出。但是,另一个替代方案是在多声道处理之后执行频谱域重新取样,即,多声道处理以输入取样率进行。这个实施例在图6中用虚线示出。如果被使用,那么频谱域重新取样器1620在频域中对输入到频谱-时间转换器1640的数据或者对输入到多声道处理器1630的数据执行重新取样操作,其中经重新取样的序列的块具有高达与最大输入频率不同的最大输出频率的频谱值。
特别地,在第一实施例中,即,在多声道处理之前在频谱域中执行频谱域重新取样的情况下,表示取样值的块序列的经核心解码的信号被转换成具有线1611处的经核心解码的信号的频谱值的块的序列的频域表示。
此外,经核心解码的信号不仅包括线1602处的M信号,而且还包括线1603处的侧边信号,其中侧边信号在1604处以经核心编码的表示示出。
然后,时间-频谱转换器1610附加地生成在线1612上用于侧边信号的频谱值的块的序列。
然后,由方框1620执行频谱域重新取样,并且在线1621处将关于中间信号或降混声道或第一声道的频谱值的块的重新取样序列转发到多声道处理器,并且可选地还经由线1622将用于侧边信号的频谱值的块的重新取样序列从频谱域重新取样器1620转发到多声道处理器1630。
然后,多声道处理器1630对线1621和1622处示出的包括来自降混信号(并且可选地来自侧边信号)的序列的序列执行逆多声道处理,以便输出在线1631和1632处示出的频谱值的块的至少两个结果序列。然后,使用频谱-时间转换器将这至少两个序列转换到时域中,以便输出时域声道信号1641和1642。在另一个替代方案中,在线1615中所示,时间-频谱转换器被配置为将诸如中间信号的经核心解码的信号馈送到多声道处理器。此外,时间-频谱转换器还可以将经解码的侧边信号1603以其频谱域表示馈送到多声道处理器1630,但是图6中未示出这种选项。然后,多声道处理器执行逆处理,且输出的至少两个声道经由连接线1635被转发到频谱域重新取样器,然后频谱域重新取样器经由线1625将这两个声道处的重新取样转发到频谱-时间转换器1640。
因此,与在图1的上下文中讨论的内容有点类似,用于解码经编码的多声道信号的装置还包括两个替代方案,即,在逆多声道处理之前执行频谱域重新取样,或者可替代地,以输入取样率在多声道处理之后执行频谱域重新取样。但是,优选地,执行第一替代方案,因为它允许图7a和图7b中所示的不同信号贡献的有利对准。
再次,图7a图示核心解码器1600,但是,其输出三个不同的输出信号,即,相对于输出取样率的不同取样率下的第一输出信号1601、输入取样率(即,经核心编码的信号1601下的取样率)下的第二经核心解码的信号1602,并且核心解码器附加地生成输出取样率(即,在图7a中频谱-时间转换器1640的输出端处最终预期的取样率)下的可操作且可用的第三输出信号1603。
所有三个经核心解码的信号被输入到时间-频谱转换器1610,其生成频谱值的块的三个不同序列1613、1611和1612。
频谱值的块的序列1613具有高达最大输出频率的频率或频谱值,因此与输出取样率相关联。
频谱值的块的序列1611具有高达不同最大频率的频谱值,因此这个信号不与输出取样率对应。
此外,信号1612的频谱值高达最大输入频率,该最大输入频率也与最大输出频率不同。
因此,序列1612和1611被转发到频谱域重新取样器1620,而信号1613不被转发到频谱域重新取样器1620,因为这个信号已经与正确的输出取样率相关联。
频谱域重新取样器1620将频谱值的重新取样序列转发到组合器1700,组合器1700被配置为针对在重叠情况下对应的信号逐频谱线地执行逐块组合。因此,在从基于MDCT的信号到ACELP信号的切换之间通常存在交叉区域,并且在这个重叠范围中,信号值存在并且彼此组合。但是,当这个重叠范围结束并且信号仅存在于例如信号1603中而信号1602例如不存在时,组合器将不在这个部分中执行逐块频谱线相加。但是,当稍后出现切换时,逐块逐频谱线相加将在这个交叉区域期间发生。
此外,如图7b所示,也有可能进行连续相加,其中执行在方框1600a处示出的低音后置滤波器输出信号,该方框生成例如可以是来自图7a的信号1601的谐波间误差信号。然后,在方框1610中的时间-频谱转换和随后的频谱域重新取样1620之后,优选地在执行图7b中的方框1700中的相加之前执行附加的滤波操作1702。
类似地,基于MDCT的解码级1600d和时域带宽扩展解码级1600c可以经由交叉衰落框1704耦合,以便获得经核心解码的信号1603,然后以输出取样率将其转换成频谱域表示,使得对于这个信号1613,频谱域重新取样不是必需的,但是信号可以直接转发到组合器1700。然后立体声逆处理或多声道处理1603在组合器1700之后发生。
因此,与图6中所示的实施例相比,多声道处理器1630不对频谱值的重新取样序列进行操作,而是对包括频谱值的至少一个重新取样序列(诸如1622和1621)的序列进行操作,其中多声道处理器1630对其进行操作的序列还包括不必重新取样的序列1613。
如图7中所示,来自以不同取样率工作的不同DFT的不同经解码的信号已经时间对准,因为处于不同取样率的分析窗口共享相同的形状。但是,频谱显示出不同的大小和缩放。为了使它们协调并使它们兼容,所有频谱在彼此相加之前以期望的输出取样率在频域中被重新取样。
因此,图7图示DFT域中合成信号的不同贡献的组合,其中以这样一种方式执行频谱域重新取样:最终,要由组合器1700相加的所有信号都已经是可用的且频谱值延伸高达与输出取样率(低于或等于然后在频谱时间转换器1640的输出端处获得的输出取样率的一半)对应的最大输出频率。
立体声滤波器组的选择对于低延迟系统是至关重要的,并且可实现的权衡在图8b中总结。它可以采用DFT(块变换)或称为CLDFB(滤波器组)的伪低延迟QMF。每个提议显示出不同的延迟、时间和频率分辨率。对于系统,必须选择那些特性之间的最佳折衷。拥有良好的频率和时间分辨率是重要的。这就是为什么在提议3中使用伪QMF滤波器组会有问题的原因。频率分辨率低。它可以通过如MPEG-USAC的MPS 212中那样的混合方法来增强,但是其具有显著增加复杂性和延迟的缺点。另一个重点是核心解码器与逆立体声处理之间在解码器侧可获得的延迟。这种延迟越大越好。例如,提议2不能提供这种延迟,因此不是有价值的解决方案。出于上面提到的原因,在其余描述中我们将重点放在提议1、4和5。
滤波器组的分析和合成窗口是另一个重要方面。在优选实施例中,相同的窗口用于DFT的分析和合成。在编码器侧和解码器侧也是如此。为了履行以下约束,要特别注意:
·重叠区域必须等于或小于MDCT核心和ACELP先行的重叠区域。在优选实施例中,
所有大小都等于8.75ms
·为了允许在DFT域中应用声道的线性移位,零填补应当至少为大约2.5ms
·对于不同的取样率:12.8、16、25.6、32和48kHz,窗口大小、重叠区域大小和零填补大小必须以整数个样本来表示
·DFT复杂度应当尽可能低,即,分裂基(split-radix)FFT实现中DFT的最大基数应当尽可能低。
·时间分辨率固定到10ms。
知道了这些约束,在图8c和图8a中描述提议1和4的窗口。
图8c图示由初始重叠部分1801、随后的中间部分1803和终止重叠部分或第二重叠部分1802组成的第一窗口。此外,第一重叠部分1801和第二重叠部分1802附加地具有在其开始和结束处的零填补部分1804和1805。
此外,图8c图示关于图1的时间-频谱转换器1000或者可替代地图7a的1610的成帧所执行的过程。由元素1811(即,第一重叠部分)、中间非重叠部分1813和第二重叠部分1812组成的另一个分析窗口与第一窗口重叠50%。第二窗口附加地在其开始和结束处具有零填补部分1814和1815。这些零重叠部分是必要的,以便处于在频域中执行宽带时间对准的位置。
此外,第二窗口的第一重叠部分1811开始于中间部分1803(即,第一窗口的非重叠部分)的结束处,并且第二窗口的重叠部分(即,非重叠部分1813)开始于第一窗口的第二重叠部分1802的结束处,如图所示。
当图8c被认为表示对频谱-时间转换器(诸如图1的用于编码器的频谱-时间转换器1030或者用于解码器的频谱-时间转换器1640)的重叠相加操作时,由块1801、1802、1803、1805、1804组成的第一窗口与合成窗口对应,并且由部分1811、1812、1813、1814、1815组成的第二窗口与用于下一块的合成窗口对应。然后,窗口之间的重叠图示重叠部分,并且重叠部分在1820处示出,并且重叠部分的长度等于当前帧除以二并且在优选实施例中等于10ms。此外,在图8c的底部,用于计算重叠范围1801或1811内的递增窗口系数的分析方程式被示为正弦函数,并且对应地,重叠部分1802和1812的递减重叠大小系数也被示为正弦函数。
在优选实施例中,相同的分析和合成窗口仅用于图6、图7a、图7b中所示的解码器。因此,时间-频谱转换器1616和频谱-时间转换器1640使用完全相同的窗口,如图8c所示。
但是,在某些实施例中,特别是关于随后的提议/实施例1,使用一般而言与图9c一致的分析窗口,但是使用正弦函数的平方根来计算用于递增或递减重叠部分的窗口系数,在正弦函数中具有与图8c中相同的自变量。相应地,合成窗口使用1.5幂的正弦函数来计算,但是再次具有正弦函数的相同自变量。
此外,要注意的是,由于重叠-相加操作,0.5次幂的正弦乘以1.5次幂的正弦再次导致2次幂的正弦,这是为了具有节能状况所必需的。
提议1具有以下主要特性:DFT的重叠区域具有相同大小并且与ACELP先行和MDCT核心重叠区域对准。编码器延迟于是对于ACELP/MDCT核心而言相同,并且立体声不在编码器处带来任何附加的延迟。在EVS的情况下以及在使用如图5所述的多速率合成滤波器组方法的情况下,立体声编码器延迟低至8.75ms。
编码器示意性成帧在图9a中示出,而解码器在图9e中描绘。对于编码器,窗口在图9c中以蓝色虚线绘制,而对于解码器,窗口以红色实线绘制。
提议1的一个主要问题是编码器处的先行被开窗。它可为了随后的处理而被修正,或者如果随后的处理适于考虑经开窗的先行,那么可以将其保持开窗。可能的是,如果在DFT中执行的立体声处理修改了输入声道,并且尤其是在使用非线性操作时,那么在绕过核心编码的情况下,经修正或开窗的信号不允许实现完美重建。
值得注意的是,在核心解码器合成和立体声解码器分析窗口之间存在1.25ms的时间间隙,其可以被核心解码器后处理、被带宽扩展(BWE)(如在ACELP上使用的时域BWE)或者在ACELP与MDCT核心之间过渡的情况下被某种平滑利用。
由于这个仅为1.25ms的时间间隙低于用于这种操作的标准EVS所需的2.3125ms,因此本发明提供了一种在立体声模块的DFT域内组合、重新取样和平滑切换式解码器的不同合成部分的方法。
如图9a中所示,核心编码器1040被配置为根据成帧控制进行操作,以提供帧的序列,其中帧由起始帧边界1901和结束帧边界1902界定。此外,时间-频谱转换器1000和/或频谱-时间转换器1030还被配置为根据与第一成帧控制同步的第二成帧控制进行操作。成帧控制由用于编码器中的时间-频谱转换器1000(并且特别地,用于被并发处理并完全同步的第一声道1001和第二声道1002)的两个重叠窗口1903和1904示出。此外,成帧控制在解码器侧也是可见的,具体而言,以在1913和1914处示出的图6的时间-频谱转换器1610的两个重叠窗口。例如,这些窗口,1913和1914,应用于核心解码器信号,该核心解码器信号优选地是图6的单个单声道或降混信号1610。此外,如从图9a清楚可见的,核心编码器1040的成帧控制与时间-频谱转换器1000或频谱-时间转换器1030之间的同步使得帧序列的每一帧的起始帧边界1901或结束帧边界1902与针对取样值的块的序列的每个块或针对频谱值的块的重新取样序列的每个块由时间-频谱转换器1000或频谱-时间转换器1030所使用的窗口的重叠部分的起始时刻或结束时刻呈预定关系。在图9a所示的实施例中,例如,该预定关系使得第一重叠部分的起始与关于窗口1903的起始时间边界重合,并且另一个窗口1904的重叠部分的起始与中间部分(诸如图8c的部分1803)的结束重合。因此,当图8c中的第二窗口与图9a中的窗口1904对应时,结束帧边界1902与图8c的中间部分1813的结束重合。
因此,变得清楚的是,图9a中的第二窗口1904的第二重叠部分(诸如图8c的1812)延伸超过帧边界1902的结束或终止,并因此延伸到1905处示出的核心编码器先行部分中。
因此,核心编码器1040被配置为当核心编码取样值的块的输出序列的输出块时使用先行部分(诸如先行部分1905),其中输出先行部分在时间上位于输出块之后。输出块与由帧边界1901、1904界定的帧对应,并且输出先行部分1905在用于核心编码器1040的这个输出块之后。
此外,如图所示,时间-频谱转换器被配置为使用分析窗口(即,窗口1904,其具有时间长度小于或等于先行部分1905的时间长度的重叠部分),其中位于重叠范围内的与图8c的重叠部分1812对应的这个重叠部分被用于生成经开窗的先行部分。
此外,频谱-时间转换器1030被配置为优选地使用修正函数来处理与经开窗的先行部分对应的输出先行部分,其中修正函数被配置为使得分析窗口的重叠部分的影响被减少或消除。
因此,在图9a中的核心编码器1040和降混1010/下取样1020方框之间操作的频谱-时间转换器被配置为在函数中应用修正,以便撤消由图9a中的窗口1904应用的开窗。
因此,确保核心编码器1040在将其先行功能性应用于先行部分1095时对尽可能远地接近原始部分的部分而非对先行部分执行先行功能。
但是,由于低延迟约束,并且由于立体声预处理器和核心编码器的成帧之间的同步,因此不存在用于先行部分的原始时域信号。但是,应用修正函数可以确保尽可能多地减少由这个过程引起的任何伪声。
关于这种技术的一系列过程在图9d、图9e中更详细地示出。
在步骤1910中,执行第零块的DFT-1,以获得时域中的第零块。第零块将已经获得用于图9a中窗口1903左侧的窗口。但是,这第零块未在图9a中明确示出。
然后,在步骤1912中,使用合成窗口对第零块进行开窗,即,在图1中所示的频谱-时间转换器1030中开窗。
然后,如方框1911所示,执行由窗口1903获得的第一块的DFT-1以获得时域中的第一块,并且在方框1910中使用合成窗口再次对这个第一块进行开窗。
然后,如图9d中的1918所指示的,执行第二块(即,由图9a的窗口1904获得的块)的逆DFT,以获得时域中的第二块,然后是使用合成窗口对第二块的第一部分进行开窗,如图9d的1920所示。但是,重要的是,由图9d中的项1918获得的第二块的第二部分不使用合成窗口被开窗,而是被修正,如图9d的方框1922中所示,并且,对于修正函数,使用分析窗口函数的逆,以及分析窗口函数的对应重叠部分。
因此,如果用于生成第二块的窗口是图8c中所示的正弦窗口,那么图8c的底部的方程式的用于递减重叠大小系数的1/sin()被用作修正函数。
但是,优选的是使用正弦窗口的平方根用于分析窗口,因此修正函数是窗口函数这确保了通过方框块1922获得的经修正的先行部分尽可能接近先行部分内的原始信号,但是,当然不是原始左信号或原始右信号而是已经通过将左和右相加以获得中间信号而获得的原始信号。
然后,在图9d的步骤1924中,通过在方框1030中执行重叠-相加操作来生成由帧边界1901、1902指示的帧,使得编码器具有时域信号,并且通过与窗口1903对应的块与前一块的先前样本之间的重叠-相加操作以及使用由方框1920获得的第二块的第一部分来执行这个帧。然后,由方框1924输出的这个帧被转发到核心编码器1040并且,此外,核心编码器附加地接收帧的经修正的先行部分并且,如步骤1926中所示,核心编码器然后可以使用由步骤1922获得的经修正的先行部分来确定核心编码器的特性。然后如步骤1928中所示,核心编码器使用在方框1926中确定的特性对帧进行核心编码,以最终获得与帧边界1901、1902对应的经核心编码的帧,其在优选实施例中具有20ms的长度。
优选地,延伸到先行部分1905中的窗口1904的重叠部分具有与先行部分相同的长度,但是它也可以比先行部分短,但是优选地不长于先行部分,使得立体声预处理器不会由于窗口重叠而引入任何附加的延迟。
然后,过程继续使用合成窗口对第二块的第二部分进行开窗,如方框1930中所示。因此,第二块的第二部分一方面通过方框1922修正,并且另一方面由合成窗口开窗,如方框1930中所示,因为然后需要这个该部分以用于通过重叠-相加第二块的经开窗的第二部分、经开窗的第三块和第四块的经开窗的第一部分而生成核心编码器的下一帧。如方框1932中所示。自然,第四块,特别是第四块的第二部分,将再次经受如关于图9d的项1922中的第二块所讨论的修正操作,然后,如前面所讨论的,再次重复该过程。此外,在步骤1934中,核心编码器将通过对第四块的第二部分进行修正来确定核心编码器特性,然后,将使用所确定的编码特性对下一帧进行编码,以便最终在方框1934中获得经核心编码的下一帧。因此,分析(对应合成)窗口的第二重叠部分与核心编码器先行部分1905的对准确保可以获得非常低延迟的实现,并且这个优点是由于以下事实:经开窗的先行部分一方面通过执行修正操作并且另一方面通过应用不等于合成窗口但施加较小影响的分析窗口来解决,使得与使用相同分析/合成窗口相比,确保修正函数更稳定。但是,在核心编码器被修改以操作其通常是确定经开窗的部分上的核心编码特性所必需的先行功能的情况下,不必执行修正功能。但是,已经发现,使用修正功能优于修改核心编码器。
此外,如前面所讨论的,要注意的是,在窗口(即,分析窗口1914)的结束与由图9b的起始帧边界1901和结束帧边界1902定义的帧的结束帧边界1902之间存在时间间隙。
特别地,相对于由图6的时间-频谱转换器1610应用的分析窗口在1920处示出时间间隙,并且这个时间间隙相对于第一输出声道1641和第二输出声道1642也是可见的120。
图9f示出在时间间隙的上下文中执行的步骤的过程,核心解码器1600对帧或直到时间间隙1920的至少帧的初始部分进行核心解码。然后,图6的时间-频谱转换器1610被配置为使用分析窗口1914将分析窗口应用于帧的初始部分,该分析窗口1914不延伸直到帧的结束(即,直到时刻1902),而是仅延伸到时间间隙1920的开始。
因此,核心解码器具有附加的时间,以便对时间间隙中的样本进行核心解码和/或对时间间隙中的样本进行后处理,如方框1940所示。因此,时间-频谱转换器1610已经输出第一块作为步骤1938的结果,在那里,核心解码器可以提供时间间隙中的剩余样本,或者可以在步骤1940对时间间隙中的样本进行后处理。
然后,在步骤1942中,时间-频谱转换器1610被配置为使用将在图9b中的窗口1914之后出现的下一个分析窗口对时间间隙中的样本与下一帧的样本一起开窗。然后,如步骤1944中所示,核心解码器1600被配置为解码下一帧或直到时间间隙1920的在下一帧中出现的至少下一帧的初始部分。然后,在步骤1946中,时间-频谱转换器1610被配置为对下一帧中的样本进行开窗,直到下一帧的时间间隙1920,并且在步骤1948中,核心解码器然后可以对下一帧的时间间隙中的剩余样本进行核心解码和/或后处理这些样本。
因此,当考虑图9b的实施例时,例如1.25ms的这种时间间隙可以被核心解码器后处理、通过带宽扩展、被例如在ACELP的上下文中使用的时域带宽扩展或者被在ACELP和MDCT核心信号之间传输过渡的情况下的某种平滑利用。
因此,核心解码器1600再次被配置为根据第一成帧控制来操作,以提供帧序列,其中时间-频谱转换器1610或频谱-时间转换器1640被配置为根据与第一成帧控制同步的第二成帧控制进行操作,使得帧序列的每一帧的起始帧边界或结束帧边界与针对取样值的块的序列的每个块或针对频谱值的块的重新取样序列的每个块由时间-频谱转换器或频谱-时间转换器所使用的窗口的重叠部分的起始时刻或结束时刻呈预定关系。
此外,时间-频谱转换器1610被配置为使用分析窗口来对帧序列的帧进行开窗,该帧序列具有在结束帧边界1902之前结束的重叠范围,从而在重叠部分的结束与结束帧边界之间留下时间间隙1920。因此,核心解码器1600被配置为与使用分析窗口的帧的开窗并行地对时间间隙1920中的样本执行处理,或者其中与由时间-频谱转换器使用分析窗口的帧的开窗并行地执行时间间隙的进一步后处理。
此外,并且优选地,定位用于经核心解码的信号的后续块的分析窗口,使得窗口的中间非重叠部分位于如图9b的1920处所示的时间间隙内。
在提议4中,与提议1相比,整个系统延迟被扩大。在编码器处,额外延迟来自立体声模块。与提议1不同,完美重建的问题在提议4中不再相关。
在解码器处,核心解码器与第一DFT分析之间的可获得延迟为2.5ms,这允许执行常规的重新取样、组合和在不同的核心合成和扩展带宽信号之间的平滑,就像在标准EVS中进行的那样。
编码器示意性成帧在图10a中示出,而解码器在图10b中描绘。窗口在图10c中给出。
在提议5中,DFT的时间分辨率降低到5ms。核心编码器的先行和重叠区域没有开窗,这是与提议4的共同优势。另一方面,编码器解码与立体声分析之间的可获得延迟小,并且需要提议1中提出的解决方案(图7)。这个提议的主要缺点是时间-频率分解的低频率分辨率和减少到5ms的小的重叠区域,这防止了频域中的大的时移。
编码器示意性成帧在图11a中示出,而解码器在图11b中描绘。窗口在图11c中给出。
鉴于上述情况,优选实施例关于编码器侧涉及多速率时间-频率合成,其以不同的取样率向后续处理模块提供至少一个经立体声处理的信号。该模块包括例如像ACELP的语音编码器、预处理工具、基于MDCT的音频编码器(诸如TCX)或带宽扩展编码器(诸如时域带宽扩展编码器)。
关于解码器,执行关于解码器合成的不同贡献在立体声频域中重新取样的组合。这些合成信号可以来自如ACELP解码器的语音解码器、基于MDCT的解码器、带宽扩展模块,或来自如低音后置滤波器的后处理的间谐波误差信号。
此外,关于编码器和解码器,应用用于DFT的窗口或用零填补、低重叠区域和跳距(hopsize)变换的复数值是有用的,其中跳距与不同取样率(诸如12.9kHz、16kHz、25.6kHz、32kHz或48kHz)下的整数个样本对应。
实施例能够以低延迟实现立体声音频的低比特率编码。它被专门设计用于高效地组合低延迟切换式音频编码方案(如EVS)与立体声编码模块的滤波器组。
实施例可以发现在诸如例如利用数字无线电、互联网串流和音频通信应用分发或广播所有类型的立体声或多声道音频内容(在给定的低比特率下具有恒定感知质量的语音和类音乐)中的用途。
图12图示用于编码具有至少两个声道的多声道信号的装置。多声道信号10一方面被输入参数确定器100,另一方面被输入信号对准器200。参数确定器100一方面确定宽带对准参数,另一方面从多声道信号确定多个窄带对准参数。这些参数经由参数线12输出。此外,这些参数还经由另一条参数线14输出到输出接口500,如图所示。在参数线14上,诸如声级参数之类的附加参数从参数确定器100转发到输出接口500。信号对准器200被配置为用于使用经由参数线10接收的宽带对准参数和多个窄带对准参数来对准多声道信号10的至少两个声道,以在信号对准器200的输出端获得已对准的声道20。这些已对准的声道20被转发到信号处理器300,信号处理器300被配置为用于从经由线20接收的已对准的声道来计算中间信号31和侧边信号32。用于编码的装置还包括信号编码器400,用于编码来自线31的中间信号和来自线32的侧边信号,以获得线41上的经编码的中间信号和线42上的经编码的侧边信号。这两个信号都被转发到输出接口500以用于在输出线50处生成经编码的多声道信号。输出线50处的经编码的信号包括来自线41的经编码的中间信号、来自线42的经编码的侧边信号、来自线14的窄带对准参数和宽带对准参数,以及可选的来自线14的声级参数,以及还可选的由信号编码器400生成并经由参数线43转发到输出接口500的立体声填充参数。
优选地,信号对准器被配置为在参数确定器100实际计算窄带参数之前使用宽带对准参数对准来自多声道信号的声道。因此,在这个实施例中,信号对准器200经由连接线15将已宽带对准的声道发送回参数确定器100。然后,参数确定器100从相对于宽带特性已经对准的多声道信号确定多个窄带对准参数。但是,在其它实施例中,无需这个具体过程序列而确定参数。
图14a图示优选实现,其中执行引起连接线15的具体步骤序列。在步骤16中,使用两个声道确定宽带对准参数,并且获得诸如声道间时间差或ITD参数之类的宽带对准参数。然后,在步骤21中,使用宽带对准参数通过图12的信号对准器200对准两个声道。然后,在步骤17中,在参数确定器100内使用已对准的声道确定窄带参数,以确定多个窄带对准参数,诸如用于多声道信号的不同频带的多个声道间相位差参数。然后,在步骤22中,使用针对这个具体频带的对应窄带对准参数来对准每个参数频带中的频谱值。当针对每个频带执行步骤22中的这个过程时,对于该频带可获得窄带对准参数,那么已对准的第一和第二或左/右声道可获得以用于由图12的信号处理器300进行的进一步信号处理。
图14b图示图12的多声道编码器的另一个实现,其中在频域中执行若干过程。
具体而言,多声道编码器还包括时间-频谱转换器150,其用于将时域多声道信号转换成频域内的至少两个声道的频谱表示。
此外,如152处所示,图12中的100、200和300处所示的参数确定器、信号对准器和信号处理器全都在频域中操作。
此外,多声道编码器并且具体而言是信号处理器还包括频谱-时间转换器154,其用于至少生成中间信号的时域表示。
优选地,频谱时间转换器附加地将也通过方框152表示的过程确定的侧边信号的频谱表示转换成时域表示,然后图12的信号编码器400被配置为进一步编码中间信号和/或侧边信号作为时域信号,这取决于图12的信号编码器400的具体实现。
优选地,图14b的时间-频谱转换器150被配置为实现图14c的步骤155、156和157。具体而言,步骤155包括提供分析窗口,在其一端具有至少一个零填补部分,并且具体而言在初始窗口部分处的零填补部分和在终止窗口部分处的零填补部分,例如,如图7稍后所示。此外,分析窗口还附加地具有在窗口的第一半部分和窗口的第二半部分处的重叠范围或重叠部分,并且附加地优选地中间部分是非重叠范围,视情况而定。
在步骤156中,使用具有重叠范围的分析窗口对每个声道进行开窗。具体而言,以获得声道的第一块的方式使用分析窗口对每个声道进行开窗。随后,获得与第一块具有一定重叠范围的相同声道的第二块,依此类推,使得在例如五个开窗操作之后,可获得每个声道的经开窗的样本的五个块,然后如图14c中的157所示,这些块被单独地变换成频谱表示。对于另一个声道也执行相同的过程,使得在步骤157结束时,可获得频谱值并且具体而言是复数频谱值(诸如DFT频谱值或复数子带样本)的块的序列。
在由图12的参数确定器100执行的步骤158中,确定宽带对准参数,并且在由图12的信号对准200执行的步骤159中,使用宽带对准参数执行循环移位。在再次由图12的参数确定器100执行的步骤160中,针对各个频带/子频带确定窄带对准参数,并且在步骤161中,使用针对特定频带确定的对应窄带对准参数针对每个频带旋转已对准的频谱值。
图14d图示由信号处理器300执行的进一步的过程。具体而言,信号处理器300被配置为计算中间信号和侧边信号,如步骤301所示。在步骤302中,可以执行侧边信号的某种进一步处理,然后,在步骤303中,将中间信号和侧边信号的每个块变换回时域,并且在步骤304中,合成窗口被应用于通过步骤303获得的每个块,并且在步骤305中,一方面对中间信号进行重叠相加操作,另一方面对侧边信号进行重叠相加操作,以最终获得时域中间/侧边信号。
具体而言,步骤304和305的操作在中间信号或侧边信号的下一个块中导致来自中间信号或侧边信号的一个块的一种交叉衰落,并且执行侧边信号,使得即使当任何参数(诸如声道间时间差参数或声道间相位差参数)改变发生时,这也将在图14d中由步骤305获得的时域中间/侧边信号中不可听。
图13图示用于对在输入线50处接收的经编码的多声道信号进行解码的装置的实施例的框图。
特别地,信号由输入接口600接收。连接到输入接口600的是信号解码器700和信号去对准器900。此外,信号处理器800一方面连接到信号解码器700,另一方面连接到信号去对准器。
特别地,经编码的多声道信号包括经编码的中间信号、经编码的侧边信号、关于宽带对准参数的信息和关于多个窄带参数的信息。因此,线50上的经编码的多声道信号可以是与由图12的500的输出接口输出的信号完全相同的信号。
但是,重要的是,在这里要注意,与图12中所示的相反,以一定形式包括在经编码的信号中的宽带对准参数和多个窄带对准参数可以恰好是由图12中的信号对准器200使用的对准参数,但也可以是其逆值,即,可以被信号对准器200执行的完全相同的操作使用但具有逆值以使得实现去对准的参数。
因此,关于对准参数的信息可以是由图12中的信号对准器200使用的对准参数,或者可以是逆值(即,实际的“去对准参数”)。此外,这些参数通常将以某种形式被量化,这将在后面关于图8讨论。
图13的输入接口600从经编码的中间/侧边信号中分离出关于宽带对准参数和多个窄带对准参数的信息,并且经由参数线610将这种信息转发到信号去对准器900。另一方面,经编码的中间信号经由线601被转发到信号解码器700,并且经编码的侧边信号经由信号线602被转发到信号解码器700。
信号解码器被配置为用于解码经编码的中间信号并用于解码经编码的侧边信号,以获得线701上的经解码的中间信号和线702上的经解码的侧边信号。信号处理器800使用这些信号来从经解码的中间信号和经解码的侧边信号计算经解码的第一声道信号或经解码的左信号以及经解码的第二声道或经解码的右声道信号,并且分别在线801、802上输出经解码的第一声道和经解码的第二声道。信号去对准器900被配置为用于使用关于宽带对准参数的信息并且附加地使用关于多个窄带对准参数的信息来去对准线801上的经解码的第一声道和经解码的右声道802,以获得经解码的多声道信号(即,在线901和902上具有至少两个经解码且去对准的声道的解码信号)。
图9a图示由图13的信号去对准器900执行的优选步骤序列。具体而言,步骤910接收在图13的线801、802上可获得的已对准的左和右声道。在步骤910中,信号去对准器900使用关于窄带对准参数的信息使各个子频带去对准,以便在911a和911b获得相位去对准的经解码的第一和第二或左和右声道。在步骤912中,使用宽带对准参数对声道进行去对准,使得在913a和913b处获得相位和时间去对准的声道。
在步骤914中,执行任何进一步的处理,包括使用开窗或任何重叠-相加操作,或者一般而言任何交叉衰落操作,以便在915a或915b处获得伪声减少或无伪声的解码信号,即,不具有任何伪声的解码声道,尽管通常存在一方面用于宽带另一方面用于多个窄带的时间变化的去对准参数。
图15b图示图13中所示的多声道解码器的优选实现。
特别地,图13的信号处理器800包括时间-频谱转换器810。
信号处理器还包括中间/侧边到左/右转换器820,以便根据中间信号M和侧边信号S计算左信号L和右信号R。
但是,重要的是,为了在方框820中通过中间/侧边-左/右转换来计算L和R,不必使用侧边信号S。相反,如稍后所讨论的,最初仅使用从声道间声级差参数ILD导出的增益参数来计算左/右信号。因此,在这个实现中,侧边信号S仅在声道更新器830中使用,声道更新器830操作,以使用所发送的侧边信号S提供更好的左/右信号,如旁路线821所示。
因此,转换器820使用通过声级参数输入822获得的声级参数操作并且实际上不使用侧边信号S,但是声道更新器830然后使用侧边821操作,并且取决于具体实现,使用经由线831接收的立体声填充参数。信号对准器900然后包括相位去对准器和能量缩放器910。能量缩放由缩放因子计算器940导出的缩放因子控制。缩放因子计算器940由声道更新器830的输出馈送。基于经由输入911接收的窄带对准参数,执行相位去对准,并且在方框920中,基于经由线921接收的宽带对准参数执行时间去对准。最后,执行频谱-时间转换930,以便最终获得经解码的信号。
图15c图示在优选实施例中通常在图15b的方框920和930内执行的另一个步骤序列。
具体而言,窄带去对准声道被输入到与图15b的方框920对应的宽带去对准功能。在方框931中执行DFT或任何其它变换。在实际计算时域样本之后,执行使用合成窗口的可选合成开窗。合成窗口优选地与分析窗口完全相同或者从分析窗口导出,例如内插或抽取,但是以某种方式取决于分析窗口。这种相依性优选地使得由两个重叠窗口定义的乘法因子对于重叠范围中的每个点加起来为一。因此,在方框932中的合成窗口之后,执行重叠操作和随后的相加操作。可替代地,代替合成开窗和重叠/相加操作,执行每个声道的后续块之间的任何交叉衰落,以便如已在图15a的上下文中所讨论的那样获得伪声减少的经解码的信号。
当考虑图4b时,变得清楚的是,对于中间信号的实际解码操作,即一方面是“EVS解码器”,以及对于侧边信号,逆向量量化VQ-1和逆MDCT操作(IMDCT)与图13的信号解码器700对应。
此外,方框810中的DFT操作与图15b中的元件810对应,并且逆立体声处理和逆时移的功能与图13的方框800、900对应,并且图4b中的逆DFT操作与图15b中的方框930中的对应操作对应。
随后,更详细地讨论图3d。特别地,图3d图示具有各个频谱线的DFT频谱。优选地,图3d中所示的DFT频谱或任何其它频谱是复数频谱,并且每条线是具有量值和相位或具有实部和虚部的复数频谱线。
此外,频谱也被分成不同的参数频带。每个参数频带具有至少一条并且优选地多于一条频谱线。此外,参数频带从较低频率增加到较高频率。通常,宽带对准参数是整个频谱(即,对于包括图3d中的示例性实施例中的所有频带1至6的频谱)的单个宽带对准参数。
此外,提供多个窄带对准参数,使得对于每个参数频带存在单个对准参数。这意味着频带的对准参数始终适用于对应频带内的所有频谱值。
此外,除了窄带对准参数之外,还为每个参数频带提供声级参数。
与为从频带1到频带6的每个参数频带提供的声级参数相比,优选的是仅为有限数量的较低频带(诸如频带1、2、3和4)提供多个窄带对准参数。
此外,为除较低频带之外的一定数量的频带(诸如在示例性实施例中为频带4、5和6)提供立体声填充参数,同时对于较低参数频带1、2和3存在侧边信号频谱值,因此,对于这些较低频带不存在立体声填充参数,其中使用侧边信号本身或者表示侧边信号的预测残差信号获得波形匹配。
如上所述,在较高频带中存在更多的频谱线,例如,在图3d的实施例中,参数频带6中的七条频谱线对参数频带2中的仅三条频谱线。但是,自然地,参数频带的数量、频谱线的数量和参数频带内的频谱线数量以及某些参数的不同限值将是不同的。
不过,图8图示在某个实施例中参数的分布以及为其提供参数的频带的数量,在该实施例中与图3d相比,实际上有12个频带。
如图所示,为12个频带中的每一个提供声级参数ILD,并将其量化至由每频带5个比特表示的量化精度。
此外,窄带对准参数IPD仅被提供给直到2.5kHz的边界频率的较低频带。另外,声道间时间差或宽带对准参数仅提供作为整个频谱的单个参数,但具有整个频带由8比特表示的非常高的量化精度。
此外,提供非常粗略量化的立体声填充参数,由每频带三比特表示,并且不用于低于1kHz的较低频带,因为对于较低频带,包括经实际编码的侧边信号或侧边信号残差频谱值。
随后,总结编码器侧的优选处理。在第一步骤中,执行左和右声道的DFT分析。这个过程与图14c的步骤155至157对应。计算宽带对准参数,特别是优选的宽带对准参数声道间时间差(ITD)。执行频域中的L和R的时移。可替代地,也可以在时域中执行这个时移。然后执行逆DFT,在时域中执行时移,并且执行附加的前向DFT,以便在使用宽带对准参数进行对准之后再次具有频谱表示。
针对移位后的L和R表示上的每个参数频带计算ILD参数,即,声级参数和相位参数(IPD参数)。例如,这个步骤与图14c的步骤160对应。经时移的L和R表示作为声道间相位差参数的函数被旋转,如图14c的步骤161所示。随后,如步骤301所示计算中间和侧边信号,并且优选地,附加地有如稍后讨论的能量会话操作。此外,执行S的预测,利用作为ILD的函数的M并且可选地利用过去的M信号,即,较早帧的中间信号。随后,执行中间信号和侧边信号的逆DFT,其与优选实施例中图14d的步骤303、304、305对应。
在最后的步骤中,对时域中间信号m和可选地残差信号进行编码。这个过程与图12中的信号编码器400所执行的过程对应。
在逆立体声处理中,在解码器处,在DFT域中生成侧边(Side)信号,并且首先从中间(Mid)信号预测,如下:
其中g是为每个参数频带计算的增益,并且是发送的声道间声级差(ILD)的函数。
然后可以通过两种不同的方式精炼预测残差Side-g·Mid:
-通过残差信号的次编码:
其中gcod是针对整个频谱传输的全局增益
-通过称为立体声填充的残差预测,利用来自先前DFT帧的先前经解码的Mid信号频谱预测残差侧边频谱:
其中gpred是针对每个参数频带传输的预测增益。
两种类型的编码精炼可以在相同的DFT频谱内混合。在优选实施例中,残差编码应用于较低参数频带,而残差预测应用于剩余频带。在优选实施例中,如图12中所描绘的,在时域中合成残差侧边信号并通过MDCT对其进行变换之后在MDCT域中执行残差编码。与DFT不同,MDCT是关键取样的,并且更适合音频编码。MDCT系数通过格型向量量化被直接向量量化,但也可以可替代地被由熵编码器跟随的标量量化器编码。可替代地,残差侧边信号也可以通过语音编码技术在时域中编码,或者直接在DFT域中编码。
随后描述联合立体声/多声道编码器处理或逆立体声/多声道处理的另一个实施例。
1.时频分析:DFT
重要的是,来自由DFT进行的立体声处理的额外时间-频率分解允许良好的听觉场景分析,而不会显著增加编码系统的整体延迟。在缺省情况下,使用10ms的时间分辨率(核心编码器的20ms成帧的两倍)。分析和合成窗口是相同的并且是对称的。该窗口在图7中以16kHz的取样率表示。可以观察到,重叠区域被限制用于减少产生的延迟,并且当在频域中应用ITD时,还添加零填补以平衡循环移位。这将在下文中解释。
2.立体声参数
最大可以以立体声DFT的时间分辨率传输立体声参数。最小可以将其降低到核心编码器的成帧分辨率,即,20ms。在缺省情况下,当未检测到瞬变时,在2个DFT窗口上每20ms计算参数。参数频带构成遵循大约为等效矩形带宽(ERB)的2倍或4倍的频谱的非均匀和非重叠分解。在缺省情况下,4倍ERB标度被用于频率带宽为16kHz(32kbps取样率,超宽带立体声)的总共12个频带。图8概括配置的示例,其中立体声边信息以大约5kbps传输。
3.ITD和声道时间对准的计算
通过使用相位变换广义互相关(GCC-PHAT)估计到达时间延迟(TDOA)来计算ITD:
其中L和R分别是左和右声道的频谱。频率分析可以独立于用于后续立体声处理的DFT执行,或者可以共享。用于计算ITD的伪代码如下:
/>
ITD计算也可以总结如下。取决于频谱平坦度测量,在平滑之前在频域中计算互相关。SFM在0和1之间界定。在类噪声的信号的情况下,SFM将为高(即,大约1)并且平滑将是弱的。在类音调的信号的情况下,SFM将为低并且平滑将变得更强。然后,平滑后的互相关在被变换回时域之前通过其振幅被归一化。归一化与互相关的相位变换对应,并且已知在低噪声和相对高的混响环境中表现出比正常互相关更好的性能。首先对如此获得的时域函数进行滤波,以实现更健壮的峰值峰化(peaking)。对应于最大振幅的索引与左和右声道(ITD)之间的时间差的估计对应。如果最大值的振幅低于给定阈值,那么ITD的估计不被认为是可靠的并且被设置为零。
如果在时域中应用时间对准,那么在分离的DFT分析中计算ITD。移位如下进行:
它需要编码器处的额外延迟,其至多等于可以处理的最大绝对ITD。通过DFT的分析窗口来平滑ITD随时间的变化。
可替代地,可以在频域中执行时间对准。在这种情况下,ITD计算和循环移位处于相同的DFT域中,与这另一个立体声处理共享的域。该循环移位由下式给出:
需要零填补DFT窗口以循环移位模拟时移。零填补的大小与可以处理的最大绝对ITD对应。在优选实施例中,通过在两端都添加3.125ms的零,零填补均匀地分裂在分析窗口的两侧。于是ITD最大可能绝对值是6.25ms。在A-B麦克风设置中,它与两个麦克风之间的最大距离约为2.15米的最坏情况对应。ITD随时间的变化通过合成开窗和DFT的重叠-相加来平滑。
重要的是时移之后是已移位信号的开窗。它是与现有技术双耳线索编码(BCC)的主要区别,其中时移被应用于开窗信号,但在合成阶段不进一步开窗。因此,ITD随时间的任何变化都会在解码信号中产生伪声瞬态/卡嚓声。
4.IPD的计算和声道旋转
在时间对准两个声道之后计算IPD,并且取决于立体声配置,这用于每个参数频带或至少上至给定的ipd_max_band。
IPD然后应用于两个声道,用于对准其相位:
其中β=atan2(sin(IPDi[b])、cos(IPDi[b])+c)、并且b是频率索引k属于的参数频带索引。参数β负责在两个声道之间分布相位旋转量,同时使它们的相位对准。β取决于IPD,但也取决于声道的相对振幅声级ILD。如果声道具有较高的振幅,那么它将被视为引导声道,并且相位旋转对其的影响将小于具有较低振幅的声道。
5.和-差和侧边信号编码
以能量保存在中间信号中的方式对两个声道的经时间和相位对准的频谱执行和差变换。
其中在1/1.2和1.2(即,-1.58和+1.58dB)之间被界定。当调整M和S的能量时,这个限制避免了伪声。值得注意的是,当预先对准时间和相位时,这种能量守恒不太重要。可替代地,可以增加或减小边界。
侧边信号S进一步用M预测:
S′(f)=S(f)-g(ILD)M(f)
其中其中/>可替代地,可以通过最小化残差和由前一方程式推出的ILD的均方差(MSE)来找到最佳预测增益g。
残差信号S′(f)可以通过两种方式建模:通过用M的延迟频谱预测它或者通过在MDCT域中直接编码它。
6.立体声解码
中间信号X和侧边信号S首先如下被转换成左和右声道L和R:
Li[k]=Mi[k]+gMi[k],对于band_limits[b]≤k<band_limits[b+1],
Ri[k]=Mi[k]-gMi[k],对于band_limits[b]≤k<band_limits[b+1],
其中每个参数频带的增益g是从ILD参数得出的:
其中/>
对于低于cod_max_band的参数频带,使用经解码的侧边信号更新两个声道:
Li[k]=Li[k]+cod_gaini·Si[k],对于0≤k<band_limits[cod_max_band],
Ri[k]=Ri[k]-cod_gaini·Si[k],对于0≤k<band_limits[cod_max_band],
对于较高的参数频带,预测侧边信号并将声道更新为:
Li[k]=Li[k]+cod_predi[b]·Mi-1[k],对于band_limits[b]≤k<band_limits[b+1],
Ri[k]=Ri[k]-cod_predi[b]·Mi-1[k],对于band_limits[b]≤k<band_limits[b+1],
最后,声道乘以复数值,旨在恢复立体声信号的原始能量和声道间相位:
其中
其中a如前面所定义的那样定义和界定,并且其中β=atan2(sin(IPDi[b])、cos(IPDi[b])+c)i,并且其中atan2(x,y)是x对y的四象限反正切。
最后,取决于所传输的ITD,声道在时域或者频域中时移。时域声道通过逆DFT和重叠-相加来合成。
本发明的经编码的音频信号可以存储在数字存储介质或非暂时性存储介质上,或者可以在诸如无线传输介质或有线传输介质(互联网)的传输介质上传输。
虽然已经在装置的上下文中描述了一些方面,但是显然这些方面也表示对应方法的描述,其中方框或设备与方法步骤或方法步骤的特征对应。类似地,在方法步骤的上下文中描述的方面也表示对应装置的对应方框或项或特征的描述。
取决于某些实现要求,本发明的实施例可以用硬件或软件实现。实现可以使用其上存储有电子可读控制信号的数字存储介质来执行,例如软盘、DVD、CD、ROM、PROM、EPROM、EEPROM或FLASH存储器,电子可读控制信号与可编程计算机系统协作(或者能够与其协作),使得执行相应的方法。
根据本发明的一些实施例包括具有电子可读控制信号的数据载体,电子可读控制信号能够与可编程计算机系统协作,使得执行本文所述的方法之一。
一般而言,本发明的实施例可以被实现为具有程序代码的计算机程序产品,在计算机程序产品在计算机上运行时,该程序代码可操作用于执行这些方法之一。程序代码可以例如存储在机器可读载体上。
其它实施例包括用于执行本文所述方法之一的计算机程序,其存储在机器可读载体或非瞬态存储介质上。
换句话说,本发明方法的实施例因此是具有程序代码的计算机程序,当计算机程序在计算机上运行时,该程序代码用于执行本文所述的方法之一。
因此,本发明方法的另一个实施例是数据载体(或数字存储介质,或计算机可读介质),其包括记录在其上的用于执行本文所述方法之一的计算机程序。
因此,本发明方法的另一个实施例是表示用于执行本文所述方法之一的计算机程序的数据流或信号序列。数据流或信号序列可以例如被配置为经由数据通信连接被传送,例如经由互联网。
另一个实施例包括处理装置,例如计算机或可编程逻辑设备,其被配置为或适于执行本文所述的方法之一。
另一个实施例包括计算机,其上安装有用于执行本文所述方法之一的计算机程序。
在一些实施例中,可编程逻辑设备(例如现场可编程门阵列)可以用于执行本文所述方法的一些或全部功能。在一些实施例中,现场可编程门阵列可以与微处理器协作,以便执行本文描述的方法之一。一般而言,方法优选地由任何硬件装置执行。
上述实施例仅用于说明本发明的原理。要理解的是,本文描述的布置和细节的修改和变化对于本领域技术人员而言将是显而易见的。因此,其意图仅受到随后专利权利要求的范围限制,而不受通过本文实施例的描述和解释给出的具体细节的限制。

Claims (43)

1.一种用于编码包括至少两个声道的多声道信号的装置,包括:
时间-频谱转换器(1000),用于将所述至少两个声道的取样值的块的序列转换成具有用于所述至少两个声道的频谱值的块的序列的频域表示;
多声道处理器(1010),用于对频谱值的块的序列应用联合多声道处理,以获得包括与所述至少两个声道相关的信息的频谱值的块的至少一个结果序列;
频谱-时间转换器(1030),用于将频谱值的块的结果序列转换成包括取样值的块的输出序列的时域表示;
核心编码器(1040),用于对取样值的块的输出序列进行编码,以获得经编码的多声道信号(1510),
其中所述核心编码器(1040)被配置为根据第一帧控制而操作以提供帧序列,其中帧由起始帧边界(1901)和结束帧边界(1902)界定,以及
其中所述时间-频谱转换器(1000)或所述频谱-时间转换器(1030)被配置为根据与所述第一帧控制同步的第二帧控制而操作,其中帧序列的每一帧的起始帧边界(1901)或结束帧边界(1902)与针对取样值的块的序列的每个块由所述时间-频谱转换器(1000)使用的或针对取样值的块的输出序列的每个块由所述频谱-时间转换器(1030)使用的窗口的重叠部分的起始时刻或结束时刻呈预定关系。
2.如权利要求1所述的装置,其中由所述时间-频谱转换器(1000)使用的分析窗口或由所述频谱-时间转换器(1030)使用的合成窗口各自具有增加的重叠部分和减小的重叠部分,其中所述核心编码器(1040)包括具有先行的时域编码器或具有核心窗口的重叠部分的频域编码器,以及
其中所述分析窗口或所述合成窗口的重叠部分小于或等于所述核心编码器(1040)的先行部分或所述核心窗口的重叠部分。
3.如权利要求1所述的装置,
其中所述核心编码器(1040)被配置为当对从具有相关联输出取样率的取样值的块的输出序列得出的帧进行核心编码时使用先行部分,所述先行部分在时间上位于所述帧之后,
其中所述时间-频谱转换器(1000)被配置为使用具有重叠部分的分析窗口(1904),所述重叠部分的时间长度小于或等于所述先行部分的时间长度,其中所述分析窗口的重叠部分用于生成经开窗的先行部分。
4.如权利要求3所述的装置,
其中所述频谱-时间转换器(1030)被配置为使用修正函数处理与所述经开窗的先行部分对应的输出先行部分,其中所述修正函数被配置为使得所述分析窗口的重叠部分的影响减少或消除。
5.如权利要求4所述的装置,
其中所述修正函数与定义所述分析窗口的重叠部分的函数相逆。
6.如权利要求4所述的装置,
其中所述重叠部分与正弦函数的平方根成比例,
其中所述修正函数与所述正弦函数的平方根倒数成比例,以及
其中所述频谱-时间转换器(1030)被配置为使用与升到1.5次幂的正弦函数成比例的重叠部分。
7.如权利要求1所述的装置,
其中所述频谱-时间转换器(1030)被配置为使用合成窗口生成第一输出块,并且使用所述合成窗口生成第二输出块,其中所述第二输出块的第二部分是输出先行部分(1905),
其中所述频谱-时间转换器(1030)被配置为使用所述第一输出块和除所述输出先行部分(1905)之外的所述第二输出块的部分之间的重叠-相加操作来生成帧的取样值,
其中所述核心编码器(1040)被配置为将先行操作应用于所述输出先行部分(1905),以便确定用于对帧进行核心编码的编码信息,以及
其中所述核心编码器(1040)被配置为使用所述先行操作的结果对帧进行核心编码。
8.如权利要求7所述的装置,
其中所述频谱-时间转换器(1030)被配置为使用所述合成窗口生成在所述第二输出块之后的第三输出块,其中所述频谱-时间转换器(1030)被配置为将所述第三输出块的第一重叠部分与所述第二输出块的使用合成窗口开窗的第二部分重叠,以获得在时间上跟随所述帧的另一个帧的样本。
9.如权利要求8所述的装置,
其中,所述频谱-时间转换器(1030)被配置为在生成用于帧的第二输出块时不对输出先行部分进行开窗或者对输出先行部分进行修正,用于至少部分地撤销由所述时间-频谱转换器(1000)使用的分析窗口的影响,以及
其中所述频谱-时间转换器(1030)被配置为针对所述另一个帧执行所述第二输出块和所述第三输出块之间的重叠-相加操作(1924)并且利用所述合成窗口对所述输出先行部分开窗。
10.如权利要求1所述的装置,
其中所述频谱-时间转换器(1030)被配置为
使用合成窗口来生成输出样本的第一块和输出样本的第二块,
重叠-相加所述第一块的第二部分和所述第二块的第一部分,以生成输出样本的部分,
其中所述核心编码器(1040)被配置为对输出样本的所述部分应用先行操作,用于对在时间上位于输出样本的所述部分之前的输出样本进行核心编码,其中所述先行部分不包括所述第二块的样本的第二部分。
11.如权利要求1所述的装置,
其中所述频谱-时间转换器(1030)被配置为使用提供高于核心编码器帧的长度的两倍的时间分辨率的合成窗口,或者
其中所述频谱-时间转换器(1030)被配置为使用合成窗口以生成输出样本的块并执行重叠-相加操作,其中使用所述重叠-相加操作计算所述核心编码器(1040)的先行部分中的所有样本,或者
其中所述频谱-时间转换器(1030)被配置为对所述输出样本应用先行操作,用于对在时间上位于所述部分之前的输出样本进行核心编码,其中所述先行部分不包括第二块的样本的第二部分。
12.如权利要求1所述的装置,
其中取样值的块具有相关联输入取样率,并且频谱值的块的序列的频谱值的块具有高达与输入取样率相关的最大输入频率(1211)的频谱值;
其中所述装置还包括频谱域重新取样器(1020),所述频谱域重新取样器(1020)用于在频域中对输入到所述频谱-时间转换器(1030)的数据或者对输入到所述多声道处理器(1010)的数据执行重新取样操作,其中频谱值的块的重新取样序列的块具有高达不同于所述最大输入频率(1211)的最大输出频率(1231,1221)的频谱值;
其中取样值的块的输出序列具有与输入取样率不同的相关联输出取样率。
13.如权利要求12所述的装置,
其中所述频谱域重新取样器(1020)被配置为用于为了下取样而截短所述块或用于为了上取样而对所述块进行零填补。
14.如权利要求12所述的装置,
其中所述频谱域重新取样器(1020)被配置为用于使用取决于所述最大输入频率(1211)并且取决于所述最大输出频率(1231,1221)的缩放因子对块的结果序列的块的频谱值进行缩放(1322)。
15.如权利要求14所述的装置,
其中,在上取样的情况下,所述缩放因子大于1,其中输出取样率大于输入取样率,或者其中在下取样的情况下,所述缩放因子低于1,其中输出取样率低于输入取样率,或者
其中所述时间-频谱转换器(1000)被配置为不使用关于频谱值的块的频谱值的总数的归一化而执行时间-频率变换算法(1311),并且其中所述缩放因子等于重新取样序列的块的频谱值的数量与重新取样之前的频谱值的块的频谱值的数量之间的商,并且其中所述频谱-时间转换器(1030)被配置为基于所述最大输出频率(1231,1221)应用归一化。
16.如权利要求1所述的装置,
其中所述时间-频谱转换器(1000)被配置为执行离散傅里叶变换算法,或者其中所述频谱-时间转换器(1030)被配置为执行逆离散傅里叶变换算法。
17.如权利要求1所述的装置,
其中所述多声道处理器(1010)被配置为获得频谱值的块的另外结果序列,以及
其中所述频谱-时间转换器(1030)被配置为用于将频谱值的所述另外结果序列转换成包括取样值的块的另外输出序列的另外时域表示(1032),所述取样值的块的另外输出序列具有等于输入取样率的相关联输出取样率。
18.如权利要求12所述的装置,
其中所述多声道处理器(1010)被配置为提供频谱值的块的再另外结果序列,
其中所述频谱域重新取样器(1020)被配置为用于在频域中重新取样所述再另外结果序列的块,以获得频谱值的块的另外重新取样序列,其中所述另外重新取样序列的块具有高达不同于所述最大输入频率或者不同于所述最大输出频率(1231,1221)的另外最大输出频率的频谱值,
其中所述频谱-时间转换器(1030)被配置为用于将频谱值的块的另外重新取样序列转换成包括取样值的块的再另外输出序列的再另外时域表示,所述取样值的块的再另外输出序列具有不同于输入取样率或输出取样率的相关联另外输出取样率。
19.如权利要求1所述的装置,
其中所述多声道处理器(1010)被配置为仅使用降混操作生成中间信号作为频谱值的块的至少一个结果序列,或生成附加侧边信号作为频谱值的块的另外结果序列。
20.如权利要求12所述的装置,
其中所述多声道处理器(1010)被配置为生成中间信号作为所述至少一个结果序列,其中所述频谱域重新取样器(1020)被配置为将所述中间信号重新取样成具有不同于所述最大输入频率(1211)的两个不同最大输出频率的两个独立序列,
其中所述频谱-时间转换器(1030)被配置为将两个重新取样序列转换成具有不同取样率的两个输出序列,以及
其中所述核心编码器(1040)包括用于以第一取样率预处理第一输出序列的第一预处理器(1430c)或用于以第二取样率预处理第二输出序列的第二预处理器(1430d),以及
其中所述核心编码器(1040)被配置为对第一预处理输出序列或第二预处理输出序列进行核心编码,或者
其中所述多声道处理器被配置为生成侧边信号作为所述至少一个结果序列,其中所述频谱域重新取样器(1020)被配置为将所述侧边信号重新取样成具有不同于所述最大输入频率(1211)的两个不同最大输出频率的两个重新取样序列,
其中所述频谱-时间转换器(1030)被配置为将两个重新取样序列转换成具有不同取样率的两个输出序列,以及
其中所述核心编码器(1040)包括用于预处理第一输出序列和第二输出序列的第一预处理器(1430c)和第二预处理器(1430d);以及
其中所述核心编码器(1040)被配置为对第一预处理输出序列或第二预处理输出序列进行核心编码。
21.如权利要求1所述的装置,
其中所述频谱-时间转换器(1030)被配置为不进行任何频谱域重新取样而将所述至少一个结果序列转换成时域表示,以及
其中所述核心编码器(1040)被配置为对非重新取样输出序列进行核心编码,以获得经编码的多声道信号,或者
其中所述频谱-时间转换器(1030)被配置为在没有侧边信号情况下不进行任何频谱域重新取样而将所述至少一个结果序列转换成时域表示,以及
其中所述核心编码器(1040)被配置为对用于所述侧边信号的非重新取样输出序列进行核心编码,以获得经编码的多声道信号,或者
其中所述装置还包括特定频谱域侧边信号编码器(1430e),或者
其中输入取样率是包括8kHz、16kHz,32kHz的取样率群组中的至少一个取样率,或者
其中输出取样率是包括8kHz、12.8kHz、16kHz、25.6kHz和32kHz的取样率群组中的至少一个取样率。
22.如权利要求1所述的装置,
其中所述时间-频谱转换器(1000)被配置为应用分析窗口,
其中所述频谱-时间转换器(1030)被配置为应用合成窗口,
其中所述分析窗口的时间长度等于所述合成窗口的时间长度或为所述合成窗口的时间长度的整数倍数或整数因子,或者
其中所述分析窗口和所述合成窗口各自在其初始部分或结束部分处具有零填补部分,或者
其中所述分析窗口和所述合成窗口使得窗口大小、重叠区域大小和零填补大小对于包括12.8kHz、16kHz、22.6kHz、32kHz,48kHz的取样率群组中的至少两个取样率各自包括整数个样本,或者
其中分裂基数实现中的数字傅里叶变换的最大基数小于或等于7,或者其中时间分辨率固定到小于或等于所述核心编码器(1040)的帧速率的值。
23.如权利要求1所述的装置,
其中所述多声道处理器(1010)被配置为处理块的序列以使用宽带时间对准参数(12)获得时间对准,并且使用多个窄带相位对准参数(14)获得窄带相位对准,以及使用已对准的序列计算中间信号和侧边信号作为结果序列。
24.一种编码包括至少两个声道的多声道信号的方法,包括:
将所述至少两个声道的取样值的块的序列时间-频谱转换成具有用于所述至少两个声道的频谱值的块的序列的频域表示;
对频谱值的块的序列应用联合多声道处理,以获得包括与所述至少两个声道相关的信息的频谱值的块的至少一个结果序列;
将频谱值的块的结果序列频谱-时间转换成包括取样值的块的输出序列的时域表示;以及
对取样值的块的输出序列进行核心编码,以获得经编码的多声道信号(1510),
其中核心编码根据第一帧控制进行操作以提供帧序列,其中帧由起始帧边界(1901)和结束帧边界(1902)界定,以及
其中时间-频谱转换或频谱-时间转换根据与第一帧控制同步的第二帧控制进行操作,其中帧序列的每一帧的起始帧边界(1901)或结束帧边界(1902)与针对取样值的块的序列的每个块由时间-频谱转换使用的或针对取样值的块的输出序列的每个块由频谱-时间转换使用的窗口的重叠部分的起始时刻或结束时刻呈预定关系。
25.一种用于解码经编码的多声道信号的装置,包括:
核心解码器(1600),用于生成经核心解码的信号;
时间-频谱转换器(1610),用于将所述经核心解码的信号的取样值的块的序列转换成频域表示,所述频域表示具有用于所述经核心解码的信号的频谱值的块的序列;
多声道处理器(1630),用于对包括块的序列的序列应用逆多声道处理,以获得频谱值的块的至少两个结果序列(1631,1632,1635);以及
频谱-时间转换器(1640),用于将频谱值的块的至少两个结果序列(1631,1632,1635)转换成包括取样值的块的至少两个输出序列的时域表示,
其中所述核心解码器(1600)被配置为根据第一帧控制而操作以提供帧序列,其中帧由起始帧边界(1901)和结束帧边界(1902)界定,
其中所述时间-频谱转换器(1610)或者所述频谱-时间转换器(1640)被配置为根据与第一帧控制同步的第二帧控制而操作,以及
其中帧序列的每一帧的起始帧边界(1901)或结束帧边界(1902)与针对取样值的块的序列的每个块由所述时间-频谱转换器(1610)使用的或针对取样值的块的至少两个输出序列的每个块由所述频谱-时间转换器(1640)使用的窗口的重叠部分的起始时刻或结束时刻呈预定关系。
26.如权利要求25所述的装置,
其中所述经核心解码的信号具有帧序列,帧具有所述起始帧边界(1901)和所述结束帧边界(1902),
其中由所述时间-频谱转换器(1610)使用的用于对帧序列的帧进行开窗的分析窗口(1914)具有在所述结束帧边界(1902)之前结束的重叠部分,从而在重叠部分的终点与所述结束帧边界(1902)之间留下时间间隙(1920),以及
其中所述核心解码器(1600)被配置为与使用所述分析窗口(1914)的帧的开窗并行地对所述时间间隙(1920)中的样本执行处理,或者其中与使用所述分析窗口的帧的开窗并行地对所述时间间隙(1920)中的样本执行核心解码器后处理。
27.如权利要求25所述的装置,
其中所述经核心解码的信号具有帧序列,帧具有所述起始帧边界(1901)和所述结束帧边界(1902),
其中分析窗口(1914)的第一重叠部分的起始与所述起始帧边界(1901)重合,并且其中所述分析窗口(1914)的第二重叠部分的终点位于所述结束帧边界(1902)之前,使得时间间隙(1920)存在于所述第二重叠部分的终点与所述结束帧边界(1902)之间,以及
其中定位用于所述经核心解码的信号的后续块的分析窗口,使得所述分析窗口的中间非重叠部分位于所述时间间隙(1920)内。
28.如权利要求25所述的装置,
其中所述时间-频谱转换器(1610)使用的分析窗口具有与所述频谱-时间转换器(1640)使用的合成窗口相同的形状和时间长度。
29.如权利要求25所述的装置,
其中所述经核心解码的信号具有帧序列,其中帧具有长度,其中排除由所述时间-频谱转换器(1610)应用的任何零填补部分的窗口的长度小于或等于帧的长度的一半。
30.如权利要求25所述的装置,
其中所述频谱-时间转换器(1640)被配置为
针对所述至少两个输出序列的第一输出序列应用合成窗口,用于获得经开窗样本的第一输出块;
针对所述至少两个输出序列的第一输出序列应用合成窗口,用于获得经开窗样本的第二输出块;
重叠-相加所述第一输出块和所述第二输出块,以获得用于第一输出序列的输出样本的第一群组;
其中所述频谱-时间转换器(1640)被配置为
针对所述至少两个输出序列的第二输出序列应用合成窗口,用于获得经开窗样本的第一输出块;
针对所述至少两个输出序列的第二输出序列应用合成窗口,用于获得经开窗样本的第二输出块;
重叠-相加所述第一输出块和所述第二输出块,以获得用于所述第二输出序列的输出样本的第二群组;
其中用于所述第一输出序列的输出样本的第一群组和用于所述第二输出序列的输出样本的第二群组与经解码的多声道信号的相同时间部分相关或者与经核心解码的信号的相同帧相关。
31.如权利要求25所述的装置,
核心解码器(1600),用于生成经核心解码的信号;
其中取样值的块具有相关联输入取样率,并且其中频谱值的块具有高达与输入取样率相关的最大输入频率的频谱值;
其中所述装置还包括频谱域重新取样器(1620),所述频谱域重新取样器(1620)用于在频域中对输入到所述频谱-时间转换器(1640)的数据或对输入到所述多声道处理器(1630)的数据执行重新取样操作,其中重新取样序列的块具有高达与所述最大输入频率不同的最大输出频率的频谱值;
其中所述取样值的块的至少两个输出序列具有与输入取样率不同的相关联输出取样率。
32.如权利要求31所述的装置,
其中所述频谱域重新取样器(1620)被配置为用于为了下取样而截短所述块或者用于为了上取样而对所述块进行零填补。
33.如权利要求31所述的装置,
其中所述频谱域重新取样器(1620)被配置为用于使用取决于最大输入频率并取决于最大输出频率的缩放因子对块的结果序列的块的频谱值进行缩放(1322)。
34.如权利要求31所述的装置,
其中在上取样的情况下,缩放因子大于1,其中输出取样率大于输入取样率,或者其中在下取样的情况下,缩放因子小于1,其中输出取样率低于输入取样率,或者
其中所述时间-频谱转换器(1610)被配置为不使用关于频谱值的块的频谱值的总数的归一化而执行时间-频率变换算法(1311),并且其中所述缩放因子等于重新取样序列的块的频谱值的数量与重新取样之前频谱值的块的频谱值的数量之间的商,并且其中所述频谱-时间转换器(1640)被配置为基于所述最大输出频率应用归一化。
35.如权利要求25所述的装置,
其中所述时间-频谱转换器(1610)被配置为执行离散傅里叶变换算法,或者其中所述频谱-时间转换器(1640)被配置为执行逆离散傅里叶变换算法。
36.如权利要求31所述的装置,
其中所述核心解码器(1600)被配置为生成具有不同于输入取样率的另外取样率的另外经核心解码的信号(1601),
其中所述时间-频谱转换器(1610)被配置为将所述另外经核心解码的信号转换成具有用于所述另外经核心解码的信号的频谱值的块的另外序列的频域表示,其中所述另外经核心解码的信号的频谱值的块具有高达不同于所述最大输入频率并且与所述另外取样率相关的另外最大输入频率的频谱值,
其中频谱域重新取样器(1620)被配置为在频域中对用于所述另外经核心解码的信号的块的另外序列重新取样,以获得频谱值的块的另外重新取样序列,其中所述另外重新取样序列的频谱值的块具有高达不同于所述另外最大输入频率的最大输出频率的频谱值;以及
其中所述装置还包括组合器(1700),用于组合所述重新取样序列和所述另外重新取样序列,以获得待由所述多声道处理器(1630)处理的序列。
37.如权利要求25所述的装置,
其中所述核心解码器(1600)被配置为生成再另外经核心解码的信号,所述再另外经核心解码的信号具有等于输出取样率(1603)的另外取样率,
其中所述时间-频谱转换器(1610)被配置为将所述再另外经核心解码的信号转换成频域表示(1613),以获得频谱值的块的再另外序列,
其中所述装置还包括组合器(1700),所述组合器(1700)用于在生成由所述多声道处理器(1630)处理的块的序列的过程中组合所述频谱值的块的再另外序列和块的重新取样序列。
38.如权利要求25所述的装置,
其中所述核心解码器(1600)包括基于MDCT的解码部分(1600d)、时域带宽扩展解码部分(1600c)、ACELP解码部分(1600b)和低音后置滤波器解码部分(1600a)中的至少一个,
其中所述基于MDCT的解码部分(1600d)或所述时域带宽扩展解码部分(1600c)被配置为生成具有输出取样率的经核心解码的信号,或者
其中所述ACELP解码部分(1600b)或所述低音后置滤波器解码部分(1600a)被配置为以与输出取样率不同的取样率生成另外的经核心解码的信号。
39.如权利要求25所述的装置,
其中所述时间-频谱转换器(1610)被配置为将分析窗口应用于多个不同的经核心解码的信号中的至少两个,所述分析窗口具有时间上相同的大小或关于时间具有相同的形状,
其中所述装置还包括组合器(1700),所述组合器(1700)用于基于逐块而组合至少一个重新取样序列和具有高达最大输出频率的频谱值的块的任何其它序列,以获得由所述多声道处理器(1630)处理的序列。
40.如权利要求25所述的装置,
其中由所述多声道处理器(1630)处理的序列与中间信号对应,以及
其中所述多声道处理器(1630)被配置为使用关于包括在经编码的多声道信号中的侧边信号的信息附加地生成侧边信号,以及
其中所述多声道处理器(1630)被配置为使用所述中间信号和所述侧边信号生成至少两个结果序列(1631,1632,1635)。
41.如权利要求40所述的装置,
其中所述多声道处理器(1630)被配置为使用每个参数频带的增益因子将所述序列转换(820)成用于第一输出声道的第一序列和用于第二输出声道的第二序列;
使用经解码的侧边信号更新(830)所述第一序列和所述第二序列,或者使用侧边信号更新第一序列和第二序列,所述侧边信号是使用用于参数频带的立体声填充参数而从用于中间信号的块的序列的较早块预测的;
使用关于多个窄带相位对准参数的信息执行相位去对准和能量缩放;以及
使用关于宽带时间对准参数的信息执行时间去对准,以获得至少两个结果序列(1631,1632,1635)。
42.一种解码经编码的多声道信号的方法,包括:
生成经核心解码的信号;
将所述经核心解码的信号的取样值的块的序列时间-频谱转换成频域表示,所述频域表示具有用于所述经核心解码的信号的频谱值的块的序列;
将逆多声道处理应用于包括块的序列的序列,以获得频谱值的块的至少两个结果序列(1631,1632,1635);
将频谱值的块的至少两个结果序列(1631,1632,1635)频谱-时间转换成包括取样值的块的至少两个输出序列的时域表示,
其中生成所述经核心解码的信号根据第一帧控制而操作,以提供帧序列,其中帧由起始帧边界(1901)和结束帧边界(1902)界定,
其中所述时间-频谱转换或所述频谱-时间转换根据与第一帧控制同步的第二帧控制而操作,以及
其中帧序列的每一帧的起始帧边界(1901)或结束帧边界(1902)与针对取样值的块的序列的每个块由所述时间-频谱转换使用的或针对取样值的块的至少两个输出序列的每个块由所述频谱-时间转换使用的窗口的重叠部分的起始时刻或结束时刻呈预定关系。
43.一种计算机存储介质,具有存储的计算机程序,用于当在计算机或处理器上运行时,执行如权利要求24所述的方法或如权利要求42所述的方法。
CN201780019674.8A 2016-01-22 2017-01-20 使用帧控制同步来编码或解码多声道音频信号的装置和方法 Active CN108885879B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311130088.4A CN117238300A (zh) 2016-01-22 2017-01-20 使用帧控制同步来编码或解码多声道音频信号的装置和方法

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
EP16152453.3 2016-01-22
EP16152453 2016-01-22
EP16152450 2016-01-22
EP16152450.9 2016-01-22
PCT/EP2017/051212 WO2017125562A1 (en) 2016-01-22 2017-01-20 Apparatuses and methods for encoding or decoding a multi-channel audio signal using frame control synchronization

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202311130088.4A Division CN117238300A (zh) 2016-01-22 2017-01-20 使用帧控制同步来编码或解码多声道音频信号的装置和方法

Publications (2)

Publication Number Publication Date
CN108885879A CN108885879A (zh) 2018-11-23
CN108885879B true CN108885879B (zh) 2023-09-15

Family

ID=57838406

Family Applications (6)

Application Number Title Priority Date Filing Date
CN201780002248.3A Active CN107710323B (zh) 2016-01-22 2017-01-20 使用频谱域重新取样来编码或解码音频多通道信号的装置及方法
CN201780018898.7A Active CN108885877B (zh) 2016-01-22 2017-01-20 用于估计声道间时间差的设备及方法
CN201780019674.8A Active CN108885879B (zh) 2016-01-22 2017-01-20 使用帧控制同步来编码或解码多声道音频信号的装置和方法
CN201780018903.4A Active CN108780649B (zh) 2016-01-22 2017-01-20 使用宽带对准参数与多个窄带对准参数编码或解码多声道信号的设备及方法
CN202210761486.5A Pending CN115148215A (zh) 2016-01-22 2017-01-20 使用频谱域重新取样来编码或解码音频多通道信号的装置及方法
CN202311130088.4A Pending CN117238300A (zh) 2016-01-22 2017-01-20 使用帧控制同步来编码或解码多声道音频信号的装置和方法

Family Applications Before (2)

Application Number Title Priority Date Filing Date
CN201780002248.3A Active CN107710323B (zh) 2016-01-22 2017-01-20 使用频谱域重新取样来编码或解码音频多通道信号的装置及方法
CN201780018898.7A Active CN108885877B (zh) 2016-01-22 2017-01-20 用于估计声道间时间差的设备及方法

Family Applications After (3)

Application Number Title Priority Date Filing Date
CN201780018903.4A Active CN108780649B (zh) 2016-01-22 2017-01-20 使用宽带对准参数与多个窄带对准参数编码或解码多声道信号的设备及方法
CN202210761486.5A Pending CN115148215A (zh) 2016-01-22 2017-01-20 使用频谱域重新取样来编码或解码音频多通道信号的装置及方法
CN202311130088.4A Pending CN117238300A (zh) 2016-01-22 2017-01-20 使用帧控制同步来编码或解码多声道音频信号的装置和方法

Country Status (20)

Country Link
US (7) US10535356B2 (zh)
EP (5) EP3405951B1 (zh)
JP (10) JP6641018B2 (zh)
KR (4) KR102230727B1 (zh)
CN (6) CN107710323B (zh)
AU (5) AU2017208576B2 (zh)
BR (4) BR112018014916A2 (zh)
CA (4) CA2987808C (zh)
ES (4) ES2727462T3 (zh)
HK (1) HK1244584B (zh)
MX (4) MX2018008889A (zh)
MY (4) MY181992A (zh)
PL (4) PL3503097T3 (zh)
PT (3) PT3405951T (zh)
RU (4) RU2705007C1 (zh)
SG (3) SG11201806241QA (zh)
TR (1) TR201906475T4 (zh)
TW (4) TWI643487B (zh)
WO (4) WO2017125559A1 (zh)
ZA (3) ZA201804625B (zh)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2671711T3 (es) * 2008-09-18 2018-06-08 Electronics And Telecommunications Research Institute Aparato de codificación y aparato de decodificación para transformar entre codificador basado en transformada de coseno discreta modificada y hetero codificador
PL3503097T3 (pl) * 2016-01-22 2024-03-11 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Urządzenie oraz sposób do enkodowania lub dekodowania sygnału wielokanałowego z wykorzystaniem ponownego próbkowania w dziedzinie widmowej
CN107731238B (zh) * 2016-08-10 2021-07-16 华为技术有限公司 多声道信号的编码方法和编码器
US10224042B2 (en) 2016-10-31 2019-03-05 Qualcomm Incorporated Encoding of multiple audio signals
AU2017357454B2 (en) 2016-11-08 2021-02-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for downmixing or upmixing a multichannel signal using phase compensation
US10475457B2 (en) * 2017-07-03 2019-11-12 Qualcomm Incorporated Time-domain inter-channel prediction
US10839814B2 (en) * 2017-10-05 2020-11-17 Qualcomm Incorporated Encoding or decoding of audio signals
US10535357B2 (en) * 2017-10-05 2020-01-14 Qualcomm Incorporated Encoding or decoding of audio signals
EP3724876B1 (en) 2018-02-01 2022-05-04 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio scene encoder, audio scene decoder and related methods using hybrid encoder/decoder spatial analysis
TWI708243B (zh) * 2018-03-19 2020-10-21 中央研究院 於分散式語音辨識中基於小波轉換之語音特徵壓縮及重建系統與方法
CN112262433B (zh) * 2018-04-05 2024-03-01 弗劳恩霍夫应用研究促进协会 用于估计通道间时间差的装置、方法或计算机程序
CN110556116B (zh) 2018-05-31 2021-10-22 华为技术有限公司 计算下混信号和残差信号的方法和装置
EP3588495A1 (en) 2018-06-22 2020-01-01 FRAUNHOFER-GESELLSCHAFT zur Förderung der angewandten Forschung e.V. Multichannel audio coding
WO2020009082A1 (ja) * 2018-07-03 2020-01-09 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置及び符号化方法
JP7092048B2 (ja) * 2019-01-17 2022-06-28 日本電信電話株式会社 多地点制御方法、装置及びプログラム
EP3719799A1 (en) 2019-04-04 2020-10-07 FRAUNHOFER-GESELLSCHAFT zur Förderung der angewandten Forschung e.V. A multi-channel audio encoder, decoder, methods and computer program for switching between a parametric multi-channel operation and an individual channel operation
WO2020216459A1 (en) 2019-04-23 2020-10-29 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus, method or computer program for generating an output downmix representation
CN110459205B (zh) * 2019-09-24 2022-04-12 京东科技控股股份有限公司 语音识别方法及装置、计算机可存储介质
CN110740416B (zh) * 2019-09-27 2021-04-06 广州励丰文化科技股份有限公司 一种音频信号处理方法及装置
CN110954866B (zh) * 2019-11-22 2022-04-22 达闼机器人有限公司 声源定位方法、电子设备及存储介质
US20220156217A1 (en) * 2019-11-22 2022-05-19 Stmicroelectronics (Rousset) Sas Method for managing the operation of a system on chip, and corresponding system on chip
CN111131917B (zh) * 2019-12-26 2021-12-28 国微集团(深圳)有限公司 音频频谱实时同步方法、播放装置
TWI750565B (zh) * 2020-01-15 2021-12-21 原相科技股份有限公司 真無線多聲道揚聲裝置及其多音源發聲之方法
US11276388B2 (en) * 2020-03-31 2022-03-15 Nuvoton Technology Corporation Beamforming system based on delay distribution model using high frequency phase difference
CN111525912B (zh) * 2020-04-03 2023-09-19 安徽白鹭电子科技有限公司 一种数字信号的任意重采样方法及系统
CN113223503B (zh) * 2020-04-29 2022-06-14 浙江大学 一种基于测试反馈的核心训练语音选择方法
US20230178086A1 (en) * 2020-06-24 2023-06-08 Nippon Telegraph And Telephone Corporation Sound signal encoding method, sound signal encoder, program, and recording medium
EP4175269A4 (en) * 2020-06-24 2024-03-13 Nippon Telegraph & Telephone METHOD FOR DECODING SOUND SIGNALS, DEVICE FOR DECODING SOUND SIGNALS, PROGRAM AND RECORDING MEDIUM
JP2023536156A (ja) * 2020-07-30 2023-08-23 フラウンホーファー-ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン オーディオ信号を符号化する、又は符号化オーディオシーンを復号化する装置、方法及びコンピュータープログラム
MX2023003965A (es) 2020-10-09 2023-05-25 Fraunhofer Ges Forschung Aparato, metodo, o programa de computadora para procesar una escena de audio codificada utilizando una extension de ancho de banda.
AU2021358432A1 (en) 2020-10-09 2023-05-18 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus, method, or computer program for processing an encoded audio scene using a parameter conversion
EP4226367A2 (en) 2020-10-09 2023-08-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus, method, or computer program for processing an encoded audio scene using a parameter smoothing
WO2022153632A1 (ja) * 2021-01-18 2022-07-21 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 信号処理装置、及び、信号処理方法
EP4356373A1 (en) 2021-06-15 2024-04-24 Telefonaktiebolaget LM Ericsson (publ) Improved stability of inter-channel time difference (itd) estimator for coincident stereo capture
CN113435313A (zh) * 2021-06-23 2021-09-24 中国电子科技集团公司第二十九研究所 一种基于dft的脉冲频域特征提取方法
WO2023153228A1 (ja) * 2022-02-08 2023-08-17 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、及び、符号化方法
CN115691515A (zh) * 2022-07-12 2023-02-03 南京拓灵智能科技有限公司 一种音频编解码方法及装置
WO2024053353A1 (ja) * 2022-09-08 2024-03-14 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 信号処理装置、及び、信号処理方法
WO2024074302A1 (en) 2022-10-05 2024-04-11 Telefonaktiebolaget Lm Ericsson (Publ) Coherence calculation for stereo discontinuous transmission (dtx)
CN117476026A (zh) * 2023-12-26 2024-01-30 芯瞳半导体技术(山东)有限公司 一种多路音频数据混音的方法、系统、装置及存储介质

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1275234A (zh) * 1997-10-17 2000-11-29 多尔拜实验特许公司 采用附加的滤波器阵列在帧边界处衰减频谱邻频干扰的基于帧的音频编码
CN1750405A (zh) * 2002-08-21 2006-03-22 中山正音数字技术有限公司 用于从编码后的音频数据流中解码重建多声道音频信号的解码方法
CN101529503A (zh) * 2006-10-18 2009-09-09 弗劳恩霍夫应用研究促进协会 信息信号的编码
CN102089758A (zh) * 2008-07-11 2011-06-08 弗劳恩霍夫应用研究促进协会 用于对采样音频信号的帧进行编码和解码的音频编码器和解码器
CN103000178A (zh) * 2008-07-11 2013-03-27 弗劳恩霍夫应用研究促进协会 提供时间扭曲激活信号以及使用该时间扭曲激活信号对音频信号编码
CN103098126A (zh) * 2010-04-09 2013-05-08 弗兰霍菲尔运输应用研究公司 音频编码器、音频解码器及利用复预测处理多信道音频信号的相关方法
JP2013528824A (ja) * 2010-04-13 2013-07-11 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン オーディオまたはビデオエンコーダ、オーディオまたはビデオデコーダ、及び予測方向可変の予測を使用したマルチチャンネルオーディオまたはビデオ信号処理方法
CN103366751A (zh) * 2012-03-28 2013-10-23 北京天籁传音数字技术有限公司 一种声音编解码装置及其方法
CN103366749A (zh) * 2012-03-28 2013-10-23 北京天籁传音数字技术有限公司 一种声音编解码装置及其方法
EP2830056A1 (en) * 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for encoding or decoding an audio signal with intelligent gap filling in the spectral domain
CN104541327A (zh) * 2012-02-23 2015-04-22 杜比国际公司 用于高频音频内容的有效恢复的方法及系统
CN104885383A (zh) * 2012-12-27 2015-09-02 松下电器(美国)知识产权公司 影像显示方法
CN105074818A (zh) * 2013-02-21 2015-11-18 杜比国际公司 用于参数化多声道编码的方法

Family Cites Families (70)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5434948A (en) * 1989-06-15 1995-07-18 British Telecommunications Public Limited Company Polyphonic coding
US5526359A (en) * 1993-12-30 1996-06-11 Dsc Communications Corporation Integrated multi-fabric digital cross-connect timing architecture
US6073100A (en) * 1997-03-31 2000-06-06 Goodridge, Jr.; Alan G Method and apparatus for synthesizing signals using transform-domain match-output extension
US6138089A (en) * 1999-03-10 2000-10-24 Infolio, Inc. Apparatus system and method for speech compression and decompression
US6549884B1 (en) * 1999-09-21 2003-04-15 Creative Technology Ltd. Phase-vocoder pitch-shifting
EP1199711A1 (en) * 2000-10-20 2002-04-24 Telefonaktiebolaget Lm Ericsson Encoding of audio signal using bandwidth expansion
US7583805B2 (en) * 2004-02-12 2009-09-01 Agere Systems Inc. Late reverberation-based synthesis of auditory scenes
FI119955B (fi) * 2001-06-21 2009-05-15 Nokia Corp Menetelmä, kooderi ja laite puheenkoodaukseen synteesi-analyysi puhekoodereissa
US7240001B2 (en) * 2001-12-14 2007-07-03 Microsoft Corporation Quality improvement techniques in an audio encoder
WO2003107591A1 (en) * 2002-06-14 2003-12-24 Nokia Corporation Enhanced error concealment for spatial audio
US7502743B2 (en) * 2002-09-04 2009-03-10 Microsoft Corporation Multi-channel audio encoding and decoding with multi-channel transform selection
US7536305B2 (en) * 2002-09-04 2009-05-19 Microsoft Corporation Mixed lossless audio compression
US7394903B2 (en) 2004-01-20 2008-07-01 Fraunhofer-Gesellschaft Zur Forderung Der Angewandten Forschung E.V. Apparatus and method for constructing a multi-channel output signal or for generating a downmix signal
US7596486B2 (en) 2004-05-19 2009-09-29 Nokia Corporation Encoding an audio signal using different audio coder modes
BRPI0513255B1 (pt) * 2004-07-14 2019-06-25 Koninklijke Philips Electronics N.V. Dispositivo e método para converter um primeiro número de canais de áudio de entrada em um segundo número de canais de áudio de saída, sistema de áudio, e, meio de armazenamento legível por computador
US8204261B2 (en) * 2004-10-20 2012-06-19 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Diffuse sound shaping for BCC schemes and the like
US7573912B2 (en) 2005-02-22 2009-08-11 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschunng E.V. Near-transparent or transparent multi-channel encoder/decoder scheme
US9626973B2 (en) * 2005-02-23 2017-04-18 Telefonaktiebolaget L M Ericsson (Publ) Adaptive bit allocation for multi-channel audio encoding
US7630882B2 (en) * 2005-07-15 2009-12-08 Microsoft Corporation Frequency segmentation to obtain bands for efficient coding of digital media
US20070055510A1 (en) 2005-07-19 2007-03-08 Johannes Hilpert Concept for bridging the gap between parametric multi-channel audio coding and matrixed-surround multi-channel coding
KR100712409B1 (ko) * 2005-07-28 2007-04-27 한국전자통신연구원 벡터의 차원변환 방법
TWI396188B (zh) * 2005-08-02 2013-05-11 Dolby Lab Licensing Corp 依聆聽事件之函數控制空間音訊編碼參數的技術
US8112286B2 (en) * 2005-10-31 2012-02-07 Panasonic Corporation Stereo encoding device, and stereo signal predicting method
US7720677B2 (en) 2005-11-03 2010-05-18 Coding Technologies Ab Time warped modified transform coding of audio signals
US7831434B2 (en) * 2006-01-20 2010-11-09 Microsoft Corporation Complex-transform channel coding with extended-band frequency coding
US7953604B2 (en) * 2006-01-20 2011-05-31 Microsoft Corporation Shape and scale parameters for extended-band frequency coding
KR101364979B1 (ko) 2006-02-24 2014-02-20 오렌지 신호 엔벨로프의 양자화 인덱스들의 이진 코딩 방법과 신호엔벨로프의 디코딩 방법, 및 대응하는 코딩 모듈과 디코딩모듈
US7885819B2 (en) * 2007-06-29 2011-02-08 Microsoft Corporation Bitstream syntax for multi-process audio decoding
GB2453117B (en) * 2007-09-25 2012-05-23 Motorola Mobility Inc Apparatus and method for encoding a multi channel audio signal
JP5400059B2 (ja) * 2007-12-18 2014-01-29 エルジー エレクトロニクス インコーポレイティド オーディオ信号処理方法及び装置
EP2107556A1 (en) * 2008-04-04 2009-10-07 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio transform coding using pitch correction
CN101267362B (zh) * 2008-05-16 2010-11-17 亿阳信通股份有限公司 一种性能指标值正常波动范围的动态确定方法及其装置
BR122020009732B1 (pt) * 2008-05-23 2021-01-19 Koninklijke Philips N.V. Método para a geração de um sinal esquerdo e de um sinal direito a partir de um sinal de downmix mono com base em parâmetros espaciais, meio legível por computador não transitório, aparelho de downmix estéreo paramétrico para a geração de um sinal de downmix mono a partir de um sinal esquerdo e de um sinal direito com base em parâmetros espaciais e método para a geração de um sinal residual de previsão para um sinal de diferença a partir de um sinal esquerdo e de um sinal direito com base em parâmetros espaciais
US8355921B2 (en) * 2008-06-13 2013-01-15 Nokia Corporation Method, apparatus and computer program product for providing improved audio processing
ES2539304T3 (es) 2008-07-11 2015-06-29 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Un aparato y un método para generar datos de salida por ampliación de ancho de banda
EP2144229A1 (en) 2008-07-11 2010-01-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Efficient use of phase information in audio encoding and decoding
MY154452A (en) * 2008-07-11 2015-06-15 Fraunhofer Ges Forschung An apparatus and a method for decoding an encoded audio signal
ES2592416T3 (es) * 2008-07-17 2016-11-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Esquema de codificación/decodificación de audio que tiene una derivación conmutable
EP2381439B1 (en) * 2009-01-22 2017-11-08 III Holdings 12, LLC Stereo acoustic signal encoding apparatus, stereo acoustic signal decoding apparatus, and methods for the same
CA2750795C (en) * 2009-01-28 2015-05-26 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Audio encoder, audio decoder, encoded audio information, methods for encoding and decoding an audio signal and computer program
US8457975B2 (en) * 2009-01-28 2013-06-04 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Audio decoder, audio encoder, methods for decoding and encoding an audio signal and computer program
MX2011009660A (es) * 2009-03-17 2011-09-30 Dolby Int Ab Codificacion estereo avanzada basada en una combinacion de codificacion izquierda/derecha o media/lateral seleccionable de manera adaptable y de codificacion estereo parametrica.
EP2434483A4 (en) * 2009-05-20 2016-04-27 Panasonic Ip Corp America ENCODING DEVICE, DECODING DEVICE, AND ASSOCIATED METHODS
CN101989429B (zh) 2009-07-31 2012-02-01 华为技术有限公司 转码方法、装置、设备以及系统
JP5031006B2 (ja) 2009-09-04 2012-09-19 パナソニック株式会社 スケーラブル復号化装置及びスケーラブル復号化方法
JP5405373B2 (ja) * 2010-03-26 2014-02-05 富士フイルム株式会社 電子内視鏡システム
CN102884570B (zh) 2010-04-09 2015-06-17 杜比国际公司 基于mdct的复数预测立体声编码
US8463414B2 (en) * 2010-08-09 2013-06-11 Motorola Mobility Llc Method and apparatus for estimating a parameter for low bit rate stereo transmission
MY156027A (en) 2010-08-12 2015-12-31 Fraunhofer Ges Forschung Resampling output signals of qmf based audio codecs
CN103403799B (zh) 2010-10-06 2015-09-16 弗兰霍菲尔运输应用研究公司 用于针对合成统一语音和音频编解码器(usac)处理音频信号和提供较高时间粒度的设备和方法
FR2966634A1 (fr) 2010-10-22 2012-04-27 France Telecom Codage/decodage parametrique stereo ameliore pour les canaux en opposition de phase
US9424852B2 (en) * 2011-02-02 2016-08-23 Telefonaktiebolaget Lm Ericsson (Publ) Determining the inter-channel time difference of a multi-channel audio signal
CN103339670B (zh) * 2011-02-03 2015-09-09 瑞典爱立信有限公司 确定多通道音频信号的通道间时间差
CA2827249C (en) * 2011-02-14 2016-08-23 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Apparatus and method for processing a decoded audio signal in a spectral domain
CN103503062B (zh) * 2011-02-14 2016-08-10 弗劳恩霍夫应用研究促进协会 用于使用对齐的前瞻部分将音频信号编码及解码的装置与方法
CN103155030B (zh) * 2011-07-15 2015-07-08 华为技术有限公司 用于处理多声道音频信号的方法及设备
EP2600343A1 (en) * 2011-12-02 2013-06-05 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for merging geometry - based spatial audio coding streams
KR101621287B1 (ko) * 2012-04-05 2016-05-16 후아웨이 테크놀러지 컴퍼니 리미티드 다채널 오디오 신호 및 다채널 오디오 인코더를 위한 인코딩 파라미터를 결정하는 방법
KR101662681B1 (ko) 2012-04-05 2016-10-05 후아웨이 테크놀러지 컴퍼니 리미티드 멀티채널 오디오 인코더 및 멀티채널 오디오 신호 인코딩 방법
KR20150012146A (ko) * 2012-07-24 2015-02-03 삼성전자주식회사 오디오 데이터를 처리하기 위한 방법 및 장치
US20150243289A1 (en) * 2012-09-14 2015-08-27 Dolby Laboratories Licensing Corporation Multi-Channel Audio Content Analysis Based Upmix Detection
EP2898506B1 (en) * 2012-09-21 2018-01-17 Dolby Laboratories Licensing Corporation Layered approach to spatial audio coding
EP2959481B1 (en) * 2013-02-20 2017-04-26 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for generating an encoded audio or image signal or for decoding an encoded audio or image signal in the presence of transients using a multi overlap portion
TWI546799B (zh) * 2013-04-05 2016-08-21 杜比國際公司 音頻編碼器及解碼器
EP2980795A1 (en) * 2014-07-28 2016-02-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoding and decoding using a frequency domain processor, a time domain processor and a cross processor for initialization of the time domain processor
WO2016108655A1 (ko) 2014-12-31 2016-07-07 한국전자통신연구원 다채널 오디오 신호의 인코딩 방법 및 상기 인코딩 방법을 수행하는 인코딩 장치, 그리고, 다채널 오디오 신호의 디코딩 방법 및 상기 디코딩 방법을 수행하는 디코딩 장치
WO2016108666A1 (ko) 2014-12-31 2016-07-07 엘지전자(주) 무선 통신 시스템에서 자원을 할당하기 위한 방법 및 이를 위한 장치
EP3067886A1 (en) * 2015-03-09 2016-09-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Audio encoder for encoding a multichannel signal and audio decoder for decoding an encoded audio signal
PL3503097T3 (pl) * 2016-01-22 2024-03-11 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Urządzenie oraz sposób do enkodowania lub dekodowania sygnału wielokanałowego z wykorzystaniem ponownego próbkowania w dziedzinie widmowej
US10224042B2 (en) 2016-10-31 2019-03-05 Qualcomm Incorporated Encoding of multiple audio signals

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1275234A (zh) * 1997-10-17 2000-11-29 多尔拜实验特许公司 采用附加的滤波器阵列在帧边界处衰减频谱邻频干扰的基于帧的音频编码
CN1750405A (zh) * 2002-08-21 2006-03-22 中山正音数字技术有限公司 用于从编码后的音频数据流中解码重建多声道音频信号的解码方法
CN101529503A (zh) * 2006-10-18 2009-09-09 弗劳恩霍夫应用研究促进协会 信息信号的编码
CN102089758A (zh) * 2008-07-11 2011-06-08 弗劳恩霍夫应用研究促进协会 用于对采样音频信号的帧进行编码和解码的音频编码器和解码器
CN103000178A (zh) * 2008-07-11 2013-03-27 弗劳恩霍夫应用研究促进协会 提供时间扭曲激活信号以及使用该时间扭曲激活信号对音频信号编码
CN103098126A (zh) * 2010-04-09 2013-05-08 弗兰霍菲尔运输应用研究公司 音频编码器、音频解码器及利用复预测处理多信道音频信号的相关方法
JP2013528824A (ja) * 2010-04-13 2013-07-11 フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン オーディオまたはビデオエンコーダ、オーディオまたはビデオデコーダ、及び予測方向可変の予測を使用したマルチチャンネルオーディオまたはビデオ信号処理方法
CN104541327A (zh) * 2012-02-23 2015-04-22 杜比国际公司 用于高频音频内容的有效恢复的方法及系统
CN103366751A (zh) * 2012-03-28 2013-10-23 北京天籁传音数字技术有限公司 一种声音编解码装置及其方法
CN103366749A (zh) * 2012-03-28 2013-10-23 北京天籁传音数字技术有限公司 一种声音编解码装置及其方法
CN104885383A (zh) * 2012-12-27 2015-09-02 松下电器(美国)知识产权公司 影像显示方法
CN105074818A (zh) * 2013-02-21 2015-11-18 杜比国际公司 用于参数化多声道编码的方法
EP2830056A1 (en) * 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for encoding or decoding an audio signal with intelligent gap filling in the spectral domain

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
K. Laskowski ; T. Schultz.Unsupervised Learning of Overlapped Speech Model Parameters For Multichannel Speech Activity Detection in Meetings.《2006 IEEE International Conference on Acoustics Speech and Signal Processing Proceedings》.2003, *
TKA=语音+声音 AND TKA=编码+解码 AND FT=帧#重叠+帧#重合;周旭,赵晓晖;《吉林大学学报(信息科学版)》;20030531;第21卷(第02期);全文 *
基于TMS320C6201的G.723.1多通道语音编解码的实现;林峥等;《电子技术应用》;20001207(第12期);全文 *
高效的MPEG先进音频编码方案;李琳等;《小型微型计算机系统》;20080415(第04期);全文 *

Also Published As

Publication number Publication date
US10424309B2 (en) 2019-09-24
JP2019506634A (ja) 2019-03-07
US20220310103A1 (en) 2022-09-29
KR102219752B1 (ko) 2021-02-24
PT3405949T (pt) 2020-04-21
WO2017125558A1 (en) 2017-07-27
AU2019213424B8 (en) 2022-05-19
AU2017208579A1 (en) 2018-08-09
WO2017125563A1 (en) 2017-07-27
JP7270096B2 (ja) 2023-05-09
AU2019213424A8 (en) 2022-05-19
JP2021103326A (ja) 2021-07-15
US20180322884A1 (en) 2018-11-08
EP3503097B1 (en) 2023-09-20
CA3012159C (en) 2021-07-20
JP7053725B2 (ja) 2022-04-12
CN108780649B (zh) 2023-09-08
WO2017125562A1 (en) 2017-07-27
RU2705007C1 (ru) 2019-11-01
MX2017015009A (es) 2018-11-22
EP3284087A1 (en) 2018-02-21
CA2987808A1 (en) 2017-07-27
JP6412292B2 (ja) 2018-10-24
KR20180104701A (ko) 2018-09-21
TWI628651B (zh) 2018-07-01
US20180342252A1 (en) 2018-11-29
TWI629681B (zh) 2018-07-11
US20180322883A1 (en) 2018-11-08
BR112017025314A2 (pt) 2018-07-31
ZA201804625B (en) 2019-03-27
CN117238300A (zh) 2023-12-15
EP3503097A2 (en) 2019-06-26
RU2693648C2 (ru) 2019-07-03
ES2773794T3 (es) 2020-07-14
US11887609B2 (en) 2024-01-30
PT3284087T (pt) 2019-06-11
KR20180012829A (ko) 2018-02-06
JP2019502965A (ja) 2019-01-31
BR112018014916A2 (pt) 2018-12-18
KR102343973B1 (ko) 2021-12-28
AU2019213424A1 (en) 2019-09-12
JP7258935B2 (ja) 2023-04-17
EP3284087B1 (en) 2019-03-06
EP3405949A1 (en) 2018-11-28
JP2022088584A (ja) 2022-06-14
CA3012159A1 (en) 2017-07-20
US20190228786A1 (en) 2019-07-25
JP2021101253A (ja) 2021-07-08
JP6641018B2 (ja) 2020-02-05
US10706861B2 (en) 2020-07-07
JP2019032543A (ja) 2019-02-28
EP3405948B1 (en) 2020-02-26
PL3405949T3 (pl) 2020-07-27
US10854211B2 (en) 2020-12-01
BR112018014689A2 (pt) 2018-12-11
CN107710323B (zh) 2022-07-19
RU2017145250A3 (zh) 2019-06-24
PL3503097T3 (pl) 2024-03-11
US11410664B2 (en) 2022-08-09
AU2017208576B2 (en) 2018-10-18
EP3503097C0 (en) 2023-09-20
TW201729561A (zh) 2017-08-16
MY189223A (en) 2022-01-31
SG11201806246UA (en) 2018-08-30
RU2711513C1 (ru) 2020-01-17
BR112018014799A2 (pt) 2018-12-18
US10535356B2 (en) 2020-01-14
US10861468B2 (en) 2020-12-08
ZA201804910B (en) 2019-04-24
KR102230727B1 (ko) 2021-03-22
JP6730438B2 (ja) 2020-07-29
CN115148215A (zh) 2022-10-04
TWI643487B (zh) 2018-12-01
ZA201804776B (en) 2019-04-24
CN108885877B (zh) 2023-09-08
US20180197552A1 (en) 2018-07-12
MY189205A (en) 2022-01-31
RU2017145250A (ru) 2019-06-24
KR102083200B1 (ko) 2020-04-28
CN108780649A (zh) 2018-11-09
JP6856595B2 (ja) 2021-04-07
EP3405948A1 (en) 2018-11-28
JP2018529122A (ja) 2018-10-04
MX2018008889A (es) 2018-11-09
ES2727462T3 (es) 2019-10-16
PL3405951T3 (pl) 2020-06-29
MY181992A (en) 2021-01-18
MY196436A (en) 2023-04-11
US20200194013A1 (en) 2020-06-18
TW201729180A (zh) 2017-08-16
JP6626581B2 (ja) 2019-12-25
CN108885879A (zh) 2018-11-23
TW201801067A (zh) 2018-01-01
SG11201806216YA (en) 2018-08-30
RU2704733C1 (ru) 2019-10-30
CA3011914A1 (en) 2017-07-27
CA2987808C (en) 2020-03-10
JP2019502966A (ja) 2019-01-31
JP2020170193A (ja) 2020-10-15
TWI653627B (zh) 2019-03-11
AU2017208575B2 (en) 2020-03-05
WO2017125559A1 (en) 2017-07-27
TR201906475T4 (tr) 2019-05-21
AU2019213424B2 (en) 2021-04-22
AU2017208580A1 (en) 2018-08-09
PT3405951T (pt) 2020-02-05
AU2017208579B2 (en) 2019-09-26
KR20180105682A (ko) 2018-09-28
PL3284087T3 (pl) 2019-08-30
AU2017208575A1 (en) 2018-07-26
CN107710323A (zh) 2018-02-16
CA3011915A1 (en) 2017-07-27
SG11201806241QA (en) 2018-08-30
MX371224B (es) 2020-01-09
JP7161564B2 (ja) 2022-10-26
CA3011914C (en) 2021-08-24
EP3405951B1 (en) 2019-11-13
EP3405949B1 (en) 2020-01-08
ES2768052T3 (es) 2020-06-19
ES2790404T3 (es) 2020-10-27
JP6859423B2 (ja) 2021-04-14
CN108885877A (zh) 2018-11-23
HK1244584B (zh) 2019-11-15
MX2018008890A (es) 2018-11-09
AU2017208576A1 (en) 2017-12-07
TW201732781A (zh) 2017-09-16
MX2018008887A (es) 2018-11-09
KR20180103149A (ko) 2018-09-18
EP3405951A1 (en) 2018-11-28
EP3503097A3 (en) 2019-07-03
AU2017208580B2 (en) 2019-05-09
CA3011915C (en) 2021-07-13
JP2020060788A (ja) 2020-04-16

Similar Documents

Publication Publication Date Title
CN108885879B (zh) 使用帧控制同步来编码或解码多声道音频信号的装置和方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant