CN101489173A - 信号处理装置、信号处理方法和存储介质 - Google Patents
信号处理装置、信号处理方法和存储介质 Download PDFInfo
- Publication number
- CN101489173A CN101489173A CNA2008101840364A CN200810184036A CN101489173A CN 101489173 A CN101489173 A CN 101489173A CN A2008101840364 A CNA2008101840364 A CN A2008101840364A CN 200810184036 A CN200810184036 A CN 200810184036A CN 101489173 A CN101489173 A CN 101489173A
- Authority
- CN
- China
- Prior art keywords
- frequency
- listener
- signal
- sound
- advent
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S3/00—Systems employing more than two channels, e.g. quadraphonic
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R3/00—Circuits for transducers, loudspeakers or microphones
- H04R3/12—Circuits for transducers, loudspeakers or microphones for distributing signals to two or more loudspeakers
- H04R3/14—Cross-over networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
- H04S2400/01—Multi-channel, i.e. more than two input channels, sound reproduction with two speakers wherein the multi-channel information is substantially preserved
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Acoustics & Sound (AREA)
- Signal Processing (AREA)
- Stereophonic System (AREA)
Abstract
本发明涉及信号处理装置、信号处理方法和存储介质,所述信号处理装置包括:低通滤波器处理单元,配置为执行用于根据截止频率而限制输入音频信号的频带的处理;高通滤波器处理单元,配置为执行用于根据所述截止频率而限制输入音频信号的频带的处理;延迟处理单元,配置为执行用于延迟由高通滤波器处理单元限制了频带的音频信号的处理;以及合成处理单元,配置为将由所述低通滤波器处理单元限制了频带的音频信号和经过由延迟处理单元执行的延迟处理的音频信号进行合成。
Description
技术领域
本发明涉及信号处理装置和信号处理方法,所述装置和方法在用于给出虚拟音像定位(virtual sound-image localization)效果的声音再现中,执行用于扩展对音频信号具有音像定位效果的服务区的信号处理,并且涉及存储用于实现这样的信号处理的程序的存储介质。
背景技术
如在日本特许公开第5-260597号中所公开的,例如,一般执行虚拟音像定位处理以将音像(sound image)虚拟地定位于与实际上再现声音的扬声器的位置不同的位置,例如,通过使用(左右)两个前置声道扬声器(channel front speaker)再现声音而将音像定位于左后方位置和右后方位置。
为了虚拟地定位声源,预先确定收听者相对于要布置的多个扬声器(例如,(左右)两个声道)的理想收听位置,并且预先测量从(实际再现声音的)扬声器输出到收听者(左右)两耳的声音的传递函数(G)和从虚拟的音像位置输出到收听者两耳的声音的传递函数(H)作为从扬声器输出到理想位置处的收听者的两耳的声音的传递函数。在实际处理中,对基于传递函数(G)和(H)的传递函数进行积分,并且将所产生的信号提供给扬声器用于输出。
这样的安排,只使用例如(左右)两个前置声道扬声器,就允许将音像虚拟定位于任意位置,例如,在收听者的左后方位置和右后方位置。
发明内容
通常都知道,当执行以上述方案为代表的虚拟音像定位处理时,所述音像定位的服务区很小。在该虚拟音像定位处理中,基于收听声音的收听者处于理想位置的前提条件对所述传递函数进行积分。因此,当收听者的位置从理想位置移开,则音像定位效果减弱。特别地,关于从理想位置向左和向右的移动,音像定位效果急剧减弱。
考虑这样的问题,需要扩展在对经过虚拟音像定位处理的音频信号的再现中具有音像定位效果的服务区。
根据本发明实施例,提供一种信号处理装置。所述信号处理装置包括:低通滤波器处理单元,配置为执行用于根据截止频率而限制输入音频信号频带的处理;高通滤波器处理单元,配置为执行用于根据所述截止频率而限制输入音频信号频带的处理;延迟处理单元,配置为执行用于延迟由高通滤波器处理单元限制了频带的音频信号的处理;以及合成处理单元,配置为将由低通滤波器处理单元限制了频带的音频信号和经过由延迟处理单元执行的延迟处理的音频信号进行合成,所述截止频率是根据关于在收听从扬声器输出的声音的收听者的耳朵的位置处的合成声音的频率特性中出现特性波动处的频率来确定的,为所述低通滤波器处理单元设置所述截止频率,并且为所述高通滤波器处理单元设置所述截止频率。
收听者的从理想位置的位移会减弱虚拟音像定位感的原因是:位移造成关于从各个扬声器输出并且在收听者的耳朵的位置处获得的声音的合成声音的频率特性中的差。位移造成耳朵位置处的频率特性的差的原因是:主要在每只耳朵位置处的频率特性中,在高于或者等于对应于位移量的频率的频带中,发生大的梳齿状特性波动。
因此,在根据本发明实施例的配置中,根据这样的特性波动开始出现的频率而确定的截止频率用于将输入音频信号分成低频信号和高频信号,低频信号先输出,并且高频信号以一延迟随后输出。
利用这样的安排,所谓“优先效果”(precedence effect)允许由先输出并且具有少量特性波动的低频侧信号支配性地给出音像定位感。因此,即使收听者的位置从收听者的理想位置向左或向右移动,也还是能维持该音像定位感。
根据本发明,在通过使用例如(左右)两个声道扬声器的多个扬声器而将音像虚拟定位于所希望的位置的声音再现(虚拟环绕再现)中,即使收听者向左或向右移动,仍然能减少音像定位感的损失。即,能扩展具有音像定位效果的服务区。
附图说明
图1是示出具有根据本发明第一实施例的信号处理装置的再现装置的内部配置的框图;
图2是示出通过由第一实施例中的2声道虚拟环绕信号生成单元(DSP)执行的数字信号处理所实现的功能操作的框图;
图3说明用于虚拟化处理的声音传递函数;
图4A和图4B说明在从各个扬声器输出并且当收听者在理想收听位置时在他或她的各个耳朵处获得的声音之间的到达时间差;
图5A和图5B说明在从各个扬声器输出并且当收听者的位置从理想收听位置向左移动时在收听者的各个耳朵处获得的声音之间的到达时间差;
图6A至图6C是示出从各个扬声器输出的声音的合成声音的频率特性(频率幅度特性)的测量结果的图,在收听者的耳朵的位置执行所述测量;
图7是说明根据从各个扬声器输出并在收听者耳朵的位置处获得的声音之间的到达时间差的值来确定截止频率的图;
图8是第一实施例中的服务区处理单元的功能操作的框图;
图9是说明低通滤波器(LPF)和高通滤波器(HPF)的截止频率的图;
图10是示出根据第二实施例的再现装置的内部配置的框图;
图11是第二实施例中的服务区处理单元的功能操作的框图;
图12是说明虚拟化处理单元的修改例的图;
图13是示出根据第一修改例的配置的框图;
图14是示出根据第二修改例的配置的框图;
图15是示出根据第三修改例的配置的框图。
具体实施例
以下将描述执行本发明的最佳实施方式(此后称为“实施例”)。
<第一实施例>
图1是示出具有根据本发明第一实施例的信号处理装置以执行虚拟环绕再现的再现装置1的内部配置的框图。
如图1所示,包括左声道音频信号L、右声道音频信号R、左声道环绕信号SL、右声道环绕信号SR的4声道音频信号作为输入信号输入再现装置1。从4声道音频信号生成(左右)2声道虚拟环绕信号,并且2声道虚拟环绕信号从布置在收听者的左前侧和右前侧的扬声器SP-L和SP-R输出,从而执行虚拟环绕再现。
从上述说明可以理解,在这种情况中,左声道音频信号L和右声道音频信号R变成从收听者前侧输出的信号。因此,左声道音频信号L和右声道音频信号R也分别称作“音频信号FL(左前)”和“音频信号FR(右前)”。
左声道环绕信号SL变成要从收听者左后侧输出的信号而右声道环绕信号SR变成要从收听者右后侧输出的信号。即,左声道环绕信号SL和右声道环绕信号SR变成要从实际上没有布置扬声器的虚拟音像位置输出的信号。
在再现装置1中,前侧的(左右)2声道扬声器SP-L和SP-R用于执行虚拟环绕再现,使得收听者感知到左环绕信号和右环绕信号SL和SR,就像它们分别是从左后方的位置和右后方的位置输出一样。
在图1中,再现装置1包括2声道虚拟环绕信号生成单元2、数字/模拟(D/A)转换器3-L和3-R、放大器4-L和4-R、扬声器SP-L和SP-R和存储器5。
2声道虚拟环绕信号生成单元2由DSP(数字信号处理器)实现,并且根据存储在存储器5中的程序来对输入音频信号L、R、SL和SR执行数字信号处理。
在本实施例中,存储器5存储信号处理程序5a,用于使由DSP实现的2声道虚拟环绕信号生成单元2执行根据本发明的下述信号处理。
2声道虚拟环绕信号生成单元2根据信号处理程序5a执行数字信号处理,以从输入音频信号L、R、SL和SR生成(左右)2声道虚拟环绕信号Lvs和Rvs。生成虚拟环绕信号Lvs和Rvs,使得当它们从前置扬声器SP-L和SP-R输出时,能够被感知到,就像左声道环绕信号SL和右声道环绕信号SR分别是从左后侧和右后侧输出一样。
由2声道虚拟环绕信号生成单元2生成的左声道虚拟环绕信号Lvs由D/A转换器3-L转换成模拟信号。然后该模拟信号由放大器4-L放大,并且经过放大的信号作为扬声器SP-L的声音输出,扬声器SP-L布置在收听者的左前侧。由2声道虚拟环绕信号生成单元2生成的右声道虚拟环绕信号Rvs由D/A转换器3-R转换成模拟信号。然后该模拟信号由放大器4-R放大,并且然后,经过放大的信号作为扬声器SP-R的声音输出,扬声器SP-R布置在收听者的右前侧。
【2声道虚拟环绕信号生成单元】
图2是通过图1中所示的2声道虚拟环绕信号生成单元2的数字信号处理而实现的功能操作的框图。
虽然为了描述方便以下将每个功能块描述为硬件,但每个功能块的功能操作是由根据存储器5中的信号处理程序5a的数字信号处理实现的。通过由DSP实现的2声道虚拟环绕信号生成单元2执行所述数字信号处理。
2声道虚拟环绕信号生成单元2包括虚拟化处理单元2A和服务区扩展处理单元2B。
虚拟化处理单元2A执行用于从输入音频信号L、R、SL和SR生成
(左右)2声道虚拟环绕信号Lvs和Rvs的信号处理。服务区扩展处理单元2B执行用于扩展提供虚拟音像定位效果的服务区的信号处理,通过虚拟环绕信号Lvs和Rvs的声音再现来实现所述虚拟音像定位效果。以下描述根据本实施例的服务区扩展处理,由服务区扩展处理单元2B执行所述服务区扩展处理。
左声道音频信号FL、右声道音频信号FR、左声道环绕信号SL和右声道环绕信号SR输入虚拟化处理单元2A。在虚拟化处理单元2A中,左声道音频信号FL输入相加处理单元10L并且右声道音频信号FR输入相加处理单元10R。
虚拟化处理单元2A包括滤波器处理单元11L、11R、12L、12R、14L、14R、15L和15R,以及相加处理单元13L、13R、16L和16R。
输入虚拟化处理单元2A的左声道环绕信号SL分成提供给滤波器处理单元11L的信号和提供给滤波器处理单元12L的信号。输入虚拟化处理单元2A的右声道环绕信号SR分成提供给滤波器处理单元11R的信号和提供给滤波器处理单元12R的信号。
相加处理单元13L接收由滤波器处理单元11L处理过的左声道环绕信号SL和由滤波器处理单元12R处理过的右声道环绕信号SR,并且将这些环绕信号SL和SR相加。
相加处理单元13R接收由滤波器处理单元11R处理过的右声道环绕信号SR和由滤波器处理单元12L处理过的左声道环绕信号SL,并且将这些环绕信号SR和SL相加。
由相加处理单元13L执行的相加的结果由滤波器处理单元14L处理,并且然后输入相加处理单元16L。由相加处理单元13L执行的相加的结果也分开并且提供给滤波器处理单元15L,由滤波器处理单元15L进行处理,并且然后输入相加处理单元16R。.
由相加处理单元13R执行的相加的结果由滤波器处理单元14R处理,并且然后输入相加处理单元16R。由相加处理单元13R执行的相加的结果也分开并且提供给滤波器处理单元15R,由滤波器处理单元15R进行处理,并且然后输入相加处理单元16L。.
相加处理单元16L将由滤波器处理单元14L处理过的信号和由滤波器处理单元15R处理过的信号相加。由相加处理单元16L执行的相加的结果输入相加处理单元10L。
相加处理单元16R将由滤波器处理单元14R处理过的信号和由滤波器处理单元15L处理过的信号相加。由相加处理单元16R执行的相加的结果输入相加处理单元10R。
相加处理单元10L将输入的左声道音频信号FL和由相加处理单元16L执行的相加的结果相加。由相加处理单元10L执行的相加的结果变成左声道虚拟环绕信号Lvs。
相加处理单元10R将输入的右声道音频信号FR和由相加处理单元16R执行的相加的结果相加。由相加处理单元10R执行的相加的结果变成右声道虚拟环绕信号Rvs。
由相加处理单元10L生成的左声道虚拟环绕信号Lvs提供给服务区扩展处理单元2B之一,并且由相加处理单元10R生成的右声道虚拟环绕信号Rvs提供给另一个服务区扩展处理单元2B。
以下将参考图3描述滤波器特性,将所述滤波器特性给到在输入虚拟化处理单元2A中的滤波器处理单元,以引起这样的感知,就像左右环绕信号SL和SR是分别从左后方和右后方输出一样。
图3是示出从扬声器SP-L和SP-R到收听者P的耳朵的声音的传递函数和从左后虚拟扬声器VSP-L和右后虚拟扬声器VSP-R(在虚拟声源位置用虚线示出)到收听者P的耳朵的声音的传递函数的示意图。
如图3所示,用H1L指示从左后虚拟扬声器VSP-L到收听者P的左耳的声音的传递函数,并且用H1R指示从虚拟扬声器VSP-L到收听者P的右耳的声音的传递函数。并且,用H2L指示从右后虚拟扬声器VSP-R到收听者P的左耳的声音的传递函数,并且用H2R指示从虚拟扬声器VSP-R到收听者P的右耳的传递函数。
此外,用G1L指示从左前扬声器SP-L到收听者P的左耳的声音的传递函数,并且用G1R指示从左前扬声器SP-L到收听者P的右耳的声音的传递函数。用G2L指示从右前扬声器SP-R到收听者P的左耳的声音的传递函数,并且用G2R指示从右前扬声器SP-R到收听者P的右耳的声音的传递函数。
为图2中所示的对应的滤波器处理单元设置基于声音传递函数的滤波器特性。具体而言,为滤波器处理单元11L设置用于给出传递函数H1L的滤波器特性(滤波器系数),并且为滤波器处理单元11R设置用于给出传递函数H2R的滤波器特性。为滤波器处理单元12L设置用于给出传递函数H1R的滤波器特性,并且为滤波器处理单元12R设置用于给出传递函数H2L的滤波器特性。
为滤波器处理单元14L设置用于给出由—G2R/A表示的传递函数的滤波器特性。在这种情况中,通过下式给出A:
A=G2L*G1R—G2R*G1L。
为滤波器处理单元14R设置用于给出由—G1L/A表示的传递函数的滤波器特性。此外,还为滤波器处理单元15L设置用于给出由G1R/A表示的传递函数的滤波器特性,并且为滤波器处理单元15R设置用于给出由G2L/A表示的传递函数的滤波器特性。
所述滤波器处理单元例如是由有限脉冲响应(FIR)滤波器实现并且根据所设置的滤波器特性对输入信号执行滤波器处理。
在不必特别考虑从实际输出声音的声源的位置到收听者P的耳朵的声音的传递函数的情况中,例如在用头戴式耳机执行虚拟化处理的情况中,关于由收听者P的左耳听到的左声道输出信号而将传递函数H1L和传递函数H2L合并到一起,并且关于由收听者P的右耳听到的右声道输出信号而将传递函数H1R和传递函数H2R合并到一起。即,在这样的情况中,滤波器处理单元14L、14R、15L和15R以及相加处理单元16L和16R可以从图2中所述的配置中消除。
然而,在该示例中,由于声音是从以离收听者P某些距离而布置的扬声器SP-L和SP-R输出的,因此,一般有必要执行虚拟化处理,所述虚拟化处理也基于从扬声器SP-L和SP-R到收听者P的耳朵的声音的传递函数。因此,图2中所示的配置适于提供这样的效果:通过将“—G2R/(G2L*G1R—G2R*G1L)”(作为上述的“—G2R/A”)和“G2L/(G2L*G1R—G2R*G1L)”(作为上述的“G2L/A”)给予要被收听者P的左耳听到的左声道输出信号和将“—G1L/(G2L*G1R—G2R*G1L)”(作为上述的“—G1L/A”)和给“G1R/(G2L*G1R—G2R*G1L)”(作为上述的“G1R/A”)给予要被收听者P的右耳听到的右声道输出信号而消除与从扬声器SP到收听者P的耳朵的传递函数相关联的影响。以这样的安排,从左前和右前扬声器SP-L和SP-R输出的声音使得该声音能够被这样感知,就像左声道环绕信号SL是从左后虚拟扬声器VSP-L输出的,而右声道环绕信号SR是从右后虚拟扬声器VSP-R输出的。
尽管以上已经将采用基于双耳声处理的方案的情况的示例作为虚拟化处理的一个示例进行了描述,但是还能够采用用于虚拟化处理的另一个方案。在任何情况中,从下述服务区扩展处理的角度看,可以采用任何用于虚拟化处理的方案,并且所述方案不被特别限制。
【服务区扩展处理】
音像定位效果减弱原因
从上述说明可以理解,根据本实施例的再现装置1执行虚拟环绕再现,用于将音像虚拟地定位于实际输出声音的扬声器SP的位置之外的位置。然而,如上所述,通过这样的虚拟环绕再现所获得的虚拟音像定位效果有这样的问题:服务区通常小,并且,特别是关于收听者P的向左和向右的位移,虚拟音像定位效果急剧减弱。
下面将参考图4A至6C描述因收听者P的位移而减弱音像定位效果的原因。
图4A和4B说明当收听者P在理想收听位置处时,在从各个扬声器SP-L和SP-R输出并且在收听者P的各个耳朵处获得的声音之间的到达时间差。图4A示意性地示出从扬声器SP-L和SP-R输出的声音到达收听者P的耳朵处的状态,并且图4B示出图4A中所示的状态中从扬声器SP-L和SP-R输出并且被收听者P的耳朵听到的声音的幅度和到达时间。
首先,如图4A中所示,假定在该示例中,收听者P的理想收听位置(也称作“理想位置“)位于左扬声器SP-L和右扬声器SP-R之间的中心轴线上。换而言之,从收听者P来看,按照扬声器SP-L和SP-R的对称位置关系来布置扬声器SP-L和SP-R。在这种情况中,当收听者P位于理想位置时,从扬声器SP-L到收听者P的距离和从扬声器SP-R到收听者P的距离彼此相等。
当收听者P位于图4A中所示的理想位置处时,从扬声器SP-L输出并且被收听者P的左耳听到的声音(图4A中的(1))和从扬声器SP-R输出并且被收听者P的左耳听到的声音(图4A中的(3))的幅度和到达时间通过图4B中上侧所示的图表示。即,因为扬声器SP-L比扬声器SP-R更接近于收听者P的左耳,所以从扬声器SP-L输出的声音的幅度更大并且到达时间短。
在这种情况中,从扬声器SP-L输出并且被收听者P的左耳听到的声音和从扬声器SP-R输出并且被左耳听到的声音之间的到达时间差由图4B中的箭头DL0表示。
另一方面,从扬声器SP-L输出并且被收听者P的右耳听到的声音(图4A中的(2))和从扬声器SP-R输出并且被收听者P的右耳听到的声音(图4A中的(4))的幅度和到达时间通过图4B中下侧所示的图表示。在这种情况中,因为扬声器SP-R比扬声器SP-L更接近于收听者P的右耳,所以从扬声器SP-R输出的声音的幅度更大并且到达时间短。
从扬声器SP-L输出并且被收听者P的右耳听到的声音和从扬声器SP-R输出并且被收听者P的右耳听到的声音之间的到达时间差由图4B中的箭头DR0表示。
从扬声器SP-L输出的声音和从扬声器SP-R输出的声音被收听者P的耳朵按照图4B中所示的时间和幅度电平(level)听到,所以可以获得理想的音像定位效果。
图5A和5B说明在收听者P的位置从理想收听位置向左移动的情况中,从各个扬声器SP-L和SP-R输出并且在收听者P的每个耳朵处获得的声音之间的到达时间差,这种情况是向左/向右的位移的一个示例。
图5A示意性地示出从扬声器SP-L和SP-R输出的声音到达收听者P的耳朵处的状态,并且图5B示出图5A中示出的状态中从扬声器SP-L和SP-R输出并且被收听者P的耳朵听到的声音的幅度和到达时间。
当收听者P的位置从理想位置向左移动时,扬声器SP-L变得相对更接近收听者P。因此,从扬声器SP-L输出并且被收听者P的左耳听到的声音(图5A中的(1))和从扬声器SP-R输出并且被收听者P的左耳听到的声音(图5A中的(3))的幅度和到达时间通过图5B中上侧所示的图表示。从扬声器SP-L输出的声音的幅度大于图4B的情况中的幅度并且到达时间更短;而从扬声器SP-R输出的声音的幅度小于图4B的情况中的幅度并且到达时间更长(即,被延迟)。因此,从各个扬声器SP输出并且在左耳处获得的声音之间的到达时间差(图5B中的DL)变得大于图4B的情况中的到达时间差DL0。
另一方面,从扬声器SP-L输出并且被收听者P的右耳听到的声音(图5A中的(2))和从扬声器SP-R输出并且被收听者P的右耳听到的声音(图5A中的(4))的幅度和到达时间通过图5B中下侧所示的图表示。从扬声器SP-L输出的声音的幅度大于图4B的情况中的幅度并且到达时间更短;而从扬声器SP-R输出的声音的幅度小于图4B的情况中的幅度并且到达时间更长(即,被延迟)。
因此,从各个扬声器SP输出并且在右耳处获得的声音之间的到达时间差(图5B中的DR)变得大于图4B情况中的到达时间差DR0。
如上所述,当收听者P的位置从理想收听位置向左或向右移动时,从扬声器SP输出并且到达收听者P的每个耳朵处的信号的幅度和到达时间与在理想收听位置应该感知到的信号的幅度和到达时间不同。在幅度和到达时间中,特别是到达时间之间的差对音像定位效果有更大的影响。
图6A至6C是说明从扬声器SP-L和SP-R输出的声音的合成声音的频率特性(频率幅度特性)的测量结果的图,在收听者P的耳朵的位置执行所述测量。在图6A至6C中,为了阐明频率特性的特征,示出了当同样的信号同时从两个扬声器SP-L和SP-R输出时执行的测量的结果。
图6A示出了当收听者P处于理想位置时执行的测量的结果,图6B示出当收听者P的位置向左移动约20cm时执行的测量的结果,并且图6C示出当收听者P的位置向左移动约30cm时执行的测量的结果。
在图6A至6C中,由实线指示收听者P的左耳处的频率特性,并且由虚线指示收听者P的右耳处的频率特性。
从图6A至6C中所示的测量显而易见,当收听者P的位置从理想位置向左或向右移动时,特别是,在收听者P的位置发生移动的那个方向上的耳朵的位置处(该示例中,即在左耳的位置处)的频率特性表现较大的波动。在这种情况中,所述波动具有梳齿形状并且该梳齿状波动出现在比某一频率高的频率侧。以下,将开始出现这样的梳齿状波动处的频率称作“参考点频率”。
图6B与6C之间的比较示出:当收听者P的位置从理想位置发生位移时,随着位移量增加,关于梳齿状波动的参考点频率移向低频侧。
图6A至6C之间的比较示出:在收听者P的位置发生移动的方向上的耳朵处的参考点频率具有较低频率。这也可以从以下事实理解:如以上参考图5A和5B所述,从各个扬声器SP输出并且在位于位移方向上的耳朵处获得的声音之间的到达时间差具有较大的值。
尽管没有示出,但是与收听者P这样的位移关联的影响还出现在相位特性中。
当同样的信号同时从两个扬声器SP输出时,获得如图6A至6C所示的测量结果,并且因此,严格地讲,不匹配实际上由再现装置1再现的虚拟环绕信号Lvs和Rvs的结果。一般而言,因为具有基本上彼此相等的幅度电平的信号通常作为来自虚拟环绕系统中的两个扬声器的虚拟环绕信号输出,所以影响出现的方式与在图6A至6C中所示的示例中的类似。
如从图6A至6C中所示的测量结果可以理解的那样,随着向左/向右的位移量增加,则发生在耳朵处的频率特性中的波动和在两个耳朵处的特性之间的差也增加。音像定位效果中的减弱是由这样的两个耳朵处的频率特性之间的差引起的。
第一实施例中的服务区扩展处理
根据上述说明,如果消除了由收听者P的位移引起的在两个耳朵处的频率特性之间的差,则能够防止音像定位感的损失。
在这一点上,如能从图6A至6C中看出,梳齿状波动开始出现的参考点频率在位于收听者P的位置发生移动的方向上的耳朵处趋向于较低的频率。因此,当只有比位于位移方向上的耳朵处的参考点频率更低的频率侧的信号适合于输出时,可以排除生成梳齿状波动的频带,所述频带包括另一个耳朵处的频带,并且因此,可以降低在收听者P的两耳处的频率特性之间的差。即,能够防止音像定位感的损失。
然而,在声音再现中,还输出比参考点频率高的频带中的信号。因此本实施例采用这样的方案:首先输出比参考点频率低的频率处的信号,并且然后以一延迟输出另一频带中的信号,作为随后的声音。
这样的方案,由先到达的较低的频率侧信号能够支配性地给出由收听者P感知到的音像定位感,而可以从感知上减弱作为随后的声音而到达的较高频率侧信号的影响。这种效果通常称为优先效果。
即使收听者P的位置从理想位置向左或向右移动,优先效果也使得能减少音像定位感的损失。
需要扩展在虚拟环绕再现期间提供音像定位效果的服务区。为了扩展所述服务区,第一实施例采用其中确定了保证音像定位效果的区域的方案。即,预先确定允许的从收听者P的理想位置的移动量的最大值,并且适于在到移动量的最大值的范围以内确保音像定位效果。
因此,当收听者P的位移量具有最大值时,能够参考参考点频率能够确定要作为在前的声音输出的信号的频带。
当位移量具有最大值时,各种具体的方案都可以确定参考点频率。
作为一个简单的示例,通过实际使用仿真人头(dummy head)根据图6A至6C中所示的频率特性测量结果能够测量参考点频率。更具体而言,在该情况中,仿真人头放置在从理想位置的移动量具有最大值的位置,并且从各个扬声器SP输出的声音的合成声音的频率特性在位于收听者P从理想位置发生移动的方向上的耳朵处被测量。然后,根据测量结果确定梳齿状波动开始出现处的参考点频率。
可替换地,还可以使用从各个扬声器SP输出的声音之间的到达时间差的值来确定参考点频率,而不实际测量频率特性。
如上所述,随着位于收听者P的位置发生移动的方向上的耳朵处的到达时间差增加,参考点频率移向较低的频率侧。这也意味着,参考点频率具有与位于位移方向上的耳朵处的到达时间差相关的值。
更具体而言,当从各个扬声器SP输出并且在位于收听者P的位置从理想位置发生移动的方向上的耳朵处所获得的声音之间的到达时间差用Dd表示时,可以根据到达时间差Dd的倒数的1/2的值来确定参考点频率。
例如,当假设到达时间Dd是1毫秒(1/1000秒)时,一般用1000×1/2=500Hz来确定梳齿状波动开始出现处的频率。
现在,将参考图7讨论由到达时间差Dd的倒数的1/2确定的梳齿状波动开始出现处的频率的点。
图7示出当在全部频率上平坦的同样的信号作为采样频率FS的音频信号以一时间差输出时,在同样的收听位置测量到的频率特性。即,当前述同样的收听位置是在收听者的耳朵处时,时间差对应于从各个扬声器SP输出的声音之间的到达时间差。
梳齿数量对应于所给的时间差的许多梳齿作为频率特性在直流(DC)频率0Hz到采样频率FS Hz的范围内出现。在图7中所示的示例中,说明了所给的时间差对应10个采样的情况。因此,在这种情况中,在到采样频率FS Hz的范围内包括10个梳齿。
因此,当时间差对应于10个采样时,如图所示,可以用FS/10(或FS/“采样数”)Hz表示一个梳齿的带宽。
在该情况中,没有梳齿状波动出现的频带,即以上参考图6B和6C描述的频带,对应图7所示的最低频率处的半波梳齿带。半波梳齿带宽由下式表示:FS/“样本数”×1/2Hz。即,当图7中所示的时间差对应于10个采样时,梳齿状波动开始出现处的频率由FS/10×1/2Hz表示。
当采样数用时间量来代替时,可以类似地确定梳齿状波动开始出现处的频率。
现在将给出这样的情况的示例:从各个扬声器SP输出并且在收听者P的耳朵处获得的声音之间的到达时间差为1毫秒,如上述示例中那样。首先,当采样频率FS例如是48KHz时,1毫秒是对应于48个采样的时间量,由1/1000÷1/48000给出。将该表达式应用到“FS/“样本数”×1/2”则产生48000/48×1/2=1000×1/2=500Hz。
从上述说明可以理解,梳齿状波动开始出现处的参考点频率一般由在位于收听者P的位置发生移动的方向上的耳朵处的到达时间差Dd的值的倒数的1/2确定。
如上所述,在第一实施例中,将确保音像定位效果的允许范围设置为固定范围,并且确定位移量为允许范围内最大值的参考点频率。
因此,对于参考点频率的实际得出,首先确定当收听者P位于位移量是最大值的位置处时,在从各个扬声器SP输出并且在位于移动方向上的耳朵处获得的声音之间的到达时间差的值。即,确定当收听者P位于位移量是最大值的位置处时到达时间差Dd的值。
然后,当位移量是最大值时,将通过将这样确定的到达时间差Dd的值的倒数乘以1/2而获得的值确定为参考点频率的值。
可以通过实际地将仿真人头放在移动量为最大值的位置处并且测量从各个扬声器输出的声音之间的到达时间差来确定到达时间差Dd的值。
可替换地,还可以根据从各个扬声器SP到移动量为最大值的位置的距离的值来确定到达时间差Dd的值,而不使用仿真人头。
在该情况中,在执行虚拟环绕再现的系统中,设置扬声器SP和收听者P之间的理想的几何关系,以获取用于虚拟化处理的传递函数。即,在这个示例的情况中,如图4A所示,将收听者P的理想位置设置在扬声器SP之间的中心轴上的预定位置。
在图4A中所示的理想位置处,从收听者P到扬声器SP的距离彼此相等。并且,因为收听者P的耳朵通常对称地排列,所以,如图4B中所示,从各个扬声器SP输出并且在收听者P的两耳处获得的声音之间的到达时间差也变得彼此相等(DL0=DR0)。
如上所述,应根据在位于收听者P的位置发生移动的方向上的耳朵处的参考点频率而设置要作为在前的声音输出的信号的频带。因此,在位于位移方向上的耳朵处的到达时间差还可以确定为要计算出来以确定参考点频率的到达时间差Dd的值。
当收听者P在理想位置时,使用从收听者P到左扬声器SP-L的距离DspL、从收听者P到右扬声器SP-R的距离DspR,以及从各个扬声器SP输出的声音之间的到达时间差(DL0或DR0),一般可以由下式确定在位于收听者P的位置发生移动的方向上的耳朵处的到达时间差Dd:
Dp+(|DspL—DspR|)/声速(表达式1)
其中,因为DL0=DR0,所以DL0=DR0=Dp。
在表达式1中,从各个扬声器SP输出并且在理想位置处的收听者P的左耳和右耳获得的声音之间的到达时间差(DL0=DR0=Dp)的值是经由使用仿真人头等的测量而预先确定的。
然而,因为确定了允许作为收听者P的位移量的值(即,最大位移量),所以,可以通过计算确定距离DspL和DspR的值。
即,在该情况中,由于预先确定了收听者P相对于扬声器SP的理想位置关系,所以能够知道:从理想位置的收听者P到每个扬声器SP的距离、由从理想位置向左/向右的方向轴与连接收听者P和扬声器SP-L的轴所定义的角度,以及由从理想位置向左/向右的方向轴与连接收听者P和扬声器SP-R的轴所定义的角度。
由于已知这些值,所以,确定了位移量的最大值,所述最大值用于确定允许范围,并且因此,可以从三角学得到距离DspL和DspR。即,在具有包括理想位置、移动量具有最大值的位置和扬声器SP-L的位置这三个顶点的三角形中,可以从移动量具有最大值的位置和扬声器SP-L的位置之间的这条边的长度来确定距离DspL。在这一点上,作为位移量最大值确定的结果,确定:扬声器SP-L和理想位置之间的这条边的长度,理想位置和移动量具有最大值的位置之间的这条边的长度,以及由这两条边所定义的内角的值。因此,可以确定作为移动量具有最大值的位置和扬声器SP-L的位置之间的这条边的长度的距离DspL。
类似地,在具有包括理想位置、移动量具有最大值的位置和扬声器SP-R的位置这三个顶点的三角形中,可以从移动量具有最大值的位置和扬声器SP-R的位置之间的这条边的长度来确定距离DspR。作为位移量最大值确定的结果,确定:扬声器SP-R和理想位置之间的这条边的长度,理想位置和移动量具有最大值的位置之间的这条边的长度,以及由这两条边所定义的内角的值。因此,可以确定作为移动量具有最大值的位置和扬声器SP-R的位置之间的这条边的长度的距离DspR。
如上所述,可以通过计算确定从收听者P到左扬声器SP-L的距离DspL和从收听者P到右扬声器SP-R的距离DspR,因此能消除实际测量该距离的时间和努力。
【服务区扩展处理单元的配置】
现在将描述用于实现根据上述第一实施例的服务区扩展处理的配置。
图8是示出以上参考图2所述服务区扩展处理单元2B的功能操作的框图。
在图8中,还将每个功能块描述为硬件。由根据信号处理程序5a的数字信号处理实现每个功能操作,由DSP实现的2声道虚拟环绕信号生成单元2执行所述处理。
如参考图2所述,提供了两个服务区扩展处理单元2B,其中一个接收并且处理左声道虚拟环绕信号Lvs而另一个接收并且处理右声道虚拟环绕信号Rvs。
因为所述两个服务区扩展处理单元2B的配置可以具有同样的配置,所以在图8中共同给出其说明。为了便于描述,左右虚拟环绕信号Lvs和Rvs共同称作“虚拟环绕信号vs”。
图8中,服务区扩展处理单元2B包括低通滤波器(LPF)20、高通滤波器(HPF)21、延迟处理单元22和合成处理单元23。
从图2中所示的虚拟化处理单元2A输出的虚拟环绕信号vs分成提供给LPF20的信号和提供给HPF21的信号。
为LPF20和HPF21设置基于如上所述预先确定的参考点频率的频率,作为它们的截止频率。更具体而言,将比至少参考点频率低的频率设置为截止频率。
结果,LPF20提取虚拟环绕信号vs的具有较低频率的信号成分,在频率特性中该较低频率处的波动小。HPF21提取虚拟环绕信号vs的具有比至少参考点频率更高的频率的信号成分。
由LPF20提取的信号成分提供给合成处理单元23。
另一方面,由HPF21提取的信号成分由延迟处理单元22延迟预定的时间量,并且然后提供给合成处理单元23。
合成处理单元23将从LPF20输出的信号成分和从延迟处理单元22输出的信号成分进行合成,并且输出产生的虚拟环绕信号vs。
通过由合成处理单元23执行的合成处理获得的虚拟环绕信号vs提供给对应的D/A转换器3L或3R(图1中所示),作为服务区扩展处理单元2B的输出信号。因此,基于经过由服务区扩展处理单元2B执行的服务区扩展处理的虚拟环绕信号vs的声音从扬声器SP-L和SP-R输出。
因此,该安排提供了如上所述的优先效果,并且能在预设位移量的允许范围以内确保音像定位效果。即,与现有技术相比,该安排可以扩展具有音像定位效果的服务区。
在这种情况中,为了充分获得优先效果,不仅需要将信号成分中所包含的高频和中频成分还要将其中所包含的少量低频成分输出为随后的声音。因此,在这种情况中,将相对缓和的(斜率)特性,例如-6dB/octave或者-12dB/octave,而不是陡峭的特性,设置为分离高频和中频成分的HPF 21的截止特性。
图9是说明基于上述点的HPF 21的截止特性的图。
图9中,为了比较,用虚线示出LPF 20的截止特性。从图9中可以看出,LPF 20的截止特性相对陡峭,而HPF 21的截止特性设置成比较缓和。
为了获得优先效果,还需要将作为随后的声音输出的高频和中频成分的延迟量设置在大约1到30毫秒的范围内。因此,还为延迟处理单元22设置在大约1到30毫秒的范围之内的时间延迟量。
然而,严格来讲,考虑要设置的截止频率(参考点频率)而设置时间延迟量。
在这种情况中,当设置某一延迟时间量时,自然地,在收听者P的每个耳朵处的在前的声音(低频)和随后的声音(高频和中频)之间出现到达时间差。根据与在用于得到截止频率(参考点频率)的方案中的上述原理类似的原理,这样的在前的声音和随后的声音之间的到达时间差在收听者P的每个耳朵处的频率特性中高于或等于与到达时间差(在这种情况中,即设置的延迟时间量)相对应的频率的频率处引起梳齿状波动。严格地讲,可能在将在前的声音和随后的声音进行合成的接口处发生频率特性中的波动。
因此,当获得如下状态时可以减小波动,在所述状态中仅先输出没有发生梳齿状波动的频带内的信号。为了获得这样的状态,装置可以配置为满足这样的条件:设置的截止频率变得比开始出现梳齿状波动的频率低,所述频率是根据延迟时间量的设置值确定的。换而言之,可以设置延迟时间量的值,使得在关于在前声音和随后声音所合成的声音的频率特性中开始出现梳齿状波动的频率具有比所设置的截止频率更高的值,所述频率特性取决于延迟时间量的设置。
现在将描述具体的示例。例如,当采样频率为48KHz并且时间延迟量设置为1毫秒(与48个采样对应)时,在频率特性中开始出现梳齿状波动的频率是由48000/48×1/2给出的500Hz。因此,当截止频率是500Hz或者更低,则延迟时间量设置为1毫秒使得可以防止在将在前的声音和随后的声音进行合成的接口处发生的频率特性波动。因此,该安排使得能够提供更合适的音频音质。
因此,当要设置的延迟时间量增加时,在将在前的声音和随后的声音进行合成的接口处发生梳齿状波动的频率相应地降低。反之,当要设置的延迟时间量减少时,发生梳齿状波动的频率相应地增高。因此,当设置的截止频率低时,能够相应地将延迟时间量设置为具有较大的值,并且反之,当设置的截止频率高时,能够相应地将延迟时间量设置为具有小的值。
在该示例的情况中,将截止频率设置为具有与最大允许位移量对应的值。即,可以设置这种情况中的延迟时间量,使得在关于在前的声音和随后的声音的合成声音的频率特性中开始出现梳齿状波动处的频率具有比根据最大位移量设置的截止频率高的值,所述频率特性取决于延迟时间量的设置。
从到达时间差Dd的值和参考点频率的值之间的上述关系可以理解,所述频率的值的两倍的倒数的确定可以确定延迟时间量的值。因此,可以根据将设置的截止频率乘以2的得到的值的倒数来确定要设置的延迟时间量的阈值。即,实际要设置的延迟时间量可以设置为具有比至少所确定的阈值小的值。
图8中所示的服务区扩展处理单元2B中的LPF 20和HPF 21可以具有任何的滤波器配置,只要它们功能上令人满意。即,可以用无限脉冲响应(IIR)滤波器或者FIR滤波器(使用沿时间轴的线性积分或者沿频率轴的循环积分)构造LPF 20和HPF 21。在FIR滤波器的情况中,可以如此安排,使得HPF 21和延迟处理单元22组合到一起。此外,还可以如此安排使得LPF 20、HPF 21和延迟处理单元22组合到一起。
由服务区扩展处理单元2B中的合成处理单元23执行的合成处理不限于简单的相加处理。例如,可以结合相位调整等执行合成处理,使得合成处理后的频率特性不会明显改变。特别地,当LPF 20和HPF 21的相位特性在增益彼此重叠的频带中具有反相关系时,在合成处理中执行减除处理。
<第二实施例>
下面将描述第二实施例。
不同于确定预先固定的服务区的第一实施例的情况,在第二实施例中,根据收听者P的实际位置可变地设置截止频率(即,服务区)。
图10是示出根据第二实施例的再现装置30的内部配置的框图。根据第二实施例的再现装置30与根据第一实施例的再现装置1的不同在于,其还提供了用户位置获取单元31并且修改了2声道虚拟环绕信号生成单元2的功能操作。在图10中,用同样的标号标注与图1中所示的那些单元相同的单元,因此以下不给出这些相同单元的说明。
图10中所示的再现装置30包括2声道虚拟环绕信号生成单元32。与图1中所示的2声道虚拟环绕信号生成单元2类似,在接收到左声道音频信号FL(L)、右声道音频信号FR(R)、左声道环绕信号SL和右声道环绕信号SR之后,2声道虚拟环绕信号生成单元32执行信号处理,用于提供用于扩展服务区的左声道虚拟环绕信号Lvs和右声道虚拟环绕信号Rvs。
2声道虚拟环绕信号生成单元32也由DSP实现。根据第二实施例,在这种情况中的存储器5存储用于使DSP执行下述信号处理的信号处理程序5b。
再现装置30还包括用户位置获取单元31。
提供用户位置获取单元31以获得指示收听者(用户)P的收听位置的信息。
在这种情况中,配置用户位置获取单元31,使得允许用户执行用于输入指示他/她的收听位置的信息的操作。更具体而言,用户位置获取单元31包括操作输入单元和信息处理单元。操作输入单元例如包括用于操作的各种按钮和按键。信息处理单元例如包括具有例如中央处理单元(CPU)的微机等,并且根据从操作输入单元发送的操作输入信息获得指示用户收听位置的信息。
对于用户位置获取单元31中的信息处理单元,例如,预先设置关于预定的多个收听位置的信息。在该情况中,关于所述收听位置的信息包括关于理想位置的信息和用于识别代表从理想位置的移动量的位置的信息。更具体而言,关于收听位置的信息提供通过距理想位置的移动量来表示位置的信息。
信息处理单元在显示单元(未示出)等上显示代表收听位置的信息,以将所述信息呈现给用户。
用户操作操作输入单元来执行用于从所呈现的收听位置信息中选择与实际收听位置匹配的收听位置信息的操作。
根据按照这样的操作从操作输入单元发送的操作输入信息,信息处理单元获得所选择的收听位置的信息。
如上所述,用户位置获取单元31获得用户(收听者)P的收听位置的信息。
如图10和11中所示,用户位置获取单元31将所获得的收听位置信息提供给2声道虚拟环绕信号生成单元32,作为用户位置信息。
图11是这样的框图,其示出通过执行根据上述信号处理程序5b的数字信号处理而实现的功能操作,所述数字信号处理由图10中所示的2声道虚拟环绕信号生成单元32执行,并且特别地只示出用作服务区扩展处理单元32B的功能操作。
尽管未示出,但是根据第二实施例的2声道虚拟环绕信号生成单元32也执行与虚拟化处理单元2A一样的功能操作,如上述第一实施例中的情况一样,用于从音频信号FL和FR和环绕信号SL和SR生成虚拟环绕信号Lvs和Rvs。因为用作虚拟化处理单元2A的功能操作与以上参考图2所述的功能操作一样,因此以下不对其进行说明。
在第二实施例中,提供了两个服务器扩展处理单元32B,一个接收并处理由虚拟化处理单元2A生成的左声道虚拟环绕信号Lvs而另一个接收并处理右声道虚拟环绕信号Rvs。因为在服务区扩展处理单元32B中的功能块的配置彼此类似,所以如在图8中的情况一样,在图11中只说明服务器扩展处理单元32B之一的配置。
从图8和图11之间的比较可以看出,用于输出由虚拟化处理单元2A生成的虚拟环绕信号Lvs和虚拟环绕信号Rvs(或虚拟环绕信号vs)的比截止频率低的频率信号成分的配置和图8中所示的配置(包括LPF 20、HPF 21、延迟处理单元22和合成处理单元23)类似。
服务区扩展处理单元32B与图8中所示的服务区扩展处理单元2B的不同在于:其还提供了到达时间差计算单元35和截止频率计算单元36,以根据上述用户位置信息可变地设置LPF 20和HPF 21的截止频率。
到达时间差计算单元35根据从图10中所示的用户位置获取单元31发送的用户位置信息而计算到达时间差Dd的值。即,到达时间差计算单元35确定从各个扬声器SP输出并且在收听者P的两耳处获得的声音之间的到达时间差中的较大的一个(即,确定从各个扬声器SP输出并且在收听者P的位于移动方向上的耳朵处获得的声音之间的到达时间差的值)。
更具体而言,根据指示从理想位置向左或向右的移动量的信息(用户位置信息),到达时间差计算单元35确定从由用户位置信息指示的位置(即,收听者P的位置)到对应的扬声器SP-L和SP-R的距离DspL和DspR的值。到达时间差计算单元35使用距离DspL和DspR的值,执行由上述表达式1给出的计算,以确定到达时间差的值。
在这种情况中,对于从用户位置信息来确定距离DspL和DspR,使用了关联信息,在所述关联信息中,收听位置和距离DspL和DspR预先进行彼此关联。更具体而言,在所述关联信息中,从每个用户位置到扬声器SP-L和SP-R的距离DspL和DspR的值与用户位置信息(即,收听位置信息)相关联,所述用户位置信息可以经由用户位置获取单元31(信息处理单元)规定。
尽管未示出,但是,所述关联信息例如存储在图10中的存储器5中。到达时间差计算单元35根据关联信息和输入的位置用户信息确定距离DspL和DspR的值。
因此,到达时间差计算单元35使用距离DspL和DspR执行由表达式1给出的计算。
在这种情况中,由表达式1给出的计算使用理想位置处的到达时间差Dp(=DL0=DR0)的值。例如,到达时间差Dp的值预先存储在存储器5中。到达时间差计算单元35读出到达时间差Dp的值,并且使用距离DspL和DspR执行由表达式1给出的计算。作为处理的结果,确定到达时间差Dd的值,所述到达时间差Dd的值是在从各个扬声器SP输出并且在收听者P的两个耳朵处获得的声音之间的到达时间差的值中较大的一个。
如在第一实施例中所述,从理想位置向左和向右的移动量的确定使得能够用三角学确定从收听者P的位置到扬声器SP的距离DspL和DspR的值。因此,到达时间差计算单元35还能配置为通过使用这种基于三角学的计算而确定距离DspL和DspR。
在这种情况中,距离DspL和DspR的计算使用这样两个角:由沿收听者P的位置(理想位置)与扬声器SP-L的轴和向左或向右方向轴所定义的角,和由沿收听者p的位置(理想位置)与扬声器SP-R的轴和向左或向右方向轴所定义的角。因此,那些角的信息是预先设置的。所述角的信息例如是预先存储在存储器5中。到达时间差计算单元35可以配置为读并且使用角的信息来执行计算。
由到达时间差计算单元35计算的到达时间差Dd提供给截止频率计算单元36。
截止频率计算单元36通过将到达时间差Dd的值的倒数乘以1/2而确定参考点频率的值。然后,截止频率计算单元36根据参考点频率的值确定截止频率并且发布指令,使得为LPF 20和LPF 21设置截止频率。结果,为LPF 20和LPF 21设置对应于截止频率的滤波器特性。在这种情况中,还能设置图9中所示的特定特性。
如上所述,根据第二实施例,可以根据收听者P的位置而可变地设置截止频率。即,这种安排使得能够根据收听者P的位置可变地设置具有音像定位效果的服务区。
根据第二实施例,因为即使收听者P的位置从理想位置发生移动,还是能够保持音像定位效果,所以能够扩展具有音像定位效果的服务区。
在上述第一实施例的情况中,由于截止频率设置成假定最低的频率,所以作为在前的声音而输出的信号的频带(即具有优先效果的有效频带)较小。然而,在第二实施例中,由于可以根据收听者P的位置可变地设置截止频率,所以能够确保与收听者P的位置对应的合适的带宽,而不过分限制具有优先效果的有效频带。
在第二实施例中,可以为延迟处理单元32设置与第一实施例中基本相等的延迟时间量。
即,在第二实施例的情况中,还可以设置延迟时间量,使得关于在前的声音和随后的声音的合成声音的频率特性中开始出现梳齿状波动处的频率具有比在位移量为最大值时要设置的截止频率小的值,所述频率特性依赖于延迟时间量的设置。
可替换地,在第二实施例的情况中,还可以根据按照用户位置设置的截止频率可变地设置延迟时间量。
如上所述,通过设置的截止频率的值的两倍的倒数,确定在考虑将在前的声音和随后的声音进行合成的接口处的频率波动时的延迟时间量的阈值。因此,当要可变地设置延迟时间量时,关于设置的截止频率执行上述计算来确定延迟时间量的阈值并且设置延迟时间量以具有比阈值更小的值。
【修改例】
以上已经描述了本发明的实施例,但是本发明不限于上述特定示例。
以下将描述根据修改例的配置。
图12是说明虚拟化处理单元的修改例的图。
该修改例涉及这样的情况:当假定从收听者P来看,扬声器SP-L和SP-R对称布置的这种状态是理想状态时,减少用于执行虚拟化处理的滤波器的数量。
图12是由DSP实现的2声道虚拟环绕信号生成单元2或32的数字信号处理实现的功能操作的框图。图12中所示的虚拟化处理单元40替换在第一和第二实施例中描述的虚拟化处理单元2A。
在图12中,如在上述情况中一样,左声道音频信号FL输入相加处理单元10L而右声道音频信号FR输入相加处理单元10R。
另一方面,左声道环绕信号SL分成输入相加处理单元41L的信号和输入相加/减除处理单元41R的信号。右声道环绕信号SR分成输入相加/减除处理单元41R的信号和输入相加处理单元41L的信号。
相加处理单元41L将如上所述输入的两个信号进行相加。由相加处理单元41L执行的相加的结果提供给FIR滤波器42L。
另一方面,相加/减除处理单元41R从左声道环绕信号SL减除右声道环绕信号SR。由相加/减除处理单元41R执行的减除的结果提供给FIR滤波器42R。
FIR滤波器42L和42R将预定的信号特性给予对应的输入信号。根据以上参考图3所述的声音传递函数H1L、H1R、H2R、H2L、G1L、G1R、G2R和G2L,为FIR滤波器42L和42R适当地设置滤波器特性,使得左声道环绕信号SL和右声道环绕信号SR被收听者P感知为分别从左后方和右后方输出的声音。
FIR滤波器42L的输出分成输入相加处理单元43L的信号和输入相加/减除处理单元43R的信号。FIR滤波器42R的输出分成输入相加/减除处理单元43R的信号和输入相加处理单元43L的信号。
相加处理单元43L将两个输入信号进行相加。由相加处理单元43L执行的相加的结果输入相加处理单元10L并且与左声道音频信号FL相加。
相加/减除处理单元43R从FIR滤波器42L的输出减除FIR滤波器42R的输出。由相加/减除处理单元43R执行的减除的结果输入相加处理单元10R并且与右声道音频信号FR相加。
这样的安排,能够生成与由上述虚拟化处理单元2A生成的虚拟环绕信号Lvs和Rvs类似的虚拟环绕信号Lvs和Rvs。即,与使用虚拟化处理单元2A的配置比较,在这种情况中,能够减少用于虚拟化处理的滤波器处理单元的数目,使得能够减少DSP的处理负载,并且还能够减少硬件资源。
对于虚拟环绕信号Lvs和Rvs的生成,还能将预先经过双耳声(binaural)记录的信号或预先经过双耳声处理的信号作为左声道环绕信号SL和右声道环绕信号SR输入。在这种情况中,可以如此安排使得能够消除图2中所示的滤波器处理单元11L、11R、12L和12R以及相加处理单元13L和13R,或者能够消除图12中所示的相加处理单元41L、相加/减除处理单元41R和FIR滤波器42L和42R。
当经过双耳声记录的信号或预先经过双耳声处理的信号作为左声道环绕信号SL和右声道环绕信号SR输入时,安排还可以如此,使得能够消除左声道音频信号FL、右声道音频信号FR和相加处理单元10L和10R。
图13到15是说明第一到第三修改例的配置的图。
图13中所示的第一修改例是关于执行服务区扩展处理的位置的修改例。
尽管在以上说明中,服务区扩展处理单元2B或32B对经过由虚拟化处理单元2A或40执行的虚拟化处理的信号执行服务区扩展处理,但是,还能够在虚拟化处理之前对信号执行服务区扩展处理。即,当虚拟化处理是关于频带的(band-wise)所谓的“线性处理”时,当如在上述实施例中所说明的在随后的阶段执行虚拟化处理时所获得的整个输出信号(Lvs和Rvs),和当如图13中所示在之前的阶段执行虚拟化处理时所获得的整个输出信号(Lvs和Rvs)基本上彼此相等。
在后一情况中,如图13中所示,提供服务区扩展处理单元2B或32B以用于输入虚拟化处理单元2A或40的所有声道(all-channel)信号。
图14中所示的第二修改例是用于这样的情况的配置的示例,其中,输入声道数是1并且输出声道数是2或更多。
在这种情况中的虚拟化处理单元50从1声道输入音频信号生成2声道虚拟环绕信号。提供用于执行根据实施例的扩展处理的服务区扩展处理单元2B或32B,用于为各个声道生成的虚拟环绕信号。
尽管未示出,当如在上述情况中一样,虚拟化处理是关于频带的所谓的“线性处理”时,能够在虚拟化处理之前的阶段提供服务区扩展处理单元2B或32B。即,在这样的情况中,提供服务区扩展处理单元2B或32B,用于输入到图14中所示的虚拟化处理单元50的1声道音频信号。自然地,以这样的方式在虚拟化处理单元50之前的阶段提供服务区扩展处理单元2B或32B使得能够减少处理负载和硬件资源。
图15中所示的第三修改例是用于最终的音频输出声道数大于2的情况的配置示例。
在图15中所示的示例中,用于虚拟化处理的输入声道数是4并且输出声道数是6。更具体而言,图15中所示的虚拟化处理单元51接收左声道音频信号FL、右声道音频信号FR、左声道环绕信号SL和右声道环绕信号SR并且从它们生成6声道输出信号。
因此,提供服务区扩展处理单元2B或32B以用于由虚拟化处理单元51生成的各个声道信号。
在第三修改例中,还可以在虚拟化处理之前的阶段执行服务区扩展处理。在这种情况中,在之前的阶段提供服务区扩展处理单元2B或32B使得能够减少服务区扩展处理单元2B或32B的数目。
本发明不限于上述包括上述修改例的配置示例,并且还可优选地应用于这样的系统,该系统执行在包括低频的频率处的虚拟环绕再现。
尽管已经给出在由使用DSP的数字信号处理实现的根据本发明的服务区扩展处理的情况的示例说明,但是,还可以通过硬件配置,例如,通过用硬件构成以上参考图所描述的功能块,来实现根据本发明的信号处理。
尽管已经给出这样的配置的示例的第二实施例的说明,在该配置中,用户位置获取单元31具有操作输入单元和信息处理单元,并且根据操作输入获得指示收听者P的位置的信息,但是,还能够采用另一种配置。
例如,还能够根据对所捕获的图像的分析结果来获取收听者P的位置信息。
在这种情况中,用户位置获取单元31例如包括:相机单元,用于捕获大约位于扬声器SP之间的中心的收听者P的图像;和图像分析单元,用于对由相机单元捕获的图像执行图像分析。所述图像分析单元例如通过脸部识别技术识别示出所捕获的图像中的人脸的一部分,并且根据指示图像中所识别的部分的位置的信息来确定从收听者P的理想位置向左或向右的移动量的值。获取所述移动量的值,作为用户位置信息。
执行这样的图像分析以识别用户位置信息使得能够实时获取收听者P的向左/向右的移动量的值。即,根据移动量的信息(如上所述实时获取的信息)来操作上述服务区扩展处理单元32B,使得能够根据收听者P的实际位置来实时可变地设置服务区。
各种其它方案也能获取用户位置信息。
例如,当用于再现装置30的遥控器可用时,还可以采用用于根据遥控器的位置来识别收听者P的位置的方案。该方案基于这样的前提条件:收听者P例如在他或她的单手或双手握持遥控器或者遥控器放在单手或双手附近的位置等的同时,收听声音。
在这种情况中,用户位置获取单元31根据由遥控器顺序发送的信号的接收结果而识别遥控器的位置。以这种方式获取的位置信息用作用户位置信息。
已经给出了这样的情况的示例的上述说明,在该情况中,根据音像定位效果中的降低很大地受到特别是向左或向右方向上的移动的影响的前提条件,关于收听者P的位置的移动只考虑从理想位置向左或向右的移动量。不必说,还可以考虑向前和向后的移动量以更可靠地扩展服务区。
在该情况中,使用并且可如下所述获取关于从收听者P向前或向后的距离的信息。例如,如上所述,当用户位置获取单元31包括相机单元和图像分析单元时,在图像分析期间,能够从示出人脸的部分的图像大小估计向左或向右的距离。
可替换地,当相机单元具有聚焦功能时,能从指示所聚焦的焦点距离的信息估计向前或向后的距离。
当如在第二实施例中一样采用获取用户位置信息的配置时,当收听者P的位置匹配理想位置时,可以同时输出所有频带中的声音,而不分别输出在前的声音和随后的声音。
例如,可以由用户位置获取单元31控制这种情况中的操作之间的切换。即,在该情况中,用户位置获取单元31确定:根据操作输入或图像分析而识别的位置信息是否匹配理想位置。当所识别的位置信息与理想位置不匹配时,用户位置获取单元31可以发布指令给2声道虚拟环绕信号生成单元32,使得服务区扩展处理单元32B的功能操作被执行。当所识别的位置信息与理想位置匹配时,用户位置获取单元31可以发布指令给2声道虚拟环绕信号生成单元32,使得服务区扩展处理单元32B的功能操作不被执行。
尽管在第二实施例中只给出了这样的情况的示例的说明,在该情况中,根据从各个扬声器SP输出的声音之间的到达时间差的值来确定截止频率,但还可以如此安排使得可以根据频率特性的实际测量结果来确定截止频率。
在这样的情况中,配置再现装置30,以使得至少从一个或多个麦克风中拾取的声音信号能够输入到其中。在测量期间,所述(一个或多个)麦克风放在处于收听者实际收听声音的位置处的他/她的单耳或双耳的附近。在这种状态中,例如,从扬声器SP输出诸如时间扩展脉冲(TSP)的测试信号,并且获得从所述(一个或多个)麦克风拾取的信号,并且根据所拾取的声音的信号测量从扬声器SP输出的声音的频率特性。检测在频率特性中开始出现梳齿状波动处的参考点频率,并且根据所检测到的参考点频率确定要为LPF 20和HPF 21设置的截止频率。
在该情况中,用于设置截止频率的要确定的参考点频率是对于在从各个扬声器SP输出的声音之间的到达时间差的值较大处的那只耳朵的参考点频率。即,确定了关于两个耳朵的位置的参考点频率中较低的参考点频率。因此,当麦克风布置在两个耳朵的位置处以测量耳朵的位置处的频率特性时,选择了对于耳朵的参考点频率中的较低的参考点频率。可替换地,当麦克风只布置在位于收听者P从理想位置发生位移的那个方向上的耳朵处以测量频率特性时,只有要确定的参考点频率能够被检测。这个安排可以消除较低参考点频率的选择。
当采用这样的用于测量频率特性的方案时,能够更准确地设置截止频率,但是,可能需要麦克风和/或可能需要用户的用于测量的时间和努力。相反,当采用如上所述的根据操作输入或图像分析通过使用计算来确定参考点频率的方案时,例如,能够消除用于操作的用户负担,所述操作例如是用于选择收听位置的操作和用于图像分析的操作。因此,能够更容易地扩展服务区。
本技术领域的技术人员应当理解:根据设计需要和其他因素,可以发生各种修改、组合、子组合和变更,只要它们在本发明所附权利要求和其等同物的范围以内。
相关申请的交叉引用
本发明包括与2008年1月15日在日本专利局申请的日本特许公开第2008-006019号相关的主题,通过引用将其全部内容结合于此。
Claims (8)
1.一种信号处理装置,包括:
低通滤波器处理单元,配置为执行用于根据截止频率而限制输入音频信号的频带的处理,所述截止频率是根据关于在收听从扬声器输出的声音的收听者的耳朵的位置处的合成声音的频率特性中出现特性波动处的频率而确定的,并且为所述低通滤波器处理单元设置所述截止频率;
高通滤波器处理单元,配置为执行用于根据所述截止频率而限制所述输入音频信号的频带的处理,为所述高通滤波器处理单元设置所述截止频率;
延迟处理单元,配置为执行用于延迟由所述高通滤波器处理单元限制了频带的音频信号的处理;以及
合成处理单元,配置为将由所述低通滤波器处理单元限制了频带的音频信号和经过由所述延迟处理单元执行的延迟处理的音频信号进行合成。
2.根据权利要求1所述的信号处理装置,还包括:
到达时间差计算单元,配置为根据关于所述收听者的收听位置的输入信息而确定从所述各个扬声器输出并且在所述收听者的耳朵的位置处获得的声音之间的到达时间差的值;以及
截止频率计算单元,配置为根据通过将由所述到达时间差计算单元所确定的到达时间差值的倒数乘以1/2而获得的值来确定所述截止频率。
3.根据权利要求2所述的信号处理装置,其中,为所述到达时间差计算单元预先设置当位于预先设置的理想收听位置处的收听者收听从所述各个扬声器输出的声音时从所述各个扬声器输出的声音之间的到达时间差Dp的值;
所述到达时间差计算单元根据从所述扬声器中的一个到所述收听者的距离DspL的值、从所述扬声器中的另一个到所述收听者的距离DspR的值和到达时间差Dp的值执行由下式给出的计算,由此确定从所述各个扬声器输出并且在一个耳朵处获得的声音之间的到达时间差的值,在所述一个耳朵处的到达时间差大于在另一个耳朵处获得的声音之间的到达时间差,所述距离DspL和DspR的值是根据所述输入信息而获得的:
Dp+(|DspL—DspR|)/声速;以及
所述到达时间差计算单元根据通过所述计算而确定的到达时间差来确定所述截止频率的值。
4.根据权利要求1所述的信号处理装置,其中,为所述低通滤波器处理单元和所述高通滤波器处理单元设置预定的固定频率作为所述截止频率。
5.根据权利要求2所述的信号处理装置,还包括配置为接收操作输入的操作输入单元,以及
关于所述收听者的收听位置的输入信息包括由所述操作输入单元接收的操作输入的信息。
6.根据权利要求2所述的信号处理装置,还包括:
相机单元,配置为捕获图像;以及
图像分析单元,配置为分析由所述相机单元捕获的图像来识别所述收听者的位置;
其中,所述到达时间差计算单元获取由所述图像分析单元识别的收听者位置的信息,作为关于所述收听者的收听位置的信息。
7.一种信号处理方法,包括以下步骤:
执行低通滤波器处理,用于根据截止频率限制输入音频信号的频带,所述截止频率是根据在关于在收听从扬声器输出的声音的收听者的耳朵的位置处的合成声音的频率特性中出现特性波动处的频率而确定的;
执行高通滤波器处理,用于根据所述截止频率限制所述输入音频信号的频带;
执行延迟处理,用于延迟在所述高通滤波器处理步骤中限制了频带的音频信号;以及
执行合成处理,用于将在所述低通滤波器处理步骤中限制了频带的音频信号和在所述延迟处理步骤中经过所述延迟处理的音频信号进行合成。
8.一种存储用于信号处理装置的程序的存储介质,所述信号处理装置对输入音频信号执行信号处理,所述程序使得所述信号处理装置执行:
执行低通滤波器处理,用于根据截止频率限制输入音频信号的频带,所述截止频率是根据在关于在收听从扬声器输出的声音的收听者的耳朵的位置处的合成声音的频率特性中出现特性波动处的频率而确定的;
执行高通滤波器处理,用于根据所述截止频率限制所述输入音频信号的频带;
执行延迟处理,用于延迟由所述高通滤波器处理限制了频带的音频信号;以及
执行合成处理,用于将由所述低通滤波器处理限制了频带的音频信号和经过所述延迟处理的音频信号进行合成。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008006019 | 2008-01-15 | ||
JP2008-006019 | 2008-01-15 | ||
JP2008006019A JP4518151B2 (ja) | 2008-01-15 | 2008-01-15 | 信号処理装置、信号処理方法、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101489173A true CN101489173A (zh) | 2009-07-22 |
CN101489173B CN101489173B (zh) | 2012-11-07 |
Family
ID=40850640
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2008101840364A Expired - Fee Related CN101489173B (zh) | 2008-01-15 | 2008-12-12 | 信号处理装置和信号处理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9426595B2 (zh) |
JP (1) | JP4518151B2 (zh) |
CN (1) | CN101489173B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011205487A (ja) * | 2010-03-26 | 2011-10-13 | Panasonic Corp | 指向性音響システム |
US20130089220A1 (en) * | 2011-10-10 | 2013-04-11 | Korea Advanced Institute Of Science And Technology | Sound reproducing appartus |
CN104168000A (zh) * | 2013-05-20 | 2014-11-26 | 深圳富泰宏精密工业有限公司 | 音频处理系统及方法 |
JP6390406B2 (ja) * | 2014-12-16 | 2018-09-19 | ヤマハ株式会社 | 信号処理装置 |
CN104581541A (zh) * | 2014-12-26 | 2015-04-29 | 北京工业大学 | 一种可定位多媒体视听装置及其控制方法 |
TWI554943B (zh) * | 2015-08-17 | 2016-10-21 | 李鵬 | 音訊處理方法及其系統 |
CN112513983A (zh) * | 2018-06-21 | 2021-03-16 | 奇跃公司 | 可穿戴系统语音处理 |
CN115189855A (zh) | 2019-01-10 | 2022-10-14 | 华为技术有限公司 | 信号处理的方法和装置 |
US11917384B2 (en) | 2020-03-27 | 2024-02-27 | Magic Leap, Inc. | Method of waking a device using spoken voice commands |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05260597A (ja) * | 1992-03-09 | 1993-10-08 | Matsushita Electric Ind Co Ltd | 音場信号再生装置 |
CN1901761A (zh) * | 2005-07-20 | 2007-01-24 | 三星电子株式会社 | 宽单声道声音再现方法和设备 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1995034883A1 (fr) * | 1994-06-15 | 1995-12-21 | Sony Corporation | Processeur de signaux et dispositif de reproduction sonore |
JP3611158B2 (ja) * | 1995-12-27 | 2005-01-19 | 日本ビクター株式会社 | サラウンド信号処理装置及びその信号処理方法 |
GB9603236D0 (en) * | 1996-02-16 | 1996-04-17 | Adaptive Audio Ltd | Sound recording and reproduction systems |
US6741273B1 (en) * | 1999-08-04 | 2004-05-25 | Mitsubishi Electric Research Laboratories Inc | Video camera controlled surround sound |
US7103193B2 (en) * | 2000-09-15 | 2006-09-05 | American Technology Corporation | Bandpass woofer enclosure with multiple acoustic fibers |
CA2430403C (en) * | 2002-06-07 | 2011-06-21 | Hiroyuki Hashimoto | Sound image control system |
US7336793B2 (en) * | 2003-05-08 | 2008-02-26 | Harman International Industries, Incorporated | Loudspeaker system for virtual sound synthesis |
JP2005223714A (ja) * | 2004-02-06 | 2005-08-18 | Sony Corp | 音響収音装置、音響収音方法、記録媒体 |
JP2005223713A (ja) * | 2004-02-06 | 2005-08-18 | Sony Corp | 音響再生装置、音響再生方法 |
GB0415625D0 (en) * | 2004-07-13 | 2004-08-18 | 1 Ltd | Miniature surround-sound loudspeaker |
JP4297077B2 (ja) * | 2005-04-22 | 2009-07-15 | ソニー株式会社 | 仮想音像定位処理装置、仮想音像定位処理方法およびプログラム並びに音響信号再生方式 |
US7991170B2 (en) * | 2005-05-05 | 2011-08-02 | Harman International Industries, Incorporated | Loudspeaker crossover filter |
WO2007106551A1 (en) * | 2006-03-15 | 2007-09-20 | Dolby Laboratories Licensing Corporation | Stereophonic sound imaging |
KR100728043B1 (ko) * | 2006-08-04 | 2007-06-14 | 삼성전자주식회사 | 청취자에게 동상의 음향을 제공하는 방법 및 장치 |
JP4918098B2 (ja) * | 2006-10-25 | 2012-04-18 | パイオニア株式会社 | 音像定位処理装置等 |
-
2008
- 2008-01-15 JP JP2008006019A patent/JP4518151B2/ja not_active Expired - Fee Related
- 2008-12-12 CN CN2008101840364A patent/CN101489173B/zh not_active Expired - Fee Related
-
2009
- 2009-01-12 US US12/351,939 patent/US9426595B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05260597A (ja) * | 1992-03-09 | 1993-10-08 | Matsushita Electric Ind Co Ltd | 音場信号再生装置 |
CN1901761A (zh) * | 2005-07-20 | 2007-01-24 | 三星电子株式会社 | 宽单声道声音再现方法和设备 |
Non-Patent Citations (1)
Title |
---|
北京广播学院 胡泽: "《数字音频工作站》", 《现代电视技术》 * |
Also Published As
Publication number | Publication date |
---|---|
US20090180626A1 (en) | 2009-07-16 |
JP2009171144A (ja) | 2009-07-30 |
CN101489173B (zh) | 2012-11-07 |
JP4518151B2 (ja) | 2010-08-04 |
US9426595B2 (en) | 2016-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101489173B (zh) | 信号处理装置和信号处理方法 | |
EP3311593B1 (en) | Binaural audio reproduction | |
JP4584416B2 (ja) | 位置調節が可能な仮想音像を利用したスピーカ再生用多チャンネルオーディオ再生装置及びその方法 | |
US8520857B2 (en) | Head-related transfer function measurement method, head-related transfer function convolution method, and head-related transfer function convolution device | |
US9432793B2 (en) | Head-related transfer function convolution method and head-related transfer function convolution device | |
US11750995B2 (en) | Method and apparatus for processing a stereo signal | |
KR20100017860A (ko) | 오디오 데이터를 처리하기 위한 디바이스 및 방법 | |
US7369667B2 (en) | Acoustic image localization signal processing device | |
US10652686B2 (en) | Method of improving localization of surround sound | |
US20110109798A1 (en) | Method and system for simultaneous rendering of multiple multi-media presentations | |
KR20130080819A (ko) | 다채널 음향 신호의 정위 방법 및 장치 | |
WO2016088306A1 (ja) | 音声再生システム | |
JP2010213053A (ja) | 聴者を取り囲むように配置される複数のスピーカで音響再生を行う際にクロストークをキャンセルする装置、方法、プログラム、およびシステム | |
US10440495B2 (en) | Virtual localization of sound | |
US20210297802A1 (en) | Signal processing device, signal processing method, and program | |
JPH07123498A (ja) | ヘッドホン再生システム | |
JPH1014000A (ja) | 音響再生装置 | |
JP7319687B2 (ja) | 立体音響処理装置、立体音響処理方法及び立体音響処理プログラム | |
US11871199B2 (en) | Sound signal processor and control method therefor | |
US20210112356A1 (en) | Method and device for processing audio signals using 2-channel stereo speaker | |
JPH08280100A (ja) | 音場再生装置 | |
JPH10164699A (ja) | マルチチャンネルオーディオ信号の再生装置 | |
JP2004215781A (ja) | ゲーム機及びゲーム機用プログラム | |
JPH05300598A (ja) | バイノーラル処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20121107 Termination date: 20211212 |