JP2022144500A - 音信号処理方法および音信号処理装置 - Google Patents

音信号処理方法および音信号処理装置 Download PDF

Info

Publication number
JP2022144500A
JP2022144500A JP2021045544A JP2021045544A JP2022144500A JP 2022144500 A JP2022144500 A JP 2022144500A JP 2021045544 A JP2021045544 A JP 2021045544A JP 2021045544 A JP2021045544 A JP 2021045544A JP 2022144500 A JP2022144500 A JP 2022144500A
Authority
JP
Japan
Prior art keywords
sound
control signal
reverberation
sound source
imaginary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021045544A
Other languages
English (en)
Other versions
JP2022144500A5 (ja
Inventor
隆行 渡辺
Takayuki Watanabe
悌 橋本
Dai Hashimoto
広臣 四童子
Hiroomi Shidoji
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2021045544A priority Critical patent/JP2022144500A/ja
Priority to CN202210251249.4A priority patent/CN115119134A/zh
Priority to US17/696,358 priority patent/US11805385B2/en
Priority to EP22162873.8A priority patent/EP4061016A3/en
Publication of JP2022144500A publication Critical patent/JP2022144500A/ja
Publication of JP2022144500A5 publication Critical patent/JP2022144500A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/305Electronic adaptation of stereophonic audio signals to reverberation of the listening space
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10KSOUND-PRODUCING DEVICES; METHODS OR DEVICES FOR PROTECTING AGAINST, OR FOR DAMPING, NOISE OR OTHER ACOUSTIC WAVES IN GENERAL; ACOUSTICS NOT OTHERWISE PROVIDED FOR
    • G10K15/00Acoustics not otherwise provided for
    • G10K15/08Arrangements for producing a reverberation or echo sound
    • G10K15/12Arrangements for producing a reverberation or echo sound using electronic time-delay networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/34Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by using a single transducer with sound reflecting, diffracting, directing or guiding means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/302Electronic adaptation of stereophonic sound system to listener position or orientation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/11Positioning of individual sound objects, e.g. moving airplane, within a sound field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/15Aspects of sound capture and related signal processing for recording or reproduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2420/00Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/01Enhancing the perception of the sound image or of the spatial distribution using head related transfer functions [HRTF's] or equivalents thereof, e.g. interaural time difference [ITD] or interaural level difference [ILD]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Otolaryngology (AREA)
  • Stereophonic System (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Reverberation, Karaoke And Other Acoustics (AREA)

Abstract

【課題】初期反射音と残響音との接続部の音の繋がりの違和感を抑制する。【解決手段】音信号処理方法は、仮想空間の幾何学形状に応じた模擬演算を用いて初期反射音制御信号を生成し、仮想空間で測定した反射音パラメータを用いて残響音制御信号を生成し、初期反射音制御信号と残響音制御信号との音量が同じになる接続タイミングを、幾何学形状に基づいて算出し、接続タイミングよりも前の期間において、残響音制御信号の音量を接続タイミングの音量に近づけるように徐々に上げていく。【選択図】図24

Description

この発明の一実施形態は、音源から入力した音に対して所定の処理を行う音信号処理方法および音信号処理装置に関する。
ホール等の空間に対する音響システムでは、初期反射音や残響音を制御する技術が各種実用化されている。
例えば、特許文献1に示すような適応型音場支援装置は、初期反射音と残響音を、ともに測定によって求める。そして、この装置は、個別に測定された初期反射音と残響音とを単に繋げている。
特開2006-261808号公報
しかしながら、仮想空間の幾何学形状等を用いて、仮想空間の初期反射音を模擬的に再現する場合、初期反射音と残響音との接続部において、音の繋がりに違和感を生じることがある。
そこで、この発明の一実施形態は、初期反射音と残響音との接続部の音の繋がりの違和感を抑制することを目的とする。
音信号処理方法は、仮想空間の幾何学形状に応じた模擬演算を用いて初期反射音制御信号を生成し、仮想空間で測定した反射音パラメータを用いて残響音制御信号を生成し、初期反射音制御信号と残響音制御信号との音量が同じになる接続タイミングを、幾何学形状に基づいて算出し、接続タイミングよりも前の期間において、残響音制御信号の音量を接続タイミングの音量に近づけるように徐々に上げていく。
音信号処理方法は、初期反射音と残響音との接続部の音の繋がりの違和感を抑制できる。
図1は、本発明の実施形態に係る音信号処理装置を含む音響システムの構成を示す機能ブロック図である。 図2は、本発明の実施形態に係る音信号処理方法のフローチャートである。 図3は、一般的な直接音、初期反射音、残響音(後部残響音)を含む音の離散的な波形を示す図である。 図4(A)、図4(B)は、虚音源の設定概念を示す図である。 図5は、グルーピング部40の構成の一例を示す機能ブロック図である。 図6は、音源のグルーピング方法を示すフローチャートである。 図7は、複数の音源の複数の領域へのグループ化の概念を示す図である。 図8(A)は、代表点を用いた音源のグルーピング方法を示すフローチャートであり、図8(B)は、領域の境界を用いた音源のグルーピング方法を示すフローチャートである。 図9は、音源の移動によるグルーピングの方法の一例を示すフローチャートである。 図10は、初期反射音制御信号生成部50の構成の一例を示す機能ブロック図である。 図11は、GUIの一例を示す図である。 図12は、虚音源の設定処理の一例を示すフローチャートである。 図13(A)、図13(B)は、幾何学形状が異なる時のそれぞれの虚音源の設定例を示す図である。 図14(A)、図14(B)、および、図14(C)は、虚音源の設定例を示す図である。 図15(A)、図15(B)、図15(C)は、虚音源の設定例を示す図である。 図16は、虚音源をスピーカに割り当てる処理を示すフローチャートである。 図17(A)、図17(B)は、虚音源をスピーカに割り当てる概念を示す図である。 図18は、LDtapの係数設定処理を示すフローチャートである。 図19(A)、図19(B)は、係数設定の概念を説明するための図である。 図20(A)は、仮想空間形状が大きい場合のLDtap係数の例を示し、図20(B)は、仮想空間形状が小さい場合のLDtap係数の例を示す。 図21は、初期反射音制御信号生成部50で生成される初期反射音制御信号の波形を示す図である。 図22は、残響音制御信号生成部70の構成の一例を示す機能ブロック図である。 図23は、残響音制御信号の生成処理の一例を示すフローチャートである。 図24は、直接音、初期反射音制御信号、および、残響音制御信号の波形例を示すグラフである。 図25は、残響音用の領域設定の一例を示す図である。 図26は、出力調整部90の構成の一例を示す機能ブロック図である。 図27は、出力調整処理の一例を示すフローチャートである。 図28は、出力調整用のGUIの一例を示す図である。 図29(A)、図29(B)は、再生空間の後方に音の定位と広がりを持たせる場合の設定例を示す図である。 図30(A)、図30(B)は、再生空間の横方向に音の定位と広がりを持たせる場合の設定例を示す図である。 図31は、高さ方向の広がりを持たせる場合の音の広がりのイメージを表す図である。 図32は、バイノーラル再生機能付き音信号処理装置の構成を示す機能ブロック図である。
本発明の実施形態に係る音信号処理方法および音信号処理装置について、図を参照して説明する。なお、以下の実施形態では、まず、音信号処理方法および音信号処理装置の概要を説明し、その後、各処理、各構成の具体的な内容を説明する。
なお、本実施形態において、再生空間は、ユーザ(聴者)がスピーカ等を用いて、音源からの音(直接音、初期反射音、残響音)を聞く空間である。仮想空間は、再生空間と異なる音場(音響)を有する空間であり、この音場による初期反射音や残響音が再生空間において再現(模擬)される空間である。
[音信号処理装置の概略構成]
図1は、本発明の実施形態に係る音信号処理装置を含む音響システムの構成を示す機能ブロック図である。
図1に示すように、音信号処理装置10は、領域設定部30、グルーピング部40、初期反射音制御信号生成部50、ミキサ60、残響音制御信号生成部70、加算器80、出力調整部90を備える。音信号処理装置10は、例えば、領域設定部30、グルーピング部40、初期反射音制御信号生成部50、ミキサ60、残響音制御信号生成部70、加算器80、出力調整部90をそれぞれに実現する電子回路や、コンピュータ等の演算処理装置によって実現する。加算器80と出力調整部90とから構成される部分が、本発明の「出力信号生成部」に対応する。
音信号処理装置10は、複数のスピーカSP1-SP64に接続する。なお、図1は、64個のスピーカを用いる態様を示すが、スピーカの個数は、これに限るものではない。
音信号処理装置10には、複数の音源OBJ1-OBJ96の音信号S1-S96が入力される。なお、図1は、96個の音源を用いる態様を示すが、音源の個数は、これに限るものではない。
領域設定部30は、再生空間を複数の領域に分割し、分割された領域に関する情報(領域情報)を設定する。領域情報は、領域の境界を決定する位置座標、領域に設定した代表点の位置座標である。
領域設定部30は、設定した複数の領域Area1-Area8の領域情報を、グルーピング部40に出力する。なお、図1では、領域を8個に設定する態様を示すが、領域の個数は、これに限るものではない。
グルーピング部40は、音源OBJ1-OBJ96を、複数の領域Area1-Area8にグルーピングする。グルーピング部40は、グルーピングの結果に基づいて、音源OBJ1-OBJ96の音信号S1-S96を用いて、領域Area1-Area8毎の領域別音信号SA1-SA8を生成する。例えば、グルーピング部40は、領域Area1にグルーピングされた複数の音源の音信号をミキシングして、領域別音信号SA1を生成する。
グルーピング部40は、複数の領域別音信号SA1-SA8を、初期反射音制御信号生成部50に出力する。また、グルーピング部40は、音源OBJ1-OBJ96の音信号S1-S96を、ミキサ60に出力する。
初期反射音制御信号生成部50は、複数の領域別音信号SA1-SA8から、複数のスピーカSP1-SP64毎の初期反射音制御信号ER1-ER64を生成する。初期反射音制御信号ER1-ER64は、仮想空間の初期反射音を再生空間において模擬するためにスピーカSP1-SP64のそれぞれに出力する信号である。初期反射音制御信号生成部50は、生成した初期反射音制御信号ER1-ER64を、加算器80に出力する。
概略的(詳細な構成および処理は後述)に、初期反射音制御信号生成部50は、再生空間に配置されたスピーカSP1-SP64の位置と仮想空間の幾何学形状とを用いて、再生空間上に虚音源(仮想音源)を設定する。なお、虚音源の具体的な設定については、後述する。初期反射音制御信号生成部50は、虚音源を用いることで、仮想空間での初期反射音を模擬する初期反射音制御信号ER1-ER64を生成する。この際、初期反射音制御信号生成部50は、初期反射音制御信号ER1-ER64に対して、所望の音色調整を行う。
ミキサ60は、サミングミキサである。ミキサ60は、音源OBJ1-OBJ96の音信号S1-S96をミキシングして、残響音生成用信号Srを生成する。ミキサ60は、残響音生成用信号Srを、残響音制御信号生成部70に出力する。
残響音制御信号生成部70は、残響音生成用信号Srから、複数のスピーカSP1-SP64毎の残響音制御信号REV1-REV64を生成する。残響音制御信号REV1-REV64は、仮想空間の残響音(後部残響音)を再生空間において模擬するためにスピーカSP1-SP64のそれぞれに出力する信号である。残響音制御信号生成部70は、生成した残響音制御信号REV1-REV64を、加算器80に出力する。
概略的(詳細な構成および処理は後述)に、残響音制御信号生成部70は、再生空間を複数の残響音設定用領域に分割し、複数の残響音設定用領域毎に残響音制御信号を生成する。残響音制御信号生成部70は、複数のスピーカSP1-SP64を複数の残響音設定用領域に割り当てる。残響音制御信号生成部70は、この割り当てに基づいて、複数のスピーカSP1-SP64に、残響音設定用領域毎の残響音制御信号を設定する。
この際、残響音制御信号生成部70は、初期反射音と残響音との接続タイミングを、再生空間の幾何学形状に基づいて設定する。残響音制御信号生成部70は、接続タイミングよりも前の期間では、残響音制御信号のレベル(振幅)を徐々に上げ、接続タイミング以降の期間では、残響音制御信号のレベル(振幅)を徐々に下げる。
加算器80は、複数のスピーカSP1-SP64毎に生成された初期反射音制御信号と残響音制御信号とを加算し、複数のスピーカ用信号Sat1-Sat64を生成する。例えば、加算器80は、スピーカSP1用の初期反射音制御信号とスピーカSP1用の残響音制御信号とを加算し、スピーカ用信号Sat1を生成する。加算器80は、複数のスピーカ用信号Sat1-Sat64を、出力調整部90に出力する。
出力調整部90は、複数のスピーカ用信号Sat1-Sat64にゲイン制御およびディレイ制御を行って、出力信号So1-So64を生成する。出力調整部90は、出力信号So1-So64を、複数のスピーカSP1-SP64に出力する。例えば、出力調整部90は、スピーカ用信号Sat1に、スピーカSP1用のゲイン制御およびディレイ制御を行って、出力信号So1を生成する。出力調整部90は、出力信号So1をスピーカSP1に出力する。
概略的(詳細な構成および処理は後述)に、出力調整部90は、再生空間における音響パラメータの入力を受け付ける。音響パラメータは、例えば、音空間における幅方向の空間の広がりの調整、音空間における受音点よりも後方の空間の広がりの調整、音空間における天井方向の空間の広がりの調整等を設定するパラメータである。出力調整部90は、複数のスピーカSP1-SP64の位置座標と音響パラメータとに基づいて、複数のスピーカ用信号Sat1-Sat64のゲイン値およびディレイ量(遅延量)を、一括して設定する。一括して設定するとは、スピーカ毎に個別に設定することではなく、例えば、全てのスピーカに共通の特定の算出式に各スピーカの位置座標を入力するだけで、各スピーカのゲイン値およびディレイ量を設定することである。出力調整部90は、設定されたゲイン値およびディレイ値を用いて、複数のスピーカ用信号Sat1-Sat64にゲイン制御およびディレイ制御を行う。
[音信号処理方法の概略処理]
図2は、本発明の実施形態に係る音信号処理方法のフローチャートである。図2は、図1の音信号処理装置10によって実現される音信号処理方法を示す。なお、図2に示す各処理の内容は、上述の図1の説明において説明しているため、簡略的に記載する。
(音源OBJ1-OBJ96のグルーピング)
グルーピング部40は、複数の音源OBJ1-OBJ96を、複数の領域Area1-Area8毎にグループ化する(S11)。
(初期反射音制御信号の生成)
初期反射音制御信号生成部50は、グループ毎に初期反射音用の音色を設定する(SS12)。初期反射音制御信号生成部50は、グループ毎に虚音源を設定する(S13)。初期反射音制御信号生成部50は、音色と虚音源とを用いて、複数のスピーカSP1-SP64毎の初期反射音制御信号を生成する(S14)。
(残響音制御信号の生成)
ミキサ60は、複数の音源OBJ1-OBJ96の音信号S1-S96をサミングする(S21)。残響音制御信号生成部70は、再生空間の幾何学形状に基づいて、初期反射音と残響音との接続タイミングを設定する(S22)。残響音制御信号生成部70は、設定した接続タイミングを用いて、残響音制御信号を生成する(S23)。残響音制御信号生成部70は、生成した残響音制御信号を、再生空間での複数のスピーカSP1-SP64の位置座標に基づいて、複数のスピーカSP1-SP64に割り当てる(S24)。
(複数のスピーカへの出力処理)
加算器80は、複数のスピーカSP1-SP64毎に、初期反射音制御信号と残響音制御信号とを加算し、スピーカ用信号Sat1-Sat64を生成する(S31)。
出力調整部90は、再生空間における残響の定位、空間の広がりを実現する音響パラメータを用いて、スピーカ用信号Sat1-Sat64から出力信号So1-So64を生成する(S32)。出力調整部90は、出力信号So1-So64を複数のスピーカSP1-SP64に出力する(S33)。
上述の構成および処理を用いることで、音信号処理装置10(音信号処理方法)は、次の各種の効果を得られる。
(1)音信号処理装置10(音信号処理方法)は、再生空間を分割した領域毎に音源をグループ化して初期反射音を生成することで、明瞭な音像定位と豊かな空間の拡がりを実現できる。この際、残響音は、再生空間の全体で一定であり、初期反射音だけが、音源の位置に依存して変化する。したがって、例えば、音源の位置が移動した場合、この音源の音の移動は、より滑らかになる。
(2)音信号処理装置10(音信号処理方法)は、虚音源を用いて初期反射音制御信号を生成することで、仮想空間の幾何学形状による初期反射音を、再生空間でより忠実に模擬できる。
(3)音信号処理装置10(音信号処理方法)は、初期反射音制御信号の音色調整を行うことで、例えば、虚音源のみによって模擬される初期反射音の音色の不自然さを解消できる。
(4)音信号処理装置10(音信号処理方法)は、初期反射音制御信号と残響音制御信号との接続タイミングを再生空間の幾何学形状から設定することで、初期反射音から残響音への繋がりを、より滑らかで自然なものにすることができる。
(5)音信号処理装置10(音信号処理方法)は、初期反射音制御信号と残響音制御信号とを含むスピーカ用信号Sat1-Sat64のゲイン値およびディレイ量を一括で調整することで、再生空間においてユーザの所望する音場を、より容易な操作入力で実現できる。
[各信号処理部および各処理の具体的な説明]
以下では、上述の各信号処理部および各処理の具体的な説明を記載する。まず、発明を理解するために必要な初期反射音、残響音、および、虚音源について、図を参照して説明する。
[初期反射音および残響音]
図3は、一般的な直接音、初期反射音、残響音(後部残響音)を含む音の離散的な波形を示す図である。例えば、演奏やコンテンツの再生を行うホールは、壁に囲まれる閉空間を有する。この閉空間で音が発生すると、受音点には、直接音、初期反射音、残響音(後部残響音)が到達する。
直接音は、音の発生位置から受音点に直接到達する音である。
初期反射音は、発生位置で発生した音が壁や床、天井に反射してから受音点に早い時刻で到達する音である。このため、初期反射音は、直接音に続いて受音点に到達する。また、初期反射音の音量(レベル)は、直接音の音量(レベル)より小さくなる。この反射回数が1回であれば、1次反射音であり、n回であれば、n次反射音である。受音点における初期反射音の到来方向とその音量は、音の発生位置の影響を大きく受ける。
残響音は、初期反射音に続いて受音点に到達する。残響音は、発生位置で発生した音が多重反射してから受音点に到達する音である。すなわち、残響音は、反射音がさらに多数回反射、減衰しながら受音点に到達する音である。したがって、残響音の音量(レベル)は、初期反射音の音量(レベル)よりも小さい。さらに、残響音の到来方向とその音量は、初期反射音に比べて、音の発生位置の影響が小さい。
[虚音源]
図4(A)、図4(B)は、虚音源の設定概念を示す図である。なお、図4(A)、図4(B)では、説明を容易にするため、二次元での虚音源の設定概念を示しているが、虚音源は、三次元においても同じ概念で設定できる。すなわち、実際の再生空間において、音源が一平面上に揃っておらず空間的に配置され、仮想空間が立体で設定される場合には、虚音源は、三次元で設定される。
再生空間には、音源SSと受音点RPとが存在する。なお、図4(A)、図4(B)に示す音源SSは、上述の説明の音源OBJとは異なる意味であり、一般的な音を発生するものを意味する。また、再生空間には、仮想空間の音場を実現する仮想壁IWLが設定される。仮想壁IWは、仮想空間の幾何学形状から得られる。
音源SSと受音点RPとは、仮想壁IWLに囲まれる空間内に存在する。仮想壁IWLは、仮想壁IWL1、仮想壁IWL2、仮想壁IWL3、および、仮想壁IWL4を備える。仮想壁IWL1と仮想壁IWL4とは、再生空間の第1方向(図4(A)、図4(B)の縦方向)において、音源SSと受音点RPとを間に挟むように配置される。仮想壁IWL1は、受音点RPよりも音源SSに近い側に配置され、仮想壁IWL4は、音源SSよりも受音点RPに近い側に配置される。仮想壁IWL2と仮想壁IWL3とは、再生空間の第2方向(図4(A)、図4(B)の横方向)において、音源SSと受音点RPとを間に挟むように配置される。仮想壁IWL2は、受音点RPよりも音源SSに近い側に配置され、仮想壁IWL3は、音源SSよりも受音点RPに近い側に配置される。
仮想壁IWL1、仮想壁IWL2、仮想壁IWL3、および、仮想壁IWL4が現実に音を反射する壁であれば、図4(B)に示すように、音源SSから発した音は、仮想壁IWL1、仮想壁IWL2、および、仮想壁IWL3で反射して、受音点RPに到達する。なお、図4(B)では、仮想壁IWL4からの反射を記載していないが、仮想壁IWL4でも、仮想壁IWL1、仮想壁IWL2、および、仮想壁IWL3と同様に反射が生じる。
しかしながら、仮想壁IWL1、仮想壁IWL2、仮想壁IWL3、および、仮想壁IWL4は、再生空間では現実には存在しない。したがって、図4(A)に示すように、音信号処理装置10は、壁面における音の反射を鏡面反射として、虚音源IS1、虚音源IS2、および、虚音源IS3を設定する。
具体的には、音信号処理装置10は、仮想壁IWL1を基準線として、音源SSに対して線対称の位置に、虚音源IS1を設定する。音信号処理装置10は、仮想壁IWL2を基準線として、音源SSに対して線対称の位置に、虚音源IS2を設定する。仮想壁IWL3を基準線として、音源SSに対して線対称の位置に、虚音源IS3を設定する。なお、各虚音源ISの音響パワーを調整することで、仮想壁IWLでの反射におけるエネルギー損失を模擬することができる。
このような設定を行うことによって、虚音源IS1で発生した音は、音源SSで発生して仮想壁IW1で反射した音と同じになる。虚音源IS2で発生した音は、音源SSで発生して仮想壁IW2で反射した音と同じになる。虚音源IS3で発生した音は、音源SSで発生して仮想壁IW3で反射した音と同じになる。なお、図4(A)、図4(B)では、仮想壁IWL4に対する虚音源を記載していないが、仮想壁IWL4についても、仮想壁IWL1、仮想壁IWL2、および、仮想壁IWL3と同様に虚音源を設定できる。
音信号処理装置10は、このように虚音源を設定することで、仮想空間の初期反射音を、仮想空間の現実の壁が存在しない再生空間において模擬できる。
[グルーピング部40の構成および処理]
図5は、グルーピング部40の構成の一例を示す機能ブロック図である。図6は、音源のグルーピング方法を示すフローチャートである。
図5に示すように、グルーピング部40は、音源位置検出部41、領域判定部42、および、マトリックスミキサ400を備える。
音源位置検出部41は、再生空間における複数の音源OBJ1-OBJ96の位置座標を検出する(図6:S111)。例えば、音源位置検出部41は、ユーザからの操作入力によって、音源OBJ1-OBJ96の位置座標を検出する。または、音源位置検出部41は、音源OBJ1-OBJ96の検出用の位置検出センサを備えており、位置検出センサが検出した位置によって、音源OBJ1-OBJ96の位置座標を検出する。
音源位置検出部41は、音源OBJ1-OBJ96の位置座標を、領域判定部42に出力する。
領域判定部42は、領域設定部30からの複数の領域Area1-Area8の領域情報と、音源位置検出部41からの音源OBJ1-OBJ96の位置座標とを用いて、音源OBJ1-OBJ96を、複数の領域Area1-Area8にグルーピングする(図6:S112)。より具体的には、領域判定部42は、次のように、グルーピングを行う。
図7は、複数の音源の複数の領域へのグループ化の概念を示す図である。なお、図7では、図の上方が、再生空間であるホールの前方であり、図の下方が、ホールの後方である。
領域設定部30は、再生空間に対して、領域分割用の基準点Psoを設定する。例えば、図7に示すように、領域設定部30は、再生空間を実現するホールの中心位置を基準点Psoに設定する。なお、領域設定部30は、ユーザが設定した点(位置)を基準点とすることもできる。例えば、領域設定部30は、ユーザが設定した受音点等を基準点とすることができる。
領域設定部30は、領域分割用の基準点Psoを中心にして平面上の全周を8分割するように、8個の領域Area1-Area8を設定する。例えば、図7の場合、領域設定部30は、ホール(再生空間)における基準点Psoよりも前方に、複数の領域Area1、Area2、Area3を設定する。また、領域設定部30は、基準点Psoからホールの前方を向いて左方向に、領域Area4を設定し、基準点Psoからホールの前方を向いて右方向に、領域Area5を設定する。また、領域設定部30は、ホール(再生空間)における基準点Psoよりも後方に、複数の領域Area6、Area7、Area8を設定する。
なお、この領域の設定は、一例であり、設定した複数の領域によって、再生空間の全体がカバーできれば、他の設定であってもよい。また、この説明は、平面的な領域の設定を示すが、空間的な領域についても、同様に設定できる。例えば、領域Area1の垂直方向の範囲も、領域Area1に含まれる。
領域設定部30は、複数の領域Area1-Area8のそれぞれに代表点RP1-RP8を設定する。例えば、領域設定部30は、複数の代表点RP1-RP8を、複数の領域Area1-Area8の中心位置で設定する。または、図7のような放射状に広がる領域の場合、例えば、領域設定部30は、放射状に広がる角の中心を通る直線上で、基準点Psoから所定距離の位置に、代表点を設定する。なお、これらの代表点の設定方法は、一例であり、例えば、1個の領域に1個の代表点を設定でき、音源のグルーピング処理を確実の行える方法であれば、他の方法であってもよい。
領域設定部30は、複数の領域Area1-Area8の領域情報を、グルーピング部40の領域判定部42およびマトリックスミキサ400に出力する。複数の領域Area1-Area8の領域情報は、領域Area1-Area8の代表点RP1-RP8の位置座標、領域Area1-Area8の形状を形作る境界線を表す座標情報等である。
(代表点を用いて音源を領域にグルーピングする方法)
図8(A)は、代表点を用いた音源のグルーピング方法を示すフローチャートである。
領域判定部42は、複数の領域Area1-Area8の領域情報から、代表点RP1-RP8の位置座標を取得する(S131)。領域判定部42は、グルーピングの判定対象の音源の位置座標と代表点RP1-RP8の位置座標との距離を算出する(S132)。領域判定部42は、最短距離となる代表点を含む領域に音源をグルーピングする(S133)。
例えば、図7の例で音源OBJ1の場合、領域判定部42は、音源OBJ1の位置座標を検出し、複数の代表点RP1-RP8の位置座標を取得する。領域判定部42は、音源OBJ1の位置座標と複数の代表点RP1-RP8の位置座標から、音源OBJ1と複数の代表点RP1-RP8との距離をそれぞれに算出する。領域判定部42は、音源OBJ1と代表点RP1との距離が、音源OBJ1と他の代表点RP2-RP8との距離よりも短いことを検出する。言い換えれば、領域判定部42は、音源OBJ1と代表点RP1との距離が最短距離であることを検出する。領域判定部42は、代表点RP1に関連づけられた領域Area1に、音源OBJ1をグルーピングする。
(領域の境界を用いて音源を領域にグルーピングする方法)
図8(B)は、領域の境界を用いた音源のグルーピング方法を示すフローチャートである。
領域判定部42は、複数の領域Area1-Area8の領域情報から、各領域Area1-Area8の境界線を表す座標情報(境界座標)を取得する(S136)。領域判定部42は、グルーピングの判定対象の音源の位置座標が各領域Area1-Area8の内側にあるかを判定する(S137)。例えば、領域判定部42は、Crossing Number Algorithmを用いて、領域に対する音源の内外判定を行う。領域判定部42は、音源が領域内にあれば(S137:YES)、この領域に音源をグルーピングする(S138)。
例えば、図7の例で音源OBJ1の場合、領域判定部42は、音源OBJ1の位置座標を検出し、複数の領域Area1-Area8の境界線を表す座標情報(境界座標)を取得する。領域判定部42は、音源OBJ1の位置座標と複数の領域Area1-Area8の境界座標から、複数の領域Area1-Area8に対する音源OBJ1の内外判定を行う。領域判定部42は、音源OBJ1が領域Area1内にあることを検出する。領域判定部42は、領域Area1に音源OBJ1をグルーピングする。
領域判定部42は、入力される複数の音源OBJ1-OBJ96を、複数の領域Area1-Area8にグルーピングする。例えば、図7の例であれば、領域判定部42は、領域Area1に音源OBJ1、OBJ4をグルーピングし、領域Area2に音源OBJ2をグルーピングし、領域Area5に音源OBJ3をグルーピングする。
領域判定部42は、グルーピング情報を、マトリックスミキサ400に出力する。グルーピング情報とは、上述の、どの領域にどの音源をグルーピングしたかを示す情報である。
マトリックスミキサ400は、グルーピング情報に基づいて、複数の音源OBJ1-OBJ96の音信号S1-S96を用いて、複数の領域Area1-Area8毎の領域別音信号SA1-SA8を生成する。例えば、マトリックスミキサ400は、領域に複数の音源がグルーピングされていれば、これら複数の音源の音信号をミキシングして、この領域の領域別音信号を生成する。マトリックスミキサ400は、各領域の領域別音信号を、初期反射音制御信号生成部50に出力する。なお、マトリックスミキサ400は、領域に1つでも音源がグルーピングされていれば、この音源の音信号を、この領域の領域別音信号として、初期反射音制御信号生成部50に出力する。
図7の例であれば、領域Area1は、音源OBJ1、OBJ4がグルーピングされている。マトリックスミキサ400は、音源OBJ1の音信号S1と音源OBJ4の音信号S4とをミキシングして、領域Area1の領域別音信号SA1を生成し、出力する。また、領域Area2は、音源OBJ2がグルーピングされている。マトリックスミキサ400は、音源OBJ2の音信号S2を、領域Area2の領域別音信号SA2として出力する。また、領域Area5は、音源OBJ3がグルーピングされている。マトリックスミキサ400は、音源OBJ3の音信号S3を、領域Area5の領域別音信号SA5として出力する。
このような構成、処理を実現することによって、音信号処理装置10は、音空間を分割する複数の領域毎に複数の音源をグルーピングして、初期反射音制御信号を生成できる。これにより、音信号処理装置10は、音源の位置に応じた初期反射音を再現でき、明瞭な音像定位と豊かな空間の拡がりを実現できる。
なお、上述の説明では、音源が移動する場合を詳細に示していないが、音源が移動する場合は、グルーピング部40は、図9に示す処理を行う。図9は、音源の移動によるグルーピングの方法の一例を示すフローチャートである。
音源位置検出部41は、音源の移動を検出する(S104)。音源位置検出部41は、例えば、ユーザからの操作入力によって音源の移動を検出する。または、音源位置検出部41は、位置検出センサによって、継続的に音源位置を検出することで、音源の移動を検出する。音源位置検出部41は、移動後の音源の位置座標を検出し、領域判定部42に出力する。
領域判定部42は、移動後の音源の位置座標を用いて、上述のように、複数の領域Area1-Area8へのグルーピングを行う。
このような処理を行うことによって、音信号処理装置10は、音源が移動しても、移動後の音源の位置に応じた初期反射音制御信号を生成できる。これにより、音信号処理装置10は、音源の移動に応じた初期反射音の変化を再現でき、音源の移動があっても、移動に応じた明瞭な音像定位と豊かな空間の拡がりを実現できる。
また、このような音源の移動が生じる際、音信号処理装置10は、移動前の初期反射音制御信号と移動後の初期反射音制御信号に対して、クロスフェード処理を施すことができる。例えば、音源が移動したとき、音信号処理装置10は、移動前の音源が含まれる領域別音信号におけるこの音源の音信号の成分を徐々に低くする。一方、音信号処理装置10は、移動後の音源が含まれる領域別音信号におけるこの音源の音信号の成分を徐々に高くする。
このような処理を行うことによって、音信号処理装置10は、音源が移動したときの初期反射音の不連続な変化を抑制できる。これにより、音信号処理装置10は、音源が移動したときに、音源の移動に応じて、初期反射音をより滑らかに変化させることができる。
また、マトリックスミキサ400は、複数の音源OBJ1-OBJ96の音信号S1-S96を、ミキサ60に出力する。上述のように、ミキサ60は、音信号S1-S96をサミングして残響音生成用信号Srを生成し、残響音制御信号生成部70に出力する。残響音制御信号生成部70は、残響音生成用信号Srを用いて、残響音制御信号REV1-REV64を生成する。
このような処理により、残響音は、音源の位置や移動による影響を受けない。したがって、音信号処理装置10は、音源が移動しても再生空間の残響音を一定に保ちながら、初期反射音の変化によって音源の移動をより明瞭に再現できる。
[初期反射音制御信号の生成]
図10は、初期反射音制御信号生成部50の構成の一例を示す機能ブロック図である。図11は、GUIの一例を示す図である。
図10に示すように、初期反射音制御信号生成部50は、FIRフィルタ回路51、LDtap回路52、加算処理部53、音色設定部501、虚音源設定部502、および、操作部500を備える。FIRフィルタ回路51は、複数のFIRフィルタ511-518を備える。LDtap回路52は、複数のLDtap521-528、出力スピーカ設定部5201、および、係数設定部5202を備える。なお、FIRフィルタ回路51とLDtap回路52との順は逆であってもよい。
[初期反射音の音色調整]
操作部500は、初期反射音に付加する音色の指定情報をユーザから受け付けて、音色設定部501に出力する。音色の指定情報は、例えば、低音域重視、高音域重視、初期反射音の音量、初期反射音の減衰特性等を指定する情報(フィルタ特性を表す情報)である。
具体的な一例として、操作部500は、図11に示すようなGUI100(Graphical User Interface)によって操作を受け付ける。
GUI110は、設定表示ウィンドウ111、複数の操作子112、ノブ1131、調整値表示ウィンドウ1132を備える。
設定表示ウィンドウ111は、複数の操作子112、ノブ1131によって設定された仮想空間の仮想壁IWLの形状を表示する。この際、設定表示ウィンドウ111は、別途設定された音源SSの位置、スピーカSPの位置、受音点RPの位置、再生空間の座標軸を、仮想壁IWLとともに表示できる。
複数の操作子112は、予め設定された仮想空間のサンプル(各種のホール、部屋等)に関連づけられている。なお、図示は省略しているが、複数の操作子112には、それぞれの操作子112に関連づけられた仮想空間のサンプルを明示するインデックス(例えば、ホール名等)が表示されている。
ノブ1131は、ルームサイズの設定用である。調整値表示ウィンドウ1132は、ルームサイズの設定値を表示する。
GUI100は、音色の調整用の各種の操作を受け付ける。例えば、GUI100は、複数の操作子112、低音域用の操作子、高音域用の操作子、音量調整用の操作子、減衰特性調整用の操作子等を備え、これらの操作子によって操作を受け付ける。
ユーザがGUI100を用いて所望の操作子を操作すると、操作部500は、この操作を検出し、これら操作に応じて、音色の指定情報を設定する。
例えば、操作部500は、複数の操作子112の選択を受け付けると、この操作子112に関連づけられた仮想空間に予め設定された音色の指定情報を取得する。また、操作部500は、低音域用の操作子、高音域用の操作子、音量調整用の操作子、減衰特性調整用の操作子等による操作を受け付けると、これらの操作子によって設定された音色の指定情報を取得する。
なお、図示を省略しているが、GUI100は、音色の指定情報を、例えば、後述のFIRフィルタ511-518のフィルタ係数、概略的な波形等を用いて表示することも可能である。この場合、GUI100は、音色の指定情報の調整を受け付けると、この調整に応じて、表示を変更することもできる。例えば、GUI100は、調整に応じて波形の表示を変化させることができる。
音色設定部501は、音色の指定情報に基づいて、FIRフィルタ回路51のFIRフィルタ511-518のフィルタ係数を設定する。例えば、音色設定部501は、低音域重視の指定情報を受け付けると、FIRフィルタ回路51のFIRフィルタ511-518の低域がブーストされたフィルタ係数を設定する。また、音色設定部501は、高音域重視の指定情報を受け付けると、FIRフィルタ回路51のFIRフィルタ511-518の高域がブーストされたフィルタ係数を設定する。音色設定部501は、設定したフィルタ係数を、FIRフィルタ回路51に出力する。なお、音色設定部501は、フィルタ係数に限らず、フィルタ特性として、サンプリング周波数、フィルタ長を設定、調整することもできる。
また、音色設定部501は、音色の指定情報に基づいて、FIRフィルタ回路51のFIRフィルタ511-518の各タップのゲイン値を設定する。音色設定部501は、設定したゲイン値を、FIRフィルタ回路51に出力する。
複数のFIRフィルタ511-518は、領域別音信号SA1-SA8にそれぞれ対応するフィルタである。領域別音信号SA1-SA8は、FIRフィルタ511-518に入力される。例えば、図10に示すように、領域別音信号SA1は、FIRフィルタ511に入力され、領域別音信号SA2は、FIRフィルタ512に入力され、領域別音信号SA3は、FIRフィルタ513に入力され、領域別音信号SA4は、FIRフィルタ514に入力される。領域別音信号SA5は、FIRフィルタ515に入力され、領域別音信号SA6は、FIRフィルタ516に入力され、領域別音信号SA7は、FIRフィルタ517に入力され、領域別音信号SA8は、FIRフィルタ518に入力される。
複数のFIRフィルタ511-518は、同じタップ数を備える。例えば、複数のFIRフィルタ511-518は、16000タップを備える。なお、このタップ数は一例であり、音信号処理装置10のリソース条件、再現したい初期反射音の音色の精度等に基づいて設定すればよい。
複数のFIRフィルタ511-518は、音色設定部501で設定されたフィルタ係数およびゲイン値によって、複数の領域別音信号SA1-SA8をそれぞれにフィルタ処理(畳み込み演算)を行う。これにより、複数のFIRフィルタ511-518は、フィルタ処理後の領域別音信号SA1f-SA8fを生成する。例えば、FIRフィルタ511は、音色設定部501で設定されたフィルタ係数およびゲイン値によって、領域別音信号SA1にフィルタ処理(畳み込み演算)を行い、フィルタ処理後の領域別音信号SA1fを生成する。同様に、複数のFIRフィルタ512-518は、領域別音信号SA2-SA8から、フィルタ処理後の領域別音信号SA2f-SA8fを個別に生成する。
複数のFIRフィルタ511-518は、フィルタ処理後の領域別音信号SA1f-SA8fを、複数のLDtap521-528に出力する。例えば、FIRフィルタ511は、フィルタ処理後の領域別音信号SA1fを、LDtap521に出力する。同様に、複数のFIRフィルタ512-518は、フィルタ処理後の領域別音信号SA2f-SA8fを、複数のLDtap522-528に出力する。
なお、音色の指定情報は、音域の重視情報に限るものではなく、初期反射音の波形をユーザの所望の特性にするものも含む。このような音色の指定情報を用いることによって、音信号処理装置10は、より多様でユーザの好みに応じた音色の初期反射音を実現できる。
[虚音源設定およびLDtapの設定]
虚音源設定部502は、再生空間における受音点の位置座標、および、仮想空間の幾何学形状に基づいて、虚音源を設定する。
図12は、虚音源の設定処理の一例を示すフローチャートである。虚音源設定部502は、再生空間の受音点の位置座標を取得する(S131)。例えば、虚音源設定部502は、ユーザからの操作入力、位置検出センサによる位置の検出等によって、再生空間の受音点の位置座標を取得する。
虚音源設定部502は、仮想空間の幾何学形状を取得する(S132)。例えば、虚音源設定部502は、ユーザからの操作入力等によって、仮想空間の幾何学形状を取得する。仮想空間の幾何学形状とは、仮想空間に配置される壁の形状を表す座標群等を含む。
虚音源設定部502は、GUI100に接続する。ユーザが複数の操作子112から所望の操作子112を選択すると、GUI100は、この操作子112に関連づけされた仮想空間の幾何学形状を読み出し、取得する。また、ユーザがノブ1131を用いてルームサイズを調整すると、GUI100は、このルームサイズの調整値を取得する。
虚音源設定部502は、このようにGUI100が取得した各設定に基づいて、ルームサイズが設定された仮想空間の幾何学形状の位置座標を取得する。また、虚音源設定部502は、音源SSの位置座標、受音点RP(ルームセンタ)の位置座標を取得する。虚音源設定部502は、これらの取得情報を用いて、次に示すように、虚音源を設定する。 虚音源設定部502は、再生空間の座標系と仮想空間の座標系とを一致させる。虚音源設定部502は、再生空間の受音点の位置座標と、仮想空間の幾何学形状とを用いて、前述の図4(A)、図4(B)を用いた概念によって、再生空間での虚音源の位置座標を設定する(S133)。
図13(A)、図13(B)は、幾何学形状が異なる時のそれぞれの虚音源の設定例を示す図である。図13(A)では、四角形の仮想壁IWLであり、図13(B)では、六角形の仮想壁IWLhである。
このように、仮想空間の幾何学形状が異なると、音源SSaの位置座標および受音点RPの位置座標が変化しなくても、音源SSaおよび受音点RPと仮想壁IWLとの位置関係と、音源SSaおよび受音点RPと仮想壁IWLhとの位置関係は異なる。これにより、図13(A)の場合で設定される虚音源IS1a、IS2a、IS3aの位置と、図13(B)で設定される虚音源の位置IS1ah、IS2ah、IS3ahとは、異なる。
図14(A)、図14(B)、および、図14(C)、は、虚音源の設定例を示す図である。図14(A)、図14(B)、図14(C)は、平面的変化を示す図である。図14(B)は、図14(A)に対して、基準点(受音点RP)に対する音源SSaの位置が同じであり、仮想空間のサイズが異なる場合を示す。図14(C)は、図14(A)に対して、仮想空間のサイズが同じであり、仮想空間の基準点と再生空間の基準点(受音点)との位置関係が変化した場合(再生空間のルームセンタが変化した場合)を示す。
図14(A)と図14(B)との比較結果から分かるように、再生空間上での仮想空間のサイズ(図14(A)では仮想壁IWL、図14(B)では仮想壁IWLcで記載)が異なることで、虚音源の元となる音源と仮想壁との距離、位置関係が異なる。これにより、図14(A)の場合で設定される虚音源IS1a、IS2a、IS3aの位置と、図14(B)の場合で設定される虚音源IS1c、IS2c、IS3cの位置とは、異なる。
また、図14(A)と図14(C)との比較結果から分かるように、仮想空間の基準点と受音点RPとの位置関係が変化することで、再生空間上での虚音源の位置(受音点RPおよびスピーカに対する虚音源の位置)は移動する。これにより、図14(A)の場合で設定される虚音源IS1a、IS2a、IS3aの位置と、図14(C)の場合で設定される虚音源IS1as、IS2as、IS3asの位置とは、異なる。
図15(A)、図15(B)、図15(C)は、虚音源の設定例を示す図である。図15は、高さ方向の変化を示す図である。図15(A)、図15(B)、図15(C)は、高さ変化を示す図である。
図15(A)と図15(B)とでは、天井の高さが異なる。すなわち、図15(A)に示す仮想壁IWLにおける床の仮想壁IWFLから天井の仮想壁IWCLまでの距離(高さ)と、図15(B)に示す仮想壁IWLLにおける床の仮想壁IWFLから天井の仮想壁IWCLLまでの距離(高さ)が異なる。
図15(A)と図15(B)との比較結果から分かるように、天井の高さが異なることで、虚音源の元となる音源と天井の仮想壁IWCL、IWCLLとの距離、位置関係が異なる。これにより、図15(A)の場合で設定される虚音源IS1Caの位置と、図15(B)の場合で設定される虚音源IS1CaLの位置とは、異なる。
図15(A)と図15(C)とでは、天井の形状が異なる。すなわち、図15(A)に示す仮想壁IWLにおける天井の仮想壁IWCLの形状と、図15(C)に示す仮想壁IWLxにおける天井の仮想壁IWCLxの形状が異なる。
図15(A)と図15(C)との比較結果から分かるように、天井の形状が異なることで、虚音源の元となる音源と天井の仮想壁IWCL、IWCLxとの位置関係が異なる。これにより、図15(A)の場合で設定される虚音源IS1Caの位置と、図15(C)の場合で設定される虚音源IS1Caxの位置とは、異なる。
このように、虚音源設定部502は、仮想空間の幾何学形状、再生空間と仮想空間との位置関係に対応して、再生空間での虚音源の位置を最適に設定できる。これにより、音信号処理装置10は、再生空間におけるスピーカの位置座標、仮想空間の幾何学形状、再生空間と仮想空間との位置関係に対応して、初期反射音の音像定位を明瞭にすることができる。
虚音源設定部502は、複数の領域Area1-Area8毎に設定した虚音源の位置座標を、LDtap回路52の出力スピーカ設定部5201に出力する。
出力スピーカ設定部5201は、虚音源ISの位置座標、受音点RPの位置座標、複数のスピーカSP1-SP64の位置座標に基づいて、スピーカ毎に割り当てる虚音源ISを設定する。図16は、虚音源をスピーカに割り当てる処理を示すフローチャートである。
出力スピーカ設定部5201は、虚音源設定部502から虚音源の位置座標を取得する(S141)。出力スピーカ設定部5201は、例えばユーザからの操作入力等によって、再生空間での受音点の位置座標を取得する(S142)。出力スピーカ設定部5201は、例えばユーザからの操作入力等によって、複数のスピーカSP1-SP64の位置座標を取得する(S143)。
出力スピーカ設定部5201は、再生空間における受音点RPと複数のスピーカSP1-SP64との位置関係から、スピーカ毎の虚音源の担当領域を設定する(S144)。
より具体的には、出力スピーカ設定部5201は、次のように、スピーカ毎の虚音源の担当領域を設定する。図17(A)、図17(B)は、虚音源をスピーカに割り当てる概念を示す図である。図17(A)は、方位角φを用いた割り当ての概念を示し、図17(B)は、仰俯角θを用いた割当の概念を示す。また、以下では、スピーカSP1を例に説明するが、出力スピーカ設定部5201は、他のスピーカSP2-SP64についても同様の方法によって担当領域を設定する。
出力スピーカ設定部5201は、受音点RPの位置座標とスピーカSP1の位置座標とを用いて、受音点RPとスピーカSP1とを通る直線(図17(A)における破線)を設定する。図17(A)に示すように、出力スピーカ設定部5201は、この直線(図17(A)における破線)に対して、平面上で受音点RPを基準点としてスピーカSP1側に広がる方位角φを設定する。方位角φは、受音点RPとスピーカSP1とを通る直線に対する水平方向の為す角である。また、図17(B)に示すように、出力スピーカ設定部5201は、上述の直線(図17(B)における破線)に対して、平面に直交する上下方向に対して広がる仰俯角θを設定する。仰俯角θは、受音点RPとスピーカSP1とを通る直線に対する鉛直方向(水平方向に直交する方向)での為す角である。
出力スピーカ設定部5201は、この方位角φおよび仰俯角θによって決定される面よりもスピーカSP1側の空間を、スピーカSP1の担当領域RGSP1に設定する。
出力スピーカ設定部5201は、複数の虚音源IS(図17の場合、複数の虚音源ISa-ISg)の位置座標を取得する。
出力スピーカ設定部5201は、複数の虚音源ISa-ISgの位置座標と、担当領域RGSP1を表す座標とを用いて、複数の虚音源ISa-ISgが担当領域RGSP1内にあるかどうかを判定する。この判定は、上述の音源の領域へのグルーピングと同じ方法によって実現できる。
出力スピーカ設定部5201は、この判定処理を行うことによって、例えば、図14に示す場合であれば、複数の虚音源ISa、ISb、ISc、ISdが担当領域RGSP1内にあると判定し、複数の虚音源ISe、ISf、ISgが担当領域RGSP1外にあると判定する。
出力スピーカ設定部5201は、担当領域RGSP1内にあると判定した複数の虚音源ISa、ISb、ISc、ISdを、スピーカSP1に割り当てる。
出力スピーカ設定部5201は、複数のスピーカSP1-SP64に対する複数の虚音源の割り当て情報を、係数設定部5202に出力する。この際、出力スピーカ設定部5201は、受音点RPの位置座標、複数のスピーカSP1-SP64の位置座標、複数の虚音源の位置座標を、割り当て情報とともに係数設定部5202に出力する。
なお、方位角φは例えば60°であり、仰俯角θは例えば45°である。これら方位角φおよび仰俯角θの角度は、一例であり、例えば、ユーザからの操作入力によって設定、調整可能である。
係数設定部5202は、受音点RPと複数のスピーカSP1-SP64との距離、受音点RPと虚音源ISとの距離を用いて、LDtap521-528に与えるタップ係数を設定する。LDtap521-528に与えるタップ係数とは、LDtap521-528のゲイン値および遅延量である。
図18は、LDtapの係数設定処理を示すフローチャートである。図19(A)、図19(B)は、係数設定の概念を説明するための図である。
係数設定部5202は、受音点RPの位置座標と複数のスピーカSP1-SP64の位置座標とを用いて、受音点PRと複数のスピーカSP1-SP64との距離(スピーカ距離)を算出する(S151)。
係数設定部5202は、受音点PRと複数の虚音源ISとの距離(虚音源距離)を算出する(S152)。
係数設定部5202は、複数のスピーカSP1-SP64と、これらのスピーカSP1-SP64にそれぞれ割り当てられた複数の虚音源ISとについて、スピーカ距離と虚音源距離とを比較する(S153)。例えば、図17(A)の例であれば、スピーカSP1と、複数の虚音源ISa、ISb、ISc、ISdとについて、スピーカ距離と虚音源距離とを比較する。
係数設定部5202は、スピーカ距離が虚音源距離以下であれば(S153:YES)、虚音源距離をそのまま用いて、タップ係数を設定する(S154)。
例えば、図19(A)に示すような場合であり、虚音源ISaは、スピーカSP1よりも受音点RPから遠く、受音点RPと虚音源ISaとの虚音源距離Liaは、受音点RPとスピーカSP1とのスピーカ距離Ls1よりも大きい。
この場合、係数設定部5202は、虚音源ISaとスピーカSP1との距離Da1用いて、タップ係数を設定する。具体的には、係数設定部5202は、虚音源ISaに対して設定するゲイン値および遅延量を、距離Da1によって設定する。係数設定部5202は、距離Da1が大きいほどゲイン値を小さく設定し、距離Da1が大きいほど遅延量を大きく設定する。
係数設定部5202は、スピーカ距離が虚音源距離よりも大きければ(S153:NO)、この虚音源を再生するか判断する。言い換えれば、係数設定部5202は、スピーカよりも受音点側の虚音源を再生するか判断する(S155)。
係数設定部5202は、スピーカよりも受音点に近い虚音源を再生するのであれば(S155:YES)、この虚音源の位置を移動する(S156)。より具体的には、係数設定部5202は、スピーカよりも受音点側の虚音源の位置を、スピーカよりも受音点から遠い位置に移動する。この際、係数設定部5202は、虚音源とスピーカとの距離差を用いて、虚音源の位置を移動する。係数設定部5202は、移動後の虚音源の位置座標を用いて、タップ係数を設定する(S157)。
例えば、図19(B)に示すような場合であり、虚音源ISdは、スピーカSP1よりも受音点RPから近く、受音点RPと虚音源ISdとの虚音源距離Lidは、受音点RPとスピーカSP1とのスピーカ距離Ls1よりも小さい。
この場合、係数設定部5202は、虚音源距離Lidとスピーカ距離Ls1との距離差Ddを用いて、虚音源ISdを移動する。より具体的には、係数設定部5202は、受音点RPとスピーカSP1とを通る直線上で、且つ、スピーカSP1を基準にして、受音点RP側と反対側に距離差Ddの位置に、虚音源ISdを移動させる。そして、係数設定部5202は、この距離差Ddを用いて、タップ係数を設定する。具体的には、係数設定部5202は、虚音源ISdに対して設定するゲイン値および遅延量を、距離差Ddによって設定する。係数設定部5202は、距離差Ddが大きいほどゲイン値を小さく設定し、距離差Ddが大きいほど遅延量を大きく設定する。なお、概念的には、上述のように、虚音源を移動させているが、タップ係数の設定処理としては、係数設定部5202は、スピーカ距離と虚音源距離との距離によって、タップ係数を設定すればよい。
すなわち、係数設定部5202は、受音点とスピーカとの間に位置する受音点のみを移動する。これは、受音点に対してスピーカよりも外側の虚音源は、移動しないことが好ましいが、この外側の虚音源が所定範囲内で移動する場合も含む。例えば、この外側の虚音源が移動しても、外側の虚音源とスピーカとの距離が所定範囲内であればよく、所定範囲内とは、移動による初期反射音制御信号の変化が視聴者に違和感を与えない程度の範囲内である。 係数設定部5202は、スピーカよりも受音点に近い虚音源を再生しないのであれば(S155:NO)、この虚音源に対するタップ係数を設定しない。
係数設定部5202は、各スピーカSP1-SP64設定したタップ係数を、複数のLDtapに設定する。より具体的には、係数設定部5202は、領域Area1に設定された虚音源位置に基づいて、各スピーカSP1-SP64に対してタップ係数を、LDtap521に設定する。同様に、係数設定部5202は、複数の領域Area2-Area8にそれぞれ設定された虚音源位置に基づいて、各スピーカSP1-SP64に割り当てられた虚音源のタップ係数を、LDtap522-528にそれぞれ設定する。
複数のLDtap521-528は、設定されたタップ係数に応じて、フィルタ処理後の領域別音信号SA1f-SA8fに対してゲイン処理および遅延処理を施し、加算処理部53に出力する。より具体的には、タップ係数は、上述のように、複数の領域の虚音源位置と各スピーカとの組合せに応じて設定されている。したがって、複数のLDtap521-528は、スピーカ毎に、このスピーカに割り当てられた虚音源に基づくタップ係数を設定する。複数のLDtap521-528は、スピーカ毎に、フィルタ処理後の領域別音信号SA1f-SA8fに対してゲイン処理および遅延処理を施す。複数のLDtap521-528は、ゲイン処理および遅延処理を施した信号を、スピーカ毎に出力する。
例えば、スピーカSP1に虚音源ISa、ISb、ISc、ISdが割り当てられている場合、LDtap521は、虚音源ISa、ISb、ISc、ISdに基づくタップ係数(ゲイン値および遅延量)によって、フィルタ処理後の領域別音信号SA1fに対してゲイン処理および遅延処理を施す。そして、LDtap521は、この信号を、スピーカSP1用として、加算処理部53に出力する。複数のLDtap521-528は、このような処理を、タップ係数を設定した虚音源に対して行う。
加算処理部53は、複数のLDtap521-528から出力された複数のスピーカSP1-SP64毎のLDtap処理後の信号を、複数のスピーカSP1-SP64毎に加算する。加算処理部53は、これらの加算後の信号を、複数のスピーカSP1-SP64毎の初期反射音制御信号ER1-ER64として、加算器80に出力する。
このような処理を行うことによって、初期反射音制御信号生成部50は、次の特徴を有する初期反射音制御信号を生成できる。
図20(A)、図20(B)は、仮想空間の形状とLDtapで実現する初期反射音制御信号の成分との関係の一例を示す波形図である。図20(A)は、仮想空間形状が大きい場合を示し、図20(B)は、仮想空間形状が小さい場合を示す。なお、図20(A)、図20(B)は、1つのスピーカに対して複数の虚音源を設定したときの初期反射音制御信号の成分の一例を示す。
再生空間と仮想空間との位置関係が変わらず、受音点の位置およびスピーカの位置が変わらない場合、仮想空間形状が大きければ、仮想空間の形状が小さいときよりも、虚音源の分布はより広範囲に広がる。したがって、図20(A)、図20(B)に示すように、仮想空間形状が大きい方が、LDtap521-528で設定される各成分は小さくなり易く、時間軸上での分布範囲も広くなる。
このように、上述の処理を行うことによって、初期反射音制御信号生成部50は、仮想空間の形状に応じて、最適なタップ係数を設定できる。
さらに、仮想空間と再生空間との位置関係が変化したり、スピーカ位置が変化したり、受音点が変化しても、仮想空間の形状が変化する場合と同様に、初期反射音制御信号生成部50は、これらの変化に応じて、最適なタップ係数を設定できる。
この際、複数の音源OBJ1-OBJ96は、複数の領域Area1-Area8によるグルーピングを通じて、複数のスピーカSP1-SP64に対して最適に割り当てられている。そして、複数の虚音源は、これら複数のスピーカSP1-SP64に対して、最適に設定される。したがって、音信号処理装置10は、仮想空間と再生空間との関係の変化、受音点RP、複数のスピーカSP1-SP64の位置の変化、音源OBJ1-OBJ96の位置の変化があっても、これらの変化に応じて、初期反射音による音像定位を明瞭にできる。
また、上述の構成では、初期反射音制御信号生成部50は、虚音源ISがスピーカSPよりも受音点RP側にあっても、この虚音源ISによる初期反射音制御信号の成分を擬似的に再現できる。したがって、例えば、初期反射音制御信号に対する虚音源の設定数が少ないとき等に、初期反射音制御信号生成部50は、スピーカSPよりも受音点RPに近い虚音源を利用できる。この際、初期反射音制御信号生成部50は、上述のように虚音源ISとスピーカSPとでの距離差を用いて、虚音源をスピーカの外側に再配置する。これにより、初期反射音制御信号生成部50は、虚音源の位置を移動させたことによる初期反射音の違和感を抑制できる。
なお、上述の構成において、初期反射音制御信号生成部50は、虚音源ISがスピーカSPよりも受音点RPに近い位置にある場合、この虚音源ISをスピーカSPの位置に設定してもよい。これにより、初期反射音制御信号生成部50は、虚音源ISを移動させる処理の負荷を軽減できる。
さらには、上述の構成において、初期反射音制御信号生成部50は、虚音源ISがスピーカSPよりも受音点RPに近い位置にある場合、この虚音源ISを、初期反射音制御信号の生成に利用しなくてもよい。これにより、初期反射音制御信号生成部50は、虚音源ISを移動させる処理の負荷を必要とせず、初期反射音制御信号の生成処理の負荷を軽減できる。
また、上述の構成では、初期反射音制御信号生成部50は、虚音源による初期反射音制御信号の成分の設定とともに、FIRフィルタ511-518を用いた音色調整を行う。FIRフィルタ511-518は、上述のtap数(例えば、16000タップ)を有しており、LDtap521-528よりも多くのtap数を有する。また、FIRフィルタ511-518のtapの時間間隔(サンプリング周波数に依存)は、LDtap521-528のタップ間の時間間隔(虚音源の配置に依存)よりも短い。したがって、FIRフィルタ511-518で生成される初期反射音制御信号の成分は、LDtap521-528で生成される初期反射音制御信号の成分よりも、時間軸上において緻密に配置される。言い換えれば、FIRフィルタ511-518の時間軸上の分解能(時間分解能)は、LDtap521-528のよりも高く、単位時間当たりの成分数は多くなる。
そして、初期反射音制御信号生成部50は、FIRフィルタ511-518の処理と、LDtap521-528とを掛け合わせている。したがって、初期反射音制御信号生成部50は、時間軸上における分解能が高く、より多様な音色の初期反射音制御信号ER1-ER64を生成できる。図21は、初期反射音制御信号生成部50で生成される初期反射音制御信号の波形のイメージを示す図である。
図21に示すように、初期反射音制御信号生成部50は、虚音源による初期反射音成分を残しながら、より分解能が高く、多様な音色に対応可能な初期反射音制御信号を生成できる。すなわち、音信号処理装置10は、虚音源を用いた初期反射音による音像定位を明瞭に保ちながら、ユーザの好みに応じた音色の初期反射音を実現できる。
また、FIRフィルタの分解能が高いことによって、例えば、音源のパルス音のように短い場合、LDtapによる初期反射音成分だけでは、初期反射音制御信号が粗になり、音色に不自然さが生じてしまうことがある。しかしながら、上述の構成および処理によって、音信号処理装置10は、このような初期反射音の音が粗になること、音色の不自然さを抑制できる。
また、上述の構成では、初期反射音制御信号生成部50は、スピーカSP毎に虚音源ISの割り当て領域を設定し、この領域外の虚音源ISをこのスピーカSPに割り当てない。これにより、初期反射音制御信号生成部50は、過剰な初期反射音成分の生成を抑制できる。したがって、音信号処理装置10は、過剰な初期反射音を抑制し、仮想空間に応じたより自然な初期反射音を実現できる。
[残響音制御信号の生成]
図22は、残響音制御信号生成部70の構成の一例を示す機能ブロック図である。図23は、残響音制御信号の生成処理の一例を示すフローチャートである。
図22に示すように、残響音制御信号生成部70は、PEQ71、FIRフィルタ回路72、ルータ73、残響音用領域設定部701、フィルタ係数設定部702、残響音用再生スピーカ設定部703、および、操作部700を備える。FIRフィルタ回路72は、複数のFIRフィルタ721-728を備える。
残響音用領域設定部701は、再生空間に対して、複数の残響音用領域Arr1-Arr8を設定する。より具体的には、残響音用領域設定部701は、例えば、再生空間の中心点Psrを基準にして、平面上の全周に亘って、再生空間を複数の残響音用領域Arr1-Arr8に分割するように設定する(後述の図25参照)。
残響音用領域設定部701は、複数の残響音用領域Arr1-Arr8を示す座標情報を、フィルタ係数設定部702および残響音用再生スピーカ設定部703に出力する。
フィルタ係数設定部702は、ユーザの操作等によって、残響音用のフィルタ係数を設定する。残響音用のフィルタ係数は、例えば、仮想空間(再生空間で再現した異空間)の実空間におけるインパルス応答の実測結果によって設定される。なお、残響音用のフィルタ係数は、仮想空間の幾何学形状、壁面の素材等を用いて擬似的に設定してもよい。この際、フィルタ係数設定部702は、残響音用領域Arr1-Arr8毎の座標情報を用いて、残響音用領域Arr1-Arr8毎にフィルタ係数を設定する。
フィルタ係数設定部702は、ユーザの操作等によって、仮想空間の容積、仮想空間の表面積の入力等を受け付ける。フィルタ係数設定部702は、仮想空間の容積、仮想空間の表面積等のパラメータから、フィルタ係数に対するフェードイン関数を設定する。
より具体的には、フィルタ係数設定部702は、仮想空間の容積V、仮想空間の表面積Sを用いて、平均自由行路ρを算出する。平均自由行路ρの算出式は、ρ=4V/Sである。平均自由行路とは、閉空間において、音が壁面に反射してから次に反射するまでの平均的な伝搬距離である。平均自由行路を音速c0で割ることで、音が壁面に反射してから次に反射するまでに要する平均的な時間を算出できる。
フィルタ係数設定部702は、平均自由行路ρから接続タイミングtcを設定する(図23:S231)。具体的には、フィルタ係数設定部702は、平均自由行路ρ、音速c0、反射次数nを用いて、接続タイミングtcを設定する。接続タイミングtcの算出式は、tc=ρ×n/c0である。
この算出式から分かるように、接続タイミングtcは、仮想空間において、n回反射するのに要する平均的な時刻に相当し、n次の初期反射音を再現する場合、残響音に移行し始める時刻に相当する。言い換えれば、接続タイミングtcは、上述の初期反射音制御信号生成部50による初期反射音制御信号の成分が無くなるタイミングに対応する。
このような処理を行うことによって、フィルタ係数設定部702は、初期反射音と残響音との接続タイミングtcを、仮想空間の幾何学形状に応じて最適に設定できる。
フィルタ係数設定部702は、接続タイミングtcを用いて、次式から、フェードイン関数を設定する(図23:S232)。
Figure 2022144500000002
なお、この式において、tは直接音が発生してからの経過時間であり、Kは、次式から設定される。
Figure 2022144500000003
なお、この式において、GREVは、時刻t= 0における残響音のゲイン値であり、ユーザによって設定可能であるが、例えば、一般に残響時間は、-60dBに減衰するのに要する時間であるので、GREV=-60dB等にするとよい。
フィルタ係数設定部702は、フィルタ係数とフェードイン関数finとから残響音用フィルタ係数を設定し(図23:S233)、複数のFIRフィルタ721-728に出力する。
ミキサ60から出力された残響音生成用信号Srは、PEQ71に入力される。PEQ71は、残響音生成用信号Srに対して、所定の信号処理を行い、複数のFIRフィルタ721-728に出力する。
PEQ71による信号処理を行うことによって、残響音生成用信号Srのレベル(信号の大きさ)、音色等を調整できる。例えば、PEQ71は、初期反射音制御信号の音量等を参照し、上述の接続タイミングtcにおいて初期反射音の音量と残響音の音量とが同じ程度となるように、残響音生成用信号Srのレベル(信号の大きさ)を調整できる。また、PEQ71は、ユーザ等の設定によって音色等を調整できる。
複数のFIRフィルタ721-728は、残響音用フィルタ係数を用いて残響音生成用信号Srにフィルタ処理を施し、領域別の残響音制御信号REVr1-REVr8を生成する。例えば、FIRフィルタ721は、残響音用の領域Arr1用に設定された残響音用フィルタ係数を用いて残響音生成用信号Srに畳み込み演算を施すことによって、領域Arr1用の領域別の残響音制御信号REVr1を生成する。同様に、FIRフィルタ722-728は、残響音用の領域Arr2-Arr8用に設定された残響音用フィルタ係数をそれぞれ用いて残響音生成用信号Srに畳み込み演算を施すことによって、領域Arr2-Arr8用の領域別の残響音制御信号REVr2-REVr8を生成する(図23:S234)。複数のFIRフィルタ721-728は、領域別の残響音制御信号REVr1-REVr8をルータ73に出力する。
上述のフェードイン関数を設定することで、残響音制御信号は、図21に示すような波形になる。図24は、直接音、初期反射音制御信号、および、残響音制御信号の波形例を示すグラフである。なお、図24では、便宜上、残響音制御信号は、各時間成分の包絡線によって図示する。また、図24の縦軸は、dB表示である。
図24(A)に示すように、残響音制御信号は、直接音の出力タイミングから接続タイミングtcに掛けて、フェードイン関数にしたがって徐々に信号レベルが大きくなる。より具体的には、残響音制御信号の信号レベルは、直接音の出力タイミングで-60dBFsであり、接続タイミングtcまで徐々に大きくなり、接続タイミングtcで0dBFsになる。このレベルは、初期反射音制御信号の接続タイミングtcで信号レベルに基づいて設定される。
図24の例では、上述のフェードイン関数を用いて、接続タイミングtcに近づくにしたがって指数的に信号レベルを大きくするもの、言い換えれば、フェードイン処理を行わない残響音制御信号の減衰カーブに対して逆の特性を有するものである。なお、フェードイン処理による残響音制御信号のレベルの変化の特性はこれに限るものではなく、フェードイン関数を適宜設定することによって、ユーザ等が所望の特性に設定できる。
このような処理を行うことによって、残響音制御信号生成部70は、FIRフィルタ721-728を用いて、仮想空間の残響音を精度良く再現する残響音制御信号を生成できる。また、残響音制御信号は、初期反射音制御信号の存在する区間で徐々に信号レベルが大きくなり、接続タイミングtcで初期反射音制御信号の信号レベルに応じたピーク値に達し、その後に減衰する。
これにより、音信号処理装置10は、残響音制御信号による残響音によって、仮想空間における複数の音源位置での虚音源分布を再現する複数のLDtapである初期反射音制御信号と残響音制御信号との繋ぎを滑らかにできる。したがって、音信号処理装置10から出力され、ユーザが聞く音は、初期反射音から残響音への繋がり時の違和感が抑制された音となる。
残響音用再生スピーカ設定部703は、複数のスピーカSP1-SP64を、残響音用領域Arr1-Arr8にグルーピングする。
より具体的には、残響音用再生スピーカ設定部703は、例えば、再生空間の中心点Psrを基準にして、平面上の全周に亘って、再生空間を複数の残響音用領域Arr1-Arr8に分割するように設定する。残響音用再生スピーカ設定部703は、複数のスピーカSP1-SP64の位置座標と、複数の残響音用領域Arr1-Arr8を示す座標情報とを用いて、複数の残響音用領域Arr1-Arr8に対して複数のスピーカSP1-SP64をグルーピングする。このグルーピングは、上述の音源OBJをグルーピングする方法と同様の方法によって実現できる。
図25は、残響音用の領域設定の一例を示す図である。図25では、説明を簡略化して分かり易くするために、複数のスピーカSP1-SP14を示す。例えば、残響音用再生スピーカ設定部703は、図25に示すように、残響音用の領域Arr1内にスピーカSP6、スピーカSP7があることを検出し、残響音用の領域Arr1に、スピーカSP6、スピーカSP7をグルーピングする。同様に、残響音用再生スピーカ設定部703は、他のスピーカSP1-SP5、SP8-SP14についても、それぞれに複数の残響音用の領域Arr2-Arr8にグルーピングする。
残響音用再生スピーカ設定部703は、複数の残響音用の領域Arr2-Arr8に対する複数のスピーカSP1-SP64のグルーピング情報を、ルータ73に出力する。
ルータ73は、残響音用再生スピーカ設定部703からのグルーピング情報を用いて、領域別の残響音制御信号REVr1-REVr8を、複数のスピーカSP1-SP64に割り当てる。ルータ73は、割り当てに基づいて、領域別の残響音制御信号REVr1-REVr8を、複数のスピーカSP1-SP64毎の残響音制御信号REV1-REV48として出力する。
例えば、ルータ73は、グルーピング情報から、領域Arr1にスピーカSP6、スピーカSP7がグルーピングされていることを抽出する。ルータ73は、領域Arr1の領域別の残響音制御信号REVr1を、スピーカSP6およびスピーカSP7に割り当てる。ルータ73は、領域別の残響音制御信号REVr1を、スピーカSP6用の残響音制御信号REV6としてスピーカSP6に出力する。また、ルータ73は、領域別の残響音制御信号REVr1を、スピーカSP7用の残響音制御信号REV6としてスピーカSP7に出力する。
このようなルータ73による領域別の残響音制御信号REVr1-REVr8を行うことによって、残響音制御信号生成部70は、複数のスピーカSP1-SP64の配置に応じて、複数のスピーカSP1-SP64のそれぞれに最適な残響音制御信号を出力できる。
[出力調整]
図26は、出力調整部90の構成の一例を示す機能ブロック図である。図27は、出力調整処理の一例を示すフローチャートである。
図26に示すように、出力調整部90は、ゲイン制御部91、ディレイ制御部92、ゲインディレイ設定部901、操作部900、および、表示部909を備える。ゲイン制御部91は、複数のスピーカSP1-SP64に対応した複数のゲイン制御部9101-9168を備える。ディレイ制御部92は、複数のスピーカSP1-SP64に対応した複数のディレイ制御部9201-9264を備える。
操作部900は、ユーザからの操作入力よって、再生空間の音響パラメータの設定を受け付ける(図27:S321)。再生空間の音響パラメータとは、再生空間で所望の音場を再現するためのパラメータである。
この際、再生空間の音響パラメータは、複数のスピーカSP1-SP64の個々のゲイン値や遅延量ではなく、再生空間での音の所定方向への重み付けを表すウェイト値、再生空間での音の所定方向の広がりを表すシェイプ値である。
ウェイト値は、ゲイン値と遅延量とによって構成され、再生空間の前後のウェイト値、再生空間の左右のウェイト値、再生空間の上下方向のウェイト値を含む。シェイプ値は、ゲイン値と遅延量とによって構成され、横方向のシェイプ値を含む。
表示部909は、GUIを備える。図28は、出力調整用のGUIの一例を示す図である。
図28に示すように、GUI100Aは、設定表示ウィンドウ111、出力状態表示ウィンドウ115、複数の操作子116を備える。複数の操作子116は、ノブ1161、調整値表示ウィンドウ1162を備える。
複数の操作子116は、ウェイト値を設定するウェイトボリューム、シェイプ値を設定するシェイプボリューム等を設定する操作子である。ウェイトボリューム用の操作子116は、左右のウェイト、前後のウェイト、上下のウェイトを設定する操作子116をそれぞれに備え、それぞれに、ゲイン値の設定用の操作子と、遅延量の設定用の操作子とを備える。シェイプボリューム用の操作子116は、広がりを設定する操作子を備え、ゲイン値の設定用の操作子と、遅延量の設定用の操作子とを備える。
出力状態表示ウィンドウ115は、複数の操作子116によって設定されたウェイト値およびシェイプ値によって実現される音の広がりおよび定位感を、グラフィカルに模式的に表示する。これにより、ユーザは、複数の操作子116によって設定した音の広がりおよび定位感を画像として容易に認識できる。
ユーザは、この表示部909のGUI100Aを用いて、自分の再現したい音響パラメータ(ウェイト値および遅延量)を設定する。操作部900は、GUI100Aを用いた設定を受け付ける。操作部900は、この設定内容(音響パラメータの各ウェイト値および各遅延量)を、ゲインディレイ設定部901に出力する。
ゲインディレイ設定部901は、音響パラメータの各ウェイト値および各遅延量に基づいて、複数のスピーカSP1-SP64に対するゲイン値および遅延量を設定する。より具体的には、ゲインディレイ設定部901は、次の処理を行う。
ゲインディレイ設定部901は、再生空間に配置されている複数のスピーカSP1-SP64の位置座標を取得する(S322)。位置座標は、例えば、再生空間の左右方向にx軸を設定し、再生空間の前後方向にy軸を設定し、上下方向にz軸を設定した座標系で表される。
ゲインディレイ設定部901は、各軸方向における複数のスピーカSP1-SP64の位置座標の最大値と最小値とを抽出する(S323)。
ゲインディレイ設定部901は、係数設定式を記憶している。係数設定式は、例えば、再生空間での所定方向への重み付けを設定するウェイト用の係数設定式と、再生空間での所定方向への重み付けを設定するシェイプ用の係数設定式を含む。
ウェイト用の係数設定式は、ウェイト用のゲイン値の設定式とウェイト用の遅延量の設定式とを含む。シェイプ用の係数設定式は、シェイプ用のゲイン値の設定式とシェイプ用の遅延量の設定式とを含む。
ウェイト用の係数設定式は、再生空間の前後方向の重み付けを設定する前後方向用の係数設定式、再生空間の左右方向の重み付けを設定する左右方向用の係数設定式、再生空間の上下方向の重み付けを設定する上下方向用の係数設定式を含む。
シェイプ用の係数設定式は、再生空間の左右方向用の係数設定式を含む。
ウェイト用のゲイン値の係数設定式は、例えば、設定されたウェイト値のゲイン値、抽出した位置座標の最大値と最小値、および、ゲイン値を設定するスピーカ(設定対象のスピーカ)の位置座標を組み合わせた一次関数であり、設定対象のスピーカの位置座標と位置座標の最小値との差に比例して、ゲイン値が決まる式である。
ウェイト用の遅延量の係数設定式は、例えば、設定されたウェイト値の遅延量、抽出した位置座標の最大値と最小値、および、遅延量を設定するスピーカ(設定対象のスピーカ)の位置座標を組み合わせた一次関数であり、設定対象のスピーカの位置座標と位置座標の最小値との差に比例して、遅延量が決まる式である。
シェイプ用のゲイン値の係数設定式は、例えば、設定されたシェイプ値のゲイン値、抽出した位置座標の最大値と最小値、および、ゲイン値を設定するスピーカ(設定対象のスピーカ)の位置座標を組み合わせた一次関数であり、設定対象のスピーカの位置座標と位置座標の最小値との差に比例して、ゲイン値が決まる式である。
シェイプ用の遅延量の係数設定式は、例えば、設定されたシェイプ値の遅延量、抽出した位置座標の最大値と最小値、および、遅延量を設定するスピーカ(設定対象のスピーカ)の位置座標を組み合わせた一次関数であり、設定対象のスピーカの位置座標と位置座標の最小値との差に比例して、遅延量が決まる式である。
ゲインディレイ設定部901は、設定されたゲイン値および遅延量(音響パラメータ)、抽出した位置座標の最大値と最小値、および、係数設定式を用いて、設定対象のスピーカ毎に、ゲイン値および遅延量を算出する(S324)。
このような処理を用いることによって、ゲインディレイ設定部901は、再生空間に配置された複数のスピーカSP1-SP64のゲイン値および遅延量を、個々に手動で設定することなく、係数設定式によって自動的に算出して設定できる。
ゲインディレイ設定部901は、複数のスピーカSP1-SP64毎に設定したゲイン値を、複数のゲイン制御部9101-9164に出力する。ゲインディレイ設定部901は、複数のスピーカSP1-SP64毎に設定した遅延量を、複数のディレイ制御部9201-9264に出力する。
複数のゲイン制御部9101-9164には、それぞれに、加算器80から複数のスピーカSP1-SP64に対応したスピーカ用信号Sat1-Sat64が入力される。
複数のゲイン制御部9101-9164は、それぞれに設定されたゲイン値を用いて、スピーカ用信号Sat1-Sat64の信号レベルを制御し、複数のディレイ制御部9201-9264に出力する。例えば、ゲイン制御部9101は、ゲイン制御部9101に設定されたゲイン値を用いて、スピーカ用信号Sat1の信号レベルを制御し、ディレイ制御部9201に出力する。同様に、ゲイン制御部9102-9164は、ゲイン制御部9102-9164にそれぞれ設定されたゲイン値を用いて、スピーカ用信号Sat2-Sat64の信号レベルを制御し、ディレイ制御部9202-9164にそれぞれ出力する。
複数のディレイ制御部9201-9164は、それぞれに設定された遅延量を用いて、複数のゲイン制御部9101-9164から入力された信号の信号レベルを制御し、複数のスピーカSP1-SP64に出力する。例えば、ディレイ制御部9201は、ディレイ制御部9201に設定された遅延量を用いて、ゲイン制御部9101から入力された信号の信号レベルを制御し、スピーカSP1に出力する。同様に、ディレイ制御部9202-9164は、ディレイ制御部9202-9164にそれぞれ設定された遅延量を用いて、ゲイン制御部9102-9164から入力された信号の信号レベルを制御し、スピーカSP1-SP64にそれぞれ出力する。
このような構成によって、音信号処理装置10は、複数のスピーカに対して個々に煩雑な設定をユーザに強いることなく、設定した音響パラメータに対応した所望の音場を、初期反射音制御信号および残響音制御信号を用いて容易に実現できる。これにより、例えば、音信号処理装置10は、再生空間内の所定位置に対してハース効果を得られる音場を、容易に実現できる。
(出力制御による音場の実現例)
図29(A)、図29(B)は、再生空間の後方に音の重みを持たせる場合の設定例を示す図である。図29(A)は、ゲイン値および遅延量の設定の一例を示す図であり、図29(B)は、図25(A)の設定よる音の重み付けのイメージを表す図である。なお、図29(A)、図29(B)では、説明を簡略化して分かり易くするように、14個のスピーカSP1-SP14を配置した場合を示している。
図29(A)、図29(B)に示す態様では、音響パラメータとして、例えば、後方端のゲイン値および遅延量が設定される。ゲインディレイ設定部901は、前方端のゲイン値および遅延量を、後方端のゲイン値および遅延量の逆符号の値に設定する。ゲインディレイ設定部901は、14個のスピーカSP1-SP14の位置座標の最大値および最小値を算出する。
ゲインディレイ設定部901は、後方端および前方端のゲイン値、14個のスピーカSP1-SP14の位置座標の最大値および最小値、および、再生空間の前後方向の重み付けを設定する前後方向用の係数設定式(ゲイン値設定用)を用いて、14個のスピーカSP1-SP14のゲイン値を算出する。
また、ゲインディレイ設定部901は、後方端および前方端の遅延量、14個のスピーカSP1-SP14の位置座標の最大値および最小値、および、再生空間の前後方向の重み付けを設定する前後方向用の係数設定式(遅延量設定用)を用いて、14個のスピーカSP1-SP14の遅延量を算出する。
この処理によって、音信号処理装置10は、図29(A)に示すように、再生空間の後方のスピーカほどゲイン値および遅延量が大きく、前方のスピーカほどゲイン値および遅延量が小さい音響パラメータを自動で容易に設定できる。これにより、音信号処理装置10は、再生空間の後方に広がりがあり、響きが定位する音場(図29(B)参照)を、容易に実現できる。
なお、この説明では、前後方向の例を示したが、音信号処理装置10は、左右方向、高さ方向(上下方向)についても、同様に、重み付けされた音場を実現できる。
図30(A)、図30(B)は、再生空間の横方向に音の広がりを持たせる場合の設定例を示す図である。図30(A)は、ゲイン値および遅延量の設定の一例を示す図であり、図30(B)は、図30(A)の設定よる音の広がりのイメージを表す図である。なお、図30(A)、図30(B)では、説明を簡略化して分かり易くするように、14個のスピーカSP1-SP14を配置した場合を示している。
図30(A)、図30(B)に示す態様では、音響パラメータとして、例えば、音の広がりを数値化した値(広がり設定値)が設定される。ゲインディレイ設定部901は、14個のスピーカSP1-SP14の位置座標の最大値および最小値を算出する。
ゲインディレイ設定部901は、広がり設定値、14個のスピーカSP1-SP14の位置座標の最大値および最小値、および、シェイプ用の係数設定式(ゲイン値設定用)を用いて、14個のスピーカSP1-SP14のゲイン値を算出する。
また、ゲインディレイ設定部901は、後方端および前方端の遅延量、14個のスピーカSP1-SP14の位置座標の最大値および最小値、および、シェイプ用の係数設定式(遅延量設定用)を用いて、14個のスピーカSP1-SP14の遅延量を算出する。
この処理によって、音信号処理装置10は、図30(A)に示すように、再生空間の横方向の両端に近いスピーカほどゲイン値および遅延量が大きく、横方向の中央に近いスピーカほどゲイン値および遅延量が小さい音響パラメータを自動で容易に設定できる。これにより、音信号処理装置10は、再生空間の横方向に広がりがあり、響きが定位する音場(図30(B)参照)を、容易に実現できる。
なお、上述の音響パラメータの設定を行うことで、音信号処理装置10は、再生空間の前後方向の重み付け、左右方向の重み付け、横方向の広がりだけでなく再生空間の高さ方向(上下方向)についての重み付けや広がりも実現できる。例えば、図31は、高さ方向の広がりを持たせる場合の音の広がりのイメージを表す図である。
音信号処理装置10は、床面に近いスピーカSPL、SPRのゲイン値および遅延量よりも、天井側のスピーカSPUのゲイン値および遅延量を大きくする。これにより、音信号処理装置10は、再生空間の天井方向により広がりがあり、響きが定位する音場(図31参照)を、容易に実現できる。
また、上述の構成では、出力調整部90は、出力信号So1-So64を複数のスピーカSP1-SP64に出力する。しかしながら、音信号処理装置は、出力信号So1-So64をバイノーラル処理して出力してもよい。
図32は、バイノーラル再生機能付き音信号処理装置の構成を示す機能ブロック図である。図32に示すように、バイノーラル再生機能付き音信号処理装置10Aは、上述の音信号処理装置10に対して、出力調整部90A、残響処理部97、選択部98、および、バイノーラル処理部99を備える点で異なる。
出力調整部90Aは、加算器80から出力された複数のスピーカ用信号Sat1-Sat64から、上述の出力調整部90と同じ処理を用いて、複数の出力信号So1-So64を生成する。
出力調整部90Aは、出力対象を選択できる。出力対象の選択は、例えば、上述のGUIを用いたユーザからの操作入力によって実行される。より具体的には、GUIは、スピーカ出力とバイノーラル出力とを選択可能な操作子を表示し、この操作子が操作されることによって、出力対象は選択される。
スピーカ出力が選択された場合、出力調整部90Aは、複数の出力信号So1-So64を複数のスピーカSP1-AP64にそれぞれ出力する(出力調整部90と同じ処理)。バイノーラル出力が選択された場合、出力調整部90Aは、複数の出力信号So1-So64を選択部98に出力する。
残響処理部97には、複数の音源OBJ1-OBJ96の音信号S1-S96が入力される。残響処理部97は、複数の音信号S1-S96に対して、初期反射音制御信号および残響音制御信号を付加し、選択部98に出力する。複数の音信号S1-S96に対する初期反射音制御信号は、複数の音源OBJ1-OBJ96の位置座標に基づいて設定される。残響処理部97は、複数の残響処理後の音信号S1’-S96’を選択部98に出力する。
選択部98には、複数の出力信号So1-So64と複数の残響処理後の音信号S1’-S96’とが入力される。選択部98は、例えば、上述のGUIを用いたユーザからの操作入力によって、複数の出力信号So1-So64と残響処理後の音信号S1’-S96’を選択する。より具体的には、GUIは、音信号処理装置10Aの音響処理を施した音と、音源OBJ1-OBJ96の位置座標に基づく仮想的な音響処理を施した音とを選択可能な操作子を表示し、この操作子が操作されることによって、出力対象は選択される。
音信号処理装置10Aの音響処理を施した音が選択された場合、選択部98は、複数の出力信号So1-So64を選択し、バイノーラル処理部99に出力する。音源OBJ1-OBJ96の位置座標に基づく仮想的な音響処理を施した音が選択された場合、選択部98は、複数の残響処理後の音信号S1’-S96’を選択し、バイノーラル処理部99に出力する。
バイノーラル処理部99は、入力された音信号にバイノーラル処理を施す。より具体的には、複数の出力信号So1-So64が入力されれば、バイノーラル処理部99は、複数の出力信号So1-So64にバイノーラル処理を施す。複数の残響処理後の音信号S1’-S96’が入力されれば、バイノーラル処理部99は、複数の残響処理後の音信号S1’-S96’にバイノーラル処理を施す。
なお、バイノーラル処理は頭部伝達関数を用いるものであり、詳細な内容は既知であり、バイノーラル処理の詳細な説明は、省略する。
バイノーラル処理部99は、バイノーラル処理を施した2チャンネルの音信号を出力する。
これにより、ユーザは、音信号処理装置10Aで生成した音と、音源OBJ1-OBJ96の位置座標に基づく仮想的な残響処理を施した音を、バイノーラル再生によって聞くことができる。したがって、ユーザは、再生空間を物理的に構築しなくても、音信号処理装置10Aで施した音響処理が仮想空間の音響を再現できているかを、ヘッドフォン等を用いて容易に確認できる。音信号処理装置10Aで施した音響処理とは、例えば、上述の音源のグルーピング、初期反射音制御信号の設定、残響音制御信号の設定、出力制御の設定等である。そして、このように聞き比べられることによって、ユーザは、仮想空間の音響をより忠実に再現できるように、上述の音響処理の設定を調整できる。
なお、バイノーラル再生は、ヘッドフォンに限るものではなく、ステレオスピーカ等で行ってもよい。
本実施形態の説明は、すべての点で例示であって、制限的なものではない。本発明の範囲は、上述の実施形態ではなく、特許請求の範囲によって示される。さらに、本発明の範囲には、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
10、10A:音信号処理装置
30:領域設定部
40:グルーピング部
41:音源位置検出部
42:領域判定部
50:初期反射音制御信号生成部
51:FIRフィルタ回路
52:LDtap回路
53:加算処理部
60:ミキサ
70:残響音制御信号生成部
71:PEQ
72:FIRフィルタ回路
73:ルータ
80:加算器
90、90A:出力調整部
91:ゲイン制御部
92:ディレイ制御部
97:残響処理部
98:選択部
99:バイノーラル処理部
100、100A:GUI
400:マトリックスミキサ
500:操作部
501:音色設定部
502:虚音源設定部
511-518:FIRフィルタ
521-528:LDtap
700:操作部
701:残響音用領域設定部
702:フィルタ係数設定部
703:残響音用再生スピーカ設定部
721-728:FIRフィルタ
900:操作部
901:ゲインディレイ設定部
909:表示部
5201:出力スピーカ設定部
5202:係数設定部
9101-9164:ゲイン制御部
9201-9264:ディレイ制御部

Claims (12)

  1. 仮想空間の幾何学形状に応じた模擬演算を用いて初期反射音制御信号を生成し、
    前記仮想空間で測定した反射音パラメータを用いて残響音制御信号を生成し、
    前記初期反射音制御信号と前記残響音制御信号との音量が同じになる接続タイミングを、前記幾何学形状に基づいて算出し、
    前記接続タイミングよりも前の期間において、前記残響音制御信号の音量を前記接続タイミングの音量に近づけるように徐々に上げていく、
    音信号処理方法。
  2. 前記接続タイミングは、前記仮想空間の容積および表面積に基づいて算出する、
    請求項1に記載の音信号処理方法。
  3. 前記音量を徐々に上げる処理は、前記残響音制御信号に設定するゲイン値を用いた指数減衰の逆数に基づいて実行する、
    請求項1または請求項2に記載の音信号処理方法。
  4. 前記残響音制御信号の元となる音源での音の発生タイミングからフィルタ処理を開始し、
    前記ゲイン値を用いた指数減衰の逆数で前記フィルタ処理を補正して、前記音量を徐々に上げる処理を実現する、
    請求項3に記載の音信号処理方法。
  5. 前記残響音制御信号は、前記接続タイミングよりも後の期間において、前記仮想空間の残響音の実測値に基づいて前記音量を徐々に下げる、
    請求項1乃至請求項4のいずれかに記載の音信号処理方法。
  6. 前記初期反射音制御信号と前記残響音制御信号の元となる音源が複数ある場合、
    前記残響音制御信号を、前記複数の音源に共通の処理で生成する、
    請求項1乃至請求項5のいずれかに記載の音信号処理方法。
  7. 仮想空間の幾何学形状に応じた模擬演算を用いて初期反射音制御信号を生成する初期反射音制御信号生成部と、
    前記仮想空間で測定した反射音パラメータを用いて残響音制御信号を生成し、前記初期反射音制御信号と前記残響音制御信号との音量が同じになる接続タイミングを、前記幾何学形状に基づいて算出し、前記接続タイミングよりも前の期間において、前記残響音制御信号の音量を前記接続タイミングの音量に近づけるように徐々に上げていく残響音制御信号生成部を、
    備える、
    音信号処理装置。
  8. 前記残響音制御信号生成部は、
    前記接続タイミングを、前記仮想空間の容積および表面積に基づいて算出する、
    請求項7に記載の音信号処理装置。
  9. 前記残響音制御信号生成部は、
    前記音量を徐々に上げる処理を、前記残響音制御信号に設定するゲイン値を用いた指数減衰の逆数に基づいて実行する、
    請求項7または請求項8に記載の音信号処理装置。
  10. 前記残響音制御信号生成部は、
    前記残響音制御信号の元となる音源での音の発生タイミングからフィルタ処理を開始し、
    前記ゲイン値を用いた指数減衰の逆数で前記フィルタ処理を補正して、前記音量を徐々に上げる処理を実現する、
    請求項9に記載の音信号処理装置。
  11. 前記残響音制御信号生成部は、
    前記残響音制御信号の音量を、前記接続タイミングよりも後の期間において、前記仮想空間の残響音の実測値に基づいて徐々に下げる、
    請求項7乃至請求項10のいずれかに記載の音信号処理装置。
  12. 前記残響音制御信号生成部は、
    前記初期反射音制御信号と前記残響音制御信号の元となる音源が複数ある場合、
    前記残響音制御信号を、前記複数の音源に共通の処理で生成する、
    請求項7乃至請求項11のいずれかに記載の音信号処理装置。
JP2021045544A 2021-03-19 2021-03-19 音信号処理方法および音信号処理装置 Pending JP2022144500A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2021045544A JP2022144500A (ja) 2021-03-19 2021-03-19 音信号処理方法および音信号処理装置
CN202210251249.4A CN115119134A (zh) 2021-03-19 2022-03-14 声音信号处理方法、声音信号处理装置及记录介质
US17/696,358 US11805385B2 (en) 2021-03-19 2022-03-16 Audio signal processing method, audio signal processing apparatus and a non-transitory computer-readable storage medium storing a program
EP22162873.8A EP4061016A3 (en) 2021-03-19 2022-03-18 Audio signal processing method, audio signal processing apparatus and audio signal processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021045544A JP2022144500A (ja) 2021-03-19 2021-03-19 音信号処理方法および音信号処理装置

Publications (2)

Publication Number Publication Date
JP2022144500A true JP2022144500A (ja) 2022-10-03
JP2022144500A5 JP2022144500A5 (ja) 2024-01-30

Family

ID=80819870

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021045544A Pending JP2022144500A (ja) 2021-03-19 2021-03-19 音信号処理方法および音信号処理装置

Country Status (4)

Country Link
US (1) US11805385B2 (ja)
EP (1) EP4061016A3 (ja)
JP (1) JP2022144500A (ja)
CN (1) CN115119134A (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000099061A (ja) 1998-09-25 2000-04-07 Sony Corp 効果音付加装置
JP3786036B2 (ja) 2002-03-12 2006-06-14 ヤマハ株式会社 残響付与装置、残響付与方法、プログラムおよび記録媒体
JP4400485B2 (ja) 2005-03-15 2010-01-20 ヤマハ株式会社 適応型音場支援装置
JP5699844B2 (ja) 2011-07-28 2015-04-15 富士通株式会社 残響抑制装置および残響抑制方法並びに残響抑制プログラム
EP2840811A1 (en) * 2013-07-22 2015-02-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Method for processing an audio signal; signal processing unit, binaural renderer, audio encoder and audio decoder
CN116156411A (zh) 2018-06-18 2023-05-23 奇跃公司 用于交互式音频环境的空间音频

Also Published As

Publication number Publication date
CN115119134A (zh) 2022-09-27
US20220303714A1 (en) 2022-09-22
EP4061016A2 (en) 2022-09-21
US11805385B2 (en) 2023-10-31
EP4061016A3 (en) 2022-09-28

Similar Documents

Publication Publication Date Title
US9918179B2 (en) Methods and devices for reproducing surround audio signals
US11503423B2 (en) Systems and methods for modifying room characteristics for spatial audio rendering over headphones
US9930468B2 (en) Audio system phase equalization
JP2022145678A (ja) 音信号処理方法および音信号処理装置
JP2001511995A (ja) オーディオ信号処理方法
JP2013211906A (ja) 音声空間化及び環境シミュレーション
JP2022145678A5 (ja)
JP2022144498A5 (ja)
JP2022144500A (ja) 音信号処理方法および音信号処理装置
JP2022144496A (ja) 音信号処理方法および音信号処理装置
JP2022144497A (ja) 音信号処理方法および音信号処理装置
Schwark et al. Data-driven optimization of parametric filters for simulating head-related transfer functions in real-time rendering systems
JP2022144496A5 (ja)
JP2022144500A5 (ja)
JPH0715280Y2 (ja) 音響制御装置
JP2022144497A5 (ja)
TW202234385A (zh) 用以呈現音訊物件之設備與方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240119

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240125