JP4465870B2 - Audio signal processing device - Google Patents

Audio signal processing device Download PDF

Info

Publication number
JP4465870B2
JP4465870B2 JP2000381703A JP2000381703A JP4465870B2 JP 4465870 B2 JP4465870 B2 JP 4465870B2 JP 2000381703 A JP2000381703 A JP 2000381703A JP 2000381703 A JP2000381703 A JP 2000381703A JP 4465870 B2 JP4465870 B2 JP 4465870B2
Authority
JP
Japan
Prior art keywords
measurement
reproduction
transfer function
environment
sound
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000381703A
Other languages
Japanese (ja)
Other versions
JP2002186100A (en
Inventor
宏平 浅田
和史 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000381703A priority Critical patent/JP4465870B2/en
Publication of JP2002186100A publication Critical patent/JP2002186100A/en
Application granted granted Critical
Publication of JP4465870B2 publication Critical patent/JP4465870B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Stereophonic System (AREA)
  • Stereophonic Arrangements (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、音声信号処理方法、音声信号処理装置に関するものである。
【0002】
【従来の技術】
例えば映画、音楽などのコンテンツを視聴する場合、再生音声に臨場感を与えるために、残響を付加することが行われている。
残響付加処理としては、いわゆるデジタルリバーブ方式が知られている。このデジタルリバーブ方式は、原音に対してランダムなディレイタイムとされるディレイ情報を多数発生させ、さらに、ディレイタイムが長くなるほど音量を小さくしたり、ディレイタイムの長い箇所でフィードバックを掛けて残響時間を長くとる等の信号処理を行うものである。これにより原音に対して人工的に残響効果を生成することができる。しかし、ディレイ情報を生成するためのパラメータは、そのパラメータの設定を行う作業者の聴感に基づいて設定されるので、この設定作業は繁雑なものとなる。また、人工的に残響を作り出すことから原音を定位させるという概念がなく、音場の再現に優れたものではない。
【0003】
また、実際に音場空間においてインパルス応答の測定を行って、音源の定位などの空間情報に基づいて残響効果を得るための手法として、例えばサンプリングリバーブ方式が知られている。
このサンプリングリバーブ方式は、例えば図25に示されているように、例えばホールなどの測定環境(測定音場)90に、音源として測定用のスピーカ91等を配置する。そして、この測定用スピーカ91にタイムストレッチトパルスなどとされるインパルス応答測定用の音声信号TSPを供給して、同じ音場内の所要の位置に配置された1または複数の測定用マイク92a、92b、92c、92dに対して、測定用スピーカ91から出力される測定用音声を入力させる。この場合、図26に矢印で示されているように、測定マイク92aでは、測定用スピーカ91からの直接音、及び測定用スピーカ91から出力され測定環境内で反射した反射音を検出することができる。なお、図示は省略しているが、測定マイク92b、92c、92dについても同様である。
そして、インパルス応答測定装置93で測定用マイク92(a〜d)から入力された音声信号波形に所要の信号処理を施すことで、その測定環境90の残響を含むインパルス応答(測定用スピーカから測定用マイクまで)を測定して伝達関数を求める。この図では、各測定用マイク92(a〜d)に対応する伝達関数を、それぞれHfl、Hfr、Hbl、Hbrとしている。
【0004】
このようにして測定環境90で求めた伝達関数を用いて、音声信号の生成を行う場合は、例えば図27に示されているようにする。
図示されているように家庭の部屋などの再生環境100に再生用スピーカ101a、101b、101c、101dを配置して、各再生用スピーカ101(a〜d)に対して、音声再生手段102によってコンテンツの再生信号を供給する。そして音声信号再生部102によって再生された音声信号に対して、それぞれ伝達関数Hfl、Hfr、Hbl、Hbrに対応するインパルス応答を畳み込んで再生用スピーカ101(a〜d)に供給することで、再生環境100において測定環境90と同様の残響効果を得ることができる。このように、サンプリングリバーブ方式は、実際に測定した伝達関数を用いるので、再生時における音場の再現性に優れたものとされる、また再生音場における音像定位が明確なものとなる。
【0005】
さらに、測定環境90おける測定用マイク92(a〜d)と、再生環境100における再生用スピーカ101(a〜d)の配置位置を幾何学的に対応させると、再生音場において再生用スピーカに囲まれた領域(閉曲面内)では、測定音場の音源の定位(音像定位)が明確に再現される。つまり、残響効果を得ることができるのに加えて、測定環境90の音場を再現することも可能となる。
【0006】
なお、実際に音場空間の測定データを用いる方法としては、上記したサンプリングリバーブ方式以外にも、例えば仮想音源に見立てた反射成分を解析して残響効果を得るようにしている近接4点法が知られている。
近接4点法は、同一平面上にない4点においてインパルス応答を測定して、音源の空間位置情報とその大きさを算出する方法とされる。この近接4点法によれば、測定を行った音場空間内における任意の位置でのインパルス応答は、音源の空間情報、及び音源の大きさと位置から算出することができる。したがって、このように求められたインパルス応答を音声信号に畳み込むことで、測定を行った音場空間と同等の残響付加を実現することができる。
但し、この近接4点法は、もともと解析のための手法である。このため、インパルス応答を測定した音源の空間情報、及び音源の大きさと位置から人工的に作成する際には、音源の大きさ、数を任意の閾値で制限する必要がある。したがって、音場空間の響きを再現する品質としては、サンプリングリバーブ方式と比較して高いものではない。しかし、測定を行った音場空間中における任意の点のインパルス応答を、演算処理によって求めることができるので、再生環境におけるスピーカの配置や数に対して柔軟に対応することができるという利点を有している。
【0007】
【発明が解決しようとする課題】
ところで、最近では多チャンネル(3チャンネル以上)による音声信号によって音声が構成されるコンテンツが増えている。したがって例えば家庭などの再生環境においても3個以上の再生用スピーカにより音声を再生するシステムが普及している。
しかし、このような再生システムにおいて、例えばサンプリングリバーブ方式によって測定環境を再現する場合、再生環境100の再生用スピーカ101(a〜d)の数や配置(設置状態)を考慮して伝達関数を求めなければならない。したがって測定環境90においては、測定用マイク92(a〜d)の数や配置を変えながら、再生環境100で用いられる複数の再生システムを想定した測定を行うことが必要になる。また、再生用スピーカ101(a〜d)の設置状態が異なる新規の再生システムが構築された場合、その都度その再生システムに対応した測定を行う必要がある。
このため、測定環境(例えばホールなど)において測定に要する費用や時間が浪費されることになる。
【0008】
そこで、再生用スピーカの設置状態に対して柔軟、且つ測定音場の残響特性を再現することができるようにすることが望まれている。
【0009】
【課題を解決するための手段】
本発明はこのような問題点を解決するために、第一の閉曲面の外側に配される第一の音源から第一の音声を発音する第一の発音工程と、前記第一の閉曲面上における複数の位置で前記第一の音声の音声信号を測定する第一の測定工程と、前記第一の測定工程によって測定された音声信号に基づいて、前記第一の音源から前記第一の閉曲面上の前記複数の位置までのそれぞれに対応した第一の伝達関数を生成する伝達関数生成工程と、前記第一の閉曲面における前記複数の位置と幾何学的に同等な位置に第二の音源を配置して、前記第一の伝達関数に基づいた第二の音声を発音する第二の発音工程と、前記第一の閉曲面の内側に配される第二の閉曲面上における複数の位置で前記第二の音声の音声信号を測定する第二の測定工程と、前記第二の測定工程によって測定された音声信号に基づいて、前記第二の音源から前記第二の閉曲面における前記複数の位置までのそれぞれに対応した第二の伝達関数を生成する伝達関数生成工程と、入力した音声信号に対して、前記第二の伝達関数に基づく演算処理を施して音声信号を得る演算工程と、前記演算工程によって前記第二の伝達関数に基づいて得られた音声信号を出力する音声信号出力工程を備えて音声信号処理方法を構成する。
【0010】
さらに、音声信号処理方法として、第一の閉曲面の外側に配される第一の音源から第一の音声を発音する第一の発音工程と、前記第一の閉曲面上における複数の位置で、前記第一の音声の音声信号を測定する第一の測定工程と、前記第一の測定工程によって測定された音声信号に基づいて、前記第一の音源から前記第一の閉曲面上の前記複数の位置までのそれぞれに対応したの第一の伝達関数を生成する伝達関数生成工程と、前記第一の閉曲面における前記複数の位置と幾何学的に同等な位置に第二の音源を配置して、前記第一の伝達関数に基づいた第二の音声を発音する第二の発音工程と、前記第一の閉曲面の内側に配される第二の閉曲面上における複数の位置で前記第二の音声の音声信号を測定する第二の測定工程と、前記第二の測定工程によって測定された音声信号に基づいて、前記第二の音源から前記第二の閉曲面における前記複数の位置までのそれぞれに対応した第二の伝達関数を生成する伝達関数生成工程と、入力した音声信号に対して、前記第一の伝達関数に基づいた演算処理を施す第一の演算工程と、前記第一の演算工程で前記第一の伝達関数に基づいた演算処理を施されて得られた音声信号に対して、前記第二の伝達関数に基づいた演算処理を施す第二の演算工程と、前記第二の演算工程によって前記第二の伝達関数に基づいた信号処理を施されて得られた音声信号を出力する音声信号出力工程を備える。
【0011】
また、音声信号処理装置として、伝達関数を記憶する記憶手段と、入力された音声信号に対して、前記記憶手段に記憶される伝達関数に基づいた演算処理を行う演算処理手段と、前記演算処理手段で得られた音声信号を出力する出力手段を備え、前記伝達関数は、前記音声信号を再生定位すべき仮想音源位置から、第一の閉曲面上における第一の複数の位置までの第一の伝達関数と、前記第一の複数の位置のそれぞれから、前記第一の閉曲面と幾何学的に同等な閉曲面の内側に配される第二の閉曲面上における第二の複数の位置までの第二の伝達関数に基づいて求められる伝達関数とする。
【0012】
さらに、音声信号処理装置としては、第一の伝達関数を記憶する第一の記憶手段と、第二の伝達関数を記憶する第二の記憶手段と、入力された音声信号に対して、前記第一の記憶手段に記憶される第一の伝達関数に基づいた演算処理を行う第一の演算処理手段と、前記第一の演算処理手段で得られた音声信号に対して、前記第二の記憶手段に記憶される第二の伝達関数に基づいた演算処理を行う第二の演算処理手段と、前記第二の演算処理手段で得られた音声信号を出力する出力手段を備え、前記第一の伝達関数は、前記音声信号を再生定位すべき仮想音源位置から、第一の閉曲面上における第一の複数の位置までの伝達関数であって、前記第二の伝達関数は、前記第一の複数の位置のそれぞれから、前記第一の閉曲面と幾何学的に同等な閉曲面の内側に配される第二の閉曲面上における第二の複数の位置までの伝達関数とする。
【0013】
本発明によれば、測定環境の音場に基づいて第一の伝達関数を求め、さらに再現環境において前記第一の伝達関数に基づいて信号処理された音声信号を再生することで、前記再現環境において前記測定環境の音場(例えば残響、音像定位)を再現することができる。さらに、前記再現環境において、測定環境と同等の音場条件で再生環境に配置される再生用スピーカに対応した第二の伝達関数を求めることができるようになる。
したがって、測定環境で第一の伝達関数を求めた後は、前記再生用スピーカに対応した第二の伝達関数を再現環境で求めることができるようになり、前記測定環境での作業効率を向上することができる。
【0014】
また、第一の伝達関数と第二の伝達関数を別途求めて個別に管理することで、測定環境の音場と再現環境における測定再生用スピーカの配置を独立して選択することができるようになる。
【0015】
【発明の実施の形態】
以下、本発明の実施の形態を以下に示す順序で説明する。
1.1個の仮想スピーカの再現
2.複数の仮想スピーカの再現
3.円形対称性を利用する例
4.仮想音源の移動において円形対称性を利用する例
5.カーオーディオシステム
【0016】
なお、本明細書において、特に断らなければ、音声信号に対する「伝達関数に基づく演算処理」とは、伝達関数に対応するインパルス応答を、その音声信号に対して畳み込み積分処理を施すことや、その音声信号を周波数領域に変換して、その伝達関数との乗算処理を施すことを示すものとする。前者の処理は、例えばFIR(finite impulse response)フィルタとして実現でき、後者はFFT(fast Fourier transform)演算を施して実現できることはもちろんである。
【0017】
1.1個の仮想スピーカの再現
図1は、本実施の形態の音声再生システムにおける、測定環境について説明する模式図である。
例えばホール等とされる測定環境1には、例えば当該測定環境1の壁に近接しない位置に、半径R_bndとなる円周上に、測定用マイク4a、4b、4c、4d、4e、4f、4g、4h、4i、4j、4k、4l、4m、4n、4o、4pを配置する。本実施の形態では、これら測定用マイク4(a〜p)が配置される半径R_bndとなる円周を、第一の音場とされる第一閉曲面10として示す。
各測定用マイク4(a〜p)は、その指向性を第一閉曲面10の法線方向に向かって外側に向けるものとする。なお、本明細書における以降の説明においてもマイクに示される矢印は、その指向性を示すものとする。
また、第一閉曲面10の中心から半径R_spとなる位置に、音源として測定用スピーカ3を配置する。この測定用スピーカ3に対しては、例えば測定信号再生手段2から測定信号TSPが供給される。この測定用スピーカ3は、後述する再生環境における仮想スピーカを再現するために備えられることから、その指向性や周波数特性は、再生環境における聴取者に対する聴感を想定したものとすることが望ましい。
【0018】
この測定環境10における測定は、測定用スピーカ3に測定信号TSPを供給して、測定用スピーカ3から出力された測定用音声を各測定用マイク4(a〜p)入力させるようにするが、図1においては、測定用スピーカ3から測定用マイク4aに至る音声の経路を模式的に示している。
各測定用マイク4(a〜p)で検出された音声の音声信号は、図示していないインパルス応答測定装置に供給され、測定用スピーカ3から各測定マイク4(a〜p)に対応したインパルス応答を測定する。このインパルス応答は、大きなホールなどでは5〜10秒程度であることもあるが、小さなホールや響きの少ないホールなどではより短い時間長となることもある。この測定により、このインパルス応答に基づいた伝達関数を求めることができる。すなわち、図1には、測定用マイク4aに対応した伝達関数Haを求める場合の音声の経路が示されている。また、図示していないが、測定用マイク4b〜測定用マイク4pに対応した伝達関数Hb〜Hpを求めることができる。なお、インパルス応答の測定は、各測定用マイク毎に行ってもよいし、全ての測定用マイク4(a〜p)に対して同時に行うようにしてもよい。また、測定用信号は、このTSP信号に限らず、擬似ランダム雑音や音楽信号などを用いてもよい。以降の説明においても、測定環境における測定用スピーカから測定用マイクまでの伝達関数は「H」とする。
【0019】
このようにして、測定環境10においては各測定用マイク4a、4b、4c、4d・・・、4pに対応した伝達関数Ha、Hb、Hc、Hd・・・、Hpを求めることができる。そして、これらの伝達関数Ha〜Hpを用いることにより、測定環境1とは他の環境(再現環境)で当該測定環境1を再現することができるようになる。
まず、図2にしたがい、再現環境における再現音声の再生系について説明する。
再現信号生成装置5において、音声再生部6は例えば任意の音声信号Sを出力することができるようにされている。この音声再生部6から出力された音声信号Sは、演算部7a、7b、7c、7d・・・、7n、7o、7pに供給される。演算部7(a〜p)は、供給された音声信号Sに対して所要の演算処理を行って、測定環境1で求められた伝達関数Ha〜Hpに基づく演算処理を行う。これにより、演算部7(a〜p)からは、音声信号Sに対して伝達関数に対応するインパルス応答が畳み込まれた再現信号SHa、SHb、SHc、SHd・・・、SHn、SHo、SHpが出力される。そして、各再現信号SH(a〜p)は、再生環境に配置されている再現用スピーカ8a、8b、8c、8d・・・、8n、8o、8pに供給される。したがって、各再現用スピーカ8(a〜p)からは、測定環境1における伝達関数H(a〜p)に基づいた再現信号SH(a〜p)による音声が出力される。
【0020】
図3は再現環境について説明する模式図である。
再現環境11は、例えば無響室や、残響の少ないスタジオなどとされる。
そしてこの再現環境11に、図2に示した再現用スピーカ8(a〜p)を配置する。この場合、再現用スピーカ8(a〜p)は、図1に示した測定用マイク4(a〜p)の配置位置に対応させ、半径R_bndで形成される第一閉曲面12の外周上に内側に向けて配置される。つまり、再現用スピーカ8(a〜p)、測定用マイク4(a〜p)において同一の添え字(アルファベット)を付したもの同士が対応している。
なお、測定環境1における第一閉曲面10と再現環境11における第一閉曲面12は、同一半径により形成される同等の閉曲面とされるが、便宜上異なる符号を付している。
そして、再現用スピーカ8(a〜p)にそれぞれ再現信号SH(a〜p)を供給することで、第一閉曲面12の内側に居る聴取者は、図1に示した測定用スピーカ3から音声信号Sを再生した場合の音場が第一閉曲面の外側に擬似的に再現されているように感じることができる。
【0021】
ここで、或る閉曲面内に音源がない場合、その音場を別の場所で正確に再現するためには、原音場と再生音場とで閉曲面の外周の音圧と法線方向の粒子速度を一致させればよいということが知られている(公知文献:電子情報通信学会編「音響システムとディジタル処理」(コロナ杜)を参照)。具体的には、閉曲面上に対をなす無指向性マイクロホンを多数設置し、演算処理を施すことにより、それぞれの点における音圧と粒子速度を測定する。このため、第一閉曲面10では多数の測定用マイクを、法線方向に外側向けに設置し、第一閉曲面12においてはこれらの測定用マイクに対応した位置に多数の再現用スピーカを配置することで、第一閉曲面12の内側を視聴位置とした場合、聴取者は測定環境1に居る場合と同様の定位感や残響感を得ることができ、さらに、再現環境11にはない測定用スピーカ3の位置に仮想音像を知覚することができるようになる。つまり、第一閉曲面12の内側のいずれの聴取位置においても、その外側に測定環境1と同等の音場感を得ることができる。
しかし、上記のように、非常に多数のマイクロホンと多数の再現用スピーカを必要とすることは、実際に実現することは困難である。そこで、この出願の発明者は、指向性マイクロホン、例えば単一指向性マイクロホンの出力に音圧及び粒子速度成分が含まれることに着目して、限られた指向性マイクロホンと、それに対応する数の再現用スピーカでほぼ同様な音響効果が得られることを実験により確かめた。
【0022】
このように、例えばホールなどの測定環境1における音場を、無響室などとされる再現環境11で再現することができる。したがって、図1に示したように測定環境1におけるインパルス応答の測定を、例えば1回行っておくことで、その後測定データ(伝達関数)を用いることで、再現環境11などとされる測定環境1以外の環境で、随時測定環境11の音場を擬似的に再現することができるようになる。
これにより、測定環境1を想定したインパルス応答の測定を、第一閉曲面12内において行うことができるようになり、測定環境1における測定作業を何度も行う必要がなる。つまり、測定環境1とされるコンサートホールにおける測定作業を効率よく行うことができるようになる。
【0023】
図4、図5は、再現環境11の第一閉曲面12の内側において、この第一閉曲面12の内側におけるインパルス応答を測定する例を説明する模式図である。
この場合、第一閉曲面12の内側に、測定用マイク13A、13B、13C、13D、13Eを配置する。これらの測定用マイク13(A〜E)は、例えば家庭の部屋などとされる再生環境に配置される再生用スピーカに対応した配置状態をとるようにされる。すなわち、図示する例では例えば5チャンネルの再生用スピーカからなる再生システムを想定している。また、本実施の形態では、測定用マイク13(A〜E)を外周として形成される閉曲面を第二閉曲面14ということとする。したがって、第二閉曲面14の内側が聴取位置になる。
なお、第二閉曲面14は再生環境における再生用スピーカの配置状態に対応するため、第一閉曲面10、12のように必ずしも円形状である必要はない。さらに、第二閉曲面14は、第一閉曲面10、12の内側に形成される必要があるため、測定環境1において測定を行う場合は、第二閉曲面14の広さを考慮して第一閉曲面10、12を形成することが望ましい。
また、測定用マイク13(A〜E)から出力される音声信号は、例えば図示していないインパルス応答測定手段に供給され、例えば所要の位相シフト処理などの演算処理によって伝達関数が求められる。
【0024】
例えば図4に示されているように、各測定用スピーカ8(a〜p)から測定用マイク13Aの伝達関数をG1A、G2A、G3A・・・とし、さらに、図示は省略しているが、測定用マイク13Bへの伝達関数をG1B、G2B・・・、測定用マイク13Cへの伝達関数をG1C、G2C・・・、測定用マイク13Dへの伝達関数をG1D、G2D・・・、測定用マイク13Eへの伝達関数をG1E、G2E・・・、とする。以降の説明においても、再現環境における再現用スピーカから測定用マイクまでの伝達関数は「G」とする。
また、図5に示されているように、測定用スピーカ8aから測定用マイク13A、13B、13C、13D、13Eへの伝達関数をG1A、G1B、G1C、G1D、G1Eとし、同様に測定用スピーカ8bから測定用マイク13A、13B、13C、13D、13Eへの伝達関数をG2A、G2B、G2C、G2D、G2Eとする。
さらに、上記した測定環境1においての伝達関数H(a〜p)を含めた、仮想音像とされている測定環境1の測定用スピーカ3から測定用マイク13(A〜E)の伝達関数をTA、TB、TC、TD、TEとする。以降の説明においても、再現環境において、仮想音像とされている測定環境の測定用スピーカから、当該再現環境の測定用マイクまでの伝達関数を「T」とする。
【0025】
この場合、伝達関数TA、TB、TC、TD、TEは、式1に示されているように表すことができる。
【数1】

Figure 0004465870
つまり、上記したように伝達関数H(a〜p)によって、第一閉曲面12内の聴取者にとっては第一閉曲面の外側には測定環境1の音場が再現されていると考えられるので、図6に示す第二閉曲面14の測定用マイク13(A〜E)は、再現環境11においては仮想音像とされる測定用スピーカ3から測定用音声が出力された状況と近似的に同じになる。
したがって、第二閉曲面14の内側において、伝達係数TA、TB、TC、TD、TEは、測定環境1において測定用スピーカ3から測定用音声を出力した場合の伝達関数と等価になる。
【0026】
ところで、例えば測定環境1におけるN箇所の残響音場特性を、M種類の再生用スピーカの配置状態に対応させようとした場合、測定用スピーカ3をN箇所に配置して、再生用スピーカの配置状態に対応させてN回の測定を行う必要がある。すなわち、N×M回の測定を行う必要があった。しかし本発明では、再生用スピーカの配置状態に対応した測定は再現環境11で行うので、測定環境1においてはN回の測定を行えばよい。
また、再生用スピーカの配置状態の種類が増えた場合、この配置状態に対応させてN箇所の測定環境1を再現させようとした場合、N箇所の測定環境1において測定を行う必要があった。したがって、測定環境1において測定を行う位置の数(N箇所)が多い場合は困難な作業となる、しかし、本発明では、Nカ所の測定環境1において伝達関数を求めておけば、再生用スピーカの配置状態の種類が増える毎に、再生環境11において測定を行えばよい。したがって、新規の再生用スピーカの配置状態に対応させる場合でも、N箇所の測定環境に出かけていく必要がなく、効率のよい測定作業を行うことができるようになる。
【0027】
次に、再現環境11で得られた伝達関数TA、TB、TC、TD、TEに基づいて、例えば家庭の部屋などとされる再生環境において、例えば5チャンネルステレオの音声を再生する例を説明する。
まず、図7にしたがい、再生環境における5チャンネルステレオ音声の再生系について説明する。
再生装置15において、音声再生部16は例えばディスクなどの記録媒体に記録されているコンテンツにおいて、音声信号を再生することができるようにされている。この音声再生部16から出力された音声信号Sは、演算部17a、17b、17c、17d、17eに供給される。演算部17(a〜e)は、供給された音声信号Sに対して所要の演算処理を行って、再現環境11で求められた伝達関数TA、TB、TC、TD、TEに基づく演算処理を行う。これにより、演算部17(a〜e)からは、音声信号Sに対して伝達関数に基づいて演算処理を施された再現信号STA、STB、STC、STD、STEが出力される。そして、各再生信号ST(A〜E)は、再生用スピーカ18A、18B、18C、18D、18Eに供給される。したがって、各再生用スピーカ18(A〜E)からは、伝達関数T(A〜E)に基づいた再生信号STA、STB、STC、STD、STEによる音声が出力される。
【0028】
再生環境における再生用スピーカ18(A〜E)は、図8に示されているように第二閉曲面19上における所要の位置に配置される。なお、この第一閉曲面19と再現環境11における第一閉曲面12は、同等の閉曲面とされるが、便宜上異なる符号を付している。
このように、第二閉曲面19上にその内側に向けて再生用スピーカ18(A〜E)を配置して、再生信号STA、STB、STC、STD、STEによる音声を出力することで、第二閉曲面19の内側に居る聴取者にとっては、破線で示す第一閉曲面12上に配された再現用スピーカ8(a〜p)による音場と同等な音場を再現することができる。したがって、第二閉曲面19内を聴取位置とした場合、図9に示されているように、測定環境1内における残響音場、及び音像定位を得ることができるようになる。これにより、例えば家庭の部屋に居ながら、例えばホールなどの残響音場及び音像定位により、コンテンツの音声を聴取することができるようになる。
また、本発明は測定環境、再現環境で実際に測定したインパルス応答に基づいて伝達関数を求めているので、例えば4点近接法などのように解析結果を参照する方法よりも高品位の音声により、残響、音像定位を再現することが可能である。
【0029】
なお、再生環境における再生用スピーカの数は再生システムの構成によって異なる場合があり、さらに配置位置に関しても家庭事情などによって同一にすることは容易ではない。このような場合、従来では、測定環境において再生用スピーカの配置状況に応じた測定を行う必要があったが、本実施の形態では測定環境での伝達関数をマスターデータとして、その後は無響室などで再生環境に応じた測定を行うことができる。つまり、測定を行うためのホールの使用料などを削減することができると共に、容易に再生環境に対応した伝達関数を得ることができるようになる。
また、特徴のある残響音場とされる測定環境が、例えば遠隔地にあった場合などでも、上記したようにマスターデータを得てしまえば、その測定環境に行く必要は無くなるので、このような点でも測定環境における測定を効率よく行うことが可能になる。
【0030】
さらに、本実施の形態では、再生装置15の構成として音声信号処理装置を示したが、例えば家庭などで使用されるAV(Audio Visual)アンプ、サラウンドプロセッサ、あるいはCDやDVDプレーヤなどに適用することができる。
【0031】
ところで、前記式1に示されているように、行列GとベクトルHvは分離することが可能となる。したがって、再現環境11においては例えば図4、図5で説明したような測定方法をとらなくても伝達関数T(A〜E)を求めることができる。
例えば、ホールなどの残響特性データとして、測定環境においてベクトルHvに相当するデータ(伝達関数Hを求めるためのインパルス応答)を測定する。一方、再生環境における再生用スピーカの配置状態に対応するデータとして、例えば図10に示されているように第一閉曲面12において、測定用マイク13(A〜E)までの伝達関数Gを、測定信号TSPに基づいて別途測定しておく。そして、個別に求められたベクトルHvと行列Gによって、式1により伝達関数T(A〜E)を求めることが可能となる。
したがって、ベクトルHvと行列Gを音声信号処理装置において個別に管理して必要に応じて行列演算を行うことができるようにすることで、伝達関数の測定回数を削減することができる。さらに、残響特性と再生用スピーカの配置を独立して選択することもできるようになる。
【0032】
なお、本実施の形態では、測定環境1において測定用スピーカ3を再生環境における仮想スピーカであるとして説明したが、再生環境で再生されるソースが、例えば人間が知覚しやすい自然音である場合や、例えば1種類の音から構成される音である場合、または測定用スピーカ3の特性がフラットに近い特性である場合などでは、前記ソース自体が仮想音像として認識される。但し、前記ソース自体の仮想音像を正確に表現するためには、スピーカの逆特性を含めて補正することがより望ましい。
【0033】
図11は、上記したように伝達関数を求め、再生環境において測定環境の音場を再現する場合の手順を説明するフローチャートを示している。
まず、測定環境1の第一閉曲面10において測定用スピーカ3から測定用音声を出力してインパルス応答を測定し(S001)、測定したインパルス応答に基づいて伝達関数Hを求める(S002)。次に、再現環境11の第一閉曲面12において伝達関数Hに基づく演算処理を施された音声信号によって再現用音声を出力して(S003)、第二閉曲面14において再現用音声のインパルス応答を測定し(S004)、さらに第二閉曲面14で測定したインパルス応答に基づいて伝達関数Gを求める(S005)。そして、再生環境において音声の再生を行う場合に、再生された音声再生信号に対して伝達関数Gに基づく演算処理を行って出力する(S006)。
これにより、再生環境では図9に示したように測定環境と同等の残響効果、音像定位を再現することができるようになる。
【0034】
また、伝達関数Hと伝達関数Gを個別に管理して行列演算を行う場合の手順は、図12のフローチャートに示されているようになる。
図11に示したフローチャートと同様に、測定環境1の第一閉曲面10において測定用スピーカ3から測定用音声を出力してインパルス応答を測定し(S101)、測定したインパルス応答に基づいて伝達関数Hを求める(S102)。そして、再現環境11に測定用スピーカ3を配置して、第一閉曲面12において、測定用スピーカ3から測定用音声を出力してインパルス応答を測定し(S103)、さらに第二閉曲面14で測定したインパルス応答に基づいて伝達関数Gを求める(S104)。
そして、再生環境において音声の再生を行う場合に、再生された音声再生信号に対して伝達関数Hに基づく演算処理を行い(S105)、さらに、伝達関数Hに基づいて演算処理された音声再生信号に伝達関数Gに基づく演算処理を施す(S106)。
このような手順により、伝達関数Hと伝達関数Gを個別に管理して必要に応じて行列演算を行うことで、残響特性と再生用スピーカの配置を独立して選択することができる。
【0035】
2.複数の仮想スピーカの再現
次に、例えばディスクリートな音声信号からなる5チャンネルステレオを実現することができる再生システムに対応した伝達関数を生成する例を説明する。
図13は、5チャンネルステレオの再生環境を説明する図である。
この図に示す再生環境は、例えば、映画館21などの広い空間とされ、ディスクリートな5チャンネルを実現するために実線で示す5個のスピーカ20A、20B、20C、20D、20Eが配置される。各スピーカ20(A〜E)に対して、センターフロント信号DA、フロントライト信号DB、リアライト信号DC、リアレフト信号DD、フロントレフト信号DEが供給されて、各信号に対応した音声が再生される。つまり、この図に示す再生環境としての映画館21では、広い空間の残響効果を得ることができる。
【0036】
しかし、例えば家庭の部屋などの狭い空間では、図13に示した映画館21と同じ間隔で各スピーカ20(A〜E)を配置することが困難なので、再生用スピーカ18(A〜E)は破線で示されているように配置されることが考えられる。したがって、第二閉曲面19における再生用スピーカ18(A〜E)によって映画館21のような、音像定位、残響効果が得られる音場を構築するには、前記各信号D(A〜E)に伝達関数T(A〜E)に基づいて演算処理を施すようにすればよい。
【0037】
図14は、前記各信号D(A〜E)に伝達関数T(A〜E)に基づく演算処理を行う音声信号処理装置の構成例を説明する図である。
図14に示されている音声信号処理装置22は、音声再生部23から再生音声信号として、センターフロント信号DA、フロントライト信号DB、リアライト信号DC、リアレフト信号DD、フロントレフト信号DEを出力することができるようにされている。
音声再生部23から出力された各信号D(A〜E)は、それぞれ演算部24(a〜e)、26(a〜e)、28(a〜e)、30(a〜e)、32(a〜e)に供給される。例えば演算部24(a〜e)では、センターフロント信号DAに対して伝達係数TAA、フロントライト信号DBに対して伝達係数TBA、リアライト信号DCに対して伝達係数TCA、リアレフト信号DDに対して伝達係数TDA、フロントレフト信号DEに対して伝達係数TEAに基づく演算処理を行う。そして、演算処理が施された各信号を加算部25、27、29、31、33で加算して再生信号VAを生成する。
【0038】
ところで、図14に示す演算部24,26、28、30、32において用いられる伝達関数TA(A〜E)、TB(A〜E)、TC(A〜E)、TD(A〜E)、TE(A〜E)は、先に図6で説明した方法によって求めることができる。
すなわち図13に示すスピーカ20Aを、図6に示す再現環境における仮想的な音像とされる測定用スピーカ3に対応させることができる。つまり、図6に示す伝達関数TA、TB、TCは、図14に示す伝達関数TAA、TAB、TAC・・・に対応したものとなる。
この場合、伝達関数TA(A〜E)、TB(A〜E)、TC(A〜E)、TD(A〜E)、TE(A〜E)は、式2に示されているように表すことができる。
【数2】
Figure 0004465870
【0039】
さらに、図6に示す仮想的な測定用スピーカ3を、図13に示すスピーカ20B、スピーカ20C、20D、20Eに対応させることで、各スピーカ20(B〜E)から第二閉曲面19の測定用マイク13(A〜E)間での伝達関数TB(A〜E)、TC(A〜E)、TD(A〜E)、TE(A〜E)を求めればよい。ここで、図15に示されているように測定環境としての映画館21においてスピーカ20Aから測定用マイク4(a〜p)までの伝達関数をHa(1〜16)、スピーカBから測定用マイク4(a〜p)までの伝達関数をHb(1〜16)、スピーカ20Cから測定用マイク4(a〜p)までの伝達関数をHc(1〜16)、スピーカ20Dから測定用マイク4(a〜p)までの伝達関数をHd(1〜16)、スピーカ20Eから測定用マイク4(a〜p)までの伝達関数をHe(1〜16)として、これらの伝達関数を行列Hとすると、式2に示した行列Tは式3に示されているように表すことができる。
【数3】
Figure 0004465870
【0040】
この式3に示されているようにして伝達関数Hを求め、さらに例えば図4、図5で説明したようにして伝達関数Gを求めることで、最終的に伝達関数TA(A〜E)、TB(A〜E)、TC(A〜E)、TD(A〜E)、TE(A〜E)が求められる。
そして、図14に示した音声信号処理装置22によって、伝達関数TA(A〜E)、TB(A〜E)、TC(A〜E)、TD(A〜E)、TE(A〜E)に基づく演算処理を施された音声信号V(A〜E)を、図16に示されている再生環境において再生用スピーカ18(A〜E)に供給して、音声を出力することで、再生用スピーカ18(A〜E)からなる第二閉曲面19内には、仮想スピーカとしてのスピーカ20(A〜E)を想定した音場が形成される。つまり、例えば映画館などのような広い空間の残響、及び音像定位を、再生環境とされる部屋などで再現することができる。聴取者は第二閉曲面19内であれば、いずれの位置で聴取しても、元の測定環境における音場と同等な音場感を得ることができ、より豊かな臨場感に浸ることができる。
なお、ディスクリートな音声信号に音声再生システムとして、例えばDVD−Video(Digital Versatile Disc Video)等に適用されている5.1チャンネルシステムが知られている。このような再生システムに本発明を適用すると、聴取者が居る再生環境よりも広い部屋、響きの良い部屋を再現した鑑賞を実現することができるようになる。これにより、再生用スピーカの存在を意識させるような不自然な音声を自然な音声に緩和させることが可能になる。
【0041】
3.円形対称性を利用する例
ところで、上記実施の形態では、測定環境において例えば図16に示した複数の仮想スピーカ(例えばスピーカ20(A〜E))全てを想定した位置に、測定用スピーカを配置させて伝達関数の測定を行う例を挙げた。したがって、仮想スピーカの数に応じて伝達関数の測定を行う必要があり、作業効率がよいものではない場合がある。
【0042】
例えば、仮想スピーカの位置、再現用スピーカの位置、及び第一閉曲面の中心の3つの相対的幾何学位置が共通している場合、既知の伝達関数を用いることができるようになる。
例えば図17に示されているように、仮想スピーカ35A、35Bは、上記した3つの位置関係が共通している。つまり、仮想スピーカ35Aに対する再現用スピーカ8p、8a、8bの配置関係と、仮想スピーカ35Bに対する再現用スピーカ8b、8c、8dの配置関係は同じである。したがって、測定環境において、反射音などに方向性が強くない場合には、これらの伝達関数はそれぞれほぼ同じものとなる。これにより、上記式3に示した行列Hに関して、2列目をベクトルとみて、
【数4】
Figure 0004465870
とすることができ、既知の伝達係数の行列を転置させて使用することが可能となる。
【0043】
なお、図17においては、仮想スピーカ35Cは、仮想スピーカ35A、35Bと上記した3つの位置関係が共通していない。このような状況が生じることを想定して、測定環境1においては第一閉曲面10において配置される測定用マイク4の数を増やし、第一閉曲面12における再現用スピーカ8の数を増やすことで、位置関係の対応をとることができるようになる。もちろん、仮想スピーカ35Cに対して、隣接配置される再現用スピーカの配置関係から補間処理などの手法で対応することも可能であるが、処理の簡便さにより上記の配置とすることが好ましい。
【0044】
このような方法を、先に図15に示した例に対応させることができる。つまり、例えばスピーカ20Aからの出力に対応した伝達関数を求め、この伝達関数を、例えばスピーカ20Bを想定した伝達関数として用いることが可能となる。
さらに、再現環境11において再生用スピーカ8の配置位置も第一閉曲面12における再現用スピーカ8の位置、再生用スピーカ18の位置、及び第一閉曲面12の中心の3つの相対的幾何学位置が共通していれば、行列Gの特定行の値をベクトル単位で適宜転置させることで、音場を近似させることができるようになる。したがって、再現環境11における測定回数を削減することができるようになる。
また、この場合も、行列Gと行列Hを個別に管理して必要に応じて行列演算を行うことができるようにすることで、残響特性と再生用スピーカを独立して選択することもできる。そして、行列G、行列Hに関して、位置の対称性を利用して、複数の伝達関数を転置させて使用することで、例えば音声信号処理装置において伝達関数を管理する記憶手段の容量を小さくすることができるという利点がある。
【0045】
また、図18に示されているように、測定環境(例えばホールなど)1の壁からの反射情報も仮想スピーカと同じように回転することになる。したがって、測定用マイク4(a〜p)が配置される第一閉曲面10は、壁の影響が大きくなく、障害物などが近くに無い、測定環境1の中心部分に近い位置に設定して測定を行うことが望ましい。なお、この例においては、入力としての複数チャンネルからなる音声信号、及びその音声信号に対応した複数のスピーカを対象としているので、伝達関数を共通して使用することで、音像が狭くなる、パンニングの効果になる等とされる本来の残響効果が薄れてしまうことはない。
【0046】
4.仮想音源の移動において円形対称性を利用する例
図19は、第二閉曲面19内において、聴取者から距離R_hm離れた場所を回転しながら移動する仮想的な音像を作成する例を示す模式図である。
図19において第二閉曲面19は、例えば8個の再生用スピーカ36A、36B、36C、36D、36E、36F、36G、36Hによって形成され、これらの再生用スピーカ36(A〜H)の内側が聴取位置となる。
このように配置されている再生用スピーカ36(A〜H)に供給する音声信号に対して、畳み込む伝達関数を変更することにより、例えば足音などの音像を回転移動させることができる。
この図に示す例では、仮想音像を回転させる位置として、例えば第一閉曲面10と同心円となる半径R_hmとされる円周を例えば32分割した、仮想位置VHm1、VHm2、VHm3・・・までの各位置とする。つまり、測定環境では、これらの仮想位置VHm(1〜32)に対応した位置に測定用マイク4を配置して、伝達関数Hの測定を行うものとなる。そして、この32箇所に対応した伝達係数Hを切り替えて用いることで、再生用スピーカ36(A〜H)から出力される音声によって音像が回転する音場を再現する。
なお、例えば仮想位置VHm1のように、末尾に奇数の符号が付されている位置は測定環境1における測定用マイク4、及び再現環境11における再現用スピーカ8と同一半径の位置とし、例えば仮想位置VHm2のように、末尾に偶数の符号が付されている位置は測定用マイク4、再現用スピーカ8の間に対応した半径位置とされている。
【0047】
再生用スピーカ36(A〜H)に供給する音声信号は、例えば図20に示されている音声信号処理装置40によって生成される。
音声再生部41によって再生された音声信号SVは、測定スピーカ逆特性処理部42を介して、演算部43に供給される。演算部43(a〜h)は、供給された音声信号SVに対して、伝達関数TA〜THに基づく所要の演算処理を行い、再生信号SVa、SVb、SVc・・・、SVhを出力する。そして、出力された再生信号SV(a〜h)は、再生用スピーカ36(A〜H)に供給される。
【0048】
演算部43において用いられる伝達関数T(A〜H)は、測定環境1における伝達関数H、及び再現環境11における伝達関数Gに基づいて求められる。但し、伝達関数Hについては、図17で説明した例と同様にして第一閉曲面10の円の対称性を利用することができる。すなわち、測定スピーカ3を、例えば仮想位置VHm1、VHm2に対応させて2回の測定を行い、この2箇所の測定によって得られた伝達関数Hを転置して代用することが可能となる。これにより、式3に示した行列Hを求めることができる。
また、伝達関数Gについては、図示しない再現環境において、再生用スピーカ36(A〜H)に対応した位置に測定用マイクを配置して、仮想位置VHm(1〜32)に対応した位置に配した再現用スピーカから出力される再現信号に基づいて求めればよい。
【0049】
演算部43ではこのようにして求められた伝達関数T(A〜H)に基づいて再生信号SVに演算処理を行うが、音像位置コントローラ44では、仮想位置VHm1、VHm2・・・を想定して、伝達関数T(A〜H)を制御することで、例えば図19に示したように第二閉曲面19内において音像の仮想位置を回転させることができるようになる。
【0050】
なお、以上説明してきた実施の形態においては、第一閉曲面10が円形となる例を挙げたが、必ずしも円形である必要はない。すなわち、閉曲面の外周上で複数の測定用マイク4をその外側に向けて測定を行うことができるようにされていればよい。但し、対称性を利用して測定回数を減らす場合などは、第一閉曲面は例えば円形または正多角形であることが必要となる。
【0051】
また、第一閉曲面10に配置される測定用マイク4の数は、本実施の形態で説明した数に限定されるものではない。したがって、測定環境1における測定データ(伝達関数)のデータ量を増やして、第一閉曲面10の内側の音圧分布をできるだけ正確なものにする場合は、できるだけ多くの測定用マイク4を配置すればよい。
【0052】
さらに、第一閉曲面10の面積(本実施の形態では半径)については、例えば第一閉曲面10、12の外周が、第二閉曲面14、19の外側となるようにされていればよい。
【0053】
また、測定用マイク4(a〜p)、測定用マイク13(A〜E)は、例えば指向性マイクとして説明したが、指向性マイクとはしない場合でも、例えば複数の無指向性マイクを用いてそれらの出力に対して遅延あるいは減算処理などをして相応の効果を得ることができればよい。
【0054】
また、行列G2に関しては、再現環境11における測定を行わずに、幾何学的な構図に基づいて振幅や遅延特性などを用いるようにしてもよい。
また、第一閉曲面10を本実施の形態で説明したように例えば円形で構成した場合、第一閉曲面10における或る軸に関して対称となる一方側の伝達関数を他方側に転用することも可能である。例えば図1に示されているように、測定用マイク4bに対する伝達関数をHbとした場合、この伝達関数Hbを測定用マイク4aを軸として対称的な位置に配されている測定用マイク4pと共通化することが可能になる。
同様に第二閉曲面14においても、例えば図4に示されているように再現用スピーカ8bから測定用マイク13Aに対する伝達関数G2Aとした場合、この伝達関数G2Aを再現用スピーカ8pから測定用マイク13Aと共通化することができる。
【0055】
また、上記実施の形態では第一閉曲面、第二閉曲面ともに例えば平面上を想定した例を挙げたが、立体的な閉曲面上に測定用マイクを配置することで、立体的に音場の再現を行うことも可能である。
【0056】
さらに、インパルス応答の測定時、また伝達関数を求める場合において、第一閉曲面内、第二閉曲面内の音圧分布近似を、対象となる音場における仮想スピーカを音源とした音圧分布により近づけるために、上記式1に示した行列に対して、さらに正方行列で示される補償処理を施すようにしてもよい。この補償処理は、音圧分布の近似を行うために十分ではない数のスピーカ、マイクロホンを使う場合や、スピーカ、マイクロホンの指向性などを補償するための処理となる。
【0057】
5.カーオーディオシステム
次に、本発明をカーオーディオシステムに適用する場合の例を説明する。
この例では、図21に示されているように自動車50の室内に配置される再生用スピーカ51(a〜j)によって、例えば自動車50の前方に配置されていることを想定したスピーカ52L、52R(後述する測定用スピーカに相当する)から、ステレオ音声が再生されている環境を室内にいる聴取者に対して与えることができるようにすることを目的としている。
このため、図22に示されている測定環境53においては自動車50の例えば外観を囲むことができるような立体(本実施の形態では直方体)を想定し、この立体を第一閉曲面55として、その外周上に例えば21個の測定用マイク56a〜56uを配置している。測定用マイク56(a〜u)の指向性の主軸は、矢印で示されているように第一閉曲面55の中心から、当該第一閉曲面55を形成する面における法線方向外向き発散する延長方向に対応させる。なお、測定用マイク56(a〜u)の配置位置が前記面上ではなく、2以上の面に接する線、または点であれば接している前記面上の各法線方向のベクトル和として、指向性の主軸の向きを定めることとする。
【0058】
測定用スピーカ52L、52Rからは第一閉曲面55に対して自動車50の前方を想定した位置に配置され、測定用スピーカ52Lからは左音声用の測定音声、また測定用スピーカ52Rからは右音声用の測定音声を出力することができるようにされている。そして、測定用スピーカ52L、52Rから出力される測定音声によって測定用マイク56(a〜u)までの伝達関数Hを求めて保持しておく。
すなわち、測定用スピーカ52Lから測定用マイク56(a〜u)までの伝達関数はHLa〜HLu、そして、測定用スピーカ52Rから測定用マイク56(a〜u)までの伝達関数はHRa〜HRuとなる。
【0059】
図23は、例えば無響室などの再現環境60において測定環境53を再現する例を説明する模式図である。
図示されている再現環境60に形成される第一閉曲面61は、測定環境53における第一閉曲面55に対応しており、同等の立体を想定したものとされている。再現用スピーカ62a〜62uは第一閉曲面61上に配置されるが、その配置位置は第一閉曲面55における測定用マイク56(a〜u)に対応した位置とされる。なお、この図では再現用スピーカ62a〜62uに関して、その配置位置のみを示しているが、第一閉曲面61の中心に対向するように配置される。そして、再現スピーカ62(a〜u)に、伝達関数HLa〜HLu、または伝達関数HRa〜HRuに基づく演算処理を施された再現信号を供給することで、第一閉曲面61内のいずれの聴取位置においてもその外側に、第一閉曲面55の外側と同等の音場感を再現することができる。
【0060】
第一閉曲面61内には、自動車50室内の再生用スピーカ51(a〜j)に対応した位置に、測定用マイク65(a〜j)を配置する。これらの測定用マイク65(a〜j)の配置位置を結ぶことによって形成される閉曲面が第二閉曲面70となる。そして、これらの測定用マイク65(a〜j)の指向性の主軸は、図22に示した測定用マイク56(a〜u)と同様に、第二閉曲面70を形成する面における法線方向外向き発散する延長方向に対応させる。
このように、再現環境60を構築して、再現用スピーカ62(a〜u)から伝達関数HLa〜HLuに基づく演算処理を施した再現信号を出力して測定用マイク65(a〜j)で測定することで、測定用スピーカ52Lに対応した伝達関数GLa〜GLjを求めることができる。同様に、再現用スピーカ60(a〜u)から伝達関数HRa〜HRuに基づく演算処理を施した再現信号を出力して測定用マイク65(a〜j)で測定することで、測定用スピーカ52Rに対応した伝達関数GRa〜GRjを求めることができる。
【0061】
図24は、測定環境53、再現環境60で求められた伝達関数に基づいて自動車50室内に設置されている再生用スピーカ51(a〜j)に供給する再生信号を生成する音声信号処理装置80の構成例を説明する図である。この音声信号処理装置80は、カーオーディオシステムの一部として構成される。
音声再生部81からは、例えば2チャンネルステレオとされる音声信号SL、SRが出力される。これらの音声信号SL、SRは、それぞれ測定スピーカ逆特性処理部82L、82Rを介して、演算部83(83L、83R)に供給される。演算部83Lでは、音声信号SLに対して伝達関数HLa〜HLuに基づく演算処理、また演算部83Rでは伝達関数HRa〜HRuに基づく演算処理が行われる。
【0062】
演算部83L、83Rによって伝達関数HLa〜HLu、HRa〜HRuに基づく演算処理を施された音声信号は、それぞれ演算部85(85L、85R)に供給され、演算部85Lでは、伝達関数GLa〜GLjに基づく演算処理、また演算部85Rでは伝達関数GRa〜GRjに基づく演算処理が行われる。
そして、演算部83L、83Rによって伝達関数GLa〜GLj、GRa〜GRjに基づく演算処理を施された音声信号は、加算部87で加算されて、再生用スピーカ51(a〜j)に供給される再生信号SCa、SCb、SCc・・・、SCjが生成される。この加算部87における加算処理は、同一の添え字(アルファベット小文字)が付された伝達関数に基づく演算処理を施された音声信号同士を加算するようにされる。
【0063】
このような演算処理を行って得られた音声信号SC(a〜j)を再生用スピーカ51(a〜j)に供給することで、図21に示した自動車50の室内において、この室内にはない仮想スピーカ51L、51Rの位置に仮想音像を知覚することができるようになる。
【0064】
また、演算部83において演算に用いられる伝達係数HLa〜HLuを、例えば著名なコンサートホールや映画館など複数の測定環境で測定して記憶しておくことで、仮想音像の音場を選択することも可能である。この場合、演算部83に対して音場コントローラ84を備え、必要に応じてメモリ84aに記憶されている伝達関数を選択して演算処理に用いるようにすればよい。
同様に、演算部85において演算に用いられる伝達係数GLa〜GLuを、複数種類の再生用スピーカの配置状態(配置数、配置位置など)に対応させて測定して記憶しておくことで、再生用スピーカ51(a〜j)の配置状態に対応することも可能である。この場合、演算部85に対して再生用スピーカセッティングコントローラ86を備え、必要に応じてメモリ86aに記憶されている伝達関数を選択して演算処理に用いるようにすればよい。これにより、自動車50の室内における再生用スピーカ51(a〜j)の複数種類の配置状態に対応させた再生信号SC(a〜j)を生成することができるようになる。
このような、伝達関数の選択は、選択手段として操作部88を備え、例えば聴視者が選択することができるようにしてもよい。
【0065】
このように、測定環境の残響音場特性と再生用スピーカの配置状態を独立して設定することができるので、新車種による新しいスピーカ配置状態が提供された場合でも、無響室などの再現環境において、その配置状態に対応した伝達関数を求めればよい。
したがってメモリ84a、86aに記憶される伝達関数は、更新することができるようされる。更新の方法としては、例えばディスクなどの記録媒体に記録されている伝達関数を読み込むことができるようにしてもよいし、或いは例えば所要の通信手段を備え、ネットワークを介してダウンロードすることができるようにしてもよい。そして、メモリ84a、86aには、それぞれの伝達関数に対応するインパルス応答データが記憶するようにしてもよい。
【0066】
なお、本発明は、例えば家庭の部屋などや、カーオーディオシステムにおいて音声の再生を行う以外にも、例えば臨場感、没入感を与えるアミューズメント、ゲームのようなバーチャルリアリティー産業機器に適用することもできる。
【0067】
【発明の効果】
以上、説明したように本発明は、測定環境の音場に基づいて第一の伝達関数を求め、さらに再現環境において前記第一の伝達関数に基づく演算処理を施された音声信号を再生することで、前記再現環境において前記測定環境の音場(例えば残響、音像定位)を再現することができるようにしている。さらに、前記再現環境において、測定環境と同等の音場条件で再生環境に配置される再生用スピーカに対応した第二の伝達関数を求めることができる。
したがって、前記第二の伝達関数は再現環境で求めることができるので、前記測定環境における測定回数を削減することができる。さらに、前記再生用スピーカの新規の配置状態に対応する場合でも、前記再現環境において前記第二の伝達関数を求めることが可能になる。
【0068】
また、前記第一の伝達関数を求めるための第一閉曲面の等方位性、対称性を利用して、前記第一の伝達関数を所定の規則で転置して利用することができるようにしている。つまり、前記第一閉曲面からみた或る位置を想定した仮想スピーカから求めた伝達関数を、他の位置を想定した仮想スピーカから求めた伝達関数として利用することができるようになる。したがって、前記第一の伝達関数を求めるための測定作業回数を削減することができるようになる。
【0069】
また第一の伝達関数と第二の伝達関数を個々に管理することができるようにしているので、測定環境の音場と再生用スピーカの配置状態を、独立して選択することができる。したがって、測定環境の音場と再生用スピーカの配置状態を個々に更新、追加することも可能となる。
さらに、第一の伝達関数と第二の伝達関数を個々に管理する場合に、前記第一、第二の伝達関数を所定の規則で転置して利用することができるようにすることで、前記第一、第二の伝達関数を記憶しておく記憶手段の容量を小さくすることができるようになる。
【図面の簡単な説明】
【図1】本発明の本実施の形態の音声再生システムにおける測定環境について説明する図である。
【図2】本実施の形態の音声再生システムにおける再現環境における再現音声の再生系について説明する図である。
【図3】再現環境について説明する図である。
【図4】再現環境の第一閉曲面の内側においてインパルス応答を測定する例を説明する図である。
【図5】再現環境の第一閉曲面の内側においてインパルス応答を測定する例を説明する図である。
【図6】再現環境における仮想スピーカの伝達関数について説明する図である。
【図7】再生環境における5チャンネルステレオ音声の再生系について説明する図である。
【図8】再生環境における再生用スピーカの配置を説明する図である。
【図9】再生環境において第二閉曲面内を聴取位置とした場合の残響音場、及び音像定位を説明する図である。
【図10】再生環境の第一閉曲面において伝達関数Gを求める例を説明する図である。
【図11】再生環境において測定環境の音場を再現する場合の手順を説明するフローチャートを示す図である。
【図12】伝達関数Hと伝達関数Gを個別に管理して行列演算を行う場合の手順を説明するフローチャートを示す図である。
【図13】5チャンネルステレオの再生環境を説明する図である。
【図14】5チャンネルステレオの信号D(A〜E)に伝達関数T(A〜E)に基づく演算処理を行う音声信号処理装置の構成例を説明する図である。
【図15】測定環境としての映画館においてスピーカから測定用マイクまでの伝達関数を説明する図である。
【図16】再生環境において再現される測定環境の残響、及び音像定位について説明する図である。
【図17】仮想スピーカと再現用スピーカの位置関係を説明する図である。
【図18】測定環境の壁からの反射情報の回転を説明する図である。
【図19】第二閉曲面内において移動する仮想的な音像を作成する例を示す模式図である。
【図20】仮想的な音像を移動させる音声信号を生成する音声信号処理装置の構成例を説明する図である。
【図21】自動車の室内に配置される再生用スピーカを説明する図である。
【図22】測定環境において自動車の例えば外観を囲むことができるような立体を想定した第一閉曲面を示す図である。
【図23】再現環境において図22に示した測定環境を再現する例を説明する図である。
【図24】伝達関数に基づいて自動車室内に設置されている再生用スピーカに供給する再生信号を生成する音声信号処理装置の構成例を説明する図である。
【図25】サンプリングリバーブ方式について説明する図である。
【図26】測定用スピーカから出力される測定用音声の説明図である。
【図27】測定環境で求めた伝達関数を用いて音声信号の生成を行う例を説明する図である。
【符号の説明】
1,55 測定環境、2 測定信号再生手段、3,52(L、R) 測定用スピーカ、4(a〜p),13(A〜E),56 測定用マイク、5,15,22,40,80 音声信号処理装置、6,16,23,41,81 音声再生部、7(a〜p),17(a〜e),24,26,28,30,32,43(a〜h),83(83L,83R),85(85L、85R) 演算部、8(a〜p),36,62 再現用スピーカ、10,12,61 第一閉曲面、11,60 再現環境、13(A〜E),65 測定用マイク、14,19,70 第二閉曲面、18,51 再生用スピーカ(A〜E)、20 スピーカ、21 映画館、25,27,29,31,33,87 加算部、35 仮想スピーカ、42 82(L,R) 測定スピーカ逆特性処理部、44 音像定位コントローラ、50自動車、84 音場コントローラ、84a,86a メモリ、再生用スピーカセッティングコントローラ[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an audio signal processing method and an audio signal processing device.
[0002]
[Prior art]
For example, when viewing contents such as movies and music, reverberation is added to give the reproduced sound a sense of reality.
As the reverberation adding process, a so-called digital reverb method is known. This digital reverb system generates a lot of delay information, which is a random delay time with respect to the original sound, and further reduces the volume as the delay time becomes longer, or applies feedback at places where the delay time is longer to reduce the reverberation time. Signal processing such as taking a long time is performed. As a result, a reverberation effect can be artificially generated for the original sound. However, since the parameters for generating the delay information are set based on the audibility of the operator who sets the parameters, this setting work is complicated. In addition, there is no concept of localizing the original sound because it artificially creates reverberation, and it is not excellent in reproducing the sound field.
[0003]
For example, a sampling reverb method is known as a method for actually measuring an impulse response in a sound field space and obtaining a reverberation effect based on spatial information such as localization of a sound source.
In this sampling reverb system, for example, as shown in FIG. 25, a measurement speaker 91 or the like is arranged as a sound source in a measurement environment (measurement sound field) 90 such as a hall. Then, an impulse response measurement audio signal TSP such as a time stretched pulse is supplied to the measurement speaker 91, and one or a plurality of measurement microphones 92a and 92b arranged at required positions in the same sound field. , 92c, and 92d are caused to input measurement sound output from the measurement speaker 91. In this case, as indicated by an arrow in FIG. 26, the measurement microphone 92a can detect the direct sound from the measurement speaker 91 and the reflected sound output from the measurement speaker 91 and reflected in the measurement environment. it can. Although not shown, the same applies to the measurement microphones 92b, 92c, and 92d.
Then, the impulse response measuring device 93 performs necessary signal processing on the sound signal waveform input from the measurement microphone 92 (ad), so that the impulse response including the reverberation of the measurement environment 90 (measured from the measurement speaker) is performed. To the transfer microphone). In this figure, the transfer functions corresponding to the respective measurement microphones 92 (a to d) are Hfl, Hfr, Hbl, and Hbr, respectively.
[0004]
Thus, when producing | generating an audio | voice signal using the transfer function calculated | required in the measurement environment 90, it carries out as FIG. 27 shows, for example.
As shown in the figure, reproduction speakers 101a, 101b, 101c, and 101d are arranged in a reproduction environment 100 such as a home room, and contents are reproduced by the audio reproduction means 102 for each of the reproduction speakers 101 (a to d). The playback signal is supplied. Then, by convolving impulse responses corresponding to the transfer functions Hfl, Hfr, Hbl, and Hbr to the audio signals reproduced by the audio signal reproducing unit 102, and supplying them to the reproduction speakers 101 (a to d), A reverberation effect similar to that of the measurement environment 90 can be obtained in the reproduction environment 100. As described above, the sampling reverb method uses an actually measured transfer function, so that it is excellent in the reproducibility of the sound field during reproduction, and the sound image localization in the reproduced sound field becomes clear.
[0005]
Further, when the arrangement positions of the measurement microphones 92 (a to d) in the measurement environment 90 and the reproduction speakers 101 (a to d) in the reproduction environment 100 are geometrically associated with each other, the reproduction speakers in the reproduction sound field can be obtained. In the enclosed area (within the closed curved surface), the sound source localization (sound image localization) of the measurement sound field is clearly reproduced. That is, in addition to obtaining a reverberation effect, it is also possible to reproduce the sound field of the measurement environment 90.
[0006]
In addition to the sampling reverb method described above, the method of actually using the measurement data of the sound field space includes, for example, a proximity four-point method that obtains a reverberation effect by analyzing a reflection component that looks like a virtual sound source. Are known.
The proximity four-point method is a method in which impulse response is measured at four points that are not on the same plane, and the spatial position information and the magnitude of the sound source are calculated. According to the proximity four-point method, the impulse response at an arbitrary position in the measured sound field space can be calculated from the spatial information of the sound source and the size and position of the sound source. Therefore, reverberation addition equivalent to that of the measured sound field space can be realized by convolving the impulse response thus obtained with the audio signal.
However, this proximity four-point method is originally a technique for analysis. For this reason, when artificially creating the spatial information of the sound source from which the impulse response is measured and the size and position of the sound source, it is necessary to limit the size and number of the sound sources with arbitrary threshold values. Therefore, the quality of reproducing the sound of the sound field space is not high compared to the sampling reverb method. However, since the impulse response at an arbitrary point in the measured sound field space can be obtained by arithmetic processing, there is an advantage that it is possible to flexibly cope with the arrangement and number of speakers in the reproduction environment. is doing.
[0007]
[Problems to be solved by the invention]
By the way, recently, there is an increase in content in which audio is constituted by audio signals of multiple channels (3 or more channels). Therefore, for example, in a reproduction environment such as a home, a system that reproduces sound using three or more reproduction speakers is widespread.
However, in such a reproduction system, when the measurement environment is reproduced by, for example, the sampling reverb method, the transfer function is obtained in consideration of the number and arrangement (installation state) of the reproduction speakers 101 (ad) in the reproduction environment 100. There must be. Therefore, in the measurement environment 90, it is necessary to perform measurement assuming a plurality of reproduction systems used in the reproduction environment 100 while changing the number and arrangement of the measurement microphones 92 (ad). In addition, when a new reproduction system having a different installation state of the reproduction speakers 101 (a to d) is constructed, it is necessary to perform measurement corresponding to the reproduction system each time.
For this reason, costs and time required for measurement are wasted in a measurement environment (for example, a hall).
[0008]
Therefore, it is desired to be able to reproduce the reverberation characteristics of the measurement sound field flexibly with respect to the installation state of the reproduction speaker.
[0009]
[Means for Solving the Problems]
In order to solve such a problem, the present invention provides a first sound generation step of sounding a first sound from a first sound source arranged outside the first closed surface, and the first closed surface A first measurement step of measuring the voice signal of the first voice at a plurality of positions above, and the first sound source from the first sound source based on the voice signal measured by the first measurement step A transfer function generating step for generating a first transfer function corresponding to each of the plurality of positions on the closed surface, and a second geometrically equivalent position to the plurality of positions on the first closed surface. A second sound generation step of generating a second sound based on the first transfer function, and a plurality of sound generators on the second closed surface arranged inside the first closed surface A second measurement step of measuring the audio signal of the second audio at a position of A transfer function generation step for generating a second transfer function corresponding to each of the plurality of positions on the second closed surface from the second sound source based on the audio signal measured by the determination step; An audio signal obtained by performing arithmetic processing based on the second transfer function to obtain an audio signal, and audio that outputs the audio signal obtained based on the second transfer function by the arithmetic step An audio signal processing method is configured including a signal output step.
[0010]
Furthermore, as an audio signal processing method, a first sound generation step of generating a first sound from a first sound source arranged outside the first closed curved surface, and a plurality of positions on the first closed curved surface A first measurement step of measuring the voice signal of the first voice, and the voice signal measured by the first measurement step from the first sound source on the first closed curved surface. A transfer function generation step for generating a first transfer function corresponding to each of a plurality of positions, and a second sound source is disposed at a position geometrically equivalent to the plurality of positions on the first closed curved surface A second sound generation step for generating a second sound based on the first transfer function, and a plurality of positions on a second closed curved surface arranged inside the first closed curved surface. A second measuring step for measuring a second voice signal; and the second measuring step. A transfer function generating step of generating a second transfer function corresponding to each of the plurality of positions on the second closed curved surface from the second sound source based on the sound signal measured by Obtained by performing a first calculation step on the signal based on the first transfer function and a calculation process based on the first transfer function in the first calculation step Obtained by performing a second computation step on the audio signal based on the second transfer function and a signal processing based on the second transfer function in the second computation step. A voice signal output step of outputting the voice signal.
[0011]
In addition, as an audio signal processing device, a storage unit that stores a transfer function, an arithmetic processing unit that performs an arithmetic process based on the transfer function stored in the storage unit for the input audio signal, and the arithmetic process Output means for outputting the sound signal obtained by the means, wherein the transfer function is a first from a virtual sound source position where the sound signal is to be reproduced and localized to a first plurality of positions on the first closed curved surface. And a plurality of second positions on a second closed surface arranged on the inside of a closed surface geometrically equivalent to the first closed surface from each of the first plurality of positions. It is set as the transfer function calculated | required based on the 2nd transfer function until.
[0012]
Furthermore, as the audio signal processing device, the first storage unit that stores the first transfer function, the second storage unit that stores the second transfer function, and the input audio signal, First arithmetic processing means for performing arithmetic processing based on a first transfer function stored in one storage means, and the second storage for the audio signal obtained by the first arithmetic processing means. Second arithmetic processing means for performing arithmetic processing based on the second transfer function stored in the means, and output means for outputting the audio signal obtained by the second arithmetic processing means, The transfer function is a transfer function from a virtual sound source position where the sound signal is to be reproduced and localized to a first plurality of positions on the first closed curved surface, and the second transfer function is the first transfer function. Closed geometrically equivalent to the first closed curved surface from each of a plurality of positions. A second transfer function to the plurality of positions in the second closed surface on which is disposed on the inner surface.
[0013]
According to the present invention, the reproduction environment is obtained by obtaining the first transfer function based on the sound field of the measurement environment, and further reproducing the audio signal signal-processed based on the first transfer function in the reproduction environment. The sound field of the measurement environment (for example, reverberation, sound image localization) can be reproduced. Furthermore, in the reproduction environment, a second transfer function corresponding to a reproduction speaker arranged in the reproduction environment can be obtained under a sound field condition equivalent to that in the measurement environment.
Therefore, after obtaining the first transfer function in the measurement environment, the second transfer function corresponding to the reproduction speaker can be obtained in the reproduction environment, and the work efficiency in the measurement environment is improved. be able to.
[0014]
Also, by separately obtaining the first transfer function and the second transfer function and managing them separately, the sound field of the measurement environment and the arrangement of the measurement playback speakers in the reproduction environment can be selected independently. Become.
[0015]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described in the following order.
1. Reproduction of one virtual speaker 2. Reproduction of multiple virtual speakers Example 4 using circular symmetry 4. Example of using circular symmetry in movement of virtual sound source Car audio system [0016]
In this specification, unless otherwise specified, “calculation processing based on a transfer function” for an audio signal means that an impulse response corresponding to the transfer function is subjected to convolution integration processing on the audio signal, It is assumed that the audio signal is converted into the frequency domain and multiplied by the transfer function. The former process can be realized as, for example, an FIR (finite impulse response) filter, and the latter can be realized by performing an FFT (fast Fourier transform) operation.
[0017]
1. Reproduction of one virtual speaker FIG. 1 is a schematic diagram for explaining a measurement environment in the sound reproduction system of the present embodiment.
For example, in the measurement environment 1 that is a hall or the like, for example, the measurement microphones 4a, 4b, 4c, 4d, 4e, 4f, 4g are arranged on the circumference having the radius R_bnd at a position that is not close to the wall of the measurement environment 1. 4h, 4i, 4j, 4k, 4l, 4m, 4n, 4o, 4p are arranged. In the present embodiment, a circumference having a radius R_bnd where the measurement microphones 4 (ap) are arranged is shown as a first closed curved surface 10 serving as a first sound field.
Each measurement microphone 4 (ap) has its directivity directed outward in the normal direction of the first closed curved surface 10. In the following description of the present specification, the arrow shown on the microphone indicates the directivity.
Further, the measurement speaker 3 is disposed as a sound source at a position having a radius R_sp from the center of the first closed curved surface 10. For example, the measurement signal TSP is supplied from the measurement signal reproducing means 2 to the measurement speaker 3. Since the measurement speaker 3 is provided to reproduce a virtual speaker in a reproduction environment, which will be described later, it is desirable that the directivity and the frequency characteristics assume an audibility to the listener in the reproduction environment.
[0018]
In the measurement environment 10, the measurement signal TSP is supplied to the measurement speaker 3 so that the measurement sound output from the measurement speaker 3 is input to each measurement microphone 4 (ap). FIG. 1 schematically shows a voice path from the measurement speaker 3 to the measurement microphone 4a.
The sound signal of the sound detected by each measurement microphone 4 (ap) is supplied to an impulse response measurement device (not shown), and the impulse corresponding to each measurement microphone 4 (ap) from the measurement speaker 3 Measure the response. The impulse response may be about 5 to 10 seconds for a large hole or the like, but may be shorter in a small hole or a hole with little sound. By this measurement, a transfer function based on this impulse response can be obtained. That is, FIG. 1 shows a voice path when the transfer function Ha corresponding to the measurement microphone 4a is obtained. Although not shown, transfer functions Hb to Hp corresponding to the measurement microphone 4b to the measurement microphone 4p can be obtained. The impulse response measurement may be performed for each measurement microphone, or may be performed simultaneously for all the measurement microphones 4 (ap). Further, the measurement signal is not limited to the TSP signal, and pseudo random noise, a music signal, or the like may be used. In the following description, the transfer function from the measurement speaker to the measurement microphone in the measurement environment is “H”.
[0019]
In this way, in the measurement environment 10, the transfer functions Ha, Hb, Hc, Hd..., Hp corresponding to the respective measurement microphones 4a, 4b, 4c, 4d. By using these transfer functions Ha to Hp, the measurement environment 1 can be reproduced in an environment (reproduction environment) other than the measurement environment 1.
First, referring to FIG. 2, a reproduction system of reproduced sound in a reproduction environment will be described.
In the reproduction signal generation device 5, the sound reproduction unit 6 can output an arbitrary sound signal S, for example. The audio signal S output from the audio reproduction unit 6 is supplied to the calculation units 7a, 7b, 7c, 7d..., 7n, 7o, 7p. The calculation unit 7 (ap) performs a required calculation process on the supplied audio signal S and performs a calculation process based on the transfer functions Ha to Hp obtained in the measurement environment 1. As a result, the reproduction unit SHa, SHb, SHc, SHd..., SHn, SHo, SHp in which the impulse response corresponding to the transfer function is convoluted with the audio signal S from the arithmetic unit 7 (ap). Is output. Each reproduction signal SH (ap) is supplied to reproduction speakers 8a, 8b, 8c, 8d..., 8n, 8o, 8p arranged in the reproduction environment. Therefore, each reproduction speaker 8 (ap) outputs sound based on the reproduction signal SH (ap) based on the transfer function H (ap) in the measurement environment 1.
[0020]
FIG. 3 is a schematic diagram for explaining the reproduction environment.
The reproduction environment 11 is, for example, an anechoic room or a studio with little reverberation.
Then, the reproduction speaker 8 (ap) shown in FIG. 2 is arranged in the reproduction environment 11. In this case, the reproduction speaker 8 (ap) corresponds to the arrangement position of the measurement microphone 4 (ap) shown in FIG. 1 and is on the outer periphery of the first closed curved surface 12 formed with the radius R_bnd. Arranged toward the inside. That is, the reproduction speakers 8 (ap) and measurement microphones 4 (ap) with the same subscript (alphabet) correspond to each other.
The first closed curved surface 10 in the measurement environment 1 and the first closed curved surface 12 in the reproduction environment 11 are equivalent closed curved surfaces formed with the same radius, but are given different reference numerals for convenience.
Then, by supplying the reproduction signals SH (ap) to the reproduction speakers 8 (ap), the listener inside the first closed curved surface 12 can use the measurement speakers 3 shown in FIG. It can be felt that the sound field when the audio signal S is reproduced is reproduced on the outside of the first closed curved surface.
[0021]
Here, when there is no sound source in a certain closed curved surface, in order to accurately reproduce the sound field in another place, the sound pressure and normal direction of the outer periphery of the closed curved surface are reproduced between the original sound field and the reproduced sound field. It is known that the particle velocities need to be matched (refer to “Literature: Electronic systems and digital processing” edited by the Institute of Electronics, Information and Communication Engineers (Corona)). Specifically, a large number of omnidirectional microphones that are paired on a closed curved surface are installed, and calculation processing is performed to measure sound pressure and particle velocity at each point. For this reason, a large number of measurement microphones are installed outward in the normal direction on the first closed curved surface 10, and a large number of reproduction speakers are arranged at positions corresponding to these measurement microphones on the first closed curved surface 12. Thus, when the inside of the first closed curved surface 12 is set as the viewing position, the listener can obtain the same localization feeling and reverberation feeling as in the measurement environment 1, and the measurement is not in the reproduction environment 11. A virtual sound image can be perceived at the position of the speaker 3 for use. In other words, at any listening position inside the first closed curved surface 12, a sound field feeling equivalent to that of the measurement environment 1 can be obtained outside.
However, as described above, it is difficult to actually realize that a very large number of microphones and a large number of reproduction speakers are required. Therefore, the inventor of this application pays attention to the fact that sound pressure and particle velocity components are included in the output of a directional microphone, for example, a unidirectional microphone, and a limited number of directional microphones and a corresponding number of them. Experiments have confirmed that almost the same acoustic effect can be obtained with the reproduction speaker.
[0022]
In this manner, the sound field in the measurement environment 1 such as a hall can be reproduced in the reproduction environment 11 that is an anechoic chamber or the like. Accordingly, as shown in FIG. 1, the measurement of the impulse response in the measurement environment 1 is performed once, for example, and then the measurement environment 1 is set as the reproduction environment 11 by using the measurement data (transfer function) thereafter. In other environments, the sound field of the measurement environment 11 can be simulated at any time.
Thereby, the measurement of the impulse response assuming the measurement environment 1 can be performed in the first closed curved surface 12, and the measurement work in the measurement environment 1 needs to be performed many times. In other words, it is possible to efficiently perform the measurement work in the concert hall that is the measurement environment 1.
[0023]
FIGS. 4 and 5 are schematic diagrams for explaining an example of measuring the impulse response inside the first closed curved surface 12 inside the first closed curved surface 12 of the reproduction environment 11.
In this case, measurement microphones 13A, 13B, 13C, 13D, and 13E are arranged inside the first closed curved surface 12. These measurement microphones 13 (A to E) are arranged so as to correspond to reproduction speakers arranged in a reproduction environment such as a home room. That is, in the illustrated example, a playback system including, for example, a 5-channel playback speaker is assumed. In the present embodiment, the closed curved surface formed with the measurement microphones 13 (A to E) as the outer periphery is referred to as a second closed curved surface 14. Therefore, the inside of the second closed curved surface 14 is the listening position.
Since the second closed curved surface 14 corresponds to the arrangement of the reproduction speakers in the reproduction environment, the second closed curved surface 14 does not necessarily have a circular shape like the first closed curved surfaces 10 and 12. Furthermore, since the second closed curved surface 14 needs to be formed inside the first closed curved surfaces 10 and 12, when performing measurement in the measurement environment 1, the width of the second closed curved surface 14 is taken into consideration. It is desirable to form the closed curved surfaces 10 and 12.
Also, the audio signal output from the measurement microphone 13 (A to E) is supplied to, for example, an impulse response measurement unit (not shown), and the transfer function is obtained by an arithmetic process such as a required phase shift process.
[0024]
For example, as shown in FIG. 4, the transfer function of each measurement speaker 8 (ap) to the measurement microphone 13A is G1A, G2A, G3A... The transfer functions to the measurement microphone 13B are G1B, G2B..., The transfer functions to the measurement microphone 13C are G1C, G2C..., The transfer functions to the measurement microphone 13D are G1D, G2D. The transfer functions to the microphone 13E are G1E, G2E,. In the following description, the transfer function from the reproduction speaker to the measurement microphone in the reproduction environment is “G”.
Further, as shown in FIG. 5, the transfer functions from the measurement speaker 8a to the measurement microphones 13A, 13B, 13C, 13D, and 13E are G1A, G1B, G1C, G1D, and G1E. The transfer functions from 8b to the measurement microphones 13A, 13B, 13C, 13D, and 13E are G2A, G2B, G2C, G2D, and G2E.
Furthermore, the transfer function from the measurement speaker 3 in the measurement environment 1 to the measurement microphone 13 (A to E), which is a virtual sound image, including the transfer function H (a to p) in the measurement environment 1 described above is TA. , TB, TC, TD, TE. In the following description, the transfer function from the measurement speaker in the measurement environment, which is a virtual sound image in the reproduction environment, to the measurement microphone in the reproduction environment is “T”.
[0025]
In this case, the transfer functions TA, TB, TC, TD, and TE can be expressed as shown in Equation 1.
[Expression 1]
Figure 0004465870
That is, as described above, it is considered that the sound field of the measurement environment 1 is reproduced outside the first closed curved surface for the listener inside the first closed curved surface 12 by the transfer function H (ap). The measurement microphone 13 (A to E) of the second closed curved surface 14 shown in FIG. 6 is approximately the same as the situation where the measurement sound is output from the measurement speaker 3 that is a virtual sound image in the reproduction environment 11. become.
Therefore, inside the second closed curved surface 14, the transfer coefficients TA, TB, TC, TD, and TE are equivalent to the transfer function when the measurement sound is output from the measurement speaker 3 in the measurement environment 1.
[0026]
By the way, for example, when N reverberation sound field characteristics in the measurement environment 1 are to correspond to the arrangement state of M kinds of reproduction speakers, the measurement speakers 3 are arranged in N places, and the reproduction speakers are arranged. It is necessary to perform N measurements corresponding to the state. That is, it was necessary to perform N × M measurements. However, in the present invention, the measurement corresponding to the arrangement state of the reproduction speakers is performed in the reproduction environment 11, and therefore, the measurement environment 1 may be performed N times.
In addition, when the types of reproduction speaker arrangement states are increased, it is necessary to perform measurement in the N measurement environments 1 when reproducing the N measurement environments 1 corresponding to the arrangement states. . Therefore, when the number of measurement positions (N locations) in the measurement environment 1 is large, it is a difficult task. However, in the present invention, if transfer functions are obtained in the measurement environments 1 at N locations, a reproduction speaker is used. The measurement may be performed in the reproduction environment 11 each time the number of arrangement states increases. Therefore, even when dealing with the arrangement state of the new reproduction speaker, it is not necessary to go to N measurement environments, and an efficient measurement operation can be performed.
[0027]
Next, based on the transfer functions TA, TB, TC, TD, and TE obtained in the reproduction environment 11, an example of reproducing, for example, 5-channel stereo sound in a reproduction environment such as a home room will be described. .
First, referring to FIG. 7, a 5-channel stereo sound playback system in a playback environment will be described.
In the playback device 15, the audio playback unit 16 can play back an audio signal in content recorded on a recording medium such as a disc. The audio signal S output from the audio reproduction unit 16 is supplied to the calculation units 17a, 17b, 17c, 17d, and 17e. The calculation unit 17 (a to e) performs a required calculation process on the supplied audio signal S, and performs a calculation process based on the transfer functions TA, TB, TC, TD, and TE obtained in the reproduction environment 11. Do. As a result, the reproduction signals STA, STB, STC, STD, and STE obtained by performing arithmetic processing on the audio signal S based on the transfer function are output from the arithmetic unit 17 (a to e). Each reproduction signal ST (A to E) is supplied to reproduction speakers 18A, 18B, 18C, 18D, and 18E. Therefore, each reproduction speaker 18 (A to E) outputs sound based on the reproduction signals STA, STB, STC, STD, and STE based on the transfer function T (A to E).
[0028]
The reproduction speakers 18 (A to E) in the reproduction environment are arranged at required positions on the second closed curved surface 19 as shown in FIG. The first closed curved surface 19 and the first closed curved surface 12 in the reproduction environment 11 are equivalent closed curved surfaces, but different reference numerals are attached for convenience.
As described above, the reproduction speakers 18 (A to E) are arranged on the second closed curved surface 19 so as to face the inside thereof, and the sound based on the reproduction signals STA, STB, STC, STD, and STE is output. For a listener who is inside the two closed curved surface 19, a sound field equivalent to the sound field by the reproduction speaker 8 (ap) arranged on the first closed curved surface 12 indicated by a broken line can be reproduced. Therefore, when the inside of the second closed curved surface 19 is set as the listening position, a reverberant sound field and sound image localization in the measurement environment 1 can be obtained as shown in FIG. Accordingly, for example, the user can listen to the sound of the content by using a reverberant sound field such as a hall and sound image localization while staying in a home room.
Further, since the present invention obtains the transfer function based on the impulse response actually measured in the measurement environment and the reproduction environment, for example, with a higher quality voice than the method of referring to the analysis result such as the 4-point proximity method. It is possible to reproduce reverberation and sound image localization.
[0029]
Note that the number of playback speakers in the playback environment may vary depending on the configuration of the playback system, and it is not easy to make the arrangement position the same depending on home circumstances. In such a case, conventionally, it was necessary to perform measurement in accordance with the arrangement of the reproduction speakers in the measurement environment. In this embodiment, the transfer function in the measurement environment is used as master data, and thereafter the anechoic chamber is used. Thus, measurement according to the reproduction environment can be performed. That is, it is possible to reduce the fee for use of the hall for performing the measurement and to easily obtain a transfer function corresponding to the reproduction environment.
In addition, even if the measurement environment that has a characteristic reverberation sound field is, for example, in a remote place, it is not necessary to go to the measurement environment if the master data is obtained as described above. Even in this respect, it is possible to efficiently perform measurement in the measurement environment.
[0030]
Furthermore, in the present embodiment, an audio signal processing device is shown as the configuration of the playback device 15, but it is applied to, for example, an AV (Audio Visual) amplifier, a surround processor, or a CD or DVD player used at home or the like. Can do.
[0031]
By the way, as shown in Equation 1, the matrix G and the vector Hv can be separated. Therefore, in the reproduction environment 11, for example, the transfer function T (A to E) can be obtained without taking the measurement method described with reference to FIGS.
For example, data corresponding to the vector Hv (impulse response for obtaining the transfer function H) in the measurement environment is measured as reverberation characteristic data such as a hall. On the other hand, as data corresponding to the arrangement state of the reproduction speakers in the reproduction environment, for example, the transfer function G to the measurement microphone 13 (A to E) in the first closed curved surface 12 as shown in FIG. Separately measured based on the measurement signal TSP. Then, the transfer function T (A to E) can be obtained by Expression 1 using the vector Hv and the matrix G obtained individually.
Therefore, the vector Hv and the matrix G are individually managed in the audio signal processing apparatus so that matrix calculation can be performed as necessary, so that the number of transfer function measurements can be reduced. Furthermore, the reverberation characteristics and the arrangement of the reproduction speakers can be selected independently.
[0032]
In the present embodiment, the measurement speaker 3 is described as a virtual speaker in the reproduction environment in the measurement environment 1, but the source reproduced in the reproduction environment is, for example, a natural sound that is easily perceived by humans. For example, when the sound is composed of one kind of sound, or when the characteristic of the measurement speaker 3 is a characteristic close to flat, the source itself is recognized as a virtual sound image. However, in order to accurately represent the virtual sound image of the source itself, it is more desirable to perform correction including the inverse characteristics of the speaker.
[0033]
FIG. 11 is a flowchart illustrating a procedure for obtaining a transfer function as described above and reproducing the sound field of the measurement environment in the reproduction environment.
First, the measurement sound is output from the measurement speaker 3 on the first closed curved surface 10 of the measurement environment 1 to measure the impulse response (S001), and the transfer function H is obtained based on the measured impulse response (S002). Next, the reproduction sound is output by the sound signal subjected to the calculation process based on the transfer function H in the first closed curved surface 12 of the reproduction environment 11 (S003), and the impulse response of the reproduction sound is output on the second closed curved surface 14. Is measured (S004), and a transfer function G is obtained based on the impulse response measured on the second closed curved surface 14 (S005). Then, when sound is reproduced in the reproduction environment, the reproduced sound reproduction signal is subjected to arithmetic processing based on the transfer function G and output (S006).
As a result, the reverberation effect and sound image localization equivalent to those in the measurement environment can be reproduced in the reproduction environment as shown in FIG.
[0034]
Further, the procedure in the case of performing matrix calculation by separately managing the transfer function H and the transfer function G is as shown in the flowchart of FIG.
Similar to the flowchart shown in FIG. 11, the measurement sound is output from the measurement speaker 3 on the first closed curved surface 10 of the measurement environment 1 to measure the impulse response (S101), and the transfer function is based on the measured impulse response. H is obtained (S102). Then, the measurement speaker 3 is arranged in the reproduction environment 11, the measurement sound is output from the measurement speaker 3 on the first closed curved surface 12, and the impulse response is measured (S 103). A transfer function G is obtained based on the measured impulse response (S104).
When sound is reproduced in the reproduction environment, arithmetic processing based on the transfer function H is performed on the reproduced audio reproduction signal (S105), and further, the audio reproduction signal subjected to arithmetic processing based on the transfer function H Is subjected to arithmetic processing based on the transfer function G (S106).
By such a procedure, the transfer function H and the transfer function G are individually managed and matrix calculation is performed as necessary, so that the reverberation characteristics and the arrangement of the reproduction speakers can be independently selected.
[0035]
2. Reproduction of a plurality of virtual speakers Next, an example of generating a transfer function corresponding to a reproduction system capable of realizing, for example, 5-channel stereo composed of discrete audio signals will be described.
FIG. 13 is a diagram for explaining a reproduction environment of 5-channel stereo.
The reproduction environment shown in this figure is, for example, a wide space such as a movie theater 21, and five speakers 20A, 20B, 20C, 20D, and 20E indicated by solid lines are arranged in order to realize discrete five channels. A center front signal DA, a front right signal DB, a rear right signal DC, a rear left signal DD, and a front left signal DE are supplied to each speaker 20 (A to E), and sound corresponding to each signal is reproduced. . That is, in the movie theater 21 as the reproduction environment shown in this figure, a reverberation effect in a wide space can be obtained.
[0036]
However, in a narrow space such as a home room, for example, it is difficult to arrange the speakers 20 (A to E) at the same interval as the movie theater 21 shown in FIG. It may be arranged as indicated by the broken line. Therefore, in order to construct a sound field in which sound image localization and reverberation effect can be obtained like a movie theater 21 by the reproduction speakers 18 (A to E) on the second closed curved surface 19, the signals D (A to E) are used. May be subjected to arithmetic processing based on the transfer function T (A to E).
[0037]
FIG. 14 is a diagram illustrating a configuration example of an audio signal processing device that performs arithmetic processing based on the transfer function T (A to E) for each signal D (A to E).
The audio signal processing device 22 shown in FIG. 14 outputs a center front signal DA, a front right signal DB, a rear right signal DC, a rear left signal DD, and a front left signal DE as reproduced audio signals from the audio reproducing unit 23. Have been able to.
The signals D (A to E) output from the sound reproduction unit 23 are respectively calculated by calculation units 24 (a to e), 26 (a to e), 28 (a to e), 30 (a to e), and 32. (A to e). For example, in the arithmetic unit 24 (a to e), the transmission coefficient TAA for the center front signal DA, the transmission coefficient TBA for the front right signal DB, the transmission coefficient TCA for the rear right signal DC, and the rear left signal DD. An arithmetic process based on the transmission coefficient TEA is performed on the transmission coefficient TDA and the front left signal DE. Then, the addition signals 25, 27, 29, 31, and 33 add the signals subjected to the arithmetic processing to generate the reproduction signal VA.
[0038]
Incidentally, transfer functions TA (A to E), TB (A to E), TC (A to E), TD (A to E), which are used in the arithmetic units 24, 26, 28, 30, and 32 shown in FIG. TE (A to E) can be obtained by the method described above with reference to FIG.
That is, the speaker 20A shown in FIG. 13 can be made to correspond to the measurement speaker 3 that is a virtual sound image in the reproduction environment shown in FIG. That is, the transfer functions TA, TB, TC shown in FIG. 6 correspond to the transfer functions TAA, TAB, TAC... Shown in FIG.
In this case, the transfer functions TA (A to E), TB (A to E), TC (A to E), TD (A to E), and TE (A to E) are as shown in Equation 2. Can be represented.
[Expression 2]
Figure 0004465870
[0039]
Further, the virtual measurement speaker 3 shown in FIG. 6 is made to correspond to the speaker 20B, speakers 20C, 20D, and 20E shown in FIG. 13, thereby measuring the second closed curved surface 19 from each speaker 20 (B to E). Transfer functions TB (A to E), TC (A to E), TD (A to E), and TE (A to E) between the microphones 13 (A to E) may be obtained. Here, as shown in FIG. 15, in a movie theater 21 as a measurement environment, the transfer function from the speaker 20A to the measurement microphone 4 (ap) is represented by Ha (1-16), and the measurement function from the speaker B to the measurement microphone. 4 (ap) to 4 (ap), the transfer function from the speaker 20C to the measurement microphone 4 (ap) to Hc (1 to 16), the transfer function from the speaker 20D to the measurement microphone 4 ( When the transfer function from a to p) is Hd (1 to 16), the transfer function from the speaker 20E to the measurement microphone 4 (ap) is He (1 to 16), and these transfer functions are matrix H. The matrix T shown in Equation 2 can be expressed as shown in Equation 3.
[Equation 3]
Figure 0004465870
[0040]
By obtaining the transfer function H as shown in Equation 3 and further obtaining the transfer function G as described in FIGS. 4 and 5, for example, the transfer function TA (A to E) is finally obtained. TB (A to E), TC (A to E), TD (A to E), and TE (A to E) are obtained.
Then, the transfer function TA (A to E), TB (A to E), TC (A to E), TD (A to E), TE (A to E) is performed by the audio signal processing device 22 shown in FIG. The audio signals V (A to E) subjected to the arithmetic processing based on the above are supplied to the reproduction speakers 18 (A to E) in the reproduction environment shown in FIG. In the second closed curved surface 19 composed of the speakers 18 (A to E), a sound field that assumes the speakers 20 (A to E) as virtual speakers is formed. That is, for example, reverberation and sound image localization in a wide space such as a movie theater can be reproduced in a room used as a reproduction environment. As long as the listener is within the second closed curved surface 19, the listener can obtain a sound field feeling equivalent to the sound field in the original measurement environment, and can be immersed in a richer presence. it can.
A 5.1 channel system applied to, for example, a DVD-Video (Digital Versatile Disc Video) is known as an audio playback system for discrete audio signals. When the present invention is applied to such a reproduction system, it is possible to realize an appreciation that reproduces a room larger than a reproduction environment in which a listener is present and a room with good sound. As a result, it is possible to relax an unnatural sound that makes the user aware of the presence of the reproduction speaker into a natural sound.
[0041]
3. In the above embodiment, for example, the measurement speakers are arranged at positions assuming all of the plurality of virtual speakers (for example, the speakers 20 (A to E)) shown in FIG. 16 in the measurement environment. An example was given in which the transfer function was measured. Therefore, it is necessary to measure the transfer function according to the number of virtual speakers, and the work efficiency may not be good.
[0042]
For example, when the position of the virtual speaker, the position of the reproduction speaker, and the three relative geometric positions of the center of the first closed curved surface are common, a known transfer function can be used.
For example, as shown in FIG. 17, the virtual speakers 35A and 35B share the above-described three positional relationships. That is, the arrangement relationship of the reproduction speakers 8p, 8a, and 8b with respect to the virtual speaker 35A is the same as the arrangement relationship of the reproduction speakers 8b, 8c, and 8d with respect to the virtual speaker 35B. Therefore, when the direction of reflected sound is not strong in the measurement environment, these transfer functions are almost the same. Thereby, regarding the matrix H shown in the above equation 3, the second column is regarded as a vector,
[Expression 4]
Figure 0004465870
It is possible to transpose a matrix of known transfer coefficients.
[0043]
In FIG. 17, the virtual speaker 35C does not share the above three positional relationships with the virtual speakers 35A and 35B. Assuming that such a situation occurs, in the measurement environment 1, the number of measurement microphones 4 arranged on the first closed curved surface 10 is increased, and the number of reproduction speakers 8 on the first closed curved surface 12 is increased. Thus, it becomes possible to take correspondence of the positional relationship. Of course, it is possible to cope with the virtual speaker 35C by a method such as an interpolation process from the arrangement relationship of the reproduction speakers arranged adjacent to each other, but the above arrangement is preferable because of the simplicity of the process.
[0044]
Such a method can be made to correspond to the example shown in FIG. That is, for example, a transfer function corresponding to the output from the speaker 20A can be obtained, and this transfer function can be used as a transfer function assuming the speaker 20B, for example.
Further, in the reproduction environment 11, the position of the reproduction speaker 8 is also set to the three relative geometric positions of the position of the reproduction speaker 8 on the first closed curved surface 12, the position of the reproduction speaker 18, and the center of the first closed curved surface 12. Is common, the sound field can be approximated by appropriately transposing the values of specific rows of the matrix G in vector units. Therefore, the number of measurements in the reproduction environment 11 can be reduced.
Also in this case, the reverberation characteristics and the reproduction speakers can be independently selected by separately managing the matrix G and the matrix H so that the matrix operation can be performed as necessary. Then, with respect to the matrix G and the matrix H, a plurality of transfer functions are transposed using the position symmetry, for example, to reduce the capacity of the storage means for managing the transfer functions in the audio signal processing device. There is an advantage that can be.
[0045]
Further, as shown in FIG. 18, the reflection information from the wall of the measurement environment (for example, a hall) 1 also rotates in the same manner as the virtual speaker. Therefore, the first closed curved surface 10 on which the measurement microphones 4 (ap) are arranged is set at a position close to the central portion of the measurement environment 1 where the influence of the wall is not great and there are no obstacles nearby. It is desirable to make measurements. In this example, since the target is an audio signal composed of a plurality of channels as an input and a plurality of speakers corresponding to the audio signal, panning, in which the sound image is narrowed by using a transfer function in common. The original reverberation effect, which is supposed to be an effect of the above, will not fade.
[0046]
4). Example of Utilizing Circular Symmetry in Movement of Virtual Sound Source FIG. 19 is a schematic diagram showing an example of creating a virtual sound image that moves while rotating around a distance R_hm from the listener in the second closed curved surface 19. It is.
19, the second closed curved surface 19 is formed by, for example, eight reproduction speakers 36A, 36B, 36C, 36D, 36E, 36F, 36G, and 36H, and the inside of these reproduction speakers 36 (A to H) It becomes the listening position.
By changing the transfer function to be convoluted with respect to the audio signals supplied to the reproduction speakers 36 (A to H) arranged in this way, for example, a sound image such as a footstep can be rotated.
In the example shown in this figure, the virtual sound image is rotated to a virtual position VHm1, VHm2, VHm3,... Divided into, for example, 32 circumferences, for example, a radius R_hm that is concentric with the first closed curved surface 10. Each position. That is, in the measurement environment, the measurement microphone 4 is arranged at a position corresponding to these virtual positions VHm (1 to 32), and the transfer function H is measured. Then, by switching and using the transfer coefficient H corresponding to these 32 locations, the sound field in which the sound image is rotated by the sound output from the reproduction speakers 36 (A to H) is reproduced.
Note that, for example, a virtual position VHm1, a position with an odd number at the end is a position having the same radius as the measurement microphone 4 in the measurement environment 1 and the reproduction speaker 8 in the reproduction environment 11, for example, the virtual position A position with an even number at the end, such as VHm2, is a radial position corresponding to between the measurement microphone 4 and the reproduction speaker 8.
[0047]
The audio signal supplied to the reproduction speakers 36 (A to H) is generated by, for example, the audio signal processing device 40 shown in FIG.
The audio signal SV reproduced by the audio reproduction unit 41 is supplied to the calculation unit 43 via the measurement speaker inverse characteristic processing unit 42. The calculation units 43 (a to h) perform necessary calculation processing based on the transfer functions TA to TH for the supplied audio signal SV, and output reproduction signals SVa, SVb, SVc,. The output reproduction signals SV (a to h) are supplied to the reproduction speakers 36 (A to H).
[0048]
The transfer function T (A to H) used in the calculation unit 43 is obtained based on the transfer function H in the measurement environment 1 and the transfer function G in the reproduction environment 11. However, for the transfer function H, the symmetry of the circle of the first closed curved surface 10 can be used in the same manner as the example described in FIG. That is, the measurement speaker 3 can perform the measurement twice, for example, corresponding to the virtual positions VHm1 and VHm2, and can replace the transfer function H obtained by the measurement at these two locations. Thereby, the matrix H shown in Expression 3 can be obtained.
For the transfer function G, in a reproduction environment (not shown), a measurement microphone is arranged at a position corresponding to the reproduction speakers 36 (A to H), and arranged at a position corresponding to the virtual positions VHm (1 to 32). What is necessary is just to obtain | require based on the reproduction signal output from the speaker for reproduction made.
[0049]
The arithmetic unit 43 performs arithmetic processing on the reproduction signal SV based on the transfer function T (A to H) obtained in this way, but the sound image position controller 44 assumes virtual positions VHm1, VHm2,. By controlling the transfer function T (A to H), for example, the virtual position of the sound image can be rotated in the second closed curved surface 19 as shown in FIG.
[0050]
In the embodiment described above, an example in which the first closed curved surface 10 is circular has been described, but it is not necessarily circular. That is, it suffices if measurement can be performed with the plurality of measurement microphones 4 facing outward on the outer periphery of the closed curved surface. However, when the number of measurements is reduced using symmetry, the first closed curved surface needs to be, for example, a circle or a regular polygon.
[0051]
The number of measurement microphones 4 arranged on the first closed curved surface 10 is not limited to the number described in the present embodiment. Therefore, in order to increase the amount of measurement data (transfer function) in the measurement environment 1 and make the sound pressure distribution inside the first closed curved surface 10 as accurate as possible, arrange as many measurement microphones 4 as possible. That's fine.
[0052]
Furthermore, as for the area of the first closed curved surface 10 (radius in the present embodiment), for example, the outer periphery of the first closed curved surfaces 10 and 12 may be outside the second closed curved surfaces 14 and 19. .
[0053]
Moreover, although the measurement microphone 4 (ap) and the measurement microphone 13 (AE) have been described as directional microphones, for example, a plurality of omnidirectional microphones are used even when they are not directional microphones. Therefore, it is sufficient that a corresponding effect can be obtained by delaying or subtracting the output.
[0054]
Further, with respect to the matrix G2, amplitude and delay characteristics may be used based on a geometric composition without performing measurement in the reproduction environment 11.
In addition, when the first closed curved surface 10 is configured in a circular shape as described in the present embodiment, a transfer function on one side that is symmetric about a certain axis in the first closed curved surface 10 may be diverted to the other side. Is possible. For example, as shown in FIG. 1, when the transfer function for the measurement microphone 4b is Hb, the transfer function Hb is arranged in a symmetrical position with the measurement microphone 4a as an axis. It becomes possible to make common.
Similarly, in the second closed curved surface 14, for example, as shown in FIG. 4, when the transfer function G2A from the reproduction speaker 8b to the measurement microphone 13A is used, the transfer function G2A is transferred from the reproduction speaker 8p to the measurement microphone. It can be shared with 13A.
[0055]
In the above embodiment, the first closed curved surface and the second closed curved surface are both assumed to be on a flat surface, for example, but by placing a measurement microphone on a three-dimensional closed curved surface, a three-dimensional sound field can be obtained. Can also be reproduced.
[0056]
Furthermore, when measuring the impulse response and when determining the transfer function, the sound pressure distribution approximation in the first closed curved surface and the second closed curved surface is approximated by the sound pressure distribution using the virtual speaker as the sound source in the target sound field. In order to make it closer, compensation processing indicated by a square matrix may be further applied to the matrix shown in the above equation 1. This compensation processing is processing for compensating for the directivity of the speakers and microphones when using an insufficient number of speakers and microphones to approximate the sound pressure distribution.
[0057]
5). Next, an example in which the present invention is applied to a car audio system will be described.
In this example, as shown in FIG. 21, speakers 52 </ b> L and 52 </ b> R that are assumed to be arranged in front of the automobile 50, for example, by reproduction speakers 51 (a to j) arranged in the room of the automobile 50. An object of the present invention is to provide a listener in a room with an environment in which stereo sound is reproduced (corresponding to a measurement speaker described later).
For this reason, in the measurement environment 53 shown in FIG. 22, a solid (in this embodiment, a rectangular parallelepiped) that can surround the appearance of the automobile 50 is assumed, and this solid is defined as the first closed curved surface 55. For example, 21 measurement microphones 56a to 56u are arranged on the outer periphery. The main axis of directivity of the measurement microphone 56 (a to u) diverges outward in the normal direction from the center of the first closed curved surface 55 as indicated by an arrow on the surface forming the first closed curved surface 55. It corresponds to the extending direction. Note that if the measurement microphone 56 (a to u) is arranged on a line that touches two or more faces, or a point if the placement position of the measurement microphones 56 (a to u) is a point, The direction of the main axis of directivity will be determined.
[0058]
The measurement speakers 52L and 52R are arranged at positions assuming the front of the automobile 50 with respect to the first closed curved surface 55, the measurement speaker 52L for measurement sound for left sound, and the measurement speaker 52R for right sound. Can be used to output measurement audio. Then, the transfer function H to the measurement microphone 56 (a to u) is obtained and held by the measurement sound output from the measurement speakers 52L and 52R.
That is, the transfer function from the measurement speaker 52L to the measurement microphone 56 (au) is HLa to HLu, and the transfer function from the measurement speaker 52R to the measurement microphone 56 (au) is HRa to HRu. Become.
[0059]
FIG. 23 is a schematic diagram for explaining an example of reproducing the measurement environment 53 in a reproduction environment 60 such as an anechoic room.
The first closed curved surface 61 formed in the illustrated reproduction environment 60 corresponds to the first closed curved surface 55 in the measurement environment 53, and is assumed to be an equivalent solid. The reproduction speakers 62a to 62u are arranged on the first closed curved surface 61, and the arrangement positions thereof are positions corresponding to the measurement microphones 56 (a to u) on the first closed curved surface 55. In this figure, only the positions of the reproduction speakers 62 a to 62 u are shown, but they are arranged so as to face the center of the first closed curved surface 61. Then, by supplying the reproduction speaker 62 (a to u) with a reproduction signal subjected to arithmetic processing based on the transfer functions HLa to HLu or the transfer functions HRa to HRu, any listening in the first closed curved surface 61 is heard. A sense of sound field equivalent to the outside of the first closed curved surface 55 can be reproduced outside the position.
[0060]
In the first closed curved surface 61, measurement microphones 65 (a to j) are arranged at positions corresponding to the reproduction speakers 51 (a to j) in the automobile 50. A closed curved surface formed by connecting the arrangement positions of these measurement microphones 65 (a to j) becomes the second closed curved surface 70. The main axes of directivity of these measurement microphones 65 (a to j) are the normal lines on the surface forming the second closed curved surface 70, similarly to the measurement microphones 56 (a to u) shown in FIG. Corresponds to the extension direction that diverges outward.
In this manner, the reproduction environment 60 is constructed, and the reproduction microphones 65 (a to j) output the reproduction signals subjected to the arithmetic processing based on the transfer functions HLa to HLu from the reproduction speakers 62 (a to u). By measuring, transfer functions GLa to GLj corresponding to the measurement speaker 52L can be obtained. Similarly, the reproduction speaker 60 (a to u) outputs a reproduction signal that has been subjected to arithmetic processing based on the transfer functions HRa to HRu, and measures it with the measurement microphone 65 (a to j), thereby measuring the measurement speaker 52R. The transfer functions GRa to GRj corresponding to can be obtained.
[0061]
FIG. 24 shows an audio signal processing device 80 that generates a reproduction signal to be supplied to the reproduction speakers 51 (a to j) installed in the room of the automobile 50 based on the transfer functions obtained in the measurement environment 53 and the reproduction environment 60. It is a figure explaining the example of a structure. The audio signal processing device 80 is configured as a part of a car audio system.
From the audio reproduction unit 81, for example, audio signals SL and SR, which are 2-channel stereo, are output. These audio signals SL and SR are supplied to the calculation unit 83 (83L and 83R) via the measurement speaker inverse characteristic processing units 82L and 82R, respectively. The arithmetic unit 83L performs arithmetic processing based on the transfer functions HLa to HLu on the audio signal SL, and the arithmetic unit 83R performs arithmetic processing based on the transfer functions HRa to HRu.
[0062]
The audio signals that have been subjected to the arithmetic processing based on the transfer functions HLa to HLu and HRa to HRu by the arithmetic units 83L and 83R are supplied to the arithmetic units 85 (85L and 85R), respectively. In the arithmetic unit 85L, the transfer functions GLa to GLj In addition, the calculation process based on the transfer functions GRa to GRj is performed in the calculation unit 85R.
Then, the audio signals subjected to the arithmetic processing based on the transfer functions GLa to GLj and GRa to GRj by the arithmetic units 83L and 83R are added by the adding unit 87 and supplied to the reproduction speakers 51 (a to j). Reproduction signals SCa, SCb, SCc,..., SCj are generated. In the adding process in the adding unit 87, the audio signals subjected to the arithmetic process based on the transfer function with the same subscript (lower case alphabet) are added.
[0063]
By supplying the audio signals SC (a to j) obtained by performing such arithmetic processing to the reproduction speakers 51 (a to j), the interior of the automobile 50 shown in FIG. A virtual sound image can be perceived at the positions of the virtual speakers 51L and 51R that are not present.
[0064]
The sound field of the virtual sound image can be selected by measuring and storing the transfer coefficients HLa to HLu used for calculation in the calculation unit 83 in a plurality of measurement environments such as famous concert halls and movie theaters. Is also possible. In this case, a sound field controller 84 may be provided for the calculation unit 83, and a transfer function stored in the memory 84a may be selected and used for calculation processing as necessary.
Similarly, the transfer coefficient GLa to GLu used for calculation in the calculation unit 85 is measured and stored in correspondence with the arrangement state (number of arrangement, arrangement position, etc.) of a plurality of types of reproduction speakers, thereby reproducing It is also possible to correspond to the arrangement state of the loudspeakers 51 (a to j). In this case, a playback speaker setting controller 86 may be provided for the calculation unit 85, and a transfer function stored in the memory 86a may be selected and used for calculation processing as necessary. As a result, it is possible to generate the reproduction signals SC (a to j) corresponding to the plurality of types of arrangement states of the reproduction speakers 51 (a to j) in the room of the automobile 50.
Such a transfer function selection may be provided with an operation unit 88 as selection means, and may be selected by a viewer, for example.
[0065]
In this way, the reverberant sound field characteristics of the measurement environment and the playback speaker placement state can be set independently, so even if a new speaker placement state is provided by a new vehicle model, the reproduction environment such as an anechoic room In this case, a transfer function corresponding to the arrangement state may be obtained.
Accordingly, the transfer function stored in the memories 84a and 86a can be updated. As an updating method, for example, a transfer function recorded on a recording medium such as a disc may be read, or for example, a necessary communication means may be provided and downloaded via a network. It may be. The memories 84a and 86a may store impulse response data corresponding to each transfer function.
[0066]
The present invention can be applied to virtual reality industrial equipment such as an amusement or game that gives a sense of realism or immersion, for example, in addition to reproducing sound in a home room or a car audio system, for example. .
[0067]
【The invention's effect】
As described above, the present invention obtains the first transfer function based on the sound field of the measurement environment, and further reproduces the audio signal subjected to the arithmetic processing based on the first transfer function in the reproduction environment. Thus, the sound field (for example, reverberation, sound image localization) of the measurement environment can be reproduced in the reproduction environment. Furthermore, in the reproduction environment, a second transfer function corresponding to a reproduction speaker arranged in the reproduction environment under a sound field condition equivalent to that of the measurement environment can be obtained.
Accordingly, since the second transfer function can be obtained in a reproduction environment, the number of measurements in the measurement environment can be reduced. Furthermore, the second transfer function can be obtained in the reproduction environment even when dealing with a new arrangement state of the reproduction speaker.
[0068]
In addition, the first transfer function can be transposed according to a predetermined rule using the isotropic orientation and symmetry of the first closed curved surface for obtaining the first transfer function. Yes. In other words, a transfer function obtained from a virtual speaker assuming a certain position viewed from the first closed curved surface can be used as a transfer function obtained from a virtual speaker assuming another position. Accordingly, the number of measurement operations for obtaining the first transfer function can be reduced.
[0069]
In addition, since the first transfer function and the second transfer function can be managed individually, the sound field of the measurement environment and the arrangement state of the reproduction speakers can be selected independently. Therefore, it is possible to individually update and add the sound field of the measurement environment and the arrangement state of the reproduction speakers.
Furthermore, when the first transfer function and the second transfer function are individually managed, the first and second transfer functions can be used by transposing them according to a predetermined rule. The capacity of the storage means for storing the first and second transfer functions can be reduced.
[Brief description of the drawings]
FIG. 1 is a diagram for explaining a measurement environment in an audio reproduction system according to an embodiment of the present invention.
FIG. 2 is a diagram illustrating a reproduction sound reproduction system in a reproduction environment in the sound reproduction system according to the present embodiment.
FIG. 3 is a diagram illustrating a reproduction environment.
FIG. 4 is a diagram illustrating an example in which an impulse response is measured inside a first closed curved surface of a reproduction environment.
FIG. 5 is a diagram illustrating an example in which an impulse response is measured inside a first closed curved surface of a reproduction environment.
FIG. 6 is a diagram for explaining a transfer function of a virtual speaker in a reproduction environment.
[Fig. 7] Fig. 7 is a diagram for describing a 5-channel stereo sound playback system in a playback environment.
FIG. 8 is a diagram illustrating the arrangement of playback speakers in a playback environment.
FIG. 9 is a diagram illustrating a reverberant sound field and sound image localization when the listening position is in the second closed curved surface in a reproduction environment.
FIG. 10 is a diagram for explaining an example of obtaining a transfer function G in a first closed curved surface of a reproduction environment.
FIG. 11 is a flowchart illustrating a procedure for reproducing a sound field of a measurement environment in a reproduction environment.
FIG. 12 is a flowchart illustrating a procedure for performing matrix calculation by separately managing a transfer function H and a transfer function G.
FIG. 13 is a diagram for explaining a reproduction environment of a 5-channel stereo.
FIG. 14 is a diagram illustrating a configuration example of an audio signal processing device that performs arithmetic processing based on a transfer function T (A to E) on a 5-channel stereo signal D (A to E).
FIG. 15 is a diagram illustrating a transfer function from a speaker to a measurement microphone in a movie theater as a measurement environment.
FIG. 16 is a diagram for explaining reverberation and sound image localization in a measurement environment reproduced in a reproduction environment.
FIG. 17 is a diagram illustrating the positional relationship between a virtual speaker and a reproduction speaker.
FIG. 18 is a diagram illustrating rotation of reflection information from a measurement environment wall.
FIG. 19 is a schematic diagram illustrating an example of creating a virtual sound image that moves within a second closed curved surface.
FIG. 20 is a diagram illustrating a configuration example of an audio signal processing device that generates an audio signal that moves a virtual sound image;
FIG. 21 is a diagram for explaining a reproduction speaker arranged in a room of an automobile.
FIG. 22 is a diagram showing a first closed curved surface assuming a solid that can surround, for example, the appearance of an automobile in a measurement environment.
FIG. 23 is a diagram for explaining an example of reproducing the measurement environment shown in FIG. 22 in a reproduction environment.
FIG. 24 is a diagram illustrating a configuration example of an audio signal processing device that generates a reproduction signal to be supplied to a reproduction speaker installed in an automobile room based on a transfer function.
FIG. 25 is a diagram for explaining a sampling reverb system.
FIG. 26 is an explanatory diagram of measurement sound output from a measurement speaker.
FIG. 27 is a diagram illustrating an example in which an audio signal is generated using a transfer function obtained in a measurement environment.
[Explanation of symbols]
1, 55 measurement environment, 2 measurement signal reproduction means, 3, 52 (L, R) measurement speaker, 4 (ap), 13 (AE), 56 measurement microphone, 5, 15, 22, 40 , 80 Audio signal processing device, 6, 16, 23, 41, 81 Audio reproduction unit, 7 (ap), 17 (ae), 24, 26, 28, 30, 32, 43 (ah) , 83 (83L, 83R), 85 (85L, 85R) arithmetic unit, 8 (ap), 36, 62 reproduction speaker, 10, 12, 61 first closed surface, 11, 60 reproduction environment, 13 (A To E), 65 Measuring microphone, 14, 19, 70 Second closed surface, 18, 51 Playback speakers (AE), 20 Speakers, 21 Movie theater, 25, 27, 29, 31, 33, 87 Addition , 35 Virtual speaker, 42 82 (L, R) Measurement speaker inverse characteristic processing unit, 44 Image localization controller, 50 motor vehicles, 84 sound field controller, 84a, 86a memory, speaker setting controller for playback

Claims (2)

仮想音源位置に配置されたスピーカから測定用音声を出力し、第一の閉曲面上に外向きに配される複数個の第の指向性マイクロホンの各々によって前記測定用音声を検出し、前記検出された測定用音声によって得られた伝達関数である第一の伝達関数を記憶する、第一の記憶手段と、
前記第一の閉曲面上に内向きに配される複数個のスピーカの各々によって、測定用音声を出力し、前記第一の閉曲面の内側に配置される第二の閉曲面上に外向きに配される複数個の第の指向性マイクロホンの各々によって、前記測定用音声を検出し、前記検出された測定用音声によって得られた伝達関数である、第二の伝達関数を記憶する第二の記憶手段と、
入力された音声信号に対して前記第一の伝達関数と前記第二の伝達関数とを掛け合わせる演算処理手段と、
前記複数個の第の指向性マイクロホンの各々が配置された第二の閉曲面上の位置と同位置に各々が配置され、前記演算処理手段で得られる音声信号が供給される複数個のスピーカと、
を備える、音声信号処理装置。
Outputting measurement sound from a speaker arranged at a virtual sound source position, detecting the measurement sound by each of a plurality of first directional microphones arranged outward on a first closed curved surface, First storage means for storing a first transfer function which is a transfer function obtained by the detected measurement voice;
Each of a plurality of speakers arranged inward on the first closed curved surface outputs measurement sound and faces outward on a second closed curved surface disposed inside the first closed curved surface. A second transfer function which is a transfer function obtained by detecting the measurement sound by each of a plurality of second directional microphones arranged in the first and second measurement microphones and storing the second transfer function. Two storage means;
Arithmetic processing means for multiplying the input transfer signal by the first transfer function and the second transfer function;
A plurality of speakers which are each arranged at the same position as the position on the second closed curved surface where each of the plurality of second directional microphones is arranged and to which an audio signal obtained by the arithmetic processing means is supplied When,
An audio signal processing apparatus comprising:
前記第一の閉曲面が円形とされる請求項1に記載の音声信号処理装置。  The audio signal processing device according to claim 1, wherein the first closed curved surface is circular.
JP2000381703A 2000-12-11 2000-12-11 Audio signal processing device Expired - Fee Related JP4465870B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000381703A JP4465870B2 (en) 2000-12-11 2000-12-11 Audio signal processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000381703A JP4465870B2 (en) 2000-12-11 2000-12-11 Audio signal processing device

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2009266628A Division JP4775487B2 (en) 2009-11-24 2009-11-24 Audio signal processing method and audio signal processing apparatus

Publications (2)

Publication Number Publication Date
JP2002186100A JP2002186100A (en) 2002-06-28
JP4465870B2 true JP4465870B2 (en) 2010-05-26

Family

ID=18849663

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000381703A Expired - Fee Related JP4465870B2 (en) 2000-12-11 2000-12-11 Audio signal processing device

Country Status (1)

Country Link
JP (1) JP4465870B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016199124A (en) * 2015-04-09 2016-12-01 之彦 須崎 Sound field control device and application method

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2858403B1 (en) * 2003-07-31 2005-11-18 Remy Henri Denis Bruno SYSTEM AND METHOD FOR DETERMINING REPRESENTATION OF AN ACOUSTIC FIELD
JP4674505B2 (en) 2005-08-01 2011-04-20 ソニー株式会社 Audio signal processing method, sound field reproduction system
JP4735108B2 (en) * 2005-08-01 2011-07-27 ソニー株式会社 Audio signal processing method, sound field reproduction system
JP4725234B2 (en) * 2005-08-05 2011-07-13 ソニー株式会社 Sound field reproduction method, sound signal processing method, sound signal processing apparatus
JP4788318B2 (en) * 2005-12-02 2011-10-05 ヤマハ株式会社 POSITION DETECTION SYSTEM, AUDIO DEVICE AND TERMINAL DEVICE USED FOR THE POSITION DETECTION SYSTEM
WO2008001857A1 (en) * 2006-06-30 2008-01-03 Toa Corporation Spatial audio signal reproducing device and spatial audio signal reproducing method
DE102006053919A1 (en) 2006-10-11 2008-04-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for generating a number of speaker signals for a speaker array defining a playback space
JP5024792B2 (en) * 2007-10-18 2012-09-12 独立行政法人情報通信研究機構 Omnidirectional frequency directional acoustic device
JP4591557B2 (en) 2008-06-16 2010-12-01 ソニー株式会社 Audio signal processing apparatus, audio signal processing method, and audio signal processing program
JP5550019B2 (en) * 2010-10-08 2014-07-16 独立行政法人情報通信研究機構 Sound field sharing system and optimization method
JP5168373B2 (en) * 2011-02-15 2013-03-21 ソニー株式会社 Audio signal processing method, sound field reproduction system
WO2024042643A1 (en) * 2022-08-24 2024-02-29 日本電信電話株式会社 Playback control device for area playback, playback control method, and program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016199124A (en) * 2015-04-09 2016-12-01 之彦 須崎 Sound field control device and application method

Also Published As

Publication number Publication date
JP2002186100A (en) 2002-06-28

Similar Documents

Publication Publication Date Title
JP4674505B2 (en) Audio signal processing method, sound field reproduction system
JP4508295B2 (en) Sound collection and playback system
US7706544B2 (en) Audio reproduction system and method for reproducing an audio signal
US5999630A (en) Sound image and sound field controlling device
JP5285626B2 (en) Speech spatialization and environmental simulation
JP4775487B2 (en) Audio signal processing method and audio signal processing apparatus
JP4465870B2 (en) Audio signal processing device
JP4597275B2 (en) Method and apparatus for projecting sound source to speaker
JP4620468B2 (en) Audio reproduction system and method for reproducing an audio signal
JP2005184040A (en) Apparatus and system for audio signal reproducing
JP2019512952A (en) Sound reproduction system
JP2001125578A (en) Method and device for reproducing sound field
JP2001507879A (en) Stereo sound expander
JP4735108B2 (en) Audio signal processing method, sound field reproduction system
JP5168373B2 (en) Audio signal processing method, sound field reproduction system
JP2993418B2 (en) Sound field effect device
JP4883197B2 (en) Audio signal processing method, sound field reproduction system
JP4725234B2 (en) Sound field reproduction method, sound signal processing method, sound signal processing apparatus
JPH0946800A (en) Sound image controller
JP4434707B2 (en) Digital signal processing device, digital signal processing method, and headphone device
JP2005157278A (en) Apparatus, method, and program for creating all-around acoustic field
Spors et al. Sound field synthesis
JP2007124023A (en) Method of reproducing sound field, and method and device for processing sound signal
JP2003061196A (en) Headphone reproducing device
JPH09182200A (en) Device and method for controlling sound image

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090303

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090602

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090730

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090825

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091124

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20091209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100202

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100215

R151 Written notification of patent or utility model registration

Ref document number: 4465870

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130305

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130305

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140305

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees