JP3596202B2 - 音像定位装置 - Google Patents

音像定位装置 Download PDF

Info

Publication number
JP3596202B2
JP3596202B2 JP33064096A JP33064096A JP3596202B2 JP 3596202 B2 JP3596202 B2 JP 3596202B2 JP 33064096 A JP33064096 A JP 33064096A JP 33064096 A JP33064096 A JP 33064096A JP 3596202 B2 JP3596202 B2 JP 3596202B2
Authority
JP
Japan
Prior art keywords
sound
delay
sound source
sound processing
audio information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP33064096A
Other languages
English (en)
Other versions
JPH10174198A (ja
Inventor
祐弘 向嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP33064096A priority Critical patent/JP3596202B2/ja
Publication of JPH10174198A publication Critical patent/JPH10174198A/ja
Application granted granted Critical
Publication of JP3596202B2 publication Critical patent/JP3596202B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Stereophonic System (AREA)
  • Reverberation, Karaoke And Other Acoustics (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、仮想的な音場空間内に音像を定位させる音像定位装置に関し、特に簡単な構成でドップラー効果や反射音の付加並びに複数の音源の定位に適した音像定位装置に関する。
【0002】
【従来の技術】
従来より、音響再生システム、電子楽器、ゲーム等において、音場空間内の任意の位置に仮想音源を定位させて立体音場を生成する音像定位装置が知られている。また、3次元バーチャルリアリティシステムでも、仮想体験における臨場感を向上させる手段として、この種の音像定位装置が使用されている。この種の音像定位装置は、モノラル音源からバイノーラル手法に基づいて、時間差、振幅差及び周波数特性差を持つ複数チャネルの信号を発生させることにより、聴感上、方向感及び距離感を与えるようにして立体音場を生成し、あたかも3次元仮想空間上の各部から音が発しているように音響信号を生成する。
【0003】
図10は、従来の音像定位装置の概略構成を示す図である。
音源から供給されたオーディオ信号Siは、遅延回路61で時間差を付与されて左右のオーディオ信号SL,SRとなる。遅延回路61は、音源位置からの絶対的な遅延時間をシミュレートするのではなく、左右の耳に音が到達する相対的な時間差をシミュレートすることにより、最大遅延量を抑えて回路規模を小さくしている。左右のオーディオ信号SL,SRは、音源位置に応じて左右の音の振幅値を調整するためのアンプ62L,62R及びアンプ63L,63Rを介して、FIR(有限インパルス応答)フィルタ64L,64Rに供給される。FIRフィルタ64L,64Rは、仮想音場空間におけるリスナの前後左右からの伝達経路上の伝達関数を記憶し、音源位置に応じて前段のアンプ63L,63Rで振幅調整された左右のオーディオ信号に対しフィルタリングを施して音場特性を付与する。そして、各方向成分の信号が加算器65L,65Rで加算され、スピーカ66L,66Rを介して音像位置が制御されたステレオオーディオ出力を得ることができる。
【0004】
【発明が解決しようとする課題】
ところで、実際の音場空間に更に近い仮想音場空間をシミュレートしようとすると、音源とリスナとが相対的に移動していることにより生じるドップラー効果や各種の反射音、更には複数の音をシミュレートする多音化等、更に複雑なシミュレートが必要になってくる。
ドップラー効果を生じさせる従来例としては、原音に対して移動量に基づくピッチチェンジを行う方法が提案されている(特開平6−327100号)。この方式では、音源の移動速度からピッチシフト量を計算する必要があることに加え、ピッチシフタが必要となる。
また、この方式で多音化を図ろうとすると、1つの音源毎に1つのピッチシフタが必要になり、回路規模が大きくなってしまう。
【0005】
この発明は、このような問題点に鑑みなされたもので、ドップラー効果や反射、更には多音化に適した音像定位装置を提供することを目的とする。
【0006】
【課題委を解決するための手段】
この発明は、仮想的な音場空間及びこの音場空間における予め指定された仮想的な音源位置によって決定される制御パラメータに基づいて、音源から供給されるオーディオ情報に対して音響処理を施すことにより前記音源位置に前記オーディオ情報の音像を定位させる音像定位装置において、前記音源位置によって決定される制御パラメータに基づいて前記オーディオ情報を音響処理する第1の音響処理手段と、前記音場空間によって決定される制御パラメータに基づいて前記オーディオ情報を音響処理する第2の音響処理手段と、前記第1の音響処理手段と前記第2の音響処理手段との間に設けられ前記第1の音響処理手段によって音響処理されたオーディオ情報を前記音源位置からリスナまでの距離に相当する量だけ遅延させる遅延手段と、前記音源位置と前記リスナとの間の相対位置の変化に対応して前記遅延量を変化させる遅延制御手段とを備えたことを特徴とする。
【0007】
この発明は、更に前記第1の音響処理手段が、複数の音源にそれぞれ対応するように複数設けられ、前記遅延手段が、前記各第1の音響処理手段から供給されるオーディオ情報をそれぞれの遅延量に応じた位置に重ねて記憶するものであることを特徴とする。
なお、より具体的には、前記遅延手段が、ランダムアクセスが可能なリングバッファであり、前記遅延制御手段が、前記リングバッファの書込アドレスと読出アドレスとが前記遅延量に相当する間隔を保つように歩進制御するものである。
【0008】
この発明によれば、音源位置によって決定される制御パラメータに基づいて音響処理されたオーディオ信号を、遅延手段で音源位置からリスナの距離に相当する量だけ遅延させ、更に音源位置とリスナとの間の相対位置の変化に応じて遅延制御手段が前記遅延量を変化させるようにしているので、音源の位置が移動した場合でも、音源の位置からリスナまでの音の伝達状態、即ち周波数の変化を正確にシミュレートすることができる。そして、この場合、ピッチ量の算出やピッチシフタは不要となる。
【0009】
また、この発明では、音源位置に関係する第1の音響処理手段を前段に、音源位置には関係しない第2の音響処理手段を後段に配置し、その間に前記遅延手段を配置しているので、多音化のために複数の音源とそれぞれ対応させて第1の音響処理手段を複数設けた場合でも、遅延手段は共用することができる。これは、遅延手段が各音源の絶対的な位置をシミュレートするからであり、複数の音源からのオーディオ情報を、遅延手段の各音源位置からの遅延量に相当する位置に重ねて書き込めばよいのである。従って、この場合には、多音化によっても遅延手段の共用によって回路規模が必要以上に大きくなるのを防止することができる。特に、壁や床からの反射音をシミュレートしようとすると、1つの音源に対して反射経路からの複数の音源を想定する必要があるが、この発明によれば、このようなシミュレートが容易になる。
【0010】
【発明の実施の形態】
以下、図面を参照して、この発明の好ましい実施の形態について説明する。
図1は、この発明の一実施例に係る音像定位装置のブロック図である。
この装置は、複数の音源に対応するように複数設けられた第1の音響処理手段である上下感・時間差付与回路1,1,…,1と、これら上下感・時間差付与回路1,1,…,1から供給されるステレオオーディオ信号をそれぞれの音源位置に応じて遅延させる多音遅延回路2と、この多音遅延回路2で遅延されたステレオオーディオ信号をフィルタリングして音場空間に応じた周波数特性を付与する第2の音響処理手段であるFIRフィルタ3とにより構成されている。
【0011】
各上下感・時間差付与回路1,1,…,1は、この例では音源からのオーディオ入力信号Si(i=1,2,…,n)及び音源位置情報ri,θi,φi(i=1,2,…,n)をそれぞれ入力する。音源位置情報r,θ,φは、例えば図2に示すように、リスナ4の頭が基準方向(正面方向)を向いているとした場合の仮想音源Sの位置までの距離、水平方向の角度(アジマス)及び垂直方向の角度(エレベーション)をそれぞれ意味している。
【0012】
図3は、上下感・時間差付与回路1i(i=1,2,…,n)の具体的な構成を示すブロック図である。
音源からのモノラルのオーディオ信号Siは、アンプ11を介してノッチフィルタ12に供給される。ノッチフィルタ12は、人間の聴感特性や人間の耳介形状に基づいてオーディオ信号Siの特定の周波数成分を減衰させてオーディオ信号Siに上下方向感を付与する。ノッチフィルタ12の出力は、仮想音源位置から両耳への音の伝搬時間差Tを付与する遅延回路13で遅延制御され、時間差を持つ2チャンネルの信号に変換される。これらの信号は、それぞれアンプ14,14によって仮想音源の方向に基づく左右の振幅バランスを調整される。振幅バランスを調整されたステレオオーディオ信号は、アンプ15,15,15,15及びアンプ15,15,15,15にそれぞれ供給される。これらのアンプ15〜15は、ステレオオーディオ信号をその音源位置に基づいてリスナの前後左右(この例では、左前、右前、左後、右後の4方向)からの信号成分として振幅調整するもので、後段のFIRフィルタ3のフィルタ出力の合成比を決定するものである。
【0013】
一方、パラメータ決定部16は、音源位置情報ri,θi,φiに基づいて、ノッチフィルタ12の減衰周波数Nt、遅延回路13の伝搬時間差T、左右の振幅バランスVR,VL及び前後左右からの信号成分VFL,VFR,VRL,VRR等の制御パラメータを各部に供給する。また、パラメータ決定部16は、音源位置からリスナまでの距離riの変化に基づいて多音遅延回路2に対するライトアドレスWAiの歩進タイミング信号fsi′も生成する。
【0014】
図4は、多音遅延回路2とFIRフィルタ3の具体的な構成を示すブロック図である。
FIRフィルタ3は、前後左右の各方向から音が到来する場合について、予めダミーヘッド等を用いてインパルス応答信号を測定し、この測定結果から求めたFIR係数を記憶したフィルタであり、左右のステレオオーディオ信号のそれぞれについて4方向からのフィルタリングを行うため、計8つのフィルタ31,31,31,31,31,31,31,31と、これらのフィルタ31〜31の出力を左右のステレオオーディオ信号についてそれぞれ加算合成する加算器32,32とにより構成されている。多音遅延回路2は、これらのフィルタ31〜31の前段にそれぞれ設けられる8つの遅延回路21,21,21,21,21,21,21,21と、これら遅延回路21〜21にデータを書き込むための書込回路22,22,22,22,22,22,22,22とから構成される。
【0015】
各遅延回路21〜21は、具体的にはRAM等を用いたリングバッファとして構成することができる。
図5は、このリングバッファの機能を説明するための図である。
ここでは、2つの音源S1,S2のうち、音源S1が速度v1でリスナ4の方向に移動している例を示している。音源S1,S2から発する音のデータがリングバッファ23のライトアドレスWA1,WA2にそれぞれ書き込まれ、リスナ4に到達した音のデータがリングバッファ23のリードアドレスRAから読み出される。その間の遅延時間が各音源S1,S2とリスナ4との間の距離r1,r2に対応する遅延時間となる。各データの書込時には、後述する書込回路22〜22により、ライトアドレスWA1,WA2に記憶されたデータを一旦読み出したのち、そのデータに新たなデータを加算して再度書き込む。これにより、複数の音源からのデータをリングバッファ23上で合成することができる。
【0016】
ライトアドレスWA1,WA2の歩進速度は、各音源S1,S2の移動によって変化するが、リードアドレスRAの歩進速度は一定となる。音源S2とリスナ4との距離r2は固定であるから、リングバッファ23のライトアドレスWA2とリードアドレスRAとは、同一の速度で歩進される。両アドレスの差は常に一定となり、これが音源S2からリスナ4までの距離r2に相当する。一方、音源S1とリスナ4との間の距離r1は、図5(a)〜(b)に示すように、音源S1がリスナ4の頭上に位置するまでは徐々に短くなるので、ライトアドレスWA1の歩進速度をリードアドレスRAよりも遅くする。これにより、音源S1からリスナ4までの遅延量が徐々に短くなるように変化するので、リードアドレスRAで読み出される音源S1のオーディオデータの周波数が高くなる。また、図5(b)〜(c)に示すように、音源S1がリスナ4の頭上を通過した後は、距離r1は徐々に長くなるので、ライトアドレスWA1の歩進速度をリードアドレスRAよりも速くする。これにより、音源S1からリスナ4までの遅延量が徐々に長くなるように変化するので、リードアドレスRAで読み出される音源S1のオーディオデータの周波数が低くなる。
【0017】
図6は、遅延回路21〜21に書き込まれるデータを説明するための図である。即ち、音源からのオーディオデータSiは、図6(a)に示すように、一定のサンプリング周波数fsで入力されるが、同図(b)に示すように、音が近づいている場合には、ライトアドレスWAiの歩進速度を遅くする必要があるため、オーディオデータのサンプリング周波数もfsi′に変更する必要がある。このため、サンプリング周波数fsi′に基づくオーディオデータSi′をもとのオーディオデータSiから補間によって求める。同図(c)のように、音が遠ざかっている場合にも、同様に変更されたサンプリング周波数fsi′に合わせて新たなオーディオデータSi′を補間動作により求める。
【0018】
このような処理を実行する書込回路22〜22の構成例を図7に示す。上下感・時間差付与回路1iから供給されたオーディオデータSiと、これを遅延回路41で1サンプリング時間遅延させたオーディオデータSiとは演算回路42に供給されている。カウンタ43は、サンプリング信号fsの入力からクロック信号CKをカウントし、パラメータ決定部16から供給されるタイミング信号fsi′の入力タイミングまでの時間Δtを測定して演算回路42に供給する。演算回路42は、データSi,Si、1/fs,Δtを用いて直線補間演算を行い、データSi′を算出する。このデータSi′が読出データと加算器44で加算されて書込データとして遅延回路21iに書き込まれる。
【0019】
このように、音源S1からのオーディオデータのライトアドレスWA1とリードアドレスRAの相対的な歩進速度を変化させることにより、音源S1が移動している場合のドップラー効果を簡単に付加することができ、音源S1の移動感をリスナ4に与えることができる。また、各音源からのオーディオデータをリングバッファ23へ加算書込することによって、容易に多音化を図ることができる。しかも、このように複数の音源についてリングバッファ23を共用することで、処理する音源の数に拘わらず、遅延回路21は8つしか必要としないので、回路規模を簡素化することができる。
【0020】
なお、ライトアドレスWA1,WA2は、リードアドレスRAを追い抜かないように、最大アドレス差(最大遅延量)となったときに、リードアドレスRAと同一速度で歩進されるように制御される必要がある。このため、図7に示すように、書込回路22iに、ライトアドレスWAiとリードアドレスRAとを比較して最大遅延量を検出する最大遅延量検出回路45を設け、最大遅延量を検出した場合には、ライトアドレスカウンタ46の歩進動作をリードアドレスカウンタ47の歩進動作に合わせるようにアドレスを制御すればよい。いま、この最大遅延時間に相当する距離を例えば100mと設定すると、音速を340m/s、サンプリング周波数をfHzとして、RAMの容量は100f/340程度であればよい。
【0021】
このように、多音化が容易な構成であることを利用して、反射音についても容易に移動変化を付けて定位させることができる。
図8は、反射音をシミュレートする場合の実施例を示す図である。
即ち、反射音をシミュレートする場合には、もとの音源Siの他に、空間情報に基づいて反射音Si′を反射シミュレーション部51で生成し、得られた反射音Si′を追加音源として図1の回路に入力し、上記と同様の処理を行えばよい。
図9は、反射シミュレーション部51でのシミュレーションを説明するための図である。音源Sからリスナ4に直接伝達される音と、音源Sから床面AA′を反射してリスナ4に伝達される反射音とが存在する場合、音源Sの床面AA′に対する線対称位置に反射音の音源S′が存在すると仮定すればよい。この場合、音源S′のリスナ4までの距離r′とエレベーションφ′は、下記数1のように表すことができる。
【0022】
【数1】
Figure 0003596202
【0023】
反射シミュレーション部51は、入力された位置情報ri,θi,φiから、上述した演算により、反射音源の位置情報ri′,θi′(=θi),φi′を求め、もとの音源Siから反射による減衰も考慮して反射音源Si′を求める。音源Siが移動する場合には、反射音源Si′も同一速度で移動するようにして前述した処理を実現すればよい。
【0024】
なお、以上の説明では、リングバッファのライトアドレスの歩進速度を可変、リードアドレスの歩進速度を一定としたが、より簡易な方法として、ライトアドレスの歩進速度を一定、リードアドレスの歩進速度を可変とすることもできる。この場合、図7に示した補間回路は必要とせず、固定音源の多音化及び単一音源の移動に簡単に対処することができる。
【0025】
【発明の効果】
以上述べたように、この発明によれば、音源位置によって決定される制御パラメータに基づいて音響処理されたオーディオ信号を、遅延手段で音源位置からリスナの距離に相当する量だけ遅延させ、更に音源位置とリスナとの間の相対位置の変化に応じて遅延制御手段が前記遅延量を変化させるようにしているので、音源の位置が移動した場合のドップラー効果を付与することができ、より現実感ある音像定位が可能になる。
【0026】
また、この発明では、音源位置に関係する第1の音響処理手段を前段に、音源位置には関係しない第2の音響処理手段を後段に配置し、その間に前記遅延手段を配置しているので、多音化のために複数の音源とそれぞれ対応させて第1の音響処理手段を複数設けた場合でも、遅延手段は共用することができ、回路の簡素化を図ることができる。
【図面の簡単な説明】
【図1】この発明の一実施例に係る音像定位装置のブロック図である。
【図2】同実施例における音源位置情報を説明するための図である。
【図3】同実施例における上下感・時間差付与回路の具体的な構成を示すブロック図である。
【図4】同実施例における多音遅延回路とFIRフィルタの具体的な構成を示すブロック図である。
【図5】同実施例におけるリングバッファの機能を説明するための図である。
【図6】同実施例における遅延回路に書き込まれるデータを説明するための図である。
【図7】同実施例における書込回路の構成例を示すブロック図である。
【図8】反射音をシミュレートする場合の実施例を示す図である。
【図9】同実施例における反射シミュレーション部でのシミュレーションを説明するための図である。
【図10】従来の音像定位装置のブロック図である。
【符号の説明】
〜1…上下感・時間差付与回路、2…多音遅延回路、3,64L,64R…FIRフィルタ、4…リスナ、11,14,14,15〜15,62L,62R,63L,63R…アンプ、16…パラメータ決定部、21〜21,41,61…遅延回路、22〜22…書込回路、23…リングバッファ、31〜31…フィルタ、32,32,44,65L,65R…加算器、42…演算回路、43…カウンタ、45…最大遅延量検出回路、46…ライトアドレスカウンタ、47…リードアドレスカウンタ、51…反射シミュレーション部、66L,66R…スピーカ。

Claims (3)

  1. 仮想的な音場空間及びこの音場空間における予め指定された仮想的な音源位置によって決定される制御パラメータに基づいて、音源から供給されるオーディオ情報に対して音響処理を施すことにより前記音源位置に前記オーディオ情報の音像を定位させる音像定位装置において、
    前記音源位置によって決定される制御パラメータに基づいて前記オーディオ情報を音響処理する第1の音響処理手段と、
    前記音場空間によって決定される制御パラメータに基づいて前記オーディオ情報を音響処理する第2の音響処理手段と、
    前記第1の音響処理手段と前記第2の音響処理手段との間に設けられ前記第1の音響処理手段によって音響処理されたオーディオ情報を前記音源位置からリスナまでの距離に相当する量だけ遅延させる遅延手段と、
    前記音源位置と前記リスナとの間の相対位置の変化に対応して前記遅延量を変化させる遅延制御手段と
    を備えたことを特徴とする音像定位装置。
  2. 前記第1の音響処理手段は、複数の音源にそれぞれ対応するように複数設けられ、
    前記遅延手段は、前記各第1の音響処理手段から供給されるオーディオ情報をそれぞれの遅延量に応じた位置に重ねて記憶するものである
    ことを特徴とする請求項1記載の音像定位装置。
  3. 前記遅延手段は、ランダムアクセスが可能なリングバッファであり、
    前記遅延制御手段は、前記リングバッファの書込アドレスと読出アドレスとが前記遅延量に相当する間隔を保つように歩進制御するものである
    ことを特徴とする請求項1又は2記載の音像定位装置。
JP33064096A 1996-12-11 1996-12-11 音像定位装置 Expired - Lifetime JP3596202B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP33064096A JP3596202B2 (ja) 1996-12-11 1996-12-11 音像定位装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33064096A JP3596202B2 (ja) 1996-12-11 1996-12-11 音像定位装置

Publications (2)

Publication Number Publication Date
JPH10174198A JPH10174198A (ja) 1998-06-26
JP3596202B2 true JP3596202B2 (ja) 2004-12-02

Family

ID=18234938

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33064096A Expired - Lifetime JP3596202B2 (ja) 1996-12-11 1996-12-11 音像定位装置

Country Status (1)

Country Link
JP (1) JP3596202B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006222801A (ja) * 2005-02-10 2006-08-24 Nec Tokin Corp 移動音像提示装置
EP2474170B1 (en) 2009-09-03 2017-05-31 Robert Bosch GmbH Delay unit for a conference audio system, method for delaying audio input signals, computer program and conference audio system
JP2015076797A (ja) * 2013-10-10 2015-04-20 富士通株式会社 空間情報提示装置、空間情報提示方法及び空間情報提示用コンピュータプログラム

Also Published As

Publication number Publication date
JPH10174198A (ja) 1998-06-26

Similar Documents

Publication Publication Date Title
US5371799A (en) Stereo headphone sound source localization system
US5440639A (en) Sound localization control apparatus
US5386082A (en) Method of detecting localization of acoustic image and acoustic image localizing system
US6078669A (en) Audio spatial localization apparatus and methods
US6611603B1 (en) Steering of monaural sources of sound using head related transfer functions
US6188769B1 (en) Environmental reverberation processor
JP4633870B2 (ja) オーディオ信号処理方法
JP4597275B2 (ja) 音源をスピーカへ投射する方法及び装置
JP3266020B2 (ja) 音像定位方法及び装置
JP2007266967A (ja) 音像定位装置およびマルチチャンネルオーディオ再生装置
JP3258816B2 (ja) 3次元音場空間再生装置
JP2012004668A (ja) 頭部伝達関数生成装置、頭部伝達関数生成方法及び音声信号処理装置
US6111962A (en) Reverberation system
WO1999033325A3 (en) Surround signal processing apparatus and method
JPH0562752B2 (ja)
US7572970B2 (en) Digital piano apparatus, method for synthesis of sound fields for digital piano, and computer-readable storage medium
WO2000045619A1 (fr) Dispositif source sonore virtuelle et appareil acoustique comportant un tel dispositif
JP2870333B2 (ja) 音像定位制御装置
JP2671329B2 (ja) オーディオ再生装置
JP3596202B2 (ja) 音像定位装置
JP2731751B2 (ja) ヘッドホン装置
KR100636251B1 (ko) 입체 음향 생성 방법 및 장치
KR20180018464A (ko) 입체 영상 재생 방법, 입체 음향 재생 방법, 입체 영상 재생 시스템 및 입체 음향 재생 시스템
JP2605450B2 (ja) 音像定位装置
JP2002084599A (ja) 音響再生方法および音響再生装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040817

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040830

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313532

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070917

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080917

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090917

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100917

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100917

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110917

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120917

Year of fee payment: 8