JP4286840B2 - インパルス応答合成方法および残響付与方法 - Google Patents

インパルス応答合成方法および残響付与方法 Download PDF

Info

Publication number
JP4286840B2
JP4286840B2 JP2006031416A JP2006031416A JP4286840B2 JP 4286840 B2 JP4286840 B2 JP 4286840B2 JP 2006031416 A JP2006031416 A JP 2006031416A JP 2006031416 A JP2006031416 A JP 2006031416A JP 4286840 B2 JP4286840 B2 JP 4286840B2
Authority
JP
Japan
Prior art keywords
impulse response
phase
component
characteristic
noise
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006031416A
Other languages
English (en)
Other versions
JP2007212675A (ja
Inventor
義典 高橋
三樹夫 東山
啓明 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Waseda University
Yamaha Corp
Original Assignee
Waseda University
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Waseda University, Yamaha Corp filed Critical Waseda University
Priority to JP2006031416A priority Critical patent/JP4286840B2/ja
Priority to US11/703,309 priority patent/US8005234B2/en
Priority to EP07002747A priority patent/EP1819198B1/en
Priority to DE602007009734T priority patent/DE602007009734D1/de
Priority to AT07002747T priority patent/ATE484926T1/de
Publication of JP2007212675A publication Critical patent/JP2007212675A/ja
Application granted granted Critical
Publication of JP4286840B2 publication Critical patent/JP4286840B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10KSOUND-PRODUCING DEVICES; METHODS OR DEVICES FOR PROTECTING AGAINST, OR FOR DAMPING, NOISE OR OTHER ACOUSTIC WAVES IN GENERAL; ACOUSTICS NOT OTHERWISE PROVIDED FOR
    • G10K15/00Acoustics not otherwise provided for
    • G10K15/08Arrangements for producing a reverberation or echo sound
    • G10K15/12Arrangements for producing a reverberation or echo sound using electronic time-delay networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/305Electronic adaptation of stereophonic audio signals to reverberation of the listening space

Description

この発明は、オーディオ信号を音として再生する際に再生音の聴感上の距離感を制御する技術に関する。
音響再生において聴取者に与える距離感、すなわち、聴取者が再生音から感じる音源までの距離を制御するための技術が各種提案されている。例えば特許文献1は、直接音成分に対して反射音成分の付加されたオーディオ信号を反射音付加回路により生成し、その際の直接音成分と反射音成分とのレベル比および時間間隔を調整することにより聴取者に与える距離感を制御する技術を提案している。また、特許文献2は、直接音用および間接音用の2系統の音響再生系を設け、各音響再生系から再生する直接音と間接音のレベル比を調整することにより聴取者に与える距離感を制御する技術を提案している。
特開平6−315200号公報 特開平9−121400号公報 特開2004−80668号公報
これまでに提供されてきた技術は、直接音成分に付加する反射音または間接音を調整することにより聴取者に与える距離感を制御しようとするものであった。しかし、部屋において音源から発生した音を受音点において観測した場合に、受音点において観測される直接音成分に含まれる最小位相成分の位相特性にも音源・受音点間距離の影響が大きく現れる。従来、この点を考慮して、音響再生時における距離感の制御を行う技術はなかった。
この発明は、以上説明した事情に鑑みてなされたものであり、オーディオ信号を音として再生する場合に最小位相成分の位相特性を音源・受音点間距離に応じた特性とし、聴者に与える距離感の制御を可能にする技術的手段を提供することを目的としている。
好ましい態様において、この発明によるインパルス応答合成方法は、所望の音源・受音点間距離に対応したインパルス応答の最小位相成分の位相特性の分散を算出する分散算出過程と、前記分散算出過程において算出された分散を有する雑音を作成し、この雑音の周波数成分を算出する雑音作成過程と、予め求めた所望の音源・受音点間距離に対応したインパルス応答の最小位相成分の位相特性の周波数勾配を持つように、前記雑音作成過程において算出された雑音の周波数成分を処理することにより、最小位相成分の位相特性を求めるトレンド付与過程と、前記最小位相成分の位相特性を用いて、残響付与に用いるインパルス応答を合成する合成過程とを具備し、前記合成過程が、前記最小位相成分の位相特性から最小位相成分の振幅特性を算出する過程と、前記最小位相成分の振幅特性および位相特性からインパルス応答の最小位相成分を算出する過程と、白色雑音に所望の残響時間に応じた指数時間減衰窓を乗じてインパルス応答のオールパス成分を算出する過程と、前記インパルス応答の最小位相成分に前記インパルス応答のオールパス成分を畳み込んでインパルス応答を合成する過程とを具備する。
他の好ましい態様において、この発明によるインパルス応答合成方法は、所望の音源・受音点間距離に対応したインパルス応答の最小位相成分の位相特性の分散を算出する分散算出過程と、前記分散算出過程において算出された分散を有する雑音を作成し、この雑音の周波数成分を算出する雑音作成過程と、予め求めた所望の音源・受音点間距離に対応したインパルス応答の最小位相成分の位相特性の周波数勾配を持つように、前記雑音作成過程において算出された雑音の周波数成分を処理することにより、最小位相成分の位相特性を求めるトレンド付与過程と、前記最小位相成分の位相特性を用いて、残響付与に用いるインパルス応答を合成する合成過程とを具備し、前記合成過程が、前記最小位相成分の位相特性から最小位相成分の振幅特性を算出する過程と、白色雑音に所望の残響時間に応じた指数時間減衰窓を乗じてインパルス応答のオールパス成分を算出する過程と、前記オールパス成分の振幅特性および位相特性を算出する過程と、前記最小位相成分の振幅特性および位相特性と前記オールパス成分の振幅特性および位相特性とから、インパルス応答の振幅特性および位相特性を算出する過程と、前記インパルス応答の振幅特性および位相特性からインパルス応答を算出する過程とを具備する。
部屋内の受音点において観測される音を直接音と残響音に分けた場合、直接音には最小位相成分が含まれており、この最小位相成分の位相特性には音源・受音点間距離の影響が強く現れる。本発明によると、最小位相成分の位相特性が所望の音源・受音点間距離に応じて制御されたインパルス応答が得られる。
以下、図面を参照し、この発明の実施の形態を説明する。
音源から出力されるオーディオ信号に対し、音響空間において採取されたインパルス応答を畳み込んで音として再生し、残響効果の付与された音を得る技術が一般的によく用いられる。本実施形態の目的は、オーディオ信号にインパルス応答を畳み込んで音として再生した場合に、所望の音源・受音点間距離に対応した距離感が聴取者に与られるようにすること、より具体的には、オーディオ信号との畳み込みに用いた場合にそのような距離感を生じさせることを可能にするインパルス応答を合成することにある。
音響空間において採取されるインパルス応答は、最小位相成分とオールパス成分とに分けることができる。部屋内に設けられた音源から音を発生した場合、同部屋内の受音点では、音源から直接届く直接音成分と部屋の壁による反射を経て受音点に届く残響音成分が観測されるが、これらのうち直接音成分に最小位相成分が含まれている。この最小位相成分の位相特性は、音源・受音点間距離に依存して変化する。この最小位相成分の位相特性の音源・受音点間距離に対する依存性は、例えば図1に示す手順により確認することができる。
まず、部屋内に音源と受音点を配置し、音源を固定したまま音源・受音点間距離rを各種変化させ、音源からインパルス音を発生したときのインパルス応答を受音点において採取する(ステップS1)。次に各種の音源・受音点間距離rに対応した各インパルス応答に対して例えば時間経過に対して減衰する指数窓を乗算し、各インパルス応答から直接音成分を各々抽出する(ステップS2)。次に各種の音源・受音点間距離rに対応した各直接音成分にFFT(高速フーリエ変換)を各々施し、各直接音成分の振幅特性と位相特性を得る(ステップS3)。次に各直接音成分の位相特性から線形位相(遅延遅れに対応した成分)を各々除去し(ステップS4)、この除去後の各位相特性から最小位相成分の位相特性を各々抽出する(ステップS5)。
図2は、このようにして得られるインパルス応答の最小位相成分の位相特性を模式的に例示したものである。図2において、横軸は波定数kであり、縦軸は位相遅れφである。この図に示すように、最小位相成分の位相φは、波定数kの増加に応じて、ランダムに振動しつつ上昇する。その際に、音源・受音点間距離rが大きくなるほど、波定数kに対する位相φの勾配は大きくなり、また、位相φの分散も大きくなる。
次に、以上のようにして得られた各種の音源・受音点間距離rに対応した最小位相成分の位相特性を、各種のrの中で最小のものであるrに対応した位相特性に合わせて正規化する(ステップS6)。次に各種の音源・受音点間距離rに対応した正規化された位相特性の各々について、回帰分析を行い、位相φの波定数kに対する回帰直線を求める(ステップS7)。そして、各種の音源・受音点間距離rについて、波定数kに対する最小位相成分の位相トレンド、例えば位相φの波定数kに対する回帰直線の勾配dφ/dkを求め、勾配dφ/dkの距離r−rに対する依存性を求める。このようにして得られる勾配dφ/dkの距離r−rに対する依存性は、図3に模式的に例示するように、勾配dφ/dkが距離r−rに応じて増加する傾向を示す。なお、この例では、位相トレンド、すなわち、位相φの波定数kに対する依存性を直線により近似しているが、この位相トレンドを曲線により近似し、それらの曲線と音源・受音点間距離rとの関係を求めても良い。
本実施形態によるインパルス応答合成方法は、以上のような事実を根拠とするものである。図4は本実施形態によるインパルス応答合成方法を示すフローチャートである。この例では、残響音のステレオ再生を考慮し、2チャネルのインパルス応答を合成する。まず、分散算出過程(ステップS10)では、所望の部屋の室容積および平均吸音率と所望の音源・受音点間距離rから理論的に定まる位相特性の分散σを求める。
次に雑音作成過程(ステップS20)を実行する。ここでは、まず、分散σと等しい分散を持つ2つの正規乱数列X(n)、Y(n)を作成する。次に、この分散σを持つ時間領域の正規乱数列X(n)、Y(n)からDFT(離散フーリエ変換)長の1/2以下の長さの数列を各々切り出し、切り出した各数列にDFTを施し、周波数領域の不規則数列θL(k)、θR(k)を作成する。この不規則数列θL(k)、θR(k)を位相特性の雑音成分(分散している部分)として採用する。なお、この例のように、2チャネルのインパルス応答を合成する場合には、両耳相関を持たせて2つの正規乱数列X(n)、Y(n)を作成してもよい。
次にトレンド付与過程(ステップS30)を実行する。このトレンド付与過程では、雑音作成過程において得た2チャネルの雑音の周波数成分θL(k)、θR(k)について、群遅延特性dθ/dω(ωは角周波数)を各々求める。次いで各群遅延特性dθ/dωに対し、予め求めておいた位相トレンドであって所望の音源・受音点間距離rに対応したものを付与(加算)する。すなわち、横軸をω、縦軸をdθ/dωとする座標系において、dθ/dωのグラフを位相トレンドに応じて上下させる。ここで、波定数に対する最小位相成分の位相トレンドを直線により近似する場合には、位相トレンドとして、所望の音源・受音点間距離rに対応した位相勾配dφ/dkに相当する値を群遅延特性dθ/dωに加算すればよい。そして、この位相トレンドの加算された群遅延特性dθ/dωをωで積分し、音源・受音点間距離rに応じた位相トレンドの加わった最小位相成分の位相特性1を算出する。
次に合成過程(ステップS40)を実行し、2チャネル分の最小位相成分の位相特性1を用いて、残響付与のための畳み込み演算に用いる2チャネル分のインパルス応答5を生成する。
さらに詳述すると、まず、振幅特性算出過程(ステップS41)では、2チャネル分の最小位相成分の位相特性1を用いて2チャネル分の最小位相成分の振幅特性2を算出する。この振幅特性の算出方法としては、例えば振幅特性の自然対数と位相特性がヒルベルト変換対になるという最小位相条件を利用する方法が考えられる(例えば特許文献3参照)。次に各チャネル毎に、最小位相成分の振幅特性2および位相特性1を用いた逆FFTを行い、2チャネル分の最小位相成分3を求める(ステップS42)。
オールパス成分算出過程(ステップS43)では、白色雑音に対して、所望の残響時間に対応した指数時間減衰窓(残響時間をτとした場合、e−t/τ)を乗算し、その結果をインパルス応答のオールパス成分4とする。そして、畳み込み過程(ステップS44)では、2チャネル分のインパルス応答の最小位相成分3に対し、オールパス成分4を各々畳み込み、2チャネル分のインパルス応答5を得る。
このようにして得られる2チャネル分のインパルス応答を音源から出力されるオーディオ信号に畳み込み、この結果得られる左右2チャネルのオーディオ信号を左右2チャネルのスピーカから再生するのである。このようにすることで、最小位相成分の位相特性が所望の音源・受音点間距離rに対応して調整された音を聴取者に提供し、この音源・受音点間距離rに対応した距離感を聴取者に与えることができる。
以上、この発明の一実施形態について説明したが、この発明にはこれ以外にも他の実施形態が考えられる。例えば次の通りである。
(1)上記実施形態では、最小位相成分を時間領域の信号に変換して時間信号であるオールパス成分を畳み込んだが、最小位相成分とオールパス成分の合成を周波数領域において行ってもよい。具体的には次の通りである。まず、白色雑音に所望の残響時間に応じた指数時間減衰窓を乗じてインパルス応答のオールパス成分を算出した後、このオールパス成分にFFTを施し、オールパス成分の振幅特性および位相特性を求める。次に最小位相成分の振幅特性および位相特性とオールパス成分の振幅特性および位相特性とを用いた乗算処理により、インパルス応答の振幅特性および位相特性を算出する。そして、インパルス応答の振幅特性および位相特性を用いて逆FFTを行い、残響付与に用いるインパルス応答を算出するのである。
(2)上記実施形態では、ステレオ再生に用いるインパルス応答を合成する例を挙げたが、モノラル再生に用いるインパルス応答の合成を行ってもよい。この場合、雑音作成過程(ステップS20)では、1チャネル分の雑音成分を作成し、それ以降の各過程においても1チャネル分の演算処理を行えばよい。
(3)上記実施形態によるインパルス応答合成方法を実行するプログラムをエフェクタにインストールし、残響付与などの際にオーディオ信号に畳み込むインパルス応答を合成させるようにしてもよい。例えば、ユーザがエフェクタの操作部を操作して、所望の部屋の室容積および平均吸音率、所望の音源・受音点間距離、残響時間等のパラメータを入力すると、同エフェクタでは、上記実施形態によるインパルス応答合成方法に従い、入力パラメータを用いてインパルス応答を合成し、この合成されたインパルス応答を音源からのオーディオ信号に畳み込んで残響の付与を行うのである。
インパルス応答の最小位相成分の位相特性の解析手順を示すフローチャートである。 最小位相成分の位相特性の音源・受音点間距離に対する変化を模式的に示す図である。 最小位相成分の位相の波定数に対する勾配と音源・受音点間距離との関係を模式的に示す図である。 この発明の一実施形態によるインパルス応答合成方法を示すフローチャートである。
符号の説明
S10……分散算出過程、S20……雑音作成過程、S30……トレンド付与過程、S40……合成過程、1……最小位相成分の位相特性、S41……振幅特性算出過程、2……最小位相成分の振幅特性、S42……逆FFT、3……最小位相成分、S43……オールパス成分算出過程、4……オールパス成分、S44……畳み込み過程、5……残響付与に用いるインパルス応答。

Claims (4)

  1. 所望の音源・受音点間距離に対応したインパルス応答の最小位相成分の位相特性の分散を算出する分散算出過程と、
    前記分散算出過程において算出された分散を有する雑音を作成し、この雑音の周波数成分を算出する雑音作成過程と、
    予め求めた所望の音源・受音点間距離に対応したインパルス応答の最小位相成分の位相特性の周波数勾配を持つように、前記雑音作成過程において算出された雑音の周波数成分を処理することにより、最小位相成分の位相特性を求めるトレンド付与過程と、
    前記最小位相成分の位相特性を用いて、残響付与に用いるインパルス応答を合成する合成過程とを具備し、
    前記合成過程が、
    前記最小位相成分の位相特性から最小位相成分の振幅特性を算出する過程と、
    前記最小位相成分の振幅特性および位相特性からインパルス応答の最小位相成分を算出する過程と、
    白色雑音に所望の残響時間に応じた指数時間減衰窓を乗じてインパルス応答のオールパス成分を算出する過程と、
    前記インパルス応答の最小位相成分に前記インパルス応答のオールパス成分を畳み込んでインパルス応答を合成する過程と
    を具備することを特徴とするインパルス応答合成方法。
  2. 所望の音源・受音点間距離に対応したインパルス応答の最小位相成分の位相特性の分散を算出する分散算出過程と、
    前記分散算出過程において算出された分散を有する雑音を作成し、この雑音の周波数成分を算出する雑音作成過程と、
    予め求めた所望の音源・受音点間距離に対応したインパルス応答の最小位相成分の位相特性の周波数勾配を持つように、前記雑音作成過程において算出された雑音の周波数成分を処理することにより、最小位相成分の位相特性を求めるトレンド付与過程と、
    前記最小位相成分の位相特性を用いて、残響付与に用いるインパルス応答を合成する合成過程とを具備し、
    前記合成過程が、
    前記最小位相成分の位相特性から最小位相成分の振幅特性を算出する過程と、
    白色雑音に所望の残響時間に応じた指数時間減衰窓を乗じてインパルス応答のオールパス成分を算出する過程と、
    前記オールパス成分の振幅特性および位相特性を算出する過程と、
    前記最小位相成分の振幅特性および位相特性と前記オールパス成分の振幅特性および位相特性とから、インパルス応答の振幅特性および位相特性を算出する過程と、
    前記インパルス応答の振幅特性および位相特性からインパルス応答を算出する過程と
    を具備することを特徴とするインパルス応答合成方法。
  3. 前記雑音作成過程では、音源・受音点間距離に応じた相関を持った左右2チャネルの雑音を作成し、
    前記トレンド付与過程では、前記雑音作成過程において作成された前記左右2チャネルの雑音を用いて、左右2チャネルの最小位相成分の位相特性を求め、
    前記合成過程では、前記左右2チャネルの最小位相成分を用いて左右2チャネルのインパルス応答を合成することを特徴とする請求項1または2に記載のインパルス応答合成方法。
  4. 音源から得られるオーディオ信号に対し、前記請求項1〜3のいずれか1の請求項に記載のインパルス応答合成方法により合成されたインパルス応答を畳み込むことにより残響効果を付与することを特徴とする残響付与方法。
JP2006031416A 2006-02-08 2006-02-08 インパルス応答合成方法および残響付与方法 Expired - Fee Related JP4286840B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2006031416A JP4286840B2 (ja) 2006-02-08 2006-02-08 インパルス応答合成方法および残響付与方法
US11/703,309 US8005234B2 (en) 2006-02-08 2007-02-06 Method for synthesizing impulse response and method for creating reverberation
EP07002747A EP1819198B1 (en) 2006-02-08 2007-02-08 Method for synthesizing impulse response and method for creating reverberation
DE602007009734T DE602007009734D1 (de) 2006-02-08 2007-02-08 Verfahren zur Erzeugung einer Impulsantwort und Verfahren zur Erzeugung von Nachhall
AT07002747T ATE484926T1 (de) 2006-02-08 2007-02-08 Verfahren zur erzeugung einer impulsantwort und verfahren zur erzeugung von nachhall

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006031416A JP4286840B2 (ja) 2006-02-08 2006-02-08 インパルス応答合成方法および残響付与方法

Publications (2)

Publication Number Publication Date
JP2007212675A JP2007212675A (ja) 2007-08-23
JP4286840B2 true JP4286840B2 (ja) 2009-07-01

Family

ID=38008050

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006031416A Expired - Fee Related JP4286840B2 (ja) 2006-02-08 2006-02-08 インパルス応答合成方法および残響付与方法

Country Status (5)

Country Link
US (1) US8005234B2 (ja)
EP (1) EP1819198B1 (ja)
JP (1) JP4286840B2 (ja)
AT (1) ATE484926T1 (ja)
DE (1) DE602007009734D1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100923157B1 (ko) * 2007-09-07 2009-10-23 한국전자통신연구원 중계기 수신채널의 역채널 추정 장치 및 그 방법
JP2009128559A (ja) * 2007-11-22 2009-06-11 Casio Comput Co Ltd 残響効果付加装置
KR101546849B1 (ko) * 2009-01-05 2015-08-24 삼성전자주식회사 주파수 영역에서의 음장효과 생성 방법 및 장치
MY189000A (en) 2014-01-16 2022-01-17 Sony Corp Audio processing device and method, and program therefor

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9026906D0 (en) * 1990-12-11 1991-01-30 B & W Loudspeakers Compensating filters
JPH06315200A (ja) 1993-04-28 1994-11-08 Victor Co Of Japan Ltd 音像定位処理における距離感制御方法
US5572443A (en) 1993-05-11 1996-11-05 Yamaha Corporation Acoustic characteristic correction device
JP3830997B2 (ja) 1995-10-24 2006-10-11 日本放送協会 奥行方向音響再生装置及び立体音響再生装置
US7062337B1 (en) * 2000-08-22 2006-06-13 Blesser Barry A Artificial ambiance processing system
JP4109513B2 (ja) 2002-08-22 2008-07-02 日本無線株式会社 遅延プロファイル測定方法および装置
US7336793B2 (en) 2003-05-08 2008-02-26 Harman International Industries, Incorporated Loudspeaker system for virtual sound synthesis

Also Published As

Publication number Publication date
EP1819198B1 (en) 2010-10-13
US8005234B2 (en) 2011-08-23
DE602007009734D1 (de) 2010-11-25
JP2007212675A (ja) 2007-08-23
EP1819198A1 (en) 2007-08-15
ATE484926T1 (de) 2010-10-15
US20070183602A1 (en) 2007-08-09

Similar Documents

Publication Publication Date Title
JP7183467B2 (ja) 少なくとも一つのフィードバック遅延ネットワークを使ったマルチチャネル・オーディオに応答したバイノーラル・オーディオの生成
JP7139409B2 (ja) 少なくとも一つのフィードバック遅延ネットワークを使ったマルチチャネル・オーディオに応答したバイノーラル・オーディオの生成
CA2835463C (en) Apparatus and method for generating an output signal employing a decomposer
EP3175445B1 (en) Apparatus and method for enhancing an audio signal, sound enhancing system
EP3090573B1 (en) Generating binaural audio in response to multi-channel audio using at least one feedback delay network
JP4286840B2 (ja) インパルス応答合成方法および残響付与方法
AU2015255287B2 (en) Apparatus and method for generating an output signal employing a decomposer
Giesbrecht et al. Algorithmic Reverberation
AU2012252490A1 (en) Apparatus and method for generating an output signal employing a decomposer

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080902

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081031

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090127

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090325

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120403

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130403

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130403

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140403

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees