JP5100234B2 - 音声処理装置およびエコー除去方法 - Google Patents

音声処理装置およびエコー除去方法 Download PDF

Info

Publication number
JP5100234B2
JP5100234B2 JP2007196235A JP2007196235A JP5100234B2 JP 5100234 B2 JP5100234 B2 JP 5100234B2 JP 2007196235 A JP2007196235 A JP 2007196235A JP 2007196235 A JP2007196235 A JP 2007196235A JP 5100234 B2 JP5100234 B2 JP 5100234B2
Authority
JP
Japan
Prior art keywords
signal
echo
filter
adaptive
adaptive filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007196235A
Other languages
English (en)
Other versions
JP2009033549A (ja
Inventor
智 石垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2007196235A priority Critical patent/JP5100234B2/ja
Publication of JP2009033549A publication Critical patent/JP2009033549A/ja
Application granted granted Critical
Publication of JP5100234B2 publication Critical patent/JP5100234B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
  • Telephone Function (AREA)

Description

本発明は、例えばハンドセットの代わりにスピーカーとマイクロホンを用いて通話を行うハンズフリー機能を有する音声通信装置に適用される音声処理装置およびエコー除去方法に係わり、特に、エコーキャンセラが受話信号を取得してから再生された音声がマイクロホンに収音されてエコーキャンセラに入力されるまでの経路においてゲインの変更が行われた場合でも、エコーキャンセラの性能の悪化を防ぐことができる音声処理装置およびエコー除去方法に関する。
ハンズフリーによる通話系においては、スピーカーから再生された音声がマイクロホンに収録されることによって音響エコーが生じる。この音響エコーを除去する技術をエコーキャンセラといい、従来より研究されている(例えば、特許文献1参照。)。
スピーカーとマイクを用いた音声通話においては、スピーカーから再生された音声がマイクから録音されて送話側に再送信される音響エコーが生じる。音響エコーを抑制する音響エコーキャンセラは、スピーカーから再生された音声がマイクに録音されるまでの室内伝達系の伝達関数を学習し、学習結果より予測したエコーを録音音声から減算することにより音響エコーを除去する。
一般的なエコーキャンセラにおいては、スピーカーやマイクなどの外部ゲインが操作された場合、スピーカー・マイク間の伝達関数が変化するため、再学習が必要になり一時的にエコー除去性能が落ちる。一般的なエコーキャンセラでは、エコーを予測するフィルタが室内伝達系に近づくように学習を行う。このとき、学習速度が速いフィルタはエコーの予測精度が悪く、学習速度が遅いフィルタは学習するまでの時間は長いが予測精度は良い。
さて特許文献1に記載されたエコーキャンセラは、特性変化に対して素早く追随できるフィルタ係数の学習更新装置なるものであり、フィルタ係数算定手段の時定数長さを、算定するパワー比と現パワー比との比較により設定するとある(「該算定手段で算定するパワー比が現パワー比を上回るときには該算定手段の時定数を短く設定し、下回るときには長い時定数を設定することを特徴とする」)。しかしながら、かかる設定がフィルタの学習速度と予測精度のトレードオフ解決の効果をもたらす技術の開示はなされていない。
特開平8−65215公報
本発明の目的は、フィルタの学習速度と予測精度のトレードオフ解決の効果をもたらす音声処理装置およびエコー除去方法を提供することにある。
第1の発明は、上記目的を達成するため、受話信号に基づいて第1の予測エコー信号を生成する第1の適応フィルタと、前記受話信号に基づいて第2の予測エコー信号を生成する第2の適応フィルタと、前記受話信号が受話信号路から送話信号路に回り込むことにより発生するエコー信号を含む送話信号からの前記第1の予測エコー信号の減算と前記送話信号の第2の予測エコー信号の減算とに基づいて前記エコー信号を低減する加算器と、前記減算前の前記第1と第2の適応フィルタの係数の比の関係に基づいて前記第1、第2の適応フィルタの係数を更新する修正部とを有することを特徴とする音声処理装置を提供する。
本発明の音声処理装置およびエコー除去方法によれば、フィルタの学習速度と予測精度のトレードオフ解決の効果をもたらすことができる。
以下、本発明の実施例を説明する。
本発明による実施例1を図1乃至図6を参照して説明する。
図1は、本発明の実施の形態に係る音声処理装置を適用した音声通信装置を示す。この音声通信装置10は、PC(パーソナルコンピュータ)にスピーカー16A,16Bとマイクロホン18を接続して構成したものであり、キーボード12、送話ゲインツマミ13等を有する下部筐体11と、下部筐体11に開閉可能に取り付けられ、LCD(液晶ディスプレイ)15等の表示部を有する上部筐体14と、下部筐体11に接続され、一方に受話ゲインツマミ17を有する左右一対の上記スピーカー16A,16B、上記マイクロホン18およびマウス19と、下部筐体11内に設けられた後述するエコーキャンセラ31とを備え、ハンドセットの代わりにスピーカー16A,16Bとマイクロホン18を使用してネットワーク20を介して通話を行う、いわゆるハンズフリー通話機能を有する。
図2は、音声通信装置10の音声処理系を示す。この音声通信装置10は、入力端子21Aからスピーカー16A,16Bに至る受話信号路22Aと、マイクロホン18から出力端子21Bに至る送話信号路22Bと、受話信号路22A上に設けられ、受話信号x(k)のゲインを受話ゲインツマミ17の調整量に基づいて調節してスピーカー16A,16Bに出力する受話ゲイン調節部23Aと、送話信号路22B上に設けられ、マイクロホン18から入力した送話入力信号s(k)のゲインを送話ゲインツマミ13の調整量に基づいて調節する送話ゲイン調節部23Bと、マイクロホン18に混入したスピーカー16A,16Bからの音響エコー成分をキャンセルした送話出力信号を出力端子21Bから出力するエコーキャンセラ31とを備える。
図4は、エコーキャンセラ31の内部構成を示す。エコーキャンセラ31は、受話信号が受話信号路22Aから送話信号路22Bに回り込むことにより発生するエコーを予測して除去する。
まず、遅延算出部321において、再生信号x(k)と録音信号y(k)を比較し、再生信号と録音信号との間の遅延を求める。次に、遅延除去部322において再生信号x(k)から遅延を除去し、DFT部323においてフーリエ変換を行い、遅延除去後の信号の周波数成分Xkを求める。また、録音信号y(k)に対しても、DFT部324においてフーリエ変換を行い周波数成分Ykを求める。適応フィルタ310、312では、Xkに対してフィルタ係数Hk、H’kを掛け合わせることににより、予測エコー信号を求め、これを録音信号の周波数成分Ykから各加算器311、313において減算することにより、残留エコーEk、E’kを求める。フィルタ係数Hk、H’kは、残留エコーEk、E’kが0に近づくように更新される。適応フィルタ310の残留エコーをIDFT部325において逆フーリエ変換し、エコーキャンセル後の出力信号e(k)を求める。
さらに、エコーキャンセラ31は、適応フィルタ310、312のフィルタ係数Hk、H’kを比較することにより、送話ゲインツマミ13あるいは受話ゲインツマミ17によるゲインが調節された場合等に、適応フィルタ310の係数を修正する適応フィルタ制御部32を備える。
エコーキャンセラ31の詳細を説明する前に、本実施例による改良が適用可能なエコーキャンセラの動作を一般的に解説する。
図3が一般的なエコーキャンセラのブロック図である。
時刻k における再生信号をx(k) 、録音信号をy(k) 、録音信号からエコーを除去した出力をe(k) とおく。
まず、遅延算出部314において、再生信号x(k)と録音信号y(k)を比較し、再生信号と録音信号との間の遅延を求める。
遅延算出部では、単位時間N 毎に時刻kN におけるマイク入力と参照信号の相互相関CkN(l) を以下の式で求める。
Figure 0005100234


CkN(l) を最大とするl を遅延d(kN) とする。
なお、遅延が変化しないシステムや、遅延がほとんど生じないシステムにおいては、d(kN)を定数とすることもできる。
次に、遅延除去部315において再生信号x(k)から遅延を除去した信号xkを求め、xkに対してDFT部316においてフーリエ変換を行い、遅延除去後の信号の周波数成分Xkを求める。
時刻k において、遅延除去後の信号はxk=[x(k-d(k)), x(k-d(k)-1), …, x(k-d(k)-2L+1)] となる。xkを離散フーリエ変換し、xk の周波数成分
Xk=[ Xk (0), Xk (1), …, Xk (L-1)]
を求める。
Xk(l)は信号xk のl 番目の周波数帯を表す複素数である。
また、録音信号y(k)に対しても、DFT部317において
yk=[y(k), y(k-1), …, y(k-2L+1)]
を離散フーリエ変換し、 ykの周波数成分
Yk=[ Yk (0), Yk (1), …, Yk (L-1)]
を求める。
適応フィルタ310では、エコーキャンセル後の音声データの周波数成分
Ek=[ Ek(0), Ek(1), …, Ek(L-1)]を、
適応フィルタHk=[ Hk(0), Hk(1), …, Hk(L-1)] とXk, Ykを用いて
Ek(l)= Yk(l) - Hk(l) Xk(l) (1)
として求める。
Hk (l)は周波数帯l のフィルタ係数で、参照信号とエコーの振幅比、位相差を表す複素数である。
なお、複素数Hk (l) の絶対値、位相をそれぞれ| Hk (l)| 、∠Hk (l) と表記する。| Hk (l)|は周波数帯l のゲイン、∠Hk (l) は位相差を表す。
IDFT部318においては、Ek に対して逆フーリエ変換を行い出力信号を求める。
Ekを逆フーリエ変換したものを
ek=[ ek (0), ek (1), …, ek (2L-1)]
とすると出力信号は以下の式で求まる。
e(k-l)=ek(l) (0≦l<L)
また、適応フィルタ310において、フィルタHk を以下の式で更新する。
Figure 0005100234


(2)
ここで、αは0<α<1 を満たす学習係数であり、1に近いほど学習速度が速いが、エコー予測精度が悪くなり、0に近いと学習速度は遅いが学習後のエコー予測精度がよくなる。
次に、本実施の形態の構成、動作を、ブロック図4、5を用いて説明する。
本実施例では、上記適応フィルタ310に加えて、学習速度の速いフィルタ312を用いて学習を行う。
適応フィルタ312の係数はH’k (H’k= [ H’k (0), H’k (1), …, H’k (L-1)] )で表す。
また、2つのフィルタの係数をフィルタ制御部32において制御する。
適応フィルタ312においては、係数H’k を用いて、式(1)と同様に、以下の式でエコーキャンセル後の音声データの周波数成分E’k=[ E’k (0), E’k (1), …, E’k (L-1)] を求める。
E 'k(l)= Yk (l) - H 'k (l) Xk (l) (3)
E’kは出力信号を求めるためには用いず、 H’kの学習にのみ用いる。H’k は以下の式で更新される。
Figure 0005100234


ここで、α’ はα<α'<1 を満たす。
α<α'であるため、H’k はHk よりも高速で学習は速いが、エコー予測精度は落ちる。
式(2),(4)でフィルタHk 、H’k を更新した後、適応フィルタ制御部32において2つのフィルタを比較することによりゲイン変更の検出を行う。
スピーカー、マイクなどの外部ゲインが変更された場合、変更前の十分に学習されたフィルタをHb=[ Hbk (0), Hbk (1), …, Hbk (L-1)] 、変更後の十分に学習されたフィルタをHa=[ Hak (0), Hak (1), …, Hak (L-1)] とおくと、外部ゲイン変更の前後で各周波数帯の絶対値のみが一定の比率で変化するため、
| Hak (l)|= a| Hbk (l)| ( aはゲイン変更量に応じた定数) (5)
∠Hbk (l)= ∠Hak (l) (6)
となる。
H’k はHk に比べて学習速度が速いため、外部ゲイン変更直後はHk はHb に近いままであり、H’k はHa に近づく。そのため、Hk とH’k の関係は、式5,6のHb とHa の関係に近いものとなる。
したがって、Hk とH’k が式(5),(6)に近い関係を満たすときにH’k の係数をHk に代入することにより、ゲインの変化に高速に適応することができる。H’k は学習速度が速いため予測精度は劣るが、H’k をHk に代入した後Hk を学習させることにより、精度を高めることができる。
適応フィルタ制御部32の動作を、適応フィルタ制御部のブロック図である図5を用いて説明する。
まず、H’k とHk の比Dk =[ Dk (0), Dk (1), …, Dk (L-1)] を以下の式で求める。
Figure 0005100234


式5,6が満たされる場合は、| Dk (l)|=a 、∠Dk (l)=0 、 となる。
平均値演算部32Aにおいて、Dk (l) の平均Dmを以下の式で求める。
Figure 0005100234


平均値算出後、第一の判断部32Cにおいて、平均値Dmが以下の条件を満たすかどうかを判断する。
−θmin<∠Dm<θmin (7)
|Dm|<Mmin、Mmax<|Dm| (8)
θmin は位相の0からのずれの許容範囲を表す定数であり、0<θmin である。
Mmin 、Mmax はH’k の代入を行うためのゲイン変化の最小値を表す定数であり、0<Mmin<1 、1<Mmax を満たす。Hk とH’k が共に十分学習されたときは式(7)および下に示す式(9)は満たされるが|Dm|=1となるので、式(8)により外部ゲインが変更されていることを確認する。
第一の判断部32Cの条件を満たす場合、分散演算部32Bで分散VDk を以下の式で求める。
Figure 0005100234


分散算出後、第二の判断部32Dにおいて分散が以下の条件を満たすことを判断する。
VDk<Vmin (9)
Vmin はDk (l) の分散の許容範囲を表す定数であり、0<Vmin である。式8により、H’k の変化が誤った学習によるものでなく、外部ゲインの変化によるものであることを確認する。
第二の判断部の条件を満たすとき、外部ゲインが変化したとみなす。このとき、係数修正部325においてHkにH’k を代入することによりHkをゲイン変化後の状態に近づける。
図6は、ゲイン調節後の音声処理装置の動作を示すフローチャートである。
平均値演算部32Aは、Hk とH’kとから、比Dk (l)の平均値Dmを求める(S1)。
分散演算部32Bは、Dk (l)、および平均値演算部32Aからの平均値Dmに基づいて、分散VDkを求める(S1)。
第1の判断部32Cは、−θmin<∠Dm<θminであることと|Dm|<Mmin、Mmax<|Dm|であることとを確認する(S2)。
上記確認がされた場合は、第2の判断部32Dは、分散演算部32Bからの演算結果に基づいてVDk<Vminであるか否かを判断する(S3)。
VDk<Vminである場合は、係数修正部32Eは、ゲインが変更されたと判断して適応フィルタ312の係数を適応フィルタ310のものとするように修正する(S4)。
学習速度の速いフィルタの係数は、ゲイン変更がない場合は学習速度の遅いフィルタとほぼ同じとなる。室内伝達系の伝達関数は、音声の遅延と、周波数帯ごとのゲイン・位相差を含むが、外部ゲインが変更された場合は、遅延と位相差は変化せず、ゲインのみ増減する。このとき、学習速度の速いフィルタは伝達関数の変化に素早く適応するため、学習速度の遅いフィルタと比べてゲインのみ増減した状態となる。
学習速度の速いフィルタが学習速度の遅いフィルタと比べてゲインのみ増減しているとき、スピーカーかマイクのゲインが変更されたとみなし、学習速度の遅いフィルタの係数を学習速度の速いフィルタにコピーすることにより、スピーカー・マイクのゲイン変更に高速で対応することができるようになる。
本実施例による改良は、上記に示される方式のエコーキャンセラだけでなく、周波数領域の振幅比と位相差を複素数で表現したフィルタによりエコー予測を行う他の方式のエコーキャンセラにも適用可能である。
本発明により、スピーカー・マイクなどの外部ゲインの変更に対して高速に追随し、外部ゲイン変更時にもエコー除去性能の低下の少ないエコーキャンセラを実現することができる。
一般に学習速度の速いフィルタを用いるとエコー予測性能が低下するが、本発明では通常は学習速度の遅いフィルタを用いるため性能の低下はない。
[他の実施の形態]
なお、本発明は、上記各実施の形態に限定されず、その要旨を変更しない範囲内で種々な変形が可能である。受話ゲイン調節部と送話ゲイン調節部のいずれか一方を設けた構成でもよい。
本発明の実施の形態に係る音声処理装置を適用した音声通信装置の外観斜視図である。 本発明の実施の形態に係る音声通信装置の音声処理系を示す図である。 一般的なエコーキャンセラを示す図である。 本発明の実施の形態に係る音声処理系のエコーキャンセラ31を示す図である。 本発明の実施の形態に係る適応フィルタ制御部のブロック図である。 本発明の実施の形態に係る音声処理装置の動作を示すフローチャートである。
符号の説明
10 音声通信装置
11 下部筐体
12 キーボード
13 送話ゲインツマミ
14 上部筐体
16,16A,16B スピーカー
17 受話ゲインツマミ
18 マイクロホン
19 マウス
20 ネットワーク
21A 入力端子
21B 出力端子
22A 受話信号路
22B 送話信号路
23A 受話ゲイン調節部
23B 送話ゲイン調節部
31 エコーキャンセラ
32 適応フィルタ制御部
32A 平均値演算部
32B 分散演算部
32C 第1の判断部
32D 第2の判断部
32E 係数修正部
310 適応フィルタ
311 加算器
312 適応フィルタ
313 加算器

Claims (4)

  1. 受話信号に基づいて第1の予測エコー信号を生成する第1の適応フィルタと、
    前記受話信号に基づいて第2の予測エコー信号を生成する第2の適応フィルタと、
    前記受話信号が受話信号路から送話信号路に回り込むことにより発生するエコー信号を含む送話信号からの前記第1の予測エコー信号の減算と前記送話信号の第2の予測エコー信号の減算とに基づいて前記エコー信号を低減する加算器と、
    前記減算前の前記第1と第2の適応フィルタの係数の比の関係に基づいて前記第1、第2の適応フィルタの係数を更新する修正部とを有する音声処理装置。
  2. 前記修正部は、前記減算前の前記第1と第2の適応フィルタの係数の比の平均と分散が所定の関係を満たすとき、前記第1の適応フィルタより高速に学習する前記第2の適応フィルタの係数に基づいて前記第1の適応フィルタの係数を修正することを特徴とする請求項に記載の音声処理装置。
  3. 受話信号に基づいて、第1の適応フィルタが第1の予測エコー信号を、第2の適応フィルタが第2の予測エコー信号を、それぞれ生成し、
    加算器が、前記受話信号が受話信号路から送話信号路に回り込むことにより発生するエコー信号を含む送話信号からの前記第1の予測エコー信号の減算と前記送話信号の第2の予測エコー信号の減算とに基づいて前記エコー信号を低減し、
    修正部が、前記減算前の前記第1と第2の適応フィルタの係数の比の関係に基づいて前記第1、第2の適応フィルタの係数を更新するエコー除去方法。
  4. 前記修正部が、前記減算前の前記第1と第2の適応フィルタの係数の比の平均と分散が所定の関係を満たすとき、前記第1の適応フィルタより高速に学習する前記第2の適応フィルタの係数に基づいて前記第1の適応フィルタの係数を修正する請求項に記載のエコー除去方法。
JP2007196235A 2007-07-27 2007-07-27 音声処理装置およびエコー除去方法 Expired - Fee Related JP5100234B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007196235A JP5100234B2 (ja) 2007-07-27 2007-07-27 音声処理装置およびエコー除去方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007196235A JP5100234B2 (ja) 2007-07-27 2007-07-27 音声処理装置およびエコー除去方法

Publications (2)

Publication Number Publication Date
JP2009033549A JP2009033549A (ja) 2009-02-12
JP5100234B2 true JP5100234B2 (ja) 2012-12-19

Family

ID=40403540

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007196235A Expired - Fee Related JP5100234B2 (ja) 2007-07-27 2007-07-27 音声処理装置およびエコー除去方法

Country Status (1)

Country Link
JP (1) JP5100234B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113362842B (zh) * 2021-06-30 2022-11-11 北京小米移动软件有限公司 音频信号处理方法及装置
JP2024008271A (ja) * 2022-07-07 2024-01-19 株式会社トランストロン エコー抑圧装置、エコー抑圧方法及びエコー抑圧プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3499055B2 (ja) * 1995-08-16 2004-02-23 沖電気工業株式会社 エコーキャンセラ
JPH09148965A (ja) * 1995-11-22 1997-06-06 Nec Corp 音響用エコーキャンセラ
JP3139405B2 (ja) * 1997-02-28 2001-02-26 日本電気株式会社 エコーキャンセラ
JP3390358B2 (ja) * 1999-02-19 2003-03-24 松下電器産業株式会社 係数転送判別器及びそれを用いたエコーキャンセラ
JP3566158B2 (ja) * 1999-12-07 2004-09-15 三菱電機株式会社 エコーキャンセラ装置

Also Published As

Publication number Publication date
JP2009033549A (ja) 2009-02-12

Similar Documents

Publication Publication Date Title
US8488776B2 (en) Echo suppressing method and apparatus
JP4975073B2 (ja) デジタル適応フィルタと同フィルタを用いたアコスティックエコーキャンセラ
US7035398B2 (en) Echo cancellation processing system
JP4681163B2 (ja) ハウリング検出抑圧装置、これを備えた音響装置、及び、ハウリング検出抑圧方法
JP4702372B2 (ja) エコー抑圧方法及び装置
JP4702371B2 (ja) エコー抑圧方法及び装置
WO2010055650A1 (ja) 適応フィルタ及びこれを有するエコーキャンセラ
KR100721034B1 (ko) 잔여 반향 필터를 사용하여 음향 반향 소거 시스템을향상시키기 위한 방법
EP2982102B1 (en) Echo removal
WO2012153452A1 (ja) エコー消去装置およびエコー検出装置
US9361874B2 (en) Varying adaptive filter step size in acoustic echo cancellation
EP2700161B1 (en) Processing audio signals
CN111052767B (zh) 音频处理装置、音频处理方法以及信息处理装置
EP2741481B1 (en) Subband domain echo masking for improved duplexity of spectral domain echo suppressors
JP5662232B2 (ja) エコー消去装置、その方法及びプログラム
WO2005046076A1 (ja) エコー抑圧装置
JP5100234B2 (ja) 音声処理装置およびエコー除去方法
JP2005051744A (ja) 通話装置
JP2005318518A (ja) ダブルトーク状態判定方法、エコーキャンセル方法、ダブルトーク状態判定装置、エコーキャンセル装置およびプログラム
JP4403776B2 (ja) エコーキャンセラ
JP2007189536A (ja) 音響エコーキャンセラ装置、音響エコーキャンセル方法及び通話装置
JP4879195B2 (ja) 騒音低減装置
US11197093B2 (en) Echo suppression device, echo suppression method, and non-transitory computer-readable recording medium which records echo suppression program
CN115834778A (zh) 一种回声消除方法、装置、电子设备及存储介质
JP6143702B2 (ja) エコー消去装置、その方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100624

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100624

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100624

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111115

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120626

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120806

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120828

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120925

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151005

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151005

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees