JP2008033307A - マルチチャンネルエコーキャンセラ - Google Patents
マルチチャンネルエコーキャンセラ Download PDFInfo
- Publication number
- JP2008033307A JP2008033307A JP2007175430A JP2007175430A JP2008033307A JP 2008033307 A JP2008033307 A JP 2008033307A JP 2007175430 A JP2007175430 A JP 2007175430A JP 2007175430 A JP2007175430 A JP 2007175430A JP 2008033307 A JP2008033307 A JP 2008033307A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- location
- acoustic signal
- speaker
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Circuit For Audible Band Transducer (AREA)
- Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
- Telephonic Communication Services (AREA)
Abstract
【解決手段】本発明に係るマルチチャンネルエコーキャンセラは、第1の場所に設けられた複数のスピーカ(10、20)それぞれに入力されるべき第2の音響信号を含むスピーカ入力信号(sp1、sp2)と、第1の場所に設けられた複数のマイクロホン(11、21)の検出信号(m1、m2)とを入力とし、独立成分分析に基づく信号処理を施して各検出信号(m1、m2)に含まれる第1の音響信号と第2の音響信号とを分離し、当該分離した第1の音響信号のみを第2の場所に設けられた複数のスピーカ(30、40)へ出力することによって、各検出信号(m1、m2)に含まれる第2の音響信号をエコーとしてキャンセルするエコーキャンセル部を備える。
【選択図】図1
Description
図1を参照して、本発明の第1の実施形態に係るマルチチャンネルエコーキャンセラの構成について説明する。図1は、音響システムに用いられる第1の実施形態に係るマルチチャンネルエコーキャンセラの構成例を示す図である。音響システムは、近端側および遠端側の場所間で音響信号を相互伝送するシステムである。図1に示す音響システムでは、近端側には、話者S1およびS2が互いに異なる複数の音源(近端音源)として存在しており、遠端側には、話者S3およびS4が互いに異なる複数の音源(遠端音源)として存在しているとする。近端側には、遠端側の話者S3およびS4の音声からなる遠端音響信号を拡声するためのスピーカ10および20と、近端側の話者S1およびS2の音声からなる近端音響信号を検出するためのマイクロホン11および21とが設けられている。遠端側には、近端音響信号を拡声するためのスピーカ30および40と、遠端音響信号を検出するためのマイクロホン31および41とが設けられている。スピーカ(10、20、30、40)とマイクロホン(11、21、31、41)は、図8で説明したそれらと同様であり、同じ符号を付している。また図1に示す音響システムでは、一例として、本実施形態に係るマルチチャンネルエコーキャンセラが近端側にのみ設けられているとする。また図1に示す音響システムでは、一例として、近端側の話者S1およびS2と、遠端側の話者S3およびS4とが同時に会話をしている、いわゆるダブルトークが行われている状態であるとする。
図3を参照して、本発明の第2の実施形態に係るマルチチャンネルエコーキャンセラの構成について説明する。図3は、音響システムに用いられる第1の実施形態に係るマルチチャンネルエコーキャンセラの構成例を示す図である。図3に示す音響システムでは、近端側には、話者S1が音源(近端音源)として存在しており、遠端側には、話者S3およびS4が互いに異なる複数の音源(遠端音源)として存在しているとする。近端側には、遠端側の話者S3およびS4の音声からなる遠端音響信号を拡声するためのスピーカ10および20と、近端側の話者S1の音声からなる近端音響信号を検出するためのマイクロホン11および21とが設けられている。遠端側には、近端音響信号を拡声するためのスピーカ30および40と、遠端音響信号を検出するためのマイクロホン31および41とが設けられている。スピーカ(10、20、30、40)とマイクロホン(11、21、31、41)は、図8で説明したそれらと同様であり、同じ符号を付している。また図3に示す音響システムでは、一例として、本実施形態に係るマルチチャンネルエコーキャンセラが近端側にのみ設けられているとする。また図3に示す音響システムでは、一例として、近端側の話者S1と、遠端側の話者S3およびS4とが同時に会話をしている、いわゆるダブルトークが行われている状態であるとする。
上述した第1の音源分離部210および第2の音源分離部220では、分離行列を構成する全ての行列要素を更新する構成であった。これに対し、分離行列を構成する各行列要素のうち、一部の行列要素を拘束する(一部の行列要素を0にする)ようにしてもよい。以下、図6を参照して、第1の音源分離部210および第2の音源分離部220分離行列の一部の行列要素を拘束する場合を第3の実施形態として説明する。図6は、第1の音源分離部210に設定された分離行列の一部を拘束した第1の音源分離部210aの構成を示す図である。
第4の実施形態において、上述した音源分離部100における音源分離処理をコンピュータプログラムを用いてコンピュータシステム上で実現する場合について説明する。コンピュータシステムは、マイクロプロセッサ、ROM、RAMなどで構成される。RAMには、コンピュータプログラムが記憶されている。マイクロプロセッサが、コンピュータプログラムにしたがって動作することにより、音源分離部100の音源分離処理が実現される。なお、コンピュータプログラムは、音源分離部100の音源分離処理を実現するために、コンピュータシステムに対する指令を示す命令コードが複数個組み合わされて構成されたものである。また、第1の音源分離部210や第2の音源分離部220の音源分離処理を、コンピュータプログラムを用いてコンピュータシステム上で実現するようにしてもよい。
なお、上述した第1〜3の実施形態において本発明に係るマルチチャンネルエコーキャンセラを説明してきたが、本発明に係るエコーキャンセラは、上述した第1〜3の実施形態で説明した内容に限定されない。本発明に係るマルチチャンネルエコーキャンセラは、以下のような形態であってもよい。
10、20、30、40 スピーカ
11、21、31、41 マイクロホン
100 音源分離部
101、211、211a 分離部
102、212、212a 学習部
110〜113、230〜235 変換部
120、121、240、241 逆変換部
210、210a 第1の音源分離部
220 第2の音源分離部
Claims (14)
- 第1の場所に設けられた複数のマイクロホンで検出される当該第1の場所に存在する1つ以上の音源からの第1の音響信号と、第2の場所に設けられた複数のマイクロホンで検出される当該第2の場所に存在する1つ以上の音源からの第2の音響信号とを、前記第1および第2の場所それぞれに設けられた複数のスピーカを用いることによって、前記第1および第2の場所間で相互伝送する音響システムに用いられるマルチチャンネルエコーキャンセラであって、
前記第1の場所に設けられた複数のマイクロホンは、前記第1の音響信号に加えてさらに、前記第1の場所に設けられた複数のスピーカで拡声された前記第2の音響信号を検出しており、
前記マルチチャンネルエコーキャンセラは、前記第1の場所に設けられた複数のスピーカそれぞれに入力されるべき前記第2の音響信号を含むスピーカ入力信号と、前記第1の場所に設けられた複数のマイクロホンの検出信号とを入力とし、独立成分分析に基づく信号処理を施して各前記検出信号に含まれる第1の音響信号と第2の音響信号とを分離し、当該分離した第1の音響信号のみを前記第2の場所に設けられた複数のスピーカへ出力することによって、各前記検出信号に含まれる第2の音響信号をエコーとしてキャンセルするエコーキャンセル部を備える、マルチチャンネルエコーキャンセラ。 - 前記エコーキャンセル部は、各前記スピーカ入力信号および各前記検出信号を入力とし、前記独立成分分析に基づく信号処理を施して、各前記検出信号に含まれる第1の音響信号と第2の音響信号とを分離するとともに当該第1の音響信号に含まれる互いに相関の低い信号を前記検出信号の数の分だけ分離し、当該分離した互いに相関の低い信号のみを前記第2の場所に設けられた複数のスピーカへ出力する音源分離部を有することを特徴とする、請求項1に記載のマルチチャンネルエコーキャンセラ。
- 前記エコーキャンセル部は、前記第1の場所に設けられた複数のマイクロホンそれぞれに対応して設けられ、対応するマイクロホンの検出信号および各前記スピーカ入力信号を入力とし、前記独立成分分析に基づく信号処理を施して前記対応するマイクロホンの検出信号に含まれる第1の音響信号と第2の音響信号とを分離し、当該分離した第1の音響信号のみを前記第2の場所に設けられたいずれか1つのスピーカへ出力する複数の音源分離部を有することを特徴とする、請求項1に記載のマルチチャンネルエコーキャンセラ。
- 前記エコーキャンセル部には、各前記検出信号に含まれる第1の音響信号と第2の音響信号とを分離するための分離行列が予め設定されており、
前記分離行列は、前記第1の場所に設けられた複数のスピーカから当該第1の場所に設けられた複数のマイクロホンまでの各伝達特性に関する複数の第1の行列要素であって、前記独立成分分析に従って学習された複数の第1の行列要素を含み、
前記エコーキャンセル部は、各前記スピーカ入力信号および各前記検出信号により構成される入力ベクトルを前記分離行列に対して乗算して各前記検出信号に含まれる第2の音響信号を各前記検出信号から減算することにより、各前記検出信号に含まれる第1の音響信号と第2の音響信号とを分離することを特徴とする、請求項1に記載のマルチチャンネルエコーキャンセラ。 - 前記分離行列は、前記第2の場所に存在する1以上の音源から当該第2の場所に設けられた複数のマイクロホンまでの各伝達特性に関する複数の第2の行列要素をさらに含み、
各前記第2の行列要素のうち、前記分離行列の対角以外を構成する行列要素が0であることを特徴する、請求項4に記載のマルチチャンネルエコーキャンセラ。 - 前記分離行列は、各前記検出信号を用いて、各前記スピーカ入力信号における前記第2の音響信号に含まれる互いに相関の低い信号を前記スピーカ入力信号の数の分だけ分離するための複数の第2の行列要素をさらに含み、
各前記第2の行列要素は、全て0であることを特徴する、請求項4に記載のマルチチャンネルエコーキャンセラ。 - 前記分離行列は、前記第2の場所に存在する1以上の音源から当該第2の場所に設けられた複数のマイクロホンまでの各伝達特性に関する複数の第2の行列要素と、各前記検出信号を用いて、各前記スピーカ入力信号における前記第2の音響信号に含まれる互いに相関の低い信号を前記スピーカ入力信号の数の分だけ分離するための複数の第3の行列要素とをさらに含み、
各前記第2の行列要素のうち、前記分離行列の対角以外を構成する行列要素が0であり、各前記第3の行列要素が全て0であることを特徴する、請求項4に記載のマルチチャンネルエコーキャンセラ。 - 前記分離行列は、前記第1の場所に存在する1以上の音源から当該第1の場所に設けられた複数のマイクロホンまでの各伝達特性に関する複数の第2の行列要素をさらに含み、
各前記第2の行列要素のうち、前記分離行列の対角以外を構成する行列要素が0であることを特徴する、請求項4に記載のマルチチャンネルエコーキャンセラ。 - 第1の場所に設けられた複数のマイクロホンで検出される当該第1の場所に存在する1つ以上の音源からの第1の音響信号と、第2の場所に設けられた複数のマイクロホンで検出される当該第2の場所に存在する1つ以上の音源からの第2の音響信号とを、前記第1および第2の場所それぞれに設けられた複数のスピーカを用いることによって、前記第1および第2の場所間で相互伝送する音響システムに用いられるマルチチャンネルエコーキャンセル方法であって、
前記第1の場所に設けられた複数のマイクロホンは、前記第1の音響信号に加えてさらに、前記第1の場所に設けられた複数のスピーカで拡声された前記第2の音響信号を検出しており、
前記マルチチャンネルエコーキャンセル方法は、
前記第1の場所に設けられた複数のスピーカそれぞれに入力されるべき前記第2の音響信号を含むスピーカ入力信号と、前記第1の場所に設けられた複数のマイクロホンの検出信号とを入力する入力ステップと、
前記入力ステップにおいて入力された各前記スピーカ入力信号および各前記検出信号に対して独立成分分析に基づく信号処理を施すことによって、各前記検出信号に含まれる第1の音響信号と第2の音響信号とを分離する分離ステップと、
前記分離ステップにおいて分離された第1の音響信号のみを前記第2の場所に設けられた複数のスピーカへ出力することによって、各前記検出信号に含まれる第2の音響信号をエコーとしてキャンセルするキャンセルステップとを有する、マルチチャンネルエコーキャンセル方法。 - 前記分離ステップは、
前記入力ステップにおいて入力された各前記スピーカ入力信号および各前記検出信号で構成される入力ベクトルに対して、各前記検出信号に含まれる第1の音響信号と第2の音響信号とを分離するための分離行列であって、前記第1の場所に設けられた複数のスピーカから当該第1の場所に設けられた複数のマイクロホンまでの各伝達特性に関する複数の行列要素を含む分離行列を乗算することにより、当該乗算した結果である出力ベクトルを構成する複数の出力信号を算出する第1の信号算出ステップと、
前記第1の信号算出ステップにおいて算出された出力信号間についての高次の相関を行列要素にもつ相関行列を算出する行列算出ステップと、
前記行列算出ステップにおいて算出された相関行列を用いて、更新すべき前記分離行列に含まれる各前記行列要素を学習する学習ステップと、
前記第1の信号算出ステップにおいて用いられた前記分離行列に含まれる各前記行列要素を、前記学習ステップにおいて学習された各前記行列要素に更新する更新ステップと、
前記入力ステップにおいて入力された各前記スピーカ入力信号および各前記検出信号で構成される入力ベクトルに対して、前記更新ステップにおいて各前記行列要素が更新された分離行列を乗算することにより、各前記検出信号に含まれる第1の音響信号と第2の音響信号とが分離した出力ベクトルを構成する複数の出力信号を算出する第2の信号算出ステップとを有し、
前記キャンセルステップは、前記第2の信号算出ステップにおいて算出された各前記出力信号のうち、前記第1の音響信号のみを含む出力信号を前記第2の場所に設けられた複数のスピーカへ出力することを特徴とする、請求項9に記載のマルチチャンネルエコーキャンセル方法。 - 第1の場所に設けられた複数のマイクロホンで検出される当該第1の場所に存在する1つ以上の音源からの第1の音響信号と、第2の場所に設けられた複数のマイクロホンで検出される当該第2の場所に存在する1つ以上の音源からの第2の音響信号とを、前記第1および第2の場所それぞれに設けられた複数のスピーカを用いることによって、前記第1および第2の場所間で相互伝送する音響システムに用いられるコンピュータに実行させるプログラムであって、
前記第1の場所に設けられた複数のマイクロホンは、前記第1の音響信号に加えてさらに、前記第1の場所に設けられた複数のスピーカで拡声された前記第2の音響信号を検出しており、
前記コンピュータに、
前記第1の場所に設けられた複数のスピーカそれぞれに入力されるべき前記第2の音響信号を含むスピーカ入力信号と、前記第1の場所に設けられた複数のマイクロホンの検出信号とを入力する入力ステップと、
前記入力ステップにおいて入力された各前記スピーカ入力信号および各前記検出信号に対して独立成分分析に基づく信号処理を施すことによって、各前記検出信号に含まれる第1の音響信号と第2の音響信号とを分離する分離ステップと、
前記分離ステップにおいて分離された第1の音響信号のみを前記第2の場所に設けられた複数のスピーカへ出力することによって、各前記検出信号に含まれる第2の音響信号をエコーとしてキャンセルするキャンセルステップとを実行させるプログラム。 - 第1の場所に設けられた複数のマイクロホンで検出される当該第1の場所に存在する1つ以上の音源からの第1の音響信号と、第2の場所に設けられた複数のマイクロホンで検出される当該第2の場所に存在する1つ以上の音源からの第2の音響信号とを、前記第1および第2の場所それぞれに設けられた複数のスピーカを用いることによって、前記第1および第2の場所間で相互伝送する音響システムに用いられる集積回路であって、
前記第1の場所に設けられた複数のマイクロホンは、前記第1の音響信号に加えてさらに、前記第1の場所に設けられた複数のスピーカで拡声された前記第2の音響信号を検出しており、
前記集積回路は、前記第1の場所に設けられた複数のスピーカそれぞれに入力されるべき前記第2の音響信号を含むスピーカ入力信号と、前記第1の場所に設けられた複数のマイクロホンの検出信号とを入力とし、独立成分分析に基づく信号処理を施して各前記検出信号に含まれる第1の音響信号と第2の音響信号とを分離し、当該分離した第1の音響信号のみを前記第2の場所に設けられた複数のスピーカへ出力することによって、各前記検出信号に含まれる第2の音響信号をエコーとしてキャンセルするエコーキャンセル部を備える、集積回路。 - 検出すべき近端音源の音響信号に加えてさらに、複数のスピーカで拡声された音響信号が含まれる1つ以上のマイクロホンの検出信号に対して、当該複数のスピーカで拡声された音響信号をエコーとしてキャンセルして前記近端音源の音響信号のみを出力するマルチチャンネルエコーキャンセラであって、
前記近端音源の音響信号と各前記スピーカで拡声された音響信号とを含む前記1つ以上のマイクロホンの検出信号と、音の方向感を有する各前記スピーカに入力されるべきスピーカ入力信号とを入力とし、前記近端音源の音響信号と各前記スピーカで拡声された音響信号とが前記1つ以上のマイクロホンで同時に検出される所定時間において、出力すべき信号が前記近端音源の音響信号の音質を保持した信号となるように、かつ、出力すべき信号が各前記スピーカから拡声された音響信号をキャンセルした信号となるように適応動作することによって、前記1つ以上のマイクロホンの検出信号に含まれる前記近端音源の音響信号と各前記スピーカで拡声された音響信号とを分離し、分離した前記近端音源の音響信号のみを出力する音源分離部を備える、マルチチャンネルエコーキャンセラ。 - 前記音源分離部は、各前記スピーカから前記1つ以上のマイクロホンまでの各伝達特性を推定し、各前記スピーカで拡声されて前記1つ以上のマイクロホンで検出された音響信号を前記推定した各伝達特性を用いて算出し、算出した音響信号を前記1つ以上のマイクロホンの検出信号から減算するように適応動作することを特徴とする、請求項13に記載のマルチチャンネルエコーキャンセラ。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007175430A JP4920511B2 (ja) | 2006-07-06 | 2007-07-03 | マルチチャンネルエコーキャンセラ |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006186408 | 2006-07-06 | ||
JP2006186408 | 2006-07-06 | ||
JP2007175430A JP4920511B2 (ja) | 2006-07-06 | 2007-07-03 | マルチチャンネルエコーキャンセラ |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2008033307A true JP2008033307A (ja) | 2008-02-14 |
JP2008033307A5 JP2008033307A5 (ja) | 2010-05-06 |
JP4920511B2 JP4920511B2 (ja) | 2012-04-18 |
Family
ID=39122730
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007175430A Active JP4920511B2 (ja) | 2006-07-06 | 2007-07-03 | マルチチャンネルエコーキャンセラ |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4920511B2 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009284435A (ja) * | 2008-05-26 | 2009-12-03 | Nippon Telegr & Teleph Corp <Ntt> | チャネル間特性差機能付き収音再生装置とその方法 |
JP2011002535A (ja) * | 2009-06-17 | 2011-01-06 | Toyota Motor Corp | 音声対話システム、音声対話方法、及びプログラム |
JP2014511584A (ja) * | 2011-12-29 | 2014-05-15 | ゴーアテック インコーポレイテッド | マルチ受話端のエコー除去方法及びシステム |
JP2015210512A (ja) * | 2014-04-24 | 2015-11-24 | 晋哉 齋藤 | ブラインド信号分離方法およびその装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004048253A (ja) * | 2002-07-10 | 2004-02-12 | Denso Corp | エコーキャンセラ装置、及び音声通信装置 |
JP2006208075A (ja) * | 2005-01-26 | 2006-08-10 | Hitachi Ltd | 異常診断装置および方法ならびにプログラム |
-
2007
- 2007-07-03 JP JP2007175430A patent/JP4920511B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004048253A (ja) * | 2002-07-10 | 2004-02-12 | Denso Corp | エコーキャンセラ装置、及び音声通信装置 |
JP2006208075A (ja) * | 2005-01-26 | 2006-08-10 | Hitachi Ltd | 異常診断装置および方法ならびにプログラム |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009284435A (ja) * | 2008-05-26 | 2009-12-03 | Nippon Telegr & Teleph Corp <Ntt> | チャネル間特性差機能付き収音再生装置とその方法 |
JP2011002535A (ja) * | 2009-06-17 | 2011-01-06 | Toyota Motor Corp | 音声対話システム、音声対話方法、及びプログラム |
JP2014511584A (ja) * | 2011-12-29 | 2014-05-15 | ゴーアテック インコーポレイテッド | マルチ受話端のエコー除去方法及びシステム |
JP2015210512A (ja) * | 2014-04-24 | 2015-11-24 | 晋哉 齋藤 | ブラインド信号分離方法およびその装置 |
Also Published As
Publication number | Publication date |
---|---|
JP4920511B2 (ja) | 2012-04-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8189765B2 (en) | Multichannel echo canceller | |
EP1848243B1 (en) | Multi-channel echo compensation system and method | |
JP3727258B2 (ja) | エコー抑制処理システム | |
EP1855457B1 (en) | Multi channel echo compensation using a decorrelation stage | |
EP3312839B1 (en) | Device for assisting two-way conversation and method for assisting two-way conversation | |
US8498423B2 (en) | Device for and a method of processing audio signals | |
US8958572B1 (en) | Adaptive noise cancellation for multi-microphone systems | |
JP2008020897A (ja) | 車両通信システムにおけるオーディオ信号コンポーネントを補償するための方法およびそのためのシステム | |
US20170178663A1 (en) | Echo canceller device | |
JP2004349806A (ja) | 多チャネル音響エコー消去方法、その装置、そのプログラム及びその記録媒体 | |
JP4920511B2 (ja) | マルチチャンネルエコーキャンセラ | |
JP2002084212A (ja) | 反響抑圧方法、反響抑圧装置及び反響抑圧プログラム記憶媒体 | |
Ruiz et al. | Distributed combined acoustic echo cancellation and noise reduction in wireless acoustic sensor and actuator networks | |
EP3833045B1 (en) | Conversation assistance system, method therefor, and program | |
Mahbub et al. | A single-channel acoustic echo cancellation scheme using gradient-based adaptive filtering | |
JP2008252510A (ja) | エコーキャンセラ | |
JP2010068213A (ja) | エコー消去装置 | |
KR102045953B1 (ko) | 칼만필터 기반의 다채널 입출력 음향학적 반향 제거 방법 | |
JP4663630B2 (ja) | マルチチャンネルシステム同定装置 | |
JP3628267B2 (ja) | 多チャネル反響消去方法、その装置、そのプログラム及びその記録媒体 | |
Buchner et al. | An acoustic human-machine interface with multi-channel sound reproduction | |
JP5058052B2 (ja) | エコー消去装置 | |
JP4425114B2 (ja) | 反響消去方法、反響消去装置、反響消去プログラム、及びこれを記録した記録媒体 | |
JP2012205161A (ja) | 音声通話装置 | |
JP2006014359A (ja) | エコー抑制処理システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100317 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100317 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20110826 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20111011 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111019 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111214 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120112 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120201 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4920511 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150210 Year of fee payment: 3 |