JP4209348B2 - エコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体 - Google Patents

エコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体 Download PDF

Info

Publication number
JP4209348B2
JP4209348B2 JP2004062610A JP2004062610A JP4209348B2 JP 4209348 B2 JP4209348 B2 JP 4209348B2 JP 2004062610 A JP2004062610 A JP 2004062610A JP 2004062610 A JP2004062610 A JP 2004062610A JP 4209348 B2 JP4209348 B2 JP 4209348B2
Authority
JP
Japan
Prior art keywords
echo
gain
short
echo suppression
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004062610A
Other languages
English (en)
Other versions
JP2005250266A (ja
Inventor
澄宇 阪内
陽一 羽田
章俊 片岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2004062610A priority Critical patent/JP4209348B2/ja
Publication of JP2005250266A publication Critical patent/JP2005250266A/ja
Application granted granted Critical
Publication of JP4209348B2 publication Critical patent/JP4209348B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Circuit For Audible Band Transducer (AREA)
  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)

Description

この発明は、エコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体に関し、特に、電話伝送において、ハウリング、聴覚上の劣化を引き起こすエコーを抑圧し、送話者音声品質を向上させるエコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体に関する。
図4を参照して、送話音声s(k)にエコー信号b(k)が重畳したエコー重畳信号y(k)から、周波数領域でエコーを抑圧する従来の技術について説明する。なお、kは離散時間を表す(特許文献1 参照)。図4において、301はエコー抑圧装置、302はエコー経路伝搬遅延推定部、303は遅延器、304はエコー経路結合量推定部、305はエコー抑圧ゲイン算出部、306は乗算器、401、402が周波数分析部、403が時間合成部である。
始めに、受話(再生)信号x(k)及びエコー重畳信号y(k)をそれぞれ、受話信号周波数分析部401および送話信号周波数分析部402で周波数領域に変換し、信号の短時間スペクトルX(f)、Y(f)をそれぞれ求める。fは周波数を表す。なお、特許文献1においては、受話信号に対してエコー経路の伝搬遅延を考慮した方法が記載されているが、ここではその説明は省略する。次に、変換した受話信号及びエコー重畳信号それぞれのパワーPX(f)、PY(f)の比の極小値から、エコ.一経路結合量推定部304において、推定エコー経路結合量C(f)を計算する。具体的には、所定期間毎にエコー重畳信号のパワーに対する受話信号のパワーの比を算出し、前回取得した比と今回取得した比とを比較して、小さい方を推定エコー経路結合量とする。そして、エコー抑圧ゲイン算出部305において、先ず、受話信号パワーPX(f)に推定エコー経路結合量C(f)を乗じて、予測エコー信号パワーPB(f)を計算する。その予測エコー信号パワーPB(f)と、エコー重畳信号の短時問スペクトルY(f)のパワースペクトルPY(f)を用いて、エコー抑圧ゲインG(f)を計算する。
ここで、エコー抑圧ゲインG(f)は、エコー重畳信号y(k)に対する送話信号s(k)のパワー比率、即ち、エコー重畳信号中に占める送話信号の割合に等しくなるように計算する。なお、送話信号s(k)自体を直接観測することはできないので、エコー重畳信号のパワースペクトルPY(f)と予測エコー信号パワーPB(f)の差を近似的に用いる。こうして求めたエコー抑圧ゲインG(f)を乗算器306でエコー重畳信号の短時問スペクトルY(f)に乗じる。この処理は、エコー重畳信号を、その信号に含まれる送話信号の割合に見合った量に減算する処理に相当し、かくしてエコーを抽圧した処理信号S’(f)が得られる。最後に、時間合成部403で逆変換を行い、エコー信号b’(k)を抑圧し送話信号s(k)を強調した時間信号s’(k)を相手側に送信することができる。
上述した通り、エコー抑圧ゲインG(f)をエコー重畳信号Y(f)に含まれる送話信号S(f)のパワー比率に等しくなるように計算するエコー抑圧方法は、他の文献にも開示されている(特許文献2、3 参照)。
特許第3507020号明細書 特許第3420705号明細書 特開2003−284183号公報
従来例は、エコー抑圧ゲインG(f)をエコー重畳信号y(k)に含まれる送話(収録)信号s(k)のパワー比率に等しくなるように計算する。周波数領域での処理の場合、エコー抑圧ゲインG(f)はエコー重畳信号y(k)の周波数分析点数と同数の係数(ゲイン係数)で構成される。さて、エコー重畳信号y(k)のパワーは、マイクロホンに収音される信号自体のため正確に計算できる。これに対して、すでにエコーが重畳されてマイクロホンに収音された送話信号s(k)のパワーは単独で測定することはできない。そのために、受話信号パワーPX(f)に推定エコー経路結合量量C(f)を乗じて、予測エコー信号パワーPB(f)を計算する。この時、受話信号パワーPX(f)は既知だがエコー経路結合量C(f)は推定値のために、予測エコー信号パワーPB(f)には推定誤差が生じる。この推定誤差の影響で、計算したゲイン係数は理想的な値(パワー比率)とはならない。即ち、周波数領域で隣り合うゲイン係数が理想的な値に比べ断続的(飛び飛び)になるために、これが処理後の送話音声に歪みを発生させる原因となる。
この発明は、予測エコー信号パワーに推定誤差があっても、処理後の送話音声の歪み発生を抑え、且つ充分なエコー抑圧量を実現するエコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体を提供するものである。
請求項1:送話信号から受話信号に起因するエコー成分を抑圧するエコー抑圧方法において、受話信号を周波数領域に変換し、送話信号を周波数領域に変換し、周波数領域における受話信号短時間スペクトル及び送話信号短時間スペクトルからエコー成分の短時間スペクトルを推定し、送話信号短時間スペクトルに含まれる送話信号短時間スペクトルとエコー成分短時間スペクトルとの差のパワー比率を素エコー抑圧ゲインとして計算し、素エコー抑圧ゲインの各ゲイン係数の周波数軸上で隣接するゲイン係数との重み付け加算平均値を平滑化エコー抑圧ゲインの各ゲイン係数とし平滑化エコー抑圧ゲインの各ゲイン係数が1に近い場合はより1に近づけ、0に近い場合はより0に近づけた値を強調化エコー抑圧ゲインの各ゲイン係数とし、強調化エコー抑圧ゲインを送話信号短時間スペクトルに重畳して抑圧処理信号短時間スペクトルを計算し、抑圧処理信号短時間スペクトルを時間領域に逆変換して出力するエコー抑圧方法を構成した。
ここで、請求項:送話信号から受話信号に起因するエコー成分を抑圧するエコー抑圧装置において、受話信号を周波数領域に変換する受話信号周波数分析部と、送話信号を周波数領域に変換する送話信号周波数分析部と、周波数領域での受話信号短時間スペクトル及び送話信号短時間スペクトルからエコー成分の短時間スペクトルを推定するエコー成分短時間スペクトル推定部と送話信号短時間スペクトルに含まれる送話信号短時間スペクトルとエコー成分短時間スペクトルとの差のパワー比率を素エコー抑圧ゲインとして計算する素エコー抑圧ゲイン計算部と、素エコー抑圧ゲインの各ゲイン係数の周波数軸上で隣接するゲイン係数との重み付け加算平均値を平滑化エコー抑圧ゲインの各ゲイン係数とするエコー抑圧ゲイン平滑化部と平滑化エコー抑圧ゲインの各ゲイン係数が1に近い場合はより1に近づけ、0に近い場合はより0に近づけた値を強調化エコー抑圧ゲインの各ゲイン係数とするエコー抑圧ゲイン強調化部と、強調化エコー抑圧ゲインを送話信号短時間スペクトルに重畳して抑圧処理信号短時間スペクトルを計算するエコー抑圧ゲイン重畳部と、抑圧処理信号短時間スペクトルを時間領域に逆変換して出力する時間合成部とを具備するエコー抑圧装置を構成した。
更に、請求項コンピュータを請求項2に記載のエコー抑圧装置として機能させるためのプログラムを構成した。
また、請求項コンピュータを請求項2に記載のエコー抑圧装置として機能させるためのプログラムを記録したコンピュータに読み取り可能な記録媒体を構成した。
この発明によれば、ゲイン係数の平滑化を行うことによりエコー抑圧ゲインの断続性が減少し、音声歪みの発生が抑えられ、平滑化した後のゲイン係数を強調化することにより、送話音声の欠損を回避し、且つエコーを充分に抑圧するという効果が生ずる。
以下、発明を実施するための最良の形態を図の実施例を参照して具体的に説明する。図1は音響エコー或いは回線エコーを抑圧するエコー抑圧装置の実施例を説明する図である。
図1において、受話信号入力端201から入力された受話信号x(k)は、受話信号出力端202から出力され、エコー経路7を伝搬した後にエコー信号b(k)となる。そして、送話信号s(k)に加算され、エコー重畳信号y(k)となる。エコー重畳信号y(k)は送話信号入力端203を介してエコー抑圧装置501に入力される。
エコー抑圧装置501は、はじめに、エコー重畳信号y(k)を送話信号周波数分析部402で周波数領域に変換し、短時間スペクトルY(m,f)を出力する。同時に、受話信号周波数分析部401は受話信号x(k)を周波数領域に変換し、短時間スペクトルX(m,f)を出力する。ここで、kは任意のサンプリング時刻、mは周波数領域でフレーム処理を行うために逐次切り取った各フレームの番号、fは任意の周波数を表す。
次に、エコー成分短時間スペクトル推定部500はエコーパワー計算部506およびエコー経路結合量記憶部502より成り、周波数領域での受話信号短時間スペクトル及び送話信号短時間スペクトルからエコー成分の短時間スペクトルを推定する。エコーパワー計算部506において、エコー経路結合量記憶部502からエコー経路結合量(音響結合量)C(m,f)を読み込み、受話信号x(k)の短時間スペクトルX(m,f)に基づいて計算されたパワースペクトルPX(m,f)と周波数領域で乗じることにより、エコーのパワースペクトルPB(m,f)を求める。なお、エコー経路結合量(音響結合量)C(m,f)の計算方法は、背景技術に示した特許文献1〜3において詳細に説明されている。この方法による計算結果をエコー経路結合量記憶部502に記憶して準備しておく。
次に、エコー抑圧ゲイン計算部508の素エコー抑圧ゲイン計算部601において、エコー重畳信号)の短時間スペクトルY(m,f)に基づいて計算されたパワースペクトルPY(m,f)とエコーのパワースペクトルPB(m,f)とを用いて素のエコー抑圧ゲインG(m,f)を求める。以上のエコーパワースペクトルPB(m,f)及び素のエコー抑圧ゲインG(m,f)の計算方法も、背景技術に示した特許文献1〜3において詳細に説明されている。
ここで、エコー抑圧ゲイン平滑化部602において、求められた素のエコー抑圧ゲインG(m,f)の要素であるゲイン係数に対して重みをつける平滑化を行う。素エコー抑圧ゲイン計算部601で計算された素エコー抑圧ゲインG(m,f)のゲイン係数は、[発明が解決しようとする課題]でも説明した通り、エコーのパワースペクトルPB(m,f)の推定誤差の影響で理想の値とのずれが生じ、それぞれのゲイン係数に断続性が生じる。このために、周波数軸上で隣接するゲイン係数の断続性を緩和することにより、各ゲイン係数の値を滑らかにする平滑化を行う。
以下、平滑化の手法を具体的に説明する。素のエコー抑圧ゲインG(m,f)の周波数領域でnバンド目の要素である素ゲイン係数をg(n)、平滑化した後の平滑化ゲイン係数をge(n)とすると、平滑化処理の1例は、以下の式で表すことができる。
Figure 0004209348
この式は、ゲイン係数g(n−d1)〜g(n+d2)の平均値をnバンド目の平滑化ゲイン係数ge(n)とする平滑化処理を示す。ここで、d1は0以上n以下の整数、d2は0以上で「分析フレーム点数−n」以下の整数とする。また、a(i)はiバンド目の重み係数を表す。重み係数a(i)は、平均値を計算する場合の各素ゲイン係数の影響、即ち、断続性を緩和する割合を制御する。以上の処理の後に、平滑化エコー抑圧ゲインGe(m,f)を出力する。
次に、エコー抑圧ゲイン強調化部603において、エコー抑圧ゲイン平滑化部602ですでに平滑化したゲイン係数ge(n)の強調化を行う。強調化については、後で詳細に説明される。ゲイン関数は平滑化によって不連続性がなくなるが、トレードオフで「なまる」という弊害が生じる。具体的には、nバンド目のゲイン係数が1で、隣接するn−1バンド目が0.92、n+1バンド目が0.93の時に、この3つのバンドで平均値からnバンド目の平滑化ゲイン係数を決めると、0.95となる(重み係数a(i)は、全て1とした)。
ところで、以上のゲイン係数は、送話信号に占める送話音声の周波数領域におけるそれぞれの比率である。即ち、計算されたゲイン係数が1に近い時はエコーが小さく、送話音声が支配的な通話状態であり、0に近い時は送話音声が小さくエコーが支配的な通話状態である。先に説明したように、平滑化ゲイン係数が「なまる」と、その値は0および1から離れてしまう。1から離れると、例えば、先の例のように平滑化して0.95になると、送話音声が支配的なのにその周波数領域の成分を95%にしてしまう。即ち、送話音声に5%の欠損が生じる。0から離れると、例えば、0.05になると、エコーが支配的で100%抑圧すべき時に95%の抑圧となり、残留エコーが生じて通話品質に悪影響を及ぼすに到る。そこで、以下に示す平滑化され「なまった」平滑化ゲイン係数g(n)の強調化処理を行う。強調化したエコー抑圧ゲインをG(m,f)として、その周波数領域でnバンド目の強調化ゲイン係数をg(n)とした場合、強調化処理は平滑化ゲイン係数g(n)の値の大小によって、それぞれのゲイン係数を0もしくは1に近づけるように行う処理である。即ち、平滑化ゲイン係数g(n)が大きい1に近い場合は、より1に近づけて送話音声をより通し易くし、平滑化ゲイン係数g(n)が小さい0に近い場合は、より0に近づけてエコーをより抑圧するように平滑化エコー抑圧ゲインG(m,f)を強調する。この強調化処理の具体的な1例を以下に式で示す。
(n)がth1より大きい場合:g(n)=g(n)v1(n)
(n)がth2より小さい場合:g(n)=g(n)v2(n)
ここで、v1(n)は0以上1以下の数、v2(n)は1以上の数とする。また、th1とth2は、th1≧th2の関係を満たす0以上1以下の数である。g(n)は0から1の範囲の値を持つため、v1(n)を乗じた場合、より1に近づき、v2(n)を乗じた場合、より0に近づく処理をこの式は実現する。以上の処理の後に、強調化したエコー抑圧ゲインG(m,f)を出力する。
そして、エコー抑圧ゲイン重畳部509において、短時間スペクトルY(m,f)に強調化したエコー抑圧ゲインGg(m,f)を乗じ、エコー信号を抑圧した短時問スペクトルS’(m,f)を出力する。最後に、時間合成部403において、エコー信号を抑圧した短時問スペクトルS’(m,f)を時間信号に逆変換して送話信号出力端204に出力する。この処理は、図に示すように入出力が2以上のNチャネルの場合にも、全てのチャネルに対して独立に処理を行うことにより、Nチャネルのエコーの抑圧をすることができる。
ここで、適応フィルタを用いたエコーキャンセラ205をこの発明のエコー抑圧装置501の前段に配置した構成のエコー抑圧装置を図3を参照して説明する。図3のエコー抑圧装置において、エコー抑圧装置501自体は先の図1の場合と同様に動作するが、エコー重畳信号y(k)の代わりにエコーキャンセラ205によって或る程度まで消去された残留エコーe(k)の重畳した送話信号s(k)を入力信号とする。この場合、周波数帯域毎のエコー経路結合量は、前段のエコーキャンセラ205を含んだ結合量となるが、エコー抑圧装置501の処理として不具合が生じることはない。
この発明のエコー抑圧装置を、DSP(Digital Signal Processor)により行うようにしてもよい。また、コンピュータによりプログラムを実行させることにより機能させてもよい。この場合は、そのプログラムはCD−ROM、フロッピー(登録商標)ディスク、磁気ディスクなどに記録されたものを、コンピュータ内のプログラム用メモリに取り込んで行うことになる。このプログラム用メモリには、通信によりプログラムをダウンロードさせてもよい。
実施例を説明する図。 入出力が2チャネル以上の場合の実施例を説明する図。 エコーキャンセラをエコー抑圧装置の前段に配置した実施例を説明する図。 従来例を説明する図。
符号の説明
401 受話信号周波数分析部 402 送話信号周波数分析部
403 時間合成部 500 エコー成分短時間スペクトル推定部
502 エコー経路結合量記憶部 506 エコーパワー計算部
509 エコー抑圧ゲイン重畳部 601 素エコー抑圧ゲイン計算部
602 エコー抑圧ゲイン平滑化部 603 エコー抑圧ゲイン強調化部

Claims (4)

  1. 送話信号から受話信号に起因するエコー成分を抑圧するエコー抑圧方法において、
    受話信号を周波数領域に変換し、送話信号を周波数領域に変換し、周波数領域における受話信号短時間スペクトル及び送話信号短時間スペクトルからエコー成分の短時間スペクトルを推定し、送話信号短時間スペクトルに含まれる送話信号短時間スペクトルとエコー成分短時間スペクトルとの差のパワー比率を素エコー抑圧ゲインとして計算し、素エコー抑圧ゲインの各ゲイン係数の周波数軸上で隣接するゲイン係数との重み付け加算平均値を平滑化エコー抑圧ゲインの各ゲイン係数とし平滑化エコー抑圧ゲインの各ゲイン係数が1に近い場合はより1に近づけ、0に近い場合はより0に近づけた値を強調化エコー抑圧ゲインの各ゲイン係数とし、強調化エコー抑圧ゲインを送話信号短時間スペクトルに重畳して抑圧処理信号短時間スペクトルを計算し、抑圧処理信号短時間スペクトルを時間領域に逆変換して出力することを特徴とするエコー抑圧方法。
  2. 送話信号から受話信号に起因するエコー成分を抑圧するエコー抑圧装置において、
    受話信号を周波数領域に変換する受話信号周波数分析部と、送話信号を周波数領域に変換する送話信号周波数分析部と、周波数領域での受話信号短時間スペクトル及び送話信号短時間スペクトルからエコー成分の短時間スペクトルを推定するエコー成分短時間スペクトル推定部と、送話信号短時間スペクトルに含まれる送話信号短時間スペクトルとエコー成分短時間スペクトルとの差のパワー比率を素エコー抑圧ゲインとして計算する素エコー抑圧ゲイン計算部と、素エコー抑圧ゲインの各ゲイン係数の周波数軸上で隣接するゲイン係数との重み付け加算平均値を平滑化エコー抑圧ゲインの各ゲイン係数とするエコー抑圧ゲイン平滑化部と、平滑化エコー抑圧ゲインの各ゲイン係数が1に近い場合はより1に近づけ、0に近い場合はより0に近づけた値を強調化エコー抑圧ゲインの各ゲイン係数とするエコー抑圧ゲイン強調化部と、強調化エコー抑圧ゲインを送話信号短時間スペクトルに重畳して抑圧処理信号短時間スペクトルを計算するエコー抑圧ゲイン重畳部と、抑圧処理信号短時間スペクトルを時間領域に逆変換して出力する時間合成部とを具備することを特徴とするエコー抑圧装置。
  3. コンピュータを請求項2に記載のエコー抑圧装置として機能させるためのプログラム。
  4. コンピュータを請求項2に記載のエコー抑圧装置として機能させるためのプログラムを記録したコンピュータに読み取り可能な記録媒体。
JP2004062610A 2004-03-05 2004-03-05 エコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体 Expired - Lifetime JP4209348B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004062610A JP4209348B2 (ja) 2004-03-05 2004-03-05 エコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004062610A JP4209348B2 (ja) 2004-03-05 2004-03-05 エコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体

Publications (2)

Publication Number Publication Date
JP2005250266A JP2005250266A (ja) 2005-09-15
JP4209348B2 true JP4209348B2 (ja) 2009-01-14

Family

ID=35030782

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004062610A Expired - Lifetime JP4209348B2 (ja) 2004-03-05 2004-03-05 エコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体

Country Status (1)

Country Link
JP (1) JP4209348B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009028023A1 (ja) * 2007-08-24 2009-03-05 Fujitsu Limited エコー抑制装置、エコー抑制システム、エコー抑制方法及びコンピュータプログラム
JP5245714B2 (ja) 2008-10-24 2013-07-24 ヤマハ株式会社 雑音抑圧装置及び雑音抑圧方法

Also Published As

Publication number Publication date
JP2005250266A (ja) 2005-09-15

Similar Documents

Publication Publication Date Title
JP4162604B2 (ja) 雑音抑圧装置及び雑音抑圧方法
JP5671147B2 (ja) 後期残響成分のモデリングを含むエコー抑制
RU2495506C2 (ru) Устройство и способ расчета параметров управления фильтра эхоподавления и устройство и способ расчета величины задержки
JP5036874B2 (ja) エコー消去装置
JP4423300B2 (ja) 雑音抑圧装置
JP5038143B2 (ja) エコーキャンセル
US8311234B2 (en) Echo canceller and communication audio processing apparatus
JP4957810B2 (ja) 音処理装置、音処理方法及び音処理プログラム
JP5785674B2 (ja) デュアルマイクに基づく音声残響低減方法及びその装置
JP2012501152A (ja) 前白色化を伴うlmsアルゴリズムによって適応させられる適応フィルタの更新済みフィルタ係数を決定する方法
EP2597639A2 (en) Sound processing device
EP2987314B1 (en) Echo suppression
JP5662232B2 (ja) エコー消去装置、その方法及びプログラム
JP5469564B2 (ja) 多チャネルエコー消去方法、多チャネルエコー消去装置及びそのプログラム
JP3756839B2 (ja) 反響低減方法、反響低減装置、反響低減プログラム
JP4413205B2 (ja) エコー抑圧方法、装置、エコー抑圧プログラム、記録媒体
JP3756828B2 (ja) 反響消去方法、この方法を実施する装置、プログラムおよびその記録媒体
JP4700673B2 (ja) エコー消去方法、装置、プログラム、および記録媒体
JP3673727B2 (ja) 反響消去方法、その装置、そのプログラム及びその記録媒体
JP4209348B2 (ja) エコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体
KR20090122802A (ko) 스펙트럼 차감을 이용한 음향학적 반향 제거 방법 및 장치
JP4559989B2 (ja) エコー抑圧方法、エコー抑圧プログラム、記録媒体
JP5620350B2 (ja) 場内拡声方法、場内拡声装置とそのプログラム
RU2786157C2 (ru) Устройство эхоподавления, способ эхоподавления и программа эхоподавления
JP2013042334A (ja) 情報処理装置、情報処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051003

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20051003

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080805

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080918

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081014

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081022

R150 Certificate of patent or registration of utility model

Ref document number: 4209348

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121031

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121031

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131031

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term