JP5640393B2 - エコー除去装置、方法及びプログラム - Google Patents

エコー除去装置、方法及びプログラム Download PDF

Info

Publication number
JP5640393B2
JP5640393B2 JP2010036214A JP2010036214A JP5640393B2 JP 5640393 B2 JP5640393 B2 JP 5640393B2 JP 2010036214 A JP2010036214 A JP 2010036214A JP 2010036214 A JP2010036214 A JP 2010036214A JP 5640393 B2 JP5640393 B2 JP 5640393B2
Authority
JP
Japan
Prior art keywords
echo
component
signal
frequency component
frequency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010036214A
Other languages
English (en)
Other versions
JP2011172165A (ja
Inventor
青柳 弘美
弘美 青柳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2010036214A priority Critical patent/JP5640393B2/ja
Publication of JP2011172165A publication Critical patent/JP2011172165A/ja
Application granted granted Critical
Publication of JP5640393B2 publication Critical patent/JP5640393B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
  • Telephone Function (AREA)
  • Circuit For Audible Band Transducer (AREA)

Description

本発明はエコー除去装置、方法及びプログラムに関し、例えば、ソフトフォンにおける音響エコーを除去するために適用し得る。
近年、VoIP(Voice over IP)を利用したIP電話が普及している。これを、パーソナルコンピュータ(PC)上のアプリケーションとして実現するものがあり、一般にソフトフォンと称されている。ソフトフォンにおいては、音声の入出力に際して、PCに内蔵された汎用的なサウンドデバイス(A/DやD/A)、デバイスドライバが利用される。
ところが、このようなデバイスやドライバは、PC上で動作する他のソフトウェアと時分割で動作させているため、他のソフトウェアの処理によっては、音声の入出力に途切れや欠落が生じて不連続になる。このことは、エコー除去装置にとっては、エコー経路の特性(特に、遅延時間)が変化しているように見え、しかも、このようなエコー経路の特性変化は、他のソフトウェア処理との時分割処理の関係で突発的であり、マイクロフォンからの音声信号に含まれているエコー成分を除去するのは困難であった。
このようなエコー特性の変化に対応する方法として、特許文献1に記載の方法がある。特許文献1の記載技術は、エコー経路の開始点とエコーキャンセラを接続する参照信号線を、エコー経路中の受信側バッファと送信側バッファを経由して配線する方法である。
しかしながら、特許文献1の記載技術は、PCの改修又は特殊な回路の追加が必要になり、汎用的なPCの機能、特性を阻害する恐れがあり、話者であるPCユーザにとっては、使い勝手の悪いものとなっていた。
このような課題を解決するために、特許文献2では、ハードウェアの変更を伴わないエコーキャンセラが提案されている。特許文献2に記載のエコーキャンセラは、送話信号を平滑化した平滑送話信号を算出する平滑送話信号計算手段と、受話信号を平滑化した平滑受話信号を算出する平滑受話信号計算手段と、平滑送話信号及び平滑受話信号の相関に基づき、エコー経路による遅延特性を反映させた遅延時間情報を得る遅延時間情報形成手段と、送話信号、受話信号及び遅延時間情報に基づき、適応フィルタのタップ係数の更新又は更新停止を指示する更新情報を得る更新情報形成手段とを備える。
特開2004−40589号公報 特開2007−189543号公報
しかしながら、特許文献2に記載のエコーキャンセラは、エコー遅延時間の突発的変化に完全には追従できない場合があり、このときにはエコーを十分に除去できず、エコー残差が残っていた。
そのため、エコー遅延時間の突発的変化などが生じても、エコー成分を十分に除去することができるエコー除去装置、方法及びプログラムが望まれている。
第1の本発明のエコー除去装置は、(1)遠端信号に基づいて擬似エコー信号を生成し、近端信号に含まれているエコー成分を除去するエコーキャンセラ本体と、(2)上記遠端信号の周波数特性を分析し、周波数成分毎に、雑音成分に対する信号成分の評価値を算出する周波数成分評価手段と、(3)上記遠端信号の周波数成分毎の算出された評価値に応じ、上記エコーキャンセラ本体からの出力信号において、エコー成分の消し残りがあると推定できる周波数成分を操作する近端周波数特性操作手段とを有し、(4)上記周波数成分評価手段は、上記遠端信号の周波数成分毎に、無音時の平均パワーを算出し、無音時の平均パワーに対する現時点のパワーの比を上記評価値として算出することを特徴とする。
第2の本発明のエコー除去方法は、(1)エコーキャンセラ本体が、遠端信号に基づいて擬似エコー信号を生成し、近端信号に含まれているエコー成分を除去し、(2)周波数成分評価手段は、上記遠端信号の周波数成分毎に、無音時の平均パワーを算出し、無音時の平均パワーに対する現時点のパワーの比を、雑音成分に対する信号成分の評価値として算出し、(3)近端周波数特性操作手段が、上記遠端信号の周波数成分毎の算出された評価値に応じ、上記エコーキャンセラ本体からの出力信号において、エコー成分の消し残りがあると推定できる周波数成分を操作することを特徴とする。
第3の本発明のエコー除去プログラムは、コンピュータを、(1)遠端信号に基づいて擬似エコー信号を生成し、近端信号に含まれているエコー成分を除去するエコーキャンセラ本体と、(2)上記遠端信号の周波数成分毎に、無音時の平均パワーを算出し、無音時の平均パワーに対する現時点のパワーの比を、雑音成分に対する信号成分の評価値として算出する周波数成分評価手段と、(3)上記遠端信号の周波数成分毎の算出された評価値に応じ、上記エコーキャンセラ本体からの出力信号において、エコー成分の消し残りがあると推定できる周波数成分を操作する近端周波数特性操作手段として機能させることを特徴とする。
本発明によれば、遠端信号の周波数特性を分析し、これを基に、エコー除去後の近端信号の周波数特性を操作するようにしたので、エコー成分の消し残りを抑圧することができる。
実施形態のエコー除去装置の機能的構成を示すブロック図である。 実施形態における無音時平均パワーの算出方法の説明図である。 実施形態における周波数操作(減衰)させる周波数成分の決定方法の説明図である。
(A)主たる実施形態
以下、本発明によるエコー除去装置、方法及びプログラムの一実施形態を、図面を参照しながら説明する。
(A−1)実施形態の構成
図1は、実施形態のエコー除去装置の機能的構成を示すブロック図である。実施形態のエコーキャンセラは、例えば、専用ボードとして構築されたものであっても良く、DSP(デジタルシグナルプロセッサ)へのエコー除去プログラムの書き込みによって実現されたものであっても良く、CPUと、CPUが実行するソフトウェア(エコー除去プログラム)によって実現されたものであっても良いが、機能的には、図1で表すことができる。但し、実施形態のエコー除去装置は、PC(ソフトフォン)に搭載されることを意図して開発されたものである。
図1おいて、実施形態のエコー除去装置100は、エコーキャンセラ本体101、有音無音判定回路102、周波数特性分析回路103及び周波数特性操作回路104を有する。
実施形態のエコー除去装置100は、図示しないマイクロフォン(マイク)が捕捉し、デジタル化されたデジタル送話信号(以下、近端信号と呼ぶ)sin(n)に含まれている、遠方からのデジタル受話信号(以下、遠端信号と呼ぶ)r(n)の成分を除去するものである。この実施形態の場合、エコー除去装置100から出力されたある時点の遠端信号r(n)が、エコー成分として、エコー除去装置100へ入力される近端信号sin(n)に含まれているようになる、エコー経路での遅延特性が一定でないことを前提としている。例えば、エコー除去装置100よりスピーカ側で遠端信号を処理する構成や、エコー除去装置100よりマイクロフォン側で近端信号を処理する構成が、CPUによる時分割処理によるソフトウェア処理構成である場合に、このような遅延特性の変化が生じる。
エコーキャンセラ本体101は、近端信号sin(n)からエコー成分を除去したエコー除去信号sout(n)を出力するものであり、既存のエコー除去装置の構成を適用できる。例えば、エコーキャンセラ本体101には、特許文献2に記載のエコーキャンセラの構成を適用することができる。この実施形態の場合、エコーキャンセラ本体101は、エコー遅延時間Tを周波数特性分析回路103に出力する。エコーキャンセラ本体101は、例えば、適応フィルタにおけるフィルタ係数が最も大きいタップに対応した時間をエコー遅延時間Tとして出力する。
有音無音判定回路102、周波数特性分析回路103及び周波数特性操作回路104は、エコー除去信号sout(n)に残っているエコー残差成分を抑圧するものである。
有音無音判定回路102は、遠端信号r(n)が有音であるか無音であるかを判定し、その判定結果Vを周波数特性分析回路103に与えるものである。有音無音判定は、例えば、遠端信号r(n)の所定時間(フレーム)毎に行い、信号パワーを閾値と比較して、閾値を超える場合に有音、そうでない場合に無音と判定する方法を適用できる。但し、他の有音無音判定方法を適用しても良いことは勿論である。
周波数特性分析回路103は、遠端信号r(n)の周波数特性を分析し、周波数特性操作回路104が操作する周波数成分、言い換えると、エコー除去信号sout(n)にエコー残差成分として残っていると推測できる周波数成分を決定するものである。周波数特性分析回路103は、無音区間における平均的なパワーを基準とし、この基準より、有音区間において十分に大きいパワーを有する周波数成分を、周波数特性操作回路104が操作する周波数成分に決定する。
以下、決定方法の一例を具体的に説明する。周波数特性分析回路103は、例えば、FFT(高速フーリエ変換)などを用いて遠端信号r(n)の周波数成分毎の大きさ(振幅特性;パワー)を得る。周波数特性分析回路103は、周波数成分毎に、過去の無音部分の一定期間分の平均値を計算する。例えば、図2に示すように、有音フレーム(v)と無音フレーム(u)とが出現する場合において、過去の一定期間を8フレーム(実際はこれより多い)とし、現在のフレームがフレームF3であれば、周波数成分毎に、フレームF3、F6、F8及びF10のパワーを平均する。現在のフレームがフレームF2であれば、周波数成分毎に、フレームF2、F3、F6及びF8のパワーを平均する。現在のフレームがフレームF1であれば、周波数成分毎に、フレームF2、F3、F6及びF8のパワーを平均する。周波数特性分析回路103は、現時点(現フレーム)の有音、無音を問わず、周波数毎に、無音時平均パワーPMi(iは周波数成分を表す)に対する現時点のパワーPiの比(現パワー/無音時平均パワー=Pi/PMi)を計算し、このパワー比が、閾値THより大きくなっている周波数成分を検出し、その周波数成分情報Cを周波数特性操作回路104に出力する。例えば、図3の例であれば、周波数成分f1、f3及びf4が周波数成分情報Cに記述されることとなる。ここで、周波数特性分析回路103は、周波数成分情報Cをエコー遅延時間Tだけ遅延させてから出力する。なお、周波数特性分析回路103は、周波数成分情報Cを直ちに出力し、周波数特性操作回路104が、その周波数成分情報Cを、エコー遅延時間Tだけ後で利用するようにしても良い。
周波数特性操作回路104は、エコーキャンセラ本体101からの出力信号sout(n)における、周波数成分情報Cで示される周波数成分に対して、ある一定量(例えば6dB)だけの減衰を施し、その減衰後の信号をエコー除去装置100からの最終的な出力信号s(n)として出力する。周波数特性操作回路104は、例えば、FFTにより、信号sout(n)を周波数軸上の信号に変換し、そして、必要な周波数成分に対して減衰を行い、減衰操作後の周波数軸上の信号を、逆FFTにより時間上の信号に変換することで、最終的な出力信号s(n)を得る。
(A−2)実施形態の動作
次に、実施形態のエコー除去装置100の動作(エコー除去方法)を説明する。
遠端信号r(n)がエコーパスを介して近端信号sin(n)に回り込んだエコー成分は、エコーキャンセラ本体101によって除去され、その除去後の近端信号であるエコー除去信号sout(n)が出力される。しかしながら、エコー除去信号sout(n)にエコー成分が残っていることもあり得、そのようなエコー残差成分は、有音無音判定回路102、周波数特性分析回路103及び周波数特性操作回路104でなるエコー残差消去構成によって軽減若しくは消去される。
遠端信号r(n)は、有音無音判定回路102に与えられ、有音無音判定回路102によって、遠端信号r(n)が有音であるか無音であるかを判定し、その判定結果Vが周波数特性分析回路103に与えられる。
周波数特性分析回路103においては、無音区間における遠端信号r(n)の平均的なパワーが計算され、また、現時点(現フレーム)の有音、無音を問わず、周波数毎に、無音時平均パワーPMiに対する現時点のパワーPiの比(現パワー/無音時平均パワー=Pi/PMi)が計算される。このパワー比Pi/PMiが閾値THより大きくなっている全ての周波数成分iが検出され、これら周波数成分iを特定している周波数成分情報Cが、エコー遅延時間Tだけ遅延されて、周波数特性分析回路103から周波数特性操作回路104に与えられる。
エコーキャンセラ本体101からの出力信号sout(n)における、周波数成分情報Cで示される周波数成分は、周波数特性操作回路104によって、ある一定量(例えば6dB)だけ減衰され、その減衰後の信号が、当該エコー除去装置100からの最終的な出力信号s(n)として出力される。
(A−3)実施形態の効果
上記実施形態によれば、エコーキャンセラ本体からのエコー除去信号に含まれているエコー残差成分を軽減若しくは消去することができる。
エコー成分の消し残りは、遅延時間の推定が実際と異なる場合に発生する。音声信号の周波数特性は、数十ms程度は定常的とみなせるため、推定した遅延時間の誤差が数十msであれば、上記実施形態の周波数特性操作により、エコー成分の消し残りを減衰、消去させることができる。これにより、エコーキャンセラ本体での消し残りを抑圧してエコー除去量を向上させることができる。
(B)他の実施形態
上記実施形態では、周波数特性操作回路104における減衰量が一定のものを示したが、減衰量を変化させるようにしても良い。例えば、周波数特性分析回路103において、減衰させる周波数成分を検出するための閾値として、高低の2段階の閾値を用意し、高い方の閾値を超えた周波数成分の減衰量を、低い方の閾値だけを超えた周波数成分の減衰量より大きくするようにしても良い。また、減衰するか否かは閾値との比較で行うが、減衰量は、パワー比Pi/PMiに応じて増減するようにしても良い(例えば、パワー比Pi/PMiに対する単調増加関数を適用して減衰量を定める)。
上記実施形態では、周波数特性操作回路104による周波数特性の操作は信号の全区間で可能なものを示したが、周波数特性を操作する区間を特定するようにしても良い。例えば、遠端信号r(n)が有声音か無声音かを検出する回路を設け、その有声音区間の遠端信号がエコー残差として周波数特性操作回路104に到達する可能性がある期間だけ、周波数特性操作回路104による周波数特性の操作を実行するようにしても良い。
上記実施形態では、遠端信号r(n)の周波数成分毎の、雑音成分に対する信号成分の評価値として、パワー比Pi/PMiを適用したものを示したが、他の評価値を適用するようにしても良い。例えば、パワー差分Pi−PMiを評価値として適用するようにしても良く、また、パワー比Pi/PMiとパワー差分Pi−PMiとを併用するようにしても良い。
上記実施形態では、周波数特性分析回路103がエコー遅延時間Tだけ遅延させて周波数成分情報Cを周波数特性操作回路104に与えるものを示したが、音声信号の周波数特性は、数十ms程度は定常的とみなせるため、直ちに周波数成分情報Cを周波数特性操作回路104に与えるようにしても良く、異なる遅延時間の経過後に周波数成分情報Cを周波数特性操作回路104に与えるようにしても良い。後者の遅延時間の例としては、エコー遅延時間Tの長期間の平均時間を挙げることができ、また、固定時間を適用するようにしても良い。
本発明は、PC(ソフトフォン)に搭載されることを意図して開発されたものであるが、搭載装置はソフトフォンに限定されるものではない。また、音響エコーを除去するエコー除去装置に限定されず、回線エコーを除去するエコー除去装置に本発明を適用することができる。
100…エコー除去装置、101…エコーキャンセラ本体、102…有音無音判定回路、103…周波数特性分析回路、104…周波数特性操作回路。

Claims (5)

  1. 遠端信号に基づいて擬似エコー信号を生成し、近端信号に含まれているエコー成分を除去するエコーキャンセラ本体と、
    上記遠端信号の周波数特性を分析し、周波数成分毎に、雑音成分に対する信号成分の評価値を算出する周波数成分評価手段と、
    上記遠端信号の周波数成分毎の算出された評価値に応じ、上記エコーキャンセラ本体からの出力信号において、エコー成分の消し残りがあると推定できる周波数成分を操作する近端周波数特性操作手段とを有し、
    上記周波数成分評価手段は、上記遠端信号の周波数成分毎に、無音時の平均パワーを算出し、無音時の平均パワーに対する現時点のパワーの比を上記評価値として算出する
    ことを特徴とするエコー除去装置。
  2. 上記近端周波数特性操作手段は、上記評価値を、上記エコーキャンセラ本体が得たエコーパスでの遅延時間だけ遅延させて利用することを特徴とする請求項1に記載のエコー除去装置。
  3. エコーキャンセラ本体は、遠端信号に基づいて擬似エコー信号を生成し、近端信号に含まれているエコー成分を除去し、
    周波数成分評価手段は、上記遠端信号の周波数成分毎に、無音時の平均パワーを算出し、無音時の平均パワーに対する現時点のパワーの比を、雑音成分に対する信号成分の評価値として算出し、
    近端周波数特性操作手段は、上記遠端信号の周波数成分毎の算出された評価値に応じ、上記エコーキャンセラ本体からの出力信号において、エコー成分の消し残りがあると推定できる周波数成分を操作する
    ことを特徴とするエコー除去方法。
  4. コンピュータを、
    遠端信号に基づいて擬似エコー信号を生成し、近端信号に含まれているエコー成分を除去するエコーキャンセラ本体と、
    上記遠端信号の周波数成分毎に、無音時の平均パワーを算出し、無音時の平均パワーに対する現時点のパワーの比を、雑音成分に対する信号成分の評価値として算出する周波数成分評価手段と、
    上記遠端信号の周波数成分毎の算出された評価値に応じ、上記エコーキャンセラ本体からの出力信号において、エコー成分の消し残りがあると推定できる周波数成分を操作する近端周波数特性操作手段と
    して機能させることを特徴とするエコー除去プログラム。
  5. 上記近端周波数特性操作手段は、上記評価値を、上記エコーキャンセラ本体が得たエコーパスでの遅延時間だけ遅延させて利用することを特徴とする請求項4に記載のエコー除去プログラム。
JP2010036214A 2010-02-22 2010-02-22 エコー除去装置、方法及びプログラム Active JP5640393B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010036214A JP5640393B2 (ja) 2010-02-22 2010-02-22 エコー除去装置、方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010036214A JP5640393B2 (ja) 2010-02-22 2010-02-22 エコー除去装置、方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2011172165A JP2011172165A (ja) 2011-09-01
JP5640393B2 true JP5640393B2 (ja) 2014-12-17

Family

ID=44685785

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010036214A Active JP5640393B2 (ja) 2010-02-22 2010-02-22 エコー除去装置、方法及びプログラム

Country Status (1)

Country Link
JP (1) JP5640393B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11363147B2 (en) 2018-09-25 2022-06-14 Sorenson Ip Holdings, Llc Receive-path signal gain operations

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5817849B2 (ja) * 1976-12-06 1983-04-09 住友建設株式会社 基礎くいの造成工法
JP3597671B2 (ja) * 1997-05-16 2004-12-08 三菱電機株式会社 ハンズフリー電話機
JP3543636B2 (ja) * 1998-09-17 2004-07-14 ヤマハ株式会社 ハウリング抑圧方法及び装置
JP3724705B2 (ja) * 2000-08-15 2005-12-07 日本電信電話株式会社 反響抑圧方法・反響抑圧装置
JP3568922B2 (ja) * 2001-09-20 2004-09-22 三菱電機株式会社 エコー処理装置
JP3753996B2 (ja) * 2002-03-20 2006-03-08 日本電信電話株式会社 反響抑圧装置、反響抑圧方法及びプログラム
JP4105681B2 (ja) * 2004-06-16 2008-06-25 日本電信電話株式会社 エコーサプレス方法、エコーサプレッサ、エコーサプレッサプログラム、通信路上の損失量制御方法、通信路上の損失量制御装置、通信路上の損失量制御プログラム、記録媒体
JP2009094802A (ja) * 2007-10-09 2009-04-30 Renesas Technology Corp 通信装置

Also Published As

Publication number Publication date
JP2011172165A (ja) 2011-09-01

Similar Documents

Publication Publication Date Title
US9461702B2 (en) Systems and methods of echo and noise cancellation in voice communication
JP5332733B2 (ja) エコーキャンセラ
JP5347794B2 (ja) エコー抑圧方法およびその装置
JP4978352B2 (ja) エコーキャンセラ
JP5036874B2 (ja) エコー消去装置
WO2009148049A1 (ja) 音響エコーキャンセラ及び音響エコーキャンセル方法
JP2003158476A (ja) エコーキャンセラ
JP2008141735A (ja) エコーキャンセラ及び通話音声処理装置
JP6160403B2 (ja) エコー抑圧装置及びエコー抑圧プログラム
JP2007189543A (ja) エコーキャンセラ
JP2009105620A (ja) エコーキャンセラ
JP2009094802A (ja) 通信装置
CN106297816B (zh) 一种回声消除的非线性处理方法和装置及电子设备
JP4345208B2 (ja) 反響及び雑音除去装置
JP5640393B2 (ja) エコー除去装置、方法及びプログラム
JP5292931B2 (ja) 音響エコーキャンセラおよびエコーキャンセル装置
KR100949910B1 (ko) 스펙트럼 차감을 이용한 음향학적 반향 제거 방법 및 장치
WO2009107750A1 (ja) 音響エコーキャンセラ
JP2009021859A (ja) 通話状態判定装置および該通話状態判定装置を備えたエコーキャンセラ
JP6369192B2 (ja) エコー抑圧装置、エコー抑圧プログラム、エコー抑圧方法及び通信端末
JP2010011272A (ja) 音響エコーキャンセラ
JP2006014359A (ja) エコー抑制処理システム
JP4209348B2 (ja) エコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体
JP2006352239A (ja) 音響結合量推定方法、音響結合量推定装置、プログラム、記録媒体
JP2016152455A (ja) エコー抑圧装置、エコー抑圧プログラム及びエコー抑圧方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130830

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140520

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140627

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20140627

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140930

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141013

R150 Certificate of patent or registration of utility model

Ref document number: 5640393

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150