JP3971711B2 - エコー抑圧方法、装置、およびプログラム - Google Patents
エコー抑圧方法、装置、およびプログラム Download PDFInfo
- Publication number
- JP3971711B2 JP3971711B2 JP2003045865A JP2003045865A JP3971711B2 JP 3971711 B2 JP3971711 B2 JP 3971711B2 JP 2003045865 A JP2003045865 A JP 2003045865A JP 2003045865 A JP2003045865 A JP 2003045865A JP 3971711 B2 JP3971711 B2 JP 3971711B2
- Authority
- JP
- Japan
- Prior art keywords
- sound
- signal
- gain
- mixing
- loudspeaker
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Description
【従来の技術】
図5に従来例のエコー抑圧装置(例えば、特許文献1の図1、pp1〜3参照)のブロック図を示す。
【0002】
従来のエコー抑圧装置は、拡声手段であるスピーカ101と収音手段であるマイク1021〜102Mと移相器4011〜401Mと加算器402により構成される。
【0003】
複数のマイク1021〜102Mによって収音されたそれぞれの収音信号Xi(ω)の位相を移相器4011〜401Mにより変化させ、加算器402で加算する。移相器4011〜401Mの移相量は、遠隔地から伝送され、スピーカ101で再生されたエコー成分を低減するような値に設定されている。例えば、M個のマイク1021〜102Mが、スピーカ101を中心とする円周上に等角度間隔で配置されている場合では、i番目の移相器401iの移相量は360・(i−1)/M度に設定される。
【0004】
i番目のマイク102iによって収音された収音信号Xi(ω)は、送話音声信号Si(ω)とスピーカ101で再生されたエコー信号Ei(ω)を含む。ここで、マイク1021〜102Mはスピーカ101から等距離に配置されているので、収音信号中のエコー信号(残響がない場合)は、全てのマイク1021〜102Mに対して同じ信号となる。したがって、収音信号は式(1)で表すことができる。
【0005】
【数1】
【0006】
次に、移相器4011〜401Mにより移相を与え、加算した後の出力信号Y(ω)は、移相量360・(i−1)/M度を各収音信号に乗じ、加算した信号であるので式(2)で表される。この式に式(1)を代入し、展開すれば、エコー信号は消去され、送話音声信号のみが残る。
【0007】
【数2】
【0008】
以上より、従来のエコー抑圧装置により、エコー信号を抑圧し、送話音声信号を出力できることを示した。
【0009】
次に、従来のエコー抑圧装置のマイクロホンアレイ技術(例えば、特許文献2の図1、pp8〜15参照)の前処理に適用することを考える。
【0010】
マイクロホンアレイ技術は、複数の収音手段により収音されたアナログ信号を、A/D変換器によりディジタル信号に変換し、ディジタル信号処理により出力信号を得る。A/D変換器の振幅分解能は通常16ビット程度であり、量子化誤差の少ない高品質な送話音声を得るためには、A/D変換器のレンジに合わせたアナログ信号レベルに設定する必要がある。しかし、例えば拡声手段と複数の収音手段が一体となった装置の場合、拡声手段と収音手段間の距離が近いために、送話音声に比べ大幅に大きいレベルでエコー信号が収音される。このため、エコー信号成分に比べレベルが大幅に小さい送話音声成分は、A/D変換器で大きな量子化誤差を受けることとなる。
【0011】
したがって、上記のような条件下では、A/D変換前のアナログ信号処理によりエコー信号を抑圧する必要がある。
【0012】
【特許文献1】
特開2000−253132号公報
【特許文献2】
特開2002−62895号公報
【0013】
【発明が解決しようとする課題】
従来のエコー抑圧装置をA/D変換前のアナログ信号処理に適用すれば、A/D変換前にエコー信号を抑圧することができる。しかし、従来のエコー抑圧装置の出力は1チャネルであるので、この出力信号をマイクロホンアレイ技術に適用することはできない。また、従来のエコー抑圧装置を複数個並列に接続し、出力を複数チャネルにしたとしても、各出力信号は式(2)に示すように、収音信号の位相を変化させ加算した信号となっているので、チャネル間の位相情報を利用するマイクロホンアレイ技術を適用することは難しい。
【0014】
以上のように、従来技術のエコー抑圧装置を、マイクロホンアレイ技術の前処理として用いることは難しい。
【0015】
エコー信号が送話音声に比べ大幅に大きいレベルで収音される場合に、小さい量子化誤差でA/D変換するためには、アナログ信号処理でエコー信号を抑圧する必要がある。さらに、マイクロホンアレイ技術を適用するためには、送話音声のチャネル間の位相情報が保たれていることが必要である。
【0016】
本発明の目的は、複数の収音手段を用いる場合に、送話音声のチャネル間の位相情報を保ちながら、エコー信号をアナログ信号処理で抑圧するエコー抑圧方法、装置、およびプログラムを提供することにある。
【0017】
【課題を解決するための手段】
本発明の第1の態様によれば、エコー抑圧装置は、
遠隔地から伝送された音声を再生する拡声手段と、
拡声手段と一体的に配置された複数の収音手段と、
複数の収音手段の各々で収音された収音信号に相異なるゲインを乗じ加算する収音手段と同数のミキシング手段とを有し、
各ミキシング手段のゲインは、拡声手段により再生された音声を抑圧するように決定されている。
【0018】
本発明の第2の態様によれば、エコー抑圧装置は、
遠隔地から伝送された音声を再生する拡声手段と、
拡声手段と一体的に配置された複数の収音手段と、
複数の収音手段の各々で収音された収音信号に相異なるゲインを乗じ加算する、収音手段と同数のミキシング手段と、
複数のミキシング手段の各出力をアナログ信号からディジタル信号へ変換するA/D変換手段と、
複数のA/D変換手段の各出力に相異なるゲインを乗じ加算する、収音手段と同数のディジタルミキシング手段とを有し、
各ミキシング手段のゲインは、拡声手段により再生された音声を抑圧するように決定され、
各ディジタルミキシング手段のゲインは、ディジタルミキシング後の信号が、対応する収音信号と同一となるように決定されている。
【0019】
本発明は、複数の収音手段の各々で収音された収音信号のそれぞれに相異なるゲインを乗じ加算する、収音手段と同数のミキシング手段により、拡声手段により再生されたエコー信号成分の抑圧を実現する。さらに、ミキシング手段は、送話音声成分のチャネル間の位相情報を保持することを実現する。
【0020】
【発明の実施の形態】
次に、本発明の実施の形態について図面を参照して説明する。
【0021】
(第1の実施形態)
図1は本発明の第1の実施形態のエコー抑圧装置のブロック図である。
【0022】
本実施形態のエコー抑圧装置は、拡声手段であるスピーカ101と収音手段であるマイク1021〜102Mとミキシング部1031〜103Mにより構成される。また、各ミキシング部103i(i=1〜M)はゲイン器104i1〜104iMと加算器105iにより構成される。
【0023】
本実施形態は、複数のマイク1021〜102Mにより収音された収音信号を複数のミキシング部1031〜103Mによりミキシングすることで、送話音声成分のチャネル間の位相情報を保持しながら、エコー信号成分を抑圧する装置である。
【0024】
まず、i番目のマイク102iにより収音された収音信号の周波数領域表現をXi(ω)とし、これらを式(3)により行列としたものを
【0025】
【数3】
とする。
【0026】
次に、i番目のマイク102iとk番目のミキシング部103kの出力間に与えられるゲインをakiとし、これらを式(4)により行列としたものを
【0027】
【数4】
とする。
【0028】
k番目のミキシング部103kの出力信号をYk(ω)とし、これらを式(5)により行列としたものを
【0029】
【数5】
とする。
【0030】
ミキシング部1031〜103Mは、各収音信号にゲインを乗じ、これらを加算した信号を出力するので、出力信号の行列は式(6)で表される。
【0031】
【数6】
【0032】
ここで、ミキシング部1031〜103Mに要求される条件は、送話音声の位相を保ちながら、エコー信号成分を抑圧することである。
【0033】
送話音声の位相を保つためには、ゲイン行列
【0034】
【外1】
が単位行列
【0035】
【外2】
となっていればよい。また、エコー信号成分を抑圧するためには式(7)の条件を満たせばよい。
【0036】
【数7】
これら二つの条件を最小二乗解で解けば、式(8)となる。
【0037】
【数8】
式(8)を解くためには、
【0038】
【外3】
を求める必要がある。求め方には二通りあり、一つ目は、実際に収音信号を観測し求める方法、二つ目は、スピーカ101とマイク1021〜102Mの位置関係から求める方法である。実際に収音信号を観測し求める方法では、実際の収音信号を収録し、周波数領域に変換することで求めることができる。位置関係から求める方法では、i番目のマイク102iとk番目の102kのエコー到来時間差τikを式(9)により求め、収音レベルgikを式(10)により求める。
【0039】
【数9】
【0040】
次に、
【0041】
【外4】
は、式(11)により求められる。
【0042】
【数10】
【0043】
以上、式(8)により決定されるゲイン行列
【0044】
【外5】
を用いて、収音信号をマイク1021〜102Mと同数のミキシング部1031〜103Mでミキシングし、収音手段と同数の出力を得る。これらの出力信号は、エコー信号成分が抑圧され、送話音声成分の位相情報が保たれている。
【0045】
次に、本発明の有効性を示すために、図4に実験結果を示す。実験条件は、マイクの数M:4、送話信号対エコー信号比(マイク位置):0dB、部屋の残響:300msである。スピーカ101とマイク1021〜1024の位置は図4(a)部に示すとおりである。この条件で、送話音声とエコー信号に対する周波数特性を測定した結果を、図4(b)および図4(c)に示す。図4(b)は無処理の場合の周波数特性であり、図4(c)は本発明を用いた場合の周波数特性である。両図を比較すれば、図4(c)の本発明を用いた場合のエコー信号に対する周波数特性は、600Hz程度までの低域において、無処理の場合に比べ10dB程度低くなっており、エコー信号を抑圧できていることが確認できる。また、送話音声に対する周波数特性は、両者ともほぼ同一の特性となっていることが確認できる。
【0046】
以上示したように、本実施形態では、複数のマイク1021〜102Mにより収音した収音信号を、マイク1021〜102Mと同数のミキシング部1031〜103Mによりミキシングすることにより、送話音声の位相情報を保ちつつ、エコー信号成分を抑圧した、マイク1021〜102Mと同数の出力信号を得ることができる。
【0047】
(第2の実施形態)
図2は本発明の第2の実施形態のエコー抑圧装置のブロック図である。
【0048】
本実施形態のエコー抑圧装置は、スピーカ101とマイク1021〜102Mとミキシング部1031〜103MとA/D変換部2011〜201Mとディジタルミキシング部2021〜202Mより構成される。また、ミキシング部103iはゲイン器104i1〜104iMと加算器105iにより構成され、各ディジタルミキシング部202i(i=1〜M)はゲイン器203i1〜203iMと加算器204iにより構成される。
【0049】
本実施形態のエコー抑圧装置は、まず、第1の実施形態と同様にして、複数のマイク1021〜102Mにより収音された収音信号を複数のミキシング部1031〜103Mによりミキシングすることでエコー信号成分を抑圧する。次に、これらの信号をA/D変換部2011〜201MによりA/D変換し、ディジタル信号にする。各ディジタル信号は、複数のディジタルミキシング部2021〜202Mによりミキシングされ、元の収音信号に復元される。
【0050】
これらの処理により、A/D変換前にエコー信号成分を抑圧することができ、エコー信号が送話音声に比べ大幅に大きいレベルで収音される場合であっても、小さい量子化誤差で話者音声をA/D変換できる。さらに、A/D変換後のミキシングにより収音信号を回復できるので、ミキシングによる送話音声の劣化がない。
【0051】
まず、ミキシング部1031〜103Mでは、第1の実施形態と同様のゲイン行列(式8)を用いて、収音信号をミキシングし、エコー信号成分を抑圧する。次に、それらの信号はA/D変換部2011〜201MによりA/D変換され、ディジタル信号に変換される。変換されたディジタル信号は、ゲイン行列
【0052】
【外6】
の逆行列
【0053】
【外7】
を用いてディジタルミキシング部2021〜202Mでミキシングされる。
【0054】
A/D変換前の信号の行列
【0055】
【外8】
は、第1の実施形態で導出した式(6)で表され、同様にしてディジタルミキシング後の信号の行列
【0056】
【外9】
は式(12)で表される。ここで、式(12)に式(6)を代入すれば、収音信号
【0057】
【外10】
が復元されることが分かる。
【0058】
【数11】
【0059】
以上示したように、本実施形態は、A/D変換前にエコー信号成分を抑圧し、A/D変換後のディジタル信号から収音信号を復元することができる。
【0060】
これら以外の部分に関しては、第1の実施形態と同じであるので、説明を省略する。
【0061】
(第3の実施形態)
本発明の第3の実施形態のエコー抑圧装置について説明する。
【0062】
第3の実施形態のエコー抑圧装置は、第1または第2の実施形態のエコー抑圧装置のマイク1021〜102Mが、図3に示すようにスピーカ101から等距離に配置されている。この場合、マイク1021〜102M間のエコー到来時間差Tikは全て0となり、収音レベルgikは、全て同じ正の値となる。したがって、式(11)の行列
【0063】
【外11】
の要素は全て同じ値の正の実数となる。よって、式(11)と式(8)により求められるゲイン行列
【0064】
【外12】
は、式(13)となる。対角成分が任意の定数αであり、それ以外の成分は、定数αと逆の符号を持つ任意の定数βとなる。
【0065】
【数12】
【0066】
式(13)において、行成分を加算したときに、その値が0となれば、エコー信号の直接波成分を完全に抑圧することができる。これを式で表せば、式(14)となる。ただし、この場合は行列
【0067】
【外13】
の逆行列が存在しなくなるので、第2の実施形態には適用できない。
【0068】
α=−(M−1)β (14)
本実施形態を第1の実施形態または第2の実施形態に適用するためには、ゲイン行列
【0069】
【外14】
の逆行列が存在するように、行成分を加算した値が0以外の値となればよいので、この場合には、式(15)が適用される。ただし、γは任意の定数である。
【0070】
α=−(M−1)β+γ (15)
さらに、任意の行列の行成分を加算したときに、その値が0となれば、式(13)の場合と同様にエコー信号の直接波成分を完全に抑圧することができる。これは、式(16)、(17)により表される。ただし、この場合は行列
【0071】
【外15】
の逆行列が存在しなくなるので、第2の実施形態には適用できない。
【0072】
【数13】
【0073】
本実施形態を第1の実施形態と第2の実施形態に適用するためには、行列
【0074】
【外16】
の逆行列が存在するように、行成分を加算した値が0以外の値となればよいので、この場合には、式(18)が適用される。ただし、γiは任意の定数である。
【0075】
【数14】
【0076】
以上説明したように、第3の実施形態では、式(13)と式(14)、式(13)と式(15)、式(16)と式(17)、式(16)と式(18)の組み合わせのいずれかを用いてゲイン行列
【0077】
【外17】
を求めることができる。
【0078】
これら以外の部分に関しては、第1または第2の実施形態と同じであるので、説明を省略する。
【0079】
(第4の実施形態)
本発明の第4の実施形態のエコー抑圧装置について説明する。
【0080】
第4の実施形態のエコー抑圧装置は、第1〜3の実施形態のエコー抑圧装置のマイク1021〜102Mが指向性を有し、指向性の感度の低い方向がスピーカ101の方向へ向けられている。これにより、マイク1021〜102Mの指向性によっても、エコーを抑圧することが可能となり、エコー抑圧性能が向上する。
【0081】
これら以外の部分に関しては、第1〜3の実施形態と同じであるので、説明を省略する。
【0082】
なお、本発明は専用のハードウェアにより実現されるもの以外に、その機能を実現するためのプログラムを、コンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行するものであってもよい。コンピュータ読み取り可能な記録媒体とは、フロッピーディスク、光磁気ディスク、CD−ROM等の記録媒体、コンピュータシステムに内蔵されるハードディスク装置等の記憶装置を指す。さらに、コンピュータ読み取り可能な記録媒体は、インターネットを介してプログラムを送信する場合のように、短時間の間、動的にプログラムを保持するもの(伝送媒体もしくは伝送波)、その場合のサーバとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含む。
【0083】
【発明の効果】
以上説明したように、本発明によれば、複数の収音手段で収音した信号を複数のミキシング手段によりミキシングすることにより、送話音声の位相情報を保持し、エコーを抑圧した複数の出力信号を得ることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態のエコー抑圧装置を示すブロック図である。
【図2】本発明の第2の実施形態のエコー抑圧装置を示すブロック図である。
【図3】本発明の第3の実施形態のエコー抑圧装置のマイク1021〜102Mとスピーカ101の配置を示す図である。
【図4】本発明のエコー抑圧効果を示す図である。
【図5】従来のエコー抑圧装置を示すブロック図である。
【符号の説明】
101 スピーカ
1021〜102M マイク
1031〜103M ミキシング部
10411〜104MM ゲイン
1051〜105M 加算器
2011〜201M A/D変換部
2021〜202M ディジタルミキシング部
20311〜203MM ゲイン
2041〜204M 加算器
4011〜401M 移相器
402 加算器
Claims (7)
- エコー抑圧方法であって、
受話音声を拡声手段で再生する拡声段階と、
前記拡声手段と一体的に配置された複数の収音手段で収音する収音段階と、
前記複数の収音手段と同数のミキシング手段それぞれで、前記複数の収音手段の各々で収音された収音信号それぞれにゲインを乗じ加算した信号を出力するミキシング段階とを有し、
前記各ミキシング手段のゲインは、前記収音信号の位相を保つ条件と前記出力信号中に含まれる前記拡声段階で再生された音声信号成分を抑圧する条件とを満たす最小二乗解であるエコー抑圧方法。 - エコー抑圧方法であって、
受話音声を拡声手段で再生する拡声段階と、
前記拡声手段と一体的に配置された複数の収音手段で収音する収音段階と、
前記複数の収音手段と同数のミキシング手段それぞれで、前記複数の収音手段の各々で収音された収音信号それぞれにゲインを乗じ加算した信号を出力するミキシング段階と、
前記複数のミキシング手段の各出力をアナログ信号からディジタル信号へ変換するA/D変換段階と、
前記収音手段と同数のディジタルミキシング手段の各々で、前記複数のA/D変換段階の各出力にゲインを乗じ加算した信号を出力するミキシング段階とを有し、
前記各ミキシング手段のゲインは、前記収音信号の位相を保つ条件と前記出力信号中に含まれる前記拡声段階で再生された音声信号成分を抑圧する条件とを満たす最小二乗解であり、
k番目のミキシング手段におけるi番目の収音手段で収音された信号に与えるゲインをa ki とし、これらを行列としたものを、
前記各ディジタルミキシング手段のゲインは、前記Aの逆行列により決定されているエコー抑圧方法。 - 前記各収音手段は前記拡声手段から等距離に配置されている請求項1または請求項2に記載のエコー抑圧方法。
- エコー抑圧装置であって、
受話音声を再生する拡声手段と、
前記拡声手段と一体的に配置された複数の収音手段と、
前記複数の収音手段の各々で収音された収音信号それぞれにゲインを乗じ加算した信号を出力する、前記複数の収音手段と同数のミキシング手段とを有し、
前記各ミキシング手段のゲインは、前記収音信号の位相を保つ条件と前記出力信号中に含まれる前記拡声手段で再生された音声信号成分を抑圧する条件とを満たす最小二乗解であるエコー抑圧装置。 - エコー抑圧装置であって、
受話音声を再生する拡声手段と、
前記拡声手段と一体的に配置された複数の収音手段と、
前記複数の収音手段の各々で収音された収音信号それぞれにゲインを乗じ加算した信号を出力する、前記複数の収音手段と同数のミキシング手段と、
前記複数のミキシング手段の各出力をアナログ信号からディジタル信号へ変換するA/D変換手段と、
前記複数のA/D変換手段の各出力にゲインを乗じ加算した信号を出力する、前記複数の収音手段と同数のディジタルミキシング手段とを有し、
前記各ミキシング手段のゲインは、前記収音信号の位相を保つ条件と前記出力信号中に含まれる前記拡声手段で再生された音声信号成分を抑圧する条件とを満たす最小二乗解であり、
k番目のミキシング手段におけるi番目の収音手段で収音された信号に与えるゲインをa ki とし、これらを行列としたものを、
前記各ディジタルミキシング手段のゲインは、前記Aの逆行列により決定されているエコー抑圧装置。 - 前記各収音手段は前記拡声手段から等距離に配置されている請求項4または請求項5に記載のエコー抑圧装置。
- 請求項1から3のいずれかに記載のエコー抑圧方法をコンピュータに実行させるためのエコー抑圧プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003045865A JP3971711B2 (ja) | 2003-02-24 | 2003-02-24 | エコー抑圧方法、装置、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003045865A JP3971711B2 (ja) | 2003-02-24 | 2003-02-24 | エコー抑圧方法、装置、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004260280A JP2004260280A (ja) | 2004-09-16 |
JP3971711B2 true JP3971711B2 (ja) | 2007-09-05 |
Family
ID=33112570
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003045865A Expired - Lifetime JP3971711B2 (ja) | 2003-02-24 | 2003-02-24 | エコー抑圧方法、装置、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3971711B2 (ja) |
-
2003
- 2003-02-24 JP JP2003045865A patent/JP3971711B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2004260280A (ja) | 2004-09-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7773743B2 (en) | Integration of a microphone array with acoustic echo cancellation and residual echo suppression | |
JP4066197B2 (ja) | マイクロフォン装置 | |
US9232309B2 (en) | Microphone array processing system | |
US20070263849A1 (en) | Integration of a microphone array with acoustic echo cancellation and center clipping | |
JP2011124872A (ja) | 音源分離装置、方法及びプログラム | |
JP4724054B2 (ja) | 特定方向収音装置、特定方向収音プログラム、記録媒体 | |
KR102191736B1 (ko) | 인공신경망을 이용한 음성향상방법 및 장치 | |
JP4928382B2 (ja) | 特定方向収音装置、特定方向収音方法、特定方向収音プログラム、記録媒体 | |
CN112509595A (zh) | 音频数据处理方法、系统及存储介质 | |
WO2019160006A1 (ja) | ハウリング抑圧装置、その方法、およびプログラム | |
JP4473829B2 (ja) | 収音装置、プログラム及びこれを記録した記録媒体 | |
KR100873000B1 (ko) | 마이크 어레이를 이용한 방향성 음원 필터링 시스템 및 그방법 | |
JP3971711B2 (ja) | エコー抑圧方法、装置、およびプログラム | |
JP4116600B2 (ja) | 収音方法、収音装置、収音プログラム、およびこれを記録した記録媒体 | |
JP5267808B2 (ja) | 音響出力システム及び音響出力方法 | |
JP5937451B2 (ja) | エコー消去装置、エコー消去方法及びプログラム | |
JP5105336B2 (ja) | 音源分離装置、プログラム及び方法 | |
WO2018042773A1 (ja) | 収音装置、記録媒体及び方法 | |
JP6260666B1 (ja) | 収音装置、プログラム及び方法 | |
WO2017056288A1 (ja) | 音響信号処理装置、音響処理方法、監視装置および監視方法 | |
JP4298466B2 (ja) | 収音方法、装置、プログラム、および記録媒体 | |
JP2004180197A (ja) | 情報処理装置、情報処理方法および記録媒体 | |
JP2021022872A (ja) | 収音装置、収音プログラム、及び収音方法 | |
JP2016092562A (ja) | 音声処理装置および方法、並びにプログラム | |
JP6075783B2 (ja) | エコー消去装置、エコー消去方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050124 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20050614 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070307 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070314 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070501 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070530 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070608 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 3971711 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100615 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110615 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120615 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130615 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140615 Year of fee payment: 7 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |