JP5141442B2 - 収音装置、及び放収音装置 - Google Patents

収音装置、及び放収音装置 Download PDF

Info

Publication number
JP5141442B2
JP5141442B2 JP2008205630A JP2008205630A JP5141442B2 JP 5141442 B2 JP5141442 B2 JP 5141442B2 JP 2008205630 A JP2008205630 A JP 2008205630A JP 2008205630 A JP2008205630 A JP 2008205630A JP 5141442 B2 JP5141442 B2 JP 5141442B2
Authority
JP
Japan
Prior art keywords
sound
audio signal
pair
collection device
pressure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008205630A
Other languages
English (en)
Other versions
JP2010041667A (ja
Inventor
康祐 齋藤
亮 大内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2008205630A priority Critical patent/JP5141442B2/ja
Publication of JP2010041667A publication Critical patent/JP2010041667A/ja
Application granted granted Critical
Publication of JP5141442B2 publication Critical patent/JP5141442B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Circuit For Audible Band Transducer (AREA)

Description

この発明は、複数の参加者の発話音声を収音する収音装置、及び放収音装置に関する。
従来、会議の参加者の発話音声を収音する収音装置、及び放収音装置が各種提案されている(例えば、特許文献1参照)。
特許文献1の収音装置は、筐体の正面側と背面側とにマイクアレイを備え、設定されたモードに応じて、周囲の音声を収音している。例えば、収音スポットモードでは、正面側と背面側とにそれぞれ4ヵ所の収音スポットを設け、各スポットの収音ビーム信号を生成し、信号レベルが最も高い収音ビーム信号を収音対象の音声信号としている。また、エリア収音モードでは、正面側と背面側とにそれぞれ収音エリアを設け、各収音エリアから収音して収音信号を生成している。
特開2007−295104号公報
しかしながら、特許文献1の収音装置では、収音スポットモードを選択すると、信号レベルが高い収音スポットのみから収音ビーム信号を生成するように設定されるので、設定された収音対象のスポット以外での発話音声を収音することができない。また、エリア収音モードでは、収音エリア内であっても、マイクアレイから近いか遠いかによって、音圧やSN比が変わり、各エリアに対して均質に収音することができない。
そこで、本発明の収音装置は、会議への参加者の発話音声を均質に且つ明瞭に収音することを目的とする。
この発明の収音装置は、楕円の焦点位置に配置され、前記楕円軌道上の任意の点から発する音声を収音して音声信号を生成する一対の収音手段を備える。発話された位置(以下、音源と称す。)と各収音手段との距離により、各収音手段が生成した音声信号の音圧は変化する。収音装置は、一対の収音手段が生成した各音声信号を加算すると音圧が一定の値となるように、各音声信号の音圧比に基づいて、各音声信号の音圧を調整する
これにより、収音装置は、一対の収音手段を焦点とする楕円軌道上に音源が存在する場合に、音源からの音声信号を均質に且つ明瞭に収音することができる。ここで、例えば会議机の周囲に着席した参加者は、会議机を囲む楕円軌道上の位置にそれぞれが存在するようになるので、この収音装置は、会議机の周囲に参加者が着席するような会議に用いるとよい。
また、一対の収音手段のそれぞれが音源からの音声を収音するタイミングは、音源と各収音手段との距離に応じて変化する。一対の収音手段が生成した各音声信号の音圧は距離に依存する。そこで、この発明の収音装置は、この音圧の差に基づいて、各音声信号の遅延量を算出する。収音装置は、算出した遅延量に基づいて、各音声信号を遅延させる。
これにより、収音装置は、一対の収音手段で参加者の発話音声を同じタイミングで収音したように処理できるので、参加者の発話音声をより均質に且つ明瞭に収音することができる。すなわち、楕円軌道の設定によって、一対の収音手段がそれぞれ大きく離れた位置に設置された場合(一対の収音手段がそれぞれ会議室の両側壁等に設置された場合等)であっても、収音手段間での収音タイミングのずれを無くすことができるので、参加者の発話音声をより均質に且つ明瞭に収音することができる。
更に、一対の収音手段は、それぞれ単なるマイクに限らず、マイクが配列されたマイクアレイであってもよい。例えば、各マイクが縦方向(天井から床の方向)に配置されるようなマイクアレイを用いた場合、マイクアレイは、会議室内の天井に設置された冷暖房機等の方向から収音しにくいので、雑音の収音を低減することができる。また、マイクアレイは、複数のマイクから構成されるので、各マイクの感度のばらつきによる音声信号への影響を低減することができるので、各マイクの感度を高精度に一致させなくてもよい。このため、参加者は、各マイクの感度を一致させるという煩雑な処理をしなくてもよい。
また、放収音装置は、上述の収音装置に加えて、音声を放音する放音装置と、エコーやハウリングを除去する回帰音除去装置と、を備える。これにより、放収音装置は、一対の収音手段を焦点とする楕円軌道上に存在する音源からの音声信号を均質に且つ明瞭に収音するとともに、エコーやハウリングを生じさせないようにすることができる。
また、放収音装置の回帰音除去装置は、第1適応フィルタと、遅延手段を有する第2適応フィルタと、を備える。第1適応フィルタは、放音装置から収音装置へ入ってきた回帰音を除去するエコーキャンセラやハウリングキャンセラである。第2適応フィルタは、話者の声や放音した音声が室内に残響することで発生する残響音を除去するリバーブキャンセラである。これにより、放収音装置は、エコーやハウリングとなる回帰音や、残響音を除去することができる。
この発明の収音装置は、会議机を囲んで着席した複数の参加者のように楕円軌道上に並ぶ複数の参加者の発話音声を均質に且つ明瞭に収音することができる。
この発明に係る収音装置1の使用例について、図1を参照して説明する。図1は、会議室に設置した収音装置を会議室の天井側から見た図である。図1(A)は、楕円状の会議机を用いた例を示し、図1(B)は、略長方形状の会議机を用いた例を示す。
図1(A)に示すように、収音装置1は、装置本体10と持ち運び可能な一対のマイクMIC1,MIC2とから構成され、会議室9に設置される。この会議室9の略中央には、楕円状の会議机3Aが設置されている。そして、会議机3Aの周囲に参加者2A〜2Hが着席している。
会議机3Aの周囲に参加者2A〜2Hが着席しているので、参加者2A〜2Hの着席位置は、楕円4の軌道を描くようになる。一対のマイクMIC1,MIC2は、この楕円4の焦点位置に設置される。
なお、一対のマイクMIC1,MIC2は、持ち運び可能なので、楕円4の軌道に合わせて、会議机3Aの上や会議室9の壁面等に自在に設置することができる。また、本体10は、会議室9内に設置してもよいし、会議室9外に設置して、一対のマイクMIC1,MIC2のコネクタだけを会議室9の壁面に設けてもよい。
また、図1(B)に示すように、略長方形状の会議机3Bの周囲に参加者2A〜2Hが着席した場合は、参加者2A〜2Hの着席位置は、一直線上に並ぶようになる。一対のマイクMIC1,MIC2は、楕円4の軌道を直線近似するために、会議室9の両壁面に配置される。
以上のように、一対のマイクMIC1,MIC2は、会議机の周囲に参加者2A〜2Hが着席すると、参加者2A〜2Hの着席位置が楕円4の軌道上になるように配置される。そこで、収音装置1は、楕円4の軌道上に着席した参加者2A〜2Hの発話音声を等しい音圧、SN比で収音する。
次に、楕円4の軌道上の発話音声を等しい音圧、SN比で収音する収音装置1の機能・構成について図2,3を参照して説明する。図2は、収音装置の機能・構成を示すブロック図である。図3は、収音処理の原理を示す説明図である。図2に示すように、収音装置1は、一対のマイクMIC1,MIC2と本体10とからなり、本体10は,音圧算出部11A,11B、ゲイン算出部12、遅延量算出部13、ゲイン調整部14A,14B、遅延部15A,15B、及び加算部16を備える。
マイクMIC1,MIC2は、単一指向性を有するマイクであり、音声を収音して音声信号を生成する。マイクMIC1は、生成した音声信号を音圧算出部11A、及びゲイン調整部14Aへ出力する。また、マイクMIC2は、生成した音声信号を音圧算出部11B、及びゲイン調整部14Bへ出力する。
なお、収音装置1は、マイクMIC1,MIC2に対して、収音装置1の設置後に各マイクMIC1,MIC2の感度を一致させる処理(キャリブレーション処理)が行われる。また、この処理は、収音装置1の出荷時に行ってもよい。
例えば、収音装置1は、一対のマイクMIC1,MIC2から等距離の位置にてテスト音を放音する。収音装置1は、後述する音圧算出部11A,11Bにて、各マイクMIC1,MIC2が収音したテスト音の音圧を取得する。収音装置1は、取得した各マイクMIC1,MIC2の音圧に基づいて、各マイクMIC1,MIC2が収音したテスト音の音圧が同じになるように(すなわち、各マイクMIC1,MIC2の感度が一致するように)、各マイクMIC1,MIC2の音圧比を算出する。そして、収音装置1は、後述するゲイン調整部14A,14Bにて、算出した音圧比に基づいて、ゲインを補正する。
音圧算出部11Aは、マイクMIC1からの音声信号の音圧(音声信号の振幅)P1を算出する。音圧算出部11Aは、算出した音圧P1をゲイン算出部12、及び遅延量算出部13へ出力する。同様に、音圧算出部11Bは、マイクMIC2からの音声信号の音圧P2を算出して、ゲイン算出部12、及び遅延量算出部13へ出力する。
音圧P1,P2は、一定時間分(例えば、数百ミリ秒〜数十ミリ秒)の音声信号を2乗平均したものの平方根を取得することで算出してもよいし、数百ミリ秒〜数十ミリ秒の音声信号を全波整流した後の平均値を取得することで算出してもよい。この際、数百ミリ秒〜数十ミリ秒の音声信号に対して平均処理を行うので、バッファ(不図示)に音声信号を記憶しておき該音声信号を用いて平均処理を行ってもよいし、忘却係数を用いて近似的に平均処理を行ってもよい。近似的に平均処理を行う場合、容量が大きなバッファを備える必要がない。
なお、音圧算出部11A,11Bは、マイクMIC1,MIC2から入力された音声信号に対して、ローパスフィルタ等を用いた前処理を行い、音圧P1,P2の算出に使用する音声信号の帯域を絞ってもよい。これにより、収音装置1は、処理対象の帯域を減らすことができるので、算出時の処理負荷を低減することができる。また、収音装置1は、音声会議において不要な高域成分を削除しても、音声の品質に影響を与えることがない。
ゲイン算出部12は、各マイクMIC1,MIC2が収音した音声信号の音圧P1,P2に基づいて、マイクMIC1に対するゲインG1と、マイクMIC2に対するゲインG2と、を次の方法にて算出する。そして、ゲイン算出部12は、算出したゲインG1をゲイン調整部14Aへ出力し、ゲインG2をゲイン調整部14Bへ出力する。収音装置1は、以下の式3に示すゲインG1,G2で音圧を調整して、マイクMIC1,MIC2が収音した各音声信号を加算すると、楕円4の軌道上の音声を等しい音圧、SN比で収音することができる。
図3に示すように、楕円4は、収音装置1の一対のマイクMIC1,MIC2を焦点として形成される。収音装置1が楕円4の軌道上からの発話音声を収音するので、この楕円4の軌道上に、音源Sを配置する場合の例を示す。そして、音源SとマイクMIC1との距離をR1とし、音源SとマイクMIC2との距離をR2とすると、次の関係式(式1)が成り立つ。
Figure 0005141442
また、音源Sから放音される音声信号の音圧をP0とすると、マイクMIC1が収音して生成した音声信号の音圧P1と、マイクMIC2が収音して生成した音声信号の音圧P2は、各音声信号の振幅(音圧)が音源Sと距離に対して1次減衰するものと近似できるので、次の式(式2)で表すことができる。
Figure 0005141442
更に、マイクMIC1のゲインG1、マイクMIC2のゲインG2を、音源Sとの距離に応じて定めると、次の式(式3)のように定義される。そして、マイクMIC1,MIC2のゲイン調整後の各音声信号の音圧P1,P2を加算すると、次の関係式(式4)が成り立つ。
Figure 0005141442
Figure 0005141442
以上より、収音装置1は、加算後の音声信号が常に音圧が一定となるために、楕円4の軌道上の音声を等しい音圧で収音することができる。
なお、マイクMIC1,MIC2が収音して生成した音声信号にはノイズが含まれるが、ノイズの音圧を一様にNと仮定すると、次の関係式(式5)が成り立つ。
Figure 0005141442
以上のように、収音装置1は、ノイズの音圧も常に一定となるため、楕円4の軌道上のノイズを等しい音圧で収音する。すなわち、収音装置1は、楕円4の軌道上であれば、等しいSN比で収音することができる。
ゲイン調整部14Aは、入力されたゲインG1に基づいて、マイクMIC1から入力される音声信号の音圧P1を調整する。ゲイン調整部14Aは、音圧調整後の音声信号を遅延部15Aへ出力する。同様に、ゲイン調整部14Bは、入力されたゲインG2に基づいて、マイクMIC2から入力される音声信号の音圧P2を調整して、遅延部15Bへ出力する。
遅延量算出部13は、各マイクMIC1,MIC2が収音した音声信号の音圧P1,P2に基づいて、マイクMIC1からの音声信号に対する遅延量ΔD1と、マイクMIC2からの音声信号に対する遅延量ΔD2と、を次の方法にて算出する。
各マイクMIC1,MIC2における音声信号の遅延量ΔD1,ΔD2は、各マイクMIC1,MIC2間での収音タイミングのずれを無くす、すなわち、各マイクMIC1,MIC2と音源Sとの距離の差を無くすとすれば、次の式(式6)に定まる。
Figure 0005141442
以上のように、各マイクMIC1,MIC2が収音した音声信号の音圧P1,P2の差に基づいて、遅延量ΔD1,ΔD2を算出することができる。そして、遅延量算出部13は、算出した遅延量ΔD1を遅延部15Aへ出力し、遅延量ΔD2を遅延部15Bへ出力する。
遅延部15Aは、入力された遅延量ΔD1に基づいて、ゲイン調整部14Aから入力される音声信号を遅延する。遅延部15Aは、遅延後の音声信号を加算部16へ出力する。同様に、遅延部15Bは、入力された遅延量ΔD2に基づいて、ゲイン調整部14Bから入力される音声信号を遅延して、加算部16へ出力する。よって、楕円4の軌道上であれば、一対のマイクMIC1,MIC2は、同じタイミングで音声を収音することができる。
加算部16は、遅延部15A,15Bから入力された音声信号を加算する。加算部16は、例えば、記憶媒体(不図示)に加算後の音声信号を出力する。
以上より、収音装置1は、加算後の音声信号の音圧が一定になるので、楕円4の軌道上に着席する参加者2A〜2Hの発話音声を均質に収音することができる。また、収音装置1は、収音タイミングのずれを補正するので、各マイクMIC1,MIC2間の距離を自在に変更でき、楕円4のサイズを自在に変更することができる。更に、収音装置1は、音声信号に含まれるノイズも均質に収音することができるので、楕円4の軌道上のどの位置でも明瞭に収音することができる。
なお、本実施形態では、マイクMIC1,MIC2を用いたが、それぞれ複数のマイクからなるマイクアレイを用いてもよい。マイクアレイを用いると、各マイクの感度のばらつきによる音声信号への影響を低減することができるので、各マイクの感度を高精度に一致させなくてもよい。また、天井から地面に向けてマイクを配列したマイクアレイを用い、水平方向に収音指向性を設定すると、天井に設置した冷暖房機等の方向から収音しにくいので、冷暖房機等が動作することにより生じる雑音の収音を低減することができる。
また、本実施形態では、収音装置について説明したが、上述の収音機能を備える放収音装置や拡声装置であってもよい。例えば、放収音装置の場合は、音声信号を放音するスピーカと、スピーカからの回帰音を除去するエコーキャンセラ(不図示)を備えるとよい。また、拡声装置の場合は、音声信号を放音するスピーカと、スピーカからの回帰音を除去するためのハウリングキャンセラ(不図示)を備えるとよい。
更に、図4は、エコーキャンセラやハウリングキャンセラの機能・構成を示すブロック図である。図4に示すように、上述のエコーキャンセラ及びハウリングキャンセラは、前段にフィードバックキャンセリング部5Aを設け、後段にリバーブキャンセリング部5Bを設けている。フィードバックキャンセリング部5Aは、スピーカからマイクへの回帰音を除去する機能部であり、リバーブキャンセリング部5Bは、残響音を除去する機能部である。これにより、収音装置1を会議室9内に設置すると、参加者2A〜2HとマイクMIC1,MIC2との距離が離れているので残響成分が大きくなるが、リバーブキャンセリング部5Bを設けることで、フィードバックキャンセリング部5Aにて除去できない残響成分についても除去することができる。
加えて、図5は、会議室に設置した収音装置を会議室の天井側から見た図である。上記実施形態では、マイクMIC1,MIC2に単一指向性マイクを用いたがこれに限らない。図5に示すように、会議室9に設置された会議机3Cは、略中心部に空間を設けたドーナツ形状である。この会議机3Cの周囲に参加者2A〜2Jが着席している。ドーナツ形状の会議机3Aの周囲に参加者2A〜2Jが着席しているので、参加者2A〜2Jの着席位置は、楕円4の軌道を描くようになる。参加者2Aは、この楕円4の焦点位置に、一対のマイクMIC1,MIC2をそれぞれ設置する。この場合、マイクMIC1,MIC2は、会議机3Cの内側に設置されるので、マイクMIC1,MIC2として無指向性のマイクを用いると好適である。
会議室に設置した収音装置を会議室の天井側から見た図である。 収音装置の機能・構成を示すブロック図である。 収音処理の原理を示す説明図である。 エコーキャンセラやハウリングキャンセラの機能・構成を示すブロック図である。 会議室に設置した収音装置を会議室の天井側から見た図である。
符号の説明
1…収音装置,2A〜2J…参加者,3A〜3C…会議机,4…楕円,11A,11B…音圧算出部,12…ゲイン算出部,13…遅延量算出部,14A,14B…ゲイン調整部,15A,15B…遅延部,16…加算部,5A…フィードバックキャンセリング部,5B…リバーブキャンセリング部,MIC1,MIC2…マイク,S…音源,R1,R2…音源とマイクとの距離,N…ノイズ,P0,P1,P2…音圧,G1,G2…ゲイン,ΔD1,ΔD2…遅延量

Claims (5)

  1. 楕円の焦点位置に配置され、前記楕円軌道上の任意の点から発する音声を収音して音声信号を生成する一対の収音手段と、
    前記一対の収音手段が生成した各音声信号の音圧を算出する音圧算出手段と、
    前記音圧算出手段が算出した各音声信号の音圧の比に基づいて、前記一対の収音手段が生成した各音声信号の加算後の音圧が一定となるよう前記各音声信号の音圧を調整する音圧調整手段と、
    前記音圧調整手段による音圧調整後の各音声信号を加算する加算手段と、を備えた収音装置。
  2. 前記音圧算出手段が算出した各音声信号の音圧の差に基づいて、前記一対の収音手段が生成した各音声信号の遅延量を算出し、該遅延量に応じて各音声信号を遅延させる遅延手段、を更に備えた請求項1に記載の収音装置。
  3. 前記一対の収音手段は、それぞれ複数のマイクを配列させたマイクアレイを備え、該マイクアレイの各マイクが収音した個別音声信号に基づいて、前記音声信号を生成する請求項1又は2に記載の収音装置。
  4. 請求項1〜3のいずれかに記載の収音装置と、
    音声信号を放音する放音装置と、
    前記放音装置から前記収音装置への回帰音を除去する回帰音除去装置と、を備えた放収音装置。
  5. 前記回帰音除去装置は、
    前記放音装置から放音された音声信号に基づいて、前記放音装置から前記収音装置への回帰音を推定して生成した擬似回帰音信号を、前記収音装置が生成した音声信号から除去する第1適応フィルタと、
    前記一対の収音手段が生成した音声信号を遅延させる遅延手段と、
    前記遅延手段が遅延させた音声信号に基づいて生成した残響音信号を、前記収音装置が生成した音声信号から除去する第2適応フィルタと、を備えた請求項4に記載の放収音装置。
JP2008205630A 2008-08-08 2008-08-08 収音装置、及び放収音装置 Expired - Fee Related JP5141442B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008205630A JP5141442B2 (ja) 2008-08-08 2008-08-08 収音装置、及び放収音装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008205630A JP5141442B2 (ja) 2008-08-08 2008-08-08 収音装置、及び放収音装置

Publications (2)

Publication Number Publication Date
JP2010041667A JP2010041667A (ja) 2010-02-18
JP5141442B2 true JP5141442B2 (ja) 2013-02-13

Family

ID=42013673

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008205630A Expired - Fee Related JP5141442B2 (ja) 2008-08-08 2008-08-08 収音装置、及び放収音装置

Country Status (1)

Country Link
JP (1) JP5141442B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9437179B2 (en) 2012-01-30 2016-09-06 Mitsubishi Electric Corporation Reverberation suppression device
JP6631010B2 (ja) * 2015-02-04 2020-01-15 ヤマハ株式会社 マイク選択装置、マイクシステムおよびマイク選択方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006287716A (ja) * 2005-04-01 2006-10-19 Tamura Seisakusho Co Ltd 音声調整装置

Also Published As

Publication number Publication date
JP2010041667A (ja) 2010-02-18

Similar Documents

Publication Publication Date Title
JP4984683B2 (ja) 放収音装置
KR101761312B1 (ko) 마이크 어레이를 이용한 방향성 음원 필터링 장치 및 그 제어방법
DK2916321T3 (en) Processing a noisy audio signal to estimate target and noise spectral variations
KR101555416B1 (ko) 음향 삼각 측량에 의한 공간 선택적 사운드 취득 장치 및 방법
KR101449433B1 (ko) 마이크로폰을 통해 입력된 사운드 신호로부터 잡음을제거하는 방법 및 장치
KR101456866B1 (ko) 혼합 사운드로부터 목표 음원 신호를 추출하는 방법 및장치
JP5050616B2 (ja) 放収音装置
WO2005125272A1 (ja) ハウリング抑圧装置、プログラム、集積回路、およびハウリング抑圧方法
JP2009522942A (ja) 発話改善のためにマイク間レベル差を用いるシステム及び方法
EP1571875A3 (en) A system and method for beamforming using a microphone array
EP2761890A1 (en) Processing audio signals
JP4894353B2 (ja) 放収音装置
JP2008042754A (ja) 音声会議装置
JP4802708B2 (ja) 放収音装置
JP2009206671A (ja) 音声会議システム
CN111078185A (zh) 录制声音的方法及设备
JP2015023508A (ja) 収音装置及びプログラム
JP5141442B2 (ja) 収音装置、及び放収音装置
US9729967B2 (en) Feedback canceling system and method
US7424119B2 (en) Voice matching system for audio transducers
KR20110021306A (ko) 마이크로폰의 신호 보상 장치 및 그 방법
JP7060905B1 (ja) 収音システム、収音方法及びプログラム
JP5028833B2 (ja) 放収音装置
JP5633145B2 (ja) 音信号処理装置
WO2021070278A1 (ja) 雑音抑圧装置、雑音抑圧方法、及び雑音抑圧プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110620

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120718

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120724

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120924

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20120924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121023

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121105

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151130

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5141442

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees