JP4918375B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP4918375B2
JP4918375B2 JP2007042215A JP2007042215A JP4918375B2 JP 4918375 B2 JP4918375 B2 JP 4918375B2 JP 2007042215 A JP2007042215 A JP 2007042215A JP 2007042215 A JP2007042215 A JP 2007042215A JP 4918375 B2 JP4918375 B2 JP 4918375B2
Authority
JP
Japan
Prior art keywords
imaging
unit
value
exposure
illuminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007042215A
Other languages
English (en)
Other versions
JP2008206033A (ja
Inventor
信幸 高坂
雅仁 中藤
学 居附
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Engineering Co Ltd
Original Assignee
Mitsubishi Electric Engineering Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Engineering Co Ltd filed Critical Mitsubishi Electric Engineering Co Ltd
Priority to JP2007042215A priority Critical patent/JP4918375B2/ja
Publication of JP2008206033A publication Critical patent/JP2008206033A/ja
Application granted granted Critical
Publication of JP4918375B2 publication Critical patent/JP4918375B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Exposure Control For Cameras (AREA)
  • Studio Devices (AREA)

Description

この発明は、複数の撮像部を有する撮像装置に関するものである。
多くの撮像装置ではCCDなどの撮像素子の出力信号を累算することで測光値を演算し、測光値が適正な所定の値となるように、光学的なレンズの絞り値、または撮像素子の電荷蓄積時間を調整する機能を有し、屋外などの昼夜の明るさの異なる環境下での撮影を可能としている。
しかし、光学的にレンズの絞り値を調整するレンズは高価であったり、撮像装置の大きさが大きくなったりするため、撮像素子の電荷蓄積時間を調整する機能を有する撮像装置が大半を占めている。
そして、電荷蓄積時間を調整する機能を有する撮像装置では、逆光状態に対応するために、使用者が逆光状態であることを認識し、逆光補正ボタンを押すことにより制御方法の切り替えを行っている(例えば、特許文献1参照)。
また、1画面を複数のブロックに分割し、中央部分と周辺部分の測光データを組み合わせて逆光状態を判断する撮像装置も提案されている(例えば、特許文献2参照)。
特開平7−245758号公報 特開平6−225205号公報
しかし、車載時に夜間の逆光状態で撮影した場合、撮影対象物が常に移動し画面の特定位置にあるとは限らないため、従来の技術では、逆光補正がうまく働かず、ヘッドライトの影響を受けて全体の画像が暗く撮影されてしまい、撮影対象物例えばナンバープレートの文字が識別できないという問題がある。
また、従来の技術では夜間は感度向上のため、撮像装置での電荷蓄積時間を長くしているおり、高速で移動している対象物を撮影すると、撮影画像ににじみが生じ、撮影対象物の細部、例えばナンバープレートの文字が識別できないという問題がある。
一方、最近設置が拡大しつつあるLED信号機は商用電源を全波整流してLEDを点灯させているので、LEDの特性上商用電源の周期の半分で高速に点滅している。そこで、従来の撮像装置では、明るい昼間の撮影時に電荷蓄積時間を短くしているため、点滅しているLED信号機を撮影した場合、消灯状態が撮影されるという問題がある。
この発明の目的は、撮影対象物の必要な情報を周囲の照度や撮影対象物の状態に係わらずに、明瞭に撮影する撮像装置を提供することである。
この発明に係る撮像装置は、光量および露出に応じる出力信号を出力する撮像部、上記撮像部の露出を調整する露出調整部、および上記出力信号を累算して測光値を出力する検波部を有する少なくとも2つの撮像系と、上記測光値に基づいて上記撮像系毎の露出調整部を制御する演算部と、を備える撮像装置であって、上記演算部は、上記撮像系毎に上記測光値を所定の値に収束するよう上記露出調整部を制御する制御値を演算する露出計算手段と、1つの上記撮像系の上記測光値および上記制御値から被写体照度を演算する照度計算手段と、を有し、上記被写体照度により他の上記撮像系の撮像部の露出を制御する。
この発明に係る撮像装置の効果は、複数の撮像装置を備え、撮像部毎に露出制御方法を変えることができるので、撮影対象物の必要な情報を周囲の照度や撮影対象物の状態に係わらずに、明瞭に撮影することができることである。
実施の形態1.
図1は、この発明の実施の形態1による撮像装置の構成を示すブロック図である。
この発明の実施の形態1による撮像装置は、異なる視界を撮影する4つの撮像系を備えており、撮像系を区別するために第1撮像系〜第4撮像系と称し、付記する符号に添えるアルファベットとしてa、b、c、dを割り当てている。なお、以下の説明では4つの撮像系を備える撮像装置について説明するが、少なくとも2つの撮像系を備える撮像装置にこの発明を適用することができる。
そして、各撮像系は、各視界を撮影して撮像部出力信号を出力する撮像部1a〜1d、光を集光して撮像部1a〜1dに結像する光学部2a〜2d、撮像部1a〜1dの電荷蓄積時間を調整する露出調整部3a〜3d、各撮像部1a〜1dの撮像部出力信号を累算し測光値を求める検波部5a〜5d、検波部5a〜5dにおいて求める測光値が所定の値に収束するよう、露出調整部3a〜3dの制御値を求める露出計算手段6a〜6dを有する。
撮像部1a〜1dは、2次元に配列された複数の撮像素子を有し、撮像素子は水平方向に並べられてラインを構成し、さらにラインは鉛直方向に並べられてフレームを構成する。そして、フレーム内の撮像素子からは、順次撮像部出力信号が出力される。
また、撮像部1aが撮影する視界は、他の撮像部1b〜1dが撮影する視界より広い。このように広い視界の撮像部1aを採用することにより、例えばヘッドライトなどのような一時的に視界に入り込む被写体の影響を小さくすることができ、結果として昼夜の変化を捉えることができる。
以下、撮像部1a〜1dの露出を電荷蓄積時間を調整する例を説明するが、これに限るものではない。
撮像部出力信号は、入射される光の光量と撮像部1a〜1dの電荷蓄積時間とにより変化するが、電荷蓄積時間は撮像部1a〜1dで変えることができる。そして、測光値は撮像部出力信号を1フレーム分累算して求めるので、電荷蓄積時間を変えることにより測光値も変えることができる。
また、撮像装置は、演算部4を備え、演算部4は、露出計算手段6a〜6dを備えるとともに、第1撮像系の検波部5aにおいて求める測光値と第1撮像系の露出計算手段6aにおいて求める制御値とから被写体照度を演算する照度計算手段7、および照度計算手段7において求める被写体照度と予め定められた閾値とを比較判定する判定手段8を有する。
照度計算手段7は、検波部5aにおいて求める測光値と露出計算手段6aにおいて求める電荷蓄積時間に関連する制御値とを勘案することにより撮像部1aで撮影する被写体の被写体照度を計算する。
判定手段8は、被写体照度と閾値とを比較し、被写体照度が閾値を超えているとき昼間信号、被写体照度が閾値以下のとき夜間信号を露出計算手段6a〜6dに送る。
第1撮像系の露出計算手段6aは、判定手段8から送られてくる昼間信号または夜間信号に係わらずに検波部5aにおいて求める測光値が所定の値に収束するよう、露出調整部3aの制御値を求め、露出調整部3aに制御値を送る。その結果、検波部5aにおいて求める測光値は所定の値に収束される。このように測光値が所定の値に収束された画像では、全体としての明るさが所定の明るさとなる。
第2撮像系から第4撮像系の露出計算手段6b〜6dは、判定手段8から昼間信号が送られてきているときには、第1撮像系の露出計算手段6aと同様に、各撮像系の検波部5b〜5dにおいて求める測光値が所定の値に収束するよう、露出調整部3b〜3dの制御値を求める。逆に、判定手段8から夜間信号が送られてきているときには、第2撮像系から第4撮像系の露出計算手段6b〜6dは、露出調整部3b〜3dに制御値として予め定められた固定値を送る。その結果、撮像部1b〜1dの露出、すなわち電荷蓄積時間が固定されるので、画像の明るさは入射される光の光量の変化に従って変化する。例えば、ヘッドライトのように光量の大きな画像は露出が固定されているので、完全に白つぶれが起こり被写体としては判別することができない。一方、ナンバープレートのように光量が一定で小さい画像は、露出が固定されているので、所定の明るさの画像として認識できる。ナンバープレートには番号が表示されているので、画像から番号を読み取ることができる。
次に、実施の形態1による撮像装置の動作について説明する。なお、第1撮像系の動作は昼夜で違いがないので、最初に第1撮像系に関して説明する。
撮像部1aは、光学部2aにより集光される光により誘起される電荷を露出調整部3aにより制御される電荷蓄積時間に亘って蓄積し、撮像部出力信号として出力する。
検波部5aは、撮像部1aより出力される撮像部出力信号を1フレーム単位で累算し、測光値として出力する。
露出計算手段6aは、検波部5aにおいて求める測光値が所定の値に収束するように、露出調整部3aの制御値を求める。
露出調整部3aは、露出計算手段6aから入力される制御値に従い、撮像部1aの電荷蓄積時間を制御する。その結果、撮像部1aより出力される撮像部出力信号の大きさが変化する。
この一連のフィードバック制御により検波部5aにおいて求める測光値が所定の値に収束する。
照度計算手段7は、検波部5aにおいて求める測光値と露出計算手段6aにおいて求める制御値とを用いて被写体照度を算出する。
判定手段8は、被写体照度を予め定められた閾値と比較し、被写体照度が閾値を超えているとき昼間信号、被写体照度が閾値以下のとき夜間信号を露出計算手段6a〜6dに送る。
このように、判定手段8から第2撮像系から第4撮像系の露出計算手段6b〜6dに昼間信号または夜間信号が送られてくる。そのため、第2撮像系から第4撮像系の動作は昼間信号が送られてきているときと夜間信号が送られてきているときで異なる。但し、昼間信号が送られてきているときの動作は第1撮像系での動作と同様であるので、説明は省略する。
次に、夜間信号が送られてきている第2撮像系での動作を説明する。なお、第3撮像系と第4撮像系での動作は第2撮像系での動作と同様であるので、説明は省略する。
露出計算手段6bは、夜間信号が送られてきているので、検波部5bにおいて求める測光値に係わらず予め定めた固定値を制御値として露出調整部3bに送る。
露出調整部3bは、固定値に従って撮像部1bの露出を制御する。
実施の形態1による撮像装置は、昼間では撮像部1a〜1dの電荷蓄積時間を制御して測光値をフィードバック制御することにより、撮像された画像の明るさは全体として所定の明るさになるように制御されている。また、夜間では撮像部1b〜1dの電荷蓄積時間を入射される光に係わらず固定することにより、光量の大きな被写体が視界に入り込んでも画像内の他の被写体の明るさが維持されるので、光量の変わらない被写体の画像の明るさを一定に保たれる。
もし、夜間において昼間のように測光値をフィードバック制御すると、車両のヘッドライトのように非常に大きな光量の光が入射されると測光値が大きくなり測光値を小さくしようとして電荷蓄積時間を短くするので、ヘッドライトを除いた被写体の画像が暗くなりその被写体を識別することができなくなる。
しかし、夜間走行中の車両のナンバープレート周辺の照度はある程度の範囲内にあるので、この照度に対応した電荷蓄積時間に固定すれば、ナンバープレートを識別することができる。但し、このとき、ヘッドライト部分は完全に白つぶれを起こし情報は欠落する。
また、撮像部1aの視界を相対的に広い範囲に設定し、撮影視野に対してヘッドライト部分が小さく撮影するように構成するため、検波部5aにおいて演算された測光値に大きな変化は発生せずに、照度計算手段7で演算された被写体照度が安定し、昼夜判定に与える影響を軽減することができる。
特に、車両のヘッドライトのような強力な光を撮影すると検波部5a〜5dで演算する測光値が大きく変化し、照度計算手段7で演算する被写体照度の演算結果が大きく変化する。
また、撮影する視角に対してヘッドライト部の占める面積の割合を小さくすることにより検波部5aで演算する測光値の変化を抑えることが可能である。
なお、判定手段8は、被写体照度を閾値と比較し、被写体照度が閾値を越えたとき直ちに夜間と判断しているが、直ちに夜間と判断せずに、所定のヒステリシスを有する閾値を超えたとき夜間と判断しても良い。これにより昼から夜への薄暮期間などで頻繁に処理の切り替わりが発生することを防ぐことができる。
また、検波部5a〜5dは、1フレーム全体の撮像部出力信号を用いて測光値を演算しているが、フレーム内に検波範囲を設定し、検波範囲内の撮像部出力信号を測光値の演算に用いても良い。
雨天時は、路面が濡れて反射面となるので、対向車両のヘッドライトは路面で反射し、ヘッドライトからの直接光に加え路面で反射した反射光まで撮影される。路面で反射した反射光はヘッドライトからの直接光より広く拡がるので、照度計算手段7で演算する被写体照度が明るく計算されてしまい昼間と誤判定することがある。
そこで、ヘッドライトが反射する路面付近を検波範囲から除外するようにすると、反射光が測光値に影響しないので正確な被写体照度が計算できる。
また、判定手段8は夜間と判定したとき夜間信号を露出計算手段6b〜6dに送り、露出計算手段6b〜6dは露出調整部3b〜3dに固定値を制御値として設定しているが、撮像部1b〜1dの視界に含まれる被写体に基づいて判定手段8は夜間と判定したとき夜間信号または昼間信号を選択し露出計算手段6b〜6dに送っても良い。
例えば、撮像部1bの視界に含まれる被写体がナンバープレートではなく、歩道を歩く人物などの場合にはフィードバック制御を行う方が良い場合もある。この場合、撮像部1bの測光値が所定の値に収束して適正となるように、判定手段8は露出計算手段6bに昼間信号を送る。このようにすると、視界に含まれる被写体に対応した必要な情報を撮影することができる。
実施の形態2.
この発明の実施の形態2による撮像装置は、この発明の実施の形態1による撮像装置と露出計算手段が異なり、それ以外は同様であるので、同様な部分に同じ符号を付記し説明は省略する。
この発明の実施の形態2による第2撮像系の露出計算手段6bは、昼間信号が入力されているとき、撮像部1bの電荷蓄積期間が商用電源の1周期の整数倍以外の固定値を制御値として露出調整部3bに送る。露出調整部3bは、この固定値に従って撮像部1bの電荷蓄積期間を調整する。例えば、60Hz地域での商用電源の1周期は1/60秒であり、電荷蓄積期間が1/120秒以上となる固定値が予め定められている。
図2は、LED信号機の点滅動作について説明するための波形である。
この発明の実施の形態2による撮像装置は、1つの撮像部1bは視界内にLED信号機が含まれており、LED信号機の点灯の様子を撮影する。
LED信号機は、商用電源を全波整流して点灯させている。図2(a)に示すような電流波形で示される商用電源を全波整流すると、図2(b)に示すような電流波形で示される全波整流になる。この全波整流でLED信号機を点灯させると、LEDは特性上、図2(c)に示すようなLED点滅波形、すなわち商用電源の周期の半分の周期で点灯、消灯を繰り返す。すなわち、50Hz地域(東日本)では1/100秒、60Hz地域(西日本)では1/120秒で点灯、消灯を繰り返している。
図3は、この発明の実施の形態2による撮像装置における撮影タイミングを示すタイミングチャートである。
ここでは、60Hz地域で1/60秒毎に電荷蓄積を繰り返す撮像装置でLED信号機を撮影した場合を例に説明する。LED信号機のLEDは、図3(a)に示すように、1/60秒周期で0.7/60秒間点灯し、0.3/60秒間消灯する。
明るい昼間の撮影時には、図3(b)に示すように、電荷蓄積期間が短くなり、LEDの消灯状態と電荷蓄積期間が時期的に揃った場合、消灯状態が撮影される。このときは、LED信号機の点灯の様子を撮影していないことになる。
そこで、電荷蓄積期間が、図3(c)に示すように、0.8/60秒と調整された撮像部1bによりLED信号機を撮影すると、0.8/60秒間の様子が蓄積されるためLED信号機は点灯状態として撮影されることになる。
ところで、LED信号機の撮影用に昼間、撮像部1bの露出調整部3bの制御値を固定値とした場合、LED信号機以外の被写体を適切な明るさで撮影できないという問題が考えられる。
しかし、この発明の実施の形態2による撮像装置は、他の撮像部1c、1dを備えているので、1つの撮像部1bをLED信号機撮影専用として使用し、他の撮影部1c、1dを前方・側方撮影用として使用することによりこの問題は解決できる。
実施の形態3.
図4は、この発明の実施の形態3による撮像装置の構成を示すブロック図である。
この発明の実施の形態3による撮像装置は、実施の形態1による撮像装置に垂直同期調整手段9を追加したことが異なり、それ以外は同様であるので、同様な部分に同じ符号を付記し説明は省略する。
垂直同期調整手段9は、図4に示すように、撮像部1aから垂直同期信号が入力され、その垂直同期信号を商用電源の1/4周期だけ遅らせた垂直同期信号を撮像部1bに入力する。撮像部1bは、垂直同期信号をトリガとして電荷蓄積期間を開始する。
図5は、この発明の実施の形態3による撮像装置の電荷蓄積タイミングを波形で示した図である。
第1撮像系の撮影部1aの電荷蓄積期間がLED信号機の消灯状態と時期的揃った場合でも、垂直同期調整手段9により第2撮像系の撮像部1bの電荷蓄積期間がLED信号機の消灯状態とずれるので、撮像部1bによりLED信号機の点灯状態を撮影することができる。
この実施の形態3による撮像装置は、複数の撮像部1a〜1dを備え、垂直同期調整手段9により撮像部1aと撮像部1bの電荷蓄積期間の開始する時点をずらすことができるので、LED信号機の消灯状態の撮影を防止できる。
この発明の実施の形態1による撮像装置の構成を示すブロック図である。 LED信号機の点滅動作について説明するための波形である。 この発明の実施の形態2による撮像装置における撮影タイミングを示すタイミングチャートである。 この発明の実施の形態3による撮像装置の構成を示すブロック図である。 この発明の実施の形態3による撮像装置の電荷蓄積タイミングを波形で示した図である。
符号の説明
1a〜1d 撮像部、2a〜2d 光学部、3a〜3d 露出調整部、4 演算部、5a〜5d 検波部、6a〜6d 露出計算手段、7 照度計算手段、8 判定手段、9 垂直同期調整手段。

Claims (3)

  1. 光量および露出に応じる出力信号を出力する撮像部、上記撮像部の露出を調整する露出調整部、および上記出力信号を累算して測光値を出力する検波部を有する少なくとも2つの撮像系と、上記測光値に基づいて上記撮像系毎の露出調整部を制御する演算部と、を備える撮像装置であって、
    上記演算部は、
    上記撮像系毎に上記測光値を所定の値に収束するよう上記露出調整部を制御する制御値を演算する露出計算手段と、
    1つの上記撮像系の上記測光値および上記制御値から被写体照度を演算する照度計算手段と、
    上記被写体照度と予め定められた閾値とを比較する判定手段と
    を有し、
    上記露出計算手段は、上記被写体照度が閾値以上の場合は、上記1つの撮像系の測光値が所定の値に収束するよう制御値を演算するとともに少なくとも1つの他の上記撮像系の撮像部の電荷蓄積時間を、商用電源の周期の半分の周期以上の時間に固定するよう予め定められた制御値を出力することを特徴とする撮像装置。
  2. 上記演算部は、上記被写体照度と予め定められた閾値とを比較する判定手段を有し、
    上記露出計算手段は、上記被写体照度が閾値を超える場合は、上記撮像系毎に測光値が所定の値に収束するよう制御値を演算し、上記被写体照度が閾値以下の場合は、上記1つの撮像系の測光値が所定の値に収束するよう制御値を演算するとともに少なくとも1つの他の上記撮像系の撮像部の露出が固定するよう予め定められた制御値を出力することを特徴とする請求項1に記載の撮像装置。
  3. 上記1つの撮像系の撮像部は、周囲の照度を検知できる範囲を撮影する視界を有することを特徴とする請求項1または請求項2に記載の撮像装置。
JP2007042215A 2007-02-22 2007-02-22 撮像装置 Active JP4918375B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007042215A JP4918375B2 (ja) 2007-02-22 2007-02-22 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007042215A JP4918375B2 (ja) 2007-02-22 2007-02-22 撮像装置

Publications (2)

Publication Number Publication Date
JP2008206033A JP2008206033A (ja) 2008-09-04
JP4918375B2 true JP4918375B2 (ja) 2012-04-18

Family

ID=39782996

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007042215A Active JP4918375B2 (ja) 2007-02-22 2007-02-22 撮像装置

Country Status (1)

Country Link
JP (1) JP4918375B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR200468693Y1 (ko) * 2010-04-22 2013-08-28 일우엠앤디 (주) 조도에 따른 카메라 제어 기능을 갖는 차량용 블랙박스
JP6307702B2 (ja) * 2014-01-17 2018-04-11 パナソニックIpマネジメント株式会社 冷蔵庫
JP2018050113A (ja) * 2016-09-20 2018-03-29 株式会社富士通ゼネラル 撮像装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001021958A (ja) * 1999-07-02 2001-01-26 Sumitomo Electric Ind Ltd カメラの絞り制御方法及び装置並びに記録媒体
JP3960146B2 (ja) * 2002-06-27 2007-08-15 日産自動車株式会社 画像認識装置

Also Published As

Publication number Publication date
JP2008206033A (ja) 2008-09-04

Similar Documents

Publication Publication Date Title
KR101640875B1 (ko) 물체 검출 장치
US9794493B2 (en) Image capturing apparatus, image capturing method, and control method
US7400823B2 (en) Camera provided with camera-shake compensation functionality
KR101093383B1 (ko) 영상 포착 장치를 위한 시스템 및 방법
KR100367594B1 (ko) 씨씨디 카메라의 제어 방법
JP2016015615A (ja) 撮像装置、その制御方法、および制御プログラム
CN102413280A (zh) 摄像设备及其控制方法
JP5868061B2 (ja) 撮像装置
JP2009017474A (ja) 画像処理装置および画像処理方法
JP2016039499A (ja) 撮像装置、制御方法、プログラム及び記憶媒体
JP2012120132A (ja) 撮像装置およびプログラム
KR100878491B1 (ko) 방범 카메라 시스템 및 그 제어방법
JP4918375B2 (ja) 撮像装置
JP2017063245A (ja) 撮像装置
JP2004289786A (ja) 撮像装置
JP2008053811A (ja) 電子カメラ
JP2022008186A (ja) ビデオカメラの性能を向上させるための方法
JP2008147777A (ja) 監視カメラシステム
JP2006030713A (ja) 表示装置
JP2020091453A (ja) 制御装置、撮像装置及びその制御方法
JP2004229034A (ja) 赤外線照明内蔵型デイナイトカメラ
JP2009031343A (ja) カメラ
JP2009146259A (ja) 車両ナンバー撮影システム、車両ナンバー撮影方法
JP2006332831A (ja) 撮像装置
JP2017011625A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091130

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110704

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120130

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150203

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4918375

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250