JP2012185171A - 距離画像生成装置 - Google Patents

距離画像生成装置 Download PDF

Info

Publication number
JP2012185171A
JP2012185171A JP2012107826A JP2012107826A JP2012185171A JP 2012185171 A JP2012185171 A JP 2012185171A JP 2012107826 A JP2012107826 A JP 2012107826A JP 2012107826 A JP2012107826 A JP 2012107826A JP 2012185171 A JP2012185171 A JP 2012185171A
Authority
JP
Japan
Prior art keywords
light
distance image
photoelectric conversion
distance
conversion elements
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012107826A
Other languages
English (en)
Other versions
JP5190721B2 (ja
Inventor
Ryohei Ikeno
良平 池野
Takashi Kawada
任史 河田
Fumio Kubo
文雄 久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Stanley Electric Co Ltd
Original Assignee
Stanley Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Stanley Electric Co Ltd filed Critical Stanley Electric Co Ltd
Priority to JP2012107826A priority Critical patent/JP5190721B2/ja
Publication of JP2012185171A publication Critical patent/JP2012185171A/ja
Application granted granted Critical
Publication of JP5190721B2 publication Critical patent/JP5190721B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Optical Radar Systems And Details Thereof (AREA)

Abstract

【課題】精度の高い距離画像を生成することができる距離画像生成装置の提供。
【解決手段】変調した変調光を照射する発光源と、対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける手段と、を備えた撮像素子と、電荷に基づいて所定演算を行い、画素値が距離値である距離画像を生成する距離画像生成部と、光量を調整する光量調整手段と、電荷に基づいて、対象物で反射した反射光成分の振幅値を演算する演算手段と、前記光電変換素子の数をカウントするカウント手段と、を備え、前記光量調整手段は、前記カウント手段によりカウントされた光電変換素子の数が一定数を越えたとき、前記発光源の変調光の光量を下げるように調整する。
【選択図】図4

Description

本発明は、距離画像生成装置に係り、特により精度の高い距離画像を生成することができる距離画像生成装置に関する。
従来、距離画像センサ(CCDタイプやCMOSタイプがある)を用いていわゆる距離画像を生成する装置が知られている(例えば特許文献1)。
この特許文献1に記載の距離画像生成装置は、所定の発光周波数で強度変調された光を空間に放射する発光源、発光源が放射した光の反射光を受光し受光強度に対応する信号レベルの受光信号を出力する複数個の光電変換部を備える距離画像センサとしてのイメージセンサ等を備えている。この特許文献1に記載の距離画像生成装置においては、変調周期内に反射光を受光して電荷に変換し、この変換した電荷に基づいて所定演算を行うことにより、変調光と反射光との位相差を算出し、距離画像を生成している。
特開2004−32682号公報
しかしながら、特許文献1に記載の距離画像生成装置においては、発光源の光量が一定であるため、距離画像の精度に大きな影響を及ぼす可能性がある。
例えば、変調光源が暗すぎる場合、変調光源以外の背景光に比べ変調光源からの変調光の比率が極端に少なくなることによってSN比が下がり、計測距離の誤差が多くなる。また、変調光源が明るすぎる場合は、撮像素子に蓄積する電荷が飽和してしまい、距離計測が行えなくなる。
また、光は光源からの距離の二乗に反比例して減衰するため、例えば室内のような比較的対象物までの距離が近く、計測距離範囲が限られている場合は、変調光源の光量が一定であっても測定結果に大きな変動が起こることは少ない。しかし、屋外、例えば車両前方の距離を測定するような場合、対象物は道路や風景、歩行者、先行車、対向車などであり、それらの距離は数メートルから無限遠にまで変化する。ゆえに、近距離の対象物と遠距離の対象物でそれぞれ変調光源の最適な光量は異なると考えられるため、変調光源の光量が動的に変化することが望ましい。
さらに、同じ距離に存在する対象物の距離を計測する場合であっても、対象物の反射率によって反射光の強度が変わるため、変調光源の光量を変化させたほうが望ましい。
本発明は、このような事情に鑑みてなされたものであり、発光源の光量を変化させることにより、より精度の高い距離画像を生成することができる距離画像生成装置を提供することを目的とする。
本発明は上記課題を解決するために、請求項1に記載の発明は、対象空間に変調した変調光を照射する発光源と、前記発光源から照射され対象空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記発光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける手段と、を備えた撮像素子と、前記複数の電荷蓄積部に蓄積された電荷に基づいて所定演算を行い、画素値が距離値である距離画像を生成する距離画像生成部と、前記発光源の変調光の光量を調整する光量調整手段と、前記複数の電荷蓄積部に蓄積された電荷に基づいて、前記発光源から照射され対象空間内の対象物で反射した反射光成分の振幅値を演算する演算手段と、前記演算手段により予め定められた範囲外の反射光成分の振幅値が演算された前記光電変換素子の数をカウントするカウント手段と、を備え、前記光量調整手段は、前記カウント手段によりカウントされた光電変換素子の数が一定数を越えた時、前記発光源の変調光の光量を下げるように調整することを特徴とする。
請求項1に記載の発明によれば、光量調整手段により発光源の変調光の光量の調整(増減等)が可能である。発光源の変調光の光量を調整することにより、対象物の距離が変化した場合や様々な反射率の対象物を対象とした場合でも、反射した変調光の光量を最適に保つことができるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。また、発光源の変調光の光量が常に一定ではないので、余計な発光電力を抑えることも可能となる(特に光量が減少する方向に調整される場合)。
また、請求項1に記載の発明によれば、カウント手段によりカウントされた光電変換素子の数に基づいて、発光源の変調光の光量を調整する。例えば、予め定められた範囲以上の反射光成分の振幅値が演算された光電変換素子の数が一定数を越えると、発光源の変調光の光量が明るすぎると判断して発光源の変調光の光量を下げるように調整する。これによっても、反射した変調光の光量を最適に保つことができるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
請求項2に記載の発明は、請求項1に記載の発明において、前記距離画像生成部により生成された距離画像から背景以外の対象物を抽出する抽出手段をさらに備えており、前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする。
請求項2に記載の発明によれば、背景以外の対象物のみを抽出し、その抽出された対象物に対応する光電変換素子に対してカウント処理した光電変換素子の数に基づいて、発光源の変調光の光量を調整する。これにより、その対象物に最適な発光源の変調光の光量に保つことができるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
請求項3に記載の発明は、請求項1に記載の発明において、前記距離画像生成部により生成された距離画像から予め定められた距離範囲内の対象物を抽出する抽出手段をさらに備えており、前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする。
請求項3に記載の発明によれば、検出したい距離範囲にある対象物のみを抽出し、その抽出された対象物に対応する光電変換素子に対してカウント処理した光電変換素子の数に基づいて、発光源の変調光の光量を調整する。これにより、その対象物に最適な発光源の変調光の光量に保つことができるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
請求項4に記載の発明は、請求項1から3のいずれかに記載の発明において、前記光量調整手段は、フレーム時間毎に前記発光源の変調光の光量を変化させることを特徴とする。
請求項4に記載の発明によれば、フレーム時間毎に発光源の変調光の光量を変化させるので、広い距離範囲の対象物、複数の距離範囲の対象物、反射率の異なる複数の対象物についても精度良く検出することが可能になる。また、複数の対象物の距離を精度良く測定することが可能になる。これにより、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
請求項5に記載の発明は、請求項1に記載の発明において、前記発光源は、対象空間に変調した変調光を照射する複数の発光体を備えており、前記複数の発光体は、複数の領域に分割されており、前記複数の光電変換素子は、前記複数の領域に対応して複数の光電変換素子エリアに分割されており、前記光量調整手段は、前記分割された光電変換素子エリアごとに、前記カウント手段によりカウントされた前記光電変換素子の数に基づいて、該分割された光電変換素子エリアに対応するエリアを照射する発光体の変調光の光量を調整することを特徴とする。
請求項5に記載の発明によれば、発光源の変調光の光量を光電変換素子エリア(画像領域)ごとに最適に調整できるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。また、発光源の変調光の光量が常に一定ではないので、余計な発光電力を抑えることも可能となる(特に光量が減少する方向に調整される場合)。
また、請求項5に記載の発明によれば、分割された光電変換素子エリアごとに、カウント手段によりカウントされた光電変換素子の数に基づいて、発光源の変調光の光量を調整する。例えば、ある分割された光電変換素子エリアにおいて、予め定められた範囲以上の反射光成分の振幅値が演算された光電変換素子の数が一定数を越えると、発光源の変調光の光量が明るすぎると判断してその光電変換素子エリアに対応する照射エリアの発光体の変調光の光量を下げるように調整する。これによっても、発光源の変調光の光量を光電変換素子エリア(画像領域)ごとに最適に調整できるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
請求項6に記載の発明は、請求項5に記載の発明において、前記距離画像生成部により生成された距離画像から背景以外の対象物を抽出する抽出手段をさらに備えており、前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする。
請求項6に記載の発明によれば、背景以外の対象物のみを抽出し、その抽出された対象物に対応する光電変換素子に対してカウント処理した光電変換素子の数に基づいて、発光源の変調光の光量を調整する。これにより、その対象物に最適な発光源の変調光の光量に保つことができるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
請求項7に記載の発明は、請求項5に記載の発明において、前記距離画像生成部により生成された距離画像から予め定められた距離範囲内の対象物を抽出する抽出手段をさらに備えており、前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする。
請求項7に記載の発明によれば、検出したい距離範囲にある対象物のみを抽出し、その抽出された対象物に対応する光電変換素子に対してカウント処理した光電変換素子の数に基づいて、発光源の変調光の光量を調整する。これにより、その対象物に最適な発光源の変調光の光量に保つことができるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
本発明によれば、発光源の変調光の光量を変化させることにより、より精度の高い距離画像を生成することができる距離画像生成装置を提供することが可能となる。
本発明の第一実施形態である距離画像生成装置のブロック図である。 距離画像を生成する原理を説明するための図である。 外乱光がほとんどなく、対象物が遠い、もしくは、対象物の反射率が極端に小さい場合に起こりうる、変調光と入射光の関係を表す図である。 本発明の第一実施形態である距離画像生成装置の動作例1を説明するためのフローチャートである。 外乱光が多く、対象物の反射率が高い場合に起こりうる、変調光と入射光の関係を表す図である。 本発明の第一実施形態である距離画像生成装置の動作例2を説明するためのフローチャートである。 外乱光が比較的多く、対象物が遠い、もしくは、対象物の反射率が極端に小さい場合に起こりうる、変調光と入射光の関係を表す図である。 本発明の第一実施形態である距離画像生成装置の動作例4を説明するためのフローチャートである。 本発明の第一実施形態である距離画像生成装置の動作例5を説明するためのフローチャートである。 本発明の第一実施形態である距離画像生成装置の動作例5を説明するためのフローチャートである。 本発明の第一実施形態である距離画像生成装置の動作例6を説明するためのフローチャートである。 本発明の第一実施形態である距離画像生成装置の動作例6を説明するためのフローチャートである。 本発明の第一実施形態である距離画像生成装置の動作例7を説明するためのフローチャートである。 本発明の第二実施形態である距離画像生成装置の光源の正面図である。 自動車前方に搭載した第二実施形態の距離画像生成装置により撮像した画像例である。
〔第一実施形態〕
以下、本発明の第一実施形態である距離画像生成装置について図面を参照しながら説明する。
〔距離画像生成装置の構成〕
まず、第一実施形態である距離画像生成装置の構成について説明する。
図1は、第一実施形態である距離画像生成装置のブロック図である。図1に示すように、距離画像生成装置1は、光飛行時間型距離画像センサ10(以下、距離画像センサ10という)を備えている。距離画像センサ10は、光源11、撮像素子15、制御部16、及び、距離画像生成部17等を備えている。
光源11は、対象空間に変調した光(例えば、正弦波もしくは矩形波等で高速に変調させた赤外光もしくは可視光)を照射する発光源であり、LED等の高速変調が可能なデバイスが用いられる。
撮像素子15は、光源11から照射され対象空間内の対象物で反射した反射光を含む入射光14を受光して電荷に変換する複数の光電変換素子(画素ともいう)、この光電変換素子ごとに設けられた複数の電荷蓄積部、及び、光源11の変調に同期して、光電変換素子により変換された電荷を複数の電荷蓄積部に振り分ける手段等を備えている(いずれも図示せず)。
制御部16は、光源11と撮像素子15を同期制御するためのものであり、撮像素子15は、制御部16の同期信号に従って、光電変換素子により変換された電荷を複数の電荷蓄積部に高速に振り分ける。
距離画像生成部17は、振り分けられた電荷に基づいて所定演算を行い、発光源との位相差を算出し、画素値が距離値である距離画像を生成する。
〔距離画像を生成する原理〕
次に、距離画像を生成する原理について説明する。
図2は、距離画像を生成する原理を説明するための図である。図2中、正弦波21は光源11の変調光を表しており、正弦波22は撮像素子15の入射光を表している。正弦波21と正弦波22との位相差φは、光の対象物までの飛行時間によって生じる遅延を表している。
図2では、光源11の変調の1周期を4つの期間に分けて4つの電荷蓄積部に電荷を振り分けている。それぞれの期間をT1、T2、T3、T4とし、それぞれの期間に蓄積する電荷量をC1、C2、C3、C4とすると、位相差φは、次の式で表される。
光の速度は既知であるから、この位相差φを求めることで対象物までの距離が求まり、画素値が距離値である距離画像を生成することが可能となる。
なお、一般的な画像データとして用いる電荷量平均Aは、次の式で表される。
また、対象物で反射した変調光成分の振幅量Bは、次の式で表される。
一般的に発光源の変調周波数は数十MHzであり、よって変調の1周期は数十ns程度である。そのため、距離画像を得るためには数百〜数十万周期の電荷蓄積時間を要する。
〔距離画像生成装置の動作〕
次に、上記構成の距離画像生成装置1の動作について図面を参照しながら説明する。
〔距離画像生成装置の動作例1〕
図3は、外乱光がほとんどなく、対象物が遠い、もしくは、対象物の反射率が極端に小さい場合に起こりうる、変調光と入射光の関係を表している。
図3では、光源11から照射される変調光31に対して入射光32の光量が非常に小さので、撮像素子15において蓄積される電荷も少なくなる。蓄積される電荷が少なくなると、フォトンショットノイズ等の影響が大きくなり、位相差φの算出誤差が大きくなる。
この入射光の光量が小さいことに起因する位相差φの算出誤差を防止又は低減するべく、図3に示した状況下では、距離画像生成装置1は図4に示すように動作する。
図4は、距離画像生成装置1の動作例1を説明するためのフローチャートである。以下の処理は、主に、制御部16又はこれとは別に設けられた制御部(図示せず)が行う。
まず、光源11は、制御部16の同期信号に従って、対象空間に変調した光を照射する(ステップS10)。撮像素子15は、その光源11から照射され対象空間内の対象物で反射した反射光を含む入射光を受光し、光電変換素子により電荷に変換し、制御部16の同期信号に従って、その変換された電荷を複数の電荷蓄積部に振り分ける(ステップS11)。距離画像生成部17は、この振り分けられた電荷に基づいて所定演算(上記式1の演算)を行い、発光源との位相差φを算出し、画素値が距離値である距離画像を生成する。
次に、制御部16は、少なくとも一つの電荷蓄積部に規定値(予め定められた値。閾値。)以下の電荷が蓄積された光電変換素子の数をカウントする(ステップS12)(本発明のカウント手段に相当)。制御部16は、このカウントされた光電変換素子の数が一定数を超えると(ステップS13:Yes)、光源11の光量が暗いと判断して光源11の光量を上げるように制御する(ステップS14)。以後、ステップS10からステップS14の処理を繰り返す。
以上のように、本動作例1においては、ステップS12でカウントされた光電変換素子の数が一定数を超えると(ステップS13:Yes)、光源11の光量が暗いと判断して光源11の光量を上げる(ステップS14)。これにより、入射光(反射した変調光)の光量を最適に保つことができるので、入射光の光量が小さいことに起因する位相差φの算出誤差の防止又は低減が可能となる。これにより、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
〔距離画像生成装置の動作例2〕
図5は、外乱光が多く、対象物の反射率が高い場合に起こりうる、変調光と入射光の関係を表している。
図5中、正弦波41は光源11から照射される変調光を表しており、正弦波42は入射光を表している。ここで直線43は撮像素子15において蓄積される電荷が飽和する光量を表している。正弦波42が直線43を上回る期間では、撮像素子15において蓄積される電荷が飽和してそれ以上増えず、結果、位相差φを算出した際に誤差となる。
この入射光の光量が大きく撮像素子において蓄積される電荷が飽和することに起因する位相差φの算出誤差を防止又は低減するべく、図5に示した状況下では、距離画像生成装置1は図6に示すように動作する。
図6は、距離画像生成装置1の動作例2を説明するためのフローチャートである。以下の処理は、主に、制御部16又はこれとは別に設けられた制御部(図示せず)が行う。
まず、光源11は、制御部16の同期信号に従って、対象空間に変調した光を照射する(ステップS20)。撮像素子15は、その光源11から照射され対象空間内の対象物で反射した反射光を含む入射光を受光し、光電変換素子により電荷に変換し、制御部16の同期信号に従って、その変換された電荷を複数の電荷蓄積部に振り分ける(ステップS21)。距離画像生成部17は、この振り分けられた電荷に基づいて所定演算(上記式1の演算)を行い、発光源との位相差φを算出し、画素値が距離値である距離画像を生成する。
次に、制御部16は、少なくとも一つの電荷蓄積部に規定値(予め定められた値。閾値。)以上の電荷が蓄積された光電変換素子の数をカウントする(ステップS22)(本発明のカウント手段に相当)。あるいは、対象物で反射した変調光成分の振幅量Bに規定範囲(予め定められた値。閾値。)を設け、制御部16は、規定範囲以上の反射光成分の振幅値Bが演算された光電変換素子の数をカウントする(ステップS22)。制御部16は、このカウントされた光電変換素子の数が一定数を超えると(ステップS23:Yes)、光源11の光量が明るすぎると判断して光源11の光量を下げるように制御する(ステップS24)。以後、ステップS10からステップS14の処理を繰り返す。
以上のように、本動作例2においては、ステップS22でカウントされた光電変換素子の数が一定数を超えると(ステップS23:Yes)、光源11の光量が明るすぎると判断して光源11の光量を下げる(ステップS24)。これにより、入射光(反射した変調光)の光量を最適に保つことができるので、入射光の光量が大きく撮像素子15において蓄積される電荷が飽和することに起因する位相差φの算出誤差の防止又は低減(すなわち距離検出精度の向上)が可能となる。これにより、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
〔距離画像生成装置の動作例3〕
図7は、外乱光が比較的多く、対象物が遠い、もしくは、対象物の反射率が極端に小さい場合に起こりうる、変調光と入射光の関係を表している。図7中、正弦波51は光源から照射される変調光を表しており、正弦波52は入射光を表している。入射光52の光量は十分だが、対象物で反射した変調光成分が非常に少ないため、上記式1にて位相差φを求める際、(C1−C3)、(C2−C4)の値が小さくなる。そのため、C1、C2、C3、C4にほんの少しのノイズがのると、位相差φの値が大きく変動する可能性がある。
この入射光52の光量は十分だが、対象物で反射した変調光成分が非常に少ないことに起因する位相差φの値の変動を防止又は低減するべく、図7に示した状況下では、動作例2と同様、距離画像生成装置1は図6に示したように動作する。
すなわち、本動作例3においては、ステップS22でカウントされた光電変換素子の数が一定数を超えると(ステップS23:Yes)、光源11の光量が明るすぎると判断して光源11の光量を下げる(ステップS24)。これにより、入射光52の光量は十分だが、対象物で反射した変調光成分が非常に少ないことに起因する位相差φの値の変動の防止又は低減(すなわち距離検出精度の向上)が可能となる。これにより、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
〔距離画像生成装置の動作例4〕
撮像している対象物が一定の場合、光源11の光量と、上記式3で求めた振幅量Bは、理論上は比例する。よって、全ての光電変換素子の振幅量Bの平均値もしくは標準偏差を算出し、その値が規定範囲内に収まるように、光源11の光量を増減させてもよい。この場合、距離画像生成装置1は図8に示すように動作する。
図8は、距離画像生成装置1の動作例4を説明するためのフローチャートである。以下の処理は、主に、制御部16又はこれとは別に設けられた制御部(図示せず)が行う。
まず、光源11は、制御部16の同期信号に従って、対象空間に変調した光を照射する(ステップS30)。撮像素子15は、その光源11から照射され対象空間内の対象物で反射した反射光を含む入射光を受光し、光電変換素子により電荷に変換し、制御部16の同期信号に従って、その変換された電荷を複数の電荷蓄積部に振り分ける(ステップS31)。距離画像生成部17は、この振り分けられた電荷に基づいて所定演算(上記式1の演算)を行い、発光源との位相差φを算出し、画素値が距離値である距離画像を生成する。
次に、制御部16は、全ての光電変換素子の振幅量Bの平均値もしくは標準偏差を算出(ステップS32)する。制御部16は、その値が規定範囲内(予め定められた範囲内)に収まるように、光源11の光量を増減調整する(ステップS33:No、ステップS34)。以後、ステップS30からステップS34の処理を繰り返す。
以上のように、本動作例4においては、距離画像の精度に影響する振幅量Bが、距離画像を求めるのに適切な範囲にある光電変換素子数(画素数ともいう)を最大にできるため、より精度の良い距離画像を得ることが可能となる。
〔距離画像生成装置の動作例5〕
距離画像生成装置1を室内等で固定して使用する場合、背景の輝度や距離が固定であることが多い。そのような状況で背景以外の対象物を検出する際に、背景以外の対象物のみを抽出することで、その対象物の距離画像の精度を上げることが可能である。
例えば、背景以外の対象物の反射率が背景の反射率に比べ非常に大きい場合、もしくは対象物が背景に比べ非常に近い場合、背景の距離画像を得る時の光源11の光量のままでは、背景以外の対象物からの反射光が大きく、前記した撮像素子15において蓄積される電荷の飽和等が発生し、精度の良い距離画像が得られない可能性がある。逆に背景以外の対象物の反射率が背景の反射率に比べ非常に小さい場合も同様に精度の良い距離画像が得られない可能性がある。
よって、距離画像生成部17により生成された距離画像から、背景以外の対象物を抽出し、その抽出された対象物に対応する光電変換素子(画素ともいう)に対して図4や図6と同様の処理を行い、光源11の光量を制御することで、対象物の距離精度を上げることができる。この場合、距離画像生成装置1は図9、図10に示すように動作する。
図9、図10は、距離画像生成装置の動作例5を説明するためのフローチャートである。以下の処理は、主に、制御部16又はこれとは別に設けられた制御部(図示せず)が行う。
まず、光源11は、制御部16の同期信号に従って、対象空間に変調した光を照射する(ステップS40)。撮像素子15は、その光源11から照射され対象空間内の対象物で反射した反射光を含む入射光を受光し、光電変換素子により電荷に変換し、制御部16の同期信号に従って、その変換された電荷を複数の電荷蓄積部に振り分ける(ステップS41)。距離画像生成部17は、この振り分けられた電荷に基づいて所定演算(上記式1の演算)を行い、発光源との位相差φを算出し、画素値が距離値である距離画像を生成する(ステップS42)。
次に、制御部16は、ステップS42で生成された距離画像から背景以外の対象物を抽出する(ステップS43)。背景以外の対象物を抽出する方法としては、背景の距離画像をメモリに保存しておき、逐次その距離画像と比較する。そして、背景とは異なる距離値を算出した画素を対象物とみなす。この際に、異常に小さい、もしくは大きい対象物を排除することで誤検出を防ぐことが可能である。
次に、制御部16は、ステップS43で抽出された対象物に対応する光電変換素子(画素ともいう)のうち、少なくとも一つの電荷蓄積部に規定値(予め定められた値。閾値。)以下の電荷が蓄積された光電変換素子の数をカウントする(ステップS44)。制御部16は、このカウントされた光電変換素子の数が一定数を超えると(ステップS45:Yes)、光源11の光量が暗いと判断して光源11の光量を上げるように制御する(ステップS46)。以後、ステップS40からステップS46の処理を繰り返す。
あるいは、図10に示すように、制御部16は、ステップS43で抽出された対象物に対応する光電変換素子(画素ともいう)のうち、少なくとも一つの電荷蓄積部に規定値(予め定められた値。閾値。)以上の電荷が蓄積された光電変換素子の数をカウントする(ステップS47)。制御部16は、このカウントされた光電変換素子の数が一定数を超えると(ステップS48:Yes)、光源11の光量が明るすぎると判断して光源11の光量を下げるように制御する(ステップS49)。以後、ステップS40からステップS49の処理を繰り返す。
以上のように、本動作例5においては、背景以外の対象物のみを抽出し(ステップS43)、その抽出された対象物に対応する光電変換素子に対してカウント処理(ステップS44、ステップS47)した光電変換素子の数に基づいて、発光源の光量を調整する(ステップS45:Yes、ステップS46、ステップS48:Yes、ステップS49)。これにより、その対象物に最適な光源11の光量に保つことができるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
〔距離画像生成装置の動作例6〕
距離画像生成装置1を屋外等で使用する場合、もしくは距離画像生成装置を自動車等の移動体に取り付けて使用する場合等、対象物の距離が大きく変化する状況で使用する際に、検出したい距離範囲を設定することで、その範囲内にある対象物の距離検出精度を上げることが可能である。
例えば、自動車の前方に取り付けて、走行時の前方障害物を監視する場合、近距離に障害物が存在しない時には、光源11の光量を上げて、遠距離の対象物まで精度よく距離計測できるようにする。しかし、近距離に対象物が存在する時には、その対象物からの反射光量が大きくなり、検出精度に影響を及ぼす可能性がある。
よって、任意の距離範囲を定め、距離画像生成部17により生成された距離画像から、その距離範囲にある対象物を抽出し、検出したい距離範囲にある対象物に最適な光源11の光量に制御することで、計測距離精度を高めることができる。
例えば、自動車の前方監視において、前方に障害物が存在しない場合は、遠距離まで測定するために光源の光量を上げる。前方に障害物が存在してその障害物が一定距離以内に近づいてきた場合には、その障害物に注視する必要があるため、光源の光量をその障害物の距離に適した光量に調節する。この場合、距離画像生成装置は図11、図12に示すように動作する。
図11、図12は、距離画像生成装置1の動作例6を説明するためのフローチャートである。以下の処理は、主に、制御部16又はこれとは別に設けられた制御部(図示せず)が行う。
まず、光源11は、制御部16の同期信号に従って、対象空間に変調した光を照射する(ステップS50)。撮像素子15は、その光源11から照射され対象空間内の対象物で反射した反射光を含む入射光を受光し、光電変換素子により電荷に変換し、制御部16の同期信号に従って、その変換された電荷を複数の電荷蓄積部に振り分ける(ステップS51)。距離画像生成部17は、この振り分けられた電荷に基づいて所定演算(上記式1の演算)を行い、発光源との位相差φを算出し、画素値が距離値である距離画像を生成する(ステップS52)。
次に、制御部16は、ステップS52で生成された距離画像から予め定められた任意の距離範囲にある対象物を抽出する(ステップS53)。任意の距離範囲にある対象物を抽出する方法としては、予め定められた任意の距離範囲内にある画素を対象物とみなすことが考えられる。この際に、異常に小さい、もしくは大きい対象物を排除することで誤検出を防ぐことが可能である。
次に、制御部16は、ステップS53で抽出された対象物に対応する光電変換素子(画素ともいう)のうち、少なくとも一つの電荷蓄積部に規定値(予め定められた値。閾値。)以下の電荷が蓄積された光電変換素子の数をカウントする(ステップS54)。制御部16は、このカウントされた光電変換素子の数が一定数を超えると(ステップS55:Yes)、光源11の光量が暗いと判断して光源11の光量を上げるように制御する(ステップS56)。
あるいは、図12に示すように、制御部16は、ステップS53で抽出された対象物に対応する光電変換素子(画素)のうち、少なくとも一つの電荷蓄積部に規定値(予め定められた値。閾値。)以上の電荷が蓄積された光電変換素子の数をカウントする(ステップS57)。制御部16は、このカウントされた光電変換素子の数が一定数を超えると(ステップS58:Yes)、光源11の光量が明るすぎると判断して光源11の光量を下げるように制御する(ステップS59)。以後、ステップS50からステップS59の処理を繰り返す。
以上のように、本動作例6においては、検出したい距離範囲にある対象物を抽出し(ステップS53)、その抽出された対象物に対応する光電変換素子に対してカウント処理(ステップS54、ステップS57)した光電変換素子の数に基づいて、発光源の光量を調整する(ステップS55:Yes、ステップS56、ステップS58:Yes、ステップS59)。これにより、その距離範囲にある対象物に最適な光源11の光量に保つことができるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
なお、屋外のような広い場所を撮像すると、近距離の道路から無限遠まで幅広い距離範囲の対象物が写ってしまう。この場合、空が写る画像上部、もしくは自動車の一部や道路が写る画像下部を排除するなど、画像上での対象範囲を予め絞ってもよい。
距離画像から任意の対象距離範囲内にある物体を対象物とみなすようにしてもよい。この際に、検出した対象物の大きさに制約を設けることで、誤検出を防ぐことも可能である。また、形状で絵制約を設けてもよい。
〔距離画像生成装置の動作例7〕
対象距離範囲が複数ある場合、もしくは異なる距離、反射率を持つ複数の対象物がある場合等で、光源11の光量が1種類では対象物の距離を精度良く測定できない場合、フレーム間で複数の光量を順次変化させることで、これらの複数の対象物の距離を精度良く測定することが可能になる。
例えば、0〜30mを対象測定範囲とした場合で、0〜15m、15〜30mでは、最適な光源11の光量が異なる場合、1種類の光源11の光量では精度の良い距離計測ができない可能性がある。そのような場合、フレーム毎に0〜15m、15〜30mに適した光源11の光量を切り替えて距離計測することで、広い距離範囲の対象物を精度良く検出することが可能になる。ここで1フレームとは、1つの距離画像を得る時間のことで、この場合、0〜15m、15〜30mの2フレーム時間で1つの距離画像を生成する。この場合、距離画像生成装置は図13に示すように動作する。
図13は、距離画像生成装置の動作例7を説明するためのフローチャートである。以下の処理は、主に、制御部16又はこれとは別に設けられた制御部(図示せず)が行う。
まず、光源11は、制御部16の同期信号に従って、対象空間に変調した光を、0〜15mに適した光量で照射する(ステップS60、S61)。撮像素子15は、その光源11から照射された対象空間内の対象物で反射した反射光を含む入射光を受光し、光電変換素子により電荷に変換し、制御部16の同期信号に従って、その変換された電荷を複数の電荷蓄積部に振り分ける(ステップS62)。
1フレーム時間が経過すると(ステップS63:Yes)、光源11は、制御部16の同期信号に従って、対象空間に変調した光を、15〜30mに適した光量で照射する(ステップS64、S65)。撮像素子15は、その光源11から照射された対象空間内の対象物で反射した反射光を含む入射光を受光し、光電変換素子により電荷に変換し、制御部16の同期信号に従って、その変換された電荷を複数の電荷蓄積部に振り分ける(ステップS66)。
そして、1フレーム時間が経過すると(ステップS67:Yes)、距離画像生成部17は、ステップS62で振り分けられた電荷に基づいて所定演算を行うことにより得られた0〜15m内の対象物の距離値、及び、ステップS66で振り分けられた電荷に基づいて所定演算を行うことにより得られた15〜30m内の対象物の距離値を含む距離画像を生成する(ステップS68)。以後、ステップS60からステップS68の処理を繰り返す。
以上のように、本動作例7においては、フレーム毎に0〜15m、15〜30mに適した光源11の光量を切り替えて距離計測することで(ステップS60、S64)、広い距離範囲の対象物を精度良く検出することが可能になる。また、複数の対象物の距離を精度良く測定することが可能になる。これにより、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。
なお、本動作例では2種類の距離範囲に分割したが、2種類以上の範囲に分割しても良い。また、距離範囲別ではなく、複数の反射率を持つ対象物別、複数の距離を持つ対象物別に光量の種類を分割しても良い。
以上説明したように、本実施形態の距離画像生成装置1によれば、発光源11の光量を変化させるように構成したので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。また、発光源11の光量が常に一定ではないので、余計な発光電力を抑えることも可能となる(特に光量が減少する方向に調整される場合)。
〔第二実施形態〕
次に、本発明の第二実施形態である距離画像生成装置について図面を参照しながら説明する。
〔距離画像生成装置の構成〕
外で車両前方の距離を測定する場合、一般的に画像上部は空などの比較的距離が遠いものが撮像され、逆に画像下部は、道路もしくは自車両の一部など比較的距離が近いものが多く撮像される。よって、画像上の位置毎に光量が可変であることが望ましい。
本実施形態の距離画像生成装置は、画像上の位置毎に発光源11の光量を可変にできるようにしたものであり、第一実施形態の距離画像生成装置1と略同様の構成であるが、次の点が相違する。
図14は、本発明の第二実施形態である距離画像生成装置の光源の正面図である。
第一に、図14に示すように、発光源11が、対象空間に変調した光を照射する複数のLED等の発光体11a(図14では108個の発光体11aを例示)で構成されている点が異なる。図14では、複数の発光体11aを、複数の領域61〜69に分割し、それぞれの領域61〜69の発光体11aに異なる照射エリアを持たせている。
第二に、それぞれの領域61〜69の発光体11aの光量を独立して調整できるように構成されている点が異なる。なお、この光量の調整は、第一実施形態と同様、主に、制御部16又はこれとは別に設けられた制御部(図示せず)が行う。
第三に、複数の光電変換素子(画素ともいう)を、それぞれの領域61〜69の発光体11aの異なる照射エリアに対応して複数の光電変換素子エリアに分割している点。図15では、複数の光電変換素子エリア71〜79に分割している点が異なる。
第四に、第一実施形態で説明した距離画像生成装置1の動作例1〜7に示した処理を、光電変換素子エリア71〜79ごとに行い、光電変換素子エリア71〜79に対応する領域61〜69ごとに、発光体11aの光量を独立して制御する点が異なる。
他の点については第一実施形態と同様である。
図15は、自動車前方に搭載した本実施形態の距離画像生成装置により撮像した画像である。図15中、符号700は画像全体を示しており、符号71〜79はそれぞれ発光体11aの分割エリア61〜69の照射範囲に対応している。ここで、前述した光量を調整するための演算画素範囲を図15の分割範囲71〜79に対応して分割する。
一般的に画像上部は空などの比較的距離が遠いものが撮像されるため、光量は大きくなる。逆に画像下部は道路などの比較的近距離の対象物が撮像されるため、画像下部に比べ光量は小さくなると予想される。
本実施形態では、図15の符号73、76、79で示す領域は比較的近距離のため、光源11からの変調光の反射成分が多い。この場合、例えば、光電変換素子エリア71〜79ごとに図6の処理を行い、カウントされた光電変換素子の数が一定数を超えた光電変換素子エリア(例えば光電変換素子エリア73、76、70)に対応する領域(例えば領域63、66、69)の発光体11a光量を下げる。
一方、図15の符号71、74、77で示す領域は、主に空などの遠距離のものが写っているため、対応する領域61、64、67の光量を上げる必要がある。この場合、例えば、光電変換素子エリア71〜79ごとに図4の処理を行い、カウントされた光電変換素子の数が一定数を超えた光電変換素子エリア(例えば光電変換素子エリア71、74、77)に対応する領域(例えば領域61、64、67)の発光体11aの光量を上げる。なお、図15のように信号機などが写っている光電変換素子エリアについては、図4又は図6の処理により対応する領域の発光体11aの光量を調節する。
本実施形態では分割エリアが9つの例について説明したが本発明はこれに限定されない。分割エリアは9つよりも多くてもよいし、9つより少なくてもよい。また、光源11の照射領域と撮像素子の分割領域の対応がとれていれば、光源11の分割数と光電変換素子の分割数が異なっていても良い。
以上説明したように、本実施形態の距離画像生成装置によれば、発光源11(発光体11a)の光量を光電変換素子エリア(画像領域)ごとに最適に調整できるので、距離検出精度の向上、及び、より精度の高い距離画像の生成が可能となる。また、発光源11(発光体11a)の光量が常に一定ではないので、余計な発光電力を抑えることも可能となる(特に光量が減少する方向に調整される場合)。
上記実施形態はあらゆる点で単なる例示にすぎない。これらの記載によって本発明は限定的に解釈されるものではない。本発明はその精神又は主要な特徴から逸脱することなく他の様々な形で実施することができる。
1…距離画像生成装置、10…光飛行時間型距離画像センサ(距離画像センサ)、11…光源、11a…発光体、14…入射光、15…撮像素子、16…制御部、17…距離画像生成部、61〜69…分割エリア、71〜79…光電変換素子エリア、φ…位相差

Claims (7)

  1. 対象空間に変調した変調光を照射する発光源と、
    前記発光源から照射され対象空間内の対象物で反射した反射光を受光して電荷に変換する複数の光電変換素子、前記光電変換素子ごとに設けられた複数の電荷蓄積部、及び、前記発光源の変調に同期して、前記光電変換素子により変換された電荷を前記複数の電荷蓄積部に振り分ける手段と、を備えた撮像素子と、
    前記複数の電荷蓄積部に蓄積された電荷に基づいて所定演算を行い、画素値が距離値である距離画像を生成する距離画像生成部と、
    前記発光源の変調光の光量を調整する光量調整手段と、
    前記複数の電荷蓄積部に蓄積された電荷に基づいて、前記発光源から照射され対象空間内の対象物で反射した反射光成分の振幅値を演算する演算手段と、
    前記演算手段により予め定められた範囲外の反射光成分の振幅値が演算された前記光電変換素子の数をカウントするカウント手段と、
    を備え、
    前記光量調整手段は、前記カウント手段によりカウントされた光電変換素子の数が一定数を越えたとき、前記発光源の変調光の光量を下げるように調整することを特徴とする距離画像生成装置。
  2. 前記距離画像生成部により生成された距離画像から背景以外の対象物を抽出する抽出手段をさらに備えており、
    前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする請求項1に記載の距離画像生成装置。
  3. 前記距離画像生成部により生成された距離画像から予め定められた距離範囲内の対象物を抽出する抽出手段をさらに備えており、
    前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする請求項1に記載の距離画像生成装置。
  4. 前記光量調整手段は、フレーム時間毎に前記発光源の変調光の光量を変化させることを特徴とする請求項1から3のいずれかに記載の距離画像生成装置。
  5. 前記発光源は、対象空間に変調した変調光を照射する複数の発光体を備えており、
    前記複数の発光体は、複数の領域に分割されており、
    前記複数の光電変換素子は、前記複数の領域に対応して複数の光電変換素子エリアに分割されており、
    前記光量調整手段は、前記分割された光電変換素子エリアごとに、前記カウント手段によりカウントされた前記光電変換素子の数に基づいて、該分割された光電変換素子エリアに対応するエリアを照射する発光体の変調光の光量を調整することを特徴とする請求項1に記載の距離画像生成装置。
  6. 前記距離画像生成部により生成された距離画像から背景以外の対象物を抽出する抽出手段をさらに備えており、
    前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする請求項5に記載の距離画像生成装置。
  7. 前記距離画像生成部により生成された距離画像から予め定められた距離範囲内の対象物を抽出する抽出手段をさらに備えており、
    前記カウント手段は、前記抽出手段により抽出された対象物に対応する前記光電変換素子に対して前記カウントする処理を行うことを特徴とする請求項5に記載の距離画像生成装置。
JP2012107826A 2012-05-09 2012-05-09 距離画像生成装置 Expired - Fee Related JP5190721B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012107826A JP5190721B2 (ja) 2012-05-09 2012-05-09 距離画像生成装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012107826A JP5190721B2 (ja) 2012-05-09 2012-05-09 距離画像生成装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2007081763A Division JP5190663B2 (ja) 2007-03-27 2007-03-27 距離画像生成装置

Publications (2)

Publication Number Publication Date
JP2012185171A true JP2012185171A (ja) 2012-09-27
JP5190721B2 JP5190721B2 (ja) 2013-04-24

Family

ID=47015349

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012107826A Expired - Fee Related JP5190721B2 (ja) 2012-05-09 2012-05-09 距離画像生成装置

Country Status (1)

Country Link
JP (1) JP5190721B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008241435A (ja) * 2007-03-27 2008-10-09 Stanley Electric Co Ltd 距離画像生成装置
CN110446943A (zh) * 2017-03-30 2019-11-12 松下知识产权经营株式会社 图像识别装置以及距离图像生成方法
CN112384822A (zh) * 2018-07-09 2021-02-19 Lg伊诺特有限公司 输出光的方法和装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05264719A (ja) * 1992-03-19 1993-10-12 Nec Corp レーザレーダ装置
JPH07167958A (ja) * 1993-12-14 1995-07-04 Mitsubishi Electric Corp 障害物検知装置
JP2001280951A (ja) * 2000-03-31 2001-10-10 Omron Corp 光学式変位計
JP2002071310A (ja) * 2000-08-28 2002-03-08 Matsushita Electric Works Ltd 光学式変位測定装置及びその測定方法
JP2006105694A (ja) * 2004-10-01 2006-04-20 Matsushita Electric Works Ltd 距離画像センサ
JP2006300616A (ja) * 2005-04-18 2006-11-02 Matsushita Electric Works Ltd 空間情報検出システム
JP2008209162A (ja) * 2007-02-23 2008-09-11 Matsushita Electric Works Ltd 距離画像センサ
JP2008232800A (ja) * 2007-03-20 2008-10-02 Ihi Corp レーザ監視装置
JP2008241435A (ja) * 2007-03-27 2008-10-09 Stanley Electric Co Ltd 距離画像生成装置
JP2008241434A (ja) * 2007-03-27 2008-10-09 Stanley Electric Co Ltd 距離画像生成装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05264719A (ja) * 1992-03-19 1993-10-12 Nec Corp レーザレーダ装置
JPH07167958A (ja) * 1993-12-14 1995-07-04 Mitsubishi Electric Corp 障害物検知装置
JP2001280951A (ja) * 2000-03-31 2001-10-10 Omron Corp 光学式変位計
JP2002071310A (ja) * 2000-08-28 2002-03-08 Matsushita Electric Works Ltd 光学式変位測定装置及びその測定方法
JP2006105694A (ja) * 2004-10-01 2006-04-20 Matsushita Electric Works Ltd 距離画像センサ
JP2006300616A (ja) * 2005-04-18 2006-11-02 Matsushita Electric Works Ltd 空間情報検出システム
JP2008209162A (ja) * 2007-02-23 2008-09-11 Matsushita Electric Works Ltd 距離画像センサ
JP2008232800A (ja) * 2007-03-20 2008-10-02 Ihi Corp レーザ監視装置
JP2008241435A (ja) * 2007-03-27 2008-10-09 Stanley Electric Co Ltd 距離画像生成装置
JP2008241434A (ja) * 2007-03-27 2008-10-09 Stanley Electric Co Ltd 距離画像生成装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008241435A (ja) * 2007-03-27 2008-10-09 Stanley Electric Co Ltd 距離画像生成装置
CN110446943A (zh) * 2017-03-30 2019-11-12 松下知识产权经营株式会社 图像识别装置以及距离图像生成方法
CN112384822A (zh) * 2018-07-09 2021-02-19 Lg伊诺特有限公司 输出光的方法和装置
CN112384822B (zh) * 2018-07-09 2024-05-31 Lg伊诺特有限公司 输出光的方法和装置

Also Published As

Publication number Publication date
JP5190721B2 (ja) 2013-04-24

Similar Documents

Publication Publication Date Title
JP5190663B2 (ja) 距離画像生成装置
US20210181317A1 (en) Time-of-flight-based distance measurement system and method
US11624835B2 (en) Processing of LIDAR images
US20210333394A1 (en) Accurate photo detector measurements for lidar
US10317529B2 (en) Accurate photo detector measurements for LIDAR
JP2009192499A (ja) 距離画像生成装置
CN111025317B (zh) 一种可调的深度测量装置及测量方法
JP6676866B2 (ja) 測距撮像装置及び固体撮像素子
CN111830530B (zh) 一种距离测量方法、系统及计算机可读存储介质
CN110709722B (zh) 飞行时间摄像机
US20180259647A1 (en) Imaging device and solid-state imaging element used in same
DE102010036964A1 (de) Verzögerungskompensation bei einer modulierten optischen Laufzeit-Phasenabschätzung
WO2014207992A1 (ja) 測距撮像装置及びその測距方法
CN111766596A (zh) 一种距离测量方法、系统及计算机可读存储介质
JP2010175435A (ja) 三次元情報検出装置及び三次元情報検出方法
CN110285788B (zh) ToF相机及衍射光学元件的设计方法
CN114930192B (zh) 红外成像组件
CN111796295B (zh) 一种采集器、采集器的制造方法及距离测量系统
JP2012225807A (ja) 距離画像カメラおよび距離画像合成方法
JP5190721B2 (ja) 距離画像生成装置
JP2020020612A (ja) 測距装置、測距方法、プログラム、移動体
CN111796296A (zh) 一种距离测量方法、系统及计算机可读存储介质
JP2018021776A (ja) 視差演算システム、移動体及びプログラム
CN111025319B (zh) 一种深度测量装置及测量方法
JP2020160044A (ja) 測距装置および測距方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130117

R150 Certificate of patent or registration of utility model

Ref document number: 5190721

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160208

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees