JP5995140B2 - 撮像装置及びこれを備えた車両システム並びに画像処理方法 - Google Patents

撮像装置及びこれを備えた車両システム並びに画像処理方法 Download PDF

Info

Publication number
JP5995140B2
JP5995140B2 JP2012236921A JP2012236921A JP5995140B2 JP 5995140 B2 JP5995140 B2 JP 5995140B2 JP 2012236921 A JP2012236921 A JP 2012236921A JP 2012236921 A JP2012236921 A JP 2012236921A JP 5995140 B2 JP5995140 B2 JP 5995140B2
Authority
JP
Japan
Prior art keywords
index value
image
value
magnification
enlargement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012236921A
Other languages
English (en)
Other versions
JP2013167624A (ja
Inventor
智子 石垣
智子 石垣
洋義 関口
洋義 関口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2012236921A priority Critical patent/JP5995140B2/ja
Priority to US13/743,500 priority patent/US9269006B2/en
Priority to EP13152061.1A priority patent/EP2618304B1/en
Publication of JP2013167624A publication Critical patent/JP2013167624A/ja
Application granted granted Critical
Publication of JP5995140B2 publication Critical patent/JP5995140B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G06T5/92
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Description

本発明は、1種類又は2種類以上の偏光フィルタ部や色分解フィルタ部を周期的に配列した光学フィルタを通じて撮像領域からの光を受光素子アレイで受光し、これにより得た画像信号に基づく撮像画像を出力する撮像装置及びこれを備えた車両システム並びに画像処理方法に関するものである。
この種の撮像装置は、車両、船舶、航空機あるいは産業用ロボットなどの移動体の移動制御を行う移動体制御装置や、移動体の運転者に有益な情報を提供する情報提供装置などの物体識別処理に広く利用されている。具体例を挙げると、例えば、車両の運転者(ドライバー)の運転負荷を軽減させるための、ACC(Adaptive Cruise Control)等の運転者支援システムに利用されるものが知られている。このような車両走行支援システムにおいては、自車が障害物等に衝突することを回避したり衝突時の衝撃を軽減したりするための自動ブレーキ機能や警報機能、先行車との車間距離を維持するための自車速度調整機能、自車が走行している走行レーンからの逸脱防止を支援する機能などの様々な機能を実現する。そのためには、自車両の周囲を撮像した撮像画像を解析して、自車両周囲の状況を示す様々な情報をできるだけ正確に得ることが重要である。自車両周囲の状況を示す情報としては、例えば、自車両周囲に存在する障害物、他車両、車線(白線やボッツドッツ等)、マンホール蓋などの路面構成物、ガードレールなどの路端構造物などの各種物体の位置情報、路面が乾燥状態か湿潤状態かを示す路面乾湿情報、日向部分か影部分かを示す日照情報などが挙げられる。
一般的な撮像装置は、撮像領域からの光の強さ(輝度情報)を検出し、この輝度情報に基づいて撮像画像を得るというものである。一方、近年、撮像領域内に存在する物体の形状や材質、表面状態などの検出(センシング)のために偏光情報を反映した撮像画像(偏光情報画像)を得ることができる撮像装置が注目されている。この撮像装置は、特定偏光した光または非偏光の自然光が照射された物体からの反射光(鏡面反射光または拡散反射光)が、その物体の表面の向きやその物体に対する撮像位置などの幾何学的要因や物体の表面材質などによって種々の部分偏光を呈することを利用する。このような撮像装置によれば、撮像領域内の物体からの反射光に含まれる互いに偏光方向が異なっている複数の偏光成分についての2次元分布を取得することができる。そして、撮像領域内の物体からの光に含まれる偏光成分間の大きさの違いを比較することで、輝度情報だけでは取得することが困難な物体位置情報、路面乾湿情報、日照情報などを、より高い精度で得ることが可能となる。
特許文献1には、垂直偏光成分のみ透過する偏光フィルタを介して撮像する撮像素子と、水平偏光成分のみ透過する偏光フィルタを介して撮像する撮像素子とを並列配置させた撮像装置が開示されている。この撮像装置では、前者の撮像素子から、撮像領域内の物体からの反射光に含まれる垂直偏光成分の2次元強度分布を表現した垂直偏光画像の画像信号が出力され、後者の撮像素子から、撮像領域内の物体からの反射光に含まれる水平偏光成分の2次元強度分布を表現した水平偏光画像の画像信号が出力される。この撮像装置では、これらの垂直偏光画像及び水平偏光画像の画像信号について、視差による位置ズレを補正した後、画素ごとに水平偏光強度に対する垂直偏光強度の比率を示す偏光比(指標値)を算出し、その偏光比を画素値とした偏光比画像(指標値画像)を得ることができる。
上記特許文献1に記載の撮像装置が撮像する偏光比画像を解析することで、物体位置情報などの上述した各種情報を得ることが可能である。また、このような偏光比画像だけでなく、撮像領域内の各地点からの光に含まれる偏光成分間の大きさの違いを示す指標値に基づく画素値をもった指標値画像、例えば、これらの偏光成分間の差分値や、これらの偏光成分の合計値に対するこれらの偏光成分の差分値の比率を示す差分偏光度などを指標値としたものも、同様である。
このような指標値画像を解析して撮像領域内の様々な情報を高い精度で得るには、一般に、その指標値画像のコントラスト(言い換えると、指標値の分解能)が重要となる。しかしながら、従来の指標値画像は、偏光フィルタの透過率特性によって十分なコントラストを得ることができず、撮像領域内の様々な情報を正確に得るには、画像解析精度が不十分であるという不具合があった。以下、この不具合について、垂直偏光成分及び水平偏光成分の合計値に対するこれらの偏光成分の差分値の比率を示す差分偏光度を指標値とする場合を例に挙げて、具体的に説明する。
一般に、垂直偏光成分(以下、適宜「P偏光成分」という。)を透過させる垂直偏光フィルタ(以下、適宜「P偏光フィルタ」という。)は、その透過率特性が高性能のものであっても、入射する光の垂直偏光成分を100%透過させることはできず、また、入射する光の水平偏光成分(以下、適宜「S偏光成分」という。)を100%カットできるわけではない。水平偏光成分を透過させる水平偏光フィルタ(以下、適宜「S偏光フィルタ」という。)についても同様である。下記の表1に、実際のS偏光フィルタ及びP偏光フィルタの透過率特性を示す具体例を示す。この具体例は、S偏光フィルタ及びP偏光フィルタのそれぞれに、S偏光成分のみからなる光(100%S偏光)とP偏光成分のみからなる光(100%P偏光)を入射させたときの透過率を測定したものである。なお、下記の表1中の括弧内の数値は、各フィルタが理想の透過率特性を有する場合の透過率を示したものである。
上記表1中の括弧書きで示したように、P偏光フィルタは、P偏光成分の透過率が100%で、かつ、S偏光成分の透過率が0%であることが理想である。しかしながら、実際には、P偏光成分の透過率が78%であるので、P偏光成分をロス無く透過させることはできない。また、S偏光成分の透過率が32%であるので、S偏光成分を100%カットすることはできていない。S偏光フィルタについても同様である。
上記表1に示す透過率特性を有するP偏光フィルタ及びS偏光フィルタを用い、差分偏光度に基づく画素値をもった差分偏光度画像(指標値画像)を得る撮像装置において、撮像素子(受光素子)の有効受光量の最大値に相当する光強度をもった100%P偏光及び100%S偏光をそれぞれ入射させたとき、撮像素子が出力する画像信号の信号値は、下記の表2に示すとおりである。なお、信号値は、10bitデータであり、有効受光量の最小値は0であり、有効受光量の最大値は1023である。また、下記の表2中の括弧内の数値は、各フィルタが理想の透過率特性を有する場合に出力される画像信号の信号値を示したものである。
P偏光フィルタを介して100%P偏光を受光した撮像素子から出力される信号値を見たとき、理想の信号値は1023であるが、P偏光フィルタのP偏光透過率は上記表1に示したように78%であるため、その信号値は797となる。同様に、P偏光フィルタを介して100%S偏光を受光した撮像素子から出力される信号値は、理想では0であるが、P偏光フィルタのS偏光透過率によって327となる。また、S偏光フィルタを介して100%P偏光を受光した撮像素子から出力される信号値は、理想では0であるが、S偏光フィルタのP偏光透過率によって173となる。また、S偏光フィルタを介して100%S偏光を受光した撮像素子から出力される信号値は、理想では1023であるが、S偏光フィルタのS偏光透過率によって654となる。
下記の表3は、上記表2に示した信号値から、100%P偏光が入射した場合と100%S偏光が入射した場合について、それぞれ、P偏光フィルタを介した画像信号の信号値PとS偏光フィルタを介した画像信号の信号値Sとの合計値(P+S)と、信号値Pから信号値Sを差し引いた差分値(P−S)とを計算した結果を示したものである。合計値(P+S)は、原理的には1023を超える値を取らない。これは、どんなに強い光が入射しても、そのP偏光成分とS偏光成分とを合わせて100%を超えることがあり得ないためである。下記の表3に示すように、100%P偏光が入射した場合の合計値(P+S)は1023を超える値をとることになるので、ここでは1023に丸めて考える。なお、下記の表3中の括弧内の数値は、各フィルタが理想の透過率特性を有する場合の合計値(P+S)又は差分値(P−S)を示したものである。
下記の表4は、上記表3に示した合計値(P+S)及び差分値(P−S)から算出される差分偏光度を示したものである。なお、下記の表4中の括弧内の数値は、各フィルタが理想の透過率特性を有する場合の差分偏光度を示したものである。
差分偏光度は、各フィルタが理想の透過率特性を有する場合には、−1以上+1以下の範囲の値を取る指標値である。しかしながら、実際のフィルタは、そのような理想の透過率特性を有するものではなく、上記表1に示したような透過率特性を有するものである。そのため、上記表1に示した透過率特性を有する実際のフィルタを用いた場合、その差分偏光度が取り得る範囲は、上記表4より、−0.58以上+0.46以下の範囲となり、理想よりも狭い範囲となってしまう。
10bitの画素値で構成される1024階調の差分偏光度画像を生成する場合、差分偏光度(−1以上1以下の範囲)を、差分偏光度画像の画素値(0以上1023以下の範囲)にスケーリングすることになる。このとき、差分偏光度が取り得る範囲が上述したように−0.58以上+0.46以下の範囲である場合には、差分偏光度画像の画素値が取り得る範囲は、215以上747以下の範囲となり、533階調の差分偏光度画像しか生成できず、差分偏光度画像のコントラストは低いものとなる。
このように差分偏光度画像のコントラストが低くて画像解析精度が不十分となる不具合に対しては、次のような解決方法が考えられる。
撮像領域を撮像して得た1フレーム分の差分偏光度画像について、その差分偏光度画像に含まれる画素値の数値範囲を、差分偏光度画像の画素値が取り得る最大範囲(0以上1023以下の範囲)まで拡大する処理を行う方法が考えられる。この方法では、1フレーム分の差分偏光度画像に含まれる画素値の数値範囲を特定して、これを差分偏光度画像の画素値が取り得る最大範囲(理想指標位置範囲)まで拡大するための拡大倍率を算出し、その拡大倍率を用いて画素値の数値範囲を拡大する。これにより、その拡大処理により修正された後の画素値の範囲は、理想指標値範囲を超えない限度において、修正前の画素値範囲よりも拡大される。よって、修正後の画素値をもった差分偏光度画像は、その修正前の画素値をもった差分偏光度画像よりも高いコントラストを有するものとなる。
ところが、修正前の画素値範囲がどのような範囲であっても、常に、その画素値範囲を差分偏光度画像の画素値が取り得る最大範囲まで拡大するための拡大倍率を算出し、その拡大倍率で拡大処理を行うと、次のような問題が発生する。
修正前の画素値が取り得る範囲は、上述したように、フィルタが有する透過率特性によって、その透過率特性から求まる所定範囲(実効指標値範囲)に制限される(上記表4の例では、215以上747以下の実効範囲に制限される。)。したがって、最低でもこの実効範囲(215〜747)を理想範囲(0〜1023)まで拡大するための実効拡大倍率を用いて拡大処理すれば、実効範囲内の適切な画素値(修正前の画素値)が拡大処理後に理想範囲から外れる画素値(修正後の画素値)となることはなく、過剰な拡大処理がなされることはない。よって、原理的には、最低でも、フィルタの透過率特性から計算される実効範囲(215〜747)に対応した実効拡大倍率を用いれば、過剰な拡大処理がなされることなく、差分偏光度画像のコントラストを高めることができる。
しかしながら、実際には、画像信号がノイズを含むなどの理由により、実効範囲(215〜747)から外れた画素値(修正前の画素値)が算出される場合がある。この場合、修正前の画素値範囲に基づいて算出される拡大倍率は、実効拡大倍率よりも低い値となる。その結果、原理的には、最低でも実効拡大倍率以上の倍率で拡大処理できるにもかかわらず、実効範囲から外れた不適切な修正前指標値の存在によって拡大倍率が抑制されてしまう。これにより、実効範囲内に含まれる適切な画素値(修正前の画素値)の拡大処理が不十分となって、高いコントラストの指標値画像を得ることができないという問題が発生する。
本発明は、上記問題に鑑みなされたものであり、その目的とするところは、撮像領域内の各地点からの光に含まれる互いに異なった複数の光学成分の大きさの違いを示す指標値に基づく画素値をもった指標値画像を出力するにあたり、原理的には算出されるはずのない不適切な指標値が存在する場合でも、高いコントラストの指標値画像を得ることができる撮像装置及びこれを備えた車両システム並びに画像処理方法を提供することである。
上記目的を達成するために、本発明は、互いに異なる光学成分を選択的に透過させる複数種類の選択フィルタ領域を周期的に配列した光学フィルタ、又は、特定の光学成分を選択的に透過させる1種類又は2種類以上の選択フィルタ領域及び入射光をそのまま透過させる非選択フィルタ領域を周期的に配列した光学フィルタを通じて、撮像領域内の各地点からの光を受光し、該光学フィルタ上のフィルタ領域ごとの受光量に応じた画像信号を出力する撮像手段と、上記撮像手段から出力された画像信号に基づき、撮像領域内の各地点からの光に含まれる互いに異なった複数の光学成分の大きさの違いを示す指標値に基づく画素値をもった指標値画像を出力する画像処理手段とを有する撮像装置において、上記画像処理手段は、上記撮像手段から出力される一の指標値画像に対応した画像信号に基づいて算出される指標値の数値範囲である修正前指標値範囲を特定し、上記光学フィルタ上におけるフィルタ領域が理想の透過率特性を有するとした場合に指標値が取り得る最大の理想指標値範囲又はその近傍まで該修正前指標値範囲を拡大するための拡大倍率を算出する倍率算出手段と、上記倍率算出手段が算出した拡大倍率を用いて、当該画像処理手段が出力する一の指標値画像の画素値として用いられる指標値を修正し、修正後の指標値の範囲が上記理想指標値範囲又はその近傍の範囲となるように拡大処理を行う拡大処理手段と、上記光学フィルタ上におけるフィルタ領域が有している透過率特性から計算される、修正前指標値が取り得る最大の実効指標値範囲を、上記理想指標値範囲又はその近傍まで拡大するための実効拡大倍率を記憶する実効倍率記憶手段とを有し、上記拡大処理手段は、上記倍率算出手段が算出した拡大倍率が上記実効倍率記憶手段に記憶されている実効拡大倍率よりも小さい場合には、該実効倍率記憶手段に記憶されている実効拡大倍率を用いて、上記拡大処理を行うことを特徴とする。
本発明においては、上記倍率算出手段が修正前指標値範囲に基づいて算出する拡大倍率を用いて、上記拡大処理手段がその修正前指標値範囲を理想指標値範囲又はその近傍まで拡大する拡大処理を行う。これにより、その拡大処理により修正された後の指標値範囲は、理想指標値範囲を超えない限度において、修正前指標値範囲よりも拡大される。よって、修正後指標値に基づく画素値をもった指標値画像は、その修正前の指標値に基づく画素値をもった指標値画像よりも高いコントラストを有するものとなる。ただし、本発明では、光学フィルタのフィルタ領域が有する透過率特性から計算される実効拡大倍率を予め実効倍率記憶手段に記憶しておき、倍率算出手段が算出した拡大倍率が実効拡大倍率よりも小さい場合には、実効拡大倍率を用いて拡大処理を行う。これにより、実効指標値範囲から外れた不適切な修正前指標値の存在によって拡大倍率が制限されることはなくなり、高いコントラストの指標値画像を得ることが可能となる。
なお、実効拡大倍率を用いて拡大処理された後の修正後指標値のうち、理想指標値範囲を超えた値については、当該理想指標値範囲の上限値や下限値に丸めたり、エラー値に変換したりすることで、後段の処理で適切に取り扱うことができる。
以上、本発明によれば、不適切な指標値が存在する場合でも、高いコントラストをもった指標値画像を得ることができるという優れた効果が得られる。
実施形態における車載機器制御システムの概略構成を示す模式図である。 同車載機器制御システムにおける撮像ユニットの概略構成を示す模式図である。 同撮像ユニットに設けられる撮像部の概略構成を示す説明図である。 雨滴検出用の撮像画像データに適用可能なカットフィルタのフィルタ特性を示すグラフである。 雨滴検出用の撮像画像データに適用可能なバンドパスフィルタのフィルタ特性を示すグラフである。 同撮像部の光学フィルタに設けられる前段フィルタの正面図である。 同撮像部の撮像画像データの画像例を示す説明図である。 同撮像部の光学フィルタと画像センサとを光透過方向に対して直交する方向から見たときの模式拡大図である。 同光学フィルタの偏光フィルタ層と分光フィルタ層の領域分割パターンを示す説明図である。 構成例1における光学フィルタの層構成を模式的に示す断面図である。 同光学フィルタの車両検出用フィルタ部を透過して画像センサ上の各フォトダイオードで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。 (a)は、図11に示す符号A−Aで切断した光学フィルタの車両検出用フィルタ部及び画像センサを模式的に表した断面図である。(b)は、図11に示す符号B−Bで切断した光学フィルタの車両検出用フィルタ部及び画像センサを模式的に表した断面図である。 実施形態における車両検出処理の流れを示すフローチャートである。 画像解析ユニットの概要を示す機能ブロック図である。 ダイナミックレンジ拡大処理部の概要を示す機能ブロック図である。 修正前の差分偏光度画像の画素値のヒストグラムの一例を示す説明図である。 同ダイナミックレンジ拡大処理部の拡大処理実行部におけるダイナミックレンジ拡大処理の流れを示すフローチャートである。 変形例1におけるダイナミックレンジ拡大処理部の概要を示す機能ブロック図である。 CPUでダイナミックレンジ拡大処理を行う場合とBRAMを用いて同拡大処理を行う場合とでCPU使用頻度を比較した説明図である。 同ダイナミックレンジ拡大処理部の拡大前処理部における前処理の流れを示すフローチャートである。 同ダイナミックレンジ拡大処理部の画素値変換部における処理の流れを示すフローチャートである。 変形例1におけるBRAMの概要構成を示す説明図である。 同BRAMの処理動作の流れを示すフローチャートである。 (a)〜(e)は、実際の撮像により得られる差分偏光度画像(修正前)の画素値のヒストグラムが取り得る形状例を示す説明図である。 変形例2におけるダイナミックレンジ拡大処理部の概要を示す機能ブロック図である。 同ダイナミックレンジ拡大処理部における拡大倍率算出可否判定部及び拡大処理係数算出部で行うダイナミックレンジ拡大処理の流れを示すフローチャートである。 (a)は、ダイナミックレンジ拡大処理を行っていない差分偏光度画像とその画素値のヒストグラムを示す説明図である。(b)は、ダイナミックレンジ拡大処理を行った差分偏光度画像とその画素値のヒストグラムを示す説明図である。 ダイナミックレンジ拡大処理を撮像ユニット内で処理する場合の信号処理部の一構成例を示すブロック図である。 ダイナミックレンジ拡大処理を撮像ユニット内で処理する場合の信号処理部の他の構成例を示すブロック図である。
以下、本発明に係る撮像装置を、車両システムとしての車載機器制御システムに用いる一実施形態について説明する。
なお、本発明に係る撮像装置は、車載機器制御システムに限らず、例えば、撮像画像に基づいて物体検出を行う物体検出装置を搭載したその他のシステムにも適用できる。
図1は、本実施形態における車載機器制御システムの概略構成を示す模式図である。
本車載機器制御システムは、自動車などの自車両100に搭載された撮像手段としての撮像ユニットで撮像した自車両進行方向前方領域(撮像領域)の撮像画像データを利用して、ヘッドランプの配光制御、ワイパーの駆動制御、その他の車載機器の制御を行うものである。
本実施形態の車載機器制御システムに設けられる撮像装置は、撮像ユニット101に設けられており、走行する自車両100の進行方向前方領域を撮像領域として撮像するものであり、その撮像部は、例えば、自車両100のフロントガラス105のルームミラー(図示せず)付近に設置される。撮像ユニット101の撮像部で撮像された撮像画像データは、画像処理手段としての画像解析ユニット102に入力される。画像解析ユニット102は、撮像部から送信されてくる撮像画像データを解析し、撮像画像データに自車両100の前方に存在する他車両の位置、方角、距離を算出したり、フロントガラス105に付着する雨滴や異物などの付着物を検出したり、撮像領域内に存在する路端箇所や路面上の白線(区画線)等の検出対象物を検出したりする。他車両の検出では、他車両のテールランプを識別することで自車両100と同じ進行方向へ進行する先行車両を検出し、他車両のヘッドランプを識別することで自車両100とは反対方向へ進行する対向車両を検出する。
画像解析ユニット102の算出結果は、ヘッドランプ制御ユニット103に送られる。ヘッドランプ制御ユニット103は、例えば、画像解析ユニット102が算出した距離データから、自車両100の車載機器であるヘッドランプ104を制御する制御信号を生成する。具体的には、例えば、先行車両や対向車両の運転者の目に自車両100のヘッドランプの強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、自車両100の運転者の視界確保を実現できるように、ヘッドランプ104のハイビームおよびロービームの切り替えを制御したり、ヘッドランプ104の部分的な遮光制御を行ったりする。
画像解析ユニット102の算出結果は、ワイパー制御ユニット106にも送られる。ワイパー制御ユニット106は、ワイパー107を制御して、自車両100のフロントガラス105に付着した雨滴や異物などの付着物を除去する。ワイパー制御ユニット106は、画像解析ユニット102が検出した異物検出結果を受けて、ワイパー107を制御する制御信号を生成する。ワイパー制御ユニット106により生成された制御信号がワイパー107に送られると、自車両100の運転者の視界を確保するべく、ワイパー107を稼動させる。
また、画像解析ユニット102の算出結果は、車両走行制御ユニット108にも送られる。車両走行制御ユニット108は、画像解析ユニット102が検出した路端や白線の検出結果に基づいて、白線や路端によって区画されている車線領域から自車両100が外れている場合等に、自車両100の運転者へ警告を報知したり、自車両のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。
図2は、撮像ユニット101の概略構成を示す模式図である。
図3は、撮像ユニット101に設けられる撮像部200の概略構成を示す説明図である。
撮像ユニット101は、撮像部200と、光源202と、これらを収容する撮像ケース201とから構成されている。撮像ユニット101は自車両100のフロントガラス105の内壁面側に設置される。撮像部200は、図3に示すように、主に、撮像レンズ204と、光学フィルタ205と、2次元配置された画素アレイを有する画像センサ206を含んだセンサ基板207と、センサ基板207から出力されるアナログ電気信号(画像センサ206上の各受光素子が受光した受光量)をデジタル電気信号に変換した撮像画像データを生成して出力する信号処理部208とから構成されている。光源202は、フロントガラス105に向けて光を照射し、その光がフロントガラス105の外壁面で反射したときにその反射光が撮像部200へ入射するように配置されている。
本実施形態において、光源202は、フロントガラス105の外壁面に付着した付着物(以下、付着物が雨滴である場合を例に挙げて説明する。)を検出するためのものである。フロントガラス105の外壁面に雨滴203が付着していない場合、光源202から照射された光は、フロントガラス105の外壁面と外気との界面で反射し、その反射光が撮像部200へ入射する。一方、図2に示すように、フロントガラス105の外壁面に雨滴203が付着している場合、フロントガラス105の外壁面と雨滴203との間における屈折率差は、フロントガラス105の外壁面と外気との間の屈折率差よりも小さくなる。そのため、光源202から照射された光は、その界面を透過し、撮像部200には入射しない。この違いによって、撮像部200の撮像画像データから、フロントガラス105に付着する雨滴203の検出を行う。
また、本実施形態において、撮像ユニット101は、図2に示すとおり、撮像部200や光源202を、フロントガラス105とともに撮像ケース201で覆っている。このように撮像ケース201で覆うことにより、フロントガラス105の内壁面が曇るような状況であっても、撮像ユニット101で覆われたフロントガラス105が曇ってしまう事態を抑制できる。よって、フロントガラスの曇りによって画像解析ユニット102が誤解析するような事態を抑制でき、画像解析ユニット102の解析結果に基づく各種制御動作を適切に行うことができる。
ただし、フロントガラス105の曇りを撮像部200の撮像画像データから検出して、例えば自車両100の空調設備を制御する場合には、撮像部200に対向するフロントガラス105の部分が他の部分と同じ状況となるように、撮像ケース201の一部に空気の流れる通路を形成してもよい。
ここで、本実施形態では、撮像レンズ204の焦点位置は、無限遠又は無限遠とフロントガラス105との間に設定している。これにより、フロントガラス105上に付着した雨滴203の検出を行う場合だけでなく、先行車両や対向車両の検出や白線の検出を行う場合にも、撮像部200の撮像画像データから適切な情報を取得することができる。
例えば、フロントガラス105上に付着した雨滴203の検出を行う場合、撮像画像データ上の雨滴画像の形状は円形状であることが多いので、撮像画像データ上の雨滴候補画像が円形状であるかどうかを判断してその雨滴候補画像が雨滴画像であると識別する形状認識処理を行う。このような形状認識処理を行う場合、フロントガラス105の外壁面上の雨滴203に撮像レンズ204の焦点が合っているよりも、上述したように無限遠又は無限遠とフロントガラス105との間に焦点が合っている方が、多少ピンボケして、雨滴の形状認識率(円形状)が高くなり、雨滴検出性能が高い。
ただし、無限遠に焦点が合っている場合、遠方を走行する先行車両のテールランプを識別する際に、画像センサ206上のテールランプの光を受光する受光素子が1個程度になることがある。この場合、詳しくは後述するが、テールランプの光がテールランプ色(赤色)を受光する赤色用受光素子に受光されないおそれがあり、その際にはテールランプを認識できず、先行車両の検出ができない。このような不具合を回避しようとする場合には、撮像レンズ204の焦点を無限遠よりも手前に合わせることが好ましい。これにより、遠方を走行する先行車両のテールランプがピンボケするので、テールランプの光を受光する受光素子の数を増やすことができ、テールランプの認識精度が上がり先行車両の検出精度が向上する。
撮像ユニット101の光源202には、発光ダイオード(LED)や半導体レーザ(LD)などを用いることができる。また、光源202の発光波長は、例えば可視光や赤外光を用いることができる。ただし、光源202の光で対向車両の運転者や歩行者等を眩惑するのを回避する場合には、可視光よりも波長が長くて画像センサ206の受光感度がおよぶ範囲の波長、例えば800nm以上1000nm以下の赤外光領域の波長を選択するのが好ましい。本実施形態の光源202は、赤外光領域の波長を有する光を照射するものである。
ここで、フロントガラス105で反射した光源202からの赤外波長光を撮像部200で撮像する際、撮像部200の画像センサ206では、光源202からの赤外波長光のほか、例えば太陽光などの赤外波長光を含む大光量の外乱光も受光される。よって、光源202からの赤外波長光をこのような大光量の外乱光と区別するためには、光源202の発光量を外乱光よりも十分に大きくする必要があるが、このような大発光量の光源202を用いることは困難である場合が多い。
そこで、本実施形態においては、例えば、図4に示すように光源202の発光波長よりも短い波長の光をカットするようなカットフィルタか、もしくは、図5に示すように透過率のピークが光源202の発光波長とほぼ一致したバンドパスフィルタを介して、光源202からの光を画像センサ206で受光するように構成する。これにより、光源202の発光波長以外の光を除去して受光できるので、画像センサ206で受光される光源202からの光量は、外乱光に対して相対的に大きくなる。その結果、大発光量の光源202でなくても、光源202からの光を外乱交と区別することが可能となる。
ただし、本実施形態においては、撮像画像データから、フロントガラス105上の雨滴203を検出するだけでなく、先行車両や対向車両の検出や白線の検出も行う。そのため、撮像画像全体について光源202が照射する赤外波長光以外の波長帯を除去してしまうと、先行車両や対向車両の検出や白線の検出に必要な波長帯の光を画像センサ206で受光できず、これらの検出に支障をきたす。そこで、本実施形態では、撮像画像データの画像領域を、フロントガラス105上の雨滴203を検出するための雨滴検出用画像領域と、先行車両や対向車両の検出や白線の検出を行うための車両検出用画像領域とに区分し、雨滴検出用画像領域に対応する部分についてのみ光源202が照射する赤外波長光以外の波長帯を除去するフィルタを、光学フィルタ205に配置している。
図6は、光学フィルタ205に設けられる前段フィルタ210の正面図である。
図7は、撮像画像データの画像例を示す説明図である。
本実施形態の光学フィルタ205は、図3に示したように、前段フィルタ210と後段フィルタ220とを光透過方向に重ね合わせた構造となっている。前段フィルタ210は、図6に示すように、車両検出用画像領域213である撮像画像上部2/3に対応する箇所に配置される赤外光カットフィルタ領域211と、雨滴検出用画像領域214である撮像画像下部1/3に対応する箇所に配置される赤外光透過フィルタ領域212とに、領域分割されている。赤外光透過フィルタ領域212には、図4に示したカットフィルタや図5に示したバンドパスフィルタを用いる。
対向車両のヘッドランプ及び先行車両のテールランプ並びに路端や白線の画像は、主に撮像画像上部に存在することが多く、撮像画像下部には自車両前方の直近路面の画像が存在するのが通常である。よって、対向車両のヘッドランプ及び先行車両のテールランプ並びに路端や白線の識別に必要な情報は撮像画像上部に集中しており、その識別において撮像画像下部の情報はあまり重要でない。よって、単一の撮像画像データから、対向車両や先行車両あるいは路端や白線の検出と雨滴の検出とを両立して行う場合には、図7に示すように、撮像画像下部を雨滴検出用画像領域214とし、残りの撮像画像上部を車両検出用画像領域213とし、これに対応して前段フィルタ210を領域分割するのが好適である。
撮像部200の撮像方向を下方へ傾けていくと、撮像領域内の下部に自車両のボンネットが入り込んでくる場合がある。この場合、自車両のボンネットで反射した太陽光や先行車両のテールランプなどが外乱光となり、これが撮像画像データに含まれることで対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の誤識別の原因となる。このような場合でも、本実施形態では、撮像画像下部に対応する箇所に図4に示したカットフィルタや図5に示したバンドパスフィルタが配置されているので、ボンネットで反射した太陽光や先行車両のテールランプなどの外乱光が除去される。よって、対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の識別精度が向上する。
ここで、先行車両を検出する際には、撮像画像上のテールランプを識別することで先行車両の検出を行うが、テールランプは対向車両のヘッドランプと比較して光量が少なく、また街灯などの外乱光も多く存在するため、単なる輝度データのみからテールランプを高精度に検出するのは困難である。そのため、テールランプの識別には分光情報を利用し、赤色光の受光量に基づいてテールランプを識別することが必要となる。そこで、本実施形態では、後述するように、光学フィルタ205の後段フィルタ220に、テールランプの色に合わせた赤色フィルタあるいはシアンフィルタ(テールランプの色の波長帯のみを透過させるフィルタ)を配置し、赤色光の受光量を検知できるようにしている。
ただし、本実施形態の画像センサ206を構成する各受光素子は、赤外波長帯の光に対しても感度を有するので、赤外波長帯を含んだ光を画像センサ206で受光すると、得られる撮像画像は全体的に赤みを帯びたものとなってしまう。その結果、テールランプに対応する赤色の画像部分を識別することが困難となる場合がある。そこで、本実施形態では、光学フィルタ205の前段フィルタ210において、車両検出用画像領域213に対応する箇所を赤外光カットフィルタ領域211としている。これにより、テールランプの識別に用いる撮像画像データ部分から赤外波長帯が除外されるので、テールランプの識別精度が向上する。
図3に示すように、被写体(検出対象物)を含む撮像領域からの光は、撮像レンズ204を通り、光学フィルタ205を透過して、画像センサ206でその光強度に応じた電気信号に変換される。信号処理部208では、画像センサ206から出力される電気信号(アナログ信号)が入力されると、その電気信号から、撮像画像データとして、画像センサ206上における各画素の明るさ(輝度)を示すデジタル信号を、画像の水平・垂直同期信号とともに後段のユニットへ出力する。
図8は、光学フィルタ205と画像センサ206とを光透過方向に対して直交する方向から見たときの模式拡大図である。
画像センサ206は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などを用いたイメージセンサであり、その受光素子にはフォトダイオード206Aを用いている。フォトダイオード206Aは、画素ごとに2次元的にアレイ配置されており、フォトダイオード206Aの集光効率を上げるために、各フォトダイオード206Aの入射側にはマイクロレンズ206Bが設けられている。この画像センサ206がワイヤボンディングなどの手法によりPWB(printed wiring board)に接合されてセンサ基板207が形成されている。
画像センサ206のマイクロレンズ206B側の面には、光学フィルタ205が近接配置されている。光学フィルタ205の後段フィルタ220は、図8に示すように、透明なフィルタ基板221上に偏光フィルタ層222と分光フィルタ層223を順次形成して積層構造としたものである。偏光フィルタ層222と分光フィルタ層223は、いずれも、画像センサ206上における1つのフォトダイオード206Aに対応するように領域分割されている。
光学フィルタ205と画像センサ206との間に空隙がある構成としてもよいが、光学フィルタ205を画像センサ206に密着させる構成とした方が、光学フィルタ205の偏光フィルタ層222と分光フィルタ層223の各領域の境界と画像センサ206上のフォトダイオード206A間の境界とを一致させやすくなる。光学フィルタ205と画像センサ206は、例えば、UV接着剤で接合してもよいし、撮像に用いる有効画素範囲外でスペーサにより支持した状態で有効画素外の四辺領域をUV接着や熱圧着してもよい。
図9は、本実施形態に係る光学フィルタ205の偏光フィルタ層222と分光フィルタ層223の領域分割パターンを示す説明図である。
偏光フィルタ層222と分光フィルタ層223は、それぞれ、第1領域及び第2領域という2種類の領域が、画像センサ206上の1つのフォトダイオード206Aに対応して配置されたものである。これにより、画像センサ206上の各フォトダイオード206Aによって受光される受光量は、受光する光が透過した偏光フィルタ層222と分光フィルタ層223の領域の種類に応じて、偏光情報や分光情報等として取得することができる。
なお、本実施形態では、画像センサ206はモノクロ画像用の撮像素子を前提にして説明するが、画像センサ206をカラー用撮像素子で構成してもよい。カラー用撮像素子で構成する場合、カラー用撮像素子の各撮像画素に付属するカラーフィルタの特性に応じて、偏光フィルタ層222と分光フィルタ層223の各領域の光透過特性を調整してやればよい。
ここで、本実施形態における光学フィルタ205の一例について説明する。
図10は、本実施形態における光学フィルタ205の層構成を模式的に示す断面図である。
本実施形態における光学フィルタ205の後段フィルタ220は、車両検出用画像領域213に対応する車両検出用フィルタ部220Aと、雨滴検出用画像領域214に対応する雨滴検出用フィルタ部220Bとで、その層構成が異なっている。具体的には、車両検出用フィルタ部220Aは分光フィルタ層223を備えているのに対し、雨滴検出用フィルタ部220Bは分光フィルタ層223を備えていない。また、車両検出用フィルタ部220Aと雨滴検出用フィルタ部220Bとでは、その偏光フィルタ層222,225の構成が異なっている。
図11は、本実施形態における光学フィルタ205の車両検出用フィルタ部220Aを透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示す説明図である。
図12(a)は、図11に示す符号A−Aで切断した光学フィルタ205の車両検出用フィルタ部220A及び画像センサ206を模式的に表した断面図である。
図12(b)は、図11に示す符号B−Bで切断した光学フィルタ205の車両検出用フィルタ部220A及び画像センサ206を模式的に表した断面図である。
本実施形態における光学フィルタ205の車両検出用フィルタ部220Aは、図12(a)及び(b)に示すように、透明なフィルタ基板221の上に偏光フィルタ層222を形成した後、その上に分光フィルタ層223を形成して積層構造としたものである。そして、偏光フィルタ層222は、ワイヤーグリッド構造を有するものであり、その積層方向上面(図12中下側面)は凹凸面となる。このような凹凸面上にそのまま分光フィルタ層223を形成しようとすると、分光フィルタ層223がその凹凸面に沿って形成され、分光フィルタ層223の層厚ムラが生じて本来の分光性能が得られない場合がある。そこで、本実施形態の光学フィルタ205は、偏光フィルタ層222の積層方向上面側を充填材で充填して平坦化した後、その上に分光フィルタ層223を形成している。
充填材としては、この充填材によって凹凸面が平坦化される偏光フィルタ層222の機能を妨げない材料であればよいので、本実施形態では偏光機能を有しない材料のものを用いる。また、充填材による平坦化処理は、例えば、スピンオングラス法によって充填材を塗布する方法が好適に採用できるが、これに限られるものではない。
本実施形態において、偏光フィルタ層222の第1領域は、画像センサ206の撮像画素の縦列(鉛直方向)に平行に振動する垂直偏光成分のみを選択して透過させる垂直偏光領域であり、偏光フィルタ層222の第2領域は、画像センサ206の撮像画素の横列(水平方向)に平行に振動する水平偏光成分のみを選択して透過させる水平偏光領域である。
また、分光フィルタ層223の第1領域は、偏光フィルタ層222を透過可能な使用波長帯域に含まれる赤色波長帯(特定波長帯)の光のみを選択して透過させる赤色分光領域であり、分光フィルタ層223の第2領域は、波長選択を行わずに光を透過させる非分光領域である。そして、本実施形態においては、図11に一点鎖線で囲ったように、隣接する縦2つ横2つの合計4つの撮像画素(符号a、b、e、fの4撮像画素)によって撮像画像データの1画像画素が構成される。
図11に示す撮像画素aでは、光学フィルタ205の偏光フィルタ層222における垂直偏光領域(第1領域)と分光フィルタ層223の赤色分光領域(第1領域)を透過した光が受光される。したがって、撮像画素aは、垂直偏光成分(図11中符号Pで示す。)の赤色波長帯(図11中符号Rで示す。)の光P/Rを受光することになる。
また、図11に示す撮像画素bでは、光学フィルタ205の偏光フィルタ層222における垂直偏光領域(第1領域)と分光フィルタ層223の非分光領域(第2領域)を透過した光が受光される。したがって、撮像画素bは、垂直偏光成分Pにおける非分光(図11中符号Cで示す。)の光P/Cを受光することになる。
また、図11に示す撮像画素eでは、光学フィルタ205の偏光フィルタ層222における水平偏光領域(第2領域)と分光フィルタ層223の非分光領域(第2領域)を透過した光が受光される。したがって、撮像画素eは、水平偏光成分(図11中符号Sで示す。)における非分光Cの光S/Cを受光することになる。
図11に示す撮像画素fでは、光学フィルタ205の偏光フィルタ層222における垂直偏光領域(第1領域)と分光フィルタ層223の赤色分光領域(第1領域)を透過した光が受光される。したがって、撮像画素fは、撮像画素aと同様、垂直偏光成分Pにおける赤色波長帯Rの光P/Rを受光することになる。
以上の構成により、本実施形態によれば、撮像画素aおよび撮像画素fの出力信号から赤色光の垂直偏光成分画像についての一画像画素が得られ、撮像画素bの出力信号から非分光の垂直偏光成分画像についての一画像画素が得られ、撮像画素eの出力信号から非分光の水平偏光成分画像についての一画像画素が得られる。よって、本実施形態によれば、一度の撮像動作により、赤色光の垂直偏光成分画像、非分光の垂直偏光成分画像、非分光の水平偏光成分画像という3種類の撮像画像データを得ることができる。
なお、これらの撮像画像データでは、その画像画素の数が撮像画素数よりも少なくなるが、より高解像度の画像を得る際には一般に知られる画像補間処理を用いてもよい。例えば、より高い解像度である赤色光の垂直偏光成分画像を得ようとする場合、撮像画素aと撮像画素fに対応する画像画素についてはこれらの撮像画素a,fで受光した赤色光の垂直偏光成分Pの情報をそのまま使用し、撮像画素bに対応する画像画素については、例えばその周囲を取り囲む撮像画素a,c,f,jの平均値を当該画像画素の赤色光の垂直偏光成分の情報として使用する。
また、より高い解像度である非分光の水平偏光成分画像を得ようとする場合、撮像画素eに対応する画像画素についてはこの撮像画素eで受光した非分光の水平偏光成分Sの情報をそのまま使用し、撮像画素a,b,fに対応する画像画素については、その周囲で非分光の水平偏光成分を受光する撮像画素eや撮像画素gなどの平均値を使用したり、撮像画素eと同じ値を使用したりしてもよい。
このようにして得られる赤色光の垂直偏光成分画像は、例えば、テールランプの識別に使用することができる。赤色光の垂直偏光成分画像は、水平偏光成分Sがカットされているので、路面に反射した赤色光や自車両100の室内におけるダッシュボードなどからの赤色光(映りこみ光)等のように水平偏光成分Sの強い赤色光による外乱要因が抑制された赤色画像を得ることができる。よって、赤色光の垂直偏光成分画像をテールランプの識別に使用することで、テールランプの認識率が向上する。
また、非分光の垂直偏光成分画像は、例えば、白線や対向車両のヘッドランプの識別に使用することができる。非分光の水平偏光成分画像は、水平偏光成分Sがカットされているので、路面に反射したヘッドランプや街灯等の白色光や自車両100の室内におけるダッシュボードなどからの白色光(映りこみ光)等のように水平偏光成分Sの強い白色光による外乱要因が抑制された非分光画像を得ることができる。よって、非分光の垂直偏光成分画像を白線や対向車両のヘッドランプの識別に使用することで、その認識率が向上する。特に、雨路において、路面を覆った水面からの反射光は水平偏光成分Sが多いことが一般に知られている。よって、非分光の垂直偏光成分画像を白線の識別に使用することで、雨路における水面下の白線を適切に識別することが可能となり、認識率が向上する。
また、非分光の垂直偏光成分画像と非分光の水平偏光成分画像との間で各画素値を比較した指標値を画素値とした指標値画像を用いれば、後述するように、撮像領域内の金属物体、路面の乾湿状態、撮像領域内の立体物、雨路における白線の高精度な識別が可能となる。ここで用いる指標値画像としては、例えば、非分光の垂直偏光成分画像と非分光の水平偏光成分画像との間の画素値の差分値を画素値とした差分画像、これらの画像間の画素値の比率を画素値とした比率画像(偏光比画像)、あるいは、これらの画像間の画素値の合計に対するこれらの画像間の画素値の差分値の比率(差分偏光度)を画素値とした差分偏光度画像などを使用することができる。
ただし、偏光比画像と差分偏光度画像とを比較すると、前者は、分母にくる偏光成分(例えばP偏光成分)がゼロ付近を示す場合には、偏光比は無限大に近づく値となってしまい、正確な値を得ることができない。一方、後者も、分母にくるP偏光成分とS偏光成分との合計値がゼロ付近を示す場合には、差分偏光度が無限大に近づく値となってしまい、正確な値を得ることができない。両者を比較したとき、後者の方が、分母がゼロ付近の値を取る確率が低く、正確な値を算出できる確率が高い。
また、偏光比画像については、分母にくる偏光成分(例えばP偏光成分)がゼロ付近を示す場合には正確な値を算出できないが、分子にくる偏光成分(例えばS偏光成分)については、これがゼロ付近を示す場合でも正確な値を算出することが可能である。したがって、分子にくる偏光成分(例えばS偏光成分)を検出する場合に好適な指標値画像である。
一方、差分偏光度画像は、分母にくるP偏光成分とS偏光成分との合計値がゼロ付近を示すのは、P偏光成分とS偏光成分のいずれかがゼロ付近を示す場合である。P偏光成分がゼロ付近を示す確率とS偏光成分がゼロ付近を示す確率は同等なので、差分偏光度画像は、P偏光成分もS偏光成分も平等に検出できる指標値画像であると言える。
本実施形態では、以上の比較から、偏光比画像ではなく差分偏光度画像を指標値画像として用いる。
本実施形態では、前段フィルタ210を構成する赤外光カットフィルタ領域211と赤外光透過フィルタ領域212とが、それぞれ層構成の異なる多層膜によって形成されている。このような前段フィルタ210の製造方法としては、赤外光カットフィルタ領域211の部分をマスクで隠しながら赤外光透過フィルタ領域212の部分を真空蒸着などにより成膜した後、今度は赤外光透過フィルタ領域212の部分をマスクで隠しながら赤外光カットフィルタ領域211の部分を真空蒸着などにより成膜するという方法が挙げられる。
また、本実施形態において、車両検出用フィルタ部220Aの偏光フィルタ層222と、雨滴検出用フィルタ部220Bの偏光フィルタ層225とは、いずれも、2次元方向に領域分割されたワイヤーグリッド構造であるが、前者の偏光フィルタ層222は透過軸が互いに直交する2種類の領域(垂直偏光領域及び水平偏光領域)が撮像画素単位で領域分割されたものであり、後者の偏光フィルタ層225は垂直偏光成分Pのみを透過させる透過軸をもつ1種類の領域が撮像画素単位で領域分割されたものである。このような異なる構成をもつ偏光フィルタ層222,225を同一のフィルタ基板221上に形成する場合、例えば、ワイヤーグリッド構造の金属ワイヤーのパターニングを行うテンプレート(型に相当するもの)の溝方向の調整により、各領域の金属ワイヤーの長手方向の調整は容易である。
なお、本実施形態では、赤外光カットフィルタ領域211を光学フィルタ205に設けず、例えば、撮像レンズ204に赤外光カットフィルタ領域211を設けてもよい。この場合、光学フィルタ205の作製が容易となる。
また、赤外光カットフィルタ領域211に代えて、後段フィルタ220の雨滴検出用フィルタ部220Bに垂直偏光成分Pのみを透過させる分光フィルタ層を形成してもよい。この場合、前段フィルタ210には赤外光カットフィルタ領域211を形成する必要はない。
また、本実施形態の光学フィルタ205は、図11に示したように領域分割された偏光フィルタ層222及び分光フィルタ層223を有する後段フィルタ220が、前段フィルタ210よりも画像センサ206側に設けられているが、前段フィルタ210を後段フィルタ220よりも画像センサ206側に設けてもよい。
次に、本実施形態における先行車両及び対向車両の検出処理の流れについて説明する。
図13は、本実施形態における車両検出処理の流れを示すフローチャートである。
本実施形態の車両検出処理では、撮像部200が撮像した画像データに対して画像処理を施し、検出対象物であると思われる画像領域を抽出する。そして、その画像領域に映し出されている光源体の種類が2種類の検出対象物のいずれであるかを識別することで、先行車両、対向車両の検出を行う。
まず、ステップS1では、撮像部200の画像センサ206によって撮像された自車両前方の画像データをメモリに取り込む。この画像データは、上述したように、画像センサ206の各撮像画素における輝度を示す信号を含む。次に、ステップS2では、自車両の挙動に関する情報を図示しない車両挙動センサから取り込む。
ステップS3では、メモリに取り込まれた画像データから検出対象物(先行車両のテールランプ及び対向車両のベッドランプ)であると思われる輝度の高い画像領域(高輝度画像領域)を抽出する。この高輝度画像領域は、画像データにおいて、所定の閾値輝度よりも高い輝度を有する明るい領域となり、複数存在する場合が多いが、それらのすべてを抽出する。よって、この段階では、雨路面からの照り返し光を映し出す画像領域も、高輝度画像領域として抽出される。
高輝度画像領域抽出処理では、まず、ステップS3−1において、画像センサ206上の各撮像画素の輝度値を所定の閾値輝度と比較することにより2値化処理を行う。具体的には、所定の閾値輝度以上の輝度を有する画素に「1」、そうでない画素に「0」を割り振ることで、2値化画像を作成する。次に、ステップS3−2において、この2値化画像において、「1」が割り振られた画素が近接している場合には、それらを1つの高輝度画像領域として認識するラベリング処理を実施する。これによって、輝度値の高い近接した複数の画素の集合が、1つの高輝度画像領域として抽出される。
上述した高輝度画像領域抽出処理の後に実行されるステップS4では、抽出された各高輝度画像領域に対応する撮像領域内の物体と自車両との距離を算出する。この距離算出処理では、車両のランプは左右1対のペアランプであることを利用して距離を検出するペアランプ距離算出処理と、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなって当該ペアランプが単一ランプとして認識される場合の単一ランプ距離算出処理とを実行する。
まず、ペアランプ距離算出処理のために、ステップS4−1では、ランプのペアを作成する処理であるペアランプ作成処理を行う。ペアとなる左右一対のランプは、撮像部200が撮像した画像データにおいて、近接しつつほぼ同じ高さとなる位置にあり、高輝度画像領域の面積がほぼ同じで、かつ高輝度画像領域の形が同じであるとの条件を満たす。したがって、このような条件を満たす高輝度画像領域同士をペアランプとする。ペアをとることのできない高輝度画像領域は単一ランプとみなされる。ペアランプが作成された場合には、ステップS4−2のペアランプ距離算出処理によって、そのペアランプまでの距離を算出する。車両の左右ヘッドランプ間の距離及び左右テールランプ間の距離は、一定値w0(例えば1.5m程度)で近似することができる。一方、撮像部200における焦点距離fは既知であるため、撮像部200の画像センサ206上の左右ランプ距離w1を算出することにより、ペアランプまでの実際の距離xは、単純な比例計算(x=f・w0/w1)により求めることができる。なお、先行車両や対向車両までの距離検出は、レーザレーダやミリ波レーダなどの専用の距離センサを用いてもよい。
ステップS5では、垂直偏光成分Pの赤色画像と垂直偏光成分Pの白色画像との比率(赤色輝度比率)を指標値とした分光情報として用い、この分光情報から、ペアランプとされた2つの高輝度画像領域が、ヘッドランプからの光によるものなのか、テールランプからの光によるものなのかを識別するランプ種類識別処理を行う。このランプ種類識別処理では、まずステップS5−1において、ペアランプとされた高輝度画像領域について、画像センサ206上の撮像画素a,fに対応した画素データと画像センサ206上の撮像画素bに対応した画素データとの比率を画素値とした赤色比画像(指標値画像)を作成する。そして、ステップS5−2において、その赤色比画像の画素値を所定の閾値と比較し、所定の閾値以上である高輝度画像領域についてはテールランプからの光によるテールランプ画像領域であるとし、所定の閾値未満である高輝度画像領域についてはヘッドランプからの光によるヘッドランプ画像領域であるとするランプ種別処理を行う。
なお、ここで説明した分光情報は、赤色輝度比率を指標値した例であるが、差分偏光度のような、垂直偏光成分Pの赤色画像と垂直偏光成分Pの白色画像との間の画素値の合計値に対するこれらの画像間の画素値の差分値の比率などの他の指標値を用いてもよい。
続いて、ステップS6では、テールランプ画像領域及びヘッドランプ画像領域として識別された各画像領域について、差分偏光度((S−P)/(S+P))を指標値とした偏光情報として用いて、テールランプ又はヘッドランプからの直接光か雨路面等の鏡面部で反射して受光された照り返し光かを識別する照り返し識別処理を行う。この照り返し識別処理では、まずステップS6−1において、テールランプ画像領域について差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像(指標値画像)を作成する。また、同様に、ヘッドランプ画像領域についても差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。そして、ステップS6−2において、それぞれの差分偏光度画像の画素値を所定の閾値と比較し、所定の閾値以上であるテールランプ画像領域及びヘッドランプ画像領域については、照り返し光によるものであると判断し、それらの画像領域は先行車両のテールランプを映し出したものではない又は対向車両のヘッドランプを映し出したものではないとして、除外する処理を行う。この除外処理を行った後に残るテールランプ画像領域及びヘッドランプ画像領域は、先行車両のテールランプを映し出したものである、あるいは、対向車両のヘッドランプを映し出したものであると識別される。
なお、レインセンサなどを車両に搭載しておき、当該レインセンサにより雨天時であることを確認した場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。また、運転者(ドライバー)がワイパーを稼働している場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。要するに、雨路面からの照り返しが想定される雨天時のみに上述した照り返し識別処理S6を実行するようにしてもよい。
以上のような車両検出処理により検出した先行車両及び対向車両の検出結果は、本実施形態では自車両の車載機器であるヘッドランプの配光制御に用いられる。具体的には、車両検出処理によりテールランプが検出されてその先行車両のバックミラーに自車両のヘッドランプ照明光が入射する距離範囲内に近づいた場合に、その先行車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。また、車両検出処理によりベッドランプが検出されて、その対向車両の運転者に自車両のヘッドランプ照明光が当たる距離範囲内に近づいた場合に、その対向車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。
〔白線検出処理〕
以下、本実施形態における白線検出処理について説明する。
本実施形態では、自車両が走行可能領域から逸脱するのを防止する目的で、検出対象物としての白線(区画線)を検出する処理を行う。ここでいう白線とは、実線、破線、点線、二重線等の道路を区画するあらゆる白線を含む。なお、黄色線等の白色以外の色の区画線などについても同様に検出可能である。
本実施形態における白線検出処理では、撮像ユニット101から取得することができる情報のうち、白色成分(非分光)の水平偏光成分Sと垂直偏光成分Pとの比較による偏光情報、例えば、白色成分(非分光)の水平偏光成分Sと垂直偏光成分Pの差分偏光度((S−P)/(S+P))を用いる。白線からの反射光は、通常、拡散反射成分が支配的であるため、その反射光の垂直偏光成分Pと水平偏光成分Sとはほぼ同等となり、差分偏光度はゼロに近い値を示す。一方、白線が形成されていないアスファルト面部分は、乾燥状態のときには、散乱反射成分が支配的となる特性を示し、その差分偏光度は正の値を示す。また、白線が形成されていないアスファルト面部分は、湿潤状態のときには、鏡面反射成分が支配的となり、その差分偏光度は更に大きな値を示す。したがって、得られた路面部分の偏光差分値が所定閾値よりも小さい部分を白線と判定することができる。
以下、本発明の特徴部分である、指標値画像のコントラストを高めるための拡大処理について説明する。
ここまでの説明で様々な指標値画像について説明したが、以下の説明では、上述した白線検出処理等において使用する差分偏光度(指標値)に応じた画素値を有する差分偏光度画像を例に挙げて説明する。
図14は、画像解析ユニット102の概要を示す機能ブロック図である。
本実施形態の画像解析ユニット102は、主に、補間処理部301と、差分偏光度画像生成部302と、輝度画像生成部303と、ダイナミックレンジ拡大処理部400と、認識処理部304とから構成される。
補間処理部301は、撮像部200から出力されてくる画像データを、赤色光の垂直偏光成分(P/R)、非分光の垂直偏光成分(P/C)、非分光の水平偏光成分(S/C)という3種類の光学成分ごとに分解し、それぞれの光学成分の画像データについて上述した画像補間処理を実行する。
差分偏光度画像生成部302は、補間処理部301から出力される画像データのうち、非分光の垂直偏光成分(P/C)と非分光の水平偏光成分(S/C)とを取得する。そして、画素ごとに、非分光の垂直偏光成分(P/C)と非分光の水平偏光成分(S/C)とから非分光の差分偏光度(−1以上+1以下の範囲)を算出し、算出した差分偏光度を10bitの画素値(0以上1023以下の整数範囲)に換算して、差分偏光度画像データを生成する差分偏光度画像生成処理を実行する。
輝度画像生成部303は、補間処理部301から出力される画像データのうち、非分光の垂直偏光成分(P/C)と非分光の水平偏光成分(S/C)とを取得する。そして、画素ごとに、非分光の垂直偏光成分(P/C)と非分光の水平偏光成分(S/C)とを合算した非分光の輝度を算出し、算出した輝度を10bitの画素値(0以上1023以下の整数範囲)に換算して、輝度画像データを生成する輝度画像生成処理を実行する。このようにして得られる輝度画像のデータは、認識処理部304が行う上述した高輝度画像領域抽出処理などに使用される。
ダイナミックレンジ拡大処理部400は、差分偏光度画像生成部302から出力される差分偏光度画像データを入力して、そのダイナミックレンジ(画素値の)を拡大するダイナミックレンジ拡大処理(スケーリング処理)を行う。この処理によりダイナミックレンジが拡大された差分偏光度画像データは、認識処理部304に送られる。なお、以下、説明のため、ダイナミックレンジ拡大処理が行われた後の差分偏光度画像データを「修正後差分偏光度画像データ」といい、ダイナミックレンジ拡大処理が行われる前の差分偏光度画像データを「修正前差分偏光度画像データ」という。
図15は、ダイナミックレンジ拡大処理部400の概要を示す機能ブロック図である。
本実施形態のダイナミックレンジ拡大処理部400は、主に、ヒストグラム作成部401と、最小値・最大値検出部402と、拡大処理係数算出部403と、拡大処理実行部404とから構成されている。
ヒストグラム作成部401は、差分偏光度画像生成部302から出力される差分偏光度画像データが入力されることで、1フレーム分(1つの差分偏光度画像)の差分偏光度画像データの度数分布から、図16に示すようなヒストグラムを作成する。
最小値・最大値検出部402は、1フレーム中に存在する差分偏光度画像データの最小画素値Gminと最大画素値Gmaxを検出する。具体的には、図16に示すように、ヒストグラム作成部401が作成したヒストグラムにおいて、度数あるいは頻度(Frequency)が所定の閾値Fthreを超えている画素値Gの範囲を抽出し、その範囲の最小値を差分偏光度画像データの最小画素値Gminとし、その範囲の最大値を差分偏光度画像データの最大画素値Gmaxとする。
本実施形態の最小値・最大値検出部402では、度数あるいは頻度が所定の閾値Fthreを超えている画素値Gのみを有効とし、この範囲から外れる画素値については無効なもの、ここではその値を0として処理する。このように頻度が極端に低い画素値を無効にすることによって、より効果的に差分偏光度画像のコントラストを拡大することができる。
拡大処理係数算出部403は、最小値・最大値検出部402が出力する最小画素値Gminと最大画素値Gmaxが入力されることで、下記の式(1)より、拡大倍率である拡大処理係数Kを計算する。なお、下記の式(1)中の「Galt」は、差分偏光度画像データの画素値が取り得る最大範囲(理想指標値範囲)の上限値を示すものである。本実施形態では、上述したように、差分偏光度画像データの画素値は、0以上1023以下の整数範囲を取る10bitデータであるので、Galt=1023となる。
K = Galt/(Gmax−Gmin) ・・・(1)
拡大処理実行部404は、拡大処理係数算出部403から拡大処理係数Kを取得したら、対応する差分偏光度画像データの各画素値が、所定の順序(画素番号順)で順次入力される。そして、入力される各画素値に拡大処理係数Kを乗じたものを出力する。これにより、修正前差分偏光度画像データでは、ダイナミックレンジが例えば400〜700であったもの(Gmin=400、Gmax=700)が、修正後差分偏光度画像データでは、ダイナミックレンジが0〜1023という最大範囲まで拡大される。この拡大処理実行部404で行われる処理は、ハードウェア(乗算器)による演算処理で実現することが用意であり、本実施形態では、拡大処理実行部404の処理を、乗算器によるハードウェア処理で実現している。
ここで、撮像部200から出力される画像データに基づく修正前差分偏光度画像データの画素値が取り得る範囲は、光学フィルタ205の偏光フィルタ層222が有する透過率特性によって、その透過率特性から求まる所定の実効範囲(実効指標値範囲)に制限される。本実施形態の偏光フィルタ層222を構成する垂直偏光領域及び水平偏光領域は、それぞれ、上記表1に示したP偏光フィルタ及びS偏光フィルタと同じ透過率特性を有するものである。この場合、修正前差分偏光度画像データの画素値が取り得る範囲は、上述したように215以上747以下の範囲(実効指標値範囲)に制限され、原理的には、この実効範囲から外れる画素値が算出されることはない。
しかしながら、実際には、撮像部200内で画像信号にノイズが含まれてしまうなどの理由により、この実効範囲から外れた不適切な画素値が算出されることがある。このような場合にも、拡大処理係数算出部403で算出した拡大処理係数Kを用いてダイナミックレンジ拡大処理を行うと、明らかに不適切な画素値が含まれた状態のまま、修正後差分偏光度画像データが生成されることになる。
また、本来は上述した実効範囲(215〜747)から外れる画素値は取り得ないことから、この実効範囲(215〜747)を差分偏光度画像データの画素値が取り得る範囲(0〜1023)又はその近傍まで拡大する拡大処理係数(以下「拡大処理係数閾値」という。)Kthreを用いてダイナミックレンジ拡大処理を行えば、適切な画素値が差分偏光度画像データの画素値が取り得る範囲(0〜1023)から外れない限度で、ダイナミックレンジを最大限に拡大することができる。しかしながら、実効範囲から外れた不適切な画素値が存在すると、拡大処理係数算出部403で算出される拡大処理係数Kは、この拡大処理係数閾値Kthreよりも小さい値となる。その結果、拡大倍率が制限されて、修正後差分偏光度画像において十分なコントラストを得ることができない場合がある。
図17は、拡大処理実行部404におけるダイナミックレンジ拡大処理の流れを示すフローチャートである。
拡大処理実行部404は、拡大処理係数算出部403から拡大処理係数Kを取得したら、まず、対応する1フレーム分の差分偏光度画像データにおける最初の画素値Gを入力する(S11)。そして、拡大処理係数算出部403から取得した拡大処理係数Kと実行倍率記憶部410に予め記憶されている拡大処理係数閾値Kthreとの大小関係を比較する(S12)。この比較において、K≧Kthreならば(S12のYes)、入力された画素値Gに拡大処理係数Kを乗じて、拡大後画素値GD’を算出する(S13)。一方、K<Kthreならば(S12のNo)、入力された画素値Gに拡大処理係数閾値Kthreを乗じて、拡大後画素値GD’を算出する(S14)。
以上の処理を、対応する1フレーム分の差分偏光度画像データの最後の画素値まで順次行い(S15)、最後の画素値まで処理を終えたら(S15のYes)、対応する1フレーム分の差分偏光度画像データのすべての画素値Gについて拡大後画素値GD’の算出が終了したと判断する。ここで算出される拡大後画素値GD’の範囲は、最小画素値Gminを基準にして拡大されたものであるので、その上限値側は差分偏光度画像の画素値範囲(0〜1023)を超えた値をとる。よって、拡大後画素値GD’の範囲をその下限値側へシフトさせて、差分偏光度画像の画素値範囲(0〜1023)に合わせるシフト処理を行う(S16)。このシフト処理は、例えば、拡大後画素値GD’の範囲の中央値が差分偏光度画像の画素値範囲(0〜1023)の中央値と一致するように、拡大後画素値GD’全体をシフトさせるものである。このようにして拡大後画素値GD’をシフト処理した後の値が、修正指標値である修正後画素値GDとなる。シフト処理の代わりに、拡大処理実行部404に入力される各画素値から最小画素値Gminを減算しても良い。このようにすることで、計算途中の値が小さくなるので、メモリが少なくて済む。
ここで、拡大処理係数閾値Kthreを用いて算出された修正後画素値GDには、差分偏光度画像の画素値が取り得る最大範囲(0以上1023以下の整数範囲)を超えた値が含まれる。そこで、本実施形態では、0よりも小さい修正後画素値GDについては0に丸め、1023よりも大きい修正後画素値GDは1023に丸めたものを、最終的な修正後画素値GDとする補正処理を行う(S17)。このようにして算出した修正後画素値GDは認識処理部304へ出力される。
なお、差分偏光度画像の画素値が取り得る最大範囲(0以上1023以下の整数範囲)を超えた修正後画素値GDは、もともと光学フィルタ205の偏光フィルタ層222が有する透過率特性から計算される実効範囲(215〜747)から外れた不適切な値に基づくものである。よって、上述した補正処理に代えて、このような不適切な修正後画素値GDが後段の認識処理部304で使用されないように除外する処理を行ってもよい。例えば、このような修正後画素値GDに対してエラーフラグを付けたり、このような修正後画素値GDを所定のエラー値に変換したりする。
〔変形例1〕
次に、本実施形態におけるダイナミックレンジ拡大処理部400の一変形例(以下、本変形例を「変形例1」という。)について説明する。
上記実施形態では、差分偏光度画像データの各画素値に係数K,K’を乗じてダイナミックレンジを拡大する処理をハードウェア処理で実現した例であるが、本変形例1では、CPU(Central Processing Unit)が実装された電子回路基板上に備わっている既存のBRAM(Block RAM)を利用して、CPUによるソフトウェア処理で実現する例について説明する。
図18は、本変形例1におけるダイナミックレンジ拡大処理部400の概要を示す機能ブロック図である。
本変形例1のダイナミックレンジ拡大処理部400は、主に、ヒストグラム作成部401と、最小値・最大値検出部402と、拡大処理係数算出部403と、拡大前処理部405と、カウンタ部406と、画素値変換部407と、BRAM408とから構成されている。なお、ヒストグラム作成部401、最小値・最大値検出部402及び拡大処理係数算出部403の処理内容については、上記実施形態のものと同様であるので、説明を省略する。
BRAM408を用いることで、CPUがダイナミックレンジ拡大処理に携わる頻度を下げ、認識処理部304の処理に携わる頻度を上げることができる。図19を用いて説明すると、CPUでダイナミックレンジ拡大処理する場合は、差分偏光度画像データが流れている期間Tの中、CPUが使用される。一方、BRAM408を用いる場合、各画像値に対応する拡大処理修正前後の値をBRAM408に格納する期間T’だけCPUが使用される。このようにすることで、認識処理部304の処理がより充実して認識精度が向上する。
拡大前処理部405は、CPUがBRAMを用いてソフトウェア処理により実行するダイナミックレンジ拡大処理の前処理として、修正後の差分偏光度画像データを修正前の差分偏光度画像データに対応づけた状態でBRAM408へ格納する処理を行う。詳しい処理内容については後述する。
カウンタ部406は、拡大前処理部405による前処理に利用され、最小画素値Gminから最大画素値Gmaxまで画素値を1ずつカウントアップするカウンタである。
画素値変換部407は、最小値・最大値検出部402が出力する最小画素値Gminと最大画素値Gmaxが入力され、対応する差分偏光度画像データの各画素値につき、最小画素値Gminと最大画素値Gmaxとの間の範囲から外れる不適切な画素値を、最小画素値Gmin又は最大画素値Gmaxに丸める画素値変換処理を行う。詳しい処理内容については後述する。
図20は、拡大前処理部405における前処理の流れを示すフローチャートである。
拡大前処理部405は、拡大処理係数算出部403から拡大処理係数Kを取得したら、まず、最小値・最大値検出部402から最小画素値Gminを取得して、カウンタ部406のカウント値Gcntを最小画素値Gminにセットする(S21)。そして、拡大処理係数算出部403から取得した拡大処理係数Kと実行倍率記憶部410に予め記憶されている拡大処理係数閾値Kthreとの大小関係を比較する(S22)。この比較において、K≧Kthreならば(S22のYes)、対応する画素値Gに拡大処理係数Kを乗じて、拡大後画素値GD’を算出する(S23)。一方、K<Kthreならば(S22のNo)、入力された画素値Gに拡大処理係数閾値Kthreを乗じて、拡大後画素値GD’を算出する(S24)。
その後、算出した拡大後画素値GD’に対し、上記実施形態のシフト処理と同様のシフト処理を行って修正後画素値GDを算出する(S25)。また、上記実施形態の補正処理と同様、シフト処理後において0よりも小さい修正後画素値GDが算出された場合にはこれを0に丸め、1023よりも大きい修正後画素値GDが算出された場合にはこれを1023に丸める補正処理を行う(S26)。このようにして算出された修正後画素値GDは、対応する修正前画素値G(カウント値Gcnt)に対応づけた状態でBRAM408へ格納される。
その後、カウンタ部406のカウント値をカウントアップさせ(S27)、そのカウント値Gcntに対応する画素値Gについて、同様に修正後画素値GDを算出する処理を行う(S22〜S26)。以上の処理を、カウント値Gcntが最大画素値Gmaxに達するまで繰り返し行う(S28)。これにより、最小画素値Gmin〜最大画素値Gmaxまでの各修正前画素値G(カウント値Gcnt)にそれぞれ対応する拡大後画素値GD’がBRAM408へ格納される。
図21は、画素値変換部407における処理の流れを示すフローチャートである。
画素値変換部407は、まず、対応する1フレーム分の差分偏光度画像データにおける最初の画素値Gを入力する(S31)。そして、最小値・最大値検出部402から最小画素値Gmin及び最大画素値Gmaxを取得して、入力された画素値Gと最小画素値Gminとの大小関係を比較する(S32)。この比較において、G<Gminならば(S32のNo)、入力された画素値Gを最小画素値Gminに変換して変換後画素値G’とする処理を行う(S33)。
一方、G≧Gminならば(S32のYes)、次に、入力された画素値Gと最大画素値Gmaxとの大小関係を比較する(S34)。この比較において、G≧Gmaxならば(S34のYes)、入力された画素値Gを最大画素値Gmaxに変換して変換後画素値G’とする処理を行う(S35)。他方、G<Gmaxならば(S34のNo)、入力された画素値Gをそのまま変換後画素値G’とする(S36)。このようにして変換された変換後画素値G’は、順次、BRAM408へ出力される。
以上の処理を、対応する1フレーム分の差分偏光度画像データの最後の画素値まで順次行い(S37)、最後の画素値まで処理を終えたら(S37のYes)、対応する1フレーム分の差分偏光度画像データのすべての画素値Gについて変換後画素値G’への変換が終了したと判断する。
図22は、本変形例1におけるBRAM408の概要構成を示す説明図である。
本変形例1において、BRAM408は、書き込み専用の書き込みポートと読み出し専用の読み出しポートの2つのポートを有する。
書き込みポートは、アドレス端子(書込アドレス端子)Addr_aにカウンタ部406のカウント値Gcntが入力され、データ入力端子(書込データ端子)Data_aに拡大前処理部405の出力値である修正後画素値GDが入力される。なお、書き込みポートは書き込み専用であるため、ライトイネーブル端子We_aにはライトイネーブル信号である1が入力され、データ出力端子Dout_aは未接続である。
読み出しポートは、アドレス端子(読出アドレス端子)Addr_bに画素値変換部407の出力値である変換後画素値G’が入力され、そのデータ出力端子Dout_bには認識処理部304が接続されている。なお、読み出しポートは読み出し専用であるため、データ入力端子Data_bは未接続であり、ライトイネーブル端子We_bには非ライトイネーブル信号である0が入力されている。
図23は、本変形例1におけるBRAM408の処理動作の流れを示すフローチャートである。
まず、BRAM408の書き込みポートのアドレス端子Addr_aには、カウンタ部406の最初のカウント値Gcntが入力される(S41)。すなわち、書き込みポートのアドレス端子Addr_aには、最小画素値Gminが入力される。また、書き込みポートのデータ入力端子Data_aには、拡大前処理部405の前処理で当該カウント値Gcnt(最小画素値Gmin)について算出された修正後画素値GDが入力される(S41)。これにより、カウント値Gcnt(最小画素値Gmin)について算出された修正後画素値GDは、当該カウント値Gcnt(最小画素値Gmin)により指定されたBRAM408のアドレスに格納される(S42)。
その後、カウンタ部406のカウント値Gcntをカウントアップし(S43)、カウント値Gcntが最大画素値Gmaxになるまで以上の書き込み処理(S41〜S43)を繰り返し行う(S44)。これにより、最小画素値Gminから最大画素値Gmaxまでの各画素値により指定されたBRAM408のアドレスに、それぞれの画素値に対応した修正後画素値GDが格納される。
次に、BRAM408の読み出しポートのアドレス端子Addr_bには、画素値変換部407の出力値である変換後画素値G’が入力される(S45)。すなわち、読み出しポートのアドレス端子Addr_bには、最初の画素番号に対応した変換後画素値G’が入力される。これにより、変換後画素値G’により指定されたBRAM408のアドレスに格納されている修正後画素値GDが、読み出しポートのデータ出力端子Dout_bから出力される(S46)。
BRAM408の読み出しポートのアドレス端子Addr_bに、画素値変換部407から出力される変換後画素値G’が、最初の画素番号から最後の画素番号まで、画素番号順に順次入力されるので、BRAM408の読み出しポートのデータ出力端子Dout_bからは、修正後画素値GDが画素番号順に順次出力される。このような読み出し処理が、対応する1フレーム分の差分偏光度画像データのすべての画素値について行われると(S47)、修正後画素値GDで構成される差分偏光度画像データが認識処理部304へ入力されたことになる。
上記実施形態では、差分偏光度画像データのすべての画素に対応する個々の画素値Gを画素番号順にハードウェアの乗算器に入力して、当該乗算器により係数K,Kthreを乗じることで、当該乗算器から画素番号順に修正後画素値GDを出力することで、修正後画素値GDからなる差分偏光度画像データを得る。この構成によれば、ハードウェアの乗算器を使用するため、ハードウェアリソースが大きくなるというデメリットがあるのに対し、処理時間が短くて済むというメリットがある。
これに対し、本変形例1では、差分偏光度画像データの最小画素値Gminから最大画素値Gmaxまでの各画素値に対して係数K,Kthreを乗じて得られる修正後画素値GDを修正前画素値Gと対応づけてBRAM408に格納しておき、画素番号に修正前画素値GをBRAM408に順次入力することで、BRAM408から画素番号順に修正後画素値GDを出力し、修正後画素値GDからなる差分偏光度画像データを得る。この構成によれば、既存のCPUで乗算処理するので処理時間が長くかかるデメリットはあるが、少ないハードウェアリソースで実現できるというメリットがある。
〔変形例2〕
次に、本実施形態におけるダイナミックレンジ拡大処理部400の他の変形例(以下、本変形例を「変形例2」という。)について説明する。
図24(a)〜(e)は、実際の撮像により得られる差分偏光度画像(修正前)の画素値Gのヒストグラムが取り得る形状例を示す説明図である。
図中の閾値Fthreは、図16における閾値Fthreと同じものである。光学フィルタ205の偏光フィルタ層222が有する透過率特性を考慮すると、最小画素値Gminと最大画素値Gmaxとの差分の絶対値は、原理的には、下記の式(2)に示す関係式を満たすことになる。
|Gmax−Gmin| ≦ Galt / Kthre ・・・(2)
図25は、本変形例2におけるダイナミックレンジ拡大処理部400の概要を示す機能ブロック図である。
本変形例2のダイナミックレンジ拡大処理部400は、上記実施形態における最小値・最大値検出部402と拡大処理係数算出部403との間に、拡大倍率算出可否判定部409を追加したものである。ヒストグラム作成部401及び最小値・最大値検出部402の処理内容については、上記実施形態のものと同様であるので、説明を省略する。
ただし、本変形例2では、上記拡大処理実行部404で行っていた拡大処理係数Kと実行倍率記憶部410に予め記憶されている拡大処理係数閾値Kthreとの大小関係の比較(S12)に相当する処理を、上記拡大処理係数算出部403の後述する処理(S53)で行う。そのため、本変形例2における拡大処理実行部404の処理内容は、入力された画素値Gに対して拡大処理係数算出部403からの拡大処理係数Kを乗じて拡大後画素値GD’を出力するという処理を、1フレーム分の差分偏光度画像データについて実行するというものになる。
なお、上記変形例1のダイナミックレンジ拡大処理部400に拡大倍率算出可否判定部409を、同様に追加することができる。
図26は、本変形例2における拡大倍率算出可否判定部409及び拡大処理係数算出部403で行うダイナミックレンジ拡大処理の流れを示すフローチャートである。
拡大倍率算出可否判定部409は、最小値・最大値検出部402から最小画素値Gminと最大画素値Gmaxが入力されることで(S51)、最小画素値Gminと最大画素値Gmaxとの差分絶対値ΔGを算出する(S52)。そして、算出した差分絶対値ΔGと、理想範囲Galtを拡大処理係数閾値Kthreで割った値との大小関係を比較する(S53)。この比較において、ΔG>Galt/Kthreならば(S53のYes)、ダイナミックレンジ拡大処理を実行するか否かを示す実行判定フラグFlagに0をセットする(S54)。一方、ΔG≦Galt/Kthreならば(S53のNo)、ダイナミックレンジ拡大処理を実行するか否かを示す実行判定フラグFlagに1をセットする(S55)。このようにしてセットされた実行判定フラグFlagは、拡大倍率算出可否判定部409から拡大処理係数算出部403へ出力される。
拡大処理係数算出部403は、まず、拡大倍率算出可否判定部409から入力される実行判定フラグFlagの値が1であるか否かを判断する(S56)。実行判定フラグFlagの値が1である場合には(S56のYes)、上記実施形態の場合と同様に、上記式(1)より拡大処理係数Kを算出し、その拡大処理係数Kを拡大処理実行部404へ出力する(S58)。一方、実行判定フラグFlagの値が0である場合には(S56のNo)、拡大処理係数Kを、実行倍率記憶部410に予め記憶されている拡大処理係数閾値Kthreとし、その拡大処理係数K(=Kthre)を拡大処理実行部404へ出力する(S57)。
本変形例2の拡大処理実行部404では、上述したように、入力された画素値Gに対して拡大処理係数算出部403からの拡大処理係数Kを乗じて拡大後画素値GD’を出力するという処理を実行するものである。よって、ΔG>Galt/Kthreならば、すなわち、最小値・最大値検出部402が出力する最小画素値Gminと最大画素値Gmaxから算出される拡大倍率K(=Galt/(Gmax−Gmin))が拡大処理係数閾値Kthreよりも大きければ、最小画素値Gminと最大画素値Gmaxとから算出される拡大処理係数Kによりダイナミックレンジ拡大処理が行われる。一方、ΔG≦Galt/Kthreならば、すなわち、最小値・最大値検出部402が出力する最小画素値Gminと最大画素値Gmaxから算出される拡大倍率K(=Galt/(Gmax−Gmin))が拡大処理係数閾値Kthre以下ならば、拡大処理係数閾値Kthreによりダイナミックレンジ拡大処理が行われる。
図27(a)は、ダイナミックレンジ拡大処理を行っていない差分偏光度画像とその画素値のヒストグラムを示す説明図である。
図27(b)は、ダイナミックレンジ拡大処理を行った差分偏光度画像とその画素値のヒストグラムを示す説明図である。
図27(a)に示すように、ダイナミックレンジ拡大処理を行っていない場合、その画素値(修正前画素値G)のヒストグラムは狭い範囲に偏った形状であり、差分偏光度画像のコントラストは低いものとなっている。そのため、白線や路端の認識が困難となっている。一方、図27(b)に示すように、ダイナミックレンジ拡大処理を行った場合、その画素値(修正後画素値GD)のヒストグラムは広がっており、差分偏光度画像のコントラストが高いものとなっている。そのため、白線や路端の認識が容易になっている。
なお、上述した実施形態や各変形例では、撮像ユニット101から出力される撮像画像データが入力される画像解析ユニット102においてダイナミックレンジ拡大処理を行う場合であったが、これを撮像ユニット101内で処理するようにしても良い。この場合、例えば、図3に示した信号処理部208の主要構成を、図28に示すように、信号処理回路208AとCPU208Bとで構成することができる。信号処理回路208Aは、画像センサ206から出力される電気信号(アナログ信号)をデジタル信号である撮像画像データに変換して、CPU208Bへ受け渡す。CPU208Bは、上述した画像解析ユニット102が担っていた、補間処理部301、差分偏光度画像生成部302、輝度画像生成部303、ダイナミックレンジ拡大処理部400としての機能を果たし、これらで行われていた処理を実行する。
また、ダイナミックレンジ拡大処理を撮像ユニット101内で処理する際、上述した変形例1のようにBRAM408を用いる場合には、例えば、図3に示した信号処理部208の主要構成を、図29に示すように、信号処理回路208Aと、CPU208Bと、BRAM408に対応するBRAM208Cとで構成してもよい。この場合、図28に示した構成例におけるCPU208Bで実行していた処理の一部をBRAM208Cで実行することで、CPUがダイナミックレンジ拡大処理に携わる頻度を下げ、認識処理部304の処理に携わる頻度を上げることができる。
以上に説明したものは一例であり、本発明は、次の態様毎に特有の効果を奏する。
(態様A)
互いに異なる偏光成分等の光学成分を選択的に透過させる複数種類の選択フィルタ領域(S偏光フィルタ及びP偏光フィルタ)を周期的に配列した偏光フィルタ層222等の光学フィルタ、又は、赤色波長帯等の特定の光学成分を選択的に透過させる1種類又は2種類以上の選択フィルタ領域(赤色分光領域)及び入射光をそのまま透過させる非選択フィルタ領域(非分光領域)を周期的に配列した分光フィルタ層223等の光学フィルタを通じて、撮像領域内の各地点からの光を受光し、該光学フィルタ上のフィルタ領域ごとの受光量に応じた画像信号を出力する撮像ユニット101等の撮像手段と、上記撮像手段から出力された画像信号に基づき、撮像領域内の各地点からの光に含まれる互いに異なった複数の光学成分の大きさの違いを示す偏光比、差分偏光度あるいは赤色輝度比率等に対応する画素値G(指標値)に基づく画素値をもった偏光比画像、差分偏光度画像あるいは赤色比画像等の指標値画像を出力する画像解析ユニット102等の画像処理手段とを有する撮像装置において、上記画像処理手段は、上記撮像手段から出力される一の指標値画像に対応した画像信号に基づいて算出される指標値の数値範囲である修正前指標値範囲(Gmin〜Gmax)を、上記光学フィルタ上におけるフィルタ領域が理想の透過率特性を有するとした場合に指標値が取り得る最大の理想指標値範囲(0〜1023)又はその近傍まで拡大するための拡大倍率Kを算出するヒストグラム作成部401、最小値・最大値検出部402、拡大処理係数算出部403、拡大倍率算出可否判定部409等の倍率算出手段と、上記倍率算出手段で算出した拡大倍率を用いて、当該画像処理手段が出力する一の指標値画像の画素値として用いられる指標値(修正前画素値G)を修正し、修正後の指標値(修正後画素値GD)の範囲が上記理想指標値範囲(0〜1023)又はその近傍の範囲となるように拡大処理を行う拡大処理実行部404、拡大前処理部405、カウンタ部406、BRAM408等の拡大処理手段と、上記光学フィルタ上におけるフィルタ領域が有している透過率特性から計算される、修正前指標値(修正前画素値G)が取り得る最大の実効指標値範囲(215〜747)を、上記理想指標値範囲(0〜1023)又はその近傍まで拡大するための拡大処理係数閾値Kthre等の実効拡大倍率を記憶する実効倍率記憶手段とを有し、上記拡大処理手段は、上記倍率算出手段が算出した拡大倍率Kが上記実効倍率記憶手段に記憶されている実効拡大倍率Kthreよりも小さい場合には、該実効倍率記憶手段に記憶されている実効拡大倍率Kthreを用いて、上記拡大処理を行うことを特徴とする。
これによれば、実効指標値範囲(215〜747)から外れた不適切な修正前指標値の存在によって拡大倍率が制限されることはなくなり、高いコントラストの指標値画像を得ることが可能となる。
(態様B)
上記態様Aにおいて、上記選択フィルタ領域は、所定の偏光成分を選択的に透過させる偏光フィルタで構成されていることを特徴とする。
これによれば、偏光情報を利用した画像解析処理を実現でき、輝度情報だけでは取得することが困難な様々な情報を、より高い精度で得ることが可能となる。
(態様C)
上記態様A又はBにおいて、上記倍率算出手段は、上記撮像手段から出力される一の指標値画像に対応した画像信号に基づいて算出される修正前指標値(修正前画素値G)のヒストグラム情報等の度数分布情報に基づいて、上記修正前指標値範囲(Gmin〜Gmax)を特定することを特徴とする。
度数(頻度)が少ない修正前指標値はノイズ成分である可能性が高い。度数分布情報を用いることで、このようなノイズ成分を適切に除外することができる。
(態様D)
上記態様Cにおいて、上記倍率算出手段は、上記度数分布情報に基づいて度数が所定の度数閾値Fthreを超えている指標値の範囲を抽出し、抽出した範囲を上記修正前指標値範囲(Gmin〜Gmax)として特定することを特徴とする。
これによれば、ノイズ成分である可能性が高い度数(頻度)の少ない修正前指標値を容易に除外できる。
(態様E)
上記態様A〜Dのいずれかの態様において、上記拡大処理手段は、指定された書込アドレスに対して入力データを格納するとともに、指定された読出アドレスに格納されているデータを出力するBRAM408等のメモリ部を有し、上記倍率算出手段が算出した拡大倍率Kを用いて修正した修正後指標値(修正後画素値GD)のデータを、該メモリ部内の修正前指標値(修正前画素値G)に対応した書込アドレスに格納することを特徴とする。
これによれば、上記変形例1で説明したように、少ないハードウェアリソースで処理を実現できるというメリットがある。
(態様F)
上記態様Dにおいて、上記拡大処理手段は、書込アドレス端子Addr_aに入力された書込アドレスデータに対応するアドレスに対して書込データ端子Data_aに入力されたデータを格納するとともに、読出アドレス端子Addr_bに入力された読出アドレスデータに対応するアドレスに格納されているデータを読出データ端子Data_bから出力するBRAM408等のメモリ部と、上記倍率算出手段が抽出した指標値の範囲(Gmin〜Gmax)の下限値Gminから上限値Gmaxに向けて又はその上限値から下限値に向けて順次カウントして、各カウント値を上記メモリ部の書込アドレス端子へ順次出力するカウンタ部406と、上記画像処理手段が出力する一の指標値画像の画素値として用いられる修正前指標値(修正前画素値G)に上記倍率算出手段が算出した拡大倍率Kを乗じて得られる修正後指標値(修正後画素値GD)を、当該修正前指標値に対応したカウント値(修正前画素値G)が上記メモリ部の書込アドレス端子Addr_aへ出力されるタイミングに合わせて、該メモリ部の書込データ端子Data_aへ出力する拡大前処理部405等の指標値修正部と、上記画像処理手段が出力する一の指標値画像の画素値として用いられる修正前指標値(修正前画素値G)が、上記倍率算出手段が抽出した指標値の範囲の下限値Gmin以下である場合には、該下限値に対応したカウント値Gminを上記メモリ部の読出アドレス端子Data_bへ出力し、該倍率算出手段が抽出した指標値の範囲の上限値Gmax以上である場合には、該上限値に対応したカウント値Gmaxを該メモリ部の読出アドレス端子Data_bへ出力し、該倍率算出手段が抽出した指標値の範囲(Gmin〜Gmax)内である場合には、当該修正前指標値に対応したカウント値(修正前画素値G)を該メモリ部の読出アドレス端子Data_bへ出力する画素値変換部407等の読出データ指定部とを有することを特徴とする。
これによれば、所定の度数閾値Fthreによって除外された修正前指標値が入力されても、エラーにならずに済み、スムーズな処理が実現できる。
(態様G)
上記態様A〜Dのいずれかの態様において、上記拡大処理手段は、入力端子に入力されたデータに所定の乗算係数を乗じたデータを出力端子から出力する乗算器を有し、該乗算器の該乗算係数には上記倍率算出手段が算出した拡大倍率Kが設定され、上記画像処理手段が出力する一の指標値画像の画素値として用いられる修正前指標値(修正前画素値G)を該乗算器の入力端子に入力して、該乗算器の出力端子から修正後指標値(修正後画素値GD)を出力することを特徴とする。
これによれば、上記実施形態のように、ハードウェアの乗算器を使用するため、ソフトウェア処理よりも処理時間を短縮することが容易である。
(態様H)
上記態様A〜Gのいずれかの態様において、上記画像処理手段は、上記倍率算出手段が算出した拡大倍率Kが上記実効倍率記憶手段に記憶されている実効拡大倍率Kthreよりも小さい場合、上記拡大処理手段の拡大処理による修正後の指標値に基づく画素値をもった指標値画像を生成するときに、該拡大処理により上記理想指標値範囲(0〜1023)から外れた修正後の指標値(修正後画素値GD)を除外して当該指標値画像を生成することを特徴とする。
これによれば、明らかに不適切であることがわかっている修正後画素値GDが後段の認識処理部304で使用されることがないので、不適切な修正後画素値GDによる認識処理の精度低下を抑制できる。
(態様I)
車両100と、該車両100の周囲を撮像領域とした画像を撮像する撮像装置とを備えた車載機器制御システム等の車両システムにおいて、上記撮像装置として、上記態様A〜Hのいずれかの態様に係る撮像装置を用い、上記撮像装置を構成する少なくとも上記撮像手段が上記車両100に設置されていることを特徴とする。
これによれば、車両システムの画像解析精度を向上させることができる。
なお、本実施形態(変形例を含む。)に係る車載機器制御システムでは、撮像装置の全体が車両100に搭載されている例であるが、撮像ユニット101が車両に搭載されていれば、残りの部分については必ずしも車両に搭載されている必要はない。したがって、例えば、撮像ユニット101のみを車両100に搭載して、残りの部分を車両とは別の場所に遠隔配置するようにしてもよい。この場合、車両の走行状態を運転者以外の者が客観的に把握するシステムとすることもできる。
(態様J)
互いに異なる光学成分を選択的に透過させる複数種類の選択フィルタ領域を周期的に配列した光学フィルタ、又は、特定の光学成分を選択的に透過させる1種類又は2種類以上の選択フィルタ領域及び入射光をそのまま透過させる非選択フィルタ領域を周期的に配列した光学フィルタを通じて、撮像領域内の各地点からの光を受光し、該光学フィルタ上のフィルタ領域ごとの受光量に応じた画像信号を出力する撮像手段と、該撮像手段から出力された画像信号に基づき、撮像領域内の各地点からの光に含まれる互いに異なった複数の光学成分の大きさの違いを示す指標値に基づく画素値をもった指標値画像を出力する画像処理手段とを有する撮像装置における画像処理方法において、上記撮像手段から出力される一の指標値画像に対応した画像信号に基づいて算出される指標値の数値範囲である修正前指標値範囲を、上記光学フィルタ上におけるフィルタ領域が理想の透過率特性を有するとした場合に指標値が取り得る最大の理想指標値範囲又はその近傍まで拡大するための拡大倍率を算出する倍率算出工程と、上記倍率算出工程で算出された拡大倍率を用いて、上記画像処理手段が出力する一の指標値画像の画素値として用いられる指標値を修正し、修正後の指標値の範囲が上記理想指標値範囲又はその近傍の範囲となるように拡大処理を行う拡大処理工程とを有し、上記拡大処理工程では、上記光学フィルタ上におけるフィルタ領域の透過率特性から計算される、修正前指標値が取り得る最大の実効指標値範囲を、上記理想指標値範囲又はその近傍まで拡大するための実効拡大倍率よりも、上記倍率算出工程で算出された拡大倍率が小さい場合には、該実効拡大倍率を用いて上記拡大処理を行うことを特徴とする。
これによれば、実効指標値範囲から外れた不適切な修正前指標値の存在によって拡大倍率が制限されることはなくなり、高いコントラストの指標値画像を得ることが可能となる。
100 車両
101 撮像ユニット
102 画像解析ユニット
103 ヘッドランプ制御ユニット
104 ヘッドランプ
105 フロントガラス
106 ワイパー制御ユニット
107 ワイパー
108 車両走行制御ユニット
200 撮像部
205 光学フィルタ
206 画像センサ
210 前段フィルタ
211 赤外光カットフィルタ領域
212 赤外光透過フィルタ領域
213 車両検出用画像領域
214 雨滴検出用画像領域
220 後段フィルタ
220A 車両検出用フィルタ部
220B 雨滴検出用フィルタ部
222,225 偏光フィルタ層
223 分光フィルタ層
301 補間処理部
302 差分偏光度画像生成部
303 輝度画像生成部
304 認識処理部
400 ダイナミックレンジ拡大処理部
401 ヒストグラム作成部
402 最小値・最大値検出部
403 拡大処理係数算出部
404 拡大処理実行部
405 拡大前処理部
406 カウンタ部
407 画素値変換部
408 BRAM
409 拡大倍率算出可否判定部
G 修正前画素値
G’ 変換後画素値
Galt 理想範囲
Gcnt カウント値
GD’ 拡大後画素値
GD 修正後画素値
K 拡大処理係数
Kthre 拡大処理係数閾値
P 垂直偏光成分
S 水平偏光成分
特開平11−175702号公報

Claims (10)

  1. 互いに異なる光学成分を選択的に透過させる複数種類の選択フィルタ領域を周期的に配列した光学フィルタ、又は、特定の光学成分を選択的に透過させる1種類又は2種類以上の選択フィルタ領域及び入射光をそのまま透過させる非選択フィルタ領域を周期的に配列した光学フィルタを通じて、撮像領域内の各地点からの光を受光し、該光学フィルタ上のフィルタ領域ごとの受光量に応じた画像信号を出力する撮像手段と、
    上記撮像手段から出力された画像信号に基づき、撮像領域内の各地点からの光に含まれる互いに異なった複数の光学成分の大きさの違いを示す指標値に基づく画素値をもった指標値画像を出力する画像処理手段とを有する撮像装置において、
    上記画像処理手段は、上記撮像手段から出力される一の指標値画像に対応した画像信号に基づいて算出される指標値の数値範囲である修正前指標値範囲を、上記光学フィルタ上におけるフィルタ領域が理想の透過率特性を有するとした場合に指標値が取り得る最大の理想指標値範囲又はその近傍まで拡大するための拡大倍率を算出する倍率算出手段と、
    上記倍率算出手段が算出した拡大倍率を用いて、当該画像処理手段が出力する一の指標値画像の画素値として用いられる指標値を修正し、修正後の指標値の範囲が上記理想指標値範囲又はその近傍の範囲となるように拡大処理を行う拡大処理手段と、
    上記光学フィルタ上におけるフィルタ領域が有している透過率特性から計算される、修正前指標値が取り得る最大の実効指標値範囲を、上記理想指標値範囲又はその近傍まで拡大するための実効拡大倍率を記憶する実効倍率記憶手段とを有し、
    上記拡大処理手段は、上記倍率算出手段が算出した拡大倍率が上記実効倍率記憶手段に記憶されている実効拡大倍率よりも小さい場合には、該実効倍率記憶手段に記憶されている実効拡大倍率を用いて、上記拡大処理を行うことを特徴とする撮像装置。
  2. 請求項1の撮像装置において、
    上記選択フィルタ領域は、所定の偏光成分を選択的に透過させる偏光フィルタで構成されていることを特徴とする撮像装置。
  3. 請求項1又は2の撮像装置において、
    上記倍率算出手段は、上記撮像手段から出力される一の指標値画像に対応した画像信号に基づいて算出される修正前指標値の度数分布情報に基づいて、上記修正前指標値範囲を特定することを特徴とする撮像装置。
  4. 請求項3の撮像装置において、
    上記倍率算出手段は、上記度数分布情報に基づいて度数が所定の度数閾値を超えている指標値の範囲を抽出し、抽出した範囲を上記修正前指標値範囲として特定することを特徴とする撮像装置。
  5. 請求項1乃至4のいずれか1項に記載の撮像装置において、
    上記拡大処理手段は、指定された書込アドレスに対して入力データを格納するとともに、指定された読出アドレスに格納されているデータを出力するメモリ部を有し、上記倍率算出手段が算出した拡大倍率を用いて修正した修正後指標値のデータを、該メモリ部内の修正前指標値に対応した書込アドレスに格納することを特徴とする撮像装置。
  6. 請求項4の撮像装置において、
    上記拡大処理手段は、
    書込アドレス端子に入力された書込アドレスデータに対応するアドレスに対して書込データ端子に入力されたデータを格納するとともに、読出アドレス端子に入力された読出アドレスデータに対応するアドレスに格納されているデータを読出データ端子から出力するメモリ部と、
    上記倍率算出手段が抽出した指標値の範囲の下限値から上限値に向けて又はその上限値から下限値に向けて順次カウントして、各カウント値を上記メモリ部の書込アドレス端子へ順次出力するカウンタ部と、
    上記画像処理手段が出力する一の指標値画像の画素値として用いられる修正前指標値に上記倍率算出手段が算出した拡大倍率を乗じて得られる修正後指標値を、当該修正前指標値に対応したカウント値が上記メモリ部の書込アドレス端子へ出力されるタイミングに合わせて、該メモリ部の書込データ端子へ出力する指標値修正部と、
    上記画像処理手段が出力する一の指標値画像の画素値として用いられる修正前指標値が、上記倍率算出手段が抽出した指標値の範囲の下限値以下である場合には、該下限値に対応したカウント値を上記メモリ部の読出アドレス端子へ出力し、該倍率算出手段が抽出した指標値の範囲の上限値以上である場合には、該上限値に対応したカウント値を該メモリ部の読出アドレス端子へ出力し、該倍率算出手段が抽出した指標値の範囲内である場合には、当該修正前指標値に対応したカウント値を該メモリ部の読出アドレス端子へ出力する読出データ指定部とを有することを特徴とする撮像装置。
  7. 請求項1乃至4のいずれか1項に記載の撮像装置において、
    上記拡大処理手段は、入力端子に入力されたデータに所定の乗算係数を乗じたデータを出力端子から出力する乗算器を有し、該乗算器の該乗算係数には上記倍率算出手段が算出した拡大倍率が設定され、上記画像処理手段が出力する一の指標値画像の画素値として用いられる修正前指標値を該乗算器の入力端子に入力して、該乗算器の出力端子から修正後指標値を出力することを特徴とする撮像装置。
  8. 請求項1乃至7のいずれか1項に記載の撮像装置において、
    上記画像処理手段は、上記倍率算出手段が算出した拡大倍率が上記実効倍率記憶手段に記憶されている実効拡大倍率よりも小さい場合、上記拡大処理手段の拡大処理による修正後の指標値に基づく画素値をもった指標値画像を生成するときに、該拡大処理により上記理想指標値範囲から外れた修正後の指標値を除外して当該指標値画像を生成することを特徴とする撮像装置。
  9. 車両と、該車両の周囲を撮像領域とした画像を撮像する撮像装置とを備えた車両システムにおいて、
    上記撮像装置として、請求項1乃至8のいずれか1項に記載の撮像装置を用い、
    上記撮像装置を構成する少なくとも上記撮像手段が上記車両に設置されていることを特徴とする車両システム。
  10. 互いに異なる光学成分を選択的に透過させる複数種類の選択フィルタ領域を周期的に配列した光学フィルタ、又は、特定の光学成分を選択的に透過させる1種類又は2種類以上の選択フィルタ領域及び入射光をそのまま透過させる非選択フィルタ領域を周期的に配列した光学フィルタを通じて、撮像領域内の各地点からの光を受光し、該光学フィルタ上のフィルタ領域ごとの受光量に応じた画像信号を出力する撮像手段と、該撮像手段から出力された画像信号に基づき、撮像領域内の各地点からの光に含まれる互いに異なった複数の光学成分の大きさの違いを示す指標値に基づく画素値をもった指標値画像を出力する画像処理手段とを有する撮像装置における画像処理方法において、
    上記撮像手段から出力される一の指標値画像に対応した画像信号に基づいて算出される指標値の数値範囲である修正前指標値範囲を、上記光学フィルタ上におけるフィルタ領域が理想の透過率特性を有するとした場合に指標値が取り得る最大の理想指標値範囲又はその近傍まで拡大するための拡大倍率を算出する倍率算出工程と、
    上記倍率算出工程で算出された拡大倍率を用いて、上記画像処理手段が出力する一の指標値画像の画素値として用いられる指標値を修正し、修正後の指標値の範囲が上記理想指標値範囲又はその近傍の範囲となるように拡大処理を行う拡大処理工程とを有し、
    上記拡大処理工程では、上記光学フィルタ上におけるフィルタ領域の透過率特性から計算される、修正前指標値が取り得る最大の実効指標値範囲を、上記理想指標値範囲又はその近傍まで拡大するための実効拡大倍率よりも、上記倍率算出工程で算出された拡大倍率が小さい場合には、該実効拡大倍率を用いて上記拡大処理を行うことを特徴とする画像処理方法。
JP2012236921A 2012-01-19 2012-10-26 撮像装置及びこれを備えた車両システム並びに画像処理方法 Active JP5995140B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012236921A JP5995140B2 (ja) 2012-01-19 2012-10-26 撮像装置及びこれを備えた車両システム並びに画像処理方法
US13/743,500 US9269006B2 (en) 2012-01-19 2013-01-17 Imaging apparatus, vehicle system, and image-processing method for image magnification and expansion
EP13152061.1A EP2618304B1 (en) 2012-01-19 2013-01-21 Imaging apparatus, vehicle system having the same, and image-processing method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012008934 2012-01-19
JP2012008934 2012-01-19
JP2012236921A JP5995140B2 (ja) 2012-01-19 2012-10-26 撮像装置及びこれを備えた車両システム並びに画像処理方法

Publications (2)

Publication Number Publication Date
JP2013167624A JP2013167624A (ja) 2013-08-29
JP5995140B2 true JP5995140B2 (ja) 2016-09-21

Family

ID=47709843

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012236921A Active JP5995140B2 (ja) 2012-01-19 2012-10-26 撮像装置及びこれを備えた車両システム並びに画像処理方法

Country Status (3)

Country Link
US (1) US9269006B2 (ja)
EP (1) EP2618304B1 (ja)
JP (1) JP5995140B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015015717A1 (ja) * 2013-07-30 2015-02-05 パナソニックIpマネジメント株式会社 撮像装置、並びにそれを用いた撮像システム、電子ミラーシステムおよび測距装置
DE102013109005A1 (de) 2013-08-20 2015-02-26 Khs Gmbh Vorrichtung und Verfahren zur Identifikation von Codierungen unter Folie
KR101601375B1 (ko) * 2013-12-17 2016-03-08 현대자동차주식회사 차량에 구비된 영상처리 장치 및 방법
JP6481375B2 (ja) 2014-02-27 2019-03-13 株式会社リコー 情報処理システム、情報処理方法、プログラム、および情報処理装置
CN105313782B (zh) * 2014-07-28 2018-01-23 现代摩比斯株式会社 车辆行驶辅助系统及其方法
EP3002550B1 (en) 2014-10-03 2017-08-30 Ricoh Company, Ltd. Information processing system and information processing method for distance measurement
CN108293093B (zh) 2015-11-19 2020-11-03 索尼公司 图像处理设备和图像处理方法
JP6950170B2 (ja) 2016-11-30 2021-10-13 株式会社リコー 情報処理装置、撮像装置、機器制御システム、情報処理方法、及びプログラム
JP6627127B2 (ja) * 2017-11-27 2020-01-08 本田技研工業株式会社 車両制御装置、車両制御方法、およびプログラム
US10721458B1 (en) * 2018-12-14 2020-07-21 Ambarella International Lp Stereoscopic distance measurements from a reflecting surface
US20230094677A1 (en) * 2019-10-16 2023-03-30 Waymo Llc Systems and Methods for Infrared Sensing
WO2022130474A1 (ja) * 2020-12-14 2022-06-23 三菱電機株式会社 熱画像処理装置、熱画像処理システムおよび熱画像処理方法
CN112837233B (zh) * 2021-01-14 2022-09-09 昆明理工大学 一种基于差分偏振获取透射率的偏振图像去雾方法
JP2022182346A (ja) * 2021-05-28 2022-12-08 ソニーセミコンダクタソリューションズ株式会社 信号処理装置および方法、並びにプログラム

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3452076B2 (ja) * 1993-10-27 2003-09-29 富士重工業株式会社 車輌用距離検出装置
US7202776B2 (en) * 1997-10-22 2007-04-10 Intelligent Technologies International, Inc. Method and system for detecting objects external to a vehicle
JPH10332576A (ja) 1997-06-05 1998-12-18 Nagoya Denki Kogyo Kk 路面湿潤状況の検出方法および装置
JP3341664B2 (ja) 1997-12-15 2002-11-05 トヨタ自動車株式会社 車両用ライン検出装置及び路上ライン検出方法並びにプログラムを記録した媒体
JPH11271220A (ja) * 1998-03-24 1999-10-05 Olympus Optical Co Ltd 走査型顕微鏡の測定パラメータ決定方法
US6864916B1 (en) * 1999-06-04 2005-03-08 The Trustees Of Columbia University In The City Of New York Apparatus and method for high dynamic range imaging using spatially varying exposures
US7245325B2 (en) * 2000-03-17 2007-07-17 Fujifilm Corporation Photographing device with light quantity adjustment
US7554596B2 (en) * 2001-04-13 2009-06-30 The Trustees Of Columbia University In The City Of New York Method and apparatus for recording a sequence of images using a moving optical element
JP2004113390A (ja) * 2002-09-25 2004-04-15 Olympus Corp 光プローブ装置
JP4011505B2 (ja) 2003-03-17 2007-11-21 名古屋電機工業株式会社 路面状態検出装置、路面状態検出方法および路面状態検出プログラム
WO2005101852A1 (ja) * 2004-04-16 2005-10-27 Iwane Laboratories, Ltd. ハイライト抑制画像撮影装置
US7130745B2 (en) * 2005-02-10 2006-10-31 Toyota Technical Center Usa, Inc. Vehicle collision warning system
AU2007275714A1 (en) * 2006-07-18 2008-01-24 The Trustees Of The University Of Pennsylvania Separation and contrast enhancement of overlapping cast shadow components and target detection in shadow using polarization
US8567678B2 (en) * 2007-01-30 2013-10-29 Kyocera Corporation Imaging device, method of production of imaging device, and information code-reading device
WO2008097562A1 (en) * 2007-02-06 2008-08-14 Aai Corporation Utilizing polarization differencing method for detect, sense and avoid systems
JP5302611B2 (ja) * 2008-02-08 2013-10-02 株式会社オハラ 光学部品用ガラス部材及びそれに用いるガラス組成物
JP5300467B2 (ja) * 2008-12-26 2013-09-25 キヤノン株式会社 光学系及びそれを有する光学機器
JP2011038827A (ja) * 2009-08-07 2011-02-24 Kitami Institute Of Technology 路面状態検出方法および路面状態検出装置
JP5664152B2 (ja) 2009-12-25 2015-02-04 株式会社リコー 撮像装置、車載用撮像システム及び物体識別装置
JP2011150687A (ja) 2009-12-25 2011-08-04 Ricoh Co Ltd 立体物識別装置、並びに、これを備えた移動体制御装置及び情報提供装置
JP5445150B2 (ja) * 2010-01-12 2014-03-19 株式会社リコー 自動合焦制御装置、電子撮像装置及びデジタルスチルカメラ
JP5761601B2 (ja) * 2010-07-01 2015-08-12 株式会社リコー 物体識別装置
JP5709040B2 (ja) * 2010-10-27 2015-04-30 株式会社リコー 分光画像撮像装置

Also Published As

Publication number Publication date
EP2618304A1 (en) 2013-07-24
EP2618304B1 (en) 2018-07-18
US9269006B2 (en) 2016-02-23
US20130188051A1 (en) 2013-07-25
JP2013167624A (ja) 2013-08-29

Similar Documents

Publication Publication Date Title
JP5995140B2 (ja) 撮像装置及びこれを備えた車両システム並びに画像処理方法
JP5846485B2 (ja) 付着物検出装置及び付着物検出方法
JP6380843B2 (ja) 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム
JP6468482B2 (ja) 撮像装置、物体検出装置及び移動体機器制御システム
JP6772113B2 (ja) 付着物検出装置、および、それを備えた車両システム
US9726604B2 (en) Adhering detection apparatus, adhering substance detection method, storage medium, and device control system for controlling vehicle-mounted devices
TWI302879B (en) Real-time nighttime vehicle detection and recognition system based on computer vision
JP2013029451A (ja) 付着物検出装置及び付着物検出方法
JP2013031054A (ja) 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ及びその製造方法
JP4327024B2 (ja) 画像処理システム
JP5936098B2 (ja) 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ
JP2013190416A (ja) 付着物検出装置及びこれを用いた車載機器制御装置
JP2013250907A (ja) 視差算出装置、視差算出方法及び視差算出用プログラム
JP6555569B2 (ja) 画像処理装置、移動体機器制御システム及び画像処理用プログラム
JP5858327B2 (ja) 撮像装置及びこれを備えた物体検出装置並びに偏光フィルタ
JP5887840B2 (ja) 画像処理装置
JP5839253B2 (ja) 物体検出装置及びこれを備えた車載機器制御装置
JP2016146583A (ja) 撮像装置、移動体機器制御システム及びプログラム
JP5891723B2 (ja) 撮像方法および撮像ユニット
JP6701542B2 (ja) 検出装置、移動体機器制御システム及び検出用プログラム
JP2015169567A (ja) 付着物検出装置、移動体機器制御システム及び付着物検出用プログラム
JP2016076916A (ja) 撮像装置、撮像方法、プログラムおよび移動体機器制御システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150915

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160729

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160811

R151 Written notification of patent or utility model registration

Ref document number: 5995140

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151