JP5990953B2 - 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両 - Google Patents
撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両 Download PDFInfo
- Publication number
- JP5990953B2 JP5990953B2 JP2012060083A JP2012060083A JP5990953B2 JP 5990953 B2 JP5990953 B2 JP 5990953B2 JP 2012060083 A JP2012060083 A JP 2012060083A JP 2012060083 A JP2012060083 A JP 2012060083A JP 5990953 B2 JP5990953 B2 JP 5990953B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- light
- vehicle
- imaging
- polarization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 146
- 238000001514 detection method Methods 0.000 title claims description 50
- 238000012545 processing Methods 0.000 title claims description 37
- 230000010287 polarization Effects 0.000 claims description 152
- 230000003595 spectral effect Effects 0.000 claims description 97
- 230000003287 optical effect Effects 0.000 claims description 70
- 230000005540 biological transmission Effects 0.000 claims description 39
- 239000000758 substrate Substances 0.000 claims description 33
- 238000011049 filling Methods 0.000 claims description 31
- 229910052751 metal Inorganic materials 0.000 claims description 24
- 239000002184 metal Substances 0.000 claims description 24
- 150000001875 compounds Chemical class 0.000 claims description 2
- 230000000670 limiting effect Effects 0.000 claims description 2
- 239000012466 permeate Substances 0.000 claims 2
- 239000010410 layer Substances 0.000 description 126
- 238000000034 method Methods 0.000 description 34
- 239000010408 film Substances 0.000 description 28
- 239000000463 material Substances 0.000 description 17
- 238000002834 transmittance Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 210000003128 head Anatomy 0.000 description 14
- 238000010191 image analysis Methods 0.000 description 11
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N silicon dioxide Inorganic materials O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 description 9
- 230000000694 effects Effects 0.000 description 7
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 7
- 238000013459 approach Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 6
- 239000011521 glass Substances 0.000 description 6
- 239000010426 asphalt Substances 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 229910052782 aluminium Inorganic materials 0.000 description 4
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 4
- 230000007423 decrease Effects 0.000 description 4
- 238000009826 distribution Methods 0.000 description 4
- 239000000945 filler Substances 0.000 description 4
- 238000005755 formation reaction Methods 0.000 description 4
- 238000005286 illumination Methods 0.000 description 4
- 239000010409 thin film Substances 0.000 description 4
- 239000003086 colorant Substances 0.000 description 3
- 230000000052 comparative effect Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000036961 partial effect Effects 0.000 description 3
- 230000035699 permeability Effects 0.000 description 3
- 238000000926 separation method Methods 0.000 description 3
- 239000000377 silicon dioxide Substances 0.000 description 3
- 235000012239 silicon dioxide Nutrition 0.000 description 3
- 229910052581 Si3N4 Inorganic materials 0.000 description 2
- 239000000853 adhesive Substances 0.000 description 2
- 230000001070 adhesive effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 230000008033 biological extinction Effects 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 238000000151 deposition Methods 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 230000005684 electric field Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 229910010272 inorganic material Inorganic materials 0.000 description 2
- 239000011147 inorganic material Substances 0.000 description 2
- ORUIBWPALBXDOA-UHFFFAOYSA-L magnesium fluoride Chemical compound [F-].[F-].[Mg+2] ORUIBWPALBXDOA-UHFFFAOYSA-L 0.000 description 2
- 229910001635 magnesium fluoride Inorganic materials 0.000 description 2
- 239000004038 photonic crystal Substances 0.000 description 2
- 229920002120 photoresistant polymer Polymers 0.000 description 2
- 239000011148 porous material Substances 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 239000010453 quartz Substances 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- HQVNEWCFYHHQES-UHFFFAOYSA-N silicon nitride Chemical compound N12[Si]34N5[Si]62N3[Si]51N64 HQVNEWCFYHHQES-UHFFFAOYSA-N 0.000 description 2
- 239000002904 solvent Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 101100248200 Arabidopsis thaliana RGGB gene Proteins 0.000 description 1
- 238000012935 Averaging Methods 0.000 description 1
- LFQSCWFLJHTTHZ-UHFFFAOYSA-N Ethanol Chemical compound CCO LFQSCWFLJHTTHZ-UHFFFAOYSA-N 0.000 description 1
- 229910004286 SiNxOy Inorganic materials 0.000 description 1
- 229910004298 SiO 2 Inorganic materials 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- GWEVSGVZZGPLCZ-UHFFFAOYSA-N Titan oxide Chemical compound O=[Ti]=O GWEVSGVZZGPLCZ-UHFFFAOYSA-N 0.000 description 1
- PNEYBMLMFCGWSK-UHFFFAOYSA-N aluminium oxide Inorganic materials [O-2].[O-2].[O-2].[Al+3].[Al+3] PNEYBMLMFCGWSK-UHFFFAOYSA-N 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 229910010293 ceramic material Inorganic materials 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 239000013078 crystal Substances 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 230000018044 dehydration Effects 0.000 description 1
- 238000006297 dehydration reaction Methods 0.000 description 1
- 230000008021 deposition Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000005530 etching Methods 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 238000010438 heat treatment Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000012528 membrane Substances 0.000 description 1
- 239000007769 metal material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 238000000059 patterning Methods 0.000 description 1
- 238000006116 polymerization reaction Methods 0.000 description 1
- 239000011241 protective layer Substances 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
- 229910052594 sapphire Inorganic materials 0.000 description 1
- 239000010980 sapphire Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- SCPYDCQAZCOKTP-UHFFFAOYSA-N silanol Chemical compound [SiH3]O SCPYDCQAZCOKTP-UHFFFAOYSA-N 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 125000006850 spacer group Chemical group 0.000 description 1
- 238000007740 vapor deposition Methods 0.000 description 1
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
Description
例えば特許文献1には、輝度画像と偏光画像の双方を撮像可能な撮像装置が開示されている。この撮像装置においては、輝度画像と被写体の部分偏光画像を同時に取得するために、複数の異なる偏光主軸を有するパタン化偏光子が撮像素子に空間的に配置されている。この発明のパタン化偏光子には、フォトニック結晶や構造複屈折波長板アレイが利用されている。
また、特許文献2の発明においては、色分解プリズムを使用して入射光を3色に分解した後に偏光フィルタを通過させる構成であるため、画素単位で所定の波長成分を変化させるような分光・偏光情報を得ることができない。そのため、画素単位の情報を得ようとすると撮像装置として大型化してしまう等の問題を有する。
本発明は、上述の事情に鑑みてなされたものであり、輝度情報、偏光情報、及び分光情報を画素単位のような微小領域単位で取得可能、且つ、透過偏光成分、及び透過波長帯域の各成分が任意に調整された2次元画像を一度に撮像可能な撮像装置、これを備えた物体検出装置、これを備えた車両走行支援システム、及び物体検出装置又は物体検出装置を備えた車両を提供することを目的とする。
なお、本発明に係る撮像装置は、車載機器制御システムに限らず、例えば、撮像画像に
基づいて物体検出を行う物体検出装置を搭載したその他のシステムにも適用可能である。
図1は、本実施形態における車両走行支援画像処理システム(以下、単に「画像処理システム」という)の概略構成を示す模式図である。画像処理システム1は、自動車などの車両100に搭載された撮像装置が撮像した画像データを利用して、ヘッドランプの配光制御、ワイパーの制御、或いはその他各種の走行支援を行うシステムである。
撮像ユニット101は、走行する車両100の進行方向前方領域を撮像領域として撮像する装置であり、例えば、車両100のフロントガラス105の後方に配置されたルームミラー(図示せず)付近に設置される。撮像ユニット101にて撮像された車両前方の画像は、画像信号化されて画像解析ユニット102に入力される。
ヘッドランプ制御ユニット103は、画像解析ユニット102から出力された他車両の位置、距離、又は/及び角度の情報から、ヘッドランプ104を制御する制御信号を生成する。例えば、画像解析ユニット102が算出した距離データに基づいて、先行車両や対向車両の運転者の目に車両100のヘッドランプの強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、車両100の運転者の視界を確保できるように、ヘッドランプ104のハイビーム及びロービームの切り替え制御や、ヘッドランプ104の部分的な遮光制御を行ったりする。
車両走行制御ユニット108は、画像解析ユニット102から出力された道路の路面領域や白線の情報から、各種の信号を生成する。例えば、白線によって区画されている車線領域から車両100が外れている場合等に、車両100の運転者へ警告したり、車両100のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。
〔撮像装置の概略〕
図2は、撮像ユニットに搭載される撮像装置の構成を示す模式図である。
撮像装置200は、光像が入射する撮像レンズ204と、撮像レンズ204の後段に配置された光学フィルタ205と、光学フィルタ205を通過した撮像レンズ204からの入射光を受光する複数の受光素子が2次元配置された画素アレイを有する画像センサ206(撮像素子)を含んだセンサ基板207と、センサ基板207から出力されるアナログ電気信号(画像センサ206上の各受光素子が受光した受光量)をデジタル電気信号に変換した撮像画像データを生成して出力する信号処理部208と、を備えている。
被写体(検出対象物)を含む撮像領域からの光は、撮像レンズ204を通り、光学フィルタ205を透過して、画像センサ206においてその光強度に応じた電気信号に変換される。信号処理部208では、画像センサ206から出力される電気信号(アナログ信号)が入力されると、その電気信号から、輝度情報や分光情報や偏光情報などの画像信号を生成する。信号処理部208は画像データとして、画像センサ206上における各画素の明るさ(輝度)を示すデジタル信号を、画像の水平・垂直同期信号とともに後段のユニットへ出力する。
画像センサ206は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などを用いたイメージセンサであり、その受光素子にはフォトダイオード206Aが用いられている。フォトダイオード206Aは、画素ごとに2次元的にアレイ配置されている。フォトダイオード206Aの集光効率を上げるために、各フォトダイオード206Aの入射側にはマイクロレンズ206Bが設けられている。この画像センサ206がワイヤボンディングなどの手法によりPWB(printed wiring board)に接合されてセンサ基板207が形成されている。
画像センサ206のマイクロレンズ206B側の面には、光学フィルタ205が近接配置されている。光学フィルタ205と画像センサ206は、例えば、UV接着剤で接合してもよいし、撮像に用いる有効画素範囲外でスペーサにより支持した状態で有効画素外の四辺領域をUV接着や熱圧着してもよい。
図4は、画像センサの一例を示す断面図である。センサ基板207に用いる画像センサ206には、図4のようにマイクロレンズ206Bとフォトダイオード206Aとの間にカラーフィルタ209(209R、209G、209B:分光フィルタ)を有するカラー用画像センサ206(カラーセンサ)を用いてもよい。カラー用画像センサ206としては、図示する周知のRGB(R:赤色、G:緑色、B:青色)の3つの色成分を取得するカラーセンサを用いてもよいし、R(赤色)の成分とC(クリア)の成分を取得するRCCCセンサを用いてもよい。
また、センサ基板207に用いる画像センサ206には、マイクロレンズ206Bを有さない画像センサを用いてもよい。マイクロレンズ206Bを有さない場合は、光学フィルタ205と画像センサ206の受光面との間隔を狭めることができる。仮に、光学フィルタ205として画素サイズに領域分割されたフィルタを利用する場合、光学フィルタ205と画像センサ206との間隔が開いていると、光学フィルタ205上の隣接領域からのクロストーク成分が、画像センサ206の所望のフォトダイオード206Aに混ざり込み、ノイズの原因となる。しかし、マイクロレンズ206Bを有さない画像センサを用いれば、画像センサの画素と光学フィルタ205の領域分割パタンとを密着させて接合できるため、不要光の侵入を抑制することができる。
撮像レンズ204と画像センサ206との間に配置される光学フィルタ205について図5に基づいて説明する。図5(a)は、光学フィルタの構造を示す断面図であり、(b)は光学フィルタに形成された分光フィルタ層の透過率特性を示すグラフ図である。
光学フィルタ205は、図5(a)に示すように、フィルタ基板221の一方の面205aに分光フィルタ層220を形成し、他方の面205bに偏光フィルタ層222を形成したものである。分光フィルタ層220の後段に偏光フィルタ層222が配置されている。
撮像レンズ204側に位置する面205aには分光フィルタ層220が形成されている。分光フィルタ層220は、透過する光の波長を分別するフィルタであり、図5(b)に示すように、波長範囲430nm〜670nmのいわゆる可視光領域の光を透過させる。可視光領域の光は、車両100の周辺情報を検出するために用いる。
また、分光フィルタ層220は、さらに波長430nm以下、且つ使用する画像センサ206の検出感度範囲に含まれる波長範囲(たとえば、300nm以上)の光も透過させない。この波長を抑制する理由は、画像センサ206側に位置するフィルタ基板221の面205bに形成された偏光フィルタ層222を充填層224にて保護した場合(図7参照)に、短波長側で消光比が取れないために発生する偏光画像のコントラスト低下成分を抑制するためである。分光フィルタ層220としては、後述する偏光フィルタ層222に形成されたワイヤグリッド(図10参照)の溝周期の2倍以上、より望ましくは2.5倍以上の波長成分のみを透過するような分光フィルタ層220を形成することが望ましい(詳しくは「充填層形成による課題とその対策」にて述べる)。
分光フィルタ層220は、後述する分光フィルタ223aと同様に、多層膜構造のバンドパスフィルタとすることができる。
なお、分光フィルタ層220を設ける代わりに、赤外波長帯の光をカットするフィルタ層を撮像レンズ204表面に形成してもよい。しかし、撮像レンズ204のような球面にフィルタ層を形成する場合は、その曲率を考慮した条件出しが必要となる。本実施形態のように、光学フィルタ205の表面に赤外波長帯の光をカットする分光フィルタ層220を形成するほうが、フィルタ基板221のフィルタ層蒸着面が平面であるため加工精度を高くすることができる。
光学フィルタ205の画像センサ206側の面205bには、領域分割されたパタンが形成されている。図6は、光学フィルタの偏光フィルタ層の領域分割パタンと画像センサの各画素との位置関係を示した模式図である。領域分割されたパタンは、例えば図示するように、画像センサ206上の1つのフォトダイオード206Aごとに対応するパタン、すなわち1画素ごとに対応した格子状のパタンとすることができる。
光学フィルタ205と画像センサ206とを離間配置し、両者の間に空隙がある構成としてもよいが、光学フィルタ205を画像センサ206に密着させる構成とした方が、光学フィルタ205上の領域の境界と、画像センサ206上の領域の境界を一致させやすくなる。
なお、本実施形態では、画像センサ206にカラー画像用の画像センサ(RGB又はRCCC)を用いた場合を前提にして説明するが、画像センサ206としてモノクロ用画像センサを利用してもよい。カラー用画像センサで構成する場合、カラー用画像センサの各画素に付属するカラーフィルタの特性に応じて、光学フィルタ205の各領域の光透過特性を調整すればよい。
これら画素単位で得られる種々の異なる情報から、後述する各種画像が形成される。このような各種の画像形成は撮像装置200内の信号処理部208にて行われる(図2参照)。
また液晶などのアクティブデバイスを用いずに、スタティックな光学フィルタを画像センサの前段(入射側)に配置するだけでよいため、安価で、光学系としてシンプルな構成で分光画像及び偏光画像を撮影できる。(なお、仮にアクティブデバイスを用いる場合は、駆動回路なども必要となる。)
さらに、スタティックな光学フィルタを画像センサと撮像レンズの間に配置するだけでよいため、従来の撮像装置と同等のサイズとすることができ、装置の小型化に寄与する。
ここで、本実施形態において光学フィルタに形成されるフィルタ領域分割パタンの一実施例について説明する。以下、画像センサとしてRGB(R:赤色、G:緑色、B:青色)の3つの色成分を取得可能なカラーセンサを用いた場合について説明する。カラーセンサには、例えば図4のような断面を有したものを利用できる。
図7(b)〜(e)に示すように、光学フィルタ205の画像センサ206側の面には、フィルタ基板221上に偏光フィルタ層222とこの偏光フィルタ層222を覆う充填層224が形成されている。
図7(a)は、本実施例における光学フィルタ205を透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示している。なお、図中R、G、Bは画像センサ206の配列を示し、P、Sは偏光フィルタ層222の配列を示している。
図7に示す画像センサの画素配列では、(a)に示すように、隣接する縦2つ横2つの計4つの画素(符号a〜dの4画素)が1つのカラーユニット225を構成する。カラーユニット225は、1つの赤色画素(R)と、2つの緑色画素(G)と、1つの青色画素(B)から構成される。
なお図7(a)中、例えばP/Rは、偏光方向としてはP偏光成分の光のみ、波長帯域としては赤色波長帯域の光のみが、画像センサ206に受光されることを意味する。
光学フィルタ205のパタンレイアウトとして図7(a)のような構成を用いることにより、赤色光のP偏光成分画像(P/R)、緑色光のP偏光成分画像(P/G)、青色光のP偏光成分画像(P/B)、赤色光のS偏光成分画像(S/R)、緑色光のS偏光成分画像(S/G)、青色光のS偏光成分画像(S/B)、の6種類の画像が生成できる。
また後述するように、たとえば(P−S)/(P+S)を差分画像として、赤色光の偏光差分画像、緑色光の偏光差分画像、青色光の偏光差分画像が形成できる。なお、偏光差分画像の形成にあたっては、隣接する画素領域の情報が不足するが、ここは一般的に知られる画像補間技術を用いればよい。
上記偏光成分画像、及び偏光差分画像の使用用途について説明する。
赤色光のP偏光成分画像は、例えばテールランプの識別に使用することができる。この赤色画像ではS偏光成分をカットしているため、路面に反射した赤色光や、自車両100(図1参照)内のダッシュボードなどからの不要反射光(映りこみ光)等のように、S偏光成分の強い赤色光による外乱要因を抑制できる。従って、検出対象とするテールランプ(被検物)の認識率が向上する。
赤色光や青色光や緑色光のP偏光成分画像は、例えば標識の識別に使用することができる。
P偏光成分画像とS偏光成分画像の差分画像は、例えば後述する雨路の白線認識に使用することができる。
本実施例における偏光フィルタのパタン配列では、P偏光成分透過領域とS偏光成分透過領域が、夫々撮像領域の横方向(図7(a)中、左右方向)にのびるように形成されている。すなわち、撮像領域の水平方向に縞方向を有するストライプパタン状に配置されている。このように横方向に縞方向を有することにより、偏光画像に関して横方向に使用できる画素数を増大させることができる。結果として、P偏光画像、S偏光画像、又はP偏光画像とS偏光画像の差分画像は、夫々横方向に解像度を有することになる。
ここで、白線や路面エッジは主として車両の進行方向に伸びる線であり、連続する斜めの線として撮像される。仮に、走行中の車両100が白線等に接近した場合、車両100が接近した側の白線等は徐々に立ち上がり縦方向(図7(a)中、上下方向)に伸びる画像として撮像される。従って、白線検出や路面領域の検出を利用し、白線によって区画されている車線領域から車両100が外れそうになる場合等、効果的に走行支援制御を行うためには、撮像領域の横方向の解像度を高くしておくことが望ましい。
なお、カラーセンサとしては、RGGB配列のセンサに限定されるものでなく、G(緑色画素)、B(青色画素)の代わりに波長制限を行わないクリア画素からなるRCCCの配列からなるセンサを用いてもよい。或いは、図8のように、8画素を一つのカラーユニットとしてもよい。図8は、カラーセンサの画素配列の一例を示す図である。図示するカラーセンサは、4つの色成分が取得できる画素配列となっている。
更に、本実施形態において光学フィルタに形成されるフィルタ領域分割パタンの他の実施例について説明する。以下、画像センサとしてRCCC(R:赤色、C:クリア)の2つの色成分を取得可能なカラーセンサを用いた場合について説明する。
図9は、光学フィルタの画像センサ側の領域分割パタンの実施例を説明するための図である。(a)は光学フィルタのパタン例を説明するための平面図であり、(b)は(a)のA−A線における縦断面図であり、(c)は(a)のB−B線における縦断面図であり、(d)は(a)のC−C線における縦断面図であり、(e)は(a)のD−D線における縦断面図である。
図9(b)〜(e)に示すように、光学フィルタ205の画像センサ206側の面には、フィルタ基板221上に偏光フィルタ層222と、偏光フィルタ層222を覆う充填層224が形成されている。さらに本実施例においては、充填層224上に分光フィルタ層223(他の分光フィルタ層)が形成されている。特に、充填層224の一部の領域に分光フィルタ223a(分光領域)が形成されており、分光フィルタ223aが形成されていない他の領域は非分光領域223bとなっている。
図9(a)は、本実施例における光学フィルタ205を透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示している。なお、図中R、C(Y)は画像センサ206の配列を示し、P、Sは偏光フィルタ層222の配列を示し、Yは分光フィルタ223aの配列を示している。
図9(a)に示す画素配列では、隣接する縦2つ横2つの計4つの画素(符号a〜dの4画素)が1つのカラーユニット225を構成する。カラーユニット225を構成する画像センサ206の画素は、1つの赤色画素(R)と、3つのクリア画素(C)を含んでいる。更に本実施例では、画像センサ206と偏光フィルタ層222との間に分光フィルタ層223が形成されている。カラーユニット225を構成する4つの画素のうち、画像センサ206の1つのクリア画素(C)上に黄色成分(Y)のみを透過する分光フィルタ223aが形成されている。従って、カラーユニット225はRCCYの画素配列から構成されている
なお図9(a)中、例えばP/Rは偏光方向としてはP偏光成分の光のみ、波長帯域としては赤色波長帯域の光のみが、画像センサ206に受光されることを意味する。
ここで、Y成分のように、一般的なカラーセンサにはない色成分のみを取り出したい場合には、本実施例のように分光フィルタ層を別途設ければよい。例えば、図9(c)に示すような多層膜フィルタを用いることにより、任意の波長帯域の光のみを透過させることが可能となる。
ここで、分光フィルタにより通過させる成分としてY成分を例示したが、これはあくまでも一例であり、他の透過波長帯を選択してもよい。また、図9ではカラーユニット225に含まれるクリア画素のうちの1つの画素にのみ分光フィルタを形成した例を示したが、3つのクリア画素のうちの2つ、或いは3つ全てに多層膜フィルタで形成された分光フィルタを形成してもよい。多数のクリア画素上に分光フィルタを形成することで、画像センサ206から出力される画像の解像度を上げることができる。更に、画像センサの赤色カラーフィルタが形成された領域(赤色画素上)に分光フィルタ層を形成してもよい。カラーフィルタの透過波長帯域を分光フィルタで調整することが可能となる。
また、画像センサ206としてモノクロ用画像センサを用いた場合にも、偏光フィルタ層の他に、領域分割された分光フィルタ層を形成することで、任意の波長帯域の光のみを通過させることが可能となる。
光学フィルタ205のパタンレイアウトとして図9(a)のような構成を用いることにより、赤色光のP偏光成分画像(P/R)、クリア光のP偏光成分画像(P/C)、黄色光のP偏光成分画像(P/Y)、赤色光のS偏光成分画像(S/R)、クリア光のS偏光成分画像(S/C)、黄色光のS偏光成分画像(S/Y)、の6種類の画像が生成できる。
また後述するように、たとえば(P−S)/(P+S)を差分画像として、赤色光の偏光差分画像、クリア光の偏光差分画像、黄色光の偏光差分画像が形成できる。なお、偏光差分画像の形成にあたっては、隣接する画素領域の情報が不足するが、ここは一般的に知られる画像補間技術を用いればよい。
なお、フィルタ領域分割パタンの実施例を説明するにあたり、画像センサ206のうち分光フィルタが形成されていないクリア画素においては、クリア光の画像(P/C又はS/C)が検出されるものとして説明した。しかし、画像センサ206にて受光される全ての光は、光学フィルタ205の撮像レンズ204側の面205a側(図5(a)参照)に形成された分光フィルタ層220を通過したものであるから、実際には、分光フィルタ層220の透過波長範囲に限定された光のみが画像センサ206のフォトダイオード206Aにて検出されることになる。
上記偏光成分画像、及び偏光差分画像の使用用途について説明する。
赤色光のP偏光成分画像は、例えばテールランプの識別に使用することができる。この赤色画像ではS偏光成分をカットしているため、路面に反射した赤色光や、自車両100(図1参照)内のダッシュボードなどからの不要反射光(映りこみ光)等のように、S偏光成分の強い赤色光による外乱要因を抑制できる。従って、検出対象とするテールランプ(被検物)の認識率が向上する。
赤色光や黄色光のP偏光成分画像は、例えば標識の識別に使用することができる。
同様に、黄色光のP偏光成分画像は、例えば黄色線の検出に使用することができる。
P偏光成分画像、S偏光成分画像の差分画像は、例えば後述する雨路の白線認識に使用することができる。
本実施例における偏光フィルタのパタン配列では、P偏光成分透過領域とS偏光成分透過領域が、夫々撮像領域の横方向(図9(a)中、左右方向)にのびるように形成されている。すなわち、撮像領域の水平方向に縞方向を有するストライプパタン状に配置されている。このように横方向に縞方向を有することにより、偏光画像に関して横方向に使用できる画素数を増大させることができる。結果として、P偏光画像、S偏光画像、又はP偏光画像とS偏光画像の差分画像は、横方向に解像度を有することになる。
ここで、白線や路面エッジは主として車両の進行方向に伸びる線であり、連続する斜めの線として撮像される。仮に、走行中の車両100が白線等に接近した場合、車両100が接近した側の白線等は徐々に立ち上がり縦方向(図7(a)中、上下方向)に伸びる画像として撮像される。従って、白線検出や路面領域の検出を利用し、白線によって区画されている車線領域から車両100が外れそうになる場合等、効果的に走行支援制御を行うためには、撮像領域の横方向の解像度を高くしておくことが望ましい。
光学フィルタ205のうち、画像センサ206側の面205b(図5(a)参照)に形成された各層の詳細について、図9(b)〜(e)を参照しながら説明する。なお、図7に示した各層の構成に関し、分光フィルタ層223以外は図9と同様である。
図示するように、光学フィルタ205の画像センサ206側の面205bには、フィルタ基板221上に偏光フィルタ層222、充填層224、分光フィルタ層223が順次積層されている。以下、各層の構成について夫々説明する。
フィルタ基板221は、使用帯域の光(本実施形態では可視光域)に対して透明な材料、例えば、ガラス、サファイア、水晶などで構成されている。本実施形態では、ガラス、特に、安価で、また耐久性もある石英(屈折率1.46)やテンパックスガラス(屈折率1.51)が用いられている。
〔ワイヤグリッド偏光子〕
偏光フィルタ層222は、ワイヤグリッド偏光子から構成することができる。図10はワイヤグリッドの断面構造を示す写真である。
ワイヤグリッド構造は、アルミニウムなどの金属で構成された特定方向に延びる金属ワイヤ(導電体線)を特定のピッチで並行に配置した構造である。ワイヤグリッド構造のワイヤピッチを、入射光の波長帯に比べて十分に小さいピッチ(例えば1/2以下)とすることで、金属ワイヤの長手方向に対して平行に振動する電場ベクトル成分の光をほとんど反射し、金属ワイヤの長手方向に対して直交する方向に振動する電場ベクトル成分の光をほとんど透過させるため、単一偏光を作り出す偏光子として使用できる。
なお、ワイヤグリッド構造の偏光子は、一般に金属ワイヤの断面積が増加すると、消光比が増加し、更に周期幅に対する所定の幅以上の金属ワイヤでは透過率が減少する。また、金属ワイヤの長手方向に直交する断面形状がテーパ形状であると、広い帯域において透過率、偏光度の波長分散性が少なく、高消光比特性を示す。
偏光フィルタ層222としてワイヤグリッド偏光子を採用した場合、以下のような効果を得られる。
ワイヤグリッド構造は、広く知られた半導体製造プロセスを利用して形成することができる。具体的には、フィルタ基板221上にアルミニウム薄膜を蒸着した後、パターニングを行い、メタルエッチングなどの手法によってワイヤグリッドのサブ波長凹凸構造を形成すればよい。このような製造プロセスにより、画像センサ206の撮像画素サイズ相当(数μmレベル)で金属ワイヤの長手方向すなわち偏光方向(透過偏光軸)を調整することが可能となる。よって、本実施形態のように、撮像画素単位で金属ワイヤの長手方向すなわち偏光方向を異ならせた偏光フィルタ層222を作成することができる。
また、ワイヤグリッド構造は、アルミニウムなどの金属材料によって作製されるため、耐熱性に優れ、高温になりやすい車両室内などの高温環境下においても好適に使用できるという利点もある。
〔充填層の構成〕
偏光フィルタ層222の積層方向上面を平坦化するために、充填層224が形成される(図9(b)参照)。充填層224を構成する充填材は、偏光フィルタ層222の金属ワイヤ間の凹部(金属ワイヤ間)に充填される。
充填材としては、フィルタ基板221よりも屈折率が低いか又は同等の屈折率を有する無機材料が好適に利用できる。なお、本実施形態における充填層224は、偏光フィルタ層222の金属ワイヤ部分の積層方向上面(凸部分)も覆うように形成される。
充填層224の具体的な材料としては、偏光フィルタ層222の偏光特性を劣化させないように、その屈折率が空気の屈折率(屈折率=1)に極力近い低屈折率材料であることが好ましい。例えば、セラミックス中に微細な空孔を分散させて形成してなる多孔質のセラミックス材料が好ましく、具体的には、ポーラスシリカ(SiO2)、ポーラスフッ化マグネシウム(MgF)、ポーラスアルミナ(Al2O3)などが挙げられる。また、これらの低屈折率の程度は、セラミックス中の空孔の数や大きさ(ポーラス度)によって決まる。フィルタ基板221の主成分がシリカの水晶やガラスからなる場合には、ポーラスシリカ(n=1.22〜1.26)が好適に使用できる。
充填層224の形成には、SOG法(Spin On Glass法:無機系塗布膜生成法)を好適に用いることができる。具体的には、シラノール(Si(OH)4)をアルコールに溶かした溶剤を、フィルタ基板221上に形成された偏光フィルタ層222上にスピン塗布し、その後に熱処理によって溶媒成分を揮発させ、シラノール自体を脱水重合反応させるような経緯で形成される。
偏光フィルタ層222は、サブ波長サイズのワイヤグリッド構造であり、充填層224上に形成される分光フィルタ223aに比べて機械的強度が弱く、わずかな外力によって金属ワイヤが損傷してしまう。本実施形態の光学フィルタ205は、画像センサ206に密着配置することが望まれるため、その製造段階において光学フィルタ205と画像センサ206とが接触する可能性がある。本実施形態では、偏光フィルタ層222の積層方向上面、すなわち画像センサ206側の面が充填層224によって覆われているので、画像センサ206と接触した際にワイヤグリッド構造が損傷する事態が抑制される。充填層224の上に積層される分光フィルタ223aについては充填層224のような保護層を設けていない。これは、本発明者らの実験によれば、画像センサ206に分光フィルタ223aが接触しても、撮像画像に影響を及ぼすような損傷が発生しなかったため、低コスト化を優先して保護層を省略したものである。
また、本実施形態では、充填材を偏光フィルタ層222のワイヤグリッド構造における金属ワイヤ間の凹部へ充填しているため、その凹部への異物進入を防止することができる。
図11は、ワイヤグリッド構造(WG)の偏光フィルタ層と、ワイヤグリッド構造に充填層を形成した場合(SOG埋め込み)の、光の透過率を示したグラフ図である。
充填層224は、以上説明してきたような効果を有するが、本発明者らの実験によれば、図11に示すように、短波長側の透過率、特に消光させたいTE光の透過率を増加させるという特徴を有していることがわかった。これは、ワイヤグリッド構造の凹部内が空気である場合に比べ、充填材を充填した場合では凸部のアルミ面に対して屈折率差がとれないためである。TE光とTM光の透過率比は2倍以上あることが望ましいが、波長430nm以下では透過率比が2倍以下となっている。
なお、前述のとおり光学フィルタ205の両面にフィルタ層(分光フィルタ層220及び偏光フィルタ層222)を形成することで、光学フィルタ205の反りを抑制する等の効果を得られる。
〔分光フィルタの膜構成〕
図9に示した分光フィルタ223aは、多層膜構造のバンドパスフィルタとすることができる。多層膜構造とは、高屈折率と低屈折率の薄膜を交互に多層重ねた波長フィルタのことをいう。このような多層膜構造によれば、光の干渉を利用することで分光透過率を自由に設定でき、また、薄膜を多数層重ねることで、特定波長に対して100%近い反射率を得ることも可能である。
図12は、分光フィルタの透過率特性を示すグラフ図である。例えば、黄色成分(Y)のみを透過する多層膜構造としては、図12に示すような530〜560nmの波長範囲の光のみを透過するバンドパスフィルタであってもよい。図12に示すバンドパスフィルタを用いることで赤色よりも長波長側の近赤外域と赤色領域の識別が可能となる。
多層膜構造のバンドパスフィルタとしては例えば、積層順に「基板/(0.125L0.5M0.125L)p(0.125L0.5H0.125L)q(0.125L0.5M0.125L)r/媒質A」のような構成の多層膜を作製することで得ることができる。
ここでいう「基板」は、充填層224を意味する。
なお、多層膜形成用の高屈折率材料としては二酸化チタン(TiO2)、低屈折率材料としては二酸化珪素(SiO2)などを使用すれば、耐候性の高い分光フィルタ223aを実現できる。また、中屈折率材料としては、窒化ケイ素(SiN)や、シリコン酸窒化物(SiNxOy)等を用いることができる。
本実施形態の領域分割型の分光フィルタ層223の作製方法の一例について説明する。まず、偏光フィルタ層222上に形成された充填層224上に、上述した多層膜を形成する。このような多層膜を形成する方法としては、よく知られる蒸着などの方法を用いればよい。続いて、凹凸断面構造を形成する。具体的には、非分光領域223bに対応する箇所について多層膜構造の一部を除去して凹部を形成する。多層膜構造の除去方法としては、一般的なリフトオフ加工法を利用すればよい。リフトオフ加工法では、目的とするパタンとは逆のパタンを、金属、フォトレジストなどで、事前に充填層224上に形成しておき、その上に多層膜(目的とする薄膜層)を形成してから、非分光領域223bに対応する箇所の多層膜を当該金属やフォトレジストと一緒に除去する。
本実施例では、分光フィルタ層223として多層膜構造を採用しているので、分光輝度特性の設定自由度が高いといった利点がある。一般に、カラーセンサなどに用いられるカラーフィルタは、レジスト剤によって形成されているが、このようなレジスト剤では多層膜構造に比べて、分光輝度特性のコントロールが困難である。本実施形態では、分光フィルタ層223として多層膜構造を採用しているので、例えば路面の黄色線や、テールランプの波長に最適化された分光フィルタ層223を形成することが可能となる。
以下、上記実施形態の撮像装置を用いたアプリケーションの実施例を説明する。アプリケーションの実施例1は、図2に示す撮像装置200で撮像された撮像画像データを解析して、他車両のテールランプとヘッドランプを識別し、識別したテールランプから先行車両を検出するとともに、識別したヘッドランプから対向車両を検出する。そして、先行車両や対向車両の運転者の目に自車両100のヘッドランプ104(図1参照)の強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、自車両100の運転者の視界確保を実現できるように、ヘッドランプ104のハイビームおよびロービームの切り替えを制御したり、ヘッドランプ104の部分的な遮光制御を行ったりする。
なお、以下の説明では、光学フィルタ205の画像センサ206側の面205bとして上記構成例2(図9)のものを用いる場合について説明する。
本アプリケーション実施例では、撮像ユニット101から取得することができる情報のうち、撮像領域内の各地点(光源体)から発せられる光の強さ(明るさ情報)、ヘッドランプやテールランプなどの光源体(他車両)と自車両との距離(距離情報)、各光源体から発せられる光の赤色成分と白色成分との比較による分光情報、白色成分のS偏光成分とP偏光成分との比較による偏光情報、S偏光成分がカットされた白色成分のP偏光成分(P/C)情報、S偏光成分がカットされた赤色成分のP偏光成分(P/R)情報を用いる。なお、白色成分については、クリア画素からの出力(P/C又はS/C)を利用する。
明るさ情報について説明する。夜間に、先行車両と対向車両とが、自車両から同じ距離に存在する場合、撮像装置200によってそれらの先行車両及び対向車両を撮像すると、撮像画像データ上では対向車両のヘッドランプが最も明るく映し出され、先行車両のテールランプはそれよりも暗く映し出される。
また、リフレクタが撮像画像データに映し出されている場合、リフレクタは自ら発光する光源ではなく、自車両のヘッドランプを反射することによって明るく映し出されるものに過ぎないので、先行車両のテールランプよりもさらに暗くなる。ここでリフレクタとは、走行領域の路端部などに設置された反射板等であり、自車両のヘッドランプ光を照射することにより、反射してドライバに走行可能領域を示すものである。
これは、ヘッドランプなどの光源が、自車両100から比較的近い距離にある場合には、その光源からの光が、画像センサ206の複数のフォトダイオード206A間にまたがって撮影されるため、輝度はある一定値を示すが、光源が遠くなると、画像センサ206の単一のフォトダイオード206Aの内部にだけ映るようになるためである。このような状態になると、距離が遠くなるにつれて、画像センサ206のフォトダイオード206Aに占める光源の割合が低くなるので、光源による輝度が低下する。
よって、撮像画像データから得られる明るさ(輝度情報)を用いることで 2種類の検出対象物(ヘッドランプとテールランプ)及びリフレクタの一次的な識別が可能である。
距離情報について説明する。ヘッドランプやテールランプは、一般的に左右一対のペアランプの構成であるため、この特徴を利用して、自車両100からヘッドランプ又はテールランプまでの距離(すなわち自車両100と他車両との距離)を求めることが可能である。
ペアとなる左右一対のランプは、撮像装置200が撮像した撮像画像データ上では、互いに近接して同じ高さ方向位置に映し出され、当該ランプを映し出すランプ画像領域の広さ(面積)はほぼ同じで、且つ、当該ランプ画像領域の形状もほぼ同じであるという特徴を有する。よって、これらの特徴を満たすランプ画像領域同士をペアランプであると識別できる。また、ペアとなるランプ画像領域を有さない単一のランプ画像領域は、単一ランプとして認識される。なお、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなり、単一ランプとして認識される。
以上のように、撮像画像データ上のペアランプを検出することにより、他車両のヘッドランプやテールランプを識別することができる。さらに、識別されたペアランプ情報を利用して自車両から当該ペアランプが搭載された他車両までの距離を求めることができる。
分光情報について説明する。本実施形態では、上述したとおり、撮像装置で200撮像した撮像画像データから、赤色光(P偏光成分)P/Rを受光する画像センサ206上の撮像画素a等に対応した画素データのみを抽出することで、撮像領域内の赤色成分だけを映し出した赤色画像を生成することができる。よって、赤色画像において所定輝度以上の輝度を有する画像領域が存在する場合、その画像領域はテールランプを映し出したテールランプ画像領域であると識別することが可能である。
また、撮像装置200で撮像した撮像画像データから、白色光の鉛直偏光成分P/Cを受光する画像センサ206上の撮像画素b、c等に対応した画素データのみを抽出することで、撮像領域内のモノクロ輝度画像(鉛直偏光成分)を生成することができる。よって、赤色画像上の画像領域と、この画像領域に対応したモノクロ輝度画像上の画像領域との間の輝度比率(赤色輝度比率)を算出することもできる。この赤色輝度比率を用いれば、撮像領域内に存在する物体(光源体)からの光に含まれる相対的な赤色成分の比率を把握することができる。テールランプの赤色輝度比率は、ヘッドランプや他のほとんどの光源よりも十分に高い値をとるので、この赤色輝度比率を用いればテールランプの識別精度が向上する。
偏光情報について説明する。本実施形態では、上述したとおり、撮像装置200で撮像した撮像画像データから、白色光のP偏光成分P/Cを受光する画像センサ206上の撮像画素b、c等に対応した画素データと、白色光のS偏光成分S/Cとを受光する画像センサ206上の撮像画素f、g等に対応した画素データとを抽出し、画像画素ごとに、これらの画像データ間の画素値(輝度)を比較した比較画像を得ることができる。具体的には、例えば、白色光のP偏光成分Pと白色光のS偏光成分Sとの差分値(S−P)を画素値とした差分画像を、比較画像として得ることができる。このような比較画像によれば、ヘッドランプから撮像装置200へ直接入射する直接光の画像領域(ヘッドランプ画像領域)と、ヘッドランプから雨路の水面で反射してから撮像装置200へ入射する間接光の画像領域とのコントラストを大きくとることができ、ヘッドランプの識別精度が向上する。
一般に、水面などの水平な鏡面で反射した光は、S偏光成分が常に強くなることが知られており、とくにS偏光成分とP偏光成分との比率(S/P)や差分偏光度((S−P)/(S+P))をとった場合、その比率や差分偏光度は特定角度(ブリュースター角度)において最大となることが知られている。雨路では、散乱面であるアスファルト面に水が張られて鏡面に近い状態となるため、路面からのヘッドランプ反射光はS偏光成分の方が強くなる。よって、路面からのヘッドランプ反射光の画像領域は、比率画像や差分偏光度画像においては、その画素値(輝度)が大きいものとなる。一方、ヘッドランプからの直接光は基本的には無偏光なので、比率画像や差分偏光度画像においては、その画素値(輝度)が小さいものとなる。この違いにより、ヘッドランプからの直接光と同じ程度の光量をもつ雨路面からのヘッドランプ反射光を適切に除外でき、ヘッドランプからの直接光をこのようなヘッドランプ反射光と区別して識別することができる。
このような状況においては、明るさ情報と距離情報だけでは、先行車両のテールランプ、雨路面からのテールランプの照り返し光、対向車両のヘッドランプ、雨路面からのヘッドランプの照り返し光を、互いに区別して検出することが困難である。
本実施形態によれば、このような状況でも、まず、先行車両のテールランプ及び雨路面からのテールランプの照り返し光と、対向車両のヘッドランプ及び雨路面からのヘッドランプの照り返し光との区別については、上述した分光情報を用いて高精度に識別できる。具体的には、明るさ情報や距離情報を用いて絞り込んだランプ画像領域において、上述した赤色画像の画素値(輝度値)あるいは赤色輝度比率が所定の閾値を超える画像領域は、先行車両のテールランプ又は雨路面からのテールランプの照り返し光を映し出したテールランプ画像領域であり、当該閾値以下である画像領域は、対向車両のヘッドランプ又は雨路面からのヘッドランプの照り返し光を映し出したヘッドランプ画像領域であると識別する。
次に、本実施形態における先行車両及び対向車両の検出処理の流れについて説明する。
図15は、本実施形態における車両検出処理の流れを示すフローチャートである。
本実施形態の車両検出処理では、撮像装置200が撮像した画像データに対して画像処理を施し、検出対象物(先行車両のテールランプ及び対向車両のヘッドランプ)であると思われる画像領域を抽出する。そして、その画像領域に映し出されている光源体の種類が2種類の検出対象物のいずれであるかを識別することで、先行車両、対向車両の検出を行う。
まず、ステップS1では、撮像装置200の画像センサ206によって撮像された自車両前方の画像データをメモリに取り込む。この画像データは、上述したように、画像センサ206の各撮像画素における輝度を示す信号を含む。次に、ステップS2では、自車両の挙動に関する情報を図示しない車両挙動センサから取り込む。
ステップS3では、メモリに取り込まれた画像データから検出対象物(先行車両のテールランプ及び対向車両のヘッドランプ)であると思われる輝度の高い画像領域(高輝度画像領域)を抽出する。この高輝度画像領域は、画像データにおいて、所定の閾値輝度よりも高い輝度を有する明るい領域となり、複数存在する場合が多いが、それらのすべてを抽出する。よって、この段階では、雨路面からの照り返し光を映し出す画像領域も、高輝度画像領域として抽出される。
高輝度画像領域抽出処理では、まず、ステップS31において、画像センサ206上の各撮像画素の輝度値を所定の閾値輝度と比較することにより2値化処理を行う。具体的には、所定の閾値輝度以上の輝度を有する画素に「1」、そうでない画素に「0」を割り振ることで、2値化画像を作成する。
次に、ステップS32において、この2値化画像において、「1」が割り振られた画素が近接している場合には、それらを1つの高輝度画像領域として認識するラベリング処理を実施する。これによって、輝度値の高い近接した複数の画素の集合が、1つの高輝度画像領域として抽出される。
上述した高輝度画像領域抽出処理の後に実行されるステップS4では、抽出された各高輝度画像領域に対応する撮像領域内の物体と自車両との距離を算出する。この距離算出処理では、車両のランプは左右1対のペアランプであることを利用して距離を検出するペアランプ距離算出処理と、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなって当該ペアランプが単一ランプとして認識される場合の単一ランプ距離算出処理とを実行する。
まず、ペアランプ距離算出処理のために、ステップS41では、ランプのペアを作成する処理であるペアランプ作成処理を行う。ペアとなる左右一対のランプは、撮像装置200が撮像した画像データにおいて、近接しつつほぼ同じ高さとなる位置にあり、高輝度画像領域の面積がほぼ同じで、かつ高輝度画像領域の形が同じであるとの条件を満たす。したがって、このような条件を満たす高輝度画像領域同士をペアランプとする。ペアをとることのできない高輝度画像領域は単一ランプとみなされる。
ペアランプが作成された場合には、ステップS42のペアランプ距離算出処理によって、そのペアランプまでの距離を算出する。車両の左右ヘッドランプ間の距離及び左右テールランプ間の距離は、一定値w0(例えば1.5m程度)で近似することができる。一方、撮像装置200における焦点距離fは既知であるため、撮像装置200の画像センサ206上の左右ランプ距離w1を算出することにより、ペアランプまでの実際の距離xは、単純な比例計算(x=f・w0/w1)により求めることができる。なお、先行車両や対向車両までの距離検出は、レーザレーダやミリ波レーダなどの専用の距離センサを用いてもよい。
ステップS5では、P偏光成分の赤色画像とP偏光成分の白色画像との比率(赤色輝度比率)を分光情報として用い、この分光情報から、ペアランプとされた2つの高輝度画像領域が、ヘッドランプからの光によるものなのか、テールランプからの光によるものなのかを識別するランプ種類識別処理を行う。
まずステップS51において、ペアランプとされた高輝度画像領域について、画像センサ206上の撮像画素aに対応した画素データと画像センサ206上の撮像画素b、cに対応した画素データとの比率を画素値とした赤色比画像を作成する。
そして、ステップS52において、その赤色比画像の画素値を所定の閾値と比較し、所定の閾値以上である高輝度画像領域についてはテールランプからの光によるテールランプ画像領域であるとし、所定の閾値未満である高輝度画像領域についてはヘッドランプからの光によるヘッドランプ画像領域であるとするランプ種別処理を行う。
ステップS6では、テールランプ画像領域及びヘッドランプ画像領域として識別された各画像領域について、差分偏光度((S−P)/(S+P))を偏光情報として用いて、テールランプ又はヘッドランプからの直接光か雨路面等の鏡面部で反射して受光された照り返し光かを識別する照り返し識別処理を行う。
まずステップS61において、テールランプ画像領域について差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。また、同様に、ヘッドランプ画像領域についても差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。
なお、レインセンサなどを車両に搭載しておき、当該レインセンサにより雨天時であることを確認した場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。また、運転者(ドライバ)がワイパを稼働している場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。要するに、雨路面からの照り返しが想定される雨天時のみに上述した照り返し識別処理S6を実行するようにしてもよい。
以上のような車両検出処理により検出した先行車両及び対向車両の検出結果は、本実施形態では自車両の車載機器であるヘッドランプの配光制御に用いられる。具体的には、車両検出処理によりテールランプが検出されてその先行車両のバックミラーに自車両のヘッドランプ照明光が入射する距離範囲内に近づいた場合に、その先行車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。また、車両検出処理によりヘッドランプが検出されて、その対向車両の運転者に自車両のヘッドランプ照明光が当たる距離範囲内に近づいた場合に、その対向車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。
アプリケーションの実施例2は、図2に示す撮像装置200で撮像された撮像画像データを解析し、自車両が走行可能領域から逸脱するのを防止するために、検出対象物としての白線(区画線)を検出する処理を行う。ここでいう白線とは、実線、破線、点線、二重線等の道路を区画するあらゆる白線を含む。なお、黄色線等の白色以外の色の区画線などについても同様に検出可能である。
〔白線エッジ検出1〕
本実施形態における白線検出処理では、撮像装置200から取得することができる情報のうち、白色成分のP偏光成分の情報を用いる。なお、この白色成分のP偏光成分の他、赤色光のP偏光成分を含む撮像画像データをP偏光成分情報として利用しても良い。一般に、白線やアスファルト面は、可視光領域においてフラットな分光輝度特性を有することが知られている。
多くの道路では、黒色に近い色の路面上に白線が形成されており、白色成分のP偏光成分の画像において白線部分の輝度は路面上の他部分より十分に大きい。そのため、路面部分のうち輝度が所定値以上である部分を白線として検出することができる。特に、本実施形態では、使用する白色成分のP偏光成分の画像(又は使用する白色成分及び赤色光のP偏光成分の画像)は、S偏光成分がカットされているので、雨路からの照り返し光などを抑制した画像を取得することが可能となる。よって、夜間における雨路などからヘッドランプの照り返し光等の外乱光を白線と誤認識することなく、白線検出を行うことが可能である。
また、本実施形態における他の白線検出処理において、撮像装置200から取得することができる情報のうち、白色成分のS偏光成分とP偏光成分との比較による偏光情報、例えば、差分偏光度((S−P)/(S+P))を用いてもよい。
白線からの反射光は、通常、拡散反射成分が支配的であるため、その反射光のP偏光成分とS偏光成分とはほぼ同等となり、差分偏光度はゼロに近い値を示す。一方、白線が形成されていないアスファルト面部分は、乾燥状態のときには、散乱反射成分が支配的となる特性を示し、その差分偏光度は正の値を示す。また、白線が形成されていないアスファルト面部分は、湿潤状態のときには、鏡面反射成分が支配的となり、その差分偏光度は更に大きな値を示す。したがって、得られた路面部分の偏光差分値が所定閾値よりも小さい部分を白線と判定することができる。
この画像例は、雨天時に撮影したものであるため、撮像領域が比較的暗く、また、路面は湿潤状態となっている。そのため、図16(a)に示すモノクロ輝度画像では、白線と路面とのコントラストが小さい。これに対し、図16(b)に示す差分偏光度画像では、白線と路面とのコントラストが十分に大きい。よって、モノクロ輝度画像では白線を識別することが困難な状況下であっても、差分偏光度画像を用いれば白線を高精度に識別することが可能である。
アプリケーションの実施例3は、図2に示す撮像装置200で撮像された撮像画像データを解析して、影と重なった障害物を検出する処理を行うものである。図17(a)及び(b)は、同じ撮像領域を撮像したモノクロ輝度画像(非偏光)と差分偏光度画像とを示す画像例である。
差分偏光度画像は、モノクロ輝度画像とは異なり光量(輝度)に依存しない画像である。そのため、モノクロ輝度画像では影の中の障害物等が識別しにくくなるのに対して、差分偏光度画像を用いれば影の中の障害物の識別が可能となる。
図16に示す画像例の左端部分は陰に重なっているため、図16(a)のモノクロ輝度画像では左端部分が暗く写ってしまい、コントラストが小さく、影の中の障害物や白線等が識別困難となっている。
図16(b)に示す画像は、差分偏光度((P−S)/(P+S))をとった画像である。この差分偏光度画像では、影の中の他車両と路面や街路樹等とのコントラストが十分に大きくなっている。よって、モノクロ輝度画像では識別困難な影の中の障害物等も、差分偏光度画像を用いれば高精度に識別することが可能である。
屈折率が互いに異なる2つの材質の界面に対してある角度(入射角)をもって光が入射するとき、入射面に平行な偏光成分(本実施形態では鉛直偏光成分P)と、入射面に垂直な偏光成分(本実施形態では水平偏光成分S)とでは、反射率が異なる。詳しくは、鉛直偏光成分Pの反射率は、入射角の増大に伴って、ある角度(ブリュースター角)でゼロまで減少し、その後増加する。一方、水平偏光成分Sの反射率は、入射角の増大に伴って単調増加する。このように鉛直偏光成分Pと水平偏光成分Sとの間では反射特性が異なるので、差分偏光度((P−S)/(P+S))も、入射角や屈折率によって変わってくる。
特に差分偏光度((P−S)/(P+S))では、分子の偏光差分(P−S)により、路面と障害物との材質の差異や角度の差異が検出できている。また分母を(P+S)と規定することで、偏光差分を規格化することができる。このため、差分偏光度を利用することで光量に依存しない画像を得ることができ、影の中の障害物を識別できる。
図1に示した画像処理システム1の撮像ユニット101を構成する撮像装置は、単眼の撮像装置であってもよいが、複眼の撮像装置であってもよい。アプリケーションの実施例4では、図1に示す画像処理システム1の撮像ユニット101を構成する撮像装置として、複眼のステレオカメラ(複眼カメラ装置)を搭載した点に特徴がある。図18は、本実施形態のステレオカメラとこれを搭載した車両の一例を示す図である。(a)は、ステレオカメラの1構成例を示す模式図であり、(b)はストレオカメラの車両への取り付け位置を示す模式的側面図であり、(c)は(b)の平面図(上面図)である。
このステレオカメラ109は、図2に示す撮像装置200を2つ(撮像装置200R、撮像装置200L)有している。一方の撮像装置200Rは車両100右側に位置し、他方の撮像装置200Lは車両100左側に位置する。2つの撮像装置200は、夫々の光軸が平行であり、撮像面及びその水平方向軸が一致する、いわゆる平行等位に配置されている。このようなステレオカメラ109では、単眼のカメラと異なり、2つの撮像装置200間に生ずる視差を利用することができるので、車両100(自車両)から障害物等までの距離を測定することができる。
本実施形態において「フィルタ領域分割パタンの実施例」に示した偏光フィルタ層222の領域分割パタン配列は、P偏光成分透過領域とS偏光成分透過領域が、夫々撮像領域の横方向に縞方向を有するストライプパタン状に形成されている(図7(a)、図9(a)参照)。このように横方向に縞方向を有することにより、偏光画像に関して横方向に使用できる画素数を増大させることができる。結果として、P偏光画像、S偏光画像、或いはP偏光画像とS偏光画像の差分画像は、夫々横方向に解像度を有することになる。従って、上記分割パタンは、ステレオカメラ109を利用する場合に好適の分割パタンであるといえる。
例えば、ステレオカメラ109の各撮像装置200から、夫々差分偏光度((P−S)/(P+S))情報を取得して利用する場合について考える。「アプリケーション実施例3」に示したように、差分偏光画像から影の中の障害物を識別するための情報を得ることができる。従って、ステレオカメラ109にて得られる偏光ステレオ画像を利用することにより、影の中の障害物までの距離を算出することも可能となる。
このようにして得られた視差情報に基づいて、自車両100から、影の中に位置する先行車両までの距離が極端に短いと車両走行制御ユニット108によって判断された場合、車両走行制御ユニット108は、車両100の運転者へ警告したり、車両100のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。
以上のように、本実施例では、モノクロ輝度画像だけではコントラストが得られないために認識できない種々の物体に関する視差情報を得ることができ、これを活用することができる。
Claims (9)
- 撮像レンズと、該撮像レンズからの入射光を受光する複数の受光素子が2次元配置された撮像素子と、前記撮像レンズと前記撮像素子との間に配置された光学フィルタと、を備えた撮像装置であって、
前記光学フィルタは、フィルタ基板と、該フィルタ基板の一方の面に形成されて透過する光の波長を分別する分光フィルタ層と、前記フィルタ基板の他方の面に形成されて、夫々透過偏光軸が異なる複数の偏光成分透過領域を有する偏光フィルタ層と、該偏光フィルタ層を保護する充填層と、を備え、
前記偏光成分透過領域は、所定方向に延びる金属ワイヤを所定のピッチにて並行に配置したワイヤグリッド構造を有し、
前記分光フィルタ層は、前記光学フィルタの前記撮像レンズ側に配置され、前記金属ワイヤのピッチの2倍以上の波長成分の光を透過させることを特徴とする撮像装置。 - 前記撮像素子は、該撮像素子を構成する受光素子のうちの少なくとも一部の前記受光素子を透過する光の波長帯域を制限する分光フィルタを備えていることを特徴とする請求項1に記載の撮像装置。
- 前記撮像素子を構成する受光素子のうち、一部の前記受光素子を透過する光の波長帯域を制限する他の分光フィルタ層が、前記充填層上に形成されていることを特徴とする請求項1又は2に記載の撮像装置。
- 前記偏光成分透過領域は、水平方向の偏光成分のみを透過させる水平偏光成分透過領域と、鉛直方向の偏光成分のみを透過させる鉛直偏光成分透過領域と、を備え、
前記水平偏光成分透過領域と前記鉛直偏光成分透過領域とが、前記撮像素子の撮像領域の水平方向に縞方向を有するストライプパタン状に配置されていることを特徴とする請求項1乃至3の何れか一項に記載の撮像装置。 - 請求項1乃至4の何れか一項に記載の撮像装置と、
該撮像装置が撮像した撮像画像に基づいて撮像領域内に存在する検出対象物の検出処理を行う物体検出処理手段と、を備えたことを特徴とする物体検出装置。 - 前記撮像装置は、車両に搭載されて、該車両の進行方向前方領域を前記撮像領域として撮像する装置であり、
前記物体検出処理手段は、前記各偏光成分透過領域からの透過光を受光した夫々の前記受光素子からの出力信号から求められる偏光画像情報に基づいて前記撮像領域内に撮像された検出対象物を検出することを特徴とする請求項5に記載の物体検出装置。 - 前記撮像装置を複数個有する複眼カメラ装置を備えたことを特徴とする請求項5又は6に記載の物体検出装置。
- 請求項5乃至7の何れか一項に記載の物体検出装置と、該物体検出装置によって検出された検出対象物情報に基づいて、車両の各部の動作を制御する制御ユニットと、を備えたことを特徴とする車両走行支援画像処理システム。
- 請求項5乃至7の何れか一項に記載の物体検出装置、又は請求項8に記載の車両走行支援システムが搭載されたことを特徴とする車両。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012060083A JP5990953B2 (ja) | 2012-03-16 | 2012-03-16 | 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012060083A JP5990953B2 (ja) | 2012-03-16 | 2012-03-16 | 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013197670A JP2013197670A (ja) | 2013-09-30 |
JP5990953B2 true JP5990953B2 (ja) | 2016-09-14 |
Family
ID=49396155
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012060083A Active JP5990953B2 (ja) | 2012-03-16 | 2012-03-16 | 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5990953B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015170638A (ja) * | 2014-03-05 | 2015-09-28 | 株式会社リコー | 撮像素子パッケージ及び撮像装置 |
JP2016114683A (ja) * | 2014-12-12 | 2016-06-23 | 日本放送協会 | フィルタ及び撮像装置 |
JP2016127333A (ja) * | 2014-12-26 | 2016-07-11 | 株式会社リコー | 撮像素子および撮像装置および撮像情報認識システム |
JP6493087B2 (ja) | 2015-08-24 | 2019-04-03 | 株式会社デンソー | 車載カメラ装置 |
JP6574808B2 (ja) * | 2016-07-01 | 2019-09-11 | キヤノン株式会社 | 撮像装置 |
JP7116001B2 (ja) * | 2019-03-27 | 2022-08-09 | 日立Astemo株式会社 | 撮像装置及び画像処理方法 |
WO2021161712A1 (ja) * | 2020-02-14 | 2021-08-19 | ソニーグループ株式会社 | 撮像装置及び車両制御システム |
CN115297250B (zh) * | 2022-09-30 | 2023-03-24 | 北京市农林科学院信息技术研究中心 | 图像采集装置、方法、电子设备及存储介质 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS60130705A (ja) * | 1983-12-19 | 1985-07-12 | Toshiba Corp | 固体カラ−カメラ用色フイルタアレイ |
CN102611896B (zh) * | 2007-06-15 | 2015-01-07 | 松下电器产业株式会社 | 图像处理装置 |
JP5152655B2 (ja) * | 2008-06-18 | 2013-02-27 | 株式会社リコー | 撮像装置 |
JP5428509B2 (ja) * | 2009-05-11 | 2014-02-26 | ソニー株式会社 | 2次元固体撮像装置、及び、2次元固体撮像装置における偏光光データ処理方法 |
JP5440927B2 (ja) * | 2009-10-19 | 2014-03-12 | 株式会社リコー | 測距カメラ装置 |
JP2011185782A (ja) * | 2010-03-09 | 2011-09-22 | Ricoh Co Ltd | 偏光イメージセンサー及び製造方法 |
JP5454424B2 (ja) * | 2010-09-03 | 2014-03-26 | ソニー株式会社 | 撮像方法 |
-
2012
- 2012-03-16 JP JP2012060083A patent/JP5990953B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2013197670A (ja) | 2013-09-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5990953B2 (ja) | 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両 | |
JP6380843B2 (ja) | 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム | |
US9344691B2 (en) | Imaging device, object detecting apparatus, optical filter, and manufacturing method of optical filter | |
JP5633503B2 (ja) | 画像処理システム、画像処理システムを備えた車両、画像処理方法及びプログラム | |
JP5761143B2 (ja) | 撮像ユニット、撮像ユニットを搭載した車両 | |
JP5899957B2 (ja) | 画像処理システム及びそれを備えた車両 | |
JP5936098B2 (ja) | 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ | |
JP2013029451A (ja) | 付着物検出装置及び付着物検出方法 | |
JP5853719B2 (ja) | 画像処理システム及びそれを備えた車両 | |
JP5858327B2 (ja) | 撮像装置及びこれを備えた物体検出装置並びに偏光フィルタ | |
JP5862207B2 (ja) | 画像処理システム | |
JP5839253B2 (ja) | 物体検出装置及びこれを備えた車載機器制御装置 | |
JP2013162492A (ja) | 撮像装置、撮像装置を備えた車両および位置調整方法 | |
JP2013095315A (ja) | 撮像装置内蔵ルームミラー装置及びそれを備えた車両 | |
JP5887840B2 (ja) | 画像処理装置 | |
JP2013097223A (ja) | 撮像方法及び撮像ユニット | |
JP5845820B2 (ja) | 撮像ユニット及びそれを備えた車両 | |
JP6111514B2 (ja) | 画像処理システム及びそれを備えた車両 | |
JP5967165B2 (ja) | 画像処理システム、画像処理システムを備えたワイパー制御システム及び車両、並びにプログラム | |
JP5879937B2 (ja) | 撮像ユニット |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150218 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160122 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160202 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160401 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160719 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160801 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5990953 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |