JP5990953B2 - 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両 - Google Patents

撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両 Download PDF

Info

Publication number
JP5990953B2
JP5990953B2 JP2012060083A JP2012060083A JP5990953B2 JP 5990953 B2 JP5990953 B2 JP 5990953B2 JP 2012060083 A JP2012060083 A JP 2012060083A JP 2012060083 A JP2012060083 A JP 2012060083A JP 5990953 B2 JP5990953 B2 JP 5990953B2
Authority
JP
Japan
Prior art keywords
image
light
vehicle
imaging
polarization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012060083A
Other languages
English (en)
Other versions
JP2013197670A (ja
Inventor
平井 秀明
秀明 平井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2012060083A priority Critical patent/JP5990953B2/ja
Publication of JP2013197670A publication Critical patent/JP2013197670A/ja
Application granted granted Critical
Publication of JP5990953B2 publication Critical patent/JP5990953B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Description

本発明は、輝度情報、偏光情報、及び分光情報といった、いわゆる光の3成分の画像情報を取得可能な撮像装置、撮像装置から得られた画像情報を利用して物体を検出する物体検出装置、物体検出装置が検出した検出対象物の情報に基づいて車両の走行支援を行う車両走行支援画像処理システム、及び物体検出装置又は物体検出装置を備えた車両に関する。
従来、輝度画像のみでは得られない画像情報を取得するために、偏光フィルタや分光フィルタ等、様々な光学フィルタが撮像装置に使用されている。
例えば特許文献1には、輝度画像と偏光画像の双方を撮像可能な撮像装置が開示されている。この撮像装置においては、輝度画像と被写体の部分偏光画像を同時に取得するために、複数の異なる偏光主軸を有するパタン化偏光子が撮像素子に空間的に配置されている。この発明のパタン化偏光子には、フォトニック結晶や構造複屈折波長板アレイが利用されている。
また、特許文献2には、色分解(ダイクロック)プリズムを用いたカラー偏光撮像装置が開示されている。この撮像装置は、色毎にパタン化偏光子が付加された複数の撮像素子を備えている。各色に対応する撮像素子は、隣接する縦2つ横2つの計4つの画素が1つのユニットとして構成されており、各ユニットには、透過偏光面が0度、45度、90度、135度という組み合わせの偏光子のパタンが付加されている。従って、色分解プリズムによって分立された赤(R)、緑(G)、青(B)の光は、各色を受光する夫々の撮像素子に入射し、R、G、Bの色ごとに透過偏光軸の異なる4種類の偏光情報を取得することができる。また、ユニット内の4画素の輝度を平均することにより、カラー画像を取得することができる。
しかしながら特許文献1の発明においては、画素単位で波長成分を変化させたような分光・偏光情報を得ることができない。また、フォトニック結晶を用いた場合は、バンドギャップを利用するため使用波長帯域が限られる(例えば、使用波長範囲30nm程度となり可視域全域での使用は困難である)という問題がある。
また、特許文献2の発明においては、色分解プリズムを使用して入射光を3色に分解した後に偏光フィルタを通過させる構成であるため、画素単位で所定の波長成分を変化させるような分光・偏光情報を得ることができない。そのため、画素単位の情報を得ようとすると撮像装置として大型化してしまう等の問題を有する。
本発明は、上述の事情に鑑みてなされたものであり、輝度情報、偏光情報、及び分光情報を画素単位のような微小領域単位で取得可能、且つ、透過偏光成分、及び透過波長帯域の各成分が任意に調整された2次元画像を一度に撮像可能な撮像装置、これを備えた物体検出装置、これを備えた車両走行支援システム、及び物体検出装置又は物体検出装置を備えた車両を提供することを目的とする。
上記の課題を解決するために、本発明は、撮像レンズと、該撮像レンズからの入射光を受光する複数の受光素子が2次元配置された撮像素子と、前記撮像レンズと前記撮像素子との間に配置された光学フィルタと、を備えた撮像装置であって、前記光学フィルタは、フィルタ基板と、該フィルタ基板の一方の面に形成されて透過する光の波長を分別する分光フィルタ層と、前記フィルタ基板の他方の面に形成されて、夫々透過偏光軸が異なる複数の偏光成分透過領域を有する偏光フィルタ層と、該偏光フィルタ層を保護する充填層と、を備え、前記偏光成分透過領域は、所定方向に延びる金属ワイヤを所定のピッチにて並行に配置したワイヤグリッド構造を有し、前記分光フィルタ層は、前記光学フィルタの前記撮像レンズ側に配置され、前記金属ワイヤのピッチの2倍以上の波長成分の光を透過させることを特徴とする。

本発明によれば、偏光フィルタ層が、透過偏光軸の異なる複数の偏光成分透過領域を有しているので、輝度情報、偏光情報、及び分光情報が、画素単位のような微小領域単位で取得可能となる。また、偏光フィルタ層の前段に配置された分光フィルタ層が、ワイヤグリッド構造の金属ワイヤのピッチの2倍以上の波長成分の光を透過させるので、充填層を通過することにより透過率が上昇する光の波長成分をカットし、透過偏光成分、及び透過波長帯域の各成分が任意に調整された2次元画像を一度に撮像可能となる。
本実施形態における車両走行支援画像処理システムの概略構成を示す模式図である。 撮像ユニットに搭載される撮像装置の構成を示す模式図である。 光学フィルタとセンサ基板の模式的拡大図である。 画像センサの一例を示す断面図である。 (a)は、光学フィルタの構造を示す断面図であり、(b)は光学フィルタに形成された分光フィルタ層の透過率特性を示すグラフ図である。 光学フィルタの偏光フィルタ層の領域分割パタンと画像センサの各画素との位置関係を示した模式図である。 (a)乃至(e)は、光学フィルタの画像センサ側の領域分割パタンの実施例を説明するための図である。 カラーセンサの画素配列の一例を示す図である。 (a)乃至(e)は、光学フィルタの画像センサ側の領域分割パタンの他の実施例を説明するための図である。 ワイヤグリッドの断面構造を示す図である。 ワイヤグリッド構造(WG)の偏光フィルタ層と、ワイヤグリッド構造に充填層を形成した場合(SOG埋め込み)の、光の透過率を示したグラフ図である。 分光フィルタの透過率特性を示すグラフ図である。 撮像装置を用いて、雨の日にヘッドランプからの直接光とヘッドランプの雨路面で反射光(照り返し光)とを撮像し、それぞれの差分偏光度((S−P)/(S+P))を算出したときのヒストグラムである。 雨路面上を自車両が走行しているときにその進行方向前方のほぼ同一距離に先行車両と対向車両の両方が存在する状況を撮像装置で撮像した場合の一例を示す模式図である。 車両検出処理の流れを示すフローチャートである。 (a)及び(b)は、雨天時において同じ撮像領域を撮像したモノクロ輝度画像(非偏光)と差分偏光度画像の画像例を示す図である。 (a)及び(b)は、同じ撮像領域を撮像したモノクロ輝度画像(非偏光)と差分偏光度画像の画像例を示す図である。 (a)は、ステレオカメラの1構成例を示す模式図であり、(b)はストレオカメラの車両への取り付け位置を示す模式的側面図であり、(c)は(b)の平面図(上面図)である。
以下、本発明を図に示した実施形態を用いて詳細に説明する。但し、この実施形態に記載される構成要素、種類、組み合わせ、形状、その相対配置などは特定的な記載がない限り、この発明の範囲をそれのみに限定する主旨ではなく単なる説明例に過ぎない。
なお、本発明に係る撮像装置は、車載機器制御システムに限らず、例えば、撮像画像に
基づいて物体検出を行う物体検出装置を搭載したその他のシステムにも適用可能である。
〔車両走行支援画像処理システムの全体構成〕
図1は、本実施形態における車両走行支援画像処理システム(以下、単に「画像処理システム」という)の概略構成を示す模式図である。画像処理システム1は、自動車などの車両100に搭載された撮像装置が撮像した画像データを利用して、ヘッドランプの配光制御、ワイパーの制御、或いはその他各種の走行支援を行うシステムである。
本実施例の画像処理システム1は、走行する車両100に装備されるシステムであり、車両100の前方領域の画像を撮像する撮像装置を含んだ撮像ユニット101と、撮像ユニット101が撮像した画像を解析する画像解析ユニット102(物体検出処理手段)と、画像解析ユニット102による画像解析結果に基づいて、それぞれヘッドランプ104を制御するヘッドランプ制御ユニット103、ワイパー107を制御するワイパー制御ユニット106、及び車両100の走行制御を行う車両走行制御ユニット108と、を有している。
撮像ユニット101は、走行する車両100の進行方向前方領域を撮像領域として撮像する装置であり、例えば、車両100のフロントガラス105の後方に配置されたルームミラー(図示せず)付近に設置される。撮像ユニット101にて撮像された車両前方の画像は、画像信号化されて画像解析ユニット102に入力される。
画像解析ユニット102は、撮像ユニット101から送信された画像信号を解析する。具体的には、例えば、車両100の前方に存在する他車両の位置、距離、及び角度を算出する。また、例えば、車両100のフロントガラス105に付着した異物を検出する。或いは、車両100が進行する道路の路面領域や白線を検出して、車両100が進行する道路の走行可能な路面領域や白線の座標情報を算出する。画像解析ユニット102の解析結果は、夫々ヘッドランプ制御ユニット103、ワイパー制御ユニット106、及び車両走行制御ユニット108に送られる。
ヘッドランプ制御ユニット103は、画像解析ユニット102から出力された他車両の位置、距離、又は/及び角度の情報から、ヘッドランプ104を制御する制御信号を生成する。例えば、画像解析ユニット102が算出した距離データに基づいて、先行車両や対向車両の運転者の目に車両100のヘッドランプの強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、車両100の運転者の視界を確保できるように、ヘッドランプ104のハイビーム及びロービームの切り替え制御や、ヘッドランプ104の部分的な遮光制御を行ったりする。
ワイパー制御ユニット106は、画像解析ユニット102から出力された、フロントガラス105に付着した異物や雨量の情報を受けて、ワイパー107を制御する制御信号を生成する。ワイパー制御ユニット106は、制御信号に基づいてワイパー107を稼動させ、フロントガラス105に付着した雨滴や異物などの付着物を除去して、ドライバの視界を確保する。
車両走行制御ユニット108は、画像解析ユニット102から出力された道路の路面領域や白線の情報から、各種の信号を生成する。例えば、白線によって区画されている車線領域から車両100が外れている場合等に、車両100の運転者へ警告したり、車両100のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。
〔撮像装置〕
〔撮像装置の概略〕
図2は、撮像ユニットに搭載される撮像装置の構成を示す模式図である。
撮像装置200は、光像が入射する撮像レンズ204と、撮像レンズ204の後段に配置された光学フィルタ205と、光学フィルタ205を通過した撮像レンズ204からの入射光を受光する複数の受光素子が2次元配置された画素アレイを有する画像センサ206(撮像素子)を含んだセンサ基板207と、センサ基板207から出力されるアナログ電気信号(画像センサ206上の各受光素子が受光した受光量)をデジタル電気信号に変換した撮像画像データを生成して出力する信号処理部208と、を備えている。
被写体(検出対象物)を含む撮像領域からの光は、撮像レンズ204を通り、光学フィルタ205を透過して、画像センサ206においてその光強度に応じた電気信号に変換される。信号処理部208では、画像センサ206から出力される電気信号(アナログ信号)が入力されると、その電気信号から、輝度情報や分光情報や偏光情報などの画像信号を生成する。信号処理部208は画像データとして、画像センサ206上における各画素の明るさ(輝度)を示すデジタル信号を、画像の水平・垂直同期信号とともに後段のユニットへ出力する。
図3は、光学フィルタとセンサ基板の模式的拡大図である。この図は、図2に示す光学フィルタ205とセンサ基板207とを光透過方向に対して直交する方向から見た図である。
画像センサ206は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などを用いたイメージセンサであり、その受光素子にはフォトダイオード206Aが用いられている。フォトダイオード206Aは、画素ごとに2次元的にアレイ配置されている。フォトダイオード206Aの集光効率を上げるために、各フォトダイオード206Aの入射側にはマイクロレンズ206Bが設けられている。この画像センサ206がワイヤボンディングなどの手法によりPWB(printed wiring board)に接合されてセンサ基板207が形成されている。
画像センサ206のマイクロレンズ206B側の面には、光学フィルタ205が近接配置されている。光学フィルタ205と画像センサ206は、例えば、UV接着剤で接合してもよいし、撮像に用いる有効画素範囲外でスペーサにより支持した状態で有効画素外の四辺領域をUV接着や熱圧着してもよい。
〔カラーセンサ〕
図4は、画像センサの一例を示す断面図である。センサ基板207に用いる画像センサ206には、図4のようにマイクロレンズ206Bとフォトダイオード206Aとの間にカラーフィルタ209(209R、209G、209B:分光フィルタ)を有するカラー用画像センサ206(カラーセンサ)を用いてもよい。カラー用画像センサ206としては、図示する周知のRGB(R:赤色、G:緑色、B:青色)の3つの色成分を取得するカラーセンサを用いてもよいし、R(赤色)の成分とC(クリア)の成分を取得するRCCCセンサを用いてもよい。
〔マイクロレンズについて〕
また、センサ基板207に用いる画像センサ206には、マイクロレンズ206Bを有さない画像センサを用いてもよい。マイクロレンズ206Bを有さない場合は、光学フィルタ205と画像センサ206の受光面との間隔を狭めることができる。仮に、光学フィルタ205として画素サイズに領域分割されたフィルタを利用する場合、光学フィルタ205と画像センサ206との間隔が開いていると、光学フィルタ205上の隣接領域からのクロストーク成分が、画像センサ206の所望のフォトダイオード206Aに混ざり込み、ノイズの原因となる。しかし、マイクロレンズ206Bを有さない画像センサを用いれば、画像センサの画素と光学フィルタ205の領域分割パタンとを密着させて接合できるため、不要光の侵入を抑制することができる。
〔光学フィルタの構成〕
撮像レンズ204と画像センサ206との間に配置される光学フィルタ205について図5に基づいて説明する。図5(a)は、光学フィルタの構造を示す断面図であり、(b)は光学フィルタに形成された分光フィルタ層の透過率特性を示すグラフ図である。
光学フィルタ205は、図5(a)に示すように、フィルタ基板221の一方の面205aに分光フィルタ層220を形成し、他方の面205bに偏光フィルタ層222を形成したものである。分光フィルタ層220の後段に偏光フィルタ層222が配置されている。
撮像レンズ204側に位置する面205aには分光フィルタ層220が形成されている。分光フィルタ層220は、透過する光の波長を分別するフィルタであり、図5(b)に示すように、波長範囲430nm〜670nmのいわゆる可視光領域の光を透過させる。可視光領域の光は、車両100の周辺情報を検出するために用いる。
また、分光フィルタ層220は、波長700〜940nmの範囲の光を透過させないフィルタ層である(仮に透過させたとしても、透過率5%以下が望ましい)。仮に、この波長範囲の光を画像センサ206によって受光すると、得られる画像データは全体的に赤みを帯びたものとなってしまう。その結果、テールランプ等に対応する赤色の画像部分を抽出することが困難となる場合がある。そこで、本実施形態においては、赤外波長帯の光をカットする特性をもつ分光フィルタ層220を形成し、撮像画像データ部分から赤外波長帯を除外する。このようにすることで、テールランプ等を検出する上で外乱となる光の成分を除去し、テールランプ等の検出精度を向上させることができる。
また、分光フィルタ層220は、さらに波長430nm以下、且つ使用する画像センサ206の検出感度範囲に含まれる波長範囲(たとえば、300nm以上)の光も透過させない。この波長を抑制する理由は、画像センサ206側に位置するフィルタ基板221の面205bに形成された偏光フィルタ層222を充填層224にて保護した場合(図7参照)に、短波長側で消光比が取れないために発生する偏光画像のコントラスト低下成分を抑制するためである。分光フィルタ層220としては、後述する偏光フィルタ層222に形成されたワイヤグリッド(図10参照)の溝周期の2倍以上、より望ましくは2.5倍以上の波長成分のみを透過するような分光フィルタ層220を形成することが望ましい(詳しくは「充填層形成による課題とその対策」にて述べる)。
分光フィルタ層220は、後述する分光フィルタ223aと同様に、多層膜構造のバンドパスフィルタとすることができる。
このようにフィルタ基板221の両面に、分光フィルタ層220と偏光フィルタ層222とを形成することにより、光学フィルタ205の反りを抑制することが可能となる。フィルタ基板221の一方の面にだけ分光フィルタ層として多層膜を形成すると応力がかかり、反りが生じる。しかしながら図5(a)のように、フィルタ基板221の両面に分光フィルタ層220と偏光フィルタ層222を形成した場合は、応力の効果が相殺されるため、反りを抑制することができる。
なお、分光フィルタ層220を設ける代わりに、赤外波長帯の光をカットするフィルタ層を撮像レンズ204表面に形成してもよい。しかし、撮像レンズ204のような球面にフィルタ層を形成する場合は、その曲率を考慮した条件出しが必要となる。本実施形態のように、光学フィルタ205の表面に赤外波長帯の光をカットする分光フィルタ層220を形成するほうが、フィルタ基板221のフィルタ層蒸着面が平面であるため加工精度を高くすることができる。
〔フィルタ部構成:領域分割パタン〕
光学フィルタ205の画像センサ206側の面205bには、領域分割されたパタンが形成されている。図6は、光学フィルタの偏光フィルタ層の領域分割パタンと画像センサの各画素との位置関係を示した模式図である。領域分割されたパタンは、例えば図示するように、画像センサ206上の1つのフォトダイオード206Aごとに対応するパタン、すなわち1画素ごとに対応した格子状のパタンとすることができる。
光学フィルタ205と画像センサ206とを離間配置し、両者の間に空隙がある構成としてもよいが、光学フィルタ205を画像センサ206に密着させる構成とした方が、光学フィルタ205上の領域の境界と、画像センサ206上の領域の境界を一致させやすくなる。
領域分割された各パタンには、後述する各種のアプリケーションに応じて、輝度情報・偏光情報・分光情報の、いわゆる光の3成分を適宜調整して出力するように、偏光フィルタ、分光フィルタ、又は光量調整フィルタが画素単位(微小領域単位)で形成される。
なお、本実施形態では、画像センサ206にカラー画像用の画像センサ(RGB又はRCCC)を用いた場合を前提にして説明するが、画像センサ206としてモノクロ用画像センサを利用してもよい。カラー用画像センサで構成する場合、カラー用画像センサの各画素に付属するカラーフィルタの特性に応じて、光学フィルタ205の各領域の光透過特性を調整すればよい。
これら画素単位で得られる種々の異なる情報から、後述する各種画像が形成される。このような各種の画像形成は撮像装置200内の信号処理部208にて行われる(図2参照)。
光学フィルタ205を上記構成とすることにより、画像センサ206の画素単位で、透過光量、透過偏光成分、及び透過波長帯域の3成分が任意に調整された2次元画像を、一回の撮像で得ることができる。また、1つの2次元画像を得るために複数画像を撮像して演算する必要がないので、高速に分光画像及び偏光画像を撮影することができる。
また液晶などのアクティブデバイスを用いずに、スタティックな光学フィルタを画像センサの前段(入射側)に配置するだけでよいため、安価で、光学系としてシンプルな構成で分光画像及び偏光画像を撮影できる。(なお、仮にアクティブデバイスを用いる場合は、駆動回路なども必要となる。)
さらに、スタティックな光学フィルタを画像センサと撮像レンズの間に配置するだけでよいため、従来の撮像装置と同等のサイズとすることができ、装置の小型化に寄与する。
〔フィルタ領域分割パタンの実施例1〕
ここで、本実施形態において光学フィルタに形成されるフィルタ領域分割パタンの一実施例について説明する。以下、画像センサとしてRGB(R:赤色、G:緑色、B:青色)の3つの色成分を取得可能なカラーセンサを用いた場合について説明する。カラーセンサには、例えば図4のような断面を有したものを利用できる。
図7は、光学フィルタの画像センサ側の領域分割パタンの実施例を説明するための図である。(a)は光学フィルタのパタン例を説明するための平面図であり、(b)は(a)のA−A線における縦断面図であり、(c)は(a)のB−B線における縦断面図であり、(d)は(a)のC−C線における縦断面図であり、(e)は(a)のD−D線における縦断面図である。
図7(b)〜(e)に示すように、光学フィルタ205の画像センサ206側の面には、フィルタ基板221上に偏光フィルタ層222とこの偏光フィルタ層222を覆う充填層224が形成されている。
〔各領域の説明〕
図7(a)は、本実施例における光学フィルタ205を透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示している。なお、図中R、G、Bは画像センサ206の配列を示し、P、Sは偏光フィルタ層222の配列を示している。
図7に示す画像センサの画素配列では、(a)に示すように、隣接する縦2つ横2つの計4つの画素(符号a〜dの4画素)が1つのカラーユニット225を構成する。カラーユニット225は、1つの赤色画素(R)と、2つの緑色画素(G)と、1つの青色画素(B)から構成される。
また、図7に示す偏光フィルタの画素配列では、(a)に示すように、隣接する縦4つ横2つの計8つの画素に対応する領域(符号a〜hの8画素に対応する領域)が1つの偏光ユニット226を構成する。偏光ユニット226は、2つのカラーユニット225(225a、225b)を覆うように構成されており、一方のカラーユニット225aを構成する各画素に対応した4つのP偏光成分透過領域と、他方のカラーユニット225bを構成する各画素に対応した4つのS偏光成分透過領域とを有する。なお、P偏光成分とは鉛直偏光成分のことであり、S偏光成分とは水平偏光成分のことである。本実施形態においては、夫々透過偏光軸が異なる複数の偏光成分透過領域として、P偏光成分とS偏光成分の2種類の偏光成分透過領域を備えているが、夫々透過偏光軸が異なる3以上の偏光成分透過領域が形成されていてもよい。
なお図7(a)中、例えばP/Rは、偏光方向としてはP偏光成分の光のみ、波長帯域としては赤色波長帯域の光のみが、画像センサ206に受光されることを意味する。
〔生成画像〕
光学フィルタ205のパタンレイアウトとして図7(a)のような構成を用いることにより、赤色光のP偏光成分画像(P/R)、緑色光のP偏光成分画像(P/G)、青色光のP偏光成分画像(P/B)、赤色光のS偏光成分画像(S/R)、緑色光のS偏光成分画像(S/G)、青色光のS偏光成分画像(S/B)、の6種類の画像が生成できる。
また後述するように、たとえば(P−S)/(P+S)を差分画像として、赤色光の偏光差分画像、緑色光の偏光差分画像、青色光の偏光差分画像が形成できる。なお、偏光差分画像の形成にあたっては、隣接する画素領域の情報が不足するが、ここは一般的に知られる画像補間技術を用いればよい。
〔生成画像の用途〕
上記偏光成分画像、及び偏光差分画像の使用用途について説明する。
赤色光のP偏光成分画像は、例えばテールランプの識別に使用することができる。この赤色画像ではS偏光成分をカットしているため、路面に反射した赤色光や、自車両100(図1参照)内のダッシュボードなどからの不要反射光(映りこみ光)等のように、S偏光成分の強い赤色光による外乱要因を抑制できる。従って、検出対象とするテールランプ(被検物)の認識率が向上する。
赤色光や青色光や緑色光のP偏光成分画像は、例えば標識の識別に使用することができる。
また、赤色光や青色光や緑色光のP偏光成分画像は、例えば、白線や対向車のヘッドランプの検出に使用することができる。この画像ではS偏光成分をカットしているため、路面に反射したヘッドランプや街灯、或いは自車両100内のダッシュボードなどからの不要反射光(映りこみ光)等のように、S偏光成分の強い光による外乱要因を抑制でき、白線やヘッドランプの認識率が向上する。特に雨路においては、路面を覆った水面からの反射光はS偏光成分が多いことが一般に知られている。このS偏光成分を抑制することで、水面下の白線部分を適切に検出することが可能となる。
P偏光成分画像とS偏光成分画像の差分画像は、例えば後述する雨路の白線認識に使用することができる。
〔偏光フィルタのパタンに関して〕
本実施例における偏光フィルタのパタン配列では、P偏光成分透過領域とS偏光成分透過領域が、夫々撮像領域の横方向(図7(a)中、左右方向)にのびるように形成されている。すなわち、撮像領域の水平方向に縞方向を有するストライプパタン状に配置されている。このように横方向に縞方向を有することにより、偏光画像に関して横方向に使用できる画素数を増大させることができる。結果として、P偏光画像、S偏光画像、又はP偏光画像とS偏光画像の差分画像は、夫々横方向に解像度を有することになる。
ここで、白線や路面エッジは主として車両の進行方向に伸びる線であり、連続する斜めの線として撮像される。仮に、走行中の車両100が白線等に接近した場合、車両100が接近した側の白線等は徐々に立ち上がり縦方向(図7(a)中、上下方向)に伸びる画像として撮像される。従って、白線検出や路面領域の検出を利用し、白線によって区画されている車線領域から車両100が外れそうになる場合等、効果的に走行支援制御を行うためには、撮像領域の横方向の解像度を高くしておくことが望ましい。
〔カラーセンサの他の実施例〕
なお、カラーセンサとしては、RGGB配列のセンサに限定されるものでなく、G(緑色画素)、B(青色画素)の代わりに波長制限を行わないクリア画素からなるRCCCの配列からなるセンサを用いてもよい。或いは、図8のように、8画素を一つのカラーユニットとしてもよい。図8は、カラーセンサの画素配列の一例を示す図である。図示するカラーセンサは、4つの色成分が取得できる画素配列となっている。
〔フィルタ領域分割パタンの実施例2〕
更に、本実施形態において光学フィルタに形成されるフィルタ領域分割パタンの他の実施例について説明する。以下、画像センサとしてRCCC(R:赤色、C:クリア)の2つの色成分を取得可能なカラーセンサを用いた場合について説明する。
図9は、光学フィルタの画像センサ側の領域分割パタンの実施例を説明するための図である。(a)は光学フィルタのパタン例を説明するための平面図であり、(b)は(a)のA−A線における縦断面図であり、(c)は(a)のB−B線における縦断面図であり、(d)は(a)のC−C線における縦断面図であり、(e)は(a)のD−D線における縦断面図である。
図9(b)〜(e)に示すように、光学フィルタ205の画像センサ206側の面には、フィルタ基板221上に偏光フィルタ層222と、偏光フィルタ層222を覆う充填層224が形成されている。さらに本実施例においては、充填層224上に分光フィルタ層223(他の分光フィルタ層)が形成されている。特に、充填層224の一部の領域に分光フィルタ223a(分光領域)が形成されており、分光フィルタ223aが形成されていない他の領域は非分光領域223bとなっている。
〔各領域の説明〕
図9(a)は、本実施例における光学フィルタ205を透過して画像センサ206上の各フォトダイオード206Aで受光される受光量に対応した情報(各撮像画素の情報)の内容を示している。なお、図中R、C(Y)は画像センサ206の配列を示し、P、Sは偏光フィルタ層222の配列を示し、Yは分光フィルタ223aの配列を示している。
図9(a)に示す画素配列では、隣接する縦2つ横2つの計4つの画素(符号a〜dの4画素)が1つのカラーユニット225を構成する。カラーユニット225を構成する画像センサ206の画素は、1つの赤色画素(R)と、3つのクリア画素(C)を含んでいる。更に本実施例では、画像センサ206と偏光フィルタ層222との間に分光フィルタ層223が形成されている。カラーユニット225を構成する4つの画素のうち、画像センサ206の1つのクリア画素(C)上に黄色成分(Y)のみを透過する分光フィルタ223aが形成されている。従って、カラーユニット225はRCCYの画素配列から構成されている
また、図8に示す偏光フィルタの画素配列では、(a)に示すように、隣接する縦4つ横2つの計8つの画素に対応する領域(符号a〜hの8画素に対応する領域)が1つの偏光ユニット226を構成する。偏光ユニット226は、2つのカラーユニット225(225a、225b)を覆うように構成されており、一方のカラーユニット225aを構成する各画素に対応した4つのP偏光成分透過領域と、他方のカラーユニット225bを構成する各画素に対応した4つのS偏光成分透過領域とを有する。
なお図9(a)中、例えばP/Rは偏光方向としてはP偏光成分の光のみ、波長帯域としては赤色波長帯域の光のみが、画像センサ206に受光されることを意味する。
〔分光フィルタについて〕
ここで、Y成分のように、一般的なカラーセンサにはない色成分のみを取り出したい場合には、本実施例のように分光フィルタ層を別途設ければよい。例えば、図9(c)に示すような多層膜フィルタを用いることにより、任意の波長帯域の光のみを透過させることが可能となる。
ここで、分光フィルタにより通過させる成分としてY成分を例示したが、これはあくまでも一例であり、他の透過波長帯を選択してもよい。また、図9ではカラーユニット225に含まれるクリア画素のうちの1つの画素にのみ分光フィルタを形成した例を示したが、3つのクリア画素のうちの2つ、或いは3つ全てに多層膜フィルタで形成された分光フィルタを形成してもよい。多数のクリア画素上に分光フィルタを形成することで、画像センサ206から出力される画像の解像度を上げることができる。更に、画像センサの赤色カラーフィルタが形成された領域(赤色画素上)に分光フィルタ層を形成してもよい。カラーフィルタの透過波長帯域を分光フィルタで調整することが可能となる。
また、画像センサ206としてモノクロ用画像センサを用いた場合にも、偏光フィルタ層の他に、領域分割された分光フィルタ層を形成することで、任意の波長帯域の光のみを通過させることが可能となる。
〔生成画像〕
光学フィルタ205のパタンレイアウトとして図9(a)のような構成を用いることにより、赤色光のP偏光成分画像(P/R)、クリア光のP偏光成分画像(P/C)、黄色光のP偏光成分画像(P/Y)、赤色光のS偏光成分画像(S/R)、クリア光のS偏光成分画像(S/C)、黄色光のS偏光成分画像(S/Y)、の6種類の画像が生成できる。
また後述するように、たとえば(P−S)/(P+S)を差分画像として、赤色光の偏光差分画像、クリア光の偏光差分画像、黄色光の偏光差分画像が形成できる。なお、偏光差分画像の形成にあたっては、隣接する画素領域の情報が不足するが、ここは一般的に知られる画像補間技術を用いればよい。
〔クリア画素が受光する波長帯域について〕
なお、フィルタ領域分割パタンの実施例を説明するにあたり、画像センサ206のうち分光フィルタが形成されていないクリア画素においては、クリア光の画像(P/C又はS/C)が検出されるものとして説明した。しかし、画像センサ206にて受光される全ての光は、光学フィルタ205の撮像レンズ204側の面205a側(図5(a)参照)に形成された分光フィルタ層220を通過したものであるから、実際には、分光フィルタ層220の透過波長範囲に限定された光のみが画像センサ206のフォトダイオード206Aにて検出されることになる。
〔生成画像の用途〕
上記偏光成分画像、及び偏光差分画像の使用用途について説明する。
赤色光のP偏光成分画像は、例えばテールランプの識別に使用することができる。この赤色画像ではS偏光成分をカットしているため、路面に反射した赤色光や、自車両100(図1参照)内のダッシュボードなどからの不要反射光(映りこみ光)等のように、S偏光成分の強い赤色光による外乱要因を抑制できる。従って、検出対象とするテールランプ(被検物)の認識率が向上する。
赤色光や黄色光のP偏光成分画像は、例えば標識の識別に使用することができる。
また、クリア光のP偏光成分画像は、例えば、白線や対向車のヘッドランプの検出に使用することができる。この画像ではS偏光成分をカットしているため、路面に反射したヘッドランプや街灯、或いは自車両100内のダッシュボードなどからの不要反射光(映りこみ光)等のように、S偏光成分の強い光による外乱要因を抑制でき、白線やヘッドランプの認識率が向上する。特に雨路においては、路面を覆った水面からの反射光はS偏光成分が多いことが一般に知られている。このS偏光成分を抑制することで、水面下の白線部分を適切に検出することが可能となる。
同様に、黄色光のP偏光成分画像は、例えば黄色線の検出に使用することができる。
P偏光成分画像、S偏光成分画像の差分画像は、例えば後述する雨路の白線認識に使用することができる。
〔偏光フィルタのパタンに関して〕
本実施例における偏光フィルタのパタン配列では、P偏光成分透過領域とS偏光成分透過領域が、夫々撮像領域の横方向(図9(a)中、左右方向)にのびるように形成されている。すなわち、撮像領域の水平方向に縞方向を有するストライプパタン状に配置されている。このように横方向に縞方向を有することにより、偏光画像に関して横方向に使用できる画素数を増大させることができる。結果として、P偏光画像、S偏光画像、又はP偏光画像とS偏光画像の差分画像は、横方向に解像度を有することになる。
ここで、白線や路面エッジは主として車両の進行方向に伸びる線であり、連続する斜めの線として撮像される。仮に、走行中の車両100が白線等に接近した場合、車両100が接近した側の白線等は徐々に立ち上がり縦方向(図7(a)中、上下方向)に伸びる画像として撮像される。従って、白線検出や路面領域の検出を利用し、白線によって区画されている車線領域から車両100が外れそうになる場合等、効果的に走行支援制御を行うためには、撮像領域の横方向の解像度を高くしておくことが望ましい。
〔フィルタ部構成:各層詳細〕
光学フィルタ205のうち、画像センサ206側の面205b(図5(a)参照)に形成された各層の詳細について、図9(b)〜(e)を参照しながら説明する。なお、図7に示した各層の構成に関し、分光フィルタ層223以外は図9と同様である。
図示するように、光学フィルタ205の画像センサ206側の面205bには、フィルタ基板221上に偏光フィルタ層222、充填層224、分光フィルタ層223が順次積層されている。以下、各層の構成について夫々説明する。
〔フィルタ基板〕
フィルタ基板221は、使用帯域の光(本実施形態では可視光域)に対して透明な材料、例えば、ガラス、サファイア、水晶などで構成されている。本実施形態では、ガラス、特に、安価で、また耐久性もある石英(屈折率1.46)やテンパックスガラス(屈折率1.51)が用いられている。
〔偏光フィルタ層〕
〔ワイヤグリッド偏光子〕
偏光フィルタ層222は、ワイヤグリッド偏光子から構成することができる。図10はワイヤグリッドの断面構造を示す写真である。
ワイヤグリッド構造は、アルミニウムなどの金属で構成された特定方向に延びる金属ワイヤ(導電体線)を特定のピッチで並行に配置した構造である。ワイヤグリッド構造のワイヤピッチを、入射光の波長帯に比べて十分に小さいピッチ(例えば1/2以下)とすることで、金属ワイヤの長手方向に対して平行に振動する電場ベクトル成分の光をほとんど反射し、金属ワイヤの長手方向に対して直交する方向に振動する電場ベクトル成分の光をほとんど透過させるため、単一偏光を作り出す偏光子として使用できる。
なお、ワイヤグリッド構造の偏光子は、一般に金属ワイヤの断面積が増加すると、消光比が増加し、更に周期幅に対する所定の幅以上の金属ワイヤでは透過率が減少する。また、金属ワイヤの長手方向に直交する断面形状がテーパ形状であると、広い帯域において透過率、偏光度の波長分散性が少なく、高消光比特性を示す。
〔ワイヤグリッド偏光子の効果〕
偏光フィルタ層222としてワイヤグリッド偏光子を採用した場合、以下のような効果を得られる。
ワイヤグリッド構造は、広く知られた半導体製造プロセスを利用して形成することができる。具体的には、フィルタ基板221上にアルミニウム薄膜を蒸着した後、パターニングを行い、メタルエッチングなどの手法によってワイヤグリッドのサブ波長凹凸構造を形成すればよい。このような製造プロセスにより、画像センサ206の撮像画素サイズ相当(数μmレベル)で金属ワイヤの長手方向すなわち偏光方向(透過偏光軸)を調整することが可能となる。よって、本実施形態のように、撮像画素単位で金属ワイヤの長手方向すなわち偏光方向を異ならせた偏光フィルタ層222を作成することができる。
また、ワイヤグリッド構造は、アルミニウムなどの金属材料によって作製されるため、耐熱性に優れ、高温になりやすい車両室内などの高温環境下においても好適に使用できるという利点もある。
〔無機材料充填層(SOG層)〕
〔充填層の構成〕
偏光フィルタ層222の積層方向上面を平坦化するために、充填層224が形成される(図9(b)参照)。充填層224を構成する充填材は、偏光フィルタ層222の金属ワイヤ間の凹部(金属ワイヤ間)に充填される。
充填材としては、フィルタ基板221よりも屈折率が低いか又は同等の屈折率を有する無機材料が好適に利用できる。なお、本実施形態における充填層224は、偏光フィルタ層222の金属ワイヤ部分の積層方向上面(凸部分)も覆うように形成される。
〔充填層材料〕
充填層224の具体的な材料としては、偏光フィルタ層222の偏光特性を劣化させないように、その屈折率が空気の屈折率(屈折率=1)に極力近い低屈折率材料であることが好ましい。例えば、セラミックス中に微細な空孔を分散させて形成してなる多孔質のセラミックス材料が好ましく、具体的には、ポーラスシリカ(SiO2)、ポーラスフッ化マグネシウム(MgF)、ポーラスアルミナ(Al23)などが挙げられる。また、これらの低屈折率の程度は、セラミックス中の空孔の数や大きさ(ポーラス度)によって決まる。フィルタ基板221の主成分がシリカの水晶やガラスからなる場合には、ポーラスシリカ(n=1.22〜1.26)が好適に使用できる。
〔充填層形成方法〕
充填層224の形成には、SOG法(Spin On Glass法:無機系塗布膜生成法)を好適に用いることができる。具体的には、シラノール(Si(OH)4)をアルコールに溶かした溶剤を、フィルタ基板221上に形成された偏光フィルタ層222上にスピン塗布し、その後に熱処理によって溶媒成分を揮発させ、シラノール自体を脱水重合反応させるような経緯で形成される。
〔充填層の効果〕
偏光フィルタ層222は、サブ波長サイズのワイヤグリッド構造であり、充填層224上に形成される分光フィルタ223aに比べて機械的強度が弱く、わずかな外力によって金属ワイヤが損傷してしまう。本実施形態の光学フィルタ205は、画像センサ206に密着配置することが望まれるため、その製造段階において光学フィルタ205と画像センサ206とが接触する可能性がある。本実施形態では、偏光フィルタ層222の積層方向上面、すなわち画像センサ206側の面が充填層224によって覆われているので、画像センサ206と接触した際にワイヤグリッド構造が損傷する事態が抑制される。充填層224の上に積層される分光フィルタ223aについては充填層224のような保護層を設けていない。これは、本発明者らの実験によれば、画像センサ206に分光フィルタ223aが接触しても、撮像画像に影響を及ぼすような損傷が発生しなかったため、低コスト化を優先して保護層を省略したものである。
また、本実施形態では、充填材を偏光フィルタ層222のワイヤグリッド構造における金属ワイヤ間の凹部へ充填しているため、その凹部への異物進入を防止することができる。
また、偏光フィルタ層222の金属ワイヤ(凸部)の高さは一般的に使用波長の半分以下と低い一方、分光フィルタ223aの高さは、使用波長と同等から数倍程度の高さとなり、且つ厚みを増すほど遮断波長での透過率特性を急峻に出来る。また、充填層224は、その厚みが増すほど、その上面の平坦性を確保することが困難になり、充填部分の均質性が損なわれる等の問題があるため、充填層224を厚くするにも限度がある。本実施例では、偏光フィルタ層222を充填層224で覆った後に分光フィルタ223aを形成しているため、充填層224を安定的に形成できる。また充填層224の上面に形成する分光フィルタ223aの特性も最適化することができる。
〔充填層形成による課題とその対策〕
図11は、ワイヤグリッド構造(WG)の偏光フィルタ層と、ワイヤグリッド構造に充填層を形成した場合(SOG埋め込み)の、光の透過率を示したグラフ図である。
充填層224は、以上説明してきたような効果を有するが、本発明者らの実験によれば、図11に示すように、短波長側の透過率、特に消光させたいTE光の透過率を増加させるという特徴を有していることがわかった。これは、ワイヤグリッド構造の凹部内が空気である場合に比べ、充填材を充填した場合では凸部のアルミ面に対して屈折率差がとれないためである。TE光とTM光の透過率比は2倍以上あることが望ましいが、波長430nm以下では透過率比が2倍以下となっている。
そこで、本実施形態においては、特に撮像レンズ204側の光学フィルタ205の面205a側に分光フィルタ層220を形成することにより、430nm以下の波長がカットされた光を偏光フィルタ層222に入射させるようにしている(図5(a)、(b)参照)。このように、事前に透過波長帯域を制限することにより、画像中のコントラスト低下を抑制している。分光フィルタ層220として具体的には、ワイヤグリッド構造の溝周期の2倍以上、より望ましくは2.5倍以上の波長成分のみを透過するような分光フィルタ層220を形成してやることが望ましい。
なお、前述のとおり光学フィルタ205の両面にフィルタ層(分光フィルタ層220及び偏光フィルタ層222)を形成することで、光学フィルタ205の反りを抑制する等の効果を得られる。
〔分光フィルタ構成〕
〔分光フィルタの膜構成〕
図9に示した分光フィルタ223aは、多層膜構造のバンドパスフィルタとすることができる。多層膜構造とは、高屈折率と低屈折率の薄膜を交互に多層重ねた波長フィルタのことをいう。このような多層膜構造によれば、光の干渉を利用することで分光透過率を自由に設定でき、また、薄膜を多数層重ねることで、特定波長に対して100%近い反射率を得ることも可能である。
図12は、分光フィルタの透過率特性を示すグラフ図である。例えば、黄色成分(Y)のみを透過する多層膜構造としては、図12に示すような530〜560nmの波長範囲の光のみを透過するバンドパスフィルタであってもよい。図12に示すバンドパスフィルタを用いることで赤色よりも長波長側の近赤外域と赤色領域の識別が可能となる。
多層膜構造のバンドパスフィルタとしては例えば、積層順に「基板/(0.125L0.5M0.125L)p(0.125L0.5H0.125L)q(0.125L0.5M0.125L)r/媒質A」のような構成の多層膜を作製することで得ることができる。
ここでいう「基板」は、充填層224を意味する。
また、「0.125L」は、低屈折率材料の膜厚標記方法でnd/λを1Lとしたものであり、したがって「0.125L」の膜は1/8波長の光路長となるような膜厚をもつ低屈折率材料の膜であることを意味する。なお、「n」は屈折率であり、「d」は厚みであり、「λ」はカットオフ波長である。同様に、「0.5M」は、中屈折率材料の膜厚標記方法でnd/λを1Mとしたものであり、したがって「0.5M」の膜は1/2波長の光路長となるような膜厚をもつ中屈折率材料の膜であることを意味する。さらに、「0.5H」は、高屈折率材料の膜厚標記方法でnd/λを1Hとしたものであり、したがって「0.5H」の膜は1/2波長の光路長となるような膜厚をもつ高屈折率材料の膜であることを意味する。また、「p」、「q」、「r」は、かっこ内に示す膜の組み合わせを繰り返す(積層する)回数を示し、「p」、「q」、「r」が多いほどリップルなどの影響を抑制できる。また、媒質Aは、空気あるいは画像センサ206との密着接合のための樹脂や接着剤を意図するものである。
なお、多層膜形成用の高屈折率材料としては二酸化チタン(TiO)、低屈折率材料としては二酸化珪素(SiO)などを使用すれば、耐候性の高い分光フィルタ223aを実現できる。また、中屈折率材料としては、窒化ケイ素(SiN)や、シリコン酸窒化物(SiNxOy)等を用いることができる。
〔領域分割フィルタの作製方法〕
本実施形態の領域分割型の分光フィルタ層223の作製方法の一例について説明する。まず、偏光フィルタ層222上に形成された充填層224上に、上述した多層膜を形成する。このような多層膜を形成する方法としては、よく知られる蒸着などの方法を用いればよい。続いて、凹凸断面構造を形成する。具体的には、非分光領域223bに対応する箇所について多層膜構造の一部を除去して凹部を形成する。多層膜構造の除去方法としては、一般的なリフトオフ加工法を利用すればよい。リフトオフ加工法では、目的とするパタンとは逆のパタンを、金属、フォトレジストなどで、事前に充填層224上に形成しておき、その上に多層膜(目的とする薄膜層)を形成してから、非分光領域223bに対応する箇所の多層膜を当該金属やフォトレジストと一緒に除去する。
〔多層膜を用いた分光フィルタ層の効果〕
本実施例では、分光フィルタ層223として多層膜構造を採用しているので、分光輝度特性の設定自由度が高いといった利点がある。一般に、カラーセンサなどに用いられるカラーフィルタは、レジスト剤によって形成されているが、このようなレジスト剤では多層膜構造に比べて、分光輝度特性のコントロールが困難である。本実施形態では、分光フィルタ層223として多層膜構造を採用しているので、例えば路面の黄色線や、テールランプの波長に最適化された分光フィルタ層223を形成することが可能となる。
〔アプリケーション実施例1 分光情報を利用した配光制御〕
以下、上記実施形態の撮像装置を用いたアプリケーションの実施例を説明する。アプリケーションの実施例1は、図2に示す撮像装置200で撮像された撮像画像データを解析して、他車両のテールランプとヘッドランプを識別し、識別したテールランプから先行車両を検出するとともに、識別したヘッドランプから対向車両を検出する。そして、先行車両や対向車両の運転者の目に自車両100のヘッドランプ104(図1参照)の強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、自車両100の運転者の視界確保を実現できるように、ヘッドランプ104のハイビームおよびロービームの切り替えを制御したり、ヘッドランプ104の部分的な遮光制御を行ったりする。
なお、以下の説明では、光学フィルタ205の画像センサ206側の面205bとして上記構成例2(図9)のものを用いる場合について説明する。
〔使用する画像情報〕
本アプリケーション実施例では、撮像ユニット101から取得することができる情報のうち、撮像領域内の各地点(光源体)から発せられる光の強さ(明るさ情報)、ヘッドランプやテールランプなどの光源体(他車両)と自車両との距離(距離情報)、各光源体から発せられる光の赤色成分と白色成分との比較による分光情報、白色成分のS偏光成分とP偏光成分との比較による偏光情報、S偏光成分がカットされた白色成分のP偏光成分(P/C)情報、S偏光成分がカットされた赤色成分のP偏光成分(P/R)情報を用いる。なお、白色成分については、クリア画素からの出力(P/C又はS/C)を利用する。
〔明るさ情報〕
明るさ情報について説明する。夜間に、先行車両と対向車両とが、自車両から同じ距離に存在する場合、撮像装置200によってそれらの先行車両及び対向車両を撮像すると、撮像画像データ上では対向車両のヘッドランプが最も明るく映し出され、先行車両のテールランプはそれよりも暗く映し出される。
また、リフレクタが撮像画像データに映し出されている場合、リフレクタは自ら発光する光源ではなく、自車両のヘッドランプを反射することによって明るく映し出されるものに過ぎないので、先行車両のテールランプよりもさらに暗くなる。ここでリフレクタとは、走行領域の路端部などに設置された反射板等であり、自車両のヘッドランプ光を照射することにより、反射してドライバに走行可能領域を示すものである。
一方、対向車両のヘッドランプ、先行車両のテールランプ及びリフレクタからの光は、いずれも距離が遠くなるにつれて、それを受光する画像センサ206上ではだんだん暗く観測される。
これは、ヘッドランプなどの光源が、自車両100から比較的近い距離にある場合には、その光源からの光が、画像センサ206の複数のフォトダイオード206A間にまたがって撮影されるため、輝度はある一定値を示すが、光源が遠くなると、画像センサ206の単一のフォトダイオード206Aの内部にだけ映るようになるためである。このような状態になると、距離が遠くなるにつれて、画像センサ206のフォトダイオード206Aに占める光源の割合が低くなるので、光源による輝度が低下する。
よって、撮像画像データから得られる明るさ(輝度情報)を用いることで 2種類の検出対象物(ヘッドランプとテールランプ)及びリフレクタの一次的な識別が可能である。
〔距離情報〕
距離情報について説明する。ヘッドランプやテールランプは、一般的に左右一対のペアランプの構成であるため、この特徴を利用して、自車両100からヘッドランプ又はテールランプまでの距離(すなわち自車両100と他車両との距離)を求めることが可能である。
ペアとなる左右一対のランプは、撮像装置200が撮像した撮像画像データ上では、互いに近接して同じ高さ方向位置に映し出され、当該ランプを映し出すランプ画像領域の広さ(面積)はほぼ同じで、且つ、当該ランプ画像領域の形状もほぼ同じであるという特徴を有する。よって、これらの特徴を満たすランプ画像領域同士をペアランプであると識別できる。また、ペアとなるランプ画像領域を有さない単一のランプ画像領域は、単一ランプとして認識される。なお、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなり、単一ランプとして認識される。
このような方法でペアランプを識別できた場合、そのペアランプを構成するヘッドランプやテールランプの光源までの距離を算出することが可能である。すなわち、車両の左右ヘッドランプ間の距離及び左右テールランプ間の距離は、一定値w0(例えば1.5m程度)で近似することができる。一方、撮像装置200における撮像レンズ204の焦点距離fは既知であるため、撮像装置200の画像センサ206上における左右ランプにそれぞれ対応した2つのランプ画像領域間の距離w1を撮像画像データから算出することにより、そのペアランプ構成であるヘッドランプやテールランプの光源と自車両までの距離xは、単純な比例計算(x=f×w0/w1)により求めることができる。
以上のように、撮像画像データ上のペアランプを検出することにより、他車両のヘッドランプやテールランプを識別することができる。さらに、識別されたペアランプ情報を利用して自車両から当該ペアランプが搭載された他車両までの距離を求めることができる。
〔分光情報〕
分光情報について説明する。本実施形態では、上述したとおり、撮像装置で200撮像した撮像画像データから、赤色光(P偏光成分)P/Rを受光する画像センサ206上の撮像画素a等に対応した画素データのみを抽出することで、撮像領域内の赤色成分だけを映し出した赤色画像を生成することができる。よって、赤色画像において所定輝度以上の輝度を有する画像領域が存在する場合、その画像領域はテールランプを映し出したテールランプ画像領域であると識別することが可能である。
また、撮像装置200で撮像した撮像画像データから、白色光の鉛直偏光成分P/Cを受光する画像センサ206上の撮像画素b、c等に対応した画素データのみを抽出することで、撮像領域内のモノクロ輝度画像(鉛直偏光成分)を生成することができる。よって、赤色画像上の画像領域と、この画像領域に対応したモノクロ輝度画像上の画像領域との間の輝度比率(赤色輝度比率)を算出することもできる。この赤色輝度比率を用いれば、撮像領域内に存在する物体(光源体)からの光に含まれる相対的な赤色成分の比率を把握することができる。テールランプの赤色輝度比率は、ヘッドランプや他のほとんどの光源よりも十分に高い値をとるので、この赤色輝度比率を用いればテールランプの識別精度が向上する。
〔白色成分のS偏光成分とP偏光成分の比較による偏光情報〕
偏光情報について説明する。本実施形態では、上述したとおり、撮像装置200で撮像した撮像画像データから、白色光のP偏光成分P/Cを受光する画像センサ206上の撮像画素b、c等に対応した画素データと、白色光のS偏光成分S/Cとを受光する画像センサ206上の撮像画素f、g等に対応した画素データとを抽出し、画像画素ごとに、これらの画像データ間の画素値(輝度)を比較した比較画像を得ることができる。具体的には、例えば、白色光のP偏光成分Pと白色光のS偏光成分Sとの差分値(S−P)を画素値とした差分画像を、比較画像として得ることができる。このような比較画像によれば、ヘッドランプから撮像装置200へ直接入射する直接光の画像領域(ヘッドランプ画像領域)と、ヘッドランプから雨路の水面で反射してから撮像装置200へ入射する間接光の画像領域とのコントラストを大きくとることができ、ヘッドランプの識別精度が向上する。
特に、比較画像としては、白色光のP偏光成分と白色光のS偏光成分との比率(S/P)を画素値とした比率画像や、差分偏光度((S−P)/(S+P))を画素値とした差分偏光度画像などが好適に使用できる。
一般に、水面などの水平な鏡面で反射した光は、S偏光成分が常に強くなることが知られており、とくにS偏光成分とP偏光成分との比率(S/P)や差分偏光度((S−P)/(S+P))をとった場合、その比率や差分偏光度は特定角度(ブリュースター角度)において最大となることが知られている。雨路では、散乱面であるアスファルト面に水が張られて鏡面に近い状態となるため、路面からのヘッドランプ反射光はS偏光成分の方が強くなる。よって、路面からのヘッドランプ反射光の画像領域は、比率画像や差分偏光度画像においては、その画素値(輝度)が大きいものとなる。一方、ヘッドランプからの直接光は基本的には無偏光なので、比率画像や差分偏光度画像においては、その画素値(輝度)が小さいものとなる。この違いにより、ヘッドランプからの直接光と同じ程度の光量をもつ雨路面からのヘッドランプ反射光を適切に除外でき、ヘッドランプからの直接光をこのようなヘッドランプ反射光と区別して識別することができる。
図13は、撮像装置200を用いて、雨の日にヘッドランプからの直接光とヘッドランプの雨路面で反射光(照り返し光)とを撮像し、それぞれの差分偏光度((S−P)/(S+P))を算出したときのヒストグラムである。縦軸は、頻度を示しており、ここでは1に規格化してある。横軸は、差分偏光度((S−P)/(S+P))をとったものである。この図からわかるように、ヘッドランプの雨路面で反射光は、ヘッドランプの直接光と比較して、S偏光成分が相対的に大きい側(図中右側)に分布がシフトしていることがわかる。
図14は、雨路面上を自車両が走行しているときにその進行方向前方のほぼ同一距離に先行車両と対向車両の両方が存在する状況を撮像装置200で撮像した場合の一例を示す模式図である。
このような状況においては、明るさ情報と距離情報だけでは、先行車両のテールランプ、雨路面からのテールランプの照り返し光、対向車両のヘッドランプ、雨路面からのヘッドランプの照り返し光を、互いに区別して検出することが困難である。
本実施形態によれば、このような状況でも、まず、先行車両のテールランプ及び雨路面からのテールランプの照り返し光と、対向車両のヘッドランプ及び雨路面からのヘッドランプの照り返し光との区別については、上述した分光情報を用いて高精度に識別できる。具体的には、明るさ情報や距離情報を用いて絞り込んだランプ画像領域において、上述した赤色画像の画素値(輝度値)あるいは赤色輝度比率が所定の閾値を超える画像領域は、先行車両のテールランプ又は雨路面からのテールランプの照り返し光を映し出したテールランプ画像領域であり、当該閾値以下である画像領域は、対向車両のヘッドランプ又は雨路面からのヘッドランプの照り返し光を映し出したヘッドランプ画像領域であると識別する。
また、本実施形態によれば、このように分光情報により識別した各ランプ画像領域について、上述した偏光情報を用いることにより、テールランプやヘッドランプからの直接光と照り返し光とを高い精度で識別できる。具体的には、例えば、テールランプに関しては、上述した水平偏光成分Sの赤色画像の画素値(輝度値)やその差分偏光度等を元に、水平偏光成分の頻度や強さの違いを利用して、先行車両のテールランプからの直接光と雨路面からのテールランプの照り返し光とを識別する。また、例えば、ヘッドランプに関しては、上述した水平偏光成分の白色画像の画素値(輝度値)やその差分偏光度等を元に、水平偏光成分の頻度や強さの違いを利用して、先行車両のヘッドランプからの直接光と雨路面からのヘッドランプの照り返し光とを識別する。
〔車両検出処理フロー〕
次に、本実施形態における先行車両及び対向車両の検出処理の流れについて説明する。
図15は、本実施形態における車両検出処理の流れを示すフローチャートである。
本実施形態の車両検出処理では、撮像装置200が撮像した画像データに対して画像処理を施し、検出対象物(先行車両のテールランプ及び対向車両のヘッドランプ)であると思われる画像領域を抽出する。そして、その画像領域に映し出されている光源体の種類が2種類の検出対象物のいずれであるかを識別することで、先行車両、対向車両の検出を行う。
まず、ステップS1では、撮像装置200の画像センサ206によって撮像された自車両前方の画像データをメモリに取り込む。この画像データは、上述したように、画像センサ206の各撮像画素における輝度を示す信号を含む。次に、ステップS2では、自車両の挙動に関する情報を図示しない車両挙動センサから取り込む。
〔高輝度画像抽出処理〕
ステップS3では、メモリに取り込まれた画像データから検出対象物(先行車両のテールランプ及び対向車両のヘッドランプ)であると思われる輝度の高い画像領域(高輝度画像領域)を抽出する。この高輝度画像領域は、画像データにおいて、所定の閾値輝度よりも高い輝度を有する明るい領域となり、複数存在する場合が多いが、それらのすべてを抽出する。よって、この段階では、雨路面からの照り返し光を映し出す画像領域も、高輝度画像領域として抽出される。
高輝度画像領域抽出処理では、まず、ステップS31において、画像センサ206上の各撮像画素の輝度値を所定の閾値輝度と比較することにより2値化処理を行う。具体的には、所定の閾値輝度以上の輝度を有する画素に「1」、そうでない画素に「0」を割り振ることで、2値化画像を作成する。
次に、ステップS32において、この2値化画像において、「1」が割り振られた画素が近接している場合には、それらを1つの高輝度画像領域として認識するラベリング処理を実施する。これによって、輝度値の高い近接した複数の画素の集合が、1つの高輝度画像領域として抽出される。
〔距離検出処理〕
上述した高輝度画像領域抽出処理の後に実行されるステップS4では、抽出された各高輝度画像領域に対応する撮像領域内の物体と自車両との距離を算出する。この距離算出処理では、車両のランプは左右1対のペアランプであることを利用して距離を検出するペアランプ距離算出処理と、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなって当該ペアランプが単一ランプとして認識される場合の単一ランプ距離算出処理とを実行する。
まず、ペアランプ距離算出処理のために、ステップS41では、ランプのペアを作成する処理であるペアランプ作成処理を行う。ペアとなる左右一対のランプは、撮像装置200が撮像した画像データにおいて、近接しつつほぼ同じ高さとなる位置にあり、高輝度画像領域の面積がほぼ同じで、かつ高輝度画像領域の形が同じであるとの条件を満たす。したがって、このような条件を満たす高輝度画像領域同士をペアランプとする。ペアをとることのできない高輝度画像領域は単一ランプとみなされる。
ペアランプが作成された場合には、ステップS42のペアランプ距離算出処理によって、そのペアランプまでの距離を算出する。車両の左右ヘッドランプ間の距離及び左右テールランプ間の距離は、一定値w0(例えば1.5m程度)で近似することができる。一方、撮像装置200における焦点距離fは既知であるため、撮像装置200の画像センサ206上の左右ランプ距離w1を算出することにより、ペアランプまでの実際の距離xは、単純な比例計算(x=f・w0/w1)により求めることができる。なお、先行車両や対向車両までの距離検出は、レーザレーダやミリ波レーダなどの専用の距離センサを用いてもよい。
〔ランプ種類識別処理〕
ステップS5では、P偏光成分の赤色画像とP偏光成分の白色画像との比率(赤色輝度比率)を分光情報として用い、この分光情報から、ペアランプとされた2つの高輝度画像領域が、ヘッドランプからの光によるものなのか、テールランプからの光によるものなのかを識別するランプ種類識別処理を行う。
まずステップS51において、ペアランプとされた高輝度画像領域について、画像センサ206上の撮像画素aに対応した画素データと画像センサ206上の撮像画素b、cに対応した画素データとの比率を画素値とした赤色比画像を作成する。
そして、ステップS52において、その赤色比画像の画素値を所定の閾値と比較し、所定の閾値以上である高輝度画像領域についてはテールランプからの光によるテールランプ画像領域であるとし、所定の閾値未満である高輝度画像領域についてはヘッドランプからの光によるヘッドランプ画像領域であるとするランプ種別処理を行う。
〔照り返し識別処理〕
ステップS6では、テールランプ画像領域及びヘッドランプ画像領域として識別された各画像領域について、差分偏光度((S−P)/(S+P))を偏光情報として用いて、テールランプ又はヘッドランプからの直接光か雨路面等の鏡面部で反射して受光された照り返し光かを識別する照り返し識別処理を行う。
まずステップS61において、テールランプ画像領域について差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。また、同様に、ヘッドランプ画像領域についても差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。
そして、ステップS62において、それぞれの差分偏光度画像の画素値を所定の閾値と比較し、所定の閾値以上であるテールランプ画像領域及びヘッドランプ画像領域については、照り返し光によるものであると判断し、それらの画像領域は先行車両のテールランプを映し出したものではない又は対向車両のヘッドランプを映し出したものではないとして、除外する処理を行う。この除外処理を行った後に残るテールランプ画像領域及びヘッドランプ画像領域は、先行車両のテールランプを映し出したものである、あるいは、対向車両のヘッドランプを映し出したものであると識別される。
なお、レインセンサなどを車両に搭載しておき、当該レインセンサにより雨天時であることを確認した場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。また、運転者(ドライバ)がワイパを稼働している場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。要するに、雨路面からの照り返しが想定される雨天時のみに上述した照り返し識別処理S6を実行するようにしてもよい。
〔ヘッドランプ制御へのフィードバック〕
以上のような車両検出処理により検出した先行車両及び対向車両の検出結果は、本実施形態では自車両の車載機器であるヘッドランプの配光制御に用いられる。具体的には、車両検出処理によりテールランプが検出されてその先行車両のバックミラーに自車両のヘッドランプ照明光が入射する距離範囲内に近づいた場合に、その先行車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。また、車両検出処理によりヘッドランプが検出されて、その対向車両の運転者に自車両のヘッドランプ照明光が当たる距離範囲内に近づいた場合に、その対向車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。
〔アプリケーション実施例2 偏光情報を利用した白線検出〕
アプリケーションの実施例2は、図2に示す撮像装置200で撮像された撮像画像データを解析し、自車両が走行可能領域から逸脱するのを防止するために、検出対象物としての白線(区画線)を検出する処理を行う。ここでいう白線とは、実線、破線、点線、二重線等の道路を区画するあらゆる白線を含む。なお、黄色線等の白色以外の色の区画線などについても同様に検出可能である。
以下、光学フィルタ205の面205b側のフィルタ領域分割パタンとして、フィルタ領域分割パタンの実施例2(図9)を搭載した場合について説明する。
〔白線エッジ検出1〕
本実施形態における白線検出処理では、撮像装置200から取得することができる情報のうち、白色成分のP偏光成分の情報を用いる。なお、この白色成分のP偏光成分の他、赤色光のP偏光成分を含む撮像画像データをP偏光成分情報として利用しても良い。一般に、白線やアスファルト面は、可視光領域においてフラットな分光輝度特性を有することが知られている。
多くの道路では、黒色に近い色の路面上に白線が形成されており、白色成分のP偏光成分の画像において白線部分の輝度は路面上の他部分より十分に大きい。そのため、路面部分のうち輝度が所定値以上である部分を白線として検出することができる。特に、本実施形態では、使用する白色成分のP偏光成分の画像(又は使用する白色成分及び赤色光のP偏光成分の画像)は、S偏光成分がカットされているので、雨路からの照り返し光などを抑制した画像を取得することが可能となる。よって、夜間における雨路などからヘッドランプの照り返し光等の外乱光を白線と誤認識することなく、白線検出を行うことが可能である。
〔白線エッジ検出2〕
また、本実施形態における他の白線検出処理において、撮像装置200から取得することができる情報のうち、白色成分のS偏光成分とP偏光成分との比較による偏光情報、例えば、差分偏光度((S−P)/(S+P))を用いてもよい。
白線からの反射光は、通常、拡散反射成分が支配的であるため、その反射光のP偏光成分とS偏光成分とはほぼ同等となり、差分偏光度はゼロに近い値を示す。一方、白線が形成されていないアスファルト面部分は、乾燥状態のときには、散乱反射成分が支配的となる特性を示し、その差分偏光度は正の値を示す。また、白線が形成されていないアスファルト面部分は、湿潤状態のときには、鏡面反射成分が支配的となり、その差分偏光度は更に大きな値を示す。したがって、得られた路面部分の偏光差分値が所定閾値よりも小さい部分を白線と判定することができる。
図16(a)及び(b)は、雨天時において同じ撮像領域を撮像したモノクロ輝度画像(非偏光)と差分偏光度画像とを示す画像例である。
この画像例は、雨天時に撮影したものであるため、撮像領域が比較的暗く、また、路面は湿潤状態となっている。そのため、図16(a)に示すモノクロ輝度画像では、白線と路面とのコントラストが小さい。これに対し、図16(b)に示す差分偏光度画像では、白線と路面とのコントラストが十分に大きい。よって、モノクロ輝度画像では白線を識別することが困難な状況下であっても、差分偏光度画像を用いれば白線を高精度に識別することが可能である。
〔アプリケーション実施例3〕
アプリケーションの実施例3は、図2に示す撮像装置200で撮像された撮像画像データを解析して、影と重なった障害物を検出する処理を行うものである。図17(a)及び(b)は、同じ撮像領域を撮像したモノクロ輝度画像(非偏光)と差分偏光度画像とを示す画像例である。
差分偏光度画像は、モノクロ輝度画像とは異なり光量(輝度)に依存しない画像である。そのため、モノクロ輝度画像では影の中の障害物等が識別しにくくなるのに対して、差分偏光度画像を用いれば影の中の障害物の識別が可能となる。
図16に示す画像例の左端部分は陰に重なっているため、図16(a)のモノクロ輝度画像では左端部分が暗く写ってしまい、コントラストが小さく、影の中の障害物や白線等が識別困難となっている。
図16(b)に示す画像は、差分偏光度((P−S)/(P+S))をとった画像である。この差分偏光度画像では、影の中の他車両と路面や街路樹等とのコントラストが十分に大きくなっている。よって、モノクロ輝度画像では識別困難な影の中の障害物等も、差分偏光度画像を用いれば高精度に識別することが可能である。
ここで、差分偏光度を用いることで影の中の障害物等を識別できる理由について説明する。
屈折率が互いに異なる2つの材質の界面に対してある角度(入射角)をもって光が入射するとき、入射面に平行な偏光成分(本実施形態では鉛直偏光成分P)と、入射面に垂直な偏光成分(本実施形態では水平偏光成分S)とでは、反射率が異なる。詳しくは、鉛直偏光成分Pの反射率は、入射角の増大に伴って、ある角度(ブリュースター角)でゼロまで減少し、その後増加する。一方、水平偏光成分Sの反射率は、入射角の増大に伴って単調増加する。このように鉛直偏光成分Pと水平偏光成分Sとの間では反射特性が異なるので、差分偏光度((P−S)/(P+S))も、入射角や屈折率によって変わってくる。
本実施形態では、反射面の材質の違い、すなわち屈折率の違いによって差分偏光度((P−S)/(P+S))が異なってくることを利用して、差分偏光度をとることにより影の中の物体を識別する。すなわち、路面は一般にアスファルトによって形成されているのに対し、車両の外部は金属やガラス等から形成されている。このような材質の違いがあると、屈折率が異なるため、路面と車両等との間で差分偏光度に違いが生じる。この違いにより、上述したように路面と車両等との境界(エッジ)を抽出することが可能となり、車両等の画像領域の識別が可能となる。
特に差分偏光度((P−S)/(P+S))では、分子の偏光差分(P−S)により、路面と障害物との材質の差異や角度の差異が検出できている。また分母を(P+S)と規定することで、偏光差分を規格化することができる。このため、差分偏光度を利用することで光量に依存しない画像を得ることができ、影の中の障害物を識別できる。
〔アプリケーション実施例4〕
図1に示した画像処理システム1の撮像ユニット101を構成する撮像装置は、単眼の撮像装置であってもよいが、複眼の撮像装置であってもよい。アプリケーションの実施例4では、図1に示す画像処理システム1の撮像ユニット101を構成する撮像装置として、複眼のステレオカメラ(複眼カメラ装置)を搭載した点に特徴がある。図18は、本実施形態のステレオカメラとこれを搭載した車両の一例を示す図である。(a)は、ステレオカメラの1構成例を示す模式図であり、(b)はストレオカメラの車両への取り付け位置を示す模式的側面図であり、(c)は(b)の平面図(上面図)である。
このステレオカメラ109は、図2に示す撮像装置200を2つ(撮像装置200R、撮像装置200L)有している。一方の撮像装置200Rは車両100右側に位置し、他方の撮像装置200Lは車両100左側に位置する。2つの撮像装置200は、夫々の光軸が平行であり、撮像面及びその水平方向軸が一致する、いわゆる平行等位に配置されている。このようなステレオカメラ109では、単眼のカメラと異なり、2つの撮像装置200間に生ずる視差を利用することができるので、車両100(自車両)から障害物等までの距離を測定することができる。
ここで、車両100においてステレオカメラ109を使用する場合、各撮像装置200で得られた同一時点における2つの撮像画像データ中から、互いに左右方向にずれて撮像された同一の物体を認識し、この認識された物体の画像センサ206上の撮像位置の違い(視差)を利用することとなる。そのため、撮像された画像データは、横方向の解像度が高いことが望ましい。
本実施形態において「フィルタ領域分割パタンの実施例」に示した偏光フィルタ層222の領域分割パタン配列は、P偏光成分透過領域とS偏光成分透過領域が、夫々撮像領域の横方向に縞方向を有するストライプパタン状に形成されている(図7(a)、図9(a)参照)。このように横方向に縞方向を有することにより、偏光画像に関して横方向に使用できる画素数を増大させることができる。結果として、P偏光画像、S偏光画像、或いはP偏光画像とS偏光画像の差分画像は、夫々横方向に解像度を有することになる。従って、上記分割パタンは、ステレオカメラ109を利用する場合に好適の分割パタンであるといえる。
本実施形態のように、偏光画像を取得できる撮像装置200を複数有するステレオカメラ109を用いることで、偏光ステレオ画像(P偏光画像、S偏光画像、差分偏光画像)を得ることができる。上記各アプリケーション実施例に示したように、モノクロ輝度画像だけでは検出できないエッジ情報を偏光画像から得ることができる。
例えば、ステレオカメラ109の各撮像装置200から、夫々差分偏光度((P−S)/(P+S))情報を取得して利用する場合について考える。「アプリケーション実施例3」に示したように、差分偏光画像から影の中の障害物を識別するための情報を得ることができる。従って、ステレオカメラ109にて得られる偏光ステレオ画像を利用することにより、影の中の障害物までの距離を算出することも可能となる。
このようにして得られた視差情報に基づいて、自車両100から、影の中に位置する先行車両までの距離が極端に短いと車両走行制御ユニット108によって判断された場合、車両走行制御ユニット108は、車両100の運転者へ警告したり、車両100のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。
以上のように、本実施例では、モノクロ輝度画像だけではコントラストが得られないために認識できない種々の物体に関する視差情報を得ることができ、これを活用することができる。
1…画像処理システム、100…車両、101…撮像ユニット、102…画像解析ユニット、103…ヘッドランプ制御ユニット、104…ヘッドランプ、105…フロントガラス、106…ワイパー制御ユニット、107…ワイパー、108…車両走行制御ユニット、109…ステレオカメラ、200…撮像装置、200L…撮像装置、200R…撮像装置、204…撮像レンズ、205…光学フィルタ、205a、205b…面、206…画像センサ、206A…フォトダイオード、206B…マイクロレンズ、207…センサ基板、208…信号処理部、209…カラーフィルタ、220…分光フィルタ層、221…フィルタ基板、222…偏光フィルタ層、223…分光フィルタ層、223a…分光フィルタ(分光領域)、223b…非分光領域、224…充填層、225…カラーユニット、226…偏光ユニット
特開2007−86720公報 特開2009−55624公報

Claims (9)

  1. 撮像レンズと、該撮像レンズからの入射光を受光する複数の受光素子が2次元配置された撮像素子と、前記撮像レンズと前記撮像素子との間に配置された光学フィルタと、を備えた撮像装置であって、
    前記光学フィルタは、フィルタ基板と、該フィルタ基板の一方の面に形成されて透過する光の波長を分別する分光フィルタ層と、前記フィルタ基板の他方の面に形成されて、夫々透過偏光軸が異なる複数の偏光成分透過領域を有する偏光フィルタ層と、該偏光フィルタ層を保護する充填層と、を備え、
    前記偏光成分透過領域は、所定方向に延びる金属ワイヤを所定のピッチにて並行に配置したワイヤグリッド構造を有し、
    前記分光フィルタ層は、前記光学フィルタの前記撮像レンズ側に配置され、前記金属ワイヤのピッチの2倍以上の波長成分の光を透過させることを特徴とする撮像装置。
  2. 前記撮像素子は、該撮像素子を構成する受光素子のうちの少なくとも一部の前記受光素子を透過する光の波長帯域を制限する分光フィルタを備えていることを特徴とする請求項1に記載の撮像装置。
  3. 前記撮像素子を構成する受光素子のうち、一部の前記受光素子を透過する光の波長帯域を制限する他の分光フィルタ層が、前記充填層上に形成されていることを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記偏光成分透過領域は、水平方向の偏光成分のみを透過させる水平偏光成分透過領域と、鉛直方向の偏光成分のみを透過させる鉛直偏光成分透過領域と、を備え、
    前記水平偏光成分透過領域と前記鉛直偏光成分透過領域とが、前記撮像素子の撮像領域の水平方向に縞方向を有するストライプパタン状に配置されていることを特徴とする請求項1乃至3の何れか一項に記載の撮像装置。
  5. 請求項1乃至の何れか一項に記載の撮像装置と、
    該撮像装置が撮像した撮像画像に基づいて撮像領域内に存在する検出対象物の検出処理を行う物体検出処理手段と、を備えたことを特徴とする物体検出装置。
  6. 前記撮像装置は、車両に搭載されて、該車両の進行方向前方領域を前記撮像領域として撮像する装置であり、
    前記物体検出処理手段は、前記各偏光成分透過領域からの透過光を受光した夫々の前記受光素子からの出力信号から求められる偏光画像情報に基づいて前記撮像領域内に撮像された検出対象物を検出することを特徴とする請求項5に記載の物体検出装置。
  7. 前記撮像装置を複数個有する複眼カメラ装置を備えたことを特徴とする請求項5又は6に記載の物体検出装置。
  8. 請求項5乃至7の何れか一項に記載の物体検出装置と、該物体検出装置によって検出された検出対象物情報に基づいて、車両の各部の動作を制御する制御ユニットと、を備えたことを特徴とする車両走行支援画像処理システム。
  9. 請求項5乃至7の何れか一項に記載の物体検出装置、又は請求項8に記載の車両走行支援システムが搭載されたことを特徴とする車両。
JP2012060083A 2012-03-16 2012-03-16 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両 Active JP5990953B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012060083A JP5990953B2 (ja) 2012-03-16 2012-03-16 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012060083A JP5990953B2 (ja) 2012-03-16 2012-03-16 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両

Publications (2)

Publication Number Publication Date
JP2013197670A JP2013197670A (ja) 2013-09-30
JP5990953B2 true JP5990953B2 (ja) 2016-09-14

Family

ID=49396155

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012060083A Active JP5990953B2 (ja) 2012-03-16 2012-03-16 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両

Country Status (1)

Country Link
JP (1) JP5990953B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015170638A (ja) * 2014-03-05 2015-09-28 株式会社リコー 撮像素子パッケージ及び撮像装置
JP2016114683A (ja) * 2014-12-12 2016-06-23 日本放送協会 フィルタ及び撮像装置
JP2016127333A (ja) * 2014-12-26 2016-07-11 株式会社リコー 撮像素子および撮像装置および撮像情報認識システム
JP6493087B2 (ja) 2015-08-24 2019-04-03 株式会社デンソー 車載カメラ装置
JP6574808B2 (ja) * 2016-07-01 2019-09-11 キヤノン株式会社 撮像装置
JP7116001B2 (ja) * 2019-03-27 2022-08-09 日立Astemo株式会社 撮像装置及び画像処理方法
WO2021161712A1 (ja) * 2020-02-14 2021-08-19 ソニーグループ株式会社 撮像装置及び車両制御システム
CN115297250B (zh) * 2022-09-30 2023-03-24 北京市农林科学院信息技术研究中心 图像采集装置、方法、电子设备及存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60130705A (ja) * 1983-12-19 1985-07-12 Toshiba Corp 固体カラ−カメラ用色フイルタアレイ
CN102611896B (zh) * 2007-06-15 2015-01-07 松下电器产业株式会社 图像处理装置
JP5152655B2 (ja) * 2008-06-18 2013-02-27 株式会社リコー 撮像装置
JP5428509B2 (ja) * 2009-05-11 2014-02-26 ソニー株式会社 2次元固体撮像装置、及び、2次元固体撮像装置における偏光光データ処理方法
JP5440927B2 (ja) * 2009-10-19 2014-03-12 株式会社リコー 測距カメラ装置
JP2011185782A (ja) * 2010-03-09 2011-09-22 Ricoh Co Ltd 偏光イメージセンサー及び製造方法
JP5454424B2 (ja) * 2010-09-03 2014-03-26 ソニー株式会社 撮像方法

Also Published As

Publication number Publication date
JP2013197670A (ja) 2013-09-30

Similar Documents

Publication Publication Date Title
JP5990953B2 (ja) 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両
JP6380843B2 (ja) 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム
US9344691B2 (en) Imaging device, object detecting apparatus, optical filter, and manufacturing method of optical filter
JP5633503B2 (ja) 画像処理システム、画像処理システムを備えた車両、画像処理方法及びプログラム
JP5761143B2 (ja) 撮像ユニット、撮像ユニットを搭載した車両
JP5899957B2 (ja) 画像処理システム及びそれを備えた車両
JP5936098B2 (ja) 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ
JP2013029451A (ja) 付着物検出装置及び付着物検出方法
JP5853719B2 (ja) 画像処理システム及びそれを備えた車両
JP5858327B2 (ja) 撮像装置及びこれを備えた物体検出装置並びに偏光フィルタ
JP5862207B2 (ja) 画像処理システム
JP5839253B2 (ja) 物体検出装置及びこれを備えた車載機器制御装置
JP2013162492A (ja) 撮像装置、撮像装置を備えた車両および位置調整方法
JP2013095315A (ja) 撮像装置内蔵ルームミラー装置及びそれを備えた車両
JP5887840B2 (ja) 画像処理装置
JP2013097223A (ja) 撮像方法及び撮像ユニット
JP5845820B2 (ja) 撮像ユニット及びそれを備えた車両
JP6111514B2 (ja) 画像処理システム及びそれを備えた車両
JP5967165B2 (ja) 画像処理システム、画像処理システムを備えたワイパー制御システム及び車両、並びにプログラム
JP5879937B2 (ja) 撮像ユニット

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160801

R151 Written notification of patent or utility model registration

Ref document number: 5990953

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151