JP2013148505A - 画像処理システム及びそれを備えた車両 - Google Patents

画像処理システム及びそれを備えた車両 Download PDF

Info

Publication number
JP2013148505A
JP2013148505A JP2012010016A JP2012010016A JP2013148505A JP 2013148505 A JP2013148505 A JP 2013148505A JP 2012010016 A JP2012010016 A JP 2012010016A JP 2012010016 A JP2012010016 A JP 2012010016A JP 2013148505 A JP2013148505 A JP 2013148505A
Authority
JP
Japan
Prior art keywords
pixel
image
pixels
polarization component
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012010016A
Other languages
English (en)
Other versions
JP5853719B2 (ja
Inventor
Hideaki Hirai
秀明 平井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2012010016A priority Critical patent/JP5853719B2/ja
Publication of JP2013148505A publication Critical patent/JP2013148505A/ja
Application granted granted Critical
Publication of JP5853719B2 publication Critical patent/JP5853719B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

【課題】偏光画像を用いて路面状態を検出するとともに、標識検出を行うためのカラー画像も生成することが可能な画像処理システム及びそれを備えた車両を提供する。
【解決手段】ベイヤー配列の撮像素子206、及び、撮像素子206の前段に配置される光学フィルタ205を有する撮像ユニットと、撮像ユニットの撮像結果を解析する画像解析ユニットと、を備え、光学フィルタ205は、撮像素子206の各画素グループに含まれる2つのG画素の一方にのみ、入射光の水平偏光成分P及び垂直偏光成分Sのいずれか一方を入射させるための偏光子が形成された偏光フィルタ層223と、を有し、画像解析ユニットは、2つのG画素の画素値を用いて、水平偏光成分画像、垂直偏光成分画像、及び偏光度画像を生成するとともに、他方のG画素の画素値、R画素の画素値、及び、B画素の画素値を用いてカラー画像を生成する。
【選択図】図5

Description

本発明は、路面の状態(乾燥状態または凍結状態)を検出し、運転者へ注意を促す目的等に利用する画像処理システム及びそれを備えた車両に関する。
従来から、路面を撮像した偏光画像に基づいて、路面状態が乾燥状態または凍結状態にあるか否かを検出する方法が提案されている(例えば、特許文献1参照)。
特許文献1に開示された路面状態検出装置は、路面を撮像する撮像手段と、該撮像手段の前面に配置され偏光面を水平・垂直方向に可変可能な偏光手段と、を備え、路面を撮像した水平偏光画像及び垂直偏光画像に対してフーリエ変換を行ってパワースペクトル画像を生成し、このパワースペクトル画像中の周波数成分の分布より特徴を算出し、算出した特徴値が設定された値より大か否かによって、路面の凍結、湿潤及び乾燥を判定して出力するようになっている。
しかしながら、特許文献1に開示された路面状態検出装置は、水平偏光画像及び垂直偏光画像を撮像する際に、フィルタ変換部により垂直偏光フィルタと水平偏光フィルタを順次セットする構成であり、リアルタイムの画像撮像には適していない。
このフィルタ変換部の詳細は特許文献1に記載されていないが、一般的なモータなどのメカニカルな機構や、液晶などの切換機構であることが想定される。これらの機構は、自動車等の車両に搭載される場合には、耐熱性や耐振動性の点で課題がある。
そこで、このような課題に対応した撮像装置が提案された(例えば、特許文献2参照)。特許文献2によれば、1つの画像センサで水平偏光画像と垂直偏光画像の撮像が可能である。
近年は、路上の標識などの撮像を行い、運転者に注意を喚起するための撮像装置が要望されている。なお、路上の標識は、各種情報提示をなすとともに、その注意レベルを赤色や黄色や青色などの色で表現している。
しかしながら、特許文献2に開示された撮像装置は、偏光情報と輝度情報を取得するものであるが、色情報を取得可能な構成ではない。このため、色で表現された標識の注意レベルを認識できないという課題があった。
本発明は、このような従来の課題を解決するためになされたものであって、偏光画像を用いて路面状態を検出するとともに、標識検出を行うためのカラー画像も生成することができる画像処理システム及びそれを備えた車両を提供することを目的とする。
上記課題を解決するために、本発明に係る画像処理システムは、R画素、G画素、及びB画素が2次元配列されたベイヤー配列の撮像素子、及び、該撮像素子の前段に配置される光学フィルタを有する撮像手段と、前記撮像手段の撮像結果を解析する画像解析手段と、を備え、前記光学フィルタは、入射光を透過させる基板と、前記撮像素子の縦横に隣接する4画素からなる各画素グループに含まれる2つのG画素の一方にのみ、前記入射光の水平偏光成分及び垂直偏光成分のいずれか一方を入射させるための偏光子が形成された偏光フィルタ層と、を有し、前記画像解析手段は、前記一方のG画素の画素値、及び、前記2つのG画素の他方のG画素の画素値を用いて、水平偏光成分画像、垂直偏光成分画像、及び偏光度画像を生成するとともに、前記他方のG画素の画素値、R画素の画素値、及び、B画素の画素値を用いてカラー画像を生成することを特徴とする。
この構成により、カラーセンサの前段に偏光子が配置されるため、偏光画像を用いて路面状態を検出するとともに、標識検出を行うためのカラー画像も生成することができる。
本発明は、偏光画像を用いて路面状態を検出するとともに、標識検出を行うためのカラー画像も生成することが可能な画像処理システム及びそれを備えた車両を提供するものである。
本発明に係る画像処理システムを備える車載機器制御システムの概略構成を示す模式図 本発明に係る画像処理システムが備える撮像ユニットの概略構成を示す模式図 光学フィルタ、撮像素子、及びセンサ基板の光透過方向に沿った断面模式図 光学フィルタをセンサ基板側から見た正面模式図、及び、撮像素子を撮像レンズ側から見た正面模式図 光学フィルタの偏光フィルタ層と、撮像素子の画素との対応を例示する模式図 偏光子のパターンを示す説明図 路面状態が湿潤状態である場合と乾燥状態である場合の反射光の変化を説明するための説明図 光強度Iの入射光に対する反射光の水平偏光成分と垂直偏光成分の入射角依存性を示すグラフ 板氷が置かれたコンクリート面を撮像した輝度画像及び偏光度画像を示す説明図 影の中の障害物を撮像した輝度画像及び偏光度画像を示す説明図 車両の内部に搭載された画像処理システムにより標識検出が行われる様子を示す模式図 撮像ユニットの設置位置を示す模式図 露光制御の手順を示すフローチャート 第1の分光フィルタ層の分光特性を示すグラフ 偏光フィルタ層を構成するワイヤグリッド構造の拡大図 第2の実施形態における偏光子のパターンを示す模式図 第3の実施形態における偏光子のパターンを示す模式図 第4の実施形態における光学フィルタの偏光フィルタ層と、撮像素子の画素との対応を例示する模式図 第5の実施形態における偏光子のパターンを示す模式図 第6の実施形態における光学フィルタの構造を示す光透過方向に沿った断面模式図 第6の実施形態における光学フィルタをセンサ基板側から見た正面模式図 カラーフィルタの分光特性を示すグラフ 第2の分光フィルタ層の分光特性を示すグラフ
以下、本発明に係る画像処理システム及びそれを備えた車両の実施形態について図面を用いて説明する。なお、各図面上の各構成の寸法比は、実際の寸法比と必ずしも一致していない。
(第1の実施形態)
図1は、本発明に係る画像処理システム110を備える車載機器制御システムの概略構成を示す模式図である。本車載機器制御システムは、自動車などの車両100に搭載された撮像ユニット101で撮像した、車両100の進行方向前方領域または進行方向後方領域の撮像画像データを利用して、ヘッドランプ104の配光制御、フロントガラス(透明部材)105に付着した異物を除去するためのワイパー107の駆動制御、その他の車載機器の制御を行うものである。
図1に示した車載機器制御システムは、撮像ユニット101と、画像解析ユニット(画像解析手段)102と、ヘッドランプ制御ユニット103と、ワイパー制御ユニット106と、車両走行制御ユニット108と、を主に備える。
本実施形態の画像処理システム110は、撮像ユニット101及び画像解析ユニット102を含む。画像解析ユニット102は、撮像ユニット101を制御する機能を有するとともに、撮像ユニット101から送信されてくる撮像画像データを解析する機能を有する。
画像解析ユニット102は、撮像ユニット101から送信されてくる撮像画像データを解析し、フロントガラス105に付着する雨滴などの異物を検出したり、撮像画像データに車両100の前方に存在する他車両の位置、方角、距離を算出したり、撮像領域内に存在する路面上の白線(区画線)や標識等の検出対象物を検出したりする。
なお、以降では、車両100の前方または後方の他車両の位置、方角、距離、路面上の白線(区画線)、路面状態、並びに、標識等の情報を車両周辺情報とも呼ぶ。他車両の検出では、画像解析ユニット102は、前方の車両周辺情報を撮像した撮像画像データから、他車両のテールランプを識別することで車両100と同じ進行方向へ進行する先行車両を検出し、他車両のヘッドランプを識別することで車両100とは反対方向へ進行する対向車両を検出する。
画像解析ユニット102の算出結果は、ヘッドランプ制御ユニット103に送られる。ヘッドランプ制御ユニット103は、例えば、画像解析ユニット102が算出した距離データから、車両100の車載機器であるヘッドランプ104を制御する制御信号を生成する。具体的には、例えば、先行車両や対向車両の運転者の目に車両100のヘッドランプの強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、車両100の運転者の視界確保を実現できるように、ヘッドランプ104のハイビーム及びロービームの切り換えを制御したり、ヘッドランプ104の部分的な遮光制御を行ったりする。
また、後述するように、ヘッドランプ制御ユニット103は、画像解析ユニット102で認識された偏光度の情報に基づいて、不図示のフォグランプの点灯制御を行うものであってもよい。
画像解析ユニット102の算出結果は、ワイパー制御ユニット106にも送られる。ワイパー制御ユニット106は、ワイパー107を制御して、車両100のフロントガラス105に付着した雨滴などの付着物を除去する。ワイパー制御ユニット106は、画像解析ユニット102が検出した異物検出結果を受けて、ワイパー107を制御する制御信号を生成する。ワイパー制御ユニット106により生成された制御信号がワイパー107に送られると、車両100の運転者の視界を確保するべく、ワイパー107を稼動させる。
また、画像解析ユニット102の算出結果は、車両走行制御ユニット108にも送られる。車両走行制御ユニット108は、画像解析ユニット102が検出した白線検出結果に基づいて、白線によって区画されている車線領域から車両100が外れている場合等に、車両100の運転者へ警告を報知したり、自車両のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。
また、車両走行制御ユニット108は、画像解析ユニット102が検出した標識検出結果(後述する)と車両走行状態との差異に基づいて、例えば車両100が制限速度に近い速度で走行している場合に運転者に注意を喚起したり、車両100が制限速度を超えて走行している場合に車両100の速度制御を行ったりする。
図2は、撮像ユニット101の概略構成を示す模式図である。撮像ユニット101は、車両100の外部からフロントガラス105を透過した光を集光する撮像レンズ204と、撮像レンズ204によって集光された光を画素ごとに光電変換することにより撮像する撮像素子206と、撮像レンズ204と撮像素子206との間に配置される光学フィルタ205と、撮像素子206が搭載されるセンサ基板207と、センサ基板207から出力されるアナログ電気信号(撮像素子206上の各受光素子が受光した受光量)をデジタル電気信号に変換した撮像画像データとして出力する信号処理部208と、から構成されている。
なお、撮像レンズ204、光学フィルタ205、撮像素子206、センサ基板207は、フロントガラス105側からこの順に配置される。また、信号処理部208は、画像解析ユニット102と電気的に接続されている。なお、図2は、撮像素子206と信号処理部208とが独立に設けられた例を示しているが、撮像ユニット101の構成はこれに限定されない。例えば、撮像素子206としてその各画素にA/D変換部を備えたものを用いる場合には、それらのA/D変換部が信号処理部208となる。即ち、この場合には、信号処理部208は撮像素子206に内蔵されることとなる。
撮像レンズ204は、例えば、複数のレンズから構成されており、焦点位置は、無限遠、または、無限遠とフロントガラス105の外壁面との間に設定されている。
被写体(検出対象物)を含む撮像領域からの入射光は、撮像レンズ204を通り、光学フィルタ205を透過して、撮像素子206でその光強度に応じた電気信号に光電変換される。センサ基板207を経由して撮像素子206から出力される電気信号(アナログ信号)は信号処理部208に入力される。そして、信号処理部208は、撮像素子206上における各画素の明るさ(輝度情報)及び色情報を含むデジタル信号(撮像画像データ)を、画像の水平・垂直同期信号とともに後段の画像解析ユニット102へ出力する。
既に述べたように、本実施形態では、撮像レンズ204の焦点位置は、無限遠、または、無限遠とフロントガラス105の外壁面との間に設定されている。これにより、先行車両や対向車両の検出や白線の検出を行う場合に、撮像ユニット101の撮像画像データから適切な情報を取得することができる。
ただし、無限遠に焦点が合っている場合、遠方を走行する先行車両のテールランプを識別する際に、撮像素子206上のテールランプの光を受光する受光素子が1個程度になることがある。この場合、テールランプの光がテールランプ色(赤色)を受光する赤色用受光素子に受光されない恐れがあり、その際にはテールランプを認識できず、先行車両の検出ができない。このような不具合を回避しようとする場合には、撮像レンズ204の焦点を無限遠よりも手前に合わせることが好ましい。これにより、遠方を走行する先行車両のテールランプがピンボケするので、テールランプの光を受光する受光素子の数を増やすことができ、テールランプの認識精度が上がり先行車両の検出精度が向上する。
図3は、光学フィルタ205、撮像素子206、及び、センサ基板207の光透過方向に沿った断面模式図である。また、図4(a)は、光学フィルタ205をセンサ基板207側から見た正面模式図であり、図4(b)は、撮像素子206を撮像レンズ204側から見た正面模式図である。なお、図3及び4では撮像素子206の各画素を簡略化して描いているが、実際には撮像素子206は2次元配置された数十万個程度の画素で構成されている。
光学フィルタ205は、図3に示すように、使用帯域(本実施形態では可視光領域と赤外光領域)の入射光に対して透明な基板220と、基板220の撮像レンズ204側の面における有効撮像領域(撮像素子206を構成する全画素に対応する領域)の全面に形成され、波長λ1〜λ2、及び、λ3〜λ4(λ1<λ2<λ3<λ4)の範囲の波長成分の光を選択的に透過させる分光フィルタ層(第1の分光フィルタ層)221と、基板220の撮像素子206側の面に形成される偏光フィルタ層223と、偏光フィルタ層223上に充填される充填材224と、を有し、充填材224の撮像素子206側の面が撮像素子206に近接配置されてなる。
撮像素子206は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などを用いたイメージセンサであり、2次元配列された複数の画素からなる画素アレイ206aの表面にカラーフィルタ206bが形成されたカラーセンサである。
カラーフィルタ206bは、赤色波長帯域(λ=550〜650nm)の光を主に透過させるフィルタと、緑色波長帯域(λ=500〜550nm)の光を主に透過させるフィルタと、青色波長帯域(λ=450〜500nm)の光を主に透過させるフィルタが、画素アレイ206aの各画素に対応して配置されたベイヤー配列の構成を有している。
画素アレイ206aの各画素には、光学フィルタ205側から入射してカラーフィルタ206bを透過した光を撮像するフォトダイオード等の受光素子が配置されている。受光素子の集光効率を上げるために、画素アレイ206aの入射側には、各画素に対応してマイクロレンズ(不図示)が設けられているとよい。このように構成された撮像素子206はワイヤボンディングなどの手法によりPWB(Printed Wiring Board)に接合されてセンサ基板207に搭載される。
図5は、光学フィルタ205の偏光フィルタ層223と、撮像素子206の画素との対応を例示する模式図である。以降では、赤色波長帯域用のフィルタに対応する撮像素子206の画素をR画素、緑色波長帯域用のフィルタに対応する撮像素子206の画素をG画素、青色波長帯域用のフィルタに対応する撮像素子206の画素をB画素と記す。また、縦横に隣接する4画素(R画素1つ、G画素2つ、B画素1つ)を画素グループと記す。また、有効撮像領域のうち、画素グループ内でR画素が配置される領域をr、G画素が配置される領域をg1及びg2、B画素が配置される領域をbと記す。
偏光フィルタ層223には、撮像素子206の各画素に対応した偏光子が有効撮像領域全体に亘って領域分割形成されている。本実施形態においては、各画素グループに含まれる2つのG画素の一方にのみ、入射光の水平偏光成分P及び垂直偏光成分Sのいずれか一方を入射させるための偏光子が偏光フィルタ層223に形成されている。
図5は、入射光の垂直偏光成分Sを透過させる偏光子が、領域g1に配置されたG画素と対応するように形成された例を一例として示している。領域g2、r、及びbには、偏光子は形成されておらず、これらの領域への入射光は偏光制限を受けない。即ち、偏光子が形成される領域は有効撮像領域の1/4を占める。
この結果、各画素グループからは、偏光制限されない領域rのR画素の画素値Irと、入射光の垂直偏光成分Sのみが透過する領域g1のG画素の画素値Ig1と、偏光制限されない領域g2のG画素の画素値Ig2と、偏光制限されない領域bのB画素の画素値Ibが出力される。
ここで、画素値Ig1には垂直偏光成分Sのみの情報が含まれており、偏光制限されていない画素値Ig2には水平偏光成分Pと垂直偏光成分Sの和に相当する情報が含まれている。従って、G画素の水平偏光成分Pは、画素グループ内で対角方向に隣接するIg2とIg1の差分を取ることにより検出が可能である。
上記のようにして、画像解析ユニット102は、各画素グループからG画素の水平偏光成分P及び垂直偏光成分Sを取得し、公知の画像補間処理を行うことにより、水平偏光成分画像と垂直偏光成分画像の2種類の画像を生成する。例えば、垂直偏光成分Sのみの情報が含まれている画素値Ig1から垂直偏光成分画像を形成する場合には、領域g2、r、及びbの画素値を、同一の画素グループ及び隣接する画素グループが有する領域g1の画素値の平均値とすればよい。
より具体的には図6に示すように、画素グループAの領域g2の画素値については、例えば、対角方向に隣接する領域g1、並びに、他の画素グループの領域g11、g12、及びg13の画素値の平均値とする。また、画素グループAの領域rの画素値については、例えば、横方向に隣接する領域g1及び他の画素グループの領域g11の画素値の平均値とする。また、画素グループAの領域bの画素値については、例えば、縦方向に隣接する領域g1及び他の画素グループの領域g13の画素値の平均値とする。
さらに、画像解析ユニット102は、水平偏光成分画像の画素値をI(P)、垂直偏光成分画像の画素値をI(S)として、下記の式(1)から画素ごとに偏光度を求めることにより、輝度情報に依存しない偏光度画像を生成する。
偏光度=(I(P)−I(S))/(I(P)+I(S)) (1)
図5に示した例では、画素グループごとの偏光度は(Ig2−2×Ig1)/Ig2に相当するものとなる。
さらに、画像解析ユニット102は、上記のような画像補間技術を用いることで、カラー画像を生成する。即ち、偏光制限を受けない画素値Ir、Ig2、及びIbからR画像、G画像、B画像が得られるため、これらを重ね合わせることでカラー画像が生成される。即ち、各画素グループの色情報は、画素値Ir、画素値Ig2の2倍、及び画素値Ibの重ね合わせに相当するものとなる。
偏光度画像は、車両100の横滑りなどを防止するために、路面の乾燥・湿潤・凍結などの路面状態を検出するのに使用する。ここで、路面状態に応じた反射光の変化に関して説明する。
本実施形態において画像解析ユニット102が行う路面状態の判別処理では、撮像ユニット101から取得することができる情報のうち、白色成分(非分光)の水平偏光成分Pと垂直偏光成分Sとの比較による偏光情報が用いられる。
図7(a)及び(b)は、路面状態が湿潤状態である場合と乾燥状態である場合の反射光の変化を説明するための説明図である。
図7(a)に示すように、湿潤状態にある路面は、路面の凹凸部分に水が溜まることによって鏡面に近い状態となる。そのため、湿潤状態の路面における反射光は、次のような偏光特性を示す。即ち、反射光の水平偏光成分P及び垂直偏光成分Sの反射率をそれぞれRp、Rsとすると、光強度Iの入射光に対する反射光の水平偏光成分Ipと垂直偏光成分Isは、下記の式(2)及び(3)より算出でき、その入射角依存性は、図8に示すようなものとなる。
Ip=Rp×I (2)
Is=Rs×I (3)
図8から分かるように、鏡面における反射光の水平偏光成分Ipの反射率Rpは、入射角がブリュースタ角(53.1度)に等しいときにゼロとなり、水平偏光成分Ipの反射光強度はゼロとなる。また、鏡面における反射光の垂直偏光成分Isの反射率Rsは、入射角の増大に伴って漸増する特性を示すので、垂直偏光成分Isの反射光強度も入射角の増大に伴って漸増する。
一方、図7(b)に示すように、乾燥状態の路面は、その表面が粗面であるため、乱反射が支配的となり、反射光は偏光特性を示さず、各偏光成分の反射率Rp、Rsの差は小さくなる。
このような路面からの反射光の偏光特性の違いにより、路面状態が湿潤状態であるか乾燥状態であるかを判別することが可能である。具体的には、画像解析ユニット102は、路面の乾湿状態の判別に当たって下記の式(4)に示す偏光比Hを用いる。この偏光比Hは、例えば、路面を映し出す画像領域について、白色光(非分光)の垂直偏光成分Sと白色光(非分光)の水平偏光成分Pとの比率(S/P)を算出し、その平均値等から求めることができる。偏光比Hは、下記の式(4)に示すように入射光強度Iに依存しないパラメータであるため、撮像領域内の輝度変動の影響を受けることなく、安定して路面の乾湿状態判別に用いることができる。
H=Is/Ip=Rs/Rp (4)
式(4)は、式(1)に示した偏光度の関数として下記の式(5)のように表すこともできる。なお、ここでは、Isを偏光度画像の画素値I(S)、Ipを偏光度画像の画素値I(P)と見なしている。
H=(1−偏光度)/(1+偏光度) (5)
このようにして求まる偏光比Hが所定の閾値を超えている場合には、画像解析ユニット102は、路面状態が湿潤状態にあると判別し、所定の閾値以下である場合には路面状態が乾燥状態にあると判別する。路面が乾燥している場合、垂直偏光成分Sと水平偏光成分Pはほぼ等しいので、偏光比Hは1前後の値となる。一方、路面が完全に濡れている場合、垂直偏光成分Sは水平偏光成分Pよりもかなり大きい値をとるので偏光比Hは大きな値となり、また、路面が僅かだけ濡れているような場合、偏光比Hはこれらの中間値となる。
以上のような路面状態の乾湿状態の判別処理の判別結果は、本実施形態では、車両100の運転者への警告や、車両100のハンドルやブレーキを制御するなどの走行支援制御に利用される。具体的には、路面状態が湿潤状態であることが判別された場合、その判別結果は車両走行制御ユニット108に送られ、例えば、車両100の自動ブレーキシステムの制御に利用することで交通事故の低減効果等を期待できる。また、例えば、車両100のカーナビゲーションシステムのCRT画面などに路面が滑りやすいことを警告する情報を報知して、運転者に注意を喚起してもよい。
なお、画像解析ユニット102は、路面が撮像される撮像領域(特に有効撮像領域の下部)に対応する画素グループに関してのみ、路面状態の判別処理を行うものであってもよい。
ところで、凍結路面、特にブラックアイスと呼ばれるアスファルトの表層が凍結するような場合では通常の輝度画像からは凍結領域を判別しにくい。これに対して、偏光度画像では凍結領域がクリアに表現される。コンクリート面上の板氷を撮像した輝度画像及び偏光度画像を図9に示す。
図9(a)に示すように、輝度画像では板氷がどこにあるのかが判別しにくいのに対して、図9(b)の偏光度画像ではその所在(図中の楕円で囲った部分)に板氷を確認することができる。板氷のないコンクリート部分では光が散乱(乱反射)するため、偏光度は略ゼロである。これに対して、板氷のあるコンクリート部分では、板氷内部で光が散乱するが、板氷の内部から空気界面を透過する偏光成分としてはP偏光成分が支配的である。このため、図9(b)において、板氷部分と乾燥したコンクリート部分で差異が明瞭に見える。
偏光情報を用いることで路面状態以外の情報、例えば輝度画像では検出しにくい影の中の障害物を検出することもできる。図10は、影の中の障害物の撮像結果を示す説明図である。図10(a)の輝度画像に対して、図10(b)の偏光度画像では道路脇に停車した車両を認識できる。偏光度画像とは、既に示した式(1)の演算により生成されるものであり、輝度情報に依存しないとともに、物体の角度情報や材質の違いを表現できるため、輝度画像では見えにくい昼間の影の中の障害物などを検出するのに適している。即ち、本実施形態においては、画像解析ユニット102がこのような偏光度画像を用いることで、障害物検知を精度良く行うことができる。
本実施形態においては、撮像ユニット101は車両100の前方の車両周辺情報を撮像するだけでなく、例えば後方の車両周辺情報を撮像するものであってもよい。近年、各種車両に搭載されているリアビューカメラとして撮像ユニット101を配置して偏光度画像を撮像することにより、自車両の影に隠れた障害物などを検出することが可能である。
なお、撮像ユニット101をリアビューカメラとして使用する場合、その撮像レンズ204としては、画角90度以上の広角レンズを用いることが望ましい。一般に、広角レンズを用いると、周辺画像の入射角が画像中心部に比べて大きくなる(例えば20度)。このように入射角が大きくなると、偏光フィルタ層223の偏光子が形成された領域において、入射光の透過率が低下する。
そこで、広角レンズを用いる場合には、画像解析ユニット102が偏光度を算出する際に、撮像領域に応じた所定のゲインαを式(1)の偏光度に乗じるようにすればよい。即ち、式(1)の代わりに、下記の式(6)の演算式を用いるとよい。
偏光度=α×(I(P)−I(S))/(I(P)+I(S)) (6)
例えば、ゲインαは、有効撮像領域の中心部においてはα=1、周辺部では透過率劣化に応じてα=1.1などであるとよい。これにより、画像中心部と画像周辺部での偏光度差のない画像が撮像可能となる。
さらに、画像解析ユニット102は、公知のエッジ抽出を輝度画像と偏光度画像に対して行い、エッジ抽出後の輝度画像と偏光度画像を重ね合わせることにより、輝度画像のみの場合に比べ、障害物検出の性能を上げることができる。
なお、既に述べたように、本実施形態の画像処理システム110は、偏光度画像に加えてカラー画像も撮像できるようになっている。図11は、車両100の内部に搭載された画像処理システム110(撮像ユニット101のみ図示)により標識検出が行われる様子を示す模式図である。撮像ユニット101は、車両100の前方に位置する道路標識(例えば、車両進入禁止などの規制標識)300を撮像して、画像解析ユニット102を介して音声やディスプレイの画像表示によりドライバに注意を喚起する。
なお、標識検出の対象となる道路標識の種類は複数であってもよい。例えば、画像処理システム110は、予め各種道路標識情報を画像解析ユニット102のメモリに格納しておき、撮像ユニット101を用いて取得した各種道路標識情報とメモリに格納された各種道路標識情報とを比較する構成であってもよい。さらに、画像処理システム110は、取得した各種道路標識情報を認識し、認識した各種道路標識情報を音声合成信号に変換して、運転者に各種道路標識情報を音声で通知する構成であってもよい。
また、偏光度画像を用いることで、霞がかかった画像を鮮明化することができる。一般に霧や靄は、太陽からの光が空気中の浮遊する水成分に反射して見える現象である。浮遊する水成分からの反射光は一般に偏光特性を有するため、カラー画像から偏光度画像に基づく所定の成分を差し引くことにより霞の影響を低減した画像を生成することができる。
上記所定の成分としては、例えば注目する画素グループA(図6参照)の偏光度と、画素グループAに隣接する他の画素グループの偏光度の平均値または中央値を用いることができる。この場合、画像解析ユニット102は、少なくとも霞がかかっている撮像領域(特に有効撮像領域の上部)に対応する画素グループに対して上記平均値または中央値を算出し、それらをカラー画像の対応する画素グループから差し引く処理を行う。
また、霧や靄といった現象は、路面から離れた高い位置ほど濃くなる傾向にある。よって、図12に示すように、車両100用の撮像ユニット101は、運転者の目線の高さよりも低い、路面に近い位置(例えば、車両100のタイヤ111の中心よりも路面に近い位置)に設置されると、霧や靄の影響を受けない画像を撮像しやすくなる。
例えば、図12に示すように、車両100のバンパ112のナンバープレート113の下側に撮像ユニット101用の開口114を設けて、そこから車両100の前方や後方を撮像する構成が好ましい。このような構成により、霧や靄が発生している状況であっても、運転者の肉眼の視野よりも遠方の視野が確保された画像を撮像することが可能となり、それらを運転者に画像情報として提供することが可能となる。
さらに、撮像ユニット101の設置箇所を、車両100内(図1参照)のフロントガラス105近傍と、図12に示したタイヤ111の中心よりも路面に近い位置の2箇所とすることにより、画像解析ユニット102はこれら2つの撮像ユニット101の視界の差異(本実施形態では偏光度の差異)からフォグランプの点灯判断を行ってもよい。
ところで、偏光子が配置された撮像領域(以下、路面状態検出用領域と記す)は、それ以外の偏光制限を受けない撮像領域(以下、標識検出用領域と記す)と比較して、透過光量が約半分になる。そこで、路面状態検出用領域を透過した光に基づいて生成される偏光度画像と、標識検出用領域を透過した光に基づいて生成されるカラー画像とで、撮像の際の露光量を変えることが好ましい。
具体的には、画像解析ユニット102の自動露光調整により、撮像ユニット101が、路面状態検出用領域において第1の露光量(露光時間)で偏光度画像用の画像フレームを撮像するとともに、標識検出用領域において第2の露光量(露光時間)でカラー画像用の画像フレームを撮像する構成であるとよい。例えば、画像解析ユニット102が、撮像素子206の各画素が入射光を電気信号に変換する時間を制御することにより、露光量(露光時間)を変える構成とすればよい。
即ち、路面状態検出用領域については、画像解析ユニット102が、路面状態検出用領域を透過する光の光量を検出しながら自動露光調整を行うことにより、撮像ユニット101は第1の露光量(露光時間)で路面状態を撮像する。標識検出用領域においては、画像解析ユニット102が、標識検出用領域を透過する光の光量を検出しながら自動露光調整を行うことにより、撮像ユニット101は第2の露光量(露光時間)で標識の画像を撮像する。これにより、それぞれの画像について、最適な露光量で画像を撮像することが可能となる。
なお、標識検出用領域は光量変化が大きい。具体的には、車両周辺の照度は昼間の数万ルクスから夜間の1ルクス以下まで変化するため、その撮像シーンに応じて露光時間を調整する必要がある。これに対しては、画像解析ユニット102が公知の自動露光制御を行えばよい。
一方、路面状態検出用領域については、標識検出用領域の露光時間の半分の固定露光時間で撮像する(露光量を固定として撮像する)ことも可能である。これにより、露光制御時間の短縮、露光制御の簡素化などを実現できる。
図13は、本実施形態における露光制御の手順を示すフローチャートである。まず、画像解析ユニット102は、偏光子が配置されていない標識検出用領域に対して露光調整を行う。そして、撮像ユニット101は、画像解析ユニット102による露光調整で設定された第2の露光量で、カラー画像用の画像フレームの撮像を行う(ステップS120)。
次に、画像解析ユニット102は、ステップS120で撮像されたカラー画像用の画像フレームの解析を行って(ステップS121)、車両走行制御ユニット108等に各種制御を行わせるための指示信号を送出する(ステップS122)。
次に、画像解析ユニット102は、偏光子が配置されている路面状態検出用領域に対して露光調整を行う。そして、撮像ユニット101は、画像解析ユニット102による露光調整で設定された第1の露光量で、偏光度画像用の画像フレームの撮像を行う(ステップS123)。
次に、画像解析ユニット102は、ステップS123で撮像された偏光度画像用の画像フレームの解析を行う(ステップS124)。ステップS124では必要に応じて、ステップS120で得られたカラー画像から、ステップS123で得られた偏光度画像に基づく所定の成分を差し引くことにより、霞の影響を低減したカラー画像を生成する処理が実行されてもよい。
そして、画像解析ユニット102は、ステップS124での解析結果に基づいて、ヘッドランプ制御ユニット103、車両走行制御ユニット108等に各種制御を行わせるための指示信号を送出する(ステップS125)。
そして、画像解析ユニット102は、所定の終了指示(車両100の運転者による終了指示など)があるまで、ステップS120〜S125の処理を繰り返し実行する(ステップS126)。
以降では、光学フィルタ205が有する分光フィルタ層221の分光特性について説明する。図14は、分光フィルタ層221の分光特性を示すグラフである。分光フィルタ層221は、図14に示すように波長範囲400nm〜670nm(ここでは、λ1=400nm、λ2=670nm)のいわゆる可視光領域の入射光と、波長範囲940nm〜1000nm(ここでは、λ3=940nm、λ4=1000nm)の赤外光領域の入射光を透過させ、波長範囲670nm〜940nmの入射光をカットする透過率特性を有する。波長範囲400nm〜670nm及び波長範囲940〜1000nmの透過率は30%以上であることが好ましく、90%以上であることがより好ましい。波長範囲670nm〜940nmの透過率は20%以下であることが好ましく、5%以下であることがより好ましい。
ここで、車両100のヘッドランプ104の投光波長は、分光フィルタ層221の赤外側の透過波長範囲940nm〜1000nmとオーバラップするものとする。
可視光領域の入射光は車両周辺情報の検出に用いられ、赤外光領域の入射光は夜間時の路面状態の検出や障害物の検出に用いられる。波長範囲670nm〜940nmの入射光を透過させない理由は、この波長範囲の入射光を撮像素子206が取り込んだ場合、得られる撮像画像データが全体的に赤くなってしまい、赤色標識の赤色を示す部分等を抽出することや、テールランプに対応する赤色の画像部分を識別することが困難となる場合があるからである。
そこで、図14に示すような赤外光領域の大部分の波長範囲(670nm〜940nm)をカットする特性をもつ分光フィルタ層221を有効撮像領域全体に形成すれば、外乱光を除去できるため、例えば日本での一時停止標識など赤色を含む標識の検出精度や、テールランプの識別精度を向上させることができる。なお、波長範囲940〜1000nm、及び、波長範囲400nm〜670nmは、本発明に係る波長範囲の代表的な一例である。
ところで、撮像ユニット101の撮像方向を下方へ傾けていくと、撮像領域内の下部に自車両のボンネットが入り込んでくる場合がある。この場合、自車両のボンネットで反射した太陽光や先行車両のテールランプなどが外乱光となり、これが撮像画像データに含まれることで対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の誤識別の原因となる。このような場合でも、本実施形態では、有効撮像領域全体に波長範囲670nm〜940nmの光を遮断する分光フィルタ層221が形成されているので、ボンネットで反射した太陽光や先行車両のテールランプなどの外乱光が除去される。よって、対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の識別精度が向上する。
なお、既に述べたように、光学フィルタ205は、撮像素子206の撮像レンズ204側の面に近接配置されている。これは、光学フィルタ205と撮像素子206が離れるほど、隣接する画素間で光学的なクロストークが生じやすくなるためである。従って、光学フィルタ205と撮像素子206との隙間は2μm以下となるように接着などの方法により密着接合されることが望ましい。これにより、光学フィルタ205の路面状態検出用領域と標識検出用領域の境界と、撮像素子206の画素の境界とを一致させやすくなる。
光学フィルタ205と撮像素子206は、例えば、UV接着剤で接合されてもよいし、有効撮像領域外でスペーサにより支持された状態で有効撮像領域外の四辺領域をUV接着や熱圧着されてもよい。
以降では、光学フィルタ205の各部詳細について説明する。基板220は、使用波長帯域(本実施形態では可視光領域と赤外光領域)の光を透過可能な透明な材料、例えば、ガラス、サファイア、水晶などで構成されている。本実施形態では、ガラス、特に、安価でかつ耐久性もある石英ガラス(屈折率1.46)やテンパックスガラス(屈折率1.51)を好適に用いることができる。
基板220上に形成される偏光フィルタ層223は、図15に示すようなワイヤグリッド構造で形成された偏光子で構成され、撮像素子206側の面は凹凸面である。ワイヤグリッド構造は、アルミニウムなどの金属で構成された特定方向に延びる金属ワイヤ(導電体線)を特定のピッチで配列した構造である。ワイヤグリッド構造のワイヤピッチを、入射光の波長帯(例えば、400nm〜800nm)に比べて十分に小さいピッチ(例えば1/2以下)とすることで、金属ワイヤの長手方向に対して平行に振動する電場ベクトル成分の光をほとんど反射し、金属ワイヤの長手方向に対して直交する方向に振動する電場ベクトル成分の光をほとんど透過させるため、単一偏光を作り出す偏光子として使用できる。
ワイヤグリッド構造の偏光子は、一般に、金属ワイヤの断面積が増加すると、消光比が増加し、更に周期幅に対する所定の幅以上の金属ワイヤでは透過率が減少する。また、金属ワイヤの長手方向に直交する断面形状がテーパ形状であると、広い帯域において透過率、偏光度の波長分散性が少なく、高消光比特性を示す。
本実施形態では、偏光フィルタ層223がワイヤグリッド構造で形成されていることにより、以下のような効果を有する。ワイヤグリッド構造は、広く知られた半導体製造プロセスを利用して形成することができる。具体的には、基板220上にアルミニウム薄膜を蒸着した後、パターニングを行い、メタルエッチングなどの手法によってワイヤグリッドのサブ波長凹凸構造を形成すればよい。このような製造プロセスにより、撮像素子206の撮像画素サイズ相当(数μmレベル)で金属ワイヤの長手方向、即ち偏光方向(偏光軸)を調整することが可能となる。よって、本実施形態のように、撮像画素単位で金属ワイヤの長手方向、即ち偏光方向(偏光軸)を異ならせた偏光フィルタ層223を作成することができる。
また、ワイヤグリッド構造は、アルミニウムなどの金属材料によって作製されるため、耐熱性に優れ、高温になりやすい車両室内などの高温環境下においても好適に使用できるという利点もある。
上述のように、偏光フィルタ層223の偏光子はサブ波長サイズのワイヤグリッド構造であり、機械的強度が弱く、わずかな外力によって金属ワイヤが損傷してしまう。本実施形態の光学フィルタ205は、撮像素子206に密着配置することが望まれるため、その製造段階において光学フィルタ205と撮像素子206とが接触する可能性がある。また、光学フィルタ205と撮像素子206は平行に配置されることが望ましく、間に平坦化層が形成されていることが望ましい。
充填材224は、偏光フィルタ層223の積層方向上面を平坦化するために用いられ、偏光フィルタ層223の金属ワイヤ間の凹部に充填される。この充填材224としては、基板220よりも屈折率が低いか、または同等の屈折率を有する無機材料を好適に利用できる。なお、本実施形態における充填材224は、偏光フィルタ層223の金属ワイヤ部分の積層方向上面も覆うように形成される。
充填材224は、偏光フィルタ層223の偏光特性を劣化させないように、その屈折率が空気の屈折率(屈折率=1)に極力近い低屈折率材料からなることが好ましい。具体的な材料としては、例えば、セラミックス中に微細な空孔を分散させて形成してなる多孔質のセラミックス材料が好ましく、具体的には、ポーラスシリカ(SiO2)、ポーラスフッ化マグネシウム(MgF)、ポーラスアルミナ(Al23)などが挙げられる。また、これらの低屈折率の程度は、セラミックス中の空孔の数や大きさ(ポーラス度)によって決まる。基板220の主成分がシリカの水晶やガラスからなる場合には、ポーラスシリカ(n=1.22〜1.26)が好適に使用できる。
充填材224の形成方法としては、例えば、無機系塗布膜(SOG:Spin On Glass)法を好適に用いることができる。具体的には、シラノール(Si(OH)4)をアルコールに溶かした溶剤を、基板220上に形成された偏光フィルタ層223上にスピン塗布し、その後に熱処理によって溶媒成分を揮発させ、シラノール自体を脱水重合反応させるような経緯で充填材224が形成される。
以上述べたように、本実施形態では、偏光フィルタ層223の積層方向上面、即ち撮像素子206側の面が充填材224によって覆われているので、撮像素子206と接触した際にワイヤグリッド構造が損傷するような事態が抑制される。
また、本実施形態のように充填材224を偏光フィルタ層223のワイヤグリッド構造における金属ワイヤ間の凹部へ充填することで、その凹部への異物進入を防止することができる。
本実施形態の分光フィルタ層221は、高屈折率の薄膜と低屈折率の薄膜とを交互に多層重ねた多層膜構造で作製されている。このような多層膜構造を採用すれば、光の干渉を利用することで分光透過率の設定自由度が高くなり、また、薄膜を多層重ねることで特定波長(例えば赤色以外の波長帯域帯)に対して100%近い反射率を実現することも可能である。
以上説明したように、本実施形態の画像処理システム及びそれを備えた車両は、カラーセンサ及び偏光フィルタ層を有しているため、路面状態の検出に加え、標識認識においては色で表現された注意レベルも検出することができ、標識認識の精度を向上させることができる。
(第2の実施形態)
本発明に係る画像処理システム及びそれを備えた車両の第2の実施形態を図面を参照しながら説明する。なお、既に説明した実施形態と同様の構成及び動作については適宜説明を省略する。
本実施形態では、偏光フィルタ層の領域分割方法を変更した例を示す。本実施形態における偏光フィルタ層には、各画素グループに含まれる2つのG画素の一方に入射光の水平偏光成分Pを入射させるための偏光子、及び、2つのG画素の他方に入射光の垂直偏光成分Sを入射させるための偏光子が形成されている。
図16は、第1の実施形態の図5に示した光学フィルタ205の偏光フィルタ層223と、撮像素子206の画素との対応を例示する模式図に関して、偏光子のパターンの他の一例を示すものである。
即ち、図16は、入射光の水平偏光成分Pを透過させる偏光子が、領域g1に配置されたG画素と対応するように配置されるとともに、入射光の垂直偏光成分Sを透過させる偏光子が、領域g2に配置されたG画素と対応するように配置される例を示している。領域r及びbには、偏光子は配置されておらず、これらの領域への入射光は偏光制限を受けない。即ち、偏光子が配置される領域は有効撮像領域の1/2を占める。
この結果、各画素グループからは、偏光制限されない領域rのR画素の画素値Irと、水平偏光成分Pのみが透過する領域g1のG画素の画素値Ig1と、垂直偏光成分Sのみが透過する領域g2のG画素の画素値Ig2と、偏光制限されない領域bのB画素の画素値Ibが出力される。
画像解析ユニット102は、各画素グループから水平偏光成分Pのみの情報が含まれた画素値Ig1と、垂直偏光成分Sのみの情報が含まれた画素値Ig2を取得し、公知の画像補間処理を行うことにより、水平偏光成分画像と垂直偏光成分画像の2種類の画像を生成する。例えば、水平偏光成分画像を形成する場合には、領域g2、r、及びbの画素値を、同一の画素グループ及び隣接する画素グループが有する領域g1の画素値の平均値とすればよい。一方、垂直偏光成分画像を形成する場合には、領域g1、r、及びbの画素値を、同一の画素グループ及び隣接する画素グループが有する領域g2の画素値の平均値とすればよい。
さらに、画像解析ユニット102は、水平偏光成分画像の画素値をI(P)、垂直偏光成分画像の画素値をI(S)として、既に示した式(1)から各画素の偏光度を求めることにより、輝度情報に依存しない偏光度画像を生成する。図16に示した例では、画素グループごとの偏光度は(Ig1−Ig2)/(Ig1+Ig2)に相当するものとなる。
さらに、画像解析ユニット102は、上記のような画像補間技術を用いることで、カラー画像を生成する。本実施形態においては、画素グループの2つのG画素が、入射光の水平偏光成分Pと垂直偏光成分Sの情報が含まれた画素値を出力するため、これらの和を取ったものが偏光制限を受けない画素値相当と考えてよい。ここで、G画素2個相当の画素値は、2×(Ig1+Ig2)となる。
即ち、画素値Ig1とIg2の和の2倍と、偏光制限を受けない画素値Ir及びIbからR画像、G画像、B画像が得られるため、これらの重ね合わせによりカラー画像が生成される。
以上説明したように、本実施形態の画像処理システム及びそれを備えた車両は、第1の実施形態に比べて水平偏光成分Pの値が真値に近いため偏光度画像の精度を向上できる。また、カラー画像に関しても、上述の演算により解像度を損なうことなく生成することが可能となる。
(第3の実施形態)
本発明に係る画像処理システム及びそれを備えた車両の第3の実施形態を図面を参照しながら説明する。なお、既に説明した実施形態と同様の構成及び動作については適宜説明を省略する。
本実施形態では、偏光フィルタ層の領域分割方法を変更した他の例を示す。本実施形態における偏光フィルタ層には、各画素グループに含まれる2つのG画素の一方に入射光の垂直偏光成分Sを入射させるための偏光子、2つのG画素の他方に入射光の水平偏光成分Pを入射させるための偏光子、並びに、R画素及びB画素に入射光の水平偏光成分Pを入射させるための偏光子が形成されている。
図17は、第1の実施形態の図5に示した光学フィルタ205の偏光フィルタ層223と、撮像素子206の画素との対応を例示する模式図に関して、偏光子のパターンの他の一例を示すものである。即ち、図17は、入射光の垂直偏光成分Sを透過させる偏光子が、領域g1に配置されたG画素と対応するように配置されるとともに、入射光の水平偏光成分Pを透過させる偏光子が、領域g2、r、及びbに配置されたG画素と対応するように配置される例を示している。即ち、偏光子が配置される領域は有効撮像領域の全体を占める。
この結果、各画素グループからは、水平偏光成分Pのみが透過する領域rのR画素の画素値Irと、垂直偏光成分Sのみが透過する領域g1のG画素の画素値Ig1と、水平偏光成分Pのみが透過する領域g2のG画素の画素値Ig2と、水平偏光成分Pのみが透過する領域bのB画素の画素値Ibが出力される。
画像解析ユニット102は、各画素グループから垂直偏光成分Sのみの情報が含まれた画素値Ig1と、水平偏光成分Pのみの情報が含まれた画素値Ig2を取得し、公知の画像補間処理を行うことにより、水平偏光成分画像と垂直偏光成分画像の2種類の画像を生成する。例えば、垂直偏光成分画像を形成する場合には、領域g2、r、及びbの画素値を、同一の画素グループ及び隣接する画素グループが有する領域g1の画素値の平均値とすればよい。一方、水平偏光成分画像を形成する場合には、領域g1の画素値を、同一の画素グループが有する領域g2、r、及びbの画素値の平均値とすればよい。
さらに、画像解析ユニット102は、水平偏光成分画像の画素値をI(P)、垂直偏光成分画像の画素値をI(S)として、既に示した式(1)から各画素の偏光度を求めることにより、輝度情報に依存しない偏光度画像を生成する。図17に示した例では、画素グループごとの偏光度は(Ig2−Ig1)/(Ig2+Ig1)に相当するものとなる。
さらに、画像解析ユニット102は、上記のような画像補間技術を用いることで、カラー画像を生成する。本実施形態においては、画素値Irから得られるR画像、画素値Ig2から得られるG画像、画素値Ibから得られるB画像の重ね合わせによりカラー画像が生成される。当該の画素値に着目すると、Ir+Ig2×2+Ibで色情報が得られる。
一般に、撮像装置を車両内に設置して車両外の画像を撮像しようとする場合、ダッシュボードやボンネットなどで反射された不要光が撮像画像データ中に重畳される場合がある。これらはノイズ光として、本来の標識検出などの認識率を低減させる要因となりうるが、このような不要光の偏光成分の大部分はS偏光成分である。従って、S偏光成分を抑制することでこれらの不要光は軽減可能である。
この点を考慮して、本実施形態の画像処理システム及びそれを備えた車両は、カラー画像をP偏光成分に限定して生成しているため、不要光の影響を受けないカラー画像を生成できる。
(第4の実施形態)
本発明に係る画像処理システム及びそれを備えた車両の第4の実施形態を図面を参照しながら説明する。なお、既に説明した実施形態と同様の構成及び動作については適宜説明を省略する。
本実施形態では、偏光フィルタ層の領域分割方法を変更した他の例を示す。本実施形態における偏光フィルタ層には、各画素グループに含まれる2つのG画素の一方にのみ、入射光の水平偏光成分P及び垂直偏光成分Sのいずれか一方を入射させるための偏光子が形成されている。
より具体的には、本実施形態における偏光フィルタ層には、1つの画素グループに含まれる2つのG画素の一方に入射光の水平偏光成分Pを入射させるための偏光子、前記一方のG画素から縦及び横に1画素離れたG画素に入射光の垂直偏光成分Sを入射させるための偏光子、及び、前記一方のG画素から斜めに1画素離れたG画素に入射光の水平偏光成分Pを入射させるための偏光子が、縦横に隣接する4つの画素グループを単位として周期的に形成されている。
図18は、光学フィルタ205の偏光フィルタ層223と、撮像素子206の画素との対応を例示する模式図である。即ち、図18は、画素グループI及びIVの領域g1に入射光の水平偏光成分Pを透過させる偏光子が配置され、画素グループII及びIIIの領域g1に入射光の垂直偏光成分Sを透過させる偏光子が配置される例を示している。画素グループI〜IVの領域g2、r及びbには、偏光子は配置されておらず、これらの領域への入射光は偏光制限を受けない。即ち、偏光子が配置される領域は有効撮像領域の1/4を占める。
この結果、画素グループI及びIVからは、偏光制限されない領域rのR画素の画素値Irと、水平偏光成分Pのみが透過する領域g1のG画素の画素値Ig1と、偏光制限されない領域g2のG画素の画素値Ig2と、偏光制限されない領域bのB画素の画素値Ibが出力される。
一方、画素グループII及びIIIからは、偏光制限されない領域rからの画素値Irと、垂直偏光成分Sのみが透過する領域g1からの画素値Ig1'と、偏光制限されない領域g2からの画素値Ig2と、偏光制限されない領域bからの画素値Ibが出力される。
画像解析ユニット102は、画素グループI及びIVから水平偏光成分Pのみの情報が含まれた画素値Ig1と、画素グループII及びIIIから垂直偏光成分Sのみの情報が含まれた画素値Ig1'を取得し、公知の画像補間処理を行うことにより、水平偏光成分画像と垂直偏光成分画像の2種類の画像を生成する。
さらに、画像解析ユニット102は、水平偏光成分画像の画素値をI(P)、垂直偏光成分画像の画素値をI(S)として、既に示した式(1)から各画素の偏光度を求めることにより、輝度情報に依存しない偏光度画像を生成する。図18に示した例では、縦または横に隣接する2つの画素グループごとの偏光度は(Ig1−Ig1')/(Ig1+Ig1')に相当するものとなる。
さらに、画像解析ユニット102は、上記のような画像補間技術を用いることで、カラー画像を生成する。本実施形態においては、偏光制限を受けない画素値Irから得られるR画像、偏光制限を受けない画素値Ig2から得られるG画像、偏光制限を受けない画素値Ibから得られるB画像の重ね合わせによりカラー画像が生成される。当該の画素値に着目すると、Ir+Ig2×2+Ibで色情報が得られる。
本実施形態の画像処理システム及びそれを備えた車両は、偏光子が形成された領域が第1〜3の実施形態に比べて少ないため、撮像素子に入射する光量をより多く取ることができ、結果、明るくかつ解像度の高いカラー画像を生成できるため、標識検出などを好適に行うことが可能である。
一方、本実施形態では、偏光度の演算が8画素(2つの画素グループ)で行われるため解像度は低下してしまうが、撮像画像データの比較的大きい領域の変化を捉えればよい場合(例えば、路面状態の変化など)は本実施形態における偏光子のパターンでも十分好適である。
なお、さらに解像度を低下させてもよい場合は、水平偏光成分Pの透過領域と垂直偏光成分Sの透過領域をさらに離散的(例えば、画素グループの縦横2組や3組おきに偏光子を形成するなど)に配置した構成であってもよい。
(第5の実施形態)
本発明に係る画像処理システム及びそれを備えた車両の第5の実施形態を図面を参照しながら説明する。なお、既に説明した実施形態と同様の構成及び動作については適宜説明を省略する。
本実施形態では、偏光フィルタ層の領域分割方法を変更した他の例を示す。本実施形態における偏光フィルタ層には、入射光の水平偏光成分P及び垂直偏光成分Sのいずれか一方を入射させるための偏光子が、ストライプ状のパターンとして形成されている。各画素グループは、ストライプ状のパターンに対応した第1の画素グループ群と、偏光子が配置されていない第2の画素グループ群と、に分類される。
図19は、第4の実施形態の図18に示した光学フィルタ205の偏光フィルタ層223と、撮像素子206の画素との対応を例示する模式図に関して、偏光子のパターンの他の一例を示すものである。即ち、図19は、第1の画素グループ群(画素グループI及びIII)の全画素に入射光の水平偏光成分Pを透過させる偏光子が配置される例を示している。第2の画素グループ群(画素グループII及びIV)の全画素には、偏光子は配置されておらず、これらの領域への入射光は偏光制限を受けない。即ち、偏光子が配置される領域は有効撮像領域の1/2を占める。
この結果、画素グループI及びIIIからは、水平偏光成分Pのみが透過する領域rのR画素の画素値Irと、水平偏光成分Pのみが透過する領域g1のG画素の画素値Ig1と、水平偏光成分Pのみが透過する領域g2のG画素の画素値Ig2と、水平偏光成分Pのみが透過する領域bのB画素の画素値Ibが出力される。
一方、画素グループII及びIVからは、偏光制限されない領域rのR画素の画素値Ir'と、偏光制限されない領域g1のG画素の画素値Ig1'と、偏光制限されない領域g2のG画素の画素値Ig2'と、偏光制限されない領域bのB画素の画素値Ib'が出力される。
即ち、画素値Ig1及びIg2には水平偏光成分Pのみの情報が含まれており、偏光制限されていない画素値Ig1'及びIg2'には水平偏光成分Pと垂直偏光成分Sの和に相当する情報が含まれている。例えば、第1の画素グループ群に属する画素グループIのG画素と、画素グループIに隣接する第2の画素グループ群に属する画素グループIIのG画素との間で、例えば(Ig1'+Ig2')と(Ig1+Ig2)の差分を取ることにより、G画素の垂直偏光成分Sのみの検出が可能となる。
画像解析ユニット102は、画素値Ig1及びIg2と、画素値Ig1'及びIg2'を取得し、公知の画像補間処理を行うことにより、G画素から水平偏光成分画像と垂直偏光成分画像の2種類の画像を生成する。なお、水平偏光成分画像及び垂直偏光成分画像は、G画素の代わりにR画素またはB画素から生成されてもよく、あるいは、3色全ての画素(R画素、G画素、及びB画素)から生成されてもよい。
さらに、画像解析ユニット102は、水平偏光成分画像の画素値をI(P)、垂直偏光成分画像の画素値をI(S)として、既に示した式(1)から各画素の偏光度を求めることにより、輝度情報に依存しない偏光度画像を生成する。上述のように、隣接する2つの画素グループごとの偏光度は、G画素のみを用いる場合には(Ig1'+Ig2'−2×(Ig1+Ig2))/(Ig1'+Ig2'+2×(Ig1+Ig2))、3色全ての画素を用いる場合には(Ir'+Ig1'+Ig2'+Ib'−2×(Ir+Ig1+Ig2+Ib))/(Ir'+Ig1'+Ig2'+Ib'+2×(Ir+Ig1+Ig2+Ib))に相当するものとなる。
さらに、画像解析ユニット102は、上記のような画像補間技術を用いることで、カラー画像を生成する。本実施形態においては、カラー画像は、第1の画素グループ群に属する画素グループIやIIIからの出力で生成されてもよいし、第2の画素グループ群に属する画素グループIIやIVからの出力で生成されてもよい。前者は映りこみ光が排除されたカラー画像となり、後者は明るいカラー画像となる。
例えば、光量を十分に取れる昼間や、街灯などの光が十分にある夜間は、画素グループIやIIIからの画素値に基づいて生成されるカラー画像を用いて、太陽光や街灯に起因する映りこみ光を除去して標識認識などを行うことが可能となる。一方、映りこみ光がなく、暗い夜間などに関しては、画素グループIIやIVの画素値に基づいて生成されるカラー画像を用いるなどの切換が画像解析ユニット102によって行われてもよい。
例えば、画像解析ユニット102は、運転者の動作(例えばハイビーム照射時)に応じて、カラー画像の生成に用いる画素グループを決定してもよいし、不図示の光量センサなどが車両100のフロントガラス105に貼り付けられている場合には、そのセンサからの照度出力値に応じて、カラー画像の生成に用いる画素グループを決定してもよい。
以上説明したように、本実施形態では、偏光子が形成された領域が2画素幅であるため、偏光フィルタ層と撮像素子の接合精度が緩和される。特に、図19に示したように、偏光子の形成領域がストライプ状であるため、図中横方向の位置調整のみ精密に行えばよく、偏光フィルタ層と撮像素子の接合のための調整がより容易な構成となっている。
(第6の実施形態)
本発明に係る画像処理システム及びそれを備えた車両の第6の実施形態を図面を参照しながら説明する。なお、既に説明した実施形態と同様の構成及び動作については適宜説明を省略する。本実施形態では、光学フィルタにおける分光フィルタ層の他の構成例を示す。
図20は、光学フィルタの構造の他の例を示す光透過方向に沿った断面模式図である。また、図21は、本実施形態における光学フィルタ205'をセンサ基板207側から見た正面模式図である。即ち、光学フィルタ205'は、図3等に示した光学フィルタ205の構成に加えて、基板220の撮像素子206側の面における有効撮像領域の所定領域(例えば、有効撮像領域の下部領域)に、上記偏光フィルタ層223及び充填材224を介して形成され、波長λ3〜λ4の範囲の波長成分の光を選択的に透過させる分光フィルタ層222(第2の分光フィルタ層)を有し、分光フィルタ層222の撮像素子206側の面が撮像素子206に近接配置されてなる。
つまり、光学フィルタ205'は、分光フィルタ層221と分光フィルタ層222とが光透過方向に重ね合わせられた構造となっている。
ここで、カラーセンサに用いられるカラーフィルタの分光特性は、一般に図22のような特性を示す。図22においては、R画素の分光特性は実線、G画素の分光特性は破線、B画素の分光特性は一点鎖線で示されている。即ち、800nmよりも短波長に関しては、R画素、G画素、及びB画素の各画素で分光特性が異なる。
これに対して、上記の光学フィルタ205'が有する分光フィルタ層222の分光特性は図23に示すようなものであるとよい。即ち、分光フィルタ層222は、例えば波長範囲940nm〜1000nmの近赤外光領域を透過帯域とする(波長940nmよりも短波長側の光をカットする)分光特性を有するものであるとよい。
波長範囲940nm〜1000nmの近赤外光領域は、図22に示したカラーフィルタの分光特性において3色全ての画素(R画素、G画素、及びB画素)の分光特性がほぼ一致する波長帯である。従って、例えば偏光フィルタ層223が3色全ての画素に対応する偏光子を有する場合に、本実施形態の画像処理システム及びそれを備えた車両は、分光フィルタ層222が形成された領域において、輝度情報の差異がほとんどない3色の画素を用いて、安定的かつ解像度の高い偏光度画像を生成することができる。これにより、分光フィルタ層222が形成された領域において、路面状態の検出精度を向上させることが可能となる。
次に、分光フィルタ層222の構造や作製方法について説明する。分光フィルタ層222は、分光フィルタ層221と同様に、高屈折率の薄膜と低屈折率の薄膜とを交互に多層重ねた多層膜構造として作製可能である。
本実施形態においては、撮像画像データの使用波長範囲が略可視光波長帯から赤外光波長帯であるため、当該使用波長範囲に感度を有する撮像素子206を採用している。分光フィルタ層222は、赤外光の一部のみを透過させればよいので、分光フィルタ層222の多層膜部分の透過波長範囲を例えば900nm以上に設定し、それ以外の波長帯は反射するカットフィルタ(図23参照)を形成すればよい。
このようなカットフィルタは、光学フィルタ205の積層方向下側から順に、「基板/(0.125L 0.25H 0.125L)p/媒質A」のような構成の多層膜を作製することで得られる。ここでいう「基板」は、上述した充填材224を意味する。また、「0.125L」は、低屈折率材料(例えばSiO2)の膜厚標記方法でnd/λを1Lとしたものであり、従って「0.125L」の膜は、1/8波長の光路長となるような膜厚をもつ低屈折率材料の膜である。なお、「n」は屈折率であり、「d」は厚みであり、「λ」はカットオフ波長である。
同様に、「0.25H」は、高屈折率材料(例えばTiO2)の膜厚標記方法でnd/λを1Hとしたものであり、従って「0.25H」の膜は、1/4波長の光路長となるような膜厚をもつ高屈折率材料の膜である。また、「p」は、かっこ内に示す膜の組み合わせを繰り返す(積層する)回数を示し、「p」が多いほどリップルなどの影響を抑制できる。また、媒質Aは、空気あるいは撮像素子206との密着接合のための樹脂や接着剤を意図するものである。
また、分光フィルタ層222において、赤外光波長帯のみを透過する多層膜構造としては、透過波長範囲が940〜970nmの範囲であるバンドパスフィルタであってもよい。このようなバンドパスフィルタは、例えば、「基板/(0.125L 0.5M 0.125L)p(0.125L 0.5H 0.125L)q(0.125L 0.5M 0.125L)r/媒質A」のような構成の多層膜を作製することで得られる。なお、高屈折率材料として二酸化チタン(TiO2)、低屈折率材料として二酸化珪素(SiO2)等を使用すれば、対候性の高い分光フィルタ層222を実現できる。
分光フィルタ層222の作製方法の一例について説明すると、まず、基板220及び偏光フィルタ層223上に形成された充填材224上に、上述した多層膜を形成する。このような多層膜を形成する方法としては、周知の蒸着等の方法を用いればよい。続いて、非分光領域(例えば、撮像素子206の上側領域)に対応する箇所について多層膜を除去する。
この除去方法としては、一般的なリフトオフ加工法を利用すればよい。リフトオフ加工法では、目的とするパターンとは逆のパターンを、金属やフォトレジスト等で事前に充填材224の層上に形成しておき、その上に多層膜を形成してから、非分光領域に対応する箇所の多層膜を当該金属やフォトレジストと一緒に除去する。
本実施形態では、分光フィルタ層222として多層膜構造を採用しているので、分光特性の設定自由度が高いという利点がある。
なお、本実施形態では、充填材224の上に積層される分光フィルタ層222については充填材224のような保護層を設けていない。これは、本発明者らの実験によれば、撮像素子206に分光フィルタ層222が接触しても、撮像画像に影響を及ぼすような損傷が発生しなかったため、低コスト化を優先して保護層を省略したものである。
また、偏光フィルタ層223の金属ワイヤ(凸部)の高さは一般に使用波長の半分以下と低い一方、分光フィルタ層222の高さは、高さ(厚み)を増すほど遮断波長での透過率特性を急峻にできるため、使用波長と同等から数倍程度の高さとしている。
充填材224の厚みが増すほど、その上面の平坦性を確保することが困難になり、光学フィルタ205の特性に影響を与えるので、充填材224を厚くするにも限度がある。そのため、本実施形態では、分光フィルタ層222を充填材で覆っていない。
即ち、本実施形態では、偏光フィルタ層223を充填材224で覆った後に分光フィルタ層222を形成しているため、充填材224の層を安定的に形成できる。また、充填材224の層の上面に形成される分光フィルタ層222もその特性を最適に形成することが可能である。
100 車両
101 撮像ユニット(撮像手段)
102 画像解析ユニット(画像解析手段)
103 ヘッドランプ制御ユニット
104 ヘッドランプ
105 フロントガラス(透明部材)
106 ワイパー制御ユニット
107 ワイパー
108 車両走行制御ユニット
110 画像処理システム
111 タイヤ
112 バンパ
113 ナンバープレート
114 開口
204 撮像レンズ
205、205' 光学フィルタ
206 撮像素子
206a 画素アレイ
206b カラーフィルタ
207 センサ基板
208 信号処理部
220 基板
221 分光フィルタ層(第1の分光フィルタ層)
222 分光フィルタ層(第2の分光フィルタ層)
223 偏光フィルタ層
224 充填材
特許第2707426号明細書 特開2007−86720号公報

Claims (14)

  1. R画素、G画素、及びB画素が2次元配列されたベイヤー配列の撮像素子、及び、該撮像素子の前段に配置される光学フィルタを有する撮像手段と、
    前記撮像手段の撮像結果を解析する画像解析手段と、を備え、
    前記光学フィルタは、
    入射光を透過させる基板と、
    前記撮像素子の縦横に隣接する4画素からなる各画素グループに含まれる2つのG画素の一方にのみ、前記入射光の水平偏光成分及び垂直偏光成分のいずれか一方を入射させるための偏光子が形成された偏光フィルタ層と、を有し、
    前記画像解析手段は、前記一方のG画素の画素値、及び、前記2つのG画素の他方のG画素の画素値を用いて、水平偏光成分画像、垂直偏光成分画像、及び偏光度画像を生成するとともに、前記他方のG画素の画素値、R画素の画素値、及び、B画素の画素値を用いてカラー画像を生成することを特徴とする画像処理システム。
  2. R画素、G画素、及びB画素が2次元配列されたベイヤー配列の撮像素子、及び、該撮像素子の前段に配置される光学フィルタを有する撮像手段と、
    前記撮像手段の撮像結果を解析する画像解析手段と、を備え、
    前記光学フィルタは、
    入射光を透過させる基板と、
    前記撮像素子の縦横に隣接する4画素からなる各画素グループに含まれる2つのG画素の一方に前記入射光の水平偏光成分を入射させるための偏光子、及び、前記2つのG画素の他方に前記入射光の垂直偏光成分を入射させるための偏光子が形成された偏光フィルタ層と、を有し、
    前記画像解析手段は、前記2つのG画素の画素値を用いて、水平偏光成分画像、垂直偏光成分画像、及び偏光度画像を生成するとともに、前記2つのG画素の画素値、R画素の画素値、並びに、B画素の画素値を用いてカラー画像を生成することを特徴とする画像処理システム。
  3. R画素、G画素、及びB画素が2次元配列されたベイヤー配列の撮像素子、及び、該撮像素子の前段に配置される光学フィルタを有する撮像手段と、
    前記撮像手段の撮像結果を解析する画像解析手段と、を備え、
    前記光学フィルタは、
    入射光を透過させる基板と、
    前記撮像素子の縦横に隣接する4画素からなる各画素グループに含まれる2つのG画素の一方に前記入射光の垂直偏光成分を入射させるための偏光子、前記2つのG画素の他方に前記入射光の水平偏光成分を入射させるための偏光子、並びに、R画素及びB画素に前記入射光の水平偏光成分を入射させるための偏光子が形成された偏光フィルタ層と、を有し、
    前記画像解析手段は、前記2つのG画素の画素値を用いて、水平偏光成分画像、垂直偏光成分画像、及び偏光度画像を生成するとともに、前記他方のG画素の画素値、R画素の画素値、及び、B画素の画素値を用いてカラー画像を生成することを特徴とする画像処理システム。
  4. R画素、G画素、及びB画素が2次元配列されたベイヤー配列の撮像素子、及び、該撮像素子の前段に配置される光学フィルタを有する撮像手段と、
    前記撮像手段の撮像結果を解析する画像解析手段と、を備え、
    前記光学フィルタは、
    入射光を透過させる基板と、
    前記撮像素子の縦横に隣接する4画素からなる各画素グループに含まれる2つのG画素の一方にのみ、前記入射光の水平偏光成分及び垂直偏光成分のいずれか一方を入射させるための偏光子が形成された偏光フィルタ層と、を有し、
    前記偏光フィルタ層は、1つの前記画素グループに含まれる2つのG画素の一方に前記入射光の水平偏光成分を入射させるための偏光子、前記一方のG画素から縦及び横に1画素離れたG画素に前記入射光の垂直偏光成分を入射させるための偏光子、及び、前記一方のG画素から斜めに1画素離れたG画素に前記入射光の水平偏光成分を入射させるための偏光子が、縦横に隣接する4つの前記画素グループを単位として周期的に形成されてなり、
    前記画像解析手段は、前記一方のG画素の画素値、及び、前記一方のG画素から縦または横に1画素離れたG画素の画素値を用いて、水平偏光成分画像、垂直偏光成分画像、及び偏光度画像を生成するとともに、前記2つのG画素の他方の画素値、R画素の画素値、及び、B画素の画素値を用いてカラー画像を生成することを特徴とする画像処理システム。
  5. R画素、G画素、及びB画素が2次元配列されたベイヤー配列の撮像素子、及び、該撮像素子の前段に配置される光学フィルタを有する撮像手段と、
    前記撮像手段の撮像結果を解析する画像解析手段と、を備え、
    前記光学フィルタは、
    入射光を透過させる基板と、
    前記入射光の水平偏光成分及び垂直偏光成分のいずれか一方を入射させるための偏光子が、ストライプ状のパターンとして形成された偏光フィルタ層と、を有し、
    前記撮像素子の縦横に隣接する4画素からなる各画素グループは、前記ストライプ状のパターンに対応した第1の画素グループ群と、前記偏光子が配置されていない第2の画素グループ群と、に分類され、
    前記画像解析手段は、前記偏光子が配置された前記第1の画素グループ群に属する画素グループの画素の画素値、及び、当該画素グループに隣接する前記第2の画素グループ群に属する画素グループの対応する画素の画素値を用いて、水平偏光成分画像、垂直偏光成分画像、及び偏光度画像を生成するとともに、前記第1及び第2の画素グループ群のいずれか一方に属する画素グループのG画素の画素値、R画素の画素値、及び、B画素の画素値を用いてカラー画像を生成することを特徴とする画像処理システム。
  6. 前記撮像手段は、路面を含む車両周辺情報を撮像するものであり、
    前記画像解析手段は、前記偏光度画像の偏光度に基づいて路面状態を判別するとともに、前記カラー画像に基づいて標識認識を行うことを特徴とする請求項1から請求項5のいずれか一項に記載の画像処理システム。
  7. 前記画像解析手段は、前記カラー画像から、前記偏光度画像に基づく所定の成分を差し引くことにより、前記カラー画像における霞を低減することを特徴とする請求項1から請求項6のいずれか一項に記載の画像処理システム。
  8. 前記光学フィルタは、
    前記基板の前記撮像素子と反対側の面における有効撮像領域の全面に形成され、波長λ1〜λ2、及び、λ3〜λ4(λ1<λ2<λ3<λ4)の範囲の波長成分の光を選択的に透過させる第1の分光フィルタ層をさらに有することを特徴とする請求項1から請求項7のいずれか一項に記載の画像処理システム。
  9. 前記光学フィルタは、
    前記基板の前記撮像素子側の面における前記有効撮像領域の所定領域に形成され、波長λ3〜λ4の範囲の波長成分の光を選択的に透過させる第2の分光フィルタ層をさらに有することを特徴とする請求項8に記載の画像処理システム。
  10. 前記撮像手段が前記偏光度画像用のフレームを撮像する際の露光量と、前記撮像手段が前記カラー画像用のフレームを撮像する際の露光量とが異なることを特徴とする請求項1から請求項9のいずれか一項に記載の画像処理システム。
  11. 前記画像解析手段は、前記水平偏光成分画像の各画素の画素値をI(P)と、前記垂直偏光成分画像の各画素の画素値をI(S)とした場合、α×(I(P)−I(S))/(I(P)+I(S)) (ここでαは定数)の画像情報を算出するものであって、前記有効撮像領域の周辺部のαを前記有効撮像領域の中心部に比べて大きくすることを特徴とする請求項1から請求項10のいずれか一項に記載の画像処理システム。
  12. 前記画像解析手段は、前記偏光度画像に基づいて、暗部に存在する物体の検出を行うことを特徴とする請求項1から請求項11のいずれか一項に記載の画像処理システム。
  13. 請求項1から請求項12のいずれか一項に記載の画像処理システムと、
    前記画像処理システムが備える前記画像解析手段により生成された偏光度画像及びカラー画像に基づいて、車両の走行を支援する走行支援制御を行う車両走行制御手段と、を備えることを特徴とする車両。
  14. 前記画像処理システムが備える前記第1及び第2の分光フィルタ層の透過波長λ3〜λ4の範囲に、車両のヘッドランプの投光波長帯の少なくとも一部が含まれることを特徴とする請求項13に記載の車両。
JP2012010016A 2012-01-20 2012-01-20 画像処理システム及びそれを備えた車両 Expired - Fee Related JP5853719B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012010016A JP5853719B2 (ja) 2012-01-20 2012-01-20 画像処理システム及びそれを備えた車両

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012010016A JP5853719B2 (ja) 2012-01-20 2012-01-20 画像処理システム及びそれを備えた車両

Publications (2)

Publication Number Publication Date
JP2013148505A true JP2013148505A (ja) 2013-08-01
JP5853719B2 JP5853719B2 (ja) 2016-02-09

Family

ID=49046124

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012010016A Expired - Fee Related JP5853719B2 (ja) 2012-01-20 2012-01-20 画像処理システム及びそれを備えた車両

Country Status (1)

Country Link
JP (1) JP5853719B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103604422A (zh) * 2013-12-03 2014-02-26 深圳市开立科技有限公司 一种多模式成像方法和设备
WO2015025676A1 (ja) * 2013-08-20 2015-02-26 オリンパス株式会社 撮像装置
JP2015046776A (ja) * 2013-08-28 2015-03-12 株式会社リコー 撮像装置および画像処理装置
JP2018040635A (ja) * 2016-09-06 2018-03-15 西日本高速道路エンジニアリング四国株式会社 冬用タイヤの判別方法
WO2018230119A1 (ja) * 2017-06-13 2018-12-20 ソニー株式会社 撮像装置と撮像素子および画像処理方法
CN113203664A (zh) * 2020-01-31 2021-08-03 卡尔蔡司显微镜有限责任公司 使用光学显微镜和多像素偏振滤光器进行颗粒分析
CN113390794A (zh) * 2020-03-13 2021-09-14 弗劳恩霍夫应用研究促进协会 用于检测表面上的水的设备和用于检测表面上的水的方法
WO2022113568A1 (ja) * 2020-11-30 2022-06-02 ソニーグループ株式会社 画像処理装置と画像処理方法およびプログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3701417A1 (en) 2017-10-27 2020-09-02 3M Innovative Properties Company Optical sensor systems
JP7359551B2 (ja) 2019-02-26 2023-10-11 本田技研工業株式会社 道路管理システム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008149489A1 (ja) * 2007-05-31 2008-12-11 Panasonic Corporation 画像処理装置
US20090315993A1 (en) * 2008-06-18 2009-12-24 Hideaki Hirai Image pickup and method of detecting road status
JP2010171861A (ja) * 2009-01-26 2010-08-05 Ricoh Co Ltd 撮像素子及び該撮像素子を備えた画像撮像装置
US20100282945A1 (en) * 2009-05-11 2010-11-11 Sony Corporation Two-dimensional solid-state image capture device and polarization-light data processing method therefor
US20110058038A1 (en) * 2009-09-04 2011-03-10 Lockheed Martin Corporation Single camera color polarimetric imaging
JP2011150686A (ja) * 2009-12-25 2011-08-04 Ricoh Co Ltd 物体識別装置、並びに、これを備えた移動体制御装置及び情報提供装置
US20120268602A1 (en) * 2009-12-25 2012-10-25 Hideaki Hirai Object identifying apparatus, moving body control apparatus, and information providing apparatus

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008149489A1 (ja) * 2007-05-31 2008-12-11 Panasonic Corporation 画像処理装置
US20090290039A1 (en) * 2007-05-31 2009-11-26 Katsuhiro Kanamori Image processing apparatus
US20090315993A1 (en) * 2008-06-18 2009-12-24 Hideaki Hirai Image pickup and method of detecting road status
JP2010025915A (ja) * 2008-06-18 2010-02-04 Ricoh Co Ltd 撮像装置及び路面状態判別方法
JP2010171861A (ja) * 2009-01-26 2010-08-05 Ricoh Co Ltd 撮像素子及び該撮像素子を備えた画像撮像装置
US20110285898A1 (en) * 2009-01-26 2011-11-24 Ryosuke Kasahara Imaging element and imaging apparatus using the same
US20100282945A1 (en) * 2009-05-11 2010-11-11 Sony Corporation Two-dimensional solid-state image capture device and polarization-light data processing method therefor
JP2010263158A (ja) * 2009-05-11 2010-11-18 Sony Corp 2次元固体撮像装置、及び、2次元固体撮像装置における偏光光データ処理方法
US20110058038A1 (en) * 2009-09-04 2011-03-10 Lockheed Martin Corporation Single camera color polarimetric imaging
JP2011150686A (ja) * 2009-12-25 2011-08-04 Ricoh Co Ltd 物体識別装置、並びに、これを備えた移動体制御装置及び情報提供装置
US20120268602A1 (en) * 2009-12-25 2012-10-25 Hideaki Hirai Object identifying apparatus, moving body control apparatus, and information providing apparatus

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015025676A1 (ja) * 2013-08-20 2015-02-26 オリンパス株式会社 撮像装置
JP2015041793A (ja) * 2013-08-20 2015-03-02 オリンパス株式会社 撮像装置
US9691802B2 (en) 2013-08-20 2017-06-27 Olympus Corporation Image-acquisition device
JP2015046776A (ja) * 2013-08-28 2015-03-12 株式会社リコー 撮像装置および画像処理装置
CN103604422A (zh) * 2013-12-03 2014-02-26 深圳市开立科技有限公司 一种多模式成像方法和设备
JP2018040635A (ja) * 2016-09-06 2018-03-15 西日本高速道路エンジニアリング四国株式会社 冬用タイヤの判別方法
CN110741632B (zh) * 2017-06-13 2021-08-03 索尼公司 拍摄装置、拍摄元件以及图像处理方法
CN110741632A (zh) * 2017-06-13 2020-01-31 索尼公司 拍摄装置、拍摄元件以及图像处理方法
JPWO2018230119A1 (ja) * 2017-06-13 2020-04-16 ソニー株式会社 撮像装置と撮像素子および画像処理方法
WO2018230119A1 (ja) * 2017-06-13 2018-12-20 ソニー株式会社 撮像装置と撮像素子および画像処理方法
US11108951B2 (en) 2017-06-13 2021-08-31 Sony Corporation Image capturing device and imaging element, and image processing method
JP7006690B2 (ja) 2017-06-13 2022-01-24 ソニーグループ株式会社 撮像装置と撮像素子および画像処理方法
CN113203664A (zh) * 2020-01-31 2021-08-03 卡尔蔡司显微镜有限责任公司 使用光学显微镜和多像素偏振滤光器进行颗粒分析
JP2021148790A (ja) * 2020-03-13 2021-09-27 フラウンホファー ゲセルシャフト ツール フェールデルンク ダー アンゲヴァンテン フォルシュンク エー.ファオ. 表面における水を検出するための装置、および表面における水を検出するための方法
KR20210117179A (ko) * 2020-03-13 2021-09-28 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 표면에서 물을 검출하는 장치 및 표면에서 물을 검출하는 방법
CN113390794A (zh) * 2020-03-13 2021-09-14 弗劳恩霍夫应用研究促进协会 用于检测表面上的水的设备和用于检测表面上的水的方法
KR102534538B1 (ko) * 2020-03-13 2023-05-26 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 표면에서 물을 검출하는 장치 및 표면에서 물을 검출하는 방법
US11680895B2 (en) 2020-03-13 2023-06-20 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Device for detecting water on a surface and a method for detecting water on a surface
JP7433265B2 (ja) 2020-03-13 2024-02-19 フラウンホファー ゲセルシャフト ツール フェールデルンク ダー アンゲヴァンテン フォルシュンク エー.ファオ. 表面における水を検出するための装置、および表面における水を検出するための方法
WO2022113568A1 (ja) * 2020-11-30 2022-06-02 ソニーグループ株式会社 画像処理装置と画像処理方法およびプログラム

Also Published As

Publication number Publication date
JP5853719B2 (ja) 2016-02-09

Similar Documents

Publication Publication Date Title
JP5853719B2 (ja) 画像処理システム及びそれを備えた車両
JP5899957B2 (ja) 画像処理システム及びそれを備えた車両
JP5633503B2 (ja) 画像処理システム、画像処理システムを備えた車両、画像処理方法及びプログラム
JP6380843B2 (ja) 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム
JP5561333B2 (ja) 画像処理装置、撮像方法、プログラムおよび車両
JP5761143B2 (ja) 撮像ユニット、撮像ユニットを搭載した車両
JP2013031054A (ja) 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ及びその製造方法
JP2013190416A (ja) 付着物検出装置及びこれを用いた車載機器制御装置
JP5936098B2 (ja) 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ
JP2013029451A (ja) 付着物検出装置及び付着物検出方法
JP2013197670A (ja) 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両
JP5858327B2 (ja) 撮像装置及びこれを備えた物体検出装置並びに偏光フィルタ
JP5862207B2 (ja) 画像処理システム
JP2013095315A (ja) 撮像装置内蔵ルームミラー装置及びそれを備えた車両
JP5887840B2 (ja) 画像処理装置
JP6098575B2 (ja) 撮像ユニット、画像処理装置および車両
JP2013162492A (ja) 撮像装置、撮像装置を備えた車両および位置調整方法
JP2013097223A (ja) 撮像方法及び撮像ユニット
JP6111514B2 (ja) 画像処理システム及びそれを備えた車両
JP5845820B2 (ja) 撮像ユニット及びそれを備えた車両
JP5967165B2 (ja) 画像処理システム、画像処理システムを備えたワイパー制御システム及び車両、並びにプログラム
JP5879937B2 (ja) 撮像ユニット
JP2016076916A (ja) 撮像装置、撮像方法、プログラムおよび移動体機器制御システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151026

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151123

R151 Written notification of patent or utility model registration

Ref document number: 5853719

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees