JPWO2012066609A1 - 環境推定装置及び車両制御装置 - Google Patents
環境推定装置及び車両制御装置 Download PDFInfo
- Publication number
- JPWO2012066609A1 JPWO2012066609A1 JP2012544011A JP2012544011A JPWO2012066609A1 JP WO2012066609 A1 JPWO2012066609 A1 JP WO2012066609A1 JP 2012544011 A JP2012544011 A JP 2012544011A JP 2012544011 A JP2012544011 A JP 2012544011A JP WO2012066609 A1 JPWO2012066609 A1 JP WO2012066609A1
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- image
- unit
- environment
- surrounding environment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q1/00—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
- B60Q1/02—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
- B60Q1/04—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
- B60Q1/14—Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights having dimming means
- B60Q1/1415—Dimming circuits
- B60Q1/1423—Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic
- B60Q1/143—Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic combined with another condition, e.g. using vehicle recognition from camera images or activation of wipers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q2300/00—Indexing codes for automatically adjustable headlamps or automatically dimmable headlamps
- B60Q2300/30—Indexing codes relating to the vehicle environment
- B60Q2300/31—Atmospheric conditions
- B60Q2300/314—Ambient light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mechanical Engineering (AREA)
- Traffic Control Systems (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Lighting Device Outwards From Vehicle And Optical Signal (AREA)
Abstract
Description
例えば、特許文献1には、自車前方を撮像する撮像手段と、撮像手段により撮像された画像に基づいてライト類を点灯又は消灯させるライト制御を行うライト制御手段とを有するオートライト装置が開示されている。この装置では、自車前方の明るさ(cd/m2)が、予め設定されたレベル1(第1基準値)以上である場合には、ライトの消灯が選択され、予め設定されたレベル2(第2基準値)よりも明るく、かつレベル1未満の明るさである場合には、スモールライトの点灯が選択される。そして、レベル2未満の明るさであると、ヘッドライトの点灯が選択される。
このように、従来の技術では、車両情報を検出するセンサや特別な画像認識処理チップが必要であり、構成の複雑化や部品点数の増加を招くという課題があった。
実施の形態1.
図1は、この発明の実施の形態1による環境推定装置を用いた車両制御装置の構成を示すブロック図である。図1において、実施の形態1の車両制御装置1は、車載機器の動作を制御する制御装置であり、環境推定装置2及び車両信号制御部6を備える。また、環境推定装置2は、車両カメラ(撮像部)で撮像されたカメラ画像(撮像画像)から当該車両の周辺環境を推定する装置であり、画像領域分割部3、カメラ画像情報抽出部(情報抽出部)4及び環境推定部5を備える。なお、車両カメラは、車外の風景のうち、特定の属性を有する風景の一部(例えば、空)が被写体に含まれる撮像範囲になるように、当該車両に固定設置されたカメラである。
また、画像領域分割部3、カメラ画像情報抽出部4、環境推定部5及び車両信号制御部6は、車両制御装置1又は車両ECUを構成するコンピュータが、本発明の趣旨に従う環境推定及び車両制御用プログラムを実行することにより、ソフトウェアとハードウェアとが協働した具体的手段として実現される。
また、自車が山間部を走行したときの車両カメラの被写体には、自然風景である“山”、“空”、走行道路を示す“地面”が含まれる。例えば、山道を走行し、自車の進行方向に山が遠目で見える場合、各画像領域での主な被写体は、領域(XY=11)では“山と空”、領域(XY=21)で“空”、領域(XY=31)で“山と空”である。また、領域(XY=12)で“山”、領域(XY=22)で“山と空”、領域(XY=32)では“山と空”であり、領域(XY=13)で“地面”、領域(XY=23)で“地面”、領域(XY=33)で“地面”である。
さらに、自車が都市以外の平野(建物がない草原など)を走行したときの車両カメラの被写体には、自然風景である草原などの“平野”、“空”、走行道路を示す“地面”が含まれる。例えば、平野を抜ける道路を走行している場合、各画像領域での主な被写体は、領域(XY=11)で“空”、領域(XY=21)で“空”、領域(XY=31)で“空”であり、領域(XY=12)で“平野”、領域(XY=22)で“平野と空”、領域(XY=32)では“平野”であり、領域(XY=13)で“地面”、領域(XY=23)で“地面”、領域(XY=33)で“地面”である。
そこで、実施の形態1では、上部矩形領域(Y=1)における画像領域(XY=11,21,31)のうちの少なくとも1つの画像領域を、被写体に空を含む画像領域として規定する。
図4は、実施の形態1による環境推定及び車両制御の流れを示すフローチャートである。この図に沿って環境推定処理と車両制御処理の詳細を説明する。なお、装置の構成については、図1を参照する。
先ず、カメラ画像情報抽出部4の単一領域輝度情報抽出部41が、画像領域分割部3により得られた複数の画像領域のうち、被写体に空を含む画像領域(「空」領域)から、当該画像領域内の画素の照度を平均した平均照度Eを検出する(ステップST1)。ここでは、車両カメラのカメラ画像のうち、図2の上部矩形領域(Y=1)に相当する画像領域の一部が、被写体に空を含む画像領域として特定される。以降では、単一領域輝度情報抽出部41が、上部矩形領域(Y=1)のうち、被写体が主に空である領域(XY=21)を被写体に空を含む画像領域として特定し、その平均照度Eを検出した場合を述べる。
車両信号制御部6は、自車の周辺環境(空)が明るいことを示す照度状態(高)の推定結果を受けると、この推定結果に基づいて、図3に示す照度状態と車両信号の内容との対応関係を示すデータを参照することで、車両ライトを消灯させる車両信号を車両ECUに出力する。これにより、車両ECUは、車両信号制御部6からの車両信号に従って、車両イルミネーションをオフする(ステップST4)。
車両信号制御部6は、自車の周辺環境(空)が暗いことを示す照度状態(低)の推定結果を受けると、この推定結果に基づいて、図3に示す照度状態と車両信号の内容との対応関係を示すデータを参照することにより、車両ライトを点灯する車両信号を車両ECUに出力する。車両ECUは、車両信号制御部6からの車両信号に従って、車両イルミネーションをオンする(ステップST6)。
ステップST4又はステップST6の処理を完了すると、ステップST1に戻り、上記処理を繰り返して空の明暗の変化を監視し、この変化に応じた車載機器(車両ライト)の制御を行う。
例えば、平均照度Eが閾値ILL_a以上の場合には、自車の周辺環境(空)が明るいと推定し、自車の全ての車両ライトを消灯する。平均照度Eが閾値ILL_b未満である場合は、自車の周辺環境(空)が暗いと推定し、車両ライトのうち、ヘッドライトを点灯する。また、平均照度Eが閾値ILL_a未満で閾値ILL_b以上の場合には、自車の周辺環境(空)がやや明るいと推定し、車両ライトのうち、スモールライトを点灯する。
特に、カメラ画像情報抽出部4が、空が撮像されている画像領域から、その輝度情報を抽出し、環境推定部5が、カメラ画像情報抽出部4によって抽出された輝度情報に基づいて、画像領域の輝度情報と周辺環境の明暗との対応関係を示す対応データを参照することにより、周辺環境の明暗を推定する。
このように、車両に固定設置された車両カメラのカメラ画像を分割した複数の画像領域のうち、被写体に空を含む画像領域は、一定位置の画像領域として特定できることから、この画像領域の平均照度Eを用いれば、自車の周辺環境の明暗の推定が可能である。これにより、専用の照度センサや画像認識用チップが不要であり、簡易な構成で自車の周辺環境を推定できる。
図5は、この発明の実施の形態2による環境推定装置を用いた車両制御装置の構成を示すブロック図である。図5において、実施の形態2の車両制御装置1Aは、車載機器の動作を制御する制御装置であり、環境推定装置2a及び車両信号制御部6を備える。また、環境推定装置2aは、車両カメラで撮像されたカメラ画像から当該車両の周辺環境を推定する装置であり、画像領域分割部3、カメラ画像情報抽出部4a及び環境推定部5aを備える。なお、図5において、図1と同一構成要素には同一符号を付して説明を省略する。
図6は、実施の形態2による環境推定及び車両制御の流れを示すフローチャートである。この図に沿って環境推定処理と車両制御処理の詳細を説明する。なお、装置の構成については、図5を参照する。
先ず、カメラ画像情報抽出部4aの単一領域色情報抽出部42が、画像領域分割部3により得られた複数の画像領域のうち、被写体に空を含む画像領域から、当該画像領域内の画素の色相を平均した平均色相H、画素の彩度を平均した平均彩度S及び画素の明度を平均した平均明度Vを検出する(ステップST1a)。ここでは、車両カメラのカメラ画像のうち、上記実施の形態1で示した図2の上部矩形領域(Y=1)が、被写体に空を含む画像領域として特定される。
また、平均彩度Sが所定の彩度閾値S_aより大きくない場合(ステップST2a−2;NO)、環境推定部5aは、この比較判定の結果に基づいて、予め設定された平均彩度と色状態との対応関係を示すデータを参照することで、自車の周辺環境(空)は霞んでいると推定して、この推定結果を車両信号制御部6に出力する(ステップST3a−2)。
さらに、平均明度Vが所定の明度閾値V_aより大きくない場合(ステップST2a−3;NO)、環境推定部5aは、この比較判定の結果に基づいて、予め設定された平均明度と色状態との対応関係を示すデータを参照することで、自車の周辺環境(空)は暗いと推定し、この推定結果を車両信号制御部6に出力する(ステップST3a−3)。
また、平均彩度Sが所定の彩度閾値S_aよりも大きい場合(ステップST2a−2;YES)、環境推定部5aは、この比較判定の結果に基づいて、予め設定された平均彩度と色状態との対応関係を示すデータを参照することで、自車の周辺環境(空)の色彩は、くっきりしていると推定して、この推定結果を車両信号制御部6に出力する(ステップST4a−2)。
さらに、平均明度Vが所定の明度閾値V_aより大きい場合(ステップST2a−3;YES)、環境推定部5aは、この比較判定の結果に基づいて、予め設定された平均明度と色状態との対応関係を示すデータを参照することで、自車の周辺環境(空)は明るいと推定し、この推定結果を車両信号制御部6に出力する(ステップST4a−3)。
ステップST5a、ステップST6a又はステップST7aの処理を完了すると、ステップST1aに戻り、上記処理を繰り返して自車の周辺環境の変化を監視し、この変化に応じた車載機器(車両ライト)の制御を行う。
図7は、画像領域の色相、色調及び色状態と周辺環境及び車両ライトへの車両信号の内容との対応関係の一例を示す図である。図7の例では、被写体に空を含む画像領域(上部矩形領域(Y=1))の平均色相Hが所定の色相範囲H_aにあり、かつその平均彩度Sが所定の彩度閾値S_aよりも大きく、かつその平均明度Vが所定の明度閾値V_aよりも大きい場合、自車の周辺環境(空)が青い色状態であると判断して、自車の周辺環境が昼で天気(晴れ)であると推定し、車両ライトを消灯する。
被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aにあり、かつその平均彩度Sが所定の彩度閾値S_aよりも大きいが、その平均明度Vが所定の明度閾値V_a以下であると、自車の周辺環境(空)が黒い色状態であると判断して、自車の周辺環境が夜であると推定し、車両ライト(ヘッドライト)を点灯する。
また、被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aにあるが、その平均彩度Sが所定の彩度閾値S_a以下であり、その平均明度Vが所定の明度閾値V_aよりも大きい場合は、自車の周辺環境(空)が灰色の色状態であると判断して、自車の周辺環境が昼で曇天であると推定し、車両ライト(スモールライト)を点灯する。
さらに、被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aにあるが、その平均彩度Sが所定の彩度閾値S_a以下、かつその平均明度Vが所定の明度閾値V_a以下である場合、自車の周辺環境(空)が黒い色状態にあると判断して、自車の周辺環境が夜であると推定し、車両ライト(ヘッドライト)を点灯する。
被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aになく、かつその平均彩度Sが所定の彩度閾値S_aよりも大きいが、その平均明度Vが所定の明度閾値V_a以下であると、自車の周辺環境(空)が黒い色状態であると判断して、自車の周辺環境が夜であると推定し、車両ライト(ヘッドライト)を点灯する。
また、被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aになく、その平均彩度Sが所定の彩度閾値S_a以下であり、その平均明度Vが所定の明度閾値V_aよりも大きい場合には、自車の周辺環境(空)が赤灰色の色状態であると判断して、自車の周辺環境が夕方で曇天であると推定し、車両ライト(スモールライト又はヘッドライト)を点灯する。
さらに、被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aになく、その平均彩度Sが所定の彩度閾値S_a以下かつその平均明度Vが所定の明度閾値V_a以下である場合、自車の周辺環境(空)が黒い色状態にあると判断して、自車の周辺環境が夜であると推定し、車両ライト(ヘッドライト)を点灯する。
図8は、この発明の実施の形態3による環境推定装置を用いた車両制御装置の構成を示すブロック図である。図8において、実施の形態3の車両制御装置1Bは、車載機器の動作を制御する制御装置であり、環境推定装置2b及び車両信号制御部6を備える。また、環境推定装置2bは、車両カメラで撮像されたカメラ画像から当該車両の周辺環境を推定する装置であり、画像領域分割部3、カメラ画像情報抽出部4b及び環境推定部5bを備える。なお、図8において、図1と同一構成要素には同一符号を付して説明を省略する。
なお、上部、中部、下部に区画された3つの画像領域とは、上記実施の形態1で示した図2の上部矩形領域(Y=1)、中部矩形領域(Y=2)、下部矩形領域(Y=3)に相当するものである。以降の説明では、複数領域輝度情報抽出部43が、上部矩形領域(Y=1)、中部矩形領域(Y=2)、下部矩形領域(Y=3)から、平均照度E1,E2,E3を求めるものとする。
環境推定の内容が昼であるが、霧の場合には、車両ライトのうち、スモールライトの点灯を指示する車両信号ILLがオンとなり、ワイパーの駆動を指示する車両信号がオフ、フォグライトの点灯を指示する車両信号がオンとなる。
環境推定の内容が夜であり、かつ雨でない場合は、車両ライト(ヘッドライト)の点灯を指示する車両信号ILLがオン、ワイパーの駆動を指示する車両信号がオフ、フォグライトの点灯を指示する車両信号がオフとなる。また、環境推定の内容が夜で雨の場合は、これに加えてワイパーの駆動を指示する車両信号がオンとなる。
環境推定の内容が昼であり、かつ雨の場合には、車両ライトのうち、スモールライトの点灯を指示する車両信号ILLがオンとなり、ワイパーの駆動を指示する車両信号がオン、フォグライトの点灯を指示する車両信号がオフとなる。
図10は、実施の形態3による環境推定及び車両制御の流れを示すフローチャートである。この図に沿って環境推定処理と車両制御処理の詳細を説明する。なお、装置の構成については、図8を参照する。
先ず、カメラ画像情報抽出部4bの複数領域輝度情報抽出部43が、画像領域分割部3により得られた複数の画像領域のうち、上部矩形領域(Y=1)、中部矩形領域(Y=2)及び下部矩形領域(Y=3)から、上部矩形領域(Y=1)の平均照度E1、中部矩形領域(Y=2)の平均照度E2、下部矩形領域(Y=3)の平均照度E3を検出する(ステップST1b)。
この照度関係にあれば(ステップST2b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することで、自車の周辺環境は昼で晴れであると推定し、この推定結果を車両信号制御部6に出力する(ステップST3b)。
一方、この照度関係にない場合(ステップST2b;NO)、環境推定部5bは、平均照度E1が平均照度E2,E3のいずれよりも大きく、かつ平均照度E2が平均照度E3よりも大きい照度関係(E1>E2,E3かつE2>E3)にあるか否かを判定する(ステップST4b)。
ここで、E1>E2,E3かつE2>E3の照度関係にある場合(ステップST4b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することにより、自車の周辺環境は昼で曇りであると推定し、この推定結果を車両信号制御部6に出力する(ステップST5b)。
この照度関係にあれば(ステップST6b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することで、自車の周辺環境は霧であると推定し、この推定結果を車両信号制御部6に出力する(ステップST7b)。
一方、この照度関係にない場合(ステップST6b;NO)、環境推定部5bは、平均照度E3が平均照度E1よりも大きくなく、かつ平均照度E2が平均照度E1,E3のいずれよりも大きい照度関係(E3>E1でなく、E2>E1,E3)にあるか否かを判定する(ステップST8b)。
ここで、E3>E1でなく、E2>E1,E3の照度関係にある場合(ステップST8b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することで、自車の周辺環境は夜であると推定し、この推定結果を車両信号制御部6に出力する(ステップST9b)。
この照度関係にあれば(ステップST10b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することで、自車の周辺環境は夜で雨であると推定し、この推定結果を車両信号制御部6に出力する(ステップST11b)。
一方、この照度関係にない場合(ステップST10b;NO)、環境推定部5bは、平均照度E2が平均照度E1よりも大きくなく、かつ平均照度E3が平均照度E1,E2のいずれよりも大きい照度関係(E2>E1でなく、E3>E1,E2)にあるか否かを判定する(ステップST12b)。
ここで、E2>E1でなく、かつE3>E1,E2の照度関係にある場合(ステップST12b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することにより、自車の周辺環境は雨であると推定して、この推定結果を車両信号制御部6に出力する(ステップST13b)。
E2>E1でなく、かつE3>E1,E2の照度関係になければ(ステップST12b;NO)、ステップST1bに戻り、上記処理を繰り返して自車の周辺環境の変化を監視し、この変化に応じた車載機器の制御を行う。
また、車両信号制御部6は、自車の周辺環境が昼で曇り(ステップST5b)との推定結果を受けると、この推定結果に基づいて、予め設定された環境推定の内容と車両信号の内容との対応関係を示すデータを参照することで、車両ライトを消灯させる車両信号を車両ECUに出力する。車両ECUは、車両信号制御部6からの車両信号に従い、車両ライトを消灯する(ステップST15b)。
また、車両信号制御部6は、自車の周辺環境が夜(ステップST9b)であるか、あるいは自車の周辺環境が夜で雨(ステップST11b)という推定結果を受けると、この推定結果に基づいて、予め設定された環境推定の内容と車両信号の内容との対応関係を示すデータを参照することで、車両ライトを消灯させる車両信号を車両ECUに出力する。車両ECUは、車両信号制御部6からの車両信号に従い、車両ライトのうち、ヘッドライトを点灯する(ステップST17b)。
また、車両信号制御部6は、自車の周辺環境が雨(ステップST13b)という推定結果を受けると、この推定結果に基づいて、予め設定された環境推定の内容と車両信号の内容との対応関係を示すデータを参照することで、スモールライトを点灯させる車両信号を車両ECUに出力する。車両ECUは、車両信号制御部6からの車両信号に従い、スモールライトを消灯する(ステップST19b)。
このように、車両に固定設置された車両カメラのカメラ画像を、上部矩形領域(Y=1)、中部矩形領域(Y=2)及び下部矩形領域(Y=3)の3つの画像領域に区画しておき、各画像領域の平均照度E1,E2,E3の関係を用いて自車の周辺環境を推定することから、専用センサや画像認識用チップが不要であり、簡易な構成で自車の周辺環境を推定できる。
実施の形態4は、車両カメラで撮像されたカメラ画像上のマーカーの形状が変化したか否かに応じて、自車の周辺環境を推定する。具体的には、車両カメラの投影面上の被写体の像が変化した場合に、当該車両カメラのカメラレンズ上の雨滴や雨膜によって光の反射や屈折が発生したと判断して自車の周辺が雨天であると推定する。
自車の周辺が雨になって、図11(b)に示すように、カメラレンズ7上に雨滴や雨膜のような光を屈折させる異物8が付着すると、カメラレンズ7での屈折に加え、異物8での屈折も起こることから、被写体S0は、車両カメラ内の投影面において、図11(a)とは異なる像S2を結ぶ。この場合、カメラ画像上で被写体S0の形状が変化する。
従って、カメラ画像におけるマーカーが、予め用意した被写体形状データで規定される形状から変化した場合には、自車の周辺が雨天であると判断できる。
また、環境推定装置2cは、車両カメラで撮像されたカメラ画像から当該車両の周辺環境を推定する装置であり、画像領域分割部3、カメラ画像情報抽出部4c及び環境推定部5cを備える。なお、この実施の形態4では、車体の一部が撮像範囲内に含まれるように車両カメラを固定設置しておき、当該車体の一部に特定形状のマーカーを設ける。
被写体形状抽出部44は、画像領域分割部3により得られた複数の画像領域から、特定形状のマーカーを設けた車体の一部が撮像されている画像領域を特定し、この画像領域でのマーカーの形状を抽出する構成部である。
被写体形状判定部45は、被写体形状抽出部44に抽出された画像領域でのマーカーの形状と、特定形状記憶部46に記憶される特定形状データが示す形状とが一致するか否かを判定する構成部であり、この形状判定結果をカメラ画像情報であるものとして環境推定部5cへ出力する。
特定形状記憶部46は、車両カメラのカメラレンズに光の屈折を生じる雨滴等の異物がない状態における、カメラ画像でのマーカーの形状を示す特定形状データを記憶する記憶部である。
すなわち、画像領域でのマーカーの形状と特定形状データが示す形状とが一致しなければ、車両カメラのカメラレンズ7に雨滴や雨膜のような異物8が付着しており、自車の周辺が、異物8を付着させるような例えば雨天であると推定する。
また、画像領域でのマーカーの形状と特定形状データが示す形状とが一致していれば、自車の周辺が、雨ではなく、カメラレンズ7に異物8が付着しない天候であると推定される。
また、自車が山間部を走行したときの車両カメラの被写体には、自然風景である“山”、“空”、走行道路を示す“地面”、車体の一部9である“ボディ”が含まれる。
例えば、山道を走行し、自車の進行方向に山が遠目で見える場合、各画像領域での主な被写体は、領域(XY=11)では“山と空”、領域(XY=21)で“空”、領域(XY=31)で“山と空”である。また、領域(XY=12)で“山”、領域(XY=22)で“山と空”、領域(XY=32)でも“山と空”であり、領域(XY=13)で“地面”、領域(XY=23)で“地面”、領域(XY=33)で“地面”である。さらに、領域(XY=14)、領域(XY=24)、領域(XY=34)では“ボディ”である。
さらに、自車が都市以外の平野(建物がない草原など)を走行したときの車両カメラの被写体には、自然風景である草原などの“平野”、“空”、走行道路を示す“地面”が含まれる。例えば、平野を抜ける道路を走行している場合、各画像領域での主な被写体は、領域(XY=11)で“空”、領域(XY=21)で“空”、領域(XY=31)で“空”であり、領域(XY=12)で“平野”、領域(XY=22)で“平野と空”、領域(XY=32)では“平野”であり、領域(XY=13)で“地面”、領域(XY=23)で“地面”、領域(XY=33)で“地面”である。領域(XY=14)、領域(XY=24)、領域(XY=34)では“ボディ”である。
そこで、この実施の形態4では、最下部矩形領域(Y=4)における画像領域(XY=14,24,34)の画像領域を、車体の一部9を含む画像領域として規定する。また、画像領域(XY=24)を被写体に特定形状のマーカーS0を含む画像領域と規定する。
図14は、実施の形態4による環境推定及び車両制御の流れを示すフローチャートである。この図に沿って環境推定処理と車両制御処理の詳細を説明する。なお、装置の構成については、図12を参照する。
先ず、カメラ画像情報抽出部4cの被写体形状抽出部44が、画像領域分割部3により得られた複数の画像領域の中から被写体に車体の一部9を含む矩形画像領域を特定して、この矩形画像領域から、マーカーS0を被写体に含む画像領域を抽出する(ステップST1c)。ここでは、車両カメラのカメラ画像のうち、図13の最下部矩形領域(Y=4)に相当する画像領域が、被写体に車体の一部9を含む矩形画像領域として特定され、最下部矩形領域(Y=4)中の画像領域(XY=24)が被写体にマーカーS0を含む画像領域として抽出される。
車両信号制御部6は、自車の周辺環境が雨であることを示す推定結果を受けると、従前にワイパーが駆動していなければ、この推定結果に基づいて、ワイパーを駆動させる車両信号を車両ECUに出力する。これにより、車両ECUは、車両信号制御部6からの車両信号に従って、ワイパーを駆動させる(ステップST4c)。
車両信号制御部6は、この推定結果を受けると、従前にワイパーを駆動させていれば、ワイパーを停止する車両信号を車両ECUに出力する。車両ECUは、車両信号制御部6からの車両信号に従って、ワイパーを停止する(ステップST6c)。
ステップST4c又はステップST6cの処理が完了すると、再びステップST1cに戻り、上記処理を繰り返して天候の変化を監視し、この変化に応じた車載機器の制御を行う。
例えば、特許文献1には、自車前方を撮像する撮像手段と、撮像手段により撮像された画像に基づいてライト類を点灯又は消灯させるライト制御を行うライト制御手段とを有するオートライト装置が開示されている。この装置では、自車前方の明るさ(cd/m2)が、予め設定されたレベル1(第1基準値)以上である場合には、ライトの消灯が選択され、予め設定されたレベル2(第2基準値)よりも明るく、かつレベル1未満の明るさである場合には、スモールライトの点灯が選択される。そして、レベル2未満の明るさであると、ヘッドライトの点灯が選択される。
このように、従来の技術では、車両情報を検出するセンサや特別な画像認識処理チップが必要であり、構成の複雑化や部品点数の増加を招くという課題があった。
実施の形態1.
図1は、この発明の実施の形態1による環境推定装置を用いた車両制御装置の構成を示すブロック図である。図1において、実施の形態1の車両制御装置1は、車載機器の動作を制御する制御装置であり、環境推定装置2及び車両信号制御部6を備える。また、環境推定装置2は、車両カメラ(撮像部)で撮像されたカメラ画像(撮像画像)から当該車両の周辺環境を推定する装置であり、画像領域分割部3、カメラ画像情報抽出部(情報抽出部)4及び環境推定部5を備える。なお、車両カメラは、車外の風景のうち、特定の属性を有する風景の一部(例えば、空)が被写体に含まれる撮像範囲になるように、当該車両に固定設置されたカメラである。
また、画像領域分割部3、カメラ画像情報抽出部4、環境推定部5及び車両信号制御部6は、車両制御装置1又は車両ECUを構成するコンピュータが、本発明の趣旨に従う環境推定及び車両制御用プログラムを実行することにより、ソフトウェアとハードウェアとが協働した具体的手段として実現される。
また、自車が山間部を走行したときの車両カメラの被写体には、自然風景である“山”、“空”、走行道路を示す“地面”が含まれる。例えば、山道を走行し、自車の進行方向に山が遠目で見える場合、各画像領域での主な被写体は、領域(XY=11)では“山と空”、領域(XY=21)で“空”、領域(XY=31)で“山と空”である。また、領域(XY=12)で“山”、領域(XY=22)で“山と空”、領域(XY=32)では“山と空”であり、領域(XY=13)で“地面”、領域(XY=23)で“地面”、領域(XY=33)で“地面”である。
さらに、自車が都市以外の平野(建物がない草原など)を走行したときの車両カメラの被写体には、自然風景である草原などの“平野”、“空”、走行道路を示す“地面”が含まれる。例えば、平野を抜ける道路を走行している場合、各画像領域での主な被写体は、領域(XY=11)で“空”、領域(XY=21)で“空”、領域(XY=31)で“空”であり、領域(XY=12)で“平野”、領域(XY=22)で“平野と空”、領域(XY=32)では“平野”であり、領域(XY=13)で“地面”、領域(XY=23)で“地面”、領域(XY=33)で“地面”である。
そこで、実施の形態1では、上部矩形領域(Y=1)における画像領域(XY=11,21,31)のうちの少なくとも1つの画像領域を、被写体に空を含む画像領域として規定する。
図4は、実施の形態1による環境推定及び車両制御の流れを示すフローチャートである。この図に沿って環境推定処理と車両制御処理の詳細を説明する。なお、装置の構成については、図1を参照する。
先ず、カメラ画像情報抽出部4の単一領域輝度情報抽出部41が、画像領域分割部3により得られた複数の画像領域のうち、被写体に空を含む画像領域(「空」領域)から、当該画像領域内の画素の照度を平均した平均照度Eを検出する(ステップST1)。ここでは、車両カメラのカメラ画像のうち、図2の上部矩形領域(Y=1)に相当する画像領域の一部が、被写体に空を含む画像領域として特定される。以降では、単一領域輝度情報抽出部41が、上部矩形領域(Y=1)のうち、被写体が主に空である領域(XY=21)を被写体に空を含む画像領域として特定し、その平均照度Eを検出した場合を述べる。
車両信号制御部6は、自車の周辺環境(空)が明るいことを示す照度状態(高)の推定結果を受けると、この推定結果に基づいて、図3に示す照度状態と車両信号の内容との対応関係を示すデータを参照することで、車両ライトを消灯させる車両信号を車両ECUに出力する。これにより、車両ECUは、車両信号制御部6からの車両信号に従って、車両イルミネーションをオフする(ステップST4)。
車両信号制御部6は、自車の周辺環境(空)が暗いことを示す照度状態(低)の推定結果を受けると、この推定結果に基づいて、図3に示す照度状態と車両信号の内容との対応関係を示すデータを参照することにより、車両ライトを点灯する車両信号を車両ECUに出力する。車両ECUは、車両信号制御部6からの車両信号に従って、車両イルミネーションをオンする(ステップST6)。
ステップST4又はステップST6の処理を完了すると、ステップST1に戻り、上記処理を繰り返して空の明暗の変化を監視し、この変化に応じた車載機器(車両ライト)の制御を行う。
例えば、平均照度Eが閾値ILL_a以上の場合には、自車の周辺環境(空)が明るいと推定し、自車の全ての車両ライトを消灯する。平均照度Eが閾値ILL_b未満である場合は、自車の周辺環境(空)が暗いと推定し、車両ライトのうち、ヘッドライトを点灯する。また、平均照度Eが閾値ILL_a未満で閾値ILL_b以上の場合には、自車の周辺環境(空)がやや明るいと推定し、車両ライトのうち、スモールライトを点灯する。
特に、カメラ画像情報抽出部4が、空が撮像されている画像領域から、その輝度情報を抽出し、環境推定部5が、カメラ画像情報抽出部4によって抽出された輝度情報に基づいて、画像領域の輝度情報と周辺環境の明暗との対応関係を示す対応データを参照することにより、周辺環境の明暗を推定する。
このように、車両に固定設置された車両カメラのカメラ画像を分割した複数の画像領域のうち、被写体に空を含む画像領域は、一定位置の画像領域として特定できることから、この画像領域の平均照度Eを用いれば、自車の周辺環境の明暗の推定が可能である。これにより、専用の照度センサや画像認識用チップが不要であり、簡易な構成で自車の周辺環境を推定できる。
図5は、この発明の実施の形態2による環境推定装置を用いた車両制御装置の構成を示すブロック図である。図5において、実施の形態2の車両制御装置1Aは、車載機器の動作を制御する制御装置であり、環境推定装置2a及び車両信号制御部6を備える。また、環境推定装置2aは、車両カメラで撮像されたカメラ画像から当該車両の周辺環境を推定する装置であり、画像領域分割部3、カメラ画像情報抽出部4a及び環境推定部5aを備える。なお、図5において、図1と同一構成要素には同一符号を付して説明を省略する。
図6は、実施の形態2による環境推定及び車両制御の流れを示すフローチャートである。この図に沿って環境推定処理と車両制御処理の詳細を説明する。なお、装置の構成については、図5を参照する。
先ず、カメラ画像情報抽出部4aの単一領域色情報抽出部42が、画像領域分割部3により得られた複数の画像領域のうち、被写体に空を含む画像領域から、当該画像領域内の画素の色相を平均した平均色相H、画素の彩度を平均した平均彩度S及び画素の明度を平均した平均明度Vを検出する(ステップST1a)。ここでは、車両カメラのカメラ画像のうち、上記実施の形態1で示した図2の上部矩形領域(Y=1)が、被写体に空を含む画像領域として特定される。
また、平均彩度Sが所定の彩度閾値S_aより大きくない場合(ステップST2a−2;NO)、環境推定部5aは、この比較判定の結果に基づいて、予め設定された平均彩度と色状態との対応関係を示すデータを参照することで、自車の周辺環境(空)は霞んでいると推定して、この推定結果を車両信号制御部6に出力する(ステップST3a−2)。
さらに、平均明度Vが所定の明度閾値V_aより大きくない場合(ステップST2a−3;NO)、環境推定部5aは、この比較判定の結果に基づいて、予め設定された平均明度と色状態との対応関係を示すデータを参照することで、自車の周辺環境(空)は暗いと推定し、この推定結果を車両信号制御部6に出力する(ステップST3a−3)。
また、平均彩度Sが所定の彩度閾値S_aよりも大きい場合(ステップST2a−2;YES)、環境推定部5aは、この比較判定の結果に基づいて、予め設定された平均彩度と色状態との対応関係を示すデータを参照することで、自車の周辺環境(空)の色彩は、くっきりしていると推定して、この推定結果を車両信号制御部6に出力する(ステップST4a−2)。
さらに、平均明度Vが所定の明度閾値V_aより大きい場合(ステップST2a−3;YES)、環境推定部5aは、この比較判定の結果に基づいて、予め設定された平均明度と色状態との対応関係を示すデータを参照することで、自車の周辺環境(空)は明るいと推定し、この推定結果を車両信号制御部6に出力する(ステップST4a−3)。
ステップST5a、ステップST6a又はステップST7aの処理を完了すると、ステップST1aに戻り、上記処理を繰り返して自車の周辺環境の変化を監視し、この変化に応じた車載機器(車両ライト)の制御を行う。
図7は、画像領域の色相、色調及び色状態と周辺環境及び車両ライトへの車両信号の内容との対応関係の一例を示す図である。図7の例では、被写体に空を含む画像領域(上部矩形領域(Y=1))の平均色相Hが所定の色相範囲H_aにあり、かつその平均彩度Sが所定の彩度閾値S_aよりも大きく、かつその平均明度Vが所定の明度閾値V_aよりも大きい場合、自車の周辺環境(空)が青い色状態であると判断して、自車の周辺環境が昼で天気(晴れ)であると推定し、車両ライトを消灯する。
被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aにあり、かつその平均彩度Sが所定の彩度閾値S_aよりも大きいが、その平均明度Vが所定の明度閾値V_a以下であると、自車の周辺環境(空)が黒い色状態であると判断して、自車の周辺環境が夜であると推定し、車両ライト(ヘッドライト)を点灯する。
また、被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aにあるが、その平均彩度Sが所定の彩度閾値S_a以下であり、その平均明度Vが所定の明度閾値V_aよりも大きい場合は、自車の周辺環境(空)が灰色の色状態であると判断して、自車の周辺環境が昼で曇天であると推定し、車両ライト(スモールライト)を点灯する。
さらに、被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aにあるが、その平均彩度Sが所定の彩度閾値S_a以下、かつその平均明度Vが所定の明度閾値V_a以下である場合、自車の周辺環境(空)が黒い色状態にあると判断して、自車の周辺環境が夜であると推定し、車両ライト(ヘッドライト)を点灯する。
被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aになく、かつその平均彩度Sが所定の彩度閾値S_aよりも大きいが、その平均明度Vが所定の明度閾値V_a以下であると、自車の周辺環境(空)が黒い色状態であると判断して、自車の周辺環境が夜であると推定し、車両ライト(ヘッドライト)を点灯する。
また、被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aになく、その平均彩度Sが所定の彩度閾値S_a以下であり、その平均明度Vが所定の明度閾値V_aよりも大きい場合には、自車の周辺環境(空)が赤灰色の色状態であると判断して、自車の周辺環境が夕方で曇天であると推定し、車両ライト(スモールライト又はヘッドライト)を点灯する。
さらに、被写体に空を含む画像領域の平均色相Hが所定の色相範囲H_aになく、その平均彩度Sが所定の彩度閾値S_a以下かつその平均明度Vが所定の明度閾値V_a以下である場合、自車の周辺環境(空)が黒い色状態にあると判断して、自車の周辺環境が夜であると推定し、車両ライト(ヘッドライト)を点灯する。
図8は、この発明の実施の形態3による環境推定装置を用いた車両制御装置の構成を示すブロック図である。図8において、実施の形態3の車両制御装置1Bは、車載機器の動作を制御する制御装置であり、環境推定装置2b及び車両信号制御部6を備える。また、環境推定装置2bは、車両カメラで撮像されたカメラ画像から当該車両の周辺環境を推定する装置であり、画像領域分割部3、カメラ画像情報抽出部4b及び環境推定部5bを備える。なお、図8において、図1と同一構成要素には同一符号を付して説明を省略する。
なお、上部、中部、下部に区画された3つの画像領域とは、上記実施の形態1で示した図2の上部矩形領域(Y=1)、中部矩形領域(Y=2)、下部矩形領域(Y=3)に相当するものである。以降の説明では、複数領域輝度情報抽出部43が、上部矩形領域(Y=1)、中部矩形領域(Y=2)、下部矩形領域(Y=3)から、平均照度E1,E2,E3を求めるものとする。
環境推定の内容が昼であるが、霧の場合には、車両ライトのうち、スモールライトの点灯を指示する車両信号ILLがオンとなり、ワイパーの駆動を指示する車両信号がオフ、フォグライトの点灯を指示する車両信号がオンとなる。
環境推定の内容が夜であり、かつ雨でない場合は、車両ライト(ヘッドライト)の点灯を指示する車両信号ILLがオン、ワイパーの駆動を指示する車両信号がオフ、フォグライトの点灯を指示する車両信号がオフとなる。また、環境推定の内容が夜で雨の場合は、これに加えてワイパーの駆動を指示する車両信号がオンとなる。
環境推定の内容が昼であり、かつ雨の場合には、車両ライトのうち、スモールライトの点灯を指示する車両信号ILLがオンとなり、ワイパーの駆動を指示する車両信号がオン、フォグライトの点灯を指示する車両信号がオフとなる。
図10は、実施の形態3による環境推定及び車両制御の流れを示すフローチャートである。この図に沿って環境推定処理と車両制御処理の詳細を説明する。なお、装置の構成については、図8を参照する。
先ず、カメラ画像情報抽出部4bの複数領域輝度情報抽出部43が、画像領域分割部3により得られた複数の画像領域のうち、上部矩形領域(Y=1)、中部矩形領域(Y=2)及び下部矩形領域(Y=3)から、上部矩形領域(Y=1)の平均照度E1、中部矩形領域(Y=2)の平均照度E2、下部矩形領域(Y=3)の平均照度E3を検出する(ステップST1b)。
この照度関係にあれば(ステップST2b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することで、自車の周辺環境は昼で晴れであると推定し、この推定結果を車両信号制御部6に出力する(ステップST3b)。
一方、この照度関係にない場合(ステップST2b;NO)、環境推定部5bは、平均照度E1が平均照度E2,E3のいずれよりも大きく、かつ平均照度E2が平均照度E3よりも大きい照度関係(E1>E2,E3かつE2>E3)にあるか否かを判定する(ステップST4b)。
ここで、E1>E2,E3かつE2>E3の照度関係にある場合(ステップST4b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することにより、自車の周辺環境は昼で曇りであると推定し、この推定結果を車両信号制御部6に出力する(ステップST5b)。
この照度関係にあれば(ステップST6b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することで、自車の周辺環境は霧であると推定し、この推定結果を車両信号制御部6に出力する(ステップST7b)。
一方、この照度関係にない場合(ステップST6b;NO)、環境推定部5bは、平均照度E3が平均照度E1よりも大きくなく、かつ平均照度E2が平均照度E1,E3のいずれよりも大きい照度関係(E3>E1でなく、E2>E1,E3)にあるか否かを判定する(ステップST8b)。
ここで、E3>E1でなく、E2>E1,E3の照度関係にある場合(ステップST8b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することで、自車の周辺環境は夜であると推定し、この推定結果を車両信号制御部6に出力する(ステップST9b)。
この照度関係にあれば(ステップST10b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することで、自車の周辺環境は夜で雨であると推定し、この推定結果を車両信号制御部6に出力する(ステップST11b)。
一方、この照度関係にない場合(ステップST10b;NO)、環境推定部5bは、平均照度E2が平均照度E1よりも大きくなく、かつ平均照度E3が平均照度E1,E2のいずれよりも大きい照度関係(E2>E1でなく、E3>E1,E2)にあるか否かを判定する(ステップST12b)。
ここで、E2>E1でなく、かつE3>E1,E2の照度関係にある場合(ステップST12b;YES)、環境推定部5bは、この判定結果に基づいて、予め設定された平均照度の関係と環境推定の内容との対応関係を示すデータを参照することにより、自車の周辺環境は雨であると推定して、この推定結果を車両信号制御部6に出力する(ステップST13b)。
E2>E1でなく、かつE3>E1,E2の照度関係になければ(ステップST12b;NO)、ステップST1bに戻り、上記処理を繰り返して自車の周辺環境の変化を監視し、この変化に応じた車載機器の制御を行う。
また、車両信号制御部6は、自車の周辺環境が昼で曇り(ステップST5b)との推定結果を受けると、この推定結果に基づいて、予め設定された環境推定の内容と車両信号の内容との対応関係を示すデータを参照することで、車両ライトを消灯させる車両信号を車両ECUに出力する。車両ECUは、車両信号制御部6からの車両信号に従い、車両ライトを消灯する(ステップST15b)。
また、車両信号制御部6は、自車の周辺環境が夜(ステップST9b)であるか、あるいは自車の周辺環境が夜で雨(ステップST11b)という推定結果を受けると、この推定結果に基づいて、予め設定された環境推定の内容と車両信号の内容との対応関係を示すデータを参照することで、車両ライトを消灯させる車両信号を車両ECUに出力する。車両ECUは、車両信号制御部6からの車両信号に従い、車両ライトのうち、ヘッドライトを点灯する(ステップST17b)。
また、車両信号制御部6は、自車の周辺環境が雨(ステップST13b)という推定結果を受けると、この推定結果に基づいて、予め設定された環境推定の内容と車両信号の内容との対応関係を示すデータを参照することで、スモールライトを点灯させる車両信号を車両ECUに出力する。車両ECUは、車両信号制御部6からの車両信号に従い、スモールライトを消灯する(ステップST19b)。
このように、車両に固定設置された車両カメラのカメラ画像を、上部矩形領域(Y=1)、中部矩形領域(Y=2)及び下部矩形領域(Y=3)の3つの画像領域に区画しておき、各画像領域の平均照度E1,E2,E3の関係を用いて自車の周辺環境を推定することから、専用センサや画像認識用チップが不要であり、簡易な構成で自車の周辺環境を推定できる。
実施の形態4は、車両カメラで撮像されたカメラ画像上のマーカーの形状が変化したか否かに応じて、自車の周辺環境を推定する。具体的には、車両カメラの投影面上の被写体の像が変化した場合に、当該車両カメラのカメラレンズ上の雨滴や雨膜によって光の反射や屈折が発生したと判断して自車の周辺が雨天であると推定する。
自車の周辺が雨になって、図11(b)に示すように、カメラレンズ7上に雨滴や雨膜のような光を屈折させる異物8が付着すると、カメラレンズ7での屈折に加え、異物8での屈折も起こることから、被写体S0は、車両カメラ内の投影面において、図11(a)とは異なる像S2を結ぶ。この場合、カメラ画像上で被写体S0の形状が変化する。
従って、カメラ画像におけるマーカーが、予め用意した被写体形状データで規定される形状から変化した場合には、自車の周辺が雨天であると判断できる。
また、環境推定装置2cは、車両カメラで撮像されたカメラ画像から当該車両の周辺環境を推定する装置であり、画像領域分割部3、カメラ画像情報抽出部4c及び環境推定部5cを備える。なお、この実施の形態4では、車体の一部が撮像範囲内に含まれるように車両カメラを固定設置しておき、当該車体の一部に特定形状のマーカーを設ける。
被写体形状抽出部44は、画像領域分割部3により得られた複数の画像領域から、特定形状のマーカーを設けた車体の一部が撮像されている画像領域を特定し、この画像領域でのマーカーの形状を抽出する構成部である。
被写体形状判定部45は、被写体形状抽出部44に抽出された画像領域でのマーカーの形状と、特定形状記憶部46に記憶される特定形状データが示す形状とが一致するか否かを判定する構成部であり、この形状判定結果をカメラ画像情報であるものとして環境推定部5cへ出力する。
特定形状記憶部46は、車両カメラのカメラレンズに光の屈折を生じる雨滴等の異物がない状態における、カメラ画像でのマーカーの形状を示す特定形状データを記憶する記憶部である。
すなわち、画像領域でのマーカーの形状と特定形状データが示す形状とが一致しなければ、車両カメラのカメラレンズ7に雨滴や雨膜のような異物8が付着しており、自車の周辺が、異物8を付着させるような例えば雨天であると推定する。
また、画像領域でのマーカーの形状と特定形状データが示す形状とが一致していれば、自車の周辺が、雨ではなく、カメラレンズ7に異物8が付着しない天候であると推定される。
また、自車が山間部を走行したときの車両カメラの被写体には、自然風景である“山”、“空”、走行道路を示す“地面”、車体の一部9である“ボディ”が含まれる。
例えば、山道を走行し、自車の進行方向に山が遠目で見える場合、各画像領域での主な被写体は、領域(XY=11)では“山と空”、領域(XY=21)で“空”、領域(XY=31)で“山と空”である。また、領域(XY=12)で“山”、領域(XY=22)で“山と空”、領域(XY=32)でも“山と空”であり、領域(XY=13)で“地面”、領域(XY=23)で“地面”、領域(XY=33)で“地面”である。さらに、領域(XY=14)、領域(XY=24)、領域(XY=34)では“ボディ”である。
さらに、自車が都市以外の平野(建物がない草原など)を走行したときの車両カメラの被写体には、自然風景である草原などの“平野”、“空”、走行道路を示す“地面”が含まれる。例えば、平野を抜ける道路を走行している場合、各画像領域での主な被写体は、領域(XY=11)で“空”、領域(XY=21)で“空”、領域(XY=31)で“空”であり、領域(XY=12)で“平野”、領域(XY=22)で“平野と空”、領域(XY=32)では“平野”であり、領域(XY=13)で“地面”、領域(XY=23)で“地面”、領域(XY=33)で“地面”である。領域(XY=14)、領域(XY=24)、領域(XY=34)では“ボディ”である。
そこで、この実施の形態4では、最下部矩形領域(Y=4)における画像領域(XY=14,24,34)の画像領域を、車体の一部9を含む画像領域として規定する。また、画像領域(XY=24)を被写体に特定形状のマーカーS0を含む画像領域と規定する。
図14は、実施の形態4による環境推定及び車両制御の流れを示すフローチャートである。この図に沿って環境推定処理と車両制御処理の詳細を説明する。なお、装置の構成については、図12を参照する。
先ず、カメラ画像情報抽出部4cの被写体形状抽出部44が、画像領域分割部3により得られた複数の画像領域の中から被写体に車体の一部9を含む矩形画像領域を特定して、この矩形画像領域から、マーカーS0を被写体に含む画像領域を抽出する(ステップST1c)。ここでは、車両カメラのカメラ画像のうち、図13の最下部矩形領域(Y=4)に相当する画像領域が、被写体に車体の一部9を含む矩形画像領域として特定され、最下部矩形領域(Y=4)中の画像領域(XY=24)が被写体にマーカーS0を含む画像領域として抽出される。
車両信号制御部6は、自車の周辺環境が雨であることを示す推定結果を受けると、従前にワイパーが駆動していなければ、この推定結果に基づいて、ワイパーを駆動させる車両信号を車両ECUに出力する。これにより、車両ECUは、車両信号制御部6からの車両信号に従って、ワイパーを駆動させる(ステップST4c)。
車両信号制御部6は、この推定結果を受けると、従前にワイパーを駆動させていれば、ワイパーを停止する車両信号を車両ECUに出力する。車両ECUは、車両信号制御部6からの車両信号に従って、ワイパーを停止する(ステップST6c)。
ステップST4c又はステップST6cの処理が完了すると、再びステップST1cに戻り、上記処理を繰り返して天候の変化を監視し、この変化に応じた車載機器の制御を行う。
または、撮像部で撮像された撮像画像を複数の画像領域に分割する画像領域分割部と、画像領域分割部に分割された複数の画像領域のうち、空が撮像されている画像領域から、当該画像領域の特徴を示す画像情報を抽出する情報抽出部と、情報抽出部によって抽出された画像情報に基づいて、画像領域の特徴と周辺環境の天候又は明暗との対応関係を示す対応データを参照することにより、周辺環境の天候又は明暗を推定する環境推定部とを備え、情報抽出部は、画像領域分割部に分割された複数の画像領域のうち、少なくとも空が撮像されている画像領域を含む上部画像領域、及び地面が撮像されている下部画像領域の輝度情報をそれぞれ抽出し、環境推定部は、情報抽出部によって抽出された各分割領域に対する各輝度情報を比較して各分割領域の輝度情報の大きさ関係を判断し、各分割領域の輝度情報の大きさ関係と周辺環境の天候及び明暗との対応関係を示す対応データを参照することにより、周辺環境の天候及び明暗を推定することを特徴とするものである。
Claims (6)
- 撮像部で撮像された撮像画像を複数の画像領域に分割する画像領域分割部と、
前記画像領域分割部に分割された複数の画像領域のうち、空が撮像されている画像領域から、当該画像領域の特徴を示す画像情報を抽出する情報抽出部と、
前記情報抽出部によって抽出された前記画像情報に基づいて、前記画像領域の特徴と周辺環境の天候又は明暗との対応関係を示す対応データを参照することにより、周辺環境の天候又は明暗を推定する環境推定部とを備えた環境推定装置。 - 前記情報抽出部は、前記空が撮像されている画像領域の輝度情報を抽出し、
前記環境推定部は、前記情報抽出部によって抽出された前記輝度情報に基づいて、前記画像領域の輝度情報と周辺環境の明暗との対応関係を示す対応データを参照することにより、周辺環境の明暗を推定することを特徴とする請求項1記載の環境推定装置。 - 前記情報抽出部は、前記空が撮像されている画像領域の色情報を抽出し、
前記環境推定部は、前記情報抽出部によって抽出された前記色情報に基づいて、前記画像領域の色情報と周辺環境の天候及び明暗との対応関係を示す対応データを参照することにより、周辺環境の天候及び明暗を推定することを特徴とする請求項1記載の環境推定装置。 - 前記情報抽出部は、前記画像領域分割部に分割された複数の画像領域のうち、少なくとも前記空が撮像されている画像領域を含む上部画像領域、及び地面が撮像されている下部画像領域の輝度情報をそれぞれ抽出し、
前記環境推定部は、前記情報抽出部によって抽出された前記各輝度情報に基づいて、前記各画像領域の輝度情報と周辺環境の天候及び明暗との対応関係を示す対応データを参照することにより、周辺環境の天候及び明暗を推定することを特徴とする請求項1記載の環境推定装置。 - 撮像部で撮像された撮像画像を複数の画像領域に分割する画像領域分割部と、
前記画像領域分割部に分割された複数の画像領域のうち、特定の形状を有するマーカーが撮像されている画像領域を抽出する情報抽出部と、
前記情報抽出部によって抽出された前記マーカーが撮像されている画像領域での当該マーカーの形状と、予め用意した当該マーカーの形状を示す形状データとが一致するか否かに応じて、周辺環境の天候を推定する環境推定部とを備えた環境推定装置。 - 撮像部で撮像された撮像画像を複数の画像領域に分割する画像領域分割部と、前記画像領域分割部に分割された複数の画像領域のうち、空が撮像されている画像領域から、当該画像領域の特徴を示す画像情報を抽出する情報抽出部と、前記情報抽出部によって抽出された前記画像情報に基づいて、前記画像領域の特徴と周辺環境の天候又は明暗との対応関係を示す対応データを参照することにより、周辺環境の天候又は明暗を推定する環境推定部とを有する環境推定装置と、
前記環境推定部による推定結果に応じて車載機器の駆動を制御する車両信号を生成する車両信号制御部とを備えた車両制御装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2010/006799 WO2012066609A1 (ja) | 2010-11-19 | 2010-11-19 | 環境推定装置及び車両制御装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2012066609A1 true JPWO2012066609A1 (ja) | 2014-05-12 |
JP5501477B2 JP5501477B2 (ja) | 2014-05-21 |
Family
ID=46083578
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012544011A Active JP5501477B2 (ja) | 2010-11-19 | 2010-11-19 | 環境推定装置及び車両制御装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9262817B2 (ja) |
JP (1) | JP5501477B2 (ja) |
DE (1) | DE112010006014T5 (ja) |
WO (1) | WO2012066609A1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10030833B2 (en) * | 2011-06-03 | 2018-07-24 | Osram Sylvania Inc. | Multimode color tunable light source and daylighting system |
EP3395613B1 (en) * | 2015-12-25 | 2024-03-20 | Hitachi Astemo, Ltd. | Headlight control device |
JP6817682B2 (ja) * | 2016-12-26 | 2021-01-20 | ダイハツ工業株式会社 | 車両の自動点灯制御システム、及び車両の自動点灯制御方法 |
EP3594060A1 (en) | 2017-01-20 | 2020-01-15 | Koito Manufacturing Co., Ltd. | Vehicle lamp control system |
US11325522B2 (en) | 2018-03-14 | 2022-05-10 | Hitachi Astemo, Ltd. | Automatic light system |
US10460210B1 (en) * | 2019-01-22 | 2019-10-29 | StradVision, Inc. | Method and device of neural network operations using a grid generator for converting modes according to classes of areas to satisfy level 4 of autonomous vehicles |
KR102220950B1 (ko) * | 2019-07-31 | 2021-02-26 | 엘지전자 주식회사 | 자율 주행 시스템에서 차량을 제어하기 위한 방법 및 장치 |
KR102343049B1 (ko) * | 2021-06-17 | 2021-12-24 | 주식회사 인피닉 | 인공지능 학습을 위한 이미지 메타데이터 생성 방법 및 이를 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램 |
KR102356907B1 (ko) * | 2021-06-17 | 2022-02-08 | 주식회사 인피닉 | 인공지능 학습용 데이터의 메타데이터 입력 방법 및 이를 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09142259A (ja) * | 1995-11-20 | 1997-06-03 | Tokai Rika Co Ltd | 雨滴センサ及び雨滴感応払拭装置 |
EP1734476A4 (en) * | 2004-03-29 | 2007-06-06 | Pioneer Corp | ROAD VISION ANALYSIS DEVICE AND METHOD |
JP2006036048A (ja) | 2004-07-28 | 2006-02-09 | Aisin Seiki Co Ltd | 車両ライト制御装置 |
US8086046B2 (en) * | 2005-06-27 | 2011-12-27 | Pioneer Corporation | Image analysis device and image analysis method |
JP2007057331A (ja) | 2005-08-23 | 2007-03-08 | Denso Corp | 車載霧判定装置 |
JP2007101307A (ja) * | 2005-10-03 | 2007-04-19 | Aisin Aw Co Ltd | ナビゲーション装置及びナビゲーション方法 |
JP4656429B2 (ja) | 2006-06-02 | 2011-03-23 | 株式会社デンソー | 前照灯制御システム |
JP2008028957A (ja) * | 2006-07-25 | 2008-02-07 | Denso Corp | 車両用画像処理装置 |
JP5074273B2 (ja) * | 2008-04-16 | 2012-11-14 | 株式会社デンソー | 車両用灯火制御装置 |
JP4937199B2 (ja) * | 2008-06-25 | 2012-05-23 | 日立オートモティブシステムズ株式会社 | オートライト装置 |
JP5567411B2 (ja) * | 2010-06-28 | 2014-08-06 | 日本電信電話株式会社 | 空模様判定システム及び空模様判定方法 |
-
2010
- 2010-11-19 DE DE112010006014T patent/DE112010006014T5/de not_active Ceased
- 2010-11-19 US US13/812,419 patent/US9262817B2/en not_active Expired - Fee Related
- 2010-11-19 JP JP2012544011A patent/JP5501477B2/ja active Active
- 2010-11-19 WO PCT/JP2010/006799 patent/WO2012066609A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JP5501477B2 (ja) | 2014-05-21 |
DE112010006014T5 (de) | 2013-08-14 |
US9262817B2 (en) | 2016-02-16 |
US20130116857A1 (en) | 2013-05-09 |
WO2012066609A1 (ja) | 2012-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5501477B2 (ja) | 環境推定装置及び車両制御装置 | |
US11048264B2 (en) | Systems and methods for positioning vehicles under poor lighting conditions | |
US10504214B2 (en) | System and method for image presentation by a vehicle driver assist module | |
JP5892876B2 (ja) | 車載用環境認識装置 | |
JP4491453B2 (ja) | 赤外画像と視覚画像を周辺部に依存して融合させることにより車両の周辺部を可視化するための方法及び装置 | |
JP4544233B2 (ja) | 車両検出装置及びヘッドランプ制御装置 | |
WO2006109398A1 (ja) | 画像処理装置および方法、プログラム、並びに記録媒体 | |
JP5747549B2 (ja) | 信号機検出装置及びプログラム | |
US8315766B2 (en) | Process for detecting a phenomenon limiting the visibility for a motor vehicle | |
US20110184895A1 (en) | Traffic object recognition system, method for recognizing a traffic object, and method for setting up a traffic object recognition system | |
US20060215882A1 (en) | Image processing apparatus and method, recording medium, and program | |
JP4717073B2 (ja) | 風景解析装置及び方法 | |
JP5115792B2 (ja) | 画像処理装置および方法、並びに、プログラム | |
US7944362B2 (en) | Method of detecting a visibility interference phenomenon for a vehicle | |
CN108875458B (zh) | 车辆远光灯开启的检测方法、装置、电子设备及摄像机 | |
JP2013147112A (ja) | 車両の走行環境認識装置 | |
JPWO2019194256A1 (ja) | 演算処理装置、オブジェクト識別システム、学習方法、自動車、車両用灯具 | |
JP2009234344A (ja) | 撮像手段の調整装置および物体検出装置 | |
JP2010169583A (ja) | 照明環境判定装置及びプログラム | |
US20190193632A1 (en) | Vehicles and methods for displaying objects located beyond a headlight illumination line | |
JP2013016981A (ja) | 撮影表示制御システム | |
WO2014002413A1 (ja) | 先行車両検知装置、先行車両検知方法、及び先行車両検知プログラム記憶媒体 | |
JP7426987B2 (ja) | 撮影システムおよび画像処理装置 | |
JP6866212B2 (ja) | 表示制御装置、表示制御方法及びカメラモニタリングシステム | |
JP2015058747A (ja) | 車両灯体制御装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140212 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140311 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5501477 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |