JP6894536B2 - 画像処理システム及び配光制御システム - Google Patents

画像処理システム及び配光制御システム Download PDF

Info

Publication number
JP6894536B2
JP6894536B2 JP2019565778A JP2019565778A JP6894536B2 JP 6894536 B2 JP6894536 B2 JP 6894536B2 JP 2019565778 A JP2019565778 A JP 2019565778A JP 2019565778 A JP2019565778 A JP 2019565778A JP 6894536 B2 JP6894536 B2 JP 6894536B2
Authority
JP
Japan
Prior art keywords
luminance
image
calculation formula
value
luminance calculation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019565778A
Other languages
English (en)
Other versions
JPWO2019142586A1 (ja
Inventor
宏治 土井
宏治 土井
広道 大塚
広道 大塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Astemo Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Astemo Ltd filed Critical Hitachi Astemo Ltd
Publication of JPWO2019142586A1 publication Critical patent/JPWO2019142586A1/ja
Application granted granted Critical
Publication of JP6894536B2 publication Critical patent/JP6894536B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • B60Q1/14Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights having dimming means
    • B60Q1/1415Dimming circuits
    • B60Q1/1423Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic
    • B60Q1/143Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic combined with another condition, e.g. using vehicle recognition from camera images or activation of wipers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • B60Q1/06Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights adjustable, e.g. remotely-controlled from inside vehicle
    • B60Q1/08Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights adjustable, e.g. remotely-controlled from inside vehicle automatically
    • B60Q1/085Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights adjustable, e.g. remotely-controlled from inside vehicle automatically due to special conditions, e.g. adverse weather, type of road, badly illuminated road signs or potential dangers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q2300/00Indexing codes for automatically adjustable headlamps or automatically dimmable headlamps
    • B60Q2300/30Indexing codes relating to the vehicle environment
    • B60Q2300/33Driving situation
    • B60Q2300/337Tunnels or bridges
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q2300/00Indexing codes for automatically adjustable headlamps or automatically dimmable headlamps
    • B60Q2300/40Indexing codes relating to other road users or special conditions
    • B60Q2300/41Indexing codes relating to other road users or special conditions preceding vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q2300/00Indexing codes for automatically adjustable headlamps or automatically dimmable headlamps
    • B60Q2300/40Indexing codes relating to other road users or special conditions
    • B60Q2300/42Indexing codes relating to other road users or special conditions oncoming vehicle

Description

本発明は,車両搭載用の画像処理システムと車両ヘッドライトの配光を制御する配光制御システムに関する。
従来から車両搭載用の画像処理システムに関する発明が知られている(下記特許文献1を参照)。特許文献1に記載された画像処理システムは,車両に搭載された撮像手段と,前記撮像手段が撮影した画像を取得し前記画像の解析を行う画像解析手段とを備えている。この画像解析手段は,前記撮像手段が撮影した画像を解析して赤色に光る先行車のテールライトの位置を検出する。
この画像処理システムでは,まず撮像画像内から赤色の画素を検出し,隣接する赤色画素を連結して「要素グループ」(=光点)を作成する。次にその要素グループの特徴量(例えば,要素グループに内接又は外接する矩形のサイズや,要素グループに含まれる画素の最大・最小輝度など)に基づいて車両(テールライト)とそれ以外の物体(反射板など)を判別している。
特開2014−232431号公報
特許文献1の画像処理システムでは,路面上の橙色の反射板などの赤色に近い色の物体を先行車のテールライトとして誤検知する課題がある。
テールライト検知の精度を上げるには,対象物の色や明るさを判別する処理に適した露光条件で画像を撮像することが好ましい。しかし,1つのシステム上で複数の認識機能を同時に動作させる場合,それぞれの機能に最適な露光条件で撮像するには高コストのカメラおよび回路が必要となる。他方,低コスト化のためには,複数の認識機能で露光条件を共有し,テールライト検知の観点からは必ずしも適切でない明るさの画像を入力してテールライト検知処理をせざるを得ない場合がある。そして,同様の課題は検知対象が他車のテールライトの場合限らず,対向車両のヘッドライトや信号機等の自発光式の発光体の検知でも発生し得る。さらに,発光体に限らず,例えば日中に他車を検知する際にトンネルの出入口等で撮像画像に黒つぶれや白とびが生じた場合にも同様の課題が発生し得る。
本発明は,上記の課題に鑑みてなされたものであり,コストを上げることなく,検知対象物を高精度に識別可能な画像処理システムを提供することを目的とする。
本願は上記課題を解決する手段を複数含んでいるが,その一例を挙げるならば,撮像装置と,輝度計算式を利用して前記撮像装置の撮像画像から輝度画像を生成する輝度計算部,及び,前記輝度画像を基に所定の対象物を検知する検知部を有する画像処理装置とを備える画像処理システムであって,前記画像処理装置は,前記輝度画像中の所定領域の輝度指標値または前記検知部が検知する前記所定の対象物の種類に応じて,前記輝度計算部で利用される輝度計算式を変更する輝度計算式変更部をさらに備え、前記輝度計算式変更部は,前記検知部により前記所定の対象物が検知されている状態から検知不能の状態に変化し,かつ,前記輝度画像中の所定領域の輝度指標値が第1閾値を超えるとき,前記輝度画像中の所定領域の輝度指標値が前記第1閾値より小さい第2閾値以上かつ前記第1閾値以下のときに前記輝度計算部が前記輝度計算式として利用する基準輝度計算式よりも前記輝度画像の白とびを低減する第2輝度計算式に前記輝度計算式を変更することを特徴とする。

本発明によれば,検知対象物の検出に適した露光条件の撮像画像を得られない状況においても,コストを上げることなく当該検知対象物の検知率を向上できる。
車両制御システム100の概略構成図。 輝度画像上に設定される所定領域(前方車両領域)Aの説明図。 車両制御システム100による配光制御処理のフローチャート。 輝度計算式変更部13による輝度計算式の決定処理(変更処理)のフローチャート。 先行車テールライトと反射板の画像の一例。 同じ露光条件におけるテールライトと反射板に係る画像51,52の画素についての距離と輝度値の関係を示した図。 道路上の橙色の反射板の輝度画像及び輝度分布の一例を示す図。 輝度計算式変更部13による輝度計算式の決定処理(変更処理)のフローチャートの一例。 輝度計算式変更部13による輝度計算式の決定処理(変更処理)のフローチャートの一例。 輝度計算式変更部13による輝度計算式の決定処理(変更処理)のフローチャートの一例。 各輝度計算式の内容と各輝度計算式が選択される条件についてまとめた表。
以下,本発明の実施形態について図面を用いて説明する。
図1は本実施形態に係る車両制御システムの概略構成図である。この図の車両制御システム100は,車両(自車と称することがある)に備えられており,車両前方に設置され車両前方の所定の領域の画像を定期的に時系列で撮影する撮像装置としてのカメラ11と,カメラ11が撮影した画像(撮像画像)を処理する画像処理装置1と,画像処理装置1の処理結果を基に車両を制御する車両制御装置2を備えている。
画像処理装置1と車両制御装置2は,それぞれコンピュータ(例えばマイクロコンピュータ)であり,例えば,入力部と,プロセッサである中央処理装置(CPU又はMPU)と,記憶装置であるリードオンリーメモリ(ROM)及びランダムアクセスメモリ(RAM)と,出力部とをそれぞれ有している。このうち入力部は,画像処理装置1及び車両制御装置2に入力される各種情報を,CPUが演算可能なように変換する。ROMは,適宜後述する演算処理を実行する制御プログラムと,当該演算処理の実行に必要な各種情報等が記憶された記録媒体であり,CPUは,ROMに記憶された制御プログラムに従って入力部及びROM,RAMから取り入れた信号に対して所定の演算処理を行う。出力部からは,出力対象を制御するための指令や出力対象が利用する情報等が出力される。なお,記憶装置は上記のROM及びRAMという半導体メモリに限られず,例えばハードディスクドライブ等の磁気記憶装置に代替可能である。
画像処理装置1は,カメラ11の撮像画像(カラー画像)に基づいて物体検知をはじめとする外界認識処理を実行するコンピュータであり,画像取得部12と,輝度計算式変更部13と,輝度計算部14と,検知部15とを備えている。車両制御装置2は,画像処理装置1が出力する検知部15の検知結果に基づいて車両制御処理を実行するコンピュータであり,配光制御部16と,定速走行・車間距離制御部17とを備えている。なお,図1の画像処理装置1と車両制御装置2は異なる2つのコンピュータで構成しているが,一体のコンピュータで構成しても良い。
画像取得部12は,カメラ11を制御し,定期的に露光時間(シャッタースピード)の設定および撮像を行ってカラー画像の時系列を取得し,それらを画像処理装置1内に記憶する処理を実行する。カラー画像はRGBカラーモデルで定義されており,カラー画像を構成する各画素の色は赤(R),緑(G),青(B)の明るさの組合せで定義されている。本実施形態ではR,G,Bそれぞれの明るさを0−255までの整数値(すなわち256階調)で表現しており各画素の色を3つの値(R値,G値,B値)の組合せで定義している。カラー画像は所定の周期で撮像されており,例えば1秒間につき30フレーム撮像されることがある。
輝度計算部(輝度画像生成部)14は,輝度計算式変更部13で決定された輝度計算式を利用して,カメラ11の撮像画像(カラー画像)から輝度画像(Y)を生成する処理を実行する。ここで生成された輝度画像は画像処理装置1に記憶され,検知部15と輝度計算式変更部13に出力される。
輝度計算式変更部13は,輝度計算部14で過去(例えば所定フレーム前)に生成された輝度画像の中央部に位置する所定領域Aの輝度指標値と,検知部15が検知対象とする所定の対象物の情報を含む検知部15の出力と,車両制御装置2が実行しているアプリケーションの情報を含む車両制御装置2の出力とに応じて,輝度計算部14で利用される輝度計算式を変更・決定する処理を実行する。本実施形態では後述する4つの輝度計算式(第1−第4輝度計算式)が利用されており,輝度計算式変更部13はその4つの輝度計算式から1つを選択することになっている。各輝度計算式は,R値,G値,B値のそれぞれに所定の係数を乗じた値の合計で定義されており,輝度計算部14はこの式にカラー画像を構成する画素のR値,G値,B値を代入することで当該画素の輝度を計算する。カメラ11の撮像画像の各画素について輝度を計算して集合させたものが輝度画像となる。
所定領域Aは各輝度画像に設定される所定の領域である。所定領域Aは種々の規則に基づく設定が可能であるが,このうち自車の前方を走行する車両の位置を基準とした所定領域Aは特に前方車両領域Aと称することがある。図2は所定領域Aの説明図である。上段に示した輝度画像71には,直前まで検知部15で検知されていたがトンネル出口による画像の白とびにより検知不能となった前方車両(先行車両)をその外接矩形75で示しており,その前方車両(外接矩形75)の位置を基準として予め定められた大きさの矩形を定義することで所定領域(前方車両領域)A1を決定している。中段に示した輝度画像72には,同様にトンネル入口による画像の黒とびにより検知不能となった前方車両をその外接矩形76で示しており,その前方車両(外接矩形76)の位置を基準として予め定められた大きさの矩形を定義することで所定領域(前方車両領域)A1を決定している。下段に示した輝度画像72には,中段の輝度画像72と同様に前方車両の外接矩形76を示しているが,この前方車両の位置と直接的に無関係に輝度画像の中央部(すなわちカメラ11を自車進行方向に向けた場合の撮像画像の中央部)の予め定められた位置に予め定められた大きさの閉領域(例えば矩形)として所定領域A2を設定している。なお,ここでは前方車両として自車と同方向に走行する先行車両の例のみを説明したが,自車と逆方向に走行する対向車両の位置に基づいて所定領域Aを設定しても良い。
本実施形態の輝度計算式変更部13は所定領域Aの輝度指標値に基づいて輝度計算式を変更できる。ここで輝度指標値とは,所定領域A内に含まれる複数の画素の,集合体としての輝度を示す指標値であり,例えば,所定領域Aに含まれる全画素又は適宜選択した複数の画素の輝度の平均値や,同全画素の最大輝度又は最小輝度などが利用できる。本実施形態では所定領域Aに含まれる全画素の平均輝度を輝度指標値として説明する。
検知部15は,画像取得部12が取得したカラー画像と,輝度計算部14が生成した輝度画像の少なくとも1つに基づいて所定の対象物を検知する処理を実行し,その検知結果を車両制御装置2に出力する。検知部15が検知対象とする「所定の対象物」は車両制御装置2で実行されるアプリケーション(プログラム)の種類によって決定されることがある。配光制御部16に係る配光制御のアプリケーションが実行される場合には,他車両(先行車両,停止車両等)のテールライト(赤色系発光体)や,他車両(対向車両)のヘッドライト(白色系発光体)が所定の対象物となることができ,これらの対象物が検知された場合には車両が検知されたとみなすことができる。また,定速走行・車間距離制御部17に係る定速走行・車間距離制御(ACC:Adaptive Cruise Control)のアプリケーションが実行される場合には,他車両(先行車両,停止車両等)のテールライト(赤色系発光体)や,暗い露光条件(例えば露光時間が相対的に短い)で撮影された他車両(先行車両,停止車両等)のテールライト(赤色系発光体)が所定の対象物となることができる。
車両制御装置2における配光制御部16は,画像処理装置1の検知部15の検知結果(車両検知結果)に基づいて,自車ヘッドライトの配光制御(配光制御アプリケーション)を実行する。配光制御としては,例えば,自車前方に先行車および対向車が存在しないときは自車ヘッドライトをハイビームに設定し,先行車または対向車が存在するときは自車ヘッドライトをロービームに設定するものがある。また,自車前方に他車が検知された場合にはその他車が自車ヘッドライトの照射領域から除外されるように自車ヘッドライトの遮光領域を決定し,その遮光領域に基づいて自車ヘッドライトの配光制御を行うものがある。後者の場合,複数のヘッドライトの光軸を変化させるアクチュエータ(例えば複数のモータ)と,各ヘッドライトの光の一部を遮蔽するためのシェード機構が自車に設けられており,配光制御部16からはそれらに対する制御信号が出力される。
定速走行・車間距離制御部17は,画像処理装置1の検知部15の検知結果(車両検知結果)に基づいて,その検知車両と自車間の距離を一定に保持しつつ,走行速度を一定に保持するように自車の操舵制御(ステアリング制御)及び速度制御(エンジン制御,ブレーキ制御)に対応する機構(ステアリングコントロールユニット,エンジンコントロールユニット,ブレーキコントロールユニット)を適宜制御するACC(ACCアプリケーション)を実行する。
−配光制御処理−
次に図3を用いて車両制御システム100による配光制御処理の流れを説明する。車両制御システム100(画像処理装置1及び車両制御装置2)は図3のフローチャートを所定の制御周期で繰り返し実行している。
処理を開始すると画像取得部12は,ステップS1において,カメラ11に対して次に撮像する画像の露光時間を設定し,所定のタイミングで撮像を行ってカラー画像(撮像画像)を取得する。
ステップS2において,輝度計算式変更部13は,輝度計算式の決定処理を実行する。
本実施形態の輝度計算式変更部13は検知部15の検知対象物の種類に応じて輝度計算式を変更している。図4は本実施形態に係る輝度計算式変更部13による輝度計算式の決定処理(変更処理)のフローチャートである。
ここでは輝度計算部14が輝度画像の生成に通常利用する基準の輝度計算式を第1輝度計算式と称する。本実施形態における第1輝度計算式は次の式(1)で表される。式(1)におけるYは輝度値を示し,R,G,Bは各画素のR値,G値,B値を示す。すなわち第1輝度計算式は,撮像画像中の任意の画素のR値,G値,B値のそれぞれに所定の係数を乗じた値の合計で定義されている。R,G,Bの係数の合計は1となる。

Y=0.299R+0.587G+0.114B …式(1)

図4の処理が開始されると輝度計算式変更部13は,ステップS21において,検知部15から入力される検知結果を基に検知部15の検知対象物の種類を入力する。
ステップS22では,輝度計算式変更部13は,ステップS21の検知対象物が対向車のヘッドライト(白色系発光体)か否かを判定する。ここで検知対象物が対向車のヘッドライトであればステップS23に進み,それ以外であればステップS24に進む。
ステップS23では,輝度計算式変更部13は,輝度計算式として第2輝度計算式を設定する。第2輝度計算式は,第1輝度計算式よりもB値の係数が大きく,第1輝度計算式よりもR値とG値の係数が小さい。本実施形態における第2輝度計算式は次の式(2)で表される。ヘッドライトをはじめとする白色光に対する感度はR,G,B画素で異なり,「G>R>B」の関係にある。そのため,輝度画像の生成に第2輝度計算式を用いると第1輝度計算式を用いた場合よりも白とびが低減される。

Y=B …式(2)

ステップS24では,輝度計算式変更部13は,ステップS21の検知対象物が先行車のテールライト(赤色系発光体)か否かを判定する。ここで検知対象物が先行車のテールライトであればステップS25に進み,それ以外であればステップS26に進む。
ステップS25では,輝度計算式変更部13は,輝度計算式として第4輝度計算式を設定する。第4輝度計算式は,第1輝度計算式よりもR値の係数が大きく,第1輝度計算式よりもG値とB値の係数が小さい。本実施形態における第4輝度計算式は次の式(4)で表される。第1輝度計算式よりもR値の係数を大きくすることで赤色光に対する感度が向上する。このため,輝度画像の生成に第4輝度計算式を用いると第1輝度計算式を用いた場合よりも赤色系発光体の黒つぶれが低減される。

Y=R …式(4)

ステップS26では,輝度計算式変更部13は,輝度計算式として第1輝度計算式を設定する。
上記のようにステップS23,S25,S26のいずれかで輝度計算式が決定されると,輝度計算式変更部13は図4の処理を終了し,図3のステップS3の処理が開始される。
ステップS3において,輝度計算部14は,輝度計算式変更部13がステップS2(すなわちステップS23,S25,S26のいずれか)で決定した輝度計算式を利用して画像取得部12がステップS1で取得したカラー画像中の全ての画素について輝度値Yを算出し,その算出した輝度値Yから輝度画像を生成する。生成された輝度画像は検知部15や輝度計算式変更部13に出力される。
ステップS4において,検知部15は,画像取得部12が取得したカラー画像の中から車両候補光点を検出する。具体的には,まず,カラー画像中で探索する色の条件を検知対象物の種類に応じて設定し,カラー画像を走査してその条件に該当する色の画素を検出する。次に,隣り合う検出画素を同一グループとして連結し,それらの画素群(グループ)が占める領域を光点とみなす。本ステップにより検知対象物の種類に適した複数の光点が検出され得る。
ところで,ステップS4の車両候補光点の検出には,次のような課題がある。すなわち,先行車テールライト(図5の画像51の矩形内参照)が検知部15の検知対象物の場合,カラー画像中で赤色を探索することで光点を検出する。しかし,道路上の本来は橙色の反射板の画像(図5の画像52の矩形内参照)のエッジ部にテールライトと同じ赤色が出る場合があり,光点の赤色度合に基づく判定だけではテールライトと反射板の区別が難しい。そこで,本実施形態では続くステップS5の輝度による判定を行っている。
ステップS5において,検知部15は,ステップS4で検出した各光点が車両ライト(対向車ヘッドライトまたは先行車テールライト)であるか否かを判定する。具体的には,光点の領域に含まれる画素のうち代表的なもの(例えばもっとも明るい画素)を選ぶ。そして,その画素の輝度値をステップS3で生成した輝度画像で確認し,その画素の輝度値が検知対象物ごとに定められた所定の閾値以上であるか否かを判定する。その画素の輝度値が所定の閾値以上である場合にはステップS6に進み,輝度値が所定の閾値未満の場合にはステップS7へ進む。
ステップS6において,検知部15は,ステップS5で輝度値の判定対象とした光点に対し,当該光点は車両ライト(対向車ヘッドライトまたは先行車テールライト)であり,その車両ライトに係る車両を自車ヘッドライトの遮光対象とする旨の情報を付加し,配光制御部16へ出力する。
ステップS7において,検知部15は,ステップS5で輝度値の判定対象とした光点に対し,当該光点は車両ライトではなく,その車両ライトに係る車両を自車ヘッドライトの遮光対象としない旨の情報を付加し,配光制御部16へ出力する。
ステップS8において,配光制御部16は,ステップS6またはS7で得た光点情報に基づいて,自車ヘッドライトの遮光領域を決定し,その遮光領域が自車ヘッドライトの照射領域から除外されるように自車ヘッドライトの配光制御を行う。
以上により,車両制御システム100による配光制御処理の1サイクルが完了する。車両制御システム100は所定の制御周期だけ待機した後,ステップS1から一連の処理を再び実行する。
<作用・効果>
次に上記のように構成される車両制御システム100の作用・効果について説明する。
まず,本発明が解決しようとする課題について説明する。図3で説明したステップS5の輝度値に基づく判定では,自発光式の発光体(例えば,先行車テールライトや対向車ヘッドライト)と反射光式の発光体(例えば反射板)を判別することが難しい場合がある。図6は同じ露光条件におけるテールライトと反射板に係る画像51,52の画素についての距離と輝度値の関係を示した図である。この図に示すようにテールライトと反射板の光点の輝度値は近距離(図中の例では150m以下)ではともに最大値に達してしまい(輝度値が飽和してしまい),輝度値の大小では判別ができない。輝度値が飽和しない露光条件で撮像すれば改善されるが,車両制御システムの他の機能と画像を共有しているため露光条件を変えることは現実的に難しい。
そこで本実施形態では,図4に示したフローチャートのように,検知部15の検知対象物の種類に応じて,輝度画像を作成する際に利用する輝度計算式を変更することとした。
具体的には,対向車ヘッドライトが検知対象物のときは,ステップS23で第2輝度計算式(Y=B)を使うことにした。図7は道路上の橙色の反射板の輝度画像及び輝度分布の一例を示す図であり,図中の左側に第1輝度計算式を使った場合を示し,図中の右側に第2輝度計算式を使った場合を示す。図7の左側に示すように,第1輝度計算式を利用した場合には輝度値の分布のピークの1つが最大値(255)に存在しており,輝度に基づくS5の処理では対向車ヘッドライトとの区別が難しいことが分かる。既述のとおりR,G,BのうちBは白色光に対する感度が一番低い。第1輝度計算式よりもB値の係数が大きく,R値とG値の係数が小さい第2輝度計算式を利用して輝度値を算出すると,図7の右側に示すように第1輝度計算式を利用したときよりも光点の輝度値が低い値で分布するようになり,図7の例では輝度値の分布を255未満の値(図中左側の値)に分散させることができる。これにより対向車ヘッドライトと反射板の輝度値に基づく区別が容易になり,白色系の自発光式の発光体である対向車ヘッドライトの検出に適した露光条件の撮像画像を得られない状況においてもコストを上げることなく当該発光体の検知率を向上できる。
また同様に,先行車テールライトが検知対象物のときは,ステップS25で第4輝度計算式(Y=R)を使うこととした。第1輝度計算式よりもR値の係数が大きく,G値とB値の係数が小さい第4輝度計算式を利用すると,テールライトに係るR値の高い画素が高輝度となって強調されるとともに第1輝度計算式を利用したときよりも光点の輝度値が低い値で分布するようになる。これにより先行車テールライトと反射板の輝度値に基づく区別が容易になり,赤色系の自発光式の発光体である先行車テールライトの検知率を向上できる。
−定速走行・車間距離制御(ACC)−
上記で説明した輝度計算式変更部13による輝度計算式の変更は,例えばACCの実行中に,トンネルの入口や出口で撮像画像に黒つぶれや白とびが発生し遠方の先行車両を見失った場合(図2の画像71,72参照)にも利用可能である。図8はこの場合の輝度計算式変更部13による輝度計算式の決定処理(変更処理)のフローチャートの一例である。輝度計算式変更部13はこのフローチャートを所定の制御周期で繰り返し実行する。
図8の処理が開始されると輝度計算式変更部13は,ステップS31において,検知部15から入力される検知結果を基に,他車両が検知されている状態から検知不能の状態に変化したか否かを判定する。そして,検知不能に変化した場合にはステップS32に進み,変化しない場合(すなわち他車の検知が継続している場合)にはステップS40に進む。
ステップS32では,輝度計算式変更部13は,他車両が検知されている状態でカメラ11が撮影したカラー画像を基に生成された輝度画像のうち可能な限り最新のものを読み込む。なお,輝度画像を読み込む代わりにカラー画像を読み込んでも良い。
ステップS33では,輝度計算式変更部13は,ステップS32で読み込んだ輝度画像において他車両の位置を基準にして所定領域(前方車両領域)Aを設定する。所定領域Aの設定方法の一例としては図2で説明したものがある。なお,ステップS32でカラー画像を読み込んだ場合にはその画像上の他車両の位置を基に所定領域Aを設定しても良い。
ステップS34では,輝度計算式変更部13は,ステップS32で読み込んだ輝度画像中の所定領域Aの輝度指標値を演算する。なお,ステップS32でカラー画像を読み込んだ場合には,そのカラー画像に対応する輝度画像上の所定領域Aの輝度指標値を演算する。
ステップS35では,輝度計算式変更部13は,所定領域Aの輝度指標値が第1閾値(Y1)以下かつ第2閾値(Y2)以上か否かを判定する。第1閾値(Y1)は,カラー画像(撮像画像)に白とびが発生したとみなすために規定された輝度の閾値であり,第2閾値(Y2)は,同様に黒つぶれが発生したとみなすために規定された輝度の閾値である。
ただし第1閾値(Y1)は第2閾値(Y2)より大きい値とする(すなわち,Y1>Y2)。所定領域Aの輝度指標値が第2閾値以上かつ第1閾値以下であれば適正な輝度であるとみなすことができる。所定領域Aの輝度指標値が第1閾値(Y1)以下かつ第2閾値(Y2)以上である場合にはステップS36に進み,そうでない場合にはステップS37に進む。
ステップS36では,輝度計算式変更部13は,輝度計算式として第1輝度計算式を設定する。
ステップS37では,輝度計算式変更部13は,所定領域Aの輝度指標値が第1閾値(Y1)より大きいか否かを判定する。所定領域Aの輝度指標値が第1閾値(Y1)より大きい場合にはステップS38に進み,そうでない場合(すなわち,所定領域Aの輝度指標値が第2閾値(Y2)より小さい場合)にはステップS39に進む。
ステップS38では,輝度計算式変更部13は,輝度計算式として第2輝度計算式を設定する。
ステップS39では,輝度計算式変更部13は,輝度計算式として第3輝度計算式を設定する。第3輝度計算式は,第1輝度計算式よりもG値の係数が大きく,第1輝度計算式よりもR値とB値の係数が小さい。本実施形態における第3輝度計算式は次の式(3)で表される。先述のように白色光に対する感度はR,G,B画素で異なり,「G>R>B」の関係にある。そのため,輝度画像の生成に第3輝度計算式を用いると第1輝度計算式を用いた場合よりも黒つぶれが低減される。
Y=G …式(3)
ステップS40では,輝度計算式変更部13は,輝度計算式として第1輝度計算式を設定する。
<作用・効果>
上記のように構成された輝度計算式変更部13が決定した輝度計算式を利用して輝度画像を生成した場合の作用・効果について説明する。
まず,トンネルの出口でカラー画像(撮像画像)に白とびが発生し遠方の他車両を見失ったときには,輝度計算式変更部13はステップS38で第2輝度計算式を輝度計算式に設定し,輝度計算部14はこの第2輝度計算式を利用して輝度画像を生成する。この輝度画像では第2輝度計算式によって白とびが低減されているので,カラー画像中で見失った車両を検知できる可能性が向上する。これにより白とび発生時の他車両の検出に適した露光条件の撮像画像を得られない状況においてもコストを上げることなく他車両の検知率を向上できる。
また,トンネルの入口でカラー画像(撮像画像)に黒つぶれが発生し遠方の他車両を見失ったときには,輝度計算式変更部13はステップS39で第3輝度計算式を輝度計算式に設定し,輝度計算部14はこの第3輝度計算式を利用して輝度画像を生成する。この輝度画像では第3輝度計算式によって黒つぶれが低減されているので,カラー画像中で見失った車両を検知できる可能性が向上する。これにより黒つぶれ発生時の他車両の検出に適した露光条件の撮像画像を得られない状況においてもコストを上げることなく他車両の検知率を向上できる。
なお,白とびや黒つぶれが発生しない場合や,他車両を見失っていない場合には,通常と同じ第1輝度計算式が設定されるので,輝度計算式の変更に伴い不都合は生じない。
−変形例1−
ところで,図8の例では,見失った車両の位置を基準に所定領域Aを設定したが,その車両の位置とは直接的に無関係に輝度画像の中央部の予め定められた位置に予め定められた大きさの矩形を所定領域として設定し,輝度計算式を決定しても良い。図9にこの場合の輝度計算式変更部13による輝度計算式の決定処理(変更処理)のフローチャートの一例を示す。輝度計算式変更部13はこのフローチャートを所定の制御周期で繰り返し実行する。図8と同じ処理には同じ符号を付して説明は省略する。
図9の処理が開始されると輝度計算式変更部13は,ステップS41において,輝度計算式変更部13は,カメラ11が撮影したカラー画像を基に生成された輝度画像のうち可能な限り最新のものを読み込む。なお,輝度画像を読み込む代わりにカラー画像を読み込んでも良い。
ステップS42では,輝度計算式変更部13は,ステップS41で読み込んだ輝度画像中の予め定められた所定領域Aの輝度指標値を演算する。なお,ステップS41でカラー画像を読み込んだ場合には,そのカラー画像に対応する輝度画像上の所定領域Aの輝度指標値を演算する。
ステップ35以降の処理については図8と同じなので説明は省略する。
このように輝度計算式変更部13を構成しても,白とびや黒つぶれ発生時の他車両の検出に適した露光条件の撮像画像を得られない状況においてもコストを上げることなく他車両の検知率を向上できる。
−変形例2−
なお,図8,9のフローチャートは図4のフローチャートと組合せても良い。図10にこの場合の輝度計算式変更部13による輝度計算式の決定処理(変更処理)のフローチャートの一例を示す。図10ではステップS31でNOと判定された場合に図4のステップS21に進むように構成されている。このように輝度計算式変更部13を構成しても,所定の検知対象物の検出に適した露光条件の撮像画像を得られない状況においてもコストを上げることなく当該所定の検知対象物の検知率を向上できる。なお,図10では図8と図4のフローチャートを組み合わせた例を示したが,図9と図4のフローチャートを組合せても良いことは言うまでもない。
最後に各実施形態で利用した4つの輝度計算式についてまとめる。図11は各輝度計算式の内容と各輝度計算式が選択される条件についてまとめた表である。
この図に示すように,白とび低減のために利用される第2輝度計算式(Y=B)が選択される条件としては,例えば,所定領域(前方車両領域)Aの輝度指標値が第1閾値(Y1)より高い場合,先行車両が撮像画像の白とびにより検出不能となった場合(例えば,トンネル出口),検知部15の検知対象物が対向車のヘッドライトである場合(すなわち,ヘッドライトと反射板の判別が行われる場合)がある。
また,黒つぶれ低減のために利用される第3輝度計算式(Y=G)が選択される条件としては,例えば,所定領域(前方車両領域)Aの輝度指標値が第2閾値(Y2)より低い場合,先行車両が撮像画像の黒つぶれにより検出不能となった場合(例えば,トンネル入口や陸橋の下)がある。
また,暗い赤色灯検知のために利用される第4輝度計算式(Y=R)が選択される条件としては,例えば,検知部15の検知対象が遠方(例えば自車から500m以上離れた距離)の走行車両のテールライトの場合,検知部15の検知対象が近距離(例えば自車から50m以内の距離)にある走行車両のテールライトの場合(前者の場合よりも露光条件が暗い場合)がある。
なお,第1輝度計算式における係数は一例に過ぎず,例えば小数点第2位を四捨五入して「Y=0.3R+0.6+0.1B」としても良い。
−その他−
本発明は,上記の実施の形態に限定されるものではなく,その要旨を逸脱しない範囲内の様々な変形例が含まれる。例えば,本発明は,上記の実施の形態で説明した全ての構成を備えるものに限定されず,その構成の一部を削除したものも含まれる。また,ある実施の形態に係る構成の一部を,他の実施の形態に係る構成に追加又は置換することが可能である。
また,上記の処理装置1,制御装置2に係る各構成や当該各構成の機能及び実行処理等は,それらの一部又は全部をハードウェア(例えば各機能を実行するロジックを集積回路で設計する等)で実現しても良い。また,上記の装置1,2に係る構成は,演算処理装置
(例えばCPU)によって読み出し・実行されることで当該装置の構成に係る各機能が実現されるプログラム(ソフトウェア)としてもよい。当該プログラムに係る情報は,例えば,半導体メモリ(フラッシュメモリ,SSD等),磁気記憶装置(ハードディスクドライブ等)及び記録媒体(磁気ディスク,光ディスク等)等に記憶することができる。
また,上記の各実施の形態の説明では,制御線や情報線は,当該実施の形態の説明に必要であると解されるものを示したが,必ずしも製品に係る全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えて良い。
1…画像処理装置,11…カメラ,12…画像取得部,13…輝度計算式変更部,14…輝度計算部,15…車両検知部,16…配光制御部,17…定速走行・車間距離制御部,100…車両制御システム

Claims (5)

  1. 撮像装置と,
    輝度計算式を利用して前記撮像装置の撮像画像から輝度画像を生成する輝度計算部,及び,前記輝度画像を基に所定の対象物を検知する検知部を有する画像処理装置とを備える画像処理システムであって,
    前記画像処理装置は,前記輝度画像中の所定領域の輝度指標値または前記検知部が検知する前記所定の対象物の種類に応じて,前記輝度計算部で利用される輝度計算式を変更する輝度計算式変更部をさらに備え、
    前記輝度計算式変更部は,前記検知部により前記所定の対象物が検知されている状態から検知不能の状態に変化し,かつ,前記輝度画像中の所定領域の輝度指標値が第1閾値を超えるとき,前記輝度画像中の所定領域の輝度指標値が前記第1閾値より小さい第2閾値以上かつ前記第1閾値以下のときに前記輝度計算部が前記輝度計算式として利用する基準輝度計算式よりも前記輝度画像の白とびを低減する第2輝度計算式に前記輝度計算式を変更することを特徴とする画像処理システム。
  2. 撮像装置と,
    輝度計算式を利用して前記撮像装置の撮像画像から輝度画像を生成する輝度計算部,及び,前記輝度画像を基に所定の対象物を検知する検知部を有する画像処理装置とを備える画像処理システムであって,
    前記画像処理装置は,前記輝度画像中の所定領域の輝度指標値または前記検知部が検知する前記所定の対象物の種類に応じて,前記輝度計算部で利用される輝度計算式を変更する輝度計算式変更部をさらに備え、
    前記輝度計算式変更部は,前記輝度画像中の所定領域の輝度指標値が第1閾値を超えるとき,前記輝度画像中の所定領域の輝度指標値が前記第1閾値より小さい第2閾値以上かつ前記第1閾値以下のときに前記輝度計算部が前記輝度計算式として利用する第1輝度計算式よりも前記輝度画像の白とびを低減する第2輝度計算式に前記輝度計算式を変更し、
    前記撮像画像はRGBカラーモデルで定義されており,
    前記第1輝度計算式は,前記撮像画像中の任意の画素のR値,G値,B値のそれぞれに所定の係数を乗じた値の合計で定義されており,
    前記第2輝度計算式は,前記第1輝度計算式よりもB値の係数が大きく,前記第1輝度計算式よりもR値とG値の係数が小さいことを特徴とする画像処理システム。
  3. 撮像装置と,
    輝度計算式を利用して前記撮像装置の撮像画像から輝度画像を生成する輝度計算部,及び,前記輝度画像を基に所定の対象物を検知する検知部を有する画像処理装置とを備える画像処理システムであって,
    前記画像処理装置は,前記輝度画像中の所定領域の輝度指標値または前記検知部が検知する前記所定の対象物の種類に応じて,前記輝度計算部で利用される輝度計算式を変更する輝度計算式変更部をさらに備え、
    前記輝度計算式変更部は,前記検知部により前記所定の対象物が検知されている状態から検知不能の状態に変化し,かつ,前記輝度画像中の所定領域の輝度指標値が第2閾値未満のとき,前記輝度画像中の所定領域の輝度指標値が前記第2閾値以上かつ前記第2閾値より大きい第1閾値以下のときに前記輝度計算部が前記輝度計算式として利用する第1度計算式よりも前記輝度画像の黒つぶれを低減する第3輝度計算式に前記輝度計算式を変更することを特徴とする画像処理システム。
  4. 撮像装置と,
    輝度計算式を利用して前記撮像装置の撮像画像から輝度画像を生成する輝度計算部,及び,前記輝度画像を基に所定の対象物を検知する検知部を有する画像処理装置とを備える画像処理システムであって,
    前記画像処理装置は,前記輝度画像中の所定領域の輝度指標値または前記検知部が検知する前記所定の対象物の種類に応じて,前記輝度計算部で利用される輝度計算式を変更する輝度計算式変更部をさらに備え、
    前記輝度計算式変更部は,前記輝度画像中の所定領域の輝度指標値が第2閾値未満のとき,前記輝度画像中の所定領域の輝度指標値が前記第2閾値以上かつ前記第2閾値より大きい第1閾値以下のときに前記輝度計算部が前記輝度計算式として利用する第1輝度計算式よりも前記輝度画像の黒つぶれを低減する第3輝度計算式に前記輝度計算式を変更し、
    前記撮像画像はRGBカラーモデルで定義されており,
    前記第1輝度計算式は,前記撮像画像中の任意の画素のR値,G値,B値のそれぞれに所定の係数を乗じた値の合計で定義されており,
    前記第3輝度計算式は,前記第1輝度計算式よりもG値の係数が大きく,前記第1輝度計算式よりもR値とB値の係数が小さいことを特徴とする画像処理システム。
  5. 撮像装置と,
    輝度計算式を利用して前記撮像装置の撮像画像から輝度画像を生成する輝度計算部,及び,前記輝度画像を基に所定の対象物を検知する検知部を有する画像処理装置と、
    前記検知部の検知結果に基づいて決定した自車ヘッドライトの遮光領域に基づいて配光制御を行う配光制御部とを備える配光制御システムであって,
    前記画像処理装置は,前記輝度画像中の所定領域の輝度指標値または前記検知部が検知する前記所定の対象物の種類に応じて,前記輝度計算部で利用される輝度計算式を変更する輝度計算式変更部をさらに備え、
    前記輝度計算式変更部は,前記検知部により前記所定の対象物が検知されている状態から検知不能の状態に変化し,かつ,前記輝度画像中の所定領域の輝度指標値が第1閾値を超えるとき,前記輝度画像中の所定領域の輝度指標値が前記第1閾値より小さい第2閾値以上かつ前記第1閾値以下のときに前記輝度計算部が前記輝度計算式として利用する基準輝度計算式よりも前記輝度画像の白とびを低減する第2輝度計算式に前記輝度計算式を変更することを特徴とする配光制御システム。
JP2019565778A 2018-01-17 2018-12-20 画像処理システム及び配光制御システム Active JP6894536B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018005794 2018-01-17
JP2018005794 2018-01-17
PCT/JP2018/046920 WO2019142586A1 (ja) 2018-01-17 2018-12-20 画像処理システム及び配光制御システム

Publications (2)

Publication Number Publication Date
JPWO2019142586A1 JPWO2019142586A1 (ja) 2020-12-17
JP6894536B2 true JP6894536B2 (ja) 2021-06-30

Family

ID=67300985

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019565778A Active JP6894536B2 (ja) 2018-01-17 2018-12-20 画像処理システム及び配光制御システム

Country Status (3)

Country Link
JP (1) JP6894536B2 (ja)
DE (1) DE112018005975T5 (ja)
WO (1) WO2019142586A1 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09311927A (ja) * 1996-05-24 1997-12-02 De-Shisu:Kk 駐車車両検出装置及び駐車車両検出方法
JP3750959B2 (ja) * 1997-09-19 2006-03-01 名古屋電機工業株式会社 駐車車両検出方法およびその装置
JP3782322B2 (ja) * 2001-07-11 2006-06-07 株式会社日立製作所 車載用画像処理カメラ装置
JP4502577B2 (ja) * 2002-12-19 2010-07-14 Hoya株式会社 電子内視鏡装置
JP4365352B2 (ja) * 2005-07-06 2009-11-18 本田技研工業株式会社 車両及びレーンマーク認識装置
JP2012155612A (ja) * 2011-01-27 2012-08-16 Denso Corp 車線検出装置
JP6085522B2 (ja) 2013-05-29 2017-02-22 富士重工業株式会社 画像処理装置

Also Published As

Publication number Publication date
DE112018005975T5 (de) 2020-08-06
WO2019142586A1 (ja) 2019-07-25
JPWO2019142586A1 (ja) 2020-12-17

Similar Documents

Publication Publication Date Title
US10084967B1 (en) Systems and methods for regionally controlling exposure time in high dynamic range imaging
JP6132412B2 (ja) 車外環境認識装置
JP3909691B2 (ja) 車載用画像処理装置
JP6211614B2 (ja) 撮像装置、撮像方法並びに車載撮像システム
KR20190089952A (ko) 듀얼-코어 포커싱 이미지 센서, 이의 포커싱 제어 방법, 및 전자 디바이스(dual-core focusing image sensor, focusing control method for the same, and electronic device)
US10121083B2 (en) Vehicle exterior environment recognition apparatus
US8395698B2 (en) Exposure determining device and image processing apparatus
US20160379070A1 (en) Vehicle exterior environment recognition apparatus
US9506859B2 (en) Method and device for determining a visual range in daytime fog
JP6701253B2 (ja) 車外環境認識装置
JP6420650B2 (ja) 車外環境認識装置
JP5884635B2 (ja) 走行環境検出装置、走行環境検出プログラム、およびライト制御装置
US20170011271A1 (en) Malfunction diagnosis apparatus
JP4980939B2 (ja) 撮像手段の調整装置および物体検出装置
CN108063898A (zh) 图像生成设备
JP7241772B2 (ja) 画像処理装置
WO2013168744A1 (ja) 車両の光源を検出する方法及び装置
JP7057818B2 (ja) 低照度撮像システム
JP6894536B2 (ja) 画像処理システム及び配光制御システム
JP2007124676A (ja) 車載用画像処理装置
JP2017188851A (ja) 車室内用カメラの顔撮影方法および車室内用カメラ
JP5073207B2 (ja) 車載カメラ装置
JP5427744B2 (ja) 画像処理装置
JPH11278182A (ja) 車両用霧状況検出装置
JP2020177340A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210112

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210511

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210603

R150 Certificate of patent or registration of utility model

Ref document number: 6894536

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150