JP2008028957A - 車両用画像処理装置 - Google Patents

車両用画像処理装置 Download PDF

Info

Publication number
JP2008028957A
JP2008028957A JP2006202576A JP2006202576A JP2008028957A JP 2008028957 A JP2008028957 A JP 2008028957A JP 2006202576 A JP2006202576 A JP 2006202576A JP 2006202576 A JP2006202576 A JP 2006202576A JP 2008028957 A JP2008028957 A JP 2008028957A
Authority
JP
Japan
Prior art keywords
vehicle
brightness
imaging object
variable
road surface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006202576A
Other languages
English (en)
Inventor
Naoteru Kawasaki
直輝 川崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2006202576A priority Critical patent/JP2008028957A/ja
Priority to US11/821,120 priority patent/US20080024606A1/en
Priority to DE102007034657A priority patent/DE102007034657B4/de
Publication of JP2008028957A publication Critical patent/JP2008028957A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】車載カメラで撮像した画像を用いて、車両の外部環境を推定することができる車両用画像処理装置を提供する。
【解決手段】車載カメラ12の撮像した画像上の撮像対象物の画素値は、撮像対象物の輝度とカメラ制御値とに基づいて決定される、という因果関係を用いて、カメラ制御値と撮像対象物の画素値とから撮像対象物の輝度等の車両の外部環境を推定する。
【選択図】図1

Description

本発明は、車両用画像処理装置に関するものである。
従来、カメラ等の撮像装置によって撮像した画像から、車両の走行環境を判断する技術が提案されている(例えば、特許文献1乃至4参照。)。このうち、特許文献1に記載の技術によれば、道路の支柱に設置され、道路の路面部と路肩部を撮像するカメラにより撮像された画像の路面部と路肩部との濃度を比較して積雪状態を判断する。
また、特許文献2に記載の技術では、車外の景色を撮像するカメラにより得られた撮像画像中の路面が映し出される特定領域を監視領域として設定し、この監視領域内の輝度エッジと、そのエッジ内外の輝度の変化量とに基づいて、路肩雪を検出する。
また、特許文献3に記載の技術によれば、撮像画像中に設定した監視領域の輝度分布を予め設定された複数の輝度分布パターンの何れかに分類し、各輝度分布パターンに応じて個別に設定された判定方法を用いて自車走行路が雪路であるか否かの判定を行う。
また、特許文献4に記載の技術では、自車前方を撮像する撮像手段により撮像された画像の中で、前方車両、道路白線、標識等を含む注目領域とそれ以外の非注目領域とを設定し、撮像された画像の中の注目領域と非注目領域における輝度情報を検出する。そして、注目領域と非注目領域の輝度情報に基づいて画像処理による自車前方の状況分析が困難な走行環境にあるか否かを判定する。
特開平7−84067号公報 特開2001−88636号公報 特開2005−84959号公報 特開2005−135308号公報
一般に、車両周辺の画像を撮像する車載カメラは、撮像時の外部環境(例えば、撮像対象物の明度、輝度、色彩等)に応じて、絞り、シャッタースピード、出力信号のゲイン等からなるカメラ制御パラメータを逐次調整する露出制御を行う。この露出制御では、画像に映し出される撮像対象物の画素値(画素毎の明るさの程度を表す値)が後段の画像処理において取り扱うことのできる程度の画素値となるように、カメラ制御パラメータの制御値(カメラ制御値)を調整する。
ここで、この露出制御に着目すれば、撮像時の外部環境が決定することで、目標の画素値となるように調整すべきカメラ制御値が決定されることから、撮像時の外部環境とカメラ制御値との間には因果関係(”原因”が撮影時の外部環境、”結果”がカメラ制御値)があることがわかる。そして、この因果関係を逆に辿る(”結果”→”原因”)ことで、カメラ制御値から撮像時の外部環境を推定することが可能であり、この推定が可能であれば、他の車載アプリケーションに対して、外部環境に関する情報を提供することができるようになる。
しかしながら、上記特許文献1乃至3に記載の技術は雪路等の特定の走行環境を判断するものであり、また、上記特許文献4に記載の技術は画像処理による状況分析が困難な走行環境にあるか否かを判定するものであるため、撮像時の撮像対象物の明度、輝度、色彩等の外部環境を推定することはできない。
本発明は、上記の問題を鑑みてなされたもので、車載カメラで撮像した画像を用いて、車両の外部環境を推定することができる車両用画像処理装置を提供することを目的とする。
上記目的を達成するためになされた請求項1記載の車両用画像処理装置は、
車両周辺の撮像対象物を含む画像を撮像する車載カメラと、
撮像時の車両の外部環境に応じて、車載カメラの絞り、シャッタースピード、及び出力信号のゲインの少なくとも1つのカメラ制御パラメータのカメラ制御値を設定するカメラ制御値設定手段と、
車載カメラの撮像した画像上の撮像対象物の画素値を取得する撮像対象物画素値取得手段と、
車載カメラの撮像した画像上の撮像対象物の画素値は撮像対象物の輝度とカメラ制御値とに基づいて決定される、という因果関係を用いて、カメラ制御値設定手段の設定したカメラ制御値と撮像対象物画素値取得手段の取得した撮像対象物の画素値とから撮像対象物の輝度を推定する撮像対象物輝度推定手段と、を備えることを特徴とする。
車載カメラによって、車両前方の車線区分線(白線)がペイントされた路面や車両前方の空を撮像範囲に含む画像(図2参照)を撮像するときに露出制御を行う場合、車両周辺の外部環境と撮像された画像には、図3に示す因果関係が成り立つ。図3は、推定目標の変数と観測可能な変数の各変数間における因果関係を示した因果関係モデルである。同図において、各々の変数v1〜v12の間の矢印は因果関係があることを示しており、矢印の始点が因果関係の”原因”に対応し、矢印の終点が因果関係の”結果”に対応する。なお、変数v5、v8〜v12は、観測可能な変数である。
この因果関係モデルを用いれば、様々な推定が可能であることが分かる。すなわち、「”原因”が観測されたから”結果”が推定される(矢印順方向)」、又は、「”結果”が観測されたから”原因”が推定される(矢印逆方向)」といった推定が各変数間の矢印を辿って伝播することで、例えば、観測可能な変数が直接矢印で結合していない変数v2、v3も推定が可能となる。
このように、車載カメラの撮像した画像上の撮像対象物の画素値は、撮像対象物の輝度とカメラ制御値とに基づいて決定される、という因果関係を用いれば、カメラ制御値と撮像対象物の画素値とから撮像対象物の輝度等の車両の外部環境を推定することが可能である。これにより、他の車載アプリケーションに対して、撮像対象物の輝度の情報を提供することができるようになる。
ここで、請求項2に記載のように、車載カメラが車両周辺の路面を撮像対象物とする画像を撮像する場合、図3の因果関係モデルにおいて、観測可能な変数である、画像上の路面の画素値の変数(以下、路面画素値変数)v11は、観測可能な変数であるカメラ制御値変数v8と、推定目標の変数である、路面の真の輝度の変数(以下、路面輝度変数)v6と直接矢印で結合されているため、カメラ制御値変数v8と路面画素値変数v11とから路面輝度変数v6を推定することが可能である。図3の因果関係モデルから、カメラ制御値変数v8、路面画素値変数v11、路面輝度変数v6の因果関係を抜き出したモデルを図4(b)に示す。
また、請求項3に記載のように、車載カメラの撮像した路面を含む画像に映し出される車線区分線(白線)を認識する車線区分線認識手段を備える場合、図3の因果関係モデルにおいて、観測可能な変数である、画像上の白線の画素値の変数(白線画素値変数)v12は、観測可能な変数であるカメラ制御値変数v8と、推定目標の変数である、白線の真の輝度の変数(以下、白線輝度変数)v7と直接矢印で結合されているため、カメラ制御値変数v8と白線画素値変数v12とから白線輝度変数v7を推定することが可能である。図3の因果関係モデルから、カメラ制御値変数v8、白線画素値変数v12、白線輝度変数v7の因果関係を抜き出したモデルを図4(c)に示す。
また、請求項4に記載のように、車載カメラが車両周辺の空を撮像対象物とする画像を撮像する場合、図3の因果関係モデルにおいて、観測可能な変数である、画像上の空領域の画素値の変数(以下、空領域画素値変数)v10は、観測可能な変数である、カメラ制御値変数v8と、推定目標の変数である、車両前方の空の真の輝度の変数(以下、空輝度変数)v1と直接矢印で結合されているため、カメラ制御値変数v8と空領域画素値変数v10とから空輝度変数v1を推定することが可能である。図3の因果関係モデルから、カメラ制御値変数v8、空領域画素値変数v10、空輝度変数v1の因果関係を抜き出したモデルを図4(a)に示す。
請求項5に記載の車両用画像処理装置は、
車両周辺の路面を含む画像を撮像する車載カメラと、
車載カメラの撮像した画像上の路面の画素値が所定値となるように、車載カメラの絞り、シャッタースピード、及び出力信号のゲインの少なくとも1つのカメラ制御パラメータのカメラ制御値を設定するカメラ制御値設定手段と、
カメラ制御値設定手段が路面の画素値を所定値となるようにカメラ制御値を設定する場合、路面の輝度はカメラ制御値に基づいて決定される、という因果関係を用いて、カメラ制御値から路面の輝度を推定する路面輝度推定手段と、を備えることを特徴とする。
車載カメラの露出制御が路面の画素値を所定値にするような制御を行う場合、図4(b)に示した因果関係モデルは、図6(a)に示す路面輝度変数v6とカメラ制御値変数v8の因果関係モデルに簡略することができる。そして、路面輝度変数v6とカメラ制御値変数v8とは、図6(b)に示すような因果関係マップで表すことができることから、カメラ制御値変数v8から路面輝度変数v6を推定することができる。
請求項6に記載の車両用画像処理装置は、
車両周辺の照度を取得する車両周辺照度取得手段と、
車両周辺の撮像対象物を含む画像を撮像する車載カメラと、
少なくとも車載カメラの撮像した画像上の撮像対象物の画素値に基づいて推定される、撮像対象物の輝度を取得する撮像対象物輝度取得手段と、
撮像対象物の輝度は車両周辺の照度と撮像対象物の明度とに基づいて決定される、という因果関係を用いて、車両周辺照度取得手段の取得した照度と撮像対象物の輝度とから撮像対象物の明度を推定する撮像対象物明度推定手段と、を備えることを特徴とする。
上述したように、車載カメラによって、車両前方の車線区分線(白線)がペイントされた路面を撮像範囲に含む画像(図2参照)を撮像するときに露出制御を行う場合、車両周辺の外部環境と撮像された画像には、図3の因果関係モデルが成り立つ。この因果関係モデルから分かるように、路面や白線等の撮像対象物の輝度は車両周辺の照度と撮像対象物の明度とに基づいて決定される、という因果関係を用いれば、車両周辺の照度と撮像対象物の輝度とから撮像対象物の明度を推定することが可能である。これにより、他の車載アプリケーションに対して、撮像対象物の明度の情報を提供することができるようになる。
請求項7に記載のように、車載カメラが車両周辺の路面を撮像対象物とする画像を撮像する場合、図3の因果関係モデルにおいて、路面輝度変数v6は、車両周辺の照度の変数である照度変数v4と、路面の明度(色彩)の変数である路面明度変数v2と直接矢印で結合されている。従って、路面輝度変数v6と照度変数v4とから路面明度変数v2を推定することが可能である。
また、請求項8に記載のように、車載カメラの撮像した路面を含む画像に映し出される車線区分線(白線)を認識する車線区分線認識手段を備える場合、図3の因果関係モデルにおいて、白線輝度変数v7は、車両周辺の照度の変数である照度変数v4と、白線の明度(色彩)の変数である白線明度変数v3と直接矢印で結合されている。従って、白線輝度変数v7と照度変数v4とから白線明度変数v3を推定することが可能である。
なお、請求項9に記載のように、車両周辺に光を照射する車載照明装置(例えば、前照灯(ヘッドライト)等)を備え、この前照灯が点灯中(照射中)である場合には、撮像対象物の輝度は、前照灯の照射光の影響を受けるため、その影響を考慮する必要がある。
そこで、前照灯が点灯中である場合には、図3の因果関係モデルが成り立つため、路面や車線区分線(白線)等の撮像対象物の輝度は前照灯からの照射光の照度、車両周辺の照度、及び撮像対象物の明度に基づいて決定される、という因果関係を用いれば、前照灯からの照射光の照度、車両周辺の照度、及び撮像対象物の輝度から撮像対象物の明度を推定することが可能である。
なお、図3の因果関係モデルから、路面明度変数v2、照度変数v4、前照灯の状態の変数である前照灯状態変数v5、及び路面輝度変数v6の因果関係を抜き出したモデルが図7(a)である。また、図3の因果関係モデルから、白線明度変数v3、照度変数v4、前照灯状態変数v5、及び白線輝度変数v7の因果関係を抜き出したモデルが図7(b)である。そして、図7(a)、(b)の各々の因果関係モデルは、図7(c)に示すような、前照灯が消灯中であるときの因果関係マップと、図7(d)に示すような、前照灯が点灯中であるときの因果関係マップで表すことで、これらの因果関係マップを用いて路面明度変数v2や白線明度変数v3を推定することができる。
請求項10に記載の車両用画像処理装置は、
車両周辺の空を含む画像を撮像する車載カメラと、
少なくとも車載カメラの撮像した画像上の空の画素値に基づいて、車両周辺の空の輝度を取得する空輝度取得手段と、
車両周辺の照度は車両周辺の空の輝度に基づいて決定される、という因果関係を用いて、空輝度取得手段の取得した空の輝度から車両周辺の照度を推定する車両周辺照度推定手段と、を備えることを特徴とする。
図3の因果関係モデルから明らかなように、照度変数v4は、空輝度変数v1と直接結合されていることから、図10(c)に示すように、照度変数v4と空輝度変数v1の因果関係モデルが成り立つ。従って、車両周辺の照度は車両周辺の空の輝度に基づいて決定される、という因果関係を用いれば、車両周辺の空の輝度から車両周辺の照度を推定することが可能である。
これにより、コンライトセンサや日照センサを備えることなく、他の車載アプリケーションに対して、車両周辺の照度の情報を提供することができるようになる。なお、空輝度変数v1から照度変数v4を推定したときの精度はさほど高くないことが考えられるため、図10(d)に示すように、照度はスカラー値ではなく、確率分布を用いて推定することが好ましい。
請求項11に記載の車両用画像処理装置は、
車両周辺の撮像対象物を含む画像を撮像する車載カメラと、
少なくとも車載カメラの撮像した画像上の撮像対象物の画素値に基づいて、撮像対象物の輝度を取得する撮像対象物輝度取得手段と、
車両周辺の撮像対象物の明度を取得する撮像対象物明度取得手段と、
撮像対象物の輝度は車両周辺の照度と撮像対象物の明度とに基づいて決定される、という因果関係を用いて、撮像対象物輝度取得手段の取得した撮像対象物の輝度と撮像対象物明度取得手段の取得した撮像対象物の明度とから車両周辺の照度を推定する車両周辺照度推定手段と、を備えることを特徴とする。
上述したように、車両前方の車線区分線(白線)がペイントされた路面を撮像範囲に含む画像(図2参照)を撮像するときに露出制御を行う場合、車両周辺の外部環境と撮像された画像には、図3の因果関係モデルが成り立つ。この因果関係モデルから明らかなように、路面や車線区分線(白線)等の撮像対象物の輝度は車両周辺の照度と撮像対象物の明度とに基づいて決定される、という因果関係を用いれば、撮像対象物の輝度と撮像対象物の明度とから車両周辺の照度を推定することが可能である。これにより、他の車載アプリケーションに対して、車両周辺の照度の情報を提供することができるようになる。
請求項12に記載の車両用画像処理装置によれば、
車載カメラは、車両周辺の路面を撮像対象物とする画像を撮像するものであり、
撮像対象物輝度取得手段は、画像上の路面の画素値に基づいて、路面の輝度を取得し、
撮像対象物明度取得手段は、路面の明度を取得し、
車両周辺照度推定手段は、路面の輝度は車両周辺の照度と路面の明度とに基づいて決定される、という因果関係を用いて、撮像対象物輝度取得手段の取得した路面の輝度と撮像対象物明度取得手段の取得した路面の明度とから車両周辺の照度を推定することを特徴とする。
図3の因果関係モデルにおいて、照度変数v4は、路面輝度変数v6と直接矢印で結合されており、この路面輝度変数v6は、路面明度変数v2と結合している。従って、路面明度変数v2と路面輝度変数v6とから照度変数v4を推定することが可能である。図3の因果関係モデルから照度変数v4、路面明度変数v2、路面輝度変数v6の因果関係を抜き出したモデルが図12(a)である。なお、前照灯が点灯中(照射中)である場合、路面の輝度は、前照灯の照射光の影響を受けるため、その影響を考慮する必要がある。そこで、前照灯が点灯中である場合には、図12(a)に示す前照灯状態変数v5を含む因果関係モデルが成り立つため、この因果関係モデルから前照灯が点灯中である場合の照度変数v4を推定することが可能である。
図12(a)の因果関係モデルは、図12(c)に示すような、前照灯が消灯中であるときの因果関係マップと、図12(d)に示すような、前照灯が点灯中であるときの因果関係マップで表すことで、これらの因果関係マップを用いて照度変数v4を推定することができる。
請求項13に記載の車両用画像装置によれば、
車載カメラの撮像した路面を含む画像に映し出される車線区分線を認識する車線区分線認識手段を備え、
撮像対象物輝度取得手段は、画像上の車線区分線の画素値に基づいて、車線区分線の輝度を取得し、
撮像対象物明度取得手段は、車線区分線の明度を取得し、
車両周辺照度推定手段は、車線区分線の輝度は車両周辺の照度と車線区分線の明度とに基づいて決定される、という因果関係を用いて、撮像対象物輝度取得手段の取得した車線区分線の輝度と撮像対象物明度取得手段の取得した車線区分線の明度とから車両周辺の照度を推定することを特徴とする。
図3の因果関係モデルにおいて、照度変数v4は、白線輝度変数v7と直接矢印で結合されており、この白線輝度変数v7は、白線明度変数v3と結合している。従って、白線明度変数v3と白線輝度変数v7とから照度変数v4を推定することが可能である。図3の因果関係モデルから照度変数v4、白線明度変数v3、白線輝度変数v7の因果関係を抜き出したモデルが図12(b)である。なお、前照灯が点灯中(照射中)である場合、白線の輝度は、前照灯の照射光の影響を受けるため、その影響を考慮する必要がある。そこで、前照灯が点灯中である場合には、図12(b)に示す因果関係モデルが成り立つため、この因果関係モデルから前照灯が点灯中である場合の照度変数v4を推定することが可能である。
図12(b)の因果関係モデルは、図12(c)に示すような、前照灯が消灯中であるときの因果関係マップと、図12(d)に示すような、前照灯が点灯中であるときの因果関係マップで表すことができることから、これらの因果関係マップを用いて照度変数v4を推定することができる。
以下、本発明の車両用画像処理装置の実施の形態を、図面に基づいて説明する。
(第1の実施形態)
図1は、本発明が適用された車両用画像処理装置10の構成を示すブロック図である。車両用画像処理装置10は、車載カメラ12、画像処理ECU14、ヨーレートセンサ16、ステアリングセンサ18、コンライトセンサ20、車速センサ22を備えており、それらが車内LAN24によって相互に接続されている。また、この車内LAN24には、運転支援制御ECU26、ライト制御ECU28、及びエアコン制御ECU30も接続されている。
車載カメラ12は、CCD等の撮像素子で構成されるCCDカメラ等が採用され、例えば、車両の室内に設置されたルームミラーの近傍に搭載される。この車載カメラ12は、図2に示すように、車両前方の車線区分線(白線)がペイントされた路面や車両前方の空を撮像範囲に含む画像を一定の周期で連続的に撮像する。
この車載カメラ12は、画像処理ECU14からの指示に応じて、絞り、シャッタースピード、画像処理ECU14へ出力する出力信号(画像信号)のゲイン等からなるカメラ制御パラメータを調整することが可能な構成となっている。また、車載カメラ12は、撮像した画像の画素毎の明るさの程度を示す画素値情報を表す画像信号を、画像の水平・垂直同期信号とともに画像処理ECU14へ出力する。
画像処理ECU14は、図示しない内部にCPU、ROM、RAM、VRAM等を備えたコンピュータであり、VRAMには、車載カメラ12によって連続的に撮像される一定時間分の画像信号のデータが一時的に記憶される。そして、CPUは、ROMに記憶されたプログラムに従って、そのVRAMに記憶された画像信号のデータに対して所定の画像処理を実行する。
この画像処理ECU14は、車載カメラ12から出力される、画像信号のデータに基づいて、画像に映し出される路面や白線等の撮像対象物の画素値が後段の画像処理において取り扱うことのできる程度の画素値となるように、カメラ制御パラメータの制御値(カメラ制御値)を調整する露出制御処理を実行する。
また、画像処理ECU14は、画像の画素毎の画素値情報を用いて、画像に映し出される路面上の車線区分線(白線)を認識するためのエッジ閾値を設定し、この設定したエッジ閾値に基づいて画像に映し出される白線を認識し、この認識した白線に基づく車線位置情報を車内LAN24を介して運転支援制御ECU26等に出力する画像認識処理を実行する。
さらに、画像処理ECU14は、露出制御処理を実行するとともに、後述する輝度推定処理を実行し、この輝度推定処理によって推定した路面、その路面上にペイントされた白線、車両前方の空等の輝度情報を車内LAN24を介して各種の車載アプリケーションに出力する。
ヨーレートセンサ16は車両のヨーレートを逐次検出し、ステアリングセンサ18は、ステアリングの操舵角を逐次検出する。コンライトセンサ20は、車両の前照灯(ヘッドライト等)を車両周辺の照度により自動点灯させるライト制御ECU28において用いられるもので、車両周辺の照度に応じた検出信号を車内LAN24を介してライト制御ECU28に出力する。車速センサ22は、車両の車速を検出するものである。
運転支援制御ECU26は、車両が白線を逸脱しそうな場合に警報を発生させる車線逸脱警報や、白線内に維持するようにステアリングに所定の操舵トルクを発生させる車線維持支援等の各種制御を行う制御ECUである。
ライト制御ECU28は、コンライトセンサ20からの検出信号に基づいて、車幅灯や前照灯の自動点灯や自動消灯を行う制御ECUである。また、ライト制御ECU28は、車速、ヨーレート、操舵角等に応じて、前照灯の配光を制御(アダプティブ・フロント・ライティング・システム,Adaptive Front Lighting System)する。
次に、画像処理ECU14における輝度推定処理について説明する。この輝度推定処理では、車載カメラ12の撮像した画像に映し出される路面、その路面上にペイントされた白線、及び車両前方の空の(真の)輝度(まぶしさ)を、車載カメラ12から出力される画像信号を用いて推定するものである。以下、輝度推定処理について説明する。
車載カメラ14によって、車両前方の白線がペイントされた路面や車両前方の空を撮像範囲に含む画像(図2参照)を撮像するときに露出制御を行う場合、車両周辺の外部環境と撮像された画像には、図3に示す因果関係が成り立つ。図3は、推定目標の変数と観測可能な変数との各変数間における因果関係を示した因果関係モデルである。図3において、各々の変数v1〜v12の間の矢印は因果関係があることを示しており、矢印の始点が因果関係の”原因”に対応し、矢印の終点が因果関係の”結果”に対応する。なお、変数v5、v8〜v12は、観測可能な変数であり、それ以外の変数と区別するために二重丸で示している。
この因果関係モデルを用いれば、様々な推定が可能であることが分かる。例えば、「”原因”が観測されたから”結果”が推定される(矢印順方向)」、又は、「”結果”が観測されたから”原因”が推定される(矢印逆方向)」といった推定が各変数間の矢印を辿って伝播することで、例えば、観測可能な変数が直接矢印で結合していない変数v2、v3も推定が可能となる。
すなわち、車載カメラ12は、撮像時の外部環境(例えば、路面、白線、車両前方の空等の撮像対象物の明度、輝度、色彩等)に応じて、絞り、シャッタースピード、出力信号のゲイン等からなるカメラ制御パラメータを逐次調整する露出制御を行う。この露出制御では、画像に映し出される撮像対象物の画素値(画素毎の明るさの程度を表す値)が後段の画像処理において取り扱うことのできる程度の画素値となるように、カメラ制御パラメータの制御値(カメラ制御値)を調整する。
ここで、この露出制御に着目すれば、撮像時の外部環境が決定することで、目標の画素値となるように調整すべきカメラ制御値が決定されることから、撮像時の外部環境とカメラ制御値との間には因果関係(”原因”が撮影時の外部環境、”結果”がカメラ制御値)があることがわかる。そして、この因果関係を逆に辿る(”結果”→”原因”)ことで、カメラ制御値から撮像時の外部環境を推定することが可能であることが分かる。
このように、車載カメラ12の撮像した画像上の撮像対象物の画素値は、撮像対象物の輝度とカメラ制御値とに基づいて決定される、という因果関係を用いれば、カメラ制御値と撮像対象物の画素値とから撮像対象物の輝度等の車両の外部環境を推定することが可能である。これにより、他の車載アプリケーションに対して、撮像対象物の輝度の情報を提供することができるようになるのである。
図4(a)は、図3の因果関係モデルから、観測可能な変数であるカメラ制御値変数v8、観測可能な変数である、画像上の空領域の画素値の変数(空領域画素値変数)v10、及び推定目標の変数である、車両前方の空の真の輝度の変数(空輝度変数)v1の因果関係を抜き出したモデルである。図4(a)に示すように、空領域画素値変数v10は、カメラ制御値変数v8と、空輝度変数v1と直接矢印で結合されているため、空輝度変数v1は、カメラ制御値変数v8と空領域画素値変数v10から推定することが可能である。
図4(b)は、図3の因果関係モデルから、カメラ制御値変数v8、観測可能な変数である、画像上の路面の画素値の変数(路面画素値変数)v11、推定目標の変数である、路面の真の輝度の変数(路面輝度変数)v6の因果関係を抜き出したモデルである。図4(b)に示すように、路面画素値変数v11は、カメラ制御値変数v8と、路面輝度変数v6と直接矢印で結合されているため、路面輝度変数v6は、カメラ制御値変数v8と路面画素値変数v11から推定することが可能である。
図4(c)は、図3の因果関係モデルから、カメラ制御値変数v8、観測可能な変数である、画像上の白線の画素値の変数(白線画素値変数)v12、推定目標の変数である、白線の真の輝度の変数(白線輝度変数)v7の因果関係を抜き出したモデルである。図4(c)に示すように、白線画素値変数v12は、カメラ制御値変数v8と、白線輝度変数v7と直接矢印で結合されているため、白線輝度変数v7は、カメラ制御値変数v8と白線画素値変数v12から推定することが可能である。
なお、図4(a)〜(c)の各々の因果関係モデルについては、図4(d)に示すように、カメラ制御値、輝度、画素値からなる因果関係マップを各々の因果関係モデル毎に用意してRAM等に記憶しておく。そして、各々の因果関係マップに観測可能な変数を当てはめることで、推定目標の変数を推定すればよい。
図5は、輝度推定処理の流れを示すフローチャートである。図5のステップS10では、RAMから因果関係マップを読み込む。ステップS20では、露出制御処理が開始したかどうか(実行中であるかどうか)を判定する。このステップS20で肯定判断した場合にはステップS30へ処理を進め、否定判断した場合には露出制御処理が開始されるまで待機状態となる。
ステップS30では観測可能な変数(カメラ制御値変数v8、空領域画素値変数v10、路面画素値変数v11、白線画素値変数v12)の現在の変数値を取得する。なお、白線画素値変数v12を取得する場合には、画像認識処理による車線位置情報から画像上における白線位置を参照し、その参照した白線位置の画素値を取得するとよい。
ステップS40では、ステップS30で取得した変数値を因果関係マップに当てはめて、推定目標の輝度変数(空輝度変数v1、路面輝度変数v6、白線輝度変数v7等)を得る(推定する)。ステップS50では、ステップS40で推定した輝度変数を車内LAN24に出力する。
このように、本実施形態の車両用画像処理装置10は、車載カメラ12の撮像した画像上の撮像対象物の画素値は、撮像対象物の輝度とカメラ制御値とに基づいて決定される、という因果関係を用いて、カメラ制御値と撮像対象物の画素値とから撮像対象物の輝度等の車両の外部環境を推定する。これにより、他の車載アプリケーションに対して、撮像対 象物の輝度の情報を提供することができるようになる。
(変形例1)
本実施形態の車載カメラ12において、露出制御が路面の画素値を所定値にするような制御を行う場合、図4(b)に示した因果関係モデルは、図6(a)に示す路面輝度変数v6とカメラ制御値変数v8の因果関係モデルに簡略することができる。そして、路面輝度変数v6とカメラ制御値変数v8とは、図6(b)に示すような因果関係マップで表すことができる。従って、この図6(b)に示す因果関係マップを用いて、カメラ制御値変数v8から路面輝度変数v6を推定するようにしてもよい。
(第2の実施形態)
第2の実施形態は、第1の実施形態によるものと共通するところが多いので、以下、共通部分についての詳しい説明は省略し、異なる部分を重点的に説明する。第1の実施形態の画像処理ECU14は、車載カメラ12の撮像した画像に映し出される路面、白線、及び車両前方の空の輝度(まぶしさ)を、車載カメラ12から出力される画像信号を用いて推定する輝度推定処理を実行するものである。
本実施形態の画像処理ECU14では、車載カメラ12の撮像した画像に映し出される路面や白線の明度(色彩(白黒画像である場合には白黒度合い))を、車載カメラ12から出力される画像信号を用いて推定する明度推定処理を実行する点が異なる。以下、明度推定処理について説明する。
第1の実施形態で説明したように、車載カメラ14によって、車両前方の車線区分線(白線)がペイントされた路面を撮像範囲に含む画像(図2参照)を撮像するときに露出制御を行う場合、車両周辺の外部環境と撮像された画像には、図3の因果関係モデルが成り立つ。この因果関係モデルに示すように、路面や白線等の撮像対象物の輝度は車両周辺の照度と撮像対象物の明度とに基づいて決定される、という因果関係を用いれば、車両周辺の照度と撮像対象物の輝度とから撮像対象物の明度を推定することが可能である。
なお、撮像対象物の明度が車両周辺の照度の影響を受けるのは、図8に示すように、太陽光からの光が路面に照射するためである。また、路面の輝度が車両周辺の照度と路面の明度で決定されるのは、路面が完全散乱面であると仮定した場合に成り立つものである。
図7(a)は、図3の因果関係モデルから、路面の明度(色彩)の変数である路面明度変数v2、車両周辺の照度の変数である照度変数v4、前照灯の状態の変数である前照灯状態変数v5、及び路面輝度変数v6の因果関係を抜き出したモデルである。図7(a)に示すように、路面輝度変数v6は、照度変数v4と路面明度変数v2と直接矢印で結合されている。従って、路面明度変数v2は、路面輝度変数v6と照度変数v4とから推定することが可能である。
なお、車両前方に光を照射する車載照明装置(例えば、前照灯(ヘッドライト)等)が点灯中(照射中)である場合には、路面の輝度は、前照灯の照射光の影響を受けるため、その影響を考慮する必要がある。そこで、前照灯が点灯中である場合には、図7(a)のように、前照灯状態v5を含む因果関係モデルが成り立つため、路面明度変数v2は、前照灯状態変数v5、路面輝度変数v6と照度変数v4とから推定することが可能である。
図7(b)は、図3の因果関係モデルから、白線の明度(色彩)の変数である白線明度変数v3、照度変数v4、前照灯状態変数v5、及び白線輝度変数v7の因果関係を抜き出したモデルである。図7(b)に示すように、白線輝度変数v7は、照度変数v4、白線明度変数v3、及び前照灯状態変数v5と直接矢印で結合されている。従って、白線明度変数v3は、白線輝度変数v7、照度変数v4、及び前照灯状態変数v5とからを推定することが可能である。
図7(a)、(b)の各々の因果関係モデルについては、図7(c)、(d)に示すように、照度、輝度、明度画からなる因果関係マップを各々の因果関係モデル毎に用意してRAM等に記憶しておくとよい。図7(c)は、前照灯が消灯中であるときの因果関係マップであり、図7(d)は、前照灯が点灯中であるときの因果関係マップである。推定目標の変数である路面明度変数v2、白線明度変数v3を推定する場合には、各々の因果関係マップに観測可能な変数を当てはめればよい。
図9は、明度推定処理の流れを示すフローチャートである。図9のステップS110では、RAMから因果関係マップを読み込む。ステップS120では、露出制御処理が開始したかどうか(実行中であるかどうか)を判定する。このステップS120で肯定判断した場合にはステップS130へ処理を進め、否定判断した場合には露出制御処理が開始されるまで待機状態となる。
ステップS130では観測可能な変数(前照灯状態変数v5、カメラ制御値変数v8、空領域画素値変数v10、路面画素値変数v11、白線画素値変数v12)の現在の変数値を取得する。ステップS140では、ステップS130で取得した変数値から照度v4、路面輝度変数v6及び白線輝度変数v7を推定し、その推定結果を因果関係マップに当てはめて、推定目標の明度変数(路面明度変数v2、白線明度変数v3)を得る(推定する)。ステップS150では、ステップS140で推定した明度変数を車内LAN24に出力する。
このように、本実施形態の車両用画像処理装置10は、路面や白線等の撮像対象物の輝度は車両周辺の照度と撮像対象物の明度とに基づいて決定される、という因果関係を用いて、車両周辺の照度と撮像対象物の輝度とから撮像対象物の明度を推定する。これにより、他の車載アプリケーションに対して、撮像対象物の明度の情報を提供することができるようになる。
(第3の実施形態)
第3の実施形態は、第1及び第2の実施形態によるものと共通するところが多いので、以下、共通部分についての詳しい説明は省略し、異なる部分を重点的に説明する。本実施形態の画像処理ECU14では、車両周辺の照度を、車載カメラ12から出力される画像信号を用いて推定する照度推定処理を実行する点が異なる。以下、照度推定処理について説明する。
第1の実施形態で説明したように、車載カメラ14によって、車両前方の車線区分線(白線)がペイントされた路面を撮像範囲に含む画像(図2参照)を撮像するときに露出制御を行う場合、車両周辺の外部環境と撮像された画像には、図3の因果関係モデルが成り立つ。この因果関係モデルに示すように、照度変数v4はコンライト/日射センサ等の出力値の変数(以下、センサ出力値変数)v9から決定される。図3の因果関係モデルから、照度変数v4とセンサ出力値変数v9の因果関係を抜き出したモデルが図10(a)であり、この図10(a)の因果関係モデルは、図10(b)に示すような因果関係マップで表される。
一方、図3の因果関係モデルから明らかなように、照度変数v4は、空輝度変数v1と直接結合されていることから、図10(c)に示すように、照度変数v4と空輝度変数v1の因果関係モデルが成り立つ。従って、車両周辺の照度は車両周辺の空の輝度に基づいて決定される、という因果関係を用いれば、車両周辺の空の輝度から車両周辺の照度を推定することが可能である。これにより、コンライトセンサや日照センサを備えることなく、他の車載アプリケーションに対して、車両周辺の照度の情報を提供することができるようになる。
なお、空輝度変数v1から照度変数v4を推定したときの精度はさほど高くないことが考えられるため、図10(d)に示すように、照度はスカラー値ではなく、確率分布を用いて推定することが好ましい。この確率分布は、例えば実験等によって、推定する変数と観測する変数との間の因果関係の強さを求めておき、それを統計的データベースとして持つようにする。この統計的データベースを用いて、空輝度変数v1から照度変数v4の推定を条件付き確率の式(ベイズ決定方式等)により行うことで、観測による推定値の尤度(確率)を得ることができる。
図11は、照度推定処理の流れを示すフローチャートである。図11のステップS210では、RAMから因果関係マップを読み込む。ステップS220では、露出制御処理が開始したかどうか(実行中であるかどうか)を判定する。このステップS220で肯定判断した場合にはステップS230へ処理を進め、否定判断した場合には露出制御処理が開始されるまで待機状態となる。
ステップS230では観測可能な変数(前照灯状態変数v5、カメラ制御値変数v8、空領域画素値変数v10、路面画素値変数v11、白線画素値変数v12)の現在の変数値を取得する。ステップS240では、ステップS230で取得した変数値から空輝度変数v1を推定し、その推定結果を因果関係マップに当てはめて、推定目標の照度変数v4を得る(推定する)。ステップS250では、ステップS240で推定した照度変数v4を車内LAN24に出力する。
このように、本実施形態の車両用画像処理装置10は、車両周辺の照度は車両周辺の空の輝度に基づいて決定される、という因果関係を用いて、車両周辺の空の輝度から車両周辺の照度を推定する。これにより、コンライトセンサや日照センサを備えることなく、他の車載アプリケーションに対して、車両周辺の照度の情報を提供することができるようになる。
(変形例2)
図3の因果関係モデルから明らかなように、路面や白線等の撮像対象物の輝度は車両周辺の照度と撮像対象物の明度とに基づいて決定される、という因果関係が成り立つ。従って、この因果関係を用いれば、撮像対象物の輝度と撮像対象物の明度とから車両周辺の照度を推定することも可能である。
例えば、図3の因果関係モデルにおいて、照度変数v4は、路面輝度変数v6と直接矢印で結合されており、この路面輝度変数v6は、路面明度変数v2と結合している。従って、路面明度変数v2と路面輝度変数v6とから照度変数v4を推定することが可能である。図3の因果関係モデルから照度変数v4、路面明度変数v2、路面輝度変数v6の因果関係を抜き出したモデルが図12(a)である。なお、前照灯が点灯中(照射中)である場合、路面の輝度は、前照灯の照射光の影響を受けるため、その影響を考慮する必要がある。そこで、前照灯が点灯中である場合には、図12(a)に示すように、前照灯状態変数v5を含む因果関係モデルが成り立つため、この因果関係モデルから前照灯が点灯中である場合の照度変数v4を推定することが可能である。
図12(a)の因果関係モデルは、図12(c)に示すような、前照灯が消灯中であるときの因果関係マップと、図12(d)に示すような、前照灯が点灯中であるときの因果関係マップで表すことができることから、これらの因果関係マップを用いて照度変数v4を推定することができる。
また、図3の因果関係モデルにおいて、照度変数v4は、白線輝度変数v7と直接矢印で結合されており、この白線輝度変数v7は、白線明度変数v3と結合している。従って、白線明度変数v3と白線輝度変数v7とから照度変数v4を推定することが可能である。図3の因果関係モデルから照度変数v4、白線明度変数v3、白線輝度変数v7の因果関係を抜き出したモデルが図12(b)である。なお、前照灯が点灯中(照射中)である場合、白線の輝度は、前照灯の照射光の影響を受けるため、その影響を考慮する必要がある。そこで、前照灯が点灯中である場合には、図12(b)に示す因果関係モデルが成り立つため、この因果関係モデルから前照灯が点灯中である場合の照度変数v4を推定することが可能である。
図12(b)の因果関係モデルは、図12(c)に示すような、前照灯が消灯中であるときの因果関係マップと、図12(d)に示すような、前照灯が点灯中であるときの因果関係マップで表すことができることから、これらの因果関係マップを用いて照度変数v4を推定することができる。
なお、本変形例における照度推定処理は、図11に示したフローチャートにおけるステップS240のみ異なり、それ以外の処理は同様であるので、同様なステップの説明は省略する。本変形例のステップS240では、ステップS230で取得した変数値から路面明度変数v2、白線明度変数v3、路面輝度変数v6、及び白線輝度変数を推定し、その推定結果を因果関係マップに当てはめて、推定目標の照度変数v4を得ればよい。
以上、本発明の好ましい実施形態について説明したが、本発明は上述した実施形態に何ら制限されることなく、本発明の主旨を逸脱しない範囲において、種々変形して実施することができる。
例えば、第1〜第3の実施形態では、輝度、明度、及び照度の各変数のうちの1つの変数を推定するものであるが、全ての変数を同時に推定するようにしてもよい。また、推定すべき変数を指定する推定変数指定手段を備えて、ユーザの操作によって、推定すべき変数を指定するようにしてもよい。
車両用画像処理装置10の構成を示すブロック図である。 車載カメラで撮像した車両の前方画像の例を示す図である。 因果関係モデルを示す図である。 (a)はカメラ制御値変数v8、路面画素値変数v11、路面輝度変数v6の因果関係モデルを示す図であり、(b)はカメラ制御値変数v8、白線画素値変数v12、白線輝度変数v7の因果関係モデルを示す図であり、(c)はカメラ制御値変数v8、空領域画素値変数v10、空輝度変数v1の因果関係モデルを示す図であり、(d)はカメラ制御値、輝度、画素値の因果関係マップを示す図である。 第1の実施形態における輝度推定処理のフローチャートである。 (a)は路面輝度変数v6とカメラ制御値変数v8の因果関係モデルを示す図であり、(b)は路面輝度変数v6とカメラ制御値変数v8の因果関係マップを示す図である。 (a)は路面明度変数v2、照度変数v4、前照灯状態変数v5、及び路面輝度変数v6の因果関係モデルを示す図であり、(b)は白線明度変数v3、照度変数v4、前照灯状態変数v5、及び白線輝度変数v7の因果関係モデルを示す図であり、(c)は前照灯が消灯中であるときの輝度、照度、明度(色彩)の因果関係マップを示す図であり、(d)は前照灯が点灯中であるときの輝度、照度、明度(色彩)の因果関係マップを示す図である。 太陽光からの光が路面に照射されることを説明するための図である。 第2の実施形態における明度推定処理のフローチャートである。 (a)は照度変数v4とセンサ出力値変数v9の因果関係モデルを示す図であり、(b)は照度とセンサ出力値の因果関係マップを示す図であり、(c)は照度変数v4と空輝度変数v1の因果関係モデルを示す図であり、(d)はに示すように、確率分布で照度を推定するときの因果関係マップを示す図である。 第3の実施形態における照度推定処理のフローチャートである。 (a)は路面明度変数v2、照度変数v4、前照灯状態変数v5、及び路面輝度変数v6の因果関係モデルを示す図であり、(b)は白線明度変数v3、照度変数v4、前照灯状態変数v5、及び白線輝度変数v7の因果関係モデルを示す図であり、(c)は前照灯が消灯中であるときの輝度、照度、明度(色彩)の因果関係マップを示す図であり、(d)は前照灯が点灯中であるときの輝度、照度、明度(色彩)の因果関係マップを示す図である。
符号の説明
10 車両用画像処理装置
12 車載カメラ
14 画像処理ECU
16 ヨーレートセンサ
18 ステアリングセンサ
20 コンライトセンサ
22 車速センサ
24 車内LAN
26 運転支援制御ECU
28 ライト制御ECU
30 エアコン制御ECU
v1 空輝度変数
v2 路面明度変数
v3 白線明度変数
v4 照度変数
v5 前照灯状態変数
v6 路面輝度変数
v7 白線輝度変数
v8 カメラ制御値変数
v9 センサ出力値変数
v10 空領域画素値変数
v11 路面画素値変数
v12 白線画素値変数

Claims (13)

  1. 車両周辺の撮像対象物を含む画像を撮像する車載カメラと、
    撮像時の前記車両の外部環境に応じて、前記車載カメラの絞り、シャッタースピード、及び出力信号のゲインの少なくとも1つのカメラ制御パラメータのカメラ制御値を設定するカメラ制御値設定手段と、
    前記車載カメラの撮像した画像上の撮像対象物の画素値を取得する撮像対象物画素値取得手段と、
    車載カメラの撮像した画像上の撮像対象物の画素値は撮像対象物の輝度とカメラ制御値とに基づいて決定される、という因果関係を用いて、前記カメラ制御値設定手段の設定したカメラ制御値と前記撮像対象物画素値取得手段の取得した撮像対象物の画素値とから撮像対象物の輝度を推定する撮像対象物輝度推定手段と、を備えることを特徴とする車両用画像処理装置。
  2. 前記車載カメラは、前記車両周辺の路面を撮像対象物とする画像を撮像するものであり、
    前記撮像対象物輝度推定手段は、前記路面の輝度を推定することを特徴とする請求項1記載の車両用画像処理装置。
  3. 前記車載カメラの撮像した路面を含む画像に映し出される車線区分線を認識する車線区分線認識手段を備え、
    前記撮像対象物輝度推定手段は、前記車線区分線の輝度を推定することを特徴とする請求項2記載の車両用画像処理装置。
  4. 前記車載カメラは、前記車両周辺の空を撮像対象物とする画像を撮像するものであり、
    前記撮像対象物輝度推定手段は、前記空の輝度を推定することを特徴とする請求項1記載の車両用画像処理装置。
  5. 車両周辺の路面を含む画像を撮像する車載カメラと、
    前記車載カメラの撮像した画像上の路面の画素値が所定値となるように、前記車載カメラの絞り、シャッタースピード、及び出力信号のゲインの少なくとも1つのカメラ制御パラメータのカメラ制御値を設定するカメラ制御値設定手段と、
    前記カメラ制御値設定手段が路面の画素値を所定値となるようにカメラ制御値を設定する場合、路面の輝度は前記カメラ制御値に基づいて決定される、という因果関係を用いて、前記カメラ制御値から路面の輝度を推定する路面輝度推定手段と、を備えることを特徴とする車両用画像処理装置。
  6. 車両周辺の照度を取得する車両周辺照度取得手段と、
    前記車両周辺の撮像対象物を含む画像を撮像する車載カメラと、
    少なくとも前記車載カメラの撮像した画像上の撮像対象物の画素値に基づいて推定される、撮像対象物の輝度を取得する撮像対象物輝度取得手段と、
    撮像対象物の輝度は車両周辺の照度と撮像対象物の明度とに基づいて決定される、という因果関係を用いて、前記車両周辺照度取得手段の取得した照度と前記撮像対象物の輝度とから撮像対象物の明度を推定する撮像対象物明度推定手段と、を備えることを特徴とする車両用画像処理装置。
  7. 前記車載カメラは、前記車両周辺の路面を撮像対象物とする画像を撮像するものであり、
    前記撮像対象物明度推定手段は、前記路面の明度を推定することを特徴とする請求項6記載の車両用画像処理装置。
  8. 前記車載カメラの撮像した路面を含む画像に映し出される車線区分線を認識する車線区分線認識手段を備え、
    前記撮像対象物明度推定手段は、前記車線区分線の明度を推定することを特徴とする請求項7記載の車両用画像処理装置。
  9. 前記車両に搭載され、前記車両周辺に光を照射する車載照明装置を備え、
    前記撮像対象物明度推定手段は、前記車載照明装置が点灯中である場合、撮像対象物の輝度は車載照明装置からの照射光の照度、車両周辺の照度、及び撮像対象物の明度に基づいて決定される、という因果関係を用いて、前記車載照明装置からの照射光の照度、前記車両周辺照度取得手段の取得した照度、及び前記撮像対象物の輝度から撮像対象物の明度を推定することを特徴とする請求項6〜8の何れか1項に記載の車両用画像処理装置。
  10. 車両周辺の空を含む画像を撮像する車載カメラと、
    少なくとも前記車載カメラの撮像した画像上の空の画素値に基づいて、前記車両周辺の空の輝度を取得する空輝度取得手段と、
    車両周辺の照度は車両周辺の空の輝度に基づいて決定される、という因果関係を用いて、前記空輝度取得手段の取得した空の輝度から前記車両周辺の照度を推定する車両周辺照度推定手段と、を備えることを特徴とする車両用画像処理装置。
  11. 車両周辺の撮像対象物を含む画像を撮像する車載カメラと、
    少なくとも前記車載カメラの撮像した画像上の撮像対象物の画素値に基づいて、撮像対象物の輝度を取得する撮像対象物輝度取得手段と、
    前記車両周辺の撮像対象物の明度を取得する撮像対象物明度取得手段と、
    撮像対象物の輝度は車両周辺の照度と撮像対象物の明度とに基づいて決定される、という因果関係を用いて、前記撮像対象物輝度取得手段の取得した撮像対象物の輝度と前記撮像対象物明度取得手段の取得した撮像対象物の明度とから車両周辺の照度を推定する車両周辺照度推定手段と、を備えることを特徴とする車両用画像処理装置。
  12. 前記車載カメラは、前記車両周辺の路面を撮像対象物とする画像を撮像するものであり、
    前記撮像対象物輝度取得手段は、前記画像上の路面の画素値に基づいて、路面の輝度を取得し、
    前記撮像対象物明度取得手段は、路面の明度を取得し、
    前記車両周辺照度推定手段は、路面の輝度は車両周辺の照度と路面の明度とに基づいて決定される、という因果関係を用いて、前記撮像対象物輝度取得手段の取得した路面の輝度と前記撮像対象物明度取得手段の取得した路面の明度とから車両周辺の照度を推定することを特徴とする請求項11記載の車両用画像処理装置。
  13. 前記車載カメラの撮像した路面を含む画像に映し出される車線区分線を認識する車線区分線認識手段を備え、
    前記撮像対象物輝度取得手段は、前記画像上の車線区分線の画素値に基づいて、車線区分線の輝度を取得し、
    前記撮像対象物明度取得手段は、車線区分線の明度を取得し、
    前記車両周辺照度推定手段は、車線区分線の輝度は車両周辺の照度と車線区分線の明度とに基づいて決定される、という因果関係を用いて、前記撮像対象物輝度取得手段の取得した車線区分線の輝度と前記撮像対象物明度取得手段の取得した車線区分線の明度とから車両周辺の照度を推定することを特徴とする請求項12記載の車両用画像処理装置。
JP2006202576A 2006-07-25 2006-07-25 車両用画像処理装置 Pending JP2008028957A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2006202576A JP2008028957A (ja) 2006-07-25 2006-07-25 車両用画像処理装置
US11/821,120 US20080024606A1 (en) 2006-07-25 2007-06-21 Image processing apparatus
DE102007034657A DE102007034657B4 (de) 2006-07-25 2007-07-25 Bildverarbeitungsvorrichtung

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006202576A JP2008028957A (ja) 2006-07-25 2006-07-25 車両用画像処理装置

Publications (1)

Publication Number Publication Date
JP2008028957A true JP2008028957A (ja) 2008-02-07

Family

ID=38859642

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006202576A Pending JP2008028957A (ja) 2006-07-25 2006-07-25 車両用画像処理装置

Country Status (3)

Country Link
US (1) US20080024606A1 (ja)
JP (1) JP2008028957A (ja)
DE (1) DE102007034657B4 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010169583A (ja) * 2009-01-23 2010-08-05 Toyota Central R&D Labs Inc 照明環境判定装置及びプログラム
JP2017034444A (ja) * 2015-07-31 2017-02-09 オリンパス株式会社 撮像装置および撮像方法

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4812510B2 (ja) * 2006-05-17 2011-11-09 アルパイン株式会社 車両周辺画像生成装置および撮像装置の測光調整方法
JP4433045B2 (ja) * 2007-12-26 2010-03-17 株式会社デンソー 露出制御装置及び露出制御プログラム
JP4433046B2 (ja) * 2007-12-26 2010-03-17 株式会社デンソー 露出制御装置及び露出制御プログラム
JP4389999B2 (ja) * 2007-12-26 2009-12-24 株式会社デンソー 露出制御装置及び露出制御プログラム
US8935055B2 (en) * 2009-01-23 2015-01-13 Robert Bosch Gmbh Method and apparatus for vehicle with adaptive lighting system
US9262817B2 (en) * 2010-11-19 2016-02-16 Mitsubishi Electric Corporation Environment estimation apparatus and vehicle control system
US9199574B2 (en) 2012-09-11 2015-12-01 Gentex Corporation System and method for detecting a blocked imager
KR101353052B1 (ko) * 2013-07-31 2014-01-20 주식회사 피엘케이 테크놀로지 교통표지판 인식을 위한 차량용 영상인식시스템
DE102014216008A1 (de) 2014-08-13 2016-02-18 Conti Temic Microelectronic Gmbh Steuervorrichtung, Serversystem und Fahrzeug
DE102015200583B4 (de) * 2015-01-15 2016-09-15 Continental Automotive Gmbh Verfahren zur kamerabasierten Umgebungslichterkennung eines Fahrzeugs und Sensoreinheit zur Durchführung des Verfahrens
US9898676B2 (en) * 2016-01-13 2018-02-20 I-Shou University Method for determining the level of degradation of a road marking
US20230226882A1 (en) * 2022-01-18 2023-07-20 Hyundai Motor Company Solar load feedback for climate control

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0935059A (ja) * 1995-07-14 1997-02-07 Aisin Seiki Co Ltd 移動体上照度識別装置
JPH1170884A (ja) * 1997-07-04 1999-03-16 Nissan Motor Co Ltd 自動走行用自車位置検出装置
JPH11205663A (ja) * 1998-01-20 1999-07-30 Nissan Motor Co Ltd 車両用撮像装置の露光量制御装置
JP2004246798A (ja) * 2003-02-17 2004-09-02 Nissan Motor Co Ltd 車線検出装置
JP2005075304A (ja) * 2003-09-03 2005-03-24 Denso Corp 車両用ライト点灯制御装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5521633A (en) * 1992-09-25 1996-05-28 Yazaki Corporation Motor vehicle obstacle monitoring system using optical flow processing
DE69736764T2 (de) * 1996-08-28 2007-01-25 Matsushita Electric Industrial Co., Ltd., Kadoma Lokales Positionierungsgerät und Verfahren dafür
JP3987264B2 (ja) * 2000-03-24 2007-10-03 富士通株式会社 ナンバープレート読取装置及び方法
EP1225756A1 (en) * 2001-01-03 2002-07-24 Synoptics Limited Method of obtaining an image
DE10323560B4 (de) * 2003-05-26 2010-12-02 Robert Bosch Gmbh Kamera und Vorrichtung zur Ermittlung der Helligkeit der Umgebung eines Kraftfahrzeuges
JP4258385B2 (ja) * 2004-01-14 2009-04-30 株式会社デンソー 路面反射検出装置
JP4703136B2 (ja) * 2004-06-02 2011-06-15 トヨタ自動車株式会社 線図形化処理装置
JP2006025312A (ja) * 2004-07-09 2006-01-26 Konica Minolta Photo Imaging Inc 撮像装置、及び画像取得方法
JP3970876B2 (ja) * 2004-11-30 2007-09-05 本田技研工業株式会社 車両周辺監視装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0935059A (ja) * 1995-07-14 1997-02-07 Aisin Seiki Co Ltd 移動体上照度識別装置
JPH1170884A (ja) * 1997-07-04 1999-03-16 Nissan Motor Co Ltd 自動走行用自車位置検出装置
JPH11205663A (ja) * 1998-01-20 1999-07-30 Nissan Motor Co Ltd 車両用撮像装置の露光量制御装置
JP2004246798A (ja) * 2003-02-17 2004-09-02 Nissan Motor Co Ltd 車線検出装置
JP2005075304A (ja) * 2003-09-03 2005-03-24 Denso Corp 車両用ライト点灯制御装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010169583A (ja) * 2009-01-23 2010-08-05 Toyota Central R&D Labs Inc 照明環境判定装置及びプログラム
JP2017034444A (ja) * 2015-07-31 2017-02-09 オリンパス株式会社 撮像装置および撮像方法

Also Published As

Publication number Publication date
US20080024606A1 (en) 2008-01-31
DE102007034657B4 (de) 2012-05-31
DE102007034657A1 (de) 2008-01-31

Similar Documents

Publication Publication Date Title
JP2008028957A (ja) 車両用画像処理装置
US10558868B2 (en) Method and apparatus for evaluating a vehicle travel surface
US9734425B2 (en) Environmental scene condition detection
JP5680573B2 (ja) 車両の走行環境認識装置
JP4321591B2 (ja) 車載霧判定装置
JP4241834B2 (ja) 車載霧判定装置
US7944362B2 (en) Method of detecting a visibility interference phenomenon for a vehicle
JP2014215877A (ja) 物体検出装置
KR101738995B1 (ko) 에고 모션 검출을 구비한 촬상 시스템 및 방법
JP2009065360A (ja) 画像処理装置、車載用画像処理装置、車載用画像表示装置及び車両制御装置
TWI749030B (zh) 駕駛輔助系統及駕駛輔助方法
JP2007057331A (ja) 車載霧判定装置
CN109729256B (zh) 车辆中双摄像装置的控制方法和装置
US20150085118A1 (en) Method and camera assembly for detecting raindrops on a windscreen of a vehicle
JP2006349492A (ja) 車載霧判定装置
JP2006350670A (ja) 夜間運転視界支援装置
JP2016196233A (ja) 車両用道路標識認識装置
WO2013168744A1 (ja) 車両の光源を検出する方法及び装置
CN104008518B (zh) 对象检测设备
JP5353531B2 (ja) 車両灯火認識装置及びプログラム
JP4506576B2 (ja) 車載霧状態判定装置、およびオートフォグランプシステム
US11663834B2 (en) Traffic signal recognition method and traffic signal recognition device
JP2022140026A (ja) 画像処理装置、画像処理方法およびプログラム
JP5310162B2 (ja) 車両灯火判定装置
JPWO2020129517A1 (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080905

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111004

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120214