JP6657925B2 - 車載カメラ・システム並びに画像処理装置 - Google Patents

車載カメラ・システム並びに画像処理装置 Download PDF

Info

Publication number
JP6657925B2
JP6657925B2 JP2015250573A JP2015250573A JP6657925B2 JP 6657925 B2 JP6657925 B2 JP 6657925B2 JP 2015250573 A JP2015250573 A JP 2015250573A JP 2015250573 A JP2015250573 A JP 2015250573A JP 6657925 B2 JP6657925 B2 JP 6657925B2
Authority
JP
Japan
Prior art keywords
vehicle
distant
luminance
control unit
road
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015250573A
Other languages
English (en)
Other versions
JP2017005678A (ja
Inventor
智詞 中山
智詞 中山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to PCT/JP2016/002203 priority Critical patent/WO2016194296A1/en
Priority to EP16725611.4A priority patent/EP3304886B1/en
Priority to EP21160686.8A priority patent/EP3849172A1/en
Priority to US15/575,572 priority patent/US10582131B2/en
Priority to DE202016008786.0U priority patent/DE202016008786U1/de
Publication of JP2017005678A publication Critical patent/JP2017005678A/ja
Priority to US16/752,935 priority patent/US11089229B2/en
Priority to JP2020017066A priority patent/JP6930613B2/ja
Application granted granted Critical
Publication of JP6657925B2 publication Critical patent/JP6657925B2/ja
Priority to US17/225,449 priority patent/US11539894B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Exposure Control For Cameras (AREA)
  • Lighting Device Outwards From Vehicle And Optical Signal (AREA)

Description

本明細書で開示する技術は、車両に搭載されるカメラの露光制御を行なう車載カメラ・システム、並びに車載カメラの撮影画像に基づいて露光制御を行なう画像処理装置に関する。
最近、カメラを搭載する自動車が増えてきている。車載カメラが撮影した画像を用いて、走行支援や視界支援を行なうことができる。例えば、車載カメラの撮影画像を基に、車両の位置及び方向を検出して案内情報に利用したり、対向車両や先行車両、歩行者、障害物などを検出して事故防止に役立てたりすることができる。また、夜間の走行時においては、車載カメラの撮影画像を画像処理して、対向車両(又は、後続車両)のヘッドライトや先行車両のテールライトを検知して、周囲の他車両の情報を検出することができる(例えば、特許文献1、2を参照のこと)。
特開2005−92857号公報 特開2010−272067号公報 特開2004−23226号公報 特開2013−205867号公報
本明細書で開示する技術の目的は、車両に搭載されるカメラの露光制御を行なう車載カメラ・システム、並びに車載カメラの撮影画像に基づいて露光制御を行なう画像処理装置を提供することにある。
本明細書で開示する技術は、上記課題を参酌してなされたものであり、その第1の側面は、
車両に搭載され、前記車両の周辺を撮影する車載カメラと、
前記車載カメラの撮像画像内に設定した検知領域の輝度情報に基づいて前記車載カメラの露光を制御する制御部と、
を具備する車載カメラ・システムである。
但し、ここで言う「システム」とは、複数の装置(又は特定の機能を実現する機能モジュール)が論理的に集合した物のことを言い、各装置や機能モジュールが単一の筐体内にあるか否かは特に問わない。
本明細書で開示する技術の第2の側面によれば、第1の側面に係る車載カメラ・システムの前記制御部は、前記検知領域内で光源を検波した結果に応じて、前記車両とは異なる他車両の光源の分離を優先する露光制御モードに移行するように構成されている。
本明細書で開示する技術の第3の側面によれば、第2の側面に係る車載カメラ・システムの前記制御部は、前記車載カメラ・システムに対する設定に応じて前記光源の検波を実施するか否かを判定するように構成されている。
本明細書で開示する技術の第4の側面によれば、第2の側面に係る車載カメラ・システムの前記制御部は、前記車両が走行中の道路の種別に応じて前記光源の検波を実施するか否かを判定するように構成されている。
本明細書で開示する技術の第5の側面によれば、第2の側面に係る車載カメラ・システムの前記制御部は、前記車両の走行環境に応じて前記光源の検波を実施するか否かを判定するように構成されている。
本明細書で開示する技術の第6の側面によれば、第1の側面に係る車載カメラ・システムの前記制御部は、前記車両の走行進行方向の遠方道路消失点を基準に前記検知領域を設定し、前記検知領域内の輝度情報の解析結果に基づいて前記車載カメラを露光制御するように構成されている。
本明細書で開示する技術の第7の側面によれば、第6の側面に係る車載カメラ・システムの前記制御部は、前記車両の後方で、前記車両が走行してきた走行軌跡方角に基づいて前記遠方道路消失点を校正し、又は、前記車両の前方で、前記車両の予測進行方向に基づいて前記遠方道路消失点を校正するように構成されている。
本明細書で開示する技術の第8の側面によれば、第6の側面に係る車載カメラ・システムの前記制御部は、前記車両が走行してきた走行軌跡方角に所定距離だけ後方の場所を近似的な遠方道路消失点として求め、又は、前記車両が走行中の道路に沿った路面方角に所定距離だけ前方の場所を近似的な遠方道路消失点として求めるように構成されている。
本明細書で開示する技術の第9の側面によれば、第6の側面に係る車載カメラ・システムの前記制御部は、前記車載カメラの撮影画像の無限遠点に対する前記車両の走行進行方向の前記遠方道路消失点の相対位置に基づいて前記検知領域を設定するように構成されている。
本明細書で開示する技術の第10の側面によれば、第6の側面に係る車載カメラ・システムの前記制御部は、前記検知領域内の輝度情報として、前記検知領域内で生成する輝度水平プロファイルの解析結果に基づいて前記車載カメラを露光制御するように構成されている。
本明細書で開示する技術の第11の側面によれば、第10の側面に係る車載カメラ・システムの前記制御部は、前記検知領域内で、少なくとも1水平ライン毎に画素の輝度値を合算して各水平ラインの重みを決定し、各垂直ラインの画素の輝度値を前記水平ラインの重みで重み付け加算して、前記輝度水平プロファイルを生成するように構成されている。
本明細書で開示する技術の第12の側面によれば、第6の側面に係る車載カメラ・システムの前記制御部は、前記検知領域内で前記他車両のランプが存在するか否かを検出し、前記検知領域内で前記他車両のランプの存在を検出したときに、前記他車両のランプの光点分離を優先して前記車載カメラの露光を制御するように構成されている。
本明細書で開示する技術の第13の側面によれば、第12の側面に係る車載カメラ・システムの前記制御部は、前記輝度水平プロファイルに含まれる2つの隣接する極大値の間に存在する極小値の輝度情報に基づいて、前記検知領域内で前記他車両のランプが存在するか否かを検出するように構成されている。
本明細書で開示する技術の第14の側面によれば、第13の側面に係る車載カメラ・システムの前記制御部は、前記極大値の間隔が所定の範囲内で、前記極大値の平均値が前記極小値の所定倍以上又は前記極大値の平均値が所定値以上であれば、前記検知領域内で前記他車両のランプがあると判定するように構成されている。
本明細書で開示する技術の第15の側面によれば、第6の側面に係る車載カメラ・システムの前記制御部は、前記検知領域内で前記他車両のランプを検出したか否かに基づいて、前記車載カメラの露光制御モードを決定するように構成されている。
本明細書で開示する技術の第16の側面によれば、第15の側面に係る車載カメラ・システムは、画像出力部又は音声出力部をさらに備えている。そして、前記制御部は、前記露光制御モードを変更するときには、画像又は音声又は振動のうち少なくとも1つを用いて事前に通知するように構成されている。
本明細書で開示する技術の第17の側面によれば、第1の側面に係る車載カメラ・システムの前記制御部は、前記検知領域内で生成した輝度水平プロファイルに基づいて、前記他車両のランプの光点分離を優先した前記車載カメラの露光制御を行なうように構成されている。
本明細書で開示する技術の第18の側面によれば、第17の側面に係る車載カメラ・システムの前記制御部は、前記輝度水平プロファイルに含まれる2つの隣接する極大値の平均値を前記極大値間に存在する極小値で割って求めた評価値に基づいて、前記車載カメラの露光制御を行なうように構成されている。
本明細書で開示する技術の第19の側面によれば、第17の側面に係る車載カメラ・システムの前記制御部は、前記輝度水平プロファイルが所定の閾値を超える山の幅最大値に基づいて、前記車載カメラの露光制御を行なうように構成されている。
また、本明細書で開示する技術の第20の側面は、
車両に搭載された車載カメラの撮像画像内に設定した検知領域の輝度情報に基づいて、前記車載カメラの露光を制御する、
画像処理装置である。
本明細書で開示する技術によれば、車両に搭載されるカメラの露光制御を行なう車載カメラ・システム、並びに車載カメラの撮影画像に基づいて露光制御を行なう画像処理装置を提供することができる。
なお、本明細書に記載された効果は、あくまでも例示であり、本発明の効果はこれに限定されるものではない。また、本発明が、上記の効果以外に、さらに付加的な効果を奏する場合もある。
本明細書で開示する技術のさらに他の目的、特徴や利点は、後述する実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
図1は、自動車100の車室内にカメラを搭載した例を示した図である。 図2は、自動車200の車室外にカメラを搭載した例を示した図である。 図3は、車両の前方若しくは後方の風景(夜間又はトンネル内)を例示した図である。 図4は、図3に示すような暗い走行環境下の風景を車載カメラで低照度時用の(長い)露光時間により撮影した画像401を例示した図である。 図5は、図3に示すような暗い走行環境下の風景を車載カメラで高照度時用の(短い)露光時間により撮影した画像501を例示した図である。 図6は、車載カメラ・システム600の構成例を示した図である。 図7は、車載カメラの自動露光制御の処理手順を示したフローチャートである。 図8は、車両の走行進行方向の遠方道路消失点と基準点との位置関係を説明するための図である。 図9は、車両の走行進行方向の遠方道路消失点と基準点との位置関係を説明するための図である。 図10は、車両の走行進行方向の遠方道路消失点と基準点との位置関係を説明するための図である。 図11は、車両の走行進行方向の遠方道路消失点と基準点との位置関係を説明するための図である。 図12は、車両の走行進行方向の遠方道路消失点と基準点との位置関係を説明するための図である。 図13は、車両の走行進行方向の遠方道路消失点と基準点との位置関係を説明するための図である。 図14は、自車両の走行進行方向の遠方道路消失点に基づいて遠方小枠を定義する例を示した図である。 図15は、遠方小枠1500内の1つの垂直画素位置vにおけるスキャン・ライン1501を例示した図である。 図16は、遠方小枠内の1つのスキャン・ライン上(水平方向)の輝度分布を例示した図である。 図17は、スキャン・ライン毎(垂直方向)の重みを例示した図である。 図18は、遠方小枠内の輝度水平プロファイルを例示した図である。 図19は、車両光源検波モードに移行すべきか否かを判定するための処理手順を示したフローチャートである。 図20は、カーブする道路における遠方道路消失点を近似する方法を説明するための図である。 図21は、傾斜が変化する道路における遠方道路消失点を近似する方法を説明するための図である。 図22は、自車両の走行進行方向の遠方道路消失点に基づいて遠方小枠を定義する例を示した図である。 図23は、自車両の走行進行方向の遠方道路消失点に基づいて遠方小枠を定義する例を示した図である。 図24は、自動車のランプの検出を優先するための遠方小枠を定義する処理手順を示したフローチャートである。 図25Aは、遠方小枠内で輝度水平プロファイルを生成するための処理手順を示したフローチャートである。 図25Bは、遠方小枠内で輝度水平プロファイルを生成するための処理手順を示したフローチャートである。 図26Aは、遠方小枠内で輝度水平プロファイルを生成するための他の処理手順を示した図である。 図26Bは、遠方小枠内で輝度水平プロファイルを生成するための他の処理手順を示した図である。 図27は、遠方小枠内の輝度水平プロファイルの隣接する極大値とこれらの間の極小値を示した図である。 図28Aは、輝度水平プロファイルに基づいて遠方小枠内に自動車のランプがあるか否かを判定するための処理手順を示したフローチャートである。 図28Bは、輝度水平プロファイルに基づいて遠方小枠内に自動車のランプがあるか否かを判定するための処理手順を示したフローチャートである。 図29は、輝度水平プロファイルの極大値及び極小値に基づいて、車載カメラの自動露光制御を行なうための処理手順を示したフローチャートである。 図30Aは、自動露光制御のための評価値Fが大きい場合の遠方小枠内の輝度水平プロファイルを示した図である。 図30Bは、自動露光制御のための評価値Fが小さい場合の遠方小枠内の輝度水平プロファイルを示した図である。 図31は、遠方小枠内の輝度水平プロファイル(光点分離に最適化した露光条件で撮影した場合)を示した図である。 図32は、遠方小枠内の輝度水平プロファイル(光点分離に十分でない露光条件で撮影した場合)を示した図である。 図33は、遠方小枠内の輝度水平プロファイルの形状に基づいて、光点分離に最適化した車載カメラの自動露光制御を行なうための処理手順を示したフローチャートである。 図34は、暗い走行環境下の風景を車載カメラで後続車両又は対向車両を撮影したときのヘッドライト形状3401を示した図である。 図35は、自車両の走行進行方向の遠方道路消失点に基づいて遠方小枠を定義する例を示した図である。 図36は、自車両の走行進行方向の遠方道路消失点に基づいて遠方小枠を定義する例を示した図である。 図37は、自車両の走行進行方向の遠方道路消失点に基づいて遠方小枠を定義する例を示した図である。 図38は、自車両の走行進行方向の遠方道路消失点に基づいて遠方小枠を定義する例を示した図である。 図39は、自車両の走行進行方向の遠方道路消失点に基づいて遠方小枠を定義する例を示した図である。 図40は、自車両の走行進行方向の遠方道路消失点に基づいて遠方小枠を定義する例を示した図である。
以下、図面を参照しながら本明細書で開示する技術の実施形態について詳細に説明する。
図1には、自動車(普通乗用車)100にカメラを搭載した例を示している。同図では、自動車100の車室内に2台のカメラ101、102が搭載されている。一方のカメラ101は、撮像方向を自動車100の前方(走行方向)に向けて、例えばフロント・ウィンドウ(ルームミラー)付近に設置されている。
他方のカメラ102は、撮像方向を自動車100の後方に向けて、例えば車室後方のリア・ウィンドウ付近に設置されている。図1に示す例では、他方のカメラ102は、車室内に配置され、リア・ガラスを通して自動車100の後方を撮影するが、図2(後述)と同様に、車室外に配置したカメラ202で、自動車100の後方を撮影するようにしてもよい。各カメラ101、102の視野角をそれぞれ参照番号111、112で示している。カメラ101は、自車両の走行方向前方の先行車両や対向車両を撮影することができる。また、カメラ102は、自車両の走行方向後方の後続車両を撮影することができる。なお、各カメラ101、102の車両各部位への固定方法は任意である。
また、図2には、自動車(普通乗用車)200にカメラを搭載した他の例を示している。同図では、自動車200の車室外に4台のカメラ201〜204が搭載されている。カメラ201は、前方(走行方向)を撮影するように、自動車200の車両前端(例えば、フロント・グリル又はフロント・バンパー・カバー付近)に設置されている。また、カメラ202は、後方を撮影するように、自動車200の車両後端(例えば、リア・バンパー・カバー付近)に設置されている。また、カメラ203及び204はそれぞれ左右のドアミラーの先端付近に、撮像方向を自動車200の後方に向けて設置されている。カメラ203及び204をそれぞれ左右のドアミラーと併用してもよい。あるいは、左右のドアミラーをカメラ203及び204で置き換えてもよい。各カメラ201〜204の視野角をそれぞれ参照番号211〜214で示している。カメラ201は、自車両の走行方向前方の先行車両や対向車両を撮影することができる。また、カメラ202〜204は、自車両の走行方向後方の後続車両を撮影することができる。なお、各カメラ201〜204の車両各部位への固定方法は任意である。
本明細書で開示する技術は、自動車に1台以上のカメラ(車載カメラ)が搭載されていることを前提とする。図1並びに図2に示した車載カメラの設置場所は、例示に過ぎず、車両の上記以外の部位に設置していてもよい。また、2台以上の車載カメラを組み合わせてもよい。また、車載カメラを搭載する自動車の種類は、普通乗用車に限定されず、中型自動車、大型自動車、あるいはバイクなどの2輪車であってもよい。
夜間やトンネル内など暗い走行環境下では、車載カメラの撮影画像を画像処理して、後続車両(又は対向車両)のヘッドライトや、先行車両のテールライトを検知して、周囲の他車両の情報を検出することができる(前述)。例えば、高速道路を走行中に車線変更をしようとするとき、遠方の後方車両を確認する必要がある。しかし、夜間などの暗い状況では、周辺車両の形状を鮮明に見ることは困難である。ドライバーは、一般に、視覚的に周辺車両の接近状況を判別する際は周辺車両の左右ライトなどから接近状況を認知している。そのため、その左右ライト光源の分離を視認できるようにカメラを制御する必要がある。
通常の(若しくは、一般的な)写真撮影や観賞用のビデオ映像の撮影に適用される露光制御技術は、基本的に、画面全体を平均的に露光制御するものである。例えば、画面を単純に複数領域に分割した明るさ検波枠を設け、その検波枠毎に入射する光の総和を積算して得られる光量に基づいてカメラの露光を自動制御する方法が挙げられる(例えば、特許文献3を参照のこと)。さらに、シーン毎の最適露光となるように検波枠別に光量を重み付け積算して、実際のシーンに合わせたカメラの自動露光やゲイン調整を行なう方法も挙げられる。
ところが、自車両から所定距離L(例えばL=150メートル程度)だけ離れた後続又は先行の車両(以下、「遠方車両」とする)を車載カメラで撮影する場合、車載カメラの視野内における遠方車両のヘッドライト(若しくは、テールライト)光源の割合は小さい。このため、画面全体を平均的に露光制御する方法を適用すると、低照度時用の(長い)露光時間となってしまい、オーバー露光となり易い。例えば、画面を単純に複数領域に分割した検波枠を設けて検波枠毎の輝度値を重み付け加算する場合、検波枠に対する注目車両の占める割合が小さ過ぎるため、該当する検波枠の重み付けを大きくしても、画面の平均的明るさを表現することが優先されてしまい、安定した自動露光制御を行なうのは難しい。
図3に示すような車両の前方若しくは後方の(ドアミラーやルームミラーで視認できる)風景を、夜間やトンネル内などの暗い走行環境下で車載カメラにより撮影した場合について考察する。仮に、図示の風景を、車両後方の道路(左側車線)302に後続車両301が走行しているとみなす。暗い走行環境なので、後続車両301は左右2つのヘッドライトを点灯しているものとする。
図4には、図3に示すような暗い走行環境下の風景を車載カメラで低照度時用の(長い)露光時間により撮影した画像を例示している。後続車両301のヘッドライトは高照度であるため、オーバー露光となり、参照番号401で示すように周辺の画素まで白く飽和してしまう。このような場合、ヘッドライトを2つの光点として捉えることが難しい。上述した通常の自動露光制御を車載カメラに適用すると、低照度時用の(長い)露光時間で撮影しがちであり、その結果として、図4に示すようなオーバー露光になり易い。
また、図5には、図3に示すような暗い走行環境下の風景を車載カメラで高照度時用の(短い)露光時間により撮影した画像を例示している。露光を抑制することによって、参照番号501で示すように、後続車両301の高照度の左右のヘッドライトを2つの光点として捉えることができる。
図34に示すように、暗い走行環境下の風景を車載カメラで後続車両又は対向車両を撮影したときのヘッドライト形状3401の横幅をWh、ヘッドライトの横方向の輝度値の平均をYh、最も狭くなっている箇所の縦幅をWv、最も狭くなっている箇所の輝度値の平均値をYvとおくと、下式(1)に示すようにWh・Yh/Wv・Yvが2〜3程度の値になることが好ましい、と本出願人は考えている(Aは、2〜3程度の定数)。
このように露光時間を制御することで、ルームミラーやサイドミラーがディスプレイに置き換えられた電子ミラーを搭載した車両であっても、ユーザー(ドライバー)が2つの光点から後続車両301の車幅及び車間距離を推測することができて、車線変更すべきかどうかを判断し易くなる。また、フロントカメラ101に上記露光制御を適用することで、2つの光点から先行車両302又は対向車両の車幅を求めることができる。なお、後続車両301のヘッドライトの画角情報があれば、3角測量の原理で自車両と後続車両301との車間距離を算出することもできる。さらに、対向車両のヘッドライトの2つの光点から対向車両との車間距離を算出することができる。これらの情報は、例えば、対向車両との車間距離に応じて、自車両のヘッドライトをハイビームとロービームとに自動的に切り替えるヘッドライト・コントロール・システムに適用することができる。
例えば高速道路を走行しているとき、自車両は先行車両にすぐ追いつき、逆に後続車両にすぐに追いつかれてしまう。このため、安全に車線変更を行なうには、遠方の視界支援が重要である。走行支援や遠方の視界支援に関わる車載カメラでは、自車両に接近し得る遠方車両をより正確に捉える必要がある。ところが、夜間やトンネル内など暗い走行環境下では、上述したように、高照度の(逆光となる)周辺車両のランプを車載カメラで撮影する際にオーバー露光になり易いという問題がある。とりわけ、遠方車両のヘッドライト光源は視野内での割合が小さいため、画面全体を平均的に露光制御する通常の自動露光制御を適用すると、オーバー露光になり易く、周辺の画素まで白く飽和するので、ヘッドライトを2つの光点として捉えることが難しい。
また、市街地での一般道路では、他車両が遠方から高速で接近することは少なく、一律に遠方車両の光源視認を優先することが望ましいとは限らないため、目的に応じた切り替えが必要である。
走行環境として、市街地、トンネル、夜間、街灯の存在しない道路、高速道路、夕暮れなど環境光源の変化や走行道の平均車両速度を以って露光制御モードを判断することが例として挙げられる。
そこで、本明細書では、夜間やトンネル内など暗い走行環境下で高照度のヘッドライトを点灯させた遠方車両を車載カメラでオーバー露光することなく好適に撮影するための露光制御技術について提案する。本明細書で開示する技術は、端的に言えば、夜間にヘッドライトを点灯させた遠方車両の波形プロファイル解析をカメラの撮影画像内に設定する小枠の中で行なうことによって、遠方車両のヘッドライトを見易くする最適な露光制御を可能にするものである。
図6には、車載カメラの自動露光制御を行なうことができる、車載カメラ・システム600の構成例を模式的に示している。
対象とする車両には、イメージ・センサー601、ヨー角検出部602、ピッチ角検出部603、GPS(Global Positoining System)センサー604などの複数のセンサーが搭載されている。
イメージ・センサー601は、周辺車両などを撮影する目的で自車両に搭載される車載カメラに相当し、例えば図1や図2に示したいずれかの場所に設置されている。イメージ・センサー601は、2台以上の車載カメラを含んでいてもよい。あるいは、イメージ・センサー601は、車載カメラ以外のセンサーであってもよい。
ヨー角検出部602は、自車両のヨー回りの回転角度θを検出する。例えば、自車両がカーブを走行しているときには、ヨー角検出部602は、道路の曲り角度に相当する自車両のヨー回りの回転角度の時々刻々の変化δθを検出する。ヨー角検出部602は、例えば、ヨーレート・センサーや舵角センサーで構成される。ヨー角検出部602で検出されるヨー角θは、例えば自車両の直進方向に対する曲り角に相当する。
ピッチ角検出部603は、自車両のピッチ回りの回転角度φや角速度を検出する。例えば、自車両が上り坂又は下り坂の坂道を走行しているときには、ピッチ角検出部603は、坂道の傾斜の時々刻々の変化δφを検出する。ピッチ角検出部603は、例えば、ピッチレート・センサーやジャイロ・センサーで構成される。検出されるピッチ角φは、例えば自車両が上り坂や下り坂を走行する際の自車両の傾き、車室内の積荷などによって生じる車体の傾き、又は自車両の加減速時の慣性力によって生じる車体の傾きに相当する。
GPSセンサー604は、上空のGPS衛星からの電波(GPS信号)を受信する。4つのGPS衛星からのGPS信号に基づいて測位計算することで、受信時刻と受信機座標(3次元空間上の点)を同時に求めることができる(周知)。
処理部605は、作業エリアとして用い、あるいはデータやプログラムを不揮発的に記憶するためのメモリー606を内部に備えており、各種処理を実行する。例えば、処理部605は、車載カメラにおける自動露光を制御するための処理を実行する。また、処理部605は、イメージ・センサー601、ヨー角検出部602、ピッチ角検出部603、GPSセンサー604の各検出信号に基づいて、自車両の走行履歴を記録したり、走行進行方向を判定したり、自動露光制御のモード移行を制御したりする処理を行なう。なお、メモリー606は、重み付け情報(後述)や各種設定値などの自動露光制御の際に使用する情報をあらかじめ格納するROM(Read Only Memory)を含むものとする。
設定入力部607は、例えばタッチパネルや、ボタン若しくはスイッチなどの操作子からなり、処理部605で処理を実行するためのユーザー(例えば、自車両の運転手)からの入力操作を受け付ける。ユーザーは、設定入力部607を介して、車載カメラの自動露光制御のモード移行の設定を行なうことができる。
画像出力部608並びに音声出力部609は、処理部605による処理の実行結果を画像並びに音声でそれぞれ出力する。画像出力部608は、例えば自車両の運転席から観察することができるモニター画面を有しており、車載カメラの自動露光制御のモード移行を視覚的に通知したり、遠方車両の検出結果を表示したりすることができる。音声出力部609は、例えばスピーカーで構成され、車載カメラの自動露光制御のモード移行や、遠方車両の検出結果を音声で通知することができる。
図7には、図6に示した車載カメラ・システム600で実行する、車載カメラの自動露光制御の処理手順をフローチャートの形式で示している。図示の自動露光制御は、車載カメラ(イメージ・センサー601)の電源を投入したことにより、処理部605が開始するものとする。
まず、処理部605は、車載カメラで撮影した画面全体の画像を取り込み、ラスター・スキャンする(ステップS701)。
次いで、処理部605は、車載カメラに対し、通常の自動露光制御を行なう(ステップS702)。通常の(若しくは、一般的な)写真撮影や観賞用のビデオ映像の撮影に適用される露光制御技術は、基本的に、画面全体を平均的に露光制御するものである。例えば、画面を単純に複数領域に分割した明るさ検波枠を設け、その検波枠毎に入射する光の総和を積算して得られる光量に基づいてカメラの露光を自動制御する方法が挙げられる(例えば、特許文献3を参照のこと)。
次いで、処理部605は、車両光源検波モードに移行すべきか否かを判定する(ステップS703)。ここで言う車両光源検波モードとは、夜間やトンネル内などの暗い走行環境下で、自動車のランプ(遠方車両のヘッドライトやテールライト)の存否をチェックする動作モードのことである。車両光源の検波は、後述する遠方小枠内に限定して実施する。遠方車両の2つの光点を視覚的に分離できるように最適化した(若しくは、遠方車両の光点分離を優先して露光制御する)光点分離最適化自動露光制御モード(後述)へ変更する際には、事前に遠方小枠内での車両光源検波を行なうものとする。車両光源検波モードに移行すべきか否かを判定するための処理手順の詳細については、後述に譲る。
車両光源検波モードに移行すべきでないと判定した場合には(ステップS703のNo)、ステップS701に戻り、処理部605は、車載カメラに対する通常の自動露光制御を継続して行なう。
一方、車両光源検波モードに移行すべきであると判定した場合には(ステップS703のYes)、処理部605は、続いて、車載カメラの撮影する画像内で、自車両の走行進行方向の遠方道路消失点の校正処理を行なう(ステップS704)。
消失点は、透視変換によって3次元空間中の平行線を画像上に投影した場合に、それら平行線に対応する画像上の直線が収束する点のことである(例えば、特許文献4を参照のこと)。消失点は、理論的には無限遠点である。「消失点」と言うとき、車載カメラの撮像画像の消失点(無限遠点)と、走行中の道路の稜線が遠方で交わる消失点という2種類の点が想起される。本明細書では、便宜上、車載カメラの撮像画像の消失点(無限遠点)を「基準点」と呼び、走行中の道路の稜線が遠方で交わる消失点を「走行進行方向の遠方道路消失点」(若しくは、単に「消失点」)と呼ぶことにする。なお、車載カメラの撮影画像上の基準点は、カメラ・パラメーターなどによって決まる固定値であり、メモリー(ROM)606内にあらかじめ格納されているものとする。図8には、真直ぐな道路を走行中の自車両に搭載された車載カメラで後方を撮影する場合の、車両の走行進行方向の遠方道路消失点802と基準点801との位置関係を例示している。例えば、真直ぐな道路を走行中の自車両に搭載された車載カメラで後方を撮影する場合、図8に示すように光軸を道路と平行にしたカメラで車両の進行方向を捕えたカメラ画像では、車載カメラの撮像画像の消失点(無限遠点)と、走行中の道路803の稜線が遠方で交わる道路の平行無限遠方が重なるため、消失点はほぼ一致する。但し、車載カメラを自車両に取り付ける位置や取り付ける角度に応じて、基準点801と走行進行方向の遠方道路消失点802は多少ずれる。
また、図9に示すように、右カーブの道路903を通過するときに自車両に搭載された車載カメラで後方を撮影する場合、走行進行方向の遠方道路消失点902は基準点901よりも左方にずれる(あるいは、左カーブを通過するときの前方を車載カメラで撮影する場合も、走行進行方向の遠方道路消失点は基準点よりも左方にずれる)。
逆に、図10に示すように、左カーブの道路1003を通過するときに自車両に搭載された車載カメラで後方を撮影する場合、走行進行方向の遠方道路消失点1002は基準点1001よりも右方にずれる(あるいは、右カーブを通過するときの前方を車載カメラで撮影する場合も、走行進行方向の遠方道路消失点は基準点よりも右方にずれる)。
処理部605は、ヨー角検出部602で検出されるヨー角情報などの走行履歴に基づいて、走行中の道路がどれだけ左側又は右側にカーブしたかを検出することができる。あるいは、GPSセンサー604から得られる現在位置情報と地図情報に基づいて、走行中の道路がこれからどれだけ左側又は右側にカーブするかを予測することができる。
また、走行中の道路の傾斜が変化したときには、走行進行方向の遠方道路消失点は、基準点に対し上下方向にずれる場合がある。図11には、自車両が走行中の道路のプロファイルを例示している(但し、紙面で左→右方向を自車両の進行方向とする)。参照番号1101は平坦な(若しくは、傾斜が一定の)道路のプロファイル、参照番号1102は地点1110で下り坂が終わる道路のプロファイル、参照番号1103は地点1110で上り坂が終わる道路のプロファイルである。
参照番号1101で示すような平坦な(若しくは、傾斜が一定の)道路を走行中に、自車両に搭載された車載カメラで後方を撮影する場合、図8に示したように、走行進行方向の遠方道路消失点は車載カメラの撮像画像の消失点(無限遠点)とほぼ一致する。
一方、参照番号1102で示すような下り坂を折り終えた地点1110で、自車両に搭載された車載カメラで道路1203の後方を撮影する場合、図12に示すように、走行進行方向の遠方道路消失点1202は基準点1201よりも上方にずれる(あるいは、上り坂に差し掛かったときの前方を車載カメラで撮影する場合も、走行進行方向の遠方道路消失点は基準点よりも上方にずれる)。
また、参照番号1103で示すような上り坂1303を折り終えた地点1110で、自車両に搭載された車載カメラで道路1303後方を撮影する場合、図13に示すように、走行進行方向の遠方道路消失点1302は基準点1301よりも下方にずれる(あるいは、下り坂に差し掛かったときの前方を車載カメラで撮影する場合も、走行進行方向の遠方道路消失点は基準点よりも下方にずれる)。
図8〜図13で言わんとすることを要約すると、自車両の後方では、自車両が走行してきた走行軌跡方角に基づいて遠方道路消失点を校正し、自車両の前方では、自車両の予測進行方向(自車両が走行中の道路に沿った路面方角)に基づいて遠方道路消失点を校正するようにする。
処理部605は、ピッチ角検出部603で検出されるピッチ角情報などの走行履歴に基づいて、走行してきた道路の傾斜の変化を検出することができる。あるいは、GPSセンサー604から得られる現在位置情報と地図情報に基づいて、走行中の道路がこれから上り坂又は下り坂に差し掛かることを予測することができる。
したがって、ステップS704では、処理部605は、車載カメラの取り付け位置並びに取り付け角度、走行履歴(ヨー角検出部602から得られる自車両の進行方向の変化、ピッチ角検出部603から得られる自車両の車体傾き、GPSセンサー604から得られる現在位置情報)に基づいて、自車両の走行進行方向の遠方道路消失点を決定する(すなわち、基準点に基づいて遠方道路消失点の位置を校正する)ようにすればよい。
次いで、処理部605は、遠方道路消失点を校正した後の画面上で、自動車のランプ(遠方車両が点灯するヘッドライト又はテールライト)の検出を優先するための遠方小枠を定義する(ステップS705)。
例えば高速道路における遠方の視界支援に関わる車載カメラでは、自車両に接近し得る遠方車両をより正確に捉える必要がある。ところが、遠方車両のヘッドライト光源は、視野内での割合が小さいため、通常の自動露光制御を適用するとオーバー露光になり易い、これがランプ検出を優先する遠方小枠を定義する理由である。
また、自車両に接近し得る遠方車両は、自車両の後方では、自車両が走行してきた走行軌跡方角を走行し、自車両の前方では、自車両の予測進行方向(自車両が走行中の道路に沿った路面方角)を走行していると想定される。したがって、自車両の走行進行方向の遠方道路消失点を基準に遠方小枠を定義することによって、所望する遠方車両を遠方小枠内で捉えることを期待できる。
ステップS705では、先行ステップS704で校正した遠方道路消失点に基づいて、遠方小枠を定義する。図14には、車載カメラの撮影画像内で遠方道路消失点1402を基準にして、遠方小枠1401を定義した例を示している。ランプ(遠方車両が点灯するヘッドライト又はテールライト)の検出を、遠方小枠に限定するのは、車載カメラの視野内における遠方車両のヘッドライトやテールライト光源の割合が小さいからである。また、基本的には、遠方道路消失点1402の下方近傍に遠方小枠1401を設定するが、これは路面を走行する遠方車両1404は撮影画像内で遠方道路消失点より下に存在するという自明の理由に依拠する。さらに、一般に、街灯は自車のカメラ配置高さより高い位置にあると想定され、且つ遠方消失点より撮影画像内で上部に存在するため、街灯などを枠に入れないようにすることも理由である。また、上記のように遠方小枠1401の位置と大きさを遠方道路消失点1402の近傍に絞り込むことで、道路1403の両脇の街灯1405などの車両以外の光源を検出対象から外すことができるというメリットもある。
遠方小枠の大きさや形状(長方形や台形など)はあらかじめ定義したものでもよい。以下の説明では、あらかじめ定義された遠方小枠の大きさや形状は、メモリー(ROM)606内にあらかじめ格納されているものとする。但し、自車両が走行する道路のカーブや起伏により遠方道路消失点が基準点から移動するので(前述、並びに図8〜図13を参照のこと)、遠方道路消失点の位置に応じて遠方小枠を設置する位置や大きさ、形状を変化させるようにしてもよい。ステップS705において実施する、遠方小枠を定義するための処理手順の詳細については、後述に譲る。
次いで、処理部605は、先行ステップS705で定義した遠方小枠内で、輝度水平プロファイルを生成する(ステップS706)。具体的には、遠方小枠内で、スキャン・ライン方向に各画素の輝度値を合算した値(あるいは平均値を用いてもよい)に基づいてスキャン・ライン毎の重みを決定した後、遠方小枠内の水平画素位置毎に、スキャン方向の各画素の輝度値をスキャン・ライン毎の重みで重み付け加算することによって平滑化して、遠方小枠内の輝度水平プロファイルを生成する。
図15には、遠方小枠1500内の1つの垂直画素位置vにおけるスキャン・ライン1501を例示している。図16には、垂直画素位置vのスキャン・ライン1501における水平方向の輝度分布を例示している。同図中、横軸は遠方小枠内の水平画素位置uであり、縦軸は各水平画素位置uにおける輝度値Y(u,v)である。図17には、遠方小枠内の同じ水平位置の画素の輝度値を合計して得られるスキャン・ライン(v)毎(垂直方向)の重みを例示している。同図中、縦軸は遠方小枠内のスキャン位置(垂直画素位置v)であり、横軸は各スキャン位置における(画素の輝度値の合計からなる)重みW(v)(=ΣY(ui,v))である。図15に示したように、遠方小枠内にヘッドライトを点灯させた遠方車両が含まれる場合、ヘッドライトを通過するスキャン位置付近で、輝度値の合計すなわち重みが大きくなることが予測される。また、図18には、遠方小枠内の水平画素位置(u)毎に、スキャン方向の各画素の輝度値をスキャン・ライン毎の重みで重み付け加算して得られる、遠方小枠の輝度水平プロファイルを例示している。同図中、横軸は遠方小枠内の水平画素位置uであり、縦軸は水平画素位置uにおける画素の輝度値を重み付け加算した重み付け輝度合計値Ysum(u)である。ステップS706で実施する、遠方小枠内の輝度水平プロファイルを生成するための詳細な処理手順については、後述に譲る。
そして、処理部605は、先行ステップS706で生成した輝度水平プロファイルに基づいて、先行ステップS705で定義した遠方小枠内に自動車のランプ(すなわち、遠方の対向車両(又は、後続車両)のヘッドライト、若しくは、先行車両のテールライト))があるか否かをチェックする(ステップS707)。図15に示したように、2つの光点(遠方車両のヘッドライト)を含む遠方小枠1500の場合、図18に示すように2つの山(極大点)を持つ輝度水平プロファイルとなることが想定される。ステップS707で実施する、遠方小枠内で自動車のランプの存否を確認するための処理手順の詳細については、後述に譲る。
遠方小枠内に自動車のランプがない場合には(ステップS707のNo)、ステップS701に戻り、処理部605は、車載カメラに対する通常の自動露光制御を行なうようにする。但し、既に光点分離最適化自動露光制御モード(後述)に移行しており、通常の自動露光制御モードに変更するときには(ステップS711のYes)、自車両の運転者に対して、画像出力部608や音声出力部609を通じて、モード変更の通知を事前に行なうようにする(ステップS712)。
また、遠方小枠内に自動車のランプがある場合は(ステップS707のYes)、処理部605は、光点分離最適化自動露光制御モード下で、2つの光点(対向車両(又は、後続車両)の左右のヘッドライト、若しくは、先行車両の左右のテールライト))を分離できるように、車載カメラの自動露光制御を最適化処理する(ステップS710)。但し、通常の自動露光制御モードから光点分離最適化自動露光制御モードへ変更するときには(ステップS708のYes)、自車両の運転者に対して、画像出力部608や音声出力部609を通じて、モード変更の通知を事前に行なうようにする(ステップS709)。
なお、必ずしも通常の自動露光制御モードと光点分離最適化自動露光制御モードとの2段階である必要はなく、その中間のモードを設定してもよい。例えば、通常の自動露光制御モードに基づいた露光制御×αと、光点分離最適化自動露光制御モードに基づいた露光制御×βとし(但し、α+β=1)、αとβを道路環境や外光光源環境に応じて制御するようにしてもよい。
また、本実施形態ではステップS707において遠方小枠内に自動車のランプがあるか否かを判別した後にステップS710で露光制御を実施しているが、逆に露光制御を実施した後に遠方小枠内に自動車のランプがあるか否かを判別するようにしてもよい。
図19には、図7に示したフローチャートのステップS703で実行する、車両光源検波モードに移行すべきか否かを判定するための処理手順をフローチャートの形式で示している。
まず、処理部605は、車両光源検波モードの移行が可能か否かをチェックする(ステップS1901)。ユーザー(例えば、自車両の運転者)は、設定入力部607を通じてモード設定を行なうことができるものとし、設定状況などに応じて当該判定処理を行なう。車両光源検波モードの移行が可能に設定されていない場合には(ステップS1901のNo)、車両光源検波モードへの移行に対して否定的な判定結果を返す(ステップS1905)。
運転者は、車載カメラによる撮影画像から遠方車両のランプを検出する必要のない場合には、設定入力部601を通じて車両光源検波への移行を不可に設定して、車載カメラに対して通常の自動露光制御を継続して適用するようにすればよい。例えば、車載カメラで、遠方車両に限定せず、風景全体を撮影したいときには、車両光源検波への移行を不可に設定しておく。
また、車両光源検波モードの移行が可能な場合には(ステップS1901のYes)、処理部605は、自車両が現在高速道路を走行しているか否かをさらにチェックする(ステップS1902)。
処理部605は、例えば、GPSセンサー604から得られる位置情報に基づいて、自車両が現在高速道路を走行しているか否かをチェックすることができる。あるいは、イメージ・センサー601による撮影画像を解析して、走行している道路が高速道路であるかどうかを判定するようにしてもよい。あるいは、自車両でETC(Electronic Toll Collection System)による高速道路の利用料金が徴収されている状態であるかどうか(例えば、ETC車載機が料金所アンテナで受信した入口情報を保持している状態であるかどうか)に基づいて、現在高速道路を走行しているか否かをチェックすることができる。
高速道路を走行しているとき、自車両並びに周辺車両は高速で走行していることが想定されている。また、高速道路は、直線又はカーブが緩やかであり、遠方まで見渡すことができる。例えば、自車両が夜間やトンネル内など暗い走行環境下の高速道路で車線変更しようとするとき、遠方の後続車両が自車両に急接近してくる可能性や自車両が遠方の先行車両に急接近する可能性があるので、車両光源検波や、遠方車両の光点(左右のヘッドライト)分離に最適化した(若しくは、遠方車両の光点分離を優先して露光制御する)自動露光制御が必要である。他方、一般道路や市街地を走行しているとき、自車両と遠方車両が急接近する可能性は極めて低く、むしろ近隣で走行している車両や通行人を注意する必要がある。また道路は折れ曲がりがちで遠方の見通しは良くないことが多い。したがって、高速道路以外では、車両光源検波や遠方車両の光点分離最適化自動露光制御は不要である。
自車両が現在高速道路を走行していない場合には(ステップS1902のNo)、車両光源検波モードに移行する必要がないので、車両光源検波モードへの移行に対して否定的な判定結果を返す(ステップS1905)。
また、自車両が現在高速道路を走行している場合には(ステップS1902のYes)、処理部605は、現在の走行環境が暗いか否かをさらにチェックする(ステップS1903)。
例えば夜間やトンネル内は暗い走行環境と言うことができる。処理部605は、例えばシステム時計が計時する時刻情報に基づいて、夜間か否かを判定するようにしてもよい。また、GPSセンサー604から得られる現在位置情報と地図情報に基づいて、自車両がトンネル内を走行しているか否かを判定するようにしてもよい。あるいは、イメージ・センサー601による撮影画像の輝度情報に基づいて、夜間やトンネル内などの暗い走行環境下であるか否かを判定するようにしてもよい。
自車両が暗い走行環境下で走行していない場合には(ステップS1903のNo)、画面全体を平均的に露光制御する通常の自動露光制御でも精細に遠方車両をと捉えることができる。すなわち、車両光源検波モードに移行する必要がないので、車両光源検波モードへの移行に対して否定的な判定結果を返す(ステップS1905)。
他方、車両光源検波モードの移行が可能で、且つ、自車両が高速道路を、夜間やトンネル内などの暗い走行環境下で走行していると判定された場合には(ステップS1903のYes)、車両光源検波モードへの移行に対して肯定的な判定結果を返す(ステップS1904)。
図19に示した処理手順を経て、車両光源検波モードに移行すべきであると判定した場合には、処理部605は、続くステップS704で、車載カメラが撮影する、自車両の走行進行方向の遠方道路消失点の校正処理を行なう。
走行中の道路のカーブや傾斜の変化に応じて走行進行方向の遠方道路消失点を校正すべき点については、図8〜図12を参照しながら既に説明した。本明細書で言う走行進行方向の遠方道路消失点は、道路の稜線が収束する点である。消失点は、理論的には無限遠点である。撮影画像中のオプティカルフロー(動きベクトル)を延長した直線が交わる点として遠方道路消失点を厳密に求めることができる。
現実的には、高速道路を走行中に、自車両を車線変更しようとするとき、無限遠の遠方の後続車両を確認する必要はない。自車両の後方では、自車両が走行してきた走行軌跡方角に所定距離L(例えばL=150メートル程度)だけ後方の場所を近似的な遠方道路消失点とするようにしてもよい。同様に、自車両の前方で、自記車両の予測進行方向(前記車両が走行中の道路に沿った路面方角)に所定距離Lだけ前方の場所を近似的な遠方道路消失点とするようにしてもよい。
図20を参照しながら、右方に緩やかにカーブする高速道路2000上で、現在の自車両の位置2001から所定距離Lだけ後方の車両位置2002で近似する遠方道路消失点を算出する方法について説明する。現在の車両位置2001から距離δlだけ後方の地点で道路が角度δθだけ折れ曲がっているとすると、下式(2)に示すように、現在の車両位置2001から所定距離Lだけ後方の車両位置2002までの間で、角度δθを積分することによって、所定距離Lだけ後方の車両位置2002から曲がった角度θLを算出することができ、距離Lと角度θLに基づいて、遠方道路消失点を近似することができる。なお、距離δlだけ後方での道路の曲り角度δθは、例えばヨー角検出部602で自車両のヨーレートとして計測することができる。あるいは、走行進行方向の前方における遠方道路消失点を近似するときには、GPSセンサー504から得られる現在位置情報と地図情報に基づいて距離δlだけ前方での道路の曲り角度δθを求めるようにしてもよい。
また、図21を参照しながら、上り坂2100が終わる地点で、現在の自車両の位置2101から所定距離Lだけ後方の車両位置2102で近似する遠方道路消失点を算出する方法について説明する。現在の車両位置2101から距離δlだけ後方の地点で道路の傾斜角度の変化がδφであるとすると、下式(3)に示すように、現在の車両位置2101から所定距離Lだけ後方の車両位置2102までの間で、傾斜角度の変化δφを積分することによって、所定距離Lだけ後方の車両位置2102からの傾斜角φLを算出することができ、距離Lと傾斜角φLに基づいて、遠方道路消失点を近似することができる。なお、距離δlだけ後方での道路の傾斜角の変化δφは、例えばピッチ角検出部603で自車両のピッチレートとして計測することができる。
処理部605は、続くステップS705で、校正した後の遠方道路消失点に基づいて、車両光源(自動車のランプ)を検波するための遠方小枠を定義する。図14には、最も単純な場合、すなわち、真っ直ぐな道路の走行進行方向の後方に遠方小枠を定義する例を示した。図22並びに図23には、遠方小枠を定義する他の例を示している。カメラの像高は、その光学的投影方式によりさまざまであるが、広角のカメラで無ければ多くの場合は中心射影のいわゆるピンホール投影され、画面の像高に応じて方角が確定する。そのため、道路特定の方角は画面の像高で決まる。
図22には、右カーブの道路を通過する際の走行進行方向の後方に遠方小枠を定義する例を示している。図9を参照しながら説明したように、この場合の走行進行方向の遠方道路消失点2202は基準点2201よりも左方にずれる。遠方車両2203が道路2200に沿って右寄りになることや、道路脇の街灯(図示しない)が遠方小枠内に入らないようにすることを考慮して、遠方小枠2204を、遠方道路消失点2202の真下よりもやや右寄りの位置に定義することが好ましい。自車両の予測進行方向が左にカーブしている場合も同様である。
また、図23には、左カーブの道路を通過する際の走行進行方向の後方に遠方小枠を定義する例を示している。図10を参照しながら説明したように、この場合の走行進行方向の遠方道路消失点2302は基準点2301よりも右方にずれる。遠方車両2303が道路2300に沿って左寄りになることや、道路脇の街灯(図示しない)が遠方小枠内に入らないようにすることを考慮して、遠方小枠2304を、遠方道路消失点2302の真下よりもやや左寄りの位置に定義することが好ましい。自車両の予測進行方向が左にカーブしている場合も同様である。
図14、図22、並びに図23に示した例では、矩形の遠方小枠を定義する例を示したが、3角形や扇形、台形など他の形状の遠方小枠を定義するようにしてもよい。走行中の道路の稜線は、遠方(すなわち消失点)に向かって細くなっていくのに対して、矩形の遠方小枠を定義すると、道路以外(言い換えれば、自動車のランプが存在し得ない)無駄な領域を含んだ遠方小枠となってしまう。これに対し、3角形や扇形、台形のような先細り形状の遠方小枠を利用することで、無駄な領域を抑制することができる。
図35には、車載カメラの撮影画像内で遠方道路消失点3502を基準にして、3角形の遠方小枠3501を定義した例を示している。まず、3角形の頂点の1つを遠方道路消失点3502と一致させる。そして、2辺が遠方道路消失点3502から道路の左右の稜線3503及び3504に沿って伸びるような3角形を、遠方小枠3501として定義する。ここで、道路の左右の稜線3503及び3504は、車線検出手段によって検出される。車線検出手段は、例えばエッジ検出アルゴリズムを用いて道路の稜線や、路肩付近に引かれたレーン・マーカーや白線などを検出し、これに基づいて道路の左右の稜線3503及び3504を検出する。3角形の遠方小枠3501を定義することで、街灯などの光源が遠方小枠3502内に入らないようにすることができるとともに、道路内に存在する車両のランプを確実に検出することができる。また、3角形の遠方小枠3501を定義することで、街灯が遠方小枠3502内に入らないようにしつつ、遠方小枠3501の面積を拡大させることができる。
また、図36には、車載カメラの撮影画像内で遠方道路消失点3602を基準にして、3角形の遠方小枠3601を定義した他の例を示している。図35との相違点は、車両の左側走行の地域である場合を想定して、左側車線のレーンに沿うように3角形の遠方小枠3601を定義している点である。まず、3角形の頂点の1つを遠方道路消失点3602と一致させる。そして、道路の左側の稜線(又は左側の路肩付近に引かれたレーン・マーカー)3603と道路の中央線3604を車線検出手段(前述)で検出すると、遠方道路消失点3602を頂点とし、2辺が道路の左側の稜線(又はレーン・マーカー)3603と中央線3604に沿って伸びるような3角形を、遠方小枠3501として定義する。なお、図示を省略するが、車両の右側走行の地域である場合には、遠方道路消失点を頂点にするとともに、道路の右側の稜線(又は右側の路肩付近に引かれたレーン・マーカー)と道路の中央線に沿って伸びる2辺からなる3角形を遠方小枠として定義すればよい。このように、左側(又は右側)の片側車線のみを含む3角形からなる遠方小枠を定義することで、対向車線側を走行する車両のテールライトを誤検出する(若しくは、無駄に検出する)ことを防止できるというさらなるメリットがある。
また、図37には、車載カメラの撮影画像内で遠方道路消失点3702を基準にして、扇形の遠方小枠3701を定義した例を示している。図37でも、図36と同様に、車両の左側走行の地域である場合を想定している。まず、扇形の中心を遠方道路消失点3702と一致させる。そして、道路の左側の稜線(又は左側の路肩付近に引かれたレーン・マーカー)3703と道路の中央線3704を車線検出手段(前述)で検出すると、遠方道路消失点3702を中心とし、2本の半径がそれぞれ道路の左側の稜線(又はレーン・マーカー)3703と中央線3704に沿うような扇形を、遠方小枠3701として定義する。なお、図示を省略するが、車両の右側走行の地域である場合には、遠方道路消失点を中心にするとともに、2本の半径がそれぞれ道路の右側の稜線(又は右側の路肩付近に引かれたレーン・マーカー)と道路の中央線に沿うような扇形を遠方小枠として定義すればよい。このように、3角形ではなく扇形からなる遠方小枠を定義することで、(無駄な領域を含めることなく)遠方小枠の面積をさらに拡大させることができ、後続車両のヘッドライト(若しくは、先行車両のテールライト)の検出確率をさらに高めることができる。
また、図38には、車載カメラの撮影画像内で遠方道路消失点3802を基準にして、台形の遠方小枠3801を定義した例を示している。まず、遠方道路消失点3802を基準にしてその手前の所定位置に台形の上底及び下底の各々を設定する。そして、道路の左右の稜線(若しくは、左右それぞれの路肩付近に引かれたレーン・マーカー)3803及び3804を車線検出手段(前述)で検出すると、上記の上底及び下底と、道路の左右の稜線3803及び3804に沿った1対の脚からなる台形を、遠方小枠3801として定義する。このように、台形からなる遠方小枠を定義することで、自車両の直後の後続車両のヘッドライトのみを検出し(若しくは、自車両の直前の先行車両のテールライトのみを検出し)、直後の後続車両より後方の車両のヘッドライト(若しくは、直前の先行車両より前方の車両のテールライト)の誤検出を防止することができる。
また、図39には、車載カメラの撮影画像内で遠方道路消失点3902を基準にして、台形の遠方小枠3901を定義した他の例を示している。図38との相違点は、車両の左側走行の地域である場合を想定して、左側車線のレーンに沿うように台形の遠方小枠3901を定義している点である。まず、遠方道路消失点3902を基準にしてその手前の所定位置に台形の上底及び下底の各々を設定する。そして、道路の左側の稜線(又は左側の路肩付近に引かれたレーン・マーカー)3903と道路の中央線3904を車線検出手段(前述)で検出すると、上記の上底及び下底と、道路の左側の稜線3903と道路の中央線3904に沿った1対の脚からなる台形を、遠方小枠3901として定義する。なお、図示を省略するが、車両の右側走行の地域である場合には、遠方道路消失点からそれぞれ所定の位置に設定された上底及び下底と、道路の右側の稜線(又は右側の路肩付近に引かれたレーン・マーカー)と道路の中央線に沿った1対の脚からなる台形を遠方小枠として定義すればよい。
また、図40には、車載カメラの撮影画像内で遠方道路消失点4000を基準にして定義する遠方小枠の他の例を示している。図示の例では、遠方道路消失点4000と一致する中心を持つ扇形からなる第1の遠方小枠4001と、第1の遠方小枠4001と同心円となる(言い換えれば、遠方道路消失点4000と一致する中心を持つ)環状の第2の遠方小枠4002が定義されている。まず、扇形の中心を遠方道路消失点4000と一致させる。そして、道路の左側の稜線(又は左側の路肩付近に引かれたレーン・マーカー)4003と道路の中央線4004を車線検出手段(前述)で検出すると、遠方道路消失点4000を中心とし、2本の半径がそれぞれ道路の左側の稜線(又はレーン・マーカー)4003と中央線4004に沿うような扇形を、第1の遠方小枠4001として定義する。さらに、第1の遠方小枠4001の外側に、遠方道路消失点4000からそれぞれ所定の間隔で設定された内周及び外周からなり、第1の遠方小枠4001と同心円となる環状の第2の遠方小枠4002を定義する。なお、図示を省略するが、車両の右側走行の地域である場合には、上記とは左右対象となる第1の遠方小枠及び第2の遠方小枠を定義すればよい。
図22及び図23、並びに図35内示図40で言わんとすることを要約すると、基準点(車載カメラの撮影画像の無限遠点)に対する自車両の走行進行方向の遠方道路消失点の相対位置に基づいて、遠方小枠を定義するべきということである。基準点に対する自車両の走行進行方向の遠方道路消失点の相対位置に基づいて遠方小枠の位置を調整することで、走行中の道路の両脇の街灯など余計な光源が車載カメラの視野に入ったとしても、遠方小枠から外すことができるといったメリットがある。
図24には、図7に示したフローチャートのステップS705で実行する、自動車のランプの検出を優先するための遠方小枠を定義する処理手順をフローチャートの形式で示している。
処理部605は、まず、先行ステップS704で校正した遠方道路消失点を読み込む(ステップS2401)。
次いで、処理部605は、メモリー(ROM)606内から基準点の位置を読み込む(ステップS2402)。そして、基準点と遠方道路消失点の位置を比較して(ステップS2403)、その比較結果に基づいて、遠方道路消失点の中心位置を決定する(ステップS2404)。例えば、図22並びに図23に示したように、遠方道路消失点が基準点よりも右側に移動している場合には、遠方小枠の中心位置を遠方道路消失点の真下よりも左寄りに決定し、逆に、遠方道路消失点が基準点よりも左側に移動している場合には、遠方小枠の中心位置を遠方道路消失点の真下よりも右寄りに決定する。
次いで、処理部605は、メモリー(ROM)606内から遠方小枠の大きさと形状を読み込み(ステップS2405)、遠方小枠の始点(左上)と終点(右下)の位置を決定する(ステップS2406)。
遠方小枠の形状は、基本的には、横長の長方形である。但し、遠方道路消失点の位置などに応じて、3角形や扇形、台形など別の枠形状(図35乃至図40を参照のこと)に変更するようにしてもよい。
また、道路の両脇の街灯など、遠方車両以外の光源が枠内に入らないように、遠方小枠の範囲を設定することが好ましい。上述したように、遠方道路消失点が基準点よりも右側に移動している場合には、遠方小枠の中心位置を遠方道路消失点の真下よりも左寄りに決定し(図23を参照のこと)、逆に、遠方道路消失点が基準点よりも左側に移動している場合には、遠方小枠の中心位置を遠方道路消失点の真下よりも右寄りに決定することで(図22を参照のこと)、街灯が遠方小枠内に入らないようにする。また、3角形や扇形、台形など別の枠形状に変更することによって、街灯が遠方小枠内に入らないようにするようにしてもよい。
また、車載カメラの撮影画像上から厳密に決定する遠方道路消失点ではなく、図20並びに図21を参照しながら説明したような、自車両の走行履歴(ヨー角並びにピッチ角の変化情報など)に基づいて近似される遠方道路消失点に対して遠方小枠の中心位置を決定するようにしてもよい。
処理部605は、続くステップS706で、定義した遠方小枠内で輝度水平プロファイルを生成する。図15〜図18を参照しながら既に説明したように、遠方小枠内で、スキャン・ライン方向に各画素の輝度値を合算した値に基づいてスキャン・ライン毎の重みを決定し、遠方小枠内の水平画素位置毎に、スキャン方向の各画素の輝度値をスキャン・ライン毎の重みで重み付け加算することによって平滑化して、遠方小枠内の輝度水平プロファイルを生成する。
図25A及び図25Bには、遠方小枠内で輝度水平プロファイルを生成するための処理手順をフローチャートの形式で示している。図示の処理手順は、読み出し中の1スキャン・ライン分の輝度情報をメモリーに記録し、同じスキャン・ラインの輝度合算値に基づいて重み付けして、スキャン方向に輝度値を重み付け加算する方法である。
処理部605は、まず、遠方小枠内の水平画素位置Uにおける重み付け輝度合計値を蓄積する垂直ライン輝度信号蓄積メモリーYsum(U)、水平1ライン輝度信号蓄積メモリーW、並びに、水平1ライン分メモリーYtmp(U)の各メモリーを初期値0にリセットする(ステップS2501)。
次いで、処理部605は、先行ステップS701でラスター・スキャンした画素データを取り込む(ステップS2502)。
ここで、スキャン位置(U,V)が遠方小枠の範囲内であれば(ステップS2503のYes)、処理部605は、そのスキャン位置における輝度Y(U,V)を水平ライン輝度信号蓄積メモリーWに逐次加算していくとともに(ステップS2504)、輝度Y(U,V)を水平1ライン分メモリーYtmp(U)に記録する(ステップS2508)。
そして、処理部605は、輝度Y(U,V)を、垂直ライン輝度信号蓄積メモリーYsum(U)に重み付け加算する(ステップS2505)。
次いで、処理部605は、スキャン位置の水平(U)座標が遠方小枠内の水平ライン最終位置U=Uend(V)に到達したかどうかをチェックする(ステップS2506)。
スキャン位置の水平(U)座標が遠方小枠内の水平ライン最終位置U=Uend(V)に到達していなければ(ステップS2506のNo)、そのままステップS2502に戻り、次のスキャン・データについて上記処理を繰り返し実行する。
また、スキャン位置の水平(U)座標が遠方小枠内の水平ライン最終位置U=Uend(V)に到達したときには(ステップS2506のYes)、水平1ライン輝度信号蓄積メモリーWと水平1ライン分メモリーYtmp(U)をともに初期値0にリセットしてから(ステップS2507)、ステップS2502に戻り、次のスキャン・データについて上記処理を繰り返し実行する。
一方、スキャン位置(U,V)が遠方小枠の範囲外であれば(ステップS2503のNo)、処理部605は、その信号を吐き捨てる(ステップS2509)。そして、まだフレーム内の最終スキャン位置(Ulast,Vlast)に到達していなければ(ステップS2510のNo)、そのままステップS2502に戻り、次のスキャン・データについて上記処理を繰り返し実行する。フレーム内の最終スキャン位置(Ulast,Vlast)に到達したときには(ステップS2510のYes)、輝度水平プロファイル(図18を参照のこと)が完成したことになるので、本処理ルーチンを終了する。
また、図26A及び図26Bには、遠方小枠内で輝度水平プロファイルを生成するための他の処理手順をフローチャートの形式で示している。図示の処理手順は、図25A及び図25Bに示した処理手順とは相違し、1スキャン・ライン前の輝度合算値に基づいて重み付けして、スキャン方向に輝度値を重み付け加算する方法である。1スキャン・ライン分の輝度情報を記録するメモリー容量を節約することができる。
処理部605は、まず、遠方小枠内の水平画素位置Uにおける重み付け輝度合計値を蓄積する垂直ライン輝度信号蓄積メモリーYsum(U)、水平1ライン輝度信号蓄積メモリーW並びにW0の各メモリーを初期値0にリセットする(ステップS2601)。
次いで、処理部605は、先行ステップS701でラスター・スキャンした画素データを取り込む(ステップS2602)。
ここで、スキャン位置(U,V)が遠方小枠の範囲内であれば(ステップS2603のYes)、処理部605は、そのスキャン位置における輝度Y(U,V)を水平ライン輝度信号蓄積メモリーWに逐次加算していく(ステップS2604)。
そして、処理部605は、輝度Y(U,V)を、水平1ライン輝度信号蓄積メモリーW0に記録されている重みで垂直ライン輝度信号蓄積メモリーYsum(U)に加算する(ステップS2605)。メモリーW0は、1スキャン・ライン前の輝度合算値に基づく重みを記録している。
次いで、処理部605は、スキャン位置の水平(U)座標が遠方小枠内の水平ライン最終位置U=Uend(V)に到達したかどうかをチェックする(ステップS2606)。
スキャン位置の水平(U)座標が遠方小枠内の水平ライン最終位置U=Uend(V)に到達していなければ(ステップS2606のNo)、そのままステップS2602に戻り、次のスキャン・データについて上記処理を繰り返し実行する。
また、スキャン位置の水平(U)座標が遠方小枠内の水平ライン最終位置U=Uend(V)に到達したときには(ステップS2506のYes)、水平1ライン輝度信号蓄積メモリーWの値をメモリーW0に代入してから初期値0にリセットした後(ステップS2607)、ステップS2602に戻り、次のスキャン・データについて上記処理を繰り返し実行する。
一方、スキャン位置(U,V)が遠方小枠の範囲外であれば(ステップS2603のNo)、処理部605は、その信号を吐き捨てる(ステップS2608)。そして、まだフレーム内の最終スキャン位置(Ulast,Vlast)に到達していなければ(ステップS2609のNo)、そのままステップS2602に戻り、次のスキャン・データについて上記処理を繰り返し実行する。フレーム内の最終スキャン位置(Ulast,Vlast)に到達したときには(ステップS2609のYes)、輝度水平プロファイル(図18を参照のこと)が完成したことになるので、本処理ルーチンを終了する。
処理部605は、続くステップS707で、輝度水平プロファイルに基づいて遠方小枠内に自動車のランプ(すなわち、遠方の対向車両(又は、後続車両)のヘッドライト、若しくは、先行車両のテールライト))があるか否かをチェックする。図18を参照しながら既に説明したように、2つの光点(遠方車両のヘッドライト)を含む遠方小枠の輝度水平プロファイルには、2つの山(極大点)が出現することが期待される。そこで、図27に示すように、遠方小枠内の輝度水平プロファイル2700上の隣接する極大値2701及び2702と、これら極大値の間に存在する極小値2703の輝度情報や位置関係に基づいて、遠方小枠内で自動車のランプの有無を簡易に判定することができる。
図28A及び図28Bには、輝度水平プロファイルに基づいて遠方小枠内に自動車のランプがあるか否かを判定するための詳細な処理手順をフローチャートの形式で示している。
処理部605は、まず、先行ステップS706で生成した輝度水平プロファイルを読み込む(ステップS2801)。そして、読み込んだ輝度水平プロファイルを解析して、隣接する2つの極大値と、極大値間の極小値と、これらの位置(水平画素位置)を検出する(ステップS2802)。
次いで、処理部605は、隣接する2つの極大値のX座標の間隔と平均値を算出する(ステップS2803)。そして、隣接する極大値のX座標の間隔が所定の範囲内かどうかをチェックする(ステップS2804)。
隣接する極大値のX座標の間隔が所定の範囲外である場合には(ステップS2804のNo)、処理部605は、2つの極大値に該当する光点は遠方車両のランプ(ヘッドライトやテールライト)ではないと判定して、遠方小枠内に自動車のランプがないという結果を返す(ステップS2808)。極大値が自動車のランプでない例として、道路脇に設置された街灯や道路周辺の建物の照明を挙げることができる。
一方、隣接する極大値のX座標の間隔が所定の範囲内である場合には(ステップS2804のYes)、処理部605は、隣接する極大値の平均値がこれらの間の極小値の所定倍以上であるかどうかをさらにチェックする(ステップS2805)。
隣接する極大値の平均値がこれらの間の極小値の所定倍以上であれば(ステップS2805のYes)、隣接する極大値は2つの光点(ヘッドライトやテールライト)であるといえるので、処理部605は、遠方小枠内に自動車のランプがあるという結果を返す(ステップS2806)。
また、隣接する極大値の平均値がこれらの間の極小値の所定倍以上でない場合には(ステップS2805のNo)、処理部605は、隣接する極大値の平均値が所定値以上であるかどうかをさらにチェックする(ステップS2807)。
隣接する極大値の平均値がこれらの間の極小値の所定倍以上でなくても、隣接する極大値の平均値が所定値以上であれば(ステップS2807のYes)、隣接する極大値は2つの光点(ヘッドライトやテールライト)であるといえる。この場合、処理部605は、遠方小枠内に自動車のランプがあるという結果を返す(ステップS2806)。
隣接する極大値の平均値が所定値以上でなければ(ステップS2807のNo)、処理部605は、2つの極大値に該当する光点は遠方車両のランプ(ヘッドライトやテールライト)ではないと判定して、遠方小枠内に自動車のランプがないという結果を返す(ステップS2808)。
処理部605は、遠方小枠内に自動車のランプがないという結果が返されたときには、通常の自動露光制御モードにより車載カメラの露光を制御する。また、処理部605は、遠方小枠内に自動車のランプがあるという結果が返されたときには、輝度水平プロファイルから2つの光点を分離できるように最適化した(若しくは、遠方車両の光点分離を優先して露光制御する)自動露光制御を車載カメラに適用する。
遠方小枠内に自動車のランプがあると判定された場合には、処理部605は、ステップS710における処理として、輝度水平プロファイルから2つの光点を分離できるように最適化した(若しくは、光点分離を優先した)自動露光制御を車載カメラに適用する。
光点分離最適化自動露光制御は、図27に示す例で説明すると、遠方小枠内の輝度水平プロファイル2700上において、隣接する極大値2701及び2702と、これら極大値の間に存在する極小値2703で分離し易くする処理である。
図29には、輝度水平プロファイルの極大値及び極小値に基づいて、光点分離に最適化した(若しくは、光点分離を優先した)車載カメラの自動露光制御を行なうための処理手順をフローチャートの形式で示している。暗い走行環境下の風景を車載カメラで後続車両又は対向車両を撮影したときのヘッドライト形状が上式(1)を満たすようにすることが自動露光制御の目標である。
処理部605は、まず、先行ステップS706で生成した輝度水平プロファイルを読み込む(ステップS2901)。
次いで、処理部605は、読み込んだ輝度水平プロファイルを解析して、隣接する2つの極大値と、極大値間の極小値を検出する(ステップS2902)。なお、ステップS707で実施する遠方小枠内の処理で検出した極大値及び極小値を直接読み込むようにしてもよい。
次いで、処理部605は、隣接する極大値の平均値を極小値で割って、当該自動露光制御のための評価値Fを計算する(ステップS2903)。
そして、処理部605は、算出した評価値Fを、所定の閾値Fthと大小比較する(ステップS2904)。閾値Fthは、メモリー(ROM)606内に格納されており、処理部605は、ステップS2904の処理の際にメモリー606から閾値Fthを読み込むものとする。
ここで、評価値Fが閾値Fthより大きいときには(ステップS2905のYes)、図30Aに示すように、極小値が小さい。この場合、車載カメラの露光が少な過ぎることが原因と考えられ、撮影画像が全体的に暗く見え、遠方車両のランプ(ヘッドライトやテールライト)に相当する光点が暗く映っていることが想定される。そこで、車載カメラの露光時間又はゲインを増やす(ステップS2906)。
一方、評価値Fが閾値Fthより大きくないときには(ステップS2905のNo)、極小値が大きい。輝度水平プロファイル上では、図30Bに示すように極大値と極小値の差が小さい。この場合、車載カメラの露光が大き過ぎることが原因と考えられ、遠方車両のランプ(ヘッドライトやテールライト)に相当する光点が潰れて見えその存在が不鮮明である。そこで、車載カメラの露光時間又はゲインを減じるようにする(ステップS2907)。
なお、閾値Fthは固定値であってもよいし、所定の幅を持った閾値帯であってもよい。例えば、閾値Fth1と、閾値Fth1よりも小さい閾値Fth2とを設定し、評価値Fが閾値Fth1より大きいときには車載カメラの露光時間又はゲインを減じ、評価値Fが閾値Fth2より小さいときには車載カメラの露光時間又はゲインを増やすようにしてもよい。但し、閾値Fth1は1.1以上が望ましい。
図18を参照しながら既に説明したように、2つの光点(遠方車両のヘッドライト)を含む遠方小枠の輝度水平プロファイルには、2つの山(極大点)が出現する。ここで、遠方車両の2つの光点を分離できるように最適化(又は優先)した露光条件(露光時間又はゲイン)で撮影したときには、図31に示すように、遠方小枠内の輝度水平プロファイル3100が所定の閾値(輝度比較パラメーター)Frefを超える山の幅最大値Cmaxは所定のターゲット値より大きくなることが期待される。また、露光が足りない(露光時間又はゲインが小さい)ときには、図32に示すように、遠方小枠内の輝度水平プロファイル3100が所定の閾値(輝度比較パラメーター)Frefを超える山の幅最大値Cmaxは所定のターゲット値よりも小さくなることが予想される。したがって、遠方小枠内の輝度水平プロファイルの形状に基づいて光点分離最適化自動露光制御を行なう方法も考えられる。
図33には、遠方小枠内の輝度水平プロファイルの形状に基づいて、光点分離に最適化(又は優先)した車載カメラの自動露光制御を行なうための処理手順をフローチャートの形式で示している。暗い走行環境下の風景を車載カメラで後続車両又は対向車両を撮影したときのヘッドライト形状が上式(1)を満たすようにすることが自動露光制御の目標である。
処理部605は、まず、先行ステップS706で作成した輝度水平プロファイルを読み込む(ステップS3301)。
次いで、処理部605は、各メモリーを初期値にリセットする(ステップS3302)。具体的には、水平位置メモリーXに、遠方小枠の始点水平位置Ustartを代入する。遠方小枠の視点位置は、先行ステップS705で遠方小枠を定義した結果から読み込む。また、幅カウンターCportと山の幅最大値メモリーCmaxをともに初期値0にする。
次いで、処理部605は、遠方小枠内の現在の水平位置Xにおける重み付け輝度合計値F(x)を、所定の閾値(輝度比較パラメーター)Frefと大小比較する(ステップS3303)。輝度比較パラメーターFrefは、メモリー(ROM)606内に格納されており、処理部605は、ステップS3303の処理の際にメモリー606から輝度比較パラメーターFrefを読み込むものとする。
輝度比較パラメーターFrefが輝度比較パラメーターFrefより大きいときには(ステップS3303のYes)、現在の水平位置Xは輝度水平プロファイルの山の部分に相当するので、処理部605は、幅カウンターCportを更新する(ステップS3304)(Cport=Cport+1)。そして、幅カウンターを幅最大値Cmaxと大小比較して(ステップS3305)、現在カウント中の山の幅Cportが幅最大値Cmaxより大きければ(ステップS3305のYes)、幅最大値CmaxをCportで更新する(ステップS3306)。
このようにして、現在の水平位置Xについて処理を終えると、処理部605は、Xを更新して(ステップS3307)(X=X+1)、遠方小枠の終点水平位置Uendに到達したか、すなわち、輝度水平プロファイル全体について処理を終了したかどうかをチェックする(ステップS3308)。
まだ遠方小枠の終点水平位置Uendに到達していないときには(ステップS3308のNo)、ステップS3303に戻り、遠方小枠内の次の水平位置Xについて、上記と同様の処理を繰り返し実行する。
一方、遠方小枠の終点水平位置Uendに到達したときには(ステップS3308のYes)、処理部605は、輝度水平プロファイルの山の幅最大値Cmaxを所定のターゲット値Ctargetと大小比較する(ステップS3309)。ターゲット値Ctargetは、メモリー(ROM)606内に格納されており、処理部605は、ステップS3303の処理の際にメモリー606からターゲット値Ctargetを読み込むものとする。
ここで、山の幅最大値Cmaxがターゲット値Ctargetより大きいときには(ステップS3309のYes)、図31に示したように、輝度水平プロファイル上では、遠方車両のランプ(ヘッドライトやテールライト)に相当する2つの光点が極大値としてはっきりと現れているので、むしろオーバー露光を回避するために、車載カメラの露光時間又はゲインを減じる(ステップS3310)。若しくは、アイリスや可変NDフィルター、諧調補正による調整を行なうようにしてもよい。
一方、山の幅最大値Cmaxがターゲット値Ctargetより大きくないときには(ステップS3309のNo)、図32に示したように、輝度水平プロファイル上で極大値と極小値の差が小さく、光点の存在が不鮮明である。車載カメラの露光が少な過ぎて遠方車両のランプ(ヘッドライトやテールライト)に相当する光点が暗く映っていることが原因として考えられるので、車載カメラの露光時間又はゲインを増やすようにする(ステップS3311)。
走行支援や遠方の視界支援に関わる車載カメラでは、自車両に接近し得る遠方車両をより正確に捉える必要がある。ところが、夜間やトンネル内など暗い走行環境下で、高照度の(逆光となる)周辺車両のランプを車載カメラで撮影する場合、とりわけ遠方車両のヘッドライト光源は、視野内での割合が小さいため、画面全体を平均的に露光制御する通常の自動露光制御を適用すると、オーバー露光になり易く、周辺の画素まで白く飽和するので、ヘッドライトを2つの光点として捉えることが難しい。
ここで、自車両に接近し得る遠方車両は、自車両の後方では、自車両が走行してきた走行軌跡方角を走行し、自車両の前方では、自車両の予測進行方向(自車両が走行中の道路に沿った路面方角)を走行しているということができる。
上述したように、本明細書で開示する技術は、自車両の走行進行方向の遠方道路消失点を基準に定義する遠方小枠内の輝度情報に限定して車載カメラの自動露光制御を行なうように構成されている。自車両の後方を撮影する車載カメラは、走行軌跡方角を走行している遠方車両を遠方小枠内で捉え、自車両の前方を撮影する車載カメラは自車両の走行予測方向に走行している遠方車両を遠方小枠で捉えることが期待される。したがって、遠方小枠内に限定して輝度情報を解析して、車載カメラの露光制御を行なうことにより、暗い走行環境下でヘッドライトを点灯する遠方車両を、オーバー露光を回避して撮影することができる。
また、本明細書で開示する技術は、遠方小枠内で、1水平ライン毎に画素の輝度値を合算して各水平ラインの重みを決定し、各垂直ラインの画素の輝度値を前記水平ラインの重みで重み付け加算して輝度水平プロファイルを生成し、輝度水平プロファイルの解析結果に基づいて車載カメラを露光制御するように構成されている。したがって、遠方小枠内に限定して輝度水平プロファイルを生成することにより、少ないメモリーで効率的に、対象とする光源を優先して再現することができる。この結果、遠方小枠内でとらえる自動車のランプ(夜間に遠方車両が点灯するヘッドライトなど)を、オーバー露光を回避して好適に撮影できるようになる。
以上、特定の実施形態を参照しながら、本明細書で開示する技術について詳細に説明してきた。しかしながら、本明細書で開示する技術の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。
本明細書で開示する技術によれば、夜間やトンネル内など暗い走行環境下で、車載カメラの自動露光制御に適用して、遠方車両のヘッドライト若しくはテールライトなどの高照度のランプ(光点)を、オーバー露光を回避して好適に撮影することができる。
本明細書で開示する技術は、普通自動車に限らず、中型自動車、大型自動車、自動2輪車など、車載カメラを搭載するさまざまなタイプの車両に適用することができる。
要するに、例示という形態により本明細書で開示する技術について説明してきたが、本明細書の記載内容を限定的に解釈するべきではない。本明細書で開示する技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
なお、本明細書の開示の技術は、以下のような構成をとることも可能である。
(1)車両に搭載され、前記車両の周辺を撮影する車載カメラと、
前記車載カメラの撮像画像内に設定した検知領域の輝度情報に基づいて前記車載カメラの露光を制御する制御部と、
を具備する車載カメラ・システム。
(1−1)前記車載カメラは、前記車両の走行方向前方又は後方を撮影するように前記車両に設置される、
上記(1)に記載の車載カメラ・システム。
(2)前記制御部は、前記検知領域内で光源を検波した結果に応じて、前記車両とは異なる他車両の光源の分離を優先する露光制御モードに移行する、
上記(1)に記載の車載カメラ・システム。
(3)前記制御部は、前記車載カメラ・システムに対する設定に応じて前記光源の検波を実施するか否かを判定する、
上記(2)に記載の車載カメラ・システム。
(4)前記制御部は、前記車両が走行中の道路の種別に応じて前記光源の検波を実施するか否かを判定する、
上記(2)に記載の車載カメラ・システム。
(4−1)前記制御部は、前記車両が高速道路を走行中であれば、前記光源の検波を実施すると判定する、
上記(4)に記載の車載カメラ・システム。
(5)前記制御部は、前記車両の走行環境に応じて前記光源の検波を実施するか否かを判定する、
上記(2)に記載の車載カメラ・システム。
(5−1)前記制御部は、暗い走行環境であれば、前記光源の検波を実施すると判定する、
上記(5)に記載の車載カメラ・システム。
(6)前記制御部は、前記車両の走行進行方向の遠方道路消失点を基準に前記検知領域を設定し、前記検知領域内の輝度情報の解析結果に基づいて前記車載カメラを露光制御する、
上記(1)に記載の車載カメラ・システム。
(7)前記制御部は、前記車両の後方で、前記車両が走行してきた走行軌跡方角に基づいて前記遠方道路消失点を校正し、又は、前記車両の前方で、前記車両の予測進行方向に基づいて前記遠方道路消失点を校正する、
上記(6)に記載の車載カメラ・システム。
(7−1)前記制御部は、前記車載カメラの取り付け位置、前記車両の車体傾き、走行履歴に基づいて、前記遠方道路消失点を決定する、
上記(7)に記載の車載カメラ・システム。
(8)前記制御部は、前記車両が走行してきた走行軌跡方角に所定距離だけ後方の場所を近似的な遠方道路消失点として求め、又は、前記車両が走行中の道路に沿った路面方角に所定距離だけ前方の場所を近似的な遠方道路消失点として求める、
上記(6)に記載の車載カメラ・システム。
(9)前記制御部は、前記車載カメラの撮影画像の無限遠点に対する前記車両の走行進行方向の前記遠方道路消失点の相対位置に基づいて前記検知領域を設定する、
上記(6)に記載の車載カメラ・システム。
(10)前記制御部は、前記検知領域内の輝度情報として、前記検知領域内で生成する輝度水平プロファイルの解析結果に基づいて前記車載カメラを露光制御する、
上記(6)に記載の車載カメラ・システム。
(11)前記制御部は、前記検知領域内で、少なくとも1水平ライン毎に画素の輝度値を合算して各水平ラインの重みを決定し、各垂直ラインの画素の輝度値を前記水平ラインの重みで重み付け加算して、前記輝度水平プロファイルを生成する、
上記(10)に記載の車載カメラ・システム。
(11−1)前記制御部は、読み出し中の1スキャン・ライン分の輝度情報をメモリーに記録し、同じスキャン・ラインの輝度合算値に基づいて重み付けして、スキャン方向に輝度値を重み付け加算する、
上記(11)に記載の車載カメラ・システム。
(11−2)前記制御部は、1スキャン・ライン前の輝度合算値に基づいて重み付けして、スキャン方向に輝度値を重み付け加算する、
上記(11)に記載の車載カメラ・システム。
(12)前記制御部は、前記検知領域内で前記他車両のランプが存在するか否かを検出し、前記検知領域内で前記他車両のランプの存在を検出したときに、前記他車両のランプの光点分離を優先して前記車載カメラの露光を制御する、
上記(6)に記載の車載カメラ・システム。
(13)前記制御部は、前記輝度水平プロファイルに含まれる2つの隣接する極大値の間に存在する極小値の輝度情報に基づいて、前記検知領域内で前記他車両のランプが存在するか否かを検出する、
上記(12)に記載の車載カメラ・システム。
(14)前記制御部は、前記極大値の間隔が所定の範囲内で、前記極大値の平均値が前記極小値の所定倍以上又は前記極大値の平均値が所定値以上であれば、前記検知領域内で前記他車両のランプがあると判定する、
上記(13)に記載の車載カメラ・システム。
(15)前記制御部は、前記検知領域内で前記他車両のランプを検出したか否かに基づいて、前記車載カメラの露光制御モードを決定する、
上記(6)に記載の車載カメラ・システム。
(16)画像出力部又は音声出力部をさらに備え、
前記制御部は、前記露光制御モードを変更するときには、画像又は音声又は振動のうち少なくとも1つを用いて事前に通知する、
上記(15)に記載の車載カメラ・システム。
(17)前記制御部は、前記検知領域内で生成した輝度水平プロファイルに基づいて、前記他車両のランプの光点分離を優先した前記車載カメラの露光制御を行なう、
上記(1)に記載の車載カメラ・システム。
(18)前記制御部は、前記輝度水平プロファイルに含まれる2つの隣接する極大値の平均値を前記極大値間に存在する極小値で割って求めた評価値に基づいて、前記車載カメラの露光制御を行なう、
上記(17)に記載の車載カメラ・システム。
(19)前記制御部は、前記輝度水平プロファイルが所定の閾値を超える山の幅最大値に基づいて、前記車載カメラの露光制御を行なう、
上記(17)に記載の車載カメラ・システム。
(20)車両に搭載された車載カメラの撮像画像内に設定した検知領域の輝度情報に基づいて、前記車載カメラの露光を制御する、
を具備する画像処理装置。
600…車載カメラ・システム
601…イメージ・センサー、602…ヨー角検出部
603…ピッチ角検出部、604…GPSセンサー
605…処理部、606…メモリー
607…設定入力部、608…画像出力部、609…音声出力部

Claims (17)

  1. 車両に搭載され、前記車両の周辺を撮影する車載カメラと、
    前記車載カメラの撮像画像内に設定した検知領域の輝度情報に基づいて前記車載カメラの露光を制御する制御部と、
    を具備し、
    前記制御部は、前記検知領域内で、少なくとも1水平ライン毎に画素の輝度値を合算して各水平ラインの重みを決定し、各垂直ラインの画素の輝度値を前記水平ラインの重みで重み付け加算して生成した輝度水平プロファイルの解析結果に基づいて前記車載カメラを露光制御する、
    車載カメラ・システム。
  2. 車両に搭載され、前記車両の周辺を撮影する車載カメラと、
    前記車載カメラの撮像画像内に前記車両の走行進行方向の遠方道路消失点を基準に設定した検知領域の輝度情報に基づいて前記車載カメラの露光を制御する制御部と、
    を具備し、
    前記制御部は、前記車両の後方で、前記車両が走行してきた走行軌跡方角に基づいて前記遠方道路消失点を校正し、又は、前記車両の前方で、前記車両の予測進行方向に基づいて前記遠方道路消失点を校正する、
    車載カメラ・システム。
  3. 車両に搭載され、前記車両の周辺を撮影する車載カメラと、
    前記車載カメラの撮像画像内に前記車両の走行進行方向の遠方道路消失点を基準に設定した検知領域の輝度情報に基づいて前記車載カメラの露光を制御する制御部と、
    を具備し、
    前記制御部は、前記車両が走行してきた走行軌跡方角に所定距離だけ後方の場所を近似的な遠方道路消失点として求め、又は、前記車両が走行中の道路に沿った路面方角に所定距離だけ前方の場所を近似的な遠方道路消失点として求める、
    車載カメラ・システム。
  4. 前記制御部は、前記検知領域内で光源を検波した結果に応じて、前記車両とは異なる他車両の光源の分離を優先する露光制御モードに移行する、
    請求項1乃至3のいずれかに記載の車載カメラ・システム。
  5. 前記制御部は、前記車載カメラ・システムに対する設定に応じて前記光源の検波を実施するか否かを判定する、
    請求項4に記載の車載カメラ・システム。
  6. 前記制御部は、前記車両が走行中の道路の種別に応じて前記光源の検波を実施するか否かを判定する、
    請求項4に記載の車載カメラ・システム。
  7. 前記制御部は、前記車両の走行環境に応じて前記光源の検波を実施するか否かを判定する、
    請求項4に記載の車載カメラ・システム。
  8. 前記制御部は、前記車載カメラの撮影画像の無限遠点に対する前記車両の走行進行方向の前記遠方道路消失点の相対位置に基づいて前記検知領域を設定する、
    請求項2又は3のいずれかに記載の車載カメラ・システム。
  9. 前記制御部は、前記検知領域内で他車両のランプが存在するか否かを検出し、前記検知領域内で前記他車両のランプの存在を検出したときに、前記他車両のランプの光点分離を優先して前記車載カメラの露光を制御する、
    請求項2又は3のいずれかに記載の車載カメラ・システム。
  10. 前記制御部は、前記検知領域内で少なくとも1水平ライン毎に画素の輝度値を合算して各水平ラインの重みを決定し各垂直ラインの画素の輝度値を前記水平ラインの重みで重み付け加算して生成した輝度水平プロファイルに含まれる2つの隣接する極大値の間に存在する極小値の輝度情報に基づいて、前記検知領域内で前記他車両のランプが存在するか否かを検出する、
    請求項9に記載の車載カメラ・システム。
  11. 前記制御部は、前記極大値の間隔が所定の範囲内で、前記極大値の平均値が前記極小値の所定倍以上又は前記極大値の平均値が所定値以上であれば、前記検知領域内で前記他車両のランプがあると判定する、
    請求項10に記載の車載カメラ・システム。
  12. 前記制御部は、前記検知領域内で他車両のランプを検出したか否かに基づいて、前記車載カメラの露光制御モードを決定する、
    請求項2又は3のいずれかに記載の車載カメラ・システム。
  13. 画像出力部又は音声出力部をさらに備え、
    前記制御部は、前記露光制御モードを変更するときには、画像又は音声又は振動のうち少なくとも1つを用いて事前に通知する、
    請求項12に記載の車載カメラ・システム。
  14. 前記制御部は、前記検知領域内で生成した輝度水平プロファイルに基づいて、他車両のランプの光点分離を優先した前記車載カメラの露光制御を行なう、
    請求項1乃至3のいずれかに記載の車載カメラ・システム。
  15. 前記制御部は、前記輝度水平プロファイルに含まれる2つの隣接する極大値の平均値を前記極大値間に存在する極小値で割って求めた評価値に基づいて、前記車載カメラの露光制御を行なう、
    請求項14に記載の車載カメラ・システム。
  16. 前記制御部は、前記輝度水平プロファイルが所定の閾値を超える山の幅最大値に基づいて、前記車載カメラの露光制御を行なう、
    請求項14に記載の車載カメラ・システム。
  17. 車両に搭載された車載カメラの撮像画像内に設定した検知領域内で、少なくとも1水平ライン毎に画素の輝度値を合算して各水平ラインの重みを決定し、各垂直ラインの画素の輝度値を前記水平ラインの重みで重み付け加算して生成した輝度水平プロファイルの解析結果に基づいて、前記車載カメラの露光を制御する、
    画像処理装置。
JP2015250573A 2015-06-04 2015-12-22 車載カメラ・システム並びに画像処理装置 Active JP6657925B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
EP16725611.4A EP3304886B1 (en) 2015-06-04 2016-04-26 In-vehicle camera system and image processing apparatus
EP21160686.8A EP3849172A1 (en) 2015-06-04 2016-04-26 In-vehicle camera system and image processing apparatus
US15/575,572 US10582131B2 (en) 2015-06-04 2016-04-26 In-vehicle camera system and image processing apparatus
DE202016008786.0U DE202016008786U1 (de) 2015-06-04 2016-04-26 Fahrzeugkamerasystem und Bildverarbeitungsvorrichtung
PCT/JP2016/002203 WO2016194296A1 (en) 2015-06-04 2016-04-26 In-vehicle camera system and image processing apparatus
US16/752,935 US11089229B2 (en) 2015-06-04 2020-01-27 In-vehicle camera system and image processing apparatus
JP2020017066A JP6930613B2 (ja) 2015-06-04 2020-02-04 車載カメラ・システム、並びに画像処理装置及び画像処理方法
US17/225,449 US11539894B2 (en) 2015-06-04 2021-04-08 In-vehicle camera system and image processing apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015114084 2015-06-04
JP2015114084 2015-06-04

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020017066A Division JP6930613B2 (ja) 2015-06-04 2020-02-04 車載カメラ・システム、並びに画像処理装置及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2017005678A JP2017005678A (ja) 2017-01-05
JP6657925B2 true JP6657925B2 (ja) 2020-03-04

Family

ID=57751931

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2015250573A Active JP6657925B2 (ja) 2015-06-04 2015-12-22 車載カメラ・システム並びに画像処理装置
JP2020017066A Active JP6930613B2 (ja) 2015-06-04 2020-02-04 車載カメラ・システム、並びに画像処理装置及び画像処理方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2020017066A Active JP6930613B2 (ja) 2015-06-04 2020-02-04 車載カメラ・システム、並びに画像処理装置及び画像処理方法

Country Status (4)

Country Link
US (3) US10582131B2 (ja)
EP (2) EP3849172A1 (ja)
JP (2) JP6657925B2 (ja)
DE (1) DE202016008786U1 (ja)

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6750519B2 (ja) * 2016-05-24 2020-09-02 株式会社Jvcケンウッド 撮像装置、撮像表示方法および撮像表示プログラム
US10587818B2 (en) * 2016-08-02 2020-03-10 Magna Electronics Inc. Vehicle vision system with enhanced camera brightness control
JP6740916B2 (ja) * 2017-01-23 2020-08-19 株式会社デンソー 運転支援システム、運転支援方法
US10585440B1 (en) * 2017-01-23 2020-03-10 Clearpath Robotics Inc. Systems and methods for using human-operated material-transport vehicles with fleet-management systems
US10911694B2 (en) * 2017-03-15 2021-02-02 Gvbb Holdings S.A.R.L. System and method for creating metadata model to improve multi-camera production
JP2018164146A (ja) 2017-03-24 2018-10-18 カシオ計算機株式会社 画像処理装置、画像処理方法、及びプログラム
JP2018164199A (ja) * 2017-03-27 2018-10-18 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、および画像処理方法
US10453208B2 (en) 2017-05-19 2019-10-22 Waymo Llc Camera systems using filters and exposure times to detect flickering illuminated objects
DE112018003456T5 (de) 2017-07-07 2020-03-19 Semiconductor Energy Laboratory Co., Ltd. Anzeigesystem und Betriebsverfahren des Anzeigesystems
DE102017215347A1 (de) * 2017-09-01 2019-03-07 Conti Temic Microelectronic Gmbh Verfahren zur vorhersehbaren Belichtungssteuerung zumindest einer ersten Fahrzeugkamera
JP6944350B2 (ja) * 2017-11-13 2021-10-06 アルパイン株式会社 撮影画像表示システム、電子ミラーシステム及び撮影画像表示方法
EP3733452A4 (en) * 2017-12-27 2021-08-18 Koito Manufacturing Co., Ltd. VEHICLE LAMP SYSTEM, VEHICLE LAMP CONTROL DEVICE, AND VEHICLE LAMP CONTROL METHOD
JP7162427B2 (ja) * 2018-01-11 2022-10-28 アルパイン株式会社 車両用後方画像表示装置
JP6991664B2 (ja) * 2018-01-22 2022-01-12 アルパイン株式会社 撮影画像表示システム及び電子ミラーシステム
US11235778B2 (en) 2018-01-24 2022-02-01 Clearpath Robotics Inc. Systems and methods for maintaining vehicle state information
CN110147698A (zh) * 2018-02-13 2019-08-20 Kpit技术有限责任公司 用于车道检测的系统和方法
US11363212B2 (en) 2018-03-29 2022-06-14 Sony Corporation Exposure control device, exposure control method, program, imaging device, and mobile body
DE112018007636T5 (de) 2018-06-22 2021-03-04 Mitsubishi Electric Corporation Sensorsteuervorrichtung, fahrzeug, abtastverfahren und sensorsteuerprogramm
EP3605384A1 (en) * 2018-08-03 2020-02-05 Aptiv Technologies Limited A device and a method for detecting vehicle lights in an image
US11699207B2 (en) 2018-08-20 2023-07-11 Waymo Llc Camera assessment techniques for autonomous vehicles
US11227409B1 (en) 2018-08-20 2022-01-18 Waymo Llc Camera assessment techniques for autonomous vehicles
JPWO2020054240A1 (ja) * 2018-09-13 2021-09-30 ソニーセミコンダクタソリューションズ株式会社 情報処理装置及び情報処理方法、撮像装置、移動体装置、並びにコンピュータプログラム
JP7326018B2 (ja) * 2018-10-18 2023-08-15 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 情報処理装置、情報処理方法及びプログラム
KR102060113B1 (ko) * 2019-01-30 2019-12-27 주식회사 몹티콘 캘리브레이션 시스템 및 방법
US11447931B2 (en) * 2019-05-15 2022-09-20 Caterpillar Inc. Ground engaging tool monitoring system
CN114514143B (zh) * 2019-10-10 2024-08-06 株式会社小糸制作所 配光控制装置、车辆用灯具系统、配光控制方法
WO2021237754A1 (zh) * 2020-05-29 2021-12-02 华为技术有限公司 一种路况检测方法和装置
CN112862899B (zh) * 2021-02-07 2023-02-28 黑芝麻智能科技(重庆)有限公司 用于图像获取设备的外参标定方法、装置和系统
JP2022142826A (ja) * 2021-03-17 2022-10-03 本田技研工業株式会社 自車位置推定装置
US20230209206A1 (en) * 2021-12-28 2023-06-29 Rivian Ip Holdings, Llc Vehicle camera dynamics
CN118614058A (zh) * 2022-01-31 2024-09-06 本田技研工业株式会社 图像处理装置、图像处理方法及程序

Family Cites Families (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4811410A (en) * 1986-12-08 1989-03-07 American Telephone And Telegraph Company Linescan inspection system for circuit boards
US5781105A (en) * 1997-04-09 1998-07-14 Ford Motor Company Light management system for a vehicle
US6674475B1 (en) * 1999-08-09 2004-01-06 Agilent Technologies, Inc. Method and circuit for electronic shutter control
WO2001033503A1 (en) * 1999-11-03 2001-05-10 Cet Technologies Pte Ltd Image processing techniques for a video based traffic monitoring system and methods therefor
JP2003048481A (ja) * 2001-08-08 2003-02-18 Koito Mfg Co Ltd 車両用前照灯システム
JP2004023226A (ja) 2002-06-13 2004-01-22 Sony Corp 画像処理装置、カメラ装置、及びその露光制御方法
JP2004048455A (ja) * 2002-07-12 2004-02-12 Niles Co Ltd 撮像システム
CN101023407A (zh) * 2002-08-21 2007-08-22 金泰克斯公司 自动车辆外部照明控制的图像采集和处理方法
JP4253271B2 (ja) 2003-08-11 2009-04-08 株式会社日立製作所 画像処理システム及び車両制御システム
US7982772B2 (en) * 2004-03-30 2011-07-19 Fujifilm Corporation Image correction apparatus and image correction method for correcting image blur using a mobile vector
JP2005353477A (ja) * 2004-06-11 2005-12-22 Koito Mfg Co Ltd 車両用照明システム
JP4247993B2 (ja) * 2004-11-05 2009-04-02 シャープ株式会社 画像検査装置、画像検査方法、制御プログラムおよび可読記憶媒体
JP2006222844A (ja) * 2005-02-14 2006-08-24 Fujitsu Ten Ltd 車載画像情報出力装置及び車載画像情報出力装置の制御方法
JP4603421B2 (ja) * 2005-05-27 2010-12-22 本田技研工業株式会社 車両、画像処理システム、画像処理方法、及び画像処理プログラム
JP4644550B2 (ja) * 2005-07-20 2011-03-02 株式会社オートネットワーク技術研究所 カメラシステム
EP1837803A3 (en) * 2006-03-24 2008-05-14 MobilEye Technologies, Ltd. Headlight, taillight and streetlight detection
JP4853160B2 (ja) * 2006-08-02 2012-01-11 株式会社デンソー 車両検出装置及びヘッドランプ制御装置
JP4679469B2 (ja) * 2006-08-28 2011-04-27 ダイハツ工業株式会社 車載画像処理装置
JP4258539B2 (ja) * 2006-08-31 2009-04-30 株式会社日立製作所 複数画角カメラ
JP4367475B2 (ja) * 2006-10-06 2009-11-18 アイシン精機株式会社 移動物体認識装置、移動物体認識方法及びコンピュータプログラム
DE102006055908A1 (de) * 2006-11-27 2008-05-29 Adc Automotive Distance Control Systems Gmbh Verfahren zur automatischen Fernlichtsteuerung
JP4321591B2 (ja) * 2007-01-11 2009-08-26 株式会社デンソー 車載霧判定装置
JP4389999B2 (ja) * 2007-12-26 2009-12-24 株式会社デンソー 露出制御装置及び露出制御プログラム
JP4433046B2 (ja) * 2007-12-26 2010-03-17 株式会社デンソー 露出制御装置及び露出制御プログラム
JP4980939B2 (ja) * 2008-01-22 2012-07-18 富士重工業株式会社 撮像手段の調整装置および物体検出装置
US8135179B2 (en) * 2008-05-05 2012-03-13 Biotronics, Inc. Systems, methods and devices for use in assessing fat and muscle depth
JP4937199B2 (ja) * 2008-06-25 2012-05-23 日立オートモティブシステムズ株式会社 オートライト装置
JP2010272067A (ja) 2009-05-25 2010-12-02 Hitachi Automotive Systems Ltd 画像処理装置
US8531588B2 (en) * 2009-06-25 2013-09-10 Pixart Imaging Inc. Method for adjusting exposure condition of optical sensor module and optical sensor module thereof
JP5051405B2 (ja) * 2009-11-09 2012-10-17 トヨタ自動車株式会社 距離測定装置、及び距離測定方法
JP2011119785A (ja) * 2009-11-30 2011-06-16 Fujitsu Ltd カメラ制御装置及びカメラ制御方法
US8698015B2 (en) * 2009-12-18 2014-04-15 Intel Corporation Compensating for multi-touch signal bias drift in touch panels
KR101204556B1 (ko) * 2011-01-21 2012-11-23 삼성전기주식회사 노이즈 제거 방법 및 이를 이용한 나이트 비젼 시스템
US9834153B2 (en) * 2011-04-25 2017-12-05 Magna Electronics Inc. Method and system for dynamically calibrating vehicular cameras
US20120287276A1 (en) * 2011-05-12 2012-11-15 Delphi Technologies, Inc. Vision based night-time rear collision warning system, controller, and method of operating the same
DE102011081425A1 (de) * 2011-08-23 2013-02-28 Robert Bosch Gmbh Verfahren und Vorrichtung zur Klassifizierung eines sich in einem Vorfeld eines Fahrzeugs befindlichen Lichtobjekts
JP5950196B2 (ja) * 2011-08-30 2016-07-13 株式会社リコー 撮像装置、並びに、これを用いる画像解析装置及び移動装置
US20130083196A1 (en) * 2011-10-01 2013-04-04 Sun Management, Llc Vehicle monitoring systems
JP5680573B2 (ja) * 2012-01-18 2015-03-04 富士重工業株式会社 車両の走行環境認識装置
JP2013205867A (ja) 2012-03-27 2013-10-07 Sony Corp 情報処理装置及び方法、並びにプログラム
JP5884635B2 (ja) * 2012-05-18 2016-03-15 株式会社デンソー 走行環境検出装置、走行環境検出プログラム、およびライト制御装置
JP5981550B2 (ja) 2012-07-27 2016-08-31 日産自動車株式会社 立体物検出装置および立体物検出方法
US9196040B2 (en) * 2013-03-12 2015-11-24 Qualcomm Incorporated Method and apparatus for movement estimation
JP5820843B2 (ja) * 2013-05-29 2015-11-24 富士重工業株式会社 周囲環境判定装置
DE102013011975B4 (de) * 2013-07-12 2015-03-05 Iav Gmbh Ingenieurgesellschaft Auto Und Verkehr Verfahren zur Bewertung von Scheinwerfern
JP6214290B2 (ja) * 2013-09-09 2017-10-18 株式会社Subaru 前照灯制御装置
DE102013219095A1 (de) * 2013-09-23 2015-03-26 Hella Kgaa Hueck & Co. Verfahren zur Steuerung einer Lichtverteilung eines Scheinwerfers und Scheinwerfer hierfür
JP2015114084A (ja) 2013-12-13 2015-06-22 株式会社竹中工務店 データセンター
JP6200481B2 (ja) * 2015-11-25 2017-09-20 株式会社Subaru 車外環境認識装置
JP6310899B2 (ja) * 2015-11-25 2018-04-11 株式会社Subaru 車外環境認識装置

Also Published As

Publication number Publication date
JP6930613B2 (ja) 2021-09-01
EP3304886A1 (en) 2018-04-11
JP2017005678A (ja) 2017-01-05
DE202016008786U1 (de) 2019-08-22
US20210227115A1 (en) 2021-07-22
US20180139368A1 (en) 2018-05-17
US11539894B2 (en) 2022-12-27
EP3849172A1 (en) 2021-07-14
US10582131B2 (en) 2020-03-03
EP3304886B1 (en) 2021-06-02
US11089229B2 (en) 2021-08-10
JP2020080550A (ja) 2020-05-28
US20200162652A1 (en) 2020-05-21

Similar Documents

Publication Publication Date Title
JP6930613B2 (ja) 車載カメラ・システム、並びに画像処理装置及び画像処理方法
JP6795030B2 (ja) 撮像制御装置及び撮像制御方法、並びに撮像装置
KR102554643B1 (ko) 동적 범위를 확장하기 위한 다수의 동작 모드들
CN113998034B (zh) 骑乘者辅助系统和方法
JP6819680B2 (ja) 撮像制御装置および方法、並びに車両
US10479269B2 (en) Lighting apparatus for vehicle and vehicle having the same
KR101822894B1 (ko) 차량 운전 보조 장치 및 차량
KR101822895B1 (ko) 차량 운전 보조 장치 및 차량
JP6819681B2 (ja) 撮像制御装置および方法、並びに車両
WO2016194296A1 (en) In-vehicle camera system and image processing apparatus
CN104185588B (zh) 用于确定道路宽度的车载成像系统及方法
JP6311646B2 (ja) 画像処理装置、電子ミラーシステム、及び画像処理方法
US20150332101A1 (en) Lane boundary line recognition apparatus and program for recognizing lane boundary line on roadway
US20150350510A1 (en) Camera capable of reducing motion blur in a low luminance environment and vehicle including the same
JP2019146012A (ja) 撮像装置
KR20210100775A (ko) 노면 상태를 검출하기 위한 자율 주행 장치 및 그의 동작 방법
CN113614782A (zh) 信息处理装置、信息处理方法和程序
JP6658358B2 (ja) 車両の制御装置
CN113484863A (zh) 一种车辆及其车载传感器系统、以及行车数据采集方法
KR20210090329A (ko) 카메라를 이용하여 자율 주행을 수행하는 차량 및 그의 동작 방법
KR20160092403A (ko) 차량 운전 보조 장치 및 차량 운전 보조 장치의 제어 방법
JP6566067B2 (ja) 画像処理装置
JP2020160878A (ja) 運転支援方法及び運転支援装置
JP2022154208A (ja) 画像処理装置、画像処理システム、および、画像処理方法
KR20210100344A (ko) 카메라를 이용하여 자율 주행을 수행하는 차량 및 그의 동작 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181102

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200120

R151 Written notification of patent or utility model registration

Ref document number: 6657925

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151