JP2023129847A - 車載カメラシステム、および、車載カメラの露光条件決定方法 - Google Patents

車載カメラシステム、および、車載カメラの露光条件決定方法 Download PDF

Info

Publication number
JP2023129847A
JP2023129847A JP2022034138A JP2022034138A JP2023129847A JP 2023129847 A JP2023129847 A JP 2023129847A JP 2022034138 A JP2022034138 A JP 2022034138A JP 2022034138 A JP2022034138 A JP 2022034138A JP 2023129847 A JP2023129847 A JP 2023129847A
Authority
JP
Japan
Prior art keywords
vehicle
exposure
exposure condition
camera
cameras
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022034138A
Other languages
English (en)
Inventor
春樹 的野
Haruki Matono
英彰 城戸
Hideaki Kido
耕太 入江
Kota Irie
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Astemo Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Astemo Ltd filed Critical Hitachi Astemo Ltd
Priority to JP2022034138A priority Critical patent/JP2023129847A/ja
Priority to PCT/JP2022/029253 priority patent/WO2023170993A1/ja
Publication of JP2023129847A publication Critical patent/JP2023129847A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Traffic Control Systems (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 正確な3次元情報と物標認識情報を、車速の影響を受けることなく取得できる、車載カメラシステムを提供する。【解決手段】 視野領域の少なくとも一部が重複したステレオ視領域を有するように自車両に配置された複数のカメラと、自車両の挙動に基づいて、複数のカメラが撮像したステレオ視領域の特徴点の移動量を求める移動量演算部と、移動量が閾値以下となるように複数のカメラの第1露光条件を決定する第1露光条件決定部と、車外の外光条件に基づいて、複数のカメラの第2露光条件を決定する第2露光条件決定部と、第1露光条件で撮像した画像を用いて、ステレオ視領域の3次元情報を取得する3次元情報取得部と、第2露光条件で撮像した画像を用いて、自車両周辺の物標を認識する物標認識部と、複数のカメラの各々の露光条件を第1露光条件または第2露光条件に切り替える露光制御部と、を備える車載カメラシステム。【選択図】 図5

Description

本発明は、複数のカメラを併用して自車両の外界を認識する、車載カメラシステム、および、車載カメラの露光条件決定方法に関する。
運転支援システムや自動運転システムの技術要素として、ACC(Adaptive Cruise Control)や、AEBS(Advanced Emergency Braking System)や、LKAS(Lane Keeping Assist System)などの車両制御技術が知られている。これらの車両制御技術を実現する具体的な構成として、車載カメラで撮像した画像に基づいて自車両周辺の物標(例えば、他車両、歩行者、サイクリスト、交通信号機、交通標識、白線、障害物など)を常時認識・追跡することで、先行車に追従走行したり、緊急ブレーキを発動したり、走行車線をはみ出さぬよう操舵制御したりするものが知られている。また、自車両の前後だけでなく側方も監視できるように複数のカメラを配置することで、自動駐車を可能にした車両も普及しつつある。
ここで、車載カメラの露光時間を制御する従来技術して、特許文献1が知られている。同文献の要約書には、課題として「車両の走行状態に配慮して、車両周辺の画像を撮像して表示する。」と記載されており、解決手段として「車載カメラ制御装置は、車載カメラが搭載された車両の車速を取得する車速取得手段と、車速取得手段で取得した車速に応じて、車載カメラの露光時間を変更するカメラ制御手段とを備える。」と記載されている。また、同文献の段落0036には「車両が高速に移動しているときは、鮮明な画像ではないものの、リアルタイムに車両周辺の画像を表示することができる。」との記載がある。
特開2008-174078号公報
上記のように、特許文献1の露光時間制御は、自車両周辺の画像をリアルタイム表示するために、車速に応じて車載カメラの露光時間を一律に変更するものであるが、この露光時間制御によっては、高速移動時に鮮明な画像を取得できないという問題があった。従って、特許文献1の技術で撮像された不鮮明な画像を利用すると、自車両周辺の物標を正確に認識することができず、ACC、AEBS、LKAS等の車両制御を適切に実現できない可能性があった。
そこで、本発明では、距離測定用の露光制御と物標認識用の露光制御を時分割に切り替えて撮像することで、ACC、AEBS、LKAS等の車両制御に必要とされる、正確な3次元情報と物標認識情報を、車速の影響を受けることなく取得できる、車載カメラシステム、および、車載カメラの露光条件決定方法を提供することを目的とする。
上記課題を解決するため、本発明の車載カメラシステムは、視野領域の少なくとも一部が重複したステレオ視領域を有するように自車両に配置された複数のカメラと、自車両の挙動に基づいて、前記複数のカメラが撮像した前記ステレオ視領域の特徴点の移動量を求める移動量演算部と、前記移動量が閾値以下となるように前記複数のカメラの第1露光条件を決定する第1露光条件決定部と、車外の外光条件に基づいて、前記複数のカメラの第2露光条件を決定する第2露光条件決定部と、前記第1露光条件で撮像した画像を用いて、前記ステレオ視領域の3次元情報を取得する3次元情報取得部と、前記第2露光条件で撮像した画像を用いて、自車両周辺の物標を認識する物標認識部と、前記複数のカメラの各々の露光条件を前記第1露光条件または前記第2露光条件に切り替える露光制御部と、を備える車載カメラシステムとした。
本発明の車載カメラシステム、および、車載カメラの露光条件決定方法によれば、距離測定用の露光制御と物標認識用の露光制御を時分割に切り替えて撮像することで、ACC、AEBS、LKAS等の車両制御に必要とされる、正確な3次元情報と物標認識情報を、車速の影響を受けることなく取得することができる。
一実施例の車載カメラシステムの機能ブロック図。 各カメラの視野領域とステレオ視領域の関係を示す上面図。 図1のカメラ制御部の機能ブロック図。 一実施例の車載カメラシステムの処理フローチャート。 3次元情報の演算ライン、および、特徴点移動量の演算領域の具体例。
以下、本発明の一実施例に係る車載カメラシステム100を、図面を用いて説明する。
図1は、車載カメラシステム100の機能ブロック図である。この車載カメラシステム100は、自車両1に搭載されたシステムであり、演算処理装置10と、カメラ20(21~26)と、車両制御装置30と、投光器40を備える。以下、カメラ20、車両制御装置30、投光器40の概説後、演算処理装置10を詳細に説明する。
<カメラ20>
カメラ20は、自車両周辺を撮像して撮像データPを出力するセンサであり、本実施例の自車両1には、車外全周を撮像できるように複数のカメラ20(21~26)が設置されている。なお、各カメラは、撮像範囲の少なくとも一部が他カメラの撮像範囲と重複するように設置されているものとする。
図2は、自車両1の上面図であり、各カメラの視野領域Cと、ステレオ視領域Vの関係を例示した図である。本実施例の自車両1には、実線で示す前方の視野領域C21を撮像する前方カメラ21と、一点鎖線で示す右前の視野領域C22を撮像する右前カメラ22と、破線で示す右後の視野領域C23を撮像する右後カメラ23と、実線で示す後方の視野領域C24を撮像する後方カメラ24と、一点鎖線で示す左後の視野領域C25を撮像する左後カメラ25と、破線で示す左前の視野領域C26を撮像する左前カメラ26が設置されており、これら六つのカメラ20によって、車外全周を撮像することができる。
複数の視野領域Cが重複する領域では、同一物体を複数の視線方向から撮像(ステレオ撮像)でき、周知のステレオマッチングの技術を用いれば撮像物(自車両周辺の移動体、静止物、路面など)の3次元情報を生成できる。そのため、視野領域Cが重複する領域を、ステレオ視領域Vと称する。
なお、図2では、前後左右のステレオ視領域V~Vを例示しているが、ステレオ視領域Vの数や方向はこの例に限定されない。また、図2は、各カメラの視野領域Cを単純化して図示したものであり、各カメラの実際の撮像可能距離は、図示する大小関係である必要はない。一例を挙げれば、各カメラの実際の撮像可能距離は、前方カメラ21と後方カメラ24が200m程度であり、その他のカメラが50m程度である。この場合、ステレオ視領域Vの撮像可能距離は、50m程度となる。
<車両制御装置30>
車両制御装置30は、後述する物標測距の結果などに基づいて、図示しない、操舵系、駆動系、制動系を制御することで、ACC、AEBS、LKAS、自動駐車等の車両制御を実行させる制御装置である。なお、車両制御装置30は、後述するカメラ制御部12に、自車両1の車速情報を送信したり、所望の情報(3次元地図、自車姿勢、物標認識、物標測距)の優先送信を要請したりもする。
<投光器40>
投光器40は、各カメラでより鮮明な画像データPを撮像できるようにするため、ステレオ視領域Vの範囲内に可視光または近赤外線を所望の光量で投光する装置である。なお、自車両1の外界が十分に明るい場合は、投光器40を使用しなくても良い。また、投光器40を使用する場合も、常時投光は必要無く、各カメラの撮像タイミングと同期して投光すれば良い。
<演算処理装置10>
演算処理装置10は、カメラ20の出力(画像データP)に基づいて、自車両周辺の3次元情報を取得したり、自車姿勢を推定したり、自車両周辺の物標(例えば、他車両、歩行者、サイクリスト、交通信号機、交通標識、白線、障害物など)を認識したり、物標までの距離を計測したりするための装置である。なお、この演算処理装置10は、具体的には、CPU等の演算装置、半導体メモリ等の記憶装置、および、通信装置などのハードウェアを備えたコンピュータである。そして、演算装置が所定のプログラムを実行することで、後述するカメラ制御部12等の各機能部を実現するが、以下では、このような周知技術を適宜省略しながら説明する。
本実施例の演算処理装置10は、図1に示すように、センサインターフェース11、カメラ制御部12、投光器制御部13、画像分配部14、特徴点移動量演算部15、3次元情報取得部16、3次元地図記憶部17、自車姿勢推定部18、物標認識部19、物標測距部1aを備えている。以下、各部の機能を順次説明する。
<<センサインターフェース11>>
センサインターフェース11は、カメラ制御部12の指令をカメラ20(21~26)に送信するとともに、カメラ20(21~26)から画像データPを受信し、画像分配部14に送信する機能部である。これにより、各カメラは、カメラ制御部12が設定した露光条件で画像データPを撮像することができる。なお、露光条件の詳細は後述する。
<<カメラ制御部12>>
カメラ制御部12は、センサインターフェース11を介してカメラ20(21~26)を制御するとともに、投光器制御部13を介して投光器40を制御する機能部である。このカメラ制御部12は、図3に示すように、基準露光条件記憶部12a、第1露光条件決定部12b、外光条件判定部12c、第2露光条件決定部12d、露光制御部12e、撮像制御部12f、投光条件決定部12gを有している。以下、各部を詳細に説明する。
基準露光条件記憶部12aは、演算処理装置10の起動時、または、車速や車外環境が大きく変化した場合に、各カメラに設定する基準露光条件(基準露光時間)を記憶した機能部である。
第1露光条件決定部12bは、後述する特徴点移動量演算部15から受信した特徴点移動量、または、車両制御装置30から受信した車速情報に基づいて、第1露光条件を決定する機能部である。この第1露光条件は、3次元情報を取得するための画像データP1を撮像する際の露光時間を規定したものであり、特徴点移動量が所定の閾値(例えば、2画素)以下となるような露光時間、あるいは、車速に反比例する露光時間が設定される。
外光条件判定部12cは、後述する画像分配部14から受信した画像データPの輝度情報に基づいて、車外の外光条件を判定する機能部である。なお、外光条件を判定する際には、例えば、各カメラに設定されたゲインと、画像データP内の平均輝度を考慮する。従って、画像データPの平均輝度が同等であっても、ゲインが高ければ外界が暗いと判定され、ゲインが低ければ外界が明るいと判定される。
第2露光条件決定部12dは、外光条件判定部12cで判定した外光条件に基づいて、第2露光条件を決定する機能部である。この第2露光条件は、物標を認識するための画像データP2を撮像する際の露光時間を規定したものであり、外光量に略反比例する露光時間が設定される。なお、外光量と第2露光条件の関係は、所定の演算式から求めても良いし、予め用意したテーブルを参照しても良い。
なお、第1露光条件の露光時間と、第2露光条件の露光時間を比較すると、基本的には、前者が短く、後者が長い関係にある。従って、第1露光条件下で撮像された画像データP1には、画像が暗いため物標の認識には適さないという欠点があるが、サンプリング周期が短いため自車両周辺の環境変化を素早く検知できるという利点がある。一方、第2露光条件下で撮像された画像データP2には、サンプリング周期が長いため自車両周辺の環境変化を素早く検知するには適さないという欠点があるが、画像が明るいため物標を正確に認識できるという利点がある。
露光制御部12eは、処理手順や、車速や、認識した物標の種別・距離・衝突可能性等に応じて、基準露光条件、第1露光条件、第2露光条件の何れかを選択して、撮像制御部12fに送信する機能部である。なお、本実施例では、各カメラの露光条件を、その時々の各カメラの優先用途を考慮しつつも時分割で設定するため、各カメラからは3次元情報取得用の画像データP1と物標認識用の画像データP2が所定比率で出力されることとなる。例えば、自車両1が高速走行中である場合や衝突可能性のある物標を検知した場合などのように、カメラ20の優先用途が3次元情報の取得であれば、第1露光条件の使用割合を高めて多数の画像データP1と少数の画像データP2を撮像すれば良いし、物標認識であれば、第2露光条件の使用割合を高めて少数の画像データP1と多数の画像データP2を撮像すれば良い。
また、車速を考慮して露光条件を設定する場合であれば、次のように露光条件が設定される。例えば、自車両1が一定速度(例えば、10km/h)以上で移動中の場合は、各カメラに対し、3次元情報取得用の第1露光条件を優先して設定する。具体的には、各カメラに第1露光条件を設定する割合(期間または回数)を高め、第2露光条件を設定する割合(期間または回数)を抑制する。逆に、自車両1が一定速度未満で移動中の場合は、各カメラに対し、物標認識用の第2露光条件を優先して設定する。
ここで、同じステレオ視領域Vに対応するカメラ群に対しては同じ露光条件が設定する必要があるが、ステレオ視領域Vが異なるカメラ間であれば異なる露光条件を同期時に設定しても良い。例えば、自車両1が前進中の場合は、前方のステレオ視領域Vに対応するカメラ群(前方カメラ21、右前カメラ22、左前カメラ26)に、3次元情報取得用の第1露光条件を優先設定し、後方のステレオ視領域Vに対応するカメラ群(右後カメラ23、後方カメラ24、左後カメラ25)に、物標認識用の第2露光条件を優先設定しても良い。
撮像制御部12fは、露光制御部12eで設定された露光条件を用いて、各カメラの撮像タイミングを制御する機能部である。ここで、同じステレオ視領域Vに対応するカメラ群は同期して撮像する必要があるが、ステレオ視領域Vが異なるカメラ間であれば撮像タイミングを異ならせても良い。従って、例えば、前方のステレオ視領域Vに対応するカメラ群(21、22、26)と、後方のステレオ視領域Vに対応するカメラ群(23、24、25)に同じ撮像周期(例えば、50ms)が設定された場合、前者と後者の撮像タイミングに、例えば半周期分の時間差(例えば、25ms)を設けても良い。これにより、車外撮像するサンプリング周期を実質的に半減させることができる。
投光条件決定部12gは、撮像制御部12fの出力に基づいて、投光器40の投光タイミングと投光量を決定し、投光器制御部13に送信する機能部である。上記したように、投光器40は、各カメラの撮像中に投光していれば足りるので、各カメラが撮像していない期間中は投光しないように制御すれば、投光器40での消費電力を抑制することができる。
<<投光器制御部13>>
投光器制御部13は、投光条件決定部12gで決定した投光タイミング、投光量に従って、投光器40の投光を制御する機能部である。
<<画像分配部14>>
画像分配部14は、センサインターフェース11を介して受信した画像データPを、制御手順、自車両1の走行状況や、車両制御装置30の要請内容などに応じて、カメラ制御部12、特徴点移動量演算部15、3次元情報取得部16、または、物標認識部19に分配する機能部である。なお、画像分配部14で画像データPの種別を区別できるよう、画像データPには、露光条件(または露光時間)を示す情報が付加されているものとする。
<<特徴点移動量演算部15>>
特徴点移動量演算部15は、画像分配部14から受信した画像データP内の任意の特徴点について、その画像データP内での移動量を演算する機能部である。
図4(a)は、画像データP内での特徴点の移動の一例である。図示するように、路面に引かれた白線の奥側端部を特徴点とした場合、仮に自車両1が停止していれば、白線の奥側端部とその奥側の路面の境界は明確であるため、特徴点の移動量が小さいと判定することができるが、高速走行中の自車両1から撮像した図4の画像データPでは、白線の奥側端部と路面の境界が曖昧になるため、特徴点の移動量が大きいと判定することができる。そこで、特徴点移動量演算部15では、特徴点近傍の画像の明瞭さなどに基づいて、特徴点の移動量を演算する。なお、特徴点の移動量は車速に比例するため、特徴点の移動量の演算を、車速の概算と見做すこともできる。
<<3次元情報取得部16>>
3次元情報取得部16は、周知のステレオマッチングの技術を用いて、ステレオ視領域Vを同期撮像した一組の画像データP上の任意の演算ライン上の各画素について、3次元情報を取得する機能部である。
図4(b)は、画像データP内に例示した、3次元情報を取得するための演算ラインである。図4に例示する画像データPでは、略上半分に空が撮像されており、略下半分に路面が撮像されているため、画像データPの縦方向に演算ラインを設定して、その演算ライン上でステレオマッチングを実施すると、画像データPの下端の路面の画素に対しては最も近い距離情報が演算され、画像データPの下端から略中央までの路面の画素に対しては徐々に遠くなる距離情報が演算され、略中央から上端までの空の画素に対しては無効(距離測定不能)を示す距離情報が演算される。なお、図4では、1本の演算ラインのみを図示しているが、演算能力に余力があれば、画像データP上に複数の数、任意の角度の演算ラインを設定し、その夫々について3次元情報を演算しても良い。
<<3次元地図記憶部17>>
3次元地図記憶部17は、3次元情報取得部16で取得した3次元情報を時系列に蓄積することで、自車両周辺の路面勾配や物標等を示す3次元地図を生成して記憶する機能部である。なお、3次元地図記憶部17に移動体と思われる物標の過去の3次元情報が記憶されている場合は、各カメラに第1露光条件を優先設定して、その移動体の現在の3次元情報を更新できるようにすることで、当該移動体を追跡できるようにすることが望ましい。
<<自車姿勢推定部18>>
自車姿勢推定部18は、3次元地図記憶部17に記憶された3次元地図に基づいて、路面に対する自車両1の姿勢を推定する機能部である。
<<物標認識部19>>
物標認識部19は、周知のパターンマッチングの技術を用いて、画像データP2に撮像された物標を認識する機能部である。
図4(c)は、物標認識部19が画像データPから認識した物標を例示したものである。この例では、自車両走行車線を走行する先行車と、自車両走行車線の右車線を走行する先行車が認識されている。この場合、前者は、車両を後方から撮像した画像パターンとのパターンマッチングにより物標(他車両)として認識されたものであり、後者は、車両を左後方から撮像した画像パターンとのパターンマッチングにより物標(他車両)として認識されたものである。
<<物標測距部1a>>
物標測距部1aは、物標認識部19が認識した物標の、画像データP内での全幅、全高などに基づいて、当該物標までの距離を推測する機能部である。なお、物標がステレオ視領域V内にある場合はステレオマッチングの技術を用いて物標までの距離を演算しても良いし、物標までの距離が3次元地図として予め登録されている場合は、3次元地図が示す距離を、物標までの距離として採用しても良い。ここで求めた物標までの距離の情報は、車両制御装置30に送信されるため、車両制御装置30は、物標までの距離に応じて、ACCやAEBS、自動駐車等の各種車両制御を実行することができる。
<フローチャート>
次に、図5のフローチャートを用いて、上記した車載カメラシステム100の各部の処理を順次説明する。なお、ここでは、説明を簡略化するため、車外の明るさは一定であり、また、車速も一定であるものとする。
まず、ステップS1では、カメラ制御部12(12a、12e、12f)は、各々のカメラ20に基準露光条件を設定して、画像データPを撮像させる。
ステップS2では、特徴点移動量演算部15は、ステップS1で撮像した画像データPに基づいて、特徴点移動量を演算する。
ステップS3では、カメラ制御部12(12b)は、演算した特徴点移動量が所定の閾値以下であるかを判定する。そして、特徴点移動量が所定の閾値以下であればステップS5に進み、そうでなければ、ステップS4に進む。
ステップS4では、カメラ制御部12(12b、12e、12f)は、より短縮した露光時間をカメラ20に設定して画像データPを撮像させる。新たに撮像した画像データPに対しても、上記したステップS2,S3の処理が実行されるため、最終的には、特徴点移動量が所定の閾値以下となる露光時間が決定される。
ステップS5では、カメラ制御部12(12b)は、特徴点移動量が所定の閾値以下となった露光時間を、第1露光条件に決定する。
ステップS6では、カメラ制御部12(12c)は、画像データPに基づいて、車外の外光条件を取得する。
ステップS7では、カメラ制御部12(12d)は、外光条件に基づいて、第2露光条件を決定する。
ステップS8では、カメラ制御部12(12e)は、各カメラに優先設定された露光条件等を考慮して、次回撮像の目的を設定する。そして、次回撮像目的が距離情報(3次元情報、自車姿勢情報)の取得である場合は、ステップS9に進み、次回撮像目的が物標情報(物標認識情報、物標測距情報)の取得である場合は、ステップS12に進む。
ステップS9では、カメラ制御部12(12b、12e、12f、12g)は、カメラ20に第1露光条件を設定し、画像データP1を撮像させる。
ステップS10では、3次元情報取得部16は、同じステレオ視領域Vを同期撮像した複数の画像データP1に基づいて3次元情報を取得する。また、取得した3次元情報は、3次元地図として、3次元地図記憶部17に記憶される。
ステップS11では、自車姿勢推定部18は、自車両1の姿勢を推定する。推定した自車姿勢は、車両制御装置30に送信され、車両制御に利用される。
一方、ステップS12では、カメラ制御部12(12d、12e、12f、12g)は、カメラ20に第2露光条件を設定し、画像データP2を撮像させる。
ステップS13では、物標認識部19は、画像データP2内の物標を認識する。
ステップS14では、物標測距部1aは、認識した物標までの距離を測定する。測定した物標までの距離は、車両制御装置30に送信され、所望の車両制御に利用される。
ステップS15では、演算処理装置10は、走行が終了したかを判定する。そして、走行が終了していなければ、ステップS8に戻り、撮像を継続する。これにより、各カメラは、画像データP1、P2を所定比率で撮像することができる。一方、走行が終了すれば、図5の処理を終了する。なお、車外の明るさや車速が大きく変化した場合は、ステップS1からの処理を再度実行すれば良い。
以上で説明した本実施例の車載カメラシステムによれば、距離測定用の露光制御と物標認識用の露光制御を時分割に切り替えて撮像することで、ACC、AEBS、LKAS等の車両制御に必要とされる、正確な3次元情報と物標認識情報を、車速の影響を受けることなく取得することができる。
1 自車両、
100 車載カメラシステム、
10 演算処理装置、
11 センサインターフェース、
12 カメラ制御部、
12a 基準露光条件記憶部、
12b 第1露光条件決定部、
12c 外光条件判定部、
12d 第2露光条件決定部、
12e 露光制御部、
12f 撮像制御部、
12g 投光条件決定部、
13 投光器制御部、
14 画像分配部、
15 特徴点移動量演算部、
16 3次元情報取得部、
17 3次元地図記憶部、
18 自車姿勢推定部、
19 物標認識部、
1a 物標測距部、
20(21~26) カメラ、
30 車両制御装置、
40 投光器
C 視野領域
V ステレオ視領域
P 画像データ

Claims (8)

  1. 視野領域の少なくとも一部が重複したステレオ視領域を有するように自車両に配置された複数のカメラと、
    自車両の挙動に基づいて、前記複数のカメラが撮像した前記ステレオ視領域の特徴点の移動量を求める移動量演算部と、
    前記移動量が閾値以下となるように前記複数のカメラの第1露光条件を決定する第1露光条件決定部と、
    車外の外光条件に基づいて、前記複数のカメラの第2露光条件を決定する第2露光条件決定部と、
    前記第1露光条件で撮像した画像を用いて、前記ステレオ視領域の3次元情報を取得する3次元情報取得部と、
    前記第2露光条件で撮像した画像を用いて、自車両周辺の物標を認識する物標認識部と、
    前記複数のカメラの各々の露光条件を前記第1露光条件または前記第2露光条件に切り替える露光制御部と、
    を備えることを特徴とする車載カメラシステム。
  2. 請求項1に記載の車載カメラシステムにおいて、
    前記露光制御部は、自車両の車速が所定値以上である場合に、前記第2露光条件より前記第1露光条件を優先することを特徴とする車載カメラシステム。
  3. 請求項1に記載の車載カメラシステムにおいて、
    前記3次元情報取得部が過去に取得したステレオ視領域の3次元情報を当該ステレオ視領域に含まれる物標と対応付けて記憶する記憶部をさらに備え、
    前記露光制御部は、現時点で前記ステレオ視領域に含まれる物標の3次元情報が前記記憶部に記憶されている場合、前記第2露光条件よりも前記第1露光条件を優先することを特徴とする車載カメラシステム。
  4. 請求項1に記載の車載カメラシステムにおいて、
    前記複数のカメラは、複数の前記ステレオ視領域を有するように配置され、
    前記露光制御部は、各ステレオ視領域を撮像するカメラ群毎に、前記第1露光条件と前記第2露光条件を切り替えることを特徴とする車載カメラシステム。
  5. 請求項4に記載の車載カメラシステムにおいて、
    前記露光制御部は、複数のステレオ視領域のいずれかに自車両と衝突する可能性がある物標が存在する場合、前記物標を検知したステレオ視領域を撮像するカメラについて、前記第2露光条件よりも前記第1露光条件を優先することを特徴とする車載カメラシステム。
  6. 請求項4に記載の車載カメラシステムにおいて、
    前記複数のカメラのうち、第1ステレオ視領域を撮像するカメラと、第2ステレオ視領域を撮像するカメラと、の撮像タイミングが所定時間ずれるように撮像タイミングを制御する撮像タイミング制御部をさらに備え、
    前記3次元情報取得部は、前記第1ステレオ視領域で撮像した画像と、前記第2ステレオ視領域で撮像した画像と、に基づいて、前記3次元情報を取得することを特徴とする車載カメラシステム。
  7. 請求項1に記載の車載カメラシステムにおいて、
    前記カメラの撮像と同期して投光する投光器をさらに備えることを特徴とする車載カメラシステム。
  8. 複数のカメラの視野領域が重複したステレオ視領域を撮像する撮像ステップと、
    自車両の挙動に基づいて、前記複数のカメラが撮像した前記ステレオ視領域の特徴点の移動量を求める移動量演算ステップと、
    前記移動量が閾値以下となるように前記複数のカメラの第1露光条件を決定する第1露光条件決定ステップと、
    車外の外光条件に基づいて、前記複数のカメラの第2露光条件を決定する第2露光条件決定ステップと、
    前記第1露光条件で撮像した画像を用いて、前記ステレオ視領域の3次元情報を取得する3次元情報取得ステップと、
    前記第2露光条件で撮像した画像を用いて、自車両周辺の物標を認識する物標認識ステップと、
    前記複数のカメラの各々の露光条件を前記第1露光条件または前記第2露光条件に切り替える露光制御ステップと、
    を備えることを特徴とする車載カメラの露光条件決定方法。
JP2022034138A 2022-03-07 2022-03-07 車載カメラシステム、および、車載カメラの露光条件決定方法 Pending JP2023129847A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022034138A JP2023129847A (ja) 2022-03-07 2022-03-07 車載カメラシステム、および、車載カメラの露光条件決定方法
PCT/JP2022/029253 WO2023170993A1 (ja) 2022-03-07 2022-07-29 車載カメラシステム、および、車載カメラの露光条件決定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022034138A JP2023129847A (ja) 2022-03-07 2022-03-07 車載カメラシステム、および、車載カメラの露光条件決定方法

Publications (1)

Publication Number Publication Date
JP2023129847A true JP2023129847A (ja) 2023-09-20

Family

ID=87936401

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022034138A Pending JP2023129847A (ja) 2022-03-07 2022-03-07 車載カメラシステム、および、車載カメラの露光条件決定方法

Country Status (2)

Country Link
JP (1) JP2023129847A (ja)
WO (1) WO2023170993A1 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6244986B2 (ja) * 2014-03-05 2017-12-13 日産自動車株式会社 カメラ装置
EP3637758A4 (en) * 2017-06-07 2020-11-04 Hitachi Automotive Systems, Ltd. IMAGE PROCESSING DEVICE
US10798368B2 (en) * 2018-03-13 2020-10-06 Lyft, Inc. Exposure coordination for multiple cameras

Also Published As

Publication number Publication date
WO2023170993A1 (ja) 2023-09-14

Similar Documents

Publication Publication Date Title
EP2933790B1 (en) Moving object location/attitude angle estimation device and moving object location/attitude angle estimation method
EP3179462B1 (en) Device and method for calculating a position of a vehicle
CN103874931B (zh) 用于求取车辆的环境中的对象的位置的方法和设备
JP2011028659A (ja) 道路形状認識装置
JP2019099138A (ja) 車線維持補助方法及び装置
JP2010009235A (ja) 画像表示装置
JP4980970B2 (ja) 撮像手段の調整装置および物体検出装置
JP2018048949A (ja) 物体識別装置
CN112703141A (zh) 行驶辅助方法及行驶辅助装置
US20240056694A1 (en) Imaging device, image processing method, and image processing program
RU2737641C1 (ru) Способ помощи при парковке и устройство помощи при парковке
US11663834B2 (en) Traffic signal recognition method and traffic signal recognition device
JP2013186718A (ja) 移動物体位置姿勢推定装置及び方法
WO2023170993A1 (ja) 車載カメラシステム、および、車載カメラの露光条件決定方法
JP2022006844A (ja) 物体検出方法及び物体検出装置
CN116892949A (zh) 地上物检测装置、地上物检测方法以及地上物检测用计算机程序
US11679769B2 (en) Traffic signal recognition method and traffic signal recognition device
JP7226583B2 (ja) 信号機認識方法及び信号機認識装置
US20240067227A1 (en) Vehicle control device, storage medium storing computer program for vehicle control, and method for controlling vehicle
RU2779773C1 (ru) Способ распознавания светофора и устройство распознавания светофора
US20240010242A1 (en) Signal processing device and signal processing method
JP2024030951A (ja) 車両制御装置、車両制御方法及び車両制御用コンピュータプログラム
JP2024011893A (ja) 車線判定装置、車線判定方向及び車線判定用コンピュータプログラム
JP2022099422A (ja) 車両認識装置および車両制御装置