JP4130434B2 - 撮像装置の異常検知装置 - Google Patents

撮像装置の異常検知装置 Download PDF

Info

Publication number
JP4130434B2
JP4130434B2 JP2004347820A JP2004347820A JP4130434B2 JP 4130434 B2 JP4130434 B2 JP 4130434B2 JP 2004347820 A JP2004347820 A JP 2004347820A JP 2004347820 A JP2004347820 A JP 2004347820A JP 4130434 B2 JP4130434 B2 JP 4130434B2
Authority
JP
Japan
Prior art keywords
luminance
area
predetermined
value
average value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004347820A
Other languages
English (en)
Other versions
JP2006157739A (ja
Inventor
雅和 坂
伸治 長岡
孝之 辻
正人 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2004347820A priority Critical patent/JP4130434B2/ja
Priority to US11/287,870 priority patent/US7580548B2/en
Publication of JP2006157739A publication Critical patent/JP2006157739A/ja
Application granted granted Critical
Publication of JP4130434B2 publication Critical patent/JP4130434B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation

Description

この発明は、例えば可視光領域や赤外線領域にて撮像可能な撮像装置の異常状態(例えば、光学系の汚れ等)の有無を検知する撮像装置の異常検知装置に関する。
従来、例えば車両に搭載された赤外線カメラに近接して配置されるフォトセンサにより車両のヘッドライトから出力される光の反射光の光量を検出し、検出した光量に基づいて赤外線カメラの汚れの有無を検知する装置が知られている(例えば、特許文献1参照)。
特開2001−211449号公報
ところで、上記従来技術の一例に係る装置においては、赤外線カメラに加えて、赤外線カメラの汚れの有無を検知するための特別の装置としてフォトセンサを備える必要があることから、装置構成が複雑化すると共に、フォトセンサを所望の状態で作動させるために赤外線カメラの設置位置が規制されてしまう虞がある。
本発明は上記事情に鑑みてなされたもので、装置構成が複雑化することを防止しつつ、撮像装置の異常状態(例えば、光学系の汚れ等)の有無を容易に検知することが可能な撮像装置の異常検知装置を提供することを目的としている。
上記課題を解決して係る目的を達成するために、請求項1に記載の本発明の撮像装置の異常検知装置は、車両に搭載されて車両周辺を撮像する撮像装置(例えば、実施の形態での赤外線カメラ2R,2L)の異常の有無を検知する撮像装置の異常検知装置であって、前記撮像装置の撮像により得られた画像に所定領域を設定する所定領域設定手段(例えば、実施の形態での判定領域設定部12が兼ねる)と、前記所定領域設定手段により設定された前記所定領域に対して前記画像から得られる輝度値を用いて輝度分散の平均値を算出する輝度分散平均値算出手段(例えば、実施の形態でのカメラ汚れ判定部17が兼ねる)と、前記輝度分散平均値算出手段により算出された前記輝度分散の平均が所定分散閾値より低いと判定されたときに前記撮像装置の異常であると検知する異常検知手段(例えば、実施の形態でのカメラ汚れ判定部17)とを備え、前記所定領域設定手段は、少なくとも道路境界部を含む領域を前記所定領域として設定し、前記所定領域設定手段により設定された前記所定領域内において前記輝度分散平均値算出手段による輝度分散の平均値の算出処理の実行対象外とする除外領域を設定する領域除外手段(例えば、実施の形態での除外領域設定部14)を備え、前記領域除外手段は、前記輝度値算出手段により算出された輝度値が所定輝度値以上となる領域を前記除外領域として設定し、前記輝度分散平均値算出手段は、前記所定領域設定手段により設定された前記所定領域のうち前記領域除外手段により設定された前記除外領域以外の領域に対して輝度分散平均値を算出する
上記の撮像装置の異常検知装置によれば、撮像装置の撮像により得られた画像上における道路境界部、つまり画像上の下方に存在する道路と画像上の上方に存在する背景部との境界部を含む領域を、輝度分散の平均値を算出する所定領域として設定することから、輝度分散の平均値に応じて撮像装置の異常の有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。つまり、所定領域として道路および道路の境界部を含まずに背景部のみを含む領域を設定すると、撮像装置の汚れの有無に関わらずに、走行路の変化(例えば道路構造物や樹木等が相対的に少ない郊外路と、道路構造物や樹木等が相対的に多い市街路との変化等)に応じて、所定領域での輝度値の分布状態(例えば、輝度分散値)が変動し、撮像装置の汚れの有無を検知することが困難となったり、検知精度および検知結果に対する信頼度が低下してしまうという問題が生じる。また、所定領域として、背景部および道路の境界部を含まずに道路のみを含む領域を設定すると、所定領域での輝度値の変化が過剰に低くなり、撮像装置の汚れの有無を検知することが困難となったり、検知精度および検知結果に対する信頼度が低下してしまうという問題が生じる。
上記の撮像装置の異常検知装置によれば、所定領域の輝度分散の平均値を算出する際に不適切であると判断される領域を除外することで、輝度分散の平均値に応じた撮像装置の異常の有無の検知を適切に行うことができる。例えば所定領域の輝度分散の平均値を過剰に増大させる虞がある領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散の平均値の変化に比べて、所定領域の輝度分散の平均値が過剰に増大することで、汚れの有無に応じた輝度分散の平均値の変化を検知することが困難となることを防止することができる。
上記の撮像装置の異常検知装置によれば、所定領域の輝度分散の平均値を過剰に増大させる虞がある領域、つまり輝度値が所定輝度値以上となる領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散の平均値の変化に比べて、所定領域の輝度分散値が過剰に増大することで、汚れの有無に応じた輝度分散の平均値の変化を検知することが困難となることを防止することができる。
また請求項2記載の本発明の撮像装置の異常検知装置は、車両に搭載されて車両周辺を撮像する撮像装置の異常の有無を検知する撮像装置(例えば、実施の形態での赤外線カメラ2R,2L)の異常検知装置であって、前記撮像装置の撮像により得られた画像に所定領域を設定する所定領域設定手段(例えば、実施の形態での判定領域設定部12が兼ねる)と、前記所定領域設定手段により設定された前記所定領域に対して前記画像から得られる輝度値を用いて輝度分散値を算出する輝度分散値算出手段(例えば、実施の形態での輝度分散算出部16)と、前記輝度分散値算出手段により算出された前記輝度分散値に応じて前記撮像装置の異常の有無を検知する異常検知手段(例えば、実施の形態でのカメラ汚れ判定部17)と、前記撮像装置の撮像により得られた画像内の対象物を抽出する対象物抽出手段(例えば、実施の形態での物体判定部15)と、前記対象物抽出手段により抽出された前記対象物の種別を判定する対象物種別判定手段(例えば、実施の形態での物体判定部15が兼ねる)とを備え、前記所定領域設定手段は、少なくとも道路境界部を含む領域を前記所定領域として設定し、前記所定領域設定手段により設定された前記所定領域内において前記輝度分散値算出手段による輝度分散値の算出処理の実行対象外とする除外領域を設定する領域除外手段(例えば、実施の形態での除外領域設定部14)を備え、前記領域除外手段は、前記対象物種別判定手段の判定結果に基づいて前記除外領域を設定し、前記輝度分散値算出手段は、前記所定領域設定手段により設定された前記所定領域のうち前記領域除外手段により設定された前記除外領域以外の領域に対して輝度分散値を算出する。
上記の撮像装置の異常検知装置によれば、撮像装置の撮像により得られた画像上における道路境界部、つまり画像上の下方に存在する道路と画像上の上方に存在する背景部との境界部を含む領域を、輝度分散値を算出する所定領域として設定することから、輝度分散値に応じて撮像装置の異常の有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。つまり、所定領域として道路および道路の境界部を含まずに背景部のみを含む領域を設定すると、撮像装置の汚れの有無に関わらずに、走行路の変化(例えば道路構造物や樹木等が相対的に少ない郊外路と、道路構造物や樹木等が相対的に多い市街路との変化等)に応じて、所定領域での輝度値の分布状態(例えば、輝度分散値)が変動し、撮像装置の汚れの有無を検知することが困難となったり、検知精度および検知結果に対する信頼度が低下してしまうという問題が生じる。また、所定領域として、背景部および道路の境界部を含まずに道路のみを含む領域を設定すると、所定領域での輝度値の変化が過剰に低くなり、撮像装置の汚れの有無を検知することが困難となったり、検知精度および検知結果に対する信頼度が低下してしまうという問題が生じる。
さらに、所定領域の輝度分散値を算出する際に不適切であると判断される領域を除外することで、輝度分散値に応じた撮像装置の異常の有無の検知を適切に行うことができる。例えば所定領域の輝度分散値を過剰に増大させる虞がある領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散値の変化に比べて、所定領域の輝度分散値が過剰に増大することで、汚れの有無に応じた輝度分散値の変化を検知することが困難となることを防止することができる。
さらに、例えば所定領域の輝度分散値を過剰に変動させる虞がある種別の対象物を含む領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散値の変化に比べて、所定領域の輝度分散値が過剰に変動することで、汚れの有無に応じた輝度分散値の変化を検知することが困難となることを防止することができる。
さらに、請求項3に記載の本発明の撮像装置の異常検知装置では、前記領域除外手段は、前記対象物種別判定手段の判定結果において、相対的に高輝度の対象物の種別であると判定された対象物の前記画像上の存在領域を前記除外領域として設定することを特徴としている。
上記の撮像装置の異常検知装置によれば、所定領域の輝度分散値を過剰に増大させる虞がある領域、つまり輝度値が所定輝度値以上となる相対的に高輝度の種別の対象物を含む領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散値の変化に比べて、所定領域の輝度分散値が過剰に増大することで、汚れの有無に応じた輝度分散値の変化を検知することが困難となることを防止することができる。
さらに、請求項4に記載の本発明の撮像装置の異常検知装置は、前記輝度分散値算出手段により複数回に亘って算出された複数の前記輝度分散値の平均値を算出する輝度分散平均値算出手段(例えば、実施の形態でのカメラ汚れ判定部17が兼ねる)を備え、前記異常検知手段は、前記輝度分散平均値算出手段により算出された前記平均値が所定閾値を超えたか否かに応じて前記撮像装置の異常の有無を検知することを特徴としている。
上記の撮像装置の異常検知装置によれば、複数回に亘って算出された輝度分散値の平均値が所定閾値を超えたか否かを判定することにより、車両の走行によって変化する車両周辺環境に関わらずに、撮像装置の汚れの有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。
さらに、請求項5に記載の本発明の撮像装置の異常検知装置は、前記撮像装置が搭載された車両の状態量を検知する車両状態量検知手段(例えば、実施の形態での車両状態量センサ21)を備え、前記輝度分散平均値算出手段は、前記車両状態量検知手段により検知された車両の状態量が所定状態量である状態で前記輝度分散値算出手段により算出された前記輝度分散値のみに基づき、前記平均値を設定することを特徴としている。
上記の撮像装置の異常検知装置によれば、車両の状態量が所定状態量である状態で算出された輝度分散値のみに基づき輝度分散値の平均値を設定することで、車両の状態に起因して不適切な値となった輝度分散値に基づいて撮像装置の汚れの有無が検知されてしまうことを防止することができる。例えば、車両の状態量に対する所定状態量として、車両の速度が所定速度以上となる状態を設定することにより、車両と先行車両や他の物体との間の距離が所定距離以上となり、画像上で単一の対象物のみの大きさが過剰に増大して、所定領域の輝度分散値に対して単一の対象物に係る輝度分散値の寄与が過剰に増大してしまうことを防止することができる。また、車両の状態量に対する所定状態量として、例えばヨーレートの絶対値が所定閾値以下の状態や運転者によるブレーキ操作が無い状態等を設定することにより、車両の走行挙動が相対的に安定している状態で輝度分散値の平均値を適切な値にすることができる。
以上説明したように、請求項1に記載の本発明の撮像装置の異常検知装置によれば、撮像装置の撮像により得られた画像上における道路境界部を含む領域を、輝度分散の平均値を算出する所定領域として設定することから、輝度分散の平均値に応じて撮像装置の異常の有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。
さらに、所定領域の輝度分散の平均値を算出する際に不適切であると判断される領域を除外することで、輝度分散の平均値に応じた撮像装置の異常の有無の検知を適切に行うことができる。
さらに、所定領域の輝度分散の平均値を過剰に増大させる虞がある領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散の平均値の変化に比べて、所定領域の輝度分散の平均値が過剰に増大することで、汚れの有無に応じた輝度分散の平均値の変化を検知することが困難となることを防止することができる。
また請求項2に記載の本発明の撮像装置の異常検知装置によれば、撮像装置の撮像により得られた画像上における道路境界部を含む領域を、輝度分散値を算出する所定領域として設定することから、輝度分散値に応じて撮像装置の異常の有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる
さらに、所定領域の輝度分散値を算出する際に不適切であると判断される領域を除外することで、輝度分散値に応じた撮像装置の異常の有無の検知を適切に行うことができる
さらに、例えば所定領域の輝度分散値を過剰に変動させる虞がある種別の対象物を含む領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散値の変化に比べて、所定領域の輝度分散値が過剰に変動することで、汚れの有無に応じた輝度分散値の変化を検知することが困難となることを防止することができる。
さらに、請求項3に記載の本発明の撮像装置の異常検知装置によれば、所定領域の輝度分散値を過剰に増大させる虞がある領域、つまり輝度値が所定輝度値以上となる相対的に高輝度の種別の対象物を含む領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散値の変化に比べて、所定領域の輝度分散値が過剰に増大することで、汚れの有無に応じた輝度分散値の変化を検知することが困難となることを防止することができる。
さらに、請求項4に記載の本発明の撮像装置の異常検知装置によれば、複数回に亘って算出された輝度分散値の平均値が所定閾値を超えたか否かを判定することにより、車両の走行によって変化する車両周辺環境に関わらずに、撮像装置の汚れの有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。
さらに、請求項5に記載の本発明の撮像装置の異常検知装置によれば、車両の状態量が所定状態量である状態で算出された輝度分散値のみに基づき輝度分散値の平均値を設定することで、車両の状態に起因して不適切な値となった輝度分散値に基づいて撮像装置の汚れの有無が検知されてしまうことを防止することができる。
以下、本発明の一実施形態に係る撮像装置の異常検知装置について添付図面を参照しながら説明する。
本実施の形態による撮像装置の異常検知装置は、例えば図1に示すように、撮像装置の異常検知装置を制御するCPU(中央演算装置)を備えた画像処理ユニット1と、遠赤外線を検出可能な2つの赤外線カメラ2R,2Lと、自車両のヨーレートを検出するヨーレートセンサ3と、自車両の走行速度(車速)を検出する車速センサ4と、運転者によるブレーキ操作の有無を検出するブレーキセンサ5と、スピーカ6と、表示装置7とを備えて構成され、例えば、画像処理ユニット1は2つの赤外線カメラ2R,2Lの撮影により得られる自車両周辺の赤外線画像と、各センサ3,4,5により検出される自車両の走行状態に係る検出信号とから、自車両の進行方向前方の歩行者や動物等の移動体を検出し、検出した移動体と自車両との接触が発生する可能性があると判断したときに、スピーカ6または表示装置7を介して警報を出力するようになっている。
なお、表示装置7は、例えば自車両の各種走行状態量を表示する計器類と一体化された表示装置やナビゲーション装置の表示装置、さらにフロントウィンドウにおいて運転者の前方視界を妨げない位置に各種情報を表示するHUD(Head Up Display)7a等を備えて構成されている。
また、画像処理ユニット1は、入力アナログ信号をディジタル信号に変換するA/D変換回路と、ディジタル化した画像信号(輝度値)を記憶する画像メモリと、各種演算処理を行うCPU(中央演算装置)と、CPUが演算途中のデータを記憶するために使用するRAM(Random Access Memory)と、CPUが実行するプログラムやテーブル、マップなどを記憶するROM(Read Only Memory)と、スピーカ6の駆動信号やHUD7a等の表示信号などを出力する出力回路とを備えており、赤外線カメラ2R,2Lおよび各センサ3,4,5から出力される信号は、ディジタル信号に変換されてCPUに入力されるように構成されている。
なお、例えば図2に示すように、赤外線カメラ2R,2Lは、自車両10の前部に、自車両10の車幅方向中心部に対してほぼ対象な位置に配置されており、2つの赤外線カメラ2R,2Lの光軸が互いに平行であって、かつ両者の路面からの高さが等しくなるように固定されている。なお、赤外線カメラ2R,2Lは、対象物の温度が高いほど、出力信号レベルが高くなる(つまり、輝度が増大する)特性を有している。
また、HUD7aは、自車両10のフロントウインドウの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
そして、画像処理ユニット1は、例えば図3に示すように、画像メモリ11と、判定領域設定部12と、車両挙動推定部13と、除外領域設定部14と、輝度分散算出部16と、カメラ汚れ判定部17とを備えて構成され、特に、画像処理ユニット1の車両挙動推定部13には、ヨーレートセンサ3および車速センサ4およびブレーキセンサ5に加えて加速度センサおよびワイパースイッチ(ワイパーSW)等を具備し、各種の車両状態量を検出する車両状態量センサ21から出力される検出信号が入力されていると共に、画像処理ユニット1のカメラ汚れ判定部17には、スピーカ6および表示装置7を具備する報知装置22が接続されている。
この画像処理ユニット1において、画像メモリ11は赤外線カメラ2R(または2L)から受信した赤外線画像をデジタルデータとして記憶する。
判定領域設定部12は、予め定められた赤外線カメラ2R(または2L)の光学設計(例えば、カメラ画角)および設置方向に基づいて、赤外線画像上に所定の判定領域を設定すると共に、必要に応じて、設定した判定領域を車両挙動推定部13による推定結果、例えば赤外線カメラ2R(または2L)の取付位置の位置ずれに起因する光軸の変化等に基づき修正する。
この所定の判定領域は、例えば、図4に示すように、少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む領域とされている。ここで、所定の判定領域として、道路Rおよび道路の境界部BRを含まずに赤外線画像上での上方の背景部Bのみを含む領域を設定すると、赤外線カメラ2R(または2L)の汚れの有無に関わらずに、走行路の変化(例えば道路構造物や樹木等が相対的に少ない郊外路と、道路構造物や樹木等が相対的に多い市街路との変化等)に応じて、判定領域での輝度値の分布状態(例えば、輝度分散値)が変動し、後述する汚れ判定の実行が困難となったり、汚れ判定の判定精度および判定結果に対する信頼度が低下してしまうという問題が生じる。
また、所定の判定領域として、背景部Bおよび道路の境界部BRを含まずに赤外線画像上での下方の道路Rのみを含む領域を設定すると、判定領域での輝度値の変化が過剰に低くなり、後述する汚れ判定の実行が困難となったり、汚れ判定の判定精度および判定結果に対する信頼度が低下してしまうという問題が生じる。
車両挙動推定部13は、車両状態量センサ21から出力される検出信号に基づき、予め設定された赤外線カメラ2R(または2L)の取付位置や設置方向のずれとして、例えば車両進行方向に対する赤外線カメラ2R(または2L)の光軸の横方向のずれを示すパン角や、例えば車両のピッチングにより生じる車両進行方向に対する赤外線カメラ2R(または2L)の光軸の上下方向のずれを示すピッチ角等を算出する。
例えば、車両挙動推定部13は、赤外線画像上にて検知される静止対象物の相対移動軌跡を近似する近似直線LMVを算出する。そして、赤外線カメラ2R(または2L)の光軸を基準とするカメラ座標系(Xc,Yc,Zc)に対して、近似直線LMVをXc−Zc平面に投影した直線とZc軸とのなす角をパン角とし、近似直線LMVをYc−Zc平面に投影した直線とZc軸とのなす角をピッチ角とする。
なお、カメラ座標系(Xc,Yc,Zc)は、例えば下記数式(1)に示すように算出され、自車両10の前部における赤外線カメラ2R,2Lの取り付け位置の中点の位置を原点Oとし、赤外線画像上の座標は、赤外線画像上の中心を原点として水平方向をx方向、垂直方向をy方向として設定されている。また、座標(xc,yc)は、基準画像(例えば、右画像)上の座標(x,y)を、赤外線カメラ2Rの取付位置と、実空間の原点Oとの相対位置関係に基づいて、実空間の原点Oと画像データの中心とを一致させて得た仮想的な画像上の座標に変換して得た座標である。また、下記数式(1)において、自車両10と対象物との距離つまり赤外線カメラ2R,2Lのレンズと対象物との距離(対象物距離)z(m)は、カメラ基線長、つまり赤外線カメラ2R,2Lの各撮像素子の中心位置間の水平距離D(m)と、カメラ焦点距離、つまり赤外線カメラ2R,2Lの各レンズの焦点距離f(m)と、画素ピッチp(m/pixel)と、画素数単位での視差Δd(pixel)とに基づき算出される。
除外領域設定部14は、判定領域設定部12にて設定された判定領域内において、輝度値が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定輝度値以上となる高輝度領域を、後述する汚れ判定の対象領域から除外する。
例えば図5に示すように、除外領域設定部14は赤外線画像上の判定領域内において輝度値が所定輝度値以上となる領域OB1,…,OB6を除外領域として設定する。
また、除外領域設定部14は、物体判定部15により検知された所定の発熱体(例えば、他車両の排気管や自動販売機等)が赤外線画像上の判定領域内に存在する場合には、この発熱体を含む領域を除外領域として設定する。
輝度分散算出部16は、判定領域設定部12にて設定された判定領域内において除外領域設定部14にて設定された除外領域以外の領域に対して、先ず、輝度値に対する度数分布である輝度ヒストグラムを算出し、輝度ヒストグラムの分散(輝度分散)を算出する。
カメラ汚れ判定部17は、例えば所定時間内に亘って輝度分散算出部16により算出された複数の輝度分散の平均値(輝度分散平均値)に基づき、赤外線カメラ2R(または2L)に汚れが発生したか否かを判定する。
例えば、カメラ汚れ判定部17は、算出した輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定分散閾値(例えば、ヒステリシスを有する値等)未満であるか否かを判定する。そして、この判定結果が「YES」の場合には、例えば図6に示すように、赤外線カメラ2R(または2L)の光学系に汚れが発生することで、赤外線画像のコントラスト(明暗差)が低下し、輝度分散値が低下したと判断して、赤外線カメラ2R(または2L)に汚れ有りと判定する。一方、この判定結果が「NO」の場合には、赤外線カメラ2R(または2L)に汚れ無しと判定する。
なお、カメラ汚れ判定部17は、輝度分散平均値を算出する際に、車両状態量センサ21から出力される検出信号に基づき、複数の輝度分散のうちから適宜の輝度分散を選択し、選択した輝度分散のみから輝度分散平均値を算出することが可能とされている。
例えば、カメラ汚れ判定部17は、車両の走行挙動が相対的に安定している状態で算出された輝度分散を選択したり、車速が所定車速以上の状態で算出された輝度分散を選択することにより、例えば相対的に低車速の状態で自車両と先行車両や構造物等との間の距離が相対的に短くなることによって、赤外線画像上において単一の先行車両や構造物等の面積が過剰に増大し、輝度分散が低下してしまうことを抑制することができる。
カメラ汚れ判定部17にて赤外線カメラ2R(または2L)に汚れ有りと判定された場合、例えばスピーカ6を介した警報音や音声等の聴覚的警報や、例えば表示装置7を介した表示等の視覚的警報等が報知装置22から出力される。
なお、カメラ汚れ判定部17は、車両状態量センサ21のワイパースイッチ(ワイパーSW)から出力されるワイパーの作動のON/OFFに係る検出信号に基づき、降雨や降雪等の天候状態に起因して赤外線カメラ2R(または2L)に汚れ有りと判定される状態であるか否かを判定し、この判定結果が「YES」の場合には、報知装置22による報知内容を変更したり、汚れの有無を判定する処理を一時的に停止するようになっている。
本実施の形態による撮像装置の異常検知装置は上記構成を備えており、次に、この撮像装置の異常検知装置の動作、特に、赤外線カメラ2R(または2L)の汚れの有無を判定する処理について添付図面を参照しながら説明する。
まず、図7に示すステップS01においては、赤外線カメラ2R(または2L)から赤外線画像を取得する。
次に、ステップS02においては、取得した赤外線画像上において、少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む所定の判定領域を設定する。
次に、ステップS03においては、設定した所定の判定領域内において、輝度値が所定輝度値以上となる高輝度領域を除外領域として設定する。
次に、ステップS04においては、車速センサ3にて検出される車速Vが所定閾車速Veth以上か否かを判定する。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS05に進む。
そして、ステップS05においては、ヨーレートセンサ4にて検出されたヨーレートωの絶対値が所定閾値Yawth以下であるか否かを判定する。
ステップS05の判定結果が「NO」の場合には、一連の処理を終了する。
一方、ステップS05の判定結果が「YES」の場合には、ステップS06に進む。
そして、ステップS06においては、ブレーキセンサ5にて検出される運転者によるブレーキ操作の有無に係るブレーキSWのオフ状態であるか否かを判定する。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS07に進む。
そして、ステップS07においては、ワイパーSWがオフ状態であるか否かを判定する。
ステップS07の判定結果が「NO」の場合には、一連の処理を終了する。
一方、ステップS07の判定結果が「YES」の場合には、ステップS08に進む。
そして、ステップS08においては、判定領域内において除外領域以外の領域に対して輝度ヒストグラムを算出し、輝度ヒストグラムの分散(輝度分散)を算出する。
次に、ステップS09においては、所定時間内に亘って算出された複数の輝度分散の平均値(輝度分散平均値)を算出する。
次に、ステップS10においては、前回の処理にて赤外線カメラ2R(または2L)に汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS13に進む。
一方、この判定結果が「YES」の場合には、ステップS11に進む。
そして、ステップS11においては、輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL未満であるか否かを判定する。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS12に進む。
そして、ステップS12においては、汚れ判定結果として汚れ有りを設定し、後述するステップS15に進む。
また、ステップS13においては、輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU以上であるか否かを判定する。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS14に進む。
そして、ステップS14においては、汚れ判定結果として汚れ無しを設定し、ステップS15に進む。
そして、ステップS15においては、汚れ判定結果を報知装置22を介して自車両の運転者等に報知し、一連の処理を終了する。
上述したように、本実施の形態による撮像装置の異常検知装置によれば、赤外線画像上における少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む領域を、輝度分散値を算出する所定の判定領域して設定することから、輝度分散値に応じて赤外線カメラ2R,2Lの汚れの有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。
しかも、所定の判定領域の輝度分散値を過剰に増大させる虞がある領域つまり輝度値が所定輝度値以上となる領域、あるいは、例えば所定領域の輝度分散値を過剰に変動させる虞がある種別の対象物(例えば、他車両の排気管や自動販売機等)を含む領域を、除外領域として設定することで、輝度分散値に応じた赤外線カメラ2R,2Lの汚れの有無の検知を適切に行うことができる。
また、複数回に亘って算出された輝度分散値の平均値が所定閾値(下限分散閾値VLまたは上限分散閾値VU)を超えた(下限分散閾値VL未満または上限分散閾値VU以上)か否かを判定することにより、車両の走行によって変化する車両周辺環境に関わらずに、赤外線カメラ2R,2Lの汚れの有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。
しかも、車両の状態量が所定状態量(例えば、車速Vが所定閾車速Veth以上、かつ、ヨーレートωの絶対値が所定閾値Yawth以下、かつ、ブレーキSWのオフ状態)である状態で算出された輝度分散値のみに基づき輝度分散値の平均値を算出することで、車両の状態に起因して不適切な値となった輝度分散値に基づいて赤外線カメラ2R,2Lの汚れの有無が検知されてしまうことを防止することができる。
なお、上述した実施の形態においては、輝度分散平均値が所定分散閾値未満であるか否かに応じて、赤外線カメラ2R(または2L)の汚れの有無を判定したが、これに限定されず、例えば、所定の基準輝度分散値(例えば、輝度分散平均値)と、輝度分散算出部16により算出された輝度分散との差分が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定の閾差分値未満であるか否かを判定し、この判定結果が「NO」の場合には、赤外線カメラ2R(または2L)に汚れ有りと判定し、一方、この判定結果が「YES」の場合には、赤外線カメラ2R(または2L)に汚れ無しと判定してもよい。
なお、上述した実施の形態においては、各赤外線カメラ2R,2L毎に独立して汚れ判定を実行したが、これに限定されず、例えば赤外線カメラ2R(以下、第1赤外線カメラ2Rと呼ぶ)に対する判定結果と赤外線カメラ2L(以下、第2赤外線カメラ2Lと呼ぶ)に対する判定結果とに基づき、汚れ判定を行ってもよい。
この変形例においては、例えば図8に示すように、画像処理ユニット1は、2つの第1および第2赤外線カメラ2R,2Lに対応して、画像メモリ11R,11Lと、判定領域設定部12R,12Lと、車両挙動推定部13と、除外領域設定部14R,14Lと、物体判定部15と、輝度分散算出部16R,16Lと、カメラ汚れ判定部17R,17Lと、カメラ汚れ比較判定部18と、天候判定部19を備えて構成され、特に、画像処理ユニット1の車両挙動推定部13には、ヨーレートセンサ3および車速センサ4およびブレーキセンサ5に加えて加速度センサおよびワイパースイッチ(ワイパーSW)等を具備し、各種の車両状態量を検出する車両状態量センサ21から出力される検出信号が入力されていると共に、画像処理ユニット1のカメラ汚れ判定部17には、スピーカ6および表示装置7を具備する報知装置22が接続されている。
この画像処理ユニット1において、各画像メモリ11R,11Lは各赤外線カメラ2R,2Lから受信した赤外線画像をデジタルデータとして記憶する。
各判定領域設定部12R,12Lは、予め定められた各赤外線カメラ2R,2Lの光学設計(例えば、カメラ画角)および設置方向に基づいて、赤外線画像上に所定の判定領域を設定すると共に、必要に応じて、設定した判定領域を車両挙動推定部13による推定結果、例えば各赤外線カメラ2R,2Lの取付位置の位置ずれに起因する光軸の変化等に基づき修正する。
車両挙動推定部13は、車両状態量センサ21から出力される検出信号に基づき、予め設定された各赤外線カメラ2R,2Lの取付位置や設置方向のずれとして、例えば車両進行方向に対する各赤外線カメラ2R,2Lの光軸の横方向のずれを示すパン角や、例えば車両のピッチングにより生じる車両進行方向に対する各赤外線カメラ2R,2Lの光軸の上下方向のずれを示すピッチ角等を、各赤外線カメラ2R,2L毎に算出する。
例えば、車両挙動推定部13は、赤外線画像上にて検知される静止対象物の相対移動軌跡を近似する近似直線LMVを算出する。そして、各赤外線カメラ2R,2Lの光軸を基準とするカメラ座標系(Xc,Yc,Zc)に対して、近似直線LMVをXc−Zc平面に投影した直線とZc軸とのなす角をパン角とし、近似直線LMVをYc−Zc平面に投影した直線とZc軸とのなす角をピッチ角とする。
なお、カメラ座標系(Xc,Yc,Zc)は、例えば上記数式(1)に示すように算出され、自車両10の前部における赤外線カメラ2R,2Lの取り付け位置の中点の位置を原点Oとし、赤外線画像上の座標は、赤外線画像上の中心を原点として水平方向をx方向、垂直方向をy方向として設定されている。また、座標(xc,yc)は、基準画像(例えば、右画像)上の座標(x,y)を、赤外線カメラ2Rの取付位置と、実空間の原点Oとの相対位置関係に基づいて、実空間の原点Oと画像データの中心とを一致させて得た仮想的な画像上の座標に変換して得た座標である。また、下記数式(1)において、自車両10と対象物との距離つまり赤外線カメラ2R,2Lのレンズと対象物との距離(対象物距離)z(m)は、カメラ基線長、つまり赤外線カメラ2R,2Lの各撮像素子の中心位置間の水平距離D(m)と、カメラ焦点距離、つまり赤外線カメラ2R,2Lの各レンズの焦点距離f(m)と、画素ピッチp(m/pixel)と、画素数単位での視差Δd(pixel)とに基づき算出される。
各除外領域設定部14R,14Lは、各判定領域設定部12R、12Lにて設定された各判定領域内において、輝度値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定輝度値以上となる高輝度領域を、後述する汚れ判定の対象領域から除外する。
また、各除外領域設定部14R,14Lは、物体判定部15により検知された所定の発熱体(例えば、他車両の排気管や自動販売機等)が各赤外線画像上の判定領域内に存在する場合には、この発熱体を含む領域を除外領域として設定する。
各輝度分散算出部16R,16Lは、各判定領域設定部12R,12Lにて設定された各判定領域内において各除外領域設定部14R,14Lにて設定された除外領域以外の領域に対して、先ず、輝度値に対する度数分布である輝度ヒストグラムを算出し、輝度ヒストグラムの分散(輝度分散)を算出する。
各カメラ汚れ判定部17R,17Lは、例えば所定時間内に亘って各輝度分散算出部16R,16Lにより算出された複数の輝度分散の平均値(輝度分散平均値)に基づき、各赤外線カメラ2R,2Lに汚れが発生したか否かを判定する。
例えば、各カメラ汚れ判定部17R,17Lは、算出した輝度分散平均値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定分散閾値(例えば、ヒステリシスを有する値等)未満であるか否かを、各赤外線カメラ2R,2L毎に独立して判定する。そして、この判定結果が「YES」の場合には、各赤外線カメラ2R,2Lの光学系に汚れが発生することで赤外線画像のコントラスト(明暗差)が低下することに伴い輝度分散値が低下したと判断して、各赤外線カメラ2R,2Lの汚れ判定結果として汚れ有りと判定する。一方、この判定結果が「NO」の場合には、各赤外線カメラ2R,2Lの汚れ判定結果として汚れ無しと判定する。
なお、各カメラ汚れ判定部17R,17Lは、輝度分散平均値を算出する際に、車両状態量センサ21から出力される検出信号に基づき、複数の輝度分散のうちから適宜の輝度分散を選択し、選択した輝度分散のみから輝度分散平均値を算出することが可能とされている。
例えば、各カメラ汚れ判定部17R,17Lは、車両の走行挙動が相対的に安定している状態で算出された輝度分散を選択したり、車速が所定車速以上の状態で算出された輝度分散を選択することにより、例えば相対的に低車速の状態で自車両と先行車両や構造物等との間の相対距離が相対的に短くなることによって、赤外線画像上において単一の先行車両や構造物等の面積が過剰に増大し、輝度分散が低下してしまうことを抑制することができる。
カメラ汚れ比較判定部18は、各赤外線カメラ2R,2L毎に算出した輝度分散平均値を比較して、各赤外線カメラ2R,2Lに汚れが発生したか否かを判定する。
例えば、カメラ汚れ比較判定部18は、第1赤外線カメラ2Rの輝度分散平均値と第2赤外線カメラ2Lの輝度分散平均値との差分が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定差分閾値(例えば、ヒステリシスを有する値等)未満であるか否かを判定する。そして、この判定結果が「YES」の場合には、第1または第2赤外線カメラ2R,2Lの光学系に汚れが発生することで、一方の赤外線画像のコントラスト(明暗差)が他方の赤外線画像のコントラストに比べて相対的に低下することに伴い、輝度分散平均値の差分が増大したと判断して、汚れ比較判定結果として、第1および第2赤外線カメラ2R,2Lのうち一方は汚れ有り、他方は汚れ無しと判定する。
カメラ汚れ判定部17にて各赤外線カメラ2R,2Lに汚れ有りと判定された場合、または、カメラ汚れ比較判定部18にて第1赤外線カメラ2Rまたは第2赤外線カメラ2Lのうち何れか一方に汚れ有りと判定された場合、例えばスピーカ6を介した警報音や音声等の聴覚的警報や、例えば表示装置7を介した表示等の視覚的警報等が報知装置22から出力される。
なお、各カメラ汚れ判定部17R,17Lおよびカメラ汚れ比較判定部18は、天候判定部19の判定結果、例えば車両状態量センサ21のワイパースイッチ(ワイパーSW)から出力されるワイパーの作動のON/OFFに係る検出信号に基づく降雨や降雪等の天候状態に対する判定結果に応じて、各赤外線カメラ2R,2Lに汚れ有りと判定される状態であるか否かを判定し、この判定結果が「YES」の場合には、報知装置22による報知内容を変更したり、汚れの有無を判定する処理を一時的に停止するようになっている。
この変形例による撮像装置の異常検知装置は上記構成を備えており、次に、この撮像装置の異常検知装置の動作、特に、各赤外線カメラ2R,2Lの汚れの有無を判定する処理について添付図面を参照しながら説明する。
まず、図9に示すステップS21においては、各赤外線カメラ2R,2Lから赤外線画像を取得する。
次に、ステップS22においては、取得した各赤外線画像上において、少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む所定の判定領域を設定する。
次に、ステップS23においては、所定の判定領域内において、輝度値が所定輝度値以上となる高輝度領域を除外領域として設定する。
次に、ステップS24においては、各判定領域内において除外領域以外の領域に対して輝度ヒストグラムを算出し、輝度ヒストグラムの分散(輝度分散)を算出する。
次に、ステップS25においては、各赤外線カメラ2R,2L毎に所定時間内に亘って算出された複数の輝度分散の平均値(輝度分散平均値)を算出する。
次に、ステップS26においては、前回の処理にて第1赤外線カメラ2Rに対する汚れ判定結果として汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS29に進む。
一方、この判定結果が「YES」の場合には、ステップS27に進む。
そして、ステップS27においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL1未満であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS31に進む。
一方、この判定結果が「YES」の場合には、ステップS28に進む。
そして、ステップS28においては、第1赤外線カメラ2Rの汚れ判定結果として汚れ有りを設定し、後述するステップS31に進む。
また、ステップS29においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU1以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS31に進む。
一方、この判定結果が「YES」の場合には、ステップS30に進む。
そして、ステップS30においては、第1赤外線カメラ2Rの汚れ判定結果として汚れ無しを設定し、ステップS31に進む。
そして、ステップS31においては、前回の処理にて汚れ比較判定結果として第1赤外線カメラ2Rの汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS35に進む。
一方、この判定結果が「YES」の場合には、ステップS32に進む。
ステップS32においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL2未満であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS38に進む。
一方、この判定結果が「YES」の場合には、ステップS33に進む。
そして、ステップS33においては、第2赤外線カメラ2Lの輝度分散平均値から第1赤外線カメラ2Rの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定の上限差分閾値Vdmax以上か否かを判定する。
この判定結果が「NO」の場合には、後述するステップS38に進む。
一方、この判定結果が「YES」の場合には、ステップS34に進む。
そして、ステップS34においては、第1赤外線カメラ2Rの汚れ比較判定結果として汚れ有りを設定し、後述するステップS38に進む。
また、ステップS35においては、第2赤外線カメラ2Lの輝度分散平均値から第1赤外線カメラ2Rの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定の下限差分閾値Vdmin未満か否かを判定する。
この判定結果が「NO」の場合には、後述するステップS37に進む。
一方、この判定結果が「YES」の場合には、ステップS36に進む。
そして、ステップS36においては、第1赤外線カメラ2Rの汚れ比較判定結果として汚れ無しを設定し、後述するステップS38に進む。
また、ステップS37においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU2以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS38に進む。
一方、この判定結果が「YES」の場合には、上述したステップS36に進む。
次に、ステップS38においては、前回の処理にて第2赤外線カメラ2Lに対する汚れ判定結果として汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS41に進む。
一方、この判定結果が「YES」の場合には、ステップS39に進む。
そして、ステップS39においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL1未満であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS43に進む。
一方、この判定結果が「YES」の場合には、ステップS40に進む。
そして、ステップS40においては、第2赤外線カメラ2Lの汚れ判定結果として汚れ有りを設定し、後述するステップS43に進む。
また、ステップS41においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU1以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS43に進む。
一方、この判定結果が「YES」の場合には、ステップS42に進む。
そして、ステップS42においては、第2赤外線カメラ2Lの汚れ判定結果として汚れ無しを設定し、ステップS43に進む。
そして、ステップS43においては、前回の処理にて汚れ比較判定結果として第2赤外線カメラ2Lの汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS47に進む。
一方、この判定結果が「YES」の場合には、ステップS44に進む。
ステップS44においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL2未満であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS50に進む。
一方、この判定結果が「YES」の場合には、ステップS45に進む。
そして、ステップS45においては、第1赤外線カメラ2Rの輝度分散平均値から第2赤外線カメラ2Lの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定の上限差分閾値Vdmax以上か否かを判定する。
この判定結果が「NO」の場合には、後述するステップS50に進む。
一方、この判定結果が「YES」の場合には、ステップS46に進む。
そして、ステップS26においては、第2赤外線カメラ2Lの汚れ比較判定結果として汚れ有りを設定し、後述するステップS50に進む。
また、ステップS47においては、第1赤外線カメラ2Rの輝度分散平均値から第2赤外線カメラ2Lの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定の下限差分閾値Vdmin未満か否かを判定する。
この判定結果が「NO」の場合には、後述するステップS49に進む。
一方、この判定結果が「YES」の場合には、ステップS48に進む。
そして、ステップS48においては、第2赤外線カメラ2Lの汚れ比較判定結果として汚れ無しを設定し、後述するステップS50に進む。
また、ステップS49においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU2以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS50に進む。
一方、この判定結果が「YES」の場合には、上述したステップS48に進む。
そして、ステップS50においては、第1赤外線カメラ2Rの汚れ判定結果と、第1赤外線カメラ2Rの汚れ比較判定結果と、第2赤外線カメラ2Lの汚れ判定結果と、第2赤外線カメラ2Lの汚れ比較判定結果とのうち、少なくとも何れか1つの判定結果にて汚れ有りと判定されたか否かを判定する。
この判定結果が「YES」の場合には、ステップS51に進み、このステップS51において、汚れ判定結果に汚れ有りを設定、つまり各第1赤外線カメラ2R,2Lの少なくとも何れか1つに汚れ有りとして、後述するステップS54に進む。
一方、この判定結果が「NO」の場合には、ステップS52に進む。
ステップS52においては、第1赤外線カメラ2Rの汚れ判定結果と、第1赤外線カメラ2Rの汚れ比較判定結果と、第2赤外線カメラ2Lの汚れ判定結果と、第2赤外線カメラ2Lの汚れ比較判定結果とのすべての判定結果にて汚れ無しと判定されたか否かを判定する。
この判定結果が「YES」の場合には、ステップS53に進み、このステップS33において、汚れ判定結果に汚れ無しを設定、つまり各第1赤外線カメラ2R,2Lに汚れ無しとして、後述するステップS54に進む。
一方、この判定結果が「NO」の場合には、一連の処理を終了する。
そして、ステップS54においては、汚れ判定結果を報知装置22を介して自車両の運転者等に報知し、一連の処理を終了する。
上述したように、この変形例による撮像装置の異常検知装置によれば、各赤外線カメラ2R,2Lの設置状態に関わらずに各赤外線カメラ2R,2Lの異常の有無を相対的に検知することができる。さらに、各複数の画像の輝度分散平均値に加えて、各複数の画像同士間の輝度分散平均値の差分に応じて撮像装置の異常の有無を検知することから、例えば各複数の画像同士間の輝度分散平均値の差分が所定値以下であって、対応する各赤外線カメラ2R,2Lが正常であると判定される場合であっても、複数の画像の各輝度分散平均値が所定値未満である場合には、対応する赤外線カメラ2R,2Lが異常状態であると判定することができる。
本発明の実施の形態に係る撮像装置の異常検知装置の構成を示すブロック図である。 図1に示す撮像装置の異常検知装置を搭載した車両を示す図である。 図1に示す画像処理ユニットの構成図である。 赤外線画像上に設定した所定の判定領域の一例を示す図である。 図4に示す判定領域内に設定した除外領域の一例を示す図である。 汚れの有無に応じた赤外線画像と輝度ヒストグラムとの変化の一例を示す図である。 図1に示す撮像装置の異常検知装置の動作を示すフローチャートである。 本実施形態の変形例に係る画像処理ユニットに構成図である。 本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。 本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。 本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。 本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。
符号の説明
1 画像処理ユニット
2R,2L 赤外線カメラ(撮像装置)
3 ヨーレートセンサ
4 車速センサ
5 ブレーキセンサ
6 スピーカ
7 表示装置
10 自車両
12 判定領域設定部(輝度値算出手段、所定領域設定手段
14 除外領域設定部(領域除外手段)
15 物体判定部(対象物抽出手段、対象物種別判定手段)
16 輝度分散算出部(輝度分散値算出手段)
17 カメラ汚れ判定部(異常検知手段、基準輝度分散値設定手段、輝度分散値差分算出手段、第2の異常検知手段、輝度分散平均値算出手段)
21 車両状態量センサ(車両状態量検知手段)

Claims (5)

  1. 車両に搭載されて車両周辺を撮像する撮像装置の異常の有無を検知する撮像装置の異常検知装置であって、
    前記撮像装置の撮像により得られた画像に所定領域を設定する所定領域設定手段と、
    前記所定領域設定手段により設定された前記所定領域に対して前記画像から得られる輝度値を用いて輝度分散の平均値を算出する輝度分散平均値算出手段と、
    前記輝度分散平均値算出手段により算出された前記輝度分散の平均が所定分散閾値より低いと判定されたときに前記撮像装置の異常であると検知する異常検知手段とを備え、
    前記所定領域設定手段は、少なくとも道路境界部を含む領域を前記所定領域として設定し、前記所定領域設定手段により設定された前記所定領域内において前記輝度分散平均値算出手段による輝度分散の平均値の算出処理の実行対象外とする除外領域を設定する領域除外手段を備え、
    前記領域除外手段は、前記輝度値算出手段により算出された輝度値が所定輝度値以上となる領域を前記除外領域として設定し、
    前記輝度分散平均値算出手段は、前記所定領域設定手段により設定された前記所定領域のうち前記領域除外手段により設定された前記除外領域以外の領域に対して輝度分散平均値を算出することを特徴とする撮像装置の異常検知装置。
  2. 車両に搭載されて車両周辺を撮像する撮像装置の異常の有無を検知する撮像装置の異常検知装置であって、
    前記撮像装置の撮像により得られた画像に所定領域を設定する所定領域設定手段と、
    前記所定領域設定手段により設定された前記所定領域に対して前記画像から得られる輝度値を用いて輝度分散値を算出する輝度分散値算出手段と、
    前記輝度分散値算出手段により算出された前記輝度分散値に応じて前記撮像装置の異常の有無を検知する異常検知手段と、
    前記撮像装置の撮像により得られた画像内の対象物を抽出する対象物抽出手段と、
    前記対象物抽出手段により抽出された前記対象物の種別を判定する対象物種別判定手段とを備え、
    前記所定領域設定手段は、少なくとも道路境界部を含む領域を前記所定領域として設定し、前記所定領域設定手段により設定された前記所定領域内において前記輝度分散値算出手段による輝度分散値の算出処理の実行対象外とする除外領域を設定する領域除外手段を備え、
    前記領域除外手段は、前記対象物種別判定手段の判定結果に基づいて前記除外領域を設定し、
    前記輝度分散値算出手段は、前記所定領域設定手段により設定された前記所定領域のうち前記領域除外手段により設定された前記除外領域以外の領域に対して輝度分散値を算出することを特徴とする撮像装置の異常検知装置。
  3. 前記領域除外手段は、前記対象物種別判定手段の判定結果において、相対的に高輝度の対象物の種別であると判定された対象物の前記画像上の存在領域を前記除外領域として設定することを特徴とする請求項2に記載の撮像装置の異常検知装置。
  4. 前記輝度分散値算出手段により複数回に亘って算出された複数の前記輝度分散値の平均値を算出する輝度分散平均値算出手段を備え、
    前記異常検知手段は、前記輝度分散平均値算出手段により算出された前記平均値が所定閾値を超えたか否かに応じて前記撮像装置の異常の有無を検知することを特徴とする請求項2または請求項3の何れかひとつに記載の撮像装置の異常検知装置。
  5. 前記撮像装置が搭載された車両の状態量を検知する車両状態量検知手段を備え、
    前記輝度分散平均値算出手段は、前記車両状態量検知手段により検知された車両の状態量が所定状態量である状態で前記輝度分散値算出手段により算出された前記輝度分散値のみに基づき、前記平均値を設定することを特徴とする請求項4に記載の撮像装置の異常検知装置。
JP2004347820A 2004-11-30 2004-11-30 撮像装置の異常検知装置 Expired - Fee Related JP4130434B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004347820A JP4130434B2 (ja) 2004-11-30 2004-11-30 撮像装置の異常検知装置
US11/287,870 US7580548B2 (en) 2004-11-30 2005-11-28 Abnormality detecting apparatus for imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004347820A JP4130434B2 (ja) 2004-11-30 2004-11-30 撮像装置の異常検知装置

Publications (2)

Publication Number Publication Date
JP2006157739A JP2006157739A (ja) 2006-06-15
JP4130434B2 true JP4130434B2 (ja) 2008-08-06

Family

ID=36567427

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004347820A Expired - Fee Related JP4130434B2 (ja) 2004-11-30 2004-11-30 撮像装置の異常検知装置

Country Status (2)

Country Link
US (1) US7580548B2 (ja)
JP (1) JP4130434B2 (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4853160B2 (ja) * 2006-08-02 2012-01-11 株式会社デンソー 車両検出装置及びヘッドランプ制御装置
JP5223675B2 (ja) * 2006-08-18 2013-06-26 日本電気株式会社 車両検知装置,車両検知方法並びに車両検知プログラム
JP4914234B2 (ja) * 2007-01-31 2012-04-11 富士重工業株式会社 先行車両検出装置
EP2018047A1 (en) * 2007-06-15 2009-01-21 IEE INTERNATIONAL ELECTRONICS & ENGINEERING S.A. Method for contamination detection in a TOF range camera
EP2321796B1 (en) * 2008-08-08 2016-12-28 Thomson Licensing Method and apparatus for detecting dark noise artifacts
JP4858574B2 (ja) * 2009-05-19 2012-01-18 トヨタ自動車株式会社 物体検出装置
JP5039765B2 (ja) * 2009-09-17 2012-10-03 日立オートモティブシステムズ株式会社 車両制御装置
EP2352013B1 (en) * 2010-02-01 2013-01-23 Autoliv Development AB A vision system and method for a motor vehicle
DE102010002310A1 (de) * 2010-02-24 2011-08-25 Audi Ag, 85057 Verfahren und Vorrichtung zur Freisichtprüfung einer Kamera für ein automobiles Umfeld
JP5902049B2 (ja) * 2012-06-27 2016-04-13 クラリオン株式会社 レンズ白濁状態診断装置
JP6117634B2 (ja) 2012-07-03 2017-04-19 クラリオン株式会社 レンズ付着物検知装置、レンズ付着物検知方法、および、車両システム
JP2014011785A (ja) * 2012-07-03 2014-01-20 Clarion Co Ltd 車載カメラ汚れ除去装置の診断装置、診断方法及び車両システム
CN104509101B (zh) * 2012-07-27 2017-12-01 日产自动车株式会社 三维物体检测装置和三维物体检测方法
WO2014017317A1 (ja) * 2012-07-27 2014-01-30 日産自動車株式会社 立体物検出装置及び異物検出装置
US10678259B1 (en) * 2012-09-13 2020-06-09 Waymo Llc Use of a reference image to detect a road obstacle
JP6393189B2 (ja) * 2012-11-27 2018-09-19 クラリオン株式会社 車載画像処理装置
JP6178580B2 (ja) * 2013-01-28 2017-08-09 富士通テン株式会社 物体検出装置、物体検出システム及び物体検出方法
US9967481B2 (en) * 2013-03-13 2018-05-08 Intel Corporation Techniques for image sensor pixel correction
KR102066290B1 (ko) * 2013-08-30 2020-01-14 현대모비스 주식회사 차량의 영상인식장치 및 그 방법
WO2017180937A1 (en) * 2016-04-15 2017-10-19 Lion Group, Inc. Imaging system for fire fighting training
US10339812B2 (en) 2017-03-02 2019-07-02 Denso International America, Inc. Surrounding view camera blockage detection
US10623640B2 (en) 2017-03-17 2020-04-14 Uurmi Systems Pvt Ltd Method and system for detection of contaminants present on a lens of an imaging device
JP6678844B2 (ja) 2018-02-16 2020-04-08 三菱電機株式会社 異常検出装置及び異常検出方法
JP7200572B2 (ja) * 2018-09-27 2023-01-10 株式会社アイシン 付着物検出装置
US11790670B2 (en) 2020-03-18 2023-10-17 Honda Motor Co., Ltd. Apparatus, method, and program for determining abnormality in internal devices
JP7319597B2 (ja) * 2020-09-23 2023-08-02 トヨタ自動車株式会社 車両運転支援装置
US11715305B1 (en) * 2022-11-30 2023-08-01 Amitha Nandini Mandava Traffic detection system using machine vision

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5174333A (en) * 1974-12-23 1976-06-28 Honda Motor Co Ltd Sharyoni okeru keihosochi
JP3456215B2 (ja) * 1992-07-06 2003-10-14 株式会社ニコン カメラの測光装置
JPH08313632A (ja) 1995-05-19 1996-11-29 Omron Corp 警報発生装置および方法,ならびにこの警報発生装置を搭載した車両
JP3566546B2 (ja) * 1998-04-01 2004-09-15 Kddi株式会社 画像の品質異常検出方法および装置
JP4135123B2 (ja) 1998-05-13 2008-08-20 日産自動車株式会社 表示処理装置
JP3716623B2 (ja) 1998-07-09 2005-11-16 日産自動車株式会社 温体検出装置
JP3727798B2 (ja) 1999-02-09 2005-12-14 株式会社東芝 画像監視システム
JP3515926B2 (ja) 1999-06-23 2004-04-05 本田技研工業株式会社 車両の周辺監視装置
JP2001211449A (ja) 2000-01-27 2001-08-03 Honda Motor Co Ltd 車両用画像認識装置
JP2001211466A (ja) 2000-01-27 2001-08-03 Toshiba Corp 自己診断機能を有する画像処理システム
JP2001351200A (ja) 2000-06-09 2001-12-21 Nissan Motor Co Ltd 車載用物体検知装置
JP3780922B2 (ja) * 2001-11-30 2006-05-31 日産自動車株式会社 道路白線認識装置
JP4104867B2 (ja) 2002-01-18 2008-06-18 本田技研工業株式会社 ナイトビジョンシステム
JP3901573B2 (ja) * 2002-04-25 2007-04-04 富士通テン株式会社 画像認識システムにおける異常の診断装置

Also Published As

Publication number Publication date
US20060115121A1 (en) 2006-06-01
JP2006157739A (ja) 2006-06-15
US7580548B2 (en) 2009-08-25

Similar Documents

Publication Publication Date Title
JP4130435B2 (ja) 撮像装置の異常検知装置
JP4130434B2 (ja) 撮像装置の異常検知装置
US11308720B2 (en) Vehicular imaging system
US7957559B2 (en) Apparatus and system for recognizing environment surrounding vehicle
JP4539415B2 (ja) 画像処理装置
JP5421072B2 (ja) 接近物体検知システム
JP5022609B2 (ja) 撮像環境認識装置
JP5637302B2 (ja) 走行支援装置及びその隣接車両検出方法
JP5541412B2 (ja) 走行支援装置及びその雨滴検出方法
WO2007111220A1 (ja) 道路区画線検出装置
JP3312729B2 (ja) フェールセーフ機能を有する車外監視装置
JP4980970B2 (ja) 撮像手段の調整装置および物体検出装置
WO2011016257A1 (ja) 車両用距離算出装置
JP3882304B2 (ja) 自動走行用自車位置検出装置
JP3729005B2 (ja) 車両の後方監視装置
JP3532896B2 (ja) スミア検出方法及びこのスミア検出方法を用いた画像処理装置
JP4040620B2 (ja) 車両周辺監視装置
JP6785172B2 (ja) 車両用映像表示装置
JP2635232B2 (ja) 車間距離検出装置
US11182626B2 (en) Attached object detection apparatus
JP2004343303A (ja) 車載カメラの露光制御装置
JP2006040165A (ja) 障害物検出装置及び障害物検出方法
JP2021086317A (ja) 信号機認識方法及び信号機認識装置
JP2022123153A (ja) ステレオ画像処理装置及びステレオ画像処理方法
JPH04262500A (ja) 車間距離検出装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080403

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080513

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080521

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110530

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110530

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130530

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130530

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140530

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees