JP4130434B2 - 撮像装置の異常検知装置 - Google Patents
撮像装置の異常検知装置 Download PDFInfo
- Publication number
- JP4130434B2 JP4130434B2 JP2004347820A JP2004347820A JP4130434B2 JP 4130434 B2 JP4130434 B2 JP 4130434B2 JP 2004347820 A JP2004347820 A JP 2004347820A JP 2004347820 A JP2004347820 A JP 2004347820A JP 4130434 B2 JP4130434 B2 JP 4130434B2
- Authority
- JP
- Japan
- Prior art keywords
- luminance
- area
- predetermined
- value
- average value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/30—Transforming light or analogous information into electric information
- H04N5/33—Transforming infrared radiation
Description
本発明は上記事情に鑑みてなされたもので、装置構成が複雑化することを防止しつつ、撮像装置の異常状態(例えば、光学系の汚れ等)の有無を容易に検知することが可能な撮像装置の異常検知装置を提供することを目的としている。
さらに、所定領域の輝度分散値を算出する際に不適切であると判断される領域を除外することで、輝度分散値に応じた撮像装置の異常の有無の検知を適切に行うことができる。例えば所定領域の輝度分散値を過剰に増大させる虞がある領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散値の変化に比べて、所定領域の輝度分散値が過剰に増大することで、汚れの有無に応じた輝度分散値の変化を検知することが困難となることを防止することができる。
さらに、例えば所定領域の輝度分散値を過剰に変動させる虞がある種別の対象物を含む領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散値の変化に比べて、所定領域の輝度分散値が過剰に変動することで、汚れの有無に応じた輝度分散値の変化を検知することが困難となることを防止することができる。
さらに、所定領域の輝度分散の平均値を算出する際に不適切であると判断される領域を除外することで、輝度分散の平均値に応じた撮像装置の異常の有無の検知を適切に行うことができる。
さらに、所定領域の輝度分散の平均値を過剰に増大させる虞がある領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散の平均値の変化に比べて、所定領域の輝度分散の平均値が過剰に増大することで、汚れの有無に応じた輝度分散の平均値の変化を検知することが困難となることを防止することができる。
さらに、所定領域の輝度分散値を算出する際に不適切であると判断される領域を除外することで、輝度分散値に応じた撮像装置の異常の有無の検知を適切に行うことができる。
さらに、例えば所定領域の輝度分散値を過剰に変動させる虞がある種別の対象物を含む領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散値の変化に比べて、所定領域の輝度分散値が過剰に変動することで、汚れの有無に応じた輝度分散値の変化を検知することが困難となることを防止することができる。
さらに、請求項3に記載の本発明の撮像装置の異常検知装置によれば、所定領域の輝度分散値を過剰に増大させる虞がある領域、つまり輝度値が所定輝度値以上となる相対的に高輝度の種別の対象物を含む領域を除外領域として設定することで、撮像装置の汚れの有無に応じた輝度分散値の変化に比べて、所定領域の輝度分散値が過剰に増大することで、汚れの有無に応じた輝度分散値の変化を検知することが困難となることを防止することができる。
さらに、請求項5に記載の本発明の撮像装置の異常検知装置によれば、車両の状態量が所定状態量である状態で算出された輝度分散値のみに基づき輝度分散値の平均値を設定することで、車両の状態に起因して不適切な値となった輝度分散値に基づいて撮像装置の汚れの有無が検知されてしまうことを防止することができる。
本実施の形態による撮像装置の異常検知装置は、例えば図1に示すように、撮像装置の異常検知装置を制御するCPU(中央演算装置)を備えた画像処理ユニット1と、遠赤外線を検出可能な2つの赤外線カメラ2R,2Lと、自車両のヨーレートを検出するヨーレートセンサ3と、自車両の走行速度(車速)を検出する車速センサ4と、運転者によるブレーキ操作の有無を検出するブレーキセンサ5と、スピーカ6と、表示装置7とを備えて構成され、例えば、画像処理ユニット1は2つの赤外線カメラ2R,2Lの撮影により得られる自車両周辺の赤外線画像と、各センサ3,4,5により検出される自車両の走行状態に係る検出信号とから、自車両の進行方向前方の歩行者や動物等の移動体を検出し、検出した移動体と自車両との接触が発生する可能性があると判断したときに、スピーカ6または表示装置7を介して警報を出力するようになっている。
なお、表示装置7は、例えば自車両の各種走行状態量を表示する計器類と一体化された表示装置やナビゲーション装置の表示装置、さらにフロントウィンドウにおいて運転者の前方視界を妨げない位置に各種情報を表示するHUD(Head Up Display)7a等を備えて構成されている。
また、HUD7aは、自車両10のフロントウインドウの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
判定領域設定部12は、予め定められた赤外線カメラ2R(または2L)の光学設計(例えば、カメラ画角)および設置方向に基づいて、赤外線画像上に所定の判定領域を設定すると共に、必要に応じて、設定した判定領域を車両挙動推定部13による推定結果、例えば赤外線カメラ2R(または2L)の取付位置の位置ずれに起因する光軸の変化等に基づき修正する。
この所定の判定領域は、例えば、図4に示すように、少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む領域とされている。ここで、所定の判定領域として、道路Rおよび道路の境界部BRを含まずに赤外線画像上での上方の背景部Bのみを含む領域を設定すると、赤外線カメラ2R(または2L)の汚れの有無に関わらずに、走行路の変化(例えば道路構造物や樹木等が相対的に少ない郊外路と、道路構造物や樹木等が相対的に多い市街路との変化等)に応じて、判定領域での輝度値の分布状態(例えば、輝度分散値)が変動し、後述する汚れ判定の実行が困難となったり、汚れ判定の判定精度および判定結果に対する信頼度が低下してしまうという問題が生じる。
また、所定の判定領域として、背景部Bおよび道路の境界部BRを含まずに赤外線画像上での下方の道路Rのみを含む領域を設定すると、判定領域での輝度値の変化が過剰に低くなり、後述する汚れ判定の実行が困難となったり、汚れ判定の判定精度および判定結果に対する信頼度が低下してしまうという問題が生じる。
例えば、車両挙動推定部13は、赤外線画像上にて検知される静止対象物の相対移動軌跡を近似する近似直線LMVを算出する。そして、赤外線カメラ2R(または2L)の光軸を基準とするカメラ座標系(Xc,Yc,Zc)に対して、近似直線LMVをXc−Zc平面に投影した直線とZc軸とのなす角をパン角とし、近似直線LMVをYc−Zc平面に投影した直線とZc軸とのなす角をピッチ角とする。
なお、カメラ座標系(Xc,Yc,Zc)は、例えば下記数式(1)に示すように算出され、自車両10の前部における赤外線カメラ2R,2Lの取り付け位置の中点の位置を原点Oとし、赤外線画像上の座標は、赤外線画像上の中心を原点として水平方向をx方向、垂直方向をy方向として設定されている。また、座標(xc,yc)は、基準画像(例えば、右画像)上の座標(x,y)を、赤外線カメラ2Rの取付位置と、実空間の原点Oとの相対位置関係に基づいて、実空間の原点Oと画像データの中心とを一致させて得た仮想的な画像上の座標に変換して得た座標である。また、下記数式(1)において、自車両10と対象物との距離つまり赤外線カメラ2R,2Lのレンズと対象物との距離(対象物距離)z(m)は、カメラ基線長、つまり赤外線カメラ2R,2Lの各撮像素子の中心位置間の水平距離D(m)と、カメラ焦点距離、つまり赤外線カメラ2R,2Lの各レンズの焦点距離f(m)と、画素ピッチp(m/pixel)と、画素数単位での視差Δd(pixel)とに基づき算出される。
例えば図5に示すように、除外領域設定部14は赤外線画像上の判定領域内において輝度値が所定輝度値以上となる領域OB1,…,OB6を除外領域として設定する。
また、除外領域設定部14は、物体判定部15により検知された所定の発熱体(例えば、他車両の排気管や自動販売機等)が赤外線画像上の判定領域内に存在する場合には、この発熱体を含む領域を除外領域として設定する。
カメラ汚れ判定部17は、例えば所定時間内に亘って輝度分散算出部16により算出された複数の輝度分散の平均値(輝度分散平均値)に基づき、赤外線カメラ2R(または2L)に汚れが発生したか否かを判定する。
例えば、カメラ汚れ判定部17は、算出した輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定分散閾値(例えば、ヒステリシスを有する値等)未満であるか否かを判定する。そして、この判定結果が「YES」の場合には、例えば図6に示すように、赤外線カメラ2R(または2L)の光学系に汚れが発生することで、赤外線画像のコントラスト(明暗差)が低下し、輝度分散値が低下したと判断して、赤外線カメラ2R(または2L)に汚れ有りと判定する。一方、この判定結果が「NO」の場合には、赤外線カメラ2R(または2L)に汚れ無しと判定する。
例えば、カメラ汚れ判定部17は、車両の走行挙動が相対的に安定している状態で算出された輝度分散を選択したり、車速が所定車速以上の状態で算出された輝度分散を選択することにより、例えば相対的に低車速の状態で自車両と先行車両や構造物等との間の距離が相対的に短くなることによって、赤外線画像上において単一の先行車両や構造物等の面積が過剰に増大し、輝度分散が低下してしまうことを抑制することができる。
なお、カメラ汚れ判定部17は、車両状態量センサ21のワイパースイッチ(ワイパーSW)から出力されるワイパーの作動のON/OFFに係る検出信号に基づき、降雨や降雪等の天候状態に起因して赤外線カメラ2R(または2L)に汚れ有りと判定される状態であるか否かを判定し、この判定結果が「YES」の場合には、報知装置22による報知内容を変更したり、汚れの有無を判定する処理を一時的に停止するようになっている。
まず、図7に示すステップS01においては、赤外線カメラ2R(または2L)から赤外線画像を取得する。
次に、ステップS02においては、取得した赤外線画像上において、少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む所定の判定領域を設定する。
次に、ステップS03においては、設定した所定の判定領域内において、輝度値が所定輝度値以上となる高輝度領域を除外領域として設定する。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS05に進む。
そして、ステップS05においては、ヨーレートセンサ4にて検出されたヨーレートωの絶対値が所定閾値Yawth以下であるか否かを判定する。
ステップS05の判定結果が「NO」の場合には、一連の処理を終了する。
一方、ステップS05の判定結果が「YES」の場合には、ステップS06に進む。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS07に進む。
そして、ステップS07においては、ワイパーSWがオフ状態であるか否かを判定する。
ステップS07の判定結果が「NO」の場合には、一連の処理を終了する。
一方、ステップS07の判定結果が「YES」の場合には、ステップS08に進む。
次に、ステップS09においては、所定時間内に亘って算出された複数の輝度分散の平均値(輝度分散平均値)を算出する。
次に、ステップS10においては、前回の処理にて赤外線カメラ2R(または2L)に汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS13に進む。
一方、この判定結果が「YES」の場合には、ステップS11に進む。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS12に進む。
そして、ステップS12においては、汚れ判定結果として汚れ有りを設定し、後述するステップS15に進む。
また、ステップS13においては、輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU以上であるか否かを判定する。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS14に進む。
そして、ステップS14においては、汚れ判定結果として汚れ無しを設定し、ステップS15に進む。
そして、ステップS15においては、汚れ判定結果を報知装置22を介して自車両の運転者等に報知し、一連の処理を終了する。
しかも、所定の判定領域の輝度分散値を過剰に増大させる虞がある領域つまり輝度値が所定輝度値以上となる領域、あるいは、例えば所定領域の輝度分散値を過剰に変動させる虞がある種別の対象物(例えば、他車両の排気管や自動販売機等)を含む領域を、除外領域として設定することで、輝度分散値に応じた赤外線カメラ2R,2Lの汚れの有無の検知を適切に行うことができる。
また、複数回に亘って算出された輝度分散値の平均値が所定閾値(下限分散閾値VLまたは上限分散閾値VU)を超えた(下限分散閾値VL未満または上限分散閾値VU以上)か否かを判定することにより、車両の走行によって変化する車両周辺環境に関わらずに、赤外線カメラ2R,2Lの汚れの有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。
しかも、車両の状態量が所定状態量(例えば、車速Vが所定閾車速Veth以上、かつ、ヨーレートωの絶対値が所定閾値Yawth以下、かつ、ブレーキSWのオフ状態)である状態で算出された輝度分散値のみに基づき輝度分散値の平均値を算出することで、車両の状態に起因して不適切な値となった輝度分散値に基づいて赤外線カメラ2R,2Lの汚れの有無が検知されてしまうことを防止することができる。
この変形例においては、例えば図8に示すように、画像処理ユニット1は、2つの第1および第2赤外線カメラ2R,2Lに対応して、画像メモリ11R,11Lと、判定領域設定部12R,12Lと、車両挙動推定部13と、除外領域設定部14R,14Lと、物体判定部15と、輝度分散算出部16R,16Lと、カメラ汚れ判定部17R,17Lと、カメラ汚れ比較判定部18と、天候判定部19を備えて構成され、特に、画像処理ユニット1の車両挙動推定部13には、ヨーレートセンサ3および車速センサ4およびブレーキセンサ5に加えて加速度センサおよびワイパースイッチ(ワイパーSW)等を具備し、各種の車両状態量を検出する車両状態量センサ21から出力される検出信号が入力されていると共に、画像処理ユニット1のカメラ汚れ判定部17には、スピーカ6および表示装置7を具備する報知装置22が接続されている。
各判定領域設定部12R,12Lは、予め定められた各赤外線カメラ2R,2Lの光学設計(例えば、カメラ画角)および設置方向に基づいて、赤外線画像上に所定の判定領域を設定すると共に、必要に応じて、設定した判定領域を車両挙動推定部13による推定結果、例えば各赤外線カメラ2R,2Lの取付位置の位置ずれに起因する光軸の変化等に基づき修正する。
例えば、車両挙動推定部13は、赤外線画像上にて検知される静止対象物の相対移動軌跡を近似する近似直線LMVを算出する。そして、各赤外線カメラ2R,2Lの光軸を基準とするカメラ座標系(Xc,Yc,Zc)に対して、近似直線LMVをXc−Zc平面に投影した直線とZc軸とのなす角をパン角とし、近似直線LMVをYc−Zc平面に投影した直線とZc軸とのなす角をピッチ角とする。
なお、カメラ座標系(Xc,Yc,Zc)は、例えば上記数式(1)に示すように算出され、自車両10の前部における赤外線カメラ2R,2Lの取り付け位置の中点の位置を原点Oとし、赤外線画像上の座標は、赤外線画像上の中心を原点として水平方向をx方向、垂直方向をy方向として設定されている。また、座標(xc,yc)は、基準画像(例えば、右画像)上の座標(x,y)を、赤外線カメラ2Rの取付位置と、実空間の原点Oとの相対位置関係に基づいて、実空間の原点Oと画像データの中心とを一致させて得た仮想的な画像上の座標に変換して得た座標である。また、下記数式(1)において、自車両10と対象物との距離つまり赤外線カメラ2R,2Lのレンズと対象物との距離(対象物距離)z(m)は、カメラ基線長、つまり赤外線カメラ2R,2Lの各撮像素子の中心位置間の水平距離D(m)と、カメラ焦点距離、つまり赤外線カメラ2R,2Lの各レンズの焦点距離f(m)と、画素ピッチp(m/pixel)と、画素数単位での視差Δd(pixel)とに基づき算出される。
また、各除外領域設定部14R,14Lは、物体判定部15により検知された所定の発熱体(例えば、他車両の排気管や自動販売機等)が各赤外線画像上の判定領域内に存在する場合には、この発熱体を含む領域を除外領域として設定する。
各カメラ汚れ判定部17R,17Lは、例えば所定時間内に亘って各輝度分散算出部16R,16Lにより算出された複数の輝度分散の平均値(輝度分散平均値)に基づき、各赤外線カメラ2R,2Lに汚れが発生したか否かを判定する。
例えば、各カメラ汚れ判定部17R,17Lは、算出した輝度分散平均値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定分散閾値(例えば、ヒステリシスを有する値等)未満であるか否かを、各赤外線カメラ2R,2L毎に独立して判定する。そして、この判定結果が「YES」の場合には、各赤外線カメラ2R,2Lの光学系に汚れが発生することで赤外線画像のコントラスト(明暗差)が低下することに伴い輝度分散値が低下したと判断して、各赤外線カメラ2R,2Lの汚れ判定結果として汚れ有りと判定する。一方、この判定結果が「NO」の場合には、各赤外線カメラ2R,2Lの汚れ判定結果として汚れ無しと判定する。
例えば、各カメラ汚れ判定部17R,17Lは、車両の走行挙動が相対的に安定している状態で算出された輝度分散を選択したり、車速が所定車速以上の状態で算出された輝度分散を選択することにより、例えば相対的に低車速の状態で自車両と先行車両や構造物等との間の相対距離が相対的に短くなることによって、赤外線画像上において単一の先行車両や構造物等の面積が過剰に増大し、輝度分散が低下してしまうことを抑制することができる。
例えば、カメラ汚れ比較判定部18は、第1赤外線カメラ2Rの輝度分散平均値と第2赤外線カメラ2Lの輝度分散平均値との差分が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定差分閾値(例えば、ヒステリシスを有する値等)未満であるか否かを判定する。そして、この判定結果が「YES」の場合には、第1または第2赤外線カメラ2R,2Lの光学系に汚れが発生することで、一方の赤外線画像のコントラスト(明暗差)が他方の赤外線画像のコントラストに比べて相対的に低下することに伴い、輝度分散平均値の差分が増大したと判断して、汚れ比較判定結果として、第1および第2赤外線カメラ2R,2Lのうち一方は汚れ有り、他方は汚れ無しと判定する。
なお、各カメラ汚れ判定部17R,17Lおよびカメラ汚れ比較判定部18は、天候判定部19の判定結果、例えば車両状態量センサ21のワイパースイッチ(ワイパーSW)から出力されるワイパーの作動のON/OFFに係る検出信号に基づく降雨や降雪等の天候状態に対する判定結果に応じて、各赤外線カメラ2R,2Lに汚れ有りと判定される状態であるか否かを判定し、この判定結果が「YES」の場合には、報知装置22による報知内容を変更したり、汚れの有無を判定する処理を一時的に停止するようになっている。
まず、図9に示すステップS21においては、各赤外線カメラ2R,2Lから赤外線画像を取得する。
次に、ステップS22においては、取得した各赤外線画像上において、少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む所定の判定領域を設定する。
次に、ステップS23においては、所定の判定領域内において、輝度値が所定輝度値以上となる高輝度領域を除外領域として設定する。
次に、ステップS25においては、各赤外線カメラ2R,2L毎に所定時間内に亘って算出された複数の輝度分散の平均値(輝度分散平均値)を算出する。
次に、ステップS26においては、前回の処理にて第1赤外線カメラ2Rに対する汚れ判定結果として汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS29に進む。
一方、この判定結果が「YES」の場合には、ステップS27に進む。
この判定結果が「NO」の場合には、後述するステップS31に進む。
一方、この判定結果が「YES」の場合には、ステップS28に進む。
そして、ステップS28においては、第1赤外線カメラ2Rの汚れ判定結果として汚れ有りを設定し、後述するステップS31に進む。
また、ステップS29においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU1以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS31に進む。
一方、この判定結果が「YES」の場合には、ステップS30に進む。
そして、ステップS30においては、第1赤外線カメラ2Rの汚れ判定結果として汚れ無しを設定し、ステップS31に進む。
この判定結果が「NO」の場合には、後述するステップS35に進む。
一方、この判定結果が「YES」の場合には、ステップS32に進む。
ステップS32においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL2未満であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS38に進む。
一方、この判定結果が「YES」の場合には、ステップS33に進む。
この判定結果が「NO」の場合には、後述するステップS38に進む。
一方、この判定結果が「YES」の場合には、ステップS34に進む。
そして、ステップS34においては、第1赤外線カメラ2Rの汚れ比較判定結果として汚れ有りを設定し、後述するステップS38に進む。
この判定結果が「NO」の場合には、後述するステップS37に進む。
一方、この判定結果が「YES」の場合には、ステップS36に進む。
そして、ステップS36においては、第1赤外線カメラ2Rの汚れ比較判定結果として汚れ無しを設定し、後述するステップS38に進む。
また、ステップS37においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU2以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS38に進む。
一方、この判定結果が「YES」の場合には、上述したステップS36に進む。
この判定結果が「NO」の場合には、後述するステップS41に進む。
一方、この判定結果が「YES」の場合には、ステップS39に進む。
この判定結果が「NO」の場合には、後述するステップS43に進む。
一方、この判定結果が「YES」の場合には、ステップS40に進む。
そして、ステップS40においては、第2赤外線カメラ2Lの汚れ判定結果として汚れ有りを設定し、後述するステップS43に進む。
また、ステップS41においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU1以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS43に進む。
一方、この判定結果が「YES」の場合には、ステップS42に進む。
そして、ステップS42においては、第2赤外線カメラ2Lの汚れ判定結果として汚れ無しを設定し、ステップS43に進む。
この判定結果が「NO」の場合には、後述するステップS47に進む。
一方、この判定結果が「YES」の場合には、ステップS44に進む。
ステップS44においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL2未満であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS50に進む。
一方、この判定結果が「YES」の場合には、ステップS45に進む。
この判定結果が「NO」の場合には、後述するステップS50に進む。
一方、この判定結果が「YES」の場合には、ステップS46に進む。
そして、ステップS26においては、第2赤外線カメラ2Lの汚れ比較判定結果として汚れ有りを設定し、後述するステップS50に進む。
この判定結果が「NO」の場合には、後述するステップS49に進む。
一方、この判定結果が「YES」の場合には、ステップS48に進む。
そして、ステップS48においては、第2赤外線カメラ2Lの汚れ比較判定結果として汚れ無しを設定し、後述するステップS50に進む。
また、ステップS49においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU2以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS50に進む。
一方、この判定結果が「YES」の場合には、上述したステップS48に進む。
この判定結果が「YES」の場合には、ステップS51に進み、このステップS51において、汚れ判定結果に汚れ有りを設定、つまり各第1赤外線カメラ2R,2Lの少なくとも何れか1つに汚れ有りとして、後述するステップS54に進む。
一方、この判定結果が「NO」の場合には、ステップS52に進む。
ステップS52においては、第1赤外線カメラ2Rの汚れ判定結果と、第1赤外線カメラ2Rの汚れ比較判定結果と、第2赤外線カメラ2Lの汚れ判定結果と、第2赤外線カメラ2Lの汚れ比較判定結果とのすべての判定結果にて汚れ無しと判定されたか否かを判定する。
この判定結果が「YES」の場合には、ステップS53に進み、このステップS33において、汚れ判定結果に汚れ無しを設定、つまり各第1赤外線カメラ2R,2Lに汚れ無しとして、後述するステップS54に進む。
一方、この判定結果が「NO」の場合には、一連の処理を終了する。
そして、ステップS54においては、汚れ判定結果を報知装置22を介して自車両の運転者等に報知し、一連の処理を終了する。
2R,2L 赤外線カメラ(撮像装置)
3 ヨーレートセンサ
4 車速センサ
5 ブレーキセンサ
6 スピーカ
7 表示装置
10 自車両
12 判定領域設定部(輝度値算出手段、所定領域設定手段
14 除外領域設定部(領域除外手段)
15 物体判定部(対象物抽出手段、対象物種別判定手段)
16 輝度分散算出部(輝度分散値算出手段)
17 カメラ汚れ判定部(異常検知手段、基準輝度分散値設定手段、輝度分散値差分算出手段、第2の異常検知手段、輝度分散平均値算出手段)
21 車両状態量センサ(車両状態量検知手段)
Claims (5)
- 車両に搭載されて車両周辺を撮像する撮像装置の異常の有無を検知する撮像装置の異常検知装置であって、
前記撮像装置の撮像により得られた画像に所定領域を設定する所定領域設定手段と、
前記所定領域設定手段により設定された前記所定領域に対して前記画像から得られる輝度値を用いて輝度分散の平均値を算出する輝度分散平均値算出手段と、
前記輝度分散平均値算出手段により算出された前記輝度分散の平均値が所定分散閾値より低いと判定されたときに前記撮像装置の異常であると検知する異常検知手段とを備え、
前記所定領域設定手段は、少なくとも道路境界部を含む領域を前記所定領域として設定し、前記所定領域設定手段により設定された前記所定領域内において前記輝度分散平均値算出手段による輝度分散の平均値の算出処理の実行対象外とする除外領域を設定する領域除外手段を備え、
前記領域除外手段は、前記輝度値算出手段により算出された輝度値が所定輝度値以上となる領域を前記除外領域として設定し、
前記輝度分散平均値算出手段は、前記所定領域設定手段により設定された前記所定領域のうち前記領域除外手段により設定された前記除外領域以外の領域に対して輝度分散平均値を算出することを特徴とする撮像装置の異常検知装置。 - 車両に搭載されて車両周辺を撮像する撮像装置の異常の有無を検知する撮像装置の異常検知装置であって、
前記撮像装置の撮像により得られた画像に所定領域を設定する所定領域設定手段と、
前記所定領域設定手段により設定された前記所定領域に対して前記画像から得られる輝度値を用いて輝度分散値を算出する輝度分散値算出手段と、
前記輝度分散値算出手段により算出された前記輝度分散値に応じて前記撮像装置の異常の有無を検知する異常検知手段と、
前記撮像装置の撮像により得られた画像内の対象物を抽出する対象物抽出手段と、
前記対象物抽出手段により抽出された前記対象物の種別を判定する対象物種別判定手段とを備え、
前記所定領域設定手段は、少なくとも道路境界部を含む領域を前記所定領域として設定し、前記所定領域設定手段により設定された前記所定領域内において前記輝度分散値算出手段による輝度分散値の算出処理の実行対象外とする除外領域を設定する領域除外手段を備え、
前記領域除外手段は、前記対象物種別判定手段の判定結果に基づいて前記除外領域を設定し、
前記輝度分散値算出手段は、前記所定領域設定手段により設定された前記所定領域のうち前記領域除外手段により設定された前記除外領域以外の領域に対して輝度分散値を算出することを特徴とする撮像装置の異常検知装置。 - 前記領域除外手段は、前記対象物種別判定手段の判定結果において、相対的に高輝度の対象物の種別であると判定された対象物の前記画像上の存在領域を前記除外領域として設定することを特徴とする請求項2に記載の撮像装置の異常検知装置。
- 前記輝度分散値算出手段により複数回に亘って算出された複数の前記輝度分散値の平均値を算出する輝度分散平均値算出手段を備え、
前記異常検知手段は、前記輝度分散平均値算出手段により算出された前記平均値が所定閾値を超えたか否かに応じて前記撮像装置の異常の有無を検知することを特徴とする請求項2または請求項3の何れかひとつに記載の撮像装置の異常検知装置。 - 前記撮像装置が搭載された車両の状態量を検知する車両状態量検知手段を備え、
前記輝度分散平均値算出手段は、前記車両状態量検知手段により検知された車両の状態量が所定状態量である状態で前記輝度分散値算出手段により算出された前記輝度分散値のみに基づき、前記平均値を設定することを特徴とする請求項4に記載の撮像装置の異常検知装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004347820A JP4130434B2 (ja) | 2004-11-30 | 2004-11-30 | 撮像装置の異常検知装置 |
US11/287,870 US7580548B2 (en) | 2004-11-30 | 2005-11-28 | Abnormality detecting apparatus for imaging apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004347820A JP4130434B2 (ja) | 2004-11-30 | 2004-11-30 | 撮像装置の異常検知装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006157739A JP2006157739A (ja) | 2006-06-15 |
JP4130434B2 true JP4130434B2 (ja) | 2008-08-06 |
Family
ID=36567427
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004347820A Expired - Fee Related JP4130434B2 (ja) | 2004-11-30 | 2004-11-30 | 撮像装置の異常検知装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7580548B2 (ja) |
JP (1) | JP4130434B2 (ja) |
Families Citing this family (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4853160B2 (ja) * | 2006-08-02 | 2012-01-11 | 株式会社デンソー | 車両検出装置及びヘッドランプ制御装置 |
JP5223675B2 (ja) * | 2006-08-18 | 2013-06-26 | 日本電気株式会社 | 車両検知装置,車両検知方法並びに車両検知プログラム |
JP4914234B2 (ja) * | 2007-01-31 | 2012-04-11 | 富士重工業株式会社 | 先行車両検出装置 |
EP2018047A1 (en) * | 2007-06-15 | 2009-01-21 | IEE INTERNATIONAL ELECTRONICS & ENGINEERING S.A. | Method for contamination detection in a TOF range camera |
EP2321796B1 (en) * | 2008-08-08 | 2016-12-28 | Thomson Licensing | Method and apparatus for detecting dark noise artifacts |
JP4858574B2 (ja) * | 2009-05-19 | 2012-01-18 | トヨタ自動車株式会社 | 物体検出装置 |
JP5039765B2 (ja) * | 2009-09-17 | 2012-10-03 | 日立オートモティブシステムズ株式会社 | 車両制御装置 |
EP2352013B1 (en) * | 2010-02-01 | 2013-01-23 | Autoliv Development AB | A vision system and method for a motor vehicle |
DE102010002310A1 (de) * | 2010-02-24 | 2011-08-25 | Audi Ag, 85057 | Verfahren und Vorrichtung zur Freisichtprüfung einer Kamera für ein automobiles Umfeld |
JP5902049B2 (ja) * | 2012-06-27 | 2016-04-13 | クラリオン株式会社 | レンズ白濁状態診断装置 |
JP6117634B2 (ja) | 2012-07-03 | 2017-04-19 | クラリオン株式会社 | レンズ付着物検知装置、レンズ付着物検知方法、および、車両システム |
JP2014011785A (ja) * | 2012-07-03 | 2014-01-20 | Clarion Co Ltd | 車載カメラ汚れ除去装置の診断装置、診断方法及び車両システム |
CN104509101B (zh) * | 2012-07-27 | 2017-12-01 | 日产自动车株式会社 | 三维物体检测装置和三维物体检测方法 |
WO2014017317A1 (ja) * | 2012-07-27 | 2014-01-30 | 日産自動車株式会社 | 立体物検出装置及び異物検出装置 |
US10678259B1 (en) * | 2012-09-13 | 2020-06-09 | Waymo Llc | Use of a reference image to detect a road obstacle |
JP6393189B2 (ja) * | 2012-11-27 | 2018-09-19 | クラリオン株式会社 | 車載画像処理装置 |
JP6178580B2 (ja) * | 2013-01-28 | 2017-08-09 | 富士通テン株式会社 | 物体検出装置、物体検出システム及び物体検出方法 |
US9967481B2 (en) * | 2013-03-13 | 2018-05-08 | Intel Corporation | Techniques for image sensor pixel correction |
KR102066290B1 (ko) * | 2013-08-30 | 2020-01-14 | 현대모비스 주식회사 | 차량의 영상인식장치 및 그 방법 |
WO2017180937A1 (en) * | 2016-04-15 | 2017-10-19 | Lion Group, Inc. | Imaging system for fire fighting training |
US10339812B2 (en) | 2017-03-02 | 2019-07-02 | Denso International America, Inc. | Surrounding view camera blockage detection |
US10623640B2 (en) | 2017-03-17 | 2020-04-14 | Uurmi Systems Pvt Ltd | Method and system for detection of contaminants present on a lens of an imaging device |
JP6678844B2 (ja) | 2018-02-16 | 2020-04-08 | 三菱電機株式会社 | 異常検出装置及び異常検出方法 |
JP7200572B2 (ja) * | 2018-09-27 | 2023-01-10 | 株式会社アイシン | 付着物検出装置 |
US11790670B2 (en) | 2020-03-18 | 2023-10-17 | Honda Motor Co., Ltd. | Apparatus, method, and program for determining abnormality in internal devices |
JP7319597B2 (ja) * | 2020-09-23 | 2023-08-02 | トヨタ自動車株式会社 | 車両運転支援装置 |
US11715305B1 (en) * | 2022-11-30 | 2023-08-01 | Amitha Nandini Mandava | Traffic detection system using machine vision |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5174333A (en) * | 1974-12-23 | 1976-06-28 | Honda Motor Co Ltd | Sharyoni okeru keihosochi |
JP3456215B2 (ja) * | 1992-07-06 | 2003-10-14 | 株式会社ニコン | カメラの測光装置 |
JPH08313632A (ja) | 1995-05-19 | 1996-11-29 | Omron Corp | 警報発生装置および方法,ならびにこの警報発生装置を搭載した車両 |
JP3566546B2 (ja) * | 1998-04-01 | 2004-09-15 | Kddi株式会社 | 画像の品質異常検出方法および装置 |
JP4135123B2 (ja) | 1998-05-13 | 2008-08-20 | 日産自動車株式会社 | 表示処理装置 |
JP3716623B2 (ja) | 1998-07-09 | 2005-11-16 | 日産自動車株式会社 | 温体検出装置 |
JP3727798B2 (ja) | 1999-02-09 | 2005-12-14 | 株式会社東芝 | 画像監視システム |
JP3515926B2 (ja) | 1999-06-23 | 2004-04-05 | 本田技研工業株式会社 | 車両の周辺監視装置 |
JP2001211449A (ja) | 2000-01-27 | 2001-08-03 | Honda Motor Co Ltd | 車両用画像認識装置 |
JP2001211466A (ja) | 2000-01-27 | 2001-08-03 | Toshiba Corp | 自己診断機能を有する画像処理システム |
JP2001351200A (ja) | 2000-06-09 | 2001-12-21 | Nissan Motor Co Ltd | 車載用物体検知装置 |
JP3780922B2 (ja) * | 2001-11-30 | 2006-05-31 | 日産自動車株式会社 | 道路白線認識装置 |
JP4104867B2 (ja) | 2002-01-18 | 2008-06-18 | 本田技研工業株式会社 | ナイトビジョンシステム |
JP3901573B2 (ja) * | 2002-04-25 | 2007-04-04 | 富士通テン株式会社 | 画像認識システムにおける異常の診断装置 |
-
2004
- 2004-11-30 JP JP2004347820A patent/JP4130434B2/ja not_active Expired - Fee Related
-
2005
- 2005-11-28 US US11/287,870 patent/US7580548B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US20060115121A1 (en) | 2006-06-01 |
JP2006157739A (ja) | 2006-06-15 |
US7580548B2 (en) | 2009-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4130435B2 (ja) | 撮像装置の異常検知装置 | |
JP4130434B2 (ja) | 撮像装置の異常検知装置 | |
US11308720B2 (en) | Vehicular imaging system | |
US7957559B2 (en) | Apparatus and system for recognizing environment surrounding vehicle | |
JP4539415B2 (ja) | 画像処理装置 | |
JP5421072B2 (ja) | 接近物体検知システム | |
JP5022609B2 (ja) | 撮像環境認識装置 | |
JP5637302B2 (ja) | 走行支援装置及びその隣接車両検出方法 | |
JP5541412B2 (ja) | 走行支援装置及びその雨滴検出方法 | |
WO2007111220A1 (ja) | 道路区画線検出装置 | |
JP3312729B2 (ja) | フェールセーフ機能を有する車外監視装置 | |
JP4980970B2 (ja) | 撮像手段の調整装置および物体検出装置 | |
WO2011016257A1 (ja) | 車両用距離算出装置 | |
JP3882304B2 (ja) | 自動走行用自車位置検出装置 | |
JP3729005B2 (ja) | 車両の後方監視装置 | |
JP3532896B2 (ja) | スミア検出方法及びこのスミア検出方法を用いた画像処理装置 | |
JP4040620B2 (ja) | 車両周辺監視装置 | |
JP6785172B2 (ja) | 車両用映像表示装置 | |
JP2635232B2 (ja) | 車間距離検出装置 | |
US11182626B2 (en) | Attached object detection apparatus | |
JP2004343303A (ja) | 車載カメラの露光制御装置 | |
JP2006040165A (ja) | 障害物検出装置及び障害物検出方法 | |
JP2021086317A (ja) | 信号機認識方法及び信号機認識装置 | |
JP2022123153A (ja) | ステレオ画像処理装置及びステレオ画像処理方法 | |
JPH04262500A (ja) | 車間距離検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080205 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080403 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080513 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080521 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110530 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110530 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130530 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130530 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140530 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |