JP2006157740A - 撮像装置の異常検知装置 - Google Patents

撮像装置の異常検知装置 Download PDF

Info

Publication number
JP2006157740A
JP2006157740A JP2004347823A JP2004347823A JP2006157740A JP 2006157740 A JP2006157740 A JP 2006157740A JP 2004347823 A JP2004347823 A JP 2004347823A JP 2004347823 A JP2004347823 A JP 2004347823A JP 2006157740 A JP2006157740 A JP 2006157740A
Authority
JP
Japan
Prior art keywords
luminance
determination
infrared
dirt
infrared camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004347823A
Other languages
English (en)
Other versions
JP4130435B2 (ja
Inventor
Masakazu Saka
雅和 坂
Hideki Hashimoto
英樹 橋本
Shinji Nagaoka
伸治 長岡
Masato Watanabe
正人 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2004347823A priority Critical patent/JP4130435B2/ja
Priority to US11/287,739 priority patent/US7619668B2/en
Publication of JP2006157740A publication Critical patent/JP2006157740A/ja
Application granted granted Critical
Publication of JP4130435B2 publication Critical patent/JP4130435B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B43/00Testing correct operation of photographic apparatus or parts thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras

Abstract

【課題】 装置構成が複雑化することを防止しつつ、撮像装置の異常状態(例えば、光学系の汚れ等)の有無を容易に検知する。
【解決手段】 カメラ汚れ比較判定部18は、第1赤外線カメラ2Rの輝度分散平均値と第2赤外線カメラ2Lの輝度分散平均値との差分が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定差分閾値未満であるか否かを判定する。この判定結果が「YES」の場合には、第1または第2赤外線カメラ2R,2Lの光学系に汚れが発生することで、一方の赤外線画像のコントラスト(明暗差)が他方の赤外線画像のコントラストに比べて相対的に低下することに伴い、輝度分散平均値の差分が増大したと判断して、汚れ比較判定結果として、第1および第2赤外線カメラ2R,2Lのうち一方は汚れ有り、他方は汚れ無しと判定する。
【選択図】 図8

Description

この発明は、例えば可視光領域や赤外線領域にて撮像可能な撮像装置の異常状態(例えば、光学系の汚れ等)の有無を検知する撮像装置の異常検知装置に関する。
従来、例えば車両に搭載された赤外線カメラに近接して配置されるフォトセンサにより車両のヘッドライトから出力される光の反射光の光量を検出し、検出した光量に基づいて赤外線カメラの汚れの有無を検知する装置が知られている(例えば、特許文献1参照)。
特開2001−211449号公報
ところで、上記従来技術の一例に係る装置においては、赤外線カメラに加えて、赤外線カメラの汚れの有無を検知するための特別の装置としてフォトセンサを備える必要があることから、装置構成が複雑化すると共に、フォトセンサを所望の状態で作動させるために赤外線カメラの設置位置が規制されてしまう虞がある。
本発明は上記事情に鑑みてなされたもので、装置構成が複雑化することを防止しつつ、撮像装置の異常状態(例えば、光学系の汚れ等)の有無を容易に検知することが可能な撮像装置の異常検知装置を提供することを目的としている。
上記課題を解決して係る目的を達成するために、請求項1に記載の本発明の撮像装置の異常検知装置は、車両に搭載されて車両周辺を撮像する撮像装置の異常の有無を検知する撮像装置(例えば、実施の形態での赤外線カメラ2R,2L)の異常検知装置であって、複数の前記撮像装置の撮像により得られた各複数の撮像装置毎の画像の輝度値に基づき前記各複数の撮像装置毎の画像の輝度分散値を算出する輝度分散値算出手段(例えば、実施の形態での輝度分散算出部16R,16L)と、前記輝度分散値算出手段により算出された複数の前記輝度分散値に応じて前記撮像装置の異常の有無を検知する異常検知手段(例えば、実施の形態でのカメラ汚れ判定部17R,17L、カメラ汚れ比較判定部18)とを備えることを特徴としている。
上記の撮像装置の異常検知装置によれば、複数の画像の各輝度分散値に応じて撮像装置の異常の有無を検知することから、各撮像装置の設置状態に関わらずに各撮像装置の異常の有無を相対的に検知することができる。
さらに、請求項2に記載の本発明の撮像装置の異常検知装置は、前記輝度分散値算出手段により算出された前記輝度分散値に応じて、前記各複数の撮像装置毎の画像同士間の前記輝度分散値の差分を算出する分散値差分算出手段を備え、前記異常検知手段は、前記分散値差分算出手段により算出された前記差分に応じて前記撮像装置の異常の有無を検知することを特徴としている。
上記の撮像装置の異常検知装置によれば、各複数の撮像装置毎の画像同士間の輝度分散値の差分に応じて撮像装置の異常の有無を検知することから、各撮像装置の異常の有無を容易に検知することができる。
さらに、請求項3に記載の本発明の撮像装置の異常検知装置では、前記異常検知手段は、前記分散値差分算出手段により算出された前記差分に加えて、前記輝度分散値算出手段により算出された前記輝度分散値に応じて前記撮像装置の異常の有無を検知することを特徴としている。
上記の撮像装置の異常検知装置によれば、各複数の撮像装置毎の画像同士間の輝度分散値の差分に加えて、輝度分散値算出手段により算出された複数の輝度分散値に応じて撮像装置の異常の有無を検知することから、例えば各複数の撮像装置毎の画像同士間の輝度分散値の差分が所定値以下であっても、複数の画像の各輝度分散値が所定値未満である場合には、対応する複数の撮像装置が異常状態であると判定することができる。
以上説明したように、請求項1に記載の本発明の撮像装置の異常検知装置によれば、各撮像装置の設置状態に関わらずに各撮像装置の異常の有無を相対的に検知することができる。
さらに、請求項2に記載の本発明の撮像装置の異常検知装置によれば、各複数の撮像装置毎の画像同士間の輝度分散値の差分に応じて撮像装置の異常の有無を検知することから、各撮像装置の異常の有無を容易に検知することができる。
さらに、請求項3に記載の本発明の撮像装置の異常検知装置によれば、例えば各複数の撮像装置毎の画像同士間の輝度分散値の差分が所定値以下であって、対応する複数の撮像装置が正常であると判定される場合であっても、複数の画像の各輝度分散値が所定値未満である場合には、対応する複数の撮像装置が異常状態であると判定することができる。
以下、本発明の一実施形態に係る撮像装置の異常検知装置について添付図面を参照しながら説明する。
本実施の形態による撮像装置の異常検知装置は、例えば図1に示すように、撮像装置の異常検知装置を制御するCPU(中央演算装置)を備えた画像処理ユニット1と、遠赤外線を検出可能な2つの赤外線カメラ2R,2Lと、自車両のヨーレートを検出するヨーレートセンサ3と、自車両の走行速度(車速)を検出する車速センサ4と、運転者によるブレーキ操作の有無を検出するブレーキセンサ5と、スピーカ6と、表示装置7とを備えて構成され、例えば、画像処理ユニット1は2つの赤外線カメラ2R,2Lの撮影により得られる自車両周辺の赤外線画像と、各センサ3,4,5により検出される自車両の走行状態に係る検出信号とから、自車両の進行方向前方の歩行者や動物等の移動体を検出し、検出した移動体と自車両との接触が発生する可能性があると判断したときに、スピーカ6または表示装置7を介して警報を出力するようになっている。
なお、表示装置7は、例えば自車両の各種走行状態量を表示する計器類と一体化された表示装置やナビゲーション装置の表示装置、さらにフロントウィンドウにおいて運転者の前方視界を妨げない位置に各種情報を表示するHUD(Head Up Display)7a等を備えて構成されている。
また、画像処理ユニット1は、入力アナログ信号をディジタル信号に変換するA/D変換回路と、ディジタル化した画像信号(輝度値)を記憶する画像メモリと、各種演算処理を行うCPU(中央演算装置)と、CPUが演算途中のデータを記憶するために使用するRAM(Random Access Memory)と、CPUが実行するプログラムやテーブル、マップなどを記憶するROM(Read Only Memory)と、スピーカ6の駆動信号やHUD7a等の表示信号などを出力する出力回路とを備えており、赤外線カメラ2R,2Lおよび各センサ3,4,5から出力される信号は、ディジタル信号に変換されてCPUに入力されるように構成されている。
なお、例えば図2に示すように、赤外線カメラ2R,2Lは、自車両10の前部に、自車両10の車幅方向中心部に対してほぼ対象な位置に配置されており、2つの赤外線カメラ2R,2Lの光軸が互いに平行であって、かつ両者の路面からの高さが等しくなるように固定されている。なお、赤外線カメラ2R,2Lは、対象物の温度が高いほど、出力信号レベルが高くなる(つまり、輝度が増大する)特性を有している。
また、HUD7aは、自車両10のフロントウインドウの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
そして、画像処理ユニット1は、例えば図3に示すように、画像メモリ11と、判定領域設定部12と、車両挙動推定部13と、除外領域設定部14と、輝度分散算出部16と、カメラ汚れ判定部17とを備えて構成され、特に、画像処理ユニット1の車両挙動推定部13には、ヨーレートセンサ3および車速センサ4およびブレーキセンサ5に加えて加速度センサおよびワイパースイッチ(ワイパーSW)等を具備し、各種の車両状態量を検出する車両状態量センサ21から出力される検出信号が入力されていると共に、画像処理ユニット1のカメラ汚れ判定部17には、スピーカ6および表示装置7を具備する報知装置22が接続されている。
この画像処理ユニット1において、画像メモリ11は赤外線カメラ2R(または2L)から受信した赤外線画像をデジタルデータとして記憶する。
判定領域設定部12は、予め定められた赤外線カメラ2R(または2L)の光学設計(例えば、カメラ画角)および設置方向に基づいて、赤外線画像上に所定の判定領域を設定すると共に、必要に応じて、設定した判定領域を車両挙動推定部13による推定結果、例えば赤外線カメラ2R(または2L)の取付位置の位置ずれに起因する光軸の変化等に基づき修正する。
この所定の判定領域は、例えば、図4に示すように、少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む領域とされている。ここで、所定の判定領域として、道路Rおよび道路の境界部BRを含まずに赤外線画像上での上方の背景部Bのみを含む領域を設定すると、赤外線カメラ2R(または2L)の汚れの有無に関わらずに、走行路の変化(例えば道路構造物や樹木等が相対的に少ない郊外路と、道路構造物や樹木等が相対的に多い市街路との変化等)に応じて、判定領域での輝度値の分布状態(例えば、輝度分散値)が変動し、後述する汚れ判定の実行が困難となったり、汚れ判定の判定精度および判定結果に対する信頼度が低下してしまうという問題が生じる。
また、所定の判定領域として、背景部Bおよび道路の境界部BRを含まずに赤外線画像上での下方の道路Rのみを含む領域を設定すると、判定領域での輝度値の変化が過剰に低くなり、後述する汚れ判定の実行が困難となったり、汚れ判定の判定精度および判定結果に対する信頼度が低下してしまうという問題が生じる。
車両挙動推定部13は、車両状態量センサ21から出力される検出信号に基づき、予め設定された赤外線カメラ2R(または2L)の取付位置や設置方向のずれとして、例えば車両進行方向に対する赤外線カメラ2R(または2L)の光軸の横方向のずれを示すパン角や、例えば車両のピッチングにより生じる車両進行方向に対する赤外線カメラ2R(または2L)の光軸の上下方向のずれを示すピッチ角等を算出する。
例えば、車両挙動推定部13は、赤外線画像上にて検知される静止対象物の相対移動軌跡を近似する近似直線LMVを算出する。そして、赤外線カメラ2R(または2L)の光軸を基準とするカメラ座標系(Xc,Yc,Zc)に対して、近似直線LMVをXc−Zc平面に投影した直線とZc軸とのなす角をパン角とし、近似直線LMVをYc−Zc平面に投影した直線とZc軸とのなす角をピッチ角とする。
なお、カメラ座標系(Xc,Yc,Zc)は、例えば下記数式(1)に示すように算出され、自車両10の前部における赤外線カメラ2R,2Lの取り付け位置の中点の位置を原点Oとし、赤外線画像上の座標は、赤外線画像上の中心を原点として水平方向をx方向、垂直方向をy方向として設定されている。また、座標(xc,yc)は、基準画像(例えば、右画像)上の座標(x,y)を、赤外線カメラ2Rの取付位置と、実空間の原点Oとの相対位置関係に基づいて、実空間の原点Oと画像データの中心とを一致させて得た仮想的な画像上の座標に変換して得た座標である。また、下記数式(1)において、自車両10と対象物との距離つまり赤外線カメラ2R,2Lのレンズと対象物との距離(対象物距離)z(m)は、カメラ基線長、つまり赤外線カメラ2R,2Lの各撮像素子の中心位置間の水平距離D(m)と、カメラ焦点距離、つまり赤外線カメラ2R,2Lの各レンズの焦点距離f(m)と、画素ピッチp(m/pixel)と、画素数単位での視差Δd(pixel)とに基づき算出される。
除外領域設定部14は、判定領域設定部12にて設定された判定領域内において、輝度値が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定輝度値以上となる高輝度領域を、後述する汚れ判定の対象領域から除外する。
例えば図5に示すように、除外領域設定部14は赤外線画像上の判定領域内において輝度値が所定輝度値以上となる領域OB1,…,OB6を除外領域として設定する。
また、除外領域設定部14は、物体判定部15により検知された所定の発熱体(例えば、他車両の排気管や自動販売機等)が赤外線画像上の判定領域内に存在する場合には、この発熱体を含む領域を除外領域として設定する。
輝度分散算出部16は、判定領域設定部12にて設定された判定領域内において除外領域設定部14にて設定された除外領域以外の領域に対して、先ず、輝度値に対する度数分布である輝度ヒストグラムを算出し、輝度ヒストグラムの分散(輝度分散)を算出する。
カメラ汚れ判定部17は、例えば所定時間内に亘って輝度分散算出部16により算出された複数の輝度分散の平均値(輝度分散平均値)に基づき、赤外線カメラ2R(または2L)に汚れが発生したか否かを判定する。
例えば、カメラ汚れ判定部17は、算出した輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定分散閾値(例えば、ヒステリシスを有する値等)未満であるか否かを判定する。そして、この判定結果が「YES」の場合には、例えば図6に示すように、赤外線カメラ2R(または2L)の光学系に汚れが発生することで、赤外線画像のコントラスト(明暗差)が低下し、輝度分散値が低下したと判断して、赤外線カメラ2R(または2L)に汚れ有りと判定する。一方、この判定結果が「NO」の場合には、赤外線カメラ2R(または2L)に汚れ無しと判定する。
なお、カメラ汚れ判定部17は、輝度分散平均値を算出する際に、車両状態量センサ21から出力される検出信号に基づき、複数の輝度分散のうちから適宜の輝度分散を選択し、選択した輝度分散のみから輝度分散平均値を算出することが可能とされている。
例えば、カメラ汚れ判定部17は、車両の走行挙動が相対的に安定している状態で算出された輝度分散を選択したり、車速が所定車速以上の状態で算出された輝度分散を選択することにより、例えば相対的に低車速の状態で自車両と先行車両や構造物等との間の距離が相対的に短くなることによって、赤外線画像上において単一の先行車両や構造物等の面積が過剰に増大し、輝度分散が低下してしまうことを抑制することができる。
カメラ汚れ判定部17にて赤外線カメラ2R(または2L)に汚れ有りと判定された場合、例えばスピーカ6を介した警報音や音声等の聴覚的警報や、例えば表示装置7を介した表示等の視覚的警報等が報知装置22から出力される。
なお、カメラ汚れ判定部17は、車両状態量センサ21のワイパースイッチ(ワイパーSW)から出力されるワイパーの作動のON/OFFに係る検出信号に基づき、降雨や降雪等の天候状態に起因して赤外線カメラ2R(または2L)に汚れ有りと判定される状態であるか否かを判定し、この判定結果が「YES」の場合には、報知装置22による報知内容を変更したり、汚れの有無を判定する処理を一時的に停止するようになっている。
本実施の形態による撮像装置の異常検知装置は上記構成を備えており、次に、この撮像装置の異常検知装置の動作、特に、赤外線カメラ2R(または2L)の汚れの有無を判定する処理について添付図面を参照しながら説明する。
まず、図7に示すステップS01においては、赤外線カメラ2R(または2L)から赤外線画像を取得する。
次に、ステップS02においては、取得した赤外線画像上において、少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む所定の判定領域を設定する。
次に、ステップS03においては、設定した所定の判定領域内において、輝度値が所定輝度値以上となる高輝度領域を除外領域として設定する。
次に、ステップS04においては、車速センサ3にて検出される車速Vが所定閾車速Veth以上か否かを判定する。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS05に進む。
そして、ステップS05においては、ヨーレートセンサ4にて検出されたヨーレートωの絶対値が所定閾値Yawth以下であるか否かを判定する。
ステップS05の判定結果が「NO」の場合には、一連の処理を終了する。
一方、ステップS05の判定結果が「YES」の場合には、ステップS06に進む。
そして、ステップS06においては、ブレーキセンサ5にて検出される運転者によるブレーキ操作の有無に係るブレーキSWのオフ状態であるか否かを判定する。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS07に進む。
そして、ステップS07においては、ワイパーSWがオフ状態であるか否かを判定する。
ステップS07の判定結果が「NO」の場合には、一連の処理を終了する。
一方、ステップS07の判定結果が「YES」の場合には、ステップS08に進む。
そして、ステップS08においては、判定領域内において除外領域以外の領域に対して輝度ヒストグラムを算出し、輝度ヒストグラムの分散(輝度分散)を算出する。
次に、ステップS09においては、所定時間内に亘って算出された複数の輝度分散の平均値(輝度分散平均値)を算出する。
次に、ステップS10においては、前回の処理にて赤外線カメラ2R(または2L)に汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS13に進む。
一方、この判定結果が「YES」の場合には、ステップS11に進む。
そして、ステップS11においては、輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL未満であるか否かを判定する。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS12に進む。
そして、ステップS12においては、汚れ判定結果として汚れ有りを設定し、後述するステップS15に進む。
また、ステップS13においては、輝度分散平均値が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU以上であるか否かを判定する。
この判定結果が「NO」の場合には、一連の処理を終了する。
一方、この判定結果が「YES」の場合には、ステップS14に進む。
そして、ステップS14においては、汚れ判定結果として汚れ無しを設定し、ステップS15に進む。
そして、ステップS15においては、汚れ判定結果を報知装置22を介して自車両の運転者等に報知し、一連の処理を終了する。
上述したように、本実施の形態による撮像装置の異常検知装置によれば、赤外線画像上における少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む領域を、輝度分散値を算出する所定の判定領域して設定することから、輝度分散値に応じて赤外線カメラ2R,2Lの汚れの有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。
しかも、所定の判定領域の輝度分散値を過剰に増大させる虞がある領域つまり輝度値が所定輝度値以上となる領域、あるいは、例えば所定領域の輝度分散値を過剰に変動させる虞がある種別の対象物(例えば、他車両の排気管や自動販売機等)を含む領域を、除外領域として設定することで、輝度分散値に応じた赤外線カメラ2R,2Lの汚れの有無の検知を適切に行うことができる。
また、複数回に亘って算出された輝度分散値の平均値が所定閾値(下限分散閾値VLまたは上限分散閾値VU)を超えた(下限分散閾値VL未満または上限分散閾値VU以上)か否かを判定することにより、車両の走行によって変化する車両周辺環境に関わらずに、赤外線カメラ2R,2Lの汚れの有無を検知する際の検知精度および検知結果に対する信頼度を向上させることができる。
しかも、車両の状態量が所定状態量(例えば、車速Vが所定閾車速Veth以上、かつ、ヨーレートωの絶対値が所定閾値Yawth以下、かつ、ブレーキSWのオフ状態)である状態で算出された輝度分散値のみに基づき輝度分散値の平均値を算出することで、車両の状態に起因して不適切な値となった輝度分散値に基づいて赤外線カメラ2R,2Lの汚れの有無が検知されてしまうことを防止することができる。
なお、上述した実施の形態においては、輝度分散平均値が所定分散閾値未満であるか否かに応じて、赤外線カメラ2R(または2L)の汚れの有無を判定したが、これに限定されず、例えば、所定の基準輝度分散値(例えば、輝度分散平均値)と、輝度分散算出部16により算出された輝度分散との差分が、予め設定あるいは適宜に変更される赤外線カメラ2R(または2L)の輝度ゲインや輝度レベル等に応じて設定された所定の閾差分値未満であるか否かを判定し、この判定結果が「NO」の場合には、赤外線カメラ2R(または2L)に汚れ有りと判定し、一方、この判定結果が「YES」の場合には、赤外線カメラ2R(または2L)に汚れ無しと判定してもよい。
なお、上述した実施の形態においては、各赤外線カメラ2R,2L毎に独立して汚れ判定を実行したが、これに限定されず、例えば赤外線カメラ2R(以下、第1赤外線カメラ2Rと呼ぶ)に対する判定結果と赤外線カメラ2L(以下、第2赤外線カメラ2Lと呼ぶ)に対する判定結果とに基づき、汚れ判定を行ってもよい。
この変形例においては、例えば図8に示すように、画像処理ユニット1は、2つの第1および第2赤外線カメラ2R,2Lに対応して、画像メモリ11R,11Lと、判定領域設定部12R,12Lと、車両挙動推定部13と、除外領域設定部14R,14Lと、物体判定部15と、輝度分散算出部16R,16Lと、カメラ汚れ判定部17R,17Lと、カメラ汚れ比較判定部18と、天候判定部19を備えて構成され、特に、画像処理ユニット1の車両挙動推定部13には、ヨーレートセンサ3および車速センサ4およびブレーキセンサ5に加えて加速度センサおよびワイパースイッチ(ワイパーSW)等を具備し、各種の車両状態量を検出する車両状態量センサ21から出力される検出信号が入力されていると共に、画像処理ユニット1のカメラ汚れ判定部17には、スピーカ6および表示装置7を具備する報知装置22が接続されている。
この画像処理ユニット1において、各画像メモリ11R,11Lは各赤外線カメラ2R,2Lから受信した赤外線画像をデジタルデータとして記憶する。
各判定領域設定部12R,12Lは、予め定められた各赤外線カメラ2R,2Lの光学設計(例えば、カメラ画角)および設置方向に基づいて、赤外線画像上に所定の判定領域を設定すると共に、必要に応じて、設定した判定領域を車両挙動推定部13による推定結果、例えば各赤外線カメラ2R,2Lの取付位置の位置ずれに起因する光軸の変化等に基づき修正する。
車両挙動推定部13は、車両状態量センサ21から出力される検出信号に基づき、予め設定された各赤外線カメラ2R,2Lの取付位置や設置方向のずれとして、例えば車両進行方向に対する各赤外線カメラ2R,2Lの光軸の横方向のずれを示すパン角や、例えば車両のピッチングにより生じる車両進行方向に対する各赤外線カメラ2R,2Lの光軸の上下方向のずれを示すピッチ角等を、各赤外線カメラ2R,2L毎に算出する。
例えば、車両挙動推定部13は、赤外線画像上にて検知される静止対象物の相対移動軌跡を近似する近似直線LMVを算出する。そして、各赤外線カメラ2R,2Lの光軸を基準とするカメラ座標系(Xc,Yc,Zc)に対して、近似直線LMVをXc−Zc平面に投影した直線とZc軸とのなす角をパン角とし、近似直線LMVをYc−Zc平面に投影した直線とZc軸とのなす角をピッチ角とする。
なお、カメラ座標系(Xc,Yc,Zc)は、例えば上記数式(1)に示すように算出され、自車両10の前部における赤外線カメラ2R,2Lの取り付け位置の中点の位置を原点Oとし、赤外線画像上の座標は、赤外線画像上の中心を原点として水平方向をx方向、垂直方向をy方向として設定されている。また、座標(xc,yc)は、基準画像(例えば、右画像)上の座標(x,y)を、赤外線カメラ2Rの取付位置と、実空間の原点Oとの相対位置関係に基づいて、実空間の原点Oと画像データの中心とを一致させて得た仮想的な画像上の座標に変換して得た座標である。また、下記数式(1)において、自車両10と対象物との距離つまり赤外線カメラ2R,2Lのレンズと対象物との距離(対象物距離)z(m)は、カメラ基線長、つまり赤外線カメラ2R,2Lの各撮像素子の中心位置間の水平距離D(m)と、カメラ焦点距離、つまり赤外線カメラ2R,2Lの各レンズの焦点距離f(m)と、画素ピッチp(m/pixel)と、画素数単位での視差Δd(pixel)とに基づき算出される。
各除外領域設定部14R,14Lは、各判定領域設定部12R、12Lにて設定された各判定領域内において、輝度値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定輝度値以上となる高輝度領域を、後述する汚れ判定の対象領域から除外する。
また、各除外領域設定部14R,14Lは、物体判定部15により検知された所定の発熱体(例えば、他車両の排気管や自動販売機等)が各赤外線画像上の判定領域内に存在する場合には、この発熱体を含む領域を除外領域として設定する。
各輝度分散算出部16R,16Lは、各判定領域設定部12R,12Lにて設定された各判定領域内において各除外領域設定部14R,14Lにて設定された除外領域以外の領域に対して、先ず、輝度値に対する度数分布である輝度ヒストグラムを算出し、輝度ヒストグラムの分散(輝度分散)を算出する。
各カメラ汚れ判定部17R,17Lは、例えば所定時間内に亘って各輝度分散算出部16R,16Lにより算出された複数の輝度分散の平均値(輝度分散平均値)に基づき、各赤外線カメラ2R,2Lに汚れが発生したか否かを判定する。
例えば、各カメラ汚れ判定部17R,17Lは、算出した輝度分散平均値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定分散閾値(例えば、ヒステリシスを有する値等)未満であるか否かを、各赤外線カメラ2R,2L毎に独立して判定する。そして、この判定結果が「YES」の場合には、各赤外線カメラ2R,2Lの光学系に汚れが発生することで赤外線画像のコントラスト(明暗差)が低下することに伴い輝度分散値が低下したと判断して、各赤外線カメラ2R,2Lの汚れ判定結果として汚れ有りと判定する。一方、この判定結果が「NO」の場合には、各赤外線カメラ2R,2Lの汚れ判定結果として汚れ無しと判定する。
なお、各カメラ汚れ判定部17R,17Lは、輝度分散平均値を算出する際に、車両状態量センサ21から出力される検出信号に基づき、複数の輝度分散のうちから適宜の輝度分散を選択し、選択した輝度分散のみから輝度分散平均値を算出することが可能とされている。
例えば、各カメラ汚れ判定部17R,17Lは、車両の走行挙動が相対的に安定している状態で算出された輝度分散を選択したり、車速が所定車速以上の状態で算出された輝度分散を選択することにより、例えば相対的に低車速の状態で自車両と先行車両や構造物等との間の相対距離が相対的に短くなることによって、赤外線画像上において単一の先行車両や構造物等の面積が過剰に増大し、輝度分散が低下してしまうことを抑制することができる。
カメラ汚れ比較判定部18は、各赤外線カメラ2R,2L毎に算出した輝度分散平均値を比較して、各赤外線カメラ2R,2Lに汚れが発生したか否かを判定する。
例えば、カメラ汚れ比較判定部18は、第1赤外線カメラ2Rの輝度分散平均値と第2赤外線カメラ2Lの輝度分散平均値との差分が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定差分閾値(例えば、ヒステリシスを有する値等)未満であるか否かを判定する。そして、この判定結果が「YES」の場合には、第1または第2赤外線カメラ2R,2Lの光学系に汚れが発生することで、一方の赤外線画像のコントラスト(明暗差)が他方の赤外線画像のコントラストに比べて相対的に低下することに伴い、輝度分散平均値の差分が増大したと判断して、汚れ比較判定結果として、第1および第2赤外線カメラ2R,2Lのうち一方は汚れ有り、他方は汚れ無しと判定する。
カメラ汚れ判定部17にて各赤外線カメラ2R,2Lに汚れ有りと判定された場合、または、カメラ汚れ比較判定部18にて第1赤外線カメラ2Rまたは第2赤外線カメラ2Lのうち何れか一方に汚れ有りと判定された場合、例えばスピーカ6を介した警報音や音声等の聴覚的警報や、例えば表示装置7を介した表示等の視覚的警報等が報知装置22から出力される。
なお、各カメラ汚れ判定部17R,17Lおよびカメラ汚れ比較判定部18は、天候判定部19の判定結果、例えば車両状態量センサ21のワイパースイッチ(ワイパーSW)から出力されるワイパーの作動のON/OFFに係る検出信号に基づく降雨や降雪等の天候状態に対する判定結果に応じて、各赤外線カメラ2R,2Lに汚れ有りと判定される状態であるか否かを判定し、この判定結果が「YES」の場合には、報知装置22による報知内容を変更したり、汚れの有無を判定する処理を一時的に停止するようになっている。
この変形例による撮像装置の異常検知装置は上記構成を備えており、次に、この撮像装置の異常検知装置の動作、特に、各赤外線カメラ2R,2Lの汚れの有無を判定する処理について添付図面を参照しながら説明する。
まず、図9に示すステップS21においては、各赤外線カメラ2R,2Lから赤外線画像を取得する。
次に、ステップS22においては、取得した各赤外線画像上において、少なくとも道路Rおよび道路の境界部BRおよび背景部Bを含む所定の判定領域を設定する。
次に、ステップS23においては、所定の判定領域内において、輝度値が所定輝度値以上となる高輝度領域を除外領域として設定する。
次に、ステップS24においては、各判定領域内において除外領域以外の領域に対して輝度ヒストグラムを算出し、輝度ヒストグラムの分散(輝度分散)を算出する。
次に、ステップS25においては、各赤外線カメラ2R,2L毎に所定時間内に亘って算出された複数の輝度分散の平均値(輝度分散平均値)を算出する。
次に、ステップS26においては、前回の処理にて第1赤外線カメラ2Rに対する汚れ判定結果として汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS29に進む。
一方、この判定結果が「YES」の場合には、ステップS27に進む。
そして、ステップS27においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL1未満であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS31に進む。
一方、この判定結果が「YES」の場合には、ステップS28に進む。
そして、ステップS28においては、第1赤外線カメラ2Rの汚れ判定結果として汚れ有りを設定し、後述するステップS31に進む。
また、ステップS29においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU1以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS31に進む。
一方、この判定結果が「YES」の場合には、ステップS30に進む。
そして、ステップS30においては、第1赤外線カメラ2Rの汚れ判定結果として汚れ無しを設定し、ステップS31に進む。
そして、ステップS31においては、前回の処理にて汚れ比較判定結果として第1赤外線カメラ2Rの汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS35に進む。
一方、この判定結果が「YES」の場合には、ステップS32に進む。
ステップS32においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL2未満であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS38に進む。
一方、この判定結果が「YES」の場合には、ステップS33に進む。
そして、ステップS33においては、第2赤外線カメラ2Lの輝度分散平均値から第1赤外線カメラ2Rの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定の上限差分閾値Vdmax以上か否かを判定する。
この判定結果が「NO」の場合には、後述するステップS38に進む。
一方、この判定結果が「YES」の場合には、ステップS34に進む。
そして、ステップS34においては、第1赤外線カメラ2Rの汚れ比較判定結果として汚れ有りを設定し、後述するステップS38に進む。
また、ステップS35においては、第2赤外線カメラ2Lの輝度分散平均値から第1赤外線カメラ2Rの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定の下限差分閾値Vdmin未満か否かを判定する。
この判定結果が「NO」の場合には、後述するステップS37に進む。
一方、この判定結果が「YES」の場合には、ステップS36に進む。
そして、ステップS36においては、第1赤外線カメラ2Rの汚れ比較判定結果として汚れ無しを設定し、後述するステップS38に進む。
また、ステップS37においては、第1赤外線カメラ2Rの輝度分散平均値が、予め設定あるいは適宜に変更される第1赤外線カメラ2Rの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU2以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS38に進む。
一方、この判定結果が「YES」の場合には、上述したステップS36に進む。
次に、ステップS38においては、前回の処理にて第2赤外線カメラ2Lに対する汚れ判定結果として汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS41に進む。
一方、この判定結果が「YES」の場合には、ステップS39に進む。
そして、ステップS39においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL1未満であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS43に進む。
一方、この判定結果が「YES」の場合には、ステップS40に進む。
そして、ステップS40においては、第2赤外線カメラ2Lの汚れ判定結果として汚れ有りを設定し、後述するステップS43に進む。
また、ステップS41においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU1以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS43に進む。
一方、この判定結果が「YES」の場合には、ステップS42に進む。
そして、ステップS42においては、第2赤外線カメラ2Lの汚れ判定結果として汚れ無しを設定し、ステップS43に進む。
そして、ステップS43においては、前回の処理にて汚れ比較判定結果として第2赤外線カメラ2Lの汚れ無しと判定されたか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS47に進む。
一方、この判定結果が「YES」の場合には、ステップS44に進む。
ステップS44においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の下限分散閾値VL2未満であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS50に進む。
一方、この判定結果が「YES」の場合には、ステップS45に進む。
そして、ステップS45においては、第1赤外線カメラ2Rの輝度分散平均値から第2赤外線カメラ2Lの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定の上限差分閾値Vdmax以上か否かを判定する。
この判定結果が「NO」の場合には、後述するステップS50に進む。
一方、この判定結果が「YES」の場合には、ステップS46に進む。
そして、ステップS26においては、第2赤外線カメラ2Lの汚れ比較判定結果として汚れ有りを設定し、後述するステップS50に進む。
また、ステップS47においては、第1赤外線カメラ2Rの輝度分散平均値から第2赤外線カメラ2Lの輝度分散平均値を減算して得た値が、予め設定あるいは適宜に変更される各赤外線カメラ2R,2Lの輝度ゲインや輝度レベル等に応じて設定された所定の下限差分閾値Vdmin未満か否かを判定する。
この判定結果が「NO」の場合には、後述するステップS49に進む。
一方、この判定結果が「YES」の場合には、ステップS48に進む。
そして、ステップS48においては、第2赤外線カメラ2Lの汚れ比較判定結果として汚れ無しを設定し、後述するステップS50に進む。
また、ステップS49においては、第2赤外線カメラ2Lの輝度分散平均値が、予め設定あるいは適宜に変更される第2赤外線カメラ2Lの輝度ゲインや輝度レベル等に応じて設定された所定の上限分散閾値VU2以上であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS50に進む。
一方、この判定結果が「YES」の場合には、上述したステップS48に進む。
そして、ステップS50においては、第1赤外線カメラ2Rの汚れ判定結果と、第1赤外線カメラ2Rの汚れ比較判定結果と、第2赤外線カメラ2Lの汚れ判定結果と、第2赤外線カメラ2Lの汚れ比較判定結果とのうち、少なくとも何れか1つの判定結果にて汚れ有りと判定されたか否かを判定する。
この判定結果が「YES」の場合には、ステップS51に進み、このステップS51において、汚れ判定結果に汚れ有りを設定、つまり各第1赤外線カメラ2R,2Lの少なくとも何れか1つに汚れ有りとして、後述するステップS54に進む。
一方、この判定結果が「NO」の場合には、ステップS52に進む。
ステップS52においては、第1赤外線カメラ2Rの汚れ判定結果と、第1赤外線カメラ2Rの汚れ比較判定結果と、第2赤外線カメラ2Lの汚れ判定結果と、第2赤外線カメラ2Lの汚れ比較判定結果とのすべての判定結果にて汚れ無しと判定されたか否かを判定する。
この判定結果が「YES」の場合には、ステップS53に進み、このステップS33において、汚れ判定結果に汚れ無しを設定、つまり各第1赤外線カメラ2R,2Lに汚れ無しとして、後述するステップS54に進む。
一方、この判定結果が「NO」の場合には、一連の処理を終了する。
そして、ステップS54においては、汚れ判定結果を報知装置22を介して自車両の運転者等に報知し、一連の処理を終了する。
上述したように、この変形例による撮像装置の異常検知装置によれば、各赤外線カメラ2R,2Lの設置状態に関わらずに各赤外線カメラ2R,2Lの異常の有無を相対的に検知することができる。さらに、各複数の各赤外線カメラ2R,2L毎の画像同士間の輝度分散平均値の差分に加えて、各複数の各赤外線カメラ2R,2L毎の画像の輝度分散平均値に応じて撮像装置の異常の有無を検知することから、例えば各複数の各赤外線カメラ2R,2L毎の画像同士間の輝度分散平均値の差分が所定値以下であって、対応する各赤外線カメラ2R,2Lが正常であると判定される場合であっても、複数の画像の各輝度分散平均値が所定値未満である場合には、対応する赤外線カメラ2R,2Lが異常状態であると判定することができる。
本発明の実施の形態に係る撮像装置の異常検知装置の構成を示すブロック図である。 図1に示す撮像装置の異常検知装置を搭載した車両を示す図である。 図1に示す画像処理ユニットの構成図である。 赤外線画像上に設定した所定の判定領域の一例を示す図である。 図4に示す判定領域内に設定した除外領域の一例を示す図である。 汚れの有無に応じた赤外線画像と輝度ヒストグラムとの変化の一例を示す図である。 図1に示す撮像装置の異常検知装置の動作を示すフローチャートである。 本実施形態の変形例に係る画像処理ユニットに構成図である。 本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。 本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。 本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。 本実施形態の変形例に係る撮像装置の異常検知装置の動作を示すフローチャートである。
符号の説明
1 画像処理ユニット
2R,2L 赤外線カメラ(撮像装置)
3 ヨーレートセンサ
4 車速センサ
5 ブレーキセンサ
6 スピーカ
7 表示装置
10 自車両
12R,12L 判定領域設定部(輝度値算出手段)
16R,16L 輝度分散算出部(輝度分散値算出手段)
17R,17L カメラ汚れ判定部(異常検知手段)
18 カメラ汚れ比較判定部(異常検知手段)

Claims (3)

  1. 車両に搭載されて車両周辺を撮像する撮像装置の異常の有無を検知する撮像装置の異常検知装置であって、
    複数の前記撮像装置の撮像により得られた各複数の撮像装置毎の画像の輝度値に基づき前記各複数の撮像装置毎の画像の輝度分散値を算出する輝度分散値算出手段と、
    前記輝度分散値算出手段により算出された複数の前記輝度分散値に応じて前記撮像装置の異常の有無を検知する異常検知手段と
    を備えることを特徴とする撮像装置の異常検知装置。
  2. 前記輝度分散値算出手段により算出された前記輝度分散値に応じて、前記各複数の撮像装置毎の画像同士間の前記輝度分散値の差分を算出する分散値差分算出手段を備え、
    前記異常検知手段は、前記分散値差分算出手段により算出された前記差分に応じて前記撮像装置の異常の有無を検知することを特徴とする請求項1に記載の撮像装置の異常検知装置。
  3. 前記異常検知手段は、前記分散値差分算出手段により算出された前記差分に加えて、前記輝度分散値算出手段により算出された前記輝度分散値に応じて前記撮像装置の異常の有無を検知することを特徴とする請求項2に記載の撮像装置の異常検知装置。

JP2004347823A 2004-11-30 2004-11-30 撮像装置の異常検知装置 Expired - Fee Related JP4130435B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004347823A JP4130435B2 (ja) 2004-11-30 2004-11-30 撮像装置の異常検知装置
US11/287,739 US7619668B2 (en) 2004-11-30 2005-11-28 Abnormality detecting apparatus for imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004347823A JP4130435B2 (ja) 2004-11-30 2004-11-30 撮像装置の異常検知装置

Publications (2)

Publication Number Publication Date
JP2006157740A true JP2006157740A (ja) 2006-06-15
JP4130435B2 JP4130435B2 (ja) 2008-08-06

Family

ID=36566962

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004347823A Expired - Fee Related JP4130435B2 (ja) 2004-11-30 2004-11-30 撮像装置の異常検知装置

Country Status (2)

Country Link
US (1) US7619668B2 (ja)
JP (1) JP4130435B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007293672A (ja) * 2006-04-26 2007-11-08 Toyota Motor Corp 車両用撮影装置、車両用撮影装置の汚れ検出方法
JP2010126130A (ja) * 2008-12-01 2010-06-10 Toyota Motor Corp 異常診断装置
JP2010130549A (ja) * 2008-11-28 2010-06-10 Saxa Inc 撮影装置の汚れを検知する汚れ検知装置及び同検知方法
JP2010239275A (ja) * 2009-03-30 2010-10-21 Oki Networks Co Ltd 監視装置
JP2014006243A (ja) * 2012-05-28 2014-01-16 Ricoh Co Ltd 異常診断装置、異常診断方法、撮像装置、移動体制御システム及び移動体
US11250553B2 (en) 2019-09-20 2022-02-15 Denso Ten Limited Deposit detection device and deposit detection method

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4124246B2 (ja) * 2006-06-30 2008-07-23 ソニー株式会社 撮像装置、カメラコントロールユニット、ビデオカメラシステム及び警告情報伝送方法
JP4914234B2 (ja) * 2007-01-31 2012-04-11 富士重工業株式会社 先行車両検出装置
US8155826B2 (en) * 2007-03-30 2012-04-10 Aisin Aw Co., Ltd. Vehicle behavior learning apparatuses, methods, and programs
JP2009060404A (ja) * 2007-08-31 2009-03-19 Denso Corp 映像処理装置
TW200922659A (en) * 2007-11-22 2009-06-01 Univ Nat Central Carrier device of guide toy with automatic positioning functions
TW200922660A (en) * 2007-11-22 2009-06-01 Univ Nat Central Interactive guide toy vehicle apparatus
US8208043B2 (en) * 2008-05-09 2012-06-26 Aptina Imaging Corporation Lens cleaning warning system and method
US8736677B2 (en) * 2008-08-07 2014-05-27 Kde Corporation Inspection system
JP4858574B2 (ja) * 2009-05-19 2012-01-18 トヨタ自動車株式会社 物体検出装置
US9043129B2 (en) * 2010-10-05 2015-05-26 Deere & Company Method for governing a speed of an autonomous vehicle
US9589193B2 (en) * 2012-07-27 2017-03-07 Nissan Motor Co., Ltd Three-dimensional object detection device and three-dimensional object detection method
US10678259B1 (en) * 2012-09-13 2020-06-09 Waymo Llc Use of a reference image to detect a road obstacle
DE102015112682A1 (de) * 2015-08-03 2017-02-09 Connaught Electronics Ltd. Verfahren zum Betreiben eines Kamerasystems mit einer plenoptischen Kamera, Kamerasystem und Kraftfahrzeug
US10339812B2 (en) 2017-03-02 2019-07-02 Denso International America, Inc. Surrounding view camera blockage detection
CN111277822B (zh) * 2017-04-08 2021-08-24 广东弘景光电科技股份有限公司 摄像模组镜头表面检测装置
JP6751691B2 (ja) * 2017-06-15 2020-09-09 ルネサスエレクトロニクス株式会社 異常検出装置及び車両システム
CN108446078B (zh) * 2018-03-25 2020-12-11 广州诺尔信息科技有限公司 一种信息的存储控制方法
CN108459719B (zh) * 2018-03-25 2021-04-16 东莞市华睿电子科技有限公司 一种隧道环境下的热门景点虚拟场景推送方法
CN108446257B (zh) * 2018-03-25 2021-02-05 天津创发科技有限公司 一种应用于轨道交通的电能数据处理方法
CN108470059B (zh) * 2018-03-25 2021-01-26 杭州衣科信息技术股份有限公司 一种移动终端的图片压缩控制方法
CN108388350B (zh) * 2018-03-25 2021-02-19 东莞市华睿电子科技有限公司 一种基于智能座椅的混合场景生成方法
CN108470060B (zh) * 2018-03-25 2020-12-29 深圳市鼎山科技有限公司 一种移动终端的垃圾数据处理控制方法
US11790670B2 (en) 2020-03-18 2023-10-17 Honda Motor Co., Ltd. Apparatus, method, and program for determining abnormality in internal devices
JP7319597B2 (ja) * 2020-09-23 2023-08-02 トヨタ自動車株式会社 車両運転支援装置
JP7327355B2 (ja) * 2020-11-05 2023-08-16 トヨタ自動車株式会社 地図更新装置及び地図更新方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IT1129509B (it) * 1980-01-14 1986-06-04 Tasco Spa Procedimento ed apparecchiatura per il ritrovamento in tempo reale di difetti in oggetti industriali
JP3456215B2 (ja) 1992-07-06 2003-10-14 株式会社ニコン カメラの測光装置
US6148097A (en) * 1995-06-07 2000-11-14 Asahi Kogaku Kogyo Kabushiki Kaisha Optical member inspecting apparatus and method of inspection thereof
JPH08313632A (ja) 1995-05-19 1996-11-29 Omron Corp 警報発生装置および方法,ならびにこの警報発生装置を搭載した車両
JP4135123B2 (ja) 1998-05-13 2008-08-20 日産自動車株式会社 表示処理装置
JP3716623B2 (ja) 1998-07-09 2005-11-16 日産自動車株式会社 温体検出装置
JP3727798B2 (ja) 1999-02-09 2005-12-14 株式会社東芝 画像監視システム
JP3515926B2 (ja) 1999-06-23 2004-04-05 本田技研工業株式会社 車両の周辺監視装置
JP3760068B2 (ja) * 1999-12-02 2006-03-29 本田技研工業株式会社 画像認識装置
JP2001211449A (ja) 2000-01-27 2001-08-03 Honda Motor Co Ltd 車両用画像認識装置
JP2001211466A (ja) 2000-01-27 2001-08-03 Toshiba Corp 自己診断機能を有する画像処理システム
JP2001351200A (ja) 2000-06-09 2001-12-21 Nissan Motor Co Ltd 車載用物体検知装置
JP4167401B2 (ja) * 2001-01-12 2008-10-15 富士フイルム株式会社 ディジタル・カメラおよびその動作制御方法
JP4511066B2 (ja) * 2001-03-12 2010-07-28 オリンパス株式会社 撮像装置
JP4104867B2 (ja) 2002-01-18 2008-06-18 本田技研工業株式会社 ナイトビジョンシステム
DE10301468B4 (de) * 2002-01-18 2010-08-05 Honda Giken Kogyo K.K. Vorrichtung zur Beobachtung der Umgebung eines Fahrzeugs

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007293672A (ja) * 2006-04-26 2007-11-08 Toyota Motor Corp 車両用撮影装置、車両用撮影装置の汚れ検出方法
JP2010130549A (ja) * 2008-11-28 2010-06-10 Saxa Inc 撮影装置の汚れを検知する汚れ検知装置及び同検知方法
JP2010126130A (ja) * 2008-12-01 2010-06-10 Toyota Motor Corp 異常診断装置
JP2010239275A (ja) * 2009-03-30 2010-10-21 Oki Networks Co Ltd 監視装置
JP2014006243A (ja) * 2012-05-28 2014-01-16 Ricoh Co Ltd 異常診断装置、異常診断方法、撮像装置、移動体制御システム及び移動体
US11250553B2 (en) 2019-09-20 2022-02-15 Denso Ten Limited Deposit detection device and deposit detection method

Also Published As

Publication number Publication date
JP4130435B2 (ja) 2008-08-06
US20060114318A1 (en) 2006-06-01
US7619668B2 (en) 2009-11-17

Similar Documents

Publication Publication Date Title
JP4130435B2 (ja) 撮像装置の異常検知装置
JP4130434B2 (ja) 撮像装置の異常検知装置
US11308720B2 (en) Vehicular imaging system
US7957559B2 (en) Apparatus and system for recognizing environment surrounding vehicle
JP5022609B2 (ja) 撮像環境認識装置
JP5421072B2 (ja) 接近物体検知システム
JP4539415B2 (ja) 画像処理装置
JP5637302B2 (ja) 走行支援装置及びその隣接車両検出方法
JP2001091217A (ja) 物体認識装置
JP4980970B2 (ja) 撮像手段の調整装置および物体検出装置
JP3092105B1 (ja) フェールセーフ機能を有する車外監視装置
JP6032034B2 (ja) 物体検知装置
KR20200000953A (ko) 어라운드 뷰 모니터링 시스템 및 카메라 공차 보정 방법
JP2007182201A (ja) 車線変更支援装置
JP3729005B2 (ja) 車両の後方監視装置
JP4539400B2 (ja) ステレオカメラの補正方法、ステレオカメラ補正装置
US11760275B2 (en) Image pickup system and image pickup device
JP2010257217A (ja) 車両周辺監視装置
JP4040620B2 (ja) 車両周辺監視装置
JP3532896B2 (ja) スミア検出方法及びこのスミア検出方法を用いた画像処理装置
JP3982473B2 (ja) 検出可能領域判定装置及び検出可能領域判定方法
JP2000030181A (ja) 路面異常検出装置及びそれを用いた衝突警報装置
US11182626B2 (en) Attached object detection apparatus
JP2004343303A (ja) 車載カメラの露光制御装置
JPH04262499A (ja) 車間距離検出装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080403

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080513

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080521

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110530

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110530

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130530

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130530

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140530

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees