以下、図面を参照して、本発明に係る物体検出装置の実施の形態を説明する。なお、各図において同一又は相当する要素については同一の符号を付し、重複する説明を省略する。
本実施の形態では、本発明に係る物体検出装置を、車両に搭載される異常領域検知装置に適用する。本実施の形態に係る異常領域検知装置は、カメラで撮像した入力カラー画像と背景カラー画像とを比較し、その比較結果から入力カラー画像において背景カラー画像には存在しない異常領域(背景上に新たに出現した物体の領域)を検出し、その異常領域情報を物体認識装置(異常と検出された領域の物体の種類、大きさなどを認識する装置)などに出力する。本実施の形態には、18個の形態があり、第1の実施の形態が基本となる形態であり、第2の実施の形態が背景カラー画像の選択方法を示す形態であり、第3〜第18の実施の形態が正常色変化の設定方法を示す形態である。
図1を参照して、第1の実施の形態に係る異常領域検知装置1について説明する。図1は、第1の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置1は、入力カラー画像と背景カラー画像間の対応する画素毎にRGB[RedGreen Blue]の各値について比率(色変化傾向に相当)を算出し、画素毎に算出された色変化傾向と正常な色変化傾向(色変化傾向の基準値に相当)との類似度に基づいて正常/異常を判定する。そして、異常領域検知装置1では、異常と判定された画素からなる領域の情報を出力する。
異常領域検知装置1は、カメラ1a及びECU[Electronic Control Unit]1bを備えており、ECU1bに背景カラー画像データベース1c、色変化算出部1d、正常色変化データベース1e、類似判定部1fを有している。
なお、第1の実施の形態では、色変化算出部1dが特許請求の範囲に記載する色変化傾向算出手段に相当し、正常色変化データベース1eが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部1fが特許請求の範囲に記載する物体検出手段に相当する。
カメラ1aは、CCD[Charge Coupled Device]などを用いた自車両の周辺(少なくとも前方であり、必要に応じて側方、後方も)を撮像するカメラである。カメラ1aは、自車両の所定の位置(障害物検出などを行う方向に応じた位置)に取り付けられる。カメラ1aでは、自車両周辺を撮像し、その撮像したカラー画像(RGBによる画像)を取得する。カメラ1aでは、一定時間毎に、その撮像画像のデータを画像信号としてECU1bに送信する。
ECU1bは、CPU[CentralProcessing Unit]、ROM[Read Only Memory]、RAM[Random Access Memory]などからなる電子制御ユニットであり、異常領域検知装置1を統括制御する。ECU1bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部1d、類似判定部1fが構成される。また、ECU1bには、記憶装置の所定の領域に背景カラー画像データベース1c、正常色変化データベース1eが構築されている。ECU1bでは、一定時間毎にカメラ1aからの画像信号を受信し、各部1d、1fでの処理を行い、異常領域の情報を異常領域情報信号として出力する。
背景カラー画像データベース1cには、各場所においてカメラでそれぞれ撮像した背景カラー画像が格納されている。背景カラー画像は、各場所での背景以外の物体が全く含まれていない画像(異常領域を含まない画像)である。背景カラー画像を撮像する際は、車両に搭載され、自車両と同様の取り付け位置、取り付け角度のカメラで撮像する。
なお、背景カラー画像は、1つの照明条件(例えば、晴れの日のもの)だけでもよいし、あるいは、検知精度を向上させるために異なる照明条件(例えば、天候(晴れの日、雨の日、曇りの日、雪の日など)、時間(夜、夜明け、朝、昼、夕方など)、影の発生)での複数の背景カラー画像でもよい。場所毎に異なる照明条件での複数の背景カラー画像がある場合、入力カラー画像を撮像したときの照明条件に最も近いものを選択する。
色変化算出部1dでは、カメラ1aで撮像したカラー画像(入力カラー画像)が入力されると、背景カラー画像データベース1cからその入力カラー画像を撮像した場所と同じ場所で撮像した背景カラー画像を抽出する。この際、車両に搭載されているGPS受信装置やナビゲーション装置などで検知した現在位置に基づいて背景カラー画像データベース1cを検索する。
色変化算出部1dでは、入力カラー画像と背景カラー画像間で画像上の位置が対応する画素毎に、入力カラー画像の画素のR値/背景カラー画像の画素のR値、入力カラー画像の画素のG値/背景カラー画像の画素のG値、入力カラー画像の画素のB値/背景カラー画像の画素のB値をそれぞれ算出し、その3つの比を1つの配列にして1次元配列(1つのベクトル)とする。この1次元配列を色変化とする。なお、入力カラー画像の各値/背景カラー画像の各値の比は、分母と分子の値を逆にしたものでもよい。
ちなみに、背景における局所的な影の発生や天候の変化による色変化と入力カラー画像に出現した物体による色変化とは、大きさな差がある。そのため、この色変化を利用することにより、入力カラー画像と背景カラー画像との間の画素比較において背景の照明条件だけが変わったものかあるいは背景に物体が出現したものかを判別することができる。
正常色変化データベース1eには、正常な色変化(正常色変化)が格納されたデータベースである。正常色変化は、想定される照明条件(例えば、天候、時間、影の発生)を変えた場合の背景カラー画像間(特に、道路領域の画像間)の対応する各画素から算出した色変化を示すものである。正常色変化は、多数の画素の色変化群の占める範囲(R値の比、G値の比、B値の比を3軸とした色変化空間の場合には立体的な領域の境界)を示すものでもよいし、あるいは、多数の色変化群の集合でもよい。
色変化算出部1dで算出される色変化が正常色変化内であれば、入力カラー画像と背景カラー画像とで照明条件が異なっていても(画像全体に異なっている場合でもあるいは画像中の局所的に異なっている場合でも)、その色変化を示す画素を背景(正常)と判断できる。逆に、色変化算出部1dで算出される色変化が正常色変化外であれば、背景の照明条件を変えただけでは考えられない色変化であり、その色変化を示す画素は背景には通常存在しないもの(異常)と判断できる。
なお、正常色変化は、1つだけ設定されてもよいし、あるいは、検知精度を向上させるために情景(例えば、街路、山道、雪道)毎や場所毎に設定されてもよい。正常色変化は、1つの照明条件だけで設定されてもよいし、あるいは、検知精度を向上させるために異なる照明条件での複数の正常色変化が設定されてもよい。異なる照明条件での複数の正常色変化がある場合、入力カラー画像を撮像したときの照明条件に最も近いものを選択する。
類似判定部1fでは、入力カラー画像と背景カラー画像間で画像上の位置が対応する画素毎に、色変化算出部1dで算出された色変化と正常色変化データベース1eに格納されている正常色変化の類似度を算出する。類似度としては、色変化算出部1dで算出された色変化と正常色変化(例えば、色変化の範囲の中心点)との距離を算出する。距離としては、例えば、ユークリッド距離を利用する。
そして、類似判定部1fでは、画素毎に、算出した距離が閾値以下か否かを判定する。この閾値は、正常色変化を示す色変化の範囲に応じた値に設定される。類似判定部1fでは、距離が閾値以下の場合、正常と判定する。一方、類似判定部1fでは、距離が閾値より大きい場合、異常と判定する。さらに、類似判定部1fでは、この異常と判定された画素の情報を用いて、その画素群で所定の大きさ以上(ノイズなどで異常と判定された画素を除外)を持つ領域の情報を生成する。なお、この正常/異常の判定では、色変化算出部1dで算出された色変化が正常色変化の範囲に含まれるか否かを厳密に判定してもよい。また、類似度としては、距離以外でもよい。
また、正常色変化として多数の色変化群の集合として設定されている場合、類似判定部1fでは、画素毎に、正常色変化の多数の色変化とそれぞれ類似判定を行い、正常色変化の多数の色変化の中に少なくとも1つの色変化と類似していると判定した場合には正常と判定し、正常色変化の多数の色変化の中に類似している色変化がないと判定した場合には異常と判定する。
図1を参照して、異常領域検知装置1における動作を説明する。特に、ECU1bにおける処理については図2のフローチャートに沿って説明する。図2は、第1の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ1aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU1bに送信している。ECU1bでは、その画像信号を受信し、入力カラー画像を入力する(S10)。
入力カラー画像を入力すると、ECU1bでは、背景カラー画像データベース1cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S11)。また、ECU1bでは、正常色変化データベース1eから正常色変化を読み出す(S12)。
ECU1bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S13)。そして、ECU1bでは、画素毎に、算出した色変化と読み出した正常色変化との類似度(距離)を算出し、その類似度が高い場合(距離が閾値以下の場合)には正常と判定し、類似度が低い場合(距離が閾値より大きい場合)には異常と判定する(S14)。さらに、ECU1bでは、異常と判定した画素により異常領域の情報を生成する(S15)。
この異常領域検知装置1によれば、背景における照明条件の変化を考慮した正常色変化を設定し、その正常色変化に基づいて各画素の色変化が正常/異常かを判定することにより、照明条件が変化した場合でも背景に対して新たに出現した物体の情報だけを高精度に検出することができる。
図3を参照して、第2の実施の形態に係る異常領域検知装置2について説明する。図3は、第2の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置2は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な背景カラー画像を抽出する機能を有する点で異なる。異常領域検知装置2では、複数の背景候補画像の中から色変化のばらつきの最も少ない背景候補画像を背景カラー画像として抽出する。そのために、異常領域検知装置2は、カメラ2a及びECU2bを備えており、ECU2bに背景候補画像データベース2c、評価対象画像抽出部2d、色変化算出部2e、分散算出部2f、最小分散評価画像抽出部2g、色変化算出部2h、正常色変化データベース2i、類似判定部2jを有している。なお、カメラ2aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第2の実施の形態では、色変化算出部2hが特許請求の範囲に記載する色変化傾向算出手段に相当し、正常色変化データベース2iが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部2jが特許請求の範囲に記載する物体検出手段に相当する。
ECU2bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置2を統括制御する。ECU2bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、評価対象画像抽出部2d、色変化算出部2e、分散算出部2f、最小分散評価画像抽出部2g、色変化算出部2h、類似判定部2jが構成される。また、ECU2bには、記憶装置の所定の領域に背景候補画像データベース2c、正常色変化データベース2iが構築されている。ECU2bでは、一定時間毎にカメラ2aからの画像信号を受信し、各部2d,2e,2f,2g,2h,2jでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、色変化算出部2h、正常色変化データベース2i、類似判定部2jは、第1の実施の形態で説明した色変化算出部1d、正常色変化データベース1e、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。
背景候補画像データベース2cには、各場所におうてカメラでそれぞれ撮像した背景カラー画像の候補となる背景候補画像が格納されている。背景候補画像は、各場所での背景以外の物体が全く含まれていない画像(異常領域を含まない画像)であり、同じ場所で各種照明条件(例えば、天候、時間、影の発生)でそれぞれ撮像された画像である。
評価対象画像抽出部2dでは、背景候補画像データベース2cから、所定の場所の背景候補画像群の中から1枚の背景候補画像を評価対象画像として順次読み出するとともに、その評価対象画像以外の背景候補画像を読み出す。ちなみに、評価対象画像が読み出される毎に色変化算出部2eと分散算出部2fの処理が行われ、全ての背景候補画像が評価対象画像として読み出され、全ての評価対象画像に対して色変化算出部2eと分散算出部2fの処理が行われた後に最小分散評価画像抽出部2gの処理が行われる。
色変化算出部2eでは、評価対象画像が読み出されると、評価対象画像以外の背景候補画像毎に、評価対象画像と背景候補画像間で画像上の位置が対応する画素毎に、評価対象画像のR値/背景候補画像のR値、評価対象画像のG値/背景候補画像のG値、評価対象画像のB値/背景候補画像のB値をそれぞれ算出し、その3つの比を1つの配列にして1次元配列とする。
分散算出部2fでは、評価対象画像以外の背景候補画像毎に、色変化算出部2eで算出した画像中の全ての画素についての色変化(比の一次元配列)の分散を算出する。そして、分散算出部2fでは、評価対象画像以外の背景候補画像の分散を全て加算し、その加算値を評価対象画像についての分散統合結果とする。
最小分散評価画像抽出部2gでは、分散算出部2fで算出した全ての評価対象画像の分散統合結果を比較し、分散統合結果が最少となる評価対象画像を背景カラー画像として抽出する。
図3を参照して、異常領域検知装置2における動作を説明する。特に、ECU2bにおける処理については図4のフローチャートに沿って説明する。図4は、第2の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
ECU2bでは、背景候補画像データベース2cから、所定の場所の背景候補画像群の中から評価対象画像として1枚の背景候補画像を読み出し、それ以外の背景候補画像も読み出す(S20)。そして、ECU2bでは、評価対象画像以外の背景候補画像毎に、評価対象画像と背景候補画像間で対応する画素毎に色変化を算出する(S21)。さらに、ECU2bでは、評価対象画像以外の背景候補画像毎に全ての画素の色変化の分散を算出し、その算出した評価対象画像以外の全ての背景候補画像についての分散を加算して統合する(S22)。
ECU2bでは、所定の場所の全ての背景候補画像を評価対象画像としたか否かを判定する(S23)。S23にて全ての背景候補画像を評価対象画像としていないと判定した場合、ECU2bでは、S20の処理に戻って、次の評価対象画像についての処理を行う。
S23にて全ての背景候補画像を評価対象画像としたと判定した場合、ECU2bでは、全ての評価対象画像の分散統合結果を比較し、分散統合結果が最小となる評価対象画像を背景カラー画像として抽出する(S24)。この背景カラー画像が、入力カラー画像と比較される。
ECU2bにおけるS25〜S29の各処理については、第1の実施の形態で説明したECU1bにおけるS10、S12〜S15と同様の処理なので、その説明を省略する。
この異常領域検知装置2によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置2によれば、各場所についての背景候補画像から色変化のばらつきの最も少ない背景候補画像を背景カラー画像として選択することにより、入力カラー画像と背景カラー画像との比較をより精度良く行うことができ、背景に対して新たに出現した物体の情報をより高精度に検出することができる。
ちなみに、背景カラー画像に照明状態が異なる領域(例えば、局所的な影)が複数ある場合と背景カラー画像全体の照明状態が同じ場合において、背景カラー画像と入力カラー画像との間で各画素の色変化を算出したときに、照明状態が異なる領域が複数ある場合には複数の正常な色変化が存在し、照明状態が同じ場合には1つの正常な色変化が存在することになる。このような複数の正常な色変化が存在する場合には、正常色変化の設定を行うときに(例えば、下記の第3〜18の実施の形態における正常色変化の設定方法で正常色変化を設定するときに)、正常な色変化を特定しにくくなる。そこで、この第2の実施の形態における背景カラー画像の選択画像で色変化のばらつきの少ない画像を背景カラー画像として選択することにより、正常色変化の設定を行うときに正常な色変化を特定し易い。
なお、カメラ2aで撮像された入力カラー画像が入力される毎にその撮像した場所の背景候補画像を用いて上記の背景カラー画像の選択処理を行ってもよいし、あるいは、前処理として、全ての場所(例えば、目的地までの各場所、背景候補画像データベースに格納されている全ての場所)について、各場所の背景候補画像を用いて上記の背景カラー画像の選択処理を予め行ってもよい。
図5を参照して、第3の実施の形態に係る異常領域検知装置3について説明する。図5は、第3の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置3は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置3では、入力カラー画像上でエッジ無し領域内画素から算出した色変化を正常色変化とする。そのために、異常領域検知装置3は、カメラ3a及びECU3bを備えており、ECU3bに背景カラー画像データベース3c、色変化算出部3d、エッジ無し画素抽出部3e、抽出画素対応色変化抽出部3f、類似判定部3gを有している。なお、カメラ3aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第3の実施の形態では、色変化算出部3dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部3d、エッジ無し画素抽出部3e及び抽出画素対応色変化抽出部3fが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部3gが特許請求の範囲に記載する物体検出手段に相当する。
ECU3bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置3を統括制御する。ECU3bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部3d、エッジ無し画素抽出部3e、抽出画素対応色変化抽出部3f、類似判定部3gが構成される。また、ECU3bには、記憶装置の所定の領域に背景カラー画像データベース3cが構築されている。ECU3bでは、一定時間毎にカメラ3aからの画像信号を受信し、各部3d,3e,3f,3gでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース3c、色変化算出部3d、類似判定部3gは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。
エッジ無画素抽出部3eでは、入力カラー画像をエッジ画像化する。エッジ画像化の方法としては、例えば、sobelフィルタを利用する。そして、エッジ無画素抽出部3eでは、エッジ画像上でエッジとなっていない画素を抽出する。
抽出画素対応色変化抽出部3fでは、色変化算出部3dで算出した全画素の色変化の中から、エッジ無画素抽出部3eで抽出した各画素についての色変化を抽出する。特に、道路領域内の画素を抽出するために、エッジ無画素抽出部3eで抽出した画素群の中で広い領域(閾値以上の画素数からなる領域)内の画素の色変化を抽出してもよい。そして、抽出画素対応色変化抽出部3fでは、その抽出した画素の色変化を用いて正常色変化を設定する。ここでは、その抽出した多数の画素についての色変化群を用いて、色変化群の占める範囲(R値の比、G値の比、B値の比を3軸とした色変化空間の場合の立体的な領域の境界)を設定してもよいし、あるいは、多数の色変化群の集合を設定してもよい。
図5を参照して、異常領域検知装置3における動作を説明する。特に、ECU3bにおける処理については図6のフローチャートに沿って説明する。図6は、第3の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ3aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU3bに送信している。ECU3bでは、その画像信号を受信し、入力カラー画像を入力する(S30)。
入力カラー画像を入力すると、ECU3bでは、背景カラー画像データベース3cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S31)。そして、ECU3bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S32)。
また、ECU3bでは、入力カラー画像のエッジ画像を生成する(S33)。そして、ECU3bでは、S32で生成した全画素の色変化の中からエッジ画像に基づいてエッジとなっていない画素に対応する色変化を抽出し、その抽出した色変化を正常色変化として設定する(S34)。
ECU3bにおけるS35、S36の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置3によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置3によれば、エッジの無い画素の色変化を用いて正常色変化を設定することにより、道路領域内の画素の色変化から高精度な正常色変化を設定できる。
ちなみに、車両に搭載されたカメラで撮像された画像では、エッジでない画素の領域が主に道路に相当する。また、入力カラー画像で道路に対応する画素とその画素に対応する背景カラー画像上の画素とからそれぞれ算出される色変化は、入力カラー画像と背景カラー画像の照明条件の違いにより発生する色変化のみが存在する。したがって、エッジでない画素に対応する色変化を正常色変化として利用でき、この色変化を利用することにより処理中の入力カラー画像と背景カラー画像の関係に適した正常色変化を設定できる。
図7を参照して、第4の実施の形態に係る異常領域検知装置4について説明する。図7は、第4の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置4は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置4では、入力カラー画像と背景カラー画像との色差のばらつきの小さい領域内の画素から算出した色変化を正常色変化とする。そのために、異常領域検知装置4は、カメラ4a及びECU4bを備えており、ECU4bに背景カラー画像データベース4c、色変化算出部4d、領域設定部4e、色差算出部4f、色差ばらつき閾値以下領域抽出部4g、領域内画素対応色変化抽出部4h、類似判定部4iを有している。なお、カメラ4aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第4の実施の形態では、色変化算出部4dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部4d、領域設定部4e、色差算出部4f、色差ばらつき閾値以下領域抽出部4g及び領域内画素対応色変化抽出部4hが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部4iが特許請求の範囲に記載する物体検出手段に相当する。
ECU4bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置4を統括制御する。ECU4bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部4d、領域設定部4e、色差算出部4f、色差ばらつき閾値以下領域抽出部4g、領域内画素対応色変化抽出部4h、類似判定部4iが構成される。また、ECU4bには、記憶装置の所定の領域に背景カラー画像データベース4cが構築されている。ECU4bでは、一定時間毎にカメラ4aからの画像信号を受信し、各部4d,4e,4f,4g,4h,4iでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース4c、色変化算出部4d、類似判定部4iは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。
領域設定部4eでは、入力カラー画像上に、画素値とは無関係にかつ想定する異常領域よりも大きな面積(閾値以上の面積)を持つ領域を設定する。ここでは、例えば、ランダムに生成した矩形や画像を格子状に分割したときの格子を端点とする矩形の領域を利用して領域を分割する。
色差算出部4fでは、領域設定部4eで設定した入力カラー画像上の領域毎に、領域内の各画素と対応する背景カラー画像上の各画素との色差を算出する。ここでは、対応する画素間でRGBの各値毎について差分値を算出する。
色差ばらつき閾値以下領域抽出部4gでは、領域設定部4eで設定した入力カラー画像上の領域毎に、領域内の全ての画素の色差の分散を算出する。そして、色差ばらつき閾値以下領域抽出部4gでは、領域設定部4eで設定した入力カラー画像の領域の中から、分散が閾値以下となる領域を抽出する。この閾値は、領域内の色差のばらつきが小さいと判定するための閾値である。
領域内画素対応色変化抽出部4hでは、色差ばらつき閾値以下領域抽出部4gで抽出した領域内の画素の色変化を用いて正常色変化を設定する。この正常色変化の設定方法は、第3の実施の形態と同様の方法である。
図7を参照して、異常領域検知装置4における動作を説明する。特に、ECU4bにおける処理については図8のフローチャートに沿って説明する。図8は、第4の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ4aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU4bに送信している。ECU4bでは、その画像信号を受信し、入力カラー画像を入力する(S40)。
入力カラー画像を入力すると、ECU4bでは、背景カラー画像データベース4cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S41)。そして、ECU4bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S42)。
ECU4bでは、画像上に所定の大きさ以上の面積を有する各領域を設定する(S43)。そして、ECU4bでは、設定した領域毎に、入力カラー画像と背景カラー画像間で対応する領域内の画素毎の色差を算出する(S44)。さらに、ECU4bでは、設定した領域毎に領域内の各画素の色差のばらつき(分散)を算出する(S45)。そして、ECU4bでは、S42で算出した全画素の色変化の中から色差のばらつきが閾値以下となる領域内の画素に対応する色変化を抽出し、その抽出した色変化を正常色変化として設定する(S45)。
ECU4bにおけるS46、S47の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置4によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置4によれば、所定の大きさ以上を有する領域で入力カラー画像と背景カラー画像間で色差のばらつきの小さい領域内の画素の色変化を用いて正常色変化を設定することにより、高精度な正常色変化を設定できる。
ちなみに、入力カラー画像上の色分布と無関係かつ想定される異常領域よりも大きい面積の領域において、入力カラー画像と背景カラー画像の色差のばらつきが一定なのは、その領域に異常領域が存在しない場合である。したがって、このような領域に属する画素に対応した色変化は、入力カラー画像と背景カラー画像の照明条件の違いにより発生する色変化のみからなる。そのため、その領域内の画素から算出した色変化を正常色変化として利用でき、この色変化を利用することにより、処理中の入力カラー画像と背景カラー画像の関係に適した正常色変化を設定できる。
図9を参照して、第5の実施の形態に係る異常領域検知装置5について説明する。図9は、第5の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置5は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置5では、1つの正規分布で近似できる色変化となる領域内の画素から算出した色変化を正常色変化とする。そのために、異常領域検知装置5は、カメラ5a及びECU5bを備えており、ECU5bに背景カラー画像データベース5c、色変化算出部5d、領域設定部5e、正規分布近似可能領域抽出部5f、領域内画素対応色変化抽出部5g、類似判定部5hを有している。なお、カメラ5aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第5の実施の形態では、色変化算出部5dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部5d、領域設定部5e、正規分布近似可能領域抽出部5f及ぶ領域内画素対応色変化抽出部5gが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部5hが特許請求の範囲に記載する物体検出手段に相当する。
ECU5bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置5を統括制御する。ECU5bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部5d、領域設定部5e、正規分布近似可能領域抽出部5f、領域内画素対応色変化抽出部5g、類似判定部5hが構成される。また、ECU5bには、記憶装置の所定の領域に背景カラー画像データベース5cが構築されている。ECU5bでは、一定時間毎にカメラ5aからの画像信号を受信し、各部5d,5e,5f,5g,5hでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース5c、色変化算出部5d、類似判定部5hは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。領域設定部5eは、第4の実施の形態で説明した領域設定部4eと同様のものなので、その説明を省略する。
正規分布近似可能領域抽出部5fでは、領域設定部5eで設定した入力カラー画像上の領域毎に、色変化算出部5dで算出した全画素の色変化の中から領域内の画素の色変化を抽出し、その抽出した色変化を色変化空間に分布(色変化分布)させる。そして、正規分布近似可能領域抽出部5fでは、領域設定部5eで設定した入力カラー画像上の領域毎に、その色変化空間内の色変化分布と基準となる正規分布間の距離を算出する。この距離の算出方法としては、例えば、2つの分布のとりうる範囲を離散化し、離散化した各範囲内に各分布の場合に色変化が生起する頻度の差分を算出し、各範囲内での頻度差の二乗を全範囲で累積して算出する。正規分布近似可能領域抽出部5fでは、領域設定部5eで設定した入力カラー画像上の領域の中から、距離が閾値以下となる領域を抽出する。
領域内画素対応色変化抽出部5gでは、正規分布近似可能領域抽出部5fで抽出した領域内の画素の色変化を用いて正常色変化を設定する。この正常色変化の設定方法は、第3の実施の形態と同様の方法である。
図9を参照して、異常領域検知装置5における動作を説明する。特に、ECU5bにおける処理については図10のフローチャートに沿って説明する。図10は、第5の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ5aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU5bに送信している。ECU5bでは、その画像信号を受信し、入力カラー画像を入力する(S50)。
入力カラー画像を入力すると、ECU5bでは、背景カラー画像データベース5cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S51)。そして、ECU5bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S52)。
ECU5bでは、画像上の所定の大きさ以上の面積を有する各領域を設定する(S53)。そして、ECU5bでは、その設定した領域の中から領域内の画素の色変化分布が正規分布に近似できる領域を抽出する(S54)。そして、ECU5bでは、S52で生成した全画素の色変化の中から、抽出した領域内の画素に対応する色変化を抽出し、その抽出した色変化を正常色変化として設定する(S55)。
ECU5bにおけるS56、S57の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置5によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置5によれば、所定の大きさ以上を有する領域における色変化分布が正規分布に近似できる領域内の画素の色変化を用いて正常色変化を設定することにより、高精度な正常色変化を設定できる。
ちなみに、入力カラー画像上の色分布と無関係かつ想定される異常領域よりも大きい面積の領域において、入力カラー画像と背景カラー画像の領域内の画素で色変化を算出したときに、その多数の画素による色変化分布が1つの正規分布で近似できるのは、その領域に異常領域が存在しない場合である。したがって、このような領域に属する画素に対応した色変化は、入力カラー画像と背景カラー画像の照明条件の違いにより発生する色変化のみからなる。そのため、その領域内の画素から算出した色変化を正常色変化として利用でき、この色変化を利用することにより、処理中の入力カラー画像と背景カラー画像の関係に適した正常色変化を設定できる。
図11及び図12を参照して、第6の実施の形態に係る異常領域検知装置6について説明する。図11は、第6の実施の形態に係る異常領域検知装置の構成図である。図12は、照明条件だけが異なるカラー画像間の道路領域の対応する画素から求めた色変化の分布あり、(a)が緑と赤の色変化平面上での分布であり、(b)が緑と青の色変化平面上での分布である。
異常領域検知装置6は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置6では、色変化空間内での正規分布が当てはまる分布内の画素から算出した色変化を正常色変化とする。そのために、異常領域検知装置6は、カメラ6a及びECU6bを備えており、ECU6bに背景カラー画像データベース6c、色変化算出部6d、特定方向データベース6e、正規分布特定方向色変化分布近似部6f、近似正規分布内色変化抽出部6g、類似判定部6hを有している。なお、カメラ6aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第6の実施の形態では、色変化算出部6dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部6d、特定方向データベース6e、正規分布特定方向色変化分布近似部6f及び近似正規分布内色変化抽出部6gが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部6hが特許請求の範囲に記載する物体検出手段に相当する。
ECU6bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置6を統括制御する。ECU6bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部6d、正規分布特定方向色変化分布近似部6f、近似正規分布内色変化抽出部6g、類似判定部6hが構成される。また、ECU6bには、記憶装置の所定の領域に背景カラー画像データベース6cが構築されている。ECU6bでは、一定時間毎にカメラ6aからの画像信号を受信し、各部6d,6f,6g,6hでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース6c、色変化算出部6d、類似判定部6hは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。
特定方向データベース6eでは、色変化空間内での正規分布が伸びる特定方向を格納するデータベースである。この特定方向は、照明条件だけが異なるカラー画像間の道路領域に対応した各画素から算出した色変化を色変化空間に分布させた場合にその色変化分布が形成する正規分布の伸びる方向である。
画像上の道路領域内の画素のうち、画像間で照明条件の違いによる見え方の違いしかない画素から算出した色変化は、色変化空間内では特定の方向に伸びる正規分布となる性質がある。図12には、照明条件の異なるカラー画像間での道路領域における各画素の色変化を分布させた3次元の色変化空間を、2次元のG/G’−R/R’平面(a図)と2次元のG/G’−B/B’平面(b図)に投影したものを示している。ここで、Gは一方のカラー画像の画素のG値であり、G’は他方のカラー画像の画素のG値であり、Rは一方のカラー画像の画素のR値であり、R’は他方のカラー画像の画素のR値であり、Bは一方のカラー画像の画素のB値であり、B’は他方のカラー画像の画素のB値である。a図でのG/G’−R/R’平面の色変化の分布DRGは正規分布であり、その分布DRGが特定方向HRGの方向に伸びている。また、b図でのG/G’−B/B’平面の色変化の分布DBGは正規分布であり、その分布DBGが特定方向HBGの方向に伸びている。3次元の色変化空間では、この2つの分布DRG,DBGが一体となった3次元の1つの正規分布であり、この2つの特定方向HRG,HBGが一体となった3次元の特定方向である。
正規分布特定方向色変化分布近似部6fでは、色変化算出部6dで算出した全画素の色変化を色変化空間に分布させた場合に、その色変化空間内に分布した多数の色変化によって特定方向データベース6eに格納される特定方向に伸びる正規分布に近似できる分布を推定する。この推定方法としては、例えば、色変化空間内で色変化が広がる方向毎の広がる大きさ間に所定範囲内の比率を満たすことを制約として、その中で最も正規分布に近似するパラメータを推定する。
近似正規分布内色変化抽出部6gでは、正規分布特定方向色変化分布近似部6fで近似した分布内の一定発生頻度を満たす範囲内の色変化を用いて正常色変化を設定する。この正常色変化の設定方法は、第3の実施の形態と同様の方法である。
図11及び図12を参照して、異常領域検知装置6における動作を説明する。特に、ECU6bにおける処理については図13のフローチャートに沿って説明する。図13は、第6の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ6aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU6bに送信している。ECU6bでは、その画像信号を受信し、入力カラー画像を入力する(S60)。
入力カラー画像を入力すると、ECU6bでは、背景カラー画像データベース6cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S61)。また、ECU6bでは、特定方向データベース6eから特定方向を読み出す(S61)そして、ECU6bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S62)。
ECU6bでは、S62で算出した全画素の色変化の色変化空間内で分布をS61で読み出した特定方向に伸びる正規分布に近似する(S63)。そして、ECU6bでは、その正規分布に近似できた分布内の色変化を用いて正常色変化を設定する(S64)。
ECU6bにおけるS65、S66の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置6によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置6によれば、色変化空間内で正規分布に近似できる分布内の色変化を用いて正常色変化を設定することにより、高精度な正常色変化を設定できる。
ちなみに、入力カラー画像上の道路領域の画素のうち、入力カラー画像と背景カラー画像の照明条件の違いによる見え方の違いしかない画素から算出した色変化は、色変化空間内では特定方向に伸びる正規分布となる性質がある。この性質を利用すると、色変化空間内での色変化分布の中で、特定方向に伸びる正規分布に近似できる範囲内の色変化は、入力カラー画像と背景カラー画像の照明条件の違いによる色変化となる。したがって、その近似正規分布内の色変化を正常色変化として利用でき、この色変化を利用することにより、処理中の入力カラー画像と背景カラー画像の関係に適した正常色変化を設定できる。
図14を参照して、第7の実施の形態に係る異常領域検知装置7について説明する。図14は、第7の実施の形態に係る異常領域検知装置の構成図である
異常領域検知装置7は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置7では、画像上で連結度が高い色変化を正常色変化とする。そのために、異常領域検知装置7は、カメラ7a及びECU7bを備えており、ECU7bに背景カラー画像データベース7c、色変化算出部7d、類似色変化クラス分類部7e、クラス内隣接画素数累積部7f、除算部7g、除算値閾値以下クラス色変化抽出部7h、類似判定部7iを有している。なお、カメラ7aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第7の実施の形態では、色変化算出部7dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部7d、類似色変化クラス分類部7e、クラス内隣接画素数累積部7f、除算部7g及び除算値閾値以下クラス色変化抽出部7hが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部7iが特許請求の範囲に記載する物体検出手段に相当する。
ECU7bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置7を統括制御する。ECU7bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部7d、類似色変化クラス分類部7e、クラス内隣接画素数累積部7f、除算部7g、除算値閾値以下クラス色変化抽出部7h、類似判定部7iが構成される。また、ECU7bには、記憶装置の所定の領域に背景カラー画像データベース7cが構築されている。ECU7bでは、一定時間毎にカメラ7aからの画像信号を受信し、各部7d,7e,7f,7g,7h,7iでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース7c、色変化算出部7d、類似判定部7iは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。
類似色変化クラス分類部7eでは、画像上で隣り合う(画像上で連結する)画素でありかつ色変化算出部7dで算出した色変化が類似している画素を同じクラスに分類する。この類似判定では、例えば、色変化の差が閾値以内か否かで判定する。このクラス分類では、所定の大きさ以上(例えば、想定される異常領域以上)の領域を1つのクラスとして分類し、所定の大きさ未満の領域についてはクラスとして分類しない。
クラス内隣接画素数累積部7fでは、類似色変化クラス分類部7eで分類したクラス毎に、クラス内の各画素について隣接する同じクラスの画素の数をカウントし、そのカウント数をクラス内の全画素分累積して隣接画素数とする。形状が複雑(例えば、道路上の異物)なほど、輪郭形状が複雑となり、1個の画素当たりに隣接する平均画素数が少なくなり、隣接画素数も少なくなる。一方、形状が単純(例えば、道路)なほど、輪郭形状が直線や曲線状となり、1個の画素当たりに隣接する平均画素数が多くなり、隣接画素数も多くなる。
除算部7gでは、類似色変化クラス分類部7eで分類したクラス毎に、クラスの隣接画素数をクラス内の全画素数で除算する。
除算値閾値以下クラス色変化抽出部7hでは、除算部7gで算出した各クラスの除算値が閾値以下か否かを判定し、閾値以下となるクラスを抽出する。この閾値は、クラスの隣接画素数とクラス内の全画素数との比に基づいて、形状が複雑か単純かを判定するための閾値である。そして、除算値閾値以下クラス色変化抽出部7hでは、その抽出したクラス内の画素の色変化を用いて正常色変化を設定する。この正常色変化の設定方法は、第3の実施の形態と同様の方法である。
図14を参照して、異常領域検知装置7における動作を説明する。特に、ECU7bにおける処理については図15のフローチャートに沿って説明する。図15は、第7の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ7aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU7bに送信している。ECU7bでは、その画像信号を受信し、入力カラー画像を入力する(S70)。
入力カラー画像を入力すると、ECU7bでは、背景カラー画像データベース7cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S71)。そして、ECU7bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S72)。
ECU7bでは、画像上で隣り合う画素でかつ類似の色変化を有する画素を同じクラスに分類する(S73)。ECU7bでは、分類したクラス毎に、各画素に隣接する同じクラスの画素の数をカウントし、そのカウント数を累積して隣接画素数とする(S74)。そして、ECU7bでは、クラス毎に、隣接画素数をクラス内画素数で除算する(S75)。さらに、ECU7bでは、分類したクラスの中から除算値が閾値以下となるクラスを抽出する(S76)。そして、ECU7bでは、抽出したクラス内の画素に対応する色変化を抽出し、その抽出した色変化を正常色変化として設定する(S77)。
ECU7bにおけるS78、S79の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置7によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置7によれば、画像上で隣接しかつ色変化が類似しているクラスのうちの形状が単純なクラス内の画素の色変化を用いて正常色変化を設定することにより、高精度な正常色変化を設定できる。
ちなみに、道路領域は、類似の色変化で連結した領域として特徴付けることができる。したがって、第7の実施の形態の方法を利用することにより、よく利用される指標である発生頻度が高い状態を正常とするような方法では対応できないような道路上に多数の落ち葉が存在しているような状況でも正常色変化を抽出できる。
図16及び図17を参照して、第8の実施の形態に係る異常領域検知装置8について説明する。図16は、第8の実施の形態に係る異常領域検知装置の構成図である。図17は、カラー画像における道路領域の日向に対応する画像から求めた色変化の分布と日影に対応する画素から求めた色変化の分布であり、(a)が緑と赤の色変化平面上での分布であり、(b)が緑と青の色変化平面上での分布である。
異常領域検知装置8は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置8では、画像から特定できない正常な色変化を色変化空間内の特性を利用して正常色変化として追加する。そのために、異常領域検知装置8は、カメラ8a及びECU8bを備えており、ECU8bに背景カラー画像データベース8c、色変化算出部8d、特定関係データベース8e、特定関係変換色変化生成部8f、色変化抽出部8g、類似判定部8hを有している。なお、カメラ8aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第8の実施の形態では、色変化算出部8dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部8d、特定関係データベース8e、特定関係変換色変化生成部8f及び色変化抽出部8gが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部8hが特許請求の範囲に記載する物体検出手段に相当する。
ECU8bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置8を統括制御する。ECU8bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部8d、特定関係変換色変化生成部8f、色変化抽出部8g、類似判定部8hが構成される。また、ECU8bには、記憶装置の所定の領域に特定関係データベース8e、背景カラー画像データベース8cが構築されている。ECU8bでは、一定時間毎にカメラ8aからの画像信号を受信し、各部8d,8f,8g,8hでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース8c、色変化算出部8d、類似判定部8hは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。
特定関係データベース8eでは、色変化空間内の特定関係を格納するデータベースである。この特定関係は、カラー画像上の道路領域についての日向に対する画素群から算出された色変化と日影に対する画素群から算出した色変化とが示す特定の関係である。この特定関係は、例えば、色変化空間に分布された道路領域の日向に対する画素群から算出された色変化群(色変化群の集合、色変化群の占める領域)と日影に対する画素群から算出された色変化群とからなるものである。
図17には、カラー画像上の道路領域の日向の画素群から算出された色変化を分布させるとともに日影の画素群から算出した色変化を分布させた3次元の色変化空間を、2次元のG/G’−R/R’平面(a図)と2次元のG/G’−B/B’平面(b図)に投影したものを示している。a図では、G/G’−R/R’平面の日向の色変化の分布D1RGと日影の色変化の分布D2RGを示している。また、b図では、G/G’−B/B’平面の日向の色変化の分布D1BGと日影の色変化の分布D2BGを示している。3次元の色変化空間では、この2つの分布D1RG,D1BGが一体となった3次元の1つの分布であり、2つの分布D2RG,D2BGが一体となった3次元の1つの分布である。3次元の色変化空間における日向の色変化の分布と日影の色変化の分布には特定の関係があり、一方の分布から他方の分布へ3×3行列などを用いて変換できる。
特定関係変換色変化生成部8fでは、他の実施の形態の何れかの形態の方法を用いて入力カラー画像から正常色変化を抽出する領域を特定する。さらに、特定関係変換色変化生成部8fでは、その特定された領域内の画素から算出された色変化(正常色変化)を、特定関係データベース8eに格納されている特定関係で変換して新たな色変化を算出する。この特定関係を利用した変換方法としては、特定された領域内の画素から算出された色変化を、特定関係に応じた3×3行列を掛けて変換する。3×3行列は、例えば、図17に示したような色変化空間における日向の分布D1RG,D1BGと日影の分布D2RG,D2BGの左上の点、中心の点、右上の点をそれぞれ対応付ける変換として算出する。ここでは、日向から日影の色変化に変換するとともに、日影から日向の色変化に変換する。
色変化抽出部8gでは、特定関係変換色変化生成部8fで算出した入力カラー画像から特定した領域の色変化(正常色変化)と特定関係で変換した色変化のいずれかに含まれる色変化を用いて正常色変化を設定する。この正常色変化の設定方法は、第3の実施の形態と同様の方法である。
図16及び図17を参照して、異常領域検知装置8における動作を説明する。特に、ECU8bにおける処理については図18のフローチャートに沿って説明する。図18は、第8の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ8aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU8bに送信している。ECU8bでは、その画像信号を受信し、入力カラー画像を入力する(S80)。
入力カラー画像を入力すると、ECU8bでは、背景カラー画像データベース8cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S81)。また、ECU8bでは、特定関係データベース8eから特定関係を読み出す(S81)。そして、ECU8bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S82)。
ECU8bでは、入力カラー画像の正常色変化を抽出する領域を特定し、その特定した領域のS82で算出した色変化を特定関係で変換して新たな色変化を生成する(S83)。そして、ECU8bでは、特定された領域についてのS82で算出した色変化とS83で生成した色変化を用いて正常色変化を設定する(S84)。
ECU8bにおけるS85、S86の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置8によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置8によれば、入力カラー画像から求めた色変化から特定関係を利用して新たな色変化を生成することにより、入力カラー画像で存在しないような照明条件での色変化も正常色変化として追加することができる。
ちなみに、入力カラー画像上の道路領域で日向と日影にそれぞれ対応する画素から算出された色変化には、上記したように特定の関係がある。この特定の関係を利用することにより、例えば、入力カラー画像から日向に対応する領域からしか正常色変化を抽出できない場合でも、日影に対応した色変化に変換できるので、日影内の画素を正常と判定できる正常色変化を設定できる。
図19を参照して、第9の実施の形態に係る異常領域検知装置9について説明する。図19は、第9の実施の形態に係る異常領域検知装置の構成図である
異常領域検知装置9は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置9では、画像上の位置と色変化が近い画素集合で画素位置分散が大きい色変化を正常色変化とする。そのために、異常領域検知装置9は、カメラ9a及びECU9bを備えており、ECU9bに背景カラー画像データベース9c、色変化算出部9d、類似色変化クラス分類部9e、クラス内色変化画素位置分散算出部9f、分散閾値以上クラス色変化抽出部9g、類似判定部9hを有している。なお、カメラ9aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第9の実施の形態では、色変化算出部9dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部9d、類似色変化クラス分類部9e、クラス内色変化画素位置分散算出部9f及び分散閾値以上クラス色変化抽出部9gが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部9hが特許請求の範囲に記載する物体検出手段に相当する。
ECU9bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置9を統括制御する。ECU9bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部9d、類似色変化クラス分類部9e、クラス内色変化画素位置分散算出部9f、分散閾値以上クラス色変化抽出部9g、類似判定部9hが構成される。また、ECU9bには、記憶装置の所定の領域に背景カラー画像データベース9cが構築されている。ECU9bでは、一定時間毎にカメラ9aからの画像信号を受信し、各部9d,9e,9f,9g,9hでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース9c、色変化算出部9d、類似判定部9hは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。類似色変化クラス分類部9eは、第7の実施の形態で説明した類似色変化クラス分類部7eと同様のものなので、その説明を省略する。
クラス内色変化画素位置分散算出部9fでは、類似色変化クラス分類部9eで分類したクラス毎に、クラス内に属する画素の画像上の位置の分散を算出する。
分散閾値以上クラス色変化抽出部9gでは、類似色変化クラス分類部9eで分類したクラスの中から、クラス内色変化画素位置分散算出部9fで算出した分散が閾値以上となるクラスを抽出する。この閾値は、クラス内に属する画素の画像上の位置の分散に基づいて、クラス内の画素位置が画像上で散らばっているか否かを判定するための閾値である。そして、分散閾値以上クラス色変化抽出部9gでは、その抽出したクラス内の画素の色変化を用いて正常色変化を設定する。この正常色変化の設定方法は、第3の実施の形態と同様の方法である。
図19を参照して、異常領域検知装置9における動作を説明する。特に、ECU9bにおける処理については図20のフローチャートに沿って説明する。図20は、第9の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ9aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU9bに送信している。ECU9bでは、その画像信号を受信し、入力カラー画像を入力する(S90)。
入力カラー画像を入力すると、ECU9bでは、背景カラー画像データベース9cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S91)。そして、ECU9bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S92)。
ECU9bでは、入力カラー画像において隣り合う画素で類似の色変化を有する画素を同じクラスに分類する(S93)。ECU9bでは、クラス毎に、クラス内に属する画素の画像上の位置の分散を算出する(S94)。そして、ECU9bでは、分散が閾値以上となるクラスを抽出する(S95)。さらに、ECU9bでは、抽出したクラス内の画素に対応する色変化を抽出し、その抽出した色変化を正常色変化として設定する(S96)。
ECU9bにおけるS97、S98の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置9によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置9によれば、画像上で隣接しかつ色変化が類似しているクラスのうちの画像上の位置の分散が大きいクラス内の画素の色変化を用いて正常色変化を設定することにより、高精度な正常色変化を設定できる。
ちなみに、屋外の照明としては太陽があり、画像中の多く(広い範囲)の画素がその影響を受ける。一方、異常領域(道路上に出現する物体)は、画像中の一部の範囲に存在する。したがって、照明で色変化する画素の画像上の位置は、画像中に広範囲に散らばり、それらの画素の画像上の位置の分散は大きくなる。一方、異常領域により色変化する画素の画像上の位置は、画像中の局所範囲に限られ、それらの画素の画像上の位置の分散は小さくなる。そのため、同じ色変化となる画素の画像上の位置の分散が大きい色変化は、照明の違いによる色変化(=正常色変化)となる。
図21を参照して、第10の実施の形態に係る異常領域検知装置10について説明する。図21は、第10の実施の形態に係る異常領域検知装置の構成図である
異常領域検知装置10は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置10では、類似する色変化からなる画素集合で対応する画素位置分散が大きい色変化を正常色変化とする。そのために、異常領域検知装置10は、カメラ10a及びECU10bを備えており、ECU10bに背景カラー画像データベース10c、色変化算出部10d、距離色変化クラス分類部10e、クラス内色変化画素位置分散算出部10f、分散閾値以上クラス色変化抽出部10g、類似判定部10hを有している。なお、カメラ10aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第10の実施の形態では、色変化算出部10dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部10d、距離色変化クラス分類部10e、クラス内色変化画素位置分散算出部10f及び分散閾値以上クラス色変化抽出部10gが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部10hが特許請求の範囲に記載する物体検出手段に相当する。
ECU10bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置10を統括制御する。ECU10bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部10d、距離色変化クラス分類部10e、クラス内色変化画素位置分散算出部10f、分散閾値以上クラス色変化抽出部10g、類似判定部10hが構成される。また、ECU10bには、記憶装置の所定の領域に背景カラー画像データベース10cが構築されている。ECU10bでは、一定時間毎にカメラ10aからの画像信号を受信し、各部10d,10e,10f,10g,10hでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース10c、色変化算出部10d、類似判定部10hは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。分散閾値以上クラス色変化抽出部10gは、第9の実施の形態で説明した分散閾値以上クラス色変化抽出部9gと同様のものなので、その説明を省略する。
距離色変化クラス分類部10eでは、色変化算出部10dで算出した色変化間の色変化空間上での距離を算出し、その距離の近い色変化同士を同じクラスに分類する。この距離としては、例えば、ユークリッド距離を利用する。
クラス内色変化画素位置分散算出部10fでは、距離色変化クラス分類部10eで分類したクラス毎に、クラス内に属する色変化に対応する画素の画像上の位置の分散を算出する。
図21を参照して、異常領域検知装置10における動作を説明する。特に、ECU10bにおける処理については図22のフローチャートに沿って説明する。図22は、第10の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ10aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU10bに送信している。ECU10bでは、その画像信号を受信し、入力カラー画像を入力する(S100)。
入力カラー画像を入力すると、ECU10bでは、背景カラー画像データベース10cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S101)。そして、ECU10bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S102)。
ECU10bでは、S102で算出した色変化間の色変化空間上での距離をそれぞれ算出し、その距離に応じてクラスを分類する(S103)。ECU10bでは、クラス毎に、クラス内に属する色変化に対応する画素の画像上の位置の分散を算出する(S104)。そして、ECU10bでは、分散が閾値以上となるクラスを抽出する(S105)。さらに、ECU10bでは、抽出したクラス内の画素に対応する色変化を抽出し、その抽出した色変化を正常色変化として設定する(S106)。
ECU10bにおけるS107、S108の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置10によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置10によれば、色変化空間上で距離が近い色変化同士のクラスのうちの画像上の位置の分散が大きいクラス内の画素の色変化を用いて正常色変化を設定することにより、高精度な正常色変化を設定できる。
ちなみに、第9の実施の形態で述べたように、同じ色変化となる画素の画像上の位置の分散が大きい色変化は、照明の違いによる色変化(=正常色変化)となる。また、画像上での位置関係・連結度を考慮せずに色変化のクラスを作ることで、例えば、林の中で太陽の光がいろいろな場所で散らばった孤立領域を作っている状況において、第10の実施の形態では連結性を見ないで、色変化集合を作成することにより、これらの空間的には孤立している領域の色変化から正常色変化を抽出できる。
図23を参照して、第11の実施の形態に係る異常領域検知装置11について説明する。図23は、第11の実施の形態に係る異常領域検知装置の構成図である
異常領域検知装置11は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置11では、道路の奥行き方向に沿った道のりが大きい範囲に広がる画素の色変化を正常色変化とする。そのために、異常領域検知装置11は、カメラ11a及びECU11bを備えており、ECU11bに背景カラー画像データベース11c、色変化算出部11d、道路領域情報データベース11e、類似色変化クラス分類部11f、クラス内色変化最大道のり画素座標間距離算出部11g、最大道のりクラス色変化抽出部11h、類似判定部11iを有している。なお、カメラ11aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第11の実施の形態では、色変化算出部11dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部11d、道路領域情報データベース11e、類似色変化クラス分類部11f、クラス内色変化最大道のり画素座標間距離算出部11g及び最大道のりクラス色変化抽出部11hが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部11iが特許請求の範囲に記載する物体検出手段に相当する。
ECU11bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置11を統括制御する。ECU11bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部11d、類似色変化クラス分類部11f、クラス内色変化最大道のり画素座標間距離算出部11g、最大道のりクラス色変化抽出部11h、類似判定部11iが構成される。また、ECU11bには、記憶装置の所定の領域に背景カラー画像データベース11c、道路領域情報データベース11eが構築されている。ECU11bでは、一定時間毎にカメラ11aからの画像信号を受信し、各部11d,11f,11g,11h,11iでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース11c、色変化算出部11d、類似判定部11iは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。類似色変化クラス分類部11fは、第7の実施の形態で説明した類似色変化クラス分類部7eと同様のものなので、その説明を省略する。
道路領域情報データベース11eには、道路領域情報を格納したデータベースである。路領域情報には、道路中心線(座標情報)、道路境界線(座標情報)などの情報を含んでいる。
クラス内色変化最大道のり画素座標間距離算出部11gでは、類似色変化クラス分類部11fで分類したクラス毎に、道路領域情報データベース11eから、クラス内に存在する道路の領域情報(特に、道路中心線)の情報を抽出する。そして、クラス内色変化最大道のり画素座標間距離算出部11gでは、類似色変化クラス分類部11fで分類したクラス毎に、クラス内の2つの画素を順次抽出し、2画素間の画像上での道のり(距離)をそれぞれ算出し、クラス内の2画素間で最大となる道のりを抽出する。この2画素間の道のりの算出方法としては、2つの画素をP,Qとした場合、PQ間の道のりは、道路中心線を利用して、PとQから最も近い道路中心線上の位置を特定し、その位置の間の道路中心線の長さとする。
最大道のりクラス色変化抽出部11hでは、クラス内色変化最大道のり画素座標間距離算出部11gで算出した各クラスの2画素間の最大道のりの中で最大となる最大道のりのクラスを抽出する。そして、最大道のりクラス色変化抽出部11hでは、その抽出したクラス内の画素の色変化を用いて正常色変化を設定する。この正常色変化の設定方法は、第3の実施の形態と同様の方法である。
図23を参照して、異常領域検知装置11における動作を説明する。特に、ECU11bにおける処理については図24のフローチャートに沿って説明する。図24は、第11の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ11aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU11bに送信している。ECU11bでは、その画像信号を受信し、入力カラー画像を入力する(S110)。
入力カラー画像を入力すると、ECU11bでは、背景カラー画像データベース11cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S111)。また、ECU11bでは、道路領域情報データベース11eから入力カラー画像を撮像した位置周辺の道路領域情報を読み出す(S111)。そして、ECU11bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S113)。
ECU11bでは、入力カラー画像において隣り合う画素で類似の色変化を有する画素を同じクラスに分類する(S113)。ECU11bでは、クラス毎に、抽出した道路領域情報を用いて、クラス内の2画素間で画像上での道のりの最大値を算出する(S114)。さらに、ECU11bでは、各クラスの道のりの最大値を比較し、その最大値が最も大きいクラスを抽出する(S115)。そして、ECU11bでは、抽出したクラス内の画素に対応する色変化を抽出し、その抽出した色変化を正常色変化として設定する(S115)。
ECU11bにおけるS116、S117の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置11によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置11によれば、画像上で隣接しかつ色変化が類似しているクラスのうちの2画素間の道のり(距離)が最大となるクラス内の画素の色変化を用いて正常色変化を設定することにより、高精度な正常色変化を設定できる。
ちなみに、屋外の照明としては太陽があり、道路領域内の手前から奥まで広い範囲がその影響を受ける。一方、異常領域(道路上に出現する物体)は、道路上の一部の奥行きに存在する。したがって、類似する色変化となる画素の画像上の位置の道路に沿った最大端点距離を見ると、道路に沿って手前から奥まで広がる照明による色変化は大きく、一部の奥行きにしか存在しない落下物などによる色変化は小さくなる。そのため、最大端点間距離が大きくなる色変化集合内の色変化は、照明の違いによる色変化(=正常色変化)となる。
図25を参照して、第12の実施の形態に係る異常領域検知装置12について説明する。図25は、第12の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置12は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置12では、領域面積に対する領域周囲長の比率が小さい領域内の画素の色変化を正常色変化とする。そのために、異常領域検知装置12は、カメラ12a及びECU12bを備えており、ECU12bに背景カラー画像データベース12c、色変化算出部12d、類似色変化クラス分類部12e、クラス領域周囲長・面積計測部12f、領域周囲長/面積比率算出部12g、比率閾値以下クラス色変化抽出部12h、類似判定部12iを有している。なお、カメラ12aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第12の実施の形態では、色変化算出部12dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部12d、類似色変化クラス分類部12e、クラス領域周囲長・面積計測部12f、領域周囲長/面積比率算出部12g及び比率閾値以下クラス色変化抽出部12hが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部12iが特許請求の範囲に記載する物体検出手段に相当する。
ECU12bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置12を統括制御する。ECU12bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部12d、類似色変化クラス分類部12e、クラス領域周囲長・面積計測部12f、領域周囲長/面積比率算出部12g、比率閾値以下クラス色変化抽出部12h、類似判定部12iが構成される。また、ECU12bには、記憶装置の所定の領域に背景カラー画像データベース12cが構築されている。ECU12bでは、一定時間毎にカメラ12aからの画像信号を受信し、各部12d,12e,12f,12g,12h,12iでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース12c、色変化算出部12d、類似判定部12iは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。類似色変化クラス分類部12eは、第7の実施の形態で説明した類似色変化クラス分類部7eと同様のものなので、その説明を省略する。
クラス領域周囲長・面積計測部12fでは、類似色変化クラス分類部12eで分類したクラス毎に、クラスの画像上の画素が形成する領域の面積(画素数)と周囲長を計測する。
領域周囲長/面積比率算出部12gでは、類似色変化クラス分類部12eで分類したクラス毎に、クラス領域周囲長・面積計測部12fで算出した領域の周囲長を面積で除算し、周囲長/面積比率を求める。
比率閾値以下クラス色変化抽出部12hでは、領域周囲長/面積比率算出部12gで算出した周囲長/面積比率が閾値以下となるクラスを抽出する。この閾値は、領域の周囲長/面積の比率に基づいて、領域の形状が複雑かあるいは単純かを判定するための閾値である。そして、比率閾値以下クラス色変化抽出部12hでは、その抽出したクラス内の画素の色変化を用いて正常色変化を設定する。この正常色変化の設定方法は、第3の実施の形態と同様の方法である。
図25を参照して、異常領域検知装置12における動作を説明する。特に、ECU12bにおける処理については図26のフローチャートに沿って説明する。図26は、第12の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ12aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU12bに送信している。ECU12bでは、その画像信号を受信し、入力カラー画像を入力する(S120)。
入力カラー画像を入力すると、ECU12bでは、背景カラー画像データベース12cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S121)。そして、ECU12bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S122)。
ECU12bでは、入力カラー画像において隣り合う画素で類似の色変化を有する画素を同じクラスに分類する(S123)。ECU12bでは、クラス毎に、クラスの画素からなる領域の周囲長と面積を計測する(S124)。さらに、ECU12bでは、クラス毎に、領域の周囲長/面積比率を算出する(S125)。そして、ECU12bでは、周囲長/面積比率が閾値以下となるクラスを抽出する(S126)。さらに、ECU12bでは、抽出したクラス内の画素に対応する色変化を抽出し、その抽出した色変化を正常色変化として設定する(S126)。
ECU12bにおけるS127、S128の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置12によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置12によれば、画像上で隣接しかつ色変化が類似しているクラスのうちの領域の面積に対する周囲長の比率が小さいクラス内の画素の色変化を用いて正常色変化を設定することにより、高精度な正常色変化を設定できる。
ちなみに、道路に落下している毛布のような異常領域は、道路のような照明の影響だけを受けている領域の形状と比べて複雑である。そこで、照明により色変化領域と異常領域出現による色変化領域の違いとしては、領域形状の複雑さが利用できる。照明による色変化はシーン内でほぼ一様で、毛布のような異常領域も領域内で一様な色なので一様な色変化となるので、類似している色変化を1つのクラスに分類し、同じクラスに属する色変化となる画素で画像上でも連結している画素を1つの領域として結合することで、領域抽出が可能である。形状の複雑さは領域の周囲長の面積に対する比で表現可能であるので、抽出した領域毎に周囲長/面積比を算出し、その比が閾値以下となる領域に対する色変化は、照明の違いによる色変化(=正常色変化)となる。
図27及び図17を参照して、第13の実施の形態に係る異常領域検知装置13について説明する。図27は、第13の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置13は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置13では、特定の関係を満たす色変化対を正常色変化とする。そのために、異常領域検知装置13は、カメラ13a及びECU13bを備えており、ECU13bに背景カラー画像データベース13c、色変化算出部13d、特定関係データベース13e、特定関係色変化抽出部13f、類似判定部13gを有している。なお、カメラ13aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第13の実施の形態では、色変化算出部13dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部13d、特定関係データベース13e及び特定関係色変化抽出部13fが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部13gが特許請求の範囲に記載する物体検出手段に相当する。
ECU13bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置13を統括制御する。ECU13bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部13d、特定関係色変化抽出部13f、類似判定部13gが構成される。また、ECU13bには、記憶装置の所定の領域に背景カラー画像データベース13c、特定関係データベース13eが構築されている。ECU13bでは、一定時間毎にカメラ13aからの画像信号を受信し、各部13d,13f,13gでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース13c、色変化算出部13d、類似判定部13gは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。特定関係データベース13eは、第8の実施の形態で説明した特定関係データベース8eと同様のものなので、その説明を省略する。
特定関係色変化抽出部13fでは、色変化算出部13dで算出した色変化の中で、特定関係データベース13eに格納される特定関係を満たす色変化の対を抽出する。そして、特定関係色変化抽出部13fでは、その抽出した色変化対を用いて正常色変化を設定する。この正常色変化の設定方法は、第3の実施の形態と同様の方法である。
図27及び図17を参照して、異常領域検知装置13における動作を説明する。特に、ECU13bにおける処理については図28のフローチャートに沿って説明する。図28は、第13の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ13aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU13bに送信している。ECU13bでは、その画像信号を受信し、入力カラー画像を入力する(S130)。
入力カラー画像を入力すると、ECU13bでは、背景カラー画像データベース13cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S131)。また、ECU13bでは、特定関係データベース13eから特定関係を読み出す(S131)。そして、ECU13bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S132)。
ECU13bでは、S132で算出した色変化の中から特定関係を満たす色変化対を抽出する(S133)。そして、ECU13bでは、その抽出した色変化対を正常色変化として設定する(S133)。
ECU13bにおけるS134、S135の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置13によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置13によれば、特定の関係を満たす色変化対を用いて正常色変化を設定することにより、高精度な正常色変化を設定できる。
ちなみに、屋外で同時に発生する照明条件としては、日向と日影がある。日向の影響を受けた入力カラー画像上の画素と対応する背景カラー画像上の画素から求めた色変化と日影の影響を受けた入力カラー画像上の画素と対応する背景カラー画像上の画素から求めた色変化とには、第8の実施の形態で説明したように特定の関係がある(図17参照)。この特定の関係を満たす色変化は、日向と日影の影響を受けた色変化(=正常色変化)となる。
図29を参照して、第14の実施の形態に係る異常領域検知装置14について説明する。図29は、第14の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置14は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置14では、異なる場所で撮像した画像で共通して観測できる色変化を正常色変化とする。そのために、異常領域検知装置14は、カメラ14a及びECU14bを備えており、ECU14bに背景カラー画像データベース14c、色変化算出部14d、色変化データベース14e、過去色変化一致色変化抽出部14f、類似判定部14gを有している。なお、カメラ14aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第14の実施の形態では、色変化算出部14dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部14d、色変化データベース14e及び過去色変化一致色変化抽出部14fが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部14gが特許請求の範囲に記載する物体検出手段に相当する。
ECU14bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置14を統括制御する。ECU14bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部14d、過去色変化一致色変化抽出部14f、類似判定部14gが構成される。また、ECU14bには、記憶装置の所定の領域に背景カラー画像データベース14c、色変化データベース14eが構築されている。ECU14bでは、一定時間毎にカメラ14aからの画像信号を受信し、各部14d,14f,14gでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース14c、色変化算出部14d、類似判定部14gは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。
色変化データベース14eには、過去の各場所でそれぞれ算出された色変化群(色変化空間での色変化分布)を格納するデータベースである。特に、この色変化群は、各場所で設定された正常色変化の色変化群である。ここでは、他の実施の形態のいずれかの形態で設定された各場所での正常色変化のデータが格納される。
過去色変化一致色変化抽出部14fでは、色変化データベース14eに格納されている過去の各場所での正常色変化の分布を用いて、ある場所の正常色変化分布毎に、そのある場所の正常色変化分布と他の異なる場所の正常色変化分布をそれぞれ比較し、一致する正常色変化分布があるか否かを判定する。この正常色変化分布が一致するか否かの判定方法としては、例えば、各場所の正常色変化分布を正規分布で近似したときに、各場所での正常色変化分布に対してそれぞれ近似する正規分布同士の重複が正規分布の一定面積以上(正規分布の類似度が閾値以上)であるか否かで判定する。そして、過去色変化一致色変化抽出部14fでは、一致する正常色変化分布がない場所の色変化分布を除去し、残った各場所の正常色変化分布を用いて正常色変化を設定する。
図29を参照して、異常領域検知装置14における動作を説明する。特に、ECU14bにおける処理については図30のフローチャートに沿って説明する。図30は、第14の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ14aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU14bに送信している。ECU14bでは、その画像信号を受信し、入力カラー画像を入力する(S140)。
入力カラー画像を入力すると、ECU14bでは、背景カラー画像データベース14cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S141)。また、ECU14bでは、色変化データベース14eから過去の複数の場所での正常色変化を読み出す(S141)。そして、ECU14bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S142)。
ECU14bでは、過去の複数の場所での正常色変化の中から、他の場所の正常色変化と一致しない場所の正常色変化を除去し、残った場所の正常色変化を正常色変化として設定する(S142)。
ECU14bにおけるS144、S145の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置14によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置14によれば、過去の複数の場所でそれぞれ設定された正常色変化の中から他の正常色変化と一致しない正常色変化を排除して正常色変化を設定することにより、より高精度な正常色変化を設定できる。
ちなみに、一つの場所で撮像した画像上にたまたま存在する大きな異常領域や障害物を正常色変化として抽出した場合に、複数の場所で発生するかどうかを確認することにより、そのような誤った正常色変化を排除することができる。
図31を参照して、第15の実施の形態に係る異常領域検知装置15について説明する。図31は、第15の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置15は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置15では、大半の画素が正常と判定できる色変化を正常色変化とする。そのために、異常領域検知装置15は、カメラ15a及びECU15bを備えており、ECU15bに背景カラー画像データベース15c、色変化算出部15d、正常色変化候補データベース15e、正常画素数計測部15f、画素数閾値以上正常色変化候補抽出部15g、類似判定部15hを有している。なお、カメラ15aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第15の実施の形態では、色変化算出部15dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部15d、正常色変化候補データベース15e、正常画素数計測部15f及び画素数閾値以上正常色変化候補抽出部15gが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部15hが特許請求の範囲に記載する物体検出手段に相当する。
ECU15bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置15を統括制御する。ECU15bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部15d、正常画素数計測部15f、画素数閾値以上正常色変化候補抽出部15g、類似判定部15hが構成される。また、ECU15bには、記憶装置の所定の領域に背景カラー画像データベース15c、正常色変化候補データベース15eが構築されている。ECU15bでは、一定時間毎にカメラ15aからの画像信号を受信し、各部15d,15f,15g,15hでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース15c、色変化算出部15d、類似判定部15hは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。
正常色変化候補データベース15eには、正常色変化の候補が格納されるデータベースである。正常色変化の候補としては、照明条件などを変えた様々な画像から求めた正常色変化を予め用意する。
正常画素数計測部15fでは、正常色変化候補データベース15eに格納される正常色変化の候補毎に、色変化算出部15dで算出した色変化と正常色変化の候補との各距離を算出する。この距離としては、例えば、ユークリッド距離を利用する。そして、正常画素数計測部15fでは、正常色変化候補データベース15eに格納される正常色変化の候補毎に、色変化算出部15dで算出した色変化にそれぞれ対応する画素群の中で距離が閾値以下(色変化が類似している)となる正常な画素の数を計測する。この閾値は、色変化の距離に基づいて、色変化が類似しているか否かを判定するための閾値である。
画素数閾値以上正常色変化候補抽出部15gでは、正常色変化候補データベース15eに格納される正常色変化の候補の中から、正常な画素数が閾値以上となる正常色変化の候補を抽出し、その候補を正常色変化として設定する。この閾値は、入力カラー画像内で正常と判定できる画素が大半を占めているか否かを判定するための閾値である。
図31を参照して、異常領域検知装置15における動作を説明する。特に、ECU15bにおける処理については図32のフローチャートに沿って説明する。図32は、第15の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ15aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU15bに送信している。ECU15bでは、その画像信号を受信し、入力カラー画像を入力する(S150)。
入力カラー画像を入力すると、ECU15bでは、背景カラー画像データベース15cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S151)。また、ECU15bでは、正常色変化候補データベース15eから正常色変化候補を読み出す(S151)。そして、ECU15bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S152)。
ECU15bでは、正常色変化候補毎に、S152で算出した色変化にそれぞれ対応する画素群の中で正常と判定できる画素の数を計測する(S153)。そして、ECU15bでは、その正常な画像数が閾値以上となる正常色変化候補を正常色変化として設定する(S154)。
ECU15bにおけるS155、S156の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置15によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置15によれば、正常色変化候補の中で入力カラー画像内で正常となる画素数が閾値以上(大半)となる正常色変化候補を正常色変化として設定することにより、高精度な正常色変化を設定できる。
ちなみに、入力カラー画像内の大半の画素が太陽による影響で色変化している場合、正常色変化の各候補としてはそれらの画素を正常と判定できるものでないと、正常色変化とすることはできない。したがって、大半の画素を正常と判定できる正常色変化の候補は、正常色変化と設定できる。
図33を参照して、第16の実施の形態に係る異常領域検知装置16について説明する。図33は、第16の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置16は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置16では、道路形状に沿って正常と判定できる画素が並ぶような色変化を正常色変化とする。そのために、異常領域検知装置16は、カメラ16a及びECU16bを備えており、ECU16bに背景カラー画像データベース16c、色変化算出部16d、正常色変化候補データベース16e、道路領域情報データベース16f、正常判定部16g、判定画像生成部16h、道路境界画素抽出部16i、抽出画素正常画素数閾値以上正常色変化候補抽出部16j、類似判定部16kを有している。なお、カメラ16aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第16の実施の形態では、色変化算出部16dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部16d、正常色変化候補データベース16e、道路領域情報データベース16f、正常判定部16g、判定画像生成部16h、道路境界画素抽出部16i及び抽出画素正常画素数閾値以上正常色変化候補抽出部16jが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部16kが特許請求の範囲に記載する物体検出手段に相当する。
ECU16bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置16を統括制御する。ECU16bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部16d、正常判定部16g、判定画像生成部16h、道路境界画素抽出部16i、抽出画素正常画素数閾値以上正常色変化候補抽出部16j、類似判定部16kが構成される。また、ECU16bには、記憶装置の所定の領域に背景カラー画像データベース16c、正常色変化候補データベース16e、道路領域情報データベース16fが構築されている。ECU16bでは、一定時間毎にカメラ16aからの画像信号を受信し、各部16d,16g,16h,16i,16j,16kでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース16c、色変化算出部16d、類似判定部16kは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。正常色変化候補データベース16eは、第15の実施の形態で説明した正常色変化候補データベース15eと同様のものなので、その説明を省略する。道路領域情報データベース16fは、第11の実施の形態で説明した道路領域情報データベース11eと同様のものなので、その説明を省略する。
正常判定部16gでは、正常色変化候補データベース16eに格納されている正常色変化の候補毎に、色変化算出部16dで算出した色変化と正常色変化の候補との各距離(ユークリッド距離)を算出し、距離が閾値以下(色変化が類似している)となる画素を正常と判定し、距離が閾値より大きい画素を異常と判定する。
判定画像生成部16hでは、正常色変化候補データベース16eに格納されている正常色変化の候補毎に、正常判定部16gでの判定結果に基づいて正常/異常と判定された各画素の画像上の位置に輝度値を1/0とする判定画像を生成する。
道路境界画素抽出部16iでは、正常色変化候補データベース16eに格納されている正常色変化の候補毎に、判定画像生成部16hで生成した判定画像から、道路領域情報データベース16fに格納されている道路境界線の位置に対応する判定画像上の画素を抽出する。
抽出画素正常画素数閾値以上正常色変化候補抽出部16jでは、正常色変化候補データベース16eに格納されている正常色変化の候補毎に、道路境界画素抽出部16iで抽出した画素における画素値の総和(判定画像での抽出画素の1/0の値の総和)/抽出画素数の比を算出する。そして、抽出画素正常画素数閾値以上正常色変化候補抽出部16jでは、その比が閾値以上となる正常色変化の候補を正常色変化として設定する。この閾値は、道路境界線上の抽出画素の画素値総和/画素数の比率に基づいて、道路境界付近において正常と判定できる画素が大半を占めているか否かを判定するための閾値である。
図33を参照して、異常領域検知装置16における動作を説明する。特に、ECU16bにおける処理については図33のフローチャートに沿って説明する。図33は、第16の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ16aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU16bに送信している。ECU16bでは、その画像信号を受信し、入力カラー画像を入力する(S160)。
入力カラー画像を入力すると、ECU16bでは、背景カラー画像データベース16cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S161)。また、ECU16bでは、正常色変化候補データベース16eから正常色変化候補を読み出す(S161)。また、ECU16bでは、道路領域情報データベース16fから入力カラー画像を撮像した位置周辺の道路領域情報(道路境界情報)を読み出す(S161)。そして、ECU16bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S162)。
ECU16bでは、正常色変化候補毎に、S162で算出した色変化にそれぞれ対応する画素群の中でユークリッド距離が閾値以下となる画素を正常と判定し、それ以外を異常と判定する(S163)。そして、ECU16bでは、正常色変化候補毎に、正常な画素の位置を1とし、異常な画素の位置を0として判定画像を生成する(S164)。さらに、ECU16bでは、正常色変化候補毎に、道路境界情報に基づいて、判定画像上の道路境界上の画素(1/0)を抽出する(S165)。そして、ECU16bでは、正常色変化候補の中から、抽出画素の画素値総和/抽出画素数が閾値以上となる正常色変化候補を抽出し、その正常色変化候補を正常色変化として設定する(S166)。
ECU16bにおけるS167、S168の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置16によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置16によれば、正常色変化候補の中で入力カラー画像の道路境界上に正常と判定できる画素が並ぶような正常色変化候補を正常色変化として設定することにより、高精度な正常色変化を設定できる。
ちなみに、道路領域内では、道路境界付近は歩道や壁などの通行に邪魔になるものが多いため、他の位置に比べて障害物の出現が少ない。したがって、この道路境界付近では大半の画素には異常領域が無いことが多く、これらの正常なはずの画素を正常と判定できる正常色変化の候補は、正常色変化と設定できる。
図35を参照して、第17の実施の形態に係る異常領域検知装置17について説明する。図35は、第17の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置17は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置17では、ありうる照明条件での背景カラー画像間の色変化に含まれる色変化の中から正常色変化を設定する。そのために、異常領域検知装置17は、カメラ17a及びECU17bを備えており、ECU17bに背景カラー画像データベース17c、色変化算出部17d、ありうる色変化データベース17e、合致色変化抽出部17f、類似判定部17gを有している。なお、カメラ17aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第17の実施の形態では、色変化算出部17dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部17d、ありうる色変化データベース17e及び合致色変化抽出部17fが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部17gが特許請求の範囲に記載する物体検出手段に相当し、ありうる色変化データベース17eが特許請求の範囲に記載するデータベースに相当する。
ECU17bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置17を統括制御する。ECU17bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部17d、合致色変化抽出部17f、類似判定部17gが構成される。また、ECU17bには、記憶装置の所定の領域に背景カラー画像データベース17c、ありうる色変化データベース17eが構築されている。ECU17bでは、一定時間毎にカメラ17aからの画像信号を受信し、各部17d,17f,17gでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース17c、色変化算出部17d、類似判定部17gは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。
ありうる色変化データベース17eには、ありうる色変化が格納されたデータベースである。格納されるありうる色変化は、考えられるありうる照明条件を変えた場合の背景画像間(特に、道路領域の画像間)の対応する各画素から算出した色変化である。
合致色変化抽出部17fでは、色変化算出部17dで算出した色変化から、ありうる色変化データベース17eに格納されているありうる色変化と合致しない色変化を除去し、残った色変化を用いて正常色変化を設定する。この正常色変化の設定方法は、第3の実施の形態と同様の方法である。この除去方法としては、例えば、算出した色変化とありうる色変化のとる値をそれぞれ量子化し、ありうる色変化の量子化結果の中に算出した色変化の量子化結果に一致する量子化結果がある場合には該当ありとして残し、ありうる色変化の量子化結果の中に算出した色変化の量子化結果に一致する量子化結果が1つもない場合には該当なしとして除外する。
図35を参照して、異常領域検知装置17における動作を説明する。特に、ECU17bにおける処理については図36のフローチャートに沿って説明する。図36は、第17の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ17aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU17bに送信している。ECU17bでは、その画像信号を受信し、入力カラー画像を入力する(S170)。
入力カラー画像を入力すると、ECU17bでは、背景カラー画像データベース17cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S171)。また、ECU17bでは、ありうる色変化データベース17eからありうる色変化を読み出す(S171)。そして、ECU17bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S172)。
ECU17bでは、S172で算出した色変化の中から、ありうる色変化と合致しない色変化を除去し、残った色変化を正常色変化として設定する(S173)。
ECU17bにおけるS174、S175の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置17によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置17によれば、入力カラー画像から算出した色変化の中からありうる色変化だけを正常色変化に設定することにより、高精度な正常色変化を設定できる。
ちなみに、ありうる様々な照明条件で撮像した入力カラー画像と背景カラー画像間で算出した色変化がとる値は有限範囲であり、この範囲外の色変化はそもそも照明条件以外による色変化である。したがって、このありうる色変化データベースを用いた方法により、少なくとも照明条件による色変化でない色変化を効率的に除去することができる。
図37を参照して、第18の実施の形態に係る異常領域検知装置18について説明する。図37は、第18の実施の形態に係る異常領域検知装置の構成図である。
異常領域検知装置18は、第1の実施の形態に係る異常領域検知装置1と比較すると、最適な正常色変化を設定する機能を有する点で異なる。特に、異常領域検知装置18では、入力カラー画像から算出した色変化分布をキーとして記憶している正常色変化分布の中から類似する正常色変化分布を正常色変化として設定する。そのために、異常領域検知装置18は、カメラ18a及びECU18bを備えており、ECU18bに背景カラー画像データベース18c、色変化算出部18d、正常色変化データベース18e、分布重複度評価部18f、最大重複度色変化抽出部18g、類似判定部18hを有している。なお、カメラ18aについては、第1の実施の形態で説明したカメラ1aと同様のものなので、その説明を省略する。
なお、第18の実施の形態では、色変化算出部18dが特許請求の範囲に記載する色変化傾向算出手段に相当し、色変化算出部18d、正常色変化データベース18e、分布重複度評価部18f及び最大重複度色変化抽出部18gが特許請求の範囲に記載する基準値設定手段に相当し、類似判定部18hが特許請求の範囲に記載する物体検出手段に相当し、正常色変化データベース18eが特許請求の範囲に記載するデータベースに相当する。
ECU18bは、CPU、ROM、RAMなどからなる電子制御ユニットであり、異常領域検知装置18を統括制御する。ECU18bでは、ROMに格納されるアプリケーションプログラムをRAMにロードしてCPUで実行することによって、色変化算出部18d、分布重複度評価部18f、最大重複度色変化抽出部18g、類似判定部18hが構成される。また、ECU18bには、記憶装置の所定の領域に背景カラー画像データベース18c、正常色変化データベース18eが構築されている。ECU18bでは、一定時間毎にカメラ18aからの画像信号を受信し、各部18d,18f,18g,18hでの処理を行い、異常領域の情報を異常領域情報信号として出力する。なお、背景カラー画像データベース18c、色変化算出部18d、類似判定部18hは、第1の実施の形態で説明した背景カラー画像データベース1c、色変化算出部1d、類似判定部1fとそれぞれ同様のものなので、その説明を省略する。
正常色変化データベース18eには、正常色変化の分布が格納されたデータベースである。格納される正常色変化の分布は、各種照明条件を変えた場合の背景画像間(特に、道路領域の画像間)の対応する各画素から算出した正常色変化の色変化空間上での分布である。
分布重複度評価部18fでは、正常色変化データベース18eに格納されている正常色変化分布毎に、色変化算出部18dで算出した色変化の色変化空間上での分布と正常色変化分布との重複度を評価する。2つの色変化分布の重複度は、例えば、各色変化分布を2次元に投影した投影色変化画像を生成し、各画素の同じ画素位置同士に色変化が存在する場合の数を片方の画像上にしか色変化が存在しない画素の数で割り算した比率で表現する。
最大重複度色変化抽出部18gでは、正常色変化データベース18eに格納されている正常色変化分布の中で、分布重複度評価部18fで算出した重複度が最大となる正常色変化分布を抽出し、その抽出した正常色変化分布を正常色変化として設定する。
図37を参照して、異常領域検知装置18における動作を説明する。特に、ECU18bにおける処理については図38のフローチャートに沿って説明する。図38は、第18の実施の形態に係る異常領域検知処理の流れを示すフローチャートである。
カメラ18aでは、一定時間毎に、自車両の周辺を撮像し、画像信号をECU18bに送信している。ECU18bでは、その画像信号を受信し、入力カラー画像を入力する(S180)。
入力カラー画像を入力すると、ECU18bでは、背景カラー画像データベース18cから入力カラー画像を撮像した位置と同じ位置で撮像した背景カラー画像を読み出す(S181)。また、ECU18bでは、正常色変化データベース18eから各種照明条件での正常色変化分布を読み出す(S181)。そして、ECU18bでは、入力カラー画像と背景カラー画像間で対応する画素毎に色変化を算出する(S182)。
ECU18bでは、正常色変化の分布毎に、S182で算出した色変化の分布との重複度を評価する(S183)。そして、ECU18bでは、正常色変化分布の中から重複度が最大となる正常色変化分布を抽出し、その抽出した正常色変化分布を正常色変化として設定する(S184)。
ECU18bにおけるS185、S186の各処理については、第1の実施の形態で説明したECU1bにおけるS14、S15と同様の処理なので、その説明を省略する。
この異常領域検知装置18によれば、第1の実施の形態に係る異常領域検知装置1と同様の効果を有する上に、以下の効果も有している。異常領域検知装置18によれば、各種照明条件の正常色変化の中から入力カラー画像から算出した色変化と照明条件が類似している正常色変化を設定することにより、高精度な正常色変化を設定できる。
ちなみに、必要な正常色変化は、入力カラー画像と類似する照明状態の対応した色変化分布である。照明状態が類似している2つの画像では、色変化分布が近似している。したがって、入力カラー画像から算出した色変化分布と類似した分布となる正常色変化分布は、入力カラー画像に適した色分布であるはずである。そこで、正常色変化データベースを利用した上記の方法により、入力カラー画像に適した正常色変化分布を特定できる。
以上、本発明に係る実施の形態について説明したが、本発明は上記実施の形態に限定されることなく様々な形態で実施される。
例えば、本実施の形態では車両に搭載される異常領域検知装置に適用したが、周辺監視装置、障害物検出装置(歩行者検出装置、他車両検出装置など)などの他の装置に適用してもよいし、あるいは、車両以外での物体検出装置に適用してもよい。
また、本実施の形態ではカラー画像に適用したが、モノクロ画像にも適用可能である。
また、本実施の形態では色変化傾向として画像間の対応する画素のRGBの各値の比率としたが、他のパラメータを用いてもよい。
また、第2の実施の形態では背景カラー画像を抽出する機能を異常領域検知装置に組み込む構成としたが、この機能だけを行う背景カラー画像抽出装置を構成し、前処理として、この背景カラー画像抽出装置によって各場所で最適な背景カラー画像を抽出し、その抽出した場所毎の背景カラー画像を他の形態での背景カラー画像データベースに格納しておいてもよい。
また、第2の実施の形態に係る背景カラー画像を抽出する構成を第3〜18の各実施の形態に組み込んでもよい。
また、第3〜第18の実施の形態では正常色変化の設定方法をそれぞれ変えた形態を示したが、これらの各形態の幾つかの正常色変化の設定方法を組み合わせてもよい。
色変化空間上の色変化分布に対する処理を行う場合、3次元の色変化空間上で処理を行ってもよいし、3次元の色変化分布を2次元に投影した色変化平面上でそれぞれ処理を行ってもよい。