JP4104867B2 - ナイトビジョンシステム - Google Patents
ナイトビジョンシステム Download PDFInfo
- Publication number
- JP4104867B2 JP4104867B2 JP2002010577A JP2002010577A JP4104867B2 JP 4104867 B2 JP4104867 B2 JP 4104867B2 JP 2002010577 A JP2002010577 A JP 2002010577A JP 2002010577 A JP2002010577 A JP 2002010577A JP 4104867 B2 JP4104867 B2 JP 4104867B2
- Authority
- JP
- Japan
- Prior art keywords
- area
- image
- mask
- height
- pedestrian
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【０００１】
【発明の属する技術分野】
この発明は、赤外線カメラにより撮影された画像の２値化処理により、対象物抽出を行うナイトビジョンシステムに関する。
【０００２】
【従来の技術】
従来、赤外線カメラにより捉えられた車両周辺の画像から、車両との衝突の可能性がある歩行者等の対象物を抽出し、その情報を車両の運転者に提供するナイトビジョンシステムが提案されている。このシステムでは、歩行者等の対象物における車両との衝突の可能性は、車両と対象物との相対距離や相対速度に基づいて判定される。
【０００３】
また、例えばこのように赤外線カメラにより捉えられた車両周辺の画像から、車両との衝突の可能性がある歩行者等の対象物を抽出するナイトビジョンシステムには、特開平１１−３２８３６４号公報に記載のものがある。同公報によると、この装置は赤外線画像を２値化処理して明部が集中している領域を探し、この領域の縦横比や充足率、更には実面積と画面上の重心位置を用いて距離を算出することで、この領域が歩行者の頭部であるか否かを判定する。そして、歩行者の頭部の領域を決定することができたら、決定した頭部領域のカメラからの距離と成人の平均身長とから、画像上の歩行者の身長を計算して歩行者の身体を包含する領域を設定し、これらの領域を他の領域と区分して表示する。これにより、赤外線画像上の歩行者の身体全体の位置を特定し、この情報を車両の運転者に対して表示することで、より効果的な視覚補助を行うことができる。
【０００４】
【発明が解決しようとする課題】
しかし、赤外線画像上での歩行者は、着帽、着衣の影響や、歩行者自身の存在環境によって、２値化処理により頭部のみ、頭部の一部のみ、上半身のみ、下半身のみ、更には身体全体が抽出されるなど、その２値化形状は不定形である。また、一般的に車両走行時には、前方路面の形状の変化や、車両のピッチングの影響があり、歩行者も子供から大人（成人）まで本来とは異なる身長で検出される。
従って、対象物の画面での重心座標が距離に対して固定化できないため、上述の従来の装置のように、形状判定のみで歩行者の抽出を行った場合、歩行者として適当でない対象物高さ（対象物の大きさ）や対象物高さ位置（対象物の重心座標）に基づいた物体を歩行者として抽出してしまう可能性があった。
【０００５】
本発明は、上記課題に鑑みてなされたもので、カメラにより撮影された画像から抽出される不定形な２値化対象物の大きさや位置を的確に判定し、安定した歩行者の抽出を行うナイトビジョンシステムを提供することを目的とする。
【０００６】
【課題を解決するための手段】
上記課題を解決するために、請求項１の発明に係わるナイトビジョンシステムは、移動体に備えられた２つの赤外線カメラにより捉えられた画像を利用して、歩行者を認識するナイトビジョンシステムであって、前記画像のグレースケール画像を２値化処理することにより、前記グレースケール画像から２値化対象物を抽出する２値化対象物抽出手段（例えば実施の形態のステップＳ１〜ステップＳ１３）と、前記グレースケール画像上の前記２値化対象物の上下方向に、人間の幅を基準とした探索領域を前記２値化対象物に連続して複数個設定すると共に、前記探索領域と前記２値化対象物との前記移動体の進行方向に対する距離をそれぞれ比較して、前記探索領域内に存在する物体と前記２値化対象物が同一距離の前記探索領域である同一距離領域を抽出する同一距離領域抽出手段（例えば第１の実施の形態のステップＳ４１〜ステップＳ５３、第２の実施の形態のステップＳ６１〜ステップＳ６７）と、前記２値化対象物の画像の高さに、前記２値化対象物と同一距離の前記同一距離領域の画像の高さを加えて、目的の対象物の高さを求めると共に、前記対象物の高さに基づいて前記グレースケール画像中の歩行者を認識する歩行者判別手段（例えば第１の実施の形態のステップＳ５４〜ステップＳ５９、第２の実施の形態のステップＳ６８〜ステップＳ７３）とを備えたことを特徴とする。
【０００７】
以上の構成を備えたナイトビジョンシステムは、まず２値化対象物抽出手段により２値化対象物の位置をグレースケール画像上に認識する。次に、同一距離領域抽出手段により、２値化対象物の上下方向に人間の幅を基準とした探索領域を２値化対象物に連続して複数個設定し、該探索領域の中から２値化対象物と同一距離の物体を含む探索領域を抽出する。そして、歩行者判別手段により、２値化対象物に２値化対象物と同一距離の物体を含む探索領域を加えた範囲の画像の高さを基に目的の対象物の高さを求めることで、この対象物の高さから目的の対象物が歩行者か否かを判断することができる。
【０００８】
請求項２の発明に係わるナイトビジョンシステムは、請求項１に記載のナイトビジョンシステムにおいて、前記歩行者判別手段が、前記対象物の高さと人間の高さを基準に設定された閾値との比較により、前記対象物から人間以外の物体を除去することを特徴とする。
以上の構成を備えたナイトビジョンシステムは、人間の高さとして適当ではない物体を予め対象物の中から除去することで、歩行者の検出を行いやすくすることができる。
請求項３の発明に係わるナイトビジョンシステムは、請求項１又は２に記載のナイトビジョンシステムにおいて、前記探索領域が、前記グレースケール画像上の前記２値化対象物の上下方向に、人間の肩幅を基準とした幅と、抽出された前記２値化対象物の高さより小さい高さとしたことを特徴とする。
請求項４の発明に係わるナイトビジョンシステムは、請求項１乃至３の何れか一項に記載のナイトビジョンシステムにおいて、前記探索領域内に存在する物体が前記２値化対象物と同一距離でないと判断された前記探索領域である不同一距離領域が前記２値化対象物と前記同一距離領域との間にある場合は、前記不同一距離領域を前記対象物の高さとして含ませることを特徴とする。
【０００９】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態について説明する。
（第１の実施の形態）
図１は、本発明の第１の実施の形態のナイトビジョンシステムの構成を示すブロック図である。
図１において、符号１は、本実施の形態のナイトビジョンシステムを制御するＣＰＵ（中央演算装置）を備えた画像処理ユニットであって、遠赤外線を検出可能な２つの赤外線カメラ２Ｒ、２Ｌと当該車両のヨーレートを検出するヨーレートセンサ３、更に、当該車両の走行速度（車速）を検出する車速センサ４とブレーキの操作を検出するためのブレーキセンサ５が接続される。これにより、画像処理ユニット１は、車両の周辺の赤外線画像と車両の走行状態を示す信号から、車両前方の歩行者や動物等の動く物体を検出し、衝突の可能性が高いと判断したときに警報を発する。
【００１０】
また、画像処理ユニット１には、音声で警報を発するためのスピーカ６と、赤外線カメラ２Ｒ、２Ｌにより撮影された画像を表示し、衝突の危険性が高い対象物を車両の運転者に認識させるための、例えば自車両の走行状態を数字で表すメータと一体化されたメータ一体Ｄｉｓｐｌａｙや自車両のコンソールに設置されるＮＡＶＩＤｉｓｐｌａｙ、更にフロントウィンドウの運転者の前方視界を妨げない位置に情報を表示するＨＵＤ（Head Up Display ）７ａ等を含む画像表示装置７が接続されている。
【００１１】
また、画像処理ユニット１は、入力アナログ信号をディジタル信号に変換するＡ／Ｄ変換回路、ディジタル化した画像信号を記憶する画像メモリ、各種演算処理を行うＣＰＵ（中央演算装置）、ＣＰＵが演算途中のデータを記憶するために使用するＲＡＭ（Random Access Memory）、ＣＰＵが実行するプログラムやテーブル、マップなどを記憶するＲＯＭ（Read Only Memory）、スピーカ６の駆動信号、ＨＵＤ７ａ等の表示信号などを出力する出力回路を備えており、赤外線カメラ２Ｒ、２Ｌ及びヨーレートセンサ３、車速センサ４、ブレーキセンサ５の各出力信号は、ディジタル信号に変換されてＣＰＵに入力されるように構成されている。
【００１２】
また、図２に示すように、赤外線カメラ２Ｒ、２Ｌは、自車両１０の前部に、自車両１０の車幅方向中心部に対してほぼ対象な位置に配置されており、２つの赤外線カメラ２Ｒ、２Ｌの光軸が互いに平行であって、かつ両者の路面からの高さが等しくなるように固定されている。なお、赤外線カメラ２Ｒ、２Ｌは、対象物の温度が高いほど、その出力信号レベルが高くなる（輝度が増加する）特性を有している。
また、ＨＵＤ７ａは、自車両１０のフロントウインドウの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
【００１３】
次に、本実施の形態の動作について図面を参照して説明する。
図３は、本実施の形態のナイトビジョンシステムの画像処理ユニット１における歩行者等の対象物検出・警報動作を示すフローチャートである。
まず、画像処理ユニット１は、赤外線カメラ２Ｒ、２Ｌの出力信号である赤外線画像を取得して（ステップＳ１）、Ａ／Ｄ変換し（ステップＳ２）、グレースケール画像を画像メモリに格納する（ステップＳ３）。なお、ここでは赤外線カメラ２Ｒにより右画像が得られ、赤外線カメラ２Ｌにより左画像が得られる。また、右画像と左画像では、同一の対象物の表示画面上の水平位置がずれて表示されるので、このずれ（視差）によりその対象物までの距離を算出することができる。
【００１４】
ステップＳ３においてグレースケール画像が得られたら、次に、赤外線カメラ２Ｒにより得られた右画像を基準画像とし、その画像信号の２値化処理、すなわち、輝度閾値ＩＴＨより明るい領域を「１」（白）とし、暗い領域を「０」（黒）とする処理を行う（ステップＳ４）。
図４（ａ）は、赤外線カメラ２Ｒにより得られたグレースケール画像を示し、これに２値化処理を行うことにより、図４（ｂ）に示すような画像を得る。なお、図４（ｂ）において、例えばＰ１からＰ４の枠で囲った物体を、表示画面上に白色として表示される対象物（以下「高輝度領域」という）とする。
赤外線画像から２値化された画像データを取得したら、２値化した画像データをランレングスデータに変換する処理を行う（ステップＳ５）。ランレングスデータにより表されるラインは、２値化により白となった領域を画素レベルで示したもので、いずれもｙ方向には１画素の幅を有しており、またｘ方向にはそれぞれランレングスデータを構成する画素の長さを有している。
【００１５】
次に、ランレングスデータに変換された画像データから、対象物のラベリングをする（ステップＳ６）ことにより、対象物を抽出する処理を行う（ステップＳ７）。すなわち、ランレングスデータ化したラインのうち、ｙ方向に重なる部分のあるラインを１つの対象物とみなすことにより、例えば図４（ｂ）に示す高輝度領域が、それぞれ対象物（２値化対象物）１から４として把握されることになる。
対象物の抽出が完了したら、次に、抽出した対象物の重心Ｇ、面積Ｓ及び外接四角形の縦横比ＡＳＰＥＣＴを算出する（ステップＳ８）。
【００１６】
ここで、面積Ｓは、ラベルＡの対象物のランレングスデータを（ｘ［ｉ］、ｙ［ｉ］、ｒｕｎ［ｉ］、Ａ）（ｉ＝０，１，２，・・・Ｎ−１）とすると、ランレングスデータの長さ（ｒｕｎ［ｉ］−１）を同一対象物（Ｎ個のランレングスデータ）について積算することにより算出する。また、対象物Ａの重心Ｇの座標（ｘｃ、ｙｃ）は、各ランレングスデータの長さ（ｒｕｎ［ｉ］−１）と各ランレングスデータの座標ｘ［ｉ］、またはｙ［ｉ］とをそれぞれ掛け合わせ、更にこれを同一対象物について積算したものを、面積Ｓで割ることにより算出する。更に、縦横比ＡＳＰＥＣＴは、対象物の外接四角形の縦方向の長さＤｙと横方向の長さＤｘとの比Ｄｙ／Ｄｘとして算出する。
なお、ランレングスデータは画素数（座標数）（＝ｒｕｎ［ｉ］）で示されているので、実際の長さは「−１」する必要がある（＝ｒｕｎ［ｉ］−１）。また、重心Ｇの位置は、外接四角形の重心位置で代用してもよい。
【００１７】
対象物の重心、面積、外接四角形の縦横比が算出できたら、次に、対象物の時刻間追跡、すなわちサンプリング周期毎の同一対象物の認識を行う（ステップＳ９）。時刻間追跡は、アナログ量としての時刻ｔをサンプリング周期で離散化した時刻をｋとし、例えば時刻ｋで対象物Ａ、Ｂを抽出したら、時刻（ｋ＋１）で抽出した対象物Ｃ、Ｄと対象物Ａ、Ｂとの同一性判定を行う。そして、対象物Ａ、Ｂと対象物Ｃ、Ｄとが同一であると判定されたら、対象物Ｃ、Ｄをそれぞれ対象物Ａ、Ｂというラベルに変更することにより、時刻間追跡が行われる。
また、このようにして認識された各対象物の（重心の）位置座標は、時系列位置データとしてメモリに格納され、後の演算処理に使用される。
【００１８】
なお、以上説明したステップＳ４〜Ｓ９の処理は、２値化した基準画像（本実施の形態では、右画像）について実行する。
次に、車速センサ４により検出される車速ＶＣＡＲ及びヨーレートセンサ３より検出されるヨーレートＹＲを読み込み、ヨーレートＹＲを時間積分することより、自車両１０の回頭角θｒを算出する（ステップＳ１０）。
【００１９】
一方、ステップＳ９とステップＳ１０の処理に平行して、ステップＳ１１〜Ｓ１３では、対象物と自車両１０との距離ｚを算出する処理を行う。この演算はステップＳ９、及びステップＳ１０より長い時間を要するため、ステップＳ９、Ｓ１１より長い周期（例えばステップＳ１〜Ｓ１０の実行周期の３倍程度の周期）で実行される。
まず、基準画像（右画像）の２値化画像によって追跡される対象物の中の１つを選択することにより、右画像から探索画像Ｒ１（ここでは、外接四角形で囲まれる領域全体を探索画像とする）を抽出する（ステップＳ１１）。
【００２０】
次に、左画像中から探索画像Ｒ１に対応する画像（以下「対応画像」という）を探索する探索領域を設定し、相関演算を実行して対応画像を抽出する（ステップＳ１２）。具体的には、探索画像Ｒ１の各頂点座標に応じて、左画像中に探索領域Ｒ２を設定し、探索領域Ｒ２内で探索画像Ｒ１との相関の高さを示す輝度差分総和値Ｃ（ａ，ｂ）を算出し、この総和値Ｃ（ａ，ｂ）が最小となる領域を対応画像として抽出する。なお、この相関演算は、２値化画像ではなくグレースケール画像を用いて行う。
また同一対象物についての過去の位置データがあるときは、その位置データに基づいて探索領域Ｒ２より狭い領域Ｒ２ａを探索領域として設定する。
【００２１】
ステップＳ１２の処理により、基準画像（右画像）中に探索画像Ｒ１と、左画像中にこの対象物に対応する対応画像Ｒ４とが抽出されるので、次に、探索画像Ｒ１の重心位置と対応画像Ｒ４の重心位置と視差Δｄ（画素数）を求め、これから自車両１０と対象物との距離ｚを算出する（ステップＳ１３）。距離ｚを求める式は後述する。
次に、ステップＳ１０における回頭角θｒの算出と、ステップＳ１３における対象物との距離算出が完了したら、画像内の座標（ｘ，ｙ）及び距離ｚを実空間座標（Ｘ，Ｙ，Ｚ）に変換する（ステップＳ１４）。
ここで、実空間座標（Ｘ，Ｙ，Ｚ）は、図２に示すように、赤外線カメラ２Ｒ、２Ｌの取り付け位置の中点の位置（自車両１０に固定された位置）を原点Ｏとして、図示のように定め、画像内の座標は、画像の中心を原点として水平方向をｘ、垂直方向をｙと定めている。
【００２２】
また、実空間座標が求められたら、自車両１０が回頭することによる画像上の位置ずれを補正するための回頭角補正を行う（ステップＳ１５）。回頭角補正は、時刻ｋから（ｋ＋１）までの期間中に自車両１０が例えば左方向に回頭角θｒだけ回頭すると、カメラによって得られる画像上では、画像の範囲がΔｘだけｘ方向にずれるので、これを補正する処理である。
なお、以下の説明では、回頭角補正後の座標を（Ｘ，Ｙ，Ｚ）と表示する。
【００２３】
実空間座標に対する回頭角補正が完了したら、次に、同一対象物について、ΔＴのモニタ期間内に得られた、回頭角補正後のＮ個（例えばＮ＝１０程度）の実空間位置データ、すなわち時系列データから、対象物と自車両１０との相対移動ベクトルに対応する近似直線ＬＭＶを求める（ステップＳ１６）。
次いで、最新の位置座標Ｐ（０）＝（Ｘ（０），Ｙ（０），Ｚ（０））と、（Ｎ−１）サンプル前（時間ΔＴ前）の位置座標Ｐ（Ｎー１）＝（Ｘ（Ｎ−１），Ｙ（Ｎ−１），Ｚ（Ｎ−１））を近似直線ＬＭＶ上の位置に補正し、補正後の位置座標Ｐｖ（０）＝（Ｘｖ（０），Ｙｖ（０），Ｚｖ（０））及びＰｖ（Ｎ−１）＝（Ｘｖ（Ｎ−１），Ｙｖ（Ｎ−１），Ｚｖ（Ｎ−１））を求める。
【００２４】
これにより、位置座標Ｐｖ（Ｎ−１）からＰｖ（０）に向かうベクトルとして、相対移動ベクトルが得られる。
このようにモニタ期間ΔＴ内の複数（Ｎ個）のデータから対象物の自車両１０に対する相対移動軌跡を近似する近似直線を算出して相対移動ベクトルを求めることにより、位置検出誤差の影響を軽減して対象物との衝突の可能性をより正確に予測することが可能となる。
【００２５】
また、ステップＳ１６において、相対移動ベクトルが求められたら、次に、検出した対象物との衝突の可能性を判定する警報判定処理を行う（ステップＳ１７）。なお、警報判定処理については、詳細を後述する。
ステップＳ１７において、自車両１０と検出した対象物との衝突の可能性がないと判定された場合（ステップＳ１７のＮＯ）、ステップＳ１へ戻り、上述の処理を繰り返す。
また、ステップＳ１７において、自車両１０と検出した対象物との衝突の可能性があると判定された場合（ステップＳ１７のＹＥＳ）、ステップＳ１８の警報出力判定処理へ進む。
【００２６】
ステップＳ１８では、ブレーキセンサ５の出力ＢＲから自車両１０の運転者がブレーキ操作を行っているか否かを判別することにより、警報出力判定処理、すなわち警報出力を行うか否かの判定を行う（ステップＳ１８）。
もし、自車両１０の運転者がブレーキ操作を行っている場合には、それによって発生する加速度Ｇｓ（減速方向を正とする）を算出し、この加速度Ｇｓが所定閾値ＧＴＨより大きいときは、ブレーキ操作により衝突が回避されると判定して警報出力判定処理を終了し（ステップＳ１８のＮＯ）、ステップＳ１へ戻り、上述の処理を繰り返す。
これにより、適切なブレーキ操作が行われているときは、警報を発しないようにして、運転者に余計な煩わしさを与えないようにすることができる。
【００２７】
また、加速度Ｇｓが所定閾値ＧＴＨ以下であるとき、または自車両１０の運転者がブレーキ操作を行っていなければ、直ちにステップＳ１９の処理へ進み（ステップＳ１８のＹＥＳ）、対象物と接触する可能性が高いので、スピーカ３を介して音声による警報を発する（ステップＳ１９）とともに、画像表示装置７に対して、例えば赤外線カメラ２Ｒにより得られる画像を出力し、接近してくる対象物を自車両１０の運転者に対する強調映像として表示する（ステップＳ２０）。なお、所定閾値ＧＴＨは、ブレーキ操作中の加速度Ｇｓがそのまま維持された場合に、対象物と自車両１０との距離Ｚｖ（０）以下の走行距離で自車両１０が停止する条件に対応する値である。
【００２８】
以上が、本実施の形態のナイトビジョンシステムの画像処理ユニット１における対象物検出・警報動作であるが、次に、図５に示すフローチャートを参照して、図３に示したフローチャートのステップＳ１７における警報判定処理について更に詳しく説明する。
図５は、本実施の形態の警報判定処理動作を示すフローチャートである。
警報判定処理は、以下に示す衝突判定処理、接近判定領域内か否かの判定処理、進入衝突判定処理、歩行者判定処理、及び人工構造物判定処理により、自車両１０と検出した対象物との衝突の可能性を判定する処理である。以下、図６に示すように、自車両１０の進行方向に対してほぼ９０°の方向から、速度Ｖｐで進行してくる対象物２０がいる場合を例に取って説明する。
【００２９】
図５において、まず、画像処理ユニット１は衝突判定処理を行う（ステップＳ３１）。衝突判定処理は、図６において、対象物２０が時間ΔＴの間に距離Ｚｖ（Ｎ−１）から距離Ｚｖ（０）に接近した場合に、自車両１０とのＺ方向の相対速度Ｖｓを求め、両者が高さＨ以内で相対速度Ｖｓを維持して移動すると仮定して、余裕時間Ｔ以内に両者が衝突するか否かを判定する処理である。ここで、余裕時間Ｔは、衝突の可能性を予測衝突時刻より時間Ｔだけ前に判定することを意図したものである。従って、余裕時間Ｔは例えば２〜５秒程度に設定される。またＨは、高さ方向の範囲を規定する所定高さであり、例えば自車両１０の車高の２倍程度に設定される。
【００３０】
次に、ステップＳ３１において、余裕時間Ｔ以内に自車両１０と対象物とが衝突する可能性がある場合（ステップＳ３１のＹＥＳ）、更に判定の信頼性を上げるために、画像処理ユニット１は対象物が接近判定領域内に存在するか否かの判定処理を行う（ステップＳ３２）。接近判定領域内か否かの判定処理は、図７に示すように、赤外線カメラ２Ｒ、２Ｌで監視可能な領域を太い実線で示す外側の三角形の領域ＡＲ０とすると、領域ＡＲ０内の、Ｚ１＝Ｖｓ×Ｔより自車両１０に近い領域であって、対象物が自車両１０の車幅αの両側に余裕β（例えば５０〜１００ｃｍ程度とする）を加えた範囲に対応する領域ＡＲ１、すなわち対象物がそのまま存在し続ければ自車両１０との衝突の可能性がきわめて高い接近判定領域ＡＲ１内に存在するか否かを判定する処理である。なお、接近判定領域ＡＲ１も所定高さＨを有する。
【００３１】
更に、ステップＳ３２において、対象物が接近判定領域内に存在しない場合（ステップＳ３２のＮＯ）、画像処理ユニット１は対象物が接近判定領域内へ進入して自車両１０と衝突する可能性があるか否かを判定する進入衝突判定処理を行う（ステップＳ３３）。進入衝突判定処理は、上述の接近判定領域ＡＲ１よりＸ座標の絶対値が大きい（接近判定領域の横方向外側の）領域ＡＲ２、ＡＲ３を進入判定領域と呼び、この領域内にある対象物が、移動することにより接近判定領域ＡＲ１に進入すると共に自車両１０と衝突するか否かを判定する処理である。なお、進入判定領域ＡＲ２、ＡＲ３も所定高さＨを有する。
【００３２】
一方、ステップＳ３２において、対象物が接近判定領域内に存在している場合（ステップＳ３２のＹＥＳ）、画像処理ユニット１は対象物が歩行者の可能性があるか否かを判定する歩行者判定処理を行う（ステップＳ３４）。なお、歩行者判定処理については、詳細を後述する。
また、ステップＳ３４において、対象物は歩行者の可能性があると判定された場合（ステップＳ３４のＹＥＳ）、更に判定の信頼性を上げるために、対象物が人工構造物であるか否かを判定する人工構造物判定処理を行う（ステップＳ３５）。人工構造物判定処理は、対象物画像に、例えば以下に示すような歩行者にはあり得ない特徴が検出された場合、該対象物を人工構造物と判定し、警報の対象から除外する処理である。
（１）対象物の画像に直線エッジを示す部分が含まれる場合。
（２）対象物の画像の角が直角である場合。
（３）対象物の画像に同じ形状のものが複数含まれている場合。
（４）対象物の画像が予め登録された人口構造物の形状と一致する場合。
【００３３】
従って、上述のステップＳ３３において、対象物が接近判定領域内へ進入して自車両１０と衝突する可能性がある場合（ステップＳ３３のＹＥＳ）、及びステップＳ３５において、歩行者の可能性があると判定された対象物が人工構造物でなかった場合（ステップＳ３５のＮＯ）、画像処理ユニット１は、自車両１０と検出した対象物との衝突の可能性がある（警報の対象である）と判定し（ステップＳ３６）、図３に示すステップＳ１７のＹＥＳとしてステップＳ１８へ進み、警報出力判定処理（ステップＳ１８）を行う。
【００３４】
一方、上述のステップＳ３１において、余裕時間Ｔ以内に自車両１０と対象物とが衝突する可能性がない場合（ステップＳ３１のＮＯ）、あるいはステップＳ３３において、対象物が接近判定領域内へ進入して自車両１０と衝突する可能性がない場合（ステップＳ３３のＮＯ）、あるいはステップＳ３４において、対象物は歩行者の可能性がないと判定された場合（ステップＳ３４のＮＯ）、更にはステップＳ３５において、歩行者の可能性があると判定された対象物が人工構造物であった場合（ステップＳ３５のＹＥＳ）のいずれかであった場合は、画像処理ユニット１は、自車両１０と検出した対象物との衝突の可能性がない（警報の対象ではない）と判定し（ステップＳ３７）、図３に示すステップＳ１７のＮＯとしてステップＳ１へ戻り、歩行者等の対象物検出・警報動作を繰り返す。
【００３５】
次に、図８と図９に示すフローチャートを参照して、図５に示したフローチャートのステップＳ３４における歩行者判定処理について更に詳しく説明する。図８と図９は、本実施の形態の歩行者判定処理動作を示すフローチャートである。図８において、まず、画像処理ユニット１は、図３に示したフローチャートのステップＳ７において抽出された２値化対象物を取得する（ステップＳ４１）。更に、図３に示したフローチャートのステップＳ８において算出された２値化対象物（図１０に示す２値化対象物１００）の重心Ｇ（ｘｃ、ｙｃ）（図１０に示す２値化対象物の重心Ｇ１０１）とステップＳ１３において算出された自車両１０と対象物との視差Δｄ（距離ｚ）を取得する（ステップＳ４２）。
【００３６】
次に、グレースケール画像上で、対象物の存在領域を抽出し、対象物の高さと対象物の路面を基準とした高さ位置とを算出する。
そのために、まず図１０に示すような実空間での大きさがＷ［ｍ］×Ｈ［ｍ］である長方形領域のマスク領域（それぞれをＭＡＳＫ［Ｉ］とする）を、対象物の領域を探索するために、２値化対象物に連続して複数個設定する（ステップＳ４３）。但し、Ｗ［ｍ］は歩行者を対象とする場合、歩行者の肩幅以上とし、（２）式により、２値化対象物までの距離ｚ［ｍ］を用いて、画面上のマスク領域サイズＷｐ［ｐｉｘｅｌ］×Ｈｐ［ｐｉｘｅｌ］に変換する。
なお、図１０はカメラで捉えられた歩行者を模式的に表したもので、斜線の領域が２値化処理で捉えられた対象物の部位であり、点線で囲まれた領域が２値化処理では捉えられていないが、グレースケール画像で背景に対して物体の存在が確認できる対象物の部位を表す。
【００３７】
具体的には、前述の対象物距離ｚ［ｍ］は、カメラの基線長Ｄ［ｍ］、カメラ焦点距離ｆ［ｍ］、画素ピッチｐ［ｍ／ｐｉｘｅｌ］と、映像から相関演算によって算出される視差Δｄ［ｐｉｘｅｌ］によって、（１）式のように求められるので、
ｚ＝（ｆ×Ｄ）／（Δｄ×ｐ） ・・・（１）
ＷｐとＨｐが、それぞれ２値化対象物までの距離ｚ［ｍ］を用いて
Ｗｐ＝（ｆ×Ｗ）／（ｚ×ｐ）
Ｈｐ＝（ｆ×Ｈ）／（ｚ×ｐ） ・・・（２）
とするＭＡＳＫ［Ｉ］を、基準となるグレースケール映像の２値化対象物の上下端に接する位置からＮ個配置する（但しＩ＝０，１，・・・，Ｎ−１）。
【００３８】
そして、グレースケール画像上にマスク領域が設定できたら、マスク領域を識別する変数Ｉに”０”を代入し、Ｉをリセットする（ステップＳ４４）。
次に、マスク領域ＭＡＳＫ［Ｉ］の輝度分散Ｖａｒ［Ｉ］を算出する（ステップＳ４５）。
そして、マスク領域ＭＡＳＫ［Ｉ］について、マスク領域内の輝度変化を確認するために、（３）式を満たしてマスク領域ＭＡＳＫ［Ｉ］の輝度分散Ｖａｒ［Ｉ］が閾値ＴＨ１より大きく、マスク領域にグレースケール画像に基づき背景とは異なる熱特性を持つ物体が存在するか否かを判断する（ステップＳ４６）。
Ｖａｒ［Ｉ］＞ＴＨ１ ・・・（３）
【００３９】
もし、ステップＳ４６において、マスク領域ＭＡＳＫ［Ｉ］の輝度分散Ｖａｒ［Ｉ］が閾値ＴＨ１より大きかった場合（ステップＳ４６のＹＥＳ）、次にマスク領域ＭＡＳＫ［Ｉ］について、左右のカメラで同じ物体を捉えているかを確認する。具体的には、まずマスク領域ＭＡＳＫ［Ｉ］の距離（視差ｄｎ［Ｉ］）を左右の画像の相関演算（ＳＡＤ：Sum of Absolute difference）によって算出する（ステップＳ４７）。そして、ＳＡＤの相関度はＥｒｒｏｒとして算出され、ＳＡＤでは相関度が高いほど小さな値を示すため、（４）式を満たしてマスク領域ＭＡＳＫ［Ｉ］の左右画像の相関度Ｅｒｒｏｒが閾値ＴＨ２より小さいか否かを判定する（ステップＳ４８）。
Ｅｒｒｏｒ＜ＴＨ２ ・・・（４）
【００４０】
もし、ステップＳ４８において、マスク領域ＭＡＳＫ［Ｉ］の相関度Ｅｒｒｏｒが閾値ＴＨ２より小さかった場合（ステップＳ４８のＹＥＳ）、次にマスク領域ＭＡＳＫ［Ｉ］について、２値化対象物と同じ物体を捉えているか確認するために、（５）式を満たして２値化対象物の視差Δｄとマスク領域ＭＡＳＫ［Ｉ］の視差ｄｎ［Ｉ］との差分の絶対値が閾値ＴＨ３より小さいか否かを判定する（ステップＳ４９）。
｜Δｄ−ｄｎ［Ｉ］｜＜ＴＨ３ ・・・（５）
そして、ステップＳ４９において、２値化対象物の視差Δｄとマスク領域ＭＡＳＫ［Ｉ］の視差ｄｎ［Ｉ］との差分の絶対値が閾値ＴＨ３より小さかった場合（ステップＳ４９のＹＥＳ）、マスク領域ＭＡＳＫ［Ｉ］に含まれている対象物は、２値化対象物と同一の物体と判定し、マスク領域ＭＡＳＫ［Ｉ］に”ＴＲＵＥ”を設定する（ステップＳ５０）。
【００４１】
一方、ステップＳ４６において、マスク領域ＭＡＳＫ［Ｉ］の輝度分散Ｖａｒ［Ｉ］が閾値ＴＨ１以下であった場合（ステップＳ４６のＮＯ）、あるいはステップＳ４８において、マスク領域ＭＡＳＫ［Ｉ］の相関度Ｅｒｒｏｒが閾値ＴＨ２以上であった場合（ステップＳ４８のＮＯ）、あるいはステップＳ４９において、２値化対象物の視差Δｄとマスク領域ＭＡＳＫ［Ｉ］の視差ｄｎ［Ｉ］との差分の絶対値が閾値ＴＨ３以上であった場合（ステップＳ４９のＮＯ）のいずれかであった場合には、マスク領域ＭＡＳＫ［Ｉ］に含まれている対象物は、２値化対象物と別の物体と判定し、マスク領域ＭＡＳＫ［Ｉ］に”ＦＡＬＳＥ”を設定する（ステップＳ５１）。
【００４２】
ステップＳ５０、あるいはステップＳ５１において、マスク領域ＭＡＳＫ［Ｉ］に含まれる物体の判定を行ったら、マスク領域を識別する変数Ｉを１つカウントアップし（ステップＳ５２）、更に変数Ｉがマスク領域の個数Ｎより大きいか否かを判定する（ステップＳ５３）。
ステップＳ５３において、変数Ｉがマスク領域の個数Ｎ以下であった場合（ステップＳ５３のＮＯ）、ステップＳ４５へ戻り、上述の動作を繰り返し、１つカウントアップされた変数Ｉで指定されるマスク領域ＭＡＳＫ［Ｉ］に含まれる物体の判定を行う。
【００４３】
また、ステップＳ５３において、変数Ｉがマスク領域の個数Ｎより大きかった場合（ステップＳ５３のＹＥＳ）、図９のステップＳ５４へ進む。そして図１１に示すように、ステップＳ５０において”ＴＲＵＥ”と判定されたマスク領域ＭＡＳＫ［Ｉ］の全てと２値化対象物１００とを含む領域を、対象物領域１０２として抽出し、この対象物領域の画面上の高さＨｅｉｇｈｔ［ｐｉｘｅｌ］と対象物領域左下端位置１０３の座標（ｘｒ、ｙｒ）［ｐｉｘｅｌ］を算出する（ステップＳ５４）。
【００４４】
次に、画面上の対象物領域の高さＨｅｉｇｈｔ［ｐｉｘｅｌ］が求められたら、（６）式により対象物の実空間での高さΔＨ［ｍ］を算出する（ステップＳ５５）。
ΔＨ＝ｚ×Ｈｅｉｇｈｔ×ｐ／ｆ ・・・（６）
また、対象物領域の左下端位置を路面交点とすることで、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］を（７）式により算出する（ステップＳ５６）。
Ｙｃ＝ｚ×（ｙｃ−ｙｒ）×ｐ／ｆ ・・・（７）
なお図１１では、マスク領域ＭＡＳＫ［４］において、背景との輝度分散の差が局所的にない場合を例にしているが、”ＴＲＵＥ”と判定されたマスク領域ＭＡＳＫ［Ｉ］の全てと２値化対象物１００とを含む領域を、対象物領域１０２として抽出することで、対象物領域の抽出は局所的な領域の欠落によって影響を受けることがない。
【００４５】
そして、求められた対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値であるか否かを判定する（ステップＳ５７）。
もし、ステップＳ５７において、対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値であった場合（ステップＳ５７のＹＥＳ）、対象物領域１０２に捉えられた対象物は歩行者であると判定して（ステップＳ５８）歩行者判定処理を終了し、図５に示すステップＳ３４のＹＥＳとして図５のステップＳ３５へ進み、人工構造物判定を行う。
【００４６】
また、ステップＳ５７において、対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値でなかった場合（ステップＳ５７のＮＯ）、対象物領域１０２に捉えられた対象物は歩行者ではないと判定して（ステップＳ５９）歩行者判定処理を終了し、図５に示すステップＳ３４のＮＯとして図５のステップＳ３７へ進み、対象物は警報対象ではないと判定する。
【００４７】
なお、本実施の形態では、画像処理ユニット１が、２値化対象物抽出手段と、同一距離領域抽出手段と、歩行者判別手段とを含んでいる。より具体的には、図３のＳ１〜Ｓ１３が２値化対象物抽出手段に相当し、図８のＳ４１〜Ｓ５３が同一距離領域抽出手段に相当する。また、図９のＳ５４〜Ｓ５９が歩行者判別手段に相当する。
【００４８】
以上説明したように、本実施の形態のナイトビジョンシステムは、赤外線カメラにより撮影された画像のグレースケール画像から歩行者等の対象物を２値化処理によって抽出した後、グレースケール画像上の２値化対象物の上下に、マスク領域を２値化対象物に連続して複数個設定し、このマスク領域の輝度分散、左右画像の相関度、更には２値化対象物の視差とマスク領域の視差との差分を、マスク領域それぞれについて判定し、２値化対象物と同一距離の対象物を含むマスク領域を抽出する。そして、このマスク領域と２値化対象物を含む領域を対象物領域とし、この対象物領域に対応する実空間における対象物の高さや路面からの高さ位置が歩行者として適当か否かを判定する。
【００４９】
これにより、着帽、着衣の影響や、歩行者自身の存在環境によって、赤外線画像上で２値化処理により頭部のみ、頭部の一部のみ、上半身のみ、下半身のみ、更には身体全体が抽出されるなど、不定形な２値化形状で抽出される歩行者を、その形状の高さや路面からの高さ位置により的確に判断することができるという効果が得られる。
従って、例えば図１２に示すカーブミラーのような道路構造物は、ミラー部位１０４が２値化対象物１００として歩行者の頭部のように抽出されても、マスク領域に対して面積比率が小さい支柱部位１０５に相当するマスク領域ＭＡＳＫ［３］からＭＡＳＫ［６］では、背景の影響が大きく輝度分散が小さくなるために、歩行者の部位として認められずにマスク領域は”ＦＡＬＳＥ”となって、対象物領域がミラー部位（頭部のみ）と判定されるため、最終的に対象物領域の高さが歩行者として不適当である、すなわち歩行者ではないと判断される。
【００５０】
（第２の実施の形態）
次に、図面を参照して本発明の第２の実施の形態について説明する。
本発明の第２の実施の形態のナイトビジョンシステムが、第１の実施の形態のナイトビジョンシステムと比較して異なる部分は、第１の実施の形態で図８と図９のフローチャートを用いて説明したナイトビジョンシステムの画像処理ユニット１における歩行者判定処理動作が、図１３にフローチャートを示す歩行者判定処理動作に変更されることである。
なお、第２の実施の形態のナイトビジョンシステムの構成や、歩行者判定処理動作以外の動作については、第１の実施の形態のナイトビジョンシステムと同一であるので、ここでは説明を省略する。
【００５１】
次に、図１３のフローチャートを用いて、第２の実施の形態のナイトビジョンシステムの画像処理ユニット１における歩行者判定処理動作を具体的に説明する。
第２の実施の形態の歩行者判定処理動作では、第１の実施の形態の歩行者判定処理動作と同様に、ステップＳ６１からステップＳ６３に示す処理を行う。
すなわち、まず画像処理ユニット１は、図３に示したフローチャートのステップＳ７において抽出された２値化対象物を取得する（ステップＳ６１）。
更に、図３に示したフローチャートのステップＳ８において算出した２値化対象物の重心Ｇ（ｘｃ、ｙｃ）とステップＳ１３において算出した自車両１０と対象物との視差Δｄ（距離ｚ）を取得する（ステップＳ６２）。
【００５２】
次に、グレースケール画像上で、対象物の存在領域を抽出し、対象物の路面を基準とした高さ位置と高さを算出するために、まず図１４に示すような実空間での大きさがＷ［ｍ］×Ｈ［ｍ］である長方形領域のマスク領域（それぞれをＭＡＳＫ＿ＡからＭＡＳＫ＿Ｍとする）を、対象物の領域を探索するために、２値化対象物に連続して複数個設定する（ステップＳ６３）。なお、画面上のマスク領域サイズは、第１の実施の形態と同様に求める。
【００５３】
マスク領域の設定が終了したら、次に下端ＭＡＸ＿Ｈ判定処理を行う（ステップＳ６４）。
具体的には、まず本実施の形態のナイトビジョンシステムが検出すべき最大対象物高さをＭＡＸ＿Ｈとして設定する。
次に、２値化対象物１００の下端位置方向で、２値化対象物１００の上端位置からＭＡＸ＿Ｈ以上で最初のマスク領域（例えば図１４ではＭＡＳＫ＿Ｈ）を選択する。そして、第１の実施の形態と同様に、
（ａ）マスク領域の輝度分散Ｖａｒ［Ｉ］が閾値ＴＨ１より大きいか否か。
（ｂ）マスク領域の左右画像の相関度Ｅｒｒｏｒが閾値ＴＨ２より小さいか否か。
（ｃ）２値化対象物の視差Δｄとマスク領域の視差との差分の絶対値が閾値ＴＨ３より小さいか否か。
の３点についてマスク領域を判定し、判定結果が”ＴＲＵＥ”か”ＦＡＬＳＥ”かを決定する。
【００５４】
ステップＳ６４において、マスク領域ＭＡＳＫ＿Ｈの判定結果が”ＴＲＵＥ”の場合（ステップＳ６４のＹＥＳ）、この対象物は、本実施の形態のナイトビジョンシステムが検出すべき最大対象物高さＭＡＸ＿Ｈを越えた大きさの対象物であるので、捉えられた対象物は歩行者ではないと判定して（ステップＳ６５）歩行者判定処理を終了し、図５に示すステップＳ３４のＮＯとして図５のステップＳ３７へ進み、対象物は警報対象ではないと判定する。
【００５５】
また、ステップＳ６４において、マスク領域ＭＡＳＫ＿Ｈの判定結果が”ＦＡＬＳＥ”の場合（ステップＳ６４のＮＯ）、対象物の最下端マスク領域の特定処理を行う（ステップＳ６６）。
具体的には、マスク領域ＭＡＳＫ＿ＡからＭＡＳＫ＿Ｇの探索範囲内で、上述の判定結果が”ＴＲＵＥ”となるマスク領域を選択するために、まず、例えば探索範囲内の中間のマスク領域ＭＡＳＫ＿Ｄを選択し、上述の（ａ）から（ｃ）の３つの条件を満たすか否かを判定する。
このとき、例えば図１４に示した例では、マスク領域ＭＡＳＫ＿Ｄの判定結果は”ＦＡＬＳＥ”となるため、マスク領域ＭＡＳＫ＿Ｄの上方向の領域（図１４の例ではマスク領域ＭＡＳＫ＿Ａ〜ＭＡＳＫ＿Ｃ）を探索領域とし、探索領域の中間のマスク領域ＭＡＳＫ＿Ｂについて、上述の（ａ）から（ｃ）の３つの条件を満たすか否かを判定する。
【００５６】
また、仮にマスク領域ＭＡＳＫ＿Ｄの判定結果が”ＴＲＵＥ”の場合は、マスク領域ＭＡＳＫ＿Ｄの下方向の領域（図１４の例ではマスク領域ＭＡＳＫ＿Ｅ〜ＭＡＳＫ＿Ｇ）を探索領域として判定結果が”ＴＲＵＥ”になるマスク領域を探索する。
そして、同様の処理を探索領域内のマスク数が１つになるまで繰り返し、対象物最下端のマスク領域を抽出する。なお、図１４に示す例では、マスク領域ＭＡＳＫ＿Ｃが対象物の最下端マスク領域であって、これを対象物の最下端とする。
【００５７】
一方、対象物の最下端マスク領域が求められたら、対象物の上端方向について判定するために、上端ＭＡＸ＿Ｈ判定処理を行う（ステップＳ６７）。
具体的には、２値化対象物１００の上部において、マスク領域ＭＡＳＫ＿Ｃの下端から、上方向にＭＡＸ＿Ｈ以上で最初のマスク領域（例えば図１４ではＭＡＳＫ＿Ｍ）を選択する。
そして、下端ＭＡＸ＿Ｈ判定処理と同様に、上述の（ａ）から（ｃ）の３つの条件を満たすか否かを判定する。
ステップＳ６７において、マスク領域ＭＡＳＫ＿Ｍの判定結果が”ＴＲＵＥ”の場合（ステップＳ６７のＹＥＳ）、この対象物は、本実施の形態のナイトビジョンシステムが検出すべき最大対象物高さＭＡＸ＿Ｈを越えた大きさの対象物であるので、捉えられた対象物は歩行者ではないと判定して（ステップＳ６５）歩行者判定処理を終了し、図５に示すステップＳ３４のＮＯとして図５のステップＳ３７へ進み、対象物は警報対象ではないと判定する。
【００５８】
また、ステップＳ６７において、マスク領域ＭＡＳＫ＿Ｍの判定結果が”ＦＡＬＳＥ”の場合（ステップＳ６７のＮＯ）、対象物の最上端マスク領域の特定処理を行う（ステップＳ６８）。
具体的には、マスク領域ＭＡＳＫ＿ＩからＭＡＳＫ＿Ｌの探索範囲内で、上述の判定結果が”ＴＲＵＥ”となるマスク領域を選択するために、まず、例えば探索範囲内の中間のマスク領域ＭＡＳＫ＿Ｋを選択し、上述の（ａ）から（ｃ）の３つの条件を満たすか否かを判定する。
このとき、例えば図１４に示した例では、マスク領域ＭＡＳＫ＿Ｋの判定結果は”ＦＡＬＳＥ”となるため、マスク領域ＭＡＳＫ＿Ｋの下方向の領域（図１４の例ではマスク領域ＭＡＳＫ＿Ｉ〜ＭＡＳＫ＿Ｊ）を探索領域とし、上述の（ａ）から（ｃ）の３つの条件を満たすか否かを判定する。
【００５９】
また、仮にマスク領域ＭＡＳＫ＿Ｋの判定結果が”ＴＲＵＥ”の場合は、マスク領域ＭＡＳＫ＿Ｋの上方向の領域（図１４の例ではマスク領域ＭＡＳＫ＿Ｌ）を探索領域として判定結果が”ＴＲＵＥ”になるマスク領域を探索する。
そして、同様の処理を探索領域内のマスク数が１つになるまで繰り返し、対象物最上端のマスク領域を抽出する。なお、図１４に示す例では、全てのマスク領域が条件を満たさないため、２値化対象物の上端位置が対象物の最上端とする。
【００６０】
上述のように、対象物の最下端、最上端位置が求められたら、最下端、最上端位置を含む領域を対象物領域１０２として抽出し、第１の実施の形態と同様に、この対象物領域の画面上の高さＨｅｉｇｈｔ［ｐｉｘｅｌ］と対象物領域左下端位置の座標（ｘｒ、ｙｒ）［ｐｉｘｅｌ］を算出する（ステップＳ６９）。
次に、画面上の対象物領域の高さＨｅｉｇｈｔ［ｐｉｘｅｌ］が求められたら、対象物の実空間での高さΔＨ［ｍ］を算出する（ステップＳ７０）。
更に、対象物領域の左下端位置を路面交点とすることで、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］を算出する（ステップＳ７１）。
【００６１】
そして、求められた対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値であるか否かを判定する（ステップＳ７２）。
もし、ステップＳ７２において、対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値であった場合（ステップＳ７２のＹＥＳ）、対象物領域１０２に捉えられた対象物は歩行者であると判定して（ステップＳ７３）歩行者判定処理を終了し、図５に示すステップＳ３４のＹＥＳとして図５のステップＳ３５へ進み、人工構造物判定を行う。
【００６２】
また、ステップＳ７２において、対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値でなかった場合（ステップＳ７２のＮＯ）、対象物領域１０２に捉えられた対象物は歩行者ではないと判定して（ステップＳ６５）歩行者判定処理を終了し、図５に示すステップＳ３４のＮＯとして図５のステップＳ３７へ進み、対象物は警報対象ではないと判定する。
【００６３】
なお、本実施の形態では、第１の実施の形態と同様に、画像処理ユニット１が、２値化対象物抽出手段と、同一距離領域抽出手段と、歩行者判別手段とを含んでいる。より具体的には、図３のＳ１〜Ｓ１３が２値化対象物抽出手段に相当し、図１３のＳ６１〜Ｓ６７が同一距離領域抽出手段に相当する。また、図１３のＳ６８〜Ｓ７３が歩行者判別手段に相当する。
【００６４】
以上説明したように、本実施の形態のナイトビジョンシステムは、第１の実施の形態と同様に、赤外線カメラにより撮影された画像のグレースケール画像から歩行者等の対象物を２値化処理によって抽出した後、グレースケール画像上の２値化対象物の上下に設定されたマスク領域を判定することで、２値化処理により抽出された対象物が歩行者か否かを、歩行者の着帽、着衣の影響や、歩行者自身の存在環境の影響を排除して的確に判定することができると共に、更にマスク領域の判定時に、マスク領域を間引いて探索（判定）することで、演算量を大幅に削減することができる。
【００６５】
【発明の効果】
以上の如く、請求項１に記載のナイトビジョンシステムによれば、まず２値化対象物抽出手段により２値化対象物の位置をグレースケール画像上に認識した後、同一距離領域抽出手段により、２値化対象物の上下方向に人間の幅を基準とした探索領域を２値化対象物に連続して複数個設定し、該探索領域の中から２値化対象物と同一距離の物体を含む探索領域を抽出する。そして、歩行者判別手段により、２値化対象物に２値化対象物と同一距離の物体を含む探索領域を加えた範囲の画像の高さを基に目的の対象物の高さを求め、この対象物の高さから目的の対象物が歩行者か否かを判断する。
従って、赤外線カメラにより捉えられた画像中の対象物の大きさや位置を的確に判定し、安定した歩行者の検出を行うことができるという効果が得られる。
【００６６】
請求項２に記載のナイトビジョンシステムによれば、人間の高さとして適当ではない物体を予め対象物の中から除去することで、歩行者の検出を行いやすくすることができる。
従って、赤外線カメラにより捉えられた画像中の歩行者の検出精度を向上させることができるという効果が得られる。
【図面の簡単な説明】
【図１】 本発明の第１の実施の形態のナイトビジョンシステムの構成を示すブロック図である。
【図２】 車両における赤外線カメラやセンサ、ディスプレイ等の取り付け位置を示す図である。
【図３】 同実施の形態のナイトビジョンシステムの対象物検出・警報動作を示すフローチャートである。
【図４】 赤外線カメラにより得られるグレースケール画像とその２値化画像を示す図である。
【図５】 同実施の形態の警報判定処理動作を示すフローチャートである。
【図６】 衝突が発生しやすい場合を示す図である。
【図７】 車両前方の領域区分を示す図である。
【図８】 同実施の形態の歩行者判定処理動作を示すフローチャートである。
【図９】 同実施の形態の歩行者判定処理動作を示すフローチャートである。
【図１０】 同実施の形態のグレースケール画像上のマスク領域設定について示す図である。
【図１１】 同実施の形態の歩行者判定処理により抽出された対象物領域について示す図である。
【図１２】 同実施の形態の歩行者判定処理により対象物から除去された歩行者以外の物体について示す図である。
【図１３】 本発明の第２の実施の形態の歩行者判定処理動作を示すフローチャートである。
【図１４】 同実施の形態のマスク領域探索手順について示す図である。
【符号の説明】
１ 画像処理ユニット
２Ｒ、２Ｌ 赤外線カメラ
３ ヨーレートセンサ
４ 車速センサ
５ ブレーキセンサ
６ スピーカ
７ 画像表示装置
１０ 自車両
Ｓ１〜Ｓ１３ ２値化対象物抽出手段
Ｓ４１〜Ｓ５３ 同一距離領域抽出手段（第１の実施の形態）
Ｓ５４〜Ｓ５９ 歩行者判別手段（第１の実施の形態）
Ｓ６１〜Ｓ６７ 同一距離領域抽出手段（第２の実施の形態）
Ｓ６８〜Ｓ７３ 歩行者判別手段（第２の実施の形態）
【発明の属する技術分野】
この発明は、赤外線カメラにより撮影された画像の２値化処理により、対象物抽出を行うナイトビジョンシステムに関する。
【０００２】
【従来の技術】
従来、赤外線カメラにより捉えられた車両周辺の画像から、車両との衝突の可能性がある歩行者等の対象物を抽出し、その情報を車両の運転者に提供するナイトビジョンシステムが提案されている。このシステムでは、歩行者等の対象物における車両との衝突の可能性は、車両と対象物との相対距離や相対速度に基づいて判定される。
【０００３】
また、例えばこのように赤外線カメラにより捉えられた車両周辺の画像から、車両との衝突の可能性がある歩行者等の対象物を抽出するナイトビジョンシステムには、特開平１１−３２８３６４号公報に記載のものがある。同公報によると、この装置は赤外線画像を２値化処理して明部が集中している領域を探し、この領域の縦横比や充足率、更には実面積と画面上の重心位置を用いて距離を算出することで、この領域が歩行者の頭部であるか否かを判定する。そして、歩行者の頭部の領域を決定することができたら、決定した頭部領域のカメラからの距離と成人の平均身長とから、画像上の歩行者の身長を計算して歩行者の身体を包含する領域を設定し、これらの領域を他の領域と区分して表示する。これにより、赤外線画像上の歩行者の身体全体の位置を特定し、この情報を車両の運転者に対して表示することで、より効果的な視覚補助を行うことができる。
【０００４】
【発明が解決しようとする課題】
しかし、赤外線画像上での歩行者は、着帽、着衣の影響や、歩行者自身の存在環境によって、２値化処理により頭部のみ、頭部の一部のみ、上半身のみ、下半身のみ、更には身体全体が抽出されるなど、その２値化形状は不定形である。また、一般的に車両走行時には、前方路面の形状の変化や、車両のピッチングの影響があり、歩行者も子供から大人（成人）まで本来とは異なる身長で検出される。
従って、対象物の画面での重心座標が距離に対して固定化できないため、上述の従来の装置のように、形状判定のみで歩行者の抽出を行った場合、歩行者として適当でない対象物高さ（対象物の大きさ）や対象物高さ位置（対象物の重心座標）に基づいた物体を歩行者として抽出してしまう可能性があった。
【０００５】
本発明は、上記課題に鑑みてなされたもので、カメラにより撮影された画像から抽出される不定形な２値化対象物の大きさや位置を的確に判定し、安定した歩行者の抽出を行うナイトビジョンシステムを提供することを目的とする。
【０００６】
【課題を解決するための手段】
上記課題を解決するために、請求項１の発明に係わるナイトビジョンシステムは、移動体に備えられた２つの赤外線カメラにより捉えられた画像を利用して、歩行者を認識するナイトビジョンシステムであって、前記画像のグレースケール画像を２値化処理することにより、前記グレースケール画像から２値化対象物を抽出する２値化対象物抽出手段（例えば実施の形態のステップＳ１〜ステップＳ１３）と、前記グレースケール画像上の前記２値化対象物の上下方向に、人間の幅を基準とした探索領域を前記２値化対象物に連続して複数個設定すると共に、前記探索領域と前記２値化対象物との前記移動体の進行方向に対する距離をそれぞれ比較して、前記探索領域内に存在する物体と前記２値化対象物が同一距離の前記探索領域である同一距離領域を抽出する同一距離領域抽出手段（例えば第１の実施の形態のステップＳ４１〜ステップＳ５３、第２の実施の形態のステップＳ６１〜ステップＳ６７）と、前記２値化対象物の画像の高さに、前記２値化対象物と同一距離の前記同一距離領域の画像の高さを加えて、目的の対象物の高さを求めると共に、前記対象物の高さに基づいて前記グレースケール画像中の歩行者を認識する歩行者判別手段（例えば第１の実施の形態のステップＳ５４〜ステップＳ５９、第２の実施の形態のステップＳ６８〜ステップＳ７３）とを備えたことを特徴とする。
【０００７】
以上の構成を備えたナイトビジョンシステムは、まず２値化対象物抽出手段により２値化対象物の位置をグレースケール画像上に認識する。次に、同一距離領域抽出手段により、２値化対象物の上下方向に人間の幅を基準とした探索領域を２値化対象物に連続して複数個設定し、該探索領域の中から２値化対象物と同一距離の物体を含む探索領域を抽出する。そして、歩行者判別手段により、２値化対象物に２値化対象物と同一距離の物体を含む探索領域を加えた範囲の画像の高さを基に目的の対象物の高さを求めることで、この対象物の高さから目的の対象物が歩行者か否かを判断することができる。
【０００８】
請求項２の発明に係わるナイトビジョンシステムは、請求項１に記載のナイトビジョンシステムにおいて、前記歩行者判別手段が、前記対象物の高さと人間の高さを基準に設定された閾値との比較により、前記対象物から人間以外の物体を除去することを特徴とする。
以上の構成を備えたナイトビジョンシステムは、人間の高さとして適当ではない物体を予め対象物の中から除去することで、歩行者の検出を行いやすくすることができる。
請求項３の発明に係わるナイトビジョンシステムは、請求項１又は２に記載のナイトビジョンシステムにおいて、前記探索領域が、前記グレースケール画像上の前記２値化対象物の上下方向に、人間の肩幅を基準とした幅と、抽出された前記２値化対象物の高さより小さい高さとしたことを特徴とする。
請求項４の発明に係わるナイトビジョンシステムは、請求項１乃至３の何れか一項に記載のナイトビジョンシステムにおいて、前記探索領域内に存在する物体が前記２値化対象物と同一距離でないと判断された前記探索領域である不同一距離領域が前記２値化対象物と前記同一距離領域との間にある場合は、前記不同一距離領域を前記対象物の高さとして含ませることを特徴とする。
【０００９】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態について説明する。
（第１の実施の形態）
図１は、本発明の第１の実施の形態のナイトビジョンシステムの構成を示すブロック図である。
図１において、符号１は、本実施の形態のナイトビジョンシステムを制御するＣＰＵ（中央演算装置）を備えた画像処理ユニットであって、遠赤外線を検出可能な２つの赤外線カメラ２Ｒ、２Ｌと当該車両のヨーレートを検出するヨーレートセンサ３、更に、当該車両の走行速度（車速）を検出する車速センサ４とブレーキの操作を検出するためのブレーキセンサ５が接続される。これにより、画像処理ユニット１は、車両の周辺の赤外線画像と車両の走行状態を示す信号から、車両前方の歩行者や動物等の動く物体を検出し、衝突の可能性が高いと判断したときに警報を発する。
【００１０】
また、画像処理ユニット１には、音声で警報を発するためのスピーカ６と、赤外線カメラ２Ｒ、２Ｌにより撮影された画像を表示し、衝突の危険性が高い対象物を車両の運転者に認識させるための、例えば自車両の走行状態を数字で表すメータと一体化されたメータ一体Ｄｉｓｐｌａｙや自車両のコンソールに設置されるＮＡＶＩＤｉｓｐｌａｙ、更にフロントウィンドウの運転者の前方視界を妨げない位置に情報を表示するＨＵＤ（Head Up Display ）７ａ等を含む画像表示装置７が接続されている。
【００１１】
また、画像処理ユニット１は、入力アナログ信号をディジタル信号に変換するＡ／Ｄ変換回路、ディジタル化した画像信号を記憶する画像メモリ、各種演算処理を行うＣＰＵ（中央演算装置）、ＣＰＵが演算途中のデータを記憶するために使用するＲＡＭ（Random Access Memory）、ＣＰＵが実行するプログラムやテーブル、マップなどを記憶するＲＯＭ（Read Only Memory）、スピーカ６の駆動信号、ＨＵＤ７ａ等の表示信号などを出力する出力回路を備えており、赤外線カメラ２Ｒ、２Ｌ及びヨーレートセンサ３、車速センサ４、ブレーキセンサ５の各出力信号は、ディジタル信号に変換されてＣＰＵに入力されるように構成されている。
【００１２】
また、図２に示すように、赤外線カメラ２Ｒ、２Ｌは、自車両１０の前部に、自車両１０の車幅方向中心部に対してほぼ対象な位置に配置されており、２つの赤外線カメラ２Ｒ、２Ｌの光軸が互いに平行であって、かつ両者の路面からの高さが等しくなるように固定されている。なお、赤外線カメラ２Ｒ、２Ｌは、対象物の温度が高いほど、その出力信号レベルが高くなる（輝度が増加する）特性を有している。
また、ＨＵＤ７ａは、自車両１０のフロントウインドウの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
【００１３】
次に、本実施の形態の動作について図面を参照して説明する。
図３は、本実施の形態のナイトビジョンシステムの画像処理ユニット１における歩行者等の対象物検出・警報動作を示すフローチャートである。
まず、画像処理ユニット１は、赤外線カメラ２Ｒ、２Ｌの出力信号である赤外線画像を取得して（ステップＳ１）、Ａ／Ｄ変換し（ステップＳ２）、グレースケール画像を画像メモリに格納する（ステップＳ３）。なお、ここでは赤外線カメラ２Ｒにより右画像が得られ、赤外線カメラ２Ｌにより左画像が得られる。また、右画像と左画像では、同一の対象物の表示画面上の水平位置がずれて表示されるので、このずれ（視差）によりその対象物までの距離を算出することができる。
【００１４】
ステップＳ３においてグレースケール画像が得られたら、次に、赤外線カメラ２Ｒにより得られた右画像を基準画像とし、その画像信号の２値化処理、すなわち、輝度閾値ＩＴＨより明るい領域を「１」（白）とし、暗い領域を「０」（黒）とする処理を行う（ステップＳ４）。
図４（ａ）は、赤外線カメラ２Ｒにより得られたグレースケール画像を示し、これに２値化処理を行うことにより、図４（ｂ）に示すような画像を得る。なお、図４（ｂ）において、例えばＰ１からＰ４の枠で囲った物体を、表示画面上に白色として表示される対象物（以下「高輝度領域」という）とする。
赤外線画像から２値化された画像データを取得したら、２値化した画像データをランレングスデータに変換する処理を行う（ステップＳ５）。ランレングスデータにより表されるラインは、２値化により白となった領域を画素レベルで示したもので、いずれもｙ方向には１画素の幅を有しており、またｘ方向にはそれぞれランレングスデータを構成する画素の長さを有している。
【００１５】
次に、ランレングスデータに変換された画像データから、対象物のラベリングをする（ステップＳ６）ことにより、対象物を抽出する処理を行う（ステップＳ７）。すなわち、ランレングスデータ化したラインのうち、ｙ方向に重なる部分のあるラインを１つの対象物とみなすことにより、例えば図４（ｂ）に示す高輝度領域が、それぞれ対象物（２値化対象物）１から４として把握されることになる。
対象物の抽出が完了したら、次に、抽出した対象物の重心Ｇ、面積Ｓ及び外接四角形の縦横比ＡＳＰＥＣＴを算出する（ステップＳ８）。
【００１６】
ここで、面積Ｓは、ラベルＡの対象物のランレングスデータを（ｘ［ｉ］、ｙ［ｉ］、ｒｕｎ［ｉ］、Ａ）（ｉ＝０，１，２，・・・Ｎ−１）とすると、ランレングスデータの長さ（ｒｕｎ［ｉ］−１）を同一対象物（Ｎ個のランレングスデータ）について積算することにより算出する。また、対象物Ａの重心Ｇの座標（ｘｃ、ｙｃ）は、各ランレングスデータの長さ（ｒｕｎ［ｉ］−１）と各ランレングスデータの座標ｘ［ｉ］、またはｙ［ｉ］とをそれぞれ掛け合わせ、更にこれを同一対象物について積算したものを、面積Ｓで割ることにより算出する。更に、縦横比ＡＳＰＥＣＴは、対象物の外接四角形の縦方向の長さＤｙと横方向の長さＤｘとの比Ｄｙ／Ｄｘとして算出する。
なお、ランレングスデータは画素数（座標数）（＝ｒｕｎ［ｉ］）で示されているので、実際の長さは「−１」する必要がある（＝ｒｕｎ［ｉ］−１）。また、重心Ｇの位置は、外接四角形の重心位置で代用してもよい。
【００１７】
対象物の重心、面積、外接四角形の縦横比が算出できたら、次に、対象物の時刻間追跡、すなわちサンプリング周期毎の同一対象物の認識を行う（ステップＳ９）。時刻間追跡は、アナログ量としての時刻ｔをサンプリング周期で離散化した時刻をｋとし、例えば時刻ｋで対象物Ａ、Ｂを抽出したら、時刻（ｋ＋１）で抽出した対象物Ｃ、Ｄと対象物Ａ、Ｂとの同一性判定を行う。そして、対象物Ａ、Ｂと対象物Ｃ、Ｄとが同一であると判定されたら、対象物Ｃ、Ｄをそれぞれ対象物Ａ、Ｂというラベルに変更することにより、時刻間追跡が行われる。
また、このようにして認識された各対象物の（重心の）位置座標は、時系列位置データとしてメモリに格納され、後の演算処理に使用される。
【００１８】
なお、以上説明したステップＳ４〜Ｓ９の処理は、２値化した基準画像（本実施の形態では、右画像）について実行する。
次に、車速センサ４により検出される車速ＶＣＡＲ及びヨーレートセンサ３より検出されるヨーレートＹＲを読み込み、ヨーレートＹＲを時間積分することより、自車両１０の回頭角θｒを算出する（ステップＳ１０）。
【００１９】
一方、ステップＳ９とステップＳ１０の処理に平行して、ステップＳ１１〜Ｓ１３では、対象物と自車両１０との距離ｚを算出する処理を行う。この演算はステップＳ９、及びステップＳ１０より長い時間を要するため、ステップＳ９、Ｓ１１より長い周期（例えばステップＳ１〜Ｓ１０の実行周期の３倍程度の周期）で実行される。
まず、基準画像（右画像）の２値化画像によって追跡される対象物の中の１つを選択することにより、右画像から探索画像Ｒ１（ここでは、外接四角形で囲まれる領域全体を探索画像とする）を抽出する（ステップＳ１１）。
【００２０】
次に、左画像中から探索画像Ｒ１に対応する画像（以下「対応画像」という）を探索する探索領域を設定し、相関演算を実行して対応画像を抽出する（ステップＳ１２）。具体的には、探索画像Ｒ１の各頂点座標に応じて、左画像中に探索領域Ｒ２を設定し、探索領域Ｒ２内で探索画像Ｒ１との相関の高さを示す輝度差分総和値Ｃ（ａ，ｂ）を算出し、この総和値Ｃ（ａ，ｂ）が最小となる領域を対応画像として抽出する。なお、この相関演算は、２値化画像ではなくグレースケール画像を用いて行う。
また同一対象物についての過去の位置データがあるときは、その位置データに基づいて探索領域Ｒ２より狭い領域Ｒ２ａを探索領域として設定する。
【００２１】
ステップＳ１２の処理により、基準画像（右画像）中に探索画像Ｒ１と、左画像中にこの対象物に対応する対応画像Ｒ４とが抽出されるので、次に、探索画像Ｒ１の重心位置と対応画像Ｒ４の重心位置と視差Δｄ（画素数）を求め、これから自車両１０と対象物との距離ｚを算出する（ステップＳ１３）。距離ｚを求める式は後述する。
次に、ステップＳ１０における回頭角θｒの算出と、ステップＳ１３における対象物との距離算出が完了したら、画像内の座標（ｘ，ｙ）及び距離ｚを実空間座標（Ｘ，Ｙ，Ｚ）に変換する（ステップＳ１４）。
ここで、実空間座標（Ｘ，Ｙ，Ｚ）は、図２に示すように、赤外線カメラ２Ｒ、２Ｌの取り付け位置の中点の位置（自車両１０に固定された位置）を原点Ｏとして、図示のように定め、画像内の座標は、画像の中心を原点として水平方向をｘ、垂直方向をｙと定めている。
【００２２】
また、実空間座標が求められたら、自車両１０が回頭することによる画像上の位置ずれを補正するための回頭角補正を行う（ステップＳ１５）。回頭角補正は、時刻ｋから（ｋ＋１）までの期間中に自車両１０が例えば左方向に回頭角θｒだけ回頭すると、カメラによって得られる画像上では、画像の範囲がΔｘだけｘ方向にずれるので、これを補正する処理である。
なお、以下の説明では、回頭角補正後の座標を（Ｘ，Ｙ，Ｚ）と表示する。
【００２３】
実空間座標に対する回頭角補正が完了したら、次に、同一対象物について、ΔＴのモニタ期間内に得られた、回頭角補正後のＮ個（例えばＮ＝１０程度）の実空間位置データ、すなわち時系列データから、対象物と自車両１０との相対移動ベクトルに対応する近似直線ＬＭＶを求める（ステップＳ１６）。
次いで、最新の位置座標Ｐ（０）＝（Ｘ（０），Ｙ（０），Ｚ（０））と、（Ｎ−１）サンプル前（時間ΔＴ前）の位置座標Ｐ（Ｎー１）＝（Ｘ（Ｎ−１），Ｙ（Ｎ−１），Ｚ（Ｎ−１））を近似直線ＬＭＶ上の位置に補正し、補正後の位置座標Ｐｖ（０）＝（Ｘｖ（０），Ｙｖ（０），Ｚｖ（０））及びＰｖ（Ｎ−１）＝（Ｘｖ（Ｎ−１），Ｙｖ（Ｎ−１），Ｚｖ（Ｎ−１））を求める。
【００２４】
これにより、位置座標Ｐｖ（Ｎ−１）からＰｖ（０）に向かうベクトルとして、相対移動ベクトルが得られる。
このようにモニタ期間ΔＴ内の複数（Ｎ個）のデータから対象物の自車両１０に対する相対移動軌跡を近似する近似直線を算出して相対移動ベクトルを求めることにより、位置検出誤差の影響を軽減して対象物との衝突の可能性をより正確に予測することが可能となる。
【００２５】
また、ステップＳ１６において、相対移動ベクトルが求められたら、次に、検出した対象物との衝突の可能性を判定する警報判定処理を行う（ステップＳ１７）。なお、警報判定処理については、詳細を後述する。
ステップＳ１７において、自車両１０と検出した対象物との衝突の可能性がないと判定された場合（ステップＳ１７のＮＯ）、ステップＳ１へ戻り、上述の処理を繰り返す。
また、ステップＳ１７において、自車両１０と検出した対象物との衝突の可能性があると判定された場合（ステップＳ１７のＹＥＳ）、ステップＳ１８の警報出力判定処理へ進む。
【００２６】
ステップＳ１８では、ブレーキセンサ５の出力ＢＲから自車両１０の運転者がブレーキ操作を行っているか否かを判別することにより、警報出力判定処理、すなわち警報出力を行うか否かの判定を行う（ステップＳ１８）。
もし、自車両１０の運転者がブレーキ操作を行っている場合には、それによって発生する加速度Ｇｓ（減速方向を正とする）を算出し、この加速度Ｇｓが所定閾値ＧＴＨより大きいときは、ブレーキ操作により衝突が回避されると判定して警報出力判定処理を終了し（ステップＳ１８のＮＯ）、ステップＳ１へ戻り、上述の処理を繰り返す。
これにより、適切なブレーキ操作が行われているときは、警報を発しないようにして、運転者に余計な煩わしさを与えないようにすることができる。
【００２７】
また、加速度Ｇｓが所定閾値ＧＴＨ以下であるとき、または自車両１０の運転者がブレーキ操作を行っていなければ、直ちにステップＳ１９の処理へ進み（ステップＳ１８のＹＥＳ）、対象物と接触する可能性が高いので、スピーカ３を介して音声による警報を発する（ステップＳ１９）とともに、画像表示装置７に対して、例えば赤外線カメラ２Ｒにより得られる画像を出力し、接近してくる対象物を自車両１０の運転者に対する強調映像として表示する（ステップＳ２０）。なお、所定閾値ＧＴＨは、ブレーキ操作中の加速度Ｇｓがそのまま維持された場合に、対象物と自車両１０との距離Ｚｖ（０）以下の走行距離で自車両１０が停止する条件に対応する値である。
【００２８】
以上が、本実施の形態のナイトビジョンシステムの画像処理ユニット１における対象物検出・警報動作であるが、次に、図５に示すフローチャートを参照して、図３に示したフローチャートのステップＳ１７における警報判定処理について更に詳しく説明する。
図５は、本実施の形態の警報判定処理動作を示すフローチャートである。
警報判定処理は、以下に示す衝突判定処理、接近判定領域内か否かの判定処理、進入衝突判定処理、歩行者判定処理、及び人工構造物判定処理により、自車両１０と検出した対象物との衝突の可能性を判定する処理である。以下、図６に示すように、自車両１０の進行方向に対してほぼ９０°の方向から、速度Ｖｐで進行してくる対象物２０がいる場合を例に取って説明する。
【００２９】
図５において、まず、画像処理ユニット１は衝突判定処理を行う（ステップＳ３１）。衝突判定処理は、図６において、対象物２０が時間ΔＴの間に距離Ｚｖ（Ｎ−１）から距離Ｚｖ（０）に接近した場合に、自車両１０とのＺ方向の相対速度Ｖｓを求め、両者が高さＨ以内で相対速度Ｖｓを維持して移動すると仮定して、余裕時間Ｔ以内に両者が衝突するか否かを判定する処理である。ここで、余裕時間Ｔは、衝突の可能性を予測衝突時刻より時間Ｔだけ前に判定することを意図したものである。従って、余裕時間Ｔは例えば２〜５秒程度に設定される。またＨは、高さ方向の範囲を規定する所定高さであり、例えば自車両１０の車高の２倍程度に設定される。
【００３０】
次に、ステップＳ３１において、余裕時間Ｔ以内に自車両１０と対象物とが衝突する可能性がある場合（ステップＳ３１のＹＥＳ）、更に判定の信頼性を上げるために、画像処理ユニット１は対象物が接近判定領域内に存在するか否かの判定処理を行う（ステップＳ３２）。接近判定領域内か否かの判定処理は、図７に示すように、赤外線カメラ２Ｒ、２Ｌで監視可能な領域を太い実線で示す外側の三角形の領域ＡＲ０とすると、領域ＡＲ０内の、Ｚ１＝Ｖｓ×Ｔより自車両１０に近い領域であって、対象物が自車両１０の車幅αの両側に余裕β（例えば５０〜１００ｃｍ程度とする）を加えた範囲に対応する領域ＡＲ１、すなわち対象物がそのまま存在し続ければ自車両１０との衝突の可能性がきわめて高い接近判定領域ＡＲ１内に存在するか否かを判定する処理である。なお、接近判定領域ＡＲ１も所定高さＨを有する。
【００３１】
更に、ステップＳ３２において、対象物が接近判定領域内に存在しない場合（ステップＳ３２のＮＯ）、画像処理ユニット１は対象物が接近判定領域内へ進入して自車両１０と衝突する可能性があるか否かを判定する進入衝突判定処理を行う（ステップＳ３３）。進入衝突判定処理は、上述の接近判定領域ＡＲ１よりＸ座標の絶対値が大きい（接近判定領域の横方向外側の）領域ＡＲ２、ＡＲ３を進入判定領域と呼び、この領域内にある対象物が、移動することにより接近判定領域ＡＲ１に進入すると共に自車両１０と衝突するか否かを判定する処理である。なお、進入判定領域ＡＲ２、ＡＲ３も所定高さＨを有する。
【００３２】
一方、ステップＳ３２において、対象物が接近判定領域内に存在している場合（ステップＳ３２のＹＥＳ）、画像処理ユニット１は対象物が歩行者の可能性があるか否かを判定する歩行者判定処理を行う（ステップＳ３４）。なお、歩行者判定処理については、詳細を後述する。
また、ステップＳ３４において、対象物は歩行者の可能性があると判定された場合（ステップＳ３４のＹＥＳ）、更に判定の信頼性を上げるために、対象物が人工構造物であるか否かを判定する人工構造物判定処理を行う（ステップＳ３５）。人工構造物判定処理は、対象物画像に、例えば以下に示すような歩行者にはあり得ない特徴が検出された場合、該対象物を人工構造物と判定し、警報の対象から除外する処理である。
（１）対象物の画像に直線エッジを示す部分が含まれる場合。
（２）対象物の画像の角が直角である場合。
（３）対象物の画像に同じ形状のものが複数含まれている場合。
（４）対象物の画像が予め登録された人口構造物の形状と一致する場合。
【００３３】
従って、上述のステップＳ３３において、対象物が接近判定領域内へ進入して自車両１０と衝突する可能性がある場合（ステップＳ３３のＹＥＳ）、及びステップＳ３５において、歩行者の可能性があると判定された対象物が人工構造物でなかった場合（ステップＳ３５のＮＯ）、画像処理ユニット１は、自車両１０と検出した対象物との衝突の可能性がある（警報の対象である）と判定し（ステップＳ３６）、図３に示すステップＳ１７のＹＥＳとしてステップＳ１８へ進み、警報出力判定処理（ステップＳ１８）を行う。
【００３４】
一方、上述のステップＳ３１において、余裕時間Ｔ以内に自車両１０と対象物とが衝突する可能性がない場合（ステップＳ３１のＮＯ）、あるいはステップＳ３３において、対象物が接近判定領域内へ進入して自車両１０と衝突する可能性がない場合（ステップＳ３３のＮＯ）、あるいはステップＳ３４において、対象物は歩行者の可能性がないと判定された場合（ステップＳ３４のＮＯ）、更にはステップＳ３５において、歩行者の可能性があると判定された対象物が人工構造物であった場合（ステップＳ３５のＹＥＳ）のいずれかであった場合は、画像処理ユニット１は、自車両１０と検出した対象物との衝突の可能性がない（警報の対象ではない）と判定し（ステップＳ３７）、図３に示すステップＳ１７のＮＯとしてステップＳ１へ戻り、歩行者等の対象物検出・警報動作を繰り返す。
【００３５】
次に、図８と図９に示すフローチャートを参照して、図５に示したフローチャートのステップＳ３４における歩行者判定処理について更に詳しく説明する。図８と図９は、本実施の形態の歩行者判定処理動作を示すフローチャートである。図８において、まず、画像処理ユニット１は、図３に示したフローチャートのステップＳ７において抽出された２値化対象物を取得する（ステップＳ４１）。更に、図３に示したフローチャートのステップＳ８において算出された２値化対象物（図１０に示す２値化対象物１００）の重心Ｇ（ｘｃ、ｙｃ）（図１０に示す２値化対象物の重心Ｇ１０１）とステップＳ１３において算出された自車両１０と対象物との視差Δｄ（距離ｚ）を取得する（ステップＳ４２）。
【００３６】
次に、グレースケール画像上で、対象物の存在領域を抽出し、対象物の高さと対象物の路面を基準とした高さ位置とを算出する。
そのために、まず図１０に示すような実空間での大きさがＷ［ｍ］×Ｈ［ｍ］である長方形領域のマスク領域（それぞれをＭＡＳＫ［Ｉ］とする）を、対象物の領域を探索するために、２値化対象物に連続して複数個設定する（ステップＳ４３）。但し、Ｗ［ｍ］は歩行者を対象とする場合、歩行者の肩幅以上とし、（２）式により、２値化対象物までの距離ｚ［ｍ］を用いて、画面上のマスク領域サイズＷｐ［ｐｉｘｅｌ］×Ｈｐ［ｐｉｘｅｌ］に変換する。
なお、図１０はカメラで捉えられた歩行者を模式的に表したもので、斜線の領域が２値化処理で捉えられた対象物の部位であり、点線で囲まれた領域が２値化処理では捉えられていないが、グレースケール画像で背景に対して物体の存在が確認できる対象物の部位を表す。
【００３７】
具体的には、前述の対象物距離ｚ［ｍ］は、カメラの基線長Ｄ［ｍ］、カメラ焦点距離ｆ［ｍ］、画素ピッチｐ［ｍ／ｐｉｘｅｌ］と、映像から相関演算によって算出される視差Δｄ［ｐｉｘｅｌ］によって、（１）式のように求められるので、
ｚ＝（ｆ×Ｄ）／（Δｄ×ｐ） ・・・（１）
ＷｐとＨｐが、それぞれ２値化対象物までの距離ｚ［ｍ］を用いて
Ｗｐ＝（ｆ×Ｗ）／（ｚ×ｐ）
Ｈｐ＝（ｆ×Ｈ）／（ｚ×ｐ） ・・・（２）
とするＭＡＳＫ［Ｉ］を、基準となるグレースケール映像の２値化対象物の上下端に接する位置からＮ個配置する（但しＩ＝０，１，・・・，Ｎ−１）。
【００３８】
そして、グレースケール画像上にマスク領域が設定できたら、マスク領域を識別する変数Ｉに”０”を代入し、Ｉをリセットする（ステップＳ４４）。
次に、マスク領域ＭＡＳＫ［Ｉ］の輝度分散Ｖａｒ［Ｉ］を算出する（ステップＳ４５）。
そして、マスク領域ＭＡＳＫ［Ｉ］について、マスク領域内の輝度変化を確認するために、（３）式を満たしてマスク領域ＭＡＳＫ［Ｉ］の輝度分散Ｖａｒ［Ｉ］が閾値ＴＨ１より大きく、マスク領域にグレースケール画像に基づき背景とは異なる熱特性を持つ物体が存在するか否かを判断する（ステップＳ４６）。
Ｖａｒ［Ｉ］＞ＴＨ１ ・・・（３）
【００３９】
もし、ステップＳ４６において、マスク領域ＭＡＳＫ［Ｉ］の輝度分散Ｖａｒ［Ｉ］が閾値ＴＨ１より大きかった場合（ステップＳ４６のＹＥＳ）、次にマスク領域ＭＡＳＫ［Ｉ］について、左右のカメラで同じ物体を捉えているかを確認する。具体的には、まずマスク領域ＭＡＳＫ［Ｉ］の距離（視差ｄｎ［Ｉ］）を左右の画像の相関演算（ＳＡＤ：Sum of Absolute difference）によって算出する（ステップＳ４７）。そして、ＳＡＤの相関度はＥｒｒｏｒとして算出され、ＳＡＤでは相関度が高いほど小さな値を示すため、（４）式を満たしてマスク領域ＭＡＳＫ［Ｉ］の左右画像の相関度Ｅｒｒｏｒが閾値ＴＨ２より小さいか否かを判定する（ステップＳ４８）。
Ｅｒｒｏｒ＜ＴＨ２ ・・・（４）
【００４０】
もし、ステップＳ４８において、マスク領域ＭＡＳＫ［Ｉ］の相関度Ｅｒｒｏｒが閾値ＴＨ２より小さかった場合（ステップＳ４８のＹＥＳ）、次にマスク領域ＭＡＳＫ［Ｉ］について、２値化対象物と同じ物体を捉えているか確認するために、（５）式を満たして２値化対象物の視差Δｄとマスク領域ＭＡＳＫ［Ｉ］の視差ｄｎ［Ｉ］との差分の絶対値が閾値ＴＨ３より小さいか否かを判定する（ステップＳ４９）。
｜Δｄ−ｄｎ［Ｉ］｜＜ＴＨ３ ・・・（５）
そして、ステップＳ４９において、２値化対象物の視差Δｄとマスク領域ＭＡＳＫ［Ｉ］の視差ｄｎ［Ｉ］との差分の絶対値が閾値ＴＨ３より小さかった場合（ステップＳ４９のＹＥＳ）、マスク領域ＭＡＳＫ［Ｉ］に含まれている対象物は、２値化対象物と同一の物体と判定し、マスク領域ＭＡＳＫ［Ｉ］に”ＴＲＵＥ”を設定する（ステップＳ５０）。
【００４１】
一方、ステップＳ４６において、マスク領域ＭＡＳＫ［Ｉ］の輝度分散Ｖａｒ［Ｉ］が閾値ＴＨ１以下であった場合（ステップＳ４６のＮＯ）、あるいはステップＳ４８において、マスク領域ＭＡＳＫ［Ｉ］の相関度Ｅｒｒｏｒが閾値ＴＨ２以上であった場合（ステップＳ４８のＮＯ）、あるいはステップＳ４９において、２値化対象物の視差Δｄとマスク領域ＭＡＳＫ［Ｉ］の視差ｄｎ［Ｉ］との差分の絶対値が閾値ＴＨ３以上であった場合（ステップＳ４９のＮＯ）のいずれかであった場合には、マスク領域ＭＡＳＫ［Ｉ］に含まれている対象物は、２値化対象物と別の物体と判定し、マスク領域ＭＡＳＫ［Ｉ］に”ＦＡＬＳＥ”を設定する（ステップＳ５１）。
【００４２】
ステップＳ５０、あるいはステップＳ５１において、マスク領域ＭＡＳＫ［Ｉ］に含まれる物体の判定を行ったら、マスク領域を識別する変数Ｉを１つカウントアップし（ステップＳ５２）、更に変数Ｉがマスク領域の個数Ｎより大きいか否かを判定する（ステップＳ５３）。
ステップＳ５３において、変数Ｉがマスク領域の個数Ｎ以下であった場合（ステップＳ５３のＮＯ）、ステップＳ４５へ戻り、上述の動作を繰り返し、１つカウントアップされた変数Ｉで指定されるマスク領域ＭＡＳＫ［Ｉ］に含まれる物体の判定を行う。
【００４３】
また、ステップＳ５３において、変数Ｉがマスク領域の個数Ｎより大きかった場合（ステップＳ５３のＹＥＳ）、図９のステップＳ５４へ進む。そして図１１に示すように、ステップＳ５０において”ＴＲＵＥ”と判定されたマスク領域ＭＡＳＫ［Ｉ］の全てと２値化対象物１００とを含む領域を、対象物領域１０２として抽出し、この対象物領域の画面上の高さＨｅｉｇｈｔ［ｐｉｘｅｌ］と対象物領域左下端位置１０３の座標（ｘｒ、ｙｒ）［ｐｉｘｅｌ］を算出する（ステップＳ５４）。
【００４４】
次に、画面上の対象物領域の高さＨｅｉｇｈｔ［ｐｉｘｅｌ］が求められたら、（６）式により対象物の実空間での高さΔＨ［ｍ］を算出する（ステップＳ５５）。
ΔＨ＝ｚ×Ｈｅｉｇｈｔ×ｐ／ｆ ・・・（６）
また、対象物領域の左下端位置を路面交点とすることで、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］を（７）式により算出する（ステップＳ５６）。
Ｙｃ＝ｚ×（ｙｃ−ｙｒ）×ｐ／ｆ ・・・（７）
なお図１１では、マスク領域ＭＡＳＫ［４］において、背景との輝度分散の差が局所的にない場合を例にしているが、”ＴＲＵＥ”と判定されたマスク領域ＭＡＳＫ［Ｉ］の全てと２値化対象物１００とを含む領域を、対象物領域１０２として抽出することで、対象物領域の抽出は局所的な領域の欠落によって影響を受けることがない。
【００４５】
そして、求められた対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値であるか否かを判定する（ステップＳ５７）。
もし、ステップＳ５７において、対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値であった場合（ステップＳ５７のＹＥＳ）、対象物領域１０２に捉えられた対象物は歩行者であると判定して（ステップＳ５８）歩行者判定処理を終了し、図５に示すステップＳ３４のＹＥＳとして図５のステップＳ３５へ進み、人工構造物判定を行う。
【００４６】
また、ステップＳ５７において、対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値でなかった場合（ステップＳ５７のＮＯ）、対象物領域１０２に捉えられた対象物は歩行者ではないと判定して（ステップＳ５９）歩行者判定処理を終了し、図５に示すステップＳ３４のＮＯとして図５のステップＳ３７へ進み、対象物は警報対象ではないと判定する。
【００４７】
なお、本実施の形態では、画像処理ユニット１が、２値化対象物抽出手段と、同一距離領域抽出手段と、歩行者判別手段とを含んでいる。より具体的には、図３のＳ１〜Ｓ１３が２値化対象物抽出手段に相当し、図８のＳ４１〜Ｓ５３が同一距離領域抽出手段に相当する。また、図９のＳ５４〜Ｓ５９が歩行者判別手段に相当する。
【００４８】
以上説明したように、本実施の形態のナイトビジョンシステムは、赤外線カメラにより撮影された画像のグレースケール画像から歩行者等の対象物を２値化処理によって抽出した後、グレースケール画像上の２値化対象物の上下に、マスク領域を２値化対象物に連続して複数個設定し、このマスク領域の輝度分散、左右画像の相関度、更には２値化対象物の視差とマスク領域の視差との差分を、マスク領域それぞれについて判定し、２値化対象物と同一距離の対象物を含むマスク領域を抽出する。そして、このマスク領域と２値化対象物を含む領域を対象物領域とし、この対象物領域に対応する実空間における対象物の高さや路面からの高さ位置が歩行者として適当か否かを判定する。
【００４９】
これにより、着帽、着衣の影響や、歩行者自身の存在環境によって、赤外線画像上で２値化処理により頭部のみ、頭部の一部のみ、上半身のみ、下半身のみ、更には身体全体が抽出されるなど、不定形な２値化形状で抽出される歩行者を、その形状の高さや路面からの高さ位置により的確に判断することができるという効果が得られる。
従って、例えば図１２に示すカーブミラーのような道路構造物は、ミラー部位１０４が２値化対象物１００として歩行者の頭部のように抽出されても、マスク領域に対して面積比率が小さい支柱部位１０５に相当するマスク領域ＭＡＳＫ［３］からＭＡＳＫ［６］では、背景の影響が大きく輝度分散が小さくなるために、歩行者の部位として認められずにマスク領域は”ＦＡＬＳＥ”となって、対象物領域がミラー部位（頭部のみ）と判定されるため、最終的に対象物領域の高さが歩行者として不適当である、すなわち歩行者ではないと判断される。
【００５０】
（第２の実施の形態）
次に、図面を参照して本発明の第２の実施の形態について説明する。
本発明の第２の実施の形態のナイトビジョンシステムが、第１の実施の形態のナイトビジョンシステムと比較して異なる部分は、第１の実施の形態で図８と図９のフローチャートを用いて説明したナイトビジョンシステムの画像処理ユニット１における歩行者判定処理動作が、図１３にフローチャートを示す歩行者判定処理動作に変更されることである。
なお、第２の実施の形態のナイトビジョンシステムの構成や、歩行者判定処理動作以外の動作については、第１の実施の形態のナイトビジョンシステムと同一であるので、ここでは説明を省略する。
【００５１】
次に、図１３のフローチャートを用いて、第２の実施の形態のナイトビジョンシステムの画像処理ユニット１における歩行者判定処理動作を具体的に説明する。
第２の実施の形態の歩行者判定処理動作では、第１の実施の形態の歩行者判定処理動作と同様に、ステップＳ６１からステップＳ６３に示す処理を行う。
すなわち、まず画像処理ユニット１は、図３に示したフローチャートのステップＳ７において抽出された２値化対象物を取得する（ステップＳ６１）。
更に、図３に示したフローチャートのステップＳ８において算出した２値化対象物の重心Ｇ（ｘｃ、ｙｃ）とステップＳ１３において算出した自車両１０と対象物との視差Δｄ（距離ｚ）を取得する（ステップＳ６２）。
【００５２】
次に、グレースケール画像上で、対象物の存在領域を抽出し、対象物の路面を基準とした高さ位置と高さを算出するために、まず図１４に示すような実空間での大きさがＷ［ｍ］×Ｈ［ｍ］である長方形領域のマスク領域（それぞれをＭＡＳＫ＿ＡからＭＡＳＫ＿Ｍとする）を、対象物の領域を探索するために、２値化対象物に連続して複数個設定する（ステップＳ６３）。なお、画面上のマスク領域サイズは、第１の実施の形態と同様に求める。
【００５３】
マスク領域の設定が終了したら、次に下端ＭＡＸ＿Ｈ判定処理を行う（ステップＳ６４）。
具体的には、まず本実施の形態のナイトビジョンシステムが検出すべき最大対象物高さをＭＡＸ＿Ｈとして設定する。
次に、２値化対象物１００の下端位置方向で、２値化対象物１００の上端位置からＭＡＸ＿Ｈ以上で最初のマスク領域（例えば図１４ではＭＡＳＫ＿Ｈ）を選択する。そして、第１の実施の形態と同様に、
（ａ）マスク領域の輝度分散Ｖａｒ［Ｉ］が閾値ＴＨ１より大きいか否か。
（ｂ）マスク領域の左右画像の相関度Ｅｒｒｏｒが閾値ＴＨ２より小さいか否か。
（ｃ）２値化対象物の視差Δｄとマスク領域の視差との差分の絶対値が閾値ＴＨ３より小さいか否か。
の３点についてマスク領域を判定し、判定結果が”ＴＲＵＥ”か”ＦＡＬＳＥ”かを決定する。
【００５４】
ステップＳ６４において、マスク領域ＭＡＳＫ＿Ｈの判定結果が”ＴＲＵＥ”の場合（ステップＳ６４のＹＥＳ）、この対象物は、本実施の形態のナイトビジョンシステムが検出すべき最大対象物高さＭＡＸ＿Ｈを越えた大きさの対象物であるので、捉えられた対象物は歩行者ではないと判定して（ステップＳ６５）歩行者判定処理を終了し、図５に示すステップＳ３４のＮＯとして図５のステップＳ３７へ進み、対象物は警報対象ではないと判定する。
【００５５】
また、ステップＳ６４において、マスク領域ＭＡＳＫ＿Ｈの判定結果が”ＦＡＬＳＥ”の場合（ステップＳ６４のＮＯ）、対象物の最下端マスク領域の特定処理を行う（ステップＳ６６）。
具体的には、マスク領域ＭＡＳＫ＿ＡからＭＡＳＫ＿Ｇの探索範囲内で、上述の判定結果が”ＴＲＵＥ”となるマスク領域を選択するために、まず、例えば探索範囲内の中間のマスク領域ＭＡＳＫ＿Ｄを選択し、上述の（ａ）から（ｃ）の３つの条件を満たすか否かを判定する。
このとき、例えば図１４に示した例では、マスク領域ＭＡＳＫ＿Ｄの判定結果は”ＦＡＬＳＥ”となるため、マスク領域ＭＡＳＫ＿Ｄの上方向の領域（図１４の例ではマスク領域ＭＡＳＫ＿Ａ〜ＭＡＳＫ＿Ｃ）を探索領域とし、探索領域の中間のマスク領域ＭＡＳＫ＿Ｂについて、上述の（ａ）から（ｃ）の３つの条件を満たすか否かを判定する。
【００５６】
また、仮にマスク領域ＭＡＳＫ＿Ｄの判定結果が”ＴＲＵＥ”の場合は、マスク領域ＭＡＳＫ＿Ｄの下方向の領域（図１４の例ではマスク領域ＭＡＳＫ＿Ｅ〜ＭＡＳＫ＿Ｇ）を探索領域として判定結果が”ＴＲＵＥ”になるマスク領域を探索する。
そして、同様の処理を探索領域内のマスク数が１つになるまで繰り返し、対象物最下端のマスク領域を抽出する。なお、図１４に示す例では、マスク領域ＭＡＳＫ＿Ｃが対象物の最下端マスク領域であって、これを対象物の最下端とする。
【００５７】
一方、対象物の最下端マスク領域が求められたら、対象物の上端方向について判定するために、上端ＭＡＸ＿Ｈ判定処理を行う（ステップＳ６７）。
具体的には、２値化対象物１００の上部において、マスク領域ＭＡＳＫ＿Ｃの下端から、上方向にＭＡＸ＿Ｈ以上で最初のマスク領域（例えば図１４ではＭＡＳＫ＿Ｍ）を選択する。
そして、下端ＭＡＸ＿Ｈ判定処理と同様に、上述の（ａ）から（ｃ）の３つの条件を満たすか否かを判定する。
ステップＳ６７において、マスク領域ＭＡＳＫ＿Ｍの判定結果が”ＴＲＵＥ”の場合（ステップＳ６７のＹＥＳ）、この対象物は、本実施の形態のナイトビジョンシステムが検出すべき最大対象物高さＭＡＸ＿Ｈを越えた大きさの対象物であるので、捉えられた対象物は歩行者ではないと判定して（ステップＳ６５）歩行者判定処理を終了し、図５に示すステップＳ３４のＮＯとして図５のステップＳ３７へ進み、対象物は警報対象ではないと判定する。
【００５８】
また、ステップＳ６７において、マスク領域ＭＡＳＫ＿Ｍの判定結果が”ＦＡＬＳＥ”の場合（ステップＳ６７のＮＯ）、対象物の最上端マスク領域の特定処理を行う（ステップＳ６８）。
具体的には、マスク領域ＭＡＳＫ＿ＩからＭＡＳＫ＿Ｌの探索範囲内で、上述の判定結果が”ＴＲＵＥ”となるマスク領域を選択するために、まず、例えば探索範囲内の中間のマスク領域ＭＡＳＫ＿Ｋを選択し、上述の（ａ）から（ｃ）の３つの条件を満たすか否かを判定する。
このとき、例えば図１４に示した例では、マスク領域ＭＡＳＫ＿Ｋの判定結果は”ＦＡＬＳＥ”となるため、マスク領域ＭＡＳＫ＿Ｋの下方向の領域（図１４の例ではマスク領域ＭＡＳＫ＿Ｉ〜ＭＡＳＫ＿Ｊ）を探索領域とし、上述の（ａ）から（ｃ）の３つの条件を満たすか否かを判定する。
【００５９】
また、仮にマスク領域ＭＡＳＫ＿Ｋの判定結果が”ＴＲＵＥ”の場合は、マスク領域ＭＡＳＫ＿Ｋの上方向の領域（図１４の例ではマスク領域ＭＡＳＫ＿Ｌ）を探索領域として判定結果が”ＴＲＵＥ”になるマスク領域を探索する。
そして、同様の処理を探索領域内のマスク数が１つになるまで繰り返し、対象物最上端のマスク領域を抽出する。なお、図１４に示す例では、全てのマスク領域が条件を満たさないため、２値化対象物の上端位置が対象物の最上端とする。
【００６０】
上述のように、対象物の最下端、最上端位置が求められたら、最下端、最上端位置を含む領域を対象物領域１０２として抽出し、第１の実施の形態と同様に、この対象物領域の画面上の高さＨｅｉｇｈｔ［ｐｉｘｅｌ］と対象物領域左下端位置の座標（ｘｒ、ｙｒ）［ｐｉｘｅｌ］を算出する（ステップＳ６９）。
次に、画面上の対象物領域の高さＨｅｉｇｈｔ［ｐｉｘｅｌ］が求められたら、対象物の実空間での高さΔＨ［ｍ］を算出する（ステップＳ７０）。
更に、対象物領域の左下端位置を路面交点とすることで、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］を算出する（ステップＳ７１）。
【００６１】
そして、求められた対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値であるか否かを判定する（ステップＳ７２）。
もし、ステップＳ７２において、対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値であった場合（ステップＳ７２のＹＥＳ）、対象物領域１０２に捉えられた対象物は歩行者であると判定して（ステップＳ７３）歩行者判定処理を終了し、図５に示すステップＳ３４のＹＥＳとして図５のステップＳ３５へ進み、人工構造物判定を行う。
【００６２】
また、ステップＳ７２において、対象物の実空間での高さΔＨ［ｍ］と、路面を基準とした２値化対象物の高さ重心位置Ｙｃ［ｍ］とが、歩行者として適当な数値でなかった場合（ステップＳ７２のＮＯ）、対象物領域１０２に捉えられた対象物は歩行者ではないと判定して（ステップＳ６５）歩行者判定処理を終了し、図５に示すステップＳ３４のＮＯとして図５のステップＳ３７へ進み、対象物は警報対象ではないと判定する。
【００６３】
なお、本実施の形態では、第１の実施の形態と同様に、画像処理ユニット１が、２値化対象物抽出手段と、同一距離領域抽出手段と、歩行者判別手段とを含んでいる。より具体的には、図３のＳ１〜Ｓ１３が２値化対象物抽出手段に相当し、図１３のＳ６１〜Ｓ６７が同一距離領域抽出手段に相当する。また、図１３のＳ６８〜Ｓ７３が歩行者判別手段に相当する。
【００６４】
以上説明したように、本実施の形態のナイトビジョンシステムは、第１の実施の形態と同様に、赤外線カメラにより撮影された画像のグレースケール画像から歩行者等の対象物を２値化処理によって抽出した後、グレースケール画像上の２値化対象物の上下に設定されたマスク領域を判定することで、２値化処理により抽出された対象物が歩行者か否かを、歩行者の着帽、着衣の影響や、歩行者自身の存在環境の影響を排除して的確に判定することができると共に、更にマスク領域の判定時に、マスク領域を間引いて探索（判定）することで、演算量を大幅に削減することができる。
【００６５】
【発明の効果】
以上の如く、請求項１に記載のナイトビジョンシステムによれば、まず２値化対象物抽出手段により２値化対象物の位置をグレースケール画像上に認識した後、同一距離領域抽出手段により、２値化対象物の上下方向に人間の幅を基準とした探索領域を２値化対象物に連続して複数個設定し、該探索領域の中から２値化対象物と同一距離の物体を含む探索領域を抽出する。そして、歩行者判別手段により、２値化対象物に２値化対象物と同一距離の物体を含む探索領域を加えた範囲の画像の高さを基に目的の対象物の高さを求め、この対象物の高さから目的の対象物が歩行者か否かを判断する。
従って、赤外線カメラにより捉えられた画像中の対象物の大きさや位置を的確に判定し、安定した歩行者の検出を行うことができるという効果が得られる。
【００６６】
請求項２に記載のナイトビジョンシステムによれば、人間の高さとして適当ではない物体を予め対象物の中から除去することで、歩行者の検出を行いやすくすることができる。
従って、赤外線カメラにより捉えられた画像中の歩行者の検出精度を向上させることができるという効果が得られる。
【図面の簡単な説明】
【図１】 本発明の第１の実施の形態のナイトビジョンシステムの構成を示すブロック図である。
【図２】 車両における赤外線カメラやセンサ、ディスプレイ等の取り付け位置を示す図である。
【図３】 同実施の形態のナイトビジョンシステムの対象物検出・警報動作を示すフローチャートである。
【図４】 赤外線カメラにより得られるグレースケール画像とその２値化画像を示す図である。
【図５】 同実施の形態の警報判定処理動作を示すフローチャートである。
【図６】 衝突が発生しやすい場合を示す図である。
【図７】 車両前方の領域区分を示す図である。
【図８】 同実施の形態の歩行者判定処理動作を示すフローチャートである。
【図９】 同実施の形態の歩行者判定処理動作を示すフローチャートである。
【図１０】 同実施の形態のグレースケール画像上のマスク領域設定について示す図である。
【図１１】 同実施の形態の歩行者判定処理により抽出された対象物領域について示す図である。
【図１２】 同実施の形態の歩行者判定処理により対象物から除去された歩行者以外の物体について示す図である。
【図１３】 本発明の第２の実施の形態の歩行者判定処理動作を示すフローチャートである。
【図１４】 同実施の形態のマスク領域探索手順について示す図である。
【符号の説明】
１ 画像処理ユニット
２Ｒ、２Ｌ 赤外線カメラ
３ ヨーレートセンサ
４ 車速センサ
５ ブレーキセンサ
６ スピーカ
７ 画像表示装置
１０ 自車両
Ｓ１〜Ｓ１３ ２値化対象物抽出手段
Ｓ４１〜Ｓ５３ 同一距離領域抽出手段（第１の実施の形態）
Ｓ５４〜Ｓ５９ 歩行者判別手段（第１の実施の形態）
Ｓ６１〜Ｓ６７ 同一距離領域抽出手段（第２の実施の形態）
Ｓ６８〜Ｓ７３ 歩行者判別手段（第２の実施の形態）
Claims (4)
- 移動体に備えられた２つの赤外線カメラにより捉えられた画像を利用して、歩行者を認識するナイトビジョンシステムであって、
前記画像のグレースケール画像を２値化処理することにより、前記グレースケール画像から２値化対象物を抽出する２値化対象物抽出手段と、
前記グレースケール画像上の前記２値化対象物の上下方向に、人間の幅を基準とした探索領域を前記２値化対象物に連続して複数個設定すると共に、前記探索領域と前記２値化対象物との前記移動体の進行方向に対する距離をそれぞれ比較して、前記探索領域内に存在する物体と前記２値化対象物が同一距離の前記探索領域である同一距離領域を抽出する同一距離領域抽出手段と、
前記２値化対象物の画像の高さに、前記同一距離領域の画像の高さを加えて、目的の対象物の高さを求めると共に、前記対象物の高さに基づいて前記グレースケール画像中の歩行者を認識する歩行者判別手段とを備えたことを特徴とするナイトビジョンシステム。 - 前記歩行者判別手段が、前記対象物の高さと人間の高さを基準に設定された閾値との比較により、前記対象物から人間以外の物体を除去することを特徴とする請求項１に記載のナイトビジョンシステム。
- 前記探索領域は、前記グレースケール画像上の前記２値化対象物の上下方向に、人間の肩幅を基準とした幅と、抽出された前記２値化対象物の高さより小さい高さとしたことを特徴とする請求項１又は２に記載のナイトビジョンシステム。
- 前記探索領域内に存在する物体が前記２値化対象物と同一距離でないと判断された前記探索領域である不同一距離領域が前記２値化対象物と前記同一距離領域との間にある場合は、前記不同一距離領域を前記対象物の高さとして含ませることを特徴とする請求項１乃至３の何れか一項に記載のナイトビジョンシステム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002010577A JP4104867B2 (ja) | 2002-01-18 | 2002-01-18 | ナイトビジョンシステム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002010577A JP4104867B2 (ja) | 2002-01-18 | 2002-01-18 | ナイトビジョンシステム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2003216937A JP2003216937A (ja) | 2003-07-31 |
| JP4104867B2 true JP4104867B2 (ja) | 2008-06-18 |
Family
ID=27648277
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2002010577A Expired - Fee Related JP4104867B2 (ja) | 2002-01-18 | 2002-01-18 | ナイトビジョンシステム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4104867B2 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109522837A (zh) * | 2018-11-14 | 2019-03-26 | 海信集团有限公司 | 一种路面检测方法及装置 |
Families Citing this family (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3987057B2 (ja) * | 2004-06-14 | 2007-10-03 | 本田技研工業株式会社 | 車両周辺監視装置 |
| US7403639B2 (en) | 2004-11-30 | 2008-07-22 | Honda Motor Co., Ltd. | Vehicle surroundings monitoring apparatus |
| JP4242334B2 (ja) | 2004-11-30 | 2009-03-25 | 本田技研工業株式会社 | 車両周辺監視装置 |
| JP4094604B2 (ja) | 2004-11-30 | 2008-06-04 | 本田技研工業株式会社 | 車両周辺監視装置 |
| JP4130434B2 (ja) | 2004-11-30 | 2008-08-06 | 本田技研工業株式会社 | 撮像装置の異常検知装置 |
| DE102005056647B4 (de) | 2004-11-30 | 2011-02-03 | Honda Motor Co., Ltd. | Fahrzeugumgebungsüberwachungsvorrichtung |
| US7590263B2 (en) | 2004-11-30 | 2009-09-15 | Honda Motor Co., Ltd. | Vehicle vicinity monitoring apparatus |
| JP3970876B2 (ja) | 2004-11-30 | 2007-09-05 | 本田技研工業株式会社 | 車両周辺監視装置 |
| US7483549B2 (en) | 2004-11-30 | 2009-01-27 | Honda Motor Co., Ltd. | Vehicle surroundings monitoring apparatus |
| JP4461091B2 (ja) | 2004-11-30 | 2010-05-12 | 本田技研工業株式会社 | 位置検出装置及びその補正方法 |
| US7515737B2 (en) | 2004-11-30 | 2009-04-07 | Honda Motor Co., Ltd. | Vehicle surroundings monitoring apparatus |
| US7545955B2 (en) | 2004-11-30 | 2009-06-09 | Honda Motor Co., Ltd. | Vehicle surroundings monitoring apparatus |
| JP4224449B2 (ja) * | 2004-11-30 | 2009-02-12 | 本田技研工業株式会社 | 画像抽出装置 |
| US7599521B2 (en) | 2004-11-30 | 2009-10-06 | Honda Motor Co., Ltd. | Vehicle vicinity monitoring apparatus |
| US7489805B2 (en) | 2004-11-30 | 2009-02-10 | Honda Motor Co., Ltd. | Vehicle surroundings monitoring apparatus |
| JP4130435B2 (ja) | 2004-11-30 | 2008-08-06 | 本田技研工業株式会社 | 撮像装置の異常検知装置 |
| JP4234092B2 (ja) | 2004-11-30 | 2009-03-04 | 本田技研工業株式会社 | 画像処理装置 |
| JP4032052B2 (ja) | 2004-11-30 | 2008-01-16 | 本田技研工業株式会社 | 位置検出装置及びその補正方法 |
| JP4128562B2 (ja) | 2004-11-30 | 2008-07-30 | 本田技研工業株式会社 | 車両周辺監視装置 |
| JP4811201B2 (ja) * | 2005-12-06 | 2011-11-09 | 日産自動車株式会社 | 走路境界線検出装置、および走路境界線検出方法 |
| JP4267657B2 (ja) | 2006-10-31 | 2009-05-27 | 本田技研工業株式会社 | 車両周辺監視装置 |
| JP2008183933A (ja) * | 2007-01-26 | 2008-08-14 | Toyota Motor Corp | 赤外線暗視装置 |
| JP4315991B2 (ja) | 2007-04-20 | 2009-08-19 | 本田技研工業株式会社 | 車両周辺監視装置、車両周辺監視方法、車両周辺監視プログラム |
| JP4887537B2 (ja) * | 2007-08-02 | 2012-02-29 | 本田技研工業株式会社 | 車両周辺監視装置 |
| JP5150527B2 (ja) | 2009-02-03 | 2013-02-20 | 株式会社日立製作所 | 車両用衝突回避支援装置 |
| JP5642785B2 (ja) * | 2010-06-07 | 2014-12-17 | 本田技研工業株式会社 | 車両の周辺監視装置 |
| JP5430633B2 (ja) * | 2011-10-25 | 2014-03-05 | 本田技研工業株式会社 | 車両周辺監視装置 |
-
2002
- 2002-01-18 JP JP2002010577A patent/JP4104867B2/ja not_active Expired - Fee Related
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109522837A (zh) * | 2018-11-14 | 2019-03-26 | 海信集团有限公司 | 一种路面检测方法及装置 |
| CN109522837B (zh) * | 2018-11-14 | 2021-10-29 | 海信集团有限公司 | 一种路面检测方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2003216937A (ja) | 2003-07-31 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4104867B2 (ja) | ナイトビジョンシステム | |
| JP4060159B2 (ja) | 車両周辺監視装置 | |
| JP3987048B2 (ja) | 車両周辺監視装置 | |
| JP3987057B2 (ja) | 車両周辺監視装置 | |
| JP3934119B2 (ja) | 車両周辺監視装置 | |
| JP3764086B2 (ja) | 車両用情報提供装置 | |
| JP3987013B2 (ja) | 車両周辺監視装置 | |
| JP3756452B2 (ja) | 赤外線画像処理装置 | |
| JP4203512B2 (ja) | 車両周辺監視装置 | |
| JP4410292B1 (ja) | 車両の周辺監視装置 | |
| US20060115115A1 (en) | Vehicle surroundings monitoring apparatus | |
| JP4094604B2 (ja) | 車両周辺監視装置 | |
| JP4128562B2 (ja) | 車両周辺監視装置 | |
| JP3839329B2 (ja) | ナイトビジョンシステム | |
| JP4425852B2 (ja) | 車両周辺監視装置 | |
| JP3844750B2 (ja) | 赤外線画像認識装置、及び赤外線画像認識装置を用いた警報装置 | |
| JP3898157B2 (ja) | 赤外線画像認識装置 | |
| JP3970876B2 (ja) | 車両周辺監視装置 | |
| JP4647648B2 (ja) | 車両周辺監視装置 | |
| JP4567072B2 (ja) | 車両周辺監視装置 | |
| JP3939626B2 (ja) | 車両周辺監視装置 | |
| JP4298699B2 (ja) | 車両周辺監視装置 | |
| JP4372746B2 (ja) | 車両周辺監視装置 | |
| JP4358183B2 (ja) | 車両周辺監視装置 | |
| JP4283266B2 (ja) | 車両周辺監視装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041130 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071115 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071204 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080122 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080318 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080326 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110404 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110404 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130404 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130404 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140404 Year of fee payment: 6 |
|
| LAPS | Cancellation because of no payment of annual fees |