JP3739693B2 - 画像認識装置 - Google Patents

Description

【０００１】
【発明の属する技術分野】
この発明は、対象物の距離を２台の撮像手段により得られた２眼立体視画像から算出する画像認識装置に関する。
【０００２】
【従来の技術】
従来、歩行者等の走行路上の障害物を車両の運転者に通知するために、車両の前方に搭載された１つあるいは複数のカメラの画像を運転席から目視可能な位置に表示し、運転者の前方視界を補助するものや、カメラの画像から自車両との接触の可能性がある障害物を検出し、車両側の自動回避動作等を行うものがある。ここで、運転者に表示される画像は、例えば自車両のコンソールに設置されるＮＡＶＩＤｉｓｐｌａｙやフロントウィンドウの運転者の前方視界を妨げない位置に情報を表示するＨＵＤ（Head Up Display ）、更には自車両の走行状態を数字で表すメータと一体化されたメータ一体Ｄｉｓｐｌａｙ等の画像表示装置に表示される。また、車両側の自動回避動作は、車両の各部を操作するために備えられた各種アクチュエータを自動制御することにより行われる。
【０００３】
更に、このように車両の周辺の環境をカメラによって撮影し、撮影された画像から自車両との接触の可能性がある障害物を検出する装置としては、例えば特開平６−２６６８２８号公報に示すようなものが知られている。この装置では、２台のカメラで撮影した画像を処理して画像全体に渡る距離分布の情報を求め、更に距離分布の情報に対応する対象物の３次元位置情報を計算することで、道路の形状と側壁等の障害物を容易に、かつ確実に検出している。これにより、複数の障害物の存在を障害物毎に認識し、車両の運転者に警告したり、車両側の自動回避動作等を信頼性高く行うことができる。
【０００４】
【発明が解決しようとする課題】
しかし、上述のような従来の装置では、画像全体に渡る距離分布を求める場合に、画像全体を決められた大きさの領域に分割し、該領域毎に距離分布を求めているため、対象物の大きさに対する領域の大きさが固定となり、処理の効率が悪いという問題があった。
すなわち、画像全体の大きさに対して、撮影された対象物の占める割合が大きい場合、対象物までの距離は対象物１つについて１つ求まれば良いので、対象物を必要以上に細かく分割して距離分布を求めると、処理の効率が悪く、距離分布全てを計算して対象物までの距離が算出されるまでに時間がかかるという問題があった。
【０００５】
本発明は、上記課題に鑑みてなされたもので、カメラにより撮影された画像上の対象物の大きさを考慮しつつ、その視差から異なる物体の重なりの有無を判断し、重なっている場合はそれぞれの物体までの距離を独立して算出する画像認識装置を提供することを目的とする。
【０００６】
【課題を解決するための手段】
上記課題を解決するために、請求項１の発明に係わる画像認識装置は、２台の撮像手段により得られるそれぞれの画像から対象物の視差を測定し、該視差に基づき前記対象物までの距離を算出する画像認識装置において、前記対象物を包含する高さを有すると共に前記対象物の左右のエッジをそれぞれ独立して含む判定領域を設定し、それぞれの判定領域の視差を測定して比較することで異なる物体の重なりの有無を判断する画像判定手段（例えば実施の形態のステップＳ２６〜ステップＳ３０）を備えたことを特徴とする。
以上の構成を備えた画像認識装置は、画像判定手段により、撮影された対象物の左、または右のエッジを含むように、対象物毎に異なる高さを考慮した領域をその都度設定し、この領域の視差を比較することで、左右のエッジの視差が一致するか、あるいは異なるかの比較結果を得る。これにより、対象物の左部分と右部分とが同一物体の一部か、それともそれぞれ異なる物体の一部であるかどうかを判断し、物体の重なりの有無を判断することができる。
【０００７】
請求項２の発明に係わる画像認識装置は、請求項１に記載の画像認識装置において、前記画像判定手段が、異なる物体の重なりを認識した場合に、前記判定領域における距離判定点を前記判定領域のエッジ上に設定し、それぞれの物体までの距離を独立して算出する画像分離手段（例えば実施の形態のステップＳ３０）を含むことを特徴とする。
以上の構成を備えた画像認識装置は、画像判定手段により、対象物が異なる物体の重なった状態であると認識した場合は、対象物の左右それぞれのエッジを距離判定点としてそれぞれの物体までの距離を算出し、物体を分離して捉えることができる。
【０００８】
請求項３の発明に係わる画像認識装置は、請求項１、または請求項２に記載の画像認識装置において、前記対象物を囲む領域の大きさが所定値以上、あるいは前記対象物を囲む領域の横方向の長さに対する縦方向の長さの比が所定値以下である場合に、異なる物体の重なりを予測する画像予測手段（例えば実施の形態のステップＳ２１）を備えたことを特徴とする。
以上の構成を備えた画像認識装置は、画像判定手段による異なる物体の重なり判断の前に、画像予測手段により対象物を囲む領域の大きさ、あるいは対象物を囲む領域の横方向の長さに対する縦方向の長さの比を用いて、対象物が異なる物体の重なった状態であるか否かの予測を行い、対象物が異なる物体の重なった状態であると予測される場合に、画像判断手段による判断を行うようにすることができる。
【０００９】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態について説明する。
図１は、本発明の一実施の形態の画像認識装置の構成を示すブロック図である。
図１において、符号１は、本実施の形態の画像認識装置を制御するＣＰＵ（中央演算装置）を備えた画像処理ユニットであって、遠赤外線を検出可能な２つの赤外線カメラ２Ｒ、２Ｌと当該車両のヨーレートを検出するヨーレートセンサ３、更に、当該車両の走行速度（車速）を検出する車速センサ４とブレーキの操作を検出するためのブレーキセンサ５が接続される。これにより、画像処理ユニット１は、車両の周辺の赤外線画像と車両の走行状態を示す信号から、車両前方の歩行者や動物等の動く物体を検出し、衝突の可能性が高いと判断したときに警報を発する。
【００１０】
また、画像処理ユニット１には、音声で警報を発するためのスピーカ６と、赤外線カメラ２Ｒ、２Ｌにより撮影された画像を表示し、衝突の危険性が高い対象物を車両の運転者に認識させるための、例えば自車両の走行状態を数字で表すメータと一体化されたメータ一体Ｄｉｓｐｌａｙや自車両のコンソールに設置されるＮＡＶＩＤｉｓｐｌａｙ、更にフロントウィンドウの運転者の前方視界を妨げない位置に情報を表示するＨＵＤ（Head Up Display ）７ａ等を含む画像表示装置７が接続されている。
【００１１】
また、画像処理ユニット１は、入力アナログ信号をディジタル信号に変換するＡ／Ｄ変換回路、ディジタル化した画像信号を記憶する画像メモリ、各種演算処理を行うＣＰＵ（中央演算装置）、ＣＰＵが演算途中のデータを記憶するために使用するＲＡＭ（Random Access Memory）、ＣＰＵが実行するプログラムやテーブル、マップなどを記憶するＲＯＭ（Read Only Memory）、スピーカ６の駆動信号、ＨＵＤ７ａ等の表示信号などを出力する出力回路を備えており、赤外線カメラ２Ｒ、２Ｌ及びヨーレートセンサ３、車速センサ４、ブレーキセンサ５の各出力信号は、ディジタル信号に変換されてＣＰＵに入力されるように構成されている。
【００１２】
また、図２に示すように、赤外線カメラ２Ｒ、２Ｌは、自車両１０の前部に、自車両１０の車幅方向中心部に対してほぼ対象な位置に配置されており、２つの赤外線カメラ２Ｒ、２Ｌの光軸が互いに平行であって、かつ両者の路面からの高さが等しくなるように固定されている。なお、赤外線カメラ２Ｒ、２Ｌは、対象物の温度が高いほど、その出力信号レベルが高くなる（輝度が増加する）特性を有している。
また、ＨＵＤ７ａは、自車両１０のフロントウインドウの運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
【００１３】
次に、本実施の形態の動作について図面を参照して説明する。
図３は、本実施の形態の画像認識装置の画像処理ユニット１における処理手順を示すフローチャートである。
まず、画像処理ユニット１は、赤外線カメラ２Ｒ、２Ｌの出力信号である赤外線画像を取得して（ステップＳ１）、Ａ／Ｄ変換し（ステップＳ２）、グレースケール画像を画像メモリに格納する（ステップＳ３）。なお、ここでは赤外線カメラ２Ｒにより右画像が得られ、赤外線カメラ２Ｌにより左画像が得られる。また、右画像と左画像では、同一の対象物の表示画面上の水平位置がずれて表示されるので、このずれ（視差）によりその対象物までの距離を算出することができる。
【００１４】
次に、赤外線カメラ２Ｒにより得られた右画像を基準画像とし、その画像信号の２値化処理、すなわち、輝度閾値ＩＴＨより明るい領域を「１」（白）とし、暗い領域を「０」（黒）とする処理を行う（ステップＳ４）。
図４（ａ）は、赤外線カメラ２Ｒにより得られたグレースケール画像を示し、これに２値化処理を行うことにより、図４（ｂ）に示すような画像を得る。なお、図４（ｂ）において、例えばＰ１からＰ４の枠で囲った物体を、表示画面上に白色として表示される対象物（以下「高輝度領域」という）とする。
赤外線画像から２値化された画像データを取得したら、２値化した画像データをランレングスデータに変換する処理を行う（ステップＳ５）。
【００１５】
図５（ａ）は、これを説明するための図であり、この図では２値化により白となった領域を画素レベルでラインＬ１〜Ｌ８として示している。ラインＬ１〜Ｌ８は、いずれもｙ方向には１画素の幅を有しており、実際にはｙ方向には隙間なく並んでいるが、説明のために離間して示している。またラインＬ１〜Ｌ８は、ｘ方向にはそれぞれ２画素、２画素、３画素、８画素、７画素、８画素、８画素、８画素の長さを有している。ランレングスデータは、ラインＬ１〜Ｌ８を各ラインの開始点（各ラインの左端の点）の座標と、開始点から終了点（各ラインの右端の点）までの長さ（画素数）とで示したものである。例えばラインＬ３は、（ｘ３，ｙ５）、（ｘ４，ｙ５）及び（ｘ５，ｙ５）の３画素からなるので、ランレングスデータとしては、（ｘ３，ｙ５，３）となる。
【００１６】
次に、ランレングスデータに変換された画像データから、対象物のラベリングをする（ステップＳ６）ことにより、対象物を抽出する処理を行う（ステップＳ７）。すなわち、ランレングスデータ化したラインＬ１〜Ｌ８のうち、図５（ｂ）に示すように、ｙ方向に重なる部分のあるラインＬ１〜Ｌ３を１つの対象物１とみなし、ラインＬ４〜Ｌ８を１つの対象物２とみなし、ランレングスデータに対象物ラベル１、２を付加する。この処理により、例えば図４（ｂ）に示す高輝度領域が、それぞれ対象物１から４として把握されることになる。
【００１７】
対象物の抽出が完了したら、次に、図５（ｃ）に示すように、抽出した対象物の重心Ｇ、面積Ｓ及び破線で示す外接四角形の縦横比ＡＳＰＥＣＴを算出する（ステップＳ８）。
ここで、面積Ｓは、下記式（１）によりランレングスデータの長さを同一対象物について積算することにより算出する。ラベルＡの対象物のランレングスデータを（ｘ［ｉ］、ｙ［ｉ］、ｒｕｎ［ｉ］、Ａ）（ｉ＝０，１，２，・・・Ｎ−１）とすると、
【数１】

また、対象物Ａの重心Ｇの座標（ｘｃ、ｙｃ）は、ランレングスデータの長さを考慮した下記（２）、（３）式により算出する。
【数２】

更に、縦横比ＡＳＰＥＣＴは、図５（ｃ）に示すＤｙとＤｘとの比Ｄｙ／Ｄｘとして算出する。
なお、式（１）、（２）、（３）に示すように、ランレングスデータは画素数（座標数）ｒｕｎ［ｉ］で示されているので、実際の長さは「−１」する必要がある。また、重心Ｇの位置は、外接四角形の重心位置で代用してもよい。
【００１８】
対象物の重心、面積、外接四角形の縦横比が算出できたら、次に、対象物の時刻間追跡、すなわちサンプリング周期毎の同一対象物の認識を行う（ステップＳ９）。時刻間追跡は、アナログ量としての時刻ｔをサンプリング周期で離散化した時刻をｋとし、図６（ａ）に示すように時刻ｋで対象物Ａ、Ｂを抽出した場合、時刻（ｋ＋１）で抽出した対象物Ｃ、Ｄと、対象物Ａ、Ｂとの同一性判定を行う。具体的には、以下の同一性判定条件１）〜３）を満たすときに、対象物Ａ、Ｂと対象物Ｃ、Ｄとは同一であると判定し、対象物Ｃ、Ｄをそれぞれ対象物Ａ、Ｂというラベルに変更することにより、時刻間追跡が行われる。
【００１９】
１）時刻ｋにおける対象物ｉ（＝Ａ，Ｂ）の画像上での重心位置座標を、それぞれ（ｘｉ（ｋ），ｙｉ（ｋ））とし、時刻（ｋ＋１）における対象物ｊ（＝Ｃ，Ｄ）の画像上での重心位置座標を、（ｘｊ（ｋ＋１），ｙｊ（ｋ＋１））としたとき、｜ｘｊ（ｋ＋１）−ｘｉ（ｋ）｜＜Δｘ｜ｙｊ（ｋ＋１）−ｙｉ（ｋ）｜＜Δｙであること。ただし、Δｘ、Δｙは、それぞれｘ方向及びｙ方向の画像上の移動量の許容値である。
２）時刻ｋにおける対象物ｉ（＝Ａ，Ｂ）の画像上での面積をＳｉ（ｋ）とし、時刻（ｋ＋１）における対象物ｊ（＝Ｃ，Ｄ）の画像上での面積をＳｊ（ｋ＋１）としたとき、Ｓｊ（ｋ＋１）／Ｓｉ（ｋ）＜１±ΔＳであること。ただし、ΔＳは面積変化の許容値である。
３）時刻ｋにおける対象物ｉ（＝Ａ，Ｂ）の外接四角形の縦横比をＡＳＰＥＣＴｉ（ｋ）とし、時刻（ｋ＋１）における対象物ｊ（＝Ｃ，Ｄ）の外接四角形の縦横比をＡＳＰＥＣＴｊ（ｋ＋１）としたとき、ＡＳＰＥＣＴｊ（ｋ＋１）／ＡＳＰＥＣＴｉ（ｋ）＜１±ΔＡＳＰＥＣＴであること。ただし、ΔＡＳＰＥＣＴは縦横比変化の許容値である。
【００２０】
例えば、図６（ａ）と（ｂ）とを対比すると、各対象物は画像上での大きさが大きくなっているが、対象物Ａと対象物Ｃとが上記同一性判定条件を満たし、対象物Ｂと対象物Ｄとが上記同一性判定条件を満たすので、対象物Ｃ、Ｄはそれぞれ対象物Ａ、Ｂと認識される。このようにして認識された各対象物の（重心の）位置座標は、時系列位置データとしてメモリに格納され、後の演算処理に使用される。
なお、以上説明したステップＳ４〜Ｓ９の処理は、２値化した基準画像（本実施形態では、右画像）について実行する。
次に、車速センサ４により検出される車速ＶＣＡＲ及びヨーレートセンサ３より検出されるヨーレートＹＲを読み込み、ヨーレートＹＲを時間積分することより、図７に示すように自車両１０の回頭角θｒを算出する（ステップＳ１０）。
【００２１】
一方、ステップＳ９とステップＳ１０の処理に平行して、ステップＳ１１〜Ｓ１３では、対象物と自車両１０との距離ｚを算出する処理を行う。この演算はステップＳ９、及びステップＳ１０より長い時間を要するため、ステップＳ９、Ｓ１０より長い周期（例えばステップＳ１〜Ｓ１０の実行周期の３倍程度の周期）で実行される。
まず、基準画像（右画像）の２値化画像によって追跡される対象物の中の１つを選択することにより、図８（ａ）に示すように右画像から探索画像Ｒ１（ここでは、外接四角形で囲まれる領域全体を探索画像とする）を抽出する（ステップＳ１１）。
【００２２】
次に、左画像中から探索画像に対応する画像（以下「対応画像」という）を探索する探索領域を設定し、相関演算を実行して対応画像を抽出する（ステップＳ１２）。具体的には、図８（ｂ）に示すように、探索画像Ｒ１の各頂点座標に応じて、左画像中に探索領域Ｒ２を設定し、探索領域Ｒ２内で探索画像Ｒ１との相関の高さを示す輝度差分総和値Ｃ（ａ，ｂ）を下記式（４）により算出し、この総和値Ｃ（ａ，ｂ）が最小となる領域を対応画像として抽出する。なお、この相関演算は、２値化画像ではなくグレースケール画像を用いて行う。
また同一対象物についての過去の位置データがあるときは、その位置データに基づいて探索領域Ｒ２より狭い領域Ｒ２ａ（図８（ｂ）に破線で示す）を探索領域として設定する。
【数３】

ここで、ＩＲ（ｍ，ｎ）は、図９に示す探索画像Ｒ１内の座標（ｍ，ｎ）の位置の輝度値であり、ＩＬ（ａ＋ｍ−Ｍ，ｂ＋ｎ−Ｎ）は、探索領域内の座標（ａ，ｂ）を基点とした、探索画像Ｒ１と同一形状の局所領域Ｒ３内の座標（ｍ，ｎ）の位置の輝度値である。基点の座標（ａ，ｂ）を変化させて輝度差分総和値Ｃ（ａ，ｂ）が最小となる位置を求めることにより、対応画像の位置が特定される。
【００２３】
ステップＳ１２の処理により、基準画像（右画像）中に探索画像Ｒ１と、左画像中にこの対象物に対応する対応画像Ｒ４とが抽出されるので、次に、探索画像Ｒ１の重心位置と対応画像Ｒ４の重心位置と視差Δｄ（画素数）を求め、下記式（５）に適用して、自車両１０と、対象物との距離ｚを算出する（ステップＳ１３）。
【数４】

ここで、Ｂは基線長、赤外線カメラ２Ｒの撮像素子の中心位置と、赤外線カメラ２Ｌの撮像素子の中心位置との水平方向の距離（両赤外線カメラの光軸の間隔）、Ｆは赤外線カメラ２Ｒ、２Ｌのレンズの焦点距離、ｐは赤外線カメラ２Ｒ、２Ｌの撮像素子内の画素間隔である。
なお、対象物距離算出の方法については、詳細を後述する。
【００２４】
ステップＳ１０における回頭角θｒの算出と、ステップＳ１３における対象物との距離算出が完了したら、画像内の座標（ｘ，ｙ）及び式（５）により算出した距離ｚを下記式（６）に適用し、実空間座標（Ｘ，Ｙ，Ｚ）に変換する（ステップＳ１４）。
ここで、実空間座標（Ｘ，Ｙ，Ｚ）は、図２に示すように、赤外線カメラ２Ｒ、２Ｌの取り付け位置の中点の位置（自車両１０に固定された位置）を原点Ｏとして、図示のように定め、画像内の座標は、画像の中心を原点として水平方向をｘ、垂直方向をｙと定めている。
【数５】

ここで、（ｘｃ，ｙｃ）は、右画像上の座標（ｘ，ｙ）を、赤外線カメラ２Ｒの取り付け位置と、実空間原点Ｏとの相対位置関係に基づいて、実空間原点Ｏと画像の中心とを一致させた仮想的な画像内の座標に変換したものである。またｆは、焦点距離Ｆと画素間隔ｐとの比である。
【００２５】
また、実空間座標が求められたら、自車両１０が回頭することによる画像上の位置ずれを補正するための回頭角補正を行う（ステップＳ１５）。
回頭角補正は、図７に示すように、時刻ｋから（ｋ＋１）までの期間中に自車両１０が例えば左方向に回頭角θｒだけ回頭すると、カメラによって得られる画像上では、図１０に示すようにΔｘだけｘ方向にずれるので、これを補正する処理である。具体的には、下記式（７）に実空間座標（Ｘ，Ｙ，Ｚ）を適用して、補正座標（Ｘｒ，Ｙｒ，Ｚｒ）を算出する。算出した実空間位置データ（Ｘｒ，Ｙｒ，Ｚｒ）は、対象物毎に対応づけてメモリに格納する。なお、以下の説明では、回頭角補正後の座標を（Ｘ，Ｙ，Ｚ）と表示する。
【数６】

【００２６】
実空間座標に対する回頭角補正が完了したら、次に、同一対象物について、ΔＴのモニタ期間内に得られた、回頭角補正後のＮ個の実空間位置データ（例えばＮ＝１０程度）、すなわち時系列データから、対象物と自車両１０との相対移動ベクトルに対応する近似直線ＬＭＶを求める（ステップＳ１６）。
具体的には、近似直線ＬＭＶの方向を示す方向ベクトルＬ＝（ｌｘ，ｌｙ，ｌｚ）（｜Ｌ｜＝１）とすると、下記式（８）で表される直線を求める。
【数７】

ここでｕは、任意の値をとる媒介変数であり、Ｘａｖ、Ｙａｖ、及びＺａｖは、それぞれ実空間位置データ列のＸ座標の平均値、Ｙ座標の平均値、及びＺ座標の平均値である。
なお、式（８）は媒介変数ｕを消去すれば下記式（８ａ）のようになる。
（Ｘ−Ｘａｖ）／ｌｘ＝（Ｙ−Ｙａｖ）／ｌｙ＝（Ｚ−Ｚａｖ）／ｌｚ・・・（８ａ）
【００２７】
また、例えばＰ（０），Ｐ（１），Ｐ（２），…，Ｐ（Ｎ−２），Ｐ（Ｎ−１）が回頭角補正後の時系列データを示す場合、近似直線ＬＭＶは、この時系列データの平均位置座標Ｐａｖ＝（Ｘａｖ，Ｙａｖ，Ｚａｖ）を通り、各データ点からの距離の２乗の平均値が最小となるような直線として求められる。
ここで、各データ点の座標を示すＰに付した（）内の数値はその値が増加するほど過去のデータであることを示す。例えば、Ｐ（０）は最新の位置座標、Ｐ（１）は１サンプル周期前の位置座標、Ｐ（２）は２サンプル周期前の位置座標を示す。
【００２８】
次いで、最新の位置座標Ｐ（０）＝（Ｘ（０），Ｙ（０），Ｚ（０））と、（Ｎ−１）サンプル前（時間ΔＴ前）の位置座標Ｐ（Ｎー１）＝（Ｘ（Ｎ−１），Ｙ（Ｎ−１），Ｚ（Ｎ−１））を近似直線ＬＭＶ上の位置に補正する。具体的には、前記式（８ａ）にＺ座標Ｚ（０）、Ｚ（Ｎ−１）を適用することにより、すなわち下記式（９）により、補正後の位置座標Ｐｖ（０）＝（Ｘｖ（０），Ｙｖ（０），Ｚｖ（０））及びＰｖ（Ｎ−１）＝（Ｘｖ（Ｎ−１），Ｙｖ（Ｎ−１），Ｚｖ（Ｎ−１））を求める。
【数８】

【００２９】
式（９）で算出された位置座標Ｐｖ（Ｎ−１）からＰｖ（０）に向かうベクトルとして、相対移動ベクトルが得られる。
このようにモニタ期間ΔＴ内の複数（Ｎ個）のデータから対象物の自車両１０に対する相対移動軌跡を近似する近似直線を算出して相対移動ベクトルを求めることにより、位置検出誤差の影響を軽減して対象物との衝突の可能性をより正確に予測することが可能となる。
また、ステップＳ１６において、相対移動ベクトルが求められたら、次に、検出した対象物との衝突の可能性を判定する警報判定処理を行う（ステップＳ１７）。
【００３０】
警報判定処理（ステップＳ１７）は、以下に示す衝突判定処理、接近判定領域内か否かの判定処理、侵入衝突判定処理のいずれかにより、自車両１０と検出した対象物との衝突の可能性を判定する処理である。以下、図１１に示すように、自車両１０の進行方向に対してほぼ９０°の方向から、速度Ｖｐで進行してくる動物２０がいる場合を例に取って説明する。
【００３１】
＜衝突判定処理＞
まず、画像処理ユニット１は、動物２０が時間ΔＴの間に距離Ｚｖ（Ｎ−１）から距離Ｚｖ（０）に接近したことにより、下記式（１０）を用いてＺ方向の相対速度Ｖｓを算出し、衝突判定処理を行う。衝突判定処理は、下記式（１１）及び（１２）が成立するとき、衝突の可能性があると判定する処理である。
Ｖｓ＝（Ｚｖ（Ｎ−１）−Ｚｖ（０））／ΔＴ ・・・（１０）
Ｚｖ（０）／Ｖｓ≦Ｔ ・・・（１１）
｜Ｙｖ（０）｜≦Ｈ ・・・（１２）
ここで、Ｚｖ（０）は最新の距離検出値（ｖは近似直線ＬＭＶによる補正後のデータであることを示すために付しているが、Ｚ座標は補正前と同一の値である）であり、Ｚｖ（Ｎ−１）は、時間ΔＴ前の距離検出値である。またＴは、余裕時間であり、衝突の可能性を予測衝突時刻より時間Ｔだけ前に判定することを意図したものである。従って、Ｔは例えば２〜５秒程度に設定される。またＨは、Ｙ方向、すなわち高さ方向の範囲を規定する所定高さであり、例えば自車両１０の車高の２倍程度に設定される。
【００３２】
＜接近判定領域内か否かの判定処理＞
ここでは、対象物が接近判定領域内に存在するか否かを判定する。例えば、図１２は、赤外線カメラ２Ｒ、２Ｌで監視可能な領域を太い実線で示す外側の三角形の領域ＡＲ０で示し、更に領域ＡＲ０内の、Ｚ１＝Ｖｓ×Ｔより自車両１０に近い領域ＡＲ１、ＡＲ２、ＡＲ３を、警報判定領域としている。
ここで、領域ＡＲ１は、自車両１０の車幅αの両側に余裕β（例えば５０〜１００ｃｍ程度とする）を加えた範囲に対応する領域、換言すれば自車両１０の車幅方向中心部の軸の両側に（α／２＋β）の幅を有する領域であって、対象物がそのまま存在し続ければ衝突の可能性がきわめて高いので、接近判定領域と呼ぶ。領域ＡＲ２、ＡＲ３は、接近判定領域よりＸ座標の絶対値が大きい（接近判定領域の横方向外側の）領域であり、この領域内にある対象物については、後述する侵入衝突判定を行うので、侵入判定領域と呼ぶ。なおこれらの領域は、前記式（１２）に示したようにＹ方向には、所定高さＨを有する。
【００３３】
＜侵入衝突判定処理＞
侵入衝突判定処理は、具体的には、画像上での最新のｘ座標であるｘｃ（０）（文字ｃは前述したように画像の中心位置を実空間原点Ｏに一致させる補正を行った座標であることを示すために付している）と、時間ΔＴ前のｘ座標であるｘｃ（Ｎ−１）との差が下記式（１３）を満たすか否かを判別し、満たす場合に衝突の可能性が高いと判定する。
【数９】

なお、図１１に示すように、自車両１０の進行方向に対してほぼ９０°の方向から進行してくる動物２０がいた場合、Ｘｖ（Ｎー１）／Ｚｖ（Ｎ−１）＝Ｘｖ（０）／Ｚｒ（０）であるとき、換言すれば動物の速度Ｖｐと相対速度Ｖｓの比Ｖｐ／Ｖｓ＝Ｘｒ（Ｎー１）／Ｚｒ（Ｎ−１）であるとき、自車両１０から動物２０を見る方位角θｄは一定となり、衝突の可能性が高い。式（１３）は、この可能性を自車両１０の車幅αを考慮して判定するものである。
【００３４】
警報判定処理（ステップＳ１７）において衝突判定処理、接近判定領域内か否かの判定処理、侵入衝突判定処理のいずれにおいても、自車両１０と検出した対象物との衝突の可能性がないと判定された場合（ステップＳ１７のＮＯ）、ステップＳ１へ戻り、上述の処理を繰り返す。
また、警報判定処理（ステップＳ１７）において衝突判定処理、接近判定領域内か否かの判定処理、侵入衝突判定処理のいずれかにより、自車両１０と検出した対象物との衝突の可能性があると判定された場合（ステップＳ１７のＹＥＳ）、ステップＳ１８の警報出力判定処理へ進む。
【００３５】
ステップＳ１８では、以下のようにして警報出力判定処理、すなわち警報出力を行うか否かの判定を行う（ステップＳ１８）。
警報出力判定処理は、まずブレーキセンサ５の出力ＢＲから自車両１０の運転者がブレーキ操作を行っているか否かを判別する。
もし、自車両１０の運転者がブレーキ操作を行っている場合には、それによって発生する加速度Ｇｓ（減速方向を正とする）を算出し、この加速度Ｇｓが所定閾値ＧＴＨより大きいときは、ブレーキ操作により衝突が回避されると判定して警報出力判定処理を終了し（ステップＳ１８のＮＯ）、ステップＳ１へ戻り、上述の処理を繰り返す。
これにより、適切なブレーキ操作が行われているときは、警報を発しないようにして、運転者に余計な煩わしさを与えないようにすることができる。
【００３６】
また、加速度Ｇｓが所定閾値ＧＴＨ以下であるとき、または自車両１０の運転者がブレーキ操作を行っていなければ、直ちにステップＳ１９の処理へ進み（ステップＳ１８のＹＥＳ）、対象物と接触する可能性が高いので、スピーカ３を介して音声による警報を発する（ステップＳ１９）とともに、画像表示装置７に対して、例えば赤外線カメラ２Ｒにより得られる画像を出力し、接近してくる対象物を自車両１０の運転者に対する強調映像として表示する（ステップＳ２０）。なお、所定閾値ＧＴＨは、下記式（１４）のように定める。これは、ブレーキ操作中の加速度Ｇｓがそのまま維持された場合に、距離Ｚｖ（０）以下の走行距離で自車両１０が停止する条件に対応する値である。
【数１０】

【００３７】
次に、図１３に示すフローチャート、及び図１４に示す図面を参照して、図３に示したフローチャートのステップＳ１３における視差算出演算処理について説明する。
図１３は、視差算出演算処理の動作を示すフローチャートである。
図１３において、まず、画像処理ユニット１は、図１４の右側画像に示した対象物５０のように、対象物５０の外接四角形５１の幅Ｘが所定値Ａより小さいか、または外接四角形５１の横方向の長さ（幅Ｘ）に対する縦方向の長さ（高さＹ）の比が所定値Ｂより大きいか、すなわち
外接四角形５１の幅Ｘ＜Ａ
（外接四角形５１の高さＹ／外接四角形５１の幅Ｘ）＞Ｂ
のどちらかであるか否かを判定する（ステップＳ２１）。
【００３８】
ステップＳ２１において、外接四角形５１の幅Ｘが所定値Ａより小さいか、または外接四角形５１の横方向の長さ（幅Ｘ）に対する縦方向の長さ（高さＹ）の比が所定値Ｂより大きい場合（ステップＳ２１のＹＥＳ）、画像処理ユニット１は、右画像と左画像における対象物５０の全体の外接四角形５１を用いて、グレースケール画像による相関演算を実行する（ステップＳ２２）。
次に、画像処理ユニット１は、ステップＳ２１で実行した相関演算の結果から、右画像の対象物５０と左画像の対象物５０との相関度が高いか否かを判定する（ステップＳ２３）。
ステップＳ２３において、右画像の対象物５０と左画像の対象物５０との相関度が低い場合（ステップＳ２３のＮＯ）、この対象物は検出対象から除去する（ステップＳ２４）。
【００３９】
また、ステップＳ２３において、右画像の対象物５０と左画像の対象物５０との相関度が高い場合（ステップＳ２３のＹＥＳ）、上述の（５）式により、対象物までの距離を算出する（ステップＳ２５）。
一方、ステップＳ２１において、外接四角形５１の幅Ｘが所定値Ａ以上で、かつ外接四角形５１の横方向の長さ（幅Ｘ）に対する縦方向の長さ（高さＹ）の比が所定値Ｂ以下である場合（ステップＳ２１のＮＯ）、画像処理ユニット１は、対象物の重なりを予測し、図１４の右画像に示すように、対象物を左右のエッジを含む２つの分割領域Ｌ＿ｂ５２及び分割領域Ｒ＿ｂ５３に分割する（ステップＳ２６）。この時、分割領域Ｌ＿ｂ５２及び分割領域Ｒ＿ｂ５３の幅は、左右エッジからそれぞれ所定値Ａとし、高さは分割前の外接四角形５１の高さＹとする。
【００４０】
次に、図１４の右画像に示すように、この分割領域Ｌ＿ｂ５２及び分割領域Ｒ＿ｂ５３の周囲にそれぞれ相関演算用ブロック５４、５５を設定し、同様に図１４の左画像に示すように、右画像の対象物５０に対応した左画像の対象物５６、５７に設定された相関演算用ブロック６０、６１との間でそれぞれ相関演算を行い、それぞれ視差ｄｎ＿Ｌ及び視差ｄｎ＿Ｒを算出する（ステップＳ２７）。
それぞれ視差ｄｎ＿Ｌ及び視差ｄｎ＿Ｒが求められたら、画像処理ユニット１は算出された各視差量（ｄｎ＿Ｌ、ｄｎ＿Ｒ）において、視差ｄｎ＿Ｌと視差ｄｎ＿Ｒの差分の絶対値が所定値ＴＨより小さいか否か、すなわち
｜ｄｎ＿L−ｄｎ＿Ｒ｜＜ＴＨ
を満たすか否かを判定する（ステップＳ２８）。
【００４１】
ステップＳ２８において、視差ｄｎ＿Ｌと視差ｄｎ＿Ｒの差分の絶対値が所定値ＴＨより小さい場合（ステップＳ２８のＹＥＳ）、対象物の左右エッジは同視差であり、異なる物体の重なり状態は生じていないと判断できる。従って、対象物を分割して認識することは行わず、対象物視差を、
ｄｎ＝（ｄ＿Ｌ＋ｄ＿Ｒ）／２
として算出し、ステップＳ２５へ進み、上述の（５）式により、対象物までの距離を算出する（ステップＳ２５）。
【００４２】
また、ステップＳ２８において、視差ｄｎ＿Ｌと視差ｄｎ＿Ｒの差分の絶対値が所定値ＴＨ以上である場合（ステップＳ２８のＮＯ）、対象物の左右エッジの視差は異なり、異なる物体の重なり状態が生じていると判断できる。従って、対象物をＬｂ、Ｒｂの２つの対象物５６、５７に分割して認識する。この時、それぞれの対象物の重心（左エッジ対象物重心６２、右エッジ対象物重心６３）は、図１４の右画像または左画像に示すように、横方向は各分割領域Ｌ＿ｂ５２、５８及び分割領域Ｒ＿ｂ５３、５９のエッジとし、高さ方向は分割前の対象物重心６４と同じ高さとする（ステップＳ３０）。
そして、ステップＳ２５へ進み、上述の（５）式により、それぞれの対象物までの距離を算出する（ステップＳ２５）。
なお、上述のステップＳ３０においては、重なった状態の異なる物体について、不要なものは検出対象から除去しても良い。
【００４３】
また、上述の実施の形態では、対象物における異なる物体の重なりが生じているか否かの判定を行い、重なりが生じていた場合には、対象物を２つの対象物に分割して認識する場合について説明したが、距離方向に長い１つの対象物に関しても、同様の方法によって距離方向に長いことによって発生する対象物の場所の違いによる視差の違いを判断し、該対象物の正確な位置を推定することができる。
更に、上述した実施の形態では、自車両の前方を監視する例を示したが、自車両の後方など、いずれの方向を監視するようにしてもよい。
また、本発明は、上述した実施形態に限るものではなく、種々の変形が可能である。例えば、上述の実施の形態では、対象物の画像を得るための撮像手段として赤外線カメラを使用したが、例えば特開平９−２２６４９０号公報に示されるように、通常の可視光線のみを検出可能なテレビカメラを使用しても良い。但し、赤外線カメラを用いることにより、動物あるいは走行中の車両などの抽出処理を簡略化することができるため、演算装置の演算能力が比較的低いものでも実現できる。
【００４４】
また、本実施の形態では、画像処理ユニット１が、抽出領域設定手段と、探索領域設定手段と、物体認識手段と、視差算出手段とを含んでいる。より具体的には、図１３のＳ２１が画像予測手段に相当し、Ｓ２６〜Ｓ３０が画像判定手段に相当する。更にＳ３０が画像分離手段に相当する。
【００４５】
以上説明したように、本実施の形態の画像認識装置は、２値化処理によって２つの異なる物体が重なった状態で１つの対象物として抽出された場合でも、対象物の左右のエッジの視差から、それぞれのエッジの距離を算出する構成とした。
従って、左右のエッジの距離の違いから対象物における異なる物体の重なりを判定し、それぞれの対象物（物体）のエッジ点の位置と距離から、正確な対象物の位置の推定を行うことができるという効果が得られる。また、異なる物体の重なりだけでなく、距離方向に長い対象物に関しても、同様の方法により、左右のエッジの位置を計測することで、正確な位置を算出することを可能とした。
【００４６】
【発明の効果】
以上の如く、請求項１に記載の画像認識装置によれば、画像判定手段により、撮影された対象物の左、または右のエッジを含むように、対象物毎に異なる高さを考慮した領域をその都度設定し、この領域の視差を比較することで、左右のエッジの視差が一致するか、あるいは異なるかの比較結果を得る。これにより、対象物の左部分と右部分とが同一物体の一部か、それともそれぞれ異なる物体の一部であるかどうかを判断し、物体の重なりの有無を判断することができる。
従って、撮影された対象物の大きさ毎に視差を求める領域が設定されるので、車両と対象物との距離によって、どのような大きさで対象物が撮影されても、必ず効率良く視差を求めることができるという効果が得られる。
【００４７】
請求項２に記載の画像認識装置によれば、画像判定手段により、対象物が異なる物体の重なった状態であると認識した場合は、対象物の左右それぞれのエッジを距離判定点としてそれぞれの物体までの距離を算出し、物体を分離して捉えることができる。
従って、異なる物体の重なった状態が撮影されたことで、対象物の視差が場所によって異なるために対象物の距離が算出できず、不定になってしまうことを防ぎ、異なる物体毎に距離を正確に求めることができるという効果が得られる。
【００４８】
請求項３に記載の画像認識装置によれば、画像判定手段による異なる物体の重なり判断の前に、予め画像予測手段により対象物を囲む領域の大きさ、あるいは対象物を囲む領域の横方向の長さに対する縦方向の長さの比を用いて、対象物が異なる物体の重なった状態であるか否かの予測を行い、対象物が異なる物体の重なった状態である可能性が高い場合にのみ、画像判断手段による判断を行うようにすることができる。
従って、対象物が物体の重なった状態である可能性が高い場合にのみ、画像判断手段の演算が実行されるため、画像認識装置における処理負荷を軽減することができるという効果が得られる。
【図面の簡単な説明】
【図１】 本発明の一実施の形態の画像認識装置の構成を示すブロック図である。
【図２】 車両における赤外線カメラやセンサ、ディスプレイ等の取り付け位置を示す図である。
【図３】 同実施の形態の画像認識装置の全体動作を示すフローチャートである。
【図４】 赤外線カメラにより得られるグレースケール画像とその２値化画像を示す図である。
【図５】 ランレングスデータへの変換処理及びラベリングを示す図である。
【図６】 対象物の時刻間追跡を示す図である。
【図７】 対象物画像の回頭角補正を示す図である。
【図８】 右画像中の探索画像と、左画像に設定する探索領域を示す図である。
【図９】 探索領域を対象とした相関演算処理を示す図である。
【図１０】 車両の回頭により発生する画像上の対象物位置のずれを示す図である。
【図１１】 衝突が発生しやすい場合を示す図である。
【図１２】 車両前方の領域区分を示す図である。
【図１３】 同実施の形態の視差算出演算処理動作を示すフローチャートである。
【図１４】 同実施の形態の視差算出演算処理における右画像及び左画像を示す図である。
【符号の説明】
１ 画像処理ユニット
２Ｒ、２Ｌ 赤外線カメラ
３ ヨーレートセンサ
４ 車速センサ
５ ブレーキセンサ
６ スピーカ
７ 画像表示装置
１０ 自車両
Ｓ２１ 画像予測手段
Ｓ２６〜Ｓ３０ 画像判定手段
Ｓ３０ 画像分離手段

Claims (3)

1. ２台の撮像手段により得られるそれぞれの画像から対象物の視差を測定し、該視差に基づき前記対象物までの距離を算出する画像認識装置において、
   前記対象物を包含する高さを有すると共に前記対象物の左右のエッジをそれぞれ独立して含む判定領域を設定し、それぞれの判定領域の視差を測定して比較することで異なる物体の重なりの有無を判断する画像判定手段
   を備えたことを特徴とする画像認識装置。
2. 前記画像判定手段が、異なる物体の重なりを認識した場合に、前記判定領域における距離判定点を前記判定領域のエッジ上に設定し、それぞれの物体までの距離を独立して算出する画像分離手段
   を含むことを特徴とする請求項１に記載の画像認識装置。
3. 前記対象物を囲む領域の大きさが所定値以上、あるいは前記対象物を囲む領域の横方向の長さに対する縦方向の長さの比が所定値以下である場合に、異なる物体の重なりを予測する画像予測手段
   を備えたことを特徴とする請求項１、または請求項２に記載の画像認識装置。

Images