JP6519138B2 - 視差値導出装置、移動体、ロボット、視差値生産方法、及びプログラム - Google Patents

Description

本発明は、物体を撮像して得られた複数の画像から、物体に対する視差を示す視差値を導出する発明に関する。

従来から、ステレオ画像法によって、ステレオカメラから物体に対する視差を導き出し、この視差を示す視差値によって、三角測量の原理に基づき、ステレオカメラから物体までの距離を測定する測距方法が知られている。この測距方法により、例えば、自動車間の距離や、自動車と障害物間の距離が測定され、自動車の衝突防止に役立てられている。

また、視差値の求め方としては、ステレオマッチング処理が用いられている。このステレオマッチング処理は、ステレオカメラの２つのカメラのうち、一方のカメラによって得られた基準画像内の注目する基準画素に対して、他方のカメラによって得られた比較画像内の複数の対応画素の候補を順次シフトしながら、画像信号が最も類似する画素である対応画素の位置を求めることで、基準画像と比較画像の間の視差値を検出する。一般的には、２つのカメラによって得られた画像信号の輝度値を比較することで、シフト量毎に比較する輝度値のコスト値(Cost：ここでは「非類似度」)が最も低い画素の位置が求められる（特許文献１参照）。

上述のようなコスト値を求める方式として、比較する画像から対応画素を含む所定領域を切り出し、この領域に対する輝度差の総和(SAD:Sum of Absolute Difference)からコスト値を求めるＳＡＤ方式や、上記領域の画素を２値化した結果からコスト値を求めるＣｅｎｓｕｓ方式等がある。

しかしながら、例えば、ＳＡＤ方式では、画像におけるテクスチャが強い部分では良好なコスト値が得られるが、画像におけるテクスチャが弱い部分では良好なコスト値が得られない。これに対して、Ｃｅｎｓｕｓ方式では、画像におけるテクスチャが弱い部分であっても比較的良好なコスト値が得られるが、画像におけるテクスチャが強い部分では、ＳＡＤ方式に比べて良好なコスト値が得られない。これにより、より正確なコスト値を導き出すことができないという課題が生じる。

上述した課題を解決すべく請求項１に係る発明は、所定の物体を第１の位置で撮像して得た基準画像及び前記物体を第２の位置で撮像して得た比較画像に基づいて、前記物体に対する視差を示す視差値を導出する視差値導出装置であって、前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第１の非類似度を算出する第１の算出手段と、前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に前記第１の非類似度とは異なる第２の非類似度を算出する第２の算出手段と、前記対応領域の候補毎の第１の非類似度の集まりである第１の曲線と、前記対応領域の候補毎の第２の非類似度の集まりである第２の曲線と、を正規化する正規化手段と、前記正規化手段によって正規化された前記第１の曲線と前記第２の曲線のうち、前記第１の曲線及び前記第２の曲線の各々が信頼できるかを示す信頼度に基づいて、特定の曲線を選択する選択手段と、一の基準領域に対する前記特定の曲線における各非類似度と、他の基準領域に対する前記特定の曲線における各非類似度とを合成する合成手段と、前記一の基準領域の前記基準画像における位置と、前記合成手段による合成後の非類似度が最小となる対応領域の前記比較画像における位置とに基づいて、前記視差値を導出する導出手段と、を有することを特徴とする視差値導出装置である。

以上説明したように本発明によれば、対応領域の候補毎の第１の非類似度の集まりである第１の曲線と、前記対応領域の候補毎の第２の非類似度の集まりである第２の曲線のうち、前記第１の曲線及び前記第２の曲線の各々が信頼できるかを示す信頼度に基づいて、特定の曲線を選択する。これにより、より正確なコスト値を導き出すことができるという効果を奏する。

撮像装置から物体までの距離を導き出す原理の説明図である。 （ａ）は基準画像、（ｂ）は（ａ）に対する高密度視差画像、（ｃ）は（ａ）に対するエッジ視差画像を示す概念図である。 （ａ）は基準画像における基準画素を示す概念図、（ｂ）は（ａ）の基準画素に対して比較画像における対応画素の候補を順次シフトしながらシフト量を算出する際の概念図である。 シフト量毎のコスト値を示すグラフである。 合成コスト値を導き出すための概念図である。 視差値毎の合成コスト値を示すグラフである。 （ａ）は本発明の一実施形態に係る視差値導出装置を搭載した自動車の側面を表す概略図、（ｂ）は自動車の正面を示す概略図である。 視差値導出装置の概観図である。 視差値導出装置の全体のハードウェア構成図である。 Ｃｅｎｓｕｓ方式の説明図である。 （ａ）は逆光時のＳＡＤ方式による高密度視差画像を示す概念図、（ｂ）は逆光時のＣｅｎｓｕｓ方式による高密度視差画像を示す概念図である。 視差値導出装置の主要部のハードウェア構成図である。 ＳＡＤ方式によるコスト曲線及びＣｅｎｓｕｓ方式によるコスト曲線を示したグラフである。 コスト曲線を比較判定する際の説明図である。 （ａ）は通常時にＳＡＤ方式を利用した場合のコスト曲線及びＣｅｎｓｕｓ方式を利用した場合のコスト曲線を示したグラフ、（ｂ）は逆光時にＳＡＤ方式を利用した場合のコスト曲線及びＣｅｎｓｕｓ方式を利用した場合のコスト曲線を示したグラフである。 実施形態の視差値生産方法の処理を示したフローチャートである。

以下、図面を用いて、本発明の一実施形態について説明する。

〔ＳＧＭ法を用いた測距方法の概略〕
まず、図１乃至図６を用いて、ＳＧＭ(Semi-Global Matching)法を用いた測距方法の概略について説明する。なお、ＳＧＭ法に関しては、非特許文献(Accurate and Efficient Stereo Processing by Semi-Global Matching and Mutual Information)に開示されているため、以下では概略を説明する。

＜測距の原理＞
図１を用いて、ステレオ画像法により、ステレオカメラから物体に対する視差を導き出し、この視差を示す視差値によって、ステレオカメラから物体までの距離を測定する原理について説明する。なお、図１は、撮像装置から物体までの距離を導き出す原理の説明図である。また、以下では、説明を簡略化するため、複数の画素からなる所定領域ではなく、一画素単位で説明する。

（視差値算出）
まず、図１で示される撮像装置１０ａおよび撮像装置１０ｂによって撮像された各画像を、それぞれ基準画像Ｉａおよび比較画像Ｉｂとする。なお、図１では、撮像装置１０ａおよび撮像装置１０ｂが平行等位に設置されているものとする。図１において、３次元空間内の物体Ｅ上のＳ点は、撮像装置１０ａおよび撮像装置１０ｂの同一水平線上の位置に写像される。すなわち、各画像中のＳ点は、基準画像Ｉａ中の点Ｓａ（ｘ，ｙ）および比較画像Ｉｂ中の点Ｓｂ（Ｘ，ｙ）において撮像される。このとき、視差値Δは、撮像装置１０ａ上の座標におけるＳａ（ｘ，ｙ）と撮像装置１０ｂ上の座標におけるＳｂ（Ｘ，ｙ）とを用いて、（式１）のように表される。

Δ＝Ｘ−ｘ （式１）
ここで、図１のような場合には、基準画像Ｉａ中の点Ｓａ（ｘ，ｙ）と撮像レンズ１１ａから撮像面上におろした垂線の交点との距離をΔａにし、比較画像Ｉｂ中の点Ｓｂ（Ｘ，ｙ）と撮像レンズ１１ｂから撮像面上におろした垂線の交点との距離をΔｂにすると、視差値Δ＝Δａ＋Δｂとなる。

（距離算出）
また、視差値Δを用いることで、撮像装置１０ａ，１０ｂと物体Ｅとの間の距離Ｚを導き出すことができる。具体的には、距離Ｚは、撮像レンズ１１ａの焦点位置と撮像レンズ１１ｂの焦点位置とを含む面から物体Ｅ上の特定点Ｓまでの距離である。図１に示されるように、撮像レンズ１１ａ及び撮像レンズ１１ｂの焦点距離ｆ、撮像レンズ１１ａと撮像レンズ１１ｂとの間の長さである基線長Ｂ、及び視差値Δを用いて、（式２）により、距離Ｚを算出することができる。

Ｚ＝（Ｂ×ｆ）／Δ （式２）
この（式２）により、視差値Δが大きいほど距離Ｚは小さく、視差値Δが小さいほど距離Ｚは大きくなる。

＜ＳＧＭ法＞
続いて、図２乃至図６を用いて、ＳＧＭ法を用いた測距方法について説明する。なお、図２（ａ）は基準画像、図２（ｂ）は（ａ）に対する高密度視差画像、図２（ｃ）は（ａ）に対するエッジ視差画像を示す概念図である。ここで、基準画像は、物体が輝度によって示された画像である。高密度視差画像は、ＳＧＭ法によって、基準画像から導き出された画像であり、基準画像の各座標における視差値を示した画像である。エッジ視差画像は、ブロックマッチング法から導き出された画像であり、基準画像のエッジ部のような比較的テクスチャの強い部分のみの視差値を示した画像である。

ＳＧＭ法は、テクスチャが弱い物体に対しても適切に上記視差値を導き出す方法であり、図２（ａ）に示されている基準画像に基づいて、図２（ｂ）に示されている高密度視差画像を導き出す方法である。なお、ブロックマッチング法を用いた場合には、図２（ａ）に示されている基準画像に基づいて、図２（ｃ）に示されているエッジ視差画像が導き出される。図２（ｂ）及び図２（ｃ）における破線の楕円内を比べると分かるように、高密度視差画像は、エッジ視差画像に比べてテクスチャが弱い道路等の詳細な情報を表すことができるため、より詳細な測距を行うことができる。

このＳＧＭ法は、非類似度であるコスト値を算出して直ちに視差値を導出せず、コスト値を算出後、更に、合成非類似度である合成コスト値 (Synthesis Cost)を算出することで視差値を導出し、最終的にほぼ全ての画素における視差値を示す視差画像（ここでは、高密度視差画像）を導き出す方法である。

なお、ブロックマッチング法の場合は、コスト値を算出する点はＳＧＭ法と同じであるが、ＳＧＭ法のように、合成コスト値を算出せずに、エッジ部のような比較的テクスチャの強い部分の視差値のみが導出される。

（コスト値の算出）
まず、図３及び図４を用いて、コスト値Ｃ（ｐ，ｄ）の算出方法について説明する。図３（ａ）は基準画像における基準画素を示す概念図、図３（ｂ）は（ａ）の基準画素に対して比較画像における対応画素の候補を順次シフトしながら（ずらしながら）シフト量（ずれ量）を算出する際の概念図である。図４は、シフト量毎のコスト値を示すグラフである。ここで、対応画素は、基準画像内の基準画素に最も類似する比較画像内の画素である。なお、以降、Ｃ（ｐ，ｄ）は、Ｃ（ｘ，ｙ，ｄ）を表すものとして説明する。

図３（ａ）に示されているように、基準画像内の所定の基準画素ｐ（ｘ，ｙ）と、この基準画素ｐ（ｘ，ｙ）に対する比較画像内におけるエピポーラ線(Epipolar Line)上の複数の対応画素の候補ｑ（ｘ＋ｄ，ｙ）との各輝度値に基づいて、基準画素ｐ（ｘ，ｙ）に対する各対応画素の候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）が算出される。ｄは、基準画素ｐと対応画素の候補ｑのシフト量（ずれ量）であり、本実施形態では、画素単位のシフト量が表されている。即ち、図３では、対応画素の候補ｑ（ｘ＋ｄ，ｙ）を予め指定された範囲（例えば、０＜ｄ＜２５）において順次一画素分シフトしながら、対応画素の候補ｑ（ｘ＋ｄ，ｙ）と基準画素ｐ（ｘ，ｙ）との輝度値の非類似度であるコスト値Ｃ（ｐ，ｄ）が算出される。

このようにして算出されたコスト値Ｃ（ｐ，ｄ）は、図４に示されているように、シフト量ｄ毎のコスト値Ｃの集まりであるコスト曲線ＣＬのグラフによって表すことができる。図４では、コスト値Ｃは、シフト量ｄ＝５，１２，１９の場合が０（ゼロ）となるため、最小値を求めることができない。このように、テクスチャが弱い物体の場合には、コスト値Ｃの最小値を求めることは困難になる。

（合成コスト値の算出）
次に、図５及び図６を用いて、合成コスト値Ｌｓ（ｐ，ｄ）の算出方法について説明する。図５は、合成コスト値を導き出すための概念図である。図６は、視差値毎の合成コスト値を示す合成コスト曲線のグラフである。本実施形態における合成コスト値の算出方法は、コスト値Ｃ（ｐ，ｄ）の算出だけでなく、所定の基準画素ｐ（ｘ，ｙ）の周辺の画素を基準画素とした場合のコスト値を、基準画素ｐ（ｘ，ｙ）におけるコスト値Ｃ（ｐ，ｄ）に集約させて、合成コスト値Ｌｓ（ｐ，ｄ）を算出する。

ここで、合成コスト値の算出方法について、より詳細に説明する。合成コスト値Ｌｓ（ｐ，ｄ）を算出するためには、まず、経路コスト値Ｌｒ（ｐ，ｄ）を算出する必要がある。(式３)は、経路コスト値Ｌｒ（ｐ，ｄ）を算出するための式であり、（式４）は、合成コスト値Ｌｓを算出するための式である。

Ｌｒ（ｐ，ｄ）＝Ｃ（ｐ，ｄ）＋ｍｉｎ｛（Ｌｒ（ｐ−ｒ，ｄ），Ｌｒ（ｐ−ｒ，ｄ−１）＋Ｐ１，Ｌｒ（ｐ−ｒ，ｄ＋１）＋Ｐ１，Ｌｒｍｉｎ（ｐ−ｒ）＋ｐ２｝ （式３）
ここで、ｒは、集約方向の方向ベクトルを示し、ｘ方向およびｙ方向の２成分を有する。ｍｉｎ｛｝は、最小値を求める関数である。Ｌｒｍｉｎ（ｐ−ｒ）は、ｐをｒ方向に１画素シフトした座標において、シフト量ｄを変化させた際のＬｒ（ｐ−ｒ，ｄ）の最小値を示す。なお、Ｌｒは、（式３）に示されているように再帰的に適用される。また、Ｐ１及びＰ２は、予め実験により定められた固定パラメータであり、経路上で隣接する基準画素の視差値Δが連続になりやすいようなパラメータになっている。例えば、Ｐ１＝４８、Ｐ２＝９６である。

また、（式３）に示されているように、Ｌｒ（ｐ，ｄ）は、基準画素ｐ（ｘ，ｙ）におけるコスト値Ｃに、図５に示されているｒ方向の各画素における各画素の経路コスト値Ｌｒの最小値を加算することで求められる。このように、ｒ方向の各画素におけるＬｒを求めるため、最初は、基準画像ｐ（ｘ，ｙ）のｒ方向の一番端の画素からＬｒを求め、ｒ方向に沿ってＬｒが求められる。

そして、図５に示されているように、８方向のＬｒ_０，Ｌｒ_４５，Ｌｒ_９０，Ｌｒ_１３５，Ｌｒ_１８０，Ｌｒ_２２５，Ｌｒ_２７０，Ｌｒ_３１５求められ、最終的に（式４）に基づいて、合成コスト値Ｌｓが求められる。

このようにして算出された合成コスト値Ｌｓ（ｐ，ｄ）は、図６に示されているように、シフト量ｄ毎に合成コスト値Ｌｓ（ｐ，ｄ）が示される合成コスト曲線のグラフによって表すことができる。図６では、合成コスト値Ｌｓは、シフト量ｄ＝３の場合が最小値となるため、視差値Δ＝３として算出される。なお、上記説明ではｒの数を８として説明しているが、これに限られることはない。例えば、８方向を更に２つに分割して１６方向、３つに分割して２４方向等にしてもよい。

〔本実施形態の具体的な説明〕
以下、図面を用いて、本実施形態の具体的な説明を行う。ここでは、自動車に搭載される視差値導出装置１について説明する。

＜＜実施形態の構成＞＞
まず、図７乃至図９用いて、本実施形態の全体構成について説明する。

＜外観構成＞
図７及び図８を用いて、本実施形態の視差値導出装置１の外観構成を説明する。なお、図７（ａ）は本発明の一実施形態に係る視差値導出装置を搭載した自動車の側面を表す概略図、図７（ｂ）は自動車の正面を示す概略図である。図８は、視差値導出装置の概観図である。

図７（ａ），（ｂ）に示されているように、本実施形態の視差値導出装置１は、撮像装置１０ａ及び撮像装置１０ｂを備えており、撮像装置１０ａ及び撮像装置１０ｂは自動車の進行方向前方の光景を撮像することができるように設置される。

また、図８に示されているように、視差値導出装置１は、本体部２と、本体部２に対して設けられた一対の円筒状の撮像装置１０ａ及び撮像装置１０ｂとによって構成されている。

＜全体のハードウェア構成＞
次に、図９を用いて、視差値導出装置１の全体のハードウェア構成について説明する。なお、図９は、視差値導出装置の全体のハードウェア構成図である。

図９に示されているように、視差値導出装置１は、撮像装置１０ａ、撮像装置１０ｂ、信号変換装置２０ａ、信号変換装置２０ｂ、及び画像処理装置３０を備えている。

このうち、撮像装置１０ａは、前方の光景を撮像して画像を表すアナログ信号を生成するものであり、撮像レンズ１１ａ、絞り１２ａ、画像センサ１３ａを備えている。撮像レンズ１１ａは、撮像レンズ１１ａを通過する光を屈折させて物体の像を結像させるための光学素子である。絞り１２ａは、撮像レンズ１１ａを通過した光の一部を遮ることによって、後述する画像センサ１３ａに入力される光の量を調整する。画像センサ１３ａは、撮像レンズ１１ａ及び絞り１２ａから入力された光を電気的なアナログの画像信号に変換する半導体の素子であり、ＣＣＤ(Charge Coupled Devices)やＣＭＯＳ(Complementary Metal Oxide Semiconductor）によって実現される。なお、撮像装置１０ｂは撮像装置１０ａと同じ構成を備えているため、撮像装置１０ｂについての説明は省略する。また、撮像レンズ１１ａと撮像レンズ１１ｂは、それぞれのレンズ面が互いに同一平面内になるように設置されている。

また、信号変換装置２０ａは、撮像された画像を表すアナログ信号をデジタル形式の画像データに変換するものであり、ＣＤＳ(Correlated Double Sampling)２１ａ、ＡＧＣ(Auto Gain Control)２２ａ、ＡＤＣ(Analog Digital Converter)２３ａ、及びフレームメモリ２４ａを備えている。ＣＤＳ２１ａは、画像センサ１３ａによって変換されたアナログの画像信号から相関二重サンプリングによってノイズを除去する。ＡＧＣ２２ａは、ＣＤＳ２１ａによってノイズが除去されたアナログの画像信号の強度を制御する利得制御を行う。ＡＤＣ２３ａは、ＡＧＣ２２ａによって利得制御されたアナログの画像信号をデジタル形式の画像データに変換する。フレームメモリ２４ａは、ＡＤＣ２３ａによって変換された画像データを記憶する。

同様に、信号変換装置２０ｂは、撮像装置１０ｂによって変換されたアナログの画像信号から画像データを取得するものであり、ＣＤＳ２１ｂ、ＡＧＣ２２ｂ、ＡＤＣ２３ｂ、及びフレームメモリ２４ｂを有している。なお、ＣＤＳ２１ｂ、ＡＧＣ２２ｂ、ＡＤＣ２３ｂ、及びフレームメモリ２４ｂはそれぞれＣＤＳ２１ａ、ＡＧＣ２２ａ、ＡＤＣ２３ａ、及びフレームメモリ２４ａと同じ構成であるため、それらについての説明は省略する。

更に、画像処理装置３０は、信号変換装置２０ａ及び信号変換装置２０ｂによって変換された画像データを処理するための装置である。この画像処理装置３０は、ＦＰＧＡ(Field Programmable Gate Array)３１、ＣＰＵ(Central Processing Unit)３２、ＲＯＭ(Read Only Memory)３３、ＲＡＭ(Random Access Memory)３４、Ｉ／Ｆ(Interface)３５及び上記各構成要素３１〜３５を図９に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン３９を備えている。

このうち、ＦＰＧＡ３１は、集積回路であり、ここでは、画像データが表す画像における視差値Δを算出する処理を行う。ＣＰＵ３２は、視差値導出装置１の各機能を制御する。ＲＯＭ３３は、ＣＰＵ３２が視差値導出装置の各機能を制御するために実行する画像処理用プログラムを記憶している。ＲＡＭ３４はＣＰＵ３２のワークエリアとして使用される。Ｉ／Ｆ３５は、外部コントローラ等と通信するためのインターフェイスであり、例えば、自動車のＣＡＮ(Controller Area Network)等に接続されることができる。

なお、上記画像処理用プログラムは、インストール可能な形式又は実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させてもよい。この記録媒体は、ＣＤ−ＲＯＭやＳＤカード等である。

＜コスト算出方式の説明＞
ここで、図１０及び図１１を用いて、コスト算出方式の一例として、ＳＡＤ方式とＣｅｎｓｕｓ方式について簡単に説明する。図１０は、Ｃｅｎｓｕｓ方式の説明図である。図１１（ａ）は逆光時のＳＡＤ方式による高密度視差画像を示す概念図、図１１（ｂ）は逆光時のＣｅｎｓｕｓ方式による高密度視差画像を示す概念図である。

また、(式５)は、ＳＡＤ方式によるコスト値（第１のコスト値の一例）を算出するための式であり、（式６）は、Ｃｅｎｓｕｓ方式によるコスト値（第２のコスト値の一例）を算出するための式である。ＳＡＤ方式は一般に多く使われている方式であり、比較画像から対応画素を含む所定領域を切り出し、この所定領域に対する輝度差の総和(SAD)からコスト値が算出される。一方、Ｃｅｎｓｕｓ方式は、上記所定領域の対応画素（中心画素）を除いた周辺画素を２値化等した結果から対応画素におけるコスト値が算出される。例えば、図１０（ａ）に示されているように、２値モードの場合、所定領域の８つの周辺画素のうち、所定の閾値（ここでは、輝度値８０）未満の画素は「１」、所定の閾値以上の画素は「０」とすることで、「１」と「０」のうち、多い方を対応画素（中心画素）のコスト値としている。なお、図１０（ｂ）に示されているように、３値モードの場合、所定領域の８つの周辺画素のうち、第１の閾値（ここでは、輝度値８３）を超える画素は「１０」、第２の閾値（ここでは、輝度値８０）未満の画素は「０１」、これら以外の画素は「００」とすることで、「１０」、「０１」及び「００」のうち、最も多い値を対応画素のコスト値としている。

ここで、i,jは所定領域内の画素位置、Iは基準画像の画素の輝度値、Tは比較画像の対応画素の輝度値を示す。

上記のように、ＳＡＤ方式とＣｅｎｓｕｓ方式は、それぞれ得意とするシーンが異なる。例えば、シーンが逆光の場合、ＳＡＤ方式を利用すると、図１１（ａ）に示されているように、多くのノイズが発生するが、Ｃｅｎｓｕｓ方式を利用すると、図１１（ｂ）に示されているように、ノイズの発生を抑制することができる。一方、シーンが通常の場合、ＳＡＤ方式の方がＣｅｎｓｕｓ方式よりもノイズを抑えることができる。

＜主要部のハードウェア構成＞
次に、図１２乃至図１５を用いて、視差値導出装置１の主要部のハードウェア構成について説明する。なお、図１２は、視差値導出装置の主要部のハードウェア構成図である。

図９におけるＦＰＧＡ３１は、図１２に示されているように、コスト算出部３１０ａ、コスト算出部３１０ｂ、正規化部３２０ａ、正規化部３２０ｂ、選択部３３０、コスト合成部３４０、及び視差値導出部３５０を備えている。これらは、ＦＰＧＡ３１の回路の一部であるが、上記プログラムが実行されることにより、同じ処理を行うことができるようにしてもよい。なお、コスト算出部３１０ａは、第１の算出手段の一例であり、コスト算出部３１０ｂは、第２の算出手段の一例である。

これらのうち、コスト算出部３１０ａは、図３に示されているように、基準画像（図３（ａ）参照）内の基準画素ｐ（ｘ，ｙ）の輝度値と、比較画像（図３（ｂ）参照）内において基準画素ｐ（ｘ，ｙ）に基づくエピポーラ線ＥＬ上でシフトさせることでシフト量ｄ毎に特定される対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各輝度値とに基づくと共にＳＡＤ方式を利用することで、基準画素ｐ（ｘ，ｙ）に対する対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各コスト値Ｃ１を算出する。これに対して、コスト算出部３１０ｂは、図３に示されているように、基準画像（図３（ａ）参照）内の基準画素ｐ（ｘ，ｙ）の輝度値と、比較画像（図３（ｂ）参照）内において基準画素ｐ（ｘ，ｙ）に基づくエピポーラ線ＥＬ上でシフトさせることでシフト量ｄ毎に特定される対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各輝度値とに基づくと共にＣｅｎｓｕｓ方式を利用することで、基準画素ｐ（ｘ，ｙ）に対する対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各コスト値Ｃ２を算出する。

また、正規化部３２０ａは、下記（式７）に基づいて、コスト算出部３１０ａによって算出されたコスト値Ｃ１を正規化する。一方、正規化部３２０ｂは、（式８）に基づいて、コスト算出部３１０ｂによって算出されたコスト値Ｃ２を正規化する。

正規化SAD値=(SAD_max-SAD_min)/SAD_max （式７）
正規化Census値=(Census_max-Census_min)/Census_max （式８）
図１３は、ＳＡＤ方式によるコスト曲線及びＣｅｎｓｕｓ方式によるコスト曲線を示したグラフである。図１３に示されているように、ＳＡＤ方式によるコスト値及びＣｅｎｓｕｓ方式によるコスト値は単位（スケール）が異なるため、それぞれのコスト曲線を比較するためには、正規化する必要がある。なお、ＦＰＧＡ３１は、正規化部３２０ａ及び正規化部３２０ｂのうち、いずれか一方を備えていても、それぞれのコスト曲線を比較することは可能である。

選択部３３０は、基準画像の画素毎に、テクスチャの強弱に応じた所定の基準に基づいて、コスト曲線ＣＬ１，ＣＬ２が正規化された後のコスト曲線ＣＬ１，ＣＬ２のうち、いずれか一方を選択する。ここで、図１４及び図１５を用い、上記所定の基準について詳細に説明する。図１４は、コスト曲線を比較判定する際の説明図である。図１５（ａ）は通常時にＳＡＤ方式を利用した場合のコスト曲線及びＣｅｎｓｕｓ方式を利用した場合のコスト曲線を示したグラフ、図１５（ｂ）は逆光時にＳＡＤ方式を利用した場合のコスト曲線及びＣｅｎｓｕｓ方式を利用した場合のコスト曲線を示したグラフである。

選択部３３０は、（式９）に示されているような比較判定関数CostSelvalで示されている所定の信頼度（所定の基準）を利用し、CostSelvalの値が小さい方のコスト曲線を選択する。

ここで、ｍｉｎ１は、図１４に示されているように、任意のコスト曲線ＣＬ０について説明すると、最小の極値ｍｉｎ１のコスト値を示す。ｓ_A、ｓ_Bは、最小の極値（最小値）ｍｉｎ１を基点としたコスト曲線ＣＬ０の１次近似曲線fd1,fd2の傾き値を示す。ｓｈｐ_{ｍｉｍ１ａ}は、規定間（例えば、５つ分のスライド量間）において、最小の極値（最小値）ｍｉｎ１を頂点としたコスト曲線ＣＬ０の２次近似曲線sdの広がり度を示す。ｄ_ｍ１ｍ２は、最小の極値のコスト値と２番目に小さい極値のコスト値との差分を示す。なお、１次近似曲線fd1,fd2の代わりに、２次近似曲線を用いてもよいし、２次近似曲線sdの代わりに、１次近似曲線を用いてもよい。即ち、(w₂(s_A＋s_B))、(w₁shp_min1a)は、コスト値Ｃの最小値を頂点とした近似曲線の広がりを示しており、この近似曲線には、１次曲線及び２次曲線の両方が含まれる。

また、ｗ_１〜ｗ_４は、それぞれ調整重み値である。ｗ_１〜ｗ_４のうち、少なくとも１つを０にすることができる。

例えば、ｗ_２＝ｗ_３＝ｗ_４＝０の場合、ｗ_１min1だけが残り、CostSelvalは、両コスト曲線ＣＬ１，ＣＬ２のうち、最小の極値（最小値）が小さい方が選択される基準となる。

ｗ_１〜ｗ_４のうち、ｗ_１＝ｗ_３＝ｗ_４＝０の場合、w₂/(|s_A|＋|s_B|))だけが残り、CostSelvalは、両コスト曲線ＣＬ１，ＣＬ２のうち、コスト値Ｃの最小値を頂点とした近似曲線の広がりが狭い方が選択される基準となる。

ｗ_１〜ｗ_４のうち、ｗ_１＝ｗ_２＝ｗ_４＝０の場合、w₃/(shp_min1a)だけが残り、CostSelvalは、両コスト曲線ＣＬ１，ＣＬ２のうち、コスト値Ｃの最小値を頂点とした近似曲線の広がりが狭い方が選択される基準となる。

ｗ_１〜ｗ_４のうち、ｗ_１＝ｗ_２＝ｗ_３＝０の場合、w₄/(d_m1m2))だけ残り、CostSelvalは、両コスト曲線ＣＬ１，ＣＬ２のうち、最小の極値（最小値）と２番目に小さい極値との差分が大きい方が選択される基準となる。

続いて、コスト合成部３４０は、選択部３３０によって選択された特定のコスト曲線におけるコスト値Ｃを利用して、一の基準画素ｐ（ｘ，ｙ）に対する対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各コスト値Ｃと、他の基準画素ｐ’（ｘ’，ｙ’）に対する対応画素の候補ｑ’（ｘ’＋ｄ，ｙ’）の各コスト値Ｃとをシフト量ｄ毎に合成し、合成コスト値Ｌｓを出力する。なお、この合成の処理は、(式３)に基づいてコスト値Ｃから経路コスト値Ｌｒを算出した後、更に、（式４）に基づいて各方向における経路コスト値Ｌｒを加算して、最終的に合成コスト値Ｌｓを算出する処理である。

更に、視差値導出部３５０は、一の基準画素ｐ（ｘ，ｙ）の基準画像おける位置（ｘ，ｙ）と、コスト合成部３４０による合成後の合成コスト値Ｌｓが最小となる対応画素ｑ（ｘ＋Δ，ｙ）の比較画像における位置（ｘ＋Δ，ｙ）とに基づいて視差値Δを導出し、各画素における視差値を示す視差画像を出力する。

＜実施形態の処理または動作＞
次に、図１６を用いて、本実施形態の処理または動作を説明する。図１６は、実施形態の視差値生産方法の処理を示したフローチャートである。

まず、図９に示されている撮像装置１０ａは、物体Ｅを撮像してアナログの画像データを生成する（ステップＳ１−１）。同じく、撮像装置１０ａは、物体を撮像してアナログの画像データを生成する(ステップＳ１−２)。

次に、信号変換装置２０ａは、アナログの画像データを、デジタルの画像データに変換する（ステップＳ２−１）。同じく、信号変換装置２０ｂは、アナログの画像データを、デジタルの画像データに変換する（ステップＳ２−２）。

次に、信号変換装置２０ａは、画像処理装置３０のＦＰＧＡ３１に、変換後のデジタルの画像データを基準画像のデータとして出力する（ステップＳ３−１）。この基準画像の概念図は、図２（ａ）に示されている。同じく、信号変換装置２０ｂは、画像処理装置３０のＦＰＧＡ３１に、変換後のデジタルの画像データを比較画像のデータとして出力する（ステップＳ３−２）。この比較画像は、撮像装置１０ｂによって撮像された画像であるが、図２（ａ）に示されている基準画像と極端な違いはないため、比較画像の概念図は図示しないで省略する。

次に、図１２に示されているコスト算出部３１０ａは、ＳＡＤ方式を利用して、基準画像のデータ及び比較画像のデータに基づき、図１３のグラフで示されているように、シフト量ｄ毎のコスト値Ｃ１を算出する（ステップＳ４−１）。同じく、コスト算出部３１０ｂは、Ｃｅｎｓｕｓ方式を利用して、基準画像のデータ及び比較画像のデータに基づき、図１３のグラフで示されているように、シフト量ｄ毎のコスト値Ｃ２を算出する（ステップＳ４−２）。

次に、正規化部３２０ａは、コスト算出部３１０ａによって算出されたコスト値Ｃ１を正規化する（ステップＳ５−１）。同じく、正規化部３２０ｂは、コスト算出部３１０ｂによって算出されたコストＣ２を正規化する（ステップＳ５−２）。

次に、選択部３３０は、正規化部３２０ａによって出力されたコスト値Ｃ１の集まりであるコスト曲線ＣＬ１（第１の曲線の一例）と、正規化部３２０ｂによって出力されたコスト値Ｃ２の集まりであるコスト曲線ＣＬ２（第２の曲線の一例）のうち、（式９）に示されている比較判定関数を用いて、特定のコスト曲線ＣＬ（特定の曲線の一例）を選択する（ステップＳ６）。

次に、コスト合成部３４０は、選択部３３０によって選択された特定のコスト曲線ＣＬにおける各コスト値Ｃに基づいて、例えば、図６のグラフで示されているように、シフト量ｄ毎に合成コスト値Ｌｓを出力する（ステップＳ７）。図６の場合、合成コスト値Ｌｓが最小となるシフト量はｄ＝３であるため、視差値導出部３５０は、視差値Δ＝３を導出する（ステップＳ８）。

その後、図９に示されているＩ／Ｆ３５から、高密度視差画像が送信され、図示しない視差値導出装置１の外部の装置におけるＣＰＵによって、撮像装置１０ａ，１０ｂと物体Ｅとの間の距離Ｚが算出される。

＜実施形態の主な効果＞
以上説明したように本実施形態によれば、コスト算出部３１０ａによって算出された第１のコスト値Ｃ１と、コスト算出部３１０ｂによって算出された第２のコスト値Ｃ２とを、比較判定関数CostSelvalで示されている信頼度を利用して選択するため、より正確なコスト値を導き出すことができるという効果を奏する。

＜＜実施形態の補足＞＞
上記実施形態では、コスト算出部は、ＳＡＤ方式又はＣｅｎｓｕｓ方式を利用してコスト値を算出したが、この方式に限るものではない。例えば、ＳＳＤ(Sum of Squared Difference)方式、又は、ＮＣＣ(Normalized Cross-Correlation)方式等の他の方式を用いてもよい。この場合、任意の２方式のうち、選択部３３０には得意なシーンを考慮してコスト曲線を選択するように設定される。

また、上記実施形態では、コスト値Ｃは非類似度として示されているが、類似度として示されてもよい。この場合、選択部３３０は、（式９）に示されているような比較判定関数CostSelvalで示されている所定の信頼度を利用し、CostSelvalのｍｉｍ１に代えて、ｍａｘ１（最大の極値（最大値））が用いられる。また、この場合、合成コスト値Ｌｓが最大となる視差値Δが導出される。また、非類似度と類似度の両者を含めて、一致度としてもよい。

また、上記実施形態では、説明の簡略化のために、一画素単位で説明したが、これに限るものではなく、複数の画素からなる所定領域単位で処理されてもよい。この場合、基準画素を含む所定領域は基準領域として示され、対応画素を含む所定領域は対応領域として表される。なお、この基準領域には基準画素のみの場合も含まれ、対応領域には対応画素のみの場合も含まれる。

更に、上記実施形態では、自動車に搭載される視差値導出装置１について説明したが、これに限るものではない。例えば、車両の一例としての自動車だけでなく、バイク、自転車、車椅子、農業用の耕運機等の車両に搭載されることができてもよい。また、移動体の一例としての車両だけでなく、ロボット等の移動体であってもよい。

更に、ロボットは、移動体だけでなく、ＦＡ(Factory Automation)において固定設置される工業用ロボット等の装置であってもよい。また、固定設置される装置としては、ロボットだけでなく、防犯用の監視カメラであってもよい。

また、上記実施形態では、外部のＣＰＵが距離Ｚを算出しているが、これに限るものではなく、画像処理装置３０のＣＰＵ３２が距離Ｚを算出してもよい。

１ 視差値導出装置
２ 本体部
１０ａ 撮像装置
１０ｂ 撮像装置
２０ａ 信号変換装置
２０ｂ 信号変換装置
３０ 画像処理装置
３１０ａ コスト算出部（第１の算出手段の一例）
３１０ｂ コスト算出部（第２の算出手段の一例）
３２０ａ 正規化部（第１の正規化手段の一例）
３２０ｂ 正規化部（第２の正規化手段の一例）
３３０ 選択部（選択手段の一例）
３４０ コスト合成部（合成手段の一例）
３５０ 視差値導出部（導出手段の一例）

特開２０１２−１８１１４２号公報

Claims (18)

1. 所定の物体を第１の位置で撮像して得た基準画像及び前記物体を第２の位置で撮像して得た比較画像に基づいて、前記物体に対する視差を示す視差値を導出する視差値導出装置であって、
   前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第１の非類似度を算出する第１の算出手段と、
   前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に前記第１の非類似度とは異なる第２の非類似度を算出する第２の算出手段と、
   前記対応領域の候補毎の第１の非類似度の集まりである第１の曲線と、前記対応領域の候補毎の第２の非類似度の集まりである第２の曲線と、を正規化する正規化手段と、
   前記正規化手段によって正規化された前記第１の曲線と前記第２の曲線のうち、前記第１の曲線及び前記第２の曲線の各々が信頼できるかを示す信頼度に基づいて、特定の曲線を選択する選択手段と、
   一の基準領域に対する前記特定の曲線における各非類似度と、他の基準領域に対する前記特定の曲線における各非類似度とを合成する合成手段と、
   前記一の基準領域の前記基準画像における位置と、前記合成手段による合成後の非類似度が最小となる対応領域の前記比較画像における位置とに基づいて、前記視差値を導出する導出手段と、 を有することを特徴とする視差値導出装置。
2. 前記選択手段は、前記第１の曲線及び前記第２の曲線のうち、各非類似度の最小値が小さい方を選択することを特徴とする請求項１に記載の視差値導出装置。
3. 前記選択手段は、前記第１の曲線及び前記第２の曲線のうち、各非類似度の最小値を頂点とした近似曲線の広がりが狭い方を選択することを特徴とする請求項１に記載の視差値導出装置。
4. 前記第１の算出手段は、前記基準画像内の基準領域の輝度値と、前記比較画像において所定方向にシフトさせることでシフト量毎に特定される対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第１の非類似度を算出し、
   前記第２の算出手段は、前記基準画像内の基準領域の輝度値と、前記比較画像において所定方向にシフトさせることでシフト量毎に特定される対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第２の非類似度を算出し、
   前記選択手段は、前記第１の曲線及び前記第２の曲線のうち、前記所定のスライド量間において、各非類似度の最小値を頂点とした近似曲線の広がりが狭い方を選択することを特徴とする請求項３に記載の視差値導出装置。
5. 前記選択手段は、前記第１の曲線及び前記第２の曲線のうち、各非類似度の最小の極値と２番目に小さい極値との差分が大きい方を選択することを特徴とする請求項１に記載の視差値導出装置。
6. 所定の物体を第１の位置で撮像して得た基準画像及び前記物体を第２の位置で撮像して得た比較画像に基づいて、前記物体に対する視差を示す視差値を導出する視差値導出装置であって、
   前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第１の類似度を算出する第１の算出手段と、
   前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に前記第１の類似度とは異なる第２の類似度を算出する第２の算出手段と、
   前記対応領域の候補毎の第１の類似度の集まりである第１の曲線と、前記対応領域の候補毎の第２の類似度の集まりである第２の曲線と、を正規化する正規化手段と、
   前記正規化手段によって正規化された前記第１の曲線と前記第２の曲線のうち、前記第１の曲線及び前記第２の曲線の各々が信頼できるかを示す信頼度に基づいて、特定の曲線を選択する選択手段と、
   一の基準領域に対する前記特定の曲線における各類似度と、他の基準領域に対する前記特定の曲線における各類似度とを合成する合成手段と、
   前記一の基準領域の前記基準画像における位置と、前記合成手段による合成後の類似度が最大となる対応領域の前記比較画像における位置とに基づいて、前記視差値を導出する導出手段と、
   を有することを特徴とする視差値導出装置。
7. 前記選択手段は、前記第１の曲線及び前記第２の曲線のうち、各類似度の最大値が大きい方を選択することを特徴とする請求項６に記載の視差値導出装置。
8. 前記選択手段は、前記第１の曲線及び前記第２の曲線のうち、各類似度の最大値を頂点とした近似曲線の広がりが狭い方を選択することを特徴とする請求項６に記載の視差値導出装置。
9. 前記第１の算出手段は、前記基準画像内の基準領域の輝度値と、前記比較画像において所定方向にシフトさせることでシフト量毎に特定される対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第１の類似度を算出し、
   前記第２の算出手段は、前記基準画像内の基準領域の輝度値と、前記比較画像において所定方向にシフトさせることでシフト量毎に特定される対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第２の類似度を算出し、
   前記選択手段は、前記第１の曲線及び前記第２の曲線のうち、前記所定のスライド量間において、各類似度の最大値を頂点とした近似曲線の広がりが狭い方を選択することを特徴とする請求項８に記載の視差値導出装置。
10. 前記選択手段は、前記第１の曲線及び前記第２の曲線のうち、各類似度の最大の極値と２番目に大きい極値との差分が大きい方を選択することを特徴とする請求項６に記載の視差値導出装置。
11. 請求項１乃至１０のいずれか一項に記載の視差値導出装置を備えたことを特徴とする移動体。
12. 前記移動体は、車両又はロボットであることを特徴とする請求項１１に記載の移動体。
13. 請求項１乃至１０のいずれか一項に記載の視差値導出装置を備えたことを特徴とするロボット。
14. 前記ロボットは、固定設置される工業用ロボットであることを特徴とする請求項１３に記載のロボット。
15. 所定の物体を第１の位置で撮像して得た基準画像及び前記物体を第２の位置で撮像して得た比較画像に基づいて、前記物体に対する視差を示す視差値を導出する視差値生産方法であって、
    前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第１の非類似度を算出する第１の算出ステップと、
    前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に前記第１の非類似度とは異なる第２の非類似度を算出する第２の算出ステップと、
    前記対応領域の候補毎の第１の非類似度の集まりである第１の曲線と、前記対応領域の候補毎の第２の非類似度の集まりである第２の曲線と、を正規化する正規化ステップと、
    前記正規化ステップにおいて正規化された前記第１の曲線と前記第２の曲線のうち、前記第１の曲線及び前記第２の曲線の各々が信頼できるかを示す信頼度に基づいて、特定の曲線を選択する選択ステップと、
    一の基準領域に対する前記特定の曲線における各非類似度と、他の基準領域に対する前記特定の曲線における各非類似度とを合成する合成ステップと、
    前記一の基準領域の前記基準画像における位置と、前記合成ステップにおける合成後の非類似度が最小となる対応領域の前記比較画像における位置とに基づいて、前記視差値を導出する導出ステップと、
    を含むことを特徴とする視差値生産方法。
16. 所定の物体を第１の位置で撮像して得た基準画像及び前記物体を第２の位置で撮像して得た比較画像に基づいて、前記物体に対する視差を示す視差値を導出する視差値生産方法であって、
    前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に第１の類似度を算出する第１の算出ステップと、
    前記基準画像内の基準領域の輝度値と、前記比較画像内の対応領域の候補の各輝度値とに基づいて、前記基準領域に対する前記対応領域の候補毎に前記第１の類似度とは異なる第２の類似度を算出する第２の算出ステップと、
    前記対応領域の候補毎の第１の類似度の集まりである第１の曲線と、前記対応領域の候補毎の第２の類似度の集まりである第２の曲線と、正規化する正規化する正規化ステップと、
    前記正規化ステップにおいて正規化された前記第１の曲線と前記第２の曲線のうち、前記第１の曲線及び前記第２の曲線の各々が信頼できるかを示す信頼度に基づいて、特定の曲線を選択する選択ステップと、
    一の基準領域に対する前記特定の曲線における各類似度と、他の基準領域に対する前記特定の曲線における各類似度とを合成する合成ステップと、
    前記一の基準領域の前記基準画像における位置と、前記合成ステップにおける合成後の類似度が最大となる対応領域の前記比較画像における位置とに基づいて、前記視差値を導出する導出ステップと、
    を含むことを特徴とする視差値生産方法。
17. コンピュータに、請求項１５に記載の方法を実行させることを特徴とするプログラム。
18. コンピュータに、請求項１６に記載の方法を実行させることを特徴とするプログラム。