JP2015195019A - 視差値導出装置、移動体、ロボット、視差値導出方法、視差値の生産方法及びプログラム - Google Patents

Abstract

【課題】ＳＧＭ法を用いた測距方法によって導出される高密度視差画像は、テクスチャが弱い対象でも視差値を導き出すことができるが、テクスチャが弱い対象を撮像した画素は、距離が離れたテクスチャの強い対象を撮像した画素の影響を受け、視差精度が低下する場合がある。
【解決手段】コスト合成部３２０が、基準画像における第１の基準領域のコスト値のうちの第１の重み（例えば、１）と、基準画像における第１の基準領域の周辺の第２の基準領域のコスト値のうちで第１の重みよりも少ない第２の重み（例えば、０．９）とを合成する。これにより、ｐ位置の画素における経路コスト値Ｌｒ’を導く際に、ｐ位置の画素から遠いにも拘わらず、極端に低いコスト値Ｃが存在しても、この影響を受けづらくすることができるという効果を奏する。
【選択図】図１２

Description

本発明は、撮像の対象を撮像して得られた基準画像及び同じ対象を撮像して得られた比較画像から、対象に対する視差を示す視差値を導出する発明に関する。

従来から、ステレオ画像法によって、ステレオカメラから対象に対する視差を導き出し、この視差を示す視差値によって、三角測量の原理に基づき、ステレオカメラから対象までの距離を測定する測距方法が知られている。この測距方法により、例えば、自動車間の距離や、自動車と障害物間の距離が測定され、自動車の衝突防止に役立てている。

また、視差値の求め方としては、ステレオマッチング処理が用いられている。このステレオマッチング処理は、ステレオカメラの２つのカメラのうち、一方のカメラによって得られた基準画像内の注目する基準画素に対して、他方のカメラによって得られた比較画像内の複数の対応画素の候補を順次シフトしながら、画像信号が最も類似する画素である対応画素の位置を求めることで、基準画像と比較画像の間の視差値を検出する。一般的には、２つのカメラによって得られた画像信号の輝度値を比較することで、比較する輝度値のコスト値(Cost：ここでは「非類似度」)が最も低い画素の位置が求められる。

また、近年、ステレオマッチング処理において、ミスマッチングを防止するために、画像における輝度値の差が大きい領域であるエッジ部分の輝度値を比較するブロックマッチング法が用いられている（例えば、特許文献１参照）。

ところが、対象のテクスチャが弱く、抽出すべき特徴そのものが乏しい領域では、エッジ検出を行っても、十分な効果を得ることができない。

そこで、テクスチャが弱い対象でも、より正確な視差値を導き出す方法が提案されている（例えば、特許文献２参照）。この方法によって、基準画像上の注目する基準画素のコスト値だけでなく、この基準画素の周囲の画素のコスト値を集約することで、テクスチャが弱い対象に対する視差値を導き出すことができる。これにより、対象の全体像を導き出すことができるため、測距だけでなく、対象が標識であるか車であるか等、対象の分類に利用することができる。

しかしながら、特許文献２に記載された方法を用いた場合、テクスチャが弱い対象でも視差値を導き出すことができるが、テクスチャが弱い対象を撮像して得られた基準画像上の画素を含む領域は、距離が離れたテクスチャの強い対象を撮像して得られた基準画像上の画素を含む領域の影響をうけ、視差精度が低下する場合があるという課題が生じる。

上述の課題を解決するため、請求項１に係る発明は、第１の撮像位置から撮像された基準画像における基準領域と、第２の撮像位置から撮像された比較画像における、前記基準領域に対応する対応領域を含む指定の範囲内の複数の領域各々と、のコスト値を算出する算出手段と、前記算出手段により算出された、前記基準画像における第１の基準領域のコスト値のうちの第１の重みと、前記基準画像における前記第１の基準領域の周辺の第２の基準領域のコスト値のうちで前記第１の重みよりも少ない第２の重みと、を合成する合成手段と、前記合成手段による合成によって得られた合成コスト値に基づいて、前記所定の基準領域において撮像されている対象の視差値を導出する導出手段と、を有することを特徴とする視差値導出装置である。

以上説明したように、請求項１に係る発明によれば、視差値を導出する際の対象のテクスチャが弱い場合であっても、距離が離れたテクスチャの強い対象の影響を受けづらいため、視差精度の低下を防止することができるという効果を奏する。

撮像装置から物体までの距離を導き出す原理の説明図である。 （ａ）は基準画像、（ｂ）は（ａ）に対する高密度視差画像、（ｃ）は（ａ）に対するエッジ視差画像を示す概念図である。 （ａ）は基準画像における基準画素を示す概念図、（ｂ）は（ａ）の基準画素に対して比較画像における対応画素の候補を順次シフトしながらコスト値を算出する際の概念図である。 シフト量毎のコスト値を示すグラフである。 合成コスト値を導き出すための概念図である。 視差値毎の合成コスト値を示すグラフである。 （ａ）は本発明の一実施形態に係る物体認識システムを搭載した自動車の側面を表す概略図、（ｂ）は自動車の正面を示す概略図である。 物体認識システムの概観図である。 物体認識システムの全体のハードウェア構成図である。 基準画像における経路コスト値を導き出すための概念図である。 視差値導出装置の主要部のハードウェア構成図である。 合成コスト値を導き出すための概念図である。 本実施形態の処理を示したフローチャートである。 （ａ）は基準画像、（ｂ）は基準画像の一部、（ｃ）は（式３）が利用された場合の（ｂ）に対する高密度視差画像、（ｄ）、（ｅ）は(式３’)が利用された場合の（ｂ）に対する高密度視差画像である。 基準画像の一部を拡大した概念図である。 図１５に示されている基準画像に関するシフト量毎のコスト値を示すグラフ及びシフト量毎の合成コスト値を示すグラフである。

以下、図面を用いて、本発明の一実施形態について説明する。

〔ＳＧＭ法を用いた測距方法の概略〕
まず、図１乃至図６を用いて、ＳＧＭ(Semi-Global Matching)法を用いた測距方法の概略について説明する。なお、ＳＧＭ法に関しては、非特許文献(Accurate and Efficient Stereo Processing by Semi-Global Matching and Mutual Information)に開示されているため、以下では概略を説明する。

＜測距の原理＞
図１を用いて、ステレオ画像法により、ステレオカメラから物体に対する視差を導き出し、この視差を示す視差値によって、ステレオカメラから物体までの距離を測定する原理について説明する。なお、図１は、撮像装置から物体までの距離を導き出す原理の説明図である。また、以下では、説明を簡略化するため、複数の画素からなる所定領域ではなく、一画素単位で説明する。

なお、一画素単位ではなく、複数の画素からなる所定領域単位で処理される場合、基準画素を含む所定領域は基準領域として示され、対応画素を含む所定領域は対応領域として示される。また、この基準領域には基準画素のみの場合も含まれ、対応領域には対応画素のみの場合も含まれる。

（視差値算出）
まず、図１で示される撮像装置１０ａおよび撮像装置１０ｂによって撮像された各画像を、それぞれ基準画像Ｉａおよび比較画像Ｉｂとする。なお、図１では、撮像装置１０ａおよび撮像装置１０ｂが平行等位に設置されているものとする。図１において、３次元空間内の物体Ｅ上の点Ｓは、撮像装置１０ａおよび撮像装置１０ｂの同一水平線上の位置に写像される。すなわち、各画像中の点Ｓは、基準画像Ｉａ中の点Ｓａ（ｘ，ｙ）および比較画像Ｉｂ中の点Ｓｂ（Ｘ，ｙ）において撮像される。このとき、視差値Δは、撮像装置１０ａ上の座標における点Ｓａ（ｘ，ｙ）と撮像装置１０ｂ上の座標における点Ｓｂ（Ｘ，ｙ）とを用いて、（式１）のように表される。

Δ＝Ｘ−ｘ （式１）
ここで、図１のような場合には、基準画像Ｉａ中の点Ｓａ（ｘ，ｙ）と撮像レンズ１１ａから撮像面上におろした垂線の交点との距離をΔａにし、比較画像Ｉｂ中の点Ｓｂ（Ｘ，ｙ）と撮像レンズ１１ｂから撮像面上におろした垂線の交点との距離をΔｂにすると、視差値Δ＝Δａ＋Δｂとなる。

（距離算出）
また、視差値Δを用いることで、撮像装置１０ａ，１０ｂと物体Ｅとの間の距離Ｚを導き出すことができる。具体的には、距離Ｚは、撮像レンズ１１ａの焦点位置と撮像レンズ１１ｂの焦点位置とを含む面から物体Ｅ上の特定点Ｓまでの距離である。図１に示されるように、撮像レンズ１１ａ及び撮像レンズ１１ｂの焦点距離ｆ、撮像レンズ１１ａと撮像レンズ１１ｂとの間の長さである基線長Ｂ、及び視差値Δを用いて、（式２）により、距離Ｚを算出することができる。

Ｚ＝（Ｂ×ｆ）／Δ （式２）
この（式２）により、視差値Δが大きいほど距離Ｚは小さく、視差値Δが小さいほど距離Ｚは大きくなる。

＜ＳＧＭ法＞
続いて、図２乃至図６を用いて、ＳＧＭ法を用いた測距方法について説明する。なお、図２（ａ）は基準画像、図２（ｂ）は（ａ）に対する高密度視差画像、図２（ｃ）は（ａ）に対するエッジ視差画像を示す概念図である。ここで、基準画像は、物体が輝度によって示された画像である。高密度視差画像は、ＳＧＭ法によって、基準画像から導き出された画像であり、基準画像の各座標における視差値を示した画像である。エッジ視差画像は、従来から用いられているブロックマッチング法によって導き出された画像であり、基準画像のエッジ部のような比較的テクスチャの強い部分のみの視差値を示した画像である。

ＳＧＭ法は、テクスチャが弱い物体に対しても適切に上記視差値を導き出す方法であり、図２（ａ）に示されている基準画像に基づいて、図２（ｂ）に示されている高密度視差画像を導き出す方法である。なお、ブロックマッチング法を用いた場合には、図２（ａ）に示されている基準画像に基づいて、図２（ｃ）に示されているエッジ視差画像が導き出される。図２（ｂ）及び図２（ｃ）における破線の楕円内を比べると分かるように、高密度視差画像は、エッジ視差画像に比べてテクスチャが弱い道路等の詳細な情報を表すことができるため、より詳細な測距を行うことができる。

このＳＧＭ法は、非類似度であるコスト値を算出して直ちに視差値を導出せず、コスト値を算出後、更に、合成非類似度である合成コスト値 (Synthesis Cost)を算出することで視差値を導出し、最終的にほぼ全ての画素における視差値を示す視差画像（ここでは、高密度視差画像）を導き出す方法である。

なお、ブロックマッチング法の場合は、コスト値を算出する点はＳＧＭ法と同じであるが、ＳＧＭ法のように、合成コスト値を算出せずに、エッジ部のような比較的テクスチャの強い部分の視差値のみを導出する。また、視差値の導出方法は、換言すると、視差値の生産方法でもある。

（コスト値の算出）
まず、図３及び図４を用いて、コスト値Ｃ（ｐ，ｄ）の算出方法について説明する。図３（ａ）は基準画像における基準画素を示す概念図、図３（ｂ）は（ａ）の基準画素に対して比較画像における対応画素の候補を順次シフトしながら（ずらしながら）コスト値を算出する際の概念図である。図４は、シフト量毎のコスト値を示すグラフである。ここで、対応画素は、基準画像内の基準画素に最も類似する比較画像内の画素である。なお、以降、Ｃ（ｐ，ｄ）は、Ｃ（ｘ，ｙ，ｄ）を表すものとして説明する。

図３（ａ）に示されているように、基準画像内の所定の基準画素ｐ（ｘ，ｙ）と、この基準画素ｐ（ｘ，ｙ）に対する比較画像内におけるエピポーラ線(Epipolar Line)ＥＬ上の複数の対応画素の候補ｑ（ｘ＋ｄ，ｙ）との各輝度値に基づいて、基準画素ｐ（ｘ，ｙ）に対する各対応画素の候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）が算出される。ｄは、基準画素ｐと対応画素の候補ｑのシフト量（ずれ量）であり、本実施形態では、画素単位のシフト量が表されている。即ち、図３では、対応画素の候補ｑ（ｘ＋ｄ，ｙ）を予め指定された範囲（例えば、０＜ｄ＜２５）において順次一画素分シフトしながら、対応画素の候補ｑ（ｘ＋ｄ，ｙ）と基準画素ｐ（ｘ，ｙ）との輝度値の非類似度であるコスト値Ｃ（ｐ，ｄ）が算出される。コスト値Ｃの算出方法としては、コスト値Ｃが非類似度を示す場合、ＳＡＤ(Sum of Absolute Difference)等の公知の方法が適用される。

このようにして算出されたコスト値Ｃ（ｐ，ｄ）は、図４に示されているように、シフト量ｄ毎のコスト値Ｃの集まりであるコスト曲線のグラフによって表すことができる。図４では、コスト値Ｃは、シフト量ｄ＝５，１２，１９の場合が０（ゼロ）となるため、最小値を求めることができない。このように、テクスチャが弱い物体の場合には、コスト値Ｃの最小値を求めることは困難になる。

（合成コスト値の算出）
次に、図５及び図６を用いて、合成コスト値Ｌｓ（ｐ，ｄ）の算出方法について説明する。図５は、合成コスト値を導き出すための概念図である。図６は、視差値毎の合成コスト値を示す合成コスト曲線のグラフである。本実施形態における合成コスト値の算出方法は、コスト値Ｃ（ｐ，ｄ）の算出だけでなく、所定の基準画素ｐ（ｘ，ｙ）の周辺の画素ｐ’（ｘ’，ｙ’）を基準画素とした場合のコスト値を、基準画素ｐ（ｘ，ｙ）におけるコスト値Ｃ（ｐ，ｄ）に集約させて、合成コスト値Ｌｓ（ｐ，ｄ）を算出する。

次に、合成コスト値の算出方法について、より詳細に説明する。合成コスト値Ｌｓ（ｐ，ｄ）を算出するためには、まず、経路コスト値Ｌｒ（ｐ，ｄ）を算出する必要がある。(式３)は、経路コスト値Ｌｒ（ｐ，ｄ）を算出するための式であり、（式４）は、合成コスト値Ｌｓを算出するための式である。

Ｌｒ（ｐ，ｄ）＝Ｃ（ｐ，ｄ）＋ｍｉｎ｛（Ｌｒ（ｐ−ｒ，ｄ），Ｌｒ（ｐ−ｒ，ｄ−１）＋Ｐ１，Ｌｒ（ｐ−ｒ，ｄ＋１）＋Ｐ１，Ｌｒｍｉｎ（ｐ−ｒ）＋Ｐ２｝ （式３）
ここで、（式３）において、ｒは、集約方向の方向ベクトルを示し、ｘ方向およびｙ方向の２成分を有する。ｍｉｎ｛｝は、最小値を求める関数である。Ｌｒｍｉｎ（ｐ−ｒ）は、ｐをｒ方向に１画素シフトした座標において、シフト量ｄを変化させた際のＬｒ（ｐ−ｒ，ｄ）の最小値を示す。なお、Ｌｒは、（式３）に示されているように再帰的に適用される。また、Ｐ１及びＰ２は、予め実験により定められた固定パラメータであり、経路上で隣接する基準画素の視差値Δが連続になりやすいようなパラメータになっている。例えば、Ｐ１＝４８、Ｐ２＝９６である。

また、（式３）に示されているように、Ｌｒ（ｐ，ｄ）は、基準画素ｐ（ｘ，ｙ）におけるコスト値Ｃに、図５に示されているｒ方向の各画素における各画素の経路コスト値Ｌｒの最小値を加算することで求められる。このように、ｒ方向の各画素におけるＬｒを求めるため、最初は、基準画素ｐ（ｘ，ｙ）のｒ方向の一番端の画素からＬｒが求められ、ｒ方向に沿ってＬｒが求められる。

そして、図５に示されているように、８方向のＬｒ_０，Ｌｒ_４５，Ｌｒ_９０，Ｌｒ_１３５，Ｌｒ_１８０，Ｌｒ_２２５，Ｌｒ_２７０，Ｌｒ_３１５が求められ、最終的に（式４）に基づいて、合成コスト値Ｌｓが求められる。

このようにして算出された合成コスト値Ｌｓ（ｐ，ｄ）は、図６に示されているように、シフト量ｄ毎に合成コスト値Ｌｓ（ｐ，ｄ）が示される合成コスト曲線のグラフによって表すことができる。図６では、合成コスト値Ｌｓは、シフト量ｄ＝３の場合が最小値となるため、視差値Δ＝３として算出される。

なお、上記説明ではｒの数を８として説明しているが、これに限られることはない。例えば、８方向を更に２つに分割して１６方向、３つに分割して２４方向等にしてもよい。

また、(式４)によって、（式３）によって算出された全ての経路ｒに関する経路コスト値Ｌｒを合計したが、これに限るものではない。１つの経路コスト値Ｌｒを合成コスト値としてもよいし、２以上の経路コスト値Ｌｒの合成を合成コスト値Ｌｓとしてもよい。

また、コスト値Ｃは「非類似度」として示されているが、非類似度の逆数としての「類似度」として表されてもよい。この場合、コスト値Ｃの算出方法としては、ＮＣＣ(Normalized Cross Correlation)等の公知の方法が適用される。また、この場合、合成コスト値Ｌｓが最小ではなく「最大」となる視差値Δが導出される。なお、非類似度と類似度の両者を含めて、「一致度」として表してもよい。

〔本実施形態の具体的な説明〕
以下、図面を用いて、本実施形態の具体的な説明を行う。ここでは、自動車に搭載される物体認識システム１について説明する。

なお、物体認識システム１は、車両の一例としての自動車だけでなく、車両の他の例として、バイク、自転車、車椅子、農業用の耕運機等に搭載されることができてもよい。また、移動体の一例としての車両だけでなく、移動体の他の例として、ロボット等に搭載されることができてもよい。更に、ロボットは、移動体だけでなく、ＦＡ(Factory Automation)において固定設置される工業用ロボット等の装置であってもよい。また、固定設置される装置としては、ロボットだけでなく、防犯用の監視カメラであってもよい。

＜実施形態の構成＞
まず、図７乃至図９用いて、本実施形態の全体構成について説明する。

（外観構成）
図７及び図８を用いて、本実施形態の物体認識システム１の外観構成を説明する。なお、図７（ａ）は本発明の一実施形態に係る物体認識システムを搭載した自動車の側面を表す概略図、図７（ｂ）は自動車の正面を示す概略図である。図８は、物体認識システムの概観図である。

図７（ａ），（ｂ）に示されているように、本実施形態の物体認識システム１は、撮像装置１０ａ及び撮像装置１０ｂを備えており、撮像装置１０ａ及び撮像装置１０ｂは自動車の進行方向前方の光景を撮像することができるように設置される。

また、図８に示されているように、物体認識システム１は、本体部２と、本体部２に対して設けられた一対の円筒状の撮像装置１０ａ及び撮像装置１０ｂとによって構成されている。

（全体のハードウェア構成）
次に、図９を用いて、物体認識システム１の全体のハードウェア構成について説明する。なお、図９は、物体認識システムの全体のハードウェア構成図である。

図９に示されているように、物体認識システム１は、本体部２において、視差値導出装置３及び物体認識装置５を備えている。このうち、視差値導出装置３は、物体Ｅを撮像して得られた複数の画像から、物体Ｅに対する視差を示す視差値Δを導出し、各画素における視差値Δを示す高密度視差画像を出力する。物体認識装置５は、視差値導出装置３から出力された高密度視差画像に基づいて、撮像装置１０ａ，１０ｂから物体Ｅまでの距離を測定する等の処理を行なう。

ここで、まずは、視差値導出装置３のハードウェア構成について説明する。図９に示されているように、視差値導出装置３は、撮像装置１０ａ、撮像装置１０ｂ、信号変換装置２０ａ、信号変換装置２０ｂ、及び画像処理装置３０を備えている。

撮像装置１０ａは、前方の光景を撮像して画像を表すアナログ信号を生成するものであり、撮像レンズ１１ａ、絞り１２ａ、及び画像センサ１３ａを備えている。撮像レンズ１１ａは、撮像レンズ１１ａを通過する光を屈折させて物体の像を結像させるための光学素子である。絞り１２ａは、撮像レンズ１１ａを通過した光の一部を遮ることによって、後述する画像センサ１３ａに入力される光の量を調整する。画像センサ１３ａは、撮像レンズ１１ａ及び絞り１２ａから入力された光を電気的なアナログの画像信号に変換する半導体の素子であり、ＣＣＤ(Charge Coupled Devices)やＣＭＯＳ(Complementary Metal Oxide Semiconductor）等によって実現される。なお、撮像装置１０ｂは撮像装置１０ａと同じ構成を備えているため、撮像装置１０ｂについての説明は省略する。また、撮像レンズ１１ａと撮像レンズ１１ｂは、それぞれのレンズ面が互いに同一平面内になるように設置されている。

また、信号変換装置２０ａは、撮像された画像を表すアナログ信号をデジタル形式の画像データに変換するものであり、ＣＤＳ(Correlated Double Sampling)２１ａ、ＡＧＣ(Auto Gain Control)２２ａ、ＡＤＣ(Analog Digital Converter)２３ａ、及びフレームメモリ２４ａを備えている。ＣＤＳ２１ａは、画像センサ１３ａによって変換されたアナログの画像信号から相関二重サンプリングによってノイズを除去する。ＡＧＣ２２ａは、ＣＤＳ２１ａによってノイズが除去されたアナログの画像信号の強度を制御する利得制御を行う。ＡＤＣ２３ａは、ＡＧＣ２２ａによって利得制御されたアナログの画像信号をデジタル形式の画像データに変換する。フレームメモリ２４ａは、ＡＤＣ２３ａによって変換された画像データを記憶する。

同様に、信号変換装置２０ｂは、撮像装置１０ｂによって変換されたアナログの画像信号から画像データを取得するものであり、ＣＤＳ２１ｂ、ＡＧＣ２２ｂ、ＡＤＣ２３ｂ、及びフレームメモリ２４ｂを有している。なお、ＣＤＳ２１ｂ、ＡＧＣ２２ｂ、ＡＤＣ２３ｂ、及びフレームメモリ２４ｂはそれぞれＣＤＳ２１ａ、ＡＧＣ２２ａ、ＡＤＣ２３ａ、及びフレームメモリ２４ａと同じ構成であるため、それらについての説明は省略する。

更に、画像処理装置３０は、信号変換装置２０ａ及び信号変換装置２０ｂによって変換された画像データを処理するための装置である。この画像処理装置３０は、ＦＰＧＡ(Field Programmable Gate Array)３１、ＣＰＵ(Central Processing Unit)３２、ＲＯＭ(Read Only Memory)３３、ＲＡＭ(Random Access Memory)３４、Ｉ／Ｆ(Interface)３５及び上記各構成要素３１〜３５を図９に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン３９を備えている。

このうち、ＦＰＧＡ３１は、集積回路であり、ここでは、ＣＰＵ３２の命令に従って、画像データが表す画像における視差値Δを算出する処理を行う。ＣＰＵ３２は、視差値導出装置３の各機能を制御する。ＲＯＭ３３は、ＣＰＵ３２が視差値導出装置３の各機能を制御するために実行される画像処理用プログラムを記憶している。ＲＡＭ３４はＣＰＵ３２のワークエリアとして使用される。

Ｉ／Ｆ３５は、物体認識装置５における後述Ｉ／Ｆ５５とアドレスバスやデータバス等のバスライン４を介して通信するためのインターフェイスである。

続いて、物体認識装置５のハードウェア構成について説明する。図９に示されているように、物体認識装置５は、ＦＰＧＡ５１、ＣＰＵ５２、ＲＯＭ５３、ＲＡＭ５４、ＣＡＮＩ／Ｆ５５、ＣＡＮ(Controller Area Network) Ｉ／Ｆ５８及び上記各構成要素５１〜５５，５８を図９に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン５９を備えている。

このうち、ＦＰＧＡ５１、ＣＰＵ５２、ＲＯＭ５３、ＲＡＭ５４、Ｉ／Ｆ５５、及びバスライン５９は、それぞれ画像処理装置３０におけるＦＰＧＡ３１、ＣＰＵ３２、ＲＯＭ３３、ＲＡＭ３４、Ｉ／Ｆ３５、及びバスライン３９と同様の構成であるため、説明を省略する。なお、Ｉ／Ｆ５５は、画像処理装置３０におけるＩ／Ｆ３５とバスライン４を介して通信するためのインターフェイスである。また、ＲＯＭ５３は、ＣＰＵ５２が物体認識装置５の各機能を制御するために実行される物体認識用プログラムを記憶している。

ＣＡＮ Ｉ／Ｆ５８は、外部コントローラ等と通信するためのインターフェイスであり、例えば、自動車のＣＡＮ等に接続されることができる。

このような構成により、画像処理装置３０のＩ／Ｆ３５からバスライン４を介して物体認識装置５に高密度視差画像が送信されると、物体認識装置５におけるＣＰＵ５２の命令によって、ＦＰＧＡ５１が、撮像装置１０ａ，１０ｂと物体Ｅとの間の距離Ｚを算出する。なお、物体認識装置５におけるＣＰＵ５２の命令によってＦＰＧＡ５１が距離Ｚを算出せずに、画像処理装置３０のＣＰＵ３２の命令によってＦＰＧＡ３１が距離Ｚを算出してもよい。

なお、上述の例では、２つの撮像装置１０ａ，１０ｂを用いたが、これに限らず１つの撮像装置を用いてもよい。この場合、１つの画像センサにおいて撮像境域を２箇所に分けることにより、対象Ｅを撮像する。

また、上記各プログラムは、インストール可能な形式又は実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させてもよい。この記録媒体は、ＣＤ−ＲＯＭ(Compact Disc Read Only Memory)やＳＤメモリカード(Secure Digital memory card)等である。

ここで、図１０を用いて、上記（式３）の再帰的な計算方法の概念を説明する。図１０に示されているように、基準画素ｐ（ｘ，ｙ）における経路コスト値Ｌｒ（ｐ，ｄ）を求めるためには、周辺の一番離れた画素において（式３）による計算が行なわれて経路コスト値Ｌｒ（ｐ−ｎｒ，ｄ）が算出される。次に、この経路コスト値Ｌｒ（ｐ−ｎｒ，ｄ））である算出結果が利用されて次に基準画素ｐ（ｘ，ｙ）に近い同じ経路ｒ上の画素において（式３）による計算が行なわれて経路コスト値Ｌｒ（ｐ−（ｎ−１）ｒ，ｄ）が算出される。このように前の計算結果が利用されることで、最終的に基準画素（ｘ，ｙ）における経路コスト値Ｌｒ（ｐ，ｄ）が求められる。このように、（式３）は、コスト値Ｃ（ｐ，ｄ）と、経路コスト値Ｌｒ（ｐ−ｒ，ｄ）等に基づいて、経路コスト値Ｌｒ（ｐ，ｄ）を導くための式であるが、経路コスト値Ｌｒはそもそもコスト値Ｃ（ｐ，ｄ）によってよって導き出されるため、結果的に（式３）は、コスト値Ｃ（ｐ，ｄ）とコスト値Ｃ（ｐ−ｎｒ，ｄ）等によって導き出されるということができる。

（主要部のハードウェア構成）
次に、図３、図９及び図１１を用いて、視差値導出装置１の主要部のハードウェア構成について説明する。なお、図１１は、視差値導出装置の主要部のハードウェア構成図である。

図９におけるＦＰＧＡ３１は、図１１に示されているように、コスト算出部３１０、コスト合成部３２０、及び視差値導出部３３０を備えている。これらは、ＦＰＧＡ３１の回路の一部であるが、上記プログラムが実行されることにより、同じ処理を行うことができるようにしてもよい。

このうち、コスト算出部３１０は、図３に示されているように、基準画像（図３（ａ）参照）内の基準画素ｐ（ｘ，ｙ）の輝度値と、比較画像（図３（ｂ）参照）内において基準画素ｐ（ｘ，ｙ）に基づくエピポーラ線ＥＬ上でシフトさせることでシフト量ｄ毎に特定される対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各輝度値とに基づいて、基準画素ｐ（ｘ，ｙ）に対する対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各コスト値Ｃを算出して出力する。

また、コスト合成部３２０は、コスト算出部３１０によって出力された一の基準画素ｐ（ｘ，ｙ）に対する対応画素の候補ｑ（ｘ＋ｄ，ｙ）の各コスト値Ｃと、コスト算出部３１０によって出力された他の基準画素ｐ’（ｘ’，ｙ’）に対する対応画素の候補ｑ’（ｘ’＋ｄ，ｙ’）の各コスト値Ｃとを、シフト量ｄ毎に合成し、合成コスト値Ｌｓを出力する。

なお、この合成の処理は、(式３)ではなく、以下に示されている（式３’）に基づいてコスト値Ｃから経路コスト値Ｌｒ’を算出した後、更に、（式４’）に基づいて各方向における経路コスト値Ｌｒ’を加算して、最終的に合成コスト値Ｌｓ’を算出する処理である。

Ｌｒ’（ｐ，ｄ）＝Ｃ（ｐ，ｄ）＋Ａｄ＊ｍｉｎ｛（Ｌｒ（ｐ−ｒ，ｄ），Ｌｒ（ｐ−ｒ，ｄ−１）＋Ｐ１，Ｌｒ（ｐ−ｒ，ｄ＋１）＋Ｐ１，Ｌｒｍｉｎ（ｐ−ｒ）＋ｐ２｝ （０＜Ａｄ＜１）（式３’）
ここで、（式３’）は、（式３）に比べて、上記のように、上記の条件（０＜Ａｄ＜１）を満たす係数Ａｄが掛けられた点以外は同じであるため、各記号の説明は省略するが、以下に、（式３’）を利用した場合の再帰的な計算方法の概要について説明する。

即ち、コスト合成部３２０は、（式３’）を利用することで、コスト算出部３１０によって算出された第１の基準画素に対する対応画素の候補の各コスト値Ｃのうちの第１の重み（例えば１倍）と、コスト算出部３１０によって算出された第２の基準画素に対する対応画素の候補の各コスト値Ｃのうちで第１の重みよりも少ない第２の重み（例えば、０．９倍）と、を合成して基準画像上の所定の経路ｒにおける経路コスト値Ｌｒ’を算出し、各経路ｒにおける経路コスト値Ｌｒ’を合計することでシフト量毎に合成コスト値Ｌｓ’を算出することができる。更に、コスト合成部３２０は、第１の基準画素のコスト値Ｃに対する第１の重みと、第２の基準画素のコスト値に対する第２の重みと、基準画像において第１及び第２の基準画素を含む経路上で第１の基準画素から第２の基準画素までの距離よりも第１の基準画素から遠い距離に位置する第３の基準画素のコスト値に対して、第２の重みよりも少ない第３の重み（例えば、０．８１倍）と、を合成する。この場合、第１の重みを１倍にすれば、計算量が少なくて済む。また、（式３’）のように、再帰的な計算の項に合成重みとしての係数（本実施形態のＡｄ）を乗算すれば、再帰的な計算において、経路上における第１の基準画素より距離が遠い画素ほどＡｄが多数回乗算される。この構成であれば、経路上において遠いほど合成の重みを小さくするという構成を再帰的な計算を利用してできる。これにより、コスト合成部３２０をハードウェアで構成する場合、回路規模を小さくできる。このコスト合成部３２０による処理に関しては、以下、更に図１２を用いて説明する。

図１２に示されているように、基準画素ｐ（ｘ，ｙ）における経路コスト値Ｌｒ’（ｐ，ｄ）を求めるためには、基準画素ｐ（ｘ，ｙ）周辺の一番離れた画素において（式３’）による計算が行なわれて経路コスト値Ｌｒ’（ｐ−ｎｒ，ｄ）が算出される。次に、この経路コスト値Ｌｒ’ （ｐ−ｎｒ，ｄ）である算出結果がＡｄ（０＜Ａｄ＜１）倍された状態で利用されて次に基準画素ｐ（ｘ，ｙ）に近い同じ経路ｒ上の画素において（式３’）による計算が行なわれて経路コスト値Ｌｒ’（ｐ−（ｎ−１）ｒ，ｄ）が算出される。これにより、更に次の画素における計算では、最初の画素の算出結果に対して、Ａｄ^２倍された状態で利用されることになる。このように前の計算結果がＡｄ倍された状態で利用が繰り返されることで、最終的に基準画素（ｘ，ｙ）における経路コスト値Ｌｒ’（ｐ，ｄ）が求められる。

上記のように、基準画素ｐから遠ざかるに従って係数Ａｄ（０＜Ａｄ＜１）が掛けられるため、基準画素ｐから遠い画素で、コスト値Ｃが極端に他の画素と異なる値が算出されても、経路コスト値Ｌｒ’の値が小さくなるため、基準画素ｐにおける経路コスト値Ｌｒ’の値に及ぼす影響が少なくなる。

そして、(式３’)が利用される場合、上述の(式４)ではなく、以下の（式４’）が利用されて、合成コスト値Ｌｓ’が算出される。

Ｌｓ’（ｐ，ｄ）＝ΣＬｒ’ （式４’）
また、視差値導出部３３０は、コスト合成部３２０によって出力された合成コスト値Ｌｓが最小となる場合のシフト量ｄを、視差値Δとして導出する。

なお、係数Ａｄは、ＲＡＭ３４に記憶され、利用者によって書き換えられることで、係数Ａｄの値を変更してもよい。この場合、図５に示されている経路ｒ毎に、独立して、係数Ａｄの値を変更してもよい。

更に、撮像装置１０ａ，１０ｂで撮像された画像のフレームデータ毎に、経路ｒ毎に定められた係数Ａｄを変更できるようにしてもよい。例えば、画像の最初のフレームデータでは、主に横方向に変化が表れづらい路面の視差値Δをより正確に導出するため、経路ｒ_０，ｒ_１８０のみで（式３’）が利用され、その他の経路では（式３）が利用される。そして、画像の次のフレームデータでは、主に縦方向に変化が表れづらい標識や車等の視差値Δをより正確に導出するため、経路ｒ_９０，ｒ_２７０のみで（式３’）が利用され、その他の経路では（式３）が利用される。

＜実施形態の処理又は動作＞
次に、図１３乃至図１６を用いて、本実施形態の処理又は動作を説明する。ここでは、視差値Δの導出方法について説明する。図１３は、本実施形態の処理を示したフローチャートである。図１４は、（ａ）は基準画像、（ｂ）は基準画像の一部、（ｃ）は（式３）が利用された場合の（ｂ）に対する高密度視差画像、（ｄ）、（ｅ）は(式３’)が利用された場合の（ｂ）に対する高密度視差画像である。図１５は、基準画像の一部を拡大した概念図である。図１６は、図１５に示されている基準画像に関するシフト量毎のコスト値を示すグラフ及びシフト量毎の合成コスト値を示すグラフである。

なお、本実施形態では、図１４（ａ）に示されている基準画像から合成コスト値Ｌｓ’が導き出される場合について説明する。また、図面を分かり易く説明するため、図１４（ａ）の一部の画像を、図１４（ｂ）に示す。

まず、図９に示されている撮像装置１０ａは、対象Ｅを撮像してアナログの画像データを生成する（ステップＳ１−１）。同じく、撮像装置１０ａは、対象を撮像してアナログの画像データを生成する(ステップＳ１−２)。

次に、信号変換装置２０ａは、アナログの画像データを、デジタルの画像データに変換する（ステップＳ２−１）。同じく、信号変換装置２０ｂは、アナログの画像データを、デジタルの画像データに変換する（ステップＳ２−２）。

次に、信号変換装置２０ａは、画像処理装置３０のＦＰＧＡ３１に、変換後のデジタルの画像データを基準画像のデータとして出力する（ステップＳ３−１）。この基準画像の概念図は、図２（ａ）に示されている。同じく、信号変換装置２０ｂは、画像処理装置３０のＦＰＧＡ３１に、変換後のデジタルの画像データを比較画像のデータとして出力する（ステップＳ３−２）。この比較画像は、撮像装置１０ｂによって撮像された画像であるが、図２（ａ）に示されている基準画像と極端な違いはないため、比較画像の概念図は図示しないで省略する。

次に、図１１に示されているコスト算出部３１０は、基準画像のデータ及び比較画像のデータに基づき、シフト量ｄ毎のコスト値Ｃを算出する（ステップＳ４）。

次に、図１１に示されているコスト合成部３２０は、（式３’）を利用して、経路コスト値Ｌｒ’を算出する（ステップＳ５）。更に、コスト合成部３２０は、（式４’）を利用して、合成コスト値Ｌｓ’を算出する（ステップＳ６）。

例えば、図１４（ｂ）において、標識Ｍと背景との境界部分は、図１５に示されているように、テクスチャが強いが、背景の部分はテクスチャが弱いため、図１６に示されているように、標識Ｍと背景との境界部分の画素（ｐ−ｎｒ）では、シフト量ｄ＝１０において極端に低いコスト値Ｃ（ｐ−ｎｒ，ｄ）が存在する。そのため、図１５に示されているように、画素ｐの位置において、仮に（式３）及び（式４）を利用して合成コスト値Ｌｓを算出する場合、（ｐ−ｎｒ）位置がｐ位置から遠いにも拘わらず、極端に低いコスト値Ｃの影響を受けてしまう。これにより、例えば、図１４（ｃ）に示されているような高密度視差画像が生成される。

これに対して、（式３’）及び（式４’）を利用して合成コスト値Ｌｓ’を算出する場合、図１２に示されているように、ｐ位置の画素から遠い画素ほどＡｄ^Ｎ（０＜Ａｄ＜１，Ｎは自然数）のＮが増えるため、ｐ位置の画素における経路コスト値Ｌｒ’を導く際の影響が減少する。そのため、ｐ位置の画素における経路コスト値Ｌｒ’を導く際に、ｐ位置の画素から遠いにも拘わらず極端に低いコスト値Ｃが存在しても、この極端に低いコスト値Ｃの影響を受けづらくすることができる。これにより、例えば、図１４（ｄ）に示されているような高密度視差画像が生成される。図１４（ｄ）に示されている高密度視差画像は、図１４（ｃ）に示されている高密度視差画像よりも、実物に近い形態（または輪郭）の画像を表すことができる。

また、係数Ａｄの値を変更することで、図１４（ｅ）に示されているように、更に実物に近い形態の画像を表すこともできる。図１４（ｄ）は、係数Ａｄが０．９である場合の高密度視差画像を示し、図１４（ｅ）は、係数Ａｄが０．８の場合の高密度視差画像を示している。このように、係数Ａｄが小さくなれば、高密度視差画像は、より実物に近い形態の画像となる。ここでは、形態が小さくなっている。なお、係数Ａｄを更に小さくして、所定値（例えば、０．７）以下にすると、図１６に示されているような合成コスト値を示すグラフでは、Ｌｓの最小値と、Ｌｓの最小値以外の極小値との差が小さくなってしまうため、導出される視差値Δの信頼度が低下することになる。

そして、視差値導出部３３０は、コスト合成部３２０によって出力された合成コスト値Ｌｓ’が最小となる場合のシフト量ｄを、視差値Δとして導出する（ステップＳ７）。そして、視差値導出部３３０は、全画素分に対して視差値Δを導出することで、最終的に全画素分の視差値Δを出力することができる。

＜実施形態の主な効果＞
以上説明したように本実施形態によれば、ｐ位置の画素における経路コスト値Ｌｒ’を導く際に、ｐ位置の画素から遠いにも拘わらず極端に低いコスト値Ｃが存在しても、この極端に低いコスト値Ｃの影響を受けづらくすることができるという効果を奏する。

また、係数Ａｄの値を変更することで、図１４（ｄ）に示されている高密度視差画像から、より実物の形態に近い図１４（ｅ）に示されている高密度視差画像に変更することができる。

＜実施形態の補足＞
上記実施形態では、コスト値Ｃは「非類似度」として示されているが、「類似度」として示されてもよい。この場合、コスト値Ｃの最小値は最大値に置き換え、合成コスト値Ｌｓの最小値は最大値に置き換えられる。

また、上記実施形態では、（式３’）において、Ｃ（ｐ，ｄ）の係数を“１”とし、ｍｉｎ｛ ｝の係数を“Ａｄ”としたが、これに限るものではない。例えば、Ｃ（ｐ，ｄ）の係数を“Ａｄ１”とし、ｍｉｎ｛ ｝の係数を“Ａｄ２”としてもよい。この場合、Ａｄ１＜Ａｄ２，０＜Ａｄ１，０＜Ａｄ２の条件の範囲内の係数となる。

また、係数“Ａｄ１”及び係数“Ａｄ２”は、Ａｄ１＜Ａｄ２，０＜Ａｄ１，０＜Ａｄ２の条件に加えて、１≦Ａｄ１＜Ａｄ２の条件の範囲内の係数であってもよい。この場合、上述の第１の重み、第２の重み、及び第３の重みは、それぞれ１以上（つまり、１００％以上）であってもよい。

＜付記項＞
上記実施形態では、以下に示すような発明が開示されている。

〔付記項１〕
対象を撮像した第１の撮像手段によって得られた基準画像及び前記対象を撮像した第２の撮像手段によって得られた比較画像から、前記対象に対する視差を示す視差値を導出する視差値導出装置であって、
前記基準画像内の基準領域の輝度値と、前記比較画像において前記基準領域に基づくエピポーラ線上でシフトさせることでシフト量毎に特定される対応領域の候補の各輝度値との各コスト値を算出する算出手段と、
前記算出された第１の基準領域に対する対応領域の候補の各コスト値のうちの第１の重みと、前記算出された第２の基準領域に対する対応領域の候補の各コスト値のうちで前記第１の重みよりも少ない第２の重みと、を合成して前記基準画像上の所定の経路における経路コスト値を算出し、各経路における経路コスト値を合計することで前記シフト量毎に合成コスト値を算出する合成手段と、
前記算出された各合成コスト値に基づいて前記視差値を導出する導出手段と、
を有することを特徴とする視差値導出装置。

〔付記項２〕
前記合成手段は、前記第１の基準領域のコスト値のうちの前記第１の重みと、前記第２の基準領域のコスト値に対する前記第２の重みと、前記基準画像において前記第１及び第２の基準領域を含む経路上で前記第１の基準領域から第２の基準領域までの距離よりも前記第１の基準領域から遠い距離に位置する第３の基準領域のコスト値に対して前記第２の重みよりも少ない第３の重みと、を合成することを特徴とする付記項１に記載の視差値導出装置。

〔付記項３〕
前記合成手段は、前記第１の基準領域のコスト値のうちの前記第１の重みと、前記第２の基準領域の前記経路コスト値のうちの前記第２の重みとを合成することで前記基準画像上の所定の経路における経路コスト値を算出することを特徴とする付記項２に記載の視差値導出装置。

１ 視差値導出装置
２ 本体部
１０ａ 撮像装置
１０ｂ 撮像装置
２０ａ 信号変換装置
２０ｂ 信号変換装置
３０ 画像処理装置
３１０ コスト算出部（算出手段の一例）
３２０ コスト合成部（合成手段の一例）
３３０ 視差値導出部（導出手段の一例）

特開２００６−０９０８９６号公報 特開２０１２−１８１１４２号公報

Claims (14)

1. 第１の撮像位置から撮像された基準画像における基準領域と、第２の撮像位置から撮像された比較画像における、前記基準領域に対応する対応領域を含む指定の範囲内の複数の領域各々と、のコスト値を算出する算出手段と、
   前記算出手段により算出された、前記基準画像における第１の基準領域のコスト値のうちの第１の重みと、前記基準画像における前記第１の基準領域の周辺の第２の基準領域のコスト値のうちで前記第１の重みよりも少ない第２の重みと、を合成する合成手段と、
   前記合成手段による合成によって得られた合成コスト値に基づいて、前記所定の基準領域において撮像されている対象の視差値を導出する導出手段と、
   を有することを特徴とする視差値導出装置。
2. 前記合成手段は、前記第１の基準領域のコスト値のうちの第１の重みと、前記第２の基準領域のコスト値のうちで前記第１の重みよりも少ない第２の重みと、前記基準画像における前記第１の基準領域から第２の基準領域までの距離よりも前記第１の基準領域から遠い距離に位置する第３の基準領域のコスト値のうちで前記第２の重みよりも少ない第３の重みと、を合成することを特徴とする請求項１に記載の視差値導出装置。
3. 前記合成手段は、前記算出手段によって算出された前記コスト値に基づいて前記基準画像上の所定の経路における経路コスト値を算出し、各経路における経路コスト値を合計することで前記合成コスト値を出力することを特徴とする請求項１又は２に記載の視差値導出装置。
4. 前記合成手段は、前記第１の基準領域のコスト値のうちの前記第１の重みと、前記第２の基準領域のコスト値のうちの前記第２の重みとを合成することで前記基準画像上の所定の経路における経路コスト値を算出することを特徴とする請求項３に記載の視差値導出装置。
5. 前記各経路における前記第１及び第２の重みは、前記第１の重みよりも少ない前記第２の重みの条件を満たす範囲内で、前記経路毎に変更可能であることを特徴とする請求項４に記載の視差値導出装置。
6. 前記各経路における前記第１及び第２の重みは、前記第１の重みよりも少ない前記第２の重みの条件を満たす範囲内で、前記撮像された基準画像のフレームデータ毎に変更可能であることを特徴とする請求項４又は５に記載の視差値導出装置。
7. 請求項１乃至６のいずれか一項に記載の視差値導出装置を備えたことを特徴とする移動体。
8. 前記移動体は、車両又はロボットであることを特徴とする請求項７に記載の移動体。
9. 請求項１乃至６のいずれか一項に記載の視差値導出装置を備えたことを特徴とするロボット。
10. 前記ロボットは、固定設置される工業用ロボットであることを特徴とする請求項９に記載のロボット。
11. 第１の撮像位置から撮像された基準画像における基準領域と、第２の撮像位置から撮像された比較画像における、前記基準領域に対応する対応領域を含む指定の範囲内の複数の領域各々と、のコスト値を算出する算出ステップと、
    前記算出ステップにより算出された、前記基準画像における第１の基準領域のコスト値のうちの第１の重みと、前記基準画像における前記第１の基準領域の周辺の第２の基準領域のコスト値のうちで前記第１の重みよりも少ない第２の重みと、を合成する合成ステップと、
    前記合成ステップによる合成によって得られた合成コスト値に基づいて、前記所定の基準領域において撮像されている対象の視差値を導出する導出ステップと、
    を実行することを特徴とする視差値導出方法。
12. 第１の撮像位置から撮像された基準画像における基準領域と、第２の撮像位置から撮像された比較画像における、前記基準領域に対応する対応領域を含む指定の範囲内の複数の領域各々と、のコスト値を算出する算出ステップと、
    前記算出ステップにより算出された、前記基準画像における第１の基準領域のコスト値のうちの第１の重みと、前記基準画像における前記第１の基準領域の周辺の第２の基準領域のコスト値のうちで前記第１の重みよりも少ない第２の重みと、を合成する合成ステップと、
    前記合成ステップによる合成によって得られた合成コスト値に基づいて、前記所定の基準領域において撮像されている対象の視差値を導出する導出ステップと、
    を実行することを特徴とする視差値の生産方法。
13. コンピュータに、請求項１１又は１２に記載の方法を実行させることを特徴とするプログラム。
14. 第１の撮像位置から撮像された基準画像における基準領域と、第２の撮像位置から撮像された比較画像における、前記基準領域に対応する対応領域を含む指定の範囲内の複数の領域各々と、のコスト値を算出する算出手段と、
    前記算出手段により算出された、前記基準画像における所定の基準領域の周辺の基準領域の一致度と、前記基準画像における前記所定の基準領域の一致度の所定の重みとを合成する合成手段と、
    前記合成手段により合成された一致度に基づいて、前記所定の基準領域において撮像されている対象の視差値を導出して、前記基準画像または前記比較画像中の物体の認識を行う前記物体認識装置に出力する導出手段と、を備え、
    前記導出手段が導出する視差値で示される前記物体認識装置が認識する物体に対応する領域は、前記重みが小さいほど小さくなる
    を有することを特徴とする視差値導出装置。

Images