JP2015106168A - 視差測定装置、及び、視差測定方法 - Google Patents
視差測定装置、及び、視差測定方法 Download PDFInfo
- Publication number
- JP2015106168A JP2015106168A JP2013246381A JP2013246381A JP2015106168A JP 2015106168 A JP2015106168 A JP 2015106168A JP 2013246381 A JP2013246381 A JP 2013246381A JP 2013246381 A JP2013246381 A JP 2013246381A JP 2015106168 A JP2015106168 A JP 2015106168A
- Authority
- JP
- Japan
- Prior art keywords
- parallax
- reliability
- reference image
- degree
- coincidence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【課題】本発明は、より正しい視差を、簡便に測定する視差測定装置および視差測定方法を提供することを目的とする。【解決手段】視差測定装置は、対象物を第1の撮像系を用いて撮像された基準画像と、前記対象物を第2の撮像系を用いて撮像され参照画像を取得する画像取得部と、前記基準画像上の注目点に対応する前記参照画像上の対応点を通ると推定される所定の線上の複数の走査点それぞれについて、前記注目点との視差と、前記走査点を含むウィンドウと前記注目点を含むウィンドウとの相関の度合いを示す一致度とを算出する一致度算出部と、前記参照画像について、前記一致度算出部が算出した視差及び一致度に基づいて、前記一致度算出部が算出した一致度のうち、最も高い一致度に対応する前記視差であるピーク視差の確からしさを示す信頼度を算出する信頼度算出部とを備える。【選択図】図6
Description
本発明は、画像同士における対応点探索に関する。
従来から、ステレオ画像の視差(視差角)を測定し、その視差から奥行き(距離)の算出や、カメラの設定補正等が行われている。
視差を算出する際には、2つの画像間で対応点の探索が行われる。探索方法は、まず、例えばステレオカメラのように異なる視点から同一対象物を撮影した2つの画像のうち、一方の画像である基準画像上の注目点に対して、この注目点を内包するようなウィンドウを設定し、他方の画像である参照画像上にも同サイズのウィンドウを複数設定する。そして、基準画像上のウィンドウと、参照画像上の各ウィンドウ間で相関値を算出して、最も相関値が高い参照画像上のウィンドウを探索し、そのウィンドウの重心位置を注目点の対応点として求める。ウィンドウ間の相関値を算出する方法としては、例えば、SAD(Sum of Absolute Difference)法と呼ばれる方法が知られている。
このような対応点探索を行う際に、相関値を算出する参照画像上のウィンドウを限定する方法として、エピポーラ線を用いる方法が知られている。エピポーラ線とは、図1に示すように、点OLと対象点Xとを結ぶ直線(基準画像側のカメラの視線)を参照画像上に投影した線である。OL、ORはそれぞれ、基準画像、参照画像を撮影するカメラの投影中心であり、eL、eRはそれぞれ、他方のカメラの投影であり、基準画像上の点XLは対象物Xの像である。つまり、基準画像側のカメラの視線上に対象点Xが存在するので、その視線の投影である参照画像上のエピポーラ線上には、対象点Xの像である点XRが写っていることになる。従って、エピポーラ線上に複数のウィンドウ(点X1、点X2等の像それぞれを内包するウィンドウ)を設定し、基準画像上の点XLを内包するウィンドウとの相関値を算出し、最も相関値の高いウィンドウを探索すれば対応点として点XRを求めることができる。
しかし、注目点が、基準画像中の線状の画像(物体)上の点であって、その線状の物体とエピポーラ線とが重なった場合には、参照画像中のその線状の画像上のいずれの点が対応点であるかの判断がつかない場合が生じ得る。線状の画像とエピポーラ線とが重なった場合には、エピポーラ線上に、相関値が近いウィンドウが複数存在することとなるからである。
そこで、特許文献1には、計測対象物(ワイヤボンディングされたワイヤ)の3次元形状の測定を行う場合に、3台以上のカメラのうちの1台のカメラの画像から、ワイヤの2次元形状を特定し、エピポーラ線とワイヤとが成す角度が直角により近くなるような2台のカメラを選択する方法が記載されている。
また、特許文献2には、3台以上のカメラを用いて取得したステレオ画像中のエッジを結びつけてチェーンにする場合に、画像中のエッジとエピポーラ線とが成す角度が最大の画像を選択し、その画像についてマッチング(対応点探索)を行い、結びつけるエッジを決定する方法が記載されている。
上述の特許文献1の方法では、まず、計測対象物(ワイヤ)の2次元形状を特定し、ワイヤと各カメラの画像上のエピポーラ線との成す角度に基づいて、適切なカメラの画像(エピポーラ線)を選択する。また、特許文献2では、まず、画像内のエッジを抽出し、エッジとエピポーラ線との成す角度に基づいて適切なカメラの画像(エピポーラ線)を選択する。
このように、適切なエピポーラ線を選択する為には、画像内の測定対象物の形状やエッジを抽出するという計算量の多い処理が必要となる。また、画像(カメラ)を選択したとしても、その画像上のエピポーラ線を算出する際にも誤差が生じ得るので、必ずしも、正しい対応点を探索できるとは限らない。
つまり、視差を算出するためには、多くの計算処理を要するうえに、算出した視差は、必ずしも高精度であるとは限らない。
本発明は、上述の事情に鑑みて為された発明であり、その目的は、より正しい視差を、簡便に測定する視差測定装置および視差測定方法を提供することである。
本発明者は、種々検討した結果、上記目的は、以下の本発明により達成されることを見出した。
本発明の一態様にかかる視差測定装置は、同一の対象物が撮像された基準画像と参照画像とを取得する画像取得部と、前記基準画像上の注目点に対応する前記参照画像上の対応点を通ると推定される所定の線上の複数の走査点それぞれについて、前記注目点との視差と、前記走査点を含むウィンドウと前記注目点を含むウィンドウとの相関の度合いを示す一致度とを算出する一致度算出部と、前記参照画像について、前記一致度算出部が算出した視差及び一致度に基づいて、前記一致度算出部が算出した一致度のうち、最も高い一致度に対応する前記視差であるピーク視差に対する確からしさを示す信頼度を算出する信頼度算出部とを備えることを特徴とする。
また、他の一態様に係る視差測定装置の視差測定方法は、視差測定装置で用いられる視差測定方法であって、同一の対象物が撮像された基準画像と参照画像とを取得する画像取得ステップと、前記基準画像上の注目点に対応する前記参照画像上の対応点を通ると推定される所定の線上の複数の走査点それぞれについて、前記注目点との視差と、前記走査点を含むウィンドウと前記注目点を含むウィンドウとの相関の度合いを示す一致度とを算出する一致度算出ステップと、前記参照画像について、前記一致度算出ステップで算出した視差及び一致度に基づいて、前記一致度算出ステップで算出した一致度のうち、最も高い一致度に対応する前記視差であるピーク視差に対する確からしさを示す信頼度を算出する信頼度算出ステップとを備えることを特徴とする。
このような視差測定装置、及び、視差測定方法では、参照画像中の対応点を通ると推定される線上の複数の走査点について、対応点との視差と、走査点を含むウィンドウと対応点を含むウィンドウとの一致度とを算出し、算出した視差と一致度とに基づいてピーク視差の確からしさを示す信頼度を算出することができる。つまり、参照画像の全体について、対応点探索することなく、1線分上を対応点探索するだけで、すなわち、少ない処理でピーク視差の信頼度を求めることができるので、例えば、後段の処理において視差を用いるか否かの判断が容易となり、後段の処理結果の信頼性を担保できることになる。また、所定の線が、算出誤差を含むような場合(例えば、エピポーラ線)には、その誤差の影響を軽減することが可能となる。
また、上述の視差測定装置において、前記信頼度算出部は、前記一致度算出部が算出した視差を横軸に、前記一致度算出部が算出した視差それぞれに対応する一致度を縦軸とするグラフの形状に基づいて前記信頼度を算出することを特徴とする。
この構成によれば、グラフの形状を判断するだけで、ピーク視差の信頼性を算出できる。
また、上述の視差測定装置において、前記信頼度算出部は、前記グラフの山の高さが大きい程、確からしさの度合いが高くなるように信頼度を算出することを特徴とする。
また、上述の視差測定装置において、前記信頼度算出部は、前記グラフの山における頂点付近のカーブが緩い程、確からしさの度合いが低くなるように信頼度を算出することを特徴とする。
また、上述の視差測定装置において、前記信頼度算出部は、前記グラフの山及び谷が横軸の所定幅内に含まれる数が多い程、確からしさの度合いが高くなるように信頼度を算出することを特徴とする。
これらの構成によれば、グラフの形状を、山の高さ、頂点付近のカーブ、所定幅における山及び谷の数という、簡便な項目(方法)で、簡便にピーク視差の信頼性を算出することができる。
また、上述の視差測定装置において、前記参照画像は、複数であり、前記信頼度算出部は、前記一致度算出部が算出した各参照画像のピーク視差の中央値を求め、各ピーク視差と前記中央値との差の逆数を、各ピーク視差の信頼度として算出することを特徴とする。
この構成によれば、複数の参照画像の信頼度の中央値からの距離に基づいて、簡便に信頼度を算出することができる。
また、上述の視差測定装置において、前記信頼度算出部が算出した前記ピーク視差の信頼度に基づいて、前記対象物に対する視差を算出する選択部を、更に備え、前記選択部は、前記ピーク視差の信頼度が示す確からしさが、所定の度合いよりも高い当該ピーク視差を用いて、前記対象物に対する視差を算出することを特徴とする。
この構成によれば、所定の信頼度よりも高い信頼度のピーク視差を用いて、対象物に対する視差を決定するので、より確からしい(誤差の少ない)視差を決定することができる。
また、上述の視差測定装置において、前記信頼度算出部が算出した前記ピーク視差の信頼度に基づいて、前記対象物に対する視差を算出する選択部を、更に備え、前記参照画像は、複数であり、前記選択部は、各参照画像のピーク視差に対して、各ピーク視差の信頼度に応じた重み付けを行い、重み付けを行ったピーク視差の平均を、前記対象物に対する視差として算出することを特徴とする。
また、上述の視差測定装置において、前記信頼度算出部が算出した前記ピーク視差の信頼度に基づいて、前記対象物に対する視差を算出する選択部を、更に備え、前記参照画像は、複数であり、前記選択部は、各参照画像について、前記一致度算出部が算出した視差と一致度との関係を示す関数を求め、各参照画像のピーク視差の信頼度に応じた重み付けを各関数に行い、重み付けを行った各関数を加算して1つの合成関数を作成し、当該合成関数に基づいて、前記対象物に対する視差を算出することを特徴とする。
この構成によれば、信頼度に応じた重み付けを行って視差を決定するので、より確からしい(誤差の少ない)視差を決定することができる。
また、上述の視差測定装置において、前記所定の線とは、エピポーラ線であることを特徴とする。
この構成によれば、エピポーラ線を探索するので、容易に対応点を探索することができる。
また、他の一態様に係る測距装置は、請求項1〜10のいずれか一項に記載の視差測定装置と、前記視差測定装置で求められた視差を用いて、前記対象物までの距離を算出する測距部とを備えることを特徴とする。
この構成によれば、より確からしい(誤差の少ない)視差を用いて、対象物までの距離を算出することができるので、より測距の精度を高めることが可能となる。
また、他の一態様に係る撮像装置は、請求項1〜10のいずれか一項に記載の視差測定装置と、前記基準画像上の前記対象物の画像と、前記参照画像における前記対象物の画像とが互いに一致するように、前記視差測定装置で求められた前記参照画像の視差分、何れかの画素位置を変換する視差補正部とを備えることを特徴とする。
この構成によれば、少ない処理で視差補正を行うことが可能となる。
本発明にかかる対応点探索装置は、より正しい視差を、簡便に測定することができる。
<実施形態1>
以下、本発明にかかる実施の一形態を図面に基づいて説明する。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。また、本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
<概要>
まず、図2〜5を用いて、エピポーラ線を用いた対応点探索について説明する。
以下、本発明にかかる実施の一形態を図面に基づいて説明する。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。また、本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
<概要>
まず、図2〜5を用いて、エピポーラ線を用いた対応点探索について説明する。
図2は、エピポーラ線を用いた対応点探索を説明するための図であり、図2(a)は、基準画像を示し、図2(b)は、参照画像を示す。
基準画像上の点APを注目点とし、参照画像中の対応点CPを探索する場合を考える。参照画像中の対応点は、図1を用いて上述したように、参照画像上のエピポーラ線上に存在する。従って、実施形態では、参照画像中のエピポーラ線EP上の或る点を重心(中心)とするウィンドウWと、基準画像の注目点APを重心としたウィンドウであるテンプレートTとの相関値を算出し、次に、エピポーラ線EP上の或る点から所定数の画素ずらした点を内包するウィンドウWとテンプレートTとの相関値を算出し、更に、所定数の画素ずらした点を内包するウィンドウWとテンプレートTとの相関値を算出することを繰り返す(以下、この処理を、「エピポーラ線EPを走査する」という。)。そして、算出された相関値が最も高いウィンドウの重心を対応点CPと決定する。つまり、エピポーラ線EP上の複数の点(以下、「走査点」という。)それぞれを重心とするウィンドウWと、基準画像の注目点APを重心としたウィンドウであるテンプレートTとの相関値をそれぞれ算出し、算出された相関値が最も高いウィンドウの重心を対応点CPと決定する。図2(b)では、破線及び実線の矩形でウィンドウWを示し、実線の矩形が対応点CPを内包するウィンドウWを示す。
この場合の、エピポーラ線EPを走査した結果、つまり、エピポーラ線EP上の各走査点と注目点APとの視差と、各走査点を重心とするウィンドウWとテンプレートTとの相関値との関係を表したグラフを図2(c)に示す。このグラフでは、横軸に視差を示し、縦軸に一致度(相関値)を示す(図3、図4等のグラフも同様である。)。グラフは、予め設定された所定の視差範囲で作成される。一致度が最も高い点に対応する視差が、対応点CPと注目点APとの視差となる。
次に、図3を参照して、エピポーラ線と参照画像の模様とが重なる場合を考える。図3(a)は、基準画像を示し、図3(b)は、参照画像のうち、基準画像のテンプレートTを囲む破線で示す部分を拡大した画像を示す。
図3のように、被写体が横向きの縞模様であり、且つ、図3(b)のエピポーラ線EPの方向が横向きとなった場合の、エピポーラ線EPを走査した結果を図3(c)に示す。つまり、参照画像中のエピポーラ線EP上の各走査点を重心とするウィンドウWと、基準画像の注目点APを重心としたテンプレートTとの相関値をそれぞれ算出した結果を、図3(c)のグラフに示す。図3(c)のグラフは、図2(c)のグラフと同様に、エピポーラ線EP上の各走査点と注目点APとの視差を横軸に示し、縦軸に一致度(相関値)を示す。図3(c)のグラフでは、一致度が高い点が多数表れ、対応点CP決定することができない。
ここで、エピポーラ線は、以下の式で表される。
x1 TFx2=0
x1は、図1における基準画像上の注目点XLであり、x2は、参照画像上の対応点XRを示す。尚、x1、x2は、斉次座標であり、Tは転置を示す。Fは、3×3の行列(基礎行列)である。基礎行列Fは、7点以上の投影点から非線形に計算する方法や、8点以上の投影点から線形解法により求める方法が知られている。また、基礎行列Fは、キャリブレーションに用いるカメラパラメータから計算可能である。しかし、これらの計算法による基礎行列Fを求めるための計算は、画像ノイズや撮影条件に大きく影響を受けることが知られており、高精度の基礎行列Fを求めることは難しい。従って、算出したエピポーラ線EPを用いて探索した対応点(視差)も誤差を含むこととなる。
x1 TFx2=0
x1は、図1における基準画像上の注目点XLであり、x2は、参照画像上の対応点XRを示す。尚、x1、x2は、斉次座標であり、Tは転置を示す。Fは、3×3の行列(基礎行列)である。基礎行列Fは、7点以上の投影点から非線形に計算する方法や、8点以上の投影点から線形解法により求める方法が知られている。また、基礎行列Fは、キャリブレーションに用いるカメラパラメータから計算可能である。しかし、これらの計算法による基礎行列Fを求めるための計算は、画像ノイズや撮影条件に大きく影響を受けることが知られており、高精度の基礎行列Fを求めることは難しい。従って、算出したエピポーラ線EPを用いて探索した対応点(視差)も誤差を含むこととなる。
図4、5を用いて、エピポーラ線の算出誤差が、参照画像の状態によって拡大することについて説明する。
図4(a)は、基準画像を示し、図4(b)は、参照画像及び視差と一致度のグラフを示す。基準画像上の注目点APが、基準画像上の線状の物体上の点であり、参照画像上のエピポーラ線EPは、線状の物体とほぼ直角を成すとする。図4(b)の参照画像中の上側のエピポーラ線EP´が、算出されたエピポーラ線を示し、下側のエピポーラ線EPが、正しいエピポーラ線を示す。
エピポーラ線EP、エピポーラ線EP´それぞれを走査した結果を、図4(b)のグラフとして示す。実線のグラフが、算出されたエピポーラ線EP´を走査した結果を示し、破線のグラフが、正しいエピポーラ線EPを走査した結果を示す。グラフに示すように、エピポーラ線EP´を用いて求められた注目点APと対応点CP´との視差(横軸の「対応点」で示す。)と、正しいエピポーラ線EPを用いて求められた注目点APと対応点CPとの視差(横軸の「正解」で示す。)との誤差は非常に少ない。つまり、エピポーラ線EPと参照画像の線状の物体とがほぼ直角に交差している場合は、エピポーラ線EPの算出誤差が視差に及ぶ影響は少ないといえる。
次に、図5のように、エピポーラ線と参照画像の線上の物体との成す角度が小さい場合を考える。図5(a)は、基準画像を示し、図5(b)は、参照画像及び視差と一致度のグラフを示す。参照画像上のエピポーラ線EPは、線状の物体とほぼ重なるような角度を成すとする。図5(b)の参照画像中のエピポーラ線EP´が、算出されたエピポーラ線を示し、エピポーラ線EPが、正しいエピポーラ線を示す。
エピポーラ線EP、エピポーラ線EP´それぞれを走査した結果を、図5(b)左側のグラフとして示す。図5(b)のグラフは、内容は図4(b)と同様のグラフであるが、説明の便宜上、図4(b)のグラフを回転させたグラフとしており、視差を縦軸に示し、一致度(相関値)を横軸に示す。実線のグラフが、算出されたエピポーラ線EP´を走査した結果を示し、破線のグラフが、正しいエピポーラ線EPを走査した結果を示す。グラフに示すように、算出されたエピポーラ線EP´を用いて求められた注目点APと対応点CP´との視差(縦軸の「対応点」で示す。)と、正しいエピポーラ線EPを用いて求められた注目点APと対応点CPとの視差(縦軸の「正解」で示す。)との誤差は大きくなる。つまり、エピポーラ線EPと参照画像の線状の物体とが重なる場合は、エピポーラ線EPの算出誤差が視差に及ぶ影響は大きいといえる。
図2〜5から、エピポーラ線EPが画像の模様と重なる場合は、対応点の確定が難しくなるだけでなく、対応点を確定できる場合であっても、視差の算出誤差は大きくなることが分かる。
実施形態の視差測定装置100は、算出したエピポーラ線EP、言い換えれば、エピポーラ線EPから求める視差の信頼度を簡便に求め、求めた信頼度に基づいて、より高精度の視差を算出するものである。
<構成>
図6は、実施形態における視差測定装置100の構成を示すブロック図である。視差測定装置100は、撮像部1(画像取得部)、視差・一致度計算部2、信頼度算出部3、選択部4、記憶部5、及び、全体制御部6を備える。尚、図6において、実線矢印は、データの流れを示し、破線矢印は、制御を示す。また、白抜き矢印は、参照画像ごとのデータが流れることを示す。
図6は、実施形態における視差測定装置100の構成を示すブロック図である。視差測定装置100は、撮像部1(画像取得部)、視差・一致度計算部2、信頼度算出部3、選択部4、記憶部5、及び、全体制御部6を備える。尚、図6において、実線矢印は、データの流れを示し、破線矢印は、制御を示す。また、白抜き矢印は、参照画像ごとのデータが流れることを示す。
<全体制御部6>
全体制御部6は、撮像部1〜記憶部4の各機能部を制御して、対象物の視差を測定させ、測定された視差を記憶部5に記憶させる。
全体制御部6は、撮像部1〜記憶部4の各機能部を制御して、対象物の視差を測定させ、測定された視差を記憶部5に記憶させる。
<撮像部1>
撮像部1は、第1のカメラC1、第2のカメラC2、及び、第3のカメラC3を備える。これらの3台のカメラは、互いの光軸を適当な距離だけ離間させて設置され、同一の対象物を同じタイミングで撮影した2次元画像を視差・一致度計算部2に出力する。実施形態では、第2のカメラC2が出力する画像を基準画像とし、第1のカメラC1及び第3のカメラC3が出力する各画像を参照画像とする。
撮像部1は、第1のカメラC1、第2のカメラC2、及び、第3のカメラC3を備える。これらの3台のカメラは、互いの光軸を適当な距離だけ離間させて設置され、同一の対象物を同じタイミングで撮影した2次元画像を視差・一致度計算部2に出力する。実施形態では、第2のカメラC2が出力する画像を基準画像とし、第1のカメラC1及び第3のカメラC3が出力する各画像を参照画像とする。
尚、図6では、便宜上、3台のカメラを記載しているが、2台以上のカメラを備えていればよい。
また、撮像部1の各カメラは、カメラパラメータ(画像中心、焦点距離、基準カメラに対する姿勢(回転、並進))が既知とする。カメラパラメータ行列は、以下の式(A)の行列の積を予め計算したものであり、式(B)に示す。
(x,y)は、画像の座標系の座標位置であり、(X,Y,Z)は、世界座標系の座標位置である。左辺の3つの行列のうち、中央の行列は透視変換行列である。世界座標系原点は、投影中心(レンズの主点)であり、Y軸は、レンズの光軸に並行である。また、画像の中心は、投影中心から下ろした垂線の足であり、アスペクト比は、1.0である。fはレンズの焦点距離を示す。左側の行列は、内部パラメータ行列であり、aはアスペクト比を示し、sはスキュー比を示し、(tx,ty)は画像の中心を示す。右側の行列は、外部パラメータ行列であり、透視変換行列と世界座標の間に挿入する、同次座標変換行列である。
既知の(X,Y,Z)と(x,y)の組から、カメラパラメータが求められる。この算出には、例えば、次の文献を参照できる。
“A flexible new technique for camera calibration". IEEE Transactions on Pattern Analysis and Machine Intelligence, 22(11):1330-1334, 2000
“A flexible new technique for camera calibration". IEEE Transactions on Pattern Analysis and Machine Intelligence, 22(11):1330-1334, 2000
<視差・一致度計算部2>
視差・一致度計算部2は、基準画像中の注目点APに対する参照画像中のエピポーラ線EP上を走査(探索)する。詳細には、視差・一致度計算部2は、エピポーラ線EP上の複数の各走査点と注目点APとの視差を算出し、また、エピポーラ線EP上の各走査点を重心とするウィンドウWと、注目点APを重心とするテンプレートTとの一致度を算出し、算出した各走査点の視差と一致度とを信頼度算出部3に出力する。また、視差・一致度計算部2は、算出した一致度が最も高い点の視差(ピーク視差)を選択部4に出力する。
視差・一致度計算部2は、基準画像中の注目点APに対する参照画像中のエピポーラ線EP上を走査(探索)する。詳細には、視差・一致度計算部2は、エピポーラ線EP上の複数の各走査点と注目点APとの視差を算出し、また、エピポーラ線EP上の各走査点を重心とするウィンドウWと、注目点APを重心とするテンプレートTとの一致度を算出し、算出した各走査点の視差と一致度とを信頼度算出部3に出力する。また、視差・一致度計算部2は、算出した一致度が最も高い点の視差(ピーク視差)を選択部4に出力する。
視差は、エピポーラ線EP上に投影された注目点APと、無限遠の被写体がエピポーラ線上に投影される点との距離を求め、基線長(カメラ/個眼の主点距離)で正規化したものである。尚、視差は、注目点とエピポーラ線上の走査点で測距を行い、その逆数でもよい(測距方法は実施形態2を参照)。
また、一致度(類似度)は、実施形態では、NCC(正規化相互相関:Normalized Cross Correlation)を用いる。NCCは、以下の式1を用いて類似度RNCCを算出する。算出された類似度RNCCが1に近い程、似ていることを示す。
T(i,j)は、テンプレートTの画素の輝度値であり、I(i,j)は、参照画像のウィンドウWの画素の輝度値である。座標(i,j)は、テンプレートTの幅をM画素、高さをN画素としたとき、テンプレートの左上の座標を(0,0)、右下を(M−1,N−1)とする場合の座標である。
尚、NCCの他、SAD(Sum of Absolute Difference)やSSD(Sum of Squared Difference)等を用いて類似度を算出してもよい。SADは、以下の式2を用いて算出する。
SADは、テンプレートをラスタスキャンし、同じ位置の画素の輝度値の差の絶対値の合計であり、値が小さい程、似ていることになる。
また、SDDは、以下の式3を用いて算出する。
SSDは、テンプレートをラスタスキャンし、同じ位置の画素の輝度値の差の2乗の合計であり、値が小さい程、似ていることになる。
尚、視差・一致度計算部2は、以下のように、ピーク視差を求めてもよい。参照画像上のエピポーラ線EPの走査の結果のグラフ(図2(c)等参照)に基づいて、グラフの頂点に対応する視差(以下、「ピーク視差」という。)を求める。グラフの頂点は、図8に示すように、頂点付近の3点(黒丸で示す)により2次関数近似を行って求める。つまり、頂点付近の3点以上の点を用いて2次関数を求め、求めた2次関数による曲線の頂点(白丸で示す)を求める。求めた頂点に対応する視差が、そのグラフのピーク視差となる。一致度は、エピポーラ線EP上の走査点ごとに求めるので、走査点の一致度がピーク視差の一致度であるとは限らない。従って、このように2次関数による近似を行うことで、グラフのピーク視差をより高精度に求めることが可能となる。
尚、1つの参照画像に1つのエピポーラ線EPだけではなく、複数の線を走査する場合は、1つの参照画像について複数のグラフが作成される。図19に、エピポーラ線EPと、エピポーラ線EPに平行な線LN1、LN2を走査した例を示す。エピポーラ線EPの走査結果を一点鎖線のグラフで示し、線LN1の操作結果を2点鎖線のグラフで示し、線LN2の走査結果を実線のグラフで示す。このように走査線が複数である場合は、複数のグラフから1つの面形状を作成し(図19の場合は、1つの凸部を有する形状となる。)、その頂点をピーク視差としてもよい。
<信頼度算出部3>
次に、信頼度算出部3は、視差・一致度計算部2から取得した各参照画像上のエピポーラ線EPの走査の結果、つまり、エピポーラ線EP上の各走査点と注目点APとの視差と一致度(相関値)との関係を表したグラフ(図2(c)等参照)に基づいて、グラフの頂点に対応するピーク視差の信頼度を求める。エピポーラ線EPは参照画像ごとに求められるので、このグラフは、参照画像ごとに作成されることになる。従って、算出される信頼度は、参照画像の信頼度とも言える。尚、頂点が複数ある場合は、相関値が最も高い視差をピーク視差とする。
次に、信頼度算出部3は、視差・一致度計算部2から取得した各参照画像上のエピポーラ線EPの走査の結果、つまり、エピポーラ線EP上の各走査点と注目点APとの視差と一致度(相関値)との関係を表したグラフ(図2(c)等参照)に基づいて、グラフの頂点に対応するピーク視差の信頼度を求める。エピポーラ線EPは参照画像ごとに求められるので、このグラフは、参照画像ごとに作成されることになる。従って、算出される信頼度は、参照画像の信頼度とも言える。尚、頂点が複数ある場合は、相関値が最も高い視差をピーク視差とする。
グラフのピーク視差の信頼度(参照画像の信頼度)は、以下のようにグラフの形状に基づいて算出する。図7に、3つの参照画像それぞれから作成されたグラフの例、グラフa、グラフb、及び、グラフcを示す。グラフa、b、cそれぞれのピーク視差を、視差Da、Db、Dcとする。
信頼度算出部3は、ピーク視差の信頼度として、各グラフのピーク視差の中央値(メディアン、中位数)からの距離の逆数を算出する。つまり、信頼度の値が大きい程、信頼度が高くなる。中央値は、グラフの個数(ピーク視差の個数)をn個とした場合に、nが奇数である場合は、ピーク視差を小さい順に並べた場合の中央にある値であり、nが偶数である場合は、n/2番目とn/2+1番目のピーク視差の算術平均を中央値とする。
例えば、図4に示すように、エピポーラ線EPが参照画像の模様と重なっていない場合には、エピポーラ線EPの算出誤差があったとしても、ピーク視差は正解の視差に近いが、図5に示すように、エピポーラ線EPが参照画像の模様と重なった場合には、エピポーラ線EPのわずかな算出誤差が、大きな誤差となって視差に現れる。従って、他のピーク視差と大きく外れたピーク視差は、エピポーラ線EPが参照画像の模様と重なっていると推測できる。つまり、中央値からの距離が大きい程、信頼度は低く、その値は小さく算出される。
例えば、図7において、ピーク視差の中央値は、Dbである。そして、グラフa、b、cのピーク視差Da、Db、Dcそれぞれの信頼度Ra、Rb、Rcは、以下のようになる。尚、分母の小数点以下は、切り上げとする。
Ra=1÷|Da−Db|
Rb=1
Rc=1÷|Dc−Db|
図7では、視差Da、視差Dbは中央値に近い為、信頼度は高くなり、Rcの信頼度は低くなる。つまり、Rcの値は、Ra、Rbよりも小さくなる。尚、ピーク視差の中央値の代わりに、全ピーク視差の平均値を用いてもよい。
Ra=1÷|Da−Db|
Rb=1
Rc=1÷|Dc−Db|
図7では、視差Da、視差Dbは中央値に近い為、信頼度は高くなり、Rcの信頼度は低くなる。つまり、Rcの値は、Ra、Rbよりも小さくなる。尚、ピーク視差の中央値の代わりに、全ピーク視差の平均値を用いてもよい。
<変形例1>
ピーク視差の信頼度を求める方法は、上述の中央値を用いる方法以外でも良い。変形例1の方法は、ピーク視差の信頼度を、グラフの振幅で表す。言い換えれば、グラフの山の高さで表す。例えば、図9に、グラフa、b、cの振幅を、破線の両端矢印で示す。図3で示すように、グラフの山が低い場合は、エピポーラ線EPが参照画像の模様と重なっていることを示し、対応点CPが確定し難く、ピーク視差の信頼度が低いことを示す。一方、図2で示すように、一致度の高低が大きく(山が高く)、グラフの頂点が明確に表れる場合は、エピポーラ線EPが参照画像の模様と重なっていないことを示し、対応点CPが確定できるので、ピーク視差の信頼度は高いことを示す。つまり、振幅が大きい程、信頼度は高いと判断でき、信頼度の値が大きい程、信頼度が高いことになる。
ピーク視差の信頼度を求める方法は、上述の中央値を用いる方法以外でも良い。変形例1の方法は、ピーク視差の信頼度を、グラフの振幅で表す。言い換えれば、グラフの山の高さで表す。例えば、図9に、グラフa、b、cの振幅を、破線の両端矢印で示す。図3で示すように、グラフの山が低い場合は、エピポーラ線EPが参照画像の模様と重なっていることを示し、対応点CPが確定し難く、ピーク視差の信頼度が低いことを示す。一方、図2で示すように、一致度の高低が大きく(山が高く)、グラフの頂点が明確に表れる場合は、エピポーラ線EPが参照画像の模様と重なっていないことを示し、対応点CPが確定できるので、ピーク視差の信頼度は高いことを示す。つまり、振幅が大きい程、信頼度は高いと判断でき、信頼度の値が大きい程、信頼度が高いことになる。
図9では、グラフaの振幅Aa及びグラフbの振幅Abは、グラフcの振幅Acよりも大きいので、グラフcの信頼度Rcは、グラフaの信頼度Ra及びグラフbの信頼度Rbよりも低くなる。つまり、Rcの値は、Ra、Rbよりも小さくなる。
<変形例2>
また、グラフの信頼度を、一致度がグラフの頂点から所定割合以内にある(視差の)幅で表してもよい。言い換えれば、グラフの頂点付近のカーブの曲り度合いに基づいて、信頼度を算出する(点線の楕円部分参照)。この場合は、信頼度を幅の逆数とする。
また、グラフの信頼度を、一致度がグラフの頂点から所定割合以内にある(視差の)幅で表してもよい。言い換えれば、グラフの頂点付近のカーブの曲り度合いに基づいて、信頼度を算出する(点線の楕円部分参照)。この場合は、信頼度を幅の逆数とする。
図3(c)で示すように、グラフのカーブの曲がり方が緩い場合は、対応点CPが確定し難く、ピーク視差の信頼度が低いことを示す。一方、図2(c)で示すように、グラフの頂点付近のカーブの曲り方がきつい場合は、グラフの頂点が明確に表れ、対応点CPが確定できるので、ピーク視差の信頼度は高いことを示す。
例えば、図10に、各グラフの幅を、破線の両端矢印で示す。グラフcの幅Lcは、グラフcの頂点の一致度から、振幅cの所定割合(両端矢印p)の間にある視差(横軸)の幅である。同様に、グラフaの幅Laは、グラフaの頂点の一致度から、振幅aの所定割合の間にある視差(横軸)の幅であり、グラフbの幅Lbは、グラフbの頂点の一致度から、振幅bの所定割合の間にある視差(横軸)の幅である。
図10では、グラフaの幅La及びグラフbの幅Lbは、グラフcの幅Lcよりも小さいので、グラフcの信頼度Rcは、グラフaの信頼度Ra及びグラフbの信頼度Rbよりも低くなる。グラフの幅の逆数を信頼度とするので、その値が小さい程、信頼度が低いことになり、Rcの値は、Ra、Rbよりも小さくなる。
尚、1つの参照画像の複数の線を走査する場合には、図19に示すように1つの参照画像について複数のグラフが作成されるので、複数のグラフから1つの面形状を作成し(図19の場合は、1つの凸部を有する形状となる。)、その振幅や、3次元形状の頂点付近の幅に基づいて、上記変形例1、2と同様にピーク視差の信頼度を求めてもよい。
<変形例3>
変形例2のピーク視差の信頼度を求める方法は、ピーク視差の信頼度を、グラフの山及び谷が横軸の所定幅に含まれる数で表す。図2では、図2(c)のグラフを、説明の便宜上、山が1つのグラフとしているが、参照画像の模様によっては、複数の山を有するグラフとなる。つまり、エピポーラ線EPが参照画像の様々な模様と交差している場合には、複数の山ができる。一方、図3で示すように、エピポーラ線EPが参照画像の縞模様と重なっている場合には、グラフが平坦となり、山ができないか、低い山が少数できることになる。従って、グラフの山の数が多い程、信頼度が高いと判断できることになる。
変形例2のピーク視差の信頼度を求める方法は、ピーク視差の信頼度を、グラフの山及び谷が横軸の所定幅に含まれる数で表す。図2では、図2(c)のグラフを、説明の便宜上、山が1つのグラフとしているが、参照画像の模様によっては、複数の山を有するグラフとなる。つまり、エピポーラ線EPが参照画像の様々な模様と交差している場合には、複数の山ができる。一方、図3で示すように、エピポーラ線EPが参照画像の縞模様と重なっている場合には、グラフが平坦となり、山ができないか、低い山が少数できることになる。従って、グラフの山の数が多い程、信頼度が高いと判断できることになる。
視差測定装置100は、上述の何れかの方法を採用してもよく、撮影する対象物や背景等を考慮して、最適な、つまり、参照画像の模様に応じて、より正しい信頼度が求まるような方法を採用すればよい。尚、撮像部1が2台のカメラを備え、1対の基準画像と参照画像を出力する場合は、1つのグラフが作成されるので、変形例1又は変形例2の方法で、信頼度を求めることになる。
<選択部4>
次に、図6の選択部4について説明する。選択部4は、視差・一致度計算部2から取得した各参照画像のピーク視差と、信頼度算出部3から取得した各参照画像の信頼度から、対象物までの視差を選択(決定)し、記憶部5に出力する。以下、決定した視差を「測定視差」という。
次に、図6の選択部4について説明する。選択部4は、視差・一致度計算部2から取得した各参照画像のピーク視差と、信頼度算出部3から取得した各参照画像の信頼度から、対象物までの視差を選択(決定)し、記憶部5に出力する。以下、決定した視差を「測定視差」という。
選択部4は、予め定めた所定の信頼度を上回るピーク視差の平均値を測定視差とする。具体的には、選択部4は、信頼度算出部3から取得した信頼度から、所定の信頼度を上回る参照画像を抽出し、抽出された参照画像のピーク視差の平均値を測定視差とする。信頼度算出部3が算出信頼度は、値が大きい程、信頼度が高いので、選択部4は、所定の信頼度を示す閾値よりも大きい値の信頼度の参照画像を抽出する。
例えば、図7のグラフa、b、cにおいて、グラフcの信頼度Rcが閾値以下であり、グラフaの信頼度Ra及びグラフbの信頼度Rbが閾値を超える場合は、測定視差Zは以下式で求まる。
Z=(Da+Db)÷2
Z=(Da+Db)÷2
尚、参照画像が1つの場合は、ピーク視差の信頼度が所定の信頼度を上回る場合は、そのピーク視差を記憶部5に出力し、信頼度が所定の信頼度以下の場合は、信頼性が無い旨を記憶部5に出力する。
<変形例1>
測定視差の決定方法は、上述のような平均値を用いる方法以外の方法でも良い。変形例1の方法は、信頼度に応じた重み付けを用い、重み付き平均により求めるものである。例えば、図7のグラフa、b、cからは、以下の式を用いて測定視差Zを求める。
Z=(Da×Ra+Db×Rb+Dc×Rc)÷(Ra+Rb+Rc)
尚、Ra、Rb、Rcは、0〜1に正規化されているものとする。
測定視差の決定方法は、上述のような平均値を用いる方法以外の方法でも良い。変形例1の方法は、信頼度に応じた重み付けを用い、重み付き平均により求めるものである。例えば、図7のグラフa、b、cからは、以下の式を用いて測定視差Zを求める。
Z=(Da×Ra+Db×Rb+Dc×Rc)÷(Ra+Rb+Rc)
尚、Ra、Rb、Rcは、0〜1に正規化されているものとする。
<変形例2>
変形例2の方法は、各グラフを表す関数Fに、それぞれのグラフの信頼度に応じた重み付けを用い、重み付き加算により求めた1つの関数(グラフ)から測定視差を求めるものである。
変形例2の方法は、各グラフを表す関数Fに、それぞれのグラフの信頼度に応じた重み付けを用い、重み付き加算により求めた1つの関数(グラフ)から測定視差を求めるものである。
図11に示すように、上段の図に示す3つのグラフから、下段の図に示す1つのグラフを作成し、作成した1つのグラフから、測定視差Zとしてピーク視差Dallを求める。エピポーラ線EP上の各走査点の視差をdとし、グラフaを表す関数をFa(d)、グラフbを表す関数をFb(d)、グラフcを表す関数をFc(d)とする。この場合、下段のグラフを表す関数Fallは、以下のように求まる。
Fall(d)=Fa(d)×Ra+Fb(d)×Rb+Fc(d)×Rc
このFall(d)で示されるグラフのピーク視差を、測定視差とする。
Fall(d)=Fa(d)×Ra+Fb(d)×Rb+Fc(d)×Rc
このFall(d)で示されるグラフのピーク視差を、測定視差とする。
<記憶部5>
記憶部5は、選択部4が選択(決定)した測定視差を、対象物の視差として記憶する。記憶された視差は、視差を利用する処理、例えば、測距処理を行う為に読み出されることになる。
記憶部5は、選択部4が選択(決定)した測定視差を、対象物の視差として記憶する。記憶された視差は、視差を利用する処理、例えば、測距処理を行う為に読み出されることになる。
尚、視差・一致度計算部2〜全体制御部6は、例えば、マイクロプロセッサ、メモリおよびその周辺回路を備えるマイクロコンピュータによって構成され、メモリには、対応点探索を行うためのプログラムや、視差測定装置100全体を制御するための制御プログラム等の各種のプログラム、プログラムの実行に必要なデータ等の各種のデータが記憶され、いわゆるCPU(Central Processing Unit)等であるマイクロプロセッサが、メモリに記憶されているプログラムを実行することにより、各機能部の全部又は一部を実現する。
<動作>
次に、実施形態の視差測定装置100の動作について説明する。
次に、実施形態の視差測定装置100の動作について説明する。
図12は、対象物の視差を求める処理を示すフローチャートである。
全体制御部6は、インターフェース部(不図示)を介して、視差の測定開始の指示を受け付けると、撮像部1に対象物の撮像画像の出力を指示する。
指示を受けた撮像部1は、第1のカメラC1、第2のカメラC2、及び、第3のカメラC3を制御して、同じタイミングで対象物を撮影させ、撮像画像を視差・一致度計算部2に出力する(ステップS10)。
指示を受けた撮像部1は、第1のカメラC1、第2のカメラC2、及び、第3のカメラC3を制御して、同じタイミングで対象物を撮影させ、撮像画像を視差・一致度計算部2に出力する(ステップS10)。
視差・一致度計算部2は、第2のカメラC2が撮影した画像を基準画像として、また、第1のカメラC1及び第3のカメラC3が撮影した画像を参照画像として取得する(ステップS11)。
そして、視差・一致度計算部2は、基準画像上の対象物の像を注目点APとし、1つの参照画像上のエピポーラ線EPを算出する(ステップS12)。
次に、視差・一致度計算部2は、ステップS12で算出した参照画像のエピポーラ線EPの走査を行う。具体的には、図2(b)に示すように、エピポーラ線EP上の走査点と基準画像上の注目点APとの視差を算出し(ステップS13)、エピポーラ線EP上の走査点を重心とするウィンドウWと、注目点APを重心とするテンプレートTとの一致度を算出する(ステップS14)。次に、エピポーラ線EP上の点をずらしてウィンドウWを設定し(ステップS15:No)、そのウィンドウWとテンプレートTについて、視差と一致度とを算出することを繰りかえす。エピポーラ線EPの走査が終了すると(ステップS15:Yes)、視差・一致度計算部2は、算出した視差と一致度とを信頼度算出部3に出力し、算出した一致度が最も高い視差を、ピーク視差として選択部4に出力する。
次に、視差・一致度計算部2は、ステップS12からステップS16の処理、つまり、次の参照画像のエピポーラ線EPの算出を行い(ステップS12)、エピポーラ線EPの走査を行う。
視差・一致度計算部2は、全参照画像のエピポーラ線EPの走査を終了すると(ステップS17:Yes)、その旨を全体制御部6に通知する。
通知を受けた全体制御部6は、信頼度算出部3に各参照画像の信頼度の算出を依頼する。依頼を受けた信頼度算出部3は、上述のように、全参照画像の信頼度を算出し、選択部4に出力する(ステップS18)。
全参照画像の信頼度を取得した信頼度算出部3は、取得した信頼度と選択部4から取得したピーク視差とを用いて、上述のように、測定視差を決定し(ステップS19)、記憶部5に記憶させる(ステップS20)。
<実施形態2>
実施形態2では、実施形態1の視差測定装置100を用いた測距装置200を説明する。
実施形態2では、実施形態1の視差測定装置100を用いた測距装置200を説明する。
図13は、測距装置200の構成を示すブロック図である。測距装置200は、視差測定装置100、距離算出部110、及び、表示部120を備える。
視差測定装置100は、実施形態1で説明したように、対象物の視差を算出する。
距離算出部110は、視差測定装置100が算出した視差に基づいて、対象物までの距離を算出する。
表示部120は、いわゆるディスプレイであり、距離算出部110が算出した距離を表示する。
ここで、距離算出部110が行う距離の算出について、図14を用いて説明する。ここでは、ステレオ法による測距方法を説明する。少なくとも焦点距離f、撮像面(CCD:Charge Coupled Device)の画素数、1画素の大きさμが相互に等しい2台のカメラ1、2を用い、所定の基線長Lだけ左右に離間させて光軸1a,2aを平行に配置して対象物4を撮影したとき、撮像面1b,2b上の視差(ずれ画素数)がd(=d1+d2)であると、対象物4までの距離Dは、斜線を施して示す三角形が相似であることから、
D:f=L:μ×d
の関係があり、
D=(L×f)/(μ×d)・・・(1)
で求めることができる。
D:f=L:μ×d
の関係があり、
D=(L×f)/(μ×d)・・・(1)
で求めることができる。
従って、距離算出部110は、視差測定装置100が算出した視差をdとして、式(1)を用いて、物体までの距離を求める。
<実施形態3>
実施形態3では、実施形態1の視差測定装置100の信頼度算出部3で求めた信頼度を用いて、視差補正を行う撮像装置300を説明する。ここでの視差補正とは、基準画像と参照画像の視差を用いて、参照画像における対象物の画素位置を、基準画像において対応する対象物の画素位置と合わせることをいう。つまり、基準画像上の対象物の画像と、参照画像における対象物の画像とが互いに一致するように、視差測定装置で求められた参照画像の視差分、どちらかの画素位置を変換することをいう。例えば、基準画像と参照画像とを撮像するカメラそれぞれの光軸が平行である場合には、図20に示すように、参照画像のエピポーラ線EPはx軸と平行になる。実線の矩形を基準画像とし、実線の矢印で基準画像の座標系を示す。また、破線の矩形を参照画像とし、破線の矢印で参照画像の座標系を示す。この場合、視差をdとした場合に、以下の式(2)を用いて、基準座標の座標系の座標位置(xb,yb)を、視差d分ずらして、参照画像の各画素の座標位置(xr,yr)に変換する。
(xr,yr)=(xb+d,yb) ・・・(2)
図20の白抜き矢印の下の図で示すように、参照画像が視差d分ずれて、基準画像の座標系に変換される。尚、見易さの観点から、参照画像と基準画像は、Y方向に若干ずらして記載している。
実施形態3では、実施形態1の視差測定装置100の信頼度算出部3で求めた信頼度を用いて、視差補正を行う撮像装置300を説明する。ここでの視差補正とは、基準画像と参照画像の視差を用いて、参照画像における対象物の画素位置を、基準画像において対応する対象物の画素位置と合わせることをいう。つまり、基準画像上の対象物の画像と、参照画像における対象物の画像とが互いに一致するように、視差測定装置で求められた参照画像の視差分、どちらかの画素位置を変換することをいう。例えば、基準画像と参照画像とを撮像するカメラそれぞれの光軸が平行である場合には、図20に示すように、参照画像のエピポーラ線EPはx軸と平行になる。実線の矩形を基準画像とし、実線の矢印で基準画像の座標系を示す。また、破線の矩形を参照画像とし、破線の矢印で参照画像の座標系を示す。この場合、視差をdとした場合に、以下の式(2)を用いて、基準座標の座標系の座標位置(xb,yb)を、視差d分ずらして、参照画像の各画素の座標位置(xr,yr)に変換する。
(xr,yr)=(xb+d,yb) ・・・(2)
図20の白抜き矢印の下の図で示すように、参照画像が視差d分ずれて、基準画像の座標系に変換される。尚、見易さの観点から、参照画像と基準画像は、Y方向に若干ずらして記載している。
撮像装置300は、それぞれ単色の基準画像と参照画像とを重ねあわせて、カラーの合成画像を生成する。この際、視差を用いて、参照画像の座標を基準画像に合わせて、各画素の色を決定する。例えば、基準画像の或る画素の色成分を求める場合、上述の式(2)を用いて求めた参照画像の座標位置の画素の色成分を参照する。このようにすることで、色ずれの無いカラー画像が作成できる。
以下、撮像装置300を、図を用いて説明する。
撮像装置300が、視差測定装置100と異なる点は、撮像部1aがカメラに代えて撮像ユニット19を備える点と、選択部4に代えて視差補正部4aを備える点である。従って、撮像部1aと、視差補正部4aを説明する。
撮像部1aは、撮像ユニット19を備え、撮影された画像を視差・一致度計算部2に出力する。撮像ユニット19の例を、図16、17を用いて説明する。
図16、図17に示すように、撮像ユニット19は、複数の撮像部11と、複数の撮像部11それぞれに対応して設けられる複数の撮像光学系13とを備える。また、図17に示すように、複数の撮像部11それぞれに対応して、フィルタ部12が撮像部11の受光面の入射光側に備えられている。
複数の撮像光学系13は、それぞれ、撮像光学系13に対応する撮像部11の受光面に被写体の光学像を結像する光学素子である。1個の撮像光学系13は、その光軸に沿って1または複数の光学レンズを備える。複数の撮像光学系13は、この図において、各光軸が互いに略平行となるように配列される。従って、複数の撮像光学系13を介して被写体の光学像をそれぞれ撮像する複数の撮像部11は、略同じ被写体を写した画像信号を生成することになる。図16に示す例では、複数の撮像光学系13は、複数の撮像部11に対応して2次元マトリクス状に配列されている。図16には、例として、3行3列に2次元マトリクス状に配列された9個の撮像光学系13−11〜13−33が示されている。光軸に関し、必ずしも全ての撮像光学系13が平行である必要はない。
複数の撮像部11は、それぞれ、撮像光学系13によって受光面に結像された被写体の光学像を撮像して画像信号を出力する。複数の撮像部11は、複数の撮像光学系13に対応し、各撮像面が互いに同一平面となるように配列される。図17に示す例では、複数の撮像部11は2次元マトリクス状に配列されている。図17には、例として、3行3列に2次元マトリクス状に配列された9個の撮像部11−11〜11−33が示されている。2次元マトリクス状における1行1列の位置に配置された撮像部11−11には、2次元マトリクス状における同じ1行1列の位置に配置された撮像光学系13−11が対応し、2次元マトリクス状における1行2列の位置に配置された撮像部11−12には、2次元マトリクス状における同じ1行2列の位置に配置された撮像光学系13−12が対応し、このように2次元マトリクス状における同じ行数(n)および列数(m)の位置に配置された撮像部11−nmと撮像光学系13−nmとが互いに対応している(n、mは正の整数)。
複数のフィルタ部12は、それぞれ、入射した光のうち所定の波長範囲の光を透過する光学フィルタ素子である。複数のフィルタ部12は、複数の撮像部11に対応し、撮像面の光の入射側に配置される。本実施形態では、撮像光学系13と撮像部11との間にフィルタ部12が配置される。すなわち、フィルタ部12は、撮像光学系13の像面側に配置される。尚、フィルタ部12は、フィルタ部12−21が第1赤色フィルタR1、フィルタ部12−23が第2赤色フィルタR2、フィルタ部12−12が第1青色フィルタB1、フィルタ部12−32が、第2青色フィルタB2、フィルタ部12−22が第0緑フィルタG0、フィルタ部12−11が第1緑色フィルタG1、フィルタ部12−31が第3緑フィルタG3、フィルタ部12−33が、第4緑色フィルタG4が配置される。
赤色フィルタは、赤色の波長帯域の光を透過するフィルタであり、緑色フィルタは、緑色の波長帯域の光を透過するフィルタであり、そして、青色フィルタは、青色の波長帯域の光を透過するフィルタである。尚、複数のフィルタ部12は、図18に示す態様に限定されるものではなく、他の態様であってもよい。
従って、撮像部1aは、撮像ユニット19の撮像部11それぞれから出力される画像、つまり9つの画像を、視差・一致度計算部2、及び、視差補正部4aに出力する。撮像部1aが出力した画像は、図18に示すような9つの画像となる。図18において、例えば、「G1」と記載された矩形は、第1緑色フィルタG1が設置された撮像部11−11が出力した画像を示す。従って、「G1」と記載された画像は、G成分で構成された画像となる。他の矩形も同様である。以下、第1赤色フィルタR1を介して撮影された画像を画像R1、第2赤色フィルタR2を介して撮影された画像を画像R2等というものとする。
視差・一致度計算部2は、第0緑フィルタG0を介して撮影された画像G0を基準画像とし、他の8つの画像を参照画像とする。そして、視差・一致度計算部2は、実施形態1における処理と同様に、参照画像それぞれのエピポーラ線EPを算出し、エピポーラ線EPを走査して算出した視差と一致度とを信頼度算出部3に出力し、また、算出した一致度が最も高い視差を、ピーク視差として視差補正部4aに出力する。尚、RGBのうち、RとG、GとRは、波長が近いため、画像同士で相関があり、色が異なる画像でも対応点探索は可能である。
視差補正部4aは、画像G0の各画素のRGBの値を、各参照画像において視差分シフトさせた座標位置の画素(以下、「対応画素」という。)の色成分を用いて決定する。参照画像内における注目点APの座標位置から、視差分シフトさせた点が対応点CPとなるからである。
視差補正部4aは、信頼度算出部3から取得した信頼度から、予め定めた所定の信頼度を上回る参照画像を抽出し、抽出した参照画像内の対応画素の色成分の平均値を、画像G0の色成分とする。
例えば、画像G0の注目点AP(画素)のR成分(赤色成分)は、参照画像R1上の対応点CP(対応画素)のR成分と、参照画像R2上の対応点CP(対応画素)のR成分とから求める。視差補正部4aは、参照画像R1の信頼度と、参照画像R2の信頼度のうち、信頼度が閾値を上回る参照画像の対応点CPのR成分の平均値を採用する。
視差補正部4aは、このように、画像G0の各画素のR成分を画像R1、R2から決定し、G成分(緑色成分)を画像G0、G1、G2、G3、G4から決定し、B成分(青色成分)を画像B1、B2から決定する。そして、決定されたRGBの値の画像を合成画像として、記憶部5に記憶する。
<変形例1>
画像G0の色成分の決定方法は、上述のような平均値を用いる方法以外の方法でも良い。変形例1の方法は、信頼度に応じた重み付けを用い、重み付き平均により求めるものである。例えば、参照画像R1の対応点CPの色成分をRR1、信頼度QR1とし、参照画像R2の対応点CPの色成分をRR2、信頼度QR2とする場合、以下の式を用いて画像G0の色成分RG0を求める。
RG0=(QR1×RR1+QR2×RR2)÷(RR1+RR2)
尚、QR1、QR2は、0〜1に正規化されているものとする。
画像G0の色成分の決定方法は、上述のような平均値を用いる方法以外の方法でも良い。変形例1の方法は、信頼度に応じた重み付けを用い、重み付き平均により求めるものである。例えば、参照画像R1の対応点CPの色成分をRR1、信頼度QR1とし、参照画像R2の対応点CPの色成分をRR2、信頼度QR2とする場合、以下の式を用いて画像G0の色成分RG0を求める。
RG0=(QR1×RR1+QR2×RR2)÷(RR1+RR2)
尚、QR1、QR2は、0〜1に正規化されているものとする。
<補足>
実施形態では、1本のエピポーラ線EPを走査する場合を説明したが、エピポーラ線に平行、又は、所定角度の線上を走査することとしてもよく、これらのうちの複数の線を走査することとしてもよい。また、参照画像の平行化処理を行うことで探索方向を1方向に限定してもよい。平行化に関しては、次の文献を参照できる。
N. Ayache, Artifcial Vision for Mobile Robots: Stereo Vision and Multisensory Perception, MIT Press, Cambridge, MA, U.S.A., 1991
N. Ayache and F. Lustman, Trinocular stereo vision for robotics, IEEE Trans. Pattern Anal. Mach. Intell., 13-1(1991-1), 73-85.
また、実施形態では、グラフを曲線のグラフとしているが、折れ線グラフ、棒グラフ等であってもよい。
実施形態では、1本のエピポーラ線EPを走査する場合を説明したが、エピポーラ線に平行、又は、所定角度の線上を走査することとしてもよく、これらのうちの複数の線を走査することとしてもよい。また、参照画像の平行化処理を行うことで探索方向を1方向に限定してもよい。平行化に関しては、次の文献を参照できる。
N. Ayache, Artifcial Vision for Mobile Robots: Stereo Vision and Multisensory Perception, MIT Press, Cambridge, MA, U.S.A., 1991
N. Ayache and F. Lustman, Trinocular stereo vision for robotics, IEEE Trans. Pattern Anal. Mach. Intell., 13-1(1991-1), 73-85.
また、実施形態では、グラフを曲線のグラフとしているが、折れ線グラフ、棒グラフ等であってもよい。
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。
1 1a 撮像部
2 視差・一致度計算部
3 信頼度算出部
4 選択部
4a 視差補正部
5 記憶部
6 全体制御部
100 視差測定装置
200 測距装置
300 撮像装置
2 視差・一致度計算部
3 信頼度算出部
4 選択部
4a 視差補正部
5 記憶部
6 全体制御部
100 視差測定装置
200 測距装置
300 撮像装置
Claims (13)
- 同一の対象物が撮像された基準画像と参照画像とを取得する画像取得部と、
前記基準画像上の注目点に対応する前記参照画像上の対応点を通ると推定される所定の線上の複数の走査点それぞれについて、前記注目点との視差と、前記走査点を含むウィンドウと前記注目点を含むウィンドウとの相関の度合いを示す一致度とを算出する一致度算出部と、
前記参照画像について、前記一致度算出部が算出した視差及び一致度に基づいて、前記一致度算出部が算出した一致度のうち、最も高い一致度に対応する前記視差であるピーク視差に対する確からしさを示す信頼度を算出する信頼度算出部と
を備えることを特徴とする視差測定装置。 - 前記信頼度算出部は、前記一致度算出部が算出した視差を横軸に、前記一致度算出部が算出した視差それぞれに対応する一致度を縦軸とするグラフの形状に基づいて前記信頼度を算出する
ことを特徴とする請求項1に記載の視差測定装置。 - 前記信頼度算出部は、前記グラフの山の高さが大きい程、確からしさの度合いが高くなるように信頼度を算出する
ことを特徴とする請求項2に記載の視差測定装置。 - 前記信頼度算出部は、前記グラフの山における頂点付近のカーブが緩い程、確からしさの度合いが低くなるように信頼度を算出する
ことを特徴とする請求項2に記載の視差測定装置。 - 前記信頼度算出部は、前記グラフの山及び谷が横軸の所定幅内に含まれる数が多い程、確からしさの度合いが高くなるように信頼度を算出する
ことを特徴とする請求項2に記載の視差測定装置。 - 前記参照画像は、複数であり、
前記信頼度算出部は、前記一致度算出部が算出した各参照画像のピーク視差の中央値を求め、各ピーク視差と前記中央値との差の逆数を、各ピーク視差の信頼度として算出する
ことを特徴とする請求項1に記載の視差測定装置。 - 前記信頼度算出部が算出した前記ピーク視差の信頼度に基づいて、前記対象物に対する視差を算出する選択部を、更に備え、
前記選択部は、前記ピーク視差の信頼度が示す確からしさが、所定の度合いよりも高い当該ピーク視差を用いて、前記対象物に対する視差を算出する
ことを特徴とする請求項1〜6のいずれか一項に記載の視差測定装置。 - 前記信頼度算出部が算出した前記ピーク視差の信頼度に基づいて、前記対象物に対する視差を算出する選択部を、更に備え、
前記参照画像は、複数であり、
前記選択部は、各参照画像のピーク視差に対して、各ピーク視差の信頼度に応じた重み付けを行い、重み付けを行ったピーク視差の平均を、前記対象物に対する視差として算出する
ことを特徴とする請求項1〜6のいずれか一項に記載の視差測定装置。 - 前記信頼度算出部が算出した前記ピーク視差の信頼度に基づいて、前記対象物に対する視差を算出する選択部を、更に備え、
前記参照画像は、複数であり、
前記選択部は、各参照画像について、前記一致度算出部が算出した視差と一致度との関係を示す関数を求め、各参照画像のピーク視差の信頼度に応じた重み付けを各関数に行い、重み付けを行った各関数を加算して1つの合成関数を作成し、当該合成関数に基づいて、前記対象物に対する視差を算出する
ことを特徴とする請求項1〜6のいずれか一項に記載の視差測定装置。 - 前記所定の線とは、エピポーラ線である
ことを特徴とする請求項1〜9のいずれか一項に記載の視差測定装置。 - 請求項1〜10のいずれか一項に記載の視差測定装置と、
前記視差測定装置で求められた視差を用いて、前記対象物までの距離を算出する測距部と
を備えることを特徴とする測距装置。 - 請求項1〜10のいずれか一項に記載の視差測定装置と、
前記基準画像上の前記対象物の画像と、前記参照画像における前記対象物の画像とが互いに一致するように、前記視差測定装置で求められた前記参照画像の視差分、何れかの画素位置を変換する視差補正部と
を備えることを特徴とする撮像装置。 - 視差測定装置で用いられる視差測定方法であって、
同一の対象物が撮像された基準画像と参照画像とを取得する画像取得ステップと、
前記基準画像上の注目点に対応する前記参照画像上の対応点を通ると推定される所定の線上の複数の走査点それぞれについて、前記注目点との視差と、前記走査点を含むウィンドウと前記注目点を含むウィンドウとの相関の度合いを示す一致度とを算出する一致度算出ステップと、
前記参照画像について、前記一致度算出ステップで算出した視差及び一致度に基づいて、前記一致度算出ステップで算出した一致度のうち、最も高い一致度に対応する前記視差であるピーク視差に対する確からしさを示す信頼度を算出する信頼度算出ステップと
を備えることを特徴とする視差測定方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013246381A JP2015106168A (ja) | 2013-11-28 | 2013-11-28 | 視差測定装置、及び、視差測定方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013246381A JP2015106168A (ja) | 2013-11-28 | 2013-11-28 | 視差測定装置、及び、視差測定方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015106168A true JP2015106168A (ja) | 2015-06-08 |
Family
ID=53436272
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013246381A Withdrawn JP2015106168A (ja) | 2013-11-28 | 2013-11-28 | 視差測定装置、及び、視差測定方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015106168A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017116280A (ja) * | 2015-12-21 | 2017-06-29 | 公立大学法人大阪市立大学 | カメラ較正システム、カメラ較正プログラム、及びカメラ較正方法 |
-
2013
- 2013-11-28 JP JP2013246381A patent/JP2015106168A/ja not_active Withdrawn
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017116280A (ja) * | 2015-12-21 | 2017-06-29 | 公立大学法人大阪市立大学 | カメラ較正システム、カメラ較正プログラム、及びカメラ較正方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11272161B2 (en) | System and methods for calibration of an array camera | |
US11039121B2 (en) | Calibration apparatus, chart for calibration, chart pattern generation apparatus, and calibration method | |
JP6585006B2 (ja) | 撮影装置および車両 | |
US7733404B2 (en) | Fast imaging system calibration | |
US20110249117A1 (en) | Imaging device, distance measuring method, and non-transitory computer-readable recording medium storing a program | |
WO2018161466A1 (zh) | 深度图像获取系统和方法 | |
JP6112769B2 (ja) | 情報処理装置、情報処理方法 | |
KR20150120066A (ko) | 패턴 프로젝션을 이용한 왜곡 보정 및 정렬 시스템, 이를 이용한 방법 | |
JP2015197745A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP6422924B2 (ja) | 撮像装置および被写体情報取得方法 | |
WO2018147059A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
EP2635019B1 (en) | Image processing device, image processing method, and program | |
JP2016020896A (ja) | 位置ずれ量測定方法、補正テーブル生成装置、撮像装置、および投影装置 | |
JP4193342B2 (ja) | 3次元データ生成装置 | |
KR20130077414A (ko) | 영상 처리를 통한 광축 오차 보상 방법 및 시스템, 광축 오차 보상 기능이 구현된 줌 카메라 | |
TW201342303A (zh) | 三維空間圖像的獲取系統及方法 | |
JP2013044597A (ja) | 画像処理装置および方法、プログラム | |
JP2015148498A (ja) | 測距装置および測距方法 | |
WO2015159791A1 (ja) | 測距装置および測距方法 | |
JP2015106168A (ja) | 視差測定装置、及び、視差測定方法 | |
JP5955003B2 (ja) | 画像処理装置および画像処理方法、プログラム | |
JP5088973B2 (ja) | 立体撮像装置およびその撮像方法 | |
JP2013200840A (ja) | 映像処理装置、映像処理方法、映像処理プログラム、及び映像表示装置 | |
KR102295987B1 (ko) | 스테레오 카메라 모듈의 캘리브레이션 방법 및 장치, 및 컴퓨터 판독 가능한 저장매체 | |
JP2011182084A (ja) | 画像処理装置および画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160926 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20170712 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170721 |