JP4524514B2 - 画像処理装置、画像処理方法、および記録媒体 - Google Patents
画像処理装置、画像処理方法、および記録媒体 Download PDFInfo
- Publication number
- JP4524514B2 JP4524514B2 JP2000182697A JP2000182697A JP4524514B2 JP 4524514 B2 JP4524514 B2 JP 4524514B2 JP 2000182697 A JP2000182697 A JP 2000182697A JP 2000182697 A JP2000182697 A JP 2000182697A JP 4524514 B2 JP4524514 B2 JP 4524514B2
- Authority
- JP
- Japan
- Prior art keywords
- reference image
- template
- image
- templates
- deformation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、画像処理装置、画像処理方法、および記録媒体に関し、特に、ステレオ法に基づいて距離測定を行なう場合、複数の変形テンプレートを用いるようにすることで、より高精度に画像間の対応付けを行なうようにした画像処理装置、画像処理方法、および記録媒体に関する。
【0002】
【従来の技術】
人間が物体の形状やその物体までの距離を感知する原理と同様に、対象となる物体までの距離を測定する方法として、一般的に、ステレオ法が知られている。ステレオ法によれば、視点の異なる複数台のカメラで観測された画像を用いて、三角測量の原理により、対象となる物体の形状またはその物体までの距離を計測することができる。
【0003】
図1は、ステレオ法の原理を説明する図である。基準カメラ1と参照カメラ2の2台のカメラは、互いに異なる視点に配置されており、それぞれのカメラから測定しようとする対象点Qの3次元空間における位置が求められる。すなわち、対象点Qが基準カメラ1の画像面1Aにより観察される観察点nbと、参照カメラ2の画像面2Aにより観察される観察点nrとが求められる。そして、これらの観察点nb,nrから対象点Qの3次元空間内の位置を求めることができる。
【0004】
観察点nbに対応する観察点nrを検出する手法としては、エピポーラライン(Epipolar Line)上で対応点を探索する方法が提案されている。例えば、基準カメラ1で観察された画像面1A(以下、そこにおける画像を、図2に示すように、基準画像1aと略記する)上にある観察点nbに対して、その対応点である参照カメラ2の観察点nrは、両カメラの光学中心(光軸)と基準カメラ1の観察点nbにより決まる平面(画像面)と、参照カメラ2で観察された画像面2A(以下、そこにおける画像を、図2に示すように、参照画像2aと略記する)が交わる直線LP上に存在する。この直線LPは、エピポーララインと称される。そして、基準カメラ1と参照カメラ2の位置関係が既知であれば、異なる投影位置にある同一の対象を見つけることができるので、基準カメラ1の各観察点毎に参照画像2a上のエピポーラライン(直線LP)上で対応点を検索することにより、所望の対応点を検出することができる。
【0005】
対応点を検索する手法として、「Pixel−Basedマッチング」、「Feature−Basedマッチング」、または、「Area−Basedマッチング」などが知られており、次のような特徴がある。
【0006】
Pixel−Basedマッチングは、各々の画素間の濃淡値を用いて対応点を探索するため、演算速度が速いが、対応付け精度が低い。
【0007】
Feature−Basedマッチングは、画像から濃淡エッジなどの特徴を抽出し、画像間の特徴だけを用いて対応点を探索するため、得られた距離画像の情報は疎である。
【0008】
Area−Basedマッチングは、一種の相関演算を行なうため、演算コストがかかるが、対象の対応点を高精度に探索し、全ての画素の距離値を算出することができるため、一般的によく使われる。
【0009】
図2は、Area−Basedマッチングの原理を表わしている。基準カメラ1で観察された画像(基準画像1a)のうち、任意に設定された注目点(注目画素)11の周りに局所的なウィンドウ(領域)Wを設定し、それをテンプレート12とする。図2(A)では、例えば、テンプレート12は、縦5個×横5個の画素で構成されている。
【0010】
そして、図2(B)に示すように、参照カメラ2で観察された画像(参照画像2a)のエピポーラライン13上に、テンプレート12がテンプレート12Aとして配置され、設定された探索範囲内でマッチングが行なわれ、次式(1)に従って、一致度R(x,y)が演算される。次に、テンプレート12がエピポーラライン13に沿って移動され、テンプレート12Bとして配置され、テンプレート12Aと同様に、式(1)に従って、一致度R(x,y)が演算される。さらに、テンプレート12がエピポーラライン13に沿って移動され、テンプレート12Cとして配置され、テンプレート12A,12Bと同様に、式(1)に従って、一致度R(x,y)が演算される。式(1)において、Im1(x,y)は、基準画像1aの画素を表わし、Im2(x+Δx,y+Δy)は、参照画像2aの画素を表わしている。また、Δx,Δyは、テンプレート12のエピポーラライン13上での移動量を表わしている。
【0011】
【数1】
【0012】
上記式(1)に従って求められた3個の一致度R(x,y)のうち、その値が最小となるとき、基準画像1aと参照画像2aの間の一致度(類似度)が最も高くなる。従って、一致度R(x,y)が最小になったときのテンプレート12の移動量Δx,Δyを、その注目点11の視差とし、三角測量の原理により、その注目点11の3次元空間における形状または奥行きを算出することができる。
【0013】
このように、Area-Basedマッチングでは、各画素ごとにマッチング(対応付け)処理を繰り返すことにより、全ての画素に対応する3次元形状データを得ることができる。なお、図2では、3つのテンプレート12A乃至12Cの一致度R(x,y)を上記式(1)に従って演算したが、実際には、テンプレート12は、エピポーラライン13上を、設定された探索範囲内で、所定の値ずつ移動され、式(1)に従って、各位置の一致度R(x,y)が演算される。
【0014】
【発明が解決しようとする課題】
しかしながら、上記のいずれの手法においても、画像間の対応付けに「曖昧さ」が存在するため、画像上の全ての対応点を正確に求めることが困難であった。
【0015】
例えば、Area−Basedマッチングを用いて、図3に示すように、3次元空間に斜めに配置されている平面21上のテクスチャパターン22の対応付けを行なう場合、基準カメラ1および参照カメラ2の2台のカメラが観察したテクスチャパターン22は、図4に示すようになる。図4(A)は、図3の平面21と、そこに配置されているテクスチャパターン22を示し、図4(B)は、基準カメラ1から平面21を観察したときの観察画像(基準画像1a)を示し、図4(C)は、参照カメラ2から平面21を観察したときの観察画像(参照画像2a)を示している。これらの図からも判るように、左右のカメラ(基準カメラ1と参照カメラ2)は、同一の対象パターン(テクスチャパターン22)を観察しているにもかかわらず、そのテクスチャパターン22の画像間に幾何学的な歪みが生じ、異なる対象として認識されることがあり、対応付けが困難になる課題があった。
【0016】
そこで、より正確に対応点を求めるために、「ローカルサポート」、「高次特徴を使ったマッチング」、または、「マルチベースラインステレオ」などの手法が提案されている。しかしながら、その正確性は、まだ充分ではない。
【0017】
本発明はこのような状況に鑑みてなされたものであり、テンプレートを変形して、変形テンプレートを生成し、より正確に対応点を見つけることができるようにするものである。
【0018】
【課題を解決するための手段】
請求項1に記載の画像処理装置は、複数の撮像装置により撮像された画像のうち少なくとも1つを基準画像として入力する第1の入力手段と、撮像装置により撮像された画像のうち、基準画像以外を参照画像として入力する第2の入力手段と、基準画像の各画素に基づいて、対象画素とその周辺画素をテンプレートとして設定する設定手段と、設定手段により設定されたテンプレートから、線形補間によりテンプレートの形状を変形して得られる複数の変形テンプレートを生成する生成手段と、複数の変形テンプレートを用いて、参照画像における対応点を求めることにより、基準画像に対する参照画像の対応関係を算定する算定手段とを備え、生成手段は、基準画像上に存在する被写体を構成する画素の画素数と、参照画像上に存在する被写体を構成する画素の画素数との差又は比の一方に基づいて、テンプレートの縦横比を変えることにより、複数の変形テンプレートを生成する。
【0019】
請求項3に記載の画像処理方法は、複数の撮像装置により撮像された画像のうち少なくとも1つを基準画像として入力する第1の入力ステップと、撮像装置により撮像された画像のうち、基準画像以外を参照画像として入力する第2の入力ステップと、基準画像の各画素に基づいて、対象画素とその周辺画素をテンプレートとして設定する設定ステップと、設定ステップの処理により設定されたテンプレートから、線形補間によりテンプレートの形状を変形して得られる複数の変形テンプレートを生成する生成ステップと、複数の変形テンプレートを用いて、参照画像における対応点を求めることにより、基準画像に対する参照画像の対応関係を算定する算定ステップとを含み、生成ステップは、基準画像上に存在する被写体を構成する画素の画素数と、参照画像上に存在する被写体を構成する画素の画素数との差又は比の一方に基づいて、テンプレートの縦横比を変えることにより、複数の変形テンプレートを生成する。
【0020】
請求項4に記載の記録媒体のプログラムは、コンピュータに、複数の撮像装置により撮像された画像のうち少なくとも1つを基準画像として入力する第1の入力ステップと、撮像装置により撮像された画像のうち、基準画像以外を参照画像として入力する第2の入力ステップと、基準画像の各画素に基づいて、対象画素とその周辺画素をテンプレートとして設定する設定ステップと、設定ステップの処理により設定されたテンプレートから、線形補間によりテンプレートの形状を変形して得られる複数の変形テンプレートを生成する生成ステップと、複数の変形テンプレートを用いて、参照画像における対応点を求めることにより、基準画像に対する参照画像の対応関係を算定する算定ステップとを含み、生成ステップは、基準画像上に存在する被写体を構成する画素の画素数と、参照画像上に存在する被写体を構成する画素の画素数との差又は比の一方に基づいて、テンプレートの縦横比を変えることにより、複数の変形テンプレートを生成する処理を実行させる。
【0021】
請求項1に記載の画像処理装置、請求項3に記載の画像処理方法、および請求項4に記載の記録媒体においては、複数の変形テンプレートが生成され、変形テンプレートに基づいて、基準画像に対する参照画像の対応関係が算定される。
【0022】
【発明の実施の形態】
以下、本発明に係わる画像処理装置の構成例について、図面を参照しながら説明する。なお、従来の場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。最初に、本発明の原理について図5を参照して説明する。
【0023】
図5は、2台のカメラ(基準カメラ1と参照カメラ2)から対象パターンを観察したとき、基準画像1aの所定の小領域(テンプレート12)に基づき、複数の変形テンプレート31−1,31−2,31−3・・・を生成し、カメラキャリブレーションにより求められたパラメータを用いて参照画像2aを射影変換し、奥行き方向にs分割して得られた参照画像2a1乃至2aSとのテンプレートマッチングを行う原理を表している。基準カメラ1で観察された基準画像1aからテンプレート12が設定され、さらに、そのテンプレート12が変形される。
【0024】
例えば、図5の例では、縦9個×横9個の画素(以下、9×9と適宜略記する)で構成されているテンプレート12が、3×9,5×9,7×9,9×9,11×9,13×9,15×9の7種類の変形テンプレート31−1乃至31−7に変形される(簡単のため、変形テンプレート31−4乃至31−7の図示は省略されている)。そして、参照画像2a1乃至2aSのエピポーラライン13(図示せず)上で、それぞれの変形テンプレート31−1乃至31−7を用いて、テンプレートマッチングが行なわれる(その具体例については後述する)。
【0025】
なお、カメラキャリブレーションと、1枚の参照画像2aから、射影変換により、奥行き方向にs枚の参照画像2a1乃至2aSを生成する原理の詳細は、例えば、特開平11−53548号公報、特開平11−53549号公報等に開示されている。
【0026】
次に、本発明を適用した画像処理装置の構成について、図6を参照して説明する。基準カメラ1、並びに基準カメラ1と異なる視点に設置されたn台の参照カメラ2−1乃至2−n(以下、これらを個々に区別する必要がない場合、単に参照カメラ2と称する。他の装置においても同様とする)は、テクスチャパターン22をそれぞれ同時に撮像し、撮像された観察画像(基準画像1a、または参照画像2a−1乃至2a−n)を電気信号(画像信号)に変換する。
【0027】
画像処理装置41は、例えば、パーソナルコンピュータにより構成されており、基準カメラ1と参照カメラ2−1乃至2−nから入力された画像信号に対して所定の処理を実行する。画像メモリ51は、基準カメラ1より入力された画像信号を記憶し、画像メモリ52−1乃至52−nは、参照カメラ2−1乃至2−nより入力された画像信号をそれぞれ記憶する。
【0028】
テンプレート設定部53は、画像メモリ51に記憶されている基準画像1aのうち、任意の注目点11を決定し、その注目点11の周りに局所的な領域(テンプレート12)を設定し、テンプレート変形部55に入力する。テンプレート変形部55は、入力されたテンプレート12の形状に基づいて、例えば、線形補間により複数個の変形テンプレート31−1乃至31−rを生成し、マッチング演算部54−1乃至54−nに入力する。
【0029】
マッチング演算部54−1乃至54−nは、画像メモリ52−1乃至52−nに記憶されている参照画像2a−1乃至2a−nのうちのエピポーラライン13上の画像と、テンプレート変形部55より入力された変形テンプレート31−1乃至31−rを用いて、エピポーラライン13上のテンプレートマッチングを行なう。選択部56−1乃至56−nは、テンプレートマッチングの結果に基づいて、変形テンプレート31−1乃至31−rの中から、類似度が最も高くなるものを決定し、図示せぬメモリに保存する。また、選択部56−1乃至56−nは、類似度が最も高くなるときの座標位置を視差とし、距離画像演算部57にその座標値を入力する。距離画像演算部57は、三角測量の原理に基づいて、入力された座標値から距離値(奥行き)を演算し、さらに、入力された座標値とメモリに保存されている変形テンプレート31に基づいて、画像を生成する。
【0030】
次に、本発明の実施の形態の動作を説明する前に、左右のカメラで観察された画像の形状が変形する一般的な原理を説明する。図7は、基準カメラ1と参照カメラ2を水平方向に設置し、それぞれのカメラから斜面上にある線分Lを観察した場合において、観察画像の形状が視点により変化する原理を表わしている。左右に配置された基準カメラ1と参照カメラ2は、3次元空間に置かれた斜面上にある線分Lを観察する。このとき、線分L上の4点a,b,c,dは、参照カメラ2から観察した場合、それぞれ、基準カメラ1と参照カメラ2を結んだ直線と平行な線分L´上の点a´,b´,c´,d´に投影される。また、これらの線分L,L´を観察する基準カメラ1の視点i、および参照カメラ2の視点jは、線分L,L´と同一平面上に配置されている。
【0031】
この図からも判るように、基準カメラ1で観察された基準画像1a上の直線Lの長さP1と、参照カメラ2で観察された参照画像2a上の直線Lの長さP2とは、必ずしも同一とはならない。ここで、基準カメラ1と参照カメラ2のレンズの焦点距離をFとし、基準カメラ1と参照カメラ2の間の距離(ベースラインの距離と称する)をgh(ij)=Bとし、左右のカメラの視点i,jから線分Lまでの直線距離をZとする。また、基準カメラ1が撮像した線分Lは、線分L´上に線分b´c´=L1として投影されているものとし、さらに参照カメラ2が撮像した線分Lは直線L´に線分a´d´=L2として投影されているものとすると、次式(2)に従って、基準カメラ1で観察された基準画像1aと参照カメラ2で観察された参照画像2aの画像間の差P1−P2を演算することができる。
【0032】
P2−P1=(F/Z)・(L2−L1) ・・・(2)
【0033】
ここで、eb´=ΔL1,a´e=ΔL2,c´f=ΔL3,fd´=ΔL4とおくと、上記式(2)は、以下のように表わされる。
【0034】
P2−P1=(F/Z)・(ΔL1+ΔL2+ΔL3+ΔL4) ・・・(3)
【0035】
さらに、gib´=α1,gic´=α2,a´jh=β1,d´jh=β2とすると、ΔL1乃至ΔL4は、以下の式(4)乃至式(7)のように表わされる。なお、これらの式において、Dは、点aと点dの奥行き方向の距離を表わす。
【0036】
ΔL1=(D/2)・tanα1 ・・・(4)
【0037】
【数2】
【0038】
ΔL3=(D/2)・tanα2 ・・・(6)
【0039】
【数3】
【0040】
さらにまた、tanα1,tanα2は、以下の式(8)と式(9)のように表わされる。ここで、x11は、点iから基準画像1a上に垂らした垂線と基準画像1aとの交点pから、点aと点iを結ぶ直線と基準画像1aとの交点までの距離を表わす。また、x12は、点pから、点dと点iを結ぶ直線と基準画像1aとの交点までの距離を表わす。
【0041】
tanα1=x11/F ・・・(8)
tanα2=x12/F ・・・(9)
【0042】
従って、式(4)乃至式(9)を式(3)に代入することにより、次式(10)を得ることができ、基準カメラ1で観察された基準画像1aと参照カメラ2で観察された参照画像2aの画像間の差P2−P1を求めることができる。
【0043】
P2−P1=(F/Z)・{(4ZDB)/(4Z2−D2)} ・・・(10)
【0044】
上記式(10)で求められた画像間の差P2−P1の単位は、例えば、mmである。ここで、基準画像1aの横方向の画素数をm(pixel)とし、基準カメラ1と参照カメラ2のCCDチップの横方向の長さをk(mm)とすると、以下のように基準カメラ1で観察された基準画像1aと参照カメラ2で観察された参照画像2aの画像間の画素数の差(P2−P1)Pは、式(11)に示すように求めることができる。
【0045】
(P2−P1)P={(4FDB)/(4Z2−D2)}・(m/k)
・・・(11)
【0046】
また、線分Lの奥行き(距離値)Dは、線分Lの角度φなどと関連し、次式(12)により表わすことができる。
【0047】
D=L・sinφ ・・・(12)
【0048】
図8は、線分Lが観察され、参照画像2aのエピポーラライン13上でテンプレートマッチングが行なわれる場合、画素数の差(P2−P1)Pを、上記式(11)に従って演算した例を示している。ここで、レンズの焦点距離F=8(mm)、カメラ間の距離B=80(mm)、カメラの視点i,jから線分Lまでの距離Z=500(mm)、基準画像1aの画素数m=720(pixel)、CCDチップの横方向の長さk=4.8(mm)とされている。また、テンプレート12のウィンドウサイズは、3×3,5×5,7×7,9×9,11×11,13×13,15×15,17×17,19×19とされる。
【0049】
例えば、線分Lの角度φが15(度)の場合、用いられるテンプレート12のサイズが3×3のとき、画素数の差(P2−P1)Pは0.132(pixel)となり、また、用いられるテンプレート12のサイズが9×9のとき、画素数の差(P2−P1)Pは0.395(pixel)となり、さらにまた、用いられるテンプレート12のサイズが15×15のとき、画素数の差(P2−P1)Pは0.659(pixel)となる。
【0050】
また、例えば、線分Lの角度φが45(度)の場合、用いられるテンプレート12のサイズが5×5のとき、画素数の差(P2−P1)Pは0.875(pixel)となり、また、用いられるテンプレート12のサイズが11×11のとき、画素数の差(P2−P1)Pは1.93(pixel)となり、さらにまた、用いられるテンプレート12のサイズが17×17のとき、画素数の差(P2−P1)Pは2.99(pixel)となる。
【0051】
さらにまた、例えば、線分Lの角度φが75(度)の場合、用いられるテンプレート12のサイズが7×7のとき、画素数の差(P2−P1)Pは6.164(pixel)となり、また、用いられるテンプレート12のサイズが13×13のとき、画素数の差(P2−P1)Pは11.607(pixel)となり、さらにまた、用いられるテンプレート12のサイズが19×19のとき、画素数の差(P2−P1)Pは17.204(pixel)となる。
【0052】
この結果からも判るように、同一の対象(線分L)を観察しているにもかかわらず、テンプレート12のサイズにより、また、線分Lの角度φにより、画像上の線分の長さが異なる。従って、基準カメラ1と異なる視点にある参照カメラ2が観察した参照画像2aに対して、縦横比が同じである1枚のテンプレート12を用いてテンプレートマッチングを行なう場合、また、角度φが大きい線分Lを観察してテンプレートマッチングを行なう場合(奥行きが大きくなる場合)、必ずしも正しい距離値を得ることができない。
【0053】
そこで、本発明では、正しい距離値を得るために、基準カメラ1で観察された基準画像1aからテンプレート12が設定され、さらに、複数個の変形テンプレート31が生成され、複数個の変形テンプレート31を用いて、参照画像2aのうちのエピポーラライン13の画像とテンプレートマッチングが行なわれるようにするものである。
【0054】
次に、本発明の実施の形態において、異なるカメラで観察された画像の距離画像計算処理を行なう場合の動作について、図9のフローチャートを参照して説明する。ステップS1において、基準カメラ1は、観測した基準画像1aの画素をIm1(x,y)として画像メモリ51に入力し、記憶させる。ステップS2において、テンプレート設定部53は、画像メモリ51に記憶されている基準画像1aの画素Im1(x,y)のうち、任意の注目点11を決定し、その注目点11の周りにテンプレートT(x,y)を設定する。
【0055】
ステップS3において、テンプレート変形部55は、ステップS2で設定されたテンプレートT(x,y)を、線形補間により変形し、変形テンプレートTj(j=1,2・・・J)を生成する。例えば、図10に示すように、縦9個×横9個の画素(以下、9×9と適宜略記する)で構成されているテンプレートT(x,y)の大きさと形状が任意の方向に変形される。図10(A)は、9×9で構成されているテンプレートT(x,y)を、線形補間により水平方向(x方向)に、9×3,9×5,9×7,9×9,9×11,9×13,9×15の7種類に変形させた変形テンプレートT1乃至T7を表わしている。同図において、J=7である。
【0056】
また、テンプレートT(x,y)は、垂直方向(y方向)に変形させてもよい。この場合、例えば、図10(B)に示すように、3×9,5×9,7×9,9×9,11×9,13×9,15×9の7種類の変形テンプレートY1乃至Y7が生成される。
【0057】
図9に戻って、ステップS1,S2,S3の処理と平行して、ステップS4乃至S7の処理が行なわれる。ステップS4において、参照カメラ2−1は、観測した参照画像2a−1の画素Im2(x,y)を画像メモリ52−1に入力する。ステップS5において、マッチング演算部54−1は、カメラキャリブレーションにより求められたパラメータを用いて参照画像2a−1を射影変換し、奥行き方向にs分割した、参照画像2a1乃至2aSを生成する。
【0058】
ステップS6において、変数iに0が初期設定される。ステップS7において、変数iが1だけインクリメントされ、いまの場合、i=1とされる。
【0059】
ステップS8において、マッチング演算部54−1は、第i番目(いまの場合、i=1)の参照画像2aiの画素Im2i(xi,yi)と、ステップS3で生成された変形テンプレートTjを用いて、エピポーラライン13上のテンプレートマッチングを行ない、最大マッチングスコアを算出する。
【0060】
ここで、図11を参照して、マッチング演算部54−1の変形テンプレートTjを用いた最大マッチングスコア算出処理について説明する。ステップS21において、変形テンプレートTjの変数jと、最大マッチングスコア値Miに、それぞれ0が初期設定される。ステップS22において、変数jが1だけインクリメントされ、いまの場合、j=1とされる。
【0061】
ステップS23において、マッチング演算部54−1は、テンプレート変形部55で変形された変形テンプレートTj(j=1)と、第i番目(i=1)の参照画像2aiの画素Im2i(xi,yi)における同一領域とのマッチングスコア値Mj(テンプレートと参照画像の相関が高い程、大きくなる値であり、例えば、式(1)で示す一致度R(x,y)の逆数として求められる)を計算する。
【0062】
ステップS24において、マッチング演算部54−1は、ステップS23で計算されたマッチングスコア値Mjの値が、メモリに保存されている最大マッチングスコア値Miの値より大きいか否かを判定し、マッチングスコア値Mjの値が、最大マッチングスコア値Mi(いまの場合、Mi=0)の値より大きいと判定された場合、ステップS25に進み、マッチング演算部54−1は、マッチングスコア値Mjの値を、最大マッチングスコア値Miに代入し、ステップS26に進む。ステップS24において、マッチングスコア値Mjの値が、最大マッチングスコア値Miの値より小さいと判定された場合、ステップS25の処理はスキップされ、処理はステップS26に進む。
【0063】
ステップS26において、マッチング演算部54−1は、全ての変形テンプレートTjを用いて、第i番目の参照画像2aiの画素Im2i(xi,yi)とのマッチング処理が終了したか否かを判定し、処理が終了していないと判定された場合、ステップS22に戻り、変数jの値を1だけインクリメントし、いまの場合、j=2とする。これにより、第2番目の変形テンプレートが選択され、以下、同様の処理が繰り返される。
【0064】
ステップS26において、全ての変形テンプレートTjを用いて、第i番目の参照画像2aiの画素Im2i(xi,yi)とのマッチング処理が終了したと判定されるまで上述した処理が繰り返される。
【0065】
図9に戻って、ステップS9において、マッチング演算部54−1は、第i番目の参照画像2aiにおける全ての画素Im2i(xi,yi)との最大マッチングスコアの算出処理が終了したか否かを判定し、終了していないと判定された場合、ステップS2に戻り、ステップS9において、第i番目の参照画像2aiにおける全ての画素Im2i(xi,yi)との最大マッチングスコアの算出処理が終了したと判定されるまで、上述した処理を繰り返す。
【0066】
ステップS9において、第i番目(いまの場合、i=1)の参照画像2aiにおける全ての画素Im2i(xi,yi)との最大マッチングスコアの算出処理が終了したと判定されると、マッチング演算部54−1は、さらに、ステップS10において、全ての参照画像2a1乃至2aSとのマッチング処理が終了したか否かを判定し、終了していないと判定された場合、ステップS7に戻り、変数iの値を1だけインクリメントし、i=2とする。その後、ステップS8に進み、同様の処理が、ステップS10において、全ての参照画像2a1乃至2aSとのマッチング処理が終了したと判定されるまで繰り返される。
【0067】
そして、ステップS10において、全ての参照画像2a1乃至2aSとのマッチング処理が終了したと判定されると、選択部56−1は、最大マッチングスコア値Miから、類似度が最も高くなる(最大マッチングスコア値Miの値が最大となる)変形テンプレートTjを決定し、図示せぬメモリに保存する。また、選択部56−1は、類似度が最も高くなるときの参照画像2a−1の画素Im2(x,y)を選択し、距離画像演算部57に入力する。
【0068】
図12は、上述したような最大マッチングスコア算出処理により、各変形テンプレートTjを用いて、最大マッチングスコア値Miが算出された結果を示している。同図において、横軸は変形テンプレートTjを表わし、縦軸は類似度を表わしている。例えば、図12では、変形テンプレートT6において、最も類似度が高くなるため、変形テンプレートT6がメモリに保存され、そのときの参照画像2a−1の画素Im2(x,y)が距離画像演算部57に入力される。
【0069】
図9に戻って、ステップS11において、距離画像演算部57は、最大マッチングスコア値Miが得られたときの変形テンプレートの移動量を、それぞれの注目画素点の視差とし、三角測量の原理により、距離画像が生成され、処理を終了する。
【0070】
以上においては、変形テンプレートTjを長方形に変形させる方法を例として説明したが、例えば、台形などのその他の形状に変形しても適用できる。また、テンプレート12の縦横比を決める基準として、式(11)を用いたが、次式(13)を用いることも可能である。
【0071】
【数4】
【0072】
また、基準カメラ1で観察された基準画像1aと参照カメラ2で観察された参照画像2aの画像間の差P1−P2を求めるだけでなく、次式(14)に従って、画像間の比P1/P2を求めることにより、テンプレート12の縦横比を決定することもできる。
【0073】
【数5】
【0074】
上述したように、テンプレート12から複数個の変形テンプレート31(元のテンプレート12を含む)を生成し、その変形テンプレートを用いてテンプレートマッチングを行なうようにしたので、画像間の対応付けの曖昧さを低減し、ミスマッチングの発生頻度が大きく抑えられ、より信頼性の高い距離値を得ることができる。
【0075】
従って、複雑な3次元形状のうち、特に奥行き方向の形状が複雑な対象に対しても、高精度に距離値を測定することができる。
【0076】
上述した一連の処理は、ハードウエアにより実行させることもできるが、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアとしての画像処理装置41に組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどにインストールされる。
【0077】
次に、図13を参照して、上述した一連の処理を実行するプログラムをコンピュータにインストールし、コンピュータによって実行可能な状態とするために用いられる媒体について、そのコンピュータが汎用のパーソナルコンピュータである場合を例として説明する。
【0078】
プログラムは、図13(A)に示すように、パーソナルコンピュータ61に内蔵されている記録媒体としてのハードディスク62や半導体メモリ63に予めインストールした状態でユーザに提供することができる。
【0079】
あるいはまた、プログラムは、図13(B)に示すように、フロッピーディスク71、CD-ROM(CD-Read Only Memory)72、MO(Magneto-Optical)ディスク73、DVD(Digital Versatile Disc)74、磁気ディスク75、または半導体メモリ76などの記録媒体に、一時的あるいは永続的に格納し、パッケージソフトウエアとして提供することができる。
【0080】
さらに、プログラムは、図13(C)に示すように、ダウンロードサイト81から、デジタル衛星放送用の人工衛星82を介して、パーソナルコンピュータ61に無線で転送したり、ローカルエリアネットワーク、インターネットといったネットワーク91を介して、パーソナルコンピュータ61に有線で転送し、パーソナルコンピュータ61おいて、内蔵するハードディスク62などに格納させることができる。
【0081】
本明細書における媒体とは、これら全ての媒体を含む広義の概念を意味するものである。
【0082】
パーソナルコンピュータ61は、例えば、図14に示すように、CPU102を内蔵している。CPU102にはバス101を介して入出力インタフェース105が接続されており、CPU102は、入出力インタフェース105を介して、ユーザから、キーボード、マウスなどよりなる入力部107から指令が入力されると、それに対応して、図13(A)の半導体メモリ63に対応するROM103に格納されているプログラムを実行する。あるいはまた、CPU102は、ハードディスク62に予め格納されているプログラム、人工衛星82もしくはネットワーク91から転送され、通信部108により受信され、さらにハードディスク62にインストールされたプログラム、またはドライブ109に装着されたフロッピーディスク71、CD-ROM72、MOディスク73、DVD74、もしくは磁気ディスク75から読み出され、ハードディスク62にインストールされたプログラムを、RAM104にロードして実行する。さらに、CPU102は、その処理結果を、例えば、入出力インタフェース105を介して、LCD(Liquid Crystal Display)などよりなる表示部106に必要に応じて出力する。
【0083】
なお、本明細書において、媒体により提供されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0084】
【発明の効果】
本発明によれば、より高精度に画像の対応付けを行なうことができる。
【図面の簡単な説明】
【図1】ステレオ法の原理を説明する図である。
【図2】 Area−Basedマッチングの原理を説明する図である。
【図3】ステレオ法を用いた基準カメラ1と参照カメラ2の対応付けを説明する図である。
【図4】図3のカメラで観察された画像を説明する図である。
【図5】本発明の原理を説明する図である。
【図6】本発明を適用した画像処理装置の構成を示すブロック図である。
【図7】カメラの視点により観察画像の形状が変形する原理を説明する図である。
【図8】距離値Dを演算した結果を説明する図である。
【図9】図6の画像処理装置の動作を説明するフローチャートである。
【図10】変形テンプレートを説明する図である。
【図11】図9のステップS8の最大マッチングスコア算出処理を説明するフローチャートである。
【図12】類似度を説明する図である。
【図13】媒体を説明する図である。
【図14】図13のパーソナルコンピュータ61の構成を示すブロック図である。
【符号の説明】
1 基準カメラ, 1a 基準画像, 2−1乃至2−n 参照カメラ, 2a1乃至2aS 参照画像, 11A乃至11C 注目点, 12A乃至12C テンプレート, 21 平面, 22 テクスチャパターン, 31−1乃至31−3 変形テンプレート, 41 画像処理装置, 51,52−1乃至52−n 画像メモリ, 53 テンプレート設定部, 54−1乃至54−n マッチング演算部, 55 テンプレート変形部, 56−1乃至56−n 選択部, 57 距離画像演算部
Claims (4)
- 複数の撮像装置により撮像された画像のうち少なくとも1つを基準画像として入力する第1の入力手段と、
前記撮像装置により撮像された画像のうち、前記基準画像以外を参照画像として入力する第2の入力手段と、
前記基準画像の各画素に基づいて、対象画素とその周辺画素をテンプレートとして設定する設定手段と、
前記設定手段により設定された前記テンプレートから、線形補間により前記テンプレートの形状を変形して得られる複数の変形テンプレートを生成する生成手段と、
前記複数の変形テンプレートを用いて、前記参照画像における対応点を求めることにより、前記基準画像に対する参照画像の対応関係を算定する算定手段と
を備え、
前記生成手段は、前記基準画像上に存在する被写体を構成する画素の画素数と、前記参照画像上に存在する前記被写体を構成する画素の画素数との差又は比の一方に基づいて、前記テンプレートの縦横比を変えることにより、前記複数の変形テンプレートを生成する
画像処理装置。 - 前記算定手段は、前記複数の変形テンプレートに対して、前記参照画像の各画素における類似度を算出し、算出された前記類似度のうち、最も相関が高くなる座標を抽出して対応点とする
請求項1に記載の画像処理装置。 - 複数の撮像装置により撮像された画像のうち少なくとも1つを基準画像として入力する第1の入力ステップと、
前記撮像装置により撮像された画像のうち、前記基準画像以外を参照画像として入力する第2の入力ステップと、
前記基準画像の各画素に基づいて、対象画素とその周辺画素をテンプレートとして設定する設定ステップと、
前記設定ステップの処理により設定された前記テンプレートから、線形補間により前記テンプレートの形状を変形して得られる複数の変形テンプレートを生成する生成ステップと、
前記複数の変形テンプレートを用いて、前記参照画像における対応点を求めることにより、前記基準画像に対する参照画像の対応関係を算定する算定ステップと
を含み、
前記生成ステップは、前記基準画像上に存在する被写体を構成する画素の画素数と、前記参照画像上に存在する前記被写体を構成する画素の画素数との差又は比の一方に基づいて、前記テンプレートの縦横比を変えることにより、前記複数の変形テンプレートを生成する
画像処理方法。 - コンピュータに、
複数の撮像装置により撮像された画像のうち少なくとも1つを基準画像として入力する第1の入力ステップと、
前記撮像装置により撮像された画像のうち、前記基準画像以外を参照画像として入力する第2の入力ステップと、
前記基準画像の各画素に基づいて、対象画素とその周辺画素をテンプレートとして設定する設定ステップと、
前記設定ステップの処理により設定された前記テンプレートから、線形補間により前記テンプレートの形状を変形して得られる複数の変形テンプレートを生成する生成ステップと、
前記複数の変形テンプレートを用いて、前記参照画像における対応点を求めることにより、前記基準画像に対する参照画像の対応関係を算定する算定ステップと
を含み、
前記生成ステップは、前記基準画像上に存在する被写体を構成する画素の画素数と、前記参照画像上に存在する前記被写体を構成する画素の画素数との差又は比の一方に基づいて、前記テンプレートの縦横比を変えることにより、前記複数の変形テンプレートを生成する
処理を実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000182697A JP4524514B2 (ja) | 1999-08-05 | 2000-06-19 | 画像処理装置、画像処理方法、および記録媒体 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP11-221918 | 1999-08-05 | ||
JP22191899 | 1999-08-05 | ||
JP2000182697A JP4524514B2 (ja) | 1999-08-05 | 2000-06-19 | 画像処理装置、画像処理方法、および記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001109879A JP2001109879A (ja) | 2001-04-20 |
JP4524514B2 true JP4524514B2 (ja) | 2010-08-18 |
Family
ID=26524578
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000182697A Expired - Fee Related JP4524514B2 (ja) | 1999-08-05 | 2000-06-19 | 画像処理装置、画像処理方法、および記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4524514B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021076495A (ja) * | 2019-11-11 | 2021-05-20 | キヤノン株式会社 | 視差検出装置、撮像装置、視差検出方法、及びプログラム |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4082410B2 (ja) * | 2002-10-22 | 2008-04-30 | トヨタ自動車株式会社 | 画像処理方法および画像処理装置 |
JP2004340753A (ja) * | 2003-05-15 | 2004-12-02 | Topcon Corp | キャリブレーションチャート画像表示装置 |
JP4095491B2 (ja) | 2003-05-19 | 2008-06-04 | 本田技研工業株式会社 | 距離測定装置、距離測定方法、及び距離測定プログラム |
CN101512601B (zh) * | 2006-09-04 | 2013-07-31 | 皇家飞利浦电子股份有限公司 | 从图像中确定深度图的方法以及确定深度图的设备 |
JP4752918B2 (ja) | 2009-01-16 | 2011-08-17 | カシオ計算機株式会社 | 画像処理装置、画像照合方法、および、プログラム |
JP2013113712A (ja) * | 2011-11-29 | 2013-06-10 | Sharp Corp | ステレオ3次元計測装置 |
US10008027B1 (en) * | 2014-10-20 | 2018-06-26 | Henry Harlyn Baker | Techniques for determining a three-dimensional representation of a surface of an object from a set of images |
JP2016095229A (ja) * | 2014-11-14 | 2016-05-26 | 株式会社リコー | 視差値導出装置、移動体、ロボット、視差値生産方法、及びプログラム |
DE112017008107T5 (de) | 2017-09-28 | 2020-06-25 | Yamaha Hatsudoki Kabushiki Kaisha | Bauteilmontagevorrichtung |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08313214A (ja) * | 1995-05-22 | 1996-11-29 | Toyo Commun Equip Co Ltd | 位置特定法 |
JPH1021403A (ja) * | 1996-07-05 | 1998-01-23 | Canon Inc | 対応点抽出方法及び装置 |
JP4006657B2 (ja) * | 1997-08-01 | 2007-11-14 | ソニー株式会社 | 画像処理装置および画像処理方法 |
JPH1153549A (ja) * | 1997-08-01 | 1999-02-26 | Sony Corp | 画像処理装置、画像処理方法、および、伝送媒体 |
JP3274825B2 (ja) * | 1997-09-16 | 2002-04-15 | 嘉樹 水上 | 手書き文字認識方法と装置 |
JP3800905B2 (ja) * | 1999-07-27 | 2006-07-26 | 松下電工株式会社 | 画像特徴追跡処理方法、画像特徴追跡処理装置、3次元データ作成方法 |
-
2000
- 2000-06-19 JP JP2000182697A patent/JP4524514B2/ja not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021076495A (ja) * | 2019-11-11 | 2021-05-20 | キヤノン株式会社 | 視差検出装置、撮像装置、視差検出方法、及びプログラム |
JP7341033B2 (ja) | 2019-11-11 | 2023-09-08 | キヤノン株式会社 | 視差検出装置、撮像装置、視差検出方法、及びプログラム |
US11909942B2 (en) | 2019-11-11 | 2024-02-20 | Canon Kabushiki Kaisha | Parallax detecting apparatus, image capturing apparatus, parallax detecting method, and storage medium |
Also Published As
Publication number | Publication date |
---|---|
JP2001109879A (ja) | 2001-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6801653B1 (en) | Information processing apparatus and method as well as medium | |
JP5430456B2 (ja) | 幾何特徴抽出装置、幾何特徴抽出方法、及びプログラム、三次元計測装置、物体認識装置 | |
US6438507B1 (en) | Data processing method and processing device | |
JP2003346157A (ja) | 物体追跡装置及び方法 | |
JP2006221603A (ja) | 3次元情報復元装置、3次元情報復元方法および3次元情報復元プログラム | |
JP2002024807A (ja) | 物体運動追跡手法及び記録媒体 | |
JP4941565B2 (ja) | 対応点探索装置および対応点探索方法 | |
JP4524514B2 (ja) | 画像処理装置、画像処理方法、および記録媒体 | |
JP2004235934A (ja) | キャリブレーション処理装置、およびキャリブレーション処理方法、並びにコンピュータ・プログラム | |
CN113538587A (zh) | 一种相机坐标变换方法、终端以及存储介质 | |
JP7219561B2 (ja) | 車載環境認識装置 | |
JP2006214893A (ja) | 対象物測定方法及びコンピュータシステムを用いて対象物の三次元形状を計測するためのコンピュータソフトウエアプログラム | |
JP2961264B1 (ja) | 3次元物体モデル生成方法及び3次元物体モデル生成プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP6400252B2 (ja) | 位置合わせ装置、位置合わせ方法及び位置合わせプログラム | |
EP3832600A1 (en) | Image processing device and three-dimensional measuring system | |
JP6494402B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム | |
JP2007323616A (ja) | 画像処理装置及びその処理方法 | |
JP4608152B2 (ja) | 三次元データ処理装置および三次元データ処理方法、並びにプログラム提供媒体 | |
JP6315542B2 (ja) | 画像生成装置及び画像生成方法 | |
JP2003050110A (ja) | 3次元形状データ生成システム、3次元形状データ生成方法、プログラム、および記録媒体 | |
JP7298687B2 (ja) | 物体認識装置及び物体認識方法 | |
JP2018032144A (ja) | 画像処理装置、画像処理方法およびプログラム。 | |
JP5814714B2 (ja) | 画像類似度判定装置、画像類似度判定方法及び画像類似度判定プログラム | |
JP2019175165A (ja) | オブジェクト追跡装置、オブジェクト追跡方法、及びオブジェクト追跡プログラム | |
JP2010205040A (ja) | 路面形状認識装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070125 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091105 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091210 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100201 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100225 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100414 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100506 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100519 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130611 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130611 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |