JP3912638B2 - 3次元画像処理装置 - Google Patents
3次元画像処理装置 Download PDFInfo
- Publication number
- JP3912638B2 JP3912638B2 JP19747398A JP19747398A JP3912638B2 JP 3912638 B2 JP3912638 B2 JP 3912638B2 JP 19747398 A JP19747398 A JP 19747398A JP 19747398 A JP19747398 A JP 19747398A JP 3912638 B2 JP3912638 B2 JP 3912638B2
- Authority
- JP
- Japan
- Prior art keywords
- epipolar line
- search
- search range
- corresponding point
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、対象物体に関するステレオ画像の相対応する画素点間の視差ベクトルを求め、それをもとに対象物体までの距離を計算する3次元画像処理装置に関するものである。
【0002】
【従来の技術】
ステレオカメラにより同一対象物体に関する左右一対の画像からなるステレオ画像を得て、対象物体上のある1点が一方の画面に投影されているとき、他方の画面上での投影先が分かれば、三角測量の原理に基づいて対象物体上の点までの距離を計算することができる。このことは例えば、文献「グラフィックスとビジョン」(オーム社発行、第28〜31頁)に開示されているところである。本発明は、この投影先の探索、すなわちステレオ画像の対応点探索技術を応用した3次元画像処理方法および装置に関するものである。
【0003】
図6に示すように、上記文献においては対象物体2上の点Q(x,y,z)を、光軸Ol,Or間に一定の距離(=基線長)Bをおいて配置された左右一対の撮像カメラ4,6により撮像された左右一対のステレオ画像における対応画素のX−Y座標平面上の座標Ql(Xl,Yl),Qr(Xr,Yr)を求め、その視差Ql−Qr=(Xl−Xr,Yl−Yr)を用いて、対応画素に対応する対象物体2上の測定点までの距離Zを求める。ここで、ステレオ画像を処理する3次元画像入力装置では、通常、2台のカメラ4,6は光軸Ol,Orが同一X−Z平面上に含まれるように配置されるので、Yl=Yrであり、対応点探索はエピポーラ線Epl,Eprである同じ走査線上で行えば良いことになる。すなわち、撮像カメラ4,6の光軸Ol,Or間の距離をB、焦点距離をfとすると、対象物体2上の点Q(x,y,z)が左右のカメラ画面上の点Ql(Xl,Yl)、点Qr(Xr,Yr)にそれぞれ投影された時、対象物体2の点Q(x,y,z)までの距離Zは、
Z=B*f/( Xl−Xr) …(1)
で表される。ここで、Xl−Xrは視差を表し、左画像を基準画像とした場合、右画像の対応点Qr(Xr,Yr)における視差ベクトルは一般にVp(Xl−Xr,Yl−Yr)と表される。
【0004】
図7は従来の画像処理装置のブロック図を示すものである。図7において、対象物体2に関し、CCD等からなる左画像用の撮像カメラ4および右画像用の撮像カメラ6によってステレオ画像を得て、それに基づき対応点検出器8により対応点探索が行われる。対応点検出器8は、例えば特開平9−33249号公報に開示されている相関関数などの評価関数に従って画素毎の対応付けを行う。ここで、2台のカメラ4,6は光軸Ol,Orが同一X−Z座標平面上に含まれるように、Yl=Yrの関係に配置されているものとする。対応点検出器8によって探索された対応点を用いて各画素毎の視差ベクトルを計算する。得られた視差ベクトルを用いて距離計算器10により距離計算が行われる。
【0005】
ここで、前述したように、2台の撮像カメラ4,6をその光軸Ol,Orが同一X−Z座標平面上に含まれるように配置しておくことにより、対応点の探索はエピポーラ線Epl,Eprである走査線上のみで行えば良いことになる。例えば左画像上の点Ql(Xl,Yl)と右画像上の点Qr(Xr,Yr)が対応する場合、点Ql(Xl,Yl)における視差ベクトルはVp(Xl−Xr,Yl−Yr)である。ここで、2つの点Ql,Qrは同じ走査線(エピポーラ線)上にあるので、Yl=Yrであり、視差ベクトルは、Vp(Xl−Xr,0)と表されることになる。このような視差ベクトルVpを、画像上の全ての画素点について求め、視差ベクトル群を作成する。
【0006】
【発明が解決しようとする課題】
しかしながら、従来の方法による対応点探索では、カメラ位置から推定するエピポーラ線方向の検出誤差が存在する場合、エピポーラ線上に対応点があると仮定して1次元的に探索すると、対応点マッチング誤差が本来極小になるべき領域を探索できないことがあり、その結果、間違った視差ベクトルを検出してしまい、信頼性の高い距離データを得ることが難しかった。
【0007】
またエピポーラ線を意識せずに大きな2次元領域で対応点探索を行うと、画素検索のために非常に多くの計算量が必要となる。
【0008】
本発明は上記事情を考慮してなされたものであり、エピポーラ線で対応点探索を行った場合のマッチングミスによる間違った視差ベクトルの検出を回避し、信頼性の高い距離データを得ることを目的とするものである。
【0009】
さらに本発明は、画素検索のための計算量を減少させることを目的とするものである。
【0010】
【課題を解決するための手段】
上記目的を達成するために、請求項1に係る発明の画像処理装置は、対象物体に関するステレオ画像の相対応する両画素点間を結ぶエピポーラ線の方向を計算するエピポーラ線方向計算手段と、エピポーラ線に対し直交する直交方向を計算するエピポーラ線直交方向計算手段と、エピポーラ線方向およびエピポーラ線直交方向にそれぞれ相対応する両画素点を含むように画面上の2次元探索範囲を決定する探索範囲決定手段と、決定された2次元探索範囲内で対応点探索を行って視差ベクトルを求める対応点検出手段と、求められた視差ベクトルに対しエピポーラ線への写像を行って視差ベクトルのエピポーラ線方向成分を求め、求められたエピポーラ線方向成分に基づいてステレオ画像から対象物体までの距離を計算する距離計算手段とを備えたものである。
【0011】
請求項2に係る発明は、請求項1に記載の3次元画像処理装置において、探索範囲決定手段は、決定した2次元探索範囲を、少なくとも対応点探索のマッチングブロックの大きさ相当分だけ画面の垂直方向に拡大する手段を持つようにしたものである。
【0012】
上記のように構成された3次元画像処理装置によれば、エピポーラ線方向と、エピポーラ線に対し直交方向の2次元領域を含む領域の対応点探索を行うことができるので、実際に誤差を含むカメラ位置などの情報から算出して設定されたエピポーラ線で対応点探索を行った場合の、マッチングミスにより間違った視差ベクトルを検出してしまうことがなくなり、信頼性の高い距離データを得ることができる。
【0013】
また、エピポーラ線を意識することなく大きな2次元領域で対応点探索を行う場合に比べ、エピポーラ線方向と、エピポーラ線に対し直交方向であって、対応点探索のマッチングブロックの大きさを加算した値の大きさ程度の2次元領域を含む領域の対応点探索を行うことができるので、正確で、しかも画素検索の計算量を大きく減少することができる。
【0014】
【発明の実施の形態】
本発明の実施の形態を、図を参照して説明する。
図1は本発明による3次元画像処理装置のブロック図を示すものである。左右一対の撮像カメラ4,6により撮像された対象物体2についての左画像Plおよび右画像Prは対応点検出器8において、特開平9−33249号公報に開示されている相関関数などの評価関数に従って、画素毎の対応付けが行われる。ここで、既に述べたように、2台の撮像カメラ4,6はその光軸が同一X−Z平面上に含まれるように配置される。正しく配置される限り、対応点の探索はエピポーラ線である走査線上のみ行えばよいのであるが、実際には、走査線上に1画素分も誤差なく配置されていることはむしろ少ない。そこで、左画像Plおよび右画像Prは対応点検出器8に入力されると同時に、エピポーラ線方向計算器12に入力される。
【0015】
エピポーラ線方向計算器12におけるエピポーラ線方向の計算方法を、図2を参照して説明する。ここでは予め判別されている対応点、もしくは、非常に判別しやすい特徴点が、左画像PlにはR点(Xl,Yl)に、右画像PrにはS点(Xr,Yr)に存在していたとする。この2点R,Sを直線で結ぶことによりエピポーラ線Epの方向が求められる。ここでは、エピポーラ線Epの方向はX軸方向線またはそれに平行な水平基準線X′に対して角度θだけ傾斜しているものとする。次に、このエピポーラ線Epの方向データをエピポーラ線直交方向計算器14に入力する。ここでは、入力されたエピポーラ線Epに対して直角な直交方向Tを求める。
【0016】
このようにして求められたエピポーラ線Epおよび直交方向Tのデータは次に探索範囲決定器16に入力される。探索範囲決定器16は対応点探索範囲をエピポーラ線Epおよび直交方向Tを用いてエピポーラ線方向探索範囲および直交方向探索範囲を決定する。各方向の探索範囲の幅は探索エンジンの処理能力などに依存していて、予め決定しておく値である。
【0017】
図3において、エピポーラ線方向探索範囲をa〜b=c〜dとし、直交方向探索範囲をb〜c=d〜aとした場合の探索範囲を示す。この場合、エピポーラ線方向の探索幅はΔEであって、それはほぼ画面幅によって決定される。直交方向Tの探索幅はΔTであって、それは種々の誤差幅を考慮して決定される。次に、この探索範囲a〜b〜c〜dの長方形を含む、画面上の水平方向および垂直方向の2次元領域を設定する。図3の場合、傾斜した長方形abcdを含む、傾斜しない最小の長方形ABCDが求める領域となる。この領域A〜B〜C〜Dは、点a,b,c,dの画素のアドレスの水平方向アドレスおよび垂直方向アドレスのそれぞれの最大値および最小値から容易に求めることができる。線分ABおよび線分CDはそれぞれ垂直方向の探索限界を決定するもので、ここでは基準線M,Nと称することにする。
【0018】
次に、図4に示すように、基準線M,Nのもとで対応点探索する際のマッチングブロックの大きさ分MBだけ更に垂直方向外側に基準線K,Lを設定する。マッチングブロックは一般的には16×16〜4×4画素四方のブロックであることが多い。この結果、画面上の探索範囲は、長方形EFGHに拡大される。対応点の検索領域は、基準線K,Lの内部すなわち長方形EFGH内に設定される。ここで設定された探索範囲情報は対応点検出器8に入力される。
【0019】
対応点検出器8は、設定された探索範囲内で探索を行う。探索は例えば左画像上の点Pl(Xl,Yl)と右画像上の点Pr(Xr,Yr)が対応した場合、点Pl(Xl,Yl)における視差ベクトルをVp(Xl−Xr,Yl−Yr)と表す。このような視差ベクトルVpを、左画像上の全ての点について求める。この処理を画面全体にわたって行い、最終的に選択された視差ベクトルVを距離計算器10に送出する。
【0020】
距離計算器10は、図5に示すように、対応点検出器8で求められた視差ベクトルVをエピポーラ線方向計算器12で求めたエピポーラ線方向への写像Vsに変換し、そのベクトルの長さを求めて、前述した式(1)を用いて画素毎の距離を計算し、距離情報を出力する。
【0021】
【発明の効果】
本発明によれば、エピポーラ線方向と、それに対し直角な方向の2次元領域を含む領域の対応点探索を行うので、実際に誤差を含むカメラ位置などの情報から算出して設定されたエピポーラ線で対応点探索を行った場合の、マッチングミスによる間違った視差ベクトルの検出を回避し、信頼性の高い距離データを得ることができる。
【0022】
更に、エピポーラ線を意識することなく大きな2次元領域で対応点探索を行う場合に比べ、エピポーラ線方向とそれに直角な方向に、対応点探索のマッチングブロック相当分だけ加算した値の大きさ程度の2次元領域を含む領域の対応点探索を行うことにより、正確性を保持しつつ、画素検索の計算量を大幅に減少することができる。
【図面の簡単な説明】
【図1】本発明の実施の形態による3次元画像処理装置のブロック図。
【図2】図1の装置におけるステレオ画像のエピポーラ線方向とその直交方向の関係を示す説明図。
【図3】図1の装置におけるステレオ画像の探索範囲を説明するための説明図。
【図4】図3における探索範囲とマッチングブロックとの関係を説明するための説明図。
【図5】求められた視差ベクトルとエピポーラ線への写像の関係を説明するための説明図。
【図6】ステレオ画像による距離算出の原理を説明するための説明図。
【図7】従来の3次元画像処理装置のブロック図。
【符号の説明】
2 対象物体
4 左撮像カメラ
6 右撮像カメラ
8 対応点検出器(対応点検出手段)
10 距離計算器(距離計算手段)
12 エピポーラ線方向計算器(エピポーラ線方向計算手段)
14 エピポーラ線直交方向計算器(エピポーラ線直交方向計算手段)
16 探索範囲決定器(探索範囲決定手段)
Claims (2)
- 対象物体に関するステレオ画像の相対応する両画素点間を結ぶエピポーラ線の方向を計算するエピポーラ線方向計算手段と、エピポーラ線に対し直交する直交方向を計算するエピポーラ線直交方向計算手段と、エピポーラ線方向およびエピポーラ線直交方向にそれぞれ相対応する両画素点を含むように画面上の2次元探索範囲を決定する探索範囲決定手段と、決定された2次元探索範囲内で対応点探索を行って視差ベクトルを求める対応点検出手段と、求められた視差ベクトルに対しエピポーラ線への写像を行って視差ベクトルのエピポーラ線方向成分を求め、求められたエピポーラ線方向成分に基づいて前記ステレオ画像から対象物体までの距離を計算する距離計算手段とを備えた3次元画像処理装置。
- 請求項1に記載の3次元画像処理装置において、探索範囲決定手段は、決定した2次元探索範囲を、少なくとも対応点探索のマッチングブロックの大きさ相当分だけ画面の垂直方向に拡大する手段を持っている3次元画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP19747398A JP3912638B2 (ja) | 1998-07-13 | 1998-07-13 | 3次元画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP19747398A JP3912638B2 (ja) | 1998-07-13 | 1998-07-13 | 3次元画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000028355A JP2000028355A (ja) | 2000-01-28 |
JP3912638B2 true JP3912638B2 (ja) | 2007-05-09 |
Family
ID=16375074
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP19747398A Expired - Lifetime JP3912638B2 (ja) | 1998-07-13 | 1998-07-13 | 3次元画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3912638B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002183714A (ja) * | 2000-12-14 | 2002-06-28 | Nippon Telegr & Teleph Corp <Ntt> | 空間形状獲得処理方法およびそのための装置および空間形状獲得処理プログラムを記録した記録媒体 |
JP4872836B2 (ja) * | 2007-07-06 | 2012-02-08 | コニカミノルタホールディングス株式会社 | 情報処理システム |
JP4858346B2 (ja) * | 2007-07-26 | 2012-01-18 | 株式会社島津製作所 | マーカー像識別装置及びマーカー像識別方法 |
JP5792662B2 (ja) * | 2011-03-23 | 2015-10-14 | シャープ株式会社 | 視差算出装置、距離算出装置及び視差算出方法 |
JP6702796B2 (ja) * | 2016-05-16 | 2020-06-03 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム |
CN106767405B (zh) * | 2016-12-15 | 2019-07-05 | 深圳大学 | 相位映射辅助三维成像系统快速对应点匹配的方法及装置 |
-
1998
- 1998-07-13 JP JP19747398A patent/JP3912638B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2000028355A (ja) | 2000-01-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11010925B2 (en) | Methods and computer program products for calibrating stereo imaging systems by using a planar mirror | |
JP3951984B2 (ja) | 画像投影方法、及び画像投影装置 | |
JP2874710B2 (ja) | 三次元位置計測装置 | |
US6539330B2 (en) | Method and apparatus for measuring 3-D information | |
JP2004117078A (ja) | 障害物検出装置及び方法 | |
JP3842988B2 (ja) | 両眼立体視によって物体の3次元情報を計測する画像処理装置およびその方法又は計測のプログラムを記録した記録媒体 | |
JP3912638B2 (ja) | 3次元画像処理装置 | |
JPH1144533A (ja) | 先行車両検出装置 | |
KR20050061115A (ko) | 카메라 움직임을 보상한 객체 움직임 추출 장치 및 그 방법 | |
JPH1021401A (ja) | 三次元情報処理装置 | |
JP2004364212A (ja) | 物体撮影装置、物体撮影方法及び物体撮影プログラム | |
JP3221384B2 (ja) | 三次元座標計測装置 | |
JPH1023311A (ja) | 画像情報入力方法及び装置 | |
JPH0875454A (ja) | 測距装置 | |
JP3501841B2 (ja) | 立体物領域検出装置及び立体物領域迄の距離測定装置及びそれらの検出、測定方法 | |
JP3253328B2 (ja) | 距離動画像入力処理方法 | |
JP2000028354A (ja) | 3次元画像処理装置 | |
JPH1096607A (ja) | 物体検出装置および平面推定方法 | |
JP2961140B2 (ja) | 画像処理方法 | |
JP3340599B2 (ja) | 平面推定方法 | |
JP3525712B2 (ja) | 三次元画像撮像方法及び三次元画像撮像装置 | |
JPH10289315A (ja) | 視差算出装置、距離算出装置およびこれらの方法 | |
JP4153322B2 (ja) | 写真測量における計測点の対応付け方法及び装置 | |
JPH09229648A (ja) | 画像情報入出力装置及び画像情報入出力方法 | |
Jeon et al. | A robust stereo-matching algorithm using multiple-baseline cameras |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040930 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20061226 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070112 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070125 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110209 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120209 Year of fee payment: 5 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120209 Year of fee payment: 5 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120209 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130209 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130209 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140209 Year of fee payment: 7 |
|
EXPY | Cancellation because of completion of term |