JP5891415B2 - ステレオ画像処理装置 - Google Patents
ステレオ画像処理装置 Download PDFInfo
- Publication number
- JP5891415B2 JP5891415B2 JP2012549631A JP2012549631A JP5891415B2 JP 5891415 B2 JP5891415 B2 JP 5891415B2 JP 2012549631 A JP2012549631 A JP 2012549631A JP 2012549631 A JP2012549631 A JP 2012549631A JP 5891415 B2 JP5891415 B2 JP 5891415B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- image
- reference image
- estimation
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/04—Interpretation of pictures
- G01C11/06—Interpretation of pictures by comparison of two or more pictures of the same area
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Signal Processing (AREA)
- Measurement Of Optical Distance (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
[ステレオ画像処理装置100の構成]
図1は、本発明の実施の形態1に係るステレオ画像処理装置100の構成を示す。図1において、ステレオ画像処理装置100は、ステレオ画像取得部101と、画像マッチング部102と、フィルタ部103と、ピーク位置検出部104,106と、高精度フィルタ部105とを有する。
以上の構成を有するステレオ画像処理装置100の動作について説明する。
ステップS1で、画像マッチング部102は、測距対象領域において分析の対象となる基準点の位置(以下、「分析基準位置」という)を決定する。
ステップS2で、画像マッチング部102は、ステレオ画像取得部101から受け取る基準画像から、単位基準画像を切り出す。単位基準画像は、ステップS1において決定された分析基準位置(つまり、基準点)を基準とした部分領域の画像(画像領域)である。単位基準画像の大きさの単位はピクセルである。つまり、単位基準画像は、複数のピクセル行(画素行)×複数のピクセル列(画素列)の画像である。
ステップS3で、画像マッチング部102は、ステップS1で決定された分析基準位置に基づいて、参照画像におけるサーチ範囲及びサーチ開始位置を決定する。ステレオ画像の視差は、カメラ間の距離である基線長とレンズの焦点距離と、ステレオカメラから対象物までの距離とから、決定される。よって、画像マッチング部102は、ステレオカメラから測距しようとする対象物までの距離に基づいてサーチ範囲を決定すればよい。また、ステレオカメラから無限遠にある対象物は基準画像と参照画像の同じ位置に撮像されるため、画像マッチング部102は、基準画像における基準点と同じ座標を、参照画像におけるサーチ開始位置として設定すればよい。
ステップS4で、画像マッチング部102は、切り出し基準位置を決定し、単位基準画像と同一サイズの単位参照画像を参照画像から切り出す。画像マッチング部102は、ステップS3で決定されたサーチ開始位置を、例えば最初の切り出し基準位置に決定し、以降、切り出し基準位置を移動させていく。
ステップS5で、画像マッチング部102は、単位基準画像と、単位参照画像とのマッチング度を算出する。このマッチング度には、例えば、輝度相違度を示すSAD値又は輝度類似度が用いられる。
ステップS6で、画像マッチング部102は、サーチ範囲に対する処理の終了判定処理を行う。すなわち、画像マッチング部102は、切り出し基準位置の移動によりサーチ範囲を網羅したか否かを判定する。ここでサーチ範囲が終了していないと判定される場合(ステップS6:No)には、画像マッチング部102は、ステップS4へ戻る。この結果、画像マッチング部102は、ステップS4での単位参照画像の切り出し領域がずれるように、サーチ範囲内において切り出し基準位置を移動させる。このようにして、ステップS4〜S6までの処理は、サーチ範囲が終了するまで(ステップS6:Yes)繰り返される。
ステップS7で、画像マッチング部102は、ステップS4〜S6までの処理によって得られた複数のマッチング度に基づいて、マッチング度が最大となる単位参照画像の位置を特定する。マッチング度として輝度相違度が用いられている場合には、画像マッチング部102は、輝度相違度が極小ないし最小となる単位参照画像を検出する。
図4のステップS8で、フィルタ部103及びピーク位置検出部104は、ステップS7で得られたピクセルレベルの対応点と、ステレオ画像取得部101から受け取る基準画像及び参照画像に基づいて、サブピクセル単位演算処理を行う。
ステップS12で、画像切り出し部402は、単位基準画像からサブピクセル推定用単位基準画像を切り出す。サブピクセル推定用単位基準画像の大きさの単位は、ピクセルである。サブピクセル推定用単位基準画像を切り出す位置は、基準点の位置から、向きはエピポーラ線に沿って平行な、X軸方向の向きとする。
ステップS13で、画像切り出し部402は、ステップS7で検出された、単位基準画像とのマッチング度が最大となる単位参照画像から、サブピクセル推定用単位参照画像を切り出す。サブピクセル推定用単位参照画像の切り出し処理にも、サブピクセル推定用単位基準画像の場合と同じサブピクセル単位推定用窓関数が用いられる。ただし、サブピクセル単位推定用窓関数は、対応点(xa+n、ya)に設定される。これにより、サブピクセル推定用単位参照画像として、対応点(xa+n,ya)を中心に、縦軸サイズが1ピクセルであり横軸サイズが“K−J”ピクセルである画像が切り出される。図7において、g’(m)は、サブピクセル推定用単位参照画像の輝度値を表している。
ステップS14で、フィルタリング部403は、サブピクセル推定用単位基準画像から逆位相フィルタ係数を算出する。具体的には、フィルタ部103は、サブピクセル推定用単位基準画像の構成データ列の各画素の位置を反転させる形で、データ列を逆の順番に並べ換える。
ステップS15で、フィルタリング部403は、サブピクセル推定用単位参照画像をステップS14で算出された逆位相フィルタ係数を用いてフィルタリングし、フィルタリング結果をピーク位置検出部104へ出力する。
ステップS16で、ピーク位置検出部104は、フィルタリング結果に基づいてピーク位置を検出し、基準画像と参照画像とのサブピクセル単位のズレ量(つまり、ピーク位置のX軸方向の変位)を算出する。そして、ピーク位置検出部104は、その算出結果を高精度フィルタ部105へ出力する。
ステップS17で、窓関数シフト部411は、フィルタ部103においてサブピクセル推定用単位参照画像の切り出しに用いたサブピクセル単位推定用窓関数を、ピーク位置検出部104において算出された、基準画像と参照画像とのサブピクセル単位のズレ量分、シフトすることにより、サブピクセル単位推定用シフト窓関数を形成する。サブピクセル単位推定用シフト窓関数は、画像切り出し部412においてサブピクセル推定用単位参照画像の切り出しに用いられる。窓関数シフト部411は、サブピクセル単位推定用シフト窓関数を画像切り出し部412へ出力する。これにより、サブピクセル単位推定用シフト窓関数が画像切り出し部412に設定される。
ステップS18で、画像切り出し部412は、サブピクセル単位推定用窓関数を用いて、単位基準画像からサブピクセル推定用単位基準画像を切り出す。ステップS18での切り出し処理は、ステップS12での処理と同様である。
ステップS19で、画像切り出し部412は、サブピクセル単位推定用シフト窓関数を用いて、ステップS7で特定されたマッチング度が最大となる単位参照画像の位置を基準とするサブピクセル推定用単位参照画像を切り出す。ステップS19での切り出し処理は、ステップS13での処理と基本的には同じであるが、サブピクセル推定用単位参照画像を切り出す際に用いられる窓関数が異なる。すなわち、両ステップで用いられる窓関数(つまり、サブピクセル単位推定用窓関数とサブピクセル単位推定用シフト窓関数)は、ステップS16にて検出されたズレ量に対応する間隔だけずれている。
ステップS20で、フィルタリング部413は、サブピクセル推定用単位基準画像から逆位相フィルタ係数を算出する。ステップS20での算出処理は、ステップS14での処理と同じである。
ステップS21で、フィルタリング部413は、サブピクセル推定用単位参照画像をステップS20で算出された逆位相フィルタ係数を用いてフィルタリングし、フィルタリング結果をピーク位置検出部106へ出力する。
ステップS22で、ピーク位置検出部106は、フィルタリング結果に基づいてピーク位置を検出し、基準画像と参照画像とのサブピクセル単位のズレ量(つまり、ピーク位置のX軸方向の変位)を算出する。
ステップS9では、測距対象領域の終了判定処理が行われ、未だステップS1〜ステップS8までの処理が行われていない未処理領域が存在する場合には、その未処理領域についてステップS1〜ステップS8までの処理が行われる。
実施の形態2では、高精度フィルタ処理の前に、当該高精度フィルタ処理を実行するか否かの判定を行い、当該判定結果に応じて、高精度フィルタ処理を実行する。
図11は、本発明の実施の形態2に係るステレオ画像処理装置900の構成を示す。図11において、ステレオ画像処理装置900は、高精度フィルタ実行判定部901と、出力部902とを有する。
図12は、実施の形態2に係るサブピクセル単位演算処理の詳細を示すフロー図である。図6に示されるフロー図と比べて、図12に示されるフロー図では、高精度フィルタ実行判定のステップS31が設けられている。
(1)上記各実施の形態では、画像切り出し部402と画像切り出し部412、フィルタリング部403とフィルタリング部413、及びピーク位置検出部104とピーク位置検出部106を、別個の機能部として説明を行った。しかしながら、本発明はこれに限定されるものではなく、画像切り出し部402と画像切り出し412とを単一の機能部、フィルタリング部403とフィルタリング部413とを単一の機能部、ピーク位置検出部104とピーク位置検出部106とを単一の機能部としても良い。
101 ステレオ画像取得部
102 画像マッチング部
103 フィルタ部
104,106 ピーク位置検出部
105 高精度フィルタ部
402,412 画像切り出し部
403,413 フィルタリング部
411 窓関数シフト部
901 高精度フィルタ実行判定部
902 出力部
Claims (2)
- 第1の窓関数を用いて、ステレオ画像のうち基準画像からサブピクセル推定用単位基準画像を切り出し、前記第1の窓関数を用いて、前記ステレオ画像のうち参照画像からサブピクセル推定用単位参照画像を切り出す切り出し手段と、
前記第1の窓関数を用いて切り出されたサブピクセル推定用単位基準画像の輝度値からなるデータ列のデータ順序を反転させることにより第1の逆位相フィルタ係数を算出し、前記第1の窓関数を用いて切り出されたサブピクセル推定用単位参照画像の輝度値からなるデータ列に対して前記第1の逆位相フィルタ係数を用いてフィルタリングし、フィルタリング結果におけるピーク位置に基づいて、前記基準画像と前記参照画像とのサブピクセル単位の第1のズレ量を算出する算出手段と、
前記第1のズレ量に基づいて前記第1の窓関数をシフトすることにより形成した第2の窓関数を、前記切り出し手段に設定する窓関数設定手段と、
を具備し、
前記切り出し手段は、前記第2の窓関数を用いて前記参照画像からサブピクセル推定用単位参照画像を切り出し、
前記算出手段は、前記第1の窓関数を用いて切り出されたサブピクセル推定用単位基準画像の輝度値からなるデータ列から第2の逆位相フィルタ係数を算出し、前記第2の窓関数を用いて切り出されたサブピクセル推定用単位参照画像の輝度値からなるデータ列と、前記第2の逆位相フィルタ係数とに基づいて、サブピクセル単位の第2のズレ量を算出する、
ステレオ画像処理装置。 - 前記第1のズレ量に応じて、前記窓関数設定手段の処理を実行させるか否かを判定する判定手段、をさらに具備する請求項1に記載のステレオ画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012549631A JP5891415B2 (ja) | 2010-12-20 | 2011-12-19 | ステレオ画像処理装置 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010283622 | 2010-12-20 | ||
JP2010283622 | 2010-12-20 | ||
PCT/JP2011/007084 WO2012086173A1 (ja) | 2010-12-20 | 2011-12-19 | ステレオ画像処理装置及びステレオ画像処理方法 |
JP2012549631A JP5891415B2 (ja) | 2010-12-20 | 2011-12-19 | ステレオ画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2012086173A1 JPWO2012086173A1 (ja) | 2014-05-22 |
JP5891415B2 true JP5891415B2 (ja) | 2016-03-23 |
Family
ID=46313465
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012549631A Expired - Fee Related JP5891415B2 (ja) | 2010-12-20 | 2011-12-19 | ステレオ画像処理装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9055284B2 (ja) |
EP (1) | EP2657901B1 (ja) |
JP (1) | JP5891415B2 (ja) |
CN (1) | CN103080973B (ja) |
WO (1) | WO2012086173A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2902960A4 (en) * | 2012-09-27 | 2015-09-23 | Panasonic Ip Man Co Ltd | STEREOSCOPIC IMAGE PROCESSING DEVICE AND STEREOSCOPIC IMAGE PROCESSING METHOD |
DE102013200409A1 (de) * | 2013-01-14 | 2014-07-17 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Überwachen eines Umfelds eines Fahrzeugs und Verfahren zum Durchführen einer Notbremsung |
JP6202367B2 (ja) * | 2013-05-14 | 2017-09-27 | 株式会社リコー | 画像処理装置、距離測定装置、移動体機器制御システム、移動体及び画像処理用プログラム |
US10027947B2 (en) * | 2013-06-05 | 2018-07-17 | Sony Corporation | Image processing apparatus and image processing method |
JP5999127B2 (ja) * | 2014-03-12 | 2016-09-28 | トヨタ自動車株式会社 | 画像処理装置 |
WO2015181811A1 (en) * | 2014-05-28 | 2015-12-03 | Inuitive Ltd. | A method for stereoscopic reconstruction of three dimensional images |
US9807313B2 (en) | 2015-01-02 | 2017-10-31 | Intel Corporation | Method and system of increasing integer disparity accuracy for camera images with a diagonal layout |
JP7394709B2 (ja) * | 2020-06-19 | 2023-12-08 | 日立Astemo株式会社 | ステレオ画像処理装置及び距離測定方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008140360A (ja) * | 2006-11-02 | 2008-06-19 | Konica Minolta Holdings Inc | 画像照合装置 |
WO2009096520A1 (ja) * | 2008-02-01 | 2009-08-06 | Konica Minolta Holdings, Inc. | 対応点探索装置および対応点探索方法 |
WO2010113389A1 (ja) * | 2009-03-31 | 2010-10-07 | パナソニック株式会社 | ステレオ画像処理装置およびステレオ画像処理方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5684890A (en) * | 1994-02-28 | 1997-11-04 | Nec Corporation | Three-dimensional reference image segmenting method and apparatus |
US20020012459A1 (en) * | 2000-06-22 | 2002-01-31 | Chips Brain Co. Ltd. | Method and apparatus for detecting stereo disparity in sequential parallel processing mode |
US8275195B2 (en) * | 2005-11-30 | 2012-09-25 | Telecom Italia S.P.A. | Method for determining scattered disparity fields in stereo vision |
JP4382797B2 (ja) | 2006-11-09 | 2009-12-16 | 株式会社山武 | 対応点探索方法および3次元位置計測方法 |
RU2522480C2 (ru) * | 2008-01-31 | 2014-07-20 | Нэшнл Инститьют Фо Байолоджикэл Сайенсес | Растения с измененным ростом и/или развитием и способ их создания |
US8184200B1 (en) * | 2008-04-22 | 2012-05-22 | Marvell International Ltd. | Picture rate conversion system for high definition video |
JP5257250B2 (ja) | 2009-06-04 | 2013-08-07 | 株式会社リコー | 画像処理デバイス、カラー画像形成装置、画像処理方法、画像処理プログラム及び記録媒体 |
JP5387905B2 (ja) * | 2009-12-25 | 2014-01-15 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
-
2011
- 2011-12-19 WO PCT/JP2011/007084 patent/WO2012086173A1/ja active Application Filing
- 2011-12-19 JP JP2012549631A patent/JP5891415B2/ja not_active Expired - Fee Related
- 2011-12-19 EP EP11851244.1A patent/EP2657901B1/en not_active Not-in-force
- 2011-12-19 CN CN201180040250.2A patent/CN103080973B/zh not_active Expired - Fee Related
- 2011-12-19 US US13/818,473 patent/US9055284B2/en not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008140360A (ja) * | 2006-11-02 | 2008-06-19 | Konica Minolta Holdings Inc | 画像照合装置 |
WO2009096520A1 (ja) * | 2008-02-01 | 2009-08-06 | Konica Minolta Holdings, Inc. | 対応点探索装置および対応点探索方法 |
WO2010113389A1 (ja) * | 2009-03-31 | 2010-10-07 | パナソニック株式会社 | ステレオ画像処理装置およびステレオ画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
US9055284B2 (en) | 2015-06-09 |
EP2657901A4 (en) | 2014-02-26 |
CN103080973A (zh) | 2013-05-01 |
CN103080973B (zh) | 2016-06-15 |
WO2012086173A1 (ja) | 2012-06-28 |
EP2657901B1 (en) | 2018-07-04 |
US20130147922A1 (en) | 2013-06-13 |
EP2657901A1 (en) | 2013-10-30 |
JPWO2012086173A1 (ja) | 2014-05-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5891415B2 (ja) | ステレオ画像処理装置 | |
JP5567179B2 (ja) | ステレオ画像処理装置およびステレオ画像処理方法 | |
JP5874039B2 (ja) | ステレオ画像処理装置及びステレオ画像処理方法 | |
JP6258209B2 (ja) | ステレオ画像処理装置およびステレオ画像処理方法 | |
US8995753B2 (en) | Stereo distance measurement apparatus and stereo distance measurement method | |
JP5810314B2 (ja) | ステレオ画像処理装置およびステレオ画像処理方法 | |
EP2637138A1 (en) | Method and apparatus for combining panoramic image | |
KR20170087814A (ko) | 영상 블러링 제거 방법 및 장치 | |
JP6494402B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム | |
Chen et al. | Recovering depth from a single image using spectral energy of the defocused step edge gradient | |
US11475233B2 (en) | Image processing device and image processing method | |
CN117830334A (zh) | 医学影像的轮廓分割方法、装置、设备和介质 | |
JP2023112222A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
Hurtós et al. | Adaptive frequency filtering for forward-looking sonar imagery spectral registration | |
JP2015179065A (ja) | 情報処理システム、情報処理方法、プログラム、および情報処理装置 | |
JPH10307915A (ja) | 直線検出方法及び装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140825 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20141008 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20141023 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150721 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150902 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20151027 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20151111 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5891415 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |