JP5824953B2 - 画像処理装置、画像処理方法及び撮像装置 - Google Patents
画像処理装置、画像処理方法及び撮像装置 Download PDFInfo
- Publication number
- JP5824953B2 JP5824953B2 JP2011174151A JP2011174151A JP5824953B2 JP 5824953 B2 JP5824953 B2 JP 5824953B2 JP 2011174151 A JP2011174151 A JP 2011174151A JP 2011174151 A JP2011174151 A JP 2011174151A JP 5824953 B2 JP5824953 B2 JP 5824953B2
- Authority
- JP
- Japan
- Prior art keywords
- block
- image
- sum
- row
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
- G06T7/238—Analysis of motion using block-matching using non-full search, e.g. three-step search
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
- G06V10/7515—Shifting the patterns to accommodate for positional errors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
- G06T2207/10021—Stereoscopic video; Stereoscopic image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
Description
図1に示すように、撮像装置1は、撮像部10と、画像処理プロセッサ(ISP:Image Signal Processor)20と、入力部41と、メモリ42と、表示デバイス43とを有している。この撮像装置1は、例えばデジタルスチルカメラである。
画像処理プロセッサ20は、プリプロセス部21と、色処理部22と、画像処理部23と、ずれ量算出処理部24と、コーデック部25と、メモリカードインタフェース(I/F)26と、表示I/F27と、DMA調停部28と、メモリコントローラ29と、CPU30とを有している。
はじめに、ずれ量算出処理部24によるずれ量算出処理の概要を説明する。
図3(a)に示すように、まず、撮像部11R,11Lによって撮影された2つの画像データ、つまり異なる位置(視点)から撮影された右眼画像PR及び左眼画像PLを取得する。これら右眼画像PR及び左眼画像PLは、複数の画素が水平方向(行方向)及び垂直方向(列方向)に2次元状に配列された画像データ、つまり複数の画素が2次元の行列状に配列された画像データである。
図2に示すように、ずれ量算出処理部24は、メモリ51と、レジスタ52と、メモリ制御部53と、差分絶対値和(SAD)演算部54と、比較器55と、演算制御部56とを有している。
ここで、図12(b)に示すように、左上画素の座標が座標(0,11)に設定された切り出しブロックBRを切り出した場合のずれ量算出処理について説明する。この切り出しブロックBRには、被写体(木)が含まれている。
次に、図19(a)に示すように、直前の垂直位置において現れていた被写体(ここでは、木)とは異なる被写体(ここでは、車)が現れた場合について説明する。ここでは、切り出しブロックBR及び比較ブロックBLの左上画素の垂直位置Vpが6の場合を例に挙げて説明する。この場合にも、上述したのと同様に、直前の垂直位置Vp=5における演算結果に基づいて設定された移動範囲ML(ここでは、ずれ位置が0〜3画素の領域)及び移動領域MR(ここでは、全水平領域)を利用して、ステップS2〜S19の処理が実行される。
(1)N行目の画素に対するずれ量算出処理で得られた演算結果に基づいて、N+1行目の画素に対するずれ量算出処理における比較ブロックBLの移動範囲MLを絞るように設定するようにした。これにより、N+1行目のずれ量算出処理では、左眼画像PLから切り出される比較ブロックBLの数が少なくなり、ずれ量を算出するための演算量が小さくなる。したがって、ずれ量算出処理にかかる処理時間を短縮することができる。
なお、上記実施形態は、これを適宜変更した以下の態様にて実施することもできる。
・上記実施形態における処理領域A1のサイズは特に制限されない。例えば処理領域A1の水平ブロックサイズAHsを左眼画像PLの水平サイズHsと同一となるように設定してもよい。また、処理領域A1の垂直ブロックサイズを比較ブロックBLの垂直ブロックサイズBVsよりも大きくなるように設定してもよい。
11R,11L 撮像部
20 画像処理プロセッサ
24 ずれ量算出処理部
42 メモリ
51 メモリ
52 レジスタ
53 メモリ制御部
54 SAD演算部
55 比較器
56 演算制御部
Claims (10)
- 異なる位置から撮影され、複数の画素が2次元の行列状に配列された第1画像及び第2画像を入力する入力手段と、
前記第1画像から所定サイズの第1ブロックを切り出す手段であって、N(Nは1以上の整数)行目の各画素に対応する前記第1ブロックを切り出す第1切り出し手段と、
前記第2画像の前記第1ブロックに対する処理領域内に設定される移動範囲から前記所定サイズの第2ブロックを切り出す手段であって、前記N行目の各画素に対応する各第1ブロックに対して、領域が前記処理領域の全ての領域に設定された前記移動範囲から前記第2ブロックを行方向にP(Pは1以上の整数)画素ずつ移動させて切り出す第2切り出し手段と、
前記第2ブロックの切り出し毎に、該切り出した第2ブロックと、演算対象の第1ブロックとを比較して、前記第1ブロック及び前記第2ブロックの両ブロック内の各画素の輝度差の絶対値和である差分絶対値和を算出する相関値算出手段と、
前記各第1ブロック毎に、前記差分絶対値和の最小値を算出し、該最小値となるときの第1ブロックに対する第2ブロックのずれ位置に基づいて、演算対象の第1ブロックに対する前記第1画像及び前記第2画像のずれ量を算出するずれ量算出手段と、
前記第1画像のN+1行目の画素に対する前記ずれ量を算出する際に、前記N行目において算出された前記差分絶対値和に基づいて前記移動範囲を絞るように設定する設定手段と、を有し、
前記設定手段は、
前記N行目の各画素に対応する各第1ブロック毎に、所定の判定レベルよりも低い前記差分絶対値和の極小点又は最小値を抽出する手段と、
前記N行目の全ての第1ブロックにおいて抽出された極小点又は最小値に基づいて、該極小点又は最小値が密集する前記ずれ位置の範囲を密集領域として抽出する手段と、
前記密集領域内の前記極小点又は前記最小値におけるずれ位置に基づいて、前記移動範囲を絞るように設定する手段と、を有する
することを特徴とする画像処理装置。 - 前記設定手段は、
前記密集領域内の極小点に対応する前記第2ブロックのずれ位置の平均値を中心として、前後X(Xは1以上の整数)画素の移動量の範囲のみを前記移動範囲に設定することを特徴とする請求項1に記載の画像処理装置。 - 前記X画素は、前記密集領域内の極小点に対応する前記第2ブロックのずれ位置のばらつきが小さいほど画素数が少なくなるように設定されることを特徴とする請求項2に記載の画像処理装置。
- 前記設定手段は、
前記N+1行目以降の各行毎に抽出される前記極小点に基づいて、前記密集領域における前記平均値がずれる場合には、該ずれた平均値に基づき前記移動範囲を変更することを特徴とする請求項2又は3に記載の画像処理装置。 - 前記設定手段は、
前記移動範囲が複数の範囲に設定されている場合に、前記設定された一部の範囲内で算出された差分絶対値和の全てが前記判定レベル以上である場合には、前記一部の範囲を前記移動範囲から除外することを特徴とする請求項2〜4のいずれか1つに記載の画像処理装置。 - 前記設定手段は、
前記N+1行目の画素に対するずれ量を算出した際に、前記設定された全ての移動範囲内で算出された差分絶対値和の全てが前記判定レベル以上である場合には、前記移動範囲を前記処理領域の全ての領域に設定した上で、前記N+1行目の各画素に対するずれ量を算出する処理を再度実行させることを特徴とする請求項1〜5のいずれか1つに記載の画像処理装置。 - 前記第1画像のM(MはN又はN+1以上の整数)行目の画素に対する前記ずれ量を算出した際に、前記算出したずれ量が0である第1ブロックの行方向の位置を抽出する抽出手段と、
前記第1画像のM+1行目の画素に対する前記ずれ量を算出する際に、前記抽出された行方向の位置から前記第1ブロックの切り出しを行わないように制御する第1制御手段と、
を有することを特徴とする請求項1〜6のいずれか1つに記載の画像処理装置。 - 前記第1画像のM(MはN又はN+1以上の整数)行目の画素に対する前記ずれ量を算出した際に、前記算出したずれ量が全て0である場合に、前記M行目に続いてM+V(Vは前記第1ブロックの列方向の画素数)行目の各画素に対するずれ量を算出する処理を実行させるように制御する第2制御手段を有することを特徴とする請求項1〜7のいずれか1つに記載の画像処理装置。
- 異なる位置から撮影され、複数の画素が2次元の行列状に配列された第1画像及び第2画像を入力するステップと、
前記第1画像のN行1列目から所定サイズの第1ブロックを切り出すステップと、
前記第2画像の前記第1ブロックに対する処理領域内に設定された移動範囲から前記所定サイズの第2ブロックを切り出すステップと、
前記第1ブロックと前記第2ブロックとを比較して、前記第1ブロック及び前記第2ブロックの両ブロック内の各画素の輝度差の絶対値和である差分絶対値和を算出するステップと、
領域が前記処理領域の全ての領域に設定された前記移動範囲から前記第2ブロックを行方向にP(Pは1以上の整数)画素ずつ移動させて切り出す毎に前記差分絶対値和を算出するステップと、
前記差分絶対値和の最小値を算出し、該最小値となるときの第1ブロックに対する第2ブロックのずれ位置に基づいて、前記第1ブロックに対する前記第1画像及び前記第2画像のずれ量を算出するステップと、
前記第1ブロックを前記第1画像内で前記行方向に1画素ずつ移動させて切り出し、該切り出した前記N行目の各画素に対応する各第1ブロック毎に、前記全ての領域に設定された前記移動範囲から切り出された比較ブロックと比較して前記差分絶対値和及び前記ずれ量を算出するステップと、
前記第1画像のN+1行目の画素に対する前記ずれ量を算出する際に、前記N行目において算出された前記差分絶対値和に基づいて前記移動範囲を絞るように設定するステップと、
を有し、
前記移動範囲を絞るように設定するステップでは、
前記N行目の各画素に対応する各第1ブロック毎に、所定の判定レベルよりも低い前記差分絶対値和の極小点又は最小値を抽出し、
前記N行目の全ての第1ブロックにおいて抽出された極小点又は最小値に基づいて、該極小点又は最小値が密集する前記ずれ位置の範囲を密集領域として抽出し、
前記密集領域内の前記極小点又は前記最小値におけるずれ位置に基づいて、前記移動範囲を絞るように設定する
ことを特徴とする画像処理方法。 - 異なる位置から撮影され、複数の画素が2次元の行列状に配列された第1画像及び第2画像を出力する撮像部と、
前記第1画像から所定サイズの第1ブロックを切り出す手段であって、N(Nは1以上の整数)行目の各画素に対応する前記第1ブロックを切り出す第1切り出し手段と、
前記第2画像の前記第1ブロックに対する処理領域内に設定される移動範囲から前記所定サイズの第2ブロックを切り出す手段であって、前記N行目の各画素に対応する各第1ブロックに対して、領域が前記処理領域の全ての領域に設定された前記移動範囲から前記第2ブロックを行方向にP(Pは1以上の整数)画素ずつ移動させて切り出す第2切り出し手段と、
前記第2ブロックの切り出し毎に、該切り出した第2ブロックと対応する前記第1ブロックとを比較して、前記第1ブロック及び前記第2ブロックの両ブロック内の各画素の輝度差の絶対値和である差分絶対値和を算出する相関値算出手段と、
前記各第1ブロック毎に、前記差分絶対値和の最小値を算出し、該最小値となるときの第1ブロックに対する第2ブロックのずれ位置に基づいて、演算対象の第1ブロックに対する前記第1画像及び前記第2画像のずれ量を算出するずれ量算出手段と、
前記第1画像のN+1行目の画素に対する前記ずれ量を算出する際に、前記N行目において算出された前記差分絶対値和に基づいて前記移動範囲を絞るように設定する設定手段と、を有し、
前記設定手段は、
前記N行目の各画素に対応する各第1ブロック毎に、所定の判定レベルよりも低い前記差分絶対値和の極小点又は最小値を抽出する手段と、
前記N行目の全ての第1ブロックにおいて抽出された極小点又は最小値に基づいて、該極小点又は最小値が密集する前記ずれ位置の範囲を密集領域として抽出する手段と、
前記密集領域内の前記極小点又は前記最小値におけるずれ位置に基づいて、前記移動範囲を絞るように設定する手段と、を有する
ことを特徴とする撮像装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011174151A JP5824953B2 (ja) | 2011-08-09 | 2011-08-09 | 画像処理装置、画像処理方法及び撮像装置 |
US13/568,631 US8922627B2 (en) | 2011-08-09 | 2012-08-07 | Image processing device, image processing method and imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011174151A JP5824953B2 (ja) | 2011-08-09 | 2011-08-09 | 画像処理装置、画像処理方法及び撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013038651A JP2013038651A (ja) | 2013-02-21 |
JP5824953B2 true JP5824953B2 (ja) | 2015-12-02 |
Family
ID=47677294
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011174151A Expired - Fee Related JP5824953B2 (ja) | 2011-08-09 | 2011-08-09 | 画像処理装置、画像処理方法及び撮像装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8922627B2 (ja) |
JP (1) | JP5824953B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2677733A3 (en) * | 2012-06-18 | 2015-12-09 | Sony Mobile Communications AB | Array camera imaging system and method |
JP5890816B2 (ja) * | 2013-09-30 | 2016-03-22 | 富士重工業株式会社 | フィルタリング装置および環境認識システム |
EP2894601B1 (en) * | 2014-01-10 | 2020-07-01 | Honda Research Institute Europe GmbH | Method for analyzing related images, image processing system, vehicle comprising such system and computer program product |
WO2016059983A1 (ja) * | 2014-10-14 | 2016-04-21 | オリンパス株式会社 | 撮像システム |
KR102354992B1 (ko) | 2015-03-02 | 2022-01-24 | 삼성전자주식회사 | 양안 시차 영상에 대한 타일 기반 렌더링 방법 및 장치 |
KR102519803B1 (ko) * | 2016-04-11 | 2023-04-10 | 삼성전자주식회사 | 촬영 장치 및 그 제어 방법 |
JP6798227B2 (ja) * | 2016-10-03 | 2020-12-09 | オムロン株式会社 | 制御装置、制御装置の制御方法、制御プログラム、および記録媒体 |
US10621446B2 (en) * | 2016-12-22 | 2020-04-14 | Texas Instruments Incorporated | Handling perspective magnification in optical flow processing |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS63276676A (ja) * | 1986-09-26 | 1988-11-14 | Olympus Optical Co Ltd | 画像間の対応領域の検出方式 |
JP3994445B2 (ja) * | 1995-12-05 | 2007-10-17 | ソニー株式会社 | 動きベクトル検出装置及び動きベクトル検出方法 |
JP3471262B2 (ja) | 1999-07-30 | 2003-12-02 | 日本電信電話株式会社 | 三次元画像処理装置 |
JP4075238B2 (ja) * | 1999-08-19 | 2008-04-16 | 株式会社デンソー | 動きベクトル検出方法及び記録媒体 |
JP3280001B2 (ja) * | 1999-09-16 | 2002-04-30 | 富士重工業株式会社 | ステレオ画像の位置ずれ調整装置 |
JP4671696B2 (ja) * | 2004-01-14 | 2011-04-20 | パナソニック株式会社 | 動きベクトル検出装置 |
JP2008082870A (ja) * | 2006-09-27 | 2008-04-10 | Setsunan Univ | 画像処理プログラム及びこれを用いた路面状態計測システム |
JP4716266B2 (ja) * | 2007-02-26 | 2011-07-06 | カシオ計算機株式会社 | 画像処理装置、撮像装置及びそのプログラム |
JP5243003B2 (ja) | 2007-11-28 | 2013-07-24 | 富士フイルム株式会社 | 画像処理装置および方法並びにプログラム |
EP2386998B1 (en) * | 2010-05-14 | 2018-07-11 | Honda Research Institute Europe GmbH | A Two-Stage Correlation Method for Correspondence Search |
-
2011
- 2011-08-09 JP JP2011174151A patent/JP5824953B2/ja not_active Expired - Fee Related
-
2012
- 2012-08-07 US US13/568,631 patent/US8922627B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US8922627B2 (en) | 2014-12-30 |
JP2013038651A (ja) | 2013-02-21 |
US20130038698A1 (en) | 2013-02-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5824953B2 (ja) | 画像処理装置、画像処理方法及び撮像装置 | |
KR102278776B1 (ko) | 이미지 처리 방법, 기기, 및 장치 | |
JP7145208B2 (ja) | デュアルカメラベースの撮像のための方法および装置ならびに記憶媒体 | |
JP6911192B2 (ja) | 画像処理方法、装置および機器 | |
TWI538512B (zh) | 調整對焦位置的方法及電子裝置 | |
WO2014044126A1 (zh) | 坐标获取装置、实时三维重建系统和方法、立体交互设备 | |
CN110536057A (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
JP2014168227A (ja) | 画像処理装置、撮像装置、画像処理方法 | |
US9807372B2 (en) | Focused image generation single depth information from multiple images from multiple sensors | |
US9619886B2 (en) | Image processing apparatus, imaging apparatus, image processing method and program | |
CN102959942B (zh) | 立体观看用图像拍摄装置及其控制方法 | |
KR20200031169A (ko) | 이미지 처리 방법 및 장치 | |
CN109951638A (zh) | 摄像头防抖系统、方法、电子设备和计算机可读存储介质 | |
TW201328321A (zh) | 3d成像模組及3d成像方法 | |
WO2021035524A1 (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
US20130083169A1 (en) | Image capturing apparatus, image processing apparatus, image processing method and program | |
JP6270413B2 (ja) | 画像処理装置、撮像装置、および画像処理方法 | |
JP6564284B2 (ja) | 画像処理装置および画像処理方法 | |
JP6608311B2 (ja) | 画像評価装置及び画像評価プログラム | |
JP6645711B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP6362473B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、記憶媒体 | |
CN112866554B (zh) | 对焦方法和装置、电子设备、计算机可读存储介质 | |
WO2021049281A1 (ja) | 画像処理装置、ヘッドマウントディスプレイ、および空間情報取得方法 | |
JPH0749944A (ja) | 画像処理方法およびその装置 | |
CN109379577B (zh) | 一种虚拟视点的视频生成方法、装置及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140502 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150227 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150310 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150424 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20150612 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150915 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150928 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5824953 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |