JP6292785B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP6292785B2 JP6292785B2 JP2013151782A JP2013151782A JP6292785B2 JP 6292785 B2 JP6292785 B2 JP 6292785B2 JP 2013151782 A JP2013151782 A JP 2013151782A JP 2013151782 A JP2013151782 A JP 2013151782A JP 6292785 B2 JP6292785 B2 JP 6292785B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- main subject
- images
- distance
- parallax
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
以下、本発明の第1の実施形態について、図面を参照しながら説明する。
図1は、本実施形態に係る画像処理装置100の内部構成例を示すブロック図である。以下、図1を参照しながら、本実施形態の画像処理装置100について説明する。
図1において、結像光学系101はレンズや絞り等からなり、フォーカス調節や焦点距離調整を行う。撮像素子102は、光学像を電気信号に変換するCCD等の素子であり、A/D変換回路103は撮像素子102からのアナログ画像信号をデジタル画像信号に変換する回路である。
図2において、入力画像201は撮像素子102を介して生成された画像信号であり、メモリ106からメモリ制御回路105を介して読み出された画像である。
まず、S301において、撮像素子102を介して生成された画像を、確認用のリアルタイム映像として表示部109に表示する。そして、表示部109に表示されている画像(フレーム)をメモリ106に保持する。なお、焦点位置は、S301の撮影前にあらかじめAF評価値取得回路108によるコントラストAFで被写体に焦点調節しておくものとする。なお、メモリ106に保持してから所定時間が経過した画像については、メモリ106から削除するようにしてもよい。
まず、S601において、エッジ抽出処理を行う。この処理では、図4のAF測距枠403、404を処理対象領域として、水平方向に沿ったエッジを抽出する水平エッジ抽出と、垂直方向に沿ったエッジを抽出する垂直エッジ抽出とを行う。
(1)左右の異なる視点で撮影された2つの画像(左画像および右画像)に対して、撮像レンズの歪み補正を行う(歪み補正)。
(2)左右の異なる視点間でカメラの角度と距離とを調整するために、左画像および右画像を写像する(ステレオ平行化)。
(3)左右のカメラのビューで同じ特徴を求めることにより、視差画像を生成する(ステレオ対応点探索)。
(4)左右のカメラの幾何学的な位置情報を用いて、視差画像を距離画像に変換する(3D再投影)。
図9において、ホモグラフィ推定回路901は、ステレオ平行化を行うためのホモグラフィを推定する。ホモグラフィを推定するためには、結像光学系101による歪みが補正された座標系を用いる必要がある。そこでホモグラフィ推定回路901は、まず基準画像204および参照画像203に対して歪み補正を行う。歪み補正の方法は、非特許文献1に記載の方法と同様であり、座標変換式は、以下の式(1)により表される。
続いて、ホモグラフィ推定回路901は、歪みが補正された座標系においてホモグラフィを推定する。ホモグラフィを推定する手法については非特許文献1に記載の方法と同様の方法により行うものとする。
図10において、点Olおよび点Orは左右の視点の投影中心位置を示し、点Pは被写体の位置を示している。また、点plおよび点prは左右の視点の投影平面に投影される被写体の結像位置を示し、点elおよび点erは左右の視点におけるエピポールを示している。さらに直線plelおよび直線prerは左右の視点におけるエピポーラ線を示している。
(a)2つの画像で8点以上の特徴点の対応を求める。
(b)8点以上の特徴点の対応から基礎行列Fを求める。
(c)基礎行列Fからエピポールel、erを求める。
(d)エピポールerから右画像のステレオ平行化のためのホモグラフィHrを推定する。
(e)特徴点の対応、ホモグラフィHr、およびエピポールelから左画像のステレオ平行化のためのホモグラフィHlを推定する。
(pr)TEpl=0 ・・・(2)
q=Mp ・・・(3)
F=(Mr -1)TEMl -1 ・・・(4)
(qr)TFql=0 ・・・(5)
Fel=0 ・・・(6)
(er)TF=0 ・・・(7)
Hr=GR ・・・(11)
Hl=KG'R' ・・・(12)
図12に示すように、逆写像処理では、図12(c)に示すステレオ平行化された左画像および右画像内の各整数座標に対して、図12(b)に示す、歪んでいない画像内の座標を求める。そして、それらの座標を用いて図12(a)に示す生画像内の小数点座標を参照する。つまり、この小数点座標を用いて生画像内で画素補間処理を行い、ステレオ平行化された画像内での画素値を求める。なお、図12におけるDIST()は、前述の式(1)の座標(xcorrected,ycorrected)から座標(x,y)を求める式(1)の逆変換処理を示している。そして、最終的には図12(d)に示すように左画像および右画像が切り出される。
ステレオ対応点探索回路904は、ステレオ平行化された左画像である基準画像204と右画像である参照画像203とから視差画像905を生成する回路である。この視差画像905を生成するために行われるステレオ対応点探索は、非特許文献1に記載の方法と同様である。
3D再投影回路906は、3D再投影により視差画像905からステレオ方式距離画像206を生成する回路である。3D再投影の方法は、非特許文献1に記載の方法と同様である。三角測量の手法により、合焦された被写体までの距離Zと視差量dとの関係は以下の式(14)により表される。
Z=fT/d ・・・(14)
まず、基準画像204および参照画像203から視差画像905を生成する(S1401)。前述したように、視差画像905は、第1の逆写像処理回路902および第2の逆写像処理回路903でそれぞれステレオ平行化された左画像および右画像をステレオ対応点探索回路904で処理することにより生成される。
以下、本発明の第2の実施形態について説明する。本実施形態に係る画像処理装置の構成は、図1、図2および図9に示した構成と同様であるため、説明は省略する。なお、本実施形態では、主要被写体のエッジ方向を判別して本体を移動させる旨を表示させるため、主要被写体を1つとし、距離画像の合成は行われないものとする。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
104 信号処理回路
107 システム制御回路
Claims (7)
- 共通の主要被写体に対して互いに視差を有する複数の画像を取得する取得手段と、
前記主要被写体のエッジ方向を判別する判別手段と、
前記判別手段によって判別された前記主要被写体のエッジ方向とは異なる方向に視差を有する画像の組を前記取得手段によって取得された複数の画像から選択する選択手段と、前記選択手段によって選択された画像の組を用いて前記主要被写体までの距離の情報を含む距離画像を生成する生成手段と、
を有し、
前記画像の組の中の少なくとも1つの画像は、前記距離画像を生成しない場合に撮像された画像に比べて、結像光学系の絞りを絞った状態で撮像された画像であることを特徴とする画像処理装置。 - 前記主要被写体に対して焦点を合わせる焦点調節手段をさらに有し、
前記取得手段は、前記焦点調節手段によって焦点が調節された主要被写体を含む画像を取得することを特徴とする請求項1に記載の画像処理装置。 - 前記選択手段は、前記判別手段によって判別された前記主要被写体のエッジ方向と垂直な方向に視差を有する画像の組を選択することを特徴とする請求項1または2に記載の画像処理装置。
- 前記選択手段は、前記判別手段によって判別された前記主要被写体のエッジ方向と垂直な方向に視差を有する画像の組のうち、最も大きな視差を有する画像の組を選択することを特徴とする請求項3に記載の画像処理装置。
- 前記判別手段によって判別されたエッジ方向とは異なる方向へ前記画像処理装置を移動させることを促す補助情報を生成して表示部に表示する表示制御手段と、
前記画像処理装置の移動する方向を検出する検出手段と、
をさらに有し、
前記表示部に表示された補助情報に従って前記画像処理装置が移動したことが前記検出手段によって検出された場合に、前記取得手段は、移動後に撮影された前記主要被写体を含む画像を取得することを特徴とする請求項1〜4の何れか1項に記載の画像処理装置。 - 共通の主要被写体に対して互いに視差を有する複数の画像を取得する取得工程と、
前記主要被写体のエッジ方向を判別する判別工程と、
前記判別工程において判別された前記主要被写体のエッジ方向とは異なる方向に視差を有する画像の組を前記取得工程において取得された複数の画像から選択する選択工程と、前記選択工程において選択された画像の組を用いて前記主要被写体までの距離の情報を含む距離画像を生成する生成工程と、
を有し、
前記画像の組の中の少なくとも1つの画像は、前記距離画像を生成しない場合に撮像された画像に比べて、結像光学系の絞りを絞った状態で撮像された画像であることを特徴とする画像処理方法。 - 共通の主要被写体に対して互いに視差を有する複数の画像を取得する取得工程と、
前記主要被写体のエッジ方向を判別する判別工程と、
前記判別工程において判別された前記主要被写体のエッジ方向とは異なる方向に視差を有する画像の組を前記取得工程において取得された複数の画像から選択する選択工程と、前記選択工程において選択された画像の組を用いて前記主要被写体までの距離の情報を含む距離画像を生成する生成工程と、
をコンピュータに実行させるプログラムであって、
前記画像の組の中の少なくとも1つの画像は、前記距離画像を生成しない場合に撮像された画像に比べて、結像光学系の絞りを絞った状態で撮像された画像であることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013151782A JP6292785B2 (ja) | 2013-07-22 | 2013-07-22 | 画像処理装置、画像処理方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013151782A JP6292785B2 (ja) | 2013-07-22 | 2013-07-22 | 画像処理装置、画像処理方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015022630A JP2015022630A (ja) | 2015-02-02 |
JP6292785B2 true JP6292785B2 (ja) | 2018-03-14 |
Family
ID=52486991
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013151782A Active JP6292785B2 (ja) | 2013-07-22 | 2013-07-22 | 画像処理装置、画像処理方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6292785B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6843552B2 (ja) | 2016-08-23 | 2021-03-17 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム。 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000207693A (ja) * | 1999-01-08 | 2000-07-28 | Nissan Motor Co Ltd | 車載用障害物検出装置 |
JP4547213B2 (ja) * | 2004-09-02 | 2010-09-22 | パナソニック株式会社 | 物体検出装置および方法 |
JP5387856B2 (ja) * | 2010-02-16 | 2014-01-15 | ソニー株式会社 | 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置 |
JP2012015777A (ja) * | 2010-06-30 | 2012-01-19 | Fujifilm Corp | 立体視表示のための画像処理装置、方法、および、プログラム、並びに、画像表示装置 |
JP5853151B2 (ja) * | 2011-01-24 | 2016-02-09 | パナソニックIpマネジメント株式会社 | 撮像装置 |
WO2013080544A1 (ja) * | 2011-11-30 | 2013-06-06 | パナソニック株式会社 | 立体画像処理装置、立体画像処理方法、および立体画像処理プログラム |
-
2013
- 2013-07-22 JP JP2013151782A patent/JP6292785B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015022630A (ja) | 2015-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6112824B2 (ja) | 画像処理方法および装置、プログラム。 | |
JP4843750B2 (ja) | 撮像装置、方法およびプログラム | |
JP4886716B2 (ja) | 画像処理装置および方法並びにプログラム | |
JP5018980B2 (ja) | 撮像装置、長さ測定方法、及びプログラム | |
JP6223169B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP6071257B2 (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
KR20150120066A (ko) | 패턴 프로젝션을 이용한 왜곡 보정 및 정렬 시스템, 이를 이용한 방법 | |
WO2011125937A1 (ja) | キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置 | |
JP2015073185A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP5929037B2 (ja) | 撮像装置 | |
JP2014010783A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6409769B2 (ja) | 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム | |
JP2013044597A (ja) | 画像処理装置および方法、プログラム | |
JP2007033087A (ja) | キャリブレーション装置及び方法 | |
JP5925109B2 (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP2020191624A (ja) | 電子機器およびその制御方法 | |
JP2013120435A (ja) | 画像処理装置および画像処理方法、プログラム | |
JP6292785B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6732440B2 (ja) | 画像処理装置、画像処理方法、及びそのプログラム | |
JP6648916B2 (ja) | 撮像装置 | |
JP2018074362A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP5071865B2 (ja) | 距離測定装置および方法並びにプログラム | |
JP2013175821A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2009237652A (ja) | 画像処理装置および方法並びにプログラム | |
KR101323195B1 (ko) | 2차원 영상에서 3차원 영상 생성 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160720 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170531 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170704 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170830 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180116 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180213 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6292785 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |