JP2018033059A - 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 - Google Patents
画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 Download PDFInfo
- Publication number
- JP2018033059A JP2018033059A JP2016165220A JP2016165220A JP2018033059A JP 2018033059 A JP2018033059 A JP 2018033059A JP 2016165220 A JP2016165220 A JP 2016165220A JP 2016165220 A JP2016165220 A JP 2016165220A JP 2018033059 A JP2018033059 A JP 2018033059A
- Authority
- JP
- Japan
- Prior art keywords
- image
- subject
- imaging optical
- optical system
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
【課題】同一の撮像装置で取得したパースペクティブが互いに異なる複数の画像を用いて、被写体の奥行き情報を取得する画像処理方法、および撮像装置を提供する。【解決手段】第1の状態の撮像光学系で撮像された第1の画像と、該撮像光学系を構成する少なくとも1つ以上の光学素子の該撮像光学系の光軸上の位置が、第1の状態とは異なる第2の状態の該撮像光学系で撮像された第2の画像を取得する画像取得ステップと、第1の状態および第2の状態における撮像光学系の光学情報を取得する光学情報取得ステップと、第1の画像および第2の画像における同一被写体の位置の対応関係を取得する対応関係取得ステップと、対応関係および複数の光学情報に基づき被写体の奥行き情報を算出する奥行き情報算出ステップとを有し、第1の状態および第2の状態の撮像光学系夫々の入射瞳と被写体の間の距離は互いに異なる。【選択図】図5
Description
本発明は、単一の撮像光学系を用いて取得した画像を用いて被写体の奥行き情報を取得する画像処理方法に関する。
従来、公知の技術として複数の撮像光学系を備え、該複数の撮像光学系が取得した複数の画像の視差に基づき被写体の奥行き情報を取得するステレオカメラが知られている。
特許文献1では、撮像光学系の射出瞳のうち夫々異なる領域を通過した複数の光束を、撮像素子における互いに異なる画素に分離して撮像することで複数の視差画像を生成し、それらの視差を用いて被写体の奥行き情報を取得する構成が開示されている。特許文献2では、撮像光学系のパラメータを変更してぼけの異なる複数の画像を取得し、該複数の画像に含まれるぼけの量から被写体の奥行き情報を推定するDFD(Depth From Defocus)法が開示されている。
しかしながら、前記ステレオカメラは複数の撮像光学系が必要である。また特許文献1の撮像装置では、撮像光学系と撮像素子との間にマイクロレンズアレイが必要であり、1つのマイクロレンズに対応する画素は2つ以上に分割されている必要がある。このように、従来の被写体の奥行き情報を取得することが可能な撮像装置は、画像を取得するための撮像機能を実現する構成要素に加えて、被写体の奥行き情報を取得するための複雑な構成要素が必要であった。
また、特許文献2に開示されているDFD法は、被写体のぼけの量から被写体の奥行き情報を算出するため、被写体構造の影響を受けやすく、また処理負荷が大きくなりやすい。
本発明は、同一の撮像装置で取得したパースペクティブが互いに異なる複数の画像を用いて、被写体の奥行き情報を取得することが可能な画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置を提供することを目的とする。
上記目的を達成するために、本発明は、単一の撮像光学系で取得した複数の画像を用いて被写体の奥行き情報を算出する画像処理方法であって、第1の状態の撮像光学系で撮像された第1の画像と、該撮像光学系を構成する少なくとも1つ以上の光学素子の該撮像光学系の光軸上の位置が、第1の状態とは異なる第2の状態の該撮像光学系で撮像された第2の画像を取得する画像取得ステップと、前記第1の状態および第2の状態における前記撮像光学系の光学情報を取得する光学情報取得ステップと、前記第1の画像および第2の画像における同一被写体の位置の対応関係を取得する対応関係取得ステップと、前記対応関係および前記複数の光学情報に基づき被写体の奥行き情報を算出する奥行き情報算出ステップとを有し、前記第1の状態および前記第2の状態の前記撮像光学系夫々の入射瞳と被写体の間の距離は互いに異なることを特徴とする。
本発明によれば、同一の撮像装置で取得したパースペクティブが互いに異なる複数の画像を用いて、被写体の奥行き情報を取得することが可能な画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置を提供することができる。
以下に、本発明の実施例を、添付の図面に基づいて詳細に説明する。はじめに、本発明の画像処理方法の被写体の奥行き情報取得の原理について、図1を用いて説明する。図1(a)は第1の状態にある撮像光学系を示しており、図1(b)は第2の状態にある該撮像光学系を示している。該撮像光学系は複数の光学素子(例えば、レンズ)から構成されるが、図1は説明のため撮像光学系を簡略化し主点、入射瞳および射出瞳が同一平面にあるとし、該平面のみを示している。
前記第2の状態は、撮像光学系を構成する複数の光学素子のうち、撮像光学系の絞りまたは絞りよりも被写体側に位置する1つ以上の不図示の光学素子が、該撮像光学系の光軸上の第1の状態とは異なる位置に移動した状態である。そのため、第1の状態および第2の状態の撮像光学系では夫々、絞りよりも被写体側に位置する光学素子により結像される絞りの像である入射瞳の光軸上の位置が異なっている。
図1(a)が示す第1の状態では、撮像光学系の入射瞳EPは(0,0)に位置しており、図1(b)が示す第2の状態では、撮像光学系の入射瞳EPは(0,ΔEP)に位置している。前記第1の状態および第2の状態の撮像光学系は、被写体から撮像光学系の入射瞳面までの距離が互いに異なるために、夫々の状態の撮像光学系で取得した画像のパースペクティブが互いに異なっている。ここで、パースペクティブとは、被写体距離に対する被写体倍率の変化率を指す。AおよびBは夫々の状態の撮像光学系が形成する、(z,x)に位置する被写体Oの、像面IP上での光学像の位置である。また、第1の状態の撮像光学系の焦点距離はf1、第2の状態の撮像光学系の焦点距離はf2である。これらを用いて、被写体Oまでの距離xは式(1)により与えられる。
このように、同一の撮像光学系の、パースペクティブが異なる2つの状態で夫々取得した2枚の画像から、被写体の奥行き情報を算出することができる。パースペクティブを変化させるには、撮像光学系を構成する複数の光学素子のうち、絞りまたは絞りよりも被写体側に位置する1つ以上の光学素子を光軸上で移動させれば良い。つまり、一般的なズーム駆動、または絞りより被写体側にフォーカスレンズが存在する場合にはフォーカス駆動で容易にパースペクティブを変化させることが出来る。そのため、ここまで説明した原理を用いることで、ズーム機能やフォーカス機能を持つ一般的なデジタルカメラを用いて被写体の奥行き情報を取得することが可能となる。
なおここでは、簡単のためZ−X平面上にある被写体Oの奥行き情報xを算出する場合について説明したが、同様の原理を用いて任意の平面上の被写体の奥行き情報を算出することが可能である。
以上の方法を用いて被写体の奥行き情報を取得するには、パースペクティブが異なる2つの画像上の同一の被写体を抽出し、夫々の画像における座標位置AおよびBを算出する必要がある。
対応する被写体領域の抽出方法について図2を用いて説明する。ここで、画像座標(y,z)を使用する。画像座標(y,z)は、図2における夫々の画素群の左上を原点(1,1)として定義し、水平方向をz軸、垂直方向をy軸とする。パースペクティブの異なる2つの画像のうち1枚をIMG1、他方をIMG2とする。また、IMG1の画像座標(y,z)の画素値をF1(y,z)とし、IMG2の画素値をF2(y,z)として説明する。
視差画像IMG1における任意の座標(y,z)の画素に対応する視差画像IMG2の画素は、座標(y,z)における視差画像IMG1の画素値F1(y,z)と最も類似したIMG2の画素値を持つ画素を探すことで求めることが出来る。ただし、一般的に任意の画素と最も類似した画素を探すことは難しいため、画像座標(y,z)の近傍の画素も用い、ブロックマッチングと呼ばれる手法で類似画素を探索する。以下、注目画素とその近傍8画素を用いるブロックマッチングについて説明する。IMG1の任意の座標(y,z)の画素およびその近傍8画素と、座標(y,z)からy方向にn、z方向にmだけずれたIMG2の画素およびその近傍8画素との類似度Eを式(2)で定義する。
この式(2)において逐次nおよびmの値を変えて上記類似度Eの値を計算し、最も小さな類似度Eを与える(y+n,z+m)が、IMG1の座標(y,z)に対する、IMG2の対応点である。図2に示す2つの画像夫々の黒塗り画素が同一被写体を示す画素であるとすると、IMG1における黒塗り画素の座標(4,6)に対する、IMG2の対応点の座標は(2,8)であり、n=−2、m=2のときに最も小さな類似度Eを与える。
このようにして得られた、2つの画像夫々における同一被写体の座標位置を用いて、前述の原理を用いて被写体の奥行き情報の算出を行う。
次に、ある距離に位置する被写体を含む画素領域を簡易な処理で求める方法について説明する。
以下、図1で説明した2つの状態の撮像光学系を用いて取得した2つの画像を例にとって説明する。図3のIMG1は第1の状態の撮像光学系で取得した第1の画像であり、IMG2は第2の状態の撮像光学系で取得した第2の画像である。ここで、IMG1およびIMG2夫々のパースペクティブは互いに異なっている。図3のDmapは、第1の状態の撮像光学系の画角内の被写体の配置を説明する図であり、黒塗りで示されている画素領域内の被写体は距離xに位置し、白塗りで示されている画素領域内の被写体は距離xとは異なる距離に位置する。
距離xに位置する被写体の、IMG1およびIMG2夫々における座標位置AおよびBの比rは、式(1)を変形した式(3)により記述できる。
この式より、IMG1をr倍拡大処理することで、距離xに位置する被写体の座標位置がIMG2と同一である画像IMG1tを生成することができる。ここで、画像の拡大処理の際には公知の画素補間処理を用いる。これは例えばバイリニア補間である。
図3のDiffはIMG2およびIMG1tの差分を示す画像であり、Diffの各画素の画素値は、同一の画像座標における、IMG2およびIMG1t夫々の画素の画素値の差分値である。Diffのうち黒塗りで示す画像領域は画素値が小さく、斜線部で示す画像領域は画素値が大きい。これは、同一の被写体が同一の画像座標に位置している画素領域においては前記差分値が小さくなるためである。つまり、黒塗り領域に存在する被写体は距離xに位置し、斜線部で示す領域に存在する被写体は距離xとは異なる距離に位置する。
また、DiffはIMG2およびIMG1tの、差分ではなく例えば比であっても良く、2つの画像の同一の画像座標に位置する夫々の画素の画素値を比較する手段であれば良い。画素値の比を用いる場合には、Diffの各画素の画素値は、同一の画像座標における、IMG2およびIMG1t夫々の画素の画素値の比である。このとき、同一の被写体が同一の画像座標に位置している画素領域においては前記比が1となり、その他の領域においては前記比が1以外の値になる。
以上説明した方法により、簡易な処理で画像内の距離xに存在する被写体を含む画素領域を抽出することが可能である。
[実施例1]
本実施例では、光学ズーム機能を有する撮像装置が行う、パースペクティブの異なる2枚の画像を用いて被写体の奥行き情報を算出する画像処理方法について説明する。
本実施例では、光学ズーム機能を有する撮像装置が行う、パースペクティブの異なる2枚の画像を用いて被写体の奥行き情報を算出する画像処理方法について説明する。
まず、本実施例の撮像装置の構成について説明する。図4は、本実施形態の撮像装置1のブロック図である。撮像系10は撮像光学系100および撮像素子102から構成され、撮像光学系100は絞り101aおよびフォーカスレンズ101bから構成される。更に、撮像光学系100は加えて1つ以上のレンズを有する。
撮像光学系100は不図示の被写体からの光を、CMOSセンサやCCDセンサ等の光電変換素子により構成される撮像素子102上に結像させる。撮像素子102での光電変換により生成されたアナログ電気信号はA/D変換器103でデジタル信号に変換されて画像処理部104に入力される。画像処理部104は、A/D変換器103からの画像データに対して所定の画素補間処理や色変換処理等を行う。なお、画像処理部104は撮像装置1に搭載された画像処理装置に相当する。
また、画像処理部104は複数のパースペクティブの異なる入力画像から、被写体の奥行き情報を算出する。その際、記憶部109はシステムコントローラ107の指示に応じて被写体の奥行き情報の算出に必要な情報を画像処理部104に送信する。
撮像素子102の駆動、画像処理部104での処理および撮像光学系100の動作の制御はシステムコントローラ107が行う。撮像光学系100における絞り101aおよびフォーカスレンズ101bの機械的な駆動は、システムコントローラ107からの制御指示に応じて撮像光学系制御部106が行う。絞り101aは、設定された絞り値(Fナンバー)に応じてその開口径が制御される。また、撮像光学系制御部106は、撮影時の撮影条件をシステムコントローラ107に送信する。
システムコントローラ107は、撮影画像または奥行き情報を半導体メモリや光ディスク等の画像記憶媒体108に保存する。このとき、画像ファイルのファイルヘッダに撮影時の撮影条件を格納する。また、撮影画像または奥行き情報を画像表示部105に表示してもよい。
フォーカスレンズ101bは被写体距離に応じてピント調整を行うために不図示のAFシステムやマニュアルフォーカス機構によってその位置が制御される。なお、撮像光学系100は、図4では撮像装置1の一部として構成されているが、一眼レフカメラのように交換式の撮像光学系であってもよい。
次に、本実施例の撮像装置が実行する、被写体の奥行き情報を算出する画像処理方法の具体的な手順について、図5の処理フロー図を用いて説明する。
ステップS101では、まずシステムコントローラ107は撮像系10を制御して第1の焦点距離f1に設定し、画像IMG1の撮像を行う。その後、撮像系10を制御して第2の焦点距離f2に設定し、画像IMG2の撮像を行う。f1とf2は互いに異なっていれば任意の値であって良く、ここでは例としてf1<f2とする。IMG1およびIMG2は、夫々撮影時の状態の撮像光学系の入射瞳と被写体の距離が互いに異なっているため、互いにパースペクティブが異なる。また、システムコントローラ107はf1およびf2を撮影条件データとして画像処理部104に送信する。
ステップS102では、画像処理部104はIMG2およびIMG1上の互いに対応する被写体の夫々の画像上での座標位置の算出を行う。対応する被写体の抽出には、前述のブロックマッチングを用いる。このとき、IMG1とIMG2で異なっているのは、撮影時の焦点距離とパースペクティブであり、画像上では被写体倍率が互いに異なる。そのため、対応する被写体は夫々の画像の同じ方位角方向に存在するので、該方位角方向の直線上の画素についてのみ対応被写体抽出処理を適用することが好ましい。例えば、図6はIMG1およびIMG2を示しており、IMG2上の被写体OBJの、IMG1上の座標位置を探索する際には、IMG1の直線L上の画素にのみ対応被写体抽出処理を適用する。これにより、処理付加を低減することが可能になる。
また、対応被写体抽出処理を行う際に、IMG1およびIMG2の被写体倍率が著しく異なる場合には、対応被写体抽出の精度が低下するため、予め被写体倍率を同程度に補正してもよい。具体的には、IMG1に対し、f2/f1倍の拡大処理を行い、IMG2と同じ画像サイズになるようにトリミング処理を行っても良い。拡大処理を行う際には、公知の画素補間処理を用いる。この場合には、後のステップで式(1)に従い被写体の奥行き情報を算出する際に、f1の値をf2で置き換える。
画像処理部104は、IMG2の各画素に対応するIMG1の画素を抽出し、夫々の画像上での座標位置の比r(=A/B)を取得する。この処理をIMG2の全ての画像座標の画素について適用し、IMG2の画素毎にrを夫々別個に保存する。
ステップS103では、記憶部109から、撮像光学系100が焦点距離f1の状態にあるときの、撮像素子102と入射瞳の間の距離EP1および、撮像光学系100が焦点距離f2にあるときの、撮像素子102と入射瞳の間の距離EP2を読み出す。
ステップS104では、f1、f2、ΔEP(=|EP1−EP2|)およびIMG2の画素毎のrを用いて、式(1)に従い画素毎に被写体の奥行き情報を算出し、距離マップIMGDを生成する。IMGDは、IMG2の画角と同じ画角の、被写体の奥行き情報マップである。
ステップS105では、システムコントローラ107は、IMG1、IMG2およびIMGDのうち少なくとも1つを画像記憶媒体108に保存する。また、IMG1、IMG2およびIMGDのうち少なくとも1つを画像表示部105に表示しても良い。
以上説明した画像処理方法によれば、パースペクティブの異なる2つの画像から被写体の奥行き情報を算出することで、ズーム機能を持つ一般的なデジタルカメラを使用して被写体の奥行き情報を取得することができる。
[実施例2]
本実施例では、撮像光学系および撮像素子が、該撮像光学系の光軸方向に一体で稼動する機能を有する撮像装置が行う、パースペクティブの異なる2枚の画像を用いて被写体までの奥行き情報を算出する画像処理方法について説明する。
本実施例では、撮像光学系および撮像素子が、該撮像光学系の光軸方向に一体で稼動する機能を有する撮像装置が行う、パースペクティブの異なる2枚の画像を用いて被写体までの奥行き情報を算出する画像処理方法について説明する。
まず、本実施例の撮像装置の構成について説明する。本実施例の撮像装置2の構成は、撮像系10の代わりに撮像系20を持つ他は実施例1の撮像装置1と同様であり、同様である構成要素については説明を省略する。
図7は、本実施例の撮像装置2が有する撮像系20の側面図である。撮像系20は撮像光学系200、撮像素子202、保持部210およびレール220により構成される。撮像光学系200および撮像素子202は、実施例1の撮像光学系100および撮像素子102と夫々同様であるため説明を省略する。撮像光学系200および撮像素子202は保持部210によって保持されており、互いの相対位置は固定されている。保持部210はレール220に沿って、不図示の動力部により駆動される。前記動力部は例えばアクチュエーターやモーターである。
レール220の方向、つまり保持部210の稼動方向は撮像光学系200の光軸と平行である。撮像装置2は撮像光学系200および撮像素子202を撮像光学系の光軸方向に一体で稼動させることで、入射瞳と被写体の間の距離が異なる状態で撮像を行うことが出来る。つまり、パースペクティブの異なる複数の画像を取得することが可能である。
ここで、撮像系20は撮像光学系200および撮像素子202を、撮像光学系200の光軸に沿って一体で稼動させる機能を持っていればよく、稼動方法は特に限定されない。
本実施例の撮像装置2が実行する、被写体の奥行き情報を算出する画像処理方法の具体的な手順については一部を除いて実施例1と同様であり、差異部についてのみ説明する。ステップS101では、まずシステムコントローラ107は撮像系20を制御して保持部210をレール220上の第1の位置に移動させ、画像IMG1の撮像を行う。その後、撮像系20を制御して保持部210をレール220上の第2の位置に移動させ、画像IMG2の撮像を行う。
ステップS103では、画像処理部104は前記第1の位置および前記第2の位置の間の距離をΔEPとして取得する。
以上説明した画像処理方法によれば、撮像光学系および撮像素子が該撮像光学系の光軸に沿って一体で稼動する機構を有する撮像系を用いて取得した、パースペクティブの異なる2つの画像から被写体の奥行き情報を算出することができる。
[実施例3]
本実施例では、単焦点撮像光学系を有する撮像装置が行う、パースペクティブの異なる2枚の画像を用いて、指定した距離に位置する被写体を含む画素領域を取得する画像処理方法について説明する。
本実施例では、単焦点撮像光学系を有する撮像装置が行う、パースペクティブの異なる2枚の画像を用いて、指定した距離に位置する被写体を含む画素領域を取得する画像処理方法について説明する。
まず、本実施例の撮像装置の構成について説明する。本実施例の撮像装置3の構成は、撮像系10の代わりに撮像系30を持つ他は実施例1の撮像装置1と同様であり、同様である構成要素については説明を省略する。
図8は撮像装置3が有する撮像系30の側面図である。撮像系30は撮像光学系300および撮像素子302から構成され、撮像光学系300は絞り301aおよびフォーカスレンズ301bから構成される。更に、撮像光学系300は加えて1つ以上のレンズを有する。
撮像光学系300のフォーカスレンズ301bは絞り301aよりも被写体側に位置するため、撮像光学系制御部106がフォーカスレンズ301bを駆動した際には、撮像光学系300の入射瞳と撮像素子302の間の距離が変化する。つまり、異なる被写体距離にフォーカシングした状態で夫々撮像を行うことで、パースペクティブの異なる複数の画像を取得することが可能である。
次に、本実施例の撮像装置が実行する、被写体の奥行き情報を算出する画像処理方法の具体的な手順について、図9の処理フロー図を用いて説明する。
ステップS301では、まずシステムコントローラ107は撮像系30を制御して第1の合焦状態に設定し、画像IMG1の撮像を行う。その後、撮像系30を制御して第2の合焦状態に設定し、画像IMG2の撮像を行う。また、システムコントローラ107は第1および第2の合焦状態夫々における撮像光学系300の焦点距離f1およびf2を撮影条件データとして画像処理部104に送信する。ここで、前記第1の合焦状態および第2の合焦状態にある撮像光学系は、互いに異なる距離に位置する被写体に合焦している。
ステップS302では、画像処理部104は、記憶部109から、第1および第2の合焦状態夫々における撮像光学系300の入射瞳と撮像素子302の間の距離EP1およびEP2を夫々取得する。また、算出設定距離xを取得する。これは任意の値で良く、例えばユーザーの入力に応じて不図示の入力部によって送信されても良いし、第1および第2の合焦状態における合焦被写体距離のうちどちらか1つでもよい。
ステップS303では、算出設定距離x、f1、f2およびΔEP(=|EP1−DP2|)を用いて式(3)に従い、距離xに位置する被写体の、IMG1およびIMG2夫々における座標位置AおよびBの比rを算出する。また、IMG1をr倍拡大処理し、IMG1tを生成する。ここで、算出設定距離x、f1、f2およびΔEPの値によってはrが1よりも小さくなる場合があり、その場合には実際に行う処理は縮小処理となるが、これも含め拡大処理と表現する。例えば、画像を1/2に縮小する処理は、0.5倍の拡大処理と表現する。
ステップS304では、IMG2とIMG1tの差分画像Diffを算出する。その後、Diffの各画素を参照し、Diffの画素値が閾値TH以下である画像座標の画素は画素値がx、Diffの画素値が閾値THより大きい画像座標の画素は画素値が0である画像IMGDを生成する。ここで理想的には、距離xに位置する被写体を含む画素領域においては、Diffの各画素の画素値は0であり、その他の距離に位置する被写体を含む画素領域においてはDiffの各画素の画素値は0より大きい。この理想的な場合には閾値THは0で良いが、実際にはノイズ等外乱の影響により、距離xに位置する被写体を含む画素領域においてもDiffの画素値は0とならない。
そのため、例として閾値THは撮像した画像の最大階調値を10で割って小数点以下を切り捨てた値に設定する。例えばIMG1およびIMG2の階調が8bitであるときにはTH=25である。
算出されたIMGDは、距離xに位置する被写体を表す被写体の奥行き情報マップであり、距離xに位置する被写体を含む画素領域においては画素値がx、その他の距離に位置する被写体を含む画素領域においては画素値が0である。
ステップS305では、システムコントローラ107は、IMG1、IMG2、IMG1t、DiffおよびIMGDのうち少なくとも1つを画像記憶媒体108に保存する。また、IMG1、IMG2、IMG1t、DiffおよびIMGDのうち少なくとも1つを画像表示部105に表示しても良い。
以上の説明において、距離xに位置する被写体を含む画素領域を算出したが、更に複数の距離に夫々位置する被写体を含む画素領域を算出しても良い。具体的には、xとは異なる算出設定距離を用いてステップS303およびステップS304を繰り返し行い、算出された複数のIMGDを統合して最終出力画像としても良い。この場合、IMGDは複数の距離に夫々位置する被写体を含む画素領域を表す複数の被写体の奥行き情報マップである。
以上説明した画像処理方法によれば、パースペクティブの異なる2つの画像を用いて、拡大および差分処理等の簡易な処理で、特定の距離に位置する被写体を表す被写体の奥行き情報マップを算出することが出来る。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
1…撮像装置
10…撮像系
100…撮像光学系
101a…絞り
101b…フォーカスレンズ
102…撮像素子
103…A/D変換器
104…画像処理部
105…画像表示部
106…撮像光学系制御部
107…システムコントローラ
108…画像記憶媒体
109…記憶部
10…撮像系
100…撮像光学系
101a…絞り
101b…フォーカスレンズ
102…撮像素子
103…A/D変換器
104…画像処理部
105…画像表示部
106…撮像光学系制御部
107…システムコントローラ
108…画像記憶媒体
109…記憶部
Claims (8)
- 単一の撮像光学系で取得した複数の画像を用いて被写体の奥行き情報を算出する画像処理方法であって、
第1の状態の撮像光学系で撮像された第1の画像と、該撮像光学系を構成する少なくとも1つ以上の光学素子の該撮像光学系の光軸上の位置が、第1の状態とは異なる第2の状態の該撮像光学系で撮像された第2の画像を取得する画像取得ステップと、
前記第1の状態および第2の状態における前記撮像光学系の光学情報を取得する光学情報取得ステップと、
前記第1の画像および第2の画像における同一被写体の位置の対応関係を取得する対応関係取得ステップと、
前記同一被写体の位置の対応関係および前記光学情報に基づき被写体の奥行き情報を算出する奥行き情報算出ステップと
を有し、前記第1の状態および前記第2の状態の前記撮像光学系夫々の入射瞳と被写体の間の距離は互いに異なることを特徴とする画像処理方法。 - 前記第1の画像及び前記第2の画像夫々のパースペクティブは互いに異なることを特徴とする請求項1に記載の画像処理方法。
- 前記光学情報は、前記第1の状態および前記第2の状態の前記撮像光学系夫々の入射瞳の位置情報であることを特徴とする請求項1または2に記載の画像処理方法。
- 前記対応関係取得ステップは、前記第1の画像上の被写体の、前記第2の画像における画像上の座標位置を取得することで、
前記第1の画像および第2の画像における同一被写体の位置の対応関係を取得することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理方法。 - 前記対応関係取得ステップは、前記第1の画像を拡大処理した画像と、前記第2の画像夫々の同一の画素領域の画素値を比較することで、前記第1の画像および第2の画像における同一被写体の位置の対応関係を取得することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理方法。
- 前記拡大処理は、前記撮像光学系の光学情報に基づく倍率で前記第1の画像を拡大することを特徴とする請求項5に記載の画像処理方法。
- 前記被写体の奥行き情報は、複数の状態の前記撮像光学系夫々の画角のうち、最も狭い画角内の距離マップであることを特徴とする請求項1乃至6のいずれか1項に記載の画像処理方法。
- 算出設定距離を取得する算出設定距離取得ステップを有し、
前記被写体の奥行き情報は、複数の状態の前記撮像光学系夫々の画角のうち、最も狭い画角内の、前記算出設定距離に位置する被写体を含む画角領域に対応する画素領域であることを特徴とする請求項1乃至7のいずれか1項に記載の画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016165220A JP2018033059A (ja) | 2016-08-26 | 2016-08-26 | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016165220A JP2018033059A (ja) | 2016-08-26 | 2016-08-26 | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018033059A true JP2018033059A (ja) | 2018-03-01 |
Family
ID=61303700
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016165220A Pending JP2018033059A (ja) | 2016-08-26 | 2016-08-26 | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018033059A (ja) |
-
2016
- 2016-08-26 JP JP2016165220A patent/JP2018033059A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6112824B2 (ja) | 画像処理方法および装置、プログラム。 | |
US9674408B2 (en) | Image pickup apparatus that utilizes a refocusable range, image processing method, and recording medium | |
JP2016114946A (ja) | カメラモジュール | |
EP3048787A1 (en) | Image processing apparatus, image pickup apparatus, image processing method, program, and storage medium | |
US20180241949A1 (en) | Image pickup apparatus, control method for image pickup apparatus | |
JP2017129788A (ja) | 焦点検出装置及び方法、及び撮像装置 | |
JP6664177B2 (ja) | 焦点検出装置、予測方法、プログラム及び記憶媒体 | |
US10999491B2 (en) | Control apparatus, image capturing apparatus, control method, and storage medium | |
US20160275657A1 (en) | Imaging apparatus, image processing apparatus and method of processing image | |
JP2018148383A (ja) | 撮像装置および撮像ユニット | |
JP6639276B2 (ja) | 画像処理装置およびその制御方法、撮像装置、プログラム | |
JP2019168661A (ja) | 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 | |
JP2018074362A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2018033059A (ja) | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 | |
JP2016054506A (ja) | 撮像装置、ヒストグラムの表示方法、プログラム、画像処理装置 | |
JP6900228B2 (ja) | 撮像装置、撮像システム、撮像装置の制御方法、および、プログラム | |
JP6530610B2 (ja) | 焦点調節装置、撮像装置、焦点調節装置の制御方法、及びプログラム | |
JP2019047145A (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム | |
US11880991B2 (en) | Imaging apparatus including depth information at first or second spatial resolution at different regions in the image | |
US11627245B2 (en) | Focus adjustment device and focus adjustment method | |
JP6882016B2 (ja) | 撮像装置、撮像システム、撮像装置の制御方法、および、プログラム | |
JP2017134154A (ja) | フォーカス制御装置、撮像装置およびフォーカス制御プログラム | |
JP2016178632A (ja) | 撮像装置、画像処理装置および画像処理方法 | |
JP6566765B2 (ja) | 撮像装置 | |
JP2017073681A (ja) | 撮像装置および撮像処理プログラム |