JP6157249B2 - 撮像装置、距離情報取得方法およびプログラム - Google Patents

撮像装置、距離情報取得方法およびプログラム Download PDF

Info

Publication number
JP6157249B2
JP6157249B2 JP2013145333A JP2013145333A JP6157249B2 JP 6157249 B2 JP6157249 B2 JP 6157249B2 JP 2013145333 A JP2013145333 A JP 2013145333A JP 2013145333 A JP2013145333 A JP 2013145333A JP 6157249 B2 JP6157249 B2 JP 6157249B2
Authority
JP
Japan
Prior art keywords
image
focus position
focus
imaging
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013145333A
Other languages
English (en)
Other versions
JP2014044408A (ja
Inventor
知 小松
知 小松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013145333A priority Critical patent/JP6157249B2/ja
Priority to PCT/JP2013/070406 priority patent/WO2014021238A1/en
Priority to EP13825372.9A priority patent/EP2880399B1/en
Priority to US14/406,866 priority patent/US9762788B2/en
Publication of JP2014044408A publication Critical patent/JP2014044408A/ja
Application granted granted Critical
Publication of JP6157249B2 publication Critical patent/JP6157249B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • G02B7/38Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals measured at different points on the optical axis, e.g. focussing on two or more planes and comparing image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/571Depth or shape recovery from multiple images from focus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/676Bracketing for image capture at varying focusing conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • H04N5/2226Determination of depth image, e.g. for foreground/background separation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Measurement Of Optical Distance (AREA)
  • Focusing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、フォーカス位置を変えて撮影した複数の画像から被写体までの距離を計測する技術に関する。
従来、撮像装置によって取得された画像から撮影シーンの距離を取得する手法として特許文献1のようなDepth from Defocus(DFD)法が提案されている。DFD法では撮像光学系の撮影パラメータを制御することでボケの異なる複数の画像を取得し、複数の取得画像において測定対象画素およびその周辺画素を用いて互いのボケの大きさや相関量を算出する。
このボケの大きさや相関量は画像中の被写体までの距離に応じて変化するため、その関係を用いて距離を算出する。DFD法による距離計測は、1つの撮像系によって距離を算出することできるため、市販されている撮像装置に組み込むことが可能といった利点を有する。
特開平01−167610号公報 特許第4403477号公報
従来のDFD法は、撮像光学系によるボケの大きさが被写体までの距離に応じて変化することを利用し、複数画像のボケの大きさに基づき被写体の距離情報を推定している。このとき各画像の撮影条件が分かっていれば理論上は距離の算出が可能であるため、特許文献1、2においては好ましい撮影条件は特に言及されていない。しかしながら、本発明者らが研究を進めるなかで、取得する複数画像の撮影条件をどのように設定するかが、距離の推定精度(計測精度)や計測可能範囲に影響を与えること、また撮像光学系の特性に依存して好ましい撮影条件が異なることなどが分かってきた。
そこで本発明の目的とするところは、フォーカス位置を変えて撮影した複数の画像から被写体の距離情報を取得する撮像装置において、光学系の特性及び/又は距離計測の目的に応じた適切な撮影条件を設定するための技術を提供することにある。
本発明の第態様は、第一のフォーカス位置で被写体を撮像することで第一の画像を取得し、且つ、該第一のフォーカス位置と異なる第二のフォーカス位置で前記被写体を撮像することで該第一の画像とボケが異なる第二の画像を前記第一の画像を取得した後に取得する撮像手段と、前記第一の画像と前記第二の画像のボケの違いに基づいて前記被写体の距離情報を決定する距離情報決定手段と、前記第一のフォーカス位置と前記第二のフォーカス位置の差であるフォーカス移動量が以下の式を満たすように、前記第二のフォーカス位置を設定するフォーカス位置設定手段と、を有することを特徴とする撮像装置を提供するものである。
d=kFλ,−16≦k≦16,k≠0
ただし、d:像面におけるフォーカス移動量、k:係数、F:F値、λ:第一及び第二の画像の撮像に用いる光の波長、である。
本発明の第2態様は、第一のフォーカス位置で被写体を撮像することで第一の画像を取得し、且つ、該第一のフォーカス位置と異なる第二のフォーカス位置で前記被写体を撮像
することで該第一の画像とボケが異なる第二の画像を前記第一の画像を取得した後に取得する撮像手段と、前記第一の画像と前記第二の画像のボケの違いに基づいて前記被写体の距離情報を決定する距離情報決定手段と、前記第一のフォーカス位置と前記第二のフォーカス位置の差であるフォーカス移動量が以下の式を満たすように、前記第二のフォーカス位置を設定するフォーカス位置設定手段と、を有することを特徴とする撮像装置を提供するものである。
−16×587.56nm×F ≦d≦16×587.56nm×F ,d≠0
ただし、d:像面におけるフォーカス移動量、F:F値である。
本発明の第態様は、第一のフォーカス位置で被写体を撮像することで第一の画像を取得する第一の撮像ステップと、前記第一の撮像ステップの後、該第一のフォーカス位置と異なる第二のフォーカス位置で前記被写体を撮像することで該第一の画像とボケが異なる第二の画像を取得する第二の撮像ステップと、前記第一の画像と前記第二の画像のボケの違いに基づいて前記被写体の距離情報を決定する距離情報決定ステップと、を含む距離情報取得方法であって、前記第一のフォーカス位置と前記第二のフォーカス位置の差であるフォーカス移動量が以下の式を満たすように、前記第二のフォーカス位置が設定されていることを特徴とする距離情報取得方法を提供するものである。
d=kFλ,−16≦k≦16,k≠0
ただし、d:像面におけるフォーカス移動量、k:係数、F:F値、λ:第一及び第二の画像の撮像に用いる光の波長、である。
本発明の第4態様は、第一のフォーカス位置で被写体を撮像することで第一の画像を取得する第一の撮像ステップと、前記第一の撮像ステップの後、該第一のフォーカス位置と異なる第二のフォーカス位置で前記被写体を撮像することで該第一の画像とボケが異なる第二の画像を取得する第二の撮像ステップと、前記第一の画像と前記第二の画像のボケの違いに基づいて前記被写体の距離情報を決定する距離情報決定ステップと、を含む距離情報取得方法であって、前記第一のフォーカス位置と前記第二のフォーカス位置の差であるフォーカス移動量が以下の式を満たすように、前記第二のフォーカス位置が設定されていることを特徴とする距離情報取得方法を提供するものである。
−16×587.56nm×F ≦d≦16×587.56nm×F ,d≠0
ただし、d:像面におけるフォーカス移動量、F:F値である。
本発明の第5態様は、上記した本発明に係る距離情報取得方法の各ステップをコンピュータに実行させることを特徴とするプログラムを提供するものである。
本発明によれば、フォーカス位置を変えて撮影した複数の画像から被写体の距離情報を取得する撮像装置において、光学系の特性及び/又は距離計測の目的に応じた適切な撮影条件を設定することができる。
本発明の実施例1に係る撮像装置の構成を示す図。 PSFの断面をプロットした図。 PSFピーク値のデフォーカス特性を示す図。 実施例1に係るPSFピーク比の特性を示す図。 フォーカス移動量の変化に伴うPSFピーク比の変化を示す図。 距離計測範囲とPSFピーク比の値域のフォーカス移動量依存性を示す図。 フォーカス移動量とF値の関係を示す図。 距離計測範囲のフォーカス移動量依存性を示す図。 実施例2に係るPSFピーク比の特性を示す図。 PSFピーク比の傾きのフォーカス移動量依存性を示す図。 PSF相関量のデフォーカス特性を示す図である。 実施例6に係るPSF相関量の特性を示す図である。 距離計測範囲、PSF相関量のフォーカス移動量依存性を示す図。 フォーカス移動量に伴う評価値の変化を示す図である。 物体距離および像面距離の関係を示す図である。 フォーカス移動量最大時のPSFピーク比の特性を示す図。
本発明は、フォーカス位置を変えて撮影した2枚以上の画像を用い、それらの画像のボケの違いに基づいて被写体の距離情報を取得するための技術に関し、いわゆるDFD法の改良を提案するものである。本発明者らは、フォーカス位置の異なる複数の画像から各画素における距離推定を行う場合、各画像のフォーカス位置をどのように設定するかが、距離の推定精度や計測可能な距離範囲の広狭に影響を与え得ることを見出した。また撮像装置の光学系の特性に依存して、フォーカス位置の好ましい条件が変化することも見出した。そこで本明細書では、撮像装置の光学系の特性に依存して、距離推定に用いる画像のフォーカス位置の条件を設計することを提案する。また、光学系の特性が変わる撮像装置の場合には(ユーザが明示的に変更する場合もあれば、撮像装置が撮影モードや環境に応じて自動で変更する場合もある。)、それに応じて、フォーカス位置の条件を自動で変更することを提案する。
以下、本発明におけるフォーカス位置の条件設定の基本的な考え方を説明し、その後、いくつかの実施例を挙げて距離計測の目的に応じた具体的な条件について例示的に説明する。なお、本発明における被写体の距離情報とは、2画像のフォーカス位置の中間位置から被写体までの相対的な距離、もしくはどちらか1画像のフォーカス位置から被写体までの相対的な距離、撮影時の撮像装置から被写体までの絶対距離であってもよい。なお、絶対距離あるいは相対距離は、像面側での距離、物体側での距離のどちらであってもよい。
<フォーカス位置の条件設定>
図1は、撮像光学系の構成と距離推定用の画像を撮影するときのフォーカス位置を模式的に示している。距離推定を行う場合、まず光学系を第一のフォーカス位置に合わせ(例えば、実線で示される光路)、被写体を撮像する。続いて、光学系を第二のフォーカス位置に変更し(例えば、破線で示される光路)、同じ被写体を撮像する。これによりボケが異なる2枚の画像が得られる。
このとき、本発明では、第一のフォーカス位置と第二のフォーカス位置との差(フォーカス移動量と呼ぶ)を、光学系のF値(F)と、画像の撮像に用いる光の波長(λ)とから、以下のように決める。なお、下記式におけるフォーカス移動量は像面側の移動量であり、図1においてdで示される距離である。また、第一のフォーカス位置(像面の位置)を0とする。
Figure 0006157249
式1は、光学系のF値が大きい場合は、F値が相対的に小さい場合に比べ、フォーカス移動量dの絶対値を大きくすべきことを示している。
さらに、フォーカス移動量dは、比例係数kを用いて、下記の式2を満たすように設定されることが好ましい。
Figure 0006157249
<条件式の意義>
DFD法の基本原理は、撮影条件の異なる複数の画像からボケの変化を抽出することで被写体の距離情報(各画素における距離情報)を推定するというものである。以下では、被写体の距離情報は、特に指定がない限り、像面側でのフォーカス位置からの相対距離の例で説明する。また、画像間のボケ変化の度合いは、撮像光学系の特性、すなわち撮像光学系の被写界深度に依存する。つまり、被写界深度が浅いとフォーカス移動量が小さくても十分なボケ変化が得られるが、被写界深度が深いとフォーカス移動量を大きくしなければ十分なボケ変化が得られない。被写界深度はFλに比例するため、式1、式2のようにフォーカス移動量dを決めることで、所望のボケ変化が得られるようになる。
次に式2における係数kの値と距離計測の関係を説明する。この係数kは、距離の計測精度(分解能)や計測可能な距離範囲(単に距離計測範囲ともいう)を調整するためのパラメータとして用いることができる。本発明者はシミュレーションと実験により好ましい係数kの範囲を以下のように見出した。
式2に示すように、係数kは、−16≦k≦16(k≠0)の範囲の値であるとよい。kが−16よりも小さいか+16よりも大きい場合は、被写体のボケが大きくなり、計測精度が低下するからである。なお、k=0が除外されているのは、同じフォーカス位置の画像からはボケの違いが得られないからである。式2の係数kの範囲は、距離計測の指標として、ボケの拡がり(大きさ)ではない指標(例えばPSFのピーク変化又はPSFの相関などの指標)を用いる場合に、特に有効となる。ボケの拡がりを評価する方法の場合、式2で規定されるフォーカス移動量dではボケが小さすぎ、計測精度の低下を招くおそれがあるからである。
距離計測の目的が、距離の2層分離、つまり被写体が特定の距離範囲に含まれるか否かを判定するというものである場合、係数kは、−16≦k<−8,8<k≦16の範囲の値に設定するとよい。係数kの絶対値が式2で示した上限値の16に近いほど距離計測範囲が狭まるため、対象となる被写体が特定の距離範囲に存在するか否かの判定に適するからである。
一方、距離計測の目的が、距離の多層分離、つまり被写体が3つ以上の距離範囲のうちのいずれに含まれるかを判定するというものである場合、係数kは、−8≦k<0,0<k≦8の範囲の値に設定するとよい。係数kの絶対値が小さいほど距離計測範囲が広がるため、2層以上の分離に適するからである。ただし、−1≦k<0,0<k≦1の範囲は、この範囲は距離計測範囲は広がる反面、距離分解能が低下してしまうため、より好ましくは、−8≦k<−1,1<k≦8の範囲の値である。
さらに、係数kが−4<k≦−2,2≦k<4の範囲の値であると好適である。この範囲では、距離計測範囲の広さと距離分解能のバランスが特に良好となり、広い距離範囲を高い精度で計測することが可能になるからである。
<実施例1>
図1は、本発明の実施例1に係る撮像装置の主要な構成を模式的に示している。
撮像装置100は、撮像光学系10、撮像素子11、撮像部12、フォーカス位置設定部13および距離情報決定部14を備える。本実施例に用いる撮像光学系10は、単焦点の光学系でも可変焦点の光学系でもよく、画像を撮影する通常の撮像装置の撮像光学系に
より構成される。像面に配置されている撮像素子11は、カラーフィルタを有する撮像素子でもよいし、モノクロの撮像素子でもよいし、3板式の撮像素子でもよい。
本実施例の撮像装置は、図1の実線で示した所望の物体距離にフォーカスを合わせて撮影した第一の画像と、図1の点線で示したフォーカス位置をずらした第二の画像とを撮影する。このときのフォーカス移動量は、図1中に示すdであり、像面における光軸方向へのフォーカス位置の差となる。
撮像装置100の動作を説明する。撮影が開始されると撮像部12は、撮像光学系10を駆動し被写体に合焦し第一の画像を撮影する。続いて撮像部12は、フォーカス位置設定部13によって設定されたフォーカス移動量dだけ像面が移動するように撮像光学系10を駆動し、第二の画像を撮影する。
フォーカス位置設定部13は、式2によって、撮影時のF値に応じて第一のフォーカス位置からの像面上での移動量dを設定する。式2の係数kについては、予め与えられているものとする。なお、ここではF値が可変の撮像装置を想定しているが、F値が固定の撮像装置の場合は式2によって予め設定されたフォーカス移動量dを撮像装置のメモリ内に保持しておくものとする。
撮像部12によって撮影された前記第一の画像と第二の画像は、距離情報決定部14に出力される。距離情報決定部14は入力された2画像のボケの違いに基づいて被写体の距離情報を算出する。
表1に本実施例における撮影条件を示す。
Figure 0006157249
表1の撮影条件の場合、式2から得られる最大のフォーカス移動量dの範囲は
−0.150mm<d<0.150mm,d≠0となる。よって表1記載のフォーカス移動量は式2を満たしている。なお、表1の撮影条件では係数kは2.13に設定されている。
次に、本実施例の撮影条件におけるフォーカス移動量の設定基準に関して説明する。
フォーカス移動量は、PSF(Point Spread Function)のピーク値(PSFの座標中
心でのPSFの値)のデフォーカス特性を用いて距離計測する場合に適した値として設定している。本実施例では、収差の無い理想的な撮像光学系のPSFを用いて説明するが、実際の撮像光学系においてもほぼ同様に扱うことができる。フォーカス位置での収差のない理想的なPSFの形状は、PSF中心の座標における値をピークとしてなだらかに減少していくガウス関数のような形状をしている。図2にPSFの断面形状を実線で示す。しかし、デフォーカスするに従いPSF座標中心での値は低下し、形状は崩れていく。図2の点線はそれぞれ20μm、40μm、60μm、80μmだけデフォーカスした場合のPSFの断面を示している。
このPSFの座標中心における値の2画像での相対的な変化を検出することでデフォーカス量を算出することができ、距離計測が可能となる。本明細書では、このPSFの座標中心での値を「PSFのピーク値」として定義する。
次にPSFピーク値のデフォーカス特性と距離計測の関係について説明する。前述したPSFピーク値のデフォーカス特性に関して図3を用いて説明する。図3は表1に示す本実施例の撮影条件において、撮像光学系に収差が無い理想的な場合の像面におけるPSFピーク値のデフォーカスに伴う変化を示した図である。
図3に示すように、PSFのピーク値はフォーカス位置で最大となり、デフォーカスするにしたがって低下し、SINC関数のように振動しながら0へと近づいていく。このとき、フォーカス位置前後の最初に現れる極小値の付近までデフォーカスしていくと、図2の60μmや80μmだけデフォーカスさせた点線に示すように、PSF座標の中心よりも周辺部の方の値が大きくなる場合が発生する。このように大きくデフォーカスさせた場合のピーク値は、フォーカス位置のピークに比べはるかに小さく、ノイズ等の影響を受け検出する際に不確定性が増すこととなる。
<PSFピーク比>
次に、PSFのピーク値から距離を算出する方法について説明する。
PSFピーク値のデフォーカス変化を撮影画像から求めることができれば距離を算出することが可能である。しかしながら、1枚の画像では、被写体の影響があるため、撮像光学系のPSFのピーク値を求めることは困難である。そこで、被写体の影響を除くため撮影条件を変えて撮影した複数の画像を用いる。被写体の影響を相殺するためには比をとるのが良い。具体的には、理論的に求めた撮像光学系のPSFピーク値の比のデフォーカス特性と、実際に撮影して得た2枚の画像から求めた値との対応をとることで距離計測を行うことができる。
図4は、表1の撮影条件から理論的に求めた、2画像それぞれのPSFピーク値のデフォーカス特性とPSFピーク比のデフォーカス特性を示している。横軸は像面側のフォーカス位置である。図4において実線で示した曲線は、フォーカス位置の異なる2つのPSFのピーク値の比のデフォーカス特性を示している。点線で示した2つの曲線は、フォーカス位置の異なる2つのPSFのピーク値のデフォーカス特性である。ただし、ここではフォーカス位置が無限遠で収差のない理想的な撮像光学系によるPSFの場合を示している。
ピーク比をとる際は、ピーク値の大きい方を分母とすることで正規化している。その結果、PSFピーク比は、最大値が1となり、2つのフォーカス位置の中間位置にピークを持ち、ピークから離れるに従い値が低下していく対称な曲線となる。
以上より、PSFピーク比を算出することで2画像のフォーカス位置の中間位置からの相対的な距離を求めることができる。このとき、どちらのPSFピーク値で正規化したかによりピーク前後の区別も可能となる。
また、PSFピーク比から物体側での距離Zoを求めるためには、まずPSFピーク比の値から像面上でのフォーカス位置からのデフォーカス量Ziを求める。次に焦点距離fおよび物体距離sから、
Figure 0006157249
より像面側距離s’を求め、デフォーカス量Zi用いて、
Figure 0006157249
より物体側の距離に変換する。これらの関係を図15に示す。
<画像からのPSFピーク比算出方法>
実際に撮影して得られた2画像からPSFピーク比を計算する方法について説明する。2画像において対応する局所領域I1とI2は、シーンsとPSF1およびPSF2の畳み込みで表される。フーリエ変換した前記領域をFI1、FI2とし、シーンsのフーリエ変換をSとすると、この比は、
Figure 0006157249
となる。ここでPSFをフーリエ変換した光学伝達関数をOTFとし、2つのOTFの比をOTFrとする。このOTFrは、式5に示すようにシーンSが打ち消されることでシーンに依存しない値となる。
このOTFrからPSFのピーク比PSFrを求めるには、以下の数式に示すようにOTFrの平均値を求めればよい。PSFのピークが画像I1、I2の中心にあるとすると、PSFピーク比PSFrは、
Figure 0006157249
成り立つ。これを離散的に表現すると、
Figure 0006157249
となる。
式7により画像から算出されたPSFピーク比PSFrを、図4に示すようなPSFピーク比のデフォーカス特性に当てはめることで、画像I1とI2に写っている被写体のデフォーカス量、すなわち距離情報を得ることができる。
<距離計測範囲>
続いてPSFピーク比を用いた距離計測における距離計測範囲に関して図4を用いて説明する。
図4の実線で示すように、PSFピーク比のデフォーカス特性は、異なる二つのフォーカス位置の中間位置から徐々に値が低下し極小値に達した後再び値は上昇しこれを繰り返す。これは図3に示すように、PSFピーク値のデフォーカス特性が振動しているためである。以下、PSFピーク値、PSFピーク比などのデフォーカス特性曲線における最大のピークを「最大ピーク」もしくは「1次ピーク」と呼び、最大ピークの前側と後側にそれぞれ最初に現れる極小値を「1次極小値」と呼ぶ。
図3のPSFピーク値のデフォーカス特性を見れば分かるように、1次極小値以降のPSFピーク値は、値が小さくノイズ等の影響を受けやすい。そのため比をとった際にばらつきが大きく信頼性が低い。よって信頼できる距離計測範囲は、PSFピーク比のデフォーカス特性(図4の実線)において、最大ピークの前側の1次極小値の位置から後側の1次極小値の位置までとするのが良い。図4の例では、−75μm〜55μmの範囲となる。なお、図3における負方向を前側とする。
ここで、距離計測範囲を規定するPSFピーク比の1次極小値の位置は、PSFピーク値のデフォーカス特性(図4の点線)の1次極小値の位置に依存する。図4に示すように前側のPSFピーク比の1次極小値の位置は、フォーカス位置の異なる二つの画像のうち、フォーカス位置が後側の画像のPSFピーク値の前側の1次極小値の位置に対応している。一方、後側のPSFピーク比の1次極小値の位置は、フォーカス位置が前側の画像のPSFピーク値の後側の1次極小値の位置に対応している。
よってPSFピーク比を指標とした距離計測において、距離計測範囲はPSFピーク値のデフォーカス特性の1次極小値の位置で決定することができる。つまり、フォーカス移動量によって距離計測範囲を設定可能なことを示している。
<フォーカス移動量とPSFピーク比の特性>
次に、フォーカス移動量と距離計測範囲変化の関係、およびフォーカス移動量とPSFピーク比の値域変化の関係に関して説明し、より最適なフォーカス移動量の設定に関して述べる。
図5(a)〜図5(f)にフォーカス移動量を変えた場合のPSFピーク値のデフォーカス特性と、PSFピーク比の変化を示す。フォーカス移動量は、2つのPSFピーク値のデフォーカス特性(点線)の横軸方向の差で表されている。つまり、図5(a)から図5(f)にいくに従って、フォーカス移動量を徐々に大きくしている。ここでは、2つのPSFピーク値のデフォーカス特性の交点(点線の交点)における値が、PSFピーク値の最大値の99.8%、90%、70%、50%、20%、5%となるように設定した例を示している。フォーカス移動量の増加に伴い、PSFピーク比(実線)の特性が変化することが分かる。具体的には、距離計測範囲(PSFピーク比の最大ピークの前側の1次極小値位置と後側の1次極小値位置の間の範囲)がフォーカス移動量が大きくなるに従って緩やかに狭くなっていくことが分かる。
同様に、PSFピーク比の値域(PSFピーク比の最大値と1次極小値の差)は、フォーカス移動量が大きくなるにつれて急激に広がりその後徐々に1に近づいていくことが分かる。PSFピーク比の値域が広いほど距離分解能が高く、ノイズ等の変動要因に対しての耐性が高くなり距離計測精度が向上する。
フォーカス移動量に伴う距離計測範囲の変化、およびPSFピーク比の値域の変化をそれぞれ図6(a)、(b)に示す。図6(a)において、横軸がフォーカス移動量であり、縦軸が像面側での距離計測範囲である。同様に図6(b)において、横軸がフォーカス移動量であり、縦軸が値域である。ここでPSFピーク比は正規化されているため値域の
最大値は1である。なお、フォーカス移動量が0の場合は距離計測できないため特異点となる。
<最適なフォーカス移動量の指針>
本実施例では、広い距離計測範囲と、高い距離分解能(広い値域)を両立できるように、フォーカス位置の条件を設定する。具体的には、距離計測範囲が最大範囲の8割以上となり、かつ値域が最大値域の9割程度以上となるように、フォーカス移動量を設定するのが良い。
値域を最大値域の9割程度以上に設定するのは、PSFピーク比のSN比を向上させるためである。信号に数%のノイズが含まれることを考慮すると、PSFピーク比に対してノイズの2倍程度の誤差が発生する。このようにノイズの影響により等距離にある物体でもPSFピーク比の値は異なった値となる。ここで、等距離上にある物体におけるPSFピーク比の値が、幅σの中に収まるとすると、信頼できる距離の分割数はPSFピーク比の値域を幅σで割った数となる。よってPSFピーク比の値域が大きくなるほど信頼できる距離分解数は増えるため、値域を最大値域の9割程度以上にするのが好適である。
PSFピーク比において、値域は図6(b)に示すようにフォーカス移動量が大きくなるほど大きくなる。しかしながら、距離計測範囲はフォーカス移動量が大きくなるほど低下していく(図6(a))。広い距離計測範囲を維持するためにはフォーカス移動量に限定を加える必要があり、最大範囲の8割以上にするのが良く、更には9割程度にするのが好適である。
本実施例の撮影条件で値域を9割以上とするには、フォーカス移動量の絶対値をおよそ0.01mm以上とすればよい(図6(b)参照)。また、最大距離計測範囲142μmの8割にあたる114μm以上の距離計測範囲を得るには、フォーカス移動量の絶対値をおよそ0.036mm以下とすればよい(図6(a)参照)。すなわち、上記条件を満たすためには、フォーカス移動量を−0.036mm〜−0.01mm又は0.01mm〜0.036mmの範囲に設定すればよい。
本実施例では、フォーカス移動量を−0.020mmに設定し、値域が最大値域の9割程度以上、かつ距離計測範囲を最大範囲の9割とした。この条件を満たす本実施例の撮影条件は、フォーカス移動量が少ないため、撮影間隔を短くできる利点も生じる。また、フォーカス移動量が小さいことでPSFピーク比の最大値も第一の画像のフォーカス位置に近く、フォーカス位置前後の距離計測が可能となるという利点もある。
<F値依存性>
本実施例の撮影条件では、フォーカス移動量d=−0.020mm、F値F=4、波長λ=587.56nm、係数k=2.13である。この係数kの値は、前述した距離計測範囲の広さと距離分解能のバランスが良好な条件である、2≦k<4を満足している。
本実施例の撮像装置において、撮影時のF値が変化した場合の最適なフォーカス移動量dを式2を用いて求めると表2のようになる。図7は、横軸にF値、縦軸にフォーカス移動量をプロットしたグラフである。
Figure 0006157249
撮影時にユーザ操作により又は自動でF値が変更されると、フォーカス位置設定部13が変更後のF値と予め決められた係数kの値を用い式2によってフォーカス移動量dを算出し、それに基づき第一及び第二のフォーカス位置を設定する。このとき、フォーカス位置設定部13が式2の計算を実行してもよいが、表2に示したようなF値とフォーカス移動量の対応テーブルを予めメモリに格納しておき、変更後のF値に応じたフォーカス移動量をテーブルから読み出してもよい。また、係数kの値をユーザ操作によって変更できるようにしてもよい。その場合、フォーカス位置設定部13が式2によりフォーカス移動量dを計算してもよいし、係数kごとのテーブルを用意してもよい。
なお、F値が固定の撮像装置の場合は、予め式2を満たすように設定された値でフォーカスを移動させればよい。また、F値が固定の撮像装置の場合でも、係数kの値をユーザ操作によって変更できるようにしてもよい。
<波長決定>
ここで式2は、波長を含む関数となっているため、フォーカス移動量は距離計測に用いる波長(つまり、第一及び第二の画像の撮像に用いる光の波長)で決めるのが好適である。撮像素子にカラーフィルタが配置されている場合は、波長によりぼけ方が異なるため色ごとに距離計測を行うのが好適である。その場合、カラーフィルタの中心波長を用いてフォーカス移動量を設定するのが良い。この場合、カラーフィルタの色の数だけフォーカス移動を行って撮影する必要がある。これを簡略化するため、例えばRGB画素配列の場合はG画素が多く配置されるためG画素を用いて距離計測を行うのが好適である。この場合は、フォーカス移動量の設定にはG画素フィルタの中心波長を使う。
また、カラーフィルタの無い撮像素子の場合は、可視光全域の波長が入射されるため撮像光学系の設計基準となる波長を用いるのが良い。これは、一般に設計波長において収差が良好に補正されているためである。本実施例では、撮像光学系の設計基準として一般的に使用されるd線(587.56nm)を用いた。
<フォーカス移動方向>
ここまではフォーカス移動量について説明したが、続いてフォーカス移動方向に関して図8を用いて説明する。
図8(a)の0の位置が第一の画像の像面におけるフォーカス位置とすると、第一の画像のPSFのデフォーカス特性は0位置をピークとした点線のようにガウス関数形状となる(1次極小値までの形状)。
ここで、第一の画像のフォーカス位置より無限遠側に距離計測範囲を広げたい場合は、第二の画像のフォーカス位置を無限遠側に移動させる。このときのフォーカス位置は像面
では負方向へ移動する(図8(a)のもう一方の点線)。これにより、PSFピーク比のピークは図8(a)の実線で示すように負方向へ移動する。このとき負方向に距離計測範囲が広がることが分かる。
一方、第一の画像のフォーカス位置より撮像装置側に距離計測範囲を広げたい場合は、第二の画像のフォーカス位置を撮像装置側に移動させる。図8(b)に示すように、第二の画像のフォーカス位置を像面で正方向へ移動させることで距離計測範囲も正方向に広がる。
本実施例では、第二の画像のフォーカス位置を第一の画像のフォーカス位置より負方向に移動させることにより、物体側でフォーカス位置より無限遠方向の計測範囲を拡げている。
<三枚撮影>
本実施例では、所望のフォーカス位置での画像と、フォーカス位置を移動させた画像の2画像を用いて距離を計測する場合のフォーカス移動量について説明してきた。この条件の場合、PSFピーク比を求めると、PSFピーク比のピークは所望のフォーカス位置にはなく、2画像のフォーカス位置の中間位置に生じる。この結果は、PSFピーク比を距離に変換せずに、直接相対的な距離情報として利用する場合には向かない。PSFピーク比を相対的距離情報としてそのまま利用する場合には、所望のフォーカス位置に対し前後にずらして一枚ずつ撮影するのが好適である。この場合の前後の2枚のフォーカス位置の差は、本実施例のフォーカス移動量とし、2画像から得られるPSFピーク比のピークが所望のフォーカス位置になるように移動させるのが好適である。これにより、算出したPSFピーク比を直接相対的な距離情報として利用することが可能となる。
以上より、所望のフォーカス位置及びその前後のフォーカス位置の計3画像を撮影することにより、所望のフォーカス位置での相対的な距離変化を直接的に求めることが可能となる。
なお、フォーカス用の画像は距離計測用画像を撮像した後に撮影しても良いが、予め計測される距離範囲が既知であり、かつ距離計測用の画像の中間にフォーカス位置があるため、距離計測用画像を撮影する途中に連続して撮影するのが好適である。
また、本実施例で規定した2画像間のフォーカス移動量で複数枚撮影し、2画像ごとの距離計測を繰り返し実施することで、より広い範囲の距離計測を行うことも可能である。
以上のように、本実施形態による撮像装置では、PSFピークのデフォーカス特性を用いたDFD法による距離情報取得において、撮像時のフォーカス移動量をF値に応じて決定し、複数枚撮影を行うことができる。これにより、常に距離計測に最適なフォーカス位置の異なる複数枚の画像を撮影することが可能となる。
<実施例2>
実施例2にかかる撮像装置は、実施例1に示す撮像装置と同様の構成である。構成は同様であるが、フォーカス移動量を設定するための方針(具体的には係数kの設定値)が異なる。
本実施例では、被写体がある特定の距離範囲内に存在するかどうかを判定(2層分離)するのに適したフォーカス位置の条件に関して説明する。2層分離を行う場合には、距離計測範囲が狭いほうが有利である。表3に本実施例の撮影条件を示す。
Figure 0006157249
本実施例の撮影条件では、距離計測範囲を狭めるため、F値を小さくし、かつフォーカス移動量(絶対値)を大きくしていることが特徴となる。
距離計測範囲を狭くするには、図6(a)に示したように、フォーカス移動量を大きくとればよい。しかしながら、フォーカス移動量をあまりに大きくしすぎると、PSFピーク比の信頼性が低下するという問題が生じる。そこで、フォーカス移動量の最大値を次のように制限する。
図4に示したように、PSFピーク値は、フォーカス位置で最大となり、デフォーカスするにしたがって低下し、フォーカス位置からのデフォーカス量が所定量(図4の例では±75μm)のときに1次極小値をとる。図16に2つのPSFピーク値の1次極小値の位置が重なった場合を示す。図16の場合でも、PSFピーク比を算出することはできるが、互いのPSFピーク値が低下した領域での比となり、ノイズ等の影響を受けやすく有効なPSFピーク比を求めることができない。またこれ以上フォーカス移動量が大きくなった場合も同様に有効なPSFピーク比を算出することができない。よって2つのPSFピーク値の1次極小値が互いに重なる位置をフォーカス移動量の最大値とすべきである。この場合のフォーカス移動量は、F値が4の理想光学系の場合、150μmと算出される。式2における係数kの値を算出するとk≒16となる。
以上より、狭い距離計測範囲に適したフォーカス移動量は、式2において係数kを±16もしくはそれに近い値にすることで得ることができる。実用的には、−16≦k<−8,8<k≦16の範囲の係数kを用いてフォーカス移動量を設定するとよい。
本実施例の撮影条件は、この条件を満たすように設定した撮影条件である。具体的には、k=14.3としてフォーカス移動量を設定した。図9に本実施例の撮影条件におけるPSFピーク比(実線)、および2つのフォーカス位置でのPSFピーク値のデフォーカス特性(点線)を示す。
この条件の場合、距離計測範囲が12μmと狭く、PSFピーク比の値域も最大時の9割程度と広いため、狭い距離範囲を高精度に計測可能となる。しかし、PSFピーク比の距離計測範囲において、2つのフォーカス位置のPSFピーク値が低い領域での比となり、ノイズ等の影響を受けやすくわずかな変動でPSFピーク比の値が大きく変動する。そのため、算出したPSFピーク比の信頼度が低く、値域が広くとも細かい距離分解が正確に行えない。
一方、距離計測範囲から外れた領域では、2つのうちの一方のPSFピーク値が十分に大きいためPSFピーク比は極めて低い値に抑えられる。よって、PSFピーク比がある閾値以上の場合とそれ以外に分けることで距離計測範囲のみを抽出可能となる。つまり、距離計測範囲のみを取り出す2層の距離分離、もしくは前後を区別した3層の距離分離を行うのに適している。なお、前記閾値は、距離計測最大範囲におけるPSFピーク比の値以上に設定するのが良く、好ましくはPSFピーク比の値域の2割程度とするのが良い。
なお、本実施例による距離計測では、2つのフォーカス位置の中間領域での距離計測となり、その距離計測範囲は撮影した画像のフォーカス位置と重複しない。よって、抽出した距離範囲にピントが合った画像が必要な場合は、フォーカス用画像も別途撮影しても良い。また、2枚の距離計測用画像とフォーカス用画像をフォーカス位置の変化順に連続的に撮影しても良い。
以上のように、本実施形態による撮像装置では、特定の距離範囲とそれ以外の範囲に分離するのに適した画像を撮影することが可能となる。
<実施例3>
実施例3にかかる撮像装置は、実施例1に示す撮像装置と同様の構成である。構成は同様であるが、フォーカス移動量を設定するための方針が異なる。
本実施例では、より広い距離範囲を計測するのに適したフォーカス移動量に関して説明する。表4に本実施例の撮影条件を示す。
Figure 0006157249
本実施例の撮影条件では、より広い距離計測を行うためF値を大きくし、かつフォーカス移動量を小さくしていることが特徴となる。
距離計測範囲を広げたい場合は、図6(a)に示したように可能な限りフォーカス移動量を小さくするのが良い。しかしながら、図6(b)に示したようにフォーカス移動量が小さいと値域も小さくなり距離分解能が低下する。また、値域が狭いため相対的にノイズの影響を受けやすく距離計測精度が低下する。よって広い距離計測範囲にする場合は、値域が最大の7割程度以上になる位置にフォーカス移動量を設定するのが良い。より好ましくは9割以上とするのが良い。
本実施例におけるフォーカス移動量は、値域が9割となる領域で設定している。本実施例の撮影条件の場合、数式2におけるkの値を算出すると、k=0.266となり、式2で規定する係数kの範囲を満たしている。これは、特に係数kが0近傍の値における、広い範囲の距離計測に適したフォーカス移動量である。
以上のように、本実施例による撮像装置では、広い範囲の距離を計測する場合に適した画像を撮影することが可能となる。
<実施例4>
実施例4にかかる撮像装置は、実施例1に示す撮像装置と同様の構成である。構成は同様であるが、フォーカス移動量を設定するための方針が異なる。
本実施例では、所望のフォーカス位置での距離分解能を高めるための撮影条件に関して説明する。実施例1と同様に撮影枚数は、所望のフォーカス位置で撮影した第一の画像と、フォーカス位置をずらして撮影した第二の画像の二枚撮影とする。
距離分解能は、PSFピーク比の傾きが大きいほど高くなる。距離の差に対するPSFピーク比の変化量が大きくなるからである。したがって、所望のフォーカス位置での距離分解能を最大とするには、そのフォーカス位置でのPSFピーク比の傾きが最大となるようにフォーカス移動量を設定すればよい。図10は、波長が587.56nm、F値が4の場合の所望のフォーカス位置でのPSFピーク比の傾きをプロットした図である。図10の横軸はフォーカス移動量である。フォーカス移動量が±0.031mmの時にPSFピーク比の傾きが最大となっている。
この時、式2における係数kの値を算出すると、k=3.30となる。実用的には、係数kを−4<k≦−2,2≦k<4の範囲に設定すれば、フォーカス位置において十分な距離分解能が得られる。以上のように、本実施例による撮像装置では、所望のフォーカス位置での距離分解能が最大となるような距離計測用の画像を撮影することが可能となる。
<実施例5>
実施例5にかかる撮像装置は、実施例1に示す撮像装置と同様の構成である。構成は同様であるが、フォーカス移動量を設定するための方針が異なる。本実施例では、所望のフォーカス位置(第一の画像のフォーカス位置)が距離計測範囲に含まれるように、フォーカス移動量を設定する。
図5(a)〜図5(f)に示したように、フォーカス移動量が大きくなるほど距離計測範囲は狭くなっていく。図5(a)〜図5(d)では、第一の画像のフォーカス位置(横軸が0μmの位置)は距離計測範囲に含まれているが、図5(e)〜図5(f)のようにフォーカス移動量が大きくなると、第一の画像のフォーカス位置が距離計測範囲から外れてしまう。
ここで、PSFピーク値が1次極小値をとるときのデフォーカス量を極小デフォーカス量とよぶと、第一の画像のフォーカス位置が距離計測範囲に含まれるのは、フォーカス移動量(絶対値)が極小デフォーカス量より小さい場合である。言い換えれば、第一の画像のフォーカス位置を距離計測範囲に含めるには、式2で得られるフォーカス移動量dが極小デフォーカス量より小さくなるように係数kの値を選ぶ。
F=4、λ=587.56nmの場合の極小デフォーカス量は約0.075mmであるため、フォーカス移動量dは−0.075mm〜+0.075mm(0mmは除く)の範囲に設定するとよい。このときの係数kの範囲は、−8≦k≦8(k≠0)である。
なお、フォーカス移動量が極小デフォーカス量に等しい場合は、距離計測範囲は、第一の画像のフォーカス位置から前後どちらか一方の側のみとなる。その方向は、第二の画像の撮影時にフォーカスを移動した方向に一致する。
<実施例6>
実施例6にかかる撮像装置は、実施例1に示す撮像装置と同様の構成である。構成は同様であるが、距離計測に用いる指標が異なる。表5に本実施例で用いた撮影条件を示す。
Figure 0006157249
本実施例では、PSFピーク値ではなく、PSFの相関量を用いて距離計測を行う場合のフォーカス移動量の設定方法を説明する。
PSFの相関量を用いた距離計測は、2画像のPSFの形状がどれだけ類似しているかを指標とする。
PSFの相関量を用いた距離計測の方法としては、例えば正規化相互相関が利用できる。正規化相互相関NCCは、二つの撮影画像の同じ部分領域をCf1、Cf2として
Figure 0006157249
より算出することができる。本実施例の撮影条件を用い、式8により得られるPSFの相関量のデフォーカス特性を図11に示す。図11において実線で示した曲線は、本実施例の撮影条件で撮影したフォーカス位置の異なる2つのPSFの正規化相互相関のデフォーカス特性を像面側位置でプロットした曲線である。点線で示した2つの曲線は、フォーカス位置の異なる2つPSFの分散値の正規化したデフォーカス特性である。
続いてPSFの相関量を用いた距離計測における距離計測範囲に関して図11を用いて説明する。
図11の実線で示すように、PSFの相関量のデフォーカス特性は、異なる二つのフォーカス位置の中間位置から徐々に値が低下し極小値に達した後再び値は上昇しこれを繰り返す。PSF相関量のデフォーカス特性曲線の場合も、最大のピークを「最大ピーク」もしくは「1次ピーク」と呼び、最大ピークの前側と後側にそれぞれ最初に現れる極小値を「1次極小値」と呼ぶ。
<フォーカス移動量とPSF相関量の特性>
次に、フォーカス移動量と距離計測範囲変化の関係、およびフォーカス移動量とPSF相関量の値域変化の関係に関して説明し、より最適なフォーカス移動量の設定に関して述べる。
図12(a)〜図12(f)にフォーカス移動量を変えた場合のPSF分散値のデフォーカス特性と、PSF相関量(正規化相互相関値)の変化を示す。フォーカス移動量は、2つのPSF分散値のデフォーカス特性(点線)の横軸方向の差で表されている。つまり、図12(a)から図12(f)にいくに従って、フォーカス移動量を徐々に大きくしている。ここでは、2つのPSF分散値のデフォーカス特性の交点(点線の交点)における値が、PSF分散値の最大値の95%、90%、70%、50%、30%、10%となるように設定した例を示している。フォーカス移動量の増加に伴い、PSF相関量(実線)の特性が変化することが分かる。具体的には、距離計測範囲(PSF相関量の最大ピーク
の前側の1次極小値位置と後側の1次極小値位置の間の範囲)がフォーカス移動量が大きくなるに従って緩やかに狭くなっていくことが分かる。
同様に、PSF相関量の値域(PSF相関量の最大値と1次極小値の差)は、フォーカス移動量が大きくなるにつれて広がりその後また狭くなることが分かる。なお、PSF相関量の値域は、広いほど距離分解能が高く、ノイズ等の変動要因に対しての耐性が高くなり距離計測精度が向上する。
フォーカス移動量に伴う距離計測範囲の変化、およびPSF相関量の値域の変化をそれぞれ図13(a)、(b)に示す。図13(a)において、横軸がフォーカス移動量であり、縦軸が像面側での距離計測範囲である。なお、フォーカス移動量が0の場合は距離計測できないため特異点となる。
同様に図13(b)において、横軸がフォーカス移動量であり、縦軸が値域である。ここでPSF相関量は正規化されているため値域の最大値は1である。±0.078mm付近のフォーカス移動量の場合に値域が最大となる。
また、図13(c)に、第一の画像のフォーカス位置におけるPSF相関量の傾きのフォーカス移動量に伴う変化を示す。±0.054mm付近のフォーカス移動量の場合に傾きが最大となる。
フォーカス移動量を大きくするほどPSFの分散値が低下した領域でのPSF相関量を求めることになる。この領域では、PSFが大きく広がっており、PSF相関量はノイズによる影響を受けやすくなる。よってフォーカス移動量の最大値はある程度限定される。フォーカス移動量の最大値は、2つのPSF分散値の交点での値がPSF分散値の最大値から1/eに低下する距離までとするのが良い。2つのPSF分散値の交点は2つのフォーカス位置の中点(つまりフォーカス移動量の半分)ゆえ、上記条件は、PSF分散値が最大値の1/eとなるデフォーカス量の2倍よりもフォーカス移動量(絶対値)を小さくする、と言い換えることができる。これはレーザーのビームウェスト径の定義と同様の考えによるものである。この条件を満足するには、式2の係数kの値をおよそ10以下にするとよい。
<最適なフォーカス移動量の指針>
本実施例では、距離計測範囲の広さと、値域の広さと、第一の画像のフォーカス位置での距離分解能の高さの3つが同時満足できるように、撮影条件を設定する。具体的には、距離計測範囲、値域、フォーカス位置でのPSF相関量の傾き、の3つを夫々正規化して加重平均をとり、評価値(スコア)を算出する。そして、この評価値を最大にするフォーカス移動量を設定する。本実施例では全て同じ重みにして評価した。この時の最適なフォーカス移動量が±0.055mmである。この結果を図14に示す。
本実施例の撮影条件は、フォーカス移動量d=−0.055mm、F値F=4、波長λ=587.56nmである。これらから式2の係数kの値を算出すると、k=5.85となり、式2で規定する係数kの範囲を満足している。
本実施例では、PSF相関量による距離計測の例として正規化相互相関を用いたが、他の方法でPSF相関量を算出しても良い。また、フォーカス移動量は、計測範囲、値域、フォーカス位置での相関値の傾きの少なくともいずれか一つを用いて設定するのが良い。
<実装例>
上述した本発明の距離計測技術は、例えば、ディジタルカメラやカムコーダなどの撮像装置、或いは撮像装置で得られた画像データに対し画像処理を施す画像処理装置やコンピュータなどに好ましく適用できる。また、このような撮像装置或いは画像処理装置を内蔵する各種の電子機器(携帯電話、スマートフォン、スレート型端末、パーソナルコンピュ
ータを含む)にも本発明の技術を適用可能である。上記実施例では撮像装置本体に距離情報決定部の機能を組み込んだ構成を示したが、距離情報決定部の機能はどのように構成してもよい。たとえば、撮像装置を有するコンピュータに距離情報決定部を組み込み、撮像装置で撮影した画像をコンピュータが取得して、それに基づいて距離算出を行うようにしてもよい。また、有線あるいは無線によりネットワークアクセス可能なコンピュータに距離情報決定部が組み込まれて、そのコンピュータがネットワークを介して複数枚の画像を取得し、それに基づいて距離算出を行うようにしてもよい。得られた距離情報は、例えば、画像の領域分割、立体画像や奥行き画像の生成、ボケ効果のエミュレーションなどの各種画像処理に利用することができる。
なお、上記装置への具体的な実装は、ソフトウェア(プログラム)による実装とハードウェアによる実装のいずれも可能である。例えば、撮像装置や画像処理装置に内蔵されたコンピュータ(マイコン、FPGA等)のメモリにプログラムを格納し、当該プログラムをコンピュータに実行させることで、本発明の目的を達成するための各種処理を実現してもよい。また、本発明の全部又は一部の処理を論理回路により実現するASIC等の専用プロセッサを設けることも好ましい。
100:撮像装置、10:撮像光学系、11:撮像素子、12:撮像部、13:フォーカス位置決定部、14:距離情報決定部

Claims (15)

  1. 第一のフォーカス位置で被写体を撮像することで第一の画像を取得し、且つ、該第一のフォーカス位置と異なる第二のフォーカス位置で前記被写体を撮像することで該第一の画像とボケが異なる第二の画像を前記第一の画像を取得した後に取得する撮像手段と、
    前記第一の画像と前記第二の画像のボケの違いに基づいて前記被写体の距離情報を決定する距離情報決定手段と、
    前記第一のフォーカス位置と前記第二のフォーカス位置の差であるフォーカス移動量が以下の式を満たすように、前記第二のフォーカス位置を設定するフォーカス位置設定手段と、を有することを特徴とする撮像装置。
    d=kFλ,−16≦k≦16,k≠0
    ただし、d:像面におけるフォーカス移動量、k:係数、F:F値、λ:第一及び第二の画像の撮像に用いる光の波長、である。
  2. 前記距離情報決定手段は、前記第一の画像から得られるPSFのピーク値と前記第二の画像から得られるPSFのピーク値の比に基づいて、前記距離情報を決定することを特徴とする請求項1に記載の撮像装置。
  3. 前記撮像手段のPSFのピーク値は、フォーカス位置で最大となり、デフォーカスするにしたがって低下し、前記フォーカス位置からのデフォーカス量が所定量のときに極小値をとる特性を有しており、
    前記フォーカス移動量の絶対値は、前記所定量よりも小さい値に設定されることを特徴とする請求項に記載の撮像装置。
  4. 前記距離情報決定手段は、前記第一の画像から得られるPSFと前記第二の画像から得られるPSFの相関に基づいて、前記距離情報を決定することを特徴とする請求項1に記載の撮像装置。
  5. 前記撮像手段のPSFの分散値は、フォーカス位置で最大となり、デフォーカスするにしたがって低下し、前記フォーカス位置からのデフォーカス量が所定量のときに最大値の1/eとなる特性を有しており、
    前記フォーカス移動量の絶対値は、前記所定量の2倍よりも小さい値に設定されることを特徴とする請求項に記載の撮像装置。
  6. 前記距離情報決定手段が、前記被写体がある1つの距離範囲に含まれるか否かを判定するものである場合に、
    前記フォーカス移動量が以下の式を満たすように設定されることを特徴とする請求項1〜のうちいずれか1項に記載の撮像装置。
    d=kFλ,−16≦k<−8,8<k≦16
    ただし、d:像面におけるフォーカス移動量、k:係数、F:F値、λ:第一及び第二の画像の撮像に用いる光の波長、である。
  7. 前記距離情報決定手段が、前記被写体が3つ以上の距離範囲のうちのいずれに含まれるかを判定するものである場合に、
    前記フォーカス移動量が以下の式を満たすように設定されることを特徴とする請求項1〜のうちいずれか1項に記載の撮像装置。
    d=kFλ,−8≦k<0,0<k≦8
    ただし、d:像面におけるフォーカス移動量、k:係数、F:F値、λ:第一及び第二の画像の撮像に用いる光の波長、である。
  8. 前記フォーカス移動量が以下の式を満たすように設定されることを特徴とする請求項に記載の撮像装置。
    d=kFλ,−4<k≦−2,2≦k<4
  9. 前記距離情報決定手段が、前記第一のフォーカス位置よりも無限遠側にある被写体の距離情報を決定する場合は、
    前記第一のフォーカス位置よりも無限遠側に前記第二のフォーカス位置が設定されることを特徴とする請求項1〜のうちいずれか1項に記載の撮像装置。
  10. 前記距離情報決定手段が、前記第一のフォーカス位置よりも撮像装置側にある被写体の距離情報を決定する場合は、
    前記第一のフォーカス位置よりも撮像装置側に前記第二のフォーカス位置が設定されることを特徴とする請求項1〜9のうちいずれか1項に記載の撮像装置。
  11. 前記撮像手段が、RGB画素配列のカラーフィルタを備える撮像素子を有し、
    前記λは、G画素のカラーフィルタの中心波長であることを特徴とする請求項1〜10のいずれか1項に記載の撮像装置。
  12. 第一のフォーカス位置で被写体を撮像することで第一の画像を取得し、且つ、該第一のフォーカス位置と異なる第二のフォーカス位置で前記被写体を撮像することで該第一の画像とボケが異なる第二の画像を前記第一の画像を取得した後に取得する撮像手段と、
    前記第一の画像と前記第二の画像のボケの違いに基づいて前記被写体の距離情報を決定する距離情報決定手段と、
    前記第一のフォーカス位置と前記第二のフォーカス位置の差であるフォーカス移動量が以下の式を満たすように、前記第二のフォーカス位置を設定するフォーカス位置設定手段と、を有することを特徴とする撮像装置。
    −16×587.56nm×F ≦d≦16×587.56nm×F ,d≠0
    ただし、d:像面におけるフォーカス移動量、F:F値である。
  13. 第一のフォーカス位置で被写体を撮像することで第一の画像を取得する第一の撮像ステップと、
    前記第一の撮像ステップの後、該第一のフォーカス位置と異なる第二のフォーカス位置で前記被写体を撮像することで該第一の画像とボケが異なる第二の画像を取得する第二の撮像ステップと、
    前記第一の画像と前記第二の画像のボケの違いに基づいて前記被写体の距離情報を決定する距離情報決定ステップと、を含む距離情報取得方法であって、
    前記第一のフォーカス位置と前記第二のフォーカス位置の差であるフォーカス移動量が以下の式を満たすように、前記第二のフォーカス位置が設定されていることを特徴とする距離情報取得方法。
    d=kFλ,−16≦k≦16,k≠0
    ただし、d:像面におけるフォーカス移動量、k:係数、F:F値、λ:第一及び第二の画像の撮像に用いる光の波長、である。
  14. 第一のフォーカス位置で被写体を撮像することで第一の画像を取得する第一の撮像ステップと、
    前記第一の撮像ステップの後、該第一のフォーカス位置と異なる第二のフォーカス位置で前記被写体を撮像することで該第一の画像とボケが異なる第二の画像を取得する第二の撮像ステップと、
    前記第一の画像と前記第二の画像のボケの違いに基づいて前記被写体の距離情報を決定する距離情報決定ステップと、を含む距離情報取得方法であって、
    前記第一のフォーカス位置と前記第二のフォーカス位置の差であるフォーカス移動量が以下の式を満たすように、前記第二のフォーカス位置が設定されていることを特徴とする距離情報取得方法。
    −16×587.56nm×F ≦d≦16×587.56nm×F ,d≠0
    ただし、d:像面におけるフォーカス移動量、F:F値である。
  15. 請求項1又は1に記載の距離情報取得方法の各ステップをコンピュータに実行させることを特徴とするプログラム。
JP2013145333A 2012-07-31 2013-07-11 撮像装置、距離情報取得方法およびプログラム Active JP6157249B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013145333A JP6157249B2 (ja) 2012-07-31 2013-07-11 撮像装置、距離情報取得方法およびプログラム
PCT/JP2013/070406 WO2014021238A1 (en) 2012-07-31 2013-07-23 Image pickup apparatus, depth information acquisition method and program
EP13825372.9A EP2880399B1 (en) 2012-07-31 2013-07-23 Image pickup apparatus, depth information acquisition method and program
US14/406,866 US9762788B2 (en) 2012-07-31 2013-07-23 Image pickup apparatus, depth information acquisition method and program

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012169753 2012-07-31
JP2012169753 2012-07-31
JP2013145333A JP6157249B2 (ja) 2012-07-31 2013-07-11 撮像装置、距離情報取得方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2014044408A JP2014044408A (ja) 2014-03-13
JP6157249B2 true JP6157249B2 (ja) 2017-07-05

Family

ID=50027913

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013145333A Active JP6157249B2 (ja) 2012-07-31 2013-07-11 撮像装置、距離情報取得方法およびプログラム

Country Status (4)

Country Link
US (1) US9762788B2 (ja)
EP (1) EP2880399B1 (ja)
JP (1) JP6157249B2 (ja)
WO (1) WO2014021238A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6157249B2 (ja) * 2012-07-31 2017-07-05 キヤノン株式会社 撮像装置、距離情報取得方法およびプログラム
JP6091228B2 (ja) * 2013-01-30 2017-03-08 キヤノン株式会社 画像処理装置、撮像装置
JP6173156B2 (ja) * 2013-10-02 2017-08-02 キヤノン株式会社 画像処理装置、撮像装置及び画像処理方法
JP5866493B2 (ja) 2013-11-19 2016-02-17 パナソニックIpマネジメント株式会社 撮像装置
CN103795933B (zh) * 2014-03-03 2018-02-23 联想(北京)有限公司 一种图像处理方法及电子设备
US9928598B2 (en) 2014-10-31 2018-03-27 Canon Kabushiki Kaisha Depth measurement apparatus, imaging apparatus and depth measurement method that calculate depth information of a target pixel using a color plane of which a correlation value is at most a threshold
JP6555990B2 (ja) * 2014-10-31 2019-08-07 キヤノン株式会社 距離計測装置、撮像装置、および距離計測方法
JP6521676B2 (ja) 2015-03-09 2019-05-29 キヤノン株式会社 動き情報取得装置および動き情報取得方法
CN107170007B (zh) * 2016-03-02 2019-12-27 钰立微电子股份有限公司 具有图像散焦功能的图像装置及其产生散焦图像的方法
JP6921500B2 (ja) * 2016-10-24 2021-08-18 キヤノン株式会社 距離検出装置および距離検出方法
US10277889B2 (en) * 2016-12-27 2019-04-30 Qualcomm Incorporated Method and system for depth estimation based upon object magnification
JP6413170B1 (ja) * 2017-06-22 2018-10-31 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 決定装置、撮像装置、撮像システム、移動体、決定方法、及びプログラム
KR102382865B1 (ko) * 2017-06-28 2022-04-05 삼성전자주식회사 카메라 모듈, 카메라 모듈을 포함하는 전자 장치
JP7002050B2 (ja) * 2018-07-11 2022-02-10 パナソニックIpマネジメント株式会社 撮像装置
JP2020162628A (ja) * 2019-03-28 2020-10-08 ソニー株式会社 光学系、内視鏡、および医療用画像処理システム
CN112529951B (zh) * 2019-09-18 2024-06-25 华为技术有限公司 扩展景深图像的获取方法、装置及电子设备

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS58218631A (ja) * 1982-06-15 1983-12-19 Olympus Optical Co Ltd Fナンバ−検出方法
US4965840A (en) 1987-11-27 1990-10-23 State University Of New York Method and apparatus for determining the distances between surface-patches of a three-dimensional spatial scene and a camera system
JP4403477B2 (ja) 2000-01-26 2010-01-27 ソニー株式会社 画像処理装置及び画像処理方法
JP5832424B2 (ja) 2010-11-17 2015-12-16 パナソニック株式会社 撮像装置及び距離計測方法
US20120314061A1 (en) 2010-11-24 2012-12-13 Shunsuke Yasugi Imaging apparatus, imaging method, program, and integrated circuit
JP6157249B2 (ja) * 2012-07-31 2017-07-05 キヤノン株式会社 撮像装置、距離情報取得方法およびプログラム
JP6091228B2 (ja) 2013-01-30 2017-03-08 キヤノン株式会社 画像処理装置、撮像装置
JP2015036632A (ja) 2013-08-12 2015-02-23 キヤノン株式会社 距離計測装置、撮像装置、距離計測方法
JP6173156B2 (ja) * 2013-10-02 2017-08-02 キヤノン株式会社 画像処理装置、撮像装置及び画像処理方法
JP5866493B2 (ja) * 2013-11-19 2016-02-17 パナソニックIpマネジメント株式会社 撮像装置
US9361698B1 (en) * 2014-11-12 2016-06-07 Amazon Technologies, Inc. Structure light depth sensor

Also Published As

Publication number Publication date
WO2014021238A1 (en) 2014-02-06
EP2880399A4 (en) 2016-05-11
US20150109514A1 (en) 2015-04-23
JP2014044408A (ja) 2014-03-13
US9762788B2 (en) 2017-09-12
EP2880399B1 (en) 2019-02-06
EP2880399A1 (en) 2015-06-10

Similar Documents

Publication Publication Date Title
JP6157249B2 (ja) 撮像装置、距離情報取得方法およびプログラム
JP6091228B2 (ja) 画像処理装置、撮像装置
JP6245885B2 (ja) 撮像装置およびその制御方法
JP6271990B2 (ja) 画像処理装置、画像処理方法
US9208396B2 (en) Image processing method and device, and program
US10061182B2 (en) Systems and methods for autofocus trigger
KR101233013B1 (ko) 화상 촬영 장치 및 그 거리 연산 방법과 합초 화상 취득 방법
US9092875B2 (en) Motion estimation apparatus, depth estimation apparatus, and motion estimation method
JP6429444B2 (ja) 画像処理装置、撮像装置及び画像処理方法
CN109255810B (zh) 图像处理装置及图像处理方法
JP5374119B2 (ja) 距離情報取得装置、撮像装置、及びプログラム
JPWO2011158508A1 (ja) 画像処理装置および画像処理方法
US20150042839A1 (en) Distance measuring apparatus, imaging apparatus, and distance measuring method
JP6555990B2 (ja) 距離計測装置、撮像装置、および距離計測方法
US9538074B2 (en) Image processing apparatus, imaging apparatus, and image processing method
JP6395429B2 (ja) 画像処理装置、その制御方法及び記憶媒体
JP6645711B2 (ja) 画像処理装置、画像処理方法、プログラム
JP6075835B2 (ja) 距離情報取得装置、撮像装置、距離情報取得方法、及び、プログラム
JP5206300B2 (ja) プログラム、カメラ、画像処理装置および画像の合焦度算出方法
JP6639155B2 (ja) 画像処理装置及び画像処理方法
JP6685550B2 (ja) オートフォーカス装置及びオートフォーカス用プログラム
JP7200002B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170606

R151 Written notification of patent or utility model registration

Ref document number: 6157249

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151