JP2014007580A - 撮像装置およびその制御方法ならびにプログラム - Google Patents

撮像装置およびその制御方法ならびにプログラム Download PDF

Info

Publication number
JP2014007580A
JP2014007580A JP2012142081A JP2012142081A JP2014007580A JP 2014007580 A JP2014007580 A JP 2014007580A JP 2012142081 A JP2012142081 A JP 2012142081A JP 2012142081 A JP2012142081 A JP 2012142081A JP 2014007580 A JP2014007580 A JP 2014007580A
Authority
JP
Japan
Prior art keywords
subject
image
focusing lens
image data
refocus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012142081A
Other languages
English (en)
Other versions
JP5938281B2 (ja
JP2014007580A5 (ja
Inventor
Junji Sugawara
淳史 菅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012142081A priority Critical patent/JP5938281B2/ja
Priority to US13/912,916 priority patent/US20130342752A1/en
Priority to CN201310247369.8A priority patent/CN103516976B/zh
Publication of JP2014007580A publication Critical patent/JP2014007580A/ja
Publication of JP2014007580A5 publication Critical patent/JP2014007580A5/ja
Application granted granted Critical
Publication of JP5938281B2 publication Critical patent/JP5938281B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】被写体検出機能において、様々なピント範囲にある被写体を、高速に検出可能にすること。
【解決手段】ピントを調節するフォーカシングレンズを含む光学系で結像した被写体の像を撮像して、リフォーカス画像を再構成可能な画像データを取得する撮像光学系と、フォーカシングレンズを駆動する駆動手段と、該画像データに基づいて、所定の被写体を検出する被写体検出手段と、該画像データから、リフォーカス範囲に含まれる任意の焦点距離にリフォーカス画像を再構成するリフォーカス画像生成手段とを備える撮像装置は、ピントの調整範囲の任意の位置でリフォーカス画像を再生可能とするための画像データを取得するためにフォーカシングレンズを駆動する位置を、リフォーカス範囲に基づいて決定し、決定された位置に従って駆動手段および撮像光学系を制御して画像データを取得し、当該画像データに基づいて所定の被写体を検出する。
【選択図】図9

Description

本発明は、デジタルカメラに代表される撮像装置に関し、特にリフォーカス機能と被写体検出機能を有する撮像装置およびその制御方法に関する。
従来、デジタルカメラなどの撮像装置には、被写体を検出する機能を有し、検出した被写体が存在する画像領域に、自動的にピントや露出を合わせることが可能なAF、AE機能を備えたものがある。被写体を検出する機能としては、特に人物の顔を検出する機能が広く搭載されているが、被写界深度が浅く、顔がボケてしまっている場合には、ボケによって顔が検出できないという問題があった。これに対し、例えば特許文献1では、被写界深度に応じて、フォーカシングレンズを複数の位置に移動させ、各位置で顔検出を行っている。また特許文献2では、フォーカシングレンズを無限遠位置から至近位置方向に駆動し、この間においてコントラストのピーク値が得られた領域の画像が顔画像であるか否かを判断している。
一方、撮像素子の前面に複数画素に対し1つの割合で並ぶマイクロレンズアレイを配置することで、撮像素子に入射する光線の入射方向の情報をも得られるような構成の撮像装置が、非特許文献1などにおいて提案されている。このような撮像装置の用途としては、各画素からの出力信号をもとに通常の撮影画像を生成する以外に、撮影された画像に対して所定の画像処理を施すことで、任意の焦点距離に焦点を合わせた画像を再構築することなどがある。
特開2009−65356号公報 特開2008−58553号公報
Ren.Ng、他7名,「Light Field Photography with a Hand-Held Plenoptic Camera」,Stanford Tech Report CTSR 2005-02
しかしながら、上述の特許文献に開示された従来技術では、基本的にフォーカシングレンズを、無限遠位置から至近位置までスキャンさせる必要があるため、AF、AE動作に時間がかかってしまうという問題があった。
そこで、本発明の目的は、被写界深度が浅いような場合でも、より高速に、検出漏れなく、被写体を検出してAF、AE動作を行なうことを可能にする撮像装置を提供することである。
上記目的を達成するために、本発明によれば、被写体の合焦状態を調節するためのフォーカシングレンズを含む光学系で結像した前記被写体の像を撮像して、リフォーカス画像を再構成可能な画像データを取得する撮像光学系と、フォーカシングレンズを駆動する駆動手段と、撮像光学系で取得された前記画像データに基づいて、所定の被写体を検出する被写体検出手段と、撮像光学系で取得された画像データから、リフォーカス範囲に含まれる任意の焦点距離にリフォーカス画像を再構成するリフォーカス画像生成手段とを備える撮像装置は、フォーカシングレンズの合焦状態の調整範囲の任意の位置で前記リフォーカス画像を再生可能とするための画像データを取得するためにフォーカシングレンズを駆動する位置を、リフォーカス範囲に基づいて決定する位置決定手段と、位置決定手段で決定された位置に従って駆動手段および撮像光学系を制御して画像データを取得する制御手段とを備え、被写体検出手段は、制御手段が駆動手段および撮像光学系を制御して取得した画像データに基づいて、所定の被写体を検出する。
本発明によれば、様々なピント範囲にある被写体を高速に検出して撮影することが可能な被写体検出機能およびAF、AE機能を有する撮像装置を提供することができる。
本発明の実施形態に係る撮像装置の全体ブロック図である。 本発明の実施形態に係る撮像装置が備える撮像素子とマイクロレンズアレイの構成を示す図である。 本発明の実施形態に係る撮像装置における撮影レンズ、マイクロレンズアレイおよび撮像素子よりなる撮像光学系の構成を示す図である。 本発明の実施形態に係る撮像装置の撮影レンズの瞳領域と受光画素との対応関係を示す図である。 本発明の実施形態に係る撮像装置における撮影光学系において、リフォーカス画像生成に係わる光線が通過する領域を概念的に示す図である。 本発明の第1の実施例に係る撮像装置の動作のフローチャートを示す図である。 本発明の第1の実施例に係る撮像装置の最大リフォーカス量を説明する図である。 本発明の第1の実施例に係る被写体検出におけるフォーカシングレンズの停止位置とリフォーカス範囲との関係を説明するための図である。 本発明の第1の実施例に係わる被写体検出において複数の被写体が検出された際のレンズ駆動位置の設定例を示す図である。 本発明の第1の実施例の変形例に係るフォーカシングレンズの停止位置とリフォーカス範囲との関係を説明するための図である。
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
第1の実施例
図1は、本発明の実施形態に係る撮像装置としてのデジタルカメラのブロック図である。
同図において、101は撮影レンズであり、不図示ではあるが、複数枚のレンズから構成される光学系である。この複数枚のレンズの中に、可動なフォーカシングレンズを含み、フォーカシングレンズを駆動することにより、被写体に対する合焦状態の調節を可能としている。102はマイクロレンズアレイ(以下、MLAと記す)であり、複数のマイクロレンズから構成され、撮影レンズ101の焦点位置近傍に配置される。撮影レンズ101の異なる瞳領域を通過した光は、MLA102に入射し、瞳領域毎に分離して出射される。103は撮像素子であり、CCDやCMOSイメージセンサーなどで構成され、MLA102の焦点位置近傍に配置される。MLA102と撮像素子103の詳細については後述する。104はADコンバーターであり、撮像素子103から出力される画像信号をAD変換してデジタルデータにし、105の画像処理部で、そのデジタルデータに所定の画像処理などを施し、被写体のデジタル画像データを得る。106は撮影制御部であり、画像処理部105で得られたデジタル画像データを、液晶ディスプレイなどで構成される表示部107へ表示し、また記録部108への保存などの制御を行う。撮影制御部206は、そのCPUが図示しないメモリに記憶されているプログラムをロードして実行することにより各部の制御を行う。この場合、各部の機能の全部又は一部をCPUが行ってもよいし、ハードウェアで構成してもよい。
被写体検出部109は、画像処理部205で得られたデジタル画像データを撮影制御部106から受け取り、画像内に存在する所定の被写体の画面内の位置と、大きさを検出する。本実施例では、被写体検出部109は所定の被写体として人物の顔を検出する機能を有し、その画面内における位置と大きさを検出するものとする。また、特定の人物の顔の特徴データを予め登録しておき、検出した顔を登録データと照合することで、個人認識が可能であるとする。この認識機能により、検出された特定の人物の顔に対して優先順位を付けることが可能となる。
操作部110は、ボタンやタッチパネルなどといった、ユーザーからの操作を受け付ける部分であり、受け付けた操作に応じて、合焦動作の開始や、記録部108に保存されたデジタル画像データの消去など、各種の動作を行う。また、撮影レンズ101は撮影制御部106と電気的、機械的に接続され、撮影レンズの情報を通信により取得できるほか、合焦動作の際はフォーカシングレンズの駆動命令などを送ることができる。
次に、本実施例に係わる撮像装置における、撮影レンズ101とMLA102、撮像素子103の構成を説明する。
図2は、撮像素子103とMLA102の構成を説明する図である。同図は撮像素子103およびMLA102を、撮影レンズからの光軸に平行なz方向から見た図である。撮影画像の仮想的な画素200を構成する複数の単位画素201(光電変換素子)に対して1つのマイクロレンズ202が対応するように配置されている。マイクロレンズ202は、MLA102を構成するものの中の一つである。本実施例では、1つのマイクロレンズに対応する単位画素201が6行6列の計36個あるものとして記載した。なお、同図に付記している座標軸は、光軸方向をz軸で示し、z軸に対して垂直な面を撮像面と平行な面とし、当該撮像面内においてx軸(水平方向)と、y軸(垂直方向)を定義している。なお、図2は撮像素子103の受光面の一部を示し、実際の撮像素子には非常に多くの画素が配列されている。
図3は、撮影レンズ101から出射された光束がMLA102の1つのマイクロレンズ202を通過して撮像素子103で受光される様子を、光軸zに対して垂直な方向から見た図である。撮影レンズ101の各瞳領域a〜aから出射され、マイクロレンズ202を通過した光は、撮像素子103の対応する単位画素p〜pでそれぞれ結像する。
図4(a)は撮影レンズ101の開口を光軸(z軸)方向から見た図である。図4(b)は1つのマイクロレンズ202とその後方に配置された単位画素201を光軸(z軸)方向から見た図である。図4(a)に示すように、撮影レンズ101の瞳領域を1つのマイクロレンズ下にある画素と同数の領域に分割した場合、1つの画素には撮影レンズ101の1つの瞳分割領域からの光が結像されることになる。ただし、ここでは撮影レンズとマイクロレンズのFナンバーがほぼ一致しているものとする。図4(a)に示す撮影レンズの瞳分割領域をa11〜a66、図4(b)に示す画素をp11〜p66としたとき、両者の対応関係は光軸(z軸)方向から見て点対称となる。したがって、撮影レンズの瞳分割領域a11から出射した光はマイクロレンズ後方にある画素201のうち、画素p11に結像する。これと同様に、瞳分割領域a11から出射し、別のマイクロレンズを通過する光も、そのマイクロレンズ後方にある画素201の中の画素p11に結像する。
次に、撮影レンズ101、MLA102、撮像素子103からなる撮像光学系を使用して取得したデジタル画像データを、任意に設定した焦点位置(リフォーカス面)での画像に再構成する処理を説明する(リフォーカス画像生成手段)。再構成は、画像処理部105において、「Light Field Photography」と呼ばれる手法を用いて行う。
図5は、任意に設定したリフォーカス面上のある画素を通過する光束が、撮影レンズのどの瞳分割領域から出射され、どのマイクロレンズへ入射するかを、光軸(z軸)に対し垂直な方向から見た図である。図のように、撮影レンズの瞳分割領域の位置の座標を(u,v)、リフォーカス面上の画素位置の座標を(x,y)、マイクロレンズアレイ上のマイクロレンズの位置の座標を(x’,y’)とする。また、撮影レンズからマイクロレンズアレイまでの距離をF、撮影レンズからリフォーカス面までの距離をαFとする。ここで、αはリフォーカス面の位置を決定するためのリフォーカス係数であり、ユーザーが任意に設定することが可能である。なお、図6ではu、x、x’の方向のみを示し、v、y、y’については省略してある。
図5に示すように、座標(u,v)と座標(x,y)を通過した光束500は、マイクロレンズアレイ上の座標(x’,y’)に到達する。この座標(x’,y’)は式1のように表すことができる。
そして、この光束500が受光される画素の出力をL(x’,y’,u,v)とすると、リフォーカス面上の座標(x,y)で得られる出力E(x,y)は、L(x’,y’,u,v)を撮影レンズの瞳領域に関して積分したものとなるため、式2のように表される。
式2において、リフォーカス係数αはユーザーによって決定されるため、(x,y)、(u,v)を与えれば、光束500の入射するマイクロレンズの位置(x’,y’)がわかる。そして、そのマイクロレンズに対応する複数画素から(u,v)の位置に対応する画素がわかり、この画素の出力がL(x’,y’,u,v)となる。これをすべての瞳分割領域について行い、求めた画素出力を合計(積分)することでE(x,y)が算出できる。
なお、(u,v)を撮影レンズの瞳分割領域の代表座標とすれば、式2の積分は、単純加算により計算することができる。
以上のようにして、式2の演算処理を行うことで、任意の焦点位置(リフォーカス面)における画像を再構築することができる。
次に、本実施例に係わる撮像装置の動作を図6に示すフローチャートを参照して説明する。なお、本動作は、上述したように撮影制御部106のCPUがプログラムを実行して各部を制御することによって行われる。
ステップS601でスタートしたら、ステップS602でS1がONになるのを待つ。S1とは、操作部110に含まれる、不図示のスイッチであり、ONされることにより、測光やオートフォーカスなどの撮影前の準備動作を開始するものである。実際には半押し状態と全押し状態の二段階を検出する、二段押し込み式の押しボタンスイッチであり、半押しされた状態をS1がONした状態、全押しされた状態をS2がONした状態と記すことにする。デジタルカメラなどの撮像装置においては、S1がONで撮影準備動作を行うのに対し、S2がONでは実際の撮影(露光)動作が行われるのが一般的である。
S1がONされると、ステップS603でリフォーカス可能な範囲を算出する。リフォーカス可能な範囲は、図7に示すように、角度分解能Δθ、角度分割数Nθ、画素ピッチΔxとすると、最大リフォーカス量dmaxは、次の式3で計算される。
これから、デフォーカスが−dmax〜+dmaxの範囲でリフォーカス画像を生成可能であることがわかる。
しかし、撮像装置の設計にもよるが、このリフォーカス範囲は、撮影レンズ101がカバーする、至近から無限までの全ピント領域(合焦状態の調整範囲)ほど広くはないことが一般的である。図8は、本実施例に係わるリフォーカス範囲と撮影レンズのカバーする至近から無限までの全ピント領域との関係を模式的に示す。同図では、リフォーカス可能な±dmaxの範囲を太字の矢印で示している。4つの太字の矢印により、撮影レンズのカバーする至近から無限までの全ピント領域を網羅している。つまり、フォーカシングレンズをP1,P2,P3,P4の4ポイントで(リフォーカス範囲の間隔で)停止して被写体の画像データを取得する。そうすれば、取得したそれぞれの画像データからリフォーカス画像を再構成することにより、至近から無限に至るすべての距離にピントの合った画像データを生成することが可能となる。このように、レンズの持つ至近−無限の範囲の情報と、リフォーカス範囲の算出結果から、すべてのピント領域をカバーするのに必要なフォーカシングレンズの停止ポイント(駆動位置)を決定するのがステップS603である(位置決定手段)。
そしてステップS603で決定したフォーカシングレンズの停止ポイントにレンズを駆動し、リフォーカス画像を再構成可能な被写体の画像データを取得して、取得した画像データ内の人物の顔を検出するのがステップS604である。顔検知は被写体検出部109で行い、ステップS603で取得した画像データに加え、それぞれの画像データから再構成されたリフォーカス画像も複数枚入力することにより、全ての被写体距離にある顔を検出することが可能となる。
ステップS605は、ステップS604において顔が検出されたかどうかを判定するステップである。顔が検出された場合はステップS606に進み、顔が検出された画像のピント位置や、検出された画像内の位置、および大きさを不図示のメモリにそれぞれ記憶し、ステップS607へ進む。顔が検出されなかった場合は、ステップS609に進む。
ステップS607は、検出された顔に応じて、最適なフォーカシングレンズの位置を決定するステップである。仮に検出された顔が1つであれば、その顔がリフォーカス範囲に入るような位置にフォーカシングレンズを駆動して画像データを取得すれば、取得した画像データから顔にピントの合った画像をリフォーカス処理により再構成できる。
しかし、検出した顔が複数の場合は、さまざまな処理が考えられる。例えば、図9(a)に示すように、被写体である人物A、B、Cがそれぞれ異なる被写体距離に存在している場合を考える。これらの被写体の情報は、ステップ606で被写体検出情報として記憶されているので、それから人物Aが最も近くに存在し、検出した顔の大きさも最も大きく、人物B、人物Cの順で顔のサイズは小さくなり、距離は遠くなる。この状態の被写体距離をレンズ駆動範囲内で図示した場合、図9(b)に示すような異なるピント位置に3人が存在していたとする。この場合、1枚の撮影画像だけを取得、保存し、後処理で人物A、B、Cそれぞれにピントが合うようにリフォーカス処理を行うことが可能であれば、それが最も望ましい。しかし、図9(b)に示すように、人物A、B、Cが3人とも一つのリフォーカス範囲に入るようなフォーカシングレンズの位置は存在しない(一つの太い矢印でA、B、Cの全員をカバーできない)こともある。そこで、例えば最も距離が近く、かつ大きな顔として検出された人物Aの顔を優先する方法をとる。この場合は、図9(c)のようにフォーカシングレンズをP4の位置に駆動すれば人物Bもリフォーカス範囲に収めることができることが分かる。このリフォーカス範囲の設定で画像データを取得すれば、後処理で人物A、Bにピントの合った画像を取得した画像データから再構成できる。一方、例えば人物Cの顔が、カメラ内部に登録された人物の顔だった場合は、人物Cを優先する方法をとる。この時、図9(d)に示すようにP5の位置をフォーカシングレンズの停止位置とすれば、人物Cに加え人物Bもリフォーカス範囲に収めることができ、後処理で人物B、Cにピントの合った画像を再構成できる。このように検出された顔の距離と優先度、およびリフォーカス範囲に応じて、できるだけ多く(最大限の数)の顔がリフォーカス範囲に入るようなフォーカシングレンズの駆動位置を求めるのがステップS607である。なお、人物A、B、Cの全員に対してピントの合った画像を取得できるよう、P4とP5の両方のフォーカシングレンズ位置で撮影するようにしてもよい。ステップS607で撮影時のフォーカシングレンズ位置を決定したら、ステップS608でその位置にフォーカシングレンズを実際に駆動する。
一方、ステップS605で顔が見つからなかった場合は、ステップS609で、顔なしの場合の測距アルゴリズムでフォーカシングレンズの位置を決定する。例えば画面を3×3の9エリアに分割して各エリアを測距し、得られた測距情報に基づいて最も近い測距結果のエリアにピントが合うフォーカシングレンズ位置を計算する。ここでは画面を9分割した上で至近側を優先した測距エリア選択の考え方の例を挙げたが、測距するポイント数や、至近側優先の考え方などは一例であり、この限りではない。
ステップS608で所定の位置にフォーカシングレンズを駆動したら、ステップS610でS2がONされるのを待つ。S1がONされてから所定時間内にS2がONされれば、ステップS611で露光動作が行われ、シーケンスを終了する。所定時間内にS2がONされなかった場合や、S1がOFFされた場合は、ステップS602へ戻る。
第1の実施例の変形例
第1の実施例のステップ603で決定されるフォーカッシングレンズの停止ポイントの数を削減することを考える。撮像装置の動作のフローチャートは第1の実施例と同様であり、ステップ603でのフォーカッシングレンズの停止位置の決定に被写界深度を考慮する点が第1の実施例と異なる。以下、この相違点について説明し、他の同様の部分についての説明は省略する。
一般に顔検知機能は、顔に完全に合焦しておらず、ある程度ボケた顔の画像でも検出することが可能である。そこで、例えば画像取得時の被写界深度を計算し、深度内にある顔であれば検出可能になることを考えると、図10のように、フォーカシングレンズの停止ポイント数の削減が可能となる。すなわち、図10に示す細線の矢印が被写界深度を表すとすると、太線で示したリフォーカス範囲に加え、その両端において深度の分だけ顔検出できる範囲が広がり、例えばフォーカシングレンズの停止位置をP1′、P2′、P3′の3点にすることができる。なお、被写界深度は、前方被写界深度DOFと後方被写界深度DOFに分けられ、許容錯乱円形δ、絞り値F、被写体距離a、焦点距離fとすると、それぞれ、
で表される。
上述した変形例によれば、被写体検出に必要なフォーカスシングレンズの停止ポイントの数を第1の実施例の場合に比べて削減することが可能となり、被写体検出に要する時間をさらに短縮することが可能となる。停止ポイントを決定した後は、第1の実施例と同様の撮影動作を行なう。
以上、説明したように、本発明によれば、様々なピント範囲にある被写体を高速に検出して撮影することが可能な被写体検出機能およびAF、AE機能を有する撮像装置を提供することができる。
図6に示した各処理は、上述のように各処理の機能を実現する為のプログラムを不図示のメモリから読み出して撮影制御部のCPUなどが実行することによりその機能を実現させるものである。
しかし、本発明は上述した構成に限定されるものではなく、図6に示した各処理の全部または一部の機能を専用のハードウェアにより実現してもよい。また、上述したメモリは、コンピュータ読み取り、書き込み可能な記録媒体より構成されてもよい。例えば、光磁気ディスク装置、フラッシュメモリ等の不揮発性のメモリや、CD−ROM等の読み出しのみが可能な記録媒体、RAM以外の揮発性のメモリ、あるいはこれらの組合せにより構成された記録媒体である。
また、図6に示した各処理の機能を実現する為のプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各処理を行っても良い。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。具体的には、記憶媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた場合も含む。この場合、書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発メモリ(RAM)も含む。このように、一定時間プログラムを保持しているものも「コンピュータ読み取り可能な記録媒体」に含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現する為のものであっても良い。さらに、前述した機能をコンピュータシステムに既に記録されているプログラムとの組合せで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
また、上記のプログラムを記録したコンピュータ読み取り可能な記録媒体等のプログラムプロダクトも本発明の実施形態として適用することができる。上記のプログラム、記録媒体、伝送媒体およびプログラムプロダクトは、本発明の範疇に含まれる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。

Claims (15)

  1. 被写体の合焦状態を調節するためのフォーカシングレンズを含む光学系で結像した前記被写体の像を撮像して、リフォーカス画像を再構成可能な画像データを取得する撮像光学系と、前記フォーカシングレンズを駆動する駆動手段と、前記撮像光学系で取得された前記画像データに基づいて、所定の被写体を検出する被写体検出手段と、前記撮像光学系で取得された画像データから、リフォーカス範囲に含まれる任意の焦点距離にリフォーカス画像を再構成するリフォーカス画像生成手段とを備える撮像装置において、
    前記フォーカシングレンズの合焦状態の調整範囲の任意の位置で前記リフォーカス画像を再構成可能とするための画像データを取得するために前記フォーカシングレンズを駆動する位置を、前記リフォーカス範囲に基づいて決定する位置決定手段と、
    前記位置決定手段で決定された位置に従って前記駆動手段および前記撮像光学系を制御して画像データを取得する制御手段
    とを備え、
    前記被写体検出手段は、前記制御手段が前記駆動手段および撮像光学系を制御して取得した前記画像データに基づいて、前記所定の被写体を検出することを特徴とする撮像装置。
  2. 前記位置決定手段は、前記合焦状態の調整範囲を前記リフォーカス範囲の間隔で前記フォーカシングレンズを駆動したときの駆動位置として決定し、この場合、各駆動位置に対応するリフォーカス範囲は重ならず、かつ前記調整範囲を網羅することを特徴とする請求項1に記載の撮像装置。
  3. 前記位置決定手段は、前記合焦状態の調整範囲を、前記リフォーカス範囲の両端をそれぞれ被写界深度の分だけ広げた範囲の間隔で前記フォーカシングレンズを駆動したときの駆動位置として決定し、この場合、各駆動位置に対応する前記広げられたリフォーカス範囲は互いに重ならず、かつ前記調整範囲を網羅することを特徴とする請求項1に記載の撮像装置。
  4. 前記被写体検出手段は、前記制御手段による前記駆動手段および前記撮像光学系の制御によって取得された前記画像データおよび当該画像データからリフォーカス画像生成手段によって再構成されたリフォーカス画像それぞれから前記所定の被写体を検出すること特徴とする請求項1乃至3のいずれか一項に記載の撮像装置。
  5. 前記制御手段は、前記リフォーカス範囲および前記検出された所定の被写体に基づいて、前記検出された所定の被写体を撮像するための前記フォーカシングレンズの駆動位置を決定し、当該検出された所定の被写体を撮像するための前記フォーカシングレンズの駆動位置に従って、前記駆動手段および前記撮像光学系を制御することを特徴とする請求項1乃至4のいずれか一項に記載の撮像装置。
  6. 前記制御手段は、前記被写体検出手段が異なる位置の複数の被写体を検出した場合は、前記検出された複数の被写体の位置を又は最大限の数の被写体の位置を含むリフォーカス範囲を与えるフォーカシングレンズの駆動位置を、前記検出された所定の被写体を撮像するための前記フォーカシングレンズの駆動位置として決定することを特徴とする請求項5に記載の撮像装置。
  7. 前記制御手段は、前記検出された複数の被写体の最大限の数の被写体の位置を含むリフォーカス範囲を与えるフォーカシングレンズの駆動位置を、前記検出された所定の被写体を撮像するための前記フォーカシングレンズの駆動位置として決定したときは、当該リフォーカス範囲に含まれない所定の被写体の画像を、前記リフォーカス画像生成手段を制御してリフォーカス画像として再構成することを特徴とする請求項6に記載の撮像装置。
  8. 前記被写体検出手段は、前記所定の被写体として人物の顔を検出することを特徴とする請求項1乃至7のいずれか一項に記載の撮像装置。
  9. 前記被写体検出手段は、前記人物の距離およびその顔のサイズを検出し、前記制御手段は、検出された距離および顔のサイズに基づいて前記検出された所定の被写体を撮像するための前記フォーカシングレンズの駆動位置を決定することを特徴とする請求項8に記載の撮像装置。
  10. 前記制御手段は、前記被写体検出手段が前記所定の被写体を検出しなかったときは、前記がフォーカシングレンズの合焦状態の調整で得られる測距情報に基づいて前記フォーカシングレンズの駆動位置を決定することを特徴とする請求項1乃至9のいずれか一項に記載の撮像装置。
  11. 被写体の合焦状態を調節するためのフォーカシングレンズを含む光学系で結像した前記被写体の像を撮像して、リフォーカス画像を再構成可能な画像データを取得する撮像光学系と、前記フォーカシングレンズを駆動する駆動手段と、前記撮像光学系で取得された画像データに基づいて、所定の被写体を検出する被写体検出手段と、前記撮像光学系で取得された画像データから、リフォーカス範囲に含まれる任意の焦点距離にリフォーカス画像を再構成するリフォーカス画像生成手段とを備える撮像装置の制御方法において、
    前記フォーカシングレンズの合焦状態の調整範囲の任意の位置で前記リフォーカス画像を再構成可能とするための画像データを取得するために前記フォーカシングレンズを駆動する位置を、前記リフォーカス範囲に基づいて決定する位置決定ステップと、
    前記位置決定ステップで決定された位置に従って前記駆動手段および前記撮像光学系を制御して画像データを取得する制御ステップとを備え、
    前記被写体検出手段は、前記制御ステップにおいて前記駆動手段および撮像光学系を制御して取得した前記画像データに基づいて、前記所定の被写体を検出することを特徴とする制御方法。
  12. 被写体の合焦状態を調節するためのフォーカシングレンズを含む光学系で結像した前記被写体の像を撮像して、リフォーカス画像を再構成可能な画像データを取得する撮像光学系と、前記フォーカシングレンズを駆動する駆動手段と、前記撮像光学系で取得された画像データに基づいて、所定の被写体を検出する被写体検出手段、前記撮像光学系で取得された画像データから、リフォーカス範囲に含まれる任意の焦点距離にリフォーカス画像を再構成するリフォーカス画像生成手段とを備える撮像装置を制御するプログラムにおいて、
    コンピュータを、
    前記フォーカシングレンズの合焦状態の調整範囲の任意の位置で前記リフォーカス画像を再構成可能とするための画像データを取得するために前記フォーカシングレンズを駆動する位置を、前記リフォーカス範囲に基づいて決定する位置決定手段、
    前記位置決定手段で決定された位置に従って前記駆動手段および前記撮像光学系を制御して画像データを取得する制御手段、
    前記制御手段により前記駆動手段および撮像光学系を制御して取得された画像データに基づいて、前記所定の被写体を検出する前記被写体検出手段として機能させることを特徴とするプログラム。
  13. 請求項12のプログラムを記録したコンピュータが読み取り可能な記録媒体。
  14. コンピュータを、請求項1乃至10のいずれか一項に記載された撮像装置の各手段として機能させるプログラム。
  15. コンピュータを、請求項1乃至10のいずれか一項に記載された撮像装置の各手段として機能させるプログラムを格納した記憶媒体。
JP2012142081A 2012-06-25 2012-06-25 撮像装置およびその制御方法ならびにプログラム Expired - Fee Related JP5938281B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012142081A JP5938281B2 (ja) 2012-06-25 2012-06-25 撮像装置およびその制御方法ならびにプログラム
US13/912,916 US20130342752A1 (en) 2012-06-25 2013-06-07 Image pickup apparatus and method of controlling the same
CN201310247369.8A CN103516976B (zh) 2012-06-25 2013-06-20 图像摄取装置及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012142081A JP5938281B2 (ja) 2012-06-25 2012-06-25 撮像装置およびその制御方法ならびにプログラム

Publications (3)

Publication Number Publication Date
JP2014007580A true JP2014007580A (ja) 2014-01-16
JP2014007580A5 JP2014007580A5 (ja) 2015-05-28
JP5938281B2 JP5938281B2 (ja) 2016-06-22

Family

ID=49774164

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012142081A Expired - Fee Related JP5938281B2 (ja) 2012-06-25 2012-06-25 撮像装置およびその制御方法ならびにプログラム

Country Status (3)

Country Link
US (1) US20130342752A1 (ja)
JP (1) JP5938281B2 (ja)
CN (1) CN103516976B (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015175982A (ja) * 2014-03-14 2015-10-05 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2015204587A (ja) * 2014-04-16 2015-11-16 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、プログラム、記憶媒体
WO2018061876A1 (ja) * 2016-09-29 2018-04-05 株式会社ニコン 撮像装置

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6329400B2 (ja) * 2014-03-13 2018-05-23 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム、並びに撮像装置
KR102155093B1 (ko) * 2014-08-05 2020-09-11 엘지전자 주식회사 이동단말기 및 그 제어방법
US9967451B2 (en) * 2014-09-30 2018-05-08 Canon Kabushiki Kaisha Imaging apparatus and imaging method that determine whether an object exists in a refocusable range on the basis of distance information and pupil division of photoelectric converters
JP2018098613A (ja) * 2016-12-12 2018-06-21 ソニーセミコンダクタソリューションズ株式会社 撮像装置、および、撮像装置の制御方法
US11381731B2 (en) * 2019-03-15 2022-07-05 Canon Kabushiki Kaisha Imaging apparatus, imaging control method, and storage medium
US11523097B2 (en) * 2019-03-22 2022-12-06 Universita' Degli Studi Di Bari Aldo Moro Process and apparatus for the capture of plenoptic images between arbitrary planes
JP7226549B2 (ja) 2019-06-18 2023-02-21 日本電気株式会社 撮像システム、撮像方法、制御装置、コンピュータプログラム及び記録媒体
JP2022128941A (ja) * 2021-02-24 2022-09-05 キヤノン株式会社 撮像装置、コンピュータプログラム、記憶媒体及び撮像装置の制御方法
TWI792582B (zh) * 2021-09-27 2023-02-11 海華科技股份有限公司 鏡頭對焦系統、鏡頭對焦方法以及圖表顯示結構

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008219878A (ja) * 2007-02-09 2008-09-18 Olympus Imaging Corp 復号方法、復号装置、復号プログラム、及び電子カメラ
JP2009244431A (ja) * 2008-03-28 2009-10-22 Canon Inc 撮像装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006039486A2 (en) * 2004-10-01 2006-04-13 The Board Of Trustees Of The Leland Stanford Junior University Imaging arrangements and methods therefor
JP5004726B2 (ja) * 2007-09-05 2012-08-22 キヤノン株式会社 撮像装置、レンズユニットおよび制御方法
JP4706882B2 (ja) * 2009-02-05 2011-06-22 ソニー株式会社 撮像装置
US8786761B2 (en) * 2009-06-05 2014-07-22 Apple Inc. Continuous autofocus mechanisms for image capturing devices
KR101608970B1 (ko) * 2009-11-27 2016-04-05 삼성전자주식회사 광 필드 데이터를 이용한 영상 처리 장치 및 방법
WO2011150109A1 (en) * 2010-05-26 2011-12-01 Qualcomm Incorporated Camera parameter- assisted video frame rate up conversion
CN102314683B (zh) * 2011-07-15 2013-01-16 清华大学 一种非平面图像传感器的计算成像方法和成像装置
US8995785B2 (en) * 2012-02-28 2015-03-31 Lytro, Inc. Light-field processing and analysis, camera control, and user interfaces and interaction on light-field capture devices
US9456141B2 (en) * 2013-02-22 2016-09-27 Lytro, Inc. Light-field based autofocus

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008219878A (ja) * 2007-02-09 2008-09-18 Olympus Imaging Corp 復号方法、復号装置、復号プログラム、及び電子カメラ
JP2009244431A (ja) * 2008-03-28 2009-10-22 Canon Inc 撮像装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015175982A (ja) * 2014-03-14 2015-10-05 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2015204587A (ja) * 2014-04-16 2015-11-16 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、プログラム、記憶媒体
WO2018061876A1 (ja) * 2016-09-29 2018-04-05 株式会社ニコン 撮像装置

Also Published As

Publication number Publication date
CN103516976B (zh) 2016-12-28
US20130342752A1 (en) 2013-12-26
JP5938281B2 (ja) 2016-06-22
CN103516976A (zh) 2014-01-15

Similar Documents

Publication Publication Date Title
JP5938281B2 (ja) 撮像装置およびその制御方法ならびにプログラム
JP6341736B2 (ja) 撮像装置、制御方法、プログラム、記憶媒体
US10021309B2 (en) Image recording apparatus and image reproducing apparatus
US8466989B2 (en) Camera having image correction function, apparatus and image correction method
US9781332B2 (en) Image pickup apparatus for acquiring a refocus image, method of controlling image pickup apparatus, and non-transitory computer-readable storage medium
US9208569B2 (en) Image processing apparatus and control method thereof capable of performing refocus calculation processing for light field data
JP2013165475A (ja) 撮影画像の補助情報を生成する撮像装置、画像処理装置、及び画像処理方法
CN107864315B (zh) 摄像设备、摄像设备的控制方法和记录介质
US20140320734A1 (en) Image capture apparatus and method of controlling the same
JP6095266B2 (ja) 画像処理装置及びその制御方法
JP2014157425A (ja) 撮像装置及びその制御方法
JP2012226184A5 (ja) 撮像装置およびその制御方法
US20150287208A1 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium
JP6152772B2 (ja) 撮像装置、半導体集積回路および撮像方法
JP6608194B2 (ja) 画像処理装置およびその制御方法ならびにプログラム
US10917556B2 (en) Imaging apparatus
JP6645711B2 (ja) 画像処理装置、画像処理方法、プログラム
JP5553862B2 (ja) 撮像装置および撮像装置の制御方法
US20150365599A1 (en) Information processing apparatus, image capturing apparatus, and control method
JP2015084518A (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
JP2015081984A (ja) 撮像装置、その制御方法およびプログラム
JP2018026768A (ja) 撮像装置とその制御方法及びプログラム
JP2017139576A (ja) 撮像装置およびその制御方法ならびにプログラム
JP2018050147A (ja) 撮像装置、撮像方法およびプログラム
JP6900228B2 (ja) 撮像装置、撮像システム、撮像装置の制御方法、および、プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150408

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150408

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160316

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160414

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160516

R151 Written notification of patent or utility model registration

Ref document number: 5938281

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees