JP6723092B2 - 撮像装置およびその制御方法ならびにプログラム - Google Patents

撮像装置およびその制御方法ならびにプログラム Download PDF

Info

Publication number
JP6723092B2
JP6723092B2 JP2016125916A JP2016125916A JP6723092B2 JP 6723092 B2 JP6723092 B2 JP 6723092B2 JP 2016125916 A JP2016125916 A JP 2016125916A JP 2016125916 A JP2016125916 A JP 2016125916A JP 6723092 B2 JP6723092 B2 JP 6723092B2
Authority
JP
Japan
Prior art keywords
scene
subject
imaging
brightness
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016125916A
Other languages
English (en)
Other versions
JP2017229033A5 (ja
JP2017229033A (ja
Inventor
康嘉 宮▲崎▼
康嘉 宮▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016125916A priority Critical patent/JP6723092B2/ja
Priority to US15/628,113 priority patent/US10362207B2/en
Publication of JP2017229033A publication Critical patent/JP2017229033A/ja
Publication of JP2017229033A5 publication Critical patent/JP2017229033A5/ja
Application granted granted Critical
Publication of JP6723092B2 publication Critical patent/JP6723092B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Description

本発明は、撮像装置およびその制御方法ならびにプログラムに関する。
従来、間欠的な撮像(タイムラプス撮影ともいわれる)を行って、撮像した複数枚の画像をそれぞれ別個の画像ファイル或いは1つのファイルとして記録するものがある。特許文献1には、間欠的に撮像された複数の静止画を合成した合成画像や動画を生成する撮像装置が提案されている。間欠的に撮像した複数枚の静止画データを動画として再生する場合、通常の時間の進行では見ることのできないゆっくりした動きを時間的に短縮してみることができる。しかし、撮影状況に適した撮影間隔が設定されていない場合、冗長な画像が多くなったり画像が不足してしまったりする場合がある。
一方、特許文献2には、連続した画像間の差分を考慮して撮影間隔を動的に変更しながら間欠的に撮像する技術が提案されている。
特開2013−62740号公報 特開2002−218309号公報
しかしながら、特許文献2で提案された技術では、連続した画像間の差分が大きくなる場合に適切な撮影間隔が設定できない場合がある。これは、例えば風景の雲の動きや人の流れを撮影する場合など、画像の差分が大きくなる場合があっても適切な撮影間隔が比較的長いシーンがあるように、その適切な撮影間隔はシーンによって異なるためである。
他方、タイムラプス撮影に馴染みのないユーザにとって、シーンごとに適切な撮影間隔を設定することは容易ではなく、長時間を費やして撮影を行っても所望の撮影結果を得られない場合もある。
本発明は、上述の問題点に鑑みてなされたものであり、間欠的な撮像において、シーンに適した撮像間隔の設定を容易にすることが可能な撮像装置及びその制御方法ならびにプログラムを提供することを目的とする。
この課題を解決するため、例えば本発明の撮像装置は以下の構成を備える。すなわち、所定の時間間隔で間欠的な撮像を行うことが可能な撮像装置であって、撮像手段を用いて被写体を撮像することで得られる画像データの特徴量を取得する取得手段と、ユーザによるシーンの選択によらず、前記特徴量に基づいてシーンを自動的に判定する判定手段と、前記判定手段により判定された前記シーンに基づいて、前記所定の時間間隔を設定する設定手段と、を有し、前記設定手段は、前記判定手段によって判定されたシーンとして、前記画像データの輝度により得られた明るさが低い第1のシーンの方が、前記第1のシーンよりも前記画像データの輝度により得られた明るさが高い第2のシーンよりも、前記所定の時間間隔を長く設定することを特徴とする。
本発明によれば、間欠的な撮像において、シーンに適した撮像間隔の設定を容易にすることが可能になる。
本発明の実施形態に係る撮像装置の一例としてのデジタルカメラの機能構成例を示すブロック図 本実施形態に係る間欠的な撮像に係る一連の動作を示すフローチャート 本実施形態に係る判定対象となるシーンの例を示す図 本実施形態に係る顔領域の検出処理の例を示す図 本実施形態に係る領域分割とヒストグラムを用いた処理の例を説明する図 本実施形態に係る被写体領域の判定方法の例を示す図 本実施形態に係る被写体評価値の算出方法の例を説明する図 本実施形態に係る被写体の変動に対する撮影間隔の例を示す図 本実施形態に係るマクロ被写体に対する被写体領域の例を示す図 本実施形態に係るマクロ被写体の動き判定処理を説明する図
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下の説明では、タイムラプス撮影を間欠的な撮像として説明する。また、タイムラプス動画を、間欠的な撮像によって取得された時間的に連続する複数の画像データを時系列順につなぎ合せて取得した動画として説明する。以下では撮像装置の一例として、間欠的な撮像が可能な任意のデジタルカメラを用いる例を説明する。しかし、本実施形態は、デジタルカメラに限らず、間欠的な撮像が可能な任意の電子機器にも適用可能である。これらの機器には、例えばパーソナルコンピュータ、スマートフォンを含む携帯電話機、ゲーム機、タブレット端末、時計型や眼鏡型の情報端末、医療機器、監視カメラや車載用カメラなどが含まれてよい。
(デジタルカメラ100の構成)
図1は、本実施形態の撮像装置の一例としてデジタルカメラ100の機能構成例を示すブロック図である。なお、図1に示す機能ブロックの1つ以上は、ASICやプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよいし、CPUやMPU等のプログラマブルプロセッサがソフトウェアを実行することによって実現されてもよい。また、ソフトウェアとハードウェアの組み合わせによって実現されてもよい。従って、以下の説明において、異なる機能ブロックが動作主体として記載されている場合であっても、同じハードウェアが主体として実現されうる。
操作部101は、ユーザがデジタルカメラ100に対する各種指示を入力するために操作するスイッチ、ボタン、ダイヤル等から構成され、例えばシャッタースイッチ、タッチセンサ(表示装置をタッチすることで操作が可能となるもの)が含まれる。操作部101は、ユーザによって指示が入力されると制御部102へ操作に関する情報を出力する。
制御部102は、CPU(MPU)を含み、不揮発性メモリ120に記憶されたプログラムを揮発性メモリ117に展開し実行することによりデジタルカメラ100全体の動作を制御したり、各ブロック間でのデータ転送を制御したりする。また、操作部101からの指示に応じて各部を制御する。揮発性メモリ117は、例えばSDRAMなどの揮発メモリを含み、画像処理部105から出力される画像データや音声データ等の各種のデータ、或いは、制御部102の処理に必要なデータ等を記憶する。
センサ部103は、光電変換素子を有する画素が複数、2次元的に配列された構成を含む。レンズ108a、メカ機構109aを介して入射された光を各画素で光電変換し、その光量に応じた電荷をアナログ画像信号として出力する。センサ部103は、例えばCCD(Charge-Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどであってよい。A/D変換部104は、センサ部103から出力されたアナログ画像信号に対して、例えばサンプリング、ゲイン調整、A/D変換等の処理を行って、デジタル画像信号を出力する。
画像処理部105は、A/D変換部104から出力されたデジタル画像信号に対して、色信号の変換や現像処理などの各種の画像処理を行い、処理済みのデジタル画像信号を出力する。例えば、A/D変換部104から受けたRGB形式のデジタル画像信号を、YUV画像信号(画像データ)に変換して出力する。また、タイムラプス撮影によって取得された複数の画像データを、取得順(撮影順)に結合してタイムラプス動画を生成する。
表示部107は、例えば液晶ディスプレイ、有機ELディスプレイ、電子ペーパー等の表示デバイスを含み、撮影された画像や画像記録部113から読み出した画像を表示する。また、ユーザがデジタルカメラ100を操作するためのメニュー画面を表示する。
AF処理部108は、画像処理部105から出力された画像データを用いて合焦状態を評価し、評価結果に基づいてレンズ108aに含まれるフォーカスレンズの位置を制御することにより、センサ部103に結像する光学像のピントを合わせる。AE処理部109は、画像処理部105から出力された画像データから得られる輝度と適正輝度との差分を算出し、当該差分に基づいてメカ機構109aに含まれる絞りの動作を制御することにより、センサ部103に入射する光量を適正にする。なお、適正輝度に関する情報は、後述する不揮発性メモリ120に予め格納されているものとする。
EF(Electronic Flash)処理部110は、制御部102により発光判断がされた場合に、被写体の明るさが適正となりうる光量を、発光装置であるストロボ部111に発光させる。エンコーダー部112は、画像処理部105から出力された画像データのフォーマットを例えばJPEGなどの所定のフォーマットに変換し、画像記録部113に出力する。画像記録部113は、不揮発性メモリ等の記録媒体を含み、エンコーダー部112から入力された所定のフォーマットの画像データを記録する。また、記録媒体が着脱可能に構成される場合、デジタルカメラ100に挿入された外部メモリに記憶させてもよい。また、必要に応じてエンコーダー部112から入力された画像データを揮発性メモリ117に一時的に記憶させてもよい。外部接続部114は、例えば通信回路や通信モジュールを含み、有線通信又は無線通信により外部機器と接続して、画像データや制御信号を送受信する。
被写体検出部116は、画像データに基づいて画面内の被写体を検出して、検出した被写体に関する被写体情報を出力する。なお、被写体検出部116は、本実施形態の例では、検出対象として人物を優先的に検出し、画面内に人物が含まれていない場合若しくは人物が小さい場合には、画面内を領域分割して主被写体を検出する。シーン判別部118では、画像処理部105、被写体検出部116から得られる被写体情報、画面内の被写体距離情報、明るさ情報、及び、画面内の動き情報に基づいて撮影画像のシーンを判定する。撮影間隔設定部119では、シーン判別部118によって判定されたシーンに応じて、タイムラプス撮影を行う際の撮影間隔を設定する。不揮発性メモリ120は、半導体メモリや磁気ディスク等から構成され、制御部102におけるCPUのためのプログラムや、動作用の定数などを記憶する。
(間欠的な撮像に係る一連の動作)
次に、図2を参照して、間欠的な撮像に係る一連の動作を説明する。本処理では、本撮影の開始前に画像データから特徴量を取得する。そして、取得した特徴量に基づき、図3を参照して後述する各シーンを区別し、シーンに適した撮影間隔を設定する。その後、設定された撮影間隔で間欠的な撮像を行ってタイムラプス動画のための複数の画像データを取得する。なお、本処理は、例えばユーザが操作部101に含まれる電源スイッチを押下し、これにより制御部102がデジタルカメラ100を構成する各部に電源を供給した場合に開始される。また、本処理は、制御部102が不図示のROMに記憶されたプログラムを揮発性メモリ117の作業用領域に展開、実行すると共に、被写体検出部116等の各部を制御することにより実現される。
S201において、操作部101は、制御部102の指示に応じてタイムラプス撮影期間を設定する。このステップでは、1秒、30秒、1時間、10時間といった、タイムラプス動画の生成に用いる画像データの取得間隔ではなく、タイムラプス撮影を実行する総撮影時間を設定する。なお、この例では、総撮影時間を設定することにより最終的に撮影を終了させるようにしているが、設定によっては無制限にしておき、ユーザが終了したいタイミングで撮影を終了させるようにしてもよい。また、総撮影時間ではなく、タイムラプス撮影を行う総撮像回数を設定するような構成であってもよい。
S202において、制御部102は各部を制御してライブビュー表示に用いるライブ画像(スルー画像)を取得する。具体的には、各部に電源が供給されてシャッターが開くと、センサ部103は、レンズ108a、メカ機構109に含まれる絞りを介して光を受光して、画素ごとに蓄積した電荷を読み出し、アナログ画像信号として出力する。A/D変換部104は、センサ部103から出力されたアナログ画像信号に対して、サンプリング、ゲイン調整、A/D変換等を行い、デジタル画像信号として出力する。さらに、画像処理部105は、A/D変換部104から出力されたデジタル画像信号に対して各種画像処理を行って画像データを出力する。なお、後述するAF処理及びAE処理では、この時点における画像データを用いて処理を行い、以降のライブ画像の撮影に最適なピント及び露出設定条件を取得する。
S203において、制御部102は、得られたライブ画像から顔が検出されたかを判定する。具体的には、被写体検出部116は、制御部102の指示に応じて、得られたライブ画像に基づいて顔検出を行い、顔の位置、大きさ、(必要に応じて)表情を検出する。被写体検出部116は、例えば、図4(a)に示すような画像に対して、まず画像中の輝度信号のエッジを検出する(図4(b))。そして、例えば頬の勾配、目鼻口のエッジパターンなどの人物の顔となる特徴点を抽出し(図4(c))、これら特徴点を含む領域を顔領域1000とする(図4(d))。また、表情に関しては、目、口、頬の特徴点位置に基づいて解析し、例えば、口角の端点が予め定めた真顔である場合の基準より顔上寄りに移動している場合、笑顔であると判定する。制御部102は、顔が検出されなかったと判定した場合にはS204へ処理を進め、顔が検出された場合には検出した顔の位置及び大きさを示す顔情報を生成してS206に処理を進める。
S204において、被写体検出部116は、制御部102の指示に応じて画像内の領域を各ブロックに分割する。すなわち、画像から顔が検出されなかったため、人物以外の主被写体を検出するために画像内の領域を分割処理する。まず、被写体検出部116は、図5(a)に示すように各ブロックにおける色相、彩度、輝度を取得する。次に、ブロック分割された画像の色相情報から図5(b)に示すような色相ヒストグラムを作成する。そして、被写体検出部116は、色相ヒストグラムに基づいて色相のグループ分けを行う。例えば、ヒストグラムの最も値の大きい位置を中心に、ヒストグラムが谷に当たるまでの範囲の色を同一グループとみなす。図5(c)にはヒストグラムの山と谷の関係からグループ分けを行う例を示している。例えば、図5(c)の左側に示すように、ヒストグラムの値が0になった場合を谷とする。また、図5(c)の右側に示すように、山から谷方向に関してヒストグラムの極小点Aよりも一定割合大きい点Bが存在する場合、その極小点Aを谷とする。このような処理を繰り返して全ての色相に対してグループ分けを行ってグループNoを付与する。
S205において、被写体検出部116は、主被写体を判定する。被写体検出部116は、まず、画面内の複数に分割されたブロックを左上端から1ラインずつ読み込み、S204におけるグループ分けにより割り振られたグループNoに基づいて同一領域を判定する。例えば、被写体検出部116は、隣接ブロックが同一のグループである場合に、当該隣接するブロックが同一領域であると判定していく。図6(a)〜(f)は、同一領域の判定の例を示している。S204においてグループNoが付与されたブロック(図6(a))に対して、被写体検出部116は、左上(0行目、0列目)のブロックからグループNoを判定してゆく。現在の判定対象であるブロックと隣接する走査済みブロックとが同一グループである場合、走査済みブロックと同一領域と判定し(図6(b))、現在の判定対象であるブロックが新たなグループである場合、領域を区別する(図6(c))。被写体検出部116は、以降同様の処理を行いながら走査を続行し(図6(d)〜(e))、画面内の全てのブロックについてグループ分けを行う(図6(f))。なお、本実施形態では、色相による領域分割の例を説明したが、画面内の被写体領域を判定することができれば他の方法であってもよく、輝度や彩度による領域分割等であってもよい。
次に、被写体検出部116は、同一領域であると判定された領域ごとに被写体評価値を算出する。例えば、本実施形態では、被写体評価値を、主被写体である可能性を表す指標として各領域の大きさ(size)、画面中心からの距離(dist)に基づいて算出する(図7(a))。この例では、画面中心から被写体重心までの距離が遠いほどWeight_distが低くなり(図7(b))、被写体の大きさに応じてWeight_Sizeが所定の値まで増加する(図7(c))ように設定したパラメータを算出する。そして、これらを掛け合わせることにより、各領域の評価値Sn(n=1、2、・・)を算出し、最も高いSnを有する領域を主被写体として検出する。得られた主被写体領域情報は、制御部102を介してAE処理部109、AF処理部108に伝達される。なお、本実施形態では、S203において顔が検出された場合にS204〜S205の処理を行わずに処理負荷を軽減している。しかし、顔が検出された場合、例えば図7(a)に示すように、被写体評価値の算出を、顔の領域を含めて算出してもよい。
S206において、AF処理部108は、得られたライブ画像に基づく測距処理を行って、被写体検出部116により算出された主被写体に対する適切なピントを取得する(AF処理)。測距処理では、レンズ108aに含まれるフォーカスレンズ(不図示)をシフトさせて被写体領域に最適なピント位置を検出し、そのピント位置の情報から被写体距離情報を算出することができる。
S207において、AE処理部109は、得られたライブ画像に基づく測光処理を行って、被写体検出部116により算出された主被写体の領域に適した明るさ情報を取得する(AE処理)。測光処理では、画面内を複数ブロックに分割し、各ブロック内の輝度値を積分したブロック積分値を用いて画面の平均輝度(測光値)を算出する。また、得られた測光値と目標輝度からのずれΔBvを算出し、測光値にこのΔBvを加えたものを本撮影時の外光輝度Bvとする。そして、算出した外光輝度ΔBvに基づいて、本撮影の露出値を算出する。すなわち、本AE処理により適正露出が保持される。なお、主被写体の領域の重み付けの度合いを大きくして測光値を算出し、当該算出後の測光値とデフォルトの目標輝度とを比較することで外光輝度Bvとしてもよい。
S208において、制御部102は、撮影を開始するかを判定する。例えば、制御部102は、操作部101に含まれるシャッタースイッチが押下された場合、処理をS209に進めて、シーン判別部118にシーン判別処理を開始させる。S209以降において説明するように、シーン判別処理では、例えば図3(a)〜(g)に示す「日中」、「夜景」、「星空」、「近い人物」、「遠い人物」、「マクロ被写体動き観測」、「マクロ静止物定点観測」のシーンを区別する。これらのシーンは、後述するように、画像データから得られる特徴量により特徴付けられている。そして、撮影間隔設定部119は、区別されたシーンごとに撮影間隔を設定する。なお、上述したステップで得られた被写体距離情報、明るさ情報(Bv値)、被写体情報(顔情報、主被写体領域情報)、各領域分割情報が、特徴量としてシーン判別部118に入力される。一方、制御部102は、シャッタースイッチが押下されていない場合、処理をS202に戻して処理を繰り返す。
S209において、シーン判別部118は、被写体距離が遠いかを判定する。例えば、シーン判別部118は、AF処理によって得られた被写体距離情報が所定の距離以上(例えば100m以上)である場合、被写体距離が遠い(すなわち遠景や無限遠を含む)と判定する。シーン判別部118は、被写体距離が遠いと判定した場合、処理をS210に進める。一方、被写体距離が所定の距離未満である場合、被写体距離が遠くないと判定して、人物の有無を判定するためにS215に処理を進める。
S210において、シーン判別部118は、遠景を含むシーンの明るさを判定する。例えば、AE処理によって得られた明るさ情報(Bv値)がBv>0である場合、撮影しているシーンが日中シーン(図3(a))であると判定する。そして、S211において、撮影間隔設定部119は、日中シーンに対する撮影間隔を5s(秒)に設定する。なお、日中シーンでは、雲の動きや太陽の動きなどの太陽光下での自然変動を抽出することを目的としているため、本実施形態では、遠景における自然変動に対する最適な時間間隔を例えば5sとしている。
一方、S210においてBv>0で無かった場合、シーン判別部118は、S212において明るさ情報が−5<Bv≦0であるかを判定する。明るさ情報が−5<Bv≦0である場合、シーン判別部118は撮影しているシーンが夜景シーン(図3(b))であると判定する。そして、S213において、撮影間隔設定部119は、夜景シーンに対する撮影間隔を15sに設定する。なお、夜景シーンは、日中シーンに比べ、画角内の動く被写体が少なくなり、また露出追従のために露光時間を長くとる必要もあるため、本実施形態では、最適な時間間隔を例えば15sとしている。
一方、S212において、Bv≦−5である場合、シーン判別部118は、撮影しているシーンが星空シーン(図3(c))であると判定する。そして、S214において、撮影間隔設定部119は、星空シーンに対する撮影間隔を30sに設定する。星空を撮影する場合、星をなるべく多めに写すために夜景よりも長い露光時間を設定することが望ましいため、本実施形態では、最適な撮影間隔を30sとしている。
なお、本実施形態では、被写体距離を遠景とそれ以外とで区別したが、これに限らない。被写体距離が遠ければ遠いほど被写体の画面内の変化が小さくなるため、被写体距離が遠いほどより長い時間間隔を設定にしてもよい。
次に、撮影しているシーンが遠景ではない(すなわち被写体距離が遠くない)と判定された場合の判別処理について説明する。S215において、シーン判別部118は、顔情報を用いて画像内に人物が存在するかを判定し、人物が存在する場合には、更にS216において顔領域の大きさを判定する。本実施形態では、図3(d)に示すような比較的大きな人物の被写体が存在するような人物シーンを「近い人物」シーンとして想定している。従って、人物の顔の大きさが画像横幅の1/4以上であるか否かに応じて「近い人物」シーンであるか「遠い人物」シーンであるかを区別する。シーン判別部118は、顔領域の大きさが顔領域の閾値(画像横幅の1/4)以上である場合、撮影しているシーンが近い人物のシーンであると判定してS217に処理を進める。一方、顔領域の大きさが顔領域の閾値未満である場合には、撮影しているシーンが遠い人物のシーンであると判定してS218に処理を進める。
S217において、撮影間隔設定部119は、顔の位置変動及び大きさの変動に応じて撮影間隔を設定する。撮影間隔設定部119は、例えば、図8(a)に示すように、顔の位置の変動量が大きいほど撮影間隔を大きく設定する。このとき、顔の位置の変動量は、例えば、近くにある顔ほど移動量が大きくなることを考慮して、顔の移動量と顔の大きさの比率を用いて表す。また、図8(b)に示すように、顔の大きさが元の大きさからどの程度変動したかに応じて撮影間隔を設定する。なお、顔の位置及び大きさの変動の判定は、実験等により予め定められた時間間隔だけ離れた複数のライブ画像を用いて行われる。例えば、撮影間隔設定部119は、顔の大きさが大きく、かつ、位置変動又はサイズ変動が最大である場合、撮影間隔を比較的短い0.5秒に設定する。一方、位置変動、サイズ変動が小さい場合、撮影間隔を比較的長い1秒に設定する。
一方、撮影間隔設定部119は、遠い人物のシーンでは、近い人物シーンよりも長い撮影間隔を設定する。本実施形態では、図3(e)のような人の往来を撮影するシーンを「遠い人物」シーンとして想定している。なお、本ステップにおいても、S217と同様に、顔の変動に応じて1〜5秒の間で撮影間隔を調整する。
更に、撮影しているシーンが遠景でなく、かつ、人物が存在しないシーンである場合について、S219以降の処理を説明する。本実施形態では、このようなシーンとして、例えば図3(f)又は(g)に示すようなマクロ被写体を撮影するシーンを想定している。
S219において、シーン判別部118は、上述した領域分割によって検出された主被写体領域情報を用いて、連続したライブ画像において主被写体を追跡してその移動量を判定する。例えば、図3(f)と図3(g)について、それぞれ図9(a)、図9(b)のように領域分割され、被写体評価値を算出した結果、各領域に付与された番号順に優先順位が算出されているものとする。従って、図9(a)及び図9(b)において、それぞれ1番の付与された領域が主被写体領域を表す。そして、図10(a)及び図10(b)に示すように、連続したライブ画像を用いて主被写体領域の検出を繰り返し、この主被写体領域の領域中心の移動量が所定の閾値以上である場合、撮影しているシーンがマクロ動体の動き観測のシーンであると判定する。この場合、S220において撮影間隔設定部119は、撮影間隔を1秒に設定する。一方、S219において、シーン判別部118は、上記移動量が所定の閾値未満である場合、撮影しているシーンがマクロ静止物の定点観測のシーンであると判定する。この場合、S221において、撮影間隔設定部119は、撮影間隔を長めの10秒に設定する。
以上のように、撮影間隔設定部119により撮影間隔が決定されると、制御部102は処理をS222に進める。
S222において、制御部102は、この時点における被写体情報をAE処理部109、AF処理部108に伝達して改めてAF処理及びAE処理を行わせる。そして、現時点における被写体距離情報、明るさ情報に基づき、S223における静止画の撮影(いわゆる本撮影)を開始する。制御部102は、静止画を撮影し、画像記録部113に記録すると、設定された時間間隔が経過するまで、デジタルカメラ100を一端休止状態にする。また、制御部102は、不図示のタイマーの値を参照して設定された時間間隔が経過した場合に休止状態から復帰する。
S224において、制御部102は、S201において設定された総撮影時間を経過したかを判定する。当該総撮影時間を経過していないと判定した場合には、再度S222に処理を戻して、再びAF処理等及び静止画の撮影を繰り返す。このように処理を繰り返すことにより、間欠的な撮像(すなわちタイムラプス撮影)を実行する。一方、制御部102は、時刻が総撮影時間を経過したと判定した場合、S225に処理を進めて撮影を終了する。得られた複数の静止画は、画像処理部105によってタイムラプス動画として結合された後に、エンコーダー部112によって動画フォーマットに変換される。変換された動画フォーマットは、画像記録部113によって所定のメモリに記録される。
なお、本実施形態では、撮影前に取得した情報に基づいてシーンを判別し、撮影間隔を決定したうえで、決定した撮影間隔により静止画撮影を行う例を説明した。しかし、静止画撮影中に上述したシーン判別処理を実行し、状況の変化に応じて撮影間隔を変更するようにしてもよい。
以上説明したように本実施形態では、所定の時間間隔で間欠的な撮像を行う場合に、画像データから得られる特徴量に基づいて撮影しているシーンを区別し、区別されたシーンに応じて、所定の時間間隔を設定するようにした。このようにすることで、間欠的な撮像においてユーザが手動で時間間隔を設定することなく、星空、風景、或いは人や車の流れ等のシーンに応じて適切な時間間隔を設定するが可能になる。すなわち、間欠的な撮像において、シーンに適した撮像間隔の設定を容易にすることが可能となる。
なお、上述した実施形態では、ライブ画像とは別にタイムラプス撮影を行うことで取得した画像データに基づいてタイムラプス動画を生成する構成について説明したが、これに限定されるものではない。例えば、取得されたライブ画像の中から、上述した処理によって設定された撮像間隔に基づいてタイムラプス動画用の間欠的な画像データを設定する構成であってもよい。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
102…制御部、116…被写体検出部、118…シーン判定部、119…撮影間隔設定部

Claims (17)

  1. 所定の時間間隔で間欠的な撮像を行うことが可能な撮像装置であって、
    撮像手段を用いて被写体を撮像することで得られる画像データの特徴量を取得する取得手段と、
    ユーザによるシーンの選択によらず、前記特徴量に基づいてシーンを自動的に判定する判定手段と、
    前記判定手段により判定された前記シーンに基づいて、前記所定の時間間隔を設定する設定手段と、を有し、
    前記設定手段は、前記判定手段によって判定されたシーンとして、前記画像データの輝度により得られた明るさが低い第1のシーンの方が、前記第1のシーンよりも前記画像データの輝度により得られた明るさが高い第2のシーンよりも、前記所定の時間間隔を長く設定することを特徴とする撮像装置。
  2. 前記特徴量が被写体までの被写体距離を含む場合、前記判定手段は、前記特徴量により特徴付けられる前記シーンを、前記被写体距離に応じて判定する、ことを特徴とする請求項1に記載の撮像装置。
  3. 前記特徴量が被写体として検出された顔領域の情報を含む場合、前記判定手段は、前記特徴量により特徴付けられる前記シーンを、前記顔領域の存在及びその大きさに応じて判定する、ことを特徴とする請求項1に記載の撮像装置。
  4. 前記特徴量が被写体までの被写体距離を更に含む場合、前記判定手段は、前記被写体距離が所定の距離未満であるときに、前記顔領域の存在及びその大きさに応じて判定する、ことを特徴とする請求項3に記載の撮像装置。
  5. 前記特徴量が前記画像データの輝度により得られた明るさを含む場合、前記判定手段は、前記特徴量により特徴付けられる前記シーンを、前記明るさに応じて判定する、ことを特徴とする請求項1に記載の撮像装置。
  6. 前記特徴量が被写体までの被写体距離を更に含む場合、前記判定手段は、前記被写体距離が所定の距離以上であるときに、前記明るさに応じて判定する、ことを特徴とする請求項5に記載の撮像装置。
  7. 前記特徴量が画面内を分割した領域ごとの動き情報を含む場合、前記判定手段は、前記特徴量により特徴付けられる前記シーンを、前記領域ごとの動き情報に応じて判定する、ことを特徴とする請求項1に記載の撮像装置。
  8. 前記設定手段は、前記判定手段によって判定されたシーンとして、被写体までの被写体距離が遠い第のシーンの方が、前記第のシーンよりも被写体距離が近い第のシーンよりも、前記所定の時間間隔を長く設定する、ことを特徴とする請求項1から7のいずれか1項に記載の撮像装置。
  9. 前記設定手段は、前記判定手段によって判定されたシーンとして、顔領域の大きさが大きい第5のシーンの方が、前記第5のシーンよりも前記顔領域の大きさが小さい第6のシーンよりも、前記所定の時間間隔を短く設定する、ことを特徴とする請求項1からのいずれか1項に記載の撮像装置。
  10. 前記設定手段は、前記判定手段によって判定されたシーンとして、顔領域ではない主被写体の領域の動き量が大きい第7のシーンの方が、前記第7のシーンよりも前記主被写体の領域の動き量が小さい第8のシーンよりも、前記所定の時間間隔を短く設定する、ことを特徴とする請求項1からのいずれか1項に記載の撮像装置。
  11. 前記設定手段は、前記判定手段によって判定されたシーンとして、所定の被写体の領域の大きさの変動が大きい第9のシーンの方が、前記第9のシーンよりも前記所定の被写体の領域の大きさの変動が小さい第10のシーンよりも、前記所定の時間間隔を短く設定する、ことを特徴とする請求項1から10のいずれか1項に記載の撮像装置。
  12. 所定の範囲に含まれる色相を有する画面内の領域のうち、互いに隣接する領域を同一領域と判定することにより被写体領域を検出する検出手段を更に有する、ことを特徴とする請求項1から11のいずれか1項に記載の撮像装置。
  13. 前記設定手段により前記所定の時間間隔が設定された後に、前記間欠的な撮像を開始させるように撮像手段を制御する制御手段を更に有する、ことを特徴とする請求項1から12のいずれか1項に記載の撮像装置。
  14. 前記間欠的な撮像を行いながら前記設定手段によって新たな前記所定の時間間隔を設定し、該新たな前記所定の時間間隔で前記間欠的な撮像を行うように撮像手段を制御する制御手段を更に有する、ことを特徴とする請求項1から12のいずれか1項に記載の撮像装置。
  15. 前記間欠的な撮像によって得られた複数の画像を時系列順につなぎ合せたタイムラプス動画を生成する生成手段を更に有する、ことを特徴とする請求項1から14のいずれか1項に記載の撮像装置。
  16. 撮像手段を備え、所定の時間間隔で間欠的な撮像を行うことが可能な撮像装置の制御方法であって、
    前記撮像手段を用いて被写体を撮像することで得られる画像データの特徴量を取得する取得工程と、
    ユーザによるシーンの選択によらず、前記特徴量に基づいてシーンを自動的に判定する判定工程と、
    前記判定工程で判定された前記シーンに基づいて、前記所定の時間間隔を設定する設定工程と、を有し、
    前記設定工程では、前記判定工程で判定されたシーンとして、前記画像データの輝度により得られた明るさが低い第1のシーンの方が、前記第1のシーンよりも前記画像データの輝度により得られた明るさが高い第2のシーンよりも、前記所定の時間間隔を長く設定することを特徴とする撮像装置の制御方法。
  17. コンピュータを、請求項1から15のいずれか1項に記載の撮像装置の各手段として機能させるためのプログラム。
JP2016125916A 2016-06-24 2016-06-24 撮像装置およびその制御方法ならびにプログラム Active JP6723092B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016125916A JP6723092B2 (ja) 2016-06-24 2016-06-24 撮像装置およびその制御方法ならびにプログラム
US15/628,113 US10362207B2 (en) 2016-06-24 2017-06-20 Image capturing apparatus capable of intermittent image capturing, and control method and storage medium thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016125916A JP6723092B2 (ja) 2016-06-24 2016-06-24 撮像装置およびその制御方法ならびにプログラム

Publications (3)

Publication Number Publication Date
JP2017229033A JP2017229033A (ja) 2017-12-28
JP2017229033A5 JP2017229033A5 (ja) 2019-08-08
JP6723092B2 true JP6723092B2 (ja) 2020-07-15

Family

ID=60678177

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016125916A Active JP6723092B2 (ja) 2016-06-24 2016-06-24 撮像装置およびその制御方法ならびにプログラム

Country Status (2)

Country Link
US (1) US10362207B2 (ja)
JP (1) JP6723092B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4075779A3 (en) * 2016-12-23 2022-12-21 Magic Leap, Inc. Techniques for determining settings for a content capture device
CN112532857B (zh) * 2019-09-18 2022-04-12 华为技术有限公司 一种延时摄影的拍摄方法及设备
US11503204B2 (en) 2019-12-19 2022-11-15 Magic Leap, Inc. Gradient-based exposure and gain control techniques
JP7043707B2 (ja) * 2020-06-30 2022-03-30 エスゼット ディージェイアイ テクノロジー カンパニー リミテッド シーン認識装置、撮像装置、シーン認識方法、及びプログラム
CN112261294B (zh) * 2020-10-21 2022-08-26 维沃移动通信有限公司 一种拍摄方法、装置和电子设备
JP2022130038A (ja) * 2021-02-25 2022-09-06 キヤノン株式会社 撮像装置、制御方法、プログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002218309A (ja) 2001-01-16 2002-08-02 Toshiba Corp 撮影装置及び同装置のインターバル撮影方法
JP2003344891A (ja) * 2002-05-23 2003-12-03 Canon Inc 撮影モード自動設定カメラ
JP5895409B2 (ja) 2011-09-14 2016-03-30 株式会社リコー 撮像装置
CN103718172A (zh) * 2011-09-21 2014-04-09 株式会社尼康 图像处理装置、程序、图像处理方法及摄像装置
EP2760905B1 (en) * 2011-09-29 2017-11-15 Dow Global Technologies LLC Viscoelastic foam
DE102012200699A1 (de) * 2012-01-18 2013-07-18 Dieffenbacher GmbH Maschinen- und Anlagenbau Verfahren und Vorrichtung zur Herstellung eines dreidimensionalen Vorformlings aus einem Fasergelege im Zuge der Herstellung von faserverstärkten Formteilen
JP2013157918A (ja) * 2012-01-31 2013-08-15 Canon Inc 電子機器、電子機器の制御方法、プログラム及び記録媒体
JP6259185B2 (ja) * 2012-12-21 2018-01-10 キヤノン株式会社 撮像装置及びその制御方法、プログラム並びに記憶媒体
US9489979B2 (en) * 2013-08-06 2016-11-08 Casio Computer Co., Ltd. Image processing apparatus for time-lapse moving image, image processing method, and storage medium
JP5842882B2 (ja) * 2013-08-22 2016-01-13 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
JP5892134B2 (ja) * 2013-09-20 2016-03-23 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
JP2016048306A (ja) * 2014-08-27 2016-04-07 オリンパス株式会社 制御装置

Also Published As

Publication number Publication date
US20170374254A1 (en) 2017-12-28
US10362207B2 (en) 2019-07-23
JP2017229033A (ja) 2017-12-28

Similar Documents

Publication Publication Date Title
JP6723092B2 (ja) 撮像装置およびその制御方法ならびにプログラム
KR101155406B1 (ko) 화상 처리 장치, 화상 처리 방법 및 컴퓨터 기억 매체
US9098920B2 (en) Image capturing apparatus and method for controlling the same
US9191578B2 (en) Enhanced image processing with lens motion
JP6267502B2 (ja) 撮像装置、撮像装置の制御方法、及び、プログラム
JP4974812B2 (ja) 電子カメラ
JP6011569B2 (ja) 撮像装置、被写体追尾方法及びプログラム
WO2017080348A2 (zh) 一种基于场景的拍照装置、方法、计算机存储介质
JP6391304B2 (ja) 撮像装置、制御方法およびプログラム
JP6752685B2 (ja) 撮像装置、撮像方法およびプログラム
JP6762777B2 (ja) 撮像装置およびその制御方法ならびにプログラム
JP2014179920A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
US20230386166A1 (en) Image processing apparatus and electronic apparatus
JP5515492B2 (ja) 画像処理装置及び方法
JP5183441B2 (ja) 撮像装置
JP5871175B2 (ja) 領域抽出装置、撮像装置、及び領域抽出プログラム
JP5629562B2 (ja) 画像処理装置及びその制御方法、及びプログラム
JP2010050746A (ja) 撮像装置及びその制御方法
JP5631181B2 (ja) 画像処理装置及びその制御方法、及びプログラム
JP2006039254A (ja) カメラ
JP2017195442A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2017069673A (ja) 撮像装置、撮像方法および撮像プログラム
JP6322955B2 (ja) 撮像装置
JP6326840B2 (ja) 画像処理装置、撮像装置及び画像処理プログラム
JP5675326B2 (ja) 画像処理装置、主被写体の選択方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190620

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190620

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200217

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200623

R151 Written notification of patent or utility model registration

Ref document number: 6723092

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151