JP2021034941A - 撮像制御装置、撮像装置、制御方法、及びプログラム - Google Patents

撮像制御装置、撮像装置、制御方法、及びプログラム Download PDF

Info

Publication number
JP2021034941A
JP2021034941A JP2019154972A JP2019154972A JP2021034941A JP 2021034941 A JP2021034941 A JP 2021034941A JP 2019154972 A JP2019154972 A JP 2019154972A JP 2019154972 A JP2019154972 A JP 2019154972A JP 2021034941 A JP2021034941 A JP 2021034941A
Authority
JP
Japan
Prior art keywords
evaluation
image
evaluation image
estimated
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019154972A
Other languages
English (en)
Other versions
JP7325266B2 (ja
Inventor
稔 坂井田
Minoru Sakaida
稔 坂井田
寧司 大輪
Yasushi Owa
寧司 大輪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019154972A priority Critical patent/JP7325266B2/ja
Priority to US17/001,839 priority patent/US11050928B2/en
Publication of JP2021034941A publication Critical patent/JP2021034941A/ja
Application granted granted Critical
Publication of JP7325266B2 publication Critical patent/JP7325266B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】評価画像の取得の停止期間について、停止期間外に取得される評価値との一貫性がより高い評価値を取得することを可能にする技術を提供する。【解決手段】撮像及び現像のうちの少なくとも一方を制御するための評価値の取得に用いる評価画像を、撮像手段を用いて繰り返し取得するように制御する第1の制御手段と、前記評価画像に基づいて前記評価値を取得する取得手段と、前記評価画像の取得を一時的に停止して、停止期間に前記撮像手段を用いて記録用の静止画を取得するように制御する第2の制御手段と、前記停止期間外に取得された2以上の評価画像に基づいて、前記停止期間に対応する推定評価画像を生成する生成手段と、を備え、前記取得手段は、前記停止期間については、前記推定評価画像に基づいて前記評価値を取得することを特徴とする撮像制御装置を提供する。【選択図】図4

Description

本発明は、撮像制御装置、撮像装置、制御方法、及びプログラムに関する。
撮像装置には、撮影した画像を解析することで、撮影に必要となる様々な情報(評価値)を取得する機能を有するものがある。撮影に必要となる様々な情報(評価値)とは、例えば、オートフォーカス、露出、ホワイトバランス、動き、被写体などに関する情報である。一般に、評価値の取得に用いる画像(以下、「評価画像」と呼ぶ)は、60フレーム/秒などの一定間隔で撮像され、撮像装置は、評価画像毎に評価値を取得し、求めた評価値に基づいて、静止画の撮影を行う。
しかし、撮像装置が撮像センサを1つしか持たない場合、撮像センサは静止画データ出力と評価画像データ出力の両方を行う必要があり、静止画用駆動を行っている間には、評価画像用駆動を行うことはできない。連写撮影を行う場合、レリーズのタイミングと連写間隔によっては、静止画用駆動時間が評価画像用駆動時間に重なることとなる。その結果、評価画像の出力が得られないため、静止画撮影中に評価値を取得することができない。
特許文献1は、表示用の出力と静止画用の出力の両方を切り替えて表示に利用する技術を開示している。この技術を利用すれば、連写時に静止画用の出力を縮小するなどして評価画像を生成することにより、静止画撮影中に評価値取得を行うことが可能となる。これにより、連写中においても、高頻度で評価値取得を行うことができる。
特開2012−44566号公報
しかしながら、一般的に、表示用の撮影と静止画用の撮影とでは、露出設定などの撮影条件が異なる基準に基づいて決定される。そのため、特許文献1のように静止画用の出力から評価画像を生成する場合、静止画撮影中とそれ以外の期間とで評価画像の画質が不連続に変化し、一貫性のある評価値を継続的に取得することができない。
本発明はこのような状況に鑑みてなされたものであり、評価画像の取得の停止期間について、停止期間外に取得される評価値との一貫性がより高い評価値を取得することを可能にする技術を提供することを目的とする。
上記課題を解決するために、本発明は、撮像及び現像のうちの少なくとも一方を制御するための評価値の取得に用いる評価画像を、撮像手段を用いて繰り返し取得するように制御する第1の制御手段と、前記評価画像に基づいて前記評価値を取得する取得手段と、
前記評価画像の取得を一時的に停止して、停止期間に前記撮像手段を用いて記録用の静止画を取得するように制御する第2の制御手段と、前記停止期間外に取得された2以上の評価画像に基づいて、前記停止期間に対応する推定評価画像を生成する生成手段と、を備え、前記取得手段は、前記停止期間については、前記推定評価画像に基づいて前記評価値を取得することを特徴とする撮像制御装置を提供する。
本発明によれば、評価画像の取得の停止期間について、停止期間外に取得される評価値との一貫性がより高い評価値を取得することが可能となる。
なお、本発明のその他の特徴及び利点は、添付図面及び以下の発明を実施するための形態における記載によって更に明らかになるものである。
第1の実施形態に係るデジタルカメラ100の構成を示すブロック図。 第1の実施形態に係る、静止画連写中の評価値取得に関するタイミングチャート。 推定評価画像生成処理のための学習モデルの概要を示す図。 第1の実施形態に係る静止画撮影処理のフローチャート。 推定評価画像生成処理の入出力画像のタイミングを示す図。 第2の実施形態に係るデジタルカメラ600の構成を示すブロック図。 第2の実施形態に係る、静止画連写中の評価値取得に関するタイミングチャート。 第2の実施形態に係る静止画撮影処理のフローチャート。 第3の実施形態に係るデジタルカメラ900の構成を示すブロック図。 第3の実施形態に係る、静止画連写中の評価値取得に関するタイミングチャート。 第3の実施形態に係る静止画撮影処理のフローチャート。 推定評価画像調整部912の詳細な構成を示すブロック図。
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものでない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
[第1の実施形態]
図1は、撮像制御装置の一例であるデジタルカメラ100の構成を示すブロック図である。なお、本実施形態の撮像制御装置はデジタルカメラのような撮像装置に限定されず、デジタルビデオカメラ、スマートフォン、カメラ付き携帯電話、又は車載カメラなどであってもよい。
デジタルカメラ100は、センサ113、記録画像処理部101、表示部102、表示デバイス103、制御部104、データ転送部105、バス106、一時記録部107、記録部108、及び表示画像処理部109を備える。また、デジタルカメラ100は、評価値処理部110、評価画像推定部111、及びセンサ113からのアナログ信号をデジタル信号に変換するAD変換器(不図示)を備える。また、デジタルカメラ100は、画像データを例えばJPEG形式やMPEG形式などに圧縮したり、圧縮されたデータを伸張したりする圧縮伸張部(不図示)を備える。また、デジタルカメラ100は、JPEG形式やMPEG形式の画像データを外部メディア(不図示)に記録する外部記録部(不図示)を備える。
センサ113は、受光した被写体像を電気信号に変換して画像データを作成するCCDやCMOSセンサ等の撮像素子である。センサ113の画像データは、データ転送部105を介して一時記録部107へ書き込まれる。
記録画像処理部101は、記録用の静止画を生成する。記録画像処理部101は、画素補正、黒レベル補正、シェーディング補正、傷補正、ホワイトバランス調整、倍率色収差補正、ガンマ補正、輝度・色生成処理、幾何変形、ノイズリダクション、拡大縮小などの複数の画像処理を実行する。また、記録画像処理部101は、画像データに対して適切な画像処理を施す。また、記録画像処理部101は、データ転送部105と接続され、データ転送部105から画像データを取得し、画像処理した処理結果を、データ転送部105を介して一時記録部107へ書き出す。
表示画像処理部109は、ライブビュー画像(LV画像)を生成する。表示画像処理部109は、記録画像処理部101と同様に、複数の画像処理を実行する機能を有するが、表示周期中にLV画像生成を完了させる必要があるため、記録画像処理部101よりも簡易かつ高速な画像処理を施すように構成される。また、表示画像処理部109は、データ転送部105と接続され、データ転送部105から画像データを取得し、画像処理した処理結果を、データ転送部105を介して表示部102へ出力する。また、表示画像処理部109は、縮小画像処理部(不図示)を有し、生成したLV画像をQVGAなどのサイズに縮小して評価画像を生成し、生成した評価画像をデータ転送部105を介して評価値処理部110へ出力する。
なお、縮小画像処理部は、より評価画像の生成に特化した、専用の処理部として構成されもよい。また、本実施形態では、記録画像処理部101と表示画像処理部109とを別々の画像処理部として説明したが、例えば、共通の画像処理部により、LV画像処理非実施期間中に静止画画像処理を行うような、時分割処理を行う構成を採用してもよい。
評価値処理部110は、データ転送部105と接続され、表示画像処理部109から出力される評価画像、又は評価画像推定部111から出力される推定評価画像に基づいて、評価値を取得する。
評価値は、撮像及び現像のうちの少なくとも一方を制御するための情報であり、例えば、合焦状態、露出、ホワイトバランス、被写体の種類、及び被写体の動きのうちのいずれかを示す情報である。また、評価値処理部110は、2種類以上の評価値を取得してもよい。例えば、評価値処理部110は、2種類の評価値として、被写体の種類を示す情報、及び被写体の追跡に用いる動きベクトル(被写体の動きを示す情報)を取得する。この場合、評価値処理部110は、評価画像又は推定評価画像から顔などの被写体を検出する処理(被写体検出処理)、及び、検出した被写体の動きベクトルを検出する処理(動きベクトル検出処理)を行う。被写体検出処理及び動きベクトル検出処理には、任意の既知の技術を利用することができる。
なお、本実施形態では、評価値処理部110は、表示周期と同周期で評価値取得処理を実行するものとするが、異なる周期で実行してもよい。
評価画像推定部111は、評価値処理部110に入力する推定評価画像を生成する処理を行う。推定評価画像生成処理は、学習モデルに基づいて行われる。
図3は、推定評価画像生成処理のための学習モデルの概要を示す図である。学習モデルとしては、既知のニューラルネットワークモデルを利用することができる。入力層に、時間方向に連続した2枚のQVGAサイズの画像を入力すると、出力層からは、入力画像の次のフレームに対応するQVGAサイズの画像が出力される。学習フェーズにおいては、学習中のモデルは、学習モデル303、学習データ画像301、及び教師データ画像302によって構成される。学習モデル303は、既に取得した複数の評価画像から、次の評価画像を推定することを目的とする。従って、学習データ画像301と教師データ画像302としては、時間方向に連続した評価画像が用いられる。例えば、QVGAサイズの動画像において、フレームNとフレームN+1を学習データ画像301とした場合、教師データ画像302はフレームN+2となるよう学習が行われる。本実施形態において、学習フェーズは、撮影中には行わず、事前に学習を済ませておき、各エッジの重みデータなどを係数データとして、記録部108に保持している。そして、デジタルカメラ100の起動時、又は動作モード変更時などにおいて、記録部108に保持した係数データを、データ転送部105を介して、評価画像推定部111内の学習モデル303に設定する。学習モデル303に係数データを設定した後、出力フェーズに移行する。出力フェーズにおいては、学習モデル303は、データ転送部105を介して入力される時間方向に連続した2枚の評価画像304より、次フレームに相当する推定評価画像305を生成し、データ転送部105を介して、評価値処理部110に出力する。
なお、図3の例では、推定評価画像の生成は2つの評価画像に基づいて行われるが、2つより多くの評価画像に基づいて推定評価画像を生成する構成を採用してもよい。
表示部102は、データ転送部105と接続され、表示画像処理部109で処理した画像データをデータ転送部105を介して取得する。そして、表示部102は、取得した画像データに対して複数の処理を実行し、表示デバイス103へ表示画像を転送する。複数の処理には、例えば、表示画像を表示デバイス103のサイズに合わせるために表示画像の周辺に固定色(例えば黒塗り)の画素を追加する処理が含まれてもよい。また、複数の処理には、例えば、表示データへ撮影時間などを埋め込む処理(所謂、OSD(On−Screen Display)画像を重畳する処理)、及び、表示デバイス103に合わせたフォーマット変換処理などが含まれてもよい。
表示デバイス103は、例えば、LCD(Liquid Crystal Display)やEVFなどであり、表示部102から入力された画像の表示を行う。
制御部104は、デジタルカメラ100の動作制御を司るマイクロコンピュータなどで構成され、デジタルカメラ100を構成する各機能ブロックに対して様々な指示を行い、各種の制御処理を実行する。制御部104は、バス106を介して接続された記録画像処理部101、表示部102、データ転送部105、一時記録部107、記録部108を制御する。マイクロコンピュータは、記録部108に記録されたプログラムを実行することで、本実施形態の各処理を実現する。
データ転送部105は、データ転送を行う複数のDirect Memory AccessコントローラのWRDMAC及びRDDMACで構成される。画像データは、WRDMACによってバス106に出力され、一時記録部107に一時記憶される。一時記録部107に記憶された画像データは、RDDMACによってバス106に出力され、データ転送部105に接続されている記録画像処理部101、表示部102へ出力される。
バス106は、システムバス及びデータバスから構成され、各々独立したバス構成となっている。
一時記録部107は、メモリ制御部及びメモリから構成され、制御部104又はデータ転送部105からの指示に応じて、メモリへのデータの書き込み、及びメモリからのデータの読み出しを行う。また、メモリは、所定枚数の静止画像や所定時間の動画像、音声等のデータや制御部104の動作用の定数、プログラム等を格納するのに十分な記憶容量を備える記憶装置であり、DRAMなどから構成される。メモリは、複数のメモリから構成されることも可能である。
記録部108は、不揮発性メモリ制御部及び不揮発性メモリから構成される。不揮発性メモリ制御部は、制御部104からの指示に応じて、不揮発性メモリにデータを書き込んだり、不揮発性メモリからデータを読み出したりする。不揮発性メモリは、電気的に消去・記録可能なメモリであり、例えばEEPROM等が用いられる。不揮発性メモリには、制御部104の動作用の定数、プログラム、評価画像推定部111に設定する事前に学習済の係数データ等が記憶される。
図2は、静止画連写中の評価値取得に関するタイミングチャートである。図2において、縦方向に配置された各項目は各種のタイミング信号又は処理タイミングを示し、横方向は時間に対応する。以下、各項目について説明する。
「撮像V同期」は、評価画像を取得するための撮像の垂直同期信号のタイミングを示しており、例えば60フレーム/秒の周期(所定の周期)で同期信号が発生する(期間T1が1/60秒に相当する)。ここで取得される評価画像は、LV画像を兼ねる。従って、図2の例では、LV表示と評価値取得とが同じ周期で行われる。しかしながら、LV表示と評価値取得とは異なる周期で行われてもよい(例えば、評価値の取得を120フレーム/秒に高速化してもよい)。期間T4は、後述する記録用の静止画を読み出す期間と重なっているために評価画像を取得することができない期間(評価画像の取得が一時的に停止する期間)を示している。
「静止画同期」は、記録用の静止画(以下、単に「静止画」と呼ぶ場合もある)を読み出すタイミングを示し、連写間隔T3毎に同期信号が発生する。また、タイミング200は、ユーザによるシャッタボタン押下のタイミングであり、レリーズタイムT2の経過後に、静止画同期信号が発生している。連写間隔T3については、静止画撮影におけるセンサ出力画像期間に応じて、調整がなされる。
「センサ出力画像」は、センサ113からの画像読み出しの開始及び終了のタイミングと、センサ切り替え時間とを示す。評価画像A1〜A10を総称して評価画像201と呼び、静止画B1〜B2を総称して静止画203と呼ぶ。格子枠202は、評価画像201から静止画203へのセンサ113の切り替え時間、格子枠204は静止画203から評価画像201へのセンサ113の切り替え時間である。また、評価画像201と静止画203とで時間の長さが異なるのは、評価画像201と静止画203とで画素数及び露光時間が異なるからである。
「推定評価画像」は、評価画像推定部111による推定評価画像生成処理の開始と終了のタイミングを示す。推定評価画像生成処理は、期間T4で示される評価画像201の取得の停止期間中の、撮像V同期毎に実行される。推定評価画像C1〜C6を総称して推定評価画像205と呼ぶ。
図5は、推定評価画像生成処理の入出力画像のタイミングを示す図であり、評価画像推定部111に入力1と入力2の画像が入力され、その後、推定評価画像が出力されることを示している。前述の通り、一時記録部107に保持された時間方向に連続した2枚の評価画像は、データ転送部105を介して、評価画像推定部111に入力される。図5の例では、まず、1枚目の推定評価画像C1を生成する際には、評価画像A2及び評価画像A3が入力される。次に、2枚目の推定評価画像C2を生成する際には、評価画像A3及び推定評価画像C1が入力される。3枚目の推定評価画像C3を生成する際には、推定評価画像C1及び推定評価画像C2が入力される。本実施形態では、2枚目と3枚目の推定評価画像C2〜C3を生成する際には、直前の評価画像が1枚又は2枚不足するため、不足分の評価画像の代わりに直前の推定評価画像を入力する。
「評価値取得処理」は、評価値処理部110による評価値取得処理の開始と終了のタイミングを示す。評価値取得処理は、「撮像V同期」の周期で実行される。評価画像201の取得の停止期間であっても、評価値取得処理の実行は停止しない。評価画像201の取得可能期間(図2において評価画像A1〜A10が取得される期間)においては、評価値処理部110は、評価画像201に基づいて評価値(評価値D1〜D10)を取得する。一方、評価画像201の取得の停止期間については、評価値処理部110は、評価画像推定部111で生成される推定評価画像205(推定評価画像C1〜C6)に基づいて評価値(評価値E1〜E6)を取得する。
なお、本実施形態の評価画像推定部111は、評価画像201の取得の停止期間よりも前に取得された評価画像から、停止期間に対応する評価画像を予測する(推定評価画像を生成する)ように構成されているが、本実施形態はこの構成に限定されない。評価値取得のタイミングが遅延してもよい場合は、例えば、停止期間の前後に取得された2つの評価画像に基づく補間処理により停止期間に相当する補間画像(推定評価画像)を生成し、その補間画像から評価値を取得する構成を採用してもよい。
「表示画像処理」は、表示画像処理部109の画像処理の開始と終了のタイミングを示す。センサ113から読み出された評価画像201(評価画像A1〜A10)は、一時記録部107に記録され、データ転送部105を介して表示画像処理部109へ転送される。表示画像処理部109は、画像処理により生成した表示画像F1〜F10を、データ転送部105を介して再び一時記録部107に記録する。また、表示画像F1〜F10は、センサ113からの画像データの一画面全てが一時記録部107に記録される前に、表示画像処理部109が処理を開始していることを示している。データ転送部105は、センサ113から読み出された画像データのみを表示画像処理部109で転送するように制御している。つまり、表示画像処理部109は、センサ113から読み出された画像データが一時記録部107へ記憶される前に画像データを読み出すことがないように制御される。また、期間T4で示される、評価画像201の取得の停止期間においては、表示画像処理部109は処理を行わない。
また、図示は省略するが、記録画像処理部101の画像処理の開始と終了のタイミングに相当する「記録画像処理」も存在する。センサ113から読み出した静止画B1〜B2は、一時記録部107に記録され、データ転送部105を介して記録画像処理部101へ入力される。記録画像処理部101は、処理された静止画を、データ転送部105を介して再び一時記録部107に記録する。記録画像処理部101は、センサ113からの画像データの一画面全てが一時記録部107に記録されてから静止画B1〜B2の処理を行う。或いは、システムとして帯域が問題とならないようであれば、静止画B1〜B2についても表示画像F1〜F10と同じように、センサ113からの読み出しの最中に記録画像処理部101が読み出しを行っても構わない。
また、図示は省略するが、表示デバイス103への表示を開始するための垂直同期信号のタイミングに相当する「表示V同期」も存在する。例えば、1秒間に60フレームの画像を表示するタイミング信号が存在する。なお、「表示V同期」は、システムとして、センサ出力画像から表示デバイス103へ表示をする最も短いタイミングとなるように構成される。つまり、「撮像V同期」から一定期間遅れて「表示V同期」が発生することになる。
「表示処理」は、表示部102で処理した画像を表示デバイス103へ表示するタイミングを示す。表示画像F3は、4回連続して表示されている。2回目から4回目の表示タイミングは、期間T4で示される評価画像201の取得の停止期間に相当し、リアルタイムで取得された表示画像(LV画像)が存在しない。そのため、この期間の直前に取得された表示画像F3が繰り返し表示される。これは、表示画像F8についても同様である。
図4は、静止画撮影処理のフローチャートである。本フローチャートの各ステップの処理は、特に断らない限り、制御部104が記録部108に格納されたプログラムに従ってデジタルカメラ100の各部を制御することにより実現される。静止画撮像指示(例えば、シャッタボタンの押下)が検出され(図2のタイミング200参照)、最初の静止画同期信号が検出されると、本フローチャートの処理が開始する。図2のタイミングチャートにおける「センサ出力画像」、「推定評価画像」、及び「評価値取得処理」の制御は、本フローチャートに従って実行される。
なお、本フローチャートの処理開始前は、制御部104は、後述するS408及びS409と同様の処理を繰り返すことにより、評価画像及び評価値の取得を繰り返し実行する(例えば、図2の評価画像A1〜A3及び評価値D1〜D3)。
S401で、制御部104は、センサ113の駆動モードを、評価画像取得用の駆動モードから静止画撮影用の駆動モードへと切り替える(例えば、図2の格子枠202)。
S402で、制御部104は、1枚目の静止画を撮像する(例えば、図2の静止画B1)。
S403で、制御部104は、センサ113の駆動モードを、静止画撮影用の駆動モードから評価画像取得用の駆動モードへと切り替える(例えば、図2の格子枠204)。
S401〜S403の処理と並行して、S404〜S406の処理が実行される。S404及びS405の処理は、S406において静止画撮像が完了したと判定されるまで、撮像V同期の周期で繰り返し実行される。
具体的には、S404で、制御部104は、推定評価画像を生成する(例えば、図2の推定評価画像C1〜C3)。図5を参照して前述した通り、推定評価画像は、撮像V同期の直前の2回のタイミングに対応する評価画像又は推定評価画像に基づいて生成される。
S405で、制御部104は、推定評価画像に基づいて評価値を取得する(例えば、図2の評価値E1〜E3)。
S406で、制御部104は、静止画撮像が完了したか否かを判定する。静止画撮像の完了とは、S403の処理が完了したことを指す。静止画撮像が完了した場合、処理はS407へ進み、そうでない場合、処理はS404へ戻る。
S407で、制御部104は、制御部104は、静止画の連写が行われているか否かを判定する。例えば、制御部104は、シャッタボタンの押下が継続している場合、静止画の連写が行われていると判定し、そうでない場合、静止画の連写が行われていないと判定する。静止画の連写が行われている場合、処理はS408へ進み、そうでない場合、本フローチャートの処理は終了する。
S408及びS409の処理は、S410において次の静止画撮像タイミングになったと判定されるまで、撮像V同期の周期で繰り返し実行される。
具体的には、S408で、制御部104は、評価画像を撮像する(例えば、図2の評価画像A4〜A8)。
S409で、制御部104は、評価画像に基づいて評価値を取得する(例えば、図2の評価値D4〜D8)。
S410で、制御部104は、次の静止画撮像タイミングになったか否かを判定する。次の静止画撮像タイミングは、例えば、直前の静止画撮像タイミングから期間T3が経過したタイミングである。次の静止画撮像タイミングになった場合、処理はS401及びS404へ進み、再び、静止画の生成、推定評価画像の生成、及び評価値の取得などが行われる(例えば、図2の静止画B2、推定評価画像C4〜C6、評価値E4〜E6)。次の静止画撮像タイミングになっていない場合、処理はS408へ戻る。
なお、S405及びS409において、制御部104は、2種類以上の評価値を取得してもよい。仮に、評価画像の取得の停止期間外に取得された評価値に基づいて停止期間に対応する評価値を取得(推定)する構成を採用した場合、2種類以上の評価値を取得するためには各種類に対応する推定アルゴリズムを用意する必要がある。即ち、取得する評価値の種類の数の増加に伴って必要な推定アルゴリズムの数も増加する。これに対し、本実施形態では、推定評価画像を生成するための推定アルゴリズムを用意する必要はあるが、評価画像と同様に推定評価画像からも2種類以上の評価値を取得可能であるため、必要な推定アルゴリズムの数の増大を抑制することができる。
以上説明したように、第1の実施形態によれば、デジタルカメラ100は、評価画像の取得の停止期間外に取得された2以上の評価画像に基づいて、停止期間に対応する推定評価画像を生成する。そして、デジタルカメラ100は、停止期間については、推定評価画像に基づいて評価値を取得する。これにより、評価画像の取得の停止期間について、停止期間外に取得される評価値との一貫性がより高い評価値を取得することが可能となる。
また、図2に示されるように、デジタルカメラ100は、評価画像を撮像V同期の周期(所定の周期)で繰り返し取得し、推定評価画像が評価画像の取得の停止期間内の撮像V同期の周期に同期したタイミングに対応するように、推定評価画像の生成を行う。従って、評価画像の取得の停止期間の内外いずれにおいても同じ周期に同期したタイミングに対応する評価値が取得可能であり、評価値を用いる制御の一貫性が向上する。
[第2の実施形態]
図6は、第2の実施形態に係るデジタルカメラ600の構成を示すブロック図である。推定評価画像判定部612は、評価画像推定部111で生成された推定評価画像と、同一時刻に撮像された評価画像とを比較し、推定評価画像の使用可否を判定する処理を行う。
具体的には、推定評価画像判定部612は、データ転送部105を介して入力された評価画像と推定評価画像の画素毎の差分を求め、その総和を算出する。総和の算出方法としては、差分値に対して下位の数ビットの値を0クリップする、差分値をシフトや除算処理などで小さくする、などして計算量を削減してから総和を求める方法を用いてもよい。次に、推定評価画像判定部612は、求めた総和を閾値と比較する。閾値は、実際に撮像された評価画像に対する、推定評価画像の許容誤差を示しており、閾値より小さければ、推定評価画像を評価値の取得に使用してもよいと判定する。
閾値は、静止画撮像の駆動期間に基づいて決定される。例えば、静止画の露光時間が長くなるなどして静止画撮像の駆動期間が長い場合は、評価画像が取得できない期間が長期化するため、推定評価画像の生成回数が増加し、蓄積誤差が大きくなる。そこで、閾値を小さくし、推定評価画像の誤差が小さい状態で長期間の評価値を取得できるよう制御する。逆に言えば、静止画撮像の駆動期間の開始前に既に誤差が閾値を超えている場合には、推定評価画像の生成を断念することにより、誤差の大きい推定評価画像に基づいて誤差の大きい評価値を取得してしまう事態を回避することができる。
推定評価画像判定部612の判定結果は、バス106を介して、制御部104に出力される。制御部104は、判定結果に基づいて、静止画撮像中における、評価画像推定部111及び評価値処理部110の制御を切り替える。
図7は、第2の実施形態に係る、静止画連写中の評価値取得に関するタイミングチャートである。図7において、縦方向に配置された各項目は各種のタイミング信号又は処理タイミングを示し、横方向は時間に対応する。以下、図2のタイミングチャートと異なる点について説明する。
「推定評価画像」は、評価画像推定部111による推定評価画像生成処理の開始と終了のタイミングを示す。本実施形態では、第1の実施形態(図2)と異なり、静止画の連写中は、評価画像が取得される期間であっても、撮像V同期毎に推定評価画像生成処理が実行される(推定評価画像C4〜C8参照)。なお、連写開始前(評価画像A1〜A3のタイミング)についても推定評価画像生成処理を実行する構成を採用してもよい。
「推定評価画像判定」は、推定評価画像判定部612による推定評価画像判定処理の判定結果出力のタイミングを示す。推定評価画像判定処理は、評価画像201の撮像が完了し、かつ同一時刻の推定評価画像205の生成が完了してから開始する。図7の例では、静止画B1の撮像完了直後の評価画像A4の撮像と、同一時刻に対応する推定評価画像C4の生成とが完了してから、推定評価画像判定処理が開始される。これ以降は、期間T4’以外の、撮像V同期の周期で、推定評価画像判定処理が実施される。図7の例では、評価画像A7と推定評価画像C7との差分、及び評価画像A8と推定評価画像C8との差分が閾値を超えてしまい、判定結果が「NG」となっている。
なお、推定評価画像C4は、推定評価画像C2〜C3に基づいて生成され、推定評価画像C5は、推定評価画像C3及び評価画像A4に基づいて生成され、推定評価画像C6は、評価画像A4〜A5に基づいて生成される。即ち、学習モデル303に対する入力1に対応するタイミングに評価画像及び推定評価画像の両方が存在する場合には、評価画像が入力1として用いられ、推定評価画像のみが存在する場合には推定評価画像が入力1として用いられる。この点は、入力2についても同様である。
「評価値取得処理」は、評価値処理部110による評価値取得処理の開始と終了のタイミングを示す。本実施形態では、第1の実施形態(図2)と異なり、2枚目以降の静止画撮像期間(期間T4’)においては、直前の(推定評価画像C8のタイミングの)推定評価画像判定が「NG」の場合には評価値取得処理が行われない。即ち、図7において斜線で示された評価値E4〜E6については取得が行われない。一方、推定評価画像判定が「OK」の場合には、第1の実施形態(図2)と同様に評価値の取得が行われる。
なお、前述の通り、連写開始前(評価画像A1〜A3のタイミング)についても推定評価画像生成処理を実行する構成を採用してもよい。この場合、連写開始前(評価画像A1〜A3のタイミング)についても推定評価画像判定を行い、1枚目の静止画撮像期間(期間T4)についても直前の判定結果に応じて評価値取得処理を実施するか否かを切り替える構成を採用してもよい。
図8は、第2の実施形態に係る静止画撮影処理のフローチャートである。本フローチャートの各ステップの処理は、特に断らない限り、制御部104が記録部108に格納されたプログラムに従ってデジタルカメラ100の各部を制御することにより実現される。静止画撮像指示(例えば、シャッタボタンの押下)が検出され(図7のタイミング200参照)、最初の静止画同期信号が検出されると、本フローチャートの処理が開始する。図7のタイミングチャートにおける「センサ出力画像」、「推定評価画像」、「推定評価画像判定」、及び「評価値取得処理」の制御は、本フローチャートに従って実行される。
なお、S801〜S810の処理は、図4のS401〜S410の処理と同様である。また、本フローチャートの処理開始前は、制御部104は、S808及びS809と同様の処理を繰り返すことにより、評価画像及び評価値の取得を繰り返し実行する(例えば、図7の評価画像A1〜A3及び評価値D1〜D3)。
S800で、制御部104は、推定評価画像判定結果(判定フラグ)の初期値を指定する。本実施形態においては、1枚目の静止画撮像では推定評価画像による評価値取得処理を行うため、初期値はOKである。
S811〜S815の処理は、S808〜S809の処理と並行して、撮像V同期の周期で繰り返し実行される。S811で、制御部104は、推定評価画像を生成する(例えば、図7の推定評価画像C4〜C8)。
S812で、制御部104は、S808において取得された評価画像とS811において生成された推定評価画像との間の差分総和を取得する。S813で、制御部104は、差分総和が閾値以下であるか否かを判定する。差分総和が閾値以下の場合、処理はS814に進み、制御部104は、判定フラグをONに設定する(例えば、図7において評価画像A4〜A6及び推定評価画像C4〜C6に対応する推定評価画像判定)。差分総和が閾値を超える場合、処理はS815に進み、制御部104は、判定フラグをNGに設定する(例えば、図7において評価画像A7〜A8及び推定評価画像C7〜C8に対応する推定評価画像判定)。
S816で、制御部104は、判定フラグがOKであるか否かを判定する。判定フラグがOKの場合、処理はS805に進む。判定フラグがNGの場合、処理はS805をスキップしてS806に進む(即ち、推定評価画像に基づく評価値の取得が行われない)。なお、1枚目の静止画撮像期間については、判定フラグの値はS800において設定された値であり、2枚目以降の静止画撮像期間については、判定フラグの値はS814又はS815において設定された値である。
なお、判定フラグがNGであっても、評価値取得処理(S805)自体は実施し、その後の制御部104による各種制御(図8において不図示)において、評価値を使用しないように制御するという構成を採用してもよい。
また、図8の例では、S804における推定評価画像の生成がS816における判定の前に行われているが、S804の位置をS816とS805の間の位置へ移動させてもよい。即ち、判定フラグがNGであり推定評価画像に基づく評価値の取得が行われない場合には推定評価画像の生成自体も行わない構成を採用してもよい。この場合、図7において、推定評価画像C9〜C11は生成されない。
また、本実施形態においては、期間T4’以外の撮像V同期の周期で、必ず推定評価画像判定処理を実施する構成について説明したが、本実施形態はこの構成に限定されない。例えば、推定評価画像判定処理にて判定がNGとなった後は、その静止画連写期間中(シャッタボタンの押下継続中)においては、以降の推定評価画像による評価値取得処理を実施しない構成を採用してもよい。この構成を採用する場合、図8のS814の処理は実行されず、S813において差分総和が閾値以下と判定された場合には、処理はS813からS810へと進む。
なお、本実施形態において、推定評価画像による評価値取得を非実施とした場合、静止画撮像中の評価値取得処理を別の方法で実現する構成を追加してもよい。
以上説明したように、第2の実施形態によれば、デジタルカメラ100は、評価画像の取得の停止期間の前の所定のタイミングに対応する推定評価画像を、所定のタイミングより前に取得された2以上の評価画像に基づいて生成する。所定のタイミングに対応する推定評価画像とは、例えば図7の推定評価画像C8であり、所定のタイミングより前に取得された2以上の評価画像とは、例えば図7の評価画像A6〜A7である。そして、デジタルカメラ100は、所定のタイミングに対応する推定評価画像(例えば、図7の推定評価画像C8)と所定のタイミングに取得された評価画像(例えば、図7の評価画像A8)との間の差が閾値を超えるか否かを判定する。これにより、評価画像の取得の停止期間に対応する推定評価画像の誤差を予測することが可能となり、停止期間に対応する評価値が使用されるか否かを適切に切り替えることが可能となる。
[第3の実施形態]
図9は、第3の実施形態に係るデジタルカメラ900の構成を示すブロック図である。推定評価画像調整部912は、評価画像推定部111で生成された推定評価画像と、同一時刻に撮像された評価画像とを比較し、そのずれ量に基づいた調整値を算出することで、静止画撮像中に生成する推定評価画像を変形する処理を実施する。
図12は、推定評価画像調整部912の詳細な構成を示すブロック図である。推定評価画像調整部912は、調整値算出部1201、及び調整処理部1202を含む。調整値算出部1201は、データ転送部105を介して入力された評価画像及び推定評価画像に基づいて調整値を算出する。調整値とは、画素単位、又は複数の画素で構成された矩形領域(テンプレート)単位で求められる動きベクトル値であり、推定評価画像に対して評価画像がどれだけ移動しているかを示す情報である。調整値は、既知の動きベクトル値算出手法、例えば、テンプレートマッチング方式、などで求められる。従って、調整値は、評価画像と推定評価画像との差に基づいている。求めた調整値は、データ転送部105を介して、一時記録部107に記録される。また、調整値は、調整値算出部1201の入力にも使用される。過去フレームの調整値をフィードバックさせることで、急激な調整値の変化を抑制することができる。なお、現フレームの評価画像と推定評価画像のみで、調整値を算出する構成を採用してもよい。
調整処理部1202は、データ転送部105を介して入力された推定評価画像を、同じくデータ転送部105を介して入力された調整値に基づいて変形する処理を行う。調整処理部1202は、データ転送部105を介して、変形処理した推定評価画像を一時記録部107に記録する。調整処理部1202は、既知の幾何変形処理回路で構成されており、調整値に基づいて、各画素を変形(移動)させる。また、制御部104は、静止画連写中において、推定評価画像調整部912が実行する処理を、調整値算出処理(評価画像が取得される期間の場合)と推定評価画像の調整処理(静止画の撮像時の場合)との間で切り替える制御を行う。
図10は、第3の実施形態に係る、静止画連写中の評価値取得に関するタイミングチャートである。図10において、縦方向に配置された各項目は各種のタイミング信号又は処理タイミングを示し、横方向は時間に対応する。以下、図2及び図7のタイミングチャートと異なる点について説明する。
「推定評価画像調整値」は、推定評価画像調整部912の出力の1つである、調整値G4〜G13の出力タイミングを示す。調整値G4〜G13を総称して調整値1007と呼ぶ。調整値算出処理は、センサ出力画像における評価画像201の撮像が完了し、かつ同一時刻の推定評価画像205の生成が完了してから開始する。図10の例では、静止画B1の撮像完了直後の評価画像A4の撮像と、同一時刻に対応する推定評価画像C4の生成とが完了してから、調整値算出処理が開始される。これ以降は、期間T4’以外の、撮像V同期の周期で、調整値算出処理が実施される。図10の例では、まず、評価画像A4と推定評価画像C4とに基づいて最初の調整値G4が生成され、次に、評価画像A5、推定評価画像C5、及び調整値G4に基づいて、調整値G5が生成される。以降、調整値G6〜G8も、調整値G5と同様に生成され、静止画B2の撮像直前に算出される調整値G8が、推定評価画像調整処理に使用される。
「調整済推定評価画像」は、推定評価画像調整部912の出力の1つである、調整済推定評価画像H9〜H11の出力タイミングを示す。調整済推定評価画像H9〜H11を総称して調整済推定評価画像1008と呼ぶ。推定評価画像調整処理は、期間T4’で生成される推定評価画像C9〜C11を対象に実行される。図10の例では、静止画B2の撮像直前に生成された調整値G8を用いて、推定評価画像C9〜C11の調整が行われ、調整済推定評価画像H9〜H11が生成される。
「評価値取得処理」は、評価値処理部110による評価値取得処理の開始と終了のタイミングを示す。本実施形態では、第1の実施形態(図2)と異なり、2枚目以降の静止画撮像期間(期間T4’)においては、調整済推定評価画像1008に基づいて評価値の取得が行われる。図7の例では、静止画B2の撮像期間(期間T4’)に生成した調整済推定評価画像H9〜H11に基づいて、評価値I9〜I11が取得される。
なお、連写開始前(評価画像A1〜A3のタイミング)についても推定評価画像生成処理を実行する構成を採用してもよい。この場合、連写開始前(評価画像A1〜A3のタイミング)についても調整値算出処理を行う構成を採用してもよい。この場合、1枚目の静止画撮像期間(期間T4)についても直前の調整値に基づいて推定評価画像調整処理を行い、調整済推定評価画像に基づいて評価値を取得する構成を採用してもよい。
図11は、第3の実施形態に係る静止画撮影処理のフローチャートである。本フローチャートの各ステップの処理は、特に断らない限り、制御部104が記録部108に格納されたプログラムに従ってデジタルカメラ100の各部を制御することにより実現される。静止画撮像指示(例えば、シャッタボタンの押下)が検出され(図10のタイミング200参照)、最初の静止画同期信号が検出されると、本フローチャートの処理が開始する。図10のタイミングチャートにおける「センサ出力画像」、「推定評価画像」、「推定評価画像調整値」、「調整済推定評価画像」、及び「評価値取得処理」の制御は、本フローチャートに従って実行される。
なお、S1101〜S1104及びS1106〜S1110の処理は、図4のS401〜S404及びS406〜410の処理と同様である。また、本フローチャートの処理開始前は、制御部104は、S1108及びS1109と同様の処理を繰り返すことにより、評価画像及び評価値の取得を繰り返し実行する(例えば、図10の評価画像A1〜A3及び評価値D1〜D3)。
S1100で、制御部104は、調整値の初期値を設定する。本実施形態においては、1枚目の静止画撮像では推定評価画像を調整しない構成を採用するため、初期値を「無調整」に相当する値としている。
S1111〜S1112の処理は、S1108〜S1109の処理と並行して、撮像V同期の周期で繰り返し実行される。S1111で、制御部104は、推定評価画像を生成する(例えば、図10の推定評価画像C4〜C8)。
S1112で、制御部104は、推定評価画像調整処理に必要となる調整値の算出処理を行う(例えば、調整値G4〜G8)。
S1113で、制御部104は、最新の調整値(S1100で設定された初期値、又は直近のS1112で取得した調整値)に基づいて、S1104で生成した推定評価画像に対し、推定評価画像調整処理を行う。例えば、図10の期間T4’において、調整値G8に基づいて、推定評価画像C9〜C11を調整する処理が行われ、調整済推定評価画像H9〜H11が生成される。
S1114で、制御部104は、S1113で生成した調整済推定評価画像に基づいて評価値を取得する(例えば、図10の評価値I9〜I11)。
なお、静止画に基づいて評価画像に相当する画像を生成する構成をデジタルカメラ900に追加してもよい。この場合、静止画(例えば、図10の静止画B2)に基づいて生成した評価画像と、静止画撮像の近傍の時刻で生成した推定評価画像(例えば、図10の推定評価画像C8)との差に基づいて調整値算出処理を実施して調整値を取得するようにデジタルカメラ900を構成してもよい。
以上説明したように、第3の実施形態によれば、デジタルカメラ100は、評価画像の取得の停止期間の前の所定のタイミングに対応する推定評価画像を、所定のタイミングより前に取得された2以上の評価画像に基づいて生成する。所定のタイミングに対応する推定評価画像とは、例えば図10の推定評価画像C8であり、所定のタイミングより前に取得された2以上の評価画像とは、例えば図10の評価画像A6〜A7である。そして、デジタルカメラ100は、所定のタイミングに対応する推定評価画像(例えば、図10の推定評価画像C8)と所定のタイミングに取得された評価画像(例えば、図10の評価画像A8)との間の差に基づいて、停止期間に対応する推定評価画像を調整する。これにより、停止期間に対応する推定評価画像の精度を向上させ、推定評価画像に基づいて生成される評価値の精度を向上させることが可能となる。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
100…デジタルカメラ、101…記録画像処理部、104…制御部、107…一時記録部、108…記録部、109…表示画像処理部、110…評価値処理部、111…評価画像推定部、113…センサ

Claims (15)

  1. 撮像及び現像のうちの少なくとも一方を制御するための評価値の取得に用いる評価画像を、撮像手段を用いて繰り返し取得するように制御する第1の制御手段と、
    前記評価画像に基づいて前記評価値を取得する取得手段と、
    前記評価画像の取得を一時的に停止して、停止期間に前記撮像手段を用いて記録用の静止画を取得するように制御する第2の制御手段と、
    前記停止期間外に取得された2以上の評価画像に基づいて、前記停止期間に対応する推定評価画像を生成する生成手段と、
    を備え、
    前記取得手段は、前記停止期間については、前記推定評価画像に基づいて前記評価値を取得する
    ことを特徴とする撮像制御装置。
  2. 前記第1の制御手段は、前記評価画像を所定の周期で繰り返し取得するように制御し、
    前記生成手段は、前記推定評価画像が前記停止期間内の前記所定の周期に同期したタイミングに対応するように、前記推定評価画像の生成を行う
    ことを特徴とする請求項1に記載の撮像制御装置。
  3. 前記停止期間内に前記所定の周期に同期した複数のタイミングが存在する場合、前記複数のタイミングそれぞれについて、前記生成手段は、対象のタイミングの2つ前のタイミングに対応する評価画像又は推定評価画像と、当該対象のタイミングの1つ前のタイミングに対応する評価画像又は推定評価画像と、に基づいて、当該対象のタイミングに対応する推定評価画像を生成する
    ことを特徴とする請求項2に記載の撮像制御装置。
  4. 前記生成手段は、前記停止期間の前の所定のタイミングに対応する推定評価画像を、前記所定のタイミングより前に取得された2以上の評価画像に基づいて生成し、
    前記撮像制御装置は、前記所定のタイミングに対応する前記推定評価画像と前記所定のタイミングに取得された評価画像との間の差が閾値を超えるか否かを判定する判定手段を更に備える
    ことを特徴とする請求項1乃至3のいずれか1項に記載の撮像制御装置。
  5. 前記差が前記閾値を超えると判定された場合、前記取得手段は、前記停止期間については前記評価値の取得を行わない
    ことを特徴とする請求項4に記載の撮像制御装置。
  6. 前記差が前記閾値を超えると判定された場合に、前記停止期間について前記推定評価画像に基づいて取得された前記評価値を前記撮像及び前記現像のうちの少なくとも一方の前記制御のために使用しないように制御する第3の制御手段を更に備える
    ことを特徴とする請求項4に記載の撮像制御装置。
  7. 前記差が前記閾値を超えると判定された場合、前記生成手段は、前記停止期間に対応する前記推定評価画像の生成を行わない
    ことを特徴とする請求項4に記載の撮像制御装置。
  8. 前記生成手段は、前記停止期間の前の所定のタイミングに対応する推定評価画像を、前記所定のタイミングより前に取得された2以上の評価画像に基づいて生成し、
    前記撮像制御装置は、前記所定のタイミングに対応する前記推定評価画像と前記所定のタイミングに取得された評価画像との間の差に基づいて、前記停止期間に対応する前記推定評価画像を調整する調整手段を更に備える
    ことを特徴とする請求項1乃至3のいずれか1項に記載の撮像制御装置。
  9. 前記生成手段は、前記停止期間の前の所定のタイミングに対応する推定評価画像を、前記所定のタイミングより前に取得された2以上の評価画像に基づいて生成し、
    前記撮像制御装置は、前記停止期間に取得された前記静止画に基づいて前記停止期間の評価画像に相当する画像を生成し、当該生成した画像と前記所定のタイミングに対応する前記推定評価画像との間の差に基づいて、前記停止期間に対応する前記推定評価画像を調整する調整手段を更に備える
    ことを特徴とする請求項1乃至3のいずれか1項に記載の撮像制御装置。
  10. 前記生成手段は、学習モデルを用いて前記推定評価画像を生成する
    ことを特徴とする請求項1乃至9のいずれか1項に記載の撮像制御装置。
  11. 前記取得手段は、2種類以上の評価値を取得する
    ことを特徴とする請求項1乃至10のいずれか1項に記載の撮像制御装置。
  12. 前記評価値は、合焦状態、露出、ホワイトバランス、被写体の種類、及び被写体の動きのうちのいずれかを示す
    ことを特徴とする請求項1乃至11のいずれか1項に記載の撮像制御装置。
  13. 請求項1乃至12のいずれか1項に記載の撮像制御装置と、
    前記撮像手段と、
    を備えることを特徴とする撮像装置。
  14. 撮像制御装置が実行する制御方法であって、
    撮像及び現像のうちの少なくとも一方を制御するための評価値の取得に用いる評価画像を、撮像手段を用いて繰り返し取得するように制御する第1の制御工程と、
    前記評価画像に基づいて前記評価値を取得する取得工程と、
    前記評価画像の取得を一時的に停止して、停止期間に前記撮像手段を用いて記録用の静止画を取得するように制御する第2の制御工程と、
    前記停止期間外に取得された2以上の評価画像に基づいて、前記停止期間に対応する推定評価画像を生成する生成工程と、
    を備え、
    前記取得工程では、前記停止期間については、前記推定評価画像に基づいて前記評価値を取得する
    ことを特徴とする制御方法。
  15. コンピュータを、請求項1乃至12のいずれか1項に記載の撮像制御装置の各手段として機能させるためのプログラム。
JP2019154972A 2019-08-27 2019-08-27 撮像制御装置、撮像装置、制御方法、及びプログラム Active JP7325266B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019154972A JP7325266B2 (ja) 2019-08-27 2019-08-27 撮像制御装置、撮像装置、制御方法、及びプログラム
US17/001,839 US11050928B2 (en) 2019-08-27 2020-08-25 Image capturing control apparatus, image capturing apparatus, control method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019154972A JP7325266B2 (ja) 2019-08-27 2019-08-27 撮像制御装置、撮像装置、制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2021034941A true JP2021034941A (ja) 2021-03-01
JP7325266B2 JP7325266B2 (ja) 2023-08-14

Family

ID=74676757

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019154972A Active JP7325266B2 (ja) 2019-08-27 2019-08-27 撮像制御装置、撮像装置、制御方法、及びプログラム

Country Status (2)

Country Link
US (1) US11050928B2 (ja)
JP (1) JP7325266B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009278351A (ja) * 2008-05-14 2009-11-26 Olympus Imaging Corp 撮像装置
JP2011004219A (ja) * 2009-06-19 2011-01-06 Nikon Corp 撮像装置および追尾方法
JP2018037959A (ja) * 2016-09-01 2018-03-08 キヤノン株式会社 撮像装置及びその制御方法、プログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7027087B2 (en) * 1998-08-21 2006-04-11 Nikon Corporation Electronic camera
JP5630146B2 (ja) 2010-08-23 2014-11-26 ソニー株式会社 撮像装置、撮像装置の制御方法およびプログラム。
KR101937708B1 (ko) * 2012-07-09 2019-04-11 삼성전자 주식회사 카메라 제어 시스템과 이를 포함하는 단말기 및 카메라 제어 방법
US9215368B2 (en) * 2012-12-02 2015-12-15 Bachir Babale Virtual decals for precision alignment and stabilization of motion graphics on mobile video
JP5888614B2 (ja) * 2013-03-21 2016-03-22 カシオ計算機株式会社 撮像装置、映像コンテンツ生成方法、及び、プログラム
JP6210106B2 (ja) * 2015-11-18 2017-10-11 カシオ計算機株式会社 撮影装置、画像評価方法及びプログラム
JP6635093B2 (ja) * 2017-07-14 2020-01-22 カシオ計算機株式会社 画像記録装置、画像記録方法及びプログラム
WO2019191940A1 (en) * 2018-04-04 2019-10-10 SZ DJI Technology Co., Ltd. Methods and system for composing and capturing images

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009278351A (ja) * 2008-05-14 2009-11-26 Olympus Imaging Corp 撮像装置
JP2011004219A (ja) * 2009-06-19 2011-01-06 Nikon Corp 撮像装置および追尾方法
JP2018037959A (ja) * 2016-09-01 2018-03-08 キヤノン株式会社 撮像装置及びその制御方法、プログラム

Also Published As

Publication number Publication date
US20210067691A1 (en) 2021-03-04
US11050928B2 (en) 2021-06-29
JP7325266B2 (ja) 2023-08-14

Similar Documents

Publication Publication Date Title
US20100265353A1 (en) Image Processing Device, Image Sensing Device And Image Reproduction Device
JP4732303B2 (ja) 撮像装置
JP5609742B2 (ja) 撮像装置、画像合成方法、及びプログラム
US10477112B2 (en) Display control apparatus displaying image, control method therefor, and storage medium storing control program therefor
JP6429915B2 (ja) 撮像装置、その制御方法とプログラムと記録媒体
JP2018148512A (ja) 撮像装置と撮像装置の制御方法、及びプログラム
JP5790858B2 (ja) 画像合成装置、画像合成方法、及びプログラム
JP2008116663A (ja) 撮像装置
US11722788B2 (en) Image processing apparatus and method, and image capturing apparatus
CN109151265B (zh) 摄像设备、控制方法和存储介质
JP6478587B2 (ja) 画像処理装置、画像処理方法およびプログラム、並びに撮像装置
US11356603B2 (en) Image capturing apparatus and control method therefor
JP7325266B2 (ja) 撮像制御装置、撮像装置、制御方法、及びプログラム
US11356611B2 (en) Image capture apparatus and control method thereof
US11190683B2 (en) Image capture apparatus and control method therefor
US11368624B2 (en) Image capturing apparatus and control method thereof
JP7332376B2 (ja) 撮像装置およびその制御方法ならびにプログラム
US11743601B2 (en) Image processing device, image processing method, and storage medium
JP2020184697A (ja) 撮像装置およびその制御方法
JP2021010160A (ja) 撮像装置およびその制御方法
JP5471004B2 (ja) 焦点調整装置、焦点調整方法及びプログラム
JP2014236251A (ja) 撮像装置
JP2020010244A (ja) 撮像装置および撮像装置の制御方法
JP2006115388A (ja) ディジタルカメラ
JP2014135615A (ja) 画像処理装置及び方法、及び撮像装置

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220812

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230622

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230801

R151 Written notification of patent or utility model registration

Ref document number: 7325266

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151