JP2018137613A - 画像処理装置、撮像装置および画像処理装置の制御方法 - Google Patents

画像処理装置、撮像装置および画像処理装置の制御方法 Download PDF

Info

Publication number
JP2018137613A
JP2018137613A JP2017030878A JP2017030878A JP2018137613A JP 2018137613 A JP2018137613 A JP 2018137613A JP 2017030878 A JP2017030878 A JP 2017030878A JP 2017030878 A JP2017030878 A JP 2017030878A JP 2018137613 A JP2018137613 A JP 2018137613A
Authority
JP
Japan
Prior art keywords
image
motion vector
imaging
processing apparatus
photometric
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017030878A
Other languages
English (en)
Other versions
JP2018137613A5 (ja
JP6851854B2 (ja
Inventor
新谷 拓也
Takuya Shintani
拓也 新谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017030878A priority Critical patent/JP6851854B2/ja
Priority to US15/901,027 priority patent/US10594938B2/en
Publication of JP2018137613A publication Critical patent/JP2018137613A/ja
Publication of JP2018137613A5 publication Critical patent/JP2018137613A5/ja
Application granted granted Critical
Publication of JP6851854B2 publication Critical patent/JP6851854B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/207Analysis of motion for motion estimation over a hierarchy of resolutions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6815Motion detection by distinguishing pan or tilt from motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

【課題】ペンタ部のセンサを用いた測光の結果に応じて、精度よく動きベクトルを検出する。【解決手段】画像処理装置であるAPU112は、第1の撮像により撮像された第1の画像と、第1の撮像に続いて行われる第2の撮像により撮像された第2の画像を取得する取得手段と、第1の画像に基づく測光の結果に応じて、第1の画像または前記第2の画像のうち、動きベクトルの算出に用いる画像を決定する第1の決定手段と、決定された画像に基づいて、動きベクトルを算出する算出手段と、を備える。【選択図】図1

Description

本発明は、画像処理装置、撮像装置および画像処理装置の制御方法に関する。
移動している被写体のスピード感を表現する撮影技術として流し撮りがある。流し撮りは、撮影者が被写体の動きに合わせてカメラをパンニングすることにより、移動している被写体を静止させて背景は流すことを目的とする。
流し撮り撮影においては撮影者が被写体の動きに合わせてパンニングをする必要があるが、被写体の移動速度とパンニング速度の間に差が発生してしまうと、被写体までブレた画像になることもある。ユーザの流し撮り撮影の補助(アシスト)を行う技術として、シフトレンズの移動により被写体の移動速度とパンニング速度の差を吸収する手法が提案されている。特許文献1では、ジャイロセンサのブレ検出と画像の動きベクトルから被写体を検出し、検出された被写体を画像中央に位置させるための補正量を算出し、光軸シフトレンズの移動で補正して流し撮り撮影を行う構成が開示されている。
画像から動きベクトルを検出する技術として、連続して撮影された画像を比較することで検出する手法が提案されている。特許文献2では、動きベクトルを検出するブロックマッチングの対象となる参照ブロックと候補ブロックをサーチエリア内で候補ブロックの位置をずらしながら画素値を比較していく技術が開示されている。また、動きベクトルの検出を行うシステムとしては、撮影の前にペンタ部の測光センサで測光に使用する画像信号を取得し、その画像信号を処理するシステムがある。
特開2006−317848号公報 特開平8−88855号公報
しかしながら、特許文献2に開示された技術では、連続して撮影された画像のサンプリング間隔が長くなる場合、被写体の移動量が大きくなるため、連続画像における参照ブロックと候補ブロックの比較エリアを広げなければ、精度よくベクトル検出ができない。その一方で、比較エリアを広げると、動きベクトル検出の処理時間が延びて、リアルタイム性を欠いた処理になってしまう。
本発明は、ペンタ部のセンサを用いた測光の結果に応じて、精度よく動きベクトルを検出することができる画像処理装置を提供することを目的とする。
上記課題を解決するために、本発明は、第1の撮像により撮像された第1の画像と、前記第1の撮像に続いて行われる第2の撮像により撮像された第2の画像を取得する取得手段と、前記第1の画像に基づく測光の結果に応じて、前記第1の画像または前記第2の画像のうち、動きベクトルの算出に用いる画像を決定する第1の決定手段と、前記決定された画像に基づいて、動きベクトルを算出する算出手段と、を備える。
本発明によれば、ペンタ部のセンサを用いた測光の結果に応じて、精度よく動きベクトルを検出することができる画像処理装置を提供することができる。
カメラシステムの構成を示す図である。 測距枠表示素子の測距枠配置の一例を示す図である。 測光処理のシーケンスを説明する図である。 通常のプログラム線図の一例を示す図である。 解像度優先のプログラム線図の一例を示す図である。 サンプリングレート優先のプログラム線図の一例を示す図である。 全画素読みのイメージおよび加算読みのイメージを示す図である。 流し撮りアシスト撮影のフローチャートである。 流し撮りアシスト測光のフローチャートである。 解像度優先測光処理のフローチャートである。 サンプリングレート優先測光処理のフローチャートである。 サンプリングレート優先測光処理のフローチャートである。 流し撮りアシスト自動選択測光処理のフローチャートである。 流し撮りアシスト自動線図変更測光処理のフローチャートである。 変更後のプログラム線図の一例を示す図である。
(実施例1)
図1は、本実施例のカメラシステムの構成を示す図である。図1では、カメラシステムとして、カメラ本体100とレンズ200を備えるデジタルカメラ等の撮像装置を例にとって説明する。レンズ200は、カメラ本体100に着脱可能な交換レンズである。なお、本発明は、レンズとカメラ本体とが一体となった撮像装置にも適用可能である。
まず、カメラ本体100の構成について説明する。カメラ本体100は、CPU101、メモリ102、撮像素子103、シャッタ104、ハーフミラー105、ピント板106、表示素子107、測光センサ108、ペンタプリズム109を備える。さらに、カメラ本体100は、焦点検出回路110、AFミラー111、APU112、メモリ113を備える。
CPU(Central Processing Unit)101は、カメラ本体100の各部を制御するマイクロプロセッサである。メモリ102は、CPU101に接続されているRAMやROM等のメモリである。撮像素子103は、赤外カットフィルタやローパスフィルタ等を含むCCD、CMOS等の撮像素子であり、レンズ200によって撮影時に被写体の像が結像される。シャッタ104は、非撮影時には撮像素子103を遮光し、撮影時には開いて撮像素子103へ光線を導く。ハーフミラー105は、非撮影時にレンズ200より入射する光の一部を反射し、ピント板106に結像させる。
表示素子107は、PN液晶等のAF測距枠を表示するための表示素子であり、光学ファインダーを覗いたときにどの位置でAFしているかをユーザに示す。
ここで、図2に表示素子107における測距枠配置の一例を示す。外側の実線で示される枠は、撮像領域210を表し、内側の実線で示される枠は、測光領域211を表す。斜線の四角は、測距枠212を示している。本実施例では、測距枠の表示素子107としてPN液晶を用いた例を説明する。PN液晶では、CPU101からの指示で選択された測距枠の液晶が拡散し、測距枠212が表示される。また測光領域211、および測光領域を所定の数のブロック領域にわけた、測距枠との対応が点線で示されている。
図1の説明に戻る。測光センサ108は、CCD、COMS等の撮像素子を使用することにより測光だけでなく、後述する本提案の特徴である動きベクトル検出を行う。ペンタプリズム109は、ピント板106の被写体像を測光センサ108及び光学ファインダーに導く。測光センサ108は、ペンタプリズムを介してピント板106に結像された被写体像を斜めの位置から見込んでいる。
焦点検出回路110は、焦点検出回路110内のAFセンサで受光した光束に基づいて、被写体に対する自動合焦のための測距を行う。AFミラー111は、レンズ200から入射してハーフミラー105を通過した光束の一部を焦点検出回路110内のAFセンサへ導く。
APU(Accelerated Processing Unit)112は、測光センサ108の画像処理・演算用のCPUであり、顔検出の演算や追尾の演算、測光演算、動きベクトル検出演算などを行う。メモリ113は、APU112に接続されているRAMやROM等のメモリである。なお、本実施例においては、APU112のように測光センサ専用のCPUを用意したが、CPU101等で処理を行っても良い。また、APU112やCPU101は、画像処理総理として構成されてもよい。
次に、レンズ200の構成について説明する。レンズ200は、LPU201、角速度センサ202、撮影レンズユニットを備える。
LPU201は、レンズ内のCPU(以下LPUと呼ぶ)で、レンズ200の各部を制御するマイクロプロセッサである。また、LPU201は、被写体との距離情報や後述する角速度情報等をカメラ本体100のCPU101に送る。角速度センサ202はジャイロセンサなどの角速度センサで、200のレンズの移動量を表す角速度を検出し、角速度情報を電気信号として変換してLPU201へ出力する。レンズ200は、LPU201と角速度センサ202により、シフトレンズを駆動することで被写体の像ブレ補正を行う。撮影レンズユニットは、主撮像光学系、焦点距離を変更可能なズームレンズ群、像のブレを光軸と垂直方向に移動することにより光学的に補正するシフトレンズを有する。
次に、図3を用いて、カメラの状態に応じた測光方法について説明をする。カメラ本体100では、不図示の撮影ボタンを押下(半押し)することで、測光を行う。なお撮影ボタンはSw1状態(半押し状態)で測光、Sw1状態からさらに押し込むSw2状態(全押し状態)で撮像を行うものとする。測光は、測光センサ108で画像を撮像して取得し、取得した画像に基づいてAPU112において演算処理により行われる。本実施例では、通常モード、流し撮りアシスト解像度優先モードおよび流し撮りアシストサンプリングレート優先モードの3種類の測光処理を行うことが可能である。
図3(A)は、通常モードにおける測光処理時のシーケンスを示す図である。通常モードでの測光処理では、まず、蓄積At、読出Atにより得られる測光用の画像(以後、測光画像Tと呼ぶ)を撮像する。そして、測光画像Tに基づいて測光演算をすることにより、測光領域範囲の明るさを測定するものとする。測光演算処理のアルゴリズムについては、例えば、図2に示すような測光領域を所定の数のブロック領域ごとに分け、ブロックごとに明るさを測定することで、全体の明るさを測定する方法で求められる。なお、測光演算処理のアルゴリズムについては、直接、本発明の特徴とは直接関係がないため、詳細な説明を省略する。
通常モードでの測光処理では、明るさを測定するための測光演算に続いて、交流電流により激しく点滅を繰り返す蛍光灯など、いわゆるフリッカの点滅周期を判定するための画像の取得とフリッカ検出演算を行う。具体的には、フリッカの点滅周期を判定するための蓄積F、読出Fを行い、得られた画像(以後、フリッカ画像Fと呼ぶ)からフリッカ情報を取得するフリッカ検出演算を行う。蓄積F、読出F、フリッカ検出演算については、本発明の特徴とは関係がないため、説明を省略するが、短い蓄積時間のフリッカ画像Fを複数枚、連続撮影することにより、フリッカ点滅周期などを測定することができる。
図3(B)は、流し撮りアシスト解像度優先モードにおける測光処理時のシーケンスを示す図である。流し撮りアシストは、ユーザの流し撮りを支援する機能である。流し撮りアシストの設定が行われた場合の制御モードを、「流し撮りアシストモード」という。そして、流し撮りアシストモードの中で、動きベクトル検出に用いる画像の取得に際し、画像の解像度を優先するモードを「流し撮りアシスト解像度優先モード」という。画像の解像度を優先し、解像度の高い画像を使用することで、細かなものの動きベクトルまで検出することができる。
流し撮りアシスト解像度優先モードでの測光処理では、まず、前述した通常モードでの測光処理と同様に、測光用の画像(以後、測光画像Kと呼ぶ)を撮像し、測光画像Tに基づいて測光演算をすることにより、測光領域範囲の明るさを測定する。測光画像Kは、蓄積Ank、読出Ankにより得られる。流し撮りアシスト解像度優先モードでの蓄積Ank、読出Ankは、通常モードでの測光処理と同様の処理を行い、プログラム線図も通常モードと同じである。プログラム線図については、図4〜図6を用いて後述する。
流し撮りアシスト解像度優先モードと通常モードでは、測光の次に行う、動きベクトル検出のために行う処理の部分が異なる。流し撮りアシスト解像度優先モードでは、動きベクトル検出用の画像を撮像する蓄積Vnk、読出Vnkを行い、得られた画像(以後、ベクトル画像Kと呼ぶ)から動きベクトル検出演算をする。流し撮りアシスト解像度優先モードで撮像したベクトル画像Kは、解像度の高い画像となっている。なお、流し撮りアシスト解像度優先モードにおける蓄積Vnk、読出Vnkは、後述する5(B)のプログラム線図に従い、全画素読み駆動の動作を行う。これにより、動きベクトル検出演算で、解像度の高いベクトル画像Kで動きベクトル検出演算を行うことができるため、小さな被写体や、被写体の細かな部分の動きベクトル検出を行うことができる。なお、本実施例における動きベクトル検出演算については、連続して撮影された画像を比較するブロックパターンマッチングを用いるが、ブロックパターンマッチングの詳細については公知の技術なので、その説明を省略する。
図3(C)は流し撮りアシストサンプリングレート優先モードにおける測光処理時のシーケンスを示す図である。流し撮りアシストモードの中で、動きベクトル検出に用いる画像の取得に際し、サンプリングレートを優先するモードを「流し撮りアシストサンプリングレート優先モード」という。サンプリングレートを優先し、高いサンプリングレートで画像を取得することで、動く速度の速いものや動き(ブレ)が大きいものの動きベクトルの検出精度が高くなる。
流し撮りアシストサンプリングレート優先モードにおける測光処理では、まず、前述した通常測光処理と同様に、測光用の画像(以後、測光画像S)を撮像し、測光画像Sに基づいて測光演算をすることにより、測光領域範囲の明るさを測定する。測光画像Sは、蓄積Ans、読出Ansにより得られる。流し撮りアシストサンプリングレート優先モードでの測光処理は、通常モードにおける測光処理と同様の処理を行うが、流し撮りアシストサンプリングレート優先モードで使用するプログラム線図は、通常モードで使用するプログラム線図と異なる線図となる。プログラム線図の詳細は、図4〜図6を用いて後述する。
流し撮りアシストサンプリングレート優先モードと通常モードでは、測光の次に行う、動きベクトル検出のために行う処理の部分が異なる。流し撮りアシストサンプリングレート優先モードでは、動きベクトル検出用の画像を撮像する蓄積Vns、読出Vnsを行い、得られた画像(以後、ベクトル画像S)から動きベクトル検出演算をする。なお、流し撮りアシストサンプリングレート優先モードにおける動きベクトル検出時の蓄積Vns、読出Vnsは、明るさによって全画素読み駆動方式、および加算読み駆動方式、どちらかの読出し駆動を行う。加算読み駆動方式による加算画像を使う分、解像度の低いベクトル画像Sで動きベクトル演算を行うことになっても、同じ明るさにおける蓄積Ans、読出Ans、蓄積Vns、読出Vnsを流し撮りアシスト解像度優先モードに比べ短くできる。そのため、ブレがなくなり、かつサンプリングレートを上げることが可能になる。全画素読み駆動方式および加算読み駆動方式の詳細については、図7を用いて後述する。
次に図4〜図6を用いて、Ev値、蓄積時間、読出し駆動方式に関わるプログラム線図について説明をする。図4〜図6は、本実施例に用いるプログラム線図の例を示しており、Ev値(被写体輝度)、蓄積時間および読出し駆動方式の関係を示したプログラム線図である。上側の横軸と左側の縦軸はEv値、下側の横軸は蓄積時間、右側の縦軸は読出し駆動方式を示している。
図4(A)は、図3(A)で説明した、通常モードにおける測光のための測光画像Tを取得する、蓄積Atの蓄積時間、読出Atの読出駆動方式のプログラム線図の一例である。本実施例における通常モードでは、低輝度時にも正確に明るさを測定できるようにする。そのため、通常モードでの測光処理のためのプログラム線図は、ある程度の低輝度になった場合、「全画素読み」から「加算読み」に読出駆動方式を切り替えることで、測光センサとして低輝度時のノイズ・感度の限界を向上させる。加算読みは、隣り合う画素を加算して読み出す読出駆動方式である。例えば、図4(A)ではEv8、蓄積Atの蓄積時間35ms付近を境に、読出Atを全画素読み駆動方式から加算読み駆動方式にすることで、Ev8からEv2まで低輝度時の測光の精度限界を向上させる。全画素読み駆動方式、加算読み駆動方式については、図7を用いてその詳細を後述する。また、通常モードにおける測光処理では、例えば、測光画像を35msまで全画素読み駆動方式にすることで、解像度の高い測光画像を取得できる。解像度の高い測光画像を取得することで、例えば顔検出結果など、画像の連続性を必要としない画像認識(被写体認識)の精度が向上する。
図4(B)は、図3(A)で説明した、通常モードにおけるフリッカ検出のためのフリッカ画像Fを取得する、蓄積Fの蓄積時間、読出Fの読出し駆動方式のプログラム線図の一例である。本実施例におけるフリッカ検出のためのプログラム線図は、フリッカを検出するため、フリッカの点滅周期内に複数枚の画像を時系列に撮像するよう蓄積Fと読出Fを点滅周期より短い時間で終えるようなプログラム線図とする。例えば、複数枚行う蓄積Fの各蓄積時間をフリッカの点滅周期より短い1.656ms以内にし、読出Fを加算読み駆動方式にする。
図5(A)は、図3(B)で説明した、流し撮りアシスト解像度優先モードにおける測光画像Kを取得する、蓄積Ankの蓄積時間、読出Ankの読出し駆動方式のプログラム線図の一例である。本実施例では、図4(A)で示される通常モードにおける測光時のプログラム線図と同じプログラム線図とする。
図5(B)は、図3(B)で説明した流し撮りアシスト解像度優先モードにおけるベクトル画像Kを取得する、蓄積Vnkの蓄積時間、読出Vnkの読出し駆動方式のプログラム線図の一例である。図5(B)は、動きベクトル検出時に解像度を重視した際のプログラム線図である。本実施例における動きベクトル検出のための蓄積Vnkは、流し撮り時、つまりカメラをパンニング中に行う。そのため、ベクトル画像Kに被写体の像ブレが起きないように、蓄積Vnkの蓄積時間を所定の時間より短く、例えば、4ms以内とする。
さらに、被写体を解像度の高い画像で検出するために、読出Vnkでの読出し駆動方式は、常に全画素読み駆動方式で撮像をする。なお、この線図では低輝度時においても蓄積時間を延ばさないので、撮像される画像はEv10以下では適切な露出に比べて暗い画となるが、ブレがないことにより動きベクトル検出演算時に用いるブロックパターンマッチングの精度向上に繋がる。そのため、蓄積時間の制限が設けられる。
図6(A)は、図3(C)で説明した、流し撮りアシストサンプリングレート優先モードにおける測光画像Sを取得する、蓄積Ansの蓄積時間、読出Ansの読出し駆動方式のプログラム線図の一例である。流し撮りアシストサンプリングレート優先モードにおける測光処理時の蓄積Ansは、流し撮り時、つまりカメラをパンニング中に行う。そのため、測光画像Sにも被写体のブレが起きないように、例えば、Ev8までは、蓄積時間が4ms以内になるように制御する。さらに、ある程度の低輝度になった場合、全画素読み駆動方式から加算読み駆動方式に切り替える。例えば、蓄積Ansの蓄積時間が4msを超えるEv10時には、全画素読み出し駆動方式から加算読出し駆動方式に切り替える。
図6(B)は、図3(C)で説明した、流し撮りアシストサンプリングレート優先モードにおけるベクトル画像Sを取得する、蓄積Vnsの蓄積時間、読出Vnsの読出し駆動方式のプログラム線図の一例である。本実施例における動きベクトル検出のための蓄積Vnsは、流し撮り時、つまりカメラをパンニング中に行う。そのため、ベクトル画像Sに被写体の像ブレが起きないように、図5(B)と同様に、蓄積Vnsの蓄積時間を所定の時間より短く、例えば、4ms以内とする。
また、流し撮りアシストサンプリングレート優先モードでは解像度よりサンプリングレートを重視しているため、解像度を重視する図5(B)とは異なり、ある程度の低輝度になった場合、全画素読み駆動方式から加算読み駆動方式に切り替える。例えば、蓄積Vnsの蓄積時間が4msを超えるEv10時には、全画素読み駆動方式から加算読出し駆動方式にする。加算読出し駆動方式にすることで、図5(B)に比べ、読出し時間が短縮され、暗い被写体でもサンプリングレートを落とすことなく複数のベクトル画像Sを撮像することができる。
なお、図4〜図6の説明で用いたEV値や蓄積時間の数値は一例にすぎず、これに限られるものではない。
次に、図7を用いて全画素読み駆動方式(全画素読出し)と加算読み駆動方式(加算読出し)を説明する。図7(A)は、図2で説明した測光領域211と被写体を示す図である。図7(B)は全画素読みした際の測光画像、フリッカ画像およびベクトル画像のイメージである。一方、図7(C)は、加算読みした際の測光画像、フリッカ画像およびベクトル画像のイメージである。全画素読みではセンサの測光領域内にある撮像される画がそのまま出力されるため、撮像した通りの解像度の高い画像が撮像できる。一方、加算読みでは画素を加算して読出すため、撮像したものから圧縮された解像度の低い画像が撮像できる。加算読みでは、画素信号を加算して読み出すことにより、読み出しライン数を擬似的に減少させて、前画素読みに比べ読出し時間を短縮させることができる。
以下、本実施例による、ペンタ部のセンサを用いて測光を行いながら、流し撮りアシストをするシステムについて説明する。
図8は、本実施例における流し撮りアシスト撮影の処理についてのフローチャートである。
まず、ステップS601では、CPU101が、流し撮りアシスト設定がされているかどうかの判定を行う。本実施例では流し撮りアシストの設定は、ユーザが図1において不図示の撮影設定メニュー画面と操作ボタンを使って設定し、メモリ102もしくはメモリ113に記憶する。流し撮りアシスト設定でないと判定した場合は、ステップS602に進む。一方、流し撮りアシスト設定であると判定した場合は、ステップS606に進む。
また、本実施例においては、流し撮りアシストの設定として2種類の設定モードが用意されている。第1のモードは、解像度を優先する、流し撮りアシスト解像度優先モードである。このモードは、動きベクトル検出をする際に、より解像度を必要とする動作、たとえば被写体が小さい場合や被写体を細かく認識して流し撮りアシストする際に設定される。第2のモードは、サンプリングレートを優先する、流し撮りアシストサンプリングレート優先モードである。このモードは、よりサンプリングレートを必要とする動作、たとえば速く動く大きな被写体を認識して流し撮りアシストする際に設定される。本実施例においては、ユーザが流し撮りアシストを設定する際に、解像度を優先するかサンプリングレートを優先するかも設定するものとする。なお、ユーザがいずれを優先するか直接設定してもよいし、ユーザが操作画面から被写体の大きさや速度のレベルを入力することでいずれを優先するか設定されるようにしてもよい。
ステップS602では、CPU101が、撮影ボタンがSw1状態(半押し状態)であるかどうかの判定を行う。Sw1状態でないと判定した場合はステップS602を繰り返し、Sw1状態であると判定した場合にステップS603に進む。
ステップS603では、APU112が、図3(A)で説明した通常モードでの測光処理を行う。
ステップS604では、CPU101が、撮影ボタンがSw2状態(全押し状態)であるかどうかの判定を行う。Sw2状態でないと判定した場合は、ステップS602に移行する。一方、Sw2状態であると判定した場合は、ステップS605に進む。
ステップS605では、撮像素子103へ光線を導き、撮像処理を行い、終了する。なお、撮像処理の詳細なフローは公知の技術なので、その説明は省略する。
一方、ステップS601で流し撮りアシスト設定であると判定すると、ステップS606に進む。ステップS606では、CPU101もしくはAPU112が、撮影ボタンがSw1状態であるかどうかの判定を行う。Sw1状態でないと判定した場合は、ステップS606を繰り返し、Sw1状態であると判定した場合にステップS607に進む。
ステップS607では、CPU101が、レンズ角速度情報取得処理を行う。レンズ角速度情報取得処理では、CPU101が、LPU201を介して、角速度センサ202からレンズ角速度情報を取得する。これにより、カメラが流し撮り撮影時の被写体の動きに合わせてパンニングしている角速度が得られる。
次に、ステップS608では、流し撮りアシスト測光処理を行う。この流し撮りアシスト測光処理の詳細なフローは、図9〜12を使って後述する。
次に、ステップS609では、CPU101が、撮影ボタンがSw2状態であるかどうかの判定を行う。Sw2状態でないと判定した場合は、ステップS606に移行する。一方、Sw2状態であると判定した場合は、ステップS610に進む。
ステップS610では、被写体の角速度を計算し、被写体の像ブレを補正するレンズシフト補正処理を行う。具体的には、CPU101が、ステップS607のレンズ角速度情報取得処理で取得したカメラのパンニング速度と、ステップS608の流し撮りアシスト測光処理で取得した動きベクトル検出演算の結果から、被写体の角速度を計算する。そして、被写体の角速度とカメラのパンニング速度のズレ分である像ブレを、シフトレンズを駆動することで補正する。
ステップS611では、撮像素子103へ光線を導き、撮像処理を行い、終了する。
図9は、図8のステップS608で説明した、流し撮りアシスト測光処理のフローチャートである。
まず、ステップS701では、CPU101が、流し撮りアシストが解像度優先モードで設定されているかどうかを判定する。もし、流し撮りアシスト設定が解像度優先であると判定した場合は、ステップS702に進む。ステップS702では、流し撮りアシスト解像度優先モードでの測光処理を行う。この流し撮りアシスト解像度優先モードでの測光処理の詳細なフローは、図10を使って後述する。一方、ステップS701で流し撮りアシスト設定が解像度優先でないと判定した場合は、ステップS703に進む。ステップS703では、流し撮りアシストサンプリングレート優先モードでの測光処理を行う。この流し撮りアシストサンプリングレート優先モードでの測光処理の詳細なフローは、図11および図12を使って後述する。
図10は、図9のステップS702で説明した、流し撮りアシスト解像度優先モードでの測光処理のフローチャートである。本フローチャートでは、図3(B)で説明した処理を順に行っていく。
まず、ステップS801およびステップS802で測光用の画像を撮像し、ステップS803で画像の明るさを算出する。
ステップS801では、測光センサ108で蓄積Ank処理を行う。蓄積Ank処理は、測光センサ108に対して、APU112の制御により行う。なお、その際の蓄積時間は、図5(A)を用いて説明したプログラム線図に従う。また、最初の一回目の蓄積時間は、測光値がないため決定していないので、本実施例ではEv10を想定した4msとして開始するものとする。
ステップS802では、読出Ank処理を行う。読出Ank処理では、APU112が、ステップS801で蓄積した電荷に対応する信号を測光センサ108から読み出し、測光画像Kを取得する。測光画像Kは、メモリ113に記録する。なお、読出Ank処理は、図5(A)を用いて説明したプログラム線図に従うため、Ev8以上の際は全画素駆動方式で読み出し、Ev8未満では加算読み駆動方式で読み出す。
ステップS803では、APU112が、測光画像Kに基づいて、測光演算処理を行う。測光演算処理のアルゴリズムについては、直接、本発明の特徴とは直接関係がないため、説明を省略する。
次に、ステップS804およびステップS805で動きベクトル検出用の画像を撮像する。
ステップS804では、測光センサ108で蓄積Vnk処理を行う。蓄積Vnk処理は、測光センサ108に対して、APU112の制御により行う。なお、その際の蓄積時間は、図5(B)を用いて説明したプログラム線図に従う。また、最初の一回目の蓄積時間は、測光値がないため決定していないので、本実施例ではEv10を想定した4msとして開始するものとする。
ステップS805では、読出Vnk処理を行う。読出Vnk処理では、APU112が、ステップS804で蓄積した電荷に対応する信号を測光センサ108から読み出し、ベクトル画像Kを取得する。ベクトル画像Kは、メモリ113に記録する。なお、ベクトル画像Kは図5(B)を用いて説明したプログラム線図に従うため、常に全画素駆動方式で読み出す。
次に、ステップS806〜ステップS808でベクトル検出演算処理を行う。
まず、ステップS806では、ステップS802で撮像した測光画像Kを動きベクトル検出演算のための画像として使用するかのどうかの判定するFlagの判定を行う。このFlagはメモリ113に記憶されており、APU112の制御により判定をする。なお、最初の一回目は、初期値としてTRUEが設定されているものとする。測光画像Kを使用すると判定した場合、すなわち、FlagがTRUEであると判定された場合、ステップS807に進む。一方、測光画像Kを使用しないと判定した場合、すなわち、FlagがFALSEであると判定された場合、ステップS808に進む。
ステップS807では、APU112が、測光画像Kとベクトル画像Kから、全画素駆動で読みだされた画を比較するブロックパターンマッチングを用いて、全画動きベクトル検出演算を行う。
一方、ステップS808では、APU112が、測光画像Kを使わずに動きベクトルの検出演算を行う。具体的には、前回ベクトル画像として記憶しているベクトル画像Kと今回ステップS805で撮像したベクトル画像Kから、全画素駆動方式で読みだされた画を比較するブロックパターンマッチングを用いて、全画動きベクトル検出演算を行う。
次に、ステップS809では、APU112が、ステップS803で測光演算された結果が、所定の露出より明るいか否か、すなわち、所定の露出以上であるか否かを判定する。本実施例においては、例えば、Ev10以上であるかどうかの判定を行う。所定の露出以上であると判定された場合、すなわち、Evが10以上であると判定された場合は、ステップS812に進む。一方、所定の露出未満であると判定された場合、すなわち、Evが10以上でないと判定された場合は、ステップS810に進む。
ステップS812では、APU112が、測光画像K動きベクトル検出使用FlagをTrueに変更する処理を行い、終了する。これは、Ev値が高いことから、次回に行う蓄積Ankでは蓄積時間が4ms以内になると推定され、その蓄積時間で撮像された測光画像Kを動きベクトル検出用画像として使用するためである。
一方、ステップS810では、APU112が、測光画像K動きベクトル検出使用FlagをFalseに変更する処理を行う。これは、Ev値が低いことから、次回に行う蓄積Ankでは蓄積時間が4ms以上になると推定され、その蓄積時間で撮像された測光画像Kはブレの影響が大きくベクトル検出用画像として使用できないためである。
ステップS811では、ステップS805により撮像されたベクトル画像Kをメモリ113に記憶し保持する処理を行う。これは、今回撮像したベクトル画像Kを、次回のステップS808で使用する、前回ベクトル画像Kとして保持しておくものである。
図11および図12は、図9のステップS703で説明した、流し撮りアシストサンプリングレート優先測光処理についてのフローチャートである。本フローチャートでは、図3(C)で説明した処理を順に行っていく。
まず、ステップS901およびステップS902で測光用の画像を撮像し、ステップS903で画像の明るさを算出する。
ステップS901では、蓄積Ans処理を行う。蓄積Ans処理は、測光センサ108に対して、APU112の制御により行う。なお、その際の蓄積時間は図6(A)を用いて説明したプログラム線図に従う。また、最初の一回目の蓄積時間は、測光値がないため決定していないので、本実施例ではEv10を想定した4msとして開始するものとする。
ステップS902では、読出Ans処理を行う。読出Ans処理では、APU112が、ステップS901で蓄積した電荷に対応する信号を測光センサ108からから読み出し、測光画像Sを取得する。測光画像Sは、メモリ113に記録する。なお、読出Ans処理は、図6(A)を用いて説明したプログラム線図に従うため、Ev10以上の際は全画素駆動方式で読み出し、Ev10未満では加算読み駆動方式で読み出す。
次にステップS903では、APU112が、測光画像Sに基づいて、測光演算処理を行う。測光演算処理のアルゴリズムについては、直接、本発明の特徴とは直接関係がないため、説明を省略するが、APU112により行う。
次に、ステップS904およびステップS905で動きベクトル検出用の画像を撮像する。
ステップS904では、測光センサ108で蓄積Vns処理を行う。蓄積Vns処理は、測光センサ108に対して、APU112の制御により行う。なお、その際の蓄積時間は、図6(B)を用いて説明したプログラム線図に従う。また、最初の一回目の蓄積時間は、測光値がないため決定していないので、本実施例ではEv10を想定した4msとして開始するものとする。
ステップS905では、読出Vns処理を行う。読出Vns処理では、APU112が、ステップS904で蓄積した電荷に対応する信号を測光センサ108から読み出し、ベクトル画像Sを取得する。ベクトル画像Sは、メモリ113に記録する。なお、ベクトル画像Sは、図6(B)を用いて説明したプログラム線図に従うため、Ev10以上の際は全画素駆動方式で読み出し、Ev10未満では加算読み駆動方式で読み出す。
次に、ステップS906〜ステップS910で動きベクトルを検出する。
ステップS906では、ステップS902で取得した測光画像Sを動きベクトル検出のための画像として使用するかのどうかのFlagの判定を行う。このFlagは、メモリ113に記憶されており、APU112の制御により判定をする。なお、最初の一回目は、初期値としてTRUEとしているものとする。測光画像Sを使用すると判定した場合、すなわち、FlagがTRUEであると判定された場合、ステップS907に進む。一方、測光画像Sを使用しないと判定した場合、すなわち、FlagがFALSEであると判定された場合、ステップS910に進む。
ステップS907では、APU112が、測光画像Sの使用Typeが全画であるか、加算であるかの判定を行う。この使用Typeは、読出し駆動方式であり、最初の一回目は、初期値として全画としているものとする。二回目以降は、後述するS913およびS914において読出し駆動方式が決定されている。ステップS907で測光画像Sの使用Typeが全画であると判定した場合は、ステップS908に進む。一方、測光画像Sの使用Typeが全画でない、すなわち、加算であると判定された場合は、ステップS909に進む。
ステップS908では、測光画像Sとベクトル画像Sから、全画素駆動方式で読み出された画を比較するブロックパターンマッチングを用いて、全画動きベクトル検出演算処理を行い、動きベクトルを検出する。
ステップS909では、測光画像Sとベクトル画像Sから、加算駆動方式で読み出された画を比較するブロックパターンマッチングを用いて、加算動きベクトル検出演算処理を行い、動きベクトルを検出する。
ステップS910では、測光画像Sを使わないため、前回ベクトル画像として記憶しているベクトル画像SとステップS905で取得したベクトル画像Sから、加算動きベクトル検出演算処理を行い、動きベクトルを検出する。加算動きベクトル検出演算処理は、加算駆動で読みだされた画を比較するブロックパターンマッチングを用いて行われる。
次に、ステップS911では、APU112が、ステップS903で測光演算した結果が、所定の第1の露出以上であるか否かを判定する。本判定は、次回の読出しの駆動方式が、全画素駆動方式になるか加算読み駆動方式になるか判定するものであり、本実施例においては、Ev10以上であるかどうかの判定を行う。Evが10以上であると判定された場合は、ステップS913に進む。一方、Evが10以上でないと判定された場合は、ステップS912に進む。
ステップS913では、APU112が、測光画像Sの使用Typeを全画に変更する処理を行う。これは、次回に行う蓄積Ansでは、Evが10以上であるから、蓄積時間が4ms以内で、かつ、全画素読み駆動方式になることを判定するものである。これにより、次回のステップS907における判定で、測光画像Sの使用Typeが全画と判定され、その蓄積時間で撮像された測光画像Sを全画動きベクトル検出用画像として使用する。さらに、APU112が、測光画像K動きベクトル検出使用FlagをTrueに変更する処理を行い、終了する。
ステップS912では、APU112が、ステップS903で測光演算された結果が、所定の第2の露出以上であるか否かを判定する。本実施例においては、Ev8以上であるかどうかの判定を行う。Evが8以上であると判定された場合は、ステップS914に進む。一方、Evが8以上ない、すなわち、Evが8未満であると判定された場合は、ステップS915に進む。
ステップS914では、APU112が、測光画像Sの使用Typeを加算に変更する処理を行う。これは、次回に行う蓄積Ansでは、Evが8以上、10未満であることから、蓄積時間を4ms以内でかつ、加算読み駆動方式になることを判定するものである。これにより、次回のステップS907における判定で、測光画像Sの使用Typeが加算と判定され、その蓄積時間で撮像された測光画像Sを加算動きベクトル検出用画像として使用する。さらに、APU112が、測光画像K動きベクトル検出使用FlagをTrueに変更する処理を行い、終了する。
ステップS915では、APU112が、測光画像S動きベクトル検出使用FlagをFalseに変更する処理を行う。これは、次回に行う蓄積Ansでは、Ev値が低いことから、蓄積時間が4ms以上になると推定され、その蓄積時間で撮像された測光画像Sはブレの影響が大きくベクトル検出用画像として使用できないためである。
ステップS916では、APU112が、ステップS905で取得したベクトル画像Sを、メモリ113に記憶し保持する処理を行う。これは次回のステップS910で使用する前回ベクトル画像Sとして保持しておくものである。
また、本実施例においては、図5および図6のプログラム線図やステップS911〜ステップS914で示した通り、読出し方式は、測光の結果であるEvの値に応じて決定される。結果として、動きベクトルの検出に使用する画像を読出し方式に応じて決定することは、測光の結果に応じて決定していることになる。
図5および図6のプログラム線図で示した通り、ベクトル検出用の画像を撮像するための蓄積Vnkおよび蓄積Vnsは、画像に像ブレが生じるのを抑制するため、蓄積Vnsの蓄積時間を所定の時間より短くなるようにしている。一方、測光用の画像を撮像するための蓄積Ankおよび蓄積Ansには、像ブレを抑制するための蓄積時間の制限を設けていない。そのため、蓄積Ankおよび蓄積Ansの蓄積時間が所定の時間以上であった場合には、撮像した画像に像ブレが生じている恐れがある。像ブレが生じている画像は、動きベクトルの検出に不向きであるため、測光画像の撮像における蓄積時間が所定の時間以上であった場合には、ベクトル検出には利用しないようにする。この場合のベクトル検出は、ステップS808やステップS910のように、前回と今回のベクトル画像に基づいて行う。上記を実現するために、ステップS806やステップS906の前に測光画像の撮像における蓄積時間が所定の時間以上であるか否かの判定を行うようにしてもよい。
以上のように、本実施例によれば、複数の流し撮りアシストの設定モードそれぞれに対応する動きベクトルの検出方法で検出を行えるため、動きベクトルの検出の精度を向上させることができる。
(実施例2)
実施例2による、ペンタ部のセンサを用いて測光を行いながら、流し撮りアシストをするシステムについて説明する。実施例1ではユーザが流し撮りアシストの設定モードを設定していたが、本実施例においては、流し撮りアシストの設定モードをカメラが自動で選択する自動選択の設定がされた際に行う処理について説明をする。例えば、被写体が小さくかつ速い場合など、ユーザが自ら解像度を優先すべきかサンプリングレートを優先すべきか条件を特定できない場合に、自動選択が有効である。自動選択において、初期設定をユーザが設定するようにしてもよいし、初期設定として解像度優先が設定されるようにしてもよい。なお、実施例1の場合と同様の構成要素については詳細な説明を省略し、相違点を中心に説明する。
図13は、ステップS608の流し撮りアシスト自動選択測光処理についてのフローチャートである。まず、ステップS1001〜ステップS1003は、実施例1で説明したステップS701〜ステップS703と同じ処理を行う。
次に、ステップS1004では、APU112が、ステップS1002もしくはステップS1003により、動きベクトルが検出できたかどうかの判定を行う。ステップS1004で動きベクトル検出ができたと判定された場合は、処理を終了する。一方、動きベクトルが検出できなかったと判定された場合は、ステップS1005に進む。
ステップS1005では、APU112が、動きベクトル検出ができなかった流し撮りアシスト測光処理が、解像度優先の測光処理だったかどうかの判定を行う。解像度優先であると判定した場合は、ステップS1006に進む。一方、解像度優先でないと判定した場合は、ステップS1007に進む。
ステップS1006では、流し撮りアシストサンプリングレート優先モードで測光処理を行い終了する。ステップS1007では、流し撮り解像度優先モードで測光処理を行い終了する。これにより、一方の測光方法で動きベクトル検出ができなかった際、もう一方の方法で動きベクトル検出を行うことで、カメラが自動で効果的な測光方法を選択することができる。
以上のように、本実施例によれば、自動で流し撮りアシストの設定モードを選択することができ、動きベクトルの検出の精度を向上させることができる。
(実施例3)
実施例3による、ペンタ部のセンサを用いて測光を行いながら、流し撮りアシストをするシステムについて説明する。本実施例においては、流し撮りアシストサンプリングレート優先モードで動きベクトルが検出できなかった場合、流し撮りアシストサンプリングレート優先モードでの測光処理で使用するプログラム線図を変更する処理を行う。なお、実施例1の場合と同様の構成要素については詳細な説明を省略し、相違点を中心に説明する。
図14は、流し撮りアシスト自動線図変更測光処理についてのフローチャートである。本処理は、ステップS608の流し撮りアシスト測光処理において行われる。
まず、ステップS1101〜ステップS1103は、実施例1で説明したステップS701〜ステップS703と同じ処理を行う。
ステップS1104では、APU112が、ステップS1103で行った流し撮りアシストサンプリングレート優先測光処理で、動きベクトル検出ができたかどうかの判定を行う。動きベクトル検出ができたと判定した場合は、処理を終了する。一方、動きベクトル検出ができなかったと判定した場合は、ステップS1105に進む。
ステップS1105では、APU112が、流し撮りアシストサンプリングレート優先モードでの測光処理で利用するプログラム線図の変更処理を行い、処理を終了する。
図15は、変更後のプログラム線図の一例を示す図である。
図15(A)は、測光処理における蓄積Ans、読出Ansのプログラム線図である。蓄積Ans、読出Ansは、カメラをパンニング中に行うため、測光画像Sにも被写体のブレが起きないように、変更後は、常に加算読み駆動方式で撮像をする。この線図は、動きベクトル検出の精度低下の要因となる被写体ブレを考慮した線図で、同じ明るさにおいてなるべく速い蓄積時間で動きベクトル検出精度を上げるものである。
図15(B)は、動きベクトル検出処理における蓄積Vns、読出Vnsのプログラム線図である。蓄積Vnsの蓄積時間、読出Vnsの読出駆動方式も、測光画像Sと同じく、常に加算読み駆動方式にすることでサンプリングレートを上げて、ベクトル検出を行う。
なお、本実施例の変更後の線図では常に加算読み駆動方式のプログラム線図としたが、これに限られるものではなく、段階的に加算読み駆動方式のプログラム線図に移行する方法でもよい。例えば、1段階目の線図としてEv14から加算読み駆動方式に切り替えるプログラム線図に移行し、それでも動きベクトル検出ができない場合に、常に加算読み駆動方式のプログラム線図に移行する方法でもよい。
また、本実施例を実施例2に適用することも可能である。この場合は、ステップS1005で流し撮りアシストサンプリングレート優先モードであると判定された後に、角速度センサ202から取得された角速度が所定の値より大きいか判定する。角速度が所定の値より大きかった場合は、本実施例のように、流し撮りアシストサンプリングレート優先モードのまま、常に加算読み駆動方式になるようプログラム線図を変更する。一方、角速度が所定の値以下で会った場合は、実施例2のように、流し撮りアシスト解像度優先モードに変更する。これは、角速度が所定の値より大きい場合は、流し撮りのために本体を振る速度が速い、すなわち、被写体の移動速度が速いと推測され、動きベクトルを検出するのにサンプリングレートを上げる必要があるためである。
以上のように、本実施例によれば、動きベクトルが検出できなかった場合にも、プログラム線図を変更することで、動きベクトルの検出を可能にすることができ、動きベクトルの検出の精度を向上させることができる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、本発明の好ましい実施形態について説明したが、本発明は、これらの実施形態に限定されず、その要旨の範囲内で種々の変形および変更が可能である。
101 CPU
108 測光センサ
112 APU

Claims (14)

  1. 第1の撮像により撮像された第1の画像と、前記第1の撮像に続いて行われる第2の撮像により撮像された第2の画像を取得する取得手段と、
    前記第1の画像に基づく測光の結果に応じて、前記第1の画像または前記第2の画像のうち、動きベクトルの算出に用いる画像を決定する第1の決定手段と、
    前記決定された画像に基づいて、動きベクトルを算出する算出手段と、を備えることを特徴とする画像処理装置。
  2. 前記第1の決定手段は、前記測光の結果が、所定の露出以上であった場合、前記第1の画像および前記第2の画像を動きベクトルの算出に用いる画像として決定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記第1の決定手段は、前記測光の結果が、所定の露出未満であった場合、前記第2の画像を動きベクトルの算出に用いる画像として決定することを特徴とする請求項1または請求項2に記載の画像処理装置。
  4. 前記第1の画像に基づく測光の結果に応じて、前記取得手段の撮像における画像信号の読出し方式を、第1の読出し方式と、前記第1の読出し方式より読出し時間の短い第2の読出し方式のいずれで行うか決定する第2の決定手段をさらに備えることを特徴とする請求項1乃至3のうちいずれか1項に記載の画像処理装置。
  5. 前記第2の決定手段は、前記測光の結果が、所定の露出以上であった場合、前記第1の読出し方式を画像信号の読出し方式として決定し、前記所定の露出未満であった場合、前記第2の読出し方式を画像信号の読出し方式として決定することを特徴とする請求項4に記載の画像処理装置。
  6. 前記第1の読出し方式は、全画素読出し方式であり、前記第2の読出し方式は、加算読出し方式であることを特徴とする請求項4または請求項5に記載の画像処理装置。
  7. 前記第1の撮像および前記第2の撮像を、解像度優先モードとサンプリングレート優先モードのいずれで行うか設定する設定手段をさらに備えることを特徴とする請求項1乃至6のうちいずれか1項に記載の画像処理装置。
  8. 前記設定手段は、サンプリングレート優先モードで動きベクトルを検出できなかった場合は解像度優先モードに設定を変更し、解像度優先モードで動きベクトルを検出できなかった場合はサンプリングレート優先モードに設定を変更することを特徴とする請求項7に記載の画像処理装置。
  9. サンプリングレート優先モードで動きベクトルを検出できなかった場合、前記取得手段は、加算読出し方式で画像信号を読み出すことを特徴とする請求項7に記載の画像処理装置。
  10. 第1の撮像により撮像された第1の画像と、前記第1の撮像に続いて行われる第2の撮像により撮像された第2の画像を取得する取得手段と、
    前記第1の画像または前記第2の画像のうち、動きベクトルの算出に用いる画像を決定する決定手段と、
    前記決定された画像に基づいて、動きベクトルを算出する算出手段と、を備え、
    前記取得手段は、前記第1の撮像または前記第2の撮像において、第1の読出し方式と、前記第1の読出し方式より読出し時間の短い第2の読出し方式のいずれかの方式で画像信号の読出しを行い、
    前記決定手段は、読出し方式に応じて、動きベクトルの算出に用いる画像を決定することを特徴とする画像処理装置。
  11. 前記読出し方式は、前記第1の画像に基づく測光の結果に応じて決定されることを特徴とする請求項10に記載の画像処理装置。
  12. 前記決定手段は、前記第1の撮像における蓄積時間が、所定の時間以上であった場合、前記第2の画像を動きベクトルの算出に用いる画像として決定することを特徴とする請求項10または請求項11に記載の画像処理装置。
  13. 請求項1乃至12のうちいずれか1項に記載の画像処理装置と、
    前記第1の画像と前記第2の画像を撮像する撮像手段と、を備えることを特徴とする撮像装置。
  14. 第1の撮像により撮像された第1の画像と、前記第1の撮像に続いて行われる第2の撮像により撮像された第2の画像を取得する取得工程と、
    前記第1の画像に基づく測光の結果に応じて、前記第1の画像または前記第2の画像のうち、動きベクトルの算出に用いる画像を決定する決定工程と、
    前記決定された画像に基づいて、動きベクトルを算出する算出工程と、を有することを特徴とする画像処理装置の制御方法。
JP2017030878A 2017-02-22 2017-02-22 画像処理装置、撮像装置および画像処理装置の制御方法 Active JP6851854B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017030878A JP6851854B2 (ja) 2017-02-22 2017-02-22 画像処理装置、撮像装置および画像処理装置の制御方法
US15/901,027 US10594938B2 (en) 2017-02-22 2018-02-21 Image processing apparatus, imaging apparatus, and method for controlling image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017030878A JP6851854B2 (ja) 2017-02-22 2017-02-22 画像処理装置、撮像装置および画像処理装置の制御方法

Publications (3)

Publication Number Publication Date
JP2018137613A true JP2018137613A (ja) 2018-08-30
JP2018137613A5 JP2018137613A5 (ja) 2020-04-09
JP6851854B2 JP6851854B2 (ja) 2021-03-31

Family

ID=63166181

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017030878A Active JP6851854B2 (ja) 2017-02-22 2017-02-22 画像処理装置、撮像装置および画像処理装置の制御方法

Country Status (2)

Country Link
US (1) US10594938B2 (ja)
JP (1) JP6851854B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020053756A (ja) * 2018-09-25 2020-04-02 キヤノン株式会社 撮像装置およびその制御方法
JP2020061633A (ja) * 2018-10-09 2020-04-16 キヤノン株式会社 撮像装置およびその制御方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9521395B2 (en) 2011-10-04 2016-12-13 Canon Kabushiki Kaisha Imaging apparatus and method for controlling same
JP7158880B2 (ja) * 2018-04-04 2022-10-24 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3627872B2 (ja) 1994-07-22 2005-03-09 ソニー株式会社 動きベクトル検出方法及び装置
JP2006317848A (ja) 2005-05-16 2006-11-24 Canon Inc 静止画撮像装置
CN101317445B (zh) * 2006-02-20 2011-02-09 松下电器产业株式会社 摄像装置和摄像装置本体
JP5061188B2 (ja) * 2007-07-09 2012-10-31 パナソニック株式会社 デジタル一眼レフカメラ
US8063942B2 (en) * 2007-10-19 2011-11-22 Qualcomm Incorporated Motion assisted image sensor configuration
US8265160B2 (en) * 2009-06-29 2012-09-11 Nxp B.V. Parallel three-dimensional recursive search (3DRS) meandering algorithm
JP5882593B2 (ja) * 2011-03-14 2016-03-09 キヤノン株式会社 撮像装置
US20140321696A1 (en) * 2011-11-22 2014-10-30 The Trustees Of Dartmouth College Perceptual Rating Of Digital Image Retouching
JP6062656B2 (ja) * 2012-05-02 2017-01-18 キヤノン株式会社 撮像装置、制御方法、及びプログラム
JP6666841B2 (ja) * 2014-08-29 2020-03-18 ソニーセミコンダクタソリューションズ株式会社 撮像制御装置、撮像装置、および、撮像装置の制御方法
JP6518452B2 (ja) * 2015-02-05 2019-05-22 オリンパス株式会社 撮像装置及び撮像方法
JP6704679B2 (ja) * 2015-05-01 2020-06-03 キヤノン株式会社 制御装置、光学機器、制御方法、プログラム、および、記憶媒体
US10313600B2 (en) * 2015-10-13 2019-06-04 Canon Kabushiki Kaisha Imaging device capable of simultaneously capturing of a motion image and a static image and imaging method
US10205885B2 (en) * 2016-01-26 2019-02-12 Canon Kabushiki Kaisha Image capturing apparatus for controlling shutter speed during panning shooting and method for controlling the same

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020053756A (ja) * 2018-09-25 2020-04-02 キヤノン株式会社 撮像装置およびその制御方法
JP7229709B2 (ja) 2018-09-25 2023-02-28 キヤノン株式会社 撮像装置およびその制御方法
JP2020061633A (ja) * 2018-10-09 2020-04-16 キヤノン株式会社 撮像装置およびその制御方法
JP7224839B2 (ja) 2018-10-09 2023-02-20 キヤノン株式会社 撮像装置およびその制御方法

Also Published As

Publication number Publication date
US10594938B2 (en) 2020-03-17
JP6851854B2 (ja) 2021-03-31
US20180241946A1 (en) 2018-08-23

Similar Documents

Publication Publication Date Title
JP6512810B2 (ja) 撮像装置および制御方法とプログラム
JP6062656B2 (ja) 撮像装置、制御方法、及びプログラム
WO2018101092A1 (ja) 撮像装置およびフリッカ判定方法
JP6851854B2 (ja) 画像処理装置、撮像装置および画像処理装置の制御方法
JP6827801B2 (ja) 撮像装置および制御方法
JP2017215525A (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
US9781330B2 (en) Focus detection apparatus and control method for focus detection apparatus
JP2017211487A (ja) 撮像装置及び自動焦点調節方法
JP6076106B2 (ja) 撮像装置及び撮像方法
JP2015055635A (ja) 撮像装置及びその制御方法
JP2015031743A (ja) 露出制御装置、その制御方法、および制御プログラム、並びに撮像装置
JP2020167626A (ja) 撮像装置およびその制御方法
JP5418010B2 (ja) 撮像装置および追尾方法
JP6478587B2 (ja) 画像処理装置、画像処理方法およびプログラム、並びに撮像装置
JP2021182698A (ja) 撮像装置及びその制御方法
JP5446660B2 (ja) 画像認識装置、および、撮像装置
JP6768372B2 (ja) 撮像装置、その制御方法、及びプログラム
JP2017005495A (ja) 撮像装置、その制御方法、及びプログラム
JP5762037B2 (ja) 撮像装置及び制御方法
JP7254555B2 (ja) 撮像装置および撮像装置の制御方法
JP2004037732A (ja) デジタルカメラ
JP2001165622A (ja) 光学装置
JP2018207455A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2017103589A (ja) 撮像装置、その制御方法、および制御プログラム
JP4282404B2 (ja) カメラ

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200221

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201022

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210310

R151 Written notification of patent or utility model registration

Ref document number: 6851854

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151