JP2018010165A - 像振れ補正装置およびその制御方法、ならびに撮像装置 - Google Patents

像振れ補正装置およびその制御方法、ならびに撮像装置 Download PDF

Info

Publication number
JP2018010165A
JP2018010165A JP2016138903A JP2016138903A JP2018010165A JP 2018010165 A JP2018010165 A JP 2018010165A JP 2016138903 A JP2016138903 A JP 2016138903A JP 2016138903 A JP2016138903 A JP 2016138903A JP 2018010165 A JP2018010165 A JP 2018010165A
Authority
JP
Japan
Prior art keywords
motion vector
image blur
determined
motion
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016138903A
Other languages
English (en)
Inventor
龍弥 山崎
Tatsuya Yamazaki
龍弥 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016138903A priority Critical patent/JP2018010165A/ja
Priority to US15/646,604 priority patent/US10284782B2/en
Publication of JP2018010165A publication Critical patent/JP2018010165A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

【課題】機器の振れを表す信号を用いて、被写体または背景に関する動きベクトルを判別して像振れ補正する像振れ補正装置およびその制御方法において、動きベクトルの判別精度を高めること。【解決手段】機器の振れを表す信号が表す動きと、画像間で検出された動きベクトルそれぞれとの差分を算出する。そして、差分の時間的変化が予め定められた閾値より小さいと判定される動きベクトルを背景領域の動きベクトルと判定する。また、背景領域の動きベクトル以外の動きベクトルから、被写体領域の動きベクトルを判定する。そして、被写体領域の動きベクトルに基づいて像振れ補正を制御する。【選択図】 図5

Description

本発明は主に、カメラ等の光学機器に搭載可能な像振れ補正装置およびその制御方法、並びに撮像装置に関する。
移動被写体のスピード感を表現する撮影技術として流し撮りがある。流し撮りを成功させるには、露光中、撮像面上の被写体の動きに合わせてカメラをパンニングしなければならないが、容易ではない。
そのため、手振れ補正技術を応用した流し撮りアシスト機能が提案されている(特許文献1)。特許文献1の流し撮りアシスト機能は、カメラのパンニング中に撮影された画像から検出される動きベクトルに基づく、移動被写体とカメラの動きとのずれを補正するように手振れ補正用のシフトレンズを駆動することで、移動被写体の像振れを抑制する。
特開2006−317848号公報
このような流し撮りアシスト機能においては、静止させたい被写体領域と、背景領域とを判別する必要がある。特許文献1では、周囲よりも動きベクトルが小さい領域を被写体領域として検出し、被写体領域の動きベクトル(被写体ベクトル)を移動被写体とカメラの動きのずれとして検出している。
一方、カメラやレンズに設けられる角速度センサ(例えばジャイロセンサ)などが出力する、機器の振れを表す信号が表す動きの大きさは、背景領域の動きベクトル(背景ベクトル)の大きさと原理的に一致する。そのため、センサが出力する信号を利用して背景ベクトルを特定することもできる。しかし、パンニング速度が遅い場合など、被写体ベクトルと背景ベクトルとの差が小さい場合には、信号に含まれるオフセット成分の影響で、背景ベクトルを被写体ベクトルと誤検出する可能性がある。オフセット成分はセンサの出力信号に例えばHPFを適用してDC成分を除去することで低減することはできるが、オフセット成分だけでなくパンニングに関する周波数成分も低減されるため、パンニング速度の測定精度が低下する。
本発明は、機器の振れを表す信号を用いて、被写体または背景に関する動きベクトルを判別して像振れ補正する像振れ補正装置およびその制御方法において、動きベクトルの判別精度を高めることを目的とする。
上述の目的は、機器の振れを表す信号を取得する取得手段と、画像間で動きベクトルを検出する検出手段と、信号が表す動きと、動きベクトルそれぞれとの差分を算出する算出手段と、差分の時間的変化が予め定められた閾値より小さいと判定される動きベクトルを背景領域の動きベクトルと判定し、検出手段が検出した動きベクトルのうち、背景領域の動きベクトルと判定した動きベクトル以外の動きベクトルから、被写体領域の動きベクトルを判定する判定手段と、被写体領域の動きベクトルに基づいて、像振れ補正を行う補正手段を制御する制御手段と、を有することを特徴とする像振れ補正装置によって達成される。
このような構成により、本発明によれば、機器の振れを表す信号を用いて、被写体または背景に関する動きベクトルを判別して像振れ補正する像振れ補正装置およびその制御方法において、動きベクトルの判別精度を高めることが可能になる。
第1実施形態に係る像振れ補正装置を備えたデジタルカメラの機能構成例を示すブロック図 実施形態に係る流し撮りアシスト動作に関するフローチャート オフセット成分による動きベクトルの誤判別に関して説明するための図 第1実施形態におけるカメラ制御部の動作に関するフローチャート 第1実施形態における被写体判定処理に関するフローチャート パンニング時の角速度センサ出力と背景ベクトルの変化を模式的に示す図 第2実施形態に係る像振れ補正装置を備えたデジタルカメラの機能構成例を示すブロック図 第2実施形態における被写体判定処理に関するフローチャート
以下、本発明の例示的な実施形態のいくつかを、添付図面に基づいて詳細に説明する。なお、以下では本発明の実施形態に係る像振れ補正装置をデジタルカメラに適用した例に関して説明するが、本発明において撮像や撮像画像の記録に関する機能は必須でない。本発明は、動きベクトルを検出するための複数の画像と、像振れを抑制するための可動部材(例えばシフトレンズ)の駆動制御が可能な任意の電子機器や光学機器において実施可能である。このような電子機器の非限定的な例には、デジタルスチルまたはビデオカメラ、銀塩スチルカメラなどの撮像装置、パーソナルコンピュータ、ゲーム機、携帯電話機、携帯情報端末、カーナビゲーションシステム、ドライブレコーダ、ロボットなどが含まれる。また、本発明を実施可能な光学機器の非限定的な例には、交換レンズ、アタッチメントレンズ、双眼鏡、望遠鏡などが含まれる。また、像振れ補正装置の方式は、撮像素子やシフトレンズを駆動する光学式であっても、画素の切り出し位置を制御する電子式であってもよい。また、光学式と電子式とを併用してもよい。
●(第1実施形態)
図1は本発明の第1実施形態に係る像振れ補正装置を備えたデジタルカメラの構成例を示す図である。ここでは、レンズ交換型のデジタルカメラとするが、レンズ一体型のデジタルカメラであってもよい。
像振れ補正機能を有する交換レンズ100は、カメラ本体部120に装着可能な光学機器である。交換レンズ100は、主撮影光学系102、焦点距離を変更可能なズームレンズ103、およびシフトレンズ104から成るレンズユニット101を備える。
ズームエンコーダ105はズームレンズ103の位置を検出し、検出信号をレンズ制御部113に出力する。レンズ制御部113は例えばマイクロコンピュータを有し、マイクロコンピュータによってメモリに記憶されたプログラムを実行することにより、像振れ補正機能を含む、交換レンズ100の動作を制御する。レンズ制御部113は、ズームエンコーダ105から取得した検出信号から、レンズユニット101の焦点距離を得ることができる。レンズ制御部113はマウント接点部116、161を通じてカメラ本体部のカメラ制御部132と通信する。また、シフトレンズ104は、レンズユニット101の光軸と垂直方向に移動可能である。シフトレンズ104を振れを相殺するように駆動することにより、像振れを光学的に補正する。
角速度センサ(以下、ジャイロ)111は、機器(この場合はカメラ本体部120および交換レンズ100)の振れを検出し、振れを表す振れ信号をレンズ制御部113に出力する。レンズ制御部113は振れ信号をA/D変換し、ジャイロデータとして取得する。なお、ジャイロ111はカメラ本体部120に設けられてもよい。
また、レンズ制御部113は、手振れ補正制御を行う手振れ補正制御部117と、流し撮りアシスト用の制御を行う流し撮り制御部118を備える。手振れ補正制御部117および流し撮り制御部118は、レンズ制御部113のマイクロプロセッサがプログラムを実行することによって実現される。
レンズ制御部113はその他にもフォーカスレンズ制御、絞り制御等も行うが、簡略化のために図示を省略する。ドライバ114はレンズ制御部113からの制御信号に従った駆動方向および駆動量で、シフトレンズ104を駆動する。ドライバ114は、補正部材としてのシフトレンズ104と、シフトレンズ104を駆動するための機構部材(アクチュエータなど)とともに像振れ補正部を構成する。
アンプ115は、シフトレンズ104の位置センサ106の出力を増幅してレンズ制御部113に出力する。なお、本実施形態では、直交する2軸(例えば横方向と縦方向)に関して振れの検出および像振れ補正を行うものとするが、軸が異なっても同じ方法で実施可能であるため、以下では1軸に関する像振れ補正に関して説明する。
カメラ本体部120は、露出制御に用いるシャッター121や、CMOS(相補型金属酸化膜半導体)センサ等の撮像素子122を備える。撮像素子122の出力する撮像信号は、アナログ信号処理回路123で処理された後、カメラ信号処理回路124に送られる。タイミングジェネレータ(TG)125は、撮像素子122やアナログ信号処理回路123の動作タイミングを設定する。
操作部131は、ユーザがカメラ本体部120に各種の入力を行うための入力デバイス群である。操作部131には、例えばスイッチ、ボタン、レバー、タッチパネル等の物理的な操作を必要とする入力デバイスだけでなく、音声入力や視線入力を受け付ける入力デバイスが含まれてもよい。操作部131には例えば電源スイッチ、レリーズスイッチ、流し撮りアシストモードを有効とするか否かの切り替えスイッチ等が含まれる。また、操作部131は、レリーズボタンのハーフストロークでONになるスイッチ(SW1)と、フルストロークでONになるスイッチ(SW2)を有している。なお、レリーズボタンは静止画の撮影に用いられ、動画の撮影については動画記録ボタンが別途用意されていてもよい。
SW1のONは撮影準備動作の開始指示である。撮影準備動作には、AF(オートフォーカス)処理およびAE(自動露出)処理が含まれる。AE処理やAF処理は、例えばライブビュー表示用の画像から得られる情報に基づいてカメラ制御部132が実施することができる。
また、SW2のONは記録用画像の撮影動作の開始指示である。生成された記録用画像はカメラ信号処理回路124で必要に応じて符号化処理を行ったのち、記録形式に応じたデータファイルに格納し、メモリカード171に記録される。
カメラ制御部132は、は例えばマイクロコンピュータを有し、マイクロコンピュータによってメモリに記憶されたプログラムを実行することにより、カメラ本体部120全体の動作を制御する。例えば、カメラ制御部132はシャッター用のドライバ133に制御信号を出力し、シャッター駆動用のモータ134を駆動制御する。メモリカード171は撮影された画像のデータを記録する記録媒体である。
表示部172は、液晶パネル(LCD)等の表示デバイスを備え、ビューファインダーとして機能したり、撮影した画像を表示するために用いられたりする。カメラ本体部120は、交換レンズ100とのマウント接点部161を備える。レンズ制御部113とカメラ制御部132は、マウント接点部116および161を介して所定のタイミングでシリアル通信を行う。
カメラ信号処理回路124は、アナログ信号処理回路123が出力する撮像信号に対してホワイトバランス調整やデモザイク処理などのいわゆる現像処理などを適用する。また、RGB−YCbCr変換などの信号形式の変換、記録形式に応じた符号化および復号、画像の縮小および拡大、画像の合成、色調の調整、AF評価値の生成、特定被写体の検出および認識処理など、様々な画像処理を実行することができる。代表的な特定被写体は人物の顔であり、特定被写体の認識処理は表情や個人の認識であるが、これらに限定されない。カメラ信号処理回路124は動きベクトル検出部141を備え、異なるタイミングで撮影された複数の画像間で領域ごとの動きベクトルを検出する。
2つのフレーム画像間で動きベクトルを検出する方法としては、公知のテンプレートマッチング法を用いることができる。2枚のフレーム画像のうち基準とする一方(例えば先に撮影された一方)を基準画像、他方を参照画像とする。そして、基準画像における所定のサイズの矩形領域をテンプレート枠として設定し、参照画像には相関値を算出するための、テンプレート枠より大きな矩形領域をサーチ範囲としてテンプレート枠ごとに設定する。これにより、テンプレート枠ごとに動きベクトルが検出される。
動きベクトル検出部141による動きベクトルの検出結果はカメラ制御部132に出力される。なお、カメラ信号処理回路124の機能の少なくとも一部は、FPGAやASICのようなハードウェアで実現されてもよいし、例えばカメラ信号処理回路124が有するプロセッサがプログラムを実行することによって実現されてもよい。
カメラ制御部132は、ヒストグラム作成部150と、被写体判定部151と、流し撮りにおいて静止させたい被写体を静止させるためのカメラのパンニング角速度(以下、被写体角速度という)を算出する被写体角速度算出部152とを備える。ヒストグラム作成部150は、動きベクトル検出部141の出力から、動きベクトルの大きさの頻度分布(ヒストグラム)を生成する。
被写体判定部151は、動きベクトルのヒストグラムと、レンズ制御部113から受信するジャイロデータとを用いて、被写体の動きベクトル(被写体ベクトル)を判定する。また、被写体角速度算出部152は、被写体判定部151で判定された被写体ベクトルを角速度に換算する。被写体角速度算出部152は、動きベクトルを角速度に換算する際、レンズユニット101の焦点距離、動きベクトルの検出に用いた画像の撮影間隔(またはフレームレート)、撮像素子122の画素ピッチなどを用いる。被写体角速度算出部152は、換算された角速度と、受信するジャイロデータとに基づいて、被写体角速度を算出する。
操作部131の電源スイッチが電源ON状態に操作されると、カメラ制御部132が操作を検出し、カメラ本体部120の各部への電源供給を開始させるとともに、初期設定処理を実行する。マウント接続部161、106を通じて交換レンズ100へも電源供給が開始される。
交換レンズ100への電源供給が開始されるとレンズ制御部113がこれを検知し、交換レンズ100の初期設定処理を実行する。そしてレンズ制御部113とカメラ制御部132との間で、所定の手順に従って通信を確立する。このレンズ−カメラ間通信を用い、カメラ本体部120から交換レンズ100へはカメラ本体部の状態や撮影の設定に関する情報などが送信される。また交換レンズ100からカメラ本体部120へは交換レンズ100の焦点距離や絞り値などの情報、ジャイロデータなどが送信される。
さらに、流し撮りアシストが有効である場合、カメラ本体部120から交換レンズ100に対して、流し撮りアシストが有効であるという情報と、被写体角速度算出部152が算出した被写体角速度の情報とが送信される。レンズ制御部113は、流し撮りアシストが有効である場合にはシフトレンズ104の駆動制御を流し撮り制御部118で実行し、流し撮りアシストが有効でない場合には、シフトレンズ104の駆動制御を手振れ補正制御部117で実行するように決定する。
図1において、カメラ制御部132、カメラ信号処理回路124、レンズ制御部113が像振れ補正装置を構成する。ただし、像振れ補正に関するレンズ制御部113の機能はカメラ制御部132で実施することも可能であるため、カメラ制御部132とカメラ信号処理回路124で像振れ補正装置を構成することができる。
図2は、流し撮りアシストが有効である場合の、レンズ制御部113およびカメラ制御部132の動作の概略を示したフローチャートである。ここでS201〜S207はレンズ制御部113内の動作を示し、S211〜S216はカメラ制御部132内の動作を示している。本実施形態のデジタルカメラは、静止画撮影モードのスタンバイ状態において、動画撮影と撮影した動画の表示とを逐次実行し、表示部172をビューファインダとして機能させる。図2に示す処理は、流し撮りアシストが有効な静止画撮影モードのスタンバイ状態およびSW1がONの状態で実行することができる。
レンズ制御部113は、角速度センサ(ジャイロ)111の出力を例えば4kHzのサンプリング周波数で継続的にサンプリングしている。S201において、レンズ制御部113は、カメラ本体部120が動きベクトル検出を行う2フレームの画像の撮影時刻(t1,t2とする)の経過期間(t1〜t2)に取得したジャイロデータの平均値をカメラへ送信する。ここで送信されるジャイロデータ421は、ジャイロ111のオフセットを含んでいる。
カメラ制御部132はS211でジャイロデータ421を受信する。S212において被写体角速度算出部152は、S211で受信したジャイロデータと、被写体判定部151で判定した被写体ベクトルから被写体角速度を算出し、S213で被写体角速度をレンズ制御部113に送信する。ここで送信される被写体角速度422は、ジャイロ111のオフセットを含んでいる。
S202でレンズ制御部113は、カメラ制御部132から被写体角速度422を受信する。静止画撮影の開始指示(SW2のON)がS203、S214で検出されるまで、レンズ制御部113ではS201〜S202を繰り返し実行し、カメラ制御部132ではS211〜S213を繰り返し実行する。なお、図2では便宜上レンズ制御部113がSW2のONを検出するように記載しているが、実際にはカメラ制御部132がSW2のONをS214で検出すると、レンズ制御部113に通知する。
SW2のONを検出すると、S215でカメラ制御部132は静止画撮影の処理を開始する。カメラ制御部132はドライバ133を通じてモータ134を駆動制御し、シャッター121を開いて撮像素子122の露光を開始する。また、レンズ制御部113は、S204で、直前に受信した被写体角速度から、現時点のジャイロデータを減算して、シフトレンズ104の駆動目標値を算出する。なお、露光開始時にレンズ制御部113は、レンズユニット内の絞りを駆動してもよい。
S205でレンズ制御部113は、ドライバ114へ駆動目標値に基づく駆動信号を出力し、シフトレンズ104を駆動する。レンズ制御部113は、S204およびS205における駆動目標値の算出およびシフトレンズ104の駆動を、静止画撮影の露光期間が終了するまで継続して実行する。
S216でカメラ制御部132は露光期間の終了を待機し、露光期間が終了するとシャッター121を閉じ、処理をS211に戻して、スタンバイ状態の動作を継続する。また、S216でカメラ制御部132は露光期間の終了をレンズ制御部113に通知する。S207で露光期間の終了を通知されるとレンズ制御部113はシフトレンズ104を中心位置に戻す。
このように、流し撮りアシスト機能が有効の場合、デジタルカメラのパンニングと、被写体の動きとのずれをシフトレンズ104の動きで補正し、被写体領域の像振れを抑制する。
ここで、本発明が解決しようとする課題について説明する。
流し撮りアシストに用いるジャイロデータはジャイロのオフセットを含んでいるが、ジャイロデータに基づいて算出される被写体角速度もまたジャイロのオフセットを含んでいる。S204で算出されるシフトレンズ104の駆動目標値は、オフセットを含んだ被写体角速度から、オフセットを含んだジャイロデータを減算することで得られるため、駆動目標値はオフセットを含んでいない。つまり、ジャイロデータにオフセットが含まれていても、流し撮りアシスト動作には影響を与えない。
しかし、被写体の動きベクトル(被写体ベクトル)と背景の動きベクトル(背景ベクトル)とを判別する際にはジャイロデータそのものを用いるため、ジャイロデータに含まれるオフセットの影響が生じうる。特に、パンニング速度が遅い場合のように、被写体ベクトルと背景ベクトルとの大きさの差が小さい場合に、オフセットの影響により背景ベクトルを被写体ベクトルと誤判定してしまう場合がある。このような誤判定がなされると、背景の振れを抑制するようにシフトレンズが駆動されるため、被写体の像が振れ、背景が静止した画像が得られてしまう。
図3を用いて、この誤判定についてより具体的に説明する。図3は、動きベクトル検出部141が画像の領域ごとに検出した動きベクトルについてヒストグラム作成部150が生成した、1軸方向の動きベクトルの大きさの頻度分布を表すヒストグラムの例を示す。図3(a)はパンニング速度が速い(被写体角速度が大きい)場合、図3(b)はパンニング速度が遅い場合の例である。
また、図3(a)および図3(b)には、動きベクトルの検出に用いられた2画像の撮影時刻を始点と終点とする期間に計測されたジャイロデータを動きベクトルの大きさに換算した値の、オフセットを含む場合(上)と含まない場合(下)の分布範囲を示した。パンニング速度が速い場合、背景ベクトルと被写体ベクトルとは大きさの差が大きい。そのため、ジャイロデータにオフセットが含まれている場合と含まれていない場合とで、ジャイロデータに値が近い動きベクトル群に変化がない。そのため、動きベクトルのうち、ジャイロデータとの差分が大きく、かつ大きさが0に近い動きベクトルを被写体ベクトルと判定すれば、ジャイロデータにオフセットが含まれていても正しく判定ができる。
しかしながら、パンニング速度が遅い場合には、ジャイロデータにオフセットが含まれている場合と含まれていない場合とでは、ジャイロデータに値が近い動きベクトル群が異なる。図3(b)の例では、ジャイロデータにオフセットが含まれている場合、ジャイロデータとの差分が大きい動きベクトルは背景ベクトルであるため、背景ベクトルを被写体ベクトルと誤判定してしまう。
本発明は、図3(b)に示すような状況においても正しい判定を実現する。以下、具体的な手法について説明する。図4はカメラ制御部132の流し撮りアシスト動作に関するフローチャートを示している。
S401でカメラ制御部132は、動きベクトルの検出に用いる前フレームと現フレームとの間に計測されたジャイロデータのレベル(ここでは平均値)をレンズ制御部113から取得する。平均値を用いるのは、動きベクトルとジャイロデータの検出タイミングを合わせるためである。
S402でカメラ制御部132は、カメラ信号処理回路124の動きベクトル検出部141で検出された動きベクトルのデータを取得する。
S403でカメラ制御部132(ヒストグラム作成部150)は、動きベクトルの大きさに関するヒストグラムを作成する。
S404でカメラ制御部132は、S403で作成したヒストグラムにおいて、頻度が所定値を超えた動きベクトルが存在するかどうか(頻度にピークが存在するかどうか)を判定する。カメラ制御部132は、頻度が所定値を超えた動きベクトルが存在すると判定されればS405へ、判定されなければS410へ、処理を進める。
S405でカメラ制御部132は、S401で取得したジャイロデータの平均値が所定値以下かどうか判定し、所定値以下と判定されればS406へ、判定されなければS407へ、処理を進める。ここで用いる所定値は例えば、被写体ベクトルと背景ベクトルとの大きさに十分な差があり、ジャイロ111のオフセットが存在しても上述した誤判定が生じないと判定されるパンニング速度に相当する値として決定することができる。
S406でカメラ制御部132(被写体判定部151)は、被写体判定処理を実行し、動きベクトル検出部141で検出された動きベクトルから、被写体ベクトルを判定し、処理をS408に進める。被写体判定処理の詳細は図5を用いて後述する。
S407でカメラ制御部132は、通常の被写体判定処理を実行し、処理をS408に進める。具体的には、カメラ制御部132は、頻度がピーク値を有する動きベクトルのうち、ジャイロデータの平均値との差分が大きく、かつ大きさが0に近い動きベクトルが存在すれば、被写体ベクトルと判定する。ジャイロデータの平均値が所定値以下と判定されない場合は、パンニング速度が速い場合であるため、ジャイロデータにオフセットが含まれていても通常の判定で正しい判定結果が得られる。
なお、頻度がピーク値を有する動きベクトルが複数存在する場合、大きさが最も0に近い動きベクトルを被写体ベクトルと判定するか、大きさが所定値未満でピーク値が最も高い動きベクトルを被写体ベクトルと判定するかは適宜定めることができる。また、ヒストグラムにおいて隣接する複数のビンの頻度が所定値を超える場合、それらの平均値を被写体ベクトルとするなどしてもよい。
S408においてカメラ制御部132は、S406またはS407で被写体ベクトルが判定されたかどうかを判定し、判定されたと判定されればS409へ、判定されたと判定されなければS410へ、処理を進める。
S409でカメラ制御部132(被写体角速度算出部152)は、S406あるいはS407で判定された被写体ベクトルと、S401で取得したジャイロデータの平均値とから被写体角速度を算出し、処理をS411に進める。
S410でカメラ制御部132は、被写体角速度を0に設定し、処理をS411に進める。被写体角速度が0の場合、レンズ制御部113は流し撮りアシストが有効であっても通常の手振れ補正動作を実行する。
なお、ここでは1軸方向の処理について説明したが、実際には複数の軸のそれぞれについてS403〜S410の処理を行い、軸ごとに被写体角速度が算出される。カメラ制御部132は算出した被写体角速度をS411でレンズ制御部113に送信する。
S412でカメラ制御部132は、SW2がONかどうかを判定し、ONと判定されれば処理をS413に進め、ONと判定されなければ処理をS401に戻してS401〜S411を繰り返し実行する。
S413でカメラ制御部132は記録用画像の撮影処理を開始する。カメラ制御部132はドライバ133を通じてモータ134を駆動制御し、シャッター121を開いて撮像素子122の露光を開始する。
S414でカメラ制御部132は露光期間の経過を待機し、露光期間が経過すると処理をS401に戻す。またカメラ制御部132は、記録用画像データの生成および記録に関する制御を行う。
次に、S406で実施する、パンニング速度が遅い場合(ジャイロデータの平均値が所定値以下の場合)の被写体判定処理について、図5のフローチャートを用いて説明する。
S501でカメラ制御部132(被写体判定部151)は、S403で生成したヒストグラムで、出現頻度が所定値以上の動きベクトルのそれぞれについて、S401で取得したジャイロデータの平均値との差分を算出してメモリに記憶する。なお、被写体判定部151は、動きベクトルを角速度に換算するか、ジャイロデータを動きの大きさに換算して差分を算出する。
S502で被写体判定部151は、差分を算出した回数(S501の実行回数)をメモリに記憶する。
S503で被写体判定部151は、メモリに記憶した差分算出回数が所定回数以上かどうか判定し、所定回数以上と判定されればS504へ、判定されなければS513へ、処理を進める。
S504で被写体判定部151は、メモリに記憶した差分の時間的変化に関する評価値を、動きベクトルごとに算出する。評価値の種類に制限はないが、例えば差分の最大値と最小値の差や、差分の分散などであってよい。なお、頻度が所定値以上となる動きベクトルの大きさは時間と共に変化することがある。そのため、同じ大きさの動きベクトルについて差分が算出されていない場合には、大きさの差が所定の範囲内である動きベクトルを同じ動きベクトルとみなし、差分の時間的変化を評価することができる。
S505で被写体判定部151は、差分の時間的変化が閾値未満の動きベクトルがあるかどうか判定する。閾値には、差分の時間的変化が十分に少ないと判定するための値を、評価値に応じて適宜定めることができる。被写体判定部151は、差分の時間的変化が閾値未満の動きベクトルが1つでもあると判定されればS506へ、判定されなければS513へ、処理を進める。
なお、S504〜S505の処理は、他の方法で行ってもよい。例えば、今回算出した差分との差が閾値以内である差分が所定回数継続して算出されていれば、今回算出した差分に対応する動きベクトルを、差分の時間的変化が閾値未満の動きベクトルと判定してもよい。
S513で被写体判定部151は、S407と同様に通常の被写体判定処理を実行し、被写体判定処理を終了する。
S506で被写体判定部151は、差分の時間的変化が閾値未満の動きベクトルの大きさが0かどうか判定し、0と判定されればS512へ、判定されなければS507へ、処理を進める。
S507で被写体判定部151は、差分の時間的変化が閾値未満で、大きさが0でない動きベクトルを背景ベクトルと判定し、処理をS508に進める。
図6(a)は、左から右に等速度で移動する被写体について、撮影者の観察角度と見かけの角速度との関係を示している。また、図6(b)は、図6(a)における、A、B、Cの時点での検出された動きベクトルと、ジャイロデータが表す動きの大きさとの関係を模式的に示している。図6に示すように、被写体が撮影者の前を横切る場合、背景ベクトルと被写体ベクトルの差分は変動するのに対し、オフセットを含むジャイロデータが表す動きの大きさと、背景ベクトルの大きさとの差分(図6(b)のd)は一定となる。そのため、ジャイロデータが表す動きの大きさとの差分の時間的変化が十分に少ない大きさを有する動きベクトルを、背景ベクトルとして判定することができる。
S508で被写体判定部151は、S507で背景ベクトルと判定した動きベクトル以外に、差分を算出している動きベクトルがあるか否かを判定し、あると判定されればS509へ、あると判定されなければS512へ、処理を進める。
S512で被写体判定部151は、被写体なしと判定し、被写体判定処理を終了する。S512が実行されるのは、パンニングが行われていない場合(S506,Yes)か、被写体ベクトルが存在しない場合(S508,No)である。
S509で被写体判定部151は、背景ベクトルと判定した動きベクトル以外で差分を算出している動きベクトルが複数あるかどうかを判定し、複数あると判定されればS510へ、判定されなければS511へ、処理を進める。
S510で被写体判定部151は、差分を算出している(すなわち、頻度が所定値以上の)複数の動きベクトルのうち、大きさが0に最も近い(大きさが最小)の動きベクトルを被写体ベクトルと判定し、被写体判定処理を終了する。
また、S511で被写体判定部151は、背景ベクトルと判定した動きベクトル以外の、差分を算出している(すなわち、頻度が所定値以上の)動きベクトルを被写体ベクトルと判定し、被写体判定処理を終了する。
S406で実施する被写体判定処理では、動作開始から差分が所定回数算出されるまでは差分の時間的変化に基づく動きベクトルの判定が行われないが、差分が所定回数算出された後は、直近の所定回数分の差分に基づいて動きベクトルの判定が可能である。
以上説明したように、本実施形態によれば、画像間で検出された複数の動きベクトルの大きさと、機器の振れを検出するセンサの出力が表す動きの大きさとの差分の時間的変化に基づいて、背景領域の動きベクトルを判定するようにした。これにより、センサの出力にオフセットが含まれている場合であっても、背景領域の動きベクトルを精度良く判定することができる。そのため、背景領域の動きベクトルを被写体領域の動きベクトルと誤判定することを抑制し、ユーザの意図に合った被写体に対する流し撮りアシスト機能を実現できる。
なお、本実施形態では機器の動きが遅いと判定される場合にだけ、差分の時間的変化に基づく動きベクトルの判定を実施したが、機器の動きの速さに関わらず実施するようにしてもよい。
●(第2実施形態)
次に本発明の第2実施形態について説明する。本実施形態では、特に撮影前のパンニング時間が短い場合における動きベクトルの誤判定を抑制する。
図7は本発明の第2実施形態に係る像振れ補正装置を備えたデジタルカメラの構成例を示す図である。本実施形態のデジタルカメラ700はレンズ一体型であるが、第1実施形態と同じ機能を有するブロックには図1と同じ参照数字を付して説明を省略する。
本実施形態では第1実施形態におけるレンズ制御部113に相当する機能をカメラ制御部701が有している。なお、図7では、カメラ制御部132が実現する機能ブロックのうち、像振れ補正および流し撮りアシスト機能に関する機能ブロックのみを記載している。なお、以下の説明では第1実施形態と同様、1軸についての振れ補正の動作を説明するが、実際には2軸以上について同様の動作を実施する。図7において、カメラ制御部701およびカメラ信号処理回路124が像振れ補正装置を構成する。
平均値算出部711は、動画像のフレーム間に出力されたジャイロ111の出力の平均値を算出する。目標値算出部712は、流し撮りアシスト時のシフトレンズの駆動目標値を算出する。平均値算出部711および目標値算出部712が、図1の流し撮り制御部118に相当する。
レンズ駆動制御部721は、シフトレンズ104を、撮影スタンバイ時は手振れ補正制御部117の出力に基づいて、露光中は目標値算出部712の出力に基づいて駆動する。そのため、デジタルカメラ700では撮影スタンバイ時には常に手振れ補正機能が動作する。
平均値算出部731は、動画像のフレーム間に出力された、シフトレンズ104の位置センサ106の出力の平均値を算出する。この平均値は、シフトレンズの移動量に相当する。
被写体判定部751は、動きベクトル検出部141が検出した動きベクトルから被写体領域の動きベクトル(被写体ベクトル)を判定する。そして、被写体判定部751は、判定した被写体ベクトルから、平均値算出部731が算出した平均値を減算して被写体角速度算出部152に出力する。
これは、本実施形態では撮影スタンバイ時に手振れ補正機能が動作するため、第1実施形態におけるパンニング速度と被写体角速度の差分が、第2実施形態においては、判定された被写体ベクトルからシフトレンズの移動量を減算した結果になるためである。
図8は、第2実施形態における被写体判定部751の動作に関するフローチャートである。第1実施形態においてはパンニング速度が遅いと判定されない場合には通常の被写体判定処理を実行したが、本実施形態においてはパンニング速度にかかわらず図8に示した被写体判定を実行する。従って、本実施形態の流し撮りアシスト動作では、図4のS404で、頻度が所定値以上の動きベクトルがあると判定された場合、S406〜S407の代わりに以下の処理を実行する。
S801で被写体判定部751は、ヒストグラム作成部150で作成したヒストグラムから、頻度が所定値以上の動きベクトルを選択する。
S802で被写体判定部751は、ジャイロ111のオフセットをメモリに記憶済かどうか判定し、記憶済と判定されればS815へ、判定されなければS501へ処理を進め、以下、S505まで第1実施形態と同様に処理する。
S505で被写体判定部151は、差分の時間的変化が閾値未満の動きベクトルが1つでもあると判定されればS807へ、判定されなければS513へ、処理を進める。
S807で被写体判定部751は、差分の時間的変化が閾値未満と判定された動きベクトルの差分を、オフセットデータとして記憶し、処理をS506に進める。以降の処理は第1実施形態と同様である。
S815で被写体判定部751は、オフセットのリセット処理が必要かどうか判定し、必要と判定されればS501へ、判定されなければS816へ、処理を進める。被写体判定部751は例えば、オフセットを記憶した後にジャイロ111への電源供給がOFFになったことがある場合や、オフセットを記憶した時点からの経過時間が所定時間を超えている場合に、リセット処理が必要と判定することができる。
ジャイロ111へ電源供給を開始した際にユーザがカメラを動かしているかどうかにより、オフセットが異なる可能性が高いため、オフセットを記憶した後に電源供給がやり直されている場合にはリセットして再度オフセットを取得する。また、オフセットを記憶した後の経過時間が長いと、温度変化などによってオフセットがドリフトしている可能性があるため、やはり再度オフセットを取得する。
S816で被写体判定部751は、取得したジャイロデータから記憶しているオフセットデータを減算してオフセット成分を除去する。オフセット成分を除去したジャイロデータが表す動きは、背景領域の動きベクトルと一致するため、被写体判定部751は、処理をS513に進めて通常の被写体判定処理を行う。
以上説明したように、本実施形態によれば、シフトレンズの位置情報を利用することにより、手振れ補正機能が動作している状態においても、第1実施形態と同様の効果を得ることができる。
さらに、画像間で検出された複数の動きベクトルのうち、機器の振れを検出するセンサの出力が表す動きと、大きさとの差分が一定となる動きベクトルを検出し、その差分をセンサのオフセット成分として記憶するようにした。そのため、撮影前のパンニング時間が短い場合など、パンニングの角速度を得るのに十分な時間が無い場合であっても、センサ出力からオフセット成分を除去することができ、被写体ベクトルを正しく判定することができる。その結果、流し撮りアシスト機能の精度を高めることができる。
100…交換レンズ、104…シフトレンズ、111…角速度センサ(ジャイロ)、113…レンズ制御部、120…カメラ本体部、132…カメラ制御部、141…動きベクトル検出部、151、751…被写体判定部、152…被写体角速度算出部

Claims (11)

  1. 機器の振れを表す信号を取得する取得手段と、
    画像間で動きベクトルを検出する検出手段と、
    前記信号が表す動きと、前記動きベクトルそれぞれとの差分を算出する算出手段と、
    前記差分の時間的変化が予め定められた閾値より小さいと判定される動きベクトルを背景領域の動きベクトルと判定し、前記検出手段が検出した動きベクトルのうち、前記背景領域の動きベクトルと判定した動きベクトル以外の動きベクトルから、被写体領域の動きベクトルを判定する判定手段と、
    前記被写体領域の動きベクトルに基づいて、像振れ補正を行う補正手段を制御する制御手段と、
    を有することを特徴とする像振れ補正装置。
  2. 前記判定手段は、前記差分の時間的変化が予め定められた閾値より小さいと判定される動きベクトルの大きさが0でない場合に該動きベクトルを前記背景領域の動きベクトルと判定することを特徴とする請求項1に記載の像振れ補正装置。
  3. 前記判定手段は、前記信号のレベルが所定値以下の場合に前記背景領域の動きベクトルの判定を行い、前記信号のレベルが前記所定値以下でない場合には、前記背景領域の動きベクトルの判定を行わずに、前記動きベクトルの大きさの頻度と、前記信号が表す動きの大きさとに基づいて、前記被写体領域の動きベクトルを判定することを特徴とする請求項1または請求項2に記載の像振れ補正装置。
  4. 前記判定手段は、前記検出手段が検出した動きベクトルのうち、大きさの頻度が所定値以上である動きベクトルから前記背景領域の動きベクトルおよび前記被写体領域の動きベクトルを判定することを特徴とする請求項1から請求項3のいずれか1項に記載の像振れ補正装置。
  5. 前記判定手段は、前記検出手段が検出した動きベクトルのうち、前記背景領域の動きベクトルと判定した動きベクトル以外に、前記大きさの頻度が所定値以上である動きベクトルが複数ある場合、大きさが最小である動きベクトルを前記被写体領域の動きベクトルと判定することを特徴とする請求項4に記載の像振れ補正装置。
  6. 前記判定手段は、前記差分の時間的変化が予め定められた閾値より小さいと判定される動きベクトルに関する前記差分を、前記信号を出力するセンサのオフセット成分として記憶することを特徴とする請求項1から請求項5のいずれか1項に記載の像振れ補正装置。
  7. 前記判定手段は、前記オフセット成分が記憶されている場合には、前記背景領域の動きベクトルの判定を行わずに、前記動きベクトルの大きさの頻度と、前記オフセット成分を除去した前記信号が表す動きの大きさとに基づいて、前記被写体領域の動きベクトルを判定することを特徴とする請求項6に記載の像振れ補正装置。
  8. 撮像素子と、
    請求項1から請求項7のいずれか1項に記載の像振れ補正装置とを有し、
    前記検出手段は、前記撮像素子で得られる動画像のフレーム画像間で前記動きベクトルを検出し、
    前記制御手段は、静止画撮影の露光期間に前記像振れ補正を行うように前記補正手段を制御する、
    ことを特徴とする撮像装置。
  9. 前記制御手段は、前記補正手段による前記像振れ補正のためのレンズまたは前記撮像素子の駆動を、前記被写体領域の動きベクトルに基づいて制御することを特徴とする請求項8に記載の撮像装置。
  10. 像振れ補正装置が実行する、前記像振れ補正装置の制御方法であって、
    機器の振れを表す信号を取得する取得工程と、
    画像間で動きベクトルを検出する検出工程と、
    前記信号が表す動きと、前記動きベクトルそれぞれとの差分を算出する算出工程と、
    前記差分の時間的変化が予め定められた閾値より小さいと判定される動きベクトルを背景領域の動きベクトルと判定し、前記検出工程で検出された動きベクトルのうち、前記背景領域の動きベクトルと判定した動きベクトル以外の動きベクトルから、被写体領域の動きベクトルを判定する判定工程と、
    前記被写体領域の動きベクトルに基づいて、像振れ補正を行う補正手段を制御する制御工程と、
    を有することを特徴とする像振れ補正装置の制御方法。
  11. 像振れ補正装置が有するコンピュータを、請求項1から請求項7のいずれか1項に記載の像振れ補正装置の各手段として機能させるプログラム。
JP2016138903A 2016-07-13 2016-07-13 像振れ補正装置およびその制御方法、ならびに撮像装置 Pending JP2018010165A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016138903A JP2018010165A (ja) 2016-07-13 2016-07-13 像振れ補正装置およびその制御方法、ならびに撮像装置
US15/646,604 US10284782B2 (en) 2016-07-13 2017-07-11 Image stabilization apparatus, control method thereof, and image capture apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016138903A JP2018010165A (ja) 2016-07-13 2016-07-13 像振れ補正装置およびその制御方法、ならびに撮像装置

Publications (1)

Publication Number Publication Date
JP2018010165A true JP2018010165A (ja) 2018-01-18

Family

ID=60941503

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016138903A Pending JP2018010165A (ja) 2016-07-13 2016-07-13 像振れ補正装置およびその制御方法、ならびに撮像装置

Country Status (2)

Country Link
US (1) US10284782B2 (ja)
JP (1) JP2018010165A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022529414A (ja) * 2019-04-23 2022-06-22 オッポ広東移動通信有限公司 誤動作のない動き検出のための方法及びシステム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10831093B1 (en) 2008-05-19 2020-11-10 Spatial Cam Llc Focus control for a plurality of cameras in a smartphone
JP7071204B2 (ja) * 2018-04-27 2022-05-18 キヤノン株式会社 撮像システム、レンズ装置、撮像装置、及びその制御方法
CN111479035B (zh) * 2020-04-13 2022-10-18 Oppo广东移动通信有限公司 图像处理方法、电子装置及计算机可读存储介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006317848A (ja) 2005-05-16 2006-11-24 Canon Inc 静止画撮像装置
US8553931B2 (en) * 2009-02-11 2013-10-08 Samsung Electronics Co., Ltd. System and method for adaptively defining a region of interest for motion analysis in digital video
JP2015111746A (ja) * 2012-04-09 2015-06-18 ソニー株式会社 画像処理装置、画像処理方法、プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022529414A (ja) * 2019-04-23 2022-06-22 オッポ広東移動通信有限公司 誤動作のない動き検出のための方法及びシステム

Also Published As

Publication number Publication date
US20180020164A1 (en) 2018-01-18
US10284782B2 (en) 2019-05-07

Similar Documents

Publication Publication Date Title
JP6486087B2 (ja) 像ブレ補正装置、撮像装置および制御方法
US9906708B2 (en) Imaging apparatus, imaging method, and non-transitory storage medium storing imaging program for controlling an auto-focus scan drive
US10708503B2 (en) Image capture system, image capturing apparatus, lens unit, control methods therefor, and storage medium
JP6995561B2 (ja) 像ブレ補正装置およびその制御方法、撮像装置
JP2018185357A (ja) 像ブレ補正装置およびその制御方法、撮像装置
US10284782B2 (en) Image stabilization apparatus, control method thereof, and image capture apparatus
JP2016201662A (ja) 撮像装置およびその制御方法
JP6401494B2 (ja) ブレ補正装置、ブレ補正方法およびプログラム、並びに撮像装置
US10212364B2 (en) Zoom control apparatus, image capturing apparatus and zoom control method
JP2018033013A (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP2013130761A (ja) 撮像装置、その制御方法およびプログラム
JP5448868B2 (ja) 撮像装置および撮像装置の制御方法
JP2015191074A (ja) 撮像装置
JP2015145901A (ja) 撮像装置
JP7346076B2 (ja) 制御装置、レンズ装置、撮像装置、制御方法、および、プログラム
JP7122916B2 (ja) 撮像装置およびその制御方法、プログラムならびに記憶媒体
JP2009246700A (ja) 撮像装置
US11050923B2 (en) Imaging apparatus and control method
JP2019036828A (ja) 像ブレ補正装置およびその制御方法、撮像装置
JP2011071671A (ja) 画像認識装置、および、撮像装置
JP2018037768A (ja) 被写体検出装置、角速度算出装置、撮像装置およびレンズ装置
JP2018180323A (ja) 像ブレ補正装置、撮像装置および制御方法
JP2016219984A (ja) 撮像装置、撮像方法、及びプログラム
JP2021164087A (ja) 撮像装置およびその制御方法
JP2018146606A (ja) 画像処理装置、撮像装置および制御方法