JP7308672B2 - 像ブレ補正装置及びその制御方法、撮像システム、プログラム - Google Patents

像ブレ補正装置及びその制御方法、撮像システム、プログラム Download PDF

Info

Publication number
JP7308672B2
JP7308672B2 JP2019125466A JP2019125466A JP7308672B2 JP 7308672 B2 JP7308672 B2 JP 7308672B2 JP 2019125466 A JP2019125466 A JP 2019125466A JP 2019125466 A JP2019125466 A JP 2019125466A JP 7308672 B2 JP7308672 B2 JP 7308672B2
Authority
JP
Japan
Prior art keywords
shake
detection result
amount
shake detection
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019125466A
Other languages
English (en)
Other versions
JP2021012259A (ja
Inventor
潤一 斎藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019125466A priority Critical patent/JP7308672B2/ja
Priority to US16/919,235 priority patent/US11290650B2/en
Publication of JP2021012259A publication Critical patent/JP2021012259A/ja
Application granted granted Critical
Publication of JP7308672B2 publication Critical patent/JP7308672B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Adjustment Of Camera Lenses (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像装置において、装置の振れに起因する像ブレを補正する技術に関するものである。
デジタルカメラなどの撮像装置において、CMOSセンサなどの撮像素子や撮影光学系の一部の光学素子を光軸と直交する方向に移動させることにより、装置に加わる振れに起因する像ブレを補正する技術が多く提案されている。このような像ブレ補正機能を有する撮像装置は、一般的には、装置に加わる振れをジャイロセンサにより検出している。
ジャイロセンサは、装置に加わる振れのうち、回転ブレを角速度の状態で検出可能なセンサであり、近年その性能向上は著しい。しかし、像ブレ補正性能に対する要求も大幅に増大してきているため、ジャイロセンサの検出精度を向上させることは非常に重要である。ジャイロセンサの検出精度を向上させる上での1つの重要な課題は、ジャイロセンサが持つオフセット成分をいかにして除去するかということである。
ジャイロセンサの信号をオフセット成分の除去なしに使用すると、ジャイロセンサの出力信号を積分して角度として取り扱う際、積分誤差として順次積みあがっていく所謂ドリフトを生じることとなり、正確な像ブレ補正が行えなくなってしまう。
特許文献1には、この課題を解決するために、カメラの撮像画像を解析して得られる画像動き信号(ベクトル)に応じて、ジャイロセンサに振動が加えられていない静止状態における振動検出部の出力としての基準値を修正する技術が開示されている。
特開2005-43780号公報
特許文献1に開示された振動検出部の基準値の修正では、二つの異なる時刻に撮像された画像間の動きベクトルを利用するため、振動が回転ブレのみである場合には、画像動きベクトルから推定されるカメラの回転ブレ量を真値として利用することが可能である。
しかしながら、カメラには回転ブレ以外にシフト(並進)ブレが加わることが知られており、像倍率が大きい条件や撮影秒時が長い条件においては、その影響が大きく無視できないものとなる。
特許文献1の技術を、シフトブレ成分が多い撮像画像に適用した場合、本来ジャイロセンサが有していないオフセット成分をオフセットとして検出してしまい、有効なオフセット成分の除去を行うことができない。
本発明は上述した課題に鑑みてなされたものであり、その目的は、ジャイロセンサを用いた振れの検出精度を向上させることである。
本発明に係わる像ブレ補正装置は、被写体像を光電変換する撮像素子から出力された複数の画像信号から得られる動きベクトルを用いて、撮像装置の振れ量を検出する第1の振れ検出手段から第1の振れ検出結果を取得する第1の取得手段と、前記被写体像と前記撮像素子の相対位置を変更することにより、前記撮像装置の振れに起因する像ブレを補正する像ブレ補正手段の補正量の情報を取得する第2の取得手段と、前記撮像装置の回転角速度を検出する第2の振れ検出手段から第2の振れ検出結果を取得する第3の取得手段と、前記撮像装置のシフト振れを検出するシフト振れ検出手段からシフト振れ検出結果を取得する第4の取得手段と、前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記シフト振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定する推定手段と、を備え、前記推定手段は、前記第1の振れ検出結果から前記シフト振れ検出結果を差し引いた値と、前記第2の振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定することを特徴とする。
本発明によれば、ジャイロセンサを用いた振れの検出精度を向上させることが可能となる。
本発明の撮像装置の一実施形態であるレンズ交換式の一眼レフタイプのカメラシステムの構成を示す図。 一実施形態におけるレンズシステム制御部の構成を示すブロック図。 シフトブレ演算部の構成を示すブロック図。 レンズシステム制御部の像ブレ補正制御の流れを示すフローチャート。 カメラシステムに加わる振れの大きさと、システムノイズ、観測ノイズ、三脚検知状態ノイズ、パンニング検知状態ノイズの大きさとの関係を表した図。 振れ角速度信号と、オフセット推定値およびオフセット推定値を減算した後の振れ角速度信号の時系列変化図。 振れ角速度信号と、オフセット推定値およびオフセット推定値を減算した後の振れ角速度信号の時系列変化図。 振れ角速度信号と、オフセット推定値およびオフセット推定値を減算した後の振れ角速度信号の時系列変化図。 動きベクトルの信頼度と、システムノイズ及び観測ノイズの大きさの関係を示した図。
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
図1は、本発明の撮像装置の一実施形態であるレンズ交換式の一眼レフタイプのカメラシステム(撮像システム)100の構成を示す図である。図1(a)は一実施形態におけるカメラシステムの中央断面図であり、図1(b)はカメラシステム100の電気的構成を示すブロック図である。
図1(a)において、カメラシステム100はカメラ本体1と、カメラ本体1に着脱可能に装着されるレンズユニット(撮影レンズ)2とを備える。レンズユニット2は、光軸4を軸とする複数のレンズからなる撮影光学系3を備え、その撮影光学系3の一部に、画像の振れを光学的に補正する振れ補正ユニット19が設けられている。振れ補正ユニット19は、光軸をシフトさせることが可能な(被写体光と撮像素子の相対位置を変更可能な)ユニットであり、例えば、シフトレンズで構成することができる。また、カメラ本体1は、撮像素子6、背面表示部10aを備える。カメラ本体1とレンズユニット2の間には、カメラ本体1とレンズユニット2を電気的に接続する電気接点14が配置されている。
図1(b)において、レンズユニット2は、電気的な構成として、レンズシステム制御部15、レンズ側操作部16、レンズ側振れ検出部17、レンズ側振れ補正駆動部18、焦点距離変更部22、シフトブレ演算部23、加速度センサ24、メモリ25を備える。レンズシステム制御部15は、メモリ25に記憶されているプログラムを実行することにより、レンズユニット2の全体を制御する。レンズ側操作部16は、ユーザーの操作を受け付ける。レンズ側振れ検出部17は、カメラシステム100に加わる光軸4に対する回転振れを検知可能であり、例えばコリオリ力を利用した振動ジャイロなどが用いられる。レンズ側振れ補正駆動部18は振れ補正ユニット19を、光軸4に垂直な平面上でシフトもしくはチルト駆動させて像ブレを補正する。レンズ位置検出部20は、振れ補正ユニット19の位置を検出する。焦点距離変更部22は、撮影光学系3の焦点距離を変更する。加速度センサ24は、カメラシステム100に加わる加速度を検出する。また、シフトブレ演算部23は、加速度センサ(加速度検出部)24により検出された加速度と、レンズ側振れ検出部17により検出された回転振れとの関係から、カメラシステム100に加わる平行振れ(シフトブレ、シフト振れ)を算出可能である。シフトブレ演算部23の構成および演算の方法の詳細については後述する。
また、カメラ本体1は、電気的な構成として、カメラシステム制御部5、撮像素子6、画像処理部7、メモリ8、カメラ側操作部9、背面表示部10aを含む表示部10を備える。カメラシステム制御部5は、メモリ8の不揮発性メモリ部に記憶されているプログラムを実行することにより、カメラシステム100の全体を制御する。撮像素子6は、被写体像を光電変換し画像信号を出力する。画像処理部7は、撮像素子6から出力された画像信号に必要な画像処理を行う。メモリ8の揮発性メモリ部は、画像データを一時記憶する。カメラ側操作部9は、ユーザーの操作を受け付ける。表示部10は、撮影された画像やカメラの状態を示す情報などを表示する。
一方、機能的な面から見ると、カメラ本体1およびレンズユニット2からなるカメラシステム100は、撮像手段、画像処理手段、記録再生手段、制御手段を有する。
撮像手段は、撮影光学系3 、撮像素子6を含み、画像処理手段は、画像処理部7を含む。また、記録再生手段は、メモリ8、表示部10を含む。なお、表示部10は、背面表示部10a、カメラ本体1の上面に設けられた撮影情報を表示する不図示の小型表示パネル、EVFとも呼ばれる不図示の電子ビューファインダーを包含する。制御手段は、カメラシステム制御部5、カメラ側操作部9、レンズシステム制御部15、レンズ側操作部16、レンズ側振れ検出部17、レンズ側振れ補正駆動部18、レンズ位置検出部20、焦点距離変更部22を含む。なお、レンズシステム制御部15は、振れ補正ユニット19の他に、不図示のフォーカスレンズ、絞り、ズームなどの駆動も行う。
上記の各手段をさらに詳しく説明すると、撮像手段は、物体からの光を、撮影光学系3を介して撮像素子6の撮像面に結像させる光学処理系である。撮像素子6からピント評価量/適切な露光量の情報が得られるため、この情報に基づいて撮影光学系3が調整される。これにより、適切な光量の物体光を、撮像素子6上にピントが合った状態で露光させることができる。
画像処理部7は、内部にA/D変換器、ホワイトバランス調整回路、ガンマ補正回路、補間演算回路等を有しており、記録用の画像を生成する。色補間処理部はこの画像処理部7に備えられており、ベイヤ配列の信号から色補間(デモザイキング)処理を施してカラー画像を生成する。また、画像処理部7は、予め定められた方法を用いて静止画、動画、音声などの圧縮を行う。さらには、画像処理部7は、撮像素子6から得られた複数の画像間の比較に基づいて振れ検知信号(動きベクトル)を生成し、これに基づいてカメラシステム100に加わる振れ量を算出する動きベクトル検出部1007(図3参照)を有する。
メモリ8は実際の記憶部を備えている。カメラシステム制御部5により、メモリ8の記憶部へ画像データの出力を行うとともに、表示部10にユーザーに提示する像を表示する。
カメラシステム制御部5は、撮像の際のタイミング信号などを生成して出力する。外部操作に応じて撮像系、画像処理系、記録再生系をそれぞれ制御する。例えば、シャッターレリーズボタン(不図示)の押下をカメラシステム制御部5が検出して、撮像素子6の駆動、画像処理部7の動作、圧縮処理などを制御する。さらに情報表示を行う表示部10の各セグメントの状態を制御する。また、背面表示部10aはタッチパネルを有し、表示部10とカメラ側操作部9の役割を兼ねていてもよい。
次に、撮影光学系の調整動作について説明する。カメラシステム制御部5には画像処理部7が接続されており、撮像素子6からの信号および、カメラ側操作部9による撮影者の操作に基づいて適切な焦点位置、絞り位置を求める。カメラシステム制御部5は、電気接点14を介してレンズシステム制御部15に指令を出し、レンズシステム制御部15は焦点距離変更部22および不図示の絞り駆動部を制御する。さらに、像ブレ補正を行うモードにおいては、レンズ側振れ検出部17から得られた信号とレンズ位置検出部20の検出情報に基づいて、レンズ側振れ補正駆動部18を制御する。振れ補正ユニット19は、例えばマグネットと平板コイルを有する駆動機構を備える。またレンズ位置検出部20は、例えばマグネットとホール素子を備え、振れ補正ユニット19の移動量を検出する(補正量取得)。
具体的な像ブレ補正の制御方法としては、まずレンズシステム制御部15が、レンズ側振れ検出部17によって検出された振れ信号を受信する。その検出結果に基づいて、像ブレを補正するための、振れ補正ユニット19の駆動量を算出する。その後、算出された駆動量をレンズ側振れ補正駆動部18へ指令値として送出し、レンズ位置検出部20で検出した位置が指令値に追従するようにフィードバック制御を行う。これにより、振れ補正ユニット19を駆動する。
なお、前述したように、カメラ側操作部9へのユーザー操作に応じて、カメラ本体1の各部の動作を制御することにより、静止画および動画の撮影が可能である。
図2は、本実施形態におけるレンズシステム制御部15における像ブレ補正制御を司る部分の詳細な構成を示すブロック図である。図2に示す各ブロックは、レンズシステム制御部15がメモリ25に記憶されたプログラムを実行することにより実現される。なお、像ブレ補正の制御は、Pitch方向、Yaw方向について同じであるため、これらのうち1軸についてのみ説明する。
図2において、レンズ側振れ検出部17の出力は、レンズシステム制御部15に入力される。レンズシステム制御部15は、加算器301,305,307,311,316,401,402,405と、積分フィルタ302と、オフセット推定部304と、微分器403と、ノイズ項算出部410とを有する。ノイズ項算出部410は、積分フィルタ306と、低域遮断フィルタ313と、べき乗演算部309,314と、ゲイン部310,315と、三脚状態検出部317と、カメラ状態ノイズ算出部318と、パンニング検出部319と、動きベクトル信頼度判定部404とを有する。
以上のように構成されるレンズシステム制御部15における振れ補正ユニット19の移動目標値の算出処理、特にレンズ側振れ検出部17による振れ信号のオフセット成分(オフセット量)をオフセット推定部304で推定する構成について説明する。
レンズシステム制御部15は、レンズ側振れ検出部17から振れ信号を取得する。カメラ本体1の画像処理部7で算出した動きベクトル情報から、シフトブレ演算部23によって算出されたシフトブレ量を、加算器405によって減算し、動きベクトル情報に含まれるシフトブレ成分を除去する。シフトブレ成分が除去された動きベクトル情報と、レンズ位置検出部20で検出した位置情報を微分器403により微分処理したレンズ速度情報とを、加算器402により加算する。さらに、加算器401により、レンズ側振れ検出部17で検出した振れ信号から上記のレンズ速度情報と動きベクトル情報とを減算した信号を、オフセット推定部304及び、加算器305へ入力する。
オフセット推定部304は、レンズ側振れ検出部17のオフセット成分を推定し、加算器301においてレンズ側振れ検出部17で検出した振れ信号からオフセット推定値を減算した後に積分フィルタ302により積分する。これにより、振れの角度信号が生成され、これを目標値としてレンズ振れ補正駆動部18により振れ補正ユニット19が駆動され、像ブレ補正がなされる。
また、画像処理部7で算出した動きベクトルおよび、後述する画像処理情報及びカメラ側操作部9およびレンズ側操作部16により設定される撮影のための設定情報に基づいて、動きベクトル信頼度判定部404により動きベクトルの信頼度が判定される。判定された信頼度情報に基づいて、オフセット推定部304でのオフセット推定に使用されるシステムノイズおよび観測ノイズの大きさを決定するゲイン部310,315のゲイン値が設定される。
さらに本実施形態では、振れ信号から加算器305によりオフセット推定値を減算した信号を積分フィルタ306で積分することにより、ノイズ算出用振れ角度信号を生成する。そして、このノイズ算出用振れ角度信号に基づいて、オフセット推定部304のフィルタ特性を変更する処理を行う。ノイズ算出用振れ角度信号は、前述のように加算器305により、レンズ側振れ検出部17により得られた振れ検出信号からオフセット推定部304により得られたオフセット推定値を減算して取得する。
詳細は後述するが、オフセット推定部304は、周波数特性が可変なフィルタ処理により振れ検出信号からオフセット成分を推定する処理を行う。したがって、オフセット推定部304により振れ検出信号のオフセット値を正確に推定できている場合、加算器305により算出される値は、オフセット成分のない振れ信号となる。したがって積分フィルタ306により算出されるノイズ算出用振れ角度情報は、基準値0を中心とする値となる。一方で、オフセット推定部304によるオフセットが正確に推定されていない場合、レンズ側振れ検出部17の振れ信号のオフセット誤差の影響で、積分フィルタ306により算出されるノイズ算出用振れ角度情報がゆっくりとドリフトした値となる。
積分フィルタ306により生成されたノイズ算出用振れ角度信号は、低域遮断フィルタ313により低域成分が除去され、高周波成分が抽出される。一方、加算器307では、ノイズ算出用振れ角度信号からこの高周波成分を減算することにより低周波成分を抽出する。このようにして、ノイズ算出用振れ角度信号を低周波成分と高周波成分に分離する。
ここで低域遮断フィルタ313のカットオフ周波数はレンズ側振れ検出部17のオフセット成分および低周波揺らぎ、ドリフト成分を含む周波数帯域をカットするように設定する。こうすることにより、レンズ側振れ検出部17による振れ信号のうち推定したい低周波のオフセット成分と、実際の揺れにより発生している高周波の振れ成分に分離することができる。このように算出されたノイズ算出用振れ角度信号の低周波成分は、べき乗演算部309により2乗演算されることで絶対値が算出される。さらに、ゲイン部310により所定のゲインが積算されることで、主に低周波の振れ検出信号のオフセット成分およびドリフト成分の大きさ、影響度を表す低周波振れ角度の評価値を算出する。この評価値を以下システムノイズ項と呼ぶ。
一方、低域遮断フィルタ313により算出されたノイズ算出用振れ角度信号の高周波成分は、べき乗演算部314により2乗演算されることにより、絶対値が算出される。さらに、ゲイン部315により所定のゲインが積算されることにより、高周波な撮影者の動きによって発生している振れの大きさを表す高周波振れ角度評価値が算出される。この評価値を以下観測ノイズ項と呼ぶ。
前述のように、オフセット推定部304によるオフセット推定値が正確でない場合には、積分後のノイズ算出用振れ角度信号の低周波成分がドリフトして増加していくため、システムノイズ項が大きくなっていく動作となる。
さらに、三脚状態検出部317は、公知の方法により、三脚に取り付けられたような静定状態、振れの小さい状態(これを三脚状態と呼ぶこととする)であるか否かを判断する。例えばレンズ側振れ検出部17により検出された振れ情報、あるいは画像処理部7により算出された動きベクトル情報により、撮像装置1の振れ量を検出する。そして、この振れ量があらかじめ決められた所定値よりも小さい状態(所定振幅内の状態)が所定時間続いた場合に三脚状態であると判断する。三脚状態であると判断された場合には、カメラ状態ノイズ算出部318によりあらかじめ設定された所定値を三脚検知状態ノイズとして加算器311によりシステムノイズ項に加算する処理を行う。
また一方で、パンニング検出部319は、公知の方法により、撮影者によりパンニングあるいはチルティング(カメラの向きの変更動作)のような構図変更等が行われたか否かを判断する。例えば、レンズ側振れ検出部17により検出された振れ情報、あるいは画像処理部7により算出された動きベクトル情報により、撮像装置1の振れ量を検出する。そして、この振れ量があらかじめ決められた所定値よりも大きい状態が所定時間続いた場合に、撮影者によりパンニングあるいはチルティングが行われたと判断する。パンニング状態が検知された場合には、カメラ状態ノイズ算出部318によりあらかじめ設定された所定値をパンニング検知状態ノイズとして加算器316により観測ノイズ項に加算する処理を行う。
上記のように、三脚状態の検知およびパンニング動作の検知にレンズ側振れ検出部17の情報だけでなく動きベクトル情報を用いることにより、より正確な検知を実行可能である。つまり、レンズ側振れ検出部17では検出しづらいゆっくりとしたパンニング動作などの動き変化を、画素レベルのマッチング比較に基づく動きベクトルを用いて検出することにより、正確に振れを検出することができる。
<シフトブレ演算手法:ジャイロと加速度センサ利用>
次に、本実施形態におけるシフトブレ演算部23のシフトブレの演算手法について図3を用いて説明する。図3は、本実施形態におけるシフトブレ演算部23の構成を説明するためのブロック図である。このブロック図では、図2中の加算器405を用いて、加速度センサ24から得られるシフトブレに相当する信号を、動きベクトル検出部1007から得られる動きベクトル情報から差し引く部分が描かれている。また、それに加えて、レンズ側振れ検出部17も示されている。なお、動きベクトル検出部1007は、図1(b)の画像処理部7の内部に設けられている。
レンズ側振れ検出部17で得られた回転角速度は、オフセット推定部304を含むブロックに伝達されるとともに、積分器1001を用いて角度情報θに変換される。続いて、シフトブレを多く含む所定の帯域のみを通すバンドパスフィルタ(BPF)1002を通した角速度信号が生成される。加速度センサ24が出力する加速度信号は、BPF1002と同一の帯域特性のあるBPF1003を通り、さらに積分器1004を介して速度信号へと変換される。BPF1002から得られた角速度信号と、積分器1004から得られた速度信号は、比較器1005へ入力され、比較がなされる。より具体的には、速度信号を角速度信号で除算する。この除算により、振動ジャイロから得られる角速度を有する回転運動の回転半径Lが算出される。積分器1001から得られる角度信号θと、比較器1005から得られる回転半径Lとは、増幅部1006において、Lβθとして出力される。ここで、Lβθは、像倍率βの条件において、回転半径Lで回転角度θだけ回転運動した際の並進量、すなわちシフトブレ量に相当する。
切替器1008は、増幅部1006で得られたシフトブレ量Lβθが、所定量よりも大きい場合に、加算器405と接続するよう切り替えを行う。増幅部1006で得られたシフトブレ量Lβθが、所定量以下の場合には、シフトブレ量Lβθは、加算器405には接続されず、0が入力される。加算器405は、増幅部1006で得られたシフトブレ量または0を、動きベクトル検出部1007が出力する動きベクトル情報から減じた値を出力し、この値は、図1に示したように、別途オフセット推定部304を含むブロックへと伝えられる。このようにシフトブレ量を動きベクトル情報から減算することにより、より正確なカメラシステム100の回転ブレ量が利用可能となる。また、シフトブレ量の大小で減算するか否かを切り替えることにより、より効果的に動きベクトル情報に含まれるシフトブレ量を取り除くことが可能となる。
次に、レンズシステム制御部15による振れ目標値演算処理について、図4のフローチャートを用いて説明する。なお本処理は、ステップS2以降が一定の周期で繰り返し実行される。
ステップS1は、レンズシステム制御部15が所定の周期での動作の開始を判断するステップであり、動作開始が判断されるとステップS2へ進む。
ステップS2では、レンズ側振れ検出部17がカメラ本体1の振れを検出する。レンズ側振れ検出部17としては、従来から振れ補正に使用されている角速度センサ等が使用される。
ステップS3は、レンズシステム制御部15が画像処理部7により算出される動きベクトルの取得周期であるか否かを判断するステップであり、取得周期である場合には、ステップS4に進み動きベクトルが取得される。動きベクトルの算出は、公知の画像処理部7から出力される映像信号のフレーム画像間の振れを解析することにより検出する。そのため、ステップS3による動きベクトルの検出周期はフレームレート(例えば30Hzもしくは60Hzなど)ごとの処理となる。一方フレームレートごとに画像処理部7により実行される動きベクトル検出周期でない場合には、ステップS9に進み、前回の周期で取得された動きベクトル情報を保持する。
ステップS5では、動きベクトル情報から、シフトブレ演算部23が算出したシフトブレ量を減算する。ステップS6では、レンズ位置検出部20により振れ補正ユニット19の位置を検出し取得する。取得する周期は後述するが、動きベクトル情報と合算して使用するため、ステップS3により判定した動きベクトル取得周期以上の頻度で実行されるように、レンズシステム制御部15により設定される。
ステップS7では、動きベクトル信頼度判定部404により、後述する画像処理情報及びカメラ側操作部9およびレンズ側操作部16により設定される撮影のための設定情報に基づいて、画像処理部7で算出した動きベクトルの信頼度が判定される。
さらにステップS8において、動きベクトル信頼度判定部404により判定された動きベクトルの信頼度情報に基づいて、ゲイン部310,315のゲイン値が設定される。
ステップS10では、レンズシステム制御部15は、オフセット推定処理の実行周期であるか否かを判定し、実行周期である場合、ステップS11へ進む。一方、オフセット推定処理の実行周期でないと判断した場合には、ステップS38に進み、前回のオフセット推定実行周期で推定したオフセット推定値を保持した後にステップS39へ進む。
ステップS11では、微分器403がレンズ位置検出部20により取得される振れ補正ユニット19の検出位置の微分値を算出する。ここで本実施形態におけるオフセット推定処理は、あらかじめ設定された所定の離散的な周期で実行されるため、この微分演算は実際には、1周期前で取得した振れ補正ユニット19の位置と現在の周期で取得した位置との差分で計算され、振れ補正動作により駆動した振れ補正ユニット19の駆動速度(以下、振れ補正レンズ速度と称す)を表す。
なお、位置検出部20が振れ補正ユニット19の位置を検出するタイミングにおいて、レンズシステム制御部15は、シフトブレ量の算出は行うが、それに応じたシフトブレ補正は実施していない。 これは本フローが実際に撮影を行う本露光前に、レンズ側振れ検出部17のオフセット誤差を低減する処理であって、本露光中のストローク不足を予防するためである。すなわち、ステップS11で微分器403が算出する振れ補正ユニット19の検出位置の微分値には、シフト補正成分は含まれず、回転振れのみを補正するために駆動した速度として算出される。
レンズ振れ補正駆動部18による振れ補正動作を実施している場合には、ステップS12では加算器402により、画像処理部7により算出された動きベクトル情報と振れ補正ユニット19の位置の微分値である駆動速度情報を加算する。前述のとおり、動きベクトル情報はステップS5においてシフトブレ量が差し引かれた情報になっている。振れ補正によって補正された振れ速度と、動きベクトルからシフトブレ量を減算して算出された振れ残り速度を合算することにより、カメラシステム100の回転振れ速度を算出する。もしも振れ補正を実施していない場合には、振れ補正レンズ速度は0となるので、必ずしも振れ補正レンズ速度を加算しなくとも、動きベクトル情報とシフトブレ量の差分がそのままカメラシステム100の回転振れを検出していることになる。
このように動きベクトルを用いて算出したカメラシステム100の振れ速度は、レンズ側振れ検出部17の検出値に比べてオフセット誤差の少ないカメラシステム100の振れそのものを正確に検出している。そのため、ステップS13において加算器401によってレンズ側振れ検出部17の振れ量から、カメラシステム100の振れ速度を減算することにより、レンズ側振れ検出部17のオフセットを正確に分離できる。加えて、シフトブレ量を動きベクトル情報から減算することで、より正確なカメラシステム100の回転振れを検出可能となる。
一方で、動きベクトルは、取得画像の1フレーム以上前の画像と現時点で取得した画像が比較されることで画像ずれを算出するため、そもそも画像情報が取得できない場合には算出できない。また、撮影条件によっては算出された動きベクトル情報が正しくない場合もありうる。
このように、動きベクトル情報は、撮影の条件によっては取得できなかったり、後述するように撮影条件によってベクトル情報が正しく取得できなかったりすることがある。そのため、本実施形態では、動きベクトル信頼度判定部404により動きベクトル情報の信頼度を判定し、信頼度に応じてオフセット推定に用いるシステムノイズ及び観測ノイズの大きさの関係を変化させる処理を行う。動きベクトルの信頼度とオフセット推定に用いるシステムノイズおよび観測ノイズの大きさの関係については後述する。
ステップS14では、加算器305が特定の周波数成分が除去された振れ信号から前回の推定処理実行時にオフセット推定部304において推定しステップS38において保存しておいたオフセット推定値の保存値を減算する。
ステップS15では、積分フィルタ306が、加算器305でオフセット推定値が減算された振れ信号を積分することにより振れ角度信号を算出する。なお積分フィルタ306は、単純な数値積分処理であるが、ローパスフィルタで構成した疑似的な積分処理で構成しても構わない。疑似的な積分処理とは、公知の特定のカットオフ周波数以下の低周波成分を積分しないように構成した積分処理のことである。加算器305により振れ信号から減算したオフセット推定値が真のオフセットから大きく離れている場合は、積分後の振れ角度信号が大きくドリフトする。そのため前述のシステムノイズ項あるいは観測ノイズ項の算出値が演算上オーバーフローする可能性があるため、ドリフト量を低減するために疑似積分で構成することが好ましい。また後述するが、オフセット推定部304によるオフセット推定値は時間経過とともに真のオフセット値に近づくように推定されるため、オフセット推定値の推定が進むにつれて疑似積分のカットオフ周波数を低周波へ変更するように構成してもよい。
ステップS16では、低域遮断フィルタ313(ハイパスフィルタ)が振れ角度信号から低域成分を除去し高周波成分を抽出する。
ステップS17では、べき乗演算部314が振れ角度信号の高周波成分を2乗演算し、さらにステップS18においてゲイン部315により所定のゲインを乗算して評価値を算出し、ステップS19において観測ノイズ項として保持する。
ステップS20では、加算器307が積分フィルタ306により算出した角度振れ信号から低域遮断フィルタ313で算出した振れ角度信号の高周波成分を減算することにより、振れ角度信号の低周波成分を算出する。
ステップS21では、べき乗演算部309が振れ角度信号の低周波成分を2乗演算し、さらにステップS22においてゲイン部310により所定のゲインを乗算して評価値を算出し、ステップS23においてシステムノイズ項として保持する。
なお、ステップS10でレンズシステム制御部15が判定するオフセット推定実行周期と並行して、ステップS24においてレンズシステム制御部15が判定した周期でカメラ状態ノイズ算出処理を実行する。カメラ状態ノイズ算出の周期は、オフセット推定周期と同じでも異なる周期であっても構わない。ステップS24において、カメラ状態ノイズ算出周期ではないと判断された場合はステップS33へ進み、前回のカメラ状態ノイズ算出周期において算出した三脚検知状態ノイズを保存する。さらにステップS34において前回のパンニング検知状態ノイズを保存した後にステップS35へ進む。
一方、ステップS24において、レンズシステム制御部15がカメラ状態ノイズ算出周期であると判断した場合には、ステップS25へ進む。ステップS25では、三脚状態検出部317により、ステップS2で取得した角速度振れ量とステップS4で取得した動きベクトルに基づいて、カメラシステム100の振れが小さい状態が所定時間以上継続しているかにより三脚状態の検知を行う。
ステップS26では、カメラ状態ノイズ算出部318が、三脚状態が検知されているか否かを判定する。三脚状態が検出されている場合は、ステップS27において三脚検知状態ノイズに所定値を設定し、三脚状態が検知されていない場合は、ステップS28において、前回の演算周期までに設定された三脚検知状態ノイズをゼロにクリアする。
ステップS29では、パンニング検出部319がステップS2で取得した角速度振れ量とステップS4で取得した動きベクトルに基づいて、パンニングあるいはチルティング動作の検知を行う。
ステップS30では、カメラ状態ノイズ算出部318が、パンニング状態が検知されているか否かを判定する。パンニングが検知されていれば、ステップS31においてパンニング検知状態ノイズに所定値を設定し、検知されていなければ、ステップS32において前回の演算周期までに設定されたパンニング検知状態ノイズをゼロにクリアする。
その後、ステップS33およびステップS34において、レンズシステム制御部15が、前回の三脚検知状態ノイズと前回のパンニング検知状態ノイズを保存した後にステップS35へ進む。
ステップS35では、加算器316が観測ノイズ項にパンニング検知状態ノイズを加算する。ステップS36では、加算器311がシステムノイズ項に三脚検知状態ノイズを加算する。ステップS37では、これらの情報に基づいて、後述するオフセット推定部304によるオフセット推定演算を行う。
ステップS38では、レンズシステム制御部15はステップS37においてオフセット推定部304が算出したオフセット推定値を保持する。ステップS39では、加算器301において角速度振れ量からオフセット推定値を減算する。ステップS40では、積分フィルタ302により、積分処理をして振れ角度信号を生成することにより、レンズ振れ補正駆動部18の目標値を生成する。なお、積分フィルタ302によるフィルタ処理は、前述の積分フィルタ306と同様に、オフセット推定値の推定が進むにつれて疑似積分のカットオフ周波数を低周波へ変更する疑似積分で構成してもよい。
最後に、ステップS41において、レンズシステム制御部15が、今回の演算周期での振れ目標値演算処理を終了する。
<オフセット推定部の詳細>
次に、オフセット推定部304によるレンズ側振れ検出部17のオフセット推定処理の方法について数式を用いて説明する。オフセット推定部304を公知の線形カルマンフィルタで構成する場合、線形カルマンフィルタの一般的な式は以下の式(1)~式(7)で表すことができる。
t=Axt-1+But+Εt …式(1)
t=Cxt+σt …式(2)
ここで式(1)は状態空間表現での動作モデルを表し、式(2)は観測モデルを表す。Aは動作モデルでのシステムマトリクス、Bは入力マトリクスを表す。またCは観測モデルでの出力マトリクスを表し、それぞれは行列式で表現される。また、Εtはプロセスノイズ、σtは観測ノイズ、tは離散的な時間を表す。
Figure 0007308672000001
ここで、式(3)は予測ステップにおける事前推定値、式(4)は事前誤差共分散を表す。またΣxは動作モデルのノイズの分散を表す。
Figure 0007308672000002
ここで、式(5)はフィルタリングステップにおけるカルマンゲインの算出式を表し、添え字のTは転置行列を表している。さらに式(6)はカルマンフィルタによる事後推定値、式(7)は事後誤差共分散を表す。またΣzは、観測モデルのノイズの分散を表す。
本実施形態では、レンズ側振れ検出部17のオフセットを推定するため、オフセット値をxtとし、観測された振れ量をzt、プロセスノイズをEt、観測ノイズをσtとする。すると、オフセットのモデルは式(1)における入力項uがなく、式(1)および式(2)でA=C=1となる以下の1次線形モデルで表すことができる。
t=xt-1+Et …式(8)
t=xt+σt …式(9)
ここで、式(4)における動作モデルのノイズの分散Σxを、システムノイズσxと三脚検知状態ノイズσtの合算値で表し、式(5)における観測モデルのノイズの分散Σzを、観測ノイズσz、パンニング検知状態ノイズσpの合算値で表す。さらにオフセット事前推定値をx^-、時刻tにおける誤差共分散推定値をP^t、時刻tにおけるカルマンゲインをkt、観測ノイズをσz、パンニング検知状態ノイズをσp、レンズ側振れ検出部17により観測された振れ量をztとすると以下の式でカルマンフィルタを構成することができる。
Figure 0007308672000003
オフセット推定部304は上記式(10)から式(14)までの演算式で構成され、推定演算の更新周期の時間t-1でのオフセット推定値x^t-1、加算器311により出力されるシステムノイズσx、三脚検知状態ノイズσt、時間t-1での誤差共分散推定値P^t-1により、オフセット事前推定値x^-および誤差共分散事前推定値P^- tが算出される。そして誤差共分散事前推定値P^- tおよび加算器316により出力される観測ノイズσz、パンニング検知状態ノイズσpを基にカルマンゲインktが算出される。そして式(13)によって、観測された振れ量ztとオフセット事前推定値x^-との誤差にカルマンゲインktを乗じた値によってオフセット事前推定値x^-が修正され、オフセット推定値x^tが算出される。また式(14)により誤差共分散事前推定値P^- tが修正されて、誤差共分散推定値P^tが算出される。これらの演算によって事前推定更新と修正を演算周期ごとに繰り返すことにより、オフセット推定値が算出される。
以上のように構成されたカルマンフィルタについて、システムノイズσx、観測ノイズσz、三脚検知状態ノイズσt、パンニング検知状態ノイズσpの大きさが変化することによる、カルマンフィルタのオフセット推定動作の変化について、式(11)、式(12)、式(13)および、図5を用いて説明する。図5は振れの大きさ、撮影状態によるシステムノイズ、観測ノイズ、三脚検知状態ノイズ、パンニング検知状態ノイズの大きさの関係を表した図である。
<システムノイズ、三脚検知状態ノイズの作用>
まず、図5(a)で示すように、積分フィルタ306で算出された振れ角度信号のうち、低周波成分が大きくなるにつれてシステムノイズσxが大きくなる。これはレンズ側振れ検出部17のオフセット値と加算器305で減算しているオフセット推定値がまだ誤差を持っているため、積分フィルタ306による積分後のノイズ算出用振れ角度信号の低周波成分のドリフトが大きいことを表している。つまりオフセット推定部が正しくオフセットを推定できていない状態であることを示している。
次に、図5(c)で示すように、三脚状態検出部317による三脚の検知時の揺れ状態が小さくなるにつれて三脚検知状態ノイズを大きくする。これはカメラシステム100が三脚に置かれているような静定状態にあることを表している。
これらのシステムノイズ、三脚検知状態ノイズにより、まず式(11)では誤差共分散事前推定値P^- tの値が大きくなる。観測ノイズ及びパンニング検知状態ノイズが変化していない状態を考えると、これにより式(12)で算出するカルマンゲインktは、算出式の分母に比べて分子の値の割合が大きくなることで1に近づく。逆にシステムノイズ及び三脚検知状態ノイズが小さくなるにつれて、式(12)で算出されるカルマンゲインktは0に近づく。以上のことから、式(13)で算出されるオフセット推定値x^tは、カルマンゲインが1に近づくにつれて、観測された振れ量ztに近づくように補正され、カルマンゲインが0に近づくにつれて、オフセット事前推定値x^-を維持するように更新される。このような動作によって、レンズ側振れ検出部17のオフセット誤差が大きい間、あるいはオフセット推定値が真のオフセット値から誤差を持っている間はステップS37におけるオフセット推定部304でのオフセット推定演算で、カルマンゲインが1に近づく。これにより、観測された振れ量と推定値との誤差を式(13)で補正するようにオフセット推定値を更新するように働く。また三脚検知状態の振れ振幅が小さくなるにつれて、式(11)における動作モデルのノイズの分散がさらに大きくなることによりカルマンゲインが1に近づく。これにより、観測された振れ量にオフセット推定値が近づくように働く。これは三脚状態で振れの小さい状態であれば、観測した振れ量に実際の撮影者の振れによる振れ周波数成分が含まれないため、観測された振れ量の低周波成分はオフセット成分が主であり、オフセット推定の精度が高まるためである。そのため積極的にオフセットの推定値を観測した振れ量に近づけるように更新処理を行う。
<観測ノイズ、パンニング検知状態ノイズの作用>
まず図5(b)で示すように、積分フィルタ306で算出された振れ角度信号のうち、高周波成分が大きくなるにつれて観測ノイズσzが大きくなる。これはレンズ側振れ検出部17で検出した振れ量のうち、手振れ周波数帯域を含む高周波成分が大きいことを表している。つまり、歩きながらの撮影のような、振れの大きい撮影条件でカメラシステム100が保持されている状態であることを示している。
次に、図5(d)で示すように、パンニング検出部319によるパンニング検知時の揺れ状態が大きくなるにつれてパンニング検知状態ノイズを大きくする。これは撮影者が意図的に構図変更を行うパンニングあるいはチルティング動作を行っている状態でありカメラシステム100の振れが大きいことを表している。パンニング検知の判定は、振れが大きい状態という点で観測ノイズの判定で代用可能であるが、パンニング動作のように一定方向に所定時間の動きなど単に振れの大きさだけを見ている場合に比べて動き変化の検知の精度が高いというメリットがある。
システムノイズ及び三脚検知状態ノイズが変化していない状態を考えると、まず式(11)は、誤差共分散事前推定値P^- tの値は変化しない。次に式(12)で算出するカルマンゲインktは、観測ノイズおよびパンニング検知状態ノイズが大きくなると、算出式の分子に比べて分母の値の割合が大きくなることで0に近づく。逆に観測ノイズ及びパンニング検知状態ノイズが小さくなるにつれて式(12)で算出されるカルマンゲインktは1に近づく。
以上のことから式(13)で演算されるオフセット推定値x^tは、カルマンゲインが1に近づくにつれて、観測された振れ量ztに近づくように補正される。また、カルマンゲインが0に近づくにつれて、オフセット事前推定値x^-を維持するように更新される。このような動作によって、レンズ側振れ検出部17による振れ量が大きくなるにつれて、ステップS37におけるオフセット推定部304でのオフセット推定演算で、カルマンゲインが0に近づく。これにより、観測された振れ量と推定値との誤差を式(13)で補正しないようにオフセット推定値の更新を遅くする(あるいは更新しない)ように働く。また同様にパンニング動作を検知した場合にも、式(12)における観測モデルのノイズの分散がさらに大きくなることでカルマンゲインが0に近づき、オフセット推定の更新を遅くするように働く。オフセット推定部が以上のような動きとなることにより、レンズ側振れ検出部17による振れ量に撮影者の動きによって大きな振れが含まれるような撮影条件であっても、撮影者の動きによる振れ成分を誤ってオフセットとして抽出してしまうことを避けることができる。そして、撮影条件、状態によらず、正確にオフセット推定を行うことができる。
また、三脚状態のように撮像装置の静定状態でオフセット推定の更新を早め、カメラシステム100の電源が投入された直後などオフセット推定値が真のオフセット値から大きく誤差を持っている状態においてオフセット推定の更新を早める。これにより、オフセット推定が完了するまでの速度を早めつつ、誤まった推定を避けることで振れ補正の性能を向上することが可能である。
上記のような各撮影状況でのオフセット推定値の時系列変化の一例を図6、図7、図8に示す。
図6は、カメラシステム100が三脚に置かれているような静定状態での横軸を時間[msec]としたレンズ側振れ検出部17による振れ角速度信号とオフセット推定値およびオフセット推定値を減算した後の振れ角速度信号の時系列変化を表した図である。
図6(a)は、従来の手法による振れ検出手段のオフセットを固定のカットオフ周波数のローパスフィルタにより抽出し、オフセットを除去した場合の波形例であり、図6(b)は本実施形態の手法を用いた場合の波形例を表している。
従来の手法によると、振れ補正の低周波性能を向上させるため、極低周波なカットオフ周波数(例えば0.01Hzなど)のローパスフィルタを用いてオフセットを推定している。そのため、図6(a)で示すように、オフセット推定値がオフセットを除去するまでに約220msec程度と非常に時間がかかってしまい、正しくオフセットを除去できるまで振れ補正性能が低下してしまう問題がある。
一方、本実施形態では、動きベクトルの信頼度が高い場合、図6(b)の下図で示すように、オフセット推定に用いる振れ角速度の値から撮影による振れ周波数成分があらかじめ取り除かれている。このため、システムノイズを大きく、観測ノイズを小さく設定でき、オフセット推定の更新速度を早めることができる。
次に、図7は歩き撮り撮影のような振れが大きい撮影条件での波形例を示した図である。
図7(a)は従来の手法による波形例である。振れが大きい状態においては、振れ補正部材の制御端への突き当たりを防止するため、低周波成分除去のためにローパスフィルタのカットオフ周波数が静定時に比べて高く設定される。そのため、ローパスフィルタによるオフセット推定値は、図で示したように、除去したい一定値のオフセット成分のみならず撮影の振れによる周波数成分も含んだ時系列で振幅方向に変動の大きいオフセット推定値となる。その結果、オフセット除去後の角速度は、本来振れ補正したい撮影による振れ成分であるオフセット以外の周波数成分が振れ検出値から除去されてしまい、振れ補正の性能が低下してしまう。
一方、図7(b)は本実施形態による波形例であり、図6(b)の場合と同様の効果が得られることが分かる。
次に、図8は、撮影者によるパンニング動作による構図変更時の波形例を表した図である。
図8(a)は、従来の手法による波形例である。想定している撮影者の動作は、グラフの横軸時間に対して70msec付近で一方向にパンニングし、120msec付近で停止するものである。従来の手法における静定状態においては、良好に振れ補正できているが、パンニング開始と同時にパンニング中の角速度変化もオフセットとして誤抽出してしまい、パンニングが停止した後に、正しいオフセットに戻るまでに時間がかかってしまっている。そのため、オフセット除去後の角速度値は、パンニング停止後にパンニング方向と逆方向の振れ角速度変化として算出されてしまう。この逆振れは振れ補正の不具合のいわゆる揺り戻しの動きとなってしまう。
一方、図8(b)の本実施形態による波形例では、動きベクトルによりパンニング動作による角速度変化も検出し、この検出された値がオフセット推定に用いる振れ角速度から取り除かれるためオフセット推定の精度をより高めることができる。
次に、動きベクトルの信頼度と、オフセット推定に用いるシステムノイズ及び観測ノイズの大きさの関係を図9を用いて説明する。
図9(a)は、ゲイン部310により算出されるノイズ算出用振れ角度情報の低周波成分の大きさとシステムノイズの関係を表した図である。また、図9(b)はゲイン部315により算出されるノイズ算出用振れ角度情報の高周波成分の大きさと観測ノイズの関係を表した図である。実線は動きベクトル情報を用いない場合のシステムノイズおよび観測ノイズの大きさを、点線は動きベクトルの信頼度が高いと判定された場合、一点鎖線は動きベクトルの信頼度が低いと判定された場合を表している。
動きベクトル情報を用いない場合の例については、ここでは詳細は省略するが、帯域制限フィルタを用いて手振れの主要帯域を除去したジャイロ信号からオフセット推定する方法などが挙げられる。本実施形態では、そのようなオフセットを推定する方法を除外して説明を行っているが、これには限定されず、帯域制限フィルタを用いつつ、さらに動きベクトル情報を用いるものであっても構わない。
動きベクトル信頼度判定部404により、動きベクトルの信頼度が高い場合には、信頼度が低い場合に比べて同じノイズ算出用振れ角度信号値に対してシステムノイズを大きく、観測ノイズを小さく設定する。これは、動きベクトルの信頼度が高い場合には、加算器401により算出されるカメラシステム100の振れを正確に検出できるからである。前述したようにレンズ側振れ検出部17が検出した撮影動作による振れを含む振れ量から動きベクトルから算出したカメラシステム100の振れを減算することにより、レンズ側振れ検出部17のオフセット成分の分離を正確に行うことができる。そのため式(13)におけるカルマンフィルタへ入力される観測された振れ量ztは、レンズ側振れ検出部17のオフセット成分の周波数成分を抽出できる。そのため、システムノイズを大きくすること、または観測ノイズを小さくすることにより、カルマンゲインを1に近づけ、観測された振れ量にオフセット推定値が近づくように補正を進める。
また一方、動きベクトル信頼度判定部404により、動きベクトルの信頼度が低い場合には、信頼度が高い場合に比べて同じノイズ算出用振れ角度信号値に対してシステムノイズを小さく、観測ノイズを大きく設定する。これは、動きベクトルの信頼度が低い場合には、加算器401により算出されるカメラシステム100の振れに誤差が大きく、正確に検出できていない状態であるからである。そのため、レンズ側振れ検出部17が検出した撮影動作による振れを含む振れ量から動きベクトルから算出したカメラシステム100の振れを減算すると、レンズ側振れ検出部17のオフセット成分以外の動きベクトル検出誤差が重畳した振れ信号となる。式(13)において、システムノイズを小さくすること、または観測ノイズを大きくすることによりカルマンゲインを0に近づけ、オフセット推定値の更新を遅くする。あるいは更新しないようにすることにより、オフセット推定値の更新速度と精度を向上させることができる。
次に、前述した動きベクトル信頼度判定部404による動きベクトルの信頼度判定について、信頼度が低いと判定される条件を以下に説明する。
(1)移動被写体が撮影画像全体に対して所定値以上を占めている場合
本実施形態では、動きベクトルによりカメラシステムの振れを検出することが目的であるが、撮影画像中に移動する被写体が存在し、移動被写体が撮影画面全体を占めている場合には、動きベクトルは移動被写体の移動速度を検出してしまう。
(2)カメラ側操作部9により撮影者によって設定されたISO感度設定が所定値よりも高い場合
公知のように、ISO感度設定を高くすると撮像部による電気信号を増幅する際にノイズ成分も増幅してしまうため、ISO感度を高くするほどノイズにより画像から検出した動きベクトルにノイズが混入してしまい、動きベクトルの信頼度が低下する。
(3)被写体のコントラスト値が所定値よりも低い場合
動きベクトルを算出する際の公知のブロックマッチングによりマッチング処理を行う際に、コントラストが低いと画像の類似点の判定が困難となり、マッチング結果に誤差が発生する。
(4)繰り返しパターンのある被写体が撮影画像全体に対して所定値以上を占めている場合
画像中に周期的なパターン(縞模様のような繰り返しパターン)が存在し、撮影画像全体を占めていると、ブロックマッチングにより誤った動きベクトルを検出することがある。
(5)撮像装置から第1の被写体までの距離と撮像装置から第1の被写体とは異なる被写体までの距離との差が所定値以上離れている被写体が撮影画像全体の領域に対して所定値以上を占めている場合
被写体までの距離によって撮像面での画像の動き量と、実際の被写体の移動速度の関係が異なる。そのため、動きベクトルを検出する画像中にカメラシステム100からの距離が遠い被写体と近い被写体が混在し、撮影画像全体を占めている場合に動きベクトルによる動き量に誤差が生じることがある。
(6)ローリングシャッタ歪みが所定値よりも大きい場合
撮像部にCMOSセンサを用いた際、高速に動く被写体を撮影すると取り込む時間差により画像に差異が生じ、高速に移動しているものを動画で撮影すると歪みが生じる。この公知の問題により、歪んだ画像を用いて動きベクトルを検出すると、動きベクトルの検出に誤差が生じることがある。
(7)被写体のテクスチャの相関値の最大値が低い場合
動きベクトル検出時にマッチングの基準領域とサーチ領域の相関値の最大値が低い場合には、基準領域とサーチ領域の類似度が低いと考えられ、信頼度が低いと判定される。
(8)被写体のテクスチャの相関値の最大値と最小値の差分に対する、相関の最小値と平均値との差分の比率が小さい場合
相関値の最小値と最大値の差分に対する、最小値と平均値の差分との比率は相関値ピークの急峻性を表わしており、比率が小さい場合、基準領域とサーチ領域の類似度が低いと考えられ、信頼度が低いと判定される。
なお、相関値の算出方法には既知の差分絶対値和(Sum of Absolute Difference:以下、SADと略す)など、どのような算出方法を用いても構わない。
本実施形態におけるカメラシステム100では、オフセット推定部304が、レンズ側振れ検出部17のオフセット成分を、シフトブレの影響を除去して推定している。一方で、シフトブレの影響が発生するシーンには特定の条件が伴うことが知られている。そこで、本実施形態ではシフトブレの影響があることが想定されるシーンに限定して、図4で説明したようなシフトブレ演算部23の出力を利用するか否かを以下の条件で切り替え可能である。
一つ目の条件は、「撮影秒時」である。撮影に際して、撮影者やカメラシステム100が設定する撮影秒時(露光秒時)に応じて、露光期間が決定される。これは前述のカメラ側操作部9を用いて撮影者が行ったりカメラシステム100の設定状態によってはカメラシステム100が自ら行ったりする。レンズシステム制御部15は、カメラ本体1で設定された撮影秒時が所定よりも長い場合、図4で説明したシフトブレ演算部23の出力を利用し、短い場合はシフトブレ演算部23の出力を利用しない。これは、被写体距離がきわめて近いマクロ撮影でない場合であっても、撮影秒時が長い場合には、シフトブレの影響が大きくなり、短い場合はシフトブレの影響が小さくなるためである。
二つ目の条件は、「被写体距離情報」である。カメラシステム100は、撮像素子6から得られる撮影画像から、画像処理部7を介して被写体距離情報を距離マップとして取得可能である。より具体的には、撮像素子6が位相差検出用画素を備えており、被写体の位相差を検出する。この位相差から得られる被写体距離情報の集合を用いて、画像処理部7の一部である距離マップ生成部(不図示)が距離マップを生成する。レンズシステム制御部15は、この距離マップに基づいて、主被写体の距離を取得し、所定距離よりも短い場合、図4で説明したシフトブレ演算部の出力を利用し、長い場合は利用しない。これは、被写体距離が所定距離よりも短い場合には、シフトブレの影響が大きくなり、長い場合はシフトブレの影響が小さくなるためである。
以上説明したように、上記の実施形態によれば、動きベクトル検出部から得られるカメラシステムのブレ量から、オフセット推定のためには不要であるシフトブレ成分を除去することにより、より適正なオフセット推定が可能となる。
(一実施形態の変形例)
上記の実施形態では、シフトブレの検出のために、図4で説明したような、角速度信号と加速度信号との比較を行うブロックが用意されていた。本発明の目的達成において上記構成は必須のものではなく、たとえば、加速度信号を二階積分することで得られる位置信号をシフトブレ成分として、ベクトル情報から差し引いても構わない。
また、シフトブレ成分の検出は、必ずしもカメラシステム100内部でなされなくてはならないものではない。たとえば外部測定系が存在し、カメラシステム100の絶対空間内における位置情報が、無線通信によって得られるような構成であっても構わない。
一実施形態およびその変形例においては、像ブレ補正手段として撮影光学系の一部がシフト駆動されるタイプを採用している。しかし、本発明はこれに限定されず、撮像素子6がシフト駆動されるものであったり、レンズがチルト駆動されるものであったり、またそれらの組み合わせであっても構わない。
また、上記の実施形態においては、レンズユニット2に配設されるレンズ側振れ検出部17と加速度センサ24を用いてシフトブレ量を算出し、レンズ側振れ検出部17であるジャイロセンサのオフセット誤差を除去した。しかしながら、本発明はこれには限定されず、カメラ本体1内に内蔵されるジャイロセンサや加速度センサを用いて算出したシフトブレ量にも基づいてレンズ側振れ検出部17のオフセット誤差を除去してもよい。
(他の実施形態)
また本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読み出し実行する処理でも実現できる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現できる。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
1:カメラ本体、2:レンズユニット、3:撮影光学系、5:カメラシステム制御部、6:撮像素子、15:レンズシステム制御部、17:レンズ側振れ検出部、18:レンズ側振れ補正駆動部、19:振れ補正ユニット、20:レンズ位置検出部

Claims (20)

  1. 被写体像を光電変換する撮像素子から出力された複数の画像信号から得られる動きベクトルを用いて、撮像装置の振れ量を検出する第1の振れ検出手段から第1の振れ検出結果を取得する第1の取得手段と、
    前記被写体像と前記撮像素子の相対位置を変更することにより、前記撮像装置の振れに起因する像ブレを補正する像ブレ補正手段の補正量の情報を取得する第2の取得手段と、
    前記撮像装置の回転角速度を検出する第2の振れ検出手段から第2の振れ検出結果を取得する第3の取得手段と、
    前記撮像装置のシフト振れを検出するシフト振れ検出手段からシフト振れ検出結果を取得する第4の取得手段と、
    前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記シフト振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定する推定手段と、
    を備え
    前記推定手段は、前記第1の振れ検出結果から前記シフト振れ検出結果を差し引いた値と、前記第2の振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定することを特徴とする像ブレ補正装置。
  2. 被写体像を光電変換する撮像素子から出力された複数の画像信号から得られる動きベクトルを用いて、撮像装置の振れ量を検出する第1の振れ検出手段から第1の振れ検出結果を取得する第1の取得手段と、
    前記被写体像と前記撮像素子の相対位置を変更することにより、前記撮像装置の振れに起因する像ブレを補正する像ブレ補正手段の補正量の情報を取得する第2の取得手段と、
    前記撮像装置の回転角速度を検出する第2の振れ検出手段から第2の振れ検出結果を取得する第3の取得手段と、
    前記撮像装置のシフト振れを検出するシフト振れ検出手段からシフト振れ検出結果を取得する第4の取得手段と、
    前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記シフト振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定する推定手段と、
    を備え、
    前記推定手段は、前記シフト振れ検出結果が所定値より大きい場合に、前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記シフト振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定することを特徴とするブレ補正装置。
  3. 前記シフト振れ検出手段は、加速度を検出する加速度検出手段と、該加速度検出手段の出力を積分した値と前記第2の振れ検出手段の出力とを比較する比較手段と、を有することを特徴とする請求項1または2に記載の像ブレ補正装置。
  4. 前記比較手段は、前記加速度検出手段の出力を積分した値を前記第2の振れ検出手段の出力で除算することにより前記撮像装置の回転振れの半径を求め、前記シフト振れ検出手段は、前記半径と前記第2の振れ検出手段の出力を積分した値を乗算することにより前記シフト振れを検出することを特徴とする請求項に記載の像ブレ補正装置。
  5. 前記シフト振れ検出手段は、加速度を検出する加速度検出手段と、該加速度検出手段の出力を積分した値と前記第1の振れ検出手段の出力とを比較する比較手段と、を有することを特徴とする請求項1または2に記載の像ブレ補正装置。
  6. 前記シフト振れ検出手段は、加速度を検出する加速度検出手段を備え、該加速度検出手段の出力を二階積分することにより、前記シフト振れを検出することを特徴とする請求項1または2に記載の像ブレ補正装置。
  7. 前記シフト振れ検出手段は、前記撮像装置の外部から得られる前記撮像装置の位置情報により、前記シフト振れを検出することを特徴とする請求項1または2に記載の像ブレ補正装置。
  8. 被写体の距離情報である距離マップを生成する距離マップ生成手段をさらに備え、前記推定手段は、前記距離マップ生成手段により生成される距離マップが所定の条件を満たした場合に、前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記シフト振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出結果に含まれるオフセット量を推定することを特徴とする請求項1乃至のいずれか1項に記載の像ブレ補正装置。
  9. 前記推定手段は、撮影の際に設定される露光秒時が所定の時間以上に設定された場合に、前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記シフト振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出結果に含まれるオフセット量を推定することを特徴とする請求項1乃至のいずれか1項に記載の像ブレ補正装置。
  10. 前記撮像装置の向きの変更動作を検知するパンニング検知手段をさらに備え、前記推定手段は、前記パンニング検知手段による振れ量が第1の量の場合の前記オフセット量の推定の更新速度を、前記パンニング検知手段による振れ量が前記第1の量よりも小さい第2の量の場合の前記オフセット量の推定の更新速度よりも遅くすることを特徴とする請求項1乃至のいずれか1項に記載の像ブレ補正装置。
  11. 前記撮像装置の振れが所定時間、所定振幅内に収まった状態である三脚状態を検知する三脚検知手段をさらに備え、前記推定手段は、前記三脚状態での振れ量が第3の量の場合の前記オフセット量の推定の更新速度を、前記三脚状態での振れ量が前記第3の量よりも大きい第4の量の場合の前記オフセット量の推定の更新速度よりも早くすることを特徴とする請求項1乃至10のいずれか1項に記載の像ブレ補正装置。
  12. 前記推定手段は、
    前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記シフト振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定するモードと、
    前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定するモードとを実行可能であることを特徴とする請求項1乃至11のいずれか1項に記載の像ブレ補正装置。
  13. 前記推定手段は、前記オフセット量を、前記第2の振れ検出手段の検出結果に基づいて補正量を算出する算出手段に出力することを特徴とする請求項1乃至12のいずれか1項に記載の像ブレ補正装置。
  14. 請求項1乃至13のいずれか1項に記載の像ブレ補正装置と、
    前記像ブレ補正手段と
    撮影光学系とを備え、
    前記像ブレ補正手段は、前記撮影光学系に設けられ、該撮影光学系の光軸と異なる方向に移動するシフトレンズを有することを特徴とする撮影レンズ。
  15. 請求項1乃至13のいずれか1項に記載の像ブレ補正装置と、
    前記像ブレ補正手段と、
    前記撮像素子とを備え、
    前記像ブレ補正手段は、前記撮像素子を撮影光学系の光軸と異なる方向に移動させる駆動手段を有することを特徴とする撮像装置。
  16. 撮像装置と前記撮像装置に着脱可能に装着されるレンズユニットとを備える撮像システムであって、
    被写体像を光電変換する撮像素子から出力された複数の画像信号から得られる動きベクトルを用いて、撮像装置の振れ量を検出する第1の振れ検出手段から第1の振れ検出結果を取得する第1の取得手段と、
    前記被写体像と前記撮像素子の相対位置を変更することにより、前記撮像装置の振れに起因する像ブレを補正する像ブレ補正手段の補正量の情報を取得する第2の取得手段と、
    前記撮像装置の回転角速度を検出する第2の振れ検出手段から第2の振れ検出結果を取得する第3の取得手段と、
    前記撮像装置のシフト振れを検出するシフト振れ検出手段からシフト振れ検出結果を取得する第4の取得手段と、
    前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記シフト振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定する推定手段と、
    を備え
    前記推定手段は、前記第1の振れ検出結果から前記シフト振れ検出結果を差し引いた値と、前記第2の振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定することを特徴とする撮像システム。
  17. 撮像装置と前記撮像装置に着脱可能に装着されるレンズユニットとを備える撮像システムであって、
    被写体像を光電変換する撮像素子から出力された複数の画像信号から得られる動きベクトルを用いて、撮像装置の振れ量を検出する第1の振れ検出手段から第1の振れ検出結果を取得する第1の取得手段と、
    前記被写体像と前記撮像素子の相対位置を変更することにより、前記撮像装置の振れに起因する像ブレを補正する像ブレ補正手段の補正量の情報を取得する第2の取得手段と、
    前記撮像装置の回転角速度を検出する第2の振れ検出手段から第2の振れ検出結果を取得する第3の取得手段と、
    前記撮像装置のシフト振れを検出するシフト振れ検出手段からシフト振れ検出結果を取得する第4の取得手段と、
    前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記シフト振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定する推定手段と、
    を備え、
    前記推定手段は、前記シフト振れ検出結果が所定値より大きい場合に、前記第1の振れ検出結果と、前記第2の振れ検出結果と、前記シフト振れ検出結果と、前記像ブレ補正手段の補正量とに基づいて、前記第2の振れ検出手段の検出結果に含まれるオフセット量を推定することを特徴とする撮像システム。
  18. 被写体像を光電変換する撮像素子から出力された複数の画像信号から得られる動きベクトルを用いて検出された、撮像装置の第1の振れ量を取得する第1の振れ取得工程と、
    前記被写体像と前記撮像素子の相対位置を変更することにより、前記撮像装置の振れに起因する像ブレを補正する像ブレ補正手段の補正量の情報を取得する補正量取得工程と、
    前記撮像装置の回転角速度を取得する第2の振れ取得工程と、
    前記撮像装置のシフト振れを取得するシフト振れ取得工程と、
    前記第1の振れ量と、前記回転角速度と、前記シフト振れと、前記像ブレ補正手段の補正量とに基づいて、前記回転角速度に含まれるオフセット量を推定する推定工程と、
    を備え
    前記推定工程では、前記第1の振れ量から前記シフト振れを差し引いた値と、前記回転角速度と、前記像ブレ補正手段の補正量とに基づいて、前記回転角速度に含まれるオフセット量を推定することを特徴とする像ブレ補正装置の制御方法。
  19. 被写体像を光電変換する撮像素子から出力された複数の画像信号から得られる動きベクトルを用いて検出された、撮像装置の第1の振れ量を取得する第1の振れ取得工程と、
    前記被写体像と前記撮像素子の相対位置を変更することにより、前記撮像装置の振れに起因する像ブレを補正する像ブレ補正手段の補正量の情報を取得する補正量取得工程と、
    前記撮像装置の回転角速度を取得する第2の振れ取得工程と、
    前記撮像装置のシフト振れを取得するシフト振れ取得工程と、
    前記第1の振れ量と、前記回転角速度と、前記シフト振れと、前記像ブレ補正手段の補正量とに基づいて、前記回転角速度に含まれるオフセット量を推定する推定工程と、
    を備え、
    前記推定工程では、前記シフト振れが所定値より大きい場合に、前記第1の振れ量と、前記回転角速度と、前記シフト振れと、前記像ブレ補正手段の補正量とに基づいて、前記回転角速度に含まれるオフセット量を推定することを特徴とする像ブレ補正装置の制御方法。
  20. 請求項18または19に記載の制御方法の各工程をコンピュータに実行させるためのプログラム。
JP2019125466A 2019-07-04 2019-07-04 像ブレ補正装置及びその制御方法、撮像システム、プログラム Active JP7308672B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019125466A JP7308672B2 (ja) 2019-07-04 2019-07-04 像ブレ補正装置及びその制御方法、撮像システム、プログラム
US16/919,235 US11290650B2 (en) 2019-07-04 2020-07-02 Image blur information acquisition apparatus and method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019125466A JP7308672B2 (ja) 2019-07-04 2019-07-04 像ブレ補正装置及びその制御方法、撮像システム、プログラム

Publications (2)

Publication Number Publication Date
JP2021012259A JP2021012259A (ja) 2021-02-04
JP7308672B2 true JP7308672B2 (ja) 2023-07-14

Family

ID=74227968

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019125466A Active JP7308672B2 (ja) 2019-07-04 2019-07-04 像ブレ補正装置及びその制御方法、撮像システム、プログラム

Country Status (1)

Country Link
JP (1) JP7308672B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016206656A (ja) 2015-04-22 2016-12-08 キヤノン株式会社 防振制御装置、光学機器および防振制御プログラム
JP2018025703A (ja) 2016-08-12 2018-02-15 キヤノン株式会社 像ブレ補正装置、光学機器、および像ブレ補正方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016206656A (ja) 2015-04-22 2016-12-08 キヤノン株式会社 防振制御装置、光学機器および防振制御プログラム
JP2018025703A (ja) 2016-08-12 2018-02-15 キヤノン株式会社 像ブレ補正装置、光学機器、および像ブレ補正方法

Also Published As

Publication number Publication date
JP2021012259A (ja) 2021-02-04

Similar Documents

Publication Publication Date Title
US11290650B2 (en) Image blur information acquisition apparatus and method, and storage medium
US10791270B2 (en) Image stabilization apparatus capable of accurately estimating an offset component of an angular velocity sensor, optical apparatus, and image stabilization method
CN114584676B (zh) 图像模糊校正装置及其控制方法和摄像装置
JP6881969B2 (ja) 撮像装置、交換レンズおよびそれらの制御方法
JP2019029962A (ja) 撮像装置およびその制御方法
JP7257774B2 (ja) 撮像システム及びその制御方法、レンズユニット、撮像装置、プログラム、記憶媒体
JP7009107B2 (ja) 撮像装置およびその制御方法
CN104427250A (zh) 图像捕捉装置及其控制方法
JP7263001B2 (ja) 情報処理装置、撮像装置、情報処理方法および撮像装置の制御方法
JP7308672B2 (ja) 像ブレ補正装置及びその制御方法、撮像システム、プログラム
JP2020190690A (ja) 像ぶれ補正装置、像ぶれ補正方法、及び像ぶれ補正プログラム
JP2019216374A (ja) 撮像装置およびその制御方法
JP7204855B2 (ja) 像振れ補正装置およびその制御方法、撮像装置
JP7356272B2 (ja) 像ブレ情報取得装置及び方法、像ブレ補正装置、プログラム、記憶媒体
JP7506500B2 (ja) 像振れ補正装置及び方法、及び、撮像装置
US11956538B2 (en) Image capturing apparatus that performs blur correction and method of controlling same
JP7495800B2 (ja) 像ブレ補正装置及びその制御方法、プログラム、記憶媒体
JP7275176B2 (ja) 撮像装置、撮像方法、及びプログラム
US11871112B2 (en) Image stabilization apparatus and method and image capturing apparatus
JP7426841B2 (ja) 像ブレ補正装置及びその制御方法、プログラム、記憶媒体
JP7408294B2 (ja) 撮像装置、レンズ装置、撮像装置の制御方法およびレンズ装置の制御方法
JP2021044653A (ja) 動きベクトル検出装置及び動きベクトル検出方法
JP2022021684A (ja) 像ブレ補正装置およびその制御方法、撮像装置
JP2021026180A (ja) 像振れ補正装置及び撮像装置
JP2019159172A (ja) 撮像装置およびその制御方法

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220704

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230518

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230704

R151 Written notification of patent or utility model registration

Ref document number: 7308672

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151