本発明の各実施形態について、添付図面を参照して詳細に説明する。本発明は、デジタルカメラやデジタルビデオカメラ等への適用に限定されるものではなく、携帯電話、監視カメラ、Webカメラ等の撮像装置に適用可能である。
[第1実施形態]
図1は撮像装置の振れ方向を説明する模式図である。カメラ101に搭載される振れ補正システムは、光軸102に対して矢印103p、103y、103rで示すピッチ、ヨー、ロールの角度に対して像振れ補正を行う。3次元直交座標系においてz軸方向を光軸方向とし、z軸に直交する第1の軸をx軸とし、x軸およびz軸に直交する第2の軸をy軸と定義する。矢印103pに示すx軸回り方向がピッチ方向、矢印103yに示すy軸回り方向がヨー方向、矢印103rに示すz軸回り方向がロール方向である。カメラ101は、各方向の角度振れの角速度を検出する角速度検出手段(以下、角速度計という。)を備える。矢印104xはx軸方向に平行な方向を示し、矢印104yはy軸方向に平行な方向を示し、矢印104zはz軸方向に平行な方向を示す。カメラ101は、これらの並進方向の振れ(平行振れ)の加速度を検出する加速度検出手段(以下、加速度計という)を備える。図2を参照して本実施形態の撮像装置について説明する。
図2は本実施形態に係る振れ補正機能および傾き補正機能を有する撮像装置の構成について要部を示すブロック図である。撮像光学系については図2の右側を被写体側として説明する。ズームユニット201は、変倍を行うズームレンズと、ズーム位置を検出する位置検出部を有する。絞り・シャッタユニット202は絞りおよびシャッタを有する。フォーカスユニット203は焦点調節を行うフォーカスレンズを有する。撮像部204は撮像素子を備える。撮像素子は撮像光学系の各レンズ群を通して入射する光を受光し、受光量に応じた電荷を光電変換により電気信号に変換し、アナログ画像信号として撮像信号処理部205に出力する。
撮像信号処理部205は、撮像部204の出力する電気信号を映像信号に変換処理する。映像信号処理部206は、撮像信号処理部205の出力する映像信号を用途に応じて加工する。例えばデジタル画像データに対して、歪曲補正やホワイトバランス調整、色補間処理等が行われる。
フォーマット変換部207は、映像信号処理部206が出力するデジタル画像データを、MPEG(Moving Picture Experts Group)形式等の記録用フォーマットに変換し、画像記録部208に出力する。画像記録部208はフォーマット変換部207が変換したデジタル画像データを、不揮発性メモリ等の記録媒体に記録する。表示制御部209は、映像信号処理部206の出力するデジタル画像データを、小型液晶表示装置(LCD)等の画面に表示させる制御を行う。
振れ検出部は3軸加速度計213および3軸角速度計214を備える。3軸加速度計213は、図1の矢印104x、104yおよび104zに示す各方向の加速度を検出し、検出信号を出力する。3軸角速度計214は、図1の矢印103p、103yおよび103rに示す各方向の角速度を検出し、検出信号を出力する。3軸加速度計213および3軸角速度計214によって得られた検出信号は制御部215が処理する。制御部215はシステム全体を制御する制御中枢部である。電源部210はシステム全体に、用途に応じて電源を供給する。外部入出力端子部211は外部装置との間で通信信号および映像信号を入出力する。操作部212は、ユーザがシステムの操作に使用する。
制御部215は、傾き補正角度算出部217および振れ補正角度算出部218を備える。以下では、傾き補正角度算出部217を第1の算出部といい、振れ補正角度算出部218を第2の算出部という。第1の算出部217は、3軸加速度計213および角速度計214の出力する検出信号を取得し、傾き補正角度を算出する。第2の算出部218は、3軸角速度計214の出力する検出信号を取得し、振れ補正角度を算出する。補正切り替え部219は、操作部212の出力に応じて、第1の算出部217の出力に基づいて補正するか、第2の算出部218の出力に基づいて補正するかを切り替える。画像切り出し設定部220は補正切り替え部219の出力を取得し、フレームごとに補正量に合わせて画像の一部を切り出す設定を行う。なお各部については、後で詳述する。
次に図3を参照して、フレームごとに補正量に合わせて画像の一部を切り出すことで補正を行う電子式像振れ補正制御について説明する。
図3(A)は、画像切り出し設定部220と映像信号処理部206によって行われる電子式像振れ補正制御で補正された画像を説明するための図である。ロール補正角度の演算結果から、画像切り出し設定部219は回転補正を行うためのロール補正量を演算する。画像301aは、映像信号処理部206に入力される撮影画像を示す。画像302aは、撮影画像301aに対し、ロール補正量に基づいて回転処理を行った後の回転画像を示す。さらに、電子式像振れ補正では、回転画像302aから撮影画像301aと同じアスペクト比の内接部分を出力画像303aとして切り出す処理が行われる。この切り出し処理を動画の毎フレームについて行うことで、ロール方向の電子像振れ補正が実現される。
また、図3(B)は、画像切り出し設定部220と映像信号処理部206によって行われる、画像の縦横方向(並進方向)の像振れ補正を説明するための図である。並進方向の補正では、ブレ角度とズーム位置情報に基づく焦点距離情報から、ピッチ/ヨー方向の角度振れを補正するための画像シフト量が算出され、画像シフト量に合わせて画像の切り出し処理が行われる。画像301bは、映像信号処理部206に入力される撮影画像を示す。画像302bは、撮影画像301bから縦横の画像シフト量に合わせて切り出した画角に対応する画像である。この切り出し処理を動画の毎フレームについて行うことで、並進方向の電子像振れ補正が実現される。
画像の切り出し処理によって、動画フレームごとのピッチ/ヨー/ロール方向の電子式像振れ補正を実現できるが、光学的な像振れ補正を組み合わせることもできる。例えば、撮像素子による撮像前に機械的な駆動方式で光学的に制御し、光軸のシフトおよび光軸回りの回転により、ピッチ/ヨー/ロール方向の補正を行う方法がある。図4に具体例を示す。図4は、撮像素子の駆動機構部を有する撮像装置の構成例を示すブロック図である。駆動機構部402は、撮像素子を光軸方向に直交する方向へシフト移動させるとともに、光軸を中心に回転させる機構部である。図2と同様の構成部については既に使用した符号を用いることにより、それらの説明を省略する。
撮像素子駆動部401は補正切り替え部219の出力を取得し、ズームユニット201からのズーム位置情報により求まる焦点距離に基づいてピッチおよびヨー補正角度を増幅し、撮像素子のシフト駆動量の目標値を算出する。また撮像素子駆動部401は、ロール補正角度に基づいて、撮像素子の回転駆動量の目標値を算出する。算出されたシフト駆動量の目標値および回転駆動の目標値に基づいて、駆動機構部402が撮像素子を移動させることで振れ補正および傾き補正が行われる。
図4では、撮像素子のシフトおよび回転を行う方法を説明したが、これは一例である。その他には下記の形態がある。
・撮像光学系の一部に組み込まれた光学部材(シフトレンズ)を、光軸に直交する方向に移動することで並進方向の補正を行う形態。
・撮像素子とシフトレンズの各駆動を併用して、並進方向と回転方向の補正を行う形態。
・レンズと撮像素子が一体化された鏡筒を、補正角度に基づいて回転駆動することで補正する形態。
ユーザは操作部212を使用して、振れ補正を行うか否かのON/OFF設定(振れ補正設定)と、傾き補正を行うか否かのON/OFF設定(傾き補正設定)を行える。操作部212はユーザの操作指示を受け付けると、操作指示信号を制御部215に出力する。図14は、操作部212でのモード変更操作によるモード切替の設定例を示し、表示部に表示される設定画面に対応する。傾き補正に関して水平方向およびあおり方向のON/OFF設定が可能である。
図2の電子式像振れ補正を例にすると、画像の切り出し範囲を拡大することで並進やロール等の補正範囲を拡大することができる。しかし、画像の切り出しに伴う解像度の低下による画像劣化の問題や、切り出し後の撮影画角の縮小といった問題が生じ得る。よって、切り出しの大きさの変更により補正範囲を拡大することは難しく、限られた補正範囲での制御となる。そこで本実施形態では、補正範囲を固定のままか、或いは大きく変更することなく、傾き補正角度或いは振れ補正角度の最大補正範囲を、操作部212からの振れ補正設定と傾き補正設定によって変更する。加えて、第1の算出部217内および第2の算出部218内の各演算パラメータについても、操作部212からの振れ補正設定と傾き補正設定によって変更される。これにより、限られた補正範囲内でユーザが望む補正効果を得ることができる。以下では、振れ補正設定と傾き補正設定に基づいて行われる、第2の算出部218、第1の算出部217の演算処理についてそれぞれ説明する。
まず、図5および図6を参照して第2の算出部218による振れ補正角度算出処理を説明する。3軸角速度計214は、ピッチ角速度214p、ヨー角速度214y、ロール角速度214rの各検出信号を出力する。各検出信号は、HPF部501p、501y、501rに入力される。p、y、rはそれぞれピッチ、ヨー、ロールを識別するための記号である。各検出信号は、対応するHPFでDC(直流)成分をカットされた後に、減算器502p、502y、502rにそれぞれ入力される。各減算器は、HPF処理後の出力から、角速度オフセット算出部504p、504y、504rの出力をそれぞれ減算し、減算後の信号を積分器503p、503y、503rにそれぞれ出力する。各積分器による積分処理後の出力は、リミット部505p、505y、505rおよび角速度オフセット算出部504p、504y、504rにそれぞれ送られる。リミット部505p、505y、505rは、それぞれの入力値を所定値以下に制限し、ピッチ振れ補正角度、ヨー振れ補正角度、ロール振れ補正角度をそれぞれ算出する。
角速度オフセット算出部504p、504y、504rは、前回のサンプリングにおける振れ補正角度(振れ補正角度の前回値)の大きさに基づいてオフセット量を算出して減算器502p、502y、502rにそれぞれ出力する。角速度オフセット算出部は、振れ角度が閾値A以下である場合にオフセットをゼロに設定し、振れ角度が閾値Aより大きい場合には振れ補正角度の前回値の大きさに応じてオフセット量が大きくなるようにオフセット量を設定する。
図6の振れ補正パラメータ設定部508、509、510は、振れ補正指定部506と傾き補正指定部507の指定情報に基づいて、ピッチ、ヨー、ロールの各軸の振れ補正パラメータをそれぞれ設定する。ピッチ振れ補正パラメータ設定部508、ヨー振れ補正パラメータ設定部509、ロール振れ補正パラメータ設定部510が各軸の振れ補正パラメータを担当し、振れ補正パラメータは振れ補正指定部506と傾き補正指定部507の状態に応じて設定される。HPF部501p、角速度オフセット算出部504p、リミット部505pには、振れ補正パラメータ設定部508によって設定されたピッチ振れ補正パラメータが入力される。HPF部501y、角速度オフセット算出部504y、リミット部505yには、振れ補正パラメータ設定部509によって設定されたヨー振れ補正パラメータが入力される。HPF部501r、角速度オフセット算出部504r、リミット部505rには、振れ補正パラメータ設定部510によって設定されたロール振れ補正パラメータが入力される。振れ補正効果を低くする場合、HPF部501p、501y、501rのカットオフ周波数を高くし、角速度オフセット算出部504p、504y、504rのオフセット量が大きくなるようにパラメータが設定される。リミット部505p、505y、505rのリミット閾値が小さくなるようにパラメータが設定される。また、振れ補正効果を高くする場合、HPF部501p、501y、501rのカットオフ周波数を低くし、角速度オフセット算出部504p、504y、504rのオフセット量が小さくなるようにパラメータが設定される。リミット部505p、505y、505rのリミット閾値が大きくなるようにパラメータが設定される。各パラメータは、並進方向およびロール方向の各補正範囲に応じて設定される。
下記表1は、振れ補正設定と傾き補正設定に応じた各補正の補正割合を例示する。傾き補正については、水平方向(ロール方向)の傾き補正である水平傾き設定と、あおり方向(ピッチ方向、ヨー方向)の傾き補正であるあおり傾き設定が可能である。以下では簡略化のために、ローリングシャッタ歪を「RS歪」とも表記する。
表1の第1行第1列は、振れ補正指定部506による設定がONであって、傾き補正指定部507による設定が水平傾き補正OFF、あおり傾き補正OFFの場合を示す。この場合、並進方向の振れ補正効果を優先するパラメータ設定となる。ピッチ振れ補正角度とヨー振れ補正角度の補正範囲は大きく設定される。ロール振れ補正角度に関しては、水平傾き補正を行わなくていい分、ピッチおよびヨー振れ補正角度の補正範囲ほど大きくならないように設定される。よって、リミット部505p、リミット部505yでは、補正限界のリミット閾値が大きく設定され、リミット部505rではリミット閾値が、ピッチ方向、ヨー方向のリミット閾値よりも小さく設定される。HPF部501p、HPF部501yでは、カットオフ周波数が低く設定され、HPF部501rのカットオフ周波数は、HPF部501p、HPF部501yのカットオフ周波数よりも高く設定される。角速度オフセット算出部504p、504yでは、振れが大きいときのオフセット量が、角速度オフセット算出部504rよりも小さくなるようにパラメータが設定される。これにより、ピッチ方向およびヨー方向の像振れ補正効果が相対的に高く、ロール方向の像振れ補正効果は相対的に低くなる。こうして、振れ補正設定と傾き補正設定によるピッチ、ヨー、ロールの振れ補正範囲内で必要な効果が得られるように各パラメータが設定される。
表1の第1行第4列は、振れ補正指定部506による設定がONであって、傾き補正指定部507による設定が水平傾き補正ON、あおり傾き補正ONの場合を示す。この場合にはピッチ、ヨー、ロールの各方向にて同等の効果となるように補正割合が分散して設定される。この設定の場合、後述する第1の算出部217にて演算されるピッチ、ヨー、ロール角度で補正されるので第2の算出部218の演算結果は使われない。表1の第1行第2列は、振れ補正指定部506による設定がONであって、傾き補正指定部507による設定が水平傾き補正ON、あおり傾き補正OFFの場合を示す。この場合にはロール方向の補正効果が高く、ピッチ方向およびヨー方向についてはロール方向に比べて補正効果が相対的に低くなるように設定される。この設定の場合、ロール方向については第1の算出部217にて演算されるロール角度で補正されるので、第2の算出部218によるロール角度の演算結果は使われない。
表1の第1行第3列は、振れ補正指定部506による設定がONであって、傾き補正指定部507による設定が水平傾き補正OFF、あおり傾き補正ONの場合を示す。この場合にはピッチおよびヨー方向の補正効果が高く、ロール方向についてはピッチ方向およびヨー方向に比べて補正効果が相対的に低くなるように設定される。この設定の場合、ピッチ方向およびヨー方向については第1の算出部217にて演算されるピッチ角度およびヨー角度で補正されるので、第2の算出部218によるピッチ角度およびヨー角度の演算結果は使われない。
表1の第2行に示す振れ補正指定部506による設定がOFFの場合、リミット部505p、505y、505rのリミット閾値がいずれもゼロに設定される。表1の第2行第1列は、振れ補正指定部506による設定がOFFであって、傾き補正指定部507による設定が水平傾き補正、あおり傾き補正ともにOFFの場合を示す。この場合、ピッチ、ヨー、ロールの補正角度がゼロになるよう設定され、振れ補正、傾き補正のいずれも行われない。
表1の第2行第2列は、振れ補正指定部506による設定がOFFであって、傾き補正指定部507による設定が水平傾き補正ON、あおり傾き補正OFFの場合を示す。この場合、並進方向の補正割合がゼロであり、ロール優先のパラメータ設定となる。表1の第2行第3列は、振れ補正指定部506による設定がOFFであって、傾き補正指定部507による設定が水平傾き補正OFF、あおり傾き補正ONの場合を示す。この場合、ロール方向の補正割合がゼロであり、並進優先のパラメータ設定となる。表1の第2行第4列は、振れ補正指定部506による設定がOFFであって、傾き補正指定部507による設定が水平傾き補正、あおり傾き補正ともにONである場合を示す。この場合、ピッチ、ヨー、ロールの各方向にて同等の効果となるように補正割合が分散して設定され、第1の算出部217の演算結果に基づいて補正が行われる。
次に図7を参照して、第1の算出部217の傾き補正角度算出処理について説明する。まず、水平傾き補正角度の算出方法について説明する。3軸加速度計213は、直交した3軸の方向の加速度検出信号を出力する。また3軸角速度計214はロール角速度214r、ピッチ角速度214p、ヨー角速度214yの各検出信号を出力する。
水平角度算出部601は加速度計213の出力とロール角速度214rを取得して、水平角度(ロール絶対角度)を算出する。水平角度算出部601は、加速度計213の出力から演算されたカメラのロール絶対角度とロール角速度214rとをカルマンフィルタ等による処理で信号合成して、水平角度としてロール絶対角度を演算する。加速度計と角速度計を用いることにより、広い周波数帯域で高精度な水平角度(ロール絶対角度)を算出できる。
像振れ補正角度算出部602はロール角速度214rを取得し、図5のロール振れ補正角度算出方法と同様の方法でロール振れ補正角度を演算する。これにより、低周波成分をカットしたロール角度が算出される。ただし、図7の像振れ補正角度算出部602、606、609では、図5で説明したような操作部212による設定に応じたHPFパラメータや角速度オフセット算出部のパラメータ、リミット部のリミット閾値の変更処理は行われない。
水平補正角度算出部603は、水平角度算出部601の出力であるロール絶対角度と、像振れ補正角度算出部602の出力であるロール振れ補正角度と、水平傾き補正パラメータを取得して、ロール傾き補正角度を演算する。水平傾き補正パラメータについては、図8の水平傾き補正パラメータ設定部611が、振れ補正指定部506と傾き補正指定部507の状態に応じて設定する。水平補正角度算出部603の内部演算については後で説明する。
次に、あおり補正角度の算出方法について説明する。
あおり角度選択部604は、水平角度算出部601の出力であるロール絶対角度を取得し、その大きさに応じて、ピッチ軸でのあおり角度とするか、ヨー軸でのあおり角度とするかを選択する。あおり角度選択部604は選択結果をあおり補正角度算出部607,610に出力する。あおり角度選択部604は、ロール絶対角度が所定角度範囲内であれば、ピッチ軸でのあおり角度を設定し、所定角度範囲外であれば、ヨー軸でのあおり角度を設定する。所定角度範囲は、例えば、カメラ正位置0度を基準として±45度以内の範囲、または、135度〜180度の範囲、または、−135度〜−180度の範囲である。
ピッチあおり角度算出部605は、3軸加速度計213の出力とピッチ角速度214pを取得して、ピッチあおり角度(ピッチ絶対角度)を算出する。ピッチあおり角度算出部605は、3軸加速度計213の出力から演算されたカメラのピッチ絶対角度とピッチ角速度214pとをカルマンフィルタ等による処理で信号合成して、ピッチ絶対角度を演算する。
像振れ補正角度算出部606はピッチ角速度214pを取得し、図5の場合と同様の方法でピッチ振れ補正角度を演算する。低周波成分をカットしたピッチ角度が算出される。あおり補正角度算出部607は、あおり角度選択部604の出力と、ピッチあおり角度算出部605の出力と、像振れ補正角度算出部606の出力と、あおり傾き補正パラメータを取得し、ピッチ傾き補正角度を算出する。ここで、あおり角度選択部604により、ヨー軸でのあおり角度が設定されている場合には、ピッチ絶対角度の算出は正しく行われていないため、像振れ補正角度算出部606の出力をピッチ傾き補正角度とするように演算される。あおり傾き補正パラメータについては、図8のあおり傾き補正パラメータ設定部612が、振れ補正指定部506と傾き補正指定部507の状態に応じて設定する。
ヨーあおり角度算出部608は、3軸加速度計213の出力とヨー角速度214yを取得し、ヨーあおり角度(ヨー絶対角度)を算出する。ヨーあおり角度算出部608は、3軸加速度計213の出力から演算されたカメラのヨー絶対角度とヨー角速度214yとをカルマンフィルタ等による処理で信号合成して、ヨー絶対角度を演算する。像振れ補正角度算出部609はヨー角速度214yを取得して、図5の場合と同様の方法でヨー振れ補正角度を演算する。低周波成分をカットしたヨー角度が算出される。あおり補正角度算出部610は、あおり角度選択部604の出力と、ヨーあおり角度算出部608の出力と、像振れ補正角度算出部609の出力と、あおり傾き補正パラメータを取得し、ヨー傾き補正角度を算出する。ここで、あおり角度選択部604により、ピッチ軸でのあおり角度が設定されている場合には、ヨー絶対角度の算出は正しく行われていないため、像振れ補正角度算出部609の出力をヨー傾き補正角度とするように演算される。
図9は、水平補正角度算出部603の内部構成を説明するブロック図である。水平角度算出部601からのロール絶対角度と、像振れ補正角度算出部602からの低周波除去ロール角度は、減算器701に入力される。図10(A)に波形例を示す。横軸は時間軸であり、縦軸は角度軸である。波形801はロール絶対角度を示し、波形802は低周波除去ロール補正角度を示す。波形803は減算器701の出力、つまりロール絶対角度から低周波除去ロール補正角度を減算した結果を示す。
±45度変換部702は減算器701の出力に対し、±180度の角度値から、±45度の角度値に変換する。ここでは撮像素子が重力方向に対して垂直な方向に位置しているときのカメラの傾きを0度(正位置)とする。±45度変換部702は減算後の角度が+45より大きく、+135以下の場合に90度を減算する。また±45度変換部702は、減算後の角度が+135度より大きく、+180度以下の場合に180度を減算する。また±45度変換部702は、減算後の角度が−45度以下で−135度より大きい場合に90度を加算し、減算後の角度が−135度以下で−180度より大きい場合に180度を加算する。この処理によって、カメラ角度が0度、90度、−90度、180度を中心とした±45度範囲の角度に変換される。これは傾き補正を行う基準姿勢を決めるための処理である。基準姿勢は、カメラが横位置(正位置)で構えられているか、縦位置で構えられているかによって異なる。ユーザがカメラを横位置で構えている場合には、撮像素子の左右方向軸が重力方向と垂直となっている姿勢を基準姿勢とし、そのときの角度を基準角度(0度)とする。基準角度に対して水平を保つように傾き補正が行われる。一方、ユーザがカメラを縦位置で構えている場合には、撮像素子の上下方向が重力方向と垂直になっている姿勢を基準姿勢とする。カメラ正位置から±90度回転させた位置をそれぞれ基準角度(0度)として傾き補正が行われる。
可変ゲイン部706は、±45度変換部702の出力を取得してゲインを乗算する。ゲイン値は0から1の間で設定される。加算器707は、可変ゲイン部706の出力と、像振れ補正角度算出部602の出力を取得し、ゲインの乗算後の信号と低周波除去振れ補正後の角度信号を加算する。例えば、ゲイン値が1の場合、加算器707の出力値は水平角度算出部601の出力である、絶対角度を±45度変換した値と同じ値になる。また、可変ゲイン部706のゲインが0の場合、加算器707の出力値は像振れ補正角度算出部602の出力である、低周波除去振れ補正後の角度信号と同じ値になる。ゲイン値が1から0の間である場合には、ゲイン値に応じて絶対角度と低周波除去振れ補正後の角度との合成比率が変更される。加算器707は、ロール傾き補正角度を出力する。
次に、可変ゲイン部706のゲインの設定方法について説明する。
絶対値変換部703は、±45度変換部702の出力を取得して絶対値に変換する。絶対値変換部703の出力はゲインテーブル704に入力される。ゲインテーブル704は、絶対値変換後の角度に対応するゲインを決定するためのデータを有する。例えば、絶対値変換後の角度をθと記し、ゲインをGと記すとき、以下のように設定される。
・θが角度閾値1以内の場合、G=1。
・θが角度閾値2以上の場合、G=0。
・θが角度閾値1と角度閾値2の間である場合、0<G<1。
「角度閾値1<角度閾値2」であり、「角度閾値2<45度」とする。「0<G<1」の場合、ゲイン値1と0との間を線形補間した特性のテーブルデータとなっている。この例では2つのポイントでテーブルデータを作成し、その間を線形補間による直線で繋ぐようにしているが、3ポイント以上でテーブルデータを作成することもできる。
図10(A)に示す範囲804は、角度閾値1に設定された範囲を例示しており、波形803の一部が範囲804内に位置する場合、ゲイン値が1に設定される。また波形803の一部が範囲804外に位置する場合には、ゲイン値が1よりも小さくなり、角度閾値2以上でゼロになる。
またゲインテーブル704は、水平傾き補正パラメータ設定部611の出力にしたがい、水平傾き補正の補正範囲(ロール補正範囲)が大きいか否かに応じて変更される。例えば、水平傾き補正の補正範囲を「大」、「中」、「小」の3段階に設定するものとする。この場合、ゲインテーブル704の角度閾値1と角度閾値2の大きさが、「大」時 > 「中」時 > 「小」時の関係で変化する。図9には線形補間による3種類の直線で段階的な特性の変化を示している。これにより、補正効果を高くしたい場合には、傾き補正の可動範囲を大きくすることで傾き補正の補正効果が優先される。補正効果を低くする場合には、傾き補正は制限されてしまうが、振れ補正の効果は得られるようになっている。
ゲイン変更部705はゲインテーブル704の出力にしたがって可変ゲイン部706のゲインを変更する。ゲイン変更部705には、あおり角度算出部605および608から出力されるあおり角度も同時に入力される。あおり角度については、あおり角度選択部604で選択されたピッチ軸またはヨー軸の角度が設定されている。あおり角度が所定範囲内であるとき(例えば−30度〜+30度)、水平角度算出部601で演算された水平角度は、信頼の高い信号であると判定され、ゲインテーブル704の出力がそのまま可変ゲイン部706への出力となる。他方、あおり角度が所定範囲外であるときには、水平角度算出部601で演算された水平角度は、信頼性の低い信号であると判定される。この場合、ゲイン変更部705はゲインテーブル704の出力に対して、所定時間をかけて徐々にゼロに設定する。また、あおり角度が所定範囲内に遷移するとゲイン変更部705は、所定時間をかけて徐々にゲインテーブル704の出力に設定し直す。
あおり角度が所定範囲外であるときには水平角度の誤演算による傾き補正効果の低下を防止するため、像振れ補正角度算出部602の出力である低周波除去後の振れ補正角度信号で角度補正が行われる。よって、傾き補正の誤作動による制御への影響を抑制しつつ、振れ補正を行うことができる。
図7のあおり補正角度算出部607、610については、基本的に図9の構成と同様である。あおり角度算出部605,608の出力および像振れ補正角度算出部606,609の出力に対して、あおり角度選択部604の出力およびあおり傾き補正パラメータに基づいて演算が実行され、ピッチ方向またはヨー方向の傾き補正角度が算出される。
図10(B)は、加算器707の出力である補正角度の波形例を示す。横軸は時間軸であり、縦軸は角度軸である。波形801はロール絶対角度を示し、波形802は低周波除去ロール補正角度を示す。波形901は加算器707の出力を示し、範囲902は傾き補正の可動範囲である。加算器707の出力は、できるだけ範囲902内に位置するように演算される。図10(A)の範囲804内のときには可変ゲイン部706のゲイン値が1に設定されるので、加算器707の出力波形901と、ロール絶対角度の波形801は一致する。図10(A)の範囲804外のときには可変ゲイン部706のゲイン値が1より小さい値に設定されるので、ゲインの大きさに応じて、図10の波形801と波形802との合成比率が変化する。最終的に可動範囲902内に収まるように演算された補正角度の波形901を求めることができる。なお、範囲804、可動範囲902については、水平傾き補正パラメータによって大きさが変化することになる。水平傾き補正の補正効果を高くしたい場合とそうでない場合とで、可動範囲902を変更することができるので、決められた可動範囲902の中で、傾き補正の補正角度を演算することできる。
上記のとおり、操作部212の振れ補正指定部506と傾き補正指定部507による指定に従う、第2の算出部218と第1の算出部217の内部演算について説明した。操作部217による設定に応じて、傾き補正を行うか、または振れ補正を行うかを選択する方法について説明する。図2、図4の補正切り替え部219は、第2の算出部218の出力と第1の算出部217の出力のうちの、どの補正角度を用いて制御するかを切り替える。この切り替え処理は、操作部212の振れ補正指定部506と傾き補正指定部507による設定にしたがって、ピッチ/ヨー/ロールの各方向に対して行われる。振れ補正指定部507によるON設定の場合に振れ補正が実行され、傾き補正指定部507によるON設定の場合に傾き補正が実行される。振れ補正指定部506と傾き補正指定部507の両方ともOFFに指定されていれば、どちらの制御も行われない。
次に、RS歪(ローリングシャッタ歪)補正処理を説明する。
図4のように光学式の像振れ補正機構部を有する撮像装置の場合、像振れ補正後に3軸角速度計214および3軸加速度計213で検出したカメラのブレ量に対して、撮像素子駆動部401は撮像素子を移動させる。像振れ補正後に残存するブレ量(揺れ残りブレ量)が存在する場合、カメラのブレ量から像振れ補正量を減算した揺れ残りブレ量がRS歪に影響する。そこで本実施形態ではRS歪量算出部が、揺れ残りブレ量から、RS歪による結像位置の移動量、および参照範囲情報を算出する。具体的には、揺れ残りブレ量によってRS歪に対して補正された各画素位置が、メモリのどの画素位置に結像しているのかが算出され、その座標位置の差分を移動量として算出する処理が行われる。また、参照範囲情報はRS歪を補正するための情報である。このようにRS歪量算出部は、ローリングシャッタ方式による撮像で生じたRS歪を補正するために用いられる、メモリにおける範囲を示す範囲情報、および移動量を算出し、RS歪補正処理が行われる。また、図2のように電子式補正機能のみ有する撮像装置の場合には、3軸角速度計214および3軸加速度計213が検出したカメラのブレ量に基づいてRS歪補正処理が行われる。
図11を参照して、RS歪補正のための補正量算出処理を説明する。
3軸角速度計214から出力される角速度214p、214y、214rは、減算器1003p、1003y、1003rにそれぞれ入力される。光学式の像振れ補正制御を行う撮像装置の場合、像振れ補正機構部による補正角度を、ピッチメカ像振れ補正角度1001p、ヨーメカ像振れ補正角度1001y、ロールメカ像振れ補正角度1001rで示す。補正角度はそれぞれ、微分器1002p、1002y、1002rが微分処理し、減算器1003p、1003y、1003rにそれぞれ入力される。
減算器1003p、1003y、1003rは、それぞれの角速度出力から、メカ像振れ補正分の補正角速度を減算する。撮像面上に入力される分の揺れ残り角速度が演算される。減算器1003p、1003y、1003rの出力は、積分器1004p、1004y、1004rにそれぞれ入力される。積分器1004p、1004y、1004rは、撮像素子の露光開始時にてゼロに初期化され、露光期間中の角度を算出する。積分器1004p、1004y、1004rの出力は、リミット部1005p、1005y、1005rにそれぞれ入力され、所定値以上の値が制限される。これによりピッチRS歪補正角度、ヨーRS歪補正角度、ロールRS歪補正角度がそれぞれ算出される。RS歪補正量算出部1006p、1006y、1006rは、RS歪補正角度を撮像面ブレ量に相当する単位の量に変換し、各読み出しタイミングに合わせて補正量を決定する。
各リミット部および積分器には、RS歪補正パラメータがそれぞれ入力される。図12のRS歪補正パラメータ設定部1007、1008、1009は、振れ補正指定部506と傾き補正指定部507の状態に応じて、ピッチ、ヨー、ロールの各軸のRS歪補正パラメータをそれぞれ設定する。RS歪補正効果を高くする場合、リミット部1005p、1005y、1005rのリミット閾値が大きくなるようにRS歪補正パラメータが設定され、RS歪補正効果を低くする場合には、リミット閾値が小さくなるようにRS歪補正パラメータが設定される。また、積分器1004p、1004y、1004rには、積分とHPFを組み合わせた、下記式(1)の右辺に示す構成のフィルタを用いる。これは時定数Tのローパスフィルタ(LPF)の伝達関数に時定数Tを乗算した式と同じ式となる。sはラプラス変数である。
積分器1004p、1004y、1004rのカットオフ周波数を低く設定する(時定数を大きくする)と、RS歪補正の制御帯域が広がる。逆にカットオフ周波数を高くする(時定数を小さくする)と、RS歪補正の制御帯域が狭くなり、低周波での制御が弱まる。RS歪補正の補正範囲は狭いが、揺れが大きくて大きなRS歪が発生してしまうような場合、積分信号がすぐにリミット部1005にてリミット閾値に制限される。この場合、露光前半のライン部分のみRS歪補正が効き、露光後半のライン部分にはまったくRS歪補正が効かない可能性がある。そこで、可動範囲が狭くリミット値が小さくなってしまう条件では、積分器のカットオフ周波数が高く設定される。補正ラインごとの補正効果は弱まるが、全体的な補正効果としては補正可能な角度をある程度確保可能な信号として演算されるようになる。また補正範囲が大きくリミット値が大きい条件では、積分器のカットオフ周波数が低く設定され、RS歪補正の補正効果が強まる。
図13を参照して、本実施形態でのカメラの振れ補正および傾き補正の処理について説明する。図13のフローチャートに示す処理は、カメラの電源が投入されると開始し、所定のサンプリング周期で繰り返し実行される。
S1101で制御部215は、3軸角速度計214の出力を取り込み、次のS1102で3軸加速度計213の出力を取り込んでS1103に進む。S1103では、操作部212による振れ補正指定部506と傾き補正指定部507の指定にしたがって、振れ補正および傾き補正の各パラメータが設定される。振れ補正のパラメータは、図5で説明したHPF部501p、501y、501rのカットオフ周波数や、角速度オフセット算出部504p、504y、504rのパラメータ、リミット部505p、505y、505rのリミット閾値のパラメータである。また、傾き補正のパラメータは、図7および図9で説明したゲインテーブル704に対するパラメータである。振れ補正と傾き補正の設定状態、つまり前記表1に示した振れ補正および傾き補正のON/OFF設定にしたがい、並進補正割合とロール補正割合と並進方向/ロール方向のRS歪補正割合がそれぞれ変化するようにパラメータが設定される。
図21は電子式像振れ補正における画像切り出しと各補正範囲を例示する図である。元画像1901に対して、画像1902の大きさに切り出す処理が行われる。切り出し後の残りの余剰範囲1907は、電子式補正での使用可能範囲を示す。前記表1に示すように、振れ補正と傾き補正の設定にしたがって、各補正割合が変化する。例えば振れ補正がON設定であって、水平傾き補正がONで、あおり傾き補正がOFFに設定された場合(表1:第1行第2列)、ロール補正を優先するパラメータが設定され、ロール補正割合が最も大きくなる。図21の範囲1903は並進補正範囲であり、範囲1904はロール補正範囲である。範囲1905は並進RS歪補正範囲であり、範囲1906はロールRS歪補正範囲である。具体的には、並進補正範囲1903は余剰範囲1907に4/14を乗算した値に相当する範囲となる。分母の14は補正割合の合計を示す。ロール補正範囲1904は余剰範囲1907に6/14を乗算した値に相当する範囲となる。並進RS歪補正範囲1905と、ロールRS歪補正範囲1906は、余剰範囲1907に2/14を乗算した値に相当する範囲となる。このように求めた各補正範囲に合わせて、第2の算出部218と第1の算出部217の各パラメータが設定される。
図13のS1104では、S1103で設定されたパラメータと、S1101で取得した角速度出力とからピッチ/ヨー/ロール方向の各振れ補正角度が算出される。各振れ補正角度については、図5を用いて説明した方法で算出される。S1105では、S1103で設定されたパラメータと、S1101で取得した角速度出力およびS1102で取得した加速度出力とからピッチ/ヨー/ロール方向の各傾き補正角度が算出される。各傾き補正角度については、図7および図9を用いて説明した方法で算出される。
次のS1106は水平傾き補正モードの判定処理である。制御部215は、操作部212の傾き補正指定部507による設定から、水平傾き補正モードのONまたはOFFを判定する。水平傾き補正モードがONの場合、S1107に進み、水平傾き補正モードがOFFの場合、S1108に進む。S1107で補正切り替え部219は、ロール補正に関して第1の算出部217からのロール傾き補正角度に設定し、S1109に進む。またS1108で補正切り替え部219は、ロール補正に関して第2の算出部218からのロール振れ補正角度に設定し、S1109に進む。
S1109はあおり傾き補正モードの判定処理である。制御部215は、操作部212の傾き補正指定部507による設定から、あおり傾き補正モードのONまたはOFFを判定する。あおり傾き補正モードがONの場合、S1110に進み、あおり傾き補正モードがOFFの場合、S1111に進む。S1110で補正切り替え部219は、ピッチ/ヨー補正に関して第1の算出部217からのピッチ/ヨー傾き補正角度に設定し、S1112に進む。またS1111で補正切り替え部219は、第2の算出部218からのピッチ/ヨー振れ補正角度に設定し、S1112に進む。ただし、S1112へ進む場合は、電子式補正機能と光学式補正機能を有する撮像装置の場合であり、電子式補正機能しかない撮像装置の場合には、S1114に移行するものとする。
S1112で制御部215は、電子式補正による制御量と光学式補正による制御量に分離する。電子式補正機能と光学式補正機能を有する撮像装置の場合、例えば、ピッチ/ヨー/ロール方向の角度補正は、図4の撮像素子駆動部401によって機械的な駆動で行う補正と、図2の画像切り出し設定部220による画像処理での補正から成る。制御部215は、ピッチ/ヨー/ロー方向の補正角度に対応する補正量を分離する。例えばカットオフ周波数を0.5Hz付近に設定したHPF処理で補正角度を分離する場合、HPF処理後の補正角度で光学式補正機構部による補正が行われる。元の補正角度からHPF処理後の補正角度を減算した残りの補正量で電子式補正が行われる。あるいは光学式補正機構部の可動範囲と、電子式補正での可動範囲に関して、補正範囲の比率を設定する方法がある。この場合、各補正角度に比率を乗算することにより分離した補正角度にしたがってそれぞれの補正が実行される。補正範囲の比率に基づく配分については撮像装置に仕様や撮影条件等に応じて予め決定され、適切な割合で光学式補正と電子式補正を併用して制御が行われる。
S1113では光学式補正機構部による補正が実行され、S1114に進む。S1114では、図11で説明したように、カメラの揺れから光学式補正による補正量を減算した信号に基づいて、ピッチ/ヨー/ロール方向のRS歪補正量が算出され、S1115に進む。S1115では画像切り出しによる電子式補正が実行される。S1112で分離されたピッチ/ヨー/ロール方向の補正角度に基づいて電子式補正での並進およびロール補正が行われ、S1114で算出されたピッチ/ヨー/ロール方向のRS歪補正量に基づいてRS歪補正が行われる。以上で補正処理を終了する。
本実施形態では、振れ補正のON/OFF設定と傾き補正のON/OFF設定に応じて、第2の算出部218と第1の算出部217のパラメータが設定される。ユーザが任意に指定した補正効果の設定にしたがって、並進方向(ピッチ/ヨー方向)の補正効果とロール方向の補正効果と並進/ロール方向のRS歪補正効果の割合がそれぞれ変更され、振れ補正および傾き補正が行われる。本実施形態によれば、ユーザの望む撮影効果に関して最適な振れ補正と傾き補正を行うことができる。
[第2実施形態]
次に本発明の第2実施形態を説明する。本実施形態では、振れ補正の補正効果レベルと傾き補正の補正効果レベルをユーザの操作によって段階的に変更可能な選択手段を有する。以下、画像切り出しによる電子式補正手段の構成を説明する。なお、本実施形態にて第1実施形態の場合と同様の構成部には既に使用した符号を用いることで、それらの詳細な説明を省略し、主に相違点を説明する。このような説明の省略については後述の実施形態でも同じである。
図15は、操作部212にて操作可能な選択手段による設定の説明図であり、設定画面例を示す。ユーザは設定画面での振れ補正のメニュー項目にて、振れ補正のON/OFF設定に加えて、振れ補正の設定がONの場合に補正効果レベルを設定可能である。補正効果設定では、臨場感優先とするか、ブレ止め優先とするかをユーザが段階的にレベル設定することができる選択表示が提示される。振れ補正効果については、「低」から「高」までの各レベルで設定可能であり、「低」を臨場感優先モードとし、「高」をブレ止め優先モードとする。例えば、走っている人を追いながら撮影するシーンを想定する。被写体(人)を追いかけながら躍動感のある映像を撮影する場合に、振れ補正を効かせ過ぎてしまうと像揺れがなくなって、滑らかな動画像になるため、躍動感のある映像は得られない。そこでユーザが臨場感優先モードを選択した場合、振れ補正効果が低くなるように制御が行われる。臨場感優先モードでの撮影では、カメラ振れが生じているとき、意図的に画像振れを残す補正を行うことで、臨場感のある映像表現が得られる。
またブレ止め優先モードの場合、画像振れの極力少ない振れ補正効果が得られるように制御が行われる。例えば、撮影者が歩行中に街並みや風景等をきれいに撮影したいといった条件では、撮影された動画像にできる限りブレがなく、滑らかな動画像での撮影が望ましい。このような場合に適したモードがブレ止め優先モードである。
ユーザは設定画面での傾き補正のメニュー項目にて、水平方向の傾き補正のON/OFF設定とあおり方向の傾き補正のON/OFF設定を行うことができる。水平方向またはあおり方向の傾き補正がONに設定されている場合、ユーザは効果設定メニューにて、傾き補正効果を「低」から「高」までの各レベルで段階的に設定できる。傾き補正効果が「高」に設定されている場合、最大の傾き補正が可能な角度を大きくし、大きな傾きが発生しても撮影画像を水平に保つように補正が行われる。また傾き補正効果が「低」に設定されている場合には、「高」に設定されている場合よりも補正可能な角度の最大値が小さく設定される。例えば、ユーザが撮影中にカメラの画面モニタから目を離して撮影する場合や、更にモニタ画面から目を離して歩きながら撮影する場合を想定する。このような場合、カメラの傾きが大きくなってしまうことが多いため、ユーザは傾き補正効果を「高」に設定すればよい。また、ユーザが撮影中にカメラのモニタ画面をしっかり確認しながら撮影する場合には、大きな傾きが発生する可能性は低いため、傾き補正効果を「低」に設定すればよい。
本実施形態では、振れ補正効果レベルおよび傾き補正効果レベルをそれぞれ、最大7段階のレベルで設定できるモード切替を例示して説明する。更に、図2に示すような画像切り出しによる補正を行う場合を例にして、設定に応じた各補正処理を説明する。
図16は、振れ補正設定および振れ補正効果のレベル設定と、傾き補正設定および傾き補正効果のレベル設定についての説明図である。振れ補正効果および傾き補正効果のレベル設定例として、電子式補正の並進補正(ピッチ補正、ヨー補正)、ロール補正、並進RS歪補正、ロールRS歪補正の各パラメータ設定用の係数を示す。係数値は7段階のレベルに対応し、1で補正効果が最低であり、7で補正効果が最大であるものとする。
図17および図18を参照して補正パラメータの演算処理について説明する。図17および図18は、各モード設定に基づいて、並進補正、ロール補正、並進RS歪補正、ロールRS歪補正の制御パラメータを演算する処理の流れを示すフローチャートである。図13で説明したフローチャートのS1103中で設定されるパラメータは、図17および図18のフローチャートの処理にしたがって設定される。
S1601で制御部215は、振れ補正モードのON/OFF設定について判定する。振れ補正モードがONの場合、S1602に進み、OFFの場合にはS1603に進む。S1602では、振れ補正効果のレベルに応じて各パラメータが設定される。並進補正、ロール補正、並進RS歪補正、ロールRS歪補正に係る係数を、それぞれ係数A1、B1、C1、D1とする。図16に示す例では、振れ補正効果のレベルが、臨場感優先モードよりも1段階だけブレ止め優先側で設定されている。このため、並進補正係数A1、ロール補正係数B1、並進RS歪補正係数C1、ロールRS歪補正係数D1の値として、いずれも2が設定される。S1603では、係数A1、B1、C1、D1の値がいずれもゼロに設定される。S1602、S1603の設定処理後、S1604に進む。
S1604で制御部215は、傾き補正のあおり傾き補正モードのON/OFF設定について判定する。あおり傾き補正モードがONの場合、S1605に進み、OFFの場合にはS1606に進む。S1605では、傾き補正効果のレベルに応じて並進補正係数A2が設定される。図16に示す例では、傾き補正効果のレベルが「高」から1段階低いレベルに設定されている。このため、並進補正係数A2の値として6が設定され、次のS1607に進む。S1606では並進補正係数A2の値がゼロに設定され、次のS1607に進む。
S1607で制御部215は、傾き補正の水平傾き補正モードのON/OFF設定について判定する。水平傾き補正モードがONの場合、S1608に進み、OFFの場合にはS1609に進む。S1608では、傾き補正効果のレベルに応じてロール補正係数B2が設定される。図16に示す例では、傾き補正効果のレベルが「高」から1段階低いレベルで設定されている。このため、ロール補正係数B2の値として6が設定され、次のS1610に進む。S1609ではロール補正係数B2の値がゼロに設定され、次のS1610に進む。本実施形態では、図15のように水平傾き補正効果のレベルとあおり傾き補正効果のレベルとが同じレベルに設定される構成例を説明する。これに限らず、水平傾き補正効果のレベルとあおり傾き補正効果のレベルを別々に設定可能な構成でもよく、図17および図18の処理と同様に計算できる。
S1610で制御部215は、傾き補正のあおり傾き補正モードがONであるか、または水平傾き補正モードがONであるかを判定する。あおり傾き補正モードまたは水平傾き補正モードがONであれば、S1611に進み、あおり傾き補正モードおよび水平傾き補正モードがOFFの場合にはS1612に進む。S1611では、傾き補正効果のレベルに応じて並進RS歪補正係数C2とロールRS歪補正係数D2の値が設定される。図16に示す例では、傾き補正効果のレベルが「高」から1段階低いレベルで設定されている。このため、係数C2および係数D2の値としていずれも2が設定され、図18のS1613に進む。S1612では係数C2および係数D2の値がいずれもゼロに設定され、図18のS1613に進む。
図18のS1613では、これまでの振れ補正モードの設定と傾き補正モードの設定の関係に基づいて、並進補正係数A3、ロール補正係数B3、並進RS歪補正係数C3、ロールRS歪補正係数D3が設定される。具体的には加算演算が行われ、係数A3として係数A1とA2の加算値が設定され、係数B3として係数B1とB2の加算値が設定される。係数C3として係数C1とC2の加算値が設定され、係数D3として係数D1とD2の加算値が設定される。図16に示す例では、A3=8、B3=8、C3=4、D3=4にそれぞれ設定され、次のS1614に進む。
S1614で制御部215は、係数A3とB3とC3とD3の値を加算し、演算結果をTotalとしてメモリに保持する。図16に示す例では、Total=24に設定される。S1615では、S1613の各係数A3,B3,C3,D3を、S1614のTotalでそれぞれ除算することで、補正割合を算出する処理が実行される。制御部215は、並進補正割合、ロール補正割合、並進RS歪補正割合、ロールRS歪補正割合をそれぞれ算出する。図16に示す例では、以下の通りである。
・並進補正割合A3/Total=8/24。
・ロール補正割合B3/Totalは8/24。
・並進RS歪補正割合C3/Total=4/24。
・ロールRS歪補正割合D3/Total=4/24。
次にS1616では、並進補正割合に基づいて振れ補正パラメータおよび傾き補正パラメータが設定される。図6のピッチ振れ補正パラメータ設定部508とヨー振れ補正パラメータ設定部509、図8のあおり傾き補正パラメータ設定部612は、並進補正割合からの可動範囲に合わせて各パラメータを設定して、S1617に進む。S1617では、ロール補正割合に基づいてロール振れ補正パラメータおよび水平傾き補正パラメータが設定される。図6のロール振れ補正パラメータ設定部510と、図8の水平傾き補正パラメータ設定部611は、ロール補正割合からの可動範囲に合わせて各パラメータを設定して、S1618に進む。
S1618では、並進RS歪補正割合に基づいてピッチ/ヨーRS歪補正パラメータが設定される。図12のピッチRS歪補正パラメータ設定部1007と、ヨーRS歪補正パラメータ設定部1008は、並進RS歪補正割合からの可動範囲に合わせて各パラメータを設定し、S1619に進む。S1619では、図12のロールRS歪補正パラメータ設定部1009が、ロールRS歪補正割合からの可動範囲に合わせてパラメータを設定する。そして補正パラメータ演算ルーチンを終了する。
並進補正割合、ロール補正割合、並進RS歪補正割合、ロールRS歪補正割合が算出されると各補正割合から、各補正の最大可動範囲が決定されるので、各補正の可動範囲に合わせた各パラメータを設定できる。図21に示すように、元画像1901に対して、画像1902の範囲が切り出され、残りの余剰範囲1907が電子式補正として使用可能範囲となる。ここで、並進補正用の範囲1903、ロール補正用の範囲1904、並進RS歪補正用の範囲1905、ロールRS歪補正用の範囲1906がそれぞれ設定され、各補正は設定された範囲内で行われる。
図16において、振れ補正に関してブレ止め優先モードが設定されている場合、並進方向やロール方向の補正効果が高くなるように設定される。また臨場感優先モードが設定されている場合には、並進方向やロール方向の補正効果が低くなるように設定される。傾き補正効果に関して「高」が設定されている場合には、並進方向やロール方向の補正効果が高くなるように設定される。傾き補正効果に関して「低」が設定されている場合には、並進方向やロール方向の補正効果が低くなるように設定される。例えば、ブレ止め優先モードで傾き補正効果が「高」に設定されている場合、並進補正とロール補正の補正割合は14/36になり、並進RS歪補正とロールRS歪補正の割合は4/36になる。よって、RS歪補正の効果よりも並進およびロール補正の効果の方が重視され、並進方向とロール方向の補正については同程度の補正効果が得られるように、補正範囲が割り当てられることになる。
別例として、臨場感優先モードで傾き補正効果が「低」に設定されている場合、並進補正とロール補正の補正割合は2/12になり、並進RS歪補正とロールRS歪補正の割合は4/12になる。よって、並進とロール補正の補正量が相対的に小さくなる分だけ、RS歪補正の補正範囲の方に割り当てることができるので、RS歪補正効果の方が重視される。特に臨場感優先モードの設定の場合には、カメラの揺れが大きい場合が多い分、RS歪も大きくなるので、RS歪補正の補正範囲を大きくすることは有効である。
更に別例では、振れ補正に関して臨場感優先とブレ止め優先のちょうど中間に設定され、傾き補正効果のレベルが「低」と「高」とのちょうど中間に設定される場合がある。この場合、並進およびロール補正とRS歪補正において平均的に効果が得られるように補正範囲が割り当てられる。
次に、算出された並進/ロール/並進RS歪/ロールRS歪の各補正割合に基づく、第2の算出部218と第1の算出部217における各パラメータの設定処理と補正角度演算について説明する。
図15において、振れ補正がON設定で、傾き補正がOFF設定の場合、補正切り替え部219は、第2の算出部218が演算した角度を選択して補正が行われる。以下、本実施形態における第2の算出部218の補正角度の演算方法を説明する。第1実施形態と同様、図5にて説明したように振れ補正角度が演算される。振れ補正指定部506と傾き補正指定部507の各指定に応じて、ピッチ/ヨー/ロール振れ補正パラメータが設定される。振れ補正効果のレベルに合わせて演算が行われ、例えば、図16において臨場感優先モードが設定されている場合、あえて補正残りが生じるように振れ補正角度が演算される。臨場感優先モードの場合、HPF部501p、501y、501rはカットオフ周波数が高く設定され、低周波成分の振れ補正を行わないように像振れ補正制御帯域が狭くなる。角速度オフセット算出部504p、504y、504rは、オフセット量が大きく設定される。大きな揺れ補正を制限し、補正残りが出るように演算が行われる。また、リミット部505p、505y、505rについては、図16での設定情報に基づいて算出された並進およびロール補正範囲が設定され、リミット閾値が小さく設定される。
一方、ブレ止め優先モードが設定されている場合、HPF部501p、501y、501rはカットオフ周波数が低く設定され、低周波成分の振れ補正も行うように像振れ補正制御帯域が広くなる。角速度オフセット算出部504p、504y、504rは、オフセット量が小さく設定される。大きな揺れ補正にも対処できるように演算が行われる。また、リミット部505p、505y、505rについては、図16での設定情報に基づいて算出された並進およびロール補正範囲が設定され、リミット閾値が大きく設定される。このようにして、ブレ止め優先モードの場合には、できる限り補正残りが生じないような振れ補正角度が演算される。それぞれのHPF部のカットオフ周波数、角速度オフセット算出部のオフセット量算出パラメータ、リミット部のリミット閾値については、振れ補正効果のレベルに合わせて段階的に設定される。
図15において傾き補正がON設定である場合、補正切り替え部219は、第1の算出部217が演算した角度を選択し、補正が行われる。以下、本実施形態の第1の算出部217における傾き補正角度算出方法について説明する。
図19は、水平補正角度算出部603の構成例を示すブロック図である。第1実施形態にて図9で説明した構成との相違点は加算器1701が変更されている点である。加算器1701は可変ゲイン部706の出力と、第2の算出部218で演算されたロール振れ補正角度を取得して加算し、加算結果であるロール傾き補正角度を出力する。
ロール振れ補正角度は、第2の算出部218によって振れ補正効果のレベルに合わせて演算される。図16にて臨場感優先モードが設定されている場合、前述したように、あえて補正残りが生じるようにロール振れ補正角度が演算される。この場合、ロール振れ補正角度については低周波成分が大きくカットされ、高周波のみ補正可能となる。
減算器701は、水平角度算出部601によるロール絶対角度から、像振れ補正角度算出部602による角度を減算する。通常の像振れ補正制御帯域を制御できるように設定された像振れ補正角度算出部602は、低周波成分を除去した角度を出力する。±45度変換部702の出力に対して、可変ゲイン部706は、可動範囲内で制御できるようにゲインを乗算して出力する。可変ゲイン部706の出力する信号は、傾き角度として高周波成分が除去されており、低周波の傾き角度のみの信号となる。
また、ゲインテーブル704には、水平傾き補正パラメータ設定部611の出力であるロール補正割合からのロール補正可動範囲が入力され、角度閾値1と角度閾値2が可動範囲に合わせて設定される。ゲインテーブル704では、絶対値変換部703が出力する絶対値変換後の角度が角度閾値1以下であれば、ゲイン値が1に設定される。また、絶対値変換後の角度が角度閾値2以上であれば、ゲイン値がゼロに設定される。絶対値変換後の角度が角度閾値1と角度閾値2との間であれば、ゲイン値1と0との間を線形補間した式にしたがってゲイン値が設定される。こうして、ロール傾き補正角度がロール補正可動範囲内で制御されるように演算される。
加算器1701は、可変ゲイン部706の出力である低周波成分のみの傾き角度と、第2の算出部218の出力であるロール振れ補正角度を加算し、ロール傾き補正角度を演算する。極低周波の傾き角度の補正が行われ、振れ補正については高周波側で限定されたロール振れ補正角度が加算される。よって、低域の傾き補正を効かせつつ、臨場感を出したい揺れ残りを発生させたい場合においても、傾き補正しつつ、臨場感を出すように振れ補正を制限することが可能となる。この方法によれば、図16において傾き補正効果のレベルを「高」に設定し、かつ振れ補正効果のレベルを臨場感優先に設定した場合において、低周波の傾き補正を行いつつ、臨場感を醸し出す揺れ残りを発生させる制御を行える。また、振れ補正効果のレベルをブレ止め優先に設定した場合には、低周波から高周波にかけて広い制御帯域で傾き補正および振れ補正を行うことができる。なお、ロール傾き補正角度算出方法について詳説したが、ピッチ方向、ヨー方向のあおり傾き補正角度算出についても同様の方法で演算できる。
また、電子式補正のみによる制御の場合には、シャッタ速度値を制御することで、動画の1フレーム画像内に発生するブレ量を制御することが望ましい。図20を参照して具体例を説明する。図20は、振れ補正効果のレベル設定と、シャッタ速度に対応する露光時間のリミット値との関係を示す説明図である。レベル設定については、臨場感優先からブレ止め優先まで段階的に可能である。臨場感優先モードでは、カメラに発生するブレが大きい場合、動画の1フレーム画像内でのブレ(振れによる画像流れ)があった方が躍動感のある映像表現が得られるので、1フレーム画像内におけるブレがあってもよい。よって臨場感優先モードの場合、制御部215は、シャッタ速度が遅くなるよう低速側に露出制御を変更する。但し、RS歪が発生してしまうことを避けるために、並進/ロール補正を行わない分、RS歪補正効果を高くするようにパラメータが設定される。また、振れ補正効果のレベル設定がブレ止め優先モードの場合には、1フレーム画像内におけるブレがないことが望まれるため、制御部215はシャッタ速度が速くなるよう高速側に露出制御を変更する。
本実施形態では、振れ補正効果と傾き補正効果の各レベルを撮影者の操作指示にしたがって段階的に変更することによって、撮影者の望む映像効果に関して最適な並進補正、ロール補正、RS歪補正を行える。
[第3実施形態]
次に本発明の第3実施形態を説明する。本実施形態では、振れ補正効果と傾き補正効果のレベル設定が撮影者の操作によって段階的に可能な選択手段を有し、かつ光学式補正機構部による補正機能および画像処理による電子式補正機能を有する撮像装置を説明する。
図22は、本実施形態における振れ補正機能および傾き補正機能を有する撮像装置の構成例を示すブロック図である。図2に示す構成との相違点は、画像切り出しによる電子式補正に加えて、図4に示すような光学的な振れ補正部が設けられている点である。補正量分離部2001は、補正切り替え部219の出力を取得して補正量を分離して、画像切り出し設定部220とメカ振れ補正駆動部2002にそれぞれ出力する。メカ振れ補正駆動部2002は、メカ振れ補正部2003を駆動することによって光学的な補正を行う。なおメカ振れ補正とは、光学式補正機構部の駆動による補正であり、以下ではメカ式補正ともいう。
図23(A)は、モード切替が行われたときの、各モードの設定レベル量と、電子式補正の並進補正、ロール補正、並進RS歪補正、ロールRS歪補正のパラメータ設定用の係数との関係を例示する。図23(A)に示す電子式補正のパラメータ設定用の係数は、第2実施形態で説明した図16の場合に比べて、並進補正のパラメータとロール補正のパラメータが小さくなるように設定されている。具体的には振れ補正に関して臨場感優先モードが設定された場合、並進補正およびロール補正のパラメータがゼロになるように設定され、並進RS歪補正およびロールRS歪補正への割り当てが大きくなるように設定される。
図23(B)は、振れ補正効果の設定レベル量と、メカ式補正(光学式補正)の並進補正、ロール補正のパラメータ設定用の係数との関係を例示する。メカ式補正のパラメータ設定においては、振れ補正に関して臨場感優先モードが設定された場合、係数値が小さく設定され、またブレ止め優先モードが設定された場合には係数値が大きく設定される。
図23において設定された補正効果のパラメータに基づいて振れ補正角度と傾き補正角度がそれぞれ算出され、振れ補正および傾き補正が行われる。以下では本実施形態における第2の算出部218と第1の算出部217の補正角度算出処理を説明する。
傾き補正がOFF設定であって、振れ補正がON設定である場合、補正切り替え部219は第2の算出部218で演算された角度を選択し、補正が行われる。この場合、図23(A)にて振れ補正効果のレベル設定にしたがって、並進/ロール/並進RS歪/ロールRS歪補正の補正割合がそれぞれ算出され、電子式補正での並進方向とロール方向の補正可動範囲が決定される。また、振れ補正効果のレベル設定によって、同時にメカ式補正での並進方向とロール方向のメカ補正可動範囲が決定される。
まず、電子式補正の可動範囲とメカ式補正の可動範囲とを加算した可動範囲にて、図5で説明した方法と同様にしてピッチ/ヨー/ロール振れ補正角度が算出される。図22の補正量分離部2001は、補正切り替え部219で選択された振れ補正角度を取得し、電子式補正とメカ式補正との可動範囲の割合から信号分割する。例えば、電子式補正の割合を2とし、メカ式補正の割合を3とする場合を想定する。第2の算出部218によって算出された振れ補正角度×2÷5が電子式補正での補正量となり、振れ補正角度×3÷5がメカ式補正での補正量となるように演算が行われる。その他の方法としては、電子式補正とメカ式補正との可動範囲の割合に合わせてカットオフ周波数を設定したHPFが使用される。振れ補正角度をHPF処理して、HPF処理後の補正角度でメカ式補正が行われ、振れ補正角度から、メカ式補正での補正量を減算した差分、つまり補正残り量で電子式補正が行われる。この方法では、高周波成分をメカ式補正で補正し、低周波成分を電子式補正で補正することができる。いずれの方法でも、メカ式補正と電子式補正を併用して制御することができる。
次に傾き補正がON設定とされている場合を説明する。この場合、補正切り替え部219は、第1の算出部217で演算された角度を選択し、補正が行われる。図24を参照して具体的に説明する。
図24は、第1の算出部217内の水平補正角度算出部603のロール傾き角度算出に関わるブロック図である。本実施形態にて、傾き補正は電子式補正で行われ、振れ補正はメカ式補正で行われる。振れ補正角度算出部218からの振れ角度に基づいてメカ式補正が行われる。振れ角度については図23(B)に示す振れ補正効果のレベル設定に応じて、ロール振れ補正パラメータ設定部510にて設定されたパラメータを用いて補正角度が演算される。臨場感優先モードの場合、像振れ補正制御帯域を狭くしたり、大きな揺れ補正を制限したりすることで補正残りが生じるように演算が行われる。またブレ止め優先モードの場合には像振れ補正制御範囲を広くし、大きな揺れ補正を行うように設定することによって、できる限り振れを抑制するように演算が行われる。
次に傾き補正角度の算出方法について説明する。
第2実施形態で図19を用いて説明したように、可変ゲイン部706の出力は、傾き角度として高周波成分が除去されており、低周波傾き角度のみの信号となる。可変ゲイン部706の出力は、電子式補正のロール傾き補正角度となる。つまり、電子式補正により、傾き補正を行うことで極低周波の傾き角度が補正される。また、振れ補正については高周波側で限定された振れ補正角度に基づいてメカ式補正より振れ補正が行われる。低域の傾き補正を効かせつつ、臨場感を出したい揺れ残りを発生させたい場合においても、傾き補正しつつ、振れ補正を制限することが可能となる。なお、ゲインテーブル704には水平傾き補正パラメータ設定部611の出力であるロール補正割合からのロール補正可動範囲が入力され、ロール傾き補正角度がロール補正可動範囲内で制御されるように演算が行われる。この方法によると、傾き補正効果のレベルを「高」に設定し、かつ振れ補正効果のレベルを臨場感優先に設定した場合において、低周波の傾き補正を行いつつ、臨場感を出す揺れ残りを発生させる制御を行うことができる。
以上の方法により、傾き補正がON設定の場合、補正量分離部2001は、可変ゲイン部706の出力である傾き補正角度を第1の補正量(電子式補正量)とし、第2の算出部218の出力を第2の補正量(メカ式補正量)として、補正量を分離する。ここではロール傾き補正角度算出方法について詳説したが、ピッチ方向、ヨー方向でのあおり傾き補正角度算出についても同様の方法で演算できる。
本実施形態にて図23(A)の電子式補正効果のパラメータに関して、並進/ロール方向の振れ補正効果のパラメータは、第2実施形態(電子式補正のみ)の場合に図16で説明した補正効果のパラメータに対して、小さい値で設定される。また、RS歪補正効果のパラメータは、図16で説明した補正効果のパラメータに対して、大きな値で設定される。すなわち本実施形態においては、電子式補正とメカ式補正を併用しているため、メカ式補正で補正可能な並進/ロール補正の割合が小さく設定される。RS歪補正に関しては、メカ式補正により撮像前に振れ補正が行える。このため、ブレ止め優先モードが設定されている場合、図23のようにメカ式補正による補正量が大きいのでRS歪の影響が少なくなる。また臨場感優先モードが設定されている場合には、図23のようにメカ式補正の補正効果が小さくなるように(撮像面でブレが生じるように)設定されるので、RS歪が現れてしまう。この場合、並進/ロール方向のブレに関しては、臨場感を表現するため有効な映像表現になるが、RS歪に関しては不自然なブレ映像となってしまうため、できる限り発生しないことが望ましい。そこで臨場感優先の場合には、RS歪補正の補正割合を大きくし、補正効果を高める制御が行われる。これにより、揺れの大きな撮影シーンにおいても、不自然でない臨場感のある映像を取得可能となる。
本実施形態では、振れ補正効果および傾き補正効果のレベル設定を撮影者の操作によって段階的に変更可能な選択手段を有しており、光学式(メカ式)補正と電子式補正を併用した制御が行われる。よって、撮影者の望む映像効果に最適な並進補正、ロール補正、RS歪補正を行うことができる。
本発明の実施形態にて説明したように、振れ補正の補正効果を変更し、または傾き補正の補正効果を変更することが可能な撮像装置、或いは振れ補正および傾き補正の両方の補正効果を変更可能な撮像装置に適用することができる。並進方向の補正とロール方向の補正とローリング歪の補正について補正割合を適切に設定することにより、ユーザが望む撮影効果を実現できる。
本発明の第2および第3実施形態では、振れ補正効果および傾き補正効果の各レベルが段階的に変更可能である場合の、並進補正、ロール補正、並進RS歪補正、ロールRS歪補正を適切に制御する方法を説明した。傾き補正の設定や傾き補正の補正効果のレベル設定がない場合においても、振れ補正効果のレベルに応じて、並進補正、ロール補正、並進RS歪補正、ロールRS歪補正を適切に制御できる。具体的には、傾き補正をOFF設定にしたときの制御例として説明したとおりである。同様に、振れ補正の設定や振れ補正効果のレベル設定がない場合においても、傾き補正効果のレベルに応じて、並進補正、ロール補正、並進RS歪補正、ロールRS歪補正を適切に制御できる。具体的には、振れ補正をOFF設定にしたときの制御例として説明したとおりである。また、傾き補正を電子式補正で行い、振れ補正を光学式補正で行う例を説明したが、仕様や条件等に応じて傾き補正を光学式補正で行い、振れ補正を電子式補正で行ってもよい。
[第4実施形態]
次に本発明の第4実施形態を説明する。本実施形態では、画像のロール回転ブレ補正(図3(a)と、画像の並進ブレ補正(図3(b))に加えて、カメラが傾きことにより生じる台形歪(図25)を画像処理により補正する電子式補正機能を有する撮像装置を説明する。図25A及び図25Bに台形歪の例を示す。図25Aは、垂直方向の台形歪の例であり、2501aに撮像画像、2502aに変形画像を示す。図25Bは、水平方向の台形歪の例であり、2501bに撮像画像、2502bに変形画像を示す。
図26は、本実施形態における撮像装置の構成を示すブロック図である。実施例1の図2のブロック図と比べて、台形歪補正量算出部2601が加わり、図2の画像切り出し設定部220は、画像変形量演算部2602に変更されている。
並進ブレ補正量とロール回転ブレ補正量は実施例1で説明した方法で補正切り替え部219から出力される。台形歪補正量は2601で算出され、画像変形量合成部2602で最終的な電子式ブレ補正が算出されるが、補正量の算出方法について以下に詳しく説明する。
映像信号処理部206内の画像変形部で、例えば射影変換等の幾何変換を用いて画像変形を行う。具体的には、変形前の画像中の画素座標を(X0,Y0)(ただし、撮像光学系の光軸に対応した撮像画像の中心を原点とする)とし、変形後の画像中の画素座標を(X1,Y1)として、同次座標で表現すると、(式2)のように記述することができる。
(式2)の左辺と右辺は同値関係(左辺または右辺に任意の倍率をかけても意味が変わらない)を示し、通常の等号では(式3)(式4)となる。
また(式2)において、3×3の行列は一般的に射影変換行列と呼ばれ、行列の要素h1〜h8は、画像変形量演算部2602が設定する。なお、以下の説明では、画像変形は、射影変換を用いることとして説明を行うが、例えばアフィン変換等、如何なる変形方法を用いても良い。
次に、画像変形量演算部2602によって行われる処理の詳細について説明する。画像変形量演算部2602は、撮像装置の振れ角度と、撮像光学系の焦点距離とを用いて、映像信号処理部206で処理されるための画像変形量を算出する。具体的には、(式2)の射影変換行列を算出する。
ここで、振れ角度と撮像光学系の焦点距離を用いた射影変換行列の算出方法について、以下に説明する。
図27Aは、撮像装置による被写体の撮像面への投影を、ピンホールカメラモデルで図示したものである。図27Aにおいて、XYZ空間座標の原点(0,0,0)は、ピンホールカメラモデルにおけるピンホール位置である。撮像面は、ピンホール位置よりも後ろ側に配置すると、撮像面に投影される画像が倒立してしまうため、像が倒立せずに扱いやすいように、図27Aでは仮想的にピンホール位置よりも前に撮像面Iを配置している。
XYZ空間座標の原点(0,0,0)と撮像面IとのZ軸方向の距離は、焦点距離fとなる。撮像面I上の座標は、uv平面座標として定義し、uv平面座標の原点(0,0)は、XYZ空間座標における(0,0,f)と一致しているものとする。uv平面座標上の座標P(u,v)は、XYZ空間座標上の被写体A(X,Y,Z)が、撮像面Iに投影されたときの座標である。このとき、座標Pは(式5)で表すことができる。
(式5)は、同次座標を用いると、(式6)で表すことができる。
(式6)の3×4の行列の4列目の要素は、本実施形態の説明においては0のままとするので、(式6)は(式7)としても同じである。
図27Bは、図27Aのピンホールカメラモデルを、R回転したときのものである。図27Bにおいては、図27AのXYZ空間座標をR回転した座標をX’Y’Z’空間座標としている。X’Y’Z’空間座標の原点(0,0,0)は、XYZ空間座標と一致しているものとする。つまり図27Bは、撮像装置に撮影光軸の方向である第3の方向回りの回転振れRが生じ、撮像装置の平行移動である平行振れは生じていない状態を、ピンホールカメラモデルで単純化して表現しているものである。
図27Bのピンホールカメラモデルにおいて、撮像面I’は、図27Aと同様、原点(0,0,0)からの距離が焦点距離fの位置に配置されている。撮像面I’上の座標は、u’v’平面座標として定義し、u’v’平面座標の原点(0,0)は、X’Y’Z’空間座標における(0,0,f)と一致しているものとする。u’v’平面座標上の座標P’(u’,v’)は、X’Y’Z’空間座標上の被写体A’(X’,Y’,Z’)が、撮像面I’に投影されたときの座標である。なお、図27Aの被写体Aと図27Bの被写体A’の世界座標系での位置は、同じ位置である(すなわち、被写体が移動していない)ものとする。このとき座標P’は、同次座標を用いると、(式7)と同様に(式8)で表すことができる。
また、被写体Aと被写体A’の世界座標系での位置は同じであるため、両者の座標の関係は、(式9)で表すことができる。
更に、(式7)、(式8)を変形して(式9)に代入すると、(式10)を導出することができる。
(式10)は、ピンホールカメラがR回転する前後での、撮像面上での被写体像の位置の対応関係を示したものである。即ち、撮像装置にR回転の振れが加わったとき、撮像面上での画素がどこからどこへ移動するかを示す式となる。よって、像振れの補正を行うためには、撮像装置に振れが加わったときの画素移動量を元に戻す変換を行えばよい。すなわち(式11)に従って、撮像装置にR回転を加える。
よって、撮像装置に加わる振れをR、撮像光学系の焦点距離をfとし、像振れ補正を行うための射影変換行列をHとすると、Hは(式12)となる。
なお、撮像装置に加わった光軸に垂直な平面上の第1の方向回りの振れであるYAW方向の角度振れ量をθy、光軸に垂直な平面上の第1の方向と直交する方向である第2の方向回りの振れであるPITCH方向の角度振れ量をθp、ROLL方向の角度振れ量をθrとすると、Rは(式13)で表すことができる。
(式12)のHは、(式14)を用いることにより、並進t→、拡大縮小s(定数)、回転r(行列)、せん断k(行列)、あおりv→の各変形成分に分解することができる。
ここで、
tx … 水平並進量
ty … 垂直並進量
θ … 回転角
vx … 水平あおり量
vy … 垂直あおり量
α … せん断の非等方倍率
φ … せん断の方向角
である。
(式12)、(式13)、(式14)より、各変形成分に対する方程式を解くと、(式15)〜(式22)となる。
ここで、撮像装置に加わる振れ角度がγのときに、その値が大きくないとするならば、cosγ=1、sinγtanγ=0、sinγsinγ=0と近似することができ、(式15)〜(式22)は(式23)〜(式30)で表すことができる。
本実施形態における、画像変形量演算部2602までで演算される補正量の動作について具体的に説明する。なお、ヨー方向の角度振れによって、(式23)(式26)から水平方向の並進方向移動、水平方向の台形歪が生じ、ピッチ方向の角度振れによって(式24)(式27)から垂直方向の並進方向移動、垂直方向の台形歪が生じ、両者の処理は同じになる。
(式23)(式24)は、補正切り替え部219までで算出された補正角度θy、θpを用いて演算され、(式25)は補正切り替え部219までで演算されたロール補正角度θrを用いて演算され、(式26)(式27)は台形歪補正部2601で演算される。
また、本実施形態においては、画像変形の各変形成分のうち、せん断、拡大縮小の成分を用いないで画像変形を行うものとする。このため、図26の構成には、せん断、拡大縮小の成分を図示しない。しかし(式20)乃至(式22)あるいは(式28)乃至(式30)に従ってせん断、拡大縮小の成分に対する画像変形を行う構成にしてもよい。
図28A及び図28Bを参照して台形歪補正量算出部2501における垂直方向と水平方向の台形歪補正量算出部を説明する。角速度計214からの検出信号は、HPF部2801p、2801yに入力される。p、yはそれぞれピッチ、ヨーを識別するための記号である。各検出信号は、対応するHPFでDC(直流)成分をカットされた後に、減算器2802p、2802yにそれぞれ入力される。各減算器は、HPF処理後の出力から、角速度オフセット算出部2804p、2804yの出力をそれぞれ減算し、減算後の信号を積分器2803p、2803yにそれぞれ出力する。各積分器による積分処理後の出力は、リミット部2805p、2805yおよび角速度オフセット算出部2804p、2804yにそれぞれ送られる。リミット部2805p、2805yは、それぞれの入力値を所定値以下に制限し、垂直台形歪補正量、水平台形歪補正量をそれぞれ算出する。
角速度オフセット算出部2804p、2804yは、前回のサンプリングにおける補正量(垂直台形歪補正量、水平台形歪補正量の前回値)の大きさに基づいてオフセット量を算出して減算器2802p、2802yにそれぞれ出力する。角速度オフセット算出部は、補正量が閾値A以下である場合にオフセットをゼロに設定し、補正量が閾値Aより大きい場合には補正量の前回値の大きさに応じてオフセット量が大きくなるようにオフセット量を設定する。
垂直台形歪パラメータ設定部2808、水平台形歪パラメータ設定部2809は、振れ補正指定部506と傾き補正指定部507の指定情報に基づいて、垂直台形歪パラメータ設定部2808、水平台形歪パラメータ設定部2809の補正パラメータをそれぞれ設定する。垂直台形歪パラメータ設定部2808、水平台形歪パラメータ設定部2809が各軸の補正パラメータを担当し、補正パラメータは振れ補正指定部506と傾き補正指定部507の状態に応じて設定される。HPF部2801p、角速度オフセット算出部2804p、リミット部2805pには、垂直台形歪パラメータ設定部2808によって設定された垂直台形歪補正パラメータが入力される。HPF部2801y、角速度オフセット算出部2804y、リミット部2805yには、水平台形歪パラメータ設定部2809によって設定された水平台形歪パラメータが入力される。
補正効果を低くする場合、HPF部2801p、2801yのカットオフ周波数を高くし、角速度オフセット算出部2804p、2804yのオフセット量が大きくなるようにパラメータが設定される。リミット部2805p、2805yのリミット閾値が小さくなるようにパラメータが設定される。また、補正効果を高くする場合、HPF部2801p、2801yのカットオフ周波数を低くし、角速度オフセット算出部2804p、2804yのオフセット量が小さくなるようにパラメータが設定される。リミット部2805p、2805yのリミット閾値が大きくなるようにパラメータが設定される。各パラメータは、垂直台形歪および水平台形歪の各補正範囲に応じて設定される。
以上の方法で、振れ補正設定部2806と傾き補正設定部2807の設定に基づいて、垂直台形歪補正量と水平台形歪補正量がそれぞれ算出される。
表2の第1行第4列は、振れ補正指定部506による設定がONであって、傾き補正指定部507による設定が水平傾き補正ON、あおり傾き補正ONの場合を示す。この場合にはピッチ、ヨー、ロールの各方向にて同等の効果となるように補正割合が分散して設定される。また、傾き補正がONになった分台形歪補正よりも傾き補正の効果を高めたいので、台形歪補正効果は低くなっている。
表2の第1行第2列は、振れ補正指定部506による設定がONであって、傾き補正指定部507による設定が水平傾き補正ON、あおり傾き補正OFFの場合を示す。この場合にはロール方向の補正効果が高く、ピッチ方向およびヨー方向についてはロール方向に比べて補正効果が相対的に低くなるように設定される。また、ロール補正を優先し台形歪補正効果も低めに設定されている。
表2の第1行第3列は、振れ補正指定部506による設定がONであって、傾き補正指定部507による設定が水平傾き補正OFF、あおり傾き補正ONの場合を示す。この場合にはピッチおよびヨー方向の補正効果が高く、ロール方向についてはピッチ方向およびヨー方向に比べて補正効果が相対的に低くなるように設定される。また、並進補正を優先し台形歪補正効果も低めに設定されている。
表2の第2行第1列は、振れ補正指定部506による設定がOFFかつ、傾き補正指定部507による設定が水平傾き補正OFF、あおり傾き補正OFFの場合を示す。ピッチ、ヨー、ロールの補正角度がゼロになるよう設定され、振れ補正、傾き補正のいずれも行われない。
表2の第2行第2列は、振れ補正指定部506による設定がOFFであって、傾き補正指定部507による設定が水平傾き補正ON、あおり傾き補正OFFの場合を示す。この場合、並進方向の補正割合と台形歪の補正割合がゼロであり、ロール優先のパラメータ設定となる。表2の第2行第3列は、振れ補正指定部506による設定がOFFであって、傾き補正指定部507による設定が水平傾き補正OFF、あおり傾き補正ONの場合を示す。
この場合、ロール方向の補正割合と台形歪の補正割合がゼロであり、並進優先のパラメータ設定となる。表2の第2行第4列は、振れ補正指定部506による設定がOFFであって、傾き補正指定部507による設定が水平傾き補正、あおり傾き補正ともにONである場合を示す。この場合、ピッチ、ヨー、ロールの各方向にて同等の効果となるように補正割合が分散して設定され、振れ補正はOFFなので台形歪の補正割合がゼロに設定される。
本実施形態では、振れ補正のON/OFF設定と傾き補正のON/OFF設定に応じて、並進補正とロール補正と台形歪補正のパラメータがそれぞれ設定される。ユーザが任意に指定した補正効果の設定にしたがって、並進方向(ピッチ/ヨー方向)の補正効果とロール方向の補正効果と台形歪補正(垂直/水平)効果の割合がそれぞれ変更され、振れ補正および傾き補正が行われる。本実施形態によれば、ユーザの望む撮影効果に関して最適な振れ補正と傾き補正を行うことができる。
また、実施形態2で説明したように振れ補正の補正効果レベルと傾き補正の効果レベルを変更可能な選択手段を有する場合であっても、それぞれの効果レベルに応じて並進補正とロール補正と台形歪補正のパラメータがそれぞれ設定することによって、ユーザの望む撮影効果に関して最適な振れ補正と傾き補正を行うことができる。