JP2010273245A - 撮像装置と振れ補正方法 - Google Patents

撮像装置と振れ補正方法 Download PDF

Info

Publication number
JP2010273245A
JP2010273245A JP2009125062A JP2009125062A JP2010273245A JP 2010273245 A JP2010273245 A JP 2010273245A JP 2009125062 A JP2009125062 A JP 2009125062A JP 2009125062 A JP2009125062 A JP 2009125062A JP 2010273245 A JP2010273245 A JP 2010273245A
Authority
JP
Japan
Prior art keywords
image
shake
correction
unit
distortion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009125062A
Other languages
English (en)
Other versions
JP5487722B2 (ja
JP2010273245A5 (ja
Inventor
Kenji Goto
健志 後藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2009125062A priority Critical patent/JP5487722B2/ja
Priority to US12/799,812 priority patent/US8466969B2/en
Priority to CN2010101831856A priority patent/CN101902573A/zh
Publication of JP2010273245A publication Critical patent/JP2010273245A/ja
Publication of JP2010273245A5 publication Critical patent/JP2010273245A5/ja
Application granted granted Critical
Publication of JP5487722B2 publication Critical patent/JP5487722B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

【課題】撮像素子の撮像領域を効率よく利用して振れ補正を行う。
【解決手段】撮像部12は、撮像光学系11により形成された光学像を光電変換して撮像画像の画像信号を生成する。振れ検出部14は振れを検出する。制御部18aは、検出された振れに基づいて、該振れを補正するための振れ補正量を設定する。歪曲収差補正部132は、撮像画像に対して撮像光学系11で生じた歪曲収差の補正を行う。光軸回転振れ補正部133は、振れ補正量に応じて歪曲収差の補正が行われた画像に対する抽出領域を、振れ補正量に応じて回転させて、回転後の抽出領域の画像を抽出して、振れの補正された画像を得る。歪曲収差の補正を行うことにより生じた余剰領域を利用して振れ補正を行うことができるので、撮像素子に余剰領域を設けていなくとも、撮像領域を効率よく利用して振れ補正を行える。
【選択図】 図1

Description

この発明は、撮像装置と振れ補正方法に関する。詳しくは、撮像素子の撮像領域を有効に利用して振れ補正を行えるようにする。
従来、銀塩カメラや固体撮像素子を用いた撮像装置では、手持ち撮影時の振れによる画像性能の劣化や画像変位を防ぐ方法として、種々の振れ補正技術が提案されている。
この振れ補正技術では、例えば角速度センサからのセンサ信号によって撮像装置の振れの検出や、撮像素子からの画像信号を用いて被写体像の動きから撮像装置の振れを検出することが行われている。また、必要な撮像範囲を示す抽出領域よりも広い撮像領域を持つ撮像素子を用いて、振れ検出結果に応じて移動させた抽出領域の画像を抽出して出力することで、撮像装置の振れが補正された画像信号を得ることが行われている(例えば特許文献1参照)。
特開平7−177419号公報
ところで、抽出領域よりも広い撮像領域(有効画素領域)を持つ撮像素子を用いれば、図13の(A)に示すように、抽出領域に対して垂直方向や水平方向に余剰領域を設けることができる。また、抽出領域よりも広い撮像領域を持つ撮像素子を用いて余剰領域を確保するだけでなく、画素信号の読み出しを行う抽出領域を小さくすることで余剰領域を確保することもできる。例えば図13の(B)に示すように、抽出領域を小さくすることで垂直方向や水平方向の余剰領域を設けることができる。このように、垂直方向や水平方向に余剰領域を設ける場合、図13の(C)に示す光軸回りの振れを補正するためには、余剰領域を広くしなければならない。
ここで、抽出領域よりも撮像素子の撮像領域を広くして余剰領域を設ける場合、余剰領域は振れ補正が行われる場合にのみ利用される。したがって、余剰領域を広くすると振れ補正が行われた画像の生成で利用される領域が少なくなり撮像素子が有効に活用されなくなってしまう。また、抽出領域を小さくして余剰領域を設ける場合、光軸回りの振れ補正では、垂直方向や水平方向の振れの補正に比べて広い余剰領域が必要となることから、抽出領域が小さくなる。このため、抽出領域の画像を表示画像のサイズに拡大したとき、画質等が劣化した画像となってしまう。
そこで、この発明では、撮像素子の撮像領域を有効に利用して振れ補正を行うことができる撮像装置と振れ補正方法を提供する。
この発明の第1の側面は、撮像光学系により形成された光学像を光電変換して撮像画像の画像信号を生成する撮像部と、振れを検出する振れ検出部と、前記振れ検出部で検出された振れに基づいて、該振れを補正するための振れ補正量を設定する補正量設定部と、前記撮像画像に対して前記撮像光学系で生じた歪曲収差の補正と、前記振れ補正量に応じて前記歪曲収差の補正が行われた画像に対する抽出領域の移動と、前記抽出領域の画像の抽出を行う補正処理部とを備える撮像装置にある。
この発明においては、撮像光学系により形成された光学像の光電変換を行うことで撮像画像の画像信号が生成される。また、振れ検出センサを用いて、あるいは時間順の複数の撮像画像を用いた動きベクトル検出によって、撮像光学系の光軸を中心とした回転方向の振れと、光軸に対して直交する軸を中心とした回転方向の振れの少なくともいずれかの振れが検出されて、検出された振れに基づいて、この振れを補正するための振れ補正量が設定される。さらに、撮像画像に対して撮像光学系で生じた例えば樽型歪曲収差の補正と、樽型歪曲収差の補正が行われた画像に対する抽出領域が振れ補正量に応じて移動されて、この抽出領域の画像を抽出することで、振れを補正した画像の画像信号が得られる。例えば、歪曲収差の補正を行うための歪曲収差補正データを用いて、撮像画像の画像信号から歪曲収差の補正が行われた画像の画像信号が生成される。また、歪曲収差の補正が行われた画像信号から振れ補正量に応じて移動された抽出領域の画像信号が抽出される。あるいは、歪曲収差の補正を行うための歪曲収差補正データと振れ補正量を用いて撮像画像に対する座標変換が行われて、座標変換後の画像における所定の座標範囲を移動後の抽出領域とされる。
この発明の第2の側面は、振れ検出部で振れを検出するステップと、補正量設定部で、検出された振れに基づいて、該振れを補正するための振れ補正量を設定するステップと、補正処理部で、撮像画像に対して前記撮像光学系で生じた歪曲収差の補正と、前記振れ補正量に応じて前記歪曲収差の補正が行われた画像に対する抽出領域の移動と、前記抽出領域の画像の抽出を行うステップとを有する振れ補正方法にある。
この発明によれば、撮像光学系により形成された光学像を光電変換して得られた撮像画像に対して撮像光学系で生じた歪曲収差の補正と、振れ補正量に応じて歪曲収差の補正が行われた画像に対する抽出領域の移動と、抽出領域の画像の抽出が行われる。
このように、歪曲収差の補正が行われた画像から、振れ補正量に応じて移動させた抽出領域の画像を抽出することで、振れを補正した画像の画像信号を得ることができる。また、歪曲収差の補正が行われた画像を用いたことにより、振れ補正を行うための余剰領域を広くできる。したがって、撮像素子に余剰領域が設けられていなくとも、または撮像素子に広い余剰領域を設けなくとも、振れ補正を行うことが可能となり、撮像素子の撮像領域を有効に利用して振れ補正を行うことができる。
第1の実施の形態の構成を示す機能ブロック図である。 被写体画像と歪曲収差補正前後の撮像画像を例示した図である。 歪曲収差補正動作を説明するための図である。 光軸回転振れ補正部の動作を説明するための図である。 光軸回転振れ補正部の動作を説明するための図である。 第2の実施の形態の構成を示す機能ブロック図である。 2軸回転振れ補正部の動作を説明するための図である。 第3の実施の形態の構成を示す機能ブロック図である。 第4の実施の形態の構成を示す機能ブロック図である。 補正処理部の動作を示すフローチャートである。 補正処理部の動作を説明するための図である。 補正処理部の他の動作を説明するための図である。 従来の振れ補正動作を示す図である。
以下、発明を実施するための形態について説明する。この発明では、撮像光学系により形成された光学像を光電変換して撮像画像の画像信号を撮像部で生成する。また、振れ検出部で振れを検出する。この検出された振れに基づいて、該振れを補正するための振れ補正量を補正量設定部で設定する。補正処理部は、撮像画像に対して撮像光学系で生じた歪曲収差の補正と、振れ補正量に応じて歪曲収差の補正が行われた画像に対する抽出領域の移動と、抽出領域の画像の抽出を行い、歪曲収差の補正によって生じた余剰領域を利用して振れを補正するように抽出領域を移動する。さらに、抽出領域の画像の抽出することで、振れ補正が行われた画像信号を生成する。なお、説明は以下の順序で行う。
1.第1の実施の形態
2.第2の実施の形態
3.第3の実施の形態
4.第4の実施の形態
<1.第1の実施の形態>
[撮像装置の構成]
図1は、第1の実施の形態の構成を示す機能ブロック図である。撮像装置10aは、撮像光学系11、撮像部12、信号処理部13a、光軸回転振れ検出部14、記録再生処理部16、ユーザーインタフェース(ユーザーI/F)部17、制御部18aを有している。
撮像光学系11は、ズームユニット111、フォーカスユニット112、絞りユニット113、ユニット駆動部114等で構成されている。ズームユニット111は、ズームレンズを用いて構成されている。ズームユニット111は、ズームレンズを光軸方向に移動して焦点距離を可変する。すなわち、ズーム機能を実現する。フォーカスユニット112はフォーカスレンズを用いて構成されている。フォーカスユニット112は、フォーカスレンズを光軸方向に移動して、フォーカス調整を行う。絞りユニット113は、アイリスを用いて構成されている。絞りユニット113は、アイリスの開口量を可変させて光量調整を行う。
撮像部12は、撮像素子121、前処理部122、駆動部123等で構成されている。撮像素子121は、光電変換処理を行い、撮像光学系11によって撮像面に結像された光学像を電気信号に変換する。撮像素子121は、例えばCCD(Charge Coupled Device)イメージセンサ、またはCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等が用いられる。
前処理部122は、撮像素子121で生成された電気信号に対してCDS(correlated double sampling:相関2重サンプリング)等のノイズ除去処理を行う。また、前処理部122は、電気信号の信号レベルを所望の信号レベルとするゲイン調整を行う。さらに、前処理部122は、A/D変換処理を行い、ノイズ除去処理やゲイン調整が行われた電気信号であるアナログの画像信号をディジタルの画像信号に変換して出力する。
駆動部123は、撮像素子121を駆動するために必要な動作パルス等の生成を行う。例えば、電荷を読み出すための電荷読出パルス、垂直方向や水平方向の転送を行うための転送パルス、電子シャッター動作を行うためのシャッターパルス等の生成を行う。
信号処理部13aは、画像処理部131、歪曲収差補正部132、光軸回転振れ補正部133等で構成されている。
画像処理部131は、撮像部12から出力されたディジタルの画像信号に対してカメラプロセス処理等を行う。画像処理部131は、例えば画像信号に対してガンマ補正やニー補正等の非線形処理、色補正処理、輪郭強調処理等を行う。
歪曲収差補正部132は、撮像光学系11で生じる歪曲収差の補正を行う。歪曲収差補正部132は、歪曲収差量に基づいた歪曲補正データを用いて、歪曲成分を含んだ画像信号の各画素の座標を補正後の座標に変換して、歪曲収差が除去または軽減された画像の画像信号を生成する。また、歪曲収差補正部132は、ズームレンズの位置によって、歪曲収差量が変動するとき、撮像光学系11からズームレンズの位置を示す位置情報を取得して、この位置情報に応じて歪曲補正データの切り換えを行う。歪曲収差補正部132は、歪曲収差が除去または軽減された画像の画像信号を光軸回転振れ補正部133に出力する。なお、ズームレンズの位置に応じた歪曲補正データは、後述する制御部18aから歪曲収差補正部132に供給するようにしてもよい。
光軸回転振れ補正部133は、歪曲収差補正が行われた画像から抽出領域の画像の抽出を行う。また、光軸回転振れ補正部133は、後述する制御部18aから通知された振れ補正量(補正角度)に応じて抽出領域を移動(回転)する。このように、抽出領域を回転させて、光軸回りの振れが生じても静止している被写体が画面上で一定位置となるように、歪曲収差補正が行われた画像から画像の抽出を行い、光軸周りの振れが補正された画像の画像信号を生成する。光軸回転振れ補正部133は、回転振れ補正後の画像信号を記録再生処理部16や外部機器に出力する。
光軸回転振れ検出部14は、光軸回りの振れを検出して、検出結果を制御部18aに出力する。光軸回転振れ検出部14は、例えば角速度センサ141や検出信号処理部142を有している。角速度センサ141は、光軸を中心とした回転方向の振れに応じた検出信号を生成して、検出信号処理部142に出力する。検出信号処理部142は、検出信号に対してノイズ除去処理やゲイン調整、直流成分除去処理、A/D変換処理等を行い、処理後の検出信号を制御部18aに出力する。
記録再生処理部16は、光軸回転振れ補正部133から出力された画像信号を記録媒体に記録する。また、記録媒体に記録されている画像信号を読み出して、外部機器に出力する。記録媒体としては、メモリカードや光ディスク、磁気テープ等のように着脱可能であってもよく、固定タイプのHDDや半導体メモリモジュール等であってもよい。また、記録再生処理部16に、エンコーダやデコーダを設けて画像信号の圧縮符号化や伸張復号化を行い、記録媒体には符号化信号を記録するようにしてもよい。
ユーザーインタフェース部17は、操作スイッチや操作ボタン等で構成されている。ユーザーインタフェース部17は、ユーザー操作に応じた操作信号を生成して制御部18aに出力する。
制御部18aは、例えばCPU(Central Processing Unit)と、ROM(Read Only Memory)と、RAM(Random Access Memory)を備えている。CPUは、ROMに格納されている制御プログラムを必要に応じて読み出して実行する。ROMには、上述のように、CPUにおいて実行されるプログラムや各種の処理において必要となるデータ等が予め記憶されている。RAMは、処理の途中結果などを一時記憶するいわゆる作業領域として用いられるメモリである。また、ROMまたはRAMは、各種の設定パラメータ等の情報や補正データ等を記憶する。
制御部18aは、ユーザーインタフェース部17からの操作信号等に応じて各部の制御を行い、ユーザー操作に応じた動作を撮像装置10aで行わせる。
また、制御部18aは、振れ補正を行うとき補正量設定部として動作する。制御部18aは、光軸回転振れ検出部14から出力された検出信号に基づき振れ補正量(補正角度)を設定して、光軸回転振れ補正部133に通知する。例えば、光軸回転振れ検出部14で角速度センサ141が用いられている場合、制御部18aは、光軸回転振れ検出部14からの検出信号を積分することで振れ角度を算出する。さらに、制御部18aは、振れ角度を補正する補正角度を設定して、設定した補正角度を光軸回転振れ補正部133に通知する。また、手持ち撮影時の回転振れでは、振れの周波数が高くないことから、制御部18aは、検出信号に対して手振れの周波数成分のみを通過させるフィルタ処理を行う。このようなフィルタ処理を行うことで、制御部18aは、光軸周りの振れを精度よく算出できるようになる。なお、制御部18aは、上述のようにズームレンズの位置に応じた歪曲補正データを歪曲収差補正部132に出力してもよい。
[撮像装置の動作]
撮像装置10aで撮像動作が行われて撮像部12から画像信号が信号処理部13aに供給されると、信号処理部13aの画像処理部131は、画像信号に対してカメラプロセス処理等を行い、処理後の画像信号を歪曲収差補正部132に出力する。歪曲収差補正部132は、画像処理部131から供給された画像信号を用いて歪曲収差の補正を行う。
レンズの周縁部では、レンズの光収差の影響で画像の歪曲という現状が生じる。この歪曲収差は、撮像光学系11のレンズによって決まり、レンズの光軸から離れた位置の画像の縮小等を発生する。すなわち、レンズの光軸を中心とした同心円状に歪曲が発生する。図2は、被写体画像と歪曲収差補正前後の撮像画像を例示している。例えば、図2の(A)に示す被写体OBを撮像したとき、撮像光学系11の光収差の影響で、撮像素子121の撮像面上に結像される画像は、図2の(B)に示すように樽型歪曲収差が発生した画像となる。
歪曲収差補正部132は、歪曲収差量に基づいた歪曲補正データを用いて、歪曲成分を含んだ画像信号の各画素の座標を補正後の座標に変換して、歪曲収差が除去または軽減された画像の画像信号を生成する。図3は、歪曲収差補正動作を説明するための図である。歪曲収差補正部132は、例えば撮像領域(有効画素領域)の座標(Xa,Yb)に対して、歪曲収差量に基づいた歪曲補正データを乗算して、座標(Xa,Yb)の画素を座標(Xc,Yd)に変換する。歪曲収差は、レンズの光軸を中心とした同心円状に歪曲が生じる。したがって、歪曲補正データは、光軸からの距離に応じて異なる値を示す。また、ズームレンズの位置に応じて歪曲収差が変化するときは、ズームレンズの位置に対応した歪曲補正データを用いて補正を行う。このように、樽型歪曲収差の補正を行うと、撮像領域は、補正図2の(C)および図3に示すように画像の四隅を画像の中心から外側方向に引き延ばした糸巻き状の画像領域となる。
光軸回転振れ補正部133は、歪曲収差補正が行われた画像から抽出領域の画像を抽出する。図4と図5は、光軸回転振れ補正部133の動作を示している。光軸回転振れ補正部133は、制御部18aから振れ補正量(補正角度)が通知されていないとき、あるいは補正角度が「0」であるとき、歪曲収差補正が行われた画像から、図4に示すように、光軸の位置が画像の中心となるように抽出領域を設定して、抽出領域の画像を抽出する。このように、歪曲収差補正が行われた画像を用いると、歪曲収差補正が行われた画像は、歪曲収差補正によって歪曲収差補正前の領域サイズよりも領域サイズが拡大された画像であることから、抽出領域の外側に余剰領域が設けられている状態となる。
撮像装置10aで回転振れが生じたとき、光軸回転振れ検出部14は、光軸回りの振れに応じた検出信号を生成して制御部18aに出力する。制御部18aは、光軸回転振れ検出部14からの検出信号に基づき補正角度を算出して光軸回転振れ補正部133に通知する。
光軸回転振れ補正部133は、制御部18aから振れ補正量(補正角度)が通知された補正角度が「0」でないとき、歪曲収差補正が行われた画像から、図5の(A)に示すように、光軸の位置が画像の中心となるように設定された抽出領域を、光軸の位置を中心として補正角度だけ回転させる。さらに回転後の抽出領域から画像の抽出を行う。ここで、歪曲収差の補正後の画像は、四隅が画像の中心から外側方向に引き延ばした糸巻き状とされているので、四隅における余剰領域が広くなっている。光軸回転振れ補正部133は、歪曲収差の補正後の画像から抽出領域の画像を抽出するとき、より大きな補正角度に対応することができるようになる。なお、図5の(B)は、抽出領域よりも撮像領域が広い撮像素子を用いることで余剰領域を確保する従来の場合を参考として示している。この場合、抽出領域の例えば上側ではいずれの位置でも余剰領域の幅が等しい。同様に、抽出領域の下側や抽出領域の左右ではいずれの位置でも余剰領域の幅が等しい。したがって、抽出領域を上下左右方向に移動して振れ補正を行うときには、余剰領域を有効に活用できる。しかし、抽出領域を回転させるときには、抽出領域の四隅の上下方向や左右方向の移動量が余剰領域の幅で規制されてしまう。したがって、歪曲収差の補正後の画像を用いた場合のように、余剰領域を有効に活用して回転振れの補正を行うことができない。
このように、歪曲収差の補正後の画像を用いて回転振れの補正を行うことで、抽出領域を小さくしたり、抽出領域よりも撮像領域の広い撮像素子を用いることなく、回転方向の振れの補正を行うことが可能となる。したがって、撮像素子の撮像領域を有効に利用して振れ補正を行うことができる。また、抽出領域よりも撮像領域の広い撮像素子を用いた場合、従来に比べてより大きな回転方向の振れを補正できる。
<2.第2の実施の形態>
第1の実施の形態では、光軸回りの振れ補正動作について説明したが、歪曲収差の補正後の画像を用いた振れ補正は、光軸回りの振れに限られるものではなく、水平方向や垂直方向の振れを補正することもできる。次に、第2の実施の形態として、歪曲収差の補正後の画像を用いて水平方向や垂直方向の振れ補正について説明する。
[撮像装置の構成]
図6は、第2の実施の形態の構成を示す機能ブロック図である。撮像装置10bは、撮像光学系11、撮像部12、信号処理部13b、2軸回転振れ検出部15、記録再生処理部16、ユーザーインタフェース部17,制御部18bを有している。
撮像光学系11は、ズームユニット111、フォーカスユニット112、絞りユニット113、ユニット駆動部114等で構成されている。ズームユニット111は、ズームレンズを用いて構成されている。ズームユニット111は、ズームレンズを光軸方向に移動して焦点距離を可変する。フォーカスユニット112はフォーカスレンズを用いて構成されている。フォーカスユニット112は、フォーカスレンズを光軸方向に移動して、フォーカス調整を行う。絞りユニット113は、アイリスを用いて構成されている。絞りユニット113は、アイリスの開口量を可変させて光量調整を行う。
撮像部12は、撮像素子121、前処理部122、駆動部123等で構成されている。撮像素子121は、光電変換処理を行い、撮像光学系11によって撮像面に結像された光学像を電気信号に変換する。撮像素子121は、CCDイメージセンサまたはCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等が用いられる。
前処理部122は、撮像素子121で生成された電気信号に対してCDS等のノイズ除去処理を行う。また、前処理部122は、電気信号の信号レベルを所望の信号レベルとするゲイン調整を行う。さらに、前処理部122は、A/D変換処理を行い、ノイズ除去処理やゲイン調整が行われた電気信号であるアナログの画像信号をディジタルの画像信号に変換して出力する。
駆動部123は、撮像素子121を駆動するために必要な動作パルス等の生成を行う。例えば、電荷を読み出すための電荷読出パルス、垂直方向や水平方向の転送を行うための転送パルス、電子シャッター動作を行うためのシャッターパルス等の生成を行う。
信号処理部13bは、画像処理部131、歪曲収差補正部132、2軸回転振れ補正部134等で構成されている。
画像処理部131は、撮像部12から出力されたディジタルの画像信号に対してカメラプロセス処理等を行う。画像処理部131は、例えば画像信号に対してガンマ補正やニー補正等の非線形処理、色補正処理、輪郭強調処理等を行う。
歪曲収差補正部132は、撮像光学系11で生じる歪曲収差の補正を行う。歪曲収差補正部132は、歪曲収差量に基づいた歪曲補正データを用いて、歪曲成分を含んだ画像信号の各画素の座標を補正後の座標に変換して、歪曲収差が除去または軽減された画像の画像信号を生成する。また、歪曲収差補正部132は、ズームレンズの位置によって、歪曲収差量が変動するとき、撮像光学系11からズームレンズの位置を示す位置情報を取得して、この位置情報に応じて歪曲補正データの切り換えを行う。歪曲収差補正部132は、歪曲収差が除去または軽減された画像の画像信号を2軸回転振れ補正部134に出力する。なお、ズームレンズの位置に応じた歪曲補正データは、後述する制御部18bから歪曲収差補正部132に供給するようにしてもよい。
2軸回転振れ補正部134は、歪曲収差補正が行われた画像から抽出領域の画像の抽出を行う。また、2軸回転振れ補正部134は、後述する制御部18bから通知された振れ補正量(補正移動量)に応じて抽出領域を移動させる。このように、抽出領域を移動させて、2軸回りの振れが生じても静止している被写体が画面上で一定位置となるように歪曲収差補正が行われた画像から画像の抽出を行い、振れが補正された画像の画像信号を生成する。2軸回転振れ補正部134は、振れ補正後の画像信号を記録再生処理部16や外部機器に出力する。
2軸回転振れ検出部15は、光軸と直交した2つの軸回りの振れを検出して、検出結果を制御部18bに出力する。2軸回転振れ検出部15は、例えば角速度センサ151や検出信号処理部152を有している。角速度センサ151は、光軸と直交した2軸回りの振れに応じた検出信号を生成する。例えば、角速度センサ151は、光軸と直交した垂直軸と水平軸の2つの軸について、それぞれの軸を中心とした回転振れに応じた検出信号を生成する。すなわち、垂直軸を中心とした回転振れはパン方向の振れに相当する。また、水平軸を中心とした回転振れはチルト方向の振れに相当する。したがって、垂直軸と水平軸を中心としたそれぞれの回転振れに応じて検出信号を生成したとき、検出信号はパン・チルト方向の振れを示す信号となる。角速度センサ151は、生成した検出信号を検出信号処理部152に出力する。
検出信号処理部152は、検出信号に対してノイズ除去処理やゲイン調整、直流成分除去処理、A/D変換処理等を行い、処理後の検出信号を制御部18bに出力する。
記録再生処理部16は、2軸回転振れ補正部134から出力された画像信号を記録媒体に記録する。また、記録媒体に記録されている画像信号を読み出して、外部機器に出力する。記録媒体としては、メモリカードや光ディスク、磁気テープ等のように着脱可能であってもよく、固定タイプのHDDや半導体メモリモジュール等であってもよい。また、記録再生処理部16に、エンコーダやデコーダを設けて画像信号の圧縮符号化や伸張復号化を行い、記録媒体には符号化信号を記録するようにしてもよい。
ユーザーインタフェース部17は、操作スイッチや操作ボタン等で構成されている。ユーザーインタフェース部17は、ユーザー操作に応じた操作信号を生成して制御部18bに出力する。
制御部18bは、ユーザーインタフェース部17からの操作信号等に応じて各部の制御を行い、ユーザー操作に応じた動作を撮像装置10bで行わせる。
また、制御部18bは、振れ補正を行うとき補正量設定部として動作する。制御部18bは、2軸回転振れ検出部15から出力された検出信号に基づき振れ補正量(補正移動量)を設定して、設定した振れ補正量を2軸回転振れ補正部134に通知する。例えば2軸回転振れ検出部15で角速度センサ151が用いられている場合、制御部18bは、検出信号を積分することでパン方向やチルト方向の振れ角度を算出できる。したがって、制御部18bは、振れ角度を補正するように振れ補正量(補正移動量)を設定して2軸回転振れ補正部134に通知する。また、手持ち撮影時の振れでは、振れの周波数が高くならないことから、制御部18bは、検出信号に対して手振れの周波数成分のみを通過させるフィルタ処理を行う。このようなフィルタ処理を行うことで、制御部18bはパン方向やチルト方向の振れを精度よく算出できるようになる。なお、制御部18bは、上述のようにズームレンズの位置に応じた歪曲補正データを歪曲収差補正部132に出力してもよい。
[撮像装置の動作]
撮像装置10bで撮像動作が行われて撮像部12から画像信号が信号処理部13bに供給されると、信号処理部13bの画像処理部131は、画像信号に対してカメラプロセス処理等を行い、処理後の画像信号を歪曲収差補正部132に出力する。歪曲収差補正部132は、画像処理部131から供給された画像信号を用いて歪曲収差の補正を行う。
歪曲収差は、撮像光学系11のレンズによって決まり、レンズの光軸から離れた位置の画像が縮小される等の歪曲が発生する。すなわち、第1の実施の形態で説明したように、レンズの光軸を中心とした同心円状に歪曲が発生する。
歪曲収差補正部132は、歪曲収差量に基づいた歪曲補正データを用いて、歪曲成分を含んだ画像信号の各画素の座標を補正後の座標に変換して、歪曲収差が除去または軽減された画像の画像信号を生成する。
2軸回転振れ補正部134は、歪曲収差補正が行われた画像から抽出領域の画像の抽出を行う。2軸回転振れ補正部134は、制御部18bから振れ補正量(補正移動量)が通知されていないとき、あるいは振れ補正量が「0」であるとき、歪曲収差補正が行われた画像から、図4に示すように、光軸の位置が画像の中心となるように抽出領域を設定して、抽出領域の画像を抽出する。このように、歪曲収差補正が行われた画像を用いると、歪曲収差補正が行われた画像は、歪曲収差補正によって抽出領域の領域サイズよりも領域サイズが拡大された画像であることから、抽出領域の外側に余剰領域が設けられている状態となる。
撮像装置10bでパン方向やチルト方向の振れが生じたとき、2軸回転振れ検出部15は、パン方向やチルト方向の振れに応じた検出信号を生成して制御部18bに出力する。制御部18bは、2軸回転振れ検出部15からの検出信号に基づき振れ補正量(補正移動量)を設定して2軸回転振れ補正部134に通知する。
2軸回転振れ補正部134は、制御部18bから振れ補正量(補正移動量)が通知された振れ補正量が「0」でないとき、歪曲収差補正が行われた画像から、図7に示すように、抽出領域を振れ補正量だけ移動させる。さらに移動後の抽出領域から画像の抽出を行う。ここで、歪曲収差の補正後の画像は、四隅が画像の中心から外側方向に引き延ばした糸巻き状とされているので、四隅における余剰領域が広くなっている。2軸回転振れ補正部134は、歪曲収差の補正後の画像から、振れ補正量だけ移動した抽出領域の画像の抽出を行う。
このように、歪曲収差の補正後の画像を用いて2軸回転振れの補正を行うことで、抽出領域を小さくしたり、抽出領域よりも撮像領域の広い撮像素子を用いることなく、パン方向やチルト方向の振れの補正を行うことが可能となる。したがって、撮像素子の撮像領域を有効に利用して振れ補正を行うことができる。また、抽出領域よりも撮像領域の広い撮像素子を用いた場合、従来に比べてより大きなパン方向やチルト方向の振れの補正を行うことができる。なお、図7において、一点鎖線で示す領域は、2軸回転振れに応じて移動される抽出領域の移動範囲を示しており、抽出領域を一点鎖線で示す領域内で移動させて2軸回転振れの補正が行われる。
<3.第3の実施の形態>
第1および第2の実施の形態では、角速度センサを用いて光軸回りや2軸回りの振れを検出する場合について説明したが、撮像画像から光軸回りや2軸回りの振れを検出してもよい。次に、第3の実施の形態として、撮像画像から振れを検出して、検出された振れの補正を歪曲収差の補正後の画像を用いて行う場合について説明する。
[撮像装置の構成]
図8は、第3の実施の形態の構成を示す機能ブロック図である。撮像装置10cは、撮像光学系11、撮像部12、信号処理部13c、記録再生処理部16、ユーザーインタフェース部17、制御部18cを有している。
撮像光学系11は、ズームユニット111、フォーカスユニット112、絞りユニット113、ユニット駆動部114等で構成されている。ズームユニット111は、ズームレンズを用いて構成されている。ズームユニット111は、ズームレンズを光軸方向に移動して焦点距離を可変する。フォーカスユニット112はフォーカスレンズを用いて構成されている。フォーカスユニット112は、フォーカスレンズを光軸方向に移動して、フォーカス調整を行う。絞りユニット113は、アイリスを用いて構成されている。絞りユニット113は、アイリスの開口量を可変させて光量調整を行う。
撮像部12は、撮像素子121、前処理部122、駆動部123等で構成されている。撮像素子121は、光電変換処理を行い、撮像光学系11によって撮像面に結像された光学像を電気信号に変換する。撮像素子121は、CCDイメージセンサまたはCMOSイメージセンサ等が用いられる。
前処理部122は、撮像素子121で生成された電気信号に対してCDS等のノイズ除去処理を行う。また、前処理部122は、電気信号の信号レベルを所望の信号レベルとするゲイン調整を行う。さらに、前処理部122は、A/D変換処理を行い、ノイズ除去処理やゲイン調整が行われた電気信号であるアナログの画像信号をディジタルの画像信号に変換して出力する。
駆動部123は、撮像素子121を駆動するために必要な動作パルス等の生成を行う。例えば、電荷を読み出すための電荷読出パルス、垂直方向や水平方向の転送を行うための転送パルス、電子シャッター動作を行うためのシャッターパルス等の生成を行う。
信号処理部13cは、画像処理部131、歪曲収差補正部132、振れ検出部135、振れ補正部136等で構成されている。
画像処理部131は、撮像部12から出力されたディジタルの画像信号に対してカメラプロセス処理等を行う。画像処理部131は、例えば画像信号に対してガンマ補正やニー補正等の非線形処理、色補正処理、輪郭強調処理等を行う。
歪曲収差補正部132は、撮像光学系11で生じる歪曲収差の補正を行う。歪曲収差補正部132は、歪曲収差量に基づいた歪曲補正データを用いて、歪曲成分を含んだ画像信号の各画素の座標を補正後の座標に変換して、歪曲収差が除去または軽減された画像の画像信号を生成する。また、歪曲収差補正部132は、ズームレンズの位置によって、歪曲収差量が変動するとき、撮像光学系11からズームレンズの位置を示す位置情報を取得して、この位置情報に応じて歪曲補正データの切り換えを行う。歪曲収差補正部132は、歪曲収差が除去または軽減された画像の画像信号を振れ検出部135と振れ補正部136に出力する。なお、ズームレンズの位置に応じた歪曲補正データは、後述する制御部18cから歪曲収差補正部132に供給するようにしてもよい。
振れ検出部135は、歪曲収差補正部132からの画像信号に基づき、時間順の複数の画像から、振れによって生じた画像の動きベクトルを検出する動きベクトル検出部を備えている。動きベクトル検出部では、例えば代表点マッチング法を用いて画像の動きベクトルを算出する。代表点マッチング法は、時刻の異なる撮像画像の画像信号において、第2の時刻の画像信号のうち、第1の時刻の画像信号におけるある代表点の輝度レベルに最も近い輝度レベルの画素を検出することにより動きベクトルを検出する方法である。なお、動きベクトルの算出は、代表点マッチング法だけでなく他の方法を用いるようにしてもよい。
振れ補正部136は、歪曲収差補正が行われた画像から抽出領域の画像の抽出を行う。さらに、振れ補正部136は、後述する制御部18cから通知された振れ補正量(補正移動量および/または補正角度)に応じて抽出領域を移動および/または回転させる。このように、抽出領域を移動および/または回転させることで、手振れが生じても静止している被写体が画面上で一定位置となるように歪曲収差補正が行われた画像から画像の抽出を行う。振れ補正部136は、振れ補正後の画像信号を記録再生処理部16や外部機器に出力する。
ユーザーインタフェース部17は、操作スイッチや操作ボタン等で構成されている。ユーザーインタフェース部17は、ユーザー操作に応じた操作信号を生成して制御部18cに出力する。
制御部18cは、ユーザーインタフェース部17からの操作信号等に応じて各部の制御を行い、ユーザー操作に応じた動作を撮像装置10cで行わせる。また、制御部18cは、振れ補正を行うとき補正量設定部として動作する。制御部18cは、振れ検出部135で検出された動きベクトルに基づき、振れ補正量を設定して、設定した振れ補正量を振れ補正部136に通知する。なお、制御部18cは、上述のようにズームレンズの位置に応じた歪曲補正データを歪曲収差補正部132に出力してもよい。
[撮像装置の動作]
撮像装置10cで撮像動作が行われて撮像部12から画像信号が信号処理部13cに供給されると、信号処理部13cの画像処理部131は、画像信号に対してカメラプロセス処理等を行い、処理後の画像信号を歪曲収差補正部132に出力する。歪曲収差補正部132は、画像処理部131から供給された画像信号を用いて歪曲収差の補正を行う。
歪曲収差は、撮像光学系11のレンズによって決まり、レンズの光軸から離れた位置の画像が縮小される等の歪曲が発生する。すなわち、第1の実施の形態で説明したように、レンズの光軸を中心とした同心円状に歪曲が発生する。
歪曲収差補正部132は、歪曲収差量に基づいた歪曲補正データを用いて、歪曲成分を含んだ画像信号の各画素の座標を補正後の座標に変換して、歪曲収差が除去または軽減された画像の画像信号を生成する。
振れ検出部135は、歪曲収差補正部132からの画像信号を基にして、画像の動きベクトルを検出して制御部18cに出力する。制御部18cは、動きベクトルを積分して振れ量の判別を行い、判別した振れの補正を行うるための振れ補正量を算出して振れ補正部136に出力する。
振れ補正部136は、歪曲収差補正が行われた画像から抽出領域の画像の抽出を行う。振れ補正部136は、制御部18cから振れ補正量が通知されていないとき、あるいは振れ補正量が「0」であるとき、歪曲収差補正が行われた画像から、図4に示すように、光軸の位置が画像の中心となるように抽出領域を設定して、抽出領域の画像を抽出する。このように、歪曲収差補正が行われた画像を用いると、歪曲収差補正が行われた画像は、歪曲収差補正によって抽出領域の領域サイズよりも領域サイズが拡大された画像であることから、抽出領域の外側に余剰領域が設けられている状態となる。
撮像装置10cでパン方向やチルト方向や光軸を中心とした回転方向の振れが生じたとき、振れ検出部135は、パン方向やチルト方向や光軸を中心とした回転方向の振れを示す動きベクトルを生成して制御部18cに出力する。制御部18cは、振れ検出部135からの動きベクトルに基づき振れ補正量を設定して振れ補正部136に通知する。
振れ補正部136は、制御部18cから振れ補正量が通知された振れ補正量が「0」でないとき、歪曲収差補正が行われた画像から、図7に示すように、抽出領域を振れ補正量だけ移動させる。さらに移動後の抽出領域から画像の抽出を行う。ここで、歪曲収差の補正後の画像は、四隅が画像の中心から外側方向に引き延ばした糸巻き状とされているので、四隅における余剰領域が広くなっている。振れ補正部136は、歪曲収差の補正後の画像から、歪曲収差の補正後の画像から、振れ補正量だけ移動した抽出領域の画像の抽出を行う。
このように、歪曲収差の補正後の画像を用いて振れの補正を行うことで、撮像素子を効率よく活用して振れ補正を行うことが可能となる。
このように、歪曲収差の補正後の画像を用いて回転振れの補正を行うことで、抽出領域を小さくしたり、抽出領域よりも撮像領域の広い撮像素子を用いることなく、振れの補正を行うことが可能となる。したがって、撮像素子の撮像領域を有効に利用して振れ補正を行うことができる。また、抽出領域よりも撮像領域の広い撮像素子を用いた場合、従来に比べてより大きな振れを補正できる。
<4.第4の実施の形態>
第1〜第3の実施の形態では、歪曲収差補正部132で歪曲収差が補正された画像信号の生成を行い、この歪曲収差が補正された画像信号から振れ補正が行われた画像の画像信号を抽出する場合について説明した。ここで、歪曲収差の補正と振れ補正を同時に行えば、歪曲収差が補正された画像信号を生成することなく、撮像画像の画像信号から歪曲収差の補正と振れ補正が行われた画像信号を生成できる。次に、第4の実施の形態として、歪曲収差の補正と振れ補正を同時に行う場合について説明する。
[撮像装置の構成]
図9は、第4の実施の形態の構成を示す機能ブロック図である。撮像装置10dは、撮像光学系11、撮像部12、信号処理部13d、記録再生処理部16、ユーザーインタフェース部17、制御部18a(18c)を有している。また、撮像装置10dは、振れを検出するため、光軸回転振れ検出部14および/または2軸回転振れ検出部15を有している。
撮像光学系11は、ズームユニット111、フォーカスユニット112、絞りユニット113、ユニット駆動部114等で構成されている。ズームユニット111は、ズームレンズを用いて構成されている。ズームユニット111は、ズームレンズを光軸方向に移動して焦点距離を可変する。フォーカスユニット112はフォーカスレンズを用いて構成されている。フォーカスユニット112は、フォーカスレンズを光軸方向に移動して、フォーカス調整を行う。絞りユニット113は、アイリスを用いて構成されている。絞りユニット113は、アイリスの開口量を可変させて光量調整を行う。
撮像部12は、撮像素子121、前処理部122、駆動部123等で構成されている。撮像素子121は、光電変換処理を行い、撮像光学系11によって撮像面に結像された光学像を電気信号に変換する。撮像素子121は、CCDイメージセンサまたはCMOSイメージセンサ等が用いられる。
前処理部122は、撮像素子121で生成された電気信号に対してCDS等のノイズ除去処理を行う。また、前処理部122は、電気信号の信号レベルを所望の信号レベルとするゲイン調整を行う。さらに、前処理部122は、A/D変換処理を行い、ノイズ除去処理やゲイン調整が行われた電気信号であるアナログの画像信号をディジタルの画像信号に変換して出力する。
駆動部123は、撮像素子121を駆動するために必要な動作パルス等の生成を行う。例えば、電荷を読み出すための電荷読出パルス、垂直方向や水平方向の転送を行うための転送パルス、電子シャッター動作を行うためのシャッターパルス等の生成を行う。
信号処理部13dは、画像処理部131、補正処理部137で構成されている。
画像処理部131は、撮像部12から出力されたディジタルの画像信号に対してカメラプロセス処理等を行う。画像処理部131は、例えば画像信号に対してガンマ補正やニー補正等の非線形処理、色補正処理、輪郭強調処理等を行う。
補正処理部137は、撮像光学系11で生じる歪曲収差の補正を行うための歪曲収差補正データと、後述する制御部18dから通知された振れ補正量を用いて撮像画像に対する座標変換を行う。また、補正処理部137は、座標変換前の撮像画像の領域を抽出領域として、この抽出領域から画像を抽出することで、歪曲収差の補正と振れ補正が行われた画像信号を生成する。また、補正処理部137は、振れ補正が行われた画像信号を記録再生処理部16や外部機器に出力する。
光軸回転振れ検出部14および/または2軸回転振れ検出部15は、回転振れの検出を行い、検出結果を示す検出信号を制御部18dに出力する。
記録再生処理部16は、2軸回転振れ補正部134から出力された画像信号を記録媒体に記録する。また、記録媒体に記録されている画像信号を読み出して、外部機器に出力する。記録媒体としては、メモリカードや光ディスク、磁気テープ等のように着脱可能であってもよく、固定タイプのHDDや半導体メモリモジュール等であってもよい。また、記録再生処理部16に、エンコーダやデコーダを設けて画像信号の圧縮符号化や伸張復号化を行い、記録媒体には符号化信号を記録するようにしてもよい。
ユーザーインタフェース部17は、操作スイッチや操作ボタン等で構成されている。ユーザーインタフェース部17は、ユーザー操作に応じた操作信号を生成して制御部18dに出力する。
制御部18dは、ユーザーインタフェース部17からの操作信号等に応じて各部の制御を行い、ユーザー操作に応じた動作を撮像装置10dで行わせる。また、制御部18dは、振れ補正を行うとき補正量設定部として動作する。制御部18dは、光軸回転振れ検出部14および/または2軸回転振れ検出部15から供給された検出信号に基づき振れ補正量を設定して、設定した振れ補正量を補正処理部137に通知する。
[撮像装置の動作]
撮像装置10dで撮像動作が行われて撮像部12から画像信号が信号処理部13dに供給されると、信号処理部13dの画像処理部131は、画像信号に対してカメラプロセス処理等を行い、処理後の画像信号を補正処理部137に出力する。
図10は、補正処理部137の動作を示すフローチャートである。ステップST1で補正処理部137は歪曲収差補正データを決定する。補正処理部137は、例えば所定間隔の画素単位で、歪曲収差補正前の座標を歪曲収差補正後の座標に変換する歪曲収差補正データ(ベクトルデータ)をテーブルとして予め保持している。また、補正処理部137は、歪曲収差補正データのテーブルを所定のズーム倍率毎に保持している。補正処理部137は、歪曲収差補正データのテーブルを用いて、補正前の各画素の歪曲収差補正データを決定する。補正処理部137は、歪曲収差補正データが保持されていない画素について、周囲の画素の歪曲収差補正データを用いて補間処理例えば線形補間を行い、歪曲収差補正データが保持されていない画素に対応する歪曲収差補正データを算出する。また、補正処理部137は、テーブルが保持されていないズーム倍率について、テーブルが保持されているズーム倍率のテーブルを用いた補間処理を行い、テーブルが保持されていないズーム倍率に対応するテーブルを算出する。
ステップST2で補正処理部137は振れ補正量を取得する。補正処理部137は、制御部18dから振れ補正量を取得して、抽出領域の移動量や回転角を決定する。
ステップST3で補正処理部137は振れ補正データを決定する。補正処理部137は、ステップST2で決定した振れ補正量に基づき、歪曲収差補正後の座標を振れ補正後の座標に変換する振れ補正データを決定する。
ステップST4で補正処理部137は、歪曲収差補正データと振れ補正データを用いて補正処理を行い、歪曲収差と振れ補正を同時に行う。
図11は、補正処理部137の動作を説明するための図である。図11の(A)に示すように、撮像領域の座標(Xa,Yb)は、歪曲収差補正データを用いて歪曲収差の補正が行われると座標(Xc,Yd)に変換されて、歪曲収差補正後では、画像の四隅を画像の中心から外側方向に引き延ばした糸巻き状の画像領域となる。また、振れ補正量が回転角θであるとき、振れ補正データを用いて式(1)の演算を行うことで、歪曲収差補正後の座標(Xc,Yd)は振れ補正後の座標(Xe,Yf)に変換される。
Figure 2010273245
このように、歪曲収差補正データと振れ補正データを用いて演算を行うことにより、撮像領域の座標(Xa,Yb)は、歪曲収差の補正と振れ補正によって座標(Xe,Yf)に変換される。したがって、画像処理部131から出力される画像信号に対して、歪曲収差補正データと振れ補正データを用いた座標変換を行うことで、歪曲収差補正後の画像を振れ補正量に応じて移動させた画像を得ることができる。すなわち、撮像領域は、歪曲収差の補正と振れ補正データに応じた回転によって、画像の四隅を画像の中心から外側方向に引き延ばした糸巻き状の画像領域を、画像の中心を軸として回転された画像領域に変換される。
さらに、補正後の画像領域の画像から、図11の(B)に示すように、撮像領域を抽出領域として、この抽出領域の画像を示す画像信号を抽出して出力する。このようにすれば、補正処理部137から出力される画像信号は、歪曲収差補正と光軸回りの振れ補正が行われた所定の領域サイズの画像を示す画像信号となる。
図12は、補正処理部137の他の動作を説明するための図である。図12では、振れにおいて、光軸を中心とした回転とパン方向の振れが生じた場合を示している。図12の(A)に示すように、撮像領域の座標(Xa,Yb)は、歪曲収差補正データを用いて歪曲収差の補正が行われると座標(Xc,Yd)に変換される。さらに振れ補正量が回転角θ、水平方向の移動量が「mh」、垂直方向の移動量が「mv」であるとき、振れ補正データを用いて式(2)の演算を行うことで、歪曲収差の補正後の座標(Xc,Yd)は振れ補正後の座標(Xe,Yf)に変換される。なお、図12では「mv=0」の場合を例示している。
Figure 2010273245
このように、歪曲収差補正データと振れ補正データを用いて上述の演算を行うことにより、撮像領域の座標(Xa,Yb)は、歪曲収差の補正と振れ補正によって座標(Xe,Yf)に変換される。したがって、画像処理部131から出力される画像信号に対して、歪曲収差補正データと振れ補正データを用いた座標変換を行うことで、歪曲収差補正後の画像を振れ補正量に応じて移動させた画像を得ることができる。
さらに、補正後の画像領域の画像から、図12の(B)に示すように、撮像領域を抽出領域として、この抽出領域の画像を抽出して出力する。このようにすれば、補正処理部137から出力される画像信号は、歪曲収差補正と光軸回りおよびパン方向の振れ補正が行われた所定の領域サイズの画像を示す画像信号となる。
以上のように、歪曲収差補正データと振れ補正データを用いて座標変換を行えば、歪曲収差補正後の画像信号を生成することなく、歪曲収差補正と振れ補正が行われた画像信号を生成できる。このため、歪曲収差補正が行われた画像信号を記憶するメモリ等を設ける必要がないので、撮像装置の構成を簡単とすることができる。また、抽出領域を小さくしたり、抽出領域よりも撮像領域の広い撮像素子を用いることなく、回転方向の振れの補正を行うことが可能となり、撮像素子の撮像領域を有効に利用して振れ補正を行うことができるようになる。
なお、本発明は、上述した発明の実施の形態に限定して解釈されるべきではない。この発明の実施の形態は、例示という形態で本発明を開示しており、本発明の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本発明の要旨を判断するためには、特許請求の範囲を参酌すべきである。
この発明の撮像装置と振れ補正方法では、撮像光学系により形成された光学像を光電変換して得られた撮像画像に対して撮像光学系で生じた歪曲収差の補正と、振れ補正量に応じて歪曲収差の補正が行われた画像に対する抽出領域の移動と、抽出領域の画像の抽出が行われて、振れを補正した画像の画像信号が生成される。このように、歪曲収差の補正が行われた画像を用いることで、振れ補正を行うための余剰領域を広くできることから、歪曲収差の補正が行われた画像を用いて振れ補正を行えば、撮像素子に余剰領域が設けられていなくとも、または撮像素子に広い余剰領域を設けなくとも、振れ補正を行うことが可能となり、撮像素子の撮像領域を有効に利用して振れ補正を行うことができる。したがって、静止画や動画の生成機能を有した電子機器に好適である。
10a,10b,10c,10d・・・撮像装置、11・・・撮像光学系、12・・・撮像部、13a,13b,13c,13d・・・信号処理部、14・・・光軸回転振れ検出部、15・・・2軸回転振れ検出部、16・・・記録再生処理部、17・・・ユーザーインタフェース(ユーザーI/F)部、18a,18b,18c,18d・・・制御部(補正量設定部)、111・・・ズームユニット、112・・・フォーカスユニット、113・・・絞りユニット、114・・・ユニット駆動部、121・・・撮像素子、122・・・前処理部、123・・・駆動部、131・・・画像処理部、132・・・歪曲収差補正部、133・・・光軸回転振れ補正部、134・・・2軸回転振れ補正部、135・・・振れ検出部、136・・・振れ補正部、137・・・補正処理部、141,151・・・角速度センサ、142,152・・・検出信号処理部

Claims (9)

  1. 撮像光学系により形成された光学像を光電変換して撮像画像の画像信号を生成する撮像部と、
    振れを検出する振れ検出部と、
    前記振れ検出部で検出された振れに基づいて、該振れを補正するための振れ補正量を設定する補正量設定部と、
    前記撮像画像に対して前記撮像光学系で生じた歪曲収差の補正と、前記振れ補正量に応じて前記歪曲収差の補正が行われた画像に対する抽出領域の移動と、前記抽出領域の画像の抽出を行う補正処理部と
    を備える撮像装置。
  2. 前記補正処理部は、前記撮像光学系で生じた樽型歪曲収差の補正を行う
    請求項1記載の撮像装置。
  3. 前記補正処理部は、歪曲収差の補正を行うための歪曲収差補正データを用いて、前記撮像画像の画像信号から前記歪曲収差の補正が行われた画像の画像信号の生成を行い、前記歪曲収差の補正が行われた画像信号から前記振れ補正量に応じて移動された前記抽出領域の画像信号を抽出する
    請求項2記載の撮像装置。
  4. 前記補正処理部は、歪曲収差の補正を行うための歪曲収差補正データと前記振れ補正量を用いて前記撮像画像に対する座標変換を行い、前記座標変換後の画像における所定の座標範囲を前記移動後の抽出領域とする
    請求項2記載の撮像装置。
  5. 前記補正処理部は、前記座標変換後の画像における前記撮像画像の位置に対応した座標範囲を、前記移動後の抽出領域とする
    請求項4記載の撮像装置。
  6. 前記振れ検出部は、振れ検出センサを有し、前記撮像光学系の光軸を中心とした回転方向の振れと、前記光軸に対して直交する軸を中心とした回転方向の振れの少なくともいずれかの振れを前記振れ検出センサによって検出する
    請求項2記載の撮像装置。
  7. 前記振れ検出部は、前記光軸に対して直交する第1の軸を中心とした回転方向の振れと、前記光軸と前記第1の軸に対して直交する第2の軸を中心とした回転方向の振れを検出する
    請求項6記載の撮像装置。
  8. 前記振れ検出部は動きベクトル検出部を有し、該動きベクトル検出部は、時間順の複数の前記撮像画像を用いて前記振れによって生じた画像の動きを示す動きベクトルを検出する
    請求項2記載の撮像装置。
  9. 振れ検出部で振れを検出するステップと、
    補正量設定部で、検出された振れに基づいて、該振れを補正するための振れ補正量を設定するステップと、
    補正処理部で、撮像画像に対して前記撮像光学系で生じた歪曲収差の補正と、前記振れ補正量に応じて前記歪曲収差の補正が行われた画像に対する抽出領域の移動と、前記抽出領域の画像の抽出を行うステップと
    を有する振れ補正方法。
JP2009125062A 2009-05-25 2009-05-25 撮像装置と振れ補正方法 Expired - Fee Related JP5487722B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009125062A JP5487722B2 (ja) 2009-05-25 2009-05-25 撮像装置と振れ補正方法
US12/799,812 US8466969B2 (en) 2009-05-25 2010-04-30 Imaging apparatus and shake correcting method
CN2010101831856A CN101902573A (zh) 2009-05-25 2010-05-18 成像设备以及抖动校正方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009125062A JP5487722B2 (ja) 2009-05-25 2009-05-25 撮像装置と振れ補正方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2013268283A Division JP5641127B2 (ja) 2013-12-26 2013-12-26 撮像装置と振れ補正方法

Publications (3)

Publication Number Publication Date
JP2010273245A true JP2010273245A (ja) 2010-12-02
JP2010273245A5 JP2010273245A5 (ja) 2012-03-22
JP5487722B2 JP5487722B2 (ja) 2014-05-07

Family

ID=43124340

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009125062A Expired - Fee Related JP5487722B2 (ja) 2009-05-25 2009-05-25 撮像装置と振れ補正方法

Country Status (3)

Country Link
US (1) US8466969B2 (ja)
JP (1) JP5487722B2 (ja)
CN (1) CN101902573A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015022027A (ja) * 2013-07-16 2015-02-02 キヤノン株式会社 撮像装置およびその制御方法
JP2015233248A (ja) * 2014-06-10 2015-12-24 キヤノン株式会社 撮像装置及び撮像方法
US9277128B2 (en) 2012-12-25 2016-03-01 Canon Kabushiki Kaisha Image processing apparatus, image capture apparatus with the same, and method for controlling image processing apparatus to avoid partial loss of an output image by applying geometric deformation to an image
JP2016134631A (ja) * 2015-01-15 2016-07-25 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法
KR20160135748A (ko) * 2014-03-19 2016-11-28 소니 주식회사 픽셀 다중화 카메라에 대한 떨림 블러 및 모션 블러의 제어
JP7378260B2 (ja) 2018-11-15 2023-11-13 キヤノン株式会社 防振装置及び方法、及び撮像装置

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5742179B2 (ja) * 2010-11-05 2015-07-01 ソニー株式会社 撮像装置、画像処理装置、および画像処理方法、並びにプログラム
JP5631229B2 (ja) * 2011-01-31 2014-11-26 キヤノン株式会社 撮像装置、その制御方法及びプログラム
JP5734082B2 (ja) * 2011-05-11 2015-06-10 キヤノン株式会社 撮像装置及びその制御方法、並びにプログラム
JP5979837B2 (ja) 2011-09-15 2016-08-31 キヤノン株式会社 交換レンズ、及びそれを有するカメラシステム
JP2014050039A (ja) * 2012-09-03 2014-03-17 Sony Corp 画像処理装置、画像処理方法及びコンピュータプログラム
JP6103877B2 (ja) * 2012-10-22 2017-03-29 キヤノン株式会社 画像処理装置及びその制御方法
JP6097521B2 (ja) 2012-10-22 2017-03-15 キヤノン株式会社 像ブレ補正装置及び像ブレ補正方法、撮像装置
WO2014068779A1 (ja) * 2012-11-05 2014-05-08 株式会社モルフォ 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体
KR101978214B1 (ko) 2012-11-19 2019-05-14 엘지전자 주식회사 동영상 디스플레이 장치 및 그 방법
WO2014156731A1 (ja) * 2013-03-29 2014-10-02 ソニー株式会社 撮像装置、固体撮像素子、カメラモジュール、電子機器、および撮像方法
JP5762587B2 (ja) 2013-04-15 2015-08-12 キヤノン株式会社 画像処理装置および画像処理方法
JP6253280B2 (ja) * 2013-07-04 2017-12-27 キヤノン株式会社 撮像装置およびその制御方法
JP6448218B2 (ja) * 2014-05-12 2019-01-09 キヤノン株式会社 撮像装置、その制御方法および情報処理システム
CN107852462B (zh) * 2015-07-22 2020-12-18 索尼公司 相机模块、固体摄像元件、电子设备和摄像方法
US9912868B2 (en) * 2015-09-15 2018-03-06 Canon Kabushiki Kaisha Image-blur correction apparatus, tilt correction apparatus, method of controlling image-blur correction apparatus, and method of controlling tilt correction apparatus
CN105631808B (zh) * 2015-12-23 2018-10-19 浙江越剑智能装备股份有限公司 一种矫正自动验布机中布面抖动造成的图像畸变的方法
WO2017199582A1 (ja) * 2016-05-16 2017-11-23 ソニー株式会社 撮像装置、像振れ補正方法
DE102018107950A1 (de) * 2017-04-18 2018-10-18 Canon Kabushiki Kaisha Bildverarbeitungsvorrichtung, bildverarbeitungsverfahren und bildaufnahmevorrichtung
JP6997593B2 (ja) * 2017-11-06 2022-01-17 大塚電子株式会社 光学特性測定方法および光学特性測定システム
CN107800499A (zh) * 2017-11-09 2018-03-13 周小凤 一种收音机节目播控方法
CN109314744A (zh) * 2017-12-29 2019-02-05 深圳市大疆创新科技有限公司 拍摄设备的图像处理方法、拍摄设备及可移动平台
EP3564917B1 (en) * 2018-05-04 2020-07-01 Axis AB A method for detecting motion in a video sequence
CN109724992A (zh) * 2018-07-23 2019-05-07 永康市柴迪贸易有限公司 电视柜清洁度解析机构
EP3952276B1 (en) * 2019-03-28 2024-03-27 Sony Group Corporation Image processing device, image processing method, and program
CN113329164B (zh) * 2020-02-28 2023-01-20 华为技术有限公司 一种镜头校正方法、装置、拍摄终端及存储介质
CN112702515B (zh) * 2020-12-23 2022-07-15 上海立可芯半导体科技有限公司 相机系统中的图像处理方法、系统和计算机可读介质
CN115297309B (zh) * 2022-07-29 2024-05-10 青岛海信激光显示股份有限公司 投影画面显示方法及投影设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06197261A (ja) * 1992-12-24 1994-07-15 Canon Inc 撮像装置
JPH0989527A (ja) * 1995-09-27 1997-04-04 Ntn Corp 計測装置の演算パラメータ計測方法、および計測装置
JP2006033760A (ja) * 2004-07-21 2006-02-02 Olympus Imaging Corp 撮像装置および画像補正方法
WO2008032739A1 (fr) * 2006-09-12 2008-03-20 Panasonic Corporation Dispositif de formation d'image de contenu
JP2009060301A (ja) * 2007-08-30 2009-03-19 Kyocera Corp 画像処理方法と該画像処理方法を用いた撮像装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0449283B1 (en) * 1990-03-30 1997-11-12 Sanyo Electric Co., Ltd. An image sensing apparatus having camera-shake detection function
JP3332977B2 (ja) 1993-02-10 2002-10-07 オリンパス光学工業株式会社 映像装置
JP3297511B2 (ja) 1993-10-15 2002-07-02 オリンパス光学工業株式会社 映像処理装置
JP2696073B2 (ja) 1994-12-19 1998-01-14 株式会社日立製作所 テレビジョンカメラ
US6975352B2 (en) * 2000-12-18 2005-12-13 Xerox Corporation Apparatus and method for capturing a composite digital image with regions of varied focus and magnification
GB2378338A (en) * 2001-07-31 2003-02-05 Hewlett Packard Co Automatic identification of features of interest within a video signal
JP4311013B2 (ja) * 2002-12-25 2009-08-12 株式会社ニコン ブレ補正カメラシステム及びブレ補正カメラ
JP4282404B2 (ja) * 2003-08-08 2009-06-24 オリンパス株式会社 カメラ
US20050157949A1 (en) * 2003-09-30 2005-07-21 Seiji Aiso Generation of still image
JP2005244440A (ja) * 2004-02-25 2005-09-08 Matsushita Electric Ind Co Ltd 撮像装置、撮像方法
JP2005345520A (ja) 2004-05-31 2005-12-15 Matsushita Electric Ind Co Ltd 撮像装置
JP4418317B2 (ja) * 2004-07-21 2010-02-17 オリンパス株式会社 撮像装置
JP2006033758A (ja) * 2004-07-21 2006-02-02 Olympus Imaging Corp 撮像装置および画像復元方法
JP3895357B2 (ja) * 2005-06-21 2007-03-22 日東光学株式会社 信号処理装置
JP4446193B2 (ja) * 2005-11-11 2010-04-07 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP2007228154A (ja) 2006-02-22 2007-09-06 Matsushita Electric Ind Co Ltd 画像処理装置および画像処理方法
JP4104631B2 (ja) * 2006-03-27 2008-06-18 三洋電機株式会社 運転支援装置
JP2007293457A (ja) * 2006-04-21 2007-11-08 Yamaha Corp 画像処理装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06197261A (ja) * 1992-12-24 1994-07-15 Canon Inc 撮像装置
JPH0989527A (ja) * 1995-09-27 1997-04-04 Ntn Corp 計測装置の演算パラメータ計測方法、および計測装置
JP2006033760A (ja) * 2004-07-21 2006-02-02 Olympus Imaging Corp 撮像装置および画像補正方法
WO2008032739A1 (fr) * 2006-09-12 2008-03-20 Panasonic Corporation Dispositif de formation d'image de contenu
JP2009060301A (ja) * 2007-08-30 2009-03-19 Kyocera Corp 画像処理方法と該画像処理方法を用いた撮像装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9277128B2 (en) 2012-12-25 2016-03-01 Canon Kabushiki Kaisha Image processing apparatus, image capture apparatus with the same, and method for controlling image processing apparatus to avoid partial loss of an output image by applying geometric deformation to an image
JP2015022027A (ja) * 2013-07-16 2015-02-02 キヤノン株式会社 撮像装置およびその制御方法
KR20160135748A (ko) * 2014-03-19 2016-11-28 소니 주식회사 픽셀 다중화 카메라에 대한 떨림 블러 및 모션 블러의 제어
JP2017517909A (ja) * 2014-03-19 2017-06-29 ソニー株式会社 画素を多重化するカメラのシェイクブラーおよびモーションブラーの制御
KR102174808B1 (ko) 2014-03-19 2020-11-05 소니 주식회사 픽셀 다중화 카메라에 대한 떨림 블러 및 모션 블러의 제어
JP2015233248A (ja) * 2014-06-10 2015-12-24 キヤノン株式会社 撮像装置及び撮像方法
JP2016134631A (ja) * 2015-01-15 2016-07-25 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法
JP7378260B2 (ja) 2018-11-15 2023-11-13 キヤノン株式会社 防振装置及び方法、及び撮像装置

Also Published As

Publication number Publication date
JP5487722B2 (ja) 2014-05-07
US8466969B2 (en) 2013-06-18
CN101902573A (zh) 2010-12-01
US20100295956A1 (en) 2010-11-25

Similar Documents

Publication Publication Date Title
JP5487722B2 (ja) 撮像装置と振れ補正方法
JP6385212B2 (ja) 画像処理装置及び方法、撮像装置、及び画像生成装置
JP5359783B2 (ja) 画像処理装置および方法、並びにプログラム
US9185298B2 (en) Image blur correction apparatus, image blur correction method, and imaging apparatus
US9071751B2 (en) Image processor method and program for correcting distance distortion in panorama images
JP4401949B2 (ja) 動画撮像装置及び動画撮像方法
JP6355454B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP5432697B2 (ja) 撮像装置及びその制御方法
JP2007135056A (ja) 画像処理装置および方法、並びにプログラム
JP2009152698A (ja) 撮像装置及びその制御方法及びプログラム
JP2005311473A (ja) 撮像装置および信号処理方法ならびにそのプログラムと記録媒体
JP2012114809A (ja) 撮像装置及び電子機器
JP2010166512A (ja) 撮像装置
JP2008028500A (ja) 画像処理装置、方法、およびプログラム
JP2012231262A (ja) 撮像装置、ぶれ補正方法、制御プログラム、及び制御プログラムを記録する記録媒体
US9456139B2 (en) Imaging device, control method of the same and program
JP6336341B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP5996418B2 (ja) 撮像装置および撮像方法
JP2007049266A (ja) 画像撮像装置
JP5641127B2 (ja) 撮像装置と振れ補正方法
JP2018142983A (ja) 画像処理装置及びその制御方法、プログラム、記憶媒体
JP2010239459A (ja) 画像合成装置及びプログラム
JP2019140648A (ja) 撮像装置及び撮像装置の制御方法
JP2011135537A (ja) 撮像装置及び撮像装置の制御方法
JP2006157344A (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130926

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20131015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131226

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20140110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140210

LAPS Cancellation because of no payment of annual fees