JP4958756B2 - 撮像装置及びその制御方法及びプログラム - Google Patents

撮像装置及びその制御方法及びプログラム Download PDF

Info

Publication number
JP4958756B2
JP4958756B2 JP2007322545A JP2007322545A JP4958756B2 JP 4958756 B2 JP4958756 B2 JP 4958756B2 JP 2007322545 A JP2007322545 A JP 2007322545A JP 2007322545 A JP2007322545 A JP 2007322545A JP 4958756 B2 JP4958756 B2 JP 4958756B2
Authority
JP
Japan
Prior art keywords
motion vector
image
evaluation value
correction amount
reliability evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007322545A
Other languages
English (en)
Other versions
JP2009147658A (ja
JP2009147658A5 (ja
Inventor
昌宏 柴田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007322545A priority Critical patent/JP4958756B2/ja
Priority to US12/267,940 priority patent/US8319842B2/en
Priority to CN2008101832847A priority patent/CN101459762B/zh
Publication of JP2009147658A publication Critical patent/JP2009147658A/ja
Publication of JP2009147658A5 publication Critical patent/JP2009147658A5/ja
Application granted granted Critical
Publication of JP4958756B2 publication Critical patent/JP4958756B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • H04N23/6845Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Description

本発明は、動画像の動きベクトルを検出して動画像のぶれ補正を行う技術に関するものである。
ビデオカメラなどの動画像を撮影する撮像装置においては、特にレンズを望遠側にズームしたときに、手ぶれにより画像がぶれることが問題となる。このような手ぶれによる画像のぶれを防止するために、従来より撮影した画像信号から画像の動きベクトルを検出し、この動きベクトルに基づいて画像のぶれを補正する技術が提案されている。
動画像の動きベクトルを検出する方法としては、従来より、相関演算に基づく相関法やブロックマッチング法等が知られている。
ブロックマッチング法では、入力された画像信号を複数の適当な大きさのブロック領域(例えば8画素×8ライン)に分割する。そして、このブロック単位で前のフィールド(またはフレーム)の一定範囲の画素との差を計算し、この差の絶対値の和が最小となる前のフィールド(またはフレーム)のブロックを探索する。そして、画面間の相対的なずれが、そのブロックの動きベクトルを示している。
また、マッチング演算については、尾上守夫等により、情報処理Vol.17,No.7,p.634 〜640 July 1976 で詳しく論じられている。
次に、ブロックマッチング法を用いた従来の動きベクトル検出法の一例を、図面を用いて説明する。図6は従来の動きベクトル検出法によりぶれを防止する装置の概略ブロック図である。
まず動きベクトルの検出対象となる画像信号(フィールドまたはフレーム)が画像メモリ15及び空間周波数を抽出するフィルタ102に加えられる。画像メモリ15は画像信号を一時記憶する。フィルタ102は画像信号から動きベクトル検出に有用な空間周波数成分を抽出する。即ち、画像信号の低空間周波数成分及び高空間周波数成分を除去する。
フィルタ102を通過した画像信号は2値化回路103に加えられる。2値化回路103は画像信号を、ゼロレベルを基準として2値化する。具体的には出力信号の符号ビットを出力する。
2値化された画像信号は相関演算回路104及び1フィールド期間遅延手段としてのメモリ105に加えられる。相関演算回路104には更にメモリ105から前フィールドの画像信号が加えられている。
相関演算回路104はブロックマッチング法に従い、ブロック単位に現フィールドと前フィールドとの相関演算を行い、その結果の相関値を動きベクトル検出回路106に加える。動きベクトル検出回路106は相関値からブロック単位の動きベクトルを検出する。具体的には相関値が最小となる前フィールドのブロックを探索し、その相対的なずれを動きベクトルとしている。
このブロック単位の動きベクトルは動きベクトル決定回路107に加えられる。動きベクトル決定回路107はブロック単位の動きベクトルから全体の動きベクトルを決定する。具体的には、ブロック単位の動きベクトルの中央値または平均値を画像全体の動きベクトルとしている。またここで、ブロック単位の動きベクトルを相関値に基づいて評価することで、ブロック単位の動きベクトルの有効/無効を決定している。動きベクトルの有効数/無効数を判断することで、動きベクトルの信頼性を評価できる。
動きベクトル決定回路107は全体の動きベクトルをメモリ読み出し制御回路22に加える。メモリ読み出し制御回路22は全体の動きベクトルに応じて画像の動きが相殺されるように画像メモリ15の読み出し位置を制御し、画像メモリ15からぶれが補正された画像信号が出力される。
次に、動きベクトルの評価方法について説明する。
図7は動きベクトルの評価方法を説明するフローチャートである。
まずステップS1001でブロック単位の動きベクトルを取得する。次にステップS1002において、ブロック単位の相関値の最小値を取得する。ステップS1003では、ステップS1002で取得した相関値の最小値が任意の定数Aと比較して大きいかどうかを判別する。ステップS1003の判別の結果、最小値がAよりも大きければステップS1004に進み、小さければステップS1005に進む。ステップS1004では、該当ブロックの動きベクトルを無効とする。ステップS1005では、全てのブロックに対する処理が終了したかを判別する。全てのブロックに対する処理が終了していなければ次のブロックに移行してステップS1001から繰り返し、終了していればステップS1006に進む。ステップS1006では、有効な動きベクトルを出力する。
画像の動きベクトルを検出して画像ぶれを補正するシステムにおける、動きベクトルの信頼性を評価することによって、動きベクトルの検出精度を向上させる方法は特許文献1において提案されている。
特開平6−203164号公報
しかしながら、従来の技術においては、動きベクトルの有効数が所定の値よりも少ない、すなわち検出した動きベクトルの信頼性が低いと判断した場合、その動きベクトルは無効として、ぶれ補正を行わないようにしていた。このとき、動きベクトルの信頼性は、映像状態に影響される。つまり、コントラストが高くマッチングが一意に決まるような映像の場合は信頼性の高い動きベクトルを検出できるが、画像内で特徴となる絵柄が少ない場合や、似た特徴が多数ある場合などは、信頼性の低い動きベクトルが検出されてしまう。
またさらに、動きベクトルの信頼性は、同一の被写体を映している状態であっても、手ぶれによる映像の流れや、フォーカスの動きによるボケなどによって、信頼性の高さは随時変化している。そのため、動きベクトルの信頼性に従って単純にぶれ補正のON/OFFを決定してしまうと、ぶれ補正が効く時と効かない時が連続的に繰り返されるような場合もあり、抑振効果が不連続になってしまうことがあった。
従って、本発明は上述した課題に鑑みてなされたものであり、その目的は、動画像におけるぶれ補正効果の不連続性を抑制することである。
上述した課題を解決し、目的を達成するために、本発明に係わる撮像装置は、撮像光学系により結像された被写体像を撮像して画像信号を出力する撮像手段と、前記撮像手段により連続して撮像された画像信号間の相関に基づいて動きベクトルを検出する動きベクトル検出手段と、前記動きベクトルの有効または無効を決定し、該有効の動きベクトルと該無効の動きベクトルに基づいて検出した前記動きベクトル全体の信頼性評価値を算出する信頼性評価値算出手段と、前記信頼性評価値に基づいて減衰率を決定する減衰率決定手段と、前記動きベクトルから画像全体の動きベクトルを決定する動きベクトル決定手段と、前記減衰率に基づいて、前記画像全体の動きベクトルに基づいて算出される補正量を補正して前記画像ぶれの補正量を決定するぶれ補正量決定手段と、前記画像ぶれの補正量に基づいて画像ぶれを補正するぶれ補正手段と、を備えることを特徴とする。
本発明によれば、動画像におけるぶれ補正効果の不連続性を抑制することが可能となる。
以下、本発明の好適な実施形態について、図面を参照して詳細に説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係わる画像ぶれ補正装置を組み込んだ撮像装置のシステム構成を示すブロック図である。
図1において、11は焦点距離を変えて変倍を行う変倍レンズ群、12は焦点調節機能と変倍による焦点面の移動を補正するいわゆるコンペ機能を兼ね備えたフォーカスレンズ群である。言い換えれば、変倍レンズ群11とフォーカスレンズ群12により被写体像を結像させるズーム可能な撮像光学系が構成されている。また、13はCCDやCMOSセンサ等からなる撮像素子である。14はカメラ信号処理部であり、アナログ信号処理回路とデジタル信号処理回路からなる。アナログ信号処理回路は、撮像素子13で得られた信号に所定の処理を施してアナログ画像信号を生成するものである。そして、例えばCDS(co-related double sampling:相関二重サンプリング)回路、AGC(Automatic Gain Control)回路等から構成されている。デジタル信号処理回路は、A/D変換器によりアナログ画像信号をデジタル信号に変換し、ガンマ補正、ホワイトバランス等、所定の信号処理を施したデジタル画像信号を生成する。15は信号処理された画像データを記憶する画像メモリである。16はレコーダ部であり、記録媒体(メモリカード、ハードディスク、DVD、磁気テープなど)に映像信号を記録する記録装置、表示装置(液晶パネルやビューファインダ)に映像信号を出力表示する表示部、及びそれらの制御回路などが含まれる。
21はカメラ信号処理部14で信号処理された画像データから、代表となる動きベクトルを検出する代表ベクトル検出回路である。ここで検出され決定された代表となる動き検出ベクトルは、画像振れの補正を行う際の補正量として決定される(補正量決定)。23は検出した動きベクトルを画素単位から角度単位に変換する画素角度変換回路である。ここで一旦画素単位を角度単位に変換するのは、ズーム情報を考慮して補正量を修正する際に都合が良いからである。
27は代表ベクトル検出回路から、代表となる動きベクトルを決定するまでの過程における情報を受け取り、その動きベクトルの信頼性評価値を算出する信頼性評価値算出部である。信頼性評価値の具体的な算出の仕方については後述する。
24は代表ベクトル検出回路21および画素角度変換回路を経由して算出された画像振れの補正量に対して、信頼性評価値算出部27で算出された信頼性評価値によって決定される減衰率に応じて減衰させる補正量減衰回路である。26は補正量減衰回路24から出力される補正量を積分する積分回路である。25は積分回路26からの信号に基づいて、補正量を角度単位から画素単位に変換する角度画素変換回路である。22は角度画素変換回路25から出力される補正量に基づいて、記録または表示する画像データの範囲を決める制御を行うメモリ読み出し制御回路である。メモリ読み出し制御回路22で決定された範囲だけが画像データとして切り出されて、画像メモリ15からレコーダ部16へ出力される。
33は焦点距離を変倍操作するためのズームスイッチである。32はズームスイッチ33に基づいて変倍制御を行うズーム制御回路である。31はズーム制御回路32の出力に基づいて、ズームレンズ11を駆動するズームモータである。34はズームレンズの位置を検出するズームエンコーダである。
次に、動きベクトルの検出方法について説明する。
図2は、代表ベクトル検出回路21とその周辺部の概略構成を示すブロック図である。なお、図6と同一符号は同一構成要素を示している。
動きベクトルの検出対象となる画像信号(フィールドまたはフレーム)が入力端子101から画像メモリ15及び空間周波数を抽出するフィルタ102に加えられる。画像メモリ15は画像信号を一時記憶する。フィルタ102は画像信号から動きベクトル検出に有用な空間周波数成分を抽出する。即ち、画像信号の低空間周波数成分及び高空間周波数成分を除去する。
フィルタ102を通過した画像信号は2値化回路103に加えられる。2値化回路103は画像信号をゼロレベルを基準として2値化する。具体的には出力信号の符号ビットを出力する。2値化された画像信号は相関演算回路104及び1フィールド期間遅延手段としてのメモリ105に加えられる。相関演算回路104には更にメモリ105から前フィールドの画像信号が加えられている。
相関演算回路104はブロックマッチング法に従い、ブロック単位に現フィールドと前フィールドとの(画像信号間の)相関演算を行い、その結果の相関値を動きベクトル検出回路106及び相関値検出回路109に加える。動きベクトル検出回路106は相関値からブロック単位の動きベクトルを検出する。具体的には相関値が最小となる前フィールドのブロックを探索し、その相対的なずれを動きベクトルとしている。このブロック単位の動きベクトルは動きベクトル決定回路107に加えられる。
相関値検出回路109は相関値の最小値を検出し、動きベクトル決定回路107に加える。動きベクトル決定回路107はブロック単位の動きベクトルを相関値検出回路109で検出された最小値に従って評価すると共に、画像全体の動きベクトルを決定する。具体的には、ブロック単位の動きベクトルの中央値または平均値を画像全体の動きベクトルとしている。この画像全体の動きベクトルが、入力された画像に対しての代表となる移動ベクトルとして、画像振れの補正を行う際の補正量として決定される。ただし、ここでの補正量は、画像メモリ15の読み出し位置の制御にそのまま用いられるわけではなく、以下の処理を経ることによって変換・修正される。
信頼性評価値算出部27は、動きベクトル検出回路106と動きベクトル決定回路107のそれぞれの検出、決定過程における情報を受け取り、その動きベクトルの信頼性評価値を算出する。そして、画素角度変換回路23で角度単位に変換された補正量に対して、補正量減衰回路24は、信頼性評価値算出部27から得た信頼性評価値によって決定される減衰率を掛けて減衰させる。
補正量減衰回路24から得られる減衰された補正量を積分回路26で積分処理することにより、積算された補正量に変換する。メモリ読み出し制御回路22は、積算された補正量を角度画素変換部25で変換された画素単位の補正量に応じて画像の動きが相殺されるように画像メモリ15の読み出し位置を制御し、画像メモリ15からぶれが補正された画像信号が出力される。
次に、信頼性評価値算出部27における、動きベクトルの評価方法について説明する。
動きベクトルの評価方法は、従来技術として説明した図7と同様の処理で行うことができる。また、相関値の評価方法としては、最大値と最小値との差分値を用いたり、相関平均値を用いた方法なども利用可能であり、動きベクトルの有効/無効を評価できればどのような評価方法を用いてもよい。
図3A〜図3Dを例に用いて、信頼性評価値算出部27における動きベクトルの信頼性評価値の算出について説明する。
図3Aは、ある被写体を撮影したときの画像である。画像内に表示されている8×5の四角枠が、動きベクトルを検出する各ブロックであり、この場合、ブロック数は計40個である。図3Bは、図3Aの画像の撮影中のある時点において、各ブロックごとの動きベクトルを検出した結果の例である。そして、図3Cは、各ブロックごとに検出した動きベクトルの有効(○)/無効(×)を示した例である。図3Dは、図3Cの結果において、各ブロックごとの動きベクトルの中で、決定した画像全体の動きベクトルに一致するブロックを◎で示した例である。
このように建物の窓枠や木などコントラストが高い部分や絵柄のはっきりした部分では信頼性の高い有効な動きベクトルが検出されるが、空や建物の壁など、コントラストの低い部分や絵柄の少ない部分では信頼性の低い無効なベクトルが検出されてしまう。この場合、有効なベクトルが28ブロック、無効なベクトルが12ブロックとなる。また、人など動きのある部分は、コントラストが高いので相関値からは有効な動きベクトルと判断されるが、検出された動きベクトルは手ブレの動きと同時に被写体の動きも検出してしまっている。すなわち、有効な動きベクトルの中には、手ぶれの動きだけを検出した動きベクトルもあれば、被写体の動きも同時に検出した動きベクトルも存在することを意味する。そこで、画像全体の動きベクトルを一つ決定すれば、有効な動きベクトルの中から、決定した画像全体の動きベクトルに一致する動きベクトルと一致しない動きベクトルを選別できる。ここで、画像全体の動きベクトルに一致するベクトルは手ブレのみによる動きを検出したベクトルであり、一致しないベクトルは手ブレの動きと同時に被写体の動きも検出したベクトルである。図3Dはこのことを示した例であり、画像全体の動きベクトルに一致する動きベクトルを◎で、一致しない動きベクトルを○で示している(×は図3Cと同じく無効なベクトルである)。この例では、一致する動きベクトルが24ブロック、一致しない動きベクトルが4ブロックとなっている。
全ブロック数に対して有効と評価された動きベクトルの割合をベクトル有効率とすると、図3Cの例では、ベクトル有効率が70%(=28ブロック/40ブロック)という結果になる。このベクトル有効率という値は、画像データの全ブロックに対して何割が有効な動きベクトルとして算出され、何割が無効な動きベクトルとして算出されたかを示す値であることから、検出した全体の動きベクトルの信頼性を評価する(信頼性検出をする)評価値として用いることができる。
つまり、信頼性評価値算出部27では、このベクトル有効率を信頼性評価値として算出している。
また、信頼性評価値は、次のような別の方法を用いても求めることは可能である。
図3Cで有効(○)と判断した各ブロックごとの動きベクトルの中には、決定した画像全体の動きベクトルに一致する動きベクトル(図3Dの◎)と一致しない動きベクトル(図3Dの○)があることを先に述べた。従って、全ブロック数に対して、決定した画像全体の動きベクトルに一致する動きベクトルの割合(図3Dの例では、24ブロック/40ブロック=60%)を信頼性評価値とするができる。またあるいは、有効ベクトル数に対して、決定した画像全体の動きベクトルに一致する動きベクトルの割合(図3Dの例では、24ブロック/28ブロック=86%)を信頼性評価値とすることもできる。
次に、補正量減衰回路24における動きベクトルの減衰方法について説明する。
本実施形態における補正量減衰回路24による補正量の減衰方法では、信頼性評価値算出部27で算出された動きベクトルの信頼性評価値に基づいて減衰率が決定される。具体的には、予めメモリに用意された信頼性評価値に対する減衰率の変換テーブルに従って、信頼性評価値算出部27から入力された信頼性評価値に対して減衰率が決定される。
減衰率は原則として、信頼性評価値が大きい場合はベクトル有効率が大きいわけであるから、動きベクトルの信頼性が高いと判断して減衰率を下げる。すなわち、動きベクトルに応じた補正ゲインを高くする。
逆に、信頼性評価値が小さい場合は、動きベクトルの信頼性が低いと判断して減衰率を上げる。すなわち、動きベクトルに応じた補正ゲインを少なくする。補正ゲインと減衰率は表裏の関係にあり、例えば、減衰率20%の場合は補正ゲインは80%となる。従って直接的には、補正量減衰回路24は、画素角度変換回路23で角度単位に変換された補正量に対して決定された補正ゲインを掛けることで、減衰を実現している。
図4A〜図4Fは、信頼性評価値に対する補正ゲインの値を示したグラフである。X軸は、信頼性評価値算出部27で算出される信頼性評価値であり、正方向に100%から0%へ漸減するように表されている。Y軸は、入力される補正量に対する補正ゲインである。図4B〜図4Fのグラフに相当する変換テーブルは、1つ以上が選択されて不図示のメモリに格納されており、必要に応じて補正量減衰回路24に読み込まれるものである。
例えば、図4Aに示すように、単純に信頼性評価値が所定のしきい値より大きいか否かによってON/OFFを切替えるとぶれ補正効果の有り無しがデジタル的に切換わってしまい、撮影者は画像ぶれに対して違和感を感じてしまう。したがって、このように補正ゲインを設定することは好ましくない。本実施形態では、図4B〜図4Fに示すように信頼性評価値の変化に対して連続的に減衰させることによって、ぶれ補正効果の変化を連続的にし、撮影者の違和感を軽減させる。
図4Bに示す特性の入力される補正量に対する補正ゲインは、式(1)で示される。
G=E …(1)
ここで、Gは補正ゲイン、Eは信頼性評価値である。
なお、減衰率の急激な変化が生じなければ、上記のようなぶれ補正の切換わりの違和感は生じないことから、図4Cに示すように、信頼性評価値の所定値以上のところから減衰させていくようにしても良い。このときの特性に対する補正ゲインは、式(2)で示される。
G=E/e :(E<eの時)
G=100 :(E≧eの時) …(2)
また、信頼性評価値が低い場合、補正ゲインも十分に低ければ不連続性があったとしても、手ぶれの補正残りとして違和感がなくなる。それよりも、図4Cにおいて信頼性評価値がe%のポイントの不連続性を少なくする方が、手ブレの補正残りの違和感を軽減できることから、図4Dに示すように、f%のポイントまでの補正ゲインを上げて、信頼性評価値がf%以下のときはゲイン0にすることもできる。
さらに、図4Bでは、直線的にゲインを変化させていたが、図4Eに示すように円弧の曲線で変化させる方法や図4Fに示すようにS字曲線で変化させる方法もある。曲線で補正ゲインを変化させる方が、信頼性評価値が高い時の補正ゲインを高くできることから、補正の効果を高くすることができる。図4E、Fの曲線による方法は、図4C、Dの直線部分を曲線にする方法へも応用は可能である。
以上説明したように、入力される補正量に対して信頼性評価値に基づいた補正ゲインをかけた補正量を算出することによって、ぶれ補正のON/OFFの切換わりの不連続性を無くすことができる。その結果、撮影者に対して画像ぶれ補正による抑振効果の違和感を軽減させることができる。
(第2の実施形態)
第1の実施形態では、動きベクトルの信頼性に基づいて補正量に対する減衰を行ったが、第2の実施形態では、動きベクトルの信頼性に加え、焦点距離に応じても補正量の減衰率を変更する方法について説明する。
本実施形態の撮像装置のシステム構成は、第1の実施形態で示した図1と同じ構成であり、その動作のみが異なる。第1の実施形態で説明した動作と異なる部分について説明する。
補正量減衰回路24は、ズーム制御回路32からズーム位置情報を受取ることによって、焦点距離情報を取得し、動きベクトルの信頼性に加えてこれを考慮して、検出した動きベクトルに対する補正量の減衰を行う。
次に、第2の実施形態における補正量減衰回路24による動きベクトルの減衰方法について説明する。
本実施形態においては、焦点距離がテレ側に行くに従って減衰率を増加させる。すなわち信頼性評価値が同じならズーム位置がテレ側になるほど補正量の減衰を大きくする。
なぜならば、テレ側になるほど撮像対象が拡大されて、ワイド側と比較して絵柄が大きくなるため、動きベクトルの相関が取り難くなるためである。焦点距離がズーム範囲の中間付近であるミドル位置から連続的に減衰率を増加、すなわち補正ゲインを減少させていくことによって、ズーム位置によるぶれ補正効果の差を減少させる。
図5は、焦点距離に応じて信頼性評価値に対する補正ゲインを変更する様子を示したグラフである。
焦点距離がワイド側では、信頼性評価値が低い値から補正ゲインの減衰を開始するようにし、テレ側では、ワイド側よりも高い信頼性評価値から補正ゲインの減衰を開始するようにする。
なお、図5のグラフに相当する変換テーブルは、不図示のメモリに格納されており、必要に応じて補正量減衰回路24に読み込まれるものである。
以上説明したように、入力される補正量に対して信頼性評価値と焦点距離に基づいた補正ゲインを決めることによって、動きベクトルの信頼性及び焦点距離の違いによるぶれ補正のON/OFFの切換わりの不連続性を無くすことができる。その結果、撮影者に対して画像ぶれ補正による抑振効果の違和感を軽減させることができる。
(他の実施形態)
また、各実施形態の目的は、次のような方法によっても達成される。すなわち、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行する。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、本発明には次のような場合も含まれる。すなわち、プログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される。
さらに、次のような場合も本発明に含まれる。すなわち、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される。
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明した手順に対応するプログラムコードが格納されることになる。
本発明の第1の実施形態に係わる、画像ぶれ補正装置を組み込んだ撮像装置のシステム構成を示すブロック図である。 本発明の第1の実施形態に係わる、代表ベクトル検出回路とその周辺部の概略構成を示すブロック図である。 動きベクトルの信頼性の説明図である。 動きベクトルの信頼性の説明図である。 動きベクトルの信頼性の説明図である。 動きベクトルの信頼性の説明図である。 本発明の第1の実施形態に係わる、信頼性評価値に対する補正ゲインの値を示したグラフである。 本発明の第1の実施形態に係わる、信頼性評価値に対する補正ゲインの値を示したグラフである。 本発明の第1の実施形態に係わる、信頼性評価値に対する補正ゲインの値を示したグラフである。 本発明の第1の実施形態に係わる、信頼性評価値に対する補正ゲインの値を示したグラフである。 本発明の第1の実施形態に係わる、信頼性評価値に対する補正ゲインの値を示したグラフである。 本発明の第1の実施形態に係わる、信頼性評価値に対する補正ゲインの値を示したグラフである。 本発明の第2の実施形態に係わる、焦点距離に応じて信頼性評価値に対する補正ゲインを変更する様子を示したグラフである。 従来の画像ぶれ補正システムのブロック図である。 従来の動きベクトルの評価方法を説明するフローチャートである。

Claims (12)

  1. 撮像光学系により結像された被写体像を撮像して画像信号を出力する撮像手段と、
    前記撮像手段により連続して撮像された画像信号間の相関に基づいて動きベクトルを検出する動きベクトル検出手段と、
    記動きベクトルの有効または無効を決定し、該有効の動きベクトルと該無効の動きベクトルに基づいて検出した前記動きベクトル全体の信頼性評価値を算出する信頼性評価値算出手段と、
    前記信頼性評価値に基づいて減衰率を決定する減衰率決定手段と、
    前記動きベクトルから画像全体の動きベクトルを決定する動きベクトル決定手段と、
    前記減衰率に基づいて、前記画像全体の動きベクトルに基づいて算出される補正量を補正して前記画像ぶれの補正量を決定するぶれ補正量決定手段と、
    記画像ぶれの補正量に基づいて画像ぶれを補正するぶれ補正手段と、
    を備えることを特徴とする撮像装置。
  2. 前記撮像光学系のズーム位置を検出するズーム位置検出手段を更に備え、
    前記減衰率は、前記信頼性評価値に加えて、前記ズーム位置検出手段によって検出されたズーム位置によって決定されることを特徴とする請求項に記載の撮像装置。
  3. 前記減衰率決定手段は、前記信頼性評価値が同じときには前記撮像光学系のズーム位置がテレ側になるほど前記画像ぶれの補正量の減衰を大きくするように減衰率を決定することを特徴とする請求項に記載の撮像装置。
  4. 前記動きベクトル検出手段は、前記撮像手段の画面を複数のブロックに分割して、分割した各ブロックについて動きベクトルを検出し、
    前記信頼性評価値算出手段は、前記動きベクトル検出手段により検出された全ブロックの動きベクトルの中で、有効と判断された動きベクトルの割合を前記動きベクトルの信頼性評価値として算出することを特徴とする請求項1乃至のいずれか1項に記載の撮像装置。
  5. 前記動きベクトル検出手段は、前記撮像手段の画面を複数のブロックに分割して、分割した各ブロックについて動きベクトルを検出し、
    前記動きベクトル決定手段は、前記ブロック単位の動きベクトルに基づいて画像全体の動きベクトルを決定し、
    前記信頼性評価値算出手段は、前記動きベクトル検出手段により検出された全ブロックの動きベクトルの中で、有効と判断されかつ前記画像全体の動きベクトルに一致する動きベクトルの割合を前記動きベクトルの信頼性評価値として算出し、
    前記ぶれ補正量決定手段は、前記減衰率に基づいて、前記画像全体の動きベクトルに基づいて算出される補正量を補正して画像ぶれの補正量を決定することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  6. 前記動きベクトル検出手段は、前記撮像手段の画面を複数のブロックに分割して、分割した各ブロックについて動きベクトルを検出し、
    前記動きベクトル決定手段は、前記ブロック単位の動きベクトルに基づいて画像全体の動きベクトルを決定し、
    前記信頼性評価値算出手段は、前記画像全体の動きベクトルの中で有効と判断された動きベクトルの割合を前記動きベクトルの信頼性評価値として算出し、
    前記ぶれ補正量決定手段は、前記減衰率に基づいて、前記画像全体の動きベクトルに基づいて算出される補正量を補正して画像ぶれの補正量を決定することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  7. 前記減衰率決定手段は、前記信頼性評価値が高いほど前記画像ぶれの補正量の減衰を少なくするように減衰率を決定することを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
  8. 前記減衰率決定手段は、前記信頼性評価値が第1の値よりも低いときに、前記信頼性評価値が高いほど前記画像ぶれの補正量の減衰を少なくするように減衰率を決定することを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
  9. 前記減衰率決定手段は、前記信頼性評価値が前記第1の値よりも小さい第2の値よりも高いときに、前記信頼性評価値が高いほど前記画像ぶれの補正量の減衰を少なくするように減衰率を決定することを特徴とする請求項8に記載の撮像装置。
  10. 撮像光学系により結像された被写体像を撮像して画像信号を出力する撮像手段を備える撮像装置を制御する方法であって、
    前記撮像手段により連続して撮像された画像信号間の相関に基づいて動きベクトルを検出する動きベクトル検出工程と、
    記動きベクトルの有効または無効を決定し、該有効の動きベクトルと該無効の動きベクトルに基づいて検出した前記動きベクトル全体の信頼性評価値を算出する信頼性評価値算出工程と、
    前記信頼性評価値に基づいて減衰率を決定する減衰率決定工程と、
    前記動きベクトルから画像全体の動きベクトルを決定する動きベクトル決定工程と、
    前記減衰率に基づいて前記画像全体の動きベクトルに基づいて算出される補正量を補正して画像ぶれの補正量を決定するぶれ補正量決定工程と、
    記画像ぶれの補正量に基づいて画像ぶれを補正するぶれ補正工程と、
    を備えることを特徴とする撮像装置の制御方法。
  11. 撮像光学系により結像された被写体像を撮像して画像信号を出力する撮像手段を備える撮像装置によって連続して撮像された画像信号を処理する方法をコンピュータに実行させるためのプログラムであって、
    前記画像信号間の相関に基づいて動きベクトルを検出する動きベクトル検出ステップと、
    前記動きベクトルの有効または無効を決定し、該有効の動きベクトルと該無効の動きベクトルに基づいて検出した前記動きベクトル全体の信頼性評価値を算出する信頼性評価値算出ステップと、
    前記信頼性評価値に基づいて減衰率を決定する減衰率決定ステップと、
    前記動きベクトルから画像全体の動きベクトルを決定する動きベクトル決定ステップと、
    前記減衰率に基づいて、前記画像全体の動きベクトルに基づいて算出される補正量を補正して画像ぶれの補正量を決定するぶれ補正量決定ステップと、
    前記画像ぶれの補正量に基づいて画像ぶれを補正するぶれ補正ステップと、
    を備えることを特徴とするプログラム。
  12. 請求項11に記載したプログラムを格納したコンピュータ読み取り可能な記憶媒体。
JP2007322545A 2007-12-13 2007-12-13 撮像装置及びその制御方法及びプログラム Expired - Fee Related JP4958756B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007322545A JP4958756B2 (ja) 2007-12-13 2007-12-13 撮像装置及びその制御方法及びプログラム
US12/267,940 US8319842B2 (en) 2007-12-13 2008-11-10 Image capturing apparatus to prevent image blurring and control method therefor
CN2008101832847A CN101459762B (zh) 2007-12-13 2008-12-12 摄像设备及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007322545A JP4958756B2 (ja) 2007-12-13 2007-12-13 撮像装置及びその制御方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2009147658A JP2009147658A (ja) 2009-07-02
JP2009147658A5 JP2009147658A5 (ja) 2010-11-25
JP4958756B2 true JP4958756B2 (ja) 2012-06-20

Family

ID=40752670

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007322545A Expired - Fee Related JP4958756B2 (ja) 2007-12-13 2007-12-13 撮像装置及びその制御方法及びプログラム

Country Status (3)

Country Link
US (1) US8319842B2 (ja)
JP (1) JP4958756B2 (ja)
CN (1) CN101459762B (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5253265B2 (ja) * 2009-03-27 2013-07-31 オリンパスイメージング株式会社 画像再生装置及び画像表示制御方法
JP2011030065A (ja) * 2009-07-28 2011-02-10 Sanyo Electric Co Ltd 撮像装置
JP5523017B2 (ja) * 2009-08-20 2014-06-18 キヤノン株式会社 画像処理装置及び画像処理方法
JP5506374B2 (ja) * 2009-12-25 2014-05-28 キヤノン株式会社 撮像装置及びその制御方法
FR2958486B1 (fr) * 2010-03-30 2013-02-08 Sagem Defense Securite Stabilisation d'images captees
JP5581817B2 (ja) * 2010-06-03 2014-09-03 ソニー株式会社 制御システム、制御装置、ハンドヘルド装置、制御方法及びプログラム。
JP5610967B2 (ja) * 2010-10-14 2014-10-22 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法および画像処理プログラム
US8947546B2 (en) 2011-04-23 2015-02-03 Blackberry Limited Apparatus, and associated method, for stabilizing a video sequence
JP5868042B2 (ja) * 2011-07-01 2016-02-24 キヤノン株式会社 防振制御装置、撮像装置、及び防振制御装置の制御方法
JP2013041387A (ja) * 2011-08-15 2013-02-28 Sony Corp 画像処理装置、画像処理方法、撮像装置、電子機器、及び、プログラム
JP2014176034A (ja) * 2013-03-12 2014-09-22 Ricoh Co Ltd 映像伝送装置
JP6245968B2 (ja) * 2013-12-06 2017-12-13 キヤノン株式会社 画像処理装置、撮像装置および制御方法
JP6642991B2 (ja) * 2015-07-14 2020-02-12 キヤノン株式会社 画像処理装置、撮像装置および撮像制御プログラム
KR102368625B1 (ko) * 2015-07-23 2022-03-02 삼성전자주식회사 디지털 촬영 장치 및 그 방법
US9852330B1 (en) 2015-07-27 2017-12-26 United Launch Alliance, L.L.C. System and method to enable the application of optical tracking techniques for generating dynamic quantities of interest with alias protection
US11354881B2 (en) 2015-07-27 2022-06-07 United Launch Alliance, L.L.C. System and method to enable the application of optical tracking techniques for generating dynamic quantities of interest with alias protection
JP6564284B2 (ja) * 2015-09-04 2019-08-21 キヤノン株式会社 画像処理装置および画像処理方法
CN106559615B (zh) * 2015-09-29 2020-04-03 宁波舜宇光电信息有限公司 摄像模组光学防抖系统的校正设备及其校正方法
JP6727791B2 (ja) * 2015-11-05 2020-07-22 キヤノン株式会社 追尾制御装置および追尾制御方法、撮像装置
JP6577852B2 (ja) * 2015-12-03 2019-09-18 キヤノン株式会社 動きベクトル検出装置およびその制御方法
JP6833461B2 (ja) * 2015-12-08 2021-02-24 キヤノン株式会社 制御装置および制御方法、撮像装置
CN108333848A (zh) * 2017-01-19 2018-07-27 日本电产三协电子(东莞)有限公司 带抖动修正功能光学设备的抖动修正特性评价装置
JP7009107B2 (ja) * 2017-08-03 2022-01-25 キヤノン株式会社 撮像装置およびその制御方法
US11276159B1 (en) 2018-05-15 2022-03-15 United Launch Alliance, L.L.C. System and method for rocket engine health monitoring using digital image correlation (DIC)
US11722771B2 (en) * 2018-12-28 2023-08-08 Canon Kabushiki Kaisha Information processing apparatus, imaging apparatus, and information processing method each of which issues a notification of blur of an object, and control method for the imaging apparatus
CN110781477B (zh) * 2019-04-02 2021-01-29 宁波潮涌道投资合伙企业(有限合伙) 基于读取大数据的反推系统
CN113923369B (zh) * 2021-12-13 2022-03-15 北京海兰信数据科技股份有限公司 一种用于船舶的视频防抖方法和系统

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2506469B2 (ja) * 1989-12-26 1996-06-12 松下電器産業株式会社 動きベクトル検出装置及び画像ゆれ補正装置
US5237405A (en) * 1990-05-21 1993-08-17 Matsushita Electric Industrial Co., Ltd. Image motion vector detecting device and swing correcting device
US5748231A (en) * 1992-10-13 1998-05-05 Samsung Electronics Co., Ltd. Adaptive motion vector decision method and device for digital image stabilizer system
JP3308617B2 (ja) * 1992-12-28 2002-07-29 キヤノン株式会社 動きベクトル検出装置及びその方法
JP2940762B2 (ja) * 1993-06-28 1999-08-25 三洋電機株式会社 手振れ補正装置を有するビデオカメラ
KR100319034B1 (ko) * 1993-06-29 2002-03-21 다카노 야스아키 손흔들림보정장치를가진비디오카메라
JPH08163573A (ja) * 1994-12-09 1996-06-21 Matsushita Electric Ind Co Ltd 動きベクトル検出装置、およびこの装置を用いた順次走査変換装置
JP2902966B2 (ja) * 1994-12-16 1999-06-07 三洋電機株式会社 手振れ補正装置およびそれを用いたビデオカメラ
US5835138A (en) * 1995-08-30 1998-11-10 Sony Corporation Image signal processing apparatus and recording/reproducing apparatus
JP3751799B2 (ja) * 2000-06-29 2006-03-01 株式会社東芝 撮像装置の揺れ補正装置及び方法
EP1377040A1 (en) * 2002-06-19 2004-01-02 STMicroelectronics S.r.l. Method of stabilizing an image sequence
JP2005003719A (ja) * 2003-06-09 2005-01-06 Olympus Corp 撮影装置
JP4258383B2 (ja) * 2004-01-14 2009-04-30 パナソニック株式会社 撮像装置
JP4187704B2 (ja) * 2004-08-31 2008-11-26 三洋電機株式会社 手ぶれ補正装置
US7649549B2 (en) * 2004-09-27 2010-01-19 Texas Instruments Incorporated Motion stabilization in video frames using motion vectors and reliability blocks
US7605845B2 (en) * 2005-04-28 2009-10-20 Texas Instruments Incorporated Motion stabilization
CN100551057C (zh) * 2005-12-29 2009-10-14 北京中星微电子有限公司 一种基于动态图像实现视频编码防抖的方法及编码器
JP2009290827A (ja) * 2008-06-02 2009-12-10 Sony Corp 画像処理装置および画像処理方法
JP4600530B2 (ja) * 2008-06-17 2010-12-15 ソニー株式会社 画像処理装置および画像処理方法、並びにプログラム

Also Published As

Publication number Publication date
JP2009147658A (ja) 2009-07-02
CN101459762A (zh) 2009-06-17
US20090153680A1 (en) 2009-06-18
CN101459762B (zh) 2011-02-02
US8319842B2 (en) 2012-11-27

Similar Documents

Publication Publication Date Title
JP4958756B2 (ja) 撮像装置及びその制御方法及びプログラム
JP4956401B2 (ja) 撮像装置及びその制御方法及びプログラム
JP4268220B2 (ja) 撮影装置、撮影方法、およびプログラム
JP2940762B2 (ja) 手振れ補正装置を有するビデオカメラ
US8629915B2 (en) Digital photographing apparatus, method of controlling the same, and computer readable storage medium
KR101426095B1 (ko) 화상 처리 장치, 촬상 장치 및 화상 처리 방법
JP4783252B2 (ja) 手ぶれ補正機能付き撮像装置、手ぶれ補正方法、手ぶれ補正処理の前処理プログラム、および、保存画像決定プログラム
JP2009139688A (ja) 焦点調節装置およびカメラ
JP4636887B2 (ja) 光学機器
JP2006101485A (ja) 手ぶれ補正装置および撮像機器
JP2006295626A (ja) 魚眼像処理装置及びその方法並びに魚眼像撮像装置
JP2007124398A (ja) 撮影装置
JP2005252626A (ja) 撮像装置および画像処理方法
JP2011114407A (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
US20080158386A1 (en) Image restoration device
WO2010116400A1 (ja) 被写体動き検出装置および方法
JP2008166947A (ja) 撮像装置
US11196925B2 (en) Image processing apparatus that detects motion vectors, method of controlling the same, and storage medium
US9143684B2 (en) Digital photographing apparatus, method of controlling the same, and computer-readable storage medium
JP2009284101A (ja) 撮像装置及びその制御方法
JP2003348422A (ja) 撮像装置及び撮像方法及びプログラム及び記憶媒体
JP5179859B2 (ja) 撮像装置及び撮像方法
JP2011135537A (ja) 撮像装置及び撮像装置の制御方法
JP2008245146A (ja) 撮像装置、撮像装置の制御方法
JP2008209650A (ja) 撮像装置および撮像装置の制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101007

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101007

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120220

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120319

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150330

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4958756

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees