JP2009065619A - 手振れ補正装置及び撮像装置 - Google Patents
手振れ補正装置及び撮像装置 Download PDFInfo
- Publication number
- JP2009065619A JP2009065619A JP2007233987A JP2007233987A JP2009065619A JP 2009065619 A JP2009065619 A JP 2009065619A JP 2007233987 A JP2007233987 A JP 2007233987A JP 2007233987 A JP2007233987 A JP 2007233987A JP 2009065619 A JP2009065619 A JP 2009065619A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- feature point
- movement vector
- output
- block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
Images
Landscapes
- Studio Devices (AREA)
- Adjustment Of Camera Lenses (AREA)
Abstract
【課題】移動ベクトル算出に要する演算量を大幅に削減することのできる手振れ補正装置を提供する。
【解決手段】撮像によって撮像素子1から得られる複数の画像データからなる動画像データの手振れを補正する手振れ補正装置であって、前記複数の画像データの各々から特徴点を抽出した特徴点画像データを生成する特徴点抽出部5と、前記複数の画像データの各々から生成された特徴点画像データの特徴点同士の比較によって前記複数の画像データ間の移動ベクトルを求める移動ベクトル算出部7と、出力すべき画像データ(以下、出力画像データという)の切り出し範囲を、前記出力画像データの直前に出力された画像データ(以下、直前画像データという)に対する前記出力画像データの前記移動ベクトルを用いて決定し、前記出力画像データのうちの前記決定した切り出し範囲内の画像データを出力する画像オフセット部12とを備える。
【選択図】図1
【解決手段】撮像によって撮像素子1から得られる複数の画像データからなる動画像データの手振れを補正する手振れ補正装置であって、前記複数の画像データの各々から特徴点を抽出した特徴点画像データを生成する特徴点抽出部5と、前記複数の画像データの各々から生成された特徴点画像データの特徴点同士の比較によって前記複数の画像データ間の移動ベクトルを求める移動ベクトル算出部7と、出力すべき画像データ(以下、出力画像データという)の切り出し範囲を、前記出力画像データの直前に出力された画像データ(以下、直前画像データという)に対する前記出力画像データの前記移動ベクトルを用いて決定し、前記出力画像データのうちの前記決定した切り出し範囲内の画像データを出力する画像オフセット部12とを備える。
【選択図】図1
Description
本発明は、撮像素子の撮像によって得られる複数の画像データからなる動画像データの手振れを補正する手振れ補正装置に関する。
例えば、動画撮影機能を有するデジタルスチルカメラやビデオカメラ等の撮像装置を手に持ち動画を撮影する場合、カメラを持つ手が振れると、あるフレームの画像中に映っている静止物画像の位置が次フレームの画面では移動してしまい、見づらい動画になってしまう。そこで、あるフレームの画像に対して次フレームの画像の移動ベクトルを検出し、画像が揺れない様に手振れ補正を行うことが行われている。
図12は、手振れ補正を行うときの移動ベクトルを算出する原理を示す説明図である。
デジタルカメラでは、動画撮影時、撮像素子から得られた最大解像度の画像データ(以下、最大画像データという)が所定のフレームレートで順次手振れ補正装置に入力される。手振れ補正装置では、図12(a)に示すように、撮像素子から得られたnフレーム目の最大画像データ61において、実際に動画の1フレームとして記録するために切り出す所定サイズの画像データ(以下、記録用画像データという)の切り出し位置を決定し、この切り出し位置にある画像データ66を切り出して、記録媒体等に記録する。この場合、図12(a)に示すnフレーム目の全体画像データ61中の所定アドレスで示される注視ブロック62内の画像データを基準画像データとすると、図12(b)に示すn+1フレーム目の全体画像データ63中の注視ブロック62と同一所定アドレスで示される探索ブロック64によって切り出された比較画像データが基準画像データと同一であれば、全体画像データ61に対して全体画像データ63は振れていないことになる。
デジタルカメラでは、動画撮影時、撮像素子から得られた最大解像度の画像データ(以下、最大画像データという)が所定のフレームレートで順次手振れ補正装置に入力される。手振れ補正装置では、図12(a)に示すように、撮像素子から得られたnフレーム目の最大画像データ61において、実際に動画の1フレームとして記録するために切り出す所定サイズの画像データ(以下、記録用画像データという)の切り出し位置を決定し、この切り出し位置にある画像データ66を切り出して、記録媒体等に記録する。この場合、図12(a)に示すnフレーム目の全体画像データ61中の所定アドレスで示される注視ブロック62内の画像データを基準画像データとすると、図12(b)に示すn+1フレーム目の全体画像データ63中の注視ブロック62と同一所定アドレスで示される探索ブロック64によって切り出された比較画像データが基準画像データと同一であれば、全体画像データ61に対して全体画像データ63は振れていないことになる。
しかし、手振れが発生していれば、注視ブロック62内の基準画像データと探索ブロック64で切り出された比較画像データは一致しない。そこで、手振れ補正装置では、全体画像データ63中の探索ブロック64を、全体画像データ63に設定した所定範囲65(以下、探索範囲という)内でブロック64a,64b,64c,・・・のように、X方向(水平方向)、Y方向(垂直方向)に1画素づつずらしながら、探索範囲65内で移動させた各ブロック64a,64b,64c,・・・内の夫々の比較画像データを基準画像データと比較して、夫々の比較画像データと基準画像データとの相関性を演算し、基準画像データと最も相関性が高い比較画像データを切り出した探索ブロックの位置を求める。
図12(b)に示す例で、注視ブロック62の基準画像データに対し最も相関性の高い比較画像データが探索範囲65内の探索ブロック64cで切り出されたとすると、全体画像データ61に対する全体画像データ63の差は「k」となり、このkが全体画像データ61に対する全体画像データ63の移動ベクトルとなる。従って、手振れ補正装置では、図12(c)に示すように、全体画像データ63に設定する記録用画像データの切り出し位置を、画像データ66を切り出した位置から移動ベクトルkだけ移動させた位置とし、この切り出し位置から画像データ67を切り出して記録媒体等に記録すれば、手振れの補正された動画像データを得ることができる。
手振れ補正を行うためには移動ベクトルの算出が必要となるが、上述したようなブロック同士の比較で移動ベクトルを求める方法では、画像データの画素数の増加に伴って演算量が増大してしまい、演算時間が長くなる。演算時間が長くなると、その分、手振れ検出の応答性が悪くなる。演算時のメモリ空間が大きく高速処理が可能なCPUを用いれば、手振れ検出の応答性をある程度は改善できるが、コストが増大してしまう。
そこで、このような課題を解決するために、特許文献1には、入力画像を複数段階にわたって段階的に縮小し、より下層レベルの縮小画像を使って大まかに求めた移動ベクトルを利用して、上層レベルで移動ベクトルを求める際の探索ブロックの移動範囲を決定する方法が提案されている。この方法によれば、探索ブロックを動かす範囲を狭くすることができるため、移動ベクトル算出に要する演算時間を短縮することが可能となる。
しかし、特許文献1に開示された方法は、注視ブロック内の全画素と各探索ブロック内の全画素との比較によって移動ベクトルを求めているため、この比較に要する演算量が依然として多くなっている。
本発明は、上記事情に鑑みてなされたものであり、移動ベクトル算出に要する演算量を大幅に削減することのできる手振れ補正装置を提供することを目的とする。
本発明の手振れ補正装置は、撮像によって撮像素子から得られる複数の画像データからなる動画像データの手振れを補正する手振れ補正装置であって、前記複数の画像データの各々から特徴点を抽出した特徴点画像データを生成する特徴点画像データ生成手段と、前記複数の画像データの各々から生成された前記特徴点画像データの特徴点同士の比較によって前記複数の画像データ間の移動ベクトルを求める移動ベクトル算出手段と、出力すべき画像データ(以下、出力画像データという)の切り出し範囲を、前記出力画像データの直前に出力された画像データ(以下、直前画像データという)に対する前記出力画像データの前記移動ベクトルを用いて決定し、前記出力画像データのうちの前記決定した切り出し範囲内の画像データを出力する画像出力手段とを備える。
本発明の手振れ補正装置は、前記移動ベクトル算出手段は、任意の画像データに注視ブロックを設定し、前記任意の画像データよりも後に出力された画像データのいずれかの画像データに探索範囲を設定し、前記注視ブロックと同じ大きさの探索ブロックを前記探索範囲内で移動させたときの各移動位置にある前記探索ブロック内の前記特徴点と、前記注視ブロック内の前記特徴点とを比較して、前記注視ブロックと相関性の最も高い探索ブロックである高相関探索ブロックを探し、前記高相関探索ブロックの位置と前記注視ブロックの位置とから、前記任意の画像データに対する前記いずれかの画像データの移動ベクトルを算出するものであり、前記高相関探索ブロックを探す際、前記注視ブロック内にある特徴点のうちの一部を前記探索ブロック内の特徴点と比較する対象となる比較対象特徴点とし、前記比較対象特徴点と前記探索ブロック内の特徴点との比較によって、前記注視ブロックと相関性のある探索ブロックを抽出する処理を行った後、前記注視ブロックと相関性のある探索ブロックが1つの場合には当該探索ブロックを前記高相関探索ブロックとし、前記注視ブロックと相関性のある探索ブロックが複数ある場合には、前記比較対象特徴点の数を増やし、前記増やした比較対象特徴点と前記複数の探索ブロック内の特徴点との比較により、前記複数の探索ブロックの中から前記注視ブロックと相関性のある探索ブロックを抽出する処理を行い、前記処理における前記比較対象特徴点の数が前記注視ブロック内にある特徴点の数に一致しており、且つ、前記処理によって抽出された探索ブロックが複数あった場合には、その中でs最も相関性の高い探索ブロックを前記高相関探索ブロックとする。
本発明の手振れ補正装置は、前記複数の画像データの各々について、前記各々の画像データを1段階又は2段階以上にわたって縮小することにより、元の画像データも含めて複数レベルの画像データを生成する画像縮小手段を備え、前記特徴点画像データ生成手段は、前記複数レベルの画像データの各々から第一特徴点を抽出した第一特徴点画像データを生成する第一特徴点画像データ生成手段を有し、前記複数レベルの画像データの各々から生成された複数の前記第一特徴点画像データを用いて、被写体の抽象度及び前記被写体の表現精度のいずれもが所定レベルよりも高い前記特徴点画像データを生成する。
本発明の手振れ補正装置は、前記移動ベクトル算出手段が、前記移動ベクトルを算出できなかった場合、前記移動ベクトルの算出結果として特定の情報を出力するものであり、前記出力画像データが劣化しているか否かを、前記移動ベクトル算出手段による前記直前画像データに対する前記出力画像データの移動ベクトルの算出結果、前記出力画像データに対する前記出力すべき画像データの直後に得られた画像データ(以下、直後画像データという)の移動ベクトルの算出結果、及び前記直前画像データに対する前記直後画像データの移動ベクトルである直前直後間移動ベクトルの算出結果に基づいて判定する画像劣化有無判定手段と、前記画像劣化有無判定手段によって前記出力画像データが劣化していると判定された場合、前記直前直後間移動ベクトルV2と、前記直前画像データの撮影時刻と前記出力画像データの撮影時刻との差ΔT1と、前記出力画像データの撮影時刻と前記直後画像データの撮影時刻との差ΔT2とから、前記直前画像データに対する前記出力画像データの移動ベクトルV1及び前記直後画像データに対する前記出力画像データの移動ベクトルV3を推定する移動ベクトル推定手段と、前記直前画像データを前記移動ベクトルV1分だけ移動させ、前記直後画像データを前記移動ベクトルV3分だけ移動させて前記直前画像データと前記直後画像データとを合成する画像合成手段とを備え、前記画像劣化有無判定手段によって前記出力画像データが劣化していると判定された場合、前記画像出力手段は、前記出力画像データを前記画像合成手段によって合成された画像データとし、当該画像データの切り出し範囲を前記移動ベクトルV1を用いて決定する。
本発明の手振れ補正装置は、前記複数の画像データの各々から生成された前記特徴点画像データを圧縮する圧縮手段と、前記圧縮手段によって圧縮された前記特徴点画像データを記憶する記憶手段と、前記記憶手段に記憶された前記特徴点画像データを伸張する伸張手段とを備える。
本発明の撮像装置は、前記手振れ補正装置と、前記画像データ及び前記画像データから生成された前記複数の第一特徴点画像データを利用して前記画像データのオブジェクト検出を行うオブジェクト検出手段、又は、前記画像データ及び前記画像データから生成された前記複数の第一特徴点画像データを利用して前記画像データのノイズリダクション処理を行うノイズリダクション処理手段とを備える。
本発明の撮像装置は、前記手振れ補正装置と、前記画像データ及び前記画像データから生成された前記特徴点画像データを利用して前記画像データのオブジェクト検出を行うオブジェクト検出手段、又は、前記画像データ及び前記画像データから生成された前記特徴点画像データを利用して前記画像データのノイズリダクション処理を行うノイズリダクション処理手段とを備える。
本発明の撮像装置は、前記手振れ補正装置が、前記移動ベクトル算出手段が、前記移動ベクトルを算出できなかった場合、前記移動ベクトルの算出結果として特定の情報を出力するものであり、前記出力画像データが劣化しているか否かを、前記移動ベクトル算出手段による前記直前画像データに対する前記出力画像データの移動ベクトルの算出結果、前記出力画像データに対する前記出力すべき画像データの直後に得られた画像データ(以下、直後画像データという)の移動ベクトルの算出結果、及び前記直前画像データに対する前記直後画像データの移動ベクトルである直前直後間移動ベクトルの算出結果に基づいて判定する画像劣化有無判定手段と、前記画像劣化有無判定手段によって前記出力画像データが劣化していると判定された場合、前記直前直後間移動ベクトルV2と、前記直前画像データの撮影時刻と前記出力画像データの撮影時刻との差ΔT1と、前記出力画像データの撮影時刻と前記直後画像データの撮影時刻との差ΔT2とから、前記直前画像データに対する前記出力画像データの移動ベクトルV1及び前記直後画像データに対する前記出力画像データの移動ベクトルV3を推定する移動ベクトル推定手段と、前記直前画像データを前記移動ベクトルV1分だけ移動させ、前記直後画像データを前記移動ベクトルV3分だけ移動させて前記直前画像データと前記直後画像データとを合成する画像合成手段とを備え、前記画像劣化有無判定手段によって前記出力画像データが劣化していると判定された場合、前記画像出力手段は、前記出力画像データを前記画像合成手段によって合成された画像データとし、当該画像データの切り出し範囲を前記移動ベクトルV1を用いて決定する。
本発明の撮像装置は、前記手振れ補正装置が、前記複数の画像データの各々から生成された前記特徴点画像データを圧縮する圧縮手段と、前記圧縮手段によって圧縮された前記特徴点画像データを記憶する記憶手段と、前記記憶手段に記憶された前記特徴点画像データを伸張する伸張手段とを備える。
本発明によれば、移動ベクトル算出に要する演算量を大幅に削減することのできる手振れ補正装置を提供することができる。
以下、本発明の実施形態について図面を参照して説明する。
図1は、本発明の実施形態である撮像装置の概略構成を示すブロック図である。
図1に示す撮像装置100は、デジタルカメラやデジタルビデオカメラ等であり、撮像素子1と、画像生成部2と、多重解像部3と、特徴点抽出部4と、特徴点抽出部5と、特徴点バッファリング部6と、移動ベクトル算出部7と、ベクトル情報バッファリング部8と、最終ベクトル演算部9と、画像合成部10と、選択部11と、画像オフセット部12とを備える。
図1は、本発明の実施形態である撮像装置の概略構成を示すブロック図である。
図1に示す撮像装置100は、デジタルカメラやデジタルビデオカメラ等であり、撮像素子1と、画像生成部2と、多重解像部3と、特徴点抽出部4と、特徴点抽出部5と、特徴点バッファリング部6と、移動ベクトル算出部7と、ベクトル情報バッファリング部8と、最終ベクトル演算部9と、画像合成部10と、選択部11と、画像オフセット部12とを備える。
撮像素子1は、CCDイメージセンサやCMOSイメージセンサ等の撮像素子である。
画像生成部2は、撮像素子1から所定のフレームレートで出力されてくる撮像信号から、複数フレームの画像データからなる動画像データを生成して出力するものである。
多重解像部3は、画像生成部2から出力された動画像データを構成する複数フレームの画像データの各々について、各々の画像データを1段階又は2段階以上にわたって縮小することにより、元の画像データも含めて複数レベルの画像データを生成するものである。多重解像部3は、例えば縮小部3aと縮小部3bを有しており、縮小部3aは、各フレームの画像データを1/2に縮小した画像データを生成し、縮小部3bは、各フレームの画像データを1/4に縮小した画像データを生成する。縮小方法としては、特許文献1に開示されている平均縮小処理を採用することができる。
特徴点抽出部4は、多重解像部3で各フレームの画像データについて生成された複数レベルの画像データの各々から第一の特徴点を抽出する。ここで言う第一の特徴点とは、画像データ中における被写体の輪郭をよく表している特徴点のことをいう。なお、この特徴点は、必ずしも画素1個分の大きさである必要はなく、複数の画素から構成される領域であっても良い。特徴点抽出部4は、例えば、ソーベルフィルタその他の輪郭線抽出フィルタを用いて、画像データから点の集合としての輪郭線を抽出する。又は、特徴点抽出部4は、特許文献1に開示されているような方法で複数レベルの画像データの各々から第一の特徴点を抽出する。
特徴点としては、画像データを多数のエリアに分割した各エリア毎にそのエリア内のデータから求めた画素値の偏差や分散等のデータを用いることができる。偏差や分散を特徴点とした場合、被写体の明暗部分によりデータ相関が異なるため、これを補正するような処理(コントラスト正規化処理)も特徴点抽出部4において行うものとする。例えば、撮像素子1により画像を取り込んだ場合、明るいところではS/N比が向上し、暗いところでは低下することが知られている。このため、前後の画像上において同じような対象物が明部暗部それぞれにあった場合、一方のデータのみ分散や偏差の値が大きくなってしまう。これを防ぐために先のコントラスト正規化処理を行い、前後の画像上において明暗があった場合においても、同じような補正処理(統計の取り方、データの扱い方)を可能にする。
ちなみに分散の場合、下記のような式1,式2によって求めることができる。式2は式1の簡略式である。下記式において“val”は局所エリア内の各画素値、“ave”は局所エリア内の画素値の平均値、nは局所エリア内の画素数である。
式1:σ2=(Σ(val−ave)2)/n
式2:σ2=(Σval2)/n−ave2
式2:σ2=(Σval2)/n−ave2
図1の例では、特徴点抽出部4は、特徴点抽出部4aと、特徴点抽出部4bと、特徴点抽出部4cを有している。特徴点抽出部4aは、各フレームの画像データから生成された複数レベルの画像データのうち、縮小率がゼロの画像データから第一特徴点を抽出した第一特徴点画像データを生成する。特徴点抽出部4bは、各フレームの画像データから生成された複数レベルの画像データのうち、縮小率が1/2の画像データ(縮小部3aから出力された画像データ)から第一特徴点を抽出した第一特徴点画像データを生成する。特徴点抽出部4cは、各フレームの画像データから生成された複数レベルの画像データのうち、縮小率が1/4の画像データ(縮小部3bから出力された画像データ)から第一特徴点を抽出した第一特徴点画像データを生成する。
図2は、多重解像部3で生成する複数レベルの画像データ毎の縮小率の例を示した図である。
図2に示すように、多重解像部3では、入力画像データを、レベル深さ毎に1/2のべき乗の縮小率(図中のグラフA)で縮小したり、1/2以外の数値のべき乗の縮小率(図中のグラフB)で縮小したり、これらを組み合わせた縮小率(図中のグラフA+B)で縮小したりすれば良い。即ち、ここで生成される複数レベルの画像データは、一様の縮尺比率を持った階層構造である必要はない。
図2に示すように、多重解像部3では、入力画像データを、レベル深さ毎に1/2のべき乗の縮小率(図中のグラフA)で縮小したり、1/2以外の数値のべき乗の縮小率(図中のグラフB)で縮小したり、これらを組み合わせた縮小率(図中のグラフA+B)で縮小したりすれば良い。即ち、ここで生成される複数レベルの画像データは、一様の縮尺比率を持った階層構造である必要はない。
図3は、図2のグラフA+Bで示される縮小率で画像データを縮小する場合の多重解像部3と特徴点抽出部4の構成例を示した図である。
図3に示すように、多重解像部3には、約0.8の縮小率で画像データを縮小する縮小部3cと、縮小部3cで生成された画像データを1/2に縮小する縮小部3dと、縮小部3dで生成された画像データを1/4に縮小する縮小部3eとが追加され、特徴点抽出部4には、縮小部3cで生成された画像データから第一特徴点を抽出する特徴点抽出部4dと、縮小部3dで生成された画像データから第一特徴点を抽出する特徴点抽出部4eと、縮小部3eで生成された画像データから第一特徴点を抽出する特徴点抽出部4fとが追加された構成となっている。
図3に示すように、多重解像部3には、約0.8の縮小率で画像データを縮小する縮小部3cと、縮小部3cで生成された画像データを1/2に縮小する縮小部3dと、縮小部3dで生成された画像データを1/4に縮小する縮小部3eとが追加され、特徴点抽出部4には、縮小部3cで生成された画像データから第一特徴点を抽出する特徴点抽出部4dと、縮小部3dで生成された画像データから第一特徴点を抽出する特徴点抽出部4eと、縮小部3eで生成された画像データから第一特徴点を抽出する特徴点抽出部4fとが追加された構成となっている。
図1の説明に戻り、特徴点抽出部5は、特徴点抽出部4で生成された複数の第一特徴点画像データを用いて、第一特徴点画像データで表される被写体の抽象度と該被写体の表現精度(被写体の輪郭をいかに正確に表しているかを示す指標)が所定レベルよりも高い特徴点画像データを生成する。ここで、被写体の抽象度とは、被写体がどれだけ詳細に表現されているかの度合いを示すものであり、詳細に表現されているほど、抽象度は低くなる。例えば被写体として人間の顔を例にした場合、人間の本来の顔は抽象度が低く、スケッチ顔や線による似顔絵等は抽象度が高い。又、所定レベルとは、特徴点画像データを用いて移動ベクトルを算出する際の移動ベクトルの算出精度が許容できる最小の値になるレベルのことを言う。被写体の抽象度と表現精度が所定レベルよりも高ければ、移動ベクトルの算出精度は上がるため、特徴点抽出部5によって、被写体の抽象度と表現精度が所定レベルよりも低くならないような処理を行うことで、移動ベクトルの算出精度を維持している。尚、移動ベクトルの算出精度は、例えば、人工的に手振れをおこさせて撮影して得られた2つの画像データから移動ベクトルを算出し、算出した移動ベクトルと、予め設定していた手振れ量との誤差によって規定することができる。
図4は、特徴点抽出部4と特徴点抽出部5による処理を概念的に示した図である。
図4に示すように、縮小率が大きくなるほど、特徴点抽出部4で抽出される被写体の第一特徴点はその数が減っていくため、第一特徴点画像データで表現される被写体の抽象度は上がる。しかし、被写体の輪郭そのものも階調が滑らかになってしまう。つまり、縮小率が大きい画像データから生成された第一特徴点画像データによって表される被写体の抽象度は高くなるが、該被写体の表現精度は低くなる。一方、縮小率が小さい画像データから生成された第一特徴点画像データによって表される被写体の抽象度は低くなるが、該被写体の表現精度は高くなる。このようなことから、特徴点抽出部4から出力された複数の第一特徴点画像データを利用することで、表現される被写体の抽象度が高く且つ該被写体の表現精度が高い特徴点画像データを生成することができる。
図4に示すように、縮小率が大きくなるほど、特徴点抽出部4で抽出される被写体の第一特徴点はその数が減っていくため、第一特徴点画像データで表現される被写体の抽象度は上がる。しかし、被写体の輪郭そのものも階調が滑らかになってしまう。つまり、縮小率が大きい画像データから生成された第一特徴点画像データによって表される被写体の抽象度は高くなるが、該被写体の表現精度は低くなる。一方、縮小率が小さい画像データから生成された第一特徴点画像データによって表される被写体の抽象度は低くなるが、該被写体の表現精度は高くなる。このようなことから、特徴点抽出部4から出力された複数の第一特徴点画像データを利用することで、表現される被写体の抽象度が高く且つ該被写体の表現精度が高い特徴点画像データを生成することができる。
特徴点抽出部5は、複数レベルの画像データの各々から生成された第一特徴点画像データ同士の相関をとることによって、表現される被写体の抽象度と該被写体の表現精度が所定レベルよりも高い特徴点画像データを生成する。この特徴点画像データの生成方法としては、例えば、複数レベルの画像データの各々から生成された第一特徴点画像データを重み付け加算する方法がある。特徴点抽出部4aから出力される第一特徴点画像データを特徴点画像データ(1)とし、特徴点抽出部4bから出力される第一特徴点画像データを特徴点画像データ(2)とし、特徴点抽出部4cから出力される第一特徴点画像データを特徴点画像データ(3)とし、特徴点画像データ(1)の座標(i,j)における特徴量をcij(1)とし、特徴点画像データ(2)の座標(i,j)における特徴量をcij(2)とし、特徴点画像データ(3)の座標(i,j)における特徴量をcij(3)とすると、生成すべき特徴点画像データの座標(i,j)における特徴量Cijは以下の式(A)で表される。
Cij=(cij(1)*WV1−THV1)+(cij(2)*WV2−THV2)+(cij(3)*WV3−THV3)・・・(A)
ここで、WVnは、特徴点データ(n)に設定される重み付け係数、THVnは、特徴点画像データ(n)に設定される閾値である。
ここで、WVnは、特徴点データ(n)に設定される重み付け係数、THVnは、特徴点画像データ(n)に設定される閾値である。
尚、特徴点抽出部5は、条件判別を含む複雑な相関判別処理によって特徴点画像データを生成しても良いし、特徴点データ(1)〜(3)を均等に合成して特徴点画像データを生成しても良い。
特徴点バッファリング部6は、特徴点抽出部5で生成された各フレーム毎の特徴点画像データを記憶する。ここに記憶される特徴点画像データは、上述したように主として輪郭成分からなる。このため、画像データの平坦部や滑らかな階調部ではその値が0近傍になることが多い。したがって、この特徴点画像データを圧縮した場合、高い圧縮効果が期待できる。そこで、図5に示すように、特徴点バッファリング部6の前段に、特徴点画像データを圧縮する圧縮回路6aを設け、特徴点バッファリング部6の後段に、特徴点バッファリング部6に記憶された特徴点画像データを伸張する伸張回路6bを設けておくことが好ましい。
図5のような構成とすることで、特徴点バッファリング部6のメモリ容量を削減することができる。特徴点画像データは主として輪郭成分からなるため、圧縮方法として比較的軽量(ハード、ソフト的に)なランレングス符号化やハフマン符号化等を利用した場合でも十分な圧縮効果が期待でき、これらを利用すれば、効率的で実効速度の高いシステムが構築可能となる。
移動ベクトル算出部7は、特徴点バッファリング部6に記憶されている特徴点画像データのうち、出力すべき画像データである(n+1)フレームの画像データから生成された特徴点画像データ(以下、特徴点画像データ(n+1)という)の特徴点と、(n+1)フレームの画像データの直前の撮像で得られたnフレームの画像データから生成された特徴点画像データ(以下、特徴点画像データnという)の特徴点同士を比較して、nフレームの画像データに対する(n+1)フレームの画像データの移動ベクトルを算出する。移動ベクトル算出部7は、nフレームの画像データに対する(n+1)フレームの画像データの移動ベクトルのように、時間的に隣接する2つの画像データ間の移動ベクトルの他に、nフレームの画像データに対する(n+2)フレームの画像データの移動ベクトルのように、時間的に隣接しない2つの画像データ間の移動ベクトルも求めることができる。
以下、移動ベクトルの算出方法について詳細に説明する。図6は、nフレームの画像データに対する(n+1)フレームの画像データの移動ベクトルの算出方法を説明するための図である。図7は、nフレームの画像データに対する(n+1)フレームの画像データの移動ベクトルの算出処理フローを示した図である。
移動ベクトル算出部7は、まず、特徴点画像データnの任意の位置に、図6に示すように注視ブロックを設定する(ステップS1)。設定した注視ブロック内にある特徴点の数Nが移動ベクトルの算出に最低限必要な数を下回っていた場合(ステップS2:NO)、注視ブロックの位置を変更して注視ブロックを再設定する(ステップS3)。設定した注視ブロック内にある特徴点の数Nが移動ベクトルの算出に最低限必要な数以上であった場合(ステップS2:YES)、移動ベクトル算出部7は、特徴点画像データ(n+1)に対して探索範囲を設定する(ステップS4)。
移動ベクトル算出部7は、まず、特徴点画像データnの任意の位置に、図6に示すように注視ブロックを設定する(ステップS1)。設定した注視ブロック内にある特徴点の数Nが移動ベクトルの算出に最低限必要な数を下回っていた場合(ステップS2:NO)、注視ブロックの位置を変更して注視ブロックを再設定する(ステップS3)。設定した注視ブロック内にある特徴点の数Nが移動ベクトルの算出に最低限必要な数以上であった場合(ステップS2:YES)、移動ベクトル算出部7は、特徴点画像データ(n+1)に対して探索範囲を設定する(ステップS4)。
次に、移動ベクトル算出部7は、注視ブロック内にあるN個の特徴点のうちの一部(M個)を、特徴点画像データ(n+1)に設定する探索ブロック内の特徴点と比較する対象となる比較対象特徴点として設定する(ステップS5)。
次に、移動ベクトル算出部7は、上記注視ブロックと同じ大きさの探索ブロックを探索範囲内で移動させたときの各移動位置にある探索ブロック内の特徴点と、注視ブロック内の比較対象特徴点とを比較して、注視ブロックと相関性のある探索ブロックを抽出する(ステップS6)。例えば、注視ブロック内のM個の比較対象特徴点の各々と、比較対象の探索ブロック内の該各々と同一座標にある特徴点との差分の総和を求め、この総和が閾値以下であった場合、比較対象の探索ブロックは、注視ブロックと相関性のある探索ブロックであると判断し、この総和が閾値よりも大きかった場合、比較対象の探索ブロックは、注視ブロックと相関性のない探索ブロックである判断する。
抽出された探索ブロックが1つであった場合(ステップS7:NO)、移動ベクトル算出部7は、その1つの探索ブロックを、注視ブロックと最も相関の高い探索ブロックである高相関探索ブロックとし、この高相関探索ブロックの位置と注視ブロックの位置とから、nフレームの画像データに対する(n+1)フレームの画像データの移動ベクトルを算出する(ステップS8)。
抽出された探索ブロックが複数であった場合(ステップS7:YES)、移動ベクトル算出部7は、比較対象特徴点の数Mが注視ブロック内にある特徴点の数Nと一致しているか否かを判定し、一致していない場合(ステップS9:NO)、比較対象特徴点を増やし(ステップS10)、その後、注視ブロック内の比較対象特徴点と、抽出されていた複数の探索ブロックの各々に含まれる特徴点とを比較して、抽出されていた複数の探索ブロックの中から、注視ブロックと相関性のある探索ブロックを抽出する(ステップS11)。相関性のある探索ブロックの抽出方法は、上述したとおりである。ステップS11の後はステップS7に戻る。
例えば、図6の真ん中の図に示すように、ステップS6で抽出された探索ブロックが探索ブロックAと探索ブロックBの2つであった場合、図6の右の図に示すように、比較対象特徴点を増やすことで、探索ブロックBは、注視ブロックとの相関性が低い探索ブロックとなる。このように、比較対象特徴点を増やして注視ブロックと探索ブロックとの比較を行うことで、注視ブロックと相関性のある探索ブロックを絞り込んでいくことができる。
M=Nとなっていた場合(ステップS9:YES)、移動ベクトル算出部7は、抽出された複数の探索ブロックのうち、注視ブロックとの相関性が最も高い探索ブロック(上述した総和が最も低い探索ブロック)を高相関探索ブロックとし、この高相関探索ブロックの位置と注視ブロックの位置とから、nフレームの画像データに対する(n+1)フレームの画像データの移動ベクトルを算出する(ステップS12)。
尚、移動ベクトル算出部7は、注視ブロック内の画像データが探索範囲外に出てしまった等の原因により、ステップS6において、注視ブロックと相関性のある探索ブロックが1つも抽出できなかった場合には、移動ベクトル未検出であるとし、移動ベクトルの算出結果として、ベクトル値の代わりに特定の符号を割り当て、それをベクトル情報バッファリング部8に記憶する。
図1の説明に戻り、ベクトル情報バッファリング部8は、移動ベクトル算出部7による移動ベクトルの算出結果情報(算出された移動ベクトル値や特定の符号)を記憶するものである。
最終ベクトル演算部9は、ベクトル情報バッファリング部8に記憶されている移動ベクトルの算出結果情報のうち、nフレームの画像データに対する(n+1)フレームの画像データの移動ベクトルである(n;n+1)移動ベクトルの算出結果情報と、(n+1)フレームの画像データに対する(n+2)フレームの画像データの移動ベクトルである(n+1;n+2)移動ベクトルの算出結果情報と、nフレームの画像データに対する(n+2)フレームの画像データの移動ベクトルである(n;n+2)移動ベクトルの算出結果情報とに基づいて、(n+1)フレームの画像データが劣化しているか否かを判定する機能を有する。
例えば、ベクトル情報バッファリング部8に記憶されている(n;n+1)移動ベクトルの算出結果情報及び(n+1;n+2)移動ベクトルの算出結果情報が共に上記特定の符号であった場合、この場合は、(n+1)フレームの画像データが劣化していて移動ベクトルが検出できない状態となっているか、画面を高速でパンする等、フレームが連続して動いているかの二通りが考えられる。
最終ベクトル演算部9は、(n;n+1)移動ベクトルの算出結果情報及び(n+1;n+2)移動ベクトルの算出結果情報が共に上記特定の符号であった場合に、移動ベクトル算出部7に対し、nフレームの画像データに対する(n+2)フレームの画像データの移動ベクトルである(n;n+2)移動ベクトルを求めるよう指示を出す。ただし、(n;n+2)移動ベクトルを求める際の探索範囲は、ベクトル情報バッファリング部8に記憶されている移動ベクトルを求める際の探索範囲よりも広くする。この指示により、ベクトル情報バッファリング部8には、(n;n+2)移動ベクトルの算出結果情報が記憶される。
(n;n+2)移動ベクトルの算出結果情報が特定の符号であった場合には、(n+1)フレームの画像データが劣化しているのではなく、フレームが高速でパン動作するなどして連続的に動いているものと判断し、最終ベクトル演算部9は、画像オフセット部12に対して画像切り出し位置を変えないよう指示を出し、手振れ補正処理を行わないように制御する。一方、(n;n+2)移動ベクトルの算出結果情報が移動ベクトル値であった場合、最終ベクトル演算部9は、(n+1)フレームの画像データが劣化していると判断し、算出された(n;n+2)移動ベクトル(V2とする)と、nフレームの画像データの撮影時刻から(n+1)フレームの画像データの撮影時刻までの経過時間ΔT1と、(n+1)フレームの画像データの撮影時刻から(n+2)フレームの画像データの撮影時刻までの経過時間ΔT2とから、未検出であった(n;n+1)移動ベクトル(V1とする)と、(n+2)フレームの画像データに対する(n+1)フレームの画像データの移動ベクトルである(n+2;n+1)移動ベクトル(V3とする)を下記式3,4の演算によって推定する。そして、移動ベクトルV1,V3を画像合成部10に供給し、移動ベクトルV1を画像オフセット部12に供給すると共に、ベクトル情報バッファリング部8の情報を更新する。
式3:V1=(V2×ΔT1)/(ΔT1+ΔT2)
式4:V3=V1−V2
式4:V3=V1−V2
最終ベクトル演算部9は、(n+1)フレームの画像データが劣化していないと判定した場合、(n+1)フレームの画像データを選択部11から出力させる制御を行い、(n+1)フレームの画像データが劣化していると判定した場合、画像合成部10で生成された画像データを選択部11から出力させる制御を行う機能を有する。
最終ベクトル演算部9は、(n+1)フレームの画像データが劣化しておらず、且つ、画面が高速でパンされた状況ではないと判定した場合、ベクトル情報バッファリング部8に記憶されている(n;n+1)移動ベクトルを画像オフセット部12に供給し、(n+1)フレームの画像データが劣化していると判定した場合、上記推定した移動ベクトルV1,V3を画像合成部10に供給し、上記推定した移動ベクトルV1を画像オフセット部12に供給する機能を有する。
画像合成部10は、最終ベクトル演算部9によって推定された移動ベクトルV1分だけnフレームの画像データを移動させ、(n+2)フレームの画像データを移動ベクトルV3だけ移動させて、nフレームの画像データと(n+2)フレームの画像データとを合成して、劣化を補正した(n+1)フレームの画像データを生成する(図8(b))。このとき、nフレームと(n+2)フレームの画像データから生成された特徴点画像データも用いて(n+1)フレームの画像データの補正を行うことで、振れ画像において目立ち易い輪郭周辺部の補正をより重点的に行うことが可能となる。
画像オフセット部12は、選択部11から出力された画像データの切り出し範囲を、最終ベクトル演算部9から供給された移動ベクトルを用いて決定し、当該画像データのうちの前記決定した切り出し範囲内の画像データを表示装置や記録媒体等に出力する。
以上のように構成された撮像装置の動作を説明する。
動画撮影がなされると、例えば毎秒30フレームの画像データが画像生成部2から出力され、各画像データから複数レベルの画像データが生成され、複数レベルの画像データの各々から第一特徴点の抽出がなされ、抽出された第一特徴点を基に、特徴点画像データが生成される。各フレームの画像データから生成された特徴点画像データは特徴点バッファリング部6に蓄積され、隣接フレームの特徴点同士の比較により、隣接フレーム間の移動ベクトルの算出が行われ、移動ベクトルの算出結果情報がベクトル情報バッファリング部8に蓄積される。
動画撮影がなされると、例えば毎秒30フレームの画像データが画像生成部2から出力され、各画像データから複数レベルの画像データが生成され、複数レベルの画像データの各々から第一特徴点の抽出がなされ、抽出された第一特徴点を基に、特徴点画像データが生成される。各フレームの画像データから生成された特徴点画像データは特徴点バッファリング部6に蓄積され、隣接フレームの特徴点同士の比較により、隣接フレーム間の移動ベクトルの算出が行われ、移動ベクトルの算出結果情報がベクトル情報バッファリング部8に蓄積される。
蓄積された算出結果情報に基づいて、出力すべき画像データ((n+1)フレームの画像データとする)が劣化しているかが判定され、劣化していないと判定された場合、(n+1)フレームの画像データがそのまま画像オフセット部12に入力され、その画像データから、ベクトル情報バッファリング部8に蓄積されているnフレームの画像データに対する(n+1)フレームの画像データの移動ベクトルに基づく切り出し位置内の画像データが切り出されて、表示装置や記録媒体へと出力される。一方、出力すべき画像データが劣化していると判定された場合、nフレームの画像データに対する(n+1)フレームの画像データの移動ベクトルV1と、(n+2)フレームの画像データに対する(n+1)フレームの画像データの移動ベクトルV3との推定が行われ、推定された移動ベクトルV1,V3とnフレームの画像データと(n+2)フレームの画像データとに基づいて(n+1)フレームの画像データの補正が行われる。そして、補正後の(n+1)フレームの画像データが画像オフセット部12に入力され、その画像データから、上記推定された移動ベクトルV1に基づく切り出し位置内の画像データが切り出されて、表示装置や記録媒体へと出力される。
以上のように、本実施形態の撮像装置によれば、2フレーム間の移動ベクトルを、その2フレームの各々の特徴点同士の比較によって算出しているため、2フレームの特定エリア内の画像データ同士の比較を行う従来と比べて、移動ベクトルの算出に要する演算量を大幅に削減することができる。この結果、演算時間を短縮することができ、その分、手振れ検出の応答性を良くすることができる。又、演算時のメモリ空間が大きく高速処理が可能なCPUを用いる必要がなくなり、コスト増加を防止することができる。
又、本実施形態の撮像装置は、移動ベクトルの算出に用いる高相関探索ブロックを探す際、まずは、比較対象特徴点を少なくした状態で探索ブロックの絞込みを行い、その後は、比較対象特徴点を増やしていくことで、相関性の最も高い探索ブロックを探すということを行っている。このように、程度の低い比較処理によって探索ブロックを絞り込み、その後、比較対象特徴点の数を増やして比較処理の精度を上げて、絞り込んだ探索ブロックの中から高相関探索ブロックを探すようにすることで、初めから注視ブロック内にある全ての特徴点を比較対象特徴点として高相関探索ブロックを探す場合と比べ、探索ブロックを絞り込むまでの演算時間を短縮することができる。したがって、移動ベクトルの算出を高速に行うことができる。
又、本実施形態の撮像装置は、第一特徴点画像データで表される被写体の抽象度が高く且つ該被写体の表現精度が高い特徴点画像データを生成し、この特徴点画像データを用いて移動ベクトルの算出を行っている。このため、移動ベクトルの算出を高い精度で行うことができ、手振れ補正の精度を向上させることができる。
又、本実施形態の撮像装置によれば、高い精度で算出された移動ベクトルを用いて、出力すべきフレームの画像データが劣化しているか否かを判定することができ、この判定の精度を向上させることができる。
又、本実施形態の撮像装置によれば、上記判定結果に基づいて、出力すべきフレームの画像データから一部の範囲を切り出して出力するのか、出力すべきフレームの画像データを補正し、補正後の画像データから一部の範囲を切り出して出力するのかを選択的に行うことができる。このため、出力すべきフレームの画像データが劣化していた場合でも、手振れのない画像データを表示装置や記録装置に出力することが可能となり、信頼性の高い撮像装置を提供することができる。
尚、本実施形態の撮像装置では、各フレームの画像データについて、複数レベルの画像データを生成し、この複数レベルの画像データの各々から生成した第一特徴点画像データを用いて1つの特徴点画像データを生成するものとしたが、各フレームの画像データから第一特徴点画像データを生成し、これを特徴点画像データとして移動ベクトルの算出に用いるようにしても良い。つまり、図1において、縮小部3a,3bと、特徴点抽出部4b,4cと、特徴点抽出部5を削除し、特徴点抽出部4aの出力を特徴点バッファリング部6に接続するように構成しても良い。この場合、移動ベクトルの算出精度は落ちるが、手振れ補正に要する時間の短縮という効果は十分に得ることができる。
以下、本実施形態の撮像装置の変形例について説明する。
図9は、本実施形態の撮像装置のベクトル情報バッファリング部の変形例を示す図である。
図9に示すように、最終ベクトル演算部9からのフィードバックループを形成することで、移動ベクトルの時間的蓄積が可能となり、より精度の高い移動ベクトルの推定やバッファ量の低減等が期待できる。
図9は、本実施形態の撮像装置のベクトル情報バッファリング部の変形例を示す図である。
図9に示すように、最終ベクトル演算部9からのフィードバックループを形成することで、移動ベクトルの時間的蓄積が可能となり、より精度の高い移動ベクトルの推定やバッファ量の低減等が期待できる。
図10は、本実施形態の撮像装置の変形例を示す図である。
図10に示す撮像装置は、図1に示す撮像装置にオブジェクト抽出部又はノイズリダクション(NR)回路13を追加した構成となっている。オブジェクト抽出部13は、画像生成部2から出力された画像データ及び特徴点抽出部5から出力された特徴点画像データから、画像生成部2から出力された画像データの被写体に含まれるオブジェクト(例えば顔画像)を検出する処理を行うものである。NR回路13は、画像生成部2から出力された画像データ及び特徴点抽出部5から出力された特徴点画像データから、画像生成部2から出力された画像データのノイズリダクション処理を行うものである。
図10に示す撮像装置は、図1に示す撮像装置にオブジェクト抽出部又はノイズリダクション(NR)回路13を追加した構成となっている。オブジェクト抽出部13は、画像生成部2から出力された画像データ及び特徴点抽出部5から出力された特徴点画像データから、画像生成部2から出力された画像データの被写体に含まれるオブジェクト(例えば顔画像)を検出する処理を行うものである。NR回路13は、画像生成部2から出力された画像データ及び特徴点抽出部5から出力された特徴点画像データから、画像生成部2から出力された画像データのノイズリダクション処理を行うものである。
図11は、本実施形態の撮像装置の変形例を示す図である。
図11に示す撮像装置は、図1に示す撮像装置にオブジェクト抽出部又はノイズリダクション(NR)回路14を追加した構成となっている。オブジェクト抽出部14は、画像生成部2から出力された画像データ及び特徴点抽出部4から出力された複数の第一特徴点画像データから、画像生成部2から出力された画像データの被写体に含まれるオブジェクト(例えば顔画像)を検出する処理を行うものである。NR回路14は、画像生成部2から出力された画像データ及び特徴点抽出部4から出力された複数の第一特徴点画像データから、画像生成部2から出力された画像データのノイズリダクション処理を行うものである。
図11に示す撮像装置は、図1に示す撮像装置にオブジェクト抽出部又はノイズリダクション(NR)回路14を追加した構成となっている。オブジェクト抽出部14は、画像生成部2から出力された画像データ及び特徴点抽出部4から出力された複数の第一特徴点画像データから、画像生成部2から出力された画像データの被写体に含まれるオブジェクト(例えば顔画像)を検出する処理を行うものである。NR回路14は、画像生成部2から出力された画像データ及び特徴点抽出部4から出力された複数の第一特徴点画像データから、画像生成部2から出力された画像データのノイズリダクション処理を行うものである。
オブジェクト検出処理やノイズリダクション処理には、画像データから生成された複数レベルの画像データを利用することが従来から行われているため、縮小部3と特徴点抽出部4によって生成された複数レベルの画像データを利用してオブジェクト検出処理やノイズリダクション処理を行うように構成することで、複数レベルの画像データを生成するためのハードウェア構成を別途設ける必要がなくなり、撮像装置の小型化が可能となる。
尚、オブジェクト抽出部13,14を設けた場合には、移動ベクトル算出部7で注視ブロックを設定する代わりに、オブジェクト抽出部13,14で抽出されたオブジェクトの位置やサイズを基準としたブロックを設定し、このブロックと探索ブロックとの比較を行うようにしても良い。
1 撮像素子
5 特徴点抽出部
7 移動ベクトル算出部
12 画像オフセット部
5 特徴点抽出部
7 移動ベクトル算出部
12 画像オフセット部
Claims (9)
- 撮像によって撮像素子から得られる複数の画像データからなる動画像データの手振れを補正する手振れ補正装置であって、
前記複数の画像データの各々から特徴点を抽出した特徴点画像データを生成する特徴点画像データ生成手段と、
前記複数の画像データの各々から生成された前記特徴点画像データの特徴点同士の比較によって前記複数の画像データ間の移動ベクトルを求める移動ベクトル算出手段と、
出力すべき画像データ(以下、出力画像データという)の切り出し範囲を、前記出力画像データの直前に出力された画像データ(以下、直前画像データという)に対する前記出力画像データの前記移動ベクトルを用いて決定し、前記出力画像データのうちの前記決定した切り出し範囲内の画像データを出力する画像出力手段とを備える手振れ補正装置。 - 請求項1記載の手振れ補正装置であって、
前記移動ベクトル算出手段は、任意の画像データに注視ブロックを設定し、前記任意の画像データよりも後に出力された画像データのいずれかの画像データに探索範囲を設定し、前記注視ブロックと同じ大きさの探索ブロックを前記探索範囲内で移動させたときの各移動位置にある前記探索ブロック内の前記特徴点と、前記注視ブロック内の前記特徴点とを比較して、前記注視ブロックと相関性の最も高い探索ブロックである高相関探索ブロックを探し、前記高相関探索ブロックの位置と前記注視ブロックの位置とから、前記任意の画像データに対する前記いずれかの画像データの移動ベクトルを算出するものであり、
前記高相関探索ブロックを探す際、前記注視ブロック内にある特徴点のうちの一部を前記探索ブロック内の特徴点と比較する対象となる比較対象特徴点とし、前記比較対象特徴点と前記探索ブロック内の特徴点との比較によって、前記注視ブロックと相関性のある探索ブロックを抽出する処理を行った後、前記注視ブロックと相関性のある探索ブロックが1つの場合には当該探索ブロックを前記高相関探索ブロックとし、前記注視ブロックと相関性のある探索ブロックが複数ある場合には、前記比較対象特徴点の数を増やし、前記増やした比較対象特徴点と前記複数の探索ブロック内の特徴点との比較により、前記複数の探索ブロックの中から前記注視ブロックと相関性のある探索ブロックを抽出する処理を行い、前記処理における前記比較対象特徴点の数が前記注視ブロック内にある特徴点の数に一致しており、且つ、前記処理によって抽出された探索ブロックが複数あった場合には、その中で最も相関性の高い探索ブロックを前記高相関探索ブロックとする手振れ補正装置。 - 請求項1又は2記載の手振れ補正装置であって、
前記複数の画像データの各々について、前記各々の画像データを1段階又は2段階以上にわたって縮小することにより、元の画像データも含めて複数レベルの画像データを生成する画像縮小手段を備え、
前記特徴点画像データ生成手段は、前記複数レベルの画像データの各々から第一特徴点を抽出した第一特徴点画像データを生成する第一特徴点画像データ生成手段を有し、前記複数レベルの画像データの各々から生成された複数の前記第一特徴点画像データを用いて、被写体の抽象度及び前記被写体の表現精度のいずれもが所定レベルよりも高い前記特徴点画像データを生成する手振れ補正装置。 - 請求項1〜3のいずれか1項記載の手振れ補正装置であって、
前記移動ベクトル算出手段が、前記移動ベクトルを算出できなかった場合、前記移動ベクトルの算出結果として特定の情報を出力するものであり、
前記出力画像データが劣化しているか否かを、前記移動ベクトル算出手段による前記直前画像データに対する前記出力画像データの移動ベクトルの算出結果、前記出力画像データに対する前記出力すべき画像データの直後に得られた画像データ(以下、直後画像データという)の移動ベクトルの算出結果、及び前記直前画像データに対する前記直後画像データの移動ベクトルである直前直後間移動ベクトルの算出結果に基づいて判定する画像劣化有無判定手段と、
前記画像劣化有無判定手段によって前記出力画像データが劣化していると判定された場合、前記直前直後間移動ベクトルV2と、前記直前画像データの撮影時刻と前記出力画像データの撮影時刻との差ΔT1と、前記出力画像データの撮影時刻と前記直後画像データの撮影時刻との差ΔT2とから、前記直前画像データに対する前記出力画像データの移動ベクトルV1及び前記直後画像データに対する前記出力画像データの移動ベクトルV3を推定する移動ベクトル推定手段と、
前記直前画像データを前記移動ベクトルV1分だけ移動させ、前記直後画像データを前記移動ベクトルV3分だけ移動させて前記直前画像データと前記直後画像データとを合成する画像合成手段とを備え、
前記画像劣化有無判定手段によって前記出力画像データが劣化していると判定された場合、前記画像出力手段は、前記出力画像データを前記画像合成手段によって合成された画像データとし、当該画像データの切り出し範囲を前記移動ベクトルV1を用いて決定する手振れ補正装置。 - 請求項1〜4のいずれか1項記載の手振れ補正装置であって、
前記複数の画像データの各々から生成された前記特徴点画像データを圧縮する圧縮手段と、
前記圧縮手段によって圧縮された前記特徴点画像データを記憶する記憶手段と、
前記記憶手段に記憶された前記特徴点画像データを伸張する伸張手段とを備える手振れ補正装置。 - 請求項3記載の手振れ補正装置と、
前記画像データ及び前記画像データから生成された前記複数の第一特徴点画像データを利用して前記画像データのオブジェクト検出を行うオブジェクト検出手段、又は、前記画像データ及び前記画像データから生成された前記複数の第一特徴点画像データを利用して前記画像データのノイズリダクション処理を行うノイズリダクション処理手段とを備える撮像装置。 - 請求項3記載の手振れ補正装置と、
前記画像データ及び前記画像データから生成された前記特徴点画像データを利用して前記画像データのオブジェクト検出を行うオブジェクト検出手段、又は、前記画像データ及び前記画像データから生成された前記特徴点画像データを利用して前記画像データのノイズリダクション処理を行うノイズリダクション処理手段とを備える撮像装置。 - 請求項6又は7記載の撮像装置であって、
前記手振れ補正装置が、
前記移動ベクトル算出手段が、前記移動ベクトルを算出できなかった場合、前記移動ベクトルの算出結果として特定の情報を出力するものであり、
前記出力画像データが劣化しているか否かを、前記移動ベクトル算出手段による前記直前画像データに対する前記出力画像データの移動ベクトルの算出結果、前記出力画像データに対する前記出力すべき画像データの直後に得られた画像データ(以下、直後画像データという)の移動ベクトルの算出結果、及び前記直前画像データに対する前記直後画像データの移動ベクトルである直前直後間移動ベクトルの算出結果に基づいて判定する画像劣化有無判定手段と、
前記画像劣化有無判定手段によって前記出力画像データが劣化していると判定された場合、前記直前直後間移動ベクトルV2と、前記直前画像データの撮影時刻と前記出力画像データの撮影時刻との差ΔT1と、前記出力画像データの撮影時刻と前記直後画像データの撮影時刻との差ΔT2とから、前記直前画像データに対する前記出力画像データの移動ベクトルV1及び前記直後画像データに対する前記出力画像データの移動ベクトルV3を推定する移動ベクトル推定手段と、
前記直前画像データを前記移動ベクトルV1分だけ移動させ、前記直後画像データを前記移動ベクトルV3分だけ移動させて前記直前画像データと前記直後画像データとを合成する画像合成手段とを備え、
前記画像劣化有無判定手段によって前記出力画像データが劣化していると判定された場合、前記画像出力手段は、前記出力画像データを前記画像合成手段によって合成された画像データとし、当該画像データの切り出し範囲を前記移動ベクトルV1を用いて決定する撮像装置。 - 請求項6〜8のいずれか1項記載の撮像装置であって、
前記手振れ補正装置が、
前記複数の画像データの各々から生成された前記特徴点画像データを圧縮する圧縮手段と、
前記圧縮手段によって圧縮された前記特徴点画像データを記憶する記憶手段と、
前記記憶手段に記憶された前記特徴点画像データを伸張する伸張手段とを備える撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007233987A JP2009065619A (ja) | 2007-09-10 | 2007-09-10 | 手振れ補正装置及び撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007233987A JP2009065619A (ja) | 2007-09-10 | 2007-09-10 | 手振れ補正装置及び撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009065619A true JP2009065619A (ja) | 2009-03-26 |
Family
ID=40559757
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007233987A Abandoned JP2009065619A (ja) | 2007-09-10 | 2007-09-10 | 手振れ補正装置及び撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009065619A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011024174A (ja) * | 2009-07-21 | 2011-02-03 | Sigma Corp | カメラ |
US8687846B2 (en) | 2010-11-19 | 2014-04-01 | Fujitsu Limited | Image processing apparatus, image processing method and computer readable information recording medium |
JP2015133532A (ja) * | 2014-01-09 | 2015-07-23 | キヤノン株式会社 | 撮像装置及び画像処理方法 |
-
2007
- 2007-09-10 JP JP2007233987A patent/JP2009065619A/ja not_active Abandoned
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011024174A (ja) * | 2009-07-21 | 2011-02-03 | Sigma Corp | カメラ |
US8687846B2 (en) | 2010-11-19 | 2014-04-01 | Fujitsu Limited | Image processing apparatus, image processing method and computer readable information recording medium |
JP2015133532A (ja) * | 2014-01-09 | 2015-07-23 | キヤノン株式会社 | 撮像装置及び画像処理方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8233062B2 (en) | Image processing apparatus, image processing method, and imaging apparatus | |
US9055217B2 (en) | Image compositing apparatus, image compositing method and program recording device | |
US20090225174A1 (en) | Image processing apparatus, image processing method, hand shake blur area estimation device, hand shake blur area estimation method, and program | |
JP2009147807A (ja) | 画像処理装置 | |
JP2008507899A (ja) | 取得された画像フレーム間の意図的でないカメラ運動を補正するためのビデオデータの処理 | |
JP2008109176A (ja) | 撮像装置及び撮像方法 | |
JPH11177880A (ja) | ビットプレーン整合を用いた映像安定化装置及びその方法 | |
JP2010200179A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが格納されたプログラム記憶媒体 | |
WO2009098741A1 (ja) | 撮像装置、集積回路及び撮像方法 | |
JP2008035167A (ja) | 撮像装置 | |
JP2007114466A (ja) | 手ぶれ補正機能を有する撮影装置 | |
JPWO2006025396A1 (ja) | 画像処理装置および画像処理プログラム | |
CN113784014A (zh) | 一种图像处理方法、装置及设备 | |
US20200073887A1 (en) | Video data generation apparatus, video data generation method, and program | |
JP2009065619A (ja) | 手振れ補正装置及び撮像装置 | |
JP6282133B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2005150903A (ja) | 画像処理装置、ノイズ除去方法及びノイズ除去プログラム | |
KR101945233B1 (ko) | 영상 안정화 방법 및 장치 | |
JP2008109270A (ja) | 手振れ補正機能付き動画再生装置 | |
JP2003078808A (ja) | 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置 | |
JP2005260481A (ja) | 動きベクトル検出装置及びその検出方法並びにカメラ | |
JP2008141616A (ja) | 動きベクトル算出装置、方法およびプログラム、動画像圧縮記録装置ならびに撮像装置 | |
US11501417B2 (en) | Image processing apparatus for estimating the number of specific objects in an image | |
JP2009267834A (ja) | 撮像装置 | |
JP4760484B2 (ja) | 手振れ補正装置、手振れ補正方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100212 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110609 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110614 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20110628 |