JP2008172310A - 電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置 - Google Patents

電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置 Download PDF

Info

Publication number
JP2008172310A
JP2008172310A JP2007001167A JP2007001167A JP2008172310A JP 2008172310 A JP2008172310 A JP 2008172310A JP 2007001167 A JP2007001167 A JP 2007001167A JP 2007001167 A JP2007001167 A JP 2007001167A JP 2008172310 A JP2008172310 A JP 2008172310A
Authority
JP
Japan
Prior art keywords
image
camera shake
vector
frame
calculated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007001167A
Other languages
English (en)
Other versions
JP4759524B2 (ja
JP2008172310A5 (ja
Inventor
Hiroshi Iwabuchi
浩志 岩淵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2007001167A priority Critical patent/JP4759524B2/ja
Priority to US11/970,863 priority patent/US7903144B2/en
Publication of JP2008172310A publication Critical patent/JP2008172310A/ja
Publication of JP2008172310A5 publication Critical patent/JP2008172310A5/ja
Application granted granted Critical
Publication of JP4759524B2 publication Critical patent/JP4759524B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/907Television signal recording using static stores, e.g. storage tubes or semiconductor memories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】列車等の移動体に乗って移動体外部を撮影するときでも良好な電子的手振れ補正を行う。
【解決手段】撮像素子の有効画素領域からフレーム順に出力される各フレーム画像を夫々複数の分割画像に分割し、各分割画像毎にフレーム画像間の移動ベクトルを算出し、各分割画像毎の移動ベクトルから前記フレーム画像全体の移動ベクトル(以下、手振れベクトルという。)を算出し、該手振れベクトルにより前記フレーム画像から切り出す画像出力範囲を決定する電子式手振れ補正方法において、分割画像毎に算出される移動ベクトルの交差位置から無限遠点F1を算出し、フレーム画像毎に求まる無限遠点間のブレベクトルを手振れベクトルとして画像出力範囲を決定する。
【選択図】図7

Description

本発明はデジタルカメラ等で用いる電子式手振れ補正方法等に係り、特に、自動車,列車,船舶,飛行機等の移動体に乗って移動体外部を撮影したときの電子式手振れ補正を実現するのに好適な電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置に関する。
例えば、動画撮影機能を有するデジタルスチルカメラやビデオカメラ等を手に持ち動画を撮影する場合、カメラを持つ手が振れると、あるフレームの画像中に映っている静止物画像の位置が次フレームの表示画面では移動してしまい、見づらい動画になってしまう。そこで、あるフレーム画像に対して次フレームの画像の手振れベクトルを検出し、画像が揺れない様に手振れ補正を行うことが行われている。
図12は、手振れ補正を行うときに必要となる移動ベクトルを検出する原理を示す説明図である。図12(a)に示すNフレーム目の画像1と図12(b)に示すN+1フレーム目の画像3を、この例では夫々4分割し、各分割画面♯1〜♯4毎に次の処理を行う。
先ず、図12(a)に示すNフレーム目の画像1中の所定アドレスで示されるブロック2内の画像を基準画像とすると、(N+1)フレーム目の画像3中の同一所定アドレスで示されるブロック4によって切り出された画像が基準画像と同一であれば、画像1に対して画像3は振れていないことになる。
しかし、手振れが発生していれば、ブロック2内の基準画像とブロック4で切り出された画像は一致しない。そこで、画像3中のブロック4を、4a,4b,4c,…と、X方向(水平方向),Y方向(垂直方向)に1画素づつずらしながら、各ブロック4a,4b,4c,…内の夫々の画像を基準画像と比較し、基準画像と最も相関性が高い比較画像を切り出したブロック位置を求める。
この相関性を求める演算は、基準画像と比較画像との1画素1画素の画素データ(輝度データ)の差の総和の絶対値を求めることで行い、この絶対値が最小となる比較画像が最も相関性の高い比較画像となる。
図12(b)に示す例で、ブロック2の基準画像に対し最も相関性の高い比較画像がブロック4cで切り出されたとすると、画像1に対する画像3の差はベクトル「k1」となる。このベクトルk1が分割画面♯1における移動ベクトルである。
他の分割画面♯2〜♯4でも同様に移動ベクトルk2〜k4を算出すると、例えばこれらの単純加算平均ベクトルk=〔(k1+k2+k3+k4)/4〕が、2画面間の手振れベクトルとなる。
撮像画像1を表示した次に、撮像画像3を手振れベクトルkと逆方向に移動させて表示(実際には、表示する画像の範囲より広い範囲の画像を撮像素子が撮像できるように有効画素領域を広くしておき、表示画像の切出範囲すなわち出力範囲を移動させる。)すれば、画像3中の静止物画像は画像1中の同一静止物画像と重なり、振れの無い画像表示が可能となる。
尚、手振れベクトルの検出技術に関連する従来技術として、下記特許文献1等がある。
特開昭61―201581号公報
図12で説明した原理により、電子的に良好な手振れ補正を行うことができる。しかし、撮影シーンによっては手振れ補正ができない場合が生じる。例えば、自動車等の移動体に乗って外の景色を撮影した場合、移動体の進行に従って被写体の画像自体が画面中で移動し、図12に示す夫々の分割画面で大きな移動ベクトルが算出されてしまう。このため、手振れや移動体の振動に起因する小さな移動ベクトル成分を抽出するのが困難になり、手振れ補正ができなくなってしまう。尚、以下、「手振れ」とは移動体の振動に起因する画像ブレも含めた概念として説明する。
本発明の目的は、移動体に乗って移動体外部の撮影を行う場合でも良好に電子的な手振れ補正を行うことができる電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置を提供することにある。
本発明の電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムは、撮像素子の有効画素領域からフレーム順に出力される各フレーム画像を夫々複数の分割画像に分割し、各分割画像毎にフレーム画像間の移動ベクトルを算出し、各分割画像毎の移動ベクトルから前記フレーム画像全体の移動ベクトル(以下、手振れベクトルという。)を算出し、該手振れベクトルにより前記フレーム画像から切り出す画像出力範囲を決定する電子式手振れ補正において、前記分割画像毎に算出される移動ベクトルの交差位置から無限遠点を算出し、前記フレーム画像毎に求まる前記無限遠点間のブレベクトルを前記手振れベクトルとして前記画像出力範囲を決定することを特徴とする。
本発明の電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムは、前記フレーム画像毎に求まる前記無限遠点の位置が固定されるように前記画像出力範囲が決定されることを特徴とする。
本発明の電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムは、前記フレーム画像毎に求まる前記無限遠点の位置が前記フレーム画像中の固定点から常に等距離となるように前記画像出力範囲が決定されることを特徴とする。
本発明の電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムは、或るフレーム画像により算出された前記無限遠点と該フレーム画像の中心点とを結ぶ直線を求め、次フレーム画像により算出された前記無限遠点の前記ブレベクトルのうち前記直線に沿う成分は無視し該直線に対し垂直方向の成分に基づき前記画像出力範囲を決定することを特徴とする。
本発明の電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムは、フレーム順に算出される前記ブレベクトルの変化周波数の所定周波数成分以上の成分のみ補正するように決定することを特徴とする。
本発明の撮像装置は、撮像素子と、上記のいずれかに記載の電子式手振れ補正装置とを備えることを特徴とする。
本発明によれば、無限遠点を用いて手振れ補正を行うため、自動車や列車,船舶,飛行機等の移動体に乗って移動体外部を撮影するときに発生する手振れも良好に補正することが可能となる。
以下、本発明の一実施形態について、図面を参照して説明する。
図1は、本発明の一実施形態に係るデジタルカメラの構成図である。このデジタルカメラは、撮像部21と、撮像部21から出力されるアナログの画像データを自動利得調整(AGC)や相関二重サンプリング処理等のアナログ処理するアナログ信号処理部22と、アナログ信号処理部22から出力されるアナログ画像データをデジタル画像データに変換するアナログデジタル変換部(A/D)23と、後述のシステム制御部(CPU)29からの指示によってA/D23,アナログ信号処理部22,撮像部21の駆動制御を行う駆動制御部24と、CPU29からの指示によって発光するフラッシュ25とを備える。
撮像部21は、被写界からの光を集光する光学レンズ系21aと、絞り21bと、光学レンズ系21aによって集光され絞り21bによって絞られた光を受光し撮像画像データ(アナログ画像データ)を出力する固体撮像素子100とを備える。
固体撮像素子100は、CCD型でもCMOS型でも、また、他の型式の固体撮像素子でも良く、電子式手振れ補正処理を行うために、有効画素領域が画像表示範囲より広くなっている。
本実施形態のデジタルカメラは更に、A/D23から出力されるデジタル画像データを取り込み補間処理やホワイトバランス補正,RGB/YC変換処理等を行うデジタル信号処理部26と、画像データをJPEG形式やMPEG形式などの画像データに圧縮したり逆に伸長したりする圧縮/伸長処理部27と、メニューなどを表示したりスルー画像や撮像画像を表示する表示部28と、デジタルカメラ全体を統括制御するシステム制御部(CPU)29と、フレームメモリ等の内部メモリ30と、JPEG画像データやMPEG画像データ等を格納する記録メディア32との間のインタフェース処理を行うメディアインタフェース(I/F)部31と、これらを相互に接続するバス40とを備え、また、システム制御部29には、ユーザからの指示入力を行う操作部33が接続されている。
図2は、図1に示したデジタルカメラで電子式手振れ補正処理を行う場合に構成される電子式手振れ補正処理装置50の機能構成図である。この電子式手振れ補正処理装置50は、ユーザが図1に示す操作部33から電子式手振れ補正処理を行う旨の指示入力があったとき、システム制御部29が電子式手振れ補正プログラムを起動することで、システム制御部29が配下のデジタル信号処理部26,内部メモリ30等を用いて構成する。
この電子式手振れ補正処理装置50は、固体撮像素子100から出力される画像データを間引き処理して縮小画像を生成する間引き処理部51と、nフレーム目(偶数フレーム目)の間引き縮小画像データを格納する第1メモリ52と、n+1フレーム目(奇数フレーム目)の間引き縮小画像データを格納する第2メモリ53と、各メモリ52,53から縮小画像データを読み出し、図12で説明した各分割画面毎の移動ベクトルを算出する演算処理部54と、演算処理部54が算出した各分割画面毎の移動ベクトルから画面間の手振れベクトルを算出しメモリ30から読み出す表示画像の切出範囲を可変制御する手振れベクトル演算処理部55とを備える。
本実施形態では、移動ベクトル算出処理の高速化を図るために間引き処理部51で基準画像,比較画像の夫々の縮小画像を生成している。演算処理装置として高性能なものが使用できメモリ容量に余裕があれば、間引き処理せずに、元画像データを用いて移動ベクトルを算出することも可能である。
斯かる電子式手振れ補正処理装置50で、撮影画像の電子式手振れ補正を行うときの動作について説明する。固体撮像素子100からは、偶数フレームの撮像画像データと奇数フレームの撮像画像データとが交互に出力され、各撮像画像データは、内部メモリ30に格納される。
固体撮像素子100の有効画素領域から出力される撮像画像データは、内部メモリ30への格納と並行して、間引き処理部51を通って縮小画像データとなり、メモリ52,53に交互に格納される。
今、nフレーム目の画像データに対してn+1フレーム目の画像データの手振れベクトルを検出するとする。つまり、nフレーム目の画像データ(縮小画像データ)から基準画像を切り出し、nフレーム目の画像データ(縮小画像データ)から比較画像を切り出し、両者の相関性を求める。
この場合、本実施形態では、図3に示す様に、1画面(1画面とは有効画素領域から出力された当該フレーム画像の全体をいうものとする。)を6×8=48個の分割画面♯1〜♯48に分割し、各分割画面毎に演算処理部55が移動ベクトルを算出し、演算処理部56が48個の移動ベクトルから画面間の移動ベクトル即ち手振れベクトルを算出する。
図4は、電子式手振れ補正処理装置50がフレーム画像を取り込む毎に実行する処理手順を示すフローチャートである。先ず、ステップS1で、分割画面毎の48個の移動ベクトルが演算処理部54により算出される。以下のステップは、手振れベクトル演算処理部55が行う。
次のステップS2では、48個の移動ベクトルが揃っているか否かを判定する。手振れは、画面全体の均一的な画像ブレであるから、48個の移動ベクトルは、全て、同一方向,同一長さで揃うはずである。
しかし、例えば画面内に動き回る小動物などが映っていると、小動物が映っている分割画面での移動ベクトルは他の移動ベクトルと異なることになる。例えば図5に示す様に、移動ベクトルk28,k36は、この分割画面♯28,♯36内に小動物が映っているため、他の移動ベクトルと異なるベクトル即ち異常ベクトルになっている。
また、手振れにはカメラを平行移動ばかりでなく、回転させる方向にもずれるため、全て、同一方向,同一長さになることはない。そこで、このステップS2では、例えば、所定数以上の移動ベクトルが、所定閾値範囲内で同一といえるか否かを判定し、同一といえる場合には移動ベクトルは揃っていると判定する。
ステップS2の判定結果が肯定の場合には、次のステップS3で、移動ベクトルが揃いすぎているか否かを判定する。例えば、カメラをパンニングやチルトリングしたり、列車等の移動体に乗って進行方向に対し真横の風景等を撮影した場合には、図6(a)(b)に矢印で示す様に、撮影画像全体が一方向に流れることになる。これに対し、手振れは、実際には0.5秒も同じ方向に振れることはない。このため、手振れでなく同一方向に画像が流れる場合には、各分割画面の移動ベクトルは殆ど同一ベクトル(上記の所定閾値範囲より狭い閾値範囲に入る)となり、図12で説明したような移動ベクトルの単純加算平均で手振れベクトルを算出することは不可能となる。
ステップS3の判定結果が否定、すなわち、各移動ベクトルがある程度揃っており、且つ、揃いすぎていない場合には、ステップS4に進み、通常の手振れベクトルの算出を行う。例えば、図5で異常ベクトルk28,k36を除外した残りの移動ベクトルを単純加算平均することで手振れベクトルを算出し、画像切出範囲を求める。そして、次のステップS5で、この画像切出範囲をメモリ30に出力する。
ステップS2の判定結果が否定された場合、即ち、移動ベクトルが揃っていない場合には、ステップS6に進む。また、ステップS3の判定結果が肯定の場合、即ち、移動ベクトルが揃いすぎている場合にも、ステップS6に進む。
ステップS6では、各移動ベクトルから無限遠点が存在するか否かを判定し、存在する場合にはその座標位置を、異常ベクトルを除いた移動ベクトルの交差位置として算出する。あるいは、各移動ベクトルの交差位置を求め、所定数以上の多数となる交差位置を無限遠点の座標位置とする。交差位置が1つも算出されない場合には無限遠点の座標位置は無限位置にあるとされる。
例えば自動車等の移動体に乗って進行方向前方を撮影しているときに算出される移動ベクトルは、図7(a)に示す様に、ある一点F1から湧き出て来る様に算出される。この一点F1が無限遠点である。無限遠点F1は、図7(a)に示す様に、画面内に存在する場合もあるが、図7(b)に示す様に、画面外に存在する場合もある。車両進行方向の後方を撮影した場合には、各移動ベクトルは、ある一点に吸い込まれる方向を向く。この一点が無限遠点となる。
ステップS6で無限遠点が存在しないと判定された場合には、分割画面毎の各移動ベクトルがバラバラであるため、ステップS7に進んで手振れ補正は行わないと決定し、ステップS5に進む。即ち、この場合には、画像切出範囲の移動制御は行わない。
ステップS6の判定の結果、無限遠点が存在する場合には、次にステップS8に進み、その無限遠点の座標位置が無限位置にあるか否かを判定する。図6で説明した様に、列車等に乗って進行方向真横の風景等を撮影している状態では、無限遠点の座標位置のうち、移動ベクトル方向の位置は無限位置になる。
ステップS8の判定の結果、無限遠点の座標位置が有限位置の場合にはステップS9に進み、無限遠点の座標位置が無限位置の場合にはステップS10に進む。
ステップS9では、有限位置の無限遠点を用いた手振れ量の算出と画像切出範囲の決定を行ってステップS5に進み、ステップS10では、無限位置の無限遠点を用いた手振れ量の算出と画像切出範囲の決定を行ってステップS5に進む。
次に、ステップS9における処理内容について説明する。前回フレーム画像から求められた無限遠点をF0,今回フレーム画像から求められた無限遠点をF1とすると、F0とF1との差が手振れベクトルkとなる。従って、図8(a)(b)に示す様に、無限遠点F0が算出された前回フレーム画像から切出範囲f0の画像が切り出され出力された後に、今回フレーム画像から算出された無限遠点F1が移動していた場合、切り出し画像中の無限遠点F1が前回切出画像f0中の無限遠点F0と重なるように、今回フレーム画像からの切出範囲f1を決定する。これにより、フレーム毎に切り出される画像中の無限遠点が表示画像上で固定され、列車等の移動体の振動も含め、手振れの抑制された画像出力を得ることができる。
図8を用いた説明は、無限遠点を用いた手振れ補正の一例を説明するものであり、その他にも無限遠点を用いた手振れ補正の方法がある。以下、無限遠点を用いた手振れ補正方法について説明する。
〔第1例〕
この第1例は、図8で説明した手振れ補正方法である。図9に示す様に、画像切出範囲の移動制御を行わない場合には、各フレーム画像から得られる無限遠点(画面内にある場合を図示)は、F0→F1→……→F4→…と移動するが、この第1例の方法では、各無限遠点F0,F1,F2,…,F4,…が切出画像上で移動しない様に切出範囲を決定する。
〔第2例〕
第1例では、図9に例示したようにブレる無限遠点を表示画像上で固定したが、無限遠点が固定されなくても、見易い画像を得ることができる。この第2例では、画像中心点Oを予め算出しておき、ある時点で算出された無限遠点F0の座標位置と中心点Oとの距離Lを求め、次の時点以後に算出された無限遠点F1,F2,F3,…と中心点Oとの距離がLとなる様に画像切出範囲を決定する。これによっても、手振れによる画像の見づらさは解消する。
〔第3例〕
図11に示す様に、画面中心点Oと、ある時点で検出された無限遠点F0とを結ぶ直線mを算出する。そして、次フレームで算出された無限遠点F1が、この直線m上を移動している場合には、手振れ補正は行わない。算出された無限遠点F2が、直線mに対して垂直方向に移動している場合には、手振れ補正を行い、無限遠点F2が直線m上となるように画像切出範囲を定める。換言すれば、無限遠点間のブレベクトルのうち、直線mに沿う成分による手振れ補正は行わず、直線mに対し垂直方向の西部による手振れ補正は行う。
直線mに沿う振動は、自動車等の移動体の進行方向に沿う振動であり、直線mに対し垂直方向の振動は、自動車等の縦揺れが該当する。このため、進行方向に沿う振動は補正しなくても画像の違和感はなく、自動車等の縦揺れだけを補正することで、見易い画像となる。
本実施形態では、上記の3例の無限遠点を用いた手振れ補正を用意しておき、状況に応じて適宜選択して適用することになる。
図4のステップS10における手振れ補正は、上記の第3例を適用する。無限遠点の座標位置が無限位置にあるため、直線mに沿う方向の無限遠点の移動は算出されることはない。しかし、直線mに対し垂直方向の無限遠点の振動は検出できるため、この垂直方向の振動補正は行う。
図4のステップS5における切出範囲の出力は、人間の目の感度に応じて行うことも可能である。人間の目は、7Hzの振動には感じやすく1Hz以下の振動には鈍感である。そこで、図2の手振れベクトル演算処理部55からメモリ30への出力パス中にハイパスフィルタを挿入し、1Hz以上の切出範囲の変化だけをメモリ30に出力し、1Hz以下の切出範囲の変化は出力せずに切出範囲を固定しても良い。これにより、手振れが高周波で変動する場合のみ手振れ補正が行われて画像が揺れない様になり、手振れが低周波の場合には画像は低周波で揺れてしまうが、この揺れは不快にはならない。
以上述べた実施形態によれば、無限遠点を用いて手振れ補正を行うため、移動体に乗って移動体外部を撮影したときに生じる移動体の振動を含む手振れも電子的に的確に補正でき、見易い画像を撮影することが可能となる。
尚、上述した実施形態では、デジタルカメラ内部での処理として説明したが、固体撮像素子100から出力される画像データを全て記録しておき、これを外部のパーソナルコンピュータ等に取り込み、パーソナルコンピュータが電子式手振れ補正プログラムを実行することでも同様に処理が可能であることはいうまでもない。
また、上述した実施形態では、1画面を48個の分割画面に分割したが、分割画面数はこれに限定されるものではなく、無限遠点の算出に支障の無い分割数であれば良い。
本発明に係る電子式手振れ補正は移動体に乗って移動体外部を撮影する場合にも適切な手振れ補正ができるため、デジタルカメラ等に適用すると有用である。
本発明の一実施形態に係るデジタルカメラのブロック構成図である。 本発明の一実施形態に係るデジタルカメラ内に構成される電子式手振れ補正処理装置の機能ブロック図である。 本発明の実施形態で用いる分割画面の説明図である。 図2に示す電子式手振れ補正処理装置の処理手順を示すフローチャートである。 図3に示す分割画面毎に算出された移動ベクトルの一例を示す図である。 移動体に乗って進行方向真横から外の景色を撮影したときの撮像画像の流れを示す図である。 無限遠点F1を示す移動ベクトル図である。 画像切出範囲の移動制御を示す図である。 手振れによる無限遠点の移動を説明する図である。 無限遠点を用いた手振れ補正の一例を示す図である。 無限遠点を用いた手振れ補正の他の例を示す図である。 手振れベクトルの検出原理説明図である。
符号の説明
21 撮像部
26 デジタル信号処理部(DSP)
29 システム制御部(CPU)
30 メモリ
50 電子式手振れ補正処理装置
54 分割画面毎の移動ベクトル演算処理部
55 手振れベクトル演算処理部
100 撮像素子
100a 有効画素領域
f0,f1 画像切出範囲
F0,F1,F2,… 無限遠点

Claims (16)

  1. 撮像素子の有効画素領域からフレーム順に出力される各フレーム画像を夫々複数の分割画像に分割し、各分割画像毎にフレーム画像間の移動ベクトルを算出し、各分割画像毎の移動ベクトルから前記フレーム画像全体の移動ベクトル(以下、手振れベクトルという。)を算出し、該手振れベクトルにより前記フレーム画像から切り出す画像出力範囲を決定する電子式手振れ補正方法において、前記分割画像毎に算出される移動ベクトルの交差位置から無限遠点を算出し、前記フレーム画像毎に求まる前記無限遠点間のブレベクトルを前記手振れベクトルとして前記画像出力範囲を決定することを特徴とする電子式手振れ補正方法。
  2. 前記フレーム画像毎に求まる前記無限遠点の位置が固定されるように前記画像出力範囲が決定されることを特徴とする請求項1に記載の電子式手振れ補正方法。
  3. 前記フレーム画像毎に求まる前記無限遠点の位置が前記フレーム画像中の固定点から常に等距離となるように前記画像出力範囲が決定されることを特徴とする請求項1に記載の電子式手振れ補正方法。
  4. 或るフレーム画像により算出された前記無限遠点と該フレーム画像の中心点とを結ぶ直線を求め、次フレーム画像により算出された前記無限遠点の前記ブレベクトルのうち前記直線に沿う成分は無視し該直線に対し垂直方向の成分に基づき前記画像出力範囲を決定することを特徴とする請求項1に記載の電子式手振れ補正方法。
  5. フレーム順に算出される前記ブレベクトルの変化周波数の所定周波数成分以上の成分のみ補正するように決定することを特徴とする請求項1乃至請求項4のいずれかに記載の電子式手振れ補正方法。
  6. 撮像素子の有効画素領域からフレーム順に出力される各フレーム画像を夫々複数の分割画像に分割し、各分割画像毎にフレーム画像間の移動ベクトルを算出し、各分割画像毎の移動ベクトルから前記フレーム画像全体の移動ベクトル(以下、手振れベクトルという。)を算出し、該手振れベクトルにより前記フレーム画像から切り出す画像出力範囲を決定する電子式手振れ補正装置において、前記分割画像毎に算出される移動ベクトルの交差位置から無限遠点を算出し前記フレーム画像毎に求まる前記無限遠点間のブレベクトルを前記手振れベクトルとして前記画像出力範囲を決定する手段を備えことを特徴とする電子式手振れ補正装置。
  7. 前記フレーム画像毎に求まる前記無限遠点の位置が固定されるように前記画像出力範囲が決定されることを特徴とする請求項6に記載の電子式手振れ補正装置。
  8. 前記フレーム画像毎に求まる前記無限遠点の位置が前記フレーム画像中の固定点から常に等距離となるように前記画像出力範囲が決定されることを特徴とする請求項6に記載の電子式手振れ補正装置。
  9. 或るフレーム画像により算出された前記無限遠点と該フレーム画像の中心点とを結ぶ直線を求め、次フレーム画像により算出された前記無限遠点の前記ブレベクトルのうち前記直線に沿う成分は無視し該直線に対し垂直方向の成分に基づき前記画像出力範囲を決定することを特徴とする請求項6に記載の電子式手振れ補正装置。
  10. フレーム順に算出される前記ブレベクトルの変化周波数の所定周波数成分以上の成分のみ補正するように決定することを特徴とする請求項6乃至請求項9のいずれかに記載の電子式手振れ補正装置。
  11. 撮像素子の有効画素領域からフレーム順に出力される各フレーム画像を夫々複数の分割画像に分割し、各分割画像毎にフレーム画像間の移動ベクトルを算出し、各分割画像毎の移動ベクトルから前記フレーム画像全体の移動ベクトル(以下、手振れベクトルという。)を算出し、該手振れベクトルにより前記フレーム画像から切り出す画像出力範囲を決定する電子式手振れ補正プログラムにおいて、前記分割画像毎に算出される移動ベクトルの交差位置から無限遠点を算出するステップと、前記フレーム画像毎に求まる前記無限遠点間のブレベクトルを前記手振れベクトルとして前記画像出力範囲を決定するステップとを備えることを特徴とする電子式手振れ補正プログラム。
  12. 前記フレーム画像毎に求まる前記無限遠点の位置が固定されるように前記画像出力範囲が決定されることを特徴とする請求項11に記載の電子式手振れ補正プログラム。
  13. 前記フレーム画像毎に求まる前記無限遠点の位置が前記フレーム画像中の固定点から常に等距離となるように前記画像出力範囲が決定されることを特徴とする請求項11に記載の電子式手振れ補正プログラム。
  14. 或るフレーム画像により算出された前記無限遠点と該フレーム画像の中心点とを結ぶ直線を求め、次フレーム画像により算出された前記無限遠点の前記ブレベクトルのうち前記直線に沿う成分は無視し該直線に対し垂直方向の成分に基づき前記画像出力範囲を決定することを特徴とする請求項11に記載の電子式手振れ補正プログラム。
  15. フレーム順に算出される前記ブレベクトルの変化周波数の所定周波数成分以上の成分のみ補正するように決定することを特徴とする請求項11乃至請求項14のいずれかに記載の電子式手振れ補正プログラム。
  16. 撮像素子と、請求項6乃至請求項10のいずれかに記載の電子式手振れ補正装置とを備えることを特徴とする撮像装置。
JP2007001167A 2007-01-09 2007-01-09 電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置 Expired - Fee Related JP4759524B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007001167A JP4759524B2 (ja) 2007-01-09 2007-01-09 電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置
US11/970,863 US7903144B2 (en) 2007-01-09 2008-01-08 Electric hand-vibration correction method, electric hand-vibration correction device, electric hand-vibration correction program, and imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007001167A JP4759524B2 (ja) 2007-01-09 2007-01-09 電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置

Publications (3)

Publication Number Publication Date
JP2008172310A true JP2008172310A (ja) 2008-07-24
JP2008172310A5 JP2008172310A5 (ja) 2010-10-14
JP4759524B2 JP4759524B2 (ja) 2011-08-31

Family

ID=39640809

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007001167A Expired - Fee Related JP4759524B2 (ja) 2007-01-09 2007-01-09 電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置

Country Status (2)

Country Link
US (1) US7903144B2 (ja)
JP (1) JP4759524B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101075672B1 (ko) 2008-11-18 2011-10-21 산요 세미컨덕터 컴퍼니 리미티드 진동 보상 제어 회로 및 촬상 장치
JP2012242759A (ja) * 2011-05-23 2012-12-10 Canon Inc 撮像装置、その制御方法及びプログラム
WO2017042903A1 (ja) * 2015-09-09 2017-03-16 日立マクセル株式会社 車両用映像処理装置
JP2017220715A (ja) * 2016-06-03 2017-12-14 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
WO2023089705A1 (ja) * 2021-11-17 2023-05-25 日本電信電話株式会社 画像処理装置、画像処理方法およびプログラム
WO2023089706A1 (ja) * 2021-11-17 2023-05-25 日本電信電話株式会社 画像処理装置、画像処理方法およびプログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102009058597B4 (de) 2009-12-17 2012-04-19 Siemens Aktiengesellschaft Bildaufnahmesystem zur Aufnahme und Übertragung digitaler Videobilder, Bilddatenverarbeitungssystem zum Empfangen und Verarbeiten digitaler Bilddaten, Bildstabilisierungssystem und Verfahren zum Generieren verwacklungsarmer digitaler Videobilder
JP2012142827A (ja) * 2011-01-05 2012-07-26 Sony Corp 画像処理装置および画像処理方法
JP6332996B2 (ja) * 2013-04-17 2018-05-30 キヤノン株式会社 動画像処理装置および撮像装置、動画像処理方法
JP6671994B2 (ja) * 2016-02-02 2020-03-25 キヤノン株式会社 撮像装置およびその制御方法、プログラム、記憶媒体
US11829559B2 (en) * 2021-08-27 2023-11-28 International Business Machines Corporation Facilitating interactions on a mobile device interface based on a captured image

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04213973A (ja) * 1990-12-12 1992-08-05 Mitsubishi Electric Corp 画像ゆれ補正装置
WO2004008744A1 (ja) * 2002-07-12 2004-01-22 Iwane Laboratories, Ltd. 道路面等の平面対象物映像の平面展開画像処理方法、同逆展開画像変換処理方法及びその平面展開画像処理装置、逆展開画像変換処理装置
JP2004349926A (ja) * 2003-05-21 2004-12-09 Suzuki Motor Corp 障害物検出装置及び方法並びに障害物検出用プログラム
JP2006048338A (ja) * 2004-08-04 2006-02-16 Nissan Motor Co Ltd 移動体検出装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61201581A (ja) 1985-03-04 1986-09-06 Toshiba Corp 動きベクトル検出装置
US5237405A (en) * 1990-05-21 1993-08-17 Matsushita Electric Industrial Co., Ltd. Image motion vector detecting device and swing correcting device
CA2054344C (en) * 1990-10-29 1997-04-15 Kazuhiro Itsumi Video camera having focusing and image-processing function
JP3103897B2 (ja) * 1991-03-19 2000-10-30 ソニー株式会社 手振れ補正装置および手振れ補正方法
JP3244798B2 (ja) * 1992-09-08 2002-01-07 株式会社東芝 動画像処理装置
JP3692566B2 (ja) * 1995-09-12 2005-09-07 株式会社ニコン ブレ補正カメラ
JPH09212648A (ja) * 1996-01-31 1997-08-15 Toshiba Corp 動画像処理方法
US6229548B1 (en) * 1998-06-30 2001-05-08 Lucent Technologies, Inc. Distorting a two-dimensional image to represent a realistic three-dimensional virtual reality
JP2000222584A (ja) * 1999-01-29 2000-08-11 Toshiba Corp 映像情報記述方法、映像検索方法及び映像検索装置
JP3679988B2 (ja) * 2000-09-28 2005-08-03 株式会社東芝 画像処理装置及び画像処理方法
US7982772B2 (en) * 2004-03-30 2011-07-19 Fujifilm Corporation Image correction apparatus and image correction method for correcting image blur using a mobile vector
JP4345722B2 (ja) * 2005-07-15 2009-10-14 ソニー株式会社 動体追跡制御装置、動体追跡システム、動体追跡制御方法及びプログラム
US20070140529A1 (en) * 2005-12-21 2007-06-21 Fujifilm Corporation Method and device for calculating motion vector between two images and program of calculating motion vector between two images

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04213973A (ja) * 1990-12-12 1992-08-05 Mitsubishi Electric Corp 画像ゆれ補正装置
WO2004008744A1 (ja) * 2002-07-12 2004-01-22 Iwane Laboratories, Ltd. 道路面等の平面対象物映像の平面展開画像処理方法、同逆展開画像変換処理方法及びその平面展開画像処理装置、逆展開画像変換処理装置
JP2004349926A (ja) * 2003-05-21 2004-12-09 Suzuki Motor Corp 障害物検出装置及び方法並びに障害物検出用プログラム
JP2006048338A (ja) * 2004-08-04 2006-02-16 Nissan Motor Co Ltd 移動体検出装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101075672B1 (ko) 2008-11-18 2011-10-21 산요 세미컨덕터 컴퍼니 리미티드 진동 보상 제어 회로 및 촬상 장치
JP2012242759A (ja) * 2011-05-23 2012-12-10 Canon Inc 撮像装置、その制御方法及びプログラム
WO2017042903A1 (ja) * 2015-09-09 2017-03-16 日立マクセル株式会社 車両用映像処理装置
JP2017220715A (ja) * 2016-06-03 2017-12-14 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
WO2023089705A1 (ja) * 2021-11-17 2023-05-25 日本電信電話株式会社 画像処理装置、画像処理方法およびプログラム
WO2023089706A1 (ja) * 2021-11-17 2023-05-25 日本電信電話株式会社 画像処理装置、画像処理方法およびプログラム

Also Published As

Publication number Publication date
JP4759524B2 (ja) 2011-08-31
US20080174663A1 (en) 2008-07-24
US7903144B2 (en) 2011-03-08

Similar Documents

Publication Publication Date Title
JP4759524B2 (ja) 電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置
US8743222B2 (en) Method and apparatus for cropping and stabilization of video images
JP4401949B2 (ja) 動画撮像装置及び動画撮像方法
JP2006317848A (ja) 静止画撮像装置
JP2013165485A (ja) 画像処理装置、撮像装置およびコンピュータブログラム
JP2007300581A (ja) 動画撮影装置および動画撮影プログラム
JP2013165487A (ja) 画像処理装置、撮像装置、およびプログラム
JP2007243335A (ja) 手振れ補正方法、手振れ補正装置および撮像装置
JP2015053741A (ja) 画像再生装置
JP2017175364A (ja) 画像処理装置、撮像装置および画像処理装置の制御方法
JP4125331B2 (ja) 撮像装置及びその制御方法
JP2018061130A (ja) 画像処理装置、画像処理方法、及びプログラム
KR20160098853A (ko) 이미지 안정화 방법 및 그 전자 장치
WO2017104102A1 (ja) 撮像装置
JP5402242B2 (ja) 画像再生装置、撮像装置、画像再生方法、画像再生プログラム
JP2007202050A (ja) 画像生成装置および画像生成プログラム
JP4844220B2 (ja) 露出補正装置、撮影装置、露出値設定装置、露出補正値算出方法および制御プログラム
JP2017161649A (ja) 像ブレ補正装置及びその制御方法、プログラム、記憶媒体
KR20110125077A (ko) 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 저장매체
JP2007201570A (ja) 画像処理装置、撮影装置、画像処理方法、および、制御プログラム
JP5179859B2 (ja) 撮像装置及び撮像方法
JP2017183983A (ja) 撮像装置、その制御方法、および制御プログラム
JP6762843B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2017028527A (ja) 動画撮影装置、動画撮影方法及びプログラム
JP2008172309A (ja) 電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090904

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100830

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110407

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110606

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140610

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees