JP2020190690A - 像ぶれ補正装置、像ぶれ補正方法、及び像ぶれ補正プログラム - Google Patents
像ぶれ補正装置、像ぶれ補正方法、及び像ぶれ補正プログラム Download PDFInfo
- Publication number
- JP2020190690A JP2020190690A JP2019097084A JP2019097084A JP2020190690A JP 2020190690 A JP2020190690 A JP 2020190690A JP 2019097084 A JP2019097084 A JP 2019097084A JP 2019097084 A JP2019097084 A JP 2019097084A JP 2020190690 A JP2020190690 A JP 2020190690A
- Authority
- JP
- Japan
- Prior art keywords
- image
- blur correction
- model
- state quantity
- acceleration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
- H04N23/687—Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Adjustment Of Camera Lenses (AREA)
Abstract
Description
本発明の第3の態様は、第1又は2の態様において、前記メモリに記録された複数のモ
デルの中から、前記第2の算出回路が使用する前記モデルを選択する選択回路を更に備える、ことを特徴とする。
本発明の第5の態様は、第1の態様において、前記第2の算出回路は、カルマンフィルタ又は加重平均フィルタである、ことを特徴とする。
本発明の第7の態様は、第1の態様において、前記第1の状態量は、前記加速度に対して所定の信号処理が施された加速度であり、前記第2の状態量は、前記所定の信号処理後の加速度の真値を推定した推定値である、ことを特徴とする。
本発明の第9の態様は、第4の態様において、前記複数の自己回帰係数は、前記像ぶれ補正装置の製造工程時に算出されて前記メモリに記録される、ことを特徴とする。
本発明の第11の態様は、第4の態様において、前記結像面を有する装置は、撮像装置であり、前記複数の自己回帰係数は、前記撮像装置の撮影待機中に算出される、ことを特徴とする。
はじめに、実施の形態において対象となるフィルタリング処理(推定フィルタリング処理)の原理について説明する。なお、以下では、対象となるシステムや時系列信号の振る舞いを、単純化した数式に置き換えたものをモデルと言う。
この推定された現在の状態値と現在の観測値とを比較し、それぞれの誤差を計算することで、より精度の高い現在の状態や、直接観測できない値を推定する方法がある。
カルマンフィルタは、誤差のある観測値とシステムを模したモデルとを用いて、ある動的システムの状態を推定あるいは制御するための、ベイズフィルタ(Bayesian filter)
の一種である。
図1に示すシステムは、観測対象系101とカルマンフィルタ102を含む。
観測対象系101において、対象となるシステム104は、システムノイズvt103に依り駆動する。加算器106は、システム104の状態の一部と観測ノイズwt105とを加算して観測値ytを出力する。
状態推定値
とから、時刻tにおける事前状態推定値
を出力する。事後推定値算出部109は、時刻tにおける事前状態推定値
に対して、モデルの誤差と観測誤差に基づいてカルマンゲイン算出部110に依り算出されたカルマンゲインgtと、現在の観測値ytとを用いて補正を行い、事後状態推定値
を出力する。
状態方程式(式(1))において、左辺は、システム104の時刻tの状態xtを示す。右辺は、状態xtから遅延演算子Z−1202に依り得られた前回(時刻t−1)の状態xt−1に状態遷移行列A203を乗じたもの(第1項)と、システムノイズvt103に駆動源ベクトルb201を乗じたもの(第2項)との和を示す。ここで、状態遷移行列A203は、前回(時刻t−1)の状態から現在(時刻t)の状態への状態の伝播を表す係数である。駆動源ベクトルb201は、システムノイズが状態に与える影響を表す係数である。
の算出過程について、図1及び図2並びに図3を参照しながら詳細に説明する。
なお、下記の式(3)及び式(6)は、図1に対応する。下記の式(4)、式(5)、及び式(7)は、図3に対応する。
図3において、係数A、b、cTは、図2に示した状態遷移行列A203、駆動源ベクトルb201、観測係数cT204に対応し、同一の符号が付されている。また、システムノイズvt103の分散をq301とし、観測ノイズwt105の分散をr302とする。
は、図1に示した事前推定値算出部111の出力に対応する。事後状態推定値
を遅延演算子Z−1108に依り前回(時刻t−1)の状態推定値
とし、モデル107を用いて事前状態推定値
を求める。これは、図2に示した、状態遷移行列A203を前回(時刻t−1)の状態推定値
に乗じたものに対応し、下記式(3)で表される。
現在の推定値の予測誤差を表す事前誤差共分散行列
は、図1に示したカルマンゲイン算出部110内で、より詳しくは、図3に示した
算出部304で、次のとおり算出される。
ここで、ATはAの転置行列であり、bTはbの転置行列である。
事前状態推定値
を観測値ytに依り補正する係数であるカルマンゲインgtは、図1に示したカルマンゲイン算出部110内で、より詳しくは、図3に示したgt算出部305で、次のとおり算出される。
算出部304で算出された事前誤差共分散行列
と、観測ノイズ分散r302と、観測係数cT204とから、下記式(5)に依り算出される。
カルマンフィルタ102の出力となる事後状態推定値
は、図1に示した事後推定値算出部109において、カルマンゲインgtと観測値ytと観測係数cTとに依り事前状態推定値
を補正することに依り求められる。具体的には、下記式(6)に依り求められる。
ここで、Iは、単位行列である。
こうして推定された事後状態推定値
が、最適な状態推定値となる。
算出部304で算出された事前誤差共分散行列
と、カルマンゲインgtと、観測係数cT204とから、下記式(7)に依り算出される。
次に、実施の形態に係る像ぶれ補正装置を含む撮像装置であるカメラに対する方向を定義する。
図4に示すとおり、実施の形態に係る像ぶれ補正装置を含む撮像装置であるカメラ501に対して、X方向、Y方向、Z方向、ピッチ(Pitch)方向、ヨー(Yaw)方向、及びロール(Roll)方向を、次のとおり定義する。
また、X方向の軸回り(X軸回り)の回転方向をピッチ方向とし、Y方向の軸回り(Y軸回り)の回転方向をヨー方向とし、Z方向の軸回り(Z軸回り)の回転方向をロール方向とする。
カメラ501の撮像面のY方向に生じる像移動で生じる像ぶれとなる。
図5は、第1の実施形態に係る像ぶれ補正装置を含む撮像装置であるカメラの構成を示すブロック図である。
又はCMOS(complementarymetal oxide semiconductor)等のイメージセンサである。
加速度センサ508は、カメラ501のX方向及びY方向に生じる加速度を検出し、検出した加速度に対応したアナログ信号を検出信号として出力する。
センサシフト方式、レンズシフト方式、及び電子的な方式のうちの2つ以上の方式を組み合わせて採用してもよい。
FPGA(Field-Programmable Gate Array)等の専用回路から構成されてもよい。
ぶれ補正マイコン506は、撮像面のX方向の像ぶれを補正する構成と、撮像面のY方向の像ぶれを補正する構成を有し、両者の構成は基本的に同じである。そこで、図6には、その一方の構成のみを示し、他方の構成については図示を省略する。また、ここでは、その一方の構成のみを説明し、他方の構成については説明を省略する。
まず、角度ぶれ量の算出に係る構成について説明する。
なお、これらの角度ぶれ量の算出に係る構成において、角速度信号処理部601は、所定のサンプリング周期ごとに、角速度センサ507の出力信号の取得、デジタル値への変換、及び基準値の減算を行う。乗算部602は、角速度信号処理部601に依る基準値の減算結果の各々に対し、焦点距離(f)の乗算を行う。積分フィルタ603は、所定の周期ごとに、当該周期において取得された乗算部602に依る乗算結果の各々を積算(累積加算)する、といった時間積分を行う。
並進ぶれ量は、カメラ501の移動に伴って発生する加速度(移動加速度)から算出される。なお、並進ぶれ量は、並進移動する像移動量でもある。
そこで、基準値は、当該基準値の減算に依り、加速度センサ508が検出する重力加速度の成分も取り除かれる値とされることが望ましい。なお、加速度センサの出力から重力加速度の成分を取り除く(減算する)手法は公知であるので、ここでは、その説明を省略する。
なお、加速度信号処理部604は、所定のサンプリング周期ごとに、加速度センサ508の出力信号の取得、デジタル値への変換、及び基準値の減算を行う。積分フィルタ605は、所定の周期ごとに、当該周期において取得された加速度信号処理部604に依る減算結果の各々を積算(累積加算)する、といった時間積分を行う。
積分フィルタ613は、乗算部612に依り算出された像移動速度を時間積分し、カメラ501の平行移動に伴う、撮像面での像移動量(像の並進移動量)を算出する。なお、積分フィルタ613は、所定の周期ごとに、当該周期において取得された乗算部612に依る乗算結果の各々を積算(累積加算)する、といった時間積分を行う。
図6に示したぶれ補正マイコン506では、加算部614が角度ぶれと並進ぶれとを合わせた手ぶれに依る像移動量を算出する。そして、補正制御部615が、算出された像移動量に基づいて駆動部504を制御することで、例えば、並進ぶれが生じ易いマクロ撮影でもぶれのない撮影が可能になる。
カルマンフィルタ606は、図1等を用いて説明したとおり、対象となるシステムに対
応するモデル(図1ではシステム104に対応するモデル107)が必要になる。一般的には、対象となるシステムの伝達特性のモデルが既知であることが多いが、本実施形態では、それが既知でない。そこで、本実施形態では、実際に取得した物理量の時系列データからモデルを生成可能なAR(Auto-Regressive:自己回帰)モデルで手ぶれに依る並進速
度をモデル化して使用する。ARモデルの詳細については、後述する。
n]及びモデルの推定誤差Qとなる。本実施形態では、ぶれ補正マイコン506における
演算処理回路や演算プログラムに実装する場合の実現性と演算精度を考慮した例を示す。ここでは、n次の自己回帰係数を、3次の自己回帰係数φ3=[φ0,φ1,φ2,φ3]として説明する(φ0は定数項となるため0として使用しない)。
使用モデル取得部803は、使用モデル判定部802の判定結果に基づいて、速度モデル記録部607から、使用するモデル(ARモデルの自己回帰係数φと推定誤差Q)を取得し、取得した自己回帰係数φを並進手ぶれ速度モデル701および駆動源ベクトルb611に指定し、取得した推定誤差QをシステムノイズQ610に指定する。
続いて、カルマンフィルタ606に係る状態方程式と観測方程式について説明する。
状態方程式(式(9))と観測方程式(式(10))の2つの式が、本実施形態で使用する状態空間モデルとなる。
なお、ここでI2は、2行×2列の単位行列である。
A:並進手ぶれ速度モデル701
b:駆動源ベクトルb611
cT:カルマンゲイン算出部702の内部、演算部704
Q:システムノイズQ610
R:観測ノイズR609
は、下記式(11)で表すことができる。
は3次のベクトルであるため、現在の推定速度
を取り出し、乗算部612への入力とする。
カルマンフィルタ606内でのデータの流れを、図7を参照しながら説明する。
を、遅延演算子Z−1706に依り前回(時刻t−1)の状態推定値
とする。前回(時刻t−1)の状態推定値
と並進手ぶれ速度モデル701に依って事前状態推定値
を算出する(式(3)参照)。
の算出(式(4)参照)、カルマンゲインgtの算出(式(5)参照)、事後誤差共分散行列Ptの算出(式(7)参照)を行う。
に対する重みづけを行い、加算部705は、それらを加算する。これに依り、事後状態推定値
が算出される。
ARモデルは、時刻tにおける時系列データxtの値を、時刻tよりも古いデータを用いて推定するモデルであり、n次のARモデルは、その自己回帰係数φi=[φ0,φ1
,φ2,・・・,φn]を用いて、下記式(12)で表される。
自己回帰係数φiは、時系列データからユール・ウォーカー法(Yule-Walker - equation)や最小二乗法を用いて求めることができる。
ここで、時系列データを{Yt}としてYtとYtーsの共分散、つまりs次の自己共分散をcsとする。そして、下記のユール・ウォーカー方程式(式(13))を解くことで自己回帰係数φi=[φ0,φ1,φ2,・・・,φn]のそれぞれの値を算出することができる。
つまり、φiを算出するためには、精度の高い並進ぶれの時系列データが必要となる。本実施形態では、並進ぶれ速度の時系列データを用いて、上記方式に依りモデル(速度モデル記録部607に記録されるモデル)が作成される。
カメラ501は、手ぶれが生じる撮影条件で、マクロ撮影を行う状態且つ角度ぶれの高精度補正を行う状態で動画撮影を行う。このときの動画撮影では、フレーム間の移動量(
オプティカルフロー)の取得に適した被写体チャートを撮影する。そして、カメラ501
は角度ぶれを高精度に補正を行って角度ぶれを完全に補正する。
動部504を制御する。
と、フレーム間時間Δtと、画素ピッチdと、撮影倍率βとから、下記式(14)に依り求めることができる。
これに依り、動画データから、並進ぶれ速度の時系列データ{Yt}が得られる。
なお、並進速度は、個人差やカメラ501の姿勢差に依り特性が異なる。
0,φ1,φ2,・・・,φn]と推定誤差分散Qとなる。
図9において、(A)は、像ぶれ補正を行わない場合の撮像面に生じる像移動速度を示しており、角度ぶれと並進ぶれ双方の影響を受けている。
(C)は、(B)に示した角度ぶれに依る像移動速度に基づいて駆動部504を駆動して像ぶれを補正したときの動画データから得られたフレーム間の像移動速度である((A)−(B)に対応)。角度ぶれの補正が完全であるならば、(C)に示した像移動速度が、撮像面における並進ぶれと等しくなる。
次に、第2の実施形態について説明する。第2の実施形態の説明では、第1の実施形態に対して異なる点を中心に説明する。また、第1の実施形態と同一の構成要素については同一の符号を付し、その説明を省略する。
カメラ501は、並進手ぶれ速度モデル作成専用モードが設定されると、図10に示す処理を開始する。
次に、カメラ501は、動画データを取得し記録する(S1004)。
次に、カメラ501は、記録された動画データからオプティカルフローを算出する(S1008)。
次に、カメラ501は、作成した並進手ぶれ速度モデルを速度モデル記録部607に記録し(S1011)、図10に示した処理が終了する。
図11は、第2の実施形態に係るぶれ補正マイコン506とシステムコントローラ505の構成を示す図である。但し、図11には、図10に示した処理に関係する構成のみを示す。
を算出する。
記録された動画データには、並進ぶれと角度ぶれに依る補正残りの影響が像移動として現れるので、角度ぶれ補正速度不足分
を減算することで、並進ぶれの影響を抽出することができる。但し、このときの減算結果は、撮像面での像ぶれであるため、撮影時の像倍率(撮影倍率)で除算することに依り、カメラ501の並進速度を算出する。
ここで、
は、動画フレーム間像移動量である。
は、角度ぶれ補正速度不足分である。Δtは、フレーム間時間である。dは、動画データに係る動画の画素ピッチである。βは、撮影時の像倍率(撮影倍率)である。
第2の実施形態では、実際にカメラ501を使用するユーザの手ぶれから並進手ぶれ速度モデルが作成されるので、個人差に依る特性の違いを考慮する必要がなく、使用するユーザに最適な手ぶれ補正を提供することができる。
どの外部装置に転送し、その外部装置内でのプログラムの実行に依りモデルを作成し、作成したモデルをカメラ501の速度モデル記録部607に戻してもよい。
図12において、(A)は、像ぶれ補正を行わない場合の撮像面に生じる像移動速度を示している。
(C)は、補正速度制限部1101の出力であって、所定の速度を閾値として、その閾値までに制限された像移動速度を示している。
(F)は、(E)に示した像移動速度から、(D)に示した角度ぶれ補正速度不足分を減算すること((E)−(D))に依り得られた、並進ぶれに依る像移動速度を示している。
次に、第3の実施形態について説明する。第3の実施形態の説明では、第1の実施形態に対して異なる点を中心に説明する。また、第1の実施形態と同一の構成要素については同一の符号を付し、その説明を省略する。
なお、ライブビューとは、システムコントローラ505が撮像素子503から読みだした画像データに係る映像を画像処理部1103に依りEVF509に表示可能なデータ形式に変換してEVF509に出力することに依り、撮影する画像をEVF509にリアルタイムに表示させる動作のことである。
減算部1102は、乗算部602に依り算出された像移動速度から、角度ぶれ補正速度制限部1101に依り制限された像移動速度を減算することに依り、角度ぶれ補正速度不足分
を算出する。
システムコントローラ505において、オプティカルフロー演算部1104は、撮像素子503から読み出されて画像処理部1103に依り画像処理された映像データ(画像データ)のフレーム間の像移動量を算出する。
と、フレーム間の並進ぶれ補正速度
と、フレーム間の角度ぶれ補正速度不足分
とから、ライブビュー中のカメラ501の並進速度の時系列データYkを、下記式(16)に依り算出する。
ここで、Δtは、フレーム間時間である。dは、動画データに係る動画の画素ピッチである。βは、撮影時の像倍率(撮影倍率)である。
図14は、第3の実施形態に係る時系列データの一例を示す図である。
(B)は、乗算部602の出力である角度ぶれに依る像移動速度を示している。
(D)は、(B)に示した角度ぶれに依る像移動速度から、(C)に示した制限された像移動速度を減算すること((B)−(C))に依り得られた、角度ぶれ補正速度不足分(減算部1102の出力)を示している。
(F)は、並進ぶれ補正速度制限部1301の出力であって、所定の速度を閾値として、その閾値までに制限された像移動速度を示している。
(H)は、動画データに係る動画において検出されたフレーム間の像移動量から算出した像移動速度を示している。
次に、第4の実施形態について説明する。第4の実施形態の説明では、第1の実施形態に対して異なる点を中心に説明する。また、第1の実施形態と同一の構成要素については同一の符号を付し、その説明を省略する。
図15に示すぶれ補正マイコン506では、加速度信号処理部604の処理結果がカルマンフィルタ1501に入力される。カルマンフィルタ1501は、第1の実施形態に係るカルマンフィルタ606に対して、フィルタリング処理する対象と、使用するモデルが異なる。カルマンフィルタ1501の詳細は、図16を用いて後述する。
乗算部612は、積分フィルタ605に依り算出された並進速度に撮影倍率βを乗算することに依り、撮像面における並進ぶれに依る像移動量を算出する。
図16に示すとおり、第4の実施形態に係るカルマンフィルタ1501と、第1の実施形態に係るカルマンフィルタ606との異なる点は、入力が加速度であり、使用されるモデルが、並進ぶれに依り生じる並進ぶれ加速度の時系列データから生成された並進手ぶれ加速度モデル1601である点である。
を用いる。
並進手ぶれ加速度モデルを作成するためには、通常の手ぶれ補正に使用する加速度センサ508よりも高精度な並進加速度の時系列データが必要である。例えば、その時系列データは、加速度センサ508よりも高精度にX、Y、Zの3軸の加速度が取得できる加速度計をカメラ501に装着して取得した並進加速度の時系列データでもよいし、ノイズを平均化し除去するために長期間にわたり加速度センサ508で取得した撮影者の並進ぶれ加速度の時系列データを用いてもよい。
次に、第5の実施形態について説明する。第5の実施形態の説明では、第1の実施形態に対して異なる点を中心に説明する。また、第1の実施形態と同一の構成要素については同一の符号を付し、その説明を省略する。
図17に示すぶれ補正マイコン506では、積分フィルタ605の出力が積分フィルタ613に入力さる。積分フィルタ613は、積分フィルタ605に依り算出された並進速度を時間積分して並進移動量(並進変位)を算出する。
図18は、第5の実施形態に係るカルマンフィルタ1701の構成を示す図である。
図18に示すとおり、第5の実施形態に係るカルマンフィルタ1701と、第1の実施形態に係るカルマンフィルタ606との異なる点は、入力が並進移動量であり、使用されるモデルが、並進ぶれに依り生じる並進ぶれ移動量の時系列データから生成された並進手ぶれ変位モデル1801である点である。
第5の実施形態では、モデルの次数を2次とすることで十分な精度が確保できる。
並進手ぶれ変位モデルを作成するためには、通常の手ぶれ補正に使用する加速度センサ508の検出結果の2回積分よりも高精度な並進変位の時系列データが必要である。例えば、その時系列データとして、レーザ変位計に依り手持ち撮影時のカメラ変位を測定した並進ぶれ変位の時系列データなどが考えられる。
次に、第6の実施形態について説明する。第6の実施形態の説明では、第1の実施形態に対して異なる点を中心に説明する。また、第1の実施形態と同一の構成要素については同一の符号を付し、その説明を省略する。
図19に示すとおり、第1の実施形態に対して異なる点は、カルマンフィルタ606の代わりに加重平均フィルタ1901を用いる点である。
図20に示す加重平均フィルタ1901において、加重決定部2001は、入力された並進速度(積分フィルタ605の算出結果)の特性を解析し、使用中のモデルの特性との乖離が増大した場合は、観測値である並進速度の加重を高くし、使用中のモデルの特性の差が小さいほど、並進手ぶれ速度モデル2002の出力の加重を高くするための加重係数aを加重乗算部2003、2004に設定する。
なお、並進手ぶれ速度モデル2002、遅延演算子Z−12005、及び加算部2006は、第1の実施形態で説明した並進手ぶれ速度モデル701、遅延演算子Z−1706、及び加算部705に対応する。
例えば、第4又は第5の実施形態に対し、第2の実施形態で説明した並進手ぶれ速度モデル作成専用モードに類するモデル作成専用モードを備えさせたり、第3の実施形態で説明したライブビュー中のモデル作成を可能にさせたりしてもよい。また、例えば、第1の実施形態と第3の実施形態とを組み合わせて、状況に応じて適したモデルを使用する構成としてもよい。さらに、例えば、第6の実施形態と同様に、第2〜第5の各実施形態において、カルマンフィルタの代わりに加重平均フィルタを用いてもよい。その他にも、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。また、例えば、実施形態に示される全構成要素のいくつかの構成要素を削除してもよい。
102 カルマンフィルタ
103 システムノイズ
104 システム
105 観測ノイズ
106 加算器
107 モデル
108 遅延演算子
109 事後推定値算出部
110 カルマンゲイン算出部
111 事前推定値算出部
201 駆動源ベクトル
202 遅延演算子
203 状態遷移行列
204 観測係数
301 システムノイズの分散
302 観測ノイズの分散
303 遅延演算子
304 事前誤差共分散行列算出部
305 カルマンゲイン算出部
306 誤差共分散行列算出部
501 カメラ
502 光学系
503 撮像素子
504 駆動部
505 システムコントローラ
506 ぶれ補正マイコン
507 角速度センサ
508 加速度センサ
509 EVF
601 角速度信号処理部
602 乗算部
603 積分フィルタ
604 加速度信号処理部
605 積分フィルタ
606 カルマンフィルタ
607 速度モデル記録部
608 速度モデル選択部
609 観測ノイズ
610 システムノイズ
611 駆動源ベクトル
612 乗算部
613 積分フィルタ
614 加算部
615 補正制御部
701 並進手ぶれ速度モデル
702 カルマンゲイン算出部
703 乗算部
704 演算部
705 加算部
706 遅延演算子
801 手ぶれ速度解析部
802 使用モデル判定部
803 使用モデル取得部
1101 補正速度制限部
1102 減算部
1103 画像処理部
1104 オプティカルフロー演算部
1105 並進ぶれ速度時系列データ作成部
1106 モデル作成部
1301 並進ぶれ補正速度制限部
1302 並進ぶれ速度時系列データ算出部
1501 カルマンフィルタ
1502 加速度モデル記録部
1503 加速度モデル選択部
1601 並進手ぶれ加速度モデル
1701 カルマンフィルタ
1702 変位モデル記録部
1703 変位モデル選択部
1801 並進手ぶれ変位モデル
1901 加重平均フィルタ
2001 加重決定部
2002 並進手ぶれ速度モデル
2003、2004 加重乗算部
2005 遅延演算子
2006 加算部
Claims (14)
- 像ぶれ補正装置であって、
被写体像を結像面に結像する光学系と、
前記結像面を有する装置の加速度を検出する加速度センサと、
前記加速度を用いて第1の状態量を算出する第1の算出回路と、
前記第1の状態量とモデルとを用いて、前記第1の状態量の真値を推定した推定値を第2の状態量として算出する第2の算出回路と、
前記第2の状態量を用いて前記結像面での像ぶれ量を算出する第3の算出回路と、
前記モデルを記録するメモリと、
を備えることを特徴とする。 - 請求項1記載の像ぶれ補正装置であって、
前記メモリは、前記モデルとして推定パラメータを記録する、
ことを特徴とする。 - 請求項1又は2記載の像ぶれ補正装置であって、
前記メモリに記録された複数のモデルの中から、前記第2の算出回路が使用する前記モデルを選択する選択回路を更に備える、
ことを特徴とする。 - 請求項2記載の像ぶれ補正装置であって、
前記推定パラメータは、複数の前記第1の状態量から算出された複数の自己回帰係数を含む、
ことを特徴とする。 - 請求項1記載の像ぶれ補正装置であって、
前記第2の算出回路は、カルマンフィルタ又は加重平均フィルタである、
ことを特徴とする。 - 請求項1記載の像ぶれ補正装置であって、
前記第1の状態量は、速度であり、
前記第2の状態量は、前記速度の真値を推定した推定値である、
ことを特徴とする。 - 請求項1記載の像ぶれ補正装置であって、
前記第1の状態量は、前記加速度に対して所定の信号処理が施された加速度であり、
前記第2の状態量は、前記所定の信号処理後の加速度の真値を推定した推定値である、
ことを特徴とする。 - 請求項1記載の像ぶれ補正装置であって、
前記第1の状態量は、変位であり、
前記第2の状態量は、前記変位の真値を推定した推定値である、
ことを特徴とする。 - 請求項4記載の像ぶれ補正装置であって、
前記複数の自己回帰係数は、前記像ぶれ補正装置の製造工程時に算出されて前記メモリに記録される、
ことを特徴とする。 - 請求項4記載の像ぶれ補正装置であって、
前記複数の自己回帰係数は、前記像ぶれ補正装置に所定の動作モードが設定されたときに算出される、
ことを特徴とする。 - 請求項4記載の像ぶれ補正装置であって、
前記結像面を有する装置は、撮像装置であり、
前記複数の自己回帰係数は、前記撮像装置の撮影待機中に算出される、
ことを特徴とする。 - 請求項1記載の像ぶれ補正装置であって、
前記結像面は、撮像素子の撮像面であり、
前記撮像素子又は前記光学系の一部を光軸に垂直な方向に移動させる駆動機構と、
前記像ぶれ量に基づいて前記駆動機構を動作させる制御回路と、
を更に備える、
ことを特徴とする。 - 像ぶれ補正方法であって、
被写体像を結像面に結像することと、
前記結像面を有する装置の加速度を検出することと、
前記加速度を用いて第1の状態量を算出することと、
前記第1の状態量とモデルとを用いて、前記第1の状態量の真値を推定した推定値を第2の状態量として算出することと、
前記第2の状態量を用いて前記結像面での像ぶれ量を算出することと、
を有することを特徴とする。 - 像ぶれ補正プログラムであって、
被写体像を結像面に結像することと、
前記結像面を有する装置の加速度を検出することと、
前記加速度を用いて第1の状態量を算出することと、
前記第1の状態量とモデルとを用いて、前記第1の状態量の真値を推定した推定値を第2の状態量として算出することと、
前記第2の状態量を用いて前記結像面での像ぶれ量を算出することと、
を有する処理を実行させることを特徴とする。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019097084A JP2020190690A (ja) | 2019-05-23 | 2019-05-23 | 像ぶれ補正装置、像ぶれ補正方法、及び像ぶれ補正プログラム |
US16/875,255 US11172129B2 (en) | 2019-05-23 | 2020-05-15 | Image blurring correction apparatus, image blurring correction method, and recording medium having image blurring correction program recorded therein |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019097084A JP2020190690A (ja) | 2019-05-23 | 2019-05-23 | 像ぶれ補正装置、像ぶれ補正方法、及び像ぶれ補正プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020190690A true JP2020190690A (ja) | 2020-11-26 |
JP2020190690A5 JP2020190690A5 (ja) | 2022-01-11 |
Family
ID=73453693
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019097084A Pending JP2020190690A (ja) | 2019-05-23 | 2019-05-23 | 像ぶれ補正装置、像ぶれ補正方法、及び像ぶれ補正プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11172129B2 (ja) |
JP (1) | JP2020190690A (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110971895B (zh) * | 2019-12-18 | 2022-07-08 | 北京百度网讯科技有限公司 | 视频抖动检测方法和装置 |
CN114567726A (zh) * | 2022-02-25 | 2022-05-31 | 苏州安智汽车零部件有限公司 | 一种类人眼自适应消抖前视摄像头 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05204014A (ja) * | 1992-01-24 | 1993-08-13 | Olympus Optical Co Ltd | 撮影装置の手ぶれ防止装置 |
JPH05204012A (ja) * | 1992-01-24 | 1993-08-13 | Olympus Optical Co Ltd | 手ぶれ信号予測装置 |
JPH0720547A (ja) * | 1993-06-30 | 1995-01-24 | Ricoh Co Ltd | カメラの手ぶれ補正装置 |
JP2007114466A (ja) * | 2005-10-20 | 2007-05-10 | Toshiba Corp | 手ぶれ補正機能を有する撮影装置 |
JP2011029735A (ja) * | 2009-07-21 | 2011-02-10 | Canon Inc | 画像処理装置、撮像装置及び画像処理方法 |
JP2015022215A (ja) * | 2013-07-22 | 2015-02-02 | オリンパス株式会社 | 像ブレ補正装置及び撮像装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3513950B2 (ja) | 1993-12-14 | 2004-03-31 | 株式会社ニコン | 像振れ補正カメラ |
JP5913960B2 (ja) * | 2011-12-21 | 2016-05-11 | キヤノン株式会社 | 防振制御装置及びその制御方法、及び撮像装置 |
JP6150655B2 (ja) * | 2013-08-01 | 2017-06-21 | キヤノン株式会社 | 像振れ補正装置およびその制御方法、レンズ鏡筒、光学機器、並びに撮像装置 |
-
2019
- 2019-05-23 JP JP2019097084A patent/JP2020190690A/ja active Pending
-
2020
- 2020-05-15 US US16/875,255 patent/US11172129B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05204014A (ja) * | 1992-01-24 | 1993-08-13 | Olympus Optical Co Ltd | 撮影装置の手ぶれ防止装置 |
JPH05204012A (ja) * | 1992-01-24 | 1993-08-13 | Olympus Optical Co Ltd | 手ぶれ信号予測装置 |
JPH0720547A (ja) * | 1993-06-30 | 1995-01-24 | Ricoh Co Ltd | カメラの手ぶれ補正装置 |
JP2007114466A (ja) * | 2005-10-20 | 2007-05-10 | Toshiba Corp | 手ぶれ補正機能を有する撮影装置 |
JP2011029735A (ja) * | 2009-07-21 | 2011-02-10 | Canon Inc | 画像処理装置、撮像装置及び画像処理方法 |
JP2015022215A (ja) * | 2013-07-22 | 2015-02-02 | オリンパス株式会社 | 像ブレ補正装置及び撮像装置 |
Also Published As
Publication number | Publication date |
---|---|
US11172129B2 (en) | 2021-11-09 |
US20200374458A1 (en) | 2020-11-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101274061B1 (ko) | 화상 처리장치 및 화상 처리방법 | |
JP4926920B2 (ja) | 防振画像処理装置及び防振画像処理方法 | |
JP6017381B2 (ja) | 像ブレ補正装置及び撮像装置 | |
JP6091255B2 (ja) | ブレ量検出装置及び撮像装置 | |
US10791270B2 (en) | Image stabilization apparatus capable of accurately estimating an offset component of an angular velocity sensor, optical apparatus, and image stabilization method | |
US11290650B2 (en) | Image blur information acquisition apparatus and method, and storage medium | |
KR20140138947A (ko) | 화상 처리 장치, 화상 처리 방법, 및 기록 매체 | |
JP2017092616A (ja) | 像ブレ補正装置及び方法 | |
JP6881969B2 (ja) | 撮像装置、交換レンズおよびそれらの制御方法 | |
JP5499050B2 (ja) | 画像処理装置、撮像装置、及び画像処理方法 | |
JP2007114466A (ja) | 手ぶれ補正機能を有する撮影装置 | |
US11172129B2 (en) | Image blurring correction apparatus, image blurring correction method, and recording medium having image blurring correction program recorded therein | |
JP7009107B2 (ja) | 撮像装置およびその制御方法 | |
CN110062131A (zh) | 图像模糊校正装置及其控制方法和摄像装置 | |
JP7013205B2 (ja) | 像振れ補正装置およびその制御方法、撮像装置 | |
JP7426841B2 (ja) | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 | |
JP2010093451A (ja) | 撮像装置および撮像装置用プログラム | |
JP7506500B2 (ja) | 像振れ補正装置及び方法、及び、撮像装置 | |
JP7308672B2 (ja) | 像ブレ補正装置及びその制御方法、撮像システム、プログラム | |
JP7356272B2 (ja) | 像ブレ情報取得装置及び方法、像ブレ補正装置、プログラム、記憶媒体 | |
JP7204855B2 (ja) | 像振れ補正装置およびその制御方法、撮像装置 | |
JP7495800B2 (ja) | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 | |
JP2022021684A (ja) | 像ブレ補正装置およびその制御方法、撮像装置 | |
JP2012124939A (ja) | 撮像装置及び撮像装置の制御方法 | |
JP7214424B2 (ja) | 撮像装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211206 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211206 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221019 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221129 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230523 |