JP2019149717A - 画像処理装置及び画像処理方法、撮像装置、プログラム、記憶媒体 - Google Patents
画像処理装置及び画像処理方法、撮像装置、プログラム、記憶媒体 Download PDFInfo
- Publication number
- JP2019149717A JP2019149717A JP2018033671A JP2018033671A JP2019149717A JP 2019149717 A JP2019149717 A JP 2019149717A JP 2018033671 A JP2018033671 A JP 2018033671A JP 2018033671 A JP2018033671 A JP 2018033671A JP 2019149717 A JP2019149717 A JP 2019149717A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image processing
- shooting
- moving image
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
【課題】撮影動画から、再生速度が速い安定化動画を生成する場合に、画像の傾きを軽減させる。【解決手段】第1の動画像と第1の動画像を撮影した撮像装置の加速度の情報を入力する入力部と、第1の動画像のそれぞれのフレーム画像を用いて、撮像装置の撮影軌跡を推定する推定部と、推定された撮影軌跡を用いて、第1の動画像のそれぞれのフレーム画像の撮影時における撮像装置の静止状態を判定する判定部と、判定部により静止状態と判定されたフレーム画像の撮影時における、撮像装置の加速度の情報を用いて、撮影軌跡の重力方向を設定する設定部と、設定された重力方向に基づいて、撮影軌跡を補正した第2の動画像を生成する生成部とを備える。【選択図】 図2
Description
本発明は、例えば手振れなどによる撮影画角の変動を安定化させる画像処理技術に関するものである。
手振れなどによる撮影画角の変動を電子的に安定化させる技術として、従来から、撮影動画から撮影軌跡を推定して、推定された撮影軌跡の軌跡変動が低減するように補正し、補正後の撮影軌跡に対応した安定化動画を生成する技術が提案されている。
例えば、特許文献1では、加速度センサ、および角速度センサを用いて装置の振れを検出し、それぞれのセンサによって検出された検出結果に応じて、撮影画像の傾きを補正する技術が開示されている。
また、撮影動画に対して、再生速度をN倍速にした安定化動画を生成することにより、アクションカムで撮影された長時間動画を短時間のダイジェスト動画にして楽しむ、と言ったことも盛んに行われている。
しかしながら、上述の特許文献1に開示された従来技術では、通常のデジタルカメラで撮影された長時間動画から短時間ダイジェスト動画を生成する場合に、重力方向に対して傾いたフレームが発生してしまうことがある。これは加速度センサ、および角速度センサの検出結果だけでは、撮影装置の傾きを誤検知してしまうケースがあるためである。
上記の従来技術では、加速度センサの検出結果のノルムの大きさを重力加速度の大きさと比較して、所定の範囲内である場合に重力方向を検出しているが、加速度のかかり方によっては誤検知してしまうケースがある。
そのため、誤検知することなく加速度センサを用いて重力方向を検知するためには、加速度センサに重力加速度以外の加速度が加わっていない、例えば、撮影装置が静止している状態における加速度センサの検出結果を用いることが必要である。しかし撮影装置の静止状態を、加速度センサ、および角速度センサのジャークを用いて検出しようとすると、温度変化による検出値のオフセット変動が原因で、正しく検出できない場合がある。
本発明は上述した課題に鑑みてなされたものであり、その目的は、撮影動画から、再生速度が速い安定化動画を生成する場合に、画像の傾きを軽減させることである。
本発明に係わる画像処理装置は、第1の動画像と該第1の動画像を撮影した撮像装置の加速度の情報を入力する入力手段と、前記第1の動画像のそれぞれのフレーム画像を用いて、前記撮像装置の撮影軌跡を推定する推定手段と、推定された前記撮影軌跡を用いて、前記第1の動画像のそれぞれのフレーム画像の撮影時における前記撮像装置の静止状態を判定する判定手段と、前記判定手段により静止状態と判定されたフレーム画像の撮影時における、前記撮像装置の加速度の情報を用いて、前記撮影軌跡の重力方向を設定する設定手段と、設定された前記重力方向に基づいて、前記撮影軌跡を補正した第2の動画像を生成する生成手段と、を備えることを特徴とする。
本発明によれば、撮影動画から、再生速度が速い安定化動画を生成する場合に、画像の傾きを軽減させることが可能となる。
以下、本発明の一実施形態について、添付図面を参照して詳細に説明する。
図1は、本発明の撮像装置の一実施形態であるデジタルカメラ100の機能構成を示すブロック図である。図1において、制御部101は、例えばCPUであり、デジタルカメラ100が備える各ブロックの動作プログラムをROM102から読み出し、RAM103に展開して実行することによりデジタルカメラ100が備える各ブロックの動作を制御する。ROM102は、書き換え可能な不揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶する。RAM103は、書き換え可能な揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作において出力されたデータの一時的な記憶領域として用いられる。
光学系104はレンズ等で構成された光学系である。撮像部105はCMOSセンサ等の撮像素子を備え、光学系104により撮像素子に結像された光学像(被写体像)を光電変換し、得られたアナログ画像信号をA/D変換部106に出力する。A/D変換部106は、入力されたアナログ画像信号にA/D変換処理を適用し、得られたデジタル画像データをRAM103に出力して記憶させる。加速度センサ107(加速度検出手段)は、互いに直交するX、Y、Z方向ごとに加速度を検出し、撮像時に検出されたX、Y、Z方向の各加速度のデータをRAM103に出力して記憶させる。
画像処理部108は、RAM103に蓄えられている撮影動画と加速度データとを用いて、撮影軌跡の推定、重力基準方向の設定、撮像軌跡の補正を行い、軌跡変動を低減させ、且つ、画像の傾きを抑制させた安定化動画を生成する。記録媒体109は着脱可能なメモリカード等であり、RAM103に記憶されている、画像処理部108で処理された動画やA/D変換部106でA/D変換された動画などが、記録動画として記録される。
図2は、図1の画像処理部108の構成を説明するための図である。画像処理部108は、画像入力部201と、撮像軌跡推定部202と、静止状態判定部203と、重力方向設定部204と、撮像軌跡補正部205と、出力画像生成部206とを備える。撮像軌跡推定部202は、図3の画像マッチング部301、変動量算出部302、変動量累積部303を有する。
画像入力部201は、1フレーム又は複数フレーム分の記憶された撮影動画(フレーム画像)と加速度データ(加速度の情報)とを、RAM103から入力され、一時的に記憶保持する。撮像軌跡推定部202は、画像入力部201により入力された画像を使用し撮像の軌跡推定を行う。
図3は、撮像軌跡推定部202の構成を示す図である。画像マッチング部301は、現フレーム(フレーム番号n)と次フレーム(フレーム番号n+1)のマッチング処理を行う。変動量算出部302は、画像マッチング部301によるマッチング結果を使用し画像間の変動量を算出する。変動量累積部303は、変動量算出部302によって算出された画像間の変動量を累積し撮像軌跡を算出する。
静止状態判定部203は、撮像軌跡推定部202で算出された撮像軌跡を用いて、撮影動画のフレームのうち、デジタルカメラ100が静止している状態のフレームを判定する。重力方向設定部204は、静止状態判定部203で静止状態であると判定した動画フレームの撮影時に加速度センサ107で検出した加速度データを用いて、基準となる重力方向を設定する。
撮像軌跡補正部205は、撮像軌跡推定部202によって推定された撮像軌跡と、重力方向設定部204によって設定された基準となる重力方向とを用いて撮像軌跡の補正を行う。出力画像生成部206は、撮像軌跡補正部205によって補正された撮像軌跡に応じた画角領域を撮影動画から読み出し、撮像のN倍速(Nは整数)での安定化動画を生成する。
次に、上記のように構成された画像処理部108の動作について、図4に示すフローチャートを用いて詳細に説明する。
まず、ステップS401において、撮影された動画と加速度データとが、画像入力部201を介し画像処理部108へ入力され、一時的に記憶される。ステップS402において、撮像軌跡推定部202は、ステップS401で入力された画像を使用して撮像軌跡推定を行う。ここでステップS402の撮像軌跡推定における処理を図5に示すフローチャートを用いて詳細に説明する。
ステップS501において、図3の画像マッチング部301は、図6に示されるように、図6(a)の現フレーム(フレーム番号n)と図6(b)の次フレーム(フレーム番号n+1)でマッチング処理を行う。マッチング処理の結果を図6(c)に示す。特徴点マッチングの手法はSIFTのように現フレームと次フレームの特徴点をそれぞれ算出し、算出した特徴点の対応探索を行ってもよいし、KLT追跡器のように現フレームで特徴点を算出し、算出した特徴点を続くフレームで追跡する特徴点追跡を行ってもよい。2フレーム内の対応点を算出することができれば手法は問わない。図6(a)の丸で示された位置601,602,603は現フレーム中にある特徴点の位置であり、図6(b)で示されている位置604,605,606は次フレーム中にある特徴点の位置である。
マッチング処理の結果について、各特徴点の位置のうち対応する点を、図6(c)の線607,608,609で示した。このように図6(a)の点601は図6(b)の点604といったように各特徴点の対応を算出する。特徴点の数は、図6では3点の対応点のみしか表示していないが、実際にはこの数は限定されない。しかし後に算出する基礎行列Fのパラメータの数が8個であるため、好ましくは8点以上有る方が精度よく算出可能である。また特徴点は、その特徴量やマッチングの精度が高い点のみを用いる方が後のカメラ位置姿勢の算出精度が向上するため、マッチング時の相関値や特徴量がある閾値よりも高い対応点のみを用いるといった処理を行ってもよい。
ステップS502において、図3の変動量算出部302は、ステップS501において行ったマッチングの結果を使用し画像間の変動量、つまり画像間のカメラ位置姿勢の変動量を算出する。
ここで、ストラクチャフロムモーションを用いたカメラ位置姿勢推定の方法を図7を用いて説明する。2フレーム間の対応点は2つの視点から見た三次元的な同一点であり、図7を用いると、二つの視点のカメラ中心はC1,C2であり、同一点は三次元座標点Xで表わされる。そしてC1,C2から見た三次元座標点Xがフレーム上に投影される対応点はx1,x2で表わされる。
ここでC1,C2でのカメラ行列P1,P2をそれぞれ(式1)、(式2)で表わすと以下のように表される。
P1=K[I|0] …(式1)
P2=K[R|T] …(式2)
ここで原点を基準としたときの座標軸はカメラ中心C1に合わせており、Iは単位行列、Kは内部キャリブレーション行列、RはC2の位置でのカメラの向きを表わす回転変換行列、Tは三次元の平行移動ベクトルである。本実施形態ではC1,C2でのカメラは同じであるため、内部キャリブレーション行列は同じである。
P2=K[R|T] …(式2)
ここで原点を基準としたときの座標軸はカメラ中心C1に合わせており、Iは単位行列、Kは内部キャリブレーション行列、RはC2の位置でのカメラの向きを表わす回転変換行列、Tは三次元の平行移動ベクトルである。本実施形態ではC1,C2でのカメラは同じであるため、内部キャリブレーション行列は同じである。
ここでカメラの相対的な位置関係RとT、カメラの特性K、三次元点の位置の結果として画像上の点x1,x2に幾何学的な制約が生じるために、前述のカメラ行列を用いると、三次元座標点Xを画像上の点x1,x2に射影する条件を導き出すことができる。これは、(式3)の方程式を満たす必要がある。
x2TF・x1=0 …(式3)
F=K-TSt・R・K-1 …(式4)
(式3)はエピポーラ制約といい、このエピポーラ制約中の行列Fを基礎行列という。この行列Fは2つのカメラC1,C2間の回転および平行移動量を表わす式であり、(式3)はx1をx2に変換する式として表わされている。(式4)は行列Fを、カメラの相対的な位置関係RとT、カメラの特性K、Stで表わした式であり、Stは、三次元の平行移動ベクトルTで表わされる交代行列である。
F=K-TSt・R・K-1 …(式4)
(式3)はエピポーラ制約といい、このエピポーラ制約中の行列Fを基礎行列という。この行列Fは2つのカメラC1,C2間の回転および平行移動量を表わす式であり、(式3)はx1をx2に変換する式として表わされている。(式4)は行列Fを、カメラの相対的な位置関係RとT、カメラの特性K、Stで表わした式であり、Stは、三次元の平行移動ベクトルTで表わされる交代行列である。
よって、ステップS501で求めた2フレーム間の対応点群を用いて、(式3)を解くと、この基礎行列Fが求められる。基礎行列Fを求める方法は、8組の対応点を用いた8点法、VD(特異値分解)を用いた最小二乗法などがある。そして、この基礎行列Fを求めた後に、(式4)を用いてカメラ行列を復元することで、2つのフレーム間でのカメラ位置姿勢の変動量、つまり回転変換行列Rと平行移動ベクトルTを求めることができる。
図8(a)は算出した変動量のうち平行移動ベクトルtの変動量を時系列(フレーム番号順)に並べたものであり、図面の上方向が画像の変動量を表わす軸、図面の横方向がフレーム番号の軸を示し、各フレームでのベクトルは矢印801で示されている。実際にはx,y,z方向の3方向の成分を持っているが、図8(a)の図面上では、省略して画像変動量は1本の軸のみで表現している。
ステップS503において、図3の変動量累積部303は、ステップS502において算出した変動量を時間方向に累積し撮像軌跡を算出する。図8(a)のベクトルである矢印801を時間方向に累積することで、図8(b)の撮像軌跡である折れ線802を算出する。図8(b)に示したグラフは図面の上方向が撮像軌跡、つまり三次元上の撮像位置を表わす軸、図面の横方向がフレーム番号の軸である。以上のようにして、ステップS402の撮像軌跡推定が行われる。
ステップS403において、静止状態判定部203は、ステップS402で推定された撮像軌跡を用いて撮影動画の静止状態で撮影されたフレームを判定する。具体的には、各フレーム間のカメラ位置姿勢である回転と平行移動の変動量が所定の範囲以内の場合、静止状態と判定する。所定の範囲の例としては、フレーム間の回転量が1度以下、もしくは最大の回転量の5%以下となるようにする方法などがある。ここで挙げた値は一例であり、シーンの中の動きが大きい場合には大きくしたり、より厳密に算出したい場合には小さくしたりと任意に定めればよい。これはカメラの位置及び姿勢に動きがある場合、後述するステップS404で加速度センサ107で検出した加速度データを用いて重力方向を算出する際に、撮像の動きに起因する加速度成分が生じるために正確に重力方向を算出できないからである。
ステップS404において、図2の重力方向設定部204は、ステップS403で判定された静止状態のフレームと加速度センサ107で検出した加速度データとを用いてステップS402で推定された撮像軌跡の座標上の基準となる重力方向を設定する。具体的には、静止状態と判定されたフレームを撮影した時刻の間に加速度センサが取得した各x,y,z方向の加速度成分のノルムを算出し、その方向から撮像軌跡座標系上の重力基準方向を設定する。加速度成分のノルムの算出方法は、静止状態の時刻間の代表値や平均値をとってもよいし、静止状態と判定された区間が複数存在する場合、加速度センサの検出結果の安定性を考慮して、静止状態が連続するフレーム数が相対的に多い区間を優先的に選んでもよい。さらに、ステップS402によって推定された撮像軌跡算出の際に信頼度を示す指標を算出して、その信頼度が最も高い区間の重力方向を選んでもよい。例えば、変動量算出部302で行ったストラクチャフロムモーションによるカメラ位置姿勢推定時に基礎行列Fの算出時に用いた最小二乗法による推定値の残差を信頼度の指標として用いて、その残差が少ない方が信頼度が高いとしてもよい。その他には、画像マッチング部301で行った画像マッチング処理時に算出した特徴点の数を信頼度の指標として用いて、その特徴点の数が多いほど信頼度が高いとしてもよい。ここでは、静止状態のフレームに同期した加速度データを用いて重力基準方向を設定することができれば手法は問わない。
ステップS405において、図2の撮像軌跡補正部205は、ステップS404によって設定した重力基準方向を使用して、ステップS402で推定された撮像軌跡の補正を行う。図8(b)の撮像軌跡802に対して、フレーム画像間の傾きの変化が所定の範囲内になって滑らかになるように処理を施し、図8(c)の曲線803に示すように補正撮像軌跡を生成する。図8(c)に示したグラフは、図8(b)と同様に図面の上方向が三次元上の撮像位置を表わす軸、図面の横方向がフレーム番号の軸である。ここでp(t)は時刻tでの補正後の撮像位置、f(t)は時刻tでの補正後の撮像方向、pm はp(t)に一番近い位置にある入力の撮像位置、gは重力基準方向であり、f(t),gは以下の式で表わされる。
g=rg・pg・yg …(式5)
f(t)=rt・pt・yt …(式6)
ここでr,p,yは、それぞれ3×3の行列で表わされ、rはロール方向成分、pはピッチ方向成分、yはヨー方向成分である。(式5)は重力方向の各回転成分rg,pg,yg、(式6)は時刻tでの補正後の撮像方向の各回転成分rt,pt,ytの掛け算によって表わされる。そうすると撮像軌跡の補正式は例えば次の(式7)から(式11)で表すことができる。なお、(式10)の×は行列の外積を表わしている。
f(t)=rt・pt・yt …(式6)
ここでr,p,yは、それぞれ3×3の行列で表わされ、rはロール方向成分、pはピッチ方向成分、yはヨー方向成分である。(式5)は重力方向の各回転成分rg,pg,yg、(式6)は時刻tでの補正後の撮像方向の各回転成分rt,pt,ytの掛け算によって表わされる。そうすると撮像軌跡の補正式は例えば次の(式7)から(式11)で表すことができる。なお、(式10)の×は行列の外積を表わしている。
ここで図9を用いて撮像軌跡の補正の効果について説明する。図9(a)〜図9(d)に示したグラフでは、図面の上方向が三次元上の撮像装置の位置を表わす軸、図面の横方向がフレーム番号の軸である。図9(a)の折れ線901は入力撮像軌跡を示す。(式7)は補正後の撮像軌跡の長さを調整する式である。図9(b)の折れ線902は折れ線901に対して補正撮像軌跡の長さが短くなるように調整している図である。(式8)は補正後の撮像装置の位置と補正後の撮像方向の1フレーム毎の変化が滑らかになるように調整する式である。図9(c)の曲線903は折れ線902に対して補正撮像軌跡の1フレーム毎の変化が滑らかになるに調整している図である。(式9)は入力撮像位置と補正撮像位置の差分を調整する式である。図9(d)の曲線904は曲線903が入力撮像軌跡との差分が少なくなるように調整している図である。(式10)は補正後の撮像方向と重力基準方向が直交に近くなるように調整する式である。(式11)は(式7)〜(式10)を用いて、各項に対して重み付けパラメータλ1〜λ4を掛け合わせたものであり、これを撮像軌跡補正の式とする。そして、(式11)を最小とするようにp(t)とf(t)について非線形の最小化問題を解くことで補正された撮像軌跡を算出することができる。また(式11)はλによって各項の重みを変更することが可能である。例えばλ2の値を大きくし、λ3の値を小さくすると図9(c)の曲線903のように入力撮像軌跡から離れた撮像軌跡になっても1フレーム毎の変化を滑らかすることが優先される。これらの重み付けは任意で指定することが可能である。
ここで(式10)について、図10を用いて説明する。ステップS404で撮像軌跡の座標上の基準となる重力方向gを設定しており、図10では図面上のヨー、ピッチ、ロール方向を表わす三軸の回転軸スケール1000のうち、ヨー軸の紙面下方向が重力方向gに相当する。図10(a)の1010で示される点線は補正撮像位置p(t)の軌跡を表わしている。また、図10(a)のカメラマーク1001,1002はある時刻での補正した撮像位置、矢印1003,1004はそれぞれカメラマーク1001,1002の位置での補正前の撮像方向を表わしている。撮像方向1003,1004は図10(a)の重力方向gと平行な方向である1005,1006に対して傾いており、それぞれの位置で投影される画像1007,1008は、ピッチ、ロール方向に傾いている。
(式10)を適用することで、それぞれの撮像位置1001,1002での撮像方向は、図10(b)の矢印1013,1014のように、重力方向に対してピッチ方向とロール方向が直交に近くなるように補正される。そして、それぞれの位置で重力方向に対して傾きの軽減された画像1017,1018を投影するカメラ位置姿勢を算出することができる。このように(式10)では、重力方向のロール成分、ピッチ成分と、補正後の撮像方向のロール成分、ピッチ成分が直交、つまり外積が0に近くなるように調整される。このようにすることで、撮像方向が水平を向くようになり、例えば空であったり、地面といったユーザーの意図しない被写体ばかりが映るようなケースを回避することができる。
しかし、ユーザーのニーズによっては、基準重力方向に対してピッチ成分が垂直な方向ではない方向を中心に撮影したいが、画像のロール方向のみ重力基準方向からの傾きを軽減させたいといった場合も考えられる。この場合は、重力基準方向に対する撮像方向のロール成分のみの傾きを軽減するように調整する必要があり、(式10)の代わりに(式12)を用いる。
(式12)は、重力方向のロール成分と補正後の撮像方向のロール成分が平行になるように、つまり内積が1に近くなるように調整する式である。このように基準となる重力方向に対して補正撮像方向が一定になるように調整されればよく、上記の例に限定されず、基準となる重力方向に対して任意の角度の方向に対して設定を行うことができる。
ステップS406は出力画像生成部206において1フレーム毎にステップS405で算出した補正後の撮像軌跡に応じた画角領域を撮影動画から読み出し(切り出し)、撮像のN倍速に応じた動画フレームを再構成することで安定化動画を生成する。
以上の処理を行うことにより、設定した重力基準方向に対して傾きが軽減された安定化動画生成が可能となる。
以上、自動で重力基準方向に対する出力動画像の傾きを解消する実施形態について説明した。このようにすることで画像の視認性は向上するが、ユーザーのニーズによっては、安定化した出力動画像を見た後に、ユーザーの任意の方向に対して傾きが軽減された動画像を出力するようなケースも考えられる。その場合、ユーザーの指定する基準方向の入力を受けた後に、ステップS404で設定した重力基準方向の代わりにユーザーの指定する方向を基準として再度ステップS405で行った撮像軌跡補正を行い、安定化した出力動画像を提供することも可能である。もしくは、ユーザーが指定する任意の区間のみ、出力動画像を重力基準方向に対する傾き補正を行わないといったケースも考えられる。その場合、S404で行った撮像軌跡補正のλ4をユーザー指定の任意の区間のみ比率を変えて、重みを小さくした後に再度撮像軌跡補正を行い、安定化した出力動画像を提供することも可能である。
(その他の実施形態)
また本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現できる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現できる。
また本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現できる。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現できる。
100:デジタルカメラ、101:制御部、102:ROM、103:RAM、104:光学系、105:撮像部、106:A/D変換部、107:加速度センサ、108:画像処理部
Claims (12)
- 第1の動画像と該第1の動画像を撮影した撮像装置の加速度の情報を入力する入力手段と、
前記第1の動画像のそれぞれのフレーム画像を用いて、前記撮像装置の撮影軌跡を推定する推定手段と、
推定された前記撮影軌跡を用いて、前記第1の動画像のそれぞれのフレーム画像の撮影時における前記撮像装置の静止状態を判定する判定手段と、
前記判定手段により静止状態と判定されたフレーム画像の撮影時における、前記撮像装置の加速度の情報を用いて、前記撮影軌跡の重力方向を設定する設定手段と、
設定された前記重力方向に基づいて、前記撮影軌跡を補正した第2の動画像を生成する生成手段と、
を備えることを特徴とする画像処理装置。 - 前記生成手段は、前記第1の動画像のそれぞれのフレーム画像の前記重力方向に対する傾きが所定の範囲内となるように、前記撮影軌跡を補正することを特徴とする請求項1に記載の画像処理装置。
- 前記判定手段は、前記推定手段により推定された撮影軌跡において、フレーム画像間における前記撮影軌跡の変動量が所定の大きさ以下であるフレーム画像を、前記撮像装置が静止状態で撮影されたフレーム画像と判定することを特徴とする請求項1または2に記載の画像処理装置。
- 前記設定手段は、前記判定手段によって前記撮像装置の静止状態で撮影されたと判定されたフレーム画像の撮影時に取得した前記加速度の情報におけるx、y、z方向の加速度成分のノルムを用いて重力方向を設定することを特徴とする請求項1ないし3のいずれか1項に記載の画像処理装置。
- 前記設定手段は、前記判定手段によって前記撮像装置の静止状態で撮影されたと判定されたフレームが複数存在する場合に、連続して静止状態であると判定された区間がより長い区間を、重力方向の設定に用いることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
- 前記設定手段は、前記判定手段によって前記撮像装置の静止状態で撮影されたと判定されたフレームが複数存在する場合に、前記撮影軌跡の推定時に得られる信頼度が高い区間を、重力方向の設定に用いることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
- 前記設定手段は、前記撮影軌跡の推定時に得られる特徴点マッチングの数を信頼度とし、特徴点マッチングの特徴点の数がより多い区間を、重力方向の設定に用いることを特徴とする請求項6に記載の画像処理装置。
- 前記設定手段は、前記撮影軌跡の推定時に得られる推定値の残差を信頼度とし、残差がより小さい区間を、重力方向の設定に用いることを特徴とする請求項6に記載の画像処理装置。
- 被写体像を撮像する撮像手段と、
加速度を検出する加速度検出手段と、
請求項1乃至8のいずれか1項に記載の画像処理装置と、
を備えることを特徴とする撮像装置。 - 第1の動画像と該第1の動画像を撮影した撮像装置の加速度の情報を入力する入力工程と、
前記第1の動画像のそれぞれのフレーム画像を用いて、前記撮像装置の撮影軌跡を推定する推定工程と、
推定された前記撮影軌跡を用いて、前記第1の動画像のそれぞれのフレーム画像の撮影時における前記撮像装置の静止状態を判定する判定工程と、
前記判定工程において静止状態と判定されたフレーム画像の撮影時における、前記撮像装置の加速度の情報を用いて、前記撮影軌跡の重力方向を設定する設定工程と、
設定された前記重力方向に基づいて、前記撮影軌跡を補正した第2の動画像を生成する生成工程と、
を有することを特徴とする画像処理方法。 - 請求項10に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラム。
- 請求項10に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018033671A JP2019149717A (ja) | 2018-02-27 | 2018-02-27 | 画像処理装置及び画像処理方法、撮像装置、プログラム、記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018033671A JP2019149717A (ja) | 2018-02-27 | 2018-02-27 | 画像処理装置及び画像処理方法、撮像装置、プログラム、記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019149717A true JP2019149717A (ja) | 2019-09-05 |
Family
ID=67850879
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018033671A Pending JP2019149717A (ja) | 2018-02-27 | 2018-02-27 | 画像処理装置及び画像処理方法、撮像装置、プログラム、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019149717A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022222113A1 (zh) * | 2021-04-22 | 2022-10-27 | 深圳市大疆创新科技有限公司 | 视频处理方法、装置、系统及存储介质 |
-
2018
- 2018-02-27 JP JP2018033671A patent/JP2019149717A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022222113A1 (zh) * | 2021-04-22 | 2022-10-27 | 深圳市大疆创新科技有限公司 | 视频处理方法、装置、系统及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101624450B1 (ko) | 화상 처리 장치, 화상 처리 방법, 및 기록 매체 | |
JP5027747B2 (ja) | 位置測定方法、位置測定装置、およびプログラム | |
CN108702450B (zh) | 用于图像捕获设备的相机模块 | |
CN105407271B (zh) | 图像处理设备和方法、摄像设备以及图像生成设备 | |
TWI394435B (zh) | 用於測定一成像裝置之移動的方法及系統 | |
KR101392732B1 (ko) | 손떨림에 의한 움직임 추정 장치 및 방법, 그를 이용한영상 촬상 장치 | |
US20090225174A1 (en) | Image processing apparatus, image processing method, hand shake blur area estimation device, hand shake blur area estimation method, and program | |
KR101856947B1 (ko) | 촬영장치, 움직임 추정장치, 영상 보정 방법, 움직임 추정방법 및 컴퓨터 판독가능 기록매체 | |
US10419675B2 (en) | Image pickup apparatus for detecting a moving amount of one of a main subject and a background, and related method and storage medium | |
JP2017220715A (ja) | 画像処理装置、画像処理方法、プログラム | |
JP7009107B2 (ja) | 撮像装置およびその制御方法 | |
JP2019149717A (ja) | 画像処理装置及び画像処理方法、撮像装置、プログラム、記憶媒体 | |
US10764500B2 (en) | Image blur correction device and control method | |
CN106454066B (zh) | 图像处理设备及其控制方法 | |
JP4517813B2 (ja) | パンニング撮影可能なカメラおよび動画像編集用プログラム | |
JP5279453B2 (ja) | 画像振れ補正装置、撮像装置及び画像振れ補正方法 | |
KR101636233B1 (ko) | 카메라 촬영영상 안정화장치 및 그 방법 | |
JP7013205B2 (ja) | 像振れ補正装置およびその制御方法、撮像装置 | |
JP7191711B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP5940392B2 (ja) | ブレ補正装置及び方法 | |
JP2020102787A (ja) | 画像処理装置 | |
JP2016042639A (ja) | カメラ姿勢の制御装置、方法及びプログラム | |
JP2020102786A (ja) | 画像処理装置 | |
JP2020107058A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6608238B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム |