JP2016092795A - 動画像再生装置、および動画像再生方法 - Google Patents
動画像再生装置、および動画像再生方法 Download PDFInfo
- Publication number
- JP2016092795A JP2016092795A JP2014229203A JP2014229203A JP2016092795A JP 2016092795 A JP2016092795 A JP 2016092795A JP 2014229203 A JP2014229203 A JP 2014229203A JP 2014229203 A JP2014229203 A JP 2014229203A JP 2016092795 A JP2016092795 A JP 2016092795A
- Authority
- JP
- Japan
- Prior art keywords
- image
- moving image
- frame
- reproduction
- playback
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Studio Circuits (AREA)
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Abstract
【課題】より大きなブレ低減効果を発揮する事ができ、また撮影された動画像の画角よりも広い画角での再生画像を合成するため、再生画像内に所望の被写体を留めておきやすい動画像再生装置、および動画像再生方法を提供すること。【解決手段】動画像再生時に、動画像再生時間を1つ以上の区間に区切り、各動画像再生区間において、フレーム間のグローバル動きベクトルを算出し、算出した各フレーム間のグローバル動きベクトルから、各動画像再生区間における画像重心を算出し、動画像再生区間の各フレームを、位置合わせ合成して生成される合成画像から、上記画像重心を中心とし、縦横比が動画像と同じで、かつ画角が広くなるように画像を切り出し、上記切り出し画像を下地画像として、その上に各フレームの画像を位置合わせして重畳して表示することで、動画像を再生することを特徴とする。【選択図】図1
Description
本発明は、撮影済み動画像に対し、手振れ補正しながら再生を行う動画像再生装置、および動画像再生方法に関する。
近年、小型軽量ビデオカメラの中には、頭に固定したり、胸に装着したりした状態で撮影するウェラブルカメラと呼ばれる撮像装置が存在する。このような撮影方法の場合、撮影者が撮影画像を常時確認しながら撮影するわけではなく、また体の動きと直接連動して撮像装置も動いてしまうため、撮影された動画像はブレが大きく、また、必ずしも撮影したい被写体を捉えられていないという課題が生じる。このようなブレのある動画像に対して、再生時に画像処理によりブレを低減させて再生する装置が存在する(特許文献1参照)。
しかしながら、特許文献1では、ブレ画像のブレ量の低減がなされるだけで、十分にブレが補正された物にはならない場合がある。また先に挙げた課題の一つである、撮影したい被写体を捉えきれない場合があるという課題が残る。
そこで、本発明の目的は、より大きなブレ低減効果を発揮する事ができ、また撮影された動画像の画角よりも広い画角での再生画像を合成するため、再生画像内に所望の被写体を留めておきやすい動画像再生装置、および動画像再生方法を提供することにある。
上記の目的を達成するために、本発明の動画像再生装置、および動画像再生方法は、動画像再生時に動画像再生時間を1つ以上の区間に区切り、各動画像再生区間において、フレーム間のグローバル動きベクトルを算出し、算出した各フレーム間のグローバル動きベクトルから、各動画像再生区間におおける画像重心を算出し、動画像再生区間の各フレームを、位置合わせ合成して生成される合成画像から、上記画像重心を中心とし、縦横比が動画像と同じで、かつ画角が広くなるように画像を切り出し、上記切り出し画像を下地画像として、その上に各フレームの画像を位置合わせして重畳して表示することで、動画像を再生することを特徴とする。
本発明によれば、より大きなブレ低減効果を発揮する事ができ、また撮影された動画像の画角よりも広い画角での再生画像を合成するため、再生画像内に所望の被写体を留めておきやすい動画像再生装置、および動画像再生方法の提供を実現できる。
以下に、添付図面を参照して本発明を実施するための形態について詳細に説明する。以下に説明する実施の形態は、本発明の実現するための一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。
[実施例1]
図1は本発明の実施形態を適用可能な動画像再生装置の一例の構成を示す。図1に示されるように、動画像再生装置は、一般的な情報処理装置と同様な構成を有する。
図1は本発明の実施形態を適用可能な動画像再生装置の一例の構成を示す。図1に示されるように、動画像再生装置は、一般的な情報処理装置と同様な構成を有する。
図1において、内部バス110に対してCPU101、ハードディスクドライブ(HDD)102、メモリ103、表示制御部104、入力部105、カードコントローラ106、動画像復号化部109および画像処理部111が接続される。内部バス110に接続される各部は、内部バス110を介して互いにデータのやりとりを行うことができ、メモリ103はそれぞれのブロックのデータやりとりのためのバッファとして利用される。
ハードディスクドライブ102は、動画像データやその他のデータ(ファイルとして記録されていてもよい)、CPU101が動作するための各種プログラムなどが格納される。メモリ103は、例えばRAMからなる。制御手段、計算手段としてのCPU101は、例えばハードディスクドライブ102に格納されるプログラムに従い、メモリ103をワークメモリとして用いて、この動画像再生装置100の各部を制御し、様々な制御、処理を行う。なおCPU101が動作するためのプログラムは、ハードディスク102に格納されるとは限らず、例えば図1には図示されないROMに予め記憶しておいてもよい。
入力部105は、ユーザ操作を受け付け、操作に応じた制御信号を生成し、CPU101に供給する。例えば入力部105は、ユーザ操作を受け付ける入力デバイスとして、4方向キーや各種操作ボタンなどを有する。CPU101は、入力デバイスに対してなされたユーザ操作に応じて入力部105で生成され、供給される制御信号に基づき、プログラムに従いこの動画像再生装置100の各部を制御する。これにより、動画像再生装置100に対し、ユーザ操作に応じた動作を行わせることができる。
表示制御部104は、ディスプレイ107に対して画像を表示させるための表示信号を出力する。例えば、表示制御部104に対して、CPU101がプログラムに従い生成した表示制御信号が供給される。表示制御部104は、この表示制御信号に基づき表示信号を生成してディスプレイ107に対して出力する。また表示制御部104は、CPU101が生成する表示制御信号に基づき、GUI(Graphical User Interface)を構成するGUI画面をディスプレイ107に対して表示したり、メモリ103上に展開されたビデオフレームデータを参照して、ディスプレイ107に表示したりといった処理を行う。
カードコントローラ106は、外部記録媒体としてのメモリカード108が装着可能とされ、CPU101の制御に基づき、装着されたメモリカード108からのデータの読み出しや、データの書き込みを行う。
復号化部109は、ハードディスクドライブ102やメモリカード108に記録された動画像データからディスプレイ107に表示可能なデータ形式にデータを復号する機能を有する。復号化前後のデータはメモリ103を介して、各ブロック間で受け渡される。尚、本復号化部は、CPU101によるソフトウェア処理により実現しても構わない。画像処理部111は、メモリ上に保持されている2枚のフレーム画像から、動きベクトルを求めるベクトル算出処理や、2枚のフレームの位置合わせ処理を行ない、1枚の画像に合成する合成処理等の処理を行なう。詳細は後述する。
図2のフローチャートを用いて、本発明の動画像再生装置における再生方法について説明する。
本実施例の動画像再生装置では、再生時間を複数の再生期間に区切り、その期間毎の再生を連続して行うことで、動画像全体の再生を行う(再生時間が数秒のような短い動画像(スナップショット動画等)を再生する場合には、全体を一つの再生期間としても良い)。再生単位となる期間Tの間の動画像再生方法について、図2のフローチャートに示す。期間Tは固定である必要はなく、例えば300フレーム時間等の数秒程度の期間が考えられる。
期間Tの再生処理(図2フローチャート)において、符号S201から符号S205までは再生準備処理であり、再生準備処理の結果により、符号S206の通常再生処理を行うのか、符号207から208までの手ぶれ補正再生処理を行うのかを判定する。再生準備処理は、符号S202の各フレーム間のグローバル動きベクトル算出処理、符号S203における期間Tの画像重心算出処理、符号S204の手ぶれ有無判別処理に分けられる。
まず、符号S202のフレーム間のグローバル動きベクトル算出処理について、図3を用いて説明する。記録メディアから読み出され、動画像復号化部により復号された動画像を構成する各フレームの画像データは、メモリ103に保持される。連続するフレーム間において、それぞれのフレームの画像の移動方向を画像処理部111により算出する。例えば以下のように算出できる。一方のフレーム(時間的に前のフレーム)から複数の小領域(符号301)を抽出し、それぞれがもう一方のフレームのどの位置に移動しているかを、それぞれの小領域の輝度情報等の周辺比較によって算出する(符号302)。周辺比較範囲には制限を設け、比較範囲内で一致する領域が見つからなかった場合には処理を打ち切る(符号303)。
算出された複数の省領域の動きベクトルから、あきらかに他の省領域とは動きベクトルが異なる方向、または異なる動き量を示すもの(符号304、305、例えば抽出した小領域が、移動する物体に該当する場合)は除外し、その他の動きベクトルの平均を算出することで、フレーム間のグローバル動きベクトルを算出する。比較処理が打ち切られた小領域が、ある一定数以上存在する場合には、グローバル動きベクトルは算出不能とし、以降の各フレーム間の算出処理も打ち切る。本処理で算出したフレーム間のグローバル動きベクトルは、後の処理に利用するため、ワークメモリ上に、その履歴を保持しておく。
期間Tのグローバル動きベクトルの履歴が算出できると、期間Tの画像重心を算出する(ステップS203の画像重心算出処理)。図4のように、例えば期間Tの最初のフレームの画像重心座標を(X0,Y0)として、ここから各フレーム間のグローバル動きベクトルより、各フレームnの画像重心(Xn、Yn)を算出し、全フレームの平均をとることで、期間Tの画像重心(Xt,Yt)を算出可能である。また、算出に用いた各フレームの画像重心(Xn,Yn)の履歴も、ワークメモリ上に保持しておく。
次に期間Tの間の手ぶれ有無判別処理を行う(ステップS204)。本実施例では、以下のような場合には手振れではないと判別する。前述のグローバル動きベクトル算出処理(ステップS202)において、グローバルベクトルの算出が不能のフレームがあった場合には、手振れ有無も判別不能とし、手ぶれではないと判別する。また、期間Tのグローバル動きベクトルが一定方向に動き続ける場合も、手ぶれではない(撮像装置のパンニング)と判別する。
ステップS205で、手振れはないと判断された場合は、ステップS206に進み、期間Tの再生においては通常の再生処理(手ぶれ補正処理は行なわない)を実行する。手振れありと判断された場合には、ステップS207以降の再生処理を実行する。本発明の手ぶれ補正再生処理では、期間Tの動画像再生時の最初に、期間Tの動画像の各フレームを位置合わせして合成する事によって得られる合成画像を、再生時に利用する。
図5に符号111の画像処理部によって実施される位置合わせ合成の様子を示す。期間Tの動画像中に、フレームが(f+1)枚存在する場合、先に求めてメモリ上に保持しておいた各フレーム(フレーム番号n)の画像重心(Xn、Yn)をもとに、各フレームの位置合わせ合成を行なう。この時に、フレーム番号fのフレームからフレーム番号0のフレームを、時間順には逆に上に重ねて(フレーム番号0のフレームが一番上になるように)位置合わせ合成を行なう。
このように合成した結果、図6の符号601のように合成画像が生成される。期間Tの画像重心(Xt,Yt)に、動画像の画角602を重ねると図6のようになる。ここから画像の縦横比を維持しながら、画角をひろげて行き、合成画像601からはみ出さない最大の画角が符号603で示される。この符号603の画角で、合成画像を切り抜いたものを、下地画像と呼ぶことにする。
下地画像の生成に続き、期間Tの動画像の手ぶれ補正再生を行なう(ステップS208)。まずはじめに、先に作成した下地画像を表示領域いっぱいに表示する。これが時刻0の再生画像となる(図7(a))。その上に各フレームの画像(フレーム1、フレーム2、・・・・)を、先に求めた各フレームの画像重心情報をもとに、位置合わせをしながら重畳していく事で、時刻1、2、・・・の再生フレームを生成する。つまり前の時刻の再生画像が、次の時刻の下地画像となり、その上に各フレームの画像が重畳され、再生画像が生成される。重畳した際には、表示領域からはみ出す部分(符号701)や、表示領域に不足する部分(符号703)もあるが、不足した部分については、下地画像がそのまま表示される。このような処理を繰り返すことで、期間Tの動画像が再生される。
以上説明した通り、本実施例の動画像再生装置では、下地画像を基準に位置合わせされた画像が、各フレームの画像として再生されるため、期間Tの間、手ブレのない動画像が再生される。また下地画像は、本来の撮影動画像の画角よりも広く合成されているため、画角の広い動画像を生成する事ができるため、被写体を再生画像内に留め易いという効果がある。
[実施例2]
実施例1における動画像再生装置の場合、複数の再生期間を設け、再生期間毎に画像重心を算出して、再生時の手ぶれ補正を実現している。しかしながら、再生期間の遷移時に、画像重心の大きな変化があった場合には、急激な画像の変化が生じてしまい、好ましくない。本実施例では、この問題に対処するために、図8のような処理で再生を行なう。図2のフローチャートとの差異は、ステップS801とS802の部分である。
実施例1における動画像再生装置の場合、複数の再生期間を設け、再生期間毎に画像重心を算出して、再生時の手ぶれ補正を実現している。しかしながら、再生期間の遷移時に、画像重心の大きな変化があった場合には、急激な画像の変化が生じてしまい、好ましくない。本実施例では、この問題に対処するために、図8のような処理で再生を行なう。図2のフローチャートとの差異は、ステップS801とS802の部分である。
本実施例では、再生期間の画像重心が算出された後、前の再生期間の画像重心との差分を確認する(ステップS801)。差分の算出は、現在処理中の再生期間の最初のフレームと一つ前の再生期間の最終フレーム間のグローバル動きベクトルを求める事で、重心の差分も求める事ができる。算出された差分が、決められた閾値よりも大きい場合には、再生期間の短縮を行ない、再度新しい再生期間内での画像重心の算出を行なう。閾値以下になるまで、このループを行なう事で、再生期間の遷移時の画像重心の大きな変化を抑制する事が可能となる。
閾値を小さくすると、再生期間の見直しが頻発する可能性があるため、再生準備時間が大きくなってしまう可能性がある。ある再生期間の手ぶれ補正再生時間中に、次の再生期間の再生準備処理が完了している事ができれば(パイプライン処理)、動画像の再生が滞ることなく実施できるため、閾値は利用者が適当な値を選択できるように構成しておく。
101 CPU、102 ハードディスクドライブ、103 メモリ(RAM)、
104 表示制御部、105 入力部(ユーザ操作部)、106 カードコントローラ、
107 ディスプレイ、108 メモリカード、109 動画像復号化部、
110 内部バス、111 画像処理部
104 表示制御部、105 入力部(ユーザ操作部)、106 カードコントローラ、
107 ディスプレイ、108 メモリカード、109 動画像復号化部、
110 内部バス、111 画像処理部
Claims (4)
- 動画像再生時に、動画像再生時間を1つ以上の区間に区切り、
各動画像再生区間において、フレーム間のグローバル動きベクトルを算出し、
算出した各フレーム間のグローバル動きベクトルから、各動画像再生区間における画像重心を算出し、
動画像再生区間の各フレームを、位置合わせ合成して生成される合成画像から、上記画像重心を中心とし、縦横比が動画像と同じで、かつ画角が広くなるように画像を切り出し、
上記切り出し画像を下地画像として、その上に各フレームの画像を位置合わせして重畳して表示することで、動画像を再生することを特徴とする動画像再生装置、および動画像再生方法。 - 前記切り出し画像は、前記合成画像内で最大画角となるように切りだすことを特徴とする請求項1に記載の動画像再生装置、および動画像再生方法。
- 前記合成画像は、動画像再生区間の各フレームを時間的には逆方向にフレームを重畳して行くことで合成することを特徴とする請求項1又は請求項2に記載の動画像再生装置、および動画像再生方法。
- 前後の動画像再生区間における画像重心の差分が、所定の閾値以上の場合には、処理中の動画像再生区間の時間を短縮し、画像重心の差分が小さくなるように処理することを特徴とする請求項1乃至請求項3の何れか一項に記載の動画像再生装置、および動画像再生方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014229203A JP2016092795A (ja) | 2014-11-11 | 2014-11-11 | 動画像再生装置、および動画像再生方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014229203A JP2016092795A (ja) | 2014-11-11 | 2014-11-11 | 動画像再生装置、および動画像再生方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016092795A true JP2016092795A (ja) | 2016-05-23 |
Family
ID=56019103
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014229203A Pending JP2016092795A (ja) | 2014-11-11 | 2014-11-11 | 動画像再生装置、および動画像再生方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016092795A (ja) |
-
2014
- 2014-11-11 JP JP2014229203A patent/JP2016092795A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5347890B2 (ja) | 画像処理装置および方法、並びにプログラム | |
JP5733565B2 (ja) | 画像処理装置および方法、並びにプログラム | |
JP4947060B2 (ja) | 画像合成装置、画像合成方法、プログラム | |
JP5418127B2 (ja) | 画像処理装置および方法、並びにプログラム | |
JP6071545B2 (ja) | 撮像装置、画像処理装置及びその制御方法、プログラム、記憶媒体 | |
US20090225174A1 (en) | Image processing apparatus, image processing method, hand shake blur area estimation device, hand shake blur area estimation method, and program | |
US20060251409A1 (en) | Imaging apparatus and method for processing imaging results | |
US20120176505A1 (en) | Method and apparatus for capturing moving picture | |
JP2011082919A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2009218807A (ja) | 撮像装置及び画像再生装置 | |
JP2011082918A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2012015830A (ja) | カメラ | |
JP2013165487A (ja) | 画像処理装置、撮像装置、およびプログラム | |
JP4742813B2 (ja) | 画像処理装置および画像処理方法 | |
JP2010021795A (ja) | 撮像装置、補正制御装置、補正制御方法およびプログラム | |
JP5105844B2 (ja) | 撮像装置及び方法 | |
JP2009200985A (ja) | 映像処理装置 | |
JP2009044329A (ja) | プログラム、画像処理方法および画像処理装置 | |
JPWO2017150238A1 (ja) | 表示制御装置、表示制御方法、及び、プログラム | |
US9661217B2 (en) | Image capturing apparatus and control method therefor | |
JP2016092795A (ja) | 動画像再生装置、および動画像再生方法 | |
JP5213557B2 (ja) | 動画像処理装置および動画像処理方法 | |
JP2015195497A (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP4774857B2 (ja) | 画像処理装置及びプログラム | |
JP2009027437A (ja) | 画像処理装置,画像処理方法及び撮像装置 |