JP6361097B2 - 動画処理装置、動画処理方法及びプログラム - Google Patents

動画処理装置、動画処理方法及びプログラム Download PDF

Info

Publication number
JP6361097B2
JP6361097B2 JP2013161957A JP2013161957A JP6361097B2 JP 6361097 B2 JP6361097 B2 JP 6361097B2 JP 2013161957 A JP2013161957 A JP 2013161957A JP 2013161957 A JP2013161957 A JP 2013161957A JP 6361097 B2 JP6361097 B2 JP 6361097B2
Authority
JP
Japan
Prior art keywords
moving image
processing apparatus
image data
normalized
reference frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013161957A
Other languages
English (en)
Other versions
JP2015033023A (ja
Inventor
飛雄太 田中
飛雄太 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2013161957A priority Critical patent/JP6361097B2/ja
Publication of JP2015033023A publication Critical patent/JP2015033023A/ja
Application granted granted Critical
Publication of JP6361097B2 publication Critical patent/JP6361097B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)

Description

本発明は、特定動作を行う物体を撮影して得られた動画データを処理する動画処理装置、動画処理方法及びプログラムに関する。
デジタルスチルカメラやビデオカメラなどの撮像装置(カメラ)によって撮影された動画データを処理する技術としては、撮影された画像の表示サイズを被写体までの距離に応じて正規化する技術が知られている(特許文献1参照)。これによって画像内の被写体は、画像サイズの変更に応じてその大きさが変更されることになる。
特開2004−140693号公報
しかしながら、上述した特許文献の技術にあっては、動画内の被写体の大きさを正規化することは可能であるが、被写体サイズの正規化に特化した技術であった。
本発明の課題は、動画データの各種の要素を簡単かつ適切に正規化できるようにすることである。
前記課題を解決するために本発明に係る動画処理装置の一態様は、
周期的に状態が変化する特定動作を行う物体を撮影して得られた動画データについて、
動画に映っている前記物体の前記特定動作の周期に同期させる基準として決められた基準状態で前記物体が映されている複数の基準フレームの位置を特定すると共に、各前記基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定する特定手段と、
前記特定手段によって特定された前記複数の基準フレームの位置と、前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズと、に基づいて、前記特定動作の周期と、前記物体に対応するクロップ領域の位置及びサイズと、を比較対象となる他の動画データと合わせるように再生フレームレート変換処理、クロップ領域のクロップ処理及びクロップ領域のリサイズ処理を行って前記動画データを加工する正規化処理で正規化した正規化動画データを生成する生成手段と、
を備え、
前記特定手段は、前記基準フレームにおけるクロップ領域の位置を、前記物体に対応する領域を含む包絡領域の所定の位置とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの一方を、前記包絡領域の高さと横幅とのうちの対応する一方に所定の割合のマージンを追加した値とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの他方を、前記マージンを含めた前記基準フレームにおけるクロップ領域の高さと横幅とのうちの前記一方に対して最終的な動画データの縦横比と等しくなるように決定した値とする、
ことを特徴とする。
また、前記課題を解決するために本発明に係る動画処理方法の一態様は、
周期的に状態が変化する特定動作を行う物体を撮影して得られた動画データについて、
動画に映っている前記物体の前記特定動作の周期に同期させる基準として決められた基準状態で前記物体が映されている複数の基準フレームの位置を特定すると共に、各前記基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定する特定ステップと、
前記特定ステップにおいて特定された前記複数の基準フレームの位置と、前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズと、に基づいて、前記特定動作の周期と、前記物体に対応するクロップ領域の位置及びサイズと、を比較対象となる他の動画データと合わせるように再生フレームレート変換処理、クロップ領域のクロップ処理及びクロップ領域のリサイズ処理を行って前記動画データを加工する正規化処理で正規化した正規化動画データを生成する生成ステップと、
を含み、
前記特定ステップにおいては、前記基準フレームにおけるクロップ領域の位置を、前記物体に対応する領域を含む包絡領域の所定の位置とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの一方を、前記包絡領域の高さと横幅とのうちの対応する一方に所定の割合のマージンを追加した値とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの他方を、前記マージンを含めた前記基準フレームにおけるクロップ領域の高さと横幅とのうちの前記一方に対して最終的な動画データの縦横比と等しくなるように決定した値とする、
ことを特徴とする。
また、前記課題を解決するために本発明に係るプログラムの一態様は、
コンピュータに対して、
周期的に状態が変化する特定動作を行う物体を撮影して得られた動画データについて、
動画に映っている前記物体の前記特定動作の周期に同期させる基準として決められた基準状態で前記物体が映されている複数の基準フレームの位置を特定すると共に、各前記基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定する特定機能と、
前記特定機能によって特定された前記複数の基準フレームの位置と、前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズと、に基づいて、前記特定動作の周期と、前記物体に対応するクロップ領域の位置及びサイズと、を比較対象となる他の動画データと合わせるように再生フレームレート変換処理、クロップ領域のクロップ処理及びクロップ領域のリサイズ処理を行って前記動画データを加工する正規化処理で正規化した正規化動画データを生成する生成機能と、
を実現させ、
前記特定機能においては、前記基準フレームにおけるクロップ領域の位置を、前記物体に対応する領域を含む包絡領域の所定の位置とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの一方を、前記包絡領域の高さと横幅とのうちの対応する一方に所定の割合のマージンを追加した値とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの他方を、前記マージンを含めた前記基準フレームにおけるクロップ領域の高さと横幅とのうちの前記一方に対して最終的な動画データの縦横比と等しくなるように決定した値とする、
ことを特徴とする。
本発明によれば、動画データの各種の要素を簡単かつ適切に正規化することができる。
動画処理装置として適用したデジタルカメラの基本的な構成要素を示したブロック図。 (1)〜(3)は、ランニング中の走者を撮影した動画データに基づいてそのランニングフォームを表示画面上で確認し易いように加工するクロップ処理を説明するための図。 右足接地マークに基づいたクロップ処理を説明するための図。 複数の基準フレーム(例えば、開始フレーム、終了フレーム)の間にマーク(右足接地マーク又は左足接地マーク)が付加されていないフレーム内にクロップ領域を補間する処理を説明するための図。 第1実施形態において、ユーザ操作により実行開始が指示される動画比較処理を示したフローチャート。 図5の動作に続くフローチャート。 第2実施形態において、ユーザ操作により実行開始が指示される動画データの正規化処理を示したフローチャート。 図6に続く動作を示したフローチャート。
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
(実施形態1)
先ず、図1〜図6を参照して本発明の第1実施形態を説明する。
本実施形態は、動画処理装置として撮像装置(デジタルカメラ)に適用した場合を例示したもので、図1は、デジタルカメラの基本的な構成要素を示したブロック図である。
デジタルカメラは、静止画像のほかに動画像の撮影も可能なコンパクトカメラや一眼レフカメラ又はビデオカメラであり、撮像機能、計時機能などの基本的な機能のほかに、無線通信機能を備えている。制御部1は、電源部(二次電池)2からの電力供給によって動作し、記憶部3内の各種のプログラムに応じてこのデジタルカメラの全体動作を制御するもので、この制御部1には図示しないCPU(中央演算処理装置)やメモリなどが設けられている。
記憶部3は、例えば、ROM、フラッシュメモリなどを有する構成で、後述する図5及び図6に示した動作手順に応じて本実施形態を実現するためのプログラムや各種のアプリケーションなどが格納されているプログラムメモリ3aと、このデジタルカメラが動作するために必要となる各種の情報(例えば、フラグ、計測時間など)を一時的に記憶するワークメモリ3b、撮影された画像を記録保存する画像メモリ3cなどを有している。なお、記憶部3は、例えば、SDカード、ICカードなど、着脱自在な可搬型メモリ(記録メディア)を含む構成であってもよく、図示しないが、通信機能を介してネットワークに接続されている状態においては所定のサーバ装置側の記憶領域を含むものであってもよい。
操作部4は、押しボタン式のキーとして、電源のオン/オフを指示する電源キーと、撮影モードと再生モードとを切り替えるモード変更キーと、撮影開始を指示する撮影キーなどを備え、制御部1は、この操作部4から操作キーに対応して出力される入力操作信号に応じて、例えば、モード変更処理、撮影処理などを行う。撮像部5は、図示省略したが、光学レンズからの被写体像が撮像素子(CCDやCMOSなど)に結像されることにより被写体を高精細に撮影可能なカメラ部を構成するもので、撮影レンズ(例えば、ズームレンズ、フォーカスレンズ)、撮像素子、ストロボ、各種のセンサ、アナログ処理部、デジタル処理部を有している。撮像素子によって光電変換された画像信号(アナログ値の信号)は、色分離やRGBの色成分毎のゲイン調整などが行われた後、デジタル値のデータに変換されると共に、色補間処理(デモザイク処理)が施されて表示部6にフルカラー表示される。そして、第1実施形態においては、撮影レンズの一部に対する画像部分をクロップ(切り取り)することが可能となっている。
表示部6は、高精細液晶ディスプレイあるいは有機EL(Electro Luminescence)ディスプレイで、撮影画像(ライブビュー画像)を表示するモニタ画面(ライブビュー画面)となったり、撮影済み画像を再生する再生画面となったりする。無線通信部7は、無線LAN機能であるWI-Fi(ワイファイ、Wireless Fidelity)を構成するもので、図示省略した公衆無線通信網、インターネットを介して画像を送信する機能を有し、他のデジタルカメラで撮影された動画データを受信取得したり、撮像部5によって撮影した動画データを他のデジタルカメラに送信したりする場合などに利用される。
図2は、ランニング中の走者を撮影した動画データに基づいてそのランニングフォームを表示画面上で確認し易いように加工するクロップ処理を説明するための図である。
第1実施形態は、ランニング中に周期的に状態が変化する特定動作(ランニング中の右足接地又は左足接地の動作)を行う物体(走者)を撮影して得られた動画データを表示画面上で表示しながらその走者のランニングフォームを確認可能とする場合には、先ず、その確認の対象となる走者を撮影した動画データを取得して、その走者に所定のマークを付加する(施す)ようにしている。このマークは、物体(走者)の位置とサイズを特定するためにユーザ操作により付加されるもので、走者がその右足を接地した状態で走者が映されているフレーム内には右足接地マークを施し、又は左足を接地したときのフレーム内には左足接地マークを施すようにしている。つまり、第1実施形態においては、右足接地マーク、左足接地マークのいずれか一方を走者の画像部分上に施す(重ね合わせる)ようにしているが、右足接地マーク、左足接地マークの両方を走者の画像部分上に施すようにしてもよい。
このようにして施した右足接地マーク又は左足接地マークに基づいてクロップ処理を行う。すなわち、図示の動画データは、ランニング中に周期的に状態が変化する特定動作(ランニング中の右足接地又は左足接地の動作)を行う物体(走者)を撮影して得られた動画データを示している。図2(1)、(2)は、この特定動作の周期に同期する基準として予め決められている基準状態(右足接地の状態又は左足接地の状態)で走者が映されている複数のフレームの中からユーザ操作によりクロップ処理の基準フレーム(キーフレーム)として選択された画像を示している。すなわち、図2(1)は、最初に選択された基準フレーム(開始フレーム)の画像を示し、図2(2)は、次に選択された基準フレーム(終了フレーム)の画像を示している。
図2(1)、(2)は、複数の基準フレーム(開始フレームと終了フレーム)内における物体(走者)の位置とサイズを特定するための右足接地マークをユーザ操作によりその走者の位置及びサイズに重ね合わせて設定した状態を示している。ここで、図示の例は、略「I」字型の右足接地マークを示し、その接地マークの下部横線を走者の右足接地の位置に合わせ、上部横線を走者の頭頂部の位置に合わせた状態を示している。なお、開始フレーム内の走者と終了フレーム内の走者との大きさは、画角の大きさにもよるが、開始フレーム内の走者に比べてそのサイズが略2倍となっている場合を例示している。また、図2(3)は、開始フレームから終了フレームまでを右足接地マークに基づいてクロップ処理して拡大したもので、これによってランニング中の走者は、その位置及びサイズが正規化されたものとなる。
図3は、右足接地マークに基づいたクロップ処理を説明するための図である。
基準フレーム内においてクロップ領域の位置は、「I」字型の右足接地マークの中心位置であり、そのマークの縦線の中心がクロップ領域の位置となる。クロップ領域の高さは、走者の頭の位置や足の位置が走行中に上下動するために、右足接地マークの上下方向において所定の割合のマージンを追加した値である。クロップ領域の横幅は、このマージンを含めた右足接地マークの高さに対して、最終的な動画データの縦横比と等しくなるように決定した値である。なお、クロップ領域の横幅が動画のフレームからはみ出てしまった場合には、クロップ処理時に適当な画素値で、はみ出た部分に埋め込むようにしている。
図4は、複数の基準フレーム(例えば、開始フレーム、終了フレーム)の間にマーク(右足接地マーク又は左足接地マーク)が付加されていないフレーム内にクロップ領域を補間する処理を説明するための図である。
右足接地マーク、左足接地マークのいずれも施されていないフレーム内にクロップ領域を補間する場合に、そのクロップ領域の位置は、近接する複数の基準フレーム内の各接地マークを利用して線形補間を行うことで算出するようにしている。また、そのクロップ領域のサイズは、開始フレーム及び終了フレームに施したものと同じマークのみを利用して、線形補間又はスプライン補間を行って算出するようにしている。例えば、開始フレームと終了フレームの指定を右足接地マークで行った場合には、上述の補間処理は、右足接地マークだけを利用して行う。これは、右足と左足のバランスが悪い走者の場合、接地時の高さが右足と左足とで異なってしまうためである。
そして、第1実施形態では、上述のようにしてクロップ処理を行った後に、そのクロップ領域のサイズが揃うようにリサイズ処理を行って動画データを加工(正規化)するようにしている。これによって一つの動画データに対する処理が終ると、他の動画データ(例えば、お手本となる走者を撮影した動画又は過去に撮影した同一走者の動画など)に対しても同様に、比較対象となる他の動画データと合わせるようにクロップ処理及びリサイズ処理を行って動画データを加工(正規化)するようにしている。これによって加工(正規化)した複数の動画データを表示画面(同一画面)に並列表示させるが、その際、右足接地又は左足接地のタイミングで複数の動画データを同期再生させることにより走者のランニングフォームの比較(動画比較)を可能としている。なお、複数の動画データを同期再生する仕方は、右足接地又は左足接地のタイミングを揃える方法に限らず、右足接地及び左足接地のタイミングを揃える方法であってもよい。
このように第1実施形態において動画処理装置(デジタルカメラ)は、周期的に状態が変化する特定動作(ランニング中の状態である右足接地又は左足接地の反復動作)を行う物体(人物:走者)を撮影して得られた動画データについて、その動画に映っている物体の特定動作の周期(右足接地から次の右足接地までを一周期とする)に同期させる基準として決められた基準状態(ランニング中の右足接地又は左足接地の動作)で前記物体が映されている複数の基準フレームの位置を特定すると共に、この各基準フレーム内における前記物体の位置とサイズを特定する特定手段(制御部1、記憶部3、撮像部5、無線通信部7)と、前記特定手段によって特定された複数の基準フレームの位置と、各基準フレーム内における前記物体の位置とサイズに基づいて、前記特定動作における動作の周期、物体の位置及びサイズを所定条件で正規化した(比較対象となる他の動画データと合わせるようにクロップ処理及びリサイズ処理を行って動画データを加工した)正規化動画データを生成する生成手段(制御部1、記憶部3)と、を備える構成となっている。
次に、第1実施形態におけるデジタルカメラの動作概念を図5及び図6に示すフローチャートを参照して説明する。ここで、これらのフローチャートに記述されている各機能は、読み取り可能なプログラムコードの形態で格納されており、このプログラムコードにしたがった動作が逐次実行される。また、ネットワークなどの伝送媒体を介して伝送されてきた上述のプログラムコードに従った動作を逐次実行することもできる。このことは後述する他の実施形態においても同様であり、記録媒体のほかに、伝送媒体を介して外部供給されたプログラム/データを利用して本実施形態特有の動作を実行することもできる。なお、図5及び図6は、デジタルカメラの全体動作のうち、本実施形態の特徴部分の動作概要を示したフローチャートであり、この図5及び図6のフローから抜けた際には、全体動作のメインフロー(図示省略)に戻る。
図5及び図6は、ユーザ操作により実行開始が指示される動画比較処理を示したフローチャートである。
先ず、制御部1は、比較対象となるランニング(周期的に状態が変化する特定動作)を行う人物(物体)を撮影した最初の動画データをユーザ操作により選択させるための処理を行う(図5のステップA1)。ここで、画像メモリ13aに記録保存されている各種の動画データの中からユーザ操作によっていずれか一つの動画データが動画比較の対象として選択されると、選択された動画データを構成する各フレームの中から右足接地(又は左足接地)の状態で人物(走者)が映されているフレームをクロップ処理の基準フレームとして、ユーザ操作により選択させるための処理を行う(ステップA2)。
次に、選択された基準フレーム内の人物(走者)の位置とサイズを指示するために所定のマーク(右足接地マーク又は左足接地マーク)をユーザ操作により入力指定させるための処理を行う(ステップA3)。この場合、右足接地マーク又は左足接地マークが予め記憶管理されている状態において、ユーザは、右足接地マーク又は左足接地マークを選択した後、この選択マークを基準フレーム内の走者上の位置まで移動すると共に、走者の大きさに応じて選択マークの大きさを調整(拡大/縮小)することにより走者の位置とサイズを入力指示するようにしている。制御部1は、上述のようにして選択された基準フレームの位置(何番目のフレームであるかを示す情報)を特定すると共に、その基準フレーム内に走者の位置とサイズを指示するクロップ領域を特定する(ステップA4)。
そして、特定した基準フレームの位置とクロップ領域の位置及び横幅を物体(走者)の位置及びサイズとして、比較対象の動画データに対応付けてワークメモリ13bに一時記憶(ステップA5)させた後、次の基準フレームを引き続いて選択することがユーザ操作により指示されたか否かを調べる(ステップA6)。この場合、その選択有無を問い合わせるメッセージを表示させ、それに応答するユーザ操作によって“選択する”が指示されたときには(ステップA6でYES)、上述のステップA2に戻り、以下、次の基準フレームが選択される毎に上述の動作を繰り返す。これによって、例えば、複数の基準フレームとして開始フレーム、終了フレームが選択された場合には、その開始フレーム・終了フレームの位置と、その開始フレーム・終了フレーム内の走者の位置及びサイズを指示するクロップ領域が特定される。
いま、ユーザ操作で“選択しない”が指示された場合に(ステップA6でNO)、選択されている動画データに対する基準フレームの選択処理を終了する。次に、制御部1は、選択された動画データを構成する各フレームをその先頭から一つ選択し(ステップA7)、その選択フレーム内のクロップ領域を特定する(ステップA8)。ここで、選択フレームが基準フレームであれば、右足接地マーク又は左足接地マークが付加されているので、この接地マークを構成する縦線の中心をクロップ領域の位置とすると共に、接地マークの上下方向において所定の割合のマージンを追加した値をクロップ領域の高さとし、更に、上述のマージンを含めた接地マークの高さに対して、動画データの縦横比と等しくなるように決定した値をクロップ領域の横幅とすることにより基準フレーム内のクロップ領域を特定する。
また、選択フレームが基準フレーム以外のフレーム、つまり、接地マークが付加されていないフレームであれば、その選択フレーム内にクロップ領域を補間する処理を行う。すなわち、選択フレーム内のクロップ領域の位置は、近接する(前後関係の)複数の基準フレーム内の各接地マークを利用して線形補間を行うことで算出する。また、クロップ領域のサイズは、開始フレーム及び終了フレームに施したものと同じマークのみを利用して、線形補間又はスプライン補間を行って算出することにより選択フレーム内にクロップ領域を特定する。これによって選択フレーム内のクロップ領域を特定すると、そのクロップ領域のサイズが揃うようにリサイズ処理を行って動画データを加工するために、その選択フレーム内からクロップ領域を切り出す(クロップする)と共に、このクロップ領域を元の画像サイズに拡大加工する処理を行う(ステップA9)。
このようにして1フレームに対する処理が終ると、図6のフローに移り、選択された動画データを構成する全てのフレームに対する処理が終ったか否かを調べる(ステップA10)。いま、全てのフレームに対する処理が終っていなければ(ステップA10でNO)、図5のステップA7に移り、次のフレームを選択する。以下、その選択フレーム内にクロップ領域を特定して(ステップA8)、クロップ領域を切り出して拡大加工する処理(ステップA9)をフレーム毎に繰り返す。これによって全てのフレーム対する処理が終ると(ステップA10でYES)、この加工した動画データを、物体の位置とサイズを正規化した正規化動画データとして記録保存する(ステップA11)。
そして、比較対象として次の動画データ(例えば、お手本となる走者を撮影した動画又は過去に撮影した同一走者の動画など)を選択するか否かをユーザに問い合わせために、そのメッセージを表示させ、それに応答するユーザ操作によって“選択する”が指示されたときには(ステップA12でYES)、図5のステップA1に戻り、その選択された動画データに対しても同様のクロップ処理及びリサイズ処理を行って動画データを加工すると共に(ステップA2〜A10)、加工した動画データを、物体の位置とサイズが正規化された正規化動画データとして記録保存する(ステップA11)。上述のように少なくとも比較対象として選択された複数の動画データの間で共通の位置条件及びサイズ条件で正規化することによって前記複数の動画データの間で物体の位置とサイズが相対的に正規化された複数の正規化動画データが生成される(なお、この時点では特定動作の周期についてはまだ正規化されていない)。
また、ユーザ操作で次の動画データを“選択しない”が指示されたときには(ステップA12でNO)、それまでに選択された複数の動画データを同時に再生する処理に移る(ステップA13〜A17)。ここで、複数の動画データを再生する場合に、特定動作の周期に合わせて基準フレームの再生タイミングを調整すると共に、基準フレーム以外のフレームについては、その前後の基準フレームの再生タイミングに合わせて該フレームの再生タイミングを調整するようにする。
すなわち、複数の動画データの各々について、先ず、各動画データの中から最初の基準フレームを選択することによって、各動画データを同時に再生する際に右足接地マーク(又は左足接地マーク)が付加されたフレーム同士が同じタイミングで再生されるように再生タイミングを制御する(ステップA13)。次に、選択された複数の動画データの各々について、上述のように選択した基準フレームから次の基準フレームまでのフレーム区間に含まれるフレーム数を計数することにより特定する(ステップA14)。その後、各動画データに対応して特定したフレーム区間のフレーム数を比較し、その違いに応じて、当該フレーム区間の再生時間が同じになるように各動画データの再生フレームレートを算出する(ステップA15)。つまり、少なくとも比較対象として選択された複数の動画データの間で共通の周期条件で正規化することによって、既に物体の位置とサイズが相対的に正規化された複数の正規化動画データにおける特定動作の周期を相対的に正規化する。
そして、各動画データに対応して算出した再生フレームレートで各動画データの当該フレーム区間を同時に再生する処理を開始する(ステップA16)。この場合、最初の基準フレームを同期させた後において、それに続く基準フレームについては、隣接する2つの基準フレームに挟まれるフレーム区間、そのフレーム再生時間が同じになるようにフレームレートを変更してから再生を行うことで、基準フレームの再生タイミングを同期させながら再生するようにしている。その際、表示画面上で複数の動画を並べて同期再生するようにしているが、複数の動画を同時に視認可能とするために各動画を接近配置して表示するようにしている。以下、各動画データの各々について、全ての基準フレームを処理したか否かを調べ(ステップA17)、全ての基準フレームを処理するまで上述のステップA12に戻り、次の基準フレームを選択しながら以下、上述の動作を繰り返す。
このように第1実施形態においては、特定動作の周期についての正規化は、複数の動画データを同時に再生する際に行われる。
以上のように、第1実施形態において制御部1は、周期的に状態が変化する特定動作を行う物体を撮影して得られた動画データについて、その動画に映っている物体の特定動作の周期に同期させる基準として決められた基準状態で物体が映されている複数の基準フレームの位置を特定すると共に、この各基準フレーム内における物体の位置とサイズを特定し、その特定した複数の基準フレームの位置と、各基準フレーム内における物体の位置とサイズに基づいて、特定動作における動作の周期、物体の位置及びサイズを、少なくとも比較対象として選択された複数の動画データの間で共通の条件で正規化することによってこの複数の動画データの間で相対的に正規化された正規化動画データを生成するようにしたので、特定動作を行う被写体を撮影して得られた動画データの各種の要素を簡単かつ適切に正規化することができ、動画データの活用範囲を広げることが可能となる。
すなわち、複数の基準フレームの位置とサイズに基づいて自動的に周期、位置、サイズを正規化した(比較対象となる他の動画と合わされた)動画データを生成するので、ユーザが動画データを正規化するために行わなければならない操作を低減することができる。また、周期、位置、サイズを正規化した動画データを生成するので、他の動画データの特定動作との比較が容易になる。例えば、同じ条件で正規化した複数の動画データを容易に同期再生して特定動作の比較を行うことが可能となる。
制御部1は、特定した複数の基準フレームのうち、前後関係となる各基準フレーム内における物体の位置とサイズを用いて所定の補間処理を行うことにより、基準フレーム以外のフレーム内における物体の位置とサイズを算出して、正規化動画データを生成するようにしたので、基準フレーム以外の各フレーム内に映っている物体の位置とサイズを適切に算出することができる。
制御部1は、正規化動画データを再生する場合に、特定動作の周期に合わせて基準フレームの再生タイミングを調整すると共に、基準フレーム以外のフレームについては、その前後の基準フレームの再生タイミングに合わせて該フレームの再生タイミングを調整するようにしたので、特定動作の周期に合わせた再生が可能となる。すなわち、再生開始タイミングを右足接地時又は左足接地時に揃えて再生可能であると共に、右足接地又は左足接地のタイミングは、右足接地マーク又は左足接地マークを基に行うことができる。
制御部1は、複数の動画データに対応付けて、特定動作における動作の周期、物体の位置及びサイズを所定条件で正規化した正規化動画データを生成するようにしたので、特定動作の周期に合わせて複数の動画を同期再生することが可能となる。
制御部1は、表示画面上で複数の動画を並べて同期再生するようにしたので、ユーザにあっては複数の動画を見比べながら特定動作の差異を確認することが可能となる。
制御部1は、ユーザ操作に基づいて、複数の基準フレームの位置を特定すると共に、この各基準フレーム内における物体の位置とサイズを特定するようにしたので、基準フレームの位置、物体の位置とサイズは、ユーザの意向に応じたものとなる。
制御部1は、物体の特定動作は、その周期内において複数の異なる基準状態が予め決められている動作であるので、その複数の異なる基準状態のうち、そのいずれかの基準状態を選択的に利用して正規化することができる。
特定動作は、人のランニングであり、基準状態は、ランニング中での右足が接地した状態、左足が接地した状態のうち、少なくともそのいずれかの接地状態であるから、その特定動作における動作の周期、物体の位置及びサイズを所定条件で正規化した正規化動画データを再生することによりランニングフォームの比較などに利用可能となる。
また、上述した第1実施形態においては、複数の動画データの間で相対的に正規化した正規化動画データを生成するようにしたので、ランニングフォームの比較に限らず、例えば、お手本の走者を真似たランニングを確認することも可能となる。
上述した第1実施形態においては、特定動作の周期内において複数の異なる基準状態のうち、そのいずれかの基準状態を選択的に利用して正規化するようにしたが、複数の基準状態を全て利用して正規化するようにしてもよい。これによって、より細かな正規化が可能となる。この場合、再生開始タイミングを右足接地時及び左足接地時に揃えて再生すると共に、右足接地及び左足接地のタイミングは、右足接地マーク及び左足接地マークを基に行う。
上述した第1実施形態においては、特に言及はしなかったが、ある基準フレームから次の基準フレームまでは撮影フレーム内の物体の位置が滑らかに変化するものと仮定して、この2つの基準フレームで挟まれる期間内のフレームについて、両端の基準フレームに基づいて線形補間を行うようにしたが、撮影方向を固定して定点撮影するのではなく、撮影方向を物体の移動に追従させて撮影した場合に、その撮影時に手ブレが生じたり、パンが滑らかに行われなかったりした場合を考慮して、クロップ領域の位置を補間するための位置補正マークを利用するようにしてもよい。すなわち、フレーム補間を行うための補助情報として、手ブレなどにより位置が大きくずれてしまった場合に、走者の相対位置が“ブレ”ることにより線形補間に支障をきたすことがあるために、位置補正マークを利用してクロップ領域の位置を補間するようにしてもよい。なお、この位置補正マークは、右足接地マーク又は左足接地マークと同様でもよいが、その形状は任意である。
上述した第1実施形態においては、周期的に状態が変化する特定動作を行う物体を撮影する撮影方法については、特に言及はしなかったが、撮影方向を固定して定点撮影したり、撮影方向を物体の移動に追従させて撮影したりしてもよく、また、撮影方向を固定して撮影して得られた動画データと、撮影方向を物体の移動に追従させて撮影して得られた動画データとをそれぞれ正規化して同期再生するようにしてもよい。これによって撮影方向の異なる動画同士の比較が可能となる。
上述した第1実施形態においては、周期的に状態が変化する特定動作として、マラソン時の右足接地、左足接地を例示したが、右足接地及左足接地の両方であってもよく、更に、腕の前後の振りの動きを周期的に状態が変化する特定動作としてもよい。また、特定動作としてはマラソンに限らず、また、人物の動作に限らないことは勿論である。
(第2実施形態)
以下、この発明の第2実施形態について図7及び図8を参照して説明する。
なお、上述した第1実施形態においては、物体の特定動作の周期に同期させる基準として決められた基準状態で物体が映されている複数の基準フレームの位置と物体の位置及びサイズをユーザ操作により特定するようにしたが、第2実施形態においては、画像解析により複数の基準フレームの位置と物体の位置及びサイズを自動的に特定するようにしたものである。ここで、両実施形態において基本的あるいは名称的に同一のものは、同一符号を付して示し、その説明を省略すると共に、以下、第2実施形態の特徴部分を中心に説明するものとする。
図7及び図8は、第2実施形態において動画データの正規化処理を示したフローチャートである。
先ず、制御部1は、周期的に状態が変化する特定動作を行う物体を撮影した各種の動画データの中から、そのいずれかの動画データを選択する処理を行う(図7のステップB1)。ここで、画像メモリ13aに記憶されている各種の動画データの中からユーザ操作によっていずれか一つの動画データが処理対象として選択されると、選択された動画データを構成する各フレームの中から一つの基準フレームをユーザ操作により選択させる処理を行う(ステップB2)。この場合、上述の特定動作の周期に同期させる基準として決められた基準状態で物体が映されている一つのフレームを基準フレームとしてユーザ操作により選択させる。
これによって一つの基準フレームが選択されると、その基準フレーム内の物体の形状を解析し、この形状を物体の基準状態を示す形状とする(ステップB3)。例えば、第1実施形態のように右足接地の状態又は左足接地の状態を、基準状態を示す形状として特定すると共に、その基準フレーム内での物体の位置及びサイズを特定する。そして、選択された動画データを構成する各フレームの中からフレーム毎に画像解析を行うことによって、基準状態に相似する形状で物体が映された複数のフレームを基準フレームとして特定する(ステップB4)。例えば、動画データを構成する各フレームの中から右足接地の状態又は左足接地の状態で物体が映されている全てのフレームを基準フレームとして特定する。
そして、この特定動作に対して予め固定的に決められている標準的な周期(個人差や個体差を考慮した標準的な周期)と、動画データの記録時のフレームレートを取得する(ステップB5)。なお、個人差や個体差を考慮した標準的な周期とは、マラソンの場合には右足接地から次の右足接地までを1周期とし、例えば、プロのマラソン選手やアマチュアのマラソン選手を含めて全てのマラソン選手に標準的な周期であってもよいし、プロ選手だけの標準的な周期や、アマチュア選手だけの標準的な周期であってもよい。
次に、この標準的な周期と記録時のフレームレートに基づいて、連続する二つの基準フレーム間での標準的なフレーム数を特定する(ステップB6)。この場合、標準的な周期とフレームレートとを乗算することで標準的なフレーム数を算出することかできる。そして、動画データ内の複数の基準フレームの中から最初の(次の)基準フレームを選択すると共に(ステップB7)、この選択した基準フレームと次の基準フレームで挟まれるフレーム区間を選択する(ステップB8)。そして、このフレーム区間の中に上述の標準的なフレーム数分のフレームを挿入したものとした場合に、その挿入する複数のフレームを正規化処理用のフレームとしてそのフレーム位置をそれぞれ特定する(ステップB9)。このようにフレーム区間の余剰フレーム及び不足フレームを解消するために標準的なフレーム数分の正規化処理用のフレームを特定する。
そして、この複数の正規化処理用のフレーム(正規化用フレーム)の中から最初の正規化用フレームの位置を選択し(図8のステップB10)、この選択した正規化用フレームの位置の前後に存在している実フレームの画像を用いて、この二つの実フレームの位置と正規化用フレームの位置に応じて画像補間処理(例えば、モーフィング処理)を行うことによってその正規化用フレームの位置に、対応する正規化用フレームの画像を新たに生成する処理を行う(ステップB11)。これによって1フレーム分の処理が終ると、選択したフレーム区間に含まれる全ての正規化用フレームを処理したかを調べるが(ステップB12)、最初は、選択フレーム区間の先頭の正規化用フレームに対する処理が終った場合であるから(ステップB12でNO)、上述のステップB10に戻り、次の正規化用フレームを選択する。以下、選択フレーム区間の全ての正規化用フレームを処理するまで上述の動作を繰り返す。つまり、第2実施形態においては、上記第1実施形態とは異なり、どの動画データが比較対象として選択されたかには無関係に、予め固定的に決められた周期条件で正規化することによって特定動作の周期が絶対的に正規化された正規化動画データが生成される。
ここで、選択フレーム区間の全ての正規化用フレームを処理し終ったときには(ステップB12でYES)、全てのフレーム区間を処理したか否かを調べるが(ステップB13)、最初は先頭のフレーム区間を処理した場合であるから(ステップB13でNO)、図7のステップB7に戻り、次の基準フレームを選択する。そして、選択した基準フレームと次の基準フレームで挟まれるフレーム区間を選択し(ステップB8)、以下、上述の動作を繰り返す(ステップB7〜B13)。
これによって全てのフレーム区間を処理したときには(ステップB13でYES)、全ての基準フレーム及び正規化用フレームについて、フレーム内の画像を解析することによって物体の位置とサイズを特定する(ステップB14)。そして、全ての基準フレーム及び正規化用フレームについて、特定した物体の位置とサイズに所定のマージンを設けた領域をクロップ領域として切り出す(クロップ)すると共に、このクロップ領域を元の画像サイズに拡大加工する処理を全てのフレーム対して繰り返す(ステップB15)。
このとき、クロップ領域を切り出す条件(所定のマージン)や、クロップ領域を元の画像サイズに拡大加工する条件を、どの動画データが比較対象として選択されたかには無関係に予め固定的に決められた条件とすることにより、物体の位置とサイズが絶対的に正規化された正規化動画データが生成される。これによって生成された動画データを、物体の位置、サイズ、特定動作の周期が正規化された正規化動画データとして記録保存する(ステップB16)。
このように第2実施形態においては、上記第1実施形態とは異なり、物体の位置、サイズ、特定動作の周期についての正規化が動画データの記録時に行われる。
このように正規化した正規化動画データが記録保存されている状態において、この複数の正規化動画データの中から同期再生の対象となる複数の正規化動画データがユーザ操作により任意に選択指定されると、制御部1は、選択指定された複数の正規化動画データを表示画面上に並べて同期再生させる。この場合の同期再生の仕方は、第1実施形態の場合と同様である。
以上のように、第2実施形態においては、予め固定的に決められた条件で物体の位置、サイズ、特定動作の周期を正規化することによって絶対的に正規化された正規化動画データを生成するようにしたので、動画データを正規化する際に、比較対象となる複数の動画データを選択する必要が無く、単独で動画データの正規化を行うことができる。また、絶対的に正規化した正規化動画データが記録保存されている状態において、この複数の正規化動画データの中から同期再生の対象となる複数の正規化動画データがユーザ操作により任意に選択指定されると、制御部1は、選択指定された複数の正規化動画データを表示画面上に並べて同期再生させるようにしたので、ユーザにあっては、同じ条件で絶対的に正規化された正規化動画データであれば、いつでも、どの動画データの組み合わせであっても容易に複数の動画を見比べながら特定動作の差異を確認することが可能となる。
制御部1は、動画データを構成する各フレームの画像を解析することにより基準状態で物体が映されている複数のフレームを基準フレームとしてその位置を特定すると共に、この各基準フレーム内における物体の位置とサイズを特定するようにしたので、ユーザが動画データを正規化するために行わなければならない操作を大幅に低減することができる。
なお、上述した第2実施形態においては、一つの基準フレームをユーザ操作により選択することによりその位置を特定するようにしたが、この一つの基準フレームもユーザ操作によらず、画像の解析によって特定するようにしてもよい。この場合、予め記憶されている物体の基準状態に基づいて基準フレームを特定すればよい。
また、上述した各実施形態においては、動画処理装置として撮像装置(デジタルカメラ)に適用した場合を例示したが、パーソナルコンピュータ、PDA(個人向け携帯型情報通信機器)、タブレット端末装置、スマートフォン以外の携帯電話機、電子ゲーム、音楽プレイヤーなどであってもよい。
また、上述した各実施形態において示した“装置”や“部”とは、機能別に複数の筐体に分離されていてもよく、単一の筐体に限らない。また、上述したフローチャートに記述した各ステップは、時系列的な処理に限らず、複数のステップを並列的に処理したり、別個独立して処理したりするようにしてもよい。
以上、この発明の実施形態について説明したが、この発明は、これに限定されるものではなく、特許請求の範囲に記載された発明とその均等の範囲を含むものである。
以下、本願出願の特許請求の範囲に記載された発明を付記する。
(付記)
(請求項1)
請求項1に記載の発明は、
周期的に状態が変化する特定動作を行う物体を撮影して得られた動画データについて、その動画に映っている物体の特定動作の周期に同期させる基準として決められた基準状態で前記物体が映されている複数の基準フレームの位置を特定すると共に、この各基準フレーム内における前記物体の位置とサイズを特定する特定手段と、
前記特定手段によって特定された複数の基準フレームの位置と、各基準フレーム内における前記物体の位置とサイズに基づいて、前記特定動作における動作の周期、物体の位置及びサイズを所定条件で正規化した正規化動画データを生成する生成手段と、
を備えたことを特徴とする動画処理装置である。
(請求項2)
請求項2に記載の発明は、請求項1に記載の動画処理装置において、
前記特定手段により特定された複数の基準フレームのうち、前後関係となる各基準フレーム内における物体の位置とサイズを用いて所定の補間処理を行うことにより基準フレーム以外のフレーム内の物体の位置とサイズを算出する算出手段を更に備え、
前記生成手段は、前記特定手段によって特定された複数の基準フレームの位置と、各基準フレーム内における前記物体の位置とサイズと、前記算出手段によって算出された基準フレーム以外のフレーム内の物体の位置とサイズに基づいて、正規化動画データを生成する、
ことを特徴とする動画処理装置である。
(請求項3)
請求項3に記載の発明は、請求項2に記載の動画処理装置において、
前記生成手段によって正規化された正規化動画データを再生する再生手段と、
前記再生手段によって正規化動画データを再生する場合に、正規化された特定動作の周期に合わせて基準フレームの再生タイミングを調整すると共に、前記基準フレーム以外のフレームについては、その前後の基準フレームの再生タイミングに合わせて該フレームの再生タイミングを調整する調整手段と、
を更に備える、
ことを特徴とする動画処理装置である。
(請求項4)
請求項4に記載の発明は、請求項1〜請求項3のいずれか1項に記載の動画処理装置において、
前記特定手段は、複数の前記動画データの個々に対応して、前記複数の基準フレームの位置を特定すると共に、この各基準フレーム内における物体の位置とサイズを特定し、
前記生成手段は、前記複数の動画データの個々に対応付して、前記特定動作における動作の周期、物体の位置及びサイズを所定条件で正規化した複数の正規化動画データを生成する、
ことを特徴とする動画処理装置である。
(請求項5)
請求項5に記載の発明は、請求項4に記載の動画処理装置において、
前記複数の動画データに対応して、前記生成手段により正規化された複数の正規化動画データを並べて表示すると共に、各正規化動画データを同期して再生する再生手段を更に備える、
ことを特徴とする動画処理装置である。
(請求項6)
請求項6に記載の発明は、請求項4又は請求項5に記載の動画処理装置において、
前記生成手段は、複数の前記動画データの個々に対応して、前記特定動作における動作の周期、物体の位置及びサイズを、少なくとも前記複数の動画データの間で共通の条件で正規化することによって前記複数の動画データの間で相対的に正規化された複数の正規化動画データを生成する、
ことを特徴とする動画処理装置である。
(請求項7)
請求項7に記載の発明は、請求項4又は請求項5に記載の動画処理装置において、
前記生成手段は、前記特定動作における動作の周期、物体の位置及びサイズを、予め固定的に決められた条件で正規化することによって絶対的に正規化された正規化動画データを生成する、
ことを特徴とする動画処理装置である。
(請求項8)
請求項8に記載の発明は、請求項4〜請求項6のいずれか1項に記載の動画処理装置において、
前記生成手段によって正規化された正規化動画データが生成される毎に、その正規化動画データを記憶する動画データ記憶手段と、
前記動画データ記憶手段に記憶されている各正規化動画データの中から同期再生の対象となる複数の正規化動画データを指定する指定手段と、
前記指定手段によって指定された複数の正規化動画データを表示画面上に並べて表示すると共に、各正規化動画データを同期して再生する再生手段と、
を更に備える、
ことを特徴とする動画処理装置である。
(請求項9)
請求項9に記載の発明は、請求項1〜請求項8のいずれか1項に記載の動画処理装置において、
前記特定手段は、ユーザ操作に基づいて、複数の基準フレームの位置を特定すると共に、この各基準フレーム内における前記物体の位置とサイズを特定する、
ことを特徴とする動画処理装置である。
(請求項10)
請求項10に記載の発明は、請求項1〜請求項8のいずれか1項に記載の動画処理装置において、
前記特定手段は、動画データを構成する各フレームの画像を解析することにより前記基準状態で前記物体が映されている複数のフレームを基準フレームとしてその位置を特定すると共に、この各基準フレーム内における前記物体の位置とサイズを特定する、
ことを特徴とする動画処理装置である。
(請求項11)
請求項11に記載の発明は、請求項1〜請求項10のいずれか1項に記載の動画処理装置において、
前記物体の特定動作は、その周期内において複数の異なる基準状態が予め決められている動作である、
ことを特徴とする動画処理装置である。
(請求項12)
請求項12に記載の発明は、請求項11に記載の動画処理装置において、
前記特定手段は、前記複数の異なる基準状態の中から選択されたいずれかの基準状態を利用して、基準フレームの位置を特定すると共に、この基準フレーム内における前記物体の位置とサイズを特定する、
ことを特徴とする動画処理装置である。
(請求項13)
請求項13に記載の発明は、請求項11に記載の動画処理装置において、
前記特定手段は、前記複数の異なる基準状態の全てを利用して、基準フレームの位置を特定すると共に、この基準フレーム内における前記物体の位置とサイズを特定する、
ことを特徴とする動画処理装置である。
(請求項14)
請求項14に記載の発明は、請求項2に記載の動画処理装置において、
前記算出手段は、前記所定の補間処理を行う場合に、前記物体の位置とサイズを補正するための情報を用いて補間処理を行う、
ことを特徴とする動画処理装置である。
(請求項15)
請求項15に記載の発明は、請求項1〜請求項14のいずれか1項に記載の動画処理装置において、
前記特定動作は、人のランニングであり、前記基準状態は、ランニング中での右足が接地した状態、左足が接地した状態のうち、少なくともそのいずれかの接地状態である、
ことを特徴とする動画処理装置である。
(請求項16)
請求項16に記載の発明は、請求項1〜請求項15のいずれか1項に記載の動画処理装置において、
前記動画データは、周期的に状態が変化する特定動作を行う物体を、撮影方向を固定して撮影して得られた動画データと、撮影方向を物体の移動に追従させて撮影して得られた動画データであり、
前記特定手段は、前記二つの動画データの個々に対応付けて、前記基準フレームの位置を特定すると共に、この基準フレーム内における物体の位置とサイズを特定する、
ことを特徴とする動画処理装置である。
(請求項17)
請求項17に記載の発明は、
周期的に状態が変化する特定動作を行う物体を撮影して得られた動画データについて、その動画に映っている物体の特定動作の周期に同期させる基準として決められた基準状態で前記物体が映されている複数の基準フレームの位置を特定すると共に、この各基準フレーム内における前記物体の位置とサイズを特定するステップと、
前記特定された複数の基準フレームの位置と、各基準フレーム内における前記物体の位置とサイズに基づいて、前記特定動作における動作の周期、物体の位置及びサイズを所定条件で正規化した正規化動画データを生成するステップと、
を含むことを特徴とする動画処理方法である。
(請求項18)
請求項18に記載の発明は、
コンピュータに対して、
周期的に状態が変化する特定動作を行う物体を撮影して得られた動画データについて、その動画に映っている物体の特定動作の周期に同期させる基準として決められた基準状態で前記物体が映されている複数の基準フレームの位置を特定すると共に、この各基準フレーム内における前記物体の位置とサイズを特定する機能と、
前記特定された複数の基準フレームの位置と、各基準フレーム内における前記物体の位置とサイズに基づいて、前記特定動作における動作の周期、物体の位置及びサイズを所定条件で正規化した正規化動画データを生成する機能と、
を実現させるためのプログラムである。
1 制御部
3 記憶部
4 操作部
5 撮像部
6 表示部
7 無線通信部

Claims (18)

  1. 周期的に状態が変化する特定動作を行う物体を撮影して得られた動画データについて、
    動画に映っている前記物体の前記特定動作の周期に同期させる基準として決められた基準状態で前記物体が映されている複数の基準フレームの位置を特定すると共に、各前記基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定する特定手段と、
    前記特定手段によって特定された前記複数の基準フレームの位置と、前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズと、に基づいて、前記特定動作の周期と、前記物体に対応するクロップ領域の位置及びサイズと、を比較対象となる他の動画データと合わせるように再生フレームレート変換処理、クロップ領域のクロップ処理及びクロップ領域のリサイズ処理を行って前記動画データを加工する正規化処理で正規化した正規化動画データを生成する生成手段と、
    を備え、
    前記特定手段は、前記基準フレームにおけるクロップ領域の位置を、前記物体に対応する領域を含む包絡領域の所定の位置とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの一方を、前記包絡領域の高さと横幅とのうちの対応する一方に所定の割合のマージンを追加した値とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの他方を、前記マージンを含めた前記基準フレームにおけるクロップ領域の高さと横幅とのうちの前記一方に対して最終的な動画データの縦横比と等しくなるように決定した値とする、
    ことを特徴とする動画処理装置。
  2. 前記特定手段により特定された前記複数の基準フレームのうちの、前後関係となる前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを用いて所定の補間処理を行うことにより前記基準フレーム以外のフレーム内の前記物体に対応するクロップ領域の位置及びサイズを算出する算出手段を更に備え、
    前記生成手段は、前記特定手段によって特定された前記複数の基準フレームの位置と、前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズと、前記算出手段によって算出された前記各基準フレーム以外のフレーム内の物体に対応するクロップ領域の位置及びサイズと、に基づいて、前記正規化動画データを生成する、
    ことを特徴とする請求項1に記載の動画処理装置。
  3. 前記生成手段によって正規化された前記正規化動画データを再生する再生手段と、
    前記再生手段によって前記正規化動画データを再生する場合に、正規化された前記特定動作の周期に合わせて前記基準フレームの再生タイミングを調整すると共に、前記基準フレーム以外のフレームについては、前後の前記基準フレームの再生タイミングに合わせて前記各基準フレーム以外のフレームの再生タイミングを調整する調整手段と、
    を更に備える、
    ことを特徴とする請求項2に記載の動画処理装置。
  4. 前記特定手段は、複数の前記動画データの個々に対応して、前記複数の基準フレームの位置を特定すると共に、前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定し、
    前記生成手段は、前記複数の動画データの個々に対応して、前記特定動作の周期と、前記物体に対応するクロップ領域の位置及びサイズと、を前記正規化処理で正規化した複数の前記正規化動画データを生成する、
    ことを特徴とする請求項1乃至請求項3のいずれか1項に記載の動画処理装置。
  5. 前記複数の動画データに対応して、前記生成手段により正規化された前記複数の正規化動画データを並べて表示すると共に、各前記正規化動画データを同期して再生する再生手段を更に備える、
    ことを特徴とする請求項4に記載の動画処理装置。
  6. 前記生成手段は、前記複数の動画データの個々に対応して、前記特定動作の周期と、前記物体に対応するクロップ領域の位置及びサイズと、を少なくとも前記複数の動画データの間で共通の前記正規化処理で正規化することによって前記複数の動画データの間で相対的に正規化された前記複数の正規化動画データを生成する、
    ことを特徴とする請求項4又は請求項5に記載の動画処理装置。
  7. 前記生成手段は、前記特定動作の周期と、前記物体に対応するクロップ領域の位置及びサイズと、を予め固定的に決められた前記正規化処理で正規化することによって絶対的に正規化された前記正規化動画データを生成する、
    ことを特徴とする請求項4又は請求項5に記載の動画処理装置。
  8. 前記生成手段によって正規化された前記正規化動画データが生成される毎に、前記正規化動画データを記憶する動画データ記憶手段と、
    前記動画データ記憶手段に記憶されている各前記正規化動画データの中から同期再生の対象となる前記複数の正規化動画データを指定する指定手段と、
    前記指定手段によって指定された前記複数の正規化動画データを表示画面上に並べて表示すると共に、前記各正規化動画データを同期して再生する再生手段と、
    を更に備える、
    ことを特徴とする請求項4乃至請求項6のいずれか1項に記載の動画処理装置。
  9. 前記特定手段は、ユーザ操作に基づいて、前記複数の基準フレームの位置を特定すると共に、前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定する、
    ことを特徴とする請求項1乃至請求項8のいずれか1項に記載の動画処理装置。
  10. 前記特定手段は、複数の前記動画データを構成する各フレームの画像を解析することにより前記基準状態で前記物体が映されている複数のフレームを前記複数の基準フレームとして位置を特定すると共に、前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定する、
    ことを特徴とする請求項1乃至請求項8のいずれか1項に記載の動画処理装置。
  11. 前記物体の前記特定動作は、前記特定動作の周期内において複数の異なる前記基準状態が予め決められている動作である、
    ことを特徴とする請求項1乃至請求項10のいずれか1項に記載の動画処理装置。
  12. 前記特定手段は、前記複数の異なる基準状態の中から選択されたいずれかの前記基準状態を利用して、前記基準フレームの位置を特定すると共に、前記基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定する、
    ことを特徴とする請求項11に記載の動画処理装置。
  13. 前記特定手段は、前記複数の異なる基準状態の全てを利用して、前記基準フレームの位置を特定すると共に、前記基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定する、
    ことを特徴とする請求項11に記載の動画処理装置。
  14. 前記算出手段は、前記所定の補間処理を行う場合に、前記物体に対応するクロップ領域の位置及びサイズを補正するための情報を用いて前記所定の補間処理を行う、
    ことを特徴とする請求項2に記載の動画処理装置。
  15. 前記特定動作は、人のランニングであり、前記基準状態は、前記ランニング中での右足が接地した状態、左足が接地した状態のうちの、少なくともいずれかの接地状態である、
    ことを特徴とする請求項1乃至請求項14のいずれか1項に記載の動画処理装置。
  16. 前記動画データは、周期的に状態が変化する前記特定動作を行う前記物体を、撮影方向を固定して撮影して得られた動画データと、撮影方向を物体の移動に追従させて撮影して得られた動画データと、であり、
    前記特定手段は、2つの前記動画データの個々に対応付けて、前記基準フレームの位置を特定すると共に、前記基準フレーム内における物体に対応するクロップ領域の位置及びサイズを特定する、
    ことを特徴とする請求項1乃至請求項15のいずれか1項に記載の動画処理装置。
  17. 周期的に状態が変化する特定動作を行う物体を撮影して得られた動画データについて、
    動画に映っている前記物体の前記特定動作の周期に同期させる基準として決められた基準状態で前記物体が映されている複数の基準フレームの位置を特定すると共に、各前記基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定する特定ステップと、
    前記特定ステップにおいて特定された前記複数の基準フレームの位置と、前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズと、に基づいて、前記特定動作の周期と、前記物体に対応するクロップ領域の位置及びサイズと、を比較対象となる他の動画データと合わせるように再生フレームレート変換処理、クロップ領域のクロップ処理及びクロップ領域のリサイズ処理を行って前記動画データを加工する正規化処理で正規化した正規化動画データを生成する生成ステップと、
    を含み、
    前記特定ステップにおいては、前記基準フレームにおけるクロップ領域の位置を、前記物体に対応する領域を含む包絡領域の所定の位置とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの一方を、前記包絡領域の高さと横幅とのうちの対応する一方に所定の割合のマージンを追加した値とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの他方を、前記マージンを含めた前記基準フレームにおけるクロップ領域の高さと横幅とのうちの前記一方に対して最終的な動画データの縦横比と等しくなるように決定した値とする、
    ことを特徴とする動画処理方法。
  18. コンピュータに対して、
    周期的に状態が変化する特定動作を行う物体を撮影して得られた動画データについて、
    動画に映っている前記物体の前記特定動作の周期に同期させる基準として決められた基準状態で前記物体が映されている複数の基準フレームの位置を特定すると共に、各前記基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズを特定する特定機能と、
    前記特定機能によって特定された前記複数の基準フレームの位置と、前記各基準フレーム内における前記物体に対応するクロップ領域の位置及びサイズと、に基づいて、前記特定動作の周期と、前記物体に対応するクロップ領域の位置及びサイズと、を比較対象となる他の動画データと合わせるように再生フレームレート変換処理、クロップ領域のクロップ処理及びクロップ領域のリサイズ処理を行って前記動画データを加工する正規化処理で正規化した正規化動画データを生成する生成機能と、
    を実現させ、
    前記特定機能においては、前記基準フレームにおけるクロップ領域の位置を、前記物体に対応する領域を含む包絡領域の所定の位置とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの一方を、前記包絡領域の高さと横幅とのうちの対応する一方に所定の割合のマージンを追加した値とし、前記基準フレームにおけるクロップ領域の高さと横幅とのうちの他方を、前記マージンを含めた前記基準フレームにおけるクロップ領域の高さと横幅とのうちの前記一方に対して最終的な動画データの縦横比と等しくなるように決定した値とする、
    ことを特徴とするプログラム。
JP2013161957A 2013-08-05 2013-08-05 動画処理装置、動画処理方法及びプログラム Active JP6361097B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013161957A JP6361097B2 (ja) 2013-08-05 2013-08-05 動画処理装置、動画処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013161957A JP6361097B2 (ja) 2013-08-05 2013-08-05 動画処理装置、動画処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2015033023A JP2015033023A (ja) 2015-02-16
JP6361097B2 true JP6361097B2 (ja) 2018-07-25

Family

ID=52517996

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013161957A Active JP6361097B2 (ja) 2013-08-05 2013-08-05 動画処理装置、動画処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6361097B2 (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0546682A (ja) * 1991-08-14 1993-02-26 Nippon Telegr & Teleph Corp <Ntt> 動画像抽出方法
JP3380540B2 (ja) * 2000-11-07 2003-02-24 阪本 ▲高▼士 三次元画像解析システム
JP3947456B2 (ja) * 2002-11-20 2007-07-18 浜松ホトニクス株式会社 歩幅測定装置及び歩幅測定方法
JP2004344418A (ja) * 2003-05-22 2004-12-09 Anima Kk 三次元動作解析装置
JP5029702B2 (ja) * 2008-01-25 2012-09-19 コニカミノルタホールディングス株式会社 画像生成装置、画像生成方法およびプログラム

Also Published As

Publication number Publication date
JP2015033023A (ja) 2015-02-16

Similar Documents

Publication Publication Date Title
KR101873668B1 (ko) 이동 단말의 촬영 방법 및 이동 단말
JP5514959B2 (ja) パノラマ画像生成方法及び撮像装置
US8970717B2 (en) Photographing apparatus
JP5214826B2 (ja) 立体パノラマ画像作成装置、立体パノラマ画像作成方法及び立体パノラマ画像作成プログラム並びに立体パノラマ画像再生装置、立体パノラマ画像再生方法及び立体パノラマ画像再生プログラム、記録媒体
JP2004343747A (ja) カメラ付移動通信端末機の撮影方法
JP2014502818A (ja) 画像処理のための一次像および二次像画像取込装置およびその方法
JP2011199565A (ja) 撮像装置、及びプログラム
WO2012132204A1 (ja) 撮像装置、撮像装置の撮影ガイド表示方法及び非一時的なコンピュータ可読媒体
JP2007158868A (ja) 画像処理装置および方法
JP2015012481A (ja) 画像処理装置
US11622175B2 (en) Electronic apparatus and control method thereof
JP6104077B2 (ja) 撮影機器及び撮影方法
US9866796B2 (en) Imaging apparatus, imaging method, and computer-readable recording medium
JP6361097B2 (ja) 動画処理装置、動画処理方法及びプログラム
JP5160655B2 (ja) 画像処理装置および方法並びにプログラム
JP5479149B2 (ja) 画像生成装置
US11523052B2 (en) Electronic apparatus, control method of electronic apparatus, and non-transitory computer readable medium
JP2020109687A (ja) 棚割情報生成システム
JP5364625B2 (ja) 撮像装置
JP5476900B2 (ja) 画像合成装置、画像合成方法及びプログラム
JP2014241621A (ja) 撮像装置、及びプログラム
JP2020150517A (ja) 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体
JP5370577B2 (ja) 構図選択装置及びプログラム
JP2012165405A (ja) 撮像装置、及びプログラム
JP2018038090A (ja) 画像生成装置、画像生成方法、画像生成プログラム及び画像生成システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160622

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170614

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170804

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20171127

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180223

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20180305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180529

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180611

R150 Certificate of patent or registration of utility model

Ref document number: 6361097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150