JP2005094493A - 意図的な移動撮像シーンの検出装置および検出方法ならびに意図的な移動撮像シーン検出プログラムを記録した記録媒体 - Google Patents

意図的な移動撮像シーンの検出装置および検出方法ならびに意図的な移動撮像シーン検出プログラムを記録した記録媒体 Download PDF

Info

Publication number
JP2005094493A
JP2005094493A JP2003326569A JP2003326569A JP2005094493A JP 2005094493 A JP2005094493 A JP 2005094493A JP 2003326569 A JP2003326569 A JP 2003326569A JP 2003326569 A JP2003326569 A JP 2003326569A JP 2005094493 A JP2005094493 A JP 2005094493A
Authority
JP
Japan
Prior art keywords
frame
condition
intentional
detecting
imaging scene
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003326569A
Other languages
English (en)
Other versions
JP4046673B2 (ja
Inventor
Haruo Hatanaka
晴雄 畑中
Naoki Chiba
直樹 千葉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2003326569A priority Critical patent/JP4046673B2/ja
Publication of JP2005094493A publication Critical patent/JP2005094493A/ja
Application granted granted Critical
Publication of JP4046673B2 publication Critical patent/JP4046673B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

【課題】 この発明は、意図的な移動撮像シーンをより高精度に検出することができる意図的な移動撮像シーンの検出装置を提供することを目的とする。
【解決手段】 意図的な移動撮像シーンの開始フレームを検出するための第1条件を用いて、意図的な移動撮像シーンの仮の開始フレームを検出する第1手段、第1手段によって仮の開始フレームが検出された場合には、意図的な移動撮像シーンの開始フレームを検出するための第2条件であって、第1条件とは異なる第2条件を用いて、上記仮の開始フレームまたは上記仮の開始フレームより時間的に1つ前のフレームから過去に遡る方向に、意図的な移動撮像シーンの開始フレームの探索を行うことにより、意図的な移動撮像シーンの開始フレームを検出する第2手段を備えている。
【選択図】 図1

Description

この発明は、意図的な移動撮像シーンの検出装置および検出方法ならびに意図的な移動撮像シーン検出プログラムを記録した記録媒体に関する。
手ぶれ補正を行う場合、撮影シーンのフレーム間の動きが、撮影者の意図しないカメラ運動(いわゆる手ぶれ)に因るものなのか、撮影者の意図的なカメラ運動(いわゆるパンニング、チルティングなど)に因るものなのかを判別し、意図的なカメラ運動に対しては、手ぶれ補正処理を行わないように処理される。
撮影シーンのフレーム間の動きが意図的なカメラ運動であるか否かを判別する方法が、特開平07−23276号公報、および特開平05−14801号公報に記載されている。
特開平07−23276号公報に記載の発明では、画像の積分ベクトルが補正可能範囲以上であるフレームがある閾値以上連続したときまたは画像全体の動きベクトルが同一方向を向くフレームがある閾値以上連続したとき、パンニングまたはチルティングの開始と判定し、画像全体の動きベクトルがこれと反対方向を向くフレームがある閾値以上連続したときまたは画像全体の動きベクトルある閾値以下となったときに、パンニングまたはチルティングの終了と検出している。
特開平05−14801号公報に記載の発明では、フレーム間の動きから角速度を算出し、同一方向の角速度が一定時間以上生じているか否かによって、パンニングまたはチルティングの開始および終了を検出している。
従来手法では、パンニングおよびチルティングであることを確認するための基準を用いて、パンニングおよびチルティングの開始および終了フレームを決定している。しかしながら、パンニングおよびチルティングを確定するための基準としては、大きな手ぶれシーンなどをパンニングおよびチルティングと誤認識しないように、厳しい基準を設定する必要があるため、パンニングおよびチルティングの検出が遅れ、パンニングおよびチルティングシーンを手ぶれ補正することにより不自然な結果を生じることがあった。
具体的に言えば、例えば、パンニングシーンの開始フレームの検出が遅れると、本来のパンニングシーンの開始フレームから、パンニングシーンの開始フレームと検出されたフレームまでの数フレームは、本来パンニングされているフレームであっても、誤って手ぶれ補正が行われるために停止シーンとなり、パンニングシーンの開始フレームと検出されたフレームになると画面は遅れた数フレーム分のパンニングの移動を瞬時に行った後、パンニングシーンに切り替わる(以降、スティック現象と呼ぶ)。
特開平07−23276号公報 特開平05−14801号公報
この発明は、意図的な移動撮像シーンをより高精度に検出することができる意図的な移動撮像シーンの検出装置および検出方法ならびに意図的な移動撮像シーン検出プログラムを記録した記録媒体を提供することを目的とする。
請求項1に記載の発明は、動画像データから意図的な移動撮像シーンを検出するための意図的な移動撮像シーンの検出装置において、意図的な移動撮像シーンの開始フレームを検出するための第1条件を用いて、意図的な移動撮像シーンの仮の開始フレームを検出する第1手段、第1手段によって仮の開始フレームが検出された場合には、意図的な移動撮像シーンの開始フレームを検出するための第2条件であって、第1条件とは異なる第2条件を用いて、上記仮の開始フレームまたは上記仮の開始フレームより時間的に1つ前のフレームから過去に遡る方向に、意図的な移動撮像シーンの開始フレームの探索を行うことにより、意図的な移動撮像シーンの開始フレームを検出する第2手段、第2手段によって開始フレームを検出した後に、第1手段によって検出された仮の開始フレームより時間的に先のフレームに対し、意図的な移動撮像シーンの終了フレームを検出するための第3条件を用いて、意図的な移動撮像シーンの仮の終了フレームを検出する第3手段、および第3手段によって仮の終了フレームが検出された場合には、意図的な移動撮像シーンの終了フレームを検出するための第4条件であって、第3条件とは異なる第4条件を用いて、上記仮の終了フレームまたは上記仮の終了フレームより時間的に1つ先のフレームから時間を進める方向に、意図的な移動撮像シーンの終了フレームの探索を行うことにより、意図的な移動撮像シーンの終了フレームを検出する第4手段を備えていることを特徴とする。
請求項2に記載の発明は、請求項1に記載の意図的な移動撮像シーンの検出装置において、第1条件は、隣接フレーム間の移動速度が第1閾値以上であるフレームが所定フレーム数以上連続したことという条件であり、第2条件は、隣接フレーム間の移動速度が第1閾値より小さい第2閾値以上であることという条件であり、第3条件は、隣接フレーム間の移動速度が第3閾値以下であることという条件であり、第4条件は、隣接フレーム間の移動速度が第3閾値より小さい第4閾値以下であることという条件であることを特徴とする。
請求項3に記載の発明は、動画像データから意図的な移動撮像シーンを検出するための意図的な移動撮像シーンの検出方法において、意図的な移動撮像シーンの開始フレームを検出するための第1条件を用いて、意図的な移動撮像シーンの仮の開始フレームを検出する第1ステップ、第1ステップによって仮の開始フレームが検出された場合には、意図的な移動撮像シーンの開始フレームを検出するための第2条件であって、第1条件とは異なる第2条件を用いて、上記仮の開始フレームまたは上記仮の開始フレームより時間的に1つ前のフレームから過去に遡る方向に、意図的な移動撮像シーンの開始フレームの探索を行うことにより、意図的な移動撮像シーンの開始フレームを検出する第2ステップ、第2ステップによって開始フレームを検出した後に、第1ステップによって検出された仮の開始フレームより時間的に先のフレームに対し、意図的な移動撮像シーンの終了フレームを検出するための第3条件を用いて、意図的な移動撮像シーンの仮の終了フレームを検出する第3ステップ、および第3ステップによって仮の終了フレームが検出された場合には、意図的な移動撮像シーンの終了フレームを検出するための第4条件であって、第3条件とは異なる第4条件を用いて、上記仮の終了フレームまたは上記仮の終了フレームより時間的に1つ先のフレームから時間を進める方向に、意図的な移動撮像シーンの終了フレームの探索を行うことにより、意図的な移動撮像シーンの終了フレームを検出する第4ステップを備えていることを特徴とする。
請求項4に記載の発明は、請求項3に記載の意図的な移動撮像シーンの検出方法において、第1条件は、隣接フレーム間の移動速度が第1閾値以上であるフレームが所定フレーム数以上連続したことという条件であり、第2条件は、隣接フレーム間の移動速度が第1閾値より小さい第2閾値以上であることという条件であり、第3条件は、隣接フレーム間の移動速度が第3閾値以下であることという条件であり、第4条件は、隣接フレーム間の移動速度が第3閾値より小さい第4閾値以下であることという条件であることを特徴とする。
請求項5に記載の発明は、動画像データから意図的な移動撮像シーンを検出するための意図的な移動撮像シーン検出プログラムを記録したコンピュータ読み取り可能な記録媒体において、意図的な移動撮像シーンの開始フレームを検出するための第1条件を用いて、意図的な移動撮像シーンの仮の開始フレームを検出する第1ステップ、第1ステップによって仮の開始フレームが検出された場合には、意図的な移動撮像シーンの開始フレームを検出するための第2条件であって、第1条件とは異なる第2条件を用いて、上記仮の開始フレームまたは上記仮の開始フレームより時間的に1つ前のフレームから過去に遡る方向に、意図的な移動撮像シーンの開始フレームの探索を行うことにより、意図的な移動撮像シーンの開始フレームを検出する第2ステップ、第2ステップによって開始フレームを検出した後に、第1ステップによって検出された仮の開始フレームより時間的に先のフレームに対し、意図的な移動撮像シーンの終了フレームを検出するための第3条件を用いて、意図的な移動撮像シーンの仮の終了フレームを検出する第3ステップ、および第3ステップによって仮の終了フレームが検出された場合には、意図的な移動撮像シーンの終了フレームを検出するための第4条件であって、第3条件とは異なる第4条件を用いて、上記仮の終了フレームまたは上記仮の終了フレームより時間的に1つ先のフレームから時間を進める方向に、意図的な移動撮像シーンの終了フレームの探索を行うことにより、意図的な移動撮像シーンの終了フレームを検出する第4ステップをコンピュータに実行させるための意図的な移動撮像シーン検出プログラムを記録していることを特徴とする。
請求項6に記載の発明は、請求項5に記載の意図的な移動撮像シーン検出プログラムを記録したコンピュータ読み取り可能な記録媒体において、第1条件は、隣接フレーム間の移動速度が第1閾値以上であるフレームが所定フレーム数以上連続したことという条件であり、第2条件は、隣接フレーム間の移動速度が第1閾値より小さい第2閾値以上であることという条件であり、第3条件は、隣接フレーム間の移動速度が第3閾値以下であることという条件であり、第4条件は、隣接フレーム間の移動速度が第3閾値より小さい第4閾値以下であることという条件であることを特徴とする。
この発明によれば、意図的な移動撮像シーンをより高精度に検出することができるようになる。
以下、本発明の実施の形態について説明する。
〔1〕手ぶれ補正装置の説明
図1は、手ぶれ補正装置の構成を示している。
手ぶれ補正装置は、パーソナルコンピュータ10によって実現される。パーソナルコンピュータ10には、ディスプレイ21、マウス22およびキーボード23が接続されている。パーソナルコンピュータ10は、CPU11、メモリ12、ハードディスク13、CD−ROMのようなリムーバブルディスク20のドライブ14を備えている。
ハードディスク13には、OS(オペレーションシステム)等の他、手ぶれ補正処理プログラムが格納されている。手ぶれ補正処理プログラムには、意図的な移動撮像シーン検出プログラムが含まれている。手ぶれ補正処理プログラムは、それが格納されたCD−ROM等のリムーバブルディスク20を用いて、ハードディスク13にインストールされる。また、ハードディスク13にはビデオカメラなどによって撮像された動画像ファイルが予め格納されているものとする。
〔2〕手ぶれ補正プログラムが起動せしめられた場合にCPUによって行われる手ぶれ補正処理の説明
図2は、CPUによって行われる手ぶれ補正の全体的な処理手順を示している。
まず、各入力フレームに対して1つ前の入力フレームとの間の幾何変換行列(隣接フレーム間の幾何変換行列)を算出する(ステップ1)。つまり、入力フレーム上の座標を1つ前のフレーム上の座標に変換するための幾何変換行列を算出する。算出された幾何変換行列は、メモリ12に保存される。幾何変換行列は、次式(1)のように3×3の要素で表すことができ、2フレーム間の世界座標変換の係数に相当する。
Figure 2005094493
次に、各入力フレーム毎に得られた幾何変換行列を基に、意図的な移動撮影シーンを検出するための意図的な移動撮影シーン検出処理を行う(ステップ2)。具体的には、意図的な移動撮影シーンの開始フレームと終了フレームとを検出する。次に、意図的な移動撮影シーン以外のフレームに対して、手ぶれ補正処理を行う(ステップ3)。
隣接フレーム間の幾何変換行列は、次のようにして求められる。現入力フレームをFcurrとし、1つ前の入力フレームをFprevとする。まず、Fcurrの特徴点Pcurrを抽出する。特徴点とは、隣接画素の輝度値が急激に変化する点である。次に、フレームFprev、Fcurr間での特徴点Pcurrの動きベクトルを算出する。特徴点の動きベクトルの算出は、勾配法によるオプティカルフロー推定を用いる。Fcurrの全特徴点に対して動きベクトルの算出を行い、フレーム間の全特徴点の対応付け結果を得る。1組の対応点(x1,y1)・(x1’,y1’)から次式(2)のように2つの方程式が得られるので、3組以上の対応点を検出することにより6つ以上の方程式を導出する。これらの方程式から、未知数6の幾何変換行列を線形解法で算出する。
Figure 2005094493
図3は、図2のステップ2の意図的な移動撮影シーン検出処理の詳細な手順を示している。
まず、第1フレームを注目フレームFi とする(ステップ11)。注目フレームFi とそれより1つ前のフレームFi-1 との間の移動速度(隣接フレーム間の移動速度)Vi を算出して保持する(ステップ12)。隣接フレーム間の移動速度Vi の算出は、それぞれ水平、垂直方向の移動量成分を意味する幾何変換行列の要素m13,m23を用いて、次式(3)に基づいて行う。
Figure 2005094493
上記式(3)において、Di は、注目フレームFi に対応する幾何変換行列の要素m13,m23から算出される値であり、Di-1 は、注目フレームFi より1つ前のフレームFi-1 に対応する幾何変換行列の要素m13,m23から算出される値である。なお、注目フレームFi が第1フレームのときには、隣接フレーム間の移動速度Vi を0とする。
次に、意図的な移動撮影シーンの終了フレームを探索中であることを記憶するフラグflagがセット(flag=1)されているか、リセット(flag=0)されているかを判別する(ステップ13)。このフラグflagは、初期状態ではリセット(flag=0)されている。
フラグflagがリセットされていれば、ステップ14に移行する。フラグflagがセットされていれば、ステップ24に移行する。
ステップ14では、注目フレームFi が意図的な移動撮影シーンの仮開始フレームであるか否かの判定を行う。具体的には、隣接フレーム間の移動速度Vが3ピクセル/フレーム以上であるフレームが、20回以上連続した場合には、注目フレームFi が意図的な移動撮影シーンの仮開始フレームであると判定する。そうでない場合には、注目フレームFi は、意図的な移動撮影シーンの仮開始フレームではないと判定する。
注目フレームFi が意図的な移動撮影シーンの仮開始フレームでないと判定した場合には、注目フレームFi が最終フレームか否かを判定する(ステップ15)。注目フレームFi が最終フレームであれば、処理を終了する。最終フレームでなければ、注目フレームFi をその次のフレームに更新させた後(ステップ16)、ステップ12に戻る。
上記ステップ14において、注目フレームFi が意図的な移動撮影シーンの仮開始フレームであると判定した場合には、意図的な移動撮影シーンの真の開始フレームの判定処理に移行する。
意図的な移動撮影シーンの真の開始フレームの判定処理について説明する。意図的な移動撮影シーンの真の開始フレームの判定処理では、上記ステップ14で決定された仮開始フレームFi より1つ前のフレームから、過去のフレームに遡る方向(逆方向)に、意図的な移動撮影シーンの開始フレームを探索する。上記ステップ14で決定された仮開始フレームFi から、過去のフレームに遡る方向(逆方向)に、意図的な移動撮影シーンの開始フレームを探索してもよい。探索の対象となっているフレームを探索対象フレームということにする。
まず、上記ステップ14で決定された仮開始フレームFi より1つ前のフレームを、探索対象フレームとする(ステップ17)。探索対象フレームとそれより1つ前のフレームとの間の移動速度(上記ステップ12で既に算出されている)が1ピクセル/フレーム以下であるか否かを判別する(ステップ18)。探索対象フレームに対応する隣接フレーム間の移動速度が1ピクセル/フレーム以下でなければ、探索対象フレームを現探索対象フレームより1つ前のフレームに更新した後(ステップ19)、ステップ18に戻る。
上記ステップ18において、探索対象フレームに対応する隣接フレーム間の移動速度が1ピクセル/フレーム以下であると判別した場合には、探索対象フレームを意図的な移動撮影シーンの真の開始フレームと決定する(ステップ20)。また、フラグflagをセット(flag=1)する(ステップ21)。次に、注目フレームFi が最終フレームか否かを判定する(ステップ22)。注目フレームFi が最終フレームであれば、処理を終了する。最終フレームでなければ、注目フレームFi をその次のフレームに更新させた後(ステップ23)、ステップ12に戻る。この場合には、ステップ12で隣接フレーム間の移動速度Vi が算出された後、ステップ13に進むが、フラグflagがセット(flag=1)されているので、ステップ13からステップ24に移行することになる。
ステップ24では、注目フレームFi が、意図的な移動撮影シーンの仮終了フレームであるか否かを判定する。この判定は、注目フレームFi に対応する隣接フレーム間の移動速度Vi が3ピクセル/フレーム以下であるか否かに基づいて行われる。つまり、注目フレームFi に対応する隣接フレーム間の移動速度Vi が3ピクセル/フレーム以下である場合には、注目フレームFi が、意図的な移動撮影シーンの仮終了フレームであると判定する。注目フレームFi に対応する隣接フレーム間の移動速度Vi が3ピクセル/フレームより大きい場合には、注目フレームFi は、意図的な移動撮影シーンの仮終了フレームではないと判定する。
注目フレームFi が意図的な移動撮影シーンの仮終了フレームでないと判定した場合には、注目フレームFi が最終フレームか否かを判定する(ステップ25)。注目フレームFi が最終フレームであれば、処理を終了する。最終フレームでなければ、注目フレームFi をその次のフレームに更新させた後(ステップ26)、ステップ12に戻る。この場合には、ステップ12で隣接フレーム間の移動速度Vi が算出された後、ステップ13に進むが、フラグflagがセット(flag=1)されているので、ステップ13からステップ24に移行することになる。
上記ステップ24において、注目フレームFi が、意図的な移動撮影シーンの仮終了フレームであると判定した場合には、意図的な移動撮影シーンの真の終了フレームの判定処理に移行する。
う。
意図的な移動撮影シーンの真の終了フレームの判定処理について説明する。意図的な移動撮影シーンの真の終了フレームの判定処理では、上記ステップ24で決定された仮終了フレームFi より1つ先のフレームから、時間を進める方向(順方向)に、意図的な移動撮影シーンの終了フレームを探索する。上記ステップ24で決定された仮終了フレームFi から、時間を進める方向(順方向)に、意図的な移動撮影シーンの終了フレームを探索してもよい。探索の対象となっているフレームを探索対象フレームということにする。
まず、上記ステップ24で決定された仮終了フレームFi より1つ先のフレーム(仮終了フレームFi の次のフレーム)を、探索対象フレームとする(ステップ27)。探索対象フレームとそれより1つ前の入力フレームとの間の移動速度(フレームの移動速度)を算出する(ステップ28)。そして、探索対象フレームに対応する隣接フレーム間の移動速度が1ピクセル/フレーム以下であるか否かを判別する(ステップ29)。探索対象フレームに対応する隣接フレーム間の移動速度が1ピクセル/フレーム以下でなれれば、探索対象フレームを現探索対象フレームより1つ先のフレーム(仮終了フレームFi の次のフレーム)に更新した後(ステップ30)、ステップ28に戻る。
上記ステップ29において、探索対象フレームに対応する隣接フレーム間の移動速度が1ピクセル/フレーム以下であると判別した場合には、探索対象フレームを意図的な移動撮影シーンの真の終了フレームと決定する(ステップ31)。また、フラグflagをリセット(flag=0)する(ステップ32)。次に、注目フレームFi が最終フレームか否かを判定する(ステップ22)。注目フレームFi が最終フレームであれば、処理を終了する。最終フレームでなければ、注目フレームFi をその次のフレームに更新させた後(ステップ23)、ステップ12に戻る。この場合には、ステップ12で隣接フレーム間の移動速度Vi が算出された後、ステップ13に進むが、フラグflagがリセット(flag=0)されているので、ステップ13からステップ14に移行することになる。
図4(a)は、入力フレーム番号に対する、隣接フレーム間の移動速度の大きさの変化を示している。図4(b)は、フレーム間の移動速度の大きさがある閾値を越えた期間を意図的な移動撮影シーンと判定した結果を示す。ここで、Fs が仮開始フレーム、Fe が仮終了フレームに相当する。図4(c)は仮開始、終了フレームから、より正確な開始、終了フレームを検出した結果を示す。ここで、Fs ’が最終的な開始フレーム(真の開始フレーム)、Fe ’が最終的な終了フレーム(真の終了フレーム)に相当する。
図5は、図2のステップ3の手ぶれ補正処理の詳細な手順を示している。
まず、第1フレームを注目フレームFi とする(ステップ41)。次に、注目フレームFi が意図的な移動撮影シーンであるか否かを判別する(ステップ42)。この判別は、図2のステップ2の意図的な移動撮影シーン検出処理結果に基づいて行われる。
注目フレームFi が意図的な移動撮影シーンでない場合には、手ぶれ補正を行う(ステップ43)。手ぶれ補正は、次のようにして行われる。
第1フレームから最初の意図的な移動撮影シーンの真の開始フレームの1つの前のフレームまでのフレーム区間、意図的な移動撮影シーンの真の終了フレームの1つ先のフレームから次の意図的な移動撮影シーンの真の開始フレームの1つ前のフレームまでのフレーム区間、最後の意図的な移動撮影シーンの真の終了フレームの1つ先のフレームから最終フレームまでのフレーム区間を、それぞれ手ぶれ補正区間ということにする。
手ぶれ補正は、注目フレームが存在する手ぶれ補正区間の最初のフレーム(基準フレーム)から注目フレームまでの各隣接フレーム間の幾何変換行列を積算することによって、累積幾何変換行列(注目フレーム上の座標を基準フレーム上の座標に変換するための幾何変換行列)を算出し、注目フレームを累積幾何変換行列で幾何変換することによって行われる。
手ぶれ補正が行われると、注目フレームFi が最終フレームか否かを判定する(ステップ45)。注目フレームFi が最終フレームであれば、処理を終了する。最終フレームでなければ、注目フレームFi をその次のフレームに更新させた後(ステップ46)、ステップ42に戻る。
上記ステップ42において、注目フレームFi が意図的な移動撮影シーンであると判定した場合には、手ぶれ補正を行わないが、視線の移動開始位置をその前の手ぶれ補正区間の手ぶれ補正後のフレームに合わせるための処理(視線補正)を行う(ステップ44)。つまり、注目フレームを、その前の手ぶれ補正区間の最終フレームに対して算出された累積幾何変換行列で幾何変換する。
視線補正が行われると、注目フレームFi が最終フレームか否かを判定する(ステップ45)。注目フレームFi が最終フレームであれば、処理を終了する。最終フレームでなければ、注目フレームFi をその次のフレームに更新させた後(ステップ46)、ステップ42に戻る。
手ぶれ補正装置の構成を示すブロック図である。 手ぶれ補正の全体的な処理手順を示すフローチャートである。 図2のステップ2の意図的な移動撮影シーン検出処理の詳細な手順を示すフローチャートである。 入力フレーム番号に対する、隣接フレーム間の移動速度の変化の一例と、フレーム間の移動速度がある閾値を越えた期間を意図的な移動撮影シーンと判定した結果と、仮開始、終了フレームから、より正確な開始、終了フレームを検出した結果とを示すグラフである。 図2のステップ3の手ぶれ補正処理の詳細な手順を示すフローチャートである。
符号の説明
10 パーソナルコンピュータ
11 CPU
12 メモリ
13 ハードディスク
14 リムーバブルディスク

Claims (6)

  1. 動画像データから意図的な移動撮像シーンを検出するための意図的な移動撮像シーンの検出装置において、
    意図的な移動撮像シーンの開始フレームを検出するための第1条件を用いて、意図的な移動撮像シーンの仮の開始フレームを検出する第1手段、
    第1手段によって仮の開始フレームが検出された場合には、意図的な移動撮像シーンの開始フレームを検出するための第2条件であって、第1条件とは異なる第2条件を用いて、上記仮の開始フレームまたは上記仮の開始フレームより時間的に1つ前のフレームから過去に遡る方向に、意図的な移動撮像シーンの開始フレームの探索を行うことにより、意図的な移動撮像シーンの開始フレームを検出する第2手段、
    第2手段によって開始フレームを検出した後に、第1手段によって検出された仮の開始フレームより時間的に先のフレームに対し、意図的な移動撮像シーンの終了フレームを検出するための第3条件を用いて、意図的な移動撮像シーンの仮の終了フレームを検出する第3手段、および
    第3手段によって仮の終了フレームが検出された場合には、意図的な移動撮像シーンの終了フレームを検出するための第4条件であって、第3条件とは異なる第4条件を用いて、上記仮の終了フレームまたは上記仮の終了フレームより時間的に1つ先のフレームから時間を進める方向に、意図的な移動撮像シーンの終了フレームの探索を行うことにより、意図的な移動撮像シーンの終了フレームを検出する第4手段、
    を備えていることを特徴とする意図的な移動撮像シーンの検出装置。
  2. 第1条件は、隣接フレーム間の移動速度が第1閾値以上であるフレームが所定フレーム数以上連続したことという条件であり、第2条件は、隣接フレーム間の移動速度が第1閾値より小さい第2閾値以上であることという条件であり、第3条件は、隣接フレーム間の移動速度が第3閾値以下であることという条件であり、第4条件は、隣接フレーム間の移動速度が第3閾値より小さい第4閾値以下であることという条件であることを特徴とする請求項1に記載の意図的な移動撮像シーンの検出装置。
  3. 動画像データから意図的な移動撮像シーンを検出するための意図的な移動撮像シーンの検出方法において、
    意図的な移動撮像シーンの開始フレームを検出するための第1条件を用いて、意図的な移動撮像シーンの仮の開始フレームを検出する第1ステップ、
    第1ステップによって仮の開始フレームが検出された場合には、意図的な移動撮像シーンの開始フレームを検出するための第2条件であって、第1条件とは異なる第2条件を用いて、上記仮の開始フレームまたは上記仮の開始フレームより時間的に1つ前のフレームから過去に遡る方向に、意図的な移動撮像シーンの開始フレームの探索を行うことにより、意図的な移動撮像シーンの開始フレームを検出する第2ステップ、
    第2ステップによって開始フレームを検出した後に、第1ステップによって検出された仮の開始フレームより時間的に先のフレームに対し、意図的な移動撮像シーンの終了フレームを検出するための第3条件を用いて、意図的な移動撮像シーンの仮の終了フレームを検出する第3ステップ、および
    第3ステップによって仮の終了フレームが検出された場合には、意図的な移動撮像シーンの終了フレームを検出するための第4条件であって、第3条件とは異なる第4条件を用いて、上記仮の終了フレームまたは上記仮の終了フレームより時間的に1つ先のフレームから時間を進める方向に、意図的な移動撮像シーンの終了フレームの探索を行うことにより、意図的な移動撮像シーンの終了フレームを検出する第4ステップ、
    を備えていることを特徴とする意図的な移動撮像シーンの検出方法。
  4. 第1条件は、隣接フレーム間の移動速度が第1閾値以上であるフレームが所定フレーム数以上連続したことという条件であり、第2条件は、隣接フレーム間の移動速度が第1閾値より小さい第2閾値以上であることという条件であり、第3条件は、隣接フレーム間の移動速度が第3閾値以下であることという条件であり、第4条件は、隣接フレーム間の移動速度が第3閾値より小さい第4閾値以下であることという条件であることを特徴とする請求項3に記載の意図的な移動撮像シーンの検出方法。
  5. 動画像データから意図的な移動撮像シーンを検出するための意図的な移動撮像シーン検出プログラムを記録したコンピュータ読み取り可能な記録媒体において、
    意図的な移動撮像シーンの開始フレームを検出するための第1条件を用いて、意図的な移動撮像シーンの仮の開始フレームを検出する第1ステップ、
    第1ステップによって仮の開始フレームが検出された場合には、意図的な移動撮像シーンの開始フレームを検出するための第2条件であって、第1条件とは異なる第2条件を用いて、上記仮の開始フレームまたは上記仮の開始フレームより時間的に1つ前のフレームから過去に遡る方向に、意図的な移動撮像シーンの開始フレームの探索を行うことにより、意図的な移動撮像シーンの開始フレームを検出する第2ステップ、
    第2ステップによって開始フレームを検出した後に、第1ステップによって検出された仮の開始フレームより時間的に先のフレームに対し、意図的な移動撮像シーンの終了フレームを検出するための第3条件を用いて、意図的な移動撮像シーンの仮の終了フレームを検出する第3ステップ、および
    第3ステップによって仮の終了フレームが検出された場合には、意図的な移動撮像シーンの終了フレームを検出するための第4条件であって、第3条件とは異なる第4条件を用いて、上記仮の終了フレームまたは上記仮の終了フレームより時間的に1つ先のフレームから時間を進める方向に、意図的な移動撮像シーンの終了フレームの探索を行うことにより、意図的な移動撮像シーンの終了フレームを検出する第4ステップ、
    をコンピュータに実行させるための意図的な移動撮像シーン検出プログラムを記録したコンピュータ読み取り可能な記録媒体。
  6. 第1条件は、隣接フレーム間の移動速度が第1閾値以上であるフレームが所定フレーム数以上連続したことという条件であり、第2条件は、隣接フレーム間の移動速度が第1閾値より小さい第2閾値以上であることという条件であり、第3条件は、隣接フレーム間の移動速度が第3閾値以下であることという条件であり、第4条件は、隣接フレーム間の移動速度が第3閾値より小さい第4閾値以下であることという条件であることを特徴とする請求項5に記載の意図的な移動撮像シーン検出プログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2003326569A 2003-09-18 2003-09-18 意図的な移動撮像シーンの検出装置および検出方法ならびに意図的な移動撮像シーン検出プログラムを記録した記録媒体 Expired - Fee Related JP4046673B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003326569A JP4046673B2 (ja) 2003-09-18 2003-09-18 意図的な移動撮像シーンの検出装置および検出方法ならびに意図的な移動撮像シーン検出プログラムを記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003326569A JP4046673B2 (ja) 2003-09-18 2003-09-18 意図的な移動撮像シーンの検出装置および検出方法ならびに意図的な移動撮像シーン検出プログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2005094493A true JP2005094493A (ja) 2005-04-07
JP4046673B2 JP4046673B2 (ja) 2008-02-13

Family

ID=34456719

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003326569A Expired - Fee Related JP4046673B2 (ja) 2003-09-18 2003-09-18 意図的な移動撮像シーンの検出装置および検出方法ならびに意図的な移動撮像シーン検出プログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP4046673B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010028734A (ja) * 2008-07-24 2010-02-04 Canon Inc 画像処理装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0514801A (ja) * 1990-10-18 1993-01-22 Fuji Photo Film Co Ltd 手振れ補正装置
JPH06139746A (ja) * 1992-10-22 1994-05-20 Sony Corp 磁気テープカセット及び記録再生方法
JPH06276467A (ja) * 1993-03-23 1994-09-30 Toshiba Corp 映像インデックス作成方式
JPH0723276A (ja) * 1993-06-29 1995-01-24 Sanyo Electric Co Ltd 手振れ補正方法
JPH08191411A (ja) * 1994-11-08 1996-07-23 Matsushita Electric Ind Co Ltd シーン判別方法および代表画像記録・表示装置
JPH10276449A (ja) * 1997-03-31 1998-10-13 Nippon Hoso Kyokai <Nhk> 映像編集システムおよび動画像分割方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0514801A (ja) * 1990-10-18 1993-01-22 Fuji Photo Film Co Ltd 手振れ補正装置
JPH06139746A (ja) * 1992-10-22 1994-05-20 Sony Corp 磁気テープカセット及び記録再生方法
JPH06276467A (ja) * 1993-03-23 1994-09-30 Toshiba Corp 映像インデックス作成方式
JPH0723276A (ja) * 1993-06-29 1995-01-24 Sanyo Electric Co Ltd 手振れ補正方法
JPH08191411A (ja) * 1994-11-08 1996-07-23 Matsushita Electric Ind Co Ltd シーン判別方法および代表画像記録・表示装置
JPH10276449A (ja) * 1997-03-31 1998-10-13 Nippon Hoso Kyokai <Nhk> 映像編集システムおよび動画像分割方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
熊野 雅仁 MASAHITO KUMANO: "映像文法に基づいた映像支援システムのための使用可能なショット区間の自動抽出", 映像情報メディア学会誌 第57巻 第7号 THE JOURNAL OF THE INSTITUTE OF IMAGE INFORMATION AND TELE, vol. 第57巻第7号, JPN6007002466, 1 July 2003 (2003-07-01), JP, pages 829 - 839, ISSN: 0000910753 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010028734A (ja) * 2008-07-24 2010-02-04 Canon Inc 画像処理装置

Also Published As

Publication number Publication date
JP4046673B2 (ja) 2008-02-13

Similar Documents

Publication Publication Date Title
JP5284048B2 (ja) 画像処理装置、撮像装置及び画像処理方法
US8988529B2 (en) Target tracking apparatus, image tracking apparatus, methods of controlling operation of same, and digital camera
US7221776B2 (en) Video stabilizer
EP2640057B1 (en) Image processing device, image processing method and program
US8004528B2 (en) Method, systems and computer product for deriving three-dimensional information progressively from a streaming video sequence
US20090225174A1 (en) Image processing apparatus, image processing method, hand shake blur area estimation device, hand shake blur area estimation method, and program
US10257402B2 (en) Control apparatus, method of controlling image sensing device, and non-transitory computer-readable storage medium that controls an image sensing device for tracking and sensing a tracking target
JP2007166269A (ja) 画像処理装置、撮像装置および画像処理方法
KR20170033126A (ko) 영상 움직임 추정 방법 및 장치, 영상 안정화 방법 및 장치, 및 컴퓨터 기록매체
JP2012151796A (ja) 画像処理装置と画像処理方法およびプログラム
JP2008176504A (ja) 物体検出装置及びその方法
JP4578864B2 (ja) 自動追尾装置及び自動追尾方法
JP2007158649A (ja) 映像メタデータ補正装置及びプログラム
US10212364B2 (en) Zoom control apparatus, image capturing apparatus and zoom control method
JP2011188332A (ja) 画像揺れ補正装置
JP5173549B2 (ja) 画像処理装置及び撮像装置
JP5127692B2 (ja) 撮像装置及びその追尾方法
JP2008299834A (ja) 被写体追跡プログラム、および被写体追跡装置
US20200134840A1 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
JP4017578B2 (ja) 手ぶれ補正装置、手ぶれ補正方法および手ぶれ補正プログラムを記録した記録媒体
JP4046673B2 (ja) 意図的な移動撮像シーンの検出装置および検出方法ならびに意図的な移動撮像シーン検出プログラムを記録した記録媒体
JP2006215655A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
JP6245968B2 (ja) 画像処理装置、撮像装置および制御方法
JP2006215657A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
JP2010021597A (ja) 撮像装置および撮像方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070530

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071023

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071120

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101130

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees