JP4082664B2 - 映像検索装置 - Google Patents

映像検索装置 Download PDF

Info

Publication number
JP4082664B2
JP4082664B2 JP2002275653A JP2002275653A JP4082664B2 JP 4082664 B2 JP4082664 B2 JP 4082664B2 JP 2002275653 A JP2002275653 A JP 2002275653A JP 2002275653 A JP2002275653 A JP 2002275653A JP 4082664 B2 JP4082664 B2 JP 4082664B2
Authority
JP
Japan
Prior art keywords
screens
correlation
image data
moving image
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002275653A
Other languages
English (en)
Other versions
JP2004112678A (ja
Inventor
康之 中島
勝 菅野
広昌 柳原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2002275653A priority Critical patent/JP4082664B2/ja
Priority to US10/641,025 priority patent/US7916793B2/en
Publication of JP2004112678A publication Critical patent/JP2004112678A/ja
Application granted granted Critical
Publication of JP4082664B2 publication Critical patent/JP4082664B2/ja
Priority to US13/033,757 priority patent/US8259172B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/147Scene change detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Television Signal Processing For Recording (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、映像検索装置に関し、特に、動画像における短尺ショットを誤りなく効率的に検出することができる映像検索装置に関する。
【0002】
【従来の技術】
映像中に含まれるサブリミナル映像を判定するサブリミナル映像処理装置が特開平9−284667号公報に開示されている。このサブリミナル映像処理装置は、n画面分の連続画像データを一画面ずつ蓄積し、蓄積されたn画面分の画面データと最新に入力された画像データとを比較・判断し、同一画面とされた画面よりも古く蓄積された画面に異画面と判断された部分があるとき、前後の画面と異なる絵柄を持つnコマ以下の画面をサブリミナル映像の画面と判定するものである。
【0003】
このブロック図を図10に示し、n画面記憶部50からのn画面分の連続画像データと最新画面入力部51からの最新入力の画像データとをn画面比較部52で比較し、その異同を異画面判定部53で判定する。サブリミナル映像判定部54は、異画面判定部53での判定結果に基づいてサブリミナル映像を判定し、サブリミナル映像と判定された画像データはサブリミナル映像除去部55で除去される。
【0004】
このように、連続する画像中に含まれる1フレームから数フレーム程度の短尺ショットを検出する従来の手法は、単に、最新に入力された画面と既入力のn画面との異同に基づいて短尺ショットを検出するというものである。
【0005】
【発明が解決しようとする課題】
しかしながら、前記特開平9−284667号公報に記載された手法は、短尺ショットか否かを、単に、最新に入力された画面と既入力のn画面とを比較した結果に基づいて判断するものであり、静止画像中に挿入された短尺ショットは良好に検出できるが、動画像の場合には誤検出が生じるという問題がある。
【0006】
例えば、同一ショットでも画像の動きが不連続の場合には、同一ショットに含まれる一部の画面だけが入力画面と異なることが起こるため、該画面部分を短尺ショット(サブリミナル映像)と誤って検出する可能性がある。また、画像の動きが連続的であっても、最新の入力された画面と、該画面と比較的離れた古い画面とを異画面であると判断し、該画面部分を短尺ショット(サブリミナル映像)と誤って検出する可能性もある。
【0007】
本発明の目的は、前記した従来技術の問題点を解決し、入力動画像中に挿入された短尺のショットを誤りなく効率的に検出することができる映像検索装置を提供することにある。
【0008】
【課題を解決するための手段】
上記課題を解決するため、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の相関を測定する手段と、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記動画像データから連続する画面間の動き量を測定する手段と、前記連続する画面間の相関がある2点において共に低く、それ以外の点でく、サブサンプルされた前記2点の画面間の相関が高く、かつ前記連続する画面間の動き量が前記2点において共に小さいことから短尺カット点を判定する手段とを有する点に第1の特徴がある。
【0010】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の相関を測定する手段と、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記動画像データから連続する画面間の動き量を測定する手段と、前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、前記連続する画面間の相関がある2点において共に低く、それ以外の点でく、サブサンプルされた前記2点の画面間の相関が高く、前記連続する画面間の動き量が前記2点において共に小さく、かつサブサンプルされた前記2点の画面間の動き量が小さいことから短尺カット点を判定する手段とを有する
点に第2の特徴がある。
【0011】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の相関を測定する手段と、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記連続する画面間の相関がある2点において共に低く、それ以外の点で高く、サブサンプルされた前記2点の画面間の相関が高いことから短尺カット点候補を判定する手段と、前記短尺カット点候補について、前記動画像データから連続する画面間の動き量を測定する手段と、前記連続する画面間の動き量が前記2点において共に小さいことから短尺カット点を判定する手段とを有する点に第3の特徴がある。
【0012】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の動き量を測定する手段と、前記連続する画面間の動き量がある2点において共に小さいことから短尺カット点候補を判定する手段と、前記短尺カット点候補について、前記動画像データから連続する画面間の相関を測定する手段と、前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記連続する画面間の相関が前記2点において共に低く、それ以外の点で高く、サブサンプルされた前記2点の画面間の相関が高いことから短尺カット点を判定する手段とを有する点に第4の特徴がある。
【0013】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の相関を測定する手段と、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記連続する画面間の相関がある2点において共に低く、それ以外で高く、サブサンプルされた前記2点の画面間の相関が高いことから短尺カット点候補を判定する手段と、前記短尺カット点候補について、前記動画像データから連続する画面間の動き量を測定する手段と、前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、前記連続する画面間の動き量が前記2点で共に小さく、サブサンプルされた前記2点の画面間の動き量が小さいことから短尺カット点を判定する手段とを有する点に第5の特徴がある。
【0014】
また、本発明は、連続する動画像データを入力する手段と、前記動画像データから連続する画面間の動き量を測定する手段と、前記連続する画面間の動き量がある2点において共に小さいことから短尺カット点候補を判定する手段と、前記短尺カット点候補について、前記動画像データから連続する画面間の相関を測定する手段と、前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、前記連続する画面間の相関が前記2点において共に低く、それ以外の点で高く、サブサンプルされた前記2点の画面間の相関が高く、サブサンプルされた前記2点の画面間の動き量が小さいことから短尺カット点を判定する手段とを有する点に第6の特徴がある。
【0015】
また、本発明は、入力される動画像データが、画像データの低周波成分からなる点に第の特徴がある。
【0016】
さらに、本発明は、入力される動画像データが、圧縮された画像データを部分復号して得られる低周波画像データと動きベクトルとからなる点に第の特徴がある。
【0017】
第1の特徴によれば、連続する画面間の相関およびサブサンプルされた画面間の相関、さらに、連続する画面間の動き量やサブサンプルされた画面間の動き量を用いて短尺カット点を判定するので、動画像中に挿入された短尺のショットを誤りなく効率的に検出することができるとともに、同一ショットにおける画像の動きが不連続な場合でもより確実に誤判定を防ぐことができる
【0019】
また、第および第の特徴によれば、連続する画面間の相関およびサブサンプルされた画面間の相関を用いて短尺カット点候補を判定し、この判定により絞り込まれた短尺カット点候補について、連続する画面間の動き量やサブサンプルされた画面間の動き量を測定して短尺カット点を判定するので、比較的処理の重い動き量の測定を必要最小限に抑えることができる。
【0020】
また、第および第の特徴によれば、連続する画面間の動き量を用いて短尺カット点候補を判定し、この判定により絞り込まれた短尺カット点候補について、連続する画面間の相関やサブサンプルされた画面間の相関やサブサンプルされた画面間の動き量を測定して短尺カット点を判定するので、動きが大きなショットを最初に除外することができ、装置全体としての検出処理負荷を軽減することができる。
【0021】
また、第の特徴によれば、画像データの低周波成分を用いて短尺カット点を判定するので、処理を軽減することができる。
【0022】
さらに、第の特徴によれば、入力される動画像データが、圧縮された動画像データを部分復号して得られる低周波画像データと動きベクトルとからなるので、低周波画像データを用いることにより処理を軽減することができ、また、連続する画面間の動き量やサブサンプルされた画面間の動き量の測定を含むものにおいては、その測定を動きベクトルを用いて容易に行うことができる。
【0023】
【発明の実施の形態】
以下、図面を参照して本発明を詳細に説明する。図1は、単に相関を用いた映像検索装置の形態を示すブロック図である。図1において、制御部10は、本映像検索装置の全体の動作を制御する。
【0024】
映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13およびサンプル画面間相関測定部14に入力させる。なお、この入力は、短尺ショットの検出処理1回ごとに1画面ずつずらしながら繰り返し行う。
【0025】
連続画面間相関測定部13は、連続する2つの画面P(i−1)、P(i)間の相関(以下、連続画面間相関と称す。)CC(i),i=1,2,・・・,n−1を測定する。また、サンプル画面間相関測定部14は、サンプルされた画面間の相関(以下、サンプル画面間相関と称す。)SCを測定する。サンプル画面は、例えば、画面P(0)と画面P(n−1)であり、これらの画面P(0)、画面P(n−1)間の相関SCを測定する。
【0026】
なお、連続画面間相関やサンプル画面間相関は、画面間輝度絶対差分和、画面平均輝度絶対差分値、画面平均色差絶対差分、画面間輝度ヒストグラム絶対差分和、画面間色差ヒストグラム絶対差分和、画面間色差ヒストグラム相関値などのいずれかを求めることにより、あるいはそれらの組み合わせを用いることにより測定できる。組み合わせによる場合、例えば、画面間輝度ヒストグラム絶対差分和と画面間色差ヒストグラム絶対差分和の和を用いることができる。
【0027】
連続画面間相関測定部13から出力される連続画面相関CC(i)およびサンプル画面間相関測定部14から出力されるサンプル画面相関SCは短尺ショット判定部15に入力される。
【0028】
短尺ショット判定部15は、連続画面間相関CC(i)がi=1,n−1で低くそれ以外でCC(i)が高く、かつサンプル画面間相関SCが高い場合に、画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。
【0029】
短尺ショットの判定は、閾値処理で行うことができる。図2は、連続画面間相関CC(1)とCC(n−1)の閾値をTCLとし、その他の連続画面間相関CC(i)の閾値をTCHとし、サンプル画面間相関SCの閾値をTSHとして、画面P(0)〜P(n−1)のn画面において、CC(1)<TCL、CC(n−1)< TCL、CC(2)〜CC(n−2)> TCHであり、かつSC>TSHであり、短尺ショット区間P(1)〜P(n−2)が検出される状態を示している。ここで、閾値TCLとTCHとは、同一の値でも異なる値でも構わない。
【0030】
なお、n=3の場合には、連続画面間相関CC(i)がi=1,2で低く、かつサンプル画面間相関SCが高い場合に、短尺ショットがi=1で存在すると判定すればよい。
【0031】
また、連続するn画面としては、連続するN画面から時系列に任意あるいは周期的にサンプルしたn画面を用いてもよく、本発明における連続する動画像データとは、このような動画像データも含む。
【0032】
また、蓄積装置11は、予め動画像データを蓄積しているものに限らず、リアルタイムで連続入力される動画像データの一次蓄積装置などでもよい。さらに、入力される動画像データの画面は、フレーム単位でもフィールド単位でもよく、フィールド単位の場合には偶数または奇数のいずれかのフィールドのみを用いればよい。
【0033】
本発明は、動画像の動きをも考慮して短尺カット点を判定するものであり、動画像の動きをも考慮することにより、同一ショットにおける画像の動きが不連続な場合の誤判定をより確実に防ぐことができる。以下、動画像の動きをも考慮して短尺カット点を判定するいくつかの実施形態につい説明する。なお、図1と同一あるいは同等部分には同一符号を付している。
【0034】
図3は、本発明に係る映像検索装置の第の実施形態を示すブロック図である。図3において、制御部10は、本映像検索装置の全体の動作を制御する。映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13、サンプル画面間相関測定部14および連続画面間動き測定部17に入力させる。
【0035】
連続画面間相関測定部13は、連続する2つの画面P(i−1)、P(i)間の相関CC(i),i=1,2,・・・,n−1を測定する。また、サンプル画面間相関測定部14は、サンプル画面間相関SCを測定する。サンプル画面は、例えば、画面P(0)と画面P(n−1)であり、これらの画面P(0)、画面P(n−1)間の相関SCを測定する。
【0036】
また、連続画面間動き測定部17では連続する2つの画面P(i−1)、P(i)間の動き量(以下、連続画面間動き量と称す。)MA(i)を測定する。連続画面間動き量MA(i)としては、連続画面間においてブロックマッチング法で求めた動きベクトルノルムの画面平均、動きベクトルのX成分、Y成分それぞれの絶対値の画面平均値、動きベクトルノルムや動きベクトルのX成分、Y成分それぞれの絶対値の偏差の統計値などを用いることができる。
【0037】
連続画面間相関測定部13から出力される連続画面相関CC(i)、サンプル画面間相関測定部14から出力されるサンプル画面相関SCおよび連続画面間動き測定部17から出力される連続画面間動き量MA(i)は短尺ショット判定部15に入力される。
【0038】
短尺ショット判定部15は、連続画面間相関CC(i)がi=1,n−1で低くそれ以外でCC(i)が高く、サンプル画面間相関SCが高く、かつ連続画面間動き量MA(i)がi=1,n−1で低い場合に、画面P(0)と画面P()間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。なお、画面間動き量は、異画面間では低いものとして測定される。
【0039】
短尺ショットの判定は、閾値処理で行うことができる。図2は、連続画面間相関CC(1)とCC(n−1)の閾値をTCLとし、その他の連続画面間相関CC(i)の閾値をTCHとし、サンプル画面間相関SCの閾値をTSHとし、連続画面間動き量MA(i)の閾値をTMLとして、画面P(0)〜P(n−1)のn画面において、CC(1)<TCL、CC(n−1)< TCL、CC(2)〜CC(n−2)> TCHであり、SC>TSHであり、かつMA(1)<TML、MA(n−1)< TMLであり、短尺ショット区間P(1)〜P(n−2)が検出される状態を示している。
【0040】
なお、n=3の場合には、連続画面間相関CC(i)がi=1,2で低く、サンプル画面間相関SCが高く、かつ連続画面間動き量MA(i)がi=1,2で低い場合に短尺ショットがi=1で存在すると判定すればよい。
【0041】
図4は、本発明に係る映像検索装置の第の実施形態を示すブロック図である。図4において、制御部10は、本映像検索装置の全体の動作を制御する。映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13、サンプル画面間相関測定部14、連続画面間動き測定部17およびサンプル画面間動き測定部18に入力させる。
【0042】
連続画面間相関測定部13は、連続する2つの画面P(i−1)、P(i)間の相関CC(i),i=1,2,・・・,n−1を測定する。また、サンプル画面間相関測定部14は、サンプル画面間相関SCを測定する。サンプル画面は、例えば、画面P(0)と画面P(n−1)であり、これらの画面P(0)、画面P(n−1)間の相関SCを測定する。
【0043】
連続画面間動き測定部17では連続する2つの画面P(i−1)、P(i)間の動き量MA(i)を測定する。また、サンプル画面間動き測定部18ではサンプルされた画面間の動き量(以下、サンプル画面間動き量と称す。)SMを測定する。なお、サンプル画面間動き測定部18でのサンプル画面は、サンプル画面間相関測定部14でのサンプル画面と同一のものであり、例えば、画面P(0)と画面P(n−1)をサンプルとして用いて、これらの画面間の動き量SMを求める。
【0044】
連続画面間相関測定部13から出力される連続画面間相関CC(i)、サンプル画面間相関測定部14から出力されるサンプル画面間相関SC、連続画面間動き測定部17から出力される連続画面間動き量MA(i))、サンプル画面間動き測定部18から出力されるサンプル画面間動き量SMは短尺ショット判定部15に入力される。
【0045】
短尺ショット判定部15は、連続画面間相関CC(i)がi=1,n−1で低くそれ以外でCC(i)が高く、サンプル画面間相関SCが高く、連続画面間動き量MA(i)がi=1,n−1で低く、かつサンプル画面間動き量SMが低い場合に、画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。
【0046】
短尺ショットの判定は、閾値処理で行うことができる。図2は、連続画面間相関CC(1)とCC(n−1)の閾値をTCLとし、その他の連続画面間相関CC(i)の閾値をTCHとし、サンプル画面間相関SCの閾値をTSHとし、連続画面間動き量MA(i)およびサンプル画面間動き量SMの閾値をTMLとして、画面P(0)〜P(n−1)のn画面において、CC(1)<TCL、CC(n−1)< TCL、CC(2)〜CC(n−2)> TCHであり、SC>TSHであり、MA(1)<TML、MA(n−1)< TMLであり、かつSM<TMLであり、短尺ショット区間P(1)〜P(n−2)が検出される状態を示している。
【0047】
図5は、本発明に係る映像検索装置の第の実施形態を示すブロック図である。図5において、制御部10は、本映像検索装置の全体の動作を制御する。映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13およびサンプル画面間相関測定部14に入力させる。
【0048】
連続画面間相関測定部13は、連続する2つの画面P(i−1)、P(i)間の相関CC(i),i=1,2,・・・,n−1を測定する。また、サンプル画面間相関測定部14は、サンプル画面間相関SCを測定する。サンプル画面は、例えば、画面P(0)と画面P(n−1)であり、これらの画面P(0)、画面P(n−1)間の相関SCを測定する。
【0049】
連続画面間相関測定部13から出力される連続画面間相関値CC(i)、サンプル画面間相関測定部14から出力されるサンプル画面間相関値SCは短尺ショット候補判定部19に入力される。
【0050】
短尺ショット候補判定部19は、連続画面間相関CC(i) がi=1,n−1で低くそれ以外で高く、かつサンプル画面間相関SCが高い場合に、短尺ショット候補がi=1からi=n−2間で存在すると判定する。
【0051】
次に、連続画面間動き測定部17において、短尺ショット候補と判定された画面P(1)〜P(n−2)を含むn画面P(0)〜P(n−1)について、連続画面間動き量MA(i)を測定する。連続画面間動き測定部17から出力される連続画面間動き量MA(i)は、短尺ショット判定部15に入力される。
【0052】
短尺ショット判定部15は、連続画面間動き量MA(i)がi=1,n−1で低い場合に、画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。
【0053】
図5の実施形態では、連続画面間相関およびサンプル画面間相関を測定した後に連続画面間動き量を測定するものであり、この構成によれば、短尺カット点候補についてのみ連続画面間動き量を測定すればよく、動き量の測定を必要最小限に抑えることができる。
【0054】
図6は、図5における処理の順序を逆にした変形例である第の実施形態を示す。図6の実施形態では、入力された動画像データを、まず、連続画面間動き測定部17に入力して連続画面間動き量MA(i)を測定する。次に、測定された連続画面間動き量MA(i)を短尺ショット候補判定部19に入力して短尺ショット候補として画面P(1)〜P(n−2)を検出する。
【0055】
続いて、短尺ショット候補と判定された画面P(1)〜P(n−2)を含むn画面P(0)〜P(n−1)についての画像データを連続画面間相関測定部13、サンプル画面間相関測定部14に入力させ、連続画面間相関測定部13から出力される画面間相関値CC(i)とサンプル画面間相関測定部14から出力されるサンプル画面間相関値SCとを短尺ショット判定部15に入力させて画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。
【0056】
図6の実施形態によれば、動きが大きなショットがまず除外され、それらについては画面間相関を測定する必要がなくなるので、装置全体としての検出処理負荷を軽減することができる。
【0057】
図7は、本発明に係る映像検索装置の第の実施形態を示すブロック図である。図7において、制御部10は、本映像検索装置の全体の動作を制御する。映像入力部12は、TV番組などの画像データを蓄積装置11から取り出し、連続するn画面分についての画像データを連続画面間相関測定部13およびサンプル画面間相関測定部14に入力させる。
【0058】
連続画面間相関測定部13は、連続する2つの画面P(i−1)、P(i)間の相関CC(i),i=1,2,・・・,n−1を測定する。また、サンプル画面間相関測定部14は、サンプル画面間相関SCを測定する。サンプル画面は、例えば、画面P(0)と画面P(n−1)であり、これらの画面P(0)、画面P(n−1)間の相関SCを測定する。
【0059】
連続画面間相関測定部13から出力される連続画面間相関CC(i)、サンプル画面間相関測定部14から出力されるサンプル画面間相関SCは短尺ショット候補判定部19に入力される。
【0060】
短尺ショット候補判定部19は、連続画面間相関CC(i) がi=1,n−1で低くそれ以外で高く、かつサンプル画面間相関SCが高い場合に、短尺ショット候補がi=1からi=n−2間で存在すると判定する。
【0061】
続いて、短尺ショット候補と判定された画面P(1)〜P(n−2)を含むn画面P(0)〜P(n−1)についての画像データを連続画面間動き測定部17およびサンプル画面間動き測定部18に入力させ、連続画面間動き測定部17から出力される連続画面間動き量MA(i)とサンプル画面間動き測定部18から出力されるおよびサンプル画面間動き量SMを短尺ショット判定部15に入力させる。短尺ショット判定部15では連続画面間動き量MA(i)がi=1,n−1で低く、サンプル画面間動き量SMが低い場合に、画面P(0)と画面P(2)間、画面P(n−2)と画面P(n−1)間にそれぞれ短尺カット点が存在すると判定し、短尺ショット区間P(1)〜P(n−2)を検出する。
【0062】
図7の実施形態の変形例である第の実施形態を図8に示す。第の実施形態では、入力映像についてまず、連続画面間動き測定部17で連続画面間動き量MA(i)を測定し、連続画面間動き量MA(i)を短尺ショット候補判定部19に入力して短尺ショット候補を判定する。次に、短尺ショット候補と判定された画面P(1)〜P(n−2)を含むn画面P(0)〜P(n−1)についての画像データを連続画面間相関測定部13、サンプル画面間相関測定部14、サンプル画面間動き測定部18に入力させ、連続画面間相関測定部13から出力される画面間相関CC(i)、サンプル画面間相関測定部14から出力される連続画面間相関SC、サンプル画面間動き測定部18から出力されるサンプル画面間動き量SMを短尺ショット判定部15に入力させて短尺ショットを判定する。
【0063】
以上では、連続するn画面P(0)〜P(n−1)から短尺ショット区間P(1)〜P(n−2)を検出する例について説明したが、処理対象の画像数nを適宜設定することにより、種々の長さの短尺ショットを検出することができる。また、種々の画面間隔のサンプル画面について画面間相関や画面間動き量の測定を並列的に行うようにすれば、同時に種々の長さの短尺ショットを検出することもできる。なお、この場合、連続画面についての画面間相関や画面間動き量の測定は、1回行うだけでよい。
【0064】
以上、本発明の実施形態について説明したが、本発明は、種々の変形が可能である。例えば、映像入力部12では圧縮データを入力して部分的に復号した情報を出力することができる。
【0065】
図9は、映像入力部12で採用し得る部分復号処理の例を示す。本例では、圧縮映像データが圧縮映像バッファ20に一次記憶され、部分復号部21で圧縮映像データが部分的に復号される。例えば、MPEG符号化された映像データの場合、DCT係数や動きベクトル情報を抽出する処理がこの部分復号処理に当たる。
【0066】
これらの情報は低周波画像復元部22と動きベクトル復元部23に入力される。低周波画像復元部22では部分復号データを用いて低周波成分画像を生成する。例えば、DCT係数のうちゼロ次あるいは低次の係数のみ逆DCTを行って低周波成分を出力することができる。また動き補償予測符号化された圧縮データの場合、特開平7−59108号公報「動画像のカット画面検出方法」で提案されているように、抽出された動きベクトルを用いて簡易動き補償を施して低周波画像を復元することも可能である。
【0067】
動きベクトル復元部23では部分復号部21から出力された動きベクトル情報を元に動きベクトル情報を復元する。また、低周波画像を用いた場合などに、画像サイズが変更されたときには画像サイズに応じてベクトルサイズを変更することも可能である。これらの部分復元画像および動きベクトルは部分復号画像バッファ24に蓄積され、動きベクトルは、連続画面間動き量やサンプル画面間動き量の測定に供することができる。
【0068】
【発明の効果】
以上のごとく、本発明によれば、連続画面間相関およびサンプル画面間相関を用いることにより、誤りなく効率的に短尺ショット検出することができる。また、連続画面間動き量やサンプル画面間動き量をも用いることにより、同一ショットにおける画像の動きが不連続な場合でもより確実に誤判定を防ぐことができる。
【0069】
さらに、短尺ショット候補を選定し、まず短尺ショット候補に絞り込み、次に、絞り込まれた短尺ショット候補における相関や動き量を測定することにより処理負荷を軽減することができる。
【図面の簡単な説明】
【図1】単に相関を用いた映像検索装置の形態のブロック図である。
【図2】図1の映像検索装置の動作の説明図である。
【図3】本発明に係る映像検索装置の第の実施形態のブロック図である。
【図4】本発明に係る映像検索装置の第の実施形態のブロック図である。
【図5】本発明に係る映像検索装置の第の実施形態のブロック図である。
【図6】第4の実施形態の変形例(第の実施形態)のブロック図である。
【図7】本発明に係る映像検索装置の第の実施形態のブロック図である。
【図8】第5の実施形態の変形例(第の実施形態)のブロック図である。
【図9】映像入力部の変形例のブロック図である。
【図10】従来の映像検索装置のブロック図である。

Claims (8)

  1. 連続する動画像データを入力する手段と、
    前記動画像データから連続する画面間の相関を測定する手段と、
    前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
    前記動画像データから連続する画面間の動き量を測定する手段と、
    前記連続する画面間の相関がある2点において共に低く、それ以外の点でく、サブサンプルされた前記2点の画面間の相関が高く、かつ前記連続する画面間の動き量が前記2点において共に小さいことから短尺カット点を判定する手段とを有することを特徴とする映像検索装置。
  2. 連続する動画像データを入力する手段と、
    前記動画像データから連続する画面間の相関を測定する手段と、
    前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
    前記動画像データから連続する画面間の動き量を測定する手段と、
    前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、
    前記連続する画面間の相関がある2点において共に低く、それ以外の点でく、サブサンプルされた前記2点の画面間の相関が高く、前記連続する画面間の動き量が前記2点において共に小さく、かつサブサンプルされた前記2点の画面間の動き量が小さいことから短尺カット点を判定する手段とを有することを特徴とする映像検索装置。
  3. 連続する動画像データを入力する手段と、
    前記動画像データから連続する画面間の相関を測定する手段と、
    前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
    前記連続する画面間の相関がある2点において共に低く、それ以外の点で高く、サブサンプルされた前記2点の画面間の相関が高いことから短尺カット点候補を判定する手段と、
    前記短尺カット点候補について、前記動画像データから連続する画面間の動き量を測定する手段と、
    前記連続する画面間の動き量が前記2点において共に小さいことから短尺カット点を判定する手段とを有することを特徴とする映像検索装置。
  4. 連続する動画像データを入力する手段と、
    前記動画像データから連続する画面間の動き量を測定する手段と、
    前記連続する画面間の動き量がある2点において共に小さいことから短尺カット点候補を判定する手段と、
    前記短尺カット点候補について、前記動画像データから連続する画面間の相関を測定する手段と、
    前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
    前記連続する画面間の相関が前記2点において共に低く、それ以外の点で高く、サブサンプルされた前記2点の画面間の相関が高いことから短尺カット点を判定する手段とを有することを特徴とする映像検索装置。
  5. 連続する動画像データを入力する手段と、
    前記動画像データから連続する画面間の相関を測定する手段と、
    前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
    前記連続する画面間の相関がある2点において共に低く、それ以外で高く、サブサンプルされた前記2点の画面間の相関が高いことから短尺カット点候補を判定する手段と、
    前記短尺カット点候補について、前記動画像データから連続する画面間の動き量を測定する手段と、
    前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、
    前記連続する画面間の動き量が前記2点で共に小さく、サブサンプルされた前記2点の画面間の動き量が小さいことから短尺カット点を判定する手段とを有することを特徴とする映像検索装置。
  6. 連続する動画像データを入力する手段と、
    前記動画像データから連続する画面間の動き量を測定する手段と、
    前記連続する画面間の動き量がある2点において共に小さいことから短尺カット点候補を判定する手段と、
    前記短尺カット点候補について、前記動画像データから連続する画面間の相関を測定する手段と、
    前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の相関を測定する手段と、
    前記短尺カット点候補について、前記動画像データからサブサンプルされた画面間の動き量を測定する手段と、
    前記連続する画面間の相関が前記2点において共に低く、それ以外の点で高く、サブサンプルされた前記2点の画面間の相関が高く、サブサンプルされた前記2点の画面間の動き量が小さいことから短尺カット点を判定する手段とを有することを特徴とする映像検索装置。
  7. 入力される動画像データは、画像データの低周波成分からなることを特徴とする請求項1ないし6のいずれかに記載の映像検索装置。
  8. 入力される動画像データは、圧縮された画像データを部分復号して得られる低周波画像データと動きベクトルとからなることを特徴とする請求項1ないし6のいずれかに記載の映像検索装置。
JP2002275653A 2002-09-20 2002-09-20 映像検索装置 Expired - Fee Related JP4082664B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2002275653A JP4082664B2 (ja) 2002-09-20 2002-09-20 映像検索装置
US10/641,025 US7916793B2 (en) 2002-09-20 2003-08-15 Picture searching apparatus
US13/033,757 US8259172B2 (en) 2002-09-20 2011-02-24 Picture searching apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002275653A JP4082664B2 (ja) 2002-09-20 2002-09-20 映像検索装置

Publications (2)

Publication Number Publication Date
JP2004112678A JP2004112678A (ja) 2004-04-08
JP4082664B2 true JP4082664B2 (ja) 2008-04-30

Family

ID=32211516

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002275653A Expired - Fee Related JP4082664B2 (ja) 2002-09-20 2002-09-20 映像検索装置

Country Status (2)

Country Link
US (2) US7916793B2 (ja)
JP (1) JP4082664B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2418555A (en) 2004-09-23 2006-03-29 Mitsubishi Electric Inf Tech Representing an image using descriptors based on colour information
US7813552B2 (en) * 2004-09-23 2010-10-12 Mitsubishi Denki Kabushiki Kaisha Methods of representing and analysing images
GB2418556A (en) 2004-09-23 2006-03-29 Mitsubishi Electric Inf Tech Representing an image using descriptors based on colour information
US7840081B2 (en) 2004-09-23 2010-11-23 Mitsubishi Denki Kabushiki Kaisha Methods of representing and analysing images
JP4241709B2 (ja) 2005-10-11 2009-03-18 ソニー株式会社 画像処理装置
JP4620126B2 (ja) 2005-10-25 2011-01-26 三菱電機株式会社 映像識別装置
JP4719889B2 (ja) * 2006-08-03 2011-07-06 国立大学法人電気通信大学 カット点検出システムおよび該カット点検出システムを用いたショット識別システム、カット点検出方法、並びにカット点検出プログラム
WO2009034488A2 (en) * 2007-09-10 2009-03-19 Nxp B.V. Method an apparatus for line based vertical motion estimation and compensation

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5835163A (en) * 1995-12-21 1998-11-10 Siemens Corporate Research, Inc. Apparatus for detecting a cut in a video
JPH09284667A (ja) 1996-04-09 1997-10-31 Toshiba Corp サブリミナル映像処理装置、テレビジョン受像機及び磁気記録再生装置
SE510444C2 (sv) 1996-11-19 1999-05-25 Ericsson Telefon Ab L M Skydd för subliminala meddelanden
US6122322A (en) * 1996-11-19 2000-09-19 Telefonaktiebolaget Lm Ericsson Subliminal message protection
JPH11177992A (ja) 1997-12-10 1999-07-02 Hitachi Ltd 画像復号装置
JP3738939B2 (ja) * 1998-03-05 2006-01-25 Kddi株式会社 動画像のカット点検出装置
US6327390B1 (en) * 1999-01-14 2001-12-04 Mitsubishi Electric Research Laboratories, Inc. Methods of scene fade detection for indexing of video sequences
KR100634671B1 (ko) * 1999-08-13 2006-10-13 주식회사 케이티 고정밀도의 실시간 점진적 장면경계 검출기 및 그 방법
US6549643B1 (en) * 1999-11-30 2003-04-15 Siemens Corporate Research, Inc. System and method for selecting key-frames of video data
US6600784B1 (en) * 2000-02-02 2003-07-29 Mitsubishi Electric Research Laboratories, Inc. Descriptor for spatial distribution of motion activity in compressed video
US6959044B1 (en) * 2001-08-21 2005-10-25 Cisco Systems Canada Co. Dynamic GOP system and method for digital video encoding

Also Published As

Publication number Publication date
JP2004112678A (ja) 2004-04-08
US20110142292A1 (en) 2011-06-16
US20040091044A1 (en) 2004-05-13
US7916793B2 (en) 2011-03-29
US8259172B2 (en) 2012-09-04

Similar Documents

Publication Publication Date Title
US8144777B2 (en) Motion vector detection method and apparatus
US8259172B2 (en) Picture searching apparatus
JP4197695B2 (ja) 動画像符号化方法、装置及びプログラム
US7852939B2 (en) Motion vector detection method and device of the same
JP2004348741A (ja) 画像の比較方法、方法を実行するためのプログラムを記憶するコンピュータ可読記憶媒体、および方法を実行する装置
JP2007129333A (ja) 動きベクトル検出装置及び動きベクトル検出方法
JP2007166545A (ja) 動きベクトル検出装置及び方法
JP2008109270A (ja) 手振れ補正機能付き動画再生装置
JP4167245B2 (ja) デジタル映像処理方法及びその装置
CN1798346A (zh) 用于再隐藏包括在解码的图像中的错误的方法和设备
JP4250598B2 (ja) 動き補償型ip変換処理装置及び動き補償型ip変換処理方法
JP2005167852A (ja) 動きベクトル検出方法、及び動きベクトル検出装置
KR101798191B1 (ko) 표본 픽셀 기반 움직임 추정장치 및 방법
JP2004134911A (ja) データ処理装置および方法、記録媒体、並びにプログラム
JPH0549017A (ja) 動きベクトル検出回路
JP4165447B2 (ja) 動きベクトル検出装置及び動きベクトル検出プログラム
JP3333956B2 (ja) カット点検出方法および装置
KR20130011609A (ko) 표본 픽셀 기반 움직임 추정장치 및 방법
JP4261603B2 (ja) 動画像のカット点検出装置
JP5142120B2 (ja) 映像信号処理装置、映像信号処理方法
JP2008544666A (ja) 画像シーケンスでフェードを検出するための手順及び装置
JP2006042114A (ja) 動きベクトル検出装置及び検出プログラム
JPH04127690A (ja) 動画像動きベクトル推定方式
JP2006166061A (ja) 動きベクトル検出方法
JPH0983864A (ja) 動画像のカット点画像検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040922

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070615

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070914

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20071002

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080208

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110222

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110222

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140222

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees