JP2004045565A - 類似時系列検出方法及び装置、並びにプログラム及び記録媒体 - Google Patents
類似時系列検出方法及び装置、並びにプログラム及び記録媒体 Download PDFInfo
- Publication number
- JP2004045565A JP2004045565A JP2002200480A JP2002200480A JP2004045565A JP 2004045565 A JP2004045565 A JP 2004045565A JP 2002200480 A JP2002200480 A JP 2002200480A JP 2002200480 A JP2002200480 A JP 2002200480A JP 2004045565 A JP2004045565 A JP 2004045565A
- Authority
- JP
- Japan
- Prior art keywords
- vectors
- similar
- pair
- time
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 60
- 239000013598 vector Substances 0.000 claims abstract description 445
- 238000004364 calculation method Methods 0.000 claims abstract description 59
- 238000001514 detection method Methods 0.000 claims abstract description 59
- 238000006243 chemical reaction Methods 0.000 claims description 38
- 230000008569 process Effects 0.000 claims description 31
- 230000005236 sound signal Effects 0.000 claims description 22
- 230000009466 transformation Effects 0.000 claims description 16
- 238000001228 spectrum Methods 0.000 claims description 9
- 239000000284 extract Substances 0.000 claims description 5
- 238000000605 extraction Methods 0.000 description 21
- 239000011159 matrix material Substances 0.000 description 20
- 238000012545 processing Methods 0.000 description 20
- 238000010586 diagram Methods 0.000 description 14
- 230000010354 integration Effects 0.000 description 14
- 230000004048 modification Effects 0.000 description 7
- 238000012986 modification Methods 0.000 description 7
- 238000009826 distribution Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000008707 rearrangement Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 102000005717 Myeloma Proteins Human genes 0.000 description 1
- 108010045503 Myeloma Proteins Proteins 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000000491 multivariate analysis Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/10—Speech classification or search using distance or distortion measures between unknown speech and reference templates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】本発明では、類似性検出を、各離散時間tでの特徴ベクトル間類似度の計算段階と、時系列全体での類似する特徴ベクトル個数の計数段階とに分割する。計算段階では、特徴ベクトル時系列gt、ftの同じフレーム番号における各成分同士の距離を階層的に積算し、最終的な積算値が距離の閾値Sを下回れば、類似とする。一方、途中の階層で積算値が閾値Sを上回った場合には非類似として残りの成分間の積算演算を打ち切る。計数段階では、類似とされた特徴ベクトルf(図中○印)の数Rと、非類似とされた特徴ベクトルf(図中×印)の数Dとをフレーム毎に階層的に計数し、最終的な非類似数Dが閾値(T−U)を下回っていれば、類似とする。一方、途中の階層で非類似数Dが閾値(T−U)を上回った場合には非類似として残りのフレームでの類似度計算を打ち切る。
【選択図】 図1
Description
【発明の属する技術分野】
本発明は、2つの時系列信号の類似性検出を高速に行う類似時系列検出方法及びその装置、並びにプログラム及び記録媒体に関する。
【0002】
【従来の技術】
従来から、例えば映像コンテンツや音響コンテンツ検索、放送コマーシャルメッセージの同定、放送音楽の曲名同定、或いはネットワークコンテンツの管理等の目的のために、ある映像信号や音響信号をクエリ(参照信号)として、未知の映像信号や音響信号中で参照信号とほぼ一致する部分を検出する技術が必要とされている。
【0003】
この課題は、図18(A)に示すように、映像信号又は音響信号から短時間フレーム毎に特徴量を抽出し、それらをベクトル化した特徴ベクトルを構成し、その時系列パターンを比較する問題として扱われる。
【0004】
ここで、比較方法として最も簡単且つ汎用性や確実性が高いものとしては、いわゆる全検索法(full search)が挙げられる。この全検索法は、図18(B)に示すように、参照時系列信号の時区間に対応する図中黒枠で示す入力時系列信号の部分区間に対して、例えば相関法や距離演算によって類似度を求め、これを図18(C)、(D)に示すように1フレームずつずらしながら逐次的に行い、類似度が所定の閾値を超える部分を一致した部分として検出するものである。
【0005】
しかしながら、この全検索法では、(特徴ベクトルのサイズ)×(参照時系列信号の長さ)個の成分に対する類似度計算を入力時系列信号の全フレームに亘って行う必要があるため、演算量及び検索時間が膨大なものとなる問題があった。
【0006】
そこで、図18(B)の参照時系列信号と入力時系列信号の該当位置(黒枠内)とにおける特徴量のヒストグラムを作成し、その違いに基づいて次の比較位置、すなわち図中黒枠の移動量を決定することで、比較の高速化を図る技術が特許第3065314号に記載されている。すなわち、この技術では、ヒストグラムを作成することにより時間軸に関する情報を縮退させ、フレーム毎の逐次的な比較の必要をなくすことにより、高速化を図ることができる。
【0007】
【発明が解決しようとする課題】
しかしながら、この特許第3065314号に記載されている技術では、情報量を落とした状態での比較となるため、劣化した信号に対する検出漏れや、異なる信号に対する誤検出が発生し、検出能力の低下を招いてしまうという問題があった。
【0008】
また、映像信号や音響信号の類似検索においては、概ね一致している時系列であっても、例えば同じ音楽に対する異なる音声の重畳や、同じ映像に対する異なるテロップの表示、同じ映像に対する異なる編集、或いはフレーム落ちなどの部分的な劣化に起因して、図19に斜線で示すフレームのように、基本的に同じ映像信号や音響信号の中に、部分的に全く異なる特徴ベクトルが挿入されていることがよく発生する。
【0009】
上述した目的、例えば映像コンテンツや音響コンテンツ検索においては、このような部分的に他の信号成分が重畳されたようなものに対しても、同一視して検索できると非常に有用である。しかしながら、上述した従来の技術では、概ね一致している中に部分的にでも大きな差異があった場合、それを全体的な差異と区別することができず、検出できないという問題があった。
【0010】
本発明は、このような従来の実情に鑑みて提案されたものであり、全検索法の汎用性、柔軟性、或いは確実性を失うことなく、部分的に大きな劣化がある場合であっても、2つの時系列信号の類似性を高速に検出する高速時系列検出方法及びその装置、並びに高速時系列検出処理をコンピュータに実行させるプログラム及びそのようなプログラムが記録されたコンピュータ読み取り可能な記録媒体を提供することを目的とする。
【0011】
【課題を解決するための手段】
上述した目的を達成するために、本発明に係る類似時系列検出方法は、ベクトルの時系列からなる時系列パターンに関して、一対の時系列パターンの類似性を検出する類似時系列検出方法であって、上記一対の時系列パターンの一対のベクトル間の類似度を算出し、当該類似度に基づいて、上記一対のベクトルが類似するか否かを判定するベクトル判定工程と、上記ベクトル判定工程にて類似すると判定された類似ベクトル及び/又は類似しないと判定された非類似ベクトルの個数を計数し、当該計数結果に基づいて、上記一対の時系列パターンの類似性を判定する時系列判定工程とを有する。
【0012】
ここで、上記類似度は、例えば上記一対のベクトル間の距離である。この場合、上記ベクトル判定工程は、上記一対のベクトル間の距離算出を階層的に行う階層的距離算出ステップと、上記階層的距離算出ステップの各階層で算出された距離の積算値を、距離に関する第1の閾値と比較する閾値比較ステップと、上記閾値比較ステップにおける比較結果に応じて、上記一対のベクトルが類似するか否かを判定する判定ステップとを有し、上記判定ステップでは、上記閾値比較ステップにおいて、最後の階層までに算出された距離の積算値が上記第1の閾値を下回った場合には、上記一対のベクトルが類似すると判定され、ある階層までに算出された距離の積算値が上記第1の閾値を上回った場合には、上記一対のベクトルが類似しないと判定されると共に、残りの階層での距離算出を打ち切るように制御される。
【0013】
また、上記時系列判定工程は、上記類似ベクトル及び/又は非類似ベクトルの個数の計数を階層的に行う階層的計数ステップと、上記階層的計数ステップの各階層で計数された上記類似ベクトル及び/又は非類似ベクトルの個数の積算値を、類似ベクトルの個数に関する第2の閾値と比較する閾値比較ステップと、上記閾値比較ステップにおける比較結果に応じて、上記一対の時系列パターンの類似性を判定する判定ステップとを有し、上記判定ステップでは、上記閾値比較ステップにおいて、最後の階層までに計数された類似ベクトルの個数の積算値が上記第2の閾値を上回った場合には、上記一対の時系列パターンが類似すると判定され、ある階層までに計数された非類似ベクトルの個数の積算値が上記時系列パターン中の上記ベクトルの総個数から上記第2の閾値を減じた数を上回った場合には、上記一対の時系列パターンが類似しないと判定されると共に、残りの階層での計数を打ち切るように制御される。
【0014】
また、上述した目的を達成するために、本発明に係る類似時系列検出装置は、ベクトルの時系列からなる時系列パターンに関して、一対の時系列パターンの類似性を検出する類似時系列検出装置であって、上記一対の時系列パターンの一対のベクトル間の類似度を算出し、当該類似度に基づいて、上記一対のベクトルが類似するか否かを判定するベクトル判定手段と、上記ベクトル判定手段によって類似すると判定された類似ベクトル及び/又は類似しないと判定された非類似ベクトルの個数を計数し、当該計数結果に基づいて、上記一対の時系列パターンの類似性を判定する時系列判定手段とを備える。
【0015】
ここで、上記類似度は、例えば上記一対のベクトル間の距離である。この場合、上記ベクトル判定手段は、上記一対のベクトル間の距離算出を階層的に行う階層的距離算出手段と、上記階層的距離算出手段によって各階層で算出された距離の積算値を、距離に関する第1の閾値と比較する閾値比較手段と、上記閾値比較手段による比較結果に応じて、上記一対のベクトルが類似するか否かを判定する判定手段とを有し、上記判定手段は、上記閾値比較手段による比較の結果、最後の階層までに算出した距離の積算値が上記第1の閾値を下回った場合には、上記一対のベクトルが類似すると判定し、ある階層までに算出した距離の積算値が上記第1の閾値を上回った場合には、上記一対のベクトルが類似しないと判定すると共に、残りの階層での距離算出を打ち切るように制御する。
【0016】
また、上記時系列判定手段は、上記類似ベクトル及び/又は非類似ベクトルの個数の計数を階層的に行う階層的計数手段と、上記階層的計数手段によって各階層で計数された上記類似ベクトル及び/又は非類似ベクトルの個数の積算値を、類似ベクトルの個数に関する第2の閾値と比較する閾値比較手段と、上記閾値比較手段による比較結果に応じて、上記一対の時系列パターンの類似性を判定する判定手段とを有し、上記判定手段は、上記閾値比較手段による比較の結果、最後の階層までに計数した類似ベクトルの個数の積算値が上記第2の閾値を上回った場合には、上記一対の時系列パターンが類似すると判定し、ある階層までに計数した非類似ベクトルの個数の積算値が上記時系列パターン中の上記ベクトルの総個数から上記第2の閾値を減じた数を上回った場合には、上記一対の時系列パターンが類似しないと判定すると共に、残りの階層での計数を打ち切るように制御する。
【0017】
このような類似時系列検出方法及びその装置は、一対の時系列パターンの類似性検出のプロセスを、当該一対の時系列パターンを構成する各ベクトル間の距離算出段階と、時系列全体での類似ベクトル又は非類似ベクトルの個数の計数段階とに分割する。
【0018】
ここで、距離算出段階では、一対の時系列パターンを構成するベクトル間の類似度として例えば距離を階層的に算出し、ある階層までに算出された距離の積算値が閾値を上回る場合には非類似と判定し、残りの階層での距離算出を打ち切ることにより、演算を高速化する。
【0019】
また、計数段階では、ある階層までに計数された非類似ベクトルの個数の積算値が許容数を上回る場合には非類似と判定し、残りの階層での計数を打ち切ることにより、演算を高速化する。
【0020】
また、本発明に係るプログラムは、上述した類似時系列検出処理をコンピュータに実行させるものであり、本発明に係る記録媒体は、そのようなプログラムが記録されたコンピュータ読み取り可能なものである。
【0021】
【発明の実施の形態】
以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。この実施の形態は、本発明を、未知の入力時系列信号の中から予め登録された参照時系列信号と一致する信号位置を検索する類似時系列検索方法及びその装置に適用したものである。なお、本発明がこの実施の形態に限定されないことは勿論であり、任意の2つの時系列信号間の類似性を検出する際に適用可能である。
【0022】
(1)本実施の形態の基本概念
本明細書中では、入力時系列信号F及び参照時系列信号Gから得られる比較対象となる特徴ベクトルf、gの時系列を、それぞれ特徴ベクトル時系列ft、gtと表記する。ここで、tは離散時間(フレーム番号)を表す添字であり、フレーム数をTとする。また、比較対象となる入力時系列信号F及び参照時系列信号Gのt番目のフレームにおける特徴ベクトルf、gの第i成分をそれぞれ、ft[i]、gt[i]と表記し、特徴ベクトルの次元数をNとする。
【0023】
ここで、全検索法では、時系列パターン全体の比較により類似性検出を行うが、本実施の形態では、類似性検出のプロセスを、各離散時間tにおける特徴ベクトル間類似度の計算段階と、時系列全体での類似する特徴ベクトル個数の計数段階とに分割し、各段階に閾値を設けることで、検索処理を高速化する。
【0024】
特徴ベクトル間類似度の計算段階では、図1(A)に示すように、参照時系列信号Gの特徴ベクトル時系列gtと入力時系列信号Fの比較対象となる図中黒枠内の特徴ベクトル時系列ftとを比較する。詳しくは後述するが、簡単には、特徴ベクトル時系列gt及び特徴ベクトル時系列ftの同じフレーム番号における各成分同士の距離を階層的に順次積算し、そのフレームの最終的な積算値が距離の閾値Sを下回れば、類似と判定する。また、積算演算の途中の階層で積算値が閾値Sを上回った場合には非類似と判定し、そのフレームの残りの成分間の積算演算を打ち切る。
【0025】
一方、類似する特徴ベクトル個数の計数段階では、図1(B)に示すように、類似と判定された特徴ベクトルf(図中○印)の数Rと、非類似と判定された特徴ベクトルf(図中×印)の数Dとをフレーム毎に階層的に計数し、T番目のフレームまで終了した段階での非類似数Dが閾値(T−U)を下回っていれば、特徴ベクトル時系列gtと特徴ベクトル時系列ftとが類似していると判定する。また、計数段階の途中の階層で非類似数Dが閾値(T−U)を上回った場合には非類似と判定し、残りのフレームにおける類似度計算を打ち切る。
【0026】
本実施の形態では、以上のような処理を入力時系列信号Fの部分区間を1フレームずつずらしながら逐次行うことで、入力時系列信号Fの中から参照時系列信号Gと一致する信号位置を高速に検索することが可能となる。
【0027】
すなわち、例えば特徴ベクトル次元数Nが256、フレーム数Tが32であり、ほぼ完全一致する部分を検索する場合、従来の全検索法では、1回の比較あたり約8192回の積和演算が必要となる。これに対して、本実施の形態では、閾値Uを32、すなわち完全一致と設定すれば、一致しない部分では最小1フレームの比較段階で棄却されるため、高速化が図られる。また、各フレーム毎の比較段階においても、閾値Sを設けることにより、最小1回の積算演算で棄却することができ、高速化が図られる。特に、殆どの検索問題では、一致する目的部分は極少数で、大多数の比較は不一致を確認するために行われているため、検索時間を大幅に短縮することができる。
【0028】
また、従来の全検索法では、検索対象となる入力時系列信号Fの部分区間内に全く異なる信号が挿入されている場合、その異なる信号との間で特徴ベクトル間の類似度(距離)が時系列全体の類似度に直接影響するため、検出不可能であった。これに対して、本実施の形態では、各フレーム毎のベクトルが類似しているか否かのみで時系列全体の比較を行うため、上述した閾値Uを適切に設定することで、入力時系列信号Fの部分区間内に全く異なる信号が挿入されていても、それを無害化することができ、検出可能である。なお、この際、一致/不一致の個数、すなわち全体の中での不一致を許容する割合のみで判定が行われるため、どの位置が不一致であるかを予め知っておく必要はない。
【0029】
(2)類似時系列検索装置の構成及び動作
上述した処理を行う本実施の形態における類似時系列検索装置の概略構成を図2に示す。図2に示すように、類似時系列検索装置1は、入力時系列信号F及び参照時系列信号Gを入力し、入力時系列信号F中で参照時系列信号Gと類似する信号位置を検出するものであり、特徴抽出部10,11と、記録部12と、ベクトル比較部13と、時系列比較部14とから構成される。ここで、特徴抽出部10,11は、それぞれ参照時系列信号G、入力時系列信号Fに対して同様の処理を行うものである。また、記録部12は、例えば磁気ディスク、光ディスク、或いは半導体メモリ等である。
【0030】
この類似時系列検索装置1における参照時系列信号Gの登録時の処理を図3のフローチャートを用いて説明する。先ずステップS1において、特徴抽出部10(図2)は、予め登録する参照時系列信号Gを入力し、続くステップS2において、参照時系列信号Gの特徴量を抽出してベクトル化する。特徴抽出部10は、この処理を適切な時間フレーム毎に区切って順次行うことで、特徴ベクトル時系列gtを生成する。なお、この特徴抽出部10における特徴ベクトル抽出処理についての詳細は後述する。そして、ステップS3において、記録部12は、その特徴ベクトル時系列gtを記録する。
【0031】
このように、本実施の形態では、登録時に特別な操作を行う必要がないため簡便であり、実時間での処理に適する。また、登録時に時系列順序を入れ替えたり、全データを用いて索引を作成したりしないため、参照時系列信号Gの登録や削除が容易である。
【0032】
続いて、類似時系列検索装置1における検索時の処理を図4のフローチャートを用いて説明する。先ずステップS10において、ベクトル比較部13(図2)及び時系列比較部14は、それぞれ各ベクトル間の距離の閾値S及び類似するベクトルの個数の閾値Uを設定する。
【0033】
続いてステップS11において、特徴抽出部11は、入力時系列信号Fを入力し、ステップS12において、入力時系列信号Fの特徴量を抽出してベクトル化する。特徴抽出部11は、この処理を適切な時間フレーム毎に区切って順次行うことで、特徴ベクトル時系列ftを生成する。なお、この特徴抽出部11における特徴ベクトル抽出処理についての詳細は後述する。
【0034】
次にステップS13において、ベクトル比較部13は、記録部12に記録されている特徴ベクトル時系列gtを1つ取得する。
【0035】
ステップS14において、ベクトル比較部13は、内部変数である成分番号i、離散時間t及び各ベクトル成分間の距離の積算値sumを初期化し、時系列比較部14は、内部変数であるベクトルの類似数R、非類似数D及び各ベクトル間距離(積算値sum)の積算値simを初期化する。すなわち、ベクトル比較部13は、成分番号i及び離散時間tを1にセットし、積算値sumを0にセットする。また、時系列比較部14は、類似数R、非類似数D及び積算値simを0にセットする。
【0036】
そしてステップS15において、ベクトル比較部13は、t番目のフレームにおける特徴ベクトル時系列ftの第i成分ft[i]と特徴ベクトル時系列gtの第i成分gt[i]との間で、以下の式(1)で示すような積算演算を行う。
【0037】
【数1】
【0038】
ステップS16において、ベクトル比較部13は、積算値sumが閾値S未満であるか否かを判別する。積算値sumが閾値S未満である場合(Yes)にはステップS17に進む。
【0039】
ステップS17では、成分番号iが特徴ベクトルf、gの次元数N以下であるか否かが判別される。成分番号iがN以下である場合(Yes)には、ステップS18でベクトル比較部13が成分番号iをインクリメントしてステップS15に戻る。一方、成分番号iがNよりも大きい場合(No)には、特徴ベクトルf、gの最後の成分まで積算演算が終了しているため、比較した特徴ベクトル同士は類似していると判定され、ステップS22において時系列比較部14が類似数Rをインクリメントすると共に、積算値sumを積算値simに積算する。なお、このときの積算値sumは、ベクトル間距離の自乗となる。
【0040】
一方、ステップS16において、積算値sumが閾値S以上である場合(No)には、比較した特徴ベクトル同士は類似していないと判定され、残りの成分同士の積算演算を省略してステップS19に進む。このように、ベクトル比較部13は、閾値Sを設け、積算演算の途中の階層で積算値sumが閾値Sを上回った場合に積算演算を打ち切ることで、処理の高速化を図っている。
【0041】
ステップS19において、時系列比較部14は、非類似数Dをインクリメントし、ステップS20において非類似数Dが閾値(T−U)を上回った否かを判別する。非類似数Dが閾値(T−U)を上回っている場合(Yes)には、ステップS21で時系列比較部14が−1を出力して処理を終了する。ここで、出力される−1は、特徴ベクトル時系列ftと特徴ベクトル時系列gtとが類似していなかったことを示す便宜的な数値である。一方、非類似数Dが閾値(T−U)以下である場合(No)にはステップS23に進む。このように、時系列比較部14は、閾値Uを設け、非類似数Dが閾値(T−U)を上回った場合に残りのフレームにおける類似度計算を打ち切ることで、処理の高速化を図っている。
【0042】
ステップS23では、離散時間t、すなわち現在のフレーム番号がフレーム数Tと一致するか否かが判別される。離散時間tがフレーム数Tと一致しない場合(No)には、ステップS24においてベクトル比較部13が離散時間tをインクリメントすると共に成分番号iを1にセットしてステップS15に戻る。一方、離散時間tがフレーム数Tと一致する場合(Yes)には、時系列内の全ての特徴ベクトル間の比較が終了しているため、ステップS25において時系列比較部14が最終的な類似数Rとベクトル間平均距離sim/Rを出力して終了する。
【0043】
以上、図4のフローチャートでは、1つの特徴ベクトル時系列ftに対する処理を示したが、実際には1フレームずつずらして同様の処理を行い、入力時系列信号F中で参照時系列信号Gと類似する信号位置を全て検出する。
【0044】
なお、以上示した類似信号検出方法では、特徴ベクトルの持つ情報がそのまま保存されており、閾値Sを限りなく大きく設定することで、完全な距離計算を行うことができる。この場合、最終的な積算値simとして、全検索法と同じ時系列信号間の距離が出力される。また、検索時に閾値Sを設定できるため、本実施の形態における類似信号検出方法は全検索法を包含しており、汎用性が高い。
【0045】
(3)変形例
(3−1)変形例1
ここで、上述したベクトル比較部13における処理では、距離の閾値Sを設定し、積算演算の途中の階層で積算値sumが閾値Sを上回った場合に積算演算を打ち切ることで、積算演算を高速化することができたが、この手法では、どのベクトル成分から検索を行うかはベクトル成分の並び順に依存するため、この並び順によって検索速度に差が生じてしまう。
【0046】
そこで、例えば以下の式(2)、(3)に示すように、特徴ベクトル時系列ft及び特徴ベクトル時系列gt内の特徴ベクトルf、gに対して正規直交変換行列Uを乗算して直交変換を行い、この直交変換後の特徴ベクトルg’、特徴ベクトルf’を用いて有意性の高い順に積算演算を行うことで、さらなる高速化を図ることができる。
【0047】
【数2】
【0048】
なお、以下の式(4)に示すように、正規直交変換行列Uによっては2つの特徴ベクトルg、特徴ベクトルf間の自乗距離d2は変わらない。
【0049】
【数3】
【0050】
このようなベクトル変換処理を行う場合の類似ベクトル検出装置の概略構成を図5に示す。なお、先に図2に示した類似ベクトル検出装置1と同様の構成については同一符号を付して詳細な説明を省略する。図5に示すように、類似時系列検索装置2は、特徴抽出部10,11と、ベクトル変換部20,21と、記録部12と、ベクトル比較部13と、時系列比較部14とから構成される。ここで、ベクトル変換部20,21は、それぞれ特徴ベクトル時系列gt及び特徴ベクトル時系列ft内の特徴ベクトルg、fに対して同様の変換を施すものである。
【0051】
この類似時系列検索装置2における登録時には、特徴抽出部10は、参照時系列信号Gから特徴ベクトル時系列gtを抽出し、ベクトル変換部20は、この特徴ベクトル時系列gt内の各特徴ベクトルgに対して直交変換を施し、特徴ベクトル時系列g’tを生成する。記録部12は、この変換後の特徴ベクトル時系列g’tを記録する。
【0052】
また、この類似時系列検索装置2における検索時には、特徴抽出部11は、入力時系列信号Fから比較対象となる特徴ベクトル時系列ftを抽出し、ベクトル変換部21は、この特徴ベクトル時系列ft内の各特徴ベクトルfに対して直交変換を施し、特徴ベクトル時系列f’tを生成する。そして、ベクトル比較部13及び時系列比較部14は、この特徴ベクトル時系列f’t及び特徴ベクトル時系列g’tを用いて上述と同様の処理を行うことにより、入力時系列信号F中で参照時系列信号Gと類似する信号位置を検出する。但し、上述したように、ベクトル比較部13は、特徴ベクトル時系列g’t及び特徴ベクトル時系列f’t内の特徴ベクトルg’、f’に対して、有意性の高い順に積算演算を行う。
【0053】
ここで、上述した正規直交変換行列Uとしては、種々のものを用いることができるが、以下では、具体的に4つの例を挙げて説明する。
【0054】
(3−1−1)直交変換の具体例1
直交変換の最も簡単なものとして順序行列が挙げられる。これは、単純にベクトル成分の順序を並べ替えるものであり、例えば8次の順序行列Pは、以下の式(5)に示すような形で表される。
【0055】
【数4】
【0056】
ここで、特徴ベクトルf、gの各成分の分布が異なる場合、明らかに分散の大きな成分ほど距離に対する寄与が大きい。したがって、並べ替えの順序を決定する際には、予め十分な数(I個)のサンプルベクトルgiを用意し、以下の式(6)で計算される分散ベクトルVの大きい順に並ぶような順序行列を設定するのが最適である。
【0057】
【数5】
【0058】
なお、この順序行列を用いた直交変換は、各ベクトル成分の広がり方が異なるような場合に有効であり、並べ替えのみでよく乗除算や条件分岐が必要ないため高速である。
【0059】
(3−1−2)
映像特徴量や音響特徴量など、隣接成分間の相関関係が大きい特徴量では、特徴ベクトルを離散信号とみなした場合のエネルギが低周波成分に偏る。
【0060】
そこで、直交変換として、以下の式(7)、(8)で表される離散コサイン変換(Discrete Cosine Transform:DCT)や、以下の式(9)、(10)で表される離散フーリエ変換(Discrete Fourier Transform:DFT)を用い、低周波成分から順に積算を行うことで、有意性の高い成分から順に積算することができ、特徴ベクトル間の距離計算が高速化される。
【0061】
【数6】
【0062】
【数7】
【0063】
ここで、離散コサイン変換や離散フーリエ変換には高速変換法を用いることができ、また変換行列も全部を保持する必要がないため、計算機で実現する場合のメモリ使用量や演算速度は、行列の全計算を行う場合よりも遙かに有利である。
【0064】
(3−1−3)
ウォルシュ−アダマール(Walsh−Hadamard)変換は、変換行列の各要素が±1のみで構成される直交変換であり、変換時に乗算が必要ないため、高速な変換に適する。ここで、周波数に近い概念として交番数(sequency)を用い、低交番数の成分から順に並べることで、上述した離散コサイン変換や離散フーリエ変換と同様に、隣接成分間の相関関係が大きなベクトルに対して距離計算の高速化が図られる。
【0065】
ウォルシュ−アダマール変換行列は、フーリエ変換行列の符号に従って構成するか、又は行列の再帰的拡大演算によって構成する。一例として、交番数順に並べた8次のウォルシュ−アダマール変換行列Wを以下の式(11)に示す。
【0066】
【数8】
【0067】
(3−1−4)
予め十分な数のサンプルベクトルが収集され、また、変換演算に多少のコストをかけてもよい場合には、直交変換として最適なカルーネン−レーベ(Karhunen−Loeve)変換(以下、KL変換という。)を用いることが有効である。
【0068】
KL変換行列Tは、サンプルベクトルの分散行列Vを固有値分解する固有行列であり、固有値をλ1,…,λNとした場合に、以下の式(12)のように定義される。
【0069】
【数9】
【0070】
ここで、KL変換は、各成分間の相関関係を完全に取り除く直交変換行列であり、変換されたベクトル成分の分散が固有値λiとなる。したがって、固有値λiを大きい順に並べるようにKL変換行列Tを構成することで、全ての成分を統合し重複する情報を取り除いた上で、最も分散の大きい軸から距離の積算を行うことができる。
【0071】
なお、このKL変換を用いた手法では、演算時にKL変換行列Tを原則として全次元に亘って保持する必要があり、また、全てのベクトルに対して全次数の行列演算を行う必要があるため、演算コストがかかる。しかしながら、この演算は登録時に行うものであるため、特に高速化が要求される検索処理に要する時間を増やすものではない。
【0072】
また、若干の精度の劣化は伴うものの、固有値の大きいベクトル成分のみを抽出して保持し、固有値の小さいベクトル成分は保持しないようにすることで、ベクトル自体を圧縮し、記録部12(図5)の記憶領域やデータ読み込み時間を低減することもできる。
【0073】
(4)変形例2
上述した実施の形態、或いはその変形例では、各フレームにおける特徴ベクトル間の距離計算を高速化することにより検索処理を高速化したが、検索する際には、例えばハードディスク等の記録部12からのデータ読み込み時間も大きなオーバーヘッドの要因となる。
【0074】
ここで、上述した変形例におけるKL変換は、多変量解析分野で主成分分析と呼ばれる分析法にあたり、ベクトルを構成する主要な成分を抽出する演算となっている。そこで、以下に説明する他の変形例では、上述した変換後のベクトルg’の主要成分を索引ベクトルg1、残りの成分を詳細ベクトルg2として記録する。検索時には、先ず索引ベクトルg1を参照して距離計算を行い、その結果が閾値S未満である場合にのみ詳細ベクトルg2を取得してさらに距離計算を行うことで、データ読み込み時間の短縮化を図ることができる。
【0075】
このような処理を行う場合の類似ベクトル検出装置の概略構成を図6に示す。なお、先に図2、図5に示した類似ベクトル検出装置1、2と同様の構成については同一符号を付して詳細な説明を省略する。図6に示すように、類似ベクトル検出装置3は、特徴抽出部10,11と、ベクトル変換部30,31と、索引記録部32と、詳細記録部33と、ベクトル比較部13と、時系列比較部14とから構成される。ここで、索引記録部32、詳細記録部33は、例えば磁気ディスク、光ディスク、或いは半導体メモリ等である。
【0076】
この類似ベクトル検出装置3における登録時には、特徴抽出部10は、参照時系列信号Gから特徴ベクトル時系列gtを抽出し、ベクトル変換部30は、この特徴ベクトル時系列gt内の各特徴ベクトルgに対して直交変換を施し、特徴ベクトル時系列g’tを生成する。さらに、ベクトル変換部30は、特徴ベクトル時系列g’t内の各特徴ベクトルg’を、所定数M(1≦M<N)の成分から成る索引ベクトルg1と、残りの成分から成る詳細ベクトルg2とに分割する。そして、索引記録部32は、索引ベクトルg1を記録し、詳細記録部33は、詳細ベクトルg2を記録する。
【0077】
また、この類似時系列検索装置2における検索時には、特徴抽出部11は、入力時系列信号Fから比較対象となる特徴ベクトル時系列ftを抽出し、ベクトル変換部31は、この特徴ベクトル時系列ft内の各特徴ベクトルfに対して直交変換を施し、特徴ベクトル時系列f’tを生成する。さらに、ベクトル変換部31は、特徴ベクトル時系列f’t内の各特徴ベクトルf’を、所定数M(1≦M<N)の成分から成る索引ベクトルf1と、残りの成分から成る詳細ベクトルf2とに分割する。そして、ベクトル比較部13及び時系列比較部14は、この特徴ベクトル時系列f’t及び特徴ベクトル時系列g’tを用いて上述と同様の処理を行うことにより、入力時系列信号F中で参照時系列信号Gと類似する信号位置を検出する。但し、上述したように、ベクトル比較部13は、先ず特徴ベクトル時系列g’t及び特徴ベクトル時系列f’t内の各索引ベクトルg1、f1に対して、有意性の高い順に積算演算を行い、M個の成分について積算演算を行った積算値sumが閾値Sを下回っていた場合に限り、各詳細ベクトルg2、f2を取得して積算演算を続ける。
【0078】
この変形例では、上述した実施の形態や変形例と比較して記憶容量や精度は変わらず、演算速度も殆ど変わらないが、大半の比較が索引ベクトルg1、f1の比較段階で棄却され詳細ベクトルg2、f2を取得する必要が少ない場合に、データアクセスによるオーバーヘッドが解消される。
【0079】
なお、上述の説明では、変換後の特徴ベクトルを索引ベクトルと詳細ベクトルとの2段階に分割するものとしたが、同様に索引ベクトルをさらに上位の索引ベクトルと詳細な索引ベクトルに分割して3段構成にするなど、多段化への拡張が可能であることは勿論である。
【0080】
(5)特徴ベクトルの抽出
以下では、参照時系列信号G及び入力時系列信号Fの一例として、音響時系列信号Aや映像時系列信号Vを用い、特徴抽出部10,11において、この音響時系列信号A、映像時系列信号Vからそれぞれ特徴ベクトル時系列at、vtを抽出する手法について説明する。後述のようにして音響特徴ベクトル時系列at及び/又は映像特徴ベクトル時系列vtを抽出し、これを特徴ベクトル時系列ft、gtとして用いることで、未知の音響時系列信号A及び/又は映像時系列信号Vが入力された場合に、上述した手法を用いて、登録された音響時系列信号A及び/又は映像時系列信号Vと類似する信号位置を高速に検索することができる。
【0081】
(5−1)音響特徴ベクトルの抽出
(5−1−1)
音響信号に関する特徴量としてパワースペクトル係数を用いる場合の例について、図7のフローチャートと図8を用いて説明する。先ずステップS30において、図8に示すように、対象時区間内の音響信号から時間区間Tの音響信号を取得する。
【0082】
次にステップS31では、取得した音響信号に対して例えば高速フーリエ変換等のスペクトル演算を施し、短時間区間毎にパワースペクトル係数Sq(q=0,1,…,Q−1)を求める。ここで、qは離散周波数を表すインデックスであり、Qは最大離散周波数である。
【0083】
続いてステップS32では、対象時区間内の計算を終えたか否かが判別され、終えている場合(Yes)にはステップS33に進み、終えていない場合(No)にはステップS30に戻る。
【0084】
ステップS33では、求めたパワースペクトル係数Sqの平均スペクトルS’qを計算し、ステップS34においてこの平均スペクトルS’qをベクトル化し、音響特徴ベクトルaを生成する。この音響特徴ベクトルaは、例えば以下の式(13)のように表される。
【0085】
【数10】
【0086】
この操作は、入力される音響時系列信号Aについて、時間シフトを行いながら順次繰り返されるため、音響特徴量としては、音響特徴ベクトル時系列at(t=1,2,…)が順次生成される。ここでtは、離散時間を表すインデックスである。ここで、時間シフトを行う際には、隣接する時間区間と若干オーバーラップさせるようにしても構わない。
【0087】
なお、上述の例では、対象時区間内の音響信号を時間区間T毎に区切るものとして説明したが、対象時区間が短い場合には、時間区間T毎に区切らずに、スペクトル演算を施すようにしても構わない。
【0088】
また、上述の例では、パワースペクトル係数を用いた例について説明したが、これに限定されるものではなく、例えば等価な情報を持つケプストラム係数等を用いることもできる。さらに、フーリエ変換を用いず、AR(Auto−Regressive)モデルを用いる線形予測係数を用いても同様の効果を得ることができる。
【0089】
(5−1−2)
音響信号は膨大であるため、圧縮符号化されて記録、或いは伝送されることが多い。符号化された音響時系列信号Aを復号してベースバンドに戻した後、上述の手法を用いて音響特徴ベクトル時系列atを抽出することも可能であるが、部分的な復号のみで音響特徴ベクトル時系列atを抽出できれば、抽出処理を効率化、高速化することができる。
【0090】
ここで、一般的に用いられる符号化法である変換符号化では、図9に示すように、原音となる音響時系列信号Aが時間区間T毎にフレームに区切られる。そして、そのフレーム毎の音響信号に対して変更離散コサイン変換(Modified Discrete Cosine Transform:MDCT)等の直交変換が施され、その係数が量子化されて符号化される。この際、周波数帯域毎に、大きさの正規化係数であるスケールファクタが抽出され、別途符号化される。そこで、このスケールファクタのみを復号することにより、音響特徴ベクトルaとして用いることができる。
【0091】
このように、音響信号に関する特徴量としてスケールファクタを用いる場合の例について、図10のフローチャートと図11を用いて説明する。先ずステップS40において、対象時区間における時間区間T内の符号化音響信号が取得され、ステップS41において、フレーム毎のスケールファクタが部分的に復号される。
【0092】
続いてステップS42では、対象時区間内の復号を終えたか否かが判別され、終えている場合(Yes)にはステップS43に進み、終えていない場合(No)にはステップS40に戻る。
【0093】
ステップS43では、対象時区間内のスケールファクタの中から各帯域毎に最大のスケールファクタを検出し、ステップS44においてそれらをベクトル化し、音響特徴ベクトルaを生成する。
【0094】
この操作は、符号化音響信号について、時間区間Tの時間シフトを行いながら順次繰り返されるため、音響特徴量としては、音響特徴ベクトル時系列at(t=1,2,…)が順次生成される。時間シフトを行う際には、隣接する時間区間Tと若干オーバーラップさせるようにしても構わない。ここでtは、離散時間を表すインデックスである。
【0095】
このようにして、符号化音響信号を完全に復号することなく、上述と等価な音響特徴ベクトル時系列atを高速に抽出することができる。
【0096】
(5−2)映像特徴ベクトルの抽出
(5−2−1)
映像信号に関する特徴量として輝度情報及び色情報を用いる場合の例について、図12のフローチャート及び図13を用いて説明する。先ずステップS50において、図13に示すように、対象時区間T内の映像信号から映像フレームを取得する。
【0097】
次にステップS51では、取得した全ての映像フレームに基づいて、時間平均画像を作成する。
【0098】
続いてステップS52では、作成された時間平均画像を横縦X×Y個の小ブロックに分割し、各ブロック内の画素値を平均したブロック平均画像を作成する。
【0099】
そしてステップS53では、これらを例えば左上から右下へ向かってR,G,Bの順に並べて、1次元の映像特徴ベクトルvを生成する。この映像特徴ベクトルvは、例えば以下の式(14)のように表される。
【0100】
【数11】
【0101】
この操作は、入力される映像時系列信号Vについて、時間シフトを行いながら順次繰り返されるため、映像特徴量としては、特徴ベクトルの時系列vt(t=1,2,…)が順次生成される。時間シフトを行う際には、隣接する時間区間と若干オーバーラップさせるようにしても構わない。ここでtは、離散時間を表すインデックスである。
【0102】
なお、上述の例では、時間平均画像を分割したブロック平均画像の画素値を並べ替えて1次元の映像特徴ベクトルvを生成する例について説明したが、これに限定されるものではなく、ブロック平均画像を作成せずに、時間平均画像の画素値を並べ替えて1次元の映像特徴ベクトルvを生成するようにしても構わない。
【0103】
また、通常、映像信号の時間変化はあまり激しくないため、時間平均画像を作成せずに、対象時区間内の1フレームを代表画像として選択して代用しても、ほぼ同様の効果を得ることができる。
【0104】
(5−2−2)
全く同一な映像信号でなくても、例えばニュース映像の同じアングルから撮影されたスタジオ映像など、全画像に対する色の分布が類似する映像には何らかの関連があることが多く、これらを同一視して検索する要求もある。このような場合には、画像の空間依存性を排除し、色分布のヒストグラムを作成して比較すると効果的である。
【0105】
そこで、このように色分布のヒストグラムを特徴量として用いる場合の例について、図14のフローチャート及び図15を用いて説明する。先ずステップS60において、図15に示すように、対象時区間T内の映像信号から映像フレームを取得する。
【0106】
次にステップS61では、各映像フレームの信号値から、各色、例えばR,G,Bの信号値に対するヒストグラムを作成する。
【0107】
そしてステップS62では、これらを例えばR,G,Bの順に並べて、1次元の映像特徴ベクトルvを生成する。この映像特徴ベクトルvは、例えば以下の式(15)のように表される。
【0108】
【数12】
【0109】
この操作は、入力される映像時系列信号Vについて、時間シフトを行いながら順次繰り返されるため、映像特徴量としては,特徴ベクトル時系列vt(t=1,2,…)が順次生成される。時間シフトを行う際には、隣接する時間区間と若干オーバーラップさせるようにしても構わない。ここでtは、離散時間を表すインデックスである。
【0110】
なお、上述の例では、R,G,Bの信号値に対するヒストグラムを作成するものとして説明したが、輝度(Y)、色差(Cb、Cr)の信号値に対するヒストグラムを作成するようにしても、同様の効果を得ることができる。
【0111】
(5−2−3)
映像信号は膨大であるため、圧縮符号化されて記録、或いは伝送されることが多い。符号化された映像時系列信号Vを復号してベースバンドに戻した後、上述の手法を用いて映像特徴ベクトル時系列vtを抽出することも可能であるが、部分的な復号のみで映像特徴ベクトル時系列vtを抽出できれば、抽出処理を効率化、高速化することができる。
【0112】
MPEG1(Moving Picture Experts Group 1)又はMPEG2で圧縮符号化された映像時系列信号Vから映像特徴ベクトル時系列vtを抽出する場合の例について、図16のフローチャートと図17を用いて説明する。先ずステップS70において、ベクトル化する対象時区間Tに対して、その直近の符号化グループ(Group of Pictures:GOP)の符号化映像信号を取得し、そのGOP内のフレーム内符号化ピクチャ(Iピクチャ)を取得する。
【0113】
ここで、フレーム画像は、マクロブロック(16×16画素、又は8×8画素)を単位として符号化されており、また、離散コサイン変換(DCT)が用いられている。このDCT変換されたDC係数は、マクロブロック内画像の画素値の平均値にあたる。
【0114】
そこで、ステップS71では、このDC係数を取得し、続くステップS72では、これらを例えばY,Cb,Crの順に並べて、1次元の映像特徴ベクトルvを生成する。この映像特徴ベクトルvは、例えば以下の式(16)のように表される。
【0115】
【数13】
【0116】
この操作は、符号化映像信号について、時間シフトを行いながら順次繰り返されるため、映像特徴量としては、映像特徴ベクトル時系列vt(t=1,2,…)が順次生成される。時間シフトを行う際には、隣接する時間区間と若干オーバーラップさせるようにしても構わない。ここでtは、離散時間を表すインデックスである。
【0117】
このようにして、符号化映像信号を完全に復号することなく、映像特徴ベクトル時系列vtを高速に抽出することができる。
【0118】
なお、上述の例では、MPEG1又はMPEG2で圧縮符号化された映像時系列信号Vを用いるものとして説明したが、他の圧縮符号化方式にも適用可能であることは勿論である。
【0119】
(6)その他
本発明は上述した実施の形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
【0120】
例えば、上述の実施の形態では、ハードウェアの構成として説明したが、これに限定されるものではなく、任意の処理を、CPU(Central Processing Unit)にコンピュータプログラムを実行させることにより実現することも可能である。この場合、コンピュータプログラムは、記録媒体に記録して提供することも可能であり、また、インターネットその他の伝送媒体を介して伝送することにより提供することも可能である。
【0121】
【発明の効果】
以上詳細に説明したように本発明に係る類似時系列検出方法は、ベクトルの時系列からなる時系列パターンに関して、一対の時系列パターンの類似性を検出する類似時系列検出方法であって、上記一対の時系列パターンの一対のベクトル間の類似度を算出し、当該類似度に基づいて、上記一対のベクトルが類似するか否かを判定するベクトル判定工程と、上記ベクトル判定工程にて類似すると判定された類似ベクトル及び/又は類似しないと判定された非類似ベクトルの個数を計数し、当該計数結果に基づいて、上記一対の時系列パターンの類似性を判定する時系列判定工程とを有する。
【0122】
ここで、上記類似度は、例えば上記一対のベクトル間の距離である。この場合、上記ベクトル判定工程は、上記一対のベクトル間の距離算出を階層的に行う階層的距離算出ステップと、上記階層的距離算出ステップの各階層で算出された距離の積算値を、距離に関する第1の閾値と比較する閾値比較ステップと、上記閾値比較ステップにおける比較結果に応じて、上記一対のベクトルが類似するか否かを判定する判定ステップとを有し、上記判定ステップでは、上記閾値比較ステップにおいて、最後の階層までに算出された距離の積算値が上記第1の閾値を下回った場合には、上記一対のベクトルが類似すると判定され、ある階層までに算出された距離の積算値が上記第1の閾値を上回った場合には、上記一対のベクトルが類似しないと判定されると共に、残りの階層での距離算出を打ち切るように制御される。
【0123】
また、上記時系列判定工程は、上記類似ベクトル及び/又は非類似ベクトルの個数の計数を階層的に行う階層的計数ステップと、上記階層的計数ステップの各階層で計数された上記類似ベクトル及び/又は非類似ベクトルの個数の積算値を、類似ベクトルの個数に関する第2の閾値と比較する閾値比較ステップと、上記閾値比較ステップにおける比較結果に応じて、上記一対の時系列パターンの類似性を判定する判定ステップとを有し、上記判定ステップでは、上記閾値比較ステップにおいて、最後の階層までに計数された類似ベクトルの個数の積算値が上記第2の閾値を上回った場合には、上記一対の時系列パターンが類似すると判定され、ある階層までに計数された非類似ベクトルの個数の積算値が上記時系列パターン中の上記ベクトルの総個数から上記第2の閾値を減じた数を上回った場合には、上記一対の時系列パターンが類似しないと判定されると共に、残りの階層での計数を打ち切るように制御される。
【0124】
また、本発明に係る類似時系列検出装置は、ベクトルの時系列からなる時系列パターンに関して、一対の時系列パターンの類似性を検出する類似時系列検出装置であって、上記一対の時系列パターンの一対のベクトル間の類似度を算出し、当該類似度に基づいて、上記一対のベクトルが類似するか否かを判定するベクトル判定手段と、上記ベクトル判定手段によって類似すると判定された類似ベクトル及び/又は類似しないと判定された非類似ベクトルの個数を計数し、当該計数結果に基づいて、上記一対の時系列パターンの類似性を判定する時系列判定手段とを備える。
【0125】
ここで、上記類似度は、例えば上記一対のベクトル間の距離である。この場合、上記ベクトル判定手段は、上記一対のベクトル間の距離算出を階層的に行う階層的距離算出手段と、上記階層的距離算出手段によって各階層で算出された距離の積算値を、距離に関する第1の閾値と比較する閾値比較手段と、上記閾値比較手段による比較結果に応じて、上記一対のベクトルが類似するか否かを判定する判定手段とを有し、上記判定手段は、上記閾値比較手段による比較の結果、最後の階層までに算出した距離の積算値が上記第1の閾値を下回った場合には、上記一対のベクトルが類似すると判定し、ある階層までに算出した距離の積算値が上記第1の閾値を上回った場合には、上記一対のベクトルが類似しないと判定すると共に、残りの階層での距離算出を打ち切るように制御する。
【0126】
また、上記時系列判定手段は、上記類似ベクトル及び/又は非類似ベクトルの個数の計数を階層的に行う階層的計数手段と、上記階層的計数手段によって各階層で計数された上記類似ベクトル及び/又は非類似ベクトルの個数の積算値を、類似ベクトルの個数に関する第2の閾値と比較する閾値比較手段と、上記閾値比較手段による比較結果に応じて、上記一対の時系列パターンの類似性を判定する判定手段とを有し、上記判定手段は、上記閾値比較手段による比較の結果、最後の階層までに計数した類似ベクトルの個数の積算値が上記第2の閾値を上回った場合には、上記一対の時系列パターンが類似すると判定し、ある階層までに計数した非類似ベクトルの個数の積算値が上記時系列パターン中の上記ベクトルの総個数から上記第2の閾値を減じた数を上回った場合には、上記一対の時系列パターンが類似しないと判定すると共に、残りの階層での計数を打ち切るように制御する。
【0127】
このような類似時系列検出方法及びその装置によれば、一対の時系列パターンの類似性検出のプロセスを、当該一対の時系列パターンを構成する各ベクトル間の距離計算段階と、時系列全体での類似ベクトル又は非類似ベクトルの個数の計数段階とに分割することにより、全体として類似する時系列パターン中に、部分的に劣化した全く異なる信号が挿入されている場合であっても、その時系列パターンを検出することが可能となる。
【0128】
ここで、距離算出段階では、一対の時系列パターンを構成するベクトル間の類似度として例えば距離を階層的に算出し、ある階層までに算出された距離の積算値が閾値を上回る場合には非類似と判定し、残りの階層での距離算出を打ち切ることにより、演算を高速化することができる。
【0129】
また、計数段階では、ある階層までに計数された非類似ベクトルの個数の積算値が許容数を上回る場合には非類似と判定し、残りの階層での計数を打ち切ることにより、演算を高速化することができる。
【0130】
また、本発明に係るプログラムは、上述した類似時系列検出処理をコンピュータに実行させるものであり、本発明に係る記録媒体は、そのようなプログラムが記録されたコンピュータ読み取り可能なものである。
【0131】
このようなプログラム及び記録媒体によれば、上述した類似時系列検出処理をソフトウェアにより実現することができる。
【図面の簡単な説明】
【図1】本実施の形態の概念を説明する図であり、同図(A)は、特徴ベクトル間類似度の計算段階を説明する図であり、同図(B)は、類似する特徴ベクトル個数の計数段階を説明する図である。
【図2】本実施の形態における類似信号検出装置の概略構成を説明する図である。
【図3】同類似信号検出装置における登録時の処理を説明するフローチャートである。
【図4】同類似信号検出装置における検索時の処理を説明するフローチャートである。
【図5】本実施の形態の変形例における類似信号検出装置の概略構成を説明する図である。
【図6】本実施の形態の他の変形例における類似信号検出装置の概略構成を説明する図である。
【図7】音響信号から音響特徴ベクトルを抽出する処理の一例を説明するフローチャートである。
【図8】音響信号から音響特徴ベクトルを抽出する処理の一例を説明する図である。
【図9】音響信号における変換符号化を説明する図である。
【図10】符号化音響信号から音響特徴ベクトルを抽出する処理の一例を説明するフローチャートである。
【図11】符号化音響信号から音響特徴ベクトルを抽出する処理の一例を説明する図である。
【図12】映像信号から映像特徴ベクトルを抽出する処理の一例を説明するフローチャートである。
【図13】映像信号から映像特徴ベクトルを抽出する処理の一例を説明する図である。
【図14】映像信号から映像特徴ベクトルを抽出する処理の他の例を説明するフローチャートである。
【図15】映像信号から映像特徴ベクトルを抽出する処理の他の例を説明する図である。
【図16】符号化映像信号から映像特徴ベクトルを抽出する処理の他の例を説明するフローチャートである。
【図17】符号化映像信号から映像特徴ベクトルを抽出する処理の他の例を説明する図である。
【図18】従来の全検索法を説明する図であり、同図(A)は、映像信号又は音響信号から短時間フレーム毎に特徴ベクトルを生成する様子を示し、同図(B)乃至(D)は、入力時系列信号の部分区間を順次ずらしながら参照時系列信号と類似比較する様子を示す。
【図19】入力時系列信号の特徴ベクトル時系列中に部分的に劣化した特徴ベクトルが挿入されている様子を示す図である。
【符号の説明】
1,2,3 類似時系列検索装置、10,11 特徴抽出部、12 記録部、13 ベクトル比較部、14 時系列比較部、20,21,30,31 ベクトル変換部、32 索引記録部、33 詳細記録部
Claims (39)
- ベクトルの時系列からなる時系列パターンに関して、一対の時系列パターンの類似性を検出する類似時系列検出方法であって、
上記一対の時系列パターンの一対のベクトル間の類似度を算出し、当該類似度に基づいて、上記一対のベクトルが類似するか否かを判定するベクトル判定工程と、
上記ベクトル判定工程にて類似すると判定された類似ベクトル及び/又は類似しないと判定された非類似ベクトルの個数を計数し、当該計数結果に基づいて、上記一対の時系列パターンの類似性を判定する時系列判定工程と
を有することを特徴とする類似時系列検出方法。 - 上記類似度は、上記一対のベクトル間の距離であることを特徴とする請求項1記載の類似時系列検出方法。
- 上記ベクトル判定工程は、上記一対のベクトル間の距離算出を階層的に行う階層的距離算出ステップと、上記階層的距離算出ステップの各階層で算出された距離の積算値を、距離に関する第1の閾値と比較する閾値比較ステップと、上記閾値比較ステップにおける比較結果に応じて、上記一対のベクトルが類似するか否かを判定する判定ステップとを有し、
上記判定ステップでは、上記閾値比較ステップにおいて、最後の階層までに算出された距離の積算値が上記第1の閾値を下回った場合には、上記一対のベクトルが類似すると判定され、ある階層までに算出された距離の積算値が上記第1の閾値を上回った場合には、上記一対のベクトルが類似しないと判定されると共に、残りの階層での距離算出を打ち切るように制御されること
を特徴とする請求項2記載の類似時系列検出方法。 - 上記階層的距離算出ステップでは、上記一対のベクトルを構成する各成分間の距離算出が階層的に行われ、上記閾値比較ステップにおいて、ある階層までに算出された距離の積算値が上記第1の閾値を下回った場合、次の成分間の距離算出が行われること
を特徴とする請求項3記載の類似時系列検出方法。 - 上記ベクトル判定工程は、上記一対のベクトルに対して所定の変換を施す変換ステップをさらに有し、
上記階層的距離算出ステップでは、上記変換ステップにて変換された上記一対のベクトル間の距離算出が、上記所定の変換に基づく所定の順序で行われること
を特徴とする請求項4記載の類似時系列検出方法。 - 上記所定の変換は、上記一対のベクトルを構成する各成分の順序を当該各成分の分散の大きさに従って並べ替える変換であり、
上記階層的距離算出ステップでは、上記変換ステップにて変換された上記一対のベクトル間の距離算出が、分散の大きな成分から順に行われること
を特徴とする請求項5記載の類似時系列検出方法。 - 上記所定の変換は、離散コサイン変換又は離散フーリエ変換であり、
上記階層的距離算出ステップでは、上記変換ステップにて変換された上記一対のベクトル間の距離算出が、低周波成分から順に行われること
を特徴とする請求項5記載の類似時系列検出方法。 - 上記所定の変換は、ウォルシュ−アダマール変換であり、
上記階層的距離算出ステップでは、上記変換ステップにて変換された上記一対のベクトル間の距離算出が、低交番数成分から順に行われること
を特徴とする請求項5記載の類似時系列検出方法。 - 上記所定の変換は、カルーネン−レーベ変換であり、
上記階層的距離算出ステップでは、上記変換ステップにて変換された上記一対のベクトル間の距離算出が、固有値の大きな成分から順に行われること
を特徴とする請求項5記載の類似時系列検出方法。 - 上記ベクトル判定工程は、上記変換ステップにて変換された上記一対のベクトルの各々について、当該ベクトルを構成する各成分を上記所定の順序で取り出して階層的な複数の部分ベクトルに分割する分割ステップをさらに有し、
上記階層的距離算出ステップでは、最上位階層の部分ベクトルから順に部分ベクトルを構成する各成分間の距離算出が階層的に行われ、ある階層までの部分ベクトルを構成する全ての成分間について算出された距離の積算値が上記第1の閾値を下回った場合、一階層下位の部分ベクトルを構成する各成分間の距離算出が行われること
を特徴とする請求項5記載の類似時系列検出方法。 - 上記時系列判定工程は、上記類似ベクトル及び/又は非類似ベクトルの個数の計数を階層的に行う階層的計数ステップと、上記階層的計数ステップの各階層で計数された上記類似ベクトル及び/又は非類似ベクトルの個数の積算値を、類似ベクトルの個数に関する第2の閾値と比較する閾値比較ステップと、上記閾値比較ステップにおける比較結果に応じて、上記一対の時系列パターンの類似性を判定する判定ステップとを有し、
上記判定ステップでは、上記閾値比較ステップにおいて、最後の階層までに計数された類似ベクトルの個数の積算値が上記第2の閾値を上回った場合には、上記一対の時系列パターンが類似すると判定され、ある階層までに計数された非類似ベクトルの個数の積算値が上記時系列パターン中の上記ベクトルの総個数から上記第2の閾値を減じた数を上回った場合には、上記一対の時系列パターンが類似しないと判定されると共に、残りの階層での計数を打ち切るように制御されること
を特徴とする請求項1記載の類似時系列検出方法。 - 上記ベクトルは、音響信号を特徴ベクトル化したものであり、
上記時系列パターンは、上記音響信号の所定の時区間内のパワースペクトル係数をベクトル化したものの時系列であること
を特徴とする請求項1記載の類似時系列検出方法。 - 上記ベクトルは、音響信号を特徴ベクトル化したものであり、
上記時系列パターンは、上記音響信号の所定の時区間内の線形予測係数をベクトル化したものの時系列であること
を特徴とする請求項1記載の類似時系列検出方法。 - 上記ベクトルは、符号化音響信号を特徴ベクトル化したものであり、
上記時系列パターンは、上記符号化音響信号の各フレーム内の周波数成分の強さを表すパラメータをベクトル化したものの時系列であること
を特徴とする請求項1記載の類似時系列検出方法。 - 上記ベクトルは、映像信号を特徴ベクトル化したものであり、
上記時系列パターンは、上記映像信号の所定の時区間内の代表画像、上記所定の時区間内のフレーム画像の平均画像、又は上記代表画像若しくは上記平均画像を所定のブロック単位に分割した小画像の信号値をベクトル化したものの時系列であること
を特徴とする請求項1記載の類似時系列検出方法。 - 上記ベクトルは、映像信号を特徴ベクトル化したものであり、
上記時系列パターンは、上記映像信号の所定の時区間内のフレーム画像の、輝度及び/又は色に対するヒストグラムをベクトル化したものの時系列であること
を特徴とする請求項1記載の類似時系列検出方法。 - 上記ベクトルは、符号化映像信号を特徴ベクトル化したものであり、
上記時系列パターンは、上記符号化映像信号の所定の時区間の直近にあるフレーム内符号化画像の符号化単位となる各ブロックのDC成分の信号値をベクトル化したものの時系列であること
を特徴とする請求項1記載の類似時系列検出方法。 - 上記一対の時系列パターンの一方は、上記時系列パターンの長さよりも長いベクトルの時系列から切り出されたものであり、切り出し位置を更新しながら順次類似性を検出することを特徴とする請求項1記載の類似時系列検出方法。
- ベクトルの時系列からなる時系列パターンに関して、一対の時系列パターンの類似性を検出する類似時系列検出装置であって、
上記一対の時系列パターンの一対のベクトル間の類似度を算出し、当該類似度に基づいて、上記一対のベクトルが類似するか否かを判定するベクトル判定手段と、
上記ベクトル判定手段によって類似すると判定された類似ベクトル及び/又は類似しないと判定された非類似ベクトルの個数を計数し、当該計数結果に基づいて、上記一対の時系列パターンの類似性を判定する時系列判定手段と
を備えることを特徴とする類似時系列検出装置。 - 上記類似度は、上記一対のベクトル間の距離であることを特徴とする請求項19記載の類似時系列検出装置。
- 上記ベクトル判定手段は、上記一対のベクトル間の距離算出を階層的に行う階層的距離算出手段と、上記階層的距離算出手段によって各階層で算出された距離の積算値を、距離に関する第1の閾値と比較する閾値比較手段と、上記閾値比較手段による比較結果に応じて、上記一対のベクトルが類似するか否かを判定する判定手段とを有し、
上記判定手段は、上記閾値比較手段による比較の結果、最後の階層までに算出した距離の積算値が上記第1の閾値を下回った場合には、上記一対のベクトルが類似すると判定し、ある階層までに算出した距離の積算値が上記第1の閾値を上回った場合には、上記一対のベクトルが類似しないと判定すると共に、残りの階層での距離算出を打ち切るように制御すること
を特徴とする請求項20記載の類似時系列検出装置。 - 上記階層的距離算出手段は、上記一対のベクトルを構成する各成分間の距離算出を階層的に行い、上記閾値比較手段による比較の結果、ある階層までに算出した距離の積算値が上記第1の閾値を下回った場合、次の成分間の距離算出を行うこと
を特徴とする請求項21記載の類似時系列検出装置。 - 上記ベクトル判定手段は、上記一対のベクトルに対して所定の変換を施す変換手段をさらに有し、
上記階層的距離算出手段は、上記変換手段によって変換された上記一対のベクトル間の距離算出を、上記所定の変換に基づく所定の順序で行うこと
を特徴とする請求項22記載の類似時系列検出装置。 - 上記ベクトル判定手段は、上記変換手段によって変換された上記一対のベクトルの各々について、当該ベクトルを構成する各成分を上記所定の順序で取り出して階層的な複数の部分ベクトルに分割する分割手段をさらに有し、
上記階層的距離算出手段は、最上位階層の部分ベクトルから順に部分ベクトルを構成する各成分間の距離算出を階層的に行い、ある階層までの部分ベクトルを構成する全ての成分間について算出した距離の積算値が上記第1の閾値を下回った場合、一階層下位の部分ベクトルを構成する各成分間の距離算出を行うこと
を特徴とする請求項23記載の類似時系列検出装置。 - 上記時系列判定手段は、上記類似ベクトル及び/又は非類似ベクトルの個数の計数を階層的に行う階層的計数手段と、上記階層的計数手段によって各階層で計数された上記類似ベクトル及び/又は非類似ベクトルの個数の積算値を、類似ベクトルの個数に関する第2の閾値と比較する閾値比較手段と、上記閾値比較手段による比較結果に応じて、上記一対の時系列パターンの類似性を判定する判定手段とを有し、
上記判定手段は、上記閾値比較手段による比較の結果、最後の階層までに計数した類似ベクトルの個数の積算値が上記第2の閾値を上回った場合には、上記一対の時系列パターンが類似すると判定し、ある階層までに計数した非類似ベクトルの個数の積算値が上記時系列パターン中の上記ベクトルの総個数から上記第2の閾値を減じた数を上回った場合には、上記一対の時系列パターンが類似しないと判定すると共に、残りの階層での計数を打ち切るように制御すること
を特徴とする請求項19記載の類似時系列検出装置。 - ベクトルの時系列からなる時系列パターンに関して、一対の時系列パターンの類似性を検出する類似時系列検出処理をコンピュータに実行させるプログラムであって、
上記一対の時系列パターンの一対のベクトル間の類似度を算出し、当該類似度に基づいて、上記一対のベクトルが類似するか否かを判定するベクトル判定工程と、
上記ベクトル判定工程にて類似すると判定された類似ベクトル及び/又は類似しないと判定された非類似ベクトルの個数を計数し、当該計数結果に基づいて、上記一対の時系列パターンの類似性を判定する時系列判定工程と
を有することを特徴とするプログラム。 - 上記類似度は、上記一対のベクトル間の距離であることを特徴とする請求項26記載のプログラム。
- 上記ベクトル判定工程は、上記一対のベクトル間の距離算出を階層的に行う階層的距離算出ステップと、上記階層的距離算出ステップの各階層で算出された距離の積算値を、距離に関する第1の閾値と比較する閾値比較ステップと、上記閾値比較ステップにおける比較結果に応じて、上記一対のベクトルが類似するか否かを判定する判定ステップとを有し、
上記判定ステップでは、上記閾値比較ステップにおいて、最後の階層までに算出された距離の積算値が上記第1の閾値を下回った場合には、上記一対のベクトルが類似すると判定され、ある階層までに算出された距離の積算値が上記第1の閾値を上回った場合には、上記一対のベクトルが類似しないと判定されると共に、残りの階層での距離算出を打ち切るように制御されること
を特徴とする請求項27記載のプログラム。 - 上記階層的距離算出ステップでは、上記一対のベクトルを構成する各成分間の距離算出が階層的に行われ、上記閾値比較ステップにおいて、ある階層までに算出された距離の積算値が上記第1の閾値を下回った場合、次の成分間の距離算出が行われること
を特徴とする請求項28記載のプログラム。 - 上記ベクトル判定工程は、上記一対のベクトルに対して所定の変換を施す変換ステップをさらに有し、
上記階層的距離算出ステップでは、上記変換ステップにて変換された上記一対のベクトル間の距離算出が、上記所定の変換に基づく所定の順序で行われること
を特徴とする請求項29記載のプログラム。 - 上記ベクトル判定工程は、上記変換ステップにて変換された上記一対のベクトルの各々について、当該ベクトルを構成する各成分を上記所定の順序で取り出して階層的な複数の部分ベクトルに分割する分割ステップをさらに有し、
上記階層的距離算出ステップでは、最上位階層の部分ベクトルから順に部分ベクトルを構成する各成分間の距離算出が階層的に行われ、ある階層までの部分ベクトルを構成する全ての成分間について算出された距離の積算値が上記第1の閾値を下回った場合、一階層下位の部分ベクトルを構成する各成分間の距離算出が行われること
を特徴とする請求項30記載のプログラム。 - 上記時系列判定工程は、上記類似ベクトル及び/又は非類似ベクトルの個数の計数を階層的に行う階層的計数ステップと、上記階層的計数ステップの各階層で計数された上記類似ベクトル及び/又は非類似ベクトルの個数の積算値を、類似ベクトルの個数に関する第2の閾値と比較する閾値比較ステップと、上記閾値比較ステップにおける比較結果に応じて、上記一対の時系列パターンの類似性を判定する判定ステップとを有し、
上記判定ステップでは、上記閾値比較ステップにおいて、最後の階層までに計数された類似ベクトルの個数の積算値が上記第2の閾値を上回った場合には、上記一対の時系列パターンが類似すると判定され、ある階層までに計数された非類似ベクトルの個数の積算値が上記時系列パターン中の上記ベクトルの総個数から上記第2の閾値を減じた数を上回った場合には、上記一対の時系列パターンが類似しないと判定されると共に、残りの階層での計数を打ち切るように制御されること
を特徴とする請求項26記載のプログラム。 - ベクトルの時系列からなる時系列パターンに関して、一対の時系列パターンの類似性を検出する類似時系列検出処理をコンピュータに実行させるプログラムが記録されたコンピュータ制御可能な記録媒体であって、
上記一対の時系列パターンの一対のベクトル間の類似度を算出し、当該類似度に基づいて、上記一対のベクトルが類似するか否かを判定するベクトル判定工程と、
上記ベクトル判定工程にて類似すると判定された類似ベクトル及び/又は類似しないと判定された非類似ベクトルの個数を計数し、当該計数結果に基づいて、上記一対の時系列パターンの類似性を判定する時系列判定工程と
を有することを特徴とするプログラムが記録された記録媒体。 - 上記類似度は、上記一対のベクトル間の距離であることを特徴とする請求項33記載の記録媒体。
- 上記ベクトル判定工程は、上記一対のベクトル間の距離算出を階層的に行う階層的距離算出ステップと、上記階層的距離算出ステップの各階層で算出された距離の積算値を、距離に関する第1の閾値と比較する閾値比較ステップと、上記閾値比較ステップにおける比較結果に応じて、上記一対のベクトルが類似するか否かを判定する判定ステップとを有し、
上記判定ステップでは、上記閾値比較ステップにおいて、最後の階層までに算出された距離の積算値が上記第1の閾値を下回った場合には、上記一対のベクトルが類似すると判定され、ある階層までに算出された距離の積算値が上記第1の閾値を上回った場合には、上記一対のベクトルが類似しないと判定されると共に、残りの階層での距離算出を打ち切るように制御されること
を特徴とする請求項34記載の記録媒体。 - 上記階層的距離算出ステップでは、上記一対のベクトルを構成する各成分間の距離算出が階層的に行われ、上記閾値比較ステップにおいて、ある階層までに算出された距離の積算値が上記第1の閾値を下回った場合、次の成分間の距離算出が行われること
を特徴とする請求項35記載の記録媒体。 - 上記ベクトル判定工程は、上記一対のベクトルに対して所定の変換を施す変換ステップをさらに有し、
上記階層的距離算出ステップでは、上記変換ステップにて変換された上記一対のベクトル間の距離算出が、上記所定の変換に基づく所定の順序で行われること
を特徴とする請求項35記載の記録媒体。 - 上記ベクトル判定工程は、上記変換ステップにて変換された上記一対のベクトルの各々について、当該ベクトルを構成する各成分を上記所定の順序で取り出して階層的な複数の部分ベクトルに分割する分割ステップをさらに有し、
上記階層的距離算出ステップでは、最上位階層の部分ベクトルから順に部分ベクトルを構成する各成分間の距離算出が階層的に行われ、ある階層までの部分ベクトルを構成する全ての成分間について算出された距離の積算値が上記第1の閾値を下回った場合、一階層下位の部分ベクトルを構成する各成分間の距離算出が行われること
を特徴とする請求項37記載の記録媒体。 - 上記時系列判定工程は、上記類似ベクトル及び/又は非類似ベクトルの個数の計数を階層的に行う階層的計数ステップと、上記階層的計数ステップの各階層で計数された上記類似ベクトル及び/又は非類似ベクトルの個数の積算値を、類似ベクトルの個数に関する第2の閾値と比較する閾値比較ステップと、上記閾値比較ステップにおける比較結果に応じて、上記一対の時系列パターンの類似性を判定する判定ステップとを有し、
上記判定ステップでは、上記閾値比較ステップにおいて、最後の階層までに計数された類似ベクトルの個数の積算値が上記第2の閾値を上回った場合には、上記一対の時系列パターンが類似すると判定され、ある階層までに計数された非類似ベクトルの個数の積算値が上記時系列パターン中の上記ベクトルの総個数から上記第2の閾値を減じた数を上回った場合には、上記一対の時系列パターンが類似しないと判定されると共に、残りの階層での計数を打ち切るように制御されること
を特徴とする請求項33記載の記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002200480A JP3960151B2 (ja) | 2002-07-09 | 2002-07-09 | 類似時系列検出方法及び装置、並びにプログラム |
US10/613,789 US7035775B2 (en) | 2002-07-09 | 2003-07-03 | Similar time series detection method and apparatus, program and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002200480A JP3960151B2 (ja) | 2002-07-09 | 2002-07-09 | 類似時系列検出方法及び装置、並びにプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2004045565A true JP2004045565A (ja) | 2004-02-12 |
JP2004045565A5 JP2004045565A5 (ja) | 2005-03-17 |
JP3960151B2 JP3960151B2 (ja) | 2007-08-15 |
Family
ID=31707331
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002200480A Expired - Fee Related JP3960151B2 (ja) | 2002-07-09 | 2002-07-09 | 類似時系列検出方法及び装置、並びにプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US7035775B2 (ja) |
JP (1) | JP3960151B2 (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006285615A (ja) * | 2005-03-31 | 2006-10-19 | Sony Corp | 画像比較装置及び方法、画像検索装置及び方法、並びにプログラム及び記録媒体 |
JP2007060392A (ja) * | 2005-08-25 | 2007-03-08 | Toshiba Corp | 画像記憶装置及び方法 |
JP2008176752A (ja) * | 2007-01-22 | 2008-07-31 | National Institute Of Information & Communication Technology | 系列データ間の類似性検査方法及び装置 |
CN100433049C (zh) * | 2005-01-21 | 2008-11-12 | 索尼株式会社 | 图像检索装置及方法 |
JP2008287594A (ja) * | 2007-05-18 | 2008-11-27 | Nippon Hoso Kyokai <Nhk> | 特定動作判定装置、リファレンスデータ生成装置、特定動作判定プログラム及びリファレンスデータ生成プログラム |
JP2010061600A (ja) * | 2008-09-08 | 2010-03-18 | Sony Corp | 推薦装置および方法、プログラム、並びに記録媒体 |
JP2011065642A (ja) * | 2009-09-14 | 2011-03-31 | Thomson Licensing | 特徴に基づいたレジストレーション方法及び特徴の計算方法 |
JP2011221806A (ja) * | 2010-04-09 | 2011-11-04 | Sony Corp | 画像処理装置および方法、並びにプログラム |
US8406533B2 (en) | 2009-02-09 | 2013-03-26 | Sony Corporation | Image comparing apparatus and method therefor, image retrieving apparatus as well as program and recording medium |
JP2013164811A (ja) * | 2012-02-13 | 2013-08-22 | Nippon Telegr & Teleph Corp <Ntt> | データ検索装置、データ検索方法、及びデータ検索プログラム |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7539870B2 (en) * | 2004-02-10 | 2009-05-26 | Microsoft Corporation | Media watermarking by biasing randomized statistics |
DE102007051612B4 (de) * | 2007-10-24 | 2009-06-25 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Verfahren und Vorrichtung zum automatisierten Vergleichen zweier Sätze von Messwerten |
US9177209B2 (en) * | 2007-12-17 | 2015-11-03 | Sinoeast Concept Limited | Temporal segment based extraction and robust matching of video fingerprints |
US7994410B2 (en) * | 2008-10-22 | 2011-08-09 | Classical Archives, LLC | Music recording comparison engine |
JP4697355B2 (ja) * | 2009-01-23 | 2011-06-08 | 日本電気株式会社 | データ検索装置 |
EP2413314A1 (en) * | 2009-03-24 | 2012-02-01 | Huawei Technologies Co., Ltd. | Method and device for switching a signal delay |
US10289802B2 (en) | 2010-12-27 | 2019-05-14 | The Board Of Trustees Of The Leland Stanford Junior University | Spanning-tree progression analysis of density-normalized events (SPADE) |
US8886635B2 (en) * | 2012-05-23 | 2014-11-11 | Enswers Co., Ltd. | Apparatus and method for recognizing content using audio signal |
CN104464754A (zh) * | 2014-12-11 | 2015-03-25 | 北京中细软移动互联科技有限公司 | 声音商标检索方法 |
US9337815B1 (en) * | 2015-03-10 | 2016-05-10 | Mitsubishi Electric Research Laboratories, Inc. | Method for comparing signals using operator invariant embeddings |
US11763195B2 (en) * | 2019-03-25 | 2023-09-19 | Synchrony Bank | Systems and methods for estimating stability of a dataset |
CN113742288A (zh) * | 2020-05-29 | 2021-12-03 | 伊姆西Ip控股有限责任公司 | 用于数据索引的方法、电子设备和计算机程序产品 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6615172B1 (en) * | 1999-11-12 | 2003-09-02 | Phoenix Solutions, Inc. | Intelligent query engine for processing voice based queries |
US6853920B2 (en) * | 2000-03-10 | 2005-02-08 | Smiths Detection-Pasadena, Inc. | Control for an industrial process using one or more multidimensional variables |
AU2001240144A1 (en) * | 2000-03-27 | 2001-10-08 | Ramot University Authority For Applied Research And Industrial Development Ltd. | Method and system for clustering data |
US6775645B2 (en) * | 2001-11-14 | 2004-08-10 | Electric Power Research Institute, Inc. | Application of symbol sequence analysis and temporal irreversibility to monitoring and controlling boiler flames |
US20030191764A1 (en) * | 2002-08-06 | 2003-10-09 | Isaac Richards | System and method for acoustic fingerpringting |
WO2005045424A2 (en) * | 2003-08-15 | 2005-05-19 | Eidogen, Inc. | Methods for comparing functional sites in proteins |
-
2002
- 2002-07-09 JP JP2002200480A patent/JP3960151B2/ja not_active Expired - Fee Related
-
2003
- 2003-07-03 US US10/613,789 patent/US7035775B2/en active Active
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7949042B2 (en) | 2005-01-21 | 2011-05-24 | Sony Corporation | Image searching device and method, program and program recording medium |
CN100433049C (zh) * | 2005-01-21 | 2008-11-12 | 索尼株式会社 | 图像检索装置及方法 |
US8467442B2 (en) | 2005-01-21 | 2013-06-18 | Sony Corporationn | Image searching device and method, program and program recording medium |
US7869659B2 (en) | 2005-03-31 | 2011-01-11 | Sony Corporation | Image-comparing apparatus, image-comparing method, image-retrieving apparatus and image-retrieving method |
JP2006285615A (ja) * | 2005-03-31 | 2006-10-19 | Sony Corp | 画像比較装置及び方法、画像検索装置及び方法、並びにプログラム及び記録媒体 |
JP2007060392A (ja) * | 2005-08-25 | 2007-03-08 | Toshiba Corp | 画像記憶装置及び方法 |
JP4559935B2 (ja) * | 2005-08-25 | 2010-10-13 | 株式会社東芝 | 画像記憶装置及び方法 |
JP2008176752A (ja) * | 2007-01-22 | 2008-07-31 | National Institute Of Information & Communication Technology | 系列データ間の類似性検査方法及び装置 |
JP2008287594A (ja) * | 2007-05-18 | 2008-11-27 | Nippon Hoso Kyokai <Nhk> | 特定動作判定装置、リファレンスデータ生成装置、特定動作判定プログラム及びリファレンスデータ生成プログラム |
US8200689B2 (en) | 2008-09-08 | 2012-06-12 | Sony Corporation | Apparatus, method and computer program for content recommendation and recording medium |
JP4678546B2 (ja) * | 2008-09-08 | 2011-04-27 | ソニー株式会社 | 推薦装置および方法、プログラム、並びに記録媒体 |
JP2010061600A (ja) * | 2008-09-08 | 2010-03-18 | Sony Corp | 推薦装置および方法、プログラム、並びに記録媒体 |
US8406533B2 (en) | 2009-02-09 | 2013-03-26 | Sony Corporation | Image comparing apparatus and method therefor, image retrieving apparatus as well as program and recording medium |
JP2011065642A (ja) * | 2009-09-14 | 2011-03-31 | Thomson Licensing | 特徴に基づいたレジストレーション方法及び特徴の計算方法 |
JP2011221806A (ja) * | 2010-04-09 | 2011-11-04 | Sony Corp | 画像処理装置および方法、並びにプログラム |
JP2013164811A (ja) * | 2012-02-13 | 2013-08-22 | Nippon Telegr & Teleph Corp <Ntt> | データ検索装置、データ検索方法、及びデータ検索プログラム |
Also Published As
Publication number | Publication date |
---|---|
US20040098225A1 (en) | 2004-05-20 |
JP3960151B2 (ja) | 2007-08-15 |
US7035775B2 (en) | 2006-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3960151B2 (ja) | 類似時系列検出方法及び装置、並びにプログラム | |
JP4486780B2 (ja) | 画像情報検索のための非線形量子化及び類似度マッチング方法 | |
US7702152B2 (en) | Non-linear quantization and similarity matching methods for retrieving video sequence having a set of image frames | |
JP4301193B2 (ja) | 画像比較装置及び方法、画像検索装置及び方法、並びにプログラム及び記録媒体 | |
US6600784B1 (en) | Descriptor for spatial distribution of motion activity in compressed video | |
US7142602B2 (en) | Method for segmenting 3D objects from compressed videos | |
JP4623920B2 (ja) | 類似度算出方法及び装置、並びにプログラム及び記録媒体 | |
US8175392B2 (en) | Time segment representative feature vector generation device | |
JP2006135938A (ja) | 画像及び画像群を表現する方法、画像又は画像群の表現、画像及び/又は画像群を比較する方法、画像又は画像群を符号化する方法、画像又は画像シーケンスを復号する方法、符号化されたデータの使用、画像又は画像群を表現する装置、画像及び/又は画像群を比較する装置、コンピュータプログラム、システム、及びコンピュータ読み取り可能な記憶媒体 | |
KR100788642B1 (ko) | 디지털 영상 텍스쳐 분석 방법 | |
JP5155210B2 (ja) | 画像比較装置及びその方法、画像検索装置、並びにプログラム及び記録媒体 | |
EP1161098B1 (en) | Signal detection method and apparatus | |
JP4063486B2 (ja) | 画像検索装置及び方法並びに画像検索プログラムを記録した記憶媒体 | |
EP2325802A2 (en) | Methods of representing and analysing images | |
JP4167245B2 (ja) | デジタル映像処理方法及びその装置 | |
US7656951B2 (en) | Digital video processing method and apparatus thereof | |
KR20010027936A (ko) | 텍스쳐 영상 검색 장치 및 그 방법 | |
Crysandt | Music identification with MPEG-7 | |
JP4697111B2 (ja) | 画像比較装置および方法、並びに、画像検索装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040414 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040414 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060515 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060523 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060724 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060829 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061030 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20061128 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070129 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20070209 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070424 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070507 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100525 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110525 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110525 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120525 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120525 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130525 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |