JPWO2002035390A1 - 動画像コンテンツ検索情報管理装置 - Google Patents

動画像コンテンツ検索情報管理装置 Download PDF

Info

Publication number
JPWO2002035390A1
JPWO2002035390A1 JP2002538304A JP2002538304A JPWO2002035390A1 JP WO2002035390 A1 JPWO2002035390 A1 JP WO2002035390A1 JP 2002538304 A JP2002538304 A JP 2002538304A JP 2002538304 A JP2002538304 A JP 2002538304A JP WO2002035390 A1 JPWO2002035390 A1 JP WO2002035390A1
Authority
JP
Japan
Prior art keywords
search information
search
information
unit
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002538304A
Other languages
English (en)
Other versions
JP4251869B2 (ja
Inventor
渡部 秀一
徳毛 靖昭
岡田 浩行
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of JPWO2002035390A1 publication Critical patent/JPWO2002035390A1/ja
Application granted granted Critical
Publication of JP4251869B2 publication Critical patent/JP4251869B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/71Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7837Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content
    • G06F16/784Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content the detected or recognised objects being people
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7847Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content
    • G06F16/785Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content using colour or luminescence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7847Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content
    • G06F16/786Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content using motion, e.g. object motion or camera motion

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

動画像コンテンツを検索するための木構造を有した検索情報(15)を管理するために検索情報管理装置(1)では、検索情報解析部(101)は、検索情報を、動画像コンテンツの構造を表わす1つ以上の構造的検索情報要素(152)と、動画像コンテンツの意味内容における特徴を表わす1つ以上の意味的検索情報要素(153)と、動画像コンテンツの信号上の物理的な特徴を表わす1つ以上の信号的検索情報要素(154)とに分離して出力する。単位検索情報形成部(102〜104)は、検索情報解析部(101)から出力された構造的検索情報要素、意味的検索情報要素および信号的検索情報要素の少なくとも1つをまとめて小単位の検索情報(152A、153A、154A)を形成する。したがって、動画像コンテンツの構造情報のみを検索に先だって予め伝送しておき、検索時には検索者が必要とする特定の検索情報に対応する単位検索情報を必要に応じて伝送することにより、伝送すべき検索情報の量を少なくできる。

Description

技術分野
この発明は、動画像コンテンツを検索するための木構造を有した情報(以下、検索情報という)を管理する装置および方法、ならびに検索装置に関し、特に、検索情報の効率的な記憶または伝送を可能とする検索情報の管理装置および方法ならびに検索情報を用いて検索処理を実行する検索装置に関する。
背景技術
動画像コンテンツは、動画像コンテンツ内のあらゆる時間的あるいは空間(画面)的な箇所が検索の対象となり得る。このため、厳密に検索を実行するためには、動画像コンテンツ全体を再生して細部まで確認する必要がある。しかしながら、そのような検索方法はおよそ効率的ではなく、検索対象となる動画像コンテンツの数が増えるとさらに現実的でない。
このような場合に、ユーザが所望の動画像コンテンツを、あるいは動画像コンテンツ内の所望の箇所を素早く、かつ効率的に探し出すための方法として、動画像コンテンツに対応して付加される検索情報(検索情報は検索用メタデータとも呼ばれる)を用意し、検索情報に基づいて検索を実行して、所望の動画像コンテンツを、あるいは動画像コンテンツ内の所望の箇所を得る方法が種々提案されている。
図13には一般的な動画像コンテンツの構造が模式化して示される。このような構造は、特開平10−108071号公報や特開平10−257436号公報などでも開示されており、広く知られたものである。
図13に示すように、1つの動画像全体は、時間的にいくつかのシーンに分割される。ここでいうシーンとは、主に意味的なまとまりからなる時間的な区切りを指し、映画の第1部、第2部のような大きい区切りから、「AとBが喧嘩をする」シーンといったごく小さな区切りまでを含む。このため、実際の動画像全体からシーシへの分割は、図13に示したような1段階の分割に限るものではなく、複数の階層にわたって次第に細分化されるものである。
1つのシーンはさらに、時間的にいくつかのショット(あるいはさらに細かいシーン)に分割される。ここでいうショットとは、1回の動作で撮影された連続する複数のフレーム画像から構成される時間的な一区切りであり、動画像中においては2つの編集点(カット点)で挟まれた区切りを指す。
ショットは一種のシーンでありショットをさらに細かいショット(サブショット)に分割することも可能である。図示されないが、ショットは最終的に1つ1つのフレーム画像にまで分割することが可能である。
このように、動画像コンテンツは、全体から細かい部分、さらに細かい部分へと細分化されていく階層的な構造を有する。そして、各階層ごとに対応した検索情報が付加される。
図14には図13の動画像コンテンツに対する検索情報が示される。動画像コンテンツの検索情報は、図14に示すような木構造で表わされる。ここで、動画像コンテンツの検索情報は、構造的検索情報、意味的検索情報および信号的検索情報を含む。
構造的検索情報とは、図13で示した動画像コンテンツの階層構造を表わすための情報である。構造的検索情報には木構造を表わす、すなわち動画像全体における各シーンあるいはショット相互の関係を表わすための構造化情報と、分割して得られたシーンあるいはショットそれぞれの属性を表わす構造属性情報とが含まれる。
図14の木では、根Rが動画像全体を表わし、各節NDが分割により得られた各シーンあるいは各ショットをあらわす。木の根Rあるいは各節NDに付されるノードIDや各階層の情報などが構造化情報に当り、シーンあるいはショットそれぞれに付される開始時刻、終了時刻情報などが構造属性情報に当る。
意味的検索情報とは、動画像コンテンツの意味内容上における特徴に基づいて規定される検索情報である。たとえば、動画像コンテンツ全体に対するタイトル、製作者の情報、シーンに対する情景描写の情報などが意味的検索情報に当る。
信号的検索情報とは、動画像コンテンツの信号上の物理的な特徴に基づいて規定される検索情報である。たとえば、各ショット(あるいはその代表フレーム画像)に対する色頻度情報、動き強度情報などが信号的検索情報に当る。意味的検索情報ならびに信号的検索情報は対応する各節NDに連結された葉RFとして与えられる。
図15には図14に示された木構造からなる検索情報を記録する際の記録形式が示される。図15に示されるように、図14の木構造からなる検索情報は、木の根Rおよび節NDを、階層の浅い方から深い方へ(根Rから節NDの方向へ)、また左から右へ(時間的に前から後へ)向かって、深さ優先順(節NDのさらに下位に辿る節NDがなくなった時点で右隣の節NDへ移動)に辿っていき、根Rあるいは節NDに付されている葉RFである検索情報が順番に記録される。
図13〜図15では、最上位層(木の根R)を1つの動画像コンテンツ全体としているが、これは1つの動画像コンテンツに限らず、複数の動画像コンテンツの集合として考えることが可能である。たとえば、最上位層を1つのチャンネルで1日に放送される映像番組全体とする。1つのチャンネルで1日に放送される映像番組全体は、次の階層で1つ1つの番組に、すなわち1つ1つの動画像コンテンツに分割される。動画像コンテンツそれぞれは複数のシーンに分割され、複数シーンのそれぞれは複数のショットへと分割される。
木構造を有する検索情報によれば対応の動画像コンテンツの持つ時間的な構造は、各種の検索情報と結び付けてユーザに理解しやすい形式で提供することができる。このようなことから、検索情報は、該検索情報に基づいてユーザが視認を行ないながら対応の動画像コンテンツを編集する、あるいは検索情報そのものを編集するなどの作業に非常に適している。ただし、動画像コンテンツのサイズが大きくなると対応の検索情報を表わす木のサイズも膨大なものとなる。
動画像コンテンツおよび検索情報がサーバ装置に蓄積され、ユーザがクライアント端末からサーバ装置にアクセスし検索情報を取得してクライアント端末において検索を実行するといった実行モデルを想定する。この場合に、クライアント端末においてサーバ装置から膨大な検索情報をすべて取得してからでなければユーザはクライアント端末を操作して検索を実行することができないといった状況は好ましくない。すなわち、木構造を有する検索情報は、適当な複数の小単位の検索情報に分割されて、クライアント端末に送信されると、クライアント端末においては受信された小単位の検索情報によってもユーザがある程度の検索が実行可能であることが望まれる。
従来の木構造を有する検索情報を、シーンあるいはショットといった時間的区切りに従い分割することで、図16A〜図16Dに示すような小単位の検索情報11〜14を含む複数の小単位の検索情報を構成することが可能である。小単位の検索情報11〜14は、検索情報を図17に示されるように木の最下端の節NDそれぞれを起点とした節NDとその葉RFの集合、またはその節NDを含めた上位の節NDとその葉RFからなる集合を単位として分割することにより得られる。
時間的な区切りに従う分割により得られる小単位の検索情報は、対応の動画像コンテンツの時間的な構造の情報をそのまま保持しているため、動画像コンテンツと同期させて伝送し、オンラインで動画像コンテンツを検索情報に基づいてフィルタリングするような利用に適している。
特開平8−110912号公報に開示のように、木構造を有する検索情報を、木構造と、木構造中の節NDそれぞれの属性情報を表わした付属情報のテーブルとに分割して蓄積する形態もよく知られている。この場合に、分割可能な単位は木構造と付属情報テーブルの2つであるが、付属情報テーブルは独立して扱うことはできず、また上述のような時間的な区切りに従い分割することはできない。
本明細書では、分割により得られた上述のような小単位の検索情報を「単位検索情報」と呼ぶ。また、構造的検索情報における節NDを一意に特定するためのノードID情報などを構造的検索情報の「検索情報要素」と呼び(または、構造的検索情報要素と呼び)、意味的検索情報における行動描写情報などを意味的検索情報の「検索情報要素」と呼び(または、意味的検索情報要素と呼び)、信号的検索情報における色頻度情報および動き強度情報などのそれぞれを信号的検索情報の「検索情報要素」と呼ぶ(または、信号的検索情報要素と呼ぶ)。
従来の木構造を有する検索情報を分割して得られる小単位の検索情報は時間的な区切りに対応した、すなわちシーンやショットといった動画像コンテンツの構造単位に対応した単位検索情報である。
しかしながら、このような単位検索情報内では、構造的検索情報、意味的検索情報および信号的検索情報それぞれについての検索情報要素が入り組んでいる。たとえば動画像の構造的検索情報だけを知りたい(動画像がどのようにシーン、ショットに分割されるかを知りたい)という要求がある。また、ショットごとの色頻度情報に基づく検索を行なうために各ショットの色頻度情報だけが欲しい、あるいはショットごとの動き強度情報に基づく検索を行なうために動き強度情報だけが欲しいといった要求がある。従来は、構造的検索情報、意味的検索情報および信号的検索情報それぞれについての検索情報要素が入り組んでいる単位検索情報を得て、これを検索者が分解して利用することで、これらの要求を処理するしかなかった。
検索を実行する側から見た場合、動画像の構成要素である複数のショットあるいは複数のシーンに対して、ショットのそれぞれにあるいはシーンのそれぞれに付加された同種の検索情報要素(色頻度情報という種類や動き強度情報という種類など)をまとめて入手し、それらを比較、照合することによって検索を実行するのが効率的である。たとえば、信号的検索情報要素のうちの色頻度情報について、ショットそれぞれに付加された色頻度情報の中から所望に合致するものを検出することでショット検索は行なわれる。
特開平8−110912号公報には、検索情報から木構造のみを分離して扱うことの一端が示唆されているけれども、他の付属情報を独立して扱うこと、および上述したような検索情報の細かな種別に基づく分割、管理を行なうことは示唆されていない。
構造的検索情報および信号的検索情報それぞれの検索情報要素は、一般に固定の形式で与えられるものである。これに対して、意味的検索情報の検索情報要素は、行動描写のデータなどのように長さが不定のフリーテキストデータなどを含むことが多い。
このため複数の検索情報要素が入り組んだ検索情報では、長さ固定の構造的検索情報および信号的検索情報それぞれの検索情報要素を抜出す場合であっても、構造的検索情報、信号的検索情報および意味的検索情報のそれぞれを解析する必要があり、検索者の負担が大きかった。
これに対して、たとえば信号的検索情報要素のみを集めて得られた検索情報であれば、固定長さ分のデータ読み飛ばしなどによって容易に検索情報を扱うことが可能である。
時間的構造に従う形式で構造的検索情報、意味的検索情報および信号的検索情報が入り組んだ検索情報が得られる検索の形態よりも、構造的検索情報を得て動画像の全体の構造を把握しつつ、必要に応じて信号的検索情報あるいは意味的検索情報を追加しながら検索を進めていく検索の形態は非常に自然である。後者の検索形態に対して従来の検索情報の分割方式では適当でなかった。
従来の木構造を有する検索情報を分割して得られた単位検索情報は、対応の動画像コンテンツの時間的な構造の情報をそのまま保持しているので、動画像コンテンツと並行して検索情報を伝送し、オンライン検索でフィルタリングするなどの検索形態に適している。しかしながら、オフライン検索で大量データの動画像コンテンツを検索するような場合では、たとえば動画像コンテンツ全体に付加されている色頻度情報などの特定の検索情報のみを用いて所望のショットを検索する場合であっても、すべての検索情報を読込み、解析して必要な特定の検索情報のみを抜出す必要があり、無駄な処理が多かった。
オフライン検索に対しては、複数のショットなどのように複数の動画像構成要素に付加されている同種の検索情報だけを入手し、それらを比較、照合することによって検索を実行するのが自然である。たとえば、サーバ装置は信号的検索情報要素のうちの色頻度情報について、複数のショットそれぞれに付加された色頻度情報のみを抜出してクライアント端末に送信し、クライアント端末では、この色頻度情報を受信して、ユーザは受信した色頻度情報に基づいて所望するショットを検出して、対応するショットのデータのみをサーバ装置に要求する。
以上のとおり、動画像コンテンツの検索情報の分割形式は、検索の形態に応じて切換えるべきであるが、従来はこのようなことが考慮されていなかった。
発明の開示
本発明の目的は、動画像コンテンツに付された木構造を有する検索情報の効率的な利用を可能ならしめる検索情報の管理装置および検索情報の管理方法、ならびに効率的な検索処理を実行できる検索装置を提供することである。
この発明のある局面に係る検索情報管理装置は、動画像コンテンツに対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために分離部と単位検索情報形成部を備える。
分離部は、検索情報を、動画像コンテンツの構造を表わす構造的検索情報と、動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分離して出力する。単位検索情報形成部は、分離部から出力された構造的検索情報、意味的検索情報および信号的検索情報のそれぞれからなる小単位の検索情報の少なくとも1つを形成する。
したがって、動画像コンテンツの構造情報のみを検索に先だって予め伝送しておき、検索時には検索者が必要とする特定の検索情報に対応する単位検索情報を必要に応じて伝送することにより、検索情報の伝送量を抑えることができる。
この発明の他の局面に係る検索情報管理装置は、動画像コンテンツに対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために、分離部と単位検索情報形成部とを備える。
分離部は、検索情報に含まれる同種の要素であって、木構造中の1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素を分離して検索情報から抜出す。単位検索情報形成部は、分離部により抜出された1または複数の検索情報要素のそれぞれを所定の形式に従い配列することで小単位の検索情報を形成する。
したがって、形成された小単位の検索情報においては、そこに含まれる検索情報の要素同士を相互に特定しやすいから、動画像コンテンツの検索実行時での該小単位の検索情報の利用を容易とすることが可能である。
上述の検索情報管理装置では分離部により抜出された1または複数の検索情報要素は、動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報に対応してもよい。
したがって、小単位の検索情報として信号的検索情報を用いるとしたので、たとえば色頻度情報のみによる動画像コンテンツの検索を行なうような場合に、対応する色頻度情報のみを伝送または検索に使用することが可能となって、信号的検索情報のみを用いた効率的な検索を実現することができる。
上述の検索情報管理装置では、分離部により抜出された1または複数の検索情報要素は、動画像コンテンツの意味内容における特徴を表わす意味的検索情報に対応してもよい。
したがって、小単位の検索情報として意味的検索情報を用いるとしたので、たとえばシーンそれぞれの登場人物のみによる動画像コンテンツの検索を行なうような場合に、対応する登場人物情報のみを伝送または検索に使用することが可能となって、意味的検索情報のみを用いた効率的な検索を実現することができる。
上述の検索情報管理装置では、所定の形式は、分離部により抜出された1または複数の検索情報要素を、木構造中の出現順序に従って配列することを示してもよい。
したがって、小単位の検索情報を構成する同種の検索情報要素を、木構造中の出現順序に従って配列することとしたので、検索情報要素それぞれの前後関係を示すための情報を省略することが可能となり、より信号量の少ない小単位の検索情報を構成し、動画像コンテンツの検索に利用することができる。
また、検索情報要素が木構造中の出現順序に従って配列されることにより、動画像を構成する時間的に連続したシーンと各検索情報要素とを容易に対応付けることができる。そのため、構造が簡単な動画像コンテンツでは、構造情報を取得することなく、意味的検索情報または信号的検索情報の検索情報要素からなる小単位の検索情報のみで動画像コンテンツの検索を行なうことができる。
上述の検索情報管理装置においては、小単位の検索情報は、分離部により抜出された1または複数の検索情報要素に共通する種別情報または共通する木構造中の位置情報を含む付加情報を、分離部により抜出された1または複数の検索情報要素の配列に加えて形成されるとしてもよい。
このように、同種の検索情報要素に共通する種別情報(検索情報要素が色頻度なのか、登場人物情報なのかといった種別情報)や、検索情報要素が木構造のどの階層に接続されていたかを示す位置情報は検索情報要素の配列に付加される。それゆえに、小単位の検索情報が何の検索情報要素を含んでいるかを種別情報に基づいて容易に知ることができ、また、複数の階層を有する木構造のどの階層に対応する検索情報要素を含んでいるかを位置情報に基づいて速やかに知ることができる。
上述の検索情報管理装置では、小単位の検索情報は、分離部により抜出された1または複数の検索情報要素のそれぞれに関する木構造中の位置情報を含む付加情報を、分離部により抜出された1または複数の検索情報要素の配列に加えて形成されるとしてもよい。
このように同種の検索情報要素に関する付加情報は検索情報要素のそれぞれに対応させて配列中に配される、言いかえると検索情報要素それぞれについて木構造のどの節に接続されていたかを示す情報などが付加される。それゆえに、複数の階層を有する木構造中の複数の階層にわたる同種の検索情報要素を同一の小単位検索情報に含めることが可能となり、動画像コンテンツの検索の自由度を高くすることができる。
この発明のさらなる他の局面に係る検索情報管理装置は、動画像コンテンツに対応する木構造を有した検索情報から小単位の検索情報を形成して管理するために、記録位置情報抽出部と単位検索情報形成部とを備える。
記録位置情報抽出部は、検索情報に含まれる同種の要素であって、木構造中の1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素のそれぞれについて、該検索情報要素が記録されている位置を示した記録位置情報を抽出する。単位検索情報形成部は、1または複数の検索情報要素のそれぞれに対応する記録位置情報抽出部により抽出された記録位置情報を所定の形式に従い配列することで小単位の検索情報を形成する。
したがって、動画像コンテンツに対応する木構造を有した検索情報から形成される小単位検索情報においては、小単位検索情報中の記録位置情報で指し示される検索情報要素同士を相互に特定しやすく、検索実行時での該小単位検索情報の利用を容易とすることが可能である。検索情報要素自体を伝送しなくても利用者は必要な検索情報要素を特定することができるとともに、必要とされる検索情報要素のみを検索の都度伝送することによって効率的な検索が可能である。
上述の検索情報管理装置では、1または複数の検索情報要素は、動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報に対応してもよい。
したがって、記録位置情報に対応する検索情報要素として動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報を用いるとしたので、たとえば色頻度情報のみによる検索を行なうような場合に、対応する色頻度情報のみを伝送または検索に使用することを可能とし、信号的検索情報のみを用いた効率的な検索を実現することができる。
上述の検索情報管理装置では、1または複数の検索情報要素は、動画像コンテンツの意味内容における特徴を表わす意味的検索情報に対応してもよい。
したがって、記録位置情報に対応する検索情報要素として動画像コンテンツの意味内容における特徴を表わす意味的検索情報を用いるとしたので、たとえばシーンそれぞれの登場人物のみによる検索を行なうような場合に、対応する登場人物情報のみを伝送または検索に使用することを可能とし、意味的検索情報のみを用いた効率的な検索を実現することができる。
上述の検索情報管理装置では、所定の形式は、記録位置情報のそれぞれを、対応する1または複数の検索情報要素それぞれの木構造中の出現順序に従って配列することを示してもよい。
したがって、小単位検索情報を構成する記録位置情報を対応する同種の検索情報要素の木構造中の出現順序に従って配列することとしたので、検索情報要素それぞれの前後関係を示すための情報を省略することが可能となり、より信号量の少ない小単位検索情報を構成し、検索に利用することができる。
また、記録位置情報が木構造中の出現順序に従って配列されることにより、動画像を構成する時間的に連続したシーンと各記録位置情報により示される検索情報要素とを容易に対応付けることができる。そのため、構造が簡単な動画像コンテンツでは、構造情報を取得することなく、意味的検索情報または信号的検索情報の検索情報要素それぞれの記録位置情報からなる小単位の検索情報を取得し、記録位置情報により示される意味的検索情報または信号的検索情報の検索情報要素のみで動画像コンテンツの検索を行なうことができる。
上述の検索情報管理装置では、小単位の検索情報は、1または複数の検索情報要素に共通する種別情報または共通する木構造中の位置情報を含む付加情報を、1または複数の検索情報要素と対応する記録位置情報の配列に加えて形成されるとしてもよい。
したがって、検索情報要素が色頻度情報なのか登場人物情報なのかといった種別情報および検索情報要素が木構造のどの階層に接続されていたかを示す位置情報などが付加されるので、小単位検索情報中の記録位置情報が何の検索情報要素を指し示すかを容易に知ることができ、該記録位置情報で指し示される検索情報要素は、複数の階層を有する木構造のどの階層に対応するものであるかを速やかに知ることができる。
上述の検索情報管理装置では、小単位の検索情報は、さらに、1または複数の検索情報要素のそれぞれについての木構造中の位置情報を含む付加情報を、1または複数の検索情報要素と対応する記録位置情報の配列に加えて形成されるとしてもよい。
したがって、同種の検索情報要素に関する付加情報は、該検索情報要素に対応する記録位置情報に対応させて配列中に配されて、かつ対応の検索情報要素が木構造のどの節に接続されていたかを示す位置情報を示すので、複数の階層を有する木構造中の複数の階層にわたる同種の検索情報要素に対応する記録位置情報を同一の小単位検索情報に含めることが可能となり、検索の自由度を高くすることができる。
この発明のさらなる他の局面に係る検索情報管理装置は、動画像コンテンツに対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために、第1および第2の検索情報分割部と、分割選択部とを備える。
第1の検索情報分割部は、検索情報を、動画像コンテンツの構造を表わす構造的検索情報と、動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分離し、分離された構造的検索情報、意味的検索情報および信号的検索情報のそれぞれから小単位の検索情報を形成する。第2の検索情報分割部は、検索情報を、木構造に基づく時間的な区切りに従って分割し、分割後の検索情報のそれぞれから小単位の検索情報を形成する。分割選択部は、所望される検索の形態に従って、検索情報を、第1の検索情報分割部で分割するか、第2の検索情報分割部で分割するかを選択する。
したがって、動画像コンテンツに対応する木構造を有した検索情報を小単位検索情報それぞれに分割して管理する際には、構造的検索情報、意味的検索情報および信号的検索情報それぞれから形成される検索情報の種別に注目した小単位検索情報、および時間的な区切りで検索情報を分割した後のそれぞれの情報からなる小単位検索情報のいずれかを所望される検索の形態に従い選択的に形成することを可能としたので、オンライン検索、オフライン検索などのような動画像コンテンツの検索の形態によって最適な小単位検索情報を選ぶことが可能となり、効率のよい検索を実行することができる。
この発明のさらなる他の局面に係る検索情報管理装置は、動画像コンテンツに対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために第1および第2の検索情報分割部と、分割選択部とを備える。
第1の検索情報分割部は、検索情報に含まれる同種の要素であって、木構造中の1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素を分離して検索情報から抜出し、1または複数の検索情報要素のそれぞれを所定の形式に配列することで小単位の検索情報を形成する。第2の検索情報分割部は、検索情報を木構造に基づく時間的な区切りに従って分割し、分割後の検索情報のそれぞれから小単位の検索情報を形成する。分割選択部は、所望する検索の形態に従って、検索情報を、第1の検索情報分割部で分割するか、第2の検索情報分割部で分割するかを選択する。
したがって、動画像コンテンツに対応する木構造を有した検索情報を小単位検索情報に分割して管理する際には、検索情報に含まれる同種の要素であって、木構造中の1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素それぞれを所定の形式に配列してなる検索情報要素の種別に注目した小単位検索情報および、時間的な区切りで分割された検索情報のそれぞれからなる小単位検索情報のいずれかが、所望する検索の形態に従って形成される。それゆえに、オンライン検索、オフライン検索などのような動画像コンテンツの検索の形態によって最適な小単位検索情報を選択的に形成することが可能となり、効率のよい検索を実行することができる。
この発明のさらなる他の局面に係る検索情報管理方法は動画像コンテンツに対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために、分離ステップと単位検索情報形成ステップとを有する。
分離ステップでは、検索情報は、動画像コンテンツの構造を表わす構造的検索情報と、動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、動画像コンテンツの信号上の物理的特徴を表わす信号的検索情報とに分離される。単位検索情報形成ステップでは、分離ステップにより分離して得られた構造的検索情報、意味的検索情報および信号的検索情報のそれぞれからなる小単位の検索情報の少なくとも1つが形成される。
したがって、動画像コンテンツの構造情報のみを検索に先だって予め伝送しておき、検索時には検索者が必要とする構造的検索情報、意味的検索情報または信号的検索情報のそれぞれからなる単位検索情報が伝送されることにより、伝送すべき検索情報の量を少なくできる。
この発明のさらなる他の局面に係る検索情報管理方法は、動画像コンテンツに対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために分離ステップと単位検索情報形成ステップとを有する。分離ステップでは、検索情報に含まれる同種の要素であって、木構造中の1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素は分離されて検索情報から抜出される。単位検索情報形成ステップでは、分離ステップにより抜出された1または複数の検索情報要素を所定の形式に配列することで小単位の検索情報が形成される。
したがって、形成された小単位検索情報に含まれる検索情報要素同士を相互に特定しやすく、動画像コンテンツの検索実行時での検索情報の利用を容易とすることが可能である。
この発明のさらなる他の局面に係る検索情報管理方法は、動画像コンテンツに対応する木構造を有した検索情報から小単位の検索情報を形成して管理するために、記録位置情報抽出ステップと単位検索情報形成ステップとを有する。
記録位置情報抽出ステップでは、検索情報に含まれる同種の要素であって、木構造中の1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素のそれぞれについて、該検索情報要素が記録されている位置を示す記録位置情報が抽出される。単位検索情報形成ステップでは、記録位置情報抽出ステップにより抽出された1または複数の検索情報要素のそれぞれに対応する記録位置情報は所定の形式に配列されることで小単位の検索情報が形成される。
したがって、検索情報から小単位検索情報を形成して管理する際には、検索情報に含まれる同種の要素であって、木構造中の1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素のそれぞれについて、その記録位置情報を抽出して所定の形式に配列することで小単位検索情報が形成される。それゆえに、小単位検索情報中の記録位置情報で指し示される検索情報要素同士を相互に特定しやすく、検索実行時での検索情報の利用を容易とすることが可能である。小単位検索情報によれば検索情報要素自体を伝送しなくても利用者は必要な検索情報要素を特定することができ、また必要な検索情報要素のみを検索の都度伝送することによって動画像コンテンツの効率的な検索が可能である。
この発明のさらなる他の局面に係る検索情報管理方法は、動画像コンテンツに対応する木構造を有した検索情報を小単位の検索情報に分割して管理するために、第1および第2の検索情報分割ステップと、分割選択ステップとを備える。
第1の検索情報分割ステップでは、検索情報は、動画像コンテンツの構造を表わす構造的検索情報と、動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分離されて、分離された構造的検索情報、意味的検索情報および信号的検索情報のそれぞれから小単位の検索情報が形成される。第2の検索情報分割ステップでは、検索情報は木構造に基づく時間的な区切りに従って分割されて、分割後の検索情報のそれぞれから小単位の検索情報が形成される。分割選択ステップでは、所望する検索の形態に従って、検索情報を第1の検索情報分割ステップで分割するか、第2の検索情報分割ステップで分割するかが選択される。
したがって、動画像コンテンツに対応する木構造を有した検索情報を小単位検索情報に分割して管理する際には、分割して得られる小単位検索情報の形式は所望の検索の形態に従って選択されるから、オンライン検索、オフライン検索などの検索の形態によって最適な小単位検索情報を選ぶことが可能となり、効率のよい検索を実行することができる。
この発明のさらなる他の局面に係る検索情報管理方法は、動画像コンテンツに対応する木構造を有した検索情報を小単位の検索情報に分割して管理する方法であって、第1の形成ステップと、第2の形成ステップと、選択ステップとを有する。
第1の形成ステップでは、1または複数の部分木により与えられる、1または複数の検索情報要素を検索情報から分離して抜出し、1または複数の検索情報要素を所定の形式に従い配列することで小単位の検索情報を形成する。上述の部分木は、検索情報に含まれる同種の要素であって、木構造中の葉あるいは木構造中の節およびこの節以下に連結された葉または節の任意の集合からなる。
第2の形成ステップでは、検索情報を木構造に基づく時間的な区切りに従って分割し、分割後の検索情報のそれぞれから小単位の検索情報を形成する。
選択ステップでは、所望する検索の形態に従って、小単位の検索情報を、第1の形成ステップおよび第2の形成ステップのいずれで形成するかを選択する。
したがって、動画像コンテンツに対応する木構造を有した検索情報を小単位検索情報に分割して管理する際には、上述した1または複数の部分木により与えられる、1または複数の検索情報要素それぞれを所定の形式に配列してなる検索情報要素の種別に注目した小単位検索情報および、時間的な区切りで分割された検索情報のそれぞれからなる小単位検索情報のいずれかが、所望する検索の形態に従って形成される。それゆえに、オンライン検索、オフライン検索などのような動画像コンテンツの検索の形態によって最適な小単位検索情報を選択的に形成することが可能となり、効率のよい検索を実行することができる。
この発明のさらなる他の局面に係る検索装置は、動画像コンテンツに対応する木構造を有した検索情報を分割することにより得られた小単位の検索情報に基づいて検索を実行するために、以下の特徴を有する。小単位の検索情報は、動画像コンテンツの構造を表わす構造的検索情報と、動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報のそれぞれから形成された小単位の検索情報の少なくとも1つであり、保持部と検索実行部とを備える。保持部は小単位の検索情報を保持する。検索実行部は保持部で保持されている小単位の検索情報を用いて動画像コンテンツの検索を実行する。
したがって、検索に用いられる小単位検索情報は、動画像コンテンツの構造を表わす構造的検索情報、動画像コンテンツの意味内容における特徴を表わす意味的検索情報および動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報のそれぞれから形成されているから、動画像コンテンツの構造を示す情報のみによる検索や、検索者が必要とする特定の検索情報に対応する小単位検索情報を利用した検索が実行できて、検索を効率よく行なうことができる。
この発明のさらなる他の局面に係る検索装置は、動画像コンテンツに対応する木構造を有した検索情報を分割した小単位の検索情報に基づいて検索を実行するために保持部と検索実行部とを有して、小単位検索情報は、検索情報に含まれる同種の要素であって、木構造中の1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素を分離して検索情報から抜出し、所定形式に配列することで形成されている。保持部は、小単位の検索情報を保持し、検索実行部は、保持部により保持される小単位の検索情報を用いて動画像コンテンツの検索を実行する。
したがって、検索においては、小単位検索情報を形成している検索情報要素同士を相互に特定しやすく、効率よく検索を行なうことができる。
この発明のさらなる他の局面に係る動画像コンテンツに対応する木構造を有した検索情報から形成した小単位の検索情報に基づいて検索を実行する検索装置は、第1および第2の保持部と検索実行部とを備える。第1の保持部は小単位の検索情報を保持する。第2の保持部は小単位の検索情報を用いて得られる1または複数の検索情報要素を保持する。検索実行部は、小単位の検索情報ならびに1または複数の検索情報要素を用いて動画像コンテンツの検索を実行する。小単位の検索情報は、検索情報に含まれる同種の要素であって、木構造中の1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素のそれぞれについて、該検索情報要素が記録されている位置を示した記録位置情報を所定の形式に配列することで形成されている。
したがって、検索情報に含まれる同種の要素であって、木構造中の1または複数の葉あるいは木構造中の節および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素のそれぞれについて、それが記録されている記録位置情報を所定の形式に配列することで形成された小単位検索情報を用いて検索を実行するので、小単位検索情報中の記録位置情報で指し示される検索情報要素同士を相互に特定しやすく、また、状況に応じて必要最小限の検索情報のみを検索の都度取得することで、効率的な検索を行なうことができる。
発明を実施するための最良の形態
この発明の各実施の形態を図面を参照し説明する。
(第1の実施の形態)
図1には、本実施の形態の検索情報管理装置1の機能構成が示される。図1において検索情報管理装置1は検索情報解析部101、構造的単位検索情報形成部102、意味的単位検索情報形成部103、信号的単位検索情報形成部104および単位検索情報制御部105を含む。検索情報解析部101は、動画像コンテンツに対応した木構造を有する検索情報15を入力し、入力した検索情報15を構造的検索情報の1つ以上の検索情報要素152、意味的検索情報の1つ以上の検索情報要素153および信号的検索情報の1つ以上の検索情報要素154に分離し選別して出力する。検索情報解析部101から出力された検索情報要素152〜154のそれぞれは対応する単位検索情報形成部102〜104のそれぞれへと与えられる。
構造的単位検索情報形成部102は、検索情報解析部101から出力された構造的検索情報の1つ以上の検索情報要素152を受取り、受取った検索情報要素152を配列して構造的検索情報の単位検索情報152Aを形成して出力する。構造的検索情報の単位検索情報152Aからは、対応の動画像コンテンツの構造情報を知ることができる。
図2には本実施の形態で用いる木構造を有する検索情報が示される。説明の簡便のために、この検索情報15では、構造的検索情報要素152はシーンそれぞれおよびショットそれぞれのノードID情報および時刻情報のみからなり、意味的検索情報要素153はシーンそれぞれの情景描写情報、ならびにショットそれぞれの登場人物情報および行動描写情報のみからなり、信号的検索情報要素154はシーンそれぞれの代表色情報ならびにショットそれぞれの色頻度情報および動き強度情報のみからなるものとしている。なお、実際の検索情報15は、この他にも多種の検索情報要素を有するが、本発明はそれらの多種の検索情報要素それぞれにも同様に適用できる。
図3には、図2の木構造を有した検索情報15から構造的検索情報要素152を抜出して形成された単位検索情報152Aが示される。
意味的単位検索情報形成部103は、検索情報解析部101から与えられる意味的検索情報の1つ以上の検索情報要素153を受取り、それらを配列して意味的検索情報の1つ以上の単位検索情報153Aを形成して出力する。
図4には、図1の意味的単位検索情報形成部103の内部構成が示される。図4において意味的単位検索情報形成部103は要素種別判定部201、検索情報配列部202および共通情報抽出部203を有する。ここでは、検索情報15の木構造中の同種の節ND(あるいは根R)に接続された同種の検索情報要素153(葉RF)を、検索情報要素153の種別ごとに、それらの順序関係を保持しながら配列して単位検索情報153Aを形成する。すなわち、要素種別判定部201は検索情報解析部101から与えられる意味的検索情報の検索情報要素153を受理すると、受理した検索情報要素153それぞれを、その種別(種別は登場人物情報、行動描写情報などのような異なる情報の種類を示す)を判定しながら検索情報配列部202および共通情報抽出部203に判定結果とともに出力すると、検索情報配列部202は要素種別判定部201から与えられる情報に基づいて種別ごとに検索情報要素153を配列して単位検索情報153Aを形成する。このとき、検索情報配列部202により形成された種別ごとの単位検索情報153Aそれぞれに含まれる検索情報要素153に共通する情報(たとえば検索情報要素153の種別を示す情報など)153Bは共通情報抽出部203で抽出されて、検索情報配列部202に与えられるので、検索情報配列部202は形成した単位検索情報153Aの先頭に共通情報抽出部203から与えられた共通情報153Bを配置する。共通情報153Bとしてこの他に、意味的検索情報要素153のフォーマットやデータ長を示す情報なども使用することができ、共通情報153Bとして用いられる情報について特に制限はない。共通情報153Bを配置する位置についても、単位検索情報153Aの先頭に限定されず、単位検索情報153Aの最後尾に配置されてもよく、単位検索情報153A内に配置されてもよく、あるいは共通情報153Bは別の記録場所に単位検索情報153Aと該共通情報153Bの対応関係を示す情報とともに記録されるとしてもよい。共通情報153Bおよび共通情報抽出部203による処理は省略されてもよい。
図5A〜図5Cは図2の木構造を有する検索情報15から意味的検索情報要素153である情景描写情報、登場人物情報および行動描写情報を抜出して、抜出したこれら情報を共通情報153Bとともに配列して形成された単位検索情報153Aを示す図である。
意味的単位検索情報形成部103では、構造的検索情報要素152の一部を受取って共通情報153Bを抽出することもできる。たとえば、“同じ階層”の節NDそれぞれに接続された葉RFに対応の行動描写情報(意味的検索情報要素153)を抜出して、抜出された行動描写情報を用いた単位検索情報153Aを形成した場合、この“同じ階層”を示す階層情報を共通情報153Bとして用いることができる。このような節NDの階層に関する共通情報153Bは、シーン(該シーンを表わす節ND)が複数の階層にわたって存在する場合に、単位検索情報153Aがどの階層のシーンに対応するかを示すためのものである。
すなわち、この構造的検索情報要素152から得られる節NDの階層情報に基づけば、単位検索情報153Aを別々に形成することができる。この単位検索情報153Aは、要素種別としては同一であるが付される節NDの階層が互いに異なる意味的検索情報要素153同士を区別し、それぞれ同じ階層に付された意味的検索情報要素153のみからなる。
複数の階層に存在するシーンに付された複数の意味的検索情報要素153をまとめて単位検索情報153Aとしたときに、共通情報153Bを抽出することが困難な場合には、意味的検索情報要素153ごとに必要な構造情報を抜出し、意味的検索情報要素153ごとの付加情報153Cとして付加し単位検索情報153Aを形成してもよい。
図6A〜図6Cには、構造情報153Cとして節NDそれぞれのノードID情報が付加された単位検索情報153Aが示される。付加できる構造情報153CはノードID情報を示すものに限らず、開始/終了時刻情報などのように、構造的検索情報と対応させることが可能な情報であればよい。また、1つの階層に注目してその節NDの階層情報を単位検索情報153Aに共通情報153Bとして付加し、その階層からの差分を示す情報(1つ上の階層または1つ下の階層を示す情報など)を意味的検索情報要素153ごとの付加情報153Cとして付加するとしてもよい。その際には差分のない意味的検索情報要素153では差分情報の付加を省略することとしてもよい。この他にも意味的検索情報要素153ごとに付加する情報153Cとして、そのシーンあるいはそのショットに該当する意味的検索情報要素153があるかないかを示したフラグであってもよいし、あるいは意味的検索情報要素153を使用する際の重要度などを示す情報であってもよく、意味的検索情報要素153ごとに付加される情報153dに特に制限はない。
信号的単位検索情報形成部104は、検索情報解析部101から信号的検索情報の1つ以上の検索情報要素154を受取り、受取った検索情報要素154を配列して信号的検索情報の1つ以上の単位検索情報154Aを形成し出力する。信号的単位検索情報形成部104の内部構成も図4の構成と同様である。ここでは、検索情報15の木構造中の同種の節ND(あるいは根R)に接続された同種の信号的検索情報要素154(葉RF)を、信号的検索情報要素154の種別ごとに、それらの順序関係を保持しながら配列することで1つ以上の単位検索情報154Aを形成して出力する。すなわち、図4の要素種別判定部201は信号的検索情報要素154を受理すると受理した信号的検索情報要素154それぞれの種別(色頻度情報や動き強度情報などのような異なる情報の種別)を判定して、判定結果と信号的検索情報要素154を検索情報配列部202および共通情報抽出部203に出力する。検索情報配列部202は与えられた情報に基づいて種別ごとに信号的検索情報要素154を配列して1つ以上の単位検索情報154Aを形成して出力する。このとき、共通情報抽出部203は、与えられた情報に基づいて、検索情報配列部202により形成された単位検索情報154Aそれぞれに含まれる信号的検索情報要素154に共通する情報(たとえば信号的検索情報要素154の種別を示す情報など)154Bを信号的検索情報要素154から抽出し検索情報配列部202に与えるので、検索情報配列部202は共通情報抽出部203から与えられた共通情報154Bを単位検索情報154Aの先頭に配置する。共通情報154Bとしてこの他、信号的検索情報要素154のデータフォーマット、色頻度情報のサンプル数やデータ長なども使用することができ、共通情報154Bとして用いられる情報に特に制限はない。共通情報154Bを配置する位置についても特に制限はない。たとえば、共通情報154Bは単位検索情報154Aの最後尾に配置されてもよく、単位検索情報154A内に配置されてもよい。共通情報154Bを別の記録場所に該共通情報154Bと単位検索情報154Aとの対応関係を示す情報とともに記録するとしてもよい。共通情報154Bおよび共通情報抽出部203による処理は省略されてもよい。
図7A〜図7Cは単位検索情報154Aを示す図である。図7A〜Cの単位検索情報154Aは、図2の木構造を有する検索情報15から信号的検索情報要素154である代表色情報、色頻度情報および動き強度情報を抜出して、抜出されたこれら情報を共通情報154Bとともに配列して形成されたものである。信号的単位検索情報形成部104ではまた構造的検索情報要素152の一部を受取って共通情報154Bを抽出することもできる。たとえぱ、“同じ階層”の1つ以上の節NDに接続された葉RFに対応の色頻度情報(信号的検索情報要素154)を抜出して、抜出された色頻度情報を用いて単位検索情報154Aを形成した場合、この“同じ階層”を示す階層情報を共通情報154Bとして用いることができる。このような節NDの階層に関する共通情報154Bは、シーン(該シーンを表わす節ND)が複数の階層にわたって存在する場合に、単位検索情報154Aがどの階層のシーンに対応するかを示すためのものである。
すなわち、この構造的検索情報要素152から得られる節NDの階層情報に基づけば、単位検索情報154Aを別々に形成することができる。この単位検索情報154Aは、要素種別としては同一であるが付される節NDの階層が互いに異なる信号的検索情報要素154同士を区別し、それぞれ同じ階層に付された信号的検索情報要素154のみからなる。
複数の階層に存在するシーンに付された1つ以上の信号的検索情報要素154をまとめて単位検索情報154Aを形成したとき、共通情報154Bを抽出することが困難な場合には、検索情報要素154ごとに必要な構造情報を抜出し、信号的検索情報要素154ごとの付加情報154Cとして付加し単位検索情報154Aを形成するようにしてもよい。
図8A〜図8Cには構造情報154Cとして節NDそれぞれのノードID情報が付加された単位検索情報154Aが示される。付加できる構造情報154CはノードID情報に限定されず、開始/終了時刻情報などのように構造的検索情報と対応させることが可能な情報であればよい。1つの階層に注目してその節NDの階層情報を共通情報154Bとして単位検索情報154Aに付加し、その階層からの差分を示す情報(1つ上の階層または1つ下の階層を示す情報など)を信号的検索情報要素154ごとの付加情報154Cとして付加するとしてもよい。その際に差分なしの信号的検索情報要素154では差分情報の付加を省略してもよい。
この他にも、信号的検索情報要素154ごとの付加情報154Cとして、そのシーンあるいはショットに該当する信号的検索情報要素154があるか否かを示したフラグであってもよいし、信号的検索情報要素154を使用する際の重要度を示す情報であってもよく、信号的検索情報要素154ごとの付加情報154Cに特に制限はない。
構造的単位検索情報形成部102、意味的単位検索情報形成部103および信号的単位検索情報形成部104で生成された構造的検索情報、意味的検索情報および信号的検索情報それぞれの単位検索情報152A、153Aおよび154Aは、単位検索情報制御部105に与えられる。
単位検索情報制御部105は、検索情報管理装置1外の処理部16に接続される。処理部16は情報を伝送するための伝送部や情報を何らかのメディアに記録して蓄積するための蓄積部や情報の検索処理を実行するための部分などに相当する。処理部16が伝送部であった場合、検索情報管理装置1は伝送部からの要求などに応じた1つ以上の単位検索情報を単位検索情報152A、153Aおよび154Aの中から選択し、処理部16(伝送部)に与える。
図9のフローチャートを参照して、本実施の形態に係る検索情報の管理方法を説明する。まず、分割すべき検索情報15が指定されるので、検索情報解析部101は指定された検索情報15を入力し(ステップS1。以下、ステップSは単にSという)、入力した検索情報15を検索情報要素ごとに分離し、分離して得られた構造的検索情報要素152、意味的検索情報要素153および信号的検索情報要素154のそれぞれを順次出力する(S2)。順次得られた検索情報要素は構造的検索情報に相当するのか、意味的検索情報に相当するのか、あるいは信号的検索情報に相当するのかが判定されて、判定結果に基づいて該検索情報要素は構造的単位検索情報形成部102、意味的単位検索情報形成部103および信号的単位検索情報形成部104のいずれかに与えられる(S3)。
構造的単位検索情報形成部102は、構造的検索情報要素152が順次与えられるので、与えられた構造的検索情報要素152を入力して、入力した構造的検索情報要素152をそれまでに入力されている構造的検索情報要素152による配列の最後尾に配置する(S4)。意味的単位検索情報形成部103は与えられる意味的検索情報要素153を入力し、その種別を判定し(S5)、入力した意味的検索情報要素153を、判定結果の種別と同一種別のそれまでに入力されている意味的検索情報要素153による配列の最後尾に配置する(S6)。
信号的単位検索情報形成部104は、与えられる信号的検索情報要素154を入力し、その種別を判定し(S7)、入力した信号的検索情報要素154を、判定結果の種別と同一種別のそれまでに入力されている信号的検索情報要素154による配列の最後尾に配置する(S8)。
ステップS4〜S8の単位検索情報152A〜154Aを形成するための処理それぞれを終えた時点で、検索情報15の終わりか否かを判定し(S9)、判定結果終わりであれば、形成された単位検索情報152A〜154Aそれぞれは単位検索情報制御部105に与えられ、ここで保持される(S10)が、終わりでなければ、再び検索情報要素の分離、読込が継続される(S2)。
以上のような構成およびフローチャートに従う処理を行なうことによって、動画像コンテンツの検索時に必要とする最小限の情報を転送可能あるいは利用可能とし、オフライン検索などで効率的な検索を実行することができる。
図10には本実施の形態に係る検索装置2の概略構成が示される。図10に示されるように検索装置2は検索者18により操作されて、検索実行部1001、構造的単位検索情報保持部1002、意味的単位検索情報保持部1003、信号的単位検索情報保持部1004および検索情報制御部1005を有する。検索実行部1001は、検索者18から入力される検索要求に従って、構造的単位検索情報保持部1002に保持(記録)されている構造的単位検索情報152A、意味的単位検索情報保持部1003に保持(記録)されている意味的単位検索情報153Aおよび信号的単位検索情報保持部1004に保持(記録)されている信号的単位検索情報154Aのうちの1つ以上を選択して取得し、取得された単位検索情報を用いて動画像コンテンツの検索を実行する。選択すべき単位検索情報が対応する単位検索情報保持部1002、1003および1004のいずれかに保持されていない場合には、検索実行部1001から検索情報制御部1005に該当する単位検索情報の取得要求が出力される。
検索情報制御部1005は、複数種類の単位検索情報を伝送するための伝送部、あるいは複数種類の単位検索情報を予め所定メディアに記録して蓄積している蓄積部19に接続される。検索情報制御部1005は、検索実行部1001から単位検索情報の取得要求を入力すると、この取得要求に応じて伝送部または蓄積部19から取得要求に対応の単位検索情報を伝送または読出しにより取得し、取得した単位検索情報を単位検索情報保持部1002、1003および1004のうちのいずれか対応するものに格納する。検索実行部1001は、このようにして取得された単位検索情報を用いて検索を実行する。
まず、検索者18が入力した構造的検索情報の要求に応じて、構造的検索情報の単位検索情報152Aが伝送部あるいは蓄積部19から取得される。構造的検索情報については、検索者18からの要求なしに自動で取得される場合もある。
次に検索者18は、所望する動画像コンテンツに適した検索手法を任意に選び、選択した検索手法に対応する検索情報を要求する。たとえば、動画像コンテンツの色特徴に基づいた検索手法が最も望ましいと考えられた場合に、検索者18は色頻度情報を要求する。あるいは、検索者18は単に「色に関する情報がほしい」というような大まかな要求を入力し、この要求に対して検索実行部1001が判断し、適切な「色頻度情報の取得要求を出す」としてもよい。この要求に対して、色頻度情報から形成された単位検索情報154Aを伝送部あるいは蓄積部19から取得する。
こうして得られた構造的検索情報および色頻度情報から形成された単位検索情報152Aおよび154Aに基づいて検索実行部1001が検索を実行する。このようにすることで、検索時に伝送する検索情報の量を、従来に比べ少なくすることができる。ここで示した検索の手順は一例であって、これに限定されない。
取得された単位検索情報が保持される期間に関して特に制限はない。たとえば検索を実行するクライアント端末が携帯型情報端末のような記憶容量の小さいものであった場合、取得される単位検索情報は1回の検索実行ごとに破棄されるとしてもよいし、十分な記憶容量を持つ端末の場合には、検索の実行期間にわたって継続的に保持されとしてもよい。あるいは、ある一定期間、単位検索情報を保持するものとし、この一定期間内にアクセスがなければその単位検索情報を破棄するといった管理であってもよい。
図3および図5A〜図5Cないし図8A〜図8Cで示される単位検索情報(152A、153A、154A)それぞれは、対応の検索情報要素(152、153、154)を順に配列したものであって、検索情報要素のそれぞれは結合されてもよいし、検索情報要素のそれぞれが独立した形式で保持されていてもよい。後者の場合、要求に応じて必要な数だけの検索情報要素(152、153、154)を部分的な単位検索情報(152A、153A、154A)として出力することができる。
図3および図5A〜図5Cないし図8A〜図8Cでは、図2の検索情報15に含まれる同種の検索情報要素(152、153、154)のすべてを用いて単位検索情報(152A、153A、154A)を形成しているが、一部の検索情報要素のみを用いて単位検索情報を形成するものであってもよい。一部とは、時間的に連続して並んだ検索情報要索の部分集合(全体からみた部分集合)、一定間隔で拾い上げたサブサンプル集合などを含む。
本実施の形態で示した検索情報15および検索情報要素(152、153、154)のそれぞれはあくまで例であり、検索情報および検索情報要素はこれらによって限定されるものではない。検索情報15の木構造はさらに多数の階層を有するものであっても、逆に2階層(根Rと1階層目の1つ以上の節NDのみ)からなるものであってもよい。どのような形の木構造であってもよい。検索情報要素はどのような種類のものであっても、本実施の形態を適用できる。
本実施の形態では、単位検索情報としてまとめられる検索情報要素を、色頻度情報などのように木構造中の1つ1つの「葉」に相当する個々の情報であるとしているが、これに限定されない。たとえば、色頻度情報および代表色情報などの複数の「色」に関連する情報をまとめる「色情報」を1つの要素とし、これを検索情報要素と捉えて単位検索情報を形成することもできる。
この場合、色頻度情報のそれぞれや代表色情報のそれぞれは木構造中の「葉RF」に相当し、「色情報」はそれらの葉RFを下位に持った「節ND」に相当する。すなわち、本実施の形態において、単位検索情報を形成する検索情報要素それぞれは、木構造中の「葉RF」に相当する個々の細かな検索情報に限られるものではなく、あるまとまりとみなすことが可能な「節ND」以下の細かな検索情報による任意の集合であってもよい。
このとき、ある節ND以下に連結された葉RFあるいは節NDの任意の集合(各節NDはさらに下位の葉RFあるいは節NDに連結される)は、初めの節NDを根Rと捉えると木を形成しており、この木は元の木に対して「部分木」と呼ばれる。つまり、検索情報を表わす木構造中の「部分木」に対応する検索情報の部分を検索情報要素と捉えて、本実施の形態を適用することも可能である。
本実施の形態に係る検索情報管理装置1ならびに検索情報管理方法では、木構造を有する検索情報15に含まれるすべての検索情報要素(152、153、154)を同様に抜出して、抜出された検索情報要素それぞれに対応する単位検索情報(152A、153A、154A)のすべてを並行して形成し、形成されたすべての単位検索情報を伝送するために、または蓄積するために、または動画像コンテンツの検索処理に供給するために管理するとしているが、特定種類の検索情報要素のみを抜出して抜出された特定種類の検索情報要素に対応する単位検索情報のみを形成するとしてもよい。
たとえば、検索情報要素のうち色頻度情報のみを抜出し、抜出された色頻度情報に対応の単位検索情報のみを形成して、単位検索情報制御部105で管理する。この場合には、図1に示された検索情報管理装置1において検索情報解析部101、信号的単位検索情報形成部104および単位検索情報制御部105のみが機能するから、構造的単位検索情報形成部102および意味的単位検索情報形成部103は省略されてもよい。
これは、本実施の形態に係る検索装置2でも同様である。信号的検索情報のうち特に色頻度情報のみに基づき検索が実行されるとし、かつ構造的検索情報および意味的検索情報が不要であるとされた場合には、図10の検索装置2の検索実行部1001、信号的単位検索情報保持部1004および検索情報制御部1005のみが機能するから、構造的単位検索情報保持部1002および意味的単位検索情報保持部1003は省略できる。
またこのように、一部の検索情報要素を抜出して、抜出された一部の検索情報要素を用いて対応する単位検索情報を形成する場合、これら検索情報要素が抜出された残りの検索情報15は、木構造を保持したままで利用されるとしてもよい。
すなわちこの場合、元の検索情報15を表わしていた木は、元の木の一部からなる部分的な木と複数の検索情報要素からなる1つあるいは複数の単位検索情報とに分解される。本発明では、抜出される検索情報要素に何を選ぶかによって、木構造を有する元の検索情報15をさまざまな形に分解できる。
なお、本実施の形態では、検索情報15中の構造情報、すなわち節NDあるいは葉RFの木構造中の位置情報などと、検索情報要素の種別情報、すなわち行動描写情報(意味的検索情報要素153)や色頻度情報(信号的検索情報要素154)などであることを示す情報とを、それぞれ独立した情報として説明した。一方、検索情報15を構成する検索情報要素が予め決められており、木の構造が固定であるような場合では、検索情報要素それぞれの木構造中の位置が特定されるため、構造情報のみによって検索情報要素の種別を表わすことができる。すなわち、構造情報と種別情報は等価となる。この場合、たとえば本実施の形態で説明した検索情報要素153および154に対応の共通情報153Bおよび154Bとして種別情報を付加する処理は、対応する共通の構造情報を付加しても行なうことができる。
(第2の実施の形態)
第1の実施の形態では、木構造を有した検索情報15から各種の検索情報要素を、すなわち構造的検索情報要素152、意味的検索情報要素153および信号点検索情報要素154のそれぞれを分離して抜出し、抜出された検索情報要素自体を種別ごとに順に配列することによって、単位検索情報152A、153Aおよび154Aを形成していた。
これに対し、本実施の形態においては、各種の検索情報要素が予め検索情報15から分離されて個別に記録されている場合に、検索情報要素それぞれについてそれ自体ではなくその記録位置を示した情報を取得し、取得された記録位置情報のみを順に配列することにより単位検索情報152E、153Eおよび154Eを形成する。
このような構成においても、第1の実施の形態で得られるのと同様の効果を得ることができる。ここでは、本実施の形態に係る検索情報管理装置1Aおよび検索装置2Aについて第1の実施の形態のそれらとの相違点に注目して説明する。したがって、本実施の形態に関する詳細説明はここでは省略するが、それらについては第1の実施の形態で示した検索情報管理装置1および方法、ならびに検索装置2に関する詳細説明を同様に適用できる。
本実施の形態に係る検索情報管理装置1Aの概略構成は第1の実施の形態と同様に図1を用いて示される。検索情報管理装置1Aの機能は、以下に説明するように、第1の実施の形態のそれとは若干異なる。
図1を参照して検索情報管理装置1Aは検索情報解析部101A、構造的単位検索情報形成部102A、意味的単位検索情報形成部103A、信号的単位検索情報形成部104Aおよび単位検索情報制御部105Aを含む。検索情報解析部101Aは、動画像コンテンツに対応した木構造を有する検索情報15を調べて検索情報15に含まれる各種の検索情報要素である構造的検索情報要素152、意味的検索情報要素153および信号的検索情報要素154それぞれを特定するとともに、特定された検索情報要素152〜154のそれぞれについて記録位置情報152D、153Dおよび154Dのそれぞれを抽出する。記録位置情報152D、153Dおよび154Dのそれぞれは、構造的検索情報要素152、意味的検索情報要素153および信号的検索情報要素154のそれぞれが記録されている記録位置を示す。その後、単位検索情報152E、153Eおよび154Eそれぞれの形成に必要な情報、たとえば検索情報要素の種別や木構造中の階層情報などのような情報とともに、検索情報要素152、153および154それぞれの記録位置情報152D、153Dおよび154Dを、対応する構造的単位検索情報形成部102A、意味的単位検索情報形成部103Aおよび信号的単位検索情報形成部104Aのそれぞれへ出力する。
記録位置情報152D、153Dおよび154Dは、検索情報15が予め記録されている記録メディア上のセクタ位置やビット符号列中のビット位置といった物理的な位置情報や、データを格納したファイル名やデータ伝送時のチャンネル、パケットといった論理的な位置情報を含むものであり、特に制限はない。
記録位置情報152D、153Dおよび154Dによって示される検索情報要素152、153および154は、検索時などに必要に応じて個々に読出され利用される。このため、検索情報要素152、153および154のそれぞれは予め分離されて個々に記録されている方が都合がよい。多くの現実的なサーバ装置においては、木構造を有する検索情報15の検索情報要素152、153および154のそれぞれは何らかの形で分離されて記録されているため、それら分離された検索情報要素152、153および154の記録位置情報152D、153Dおよび154Dをそのまま利用できる。
木構造を有する検索情報15がそのまま記録されていて、予め検索情報要素152、153および154それぞれに分離されていない場合には、検索情報解析部101Aで検索情報要素152、153および154を分離して記録するとともに、その記録位置情報152D、153Dおよび154Dを生成する。
構造的単位検索情報形成部102Aでは、検索情報解析部101Aから構造的単位検索情報要素152それぞれの記録位置情報152Dを入力し、順に配列することで、構造的単位検索情報要素152の記録位置情報152Dからなる構造的検索情報の単位検索情報152Eを形成する。
意味的単位検索情報形成部103Aでは、検索情報解析部101Aから同種の意味的単位検索情報要素153それぞれの記録位置情報153Dを入力し、順に配列することで、意味的検索情報要素153の記録位置情報153Dからなる意味的検索情報の単位検索情報153Eを形成する。
信号的単位検索情報形成部104Aでは、検索情報解析部101Aから同種の信号的単位検索情報要素154それぞれの記録位置情報154Dを入力し、順に配列することで信号的検索情報要素154の記録位置情報154Dからなる信号的検索情報の単位検索情報154Eを形成する。
図11A〜図11Dには、本実施の形態に係る意味的単位検索情報153Eと信号的単位検索情報154Eが例示される。図11Aと図11Bにおいては、意味的検索情報要素153としてシーンそれぞれの情景描写情報とショットそれぞれの登場人物情報を例示し、図11Cと図11Dにおいては信号的検索情報要素154としてシーンそれぞれの代表色情報とショットそれぞれの動き強度情報を例示している。
図11A〜図11Dと図5A〜図5Cおよび図7A〜図7Cとを比較しても明らかなように、単位検索情報を構成する要素が検索情報要素(153、154)自体から記録位置情報(153D、154D)に代替されていることを除けば、本実施の形態で形成される単位検索情報と第1の実施の形態で形成された単位検索情報とは同じである。
したがって、取扱う共通情報153Bおよび154Bの種別、抽出方法などを、第1の実施の形態において説明されたものと同様のものが本実施の形態においても適用される。こうして、第1の実施の形態で得られるのと同様の効果が本実施の形態においても得られる。
単位検索情報制御105Aは、処理部16に接続され、たとえば処理部16が伝送部であった場合、伝送先からの要求などに応じて対応する単位検索情報を伝送する。本実施の形態における単位検索情報制御部105Aでは、既に伝送された単位検索情報に含まれる検索情報要素の記録位置情報に基づいた要求を受理して要求に対応の記録位置情報で示された検索情報要素を抜出して要求元に伝送する。上述のように検索情報15が複数の検索情報要素に分離されて、分離された検索情報要素が個々に記録されている場合には、記録された検索情報要素をそのまま利用するために、検索情報要素は図1の検索情報15が予め記録されたメディアの対応の記録位置から読出されて(抜出されて)要求元に伝送される。一方、検索情報15が複数の検索情報要素に分離されていない場合には、検索情報解析部101Aで検索情報要素を検索情報15から分離し記録した位置から読出されて(抜出されて)要求元に伝送される。
本実施の形態に係る検索装置2Aの概略構成は、第1の実施の形態と同様に図10を用いて示される。ただし、検索装置2Aの機能は、以下に説明するように第1の実施の形態のものとは若干異なる。
本実施の形態に係る検索装置2Aは検索実行部1001A、構造的単位検索情報保持部1002A、意味的単位検索情報保持部1003A、信号的単位検索情報保持部1004Aおよび検索情報制御部1005Aを備える。構造的単位検索情報保持部1002A、意味的単位検索情報保持部1003Aおよび信号的単位検索情報保持部1004Aはそれぞれ、単位検索情報152E、153Eおよび154Eのそれぞれを保持するのに加えて、既に得られた単位検索情報152E、153Eおよび154Eのそれぞれに含まれる記録位置情報152D、153Dおよび154Dのそれぞれに基づいて取得される検索情報要素152、153および154のそれぞれを、1回の検索実行ごとに一時的に、あるいは検索の実行期間にわたって継続的に保持する機能を有する。
検索実行部1001Aは、検索者18から入力される検索要求に従って、構造的単位検索情報保持部1002A、意味的単位検索情報保持部1003Aおよび信号的単位検索情報保持部1004Aに保持されている各種の検索情報要素の1つあるいは複数の任意の組合せを選び、選ばれた組合せに従う検索情報要素を取得して、取得した1つ以上の検索情報要素を用いて検索を実行する。
単位検索情報保持部1002A、1003Aおよび1004Aそれぞれでの検索情報要素の保持が1回の検索実行ごとに破棄されるといった一時的なものである場合には、検索実行部1001Aは単位検索情報保持部1002A、1003Aおよび1004Aに対して、検索情報要素の要求ではなく、次に示すように、単位検索情報の要求から検索を開始する。ここでは、説明を簡単にするために構造的単位検索情報152Eを要求することで開始される検索を例に挙げるが、意味的単位検索情報153Eまたは信号的単位検索情報154Eを要求した場合であっても同様である。
選んだ検索情報要素152が対応する構造的単位検索情報保持部1002Aに保持されていない場合、検索実行部1001Aは構造的単位検索情報保持部1002Aに対して、対応する単位検索情報152Eを要求する。
要求した単位検索情報152Eを、対応する構造的単位検索情報保持部1002Aから取得できた場合には、検索実行部1001Aは、検索情報制御部1005Aに検索情報要素の取得要求とともに取得した単位検索情報152Eを与える。検索情報制御部1005Aは、与えられた単位検索情報152Eに含まれる検索情報要素の記録位置情報152Dに基づいて、伝送部あるいは蓄積部19から該当する検索情報要素152を取得し、取得された検索情報要素152を対応する構造的単位検索情報保持部1002Aに格納する。検索実行部1001Aは、このようにして得られた検索情報要素152を用いて検索を実行する。
要求した単位検索情報152Eが対応する構造的単位検索情報保持部1002Aに保持されていないので取得できなかった場合には、検索実行部1001Aは、まず、検索情報制御部1005Aにその単位検索情報152Eの取得要求を出す。検索情報制御部1005Aはこの取得要求を入力すると、入力した取得要求に応じて伝送部あるいは蓄積部19から該当する単位検索情報152Eを取得し、取得した単位検索情報152Eを対応する構造的単位検索情報保持部1002Aに格納する。次に、検索実行部1001Aは、検索情報制御部1005Aに検索情報要素の取得要求とともに取得された単位検索情報152Eを与える。検索情報制御部1005Aは、与えられた単位検索情報152Eに含まれる検索情報要素の記録位置情報152Dに基づいて、伝送部あるいは蓄積部19から該当する検索情報要素152を取得し、取得した検索情報要素152を対応する構造的単位検索情報保持部1002Aに格納する。検索実行部1001Aは、このようにして得られた検索情報要素152を用いて動画像コンテンツ(伝送部あるいは蓄積部19により準備されている動画像コンテンツのデータ)の検索を実行する。
以上の説明から理解されるように、本実施の形態の検索装置2Aと第1の実施の形態の検索装置2とを比較し異なる点は、検索情報の取得に関して、単位検索情報から検索情報要素の記録位置情報を取得し、取得した記録位置情報から対応の検索情報要素を取得するといった2段階の取得を行なう点にある。それ以外の処理は両者において同様である。したがって、第1の実施の形態で得られるのと同様の効果が本実施の形態においても得られる。
各種の検索情報要素自体からなる単位検索情報に比べ、記録位置情報のみからなる本実施の形態に係る単位検索情報によれば、記録すべき信号量が少なくてすむ。このため、記憶容量の小さい携帯型情報端末などのクライアント端末を用いて検索者が検索を実行するような場合では、本実施の形態の単位検索情報のみをクライアント端末に継続的に保持し、検索実行時に必要な検索情報要素のみを単位検索情報を利用してサーバ装置(図10の伝送部あるいは蓄積部19に相当する)から取得するといった検索方式が効果的である。このサーバ装置には動画像コンテンツのデータおよび予め検索情報要素に分離されている検索情報15のデータが記録されており、外部からの要求に従って、動画像コンテンツのデータまたは検索情報15のデータを読出して要求元に出力する機能を有する。
したがって、どのような検索情報がサーバ装置上に存在するかを単位検索情報から容易に知ることができ、必要な検索情報のみを伝送することで検索の実行効率は向上する。
上述した説明では、単位検索情報が伝送部あるいは蓄積部19を介して取得されるタイミングは検索者の要求によるものであるとしたが、これに限らず、たとえば、検索の開始時に、各種の単位検索情報のみをクライアント端末が自動的に取得するなどとしてもよい。単位検索情報の取得あるいは破棄のタイミングに関する制限はない。
上述の説明では、単位検索情報中の記録位置情報に基づいて取得される検索情報要素の保持期間を、1回の検索実行ごとに破棄するという一時的なものか、検索の実行期間にわたるという継続的なものであるとしたが、これに限らず、たとえば、ある一定期間保持し、一定期間内にアクセスがなければ破棄するといった管理を行なってもよい。検索情報要素の保持期間に関する制限はない。
(第3の実施の形態)
図12には、本実施の形態に係る検索情報管理装置1Bの概略構成が示される。検索情報管理装置1Bは分割選択部1201、第1の検索情報分割部1202、第2の検索情報分割部1203および単位検索情報制御部1204を含む。分割選択部1201では、動画像コンテンツについて所望される検索の実行形態が、すなわちオンライン検索であるか、あるいはオフライン検索であるかというような検索の実行形態が指定される。指定される検索の実行形態に従って検索情報15の分割方式、すなわち分割により得られる単位検索情報の形式が選択される。検索情報15は、たとえば図2に例示した木構造を有する検索情報15とする。
オフライン検索が指定されて、検索情報15の分割方式として検索情報要素の種別に注目した単位検索情報が選択されると、分割選択部1201は、第1の検索情報分割部1202に検索情報15の分割を実行するように指示する。オンライン検索が指定されて、検索情報15の分割方式として時間的な区切りからなる単位検索情報が選択されると、分割選択部1201は、第2の検索情報分割部1203に検索情報15の分割を実行するように指示する。オフライン検索とオンライン検索とが同時に行われるような特殊なケースでは、分割選択部1201は第1および第2の検索情報分割部1202および1203の双方に検索情報15の分割(単位検索情報の形成)を実行するように指示する。
第1の検索情報分割部1202では、検索情報15を入力し、第1の実施の形態で説明した検索情報要素の種別に注目した検索情報15の分割を実行し、図3、図5A〜図5Cないし図8A〜図8Cおよび図11A〜図11Dに示された検索情報の種別に注目した単位検索情報152A、153A(153E)および154A(154E)を形成して出力する。
第2の検索情報分割部1203では、検索情報15を入力し、図16A〜図16Dおよび図17に示したような時間的な区切りを単位とした分割を実行し、時間的な区切りに従う単位検索情報を形成して出力する。
単位検索情報制御部1204は、処理部16に接続され、第1の検索情報分割部1202により形成された検索情報要素の種別に注目した単位検索情報および第2の検索情報分割部1203で形成された時間的区切り単位の単位検索情報のいずれか一方、あるいは両方を、処理部16の要求に応じて選択し、選択された情報を要求元に出力する。
分割選択部1201を設けることにより、動画像コンテンツの検索の実行形態に応じた適切な検索情報の制御(単位検索情報の形成)が可能となる。
【図面の簡単な説明】
図1は、本発明の第1および第2の実施の形態に係る検索情報管理装置の概略構成図である。
図2は、本発明の第1の実施の形態において用いる木構造を有する検索情報を示す図である。
図3は、本発明の第1の実施の形態において分割された構造的検索情報の単位検索情報を示す図である。
図4は、本発明の第1の実施の形態に係る検索情報管理装置における意味的単位検索情報形成部および信号的単位検索情報形成部の内部構成を示す図である。
図5A〜図5Cは、本発明の第1の実施の形態において分割により得られた意味的検索情報の単位検索情報を示す図である。
図6A〜図6Cは、本発明の第1の実施の形態において分割により得られた意味的検索情報の他の単位検索情報を示す図である。
図7A〜図7Cは、本発明の第1の実施の形態において分割により得られた信号的検索情報の単位検索情報を示す図である。
図8A〜図8Cは、本発明の第1の実施の形態において分割により得られた信号的検索情報の他の単位検索情報を示す図である。
図9は、本発明の第1の実施の形態に係る検索情報管理方法を示すフローチャートである。
図10は、本発明の第1および第2の実施の形態に係る検索装置の概略構成図である。
図11A〜図11Dは、本発明の第2の実施の形態において形成された意味的検索情報および信号的検索情報それぞれの単位検索情報を示す図である。
図12は、本発明の第3の実施の形態に係る検索情報管理装置の概略構成図である。
図13は、動画像コンテンツの一般的な構造を説明する図である。
図14は、図13の動画像コンテンツに付加される検索情報を木構造で示した図である。
図15は、図13の動画像コンテンツの検索情報の記録方式を説明する図である。
図16A〜図16Dは、従来の木構造を有する検索情報の分割を示す図である。
図17は、従来の木構造を有する検索情報の管理方法を示す図である。

Claims (23)

  1. 動画像コンテンツに対応する木構造を有した検索情報(15)を小単位の検索情報(152A、153A、154A)に分割して管理する検索情報管理装置(1)であって、
    前記検索情報を、前記動画像コンテンツの構造を表わす構造的検索情報と、前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分離して出力する分離手段(101)と、
    前記分離手段から出力された前記構造的検索情報、前記意味的検索情報および前記信号的検索情報のそれぞれからなる前記小単位の検索情報の少なくとも1つを形成する単位検索情報形成手段(102、103、104)とを備える検索情報管理装置。
  2. 動画像コンテンツに対応する木構造を有した検索情報(15)を小単位の検索情報(152A、153A、154A)に分割して管理する検索情報管理装置(1)であって、
    前記検索情報に含まれる同種の要素であって、前記木構造中の1または複数の葉(RF)あるいは前記木構造中の節(ND)および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素を前記検索情報から分離して抜出す分離手段(101)と、
    前記分離手段により抜出された前記1または複数の検索情報要素を所定の形式に従い配列することで前記小単位の検索情報を形成する単位検索情報形成手段(102、103、104)とを備える検索情報管理装置。
  3. 前記分離手段により抜出された前記1または複数の検索情報要素は、前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報(154)に対応する請求の範囲第2項記載の検索情報管理装置。
  4. 前記分離手段により抜出された前記1または複数の検索情報要素は、前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報(153)に対応する請求の範囲第2項記載の検索情報管理装置。
  5. 前記所定の形式は、前記分離手段により抜出された前記1または複数の検索情報要素を、前記木構造中の出現順序に従って配列することを示す請求の範囲第2項記載の検索情報管理装置。
  6. 前記小単位の検索情報は、前記分離手段により抜出された前記1または複数の検索情報要素に共通する種別情報または共通する前記木構造中の位置情報を含む付加情報(153B、154B)を、前記分離手段により抜出された前記1または複数の検索情報要素の配列に加えて形成される請求の範囲第2項記載の検索情報管理装置。
  7. 前記小単位の検索情報は、前記分離手段により抜出された前記1または複数の検索情報要素のそれぞれに関する前記木構造中の位置情報を含む付加情報(153C、154C)を、前記分離手段により抜出された前記1または複数の検索情報要素の配列に加えて形成される請求の範囲第2項記載の検索情報管理装置。
  8. 動画像コンテンツに対応する木構造を有した検索情報(15)から小単位の検索情報(152E、153E、154E)を形成して管理する検索情報管理装置(1A)であって、
    前記検索情報に含まれる同種の要素であって、前記木構造中の1または複数の葉(RF)あるいは前記木構造中の節(ND)および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素のそれぞれについて、該検索情報要素が記録されている位置を示した記録位置情報(152D、153D、154D)を抽出する記録位置情報抽出手段(101A)と、
    前記1または複数の検索情報要素のそれぞれに対応する前記記録位置情報抽出手段により抽出された前記記録位置情報を所定の形式に従い配列することで前記小単位の検索情報(152E、153E、154E)を形成する単位検索情報形成手段(102A、103A、104A)とを備える検索情報管理装置。
  9. 前記1または複数の検索情報要素は、前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報(154)に対応する請求の範囲第8項記載の検索情報管理装置。
  10. 前記1または複数の検索情報要素は、前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報(153)に対応する請求の範囲第8項記載の検索情報管理装置。
  11. 前記所定の形式は、前記記録位置情報のそれぞれを、対応する前記1または複数の検索情報要素それぞれの前記木構造中の出現順序に従って配列することを示す請求の範囲第8項記載の検索情報管理装置。
  12. 前記小単位の検索情報は、前記1または複数の検索情報要素に共通する種別情報または共通する前記木構造中の位置情報を含む付加情報(153B、154B)を、前記1または複数の検索情報要素と対応する前記記録位置情報の配列に加えて形成される請求の範囲第8項記載の検索情報管理装置。
  13. 前記小単位の検索情報は、前記1または複数の検索情報要素のそれぞれについての前記木構造中の位置情報を含む付加情報(153C、154C)を、前記1または複数の検索情報要素と対応する前記記録位置情報の配列に加えて形成される請求の範囲第8項記載の検索情報管理装置。
  14. 動画像コンテンツに対応する木構造を有した検索情報(15)を小単位の検索情報に分割して管理する検索情報管理装置(1B)であって、
    前記検索情報を、前記動画像コンテンツの構造を表わす構造的検索情報と、前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分離し、前記分離された構造的検索情報、意味的検索情報および信号的検索情報のそれぞれから小単位の検索情報を形成する第1の検索情報分割手段(1202)と、
    前記検索情報を、前記木構造に基づく時間的な区切りに従って分割し、分割後の検索情報のそれぞれから小単位の検索情報を形成する第2の検索情報分割手段(1203)と、
    所望される検索の形態に従って、前記検索情報を、前記第1の検索情報分割手段および前記第2の検索情報分割手段のいずれで分割するかを選択する分割選択手段(1201)とを備えた検索情報管理装置。
  15. 動画像コンテンツに対応する木構造を有した検索情報(15)を小単位の検索情報に分割して管理する検索情報管理装置(1B)であって、
    前記検索情報に含まれる同種の要素であって、前記木構造中の1または複数の葉(RF)あるいは前記木構造中の節(ND)および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素を前記検索情報から分離して抜出し、前記1または複数の検索情報要素を所定の形式に従い配列することで小単位の検索情報を形成する第1の形成手段(1202)と、
    前記検索情報を前記木構造に基づく時間的な区切りに従って分割し、分割後の検索情報のそれぞれから小単位の検索情報を形成する第2の形成手段(1203)と、
    所望する検索の形態に従って、前記小単位の検索情報を、前記第1の形成手段および前記第2の形成手段のいずれで形成するかを選択する選択手段(1201)とを備えた検索情報管理装置。
  16. 動画像コンテンツに対応する木構造を有した検索情報(15)を小単位の検索情報(152A、153A、154A)に分割して管理する検索情報管理方法であって、
    前記検索情報を、前記動画像コンテンツの構造を表わす構造的検索情報と、前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分離する分離ステップと、
    前記分離ステップにより分離して得られた前記構造的検索情報、前記意味的検索情報および前記信号的検索情報のそれぞれからなる前記小単位の検索情報の少なくとも1つを形成する単位検索情報形成ステップとを有する検索情報管理方法。
  17. 動画像コンテンツに対応する木構造を有した検索情報(15)を小単位の検索情報(152A、153A、154A)に分割して管理する検索情報管理方法であって、
    前記検索情報に含まれる同種の要素であって、前記木構造中の1または複数の葉(RF)あるいは前記木構造中の節(ND)および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素を前記検索情報から分離して抜出す分離ステップと、
    前記分離ステップにより抜出された前記1または複数の検索情報要素を所定の形式に従い配列することで前記小単位の検索情報を形成する単位検索情報形成ステップとを有する検索情報管理方法。
  18. 動画像コンテンツに対応する木構造を有した検索情報(15)から小単位の検索情報を形成して管理する検索情報管理方法であって、
    前記検索情報に含まれる同種の要素であって、前記木構造中の1または複数の葉(RF)あるいは前記木構造中の節(ND)および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素のそれぞれについて、該検索情報要素が記録されている位置を示す記録位置情報を抽出する記録位置情報抽出ステップと、
    前記記録位置情報抽出ステップにより抽出された前記1または複数の検索情報要素のそれぞれに対応する前記記録位置情報を、所定の形式に従い配列することで前記小単位の検索情報を形成する単位検索情報形成ステップとを有する検索情報管理方法。
  19. 動画像コンテンツに対応する木構造を有した検索情報(15)を小単位の検索情報に分割して管理する検索情報管理方法であって、
    前記検索情報を、前記動画像コンテンツの構造を表わす構造的検索情報と、前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とに分離し、分離された前記構造的検索情報、前記意味的検索情報および前記信号的検索情報のそれぞれから小単位の検索情報を形成する第1の検索情報分割ステップと、
    前記検索情報を、前記木構造に基づく時間的な区切りに従って分割し、分割後の前記検索情報のそれぞれから小単位の検索情報を形成する第2の検索情報分割ステップと、
    所望する検索の形態に従って、前記検索情報を前記第1の検索情報分割ステップおよび前記第2の検索情報分割ステップのいずれで分割するかを選択する分割選択ステップとを有する検索情報管理方法。
  20. 動画像コンテンツに対応する木構造を有した検索情報(15)を小単位の検索情報に分割して管理する検索情報管理方法であって、
    前記検索情報に含まれる同種の要素であって、前記木構造中の1または複数の葉(RF)あるいは前記木構造中の節(ND)および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素を前記検索情報から分離して抜出し、前記1または複数の検索情報要素を所定の形式に従い配列することで小単位の検索情報を形成する第1の形成ステップと、
    前記検索情報を前記木構造に基づく時間的な区切りに従って分割し、分割後の検索情報のそれぞれから小単位の検索情報を形成する第2の形成ステップと、
    所望する検索の形態に従って、前記小単位の検索情報を前記第1の形成ステップおよび前記第2の形成ステップのいずれで形成するかを選択する選択ステップとを有する検索情報管理方法。
  21. 動画像コンテンツに対応する木構造を有した検索情報を分割することにより得られた小単位の検索情報に基づいて検索を実行する検索装置(2)であって、
    前記小単位の検索情報は、前記動画像コンテンツの構造を表わす構造的検索情報と、前記動画像コンテンツの意味内容における特徴を表わす意味的検索情報と、前記動画像コンテンツの信号上の物理的な特徴を表わす信号的検索情報とのそれぞれから形成された小単位の検索情報の少なくとも1つであり、
    前記小単位の検索情報を保持する保持手段と、
    前記小単位の検索情報を用いて前記動画像コンテンツの検索を実行する検索実行手段とを備える検索装置。
  22. 動画像コンテンツに対応する木構造を有した検索情報(15)を分割した小単位の検索情報に基づいて検索を実行する検索装置(2)であって、
    前記小単位の検索情報は、前記検索情報に含まれる同種の要素であって、前記木構造中の1または複数の葉(RF)あるいは前記木構造中の節(ND)および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素を前記検索情報から分離して抜出し、所定形式に配列することで形成された検索情報であり、
    前記小単位の検索情報を保持する保持手段と、
    前記保持手段により保持される前記小単位の検索情報を用いて前記動画像コンテンツの検索を実行する検索実行手段とを備えた検索装置。
  23. 動画像コンテンツに対応する木構造を有した検索情報(15)から形成した小単位の検索情報に基づいて検索を実行する検索装置(2)であって、
    前記小単位の検索情報は、前記検索情報に含まれる同種の要素であって、前記木構造中の1または複数の葉(RF)あるいは前記木構造中の節(ND)および該節以下に連結された葉または節の任意の集合からなる1または複数の部分木により与えられる、1または複数の検索情報要素のそれぞれについて、該検索情報要素が記録されている位置を示した記録位置情報を所定の形式に配列することで形成された検索情報であり、
    前記小単位の検索情報を保持する第1の保持手段と、
    前記小単位の検索情報を用いて得られる前記1または複数の検索情報要素を保持する第2の保持手段と、
    前記小単位の検索情報ならびに前記1または複数の検索情報要素を用いて前記動画像コンテンツの検索を実行する検索実行手段とを備える検索装置。
JP2002538304A 2000-10-20 2001-10-18 動画像コンテンツを検索するための検索情報を管理する装置および方法 Expired - Fee Related JP4251869B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2000320184 2000-10-20
JP2000320184 2000-10-20
JP2001102836 2001-04-02
JP2001102836 2001-04-02
PCT/JP2001/009160 WO2002035390A1 (fr) 2000-10-20 2001-10-18 Appareil de gestion d'informations d'exploration de contenu d'image dynamique

Publications (2)

Publication Number Publication Date
JPWO2002035390A1 true JPWO2002035390A1 (ja) 2004-03-04
JP4251869B2 JP4251869B2 (ja) 2009-04-08

Family

ID=26602455

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002538304A Expired - Fee Related JP4251869B2 (ja) 2000-10-20 2001-10-18 動画像コンテンツを検索するための検索情報を管理する装置および方法

Country Status (6)

Country Link
US (1) US20040128284A1 (ja)
EP (3) EP1619598A3 (ja)
JP (1) JP4251869B2 (ja)
KR (1) KR100690945B1 (ja)
CN (1) CN1222898C (ja)
WO (1) WO2002035390A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8065627B2 (en) * 2003-09-30 2011-11-22 Hewlett-Packard Development Company, L.P. Single pass automatic photo album page layout
US7644356B2 (en) * 2005-06-10 2010-01-05 Hewlett-Packard Development Company, L.P. Constraint-based albuming of graphic elements
JP2007156893A (ja) * 2005-12-06 2007-06-21 Toshiba Corp 情報処理装置、メタデータ管理サーバ、情報処理システムおよびメタデータ管理方法
US20090313558A1 (en) * 2008-06-11 2009-12-17 Microsoft Corporation Semantic Image Collection Visualization
JP6753190B2 (ja) * 2016-07-27 2020-09-09 富士ゼロックス株式会社 文書検索装置及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000148796A (ja) * 1998-09-03 2000-05-30 Jisedai Joho Hoso System Kenkyusho:Kk 映像インデックス情報を用いた映像検索方法および音声インデックス情報を用いた音声検索方法並びに映像検索システム
JP2000224257A (ja) * 1999-01-29 2000-08-11 Jisedai Joho Hoso System Kenkyusho:Kk 送信装置および受信装置
JP2000224255A (ja) * 1999-01-29 2000-08-11 Jisedai Joho Hoso System Kenkyusho:Kk データ送信装置およびデータ送信方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08110912A (ja) * 1994-10-07 1996-04-30 Canon Inc 動画検索装置および動画検索方法
JP3426876B2 (ja) 1996-09-27 2003-07-14 三洋電機株式会社 映像関連情報生成装置
JPH10257436A (ja) 1997-03-10 1998-09-25 Atsushi Matsushita 動画像の自動階層構造化方法及びこれを用いたブラウジング方法
JP3208116B2 (ja) * 1998-02-03 2001-09-10 株式会社次世代情報放送システム研究所 映像インデックス情報を記録した記録媒体、映像インデックス情報を用いた映像情報管理方法、音声インデックス情報を記録した記録媒体および音声インデックス情報を用いた音声情報管理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000148796A (ja) * 1998-09-03 2000-05-30 Jisedai Joho Hoso System Kenkyusho:Kk 映像インデックス情報を用いた映像検索方法および音声インデックス情報を用いた音声検索方法並びに映像検索システム
JP2000224257A (ja) * 1999-01-29 2000-08-11 Jisedai Joho Hoso System Kenkyusho:Kk 送信装置および受信装置
JP2000224255A (ja) * 1999-01-29 2000-08-11 Jisedai Joho Hoso System Kenkyusho:Kk データ送信装置およびデータ送信方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
國枝 孝之: "映像検索におけるパッケージセグメントモデルと応用アプリケーション", 画像電子学会誌, vol. 第28巻 第5号, JPN6007015643, 25 October 1999 (1999-10-25), JP, pages 552 - 559, ISSN: 0001220222 *
大和田 俊和: "デジタル放送のためのインデックス情報の断片化方式に関する検討", 情報処理学会研究報告, vol. 98, no. 58, JPN6007015642, 10 July 1998 (1998-07-10), JP, pages 17 - 24, ISSN: 0000950486 *

Also Published As

Publication number Publication date
US20040128284A1 (en) 2004-07-01
JP4251869B2 (ja) 2009-04-08
EP1331577A1 (en) 2003-07-30
EP1619598A3 (en) 2006-05-24
EP1331577A4 (en) 2005-03-23
KR100690945B1 (ko) 2007-03-09
KR20030048441A (ko) 2003-06-19
CN1470028A (zh) 2004-01-21
CN1222898C (zh) 2005-10-12
WO2002035390A1 (fr) 2002-05-02
EP2273387A1 (en) 2011-01-12
EP1619598A2 (en) 2006-01-25

Similar Documents

Publication Publication Date Title
JP4987907B2 (ja) メタデータ処理装置
US7181757B1 (en) Video summary description scheme and method and system of video summary description data generation for efficient overview and browsing
JP2001028722A (ja) 動画像管理装置及び動画像管理システム
JP2003511801A (ja) 効率的な概観及びブラウジングのためのビデオ要約記述構造と、ビデオ要約記述データ生成の方法及びシステム
JP4309127B2 (ja) 動画像コンテンツを検索するための検索情報を管理する装置
WO2002035388A1 (fr) Appareil de transmission d'informations de recherche
JP4732418B2 (ja) メタデータ処理方法
CN101132528A (zh) 元数据再生、分发、检索装置、元数据再生成条件设定装置
JP4251869B2 (ja) 動画像コンテンツを検索するための検索情報を管理する装置および方法
JP4652389B2 (ja) メタデータ処理方法
JP2002132775A (ja) 検索情報生成装置
JP2001167557A (ja) オーディオ情報の特徴記述方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080422

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081014

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090113

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090120

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120130

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees