JP2001510673A - キーフレームおよびブロブの検索および格納を最適化する装置および方法 - Google Patents

キーフレームおよびブロブの検索および格納を最適化する装置および方法

Info

Publication number
JP2001510673A
JP2001510673A JP53045899A JP53045899A JP2001510673A JP 2001510673 A JP2001510673 A JP 2001510673A JP 53045899 A JP53045899 A JP 53045899A JP 53045899 A JP53045899 A JP 53045899A JP 2001510673 A JP2001510673 A JP 2001510673A
Authority
JP
Japan
Prior art keywords
level
keyframes
video
file
blobs
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP53045899A
Other languages
English (en)
Inventor
ヘルマン エレンバース
ネフェンカ ディミトローファ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Philips Electronics NV filed Critical Philips Electronics NV
Publication of JP2001510673A publication Critical patent/JP2001510673A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/71Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/74Browsing; Visualisation therefor
    • G06F16/745Browsing; Visualisation therefor the internal structure of a single video sequence
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S707/00Data processing: database and file management or data structures
    • Y10S707/99941Database schema or data structure
    • Y10S707/99943Generating database or data structure, e.g. via user interface
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S707/00Data processing: database and file management or data structures
    • Y10S707/99941Database schema or data structure
    • Y10S707/99944Object-oriented database structure
    • Y10S707/99945Object-oriented database structure processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

(57)【要約】 マルチメディアまたはハイパーメディア文書から抽出されたビデオまたはブロブ(バイナリラージオブジェクト)から抽出されたキーフレームを、比較的低速のメモリ装置からの検索を最適化するように格納する。検索および格納は、前記ビデオにおける重要すなわち代表的な画像と、テキスト、オーディオ、ビデオ、および、あるマルチメディア文書から他の文書へのハイパーリンクを含む情報におけるユーザ設定とに基づくことができる。冗長情報の除去も可能である。

Description

【発明の詳細な説明】 キーフレームおよびブロブの検索および格納を最適化する装置および方法 ビデオから抽出されたキーフレーム、または、マルチメディアまたはハイパー メディア文書またはウェブページから抽出されたブロブ(バイナリラージオブジ ェクト)を、比較的低速の記憶装置からの検索を最適化するように格納する。 発明の背景 ビデオインデックス付け処理において、これらの発明者と本発明の発明者とが 共同で有する係属出願の米国特許出願第08/867,140号「視覚的インデ ックス付けシステムに関する重要シーン検出およびフレームフィルタ処理」およ び米国特許出願第08/867,145号「ビデオインデックス付けシステム」 に記載されているように、ビデオを視覚的に記述するキーフレームを、ビデオカ ット検出およびキーフレームフィルタ処理によって抽出し、インデックスを形成 することができる。ビデオカット検出およびキーフレームフィルタ処理において 、キーフレームを多数の可能なフレーム(代表的に、ビデオの1秒あたり30フ レーム)から選択する。前記キーフレームフィルタ処理後であっても、前記キー フレームの数は、多量であり、ビデオテープあたり250キーフレーム程度であ る。このとき代表的に、前記キーフレームが160×120解像度に縮小され、 JPEGフォーマットに圧縮されているとすると、インデックスのサイズは1M B程度である。縮小および圧縮なしでは、前記インデックスのサイズは、50M B以上になるかもしれない。このサイズにおいて、キーフレームの検索は、特に 、前記検索を長待ち時間ネットワーク(例えば、インタネット、イントラネット 等)のような低速チャネルまたはVHSテープのような線形テープ媒体において 行う場合、相当長い時間掛かるおそれがある。 同様に、ウェブサイトに関して、ブロブを含むウェブページや、マルチメディ アまたはハイパーメディアが与えられる。ビデオ(または画像)を含むマルチメ ディア文書またはウェブページは、数10メガバイトのオーダーに成るかもしれ ない多量のメモリを必要とするかもしれない。このようなマルチメディア文書ま たはソフトウェアをダウンロードするために必要な時間は、代表的な28.8k b/秒モデムではかなり長くなるかもしれない。 ウェブサイトは、ユーザがナビゲートし難いかもしれないほど多くの可能なウ ェブページ、マルチメディア文書およびリンクを含むことができる。各々のマル チメディア文書またはウェブページは、ブロブを含んでもよい。前記ブロブは、 オーディオ、ビデオ、テキスト、ハイパーテキストリンク、または、他の文書へ のリンクを含んでもよい。ページまたはマルチメディア文書およびこれらの個々 のブロブ、特にユーザが興味を持っているこれらのウェブサイト検索は、ブロブ が代表的に時間的または静的な階層において格納されるため、かなり長い時間が 掛かるかもしれない。ユーザ選択または他の予め指定された規準に基づくオーデ ィオ、ビデオ、テキストおよびリンクを含むウェブページをユーザに与えるマル チメディア文書を形成してもよい。 前記キーフレームまたはブロブの検索をユーザフレンドリな方法において最適 化することによって、インデックスまたはマルチメディア文書を、階層的構造表 現を使用して形成する。時間的階層が、ウエダヒロタダおよびタカフミミヤタケ 「ビデオ編集用自動シーン分割およびツリー構造GUI」第4ACM国際マルチ メディア会議マルチメディア(1996年11月18〜22日):405−40 6のような文献において、キーフレームの概念的表現として使用されているが、 本発明は、最適化された検索を考慮する時間的階層以外の線形インデックス構造 または線形マルチメディア文書構造を形成する。現在、データベースにおける格 納は、検索に関して最適化されておらず、代わりにトランザクション処理に関し て最適化されている。例えば、データベースシステムは、該システムのデータベ ースにおける編集データ(例えば、挿入、更新および消去データ)のようなトラ ンザクション処理に最適化される。クエリー最適化も利用可能であるが、データ ベースシステムのベンチマークは、並列要求に対してできる限り速くデータを変 更することに集中している。 データベースにおいて、検索の順序は、データベース管理システムが、代表的 に、格納されたデータ内容またはクエリーが要求されているものの知識を持たな いため、予め知られていない。 ディジタルコンパクトカセット(DCC)フォーマットにおいて、インデック スシステムは、どのトラックが特定のテープにおいてあるかを記述するが、異な ったトラック間の優先権は存在せず、したがって、内容の検索最適化はできない 。 ウェブページまたは他の同様な形式のマルチメディア文書に関して、情報は、 提供者によって予め指定されたフォーマットに基づいて、ユーザが格納した選択 には基づかずにユーザに与えられる。 本発明の要約 インデックスまたはマルチメディア文書のアクセスを最適化するシステムが望 まれる。本発明は、キーフレームをノードおよびブロブにおいてグループ化し、 これらを階層的に構成し、格納する。この階層は、予め指定されたユーザ設定に 基づく親または子ノードおよびブロブであるノードを含む。1ノードにおけるキ ーフレーム(画像)の数と、親ノードの下の子ノードの数とは、任意である。 図面の簡単な説明 図1は、サンプルの視覚的インデックス階層を示す。 図2A−2Bは、本発明による視覚的階層を示す。 図3は、サンプルのヘッダファイルを示す。 図4A−4Bは、グループヘッダを有する階層を示す。 図5は、階層の線形表現を示す。 図6A−6Eは、階層の詳細な表現を示す。 図7A−7Bは、本発明のシステムである。 好適実施形態の説明 本発明は、図1に示すように、階層において、キーフレームまたはブロブのノ ードと、リンクとを含む。この説明においてキーフレームと呼ぶが、この説明を ブロブにも用いることができる。 本発明において、図2Aに示すように、6キーフレームが1ノードにおいてあ り、最大36子ノード(1親キーフレームあたり6子キーフレーム)が1親ノー ドの下にある。明らかに、当業者は、ノードの数、または、1親ノードの下の子 ノードの数を変更することができる。 参照のため、ノードの最高レベル(本例において、6キーフレームを有する1 ノード)をレベルAとし、キーフレームに1,2...xとラベル付けする。ノ ードの第2レベルはレベルBであり、6ノードを含む。これらのキーフレームに 、11,12,13...16,21,22,23...26,31,32,3 3...36,...とラベル付けし、第3レベルであるレベルCにおけるキー フレームに、111,112...116,121,122...126,.. .とラベル付けする。前記キーフレームに、容易な参照および説明のみのために 番号付けし、これらのレベルと、そのレベルにおける順序とを示す。前記階層の 種々のレベルは、下にあるビデオに関して示す細部のレベルに対応し、本例にお いて、前記ビデオ全体の減少する表現に対応する。例えば、レベルAにおけるこ れらのキーフレームは、前記ビデオの6つの最高代表フレームであり、レベルB におけるキーフレームは、次に高い代表フレームであり、レベルCにおけるキー フレームは、その次に高い代表フレームである。 前記階層の一例を、6時間長でx時間部分に分割されたビデオに関して図2A に示す。この例において、レベルAにおけるトップノード(1ノードのみを示す )は、ビデオ全体を表す6つの親キーフレームを各々有し、各々の親キーフレー ムは、6つの子キーフレームを有する。これら6つのキーフレームの各々は、前 記ビデオ全体の1時間に対応してもよく、したがって、前記ビデオを等しい時間 のブロックに分割してもよく、または、ビデオ番組構造に基づいた時間周期に対 応してもよい。 レベルBにおけるキーフレームは、親キーフレームによって表されるビデオテ ープの一部についてのより詳細を与える。特に、キーフレーム1の下のキーフレ ーム11,12,13...16は、キーフレーム1が表す時間の第1ブロック についてのより詳細を与える。すべてのキーフレームは、ビデオの一部を表す。 この例に関して、6キーフレームを選択し、ビデオ全体を親キーフレーム(レベ ルA)として表し、36キーフレームを選択し、ビデオ全体を子キーフレーム( レベルB)として表し、216キーフレームを選択し、ビデオ全体を孫キーフレ ーム(レベルC)として表す。ノードの各々次のレベルは、親ノードのビデオの 各部分の代表であるキーフレームを含む。 例えば、ノード1は、6キーフレーム(1−6)によって表されるビデオの第 1部分の詳細をすべて有する。次のレベルにおいて、キーフレーム1は、例えば 、6つの子キーフレーム11−16によってさらに詳述される。次のレベルにお いて、キーフレーム11は、例えば、6つの孫キーフレーム111−116によ ってさらに詳述される。 前記形成された階層は、つりあいのとれたツリーを表す必要はない。加えて、 キーフレーム1を、キーフレーム11およびキーフレーム111と同じにしても よい。 前記時間的階層を、多くの異なった構造を使用するディスクまたはテープのよ うな記憶装置に格納することができる。本発明において、前記階層を、コンピュ ータ読み出し可能媒体に格納するために、前記構造をヘッダファイルにおいて奇 術し、前記キーフレームを別個のノードにグループ化することによって「平坦」 にする。ファイルに関して、本例において、前記キーフレームのファイル名は、 30分の1秒における関連する時間情報を表す。 本発明において行うように、関連する視覚的インデックスからの追加のより記 述的な情報を前記ヘッダファイルに含めてもよい。このファイルにおける情報を 、3つのレベル、すなわち、テープ、ノードおよびフレームにおける属性値対に おいて表す。前記属性値対は、新たな属性、例えば、テープまたはフレーム内の オブジェクトの分類に関するレベルを挿入する自由を与える。 同様に、本発明を、ウェブページのようなマルチメディア文書またはハイパー メディア文書を与えるおよび/または検索することに使用してもよい。ユーザは 、ユーザプロファイルまたはユーザ設定情報をサーバによって形成することを可 能にする特定の興味を有してもよく、このとき前記サーバは、前記情報を動的に まとめてもよい。例えば、図2Bに示すように、文書(Document)1A は、オーディオ、ビデオ(画像)、テキストおよび/または他の文書(Doc1 ,Doc2,Doc3等)11Aに対するリンクを含んでもよい。ユーザは、前 記オーディオ、ビデオ、テキストのいくつか、または、これらの他の文書、例え ば、Doc2およびDoc3に含まれる情報のみに興味があり、他の文書Doc 1に含まれる情報に興味がなくてもよい。各々の他の文書Doc1−Doc3は 、テキスト、オーディオおよび/またはビデオと、依然として他のマルチメディ ア文 書111Aに対する他のリンクとを含んでもよい。 形成された前記階層は、ユーザが前記情報(オーディオ、ビデオ、テキストお よび/またはリンク)の検索をどの程度望んでいるか、または、ユーザの設定に 度の程度の関係を有するかを表す必要はない。前記情報において、予め指定され たユーザプロファイルに基づいて分析を行うことができ、前記情報を、再整理さ れた階層をコンピュータ読み出し可能媒体に埋め込まれたユーザファイルに「平 坦化」することによって、時間的階層に再整理することができる。 図3は、サンプルのヘッダファイルを示す。ヘッダは、このような情報を、ビ デオテープID、ビデオのタイトル、ビデオのカテゴリ、読み出し日付、インデ ックス日付、テープ長、視覚的インデックスのバージョン、画像の解像度、レベ ルの数、子ノードの数および視覚的インデックスにおけるキーフレームの数とし て含んでもよい。この情報は、フレーム番号及び情報を符号化し、これらの符号 化されたフレーム番号および情報に基づいて、記憶部、すなわち、ビデオテープ 、CD、VCRにおけるどの位置から位置するべきかを計算することができる。 前記ヘッダファイルに格納された情報を制限し、データ改ざんを防止し、格納を 減少することが望ましいかもしれない。加えて、前記ヘッダファイルを、前記記 憶媒体におけるいくつかの場所において格納し、データ改ざんを防止することが できる。 この例において、視覚的インデックスは、ヘッダファイル(ビデオヘッダ)4 10または416と、キーフレームまたはキーフレーム画像412および414 または418および420を含む。本例において216のキーフレーム画像の視 覚的インデックスは、4KBのヘッダファイルを有し、前記キーフレーム画像は 、844KBを取る。本例において、前記ビデオに対して特定または一般的であ るかもしれない1つのヘッダファイルを使用したが、他の形式のヘッダとしても よいため、図4Aおよび4Bに示すように、レベルまたはグループヘッダ(42 2および424または426または428)を追加し、ノードの特定のレベルを 記述することもできる。 格納に関し、図4Aは、階層的レベル風キーフレームを示し、図4Bは、キー フレームの親子風クラスタ化を示す。 図5は、前記階層を平坦化し、線形的に表す、視覚的インデックス構造を示す 。達成するプロセスにおいて、この構造を、ディスクまたは他のコンピュータ読 み出し可能媒体のような時間的装置において形成し、そのすべてをテープのよう な線形媒体またはネットワーク上に書きこむ。本発明において、前記ヘッダファ イルを第1ファイルとし、前記視覚的インデックス内に保存された情報へのアク セスを容易にする。キーフレーム画像ノードファイルの配列を、前記階層的時間 的構造の表現に応じて行う。 前記ユーザインタフェースに応じて、前記キーフレームのノードを、選択され た構造において配列し、保存する。図6Aは、階層的上下配列を示し、図6Bは 、左右配列を示し、図6Cは、レベル配列を示す。図6Dは、同じフレームの冗 長格納を除外するレベル配列を示す。特に、上述したように、キーフレーム1、 11および111は、同じ画像を表してもよく、したがって、3つすべての格納 は冗長である。したがって、例えば、キーフレーム1のみを格納する。 図6Eは、ユーザが無関心を示した他の文書、テキスト、オーディオまたはビ デオへのリンクを除外し、ユーザファイルを与える、マルチメディア文書用配列 を示す。図6Eは、図2Bにおいて説明した例のための一例の配列を示す。 すべての配列において、使用するならノードヘッダは、前記特定のレベルに関 して、ID、キーフレーム数のような情報を、各キーフレームに関して、ID、 注釈、位置、子ノード数およびフレーム署名のような情報を含んでもよい。 ノード画像を含んでもよい。各キーフレームに関して、IDおよび画像データ のような情報を含んでもよい。 前記保存されたキーフレームを検索するために、前記ヘッダファイルを最初に 読み出し、次に、レベルA第1キーフレームまたはブロブを読み出し、ディスク または他のコンピュータ読み出し可能媒体のような時間的装置に格納する。前記 視覚的インデックスまたはマルチメディア文書の検索を最適化するために、前記 視覚的インデックスまたはマルチメディア文書を、異なったセグメントにおいて 復元する。各々のセグメントを読み出した後に、前記情報をユーザに表示するこ とができる。したがって、ユーザは、すでにロードされたレベルまたは興味の範 囲をみるために、前記視覚的インデックスまたはマルチメディア文書全体をロー ドするのを待たなくてもよい。ユーザは、興味を最も代表するキーフレームまた はブロブを見ることができ、各々ロードされている前記視覚的インデックスまた はウェブページとしてより詳細にむかって進むことができる。キーフレーム画像 ノードまたはブロブをユーザインタフェースに読み出すときに、メモリに送り、 このメモリから前記画像等をユーザに表示してもよい。最終的に、他のキーフレ ーム画像またはブロブを、予め指定された順序においてロードする。 図7Aおよび7Bは、本発明の例であるシステムを示す。特に、図7Aにおい て、記憶部702は、ビデオインデックスシステムまたは他の自動または手動手 段によって与えられるような選択された数の最も代表的なキーフレームを有する 。記憶部702は、前記選択されたキーフレームを第1プロセッサ704に供給 し、第1プロセッサ704は、前記キーフレームを選択された数のレベルに配列 し、各々のレベルは、予め決められた数の前記最も代表的なキーフレームを含み 、各々次のレベルは、前のレベルの多数のキーフレームを示す。別個の第2プロ セッサ705としてもよく、または、第1プロセッサ704の一部としてもよい 第2プロセッサ705は、少なくとも1つのヘッダファイルを、前記ビデオの最 も代表的なキーフレームについての情報に基づいて形成する。 前記ヘッダファイルおよびキーフレームを、別個のメモリとしてもよく、また は、記憶部702の一部としてもよいメモリ706におけるインデックスファイ ルに埋め込む。コンピュータ、VCRまたはテレビジョンのような別個の装置と してもよく、ユーザインタフェースを有してもよいユニット708は、前記イン デックスファイルを検索し、各々のレベルを検索するたびに、各々のレベルに関 するキーフレームを与える。 同様に、図7Bに示す例であるシステムは、例えば、サーバにおいて存在して もよい記憶部710を有する。第1プロセッサ712は、ブロブを、選択された 数のレベルに配列する。各々のレベルは、少なくとも1つのテキスト、ビデオ、 オーディオ、および、他のマルチメディアまたはハイパーテキスト文書へのリン タを含む。 別個のプロセッサとしてもよく、または、第1プロセッサ712の一部として もよい第2プロセッサ713は、ブロブを、ユーザファイルに、ユーザ設定情報 に基づいて編成する。第2プロセッサ713は、ブロブまたはリンクを、データ ベースと比べて、または、埋め込まれた情報に基づいて分析し、前記ブロブまた はリンクがユーザの予め指定された興味の範囲内である場合を決定することがで きる、次に、前記第2プロセッサは、ブロブおよびリンクを、この分析に基づい て編成し、図6Fに示すように、これらのブロブおよびリンクを、ユーザの予め 指定された最初の興味の範囲のトップに与える。 別個の記憶部としてもよく、または、記憶部710の一部としてもよいメモリ 714は、前記ユーザファイルに埋め込まれた編成されたブロブおよびリンクを 格納する。コンピュータのようなユニット716は、前記ユーザファイルを検索 し、前記ブロブおよびリンクを、各々を検索するたびに、与える。 ここで、容易に理解できるように、本発明は、比較的低速のメモリ装置からの 検索を最適化するような、キーフレームまたはブロブの格納を可能にする。本発 明を、どのようなサブシステムに含めることもでき、別個のサブシステムとする こともできる。当業者は、異なった数のノード、ブロブ、ヘッダ、ノードヘッダ およびノード画像を容易に使用することができる。追加の変更を、当業者によっ て容易に行うことができる。 本発明を拡張し、ビデオクリップ、オーディオ(音、話、音楽、他)、色また はビデオ特性、および/または、(手動的または自動的に加えられた)注釈、テ キストまたはデータを、前記キーフレームと関連して含んでもよく、前記キーフ レームとは別個に含んでもよい。 さらに、マスタインデックスを、ビデオテープ、ファイル、他の収集に関して 格納し、ユーザが、特定のプログラム、セグメント、他が格納されている場所に ついての情報を含むことができる前記マスタインデックスを見ることができるよ うにすることもできる。 前記キーフレームを、図4Aおよび4Bに示すように、ユーザ設定または種々 のクラスタ化方法のような予め指定された規準にしたがって分析し、したがって 認識することもできる。これは、より高い優先権を有するように示されるこれら のキーフレームが、前記インデックスファイルのデータ構造において最初に格納 され、より早い検索を可能とするように格納することを可能にする。 特定の変更を、本発明の精神および範囲から逸脱することなく、上述した構成 において行うことができるため、上述した目的は、上述した説明から明らかにな ったものの範囲内で効果的に達成されることがわかり、上述した説明に含まれる 、または、添付した図面に示されるすべての事項が、説明的であると解釈すべき であり、限定する意味として解釈すべきでないとする。 以下の請求の範囲が、上述した本発明の一般的および特定の特徴のすべてと、 言語の問題としてこれらの間にあると言える本発明の範囲のすべての明細のすべ てとをカバーすることを意図されていることも理解される。

Claims (1)

  1. 【特許請求の範囲】 1.ビデオのキーフレームをコンピュータ読み出し可能媒体に、検索を最適化す るように格納する方法において、 前記コンピュータ読み出し可能媒体から、選択された数の最も代表的なキーフ レームを検索し、キーフレームを選択された数のレベルに配列し、各々のレベル が、予め決められた数の前記最も代表的なキーフレームを含み、各々次のレベル が、前記ビデオのより代表的なキーフレームを含むようにするステップと、 前記キーフレームをレベル順にコンピュータ読み出し可能媒体に格納するステ ップとを具えることを特徴とする、キーフレーム格納方法。 2.請求の範囲1に記載のキーフレーム格納方法において、 少なくとも1つのヘッダファイルを、前記ビデオの最も代表的なキーフレーム についての情報に基づいて形成するステップと、 前記少なくとも1つのヘッダファイルを前記コンピュータ読み出し可能媒体に 格納するステップとを具えることを特徴とする、キーフレーム格納方法。 3.ビデオのキーフレームを与える方法において、 前記ビデオの選択された数の最も代表的なキーフレームを検索し、検索された キーフレームを選択された数のレベルに配列し、各々のレベルが、予め決められ た数の前記最も代表的なキーフレームを含み、各々次のレベルが、予め決められ た数のより代表的でないキーフレームを含むようにするステップと、 前記キーフレームを、インデックスファイルに埋め込まれたレベル順にコンピ ュータ読み出し可能媒体に格納するステップと、 前記インデックスファイルを検索するステップと、 各々のレベルが検索されるたびに、前記キーフレームを与えるステップとを具 えることを特徴とする、キーフレームを与える方法。 4.ビデオのキーフレームをメモリに格納するシステムにおいて、 前記ビデオの予め決められた数の最も代表的なキーフレームを有する記憶部と 、 キーフレームを選択された数のレベルに配置し、各々のレベルが、予め決めら れた数の前記最も代表的なキーフレームを含み、各々次のレベルが、前のレベル の複数のキーフレームを含むようにする、第1プロセッサと、 少なくとも1つのヘッダファイルを、前記ビデオの最も代表的なキーフレーム についての情報に基づいて形成する第2プロセッサと、 前記ヘッダファイルおよびキーフレームをレベル順に、インデックスファイル に埋め込んで格納するメモリと、 前記インデックスファイルを検索し、各々のレベルが検索されるたびに、前記 各々のレベルのキーフレームを与えるユニットとを具えることを特徴とするシス テム。 5.検索を最適化または個人化するマルチメディア文書のブロブをコンピュータ 読み出し可能媒体に格納する方法において、 ユーザ設定ファイルを予め指定された情報に基づいて形成するステップと、 特定のマルチメディア文書に関するブロブを検索し、ブロブを選択された数の レベルに配列し、各々のレベルが、前記特定のマルチメディア文書のブロブと、 他のマルチメディア文書へのリンクとのうちの少なくとも1つを含み、各々次の レベルが、前記他のマルチメディア文書のブロブを含むようにするステップと、 特定のブロブおよびリンクを、ユーザによる検索用のユーザファイルに埋め込 まれた前記ユーザ設定ファイルに基づいて格納するステップとを具えることを特 徴とする方法。 6.マルチメディア文書のブロブおよびリンクを与える方法において、 選択された少なくとも1つのブロブおよびリンクを検索し、前記選択されたブ ロブおよびリンクを選択された数のレベルに配列し、各々のレベルが少なくとも 1つのオーディオ、ビデオ、テキスト、および、他のマルチメディア文書へのリ ンクを含むようにするステップと、 ユーザファイルを、ユーザ設定情報に基づいて形成し、前記ユーザファイルが 前記ブロブおよびリンクを具体化するようにするステップと、 前記ユーザファイルを検索するステップと、 各々が検索されるたびに、前記ブロブおよびリンクを与えるステップとを具え ることを特徴とする方法。 7.マルチメディア文書のブロブを格納するシステムにおいて、 各々のマルチメディア文書のブロブを有する記憶部と、 選択されたマルチメディア文書のブロブを選択された数のレベルに配列し、各 々のレベルが少なくとも1つのテキスト、ビデオ、オーディオ、および、他のマ ルチメディア文書へのリンクを含み、各々次のレベルが、少なくとも1つのテキ スト、ビデオ、オーディオ、および、前記他のマルチメディア文書の各々に関し て依然として他のマルチメディア文書へのリンクを含むようにする第1プロセッ サと、 ユーザファイルに埋め込まれた前記配列されたブロブを格納するメモリと、 前記ユーザファイルを検索し、各々が検索されるたびに、前記ブロブおよびリ ンクを与えるユニットとを具えることを特徴とするシステム。 8.第1レベルのキーフレームと、 第2レベルのキーフレームと、 他のレベルのキーフレームとを予め指定されたレベルの順に具えるデータ構造 を具体化するコンピュータ読み出し可能媒体。 9.第1マルチメディア文書のブロブと、他のマルチメディア文書へのリンクと の少なくとも1つを、ユーザ設定ファイルに基づいた順序において具え、 前記他のマルチメディア文書のブロブと、依然として他のマルチメディア文書 へのリンクとの少なくとも1つを、前記ユーザ設定ファイルに基づいた順序にお いて具え、 前記他のマルチメディア文書のブロブおよびリンクを、前記ユーザ設定ファイ ルに基づいた順序において具えるデータ構造を具体化するコンピュータ読み出し 可能媒体。 10.第1優先権のキーフレームと、 第2優先権のキーフレームと、 他の優先権のキーフレームとを、予め指定された優先権順に具えるデータ構造 を具体化するコンピュータ読み出し可能媒体。
JP53045899A 1997-12-02 1998-11-30 キーフレームおよびブロブの検索および格納を最適化する装置および方法 Pending JP2001510673A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US08/982,972 US6119123A (en) 1997-12-02 1997-12-02 Apparatus and method for optimizing keyframe and blob retrieval and storage
US08/982,972 1997-12-02
PCT/IB1998/001909 WO1999028835A2 (en) 1997-12-02 1998-11-30 Apparatus and method for optimizing keyframe and blob retrieval and storage

Publications (1)

Publication Number Publication Date
JP2001510673A true JP2001510673A (ja) 2001-07-31

Family

ID=25529701

Family Applications (1)

Application Number Title Priority Date Filing Date
JP53045899A Pending JP2001510673A (ja) 1997-12-02 1998-11-30 キーフレームおよびブロブの検索および格納を最適化する装置および方法

Country Status (6)

Country Link
US (1) US6119123A (ja)
EP (1) EP0976071A1 (ja)
JP (1) JP2001510673A (ja)
KR (1) KR100568437B1 (ja)
TW (1) TW477937B (ja)
WO (1) WO1999028835A2 (ja)

Families Citing this family (64)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8396328B2 (en) 2001-05-04 2013-03-12 Legend3D, Inc. Minimal artifact image sequence depth enhancement system and method
US7907793B1 (en) 2001-05-04 2011-03-15 Legend Films Inc. Image sequence depth enhancement system and method
USRE47908E1 (en) 1991-12-23 2020-03-17 Blanding Hovenweep, Llc Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
US6850252B1 (en) 1999-10-05 2005-02-01 Steven M. Hoffberg Intelligent electronic appliance system and method
US10361802B1 (en) 1999-02-01 2019-07-23 Blanding Hovenweep, Llc Adaptive pattern recognition based control system and method
US5903454A (en) 1991-12-23 1999-05-11 Hoffberg; Linda Irene Human-factored interface corporating adaptive pattern recognition based controller apparatus
USRE46310E1 (en) 1991-12-23 2017-02-14 Blanding Hovenweep, Llc Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
USRE48056E1 (en) 1991-12-23 2020-06-16 Blanding Hovenweep, Llc Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
US6560281B1 (en) * 1998-02-24 2003-05-06 Xerox Corporation Method and apparatus for generating a condensed version of a video sequence including desired affordances
US6226636B1 (en) * 1998-11-20 2001-05-01 Philips Electronics North America Corp. System for retrieving images using a database
KR100296967B1 (ko) 1999-01-30 2001-09-26 구자홍 멀티미디어 스트림의 다단계 요약 세그먼트 정보 스킴 구성 방법 및 구성된 다단계 요약 세그먼트 정보 스킴으로 부터 요약 스트림 발생 방법과 이러한 방법에 의해 제공되는 다단계 요약 스트림의 브라우징/녹화/편집 장치
KR100442991B1 (ko) * 1999-02-01 2004-08-04 주식회사 팬택앤큐리텔 트리구조의 동영상 색인 기술자를 이용한 검색장치 및 그 방법
US6389417B1 (en) * 1999-06-29 2002-05-14 Samsung Electronics Co., Ltd. Method and apparatus for searching a digital image
IT1310145B1 (it) * 1999-08-25 2002-02-11 Rai Radiotelevisione Italiana Sistema d'acquisizione e presentazione sintetica di programmitelevisivi
JP2001134614A (ja) * 1999-09-16 2001-05-18 Sharp Corp 記述フレームワークを提供するために操作可能なシステム及びavコンテンツの概要をユーザに提供する方法
KR100304482B1 (ko) * 1999-09-22 2001-11-02 구자홍 다중 계층구조를 가지는 사용자 선호도 정보구조와 이를 이용한 멀티미디어 정보 서비스 방법
KR100305964B1 (ko) * 1999-10-22 2001-11-02 구자홍 사용자 적응적인 다단계 요약 스트림 제공방법
DE69934605T2 (de) * 1999-11-29 2007-10-11 Sony Corp. Verfahren und Vorrichtung zur Bearbeitung von Videosignalen durch Charakteristischen Punkten Extraktion im komprimierten Bereich.
US6845487B1 (en) * 1999-11-30 2005-01-18 Sony Corporation Method and an apparatus for implementing a key frame
AUPQ535100A0 (en) * 2000-01-31 2000-02-17 Canon Kabushiki Kaisha Video browser data magnifier
US8171509B1 (en) 2000-04-07 2012-05-01 Virage, Inc. System and method for applying a database to video multimedia
US7260564B1 (en) 2000-04-07 2007-08-21 Virage, Inc. Network video guide and spidering
US6904463B1 (en) * 2000-12-05 2005-06-07 Cisco Technology, Inc. System for improving delivery of content by reordering after grouping components homogeneously within content stream based upon categories defined by content preferences
FR2818409B1 (fr) * 2000-12-18 2003-03-14 Expaway Procede pour diviser des documents structures en plusieurs parties
US9286941B2 (en) 2001-05-04 2016-03-15 Legend3D, Inc. Image sequence enhancement and motion picture project management system
US8897596B1 (en) 2001-05-04 2014-11-25 Legend3D, Inc. System and method for rapid image sequence depth enhancement with translucent elements
US8401336B2 (en) 2001-05-04 2013-03-19 Legend3D, Inc. System and method for rapid image sequence depth enhancement with augmented computer-generated elements
US9031383B2 (en) 2001-05-04 2015-05-12 Legend3D, Inc. Motion picture project management system
EP1405269A2 (en) * 2001-05-04 2004-04-07 Legend Films, Llc Image sequence enhancement system and method
US20030219232A1 (en) * 2001-10-01 2003-11-27 Shu Lin System and method for identifying data on a storage medium
KR100464076B1 (ko) * 2001-12-29 2004-12-30 엘지전자 주식회사 동영상 비디오 브라우징 방법과 장치
US20030131362A1 (en) * 2002-01-09 2003-07-10 Koninklijke Philips Electronics N.V. Method and apparatus for multimodal story segmentation for linking multimedia content
US20040181545A1 (en) * 2003-03-10 2004-09-16 Yining Deng Generating and rendering annotated video files
US6973654B1 (en) * 2003-05-27 2005-12-06 Microsoft Corporation Systems and methods for the repartitioning of data
US7401075B2 (en) * 2003-06-11 2008-07-15 Wtviii, Inc. System for viewing and indexing mark up language messages, forms and documents
WO2004112301A2 (en) * 2003-06-11 2004-12-23 Wtviii, Inc. Mark up language authoring system
US7257592B2 (en) * 2003-06-26 2007-08-14 International Business Machines Corporation Replicating the blob data from the source field to the target field based on the source coded character set identifier and the target coded character set identifier, wherein the replicating further comprises converting the blob data from the source coded character set identifier to the target coded character set identifier
US7317457B2 (en) * 2003-07-21 2008-01-08 Autodesk, Inc. Processing image data
US7372464B2 (en) * 2003-07-21 2008-05-13 Autodesk, Inc. Processing image data
US7814129B2 (en) * 2005-03-11 2010-10-12 Ross Neil Williams Method and apparatus for storing data with reduced redundancy using data clusters
JP5212610B2 (ja) * 2006-02-08 2013-06-19 日本電気株式会社 代表画像又は代表画像群の表示システム、その方法、およびそのプログラム並びに、代表画像又は代表画像群の選択システム、その方法およびそのプログラム
US20070283274A1 (en) * 2006-05-30 2007-12-06 Microsoft Corporation Strategies for Providing a Customized Media Presentation Based on a Markup Page Definition (MPD)
US7698258B2 (en) * 2006-06-02 2010-04-13 Microsoft Corporation Searchable storage system
US8495036B2 (en) * 2008-10-24 2013-07-23 Microsoft Corporation Blob manipulation in an integrated structured storage system
US8620884B2 (en) * 2008-10-24 2013-12-31 Microsoft Corporation Scalable blob storage integrated with scalable structured storage
US8266290B2 (en) * 2009-10-26 2012-09-11 Microsoft Corporation Scalable queues on a scalable structured storage system
US8516137B2 (en) 2009-11-16 2013-08-20 Microsoft Corporation Managing virtual hard drives as blobs
US9135509B2 (en) 2010-07-26 2015-09-15 Koninklijke Philips N.V. Determining representative images for a video
US9002907B2 (en) 2010-08-30 2015-04-07 Unwired Planet, Llc Method and system for storing binary large objects (BLObs) in a distributed key-value storage system
US8730232B2 (en) 2011-02-01 2014-05-20 Legend3D, Inc. Director-style based 2D to 3D movie conversion system and method
US9282321B2 (en) 2011-02-17 2016-03-08 Legend3D, Inc. 3D model multi-reviewer system
US9241147B2 (en) 2013-05-01 2016-01-19 Legend3D, Inc. External depth map transformation method for conversion of two-dimensional images to stereoscopic images
US9113130B2 (en) 2012-02-06 2015-08-18 Legend3D, Inc. Multi-stage production pipeline system
US9288476B2 (en) 2011-02-17 2016-03-15 Legend3D, Inc. System and method for real-time depth modification of stereo images of a virtual reality environment
US9407904B2 (en) 2013-05-01 2016-08-02 Legend3D, Inc. Method for creating 3D virtual reality from 2D images
US9298840B2 (en) * 2011-07-14 2016-03-29 Microsoft Technology Licensing, Llc Video user interface elements on search engine homepages
US11099652B2 (en) 2012-10-05 2021-08-24 Microsoft Technology Licensing, Llc Data and user interaction based on device proximity
US9007365B2 (en) 2012-11-27 2015-04-14 Legend3D, Inc. Line depth augmentation system and method for conversion of 2D images to 3D images
US9547937B2 (en) 2012-11-30 2017-01-17 Legend3D, Inc. Three-dimensional annotation system and method
US9007404B2 (en) 2013-03-15 2015-04-14 Legend3D, Inc. Tilt-based look around effect image enhancement method
US9438878B2 (en) 2013-05-01 2016-09-06 Legend3D, Inc. Method of converting 2D video to 3D video using 3D object models
US9609307B1 (en) 2015-09-17 2017-03-28 Legend3D, Inc. Method of converting 2D video to 3D video using machine learning
WO2019079944A1 (zh) * 2017-10-23 2019-05-02 深圳市锐明技术股份有限公司 一种视频数据的存储方法、装置及终端设备
KR102392100B1 (ko) * 2018-07-19 2022-04-27 우이시 테크놀로지스 (베이징) 리미티드. 시각 위치 확인 지도 저장 및 로딩 방법, 장치, 시스템 및 저장 매체

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5093717A (en) * 1987-08-03 1992-03-03 American Film Technologies, Inc. System and method for digitally coloring images
JPH06505817A (ja) * 1990-11-30 1994-06-30 ケンブリッジ アニメーション システムズ リミテッド 画像合成及び処理
US5261041A (en) * 1990-12-28 1993-11-09 Apple Computer, Inc. Computer controlled animation system based on definitional animated objects and methods of manipulating same
US5532833A (en) * 1992-10-13 1996-07-02 International Business Machines Corporation Method and system for displaying selected portions of a motion video image
US5635982A (en) * 1994-06-27 1997-06-03 Zhang; Hong J. System for automatic video segmentation and key frame extraction for video sequences having both sharp and gradual transitions
US5765164A (en) * 1995-12-21 1998-06-09 Intel Corporation Apparatus and method for management of discontinuous segments of multiple audio, video, and data streams
US5675511A (en) * 1995-12-21 1997-10-07 Intel Corporation Apparatus and method for event tagging for multiple audio, video, and data streams
US5627936A (en) * 1995-12-21 1997-05-06 Intel Corporation Apparatus and method for temporal indexing of multiple audio, video and data streams

Also Published As

Publication number Publication date
WO1999028835A2 (en) 1999-06-10
EP0976071A1 (en) 2000-02-02
KR20000070701A (ko) 2000-11-25
US6119123A (en) 2000-09-12
WO1999028835A3 (en) 1999-08-26
TW477937B (en) 2002-03-01
KR100568437B1 (ko) 2006-04-07

Similar Documents

Publication Publication Date Title
JP2001510673A (ja) キーフレームおよびブロブの検索および格納を最適化する装置および方法
JP5340517B2 (ja) マルチメディア情報に対するメタ・ディスクリプタ
KR100934537B1 (ko) 데이터 유형에 의존하는 프로세싱을 위하여 데이터 유형을자동 검출하기 위한 방법 및 장치
US7707500B2 (en) User interface for media item portion search tool
JP5214969B2 (ja) 多国語を支援するメタデータを記録した情報記録媒体及びメタデータの処理方法とシステム
US20020111956A1 (en) Method and apparatus for self-management of content across multiple storage systems
US9348829B2 (en) Media management system and process
US20070185876A1 (en) Data handling system
US20040122811A1 (en) Method for searching media
US8117210B2 (en) Sampling image records from a collection based on a change metric
US7302435B2 (en) Media storage and management system and process
EP1277117A1 (en) Interface for presenting information
CN1363069A (zh) 信息管理、检索和显示系统以及相关方法
US20070083497A1 (en) Method of searching for media item portions
EP1721265A1 (en) Data handling system
EP1116137B1 (en) Database, and methods of data storage and retrieval
KR100831550B1 (ko) 엑스엠엘 계층구조를 이용한 비디오 검색 시스템 및 그 방법
JP2006501539A (ja) 階層データフォーマットに対するデータベースモデル
US20070156844A1 (en) Apparatus and method for storing content, and apparatus and method for displaying content
Hong et al. A motion picture archiving technique, and its application in an ethnology museum
Philip et al. Efficient storage organization for the execution of visual queries in large object databases
Myers Patent images on CD-ROM: Numeric vs classified sets
Gennaro et al. The Use of XML in a video digital library
Ogawa Report on the provision of contents of Kyoto University Digital Library and its method of digitalizing rare materials
Rahayu et al. Database-Driven Product Catalog System

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080422

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080710

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080818

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081021

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20081216

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20081120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090313

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20090514

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20090611