JP3919163B2 - 映像オブジェクト編集装置及び映像オブジェクト編集プログラム - Google Patents
映像オブジェクト編集装置及び映像オブジェクト編集プログラム Download PDFInfo
- Publication number
- JP3919163B2 JP3919163B2 JP2001355215A JP2001355215A JP3919163B2 JP 3919163 B2 JP3919163 B2 JP 3919163B2 JP 2001355215 A JP2001355215 A JP 2001355215A JP 2001355215 A JP2001355215 A JP 2001355215A JP 3919163 B2 JP3919163 B2 JP 3919163B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- video object
- editing
- information
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Television Signal Processing For Recording (AREA)
Description
【発明の属する技術分野】
本発明は、映像コンテンツの制作支援に係わり、例えば映像の見た目を編集したり、映像にメタデータを付加したり、映像を検索したり、映像を管理したり、あるいは映像を表示する映像オブジェクト編集装置及び映像オブジェクト編集プログラムに関する。
【0002】
【従来の技術】
従来、映像コンテンツの制作は、カメラ、文字スーパー、コンピュータグラフィクス等の時系列情報を、映像のプレビューワ及びタイムライン表示を参照しつつ、編集する手法が行なわれている(参考文献1:ソニー株式会杜、編集システム、特開平10−162556号公報)。前記の手法は、タイムラインによる時間軸表示と、プレビューワによる映像表示の連携により、効率的な映像編集を実現する手法である。また、映像検索手法は、色や動きといった映像特徴量やメタデータに基づいて、類似画像を検索する手法などがMPEG−7標準化の過程において数多く提案されている(参考文献2:宮崎等、MPEG−7を用いた番組情報検索システムの開発2001年映像情報メデイア学会年次大会、16−5、2001年、p.233)(参考文献3:宮原等、MPEG−7利用画像部分検索システムの試作、2001年映像情報メデイア学会年次大会、5−7、2001年、p.67)。
【0003】
図15は従来の映像編集装置70の構成例を示したブロック図である。映像編集装置70は、外部に接続されたマウス等の入力装置11から入力信号が入力され、映像編集装置70内で処理する入力情報(マウスの位置情報等)に変換する入力手段71と、入力手段71から入力される入力情報に基づいて映像フレーム単位の映像編集を行なう映像編集制御手段72と、映像を蓄積する映像蓄積媒体13にアクセスして映像を蓄積したり、あるいは、映像を読み出す映像蓄積媒体アクセス手段73と、単数乃至複数の映像シーケンスの映像存在時刻範囲情報に基づいて、映像シーケンス間の演算を可視化するタイムライン描画信号を生成するタイムライン生成手段74と、映像蓄積媒体アクセス手段73により読み出された映像信号と映像編集制御手段72により編集された映像信号を合成した表示信号を生成する映像合成手段75と、を備えて構成されている。また、前記タイムライン描画信号は、外部に接続されたタイムライン表示装置14(CRT等)によって表示することができる。また、前記表示信号は、外部に接続された映像表示装置15(CRT等)によって表示することができる。
【0004】
前記のような従来の映像編集装置70では、映像編集制御手段72が、映像蓄積媒体アクセス手段73を通じて映像蓄槓媒体13から読み出した単独乃至複数の映像フレーム(映像信号)に対して入力装置11からの所定の情報に基づいて、カット、ディゾルブ、ワイプ等の演算や操作を行なって、映像の見た目を編集する作業が行なわれている。
【0005】
【発明が解決しようとする課題】
従来技術における映像の編集は、図15に示した例のように映像フレーム単位で実行されるものが主流である。すなわち、編集の最小単位は映像フレームであり、実現されるカット、ワイプ、フェード、ディゾルブ等の映像編集効果は、ある映像シーケンスの映像フレームと、別の映像シーケンスの映像フレームとの間の演算処理によるものであった。しかも、映像オブジェクトに対する関連データであるメタデータの付与や、複数映像オブジェクトの存在時刻の論理演算によるシーン検索を行なう手法は考えられていない。
【0006】
また、映像検索手法も、色や動きといった映像特徴量やメタデータに基づいて最適なカットあるいは映像フレームを検索するものが主流であり、映像オブジェクト毎のタイムライン間の論理演算によって該当映像フレームや該当映像オブジェクトを検索し、可視化し、頭出しする手法はなかった。さらに、前記した参考文献3で述べられているような手法は、映像フレーム内の映像オブジェクトを検索するものであるが、これは映像の局所的な特徴量とメタデータとに基づいた手法であり、タイムライン上で論理演算を行なって視覚的にオブジェクト存在時刻範囲を検索する手法ではない。
【0007】
本発明は、従来の映像編集手法における問題点に鑑みてなされたものであり、映像をオブジェクト単位で扱う際の映像オブジェクトの時空間形状及びメタデータを編集することができる映像オブジェクト編集装置及び映像オブジェクト編集プログラムを提供することを目的とする。
【0008】
【課題を解決するための手段】
本発明では前記課題を解決するために以下の構成に係るものとした。
まず、請求項1に記載の映像オブジェクト編集装置は、蓄積媒体に蓄積された映像の読み込みを行なう映像蓄積媒体アクセス手段と、蓄積媒体に蓄積された少なくともその映像に存在する映像オブジェクトの時刻及び映像オブジェクト形状を含んだオブジェクト情報の読み込み及び書き出しを行なうオブジェクト情報蓄積媒体アクセス手段と、外部入力信号を、映像オブジェクトの編集動作を示す入力情報に変換する入力手段と、この入力情報に基づいて、映像オブジェクト単位の編集制御を行なうオブジェクト編集制御手段と、前記オブジェクト情報に基づいて、前記映像内における前記映像オブジェクトが存在する時刻範囲を表示するタイムラインを生成するタイムライン生成手段と、前記オブジェクト情報に基づいて、前記映像内における前記映像オブジェクトの形状を生成して、前記映像蓄積媒体アクセス手段で読み出された映像と合成する映像合成手段と、を備える構成とした。
【0009】
かかる構成によれば、映像オブジェクト編集装置は、映像蓄積媒体アクセス手段によって、蓄積媒体に蓄積された映像の読み込みを行ない、オブジェクト情報蓄積媒体アクセス手段によって、蓄積媒体に蓄積された少なくともその映像に存在する映像オブジェクトの時刻及び映像オブジェクト形状を含んだオブジェクト情報の読み込み及び書き出しを行なうことができる。そして、映像オブジェクト編集装置は、入力手段によって、外部入力信号を、映像オブジェクトの編集動作を示す入力情報に変換することで、オブジェクト編集制御手段によって、前記読み込まれたオブジェクト情報に基づいて映像オブジェクト単位の編集制御を行なうことができる。また、映像オブジェクト編集装置は、その編集時に、前記オブジェクト情報に基づいて、タイムライン生成手段によって、前記映像内における前記映像オブジェクトが存在する時刻範囲を表示するタイムラインを生成し、映像合成手段によって、前記映像内における前記映像オブジェクトの形状と前記映像とを合成することができる。
【0010】
また、請求項2に記載の映像オブジェクト編集装置は、請求項1に記載の映像オブジェクト編集装置において、映像オブジェクト形状を新たに描画することにより作成する、またはオブジェクト情報に基づいて、既存の映像オブジェクト形状の一部を消去も含めて変更する形状描画処理手段を備える構成とした。
【0011】
かかる構成によれば、映像オブジェクト編集装置は、形状描画処理手段によって、映像オブジェクト形状を、新たに描画することにより、新規に映像オブジェクトを作成したり、オブジェクト情報に基づいて、既存の映像オブジェクト形状の変更を行ない、前記オブジェクト情報を更新する。
【0012】
さらに、請求項3に記載の映像オブジェクト編集装置は、請求項1または請求項2に記載の映像オブジェクト編集装置において、オブジェクト情報に基づいて、既存の映像オブジェクトの映像オブジェクト形状を分割して複数の映像オブジェクトに再編成する、または既存の複数の映像オブジェクトの映像オブジェクト形状を単一映像オブジェクトの映像オブジェクト形状に併合する空間分割・併合処理手段を備える構成とした。
【0013】
かかる構成によれば、映像オブジェクト編集装置は、空間分割・併合処理手段によって、オブジェクト情報を変更することで、既存の映像オブジェクトの映像オブジェクト形状を分割して複数の映像オブジェクトに再編成したり、既存の複数の映像オブジェクトの映像オブジェクト形状を単一映像オブジェクトの映像オブジェクト形状に併合し、前記オブジェクト情報を更新する。
【0014】
また、請求項4に記載の映像オブジェクト編集装置は、請求項1または請求項3のいずれか1項に記載の映像オブジェクト編集装置において、オブジェクト情報に基づいて、既存の映像オブジェクトを指定時刻範囲の内外で分割し、それぞれ別の映像オブジェクトとして再編成する、または複数の時間軸に沿って存在する複数の映像オブジェクトを単一の時間軸に沿って存在するように併合する時間分割・併合処理手段を備える構成とした。
【0015】
かかる構成によれば、映像オブジェクト編集装置は、時間分割・併合処理手段によって、オブジェクト情報を変更することで、既存の映像オブジェクトを指定時刻範囲の内外で分割し、それぞれ別の映像オブジェクトとして再編成したり、複数の時間軸に沿って存在する複数の映像オブジェクトを単一の時間軸に沿って存在するように併合し、前記オブジェクト情報を更新する。
【0016】
また、請求項5に記載の映像オブジェクト編集装置は、請求項1または請求項4のいずれか1項に記載の映像オブジェクト編集装置において、オブジェクト情報に、映像オブジェクトの関連情報であるメタデータを付与し、あるいは既存のメタデータの内容を修正するメタデータ処理手段を備える構成とした。
【0017】
かかる構成によれば、映像オブジェクト編集装置は、メタデータ処理手段によって、入力手段から入力される入力情報に基づいて、オブジェクト情報に新たにメタデータを付与し、あるいは、すでに映像オブジェクト毎に付与されているメタデータの内容を変更する。
【0018】
さらにまた、請求項6に記載の映像オブジェクト編集装置は、請求項1または請求項5のいずれか1項に記載の映像オブジェクト編集装置において、オブジェクト編集制御手段が、オブジェクト情報の時刻に基づいて、指定された映像オブジェクトの存在する時刻範囲を検索し、または処理対象時刻を前記指定された映像オブジェクトの存在する時刻へ移動する機能を備える構成とした。
【0019】
かかる構成によれば、映像オブジェクト編集装置は、オブジェクト編集制御手段によって、オブジェクト情報の時刻に基づいて、指定された映像オブジェクトの存在する時刻範囲を検索し、前記時刻範囲内の代表時刻を一つ選択することで、処理対象時刻を前記代表時刻へ変更する。
【0020】
さらに、請求項7に記載の映像オブジェクト編集装置は、請求項1または請求項6のいずれか1項に記載の映像オブジェクト編集装置において、オブジェクト編集制御手段が、オブジェクト情報に基づいて、映像オブジェクト形状の集合演算、または映像オブジェクトの存在時刻範囲に関する論理演算を行なうことによって、映像オブジェクト単位の編集を行なう構成とした。
【0021】
かかる構成によれば、映像オブジェクト編集装置は、オブジェクト編集制御手段によって、映像オブジェクト形状毎の和集合や積集合といった集合演算を行ない新たな映像オブジェクト形状を生成したり、前記オブジェクト情報の時刻に基づいて、時間方向の論理和や論理積といった論理演算を行なうことで、映像オブジェクトを時間方向に編集したり、前記論理演算結果に基づいて、該当する時刻に存在する映像オブジェクトを検索する。
【0022】
また、請求項8に記載の映像オブジェクト編集装置は、請求項1または請求項7のいずれか1項に記載の映像オブジェクト編集装置において、タイムライン生成手段が、平面内の一軸を時間軸の帯としたタイムラインを生成し、前記映像内における前記映像オブジェクトが存在する時刻範囲を前記時間軸の帯の有無、色または模様によって表わす構成とした。
【0023】
かかる構成によれば、映像オブジェクト編集装置は、タイムライン生成手段によって、指定した時間内の映像内に存在する映像オブジェクトを、その映像オブジェクト単位のタイムラインとして視覚化した、タイムライン描画信号を生成する。
【0024】
さらに、請求項9に記載の映像オブジェクト編集装置は、請求項1または請求項8のいずれか1項に記載の映像オブジェクト編集装置において、映像合成手段が、オブジェクト形状情報に基づいて、多角形または曲線形状を映像オブジェクトの形状として、映像オブジェクトが存在する映像と合成する構成とした。
【0025】
かかる構成によれば、映像オブジェクト編集装置は、映像合成手段によって、映像内における映像オブジェクトのオブジェクト形状情報に基づいて、映像オブジェクトの存在領域を視覚化した表示信号を生成する。
【0026】
さらにまた、請求項10に記載の映像オブジェクト編集装置は、請求項1または請求項9のいずれか1項に記載の映像オブジェクト編集装置において、外部のハードウェア、ネットワークまたはソフトウェアとの制御信号を送受信するインタフェース手段を備え、この制御信号に基づいて、前記オブジェクト編集制御手段が、映像オブジェクトの編集を行なう構成とした。
【0027】
かかる構成によれば、映像オブジェクト編集装置は、インタフェース手段によって、外部のハードウェア、ネットワークまたはソフトウェアとの制御信号を送受信することで、入力手段を介さずに直接外部からの制御信号をオブジェクト編集制御手段に通知し、映像オブジェクトの編集を行なう。
【0028】
また、請求項11に記載の映像オブジェクト編集プログラムは、蓄積媒体に蓄積された、映像と少なくともその映像に存在する映像オブジェクトの時刻及び映像オブジェクト形状を含んだオブジェクト情報とに基づいて、映像オブジェクトを編集するためにコンピュータを以下の手段により機能させるように構成した。
【0029】
すなわち、前記映像の読み込みを行なう映像蓄積媒体アクセス手段、前記オブジェクト情報の読み込み及び書き出しを行なうオブジェクト情報蓄積媒体アクセス手段、外部入力信号を、映像オブジェクトの編集動作を示す入力情報に変換する入力手段、この入力情報に基づいて、映像オブジェクト単位の編集制御を行なうオブジェクト編集制御手段、前記オブジェクト情報に基づいて、前記映像内における前記映像オブジェクトが存在する時刻範囲を表示するタイムラインを生成するタイムライン生成手段、前記オブジェクト情報に基づいて、前記映像内における前記映像オブジェクトの形状を生成して、前記映像蓄積媒体アクセス手段で読み出された映像と合成する映像合成手段とした。
【0030】
かかる構成によれば、映像オブジェクト編集プログラムは、映像蓄積媒体アクセス手段によって、蓄積媒体に蓄積された映像の読み込みを行ない、オブジェクト情報蓄積媒体アクセス手段によって、蓄積媒体に蓄積された少なくともその映像に存在する映像オブジェクトの時刻及び映像オブジェクト形状を含んだオブジェクト情報の読み込み及び書き出しを行なうことができる。そして、映像オブジェクト編集装置は、入力手段によって、外部入力信号を、映像オブジェクトの編集動作を示す入力情報に変換することで、オブジェクト編集制御手段によって、前記読み込まれたオブジェクト情報に基づいて映像オブジェクト単位の編集制御を行なうことができる。また、映像オブジェクト編集装置は、その編集時に、前記オブジェクト情報に基づいて、タイムライン生成手段によって、前記映像内における前記映像オブジェクトが存在する時刻範囲を表示するタイムラインを生成し、映像合成手段によって、前記映像内における前記映像オブジェクトの形状と前記映像とを合成することができる。
【0031】
【発明の実施の形態】
以下、本発明の実施の形態を図面に基づいて詳細に説明する。
(第一の実施の形態:映像オブジェクト編集装置の構成)
図1は、本発明の第一の実施の形態に係る映像オブジェクト編集装置の全体構成を示すブロック図である。図1に示すように、映像オブジェクト編集装置10は、入力手段1と、オブジェクト編集制御手段2と、オブジェクト情報蓄積媒体アクセス手段3と、映像蓄積媒体アクセス手段4と、タイムライン生成手段5と、映像合成手段6とを備えている。
【0032】
また、映像オブジェクト編集装置10は、外部に入力装置11と、オブジェクト情報を蓄積したオブジェクト情報蓄積媒体12と、映像を蓄積した映像蓄積媒体13と、タイムラインの表示を行なうタイムライン表示装置14と、映像を表示する映像表示装置15とを接続しているものとする。この入力装置11は、例えば、キーボード、マウス、タブレット、デジタイザ、タッチパネル、トラックボール、ジョイスティック、ダイヤル、ボタン等の入力デバイスの1つ以上により構成されたものである。
【0033】
入力手段1は、外部に接続された入力装置11から入力される入力信号を、映像オブジェクト編集装置10内で処理される入力情報に変換するものである。
この入力情報には、指示情報、座標情報、時刻情報等がある。例えば、キーボード、ボタン等の各キーあるいはボタンに対応させて、どの動作を行なうか(映像再生、映像オブジェクト編集等)を定義しておいて、定義されたキーまたはボタンが押下されたときに、その動作を指示情報として出力する。また、例えば、マウスボタン押下(クリック)時に、マウスカーソルが指し示す画面上の座標を座標情報として出力する。また、例えば、ダイヤルによって表示させる映像フレームの出現時刻を指定する場合、そのダイヤルによって入力される入力信号を時刻情報として出力する。
【0034】
オブジェクト編集制御手段2は、入力手段1からの入力情報に基づいて、映像オブジェクト、映像オブジェクトの存在時刻範囲及び位置を認識し、その認識した情報に基づいて映像オブジェクト及びメタデータの編集を行なうものである。ここで、オブジェクト編集制御手段2は、オブジェクト情報蓄積媒体アクセス手段3に映像の時刻情報を通知することで、オブジェクト情報蓄積媒体アクセス手段3を介してオブジェクト情報蓄積媒体12からオブジェクト形状等のオブジェクト情報を取得したり、オブジェクト情報の書き換えを行なう。また、オブジェクト編集制御手段2は、映像蓄積媒体アクセス手段4に映像の時刻情報を通知することで、映像蓄積媒体アクセス手段4を介して映像蓄積媒体13から映像信号を出力させる。
【0035】
さらに、オブジェクト編集制御手段2は、映像中の映像オブジェクトが存在する時刻範囲等を示すオブジェクト存在時刻範囲情報をタイムライン生成手段5へ通知する。また、映像オブジェクトの形状や、位置座標等を示すオブジェクト形状情報を映像合成手段6へ通知する。
【0036】
オブジェクト情報蓄積媒体アクセス手段3は、オブジェクト情報蓄積媒体12にアクセスしてオブジェクト情報やメタデータの読み出し及び書き込みを行なうものである。
なお、オブジェクト情報蓄積媒体12は映像オブジェクトの時々刻々と変化する位置、形状情報及びメタデータを時系列形式、時刻情報を付与した表形式、あるいは前記各形式の圧縮形式で蓄積したもので、例えば、固定デイスク、半導体メモリ、磁気テープ、磁気ディスク、光磁気ディスク、及び光ディスク(CD−R、CD−RW、DVD−RAM、DVD−RW)のいずれか、またはその組み合わせにより構成されたものである。
【0037】
映像蓄積媒体アクセス手段4は、映像蓄積媒体13にアクセスして、映像蓄積媒体13に蓄積されている映像フレームの画素データあるいは圧縮データを映像信号として読み出し、映像合成手段6へ通知するものである。例えば、前記映像フレームがMPEG2等で圧縮されている場合は、その映像フレームの伸張を行なう。
なお、映像蓄積媒体13は、前記映像フレームの画素データあるいは圧縮データを蓄積したもので、オブジェクト情報蓄積媒体12と同様の媒体(ROM、CD−ROM等の読み出し専用メモリを含む)で構成されている
【0038】
タイムライン生成手段5は、オブジェクト編集制御手段2から出力されるオブジェクト存在時刻範囲情報に基づいて、各映像オブジェクトの存在時刻範囲を解析して、現在表示されている映像内に存在する映像オブジェクトの存在時刻範囲を帯グラフとして表示するタイムライン描画信号を生成するものである。またこのとき、マウス等の移動に応じて動作するカーソルをタイムライン描画信号に重畳する。このタイムライン描画信号は、外部に接続されたタイムライン表示装置14に表示される。
このタイムライン表示装置14は、例えば、CRT、LCD、PDP、LED、EL、電光表示板、機械式ディスプレイ等の表示デバイスとすることができる。
【0039】
映像合成手段6は、映像蓄積媒体アクセス手段4から読み出された映像信号と、オブジェクト編集制御手段2から出力されたオブジェクト形状情報とに基づいて、映像蓄積媒体アクセス手段4から読み出された映像信号上に映像オブジェクトの空間存在範囲(映像オブジェクトの形状)を合成した表示信号を生成するものである。この表示信号は、外部に接続された映像表示装置15に表示される。
【0040】
また、映像合成手段6は、オブジェクト編集制御手段2からの指示に基づいて画面上に、矢印、十字印、またはアイコンを重畳することで、カーソル表示を行なったり、ボタン、スライダ、ダイヤル、エディットボックス、プルダウンメニュー等の仮想的なコントロールの表示を行なったり、タイムコードをビットマップ化して表示することも可能である。
この映像表示装置15は、タイムライン表示装置14と同様の表示デバイスを用いることができる。
【0041】
なお、本実施の形態では、タイムライン生成手段5及び映像合成手段6には、それぞれ別の表示装置(タイムライン表示装置14及び映像表示装置15)を接続する形態であるが、1つの表示装置を共有させて、タイムライン生成手段5及び映像合成手段6の出力をそれぞれ別のウィンドウとして表示させることも可能である。
【0042】
次に、図1及び図2に基づいて、オブジェクト編集制御手段2について詳細に説明する。図2は図1に示したオブジェクト編集制御手段2の詳細構成例を示したブロック図である。
オブジェクト編集制御手段2は、解析手段20、RAM21、集合演算処理部22(集合演算処理手段)、形状描画処理部23(形状描画処理手段)、空間分割・併合処理部24(空間分割・併合処理手段)、時間分割・併合処理部25(時間分割・併合処理手段)、論理演算処理部26、メタデータ処理部27(メタデータ処理手段)及び時刻カウンタ28を含む構成とした。
【0043】
解析手段20は、入力手段1からの入力情報を解析して映像、タイムライン、ツールボックス(後記する)のいずれが選択されたかの判定を行なうものである。そして、その選択領域に基づいて、ユーザが指定した各情報(ユーザ指定画像座標、ユーザ指定オブジェクトID、メタデータ情報、ユーザ指定ツールID、ユーザ指定時刻、ユーザ指定時刻範囲)をRAM21に記憶させる。
【0044】
RAM21は、各種データを一時的に記憶する形状RAM(ランダムアクセスメモリ)21a、画像座標レジスタ21b、オブジェクトIDレジスタ21c、メタデータレジスタ21d、ツールIDレジスタ21e、時刻レジスタ21f、IN点/OUT点レジスタ21g、タイムテーブル21hを内部に形成している。
【0045】
ここで、形状RAM21aは、ある指定時刻における各オブジェクトの形状(ビットマップ等)を一時的に記憶するメモリ領域で、画像座標レジスタ21bは、ユーザの指定する画像座標を一時的に記憶するメモリ領域で、オブジェクトIDレジスタ21cは、ユーザの指定する映像オブジェクトのIDを一時的に記憶するメモリ領域である。
【0046】
また、メタデータレジスタ21dは、映像オブジェクトに設定するメタデータ情報を一時的に記憶するメモリ領域であり、ツールIDレジスタ21eは、ユーザの指定する編集ツールのIDを一時的に記憶するメモリ領域でツールを切り替える切り替え信号として使用される。
【0047】
また、時刻レジスタ21fは、ユーザの指定する時刻または、時刻カウンタ28により自動的にカウントアップ/カウントダウンされる処理対象時刻を一時的に記憶するメモリ領域で、IN点/OUT点レジスタ21gは、ユーザの指定する時刻範囲を一時的に記憶するメモリ領域で、タイムテーブル21hは、オブジェクト蓄積媒体アクセス手段5を通じて取得された映像オブジェクト毎の時々刻々の存在/非存在を時刻対映像オブジェクトの表形式で一時的に記憶するメモリ領域である。
【0048】
集合演算処理部22は、指定された時刻の映像フレーム内での映像オブジェクト形状に対して、和集合、積集合、またはこれらを組み合わせた集合演算を行なう処理部である。また、形状描画処理部23は、指定された時刻の映像フレーム内での映像オブジェクト形状の作成や変更等を行なう処理部である。また、空間分割・併合処理部24は、指定された時刻の映像フレーム内での映像オブジェクト形状を分割あるいは併合する処理部である。
【0049】
この集合演算処理部22、形状描画処理部23及び空間分割・併合処理部24は、ツールIDレジスタ21eに記憶されたユーザ指定ツールID(ツール切り替え信号)に基づいて、各処理部が切り替えられて起動される。そして前記各処理部で生成される映像オブジェクト(編集後オブジェクト形状)は形状RAM21aに記憶され、映像合成手段6へオブジェクト形状として通知される。
【0050】
時間分割・併合処理部25は、IN点/OUT点レジスタに記憶されている指定時刻範囲に基づいて、映像オブジェクトの時間方向の分割あるいは併合を行なう処理部である。また、論理演算処理部26は、前記指定時刻範囲に基づいて、映像オブジェクトの時間方向の否定、論理和等の論理演算を行なう処理部である。
この時間分割・併合処理部25及び論理演算処理部26は、ツールIDレジスタ21eに記憶されたユーザ指定ツールID(ツール切り替え信号)に基づいて、各処理部が切り替えられて起動される。
【0051】
メタデータ処理部27は、ユーザが指定した映像オブジェクトに付加するメタデータレジスタ21dに基づいて、オブジェクト蓄積媒体アクセス手段3へメタデータを通知する。ここで、メタデータとは、映像オブジェクトの属性、特性、関連データ等を表わすデータで、例えば、識別子、名前、画像特徴量、関連する画像データ等をいう。
【0052】
時刻カウンタ28は、IN点/OUT点レジスタ21gで指定される指定時刻範囲において、自動的に時刻をカウントアップまたはカウントダウンし、時刻レジスタ21f内の時刻情報を更新するものである。
【0053】
ここで、図3及び図4に基づいて、映像オブジェクト及び映像オブジェクト形状について説明する。図3は、映像オブジェクトを時空間領域において視覚的に表わした図である。また、図4は、映像オブジェクト形状の表現の例を視覚的に表わした図である。
【0054】
図3に示すように、映像オブジェクト30は、映像シーンに含まれる特定の物体に対応した空間及び時間方向に拡がりを有する領域である。また、映像オブジェクト形状31とは、ある特定の時刻の映像フレーム内における映像オブジェクト領域の2次元形状である。
【0055】
図4の例では、映像オブジェクト形状は、図4(1)に示すような映像信号により表現された映像オブジェクト40に対して、図4(2)に示すような2次元のビットマップ表現41、あるいは、図4(3)に示すような輪郭の頂点42aを結んで形成される多角形表現42、輪郭の曲線表現(図示せず)、またはこれらの組み合わせにより表現される。なお、映像オブジェクト形状は単連結である必要はなく、複数の連結領域の集合で構成されてもよい。
【0056】
このビットマップ表現41は、映像オブジェクトのマスクデータとして映像合成手段6によって、映像信号に重畳されて表示信号として出力される。このマスクデータの重畳方法では、例えば、マスクデータ内外によって映像信号の輝度、色相、彩度を変化させ、マスクデータ内外のいずれか一方を単色またはパターンで塗りつぶし、またはマスク境界線を描画することで実現することができる。
【0057】
次に、図10に基づいて、タイムラインについて説明する。図10は、タイムライン表示装置14に表示されたタイムラインの一例を視覚的に表わした図である。図10に示すように、タイムラインとは、各映像オブジェクトが各時刻において存在するか否かを帯グラフにより可視化した図表をいう。この帯グラフの有無によって、タイムコード52で指定された時間内にどの映像オブジェクトが存在しているかを判断することができる。また、この帯グラフは、色や模様を変えることで映像オブジェクトの時間的重なりや、映像オブジェクトの種類を区別して表示することができる。
【0058】
図10の例では、人物名A、人物名B等のオブジェクト名51で特定される映像オブジェクトが、映像上のどの時刻(タイムコード52)に存在するかを帯グラフで表わしている(オブジェクト存在時刻範囲53)。このように映像オブジェクトは、1つの映像の同じ時刻(タイムコード52)に複数存在する場合もある。
【0059】
次に、図13に基づいて、オブジェクト情報について説明する。図13は、オブジェクト情報のデータ形式の一例である。図13(1)は、オブジェクト情報の実体である時刻41と、その時刻41の映像フレームに存在する映像オブジェクトを特定する識別子である映像オブジェクト識別子42及び映像オブジェクトの形状情報を示す映像オブジェクト形状43を、時系列の表形式で表わしたものである。
【0060】
また、図13(2)は、映像オブジェクトの映像オブジェクト識別子42ごとに、対応するメタデータである映像オブジェクト名44とURI(Uniform Resource Identifiers)45とを表形式で表わしたものである。
これによって、ある時刻41の映像オブジェクト識別子42から、間接的にメタデータである映像オブジェクト名44やURI45を参照することができる。
【0061】
(第一の実施の形態:映像オブジェクト編集装置の動作)
次に、図1、図2、図5乃至図7に基づいて、本発明の第一の実施の形態に係る映像オブジェクト編集装置10の動作について説明する。図5及び図6は、オブジェクト編集制御手段2の動作を示すフローチャートである。図7は映像オブジェクト編集装置10でどの種類の編集を行なうかを指定するために画面上に表示されるツールボックスの例を示している。
【0062】
映像オブジェクト編集装置10、入力装置1としてマウスを用いた場合、ユーザはタイムライン表示装置14または映像表示装置15の画面上に表示されているカーソルをマウス操作で移動して、表示画面をクリックすることにより動作を行なう。
【0063】
ユーザによりマウスが移動されたり、クリックされると、マウス移動、押下信号などのマウスの操作信号が入力信号として入力手段1に入力され、映像オブジェクト編集装置10で処理を行なう入力情報に変換されて、オブジェクト編集制御手段2へ通知される。
【0064】
そして、オブジェクト編集制御手段2は、解析手段20で前記入力信号がマウスクリックかどうかを判断し(ステップS1)、クリックされた場合(Yes)はマウス押下座標を取得し(ステップS2)、押下された場所はがタイムライン表示装置14に表示されたタイムライン上かどうかを判断し(ステップS3)、タイムライン上である場合(Yes)は、取得したマウス座標に該当するタイムラインのオブジェクトIDと時刻に変換し(ステップS4)、得られたオブジェクトIDをオブジェクトIDレジスタ21cへ書き込み(ステップS5)、得られた時刻を時刻レジスタ21fへ書き込んで(ステップS6)、終了する。これにより、タイムライン表示装置14に表示されたタイムライン上にある映像オブジェクトと、その映像オブジェクトが存在する時刻情報がオブジェクト編集制御手段2内に記憶される。
【0065】
また、ステップS3で、マウスの押下がタイムライン上でないと判断された場合(No)、ステップS7に進み、マウスの押下が映像表示装置15に表示された映像表示上かどうかを判断し(ステップS7)、映像表示上である場合(Yes)は、マウス座標を画像座標に変換し、これを画像座標レジスタ21bに書き込む(ステップS8)。そして、ツールIDレジスタ21eから、すでにユーザにより選択されたツールIDを読み込み(ステップS9)、そのツールIDに対応したツールを用いて、映像オブジェクトの編集(空間編集)を行ない、その編集結果であるオブジェクト形状に基づいて、形状RAM21aの画像座標の書き換えを行なう(ステップS10)。
【0066】
例えば、ツールIDレジスタ21eに図7に示したツールボックス16にある消しゴムのツールID(4)が記憶され、マウスの形状が消しゴム形状になっていたとすると、消しゴムツール(既存のペイントソフトウェア)により、マウスを移動させることで該当するオブジェクトの形状RAM21aの内容を書き換えることができる。この形状RAM21aの内容は、映像合成手段6に通知することで映像表示装置15の画面上に表示される。なお、この消しゴムによるオブジェクトの消去動作は、マウスボタンがクリックされている状態で、マウスの移動(ドラッグ)信号を占有し、マウスボタンが離された段階で処理を終了する。
なお、このステップS10のオブジェクト空間編集動作の詳細については後記する。
【0067】
一方、ステップS7でマウスの押下が映像表示上でない場合(No)は、図6のステップS19へ進み、マウスの押下がツールボックス上かどうかを判断し、ツールボックス上でない場合(No)は処理を終了する。また、マウスの押下がツールボックス上である場合(Yes)は、マウスの押下部分が図7に示すようなツールボックス上のブラシツールかどうかを判断し(ステップS20)、マウスの押下部がブラシツールでない場合(No)はステップS22に進み、マウスの押下部分がブラシツールである場合(Yes)はステップS21に進んで、ツールIDレジスタ21eに「1」を設定して処理を終了する。
【0068】
また、ステップS22に進んだ場合、マウスの押下部分が前記ツールボックス上の塗りつぶしツールかどうかを判断し、マウスの押下部分が塗りつぶしツールでない場合(No)はステップS24に進み、マウスの押下部分が塗りつぶしツールである場合(Yes)は、ツールIDレジスタ21eを「2」に設定して(ステップS23)、処理を終了する。
【0069】
さらに、ステップS24に進んだ場合、マウスの押下部分が前記ツールボックス上の併合ツールかどうかを判断し、マウスの押下部分が併合ツールでない場合(No)はステップS26に進み、マウスの押下部分が併合ツールである場合(Yes)は、ツールIDレジスタ21eを「9」に設定して(ステップS25)、処理を終了する。
【0070】
また、ステップS26に進んだ場合、マウスの押下部分が前記ツールボックス上のANDツールかどうかを判断し、マウスの押下部分がANDツールでない場合(No)は処理を終了する。また、マウスの押下部分がANDツールである場合(Yes)は、ツールIDレジスタ21eを「16」に設定して(ステップS27)、処理を終了する。
【0071】
一方、図5のステップS1でマウスが押下されたと判断されない場合(No)は、マウスがドラッグ(マウスボタンを押下しながらのマウス移動)されたかどうかを判断し(ステップS11)、ドラッグされない場合(No)は処理を終了し、ドラッグされた場合(Yes)、そのドラッグがタイムライン表示装置14に表示されたタイムライン上であるかどうかを判断し(ステップS12)、タイムライン上でない場合(No)は処理を終了する。
【0072】
また、ドラッグがタイムライン上である場合(Yes)は、ドラッグの方向を判断し(ステップS13)、前記方向が横(時刻軸)方向である場合は、マウス座標をタイムライン上の時刻に変換した後(ステップS14)、ドラッグの開始・終了の各点に対応した時刻であるIN点とOUT点をIN/OUT点レジスタ21gに設定して(ステップS15)処理を終了する。
【0073】
また、ステップS13でドラッグの方向が、縦(オブジェクトID)方向と判断された場合はドラッグ開始・終了のマウス座標をドラッグ開始のオブジェクトIDと、ドラッグ終了のオブジェクトIDとの2つのID対(オブジェクトID対)に変換し(ステップS16)、IN/OUT点レジスタ21gからIN点とOUT点を読み込み(ステップS17)、前記したオブジェクトID対の各タイムラインのIN点/OUT点内を統合、交換あるいは分割して(ステップS18)処理を終了する。
なお、このステップS18のオブジェクト時間編集動作の詳細については後記する。
【0074】
以上の動作によって、映像オブジェクトの作成、修正、追加、削除、空間分割、空間併合、時間分割、時間併合、並びに映像オブジェクトの検索を、ツールボックスの空間編集ツール16a、時間編集ツール16bの各ツールを起動することで実現することができる。
また、メタデータの付与及び修正は、編集された映像オブジェクトに対して、例えばキーボード等からメタデータを入力するものであり、フローチャートとしては図示していない。
【0075】
なお、本フローチャートでは、代表的なツールが選択された場合について説明を行なったが、実際にはツールボックス16上の空間編集ツール16a、時間編集ツール16b、論理、集合演算ツール16cの全てのツールについて、同様に動作させることができる。
【0076】
また、映像オブジェクト編集装置10は、コンピュータにおいて、入力手段1、オブジェクト編集制御手段2、オブジェクト情報蓄積媒体アクセス手段3、映像蓄積媒体アクセス手段4、タイムライン生成手段5、及び映像合成手段6の各機能を、プログラムで実現することも可能であり、各機能プログラムを結合して映像オブジェクト編集プログラムとして動作させることも可能である。
【0077】
(映像オブジェクト編集装置の動作例:空間編集)
次に、映像オブジェクトの空間編集の動作について詳細に説明する。なお、この動作は、図5のステップS10の動作に該当する。また、映像オブジェクトの空間編集とは、ある時刻の映像フレーム内における映像オブジェクトを編集することをいう。
【0078】
まず、映像オブジェクトの作成及び修正は、映像オブジェクト形状のビットマップ表現を、既存のぺイントソフトウェアであるブラシツールや消しゴムツールによって、描画し、修正し、または消去することで実現することができる。また、映像オブジェクト形状の作成及び修正は、多角形または曲線による映像オブジェクト形状の輪郭表現の頂点または制御点を、追加し、移動し、または削除することでも実現することができる。
【0079】
また、映像オブジェクトの追加及び削除は、映像に対して、新規に映像オブジェクトを設定したり、すでに存在する映像オブジェクトを削除したりする。例えば、映像オブジェクトの追加は、映像オブジェクト形状として、空の新規ビットマップや空の新規頂点・制御点集合を割り当てることで実現することができる。また、映像オブジェクトの削除は、すでに存在する映像オブジェクト形状のビットマップまたは頂点・制御点集合を破棄することで実現することができる。
【0080】
さらに、映像オブジェクトの空間分割及び併合は、すでに存在する複数の映像オブジェクトを1つの映像オブジェクト形状に併合し、1つの映像オブジェクトの映像オブジェクト形状として再編成したり、すでに存在する映像オブジェクトをある指定時刻範囲の内外で分割し、それぞれ別の映像オブジェクトとして再編成することによって実現することができる。
【0081】
ここで、図1、図2及び図8に基づいて、映像オブジェクトの空間分割について説明する。
図8は、映像オブジェクトの空間分割の一例を視覚的に表わした図である。また、図8(1)は、映像表示装置15上に表示されたある時刻での映像オブジェクト形状をビットマップ表現した内容を表わしており、図8(2)は、映像オブジェクトを分割した状態を表わしている。この例では、図8(1)の映像オブジェクトAは「人」と「車」が一体化したオブジェクトとなっているが、「人」と「車」の境に、例えば既存の描画ツールを用いて、線描画を行なうことで、領域を分割する。
【0082】
このように、映像オブジェクトを分割後、映像オブジェクト形状に基づいて、複数のビットマップに再編成することができる。また、分割後の各映像オブジェクト形状は、互いに交わりをもつこともできるし、分割前に映像オブジェクト形状内に含まれていた部分領域が、分割後のいずれの映像オブジェクトにも含まれない場合も許される。
【0083】
次に、図9に基づいて、映像オブジェクトの空間併合について説明する。
図9は、映像オブジェクトの空間分割の一例を視覚的に表わした図である。そして、図9(1)は、映像表示装置15上に表示されたある時刻での映像フレームの内容をビットマップ表現した内容を表わしており、図9(2)は、映像オブジェクトを併合した状態を表わしている。この例では、図10(1)の「車」が2つの映像オブジェクトA及び映像オブジェクトBに分割されたオブジェクトとなっているが、図9(2)では、映像オブジェクトA及び映像オブジェクトBを併合して映像オブジェクトCとしている。
【0084】
この映像オブジェクトの空間併合は、集合演算処理部22において行なわれる。すなわち、映像オブジェクト形状間の和集合を求めることで、映像オブジェクトの併合を行なう。
なお、併合後の映像オブジェクト形状は、必ずしも単連結となる必要はなく、複数の連結領域の集合となってもよい。
【0085】
以上説明した映像オブジェクトの空間編集は、オブジェクト編集制御手段2によって、ユーザが指定した映像オブジェクトのオブジェクトID(オブジェクトIDレジスタ21cに一時記憶)と、ユーザが指定し、変更を行なった映像オブジェクトの画像座標(画像座標レジスタ21bに一時記憶)に基づいて、形状RAM21aに記憶されているオブジェクト形状が変更され、このオブジェクト形状が映像合成手段6に通知される。
【0086】
そして、映像合成手段6が、オブジェクト編集制御手段2から通知されるオブジェクト形状と、映像蓄積媒体アクセス手段4から通知される映像情報とに基づいて、映像オブジェクトの空間存在範囲を合成した表示信号を生成する。
【0087】
(映像オブジェクト編集装置の動作例:時間編集)
次に、映像オブジェクトの時間編集の動作について詳細に説明する。なお、この動作は図5のステップS18の動作に該当する。また、映像オブジェクトの時間編集とは、時系列の映像フレームに出現する映像オブジェクトを時刻によって編集することをいう。
【0088】
まず、映像オブジェクトの時間分割及び併合は、すでに存在する映像オブジェクトをある指定時刻範囲の内外で分割し、それぞれ別の映像オブジェクトとして再編成したり、すでに存在する複数の映像オブジェクトを指定時刻範囲で1つの映像オブジェクトヘ統合することで実現することができる。
【0089】
ここで、図1、図2及び図11に基づいて、映像オブジェクトの時間分割について説明する。
図11は、映像オブジェクトの時間分割の一例を視覚的に表わした図である。また、図11(1)は、タイムライン表示装置14上に表示されたある時刻範囲における映像オブジェクトのタイムラインを表わしており、図11(2)は、映像オブジェクトを時間分割した後のタイムラインを表わしている。この例では、ユーザが入力装置11によって、時間分割を行なう対象映像オブジェクトである小道具Aと分割時刻範囲55とを指定する。そして、対象映像オブジェクトである小道具Aのオブジェクト存在時刻範囲(分割前)53aを分割時刻範囲55の内外で分割し、図11(2)に示すように、オブジェクト存在時刻範囲(分割後)53bを有する小道具B、オブジェクト存在時刻範囲(分割後)53cを有する小道具Cの2つの異なる映像オブジェクトとして再編成する。
【0090】
また、例えば、対象映像オブジェクト(小道具A)のオブジェクト存在時刻範囲(分割前)53aを分割時刻範囲55の内外で分割し、一方を小道具Aとして残し、他方を新規に生成した別の映像オブジェクトとして再編成してもよい。
【0091】
次に、図12に基づいて、映像オブジェクトの時間併合について説明する。
図12は、映像オブジェクトの時間併合の一例を視覚的に表わした図である。また、図12(1)は、タイムライン表示装置14上に表示されたある時刻範囲における映像オブジェクトのタイムラインを表わしており、図12(2)は、映像オブジェクトを時間併合した後のタイムラインを表わしている。この例では、ユーザが入力装置11によって、時間併合を行ないたい対象オブジェクトである小道具Bと、小道具Cを指定する。そして、対象映像オブジェクトである小道具Bのオブジェクト存在時刻範囲(併合前)53dと、小道具Cのオブジェクト存在時刻範囲(併合前)53eとを併合し、図12(2)に示すように、オブジェクト存在時刻範囲(併合後)53fとなる小道具Aを映像オブジェクトとして再編成する。
【0092】
この映像オブジェクトの時間併合は、論理演算処理部26において行なわれる。すなわち、映像オブジェクトの時空間存在領域の和集合を求めることで、映像オブジェクトの時間併合を行なう。あるいは、時間併合前の対象映像オブジェクトである小道具B、小道具Cに対して同一の識別子を付与し、これらを同一視することによって仮想的に時間併合を行ない、小道具Aとして映像オブジェクトを再編成する形態であっても構わない。
【0093】
また、映像オブジェクトの検索は、ユーザが指定する映像オブジェクトの存在する時刻を表示したり、指定時刻に存在する映像オブジェクトのタイムラインを表示させる。
【0094】
ここで、図1、図2及び図10に基づいて、映像オブジェクトの検索について説明する。
図10は、タイムラインによる映像オブジェクトの検索例を示した図である。この例では、まず、ユーザが入力装置11によって、検索を行ないたい映像オブジェクトのオブジェクト名51(例えば人物Aと人物B)をチェックボックス54によって指定し、検索を実行する。そして、オブジェクト編集制御手段2内の論理演算処理部26が、映像オブジェクトの存在時刻範囲に関する論理積演算(例えば論理積)を行ない、人物Aと人物Bとのオブジェクト存在時刻範囲53が共通となる時刻範囲を知る。そして、そのオブジェクト存在時刻範囲53をタイムラインとして表示させることで、処理対象時刻を移動することができる。これによって、複数映像オブジェクトが同時に出現する時刻を検索することができる。
【0095】
以上説明した映像オブジェクトの時間編集は、オブジェクト編集制御手段2によって、時刻レジスタ21fに記憶されている処理対象となる時刻情報と、IN点/OUT点レジスタ21gに記憶されているユーザが指定した時刻範囲と、タイムテーブル21hに記憶されているオブジェクト存在時刻範囲とが、タイムライン生成手段5に通知される。
【0096】
そして、タイムライン生成手段5が、オブジェクト編集制御手段2から通知されるオブジェクト存在時刻範囲等に基づいて、映像オブジェクトの存在時刻範囲を図表形式に変換したタイムライン描画信号を生成する
【0097】
(映像オブジェクト編集装置の動作例:メタデータ編集)
次に、図1、図2及び図13に基づいて、映像オブジェクトのメタデータ編集の動作について詳細に説明する。
ここで、映像オブジェクトのメタデータ編集とは、すでに存在する映像オブジェクトに対し、メタデータを付与し、またその内容を編集するこという。
【0098】
このメタデータの付与及び修正は、メタデータ編集ウィンドウを生成して各種メタデータのユーザ入力を促すことで編集を行なう。なお、このメタデータ編集ウィンドウは、図13(2)に示したオブジェクト情報蓄積媒体12に蓄積されたオブジェクト情報のメタデータに基づいて生成され、映像合成手段6を介して映像表示手段15に表示される。
【0099】
例えば、ユーザは、キーボード(入力装置11)から映像オブジェクトの映像オブジェクト識別子42、映像オブジェクト名44、またはURI45等のメタデータのうち必要な情報を入力する。入力されたメタデータは、オブジェクト編集制御手段2のメタデータレジスタ21dに一時記憶される。そして、オブジェクト編集制御手段2は、メタデータレジスタ21dのメタデータの情報に基づいて、オブジェクト情報蓄積媒体アクセス手段3を介してオブジェクト情報蓄積媒体12への書き込み、追加・修正、または削除を行なう。
【0100】
(第二の実施の形態:映像オブジェクト編集装置の構成)
図14は、本発明の第二の実施の形態に係る映像オブジェクト編集装置の全体構成を示すブロック図である。図14に示すように、映像オブジェクト編集装置10Bは、図1に示した映像オブジェクト編集装置10にインタフェース手段7が付与されて構成されている。インタフェース手段7以外の構成は図1に示したものと同一の符号を付し、その説明は省略する。また、外部にプラグイン16を接続しているものとする。
【0101】
インタフェース手段7(71,72,…,7n)は、外部システムであるプラグイン16との接続口である。
例えば、インタフェース手段7の一部あるいは全部をコネクタ、プラグ等の物理的な接続口とすることができる。この場合、物理的な接続口であるインタフェース手段7には、ハードウェア機器のプラグイン16を接続することができる。
【0102】
また、例えば、インタフェース手段7の一部あるいは全部をアプリケーションブログラムインタフェースとすることができる。この場合、該アプリケーションプログラムインタフェースに接続されるプラグイン16は、ソフトウェアプラグインとすることができる。
【0103】
プラグイン16(161,162,…,16n)は、映像オブジェクト編集装置10Bに接続される外部のハードウェア、またはソフトウェアである。例えば、プラグイン16は、映像オブジェクト編集における映像オブジェクト描画を自動化するためのハードウェアまたはソフトウェアとすることができる。この場合、例えば、映像オブジェクトの自動抽出手法や自動追跡手法をプラグインすることができる。
【0104】
前記映像オブジェクトの自動抽出手法または自動追跡手法であるプラグイン16は、入力装置11からの入力信号に基づいて、オブジェクト編集制御手段2及びインタフェース手段7を介して、起動される。そして、映像オブジェクトの自動抽出手法または自動追跡手法であるプラグイン16は、映像蓄積媒体13から、映像蓄積媒体アクセス手段4、オブジェクト編集制御手段2、及びインタフェース手段7を介して、映像情報を読み出し、その映像情報(色情報、輝度情報等)に基づいて映像オブジェクト領域を抽出または追跡し、その抽出または追跡の結果を、インタフェース手段7を介してオブジェクト編集制御手段2へ返す。
【0105】
以上の一連の動作により、図1に示した第一の実施の形態である映像オブジェクト編集装置10においては、手動によって実行される映像オブジェクト形状の描画を、図14に示した第二の実施の形態である映像オブジェクト編集装置10Bでは,自動的に実行することができる。
【0106】
なお、前記映像オブジェクトの自動抽出手法または自動追跡手法であるプラグイン16は、例えば、情報融合による抽出・追跡手法(三須等、複数情報の融合によるサッカー選手のロバストな追跡法、信学技報、IE2001-47、pp.23-30、2001)を利用することができる。
【0107】
以上、一実施形態に基づいて本発明を説明したが、本発明はこれに限定されるものではない。例えば、インタフェース手段7(71,72,…,7n)をネットワークに接続するためのポートとし、プラグイン16はネットワークに接続された外部機器と接続し、例えばTCP/IP等による、通信によってリモート運転を行なうことができる。また、例えば、ルータ等を介して、遠隔地からの制御を行なうことも可能である。
【0108】
【発明の効果】
以上説明したとおり、本発明に係る映像オブジェクト編集装置及びプログラムでは、以下に示す優れた効果を奏する。
【0109】
請求項1に記載の発明によれば、映像オブジェクト編集装置は、映像表示と、その映像内に存在する映像オブジェクトの存在時間を表示したタイムライン表示を参照することができるので、効率的に映像オブジェクトの編集や検索を行なうことができる。これによって、今までは実現されていなかった映像オブジェクト単位での編集を行なうことができ、例えば、デジタル放送における映像コンテンツ制作を効率的に行なうことができる。
【0110】
請求項2乃至請求項4に記載の発明によれば、映像オブジェクト編集装置は、映像内における映像オブジェクトを個々に作成、変更、映像オブジェクトの分割・併合、並びに時間軸に沿った映像オブジェクトの分割・併合を行ない、その領域を映像オブジェクトとして設定することができるので、例えば、映像コンテンツ製作者の意図する領域を自由に映像コンテンツとすることができる。
【0111】
請求項5に記載の発明によれば、映像オブジェクト編集装置は、映像オブジェクト毎のメタデータの付与、あるいはメタデータの変更を行なうことができるので、映像オブジェクトに対して必要な情報を関連付けて記憶させることができる。これによって、映像オブジェクトを指定する方法が容易になり、映像コンテンツの編集及び検索の作業効率を高めることができる。
【0112】
請求項6に記載の発明によれば、映像オブジェクト編集装置は、指定した時刻範囲によって、映像オブジェクトを検索することができ、また、その映像オブジェクトの存在時刻へ処理対象時刻を移動させることができる。また、効率的に短時間で映像オブジェクトの編集作業を行なうことができる。
【0113】
請求項7に記載の発明によれば、映像オブジェクト編集装置は、映像オブジェクト形状を複数の集合演算によって、編集することができる。また、時間軸上の映像オブジェクトの検索において、複数の論理演算によって映像オブジェクトの検索を行なうことができる。これによって、映像オブジェクトの編集作業を効率的に行なうことができる。
【0114】
請求項8に記載の発明によれば、映像オブジェクト編集装置は、映像内における映像オブジェクトの存在時間をタイムラインで視覚化することができるので、映像オブジェクトの編集時にそのタイムラインを参照することで、映像オブジェクトの存在時間を容易に把握することができる。
【0115】
請求項9に記載の発明によれば、映像オブジェクト編集装置は、映像と映像オブジェクト形状とを合成して表示するので、映像内における映像オブジェクトの存在領域を視覚的に確認することができる。これによって、映像オブジェクトの編集において、映像コンテンツ製作者は、実際の映像オブジェクトを参照することで、正確に編集を行なうことができる。
【0116】
請求項10に記載の発明によれば、映像オブジェクト編集装置は、外部のハードウェア、ネットワークまたはソフトウェアとの制御信号を送受信することができるので、例えば、外部の映像オブジェクト検出装置や、映像オブジェクト検出プログラムとの間で制御信号を送受信することで、映像オブジェクトの編集作業を自動化させることができる。
【0117】
請求項11に記載の発明によれば、映像オブジェクト編集プログラムは、映像表示と、その映像内に存在する映像オブジェクトの存在時間を表示したタイムライン表示を参照することができるので、効率的に映像オブジェクトの編集や検索を行なうことができる。これによって、今までは実現されていなかった映像オブジェクト単位での編集を行なうことができ、例えば、デジタル放送における映像コンテンツ制作を効率的に行なうことができる。
【図面の簡単な説明】
【図1】本発明の第一の実施の形態に係る映像オブジェクト編集装置の全体構成を示すブロック図である。
【図2】図1に示したオブジェクト編集制御手段の詳細例を示したブロック図である。
【図3】映像オブジェクトを時空間領域において視覚的に表わした模式図である。
【図4】映像オブジェクト形状の表現の例を視覚的に表わした模式図である。
【図5】本発明の第一の実施形態の映像オブジェクト編集装置の編集動作(1/2)を示したフローチャートである。
【図6】本発明の第一の実施形態の映像オブジェクト編集装置の編集動作(2/2)を示したフローチャートである。
【図7】編集情報を入力するためのツールボックスの構成例を示した模式図である。
【図8】映像オブジェクトの空間分割の一例を視覚的に表わした模式図である。
【図9】映像オブジェクトの空間併合の一例を視覚的に表わした模式図である。
【図10】タイムライン表示の一例を視覚的に表わした模式図である。
【図11】タイムラインの時間分割の一例を視覚的に表わした模式図である。
【図12】タイムラインの時間併合の一例を視覚的に表わした模式図である。
【図13】オブジェクト情報蓄積媒体に蓄積する映像オブジェクト情報の形式を視覚的に表わした模式図である。
【図14】本発明の第二の実施の形態に係る映像オブジェクト編集装置の構成例を示したブロック図である。
【図15】従来の映像編集装置の構成例を示したブロック図である。
【符号の説明】
1…入力手段
2…オブジェクト編集制御手段
3…オブジェクト情報蓄積媒体アクセス手段
4…映像蓄積媒体アクセス手段
5…タイムライン生成手段
6…映像合成手段
7…インタフェース手段
10…映像オブジェクト編集装置
11…入力装置
12…オブジェクト情報蓄積媒体
13…映像蓄積媒体
14…タイムライン表示装置
15…映像表示装置
16…プラグイン
20…解析手段
21…RAM
22…集合演算処理部
23…形状描画処理部
24…空間分割・併合処理部
25…時間分割・併合処理部
26…論理演算処理部
Claims (11)
- 蓄積媒体に蓄積された、映像と少なくともその映像に存在する映像オブジェクトの時刻及び映像オブジェクト形状を含んだオブジェクト情報とに基づいて、映像オブジェクトを編集する映像オブジェクト編集装置であって、
前記蓄積媒体の映像の読み込みを行なう映像蓄積媒体アクセス手段と、
前記蓄積媒体のオブジェクト情報の読み込み及び書き出しを行なうオブジェクト情報蓄積媒体アクセス手段と、
外部入力信号を、映像オブジェクトの編集動作を示す入力情報に変換する入力手段と、
この入力情報に基づいて、映像オブジェクト単位の編集制御を行なうオブジェクト編集制御手段と、
前記オブジェクト情報に基づいて、前記映像内における前記映像オブジェクトが存在する時刻範囲を表示するタイムラインを生成するタイムライン生成手段と、
前記オブジェクト情報に基づいて、前記映像内における前記映像オブジェクトの領域形状を生成して、前記映像蓄積媒体アクセス手段で読み出された映像と合成する映像合成手段と、
を備えたことを特徴とする映像オブジェクト編集装置。 - 映像オブジェクト形状を新たに描画することにより作成する、または前記オブジェクト情報に基づいて、既存の映像オブジェクト形状の一部を消去も含めて変更する形状描画処理手段を備えたことを特徴とする請求項1に記載の映像オブジェクト編集装置。
- 前記オブジェクト情報に基づいて、既存の映像オブジェクトの映像オブジェクト形状を分割して複数の映像オブジェクトに再編成する、または既存の複数の映像オブジェクトの映像オブジェクト形状を単一映像オブジェクトの映像オブジェクト形状に併合する空間分割・併合処理手段を備えたことを特徴とする請求項1または請求項2に記載の映像オブジェクト編集装置。
- 前記オブジェクト情報に基づいて、既存の映像オブジェクトを指定時刻範囲の内外で分割し、それぞれ別の映像オブジェクトとして再編成する、または複数の時間軸に沿って存在する複数の映像オブジェクトを単一の時間軸に沿って存在するように併合する時間分割・併合処理手段を備えたことを特徴とする請求項1乃至請求項3のいずれか1項に記載の映像オブジェクト編集装置。
- 前記オブジェクト情報に、映像オブジェクトの関連情報であるメタデータを付与し、あるいは既存のメタデータの内容を修正するメタデータ処理手段を備えたことを特徴とする請求項1乃至請求項4のいずれか1項に記載の映像オブジェクト編集装置。
- 前記オブジェクト編集制御手段は、前記オブジェクト情報の時刻に基づいて、指定された映像オブジェクトの存在する時刻範囲を検索し、または処理対象時刻を前記指定された映像オブジェクトの存在する時刻へ移動する機能を備えたことを特徴とする請求項1乃至請求項5のいずれか1項に記載の映像オブジェクト編集装置。
- 前記オブジェクト編集制御手段は、前記オブジェクト情報に基づいて、映像オブジェクト形状の集合演算、または映像オブジェクトの存在時刻範囲に関する論理演算を行なうことによって、映像オブジェクト単位の編集を行なうことを特徴とする請求項1乃至請求項6のいずれか1項に記載の映像オブジェクト編集装置。
- 前記タイムライン生成手段は、平面内の一軸を時間軸の帯としたタイムラインを生成し、前記映像内における前記映像オブジェクトが存在する時刻範囲を前記時間軸の帯の有無、色または模様によって表わすことを特徴とする請求項1乃至請求項7のいずれか1項に記載の映像オブジェクト編集装置。
- 前記映像合成手段は、前記オブジェクト形状情報に基づいて、多角形または曲線形状を映像オブジェクトの形状として、前記映像オブジェクトが存在する前記映像と合成することを特徴とする請求項1乃至請求項8のいずれか1項に記載の映像オブジェクト編集装置。
- 外部のハードウェア、ネットワークまたはソフトウェアとの制御信号を送受信するインタフェース手段を備え、
この制御信号に基づいて、前記オブジェクト編集制御手段が、映像オブジェクトの編集を行なうことを特徴とする請求項1乃至請求項9のいずれか1項に記載の映像オブジェクト編集装置。 - 蓄積媒体に蓄積された、映像と少なくともその映像に存在する映像オブジェクトの時刻及び映像オブジェクト形状を含んだオブジェクト情報とに基づいて、映像オブジェクトを編集するためにコンピュータを、
前記蓄積媒体の映像の読み込みを行なう映像蓄積媒体アクセス手段、
前記蓄積媒体のオブジェクト情報の読み込み及び書き出しを行なうオブジェクト情報蓄積媒体アクセス手段、
外部入力信号を、映像オブジェクトの編集動作を示す入力情報に変換する入力手段、
この入力情報に基づいて、映像オブジェクト単位の編集制御を行なうオブジェクト編集制御手段、
前記オブジェクト情報に基づいて、前記映像内における前記映像オブジェクトが存在する時刻範囲を表示するタイムラインを生成するタイムライン生成手段、
前記オブジェクト情報に基づいて、前記映像内における前記映像オブジェクトの領域形状を生成して、前記映像蓄積媒体アクセス手段で読み出された映像と合成する映像合成手段、
として機能させることを特徴とする映像オブジェクト編集プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001355215A JP3919163B2 (ja) | 2001-11-20 | 2001-11-20 | 映像オブジェクト編集装置及び映像オブジェクト編集プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001355215A JP3919163B2 (ja) | 2001-11-20 | 2001-11-20 | 映像オブジェクト編集装置及び映像オブジェクト編集プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003158710A JP2003158710A (ja) | 2003-05-30 |
JP3919163B2 true JP3919163B2 (ja) | 2007-05-23 |
Family
ID=19166952
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001355215A Expired - Fee Related JP3919163B2 (ja) | 2001-11-20 | 2001-11-20 | 映像オブジェクト編集装置及び映像オブジェクト編集プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3919163B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4304108B2 (ja) * | 2004-03-31 | 2009-07-29 | 株式会社東芝 | メタデータ配信装置、動画再生装置および動画再生システム |
JP4933354B2 (ja) | 2007-06-08 | 2012-05-16 | キヤノン株式会社 | 情報処理装置、及び情報処理方法 |
JP5104289B2 (ja) * | 2007-12-25 | 2012-12-19 | 富士ゼロックス株式会社 | 行動履歴表示システム、行動履歴表示プログラム |
JP4670923B2 (ja) * | 2008-09-22 | 2011-04-13 | ソニー株式会社 | 表示制御装置、表示制御方法、およびプログラム |
JP5612457B2 (ja) * | 2010-12-21 | 2014-10-22 | 日本電信電話株式会社 | 動画像表示装置と動画像オブジェクト探索システムと動画像表示方法とプログラム |
JP6706977B2 (ja) * | 2016-06-20 | 2020-06-10 | ヤフー株式会社 | 情報表示プログラム、情報表示装置、情報表示方法および配信装置 |
-
2001
- 2001-11-20 JP JP2001355215A patent/JP3919163B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003158710A (ja) | 2003-05-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8874525B2 (en) | Hierarchical display and navigation of document revision histories | |
US6873344B2 (en) | Media production system using flowgraph representation of operations | |
US8533595B2 (en) | Hierarchical display and navigation of document revision histories | |
US8533594B2 (en) | Hierarchical display and navigation of document revision histories | |
US8701002B2 (en) | Hierarchical display and navigation of document revision histories | |
US6912726B1 (en) | Method and apparatus for integrating hyperlinks in video | |
EP0636971B1 (en) | Method and apparatus for producing a composite second image in the spatial context of a first image | |
JP3165815B2 (ja) | コンピュータ表示システム | |
US5058042A (en) | Method for employing a hierarchical display list in global rendering | |
CN109656654B (zh) | 大屏场景的编辑方法及计算机可读存储介质 | |
US6983420B1 (en) | Motion picture information displaying method and apparatus | |
US20110102424A1 (en) | Storyboard generation method and system | |
JPH06503663A (ja) | 動画作成装置 | |
JPH0816820A (ja) | 3次元アニメーション作成装置 | |
US20040012621A1 (en) | Hyper-media information providing method, hyper-media information providing program and hyper-media information providing apparatus | |
US20030132938A1 (en) | Animation producing method and device, and recorded medium on which program is recorded | |
JP2727974B2 (ja) | 映像提示装置 | |
JP3919163B2 (ja) | 映像オブジェクト編集装置及び映像オブジェクト編集プログラム | |
JP4404172B2 (ja) | メディアシーン情報表示編集装置、方法、および該方法に係るプログラムを記憶した記憶媒体 | |
US20210241539A1 (en) | Broker For Instancing | |
JPH08329281A (ja) | 画像表示方法 | |
US20110298809A1 (en) | Animation editing device, animation playback device and animation editing method | |
JP2000149046A (ja) | 曲線生成装置及び方法、プログラムを格納した記録媒体、並びに対応点設定方法 | |
CN115691772A (zh) | 运营可视化系统及相应计算机设备和存储介质 | |
JP2001076181A (ja) | 視点位置設定方法、コンピュータ、三次元画像編集装置、およびプログラム記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040409 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070129 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070207 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070209 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110223 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120223 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130223 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140223 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |