JP3619005B2 - 映像処理システム制御方法および装置,並びにそのプログラム記録媒体 - Google Patents
映像処理システム制御方法および装置,並びにそのプログラム記録媒体 Download PDFInfo
- Publication number
- JP3619005B2 JP3619005B2 JP06083698A JP6083698A JP3619005B2 JP 3619005 B2 JP3619005 B2 JP 3619005B2 JP 06083698 A JP06083698 A JP 06083698A JP 6083698 A JP6083698 A JP 6083698A JP 3619005 B2 JP3619005 B2 JP 3619005B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- processing system
- video processing
- program
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Studio Circuits (AREA)
Description
【発明の属する技術分野】
本発明は,コンピュータによって映像処理システムをプログラム制御する方法に関し,特に動的にシステムの状態が変化する場合でも,映像処理システムを効率的かつ柔軟にプログラム制御することのできる映像処理システム制御方法に関するものである。
【0002】
【従来の技術】
コンピュータはもともと数値あるいは文字列の処理を行うように設計されていたが,最近では,画像,映像といったマルチメディアデータを扱えるようになってきた。
【0003】
このような経緯から,一般的なプログラム言語は数値,文字列を基本データ型として持っているが,映像データ型は基本データ型として持っていない。例えば,基本データ型の一つ,数値型には基本演算として加減乗除(+,−,×,÷)があらかじめ定義されており,それらを組み合わせた式,例えば4×(2+3)によって複合演算が定義される。
【0004】
ビデオ編集システム,ビデオサーバーなどの映像処理システムにおいて主要なデータは,数値や文字列ではなく時間的・空間的な次元を持った映像である。したがって,映像処理システムを制御するためのプログラム言語は,映像を基本データ型として持つことが望ましい。映像に対する基本演算としては,映像の直列合成,並列合成,時間的限定,空間的限定,時間的伸長,空間的伸長,トラック選択,静止化などがあり得る。これらの基本演算を組み合わせた式によって,映像に対する複合演算をプログラムすることができる。
【0005】
一般的なプログラム言語と映像データ型を扱うプログラム言語の最も大きな違いは,映像データのデータ量が膨大であることである。そのため,処理のために多くの計算時間,多くの中間記憶領域が必要になる。数値データを処理する場合には,数値をコンピュータの内部メモリにいったん読み込んで,計算を行い,その結果を内部メモリに書き込むことが即座にできる。それに対して,映像データはギガバイトあるいはそれ以上のデータ量になることが普通であるので,内部メモリにすべてのデータを読み込むことは非現実的であるし,処理にも時間がかかる。
【0006】
アナログビデオ編集システムでは,EDL(Edit Decision List)と呼ばれる一種のプログラム言語が用いられていた。EDLは,素材ビデオテープの入ったビデオデッキの番号,タイムコードのイン点,アウト点などからなるリストであり,リストを上から順に解釈し,その記述に従って,ビデオデッキ,エフェクタなどを制御することでバッチ処理的にビデオ編集を行う。この場合,編集に必要な時間は,完成版の映像の長さより長くなる。すなわち,1時間のビデオを編集するためのEDLを解釈するのに,1時間以上かかることになる。
【0007】
デジタルビデオに対しても,EDLと類似のプログラム言語が開発されているが,やはり基本的にはバッチ処理型であり,編集に要する時間はビデオテープのまき戻し,早送りに要する時間が節約できるだけで,やはり完成した映像と同程度の時間がかかる。
【0008】
従来の映像処理システムの一構成ブロック図を図6に示す。図中の21が映像処理システムの中核部であり,22は素材映像である。素材映像22は,デジタル化されて素材映像蓄積手段23に蓄えられる。利用者26が,EDLなどのプログラムを与えると,制御手段25は,プログラムを頭から順に解釈して,順次,映像処理システム21を制御し,完成映像24を得る。結局,このようにデジタルビデオ編集システムになっても,利用者が所望の映像を得るまでに長い時間待たなくてはいけないという問題点は残ったままであった。極端な例を挙げれば,利用者が最初の1枚の画像だけ欲しい場合にも,すべての処理が終わるまで長い時間待たなければならなかった。
【0009】
ノンリニア編集システムにおいては,この問題点を解決するために,あらかじめプログラムを解析して,編集処理をシミュレートして(実際の編集処理は行わず)タイムテーブルを作成しておくことで,最終的な編集を行う前に完成ビデオのプレビューを可能としている。このようなノンリニア編集システムの例としては,AVID社のMedia Composerシステムがある。
【0010】
【発明が解決しようとする課題】
以上説明してきたビデオ編集システムの例は,素材映像データは静的である,つまり,データの内容が時々刻々変化することはない。このような静的なデータのみを扱う「静的な」映像処理システムにおいては,あらかじめプログラムを解析して,編集処理をシミュレートして(実際の編集処理は行わず)タイムテーブルを作成しておくことが可能である。しかし,「動的な」映像処理システムにおいては,時々刻々変化する映像データやその他のデータを扱っているので,あらかじめタイムテーブルを作成するといったことはできない。「動的な」映像処理システムの例として,スポーツ中継映像において,現在映像に写っている選手の情報を字幕として合成し,出力する映像処理システムを考えることができる。この場合,字幕の表示を開始する時刻は,選手が映像中に登場する時刻に依存して変化するから,あらかじめいつどこで字幕を表示するということを記述したタイムテーブルを作成しておくことはできない。
【0011】
本発明は,上記問題点を解決するためになされたものであり,動的にシステムの状態が変化する場合でも,映像処理システムを効率的かつ柔軟にプログラム制御することのできる映像処理システム制御方法を提供することを目的とする。
【0012】
【課題を解決するための手段】
本発明は,コンピュータによって動的に状態が変化する映像処理システムを制御する方法であって,リアルタイムに入力される映像を処理する映像処理システムの状態に応じた動作を記述するプログラムであって,基本データ型として映像データ型と,該映像処理システムの基本操作を表す基本演算を備えるプログラムを読み込み,読み込んだプログラムを,前記映像データ型の変数と前記基本演算を節点とし,その間の関係を枝とするグラフ構造で表される内部データ表現に変換し記憶装置に記憶しておき,外部からデータ要求があった場合に,そのデータ要求に応じて該内部データ表現を参照しながら映像処理システムを制御し,映像処理システムが処理した映像をリアルタイムで出力することを特徴とする。プログラムを読み込みながらバッチ的に映像処理システムを制御するのではなく,その動作記述をいったん内部表現に変換しておき,データ要求があって初めて,映像処理システムを現在の状態に応じて制御し,実際の処理を行わせるようにしたので,動的にシステムの状態が変化する場合でも,映像処理システムを効率的かつ柔軟にプログラム制御できる。
【0013】
【発明の実施の形態】
本発明の一実施形態について図1の処理フロー図と,図2に示す構成ブロック図を用いて説明する。
【0014】
まず,図2の構成ブロック図から説明する。図6で説明した従来技術と共通する部分21〜26は説明を省略する。31,32は映像に重畳する字幕情報(文字列情報)である。内部表現蓄積手段33は,プログラムを内部表現に変換したものを保持するためのメモリ領域である。
【0015】
図1に示す処理フローにおいて,ステップ11では,映像処理システム21の動作を記述したプログラムを入力する。
図3に,制御手段25が入力するプログラムの一例を示す。1行目は,変数aに“ニュース1”という名前の映像を代入する。2行目は,変数bに“ニュース1.字幕.日本語”という名前で指定される文字情報を代入する。3行目は,変数aと変数bを重ねあわせて,字幕付きの映像を作成し,変数cに代入する。4行目は,変数cを出力する。
【0016】
ステップ12では,入力したプログラムを内部表現に変換し,内部表現蓄積手段33に蓄える。プログラムの内部表現の一例について,図4を用いて説明する。図3のプログラムにおいては,1行目を読み込んだ時点で,節点52を作成する(節点を作成するだけで,実データを処理するわけではない)。この節点52は,「“ニュース1”という名前の映像を読み込む」という基本演算を表している。変数a,b,cは,それぞれコンピュータ・メモリー中の名前テーブル51として実現され,この時点で,変数aは節点52を指すように設定される。
【0017】
同様に,プログラムの2行目が読み込まれた時点で,節点53が作成され,変数bは節点53を指すように設定される。プログラムの3行目が読み込まれた時点で,節点54が作成され,変数a,bの内容が名前テーブル51を介して参照され,節点54から節点52,節点53への枝(リンク)が形成される。ここまでは,実データの処理をまったく行わないで,内部表現のみを作成する処理である。
【0018】
ステップ13では,データ要求待ちの状態に入り,データ要求があるまで待機する。データ要求は,例えば,利用者26が映像の再生,早回しなどを指示することによって発生する。
【0019】
ステップ14では,データ要求に従って,内部表現を参照しながら映像処理システム21を制御し,ステップ15では,その結果得られるデータを要求元(利用者26)に返す。
【0020】
制御手段25による映像処理システム21の具体的な制御について,図4に示した例を用いて説明する。例えば,利用者26が映像の再生を指示した場合,制御手段25によって「時刻0:00:00の画像データ」を得るためのデータ要求(データ要求A)と,「時刻0:00:00の音声データ」を得るためのデータ要求(データ要求B)に分解される。データ要求Aに対して,まず,節点54が参照される。演算overlapと二つの下位節点52,53から画像データを取得し,それらを合成するものである。したがって,節点52を参照し,時刻0:00:00に対応する実画像データを読み込むように,映像処理システム21を制御する。同様に,節点53を参照し,時刻0:00:00に対応する字幕データを読み込むように,映像処理システム21を制御する。
【0021】
次に,読み込まれた画像データと字幕データを重ねあわせて出力する。データ要求Bについても同様であるが,字幕データには音声に対応するデータが含まれていないので,節点52から得られる音声データをそのまま出力する。
【0022】
一つのデータ要求に対する出力が得られたら,ステップ13に戻り,データ要求待ち状態に入る。映像再生の場合には,即座に,次の時刻に対応する画像データを取得するためのデータ要求が発行されて,ステップ14,15の処理が繰り返される。
【0023】
図3に示したプログラムの例は,「動的」に変化する映像を扱わない場合について説明したが,動的に変化するデータがあっても同じように処理を行うことができる。例えば,次のようなプログラムを考える。
【0024】
Video a = Live(“Sports”);
Text b = Caption(GetPersonIn(a));
c = overlap(a,b);
return c ;
1行目の Live(“Sports”) は,リアルタイムに入力されるスポーツ中継映像を表す。その中継映像を映像変数aに代入する。変数aで参照される映像データは,時々刻々内容が変化する動的なデータである。2行目の演算は,GetPersonIn(a)で,映像a,つまり中継映像に写っている選手の名称を返す演算である。選手名称は外部から入力するようにしてもよいし,画像認識処理を用いて獲得するようにしてもよい。 Caption()で表される演算は,選手名称を与えると,あらかじめデータベースに格納されている選手情報を検索してきて,その結果を変数bに代入する。3行目では,上で説明した静的な場合と同様に,画像を重ね合わせて映像変数cに代入する。
【0025】
上記のプログラム例に対応するグラフ表現を,図5に示す。図4の例と異なる点だけ説明を加える。節点61は,中継映像チャンネルに対応する節点であり,時々刻々内容が変化している。節点62は,節点61で表される映像に現在どの選手が写っているかを調べるという演算を表している。節点63は,節点62の演算で返される選手名称を入力として受け取って,選手情報データベース64を参照しながら選手情報を表す文字列を返す演算を表している。
【0026】
なお,上記実施形態において,映像処理システム21はコンピュータで実行可能な手続きの集まりとして,素材映像蓄積手段23はコンピュータ制御可能なハードディスクなどの記憶装置によって,制御手段25はCPUによって,内部表現蓄積手段33はコンピュータメモリなどの記憶装置によって実現することができる。また,以上説明した制御方法は,コンピュータによって実行可能なプログラムによって実現することができ,ハードディスク,コンパクトディスク,フロッピーディスクなどの記録媒体に記録して提供することが可能である。
【0027】
【発明の効果】
以上説明したように,本発明によれば,データ要求に応じて処理を行うようにしたので,利用者の必要としないデータを得るための余計な処理を省くことができ,動的にシステムの状態が変化する場合でも効率的かつ柔軟に映像処理システムを制御できる効果がある。
【図面の簡単な説明】
【図1】本発明の一実施形態の処理フロー図である。
【図2】本発明の一実施形態例を説明するための構成ブロック図である。
【図3】映像処理システムの動作を記述したプログラムの例である。
【図4】内部データ表現の模式図である。
【図5】別の内部データ表現の模式図である。
【図6】従来技術を説明するための構成ブロック図である。
【符号の説明】
11〜15 制御手段の処理ステップ
21 映像処理システム
22 素材映像
23 素材映像蓄積手段
25 制御手段
24 完成映像
26 利用者
31,32 字幕情報
33 内部表現蓄積手段
Claims (3)
- コンピュータによって動的に状態が変化する映像処理システムを制御する方法であって,
リアルタイムに入力される映像を処理する映像処理システムの状態に応じた動作を記述するプログラムであって,基本データ型として映像データ型と,該映像処理システムの基本操作を表す基本演算を備えるプログラムを読み込む過程と,
読み込んだプログラムを,前記映像データ型の変数と前記基本演算を節点とし,その間の関係を枝とするグラフ構造で表される内部データ表現に変換し記憶装置に記憶する過程と,
外部からデータ要求があった場合に,そのデータ要求に応じて前記内部データ表現を参照しながら映像処理システムを制御する過程と,
前記映像処理システムが処理した映像をリアルタイムで出力する過程とを有する
ことを特徴とする映像処理システム制御方法。 - コンピュータによって動的に状態が変化する映像処理システムを制御する装置であって,
リアルタイムに入力される映像を処理する映像処理システムの状態に応じた動作を記述するプログラムであって,基本データ型として映像データ型と,該映像処理システムの基本操作を表す基本演算を備えるプログラムを読み込み,読み込んだプログラムを,前記映像データ型の変数と前記基本演算を節点とし,その間の関係を枝とするグラフ構造で表される内部データ表現に変換する制御手段と,
前記内部データ表現を蓄積しておく内部表現蓄積手段とを具備し,
前記制御手段が,外部からデータ要求があった場合に,そのデータ要求に応じて前記内部表現蓄積手段に蓄積している内部データ表現を参照しながら映像処理システムを制御し,前記映像処理システムが処理した映像をリアルタイムで出力する
ことを特徴とする映像処理システム制御装置。 - コンピュータによって動的に状態が変化する映像処理システムを制御するための制御プログラムを記録したコンピュータ読み取り可能な記録媒体であって,
リアルタイムに入力される映像を処理する映像処理システムの状態に応じた動作を記述するプログラムであって,基本データ型として映像データ型と,該映像処理システムの基本操作を表す基本演算を備えるプログラムを読み込む処理と,
読み込んだプログラムを,前記映像データ型の変数と前記基本演算を節点とし,その間の関係を枝とするグラフ構造で表される内部データ表現に変換し記憶装置に蓄積しておく処理と,
外部からデータ要求があった場合に,そのデータ要求に応じて前記内部データ表現を参照しながら映像処理システムを制御する処理と,
前記映像処理システムが処理した映像をリアルタイムで出力する処理とを,
コンピュータに実行させるプログラムを格納したことを特徴とする映像処理システム制御プログラム記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP06083698A JP3619005B2 (ja) | 1998-03-12 | 1998-03-12 | 映像処理システム制御方法および装置,並びにそのプログラム記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP06083698A JP3619005B2 (ja) | 1998-03-12 | 1998-03-12 | 映像処理システム制御方法および装置,並びにそのプログラム記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11259670A JPH11259670A (ja) | 1999-09-24 |
JP3619005B2 true JP3619005B2 (ja) | 2005-02-09 |
Family
ID=13153853
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP06083698A Expired - Fee Related JP3619005B2 (ja) | 1998-03-12 | 1998-03-12 | 映像処理システム制御方法および装置,並びにそのプログラム記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3619005B2 (ja) |
-
1998
- 1998-03-12 JP JP06083698A patent/JP3619005B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH11259670A (ja) | 1999-09-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4514928B2 (ja) | 編集装置及び方法 | |
US6628303B1 (en) | Graphical user interface for a motion video planning and editing system for a computer | |
US6584463B2 (en) | Video searching method, apparatus, and program product, producing a group image file from images extracted at predetermined intervals | |
US7054508B2 (en) | Data editing apparatus and method | |
US6571054B1 (en) | Method for creating and utilizing electronic image book and recording medium having recorded therein a program for implementing the method | |
JPH1021261A (ja) | マルチメディアデータベース検索方法及びシステム | |
CN101110930B (zh) | 记录控制装置和记录控制方法 | |
EP0403118B1 (en) | Audio/visual compilation in a data processing system | |
EP0916136B1 (en) | Graphical user interface for a motion video planning and editing system for a computer | |
US6272279B1 (en) | Editing method of moving images, editing apparatus and storage medium storing its editing method program | |
Matthews et al. | VideoScheme: a programmable video editing systems for automation and media recognition | |
JPH1013773A (ja) | デジタル画像管理検索システム及びデジタルカメラシステム | |
JP3619005B2 (ja) | 映像処理システム制御方法および装置,並びにそのプログラム記録媒体 | |
JP2741871B2 (ja) | 動画像検索編集方法 | |
JP2002142188A (ja) | 動画像編集方法及び装置 | |
JP3595871B2 (ja) | 連続メディア情報の表示・編集装置と連続メディア情報の表示・編集方法およびその処理手順を記録した記録媒体 | |
JP3456176B2 (ja) | 録画再生処理装置及び録画再生処理システム | |
JPH1166815A (ja) | 編集装置 | |
JPH1051734A (ja) | 動画像編集装置および動画像編集方法 | |
JPH0375699A (ja) | 音声編集方法及び装置 | |
JPH07334523A (ja) | 情報処理装置 | |
JP2001169237A (ja) | 動画編集再生装置 | |
JP3263443B2 (ja) | アニメーション編集装置 | |
JPH08292964A (ja) | 要求に応じて速やかに試写のできる情報検索システム | |
JPH10322647A (ja) | 動画エディットシステム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040406 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040604 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040713 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040811 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20041109 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20041111 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071119 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081119 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091119 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101119 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101119 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111119 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111119 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121119 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121119 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131119 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |