JP2003030932A - 動画再生装置及び動画再生方法 - Google Patents
動画再生装置及び動画再生方法Info
- Publication number
- JP2003030932A JP2003030932A JP2002131092A JP2002131092A JP2003030932A JP 2003030932 A JP2003030932 A JP 2003030932A JP 2002131092 A JP2002131092 A JP 2002131092A JP 2002131092 A JP2002131092 A JP 2002131092A JP 2003030932 A JP2003030932 A JP 2003030932A
- Authority
- JP
- Japan
- Prior art keywords
- moving image
- data
- image data
- reproduction
- moving picture
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Television Signal Processing For Recording (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
- Electrophonic Musical Instruments (AREA)
Abstract
御することにより、演奏される音楽に合わせて動画を再
生表示する動画再生制御システムの提供。 【解決手段】このシステムの或るモードM1では、動画
データ再生中、CPU1は、テンポ検出機構TC,TM
からの演奏音楽のテンポに応じた時間軸制御信号を時間
軸制御部71に供給する。動画再生部73は、時間軸制
御部71により時間軸制御信号に応じて調整された再生
速度に従って、単位データ当りの読出し時間を伸縮して
動画データをRAM70から読み出し、ディスプレイ1
5に出力する。別のモードM2では、動画データの特定
フレーム再生タイミングに特定の音楽演奏タイミングを
セットした情報TSに基づき、動画データの再生制御系
1,71,73により、各演奏タイミングに一致する再
生タイミングで、特定フレームの動画データをRAM7
0から読み出し、ディスプレイ15に出力する。
Description
の時間軸を制御し音楽に合わせて動画を再生表示するこ
とができる動画再生装置及び動画再生方法に関する。
に応じて音楽を演奏する装置は、それぞれ存在してい
た。また、動画を再生する際に、単純に2倍に伸ばした
り或いは1/2倍に縮めるというように、簡単な再生速
度の変更を行う装置も、ビデオデッキ等にみられるよう
に、存在はしていた。
楽のテンポと動画の再生タイミングを合わせることがで
きなかった。また、音楽のテンポと動画の再生タイミン
グをスタート時に同期再生させて頭だけを合わすことが
できても、曲の途中でテンポを早くした場合は動画のフ
レームが余り、遅くした場合はフレームが足りなくなる
などの不都合があった。さらに、ループ再生用の動画素
材を、可変するテンポに追随させることも困難であっ
た。
な従来技術の問題点に鑑み、動画の再生中にも時間軸が
可変に制御され、演奏される音楽に合わせて動画を再生
表示することができる動画再生装置及び動画再生方法を
提供することを目的とする。
データメモリ(70)に記憶されている動画を表わす動
画データを再生して表示装置(15)に動画を表示する
ための動画再生装置及び動画再生方法において、動画デ
ータの再生中、音楽の演奏テンポに関するテンポ情報を
入力し、入力したテンポ情報に応じた読出し速度で動画
データメモリ(70)に記憶されている動画データを読
み出して表示装置(15)に出力するようにしたことに
ある〔請求項1,11〕。なお、括弧書きの符号は、理
解の便のために、対応する実施例の参照記号又は請求項
の番号を併記したものであり、以下においても同様であ
る。
73)は、入力したテンポ情報に応じて動画データの再
生速度を制御するための再生速度制御信号を生成し、か
つ、動画データメモリ(70)に記憶された動画データ
を、単位データ当たりの読出し時間が生成された再生速
度制御信号によって変化する読出しレートで読み出して
表示装置(15)に出力するようにされ得る〔請求項
2,12〕。この再生速度制御信号は、例えば、動画デ
ータの再生における時間軸を制御する時間軸制御情報で
ある。
ンポを表わすテンポクロック信号又は音楽データの再生
時間を表わすタイムコード(TC)を採用することがで
きる〔請求項3,13;4,14〕。これらのテンポク
ロック信号及びタイムコードは、MIDI規格によって
定義されたものを利用することができる。また、さらに
ユーザによって操作されて音楽の演奏テンポを指示する
ための操作子(TM)を備え、操作子の操作位置をテン
ポ情報とするようにしてもよい〔請求項5,15〕。こ
の場合、操作子(TM)は、直線、円形など一次元方向
に変位するもので構成し、この操作子の一次元位置を検
出して、この検出位置をテンポ情報とするとよい。この
音楽の演奏テンポを表わすテンポ情報は、例えば、時間
経過に従って配置された楽曲のメロディ、リズム、伴奏
などを自動的に演奏するための演奏データの再生速度を
表わす。
ム数で表わされる)の動画の再生時間が、演奏中の音楽
において対応する区間(例えば、小節、拍、チック数な
どで表わされる)の長さに追随するように、動画の再生
時間軸が音楽の演奏テンポに応じて制御される。従っ
て、動画の再生中に演奏される音楽の演奏テンポが変化
しても、その演奏テンポに合わせた動画再生が可能にな
る。
データ中の少なくとも1箇所の音楽データと、一連の動
画データ中の少なくとも1箇所の動画データとの再生タ
イミングの一致を指定するためのタイミングセット情報
(TS)を出力し、かつ、出力されたタイミングセット
情報(TS)に基づいて、少なくとも1箇所の動画デー
タの再生タイミングを少なくとも1箇所の音楽データの
再生タイミングに一致させるように、動画データメモリ
(70)に記憶されている動画データの読出しタイミン
グを制御して、読み出した動画データを表示装置(1
5)に出力するようにしたことにある〔請求項7,1
7〕。
箇所の音楽データと、一連の動画データ中の少なくとも
2箇所の動画データとの再生タイミングの一致を指定す
るためのタイミングセット情報(TS)を出力し、か
つ、出力されたタイミングセット情報(TS)に基づい
て、少なくとも2箇所の動画データの再生タイミングを
少なくとも2箇所の音楽データの再生タイミングに一致
させるように、動画データメモリ(70)に記憶されて
いる動画データの読出しタイミング及び読出し速度を制
御して、読み出した動画データを表示装置(15)に出
力するようにしてもよい〔請求項9,19〕。
S)は、例えば、動画データの特定フレームに対応させ
て、音楽データにおける特定の演奏タイミングを表わす
ものである。見方を逆にすれば、音楽データにおける特
定の演奏タイミングに対応させて、動画データの特定フ
レームを表わすものである。そして、この特定の演奏タ
イミングは、演奏開始後の絶対時間、小節、拍又はチッ
ク数を用いて表わされる。また、音楽データとしては、
時間経過に従って配置された楽曲のメロディ、リズム、
伴奏などを自動的に演奏するための演奏データを用いる
ことができる。
ず、所望の動画フレームを所望部分の音楽演奏に同期さ
せて再生することができる。また、動画のつなぎ目部分
を破綻させないようにしながら動画を再生することがで
きるため、ループ再生用の動画素材をも使用することが
できる。従って、例えば、音楽のアクセント部分と動画
の或るフレームとの同期をリアルタイム作業の中で簡単
に行うことができるので、さらに、演奏及び再生現場で
のバリエーションの幅を広げることができる。
ループ再生する場合、テンポに合わせて幾つもの動画素
材を用意したりすることなく、お気に入りのループ素材
を使用してどんなテンポにも対応することができるよう
になる。従って、事前の打ち合わせや編集が難しいDJ
(Disc Jockey )&VJの関係も、演奏及び再生現場に
おいてVJ側で臨機応変に対処することができる。
御によって読み出された動画データと、別途入力した動
画データとを合成して表示装置(15)に出力するよう
にしたことにある〔請求項6,8,10,16,18,
20〕。この場合、別途入力する動画データとしては、
例えば、映像再生器(14)からの動画データを利用す
ることができる。これによれば、映像演出効果を更に高
めた動画を出力することができる。
ら、以下の(1)〜(3)のように構成することもでき
る。
と、動画の再生中に可変の時間軸制御信号を入力する制
御入力手段と、時間軸制御信号に応じて動画の再生速度
を制御する動画再生速度制御手段と、再生速度に応じて
情報単位当りの読出し時間を伸縮し動画記憶手段から動
画情報を読み出す動画読出し手段と、読み出された動画
情報を表示装置に出力する動画出力手段とを具備する動
画時間軸制御指示装置。この動画時間軸制御指示装置に
おいては、制御入力手段は、時間軸制御信号としてテン
ポクロックを入力し、動画再生速度制御手段は、テンポ
クロックに応じて動画の再生速度を制御するか、或い
は、制御入力手段は、時間軸制御信号としてタイムコー
ドを入力し、動画再生速度制御手段は、タイムコードに
応じて動画の再生速度を制御するように構成することが
できる。さらに、動画の再生速度の緩急を指示する操作
子と、操作子の操作を検出する検出手段とを備え、制御
入力手段は、検出された操作子の操作に基づく時間軸制
御信号を入力するように構成することができる。また、
この場合、操作子は1次元位置検出形操作子であること
が好ましい。
と、動画情報の再生タイミングについて、複数の特定再
生タイミングを指定する再生タイミング指定手段と、楽
音情報の演奏タイミングについて、複数の特定演奏タイ
ミングを指定する演奏タイミング指定手段と、指定され
た特定再生タイミング及び特定演奏タイミングに基づい
て、各特定再生タイミングを各演奏タイミングに対応す
るように調整すると共に、各特定再生タイミング間にお
ける複数の中間再生タイミングを演算する再生タイミン
グ調整手段と、調整された特定再生タイミング及び演算
された中間再生タイミングで動画情報を読み出す動画読
出し手段と、読み出された動画情報を表示装置に出力す
る動画出力手段とを具備する動画時間軸制御指示装置。
間軸制御指示装置において、さらに、別に入力される動
画情報と、動画記憶手段から動画読出し手段によって読
み出された動画情報を合成する動画合成手段を具備する
動画時間軸制御指示装置。
明の好適な実施例を詳述する。なお、以下の実施例は単
なる一例であって、この発明の精神を逸脱しない範囲で
種々の変更が可能である。
の一実施例による動画再生制御システム(「動画時間軸
制御指示システム」とも呼ばれる。)のハードウエア構
成のブロック図が示されている。このシステムの例で
は、パーソナルコンピュータ(PC)を利用して動画時
間軸制御指示を含む各種処理を行わせる構成がとられて
いる。システムは、中央処理装置(CPU)1、読出専
用メモリ(ROM)2、本体側ランダムアクセスメモリ
(本体RAM)3、外部記憶装置4、検出回路5、表示
回路6などの本体PCの要素の外に、動画処理回路7、
MIDIインターフェース(MIDII/F)8、通信
インターフェース(通信I/F)9などを備え、これら
の装置1〜9は、バス10を介して互いに接続されてい
る。
のソフトウエア・プログラムに従いタイマ11による時
間計測を利用して種々の制御を行い、特に、後述する動
画時間軸制御指示などの処理を管理する。ROM2に
は、このシステムを制御するための所定の制御プログラ
ムが記憶されている。これらの制御プログラムは、基本
的な情報処理と共に、この発明による動画時間軸制御指
示などの処理を管理するためのプログラム、各種テーブ
ル、各種データなどを含む。本体RAM3は、各種処理
に際して必要なデータやパラメータを記憶する一時記憶
部として機能する。
D)の外に、コンパクトディスク・リード・オンリィ・
メモリ(CD−ROM)、フレキシブルディスク(F
D)、光磁気(MO)ディスク、ディジタル多目的ディ
スク(DVD)、ZIP、半導体メモリ等の可搬型記憶
媒体を用いた装置から成り、各種制御プログラムや各種
データを記憶することができる。従って、動画時間軸制
御指示などに必要なプログラムや各種データは、ROM
2ばかりでなく、必要に応じて、外部記憶装置4からR
AM4内に読み込まれ、また、処理結果が外部記憶装置
4に記録され得る。
続され、パネル操作子装置12は、各種のスイッチやキ
ー、その他のタイプの操作子を備える。これらの操作子
は、パネル操作子とも呼ばれ、動画時間軸制御指示など
の処理のために、ユーザが動画の再生モードなどの各種
設定や指示の情報をシステムに入力するために用いられ
る。例えば、モードスイッチ(M1,M2)は、動画の
再生モードを切り換えるために設けられ、リボンコント
ローラ(操作指が接触している1次元位置を検出するリ
ニア操作型パッド操作子)は、音楽及び動画の進行速度
をリアルタイムで操作するためのリアルタイム操作子と
して設けられる。
体ディスプレイ13や、各種インジケータの表示状態を
制御する。本体ディスプレイ13の表示状態に関連し
て、ユーザがパネル操作子装置13の操作子を操作する
ことにより、動画時間軸制御指示に関する設定や指示が
行われる。そして、上述したこれらの要素1〜6、10
〜13により本体システム(又は本体PC)が構成され
る。
る。動画処理回路7には、VTRやビデオディスク再生
器などの映像再生器14、及び、CRTやプロジェクタ
のような比較的大きな画面をもつ映像ディスプレイ15
が接続される。動画処理回路7は、映像再生器14から
のビデオ信号(動画映像信号)を処理して所定の再生速
度で動画情報を再生し、この動画情報に基づく映像を映
像ディスプレイ15に表示させる。そして、これらの動
画処理回路7、映像再生器14及び映像ディスプレイ1
5によって動画再生システムが構成される。
D変換器が内蔵されており、映像再生器14から出力さ
れたアナログ形式のビデオ信号は、この入力部にてディ
ジタル形式のビデオ信号(動画情報)に変換される。そ
して、動画処理回路7内においては、変換されたディジ
タル形式の動画情報に対して各種処理が施される。ま
た、動画処理回路7の出力部には、D/A変換器が内蔵
されており、動画処理回路7にて処理されたディジタル
形式の動画情報がアナログ形式のビデオ信号に変換され
て映像ディスプレイ15に出力される。
は、音楽データ(music data)を発生するシーケンサや
パーソナルコンピュータ(PC)などで構成されるMI
DI機器16が接続される。MIDI機器16には、音
源回路(tone signal generator)17が接続される。
音源回路17は、入力された音楽データに基づいて楽音
信号(tone signal )を形成して出力する。音源回路1
7には、ディジタル・シグナル・プロセッサ(DSP:
Digital Signal Processor)やスピーカを含むサウンド
システム18が接続される。
信号に種々の音楽的効果(musicaleffect)を付与して
この音楽的効果が付与された楽音信号に対応した楽音
(musical sound )を発生する。MIDI機器16は、
自身のもつ音楽データ(音楽情報)に加えて、例えば、
ROM2や外部記憶装置4に記憶されている音楽データ
(音楽情報)も、音源回路17に出力することができ
る。従って、ROM2や外部記憶装置4に記憶されてい
る音楽データに基づく楽音信号に対応した楽音も、サウ
ンドシステム18から発生される。
ードMIDIファイル(SMF)形式の自動演奏データ
(automatic performance data)であり、MIDI機器
16は該自動演奏データを再生する。音楽データ(自動
演奏データ)の再生に当っては、音楽データに付随する
タイムコードやテンポクロック(MIDIクロック)指
令、或いは、リアルタイム操作子(12)の指示などに
従って、再生のテンポが制御される。そして、これらの
MIDI機器16、音源17及びサウンドシステム18
によって音楽演奏システムが構成される。
の再生開始から絶対的な時間を基準にして定期的に与え
られるタイミング信号であり、このタイムコードは、自
動演奏データの再生開始からの時間を表わす時間情報
(時、分、秒)を含む。また、テンポクロックは、音楽
のテンポに対応した時間間隔で定期的に与えられるタイ
ミング信号であり、例えば、4分音符に対応した時間長
の1/24の時間長ごとに与えられる。
は、ローカルエリアネットワーク(LAN)やインター
ネット、電話回線等の通信ネットワーク19を介してサ
ーバコンピュータ20等に交信可能に接続される。従っ
て、サーバコンピュータ16等から制御プログラムや音
楽データなどの各種データを外部記憶装置4にダウンロ
ードすることもできる。
について説明したが、本体システム及び音楽演奏システ
ムについては、他の同等の処理機能を有する電子楽器や
自動演奏装置などの情報処理装置を用い、これに動画再
生システムを接続して動画再生制御システム(動画時間
軸制御指示システム)を構成してもよい。
一実施例による動画時間軸制御指示システムにおける動
画処理機能部(動画再生システム)のブロック図を示
す。動画処理回路7は、動画処理に専用の専用RAM7
0の外に、時間軸制御部71、動画録画部(ビデオサン
プラー)72、動画再生部73及び映像合成部74を備
える。
による動画再生制御システム(動画時間軸制御指示シス
テム)の概略を簡単に説明しておく。この動画再生制御
システムでは、動画データメモリ(専用RAM)70に
予め記憶された動画データ(動画情報)の読出しに際し
て、動画データを再生するための時間軸が可変に制御さ
れる。或るモードM1では、動画データ再生中、CPU
1は、テンポ検出機構TC,TMからの演奏音楽のテン
ポに応じた時間軸制御信号を時間軸制御部71に供給す
る。時間軸制御部71は、時間軸制御信号に応じて再生
速度を調整(制御)し、動画再生部73は、調整された
再生速度に従って単位データ当りの読出し時間を伸縮し
て動画データをデータメモリ70から読み出し、表示装
置(ディスプレイ)15に出力する。別のモードM2で
は、動画データの特定フレーム再生タイミングに特定の
音楽演奏タイミングをセット(TS)しておき、CPU
1、時間軸制御部71及び動画再生部73から成る動画
データの再生制御系により、このタイミングセット情報
TSに基づいて、各演奏タイミングに一致する再生タイ
ミングで特定フレームの動画データをデータメモリ70
から読み出し、表示装置15に出力する。
説明する。まず、動画録画部72は、本体システムのC
PU1の指示に従って、予め、VTRなどの映像再生器
14からのビデオ信号(動画映像信号)をサンプリング
し、ディジタル動画データのストレージとして機能する
専用RAM70に記録する。すなわち、パネル操作子1
2からの録画開始指示に応じて、その時点で映像再生器
14から動画処理回路7に入力しているビデオ信号が、
専用RAM70の所定の記憶領域にディジタル動画デー
タとして記億される。この専用RAMには複数の記憶領
域が設定可能であり、複数のディジタル動画データを記
憶することができる。
処理されるビデオ信号(動画映像信号)は、図示しない
入力部にてディジタル信号に変換されるものである。従
って、動画録画部72は、ディジタル形式のビデオ信号
を専用RAM70にディジタル録画データとして書き込
むことになる。また、このディジタル録画データの書込
みにおいては、専用RAM70に記憶されるデータ量を
少なくするために、動画録画部72は、ディジタル動画
データを圧縮して専用RAM70に書き込むようにする
とよい。
ら動画再生が指示される。例えば、パネル操作子12に
は、専用RAMに記憶された複数の動画データに対応し
た複数の動画選択スイッチが設置されている。CPU1
は、何れかの動画選択スイッチの操作に応じて、動画処
理回路7に対し、対応する動画データを再生開始するよ
う指示する。
楽データにより動画データの再生を指示することもでき
る。MIDI規格には、ディジタル・レコーダやVTR
を制御するためのMIDIマシン・コントロール(MM
C)規格が定められている。MMCを用いた場合、ロケ
ート命令に応じて複数動画データの中から1つの動画デ
ータを選択し、デファード(deferred)・プレイ命令に
応じて選択された動画データを再生開始することができ
る。なお、ロケート命令とは、複数動画データ中の再生
される動画データの位置を指令する命令である。また、
デファード・プレイ命令とは、動画データの再生開始の
タイミングを指定する命令である。
の動画データを再生したい場台、音楽データの所望のタ
イミングに合わせてロケート命令、デファード・プレイ
命令を配置すればよい。MIDI機器16により該音楽
データが再生されると、その配置したタイミングでロケ
ート命令、デファード・プレイ命令がそれぞれ取り出さ
れ、取り出されたロケート命令、デファード・プレイ命
令は、MIDIインターフェース(I/F)8を介して
CPU1に取り込まれる。CPU1は、該ロケート命令
に応じて動画データを選択し、該デファード・プレイ命
令に応じて選択された動画データを再生開始するよう動
画処理回路7を制御する。
のようなCPU1の指示に従って、専用RAM70に記
録された複数のサンプリング動画データから所望の動画
データを選択し、選択された動画データが、時間軸制御
部71による制御の下に、所定の速度で読み出されて順
次再生される。なお、前述のように、圧縮した動画デー
タが専用RAMに記憶されている場合には、動画再生部
73は、専用RAM70から読み出した動画データを伸
長する。ここで、時間軸制御部71は、再生モード(M
1,M2)に応じたCPU1からの制御入力に従い、音
楽のテンポ指示情報TC或いは特定のタイミングセット
TSに基づいて動画再生部73を制御し、動画の再生を
コントロールする機能を有する。
らのテンポ指示情報TC或いは特定タイミングセットT
Sに基づいて、現在演奏されている音楽の進行に合う値
となる動画再生速度で動画再生を行うように、動画再生
部73に指示を与える。そして、動画再生部73は、指
示された動画再生速度で専用RAM70から動画情報を
順次読み出して動画再生を行うのである。なお、これら
のテンポ指示情報及び特定のタイミングセットTSに基
づく動画再生速度の制御については、後で詳述する。
は、CPU1からの指示により、専用RAM70中から
選択された動画データの一部又は全部を何回も繰り返し
て再生する「ループ再生」を用いることができ、この実
施例によれば、シームレスに且つ破綻(画像の切落しや
空白画像の発生)なくループ再生することができる。
ータは、映像合成部74を介して、映像ディスプレイ1
5の画面上に所定の再生速度で表示される。この例で
は、映像合成部74は、動画再生部73から、再生速度
が制御された動画データを(例えば、主画像として)受
けると共に、映像再生器14から、実時間で再生される
(所謂“たれ流し”)ビデオ信号による他の動画データ
を(例えば、背景画像として)受けて、両動画データを
合成する。これによって、映像ディスプレイ15には、
両動画データを合成した映像が表示される。なお、映像
ディスプレイ15に供給される信号は、前述したよう
に、図示しない出力部内に設けたアナログ形式の映像信
号である。
ー画像)の合成手法には、動画再生部73からの時間軸
可変の再生動画と映像再生器14からの実時間動画とを
単純に重ね合わせたり、それぞれに関連するクロスフェ
ードなどをかけたり、再生動画と実時間動画の論理和又
は論理積をとったり、両者を別々の画面領域に表示させ
各表示領域を変化させていくなど、必要に応じて、種々
の映像演出効果を採用することができる。
示システムでは、動画処理回路7を第0再生モードで動
作させることができる。第0再生モードにおいては、図
2(左上)に示すように、音楽データのテンポクロック
(MIDIクロック)やタイムコードなどの指示による
テンポ指示情報TCに基づいて、動画再生速度を変化さ
せる。つまり、音楽データを用いて演奏する場合、CP
U1は、タイムコードの差分値(タイムコードの時間間
隔)やテンポクロック(MIDIクロック)間の時間間
隔で示されるテンポ指示情報を受けて、演奏される音楽
のテンポに変更があったことを感知し、これを時間軸制
御部71に伝える。時間軸制御部71は、CPU1から
制御入力として与えられたテンポ指示情報に基づいて、
動画再生部73における動画再生を制御する。
タに対する読出し速度がテンポ指示に応じて変化する様
子を極く概略的に表わした図である。同図において、○
印は、動画データにおける所定の動画データ単位〔所定
のフレーム数。以下、単に「区間」という。〕及び音楽
データにおける音楽データ単位〔所定の小節(bar)
数。拍数又はチック(TICK)数でもよく、何れの場
合も、整数でなくても(小数込みの値でも)よい。以
下、単に「区間」という。〕を表わし、○印の幅は、各
区間のデータの再生又は演奏密度(情報単位当り時間
量)の変化を視覚的に分かりやすく示すだけのものであ
る。なお、チック数とは、シーケンサにおける時間分解
能を表わす単位時間間隔の数を示す。
に記憶されている動画データを表わす。これに対して、
第2段は、経過時間t(sec)に対して、テンポクロ
ックなどの指示によるテンポ指示情報に基づくテンポ値
が変化する様子を示し、縦軸の“0”は標準テンポ値
(例えば、テンポ値=120)を表わす。
データに従って音楽演奏が開始すると、テンポ指示情報
により指示されるテンポ値に対応する速度で動画再生が
行われる。例えば、音楽データのテンポ情報が“0”に
対応するテンポ指示値(標準テンポ値=120)に設定
されていれば、動画処理回路7においては、専用RAM
70に記憶されている動画データが、CPU1からの指
令に基づいて、時間軸制御部71及び動画再生部73に
より、通常の動画再生速度、例えば、30フレーム/秒
で読み出される。
値から変化すると、変化したテンポ指示値がCPU1か
ら指令され、指令されたテンポ指示値に基づいて音楽演
奏及び動画再生が行われる。なお、このテンポ指示値
は、テンポクロックの時間間隔やタイムコードの差分値
(タイムコードの時間間隔)などの情報から得ることが
できる。
うにテンポ値が変化すると、音楽データが、変化したテ
ンポ値に応じて〔指定されたテンポ値から正負(+,
−)のテンポ値変化分に応じた分だけ変化したテンポ
で〕最下段のように再生されるのに伴って、動画データ
の読出し速度は、通常の動画再生速度から、正負(+,
−)のテンポ値変化分に応じた分だけが変化し、動画デ
ータは、第3段に示されるように、テンポ値に応じた速
度で再生されるので、動画の再生を音楽の演奏に合わせ
る演出効果を得ることができる。SMF等の音楽データ
では、テンポ値を変更したいタイミングにテンポ情報を
配置することができる。その音楽データを再生すると、
そのタイミングでテンポ情報が現われてテンポ値が変更
される。すなわち、音楽データに含まれるテンポ情報に
基づいて、音楽演奏と動画再生を同時に制御することが
できる。
示システムでは、操作子装置12中のモードスイッチM
1を操作したとき(図2参照)、動画処理回路7を第1
再生モードで動作させることができる。第1再生モード
においては、音楽の演奏中、CPU1は、リアルタイム
操作子の操作に基づくテンポ変更(操作)情報TMを受
けて、演奏されている音楽のテンポの変更操作があった
ことを感知し、これを時間軸制御部71に伝える。時間
軸制御部71は、CPU1から制御入力として与えられ
たテンポ変更(操作)情報に基づいて、動画再生部73
における動画再生を制御する。
タに対する読出し速度がテンポの変更操作に応じて変化
する様子を極く概略的に表わした図である。同図におい
ても、○印の意味は前述したところと同じである。パネ
ル操作子装置12には、既に説明したように、音楽演奏
のテンポをリアルタイムで変更操作するために、リボン
コントローラ(1次元接触位置検出を行うリアルタイム
操作子)が設けられている。図4の最上段は、動画再生
専用RAM70に記憶されている動画データを表わす。
これに対して、第2段は、経過時間t(sec)に対す
るリボンコントローラの操作量の変化を示し、縦軸の
“0”は、リボンコントローラ操作の原点位置である。
接触すると、原点位置=“0”に対応する速度で音楽演
奏及び動画再生が行われる。つまり、音楽演奏システム
16〜18においては、例えば、標準テンポ値=120
とすれば、原点位置に対応するテンポ値=120で演奏
される。すなわち、CPU1はテンポ値=120のテン
ポクロック信号を発生してMIDI機器16に供給し、
MIDI機器16では、供給されるテンポクロック信号
に同期して音楽データの再生を行う。また、この場合、
動画処理回路7においては、専用RAM70に記憶され
ている動画データが、CPU1からの指令に基づいて、
時間軸制御部71及び動画再生部73により、通常の動
画再生速度、例えば、30フレーム/秒で読み出され
る。
操作指をタッチすると、タッチした指の位置(原点位置
=“0”からの変位)に応じた操作量がCPU1から指
令され、指令された操作量に基づいて音楽演奏及び動画
再生が行われる。従って、第2段のようにリボンコント
ローラを操作すると、音楽データは、MIDI機器16
において、リボンコントローラの操作量に応じて、指定
されたテンポ値から正負(+,−)の操作量に応じた分
だけ変化したテンポで、最下段のように再生される。こ
れに対応して、動画データの読出し速度も、通常の動画
再生速度から、正負(+,−)の操作量に応じた分だけ
が変更され、動画データは、第3段に示されるように、
リボンコントローラの操作量に応じた速度で再生される
ので、動画の再生を音楽の演奏に合わせることができ
る。
画再生が開始されると同時に、第2段のように、リボン
コントローラの操作を開始し、一旦正方向に操作してか
ら負方向に操作し原点位置=“0”を通った後、再び正
方向に操作し、時点t1において、所定の正位置で操作
を停止すると同時に、負の所定位置にジャンプして再度
正方向に操作し時点t2で操作を停止(操作指をリボン
コントローラから離すこと)したままにした場合につい
て示されている。
最下段に示されるように、時点t0で最初の区間(小
節、拍又はチック数で規定される)n0の音楽データの
再生が開始され、時点t1で、操作指をコントローラか
ら離すと、再タッチした負の所定位置に対応する速度
で、区間n1の音楽演奏から再開される。そして、区間
n2の音楽演奏がなされた時点t2で操作を停止する
と、時点t2以降は、操作を停止したときの操作量に対
応する速度で音楽演奏が維持される。
4の第3段に示されるように、音楽データと同様に再生
速度が制御される。つまり、時点t0では、正方向の或
る位置のコントローラ操作に応じて、動画データにおけ
る最初の区間(フレーム数で規定される)p0の動画デ
ータが比較的高い速度(“急”)で再生され、コントロ
ーラ操作に応じた“緩”・“急”の速度で動画再生が、
順次、行われる。時点t1で、操作指が負の所定位置に
ジャンプすると、ジャンプ後の位置に対応する“緩”や
かな再生速度で、区間p1の動画データが再生され、コ
ントローラ操作に応じて、順次、再生速度が高められ、
区間p2の動画再生がなされた時点t2での操作停止に
基づいて、時点t2以降は、操作を停止したときの操作
量が維持されるので、この操作量に対応する高い速度
(“急”)のままで動画データが再生されていく。
度と同様に、コントローラ操作量に応じて再生速度が緩
急に変化し、音楽演奏の進行を合わせて再生することが
できる。なお、図2(左上)に示すように、音楽データ
のテンポクロックの時間間隔やタイムコードの差分値
(タイムコードの時間間隔)などのテンポ指示情報に基
づく動画再生速度の変化に加えて、上述したリボンコン
トローラのリアルタイム操作によるテンポ変更情報に基
づいて、音楽演奏速度及び動画再生速度を同時に変化さ
せるので、音楽演奏及び動画再生の演出効果を高めるこ
とができる。
示システムでは、操作子装置12中のモードスイッチM
2を操作したとき(図2参照)、動画処理回路7を第2
再生モードで動作させることができる。第2再生モード
においては、音楽演奏に伴う動画再生に際し、図2の右
上に示すように、CPU1は、予め設定された特定音楽
演奏タイミング−特定動画再生タイミングのセットTS
を時間軸制御部71に送る。
セットTSに基づいて、動画データの特定再生タイミン
グが、対応する音楽演奏の演奏タイミングに一致するよ
うに、動画再生部73に対して指令する動画再生速度を
調整して、この速度で動画再生を行うように動画再生部
73に指示を与える。そして、動画再生部73は、指示
された動画再生速度で専用RAM70からサンプリング
動画データを読み出して動画再生を行う。
生を説明するための時間軸変換例をを極く概略的に表わ
した図である。図5〜図7の最上段及び図8の第2段
は、音楽演奏システム16〜18において音楽演奏に利
用される音楽データを表わし、タイムコード或いはテン
ポクロック(MIDIクロック)によるテンポ指示を考
慮して演奏時間に換算して示されている。この例では、
音楽データの「区間n0」〜「区間n1の直前」が「区
間n1」〜「区間n2」より速いテンポとしており、こ
れは○印の幅で表示されている。すなわち、音楽データ
の区間n1の開始点には、テンポ情報が配置されてい
る。MIDI機器16は、音楽データ中に配置されてい
る初期テンポを演奏テンポとして区間n0から音楽演奏
を開始し、区間n1の開始点で、演奏テンポを、そこに
配置されているテンポ情報に従って、より遅いテンポに
変更して音楽演奏を継続する。
動画処理回路7の音楽データ専用RAMに記憶されてい
る動画データを表わし、図5〜図7においては、動画デ
ータの記録位置を便宜的に音楽データの総演奏区間n0
〜n2に一致させている。このようなタイミングの同期
は、前述したデファード・プレイ命令を音楽データに配
置するタイミングを調整することにより制御することが
できる。また、各図における○印の意味は、図3や図4
で既に説明したように、データを構成する各区間(デー
タ単位)を表わし、音楽データについては、所定の小節
数、拍数又はチック(TICK)数〔整数でなくても
(小数でも)よい〕で規定することができ、動画データ
については、所定のフレーム数で規定することができ
る。
動画情報を音楽データ中の任意位置の演奏情報に対応付
けたセット(TS)を用いた場合の時間軸変換例を示し
ている。この時間軸変換は、動画及び音楽の進行途中の
1点(複数点でもよい)を互いに一致させる演出効果に
とって好適である。この例では、最上段及び第2段間に
示されるように、動画データにおける或る特定の区間p
1(の開始点)を、音楽データの或る特定の区間n1
(の開始点)に対応するようにセットしておき(“SE
T”)、両データの開始及び終了位置p0,n0;p
2,n2については対応付けをしない(“Fre
e”)。
再生は、それぞれ、任意の時点t0,t0mで開始され
る。しかし、動画データは、時点t0から再生が開始さ
れた後、特定区間p1の動画データに対応するようにセ
ットされた特定区間n1の音楽データの再生が開始され
る特定時点t1において、区間p1の動画データの再生
が開始されるように、動画データの再生のための時間軸
が制御される。
る第1区間p0,n0の各再生開始時点t0,t0mを
表わす開始時点情報、及び、特定区間p1の動画データ
に対応するようにセットされた区間n1の音楽データの
再生が開始する特定時点t1を表わす特定時点情報が、
CPU1から時間軸制御部71に送られる。時間軸制御
部71は、これらの時点情報を受けて、時点t0で第1
区間p0の動画データの再生開始を行うと共に、特定時
点t1で特定区間p1の動画データの再生を開始するこ
とができるように、動画再生部73を制御する。そし
て、動画再生部73は、時点t0〜t1間における動画
データの読出し速度を演算し、演算された読出し速度
で、時点t0から第1区間p0の動画データの再生を開
始する。
始すべき時点t0mを検出し、MIDI機器16に対し
て再生開始を指示する。MIDI機器16は再生開始の
指示に応じて、音楽データの再生を開始するとともに、
テンポクロック信号をMIDIインターフェース(I/
F)8を介してCPU1に供給する。CPU1は、供給
されるテンポクロック信号に基づいて、時間軸制御部7
1における基準時刻を補正する。ここで、「基準時刻」
とは、例えば、時点t0,t1,t2,…のような時点
を検出するための基準となるタイミングを表わすもので
ある。すなわち、「基準時刻」は、時点t0mで音楽演
奏が開始されるより前から計測されているが、音楽演奏
が始まったら、それ以降は、音楽演奏と同期して計測さ
れる。
定区間p1の動画データが、予めこれに対応するように
セットされた特定区間n1の音楽データの再生に同期し
て再生される。つまり、動画データの読出しは、固定さ
れない(Free)再生開始点t0から特定時点t1ま
での間、速度が調整される。また、特定時点t1以降
は、予め定められた動画データ自体の読出し速度に基づ
いて再生が行われ、従って、動画データ再生の終了時点
t2は、図示のように、音楽演奏の終了時点t2mとは
必ずしも一致しない。なお、区間p0についても、前記
動画データ自体の読出し速度で再生するようにしてもよ
い。このように、この実施例では、特定位置(p1)の
音楽データが再生される時点t1で、特定位置(n1)
の動画データが再生されるように、動画データの再生タ
イミングを制御している。
が、動画及び音楽の進行途中の対応位置を複数セットし
ておき、セットされた各位置の動画データ及び音楽デー
タの各再生が2以上の複数時点で一致するようにしても
よい。この場合は、動画再生の開始から特定時点まで及
び特定時点間における動画再生の時間軸(速度)が制御
される。また、この実施例では、CPU1からの再生指
示に応じてMIDI機器16が再生を開始した後、MI
DI機器16自体がテンポクロック信号を発生するもの
として説明を行ったが、MIDI機器16の代わりにC
PU1がテンポクロック信号を発生し、MIDI機器1
6は、CPU1から供給されるテンポクロック信号に基
づいて音楽データを再生するようにしてもよい。その場
合、CPU1は、時間軸制御部7における基準時刻と、
MIDI機器で再生される(音楽データに配置された)
テンポ情報とに基づいて、発生するテンポクロック信号
の周期を制御する。
終了位置の動画情報を音楽データ中の任意位置及び演奏
終了位置の演奏情報に対応付けたセット(TS)を用い
た場合の時間軸変換例を示している。この時間軸変換
は、動画及び音楽の進行途中の1点(複数点でもよい)
及び終了位置を互いに一致させる演出効果にとって好適
である。この例では、最上段及び第2段間に示されるよ
うに、動画データにおける或る特定の区間p1(の開始
点)を、音楽データの或る特定の区間n1(の開始点)
に対応するようにセットしておく(“SET”)と共
に、動画データの再生終了(最終区間p2の終了)位置
を音楽データの再生終了(最終区間n2の終了)位置に
対応するようにセットしておき(“SET”&“FI
X”)、両データの開始位置の区間p0,n0について
は、対応付けをしない(“Free”)。
任意位置を音楽データ中の任意位置に対して同期させる
ための設定をいう。また、“FIX”は、動画データ中
の任意位置及び音楽データ中の任意位置が、基準時刻ス
ケール上の所定時点にそれぞれ再生されるように制御す
るための設定をいう。従って、“FIX”の設定がなさ
れた「任意位置」は、基準時刻スケール上の「所定時
点」に固定される。例えば、動画データの或る区間乃至
或る位置の再生時点が編集されても、“FIX”設定さ
れた位置の動画データの再生時刻は、「所定時点」に固
定されたままである(固定されたままとなるように調整
される。)。なお、図6〜図8においては、“FIX”
で示される位置は、全て、“SET”の設定もなされて
いる。
は任意の開始時点t0,t0mで各再生がそれぞれ開始
されるが、動画データは、開始時点t0から再生が開始
された後、特定区間p1の動画データに対応するように
セットされた特定区間n1の音楽データの再生が開始さ
れる特定時点t1において、区間p1の動画データの再
生が開始されるように、動画再生の時間軸が制御され
る。次いで、特定時点t1以降も、特定区間p1の再生
開始から最終区間p2の再生終了までの動画データは、
区間n1〜n2の音楽演奏に一致するように、再生の時
間軸が制御される。
る第1区間p0,n0の各再生開始時点t0,t0mを
表わす開始時点情報、特定区間p1の動画データに対応
するようにセットされた区間n1の音楽データの再生が
開始する特定時点t1を表わす特定時点情報、及び、最
終区間n2の音楽データの再生が終了する終了時点t2
を表わす終了時点情報が、CPU1から時間軸制御部7
1に送られる。時間軸制御部71は、これらの時点情報
を受けて、時点t0で第1区間p0の動画データの再生
開始を行うと共に、特定時点t1で特定区間p1の動画
データの再生を開始し終了時点t2で最終区間p2の動
画データの再生を終了することができるように、動画再
生部73を制御する。そして、動画再生部73は、時点
t0〜t1,t1〜t2間における動画データの第1及
び第2読出し速度を演算し、演算された第1読出し速度
で、第1区間p0の動画データを時刻t0から再生して
行き、特定時点t1以降は、演算された第2読出し速度
で特定区間p1から最終区間p2までの動画データを順
次再生していく。
定区間p1の動画データが、予めこれに対応するように
セットされた特定区間n1の音楽データの再生に同期し
て再生されるだけでなく、特定時点t1以降も、最終区
間p2までの動画データが、対応する音楽データの再生
に同期して再生される。従って、図示のように、同期設
定されない(“Free”)再生開始点t0から特定時
点t1までと、特定時点t1から同期設定された(“S
ET”)再生終了点t2までとは、異なる態様で動画デ
ータの再生速度が調整される。
が、動画及び音楽の進行途中の対応位置を複数セットし
ておき、セットされた各位置の動画データ及び音楽デー
タの各再生が2以上の複数時点で一致するようにしても
よい。また、図6では終了時点t2を一致させたが、変
形例として、終了時点t2を一致させず(各終了位置を
“SET”せず“Free”とする)、動画データの再
生開始位置t0を音楽データの再生開始時点t0mに一
致させる(各開始位置を“SET”)ようにして、共通
の開始時点t0から特定時点t1までについてのみ動画
再生及び音楽演奏を同期させるようにしてもよい。
中の任意位置及び再生終了位置の動画情報を、音楽デー
タ中の任意位置及び演奏終了位置の演奏情報に対応付け
たセット(TS)を用いた場合の時間軸変換例を示して
いる。この時間軸変換は、動画及び音楽の開始・終了位
置及び進行途中の1点(複数点でもよい)を互いに一致
させる演出効果、特に、動画データをループ再生で音楽
データに合わせて繰り返し再生する演出効果にとって好
適である。この例では、最上段及び第2段間に示される
ように、動画データの再生開始(第1区間p0の開始)
及び再生終了(最終区間p2の終了)位置を、それぞ
れ、音楽データの再生開始(第1区間n0の開始)及び
再生終了(最終区間p2の終了)位置に対応するように
セットしておく(“SET”&“FIX”)と共に、動
画データにおける或る特定の区間p1(の開始点)を音
楽データの或る特定の区間n1(の開始点)に対応する
ようにセットしておく(“SET”)。
て、互いに対応するようにセットされた第1区間p0,
n0の動画及び音楽データの各再生それぞれが開始さ
れ、特定区間p1の動画データに対応するようにセット
された特定区間n1の音楽データの再生が開始される特
定時点t1において、特定区間p1の動画データの再生
が開始されるように、動画データの再生のための時間軸
が制御される。次いで、特定時点t1以降も、特定区間
p1の再生開始から最終区間p2の再生終了までの動画
データが、区間n1〜n2の音楽演奏に一致するよう
に、動画データの再生のための時間軸が制御される。
及び最終区間p0,n0;p2,n2の各再生開始時点
t0,t2を表わす開始・終了時点情報、及び、特定区
間p1の動画データに対応するようにセットされた区間
n1の音楽データの再生が開始する特定時点t1を表わ
す特定時点情報が、CPU1から時間軸制御部71に送
られる。時間軸制御部71は、これらの時点情報を受け
て、時点t0で第1区間p0の動画データの再生を開始
し、特定時点t1で特定区間p1の動画データの再生を
開始し、終了時点t2で最終区間p2の動画データの再
生を終了することができるように、動画再生部73を制
御する。そして、動画再生部73は、時点t0〜t1,
t1〜t2間における動画データの第1及び第2読出し
速度を演算し、演算された第1読出し速度で、第1区間
p0の動画データを時点t0から再生して行き、特定時
点t1以降は、演算された第2読出し速度で特定区間p
1から最終区間p2までの動画データを順次再生してい
く。
2において、第1及び最終区間p0,p2の動画データ
の再生が、第1及び最終区間n0,n2の音楽演奏の開
始及び終了に一致して開始及び終了される。また、特定
時点t1において、特定区間p1の動画データが、予め
これに対応するようにセットされた特定区間n1の音楽
データの再生に同期して再生される。図示の例では、固
定された(“SET”&“FIX”された)再生開始点
t0から特定時点t1まではテンポ及び再生速度が速く
くなり、特定時点t1以降はテンポ及び再生速度が遅く
なっている。
が、動画及び音楽の進行途中の対応位置を複数セットし
ておき、セットされた各位置の動画データ及び音楽デー
タの再生及び演奏が2以上の複数時点で一致するように
してもよい。
例又は図7の例を一般化したものであり、動画データの
再生開始位置及び動画データ途中の任意の複数位置の動
画情報を、それぞれ、音楽データの再生開始位置及び音
楽データ途中の任意の複数位置の演奏情報に対応付けた
セット(TS)を用いた場合の時間軸変換例を示してい
る。この時間軸変換は、動画及び音楽の開始位置から進
行途中の複数点を互いに一致させる演出効果にとって好
適である。図8の最上段は、単に音楽データを楽譜を用
いて示すものであり、第2段の音楽データと厳密に対応
させたものではない。
れるように、少なくとも、動画データの再生開始(第1
区間p0の開始)位置を音楽データの再生開始(第1区
間n0の開始)位置に対応するようにセットしておく
(“SET”&“FIX”)と共に、動画データにおけ
る或る特定の複数の区間p1,p2,p3,p4,…
(の開始点)を音楽データの或る特定の区間n1,n
2,n3,n4,…(の開始点)に対応するようにセッ
トしておく(“SET”)。
互いに対応するようにセットされた第1区間p0,n0
の動画及び音楽データの各再生がそれぞれ開始され、特
定区間p1の動画データに対応するようにセットされた
特定区間n1の音楽データの再生が開始される特定時点
t1において、特定区間p1の動画データ情報の再生が
開始されるように、動画データの再生のための時間軸が
制御される。次いで、特定時点t1以降も、特定区間p
1,p2,p3,p4,…の動画データが、特定区間n
1,n2,n3,n4,…の音楽データに一致するよう
に、動画データの再生のための時間軸が制御される。
に、時間経過に従って、時間経過に従って専用RAM7
0から読み出される動画データの記録位置(フレーム)
を演算する方法が概略的に示されている。動画及び音楽
データにおける第1区間p0,n0の再生及び演奏開始
時点t0を表わす開始時点情報、及び、特定区間p1,
p2,p3,p4,…の動画データに対応するようにセ
ットされた区間n1,n2,n3,n4,…の音楽デー
タの再生が開始する特定時点t1,t2,t3,t4,
…を表わす特定時点情報が、CPU1から時間軸制御部
71に送られる。
受けて、時点t0で第1区間p0の動画データの再生を
開始し、特定時点t1,t2,t3,t4,…で特定区
間p1,p2,p3,p4,…の動画データの再生を順
次開始することができるように、動画再生部73を制御
する。動画再生部73は、時点t0〜t1,t1〜t
2,t2〜t3,t3〜t4,…間における動画データ
の読出し速度を演算する。演算される読出し速度は、図
9において、時点t0〜t1,t1〜t2,t2〜t
3,t3〜t4,…における各線分の勾配で示される。
そして、演算された各読出し速度で、時点t0〜t1,
t1〜t2,t2〜t3,t3〜t4,…間の対応する
動画データを順次再生していく。
1区間p0の動画データの再生が、第1区間n0の音楽
演奏の開始に一致して開始され、特定時点t1,t2,
t3,t4,…において、特定区間p1,p2,p3,
p4,…の動画データが、予めこれに対応するようにセ
ットされた特定区間n1,n2,n3,n4,…の音楽
データの再生に同期して再生される。
るように、音楽データに対して、多数のフレームから成
る動画データが専用RAM70に記憶されている。そし
て、ユーザが、データの複数のポイントが同期するよう
に指定すると、各ポイント間の読出し位置は自動的に補
間演算されて、動画データを緩急(“ノーマル”、
“緩”、“急”)を伴って再生する。従って、例えば、
楽譜(図8上段)上の強拍音符がある位置を音楽演奏の
特定位置に選定し、これらの演奏位置に刺激的な特定の
動画フレーム(赤色光、青色光、黄色光などの刺激的な
映像画面)をそれぞれ対応させるように設定すると、特
定の音符に関する音が発生されたときに、特定の動画フ
レームが対応して現れるので、音と動画がリンクしてコ
ンサート会場やクラブイベントなどの聴衆に対して効果
的な演出が得られる。
示システムでは、操作子装置12中のモードスイッチM
1,M2を操作したとき(図2参照)、動画処理回路7
を第3再生モードで動作させることができる。第3再生
モードにおいては、音楽演奏に伴う動画再生に際し、C
PU1は、予め設定された特定音楽演奏タイミング−特
定動画再生タイミングのセット(TS)に加えて、リボ
ンコントローラのようなリアルタイム操作子の操作に応
じたテンポ変更情報(TM)を時間軸制御部71に送
る。
セットに基づいて、動画データの特定再生タイミング
が、対応する音楽演奏の演奏タイミングに一致するよう
に、しかも、リボンコントローラのようなリアルタイム
操作子の操作に応じて再生速度が変化するように、動画
再生部73に対して指令する動画再生速度を調整して、
この速度で動画データの再生を行うように動画再生部7
3に指示を与える。そして、動画再生部73は、指示さ
れた動画再生速度で専用RAM70からサンプリング動
画データを読み出して動画再生を行う。
におけるように、特定区間の動画データを特定区間の音
楽データに一致させるだけでなく、リアルタイム操作子
の操作に応じて動画再生及び音楽演奏の速度を可変に制
御するので、多彩な演出効果を得ることができる。
動画時間軸指示処理について具体的な実施例に従って説
明してきたが、実施態様は例示したものに限らない。例
えば、実施例においては、入力する動画はVTR(ビデ
オテープレコーダ)からとしたが、これに限らず、LD
プレイヤー、DVDプレイヤー、PC(パーソナルコン
ピュータ)からのビデオ出力など、動画を再生可能な装
置であれば、その種類は問わない。
像ディスプレイとしたが、CRT、LCD等、その種類
やサイズは問わない。また、ユーザ(操作者)の手元で
のモニタ用と聴衆への表示用など、複数の出力装置を接
続できるようにしても良い。
ステム自体に内蔵の操作子によって時間軸制御信号を変
化させて動画の再生速度を制御していたが、外部制御装
置からの時間軸制御信号によって動画の再生速度を制御
しても良く、そのための外部制御信号入力手段を持って
いても良い。具体的には、PC内の動画制御ソフトウェ
ア上で再生速度の緩急を数値指示による折れ線で表わし
たり、マウスやタブレットなどの外部ポインティングデ
バイスを用いた手書き入力曲線などで表わした出力値を
使って、動画の再生速度を変化させるものでも良い。
(“FIX”)した再生開始又は終了点(端)に基づい
て自動補正したが、再生開始又は終了点(端)を“FI
X”するか“Free”にするか、または、余分な部分
をカットするか足りない部分を補ったりするかは、必要
に応じて任意に採用することができる。
ものとして説明したが、それに限らず、PCのCG(Co
mputer Graphics )ソフトウエアなどによる計算で求ま
る値によって出力される動画でも構わない。
期して1つの動画データを再生する例を示しているが、
複数の動画データがそれぞれ個別に選定された時点で同
期再生されるようにしてもよい。
のにMMCのコマンドを用いたが、その代わりに、MI
DIショー・コントロール(MSC)のコマンドを用い
てもよい。その場合、MSCのゴー(“GO”)命令に
基づき、当該ゴー命令に含まれるキュー(“QUE”)
番号に応じて動画データを選択し再生開始するようにす
ればよい。
時間軸上の時刻で指定してもよいし、テンポクロック数
や、小節数、拍等で指定してもよい。また、動画データ
の特定再生タイミングは、再生時間軸上の時刻で指定し
てもよいし、動画のフレーム番号などで指定してもよ
い。
データに関して、動画データ中の任意位置を対応付け
(SET)するように説明したが、先に対応付け(SE
T)を行った後で、音楽データの任意の時点にテンポ情
報を配置するようにしてもよい。このようにすると、音
楽データのテンポを編集しても、動画データはテンポ編
集後の音楽データに同期して再生されるので、ユーザ
は、動画との同期ずれを気にせず、音楽データのテンポ
を自由に編集することができる。
動画データと音楽データのテンポが全体を通して同期さ
れるように描かれているが、ここまで完全に同期させる
ことは必ずしも必要ではない。動画データの所望の一部
と音楽データの所望の一部を同期させることができれば
よい。
たテンポ指示情報に応じて処理周期を変更する方法、処
理周期は一定で、音楽データ中のタイミングデータの値
を設定されたテンポ指示情報に応じて変更する方法、処
理周期は一定で、1回の処理において音楽データ中のタ
イミングデータの計数の仕方をテンポ指示情報に応じて
変更する方法等、どのようなものであってもよい。
ば、動画データの再生中、音楽の演奏テンポに関するテ
ンポ情報を入力し、入力したテンポ情報に応じた読出し
速度で動画データメモリに記憶されている動画データを
読み出して表示装置に出力するようにしているので、或
る区間の動画の再生時間が、演奏中の音楽において対応
する区間の長さに追随するように、動画の再生時間軸が
音楽の演奏テンポに応じて制御され、動画再生中に演奏
される音楽の演奏テンポが変化しても、その演奏テンポ
に合わせた動画再生が可能になる。
動画データの対応箇所の再生タイミングの一致を指定す
るタイミングセット情報に基づいて、動画データメモリ
に記憶されている動画データの読出しタイミングを制御
し、音楽データ再生タイミングに一致したタイミングで
動画データを再生するようにしているので、音楽のテン
ポ変化に拘わらず、所望の動画フレームを所望部分の音
楽演奏に同期させて再生することができ、例えば、音楽
のアクセント部分と動画の或るフレームとの同期をリア
ルタイム作業の中で簡単に行うことができる。また、動
画のつなぎ目部分を破綻させないようにしながら動画を
再生することができるので、ループ再生用の動画素材を
も使用することができる。従って、演奏及び再生現場で
のバリエーションの幅を広げることができる。
って読み出された動画データと別途入力した動画データ
(例えば、映像再生器からの動画データ)とを合成して
表示装置に出力するようにしているので、映像演出効果
を更に高めた動画を出力することができる。
御システム(動画時間軸制御指示システム)のハードウ
エア構成を示すブロック図である。
制御指示システムの動画処理機能部のブロック図であ
る。
制御指示システムの第1実施形態においてテンポ指示情
報により動画再生速度を変化させて動画時間軸制御を行
う場合(第0再生モード)の一例を示す図である。
制御指示システムの第1実施形態においてリボンコント
ローラ操作により動画再生速度を変化させて動画時間軸
制御を行う場合(第1再生モード)の一例を示す図であ
る。
制御指示システムの第2実施形態(第2再生モード)に
おいて1点をセットする場合の動画時間軸制御例〔1〕
を示す図である。
制御指示システムの第2実施形態(第2再生モード)に
おいて終点を含む2点をセットする場合の動画時間軸制
御例〔2〕を示す図である。
制御指示システムの第2実施形態(第2再生モード)に
おいて始終点を含む3点をセットする場合の動画時間軸
制御例〔3〕を示す図である。
制御指示システムの第2実施形態(第2再生モード)の
一般的な動画時間軸制御例〔4〕を示す図である。
画時間軸制御例〔4〕における動画再生速度の演算を説
明するための図である。
出機構、 TM 音楽テンポの変更操作を検出するテンポ変更検出
機構、 TS 特定の再生及び演奏タイミングのセット機構、 p0,p1,p2,p3,p4 動画データにおける区
間(フレーム)番号、 t0,t1,t2,t3,t4 各区間(フレーム)の
読出しタイミング、 t0m,t2m 音楽データの読出し開始及び終了タイ
ミング、 n0,n1,n2,n3,n4 音楽データにおける区
間(小節、拍又はチック)番号。
Claims (20)
- 【請求項1】動画データメモリに記憶されている動画を
表わす動画データを再生して表示装置に動画を表示する
ための動画再生装置であって、 前記動画データの再生中、音楽の演奏テンポに関するテ
ンポ情報を入力する入力回路と、 前記入力したテンポ情報に応じた読み出し速度で前記動
画データメモリに記憶されている動画データを読み出し
て前記表示装置に出力する再生制御回路とを具備するこ
とを特徴とする動画再生装置。 - 【請求項2】前記再生制御回路は、 前記入力したテンポ情報に応じて動画データの再生速度
を制御するための再生速度制御信号を生成する制御信号
生成部と、 前記動画データメモリに記憶された動画データを、単位
データ当たりの読出し時間が前記生成された再生速度制
御信号によって変化する読出しレートで読み出して前記
表示装置に出力する動画データ読出し部とを備えること
を特徴とする請求項1に記載の動画再生装置。 - 【請求項3】前記テンポ情報は、音楽の演奏テンポを表
わすテンポクロック信号であることを特徴とする請求項
1に記載の動画再生装置。 - 【請求項4】前記テンポ情報は、音楽データの再生時間
を表わすタイムコードであることを特徴とする請求項1
に記載の動画再生装置。 - 【請求項5】さらに、 ユーザによって操作されて音楽の演奏テンポを指示する
ための操作子を具備し、 前記入力回路は、前記操作子の操作位置をテンポ情報と
して入力することを特徴とする請求項1に記載の動画再
生装置。 - 【請求項6】さらに、 前記再生制御回路によって読み出された動画データと、
別途入力した動画データとを合成して前記表示装置に出
力する合成回路を具備することを特徴とする請求項1に
記載の動画再生装置。 - 【請求項7】動面データメモリに記憶されている動画を
表わす一連の動画データを再生して表示装置に動画を表
示するための動画再生装置であって、 一連の音楽データ中の少なくとも1箇所の音楽データと
前記一連の動画データ中の少なくとも1箇所の動画デー
タとの再生タイミングの一致を指定するためのタイミン
グセット情報を出力するタイミング指定回路と、 前記出力されたタイミングセット情報に基づいて、前記
少なくとも1箇所の動画データの再生タイミングを前記
少なくとも1箇所の音楽データの再生タイミングに一致
させるように、前記動画データメモリに記憶されている
動画データの読出しタイミングを制御して、同読み出し
た動画データを前記表示装置に出力する再生制御回路と
を具備することを特徴とする動画再生装置。 - 【請求項8】さらに、 前記再生制御回路によって読み出された動画データと、
別途入力した動画データとを合成して前記表示装置に出
力する合成回路を具備することを特徴とする請求項7に
記載の動画再生装置。 - 【請求項9】動画データメモリに記憶されている動画を
表わす一連の動画データを再生して表示装置に動画を表
示するための動画再生装置であって、 一連の音楽データ中の少なくとも2箇所の音楽データと
前記一連の動画データ中の少なくとも2箇所の動画デー
タとの再生タイミングの一致を指定するためのタイミン
グセット情報を出力するタイミング指定回路と、 前記出力されたタイミングセット情報に基づいて、前記
少なくとも2箇所の動画データの再生タイミングを前記
少なくとも2箇所の音楽データの再生タイミングに一致
させるように、前記動画データメモリに記憶されている
動画データの読出しタイミング及び読出し速度を制御し
て、同読み出した動画データを前記表示装置に出力する
再生制御回路とを具備することを特徴とする動画再生装
置。 - 【請求項10】さらに、 前記再生制御回路によって読み出された動画データと、
別途入力した動画デー5タとを合成して前記表示装置に
出力する合成回路を具備することを特徴とする請求項9
に記載の動画再生装置。 - 【請求項11】動画データメモリに記憶されている動画
を表わす動画データを再生して表示装置に動画を表示す
るための動画再生方法であって、 前記動画データの再生中、音楽の演奏テンポに関するテ
ンポ情報を入力する入力ステップと、 前記入力したテンポ情報に応じた読出し速度で前記動画
データメモリに記憶されている動画データを読み出して
前記表示装置に出力する再生制御ステップとを備えるこ
とを特徴とする動画再生方法。 - 【請求項12】前記再生制御ステップは、 前記入力したテンポ情報に応じて動画データの再生速度
を制御するための再生速度制御信号を生成する制御信号
生成ステップと、 前記動画データメモリに記憶された動画データを、単位
データ当たりの読出し時間が前記生成された再生速度制
御信号によって変化する読出しレートで読み出して前記
表示装置に出力する読出しステップとを含むことを特徴
とする請求項11に記載の動画再生方法。 - 【請求項13】前記テンポ情報は、音楽の演奏テンポを
表わすテンポクロック信号であることを特徴とする請求
項11に記載の動画再生方法。 - 【請求項14】前記テンポ情報は、音楽データの再生時
間を表わすタイムコードであることを特徴とする請求項
11に記載の動画再生方法。 - 【請求項15】前記入力ステップでは、ユーザによって
操作されて音楽の演奏テンポを指示するための操作子の
操作位置をテンポ情報として入力することを特徴とする
請求項11に記載の動画再生方法。 - 【請求項16】さらに、 前記再生制御ステップにて読み出された動画データと、
別途入力した動画データとを合成して前記表示装置に出
力する合成ステップを備えることを特徴とする請求項1
1に記載の動画再生方法。 - 【請求項17】動画データメモリに記憶されている動画
を表わす一連の動画データを再生して表示装置に動画を
表示するための動画再生方法であって、 一連の音楽データ中の少なくとも1箇所の音楽データ
と、前記一連の動画データ中の少なくとも1箇所の動画
データとの再生タイミングの一致を指定するためのタイ
ミングセット情報を出力するタイミング指定ステップ
と、 前記出力されたタイミングセット情報に基づいて、前記
少なくとも1箇所の動画データの再生タイミングを前記
少なくとも1箇所の音楽データの再生タイミングに一致
させるように、前記動画データメモリに記憶されている
動画データの読出しタイミングを制御して、同読み出し
た動画データを前記表示装置に出力する再生制御ステッ
プとを備えることを特徴とする動画再生方法。 - 【請求項18】さらに、 前記再生制御ステップにて読み出された動画データと、
別途入力した動画データとを合成して前記表示装置に出
力する合成ステップを備えることを特徴とする請求項1
7に記載の動画再生方法。 - 【請求項19】動画データメモリに記憶されている動画
を表わす一連の動画データを再生して表示装置に動画を
表示するための動画再生方法は、以下のステップを含
む、 一連の音楽データ中の少なくとも2箇所の音楽データ
と、前記一連の動画データ中の少なくとも2箇所の動画
データとの再生タイミングの一致を指定するためのタイ
ミングセット情報を出力するタイミング指定ステップ
と、 前記出力されたタイミングセット情報に基づいて、前記
少なくとも2箇所の動画データの再生タイミングを前記
少なくとも2箇所の音楽データの再生タイミングに一致
させるように、前記動画データメモリに記憶されている
動画データの読出しタイミング及び読出し速度を制御し
て、同読み出した動画データを前記表示装置に出力する
再生制御ステップとを備えることを特徴とする動画再生
方法。 - 【請求項20】さらに、 前記再生制御ステップにて読み出された動画データと、
別途入力した動画データとを合成して前記表示装置に出
力する合成ステップを備えることを特徴とする請求項1
9に記載の動画再生方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002131092A JP3716812B2 (ja) | 2001-05-10 | 2002-05-07 | 動画再生装置及び動画再生方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001-140674 | 2001-05-10 | ||
JP2001140674 | 2001-05-10 | ||
JP2002131092A JP3716812B2 (ja) | 2001-05-10 | 2002-05-07 | 動画再生装置及び動画再生方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005199179A Division JP4062324B2 (ja) | 2001-05-10 | 2005-07-07 | 動画再生装置及び動画再生方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003030932A true JP2003030932A (ja) | 2003-01-31 |
JP3716812B2 JP3716812B2 (ja) | 2005-11-16 |
Family
ID=26614929
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002131092A Expired - Fee Related JP3716812B2 (ja) | 2001-05-10 | 2002-05-07 | 動画再生装置及び動画再生方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3716812B2 (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005122786A (ja) * | 2003-10-15 | 2005-05-12 | Casio Comput Co Ltd | 非接触制御装置およびプログラム |
JP2006317792A (ja) * | 2005-05-13 | 2006-11-24 | Yamaha Corp | コンテンツ配信サーバ、方法及びプログラム |
WO2007113950A1 (ja) * | 2006-03-30 | 2007-10-11 | Pioneer Corporation | 映像処理装置およびプログラム |
JP2007316322A (ja) * | 2006-05-25 | 2007-12-06 | Kawai Musical Instr Mfg Co Ltd | データ編集装置及びデータ編集用コンピュータプログラム |
JP2009055620A (ja) * | 2008-09-29 | 2009-03-12 | Sony Corp | 情報処理装置および方法、並びにプログラム |
US8213775B2 (en) | 2004-12-27 | 2012-07-03 | Sony Corporation | Information processing apparatus and method, and program |
JP2014056162A (ja) * | 2012-09-13 | 2014-03-27 | Casio Comput Co Ltd | 表示制御装置およびプログラム |
JP2014064178A (ja) * | 2012-09-21 | 2014-04-10 | Casio Comput Co Ltd | 動画再生装置、動画再生方法、及びプログラム |
-
2002
- 2002-05-07 JP JP2002131092A patent/JP3716812B2/ja not_active Expired - Fee Related
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005122786A (ja) * | 2003-10-15 | 2005-05-12 | Casio Comput Co Ltd | 非接触制御装置およびプログラム |
JP4590851B2 (ja) * | 2003-10-15 | 2010-12-01 | カシオ計算機株式会社 | 非接触制御装置およびプログラム |
US8213775B2 (en) | 2004-12-27 | 2012-07-03 | Sony Corporation | Information processing apparatus and method, and program |
JP2006317792A (ja) * | 2005-05-13 | 2006-11-24 | Yamaha Corp | コンテンツ配信サーバ、方法及びプログラム |
JP4513644B2 (ja) * | 2005-05-13 | 2010-07-28 | ヤマハ株式会社 | コンテンツ配信サーバ |
WO2007113950A1 (ja) * | 2006-03-30 | 2007-10-11 | Pioneer Corporation | 映像処理装置およびプログラム |
JP2007316322A (ja) * | 2006-05-25 | 2007-12-06 | Kawai Musical Instr Mfg Co Ltd | データ編集装置及びデータ編集用コンピュータプログラム |
JP2009055620A (ja) * | 2008-09-29 | 2009-03-12 | Sony Corp | 情報処理装置および方法、並びにプログラム |
JP2014056162A (ja) * | 2012-09-13 | 2014-03-27 | Casio Comput Co Ltd | 表示制御装置およびプログラム |
JP2014064178A (ja) * | 2012-09-21 | 2014-04-10 | Casio Comput Co Ltd | 動画再生装置、動画再生方法、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP3716812B2 (ja) | 2005-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7221852B2 (en) | Motion picture playback apparatus and motion picture playback method | |
JPH09204163A (ja) | カラオケの表示装置 | |
US5621538A (en) | Method for synchronizing computerized audio output with visual output | |
JP4062324B2 (ja) | 動画再生装置及び動画再生方法 | |
JP3716812B2 (ja) | 動画再生装置及び動画再生方法 | |
JP4159669B2 (ja) | 早送り・巻き戻しモードから再生モードに切り替わる制御に特徴を有するカラオケ装置 | |
JPH1195778A (ja) | 同期映像生成方法およびそれを用いたカラオケ装置 | |
JP4329857B2 (ja) | 動画再生装置 | |
JP3846425B2 (ja) | 演奏情報再生装置及びプログラム | |
JP4133559B2 (ja) | 音声再生プログラム、音声再生方法及び音声再生装置 | |
JPH0934477A (ja) | カラオケ装置 | |
JPH1031495A (ja) | カラオケ装置 | |
JP3363407B2 (ja) | 歌詞字幕表示装置 | |
JPH11305772A (ja) | 電子楽器 | |
JP2010008893A (ja) | 電子音楽装置 | |
JP2906539B2 (ja) | 音像位置移動機能付き音楽再生装置 | |
JP2743808B2 (ja) | 自動演奏装置 | |
JP2004258564A (ja) | スコアデータ編集装置、スコアデータ表示装置およびプログラム | |
JP3428410B2 (ja) | カラオケ装置 | |
JP2005202425A (ja) | 楽曲の伴奏音と歌詞字幕映像を同期出力する装置 | |
JPH11126066A (ja) | Av同期装置、及びav同期方法、並びにav同期プログラムを記録した記録媒体 | |
JP3363390B2 (ja) | 歌詞字幕データの編集装置 | |
KR200214587Y1 (ko) | 에니메이션 속도 조절장치가 부착된 컴퓨터 음악반주기 | |
JP2950086B2 (ja) | Bgm編集装置及びbgm音楽構成録音システム | |
JP4685226B2 (ja) | 波形再生用自動演奏装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050510 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050707 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050809 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050822 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313532 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090909 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100909 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100909 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110909 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120909 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130909 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |