JPH10333673A - 同期再生方法 - Google Patents
同期再生方法Info
- Publication number
- JPH10333673A JPH10333673A JP9141927A JP14192797A JPH10333673A JP H10333673 A JPH10333673 A JP H10333673A JP 9141927 A JP9141927 A JP 9141927A JP 14192797 A JP14192797 A JP 14192797A JP H10333673 A JPH10333673 A JP H10333673A
- Authority
- JP
- Japan
- Prior art keywords
- music
- time
- frame
- data
- performance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Electrophonic Musical Instruments (AREA)
- Processing Or Creating Images (AREA)
- Reverberation, Karaoke And Other Acoustics (AREA)
Abstract
(57)【要約】
【課題】 曲の途中でテンポが動的に変化する楽曲デー
タに同期させて映像を再生できる再生同期方法を提供す
る。 【解決手段】 同期情報更新手段103が、楽曲演奏手
段101の演奏に基づき同期情報テーブル102を更新
し、楽曲位置算定手段104が現在時刻と同期情報テー
ブル102の内容から楽曲位置を算定し、フレーム出力
手段106が、楽曲位置算定手段が算定した楽曲位置に
同期したフレームデータをフレームバッファ105に出
力し、映像表示手段107がフレームバッファ105の
データを動画像として表示する。
タに同期させて映像を再生できる再生同期方法を提供す
る。 【解決手段】 同期情報更新手段103が、楽曲演奏手
段101の演奏に基づき同期情報テーブル102を更新
し、楽曲位置算定手段104が現在時刻と同期情報テー
ブル102の内容から楽曲位置を算定し、フレーム出力
手段106が、楽曲位置算定手段が算定した楽曲位置に
同期したフレームデータをフレームバッファ105に出
力し、映像表示手段107がフレームバッファ105の
データを動画像として表示する。
Description
【0001】
【発明の属する技術分野】本発明は、画像と音とを同時
に再生する方法に関し、特にMIDIデータなどの楽曲
データで演奏する音楽と、CG動画像とを同期させなら
が再生する再生同期方法に関する。
に再生する方法に関し、特にMIDIデータなどの楽曲
データで演奏する音楽と、CG動画像とを同期させなら
が再生する再生同期方法に関する。
【0002】
【従来の技術】CG(コンピュータグラフィック)は、
映画やテレビゲームなどの分野で盛んに用いられいる。
最近では、CGの映像だけではなく、それに合った音楽
を同時に再生したCG作品が数多くでてきている。この
ようなCGと音とを関連づける技術としては、特開平8
−212388号公報の三次元画像処理装置がある。
映画やテレビゲームなどの分野で盛んに用いられいる。
最近では、CGの映像だけではなく、それに合った音楽
を同時に再生したCG作品が数多くでてきている。この
ようなCGと音とを関連づける技術としては、特開平8
−212388号公報の三次元画像処理装置がある。
【0003】これは、開始時刻と終了時刻とが規定され
たCGデータと音データとを関連づけて再生する画像処
理装置である。CGのデータの開始時刻、終了時刻を各
々Cs、Ceとする。音のデータの開始時刻、終了時刻
を各々As,Aeとする。音の再生時間(Ae−As)
とCGの再生時間(Ce−Cs)とを比較し、一致しな
い場合に音の再生に使うテンポを次のように算出し、そ
れに基づき音を再生する。
たCGデータと音データとを関連づけて再生する画像処
理装置である。CGのデータの開始時刻、終了時刻を各
々Cs、Ceとする。音のデータの開始時刻、終了時刻
を各々As,Aeとする。音の再生時間(Ae−As)
とCGの再生時間(Ce−Cs)とを比較し、一致しな
い場合に音の再生に使うテンポを次のように算出し、そ
れに基づき音を再生する。
【0004】テンポ = 本来のテンポ×(Ae−A
s)/(Ce―Cs) このように、音のテンポをCGの再生時間との相対比に
より調整することにより、異なった再生時間のCGと音
とを同期させて再生することを実現するもの。
s)/(Ce―Cs) このように、音のテンポをCGの再生時間との相対比に
より調整することにより、異なった再生時間のCGと音
とを同期させて再生することを実現するもの。
【0005】
【発明が解決しようとする課題】しかしながら、上記従
来技術では、一定テンポの音データは再生できるが、曲
の途中でテンポの変わる楽曲データに同期させることは
できない。さらに、カラオケのピッチコントロール操作
などによって、曲のテンポを演奏途中で突発的に変更さ
れた場合は、同期が崩れてしまう可能性がある。さら
に、早送りや巻戻しなどの特殊再生が行われた場合、同
期が崩れてしまう可能性がある。
来技術では、一定テンポの音データは再生できるが、曲
の途中でテンポの変わる楽曲データに同期させることは
できない。さらに、カラオケのピッチコントロール操作
などによって、曲のテンポを演奏途中で突発的に変更さ
れた場合は、同期が崩れてしまう可能性がある。さら
に、早送りや巻戻しなどの特殊再生が行われた場合、同
期が崩れてしまう可能性がある。
【0006】本発明はかかる課題に鑑みて、テンポが曲
の途中で変化する曲と映像とを同期させて再生でき、曲
のテンポが突発的に変更された場合や特殊再生中でも曲
と映像とを同期させて再生できる再生同期方法を提供す
ることを目的とする。
の途中で変化する曲と映像とを同期させて再生でき、曲
のテンポが突発的に変更された場合や特殊再生中でも曲
と映像とを同期させて再生できる再生同期方法を提供す
ることを目的とする。
【0007】
【課題を解決するための手段】上記目的を達成するた
め、第1の発明は、楽曲データに基づき演奏を行う楽曲
演奏手段と、楽曲上の位置を特定した楽曲位置と、演奏
テンポの基本となるテンポ情報と、それらを更新した時
刻とを対応づけて一時的に記憶する同期情報テーブル
と、前記楽曲演奏手段の演奏に基づき前記同期情報テー
ブルを更新する同期情報更新手段と、現在時刻と前記同
期情報テーブルの内容とから前記楽曲演奏手段が現在演
奏している楽曲位置を算定する楽曲位置算定手段と、フ
レームデータを一時的に記憶するフレームバッファと、
楽曲データと関連づけられたCGデータから、前記楽曲
位置算定手段が算定した楽曲位置に基づき前記楽曲演奏
手段の演奏と同期したフレームデータを算出し、前記フ
レームバッファに出力するフレーム出力手段と、前記フ
レームバッファに記憶されたフレームデータを動画像と
して表示す映像表示手段を備えたことを特徴とする同期
再生方法である。
め、第1の発明は、楽曲データに基づき演奏を行う楽曲
演奏手段と、楽曲上の位置を特定した楽曲位置と、演奏
テンポの基本となるテンポ情報と、それらを更新した時
刻とを対応づけて一時的に記憶する同期情報テーブル
と、前記楽曲演奏手段の演奏に基づき前記同期情報テー
ブルを更新する同期情報更新手段と、現在時刻と前記同
期情報テーブルの内容とから前記楽曲演奏手段が現在演
奏している楽曲位置を算定する楽曲位置算定手段と、フ
レームデータを一時的に記憶するフレームバッファと、
楽曲データと関連づけられたCGデータから、前記楽曲
位置算定手段が算定した楽曲位置に基づき前記楽曲演奏
手段の演奏と同期したフレームデータを算出し、前記フ
レームバッファに出力するフレーム出力手段と、前記フ
レームバッファに記憶されたフレームデータを動画像と
して表示す映像表示手段を備えたことを特徴とする同期
再生方法である。
【0008】さらに、第2の発明は、第1の同期情報更
新手段を、楽曲演奏手段が楽曲位置またはテンポ情報の
いづれかが変化する毎に同期情報テーブルを更新する同
期情報リアルタイム更新手段に置換することを特徴とす
る同期再生方法である。
新手段を、楽曲演奏手段が楽曲位置またはテンポ情報の
いづれかが変化する毎に同期情報テーブルを更新する同
期情報リアルタイム更新手段に置換することを特徴とす
る同期再生方法である。
【0009】さらに、第3の発明は、第1の同期情報更
新手段を、特定の周期で同期情報テーブルを更新する同
期情報定期更新手段に置換することを特徴とする同期再
生方法である。
新手段を、特定の周期で同期情報テーブルを更新する同
期情報定期更新手段に置換することを特徴とする同期再
生方法である。
【0010】さらに、第4の発明は、第1にCGデータ
量からフレームデータ出力手段が要する演算時間を予想
する演算時間予想手段を追加し、フレーム出力手段が、
楽曲位置算定手段が算定した楽曲位置より、前記演算時
間予想手段が予想した時間だけ遅らせた楽曲位置と同期
したフレームデータを、フレームバッファに出力するこ
とを特徴とする同期再生方法である。
量からフレームデータ出力手段が要する演算時間を予想
する演算時間予想手段を追加し、フレーム出力手段が、
楽曲位置算定手段が算定した楽曲位置より、前記演算時
間予想手段が予想した時間だけ遅らせた楽曲位置と同期
したフレームデータを、フレームバッファに出力するこ
とを特徴とする同期再生方法である。
【0011】さらに、第5の発明は、第1に楽曲データ
から現在の楽曲位置の音が実際に音となって出力される
までの時間を予想する演奏遅れ予想手段を追加し、同期
情報更新手段が前記演奏遅れ予想時間が予想した時間分
だけ遅らせた楽曲位置とテンポ情報と更新時間とを同期
情報テーブルに出力することを特徴とする同期再生方法
である。
から現在の楽曲位置の音が実際に音となって出力される
までの時間を予想する演奏遅れ予想手段を追加し、同期
情報更新手段が前記演奏遅れ予想時間が予想した時間分
だけ遅らせた楽曲位置とテンポ情報と更新時間とを同期
情報テーブルに出力することを特徴とする同期再生方法
である。
【0012】さらに、第6の発明は、第1にCGデータ
量から映像表示手段がフレームバッファのデータを実際
に表示できるまでの表示遅れ時間を予想する映像表示遅
れ予想手段を追加し、フレーム出力手段が、楽曲位置算
定手段が算定した楽曲位置より、前記映像表示遅れ予想
手段が予想した時間だけ遅らせた楽曲位置と同期したフ
レームデータを、フレームバッファへ出力することを特
徴とする同期再生方法である。
量から映像表示手段がフレームバッファのデータを実際
に表示できるまでの表示遅れ時間を予想する映像表示遅
れ予想手段を追加し、フレーム出力手段が、楽曲位置算
定手段が算定した楽曲位置より、前記映像表示遅れ予想
手段が予想した時間だけ遅らせた楽曲位置と同期したフ
レームデータを、フレームバッファへ出力することを特
徴とする同期再生方法である。
【0013】さらに、第7の発明は、第1に楽曲演奏手
段が特殊再生を始める時に特殊再生開始信号を発生する
特殊再生開始通知手段と、楽曲演奏手段が特殊再生を終
了する時に特殊再生終了信号を発生する特殊再生終了通
知手段と、特殊再生中に楽曲位置をリアルタイムに同期
情報テーブルに出力する特殊再生同期情報更新手段とを
追加し、フレーム出力手段が、特殊再生中は前記特殊再
生同期情報更新手段が更新する前記同期情報テーブルに
基づきフレームデータをフレームバッファに出力するこ
とを特徴とする同期再生方法である。
段が特殊再生を始める時に特殊再生開始信号を発生する
特殊再生開始通知手段と、楽曲演奏手段が特殊再生を終
了する時に特殊再生終了信号を発生する特殊再生終了通
知手段と、特殊再生中に楽曲位置をリアルタイムに同期
情報テーブルに出力する特殊再生同期情報更新手段とを
追加し、フレーム出力手段が、特殊再生中は前記特殊再
生同期情報更新手段が更新する前記同期情報テーブルに
基づきフレームデータをフレームバッファに出力するこ
とを特徴とする同期再生方法である。
【0014】
(第1の実施の形態)以下、本願第1の発明の同期再生
方法の実施の形態を、図面を用いて説明する。図1は、
本実施の形態のブロック図である。
方法の実施の形態を、図面を用いて説明する。図1は、
本実施の形態のブロック図である。
【0015】楽曲演奏手段101は、楽曲データを読込
み、それに基づき音楽演奏を行う。楽曲データは、MI
DIデータのように、音楽の演奏テンポ、音色、音調な
ど、音楽演奏に必要な全てのパラメータを規定してい
る。このようなMIDIデータから音楽を演奏する方式
は、既に多くのシステムが商品化された既知の技術であ
るので、ここでは説明を省略する。楽曲演奏手段101
は、現在演奏している楽曲位置をリアルタイムに更新す
る。本実施の形態での楽曲位置の特定は曲頭からの総拍
数で行う。しかし、その特定方法に関しては、楽曲位置
が一意に特定できるものであれば、どのような方法でも
よい。現在演奏している音は、「曲頭から何拍目である
か(以下、これを拍IDと定義する)」によって楽曲位
置が特定される。
み、それに基づき音楽演奏を行う。楽曲データは、MI
DIデータのように、音楽の演奏テンポ、音色、音調な
ど、音楽演奏に必要な全てのパラメータを規定してい
る。このようなMIDIデータから音楽を演奏する方式
は、既に多くのシステムが商品化された既知の技術であ
るので、ここでは説明を省略する。楽曲演奏手段101
は、現在演奏している楽曲位置をリアルタイムに更新す
る。本実施の形態での楽曲位置の特定は曲頭からの総拍
数で行う。しかし、その特定方法に関しては、楽曲位置
が一意に特定できるものであれば、どのような方法でも
よい。現在演奏している音は、「曲頭から何拍目である
か(以下、これを拍IDと定義する)」によって楽曲位
置が特定される。
【0016】さらに、本実施の形態の演奏の基本である
テンポ情報は、拍の単位時間(以下、テンポ時間と定義
する)で規定する。これも、演奏テンポを制御する情報
であれば、どのような情報でもよい。
テンポ情報は、拍の単位時間(以下、テンポ時間と定義
する)で規定する。これも、演奏テンポを制御する情報
であれば、どのような情報でもよい。
【0017】同期情報テーブル102は、楽曲位置とし
て拍IDと、テンポ情報としてテンポ時間と、それを更
新した時刻(以下、これを同期情報更新時刻と定義す
る)とを対応づけて、一時的に記憶する。
て拍IDと、テンポ情報としてテンポ時間と、それを更
新した時刻(以下、これを同期情報更新時刻と定義す
る)とを対応づけて、一時的に記憶する。
【0018】同期情報更新手段103は、楽曲演奏手段
101が演奏している拍IDと、テンポ時間と、その更
新時刻とを同期情報テーブル102へ記憶させる。
101が演奏している拍IDと、テンポ時間と、その更
新時刻とを同期情報テーブル102へ記憶させる。
【0019】楽曲位置算定手段104は、現在時刻と同
期情報テーブル102の同期情報から現在時刻に対応し
た楽曲位置を算定する。その楽曲位置は、以下の式
(A)で算定する。
期情報テーブル102の同期情報から現在時刻に対応し
た楽曲位置を算定する。その楽曲位置は、以下の式
(A)で算定する。
【0020】 H(tc)=Ht+((tc−t)/Pt) …(A) H(tc):現在時刻に対応した楽曲位置(拍ID) tc :現在時刻 Ht :同期情報テーブル102の拍ID t :同期情報テーブル102の同期情報更新時
刻 Pt :同期情報テーブル102のテンポ時間 フレームバッファ105は、フレームデータを一時的に
記憶する。
刻 Pt :同期情報テーブル102のテンポ時間 フレームバッファ105は、フレームデータを一時的に
記憶する。
【0021】フレーム出力手段106は、楽曲演奏手段
101が演奏している楽曲データと対応づけられたCG
データから、楽曲位置算定手段104が算定する楽曲位
置に基づき楽曲データと同期したフレームデータを、フ
レームバッファ105へ出力する。CGデータは、必ず
しも楽曲位置に1対1に対応づけられている必要はな
い。複数のキーフレームデータさえあれば、フレーム補
完技術を用いて楽曲位置に対応したフレームデータを算
出することができる。このようなフレーム補完技術は、
スプライン補完や線形補完などのように、既知の技術が
数多くあるため、説明を省略する。これらのフレーム補
完技術を用いれば、開始時刻と終了時刻とキーフレーム
データから定義されたCGデータから、任意のフレーム
時刻Ft(開始時刻≦Ft≦終了時刻)のフレームデー
タを算出することが可能である。したがって、演奏デー
タに関連づけられたCGデータは、開始時刻と終了時刻
とを、楽曲位置に対応づける(以下、対応づけられた楽
曲位置を、開始拍ID、終了拍IDと各々定義する)こ
とにより生成される。このように関連づけられたCGで
あれば、以下の式(B)を用いてフレーム時刻Ftを算
出することができる。
101が演奏している楽曲データと対応づけられたCG
データから、楽曲位置算定手段104が算定する楽曲位
置に基づき楽曲データと同期したフレームデータを、フ
レームバッファ105へ出力する。CGデータは、必ず
しも楽曲位置に1対1に対応づけられている必要はな
い。複数のキーフレームデータさえあれば、フレーム補
完技術を用いて楽曲位置に対応したフレームデータを算
出することができる。このようなフレーム補完技術は、
スプライン補完や線形補完などのように、既知の技術が
数多くあるため、説明を省略する。これらのフレーム補
完技術を用いれば、開始時刻と終了時刻とキーフレーム
データから定義されたCGデータから、任意のフレーム
時刻Ft(開始時刻≦Ft≦終了時刻)のフレームデー
タを算出することが可能である。したがって、演奏デー
タに関連づけられたCGデータは、開始時刻と終了時刻
とを、楽曲位置に対応づける(以下、対応づけられた楽
曲位置を、開始拍ID、終了拍IDと各々定義する)こ
とにより生成される。このように関連づけられたCGで
あれば、以下の式(B)を用いてフレーム時刻Ftを算
出することができる。
【0022】 Ft=Hs+((H(tc)−Hs)/(He−Hs)) …(B) H(tc):楽曲位置算定手段104が算定した 現在時刻に対応した楽曲位置(拍ID) Hs :開始時刻に対応づけられた開始拍ID He :終了時刻に対応づけられた終了拍ID 以上のように算出されたフレーム時刻に基づき、フレー
ム補完技術を用いて演奏手段101の演奏に同期したフ
レームデータを常に、フレームバッファ105へ出力す
ることができる。
ム補完技術を用いて演奏手段101の演奏に同期したフ
レームデータを常に、フレームバッファ105へ出力す
ることができる。
【0023】映像表示手段107は、フレームバッファ
105に記憶されたフレームデータを、順々に表示更新
することにより動画像を表示する。
105に記憶されたフレームデータを、順々に表示更新
することにより動画像を表示する。
【0024】以上のように構成された本実施の形態にお
ける再生同期方法における、具体的な動作を図2のフロ
ーチャートを用いて説明する。
ける再生同期方法における、具体的な動作を図2のフロ
ーチャートを用いて説明する。
【0025】以下の動作を、CGデータに対応づけられ
た開始拍IDから終了拍IDまでの間繰り返す。ここで
は、開始拍ID(Hs)、終了拍ID(He)に同期さ
せて再生する処理について説明する。
た開始拍IDから終了拍IDまでの間繰り返す。ここで
は、開始拍ID(Hs)、終了拍ID(He)に同期さ
せて再生する処理について説明する。
【0026】(ステップS101)楽曲位置算定手段1
04が、式(A)を用いて現在時刻(t)に対応する楽
曲位置(H(t))を算定する。
04が、式(A)を用いて現在時刻(t)に対応する楽
曲位置(H(t))を算定する。
【0027】(ステップS102)楽曲位置(H
(t))が、開始ID(Hs)より小さい場合は、何も
せず終了し、開始ID(Hs)以上ならば、ステップS
103へ進む。
(t))が、開始ID(Hs)より小さい場合は、何も
せず終了し、開始ID(Hs)以上ならば、ステップS
103へ進む。
【0028】(ステップS103)楽曲位置(H
(t))が終了拍ID(He)より大きい場合は、何も
せず終了し、終了拍ID(He)以下ならば、ステップ
S104へ進む。
(t))が終了拍ID(He)より大きい場合は、何も
せず終了し、終了拍ID(He)以下ならば、ステップ
S104へ進む。
【0029】(ステップS104)フレーム出力手段1
06が、式(B)に基づき算出したフレーム時刻Ftに
基づき、フレーム補完技術を用いてフレームデータを算
出し、フレームバッファ105へ出力する。
06が、式(B)に基づき算出したフレーム時刻Ftに
基づき、フレーム補完技術を用いてフレームデータを算
出し、フレームバッファ105へ出力する。
【0030】(第2の実施の形態)以下、本願第2の発
明の再生同期方法の実施の形態を、図面を用いて説明す
る。図3は、本実施の形態のブロック図である。
明の再生同期方法の実施の形態を、図面を用いて説明す
る。図3は、本実施の形態のブロック図である。
【0031】ここで、楽曲演奏手段101、同期情報テ
ーブル102、楽曲位置算定手段104、フレームバッ
ファ105、フレーム出力手段106、映像表示手段1
07は、第1の実施の形態における同一符号を付した構
成要素と同一であるので、説明を省略する。
ーブル102、楽曲位置算定手段104、フレームバッ
ファ105、フレーム出力手段106、映像表示手段1
07は、第1の実施の形態における同一符号を付した構
成要素と同一であるので、説明を省略する。
【0032】同期情報リアルタイム更新手段201は、
楽曲演奏手段101がデータを更新した場合のみ、同期
情報テーブル102の同期情報を更新する。例えば、テ
ンポ情報が変化したり、楽曲位置が変更されたりした場
合のみ更新する。したがって、テンポ情報及び楽曲位置
が更新されない場合は更新しない。
楽曲演奏手段101がデータを更新した場合のみ、同期
情報テーブル102の同期情報を更新する。例えば、テ
ンポ情報が変化したり、楽曲位置が変更されたりした場
合のみ更新する。したがって、テンポ情報及び楽曲位置
が更新されない場合は更新しない。
【0033】(第3の実施の形態)以下、本願第3の発
明の再生同期方法の実施の形態を、図面を用いて説明す
る。
明の再生同期方法の実施の形態を、図面を用いて説明す
る。
【0034】図4は、本実施の形態のブロック図であ
る。ここで、楽曲演奏手段101、同期情報テーブル1
02、楽曲位置算定手段104、フレームバッファ10
5、フレーム出力手段106、映像表示手段107は、
第1の実施の形態における同一符号を付した構成要素と
同一であるので、説明を省略する。
る。ここで、楽曲演奏手段101、同期情報テーブル1
02、楽曲位置算定手段104、フレームバッファ10
5、フレーム出力手段106、映像表示手段107は、
第1の実施の形態における同一符号を付した構成要素と
同一であるので、説明を省略する。
【0035】同期情報定期更新手段301は、一定周期
で同期情報テーブル102を更新する。その周期は、1
拍に1回というような楽曲の単位でも、30秒に1回と
いうような一般的な単位でもよい。
で同期情報テーブル102を更新する。その周期は、1
拍に1回というような楽曲の単位でも、30秒に1回と
いうような一般的な単位でもよい。
【0036】(第4の実施の形態)以下、本願第4の発
明の再生同期方法の実施の形態を、図面を用いて説明す
る。
明の再生同期方法の実施の形態を、図面を用いて説明す
る。
【0037】図5は、本実施の形態のブロック図であ
る。ここで、楽曲演奏手段101、同期情報テーブル1
02、同期情報更新手段103、楽曲位置算定手段10
4、フレームバッファ105、フレーム出力手段10
6、映像表示手段107は、第1の実施の形態における
同一符号を付した構成要素と同一であるので、説明を省
略する。
る。ここで、楽曲演奏手段101、同期情報テーブル1
02、同期情報更新手段103、楽曲位置算定手段10
4、フレームバッファ105、フレーム出力手段10
6、映像表示手段107は、第1の実施の形態における
同一符号を付した構成要素と同一であるので、説明を省
略する。
【0038】演算時間予想手段401は、CGデータの
ポリゴン数、頂点数から演算にかかる時間を予想する。
一般的に、演算時間は、演算対象となるポリゴン数、頂
点数に比例する。常に次の演算対象となるポリゴン数、
頂点数から演算時間を予想する。さらに、計算機のCP
U処理能力などの処理能力も考慮して予想する。したが
って、フレームよりポリゴン数の異なる場合でも、それ
に応じた演算時間を予想することができる。
ポリゴン数、頂点数から演算にかかる時間を予想する。
一般的に、演算時間は、演算対象となるポリゴン数、頂
点数に比例する。常に次の演算対象となるポリゴン数、
頂点数から演算時間を予想する。さらに、計算機のCP
U処理能力などの処理能力も考慮して予想する。したが
って、フレームよりポリゴン数の異なる場合でも、それ
に応じた演算時間を予想することができる。
【0039】フレーム出力手段106は、演算時間予想
手段401が予想した演算時間を、楽曲位置算定手段1
04が算定した楽曲位置に、加えた楽曲位置に同期した
フレームデータをフレームバッファ105へ出力する。
フレーム時刻は、以下の式(C)を用いて算出する。
手段401が予想した演算時間を、楽曲位置算定手段1
04が算定した楽曲位置に、加えた楽曲位置に同期した
フレームデータをフレームバッファ105へ出力する。
フレーム時刻は、以下の式(C)を用いて算出する。
【0040】 Ft=Hs+((H(tc)−Hs)/(He−Hs))+(Et/Pt) …(C) H(tc):楽曲位置算定手段104が算定した 現在時刻に対応した楽曲位置(拍ID) Hs :開始時刻に対応づけられた開始拍ID He :終了時刻に対応づけられた終了拍ID Et :演算時間予想手段401が予想した演算時間 Pt :同期情報テーブル102のテンポ時間 以上のように算出されたフレーム時刻に基づき、フレー
ム補完技術を用いて演奏手段101の演奏に同期したフ
レームデータを常に、フレームバッファ105へ出力す
ることができる。
ム補完技術を用いて演奏手段101の演奏に同期したフ
レームデータを常に、フレームバッファ105へ出力す
ることができる。
【0041】(第5実施の形態)以下、本願第5の発明
の再生同期方法の実施の形態を、図面を用いて説明す
る。
の再生同期方法の実施の形態を、図面を用いて説明す
る。
【0042】図6は、本実施の形態のブロック図であ
る。ここで、楽曲演奏手段101、同期情報テーブル1
02、同期情報更新手段103、楽曲位置算定手段10
4、フレームバッファ105、フレーム出力手段10
6、映像表示手段107は、第1の実施の形態における
同一符号を付した構成要素と同一であるので、説明を省
略する。
る。ここで、楽曲演奏手段101、同期情報テーブル1
02、同期情報更新手段103、楽曲位置算定手段10
4、フレームバッファ105、フレーム出力手段10
6、映像表示手段107は、第1の実施の形態における
同一符号を付した構成要素と同一であるので、説明を省
略する。
【0043】演奏遅れ予想手段501は、楽曲データに
基づきそのデータが実際に音として、スピーカーなどの
出力装置から出力されるまでの演奏遅れ時間を予想す
る。一般的に演奏遅れ時間は、楽曲位置の同時発生音数
に比例する。さらに、計算機のCPU処理能力などの処
理能力も考慮して予想する。したがって、楽曲位置を特
定すれば楽曲データからリアルタイムに、その楽曲位置
の演奏遅れ時間を予想することができる。
基づきそのデータが実際に音として、スピーカーなどの
出力装置から出力されるまでの演奏遅れ時間を予想す
る。一般的に演奏遅れ時間は、楽曲位置の同時発生音数
に比例する。さらに、計算機のCPU処理能力などの処
理能力も考慮して予想する。したがって、楽曲位置を特
定すれば楽曲データからリアルタイムに、その楽曲位置
の演奏遅れ時間を予想することができる。
【0044】同期情報更新手段103は、楽曲位置に演
奏遅れ予想手段501が予想した演奏遅れ時間を加えた
値を、同期情報テーブル102へ出力する。
奏遅れ予想手段501が予想した演奏遅れ時間を加えた
値を、同期情報テーブル102へ出力する。
【0045】(第6の実施の形態)以下、本願第6の発
明の再生同期方法の実施の形態を、図面を用いて説明す
る。
明の再生同期方法の実施の形態を、図面を用いて説明す
る。
【0046】図7は、本実施の形態のブロック図であ
る。ここで、楽曲演奏手段101、同期情報テーブル1
02、同期情報更新手段103、楽曲位置算定手段10
4、フレームバッファ105、フレーム出力手段10
6、映像表示手段107は、第1の実施の形態における
同一符号を付した構成要素と同一であるので、説明を省
略する。
る。ここで、楽曲演奏手段101、同期情報テーブル1
02、同期情報更新手段103、楽曲位置算定手段10
4、フレームバッファ105、フレーム出力手段10
6、映像表示手段107は、第1の実施の形態における
同一符号を付した構成要素と同一であるので、説明を省
略する。
【0047】表示遅れ予想手段601は、映像表示手段
107がフレームバッファ105のデータを実際に表示
するまでの表示遅れ時間を予想する。これは、映像表示
手段107のレンダリング能力などの性能から予想する
ことができる。
107がフレームバッファ105のデータを実際に表示
するまでの表示遅れ時間を予想する。これは、映像表示
手段107のレンダリング能力などの性能から予想する
ことができる。
【0048】フレーム出力手段106は、表示遅れ予想
手段601が予想した表示遅れ時間を、楽曲位置算定手
段104が算定した楽曲位置に加えた値のフレームデー
タを算出する。フレーム時間の値を、以下の式(D)を
用いて算出する。
手段601が予想した表示遅れ時間を、楽曲位置算定手
段104が算定した楽曲位置に加えた値のフレームデー
タを算出する。フレーム時間の値を、以下の式(D)を
用いて算出する。
【0049】 Ft=Hs+((H(tc)−Hs)/(He−Hs))+(Dt/Pt) …(D) H(tc):楽曲位置算定手段104が算定した 現在時刻に対応した楽曲位置(拍ID) Hs :開始時刻に対応づけられた開始拍ID He :終了時刻に対応づけられた終了拍ID Dt :表示遅れ予想手段601が予想した表示遅れ時間 Pt :同期情報テーブル102のテンポ時間 以上のように算出されたフレーム時刻に基づき、フレー
ム補完技術を用いて演奏手段101の演奏に同期したフ
レームデータを常に、フレームバッファ105へ出力す
ることができる。
ム補完技術を用いて演奏手段101の演奏に同期したフ
レームデータを常に、フレームバッファ105へ出力す
ることができる。
【0050】(第7実施の形態)以下、本願第7の発明
の再生同期方法の実施の形態を、図面を用いて説明す
る。
の再生同期方法の実施の形態を、図面を用いて説明す
る。
【0051】図8は、本実施の形態のブロック図であ
る。ここで、楽曲演奏手段101、同期情報テーブル1
02、同期情報更新手段103、楽曲位置算定手段10
4、フレームバッファ105、フレーム出力手段10
6、映像表示手段107は、第1の実施の形態における
同一符号を付した構成要素と同一であるので、説明を省
略する。
る。ここで、楽曲演奏手段101、同期情報テーブル1
02、同期情報更新手段103、楽曲位置算定手段10
4、フレームバッファ105、フレーム出力手段10
6、映像表示手段107は、第1の実施の形態における
同一符号を付した構成要素と同一であるので、説明を省
略する。
【0052】特殊再生開始通知手段701は、オペレー
タにより特殊再生が開始された場合、特殊再生開始信号
を発生させる。特殊再生終了通知手段702は、オペレ
ータにより特殊再生が終了された場合、特殊再生終了信
号を発生させる。
タにより特殊再生が開始された場合、特殊再生開始信号
を発生させる。特殊再生終了通知手段702は、オペレ
ータにより特殊再生が終了された場合、特殊再生終了信
号を発生させる。
【0053】特殊再生同期情報更新手段703は、特殊
再生開始通知手段701が特殊再生開始信号を発生した
時点から、特殊再生終了通知手段702が特殊再生終了
信号を発生するまでの間の特殊再生中は、同期情報テー
ブル102の楽曲位置とテンポ時間とを、その特殊再生
の種類に応じて更新する。例えば、倍速再生の場合は、
通常のテンポ時間を1/2にして、通常の2倍の速さで
拍IDを進めていく。
再生開始通知手段701が特殊再生開始信号を発生した
時点から、特殊再生終了通知手段702が特殊再生終了
信号を発生するまでの間の特殊再生中は、同期情報テー
ブル102の楽曲位置とテンポ時間とを、その特殊再生
の種類に応じて更新する。例えば、倍速再生の場合は、
通常のテンポ時間を1/2にして、通常の2倍の速さで
拍IDを進めていく。
【0054】
【発明の効果】以上のように第1の発明によれば、一定
のテンポの楽曲データに対してしか映像を同期させるこ
とができなかった従来技術に比べ、曲の途中でテンポが
動的に変化する楽曲データを再生する場合や、突発的に
テンポ情報を変更された場合でも、映像を同期させて再
生するという効果を奏でることができる。
のテンポの楽曲データに対してしか映像を同期させるこ
とができなかった従来技術に比べ、曲の途中でテンポが
動的に変化する楽曲データを再生する場合や、突発的に
テンポ情報を変更された場合でも、映像を同期させて再
生するという効果を奏でることができる。
【0055】さらに、第2の発明によれば、同期情報の
更新回数を最小限にして、第1の発明と同様の効果を奏
でることができる。
更新回数を最小限にして、第1の発明と同様の効果を奏
でることができる。
【0056】さらに、第3の発明によれば、同期情報の
更新回数を抑えて、第1の発明と同様の効果を奏でるこ
とができる。
更新回数を抑えて、第1の発明と同様の効果を奏でるこ
とができる。
【0057】さらに、第4の発明によれば、第1の発明
の効果に加えて、フレーム演算による遅延なく楽曲デー
タと同期させて映像を再生するという効果を奏でること
ができる。
の効果に加えて、フレーム演算による遅延なく楽曲デー
タと同期させて映像を再生するという効果を奏でること
ができる。
【0058】さらに、第5の発明によれば、第1の発明
の効果に加えて、演奏による遅延なく楽曲データと同期
させて映像を再生するという効果を奏でることができ
る。
の効果に加えて、演奏による遅延なく楽曲データと同期
させて映像を再生するという効果を奏でることができ
る。
【0059】さらに、第6の発明によれば、第1の発明
の効果に加えて、映像表示による遅延なく楽曲データと
同期させて映像を再生するという効果を奏でることがで
きる。
の効果に加えて、映像表示による遅延なく楽曲データと
同期させて映像を再生するという効果を奏でることがで
きる。
【0060】さらに、第7の発明によれば、第1の発明
の効果に加えて、特殊再生中は楽曲データと映像との同
期が崩れる可能性があった従来技術に比べ、特殊再生中
でも楽曲データと同期させて映像を再生するという効果
を奏でることができる。
の効果に加えて、特殊再生中は楽曲データと映像との同
期が崩れる可能性があった従来技術に比べ、特殊再生中
でも楽曲データと同期させて映像を再生するという効果
を奏でることができる。
【0061】以上のような効果から、その実用的効果は
大きい。
大きい。
【図1】本発明の第1の実施の形態のブロック図
【図2】本発明の第1の実施の形態の具体的な動作を示
すフローチャート
すフローチャート
【図3】本発明の第2の実施の形態のブロック図
【図4】本発明の第3の実施の形態のブロック図
【図5】本発明の第4の実施の形態のブロック図
【図6】本発明の第5の実施の形態のブロック図
【図7】本発明の第6の実施の形態のブロック図
【図8】本発明の第7の実施の形態のブロック図
101 楽曲演奏手段 102 同期情報テーブル 103 同期情報更新手段 104 楽曲位置算定手段 105 フレームバッファ 106 フレーム出力手段 107 映像出力手段 201 同期情報リアルタイム更新手段 301 同期情報定期更新手段 401 演算時間予想手段 501 演奏遅れ予想手段 601 映像表示遅れ予想手段 701 特殊再生開始通知手段 702 特殊再生終了通知手段 703 特殊再生同期情報更新手段
Claims (7)
- 【請求項1】楽曲データに基づき演奏を行う楽曲演奏手
段と、楽曲上の位置を特定した楽曲位置と、演奏テンポ
の基本となるテンポ情報と、それらを更新した時刻とを
対応づけて一時的に記憶する同期情報テーブルと、前記
楽曲演奏手段の演奏に基づき前記同期情報テーブルを更
新する同期情報更新手段と、現在時刻と前記同期情報テ
ーブルの内容とから前記楽曲演奏手段が現在演奏してい
る楽曲位置を算定する楽曲位置算定手段と、フレームデ
ータを一時的に記憶するフレームバッファと、楽曲デー
タと関連づけられたCGデータから、前記楽曲位置算定
手段が算定した楽曲位置に基づき前記楽曲演奏手段の演
奏と同期したフレームデータを算出し、前記フレームバ
ッファに出力するフレーム出力手段と、前記フレームバ
ッファに記憶されたフレームデータを動画像として表示
す映像表示手段を備えたことを特徴とする同期再生方
法。 - 【請求項2】同期情報更新手段を、楽曲演奏手段が楽曲
位置またはテンポ情報のいづれかが変化する毎に同期情
報テーブルを更新する同期情報リアルタイム更新手段に
置換することを特徴とする請求項1の同期再生方法。 - 【請求項3】同期情報更新手段を、特定の周期で同期情
報テーブルを更新する同期情報定期更新手段に置換する
ことを特徴とする請求項1の同期再生方法。 - 【請求項4】CGデータ量からフレームデータ出力手段
が要する演算時間を予想する演算時間予想手段を追加
し、フレーム出力手段が、楽曲位置算定手段が算定した
楽曲位置より、前記演算時間予想手段が予想した時間だ
け遅らせた楽曲位置と同期したフレームデータを、フレ
ームバッファに出力することを特徴とする請求項1の同
期再生方法。 - 【請求項5】楽曲データから現在の楽曲位置の音が実際
に音となって出力されるまでの時間を予想する演奏遅れ
予想手段を追加し、同期情報更新手段が前記演奏遅れ予
想時間が予想した時間分だけ遅らせた楽曲位置とテンポ
情報と更新時間とを同期情報テーブルに出力することを
特徴とする請求項1の同期再生方法。 - 【請求項6】CGデータ量から映像表示手段がフレーム
バッファのデータを実際に表示できるまでの表示遅れ時
間を予想する映像表示遅れ予想手段を追加し、フレーム
出力手段が、楽曲位置算定手段が算定した楽曲位置よ
り、前記映像表示遅れ予想手段が予想した時間だけ遅ら
せた楽曲位置と同期したフレームデータを、フレームバ
ッファへ出力することを特徴とする請求項1の同期再生
方法。 - 【請求項7】楽曲演奏手段が特殊再生を始める時に特殊
再生開始信号を発生する特殊再生開始通知手段と、楽曲
演奏手段が特殊再生を終了する時に特殊再生終了信号を
発生する特殊再生終了通知手段と、特殊再生中に楽曲位
置をリアルタイムに同期情報テーブルに出力する特殊再
生同期情報更新手段とを追加し、フレーム出力手段が、
特殊再生中は前記特殊再生同期情報更新手段が更新する
前記同期情報テーブルに基づきフレームデータをフレー
ムバッファに出力することを特徴とする請求項1の同期
再生方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP9141927A JPH10333673A (ja) | 1997-05-30 | 1997-05-30 | 同期再生方法 |
PCT/JP1998/002175 WO1998053443A1 (fr) | 1997-05-19 | 1998-05-15 | Mode d'affichage graphique, procede de reproduction synchronisee, et dispositif de reproduction audiovisuelle synchronisee |
CA002250021A CA2250021C (en) | 1997-05-19 | 1998-05-15 | Graphic display apparatus, synchronous reproduction method, and av synchronous reproduction apparatus |
US09/142,813 US6331851B1 (en) | 1997-05-19 | 1998-05-15 | Graphic display apparatus, synchronous reproduction method, and AV synchronous reproduction apparatus |
CNB988005875A CN1152364C (zh) | 1997-05-19 | 1998-05-15 | 图形显示装置和同步重放方法以及声像同步重放装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP9141927A JPH10333673A (ja) | 1997-05-30 | 1997-05-30 | 同期再生方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPH10333673A true JPH10333673A (ja) | 1998-12-18 |
Family
ID=15303397
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP9141927A Pending JPH10333673A (ja) | 1997-05-19 | 1997-05-30 | 同期再生方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JPH10333673A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7512319B2 (en) | 2000-06-16 | 2009-03-31 | Yamaha Corporation | Synchronous information reproduction apparatus |
JP2015047261A (ja) * | 2013-08-30 | 2015-03-16 | ブラザー工業株式会社 | 情報処理装置及びプログラム |
-
1997
- 1997-05-30 JP JP9141927A patent/JPH10333673A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7512319B2 (en) | 2000-06-16 | 2009-03-31 | Yamaha Corporation | Synchronous information reproduction apparatus |
JP2015047261A (ja) * | 2013-08-30 | 2015-03-16 | ブラザー工業株式会社 | 情報処理装置及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6331851B1 (en) | Graphic display apparatus, synchronous reproduction method, and AV synchronous reproduction apparatus | |
US8451832B2 (en) | Content using apparatus, content using method, distribution server apparatus, information distribution method, and recording medium | |
JP2895932B2 (ja) | アニメーション合成表示装置 | |
US7221852B2 (en) | Motion picture playback apparatus and motion picture playback method | |
EP1653471A2 (en) | Content using apparatus, content using method, distribution server apparatus, information distribution method, and recording medium | |
JPH09204163A (ja) | カラオケの表示装置 | |
JP2001356767A (ja) | 同期再生装置、同期再生方法および同期再生用プログラムを記録した記録媒体 | |
JP3324158B2 (ja) | カラオケ装置 | |
JP2013207466A (ja) | 動画再生装置およびプログラム | |
JPH10333673A (ja) | 同期再生方法 | |
WO1998053443A1 (fr) | Mode d'affichage graphique, procede de reproduction synchronisee, et dispositif de reproduction audiovisuelle synchronisee | |
JPH11126066A (ja) | Av同期装置、及びav同期方法、並びにav同期プログラムを記録した記録媒体 | |
JP3320056B2 (ja) | カラオケ映像再生装置 | |
JPH1021029A (ja) | テロップ表示装置 | |
JP4140257B2 (ja) | カラオケ装置 | |
JP4335087B2 (ja) | 音付映像の再生装置 | |
JP3867695B2 (ja) | 画像再生装置 | |
JP2007025326A (ja) | 楽譜表示方法および楽譜表示プログラム | |
JP6048136B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2007093658A (ja) | オーディオ装置及びカラオケ装置 | |
JPH1152962A (ja) | カラオケ装置 | |
JP2943211B2 (ja) | カラオケ装置 | |
JPH0635661A (ja) | 画像と音声の同期再生方式 | |
JP2002191035A (ja) | リアルタイム画像再生装置及び方法 | |
JP5966971B2 (ja) | 情報処理装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20040601 |