JP2004240077A - 楽音制御装置、映像制御装置及びプログラム - Google Patents
楽音制御装置、映像制御装置及びプログラム Download PDFInfo
- Publication number
- JP2004240077A JP2004240077A JP2003027779A JP2003027779A JP2004240077A JP 2004240077 A JP2004240077 A JP 2004240077A JP 2003027779 A JP2003027779 A JP 2003027779A JP 2003027779 A JP2003027779 A JP 2003027779A JP 2004240077 A JP2004240077 A JP 2004240077A
- Authority
- JP
- Japan
- Prior art keywords
- music
- video
- data
- effect
- change
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Circuits (AREA)
- Television Receiver Circuits (AREA)
- Electrophonic Musical Instruments (AREA)
Abstract
【解決手段】この楽音及び映像制御システムの第1制御モードでは、映像制御用操作子MN1を操作して映像パラメータの変更を指示すると、映像効果付与ブロックVC1により、映像データ生成ブロックVP1で生成される映像データに対して映像効果が付与されると共に、楽音制御ブロックMC1によって、音楽データ生成ブロックMP1で生成される音楽データに対して音質の変更又は音楽内容の変更が自動的になされる。また、第2又は第3制御モードでは、映像又は音楽データから映像効果又は楽音変化が検出されると、音楽又は映像データが自動的に制御される。さらに、第4制御モードでは、音楽パラメータの変更指示に応じて、映像データに所定の映像効果が自動的に付与される。
【選択図】図2
Description
【発明の属する技術分野】
この発明は、映像とマッチした音楽或いは音楽にマッチした映像を得ることができる楽音或いは映像制御システムに関する。
【0002】
【従来の技術】
従来より、映像データに対して、そのBGMとなる音楽を付加する装置がある(例えば、特開2001−296866)。従来装置においては、映像に対してフェードイン、フェードアウト等の映像効果を付与することがあるが、この映像効果と音楽とがマッチていないものであった。
【0003】
【発明が解決しようとする課題】
この発明は、このような事情に鑑み、映像の変化に応じて楽音を制御し或いは音楽の変化に応じて映像を制御することにより映像と音楽をマッチさせることができる楽音或いは映像制御システムを提供することを目的とする。
【0004】
【課題を解決するための手段】
この発明の一つの特徴に従うと、映像データに対して映像効果を付与する映像効果付与手段(VC1)と、付与された映像効果に応じて、音楽データの音質又は内容を表わす音楽パラメータを制御する音楽パラメータ制御手段(MC1)とを具備する楽音制御装置〔請求項1〕、並びに、映像データに対して映像効果を付与するステップ(VC1)と、付与された映像効果に応じて、音楽データの音質又は内容を表わす音楽パラメータを制御するステップ(MC1)とから成る手順を情報処理装置(PC)に実行させる楽音制御プログラム〔請求項6〕が提供される。また、この特徴に従う楽音制御装置においては、音楽パラメータ制御手段(MC1)は、付与された映像効果の種類に応じて異なる音楽パラメータを制御する〔請求項2〕ように構成することができる。なお、括弧書きは、後述する実施例における参照記号又は用語を表わし、以下においても同様である。
【0005】
また、この発明の別の特徴に従うと、映像データから映像効果を検出する映像効果検出手段(VA)と、検出された映像効果に応じて、音楽データの特性又は内容を表わす音楽パラメータを制御する音楽パラメータ制御手段(MC2)とを具備する楽音制御装置〔請求項3〕、並びに、映像データから映像効果を検出するステップ(VA)と、検出された映像効果に応じて、音楽データの特性又は内容を表わす音楽パラメータを制御するステップ(MC2)とから成る手順を情報処理装置(PC)に実行させる楽音制御プログラム〔請求項7〕が提供される。
【0006】
また、この発明の更に別の特徴に従うと、音楽データから、音楽の特性又は内容を表わす音楽パラメータの変化を検出する音楽パラメータ変化検出手段(MA)と、検出された音楽パラメータの変化に応じて映像データに効果を付与する映像効果付与手段(VC3)とを具備する映像制御装置〔請求項4〕、並びに、音楽データから、音楽の特性又は内容を表わす音楽パラメータの変化を検出するステップ(MA)と、検出された音楽パラメータの変化に応じて映像データに効果を付与するステップ(VC3)とから成る手順を情報処理装置(PC)に実行させる映像制御プログラム〔請求項8〕が提供される。
【0007】
さらに、この発明の他の特徴に従うと、音楽データに対して音質又は音楽内容の変更を指示するための音楽制御用操作子(MN4)と、この変更の指示に応じて、音楽データの特性又は内容を表わす音楽パラメータを制御する音楽パラメータ制御手段(MC4)と、この音楽パラメータに応じて映像データに効果を付与する映像効果付与手段(VC4)とを具備する映像制御装置〔請求項5〕、並びに、音楽データに対して音質又は音楽内容の変更が指示されたことを検出するステップ(MN4)と、検出された指示に応じて、音楽データの特性又は内容を表わす音楽パラメータを制御するステップ(MC4)と、この音楽パラメータに応じて映像データに効果を付与するステップ(VC4)とから成る手順を情報処理装置に実行させる映像制御プログラム〔請求項9〕が提供される。
【0008】
〔発明の作用〕
この発明では、出力される映像に付与されるフェードイン/アウト、モザイク等の所定の映像効果に応じて、当該映像の再生と共に演奏される音楽につき、音色やエフェクトなどの音楽の音質や演奏パート数などの音楽内容を表わす所定の音楽パラメータを制御するようにしているので、当該映像効果にマッチした音楽を得ることができる。
【0009】
また、この発明では、再生される映像データからフェードイン/アウト、モザイク等の所定の映像効果を検出すると、これに応じて、音楽の音量、音質などの音楽特性や演奏パート数などの音楽内容を表わす所定の音楽パラメータを制御し、制御された音楽パラメータに基づいて音楽を演奏するようにしているので、予め映像効果が付与されている映像データが供給された場合であっても、当該映像にマッチした音楽を得ることができる。
【0010】
また、この発明では、演奏(再生/実演奏)される音楽データから、当該音楽の音量、音質などの音楽特性や演奏パート数などの音楽内容などを表わす音楽パラメータの変化を検出すると、これに応じて、フェードイン/アウト、モザイク等の所定の映像効果を映像に付与するようにしているので、先に音楽データが与えられた場合であっても、当該音楽にマッチした映像を得ることができる。
【0011】
さらに、この発明では、演奏(再生/実演奏)される音楽データに対して指示される速度標語(リタルダンド、アッチェレランド等)などを含む所定の音質や音楽内容に応じて、当該音楽の演奏と共に再生される映像につき、再生速度など所定の映像効果を付与するようにしているので、指示された音質や音楽内容にマッチした映像効果を得ることができる。
【0012】
【発明の実施の形態】
以下、図面を参照しつつ、この発明の好適な実施の形態について詳述する。なお、以下の実施例は単なる一例であって、この発明の精神を逸脱しない範囲で種々の変更が可能である。
【0013】
〔システムの概要〕
図1は、この発明の一実施例による楽音及び映像制御システムのハードウエア構成を示すブロック図である。この例では、楽音及び映像制御システムの本体装置となる情報処理装置としてパーソナルコンピュータ(PC)が用いられている。この楽音及び映像制御機能を有する情報処理装置PCは、中央処理装置(CPU)1、読出専用メモリ(ROM)2、ランダムアクセスメモリ(RAM)3、外部記憶装置4、検出回路5、表示回路6、音源回路7、効果回路8、通信インターフェース(通信I/F)9、MIDIインターフェース(MIDI・I/F)10などを備え、これらの装置1〜10はバス11を介して互いに接続されている。
【0014】
CPU1は、所定のソフトウエア・プログラムに従いタイマ12によるクロックを利用して、基本的な情報処理を実行する外、この楽音及び映像制御に必要な各種の楽音制御処理及び映像制御処理を実行して音楽データ及び映像データを生成することができる。ROM2には、このために、基本的情報処理や各種楽音及び映像制御処理を含む各種制御プログラム、制御パラメータ、音楽データ及び映像データなどが記憶されている。RAM3は、種々の情報処理に際して必要なデータやパラメータを記憶し、また、処理中の各種データ等を一時記憶するためのワーク領域として用いられる。
【0015】
外部記憶装置4は、ハードディスク(HD)や、コンパクトディスク・リード・オンリィ・メモリ(CD−ROM)、フレキシブルディスク(FD)、光磁気(MO)ディスク、ディジタル多目的ディスク(DVD)、半導体メモリ等の記憶媒体を含み、この情報処理装置PCで利用される各種楽音及び映像制御プログラムや、上述した音楽データ及び映像データを記憶することができる。
【0016】
このシステムで利用される音楽データとしては、MIDIデータなどの楽音の個別制御が可能な音楽専用データや波形を表わすディジタルオーディオデータ等があり、映像データとしては、デジタルビデオ〔所謂“ディジタル動画像データ”であり、比較的低速度で切換え再生される複数枚の静止画像データセットを含む。〕、アニメーション、プレゼンテーション等のデータがある。
【0017】
検出回路5は、これに接続されるパネル操作子装置13による設定/制御操作の内容を検出して情報処理装置PC内に導入する。パネル操作子装置13は、キーボードやマウスなどのポインチングデバイスなどの操作子を備え、ユーザがこの情報処理装置PCの動作状態を設定したり、楽音及び映像制御に必要な各種情報を入力するなどの各種設定(「パネル設定」と呼ばれる。)に用いられる。パネル設定では、例えば、映像データに付与される映像効果に対応する情報(「映像効果パラメータ」又は単に「映像パラメータ」という。)と音楽データにおいて当該映像効果に相応しい印象を与える情報(「音楽パラメータ」という。)との対応関係について、設定/修正することができる。
【0018】
また、パネル操作子装置13中の操作子には、システムがプレイモード(第1〜第3制御モード)で動作する際に、映像パラメータや音楽パラメータをリアルタイムで制御する機能を割り当てることができ、特に、映像パラメータ及び音楽パラメータの制御に割り当てられる操作子(MN1,MN4)は“映像制御用操作子”及び“音楽制御用操作子”と呼ばれる。
【0019】
表示回路6は、これに接続されるディスプレイ14の表示内容をCPU1からの指令に従って制御し、ディスプレイ14にはディスプレイ本体や各種インジケータが含まれる。ディスプレイ14は、ユーザによりパネル設定を行う際に、ユーザインターフェースの視覚援助を行うのに用いられる。
【0020】
表示回路6及びディスプレイ14は、パネル設定時の視覚援助だけでなくプレイ動作時の映像データによる映像表示にも用いられ、楽音及び映像データを再生するプレイ動作時には映像生成部としても機能する。つまり、プレイ動作時には、表示回路6は、楽音及び映像制御プログラムに従う映像制御で得られる映像データに基づき映像信号を発生し、ディスプレイ14は、映像信号に基づいて映像を出力する。なお、映像生成部については、演奏データに基づき映像信号を発生して映像を出力する機能に加えて、上述の映像制御に従って映像データに映像効果を付与し、映像効果が付与された映像データを生成する機能を含めるように、映像表示専用の映像処理装置及びディスプレイ(大型ディスプレイやプロジェクタ)を別設してもよい。
【0021】
DSPを含む効果回路8にはD/A変換部やアンプ、スピーカを含むサウンドシステム15が接続され、また、MIDIデータなどの音楽専用データに対応して、効果回路8に音源回路7が前置接続される。これらの装置7,8,15は、楽音及び映像制御プログラムによる楽音制御で得られる音楽データに基づき楽音信号を発生し楽音を出力する楽音生成部を形成する。
【0022】
通信I/F9には、インターネットなどの通信ネットワーク16を介してサーバコンピュータなどの他の情報機器17が接続され、他の情報機器17から音楽データや映像データなどを受信することができる。
【0023】
また、MIDI・I/F10にはMIDI機器18が接続され、情報処理装置PCとMIDI機器18との間でMIDI形式の音楽データを授受することができる。MIDI機器18は、鍵盤タイプのキーボード楽器や他の任意のタイプ(弦楽器/管楽器/打楽器タイプ等)の電子楽器などの音楽演奏機能を有する音楽情報処理装置で構成され、例えば、MIDI機器18での実鍵盤演奏により得られた音楽データをMIDI形式で情報処理装置PC内に送り込むことができる。
なお、MIDI・I/F10については、専用のMIDIインターフェースに限らず、RS−232C、USB(ユニバーサル・シリアル・バス)、IEEE1394(アイトリプルイー1394)等の汎用のインターフェースを用いてMIDIインターフェースを構成してもよい。この場合、MIDIメッセージ以外のデータをも同時に送受信するようにしてもよい。
【0024】
この楽音及び映像制御システムは、上述した“パーソナルコンピュータ+アプリケーションソフトウェア”の形態に限らず、ビデオミキサー装置や、カラオケ装置、ゲーム装置、映像処理機能を有する各種音楽情報機器〔電子楽器、自動演奏装置など〕の形態で実施することができる。
【0025】
〔楽音及び映像制御の概要〕
この楽音及び映像制御システムでは、例えば、ROM2や外部記憶装置4などに記憶された音楽データファイルや映像データファイルには多数の音楽データや映像データが予め用意されており、前述したように、映像データとしては、デジタルビデオ、アニメーション、プレゼンテーション等があり、音楽データとしては、デジタルオーディオ、MIDIデータ等がある。
【0026】
また、映像データに付与される効果を表わす映像効果パラメータとこの効果に対応させる音楽パラメータとの関係については、予めシステム側で映像効果と音楽の音質や演奏内容などとの関係を決めておいてもよいし、ユーザによるパネル設定で決めるようにしてもよい。例えば、システム側で決めておいた関係をそのままデフォルト設定として採用する。さらに、デフォルト設定された関係をユーザが修正することができるようにしたり、或いは、予め用意されたいくつかの選択肢の中から所望の関係をユーザが選択することができるようにする。
【0027】
そこで、ユーザがパネル操作子13を操作して所望の音楽データ及び映像データを選択すると、選択された音楽データ及び映像データに基づく楽音及び映像をそれぞれ楽音生成部(7,8,15)及び映像生成部(6,14)から出力させることができる。この場合、システムは、パネル操作子13のモード設定操作に応じて第1〜3制御モード(第1〜3の実施形態)で動作し、各モードに対応する制御動作に従って、音楽データ又は映像データの再生が制御され、出力楽音の変化と出力映像の効果を互いに調和させることができる。
【0028】
〔第1の実施形態〕
さて、図2は、この発明の第1の実施形態における楽音及び映像制御を説明するための機能ブロック図である。この発明の第1の実施形態、即ち、この楽音及び映像制御システムが第1制御モードで動作する場合には、図2のように、映像制御用操作子MN1を操作して映像パラメータを指示すると、映像効果付与ブロックVC1により、映像データ生成ブロックVP1で生成される映像データに対して映像効果が付与されると共に、楽音制御ブロックMC1によって、音楽データ生成ブロックMP1で生成される音楽データに対して音質の変更や音楽内容の変更などが自動的に制御される。
【0029】
以下、第1の実施形態を具体的に説明する。第1制御モードでは、CPU1は、パネル操作子装置13中の所定の操作子に映像制御用操作子MN1の機能を割り当てると共に、映像データについては、映像効果付与ブロックVC1及び映像データ生成ブロックVP1の制御機能を実行し、音楽データについては、楽音制御ブロックMC1及び音楽データ生成ブロックMP1の制御機能を実行する。ここで、楽音制御ブロックMC1は、映像制御用操作子MN1の操作により指示される映像効果パラメータに対応して予め設定された音楽パラメータの関係に従って、音楽データの所定の情報を変更する。
【0030】
映像データの再生の進行に伴ってユーザがリアルタイムに映像制御用操作子MN1を操作すると、映像効果付与ブロックVC1により、この操作に対応して指示される映像効果が再生中の映像データに対して付与される。ここで付与される映像効果パラメータとしては、フェードイン、フェードアウト、クロスフェード、モザイク、ワイプ、フラッシュ、色調の変更(例えばセピア調に変更)などがある。そして、このような映像効果が付与された映像データが映像データ生成ブロックVP1で生成されると、この映像データに基づいて、映像生成部(6,14)から所望の効果が付与された映像が再生出力される。
【0031】
一方、楽音制御ブロックMC1は、映像制御用操作子MN1の操作に基づく映像効果付与ブロックVC1の映像効果付与処理に対応して、予め設定された映像効果パラメータに対する音楽パラメータの関係に従い音楽データの一部の情報を変更し、当該音楽データにより表わされる音楽の音質や内容などを変更する。ここで、音質を変更するための音楽パラメータには、フィルタのパラメータ制御、リバーブ等のエフェクトパラメータ制御などがあり、音楽内容を変更するための音楽パラメータとしては、演奏パートの増減(MIDIデータの場合)、効果音(打楽器音や自然音)の挿入などがある。
【0032】
そして、当該パラメータ情報が変更された音楽データが音楽データ生成ブロックMP1で生成されると、この音楽データに基づいて、映像効果に対応して音質や内容が変化する音楽が楽音生成部(7,8,15)から出力される。これによって、映像制御用操作子MN1の操作により映像データに対して映像効果が付与されると、音楽データに対して音質や音楽内容などの変更が自動的になされる。
【0033】
例えば、映像効果がフェードインの場合、音質も徐々に暗い音質から明るい音質に変更されるようにフィルタのパラメータが変更される。或いは、映像効果としてモザイクが掛かってノイズっぽくなると、音質も“もやもや”した感じになるようにリバーブの深さが変更される。また、映像効果がフェードアウトの場合、演奏パート数が減少するように変更される。或いは、映像効果としてフラッシュ(急激に明るくなり、すぐに暗くなるなど)がかかると、所定効果音が付加される。さらに、映像データのフェードイン/フェードアウトに同期して音楽データの音量をフェードイン/フェードアウトさせるようにすることもできる。
【0034】
図3は、時間経過に対する映像効果パラメータ(明るさ等)及び対応する音楽パラメータ(音質又は演奏内容など)の関係の一例を示す。例えば、映像データの映像効果としてフェードイン及びフェードアウトを適用し、フェードイン及びフェードアウトに応じて映像の明るさや彩度などを図3(a)のように徐々に上げていき(明るく又は鮮やかにしていく)その後徐々に下げていく(暗く又はセピア化していく)場合、音楽データについては、図3(b)のように、映像のフェードインに応じて、徐々に、音質を明るく、音量を大きく或いは演奏パートを増加させて行き、映像のフェードアウトに応じて、徐々に、音質を暗く、音量を小さく或いは演奏パートを減少させて行く。
【0035】
要するに、音楽の音質や演奏内容などが、映像効果のイメージとマッチしたイメージとなるように、音楽データの種々のパラメータが変更される。なお、映像効果の付与は、映像再生中にリアルタイムに映像制御用操作子MN1を操作して付与するものに限らず、映像の非再生中に映像効果パラメータを設定して付与してもよい。
【0036】
〔第2の実施形態〕
図4は、この発明の第2の実施形態における楽音及び映像制御を説明するための機能ブロック図である。この発明の第2の実施形態、即ち、この楽音及び映像制御システムが第2制御モードで動作する場合には、図4のように、映像効果検出ブロックVAにより、映像データ生成ブロックVP2で生成される映像データから映像効果が検出されると、楽音制御ブロックMC2によって、音楽データ生成ブロックMP2で生成される音楽データに対して音質、音量又は音楽内容などの情報の変更が自動的に制御される。
【0037】
第2の実施形態をより詳しく説明すると、第2制御モードでは、CPU1は、映像データについて、映像データ生成ブロックVP2及び映像効果検出ブロックVAの制御機能を実行し、音楽データについては、楽音制御ブロックMC2及び音楽データ生成ブロックMP2の制御機能を実行する。ここで、楽音制御ブロックMC2は、映像効果検出ブロックVAで検出される映像効果を表わす映像効果パラメータに対応して予め設定された音楽パラメータの関係に従って、音楽データの一部の情報を変更する。
【0038】
映像データ生成ブロックVP2で、ユーザが選択した映像データを生成して映像生成部(6,14)での映像再生を進行していくと、映像効果検出ブロックVAは、生成されつつある映像データの内容から、フェードイン、フェードアウト、クロスフェード、モザイク、ワイプ、フラッシュ、色調の変更など、所定の映像効果を検出する。例えば、映像の明るさやコントラストの変化からフェードインやフェードアウト、フラッシュ等を検出する。楽音制御ブロックMC2は、検出された映像効果に基づき、第1制御モードにおけるブロックMC1と同様に、上述の映像効果・音楽パラメータの関係に従って、音楽データに対して音質、音量、音楽内容などの音楽パラメータを変更する。
【0039】
そして、一部の情報が変更された音楽データが音楽データ生成ブロックMP2で生成されると、この音楽データに基づいて、映像効果に対応して、音質、音量や音楽内容が変化する音楽が楽音生成部(7,8,15)から出力される。これによって、映像データから映像効果が検出されると、音楽データに対して音質や音量の変更、音楽内容の変更などが自動的になされる。この実施形態では、音楽の音量を変更してもよく、例えば、検出された映像効果がフェードインやフェードアウトの場合、音楽の音量も合わせてフェードイン、フェードアウトさせることができる。
【0040】
〔第3の実施形態〕
図5は、この発明の第3の実施形態における楽音及び映像制御を説明するための機能ブロック図である。この発明の第3の実施形態、即ち、この楽音及び映像制御システムが第3制御モードで動作する場合には、図5のように、楽音変化検出ブロックMAにより、音楽データ生成ブロックMP3で生成される音楽データから、所定の楽音変化を表わす音楽パラメータが検出されると、映像効果付与ブロックVC3によって、映像データ生成ブロックVP3で生成される映像データに対して所定の映像効果を自動的に付与する制御がなされる。
【0041】
第3の実施形態(第3制御モード)においては、CPU1は、音楽データについて、音楽データ生成ブロックMP3及び楽音変化検出ブロックMAの制御機能を実行し、映像データについては、映像効果付与ブロックVC3及び映像データ生成ブロックVP3の制御機能を実行する。ここで、映像効果付与ブロックVC3は、楽音変化検出ブロックMAで検出される所定の楽音変化に対応する音楽パラメータと映像効果パラメータとの関係に従って、映像データに所定の効果を付与する。
【0042】
音楽データ生成ブロックMP3で、ユーザが選択した音楽データを生成して楽音生成部(7,8,15)での楽音再生を進行していくと、楽音変化検出ブロックMAは、生成されつつある音楽データの内容から、音質、音量、音楽内容の変化などの所定の音楽変化を検出する。例えば、音量の変化や、音質の変化からフェードイン、フェードアウトが検出される。或いは、演奏パート数の増減、所定効果音の有無や、音楽データのテンポの変化等といった音楽変化が検出される。映像効果付与ブロックVC3は、検出された音楽変化に基づき、上述の映像効果・音楽パラメータの関係に従って、第1制御モードの映像効果付与ブロックVC1と同様に、フェードイン、フェードアウト、クロスフェード、モザイク、ワイプ、フラッシュ、色調の変更など、所定の映像効果を映像データに対して付与する。
【0043】
そして、映像効果が付与された映像データが映像データ生成ブロックVP3で生成されると、この映像データに基づいて、音楽変化に対応して所定の映像効果が付与された映像が映像生成部(6,14)から出力される。これによって、音楽データから音楽変化が検出されると、映像データに対して映像効果が自動的に付与される。
【0044】
〔第4の実施形態〕
図6は、この発明の第4の実施形態における楽音及び映像制御を説明するための機能ブロック図である。この発明の第4の実施形態では、第1の実施形態の逆の処理が行われ、音楽パラメータの変更指示に応じて、映像データに所定の映像効果が自動的に付与される。すなわち、この楽音及び映像制御システムが第4制御モードで動作する場合には、図6のように、音楽制御用操作子MN4を操作して、楽音制御ブロックMC4により、音楽データ生成ブロックMP4で生成される音楽データ音楽データに対して音質や音楽内容などが変更されると、映像効果付与ブロックVC4によって、映像データ生成ブロックVP4で生成される映像データに対し、音質や音楽内容などの音楽変更に対応する映像効果が自動的に付与される。
【0045】
より詳しく説明すると、第4の実施形態(第4制御モード)においては、CPU1は、パネル操作子装置13中の所定の操作子に映像制御用操作子MN1の機能を割り当てると共に、音楽データについて、音楽データ生成ブロックMP4及び楽音制御ブロックMC4の制御機能を実行し、映像データについては、映像効果付与ブロックVC4及び映像データ生成ブロックVP4の制御機能を実行する。ここで、映像効果付与ブロックVC4は、音楽制御用操作子MN4により制御される音質や音楽内容などの音楽パラメータに対応して予め設定された映像効果パラメータとの関係に従い、映像データに所定の効果を付与する。
【0046】
音楽データの再生の進行に伴ってユーザがリアルタイムに音楽制御用操作子MN4を操作し、音楽データに対して所定の音質・音楽内容の変更を指示すると、楽音制御ブロックMC4は、この指示に応じて、第1及び第2の実施形態と同様に、音楽データ生成ブロックMP4で生成される音楽データの音質や音楽内容を制御し、この音楽データに基づいて、音質や内容が所望に変化する音楽を楽音生成部(7,8,15)から出力させる。また、これに並行して、映像効果付与ブロックVC4は、楽音制御ブロックMC4による音楽データの音質や音楽内容の変更に対応した映像効果を、第1及び第3の実施形態と同様に、映像データ生成ブロックVP4で生成される再生中の映像データに対して付与し、このような映像効果が付与された映像データに基づいて、映像生成部(6,14)から効果が付与された映像を再生出力させる。
【0047】
例えば、音楽制御用操作子MN4を操作し、音楽データ生成ブロックMPで生成される音楽データに対して、リタルダンド(ritardando:テンポが徐々に遅くなる)やアッチェレランド(accelerando :テンポが徐々に速くなる)を指示すると、映像データ生成ブロックVP4で生成される映像データも、再生速度がだんだん遅くなったり、速くなったりするような効果が付与される。また、この例の他に、第3の実施形態に記載されているような音質・音楽内容の変更を指示すると、対応する映像効果が付与される。
【0048】
以上のように、第4の実施形態では、音楽データに対して所定の音質・音楽内容の変更を操作子により指示すると、この指示に応じて、音楽データの音質や音楽内容を制御すると共に、この音質や音楽内容の変更に対応した映像効果を映像データに自動的に付与することができる。
【0049】
〔種々の実施態様〕
以上、この発明を一実施例について説明したが、この発明は種々の態様で実施することができる。例えば、映像データの映像効果と音楽データの音質、音量、演奏内容との関係は例示したものに限らない。一例を挙げると、第2の実施形態において、映像について第1の映像データから第2の映像データへと徐々に変化していく映像効果を適用する場合、音楽についても、第1の音楽データから第2の音楽データへと徐々に変化していくようにクロスフェード制御してもよい。
【0050】
第2の実施形態では映像データに対して映像効果を予め設定してから映像再生を行い、第3の実施形態では音楽データに対して音質、音量、演奏内容などを予め設定してから音楽再生を行うようにすることができるが、映像効果や音楽データの音質、音量、演奏内容などを予め設定しておくものに限らず、操作子の操作や所定の電気信号(LFO等)などによってリアルタイムにこれらを変更するものにも適用可能である。例えば、第2の実施形態で動作するビデオミキサー装置において、第1の実施形態における映像制御用操作子(MN1)と同様に、操作子によりリアルタイムに映像効果を変化させたら、それに合わせて音楽データの音質や演奏内容なども変化させる。また、第3の実施形態において、外部のMIDI機器(18)でのリアルタイム演奏による音質や演奏内容などの変化(変化情報)に従って、それに合わせて映像データに対する映像効果も変化させる。
【0051】
第2の実施形態や第3の実施形態では、それぞれ、映像効果が付与された映像データや、音質、音量、演奏内容などが変更された音楽データを、ROM2や外部記憶装置4に予め保存しておき、再生に利用することができるが、このような修飾済みの映像データや音楽データそのものを保存するものに限らず、映像効果付与情報(映像パラメータ)を映像データ(オリジナル)とあわせて保存したり、音質、音量、演奏内容などの変更情報(音楽パラメータ)を付加した音楽データを保存するようにしてもよい。この場合、映像効果付与情報や変更情報から直ちに映像パラメータや音楽パラメータを検出することができる。
【0052】
【発明の効果】
以上説明したように、この発明によれば、映像へ付与する効果(フェードイン/アウト、モザイク等)に応じて、当該映像と共に演奏される音楽の音質(音色やエフェクト等)または音楽内容(演奏パート数など)を制御するようにしているので、映像効果にマッチした音楽を得ることができる。
【0053】
この発明によれば、映像から映像効果(フェードイン/アウト、モザイク等)を検出し、音楽の特性〔音量、音質(音色やエフェクト等)など〕や音楽内容(演奏パート数など)を制御するようにしているので、予め映像効果が付与されている映像データが供給された場合であっても、映像にマッチした音楽を得ることができる。
【0054】
この発明によれば、音楽から当該音楽の特性〔音量、音質(音色やエフェクト等)など〕や音楽内容(演奏パート数など)の変化を検出して映像に効果(フェードイン/アウト、モザイク等)を付与するようにしているので、先に音楽が与えられた場合であっても、音楽にマッチした映像を得ることができる。
【0055】
この発明によれば、音楽に対して指示される所定の音質や音楽内容(速度標語など)に応じて、当該音楽の演奏と共に再生される映像の映像効果(再生速度の変更など)を付与するようにしているので、指示された音質や音楽内容にマッチした映像を得ることができる。
【図面の簡単な説明】
【図1】図1は、この発明の一実施例による楽音及び映像制御システム(パーソナルコンピュータ)のハードウエア構成ブロック図である。
【図2】図2は、この発明の第1の実施形態による楽音及び映像制御を表わす機能ブロック図である。
【図3】図3は、映像データに対する映像効果と音楽データの音質・演奏内容の関係の一例を表わす図である。
【図4】図4は、この発明の第2の実施形態による楽音及び映像制御を表わす機能ブロック図である。
【図5】図5は、この発明の第3の実施形態による楽音及び映像制御を表わす機能ブロック図である。
【図6】図6は、この発明の第4の実施形態による楽音及び映像制御を表わす機能ブロック図である。
【符号の説明】
MN1,MN4 映像制御用及び音楽制御用操作子、
VC1,VC3,VC4 映像効果付与ブロック、
MC1,MC2,MC4 楽音制御ブロック、
VA 映像効果検出ブロック、
MA 楽音変化検出ブロック、
VP1,VP2,VP3,VP4 映像データ生成ブロック、
MP1,MP2,MP3,MP4 音楽データ生成ブロック。
Claims (9)
- 映像データに対して映像効果を付与する映像効果付与手段と、
付与された映像効果に応じて、音楽データの音質又は内容を表わす音楽パラメータを制御する音楽パラメータ制御手段とを具備することを特徴とする楽音制御装置。 - 前記音楽パラメータ制御手段は、付与された映像効果の種類に応じて異なる音楽パラメータを制御することを特徴とする請求項1に記載の楽音制御装置。
- 映像データから映像効果を検出する映像効果検出手段と、
検出された映像効果に応じて、音楽データの特性又は内容を表わす音楽パラメータを制御する音楽パラメータ制御手段とを具備することを特徴とする楽音制御装置。 - 音楽データから、音楽の特性又は内容を表わす音楽パラメータの変化を検出する音楽パラメータ変化検出手段と、
検出された音楽パラメータの変化に応じて映像データに効果を付与する映像効果付与手段とを具備することを特徴とする映像制御装置。 - 音楽データに対して音質又は音楽内容の変更を指示するための音楽制御用操作子と、
この変更の指示に応じて、音楽データの特性又は内容を表わす音楽パラメータを制御する音楽パラメータ制御手段と、
この音楽パラメータに応じて映像データに効果を付与する映像効果付与手段とを具備することを特徴とする映像制御装置。 - 映像データに対して映像効果を付与するステップと、
付与された映像効果に応じて、音楽データの音質又は内容を表わす音楽パラメータを制御するステップとから成る手順を情報処理装置に実行させる楽音制御プログラム。 - 映像データから映像効果を検出するステップと、
検出された映像効果に応じて、音楽データの特性又は内容を表わす音楽パラメータを制御するステップとから成る手順を情報処理装置に実行させる楽音制御プログラム。 - 音楽データから、音楽の特性又は内容を表わす音楽パラメータの変化を検出するステップと、
検出された音楽パラメータの変化に応じて映像データに効果を付与するステップとから成る手順を情報処理装置に実行させる映像制御プログラム。 - 音楽データに対して音質又は音楽内容の変更が指示されたことを検出するステップと、
検出された指示に応じて、音楽データの特性又は内容を表わす音楽パラメータを制御するステップと、
この音楽パラメータに応じて映像データに効果を付与するステップとから成る手順を情報処理装置に実行させる映像制御プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003027779A JP2004240077A (ja) | 2003-02-05 | 2003-02-05 | 楽音制御装置、映像制御装置及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003027779A JP2004240077A (ja) | 2003-02-05 | 2003-02-05 | 楽音制御装置、映像制御装置及びプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007204824A Division JP2007328365A (ja) | 2007-08-07 | 2007-08-07 | 映像制御装置及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004240077A true JP2004240077A (ja) | 2004-08-26 |
Family
ID=32955408
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003027779A Pending JP2004240077A (ja) | 2003-02-05 | 2003-02-05 | 楽音制御装置、映像制御装置及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004240077A (ja) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006003848A1 (ja) * | 2004-06-30 | 2006-01-12 | Matsushita Electric Industrial Co., Ltd. | 楽曲情報算出装置及び楽曲再生装置 |
WO2008004690A1 (fr) * | 2006-07-03 | 2008-01-10 | Plato Corp. | Dispositif portatif de production d'accords, programme d'ordinateur et support d'enregistrement |
JP2008027538A (ja) * | 2006-07-21 | 2008-02-07 | Sony Corp | 再生装置、記録媒体、再生方法及び再生プログラム |
JP2008154065A (ja) * | 2006-12-19 | 2008-07-03 | Roland Corp | 効果付与装置 |
EP2134081A1 (en) * | 2007-03-09 | 2009-12-16 | Pioneer Corporation | Effect device, av processing device and program |
JP2011002676A (ja) * | 2009-06-19 | 2011-01-06 | Casio Computer Co Ltd | 再生装置およびプログラム |
JP2011086437A (ja) * | 2009-10-14 | 2011-04-28 | Nintendo Co Ltd | 画像表示システム、照明システム、情報処理装置、および制御プログラム |
JP2011155483A (ja) * | 2010-01-27 | 2011-08-11 | Casio Computer Co Ltd | 表示制御装置、画像処理装置、表示制御プログラム、及び、画像処理プログラム |
JP2012037612A (ja) * | 2010-08-04 | 2012-02-23 | Casio Comput Co Ltd | 楽音制御装置およびプログラム |
JP2012205087A (ja) * | 2011-03-25 | 2012-10-22 | Olympus Imaging Corp | 音声処理装置 |
JP2014222661A (ja) * | 2014-06-17 | 2014-11-27 | 任天堂株式会社 | 画像表示システム、照明システム、情報処理装置、および制御プログラム |
JP2018078507A (ja) * | 2016-11-11 | 2018-05-17 | 株式会社東芝 | 電子機器及び表示制御方法 |
JP2018155799A (ja) * | 2017-03-15 | 2018-10-04 | カシオ計算機株式会社 | フィルタ特性変更装置、フィルタ特性変更方法、プログラムおよび電子楽器 |
JP2018170678A (ja) * | 2017-03-30 | 2018-11-01 | 株式会社ライブ・アース | ライブ映像処理システム、ライブ映像処理方法及びプログラム |
-
2003
- 2003-02-05 JP JP2003027779A patent/JP2004240077A/ja active Pending
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4817388B2 (ja) * | 2004-06-30 | 2011-11-16 | パナソニック株式会社 | 楽曲情報算出装置及び楽曲再生装置 |
JPWO2006003848A1 (ja) * | 2004-06-30 | 2008-04-17 | 松下電器産業株式会社 | 楽曲情報算出装置及び楽曲再生装置 |
US7446252B2 (en) | 2004-06-30 | 2008-11-04 | Matsushita Electric Industrial Co., Ltd. | Music information calculation apparatus and music reproduction apparatus |
WO2006003848A1 (ja) * | 2004-06-30 | 2006-01-12 | Matsushita Electric Industrial Co., Ltd. | 楽曲情報算出装置及び楽曲再生装置 |
WO2008004690A1 (fr) * | 2006-07-03 | 2008-01-10 | Plato Corp. | Dispositif portatif de production d'accords, programme d'ordinateur et support d'enregistrement |
US8003874B2 (en) | 2006-07-03 | 2011-08-23 | Plato Corp. | Portable chord output device, computer program and recording medium |
JP2008027538A (ja) * | 2006-07-21 | 2008-02-07 | Sony Corp | 再生装置、記録媒体、再生方法及び再生プログラム |
JP2008154065A (ja) * | 2006-12-19 | 2008-07-03 | Roland Corp | 効果付与装置 |
EP2134081A1 (en) * | 2007-03-09 | 2009-12-16 | Pioneer Corporation | Effect device, av processing device and program |
EP2134081A4 (en) * | 2007-03-09 | 2013-03-06 | Pioneer Corp | EFFECT CREATION DEVICE, AUDIO-VIDEO PROCESSING DEVICE AND PROGRAM |
JP2011002676A (ja) * | 2009-06-19 | 2011-01-06 | Casio Computer Co Ltd | 再生装置およびプログラム |
JP2011086437A (ja) * | 2009-10-14 | 2011-04-28 | Nintendo Co Ltd | 画像表示システム、照明システム、情報処理装置、および制御プログラム |
JP2011155483A (ja) * | 2010-01-27 | 2011-08-11 | Casio Computer Co Ltd | 表示制御装置、画像処理装置、表示制御プログラム、及び、画像処理プログラム |
JP2012037612A (ja) * | 2010-08-04 | 2012-02-23 | Casio Comput Co Ltd | 楽音制御装置およびプログラム |
JP2012205087A (ja) * | 2011-03-25 | 2012-10-22 | Olympus Imaging Corp | 音声処理装置 |
JP2014222661A (ja) * | 2014-06-17 | 2014-11-27 | 任天堂株式会社 | 画像表示システム、照明システム、情報処理装置、および制御プログラム |
JP2018078507A (ja) * | 2016-11-11 | 2018-05-17 | 株式会社東芝 | 電子機器及び表示制御方法 |
JP2018155799A (ja) * | 2017-03-15 | 2018-10-04 | カシオ計算機株式会社 | フィルタ特性変更装置、フィルタ特性変更方法、プログラムおよび電子楽器 |
JP2018170678A (ja) * | 2017-03-30 | 2018-11-01 | 株式会社ライブ・アース | ライブ映像処理システム、ライブ映像処理方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2004240077A (ja) | 楽音制御装置、映像制御装置及びプログラム | |
JPH11341350A (ja) | マルチメディア情報編集および再生装置、マルチメディア情報再生プログラムを記録した記録媒体ならびにシーケンス情報を記録した記録媒体 | |
JP4274152B2 (ja) | 楽音合成装置 | |
JP2008065039A (ja) | オーディオ再生装置 | |
JP2017049349A (ja) | 楽音信号発生装置 | |
JP4561636B2 (ja) | 楽音合成装置及びプログラム | |
JP4270102B2 (ja) | 自動演奏装置及びプログラム | |
JP2007328365A (ja) | 映像制御装置及びプログラム | |
JP5838563B2 (ja) | 電子楽器及びプログラム | |
JP5699558B2 (ja) | 楽音生成装置及びプログラム | |
JP2008027552A (ja) | 音楽再生装置 | |
JP2010054856A (ja) | 電子楽器 | |
JP5907227B1 (ja) | 楽音制御装置、楽音制御方法及びプログラム | |
JP3685077B2 (ja) | 演奏データの自動編集装置および自動編集方法 | |
JP2004287144A (ja) | 音楽再生と動画表示の制御装置およびそのプログラム | |
JP2002132257A (ja) | Midi楽曲データ再生方法 | |
JP4236570B2 (ja) | 波形再生装置および波形再生プログラム | |
JP4835434B2 (ja) | 演奏パターン再生装置及びそのコンピュータプログラム | |
JP7206781B2 (ja) | 音信号に音響効果を付与する効果付与装置の制御方法、および効果付与装置 | |
JP3938022B2 (ja) | 音色設定装置及びプログラム | |
JP2006267173A (ja) | 演奏データ編集装置および演奏データ編集プログラム | |
JP2005249872A (ja) | 音楽再生パラメータ設定装置および音楽再生パラメータ設定方法 | |
JP2004272067A (ja) | 演奏練習装置及びプログラム | |
JP4835433B2 (ja) | 演奏パターン再生装置及びそのコンピュータプログラム | |
JP3892433B2 (ja) | カラオケ装置、カラオケ方法、ならびに、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050927 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070529 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070612 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070807 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070904 |