JP3588883B2 - カラオケ装置 - Google Patents
カラオケ装置 Download PDFInfo
- Publication number
- JP3588883B2 JP3588883B2 JP32072895A JP32072895A JP3588883B2 JP 3588883 B2 JP3588883 B2 JP 3588883B2 JP 32072895 A JP32072895 A JP 32072895A JP 32072895 A JP32072895 A JP 32072895A JP 3588883 B2 JP3588883 B2 JP 3588883B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- dimensional object
- singer
- information
- polygon
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Reverberation, Karaoke And Other Acoustics (AREA)
Description
【発明の属する技術分野】
本発明は、楽音を発生するとともに、モニタに歌詞と3次元のオブジェクトとを表示させ、かかるオブジェクトに、歌唱者の身振りに応じた動きを与えるカラオケ装置に関する。
【0002】
【従来の技術】
いわゆるカラオケ装置では、ユーザが所望の曲を選択すると、その曲の伴奏音等が再生されるとともに、背景画像と当該曲の歌詞とがモニタに表示される。この際、曲の進行状態が視覚的にも判るように、表示された歌詞の文字を曲の進行に合わせて色替えすることも行なわれている。
このような動作は、従来では、単純に光学式ディスクなどでビデオ信号を再生することでも行なわれていたが、最近では、通信により行なわれることもある。例えば、ホスト局と端末局のカラオケ装置とを電話回線等で接続し、ホスト局が端末で選択された曲の演奏データ等を転送する一方、端末局であるカラオケ装置が、楽音の発生イベントを時系列的に規定する楽音データや、当該曲における文字の表示やその色替えを時系列的に指示する歌詞データ等を、演奏の進行にあわせて実行することによって、楽音データにしたがって発音を行なうとともに、歌詞データにしたがって文字を表示したり、色替をするのである。また、この場合、背景画像(映像)は、例えば、選択された曲のジャンルに対応したものを別途再生することにより提供されるようになっている。
【0003】
【発明が解決しようとする課題】
いずれにしても従来のカラオケ表示装置では、伴奏音や文字表示等のサービスが、装置からユーザ側の一方向のみでしか提供されておらず、ユーザ側に起因するサービスは、ユーザらが歌唱を行なう点を除けば、何ら提供されない。このため、多少なりとも、雰囲気の盛り上がりに欠けるという問題点があった。本発明は、以上のような問題に鑑みてなされたもので、その目的とするところは、伴奏音や、歌詞表示のように、カラオケ表示装置側からのみならず、歌唱者本人からもサービスを行なうことが可能な、カラオケ装置を提供することにある。
【0004】
【課題を解決するための手段】
上記問題を解決するために請求項1に記載の発明にあっては、入力手段と、検出手段と、記憶手段と、描画手段と、制御手段とを備えるカラオケ装置であって、入力手段は、歌唱者の映像を取り込み、検出手段は、歌唱者の映像から歌唱者における各部位の動きを検出し、記憶手段は、複数の3次元オブジェクト情報を記憶し、3次元オブジェクト情報は、形状情報と、連結情報を含み、形状情報は、人物像の各部位を表すポリゴン形状を示し、連結情報は、各ポリゴン間の連結状態を示し、描画手段は、3次元オブジェクト情報に基づく描画を可能とし、制御手段は、選択された曲の楽音を発生させるとともに、その曲に対応する3次元オブジェクト情報に基づき、その形状情報により表される各部位のポリゴンを、その連結情報により連結するとともに、検出手段で検出した各部位の動きにそれぞれ対応して動くように描画手段の描画を制御することを特徴としている。
請求項2に記載の発明にあっては、請求項1に記載の発明において、3次元オブジェクト情報は、条件情報を含み、条件情報は、各ポリゴンが動き得る条件を示し、制御手段は、選択された曲に対応する3次元オブジェクト情報の条件情報が示す条件内で各部位のポリゴンの描画を制御することを特徴としている。
【0005】
本発明によれば、入力手段によって入力された歌唱者の身振り状態から、当該歌唱者における各部位の動きが検出手段によって検出される。描画手段は、モニタに歌詞とともに、複数のポリゴンから成るオブジェクトを描画するが、かかるポリゴンの動きは、制御手段によって、検出された各部位の動きによりそれぞれ制御される。よって、モニタに表示される3次元オブジェクトは、その各ポリゴンが歌唱者の各部位の動きに応じて変化することになる。
【0006】
【発明の実施の形態】
1:構成
以下、本発明の好ましい実施態様について図面を参照して説明する。図1は、この実施態様に係るカラオケ表示装置の電気的構成を示すブロック図である。この図において、11はTVカメラであり、歌唱者の映像を取り込んで、そのビデオ信号を出力する。12はADC(A/Dコンバータ)であり、ビデオ信号をディジタル信号に変換する。13はDSPであり、ディジタル信号に変換されたビデオ信号を解析して、歌唱者における各部位の位置を検出して記憶するとともに、1サンプル前のデータと比較して部位の動き方向および移動量をそれぞれ求める。
ここで、歌唱者の部位については、本実施形態では次のものを想定している。すなわち、顔、首、左右の肩、胸、腹、左右の上腕部、左右の前腕部、左右の手、左右の大腿部、左右のすね、左右の足についてである。
14はCPUであり、バスBを介して各部を制御する。15はROMであり、CPU14において用いられる基本プログラム等を記憶する。16はRAMであり、CPU14において用いられるデータ等を一時的に記憶する。
【0007】
次に、17は、ポリゴンの表示を専用に行なうポリゴン表示プロセッサであり、CPU14により供給されるデータに基づいてポリゴンを描画し、その結果をV−RAM(ビデオRAM)18に書き込む。また、19は、歌詞(文字)の表示を専用に行なう歌詞表示プロセッサであり、供給される歌詞データに基づいて文字を描画し、その結果をV−RAM20に書き込む。
一般に、ポリゴン化して描画するとしても、そのために必要な演算量は極めて膨大であり、CPU14のみでは負荷が重くなるため、ポリゴンの描画に専用のチップ(3D描画エンジン)としてポリゴン表示プロセッサ17を設けたのであり、また、同様な理由から、文字の表示に専用の歌詞表示プロセッサ19を設けたのである。
一方、歌詞データは、再生曲の歌詞を示す文字データから構成され、楽音データの再生による曲の進行状態に合わせて時系列的に供給されるようになっている。
【0008】
21は表示制御部であり、ポリゴン表示プロセッサ17および歌詞表示プロセッサ19を制御するとともに、歌詞の背景画像となるビデオ信号を入力して、V−RAM18および20に書き込まれたデータにしたがった画像とを重ね合わせてモニタに出力する。
【0009】
22は主記憶部であり、歌詞データや、楽音データ、後述する3次元オブジェクトデータ等を記憶する。ここで、楽音データは、再生曲の発音を指示するデータやその音高を指示するデータ等から構成され、それらイベントを発生すべきタイミングにて時系列的に供給されて、かかる楽音データにしたがって音源回路(図示省略)が発音を行なうようなっている。なお、通信による場合は、楽音データおよび歌詞データは、図示しないホスト局からISDN回線を介して供給されるようになっている。23は操作パネルであり、種々のスイッチ類から構成され、曲の選択などを行なう。
【0010】
1−1:3次元オブジェクトデータ
さて、本実施形態は、仮想的な人物像をモニタ表示し、当該人物像の動きを、歌唱者の動きに合わせて制御するものではあるが、精緻な人物像を描画しようとするとデータ量が膨大となり、それに伴って負荷も重くなるため、人物像の部位をポリゴン化し簡易表示することとした。このため、ポリゴンに関するデータが3次元オブジェクトデータとして主記憶部22に記憶されている。
3次元オブジェクトデータは、図2に示す通り、上述した歌唱者の各部位にそれぞれ対応して、ポリゴン形状データ、ポリゴンルールデータ、ジョイントデータが設定されている。ここで、ポリゴン形状データは、部位を表現する各ポリゴンの形状を定めるデータであり、ポリゴンルールデータは、各ポリゴンを描画する際に、それらの描画条件を定めるデータであり、また、ジョイントデータは、ポリゴン間の結合条件を示すデータであり、いわば仮想人物における関節を規定するものである。ここで、ポリゴンルールデータは、さらに、動きの自由度を示すデータや、動きの可能な方向を定めるデータ等により構成されて、ポリゴンの動きが人物のそれと同様となるように、ポリゴンの動き条件が与えられる。
そして、この3次元オブジェクトデータは予め複数用意され、カラオケ演奏曲の選択時において、当該曲に最もふさわしい人物を模倣あるいはデフォルメした像のもの、あるいは、ユーザが任意に選んだ像のものが指定されるようになっている。
なお、これら仮想人物に仮想的にスーツ(衣装)を着せるべく、スーツデータを追加することとしても良い。
【0011】
2:動作
次に、本実施形態にかかる動作について説明する。まず、歌唱者となるユーザが、操作パネル23を操作して所望とするカラオケ演奏曲を選択すると、CPU14は、当該曲の楽音データ、歌詞データ、3次元オブジェクトデータを検索して読み出し、RAM16上にロードする。これらデータは、ホスト局が端末局であるカラオケ装置に転送することとしても良い。ここで、選択される3次元オブジェクトデータは、選択された曲に対応する人物のもの、あるいはユーザが選択した人物のものである。そして、図示しない音源回路は、ロードされた楽音データにしたがって発音を行なう一方、歌詞表示プロセッサ21は、歌詞データにしたがって歌詞をV−RAM20に書き込むとともに、曲の進行に合わせて当該文字の色を書き換える。
【0012】
2−1:仮想人物像の表示動作
次に、仮想人物像の表示動作について説明する。図3は、かかる表示動作におけるデータの流れを示すブロック図である。まず、歌唱者の姿態はTVカメラ11によって撮像され、その映像信号はADC12によってディジタル信号に変換されてDSP13に供給される。DSP13は、ステップS1において、歌唱者の直立状態を基準とした場合における各部位の動きを検出する。さらに、DSP13は、ステップS2において、検出した各部位の動きについて、移動量および動き(回転を含む)方向の成分に分解して、各部位の動き要素を出力する。そして、CPU14は、ステップS3において、DSP13により出力された各部位の動き要素を、対応するポリゴンの動きを規定するパラメータに変換する。
【0013】
CPU14は、また、ステップ4において、主記憶部16から、複数記憶された3次元オブジェクトデータのうち、選択された曲に対応する人物のもの、あるいはユーザが選択した人物のものを読み出す。また、CPU14は、ステップS4において必要であれば、表示する仮想人物像の視点を曲の進行に合わせて変化させるための、例えば、視点を俯瞰状態から正面に移動させるためのシーケンスデータを出力する。このシーケンスデータに、さらに、仮想人物像への照明光源を移動させるためにデータを含ませることとしても良い。
次に、CPU14は、ステップS5において、読み出したオブジェクトデータに基づく各ポリゴンが、各部位の動き要素にしたがった状態で、かつ設定される視点から見た状態で描画されるように、ポリゴン表示プロセッサ17に対して必要なデータをパラメータ化して供給する。
そして、ポリゴン表示プロセッサ17が、供給されたオブジェクト描画パラメータにしたがってポリゴンを描画して仮想的な人物像を作成し、この作成結果をV−RAM18に書き込む。
【0014】
表示制御部21は、V−RAM18に書き込まれたポリゴンからなる人物像と、V−RAM23に書き込まれた歌詞と、背景画像となるビデオ信号とを合成し、この合成信号をモニタに出力する。これにより、モニタには、背景画像と歌詞とともに、ポリゴンにより合成される人物像が表示されることとなる。
この際、人物像を構成する各ポリゴンは、歌唱者の各部位にそれぞれ対応し、かつその描画は検出された歌唱の当該部位の動き要素に対応して行なわれるので、かかる描画を一定のサンプリング周期毎に行なうことにより、これらポリゴンにより構成される人物像は、歌唱者の動きと同じを動きをすることとなる。例えば、図4(a)に示すようなポーズを歌唱者がとると、モニタには、同図(b)に示すように、ポリゴンによる仮想人物像が歌唱者と同じポーズをとって表示されることとなる。
【0015】
かかる実施形態によれば、モニタに表示される仮想人物は、歌唱者自身のアクションと同様な動きをする結果、モニタに表示される仮想人物の態様に歌唱者自身の意思を反映することができるので、歌唱者本人からも一種のサービスを行なうことができることとなる。
【0016】
なお、上記実施形態では、各部位の検出には、DSP13による画像解析によったが、本願はこれに限られない。例えば、データスーツ等の特殊な衣装をユーザに貸し出したり、ユーザの各部位に反射板を貼ってもらってこの座標を解析するなどの方法でも良い。
また、上述した実施形態にあっては、歌唱者を一人とするソロを例として説明したが、本願発明はこれに限られず、例えば、デュエットとして、二つの仮想人物をポリゴンでそれぞれ合成し、さらに、二人の歌唱者の動きに応じて描画を制御する構成としても良い。同様に、トリオ、カルテットでも良い。
【0017】
【発明の効果】
以上説明したように本発明によれば、モニタに表示される3次元オブジェクトを、歌唱者の身振りに応じて動かすことができるので、ユーザ参加型のサービスを提供することが可能となる。
【図面の簡単な説明】
【図1】本発明による実施形態にかかるカラオケ表示装置の構成を示すブロック図である。
【図2】同実施形態における3次元オブジェクトデータの内容を示す図である。
【図3】同実施形態の動作を説明するためデータの流れを示す図である。
【図4】同実施形態におけるモニタに表示される3次元オブジェクトを示す図である。
【符号の説明】
11……TVカメラ(入力手段)、13……DSP(検出手段)、14……CPU(制御手段)、17……ポリゴン表示プロセッサ(描画手段)、22……主記憶部(第1〜第3の記憶手段)
Claims (2)
- 入力手段と、検出手段と、記憶手段と、描画手段と、制御手段とを備えるカラオケ装置であって、
入力手段は、歌唱者の映像を取り込み、
検出手段は、歌唱者の映像から歌唱者における各部位の動きを検出し、
記憶手段は、複数の3次元オブジェクト情報を記憶し、
3次元オブジェクト情報は、形状情報と、連結情報を含み、
形状情報は、人物像の各部位を表すポリゴン形状を示し、
連結情報は、各ポリゴン間の連結状態を示し、
描画手段は、3次元オブジェクト情報に基づく描画を可能とし、
制御手段は、選択された曲の楽音を発生させるとともに、その曲に対応する3次元オブジェクト情報に基づき、その形状情報により表される各部位のポリゴンを、その連結情報により連結するとともに、検出手段で検出した各部位の動きにそれぞれ対応して動くように描画手段の描画を制御する
カラオケ装置。 - 3次元オブジェクト情報は、条件情報を含み、
条件情報は、各ポリゴンが動き得る条件を示し、
制御手段は、選択された曲に対応する3次元オブジェクト情報の条件情報が示す条件内で各部位のポリゴンの描画を制御する
請求項1に記載のカラオケ装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP32072895A JP3588883B2 (ja) | 1995-12-08 | 1995-12-08 | カラオケ装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP32072895A JP3588883B2 (ja) | 1995-12-08 | 1995-12-08 | カラオケ装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH09160575A JPH09160575A (ja) | 1997-06-20 |
JP3588883B2 true JP3588883B2 (ja) | 2004-11-17 |
Family
ID=18124662
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP32072895A Expired - Fee Related JP3588883B2 (ja) | 1995-12-08 | 1995-12-08 | カラオケ装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3588883B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6567779B1 (en) * | 1997-08-05 | 2003-05-20 | At&T Corp. | Method and system for aligning natural and synthetic video to speech synthesis |
US7366670B1 (en) | 1997-08-05 | 2008-04-29 | At&T Corp. | Method and system for aligning natural and synthetic video to speech synthesis |
JP3454100B2 (ja) * | 1997-08-21 | 2003-10-06 | ヤマハ株式会社 | 演奏パラメータ表示装置 |
JP4258123B2 (ja) | 1998-05-19 | 2009-04-30 | 株式会社ソニー・コンピュータエンタテインメント | 画像処理装置および方法、並びに提供媒体 |
KR20000024237A (ko) * | 2000-01-31 | 2000-05-06 | 김완호 | 댄스 평가 및 지도 기능을 갖는 노래 반주 시스템 및 방법 |
JP4504216B2 (ja) * | 2005-02-08 | 2010-07-14 | 株式会社エクシング | 画像処理装置および画像処理プログラム |
JP5772124B2 (ja) * | 2011-03-24 | 2015-09-02 | ヤマハ株式会社 | カラオケ装置 |
JP6287921B2 (ja) * | 2015-03-25 | 2018-03-07 | ブラザー工業株式会社 | 情報処理装置及びプログラム |
-
1995
- 1995-12-08 JP JP32072895A patent/JP3588883B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH09160575A (ja) | 1997-06-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102354274B1 (ko) | Vr 시나리오에서의 롤 플레이 시뮬레이션 방법 및 단말 기기 | |
Ng | Music via motion: transdomain mapping of motion and sound for interactive performances | |
JPH09204163A (ja) | カラオケの表示装置 | |
JPH11224084A (ja) | 楽音応答画像生成システム、方法、装置、及び、そのための記録媒体 | |
EP0829847A1 (en) | Conduct-along system | |
JPH11212582A (ja) | 振り付け採点機能を有するカラオケ装置 | |
JP3588883B2 (ja) | カラオケ装置 | |
Fels et al. | Musikalscope: A graphical musical instrument | |
JP2007072194A (ja) | 人型映像制御装置 | |
JP3978506B2 (ja) | 楽音生成方法 | |
JP3817878B2 (ja) | 制御装置およびカラオケ装置 | |
Zlatintsi et al. | A web-based real-time kinect application for gestural interaction with virtual musical instruments | |
Bertini et al. | Light baton system: A system for conducting computer music performance | |
Suzuki et al. | Robotic interface for embodied interaction via dance and musical performance | |
JP2000200088A (ja) | カラオケ装置 | |
JP3117413B2 (ja) | リアルタイム・マルチメディア・アート製作装置 | |
JP2000078430A (ja) | 仮想空間生成装置 | |
JP3048346B2 (ja) | 物体の動き表現方法、及びゲームプログラムが記録されたコンピュータ読取可能な記録媒体 | |
JPS63184875A (ja) | 音・画像変換装置 | |
JPH11133987A (ja) | 振り付け動画表示に特徴を有するカラオケ装置 | |
KR102557953B1 (ko) | 안무 분석 시스템 | |
JPH1147448A (ja) | 当たり判定方法、ゲームシステム及びゲームプログラムが記録されたコンピュータ読取可能な記録媒体 | |
JP2689438B2 (ja) | 楽音映像化装置 | |
JPH09147135A (ja) | アニメーション作成装置 | |
JP2002140697A (ja) | コミュニケーション画像生成装置およびコミュニケーション装置およびコミュニケーション画像生成方法およびコミュニケーション情報処理方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040406 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040525 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040706 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040727 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040809 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313532 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20070827 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080827 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090827 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100827 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100827 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110827 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120827 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130827 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |