JP4278288B2 - 踊り映像強調合成装置 - Google Patents
踊り映像強調合成装置 Download PDFInfo
- Publication number
- JP4278288B2 JP4278288B2 JP2000230637A JP2000230637A JP4278288B2 JP 4278288 B2 JP4278288 B2 JP 4278288B2 JP 2000230637 A JP2000230637 A JP 2000230637A JP 2000230637 A JP2000230637 A JP 2000230637A JP 4278288 B2 JP4278288 B2 JP 4278288B2
- Authority
- JP
- Japan
- Prior art keywords
- dance
- accompaniment
- pattern
- dancer
- read
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Electrophonic Musical Instruments (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、踊る人の映像の動きを、元となる踊りパターンに加え画像を合成する装置、さらに詳しくいえば、エンターテーメント機器として有効な踊り映像強調合成装置に関する。
【0002】
【従来の技術】
踊る人の動きに基づいて踊りパターンを強調する画像を合成するような装置は存在しない。
【0003】
【発明が解決しようとする課題】
本発明の目的は、音楽に合わせて踊る人の映像をカメラで取り込み、この映像に基づきCG映像による仮想のダンサーがその踊りを強調して、より高度な踊りを踊るように画像を合成する踊り映像強調合成装置を提供することにある。
【0004】
【課題を解決するための手段】
前記目的を達成するために本発明による踊り映像強調合成装置は、踊り手の画像を取り込むカメラ部と、前記取り込んだ画像から踊り手の複数個所の位置を検出する3次元位置検出器と、1以上の踊りパターンを記憶する記憶装置と、伴奏曲を発生する音楽発生装置と、前記伴奏曲を再生するスピーカと、表示装置と、前記伴奏曲に従って踊り手が踊ることにより前記カメラ部から取り込まれ、踊り手の各個所の3次元の位置情報で表される動きと伴奏曲のリズム情報を前記1以上の踊りパターンと照らし合わせ、踊り手の各個所の位置情報に近く、かつ伴奏曲にマッチする踊りパターンを前記記憶装置から読み出し、踊り手の各個所の基準位置からの変化量と前記読み出された踊りパターンを合成し、前記表示装置に表示する演算・合成装置とを備え、前記1以上の踊りパターンは、リズムパターン分の拍数を有するもので、いくつかの踊りの種類と同一種類のなかで、抑揚を段階的に小から大までの数種類が用意されており、伴奏曲にマッチする踊りパターンは該1以上の踊りパターンから伴奏曲の音楽テンポに合わせて読み出すものであることを特徴とする。
本発明における、前記記憶装置から読み出される踊りパターンは、伴奏曲のリズムから再生速度が決定されるように構成してある。
本発明における、前記踊りパターンと踊り手の各個所の基準位置からの変化量との合成は、前記踊りパターンと前記踊り手の各個所の基準位置からの変化量にそれぞれ重み付けをして加算するように構成してある。
【0005】
【作用】
上記構成によれば、従来にない、形式のエンターテーメント機器を実現できる。
【0006】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を詳しく説明する。
図1は、本発明による踊り映像強調合成装置の実施の形態を示すブロック図である。カメラ2a,2b,スピーカ3および踊り映像強調合成装置部9より構成されている。踊り映像強調合成装置部9は、3次元位置検出器4,演算・合成装置5,音楽発生装置6,表示装置7および記憶装置8より構成されている。
【0007】
踊り映像強調合成装置部9の電源を投入し、表示装置7に表示される複数の伴奏曲の中から1つを図示しない選択手段により選択すると、音楽発生装置6は、選択された伴奏曲をスピーカ3から出力するとともにその伴奏曲(音楽)のデータ情報を演算・合成装置5に送出する。
踊り手1は、スピーカ3から奏でる音楽に合わせて踊ることとなる。この踊り手1の動きは、カメラ2によって動きの全体像が撮像される。
【0008】
3次元位置検出器3は、カメラ2a,2bからの踊り手の画像情報より輪郭を切り出し、踊り手1の両手先1a,頭部の先1bおよび腹部の中心位置1cを3次元検出する。なお、3台以上設置すれば、さらに精度よく位置情報を得ることができる。図5に検出位置の移動量の変化例を示す。
【0009】
記憶装置8には多数の踊りパターンが記憶されている。
演算・合成装置5は、3次元位置検出器4からの各部の位置情報と音楽発生装置6からの伴奏曲のリズム情報とを照らし合わせ、記憶装置8より、伴奏曲に適合する音楽テンポに合った踊りパターンを読み出す。すなわち、カメラから検出した位置情報に近く、かつ、伴奏曲にマッチする踊りパターンを読み出す。
踊りパターンは両手先,頭部の先およびお腹の中心位置の情報を有し、踊りパターンの各位置の情報に踊り手の検出した両手先,頭部の先およびお腹の中心位置の情報を加える。これらの動作は所定時間毎に繰り返えされる。
【0010】
図2は、本発明による踊り映像強調合成装置の動作を説明するためのフローチャートである。
踊り合成操作開始によって選択された音楽がスピーカ3より再生される(ステップ(以下「S」という)201,S202)
演算・合成装置5は、3次元位置検出器4から出力される踊り手の両手先,頭部の先及び腹部の位置の動きと演奏曲の拍子を比較する(S203)。そして、予め記憶装置8に格納されている多数の踊りのパターンから適当なパターンを音楽テンポに合わせて読み出す(S204)。踊りパターンの再生速度(パターンの読み出し間隔)は、伴奏のリズムに合わせるように調整される。この再生速度は、踊りパターンが例えば一小節(4拍)であれば、伴奏曲のリズムから次の式で求めることができる。
δt=(60/TEMPO )×(1小節中の拍数)×(パターンの小節数)×(パターンのデータ数)-1 ・・・(1)
【0011】
読み出された踊りパターンの両手先,頭部の先及び腹部位置の情報に、踊り手1から検出したそれぞれの位置情報が加えられる(S205)。踊りパターンの選択は、比較的粗く、例えば4〜8小節ごとに行われ、カメラから検出した位置情報の加算演算は、常に更新される。
演算・合成装置5は、このように合成演算した後、人間のリンクに基づき踊りパターンを補間して3次元CGを作成し表示装置7にダンサーを表示する(S206)。踊り映像強調合成装置部9は、伴奏曲が終了したか否か判断し(S207)、終了していな場合にはS203〜S206の動作を繰り返す。伴奏曲が終了した場合には踊りの合成処理を終了する(S208)。
【0012】
つぎに記憶装置に予め記憶されている踊りパターンの構成例の一例を説明する。
踊りパターンを形成する情報は、からだの中心真下の床上の一点などを基準にした、時間に関するからだ各部の絶対位置情報列(踊りのモーションキャプチャーや、机上の合成で予め製作する)であり、絶対位置のポイント数は必要に応じて決定される。カメラによる検出点数以上が必須である。
踊りパターンはリズムパターン分の拍数(長さ)を有し、これを繰り返し再生すると、ダンスパターンになるものである。そして、いくつかの踊りの種類と、同一種類のなかで、抑揚を段階的に小から大までの数種類が用意されている。
踊りパターンの位置情報列は、それぞれが、人間をモデル化したリンクで接合されている。
【0013】
具体的には、体全体を20くらいの部分に別け、それぞれの部分に3次元位置情報を与えて構成するか、または各リンク(細分化した体の部分のつながるところ)の3次元位置情報とその3次元の回転情報の時間変化列の情報で構成することができる。
時間の分解能は秒当たり10〜30程度,位置情報の分解能は5mm〜30mm程度,回転の分解能は1度〜5度程度が実用レベルである。これをダウンサンプルしてデータの縮小化を図ったものである。
図3A〜図3Fに腰部分のx移動,y移動,z移動,軸回転,屈伸,横屈伸の移動データ曲線の一例を示す。
【0014】
合成は以下の手法を用いて行われる。
手先の位置情報は、踊りパターンよりも、検出された手先の位置情報を優先してその位置に近づけるように加算される。腹部に関しては、踊りパターンのデータを優先するように処理される。
踊りパターンと各位置情報のそれぞれの重み付けは、測定をしてそれらデータから最適値を選ぶことが必要である。合成の式を以下に示す。
C1 =ν( P1 −P0)+( 1−ν)(D1 −D0) ・・・(2)
但し P0 : 基準位置
D0 : 基準位置
ν : 重み付け定数
【0015】
図4は、踊りパターンと検出位置の合成モデルの一例を示すグラフである。
例えば、時刻ta において踊りパターン(a)の時間軸に対する移動量Pa と基準位置P0 の差( Pa −P0)を算出する。また、検出位置(b)の時間軸に対する移動量Da と基準位置D0 の差( Da −D0)を算出する。そして、時刻ta における踊りパターンの重み付けをνa とすると、検出位置の重み付けは( 1−νa ) となる。踊りパターンと検出位置の差( Pa −P0),( Da −D0)それぞれにνa ,(1−νa )を掛け、加算した点がCa となる。
【0016】
【発明の効果】
本発明は以上のように構成されているので、
1)自分の動きが、リアルタイムに人形と入れ替わって、すばらしい踊りになり、これまでにない新規なエンターティメント性のある機器を提供できる。
2)画面の映像を自分自身の動きで操作できる新しい遊びの要素を提供できる。
3)結果を記録しておけば、繰り返し見ることができる。
4)CG映像であるので、自由なシチュエーション(背景環境)や登場する人形を自由に選択でき、楽しみ方がさらに拡大する。
5)ゲームやカラオケとの組み合わせで、さまざまな応用が可能である。
6)自分自身が画面に出ると恥ずかしい人も、嫌悪感無く、参加できる。
などの種々の効果が得られる。
【図面の簡単な説明】
【図1】本発明による踊り映像強調合成装置の実施の形態を示すブロック図である。
【図2】本発明による踊り映像強調合成装置の動作を説明するためのフローチャートである。
【図3A】腰部の移動曲線の一例を示す図で、x方向移動を示すものである。
【図3B】腰部の移動曲線の一例を示す図で、y方向移動を示すものである。
【図3C】腰部の移動曲線の一例を示す図で、z方向移動を示すものである。
【図3D】腰部の移動曲線の一例を示す図で、軸回転方向を示すものである。
【図3E】腰部の移動曲線の一例を示す図で、屈伸移動を示すものである。
【図3F】腰部の移動曲線の一例を示す図で、横屈伸移動を示すものである。
【図4】踊りパターンと検出位置の合成モデルの一例を示すグラフである。
【図5】検出位置の移動量の一例を示す図である。
【符号の説明】
1…踊り手
2a,2b…カメラ
3…スピーカ
4…3次元位置検出器
5…演算装置
6…音楽発生装置
7…表示装置
8…記憶装置
9…踊り映像強調合成装置部
Claims (3)
- 踊り手の画像を取り込むカメラ部と、
前記取り込んだ画像から踊り手の複数個所の位置を検出する3次元位置検出器と、
1以上の踊りパターンを記憶する記憶装置と、
伴奏曲を発生する音楽発生装置と、
前記伴奏曲を再生するスピーカと、
表示装置と、
前記伴奏曲に従って踊り手が踊ることにより前記カメラ部から取り込まれ、踊り手の各個所の3次元の位置情報で表される動きと伴奏曲のリズム情報を前記1以上の踊りパターンと照らし合わせ、踊り手の各個所の位置情報に近く、かつ伴奏曲にマッチする踊りパターンを前記記憶装置から読み出し、踊り手の各個所の基準位置からの変化量と前記読み出された踊りパターンを合成し、前記表示装置に表示する演算・合成装置と、
を備え、
前記1以上の踊りパターンは、リズムパターン分の拍数を有するもので、いくつかの踊りの種類と同一種類のなかで、抑揚を段階的に小から大までの数種類が用意されており、伴奏曲にマッチする踊りパターンは該1以上の踊りパターンから伴奏曲の音楽テンポに合わせて読み出すものであることを特徴とする踊り映像強調合成装置。 - 前記記憶装置から読み出される踊りパターンは、伴奏曲のリズムから再生速度が決定されることを特徴とする請求項1記載の踊り映像強調合成装置。
- 前記踊りパターンと踊り手の各個所の基準位置からの変化量との合成は、前記踊りパターンと前記踊り手の各個所の基準位置からの変化量にそれぞれ重み付けをして加算することを特徴とする請求項1記載の踊り映像強調合成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000230637A JP4278288B2 (ja) | 2000-07-31 | 2000-07-31 | 踊り映像強調合成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000230637A JP4278288B2 (ja) | 2000-07-31 | 2000-07-31 | 踊り映像強調合成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002042168A JP2002042168A (ja) | 2002-02-08 |
JP4278288B2 true JP4278288B2 (ja) | 2009-06-10 |
Family
ID=18723568
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000230637A Expired - Fee Related JP4278288B2 (ja) | 2000-07-31 | 2000-07-31 | 踊り映像強調合成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4278288B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9177387B2 (en) * | 2003-02-11 | 2015-11-03 | Sony Computer Entertainment Inc. | Method and apparatus for real time motion capture |
JP5495222B2 (ja) | 2008-04-23 | 2014-05-21 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 操作対象物制御装置、システム、方法およびプログラム |
JP6287921B2 (ja) * | 2015-03-25 | 2018-03-07 | ブラザー工業株式会社 | 情報処理装置及びプログラム |
US20230012053A1 (en) * | 2019-12-24 | 2023-01-12 | Sony Group Corporation | Information processing device and information processing method |
-
2000
- 2000-07-31 JP JP2000230637A patent/JP4278288B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002042168A (ja) | 2002-02-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6958751B2 (en) | Image processing device, image processing method and recording medium | |
JP3601350B2 (ja) | 演奏画像情報作成装置および再生装置 | |
CN105405436B (zh) | 评分装置以及评分方法 | |
JP6699677B2 (ja) | 情報処理方法、情報処理装置およびプログラム | |
JPH11224084A (ja) | 楽音応答画像生成システム、方法、装置、及び、そのための記録媒体 | |
ES2356386T3 (es) | Método para suministrar una señal de audio y método para generar musica de fondo. | |
WO2009007512A1 (en) | A gesture-controlled music synthesis system | |
WO2019124069A1 (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
US20200365123A1 (en) | Information processing method | |
JP4917446B2 (ja) | 画像生成装置、画像生成プログラム、データ補間装置、およびデータ補間プログラム | |
US20060187193A1 (en) | System and method for generating a virtual reality presentation | |
JP4278288B2 (ja) | 踊り映像強調合成装置 | |
JP2014023745A (ja) | ダンス教習装置 | |
JP3895014B2 (ja) | 映像再生装置およびカラオケ装置 | |
JP2001215963A (ja) | 音楽演奏装置、音楽演奏ゲーム装置及び記録媒体 | |
JP2015185020A (ja) | イベント方法、コンサート開催方法、イベント会場及びコンテンツの売買方法 | |
JP5803172B2 (ja) | 評価装置 | |
JP2002041038A (ja) | 仮想楽器演奏装置 | |
JP3817878B2 (ja) | 制御装置およびカラオケ装置 | |
JP3815938B2 (ja) | ゲーム装置および情報記憶媒体 | |
JP7144931B2 (ja) | プログラム及びゲームシステム | |
JP2012198380A (ja) | 表示制御装置 | |
KR20060054678A (ko) | 음향에 동기 된 캐릭터 동영상 구현 장치 및 구현 방법 | |
JP2004355567A (ja) | 画像出力装置、画像出力方法、画像出力処理プログラム、および画像配信サーバ、画像配信処理プログラム | |
JPH09160575A (ja) | カラオケ表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041124 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20060609 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070607 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070612 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070802 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20071009 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071203 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071112 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20071217 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20080118 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090217 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090310 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120319 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4278288 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120319 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120319 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120319 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130319 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130319 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140319 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140319 Year of fee payment: 5 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140319 Year of fee payment: 5 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |