JP2007072194A - 人型映像制御装置 - Google Patents
人型映像制御装置 Download PDFInfo
- Publication number
- JP2007072194A JP2007072194A JP2005259471A JP2005259471A JP2007072194A JP 2007072194 A JP2007072194 A JP 2007072194A JP 2005259471 A JP2005259471 A JP 2005259471A JP 2005259471 A JP2005259471 A JP 2005259471A JP 2007072194 A JP2007072194 A JP 2007072194A
- Authority
- JP
- Japan
- Prior art keywords
- user
- detection
- human
- detection means
- calculating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10H—ELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
- G10H1/00—Details of electrophonic musical instruments
- G10H1/36—Accompaniment arrangements
- G10H1/361—Recording/reproducing of accompaniment for use with an external source, e.g. karaoke systems
- G10H1/368—Recording/reproducing of accompaniment for use with an external source, e.g. karaoke systems displaying animated or moving pictures synchronized with the music or audio part
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Reverberation, Karaoke And Other Acoustics (AREA)
- Image Analysis (AREA)
Abstract
【課題】 可及的簡単なセンサを用いて利用者の動作を写実的に人型映像に反映する人型映像制御装置を提供する。
【解決手段】 利用者68の立つ床面70に対して垂直を成す第1の方向に関して頭68hの位置を検出する第1の検出手段78と、前記第1の方向と、床面70に対して平行を成す第2の方向とに関して手68mの位置を検出する第2の検出手段80と、前記第2の方向と、前記第1の方向及び第2の方向に対して垂直を成す第3の方向に関して足68fの位置を検出する第3の検出手段82と、第1乃至第3の検出手段78、80、82による検出結果に基づいて利用者68の体の各部位の位置を算出する位置算出手段84と、その位置算出手段84による算出結果をアバタ102に反映する制御を行う人型映像制御手段100とを、有することから、最小限の情報取得により前記アバタ102に利用者68の動作を反映する自然な3次元の動きをつけることができる。
【選択図】 図4
【解決手段】 利用者68の立つ床面70に対して垂直を成す第1の方向に関して頭68hの位置を検出する第1の検出手段78と、前記第1の方向と、床面70に対して平行を成す第2の方向とに関して手68mの位置を検出する第2の検出手段80と、前記第2の方向と、前記第1の方向及び第2の方向に対して垂直を成す第3の方向に関して足68fの位置を検出する第3の検出手段82と、第1乃至第3の検出手段78、80、82による検出結果に基づいて利用者68の体の各部位の位置を算出する位置算出手段84と、その位置算出手段84による算出結果をアバタ102に反映する制御を行う人型映像制御手段100とを、有することから、最小限の情報取得により前記アバタ102に利用者68の動作を反映する自然な3次元の動きをつけることができる。
【選択図】 図4
Description
本発明は、簡易的な人型映像の表示を制御する人型映像制御装置の改良に関し、特に、可及的簡単なセンサを用いて利用者の動作を写実的に人型映像に反映する技術に関する。
近年、アバタ(avatar)と呼ばれる簡易的な人型映像が各種分野において実用されている。このアバタとは、例えば、インターネットにおけるチャット等に際して利用者の分身的な意味合いで表示されるキャラクタであり、そのチャットにおける会話の流れに応じてその表情を変化させること等により、利用者の心象を視覚的に相手に伝えるコミュニケーションの補助ツールとして用いられるものである。また、斯かる態様のみならず、上記アバタは種々のエンターテイメント分野において利用されると共に、新たな利用形態が模索されている。
斯かるアバタの一形態として、所定のセンサ装置により利用者の動作を検出し、その動作をアバタに反映する技術が提案されている。例えば、特許文献1に記載されたアバタ表示装置がそれである。この技術によれば、頭、手、及び足等の部分毎にアバタのアニメーション適用条件を予め定めたアバタ属性定義テーブルを参照することで、キーボード、マウス、及び撮像装置等の入力装置からの入力に応じて3次元的なアバタのアニメーションを実現できるとされている。
しかし、前記従来の技術のように、キーボード、マウス、及び撮像装置等の入力装置からの入力に応じてアバタの動作を制御する技術では、利用者の動作を十分写実的にアバタに反映することができなかった。一方、前記アバタの制御に類する技術として、利用者の動作をセンサにより検出してその動作を3次元的な映像に反映する所謂バーチャルリアリティ技術があるが、従来のバーチャルリアリティ技術は、一般的に精度の高い仮想現実空間の現出を目的とするものであり、センサをはじめとする装置に高価なものが求められるため、エンターテイメント分野におけるアバタの制御には適さなかった。このため、可及的簡単なセンサを用いて利用者の動作を写実的に人型映像に反映する人型映像制御装置の開発が求められていた。
本発明は、以上の事情を背景として為されたものであり、その目的とするところは、可及的簡単なセンサを用いて利用者の動作を写実的に人型映像に反映する人型映像制御装置を提供することにある。
斯かる目的を達成するために、本発明の要旨とするところは、映像表示装置に表示される簡易的な人型映像を制御する人型映像制御装置であって、利用者の立つ床面に対して垂直を成す第1の方向に関してその利用者の頭の位置を検出する第1の検出手段と、前記第1の方向と、前記床面に対して平行を成す第2の方向とに関して前記利用者の手の位置を検出する第2の検出手段と、前記第2の方向と、前記第1の方向及び第2の方向に対して垂直を成す第3の方向に関して前記利用者の足の位置を検出する第3の検出手段と、前記第1の検出手段、第2の検出手段、及び第3の検出手段による検出結果に基づいて前記利用者の体の各部位の位置を算出する位置算出手段と、その位置算出手段による算出結果に応じて前記利用者の動作を前記人型映像に反映する制御を行う人型映像制御手段とを、有することを特徴とするものである。
このようにすれば、利用者の立つ床面に対して垂直を成す第1の方向に関してその利用者の頭の位置を検出する第1の検出手段と、前記第1の方向と、前記床面に対して平行を成す第2の方向とに関して前記利用者の手の位置を検出する第2の検出手段と、前記第2の方向と、前記第1の方向及び第2の方向に対して垂直を成す第3の方向に関して前記利用者の足の位置を検出する第3の検出手段と、前記第1の検出手段、第2の検出手段、及び第3の検出手段による検出結果に基づいて前記利用者の体の各部位の位置を算出する位置算出手段と、その位置算出手段による算出結果に応じて前記利用者の動作を前記人型映像に反映する制御を行う人型映像制御手段とを、有することから、前記利用者の動作に関する最小限の情報を取得することで、前記人型映像にその動作を反映する少なくともエンターテイメント分野においては十分に自然な3次元の動きをつけることができる。すなわち、可及的簡単なセンサを用いて利用者の動作を写実的に人型映像に反映する人型映像制御装置を提供することができる。
ここで、好適には、前記第1の検出手段及び第2の検出手段は、前記床面に対して位置固定に設けられた撮像装置により撮像される前記利用者の映像に基づいてその利用者の頭及び手の位置を検出するものである。このようにすれば、比較的安価且つ実用的な装置を用いて前記利用者の頭及び手の位置を検出することができるという利点がある。
また、好適には、前記第3の検出手段は、前記床面に敷かれたマット状の圧力センサから供給される情報に基づいて前記利用者の足の位置を検出するものである。このようにすれば、比較的安価且つ実用的な装置を用いて前記利用者の足の位置を検出することができるという利点がある。
また、好適には、前記位置算出手段は、前記第1の検出手段及び第3の検出手段による検出結果に基づいて前記利用者の足の位置を算出する足位置算出手段と、前記第1の検出手段による検出結果に基づいて前記利用者の頭の位置を算出する頭位置算出手段と、前記第1の検出手段による検出結果に基づいて前記利用者の尻の位置を算出する尻位置算出手段と、前記第1の検出手段及び第3の検出手段による検出結果に基づいて前記利用者の脚関節の位置を算出する脚関節位置算出手段と、前記第1の検出手段による検出結果に基づいて前記利用者の肩の位置を算出する肩位置算出手段と、前記第1の検出手段及び第2の検出手段による検出結果に基づいて前記利用者の手の位置を算出する手位置算出手段と、前記第1の検出手段及び第2の検出手段による検出結果に基づいて前記利用者の肘の位置を算出する肘位置算出手段とを、含むものである。このようにすれば、前記第1の検出手段、第2の検出手段、及び第3の検出手段による検出結果に基づいて前記利用者の体の各部位の位置を詳細に算出することができ、その利用者の動作を更に写実的に前記人型映像に反映できるという利点がある。
また、好適には、前記人型映像制御装置は、多数の演奏曲のうちから選択される所定の演奏曲を出力させると共に、その出力と同期してその演奏曲の歌詞文字映像を表示させる映像表示装置を備えたカラオケ装置において、その映像表示装置に表示される前記人型映像を制御するものである。このようにすれば、カラオケボックス等で用いられるカラオケ装置の映像表示装置に、演奏者の動作を反映する人型映像を前記演奏曲の歌詞文字映像と共に表示できるという利点がある。
また、好適には、前記第2の検出手段は、前記カラオケ装置に備えられて前記利用者の手に把持されて用いられる音声入力装置の位置を検出するものである。このようにすれば、特徴的な形状を有する音声入力装置の位置を検出することで、その音声入力装置を把持する前記利用者の手の位置を好適に検出できるという利点がある。
また、好適には、前記音声入力装置は、赤外線を介して前記カラオケ装置へ音声情報を送信するワイヤレス式装置であり、前記第2の検出手段は、その音声入力装置の赤外線発信部の位置を検出するものである。このようにすれば、CCDカメラ等を介して容易に検出し得る音声入力装置の赤外線発信部の位置を検出することで、その音声入力装置を把持する前記利用者の手の位置を好適に検出できるという利点がある。
以下、本発明の好適な実施例を図面に基づいて詳細に説明する。
図1は、本発明の人型映像制御装置が好適に適用されるカラオケ装置16を備えたカラオケシステム10を説明する概略図である。この図1に示すように、上記カラオケシステム10では、カラオケボックス、スナック、旅館等の店舗12における複数の個室14a、14b、14c、・・・(以下、特に区別しない場合には単に個室14と称する)にそれぞれ1台乃至は複数台ずつ(図1では1台ずつ)のカラオケ装置16a、16b、16c、・・・(以下、特に区別しない場合には単にカラオケ装置16と称する)が設置されている。これら複数のカラオケ装置16のうち、マスターコマンダである所定のカラオケ装置16aは、公衆電話回線等による通信回線18を介してカラオケサービス提供会社のセンタ装置20に接続されており、そのセンタ装置20と上記カラオケ装置16aの相互間で情報の通信が可能とされている。このセンタ装置20は、カラオケ情報、背景映像情報、曲間情報等のデジタルコンテンツ(Digital Contents)の保管や入出力管理等の基本的な制御を行うサーバであり、上記通信回線18を介してマスターコマンダであるカラオケ装置16aに定期的にコンテンツの配信を行うと共に、そのカラオケ装置16aからの要求に応じて所定のコンテンツや機能制御プログラム等を送信するものである。また、上記カラオケシステム10は、複数の電子早見本装置22a、22b、22c、・・・(以下、特に区別しない場合には単に電子早見本装置22と称する)を備えており、上記カラオケ装置16の利用に際して、各利用者(グループ)毎に1台ずつの電子早見本装置22が貸与され、各個室14において後述するように上記カラオケ装置16の遠隔操作装置として用いられるようになっている。上記店舗12内には上記複数のカラオケ装置16を相互に接続するLAN24が敷設されており、上記電子早見本装置22からのカラオケ装置16への入力は、所定のアクセスポイント26及びLAN24を介したLAN通信等により行われる。
図2は、上記カラオケ装置16の構成を例示するブロック線図である。この図2に示すように、上記カラオケ装置16は、CRT(Cathode-ray Tube)等の映像表示装置30と、映像情報デコーダ32と、ビデオミキサ34と、アンプミキサ36と、スピーカ38と、音声入力装置であるワイヤレス式マイクロフォン40と、操作パネル42と、中央演算処理装置であるCPU44と、ROM46と、RAM48と、記憶装置であるハードディスク50と、モデム52と、LANポート54と、映像制御装置であるCRTコントローラ56と、上記操作パネル42等からの入力信号を処理する入出力インターフェイス58と、音源であるシンセサイザ60と、上記電子早見本装置22やリモコン装置28等の入力装置及びマイクロフォン40からの信号(赤外線)を受信するための赤外線受信部62と、撮像装置であるCCD(charge coupled device)カメラ64と、マット状の圧力センサ66とを、備えて構成されている。
上記CPU44は、上記RAM48の一時記憶機能を利用しつつ上記ROM46に予め記憶された所定のプログラムに基づいて電子情報を処理・制御する所謂コンピュータであり、上記電子早見本装置22やリモコン装置28等により所定のカラオケ演奏曲が選曲された場合、その選曲されたカラオケ演奏曲を上記RAM48に設けられた予約曲リストに登録したり、その予約曲リストの演奏順に従って上記ハードディスク50から上記RAM48に選曲されたカラオケ演奏曲の演奏情報及び歌詞情報等を読み出したり、カラオケ演奏曲の演奏が進行するのに応じてそのRAM48から上記シンセサイザ60へ演奏情報を送信したり、歌詞情報に基づいて歌詞文字映像を生成して上記CRTコントローラ56へ送ったり、選曲時には曲名文字映像を生成して上記CRTコントローラ56へ送ったり、上記映像情報デコーダ32を制御して所定の背景映像を再生させたり、カラオケ演奏が行われていない間すなわち曲間において、新譜情報、選曲ランキング、店舗広告等の曲間情報を出力させたり、前記通信回線18を介した前記センタ装置20との間の情報通信制御等の基本的な制御に加えて、後述する人型映像(アバタ:avatar)の表示制御を実行する。
前記操作パネル42は、前記カラオケ装置16の利用者が歌いたいカラオケ演奏曲を選択したり、演奏曲の音程を調整したり、演奏と歌との音量バランスを調整したり、その他、エコー、音量、トーン等の各種調整を行うための操作ボタン(スイッチ)或いはつまみを備えた入力装置である。また、前記カラオケ装置16には、前記操作パネル42の一部機能を遠隔で実行するための入力装置として機能するリモコン装置28が備えられており、前記赤外線受信部62は、そのリモコン装置28から送信される赤外線信号(リモコン信号)を受信して前記CPU44へ供給する。また、前記カラオケ装置16と電子早見本装置22との対応付け(くくりつけ)処理も前記赤外線受信部62を介して行われ、そのようにして前記カラオケ装置16に対応付けられた電子早見本装置22も同様に入力装置として機能する。
前記映像情報デコーダ32は、利用者が歌詞を参照しながら歌を歌う際に前記ハードディスク50に記憶された背景映像情報に基づいて所定の背景映像を再生(デコード)する背景映像再生装置である。この背景映像情報は、例えば、MPEG(Moving Picture Experts Group)形式のデータであり、そのMPEGデータに基づいて前記映像情報デコーダ32により再生された背景映像は、前記ビデオミキサへ送られる。また、前記CRTコントローラ56は、前記CPU44において生成された歌詞文字映像等の文字映像(テロップ)を出力する文字映像出力装置であり、前記ビデオミキサ34は、前記CPU44において生成され且つ前記CRTコントローラ56から出力される文字映像と、前記映像情報デコーダ32により再生される背景映像とを合成して前記映像表示装置30に表示させる映像合成装置である。なお、このCRTコントローラ56は、後述する人型映像の表示制御における映像制御装置として機能する。
前記シンセサイザ60は、前記ハードディスク50から読み出されて送られて来るカラオケ演奏曲の演奏情報に基づいて楽器の演奏信号等の音楽信号を生成する音源である。この演奏情報は、例えば、MIDI(Musical Instrument Digital Interface)形式のデータであり、そのMIDIデータに基づいて前記シンセサイザ60により生成された音楽信号は、アナログ信号に変換されて前記アンプミキサ36へ送られる。また、前記マイクロフォン40は、カラオケ演奏に際して利用者の手に把持されて用いられるワイヤレス式の音声入力装置であり、入力された音声情報を赤外線信号として送信するための赤外線発信部40s(図3を参照)を備えている。前記アンプミキサ36では、このマイクロフォン40から前記赤外線受信部62を介して入力される利用者の音声(歌声)と、前記シンセサイザ60から送られてくる音楽信号とがミキシングされ、それらの信号が電気的に増幅されて前記スピーカ38から出力される。
前記モデム52は、前記カラオケ装置16を公衆電話回線等による通信回線18に接続するための装置であり、前記CPU44から出力されるディジタル信号をアナログ信号に変換して前記通信回線18に送り出すと共に、その通信回線18を介して伝送されるアナログ信号をディジタル信号に変換して前記CPU44に供給する処理を行う。なお、このモデム52は、マスターコマンダとして機能するカラオケ装置16aには必要とされるが、前記センタ装置20との間で情報の通信を行わない他のカラオケ装置16には必ずしも設けられなくともよい。
前記LANポート54は、前記カラオケ装置16をLAN24を介して他のカラオケ装置16や電子早見本装置22等の他の機器に接続するための接続器であり、前記カラオケ装置16は、そのようにLAN24を介して接続されることで、他のカラオケ装置16や電子早見本装置22等の他の機器との間で情報の送受信が可能とされる。例えば、前記アクセスポイント26により受け付けられる前記電子早見本装置22からの選曲入力を受け付けたり、前記カラオケ装置16から電子早見本装置22へ所定の情報を送信したりというように、電波を介して前記カラオケ装置16と電子早見本装置22との間における相互の情報のやりとりが実行される。
前記ハードディスク50には、カラオケ演奏曲を出力させるための多数のカラオケ情報を記憶するカラオケデータベース72や人型映像を表示させるための情報を記憶する人型映像データベース74等の各種データベースが設けられている。この人型映像データベース74に記憶される情報は、前記映像表示装置30に後述する図9に示すような簡易的な人型映像であるアバタ102を表示させると共に、前記CCDカメラ64及び圧力センサ66から供給される情報に応じて前記利用者68の動作を模してそのアバタ102に3次元的な動きをつけるために必要とされる種々の情報である。カラオケボックス等の店舗にそれぞれ備えられた複数のカラオケ装置16のうちマスターコマンダとして機能するカラオケ装置16aは、前記モデム52を介して前記通信回線18に接続されており、前記複数のカラオケ装置16によって常に新しい曲が演奏可能とされるように、或いは所定の人型映像が表示可能とされるように、随時新たなカラオケ情報や人型映像を表示させるために必要な情報等が前記センタ装置20から前記通信回線18を介して配信され、前記ハードディスク50のカラオケデータベース72及び人型映像データベース74等に記憶される。また、そのようにして前記センタ装置20から情報を取得したカラオケ装置16aとその他のカラオケ装置16との間で前記LAN24を介した通信が行われることにより、各カラオケ装置16のハードディスク50に記憶される情報が共有され、カラオケデータベース72及び人型映像データベース74等の内容が等価なものとされる。
図3は、前記カラオケ装置16により利用者68がカラオケ演奏を行う様子を模式的に説明する図である。この図3に示すように、前記マイクロフォン40は、カラオケ演奏に際して利用者68の少なくとも一方の手(手部)68mに把持されて用いられ、そのマイクロフォン40により入力された音声情報は赤外線発信部40sから前記カラオケ装置16へ送信される。また、前記CCDカメラ64は、前記個室14の床面70上に設置された前記カラオケ装置16の上面等に固設されること等により、その床面70に対して位置固定に設けられ、少なくともカラオケ演奏を行う利用者68の頭(頭部)68h及びマイクロフォン40(手68m)を撮像する。また、前記圧力センサ70は、前記カラオケ装置16と有線又は無線(図3では有線)により接続されると共に上記床面70上に位置固定に敷かれた状態で用いられ、上記利用者68は足(足部)68fを前記圧力センサ70の表面に間接又は直接に接触させ、その圧力センサ70の上に立ってカラオケ演奏を行う。なお、上記利用者68が片足で立っている場合、前記圧力センサ70はその利用者68の片方の足68の位置しか検出できないが、基本的には両足の位置に関する情報を取得し得るものである。
図4は、前記カラオケ装置16のCPU44に備えられた制御機能を説明する機能ブロック線図であり、本発明の好適な実施例である人型映像制御装置76を例示している。この図4に示す第1の検出手段78は、撮像装置である前記CCDカメラ64により撮像される前記利用者68の映像に基づいてその利用者68の立つ床面70に対して垂直を成す第1の方向すなわち図3に示すz軸方向に関してその利用者68の頭68hの位置(高さ)zhを検出する。この頭68hの位置については、その頭68hに備えられた目や口を特徴点として検出することで比較的容易にその全体的な位置を検出することができる。
第2の検出手段80は、前記CCDカメラ64により撮像される前記利用者68の映像に基づいて上記第1の方向すなわち図3に示すz方向と、前記床面70に対して平行を成す方向であって前記利用者68が前記カラオケ装置16に向かって立ったときの左右方向である第2の方向すなわち図3に示すx方向とに関して前記利用者68の少なくとも一方の手68mの位置xm、zmを検出する。好適には、上記第1の方向及び第2の方向に関して前記マイクロフォン40の位置を検出することで、そのマイクロフォン40の位置を前記利用者68の手68mの位置xm、zmとして検出する。前記マイクロフォン40は、一般に特徴的な形状を有しているため、比較的容易にその位置を検出することができる。また、好適には、上記第1の方向及び第2の方向に関して前記マイクロフォン40の赤外線発信部40sの位置を検出する。一般にCCDカメラは赤外線に対して敏感であり明るい光として写りこむため、比較的容易にその位置を検出することができる。
第3の検出手段82は、前記床面70に敷かれた圧力センサ66から供給される情報に基づいて上記第2の方向すなわち図3に示すx方向と、前記第1の方向及び第2の方向に対して垂直を成す方向であって前記利用者68が前記カラオケ装置16に向かって立ったときの前後方向である第3の方向すなわち図3に示すy方向に関して前記利用者68の足68fの位置を検出する。前記利用者68は、通常、両足で立ってカラオケ演奏を行うため、好適には、上記第2の方向及び第3の方向に関して前記利用者68の右足の位置xfr、yfrと、左足の位置xfl、yflとを共に検出する。
図5は、以上のようにして検出される前記利用者68の頭68h、左右の足68f、及びマイクロフォン40(マイクロフォン40を把持する手68m)の各位置(座標)を示している。図4に示す位置算出手段84は、斯かる検出結果に基づいて前記利用者68の体の各部位の位置を算出する。前記映像表示装置30に前記利用者68の動作を反映する3次元的な人型映像を表示するためには、例えば図7に示すように左右の肩の座標、左右の脚の付け根の座標、左右の膝の座標、肘の座標等が必要とされる。また、前記第1の検出手段78により前記利用者68の頭68hの前記第1の方向に関する高さの座標zhは得られるが、第2の方向及び第3の方向に関する座標は計算により求める必要がある。また、前記第2の検出手段80により前記利用者68の手68mの前記第1の方向及び第2の方向に関する座標xm、zmは得られるが、第3の方向に関する座標は計算により求める必要がある。また、前記第3の検出手段82により前記利用者68の足68fの前記第2の方向及び第3の方向に関する座標xfr、yfr及びxfl、yflは得られるが、片方乃至は両方の足があがっている場合等には前記第1の方向に関する座標を計算により求める必要がある。上記位置算出手段84は、好適には、足位置算出手段86、頭位置算出手段88、尻位置算出手段90、脚関節位置算出手段92、肩位置算出手段94、手位置算出手段96、及び肘位置算出手段98を含んでおり、それら各算出手段により、図6に示すように、前記利用者68の頭68h、左右の脚付け根68c、左右の肩68s、左右の膝68n、マイクロフォン40を把持する手68m(マイクロフォン40)、及びその手68mに対応する肘68e等の各座標を算出する。以下、これらの座標を算出する具体的な処理について詳細に分説する。
上記位置算出手段84は、先ず、前記利用者68の体の各部位の座標計算を容易にするために、その利用者68が前記カラオケ装置16に対して正面を向くようにとり、且つ両足の位置を結ぶ直線の真中を原点とする座標系O′を用意する。元の座標系をOとし、その座標系Oにおける任意の点XをO′へ写像した点をX′とすると、XとX′との関係は次の(1)式のように表される。この(1)式におけるPは平行移動を示しており、次の(2)式のように表される。また、(1)式におけるRは回転移動を示しており、次の(3)式のように表される。以下の説明において、座標系O′における座標は符号「′」を付して区別するものとする。なお、座標系OからO′への変換ではz方向に関する変換は行われず、z′=zである。
足位置算出手段86は、前記第1の検出手段78及び第3の検出手段82による検出結果に基づいて前記利用者68の左右の足68f(図3を参照)の座標を算出する。座標系O′は、前記利用者68の両足の位置を結ぶ真中を原点としてその利用者68が正面を向くようにとられていることから、各足が前記床面70(圧力センサ66)に付いている際の座標のうちy′fr(l)、z′fr(l)は共に零となる。ここで、x′fr(l)については両足間の距離lenfの1/2とする。従って、接地している場合の右足の座標は次の(4)式のように、左足の座標は次の(5)式のようにそれぞれ算出される。なお、両足間の距離lenfは元の座標系Oから次の(6)式に示すように簡単に求められる。また、片足乃至は両足が接地していない場合について考えると、前記利用者68の足68fが前記圧力センサ66に接触していなければその位置は検出されないため、最後に検出された位置のxy方向に関する座標をそのまま用い、z方向に関しては後述する尻位置算出手段90により算出される尻の高さzbの1/2とする。このようにして、接地していない場合の右足の座標は次の(7)式に示すように、左足の座標は次の(8)式のようにそれぞれ算出される。
頭位置算出手段88は、前記第1の検出手段78による検出結果に基づいて前記利用者68の頭68h(図3を参照)の座標を算出する。この頭68hの座標のうちz方向の高さであるzhは前記第1の検出手段78により得られている。ここで、前記利用者68の全く体の関節を曲げていない直立状態での身長をTmax、普通に座り込んで頭68hの高さが最も低くなる身長をTminとし、その頭68hの高さによって上半身の傾きφ(図8を参照)を決定する態様を考える。前記利用者68が直立している場合の傾きφを零とし、普通に座り込んだ場合の傾きφをφmaxとすると、そのφmaxは次の(9)式で表される。この(9)式におけるaは次の(10)式で表される。この角度φmaxをもとに頭68hの位置を考えると、前記利用者68は座標系O′において正面を向いているため、x′方向の座標は零となる。また、上述したようにz方向の座標は検出値からzhとされる。また、y方向の座標の算出では、人間がスクワット運動をする際に尻の位置と足の位置が水平面の座標で略同じ位置となること(図8を参照)等を勘案して、前記利用者68の尻68bの座標を零と置く。従って、前記頭68hのy方向の座標は、前記利用者68が上半身を傾けることによる尻68bの座標からの離隔距離を算出することで求められ、そのy′座標は次の(11)式のように表される。この(11)式におけるLupperは前記利用者68の上半身すなわち頭68hから尻68bまでの長さ(図8を参照)を示す定数である。このようにして、前記頭68hの座標は次の(12)式のように算出される。
尻位置算出手段90は、前記第1の検出手段78による検出結果に基づいて前記利用者68の尻68b(図3を参照)の座標を算出する。この尻68bのx′座標及びy′座標は前述した座標系O′の前提より共に零であり、z方向の高さzbのみを算出する。この座標zbは前述した頭位置算出手段88により算出される頭68hの座標zhとの関係から次の(13)式のように表される。このようにして、前記尻68bの座標は次の(14)式のように算出される。
脚関節位置算出手段92は、前記第1の検出手段78及び第3の検出手段82による検出結果に基づいて前記利用者68の脚関節すなわち左右の脚付け根68c及び膝68n(図3を参照)の座標を算出する。この脚付け根68cの座標のうちz方向の高さは擬似的に前記尻68bの座標zbと等しいものとし、x′方向に関しては腰の幅の定数Wb(図7を参照)の1/2とする。また、y′方向の座標は零である。このようにして、右脚付け根の座標は次の(15)式のように、左脚付け根の座標は次の(16)式のようにそれぞれ算出される。また、前記膝68nの座標のうちz方向の高さは足68fのzfr(l)の1/2とする。従って、相似な三角形の辺の比の関係から膝68nのx′kr(l)は脚付け根68cのx′座標と足68fのx′座標との差の1/2となり、右膝のx座標x′krは次の(17)式のように、左膝のx座標x′klは次の(18)式のようにそれぞれ表される。また、前記膝68nの座標のうちz方向の高さに関して、前記足68fが接地している場合には前記尻68bまでの高さの1/2とし、接地していない場合には3/4とする。これは、前記足68fの高さを尻68bまでの高さの1/2と置いていることから、更に半分にして1/2+1/4=3/4としたものである。従って、右膝のz座標zkrは次の(19)式のように、左膝のz座標zklは次の(20)式のようにそれぞれ表される。これらの式に示すCは、前記足68fが接地しているときは2、接地していないとき(上げたとき)は4とされる値である(以下の説明において同じ)。また、z方向に関して脚の長さLleg(=Tmax−Lupper)の1/2が膝68nの位置とすると、x′方向の視点において前記足68fと尻68bとを線で結んだときに二等辺三角形を成すことから、前記膝68のy′座標y′kr(l)は次の(21)式のように容易に求めることができる。このようにして、右膝の座標は次の(22)式のように、左膝の座標は次の(23)式のようにそれぞれ算出される。
肩位置算出手段94は、前記第1の検出手段78による検出結果に基づいて前記マイクロフォン40を把持している手68mに対応する(同じ腕に属する)肩68s(図3を参照)の座標を算出する。この肩68sの座標のうちz方向の高さは、前記利用者68がまっすぐ直立したときの頭68hの位置から定数Lsだけ下がった位置とする。前記頭68hを基準として肩68sの位置を考えると、その頭68hからLssinφだけy′方向にずらした位置が肩68sのy′座標となる。同様に、z方向に関しては頭68hからLscosφだけ下がった位置が肩68sのz座標となる。この肩68sの幅は定数Ws(図7を参照)として与えられており、x′方向に関してはこの半分が右肩の座標となる。このようにして、前記肩(右肩)68sの座標は次の(24)式のように算出される。なお、前記マイクロフォン40を把持していない方の手、肩、及び腕の座標に関しては、本実施例では算出を行わないものとする。
以上のようにして算出されたO′座標系における各点の座標Xは、次の(25)式のような変換により元の座標に戻される。この(25)式に示すR-1は(3)式で示した変換行列Rの逆行列である。なお、この座標変換によって得られるそれぞれの具体的な値は省略する。以下の説明における計算は元の座標系Oで行うものとする。
手位置算出手段96は、前記第1の検出手段78及び第2の検出手段80による検出結果に基づいて前記マイクロフォン40を把持する手68m(図3を参照)の座標を算出する。一般に人間は両目の視差で奥行きを感知するため、奥行きの変化や距離感に対して鈍感である。本実施例の人型映像制御装置76では、前記利用者68の視線方向に対応するy方向に関して前記手68m(マイクロフォン40)の位置を検出する手段を持たない前提であることから、そのy方向に関しては前記手68mの位置をそれらしく適当に定める。具体的には、前記第2の検出手段80により検出されたxz座標へ腕を伸ばして接するy座標の1/2とする。このとき腕の長さを定数Laで与えると、次の(26)式が成立する。なお、前記利用者68は前記マイクロフォン40を右手で把持しているものとする。ここで、(26)式に示すxm、zmは前記第2の検出手段80により検出された値であり、前記肩68sの座標については(24)式に示すように算出されるため、未定な値であるymのみが算出される。上記(26)式を変形することで、このymは次の(27)式のように表される。ここで、y方向に関して前記手68mは肩68sより前方(カラオケ装置16側)に来るのが好ましいため、ymは次の(28)式のように求められる。このymの1/2が前記手68m(マイクロフォン40)の座標とされる。このようにして、前記手(右手)68mの座標は次の(29)式のように算出される。
肘位置算出手段98は、前記第1の検出手段78及び第2の検出手段80による検出結果に基づいて前記マイクロフォン40を把持している手68mに対応する(同じ腕に属する)肘68e(図3を参照)の座標を算出する。この肘68eの位置は腕の長さLaの1/2の位置とする。また、この肘68eは前記手68mと肩68sとを結ぶ直線の下方に位置するものとする。従って、y方向に関する前記肘68eの座標yeは前記手68mのy座標ymと肩68sのy座標ysrの中点(ysr+ym)/2とされる。また、前記肘68eのxz座標の算出に関しては次の(30)式、(31)式、及び(32)式により与えられる座標系O″を用いる。この座標系O″は前記肩68sの座標を原点として前記手68mの座標と肩68sの座標とを結ぶ直線がx″軸と重なるように回転させた系であり、その手68mと肩68sとを結ぶ直線を底辺とした二等辺三角形ができるので、x″方向、z″方向に関する前記肘68eの座標x″e、z″eは次の(33)式、(34)式のように容易に求められる。ここで、(33)式に示すlaは前記手68mと肩68sとを結ぶ直線の長さであり、元の座標系Oを用いて次の(35)式のように表される。このようにして得られた値を次の(36)式に示すように元の座標系Oに変換することで前記肘(右肘)68eの座標が算出される。なお、この座標変換によって得られるそれぞれの具体的な値は省略する。
図4に戻って、人型映像制御手段100は、前記ハードディスク50の人型映像データベース74に記憶された情報を用い、映像制御装置である前記CRTコントローラ56及び映像合成装置である前記ビデオミキサ34等を介して前記映像表示装置30に例えば図9に例示するような簡易的な人型映像すなわちアバタ(avatar)102を表示させると共に、前記位置算出手段84による算出結果に応じて前記利用者68の動作をそのアバタ102に反映する制御を行う。具体的には、前記第1の検出手段78、第2の検出手段80、及び第3の検出手段82による検出結果、及びそれらの検出結果に基づいて前記位置算出手段84により算出された算出結果に基づいて、前記利用者68の体の各部位の位置すなわち頭68h、左右の足68f、尻68b、左右の脚付け根68c、左右の膝68n、肩(右肩)68s、手(右手)68m、及び肘(右肘)68eの相対位置関係を、前記映像表示装置30に表示されるアバタ102の体の各部位の位置すなわち頭102h、左右の足102f、尻102b、左右の脚付け根102c、左右の膝102n、肩(右肩)102s、手(右手)102m、及び肘(右肘)102eに三次元的に反映させる。斯かる制御により、前記映像表示装置30に表示されるアバタ102は、前記利用者68の動作を模して3次元的(立体的)に動作する。また、前記位置算出手段90により算出される各座標は前記アバタ102の動作を定めるものであるため、その位置算出手段90は、上記アバタ102の体の各部位の位置を算出するものと言い換えることもできる。なお、このアバタ102に関して、前述した処理で座標検出及び算出の対象とならなかった左肩乃至左腕については、予め定められたプログラムに基づいてそれらしく適当に動作させられる。
本実施例のカラオケ装置16によるカラオケ演奏では、前述した処理により演奏者である利用者68の体の各部位の動作に関する情報が前記CCDカメラ64及び圧力センサ66を介して取り込まれる。そして、図9に示すように、前記利用者68の動作を反映するアバタ102が演奏曲の歌詞文字映像104と共に前記映像表示装置30に表示され、その利用者68が体を動かす毎にそのアバタ102も同じように体を動かす。このようにして、単にカラオケ演奏を行うのみならず、様々な振り付けを行いながら歌う自分の姿を視覚的に楽しむことができるという新しい娯楽の要素を前記カラオケ装置16に付与することができる。また、本実施例において、前記第1の検出手段78、第2の検出手段80、及び第3の検出手段82による検出結果は、32ビットのシステムであれば7×4=28バイトと小さいものであり、その処理乃至はその検出結果を用いた前記計算が簡単であることに加え、比較的低速の通信環境においても前記カラオケ装置16相互間で前記アバタ102を制御するための情報を好適に送受信することができる。これにより、例えば前記LAN24を介して複数(好適には2台)のカラオケ装置16相互間でそれぞれ他方(通信相手先のカラオケ装置16)の演奏者の振り付けを視覚的に楽しみながら行う遠隔デュエットカラオケ演奏が実現される。このように、前記人型映像制御装置76が備えられていることで、前記カラオケ装置16によるカラオケ演奏に種々の新たな娯楽的機能を付与することが可能となる。
このように、本実施例によれば、利用者68の立つ床面70に対して垂直を成す第1の方向に関してその利用者68の頭68hの位置を検出する第1の検出手段78と、前記第1の方向と、前記床面70に対して平行を成す第2の方向とに関して前記利用者68の手68mの位置を検出する第2の検出手段80と、前記第2の方向と、前記第1の方向及び第2の方向に対して垂直を成す第3の方向に関して前記利用者68の足68fの位置を検出する第3の検出手段82と、前記第1の検出手段78、第2の検出手段80、及び第3の検出手段82による検出結果に基づいて前記利用者68の体の各部位の位置を算出する位置算出手段84と、その位置算出手段84による算出結果に応じて前記利用者68の動作を人型映像であるアバタ102に反映する制御を行う人型映像制御手段100とを、有することから、前記利用者68の動作に関する最小限の情報を取得することで、前記アバタ102にその動作を反映する少なくともエンターテイメント分野においては十分に自然な3次元の動きをつけることができる。すなわち、可及的簡単なセンサを用いて利用者の動作を写実的に人型映像に反映する人型映像制御装置76を提供することができる。
また、前記第1の検出手段78及び第2の検出手段80は、前記床面70に対して位置固定に設けられた撮像装置であるCCDカメラ64により撮像される前記利用者68の映像に基づいてその利用者68の頭68h及び手68mの位置を検出するものであるため、比較的安価且つ実用的な装置を用いて前記利用者68の頭68h及び手68mの位置を検出することができるという利点がある。
また、前記第3の検出手段82は、前記床面70に敷かれたマット状の圧力センサ66から供給される情報に基づいて前記利用者68の足68fの位置を検出するものであるため、比較的安価且つ実用的な装置を用いて前記利用者68の足68fの位置を検出することができるという利点がある。
また、前記位置算出手段84は、前記第1の検出手段78及び第3の検出手段82による検出結果に基づいて前記利用者68の足68fの位置を算出する足位置算出手段86と、前記第1の検出手段78による検出結果に基づいて前記利用者68の頭68hの位置を算出する頭位置算出手段86と、前記第1の検出手段78による検出結果に基づいて前記利用者68の尻68bの位置を算出する尻位置算出手段90と、前記第1の検出手段78及び第3の検出手段82による検出結果に基づいて前記利用者68の脚関節すなわち脚付け根68c及び膝68nの位置を算出する脚関節位置算出手段92と、前記第1の検出手段78による検出結果に基づいて前記利用者68の肩68sの位置を算出する肩位置算出手段94と、前記第1の検出手段78及び第2の検出手段80による検出結果に基づいて前記利用者68の手68mの位置を算出する手位置算出手段96と、前記第1の検出手段78及び第2の検出手段80による検出結果に基づいて前記利用者68の肘68eの位置を算出する肘位置算出手段98とを、含むものであるため、前記第1の検出手段78、第2の検出手段80、及び第3の検出手段82による検出結果に基づいて前記利用者68の体の各部位の位置を詳細に算出することができ、その利用者68の動作を更に写実的に前記アバタ102に反映できるという利点がある。
また、前記人型映像制御装置76は、多数の演奏曲のうちから選択される所定の演奏曲を出力させると共に、その出力と同期してその演奏曲の歌詞文字映像104を表示させる映像表示装置30を備えたカラオケ装置16において、その映像表示装置30に表示される前記アバタ102を制御するものであるため、カラオケボックス等で用いられるカラオケ装置16の映像表示装置30に、演奏者の動作を反映するアバタ102を前記演奏曲の歌詞文字映像104と共に表示できるという利点がある。
また、前記第2の検出手段80は、前記カラオケ装置16に備えられて前記利用者68の手68mに把持されて用いられる音声入力装置であるマイクロフォン40の位置を検出するものであるため、特徴的な形状を有するマイクロフォン40の位置を検出することで、そのマイクロフォン40を把持する前記利用者68の手68mの位置を好適に検出できるという利点がある。
また、前記マイクロフォン40は、赤外線を介して前記カラオケ装置16へ音声情報を送信するワイヤレス式装置であり、前記第2の検出手段80は、そのマイクロフォン40の赤外線発信部40sの位置を検出するものであるため、前記CCDカメラ64を介して容易に検出し得るマイクロフォン40の赤外線発信部40sの位置を検出することで、そのマイクロフォン40を把持する前記利用者68の手68mの位置を好適に検出できるという利点がある。
以上、本発明の好適な実施例を図面に基づいて詳細に説明したが、本発明はこれに限定されるものではなく、更に別の態様においても実施される。
例えば、前述の実施例において、前記人型映像制御装置76は、前記カラオケ装置16に組み込まれてそのカラオケ装置16の映像表示装置30に表示されるアバタ102を制御するものであったが、本発明はこれに限定されるものではなく、例えば、一般的なパーソナルコンピュータによるチャットや、遠隔地間で撮像装置を用いて行われるテレビ会議等、様々な目的で用いられ得るものである。すなわち、カラオケ装置以外の装置に適用されるものであっても構わない。
また、前述の実施例では、前記利用者68の右肩乃至右腕の動作を検出乃至算出して前記アバタ102に反映させる態様を説明したが、前記マイクロフォン40を把持する手68mは右手には限られないため、そのマイクロフォン40を把持する手を処理開始時に選択し得るようにしてもよい。この処理開始時の設定において左手が選択された場合、前記人型映像制御装置76は、左肩乃至左腕の動作を検出乃至算出して前記アバタ102に反映する。また、処理開始時に前記CCDカメラ64から取り込まれる情報に基づいて前記マイクロフォン40を把持する側の手68mを自動的に認識するようにしてもよい。
また、前述の実施例では、前記位置算出手段84により前記利用者68の体に関して計11箇所の位置を算出し、その算出結果を前記アバタ102に反映させるものであったが、これはあくまで一例であり、前記11箇所以上の位置を算出するものであってもよいし、前記11箇所未満の位置を算出するものであってもよい。例えば、前記脚付け根102cが尻102bと略一緒の位置とされるアバタ102については、何れか一方の位置の算出を省略しても構わない。
また、前述の実施例では、前記CCDカメラ64により撮像された利用者68の映像に基づいてその利用者の頭68hの位置を検出するものであったが、例えば光学式センサによりその頭68hの位置(高さ)を検出するものであってもよい。また、前記マクロフォン40に重力センサを内蔵させ、その重力センサから供給される情報に応じてそのマイクロフォン40乃至は利用者68の手68mの位置を検出するものであってもよい。
また、前述の実施例では、人間を模したアバタ102を図9に例示したが、前記人型映像制御装置76の制御対象は、必ずしも人間を模したアバタに限られず、ロボット、後脚で直立する犬、二足歩行する恐竜等、人型の映像としてのアバタを広く制御対象とするものであることは言うまでもない。
その他、一々例示はしないが、本発明はその趣旨を逸脱しない範囲内において種々の変更が加えられて実施されるものである。
16:カラオケ装置
30:映像表示装置
40:マイクロフォン(音声入力装置)
40s:赤外線発信部
64:CCDカメラ(撮像装置)
66:圧力センサ
68:利用者
68b:利用者の尻
68c:利用者の脚付け根(脚関節)
68e:利用者の肘
68f:利用者の足
68h:利用者の頭
68m:利用者の手
68n:利用者の膝(脚関節)
68s:利用者の肩
70:床面
76:人型映像制御装置
78:第1の検出手段
80:第2の検出手段
82:第3の検出手段
84:位置算出手段
86:足位置算出手段
88:頭位置算出手段
90:尻位置算出手段
92:脚関節位置算出手段
94:肩位置算出手段
96:手位置算出手段
98:肘位置算出手段
100:人型映像制御手段
102:アバタ(人型映像)
104:歌詞文字映像
30:映像表示装置
40:マイクロフォン(音声入力装置)
40s:赤外線発信部
64:CCDカメラ(撮像装置)
66:圧力センサ
68:利用者
68b:利用者の尻
68c:利用者の脚付け根(脚関節)
68e:利用者の肘
68f:利用者の足
68h:利用者の頭
68m:利用者の手
68n:利用者の膝(脚関節)
68s:利用者の肩
70:床面
76:人型映像制御装置
78:第1の検出手段
80:第2の検出手段
82:第3の検出手段
84:位置算出手段
86:足位置算出手段
88:頭位置算出手段
90:尻位置算出手段
92:脚関節位置算出手段
94:肩位置算出手段
96:手位置算出手段
98:肘位置算出手段
100:人型映像制御手段
102:アバタ(人型映像)
104:歌詞文字映像
Claims (7)
- 映像表示装置に表示される簡易的な人型映像を制御する人型映像制御装置であって、
利用者の立つ床面に対して垂直を成す第1の方向に関して該利用者の頭の位置を検出する第1の検出手段と、
前記第1の方向と、前記床面に対して平行を成す第2の方向とに関して前記利用者の手の位置を検出する第2の検出手段と、
前記第2の方向と、前記第1の方向及び第2の方向に対して垂直を成す第3の方向に関して前記利用者の足の位置を検出する第3の検出手段と、
前記第1の検出手段、第2の検出手段、及び第3の検出手段による検出結果に基づいて前記利用者の体の各部位の位置を算出する位置算出手段と、
該位置算出手段による算出結果に応じて前記利用者の動作を前記人型映像に反映する制御を行う人型映像制御手段と
を、有することを特徴とする人型映像制御装置。 - 前記第1の検出手段及び第2の検出手段は、前記床面に対して位置固定に設けられた撮像装置により撮像される前記利用者の映像に基づいて該利用者の頭及び手の位置を検出するものである請求項1の人型映像制御装置。
- 前記第3の検出手段は、前記床面に敷かれたマット状の圧力センサから供給される情報に基づいて前記利用者の足の位置を検出するものである請求項1又は2の人型映像制御装置。
- 前記位置算出手段は、
前記第1の検出手段及び第3の検出手段による検出結果に基づいて前記利用者の足の位置を算出する足位置算出手段と、
前記第1の検出手段による検出結果に基づいて前記利用者の頭の位置を算出する頭位置算出手段と、
前記第1の検出手段による検出結果に基づいて前記利用者の尻の位置を算出する尻位置算出手段と、
前記第1の検出手段及び第3の検出手段による検出結果に基づいて前記利用者の脚関節の位置を算出する脚関節位置算出手段と、
前記第1の検出手段による検出結果に基づいて前記利用者の肩の位置を算出する肩位置算出手段と、
前記第1の検出手段及び第2の検出手段による検出結果に基づいて前記利用者の手の位置を算出する手位置算出手段と、
前記第1の検出手段及び第2の検出手段による検出結果に基づいて前記利用者の肘の位置を算出する肘位置算出手段と
を、含むものである請求項1から3の何れかの人型映像制御装置。 - 前記人型映像制御装置は、多数の演奏曲のうちから選択される所定の演奏曲を出力させると共に、その出力と同期して該演奏曲の歌詞文字映像を表示させる映像表示装置を備えたカラオケ装置において、該映像表示装置に表示される前記人型映像を制御するものである請求項1から4の何れかの人型映像制御装置。
- 前記第2の検出手段は、前記カラオケ装置に備えられて前記利用者の手に把持されて用いられる音声入力装置の位置を検出するものである請求項5の人型映像制御装置。
- 前記音声入力装置は、赤外線を介して前記カラオケ装置へ音声情報を送信するワイヤレス式装置であり、前記第2の検出手段は、該音声入力装置の赤外線発信部の位置を検出するものである請求項6の人型映像制御装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005259471A JP2007072194A (ja) | 2005-09-07 | 2005-09-07 | 人型映像制御装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005259471A JP2007072194A (ja) | 2005-09-07 | 2005-09-07 | 人型映像制御装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007072194A true JP2007072194A (ja) | 2007-03-22 |
Family
ID=37933682
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005259471A Pending JP2007072194A (ja) | 2005-09-07 | 2005-09-07 | 人型映像制御装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007072194A (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008299038A (ja) * | 2007-05-31 | 2008-12-11 | Daiichikosho Co Ltd | 背景映像演出機能を備えるカラオケシステム |
JP2012208281A (ja) * | 2011-03-29 | 2012-10-25 | Xing Inc | カラオケ装置 |
JP2012208387A (ja) * | 2011-03-30 | 2012-10-25 | Xing Inc | カラオケ装置 |
JP2014130177A (ja) * | 2012-12-28 | 2014-07-10 | Daiichikosho Co Ltd | コラボレーション歌唱における歌唱動作事前報知システム |
JP2015060061A (ja) * | 2013-09-18 | 2015-03-30 | 日本コントロールシステム株式会社 | カラオケ装置、画像出力方法、およびプログラム |
JP2016183989A (ja) * | 2015-03-25 | 2016-10-20 | ブラザー工業株式会社 | 情報処理装置及びプログラム |
JP6234622B1 (ja) * | 2017-01-16 | 2017-11-22 | 株式会社コロプラ | 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 |
JP6257825B1 (ja) * | 2017-05-26 | 2018-01-10 | 株式会社コロプラ | 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 |
WO2019203190A1 (ja) * | 2018-04-17 | 2019-10-24 | ソニー株式会社 | プログラム、情報処理装置、及び情報処理方法 |
-
2005
- 2005-09-07 JP JP2005259471A patent/JP2007072194A/ja active Pending
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008299038A (ja) * | 2007-05-31 | 2008-12-11 | Daiichikosho Co Ltd | 背景映像演出機能を備えるカラオケシステム |
JP2012208281A (ja) * | 2011-03-29 | 2012-10-25 | Xing Inc | カラオケ装置 |
JP2012208387A (ja) * | 2011-03-30 | 2012-10-25 | Xing Inc | カラオケ装置 |
JP2014130177A (ja) * | 2012-12-28 | 2014-07-10 | Daiichikosho Co Ltd | コラボレーション歌唱における歌唱動作事前報知システム |
JP2015060061A (ja) * | 2013-09-18 | 2015-03-30 | 日本コントロールシステム株式会社 | カラオケ装置、画像出力方法、およびプログラム |
JP2016183989A (ja) * | 2015-03-25 | 2016-10-20 | ブラザー工業株式会社 | 情報処理装置及びプログラム |
JP6234622B1 (ja) * | 2017-01-16 | 2017-11-22 | 株式会社コロプラ | 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 |
JP2018116352A (ja) * | 2017-01-16 | 2018-07-26 | 株式会社コロプラ | 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 |
JP6257825B1 (ja) * | 2017-05-26 | 2018-01-10 | 株式会社コロプラ | 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 |
JP2018200568A (ja) * | 2017-05-26 | 2018-12-20 | 株式会社コロプラ | 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 |
WO2019203190A1 (ja) * | 2018-04-17 | 2019-10-24 | ソニー株式会社 | プログラム、情報処理装置、及び情報処理方法 |
US11675418B2 (en) | 2018-04-17 | 2023-06-13 | Sony Corporation | Program, information processor, and information processing method for blending motions of a plurality of actors |
US11726549B2 (en) | 2018-04-17 | 2023-08-15 | Sony Corporation | Program, information processor, and information processing method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10863301B2 (en) | Mixed reality spatial audio | |
JP2007072194A (ja) | 人型映像制御装置 | |
JP6316387B2 (ja) | 広範囲同時遠隔ディジタル提示世界 | |
CN109416585A (zh) | 虚拟、增强及混合现实 | |
US6195104B1 (en) | System and method for permitting three-dimensional navigation through a virtual reality environment using camera-based gesture inputs | |
KR20000075608A (ko) | 카메라 기초 제스쳐 입력을 이용하는 가상 현실 환경을 통한 3차원 내비게이션을 허용하는 시스템 및 방법 | |
JP2010257461A (ja) | ネットワークゲーム用の共有ゲーム空間を創出する方法およびシステム | |
JP2010253277A (ja) | ビデオゲームにおいてオブジェクトの動きを制御する方法およびシステム | |
JP3452783B2 (ja) | 振り付け採点機能を有するカラオケ装置 | |
JP6431259B2 (ja) | カラオケ装置、ダンス採点方法、およびプログラム | |
JPH11175061A (ja) | 制御装置およびカラオケ装置 | |
JP2009201800A (ja) | 運動支援装置、コンピュータプログラム及び運動支援方法 | |
JP2000090285A (ja) | 映像表示装置 | |
JP7161200B2 (ja) | カラオケ演出システム | |
JP5030668B2 (ja) | 背景映像演出機能を備えるカラオケシステム | |
JP3730505B2 (ja) | コミュニケーション画像生成装置、コミュニケーション画像生成方法及び記録媒体 | |
JP7072706B1 (ja) | 表示制御装置、表示制御方法および表示制御プログラム | |
JP7053074B1 (ja) | 鑑賞システム、鑑賞装置及びプログラム | |
US20240137725A1 (en) | Mixed reality spatial audio | |
JP4064972B2 (ja) | コミュニケーション情報処理方法及び装置 | |
JP5486538B2 (ja) | カラオケ装置 | |
JP2000039949A (ja) | 映像表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080227 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090909 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090929 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20100223 |