JP2017058527A - カラオケ装置及びカラオケ用プログラム - Google Patents
カラオケ装置及びカラオケ用プログラム Download PDFInfo
- Publication number
- JP2017058527A JP2017058527A JP2015183490A JP2015183490A JP2017058527A JP 2017058527 A JP2017058527 A JP 2017058527A JP 2015183490 A JP2015183490 A JP 2015183490A JP 2015183490 A JP2015183490 A JP 2015183490A JP 2017058527 A JP2017058527 A JP 2017058527A
- Authority
- JP
- Japan
- Prior art keywords
- lyrics
- user
- line
- singing
- sight
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
Description
楽曲を演奏する演奏処理と、
背景映像と、背景映像内に配置された歌詞表示領域とを有する映像を表示部に表示し、歌詞表示領域に、演奏処理で演奏される楽曲の歌詞を表示する表示処理と、
マイクロホンから入力されたユーザーの歌唱音声に基づいて歌唱評価情報を生成する歌唱評価処理と、
表示部に表示される映像中、ユーザーの視線を判定する視線判定処理と、
演奏処理中、視線判定処理により判定された視線が、歌詞表示領域に位置しているか否かに基づいて、歌唱評価情報を補正する補正処理と、
補正された歌唱評価情報をユーザーに通知する通知処理と、を実行することを特徴とする。
表示部はユーザーの頭部に装着するヘッドセットに配置され、
表示処理は、ヘッドセットの移動に応じて映像を移動させ、
視線判定処理は、表示部に表示される映像の所定位置をユーザーの視線通過位置として視線を判定することを特徴とする。
視線判定処理は、ユーザーの眼球の動きを検出することでユーザーの視線を判定することを特徴とする。
歌唱評価処理は、ユーザーの歌唱音声から歌唱音高を抽出し、抽出した歌唱音高と、楽曲の模範旋律を比較することで歌唱評価情報を生成することを特徴とする。
ユーザーの歌唱音声を音声認識することで歌唱歌詞を抽出し、抽出した歌唱歌詞と、楽曲の歌詞を比較することで歌唱すべき歌詞が歌唱されたか否かを判定する歌詞判定処理を実行し、
補正処理は、視線判定処理により判定された視線と、歌詞判定処理により判定された判定結果とに基づいて、歌唱評価情報を補正することを特徴とする。
補正処理は、再生される背景映像に対応する評価基準を使用して、歌唱評価情報を補正することを特徴とする。
楽曲を演奏する演奏処理と、
背景映像と、背景映像内に配置された歌詞表示領域とを有する映像を表示部に表示し、歌詞表示領域に、演奏処理で演奏される楽曲の歌詞を表示する表示処理と、
マイクロホンから入力されたユーザーの歌唱音声に基づいて歌唱評価情報を生成する歌唱評価処理と、
表示部に表示される映像中、ユーザーの視線を判定する視線判定処理と、
演奏処理中、視線判定処理により判定された視線が、歌詞表示領域に位置しているか否かに基づいて、歌唱評価情報を補正する補正処理と、
補正された歌唱評価情報をユーザーに通知する通知処理と、を情報処理装置に実行させることを特徴とする。
前述した実施形態の歌詞注目度評価処理では、ユーザーの視線が歌詞表示領域に位置していた場合、高評価となるように歌唱評価結果としての歌唱評価情報を補正することとしていた。しかしながら、ユーザーが歌詞の表示に集中していたことが、必ずしもよいとはいえない場合もある。例えば、プロの歌手のように歌詞を見なくても歌唱できる習熟したユーザーの場合、前述した実施形態では、累積ポイントPは低い値となってしまう。第1変形例では、歌詞注目度評価処理において、歌唱音声に対して音声認識処理を行うことで、更に的確な累積ポイントPを算出することとしている。
したがって、この第1変形例では、以下に示す4つの状態が判定される。
1.歌唱すべき歌詞を歌っており、歌詞表示領域に注目していない (S305)
2.歌唱すべき歌詞を歌っており、歌詞表示領域に注目している (S306)
3.歌唱すべき歌詞を歌っておらず、歌詞表示領域に注目していない(S308)
4.歌唱すべき歌詞を歌っておらず、歌詞表示領域に注目している (S309)
1.音高が一致しており、歌唱すべき歌詞を歌っており、歌詞表示領域に注目していない
2.音高が一致しており、歌唱すべき歌詞を歌っており、歌詞表示領域に注目している
3.音高が一致しており、歌唱すべき歌詞を歌っておらず、歌詞表示領域に注目していない
4.音高が一致しており、歌唱すべき歌詞を歌っておらず、歌詞表示領域に注目している
5.音高が一致しておらず、歌唱すべき歌詞を歌っており、歌詞表示領域に注目していない
6.音高が一致しておらず、歌唱すべき歌詞を歌っており、歌詞表示領域に注目している
7.音高が一致しておらず、歌唱すべき歌詞を歌っておらず、歌詞表示領域に注目していない
8.音高が一致しておらず、歌唱すべき歌詞を歌っておらず、歌詞表示領域に注目している
前述した実施形態では、ユーザーが歌詞表示領域に注目している場合に累積ポイントPが高くなるようにしているが、視線に基づく評価は、歌詞表示領域に注目していない場合(背景映像に注目している場合)に累積ポイントPが高くなるようにする等、視線に基づく評価基準は、異なる形態とすることも可能である。また、使用する背景映像情報に応じて、視線に基づく評価基準を変更することとしてもよい。例えば、制作者側では、仮想空間に集中(没入)して歌唱して欲しい場合と、仮想空間に惑わされることなく歌唱に集中して欲しい場合を考慮して、背景映像情報を制作することがある。このような場合、背景映像情報に対応して評価基準を変更することで、制作者側の意図に沿った視線方向の場合を高得点とし、意図に沿わない場合、得点が低くなるようにすることが可能となる。
前述した本実施形態では、視野映像60の上下及び左右方向の略中央(視線カーソル63の位置)を簡易的に視線通過位置とみなすことで視線を検出しているが、実際のユーザーの視線は、ユーザーが眼球を運動させることで、視野映像60内でも移動する。ユーザーの視線を正確に検出するため、センサーを使用してユーザーの実際の視線を検出してもよい。例えば、HMD筐体37の内部に赤外線センサーを搭載し、ユーザーの眼球の動きを検出することで、視野映像60内の視線を正確に検出することが考えられる。ユーザーの眼球の動きを検出する場合、HMD3を使用して行う形態に限らず、モニタを視認しながら行う従来のカラオケ装置に適用することも可能である。例えば、図1のモニタ22を直接視認しながら歌唱を行う形態のカラオケでは、例えば、カメラ21でユーザーの眼球の動きを検出し、モニタ22の何処(歌詞表示領域もしくはそれ以外の領域)を見ているかを判定し、評価を行うこととしてもよい。
前述した実施形態では、ユーザーの視線が歌詞表示領域(歌詞表示オブジェクト61)を向いていることを条件として累積ポイントP(歌唱没入度)をカウントしているが、視線が視野映像60中の歌詞表示領域以外に位置していることを条件として、累積ポイントP(背景没入度)をカウントすることとしてもよい。この場合、累積ポイントP(背景没入度)が大きくなる程、ユーザーは背景映像情報による仮想空間の体験に没入していたことになる。その際、視線が歌詞表示領域以外を向いている場合、背景映像の何所を見ているかによって重み付けして累積ポイントP(背景没入度)をカウントしてもよい。例えば、背景映像中、制作者側が注目させたい背景映像の所定領域を設けておき、当該所定領域に視線が向いている場合には累積ポイントP(背景没入度)が高くなるように重み付けすること等が考えられる。
前述した実施形態では、視線が歌詞表示オブジェクト61に位置している場合、歌詞表示領域を向いていると判定しているが、歌詞表示オブジェクト61よりも狭い領域であって、実際に歌詞文字が表示されている領域を歌詞表示領域として使用することとしてもよい。さらに、歌唱すべき歌詞文字(色替えが行われている部分)を中心とする所定領域を、歌詞表示領域として使用することとしてもよい。
前述した実施形態では、ユーザーの操作により、歌詞表示オブジェクト61の透過、非透過を切り替えることとしているが、歌詞表示オブジェクト61の透過、非透過は自動で切り替えるようにしてもよい。例えば、前奏、間奏、後奏といった歌唱しない区間では、歌詞表示オブジェクト61を透過状態に自動で切り替えることで、ユーザーは、当該区間中、歌詞表示オブジェクト61に阻害されない視野映像を楽しむことが可能となる。このような区間は、図6で説明した楽曲情報中の区間識別情報で判定することが可能である。あるいは、マイクロホン33に入力される歌唱音声の有無で、ユーザーが歌唱していない期間を判定し、歌詞表示オブジェクト61を透過状態に切り替えてもよい。
前述した実施形態では、背景映像情報はカメラで撮影した実際の映像を使用した形態であるが、背景映像情報をコンピュータグラフィックによる3次元オブジェクトとして形成することとしてもよい。このような形態では、形成された仮想空間内を自由に移動することも可能である。前述の実施形態は固定の視点であるのに対し、第7変形例では自由な視点で仮想空間を体験することが可能となる。視点の移動は、例えば、コントローラ4の左アナログスティック43Lを仮想空間内の移動用に割り当て、左アナログスティック43Lを倒した方向に仮想空間を移動すること、あるいは、再生進行に伴って所定の経路で移動させること等が考えられる。なお、第7変形例について、第4変形例で説明した、背景映像の何所を見ているかによって重み付けして累積ポイントP(背景没入度)をカウントする形態を適用する場合、重み付けを可変する対象は所定領域ではなく、所定の3次元オブジェクトとなる。例えば、視線が所定の3次元オブジェクト(例えば、注目させたい歌手の顔)に位置している場合、累積ポイントP(背景没入度)が高くなるように重み付けすることとなる。
前述の実施形態では、HMD3に対するコントローラ4の相対的な方向、HMD3とコントローラ4間の距離、HMD3に対するコントローラ4の傾きを使用して、歌詞表示オブジェクト61、コントローラオブジェクト62を表示させているが、歌詞表示オブジェクト61、コントローラオブジェクト62の表示には、HMD3に対するコントローラ4の相対的な方向のみを使用することでもよい。視野映像60中、HMD3に対するコントローラ4の相対的な方向に対応した位置に歌詞表示オブジェクト61、コントローラオブジェクト62を表示することが可能である。さらに、距離を加えることで大きさを変更することが可能であり、さらに傾きを加えることで見え方を変更することが可能となり、仮想現実性の向上を図ることが可能となる。
前述の実施形態では、HMD3、及び、コントローラ4の位置検出について、カメラ21で撮影した映像を使用した形態としているが、HMD3、及び、コントローラ4の位置検出はこのような形態に限られるものではなく、ジャイロ等、各種センターを利用して検出する形態を採用してもよい。また、前述の実施形態では、操作装置として、ゲーム装置1用のコントローラ4を使用しているが、操作装置はコントローラ4に限られるものではなく、ゲーム装置1(情報処理装置)に対して各種指令を出すことのできるデバイスを採用することが可能である。例えば、ユーザーが手に装着して使用するグローブ状のデバイス等を操作装置として使用してもよい。
3:HMD 35、36:LED
4:コントローラ(操作装置) 37:HMD筐体
5:サーバ装置 41:ルータ
10:CPU 41L:左グリップ
11:メモリ 41R:右グリップ
12:ビデオRAM 42:接続部
13:映像再生部 43L:左アナログスティック
14:映像制御部 43R:アナログスティック
15:音響制御部 44:十字キー
16:第1無線通信部 45:ボタン群
17:第2無線通信部 46L1:左第1ボタン
18:LAN通信部 46L2:左第2ボタン
19:ハードディスク 46R1:右第1ボタン
20:媒体再生部 46R2:右第2ボタン
21:カメラ 47:LED
22:モニタ 51:サーバ装置
31L:左目用ディスプレイ 60:視野映像
31R:右目用ディスプレイ 61:歌詞表示オブジェクト
32(32R、32L):ヘッドホン 62:コントローラオブジェクト
33:マイクロホン 63:視線カーソル
Claims (7)
- 楽曲を演奏する演奏処理と、
背景映像と、背景映像内に配置された歌詞表示領域とを有する映像を表示部に表示し、歌詞表示領域に、演奏処理で演奏される楽曲の歌詞を表示する表示処理と、
マイクロホンから入力されたユーザーの歌唱音声に基づいて歌唱評価情報を生成する歌唱評価処理と、
表示部に表示される映像中、ユーザーの視線を判定する視線判定処理と、
演奏処理中、視線判定処理により判定された視線が歌詞表示領域に位置しているか否かに基づいて、歌唱評価情報を補正する補正処理と、
補正された歌唱評価情報をユーザーに通知する通知処理と、を実行することを特徴とする
カラオケ装置。 - 表示部はユーザーの頭部に装着するヘッドセットに配置され、
表示処理は、ヘッドセットの移動に応じて映像を移動させ、
視線判定処理は、表示部に表示される映像の所定位置をユーザーの視線通過位置として視線を判定することを特徴とする
請求項1に記載のカラオケ装置。 - 視線判定処理は、ユーザーの眼球の動きを検出することでユーザーの視線を判定することを特徴とする
請求項1まあは請求項2に記載のカラオケ装置。 - 歌唱評価処理は、ユーザーの歌唱音声から歌唱音高を抽出し、抽出した歌唱音高と、楽曲の模範旋律を比較することで歌唱評価情報を生成することを特徴とする
請求項1から請求項3の何れか1項に記載のカラオケ装置。 - ユーザーの歌唱音声を音声認識することで歌唱歌詞を抽出し、抽出した歌唱歌詞と、楽曲の歌詞を比較することで歌唱すべき歌詞が歌唱されたか否かを判定する歌詞判定処理を実行し、
補正処理は、視線判定処理により判定された視線と、歌詞判定処理により判定された判定結果とに基づいて、歌唱評価情報を補正することを特徴とする
請求項1から請求項4の何れか1項に記載のカラオケ装置。 - 補正処理は、再生される背景映像に対応する評価基準を使用して、歌唱評価情報を補正することを特徴とする
請求項1から請求項5の何れか1項に記載のカラオケ装置。 - 楽曲を演奏する演奏処理と、
背景映像と、背景映像内に配置された歌詞表示領域とを有する映像を表示部に表示し、歌詞表示領域に、演奏処理で演奏される楽曲の歌詞を表示する表示処理と、
マイクロホンから入力されたユーザーの歌唱音声に基づいて歌唱評価情報を生成する歌唱評価処理と、
表示部に表示される映像中、ユーザーの視線を判定する視線判定処理と、
演奏処理中、視線判定処理により判定された視線が歌詞表示領域に位置しているか否かに基づいて、歌唱評価情報を補正する補正処理と、
補正された歌唱評価情報をユーザーに通知する通知処理と、を情報処理装置に実行させることを特徴とする
カラオケ用プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015183490A JP6465780B2 (ja) | 2015-09-16 | 2015-09-16 | カラオケ装置及びカラオケ用プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015183490A JP6465780B2 (ja) | 2015-09-16 | 2015-09-16 | カラオケ装置及びカラオケ用プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017058527A true JP2017058527A (ja) | 2017-03-23 |
JP6465780B2 JP6465780B2 (ja) | 2019-02-06 |
Family
ID=58391503
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015183490A Active JP6465780B2 (ja) | 2015-09-16 | 2015-09-16 | カラオケ装置及びカラオケ用プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6465780B2 (ja) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000029483A (ja) * | 1998-07-15 | 2000-01-28 | Ricoh Co Ltd | カラオケ装置 |
JP2000122674A (ja) * | 1998-10-14 | 2000-04-28 | Yamaha Corp | カラオケ装置 |
JP2001022362A (ja) * | 1999-07-06 | 2001-01-26 | Mitsumi Electric Co Ltd | カラオケシステム |
JP2002248266A (ja) * | 2001-02-23 | 2002-09-03 | Namco Ltd | ゲーム装置 |
JP2011207391A (ja) * | 2010-03-30 | 2011-10-20 | Mazda Motor Corp | 車両用発音装置 |
WO2012150657A1 (ja) * | 2011-05-02 | 2012-11-08 | パナソニック株式会社 | 集中有無推定装置及びコンテンツ評価装置 |
JP2017058526A (ja) * | 2015-09-16 | 2017-03-23 | 株式会社エクシング | カラオケ装置及びカラオケ用プログラム |
-
2015
- 2015-09-16 JP JP2015183490A patent/JP6465780B2/ja active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000029483A (ja) * | 1998-07-15 | 2000-01-28 | Ricoh Co Ltd | カラオケ装置 |
JP2000122674A (ja) * | 1998-10-14 | 2000-04-28 | Yamaha Corp | カラオケ装置 |
JP2001022362A (ja) * | 1999-07-06 | 2001-01-26 | Mitsumi Electric Co Ltd | カラオケシステム |
JP2002248266A (ja) * | 2001-02-23 | 2002-09-03 | Namco Ltd | ゲーム装置 |
JP2011207391A (ja) * | 2010-03-30 | 2011-10-20 | Mazda Motor Corp | 車両用発音装置 |
WO2012150657A1 (ja) * | 2011-05-02 | 2012-11-08 | パナソニック株式会社 | 集中有無推定装置及びコンテンツ評価装置 |
JP2017058526A (ja) * | 2015-09-16 | 2017-03-23 | 株式会社エクシング | カラオケ装置及びカラオケ用プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP6465780B2 (ja) | 2019-02-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106924966B (zh) | 游戏装置以及处理方法 | |
US10953336B2 (en) | Role simulation method and terminal apparatus in VR scene | |
JP6684559B2 (ja) | プログラムおよび画像生成装置 | |
EP3398666B1 (en) | Game apparatus, processing method, and information storage medium | |
US10183220B2 (en) | Image generation device and image generation method | |
JP2015231443A (ja) | プログラム及びゲームシステム | |
JP6719633B1 (ja) | プログラム、方法、および視聴端末 | |
JP7344189B2 (ja) | 視聴プログラム、視聴方法、および情報端末装置 | |
JP7367915B2 (ja) | プログラム、情報処理方法、および、情報処理装置 | |
JP7369674B2 (ja) | プログラム、方法、および視聴端末 | |
JP6737941B1 (ja) | プログラム、方法、および視聴端末 | |
JP6438869B2 (ja) | カラオケ装置及びカラオケ用プログラム | |
CN114253393A (zh) | 信息处理设备、终端、方法以及计算机可读记录介质 | |
JP6489984B2 (ja) | カラオケ装置及びカラオケ用プログラム | |
JP6465780B2 (ja) | カラオケ装置及びカラオケ用プログラム | |
JP6498090B2 (ja) | カラオケ装置及びカラオケ用プログラム | |
JP6839730B2 (ja) | 情報処理システム、情報処理方法およびコンピュータプログラム | |
JP2018140176A (ja) | プログラム及びゲームシステム | |
JP2022000218A (ja) | プログラム、方法、情報処理装置、およびシステム | |
JP6826626B2 (ja) | 視聴プログラム、視聴方法、および視聴端末 | |
JP7282731B2 (ja) | プログラム、方法、および端末 | |
JP7299197B2 (ja) | 配信プログラム、配信方法、およびコンピュータ | |
JP7354466B1 (ja) | 情報処理システムおよびプログラム | |
JP7412613B1 (ja) | 情報処理システムおよびプログラム | |
JP7440401B2 (ja) | ゲームプログラム、ゲーム方法、および情報端末装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180111 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181126 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190108 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190108 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6465780 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |