JP2020009027A - ライブ演出システム、およびライブ演出方法 - Google Patents
ライブ演出システム、およびライブ演出方法 Download PDFInfo
- Publication number
- JP2020009027A JP2020009027A JP2018127833A JP2018127833A JP2020009027A JP 2020009027 A JP2020009027 A JP 2020009027A JP 2018127833 A JP2018127833 A JP 2018127833A JP 2018127833 A JP2018127833 A JP 2018127833A JP 2020009027 A JP2020009027 A JP 2020009027A
- Authority
- JP
- Japan
- Prior art keywords
- biological information
- live
- visual effect
- control device
- ratio
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004519 manufacturing process Methods 0.000 title claims abstract description 56
- 230000000694 effects Effects 0.000 claims abstract description 61
- 238000005259 measurement Methods 0.000 claims abstract description 24
- 210000004556 brain Anatomy 0.000 claims description 56
- 239000000284 extract Substances 0.000 claims description 7
- 230000005236 sound signal Effects 0.000 claims description 2
- 238000009877 rendering Methods 0.000 claims 2
- 230000003993 interaction Effects 0.000 abstract description 6
- 230000000007 visual effect Effects 0.000 description 254
- 238000012545 processing Methods 0.000 description 132
- 238000010586 diagram Methods 0.000 description 42
- 238000000034 method Methods 0.000 description 33
- 238000003860 storage Methods 0.000 description 25
- 239000000463 material Substances 0.000 description 11
- 230000008569 process Effects 0.000 description 11
- 238000012986 modification Methods 0.000 description 10
- 230000004048 modification Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 230000010365 information processing Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 210000003128 head Anatomy 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 238000013178 mathematical model Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 230000033001 locomotion Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 241000167854 Bourreria succulenta Species 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 235000019693 cherries Nutrition 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 241001342895 Chorus Species 0.000 description 1
- 238000000692 Student's t-test Methods 0.000 description 1
- 230000003466 anti-cipated effect Effects 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000007177 brain activity Effects 0.000 description 1
- 230000009194 climbing Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- HAORKNGNJCEJBX-UHFFFAOYSA-N cyprodinil Chemical compound N=1C(C)=CC(C2CC2)=NC=1NC1=CC=CC=C1 HAORKNGNJCEJBX-UHFFFAOYSA-N 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005183 dynamical system Methods 0.000 description 1
- 210000000624 ear auricle Anatomy 0.000 description 1
- 230000003340 mental effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 230000035900 sweating Effects 0.000 description 1
- 238000012353 t test Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- User Interface Of Digital Computer (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
前記生体情報に基づく値が第1の値以上且つ第2の値未満である第1の閾値の範囲の場合に第1の前記演出効果を生成し、前記生体情報に基づく値が第2の値以上である第2の閾値以上の場合に第2の前記演出効果を生成するようにしてもよい。
第1実施形態では、ユーザの生体情報として脳波を用いる例を説明する。
まず、実施形態のライブ演出システムの概要について説明する。
図1は、本実施形態に係るライブ演出システム1の概要を示す図である。本実施形態では、VRHMD(Virtual Reality Head Mounted Display;ヴァーチャル・リアリティ・ヘッドマウントディスプレイ)と脳波計を装着した複数のユーザが同時にVRライブを試聴する。なお、視聴の際、複数のユーザは同じ空間にいなくてもよい。制御装置は、複数のユーザから取得した脳波に基づいて、複数視聴者の相互作用を解析する。そして、制御装置は解析した結果に基づいて視覚効果を生成して、VRライブの画像に視覚効果を合成する。
なお、以下の説明において、脳波計は、少なくとも脳波のα波とβ波を計測する。
次に、ライブ演出システムの構成例を説明する。
図2は、本実施形態に係るライブ演出システム1の構成例を示すブロック図である。図2に示すように、ライブ演出システム1は、脳波計10a、10b,10c,・・・(生体情報測定部)、制御装置20、VRHMD30a、30b,30c,・・・、スピーカー40a、40b,40c,・・・を備えている。
また、制御装置20は、脳波取得部201(生体情報取得部)、脳波処理部202、記憶部203、視覚効果処理部204、画像処理部205、素材格納部206、ライブ映像生成部207、および音声出力部208を備える。
次に、脳波計10、VRHMD30およびスピーカー40をユーザが装着した例を説明する。
図3は、本実施形態に係る脳波計10、VRHMD30およびスピーカー40をユーザが装着した例を示す図である。図3に示すように、VRHMD30およびスピーカー40は、ユーザの頭部に装着される。また、脳波計10は、一方の電極がユーザの頭部の所定位置(国際10−20法のFp1とFp2との間の位置)に装着され、他方の電極がユーザの耳たぶに装着される。
なお、図3に示した脳波計10とVRHMD30とスピーカー40の形状等は一例であり、これに限らない。また、上述した脳波電極の数や装着位置についても一例であり、これに限らない。
次に、β波とα波との比であるβ/α比の処理について説明する。
まず、脳波の周波数成分例を説明する。
図4は、脳波の周波数成分例を示す図である。図4において、横軸は周波数[Hz]であり、縦軸は振幅である。
また、α波は約8〜13[Hz]帯の成分であり、β波は約14〜19[Hz]帯の成分である。
図5は、VRHMDで仮想ライブ映像の試聴時の脳波におけるβ/α比の例を示す図である。図5において、横軸は時間[s]であり、縦軸はβ/α比である。図5に示す例では、1人の被験者のβ/α比を示している。また、図5の例は、1秒の窓を1/16秒毎に更新している。符号g1は、時刻に対するβ/α比の変化である。また、閾値を超えた後、2秒間、視覚効果画像をVRHMDに配信する動画に付加した。
図5に示すように、β/α比は時刻の変化に対して揺らぎがある。
図6は、視覚効果無しの場合であり、安静時のβ/α比と仮想ライブ映像の視聴時のβ/α比の例を示す図である。なお、図6の閾値は1.1である。図7は、視覚効果有りの場合であり、安静時のβ/α比と仮想ライブ映像の視聴時のβ/α比の例を示す図である。
図6(C)と図7(C)は、仮想ライブ映像の試聴時と安静時それぞれの平均値を重ねて表示した図である。なお、図7の閾値は1.4である。なお、図6(B)と図7(B)において、平常状態で線が少ないのは、平常時の計測を1分間として行ったためであり、さらに平常状態のため平均的にβ/α比が低かったためである。
図8は、12人の被験者それぞれが安静時に注視点を1分間見ているときのβ/α比の平均値を示す図である。図8において、横軸は被験者の番号であり、縦軸はβ/α比である。図8に示した例のように、12人の被験者全員の安静時のβ/α比に著しい差が見られなかった。
この実験結果例では、閾値1.4以上の際に付加する視覚効果では、β/α比の閾値を超えた後の振る舞いが安静時のより高まることが期待できる。
このように、本実施形態では、例えば実験により閾値を予め設定しておく。そして本実施形態では、β/α比が閾値を超えたときに、仮想ライブ映像に視覚効果画像を付加する。
次に、視覚効果画像を付加する処理例を説明する。
図9は、本実施形態に係る視覚効果画像を付加する処理手順例のシーケンス図である。なお、図9に示す例では、視聴者が3人の例を示しているが、視聴者は2人以上であればよい。また、図9に示す例では、第1の視聴者が、VRHMD30a(図2)と脳波計10a(図2)とスピーカー40a(図2)を装着している。第2の視聴者が、VRHMD30b(図2)と脳波計10b(図2)とスピーカー40b(図2)を装着している。第3の視聴者が、VRHMD30c(図2)と脳波計10c(図2)とスピーカー40c(図2)を装着している。
なお、図9に示した例では、閾値が1つの例を示したが、閾値は2つ以上であってもよい。また、閾値は所定の範囲の値であってもよい。図10は、本実施形態に係る複数の閾値の範囲と視覚効果画像の例を示す図である。
図10に示すように、β/α比が第1の閾値の範囲内(例えば1.35以上1.4未満)の場合、画像処理部205は、小さな星の画像(第1の視覚効果画像)を生成するようにしてもよい。β/α比が第2の閾値の範囲内(例えば1.4以上1.5未満)の場合、画像処理部205は、大きな星の画像(第2の視覚効果画像)を生成してもよい。β/α比が第3の閾値の範囲内(例えば1.5以上1.6未満)の場合、画像処理部205は、ハートの画像(第3の視覚効果画像)を生成するようにしてもよい。β/α比が第4の閾値の範囲内(例えば1.6以上)の場合、画像処理部205は、桜の花びらの画像(第4の視覚効果画像)を生成するようにしてもよい。
次に、視覚効果画像の例を、図11〜図15を用いて説明する。
図11は、視覚効果画像が付加されていない仮想ライブ映像のみの画像である。仮想ライブ映像は、ライブ映像をCG(コンピュータグラフィック)で作成したものであり、演奏に合わせてライティングの画像が変化しアーティストの画像も変化する。
図16は、本実施形態に係る脳波のβ/α比と視覚効果生成指示の生成結果を示す図である。図16(A)は第1方式の脳波のβ/α比を示す図であり、図16(B)は視覚効果生成指示の生成結果を示す図である。図16(A)において、横軸は経過時間[s]であり、縦軸はβ/α比である。図16(B)において、横軸は経過時間[s]であり、縦軸は視覚効果生成指示である。
アンケートの結果、「視覚効果画像を共有しない場合と比較して、本実施形態の方が面白さ、没入感、一体感を感じた」という回答が得られた。また、「すべての視聴者の視覚効果画像が同じタイミングで再生したことで一体感を感じた」、「他の視聴者の視覚効果画像が見ることができるので一体感を感じた」という意見が得られた。さらに、「他の人の視覚効果画像が出ると自分のも出ていた気がしたので一体感があった」という意見があり、他の人の視覚効果画像を見ることでコンサートに対する集中度(β/α比)が向上する可能性が示唆された。
これにより、本実施形態によれば、各視聴者の一人では得られないβ/α比の上昇を誘発し、仮想ライブの一体感の実感を実現する。
また、図11〜図15で示した仮想ライブ映像や視覚効果画像は一例であり、これに限らない。
なお、視覚効果処理部204は、複数視聴者の中に一人でも気持ちの高まりがあれば視覚効果画像を生成して、全ての視聴者に提供するようにしてもよい。具体的には、視覚効果処理部204は、視聴者の中のβ/α比の最大値が閾値を超えた場合に視覚効果画像を生成する。この処理は、一人の熱狂的な視聴者が、会場全体の盛り上がりを牽引する状況に相当する。なお、視聴者全員に対する閾値と、視聴者の中のβ/α比の最大値を比較する閾値とは同じであっても異なっていてもよい。
または、視覚効果処理部204は、視聴者の中から脳波を評価する人数を上位数名に限定するようにしてもよい。この場合、視覚効果処理部204は、複数の視聴者の上位数名に気持ちの高まりがあれば視覚効果画像を生成するようにしてもよい。具体的には、視覚効果処理部204は、上位数名のβ/α比が閾値を超えた場合に視覚効果画像を生成するようにしてもよい。この処理は、ファンクラブ会員のような一部の視聴者が、会場の盛り上がりを牽引する状況に相当する。
視覚効果処理部204は、ライブの序盤、中盤、および終盤に応じて「閾値」および「視覚効果画像」のうち少なくとも1つを変化させるようにしてもよい。
視覚効果処理部204は、上述した第1変形例から第3変形例の手法を組み合わせたり切り替えて使用するようにしてもよい。
第1実施形態では、視聴者の脳波毎のβ/α比と閾値とを比較して、比較した結果に基づく視覚効果画像を全ての視聴者で共有する例を説明した。
本実施形態では、全ての視聴者の脳波のβ/α比を平均化し、平均化したβ/α比と閾値とを比較して、比較した結果に基づく視覚効果画像を全ての視聴者で共有する例を説明する。
また、制御装置20Aは、脳波取得部201、脳波処理部202A、記憶部203、視覚効果処理部204A、画像処理部205、素材格納部206、ライブ映像生成部207、および音声出力部208を備える。
なお、第1実施形態のライブ演出システム1と同様の機能を有する機能部には同じ符号を用いて、説明を省略する。
次に、視覚効果画像を付加する処理例を説明する。
図18は、本実施形態に係る視覚効果画像を付加する処理手順例のシーケンス図である。なお、図18に示す例では、視聴者が3人の例を示しているが、視聴者は2人以上であればよい。また、図18に示す例では、第1の視聴者が、VRHMD30a(図2)と脳波計10a(図2)とスピーカー40a(図2)を装着している。第2の視聴者が、VRHMD30b(図2)と脳波計10b(図2)とスピーカー40b(図2)を装着している。第3の視聴者が、VRHMD30c(図2)と脳波計10c(図2)とスピーカー40c(図2)を装着している。
また、図9と同じ処理については同じ符号を用いて説明を省略する。
図19は、本実施形態に係る脳波のβ/α比と、脳波のβ/α比の平均値と、視覚効果生成指示の生成結果を示す図である。図19(A)は第2方式の脳波のβ/α比を示す図であり、図19(B)は図19(A)のβ/α比の平均値を示す図であり、図19(C)は視覚効果生成指示の生成結果を示す図である。図19(A)と図19(B)において、横軸は経過時間[s]であり、縦軸はβ/α比である。図19(C)において、横軸は経過時間[s]であり、縦軸は視覚効果生成指示である。なお、3人の視聴者は、図16に示した視聴者4〜6と同じである。
なお、図19に示す例では、全ての被験者提供するに視覚効果画像の色はピンクである。
アンケートの結果、「視覚効果画像が出現したとき一体感を感じた」、「視覚効果画像が出ると達成感があった」との回答が得られた。このように本実施形態では、視聴者全員が協力をして視覚効果画像を再生したという達成感を得られることで、一体感を感じたことが示唆される。このため、本実施形態は、全員が盛り上がらないと視覚効果画像が提供されないため、ライブ会場で演奏者が観客全員を盛り上げたいときに、全観客が協力して視覚効果画像を再生させることで、目標を達成させる場合などに適している。
上述した例では、全ての視聴者のβ/α比の平均値を求める例を説明したが、これに限らない。脳波処理部202Aは、複数の視聴者のβ/αの極大値を求め、求めた極大値と閾値とを比較するようにしてもよい。
なお、「複数の視聴者のβ/αの極大値」とは、例えば、過去数秒の時間窓を設定し、その時間窓の中での最大値を求めたものである。複数の視聴者のβ/α比の瞬時値を用いると、複数の視聴者間でβ/α比が揃って上昇するときのタイミングの一致が厳しくなる。このため、時間窓での最大値を用いることで、複数の視聴者間でβ/α比が揃って上昇するタイミングの一致を緩和できる。
視覚効果処理部204Aは、視聴者の中から脳波を評価する人数を上位数名に限定するようにしてもよい。この場合、視覚効果処理部204Aは、複数の視聴者の上位数名の平均値が閾値を超えた場合に視覚効果画像を生成するようにしてもよい。この処理は、ファンクラブ会員のような一部の視聴者が、会場の盛り上がりを牽引する状況に相当する。
視覚効果処理部204(または204A)は、視覚効果画像の生成を、各視聴者のβ/α比や、複数の視聴者のβ/α上昇の統合演算結果に対して、確率的な決定を用いる等、閾値処理以外の方法で視覚効果生成を決定するようにしてもよい。さらに、視覚効果処理部204(または204A)は、演出効果の生成に用いる閾値や確率的な決定を、楽曲の進行に合わせて変更してもよい。
ここで、複数の視聴者の脳波を用いた一体感のあるライブ演出のしくみについて説明する。
上述した複数の視聴者の脳波を用いた一体感のあるライブ演出のしくみでは、いずれの実施形態でも、以下の段階のフィードバック構造がある。
段階1;ライブの楽曲進行による各ユーザのβ/α比の上昇
段階2;各ユーザのβ/α比が統合的に判定され視覚効果が出現
段階3;視覚効果による各ユーザのβ/α比の上昇
段階4;視覚効果の出現
段階5;視覚効果の視聴による各ユーザのβ/α比の上昇
段階5以降、段階2に続く
実施形態では、各ユーザと脳反応によるβ/α比の変動が個々の構成要素とその変動に対応し、各ユーザのβ/α比を統合的に判定し視覚効果生成コマンドを生成することがフィードバックに相当する。
ライブ演出システム1(1A)を使用する状況では、各ユーザのβ/α比の変動に大域結合写像で知られるような集団的振る舞いが生じる、視聴者の一人では得られないβ/α比上昇による仮想ライブの一体感の実感を実現することができる。
次に、大域結合写像による数理モデル化とシミュレーションについて説明する。
上述した大域結合写像として集団的振る舞いが生成される具体例として、各ユーザのβ/α比の変動を「楽曲進行と視覚効果の入力により上昇し、上昇しきると減衰する」Integrate−And−Fireでモデル化し、これらβ/α比の平均値がフィードバック入力となる大域結合写像をモデル化し、数値シミュレーションを行った。
このように本発明で提案するシステムは大域結合写像による数理モデルをシミュレーションすることで、生成される集団的振る舞いを予想でき、「各ユーザから送信されたβ/α比を統合的に判定する」の設計に利用できる。
なお、上述した数理モデルは一例であり、数理モデルはこれに限らない。
第1実施形態と第2実施形態では、生体情報として脳波を用いる例を説明したが、これに限らない。実施形態では、生体情報として、心拍を用いる例を説明する。
なお、第1実施形態のライブ演出システム1と同様の機能を有する機能部には同じ符号を用いて、説明を省略する。また、図22は、第1実施形態のライブ演出システム1に本実施形態を適用した例であるが、本実施形態を第2実施形態のライブ演出システム1Aに適用することも可能である。
なお、これらの心拍変動は、心電図を用いて計測してもよく、スマートウォッチなどの脈波計測から近似的に計算して用いてもよい。
図23は、心拍変動から生成した視覚効果生成指示の生成例を示す図である。図23において、横軸は時間であり、縦軸は心拍による視覚効果の生成指示、心拍数である。
生体情報取得部201Bは、心拍数[bpm]を例えば20ms刻みで値を取得する。なお、例えば参考文献1のようにスマートウォッチから取得した情報に基づいて心拍数を算出する場合は、拍動が得られる度に心拍数が算出される。このような場合、サンプリング周期は、心拍間隔と同じで約1秒前後で一定ではない。
または、制御装置20Bは、第2実施形態と同様に複数の視聴者の心拍に基づいて生成した視覚効果画像を全ての視聴者に提供する。これにより、本実施形態では、生体情報として心拍を用いることで、第2実施形態と同様の効果を得ることができる。
第1実施形態、第2実施形態、第3実施形態では、視聴者がVRHMDを装着する例を説明したが、これに限らない。視聴者は、例えばスクリーンや実際にライブ会場にいてライブを実際に見るようにしてもよい。また、視聴者は、これら特記した会場ではなく『ネットワークを介して自宅のPCやスマートデバイスで視聴している視聴者』であってもよい。
ライブ演出システムの構成は、第3実施形態のライブ演出システム1B(図22)と同様である。以下の例において、生体情報測定部50は、脳波計である。表示装置60は、例えばライブ映像が配信される会場に設置されているスクリーンである。また、生体情報処理部202Bと脳波処理部202(図2)(または脳波処理部202A(図17))と同様の処理を行い、視覚効果処理部204Bは、視覚効果処理部204と同様の処理を行う。なお、表示装置60は、少なくとも1つあればよい。
第1実施例では、ライブ会場が1つの例を説明したが、ライブ会場は複数であってもよい。この場合、例えば、表示装置60aが第1のライブ会場に設置され、表示装置60bが第2のライブ会場に設置され、表示装置60cが第3のライブ会場に設置される。制御装置20Bは、第1実施形態と同様に、複数の視聴者毎に視覚効果画像を生成して全ての視聴者に提供してもよい。または、制御装置20Bは、第2実施形態と同様に、複数のライブ会場にいる全ての視聴者の生体情報に基づいて視覚効果画像を生成して全ての視聴者に提供してもよい。あるいは、制御装置20Bは、ライブ会場毎に処理するようにしてもよい。
制御装置20Bは、第1のライブ会場の視聴者それぞれの脳波を取得し、取得した脳波のβ/α比に平均値を算出する。制御装置20Bは、算出したβ/α比に平均値に基づいて第1のライブ会場に対する視覚効果画像を生成する。同様に、制御装置20Bは、第2のライブ会場から取得した脳波のβ/α比に平均値を算出し、算出したβ/α比に平均値に基づいて第2のライブ会場に対する視覚効果画像を生成する。制御装置20Bは、第3のライブ会場から取得した脳波のβ/α比に平均値を算出し、算出したβ/α比に平均値に基づいて第3のライブ会場に対する視覚効果画像を生成する。
ライブ会場が1つであっても、1つの会場を複数のエリアに分けて処理を行うようにしてもよい。例えば、来場会場がアリーナクラスの場合もある。このような場合、制御装置20Bは、アリーナ席のエリア(第1エリア)、1階席のエリア(第2エリア)、2階席のエリア(第3エリア)等にエリアを分割するようにしてもよい。
制御装置20Bは、第1実施形態と同様に、この3つのエリアにいる視聴者毎に視覚効果画像を生成して全ての視聴者に提供してもよい。または、制御装置20Bは、第2実施形態と同様に、複数のエリアにいる全ての視聴者の生体情報に基づいて視覚効果画像を生成して全ての視聴者に提供してもよい。あるいは、制御装置20Bは、エリア毎に処理するようにしてもよい。
第1実施例、第2実施例、および第3実施例では、ライブ映像をライブ会場に配信する例を説明したが、これに限らない。コンサート会場に、上述した第1実施形態、第2実施形態、および第3実施形態を適用してもよい。
また、第4実施例では、コンサート会場をエリアに分けた場合、エリア毎に異なる視覚効果画像を提供することができる。これにより、第4実施例では、エリア毎に一体感を生み出すことが出来、かつエリア毎に発生する視覚効果画像によって盛り上がりを競うことができる。
上述した実施形態、実施例では、視聴者全てに生体情報測定部50を装着する例を説明したが、これに限らない。例えば、視聴者の中から特定の人のみが生体情報測定部50を装着するようにしてもよい。特定の人は、演出を行う人でもよく、またはコンサートの進行に影響を与える親衛隊的な人であってもよい。
上述した実施形態、実施例では、視聴者に生体情報測定部50を装着する例を説明したが、演者が装着するようにしてもよい。
この場合、制御装置20Bは、演者が装着する生体情報測定部50の生体情報に基づいて視覚効果画像を生成し、観客が装着する生体情報測定部50の生体情報に基づいて視覚効果画像を生成するようにしてもよい。なお、演者が装着する生体情報測定部50は、ジェスチャーセンサを含む。
なお、上述した実施形態、実施例では、生体情報に基づいて視覚効果画像を生成して、生成した視覚効果画像を視聴者や観客に提供する例を説明したが、これに限らない。
制御装置20(または20A、20B)は、生体情報に基づいて演出効果を生成し、生成した演出効果を視聴者や観客に提供するようにしてもよい。演出効果は、例えば、音響信号、匂い、振動、および光(ライティング)、拡張現実(AR)や複合現実(MR)による演出効果のうちの少なくとも1つである。
第1実施形態で説明したライブ演出システムの実装例を説明する。
図24は、第1実施形態のライブ演出システムの実装例を示す図である。図24に示すようにライブ演出システム1Cは、複数の脳波計10(生体情報測定部)、複数の第1制御装置70、複数のVRHMD30、複数の第2制御装置80、およびサーバ90を備える。視聴者毎に、脳波計10と第1制御装置と第2制御装置とVRHMD30を備える。
第2制御装置80は、映像の再生と並行して、第1制御装置70から受信したβ/α比をサーバ90に送信する。
サーバ90は、視聴者毎のβ/α比を記憶部92に記録する。
なお、上述した各装置の構成と処理は一例であり、これに限らない。第1制御装置70と第2制御装置80とサーバ90とは、図2に示したように1つの装置であってもよい。または、第1制御装置70と第2制御装置80が1つの装置であってもよい。あるいは、第2制御装置80とサーバ90とが1つの装置であってもよい。第2制御装置80とサーバ90とが1つの装置の場合、この装置が複数の第1制御装置70からのβ/α比を受信して処理する。
第2実施形態で説明したライブ演出システムの実装例を説明する。
図25は、第2実施形態のライブ演出システムの実装例である。図25に示すようにライブ演出システム1Cは、複数の脳波計10、複数の第1制御装置70、複数のVRHMD30、複数の第2制御装置80D、およびサーバ90Dを備える。視聴者毎に、脳波計10と第1制御装置と第2制御装置とVRHMD30を備える。なお、図24に示したライブ演出システム1Cと同様の機能を有する構成要素には同じ符号を用いて、説明を省略する。
サーバ90Dの仮想ライブ部91Dは、視覚効果生成情報を受信すると、視覚効果画像を再生し、視覚効果生成決定情報を第2制御装置80Dの仮想ライブ部82Dに送信する。
第2制御装置80Dの仮想ライブ部82Dは、視覚効果生成決定情報を受信すると、視覚効果画像を再生する。第2制御装置80Dは、映像をVRHMD30上で再生する。
なお、上述した各装置の構成と処理は一例であり、これに限らない。第1制御装置70と第2制御装置80Dとサーバ90Dとは、図17に示したように1つの装置であってもよい。または、第1制御装置70と第2制御装置80Dが1つの装置であってもよい。あるいは、第2制御装置80Dとサーバ90Dとが1つの装置であってもよい。第2制御装置80Dとサーバ90Dとが1つの装置の場合、この装置が複数の第1制御装置70からのβ/α比を受信して処理する。
Claims (11)
- n個(nは2以上の整数)の生体情報測定部であって、ライブに参加するn人それぞれが装着し、生体情報を測定する生体情報測定部と、
前記n個の前記生体情報測定部それぞれが測定した前記生体情報と閾値とを比較した結果に基づいて演出効果を生成し、生成した前記演出効果を、前記n人に共有させる制御装置と、
を備えるライブ演出システム。 - 前記制御装置は、前記n個の前記生体情報測定部それぞれが測定した前記生体情報毎に、前記生体情報と前記閾値とを比較した結果に基づいて前記演出効果を生成する、請求項1に記載のライブ演出システム。
- 前記制御装置は、前記n個の前記生体情報測定部それぞれが測定した前記生体情報の平均値と閾値とを比較した結果に基づいて前記演出効果を生成する、請求項1に記載のライブ演出システム。
- 前記制御装置は、前記n個の前記生体情報測定部それぞれが測定した前記生体情報の最大値と閾値とを比較した結果に基づいて前記演出効果を生成する、請求項1に記載のライブ演出システム。
- 前記制御装置は、前記n個の前記生体情報測定部それぞれが測定した前記生体情報のうち上位m(mは2以上かつn以下の整数)個の平均値と閾値とを比較した結果に基づいて前記演出効果を生成する、請求項1に記載のライブ演出システム。
- 前記制御装置は、前記n個の生体情報測定部を装着した人がいる領域を複数の領域に分け、複数の前記領域毎に前記演出効果を生成する、請求項1から請求項5のいずれか1項に記載のライブ演出システム。
- 前記閾値は複数であり、
前記生体情報に基づく値が第1の値以上且つ第2の値未満である第1の閾値の範囲の場合に第1の前記演出効果を生成し、前記生体情報に基づく値が第2の値以上である第2の閾値以上の場合に第2の前記演出効果を生成する、請求項1から請求項6のいずれか1項に記載のライブ演出システム。 - 前記生体情報は、脳波であり、
前記制御装置は、前記脳波から少なくともα波成分とβ波成分とを抽出し、前記β波成分を前記α波成分で除算してβ/α比を算出し、算出した前記β/α比と前記閾値とを比較した結果に基づいて前記演出効果を生成する、請求項1から請求項7のいずれか1項に記載のライブ演出システム。 - 前記生体情報は、心拍であり、
前記制御装置は、現時点より前の時点で計測した心拍数と、前記現時点で測定した心拍数との増加分が閾値以上に上昇したときに前記演出効果を生成する、請求項1から請求項7のいずれか1項に記載のライブ演出システム。 - 前記演出効果は、画像、映像、音響信号、匂い、振動、光のうちのすくなくとも1つである、請求項1から請求項9のいずれか1項に記載のライブ演出システム。
- ライブに参加するn人(nは2以上の整数)それぞれが装着されるn個の生体情報測定部が、生体情報を測定するステップと、
制御装置が、前記n個の前記生体情報測定部それぞれが測定した前記生体情報と閾値とを比較した結果に基づいて演出効果を生成し、生成した前記演出効果を、前記ライブに参加する複数の人に共有させるステップと、
を含むライブ演出方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018127833A JP7216394B2 (ja) | 2018-07-04 | 2018-07-04 | ライブ演出システム、およびライブ演出方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018127833A JP7216394B2 (ja) | 2018-07-04 | 2018-07-04 | ライブ演出システム、およびライブ演出方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020009027A true JP2020009027A (ja) | 2020-01-16 |
JP7216394B2 JP7216394B2 (ja) | 2023-02-01 |
Family
ID=69151617
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018127833A Active JP7216394B2 (ja) | 2018-07-04 | 2018-07-04 | ライブ演出システム、およびライブ演出方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7216394B2 (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022059784A1 (ja) * | 2020-09-18 | 2022-03-24 | 株式会社Jvcケンウッド | 情報提供装置、情報提供方法及びプログラム |
WO2022190917A1 (ja) * | 2021-03-09 | 2022-09-15 | ソニーグループ株式会社 | 情報処理装置、情報処理端末、情報処理方法、およびプログラム |
WO2022230137A1 (ja) * | 2021-04-28 | 2022-11-03 | 株式会社I’mbesideyou | 動画像分析システム |
WO2023037606A1 (ja) * | 2021-09-07 | 2023-03-16 | ソニーグループ株式会社 | 情報処理装置および方法、並びにプログラム |
WO2023042436A1 (ja) * | 2021-09-16 | 2023-03-23 | ソニーグループ株式会社 | 情報処理装置および方法、並びにプログラム |
KR20240117576A (ko) | 2021-12-27 | 2024-08-01 | 알프스 알파인 가부시키가이샤 | 배포 시스템, 배포 방법 및 프로그램 |
JP7543356B2 (ja) | 2022-09-21 | 2024-09-02 | 株式会社コロプラ | プログラムおよび情報処理システム |
JP7567311B2 (ja) | 2020-09-18 | 2024-10-16 | 株式会社Jvcケンウッド | 情報提供装置、情報提供方法及びプログラム |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005058449A (ja) * | 2003-08-12 | 2005-03-10 | Sony Corp | 感情の可視化装置および感情の可視化方法、感情の可視化出力物 |
JP2005303722A (ja) * | 2004-04-13 | 2005-10-27 | Nippon Telegr & Teleph Corp <Ntt> | 一体感を伝える通信システム |
JP2007121798A (ja) * | 2005-10-31 | 2007-05-17 | Denso Corp | 車両用表示装置 |
JP2011182109A (ja) * | 2010-02-26 | 2011-09-15 | Sony Corp | コンテンツ再生装置 |
JP2012113589A (ja) * | 2010-11-26 | 2012-06-14 | Nec Corp | 行動促進装置、行動促進方法およびプログラム |
WO2016009865A1 (ja) * | 2014-07-18 | 2016-01-21 | ソニー株式会社 | 情報処理装置及び方法、表示制御装置及び方法、再生装置及び方法、プログラム、並びに情報処理システム |
US20160027209A1 (en) * | 2014-07-25 | 2016-01-28 | mindHIVE Inc. | Real-time immersive mediated reality experiences |
JP2016051675A (ja) * | 2014-09-02 | 2016-04-11 | カシオ計算機株式会社 | 演出制御システム、通信端末および演出制御装置 |
WO2016088566A1 (ja) * | 2014-12-03 | 2016-06-09 | ソニー株式会社 | 情報処理装置および情報処理方法、並びにプログラム |
JP2017219919A (ja) * | 2016-06-03 | 2017-12-14 | エスディーテック株式会社 | イベント盛況度解析システム、サーバ、生体情報取得装置、イベント盛況度解析方法及びプログラム |
JP2018094326A (ja) * | 2016-12-16 | 2018-06-21 | 株式会社バンダイナムコエンターテインメント | イベント制御システム、イベント通知システム及びプログラム |
-
2018
- 2018-07-04 JP JP2018127833A patent/JP7216394B2/ja active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005058449A (ja) * | 2003-08-12 | 2005-03-10 | Sony Corp | 感情の可視化装置および感情の可視化方法、感情の可視化出力物 |
JP2005303722A (ja) * | 2004-04-13 | 2005-10-27 | Nippon Telegr & Teleph Corp <Ntt> | 一体感を伝える通信システム |
JP2007121798A (ja) * | 2005-10-31 | 2007-05-17 | Denso Corp | 車両用表示装置 |
JP2011182109A (ja) * | 2010-02-26 | 2011-09-15 | Sony Corp | コンテンツ再生装置 |
JP2012113589A (ja) * | 2010-11-26 | 2012-06-14 | Nec Corp | 行動促進装置、行動促進方法およびプログラム |
WO2016009865A1 (ja) * | 2014-07-18 | 2016-01-21 | ソニー株式会社 | 情報処理装置及び方法、表示制御装置及び方法、再生装置及び方法、プログラム、並びに情報処理システム |
US20160027209A1 (en) * | 2014-07-25 | 2016-01-28 | mindHIVE Inc. | Real-time immersive mediated reality experiences |
JP2016051675A (ja) * | 2014-09-02 | 2016-04-11 | カシオ計算機株式会社 | 演出制御システム、通信端末および演出制御装置 |
WO2016088566A1 (ja) * | 2014-12-03 | 2016-06-09 | ソニー株式会社 | 情報処理装置および情報処理方法、並びにプログラム |
JP2017219919A (ja) * | 2016-06-03 | 2017-12-14 | エスディーテック株式会社 | イベント盛況度解析システム、サーバ、生体情報取得装置、イベント盛況度解析方法及びプログラム |
JP2018094326A (ja) * | 2016-12-16 | 2018-06-21 | 株式会社バンダイナムコエンターテインメント | イベント制御システム、イベント通知システム及びプログラム |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022059784A1 (ja) * | 2020-09-18 | 2022-03-24 | 株式会社Jvcケンウッド | 情報提供装置、情報提供方法及びプログラム |
JP7567311B2 (ja) | 2020-09-18 | 2024-10-16 | 株式会社Jvcケンウッド | 情報提供装置、情報提供方法及びプログラム |
WO2022190917A1 (ja) * | 2021-03-09 | 2022-09-15 | ソニーグループ株式会社 | 情報処理装置、情報処理端末、情報処理方法、およびプログラム |
WO2022230137A1 (ja) * | 2021-04-28 | 2022-11-03 | 株式会社I’mbesideyou | 動画像分析システム |
WO2023037606A1 (ja) * | 2021-09-07 | 2023-03-16 | ソニーグループ株式会社 | 情報処理装置および方法、並びにプログラム |
WO2023042436A1 (ja) * | 2021-09-16 | 2023-03-23 | ソニーグループ株式会社 | 情報処理装置および方法、並びにプログラム |
KR20240117576A (ko) | 2021-12-27 | 2024-08-01 | 알프스 알파인 가부시키가이샤 | 배포 시스템, 배포 방법 및 프로그램 |
JP7543356B2 (ja) | 2022-09-21 | 2024-09-02 | 株式会社コロプラ | プログラムおよび情報処理システム |
Also Published As
Publication number | Publication date |
---|---|
JP7216394B2 (ja) | 2023-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7216394B2 (ja) | ライブ演出システム、およびライブ演出方法 | |
JP6923245B2 (ja) | 観衆ベースのハプティック | |
Van Dyck et al. | The impact of the bass drum on human dance movement | |
Stienstra et al. | Embodying complexity through movement sonification: case study on empowering the speed-skater | |
CN111936036A (zh) | 使用生物特征传感器数据检测神经状态来指导现场娱乐 | |
Chen et al. | Exploring the design space for multi-sensory heart rate feedback in immersive virtual reality | |
Kobayashi et al. | The effects of spatialized sounds on the sense of presence in auditory virtual environments: a psychological and physiological study | |
Matsuda et al. | Enhancing virtual walking sensation using self-avatar in first-person perspective and foot vibrations | |
Kim et al. | A tactile glove design and authoring system for immersive multimedia | |
Yan et al. | Enhancing audience engagement in performing arts through an adaptive virtual environment with a brain-computer interface | |
Munoz-Gonzalez et al. | A multiplayer vr live concert with information exchange through feedback modulated by eeg signals | |
Robinson et al. | All the feels: Introducing biometric data to online gameplay streams | |
Mullen et al. | MindMusic: playful and social installations at the interface between music and the brain | |
Grandchamp et al. | The brainarium: an interactive immersive tool for brain education, art, and neurotherapy | |
Garner et al. | Applications of virtual reality | |
Tennent et al. | The machine in the ghost: augmenting broadcasting with biodata | |
Yan et al. | Exploring audience response in performing arts with a brain-adaptive digital performance system | |
Burger et al. | See how it feels to move: relationships between movement characteristics and perception of emotions in dance | |
Zioga et al. | Enheduanna–A Manifesto of Falling: first demonstration of a live brain-computer cinema performance with multi-brain BCI interaction for one performer and two audience members | |
WO2022190919A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
US20230009322A1 (en) | Information processing device, information processing terminal, and program | |
May et al. | Designing Access in Sound Art Exhibitions: Centering Deaf Experiences in Musical Thinking | |
US20230033892A1 (en) | Information processing device and information processing terminal | |
Park et al. | Research Trends in Virtual Reality Music Concert Technology: A Systematic Literature Review | |
Meng et al. | Towards enhancing a recorded concert experience in virtual reality by visualizing the physiological data of the audience |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180726 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210630 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220407 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220412 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220609 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220705 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220829 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221220 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230113 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7216394 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |