JPWO2019013055A1 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JPWO2019013055A1
JPWO2019013055A1 JP2019529075A JP2019529075A JPWO2019013055A1 JP WO2019013055 A1 JPWO2019013055 A1 JP WO2019013055A1 JP 2019529075 A JP2019529075 A JP 2019529075A JP 2019529075 A JP2019529075 A JP 2019529075A JP WO2019013055 A1 JPWO2019013055 A1 JP WO2019013055A1
Authority
JP
Japan
Prior art keywords
user
information processing
timing
sound
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019529075A
Other languages
English (en)
Other versions
JP7140120B2 (ja
Inventor
諒 横山
諒 横山
伊藤 鎮
鎮 伊藤
山野 郁男
郁男 山野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2019013055A1 publication Critical patent/JPWO2019013055A1/ja
Application granted granted Critical
Publication of JP7140120B2 publication Critical patent/JP7140120B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R27/00Public address systems
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63GMERRY-GO-ROUNDS; SWINGS; ROCKING-HORSES; CHUTES; SWITCHBACKS; SIMILAR DEVICES FOR PUBLIC AMUSEMENT
    • A63G31/00Amusement arrangements
    • A63G31/16Amusement arrangements creating illusions of travel
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63JDEVICES FOR THEATRES, CIRCUSES, OR THE LIKE; CONJURING APPLIANCES OR THE LIKE
    • A63J25/00Equipment specially adapted for cinemas
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63JDEVICES FOR THEATRES, CIRCUSES, OR THE LIKE; CONJURING APPLIANCES OR THE LIKE
    • A63J5/00Auxiliaries for producing special effects on stages, or in circuses or arenas
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/165Management of the audio stream, e.g. setting of volume, audio stream path
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/02Casings; Cabinets ; Supports therefor; Mountings therein
    • H04R1/028Casings; Cabinets ; Supports therefor; Mountings therein associated with devices performing functions other than acoustics, e.g. electric candles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/302Electronic adaptation of stereophonic sound system to listener position or orientation
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63JDEVICES FOR THEATRES, CIRCUSES, OR THE LIKE; CONJURING APPLIANCES OR THE LIKE
    • A63J5/00Auxiliaries for producing special effects on stages, or in circuses or arenas
    • A63J2005/001Auxiliaries for producing special effects on stages, or in circuses or arenas enhancing the performance by involving senses complementary to sight or hearing
    • A63J2005/003Tactile sense
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B06GENERATING OR TRANSMITTING MECHANICAL VIBRATIONS IN GENERAL
    • B06BMETHODS OR APPARATUS FOR GENERATING OR TRANSMITTING MECHANICAL VIBRATIONS OF INFRASONIC, SONIC, OR ULTRASONIC FREQUENCY, e.g. FOR PERFORMING MECHANICAL WORK IN GENERAL
    • B06B1/00Methods or apparatus for generating mechanical vibrations of infrasonic, sonic, or ultrasonic frequency
    • B06B1/02Methods or apparatus for generating mechanical vibrations of infrasonic, sonic, or ultrasonic frequency making use of electrical energy
    • B06B1/04Methods or apparatus for generating mechanical vibrations of infrasonic, sonic, or ultrasonic frequency making use of electrical energy operating with electromagnetism
    • B06B1/045Methods or apparatus for generating mechanical vibrations of infrasonic, sonic, or ultrasonic frequency making use of electrical energy operating with electromagnetism using vibrating magnet, armature or coil system
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2201/00Details of transducers, loudspeakers or microphones covered by H04R1/00 but not provided for in any of its subgroups
    • H04R2201/02Details casings, cabinets or mounting therein for transducers covered by H04R1/02 but not provided for in any of its subgroups
    • H04R2201/023Transducers incorporated in garment, rucksacks or the like
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2400/00Loudspeakers
    • H04R2400/03Transducers capable of generating both sound as well as tactile vibration, e.g. as used in cellular phones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2410/00Microphones
    • H04R2410/05Noise reduction with a separate noise microphone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups
    • H04R2430/01Aspects of volume control, not necessarily automatic, in sound systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/13Aspects of volume control, not necessarily automatic, in stereophonic sound systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Circuit For Audible Band Transducer (AREA)

Abstract

【課題】音がユーザに知覚されるまでに発生する遅延を適切に考慮して、当該ユーザに対して感覚を提示することを可能にする。【解決手段】音響提示部から音が出力される第1のタイミングと、第1のユーザが前記音を知覚する第2のタイミングとの差異に基づいて、前記第1のユーザに装着された感覚提示部による前記第1のユーザへの感覚の提示に用いられる第1のデータを生成する生成部を備える、情報処理装置が提供される。【選択図】図8

Description

本開示は、情報処理装置、情報処理方法、およびプログラムに関する。
従来、例えば以下の特許文献1のように触覚刺激などをユーザに提示するための技術が各種提案されている。
特開2018−60313号公報
ここで、音響提示部(スピーカなど)から出力される音が、触覚刺激などの様々な感覚とともにユーザに提示される場合がある。例えば、観劇や映画鑑賞の際などに、音響提示部から出力される音と、ユーザに装着された感覚提示部(アクチュエータなどを備えたウェア型の装置など)から出力される触覚刺激がともにユーザに提示される場合などが挙げられる。このとき、特許文献1の技術などによっては、音響提示部から出力される音がユーザに知覚されるまでに発生する遅延を適切に考慮して、触覚刺激などの感覚の提示が行われていなかった。したがって、音がユーザに知覚されるタイミングと、触覚刺激などの感覚がユーザに知覚されるタイミングにずれが生じていた。
そこで、本開示では、音がユーザに知覚されるまでに発生する遅延を適切に考慮して、当該ユーザに対して感覚を提示することが可能な新規かつ改良された情報処理装置、情報処理方法、およびプログラムを提案する。
本開示によれば、音響提示部から音が出力される第1のタイミングと、第1のユーザが前記音を知覚する第2のタイミングとの差異に基づいて、前記第1のユーザに装着された感覚提示部による前記第1のユーザへの感覚の提示に用いられる第1のデータを生成する生成部を備える、情報処理装置が提供される。
また、本開示によれば、音響提示部から音が出力される第1のタイミングと、第1のユーザが前記音を知覚する第2のタイミングとの差異に基づいて、前記第1のユーザに装着された感覚提示部による前記第1のユーザへの感覚の提示に用いられる第1のデータを生成することを有する、コンピュータにより実行される情報処理方法が提供される。
また、本開示によれば、音響提示部から音が出力される第1のタイミングと、第1のユーザが前記音を知覚する第2のタイミングとの差異に基づいて、前記第1のユーザに装着された感覚提示部による前記第1のユーザへの感覚の提示に用いられる第1のデータを生成すること、をコンピュータに実現させるためのプログラムが提供される。
以上説明したように本開示によれば、音がユーザに知覚されるまでに発生する遅延を適切に考慮して、当該ユーザに対して感覚を提示することが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
感覚提示デバイス100の具体例を示す図である。 感覚提示デバイス100の具体例を示す図である。 本開示に係る情報処理システムの構成例を示す図である。 発生する音響遅延について説明する図である。 発生する音響遅延について説明する図である。 映像、音、感覚それぞれが出力されるタイミング、知覚されるタイミングの態様について説明する図である。 感覚の提示を音響遅延量だけ遅らせる態様について説明する図である。 情報処理装置200の機能構成例を示すブロック図である。 感覚提示デバイス100の機能構成例を示すブロック図である。 音響遅延量に基づく感覚の提示タイミングの調整処理の流れの例を示すフローチャートである。 進行通知機能の態様について説明する図である。 進行通知機能の態様について説明する図である。 進行通知機能の態様について説明する図である。 進行通知機能の態様について説明する図である。 進行通知機能の態様について説明する図である。 進行通知処理の流れの例を示すフローチャートである。 光による感覚提示通知機能について説明する図である。 光による感覚提示通知処理の流れの例を示すフローチャートである。 アウターベストについて説明する図である。 インナーベストについて説明する図である。 触覚データ提示部121の固定態様について説明する図である。 追加の触覚データ提示部121の装着態様について説明する図である。 ユーザが感覚提示デバイス100を装着した状態で座席に座っている様子を示す図である。 操作パネル180について説明する図である。 情報処理装置200のハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.情報処理システムの概要
2.装置の機能構成例
3.装置の処理フロー例
4.進行通知機能
5.光による感覚提示通知機能
6.ハードウェア構成例
7.備考
<1.情報処理システムの概要>
まず、本開示に係る情報処理システムの概要について説明する。
本開示に係る情報処理システムは、ユーザに様々な感覚を提示するものである。より具体的に説明すると、図1に示すように、情報処理システムは、ユーザに装着される感覚提示デバイス100を備えており、当該感覚提示デバイス100を介してユーザに対して様々な感覚を提示する。
図1に示すように、感覚提示デバイス100は、内部に複数の触覚データ提示部121(図中では、触覚データ提示部121a〜触覚データ提示部121h)を備える。例えば、感覚提示デバイス100の内部において、ユーザの正面側に複数個(例えば、図1に示すように6個(触覚データ提示部121a〜触覚データ提示部121f))、肩部に複数個(例えば、図1に示すように各肩に1個ずつ(触覚データ提示部121gおよび触覚データ提示部121h))、および背面側に複数個(図示なし。例えば、正面側と同様に6個)触覚データ提示部121が配置され得る。一例として、正面側に配置されている個々の触覚データ提示部121と、背面側に配置されている個々の触覚データ提示部121とが向かい合うような位置関係で、個々の触覚データ提示部121は配置され得る。
感覚提示デバイス100は、1以上の触覚データ提示部121を備え、これらの出力の大きさやタイミング、または出力させる触覚データ提示部121の組合せを制御することによって様々な触覚刺激をユーザに提示することができる。例えば、感覚提示デバイス100は、ユーザが切られる感覚、ユーザが何らかの物体に当たる感覚、ユーザが押さえつけられる感覚などを提示することができる。なお、図1では、感覚提示デバイス100が袖なしの服(ベスト)である例を示しているが、かかる例に限定されず、感覚提示デバイス100は、袖やズボンも有することで体の各所に感覚を提示できてもよい。また、感覚提示デバイス100に備えられる触覚データ提示部121の数は特に限定されない。
また、図1に示すようにユーザの耳付近に備えられるマイクなどの集音部170(図中では、集音部170aおよび集音部170b)が併せて備えられる。集音部170は、所定のスピーカから発せられた音がユーザに知覚されるまでに発生する遅延(以降、「音響遅延」と呼称する場合もある)を算出する際に使用される装置である。詳細については後述する。
また、図2に示すように、感覚提示デバイス100は、音を提示する音響データ提示部131(図中では、音響データ提示部131aおよび音響データ提示部131b)を備えていてもよい。例えば、感覚提示デバイス100には、ユーザの肩部に複数個(例えば、図2に示すように各肩に1個ずつ)音響データ提示部131が配置され得る。
感覚提示デバイス100は、1以上の音響データ提示部131を備え、これらの出力の大きさやタイミングなどを制御することによって様々な音響効果をユーザに対して提示することができる。例えば、感覚提示デバイス100は、音像を空間に定位させることができたり、別のスピーカからBGMが提示されている状況においてユーザだけに効果音(例えば、ユーザが切られた時の効果音や、ユーザが何らかの物体に当たった時の効果音など)を提示できたりする。なお、感覚提示デバイス100に備えられる音響データ提示部131の数は特に限定されない。
ここで、図1および図2の例では、感覚提示デバイス100によってユーザに提示される感覚が、触覚(触覚データ提示部121によって提示される触覚刺激)または聴覚(音響データ提示部131によって提示される音)を含む旨を示したが、ユーザに提示される感覚はこれらに限定されない。より具体的には、感覚提示デバイス100は、視覚、嗅覚、または味覚を提示可能な機構を備えていてもよい。例えば、感覚提示デバイス100は、透過型ヘッドマウントディスプレイなどのように視覚(映像)を提示できてもよいし、芳香提示装置などのように嗅覚(匂い)を提示できてもよいし、電気味覚提示装置などのように味覚(味)を提示できてもよい。
続いて、図3を参照して、感覚提示デバイス100を含むシステム全体の構成例について説明する。本開示に係る情報処理システムは、例えば、屋内(例えば、劇場、映画館、コンサートホール、ライブハウス、またはテーマパーク内の屋内遊戯施設など)、屋外(例えば、屋外にステージが設けられた劇場、コンサート会場やライブ会場、屋外にスクリーンが設けられた映画上映会場、またはテーマパーク内の屋外遊戯施設など)を問わず利用され得るシステムである。そして、図3に示すように、本開示に係る情報処理システムは、感覚提示デバイス100と、情報処理装置200と、コントローラ260と、オーディオIF270と、アンプ280と、フロントスピーカ290と、プロジェクタ300と、スクリーン310と、ライト320と、煙発生器330と、風発生器340と、を備える(なお、図3に示す情報処理システムは、屋内で利用される場合を想定したものである)。
ユーザは、感覚提示デバイス100を装着し、スクリーン310やステージを視認可能な態様で座席に座る。情報処理装置200は、情報処理システム全体を統括的に制御する装置である。より具体的には、情報処理装置200は、感覚提示デバイス100を介してユーザに提示される感覚、スクリーン310に投影される映像、フロントスピーカ290から発せられる音、ライト320から照射される光、煙発生器330から発せられる煙、風発生器340から発せられる風などを統括的に制御する。情報処理装置200の機能については後段にて詳述する。コントローラ260は、操作者が情報処理装置200に対して入力を行う際に使用される装置である。
オーディオIF270は、感覚提示デバイス100を介する音の提示に使用される音響データのインタフェースとして機能する装置である。アンプ280は、オーディオIF270に入力された音響データの増幅、調整または入力の切り替えなどを行う装置である。フロントスピーカ290は、会場全体に対して(ユーザ(第1のユーザ。以降、第1のユーザを単に「ユーザ」と呼称する場合がある)が複数人存在する場合には、全てのユーザに対して)音を提示する装置である。
プロジェクタ300は、スクリーン310に対して映像を投影する装置であり、スクリーン310は、映像が投影される面(例えば平面や曲面)である。ライト320は光を、煙発生器330は煙を、風発生器340は風を、それぞれ提示する装置である。
以上、本開示に係る情報処理システムの構成例について説明した。なお、図3を参照して説明した上記の構成はあくまで一例であり、本開示に係る情報処理システムの構成は係る例に限定されない。例えば、情報処理システムを構成する各装置の台数は特に限定されない。本開示に係る情報処理システムの構成は、仕様や運用に応じて柔軟に変形可能である。
ここで、フロントスピーカ290とユーザの離隔距離が離れるほど、フロントスピーカ290から出力された音がユーザに知覚されるまでに発生する音響遅延が大きくなる。したがって、フロントスピーカ290による音の提示と、感覚提示デバイス100からの感覚の提示が略同一のタイミングで行われると、音がユーザに知覚されるタイミングが、感覚が知覚されるタイミングに比べて遅くなる。
例えば、図4のAに示すように、フロントスピーカ290から17[m]離れてユーザ(図中では、「user1」と記載)が位置している場合、音速を約340[m/s]とすると、約50[ms]の音響遅延が発生する。また、ユーザが複数人存在する場合において、図4のAに示すようにフロントスピーカ290から24[m]離れて位置しているユーザ(図中では、「user2」と記載)については約71[ms]の音響遅延が発生する。このように、各ユーザによっても、フロントスピーカ290に対する各人の位置関係に応じて音響遅延の大きさ(以降、「音響遅延量」と呼称する場合もある)が異なる。
一方で、例えば、触覚データ提示部121によって提示される触覚刺激は、音と違い空気などの媒体を伝搬しないため(図4のBには、触覚データ提示部121がユーザの体に密着している様子が示されている)、提示されてからユーザに知覚されるまでの遅延がほとんど生じない。感覚提示デバイス100が触覚以外の感覚を提示可能な場合においても、音響データ提示部131や芳香提示装置などのように空気を媒体として音や匂いを提示する装置以外については、遅延がほとんど生じないと言える。また、音響データ提示部131や芳香提示装置などがユーザの耳や鼻などに極めて近い位置に配置される場合には遅延が無いものとして扱われてもよい。これによって、上記のとおり、フロントスピーカ290から提示された音がユーザに知覚されるタイミングは、感覚がユーザに知覚されるタイミングに比べて遅くなる。なお、図5のBには、音響データ提示部131から提示された音がユーザに知覚されるまでに約0.6[ms]の音響遅延が生じる旨を示しているところ、当該音響遅延を考慮しても、フロントスピーカ290から提示された音の音響遅延量は、音響データ提示部131から提示された音の音響遅延量よりも相当程度大きい。
本件の開示者は、上記事情に鑑みて本開示に係る技術を創作するに至った。本開示に係る情報処理装置200は、音響提示部(フロントスピーカ290)から音が出力される第1のタイミングと、第1のユーザ(観客)が音を知覚する第2のタイミングとの差異(音響遅延量)に基づいて、第1のユーザに装着された感覚提示部(感覚提示デバイス100)による第1のユーザへの感覚の提示に用いられる第1のデータを生成する。
そして、情報処理装置200は、第1のタイミングと第2のタイミングとの差異(音響遅延量)に基づいて決まる第3のタイミングに第1のユーザに対して感覚を提示する。例えば、情報処理装置200は、第1のユーザが音を知覚する第2のタイミングと略同一のタイミングに第1のユーザに対して感覚を提示する(換言すると、この場合、第3のタイミングは第2のタイミングと略同一である)。これによって、第1のユーザは、フロントスピーカ290から提示された音と感覚を略同一のタイミングで知覚することができるため違和感を受けにくい。なお、第3のタイミングは、第1のユーザが音を知覚する第2のタイミングと略同一でなくてもよい。すなわち、情報処理装置200は、第1のユーザが音を知覚する第2のタイミングと、感覚を知覚する第3のタイミングを意図的にずらしてもよい。このように、情報処理装置200は、第1のユーザが感覚を知覚する第3のタイミングを、第1のユーザが音を知覚する第2のタイミングに対して柔軟に制御することができる。
当該機能の実現方法についてより具体的に説明すると、情報処理装置200は、フロントスピーカ290によって音が出力されるタイミングを第1のタイミングとして取得する。例えば、第1のタイミングは、予めコンテンツに組み込まれていてもよい(プログラムされていてもよい)し、コントローラ260を介した操作者による入力によって決定されてもよいし、演者などの動作がセンシングされることによって決定されてもよい。
そして、情報処理装置200は、ユーザ(第1のユーザ)の耳付近に装着された集音部170(音検出部)によって、フロントスピーカ290から出力された音が検出されたタイミングを第2のタイミングとして取得する。なお、集音部170が耳穴の極めて近くに配置されている場合には、このように、集音部170による検出タイミングが第2のタイミングとして扱われてもよいところ、集音部170が耳穴から相当程度離れている場合(数十[cm]程度)には、情報処理装置200は、その離隔距離も考慮した上で第2のタイミングを算出してもよい。
その後、情報処理装置200は、第1のタイミングと第2のタイミングとの差異(音響遅延量)を算出する。そして、情報処理装置200は、当初フロントスピーカ290によって音が出力される第1のタイミングと同時に提示する予定だった感覚を、基本的には、第1のタイミングから音響遅延量だけ遅らせたタイミング(換言すると、第2のタイミングと略同一のタイミング)で提示する。なお、上記の「第1のタイミングと同時に提示する予定だった感覚」という記載はあくまで一例であり、感覚の提示タイミングが必ずしも事前に予定されていなくてもよい。
なお本書においては、主に、各ユーザが座席に座っており、各ユーザについての音響遅延量が変化しない場合を一例として説明するが、各ユーザについての音響遅延量は変化してもよい。例えば、ユーザまたはフロントスピーカ290の少なくともいずれか一方が移動することによって、各ユーザについての音響遅延量が変化してもよい。なお、各ユーザについての音響遅延量が変化しない場合には、情報処理装置200は、事前に(例えば、開演前などに)一度、各座席についての音響遅延量を測定することで上記機能を実現することができる。一方、各ユーザについての音響遅延量が変化する場合には、情報処理装置200は、随時、またはユーザやフロントスピーカ290が移動する度に音響遅延量を測定することで上記機能を実現することができる。
ここで、図6のA〜Cを一例として、プロジェクタ300からの映像、フロントスピーカ290からの音、感覚提示デバイス100からの感覚(図中では、触覚刺激)それぞれが出力されるタイミング、知覚されるタイミングの態様について説明する。なお、図6における「タイムコード」とは、ユーザに提供されるコンテンツの管理に使用される時間間隔であり、例えば、1秒間が24分割されたものなどを指す(なお、これに限定されない)。図6のAは、映像、音、触覚刺激の全てが略同一のタイミングに知覚されるように予めプログラムされた場合の例である。例えば、情報処理装置200が事前に一度、各座席についての音響遅延量を測定し、その音響遅延量をコンテンツに反映した場合などが図6のAの例に該当する。映像、音、触覚刺激の全ての知覚タイミングが略同一であるため、ユーザはほとんど違和感を受けることなく鑑賞(視聴)することができる。
図6のBは、映像が先に知覚され、その後音および触覚刺激が略同一のタイミングに知覚されるように予めプログラムされた場合の例である。図6には「映像」が提示される場合が示されているが、例えば映像ではなく演者による演技が行われる場合において、仮に演者の動作が、音および触覚刺激と完全に同一のタイミングに行われなかったとしても、図6のBのように、音および触覚刺激が略同一のタイミングに知覚されれば、ユーザは大きな違和感を受けない。
図6のCは、情報処理装置200が、音響遅延量に基づいて触覚刺激を提示するタイミングを制御する場合の例である。例えば、ユーザまたはフロントスピーカ290が移動することなどによって音響遅延量が変化する場合や、予め音響遅延量をコンテンツに反映することができない場合などにおいて、情報処理装置200が触覚刺激の提示の都度、そのタイミングを制御する場合などが図6のCの例に該当する。
図6のA〜Cに示すように、音および感覚がユーザに知覚されるタイミングが制御される(特に、略同一に調整される)ことが、本開示のポイントの一つである。なお、映像がユーザに知覚されるタイミングも併せて制御されてもよい(例えば、図6のAのように映像も音および感覚と略同一のタイミングで知覚されるように制御されてもよい)。例えば、プロジェクタ300およびスクリーン310ではなく各ユーザ専用のディスプレイ(例えば、遮蔽型ヘッドマウントディスプレイなど)が設けられた場合、情報処理装置200は、ユーザごとに映像、音、および感覚の提示タイミングを制御してもよい。
上記のとおり、情報処理装置200は、フロントスピーカ290によって音が出力される第1のタイミングと同時に提示する予定だった感覚を、基本的には、第1のタイミングから音響遅延量だけ遅らせたタイミング(換言すると、第2のタイミングと略同一のタイミング)で提示する。
ここで、図7を参照して、感覚の提示を音響遅延量だけ遅らせる態様のバリエーションについて説明する。図7には、音響データ提示部131による音の提示を音響遅延量だけ遅らせる態様のバリエーションが示されている。
より具体的に説明すると、図7のAには、情報処理装置200がユーザごとに別々のオーディオチャンネルを割り当て、先頭に音響遅延量に相当する無音区間が挿入された音響データ(第1のデータ)を生成する方法が示されている。そして、当該音響データがオーディオIF270およびアンプ280を介して感覚提示デバイス100に提供されることで、ユーザごとに音響データ提示部131による音の提示タイミングが制御される(換言すると、感覚の提示が第1のユーザごとに行われる)。なお、音響遅延量が互いに略同一とみなされる複数のユーザが存在する場合、情報処理装置200は、当該ユーザの集団ごとに上記の音響データを生成してもよい(換言すると、感覚の提示が第1のユーザの集団ごとに行われてもよい)。このように、情報処理装置200が統括的に各ユーザに提供される音響データを生成することによって、その他の装置(アンプ280や感覚提示デバイス100など)の機能を簡略化することが可能となるため、情報処理システム全体の実現コストを低減させることが可能となる。
図7のBには、情報処理装置200が全てのユーザに同一のオーディオチャンネルを割り当て、さらに、各ユーザに対応するアンプ280に遅延回路が設けられた上で、情報処理装置200が各遅延回路の遅延量を異なる値に設定する方法が示されている。例えば、情報処理装置200は、遅延回路のパラメータを変更することによってそれぞれの遅延量を制御する。この例においても、情報処理装置200は、ユーザの集団ごとに遅延回路の遅延量を制御してもよい。
図7のCには、情報処理装置200が全てのユーザに同一のオーディオチャンネルを割り当て、さらに、各ユーザが装着する感覚提示デバイス100に遅延回路が設けられた上で、情報処理装置200が各遅延回路の遅延量を異なる値に設定する方法が示されている。例えば図7のBと同様に、情報処理装置200は、遅延回路のパラメータを変更することによってそれぞれの遅延量を制御する。この例においても、情報処理装置200は、ユーザの集団ごとに遅延回路の遅延量を制御してもよい。
図7のBはAよりも、CはBおよびAよりも柔軟に音響遅延に対応することができると言える。例えば、図7のCの場合には、音響遅延量が刻々と変化する場合であっても、感覚の提示直前の音響遅延量に基づいて感覚の提示タイミングが制御され得る。換言すると、ユーザの体験上もっとも好ましい態様は図7のCであると言える。
図7では、音響データ提示部131によって音が提示される場合の例について説明したが、聴覚(音)以外の感覚が提示される場合についても図7と同様の考え方が可能である。例えば、触覚刺激が提示される場合においても、情報処理装置200、中継される装置(例えば、アンプ280に対応する装置など)、または感覚提示デバイス100などによって提示タイミングが遅らせられ得る。
なお、本書では、最も基本的な態様である図7のAが実現される場合を中心に説明するところ、図7のA〜Cのいずれの態様で本開示が実現されるかは設計事項である。換言すると、本開示は、図7のA〜Cのいずれの態様で実現されてもよいし、図7以外の態様で実現されてもよい。また、上記のとおり、情報処理装置200は、音響遅延量に基づいてユーザへの感覚の提示に用いられる第1のデータを生成するところ、図7のBおよびC(または図7以外)の態様においても「情報処理装置200が音響遅延量に基づいてユーザへの感覚の提示に用いられる第1のデータを生成する」と言える点に留意されたい。
より具体的に説明すると、情報処理装置200がアンプ280や感覚提示デバイス100に備えられる遅延回路のパラメータを変更することで遅延量を制御し、第1のデータ(例えば、音響データなど)の遅延量を制御することは、「情報処理装置200が音響遅延量に基づいてユーザへの感覚の提示に用いられる第1のデータを生成する」ことと等価であると言える。また、後段にて説明する情報処理装置200の各機能構成は必ずしも情報処理装置200内に備えられている必要はなく、他の装置(例えば、アンプ280や感覚提示デバイス100など)に備えられていてもよい。したがって、仮に情報処理装置200が遅延回路の遅延量を変更できなかったとしても、何らかの方法によってアンプ280や感覚提示デバイス100などの遅延回路の遅延量が制御可能であれば、それは、「情報処理装置200が音響遅延量に基づいてユーザへの感覚の提示に用いられる第1のデータを生成する」ことと等価であると言える。
<2.装置の機能構成例>
上記では、本開示に係る情報処理システムの概要について説明した。続いて、図8および図9を参照して、本開示に係る情報処理システムにおける情報処理装置200および感覚提示デバイス100の機能構成例について説明する。
(2.1.情報処理装置200の機能構成例)
まず、図8を参照して、情報処理装置200の機能構成例について説明する。図8に示すように、情報処理装置200は、制御部210と、生成部220と、通信部230と、表示部240と、記憶部250と、を備え、通信部230を介して外部のコントローラ260と接続されている。
(制御部210)
制御部210は、情報処理装置200の各機能構成を統括的に制御する機能構成である。例えば、制御部210は、コントローラ260からの入力や予め決められた進行内容に基づいて各機能構成の起動や停止を制御したり、感覚提示デバイス100によってユーザに対して提示される感覚の内容など(例えば、触覚データ提示部121によって提示される触覚刺激の内容、タイミングおよび強さ、音響データ提示部131によって提示される音の内容、タイミングおよびボリュームなど)を指定したりすることができる。また、制御部210は、各種制御信号を生成することによって、情報処理システムにおける情報処理装置200以外の装置を制御することができる。例えば、制御部210は、各装置のパラメータの変更などを行うことができるため、例えば図7のBまたはCの態様によって感覚の提示が行われる場合において、アンプ280や感覚提示デバイス100に備えられる遅延回路の遅延量の変更などを行うことができる。なお、制御部210の制御内容はこれらに限定されない。例えば、制御部210は、汎用コンピュータ、PC(Personal Computer)、タブレットPCまたはスマートフォンなどにおいて一般的に行われる処理(例えば、OS(Operating System)の処理など)を実現してもよい。また、図8に示すように、制御部210は、遅延測定部211を備える。
(遅延測定部211)
遅延測定部211は、各ユーザについての音響遅延量を測定する機能構成である。より具体的に説明すると、遅延測定部211は、フロントスピーカ290によって音が出力されるタイミングを第1のタイミングとして取得する。上記のとおり、第1のタイミングは、予めコンテンツに組み込まれていてもよい(プログラムされていてもよい)し、コントローラ260を介した操作者による入力によって決定されてもよいし、演者などの動作がセンシングされることによって決定されてもよいところ、遅延測定部211はそれぞれの態様に応じた方法で第1のタイミングを取得する。例えば、第1のタイミングが予めコンテンツに組み込まれている場合には、遅延測定部211は、コンテンツのパラメータを制御部210または記憶部250などから取得することで第1のタイミングを取得する。
そして、遅延測定部211は、ユーザの耳付近に備えられる集音部170によって、フロントスピーカ290から出力された音が検出されたタイミングを第2のタイミングとして取得する。例えば、遅延測定部211は、通信部230を介して各感覚提示デバイス100から第2のタイミングを取得する。
その後、遅延測定部211は、第1のタイミングと第2のタイミングとの差異を算出することで音響遅延量を算出する。遅延測定部211は、音響遅延量を後段の生成部220に提供することによって、生成部220による音響遅延量を考慮したデータの生成を実現する。
なお、遅延測定部211は、上記の方法以外で音響遅延量を算出してもよい。例えば、遅延測定部211は、フロントスピーカ290およびユーザ(第1のユーザ)の位置関係に基づいて音響遅延量を推定してもよい。より具体的に説明すると、遅延測定部211は、本情報処理システムが使用される会場における各位置(任意の数の地点)とそれぞれの位置の音響遅延量とが対応付けられたデータを取得する。そして、遅延測定部211は、当該データと、ユーザの位置特定に使用され得るセンサ(例えば、感覚提示デバイス100に備えられているセンサ)のセンサデータを用いて特定されたユーザの位置とを比較することによって、ユーザの位置における音響遅延量を推定してもよい。
(生成部220)
生成部220は、情報処理システムによって使用される各種データを生成する機能構成である。より具体的には、生成部220は、触覚刺激、音、光、映像、煙、および風の提示に使用されるデータを生成する機能構成である。なお、触覚刺激、音および光の提示に使用されるデータの生成については後述する。生成部220は、制御部210による制御に基づいて映像、煙、および風の提示に使用されるデータを随時生成し、プロジェクタ300、煙発生器330、および風発生器340が接続されているネットワークを介してそれぞれの装置に対して生成したデータを提供する。図8に示すように、生成部220は、触覚データ生成部221と、音響データ生成部222と、照明データ生成部223と、を備える。
(触覚データ生成部221)
触覚データ生成部221は、遅延測定部211によって測定された音響遅延量に基づいて、感覚提示デバイス100による触覚刺激の提示に使用される触覚データを生成する機能構成である。例えば、まず、触覚データ生成部221は、音響遅延量が所定の閾値以上であるか否かを判定する。なお、所定の閾値の設定方法は特に限定されず、例えば、所定の閾値は操作者による入力によって設定され得る。そして、音響遅延量が所定の閾値以上である場合、触覚データ生成部221は、先頭に音響遅延量に相当する空白区間(触覚刺激が提示されない区間)が挿入された触覚データを生成することで触覚刺激の提示タイミングを遅らせてもよいし、触覚データを生成するタイミング自体を音響遅延量だけ遅らせることで触覚刺激の提示タイミングを遅らせてもよい。なお、触覚刺激の提示タイミングを音響遅延量だけ遅らせることが可能であれば、上記以外の方法が用いられてもよい。
(音響データ生成部222)
音響データ生成部222は、フロントスピーカ290、および感覚提示デバイス100の音響データ提示部131による音の提示に使用される音響データを生成する機能構成である。例えば、音響データ生成部222は、第1のタイミングを取得し、第1のタイミングにフロントスピーカ290によって音が出力されるように音響データを生成し、所定のネットワークを介して音響データをフロントスピーカ290に提供する。
感覚提示デバイス100への音響データの提供処理について説明すると、例えば、まず、音響データ生成部222は、音響遅延量が所定の閾値以上であるか否かを判定する。なお、所定の閾値の設定方法は特に限定されず、例えば、所定の閾値は操作者による入力によって設定され得る(また、当該閾値は、触覚データ生成部221によって使用される上記の閾値とは異なるものであってもよい)。そして、音響遅延量が所定の閾値以上である場合、音響データ生成部222は、フロントスピーカ290からの音響遅延量に相当する無音区間が先頭に挿入された音響データを生成することで音響データ提示部131による音の提示タイミングを遅らせてもよいし、音響データを生成するタイミング自体を音響遅延量だけ遅らせることで音の提示タイミングを遅らせてもよい。なお、音の提示タイミングを音響遅延量だけ遅らせることが可能であれば、上記以外の方法が用いられてもよい。
(照明データ生成部223)
照明データ生成部223は、制御部210による制御に基づいて、ライト320による光(照明)の提示に使用される照明データを生成する機能構成である。照明データ生成部223は、所定のネットワークを介して生成したデータをライト320に提供する。なお、本開示に係る情報処理システムにおいて、各ユーザに対して感覚の提示が行われるタイミングで、照明データ生成部223は、当該ユーザに対して光を照射する機能を実現することができる。当該機能の詳細については後述する。
(通信部230)
通信部230は、外部装置との通信を行う機能構成である。例えば、情報処理装置200の操作者がコントローラ260を用いて入力を行った場合、通信部230は、コントローラ260から入力データを受信し、当該入力データを制御部210に提供することで操作者による入力の反映を実現する。また、通信部230は、生成部220によって生成されたデータ(例えば、触覚データや音響データなどを含む)を所定の外部装置へ送信することによって、触覚刺激、音、映像、照明、煙、および風などの提示を実現する。なお、通信部230によって通信されるデータはこれらに限定されない。例えば、通信部230は、フロントスピーカ290から出力された音が集音部170によって検出された第2のタイミングに関するデータを感覚提示デバイス100から受信してもよいし、アンプ280や感覚提示デバイス100に備えられた遅延回路の遅延量を変更するためのパラメータに関するデータをこれらの装置に送信してもよい。また、通信部230と各外部装置との通信に用いられる通信方式および通信回線の種類は特に限定されない。例えば、通信部230は、各外部装置と有線による通信を行ってもよいし、無線による通信を行ってもよい。
(表示部240)
表示部240は、操作者による入力に用いられる設定画面などを表示する機能構成である。この表示部240は、例えば、液晶ディスプレイ(LCD:Liquid Crystal
Display)、有機EL(Electro Luminescence)ディスプレイなどの表示装置であってもよい。なお、表示部240の種類および表示内容はこれらに限定されない。
(記憶部250)
記憶部250は、各種データを記憶する機能構成である。例えば、記憶部250は、情報処理装置200の各機能構成によって使用されるプログラムやパラメータ、または各機能構成によって生成されたデータなど(例えば、触覚データ、音響データ、または照明データなど)を記憶する。なお、記憶部250が記憶するデータの内容はこれらに限定されない。
(コントローラ260)
コントローラ260は、操作者による入力を受け、入力データを情報処理装置200に提供する装置である。コントローラ260は、キーボード、マウス、ボタン、スイッチ、レバー、タッチセンサ、圧力センサ、または近接センサなどの各種入力機構を備えることで操作者による入力を受けることができる。なお、コントローラ260が備える入力機構の種類はこれらに限定されない。また、コントローラ260は、情報処理装置200の外部装置として設けられるのではなく、情報処理装置200内に備えられてもよい。
以上、情報処理装置200の機能構成例およびコントローラ260について説明した。なお、図8を用いて説明した上記の機能構成はあくまで一例であり、情報処理装置200の機能構成は係る例に限定されない。例えば、情報処理装置200は、図8に示す機能構成の全てを必ずしも備えなくてもよい。また、情報処理装置200の機能構成は、仕様や運用に応じて柔軟に変形可能である。
(2.2.感覚提示デバイス100の機能構成例)
上記では、情報処理装置200の機能構成例について説明した。続いて、図9を参照して、感覚提示デバイス100の機能構成例について説明する。図9に示すように、感覚提示デバイス100は、制御部110と、触覚提示部120と、音提示部130と、通信部140と、センサ部150と、記憶部160と、を備え、通信部140を介して外部の集音部170(この図では、集音部170aおよび集音部170b)と接続されている。
(制御部110)
制御部110は、感覚提示デバイス100の各機能構成を統括的に制御する機能構成である。例えば、制御部110は、情報処理装置200から提供される各種データ(例えば、触覚データ、音響データ、およびその他の制御信号などを含む)に基づいて各機能構成の起動や停止を制御する。また、制御部110は、集音部170によって、フロントスピーカ290から出力された音が検出された第2のタイミングに関するデータを、通信部140を介して情報処理装置200へ提供する。なお、制御部110の制御内容はこれらに限定されない。例えば、制御部110は、汎用コンピュータ、PC、タブレットPCまたはスマートフォンなどにおいて一般的に行われる処理(例えば、OSの処理など)を実現してもよい。また、図9に示すように、制御部110は、触覚データ処理部111と、音響データ処理部112と、を備える。
(触覚データ処理部111)
触覚データ処理部111は、情報処理装置200から提供される触覚データを用いて、触覚データ提示部121による触覚刺激の提示に関する処理を行う。例えば、触覚データ処理部111は、感覚提示デバイス100個別の設定(例えば、ユーザが独自に行った感覚提示デバイス100の設定など(例えば、ボリュームの設定や、機能のON/OFFの設定など))に基づいて、情報処理装置200から提供された触覚データを編集し、編集後の触覚データを触覚データ提示部121に提供することで触覚刺激の提示を実現してもよい。
また、触覚データ処理部111には、上記の遅延回路が備えられてもよい。そして、触覚データ処理部111は、情報処理装置200から提供されるパラメータを遅延回路に適用することで遅延量を変更してもよい。
(音響データ処理部112)
音響データ処理部112は、情報処理装置200から提供される音響データを用いて、音響データ提示部131による音の提示に関する処理を行う。例えば、音響データ処理部112は、感覚提示デバイス100個別の設定(例えば、ユーザが独自に行った感覚提示デバイス100の設定など(例えば、ボリュームの設定や、機能のON/OFFの設定など))に基づいて、情報処理装置200から提供された音響データを編集し、編集後の音響データを音響データ提示部131に提供することで音の提示を実現してもよい。
また、音響データ処理部112には、上記の遅延回路が備えられてもよい。そして、音響データ処理部112は、情報処理装置200から提供されるパラメータを遅延回路に適用することで遅延量を変更してもよい。
(触覚提示部120)
触覚提示部120は、1以上の触覚データ提示部121を備え、触覚データ提示部121を用いてユーザに対して触覚刺激を提示する機能構成である。
(触覚データ提示部121)
触覚データ提示部121は、触覚データ処理部111から提供される触覚データを用いてユーザに対して触覚刺激を提示する機能構成である。例えば、触覚データ提示部121は、振動を提示するアクチュエータ(例えば、ERM(偏心モータ)、LRA(リニア共振アクチュエータ)、またはVCM(ボイスコイルモータ)など)であってもよいし、力覚を提示する電気素子であってもよいし、温度感覚を提示する温度変化素子(例えば、ペルチェ素子等)であってもよい。換言すると「触覚刺激」には、振動、力覚、または温度感覚などが含まれ得る。なお、触覚データ提示部121が提示する触覚刺激はこれらに限定されない。また、各触覚データ提示部121(図中では、少なくとも触覚データ提示部121a〜触覚データ提示部121c)にチャンネルが割り当てられ、チャンネル毎に互いに異なる触覚刺激の提示が行われてもよい。
(音提示部130)
音提示部130は、少なくとも1以上の音響データ提示部131を備え、音響データ提示部131を用いてユーザに対して音を提示する機能構成である。
(音響データ提示部131)
音響データ提示部131は、音響データ処理部112から提供される音響データを用いてユーザに対して音を提示する機能構成である。例えば、音響データ提示部131は、音響データを再生するスピーカと、スピーカに対するアンプ回路などを有し得る。また、複数の音響データ提示部131(図中では、少なくとも音響データ提示部131a〜音響データ提示部131c)が備えられ、各音響データ提示部131の出力が調整されることによって音像の定位が実現されてもよい。その際、音響データ提示部131と周囲に備えられるスピーカ(例えば、座席に備えられるスピーカなど)との連携が行われることで音像が定位されてもよい。なお、各音響データ提示部131にチャンネルが割り当てられ、チャンネル毎に互いに異なる音の提示が行われてもよい。
(通信部140)
通信部140は、外部装置との通信を行う機能構成である。例えば、集音部170(図中では、集音部170aおよび集音部170b)がフロントスピーカ290から出力された音を検出した場合、通信部140は、集音部170と通信を行うことで、音が検出された第2のタイミングに関するデータを受信し、当該データを情報処理装置200へ送信する。また、通信部140は、情報処理装置200によって生成された各種データ(例えば、触覚データ、音響データ、およびその他の制御信号などを含む)を受信する。なお、通信部140によって通信されるデータはこれらに限定されない。例えば、通信部140は、感覚提示デバイス100に備えられた遅延回路の遅延量を変更するためのパラメータに関するデータを情報処理装置200から受信してもよい。また、通信部140と外部装置との通信に用いられる通信方式および通信回線の種類は特に限定されない。例えば、通信部140は、外部装置と有線による通信を行ってもよいし、無線による通信を行ってもよい。
(センサ部150)
センサ部150は、各種センサを備えており、これらのセンサによって生成されたセンサデータを取得する機能構成である。例えば、センサ部150は、位置センサ(例えば、GNSS(Global Navigation Satellite System)受信機や近接センサなどを含む、ユーザの位置特定に使用され得るセンサ)を備えることで、ユーザの位置特定に使用されるセンサデータを取得してもよい。なお、センサ部150が備えるセンサの種類は特に限定されない。例えば、センサ部150は、姿勢センサ(ジャイロセンサや加速度センサなど)、温度センサ、または圧力センサなどの各種センサを備えていてもよい。
(記憶部160)
記憶部160は、各種データを記憶する機能構成である。例えば、記憶部160は、感覚提示デバイス100の各機能構成によって使用されるプログラムやパラメータ、または情報処理装置200から提供された各種データ(例えば、触覚データ、音響データ、およびその他の制御信号などを含む)などを記憶する。なお、記憶部160が記憶するデータの内容はこれらに限定されない。
(集音部170)
集音部170は、ユーザの耳付近に備えられるマイクなどであり、ユーザが知覚する音(例えば、フロントスピーカ290から出力される音など)を検出する機能構成である。なお、集音部170はマイクに限定されず、音を検出可能な装置であれば如何なる装置であってもよい。また、集音部170は、感覚提示デバイス100の外部装置として設けられるのではなく、感覚提示デバイス100内に備えられてもよい。
以上、感覚提示デバイス100の機能構成例および集音部170について説明した。なお、図9を用いて説明した上記の機能構成はあくまで一例であり、感覚提示デバイス100の機能構成は係る例に限定されない。例えば、感覚提示デバイス100は、図9に示す機能構成の全てを必ずしも備えなくてもよい。また、感覚提示デバイス100の機能構成は、仕様や運用に応じて柔軟に変形可能である。
<3.装置の処理フロー例>
上記では、本開示に係る情報処理システムにおける情報処理装置200および感覚提示デバイス100の機能構成例について説明した。続いて、図10を参照して、音響遅延量に基づく感覚の提示タイミングの調整処理の流れの例について説明する。図10は、コンテンツの提供中に音響遅延量がほぼ変化しない場合(換言すると、ユーザおよびフロントスピーカ290が移動しない場合など)において、音響遅延量に基づいて触覚刺激の提示タイミングが事前に調整される場合の処理の流れを示している。
まず、ステップS1000では、ユーザの耳付近に備えられた集音部170がフロントスピーカ290からの音を検出する。ステップS1004では、情報処理装置200の遅延測定部211が音響遅延量を測定する。より具体的には、遅延測定部211は、集音部170による音の検出タイミングを第2のタイミングとして感覚提示デバイス100から取得し、第1のタイミングと第2のタイミングとの差異を算出することで音響遅延量を測定する。
ステップS1008では、触覚データ生成部221が、音響遅延量が所定の閾値以上であるか否かを判定する。音響遅延量が所定の閾値以上である場合(ステップS1008/Yes)、ステップS1012にて、触覚データ生成部221は、触覚データによって触覚刺激が提示されるタイミングを調整する。より具体的には、触覚データ生成部221は、先頭に音響遅延量に相当する空白区間(触覚刺激が提示されない区間)が挿入された触覚データを生成したり、触覚データを生成するタイミング自体を音響遅延量だけ遅らせたりすることで触覚刺激の提示タイミングを調整(プログラム)することで一連の処理が終了する。音響遅延量が所定の閾値より小さい場合(ステップS1008/No)には、触覚刺激が提示されるタイミングの調整は行われることなく処理が終了する。その後、上記の処理によって調整(プログラム)されたコンテンツがユーザに対して提供される。
上記の処理によって、感覚提示デバイス100は、フロントスピーカ290からの音がユーザに知覚されるのと略同一のタイミングで、ユーザに感覚(図10の例では触覚刺激)を提示することができるため、ユーザが違和感を受けることを防止することができる。
なお、上記の処理はユーザごと(または、音響遅延量が互いに略同一とみなされる複数のユーザが存在する場合には当該ユーザの集団ごと)に行われることを想定している(換言すると感覚の提示は、第1のユーザごと、または第1のユーザの集団ごとに行われることを想定している)。また、コンテンツの提供中に音響遅延量が変化する場合(換言すると、ユーザまたはフロントスピーカ290が移動する場合など)においては、図10の処理フローが随時繰り返されることで(例えば、所定の間隔で繰り返されることで)触覚刺激の提示タイミングが調整され続ける(なおこの場合、コンテンツが終了するまで、触覚データは所定間隔ごとに生成され、提供され続ける)。また上記のとおり、ステップS1004では、音響遅延量が、フロントスピーカ290およびユーザの位置関係に基づいて推定されてもよい。
<4.進行通知機能>
上記では、音響遅延量に基づく感覚の提示タイミングの調整機能について説明した。ここで、本開示に係る情報処理システムは、当該機能以外の機能を実現することもできる。例えば、本開示に係る情報処理システムは、ステージ上で演技を行う演者など(第2のユーザ)に対して、ユーザ(第1のユーザ)が感覚を提示されるタイミング(第3のタイミング)を通知する機能(以降、「進行通知機能」と呼称する場合もある)を実現することができる。そこで、続いて、進行通知機能について説明する。
演劇などに本情報処理システムが用いられ、ユーザに対して感覚が提示される場合、演者はユーザに対して感覚が提示されるタイミングを認識することが求められる場合がある。例えば、演者がユーザを切る演技を行うタイミングで、切られる感覚が各ユーザに提示される場合などが挙げられる。切られる感覚が各ユーザに提示されるタイミングが事前にプログラムされている場合などにおいては、演者は、当該タイミングにユーザを切る演技を行うことが求められる。
そこで、本開示に係る情報処理システムは、演者などに対してユーザが感覚を提示されるタイミングを通知することができる。より具体的には、情報処理装置200は、ユーザ(第1のユーザ)への感覚の提示に用いられる第1のデータに基づいて、当該通知に用いられる第2データ(以降、「進行通知データ」と呼称する)を生成する。そして、情報処理装置200は、様々な装置に対して当該進行通知データを提供することで演者などに対して感覚を提示し、第3のタイミングを通知することができる。
ここで、当該通知は、ユーザが感覚を提示されるタイミング(第3のタイミング)と略同一のタイミングで行われることを想定しているが、これに限定されない。例えば、演者が触覚刺激を知覚してから実際に動作(演技)を行うまでに要する時間を考慮して、当該通知は、第3のタイミングよりも若干早めに行われてもよい。また、当該通知が行われる「第2のユーザ」は演者に限定されず、コンテンツを提供する全てのユーザ(例えば、監督や舞台スタッフなど)を含み得る。
通常、演者はフロントスピーカ290から出力されるBGMや効果音に合わせて演技を行うところ、仮にBGMや効果音が流れない状況でも本開示が適用されることによって、演者は、ユーザに対して感覚が提示されるタイミングを認識することができるため、本開示が適用されることは有用であると言える。また、BGMや効果音が流れる状況においても、演者がBGMなどを知覚するタイミングと各ユーザがBGMなどを知覚するタイミングは音響遅延により異なるため、本開示が適用されることは変わらず有用であると言える。
ここで、進行通知データの生成処理には様々な態様が存在する。以降では、図11〜図15を参照して、ユーザに提示される感覚が触覚刺激である場合における、変換処理(進行通知データの生成処理)の具体例について説明していく。
演者に対して感覚の提示が可能な装置(例えば、感覚提示デバイス100と同様の機能を有する装置)が設けられる場合、本開示に係る情報処理システムは、当該装置を用いて演者に感覚を提示することで進行通知を実現してもよい。以降では、演者が感覚提示デバイス100を装着している場合を一例として説明する(以降、演者が装着している装置を「感覚提示デバイス100a」と呼称し、ユーザ(観客)が装着している装置を「感覚提示デバイス100b」と呼称する)。なお、この場合、演者に装着される感覚提示デバイス100aは演技の阻害をしない形態(例えば、舞台衣装の形態、またはポケットに収まる程度の大きさを有する形態など)を有しているとする。
そして例えば、情報処理装置200の触覚データ生成部221は、ユーザに装着されている感覚提示デバイス100bの各触覚データ提示部121による触覚刺激の提示に使用される触覚データを、1つに統合することで感覚提示デバイス100aによって演者に提示される進行通知データを生成する。より具体的には、図11に示すように、触覚データ生成部221は、ユーザ(観客)への触覚刺激の提示に用いられる触覚データを複数のチャンネルにわたって生成した場合、各チャンネルにおいて触覚刺激が提示されるタイミングの関係を維持しつつこれらのチャンネルを1チャンネルに統合することで進行通知データを生成してもよい。演者は、基本的には、ユーザに対して感覚が提示されたタイミング(例えば、触覚刺激の提示の開始タイミングと終了タイミング)さえ認識することができれば適切に演技を行うことができる(例えば、適切に演技の内容を切り替えることができる)。したがって、1チャンネルに統合された進行通知データを用いて触覚データ提示部121が触覚刺激を演者に提示することで足りると考えられる。なお、上記はあくまで一例であり、進行通知データのチャンネル数は特に限定されない。
また、演者が触覚刺激の提示の開始タイミングさえ認識できればよい場合には、図12に示すように、触覚データ生成部221は、ある時間にわたって触覚刺激が継続的に提示される場合に用いられる触覚データの先頭部分の波形(以降「インパルス」と呼称する場合がある)を抽出し進行通知データに反映させてもよい。なお、触覚データ生成部221は、触覚データの末尾部分の波形を抽出し進行通知データに反映させることで、触覚刺激の提示の終了タイミングを演者に認識させてもよい。なお、インパルスの抽出手法は特に限定されない。より具体的には、触覚データ生成部221は、任意の波形データ解析手法(例えば、所定区間において所定の閾値を超えた部分の波形データを抽出する手法など)を用いてインパルスを抽出することができる。
なお、上記では、ユーザに提示される感覚が触覚刺激である場合の例について説明したところ、ユーザに提示される感覚が触覚刺激以外である場合についても上記と同様の処理が行われ得る。また、その際、ユーザに提示される感覚の種類や提示箇所(部位)と、演者に提示される感覚の種類や提示箇所(部位)が異なっていてもよい。例えば、ユーザに提示される感覚が音である場合において、演者に提示される感覚が触覚刺激であってもよい。
また、情報処理装置200は、感覚提示デバイス100a以外の装置を用いて演者に進行通知を行ってもよい。例えば、演者のみに対して音を提示可能な指向性スピーカが設置されている場合、情報処理装置200は、当該指向性スピーカから演者に向けて音を出力することによって進行通知を行ってもよい。
例えば、図13に示すように、情報処理装置200の音響データ生成部222は、ユーザに装着されている感覚提示デバイス100bの各触覚データ提示部121による触覚刺激の提示に使用される触覚データの周波数(例えば、50[Hz]〜200[Hz]程度)を、可聴領域の周波数(例えば、200[Hz]〜20000[Hz]程度)に変更することで進行通知データを生成してもよい。その後、情報処理装置200が当該進行通知データを指向性スピーカに提供することで、指向性スピーカに音を出力させる。
また例えば、図14に示すように、音響データ生成部222は、触覚刺激の提示に使用される触覚データに対してAM変調処理などを施すことによって、可聴領域(例えば、1000[Hz]など)にマッピングされた進行通知データを生成してもよい。より具体的には、音響データ生成部222は、触覚データを解析することによって触覚データの振幅を示す包絡線を抽出し、伝送に用いられる搬送波を包絡線にマッピングすることで進行通知データを生成してもよい。その後、当該進行通知データが指向性スピーカに提供され、指向性スピーカが進行通知データを復調することによって演者に音を提示する。
なお、フロントスピーカ290からBGMや効果音が提示されている場合には、演者は、指向性スピーカにより提示される音を聞き取りにくい場合がある。そこで、フロントスピーカ290からBGMや効果音が提示される場合においては、指向性スピーカにより提示される音の周波数帯域が変更されてもよい。例えば、図15に示すように、音響データ生成部222は、フロントスピーカ290から提示されるBGMの周波数特性とは異なる周波数特性の音響データを生成してもよい。これによって、演者は、指向性スピーカにより提示される音と、BGMとを聞き分けることができる。
また、例えば、演者のみが視認可能なライトが設置されている場合、情報処理装置200は、当該ライトを点灯させることによって進行通知を行ってもよい。より具体的には、情報処理装置200の照明データ生成部223は、触覚データを解析することによって、触覚刺激が提示されるタイミングや期間を認識し、そのタイミングや期間にライトを点灯させるための照明データを生成する。なお、照明データ生成部223は、上記のように触覚データからインパルスを抽出し、インパルスに対応するタイミングにライトを点灯させるための照明データを生成してもよい。また、照明データ生成部223は、触覚刺激の強度をライトによって提示される光の強度に反映させてもよい。例えば、照明データ生成部223は、触覚データに対してPWM(Pulse Width Modulation)変換を施すことで進行通知データを生成してもよい。当該進行通知データがライトに提供されることによって、ライトの光源(例えば、LED光源など)の点灯時間が適切に制御されるため、触覚刺激の強度が光の強度に反映される。また、ライト以外にも、映像を表示可能なディスプレイなどが進行通知に用いられてもよい。この場合、当該ディスプレイには、ユーザに提示される感覚の内容および提示のタイミングなど(例えば、提示までの秒数など)が表示され得る。
なお、指向性スピーカやライトなどの、感覚提示デバイス100a以外の装置によって進行通知が行われる場合であっても、ユーザに提示される感覚が触覚刺激以外に限定されない。例えば、ユーザに音、映像、匂いまたは味などが提示される場合であっても、情報処理装置200は、指向性スピーカやライトなどの、感覚提示デバイス100a以外の様々な装置を用いて進行通知を実現することができる。
また、情報処理装置200は、演劇などのコンテンツの内容や、進行通知が行われる際の状況などに応じて、演者に対する進行通知の方法を変更してもよい。例えば、演者によって激しい演技が行われている場合、情報処理装置200は、演者が知覚し易いように触覚刺激の強度をより高くしたり、触覚刺激が提示される期間をより長くしたりすることができる。同様に、情報処理装置200は、指向性スピーカにより提示される音の大きさをより大きくしたり、提示される期間をより長くしたりしてもよい。また、演者がステップを踏むなど、主に足が演技に使用されるシーンでは、情報処理装置200は、足以外の部位に対して触覚刺激を提示してもよい。また、進行通知が困難な状況(例えば、BGMが大音量で提示されている状況や、演者が激しく演技をしている状況など)では、情報処理装置200は進行通知を行わなくてもよい。
続いて、図16を参照して、進行通知処理の流れの例について説明する。図16には、ユーザに触覚刺激が提示される場合において、演者にも触覚刺激が提示されることで進行通知が実現される場合の処理の流れの例が示されている。
ステップS1100では、情報処理装置200の触覚データ生成部221は、ユーザ(観客)に対して触覚刺激が提示されるか否かを確認する。例えば、触覚データ生成部221は、ユーザが装着している感覚提示デバイス100bに提供される触覚データを解析することで、触覚刺激が提示されるか否かを確認する。ユーザに対して触覚刺激が提示される場合(ステップS1100/Yes)、ステップS1104にて、触覚データ生成部221は、演者に対して進行通知が必要であるか否かを判断する。例えば、触覚データ生成部221は、進行通知の要否に関する事前設定に基づいて進行通知が必要であるか否かを判断する。
演者に対して進行通知が必要である場合(ステップS1104/Yes)、ステップS1108にて、触覚データ生成部221は、ユーザが装着している感覚提示デバイス100bに提供される触覚データに基づいて進行通知データを生成する。進行通知データの生成方法については上記のとおりである。ステップS1112では、通信部230が、演者が装着している感覚提示デバイス100aに対して進行通知データを提供する。
ステップS1116では、当該進行通知データを提供された感覚提示デバイス100aの触覚データ提示部121が演者に対して触覚刺激を提示することで進行通知を行う。なお、ステップS1100にてユーザに対して触覚刺激が提示されない場合(ステップS1100/No)、およびステップS1104にて演者に対する進行通知が必要でない場合(ステップS1104/No)には、ステップS1108〜ステップS1116の処理は行われない。上記の処理が、コンテンツが終了するまで(ステップS1120/No)継続される。
<5.光による感覚提示通知機能>
上記では、進行通知機能について説明した。本開示に係る情報処理システムは、当該機能以外の機能として、各ユーザに対して感覚の提示が行われたことを、光を用いて各ユーザに通知する機能(以降、「光による感覚提示通知機能」と呼称する場合もある)を実現することができる。そこで続いて、光による感覚提示通知機能について説明する。
例えば、図17に示すように、ライブや演劇において、ステージ手前のユーザから後方のユーザに対して順に触覚刺激が提示され伝搬していくような表現は、触覚刺激というもののイメージとも直感的に結びつき易く、効果的である。また、触覚刺激だけでなく、音、映像、匂い、または味などの触覚以外の感覚の提示についても同様の効果が得られると考えられる。一方で、各ユーザは、触覚刺激をはじめとする様々な感覚がどのように他のユーザに提示されているのかを認識することができない。
そこで、本開示に係る情報処理システムは、各ユーザへの感覚の提示と光による演出とを連動させ、各ユーザへの感覚の提示に合わせて光の照射範囲を変化させることで感覚の提示が行われている様子を各ユーザに通知する。より具体的には、ライト320またはプロジェクタ300などの光提示部は、ユーザごと(またはユーザの集団ごと)に光を照射する機能を有する。そして、情報処理装置200の照明データ生成部223は、触覚データ提示部121によって触覚刺激がユーザに提示されるタイミング(第3のタイミング)、または音響データ提示部131によって音がユーザに提示されるタイミング(第3のタイミング)に、提示が行われるユーザ(第1のユーザ)に対して、ライト320またはプロジェクタ300などの光提示部から光の照射が行われるように照明データ(第3のデータ)を生成する。そして、当該照明データが所定のネットワークを介してライト320に提供されることで、ライト320はユーザごと(またはユーザの集団ごと)に光を照射することができる。
ここで、照明データ生成部223は、感覚が提示されるユーザに対して照射される光の色を、感覚が提示されないユーザに対して照射される光の色と区別することによって感覚提示通知を実現してもよい。また、感覚提示デバイス100が発光機能を有している場合には、情報処理装置200はライト320(またはプロジェクタ300)を用いて感覚提示通知を行うのではなく、感覚提示デバイス100を発光させることで感覚提示通知を実現してもよい。また、ユーザが発光機能を有する別の装置を保持している場合には、情報処理装置200は当該装置を発光させてもよい。
続いて、図18を参照して、光による感覚提示通知処理の流れの例について説明する。図18には、触覚刺激を提示されるユーザに対して、ライト320から光が照射されることで感覚提示通知が行われる場合の処理の流れの例が示されている。
ステップS1200では、情報処理装置200の照明データ生成部223が各感覚提示デバイス100による触覚刺激の提示タイミングを認識する。例えば、照明データ生成部223は、触覚データ生成部221によって生成された触覚データを解析することによって触覚刺激の提示タイミングを認識する。
ステップS1204では、照明データ生成部223が、触覚刺激の提示タイミングに基づいて照明データを生成する。より具体的には、照明データ生成部223は、各感覚提示デバイス100が触覚刺激を提示するタイミングに、提示されるユーザの位置(位置座標、または座席の位置)に対してライト320から光が照射されるように照明データを生成する。ステップS1208では、通信部230がライト320に対して照明データを提供する。
ステップS1212では、当該照明データを提供されたライト320が、触覚刺激の提示と同時に触覚刺激を提示されるユーザに対して光を照射することで感覚提示通知を行う。上記の処理が、コンテンツが終了するまで(ステップS1216/No)継続される。
<6.ハードウェア構成例>
上記では、光による感覚提示通知機能について説明した。続いて、本開示に係る情報処理システムにおけるハードウェア構成例について説明する。
(6.1.感覚提示デバイス100)
まず、感覚提示デバイス100のハードウェア構成について説明する。感覚提示デバイス100は、サイズ調整機能を有さないアウターベストと、サイズ調整機能を有するインナーベストの2枚が重なった構造(アウターベストがインナーベストの上から被せられる構造)を有している。また、ユーザによる着脱のし易さを考慮して、アウターベストおよびインナーベストは、例えば両肩部分などで、部分的に物理的に連結されていてもよい。ここで、図19にはアウターベストの例が示されており、図20にはインナーベストの例が示されている。
図19には、両肩部分に音響データ提示部131が配置されている感覚提示デバイス100(図2で示したもの)のアウターベストの例が示されている。また、アウターベスト(および図20のAで示すインナーベスト)は、前身頃の中央に開閉機構10(例えば、ファスナー、面ファスナー、またはボタンなど。なお、開閉機構10はこれらに限定されない)を備えている。これにより、ユーザは頭を感覚提示デバイス100に通すなどの負荷の高い動きをすることなく、2層構造の感覚提示デバイス100を容易に効率良く着脱することができる。また、ユーザは、不快感を覚えた場合などにおいて容易かつ迅速に感覚提示デバイス100aを脱ぐことができる。また、アウターベストは、前身頃に所定の数のポケット11(図19の例では、ポケット11a〜ポケット11d)を備えている。これによって、アウターベストは、例えば後述する手首や足に装着されるパーツを収納することができるため、これらのパーツが使用されない場合において各パーツの管理が容易になる。なお、ユーザが腕を容易に可動させることができる点や通気性に優れる点などが考慮されることで、ベスト型の感覚提示デバイス100が採用される場合を主として説明しているところ、感覚提示デバイス100の形状(特に、アウターベストの形状)は、その用途(コンテンツの内容)に合わせて様々なデザインに変更され得る。
図20のAにはインナーベストの前身頃の例が示されており、図20のBにはインナーベストの後ろ身頃の例が示されている。図20のAおよびBに示すように、インナーベストの側面部にはインナーベストのサイズを無段階に調整可能な調整機構12(図20の例では、面ファスナー)が備えられている。感覚提示デバイス100が触覚刺激をユーザの体に伝達するためには、感覚提示デバイス100および触覚データ提示部121が、体に対して適切な圧力で押し付けられることが望ましい。しかし、ユーザの体は年齢や性別などによって個体差が大きい。そこで、インナーベストは、調整機構12を備えることによって、触覚データ提示部121と体の間の接触圧力を調整可能にし、ユーザ毎に最適な触覚刺激を提示可能にする。また、インナーベストが使用時にアウターベストに覆われることによって、調整機構12が表面に露出されない。これにより、ウェアの意匠性が高められると共に、演劇の観劇や映画の鑑賞中に、ユーザ自身がインナーベストの面ファスナーなどを用いたサイズ調整をするために面ファスナーの着け外しすることで大きな音が発生して周囲の観客に不快感を与えることが防止され得る。なお、ユーザによる感覚提示デバイス100の装着はコンテンツの開始前に完了し、休憩時間などを除いてサイズ調整や着脱は行われないことを想定している。より具体的には、ユーザが座る座席とは別の位置に、感覚提示デバイス100の装着(脱着)用のスペースが設けられて、係員がユーザによる感覚提示デバイス100の脱着を補助することを想定している(もちろん、これに限定されない)。
また、インナーベストは、触覚データ提示部121を固定可能な固定機構13(図20の例では、面ファスナー)を備えている。感覚提示デバイス100がユーザに対して触覚刺激を提示する場合、ユーザ毎の個体差(体の大きさなど)に影響されることなく、同様の位置に触覚刺激が提示されることが望ましい。すなわち、触覚データ提示部121の配置はユーザ毎の個体差に応じて調整されることが望ましい。また、劇や映画などのコンテンツの内容や演出に応じて、触覚刺激が提示されるべき位置(部位)が変わる。例えば、触覚刺激が提示されるべき位置は、劇Aでは体の前面4か所、劇Bでは体の前面6か所、映画Aでは体の前面6か所に加えて背面2か所などのようにコンテンツによって変わる。そこで、インナーベストはほぼ全面に固定機構13を備えることで、所望の位置に触覚データ提示部121が固定されることを可能にする。
ここで、図21を参照して、触覚データ提示部121の固定態様の具体例について説明する。コンテンツの開始前のユーザによる装着時にユーザ自身によって触覚データ提示部121の固定位置が変更されることは、基本的に想定していない(なお、これに限定されない)。そのため、図21のAに示すように、インナーベストは2枚構造を有しており、固定機構13は、ユーザが触れることができない2枚構造の内側に備えられている。触覚データ提示部121は固定機構13(面ファスナーメスなど)と、別パーツである固定機構14(面ファスナーオスなど)によって挟まれることによってインナーベストに固定され得る。図21のAに示すように、固定機構13は、2枚構造のうちの“インナーベストの外側15”(アウターベスト側)の内側の面に備えられることを想定している。換言すると、2枚構造のうちの“インナーベストの内側16”(ユーザの体側)には、固定機構13が備えられないことを想定している。これによって、サイズ調整時に調整機構12の締め付け圧によって生じる“インナーベストの外側15”の張力によって、触覚データ提示部121がユーザの体に的確に押し付けられることになる。
また、“インナーベストの内側16”が面として存在することにより、ユーザが感覚提示デバイス100を着脱する際に、突出した触覚データ提示部121が着脱の妨げになることが防止される。前述したように、感覚提示デバイス100はインナーベストとアウターベストの2層構造を有することが望ましいが、着脱の容易さなどに鑑みて、インナーベスト単体が使用されてもよい。その場合にも、インナーベストが上記で説明したような構造を有することで、触覚データ提示部121を表面に露出させないようにできるため、意匠性が確保される。
また、前述したように、ユーザの体は年齢や性別などによって個体差が大きい。そのため、例えば、コンテンツの提供前に男性用のウェア(アウターベストやインナーベスト)と女性用のウェア(アウターベストやインナーベスト)の2種類を用意しておき、女性用のインナーベストについては、体に合わせて調整機構12がより絞り込まれる前提で、触覚データ提示部121の固定位置を男性用のものに比べて相対的に内側にしておく、という運用が考えられる。同様に、男女の身長差を考慮して、各触覚データ提示部121の上下の相対距離を男性用のものに比べて相対的に近づけておく、という運用も考えられる。また、女性用については、胸部を避けて触覚データ提示部121を配置する、という運用も考えられる。また、男女差とは無関係に、体の大きさに応じてS/M/Lの3種類のサイズを(同一のウェアで)用意し、前述したようにそれぞれに触覚データ提示部121の固定位置を異なるものとする、という運用も考えらえる。あるいは、前述のように、コンテンツの内容に応じて、コンテンツの開始前に触覚データ提示部121の位置および数量を変更しておき、その位置および数量の設定に基づいて各触覚データ提示部121に入力する触覚データの設計および生成を行う、といった運用も考えられる。
さらに、感覚提示デバイス100は、ベスト部分によっては触覚刺激が提示されない部位に対しても他のパーツを用いることによって触覚刺激を提示することができてもよい。例えば、図22のAに示すように、感覚提示デバイス100はコネクタを備えており、当該コネクタに接続された配線190(図22のAでは、配線190a〜配線190f)によって追加の触覚データ提示部121(図22のAでは、触覚データ提示部121k〜触覚データ提示部121p)と電気的に接続され得る。なお、図中の触覚データ提示部121lと触覚データ提示部121mのように、追加された触覚データ提示部121は、コネクタを備えており、当該コネクタに接続された配線190によってさらに別の追加された触覚データ提示部121と電気的に接続され得る。なお、長さを調節可能なケーブル(例えば、カールケーブルや巻取り式のケーブルなど)が配線190として使用されることによって、必要以上に長い配線190によってユーザの動きが阻害されることが防止され得る。また、配線190によって触覚データ提示部121が追加されない場合、追加の触覚データ提示部121に使用可能なチャンネルが他の部分(例えば、ベスト部分)への触覚刺激の提示に使用されてもよい。これによって、より多様な触覚刺激を当該部分に提示することが可能になる。なお、追加の触覚データ提示部121は無線によって接続されてもよい。
そして、追加の触覚データ提示部121は、所定の固定機構(例えば、面ファスナーなど)によって体の部位に一定の圧力で固定される。この構造によって、例えば図22のAに示すように、感覚提示デバイス100は、ベスト部分以外の手首、膝、および足の甲などに触覚刺激を提示することができる。なお、追加の触覚データ提示部121が固定される位置は特に限定されず、コンテンツの内容などに応じて柔軟に変更され得る。
ここで、図22のBに示すように、追加の各触覚データ提示部121には固定位置を示すラベル17(図22のBでは、ラベル17a〜ラベル17f。固定位置を示すイラストや文字などが表示される)が付されることを想定している。これによって、ユーザが追加の各触覚データ提示部121を間違った位置に固定することが防がれる。
続いて、感覚提示デバイス100と共に使用される各機器について説明する。まず図23を参照して、ユーザが着席してコンテンツの提供を受ける場合に使用される座席の周辺機器について説明する。図23には、ユーザが感覚提示デバイス100(および追加の触覚データ提示部121k〜触覚データ提示部121p)を装着した状態で座席に座っている様子を示している。そして、各座席にはユーザによる所定の操作に使用される操作パネル180が設置されることを想定している。
ここで、図24を参照して操作パネル180の具体例について説明する。図24のAに示された操作パネル180aにはスイッチ181が備えられており、ユーザは、当該スイッチ181を操作することによって触覚刺激などをはじめとする各種感覚の提示のON/OFFを切り替えることができる。また、操作パネル180aにはコネクタ182(メス)が備えられており、ユーザは、当該コネクタ182に対して感覚提示デバイス100に備えられたコネクタ(オス)を差し込むことによって感覚提示デバイス100を動作可能な状態にすることができる。また、図24のBに示された操作パネル180bには、その他にもボリューム調節機構183が備えられており、ユーザは、当該ボリューム調節機構183を操作することによって感覚提示デバイス100によって提示される触覚刺激または音のボリュームを所望の大きさに調節することができる。
なお、感覚提示デバイス100には複数の種類(S/M/Lなどのサイズ、大人用/子供用、男性用/女性用、色、表記番号)が設けられており、感覚提示デバイス100がコネクタ182に接続されることによって、感覚提示デバイス100内に組み込まれた種類検出用の抵抗値、あるいはDIPスイッチのようなON/OFF検出の仕組みによって、感覚提示デバイス100の種類が情報処理システム(特に情報処理装置200)に識別され得る。識別された種類に応じて、情報処理システム(特に情報処理装置200)は、ウェアに流す信号(ボリューム等)を変化させてもよい。
(6.2.情報処理装置200)
続いて、図25を参照して、情報処理装置200のハードウェア構成について説明する。
図25に示すように、情報処理装置200は、CPU(Central Processing Unit)901と、ROM(Read Only
Memory)902と、RAM(Random Access Memory)903と、ホストバス904と、ブリッジ905と、外部バス906と、インタフェース907と、入力装置908と、出力装置909と、ストレージ装置(HDD)910と、ドライブ911と、通信装置912とを備える。
CPU901は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置200内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはCPUバスなどから構成されるホストバス904により相互に接続されている。当該CPU901、ROM902およびRAM903の協働により、制御部210および生成部220の各機能が実現される。
ホストバス904は、ブリッジ905を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス906に接続されている。なお、必ずしもホストバス904、ブリッジ905および外部バス906を分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
入力装置908は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチおよびレバーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU901に出力する入力制御回路などから構成されている。情報処理装置200を使用するユーザは、該入力装置908を操作することにより、各装置に対して各種のデータを入力したり処理動作を指示したりすることができる。当該入力装置908により、コントローラ260の機能が実現される。
出力装置909は、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD)装置、OLED(Organic Light Emitting Diode)装置およびランプなどの表示装置を含む。当該出力装置909により表示部240の機能が実現される。
ストレージ装置910は、データ格納用の装置である。ストレージ装置910は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。ストレージ装置910は、例えば、HDD(Hard Disk Drive)で構成される。このストレージ装置910は、ハードディスクを駆動し、CPU901が実行するプログラムや各種データを格納する。当該ストレージ装置910によって記憶部250の機能が実現される。
ドライブ911は、記憶媒体用リーダライタであり、情報処理装置200に内蔵、あるいは外付けされる。ドライブ911は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体913に記録されている情報を読み出して、RAM903に出力する。また、ドライブ911は、リムーバブル記憶媒体913に情報を書き込むこともできる。
通信装置912は、例えば、通信網914に接続するための通信デバイス等で構成された通信インタフェースである。通信装置912によって通信部230の機能が実現される。
<7.備考>
上記では、本開示に係る情報処理システムにおけるハードウェア構成例について説明した。続いて、本開示に係る情報処理システムにおける運用面などを備考として説明する。
(7.1.感覚提示デバイス100の動作確認について)
本開示に係る情報処理システムが使用される場合、コンテンツの開始前に、感覚提示デバイス100を操作パネル180のコネクタ182に接続した状態で動作確認作業が行われ得る。
動作確認作業においては、第1ステップとして通電状態などの確認のために、感覚提示デバイス100の各触覚データ提示部121(アクチュエータ)から可聴音を順次発生させて、確認者が耳で動作確認を行う。その際、触覚データ提示部121ごとに可聴音が変更されてもよい(例えば、各感覚提示デバイス100の触覚データ生成部221ごとに「1」、「2」、「3」などの識別情報が割り振られ、触覚データ提示部121にそれぞれの識別情報を可聴音として出力させるなど)。第2ステップとして、触覚データ提示部121の故障状態の確認のために、各触覚データ提示部121に100[Hz]のSin波のような可聴性の低い単純な波形を順次入力する。例えば、第2ステップにて、確認者に異音が聞こえる場合、触覚データ提示部121の破損などが生じていることが予想される。
第1ステップおよび第2ステップの作業は、各感覚提示デバイス100から発せられる音が混ざらないように、感覚提示デバイス100を1台ずつ動作させて行われる。例えば、確認者が操作パネル180のスイッチ181を操作して各感覚提示デバイス100のON/OFFを切り替えながら第1ステップおよび第2ステップの作業を行っていく。
なお、確認者が各座席を移動することなく上記の動作確認作業を行えるように、各感覚提示デバイス100からの可聴音の発生などが、感覚提示デバイス100ごとに少しずつずらされながら行われてもよい。また、感覚提示デバイス100ごとに「1」、「2」、「3」などの識別情報が割り振られ、さらに各感覚提示デバイス100の触覚データ生成部221ごとに「1」、「2」、「3」などの識別情報が割り振られることによって、触覚データ提示部121に「1−1」、「1−2」、「1−3」などのように、それぞれの感覚提示デバイス100および触覚データ提示部121の識別情報の組合せを可聴音として出力させるなどの対応が考えられる。これによって、確認者は、全ての感覚提示デバイス100から発せられる可聴音を聞き取れる位置から動くことなく動作確認作業を行うことができる。また、可聴音の聞き取り作業が専用装置によって行われてもよい。また、各触覚データ提示部121に加速度センサが備えられており、各触覚データ提示部121が振動した際の加速度データの解析などによって動作確認が行われてもよい。
(7.2.操作者の対応について)
上記で説明したコントローラ260を操作する操作者は、ステージおよび客席が見渡せるよう、客席後方(または中央)のコントロールブースに位置しており、予め決められた進行に応じて、ステージ上の演者の動きのタイミングに合わせ、コントローラ260に備えられるタッチパネルや物理スイッチなどインタフェースを操作する。
コントローラ260に対して所定の操作が行われることで、音響、照明、映像、触覚刺激などの演出効果に関わる装置が一括してリアルタイムに制御され得る。例えば、操作者は、コントローラ260に備えられるスライドバーの操作によって、音響、照明、映像、触覚刺激などの演出効果に関わる装置によって出力される演出効果の強度を、一括してリアルタイムに制御することができる。例えば、操作者がスライドバーを下げると、音響ボリュームが下がるとともに、触覚データ提示部121によって提示される触覚刺激の強度が低くなったり、照明が暗くなったりする。また、例えば、操作者が、所定のボタンを押下するたびに、コンテンツにおけるイベントが切り替わり、切り替わった後のイベントに対応付けられたプログラムに従って、音響、照明、映像、触覚刺激などの演出効果に関わる装置が一括してリアルタイムに制御され得る。なお、このときに各ボタンにそれぞれ異なるイベントが割り当てられていてもよい。
また、ユーザだけでなく操作者も、音響提示用のヘッドホンおよび触覚提示用の感覚提示デバイス100を装着することによって、ユーザが体験している演出効果のフィードバックを受けることができる。なお、上記のとおり、ユーザには音声遅延量が考慮された上で(音声遅延量だけ遅れたタイミングで)感覚の提示が行われるところ、操作者へのフィードバックにおいては、音声遅延量が考慮されることなく感覚の提示が行われてもよい(ヘッドホンによる音の提示と、感覚提示デバイス100による感覚の提示が同時に行われてもよい)。また、コントロールブースには、操作者とは別に進行管理を行うタイムキーパーが配置されることで、操作者とタイムキーパーが互いに協調して作業をしてもよい。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
音響提示部から音が出力される第1のタイミングと、第1のユーザが前記音を知覚する第2のタイミングとの差異に基づいて、前記第1のユーザに装着された感覚提示部による前記第1のユーザへの感覚の提示に用いられる第1のデータを生成する生成部を備える、
情報処理装置。
(2)
前記感覚の提示は、前記差異に基づいて決まる第3のタイミングに行われる、
前記(1)に記載の情報処理装置。
(3)
前記第3のタイミングは、前記第2のタイミングと略同一である、
前記(2)に記載の情報処理装置。
(4)
前記生成部は、前記第1のデータに基づいて、第2のユーザに対する前記第3のタイミングの通知に用いられる第2のデータを生成する、
前記(2)または(3)に記載の情報処理装置。
(5)
前記第2のデータは、前記第2のユーザへの感覚の提示に用いられるものである、
前記(4)に記載の情報処理装置。
(6)
前記通知は、前記第3のタイミングと略同一のタイミングで行われる、
前記(4)または(5)に記載の情報処理装置。
(7)
前記第2のユーザは、前記第1のユーザに対して前記感覚の提示が行われるコンテンツを提供するユーザである、
前記(4)から(6)のいずれか1項に記載の情報処理装置。
(8)
前記第1のユーザは複数人存在し、
前記感覚の提示は、前記第1のユーザごと、または前記第1のユーザの集団ごとに行われる、
前記(2)から(7)のいずれか1項に記載の情報処理装置。
(9)
前記感覚を提示される前記第1のユーザは、前記第3のタイミングに光提示部から光が照射され、
前記生成部は、前記光の照射に用いられる第3のデータを生成する、
前記(8)に記載の情報処理装置。
(10)
前記第2のタイミングは、前記第1のユーザに装着された音検出部によって前記音が検出されたタイミングである、
前記(1)から(9)のいずれか1項に記載の情報処理装置。
(11)
前記音検出部は、前記第1のユーザの耳付近に装着されたものである、
前記(10)に記載の情報処理装置。
(12)
前記差異は、前記音響提示部および前記第1のユーザの位置関係に基づいて推定されたものである、
前記(1)から(11)のいずれか1項に記載の情報処理装置。
(13)
前記感覚は、触覚または聴覚のうちの少なくともいずれか一方を含む、
前記(1)から(12)のいずれか1項に記載の情報処理装置。
(14)
音響提示部から音が出力される第1のタイミングと、第1のユーザが前記音を知覚する第2のタイミングとの差異に基づいて、前記第1のユーザに装着された感覚提示部による前記第1のユーザへの感覚の提示に用いられる第1のデータを生成することを有する、
コンピュータにより実行される情報処理方法。
(15)
音響提示部から音が出力される第1のタイミングと、第1のユーザが前記音を知覚する第2のタイミングとの差異に基づいて、前記第1のユーザに装着された感覚提示部による前記第1のユーザへの感覚の提示に用いられる第1のデータを生成すること、
をコンピュータに実現させるためのプログラム。
100 感覚提示デバイス
110 制御部
111 触覚データ処理部
112 音響データ処理部
120 触覚提示部
121 触覚データ提示部
130 音提示部
131 音響データ提示部
140 通信部
150 センサ部
160 記憶部
170 集音部
200 情報処理装置
210 制御部
211 遅延測定部
220 生成部
221 触覚データ生成部
222 音響データ生成部
223 照明データ生成部
230 通信部
240 表示部
250 記憶部
260 コントローラ
270 オーディオIF
280 アンプ
290 フロントスピーカ
300 プロジェクタ
310 スクリーン
320 ライト
330 煙発生器
340 風発生器

Claims (15)

  1. 音響提示部から音が出力される第1のタイミングと、第1のユーザが前記音を知覚する第2のタイミングとの差異に基づいて、前記第1のユーザに装着された感覚提示部による前記第1のユーザへの感覚の提示に用いられる第1のデータを生成する生成部を備える、
    情報処理装置。
  2. 前記感覚の提示は、前記差異に基づいて決まる第3のタイミングに行われる、
    請求項1に記載の情報処理装置。
  3. 前記第3のタイミングは、前記第2のタイミングと略同一である、
    請求項2に記載の情報処理装置。
  4. 前記生成部は、前記第1のデータに基づいて、第2のユーザに対する前記第3のタイミングの通知に用いられる第2のデータを生成する、
    請求項2に記載の情報処理装置。
  5. 前記第2のデータは、前記第2のユーザへの感覚の提示に用いられるものである、
    請求項4に記載の情報処理装置。
  6. 前記通知は、前記第3のタイミングと略同一のタイミングで行われる、
    請求項4に記載の情報処理装置。
  7. 前記第2のユーザは、前記第1のユーザに対して前記感覚の提示が行われるコンテンツを提供するユーザである、
    請求項4に記載の情報処理装置。
  8. 前記第1のユーザは複数人存在し、
    前記感覚の提示は、前記第1のユーザごと、または前記第1のユーザの集団ごとに行われる、
    請求項2に記載の情報処理装置。
  9. 前記感覚を提示される前記第1のユーザは、前記第3のタイミングに光提示部から光が照射され、
    前記生成部は、前記光の照射に用いられる第3のデータを生成する、
    請求項8に記載の情報処理装置。
  10. 前記第2のタイミングは、前記第1のユーザに装着された音検出部によって前記音が検出されたタイミングである、
    請求項1に記載の情報処理装置。
  11. 前記音検出部は、前記第1のユーザの耳付近に装着されたものである、
    請求項10に記載の情報処理装置。
  12. 前記差異は、前記音響提示部および前記第1のユーザの位置関係に基づいて推定されたものである、
    請求項1に記載の情報処理装置。
  13. 前記感覚は、触覚または聴覚のうちの少なくともいずれか一方を含む、
    請求項1に記載の情報処理装置。
  14. 音響提示部から音が出力される第1のタイミングと、第1のユーザが前記音を知覚する第2のタイミングとの差異に基づいて、前記第1のユーザに装着された感覚提示部による前記第1のユーザへの感覚の提示に用いられる第1のデータを生成することを有する、
    コンピュータにより実行される情報処理方法。
  15. 音響提示部から音が出力される第1のタイミングと、第1のユーザが前記音を知覚する第2のタイミングとの差異に基づいて、前記第1のユーザに装着された感覚提示部による前記第1のユーザへの感覚の提示に用いられる第1のデータを生成すること、
    をコンピュータに実現させるためのプログラム。
JP2019529075A 2017-07-10 2018-07-03 情報処理装置、情報処理方法、およびプログラム Active JP7140120B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201762530455P 2017-07-10 2017-07-10
US62/530,455 2017-07-10
US201762534879P 2017-07-20 2017-07-20
US62/534,879 2017-07-20
PCT/JP2018/025275 WO2019013055A1 (ja) 2017-07-10 2018-07-03 情報処理装置、情報処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2019013055A1 true JPWO2019013055A1 (ja) 2020-05-07
JP7140120B2 JP7140120B2 (ja) 2022-09-21

Family

ID=65001669

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019529075A Active JP7140120B2 (ja) 2017-07-10 2018-07-03 情報処理装置、情報処理方法、およびプログラム

Country Status (5)

Country Link
US (1) US11228855B2 (ja)
EP (1) EP3654665A4 (ja)
JP (1) JP7140120B2 (ja)
CN (1) CN110892734B (ja)
WO (1) WO2019013055A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021095536A1 (ja) 2019-11-12 2021-05-20 ソニーグループ株式会社 情報処理装置、情報処理方法、並びにプログラム
WO2023032308A1 (ja) * 2021-08-30 2023-03-09 ソニーグループ株式会社 情報処理装置、情報処理方法、情報処理システム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5559499A (en) * 1978-10-30 1980-05-02 Bodysonic Kk Sound system in theater or like
JPS57148980U (ja) * 1981-03-11 1982-09-18

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5553148A (en) * 1994-06-20 1996-09-03 Werle; Ben Apparatus and method for producing vibratory sensations to accompany audible sounds in a properly phased relationship
JP2004233463A (ja) 2003-01-28 2004-08-19 Nec Viewtechnology Ltd ファン騒音低減装置及びファン騒音低減方法
JP2006222826A (ja) 2005-02-14 2006-08-24 Fujitsu Ltd 通話機能付き携帯情報端末
US9019087B2 (en) * 2007-10-16 2015-04-28 Immersion Corporation Synchronization of haptic effect data in a media stream
KR101630864B1 (ko) * 2008-05-09 2016-06-16 코닌클리케 필립스 엔.브이. 감정을 전달하는 방법 및 시스템
JP5419100B2 (ja) * 2008-06-13 2014-02-19 学校法人早稲田大学 感覚呈示システム及び感覚呈示装置
WO2010093913A1 (en) 2009-02-12 2010-08-19 Brock Seiler Multi-channel audio vibratory entertainment system
JP5732937B2 (ja) 2010-09-08 2015-06-10 ヤマハ株式会社 サウンドマスキング装置
EP2825934B1 (en) 2012-03-15 2021-06-30 Nokia Technologies Oy A tactile apparatus link
US9098984B2 (en) * 2013-03-14 2015-08-04 Immersion Corporation Haptic effects broadcasting during a group event
DE102013214201A1 (de) 2013-07-19 2015-01-22 Volkswagen Aktiengesellschaft Verfahren zur Steuerung einer Kraftfahrzeug-Klimaanlage
US9672703B2 (en) * 2013-08-28 2017-06-06 Subpac, Inc. Multistage tactile sound device
US9613506B2 (en) * 2014-05-30 2017-04-04 Apple Inc. Synchronization of independent output streams
US9226090B1 (en) * 2014-06-23 2015-12-29 Glen A. Norris Sound localization for an electronic call
KR101641418B1 (ko) 2014-07-25 2016-07-20 포항공과대학교 산학협력단 청각 주목도에 기반한 햅틱 신호 생성 방법 및 이를 위한 장치
JP2017182496A (ja) * 2016-03-30 2017-10-05 ソニー株式会社 制御装置、制御方法およびプログラム
US10649529B1 (en) 2016-06-28 2020-05-12 Apple Inc. Modification of user-perceived feedback of an input device using acoustic or haptic output
US10976821B2 (en) 2016-07-07 2021-04-13 Sony Corporation Information processing device, information processing method, and program for controlling output of a tactile stimulus to a plurality of tactile stimulus units
US10699538B2 (en) * 2016-07-27 2020-06-30 Neosensory, Inc. Method and system for determining and providing sensory experiences
US10713908B2 (en) 2016-09-30 2020-07-14 Sony Corporation Content providing system, control apparatus, and reception apparatus
JP2018060313A (ja) 2016-10-04 2018-04-12 ソニー株式会社 受信装置および方法、送信装置および方法、並びにプログラム
CN106774891A (zh) * 2016-12-15 2017-05-31 北京小鸟看看科技有限公司 虚拟现实场景的音效产生方法、设备及虚拟现实设备

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5559499A (en) * 1978-10-30 1980-05-02 Bodysonic Kk Sound system in theater or like
JPS57148980U (ja) * 1981-03-11 1982-09-18

Also Published As

Publication number Publication date
US11228855B2 (en) 2022-01-18
CN110892734B (zh) 2021-11-05
CN110892734A (zh) 2020-03-17
JP7140120B2 (ja) 2022-09-21
EP3654665A1 (en) 2020-05-20
US20210152962A1 (en) 2021-05-20
EP3654665A4 (en) 2020-05-27
WO2019013055A1 (ja) 2019-01-17

Similar Documents

Publication Publication Date Title
US20070180979A1 (en) Portable Music Player with Synchronized Transmissive Visual Overlays
US20100240945A1 (en) Respiratory biofeedback devices, systems, and methods
CN107847744A (zh) 用于神经调节的装置和方法
JPWO2017175689A1 (ja) システム、端末装置、方法及び記録媒体
JP6396351B2 (ja) 心身状態推定装置、心身状態推定方法、およびアイウエア
US20120269360A1 (en) Large Scale Participatory Entertainment Systems For Generating Music Or Other Ordered, Discernible Sounds And/Or Displays Sequentially Responsive To Movement Detected At Venue Seating
JP7140120B2 (ja) 情報処理装置、情報処理方法、およびプログラム
WO2019163260A1 (ja) 情報処理装置、情報処理方法、およびプログラム
IL275071B1 (en) Communication system and method
CN109040462A (zh) 行程提醒方法、装置、存储介质及穿戴式设备
JP7040527B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP2019208876A (ja) 呼吸センサ、呼吸検出装置、生体情報処理装置、生体情報処理方法、コンピュータプログラム及びマインドフルネス支援装置
Trepkowski et al. Multisensory proximity and transition cues for improving target awareness in narrow field of view augmented reality displays
WO2021145452A1 (ja) 情報処理装置及び情報処理端末
WO2020235307A1 (ja) コンテンツ提供システム、出力装置、及び情報処理方法
JPWO2018079850A1 (ja) 信号処理装置、信号処理方法およびプログラム
WO2021145451A1 (ja) 情報処理装置及び情報処理端末
WO2021145454A1 (ja) 情報処理装置、情報処理端末及びプログラム
US20220353457A1 (en) Information processing apparatus, information processing method, and program
JP6523038B2 (ja) 感覚提示装置
JP2008515584A (ja) セックス・プレー中にフィードバックを与えるためのコンピュータ実装方法およびシステム
JP2021052965A (ja) 上映施設
WO2021145025A1 (ja) 情報処理装置、情報処理端末及びプログラム
US11696088B1 (en) Method and apparatus to generate a six dimensional audio dataset
KR101842701B1 (ko) 심장박동 측정 기술을 활용한 방송 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210520

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220822

R151 Written notification of patent or utility model registration

Ref document number: 7140120

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151