WO2020080432A1 - 情報処理装置、情報処理方法、および、プログラム - Google Patents

情報処理装置、情報処理方法、および、プログラム Download PDF

Info

Publication number
WO2020080432A1
WO2020080432A1 PCT/JP2019/040744 JP2019040744W WO2020080432A1 WO 2020080432 A1 WO2020080432 A1 WO 2020080432A1 JP 2019040744 W JP2019040744 W JP 2019040744W WO 2020080432 A1 WO2020080432 A1 WO 2020080432A1
Authority
WO
WIPO (PCT)
Prior art keywords
tactile
presentation device
information
control
haptic
Prior art date
Application number
PCT/JP2019/040744
Other languages
English (en)
French (fr)
Inventor
伊藤 鎮
猛史 荻田
洋平 福馬
山野 郁男
諒 横山
津田 崇基
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to CN201980067144.XA priority Critical patent/CN112840294B/zh
Priority to US17/284,572 priority patent/US11738262B2/en
Priority to EP19874248.8A priority patent/EP3869300A4/en
Priority to JP2020553254A priority patent/JP7452430B2/ja
Publication of WO2020080432A1 publication Critical patent/WO2020080432A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/28Output arrangements for video game devices responding to control signals received from the game device for affecting ambient conditions, e.g. for vibrating players' seats, activating scent dispensers or affecting temperature or light
    • A63F13/285Generating tactile feedback signals via the game input device, e.g. force feedback
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/44Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment involving timing of operations, e.g. performing an action within a time slot
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/54Controlling the output signals based on the game progress involving acoustic signals, e.g. for simulating revolutions per minute [RPM] dependent engine sounds in a driving game or reverberation against a virtual wall
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/30Creation or generation of source code
    • G06F8/38Creation or generation of source code for implementing user interfaces

Definitions

  • the present disclosure relates to an information processing device, an information processing method, and a program.
  • Patent Document 1 discloses a wearable receiving device that is configured in a vest shape that is worn by a user and that has a vibrating portion around the chest and abdomen, and is included in a receiving area for receiving a radio signal. , And a system that can only vibrate devices in a particular area.
  • a speaker is provided on the shoulder of the wearable receiving device described in Patent Document 1 below, and it becomes possible to present a realistic tactile sensation and sound by the vibration of the vibrating unit and the sound of the speaker.
  • a tactile presentation device that presents tactile stimuli such as vibrations to a user can enhance the sense of presence by controlling in synchronization with the playback content viewed by the user in attractions such as movie theaters and theme parks. Is possible. However, a system for generating control data of the tactile sense presentation device and reproducing the control data, assuming that the control is performed in synchronization with the reproduced content, has not yet been sufficiently constructed.
  • a control unit that generates a script in which time information of reproduced content and a control command of a haptic presentation device are associated with each other is provided, and the control command is a perceptual position that causes a haptic stimulus to be perceived by the haptic presentation device.
  • an information processing device including position information indicating the above and tactile stimulus type information designating the type of the tactile stimulus.
  • the processor includes generating a script that associates time information of the reproduced content with a control command of the tactile presentation device, the control command causing the tactile presentation device to perceive a tactile stimulus.
  • An information processing method including position information indicating a perceptual position and tactile stimulus type information designating the type of the tactile stimulus is proposed.
  • a computer is caused to function as a control unit that generates a script in which time information of reproduction content and a control command of a tactile presentation device are associated with each other, and the control command causes tactile stimulation in the tactile presentation device.
  • a program including position information indicating a perceived perceptual position and tactile stimulation type information designating the type of the tactile stimulation is proposed.
  • a control unit that generates a tactile control signal to be input is provided, and the command includes position information indicating a perceptual position at which a tactile stimulation is perceived in the tactile presentation device, and tactile stimulation type information that specifies a type of the tactile stimulation,
  • the control unit according to the arrangement of one or more tactile stimulation units provided in the tactile presentation device, a tactile control signal to each tactile stimulation unit for presenting the specified type of tactile stimulation at the perceptual position.
  • 6 is a flowchart showing an example of the overall flow of operation processing on the reproduction side using the script according to the first embodiment. It is a figure explaining an example of command processing in a control signal generation part of a tactile sense presentation device by a 1st embodiment. It is a figure which shows an example of the script containing the offset information by 1st Embodiment. 6 is a flowchart showing an example of the overall flow of command execution processing in the haptic presentation device control device 20 in consideration of offset information according to the first embodiment. It is a figure explaining the case where the tactile sense presentation position moves by a line shape by a 1st embodiment. It is a figure explaining the construction example of the system which does not go through the 4D system by the 1st modification of 1st Embodiment.
  • FIG. 11 is a flowchart showing an example of the overall flow of operation processing on the reproduction side of the information processing system according to the first modified example of the first embodiment. It is a figure explaining distribution of the tactile sense control signal according to profile information of each tactile sense presentation device by the 2nd modification of a 1st embodiment. It is a figure which shows an example of the script described for every profile type by the 2nd modification of 1st Embodiment. It is a figure which shows an example of the structure which arranged the vibration actuator and resistance by 3rd modification of 1st Embodiment in series.
  • FIG. 14 is a diagram illustrating an example of presenting tactile stimuli when viewing content by TV broadcasting or Internet distribution according to a fourth modified example of the first embodiment.
  • FIG. 11 is a diagram illustrating an example of presenting tactile stimuli when viewing content recorded on a recording medium according to a fourth modification of the first embodiment. It is a figure explaining the tactile sense presentation system in the internet game by the 5th modification of 1st Embodiment. It is a figure which shows an example of the script which described the control command for every action by the 5th modification of 1st Embodiment. It is a figure explaining the time code delivery system by optical communication by the 6th modification of 1st Embodiment.
  • An information processing system relates to a system that generates and reproduces control data for a haptic presentation device assuming that control is performed in synchronization with reproduction content, and reduces processing load and improves convenience.
  • the tactile presentation device 2 (see FIG. 1) used in the present disclosure will be described below.
  • the tactile presentation device 2 is assumed to be used at a movie theater or an attraction in a theme park, or at the time of watching TV at home or playing a game.
  • the tactile sense presentation device 2 is formed by, for example, a wearable device. For example, in this embodiment, a vest type worn by a user is assumed.
  • the best type tactile sense presentation device 2 has a plurality of tactile sense stimulators (also referred to as actuators) inside.
  • a predetermined number for example, 6
  • the individual tactile stimulation units arranged on the front side and the individual tactile stimulation units arranged on the back side are arranged in a facing relationship.
  • the shape of the tactile presentation device 2 is not limited to the vest type (sleeveless outerwear shape), and may be a sleeved outerwear shape. In this case, one or more tactile stimuli may be arranged not only on the chest and abdomen of the user but also at the positions corresponding to both arms of the user.
  • the tactile sense presentation device 2 according to the present embodiment is not limited to the outerwear shape, and may be pants, shoes, a belt, a hat, gloves, a mask, or the like.
  • one sound output unit may be arranged on each of the left and right sides of the shoulder portion of the tactile presentation device 2.
  • only one sound output unit may be arranged in the tactile sense presentation device 2, or three or more sound output units may be arranged.
  • the audio output unit may be arranged in the periphery as another device independent of the tactile sense presentation device 2.
  • This phantom sensation is an illusion phenomenon in which humans perceive only one stimulus between the presented stimulus positions when the stimuli are simultaneously presented to different positions on the skin.
  • a perceptual position the position of the haptic stimulus perceived by the user
  • the range of the tactile stimulation that can be presented by the plurality of tactile stimulation units can be continuously expanded without changing the arrangement interval of each tactile stimulation unit.
  • the relationship (phantom sensation) between the output intensity and the perceived position of each of the two tactile stimulation units will be described.
  • the output intensity of the first tactile stimulation unit is continuously weakened, for example, “1”, “0.6”, and “0” according to the passage of time
  • the second tactile stimulation unit is It is assumed that the output intensity of is continuously increased like “0”, “0.6”, and “1”.
  • the perceptual position perceived by the user can continuously move from the contact position of the first tactile stimulation unit to the contact position of the second tactile stimulation unit.
  • the perceptual position is arbitrarily determined regardless of the position of the tactile stimulation portion, and the strength of the tactile stimulation presented at the perceptual position (referred to as “perceptual strength”). And the type of tactile stimulation (referred to as “tactile stimulation type”) are set.
  • each tactile sense stimulation provided in the tactile sense presentation device 2 in order to present the tactile sense stimulation of the set intensity and the set type at the specified perceptual position. It is necessary to calculate a signal (referred to as "tactile control signal”) input to the unit.
  • the side that produces the perceptual effect of the haptic presentation device 2 that is, the side that generates control data for the haptic presentation device 2
  • the side that controls the haptic presentation device 2 in synchronization with content reproduction and reproduction That is, regarding the system including the side that controls the haptic presentation device 2 using the generated control data
  • vibration stimulation is used as an example of “tactile stimulation”.
  • the tactile sense presentation device 2 is provided with a vibration actuator as a tactile sense stimulus unit to present a vibration stimulus.
  • the “type of tactile stimulus” is a pattern of perception to be presented, and for example, vibration waveform data (perceptual waveform data) is assumed.
  • the “tactile control signal” is waveform data (control waveform data corresponding to a drive signal) input to each tactile stimulation section (vibration actuator) provided in the tactile presentation device 2.
  • FIG. 1 is a diagram showing an example of the overall configuration of an information processing system 1a according to the first embodiment.
  • the information processing system 1a according to the present embodiment includes a generation device 10, a tactile presentation device control device 20, a cinema system 30, a 4D system control device 40, and a verification system 50.
  • the tactile presentation device 2 is used in a movie theater.
  • the cinema system 30 includes a reproduction control device 31, a projector 32, and a screen S.
  • the reproduction control device 31 projects an image (movie content) on the screen S using the projector 32 to show a movie.
  • the cinema system 30 further controls in cooperation with the sound system to reproduce the sound data included in the movie content from the sound system.
  • the playback control device 31 controls the playback of the movie content and outputs the time code indicating the playback position of the movie content to the 4D system control device 40 in real time.
  • the 4D system control device 40 has a function of controlling the 4D technology introduced in the movie theater.
  • the 4D technology refers to a technology in which a new dimension definition different from the current three-dimensional dimension definition such as spatiotemporal is performed, and is used when presenting a real element other than digital content (eg, video). . More specifically, the 4D technology used in movie theaters vibrates and moves according to the screening of a movie, and also releases air (wind), water, fog, light, fragrance, etc. to the audience.
  • a seat device for movie viewing (hereinafter, referred to as a “4D seat”) having a function of performing the above is included.
  • the 4D system control device 40 appropriately controls the vibration of the 4D sheet 4 and the emission of air, water, fragrance, etc.
  • the 4D system control device 40, the 4D sheet 4, and peripheral devices (not shown) for discharging air, water, scent, etc. from the 4D sheet 4 are referred to as a “4D system”.
  • the control of the 4D technology by the 4D system control device 40 according to the time code is performed according to the “4D control information” (4D system file) generated in advance by the generation device 10 on the generation side of the present system.
  • the “4D control information” includes control commands relating to vibration control corresponding to the time code and emission control of air, water, scent, and the like.
  • the detailed contents of the 4D control according to the present embodiment are not particularly limited, and the existing 4D control may be used, for example.
  • the control command of the tactile presentation device 2 included in the generation file generated and acquired in advance by the generation device 10 on the generation side of the present system corresponds to the time axis of the reproduced content.
  • the tactile presentation device control device 20 appropriately controls the tactile presentation device 2. Output the command.
  • the haptic presentation device control device 20 controls the haptic presentation device 2 in accordance with the command received from the 4D system control device 40, so that the haptic stimulus presentation synchronized with the movie (video and audio) and the 4D sheet 4 can be presented. Specifically, the tactile presentation device control device 20 generates a tactile control signal according to the command received from the 4D system control device 40, and outputs it to the tactile presentation device 2.
  • the command includes a perceptual position of the vibration stimulus, a waveform type of the vibration stimulus, and intensity information of the vibration stimulus.
  • the tactile presentation device control device 20 inputs to each tactile stimulation section provided in the tactile presentation device 2 so as to present the vibration stimulation with the specified waveform with the specified intensity at the perceptual position specified by the command. Generates (calculates) a tactile control signal (waveform data) and outputs it.
  • the “vibration stimulus waveform type” is a tactile data library that is generated in advance and stored in the tactile sense LibDB 221 (that is, a basic vibration waveform pattern that can be commonly used in many movies.
  • the generated tactile data is acquired from the generation side (via the 4D system control device 40) and is stored in the storage unit in the tactile presentation device control device 20.
  • a voice signal may be used as the tactile control signal generated by the tactile presentation device control device 20.
  • the tactile sense presentation device 2 is provided with a vibration actuator that is driven based on an input voice signal (for example, the input voice signal can be converted into an excitation signal and output as vibration)
  • the presentation device control device 20 generates and outputs a voice signal (data indicating a waveform of voice) input to each tactile stimulation unit as a tactile control signal (driving signal).
  • the tactile presentation device 2 can be easily provided even in a movie theater where the 4D system is already built. Can be introduced and integrated into the system.
  • the generation device 10 generates control information of the 4D system (4D control information) and control information of the tactile presentation device 2 according to the operation of the user (creator).
  • the control information of the tactile presentation device 2 is a script (text data) that describes a control command corresponding to the time code of the reproduced content (for example, movie content).
  • the generation device 10 can also generate perceptual data (tactile data) presented by the tactile presentation device 2 from audio data of reproduced content (for example, sound effects of movie content, BGM, or serif audio).
  • the tactile data (generated tactile data) generated by the generation device 10 is, for example, data indicating a vibration waveform pattern.
  • the generation device 10 includes the generated script and generated tactile data corresponding to the reproduced content in a generation file and distributes the generated file to the 4D system control device 40.
  • the generation file including the 4D control information generated by the generation device 10 and the control information of the tactile presentation device 2 may be distributed to the 4D system control device 40 via a network by wired / wireless communication. You may make it install the storage medium in which the data of was stored in the 4D system control apparatus 40.
  • the verification system 50 includes a control device 52, a haptic presentation device 54, a 4D sheet 56, and a display device 58.
  • the control device 52 reproduces the movie content on the display device 58, drives the 4D sheet 56 and the tactile sense presentation device 54 based on the control information generated by the generation device 10, and actually confirms the sensory experience, and appropriately, The control information can be corrected (feedback).
  • FIG. 2 is a block diagram showing an example of the configuration of the generation device 10 according to this embodiment.
  • the generation device 10 includes a control unit 100, a communication unit 110, an operation input unit 120, a display unit 130, and a storage unit 140.
  • the control unit 100 functions as an arithmetic processing device and a control device, and controls the overall operation in the generation device 10 according to various programs.
  • the control unit 100 is realized by an electronic circuit such as a CPU (Central Processing Unit) and a microprocessor. Further, the control unit 100 may include a ROM (Read Only Memory) for storing programs to be used, calculation parameters and the like, and a RAM (Random Access Memory) for temporarily storing appropriately changing parameters and the like.
  • ROM Read Only Memory
  • RAM Random Access Memory
  • the control unit 100 also functions as a 4D control information generation unit 101, a haptic sense information generation unit 102, and a haptic data generation unit 103.
  • the 4D control information generation unit 101 generates control information (4D control information) for controlling the 4D sheet 4 so as to synchronize with the reproduced content, based on the operation input by the user (creator) (note that the generation device 10 is , Incorporating playback content in advance). For example, the 4D control information generation unit 101 generates a control command indicating the vibration control signal of the 4D sheet 4 associated with the time code of the reproduction content and the control command indicating the emission control signal of air, water, fragrance, or the like. Further, the 4D control information generation unit 101 displays a 4D control information generation screen on the display unit 130, and generates 4D control information based on the user operation content detected by the operation input unit 120. In this specification, details of the 4D control information are not particularly limited, and for example, existing 4D control technology may be used.
  • the tactile presentation information generation unit 102 generates control information for controlling the tactile presentation device 2 so as to synchronize with the reproduced content, based on the operation input by the user (creator). Specifically, the tactile presentation information generation unit 102 generates a script (text data) in which the control command is described in association with the time code of the reproduction content (for example, movie content). The control command includes a perceptual position of the vibration stimulus, a waveform type of the vibration stimulus, and intensity information of the vibration stimulus.
  • the tactile presentation information generation unit 102 also displays a script generation screen on the display unit 130, and generates a script based on the user operation content detected by the operation input unit 120.
  • the script generation screen may be displayed in addition to the 4D control information generation screen.
  • a function of generating a script that is control information of the haptic presentation device 2 (of the haptic presentation information generation unit 102). Function may be provided as a plug-in.
  • An example of a display screen when the script generation function is provided as a plug-in of an existing 4D control information generation application will be described later with reference to FIG.
  • the tactile data generation unit 103 generates a perceptual pattern (that is, tactile data) of the tactile stimulus presented by the tactile presentation information generation unit 102 from the audio data (sound effect, BGM (background music), serif voice, etc.) of the reproduced content.
  • the tactile data generated by the tactile data generation unit 103 from the audio data of the reproduced content is also referred to as “generated tactile data”.
  • the audio data of the reproduced content can be provided as an audio track in movie content, for example. It is assumed that the sound effect sound data is assigned a track together with time information at the timing of occurrence (use) in the movie content.
  • the BGM is a sound source in which tracks are divided for each music used (including time information) and L / R is also separated.
  • the BGM may have separate tracks for not only L / R but also a 5.1ch speaker.
  • the haptic data generation unit 103 allows the user to select which audio track to use, and generates haptic data from the selected audio track.
  • the dialogue voice may be assigned a track together with time information at the timing when it occurs in the movie content.
  • the algorithm for generating tactile data from audio data is not particularly limited.
  • the tactile data generation unit 103 performs processing (spectrum calculation, time differentiation, beat determination, etc.) of extracting a beat component from an audio signal. It is possible to generate a beat waveform, use the generated beat waveform as a gain to amplify at least a predetermined frequency band of the audio signal, generate a beat-enhanced audio signal, and use it as tactile data.
  • the tactile data generation unit 103 refers to the profile information (for example, resonance frequency or the like) of the tactile presentation device 2 stored in the profile DB 143 in the calculation process when extracting the beat component from the audio signal, and sets an appropriate parameter. It may be adjusted.
  • the tactile data may be generated from the speech sound by the creator manually according to the content of the speech, intonation, volume, etc.
  • the communication unit 110 connects to an external device by wire or wirelessly and transmits / receives data.
  • the communication unit 110 is, for example, a wired / wireless LAN (Local Area Network), or Wi-Fi (registered trademark), Bluetooth (registered trademark), a mobile communication network (LTE (Long Term Evolution), 3G (third generation mobile unit). Communication system)) or the like, and data can be transmitted / received to / from an external device via the network.
  • the communication unit 110 transmits, for example, the generated 4D control information, the script, and the generated tactile data to the verification system 50 or the 4D system control device 40 via the network.
  • the operation input unit 120 receives an operation instruction from the user and outputs the operation content to the control unit 100.
  • the operation input unit 120 may be a touch sensor, a pressure sensor, or a proximity sensor.
  • the operation input unit may be a physical structure such as a button, a switch, and a lever.
  • the display unit 130 is a display device that outputs a screen for generating control information and the like.
  • the display unit 130 may be a display device such as a liquid crystal display (LCD: Liquid Crystal Display) or an organic EL (Electro Luminescence) display.
  • LCD Liquid Crystal Display
  • organic EL Electro Luminescence
  • the storage unit 140 is realized by a ROM (Read Only Memory) that stores programs and calculation parameters used in the processing of the control unit 100, and a RAM (Random Access Memory) that temporarily stores parameters that change appropriately.
  • the storage unit 140 according to the present embodiment specifically has, for example, a tactile sense LibDB 141, a generated tactile sense data DB 142, and a profile DB 143.
  • the tactile LibDB 141 stores a tactile data library (vibration waveform pattern) generated in advance.
  • the tactile data library of the tactile LibDB 141 is data common to the tactile LibDB 221 on the theater side.
  • the tactile data library of the movie theater side does not have to be transmitted to the movie theater side without the target tactile data being transmitted to the movie theater side.
  • the presentation of the tactile stimulus based on can be performed. Accordingly, it is possible to reduce the amount of data distributed to the 4D system control device 40.
  • the generated tactile data DB 142 stores the generated tactile data (vibration waveform pattern) generated by the generation device 10 based on the audio data of the reproduced content.
  • the generated tactile data is included in a generated file together with the script and distributed to the 4D system control device 40.
  • the profile DB 143 stores profile information of the tactile presentation device 2 used in a movie theater. Specifically, information such as the number of vibration actuators of the tactile presentation device 2 and their positions (x, y), transient response characteristics (1 to 5), and resonance frequency (Hz) is stored as profile information. Based on the profile information, for example, the tactile presentation information generation unit 102 generates and displays a perceptual position selection screen (displays the placement of the vibration actuator), calculates the delay amount in the tactile presentation device 2, and outputs the script. Offset information for the time axis can be set in the control code. In addition, when the tactile data generation unit 103 generates tactile data from audio data, it is possible to refer to the profile information and appropriately adjust parameters. By using the tactile presentation device 54 of the verification system 50 having the same profile as the tactile presentation device 2, the experience confirmation can be performed more reliably.
  • the configuration of the generation device 10 according to this embodiment has been specifically described above.
  • the configuration of the generation device 10 is not limited to the example illustrated in FIG. 2, and for example, a part of the generation device 10 may be provided in an external device.
  • FIG. 3 is a block diagram showing an example of the configuration of the tactile presentation device control device 20 according to the present embodiment.
  • the tactile presentation device control device 20 includes a control unit 200, a communication unit 210, and a storage unit 220.
  • the control unit 200 functions as an arithmetic processing unit and a control unit, and controls overall operations in the tactile presentation device control unit 20 according to various programs.
  • the control unit 200 is realized by an electronic circuit such as a CPU (Central Processing Unit) and a microprocessor.
  • the control unit 200 may include a ROM (Read Only Memory) that stores programs to be used, operation parameters, and the like, and a RAM (Random Access Memory) that temporarily stores parameters that appropriately change.
  • the control unit 200 also functions as the control signal generation unit 201 and the output control unit 202.
  • the control signal generation unit 201 drives the one or more vibration actuators provided in the tactile presentation device control device 20 to control the tactile control signal (control input to each vibration actuator. Signal).
  • the command includes the perceptual position (the position where the tactile stimulus is presented), the perceptual intensity (the intensity of the tactile stimulus), and the type of the tactile stimulus.
  • the control signal generation unit 201 specifies a plurality of vibration actuators according to the perceptual position and the perceptual intensity specified by the command so that the perceptual position perceives a predetermined perceptual intensity, and determines the vibration intensity at each vibration actuator.
  • Each control signal that is determined (calculated) and output to each of the plurality of vibration actuators is generated.
  • the tactile stimulus is presented at a position other than the arrangement position of each vibration actuator by adjusting the output intensity of the plurality of vibration actuators based on the phantom phenomenon called phantom sensation. Is possible.
  • control signal generation unit 201 determines the positional relationship (distance) between a plurality of vibration actuators located near the specified perceptual position and the specified perceptual position, and the specified perceptual intensity. Based on this, the output intensity of each of the plurality of vibration actuators is calculated so as to present a predetermined perceptual intensity at the perceptual position. Further, the control signal generation unit 201 generates the waveform pattern of the generated control signal according to the type of tactile stimulus designated by the command. The type of tactile stimulus specified by the command is assumed to be the tactile data library stored in the tactile libDB 221 or the generated tactile data stored in the generated tactile data DB 222.
  • the “perceived position” may include a movement route of the perceived position (perceptual route).
  • the “perceived position” includes not only the surface of the body but also the inside of the body.
  • the perceptual range may be included in the command.
  • the perceptual range may be, for example, a circle or an arc having a radius.
  • the element such as uniform intensity within the perceptual range, whether the tactile stimulus spreads in concentric circles (in that case, how fast it spreads), and whether the tactile stimulus goes from the outer circumference to the center in the concentric circles. It is also possible to do These element designations can be defined in the “tactile presentation position” included in the control command described in the script (“origin (x, y), radius”, etc.).
  • the output control unit 202 sends each haptic control signal generated by the control signal generation unit 201 to the haptic presentation device 2 (or the vibration actuator of the haptic presentation device 2) by the haptic presentation device I / F 212, It has a function of controlling vibration output (presentation of tactile stimuli) of the tactile presentation device 2.
  • the communication unit 210 connects to an external device by wire or wirelessly and transmits / receives data.
  • the communication unit 210 is, for example, a wired / wireless LAN (Local Area Network), or Wi-Fi (registered trademark), Bluetooth (registered trademark), a mobile communication network (LTE (Long Term Evolution), 3G (third generation mobile unit). Communication system)) or the like, and data can be transmitted / received to / from an external device via the network.
  • the communication unit 210 has a system I / F 211 and a tactile presentation device I / F 212.
  • the system I / F 211 is a communication unit that sends and receives data to and from the system.
  • the system I / F 211 is communicatively connected to the 4D system, the 4D system control device 40 refers to the script, and the command issued according to the time code acquired from the cinema system 30 or the 4D system control device 40 from the generation device 10.
  • the generated tactile data extracted from the acquired generated file is received.
  • the tactile presentation device I / F 212 is a communication unit that transmits and receives data to and from the tactile presentation device 2.
  • the haptic presentation device I / F 212 acquires profile information from the haptic presentation device 2 or transmits the haptic control signal generated by the control signal generation unit 201 to the haptic presentation device 2.
  • the storage unit 220 is realized by a ROM (Read Only Memory) that stores programs and calculation parameters used in the processing of the control unit 200, and a RAM (Random Access Memory) that temporarily stores parameters that change appropriately.
  • the storage unit 220 according to the present embodiment specifically has, for example, a haptic LibDB 221, a generated haptic data DB 222, and a profile DB 223.
  • the tactile LibDB 221 stores a tactile data library (vibration waveform pattern) generated in advance.
  • the generated tactile data DB 222 stores the generated tactile data (vibration waveform pattern) generated by the generation device 10 based on the audio data of the reproduced content.
  • the generated tactile data can be extracted from the generated file acquired by the 4D system control device 40 from the generation device 10 and transmitted from the 4D system control device 40 via the system I / F 211.
  • the profile information of the tactile presentation device 2 is stored in the profile DB 223. Specifically, for example, the number and position (x, y) of vibration actuators of the tactile presentation device 2, transient response characteristics (1 to 5), resonance frequency (Hz), frequency characteristics (dB), maximum input voltage (Vpp ), Processing (delay) time (ms), and version information (ID) are stored as profile information.
  • the number of vibration actuators is the total number of vibration actuators provided in the tactile presentation device 2. Further, the position of the vibration actuator may be indicated by coordinates (x, y) with the center of the tactile presentation device 2 as the origin.
  • the coordinate system of the vibration actuator provided on the front surface of the tactile presentation device 2 and the coordinate system of the vibration actuator provided on the back surface may be included.
  • the transient response characteristic is a reaction degree until the tactile presentation device 2 correctly follows the input signal from the stationary state (as an example, the reaction degree may be divided into 1 to 5 levels).
  • the resonance frequency is a frequency at which the vibration actuator efficiently vibrates.
  • the frequency characteristic is the acceleration of each frequency when the acceleration of the resonance frequency is 0 (dB) (for example, indicated by a combination of “frequency, dB value”).
  • the maximum input voltage is the maximum voltage value that can be applied during normal use (for example, Peak to Peak value of signal waveform).
  • the processing (delay) time is a signal processing time expected on the side of the tactile sense presentation device 2, and a delay corresponding to this time occurs.
  • each vibration actuator is shown in a coordinate system in the x-axis direction (-5 to 5) and the y-axis direction (-5 to 5) with the center of the tactile presentation device 2 as the origin (0,0).
  • the configuration of the tactile presentation device control device 20 according to the present embodiment has been specifically described above. Note that the configuration of the tactile presentation device control device 20 is not limited to the example illustrated in FIG. 3, and for example, a part of the tactile presentation device control device 20 may be provided in an external device.
  • FIG. 4 is a flowchart showing an example of the overall flow of control information generation processing of the haptic presentation device 2 on the generation side of the information processing system according to this embodiment.
  • the control unit 100 of the generation device 10 receives the selection by the user (creator) of the tactile presentation location on the time axis of the reproduced content (step S103).
  • the control unit 100 presents the edit screen 1300 as shown in FIG. 5 on the display unit 130.
  • the waveform of the audio data (L / R) of the reproduced content is displayed on the time axis, and further, the setting screen 1320 for the 4D sheet and the setting screen 1330 for the tactile presentation device 2 are displayed. There is.
  • the user can make the 4D sheet 4 and the tactile presentation device 2 vibrate on the setting screen 1320 and the setting screen 1330.
  • On the setting screen 1320 and the setting screen 1330 a time axis corresponding to the reproduced content is presented, and it is possible to specify a time zone in which vibration or the like is generated in the 4D sheet 4 or the tactile presentation device 2.
  • the user specifies the time zone 1331 in which the tactile sense presentation device 2 should generate vibration on the time axis displayed on the setting screen 1330 for the tactile sense presentation device 2 by swiping or the like.
  • a detailed setting screen 1340 for making more specific settings as shown in FIG. 6 is displayed.
  • selection of a haptic type (waveform type of vibration stimulation) described below step S109
  • setting of a haptic presentation position step S112
  • adjustment of perceptual intensity step S115. You can do it.
  • step S109 In the selection of the tactile type (waveform type of the vibration stimulus) (step S109), as shown in the detailed setting screen 1340 of FIG. 6, in addition to the selection (selection) from the tactile library generated in advance (for example, a typical waveform pattern). It is possible to select from the tactile data generated from the audio data of the reproduced content (see screen 1344) (see selection screen 1345).
  • the control unit 100 causes the tactile data generation unit 103 to change the sound data based on the selected sound data.
  • Tactile data is generated (step S121).
  • the sound data can be selected by a rectangle surrounding the waveform data of each sound (sound effect / BGM / serif sound) on the selection screen 1345 shown in FIG.
  • the user selects, for example, the waveform data from the selection screen 1344 or the selection screen 1345, and moves it to an arbitrary haptic presentation position (or haptic presentation route) by a drag & drop operation, so that the haptic presentation position (or haptic presentation route) is displayed.
  • the type of tactile stimulus in can be set. The set type of tactile stimulus is displayed corresponding to the time axis in the time series display image 1342 shown in FIG. 6, for example.
  • the function of generating tactile data from the audio data of the reproduced content described above can be added as a plug-in 2 to an existing 4D system editing application.
  • the user can arbitrarily set the perceptual position (or perceptual path). For example, in the setting screen 1341 showing the positions 521a to 521i of the respective vibration actuators of the tactile presentation device 2 as shown in FIG. 6, the perceptual position 523 and the route 524 along which the perceptual position 523 moves are tapped, clicked, swiped, etc. It can be specified by operation.
  • step S115 the user can arbitrarily set the perceptual intensity at the perceptual position (or perceptual path).
  • the set perceptual intensity is displayed corresponding to the time axis in the time series display image 1343 shown in FIG. 6, for example.
  • the control unit 100 outputs the set perceptual position, tactile type, and strength information to the verification system 50 (step S124).
  • the control device 52 generates (calculates) a haptic control signal to be input to the vibration actuator of the haptic presentation device 54 based on the information of the perceptual position, the haptic type, and the intensity acquired from the generating device 10, Output to the tactile presentation device 54.
  • This allows the tactile presentation device 54 to verify the sensation when the tactile presentation device 2 is actually driven with the set contents. Therefore, it is desirable that the profile of the tactile presentation device 54 is similar to that of the tactile presentation device 2.
  • steps S103 to S124 described above is repeated until all the designs related to the playback content are completed (step S127 / No). It should be noted that, basically, when the intention of changing or adding the tactile sense presentation location on the time axis of the reproduced content is explicitly indicated by the user operation by repeating the processing from S106, the process may proceed to step S103.
  • the haptic sense information generation unit 102 When all the designs related to the reproduced content are completed (step S127 / Yes), the haptic sense information generation unit 102 generates a script based on the set perceptual position, haptic type, and strength information (step S130). Specifically, the tactile sense presentation information generation unit 102 generates text data in which a control command is associated with a time code (time axis) of the reproduced content. The control command includes information on the perceived position, the tactile type, and the strength. The control command may be encrypted.
  • the generated tactile data is also included in the generated script, it is included in the “generated file” and distributed to the playback side (for example, the 4D system control device 40). Further, the 4D control information generated by the generation device 10 is also distributed to the reproduction side.
  • the script generation function described above can also be added as a plug-in 1 to an existing 4D system editing application.
  • FIG. 7 is a flowchart showing an example of the overall flow of operation processing on the reproduction side using the script according to the present embodiment.
  • the playback side is a movie theater and the playback content is movie content.
  • step S153 when the reproduction control device 31 starts reproduction of the movie content (step S153), the time code indicating the reproduction position in the movie content is distributed to the 4D system control device 40 (step S156). Delivery of the time code is repeated until the reproduction of the movie content is completed (step S159).
  • the 4D system control device 40 acquires (from the generation device 10) the 4D control information and the generated file including at least the script (step S162).
  • the 4D system control device 40 transmits the generated tactile data to the tactile presentation device control device 20 (step S165).
  • the tactile presentation device control device 20 saves the generated tactile data received from the 4D system control device 40 (step S168).
  • the 4D system control device 40 refers to the 4D control information according to the time code and drives the 4D system (step S171).
  • the 4D system control device 40 refers to the script in accordance with the same time code and performs command issuing processing (step S174). Specifically, the 4D system control device 40 extracts a control command corresponding to the distributed time code from the script description and issues it as a command (which may be an encrypted command).
  • the 4D system control device 40 issues a command to the tactile presentation device control device 20 (step S177).
  • the 4D system control device 40 repeats the processes of steps S171 to S177 until the reception of the time code from the reproduction control device 31 is completed (step S180).
  • the 4D system control device 40 issues an end command to the tactile presentation device control device 20 and ends the process.
  • the tactile sense device control device 20 causes the control signal generation unit 201 to perform the tactile control signal (based on the command).
  • a voice signal for driving the vibration actuator may be generated) (step S186).
  • the tactile presentation device control device 20 outputs the generated tactile control signal to the tactile presentation device 2 (or each vibration actuator of the tactile presentation device 2) (step S189).
  • FIG. 8 is a diagram illustrating an example of command processing in the control signal generation unit 201 of the tactile presentation device 2 according to the present embodiment.
  • the control signal generation unit 201 of the haptic presentation device control device 20 analyzes the input command and determines the waveform type, the haptic presentation position, the strength, and the offset information (details). Will be extracted later). If the command is encrypted, the control signal generation unit 201 decrypts the command and extracts the waveform type, the tactile presentation position, the strength, and the offset information.
  • the control signal generation unit 201 acquires the haptic library or generated haptic data based on the waveform type (basically, it is used from the beginning of the target waveform data. If there is additional information such as "use from location", follow that).
  • the control signal generation unit 201 considers the acquired tactile data and the tactile presentation position, and specifies a plurality of vibration actuators and calculates a tactile control signal (waveform data) to be input to each vibration actuator.
  • the control signal generation unit 201 refers to the profile information (number / position of vibration actuators, transient response characteristics, resonance frequency, frequency characteristics) of the tactile presentation device 2.
  • control signal generation unit 201 performs Gain adjustment such as amplification or attenuation of the signal amplitude of the tactile control signal output to each vibration actuator calculated above, based on the “strength” extracted from the command.
  • the control signal generation unit 201 refers to the profile information at the time of amplifying the signal amplitude, and calculates so that the output does not exceed the “maximum input voltage”. Further, when the signal amplitude is attenuated, a calculation of “0” may be performed when the signal level becomes equal to or lower than a predetermined level. This makes it possible to cut fine noise.
  • the control signal generation unit 201 considers the delay amount of the preceding stage (the delay amount generated in the processing in the control signal generation unit 201 from the command input to this point), Signal delay processing based on the offset information is performed. Specifically, for example, when the offset information is set to 4s and the delay amount of the preceding stage is 3s, the generated tactile control signal is output to the tactile sense presentation device 2 after 1s. Furthermore, the control signal generation unit 201 may perform signal delay by subtracting the amount of “processing time” generated in the subsequent stage (for example, data transmission with the haptic presentation device 2 or the amount of processing delay in the haptic presentation device 2). Good.
  • the delay amount in the preceding stage is 2 s, but when the information that the “processing time” occurring in the subsequent stage is 2 s is acquired from the profile information, these are subtracted.
  • the haptic control signal may be output to the haptic presentation device 2 after the remaining 1 s. If the offset information is not set, the signal delay process is skipped.
  • the haptic sense device controller 20 on the reproducing side generates a haptic control signal based on the control command described in the script, and the data received from the generator 10 side is a text having a relatively small data capacity. Since a script consisting of data is sufficient, it is possible to reduce the data distribution amount between the generation side and the reproduction side.
  • the tactile presentation device control apparatus 20 presents tactile presentation at a timing in consideration of the offset information. It is possible to control the device 2 (execute commands).
  • the offset information can be set when the script is generated in the generation device 10.
  • the tactile presentation information generation unit 102 sets the offset information with respect to the time axis automatically in consideration of the processing delay amount on the reproduction side (for example, the processing delay amount of the tactile presentation device control device 20) or arbitrarily by the user. It is possible.
  • FIG. 9 is a diagram showing an example of a script including offset information according to this embodiment. As shown in FIG. 9, it is assumed that a script in which a control command (which may be encrypted) including tactile presentation position, waveform type, intensity, and offset information is associated with the time axis.
  • a control command which may be encrypted
  • the 4D system control device 40 issues the associated command (including the offset information) to the tactile presentation device control device 20 according to the time code issued from the reproduction control device 31.
  • the tactile presentation device control device 20 executes the command after a lapse of the offset information included in the command (specifically, the tactile presentation device 2 generates the tactile control signal generated according to the command). Output).
  • the processing delay amount that may occur in the tactile presentation device control device 20 can be eliminated.
  • the control command in the first stage written in the script is issued to the tactile sense presentation device control device 20 at the timing of the time code 0s, and the offset information is “0 (s)”.
  • the presentation device control device 20 immediately generates a tactile control signal and outputs it to the tactile presentation device 2.
  • the control command of the second stage described in the script of FIG. 9 is issued to the tactile sense presentation device control device 20 at the timing of the time code 1s, but since the offset information is “2 (s)”, the tactile sense presentation is performed.
  • the device control device 20 outputs the generated tactile control signal to the tactile sense presentation device 2 (executes the command) 2s after receiving the command.
  • the control command in the second stage is actually executed at the timing of "3s".
  • the setting of the offset information “2 (s)” creates a margin in the processing time of the tactile sense presentation device control device 20, and the processing delay amount in the tactile sense presentation device control device 20 can be eliminated.
  • FIG. 10 is a flowchart showing an example of the overall flow of command execution processing in the haptic presentation device control device 20 considering offset information according to the present embodiment.
  • the tactile presentation device control device 20 when the tactile presentation device control device 20 receives a command from the 4D system control device 40 (step S203), it acquires the offset information (n seconds) included in the command (step S206).
  • the tactile presentation device control device 20 performs the n-1 calculation process (step S212) until n becomes 0 or less. Repeat every 1 second.
  • the tactile presentation device control device 20 executes the command (step S215).
  • the tactile sense presentation device control apparatus 20 can perform the tactile sense control signal generation process based on the command in parallel with the processes of steps S206 to S212 after the command is received.
  • the offset information and the subtraction value shown in step S212 may be values below the decimal point.
  • the tactile presentation device control apparatus 20 may determine the timing of execution by observing the elapsed time after receiving the command and comparing it with the offset information.
  • the order of command reception and the order of command execution may not match depending on the offset information.
  • the tactile data generating unit 103 also outputs the same sound. It is possible to automatically select the tactile presentation position and strength based on the data and present them to the user as recommended values. For example, when sound effect, BGM, or serif is selected on the selection screen 1345 of FIG. 6, the tactile data generation unit 103 generates tactile data (waveform pattern) based on the selected audio data and outputs the same audio data.
  • the tactile presentation position (perceived position) and strength (perceived strength) based on the calculated tactile sense can be automatically calculated and presented as recommended values on the setting screen 1341 in FIG. 6, for example. The user can also change the recommended value presented.
  • the presentation of the recommended value of the tactile presentation position is not limited to the movement in the point shape as shown in FIG. 6, and the vertical or vertical movement in the line shape (which may include a straight line or a curve) as shown in FIG. It is also possible to present lateral (diagonal) movement (or rotation). Note that such a linear movement can be similarly input when the user arbitrarily sets the perceptual position.
  • the tactile presentation position suitable for the moving direction of the sound source is presented.
  • the recommended value of the strength for example, the strength suitable for the volume (volume) of the selected audio data may be presented.
  • the tactile sense presentation information generation unit 102 may not reflect a small volume below a predetermined value.
  • the tactile data generation unit 103 may recommend the tactile lib data when the tactile data generated from the voice data is close to the existing tactile lib data.
  • the amount of data to be distributed can be reduced by selecting a tactile lib that the creator does not understand.
  • AMP an AMP (amplifier) is provided on the tactile presentation device control device 20 side (installed at one place) ) Is preferred.
  • the tactile presentation device 2 when the tactile presentation device 2 is wirelessly connected to the tactile presentation device control device 20, it is a heavy load to wirelessly deliver the amplified data. Therefore, an AMP (amplifier) or a battery should be provided on the tactile presentation device 2 side. preferable.
  • the tactile presentation device 2 When the tactile presentation device 2 is connected to the 4D sheet 4 by wire and a control signal is output from the tactile presentation device controller 20 to the tactile presentation device 2 via the 4D system controller 40 and the 4D sheet 4 (in this case, The function of the tactile presentation device control device 20 may be added to the 4D system control device 40), and the AMP is preferably provided on the 4D sheet 4 side.
  • the tactile presentation device 2 When the tactile presentation device 2 is wirelessly connected to the 4D sheet 4 and a control signal is output from the tactile presentation device controller 20 to the tactile presentation device 2 via the 4D system controller 40 and the 4D sheet 4 (in this case, Since the function of the tactile presentation device control device 20 may be added to the 4D system control device 40) and wireless distribution of amplified data is heavy, the AMP (amplifier) and the battery are installed on the tactile presentation device 2 side. It is preferable to provide.
  • ch e.g., tactile sense
  • 12 ch may be provided.
  • data transmission may be performed using parallel / serial conversion.
  • data transmission can be performed on one channel even for a plurality of vibration actuators.
  • a delay corresponding to serial / parallel conversion occurs on the tactile presentation device 2 side.
  • the tactile presentation device control device 20 when performing parallel / serial conversion output and performing serial communication with the tactile presentation device 2, it is necessary to make the communication speed faster than in the case of parallel communication. Even assuming an example, delays can occur. That is, for example, when converting four parallel data into one serial data, it is desirable to increase the communication speed to four times or more, but assume the shortest example such as four times the communication speed and zero conversion delay.
  • the delay amount generated in the haptic presentation device 2 is, for example, continuous data when packet communication is used for data transmission between the haptic presentation device control device 20 and the haptic presentation device 2. Processing delay and transmission delay due to packetization may occur. Also in this case, "separate delay" may be set and offset information may be used in advance.
  • parallel / serial conversion may be performed with digital data and the AMP may be provided on the tactile presentation device 2 side.
  • the tactile control signal (tactile waveform data) transmitted to the tactile presentation device 2 may be frequency-shifted to perform frequency multiplex communication in each channel (in this case, the AMP is provided on the tactile presentation device 2 side).
  • the 4D system control device 40 acquires the time code from the playback control device 31, refers to the script, and responds to the tactile presentation device control device 20 according to the time code.
  • the command is issued as appropriate, the present disclosure is not limited to this, and it is possible to construct a system that does not include the 4D system. For example, when the tactile presentation device 2 is used in a movie theater where the 4D system is not installed, or when a control system for the tactile presentation device 2 is constructed regardless of the 4D system even if the 4D system is installed. is assumed.
  • FIG. 12 is a diagram illustrating a configuration example of a system that does not include the 4D system according to the first modified example of the first embodiment.
  • the information processing system 1b illustrated in FIG. 12 includes a generation device 10A and a tactile presentation device control device 20A.
  • the generation device 10A has a configuration that does not include the 4D control information generation unit 101 in the configuration of the generation device 10 shown in FIG.
  • the tactile presentation device control device 20A acquires the generation file including at least the script generated by the generation device 10A.
  • the tactile presentation device control device 20A executes the command as appropriate with reference to the script.
  • the tactile presentation device control device 20A extracts the corresponding control command from the script based on the time code received from the reproduction control device 31 (decrypts this if it is encrypted), A haptic control signal is generated according to the control command and is output to the haptic presentation device 2 (or each vibration actuator of the haptic presentation device 2).
  • FIG. 13 shows a diagram illustrating an example of construction of a system (information processing system 1b ') which does not have the 4D system according to the present modification.
  • the configuration of the generation side is omitted, but in this case as well, the information processing system 1b ′ includes the generation device 10A and the tactile presentation device control device 20A.
  • FIG. 14 is a flowchart showing an example of the overall flow of operation processing on the reproduction side of the information processing system 1b according to the present modification.
  • the reproduction control device 31 starts reproducing the movie content (step S303)
  • the reproduction control device 31 delivers the time code indicating the reproduction position in the movie content to the tactile presentation device control device 20A (step S306).
  • the distribution of the time code is repeated until the reproduction of the movie content is completed (step S309).
  • the tactile presentation device control device 20A acquires (from the generation device 10) a generation file including at least a script (step S312). If the control code written in the script is encrypted, the tactile presentation device control device 20A decrypts the control code.
  • the tactile presentation device control device 20A refers to the script in accordance with the time code and executes the command execution process (step S315). Specifically, first, the tactile presentation device control device 20A extracts a time axis control command corresponding to the distributed time code from the script description.
  • the tactile sense presentation device control device 20A generates a tactile sense control signal (which may be a voice signal for driving the vibration actuator) based on the extracted control command (step S318).
  • the tactile presentation device control device 20A outputs the generated tactile control signal to the tactile presentation device 2 (or each vibration actuator of the tactile presentation device 2) (step S321).
  • the tactile presentation device control device 20A repeats the processing shown in steps S315 to S318 until the reception of the time code from the reproduction control device 31 is completed (step S324).
  • the script side (text data) can be delivered from the generation side, so the amount of data can be reduced.
  • FIG. 15 is a diagram illustrating distribution of a haptic control signal according to profile information of each haptic presentation device 2 according to the second modification of the present embodiment.
  • each tactile presentation device 2 (2a to 2e) has different (type) profile information (Pr-A to Pr-E). For example, it is assumed that the number and position of vibration actuators, transient response characteristics, resonance frequency, frequency characteristics, maximum input voltage, processing (delay) time, and the like are different.
  • the tactile presentation device control device 20 can deliver the maximum tactile control signal that can be provided to each tactile presentation device 2 based on the profile information of each tactile presentation device 2.
  • the tactile presentation device control device 20 uses the ID acquired from each tactile presentation device 2 to associate the database with the ID.
  • the profile information may be acquired from (the tactile presentation device control device 20 may have it or may be on the network).
  • the tactile presentation device 2 that suits the user's preference.
  • the user can purchase and use the tactile sense presentation device 2 suitable for his / her physique instead of the common tactile sense presentation device 2 rented out in the movie theater.
  • the tactile sense presentation device 2 can fully exhibit the tactile sensation performance of the tactile sense presentation.
  • the tactile sense presentation device control apparatus 20 can deal with the difference in profile of each tactile sense presentation device 2, so that the generation side (generation apparatus 10) describes the control command based on the standard type profile. This makes it easy to introduce a new tactile presentation device 2 unique to each movie theater.
  • the generation side does not need to generate a new script, and the tactile presentation device control device 20 reflects the profile of the tactile presentation device 2 currently used in the movie theater. This can be dealt with by generating a tactile control signal.
  • the generation side may generate a control command by referring to a standard profile or a predetermined profile, or may generate a control command by type.
  • the generation device 10 may describe the control command for each profile type.
  • an example of the script described for each profile type is shown in FIG.
  • the tactile presentation position (x, y coordinates), waveform type, and intensity are described for each profile type.
  • the offset information may be set in common to the profile types, and the delay for each profile may be managed by the haptic presentation device control device 20 side.
  • the tactile sense presentation device control device 20 generates a tactile sense control signal using a profile type control command corresponding to each of the IDs acquired from the respective tactile sense presentation devices 2. If there is no corresponding profile type, the tactile presentation device control device 20 may use a predetermined standard profile type (eg Pr-A).
  • the child / adult type is determined based on the size of the tactile presentation device 2 (or based on the setting), and the strength in the tactile presentation from each vibration actuator is adjusted. You may do it. That is, the common tactile control signal transmitted from the tactile presentation device control device 20 (the tactile control signal uniformly amplified on the tactile presentation device control device 20 side) is attenuated in the tactile presentation device 2 for each child. To drive the vibration actuator. Alternatively, after the common tactile control signal transmitted from the tactile presentation device control device 20 is amplified in each tactile presentation device 2 by changing the signal amplification rate (for a child, the signal amplification rate is Low, high signal amplification factor for adults), driving vibration actuators.
  • the signal amplification rate for a child, the signal amplification rate is Low, high signal amplification factor for adults
  • FIG. 17 shows an example of a configuration in which a vibration actuator and a resistor are arranged in series.
  • a vibration actuator and a resistor are arranged in series, so that even if the same voltage is applied, the tactile presentation device 2 for a child applies to the actuator as compared with that for an adult.
  • the applied voltage can be halved (it is possible to use the same vibration actuator for adults and children).
  • the tactile presentation device 2 for adults is unable to appreciate the experience due to the age limitation
  • the strength adjustment makes it possible to appreciate the experience. Therefore, movie content such as animation is also a movie to be used by the tactile presentation device 2, which is useful for entertainment. Also, by simplifying the mechanism for adjusting the strength as in the configuration shown in FIG. 17, the tactile presentation device 2 for children can be manufactured at low cost.
  • the system on the reproduction side described above is not limited to watching a movie in a movie theater as described above, and for example, a user wears the tactile presentation device 2 at home, and contents (drama) distributed by TV broadcasting or the Internet. , Movies, documentaries, etc.), the tactile presentation device 2 presents tactile stimuli in synchronism with the reproduction of the content, and it is possible to provide a realistic viewing experience outside the theater. .
  • FIG. 18 is a diagram illustrating an example of presenting tactile stimuli when viewing content by TV broadcasting or Internet distribution.
  • the generated file including at least the script is distributed from the broadcasting station 60 or the streaming server 66 together with the content via TV broadcasting or streaming distribution, as shown in FIG.
  • the distribution of the script may be performed before the reproduction of the content (such as before the start of broadcasting the program).
  • the television device 62 or the PC 68 having the display function reproduces the content, refers to the script based on the time code indicating the reproduction position of the reproduced content, and sequentially transmits the corresponding command to the tactile sense presentation device control device 20.
  • the television device 62 or the PC 68 has a function of delivering a command according to the acquired script).
  • the generated file also includes generated tactile data
  • the television device 62 or the PC 68 transmits the generated tactile data to the tactile presentation device control device 20 in advance.
  • the tactile presentation device control device 20 generates a tactile control signal in accordance with a command received from the television device 62 or the PC 68, and transmits it to the tactile presentation device 2 (or each vibration actuator provided in the tactile presentation device 2).
  • the command includes the presentation position and intensity of the tactile stimulus, the type of tactile stimulus waveform, offset information, and the like, as in the above-described embodiment.
  • the tactile sense presentation device control apparatus 20 decodes the command and generates a tactile sense control signal.
  • the haptic sense device control apparatus 20 has a haptic LibDB 221 in which a haptic library (presentation waveform pattern) generated in advance is stored, and when generating a haptic control signal according to a command distributed from the television device 62 or the PC 68. Use as appropriate.
  • a haptic library presentation waveform pattern
  • the tactile presentation device 2 is used not only for TV broadcast or Internet distributed content but also when the user views the content using a recording medium such as a Blu-ray (registered trademark) disk or a DVD. Can be controlled so as to present the tactile stimulus in synchronization with the reproduced content.
  • a recording medium such as a Blu-ray (registered trademark) disk or a DVD.
  • FIG. 19 is a diagram illustrating an example of presenting a tactile stimulus when viewing content recorded on a recording medium according to the present modification.
  • Video data (contents) and a generated file including at least a script are recorded on the recording medium 7.
  • the playback device 64 reads the content and the generated file from the recording medium 7.
  • the reproducing device 64 having a display function reproduces the content refers to the script based on the time code indicating the reproduction position of the reproduced content, and sequentially transmits the corresponding command to the tactile sense presentation device control device 20. Further, when the generated file also includes generated tactile data, the reproduction device 64 transmits the generated tactile data to the tactile sense device control device 20 in advance.
  • the tactile presentation device control device 20 generates a tactile control signal in accordance with the command received from the reproduction device 64, and transmits it to the tactile presentation device 2 (or each vibration actuator provided in the tactile presentation device 2).
  • the command includes the presentation position and intensity of the tactile stimulus, the type of tactile stimulus waveform, offset information, and the like, as in the above-described embodiment.
  • the tactile sense presentation device control apparatus 20 decodes the command and generates a tactile sense control signal.
  • the tactile sense presentation device control apparatus 20 has a tactile sense LibDB 221 in which a tactile sense library (presentation waveform pattern) generated in advance is accumulated, and is appropriately used when generating a tactile sense control signal in accordance with a command distributed from the reproducing apparatus 64. To do.
  • the script Disc is set in the tactile presentation device control device 20, and the tactile presentation device control device 20 executes the command from the script.
  • Configurations are also possible. That is, two discs for content and script are prepared in advance, the content disc is set in the (general-purpose) reproducing device, and the script disc is set in the tactile presentation device control device 20.
  • the reproducing apparatus reproduces the content from the content disc and inputs the reproduced audio data to the tactile sense presentation device control apparatus 20.
  • the tactile sense presentation device control device 20 extracts the timing from the input voice data and executes the command from the script.
  • the control command is described in association with the pattern of voice data, not the time information.
  • the tactile stimulus corresponding to the latest contents is provided to the user by the tactile presentation device 2. You can experience it.
  • the user when viewing the content stored in the storage medium, the user can experience the tactile stimulus corresponding to the content stored in the storage medium by the tactile presentation device 2 by reading the script from the storage medium. .
  • the user can also repeatedly experience only the favorite scene at any time.
  • the operation processing when viewing content distributed on TV broadcasting or the Internet is not limited to the example shown in FIG.
  • the example in which the script is distributed from the broadcasting station 60 or the streaming server 66 to the home playback device (the television device 62, the PC 68), and the command is generated and distributed in the playback device has been described.
  • the present invention is not limited to this, and the broadcasting station 60 or the streaming server 66 may refer to the script and deliver a command according to the time code of the content to be reproduced.
  • the home playback device (television device 62, PC 68) outputs the received command to the tactile sense presentation device control device 20, and the tactile sense presentation device control device 20 generates a tactile sense control signal according to the command and senses the tactile sense control signal. Send to the presentation device 2.
  • the broadcasting station 60 or the streaming server 66 preliminarily (before the distribution of the content) broadcasts the TV to the playback device (the television device 62, the PC 68). Send the generated haptic data via.
  • the playback device (the television device 62, the PC 68) transmits the received generated tactile data to the tactile presentation device control device 20.
  • the broadcasting station side distributes the corresponding command in synchronization with the reproduced content, and the tactile sense presentation device control device 20 generates the tactile control signal in accordance with the command.
  • the tactile presentation device control device 20 used in the system of the movie theater can be used without adding a command generation function to the device 62, the PC 68).
  • FIG. 20 is a diagram illustrating a tactile sense presentation system in an internet game according to a fifth modified example of the present embodiment.
  • the input of the operation information is not limited to the operation of the controller 86, and may be a voice input, a gesture input based on the movement of the user, or the like.
  • the home-use game reproducing device 82 controls to display a game screen on the display device 84. In addition, control is also performed to output the game sound from a speaker provided on the display device 84 and a speaker around the display device.
  • the game information is acquired from the game server 80 on the Internet and is output by the game reproducing device 82.
  • the game reproducing device 82 includes a control unit of the haptic presentation device, and can generate a haptic control signal to be input to the haptic presentation device 2.
  • the game reproducing device 82 When some action occurs in the game by the user operation (or when some action occurs in the game regardless of the user operation), the game reproducing device 82 notifies the game server 80 of the action.
  • the game server 80 has a script that describes the tactile presentation control corresponding to the game, extracts the command corresponding to the action (playback content) that occurred in the game, and outputs it to the game playback device 82.
  • FIG. 21 shows an example of a script in which a control command is described for each action according to this modification.
  • one script file defines a plurality of actions.
  • a command group is defined for each action.
  • One action is defined by several hundreds (ms) to several (s).
  • the output of the last waveform type of each action is completed, the presentation of the tactile stimulus corresponding to the action ends.
  • the commands corresponding to the actions are collectively transmitted to the game reproducing device 82 (to prevent communication fluctuations on the Internet).
  • the strength of the tactile stimulus may be arbitrarily adjusted on the game ferring device 82 side (“strength: *” shown in FIG. 21).
  • the game reproducing device 82 generates a haptic control signal according to the received command and outputs it to the haptic presentation device 2.
  • the tactile stimulus corresponding to an action such as an explosion that has occurred in the game is presented by the tactile presentation device 2, and the user actually feels the action that has occurred in the game and obtains a realistic sensation. be able to.
  • the game playing device 82 may be provided with a database of a tactile library in advance, and may receive (download) the generated tactile data used in the game from the game server 80 in advance before the game starts.
  • the profile of the tactile presentation device 2 is uploaded to the game playback device 82 before the game starts.
  • the game reproducing device 82 is assumed to be a stationary dedicated device, but the present modification is not limited to this, and is a versatile device integrated with the display device 84 such as a smartphone or a PC. It may be a game reproducing device 82.
  • the present embodiment is not limited to this, and a case where a game is played locally by causing the game playing device 82 to execute the function of the game server 80 is also possible. It becomes possible to apply.
  • the present embodiment can also be applied to the case of a battle-type game distribution via the Internet.
  • the tactile presentation of the other player may be given due to the action of one player. That is, the tactile presentation to the user is not limited to the action caused by the user or the progress of the game, but may be caused by other users.
  • the time code projected by the projector 32 on the screen S may be read by the tactile presentation device control device 20B to obtain the time code.
  • the tactile presentation device control device 20B observes the image projected on the screen S (continuously picked up by visible light or IR camera) and extracts the synchronization component (here, time code) from the observation result. Specifically, for example, the projector 32 superimposes the blinking indicating the time code transmitted from the reproduction control device 31 on the projected image using visible light or IR light.
  • the synchronization component here, time code
  • the time code distribution by optical communication is not limited to the method using the reflected light from the screen S, and the tactile presentation device control device 20B observes the direct light from the projector 32 to extract the time code. Good.
  • the synchronization signal projected on the screen S may be a limited part, not the entire screen S.
  • the optical communication is used for the time code distribution, so that the cinema system 30 and the tactile presentation device control device 20 are independently operated (the cinema system 30 or the 4D system control connected to the cinema system 30). It can be installed (without the need for a wired / wireless connection with the device 40).
  • the command delivery to the tactile presentation device control device 20 is not limited to the wired / wireless connection from the 4D system control device 40 as shown in FIG. 1, and for example, as shown in FIG.
  • the command projected by the projector 32 on the screen S may be read by each tactile presentation device 2B.
  • the tactile presentation device 2B observes the image projected on the screen S by the observation unit 22 (visible light or IR camera or the like), and extracts a trigger component (here, command) from the observation result. .
  • the projector 32 superimposes the blinking indicating the command transmitted from the reproduction control device 31 on the projected image using visible light or IR light.
  • the haptic presentation device 2B has a control unit 24 that generates a haptic control signal.
  • the control unit 24 generates a haptic control signal to be input to each vibration actuator according to the command extracted from the observation result, and controls the vibration actuator. That is, the tactile sense presentation device 2B can present a tactile sense with a tactile waveform designated by a command, triggered by reception (light reception) of a command signal.
  • the command delivery by optical communication is not limited to the method using the reflected light from the screen S, and the tactile presentation device 2B may observe the direct light from the projector 32 to extract the command.
  • the trigger signal projected on the screen S may not be the entire surface of the screen S but a limited part thereof.
  • the command distribution is made wireless and the tactile presentation device 2B is provided with the function of generating the tactile control signal, so that the tactile presentation device 2B itself becomes wireless (in this case, the tactile presentation device 2B Battery-powered), making it easier to install the system in movie theaters (because there is no need to wire each seat).
  • the difference in profile between the tactile sense presentation devices 2B is executed by the control unit 24 so as to perform difference processing with the standard profile, so that the tactile sense presentation device 2B of the audience can be easily brought in.
  • the tactile presentation device 2B wireless, it is possible to use the tactile presentation device 2B according to this modification in a Walkthrough system that moves around in a virtual space from a free viewpoint in games and attractions.
  • the command projected on the screen S may be output by the tactile presentation device control device 20 by using a light source different from the projection of the content (video).
  • FIG. 24 is a diagram illustrating a method of performing command distribution by optical communication using a light source other than projection.
  • the tactile sense presentation device control device 20C receives the time code from the reproduction control device 31, the command is extracted by referring to the script, and the light emitting unit 34 provided in a part of the screen S or in the vicinity thereof. Is controlled to output light indicating the command.
  • the tactile presentation device 2B observes the light emitted from the light emitting unit with the observation unit 22 (visible light or IR camera etc.) and extracts the trigger component (here, command) from the observation result. Specifically, for example, the tactile presentation device control device 20C causes the light emitting unit 34 to output blinking indicating a command using visible light or IR light.
  • the haptic presentation device 2B has a control unit 24 that generates a haptic control signal.
  • the control unit 24 generates a haptic control signal to be input to each vibration actuator according to the command extracted from the observation result, and controls the vibration actuator. That is, the tactile sense presentation device 2B can present a tactile sense with a tactile waveform designated by a command, triggered by reception (light reception) of a command signal.
  • Second embodiment (creating a tactile control signal on the generation side) >> Next, a case where the generation side generates the haptic control signal will be described with reference to FIGS. 25 to 33.
  • the playback side generates the haptic control signal to be input to each vibration actuator of the haptic presentation device 2 according to the command extracted by referring to the script generated on the generation side.
  • the present disclosure is not limited to this.
  • a case will be described in which a haptic control signal to be input to each vibration actuator is generated in advance on the generation side according to reproduction content, and a generation file including this is output to the reproduction side.
  • the burden of arithmetic processing (tactile control signal generation processing) in the haptic presentation device control device 20m is reduced, so that, for example, the specifications (processing) of the haptic presentation device control device 20m to be introduced in a movie theater. Performance) can be suppressed.
  • FIG. 25 is a diagram showing an example of the overall configuration of the information processing system 1c according to the second embodiment.
  • the information processing system 1c according to the present embodiment includes a generation device 10m, a tactile presentation device control device 20m, a cinema system 30, a 4D system control device 40, and a verification system 50.
  • the tactile presentation device 2 is used in a movie theater.
  • the generation device 10m unlike the first embodiment described with reference to FIG. 1, the generation device 10m generates a haptic control signal file and distributes it to the 4D system control device 40.
  • the tactile control signal file is data of a vibration waveform pattern that is input to each vibration actuator. That is, the generation device 10m, based on the tactile data (the waveform pattern to be perceived) used for the current content (for example, the movie to be shown), the tactile presentation position, the strength, and the tactile presentation position (based on the profile of the tactile presentation device 2). Calculation is performed in consideration of the waveform type and the like, and a haptic control signal to be input to each vibration actuator of the haptic presentation device 2 is generated.
  • the generation device 10m also generates a script corresponding to the time axis of the reproduced content and delivers it to the 4D system control device 40.
  • the script describes the haptic control signal file name corresponding to the time axis.
  • the 4D system control device 40 transmits the haptic control signal file to the haptic presentation device control device 20m before the movie starts.
  • the tactile sense presentation device control device 20m stores the tactile sense control signal file in the tactile sense control signal file DB 224.
  • the 4D system control device 40 outputs a command indicating the corresponding haptic control signal file name to the haptic presentation device control device 20m based on the script description according to the time code distributed from the reproduction control device 31.
  • the haptic sense device control device 20m outputs the haptic sense control signal file designated by the command to the haptic sense device 2.
  • the haptic presentation device control device 20m may output a haptic control signal to the haptic presentation device 2 after performing some adjustment according to the profile acquired from the haptic presentation device 2.
  • the configuration of the haptic sense device control device 20m may be a configuration that does not have the haptic control signal generation function (control signal generation unit 201) among the configurations described with reference to FIG. 3 in the first embodiment.
  • FIG. 26 is a block diagram showing an example of the configuration of the generation device 10m according to this embodiment.
  • the generation device 10m includes a control unit 100m, a communication unit 110, an operation input unit 120, a display unit 130, and a storage unit 140.
  • the detailed description of the components having the same reference numerals described with reference to FIG. 2 is omitted here.
  • the control unit 100m also functions as the 4D control information generation unit 101, the haptic sense information generation unit 102, the haptic data generation unit 103, and the haptic control signal generation unit 104.
  • the tactile control signal generation unit 104 generates a tactile control signal (control signal input to each vibration actuator) for driving each vibration actuator provided in the tactile presentation device 2 during reproduction. Specifically, the tactile control signal generation unit 104 presents a tactile stimulus at a designated tactile presentation position and at a designated intensity according to a designated tactile stimulation type in accordance with an operation input by a user (creator). A haptic control signal (for example, audio signal data) that drives each vibration actuator is generated. Note that the tactile control signals are generated for the vibration actuators (for the number of channels), but these are generated independently for each scene. That is, the haptic control signal input to each vibration actuator is not generated as one data throughout the entire content, but is generated as independent data (file) for each scene in which the haptic presentation device 2 is vibrated in the content. .
  • the haptic sense information generation unit 102 generates a script describing the file name of the haptic control signal generated by the haptic control signal generation unit 104 according to the time axis of the reproduced content. 5 to 6 described in the first embodiment can be applied to the operation screen at the time of script generation.
  • the tactile stimulus type is the same as in the first embodiment, generated tactile data (generated by the tactile data generation unit 103 based on the sound effect of the reproduction content selected by the user, BGM, or the voice data of the dialogue ( Waveform pattern) or a pre-generated (generic) tactile library (waveform pattern) stored in the tactile LibDB 141. Further, similarly to the first embodiment, it is possible to automatically select the tactile sense presentation position and strength and present them to the user as recommended values.
  • tactile presentation position perceived position
  • strength perceived intensity
  • FIG. 27 is a flowchart showing an example of the overall flow of operation processing on the generation side of the information processing system according to this embodiment.
  • steps S103 to S127 shown in FIG. 27 is the same as the process indicated by the same reference numeral described with reference to FIG.
  • the haptic control signal generation unit 104 of the generation device 10m generates a haptic control signal (for example, audio signal data) that drives each vibration actuator based on the haptic presentation position, the haptic stimulus type, and the intensity specified by the user.
  • a file is generated (step S128).
  • the tactile presentation information generation unit 102 generates a script (text data) in which the file name of the tactile control signal is described (as a command) in association with the time code (time axis) of the reproduced content (step S131).
  • the tactile presentation information generation unit 102 refers to the profile (processing delay amount, etc.) of the tactile presentation device 2 in generating the script, and appropriately includes the offset information in the command, as in the first embodiment. Good.
  • the offset information is set automatically in consideration of the processing delay amount on the reproduction side (for example, the processing delay amount of the tactile sense presentation device control device 20) or arbitrarily set by the user, as in the first embodiment.
  • the generation device 10m may generate the tactile control signal for each profile type and describe the control code for each profile type as in the first embodiment, or may use the standard profile type.
  • the haptic control signal may be generated based on the haptic control signal.
  • the playback side appropriately adjusts and outputs the haptic control signal according to the profile type (difference from the standard profile type). You may do it.
  • the generated script is included in the "generation file" together with the tactile control signal, and distributed to the playback side (for example, the 4D system control device 40).
  • the 4D control information generated by the generation device 10m is also distributed to the reproduction side (for example, the 4D system control device 40).
  • script and tactile control signal generation functions described above can be added as a plug-in 1 to an existing 4D system editing application.
  • FIG. 28 is a flowchart showing an example of the overall flow of operation processing on the reproduction side of the information processing system according to the present embodiment.
  • the 4D system control device 40 acquires the 4D control information and the generated file including the script and the haptic control signal file (step S163).
  • the 4D system control device 40 transmits the file of the haptic control signal included in the generated file to the haptic presentation device control device 20m (step S166).
  • the haptic presentation device control device 20m saves the haptic control signal file received from the 4D system control device 40 (step S169).
  • the 4D system control device 40 refers to the 4D control information according to the time code and drives the 4D system (step S171).
  • the 4D system control device 40 refers to the script according to the same time code and performs command issuing processing (step S174). Specifically, the 4D system control device 40 extracts the haptic control signal file name (which may be encrypted data) corresponding to the distributed time code from the script description and issues it as a command. .
  • FIG. 29 shows an example of a script in which the tactile control signal file name is described as a command. As shown in FIG. 29, a haptic control signal file name is described as a command to be output according to the time axis of the reproduced content.
  • the haptic control signal indicated by the haptic control signal file name is a file corresponding to each vibration actuator. In the example shown in FIG.
  • the vibration is output to the vibration actuators 1 to 4 (four vibration actuators) provided in the tactile presentation device 2.
  • the haptic control signal file 1-a input to the vibration actuator 1 (Act1) the haptic control signal file 2-a input to the vibration actuator 2 (Act2), and the vibration actuator 3 (Act3) are added.
  • the 4D system control device 40 issues a command to the tactile presentation device control device 20m according to the time code (step S177).
  • the haptic sense device control device 20m replaces the haptic control signal file specified by the command with the haptic control signal file. It is read from the DB 224 (step S187), and the read haptic control signal file is output to the haptic presentation device 2 (or each vibration actuator of the haptic presentation device 2) (step S189). Further, when the content of the command distributed from the 4D system control device 40 is encrypted, the haptic sense device control device 20m decrypts this to extract the haptic control signal file name, and the haptic control signal file DB 224. Read from. When the command includes offset information, the output control of the haptic control signal is performed in consideration of the offset information, as in the first embodiment.
  • each vibration actuator (Act1 to Act4) of the tactile presentation device 2 is controlled (presentation of tactile stimuli) according to the script shown in FIG.
  • the tactile presentation device control device 20m uses the vibration actuator 1 (Act1) to generate the tactile control signal.
  • File 1-a is played back
  • vibration actuator 2 (Act2) plays back tactile control signal file 2-a
  • vibration actuator 3 (Act3) plays back tactile control signal file 3-a
  • vibration actuator 4 (Act4) is reproduced with.
  • the playback time may be different for each haptic control signal file.
  • the tactile sense presentation device control device 20m controls the tactile sense with the vibration actuator 2 (Act2). Play the signal file 2-b.
  • the tactile sense presentation device control device 20m controls the tactile sense with the vibration actuator 2 (Act2).
  • the signal file 2-c is reproduced, and the vibration actuator 4 (Act4) reproduces the tactile control signal file 4-b.
  • the tactile presentation device control device 20m inputs the tactile control signal to the corresponding vibration actuator according to the command and reproduces (presents tactile stimulation).
  • the information processing system according to the second embodiment has been specifically described above. It should be noted that if different files have the same data as the haptic control signal even if they have different file names (for example, if the haptic control signal file 1-a and the haptic control signal file 1-d are the same audio signal data), the generation device 10m uses the script
  • the transfer data size can be reduced by describing that the haptic control signal file 1-a is used at the location of the haptic control signal file 1-d at the time of generation. In this case, for example, the ninth level “7.0s: 1-d, 4-d” of the command shown in FIG. 29 is described as “7.0s: 1-a, 4-d”.
  • the haptic control signal file included in the generated file is stored in the 4D system control device 40, the 4D system control device 40 refers to the command according to the time code, and transmits the corresponding haptic control signal file to the haptic presentation device 2. It may be controlled to do so. That is, by mounting the function of the tactile sense presentation device control device 20m shown in FIG. 25 on the 4D system control device 40, the system on the reproduction side can be simplified.
  • the 4D system control device 40 acquires the time code from the reproduction control device 31, refers to the script, and responds to the tactile presentation device control device 20m according to the time code.
  • the command is issued as appropriate, the present disclosure is not limited to this, and it is possible to construct a system that does not include the 4D system. For example, when the tactile presentation device 2 is used in a movie theater where the 4D system is not installed, or when a control system for the tactile presentation device 2 is constructed regardless of the 4D system even if the 4D system is installed. is assumed.
  • FIG. 31 is a diagram illustrating a configuration example of the information processing system 1d that does not include the 4D system according to the first modified example of the second embodiment.
  • the information processing system 1d illustrated in FIG. 31 includes a generation device 10n and a haptic presentation device control device 20n.
  • the generation device 10n has a configuration that does not include the 4D control information generation unit 101 in the configuration of the generation device 10m shown in FIG.
  • the haptic presentation device control device 20n acquires the generated file including the script and the haptic control signal file generated by the generation device 10n.
  • the tactile presentation device control device 20n acquires the time code of the reproduction content from the reproduction control device 31, the tactile presentation device control device 20n refers to the script and appropriately executes the command.
  • the tactile presentation device control device 20n extracts the corresponding command from the script based on the time code received from the reproduction control device 31 (decrypts the command if it is encrypted), and The haptic control signal designated by the command is output to the haptic presentation device 2 (or each vibration actuator of the haptic presentation device 2).
  • the haptic control signal file DB 224 stores the haptic control signal file extracted from the generated file.
  • the haptic presentation device control device 20n controls the haptic presentation device 2 in synchronization with the reproduced content regardless of the 4D system in a movie theater to which the 4D system is applied will be described.
  • this system can be naturally applied to a movie theater where the 4D system is not introduced.
  • FIG. 32 is a flowchart showing an example of the overall flow of operation processing on the reproduction side of the information processing system 1d according to the present modification.
  • the same processes as the processes described with reference to FIG. 14 are denoted by the same reference numerals, and detailed description thereof will be omitted here.
  • differences from the operation processing on the reproducing side according to the first modification of the first embodiment in which the haptic control signal is generated on the reproducing side will be mainly described.
  • the haptic presentation device control device 20n acquires a generated file including a script and a haptic control signal file (from the generation device 10n) (step S313).
  • the haptic control signal file is stored in the haptic control signal file DB 224.
  • the tactile presentation device control device 20n refers to the script according to the time code and executes the command execution process (step S315).
  • the tactile presentation device control device 20n reads out the tactile control signal file (which may be a voice signal for driving the vibration actuator) specified by the extracted command from the tactile control signal file DB 224 (step S319).
  • the tactile control signal file which may be a voice signal for driving the vibration actuator
  • the haptic presentation device control device 20n outputs the read haptic control signal to the haptic presentation device 2 (or each vibration actuator of the haptic presentation device 2) (step S322).
  • the tactile presentation device control device 20n reads the tactile control signal corresponding to the time code based on the script and outputs it to the tactile presentation device 2 without using the 4D system. It is possible to control the presentation of tactile stimuli. As a result, it becomes possible to install the system in movie theaters that do not have a 4D system, and the range of installation is expanded. It can be expected that the system unit price will decrease and the number of deployment destinations will increase as it can be installed in more movie theaters.
  • the processing load on the playback side can be reduced.
  • the system on the reproduction side described above is not limited to the viewing of a movie in the movie theater as described above, and, for example, as in the modification of the first embodiment, for example, a user wears the tactile presentation device 2 at home.
  • a user wears the tactile presentation device 2 at home.
  • the tactile sense presentation device 2 presents tactile sense stimuli, which makes it possible to provide a immersive viewing experience outside the movie theater.
  • FIG. 33 is a diagram illustrating an example of presenting a tactile stimulus when viewing content by TV broadcasting according to the present modification.
  • the tactile sense presentation device control apparatus 20p receives (downloads) a tactile sense control signal from the broadcasting station 60 in advance (before the distribution of the content).
  • the download of the haptic control signal may be performed by TV broadcasting via the television device 62.
  • the broadcasting station 60 transmits the haptic control signal having a large data capacity, By transmitting the data to the home side in advance via TV broadcasting or the like, it becomes possible to distribute a large amount of data without being affected by the communication band of TV broadcasting or the like.
  • the broadcasting station 60 refers to the script according to the time code of the content (broadcast program) to be reproduced, and sequentially issues a command (indicating a haptic control signal file to be reproduced according to the time code). Is delivered to each home (TV device 62). The television device 62 displays the content (broadcast program) received in the TV broadcast on the display, and outputs the distributed command to the tactile sense presentation device control device 20p.
  • the tactile presentation device control device 20p reads out the tactile control signal specified by the command from the tactile control signal file DB 224 and outputs it to the tactile presentation device 2.
  • the presentation of the tactile stimulus by the tactile presentation device 2 can be synchronized when the TV broadcast is viewed, and the viewer can experience a more realistic viewing experience at home.
  • time code distribution is performed using a wired / wireless connection with the reproduction control device 31 or the 4D system control device 40.
  • command designating method for the tactile control signal file name can also be distributed by using the command distribution method by optical communication (see FIGS. 23 and 24) as described in the modification of the first embodiment. Is.
  • the user designates the setting screen 1330 for the tactile presentation device 2 included in the editing screen 1300 as shown in FIG. You can specify the time zone to be generated. Further, when the user selects a designated time slot 1331 on the setting screen 1330 by a tap (or click) operation, the detailed setting screen 1340 shown in FIG. 6 is displayed, and the tactile type (vibration) is set on the detailed setting screen 1340.
  • the stimulus waveform type) can be selected, the tactile presentation position (perceptual position) can be set, and the perceptual intensity can be adjusted.
  • these selections, settings, and adjustments are performed by selecting from a haptic library (for example, a typical waveform pattern) or haptic data generated in advance (that is, there is a constraint), and the user does not have to do so.
  • a haptic library for example, a typical waveform pattern
  • haptic data generated in advance that is, there is a constraint
  • an editing function that enables the user to edit the waveform of the vibration stimulus, the setting of the tactile presentation position, the adjustment of the perceptual intensity, and the like in detail according to the user's intention.
  • the editing function described below can be added as a plug-in to an existing 4D system editing application.
  • the control unit 100 of the generation device 10 presents the edit screen 600 as shown in FIG. 34 on the display unit 130, and the user (creator) on the time axis of the reproduced content.
  • the waveform of the audio data (L / R) (Sound L / R) of the reproduced content is displayed on the time axis, and further the setting screens 620 and 640 for the tactile presentation device 2 are displayed.
  • the user individually edits, for example, a vibration given by the tactile presentation device 2 on the setting screens 620 and 640 while viewing the waveform of the audio data of the reproduced content and the video (not shown) of the reproduced content together.
  • the tactile senses such as the tactile sense A and the tactile sense B can be separately edited and assigned to the tracks of the reproduced content, depending on the fine setting (waveform etc.).
  • a setting screen is provided for each individually divided tactile sense, and each tactile sense can be edited by operating each setting screen.
  • the number of tactile senses is not particularly limited.
  • the user swipes the time zone 622 in which the tactile presentation device 2 wants to generate vibration on the time axis corresponding to the playback content displayed on the tactile presentation device 2 setting screen 620.
  • the tactile sense A is divided into three tactile senses, a tactile sense A-1, a tactile sense A-2, and a tactile sense A-3 for each time period.
  • the present embodiment is not limited to dividing one tactile sensation, and the number of divisions is not limited (for example, tactile sense A-1 to tactile sense A-99 is divided into 99). May be).
  • the user on the time axis displayed on the setting screen 620 of the tactile sense A of the tactile sense presentation device 2 has a vibration pitch of the tactile sense A by the tactile sense presentation device 2 (for example, a repetition cycle) (perception interval) (Pitch ) Is input by swiping the waveform 626.
  • the user three-dimensionally sets the tactile presentation position of the tactile sensation A in each time zone 622 with the body center (of the person wearing the tactile presentation device 2) as the origin.
  • the coordinates on the X-axis, the coordinates on the Y-axis, and the coordinates on the Z-axis are individually input to specify. More specifically, the user moves the cursor on the time-series display screen 628 corresponding to the X-axis, the Y-axis, and the Z-axis, which is displayed on the setting screen 620, so that the haptic presentation position of the haptic A is displayed.
  • Three coordinates that is, the coordinate on the X axis, the coordinate on the Y axis, and the coordinate on the Z axis can be individually input.
  • the user can arbitrarily adjust each coordinate of the tactile presentation position within a fixed width (for example, ⁇ 1).
  • the width is converted into a range of the specific tactile presentation position in the tactile presentation device control device 20, and the input coordinates are converted into the coordinates of the specific tactile presentation position based on the converted width. It will be. Therefore, in the present embodiment, the specific range of the haptic presentation position is shared in advance as profile information between the generation side and the reproduction side.
  • the coordinate on the X axis, the coordinate on the Y axis, and the coordinate on the Z axis are individually input to set the tactile presentation position, it is difficult for the user to intuitively grasp the tactile presentation position.
  • the data of the coordinates of the haptic presentation position is generated, and the generated coordinate data is read by the editing function, so that the time series display screen as shown in FIG. 34 is displayed. 628 may be displayed and the tactile sense presentation position may be set.
  • another input method using, for example, a plug-in function or the like can be used, which will be described later in detail.
  • the user reproduces the speed (Speed) of the tactile sense A by the tactile sense presentation device 2 (e.g. (Playback is performed at 2 ⁇ speed and 0.5 ⁇ speed) by inputting the waveform 630 by a swipe operation.
  • the user on the time axis displayed on the setting screen 620 of the haptic A of the haptic presentation device 2, the frequency (Frequency) of the vibration of the haptic A by the haptic presentation device 2 (perceptual frequency), the waveform 632. Is specified by swiping.
  • the vibration frequency of the tactile sensation A is fixed to the designated frequency.
  • the offset information for example, the timing of synchronizing with this portion on the reproduction content may be designated, and the edit items are not limited to the items shown in FIG. 34. Absent.
  • the vibration intensity, vibration pitch, tactile presentation position, playback speed, frequency, offset information, etc. for the tactile sense A can be edited.
  • other tactile sense for example, tactile sense B
  • the edit items are not limited to the vibration intensity, the vibration pitch, the tactile presentation position, the reproduction speed, the frequency, and the offset information, and other items may be edited.
  • each item can be easily edited by moving the waveform from an arbitrary time series display screen to another time series display screen by a drag & drop operation.
  • the generated tactile data edited by the above-mentioned editing function is collected in the 4D system file.
  • the generated tactile data is unified with the format of the file for 4D system and is unified with the file for 4D system, and as information for issuing a command along the time axis according to the time code together with the file for 4D system. used.
  • the X-axis coordinate of the tactile sense A is calculated in the tactile sense presentation device control device 20 as the X-axis coordinate of the tactile sense presentation position on a predetermined time axis.
  • the haptic presentation device control is performed. It may not be possible to cope with the amount of calculation delay in the device 20. For example, assuming that a calculation delay of 0.5 s occurs in the tactile presentation device control device 20, if tactile presentation is desired at a timing of 10.0 s, tactile presentation is provided at a timing of 9.5 s on the generation side. If such a command is not generated, the tactile sense cannot be presented at the timing of 10.0 s due to the calculation delay in the tactile sense presentation device control device 20.
  • the generated tactile data is converted into data corresponding to the delay amount by applying feedback of the delay amount due to the calculation delay of the playback-side tactile presentation device control device 20 in advance. Further, in the present embodiment, when performing calibration of the playback-side tactile presentation device control device 20 and the tactile presentation device 2, a delay amount that is a difference from the generation-side control device 52 and the tactile presentation device 54 is calculated. Then, on the reproducing side, the generated tactile data may be converted into data according to the delay amount by feeding back the delay amount.
  • the tactile presentation position may be set by displaying the edit screens 700 and 710 as shown in FIGS. 35 and 36, for example, by a plug-in function or the like.
  • the Cartesian coordinate system superimposed on the body model is displayed.
  • FIG. 35 shows a plane orthogonal coordinate system (Z-Y coordinate system).
  • the plane orthogonal coordinate system uses the body center of the upper half of the body model as the origin, and the positive direction of the Z axis is the human body. It corresponds to the entire surface (chest side), and the positive direction of the Y axis corresponds to the head side of the human body.
  • FIG. 36 shows a three-dimensional Cartesian coordinate system (XYZ coordinate system).
  • the three-dimensional Cartesian coordinate system uses the body center of the upper half of the body model as the origin, and the positive direction of the X axis is It corresponds to the left side of the human body, the positive direction of the Y axis corresponds to the head side of the human body, the positive direction of the Z axis corresponds to the entire surface of the human body (chest side), and the positive direction of the Y axis corresponds to the head side of the human body. To do.
  • the user can set the tactile sense presentation position or route by moving the markers 702, 712 shown on the edit screens 700, 710 on the rectangular coordinate system by an operation such as tapping, clicking, swiping, or the like. Then, the control unit 100 of the generation device 10 converts the haptic presentation position or path input as described above into three coordinates of a coordinate on the X axis, a coordinate on the Y axis, and a coordinate on the Z axis. Can set the tactile sense presentation position. According to such edit screens 700 and 710, the user can intuitively grasp the tactile sense presentation position by using the orthogonal coordinate system superimposed on the body model.
  • the range of the tactile presentation position may be displayed by displaying an edit screen 730 as shown in FIG. 37 by using a plug-in function or the like.
  • the edit screen 730 displays an XY coordinate system with the center of the body as the origin, and the user can tap the marker 732 shown on the edit screen 730 by tapping, clicking, swiping, or the like to increase its size.
  • the distance and moving the coordinate not only the tactile sense presentation position and route but also the tactile sense presentation range and its change with time can be set.
  • the generation device 10 the tactile presentation device control device 20, or the hardware such as the CPU, the ROM, and the RAM included in the 4D system control device 40 or the like described above is added to the generation device 10, the tactile presentation device control device 20, or It is also possible to create a computer program for exhibiting the functions of the 4D system control device 40 and the like.
  • a computer-readable storage medium that stores the computer program is also provided.
  • the effects described in the present specification are merely explanatory or exemplifying ones, and are not limiting. That is, the technique according to the present disclosure may have other effects that are apparent to those skilled in the art from the description of the present specification, in addition to or instead of the above effects.
  • a control unit that generates a script that associates the time information of the playback content with the control command of the haptic presentation device
  • the control command is An information processing apparatus including position information indicating a perceptual position at which a tactile stimulus is perceived in the tactile presentation device, and tactile stimulus type information designating a type of the tactile stimulus.
  • the information processing device according to (1), wherein the control command further includes perceptual intensity information indicating perceptual intensity.
  • the tactile stimulation type information is The information processing apparatus according to (1) or (2), which is information that specifies the type of a tactile data library prepared in advance or the type of generated tactile data generated from the playback content.
  • the control unit is The information processing device according to (3), wherein the generated tactile data is generated from sound data of a sound effect, BGM, or dialogue included in the reproduced content.
  • the control unit is A layout display screen showing the layout of one or more tactile stimulation units (actuators) provided in the tactile presentation device is displayed, and the user's designation of the perceived position on the layout display screen is accepted, The information processing apparatus according to any one of (1) to (5), which displays a tactile stimulus type selection screen, and accepts the tactile stimulus type designation presented at the designated perceptual position on the selection screen. .
  • the control unit is The generated tactile data is generated from the sound effect, BGM, or voice data included in the reproduced content, and The information processing apparatus according to (3), which recommends the perceived position and the perceptual strength of the generated generated tactile data based on sound data of a sound effect, BGM, or dialogue included in the reproduced content.
  • the control unit sets the offset information according to a processing delay amount assumed when the control command is executed on the reproduction side.
  • the playback content is an action that occurs in the game
  • the information processing apparatus according to any one of (1) to (9), wherein, for each action, the script associates time information of the action with a control command of the tactile presentation device.
  • the control unit is The information processing apparatus according to any one of (1) to (11), which generates a script in which time information of the reproduction content is associated with the control command for each type of the tactile presentation device.
  • the processor Including generating a script in which the time information of the playback content and the control command of the tactile presentation device are associated with each other,
  • the control command is An information processing method, comprising: position information indicating a perceptual position at which a tactile stimulus is perceived in the tactile presentation device, and tactile stimulus type information designating a type of the tactile stimulus.
  • the time information of the reproduced content and the control command of the tactile presentation device are caused to function as a control unit that generates a script
  • the control command is A program including position information indicating a perceptual position at which a tactile stimulus is perceived in the tactile presentation device, and tactile stimulus type information designating a type of the tactile stimulus.
  • the command has a control unit to generate The command is Position information indicating a perceptual position at which a tactile stimulus is perceived in the tactile presentation device, and tactile stimulus type information designating a type of the tactile stimulus,
  • the control unit is Generating a tactile control signal to each tactile stimulation unit for presenting the tactile stimulation of the designated type at the perceptual position according to the arrangement of one or more tactile stimulation units provided in the tactile presentation device; An information processing device that outputs to a tactile presentation device.
  • the control unit is The information processing apparatus according to (15), wherein the generated tactile control signal is output to the tactile presentation device at a timing according to the offset information included in the control command.
  • the control unit is The information processing apparatus according to (15) or (16), which refers to the script and extracts the command according to the time code received from an external device.
  • the information processing device The information processing device according to (15) or (16), which receives the command corresponding to the time code from an external device.
  • the tactile stimulation type information is It is information that specifies the type of tactile data library prepared in advance, or the type of generated tactile data generated from the playback content, The information processing device, The tactile data library, or a storage unit for accumulating the generated tactile data
  • the control unit is The information processing device according to any one of (15) to (18), wherein the tactile control signal is generated using the tactile data library or the generated tactile data.
  • the control unit is The information processing apparatus according to any one of (15) to (19), which further considers a profile of the tactile sense presentation device and generates the tactile sense control signal.
  • the control unit is By accepting input of three coordinates of coordinates on the X-axis, coordinates on the Y-axis, and coordinates on the Z-axis in a three-dimensional orthogonal coordinate system with the center of the body as the origin on the layout display screen, the perception Accepts position specification, The information processing device according to (6).
  • the control unit is By accepting the input to the Cartesian coordinate system superimposed on the body model on the layout display screen, accepting the designation of the perceptual position, The information processing device according to (21).
  • the control command is Position information indicating each of the perceptual positions of the plurality of tactile stimuli in the tactile presentation device, and tactile stimulus type information that specifies the type of each tactile stimulus,
  • the control command is The information processing device according to (23), including at least one of perceptual intensity, perceptual frequency, perceptual interval, reproduction speed, and offset information of each of the tactile stimuli.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Acoustics & Sound (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

再生コンテンツと同期して制御することを想定した触覚提示デバイスの制御用データの生成およびその再生を行うシステム(1)に関し、処理負担の軽減や利便性の向上を図ることが可能な再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトを生成する制御部(104)を備え、前記制御コマンドは、前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含む、情報処理装置(10)。

Description

情報処理装置、情報処理方法、および、プログラム
 本開示は、情報処理装置、情報処理方法、および、プログラムに関する。
 従来から、振動などの触覚刺激をユーザに提示するための装置が提案されている。
 例えば下記特許文献1には、ユーザに装着されるベスト形状で構成される、胸部および腹部あたりに振動部が設けられた装着型受信装置が開示されており、無線信号を受信する受信エリアのうち、さらに特定のエリアのデバイスだけを振動させることができるシステムについて記載されている。また、下記特許文献1に記載の装着型受信装置の肩部には、スピーカも設けられ、振動部の振動やスピーカの音声により、臨場感あふれる触感や音声を提示することが可能となる。
特開2018-45270号公報
 このような振動等の触覚刺激をユーザに提示する触覚提示デバイスは、映画館やテーマパークのアトラクションなどにおいて、ユーザが視聴する再生コンテンツと同期して制御することで、臨場感をより増幅させることが可能である。しかしながら、再生コンテンツと同期して制御することを想定した場合における、触覚提示デバイスの制御用データの生成およびその再生を行うシステムは、未だ十分に構築されていない。
 本開示によれば、再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトを生成する制御部を備え、前記制御コマンドは、前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含む、情報処理装置を提案する。
 本開示によれば、プロセッサが、再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトを生成することを含み、前記制御コマンドは、前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含む、情報処理方法を提案する。
 本開示によれば、コンピュータを、再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトを生成する制御部として機能させ、前記制御コマンドは、前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含む、プログラムを提案する。
 本開示によれば、再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトに基づいた、前記再生コンテンツの再生位置を示すタイムコードに対応するコマンドに従って、前記触覚提示デバイスに入力する触覚制御信号を生成する制御部を備え、前記コマンドは、前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含み、前記制御部は、前記触覚提示デバイスに設けられる1以上の触覚刺激部の配置に応じて、前記知覚位置で前記指定された種類の触覚刺激を提示するための各触覚刺激部への触覚制御信号を生成し、前記触覚提示デバイスに出力する、情報処理装置を提案する。
本開示の第1の実施形態による情報処理システムの全体構成の一例を示す図である。 第1の実施形態による生成装置の構成の一例を示すブロック図である。 第1の実施形態による触覚提示デバイス制御装置の構成の一例を示すブロック図である。 第1の実施形態による情報処理システムの生成側における触覚提示デバイス2の制御情報生成処理の全体の流れの一例を示すフローチャートである。 第1の実施形態による編集画面の一例を示す図である。 第1の実施形態の触覚提示デバイスにおける触覚提示設定の詳細設定画面の一例を示す図である。 第1の実施形態によるスクリプトを用いた再生側における動作処理の全体の流れの一例を示すフローチャートである。 第1の実施形態による触覚提示デバイスの制御信号生成部におけるコマンド処理の一例について説明する図である。 第1の実施形態によるオフセット情報を含むスクリプトの一例を示す図である。 第1の実施形態によるオフセット情報を考慮した触覚提示デバイス制御装置20におけるコマンド実行処理の全体の流れの一例を示すフローチャートである。 第1の実施形態による触覚提示位置が線形状で移動する場合について説明する図である。 第1の実施形態の第1の変形例による4Dシステムを介さないシステムの構築例について説明する図である。 第1の実施形態の第1の変形例による4Dシステムを有さないシステムの構築例について説明する図である。 第1の実施形態の第1の変形例による情報処理システムの再生側における動作処理の全体の流れの一例を示すフローチャートである。 第1の実施形態の第2の変形例による各触覚提示デバイスのプロファイル情報に応じた触覚制御信号の配信について説明する図である。 第1の実施形態の第2の変形例によるプロファイルタイプ別に記述したスクリプトの一例を示す図である。 第1の実施形態の第3の変形例による振動アクチュエータと抵抗を直列に配置させた構成の一例を示す図である。 第1の実施形態の第4の変形例によるTV放送またはインターネット配信によりコンテンツを視聴する際に触覚刺激提示を行う例について説明する図である。 第1の実施形態の第4の変形例による記録媒体に記録されたコンテンツを視聴する際に触覚刺激提示を行う例について説明する図である。 第1の実施形態の第5の変形例によるインターネットゲームにおける触覚提示システムについて説明する図である。 第1の実施形態の第5の変形例によるアクション毎の制御コマンドを記述したスクリプトの一例を示す図である。 第1の実施形態の第6の変形例による光通信によるタイムコード配信方式について説明する図である。 第1の実施形態の第7の変形例による光通信によるコマンド配信方式について説明する図である。 第1の実施形態の第7の変形例による光通信によるコマンド配信を投影とは別の光源で行う方式について説明する図である。 第2の実施形態による情報処理システムの全体構成の一例を示す図である。 第2の実施形態による生成装置の構成の一例を示すブロック図である。 第2の実施形態による情報処理システムの生成側における動作処理の全体の流れの一例を示すフローチャートである。 第2の実施形態による情報処理システムの再生側における動作処理の全体の流れの一例を示すフローチャートである。 第2の実施形態による触覚制御信号ファイル名がコマンドとして記述されたスクリプトの一例を示す図である。 図29に示すスクリプトに従って触覚提示デバイスの各振動アクチュエータの制御(触覚刺激提示)を行った場合について説明する図である。 第2の実施形態の第1の変形例による4Dシステムを介さないシステムの構築例について説明する図である。 第2の実施形態の第1の変形例による4Dシステムを介さないシステムの再生側における動作処理の全体の流れの一例を示すフローチャートである。 第2の実施形態の第2の変形例によるTV放送によりコンテンツを視聴する際に触覚刺激提示を行う例について説明する図である。 第3の実施形態による編集画面の一例を示す図(その1)である。 第3の実施形態による編集画面の一例を示す図(その2)である。 第3の実施形態による編集画面の一例を示す図(その3)である。 第3の実施形態による編集画面の一例を示す図(その4)である。
 以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
 また、説明は以下の順序で行うものとする。
 1.本開示の一実施形態による情報処理システムの概要
 2.第1の実施形態(4Dシステムを介した触覚提示デバイスの制御)
  2-1.構成例
  (2-1-1.システム構成例)
  (2-1-2.生成装置10の構成例)
  (2-1-3.触覚提示デバイス制御装置20の構成例)
  2-2.動作処理
  (2-2-1.生成側の動作処理)
  (2-2-2.再生側の動作処理)
  ・補足1…オフセット情報の設定
  ・補足2…触覚データ生成時における推奨値の提示
  ・補足4…触覚提示デバイス2と触覚提示デバイス制御装置20との間のデータ伝送について
  2-3.変形例
  (2-3-1.4Dシステムを介さないシステム構築例)
  (2-3-2.各触覚提示デバイス2のプロファイル情報に応じた触覚制御信号の配信)
  (2-3-3.子供に適した触覚刺激提示の実現)
  (2-3-4.家庭用システム構築例)
  (2-3-5.インターネットゲームにおける触覚提示システム)
  (2-3-6.光通信によるタイムコード配信方式)
  (2-3-7.光通信によるコマンド配信方式)
 3.第2の実施形態(生成側で触覚制御信号を作成)
  3-1.構成例
  3-2.動作処理
  (3-2-1.生成側の動作処理)
  (3-2-2.再生側の動作処理)
  3-3.変形例
  (3-3-1.4Dシステムを介さないシステム構築例)
  (3-3-2.家庭用システム構築例)
 4.第3の実施形態(触覚提示の編集機能例)
 5.まとめ
 <<1.本開示の一実施形態による情報処理システムの概要>>
 本開示の一実施形態による情報処理システムは、再生コンテンツと同期して制御することを想定した触覚提示デバイスの制御用データの生成およびその再生を行うシステムに関し、処理負担の軽減や利便性の向上を図るシステムの構築について提案する。
 まず、本開示で用いる触覚提示デバイス2(図1参照)について以下説明する。触覚提示デバイス2は、映画館や、テーマパークのアトラクションでの利用、または、家庭でのテレビ視聴時や、ゲームプレイ時における利用を想定する。
(触覚提示デバイス2)
 触覚提示デバイス2は、例えば装着型の装置により形成される。例えば本実施形態では、ユーザに着用されるベスト型を想定する。ベスト型の触覚提示デバイス2は、内部に複数の触覚刺激部(アクチュエータとも称す)を有する。触覚刺激部は、例えば触覚提示デバイス2の内部において、ユーザの正面側および背面側にそれぞれ所定の個数(例えば6個)ずつ配置され得る。一例として、正面側に配置されている個々の触覚刺激部と、背面側に配置されている個々の触覚刺激部は、向かい合う位置関係で配置される。
 なお、触覚提示デバイス2の形状は、ベスト型(袖なしの上着形状)に限定されず、袖を有した上着形状であってもよい。この場合、ユーザの胸部および腹部だけでなく、ユーザの両腕に対応する位置にも、触覚刺激部が一以上配置されるようにしてもよい。また、本実施形態による触覚提示デバイス2は、上着形状に限定されず、ズボン、靴、ベルト、帽子、手袋、またはマスク等であってもよい。
 また、触覚提示デバイス2の肩部分には、左右にそれぞれ一つずつ音声出力部を配置してもよい。若しくは、触覚提示デバイス2に1つだけ音声出力部を配置してもよいし、3個以上配置してもよい。また、音声出力部は、触覚提示デバイス2とは独立した他の装置として、周辺に配置されていてもよい。
 (触覚刺激部)
 触覚提示デバイス2に含まれる複数の触覚刺激部がそれぞれ単独で振動を発生する場合、発生された振動は、当該触覚刺激部の周辺部でのみ知覚され得る。つまり、個々の触覚刺激部が離れて配置されている場合には、個々の触覚刺激部が別々に発生する振動は、ユーザの身体において離散的に知覚され得る。
 一方、ファントムセンセーションという錯覚現象が医学的に解明されている。このファントムセンセーションは、皮膚上の異なる位置に対して同時に刺激が提示されると、人間は、提示された刺激位置の間において刺激を一つだけ知覚するような錯覚現象である。例えば、ユーザの身体上に配置された2個の触覚刺激部に同時に刺激を出力させると、通常、ユーザに知覚される触覚刺激の位置(以下、知覚位置と称する)は、2個の触覚刺激部の間の位置になることが知られている。また、複数の触覚刺激部の出力強度を変化させることにより、個々の触覚刺激部の配置間隔を変えることなく、複数の触覚刺激部により提示可能な触覚刺激の範囲を連続的に拡大し得る。
 一例として、2個の触覚刺激部における各々の出力強度と知覚位置との関係(ファントムセンセーション)について説明する。例えば、時間の経過に応じて、第1の触覚刺激部の出力強度を例えば「1」、「0.6」、「0」のように連続的に弱くし、かつ、第2の触覚刺激部の出力強度を「0」、「0.6」、「1」のように連続的に強くしたとする。この場合、(ユーザに知覚される)知覚位置は、第1の触覚刺激部の接触位置から第2の触覚刺激部の接触位置へと連続的に移動し得る。
 このように、各触覚刺激部における各々の出力強度を制御することで、触覚刺激部の位置に限定されずに、知覚位置を任意に移動させることが可能となる。
 従って、触覚提示デバイス2の知覚効果を制作する際には、触覚刺激部の位置に関わらず任意に知覚位置を決定し、その知覚位置で提示する触覚刺激の強度(「知覚強度」と称す)と触覚刺激の種類(「触覚刺激種類」と称す)を設定することとなる。一方、触覚提示デバイス2を制御する際には、指定された知覚位置において、設定された強度かつ設定された種類の触覚刺激を提示するために、触覚提示デバイス2に設けられた個々の触覚刺激部へ入力する信号(「触覚制御信号」と称す)を算出する必要がある。
 本実施形態では、触覚提示デバイス2の知覚効果を制作する側(すなわち触覚提示デバイス2の制御用データの生成側)と、コンテンツの再生および再生に同期して触覚提示デバイス2を制御する側(すなわち、上記生成された制御用データを用いて触覚提示デバイス2を制御する側)を含むシステムに関し、処理負担の軽減や利便性の向上を図るシステムの構築について提案する。
 なお、本明細書において、「触覚刺激」の一例として振動刺激を用いる。具体的には、触覚提示デバイス2に、触覚刺激部として振動アクチュエータを設け、これにより振動刺激を提示する。また、「触覚刺激の種類」とは、提示する知覚のパターンであって、例えば振動の波形データ(知覚波形データ)が想定される。また、「触覚制御信号」とは、触覚提示デバイス2に設けられた個々の触覚刺激部(振動アクチュエータ)に入力する波形データ(駆動信号に相当する制御波形データ)である。
 以上、本開示の一実施形態による情報処理システムの概要について説明した。続いて、本実施形態による情報処理システムについて、複数の実施形態を用いて具体的に説明する。
 <<2.第1の実施形態(4Dシステムを介した触覚提示デバイスの制御)>>
  <2-1.構成例>
  (2-1-1.システム構成例)
 図1は、第1の実施形態による情報処理システム1aの全体構成の一例を示す図である。図1に示すように、本実施形態による情報処理システム1aは、生成装置10、触覚提示デバイス制御装置20、シネマシステム30、4Dシステム制御装置40、および、検証システム50を含む。本実施形態では、触覚提示デバイス2を映画館で用いる場合を想定する。
 (再生側)
 シネマシステム30は、再生制御装置31、プロジェクタ32、およびスクリーンSを含み、再生制御装置31は、プロジェクタ32を用いてスクリーンSに映像(映画コンテンツ)を投影し、映画を上映する。また、図1には図示していないが、シネマシステム30は、さらに音響システムと連携し、映画コンテンツに含まれる音声データを音響システムから再生する制御を行う。
 再生制御装置31は、映画コンテンツの再生制御を行うと共に、映画コンテンツの再生位置を示すタイムコードをリアルタイムで4Dシステム制御装置40に出力する。
 4Dシステム制御装置40は、映画館に導入された4D技術を制御する機能を有する。4D技術とは、現在の時空間などの3次元の次元定義に対し、それとは異なる新しい次元定義を行った技術を指し、デジタルコンテンツ(例えば映像)以外のリアルな要素を提示する際に用いられる。映画館に用いられる4D技術は、より具体的には、映画の上映に合わせて振動したり、動いたり、また、空気(風)や、水、霧、光、香り等を観客に放出したりする機能を備えた、映画観賞用の座席装置(以下、「4Dシート」と称す)が挙げられる。4Dシステム制御装置40は、再生制御装置31から受信したタイムコードに従って、4Dシート4の振動や、空気、水、香り等の放出を適宜制御し、映画と同期した4D出力を実現する。本明細書では、4Dシステム制御装置40、4Dシート4、および、4Dシート4から空気や水、香り等を放出するための周辺装置(不図示)を含めて、「4Dシステム」と称す。
 また、タイムコードに従った4Dシステム制御装置40による4D技術の制御は、本システムの生成側における生成装置10で予め生成された「4D制御情報」(4Dシステム用ファイル)に従って行われる。「4D制御情報」には、タイムコードに対応した振動の制御や、空気、水、香り等の放出制御に関する制御コマンドが含まれる。なお、本実施形態による4D制御の詳細な内容については特に限定せず、例えば既存の4D制御を用いてもよい。
 また、本実施形態による4Dシステム制御装置40は、本システムの生成側における生成装置10で予め生成され取得した生成ファイルに含まれる、触覚提示デバイス2の制御コマンドが再生コンテンツの時間軸に対応して記述されたテキストデータ(本明細書では、「スクリプト」と称す)を参照し、再生制御装置31から受信したタイムコードに従って、適宜、触覚提示デバイス制御装置20に、触覚提示デバイス2の制御に関するコマンドを出力する。
 触覚提示デバイス制御装置20は、4Dシステム制御装置40から受信したコマンドに従って触覚提示デバイス2を制御することで、映画(映像および音声)および4Dシート4と同期した触覚刺激提示を行い得る。具体的には、触覚提示デバイス制御装置20は、4Dシステム制御装置40から受信したコマンドに従って触覚制御信号を生成し、触覚提示デバイス2に出力する。かかるコマンドには、振動刺激の知覚位置、振動刺激の波形種類、および、振動刺激の強度情報が含まれる。触覚提示デバイス制御装置20は、コマンドで指定された知覚位置において、指定された強度で、指定された波形による振動刺激を提示するよう、触覚提示デバイス2に設けられた個々の触覚刺激部へ入力する触覚制御信号(波形データ)を生成(算出)し、出力する。
 なお、「振動刺激の波形種類」は、予め生成され触覚LibDB221に蓄積されている触覚データライブラリ(すなわち、多数の映画で汎用し得る基本的な振動波形パターンである。本明細書では、「触覚ライブラリ」とも称す)、または、当該映画の音声データに基づいて生成された生成触覚データ(すなわち、今回上映する映画用に作成された振動波形パターン)が指定される。生成触覚データは、生成側から(4Dシステム制御装置40を介して)取得し、触覚提示デバイス制御装置20において記憶部に蓄積する。
 また、触覚提示デバイス制御装置20が生成する触覚制御信号には、音声信号を用いてもよい。例えば入力された音声信号に基づいて駆動する(例えば入力された音声信号を加振信号に変換して振動として出力することが可能な)振動アクチュエータが触覚提示デバイス2に設けられている場合、触覚提示デバイス制御装置20は、個々の触覚刺激部に入力する音声信号(音声の波形を示すデータ)を触覚制御信号(駆動信号)として生成し、出力する。
 このように、本実施形態による情報処理システム1aでは、映画館に4Dシート4と触覚提示デバイス2を併用して導入することができ、映画の臨場感をより一層高め、さらなる没入感を観客に与えることを可能とする。また、4Dシステム(具体的には4Dシステム制御装置40)を利用して触覚提示デバイス2の制御を実現することで、4Dシステムが既に構築されている映画館においても容易に触覚提示デバイス2を導入し、システムに組み込むことができる。
 続いて、以上説明した4Dシステムの制御および触覚提示デバイス2の制御を実現する制御情報(4D制御情報および「スクリプト」)を生成する生成側について説明する。
 (生成側)
 生成装置10は、ユーザ(制作者)の操作に従って、4Dシステムの制御情報(4D制御情報)や、触覚提示デバイス2の制御情報を生成する。本実施形態による触覚提示デバイス2の制御情報とは、再生コンテンツ(例えば映画コンテンツ)のタイムコードに対応して制御コマンドを記述したスクリプト(テキストデータ)である。また、生成装置10は、再生コンテンツの音声データ(例えば映画コンテンツの効果音、BGM、またはセリフ音声)から、触覚提示デバイス2で提示する知覚のデータ(触覚データ)を生成することも可能である。生成装置10により生成される触覚データ(生成触覚データ)は、例えば、振動の波形パターンを示すデータである。生成装置10は、再生コンテンツに対応して生成したスクリプトおよび生成触覚データを、生成ファイルに含め、4Dシステム制御装置40に配信する。なお、生成装置10により生成される4D制御情報や、触覚提示デバイス2の制御情報を含む生成ファイルは、有線/無線通信によりネットワークを介して4Dシステム制御装置40に配信されてもよいし、これらのデータが記憶された記憶媒体を4Dシステム制御装置40に設置するようにしてもよい。
 また、生成装置10において制御情報を生成する際、ユーザは、ローカルの検証システム50を用いて、体験を確認することも可能である。検証システム50は、制御装置52、触覚提示デバイス54、4Dシート56、および表示装置58を含む。制御装置52は、映画コンテンツを表示装置58で再生すると共に、生成装置10で生成した制御情報に基づいて、4Dシート56や触覚提示デバイス54を駆動し、知覚体験を実際に確認し、適宜、制御情報の修正(フィードバック)を行うことができる。
 以上、本実施形態によるシステム構成の一例について説明した。続いて、本システムに含まれる主要な装置の具体的な構成について、以下説明する。
  (2-1-2.生成装置10の構成例)
 図2は、本実施形態による生成装置10の構成の一例を示すブロック図である。図2に示すように、生成装置10は、制御部100、通信部110、操作入力部120、表示部130、および、記憶部140を有する。
 制御部100は、演算処理装置および制御装置として機能し、各種プログラムに従って生成装置10内の動作全般を制御する。制御部100は、例えばCPU(Central Processing Unit)、マイクロプロセッサ等の電子回路によって実現される。また、制御部100は、使用するプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、及び適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)を含んでいてもよい。
 また、制御部100は、4D制御情報生成部101、触覚提示情報生成部102、および、触覚データ生成部103としても機能する。
 4D制御情報生成部101は、ユーザ(制作者)による操作入力に基づいて、再生コンテンツに同期するよう4Dシート4を制御するための制御情報(4D制御情報)を生成する(なお生成装置10は、予め再生コンテンツを取り込む)。例えば4D制御情報生成部101は、再生コンテンツのタイムコードに対応付けた4Dシート4の振動の制御信号や、空気、水、香り等の放出制御信号を示す制御コマンドを生成する。また、4D制御情報生成部101は、4D制御情報の生成用画面を表示部130に表示し、操作入力部120により検出されたユーザ操作内容に基づいて、4D制御情報を生成する。本明細書では、4D制御情報の詳細については特に限定せず、例えば既存の4D制御技術を用いるようにしてもよい。
 触覚提示情報生成部102は、ユーザ(制作者)による操作入力に基づいて、再生コンテンツに同期するよう触覚提示デバイス2を制御するための制御情報を生成する。具体的には、触覚提示情報生成部102は、再生コンテンツ(例えば映画コンテンツ)のタイムコードに対応付けて制御コマンドを記述したスクリプト(テキストデータ)を生成する。制御コマンドには、振動刺激の知覚位置、振動刺激の波形種類、および、振動刺激の強度情報が含まれる。また、触覚提示情報生成部102は、スクリプトの生成用画面を表示部130に表示し、操作入力部120により検出されたユーザ操作内容に基づいて、スクリプトを生成する。スクリプトの生成用画面は、4D制御情報の生成用画面に追加して表示するようにしてもよい。本システムでは、生成装置10で起動する4D制御情報生成用のアプリケーション(4D制御情報生成部101の機能)において、触覚提示デバイス2の制御情報であるスクリプトの生成機能(触覚提示情報生成部102の機能)を、プラグインとして提供するようにしてもよい。スクリプトの生成機能を、既存の4D制御情報生成アプリケーションのプラグインとして提供する場合の表示画面例については、図5を参照して後述する。
 触覚データ生成部103は、再生コンテンツの音声データ(効果音、BGM(背景音楽)、セリフ音声等)から、触覚提示情報生成部102で提示する触覚刺激の知覚パターン(すなわち、触覚データ)を生成する機能を有する(本明細書において、触覚データ生成部103において再生コンテンツの音声データから生成した触覚データを、「生成触覚データ」とも称す)。再生コンテンツの音声データは、例えば映画コンテンツにおいて、オーディオトラックとして提供され得る。効果音の音声データは、映画コンテンツ内で発生する(使用する)タイミングで時間情報と共にトラックが割り当てられていることを想定する。また、BGMは、使用する楽曲ごとにトラックが分かれていて(時間情報を含む)、かつL/Rも分離された音源であることを想定する。なおBGMは、L/Rのみでなく、5.1chスピーカに対してトラックが分かれていてもよい。触覚データ生成部103は、どのオーディオトラックを使用するかをユーザに選択させて、選択されたオーディオトラックから触覚データを生成する。また、セリフ音声も、映画コンテンツ内で発生するタイミングで時間情報と共にトラックが割り当てられていてもよい。
 音声データ(オーディオトラック)からの触覚データの生成アルゴリズムについては特に限定しないが、例えば触覚データ生成部103は、音声信号からビート成分を抽出する処理(スペクトル算出、時間微分、ビート判定等)を行い、ビート波形を生成し、生成したビート波形をゲインとして音声信号の少なくとも所定の周波数帯域を増幅させてビート強調音声信号を生成し、触覚データとして用いることが可能である。なお、触覚データ生成部103は、音声信号からビート成分を抽出する際の演算処理において、プロファイルDB143に記憶されている触覚提示デバイス2のプロファイル情報(例えば共振周波数等)を参照して適宜パラメータを調整するようにしてもよい。
 また、セリフ音声からの触覚データの生成は、制作者が手動により、セリフの内容や、抑揚、ボリューム等に応じて行うようにしてもよい。
 通信部110は、有線または無線により外部装置と接続し、データの送受信を行う。通信部110は、例えば有線/無線LAN(Local Area Network)、またはWi-Fi(登録商標)、Bluetooth(登録商標)、携帯通信網(LTE(Long Term Evolution)、3G(第3世代の移動体通信方式))等によりネットワークと接続し、ネットワークを介して外部装置とデータの送受信を行い得る。
 本実施形態による通信部110は、例えば生成した4D制御情報や、スクリプト、生成触覚データを、検証システム50に送信したり、ネットワークを介して4Dシステム制御装置40に送信したりする。
 操作入力部120は、ユーザによる操作指示を受付け、その操作内容を制御部100に出力する。操作入力部120は、タッチセンサ、圧力センサ、若しくは近接センサであってもよい。あるいは、操作入力部は、ボタン、スイッチ、およびレバーなど、物理的構成であってもよい。
 表示部130は、制御情報生成の画面等を出力する表示装置である。表示部130は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)、有機EL(Electro Luminescence)ディスプレイなどの表示装置であってもよい。
 記憶部140は、制御部100の処理に用いられるプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、および適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)により実現される。本実施形態による記憶部140は、具体的には、例えば触覚LibDB141、生成触覚データDB142、およびプロファイルDB143を有する。
 触覚LibDB141には、予め生成された触覚データライブラリ(振動波形パターン)が格納されている。触覚LibDB141の触覚データライブラリは、映画館側の触覚LibDB221と共通するデータである。本実施形態では、映画館側が予め所有する触覚データライブラリを利用するようスクリプトに記述しておくことで、対象の触覚データを映画館側に送信することなく、映画館側で対象の触覚データライブラリに基づく触覚刺激の提示を実施することができる。これにより、4Dシステム制御装置40への配信データ量の削減を図ることができる。
 生成触覚データDB142には、再生コンテンツの音声データに基づいて生成装置10により生成された生成触覚データ(振動の波形パターン)が格納されている。生成触覚データは、スクリプトと共に生成ファイルに含まれ、4Dシステム制御装置40に配信される。
 プロファイルDB143には、映画館で利用される触覚提示デバイス2のプロファイル情報が格納されている。具体的には、例えば触覚提示デバイス2の振動アクチュエータの個数とその位置(x,y)、過渡応答特性(1~5)、および共振周波数(Hz)といった情報が、プロファイル情報として格納される。かかるプロファイル情報に基づいて、例えば触覚提示情報生成部102は、知覚位置の選択画面を生成、表示したり(振動アクチュエータの配置を表示)、触覚提示デバイス2での遅延量を算出してスクリプトの制御コードに時間軸に対するオフセット情報を設定したりできる。また、触覚データ生成部103が音声データから触覚データを生成する際、当該プロファイル情報を参照して適宜パラメータの調整を行うことが可能である。なお、検証システム50の触覚提示デバイス54も、触覚提示デバイス2と同様のプロファイルを有するものを利用することで、より確実に体験確認を行うことができる。
 以上、本実施形態による生成装置10の構成について具体的に説明した。なお、生成装置10の構成は、図2に示す例に限定されず、例えば、生成装置10の一部が外部装置に設けられていてもよい。
  (2-1-3.触覚提示デバイス制御装置20の構成例)
 図3は、本実施形態による触覚提示デバイス制御装置20の構成の一例を示すブロック図である。図3に示すように、触覚提示デバイス制御装置20は、制御部200、通信部210、および、記憶部220を有する。
 制御部200は、演算処理装置および制御装置として機能し、各種プログラムに従って触覚提示デバイス制御装置20内の動作全般を制御する。制御部200は、例えばCPU(Central Processing Unit)、マイクロプロセッサ等の電子回路によって実現される。また、制御部200は、使用するプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、及び適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)を含んでいてもよい。
 また、制御部200は、制御信号生成部201および出力制御部202としても機能する。
 制御信号生成部201は、4Dシステム制御装置40から受信したコマンドに従って、触覚提示デバイス制御装置20に設けられている1以上の振動アクチュエータを駆動させるため触覚制御信号(個々の振動アクチュエータに入力する制御信号)を生成する。
 コマンドには、知覚位置(触覚刺激の提示位置)、知覚強度(触覚刺激の強度)、および、触覚刺激の種類が含まれる。制御信号生成部201は、コマンドで指定されている知覚位置および知覚強度に応じて、当該知覚位置で所定の知覚強度を知覚させるよう、複数の振動アクチュエータを特定し、各振動アクチュエータにおける振動強度を決定(算出)し、複数の振動アクチュエータにそれぞれ出力する各制御信号を生成する。上述したように、本実施形態では、ファントムセンセーションと称される錯覚現象に基づき、複数の振動アクチュエータの出力強度を調整することで、個々の振動アクチュエータの配置位置以外でも、触覚刺激を提示することが可能となる。
 具体的には、制御信号生成部201は、指定された知覚位置の近隣に位置する複数の振動アクチュエータと、指定された知覚位置との各位置関係(距離)、および、指定された知覚強度に基づいて、知覚位置で所定の知覚強度を提示するよう、当該複数の振動アクチュエータの各々の出力強度を算出する。また、制御信号生成部201は、生成する制御信号の波形パターンは、コマンドで指定された触覚刺激の種類に従って生成する。コマンドで指定される触覚刺激の種類は、触覚LibDB221に格納された触覚データライブラリ、または、配信され、生成触覚データDB222に格納した生成触覚データが想定される。
 なお、本明細書において、「知覚位置」には、知覚位置の移動経路(知覚経路)も含まれ得る。また、「知覚位置」は、身体の表面上のみならず、身体の内部も含まれる。上述したようなファントムセンセーションと称される錯覚現象を用いることで、例えば身体の前面から背面に貫通するような触覚刺激を提示することも可能である。また、本実施形態では、知覚位置に加えて、知覚範囲をコマンドに含めてもよい。知覚範囲は、例えば半径を持つ円や円弧などであってもよい。また、知覚範囲内における強度を一律とするか、同心円で触覚刺激が広がっていくのか(その場合、広がる速さについても)、同心円で外周から触覚刺激が中心に向かっていくのか等の要素指定を行うことも可能である。これらの要素指定は、例えばスクリプトに記述される制御コマンドに含まれる「触覚提示位置」に規定され得る(「原点(x,y)、半径」など)。
 出力制御部202は、制御信号生成部201により生成された各触覚制御信号を、触覚提示デバイスI/F212により、触覚提示デバイス2(または、触覚提示デバイス2の振動アクチュエータ)に送出することで、触覚提示デバイス2の振動出力(触覚刺激の提示)制御を行う機能を有する。
 通信部210は、有線または無線により外部装置と接続し、データの送受信を行う。通信部210は、例えば有線/無線LAN(Local Area Network)、またはWi-Fi(登録商標)、Bluetooth(登録商標)、携帯通信網(LTE(Long Term Evolution)、3G(第3世代の移動体通信方式))等によりネットワークと接続し、ネットワークを介して外部装置とデータの送受信を行い得る。
 本実施形態による通信部210は、システムI/F211および触覚提示デバイスI/F212を有する。システムI/F211は、システムとデータの送受信を行う通信部である。例えばシステムI/F211は、4Dシステムと通信接続し、4Dシステム制御装置40がスクリプトを参照して、シネマシステム30から取得したタイムコードに従って発行したコマンドや、4Dシステム制御装置40が生成装置10から取得した生成ファイルから抽出した生成触覚データを、受信する。また、触覚提示デバイスI/F212は、触覚提示デバイス2とデータの送受信を行う通信部である。例えば触覚提示デバイスI/F212は、触覚提示デバイス2からプロファイル情報を取得したり、制御信号生成部201により生成された触覚制御信号を触覚提示デバイス2に送信したりする。
 記憶部220は、制御部200の処理に用いられるプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、および適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)により実現される。本実施形態による記憶部220は、具体的には、例えば触覚LibDB221、生成触覚データDB222、およびプロファイルDB223を有する。
 触覚LibDB221には、予め生成された触覚データライブラリ(振動波形パターン)が格納されている。生成触覚データDB222には、再生コンテンツの音声データに基づいて生成装置10により生成された生成触覚データ(振動波形パターン)が格納されている。生成触覚データは、4Dシステム制御装置40が生成装置10から取得した生成ファイルから抽出し、システムI/F211を介して4Dシステム制御装置40から送信され得る。
 プロファイルDB223には、触覚提示デバイス2のプロファイル情報が格納されている。具体的には、例えば触覚提示デバイス2の振動アクチュエータの個数とその位置(x,y)、過渡応答特性(1~5)、共振周波数(Hz)、周波数特性(dB)、最大入力電圧(Vpp)、処理(遅延)時間(ms)、および、バージョン情報(ID)といった情報が、プロファイル情報として格納される。
 振動アクチュエータの個数とは、触覚提示デバイス2に設けられた振動アクチュエータの総数である。また、振動アクチュエータの位置は、触覚提示デバイス2の中心を原点にした座標(x,y)で示してもよい。また、触覚提示デバイス2の前面に設けられた振動アクチュエータの座標系と、裏面に設けられた振動アクチュエータの座標系とを含んでもよい。
 過渡応答特性は、触覚提示デバイス2が、静止状態から入力信号に正しく追従するまでの反応度合である(一例として、反応度合を1~5にレベル分けしてもよい)。また、共振周波数は、振動アクチュエータが効率良く振動する周波数である。また、周波数特性は、共振周波数の加速度を0(dB)とした時の各周波数の加速度である(例えば、「周波数,dB値」の組み合わせで示す)。また、最大入力電圧は、通常使用時に印加してよい最大の電圧値である(例えば信号波形のPeak to Peakの値)。また、処理(遅延)時間は、触覚提示デバイス2側で見込まれている信号処理時間であり、この時間分の遅延が発生する。
 ここで、プロファイル情報のデータ構成の一例を下記に示す。ここでは、各振動アクチュエータの位置を、触覚提示デバイス2の中心を原点(0,0)として、x軸方向(-5~5)、y軸方向(-5~5)の座標系で示す。
・プロファイル情報のデータ構成例
個数:9
位置:(-4.0,2.5),(0.0,4.0),(4.0,2.5),
   (-3.0,-0.5),(0.0,0.0),(3.0,-0.5),
   (-3.0,-2.5),(0.0,-4.0),(3.0,-2.5)
過渡:3
共振:100
周波数特性:(10,-10),(50,-6),(100,0)、、、
最大入力電圧:20
処理遅延時間:300
 以上、本実施形態による触覚提示デバイス制御装置20の構成について具体的に説明した。なお、触覚提示デバイス制御装置20の構成は、図3に示す例に限定されず、例えば、触覚提示デバイス制御装置20の一部が外部装置に設けられていてもよい。
 <2-2.動作処理>
 続いて、本実施形態による情報処理システムの動作処理について図面を用いて具体的に説明する。
 (2-2-1.生成側の動作処理)
 図4は、本実施形態による情報処理システムの生成側における触覚提示デバイス2の制御情報生成処理の全体の流れの一例を示すフローチャートである。
 図4に示すように、まず、生成装置10の制御部100は、再生コンテンツの時間軸における触覚提示場所のユーザ(制作者)による選択を受け付ける(ステップS103)。例えば制御部100は、表示部130に、図5に示すような編集画面1300を提示する。編集画面1300には、再生コンテンツの音声データ(L/R)の波形が時間軸上に表示され、さらに、4Dシート用の設定画面1320と、触覚提示デバイス2用の設定画面1330が表示されている。ユーザは、再生コンテンツの音声データの波形や、また、併せて再生コンテンツの映像(不図示)を閲覧しながら、設定画面1320および設定画面1330において、4Dシート4や触覚提示デバイス2で振動等を発生させる時間帯(時間位置の場所)を指定する。設定画面1320および設定画面1330には、再生コンテンツに対応する時間軸が提示され、4Dシート4や触覚提示デバイス2で振動等を発生させる時間帯を指定することが可能となる。例えばユーザは、触覚提示デバイス2用の設定画面1330に表示される時間軸上において、触覚提示デバイス2で振動を発生させたい時間帯1331を、スワイプ操作等で指定する。また、指定した時間帯1331をタップ(またはクリック等)操作により選択すると、図6に示すような、さらに具体的な設定を行うための詳細設定画面1340が表示される。詳細設定画面1340では、次に説明する触覚種類(振動刺激の波形種類)の選択(ステップS109)、触覚提示位置(知覚位置)の設定(ステップS112)、および知覚強度の調整(ステップS115)を行い得る。
 触覚種類(振動刺激の波形種類)の選択(ステップS109)では、図6の詳細設定画面1340に示すように、予め生成された触覚ライブラリ(例えば典型的な波形パターン)からの選択の他(選択画面1344参照)、再生コンテンツの音声データから生成した触覚データから選択すること(選択画面1345参照)が可能である。
 具体的には、制御部100は、ユーザによる音データ(効果音/BGM/セリフ音声)の選択が行われると(ステップS118)、選択された音データに基づいて、触覚データ生成部103により、触覚データを生成する(ステップS121)。音データの選択は、図6に示す選択画面1345において、各音声(効果音/BGM/セリフ音声)の波形データを囲む矩形により選択し得る。
 ユーザは、例えば選択画面1344や選択画面1345から波形データを選択し、ドラッグ&ドロップ操作によって任意の触覚提示位置(または触覚提示経路)上に移動させることで、触覚提示位置(または触覚提示経路)における触覚刺激の種類を設定することができる。設定した触覚刺激の種類は、例えば図6に示す時系列表示画像1342において、時間軸に対応して表示される。
 以上説明した再生コンテンツの音声データからの触覚データの生成機能は、プラグイン2として、既存の4Dシステム編集アプリケーションに追加することも可能である。
 次に、触覚提示位置(知覚位置)の設定(ステップS112)では、知覚位置(または知覚経路)をユーザが任意に設定し得る。例えば、図6に示すような触覚提示デバイス2の各振動アクチュエータの位置521a~521iを示す設定画面1341において、知覚位置523や、知覚位置523が移動する経路524を、タップ、クリック、スワイプ等の操作により指定し得る。
 次いで、知覚強度の調整(ステップS115)では、知覚位置(または知覚経路)における知覚強度をユーザが任意に設定し得る。設定した知覚強度は、例えば図6に示す時系列表示画像1343において、時間軸に対応して表示される。
 続いて、制御部100は、設定した知覚位置、触覚種類、および強度の情報を、検証システム50へ出力する(ステップS124)。検証システム50では、制御装置52において、生成装置10から取得した知覚位置、触覚種類、および強度の情報に基づいて、触覚提示デバイス54の振動アクチュエータに入力する触覚制御信号を生成(算出)し、触覚提示デバイス54に出力する。これにより、設定内容で実際に触覚提示デバイス2を駆動した場合の体感を触覚提示デバイス54で検証することができる。従って、触覚提示デバイス54のプロファイルは触覚提示デバイス2と同様であることが望ましい。
 以上説明したステップS103~S124の処理を、再生コンテンツに関する全ての設計が完了するまで繰り返す(ステップS127/No)。なお、基本的にはS106以降の処理を繰り返し、再生コンテンツの時間軸における触覚提示場所を変更または追加する意思がユーザ操作により明示された場合は、ステップS103に移行するようにしてもよい。
 再生コンテンツに関する全ての設計が完了すると(ステップS127/Yes)、触覚提示情報生成部102は、設定した知覚位置、触覚種類、および強度の情報に基づいて、スクリプトを生成する(ステップS130)。具体的には、触覚提示情報生成部102は、再生コンテンツのタイムコード(時間軸)に、制御コマンドを対応付けて記述したテキストデータを生成する。制御コマンドには、知覚位置、触覚種類、および強度の情報が含まれる。制御コマンドは暗号化されてもよい。
 生成されたスクリプトは、生成触覚データもある場合にはこれと共に「生成ファイル」に含まれ、再生側(例えば4Dシステム制御装置40)に配信される。また、再生側には、生成装置10で生成された4D制御情報も併せて配信される。
 以上説明したスクリプトの生成機能は、プラグイン1として、既存の4Dシステム編集アプリケーションに追加することも可能である。
 (2-2-2.再生側の動作処理)
 続いて、生成装置10で生成したスクリプトを用いた再生側の動作処理について、図7を参照して説明する。図7は、本実施形態によるスクリプトを用いた再生側における動作処理の全体の流れの一例を示すフローチャートである。ここでは一例として、再生側が映画館であり、再生コンテンツが映画コンテンツの場合を想定する。
 図7に示すように、再生制御装置31は、映画コンテンツの再生を開始すると(ステップS153)、映画コンテンツにおける再生位置を示すタイムコードを4Dシステム制御装置40に配信する(ステップS156)。タイムコードの配信は、映画コンテンツの再生が終了するまで繰り返される(ステップS159)。
 一方、4Dシステム制御装置40は、4D制御情報と、少なくともスクリプトを含む生成ファイルと、を(生成装置10から)取得する(ステップS162)。
 次に、4Dシステム制御装置40は、生成ファイルに生成触覚データが含まれていた場合、当該生成触覚データを触覚提示デバイス制御装置20に送信する(ステップS165)。
 次いで、触覚提示デバイス制御装置20は、4Dシステム制御装置40から受信した生成触覚データを保存する(ステップS168)。
 次に、再生制御装置31からタイムコードが配信されると、4Dシステム制御装置40は、当該タイムコードに従って、4D制御情報を参照し、4Dシステムを駆動する(ステップS171)。
 次いで、4Dシステム制御装置40は、同タイムコードに従って、スクリプトを参照し、コマンド発行処理を行う(ステップS174)。具体的には、4Dシステム制御装置40は、スクリプトの記述から、配信されたタイムコードに対応する制御コマンドを抽出し、コマンド(暗号化されたコマンドであってもよい)として発行する。
 4Dシステム制御装置40は、コマンドを触覚提示デバイス制御装置20に発行する(ステップS177)。
 4Dシステム制御装置40は、再生制御装置31からのタイムコードの受信が終了するまで、上記ステップS171~S177の処理を繰り返す(ステップS180)。なおタイムコードの受信が終了した場合、4Dシステム制御装置40は、終了コマンドを触覚提示デバイス制御装置20に発行して処理を終了する。
 続いて、触覚提示デバイス制御装置20は、4Dシステム制御装置40から発行されたコマンドが終了コマンド以外の場合(ステップS183/No)、制御信号生成部201により、当該コマンドに基づいて触覚制御信号(振動アクチュエータを駆動する音声信号であってもよい)を生成する(ステップS186)。
 次に、触覚提示デバイス制御装置20は、生成した触覚制御信号を触覚提示デバイス2(または触覚提示デバイス2の各振動アクチュエータ)に出力する(ステップS189)。
 ここで、制御信号生成部201によるコマンド処理について、図8を参照して具体的に説明する。図8は、本実施形態による触覚提示デバイス2の制御信号生成部201におけるコマンド処理の一例について説明する図である。図8に示すように、コマンドが入力されると、触覚提示デバイス制御装置20の制御信号生成部201は、入力されたコマンドを分析し、波形種類、触覚提示位置、強度、およびオフセット情報(詳細については後述)を抽出する。制御信号生成部201は、コマンドが暗号化されている場合はこれを復号し、波形種類、触覚提示位置、強度、およびオフセット情報を抽出する。
 次いで、制御信号生成部201は、波形種類に基づいて、触覚ライブラリまたは生成触覚データを取得する(基本的には対象の波形データの先頭から使用するが、スクリプトの制御コマンドに「何秒目の位置から使用する」といった情報が追加されている場合にはそれに従う)。次に、制御信号生成部201は、取得した触覚データと、触覚提示位置を考慮して、複数の振動アクチュエータの特定と、各振動アクチュエータに入力する触覚制御信号(波形データ)を算出する。算出の際、制御信号生成部201は、触覚提示デバイス2のプロファイル情報(振動アクチュエータの個数・位置、過渡応答特性、共振周波数、周波数特性)を参照する。
 次に、制御信号生成部201は、コマンドから抽出した「強度」に基づいて、上記算出した各振動アクチュエータに出力する触覚制御信号の信号振幅の増幅、減衰といったGain調整を行う。なお制御信号生成部201は、信号振幅の増幅時には、プロファイル情報を参照し、「最大入力電圧」以上の出力とならないように演算する。また、信号振幅の減衰時には、所定のレベル以下となった場合は「0」とする演算を行ってもよい。これにより、細かな雑音をカットすることが可能である。
 次いで、コマンド分析によりオフセット情報が抽出された場合、制御信号生成部201は、前段の遅延量(コマンド入力からここまでの制御信号生成部201における処理で発生した遅延量)を考慮した上で、オフセット情報に基づいた信号遅延処理を行なう。具体的には、例えばオフセット情報が4sで設定されている場合に、前段の遅延量が3sだった場合、1s経過後に、生成した触覚制御信号を触覚提示デバイス2に出力する。さらには、制御信号生成部201は、後段で発生する「処理時間」分(例えば触覚提示デバイス2とのデータ伝送や、触覚提示デバイス2での処理遅延量)を差し引いた信号遅延を行なってもよい。例えば、オフセット情報が5sで設定されている場合に、前段の遅延量が2sだったが、後段で発生する「処理時間」が2sであるという情報がプロファイル情報から取得された場合、これらを差し引いた残り1s後に、触覚制御信号を触覚提示デバイス2に出力するよう制御してもよい。なおオフセット情報が設定されていない場合は、かかる信号遅延処理はスキップする。
 以上により、上記生成装置10により生成されたスクリプトを用いて、また、4Dシステム制御装置40を介し、再生コンテンツと4Dシステムに同期した触覚提示デバイス2の制御を実現することが可能となる。
 本実施形態では、スクリプトに記述された制御コマンドに基づいて再生側の触覚提示デバイス制御装置20で触覚制御信号の生成を行い、生成装置10側から受信するデータは、比較的データ容量の少ないテキストデータから成るスクリプトで済むため、生成側と再生側の間におけるデータ配信量を低減することが可能となる。
 ・補足1…オフセット情報の設定
 本実施形態による触覚提示デバイス制御装置20は、4Dシステム制御装置40から発行されたコマンドにオフセット情報が含まれている場合、当該オフセット情報を考慮したタイミングで触覚提示デバイス2の制御(コマンドの実行)を行うことが可能である。
 オフセット情報は、生成装置10において、スクリプトを生成する際に設定し得る。例えば触覚提示情報生成部102は、再生側における処理遅延量(例えば、触覚提示デバイス制御装置20の処理遅延量)を考慮して自動で、またはユーザが任意で、時間軸に対するオフセット情報を設定することが可能である。
 図9は、本実施形態によるオフセット情報を含むスクリプトの一例を示す図である。図9に示すように、時間軸に対して、触覚提示位置、波形種類、強度、および、オフセット情報を含む制御コマンド(暗号化され得る)が対応付けられているスクリプトを想定する。
 4Dシステム制御装置40は、再生制御装置31から発行されるタイムコードに従って、対応付けられたコマンド(オフセット情報を含む)を触覚提示デバイス制御装置20に発行する。触覚提示デバイス制御装置20は、コマンドを受信してから、当該コマンドに含まれるオフセット情報の時間経過後に、当該コマンドを実行(具体的には、当該コマンドに従って生成した触覚制御信号を触覚提示デバイス2に出力)する。これにより、触覚提示デバイス制御装置20で発生し得る処理遅延量を解消することができる。
 例えば図9に示す例では、スクリプトに記述されている1段目の制御コマンドは、タイムコード0sのタイミングで触覚提示デバイス制御装置20に発行され、オフセット情報「0(s)」のため、触覚提示デバイス制御装置20は、即時、触覚制御信号の生成と触覚提示デバイス2への出力を行う。一方、図9のスクリプトに記載されている2段目の制御コマンドは、タイムコード1sのタイミングで触覚提示デバイス制御装置20に発行されるが、オフセット情報「2(s)」のため、触覚提示デバイス制御装置20は、当該コマンドを受信してから2s後に、生成した触覚制御信号の触覚提示デバイス2への出力(コマンドの実行)を行う。この場合、再生コンテンツの時間軸上では、2段目の制御コマンドが、実際は「3s」のタイミングで実行されることとなる。このように、オフセット情報「2(s)」の設定により触覚提示デバイス制御装置20の処理時間に余裕が生じ、触覚提示デバイス制御装置20における処理遅延量を解消することが可能となる。以下、図10を参照して具体的に説明する。
 図10は、本実施形態によるオフセット情報を考慮した触覚提示デバイス制御装置20におけるコマンド実行処理の全体の流れの一例を示すフローチャートである。
 図10に示すように、触覚提示デバイス制御装置20は、4Dシステム制御装置40からコマンドを受信すると(ステップS203)、コマンドに含まれるオフセット情報(n秒)を取得する(ステップS206)。
 次に、触覚提示デバイス制御装置20は、オフセット情報(n秒)が、n>0の場合(ステップS209/Yes)、n-1の演算処理(ステップS212)を、nが0以下となるまで1秒単位で繰り返す。
 nが0以下となった場合(ステップS209/No)、触覚提示デバイス制御装置20は、コマンドを実行する(ステップS215)。なお、触覚提示デバイス制御装置20は、コマンドに基づく触覚制御信号の生成処理は、コマンド受信後、上記ステップS206~S212の処理と並列して行い得る。
 以上、オフセット情報を考慮したコマンド実行処理について説明した。なお、オフセット情報や、上記ステップS212に示す減算値は、小数点以下の値であってもよい。
 また、触覚提示デバイス制御装置20は、コマンドを受信してからの経過時間を観測して、オフセット情報と比較し、実行のタイミングを判断してもよい。
 また、オフセット情報を考慮したコマンド実行処理の結果、オフセット情報次第では、コマンド受信の順序とコマンド実行の順序が一致しない場合もある。
 ・補足2…触覚データ生成時における推奨値の提示
 上述した再生コンテンツの音声データからの触覚データの生成(プラグイン2として追加可能な機能)において、触覚データ生成部103は、併せて、同音声データに基づいて、触覚提示位置および強度を自動で選択し、推奨値としてユーザに提示することが可能である。例えば図6の選択画面1345において、効果音、BGM、またはセリフを選択した場合、触覚データ生成部103により、選択した音声データに基づく触覚データ(波形パターン)が生成されると共に、同音声データに基づく触覚提示位置(知覚位置)および強度(知覚強度)も自動で算出され、例えば図6の設定画面1341に推奨値として提示され得る。ユーザは、提示された推奨値を変更することも可能である。
 また、触覚提示位置の推奨値の提示において、図6に示すような点形状での移動に限定されず、図11に示すような、線形状(直線または曲線を含み得る)での、縦や横、斜め等の移動(または回動)を提示することも可能である。なお、このような線形状の移動は、ユーザが任意で知覚位置を設定する際にも同様に入力可能である。
 触覚提示位置の推奨値としては、例えば選択された音声データ(例えば効果音やBGM等のSE)がステレオデータで音源が移動している場合、音源の移動方向に合った触覚提示位置を提示し得る。また、強度の推奨値としては、例えば選択された音声データのボリューム(音量)に合った強度を提示し得る。また、ボリューム(音量)に合わせて強度を推奨する際、触覚提示情報生成部102は、所定値以下の小さい音量は反映させないようにしてもよい。
 このように、音声データに基づいて知覚位置等の推奨値を自動で提示することで、制作者の処理工数を削減することが出来る。
 また、触覚データ生成部103は、音声データから生成した触覚データが既存の触覚Libのデータに近しい場合、触覚Libのデータを推奨するようにしてもよい。制作者が把握していない触覚Libの選択などを行なうことで、配信するデータ量の削減が可能となる。
 ・補足3…AMP(アンプ)の設置場所について
 触覚提示デバイス2が触覚提示デバイス制御装置20と有線接続する場合、触覚提示デバイス制御装置20側にAMP(アンプ)を設ける(一か所に設置する)ことが好ましい。
 また、触覚提示デバイス2が触覚提示デバイス制御装置20と無線接続する場合、増幅したデータを無線配信することは負荷が大きいため、AMP(アンプ)やバッテリーは、触覚提示デバイス2側に設けることが好ましい。
 また、触覚提示デバイス2が4Dシート4と有線接続し、制御信号が触覚提示デバイス制御装置20から4Dシステム制御装置40および4Dシート4を介して触覚提示デバイス2に出力される場合(この場合、4Dシステム制御装置40に触覚提示デバイス制御装置20の機能を追加してもよい)、AMPは、4Dシート4側に設けることが好ましい。
 また、触覚提示デバイス2が4Dシート4と無線接続し、制御信号が触覚提示デバイス制御装置20から4Dシステム制御装置40および4Dシート4を介して触覚提示デバイス2に出力される場合(この場合、4Dシステム制御装置40に触覚提示デバイス制御装置20の機能を追加してもよい)、増幅したデータを無線配信することは負荷が大きいため、AMP(アンプ)やバッテリーは、触覚提示デバイス2側に設けることが好ましい。
 ・補足4…触覚提示デバイス2と触覚提示デバイス制御装置20との間のデータ伝送について
 触覚提示デバイス2と触覚提示デバイス制御装置20との間のデータ伝送では、振動アクチュエータ数分のch(例えば触覚提示デバイス2に12個の振動アクチュエータが設けられている場合は、12ch)を設けるようにしてもよい。
 また、ch数を減らすために、パラレル/シリアル変換を用いてデータ伝送を行うようにしてもよい。これにより、複数の振動アクチュエータに対しても、データ伝送は1chで行うことが可能となる。しかしながら、この場合、触覚提示デバイス2側でシリアル/パラレル変換分の遅延が発生する。具体的には、触覚提示デバイス制御装置20において、パラレル/シリアル変換出力を行って触覚提示デバイス2とシリアル通信を行う際、パラレル通信の場合よりも通信速度を速くする必要があるが、最短の例を想定してみても、遅延が生じ得る。すなわち、例えば4本のパラレルデータを1本のシリアルデータに変換する場合、通信速度は4倍以上に速くすることが望ましいが、例えば通信速度4倍、および変換遅延0といった最短の例を想定してみても、4本のパラレルデータをシリアル変換して送信すると、最短でも1.5Packet分(変換するデータサイズ1Packetと称した場合)の遅延が発生し得る。また、パラレルデータの本数が増えると最短でも2.0Packet分の遅延に漸近していく。そこで、本実施形態では、このように発生し得る遅延については、「別途遅延」を設定し、予めオフセット情報で対応し、遅延量を解消することが可能である。
 また、触覚提示デバイス2で発生する遅延量は、上記パラレル/シリアル変換による遅延の他、例えば触覚提示デバイス制御装置20と触覚提示デバイス2のデータ伝送にパケット通信を用いた場合に、連続データをパケット化することによる処理遅延、伝送遅延が発生し得る。この場合も、「別途遅延」を設定し、予めオフセット情報で対応するようにしてもよい。
 また、パラレル/シリアル変換をデジタルデータで行ない、AMPを触覚提示デバイス2側に設けるようにしてもよい。
 また、触覚提示デバイス2に伝送する触覚制御信号(触覚波形データ)を周波数シフトし、各chにおいて周波数多重通信を行ってもよい(この場合、AMPは触覚提示デバイス2側に設けられる)。
 <2-3.変形例>
 続いて、本実施形態の変形例について説明する。
 (2-3-1.4Dシステムを介さないシステム構築例)
 上述した実施形態では、図1に示すように、4Dシステム制御装置40が再生制御装置31からタイムコードを取得し、スクリプトを参照して、触覚提示デバイス制御装置20に対してタイムコードに応じて適宜コマンドを発行していたが、本開示はこれに限定されず、4Dシステムを介さないシステムを構築することも可能である。例えば、4Dシステムが導入されていない映画館で触覚提示デバイス2を利用する場合や、4Dシステムは導入されているが4Dシステムとは関わらずに触覚提示デバイス2の制御システムを構築する場合等が想定される。
 (構成)
 図12は、第1の実施形態の第1の変形例による4Dシステムを介さないシステムの構築例について説明する図である。図12に示す情報処理システム1bは、生成装置10Aおよび触覚提示デバイス制御装置20Aを含む。
 生成装置10Aは、図2に示す生成装置10の構成のうち、4D制御情報生成部101を有さない構成とする。触覚提示デバイス制御装置20Aは、生成装置10Aにより生成された、少なくともスクリプトを含む生成ファイルを取得する。次いで、触覚提示デバイス制御装置20Aは、再生制御装置31から再生コンテンツのタイムコードを取得すると、スクリプトを参照して適宜コマンドを実行する。具体的には、触覚提示デバイス制御装置20Aは、再生制御装置31から受信したタイムコードに基づいて、スクリプトから、該当する制御コマンドを抽出し(暗号化されている場合はこれを復号し)、当該制御コマンドに従って触覚制御信号を生成して触覚提示デバイス2(または触覚提示デバイス2の各振動アクチュエータ)に出力する。
 また、図13に、本変形例による4Dシステムを有さないシステム(情報処理システム1b’)の構築例について説明する図を示す。図13に示す例では、生成側の構成の図示は省略しているが、この場合も、情報処理システム1b’は、生成装置10Aおよび触覚提示デバイス制御装置20Aを含む。
 (動作処理)
 生成装置10Aでのスクリプトの生成処理は、図4を参照して説明した上記第1の実施形態と同様であるため、ここでの詳細は省略する。
 図14は、本変形例による情報処理システム1bの再生側における動作処理の全体の流れの一例を示すフローチャートである。図14に示すように、再生制御装置31は、映画コンテンツの再生を開始すると(ステップS303)、映画コンテンツにおける再生位置を示すタイムコードを触覚提示デバイス制御装置20Aに配信する(ステップS306)。タイムコードの配信は、映画コンテンツの再生が終了するまで繰り返される(ステップS309)。
 一方、触覚提示デバイス制御装置20Aは、少なくともスクリプトを含む生成ファイルを(生成装置10から)取得する(ステップS312)。触覚提示デバイス制御装置20Aは、スクリプトに記述されている制御コードが暗号化されている場合は、これを復号する。
 次に、触覚提示デバイス制御装置20Aは、再生制御装置31からタイムコードが配信されると、当該タイムコードに従って、スクリプトを参照し、コマンド実行処理を行う(ステップS315)。具体的には、まず、触覚提示デバイス制御装置20Aは、スクリプトの記述から、配信されたタイムコードに対応する時間軸の制御コマンドを抽出する。
 次いで、触覚提示デバイス制御装置20Aは、抽出した制御コマンドに基づいて、触覚制御信号(振動アクチュエータを駆動する音声信号であってもよい)を生成する(ステップS318)。
 次に、触覚提示デバイス制御装置20Aは、生成した触覚制御信号を触覚提示デバイス2(または触覚提示デバイス2の各振動アクチュエータ)に出力する(ステップS321)。
 そして、触覚提示デバイス制御装置20Aは、再生制御装置31からのタイムコードの受信が終了するまで、上記ステップS315~S318に示す処理を繰り返す(ステップS324)。
 (効果)
 以上説明したように、本変形例では、4Dシステムを介さずに、スクリプトとタイムコードに基づいて、触覚提示デバイス制御装置20Aにより、触覚提示デバイス2における触覚刺激の提示を制御することが可能となる。これにより、4Dシステムを備えていない映画館等にも導入することが可能となり、導入先が広がる。より多くの映画館等に導入出来ることでシステム単価が下がり、更に展開先が多くなることも期待できる。
 また、再生側においてスクリプトに基づいて触覚制御信号を生成するシステム構成とすることで、生成側からはスクリプト(テキストデータ)の配信で済むため、データ量を削減することができる。
 (2-3-2.各触覚提示デバイス2のプロファイル情報に応じた触覚制御信号の配信)
 再生側で利用される触覚提示デバイス2のプロファイル情報(デバイスのタイプ)は全て同じでなくともよい。すなわち、例えば映画館において、全員が共通の触覚提示デバイス2を必ずしも着用しなくともよく、各自が持ち込んだ触覚提示デバイス2が混在していてもよい。この場合、各触覚提示デバイス2のプロファイル情報が異なることが想定されるが、本変形例による触覚提示デバイス制御装置20は、図15に示すように、各触覚提示デバイス2からプロファイル情報を取得し、各プロファイル情報を参照して各触覚提示デバイス2にそれぞれ対応した触覚制御信号を生成し、送出することが可能となる。図15は、本実施形態の第2の変形例による各触覚提示デバイス2のプロファイル情報に応じた触覚制御信号の配信について説明する図である。
 図15に示すように、各触覚提示デバイス2(2a~2e)は、それぞれ異なる(タイプの)プロファイル情報(Pr-A~Pr-E)を有する。例えば、振動アクチュエータの数・位置や、過渡応答特性、共振周波数、周波数特性、最大入力電圧、または処理(遅延)時間等が異なることが想定される。
 触覚提示デバイス制御装置20は、各触覚提示デバイス2のプロファイル情報に基づいて、個々の触覚提示デバイス2に対し、提供可能な最大値の触覚制御信号を配信し得る。
 なお、各触覚提示デバイス2がID(タイプ情報等)を有する場合、触覚提示デバイス制御装置20は、各触覚提示デバイス2から取得したIDに基づいて、当該IDとプロファイル情報が対応付けられたデータベース(触覚提示デバイス制御装置20が有していてもよいし、ネットワーク上にあってもよい)から、プロファイル情報を取得するようにしてもよい。
 これにより、利用者の好みにあった触覚提示デバイス2を利用することが可能となる。例えば利用者は、映画館で貸し出される共通の触覚提示デバイス2ではなく、自分の体格に合った触覚提示デバイス2を購入して利用することができる。体格に合った触覚提示デバイス2が着用されることで、触覚提示デバイス2の触覚刺激提示の体感性能を十二分に発揮させることが出来る。
 また、人によっては振動がくすぐったく感じるため振動アクチュエータの配置を避けたい部位(腹部、背中、脇など)があったり、心臓ペースメーカーを使用しているため安全な位置に振動アクチュエータが配置されている必要があったりといった事情により、共通の触覚提示デバイス2では体感鑑賞が出来ない人もいる。このような人達でも、各自にカスタイマイズされた触覚提示デバイス2を映画館に持ち込んで利用することで、体感鑑賞が出来るようになる。
 このように、触覚提示デバイス制御装置20において、各触覚提示デバイス2のプロファイルの相違に対応できるようにすることで、生成側(生成装置10)では、標準タイプのプロファイルに基づいて制御コマンドを記述すればよく、各映画館独自で新型の触覚提示デバイス2の導入もし易くなる。
 また、映画館においてリバイバル上映を行う際も、生成側で新たにスクリプトを生成する必要なく、触覚提示デバイス制御装置20は、現在映画館で利用している触覚提示デバイス2のプロファイルを反映させて触覚制御信号を生成することで対応することが可能となる。
 なお、生成側では、標準的なプロファイル、または所定のプロファイルを参照して制御コマンドを生成してもよいし、タイプ別のプロファイルを用いて生成してもよい。タイプ別のプロファイルを用いて生成する場合、生成装置10は、制御コマンドをプロファイルタイプ別に記述するようにしてもよい。ここで、プロファイルタイプ別に記述したスクリプトの一例を図16に示す。
 図16に示すように、プロファイルタイプ別に、触覚提示位置(x,y座標)、波形種類、および強度が記述される。また、オフセット情報はプロファイルタイプに共通して設定し、プロファイル毎の遅延は触覚提示デバイス制御装置20側で管理するようにしてもよい。触覚提示デバイス制御装置20は、各触覚提示デバイス2から取得したIDに基づいて、それぞれに対応するプロファイルタイプの制御コマンドを用いて触覚制御信号を生成する。なお対応するプロファイルタイプがない場合、触覚提示デバイス制御装置20は、所定の標準的なプロファイルタイプ(例えばPr-A)を使用するようにしてもよい。
 (2-3-3.子供に適した触覚刺激提示の実現)
 本実施形態では、触覚提示デバイス2を子供が着用している場合、触覚提示の強度を調整し、子供もより安全に楽しめるようにすることが可能である。
 具体的には、例えば個々の触覚提示デバイス2において、触覚提示デバイス2のサイズに基づいて(または設定に基づいて)子供/大人用を判断し、各振動アクチュエータからの触覚提示における強度を調整するようにしてもよい。すなわち、触覚提示デバイス制御装置20から送信された共通の触覚制御信号(触覚提示デバイス制御装置20側で一律増幅された触覚制御信号)を、各子供用の触覚提示デバイス2において、信号減衰した上で振動アクチュエータを駆動する。若しくは、触覚提示デバイス制御装置20から送信された共通の触覚制御信号を、個々の触覚提示デバイス2において、それぞれ信号増幅率を変化させて増幅させた上で(子供用であれば信号増幅率は低く、大人用では信号増幅率を高く)、振動アクチュエータを駆動する。
 なお、(触覚提示デバイス制御装置20側で一律増幅された触覚制御信号を)子供用の触覚提示デバイス2側で信号減衰する方法として、例えば、振動アクチュエータと抵抗を直列に配置させる構成とすることで、信号を分圧させることが可能である。図17に、振動アクチュエータと抵抗を直列に配置させた構成の一例を示す。図17に示すように、子供用の触覚提示デバイス2では、振動アクチュエータと抵抗を直列に配置することで、同じ電圧でも、子供用の触覚提示デバイス2では、大人用に比べて、アクチュエータに印加される電圧を半分とすることができる(大人用と子供用で同じ振動アクチュエータを用いることが可能)。
 以上により、本変形例によれば、身体への影響を考えて大人用の触覚提示デバイス2では年齢制限により体感鑑賞が出来なかった子供でも、子供が着用する触覚提示デバイス2では強度調整(信号減衰等)を行うことで、体感鑑賞が可能となる。したがって、アニメなどの映画コンテンツも触覚提示デバイス2の利用対象映画となり、興行的に有益となる。また、図17に示す構成のように、強度を調整する仕組みを簡易化することで、安価に子供用の触覚提示デバイス2を製作することが出来る。
 (2-3-4.家庭用システム構築例)
 上述した再生側のシステムは、上述したような映画館での映画の視聴に限定されず、例えば、家庭においてユーザが触覚提示デバイス2を着用して、TV放送やインターネットで配信されるコンテンツ(ドラマ、映画、ドキュメンタリー等)を視聴している場合に、コンテンツの再生と同期して触覚提示デバイス2により触覚刺激提示を行い、映画館以外でも臨場感のある視聴体験を提供することを可能とする。
 以下、家庭に適用する際のシステムの構築例について図18および図19を参照して説明する。
 図18は、TV放送またはインターネット配信によりコンテンツを視聴する際に触覚刺激提示を行う例について説明する図である。この場合、少なくともスクリプトを含む生成ファイルは、図18に示すように、TV放送やストリーミング配信を介して、コンテンツと共に、放送局60やストリーミングサーバ66から配信される。スクリプトの配信は、コンテンツの再生前(番組の放送開始前等)に行われるようにしてもよい。
 表示機能を有するテレビ装置62やPC68は、コンテンツを再生すると共に、再生するコンテンツの再生位置を示すタイムコードに基づいて、スクリプトを参照し、対応するコマンドを逐次触覚提示デバイス制御装置20に送信する(テレビ装置62またはPC68は、取得したスクリプトに従ってコマンドを配信する機能を有する)。また、テレビ装置62またはPC68は、生成ファイルに生成触覚データも含まれている場合は、これを予め触覚提示デバイス制御装置20に送信する。
 触覚提示デバイス制御装置20は、テレビ装置62またはPC68から受信したコマンドに従って、触覚制御信号を生成し、触覚提示デバイス2(または触覚提示デバイス2に設けられた各振動アクチュエータ)に送信する。コマンドには、上述した実施形態と同様に、触覚刺激の提示位置、強度、触覚刺激波形の種類、およびオフセット情報等が含まれる。また、コマンドが暗号化されている場合、触覚提示デバイス制御装置20はこれを復号して触覚制御信号の生成を行う。また、触覚提示デバイス制御装置20は、予め生成された触覚ライブラリ(提示波形パターン)が蓄積された触覚LibDB221を有し、テレビ装置62またはPC68から配信されたコマンドに従って触覚制御信号を生成する際に適宜利用する。
 また、本変形例では、TV放送やインターネット配信されるコンテンツに限らず、Blu-ray(登録商標)ディスクやDVD等の記録媒体を用いてユーザがコンテンツを視聴する際にも、触覚提示デバイス2を再生コンテンツに同期させて触覚刺激提示を行うよう制御することが可能である。以下、図19を参照して詳述する。
 図19は、本変形例による記録媒体に記録されたコンテンツを視聴する際に触覚刺激提示を行う例について説明する図である。記録媒体7には、映像データ(コンテンツ)および、少なくともスクリプトを含む生成ファイルが記録されている。再生装置64は、記録媒体7からコンテンツと生成ファイルを読み込む。
 表示機能を有する再生装置64は、コンテンツを再生すると共に、再生するコンテンツの再生位置を示すタイムコードに基づいて、スクリプトを参照し、対応するコマンドを逐次触覚提示デバイス制御装置20に送信する。また、再生装置64は、生成ファイルに生成触覚データも含まれている場合は、これを予め触覚提示デバイス制御装置20に送信する。
 触覚提示デバイス制御装置20は、再生装置64から受信したコマンドに従って、触覚制御信号を生成し、触覚提示デバイス2(または触覚提示デバイス2に設けられた各振動アクチュエータ)に送信する。コマンドには、上述した実施形態と同様に、触覚刺激の提示位置、強度、触覚刺激波形の種類、およびオフセット情報等が含まれる。また、コマンドが暗号化されている場合、触覚提示デバイス制御装置20はこれを復号して触覚制御信号の生成を行う。また、触覚提示デバイス制御装置20は、予め生成された触覚ライブラリ(提示波形パターン)が蓄積された触覚LibDB221を有し、再生装置64から配信されたコマンドに従って触覚制御信号を生成する際に適宜利用する。なお、記録媒体(メディア媒体)を用いる例としては、図19に示す構成の他、触覚提示デバイス制御装置20に、スクリプト用Discをセットし、触覚提示デバイス制御装置20がスクリプトからコマンドを実行する構成も考え得る。すなわち、予めコンテンツ用とスクリプト用の2枚組Discを用意し、コンテンツ用Discは(汎用の)再生装置にセットし、スクリプト用Discは触覚提示デバイス制御装置20にセットする。再生装置は、コンテンツ用Discからコンテンツを再生すると共に、再生した音声データを触覚提示デバイス制御装置20に入力する。触覚提示デバイス制御装置20は、入力された音声データからタイミング抽出し、スクリプトからコマンドを実行する。ここで、当該スクリプトは、時間情報ではなく、音声データのパターンに対応付けて制御コマンドが記述されている。
 以上説明したように、家庭において、TV放送やインターネットで配信されるコンテンツを視聴する際、TV放送等でスクリプトも配信することで、最新のコンテンツに対応する触覚刺激を触覚提示デバイス2によりユーザに体感させることができる。
 また、記憶媒体に記憶されたコンテンツを視聴する際にも、記憶媒体からスクリプトを読み出すことで、記憶媒体に記憶されたコンテンツに対応する触覚刺激を触覚提示デバイス2によりユーザに体感させることができる。ユーザは、好きな時に好きなシーンのみを繰り返し体感することも可能となる。
 なお、TV放送やインターネットで配信されるコンテンツを視聴する際の動作処理は、図18に示す例に限定されない。図18に示す例では、放送局60またはストリーミングサーバ66から家庭の再生装置(テレビ装置62、PC68)にスクリプトを配信し、再生装置においてコマンドを生成、配信する例について説明したが、本変形例はこれに限定されず、放送局60またはストリーミングサーバ66が、スクリプトを参照し、再生するコンテンツのタイムコードに応じたコマンドを配信するようにしてもよい。
 家庭の再生装置(テレビ装置62、PC68)は、受信したコマンドを触覚提示デバイス制御装置20に出力し、触覚提示デバイス制御装置20において、コマンドに従って触覚制御信号の生成を行い、触覚制御信号を触覚提示デバイス2に送信する。
 この際、生成側から取得した生成ファイルに生成触覚データが含まれていれば、放送局60またはストリーミングサーバ66は、予め(コンテンツの配信前に)再生装置(テレビ装置62、PC68)にTV放送を介して生成触覚データを送信する。再生装置(テレビ装置62、PC68)は、受信した生成触覚データを触覚提示デバイス制御装置20に送信する。
 このように、放送局側で再生コンテンツに同期して対応するコマンドの配信を行い、触覚提示デバイス制御装置20でコマンドに従った触覚制御信号の生成を行うことで、家庭用の再生装置(テレビ装置62、PC68)にコマンド生成機能を追加することなく、映画館のシステムで用いた触覚提示デバイス制御装置20を利用することが可能となる。
 (2-3-5.インターネットゲームにおける触覚提示システム)
 続いて、本実施形態の第5の変形例として、インターネットゲームにおける触覚提示システムについて説明する。
 図20は、本実施形態の第5の変形例によるインターネットゲームにおける触覚提示システムについて説明する図である。ここでは、ユーザが触覚提示デバイス2を着用し、表示装置84に表示されるゲーム画面を視聴しながら、コントローラ86等によりゲームの操作を行っている場合を想定する。操作情報の入力はコントローラ86の操作に限定されず、音声入力や、ユーザの動きに基づくジェスチャ入力等であってもよい。家庭用のゲーム再生装置82は、表示装置84にゲーム画面を表示する制御を行う。また、表示装置84に設けられたスピーカや周辺のスピーカからゲーム音声を出力する制御も行う。ここでは、インターネット上のゲームサーバ80からゲーム情報を取得してゲーム再生装置82により出力する場合を想定する。また、ゲーム再生装置82は、触覚提示デバイスの制御ユニットを備え、触覚提示デバイス2に入力する、触覚制御信号の生成を実行し得る。
 ゲーム再生装置82は、ユーザ操作によりゲーム内で何らかのアクションが発生した場合(若しくは、ユーザ操作によらずとも、ゲーム内で何らかのアクションが発生した場合)、その発生アクションをゲームサーバ80に通知する。
 ゲームサーバ80は、ゲームに対応する触覚提示制御について記述されたスクリプトを有し、ゲーム内で発生したアクション(再生コンテンツ)に対応するコマンドを抽出し、ゲーム再生装置82に出力する。ここで、図21に、本変形例によるアクション毎に制御コマンドが記述されたスクリプトの一例を示す。図21に示すように、1つのスクリプトファイルに複数のアクションが定義されている。また、アクション毎にコマンド群が定義される。1つのアクションは数百(ms)~数(s)で定義される。各アクションの最後の波形種類の出力が完了した時点で、そのアクションに対応する触覚刺激の提示が終了する。また、アクションに対応したコマンドは、ゲーム再生装置82に一括送信されるのが好ましい(インターネットの通信揺らぎ対策のため)。また、触覚刺激の強度は、ゲーム再生装置82側で任意に調整できるようにしてもよい(図21に示す「強度:*」)。
 そして、ゲーム再生装置82は、受信したコマンドに従って触覚制御信号を生成し、触覚提示デバイス2に出力する。これにより、本変形例では、ゲーム内で発生した爆発等のアクションに応じた触覚刺激が触覚提示デバイス2により提示され、ユーザは、ゲーム内で発生したアクションを実際に体感し、臨場感を得ることができる。
 なお、ゲーム再生装置82は、触覚ライブラリのデータベースを予め備え、また、ゲーム開始前に、予めゲームサーバ80から当該ゲームで利用する生成触覚データを受信(ダウンロード)するようにしてもよい。
 また、触覚提示デバイス2のプロファイルは、ゲーム開始前にゲーム再生装置82にアップロードされる。
 また、ここでは、ゲーム再生装置82は、据え置き型の専用装置を想定しているが、本変形例はこれに限定されず、例えばスマートフォンやPCなど、表示装置84と一体化した、汎用性のあるゲーム再生装置82であってもよい。
 また、ここでは一例としてインターネットゲーム配信の場合について説明したが、本実施形態はこれに限定されず、ゲームサーバ80の機能をゲーム再生装置82で実行させることで、ローカルでゲームを行う場合にも適用することが可能となる。また、本実施形態は、インターネットを介した対戦型のゲーム配信の場合にも適用可能である。この場合、一方のプレイヤーのアクションに起因して、他方のプレイヤーの触覚提示が与えられることも想定される。すなわち、ユーザへの触覚提示は、ユーザ自身が起こすアクションやゲーム進行に起因するものに限定されず、他のユーザ起因によるものも想定される。
 以上により、ゲームを行っている場合にも、よりリアルに体感出来るシステムを提供することが出来る。また、インタラクティブなシステムを提供することにより、ユーザの体感価値を更に増すことができる。
  (2-3-6.光通信によるタイムコード配信方式)
 図1、図12、および図13を用いて説明した、映画館へ適用した各システム(情報処理システム1、1b、1b’)では、シネマシステム30から有線/無線通信接続により配信されるタイムコードを用いて、シネマシステム30に触覚提示デバイス制御装置20を同期させていたが、本開示はこれに限定されない。
 例えば図22に示すように、プロジェクタ32がスクリーンSに投影したタイムコードを触覚提示デバイス制御装置20Bにより読み取って、タイムコードを取得する方式であってもよい。
 触覚提示デバイス制御装置20Bは、スクリーンSに投影された映像を観測し(可視光またはIRカメラ等により継続的に撮像)、観測結果から同期成分(ここでは、タイムコード)を抽出する。具体的には、例えばプロジェクタ32が、投影する映像に、再生制御装置31から送信されたタイムコードを示す点滅を可視光またはIR光を用いて重畳させる。
 なお、光通信によるタイムコード配信は、スクリーンSからの反射光を用いた手法に限定されず、プロジェクタ32からの直接光を触覚提示デバイス制御装置20Bが観測してタイムコードを抽出するようにしてもよい。
 また、スクリーンSに投影される同期信号は、スクリーンS全面ではなく、限られた一部であってもよい。
 このように、本変形例では、タイムコードの配信に光通信を用いることで、シネマシステム30と触覚提示デバイス制御装置20とを独立して(シネマシステム30またはシネマシステム30と接続した4Dシステム制御装置40と、有線/無線接続させる必要なく)設置することが可能となる。
  (2-3-7.光通信によるコマンド配信方式)
 また、触覚提示デバイス制御装置20へのコマンド配信は、図1に示すような、4Dシステム制御装置40からの有線/無線接続によるものに限定されず、例えば図23に示すように、シネマシステム30のプロジェクタ32がスクリーンSに投影したコマンドを、各触覚提示デバイス2Bにより読み取る方式であってもよい。
 図23に示すように、触覚提示デバイス2Bは、スクリーンSに投影された映像を観測部22(可視光またはIRカメラ等)により観測し、観測結果からトリガ成分(ここでは、コマンド)を抽出する。具体的には、例えばプロジェクタ32が、投影する映像に、再生制御装置31から送信されたコマンドを示す点滅を可視光またはIR光を用いて重畳させる。
 触覚提示デバイス2Bは、触覚制御信号を生成する制御ユニット24を有する。制御ユニット24は、観測結果から抽出したコマンドに従って、各振動アクチュエータに入力する触覚制御信号を生成し、振動アクチュエータの制御を行う。すなわち、触覚提示デバイス2Bは、コマンド信号の受信(受光)をトリガとして、コマンド指定の触覚波形で触覚提示し得る。
 なお、光通信によるコマンド配信は、スクリーンSからの反射光を用いた手法に限定されず、プロジェクタ32からの直接光を触覚提示デバイス2Bが観測してコマンドを抽出するようにしてもよい。
 また、スクリーンSに投影されるトリガ信号は、スクリーンS全面ではなく、限られた一部であってもよい。
 このように、本変形例では、コマンド配信を無線化し、触覚提示デバイス2Bに、触覚制御信号を生成する機能を備えることで、触覚提示デバイス2B自体がワイヤレスとなり(この場合、触覚提示デバイス2Bはバッテリー駆動)、映画館へのシステム導入が容易となる(各座席に配線する必要がなくなるため)。また、触覚提示デバイス2B毎のプロファイルの違いを、制御ユニット24において、標準プロファイルとの差分処理等を実行するようにすることで、観客自身の触覚提示デバイス2Bを持ち込むことも容易となる。
 また触覚提示デバイス2Bをワイヤレスとすることで、ゲームやアトラクションにおいて、仮想空間内等を自由視点で動き回るWalkthroughシステムに本変形例による触覚提示デバイス2Bを利用することも可能となる。
 なお応用例として、スクリーンSに投影するコマンドは、コンテンツ(映像)の投影とは別の光源を使用して触覚提示デバイス制御装置20により出力するようにしてもよい。図24は、光通信によるコマンド配信を投影とは別の光源で行う方式について説明する図である。
 図24に示すように、触覚提示デバイス制御装置20Cが、再生制御装置31からタイムコードを受信すると、スクリプトを参照してコマンドを抽出し、スクリーンSの一部や付近に設けられた発光部34を制御し、当該コマンドを示す光を出力する制御を行う。
 触覚提示デバイス2Bは、発光部から発光される光を観測部22(可視光またはIRカメラ等)により観測し、観測結果からトリガ成分(ここでは、コマンド)を抽出する。具体的には、例えば触覚提示デバイス制御装置20Cは、コマンドを示す点滅を可視光またはIR光を用いて発光部34から出力させる。
 触覚提示デバイス2Bは、触覚制御信号を生成する制御ユニット24を有する。制御ユニット24は、観測結果から抽出したコマンドに従って、各振動アクチュエータに入力する触覚制御信号を生成し、振動アクチュエータの制御を行う。すなわち、触覚提示デバイス2Bは、コマンド信号の受信(受光)をトリガとして、コマンド指定の触覚波形で触覚提示し得る。
 <<3.第2の実施形態(生成側で触覚制御信号を作成)>>
 続いて、生成側で触覚制御信号を作成する場合について、図25~図33を参照して説明する。上述した第1の実施形態では、再生側において、生成側で生成されたスクリプトを参照して抽出したコマンドに従って、触覚提示デバイス2の各振動アクチュエータに入力する触覚制御信号を生成していたが、本開示はこれに限定されない。本開示の第2の実施形態では、再生コンテンツに応じて各振動アクチュエータに入力する触覚制御信号を生成側で予め生成し、これを含む生成ファイルを、再生側に出力する場合について説明する。
 本実施形態によれば、触覚提示デバイス制御装置20mでの演算処理(触覚制御信号の生成処理)の負担が軽減されるため、例えば、映画館に導入する触覚提示デバイス制御装置20mのスペック(処理性能)を抑えることが可能となる。
 <3-1.構成例>
 (全体構成)
 図25は、第2の実施形態による情報処理システム1cの全体構成の一例を示す図である。図25に示すように、本実施形態による情報処理システム1cは、生成装置10m、触覚提示デバイス制御装置20m、シネマシステム30、4Dシステム制御装置40、および、検証システム50を含む。本実施形態では、触覚提示デバイス2を映画館で用いる場合を想定する。
 本実施形態は、図1を参照して説明した第1の実施形態と異なり、生成装置10mが触覚制御信号ファイルを生成し、これを4Dシステム制御装置40に配信する。触覚制御信号ファイルは、各振動アクチュエータにそれぞれ入力する振動波形パターンのデータである。すなわち、生成装置10mは、今回のコンテンツ(例えば、上映する映画)に使用される触覚データ(知覚させたい波形パターン)に基づいて、(触覚提示デバイス2のプロファイルに基づき)触覚提示位置、強度、波形種類などを考慮して演算を行い、触覚提示デバイス2の各振動アクチュエータにそれぞれ入力する触覚制御信号を生成する。
 また、生成装置10mは、再生コンテンツの時間軸に対応したスクリプトも生成し、4Dシステム制御装置40に配信する。スクリプトには、時間軸に対応する触覚制御信号ファイル名が記述されている。
 4Dシステム制御装置40は、映画開始前に、触覚制御信号ファイルを触覚提示デバイス制御装置20mに送信する。触覚提示デバイス制御装置20mは、触覚制御信号ファイルDB224に触覚制御信号ファイルを蓄積する。
 そして、4Dシステム制御装置40は、再生制御装置31から配信されたタイムコードに従って、スクリプトの記述に基づいて、対応する触覚制御信号ファイル名を示すコマンドを、触覚提示デバイス制御装置20mに出力する。触覚提示デバイス制御装置20mは、コマンドで指定された触覚制御信号ファイルを、触覚提示デバイス2に出力する。この際、触覚提示デバイス制御装置20mは、触覚提示デバイス2から取得したプロファイルに応じて多少の調整を行った上で触覚制御信号を触覚提示デバイス2に出力するようにしてもよい。触覚提示デバイス制御装置20mの構成は、第1の実施形態において図3を参照して説明した各構成のうち、触覚制御信号生成機能(制御信号生成部201)を有さない構成としてもよい。
 (装置構成)
 次に、図26を参照して本実施形態による生成装置10mの構成について説明する。図26は、本実施形態による生成装置10mの構成の一例を示すブロック図である。図26に示すように、生成装置10mは、制御部100m、通信部110、操作入力部120、表示部130、および、記憶部140を有する。図2を参照して説明した同符号の構成については、ここでの詳細な説明は省略する。
 本実施形態による制御部100mは、4D制御情報生成部101、触覚提示情報生成部102、触覚データ生成部103、および触覚制御信号生成部104としても機能する。
 触覚制御信号生成部104は、再生時に触覚提示デバイス2に設けられた各振動アクチュエータを駆動させるための触覚制御信号(個々の振動アクチュエータに入力する制御信号)を生成する。具体的には、触覚制御信号生成部104は、ユーザ(制作者)による操作入力に従って、指定された触覚提示位置で、指定された触覚刺激種類により、指定された強度で触覚刺激を提示するよう各振動アクチュエータを駆動する触覚制御信号(例えば音声信号データ)を生成する。なお、触覚制御信号は、振動アクチュエータ分(ch数分)生成されるが、これらはシーン毎に独立して生成される。すなわち、各振動アクチュエータに入力する触覚制御信号は、コンテンツ全編を通して1のデータとして生成されるのではなく、そのコンテンツにおいて触覚提示デバイス2を振動させるシーン毎に独立したデータ(ファイル)として生成される。
 触覚提示情報生成部102には、再生コンテンツの時間軸に応じて、触覚制御信号生成部104で生成された触覚制御信号のファイル名を記述したスクリプトを生成する。なお、スクリプト生成時の操作画面は、第1の実施形態で説明した図5~図6を適用することが可能である。また、触覚刺激種類は、第1の実施形態と同様に、ユーザに選択された再生コンテンツの効果音、BGM、またはセリフの音声データに基づいて触覚データ生成部103により生成された生成触覚データ(波形パターン)、または、触覚LibDB141に蓄積された、予め生成された(汎用的な)触覚ライブラリ(波形パターン)から選択され得る。また、第1の実施形態と同様に、触覚提示位置および強度を自動で選択し、推奨値としてユーザに提示することが可能である。例えば効果音、BGM、またはセリフの音声データに基づいて触覚データ(波形パターン)を生成した際、同音声データに基づく触覚提示位置(知覚位置)および強度(知覚強度)を自動で算出し、画面上に推奨値として提示してもよい。また、ユーザは、提示された推奨値を変更することも可能である。
 <3-2.動作処理>
 次に、本実施形態による情報処理システム1cの動作処理について、図27および図28を参照して説明する。
  (3-2-1.生成側の動作処理)
 図27は、本実施形態による情報処理システムの生成側における動作処理の全体の流れの一例を示すフローチャートである。
 図27に示すステップS103~S127の処理は、図4を参照して説明した同符号に示す処理と同様である。
 次に、生成装置10mの触覚制御信号生成部104は、ユーザにより指定された触覚提示位置、触覚刺激種類、および強度に基づいて、各振動アクチュエータを駆動する触覚制御信号(例えば音声信号データ)のファイルを生成する(ステップS128)。
 そして、触覚提示情報生成部102は、再生コンテンツのタイムコード(時間軸)に対応付けて、触覚制御信号のファイル名を(コマンドとして)記述したスクリプト(テキストデータ)を生成する(ステップS131)。なお触覚提示情報生成部102は、スクリプトの生成において、第1の実施形態と同様に、触覚提示デバイス2のプロファイル(処理遅延量等)を参照し、適宜、オフセット情報をコマンドに含めるようにしてもよい。また、オフセット情報の設定は、第1の実施形態と同様に、再生側における処理遅延量(例えば、触覚提示デバイス制御装置20の処理遅延量)を考慮して自動で、またはユーザが任意で設定し得る。また、本実施形態による生成装置10mは、第1の実施形態と同様に、プロファイルタイプ別に触覚制御信号を生成し、プロファイルタイプ別の制御コードを記述してもよいし、標準的なプロファイルタイプに基づいて触覚制御信号を生成してもよい。標準的なプロファイルタイプに基づいて触覚制御信号が生成された場合、再生側において、プロファイルタイプに応じて(標準的なプロファイルタイプとの相違に応じて)、適宜、触覚制御信号を調整して出力するようにしてもよい。
 生成されたスクリプトは、触覚制御信号と共に「生成ファイル」に含まれ、再生側(例えば4Dシステム制御装置40)に配信される。また、再生側(例えば4Dシステム制御装置40)には、生成装置10mで生成された4D制御情報も併せて配信される。
 以上説明したスクリプトおよび触覚制御信号の生成機能は、プラグイン1として、既存の4Dシステム編集アプリケーションに追加することも可能である。
  (3-2-2.再生側の動作処理)
 続いて、以上説明したように生成した生成ファイルが配信される再生側の動作処理について図28を参照して説明する。図28は、本実施形態による情報処理システムの再生側における動作処理の全体の流れの一例を示すフローチャートである。
 図28に示す各処理のうち、図7を参照して説明した処理と同様の処理については、同じ符号で示し、ここでの詳細な説明を省略する。ここでは、第1の実施形態による再生側の動作処理と相違する点について、主に説明する。
 まず、4Dシステム制御装置40は、4D制御情報と、スクリプトおよび触覚制御信号ファイルを含む生成ファイルと、を取得する(ステップS163)。
 次に、4Dシステム制御装置40は、生成ファイルに含まれる触覚制御信号のファイルを触覚提示デバイス制御装置20mに送信する(ステップS166)。
 次いで、触覚提示デバイス制御装置20mは、4Dシステム制御装置40から受信した触覚制御信号ファイルを保存する(ステップS169)。
 次に、再生制御装置31からタイムコードが配信されると、4Dシステム制御装置40は、当該タイムコードに従って、4D制御情報を参照し、4Dシステムを駆動する(ステップS171)。
 また、4Dシステム制御装置40は、同タイムコードに従って、スクリプトを参照し、コマンド発行処理を行う(ステップS174)。具体的には、4Dシステム制御装置40は、スクリプトの記述から、配信されたタイムコードに対応する触覚制御信号ファイル名(暗号化されたデータであってもよい)を抽出し、コマンドとして発行する。ここで、図29に、触覚制御信号ファイル名がコマンドとして記述されたスクリプトの一例を示す。図29に示すように、再生コンテンツの時間軸に応じて出力すべきコマンドとして、触覚制御信号ファイル名が記述されている。また、触覚制御信号ファイル名で示される触覚制御信号は、各振動アクチュエータに対応するファイルである。図29に示す例では、触覚提示デバイス2に設けられた振動アクチュエータ1~4(4つの振動アクチュエータ)に出力することを前提されている。例えば、スクリプトの1段目では、振動アクチュエータ1(Act1)に入力する触覚制御信号ファイル1-a、振動アクチュエータ2(Act2)に入力する触覚制御信号ファイル2-a、振動アクチュエータ3(Act3)に入力する触覚制御信号ファイル3-a、および振動アクチュエータ4(Act4)に入力する触覚制御信号ファイル4-aが示されている。
 なお、これらのファイル名は暗号化してもよい。
 次いで、4Dシステム制御装置40は、タイムコードに従ってコマンドを触覚提示デバイス制御装置20mに発行する(ステップS177)。
 次に、触覚提示デバイス制御装置20mは、4Dシステム制御装置40から発行されたコマンドが終了コマンド以外の場合(ステップS183/No)、当該コマンドで指定されている触覚制御信号ファイルを触覚制御信号ファイルDB224から読み出し(ステップS187)、読み出した触覚制御信号ファイルを触覚提示デバイス2(または触覚提示デバイス2の各振動アクチュエータ)に出力する(ステップS189)。また、触覚提示デバイス制御装置20mは、4Dシステム制御装置40から配信されたコマンドの内容が暗号化されている場合は、これを復号して触覚制御信号ファイル名を抽出し、触覚制御信号ファイルDB224から読み出す。また、コマンドにオフセット情報が含まれている場合、第1の実施形態と同様に、これを考慮して触覚制御信号の出力制御を行う。
 ここで、図30を参照して、図29に示すスクリプトに従って触覚提示デバイス2の各振動アクチュエータ(Act1~Act4)の制御(触覚刺激提示)を行った場合について説明する。例えば、再生コンテンツ0.0sのタイムコードに応じて発行されるコマンド1(図29に示すコマンドの1段目)の内容に従い、触覚提示デバイス制御装置20mは、振動アクチュエータ1(Act1)で触覚制御信号ファイル1-aを再生し、振動アクチュエータ2(Act2)で触覚制御信号ファイル2-aを再生し、振動アクチュエータ3(Act3)で触覚制御信号ファイル3-aを再生し、振動アクチュエータ4(Act4)で触覚制御信号ファイル4-aを再生させる。再生時間は、各触覚制御信号ファイルによって異なり得る。
 次に、再生コンテンツ0.8sのタイムコードに応じて発行されるコマンド2(図29に示すコマンドの2段目)の内容に従い、触覚提示デバイス制御装置20mは、振動アクチュエータ2(Act2)で触覚制御信号ファイル2-bを再生させる。
 続いて、再生コンテンツ1.8sのタイムコードに応じて発行されるコマンド3(図29に示すコマンドの3段目)の内容に従い、触覚提示デバイス制御装置20mは、振動アクチュエータ2(Act2)で触覚制御信号ファイル2-cを再生し、振動アクチュエータ4(Act4)で触覚制御信号ファイル4-bを再生させる。
 このように、触覚提示デバイス制御装置20mは、コマンドに従って、触覚制御信号を対応する振動アクチュエータに入力して再生(触覚刺激提示)させる。
 以上、第2の実施形態による情報処理システムについて具体的に説明した。なお、異なるファイル名であっても触覚制御信号として同じデータがある場合(例えば触覚制御信号ファイル1-aと触覚制御信号ファイル1-dが同じ音声信号データの場合)、生成装置10mは、スクリプト生成時に触覚制御信号ファイル1-dの箇所で触覚制御信号ファイル1-aを用いるよう記述することで、転送データサイズを小さくすることが可能である。この場合、例えば図29に示すコマンドの9段目「7.0s:1-d,4-d」を、「7.0s:1-a,4-d」と記述する。
 また、生成ファイルに含まれる触覚制御信号ファイルを4Dシステム制御装置40に保存し、4Dシステム制御装置40が、タイムコードに従ってコマンドを参照し、対応する触覚制御信号ファイルを、触覚提示デバイス2に送信するよう制御してもよい。すなわち、図25に示す触覚提示デバイス制御装置20mの機能を4Dシステム制御装置40に搭載することで、再生側のシステムの簡素化することが可能となる。
 続いて、本実施形態の変形例についていくつか説明する。
 <3-3.変形例>
 (3-3-1.4Dシステムを介さないシステム構築例)
 上述した実施形態では、図25に示すように、4Dシステム制御装置40が再生制御装置31からタイムコードを取得し、スクリプトを参照して、触覚提示デバイス制御装置20mに対してタイムコードに応じて適宜コマンドを発行していたが、本開示はこれに限定されず、4Dシステムを介さないシステムを構築することも可能である。例えば、4Dシステムが導入されていない映画館で触覚提示デバイス2を利用する場合や、4Dシステムは導入されているが4Dシステムとは関わらずに触覚提示デバイス2の制御システムを構築する場合等が想定される。
 (構成)
 図31は、第2の実施形態の第1の変形例による4Dシステムを介さない情報処理システム1dの構築例について説明する図である。図31に示す情報処理システム1dは、生成装置10nおよび触覚提示デバイス制御装置20nを含む。
 生成装置10nは、図26に示す生成装置10mの構成のうち、4D制御情報生成部101を有さない構成とする。触覚提示デバイス制御装置20nは、生成装置10nにより生成された、スクリプトと触覚制御信号ファイルを含む生成ファイルを取得する。次いで、触覚提示デバイス制御装置20nは、再生制御装置31から再生コンテンツのタイムコードを取得すると、スクリプトを参照して適宜コマンドを実行する。具体的には、触覚提示デバイス制御装置20nは、再生制御装置31から受信したタイムコードに基づいて、スクリプトから、該当するコマンドを抽出し(暗号化されている場合はこれを復号し)、当該コマンドで指定されている触覚制御信号を、触覚提示デバイス2(または触覚提示デバイス2の各振動アクチュエータ)に出力する。触覚制御信号ファイルDB224には、生成ファイルから抽出された触覚制御信号ファイルが格納される。
 図31に示す例では、4Dシステムが適用されている映画館において、4Dシステムと関わらずに、触覚提示デバイス制御装置20nが、再生コンテンツと同期させて触覚提示デバイス2を制御する場合について説明しているが、本システムは、4Dシステムが導入されていない映画館にも当然に適用することが可能である。
 (動作処理)
 生成装置10nでのスクリプトの生成処理は、図27を参照して説明した上記第2の実施形態と同様であるため、ここでの詳細は省略する。
 図32は、本変形例による情報処理システム1dの再生側における動作処理の全体の流れの一例を示すフローチャートである。図32に示す各処理のうち、図14を参照して説明した処理と同様の処理については、同じ符号で示し、ここでの詳細な説明を省略する。ここでは、再生側で触覚制御信号を生成する第1の実施形態の第1の変形例による再生側の動作処理と相違する点について、主に説明する。
 図32に示すように、触覚提示デバイス制御装置20nは、スクリプトと触覚制御信号ファイルを含む生成ファイルを(生成装置10nから)取得する(ステップS313)。触覚制御信号ファイルは、触覚制御信号ファイルDB224に保存する。
 次に、再生制御装置31から再生コンテンツのタイムコードが配信されると、触覚提示デバイス制御装置20nは、当該タイムコードに従って、スクリプトを参照し、コマンド実行処理を行う(ステップS315)。
 次いで、触覚提示デバイス制御装置20nは、抽出したコマンドで指定されている触覚制御信号ファイル(振動アクチュエータを駆動する音声信号であってもよい)を触覚制御信号ファイルDB224から読み出す(ステップS319)。
 次に、触覚提示デバイス制御装置20nは、読み出した触覚制御信号を触覚提示デバイス2(または触覚提示デバイス2の各振動アクチュエータ)に出力する(ステップS322)。
 以上説明したように、本変形例では、4Dシステムを介さずに、触覚提示デバイス制御装置20nにより、スクリプトに基づいて、タイムコードに対応する触覚制御信号を読み出し、触覚提示デバイス2に出力して触覚刺激の提示制御を行うことが可能となる。これにより、4Dシステムを備えていない映画館等にも導入することが可能となり、導入先が広がる。より多くの映画館等に導入出来ることでシステム単価が下がり、更に展開先が多くなることも期待できる。
 また、再生側においてスクリプトに基づいて触覚制御信号を読み出すシステム構成とすることで、再生側における処理負担を軽減することができる。
 (3-3-2.家庭用システム構築例)
 上述した再生側のシステムは、上述したような映画館での映画の視聴に限定されず、第1の実施形態による変形例と同様に、例えば、家庭においてユーザが触覚提示デバイス2を着用して、TV放送やインターネットで配信されるコンテンツ(ドラマ、映画、ドキュメンタリー等)を視聴している場合、または、インターネットゲームをプレイしている場合に、コンテンツの再生やゲーム内で発生するアクションと同期して、触覚提示デバイス2により触覚刺激提示を行い、映画館以外でも臨場感のある視聴体験を提供することを可能とする。
 以下、家庭に適用する際のシステムの構築例について、図33を参照して説明する。
 図33は、本変形例による、TV放送によりコンテンツを視聴する際に触覚刺激提示を行う例について説明する図である。図33に示すように、触覚提示デバイス制御装置20pは、放送局60から、予め(コンテンツの配信前に)触覚制御信号を受信(ダウンロード)する。触覚制御信号のダウンロードは、TV放送により、テレビ装置62を介して行われてもよい。
 このように、生成側で、コンテンツ(放送番組)に対応する触覚制御信号を生成し、生成ファイルに含めて放送局60に配信する場合、放送局60は、データ容量の大きい触覚制御信号を、TV放送等を介して事前に家庭側に送信しておくことで、TV放送等の通信帯域に影響を受けずに大容量のデータ配信を行うことが可能となる。
 そして、放送開始時は、放送局60は、再生するコンテンツ(放送する番組)のタイムコードに応じて、スクリプトを参照し、逐次、(タイムコードに応じて再生する触覚制御信号ファイルを示す)コマンドを各家庭(テレビ装置62)に配信する。テレビ装置62は、TV放送にて受信したコンテンツ(放送番組)を、ディスプレイに表示すると共に、配信されたコマンドを触覚提示デバイス制御装置20pに出力する。
 触覚提示デバイス制御装置20pは、コマンドで指定されている触覚制御信号を、触覚制御信号ファイルDB224から読み出し、触覚提示デバイス2に出力する。
 以上により、第2の実施形態においても、TV放送視聴時に、触覚提示デバイス2による触覚刺激の提示を同期させることができ、家庭においても、より臨場感溢れる視聴を体験することができる。
 なお、ここでは一例として、TV放送番組(映画、ドラマ等)を視聴する場合について説明したが、本変形例はこれに限定されず、第1の実施形態と同様にインターネット配信の視聴時や、インターネットゲームのプレイ時にも適用することができる。
 また、本実施形態を、図25、図31に示すような映画館に適用する場合において、タイムコードの配信を、再生制御装置31や4Dシステム制御装置40との有線/無線接続を用いた配信に限らず、上記第1の実施形態に変形例で説明したような、光通信によるタイムコード配信方式(図22参照)を利用することも可能である。
 また、触覚制御信号ファイル名を指定するコマンドの配信も、上記第1の実施形態に変形例で説明したような、光通信によるコマンド配信方式(図23、図24参照)を利用することも可能である。
 <<4.第3の実施形態>>
 続いて、図34から図37を参照して、ユーザによる触覚提示(生成触覚データ)の編集機能の変形例について説明する。図34から図37は、第3の実施形態による編集画面の一例を示す図である。
 先に説明した実施形態においては、ユーザは、図5に示すような編集画面1300に含まれる触覚提示デバイス2用の設定画面1330に対して指定を行うことにより、触覚提示デバイス2で振動等を発生させる時間帯を指定することができる。また、ユーザは、設定画面1330において、指定した時間帯1331をタップ(またはクリック等)操作により選択すると、図6に示す詳細設定画面1340が表示され、当該詳細設定画面1340において、触覚種類(振動刺激の波形種類)の選択、触覚提示位置(知覚位置)の設定及び知覚強度の調整を行うことができる。しかしながら、当該実施形態においては、これらの選択、設定及び調整は、予め生成された触覚ライブラリ(例えば典型的な波形パターン)や触覚データから選択することで行われ(すなわち、制約がある)、ユーザが自由に、細かく設定、調整できるものではなかった。そこで、本実施形態においては、振動刺激の波形、触覚提示位置の設定及び知覚強度の調整等をユーザの意図に沿って細かく、自由に編集することを可能にする編集機能について説明する。なお、以下に説明する編集機能は、プラグインとして、既存の4Dシステム編集アプリケーションに追加することも可能である。
 まず、本実施形態においては、例えば、生成装置10の制御部100は、表示部130に、図34に示すような編集画面600を提示して、再生コンテンツの時間軸における、ユーザ(制作者)による、触覚提示デバイス2用の触覚(Haptic Device)の編集を受け付ける。編集画面600には、再生コンテンツの音声データ(L/R)(SoundL/R)の波形が時間軸上に表示され、さらに、触覚提示デバイス2用の設定画面620、640等が表示されている。ユーザは、再生コンテンツの音声データの波形や、また、併せて再生コンテンツの映像(不図示)を閲覧しながら、設定画面620、640において、例えば、触覚提示デバイス2で与える振動等を個別に編集することができる。なお、本実施形態においては、細かな設定(波形等)の違いにより、触覚A、触覚Bというように触覚を個別に分けて編集し、再生コンテンツのトラックにそれぞれ割り当てることができる。例えば、図34においては、個別に分けられた触覚ごとに設定画面が設けられており、各設定画面に対して操作を行うことにより、各触覚を編集することができる。また、本実施形態においては、触覚の数は特に限定されるものではない。
 例えば、ユーザは、触覚提示デバイス2の触覚Aの設定画面620に表示される、再生コンテンツに対応する時間軸上において、触覚提示デバイス2で振動を発生させたい時間帯622をスワイプ操作等で指定する。図34に示す例では、触覚Aを時間帯ごとに3つの触覚、触覚A-1、触覚A-2、触覚A-3として分けて扱っている。なお、本実施形態においては、1つの触覚を分けることに限定されるものではなく、また、分ける数についても限定されるものではない(例えば触覚A-1から触覚A-99まで99個に分けてもよい)。
 例えば、ユーザは、触覚提示デバイス2の触覚Aの設定画面620に表示される時間軸上において、触覚提示デバイス2による触覚Aの振動強度(知覚強度)(Vol.)を、波形624をスワイプ操作により入力することにより指定する。また、例えば、ユーザは、触覚提示デバイス2の触覚Aの設定画面620に表示される時間軸上において、触覚提示デバイス2による触覚Aの振動ピッチ(例えば、繰り返しの周期)(知覚間隔)(Pitch)を、波形626をスワイプ操作により入力することにより指定する。
 例えば、ユーザは、設定画面620に表示される時間軸上において、各時間帯622における触覚Aの触覚提示位置を、(触覚提示デバイス2が装着される人物の)身体中心を原点とする3次元の直交座標系における、X軸上の座標、Y軸上の座標及びZ軸上の座標の3つの座標を個別に入力することにより指定する。より具体的には、ユーザは、設定画面620に表示される、X軸、Y軸及びZ軸にそれぞれ対応する時系列表示画面628において、カーソルを移動させることで、触覚Aの触覚提示位置のX軸上の座標、Y軸上の座標及びZ軸上の座標の3つの座標を個別に入力することができる。この際、ユーザは、触覚提示位置の各座標を、決まった幅(例えば±1)の範囲で任意に調整することができる。そして、上記幅を、触覚提示デバイス制御装置20内で具体的な触覚提示位置のレンジに変換し、変換された幅に基づき、入力された座標が具体的な触覚提示位置の座標に変換されることとなる。従って、本実施形態においては、具体的な触覚提示位置のレンジは、生成側と再生側とでプロファイル情報として予め共有されることとなる。
 なお、上述したように、X軸上の座標、Y軸上の座標及びZ軸上の座標を個別に入力して触覚提示位置を設定する場合、直感的に触覚提示位置をユーザが把握し難いことがある。このような場合、別途、別のツール等を利用して、触覚提示位置の座標のデータを生成し、生成した座標データを編集機能において読み込ませることにより、図34に示すような時系列表示画面628を表示させて、触覚提示位置を設定してもよい。また、本実施形態においては、触覚提示位置の設定は、例えばプラグイン機能等を利用した別の入力方法を用いることができるが、この詳細については後述する。
 さらに、例えば、ユーザは、触覚提示デバイス2の触覚Aの設定画面620に表示される時間軸上において、触覚提示デバイス2による触覚Aの再生速度(Speed)(例えば、触覚Aを、再生コンテンツの再生に対して、2倍速、0.5倍速で再生する)を、波形630をスワイプ操作により入力することにより指定する。また、例えば、ユーザは、触覚提示デバイス2の触覚Aの設定画面620に表示される時間軸上において、触覚提示デバイス2による触覚Aの振動等の周波数(Frequency)(知覚周波数)を、波形632をスワイプ操作により入力することにより指定する。なお、本実施形態においては、例えば、上述の再生速度を変化させても、触覚Aの振動の周波数は、指定された周波数に固定されるものとする。さらに、例えば、ユーザは、触覚提示デバイス2の触覚Aの設定画面620に表示される時間軸上において、触覚提示デバイス2による触覚Aのオフセット情報(Offset)(遅延時間)を、波形634をスワイプ操作により入力することにより指定する。なお、本実施形態においては、オフセット情報の代わりに、例えば、再生コンテンツ上のこの部分と同期させる等のタイミングを指定してもよく、編集項目は図34に示される項目に限定されるものではない。
 本実施形態においては、このようにして、触覚Aについての、振動強度、振動ピッチ、触覚提示位置、再生速度、周波数、オフセット情報等を編集することができる。さらに、他の触覚(例えば、触覚B)についても、触覚Aと同様に編集することができる。なお、本実施形態においては、編集項目については、振動強度、振動ピッチ、触覚提示位置、再生速度、周波数、オフセット情報に限定されるものではなく、さらに他の項目を編集してもよい。さらに、本編集機能においては、ドラッグ&ドロップ操作によって任意の時系列表示画面上から他の時系列表示画面上に波形を移動させることで、各項目を容易に編集することも可能である。
 また、本実施形態においては、上述した編集機能により編集された生成触覚データは、4Dシステム用ファイル内に集約される。生成触覚データは、4Dシステム用ファイルのフォーマットと統一され、4Dシステム用ファイルと一元化されることにより、4Dシステム用ファイルとともに、タイムコードに従った時間軸に沿ってコマンドを発行するための情報として使用される。例えば、触覚AのX軸座標は、触覚提示デバイス制御装置20内においては、所定の時間軸上での触覚提示位置のX軸座標として演算処理されていくこととなる。
 ところで、上述したように再生コンテンツ上の時間軸上において触覚の編集を行い、編集に基づき生成触覚データを生成し、生成触覚データを用いて上記タイムコードに従ってコマンドを発行した場合、触覚提示デバイス制御装置20内での演算遅延分に対応できないことがある。例えば、触覚提示デバイス制御装置20内で遅延量0.5sの演算遅延が発生することを前提とした場合、10.0sのタイミングで触覚提示したい際には、生成側において9.5sのタイミングで触覚提示するようなコマンドを生成しないと、触覚提示デバイス制御装置20内の演算遅延により10.0sのタイミングで触覚提示することができない。
 従って、上述のような演算遅延を見込んだコマンドの生成のためには、生成側と再生側とで、触覚提示デバイス制御装置20の演算遅延による遅延量を共有することが求められる。そこで、本実施形態においては、生成触覚データに対して、あらかじめ再生側の触覚提示デバイス制御装置20の演算遅延による遅延量のフィードバックをかけて、遅延量に応じたデータに変換する。また、本実施形態においては、再生側の触覚提示デバイス制御装置20や触覚提示デバイス2のキャリブレーションを行う際に、生成側の制御装置52や触覚提示デバイス54との差分である遅延量を算出し、再生側で、生成触覚データを、遅延量のフィードバックをかけて、遅延量に応じたデータに変換してもよい。
 また、本実施形態においては、触覚提示位置の設定は、例えばプラグイン機能等によって、図35及び図36に示すような編集画面700、710を表示させることにより行ってもよい。図35及び図36には、身体モデル上に重畳された直交座標系が表示されている。詳細には、図35には、平面直交座標系(Z-Y座標系)が表示され、当該平面直交座標系は、身体モデルの上半身の身体中心を原点とし、Z軸の正方向が人体の全面(胸側)に対応し、Y軸の正方向が人体の頭側に対応する。また、図36には、三次元直交座標系(X-Y-Z座標系)が表示され、当該三次元直交座標系は、身体モデルの上半身の身体中心を原点とし、X軸の正方向が人体の左側に対応し、Y軸の正方向が人体の頭側に対応し、Z軸の正方向が人体の全面(胸側)に対応し、Y軸の正方向が人体の頭側に対応する。
 例えば、ユーザは、編集画面700、710上に示されるマーカ702、712をタップ、クリック、スワイプ等の操作により直交座標系上を移動させることにより、触覚提示位置又は経路を設定することができる。そして、生成装置10の制御部100は、このようなに入力された触覚提示位置又は経路を、X軸上の座標、Y軸上の座標及びZ軸上の座標の3つの座標に変換することにより、触覚提示位置を設定することができる。このような編集画面700、710によれば、身体モデル上に重畳された直交座標系を用いることにより、触覚提示位置をユーザが直感的に把握することができる。
 さらに、本実施形態においては、触覚提示位置の範囲を、例えばプラグイン機能等により図37に示すような編集画面730を表示させることにより行ってもよい。例えば、編集画面730には、身体中心を原点とするX-Y座標系が表示されており、ユーザは、編集画面730上に示されるマーカ732をタップ、クリック、スワイプ等の操作により、その大きさを変えつつ、座標上を移動させることにより、触覚提示位置及び経路だけでなく、触覚提示する範囲やその経時変化も設定することができる。
 <<5.まとめ>>
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本技術はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
 例えば、上述した生成装置10、触覚提示デバイス制御装置20、または4Dシステム制御装置40等に内蔵されるCPU、ROM、およびRAM等のハードウェアに、生成装置10、触覚提示デバイス制御装置20、または4Dシステム制御装置40等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、当該コンピュータプログラムを記憶させたコンピュータ読み取り可能な記憶媒体も提供される。
 以上、本実施形態による動作処理の一例を説明した。なお、参照した図面に示す動作処理は一例であって、本開示は参照した図面に示す例に限定されない。例えば、本開示は、参照した図面に示すステップの順序に限定されない。少なくともいずれかのステップが並列に処理されてもよいし、逆の順番で処理されてもよい。また、参照した図面に示す全ての処理が必ずしも実行されてなくともよい。また、参照した図面に示す全ての処理が必ずしも単一の装置で行われなくともよい。
 また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
 なお、本技術は以下のような構成も取ることができる。
(1)
 再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトを生成する制御部を備え、
 前記制御コマンドは、
  前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含む、情報処理装置。
(2)
 前記制御コマンドは、知覚強度を示す知覚強度情報もさらに含む、前記(1)に記載の情報処理装置。
(3)
 前記触覚刺激種類情報は、
  予め用意された触覚データライブラリの種類、または、前記再生コンテンツから生成した生成触覚データの種類を指定する情報である、前記(1)または(2)に記載の情報処理装置。
(4)
 前記制御部は、
  前記再生コンテンツに含まれる効果音、BGM、または、セリフの音声データから、前記生成触覚データを生成する、前記(3)に記載の情報処理装置。
(5)
 前記触覚データライブラリ、および、前記生成触覚データは、前記触覚提示デバイスで提示する振動の波形データである、前記(3)または(4)に記載の情報処理装置。
(6)
 前記制御部は、
  前記触覚提示デバイスに設けられる1以上の触覚刺激部(アクチュエータ)の配置を示す配置表示画面を表示し、前記配置表示画面に対するユーザによる知覚位置の指定を受け付けると共に、
  触覚刺激種類の選択画面を表示し、前記指定された知覚位置で提示する触覚刺激の種類指定を前記選択画面により受け付ける、前記(1)~(5)のいずれか1項に記載の情報処理装置。
(7)
 前記制御部は、
  前記再生コンテンツに含まれる効果音、BGM、または、セリフの音声データから、前記生成触覚データを生成すると共に、
  前記生成した生成触覚データの知覚位置および知覚強度を、前記再生コンテンツに含まれる効果音、BGM、または、セリフの音声データに基づいて推奨する、前記(3)に記載の情報処理装置。
(8)
 前記制御コマンドは、前記再生コンテンツの時間情報に対するオフセット情報をさらに含む、前記(1)~(6)のいずれか1項に記載の情報処理装置。
(9)
 前記制御部は、前記制御コマンドを再生側で実行する際に想定される処理遅延量に応じて、前記オフセット情報を設定する、前記(8)に記載の情報処理装置。
(10)
 前記再生コンテンツは、映像データである、前記(1)~(9)のいずれか1項に記載の情報処理装置。
(11)
 前記再生コンテンツは、ゲーム内で発生するアクションであって、
 前記スクリプトは、アクション毎に、当該アクションの時間情報と、前記触覚提示デバイスの制御コマンドとが対応付けられる、前記(1)~(9)のいずれか1項に記載の情報処理装置。
(12)
 前記制御部は、
  前記再生コンテンツの時間情報と、前記触覚提示デバイスのタイプ別の前記制御コマンドを対応付けたスクリプトを生成する、前記(1)~(11)のいずれか1項に記載の情報処理装置。
(13)
 プロセッサが、
 再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトを生成することを含み、
 前記制御コマンドは、
  前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含む、情報処理方法。
(14)
 コンピュータを、
 再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトを生成する制御部として機能させ、
 前記制御コマンドは、
  前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含む、プログラム。
(15)
 再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトに基づいた、前記再生コンテンツの再生位置を示すタイムコードに対応するコマンドに従って、前記触覚提示デバイスに入力する触覚制御信号を生成する制御部を備え、
 前記コマンドは、
  前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含み、
 前記制御部は、
  前記触覚提示デバイスに設けられる1以上の触覚刺激部の配置に応じて、前記知覚位置で前記指定された種類の触覚刺激を提示するための各触覚刺激部への触覚制御信号を生成し、前記触覚提示デバイスに出力する、情報処理装置。
(16)
 前記制御部は、
  前記生成した触覚制御信号を、前記制御コマンドに含まれるオフセット情報に応じたタイミングで、前記触覚提示デバイスに出力する、前記(15)に記載の情報処理装置。
(17)
 前記制御部は、
  外部装置から受信した前記タイムコードに応じて、前記スクリプトを参照し、前記コマンドを抽出する、前記(15)または(16)に記載の情報処理装置。
(18)
 前記情報処理装置は、
  前記タイムコードに対応する前記コマンドを外部装置から受信する、前記(15)または(16)に記載の情報処理装置。
(19)
 前記触覚刺激種類情報は、
  予め用意された触覚データライブラリの種類、または、前記再生コンテンツから生成した生成触覚データの種類を指定する情報であり、
 前記情報処理装置は、
  前記触覚データライブラリ、または、前記生成触覚データを蓄積する記憶部を備え、
 前記制御部は、
  前記触覚データライブラリ、または、前記生成触覚データを用いて、前記触覚制御信号を生成する、前記(15)~(18)のいずれか1項に記載の情報処理装置。
(20)
 前記制御部は、
  前記触覚提示デバイスのプロファイルをさらに考慮し、前記触覚制御信号を生成する、前記(15)~(19)のいずれか1項に記載の情報処理装置。
(21)
 前記制御部は、
 前記配置表示画面に対する、身体中心を原点とする3次元の直交座標系における、X軸上の座標、Y軸上の座標及びZ軸上の座標の3つの座標の入力を受け付けることにより、前記知覚位置の指定を受け付ける、
 前記(6)に記載の情報処理装置。
(22)
 前記制御部は、
 前記配置表示画面上の身体モデル上に重畳された前記直交座標系に対する入力を受け付けることにより、前記知覚位置の指定を受け付ける、
 前記(21)に記載の情報処理装置。
(23)
 前記制御コマンドは、
 前記触覚提示デバイスにおいて複数の前記触覚刺激のそれぞれの前記知覚位置を示す位置情報と、前記各触覚刺激の種類を指定する触覚刺激種類情報と、
 を含む、前記(21)又は(22)に記載の情報処理装置。
(24)
 前記制御コマンドは、
 前記各触覚刺激の知覚強度、知覚周波数、知覚間隔、再生速度、オフセット情報のうちの少なくとも1つを含む、前記(23)に記載の情報処理装置。
1 情報処理システム
2 触覚提示デバイス
4 4Dシート
40 4Dシステム制御装置
7 記録媒体
10 生成装置
 100 制御部
 101 制御情報生成部
 102 触覚提示情報生成部
 103 触覚データ生成部
 104 触覚制御信号生成部
 110 通信部
 120 操作入力部
 130 表示部
 140 記憶部
  141 触覚LibDB
  142 生成触覚データDB
  143 プロファイルDB
20 触覚提示デバイス制御装置
 200 制御部
 201 制御信号生成部
 202 出力制御部
 210 通信部
  211 システムI/F
  212 触覚提示デバイスI/F
 220 記憶部
  221 触覚LibDB
  222 生成触覚データDB
  223 プロファイルDB
22 観測部
24 制御ユニット
30 シネマシステム
31 再生制御装置
32 プロジェクタ
34 発光部
50 検証システム
52 制御装置
54 触覚提示デバイス
56 4Dシート
58 表示装置
60 放送局
62 テレビ装置
64 再生装置
66 ストリーミングサーバ
80 ゲームサーバ
82 ゲーム再生装置
84 表示装置
86 コントローラ
600、700、710、730 編集画面
620、640 設定画面
622 時間帯
624、626、630、632、634 波形
628 時系列表示画面
702、712、732 マーカ

Claims (20)

  1.  再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトを生成する制御部を備え、
     前記制御コマンドは、
      前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含む、情報処理装置。
  2.  前記制御コマンドは、知覚強度を示す知覚強度情報もさらに含む、請求項1に記載の情報処理装置。
  3.  前記触覚刺激種類情報は、
      予め用意された触覚データライブラリの種類、または、前記再生コンテンツから生成した生成触覚データの種類を指定する情報である、請求項1に記載の情報処理装置。
  4.  前記制御部は、
      前記再生コンテンツに含まれる効果音、BGM、または、セリフの音声データから、前記生成触覚データを生成する、請求項3に記載の情報処理装置。
  5.  前記触覚データライブラリ、および、前記生成触覚データは、前記触覚提示デバイスで提示する振動の波形データである、請求項3に記載の情報処理装置。
  6.  前記制御部は、
      前記触覚提示デバイスに設けられる1以上の触覚刺激部(アクチュエータ)の配置を示す配置表示画面を表示し、前記配置表示画面に対するユーザによる知覚位置の指定を受け付けると共に、
      触覚刺激種類の選択画面を表示し、前記指定された知覚位置で提示する触覚刺激の種類指定を前記選択画面により受け付ける、請求項1に記載の情報処理装置。
  7.  前記制御部は、
      前記再生コンテンツに含まれる効果音、BGM、または、セリフの音声データから、前記生成触覚データを生成すると共に、
      前記生成した生成触覚データの知覚位置および知覚強度を、前記再生コンテンツに含まれる効果音、BGM、または、セリフの音声データに基づいて推奨する、請求項3に記載の情報処理装置。
  8.  前記制御コマンドは、前記再生コンテンツの時間情報に対するオフセット情報をさらに含む、請求項1に記載の情報処理装置。
  9.  前記制御部は、前記制御コマンドを再生側で実行する際に想定される処理遅延量に応じて、前記オフセット情報を設定する、請求項8に記載の情報処理装置。
  10.  前記再生コンテンツは、映像データである、請求項1に記載の情報処理装置。
  11.  前記再生コンテンツは、ゲーム内で発生するアクションであって、
     前記スクリプトは、アクション毎に、当該アクションの時間情報と、前記触覚提示デバイスの制御コマンドとが対応付けられる、請求項1に記載の情報処理装置。
  12.  前記制御部は、
      前記再生コンテンツの時間情報と、前記触覚提示デバイスのタイプ別の前記制御コマンドを対応付けたスクリプトを生成する、請求項1に記載の情報処理装置。
  13.  プロセッサが、
     再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトを生成することを含み、
     前記制御コマンドは、
      前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含む、情報処理方法。
  14.  コンピュータを、
     再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトを生成する制御部として機能させ、
     前記制御コマンドは、
      前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含む、プログラム。
  15.  再生コンテンツの時間情報と、触覚提示デバイスの制御コマンドとを対応付けたスクリプトに基づいた、前記再生コンテンツの再生位置を示すタイムコードに対応するコマンドに従って、前記触覚提示デバイスに入力する触覚制御信号を生成する制御部を備え、
     前記コマンドは、
      前記触覚提示デバイスにおいて触覚刺激を知覚させる知覚位置を示す位置情報と、前記触覚刺激の種類を指定する触覚刺激種類情報を含み、
     前記制御部は、
      前記触覚提示デバイスに設けられる1以上の触覚刺激部の配置に応じて、前記知覚位置で前記指定された種類の触覚刺激を提示するための各触覚刺激部への触覚制御信号を生成し、前記触覚提示デバイスに出力する、情報処理装置。
  16.  前記制御部は、
      前記生成した触覚制御信号を、前記制御コマンドに含まれるオフセット情報に応じたタイミングで、前記触覚提示デバイスに出力する、請求項15に記載の情報処理装置。
  17.  前記制御部は、
      外部装置から受信した前記タイムコードに応じて、前記スクリプトを参照し、前記コマンドを抽出する、請求項15に記載の情報処理装置。
  18.  前記情報処理装置は、
      前記タイムコードに対応する前記コマンドを外部装置から受信する、請求項15に記載の情報処理装置。
  19.  前記触覚刺激種類情報は、
      予め用意された触覚データライブラリの種類、または、前記再生コンテンツから生成した生成触覚データの種類を指定する情報であり、
     前記情報処理装置は、
      前記触覚データライブラリ、または、前記生成触覚データを蓄積する記憶部を備え、
     前記制御部は、
      前記触覚データライブラリ、または、前記生成触覚データを用いて、前記触覚制御信号を生成する、請求項15に記載の情報処理装置。
  20.  前記制御部は、
      前記触覚提示デバイスのプロファイルをさらに考慮し、前記触覚制御信号を生成する、請求項15に記載の情報処理装置。
PCT/JP2019/040744 2018-10-19 2019-10-16 情報処理装置、情報処理方法、および、プログラム WO2020080432A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201980067144.XA CN112840294B (zh) 2018-10-19 2019-10-16 信息处理装置、信息处理方法和程序
US17/284,572 US11738262B2 (en) 2018-10-19 2019-10-16 Information processor, information processing method, and program
EP19874248.8A EP3869300A4 (en) 2018-10-19 2019-10-16 INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD AND PROGRAM
JP2020553254A JP7452430B2 (ja) 2018-10-19 2019-10-16 情報処理装置、情報処理方法、および、プログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018197254 2018-10-19
JP2018-197254 2018-10-19

Publications (1)

Publication Number Publication Date
WO2020080432A1 true WO2020080432A1 (ja) 2020-04-23

Family

ID=70283284

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/040744 WO2020080432A1 (ja) 2018-10-19 2019-10-16 情報処理装置、情報処理方法、および、プログラム

Country Status (5)

Country Link
US (1) US11738262B2 (ja)
EP (1) EP3869300A4 (ja)
JP (1) JP7452430B2 (ja)
CN (1) CN112840294B (ja)
WO (1) WO2020080432A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023189193A1 (ja) * 2022-03-31 2023-10-05 ソニーグループ株式会社 復号装置、復号方法および復号プログラム
JP7492684B2 (ja) 2020-10-07 2024-05-30 株式会社村田製作所 力覚波決定装置、力覚波決定方法及び力覚波決定プログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102273804B1 (ko) * 2019-02-19 2021-07-06 주식회사 동운아나텍 사용자 입력신호를 고려한 햅틱 모터 구동 방법
WO2022054323A1 (ja) * 2020-09-09 2022-03-17 ソニーグループ株式会社 触覚提示装置、触覚提示システム、触覚提示制御方法及びプログラム
US11850509B2 (en) * 2021-02-17 2023-12-26 Falcon's Beyond Brands, Llc Interactive theater system with real-time feedback and dynamic special effects
CN113490048B (zh) * 2021-07-28 2023-06-27 广东金马游乐股份有限公司 一种动感影视系统
US11908311B2 (en) * 2022-03-08 2024-02-20 Qualcomm Incorporated Haptics audible noise reduction

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009513077A (ja) * 2005-10-19 2009-03-26 イマージョン コーポレーション メディアトランスポートストリームにおけるハプティック効果データの同期
JP2015053048A (ja) * 2013-09-06 2015-03-19 イマージョン コーポレーションImmersion Corporation マルチメディアコンテンツを補足する情報に基づいて触覚効果を提供するための方法及びシステム
JP2015219917A (ja) * 2014-05-20 2015-12-07 イマージョン コーポレーションImmersion Corporation 触覚設計オーサリングツール
JP2018019393A (ja) * 2016-07-15 2018-02-01 株式会社Cri・ミドルウェア 再生制御システム、情報処理装置およびプログラム
JP2018045270A (ja) 2016-09-12 2018-03-22 ソニー株式会社 通信装置および方法、並びにプログラム
JP2018055722A (ja) * 2013-11-14 2018-04-05 イマージョン コーポレーションImmersion Corporation ハプティック空間化システム
JP2018527655A (ja) * 2015-07-13 2018-09-20 トムソン ライセンシングThomson Licensing ユーザ・ハプティック空間(HapSpace)に基づくハプティック・フィードバックおよびインタラクティブ性を提供する方法および装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101630864B1 (ko) * 2008-05-09 2016-06-16 코닌클리케 필립스 엔.브이. 감정을 전달하는 방법 및 시스템
US20130198625A1 (en) * 2012-01-26 2013-08-01 Thomas G Anderson System For Generating Haptic Feedback and Receiving User Inputs
US20170108929A1 (en) * 2015-04-28 2017-04-20 Morgan Walker Sinko System and Method for Full Motion Capture and Haptic Feedback Suite
JP2017182495A (ja) * 2016-03-30 2017-10-05 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
JP6834614B2 (ja) * 2016-07-12 2021-02-24 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US20210173485A1 (en) * 2016-07-12 2021-06-10 Korea University Of Technology And Education Industry -University Cooperation Foundation Haptic interaction device and control method therefor
US10564724B1 (en) * 2016-09-20 2020-02-18 Apple Inc. Touch-based input device with haptic feedback
EP3319361A1 (en) * 2016-11-03 2018-05-09 Alcatel Lucent Method and apparatus for a radio communication network
US10743087B2 (en) * 2017-06-21 2020-08-11 Z5X Global FZ-LLC Smart furniture content interaction system and method
CN111065987B (zh) * 2017-09-25 2023-07-28 惠普发展公司,有限责任合伙企业 增强现实系统、增强现实输入设备和计算机可读存储介质
US10572016B2 (en) * 2018-03-06 2020-02-25 Microsoft Technology Licensing, Llc Spatialized haptic device force feedback
US20190302889A1 (en) * 2018-03-30 2019-10-03 Apple Inc. Static Pattern Electrostatic Haptic Electrodes

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009513077A (ja) * 2005-10-19 2009-03-26 イマージョン コーポレーション メディアトランスポートストリームにおけるハプティック効果データの同期
JP2015053048A (ja) * 2013-09-06 2015-03-19 イマージョン コーポレーションImmersion Corporation マルチメディアコンテンツを補足する情報に基づいて触覚効果を提供するための方法及びシステム
JP2018055722A (ja) * 2013-11-14 2018-04-05 イマージョン コーポレーションImmersion Corporation ハプティック空間化システム
JP2015219917A (ja) * 2014-05-20 2015-12-07 イマージョン コーポレーションImmersion Corporation 触覚設計オーサリングツール
JP2018527655A (ja) * 2015-07-13 2018-09-20 トムソン ライセンシングThomson Licensing ユーザ・ハプティック空間(HapSpace)に基づくハプティック・フィードバックおよびインタラクティブ性を提供する方法および装置
JP2018019393A (ja) * 2016-07-15 2018-02-01 株式会社Cri・ミドルウェア 再生制御システム、情報処理装置およびプログラム
JP2018045270A (ja) 2016-09-12 2018-03-22 ソニー株式会社 通信装置および方法、並びにプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3869300A4

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7492684B2 (ja) 2020-10-07 2024-05-30 株式会社村田製作所 力覚波決定装置、力覚波決定方法及び力覚波決定プログラム
WO2023189193A1 (ja) * 2022-03-31 2023-10-05 ソニーグループ株式会社 復号装置、復号方法および復号プログラム

Also Published As

Publication number Publication date
CN112840294B (zh) 2024-05-28
JP7452430B2 (ja) 2024-03-19
CN112840294A (zh) 2021-05-25
US20210339127A1 (en) 2021-11-04
JPWO2020080432A1 (ja) 2021-09-16
EP3869300A1 (en) 2021-08-25
US11738262B2 (en) 2023-08-29
EP3869300A4 (en) 2021-12-15

Similar Documents

Publication Publication Date Title
WO2020080432A1 (ja) 情報処理装置、情報処理方法、および、プログラム
WO2020080433A1 (ja) 情報処理装置、情報処理方法、および、プログラム
US10146311B2 (en) Haptic devices and methods for providing haptic effects via audio tracks
US11113884B2 (en) Techniques for immersive virtual reality experiences
JP4601256B2 (ja) リアルワールド演出システムおよび言語
US9805767B1 (en) Perspective view entertainment system and method
US20160071546A1 (en) Method of Active-View Movie Technology for Creating and Playing Multi-Stream Video Files
KR101220597B1 (ko) 게임 기능을 구비한 영상물 상영 시설
Mazzanti et al. Augmented Stage for Participatory Performances.
US20190204917A1 (en) Intuitive haptic design
KR101220632B1 (ko) 스토리 전개 선택이 가능한 영상물 상영 시설
CN113853571A (zh) 信息处理设备以及信息处理终端
US20050195366A1 (en) Fragrance delivery for multimedia systems
JP2013012811A (ja) 近接通過音発生装置
CN114930274A (zh) 信息处理设备、信息处理终端和程序
CN114945893A (zh) 信息处理设备以及信息处理终端
KR19980083351A (ko) 멀티미디어의 향 발생 시스템
US20210138340A1 (en) Interactive Entertainment Device
JP6523038B2 (ja) 感覚提示装置
Parker et al. Puppetry of the pixel: Producing live theatre in virtual spaces
EP4306192A1 (en) Information processing device, information processing terminal, information processing method, and program
WO2008119004A1 (en) Systems and methods for creating displays
Hulthe Self-produced sound and kinesonic feedback in FPS games: do players have a preference between binaural and monophonic Foley?
JP2022134638A (ja) 画像表示システム、表示制御方法、発光制御方法、及びプログラム
Wennerberg Auditory immersion and the believability of a first-person perspective in computer games: Do players have a preference between mono and stereo foley, and is one perceived as more believable?

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19874248

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020553254

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2019874248

Country of ref document: EP

Effective date: 20210519