WO2020241170A1 - 情報処理装置、情報処理方法、及びプログラム - Google Patents

情報処理装置、情報処理方法、及びプログラム Download PDF

Info

Publication number
WO2020241170A1
WO2020241170A1 PCT/JP2020/018229 JP2020018229W WO2020241170A1 WO 2020241170 A1 WO2020241170 A1 WO 2020241170A1 JP 2020018229 W JP2020018229 W JP 2020018229W WO 2020241170 A1 WO2020241170 A1 WO 2020241170A1
Authority
WO
WIPO (PCT)
Prior art keywords
tactile
signal
change
control unit
stimulus
Prior art date
Application number
PCT/JP2020/018229
Other languages
English (en)
French (fr)
Inventor
山野 郁男
Original Assignee
ソニー株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニー株式会社 filed Critical ソニー株式会社
Priority to EP20814953.4A priority Critical patent/EP3979044A4/en
Priority to JP2021522737A priority patent/JP7494848B2/ja
Priority to CN202080037716.2A priority patent/CN113874815A/zh
Priority to US17/612,752 priority patent/US20220244784A1/en
Publication of WO2020241170A1 publication Critical patent/WO2020241170A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/014Force feedback applied to GUI

Definitions

  • This disclosure relates to information processing devices, information processing methods, and programs.
  • Patent Document 1 discloses an information processing device capable of improving functions, operability, and the like by using vibration stimulation.
  • the present disclosure has been made in view of the above circumstances, and is a new and improved information processing device, an information processing method, which can more appropriately provide a tactile stimulus based on a content reproduction speed. And provide programs.
  • an information processing apparatus including a tactile control unit that generates a signal used to provide a tactile stimulus corresponding to the content to the user based on a reproduction speed of the content provided to the user. Provided.
  • a computer which comprises generating a signal used to provide the user with a tactile stimulus corresponding to the content, based on the playback speed of the content provided to the user.
  • Information processing methods are provided.
  • a communication unit that receives a signal generated based on the playback speed of the content provided to the user and used to provide the user with a tactile stimulus corresponding to the content, and the signal.
  • An information processing apparatus includes a tactile output unit that outputs the tactile stimulus using the above.
  • various expressions and playback technologies corresponding to them have already been developed.
  • various expression methods for content have been developed when the playback speed of content is increased or decreased.
  • a technique has been developed that makes it possible to recognize fast movements that are difficult to see with the naked eye by making the playback speed of an image much slower than the standard, and this technique is used, for example, in sports broadcasting.
  • a technique for making the video reproduction speed much faster than the standard has also been developed, and is used for searching for a desired scene in the content.
  • the vibration stimulus may not be output because the frequency after the change in the reproduction speed is out of the output range of a device that outputs the vibration stimulus (for example, a vibration actuator).
  • a device that outputs the vibration stimulus for example, a vibration actuator.
  • the sensory characteristics for human tactile stimuli and the sensory characteristics for voice are different from each other.
  • human senses are more insensitive to frequency changes in tactile stimuli than in speech. Specifically, even if the rate of change in the frequency of speech is 1 [%] or less, humans are likely to perceive the change, while the change in the frequency of vibration stimuli (an example of tactile stimuli). It is known that if the rate is 30 [%] or less, humans are unlikely to perceive the change.
  • the discloser of this case has come to create the technology related to this disclosure in view of the above circumstances.
  • the information processing device according to the present disclosure generates a signal used to provide the user with a tactile stimulus corresponding to the content based on the reproduction speed of the content provided to the user.
  • the information processing device according to the present disclosure changes the signal based on a change in the reproduction speed of the content.
  • the information processing apparatus according to the present disclosure changes a signal so as to change the reproduction period of the signal based on the change in the reproduction speed of the content.
  • the information processing device can more appropriately provide the tactile stimulus based on the reproduction speed of the content.
  • the information processing apparatus since the human sense of the frequency change of the tactile stimulus is relatively insensitive, reproduces the signal used to provide the tactile stimulus to the user. It is possible to provide the user with a tactile stimulus that does not cause discomfort even if the signal is changed so as to change the period.
  • the functions and processes of the information processing apparatus according to the present disclosure will be described in detail.
  • Embodiment> (2.1. Configuration example) The outline of the present disclosure has been described above. Subsequently, various configuration examples according to the embodiment of the present disclosure will be described.
  • FIG. 1 is a block diagram showing a configuration example of the information processing system 1 according to the present embodiment.
  • the information processing system 1 according to the present embodiment includes a distribution device 100 and a reproduction device 200.
  • the distribution device 100 is an information processing device that distributes content to the playback device 200.
  • the distribution device 100 distributes the content to the reproduction device 200 based on the request signal (request) received from the reproduction device 200.
  • the delivery mode is not necessarily limited to this.
  • the distribution device 100 may distribute the content without the request signal from the reproduction device 200.
  • the “content” may include at least a tactile stimulus, and may include, for example, video or audio in addition to the tactile stimulus.
  • the distribution device 100 generates a signal in a predetermined format used for outputting video, audio, and tactile stimuli, and transmits the signal to the reproduction device 200.
  • the signal generation method and distribution method by the distribution device 100 are not particularly limited.
  • the signal used for video output is also referred to as "video signal”
  • the signal used for audio output is also referred to as "audio signal”
  • the signal used for tactile stimulus output is also referred to as "tactile signal”.
  • the "tactile stimulus” includes vibration stimulus, electrical stimulus, temperature change stimulus, force sensation stimulus (for example, sensation stimulus pushed by an object, sensation stimulus in contact with an object, stimulus of tightening sensation, etc. ), And at least one of the stimuli related to the skin sensation (for example, the stimulus of a rough sensation, the stimulus of a slippery sensation, etc.), and these may be combined.
  • the tactile stimulus is not necessarily limited to these, and may be a stimulus that acts on the user's tactile sensation. In the present embodiment, a case where the tactile stimulus is mainly a vibration stimulus will be described as an example.
  • the distribution device 100 does not necessarily have to be realized by one unit.
  • the distribution device 100 is realized by a video camera that is placed in a baseball stadium and shoots, a device that edits the video of the video camera, a device that distributes the edited video, and the like.
  • the number of each device is not particularly limited.
  • the playback device 200 is an information processing device that reproduces content using various signals received from the distribution device 100.
  • the playback device 200 may be, for example, a smartphone, a tablet PC (Personal Computer), a head-mounted display, or the like, as long as it can provide at least a tactile stimulus.
  • the playback device 200 is a smartphone will be described as an example. That is, the playback device 200 outputs a vibration stimulus by vibrating the vibration actuator or the like using the tactile signal received from the distribution device 100, displays the video on the display or the like using the video signal, and uses the audio signal. Output sound from a speaker or the like.
  • the playback device 200 does not necessarily have to be realized by one unit.
  • the reproduction device 200 may be realized by a device capable of outputting a tactile stimulus, a device capable of outputting an image, a device capable of outputting sound, and the like, and the number of each device is not particularly limited.
  • the playback device 200 performs a content playback speed change process and various controls associated therewith. For example, the playback device 200 changes the playback speed of the content based on the input by the user (in other words, the playback speed of the content is determined based on the input by the user). Then, the playback device 200 changes the output by changing various signals received from the distribution device 100 as the playback speed of the content changes.
  • the "content playback speed” is the speed at which content including video, audio, and tactile stimuli is provided to the user, and refers to either the speed experienced by the user or the processing speed by the playback device 200. May be good.
  • the range of content playback speed is not particularly limited.
  • super slow playback at about 0.125 times speed playback at about 0.5 to 0.9 times speed (also called “slow viewing playback”), or playback at about 2.0 to 8.0 times speed.
  • Reproduction can be performed in various modes including (also referred to as “fast-forward reproduction”).
  • the speed of scene change by operating the user interface used to control the playback scene of the content may be treated as the playback speed (details will be described later).
  • the content reproduction speed change processing and various controls associated therewith may be realized by the distribution device 100, or may be realized by the distributed processing of the distribution device 100 and the reproduction device 200.
  • the configuration shown in FIG. 1 is only an example, and the configuration example of the information processing system 1 according to the present embodiment is not necessarily limited to the example of FIG.
  • devices other than the distribution device 100 and the reproduction device 200 may be separately provided.
  • FIG. 2 is a block diagram showing a configuration example of the distribution device 100 according to the present embodiment.
  • the distribution device 100 includes a control unit 110, a communication unit 120, and a storage unit 130.
  • the control unit 110 includes a video control unit 111, an audio control unit 112, and a tactile control unit 113.
  • the control unit 110 has a configuration that comprehensively controls all the processing performed by the distribution device 100.
  • the control unit 110 controls the start and stop of each configuration (for example, the video control unit 111, the audio control unit 112, the tactile control unit 113, etc.) based on the request signal from the reproduction device 200.
  • the control content of the control unit 110 is not particularly limited.
  • the control unit 110 may control processes generally performed in various servers, general-purpose computers, PCs, tablet PCs, and the like (for example, processes related to an OS (Operating System)).
  • the video control unit 111 has a configuration for controlling the content of the video output by the playback device 200. Specifically, the video control unit 111 generates a video signal based on the request signal from the playback device 200, and transmits the video signal to the playback device 200 via the communication unit 120.
  • the content of the video provided by the video control unit 111 is not particularly limited.
  • the video provided by the video control unit 111 may be a video specified by a request signal from the playback device 200, or information in which the playback device 200 changes its position and posture like a head-mounted display or the like.
  • the image may be determined by the position and orientation of the playback device 200.
  • the image provided by the image control unit 111 may be composed of an image for the right eye and an image for the left eye.
  • the video signal may be provided as a set of data together with the audio signal and the tactile signal, or may be provided as separate data (in any case, the video, audio, and tactile stimuli are synchronized. It is desirable to be provided).
  • the voice control unit 112 has a configuration for controlling the content of the voice output by the playback device 200. Specifically, the voice control unit 112 generates a voice signal based on the request signal from the playback device 200, and transmits the voice signal to the playback device 200 via the communication unit 120.
  • the content of the voice provided by the voice control unit 112 is not particularly limited.
  • the voice provided by the voice control unit 112 may be the voice specified by the request signal from the playback device 200, or when the playback device 200 is a head-mounted display or the like, the position of the playback device 200. And the voice may be determined by the posture. Further, the voice provided by the voice control unit 112 may be composed of a voice for the right ear and a voice for the left ear.
  • the tactile control unit 113 is configured to control the content of the tactile stimulus (for example, vibration stimulus) output by the reproduction device 200. Specifically, the tactile control unit 113 generates a tactile signal based on the request signal from the reproduction device 200, and transmits the tactile signal to the reproduction device 200 via the communication unit 120.
  • the content of the tactile stimulus provided by the tactile control unit 113 is not particularly limited.
  • the tactile stimulus provided by the tactile control unit 113 may be a tactile stimulus specified by a request signal from the reproduction device 200, or when the reproduction device 200 is a head-mounted display or the like, the reproduction device 200 It may be a tactile stimulus determined by the position and posture of.
  • the communication unit 120 is configured to communicate with the playback device 200.
  • the communication unit 120 receives a content request signal from the reproduction device 200, and transmits a video signal, an audio signal, and a tactile signal to the reproduction device 200.
  • the information communicated by the communication unit 120 and the case of communication are not limited to these.
  • the storage unit 130 has a configuration for storing various types of information.
  • the storage unit 130 stores various signals and the like generated by the control unit 110, and stores programs, parameters, and the like used by each configuration of the distribution device 100.
  • the information stored in the storage unit 130 is not limited to these.
  • the configuration example of the distribution device 100 has been described above.
  • the above configuration described with reference to FIG. 2 is merely an example, and the configuration of the distribution device 100 is not limited to such an example.
  • the distribution device 100 does not necessarily have all of the configurations shown in FIG. 2, and may include configurations not shown in FIG.
  • the configuration of the distribution device 100 can be flexibly modified according to the specifications and operation.
  • FIG. 3 is a block diagram showing a configuration example of the reproduction device 200 according to the present embodiment.
  • the reproduction device 200 includes a control unit 210, a communication unit 220, an input unit 230, an output unit 240, and a storage unit 250.
  • the control unit 210 includes a speed determination unit 211, a video control unit 212, an audio control unit 213, and a tactile control unit 214
  • the output unit 240 includes a video output unit 241 and an audio output unit 242.
  • a tactile output unit 243 A tactile output unit 243.
  • the control unit 210 has a configuration that comprehensively controls all the processing performed by the playback device 200.
  • the control unit 210 controls the start and stop of each configuration (for example, speed determination unit 211, video control unit 212, audio control unit 213, tactile control unit 214, etc.) based on various signals from the distribution device 100.
  • the control content of the control unit 210 is not particularly limited.
  • the control unit 210 may control processes generally performed in various servers, general-purpose computers, PCs, tablet PCs, and the like (for example, processes related to the OS).
  • the speed determination unit 211 has a configuration for determining the playback speed of the content. For example, the speed determination unit 211 determines the content reproduction speed based on the input made by the user to the input unit 230. This allows the user to play the content at the desired speed. As described above, the range of content playback speed is not particularly limited.
  • the video control unit 212 has a configuration for controlling the output of video. Specifically, the video control unit 212 controls the output of the video by the video output unit 241 by providing the video signal provided by the distribution device 100 to the video output unit 241. At that time, the video control unit 212 provides the video signal so that the video is output at the reproduction speed determined by the speed determination unit 211.
  • the voice control unit 213 is configured to control the voice output. Specifically, the voice control unit 213 controls the voice output by the voice output unit 242 by providing the voice signal provided by the distribution device 100 to the voice output unit 242. At that time, the voice control unit 213 provides the voice signal so that the voice is output at the reproduction speed determined by the speed determination unit 211.
  • human senses are more sensitive to frequency changes in speech than in tactile stimuli. Therefore, when the rate of change in the reproduction speed is larger than a predetermined value (when the change in the voice is large enough to be perceived), the voice control unit 213 changes the voice signal by using the speech speed conversion process, and the voice output unit 242. To provide.
  • the "speech speed conversion process” is a process of changing the playback period while maintaining the quality and pitch of the voice.
  • the voice control unit 213 can output the voice slowly or quickly without giving a sense of discomfort to the user. Since the voice control unit 213 can use the existing speech speed conversion process, a detailed description of the speech speed conversion process will be omitted.
  • the voice control unit 213 does not necessarily have to maintain the quality and pitch of the voice before and after the change in the reproduction speed.
  • the tactile control unit 214 is configured to control the output of the tactile stimulus. Specifically, the tactile control unit 214 controls the output of the tactile stimulus by the tactile output unit 243 by providing the tactile signal provided by the distribution device 100 to the tactile output unit 243. At that time, the tactile control unit 214 provides the tactile signal so that the tactile stimulus is output at the reproduction speed determined by the speed determination unit 211. Further, in the present embodiment, the tactile control unit 214 can change the tactile signal based on the reproduction speed of the content (note that changing the tactile signal is equivalent to generating the tactile signal). Please note). Details will be described later.
  • the communication unit 220 is configured to communicate with the distribution device 100.
  • the communication unit 220 transmits a content request signal to the distribution device 100, and receives a video signal, an audio signal, and a tactile signal from the distribution device 100.
  • the information communicated by the communication unit 220 and the case of communication are not limited to these.
  • the input unit 230 is configured to receive input by the user.
  • the input unit 230 includes input devices such as a mouse, keyboard, touch panel, buttons, switches, or microphones, and the user can request content or change the playback speed of the content by using these input devices. It is possible to perform input operations for such purposes.
  • the input device included in the input unit 230 is not limited to these.
  • the output unit 240 is configured to perform various outputs by being controlled by the control unit 210.
  • the video output unit 241 is a video output device such as a display capable of outputting video
  • the audio output unit 242 is an audio output device such as a speaker capable of outputting audio
  • the tactile output unit 243 is.
  • a tactile output device such as a vibration actuator capable of outputting a vibration stimulus.
  • various outputs are performed using signals (video signal, audio signal, and tactile signal) provided by the control unit 210.
  • the output device included in each configuration of the output unit 240 is not limited to the above.
  • the tactile stimulus is not necessarily limited to the vibration stimulus, and it goes without saying that the type of the tactile output unit 243 changes according to the tactile stimulus to be provided.
  • the storage unit 250 has a configuration for storing various types of information.
  • the storage unit 250 stores various signals and the like processed by the control unit 210, and stores programs and parameters used by each configuration of the reproduction device 200.
  • the information stored in the storage unit 250 is not limited to these.
  • the configuration example of the playback device 200 has been described above.
  • the above configuration described with reference to FIG. 3 is merely an example, and the configuration of the reproduction device 200 is not limited to such an example.
  • the reproduction device 200 may not necessarily include all of the configurations shown in FIG. 3, or may include configurations not shown in FIG.
  • the configuration of the reproduction device 200 can be flexibly modified according to the specifications and operation.
  • the communication unit 220 of the reproduction device 200 is a tactile signal generated by the distribution device 100 based on the reproduction speed. Is received, and the tactile output unit 243 outputs a tactile stimulus using the tactile signal.
  • the tactile control unit 214 changes the tactile signal (the signal used to provide the tactile stimulus to the user) based on the playback speed of the content (note that changing the tactile signal causes the tactile signal to be changed. Note that it is equivalent to generating). Specifically, the tactile control unit 214 changes the tactile signal provided by the distribution device 100 based on the change in the reproduction speed of the content. For example, the tactile control unit 214 changes the tactile signal so as to change the reproduction period of the tactile signal based on the change in the reproduction speed of the content.
  • FIG. 4 shows tactile signals for each of the cases where the content is reproduced at 1.0 times speed, 0.8 times speed, and 1.2 times speed.
  • the tactile control unit 214 extends or shortens the reproduction period of the tactile signal by expanding or compressing the tactile signal so as to change the frequency of the tactile signal based on the change in the reproduction speed. May be good.
  • the tactile control unit 214 extends the tactile signal so that the frequency of the tactile signal is lower than that when the reproduction speed is 1.0 times. Therefore, the reproduction period of the tactile signal may be extended.
  • the tactile control unit 214 compresses the tactile signal so that the frequency of the tactile signal is higher than that when the reproduction speed is 1.0 times speed. The reproduction period of the tactile signal may be shortened.
  • the tactile control unit 214 expands or compresses the tactile signal so as to change the frequency of the tactile signal based on the change in the reproduction speed.
  • the process of expanding or compressing the tactile signal so as to change the frequency of the tactile signal can be realized with a lower load than the process of changing the tactile signal so as to maintain the frequency of the tactile signal, which will be described below. is there.
  • FIG. 5 shows tactile signals for each of the cases where the content is reproduced at 1x speed and 0.5x speed, and the tactile control unit 214 has the tactile control unit 214 as shown in FIG.
  • the reproduction period of the tactile signal may be extended or shortened by changing the tactile signal so as to maintain the frequency of the tactile signal based on the change in the reproduction speed of the content.
  • the tactile control unit 214 maintains the frequency of the tactile signal based on the rate of change.
  • the reproduction period of the tactile signal may be extended or shortened.
  • the tactile control unit 214 can change the tactile signal so as to maintain the frequency of the tactile signal by performing the same processing as the speech speed conversion process performed by the voice control unit 213.
  • the speech speed conversion process does not necessarily have to be used.
  • the tactile control unit 214 can provide the user with a tactile stimulus that does not give a sense of discomfort.
  • the tactile control unit 214 can provide a more accurate tactile stimulus (as intended by the producer).
  • the tactile control unit 214 may omit the reproduction of the tactile signal based on the reproduction speed of the content, or may reproduce the tactile signal without changing it.
  • FIG. 6 shows a specific example of a tactile signal reproduction mode based on the content reproduction speed. For example, when the playback speed of the content is within a predetermined range (for example, within the range of 0.5 times speed to 4.0 times speed), the playback speed of the content is changed while the playback period of the tactile signal is changed as described above. If is slower than a predetermined value (for example, 0.5 times speed), if the reproduction period of the tactile signal is extended as described above, the user may feel discomfort (or discomfort) due to the reproduction period being too long. is there.
  • a predetermined range for example, within the range of 0.5 times speed to 4.0 times speed
  • the tactile control unit 214 may omit the reproduction of the tactile signal as shown in FIG.
  • the reproduction of the tactile signal may be omitted in the case where the reproduction speed of the content is faster than the predetermined value.
  • the tactile control unit 214 may reproduce the original tactile signal as it is, as shown in FIG. Although not shown in FIG. 6, even when the reproduction speed of the content is slower than a predetermined value, the content may be reproduced without changing the tactile signal.
  • a predetermined value for example, 4.0 times speed
  • the reproduction mode of the tactile signal based on the reproduction speed of the content is not necessarily limited to the example of FIG.
  • the tactile control unit 214 may thin out the tactile signal as appropriate. Good.
  • the reproduction portion of the tactile signal may be limited to a characteristic portion.
  • a method for extracting characteristic parts for example, a place where the signal volume exceeds a certain value, a place where the signal strength per hour exceeds a certain value, and the like can be considered.
  • the playback speed is 4x, one place for an 8-second scene, if the playback speed is 8x, one place for a 16-second scene, and so on, depending on the playback speed. It may be extracted by limiting the number of reproduction points per hour.
  • the reproduction period of one tactile signal is set to a certain value or less, the reproduction is not performed for the time after that, or the reproduction of the overlapping tactile signal on the rear side is omitted. available.
  • the time interval between two tactile (vibration) stimuli is a constant value (for example, about 10 [ms] when the vibration stimulus is strong, and about 50 [ms] when the vibration stimulus is weak. ), It is known that two stimuli are connected and feel as one.
  • the two tactile signals are similarly used. Processing such as not reproducing the first signal, or cutting the first signal into short pieces and reproducing the second signal after a certain time interval is effective.
  • the tactile signal is reproduced and the sound is reproduced under the condition that the sound is reproduced according to the reproduction of the video (when the reproduction speed is close to 1.0 times speed, etc.). If it is not reproduced, it is conceivable that the tactile signal is not reproduced. On the contrary, even under the condition that the sound is not reproduced, the tactile signal may be reproduced for the purpose of assisting the understanding of the scene change of the content.
  • an algorithm that automatically generates a tactile signal from the voice output from a terminal is known and is used commercially.
  • the algorithm is used for reproducing the tactile signal. It can be a processing feature that it operates even when the signal is not reproduced.
  • FIG. 7 is a flowchart showing an example of a processing flow of each configuration according to the present embodiment.
  • step S1000 the user inputs, for example, through the input unit 230 of the playback device 200.
  • step S1004 the speed determination unit 211 determines the playback speed of the content based on the input. If there is no input by the user, steps S1000 and S1004 are omitted.
  • step S1008 / No If the rate of change in the content playback speed is not greater than a predetermined value (for example, about 30 [%]) (step S1008 / No), there is a high possibility that the change in the tactile stimulus due to the change in frequency will not be perceived, so step S1012 is performed. Therefore, the tactile control unit 214 extends (or shortens) the reproduction period of the tactile signal by extending (or compressing) the tactile signal so as to change the frequency of the tactile signal based on the rate of change of the reproduction speed. As shown in FIG. 4, the tactile signal is extended when the reproduction speed is slow, and the tactile signal is compressed when the reproduction speed is high.
  • a predetermined value for example, about 30 [%]
  • step S1008 / Yes When the rate of change in the content playback speed is greater than a predetermined value (for example, about 30 [%]) (step S1008 / Yes), there is a high possibility that a change in the tactile stimulus due to a change in frequency will be perceived, so step S1016 is performed. Therefore, the tactile control unit 214 extends (or shortens) the reproduction period of the tactile signal by changing the tactile signal so as to maintain the frequency of the tactile signal based on the rate of change of the reproduction speed.
  • a predetermined value for example, about 30 [%]
  • step S1020 the tactile output unit 243 outputs a vibration stimulus using the tactile signal provided by the tactile control unit 214.
  • step S1024 / Yes a series of processes is finished.
  • step S1024 / No the processing of steps S1000 to S1020 is continued.
  • the information processing system 1 can more appropriately provide the vibration stimulus based on the reproduction speed of the content. Specifically, when the rate of change in the reproduction speed is so small that the change in the tactile stimulus due to the change in frequency is not perceived, the information processing system 1 expands or compresses the tactile signal so as to change the frequency. It is possible to provide the user with a vibration stimulus that does not give a sense of discomfort while reducing the processing load.
  • the information processing system 1 extends or shortens the reproduction period of the tactile signal so as to maintain the frequency. As a result, it is possible to provide the user with a more accurate vibration stimulus (as the creator intended) without discomfort.
  • each step in the flowchart described with reference to FIG. 7 does not necessarily have to be processed in chronological order in the order described. That is, each step in the flowchart may be processed in an order different from the described order or may be processed in parallel (the same applies to the flowchart in the subsequent stage).
  • the output range may be limited due to the characteristics of the tactile output unit 243 that outputs the tactile stimulus.
  • the frequency band that can be output is narrower than that of a speaker that outputs sound, and for VCM (Voice Coil Motor), it is about 80 to 500 [Hz], and LRA (Linear Resonant Actuator). ) Is about 100 ⁇ 5 [Hz].
  • the output intensity may change due to changes in frequency.
  • the output acceleration may change for the same voltage input due to a change in frequency.
  • FIG. 8 is a diagram showing an example of the frequency characteristics of the vibration actuator.
  • the acceleration takes the maximum value (1 A [m / s 2 ]) when the frequency is 100 [Hz], and the acceleration is 1/3 (1/3) of the maximum value when the frequency is 90 [Hz]. It decreases to 1/3 ⁇ A [m / s 2 ]). Then, when the frequency is 80 [Hz] or less, the acceleration becomes 0 [m / s 2 ].
  • the frequency band that can be output by the tactile output unit 243 is limited by its characteristics, and the acceleration output to the input of the same voltage also changes depending on the frequency change. Therefore, as shown in FIG. 4, when the tactile signal is expanded or compressed so as to change the frequency of the tactile signal based on the change in the reproduction speed, it is output to the input of the same voltage due to the change in frequency.
  • the acceleration may change, or the vibration stimulus may not be output.
  • the tactile control unit 214 of the reproduction device 200 may change the tactile signal based on the characteristics of the tactile output unit 243 (which outputs the tactile stimulus).
  • FIG. 9 shows tactile signals for each of the cases where the content is reproduced at 1.0 times speed, 0.9 times speed, and 0.8 times speed.
  • the tactile control unit 214 changes the amplitude of the tactile signal so as to maintain the output intensity of the tactile stimulus before and after the change in the reproduction speed while extending the tactile signal (the amplitude of the tactile signal is changed). Change it three times). As a result, the tactile control unit 214 can maintain the intensity of the tactile stimulus felt by the user before and after the change in the reproduction speed.
  • the tactile control unit 214 changes the reproduction speed.
  • the rate of change in frequency before and after may be limited. Specifically, as shown in FIG. 9, the tactile control unit 214 limits the rate of change of the frequency before and after the change of the reproduction speed to 0.9 (that is, the lower limit of the frequency is set to 0.9 times the speed). When the reproduction speed changes so that the frequency becomes 90 [Hz] or less (as the frequency 90 [Hz]), the tactile signal is extended so as to maintain 90 [Hz]. For example, the tactile control unit 214 can extend the tactile signal so as to maintain the frequency of the tactile signal at 90 [Hz] by performing the same processing as the speech speed conversion process performed by the voice control unit 213 ( The speech speed conversion process does not necessarily have to be used).
  • the tactile control unit 214 changes the amplitude of the tactile signal three times as in the case of 0.9 times speed.
  • the tactile control unit 214 can appropriately output the tactile stimulus even when the rate of change in the reproduction speed is so large that it is out of the output range of the tactile output unit 243.
  • the tactile control unit 214 when the user feels the tactile stimulus more strongly as the frequency of the tactile stimulus decreases (when the frequency of the tactile stimulus and the perceptual intensity have a non-linear relationship), the tactile control unit 214 , The tactile signal may be changed based on the perceptual characteristics of the user. As a result, the tactile control unit 214 can maintain the intensity of the tactile stimulus perceived by the user before and after the change in the reproduction speed with higher accuracy.
  • the mode of providing the tactile stimulus in the modified example has been described, and the mode of providing the video and audio in the modified example may be the same as that described in the above embodiment.
  • the voice control unit 213 may change the playback period before and after the change in the playback speed while maintaining the quality and pitch of the voice by the speech speed conversion process, or may not maintain the quality and pitch of the voice. You may.
  • FIG. 10 is a flowchart showing a processing flow example of each configuration according to the modified example.
  • the user inputs, for example, via the input unit 230 of the playback device 200.
  • the speed determination unit 211 determines the content reproduction speed based on the input. If there is no input by the user, steps S1100 and S1104 are omitted.
  • step S1108 / No When the rate of change of the content reproduction speed is not larger than the predetermined value (for example, about 30 [%]) (step S1108 / No), and when the acceleration is not smaller than the predetermined value (that is, the output intensity of the tactile stimulus is predetermined). When it is not weaker than the value.
  • step S1112 / No in step S1116, the tactile control unit 214 extends (or compresses) the tactile signal so as to change the frequency of the tactile signal based on the rate of change of the reproduction speed. The amplitude of the tactile signal is amplified (or attenuated) based on the frequency characteristic of the tactile output unit 243. That is, the tactile control unit 214 performs the processing at 0.9 times speed shown in FIG.
  • step S1112 when the acceleration is smaller than the predetermined value (that is, when the output intensity of the tactile stimulus is weaker than the predetermined value.
  • step S1112 / Yes) in step S1120, the tactile control unit 214 changes the reproduction speed.
  • the tactile signal is expanded (or compressed) while limiting the rate of change in frequency based on the frequency characteristics of the tactile output unit 243, and the amplitude of the tactile signal is amplified (or attenuated). That is, the tactile control unit 214 performs the processing at 0.8 times speed shown in FIG.
  • step S1108 when the rate of change in the content reproduction speed is greater than a predetermined value (for example, about 30 [%]) (step S1108 / Yes), there is a high possibility that a change in tactile stimulus due to a change in frequency is perceived. Therefore, in step S1124, the tactile control unit 214 extends (or shortens) the reproduction period of the tactile signal by changing the tactile signal so as to maintain the frequency of the tactile signal based on the rate of change of the reproduction speed. ..
  • a predetermined value for example, about 30 [%]
  • step S1128 the tactile output unit 243 outputs a vibration stimulus using the tactile signal provided by the tactile control unit 214.
  • step S1132 / Yes a series of processes is finished.
  • step S1132 / No the processes of steps S1100 to S1128 are continued.
  • the processing of the flowchart shown in FIG. 10 is repeated for each predetermined unit (for example, for each frame).
  • the information processing system 1 according to the modified example can more appropriately provide the vibration stimulus based on the characteristics of the tactile output unit 243. It should be noted that the technical matters described in the above embodiments can be applied to the modified examples.
  • the speed of scene change by operating the user interface used to control the playback scene of the content may be treated as the playback speed. Therefore, as an example, a specific example in which the playback speed is changed by moving the knob on the seek bar will be described below.
  • FIG. 11 is a diagram for explaining a specific example of the image 10 displayed when the playback speed is changed by moving the knob on the seek bar.
  • Video 10 of FIG. 11 shows a scene in which a baseball player swings a bat to hit a ball. Then, in the lower part of the image 10, a seek bar 20 used for controlling a reproduction scene, a knob 21, and a marker 22 indicating a scene in which a tactile stimulus is provided are displayed.
  • the user can change the playback scene by moving the position of the knob 21 on the seek bar 20 using the input unit 230 of the playback device 200. Then, a tactile stimulus is provided when the position of the knob 21 reaches the marker 22. By displaying the marker 22 indicating the scene where the tactile stimulus is provided in this way, the user can use the marker 22 as a guide when searching for a desired scene.
  • the tactile control unit 214 of the reproduction device 200 treats, for example, the movement speed of the knob 21 (the speed of scene change) in the seek bar 20 as the reproduction speed (not necessarily limited to the movement speed of the knob 21). That is, the tactile control unit 214 changes the tactile signal so as to change the reproduction period of the tactile signal based on the change in the moving speed of the knob 21. At that time, the tactile control unit 214 may change the tactile signal so as to change the frequency of the tactile signal, or may change the tactile signal so as to maintain the frequency of the tactile signal. Further, the tactile control unit 214 may change the tactile signal based on the characteristics of the tactile output unit 243 as in the modified example.
  • the tactile signal of the original content may be reproduced while maintaining the frequency and the reproduction period regardless of the moving speed of the knob.
  • the tactile signal is reproduced when the knob reaches the marker.
  • the tactile signal to which the marker is attached and reproduced when the knob is moved may be limited to a characteristic part from the tactile signals given to the content in general.
  • a method for extracting characteristic parts for example, a place where the signal volume exceeds a certain value, a place where the signal strength per hour exceeds a certain value, and the like can be considered.
  • it may be extracted by limiting the number of playback points per hour, such as "one place for a scene of 5 seconds" according to the moving speed of the knob.
  • the position of the marker 22 is shown in FIG. 11, it is possible to take a method in which the marker is not shown at the location extracted as a characteristic location.
  • the knob 21 can be operated at a specific location (for example, a scene where the ball hits the bat) according to the operation of the knob 21 by the user (for example, movement in the left direction).
  • the tactile stimulus is presented to the user's finger, which has the effect of making it easier for the user to search the scene and to understand the change in the scene.
  • the time interval between two tactile (vibration) stimuli is a constant value (for example, about 10 [ms] when the vibration stimulus is strong, and about 50 [ms] when the vibration stimulus is weak. ), It is known that two stimuli are connected and feel as one.
  • the time interval between the two tactile signals (the end of the first tactile signal and the beginning of the second tactile signal). If is within a certain period, the second signal is not reproduced, or the first signal is cut short and the second signal is reproduced after a certain time interval. It becomes valid.
  • the tactile signal is reproduced and the audio is reproduced under the condition that the audio is reproduced according to the reproduction of the video (when the moving speed of the seek bar is close to 1.0 times speed, etc.). If the tactile signal is not reproduced, the tactile signal may not be reproduced. On the contrary, even under the condition that the sound is not reproduced, the tactile signal may be reproduced for the purpose of assisting the understanding of the scene change of the content described above.
  • an algorithm that automatically generates a tactile signal from the voice output from a terminal is known and is commercially used.
  • the algorithm is used for reproducing the tactile signal. It can be a processing feature that it operates even when the signal is not reproduced.
  • the user interface used to control the playback scene of the content is not necessarily limited to the seek bar 20.
  • FIG. 12 is a block diagram showing a hardware configuration example of the information processing device 900 that realizes the reproduction device 200 (or the distribution device 100) according to the present embodiment and the modified example.
  • Information processing by the playback device 200 (or distribution device 100) according to the present embodiment and the modified example is realized by the cooperation between the software and the hardware described below.
  • the information processing device 900 includes a CPU (Central Processing Unit) 901, a ROM (Read Only Memory) 902, a RAM (Random Access Memory) 903, and a host bus 904a. Further, the information processing device 900 includes a bridge 904, an external bus 904b, an interface 905, an input device 906, an output device 907, a storage device 908, a drive 909, a connection port 911, and a communication device 913.
  • the information processing device 900 may have a processing circuit such as a DSP or an ASIC in place of or in combination with the CPU 901.
  • the CPU 901 functions as an arithmetic processing device and a control device, and controls the overall operation in the information processing device 900 according to various programs. Further, the CPU 901 may be a microprocessor.
  • the ROM 902 stores programs, calculation parameters, and the like used by the CPU 901.
  • the RAM 903 temporarily stores a program used in the execution of the CPU 901, parameters that change appropriately in the execution, and the like.
  • the CPU 901 can realize the control unit 210 of the reproduction device 200 (or the control unit 110 of the distribution device 100).
  • the CPU 901, ROM 902 and RAM 903 are connected to each other by a host bus 904a including a CPU bus and the like.
  • the host bus 904a is connected to an external bus 904b such as a PCI (Peripheral Component Interconnect / Interface) bus via a bridge 904. It is not always necessary to separately configure the host bus 904a, the bridge 904, and the external bus 904b, and these functions may be implemented in one bus.
  • PCI Peripheral Component Interconnect / Interface
  • the input device 906 is realized by a device such as a mouse, a keyboard, a touch panel, a button, a microphone, a switch, and a lever, in which information is input by a user. Further, the input device 906 may be, for example, a remote control device using infrared rays or other radio waves, or an externally connected device such as a mobile phone or a PDA that supports the operation of the information processing device 900. .. Further, the input device 906 may include, for example, an input control circuit that generates an input signal based on the information input by the user using the above input means and outputs the input signal to the CPU 901. By operating the input device 906, the user can input various data to the information processing device 900 and instruct the processing operation. The input device 906 can realize the input unit 230 of the reproduction device 200.
  • the output device 907 is formed of a device capable of visually, audibly, or tactilely notifying the user of the acquired information. Examples of such devices include video output devices such as CRT display devices, liquid crystal display devices, plasma display devices, and EL display devices, audio output devices such as speakers and headphones, and tactile output devices such as vibration actuators. ..
  • the output device 907 outputs, for example, the results obtained by various processes performed by the information processing device 900.
  • the output device 907 can realize the output unit 240 of the reproduction device 200.
  • the storage device 908 is a data storage device formed as an example of a storage unit that can be provided in the information processing device 900.
  • the storage device 908 is realized by, for example, a magnetic storage device such as an HDD, a semiconductor storage device, an optical storage device, an optical magnetic storage device, or the like.
  • the storage device 908 may include a storage medium, a recording device that records data on the storage medium, a reading device that reads data from the storage medium, a deletion device that deletes the data recorded on the storage medium, and the like.
  • the storage device 908 stores programs executed by the CPU 901, various data, various data acquired from the outside, and the like.
  • the storage device 908 can realize the storage unit 250 (or the storage unit 130 of the distribution device 100) of the reproduction device 200.
  • the drive 909 is a reader / writer for a storage medium, and is built in or externally attached to the information processing device 900.
  • the drive 909 reads information recorded on a removable storage medium such as a mounted magnetic disk, optical disk, magneto-optical disk, or semiconductor memory, and outputs the information to the RAM 903.
  • the drive 909 can also write information to the removable storage medium.
  • connection port 911 is an interface connected to an external device, and is a connection port with an external device capable of transmitting data by, for example, USB (Universal Serial Bus) or the like.
  • USB Universal Serial Bus
  • the communication device 913 is, for example, a communication interface formed by a communication device or the like for connecting to the network 920.
  • the communication device 913 is, for example, a communication card for a wired or wireless LAN (Local Area Network), LTE (Long Term Evolution), Bluetooth (registered trademark), WUSB (Wireless USB), or the like.
  • the communication device 913 may be a router for optical communication, a router for ADSL (Asymmetric Digital Subscriber Line), a modem for various communications, or the like.
  • the communication device 913 can transmit and receive signals and the like to and from the Internet and other communication devices in accordance with a predetermined protocol such as TCP / IP.
  • the communication device 913 can realize the communication unit 220 of the reproduction device 200 (or the communication unit 120 of the distribution device 100).
  • the network 920 is a wired or wireless transmission path for information transmitted from a device connected to the network 920.
  • the network 920 may include a public network such as the Internet, a telephone line network, a satellite communication network, various LANs (Local Area Network) including Ethernet (registered trademark), a WAN (Wide Area Network), and the like.
  • the network 920 may include a dedicated line network such as IP-VPN (Internet Protocol-Virtual Private Network).
  • the hardware configuration example capable of realizing the functions of the information processing device 900 according to the present embodiment has been shown above.
  • Each of the above components may be realized by using a general-purpose member, or may be realized by hardware specialized for the function of each component. Therefore, it is possible to appropriately change the hardware configuration to be used according to the technical level at each time when the present embodiment is implemented.
  • the above computer program may be distributed via a network, for example, without using a recording medium.
  • the information processing device generates a tactile signal used to provide the user with a tactile stimulus corresponding to the content based on the reproduction speed of the content provided to the user. Specifically, the information processing device according to the present disclosure changes the tactile signal based on the change in the reproduction speed of the content. For example, the information processing device according to the present disclosure changes the tactile signal so as to change the reproduction period of the tactile signal based on the change in the reproduction speed of the content.
  • the information processing device can more appropriately provide the tactile stimulus based on the reproduction speed of the content. Since the human sense of the frequency change of the tactile stimulus is relatively insensitive, the information processing apparatus according to the present disclosure provides a tactile stimulus that does not cause discomfort even if the tactile signal is changed so as to change the reproduction period of the tactile signal. Can be provided to. At this time, the information processing device according to the present disclosure can change the tactile signal in various modes such as changing the tactile signal so as to change the frequency and changing the tactile signal so as to maintain the frequency. ..
  • a tactile control unit that generates a signal used to provide the user with a tactile stimulus corresponding to the content based on the playback speed of the content provided to the user.
  • Information processing device (2) The tactile control unit changes the signal based on the change in the reproduction speed. The information processing device according to (1) above. (3) The tactile control unit changes the signal so as to change the reproduction period of the signal based on the change in the reproduction speed. The information processing device according to (2) above. (4) The tactile control unit expands or compresses the signal so as to change the frequency of the signal based on the change in the reproduction speed. The information processing device according to (3) above.
  • the tactile control unit changes the signal so as to maintain the frequency of the signal based on the change in the reproduction speed.
  • the tactile control unit changes the signal so as to maintain the frequency of the signal based on the rate of change.
  • the tactile control unit changes the signal based on the characteristics of the tactile output unit that outputs the tactile stimulus.
  • the tactile control unit changes the amplitude of the signal so as to maintain the output intensity of the tactile stimulus before and after the change in the reproduction speed.
  • the tactile control unit limits the rate of change of the frequency before and after the change of the reproduction speed.
  • the information processing device according to (8) above.
  • the playback speed is determined based on the input by the user.
  • the information processing device according to any one of (1) to (9) above.
  • the tactile stimulus includes at least one of vibration stimulus, electrical stimulus, temperature change stimulus, force sensation stimulus, and skin sensation stimulus.
  • the information processing device according to any one of (1) to (10). (12) It comprises generating a signal used to provide the user with a tactile stimulus corresponding to the content based on the playback speed of the content provided to the user. An information processing method performed by a computer.
  • Control unit 111 Video control unit 112 Voice control unit 113 Tactile control unit 120 Communication unit 130 Storage unit 200 Playback device 210 Control unit 211 Speed determination unit 212 Video control unit 213 Voice control unit 214 Tactile control unit 220 Communication unit 230 Input unit 240 Output unit 241 Video output unit 242 Audio output unit 243 Tactile output unit 250 Storage unit

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

コンテンツの再生速度に基づいて触覚刺激をより適切に提供することを可能にする。ユーザに提供されるコンテンツの再生速度に基づいて、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を生成する触覚制御部を備える、情報処理装置が提供される。

Description

情報処理装置、情報処理方法、及びプログラム
 本開示は、情報処理装置、情報処理方法、及びプログラムに関する。
 近年、振動刺激等の触覚刺激をユーザに提供することができる様々なコンテンツ及び装置が開発されている。例えば、以下の特許文献1には、振動刺激を用いて、機能及び操作性等の向上を図ることのできる情報処理装置が開示されている。
特開2018-64264号公報
 しかし、特許文献1等に開示の技術によっては、コンテンツの再生速度に基づいて触覚刺激を適切に提供することができない場合があった。例えば、コンテンツの再生速度を標準よりもはるかに遅くする場合(再生速度を所定値よりも遅くする場合。以降、「スーパースロー再生」と呼称する場合もある)において、単純に触覚刺激の再生速度も遅くすると、触覚刺激に対してユーザが違和感を覚え臨場感が損なわれる可能性がある。一方、コンテンツのスーパースロー再生が行われる間、触覚刺激の提供を省略すると、やはり臨場感が損なわれる可能性がある(なお、上記の課題はあくまで一例であり、本開示に係る課題はこれらに限定されない)。
 そこで、本開示は、上記事情に鑑みてなされたものであり、コンテンツの再生速度に基づいて触覚刺激をより適切に提供することが可能な、新規かつ改良された情報処理装置、情報処理方法、及びプログラムを提供する。
 本開示によれば、ユーザに提供されるコンテンツの再生速度に基づいて、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を生成する触覚制御部を備える、情報処理装置が提供される。
 また、本開示によれば、ユーザに提供されるコンテンツの再生速度に基づいて、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を生成することを有する、コンピュータにより実行される情報処理方法が提供される。
 また、本開示によれば、ユーザに提供されるコンテンツの再生速度に基づいて、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を生成すること、をコンピュータに実現させるためのプログラムが提供される。
 また、本開示によれば、ユーザに提供されるコンテンツの再生速度に基づいて生成され、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を受信する通信部と、前記信号を用いて前記触覚刺激を出力する触覚出力部と、を備える、情報処理装置が提供される。
本実施形態に係る情報処理システムの構成例を示すブロック図である。 本実施形態に係る配信装置の構成例を示すブロック図である。 本実施形態に係る再生装置の構成例を示すブロック図である。 コンテンツの再生速度の変化に基づいて触覚信号の再生期間を変化させる処理の具体例について説明するための図である。 コンテンツの再生速度の変化に基づいて触覚信号の再生期間を変化させる処理の具体例について説明するための図である。 コンテンツの再生速度に基づく触覚信号の再生態様の具体例について説明するための図である。 本実施形態に係る各構成の処理フロー例を示すフローチャートである。 振動アクチュエータの周波数特性の一例を示す図である。 変形例において、コンテンツの再生速度の変化に基づいて触覚信号の再生期間を変化させる処理の具体例について説明するための図である。 変形例に係る各構成の処理フロー例を示すフローチャートである。 シークバーにより再生速度が変更される場合において表示される映像の具体例について説明するための図である。 本実施形態及び変形例に係る各装置のハードウェア構成例を示すブロック図である。
 以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
 なお、説明は以下の順序で行うものとする。
 1.概要
 2.実施形態
  2.1.構成例
  2.2.触覚制御部による制御例
  2.3.処理フロー例
 3.変形例
 4.備考
 5.ハードウェア構成例
 6.むすび
  <1.概要>
 まず、本開示の概要について説明する。
 上記のとおり、近年、振動刺激等の触覚刺激をユーザに提供することができる様々な装置が開発されており、触覚刺激は、映像や音声と共に(メディア)コンテンツの要素としてより広く提供されるようになる可能性がある。
 コンテンツについては、既に、様々な表現とそれに対応する再生技術が開発されている。具体的には、コンテンツの再生速度を速める、又は遅らせる場合におけるコンテンツの様々な表現手法が開発されている。例えば、映像の再生速度を標準よりもはるかに遅くすることによって肉眼ではとらえにくい速い動きを認識可能にする技術が開発されており、当該技術は、例えばスポーツ中継等で用いられている。逆に、映像の再生速度を標準よりもはるかに速くする技術も開発されており、コンテンツにおける所望の場面を探索すること等に用いられている。
 映像の再生速度が変更される場合における音声の表現手法について言及すると、音声も映像の再生速度に対応するように再生速度が変更される場合、ユーザの耳には実際の音声よりも低く又は高く音声が聞こえてしまう。そのため、映像の再生速度が変更される間には音声の再生を省略したり別の音声に置換したりする手法がとられる場合がある。もちろん、これらの表現手法に限定されず、様々な表現手法が開発され実現されている。
 一方で、映像の再生速度が変更される場合における触覚刺激の表現手法についても、音声と同様に様々な表現手法が開発されているが、従来技術(例えば、上記の特許文献1等に開示の技術)によっては、コンテンツの再生速度に基づいて触覚刺激を適切に提供することができない場合があった。例えば、映像のスーパースロー再生が行われる場合において、単純に触覚刺激の再生速度も遅くすると、触覚刺激に対してユーザが違和感を覚え臨場感が損なわれる可能性がある。具体的には、周波数が160[Hz]の振動刺激が1/8倍速で再生される場合、振動刺激の周波数が20[Hz]に変化することにより、ユーザが大きな違和感を受けてしまう可能性がある。また、再生速度の変化後の周波数が、振動刺激を出力する装置(例えば、振動アクチュエータ等)の出力可能な範囲から外れることで、振動刺激が出力されない場合もある。一方、映像のスーパースロー再生が行われる間、触覚刺激の提供を省略すると、やはり臨場感が損なわれる可能性がある。これらの課題は、コンテンツの再生速度がより速く変更される場合についても同様に当てはまる。
 ここで、人間の触覚刺激に対する感覚特性と、音声に対する感覚特性とは互いに異なる。例えば、人間の感覚は、音声よりも触覚刺激の方が周波数変化に鈍感である。具体的には、音声の周波数の変化率が1[%]以下であっても、人間はその変化を知覚する可能性が高い一方で、振動刺激(触覚刺激の一例である)の周波数の変化率が30[%]以下であれば、人間はその変化を知覚しない可能性が高いことが知られている。
 本件の開示者は、上記事情に鑑みて本開示に係る技術を創作するに至った。本開示に係る情報処理装置は、ユーザに提供されるコンテンツの再生速度に基づいて、コンテンツに対応する触覚刺激をユーザに提供することに用いられる信号を生成する。具体的には、本開示に係る情報処理装置は、コンテンツの再生速度の変化に基づいて当該信号を変化させる。例えば、本開示に係る情報処理装置は、コンテンツの再生速度の変化に基づいて当該信号の再生期間を変化させるように信号を変化させる。
 これにより、本開示に係る情報処理装置は、コンテンツの再生速度に基づいて触覚刺激をより適切に提供することができる。具体的に説明すると、上記のとおり、触覚刺激の周波数変化に対する人間の感覚は比較的鈍感であるため、本開示に係る情報処理装置は、触覚刺激をユーザに提供することに用いられる信号の再生期間を変化させるように当該信号を変化させても違和感のない触覚刺激をユーザに提供することができる。以降では、本開示に係る情報処理装置の機能及び処理について詳細に説明していく。
  <2.実施形態>
 (2.1.構成例)
 上記では、本開示の概要について説明した。続いて、本開示の一実施形態に係る種々の構成例について説明する。
 (情報処理システムの構成例)
 図1は、本実施形態に係る情報処理システム1の構成例を示すブロック図である。図1に示すように、本実施形態に係る情報処理システム1は、配信装置100と、再生装置200と、を備える。
 配信装置100は、再生装置200に対してコンテンツを配信する情報処理装置である。例えば、配信装置100は、再生装置200から受信する要求信号(リクエスト)に基づいて再生装置200に対してコンテンツを配信する。なお、配信態様は必ずしもこれに限定されない。例えば、配信装置100は、再生装置200からの要求信号なしにコンテンツを配信してもよい。
 ここで、「コンテンツ」は、少なくとも触覚刺激を含むものであればよく、触覚刺激の他に例えば映像、又は音声を含むものであってもよい。本実施形態では、コンテンツが映像、音声、及び触覚刺激を含むものである場合を一例として説明する。すなわち、配信装置100は、映像、音声、及び触覚刺激の出力に用いられる、所定フォーマットの信号を生成し、当該信号を再生装置200へ送信する。なお、配信装置100による信号の生成方法や配信方法は特に限定されない。以降では、映像の出力に用いられる信号を「映像信号」、音声の出力に用いられる信号を「音声信号」、触覚刺激の出力に用いられる信号を「触覚信号」とも呼称する。
 また、「触覚刺激」とは、振動刺激、電気刺激、温度変化による刺激、力覚に関する刺激(例えば、物体に押される感覚の刺激、物体と接触した感覚の刺激、又は締め付けられる感覚の刺激等)、及び皮膚感覚に関する刺激(例えば、ざらざらした感覚の刺激、又はつるつるした感覚の刺激等)のうちの少なくともいずれか1つを含み、これらが組み合わされたものであってもよい。なお、触覚刺激は、必ずしもこれらに限定されず、ユーザの触覚に対して作用する刺激であればよい。本実施形態では、主として触覚刺激が振動刺激である場合を一例として説明する。
 配信装置100は、必ずしも一台で実現されなくてもよい。例えば、コンテンツが野球等のスポーツ中継である場合、配信装置100は、野球場に配置され撮影を行うビデオカメラ、ビデオカメラの映像を編集する装置、編集後の映像を配信する装置等により実現されてもよく、それぞれの装置の台数も特に限定されない。
 一方、再生装置200は、配信装置100から受信した各種信号を用いてコンテンツを再生する情報処理装置である。再生装置200は、少なくとも触覚刺激を提供可能なものであればよく、例えば、スマートフォン、タブレットPC(Personal Computer)、又はヘッドマウントディスプレイ等であってもよい。本実施形態では、再生装置200がスマートフォンである場合を一例として説明する。すなわち、再生装置200は、配信装置100から受信した触覚信号を用いて振動アクチュエータ等を振動させることで振動刺激を出力し、映像信号を用いてディスプレイ等に映像を表示し、音声信号を用いてスピーカ等から音声を出力する。
 再生装置200も、配信装置100と同様に、必ずしも一台で実現されなくてもよい。例えば、再生装置200は、触覚刺激を出力可能な装置、映像を出力可能な装置、及び音声を出力可能な装置等により実現されてもよく、それぞれの装置の台数も特に限定されない。
 本実施形態に係る再生装置200は、コンテンツの再生速度の変更処理、及びそれに伴う各種制御を行う。例えば、再生装置200は、ユーザによる入力に基づいてコンテンツの再生速度を変化させる(換言すると、コンテンツの再生速度は、ユーザによる入力に基づいて決定される)。そして、再生装置200は、コンテンツの再生速度の変化に伴い、配信装置100から受信した各種信号を変化させることで出力を変化させる。ここで、「コンテンツの再生速度」とは、映像、音声、及び触覚刺激を含むコンテンツがユーザに提供される速度であり、ユーザが体感する速度、及び再生装置200による処理速度のいずれを指してもよい。コンテンツの再生速度の範囲は特に制限されるものではない。具体的には、0.125倍速程度のスーパースロー再生、0.5~0.9倍速程度の再生(「ゆっくり見再生」とも呼称される)、又は2.0~8.0倍速程度の再生(「早送り再生」とも呼称される)等を含めて様々な態様で再生が行われ得る。また、コンテンツの再生場面の制御に用いられるユーザインタフェースの操作(例えば、シークバーにおけるノブ(つまみ)の移動等)による場面転換の速度が再生速度として扱われてもよい(詳細については後述する)。なお、コンテンツの再生速度の変更処理、及びそれに伴う各種制御は、配信装置100により実現されてもよいし、配信装置100及び再生装置200の分散処理により実現されてもよい。
 また、図1に示した構成はあくまで一例であり、本実施形態に係る情報処理システム1の構成例は必ずしも図1の例に限定されない。例えば、配信装置100及び再生装置200以外の装置が別途備えられてもよい。
 (配信装置の構成例)
 図2は、本実施形態に係る配信装置100の構成例を示すブロック図である。図2に示すように、本実施形態に係る配信装置100は、制御部110と、通信部120と、記憶部130と、を備える。そして、制御部110は、映像制御部111と、音声制御部112と、触覚制御部113と、を備える。
 制御部110は、配信装置100が行う処理全般を統括的に制御する構成である。例えば、制御部110は、再生装置200からの要求信号に基づいて各構成(例えば、映像制御部111、音声制御部112、及び触覚制御部113等)の起動及び停止を制御する。なお、制御部110の制御内容は特に限定されない。例えば、制御部110は、各種サーバ、汎用コンピュータ、PC、又はタブレットPC等において一般的に行われる処理(例えば、OS(Operating System)に関する処理等)を制御してもよい。
 映像制御部111は、再生装置200により出力される映像の内容を制御する構成である。具体的には、映像制御部111は、再生装置200からの要求信号に基づいて映像信号を生成し、通信部120を介して映像信号を再生装置200へ送信する。なお、映像制御部111により提供される映像の内容は特に限定されない。例えば、映像制御部111により提供される映像は、再生装置200からの要求信号により特定される映像であってもよいし、再生装置200がヘッドマウントディスプレイ等のように位置及び姿勢が変化する情報処理装置である場合には再生装置200の位置及び姿勢により決まる映像であってもよい。また、映像制御部111により提供される映像は、右目用の映像、及び左目用の映像により構成されてもよい。また、映像信号は、音声信号及び触覚信号と併せてひとまとまりのデータとして提供されてもよいし、別々のデータとして提供されてもよい(いずれにせよ、映像、音声、及び触覚刺激は同期して提供されることが望ましい)。
 音声制御部112は、再生装置200により出力される音声の内容を制御する構成である。具体的には、音声制御部112は、再生装置200からの要求信号に基づいて音声信号を生成し、通信部120を介して音声信号を再生装置200へ送信する。なお、音声制御部112により提供される音声の内容は特に限定されない。例えば、音声制御部112により提供される音声は、再生装置200からの要求信号により特定される音声であってもよいし、再生装置200がヘッドマウントディスプレイ等である場合には再生装置200の位置及び姿勢により決まる音声であってもよい。また、音声制御部112により提供される音声は、右耳用の音声、及び左耳用の音声により構成されてもよい。
 触覚制御部113は、再生装置200により出力される触覚刺激(例えば、振動刺激等)の内容を制御する構成である。具体的には、触覚制御部113は、再生装置200からの要求信号に基づいて触覚信号を生成し、通信部120を介して触覚信号を再生装置200へ送信する。なお、触覚制御部113により提供される触覚刺激の内容は特に限定されない。例えば、触覚制御部113により提供される触覚刺激は、再生装置200からの要求信号により特定される触覚刺激であってもよいし、再生装置200がヘッドマウントディスプレイ等である場合には再生装置200の位置及び姿勢により決まる触覚刺激であってもよい。
 通信部120は、再生装置200と通信を行う構成である。例えば、通信部120は、コンテンツの要求信号を再生装置200から受信したり、映像信号、音声信号、及び触覚信号を再生装置200へ送信したりする。なお、通信部120が通信する情報、及び通信するケースはこれらに限定されない。
 記憶部130は、各種情報を記憶する構成である。例えば、記憶部130は、制御部110によって生成された各種信号等を記憶したり、配信装置100の各構成によって使用されるプログラムやパラメータ等を記憶したりする。なお、記憶部130が記憶する情報はこれらに限定されない。
 以上、配信装置100の構成例について説明した。なお、図2を用いて説明した上記の構成はあくまで一例であり、配信装置100の構成は係る例に限定されない。例えば、配信装置100は、図2に示す構成の全てを必ずしも備えなくてもよいし、図2に示していない構成を備えていてもよい。また、配信装置100の構成は、仕様や運用に応じて柔軟に変形可能である。
 (再生装置の構成例)
 図3は、本実施形態に係る再生装置200の構成例を示すブロック図である。図3に示すように、本実施形態に係る再生装置200は、制御部210と、通信部220と、入力部230と、出力部240と、記憶部250と、を備える。そして、制御部210は、速度決定部211と、映像制御部212と、音声制御部213と、触覚制御部214と、を備え、出力部240は、映像出力部241と、音声出力部242と、触覚出力部243と、を備える。
 制御部210は、再生装置200が行う処理全般を統括的に制御する構成である。例えば、制御部210は、配信装置100からの各種信号に基づいて各構成(例えば、速度決定部211、映像制御部212、音声制御部213、及び触覚制御部214等)の起動及び停止を制御する。なお、制御部210の制御内容は特に限定されない。例えば、制御部210は、各種サーバ、汎用コンピュータ、PC、又はタブレットPC等において一般的に行われる処理(例えば、OSに関する処理等)を制御してもよい。
 速度決定部211は、コンテンツの再生速度を決定する構成である。例えば、速度決定部211は、入力部230に対して行われるユーザによる入力に基づいてコンテンツの再生速度を決定する。これにより、ユーザは所望の速度でコンテンツを再生することができる。上記のとおり、コンテンツの再生速度の範囲は特に制限されるものではない。
 映像制御部212は、映像の出力を制御する構成である。具体的には、映像制御部212は、配信装置100から提供された映像信号を映像出力部241に提供することで映像出力部241による映像の出力を制御する。その際、映像制御部212は、速度決定部211により決定された再生速度で映像が出力されるように映像信号の提供を行う。
 音声制御部213は、音声の出力を制御する構成である。具体的には、音声制御部213は、配信装置100から提供された音声信号を音声出力部242に提供することで音声出力部242による音声の出力を制御する。その際、音声制御部213は、速度決定部211により決定された再生速度で音声が出力されるように音声信号の提供を行う。ここで、上記のとおり、人間の感覚は触覚刺激よりも音声の方が周波数変化に敏感である。そこで、再生速度の変化率が所定値より大きい場合(音声の変化が知覚される程度に大きい場合)、音声制御部213は、話速変換処理を用いて音声信号を変化させ、音声出力部242に提供する。「話速変換処理」は、音声の質及び高さを維持したまま再生期間を変化させる処理である。これにより、音声制御部213は、ユーザに違和感を与えることなく、音声をゆっくり又は速く出力させることができる。音声制御部213は、既存の話速変換処理を用いることができるため、話速変換処理の詳細な説明については省略する。なお、音声制御部213は、再生速度の変化前後で必ずしも音声の質及び高さを維持しなくてもよい。
 触覚制御部214は、触覚刺激の出力を制御する構成である。具体的には、触覚制御部214は、配信装置100から提供された触覚信号を触覚出力部243に提供することで触覚出力部243による触覚刺激の出力を制御する。その際、触覚制御部214は、速度決定部211により決定された再生速度で触覚刺激が出力されるように触覚信号の提供を行う。また、本実施形態において触覚制御部214は、コンテンツの再生速度に基づいて触覚信号を変化させることができる(なお、触覚信号を変化させることは、触覚信号を生成することと等価である点に留意されたい)。詳細については後述する。
 通信部220は、配信装置100と通信を行う構成である。例えば、通信部220は、コンテンツの要求信号を配信装置100へ送信したり、映像信号、音声信号、及び触覚信号を配信装置100から受信したりする。なお、通信部220が通信する情報、及び通信するケースはこれらに限定されない。
 入力部230は、ユーザによる入力を受ける構成である。例えば、入力部230は、マウス、キーボード、タッチパネル、ボタン、スイッチ、又はマイクロフォン等の入力装置を備えており、ユーザは、これらの入力装置を用いることによってコンテンツの要求や、コンテンツの再生速度の変更等のための入力操作を行うことができる。なお、入力部230が備える入力装置はこれらに限定されない。
 出力部240は、制御部210により制御されることで各種出力を行う構成である。具体的には、映像出力部241は、映像を出力可能なディスプレイ等の映像出力装置であり、音声出力部242は、音声を出力可能なスピーカ等の音声出力装置であり、触覚出力部243は、振動刺激を出力可能な振動アクチュエータ等の触覚出力装置等である。これらの構成は、制御部210から提供される信号(映像信号、音声信号、及び触覚信号)を用いて各種出力を行う。なお、出力部240の各構成が備える出力装置は上記に限定されない。例えば、触覚刺激は必ずしも振動刺激に限定されないところ、触覚出力部243の種類が、提供の対象となる触覚刺激に応じて変わることは言うまでもない。
 記憶部250は、各種情報を記憶する構成である。例えば、記憶部250は、制御部210によって処理された各種信号等を記憶したり、再生装置200の各構成によって使用されるプログラムやパラメータ等を記憶したりする。なお、記憶部250が記憶する情報はこれらに限定されない。
 以上、再生装置200の構成例について説明した。なお、図3を用いて説明した上記の構成はあくまで一例であり、再生装置200の構成は係る例に限定されない。例えば、再生装置200は、図3に示す構成の全てを必ずしも備えなくてもよいし、図3に示していない構成を備えていてもよい。また、再生装置200の構成は、仕様や運用に応じて柔軟に変形可能である。また、コンテンツの再生速度の変更に伴う各種制御が再生装置200ではなく配信装置100により実現される場合、再生装置200の通信部220は、再生速度に基づいて配信装置100により生成された触覚信号を受信し、触覚出力部243は、当該触覚信号を用いて触覚刺激を出力することになる。
 (2.2.触覚制御部による制御例)
 上記では、本実施形態に係る種々の構成例について説明した。続いて、再生装置200の触覚制御部214による制御例について説明する。
 上記のとおり、触覚制御部214は、コンテンツの再生速度に基づいて触覚信号(触覚刺激をユーザに提供することに用いられる信号)を変化させる(なお、触覚信号を変化させることは、触覚信号を生成することと等価である点に留意されたい)。具体的には、触覚制御部214は、コンテンツの再生速度の変化に基づいて配信装置100から提供された触覚信号を変化させる。例えば、触覚制御部214は、コンテンツの再生速度の変化に基づいて触覚信号の再生期間を変化させるように触覚信号を変化させる。
 ここで、図4及び図5を参照して、コンテンツの再生速度の変化に基づいて触覚信号の再生期間を変化させる処理の具体例について説明する。図4には、コンテンツが1.0倍速で再生される場合、0.8倍速で再生される場合、1.2倍速で再生される場合のそれぞれについての触覚信号が示されている。触覚制御部214は、図4に示すように、再生速度の変化に基づいて触覚信号の周波数を変化させるように触覚信号を伸長又は圧縮することで、触覚信号の再生期間を延長又は短縮してもよい。具体的には、再生速度が0.8倍速である場合、触覚制御部214は、再生速度が1.0倍速である場合に比べて、触覚信号の周波数が低くなるように触覚信号を伸長することで、触覚信号の再生期間を延長してもよい。また、再生速度が1.2倍速である場合、触覚制御部214は、再生速度が1.0倍速である場合に比べて、触覚信号の周波数が高くなるように触覚信号を圧縮することで、触覚信号の再生期間を短縮してもよい。
 上記のとおり、触覚刺激の周波数変化に対する人間の感覚は比較的鈍感であるため、触覚制御部214は、再生速度の変化に基づいて触覚信号の周波数を変化させるように触覚信号を伸長又は圧縮しても違和感のない触覚刺激をユーザに提供することができる。また、触覚信号の周波数を変化させるように触覚信号を伸長又は圧縮する処理は、以下で説明する、触覚信号の周波数を維持するように触覚信号を変化させる処理に比べて低い負荷で実現可能である。
 また、コンテンツの再生速度の変化率が所定値(例えば、30[%]程度)より大きい場合、図4のように触覚信号の周波数が変化すると、人間は触覚刺激の変化を知覚する可能性が高い。図5には、コンテンツが1倍速で再生される場合、0.5倍速で再生される場合のそれぞれについての触覚信号が示されているところ、触覚制御部214は、図5に示すように、コンテンツの再生速度の変化に基づいて触覚信号の周波数を維持するように触覚信号を変化させることで、触覚信号の再生期間を延長又は短縮してもよい。具体的には、触覚制御部214は、コンテンツの再生速度の変化率が所定値(例えば、30[%]程度)より大きい場合、当該変化率に基づいて触覚信号の周波数を維持するように触覚信号を変化させることで、触覚信号の再生期間を延長又は短縮してもよい。例えば、触覚制御部214は、音声制御部213が行う話速変換処理と同様の処理を行うことで当該触覚信号の周波数を維持するように触覚信号を変化させることができる。なお、必ずしも話速変換処理が用いられなくてもよい。これにより、コンテンツの再生速度の変化率が、触覚刺激の変化を知覚されるほど大きい場合であっても、触覚制御部214は、違和感のない触覚刺激をユーザに提供することができる。また、当該処理によっては触覚信号の周波数が維持されるため、触覚制御部214は、より高精度の(製作者が意図した通りの)触覚刺激を提供することができる。
 また、触覚制御部214は、コンテンツの再生速度に基づいて触覚信号の再生を省略したり、触覚信号を変化させることなく再生させたりしてもよい。図6には、コンテンツの再生速度に基づく触覚信号の再生態様の具体例が示されている。例えば、コンテンツの再生速度が所定の範囲内(例えば、0.5倍速~4.0倍速の範囲内)である場合、上記のように触覚信号の再生期間を変化させる一方で、コンテンツの再生速度が所定値(例えば、0.5倍速)よりも遅い場合、上記のように触覚信号の再生期間を延長させると、再生期間が長すぎることによりユーザが違和感(又は不快感)を覚える可能性がある。そこで、触覚制御部214は、コンテンツの再生速度が所定値(例えば、0.5倍速)よりも遅い場合、図6に示すように、触覚信号の再生を省略してもよい。なお、図6には示していないが、コンテンツの再生速度が所定値よりも速い場合についても同様に触覚信号の再生が省略されてもよい。
 また、例えば、コンテンツの再生速度が所定値(例えば、4.0倍速)よりも速い場合、上記のように触覚信号の再生期間を短縮させると、再生期間が短すぎることによりユーザが振動刺激を適切に知覚できない可能性がある。そこで、触覚制御部214は、コンテンツの再生速度が所定値(例えば、4.0倍速)よりも速い場合、図6に示すように、元の触覚信号のまま再生を行わせてもよい。なお、図6には示していないが、コンテンツの再生速度が所定値よりも遅い場合についても同様に触覚信号を変化させることなく再生を行わせてもよい。
 なお、コンテンツの再生速度に基づく触覚信号の再生態様は必ずしも図6の例に限定されない。例えば、触覚信号の再生期間が長すぎたり、再生頻度が多すぎたりすることによりユーザが違和感(又は不快感)を覚える可能性がある場合、触覚制御部214は、適宜触覚信号を間引いてもよい。間引く処理を加える場合には、触覚信号の再生箇所は、特徴的な箇所に限定されていても良い。特徴的な箇所の抽出方法としては、例えば、信号のボリュームが一定値を超える箇所、時間当たりの信号強度が一定値を超える箇所などが考えられる。あるいは、再生速度が4倍速の場合には、8秒のシーンに対して1箇所、再生速度が8倍速の場合には、16秒のシーンに対して1箇所、というように、再生速度に応じた時間当たりの再生箇所の数を限定することで抽出しても良い。
 間引く処理を加えた場合にも、1箇所の触覚信号の長さが長い場合には、再生速度によっては、複数の信号の再生が重なる恐れがある。そのような場合には、1箇所の触覚信号の再生期間を一定値以下として、それ以降の時間分は再生しない、あるいは、重なる後ろ側の触覚信号の再生を省略する、などの処理が考えらえられる。また、人間の触覚の特性として、2つの触覚(振動)刺激の時間間隔が一定値(振動刺激が強い場合には例えば10[ms]程度、弱い場合には例えば50[ms]程度と言われる)以内であった時には、2つの刺激が繋がって1つに感じることが知られている。そのため、この数値を考慮して、2つの触覚信号の時間間隔(1つ目の触覚信号の最後と、2つ目の触覚信号の最初)が一定以内である場合には、同様に、2つ目の信号を再生しない、あるいは、1つ目の信号を短く切って、一定時間間隔を空けた後に2つ目の信号を再生する、などの処理が有効となる。
 また、コンテンツの再生速度に基づく触覚信号の再生態様として、映像の再生に合わせて音声を再生する条件(再生速度が1.0倍速に近い場合など)においては、触覚信号を再生し、音声を再生しない場合には、触覚信号の再生も行わない、という処理も考えられる。逆に、音声が再生されない条件でも、コンテンツのシーン変化の理解補助等の目的で、触覚信号は再生する実施も考えられる。一般に、端末の出力する音声から触覚信号を自動的に生成するアルゴリズムが知られており、商用利用されているが、本実施形態の場合には、当該アルゴリズムが、触覚信号の再生用に、音声信号の非再生時にも動作することが処理上の特徴となり得る。
 (2.3.処理フロー例)
 上記では、再生装置200の触覚制御部214による制御例について説明した。続いて、本実施形態に係る各構成の処理フロー例について説明する。
 図7は、本実施形態に係る各構成の処理フロー例を示すフローチャートである。ステップS1000では、ユーザが、例えば再生装置200の入力部230を介して入力を行う。ステップS1004では、速度決定部211が、当該入力に基づいてコンテンツの再生速度を決定する。なお、ユーザによる入力がない場合、ステップS1000及びステップS1004は省略される。
 コンテンツの再生速度の変化率が所定値(例えば、30[%]程度)より大きくない場合(ステップS1008/No)、周波数の変化による触覚刺激の変化が知覚されない可能性が高いため、ステップS1012にて、触覚制御部214は、再生速度の変化率に基づいて触覚信号の周波数を変化させるように触覚信号を伸長(又は圧縮)することで、触覚信号の再生期間を延長(又は短縮)する。なお、図4に示したように、再生速度が遅くなる場合に触覚信号が伸長され、再生速度が速くなる場合に触覚信号が圧縮される。
 コンテンツの再生速度の変化率が所定値(例えば、30[%]程度)より大きい場合(ステップS1008/Yes)、周波数の変化による触覚刺激の変化が知覚される可能性が高いため、ステップS1016にて、触覚制御部214は、再生速度の変化率に基づいて触覚信号の周波数を維持するように触覚信号を変化させることで、触覚信号の再生期間を延長(又は短縮)する。
 ステップS1020では、触覚出力部243が触覚制御部214から提供される触覚信号を用いて振動刺激を出力する。コンテンツが終了した場合(ステップS1024/Yes)、一連の処理が終了する。コンテンツが継続している場合(ステップS1024/No)、ステップS1000~ステップS1020の処理が継続される。
 図7に示すフローチャートの処理が、所定の単位毎(例えば、フレーム毎)に繰り返される。これにより、本実施形態に係る情報処理システム1は、コンテンツの再生速度に基づいて振動刺激をより適切に提供することができる。具体的には、周波数の変化による触覚刺激の変化が知覚されない程度に再生速度の変化率が小さい場合には、情報処理システム1は、周波数を変化させるように触覚信号を伸長又は圧縮することで処理負荷を低減させつつ違和感のない振動刺激をユーザに提供できる。また、周波数の変化による触覚刺激の変化が知覚されるほど再生速度の変化率が大きい場合であっても、情報処理システム1は、周波数を維持するように触覚信号の再生期間を延長又は短縮することで、違和感のない、より高精度の(製作者が意図した通りの)振動刺激をユーザに提供できる。
 なお、図7で説明したフローチャートにおける各ステップは、必ずしも記載された順序に沿って時系列に処理する必要はない。すなわち、フローチャートにおける各ステップは、記載された順序と異なる順序で処理されても、並列的に処理されてもよい(後段のフローチャートについても同様)。
  <3.変形例>
 上記では、本開示の一実施形態について説明した。続いて、本開示の変形例について説明する。
 触覚刺激を出力する触覚出力部243の特性により、出力可能な範囲が限られている場合がある。例えば、振動刺激を出力する振動アクチュエータについては、出力可能な周波数帯域が、音声を出力するスピーカ等に比べて狭く、VCM(Voice Coil Motor)では80~500[Hz]程度、LRA(Linear Resonant Actuator)では100±5[Hz]程度となる。加えて、周波数の変化によって出力強度が変化する場合がある。例えば、振動アクチュエータについては、周波数の変化によって同じ電圧の入力に対して出力される加速度が変化する場合がある。
 図8を参照して具体的に説明する。図8は、振動アクチュエータの周波数特性の一例を示す図である。図8に示す例では、周波数が100[Hz]のときに加速度が最大値(1A[m/s2])をとり、周波数が90[Hz]のときに加速度が最大値の1/3(1/3×A[m/s2])まで低下する。そして、周波数が80[Hz]以下では加速度が0[m/s2]になる。このように、触覚出力部243は、その特性により出力可能な周波数帯域が制限されており、かつ、周波数の変化によって、同じ電圧の入力に対して出力される加速度も変化する。したがって、図4で示したように、再生速度の変化に基づいて触覚信号の周波数を変化させるように触覚信号が伸長又は圧縮された場合、周波数の変化によって、同じ電圧の入力に対して出力される加速度も変化したり、振動刺激が出力されなかったりする場合がある。
 そこで、変形例に係る再生装置200の触覚制御部214は、(触覚刺激を出力する)触覚出力部243の特性に基づいて触覚信号を変化させてもよい。図9を参照して、変形例において、コンテンツの再生速度の変化に基づいて触覚信号の再生期間を変化させる処理の具体例について説明する。図9には、コンテンツが1.0倍速で再生される場合、0.9倍速で再生される場合、0.8倍速で再生される場合のそれぞれについての触覚信号が示されている。
 コンテンツが0.9倍速で再生される場合、図4に示した方法で触覚信号が伸長されると、1.0倍速時に100[Hz]だった触覚信号が90[Hz](100×0.9=90[Hz])となるため、図8に示した周波数特性を有する振動アクチュエータによっては、出力される加速度が1A[m/s2]から1/3×A[m/s2]へ低下してしまう。これにより、振動刺激の出力強度が製作者の意図するものより弱くなってしまう。そこで触覚制御部214は、図9に示すように、触覚信号を伸長しつつ、再生速度の変化前後で触覚刺激の出力強度を維持するように触覚信号の振幅を変化させる(触覚信号の振幅を3倍に変化させる)。これによって、触覚制御部214は、再生速度の変化前後でユーザが感じる触覚刺激の強度を維持することができる。
 また、コンテンツが0.8倍速で再生される場合、図4に示した方法で触覚信号が伸長されると、1.0倍速時に100[Hz]だった触覚信号が80[Hz](100×0.8=80[Hz])となるため、図8に示した周波数特性を有する振動アクチュエータによっては、出力される加速度が1A[m/s2]から0[m/s2]へ低下してしまう。これにより、振動刺激が提供されなくなってしまう。そこで、再生速度の変化後における触覚刺激の出力強度が所定値より弱くなる場合(例えば、触覚信号の振幅の増幅では対応できないほど出力強度が弱い場合)、触覚制御部214は、再生速度の変化前後での周波数の変化率を制限してもよい。具体的には、触覚制御部214は、図9に示すように再生速度の変化前後での周波数の変化率を0.9までに制限して(すなわち周波数の下限を、0.9倍速時の周波数である90[Hz]として)、周波数が90[Hz]以下となるような再生速度の変化に際しては、90[Hz]を維持するように触覚信号を伸長する。例えば、触覚制御部214は、音声制御部213が行う話速変換処理と同様の処理を行うことで当該触覚信号の周波数を90[Hz]に維持するように触覚信号を伸長することができる(必ずしも話速変換処理が用いられなくてもよい)。このとき、触覚制御部214は、0.9倍速時と同様に触覚信号の振幅を3倍に変化させる。これにより、触覚出力部243の出力可能な範囲を外れるほど再生速度の変化率が大きい場合であっても、触覚制御部214は、適切に触覚刺激を出力させることができる。
 なお、ユーザによる触覚刺激の知覚特性について、触覚刺激の周波数が低下するほどユーザが触覚刺激を強く感じる場合(触覚刺激の周波数と知覚強度とが非線形の関係を有する場合)、触覚制御部214は、当該ユーザの知覚特性にも基づいて触覚信号を変化させてもよい。これにより、触覚制御部214は、再生速度の変化前後でユーザが知覚する触覚刺激の強度を、より高精度に維持することができる。
 また、上記では、変形例における触覚刺激の提供の態様について説明したところ、変形例における映像及び音声の提供の態様については上記の実施形態で説明したものと同様であり得る。例えば、音声制御部213は、再生速度の変化前後で、話速変換処理により音声の質及び高さを維持したまま再生期間を変化させてもよいし、音声の質及び高さを維持しなくてもよい。
 図10は、変形例に係る各構成の処理フロー例を示すフローチャートである。ステップS1100では、ユーザが、例えば再生装置200の入力部230を介して入力を行う。ステップS1104では、速度決定部211が、当該入力に基づいてコンテンツの再生速度を決定する。なお、ユーザによる入力がない場合、ステップS1100及びステップS1104は省略される。
 コンテンツの再生速度の変化率が所定値(例えば、30[%]程度)より大きくない場合(ステップS1108/No)、かつ、加速度が所定値より小さくない場合(すなわち、触覚刺激の出力強度が所定値より弱くない場合。ステップS1112/No)、ステップS1116にて、触覚制御部214は、再生速度の変化率に基づいて触覚信号の周波数を変化させるように触覚信号を伸長(又は圧縮)させ、触覚出力部243の周波数特性に基づいて触覚信号の振幅を増幅(又は減衰)させる。すなわち、触覚制御部214は、図9の0.9倍速時の処理を行う。
 ステップS1112にて、加速度が所定値より小さい場合(すなわち、触覚刺激の出力強度が所定値より弱い場合。ステップS1112/Yes)、ステップS1120にて、触覚制御部214は、再生速度の変化率、及び触覚出力部243の周波数特性に基づいて周波数の変化率を制限しつつ触覚信号を伸長(又は圧縮)させ、触覚信号の振幅を増幅(又は減衰)させる。すなわち、触覚制御部214は、図9の0.8倍速時の処理を行う。
 ステップS1108にて、コンテンツの再生速度の変化率が所定値(例えば、30[%]程度)より大きい場合(ステップS1108/Yes)、周波数の変化による触覚刺激の変化が知覚される可能性が高いため、ステップS1124にて、触覚制御部214は、再生速度の変化率に基づいて触覚信号の周波数を維持するように触覚信号を変化させることで、触覚信号の再生期間を延長(又は短縮)する。
 ステップS1128では、触覚出力部243が触覚制御部214から提供される触覚信号を用いて振動刺激を出力する。コンテンツが終了した場合(ステップS1132/Yes)、一連の処理が終了する。コンテンツが継続している場合(ステップS1132/No)、ステップS1100~ステップS1128の処理が継続される。
 図10に示すフローチャートの処理が、所定の単位毎(例えば、フレーム毎)に繰り返される。これにより、変形例に係る情報処理システム1は、触覚出力部243の特性にも基づいて振動刺激をより適切に提供することができる。なお、上記の実施形態で説明した技術的事項は変形例にも適用され得る点に留意されたい。
  <4.備考>
 上記で説明したとおり、コンテンツの再生場面の制御に用いられるユーザインタフェースの操作(例えば、シークバーにおけるノブ(つまみ)の移動等)による場面転換の速度が再生速度として扱われてもよい。そこで以降では、一例として、シークバーにおけるノブの移動により再生速度が変更される場合の具体例について説明する。
 図11は、シークバーにおけるノブの移動により再生速度が変更される場合において表示される映像10の具体例について説明するための図である。図11の映像10は、ボールを打つために野球選手がバットを振る場面を示している。そして、映像10の下段には、再生場面の制御に用いられるシークバー20と、ノブ21と、触覚刺激が提供される場面を示すマーカ22と、が表示されている。
 ユーザは、再生装置200の入力部230を用いてシークバー20におけるノブ21の位置を移動させることで再生場面を転換することができる。そして、ノブ21の位置がマーカ22に達した場合に触覚刺激が提供される。このように、触覚刺激が提供される場面を示すマーカ22が表示されることで、ユーザは、所望の場面を探索する際の目安としても当該マーカ22を利用することができる。
 そして、再生装置200の触覚制御部214は、例えばシークバー20におけるノブ21の移動速度(場面転換の速度)を再生速度として扱う(必ずしもノブ21の移動速度に限定されない)。つまり、触覚制御部214は、ノブ21の移動速度の変化に基づいて触覚信号の再生期間を変化させるように触覚信号を変化させる。その際、触覚制御部214は、触覚信号の周波数を変化させるように触覚信号を変化させてもよいし、触覚信号の周波数を維持するように触覚信号を変化させてもよい。また、触覚制御部214は、変形例のように、触覚出力部243の特性に基づいて触覚信号を変化させてもよい。あるいは、ノブの移動速度に関わらず、元のコンテンツの持つ触覚信号を、周波数および再生期間を維持したまま再生してもよい。この場合、ノブがマーカに達したタイミングで触覚信号の再生が行われる。マーカが付与される、ノブ移動時に再生される触覚信号は、コンテンツ全般に付与された触覚信号の中から、特徴的な箇所に限定されていても良い。特徴的な箇所の抽出方法としては、例えば、信号のボリュームが一定値を超える箇所、時間当たりの信号強度が一定値を超える箇所等が考えられる。あるいは、ノブの移動速度に応じて、「5秒のシーンに対して1箇所」のように、時間当たりの再生箇所の数を限定することで抽出しても良い。
 また、図11ではマーカ22の位置が図示されているが、特徴的な箇所として抽出された場所に、マーカを図示しない方法も取り得る。いずれの場合も、シークバー操作に伴って触覚信号を再生させることで、ユーザによるノブ21の操作(例えば、左方向での移動)に応じて、特定箇所(例えばバットにボールが当たるシーン)をノブ21が通過するタイミングで、ユーザの指に触覚刺激が提示されることとなり、ユーザがシーンの検索をしやすくなったり、シーンの変化を理解しやすくなったりする効果が得られる。この際、例えば時間間隔5秒の2つのシーンに、それぞれ1秒の触覚信号が付与されている場合を考えると、指の移動速度が大きく、この2つのシーンを1秒以内に通過する場合、1つ目の触覚信号の再生が終わる前に、2つ目の触覚信号の再生が始まってしまい、両者が混ざる恐れがある。そのような場合には、後ろ側の触覚信号の再生を省略してもよい。また、人間の触覚の特性として、2つの触覚(振動)刺激の時間間隔が一定値(振動刺激が強い場合には例えば10[ms]程度、弱い場合には例えば50[ms]程度と言われる)以内であった時には、2つの刺激が繋がって1つに感じることが知られている。そのため、この数値を考慮して、シークバー操作に伴い触覚信号を再生するような状況において、2つの触覚信号の時間間隔(1つ目の触覚信号の最後と、2つ目の触覚信号の最初)が一定以内である場合には、2つ目の信号を再生しない、あるいは、1つ目の信号を短く切って、一定時間間隔を空けた後に2つ目の信号を再生する、などの処理が有効となる。
 なお、シークバーの操作の操作方法の例としては、タッチパネルUIにおけるタッチ操作や、TV画面による視聴におけるリモコン操作、PC画面の視聴におけるマウス、タッチパッド操作、などが考えらえる。シークバー操作の場合も、前述の説明と同様に、映像の再生に合わせて音声を再生する条件(シークバーの移動速度が1.0倍速に近い場合、など)においては、触覚信号を再生し、音声を再生しない場合には、触覚信号の再生も行わない、という処理も考えられる。逆に、音声が再生されない条件でも、上述したコンテンツのシーン変化の理解補助等の目的で、触覚信号は再生する実施も考えられる。一般に、端末の出力する音声から触覚信号を自動的に生成するアルゴリズムが知られており、商用利用されているが、この実施形態の場合には、当該アルゴリズムが、触覚信号の再生用に、音声信号の非再生時にも動作することが処理上の特徴となり得る。なお、コンテンツの再生場面の制御に用いられるユーザインタフェースは、必ずしもシークバー20に限定されない。
  <5.ハードウェア構成例>
 続いて、図12を参照して、本実施形態及び変形例に係るハードウェア構成例について説明する。図12は、本実施形態及び変形例に係る再生装置200(又は配信装置100)を実現する情報処理装置900のハードウェア構成例を示すブロック図である。本実施形態及び変形例に係る再生装置200(又は配信装置100)による情報処理は、ソフトウェアと、以下に説明するハードウェアとの協働により実現される。
 図12に示すように、情報処理装置900は、CPU(Central Processing Unit)901、ROM(Read Only Memory)902、RAM(Random Access Memory)903及びホストバス904aを備える。また、情報処理装置900は、ブリッジ904、外部バス904b、インタフェース905、入力装置906、出力装置907、ストレージ装置908、ドライブ909、接続ポート911、及び通信装置913を備える。情報処理装置900は、CPU901に代えて、又はこれとともに、DSP若しくはASIC等の処理回路を有してもよい。
 CPU901は、演算処理装置及び制御装置として機能し、各種プログラムに従って情報処理装置900内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。CPU901は、再生装置200の制御部210(又は配信装置100の制御部110)を実現し得る。
 CPU901、ROM902及びRAM903は、CPUバス等を含むホストバス904aにより相互に接続されている。ホストバス904aは、ブリッジ904を介して、PCI(Peripheral Component Interconnect/Interface)バス等の外部バス904bに接続されている。なお、必ずしもホストバス904a、ブリッジ904及び外部バス904bを分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
 入力装置906は、例えば、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバー等、ユーザによって情報が入力される装置によって実現される。また、入力装置906は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、情報処理装置900の操作に対応した携帯電話やPDA等の外部接続機器であってもよい。さらに、入力装置906は、例えば、上記の入力手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路等を含んでいてもよい。ユーザは、この入力装置906を操作することにより、情報処理装置900に対して各種のデータを入力したり処理動作を指示したりすることができる。入力装置906は、再生装置200の入力部230を実現し得る。
 出力装置907は、取得した情報をユーザに対して視覚的、聴覚的、又は触覚的に通知することが可能な装置で形成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、及びELディスプレイ装置等の映像出力装置や、スピーカ及びヘッドホン等の音声出力装置や、振動アクチュエータ等の触覚出力装置等が挙げられる。出力装置907は、例えば、情報処理装置900が行った各種処理により得られた結果を出力する。出力装置907は、再生装置200の出力部240を実現し得る。
 ストレージ装置908は、情報処理装置900に備えられ得る記憶部の一例として形成されたデータ格納用の装置である。ストレージ装置908は、例えば、HDD等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等により実現される。ストレージ装置908は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置及び記憶媒体に記録されたデータを削除する削除装置等を含んでもよい。このストレージ装置908は、CPU901が実行するプログラムや各種データ及び外部から取得した各種のデータ等を格納する。ストレージ装置908は、再生装置200の記憶部250(又は配信装置100の記憶部130)を実現し得る。
 ドライブ909は、記憶媒体用リーダライタであり、情報処理装置900に内蔵、あるいは外付けされる。ドライブ909は、装着されている磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記憶媒体に記録されている情報を読み出して、RAM903に出力する。また、ドライブ909は、リムーバブル記憶媒体に情報を書き込むこともできる。
 接続ポート911は、外部機器と接続されるインタフェースであって、例えばUSB(Universal Serial Bus)等によりデータ伝送可能な外部機器との接続口である。
 通信装置913は、例えば、ネットワーク920に接続するための通信デバイス等で形成された通信インタフェースである。通信装置913は、例えば、有線若しくは無線LAN(Local Area Network)、LTE(Long Term Evolution)、Bluetooth(登録商標)又はWUSB(Wireless USB)用の通信カード等である。また、通信装置913は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ又は各種通信用のモデム等であってもよい。この通信装置913は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。通信装置913は、再生装置200の通信部220(又は配信装置100の通信部120)を実現し得る。
 なお、ネットワーク920は、ネットワーク920に接続されている装置から送信される情報の有線、又は無線の伝送路である。例えば、ネットワーク920は、インターネット、電話回線網、衛星通信網等の公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)等を含んでもよい。また、ネットワーク920は、IP-VPN(Internet Protocol-Virtual Private Network)等の専用回線網を含んでもよい。
 以上、本実施形態に係る情報処理装置900の機能を実現可能なハードウェア構成例を示した。上記の各構成要素は、汎用的な部材を用いて実現されていてもよいし、各構成要素の機能に特化したハードウェアにより実現されていてもよい。したがって、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
 なお、上述のような本実施形態に係る情報処理装置900の各機能を実現するためのコンピュータプログラムを作製し、PC等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
  <6.むすび>
 以上で説明したように、本開示に係る情報処理装置は、ユーザに提供されるコンテンツの再生速度に基づいて、コンテンツに対応する触覚刺激をユーザに提供することに用いられる触覚信号を生成する。具体的には、本開示に係る情報処理装置は、コンテンツの再生速度の変化に基づいて触覚信号を変化させる。例えば、本開示に係る情報処理装置は、コンテンツの再生速度の変化に基づいて触覚信号の再生期間を変化させるように触覚信号を変化させる。
 これにより、本開示に係る情報処理装置は、コンテンツの再生速度に基づいて触覚刺激をより適切に提供することができる。触覚刺激の周波数変化に対する人間の感覚は比較的鈍感であるため、本開示に係る情報処理装置は、触覚信号の再生期間を変化させるように触覚信号を変化させても違和感のない触覚刺激をユーザに提供することができる。このとき、本開示に係る情報処理装置は、周波数を変化させるように触覚信号を変化させたり、周波数を維持するように触覚信号を変化させる等、様々な態様で触覚信号を変化させることができる。
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
 また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
 なお、以下のような構成も本開示の技術的範囲に属する。
(1)
 ユーザに提供されるコンテンツの再生速度に基づいて、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を生成する触覚制御部を備える、
 情報処理装置。
(2)
 前記触覚制御部は、前記再生速度の変化に基づいて前記信号を変化させる、
 前記(1)に記載の情報処理装置。
(3)
 前記触覚制御部は、前記再生速度の変化に基づいて前記信号の再生期間を変化させるように前記信号を変化させる、
 前記(2)に記載の情報処理装置。
(4)
 前記触覚制御部は、前記再生速度の変化に基づいて前記信号の周波数を変化させるように前記信号を伸長又は圧縮する、
 前記(3)に記載の情報処理装置。
(5)
 前記触覚制御部は、前記再生速度の変化に基づいて前記信号の周波数を維持するように前記信号を変化させる、
 前記(3)に記載の情報処理装置。
(6)
 前記触覚制御部は、前記再生速度の変化率が所定値より大きい場合、前記変化率に基づいて前記信号の周波数を維持するように前記信号を変化させる、
 前記(5)に記載の情報処理装置。
(7)
 前記触覚制御部は、前記触覚刺激を出力する触覚出力部の特性に基づいて前記信号を変化させる、
 前記(4)に記載の情報処理装置。
(8)
 前記触覚制御部は、前記再生速度の変化前後で前記触覚刺激の出力強度を維持するように前記信号の振幅を変化させる、
 前記(7)に記載の情報処理装置。
(9)
 前記触覚制御部は、前記再生速度の変化後における前記触覚刺激の出力強度が所定値より弱くなる場合、前記再生速度の変化前後での前記周波数の変化率を制限する、
 前記(8)に記載の情報処理装置。
(10)
 前記再生速度は、前記ユーザによる入力に基づいて決定される、
 前記(1)から(9)のいずれか1項に記載の情報処理装置。
(11)
 前記触覚刺激は、振動刺激、電気刺激、温度変化による刺激、力覚に関する刺激、及び皮膚感覚に関する刺激のうちの少なくともいずれか1つを含む、
 前記(1)から(10)のいずれか1項に記載の情報処理装置。
(12)
 ユーザに提供されるコンテンツの再生速度に基づいて、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を生成することを有する、
 コンピュータにより実行される情報処理方法。
(13)
 ユーザに提供されるコンテンツの再生速度に基づいて、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を生成すること、
 をコンピュータに実現させるためのプログラム。
(14)
 ユーザに提供されるコンテンツの再生速度に基づいて生成され、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を受信する通信部と、
 前記信号を用いて前記触覚刺激を出力する触覚出力部と、を備える、
 情報処理装置。
 100  配信装置
 110  制御部
 111  映像制御部
 112  音声制御部
 113  触覚制御部
 120  通信部
 130  記憶部
 200  再生装置
 210  制御部
 211  速度決定部
 212  映像制御部
 213  音声制御部
 214  触覚制御部
 220  通信部
 230  入力部
 240  出力部
 241  映像出力部
 242  音声出力部
 243  触覚出力部
 250  記憶部

Claims (14)

  1.  ユーザに提供されるコンテンツの再生速度に基づいて、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を生成する触覚制御部を備える、
     情報処理装置。
  2.  前記触覚制御部は、前記再生速度の変化に基づいて前記信号を変化させる、
     請求項1に記載の情報処理装置。
  3.  前記触覚制御部は、前記再生速度の変化に基づいて前記信号の再生期間を変化させるように前記信号を変化させる、
     請求項2に記載の情報処理装置。
  4.  前記触覚制御部は、前記再生速度の変化に基づいて前記信号の周波数を変化させるように前記信号を伸長又は圧縮する、
     請求項3に記載の情報処理装置。
  5.  前記触覚制御部は、前記再生速度の変化に基づいて前記信号の周波数を維持するように前記信号を変化させる、
     請求項3に記載の情報処理装置。
  6.  前記触覚制御部は、前記再生速度の変化率が所定値より大きい場合、前記変化率に基づいて前記信号の周波数を維持するように前記信号を変化させる、
     請求項5に記載の情報処理装置。
  7.  前記触覚制御部は、前記触覚刺激を出力する触覚出力部の特性に基づいて前記信号を変化させる、
     請求項4に記載の情報処理装置。
  8.  前記触覚制御部は、前記再生速度の変化前後で前記触覚刺激の出力強度を維持するように前記信号の振幅を変化させる、
     請求項7に記載の情報処理装置。
  9.  前記触覚制御部は、前記再生速度の変化後における前記触覚刺激の出力強度が所定値より弱くなる場合、前記再生速度の変化前後での前記周波数の変化率を制限する、
     請求項8に記載の情報処理装置。
  10.  前記再生速度は、前記ユーザによる入力に基づいて決定される、
     請求項1に記載の情報処理装置。
  11.  前記触覚刺激は、振動刺激、電気刺激、温度変化による刺激、力覚に関する刺激、及び皮膚感覚に関する刺激のうちの少なくともいずれか1つを含む、
     請求項1に記載の情報処理装置。
  12.  ユーザに提供されるコンテンツの再生速度に基づいて、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を生成することを有する、
     コンピュータにより実行される情報処理方法。
  13.  ユーザに提供されるコンテンツの再生速度に基づいて、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を生成すること、
     をコンピュータに実現させるためのプログラム。
  14.  ユーザに提供されるコンテンツの再生速度に基づいて生成され、前記コンテンツに対応する触覚刺激を前記ユーザに提供することに用いられる信号を受信する通信部と、
     前記信号を用いて前記触覚刺激を出力する触覚出力部と、を備える、
     情報処理装置。
PCT/JP2020/018229 2019-05-28 2020-04-30 情報処理装置、情報処理方法、及びプログラム WO2020241170A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP20814953.4A EP3979044A4 (en) 2019-05-28 2020-04-30 INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD AND PROGRAM
JP2021522737A JP7494848B2 (ja) 2019-05-28 2020-04-30 情報処理装置、情報処理方法、及びプログラム
CN202080037716.2A CN113874815A (zh) 2019-05-28 2020-04-30 信息处理装置、信息处理方法和程序
US17/612,752 US20220244784A1 (en) 2019-05-28 2020-04-30 Information processing device, information processing method, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019099717 2019-05-28
JP2019-099717 2019-05-28

Publications (1)

Publication Number Publication Date
WO2020241170A1 true WO2020241170A1 (ja) 2020-12-03

Family

ID=73552895

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/018229 WO2020241170A1 (ja) 2019-05-28 2020-04-30 情報処理装置、情報処理方法、及びプログラム

Country Status (5)

Country Link
US (1) US20220244784A1 (ja)
EP (1) EP3979044A4 (ja)
JP (1) JP7494848B2 (ja)
CN (1) CN113874815A (ja)
WO (1) WO2020241170A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005506614A (ja) * 2001-10-10 2005-03-03 イマージョン コーポレイション 触覚フィードバックを使用する音声データ出力および操作
JP2015053043A (ja) * 2013-09-06 2015-03-19 イマージョン コーポレーションImmersion Corporation ハプティックワーピングシステム
JP2018064264A (ja) 2016-10-07 2018-04-19 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
JP2018102610A (ja) * 2016-12-27 2018-07-05 任天堂株式会社 振動制御システム、振動制御装置、振動制御プログラムおよび振動制御方法
JP2019008798A (ja) * 2017-06-22 2019-01-17 イマージョン コーポレーションImmersion Corporation 注視方向可変の仮想環境における触覚次元

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101498623B1 (ko) * 2008-06-25 2015-03-04 엘지전자 주식회사 휴대 단말기 및 그 제어방법
US10216277B2 (en) 2015-02-25 2019-02-26 Immersion Corporation Modifying haptic effects for slow motion
US10261582B2 (en) * 2015-04-28 2019-04-16 Immersion Corporation Haptic playback adjustment system
WO2017053761A1 (en) * 2015-09-25 2017-03-30 Immersion Corporation Haptic effects design system
WO2018008217A1 (ja) * 2016-07-07 2018-01-11 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005506614A (ja) * 2001-10-10 2005-03-03 イマージョン コーポレイション 触覚フィードバックを使用する音声データ出力および操作
JP2015053043A (ja) * 2013-09-06 2015-03-19 イマージョン コーポレーションImmersion Corporation ハプティックワーピングシステム
JP2018064264A (ja) 2016-10-07 2018-04-19 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
JP2018102610A (ja) * 2016-12-27 2018-07-05 任天堂株式会社 振動制御システム、振動制御装置、振動制御プログラムおよび振動制御方法
JP2019008798A (ja) * 2017-06-22 2019-01-17 イマージョン コーポレーションImmersion Corporation 注視方向可変の仮想環境における触覚次元

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3979044A4

Also Published As

Publication number Publication date
JP7494848B2 (ja) 2024-06-04
US20220244784A1 (en) 2022-08-04
EP3979044A4 (en) 2022-07-06
CN113874815A (zh) 2021-12-31
JPWO2020241170A1 (ja) 2020-12-03
EP3979044A1 (en) 2022-04-06

Similar Documents

Publication Publication Date Title
CN101681663B (zh) 处理音频数据的设备和方法
TWI557730B (zh) 音頻播放裝置及音量調節方法
JP2009147410A (ja) 再生装置、再生方法及び再生システム
WO2020008862A1 (ja) 情報処理装置、情報処理方法及び情報処理装置可読記録媒体
WO2021176842A1 (ja) 復号装置、復号方法、プログラム、符号化装置、符号化方法
JP2015531084A (ja) 主観的忠実度のための音声コンテンツの変換
JP2023116488A (ja) 復号装置、復号方法、プログラム
WO2011158435A1 (ja) 音声制御装置、音声制御プログラム、及び音声制御方法
TWM519370U (zh) 具有可依據聽力生理狀況調整等化器設定之電子裝置及聲音播放裝置
WO2020241170A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2004178558A (ja) コンピュータシステム及びその制御方法
JP4382045B2 (ja) データ出力装置、データ出力方法、データ出力プログラム、および記録媒体
US10923098B2 (en) Binaural recording-based demonstration of wearable audio device functions
JP2011239043A (ja) 体感音響装置用信号処理回路
JP6904255B2 (ja) 情報処理システム及びプログラム
WO2020261805A1 (ja) 情報処理装置、情報処理方法及びプログラム
WO2020158596A1 (ja) 復号装置、復号方法、及びプログラム
US8163991B2 (en) Headphone metronome
WO2020080204A1 (ja) 音響コンテンツ生成装置、音響コンテンツ生成方法、音響コンテンツ再生装置、音響コンテンツ再生方法、音響コンテンツ再生用プログラム、音響コンテンツ提供装置および音響コンテンツ配信システム
JP7172999B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2021177264A (ja) 情報処理装置、情報処理方法、及び、プログラム
TW200816850A (en) An audio media player with multiport
JP5054477B2 (ja) 補聴装置
CN107342096B (zh) 记录声音播放设定的方法及执行该方法的电子装置
JP6661210B1 (ja) 音響コンテンツ生成装置、音響コンテンツ生成方法、音響コンテンツ再生装置、音響コンテンツ再生方法、音響コンテンツ再生用プログラム、音響コンテンツ提供装置および音響コンテンツ配信システム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20814953

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021522737

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2020814953

Country of ref document: EP

Effective date: 20220103