CN112840295A - 信息处理器、信息处理方法和程序 - Google Patents

信息处理器、信息处理方法和程序 Download PDF

Info

Publication number
CN112840295A
CN112840295A CN201980067161.3A CN201980067161A CN112840295A CN 112840295 A CN112840295 A CN 112840295A CN 201980067161 A CN201980067161 A CN 201980067161A CN 112840295 A CN112840295 A CN 112840295A
Authority
CN
China
Prior art keywords
haptic
presentation device
information
control
control signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980067161.3A
Other languages
English (en)
Inventor
伊藤镇
荻田猛史
福马洋平
山野郁男
横山谅
津田崇基
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN112840295A publication Critical patent/CN112840295A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/28Output arrangements for video game devices responding to control signals received from the game device for affecting ambient conditions, e.g. for vibrating players' seats, activating scent dispensers or affecting temperature or light
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/28Output arrangements for video game devices responding to control signals received from the game device for affecting ambient conditions, e.g. for vibrating players' seats, activating scent dispensers or affecting temperature or light
    • A63F13/285Generating tactile feedback signals via the game input device, e.g. force feedback
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/54Controlling the output signals based on the game progress involving acoustic signals, e.g. for simulating revolutions per minute [RPM] dependent engine sounds in a driving game or reverberation against a virtual wall

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明提供了一种信息处理器(10m),该信息处理器设置有控制单元(104),该控制单元基于指示经由触觉感觉呈现设备(2)感知到触觉刺激的感知位置的位置信息和指定触觉刺激的种类的触觉刺激种类信息,并且根据对在触觉感觉呈现设备(2)上提供的一个或更多个触觉刺激部位的布置,生成用于各个触觉刺激部位的触觉控制信号以在感知位置处呈现指定类型的触觉刺激,并且生成脚本,在该脚本中,关于要渲染的内容的时间信息与一个或更多个生成的触觉控制信号彼此相关联。

Description

信息处理器、信息处理方法和程序
技术领域
本公开内容涉及信息处理器、信息处理方法和程序。
背景技术
迄今为止,已经提出了用于向用户呈现诸如振动的触觉刺激的装置。
例如,下面的专利文献1公开了可穿戴式接收装置,其被构造成要由用户穿戴的背心的形状,并且在胸部和腹部周围设有振动单元,并且还描述了仅能够使接收无线电信号的接收区域的特定区域中的设备振动的系统。另外,在下面的专利文献1中描述的穿戴式接收装置的肩部处还设有扬声器;振动单元的振动和扬声器的音频使得可以呈现充满真实感觉的触觉感和音频。
引用列表
专利文献
专利文献1:日本未审查专利申请公开第2018-45270号
发明内容
本发明要解决的问题
向用户呈现诸如振动的触觉刺激的触觉呈现设备能够通过与用户在电影院或主题公园的景点中观看的再现内容同步地执行控制,来进一步放大真实感觉。然而,在假设与再现内容同步进行控制的情况下,尚未充分地构造执行触觉呈现设备的控制数据的生成和再现的系统。
解决问题的方案
根据本公开内容,提出了一种信息处理器,其包括控制单元,该控制单元基于指示使得在触觉呈现设备中感知到触觉刺激的感知位置的位置信息,并且基于指定触觉刺激的类型的触觉刺激类型信息,根据在触觉呈现设备中提供的一个或更多个触觉刺激单元的布置,生成对触觉刺激单元中的每个触觉刺激单元的触觉控制信号以用于在感知位置处呈现指定类型的触觉刺激,并且该控制单元生成脚本,在脚本中,将再现内容中的时间信息与所生成的一个或更多个触觉控制信号彼此相关联。
根据本公开内容,提出了一种信息处理方法,其包括使处理器进行以下操作:基于指示使得在触觉呈现设备中感知到触觉刺激的感知位置的位置信息,并且基于指定触觉刺激的类型的触觉刺激类型信息,并且根据在触觉呈现设备中提供的一个或更多个触觉刺激单元的布置,生成对触觉刺激单元中的每个触觉刺激单元的触觉控制信号,以用于在感知位置处呈现指定类型的触觉刺激,并且生成脚本,在脚本中,关于再现内容的时间信息与一个或更多个所生成的触觉控制信号彼此相关联。
根据本公开内容,提出了一种使计算机用作控制单元的程序,该控制单元基于指示使得在触觉呈现设备中感知到触觉刺激的感知位置的位置信息,并且基于指定触觉刺激的类型的触觉刺激类型信息,并且根据在触觉呈现设备中提供的一个或更多个触觉刺激单元的布置,生成对触觉刺激单元中的每个触觉刺激单元的触觉控制信号,以用于在感知位置处呈现指定类型的触觉刺激,并且生成脚本,在脚本中,关于再现内容的时间信息与一个或更多个所生成的触觉控制信号彼此相关联。
根据本公开内容,提出了一种信息处理器,其包括控制单元,该控制单元基于脚本来获取要输入到触觉呈现设备的触觉控制信号,触觉控制信号与指示再现内容的再现位置的时间码相对应,在脚本中,再现内容的时间信息和指定触觉呈现设备的触觉控制信号的信息相关联,并且控制单元将触觉控制信号输出至触觉呈现设备。
附图说明
[图1]图1示出了根据本公开内容的第一实施方式的信息处理系统的整体配置的示例。
[图2]图2是示出根据第一实施方式的生成装置的配置的示例的框图。
[图3]图3是示出根据第一实施方式的触觉呈现设备控制装置的配置的示例的框图。
[图4]图4是示出根据第一实施方式的在信息处理系统的生成侧上的触觉呈现设备2的控制信息生成的整个处理的流程的示例的流程图。
[图5]图5示出了根据第一实施方式的编辑屏幕的示例。
[图6]图6示出了第一实施方式的触觉呈现设备中的触觉呈现设定的详细设定画面的示例。
[图7]图7是示出根据第一实施方式的使用脚本的再现侧上的整个操作处理的流程的示例的流程图。
[图8]图8描述了根据第一实施方式的触觉呈现设备的控制信号生成单元中的命令处理的示例。
[图9]图9示出了根据第一实施方式的包括偏移信息的脚本的示例。
[图10]图10是示出根据第一实施方式的考虑了偏移信息的触觉呈现设备控制装置20中的命令执行的整个处理的流程的示例的流程图。
[图11]图11描述了根据第一实施方式的触觉呈现位置以线性形状移动的情况。
[图12]图12描述了根据第一实施方式的第一修改示例的不涉及4D系统的系统的构造示例。
[图13]图13描述了根据第一实施方式的第一修改示例的不具有4D系统的系统的构造示例。
[图14]图14是示出根据第一实施方式的第一修改示例的信息处理系统的再现侧上的整个操作处理的流程的示例的流程图。
[图15]图15描述了根据第一实施方式的第二修改示例的响应于每个触觉呈现设备上的简档信息的触觉控制信号的分布。
[图16]图16示出了根据第一实施方式的第二修改示例的针对每种特定简档类型描述的脚本的示例。
[图17]图17示出了根据第一实施方式的第三修改示例的将振动致动器和电阻器串联布置的配置的示例。
[图18]图18描述了根据第一实施方式的第四修改示例的当观看电视广播或通过因特网分发的内容时执行触觉刺激的呈现的示例。
[图19]图19描述了根据第一实施方式的第四修改示例的当观看记录在记录介质中的内容时执行触觉刺激的呈现的示例。
[图20]图20描述了根据第一实施方式的第五修改示例的因特网游戏中的触觉呈现系统。
[图21]图21示出了根据第一实施方式的第五修改示例的描述了用于各个动作的控制命令的脚本的示例。
[图22]图22描述了根据第一实施方式的第六修改示例的通过光通信的时间码分发方法。
[图23]图23描述了根据第一实施方式的第七修改示例的通过光通信的命令分发方法。
[图24]图24描述了根据第一实施方式的第七修改示例的通过使用与用于投影的光源不同的光源进行光通信来执行命令分发的方法。
[图25]图25示出了根据第二实施方式的信息处理系统的整体配置的示例。
[图26]图26是示出根据第二实施方式的生成装置的配置的示例的框图。
[图27]图27是示出根据第二实施方式的信息处理系统的生成侧上的整个操作处理的流程的示例的流程图。
[图28]图28是示出根据第二实施方式的信息处理系统的再现侧上的整个操作处理的流程的示例的流程图。
[图29]图29示出了根据第二实施方式的将触觉控制信号文件的名称描述为命令的脚本的示例。
[图30]图30描述了根据图29中所示的脚本执行对触觉呈现设备的每个振动致动器进行控制(触觉刺激的呈现)的情况。
[图31]图31描述了根据第二实施方式的第一修改示例的不涉及4D系统的系统的构造示例。
[图32]图32是示出根据第二实施方式的第一修改示例的不涉及4D系统的系统的再现侧上的整个操作处理的流程的示例的流程图。
[图33]图33描述了根据第二实施方式的第二修改示例的当观看电视广播的内容时执行触觉刺激的呈现的示例。
[图34]图34是示出根据第三实施方式的编辑画面的示例的(第一)图。
[图35]图35是示出根据第三实施方式的编辑画面的示例的(第二)图。
[图36]图36是示出根据第三实施方式的编辑画面的示例的(第三)图。
[图37]图37是示出根据第三实施方式的编辑画面的示例的(第四)图。
具体实施方式
在下文中,参照附图给出对本公开内容的优选实施方式的详细描述。要注意的是,在本说明书和附图中,通过分配相同的附图标记,省略了对于具有基本上相同功能配置的部件的重复描述。
另外,按照以下顺序给出描述。
1.根据本公开内容的实施方式的信息处理系统的概况
2.第一实施方式(经由4D系统对触觉呈现设备的控制)
2-1.配置示例
(2-1-1.系统配置示例)
(2-1-2.生成装置10的配置示例)
(2-1-3.触觉呈现设备控制装置20的配置示例)
2-2.操作处理
(2-2-1.生成侧上的操作处理)
(2-2-2.再现侧上的操作处理)
补充1...偏移信息的设定
补充2...生成触觉数据时的推荐值的呈现
补充4...触觉呈现设备2与触觉呈现设备控制装置20之间的数据传输
2-3.修改示例
(2-3-1.不涉及4D系统的系统构造的示例)
(2-3-2.响应于每个触觉呈现设备2上的简档信息的触觉控制信号的分发)
(2-3-3.呈现适合于儿童的触觉刺激的实现)
(2-3-4.家庭系统的构造示例)
(2-3-5.因特网游戏中的触觉呈现系统)
(2-3-6.通过光通信进行的时间码分发方法)
(2-3-7.通过光通信进行的命令分发方法)
3.第二实施方式(在生成侧上对触觉控制信号的创建)
3-1.配置示例
3-2.操作处理
(3-2-1.生成侧上的操作处理)
(3-2-2.再现侧上的操作处理)
3-3.修改示例
(3-3-1.不涉及4D系统的系统构造的示例)
(3-3-2.家庭系统的构造示例)
4.第四实施方式(用于触觉呈现的编辑功能的示例)
5.结论
<<1.根据本公开内容的实施方式的信息处理系统的概述>>
根据本公开内容的实施方式的信息处理系统提出了系统,该系统执行对假设与再现内容同步地执行控制的触觉呈现设备的控制数据的生成和再现,并且提出了能够减轻处理负荷并且提高便利性的系统构造。
首先,下面给出本公开内容中使用的触觉呈现设备2(参见图1)的描述。假设在电影院或主题公园的景点中使用触觉呈现设备2,或者假设在家中观看电视或玩游戏时使用触觉呈现设备2。
(触觉呈现设备2)
触觉呈现设备2例如由可穿戴式装置形成。例如,在本实施方式中,假设用户穿戴背心式的触觉呈现设备2。背心式的触觉呈现设备2中包括多个触觉刺激单元(也称为致动器)。例如,可以在用户的前侧和后侧的每个侧上的触觉呈现设备2内部布置预定数目(例如,六个)的触觉刺激单元。作为一个示例,布置在前侧上的各个触觉刺激单元和布置在后侧上的各个触觉刺激单元以彼此相对的位置关系被布置。
应当注意,触觉呈现设备2的形状不限于背心类型(无袖的夹克形状),并且可以是具有袖的夹克形状。在这种情况下,一个或更多个触觉刺激单元不仅可以布置在用户的胸部和腹部处,而且还可以布置在与用户的两只臂相对应的位置处。另外,根据本实施方式的触觉呈现设备2不限于夹克形状,并且还可以是裤子、鞋子、皮带、帽子、手套、口罩等。
另外,一个音频输出单元可以被布置在触觉呈现设备2的左和右肩的每个肩上。替选地,可以在触觉呈现设备2中仅布置一个音频输出单元或者三个或更多个音频输出单元。另外,音频输出单元可以被布置在外围作为独立于触觉呈现设备2的另一装置。
(触觉刺激单元)
在触觉呈现设备2中包括的多个触觉刺激单元彼此分别生成振动的情况下,可以仅在触觉刺激单元的外围感知到所生成的振动。即,在各个触觉刺激单元彼此间隔开的情况下,在用户的身体中可能离散地感知到由各个触觉刺激单元分别生成的振动。
同时,医学上已经澄清了被称为幻觉的错觉现象。幻觉是错觉现象,即当刺激同时呈现在皮肤上的不同位置时,人仅感知到所呈现的刺激位置之间的一个刺激。例如,已知的是,当将刺激同时输出至布置在用户的身体上的两个触觉刺激单元时,由用户感知到的触觉刺激的位置(在下文中称为“感知位置”)通常是两个触觉刺激单元之间的位置。另外,改变多个触觉刺激单元的输出强度,使得可以连续扩大能够由多个触觉刺激单元呈现的触觉刺激的范围,而无需改变布置各个触觉刺激单元的间隔。
作为一个示例,给出了两个触觉刺激单元中的每个触觉刺激单元中的输出强度与感知位置之间的关系(幻觉)的描述。例如,假设随着时间的流逝,第一触觉刺激单元的输出强度连续减小为例如“1”、“0.6”和“0”,并且第二触觉刺激单元的输出强度连续增加为“0”、“0.6”和“1”。在这种情况下,(用户感知的)感知位置可以从第一触觉刺激单元的接触位置连续地移动到第二触觉刺激单元的接触位置。
以这种方式,控制每个触觉刺激单元的输出强度使得可以可选地移动感知位置,而不受限于触觉刺激单元的位置。
因此,当产生触觉呈现设备2的感知效果时,与触觉刺激单元的位置无关地可选地确定感知位置,以设定触觉刺激的强度(称为“感知强度”)和在感知位置上呈现的触觉刺激的类型(称为“触觉刺激类型”)。同时,当控制触觉呈现设备2时,为了在指定的感知位置处呈现设定强度和设定类型的触觉刺激,有必要计算要输入到设置在触觉呈现设备2中的各个触觉刺激单元的信号(称为“触觉控制信号”)。
本实施方式提出了系统的构造,该系统包括产生触觉呈现设备2的感知效果侧(即,生成触觉呈现设备2的控制数据侧)以及与再现同步地控制内容的再现和触觉呈现设备2侧(即,使用上述生成的控制数据来控制触觉呈现设备2侧),该系统能够减少处理负荷并且提高便利性。
应当注意,本文中使用振动刺激作为“触觉刺激”的示例。具体地,触觉呈现设备2设置有振动致动器作为触觉刺激单元,从而呈现振动刺激。另外,“触觉刺激的类型”是指要呈现的感知模式,并且例如假设振动的波形数据(感知的波形数据)。另外,“触觉控制信号”是指输入到设置在触觉呈现设备2中的各个触觉刺激单元(振动致动器)的波形数据(与驱动信号相对应的控制波形数据)。
上面已经给出了根据本公开内容的实施方式的信息处理系统的概况的描述。接下来,参考多个实施方式给出根据本实施方式的信息处理系统的具体描述。
<<2.第一实施方式(经由4D系统对触觉呈现设备的控制)>>
<2-1.配置示例>
(2-1-1.系统配置示例)
图1示出了根据第一实施方式的信息处理系统1a的整体配置的示例。如图1所示,根据本实施方式的信息处理系统1a包括生成装置10、触觉呈现设备控制装置20、影院系统30、4D系统控制装置40和验证系统50。在本实施方式中,假设在电影院中使用触觉呈现设备2的情况。
(再现侧)
影院系统30包括再现控制装置31、投影仪32和屏幕S,并且再现控制装置31使用投影仪32在屏幕S上投影图像(电影内容)以对电影进行放映。另外,影院系统30还与声学系统协作以执行从声学系统再现包括在电影内容中的音频数据的控制,尽管在图1中未给出图示。
再现控制装置31控制电影内容的再现,并且将指示电影内容的再现位置的时间码实时输出至4D系统控制装置40。
4D系统控制装置40具有控制引入到电影院的4D技术的功能。4D技术是指执行与诸如当前时间和空间的三维的尺寸定义不同的新尺寸定义的技术,并且在呈现除数字内容(例如,图像)之外的真实元素时使用。电影院中使用的4D技术的更具体示例包括用于观众欣赏电影的座椅装置(下文中称为“4D座椅”),该座椅装置具有根据电影的放映而振动和移动以及散发空气(风)、水、雾、光、气味等的功能。根据从再现控制装置31接收到的时间码,4D系统控制装置40适当地控制4D座椅4的振动;空气、水、气味等的排放,以实现与电影同步的4D输出。4D系统控制装置40、4D座椅4以及用于从4D座椅4散发空气、水、气味等的外围装置(未示出)在本文中统称为“4D系统”。
另外,与由本系统的生成侧上的生成装置10预先生成的“4D控制信息”(4D系统文件)一致地执行由4D系统控制装置40根据时间码进行的对4D技术的控制。“4D控制信息”包括与对对应于时间码的振动的控制和对空气、水、气味等散发的控制有关的控制命令。应当注意,根据本实施方式的4D控制的详细内容没有特别限制,并且例如,可以使用现有的4D控制。
另外,根据本实施方式的4D系统控制装置40参考文本数据(在本文中称为“脚本”),在参考数据中以与再现内容的时间轴相对应的方式描述触觉呈现设备2的控制命令,该再现内容被包括在预先生成并由本系统的生成侧的生成装置10获取的生成文件中,并且根据从再现控制装置31接收到的时间码将与触觉呈现设备2的控制有关的命令适当地输出至触觉呈现设备控制装置20。
触觉呈现设备控制装置20可以根据从4D系统控制装置40接收到的命令来控制触觉呈现设备2,从而与电影(图像和音频)和4D座椅4同步地呈现触觉刺激。具体地,触觉呈现设备控制装置20根据从4D系统控制装置40接收到的命令来生成触觉控制信号,并且将所生成的触觉控制信号输出至触觉呈现设备2。这样的命令包括振动刺激的感知位置、振动刺激的波形类型以及关于振动刺激的强度信息。触觉呈现设备控制装置20生成(计算)并输出要输入到设置在触觉呈现设备2中的各个触觉刺激单元的触觉控制信号(波形数据),以在由命令指定的感知位置处以指定的强度通过指定的波形呈现振动刺激。
应当注意,对于“振动刺激的波形类型”,指定预先生成并累积在触觉库DB 221中的触觉数据库(即,可以在许多电影中以通用方式使用的基本振动波形模式;在本文中也称为“触觉库”),或者指定基于电影(即,针对在这种情况下要放映的电影创建的振动波形模式)的音频数据生成的触觉数据。从生成侧(经由4D系统控制装置40)获取生成触觉数据,并且将其累积在触觉呈现设备控制装置20中的存储单元中。
另外,音频信号可以用作由触觉呈现设备控制装置20生成的触觉控制信号。例如,在触觉呈现设备2中设置有基于输入的音频信号驱动的振动致动器(例如,能够将输入的音频信号转换为激励信号以将激励信号作为振动输出)的情况下,触觉呈现设备控制装置20生成要输入到各个触觉刺激单元的音频信号(指示音频的波形的数据)作为触觉控制信号(驱动信号),以输出触觉控制信号。
以这种方式,在根据本实施方式的信息处理系统1a中,能够将4D座椅4和触觉呈现设备2组合地引入到电影院中,因此使得可以进一步增强电影的真实感觉,并且从而还给观众带来沉浸感。另外,通过利用4D系统(具体地,4D系统控制装置40)来实现对触觉呈现设备2的控制,可以容易地将触觉呈现设备2引入到已经构建了4D系统的电影院中,并且因此可以将触觉呈现设备2并入到系统中。
随后,给出生成侧的描述,该生成侧用于生成实现对如上所述的4D系统的控制和触觉呈现设备2的控制的控制信息(4D控制信息和“脚本”)。
(生成侧)
生成装置10根据用户(创建者)的操作,生成关于4D系统的控制信息(4D控制信息)和关于触觉呈现设备2的控制信息。根据本实施方式的关于触觉呈现设备2的控制信息是指脚本(文本数据),在脚本中响应于再现内容(例如,电影内容)的时间码来描述控制命令。另外,生成装置10还能够根据再现内容的音频数据(例如,声音效果、BGM或电影内容的对话声音)生成要由触觉呈现设备2呈现的感知数据(触觉数据)。要由生成装置10生成的触觉数据(生成触觉数据)例如是指示振动的波形模式的数据。生成装置10在生成文件中包括响应于再现内容而生成的脚本和生成触觉数据,并且将脚本和生成的触觉数据分发给4D系统控制装置40。应当注意,可以将包括要由生成装置10生成的4D控制信息和关于触觉呈现设备2的控制信息的生成文件经由网络通过有线/无线通信分发到4D系统控制装置40,或者存储数据的存储介质可以安装在4D系统控制装置40中。
另外,当生成装置10生成控制信息时,用户还能够使用位于本地的验证系统50来确认经验。验证系统50包括控制装置52、触觉呈现设备54、4D座椅56和显示装置58。控制装置52在显示装置58上再现电影内容,并且基于由生成装置10生成的控制信息来驱动4D座椅56和触觉呈现设备54,从而能够实际确认感官体验并且能够适当地执行控制信息的校正(反馈)。
上面已经给出了根据本实施方式的系统配置的示例的描述。随后,下面给出本系统中包括的主要装置的具体配置的描述。
(2-1-2.生成装置10的配置示例)
图2是示出根据本实施方式的生成装置10的配置的示例的框图。如图2所示,生成装置10包括控制单元100、通信单元110、操作输入单元120、显示单元130以及存储单元140。
控制单元100用作算术处理器和控制器,并且根据各种程序来控制生成装置10内部的整体操作。控制单元100由诸如CPU(中央处理单元)和微处理器的电子电路实现。另外,控制单元100可以包括:ROM(只读存储器),其存储要使用的程序和算术参数;以及RAM(随机存取存储器),其临时存储适当地变化的参数等。
另外,控制单元100还用作4D控制信息生成单元101、触觉呈现信息生成单元102和触觉数据生成单元103。
4D控制信息生成单元101基于用户(创建者)输入的操作来生成用于控制4D座椅4与再现内容同步的控制信息(4D控制信息)(应当注意,生成装置10预先获取再现内容)。例如,4D控制信息生成单元101生成指示与再现内容的时间码相关联的4D座椅4的振动的控制信号以及空气、水、气味等的散发的控制信号的控制命令。另外,4D控制信息生成单元101在显示单元130上显示用于生成4D控制信息的画面,并且基于由操作输入单元120检测到的用户的操作内容来生成4D控制信息。在本说明书中,对4D控制信息的细节没有特别的限制;例如,可以使用现有的4D控制技术。
触觉呈现信息生成单元102基于用户(创建者)输入的操作,生成用于控制触觉呈现设备2与再现内容同步的控制信息。具体地,触觉呈现信息生成单元102与再现内容(例如,电影内容)的时间码相关联地生成描述控制命令的脚本(文本数据)。控制命令包括振动刺激的感知位置、振动刺激的波形类型以及关于振动刺激的强度信息。另外,触觉呈现信息生成单元102在显示单元130上显示用于脚本生成的画面,并且基于由操作输入单元120检测到的用户的操作内容来生成脚本。用于脚本生成的画面可以被添加到用于生成用于显示的4D控制信息的画面。本系统可以在用于生成要由生成装置10激活的4D控制信息的应用(4D控制信息生成单元101的功能)中提供作为插件的脚本生成功能(触觉呈现信息生成单元102的功能),该脚本生成功能是关于触觉呈现设备2的控制信息。稍后参照图5,给出在提供脚本生成功能作为用于生成4D控制信息的现有应用的插件的情况下的显示画面的示例的描述。
触觉数据生成单元103具有根据再现内容的音频数据(声音效果、BGM(背景音乐)、对话声音等)生成要由触觉呈现信息生成单元102呈现的触觉刺激的感知模式(即,触觉数据)的功能(根据触觉数据生成单元103中的再现内容的音频数据生成的触觉数据在本文中也称为“生成触觉数据”)。再现内容的音频数据可以被提供为例如电影内容中的音频轨道。假设在电影内容内生成(使用)的定时处将音轨与时间信息一起分配给声音效果的音频数据。另外,假设BGM是单独的声源,其中对于要使用的每首音乐(包括时间信息)分离音轨,并且将L/R分离。应当注意,BGM可以不仅用于L/R的分离音轨,还有用于5.1声道扬声器的分离音轨。触觉数据生成单元103允许用户选择使用哪个音轨,并且从所选择的音轨生成触觉数据。另外,还可以在电影内容中生成的定时处将音轨与时间信息一起分配给对话声音。
用于根据音频数据(音频轨道)生成触觉数据的算法不受特别限制。然而,例如,触觉数据生成单元103执行用于以下操作的处理:从音频信号中提取节拍分量(频谱计算、时间导数、节拍确定等);生成节拍波形;使用所生成的节拍波形作为增益来放大音频信号的至少预定频带,以生成可以用作触觉数据的强调节拍的音频信号。应当注意,在从音频信号中提取节拍分量的情况下的算术处理中,触觉数据生成单元103可以参考存储在简档DB143中的触觉呈现设备2的简档信息(例如,共振频率等)以适当地调整参数。
另外,可以由创建者根据对话的内容、语调、音量等手动地执行根据对话声音生成触觉数据。
通信单元110通过有线或无线方式耦合至外部装置以发送和接收数据。通信单元110可以通过例如有线/无线LAN(局域网)、Wi-Fi(注册商标)、蓝牙(注册商标)、移动通信网络(LTE(长期演进))、3G(第三代移动通信系统)等耦合至网络,并且可以经由网络向外部装置发送数据或者从外部装置接收数据。
根据本实施方式的通信单元110例如经由网络将所生成的4D控制信息、脚本以及生成触觉数据发送至验证系统50或4D系统控制装置40。
操作输入单元120从用户接收操作指令,并且将操作内容输出至控制单元100。操作输入单元120可以是触摸传感器、压力传感器或接近度传感器。替选地,操作输入单元可以是诸如按钮、开关和控制杆的物理配置。
显示单元130是输出用于生成控制信息的画面等的显示装置。显示单元130可以是例如诸如液晶显示器(LCD:Liquid Crystal Display)、有机EL(电致发光)显示器的显示装置。
存储单元140由存储控制单元100的处理中使用的程序、算术参数等的ROM(只读存储器)以及临时存储适当变化的参数等的RAM(随机存取存储器)来实现。具体地,根据本实施方式的存储单元140包括例如触觉库DB 141、生成触觉数据DB 142和简档DB 143。
触觉库DB 141存储预先生成的触觉数据库(振动波形模式)。触觉库DB 141的触觉数据库是电影院侧的触觉库DB 221通用的数据。在本实施方式中,描述脚本以利用电影院侧预先拥有的触觉数据库使得电影院侧能够基于目标触觉数据库来呈现触觉刺激,而无需将目标触觉数据发送至电影院侧。这使得可以能够减少要分发给4D系统控制装置40的数据量。
生成触觉数据DB 142存储基于再现内容的音频数据由生成装置10生成的生成触觉数据(振动的波形模式)。生成触觉数据与脚本一起被包括在生成文件中,并且被分发给4D系统控制装置40。
简档DB 143将简档信息存储在电影院要使用的触觉呈现设备2上。具体地,例如,将诸如触觉呈现设备2的振动致动器的数目及其位置(x,y)、瞬态响应特性(1至5)以及共振频率(Hz)的信息存储为简档信息。基于这样的简档信息,例如,触觉呈现信息生成单元102能够生成并显示感知位置的选择画面(显示振动致动器的布置),并且能够在触觉呈现设备2中计算延迟量,以在脚本的控制代码中设定时间轴的偏移信息。另外,当触觉数据生成单元103从音频数据生成触觉数据时,可以通过参考简档信息来适当地调整参数。应当注意,验证系统50的触觉呈现设备54还能够通过利用具有与触觉呈现设备2的配置文件相似的配置文件的体验来更可靠地确认体验。
上面已经给出了根据本实施方式的生成装置10的配置的具体描述。应当注意,生成装置10的配置不限于图2所示的示例,并且例如,可以将生成装置10的一部分设置在外部装置中。
(2-1-3.触觉呈现设备控制装置20的配置示例)
图3是示出根据本实施方式的触觉呈现设备控制装置20的配置的示例的框图。如图3所示,触觉呈现设备控制装置20包括控制单元200、通信单元210和存储单元220。
控制单元200用作算术处理器和控制器,并且根据各种程序来控制触觉呈现设备控制装置20内部的整体操作。控制单元200由诸如CPU(中央处理单元)和微处理器的电子电路实现。另外,控制单元200可以包括:ROM(只读存储器),其存储要使用的程序和算术参数;以及RAM(随机存取存储器),其临时存储适当地变化的参数等。
另外,控制单元200还用作控制信号生成单元201和输出控制单元202。
控制信号生成单元201根据从4D系统控制装置40接收到的命令,生成触觉控制信号(要输入到各个振动致动器的控制信息),以驱动设置在触觉呈现设备控制装置20中的一个或更多个振动致动器。
该命令包括感知位置(触觉刺激的呈现位置)、感知强度(触觉刺激的强度)和触觉刺激的类型。响应于命令中指定的感知位置和感知强度,控制信号生成单元201识别多个振动致动器以在感知位置处感知预定的感知强度,确定(计算)每个振动致动器的振动强度,并且生成要相应的控制信号以输出至多个振动致动器。如上所述,在本实施方式中,基于被称为幻觉的错觉现象来调整多个振动致动器的输出强度,使得可以在除了各个振动致动器的布置位置之外的位置处也呈现触觉刺激。
具体地,基于位于指定的感知位置附近和指定的感知位置的多个振动致动器之间的各自的位置关系(距离),并且基于指定的感知强度,控制信号生成单元201计算多个振动致动器中的每个振动致动器的输出强度以在感知位置处呈现预定的感知强度。另外,控制信号生成单元201根据命令指定的触觉刺激的类型,生成要生成的控制信号的波形模式。关于命令指定的触觉刺激的类型,假设存储在触觉库DB 221中的触觉数据库或者分布并存储在生成触觉数据DB 222中的生成触觉数据。
应当注意,如本文所使用的,“感知位置”还可以包括感知位置的运动路径(感知路径)。另外,“感知位置”不仅包括身体的表面,还包括身体的内部。使用如上所述的被称为幻觉的错觉现象,使得还可以呈现例如从身体的前表面穿透到后表面的这样的触觉刺激。此外,在本实施方式中,除了感知位置之外,还可以将感知范围包括在命令中。感知范围可以是例如具有半径的圆或弧。另外,还可以指定如下元素,例如在感知范围内的强度是否均匀,触觉刺激是否同心地延伸(在这种情况下,也是扩展速度),触觉刺激是否从外周向中心同心地移动等。这些元素的指定可以例如在脚本中描述的控制命令中包括的“触觉呈现位置”(“原点(x,y),半径”等)中定义。
输出控制单元202具有通过使用触觉呈现设备I/F 212将由控制信号生成单元201生成的每个触觉控制信号发送到触觉呈现设备2(或触觉呈现设备2的振动致动器)来控制触觉呈现设备2的振动输出(触觉刺激的呈现)的功能。
通信单元210通过有线或无线方式耦合至外部装置以发送和接收数据。通信单元210可以通过例如有线/无线LAN(局域网)、Wi-Fi(注册商标)、蓝牙(注册商标)、移动通信网络(LTE(长期演进))、3G(第三代移动通信系统)等耦合至网络,并且可以经由网络向外部装置发送数据或者从外部装置接收数据。
根据本实施方式的通信单元210包括系统I/F(接口)211和触觉呈现设备I/F 212。系统I/F 211是向系统发送数据和从系统接收数据的通信单元。例如,系统I/F 211与4D系统通信耦合,并且4D系统控制装置40参考脚本,以接收根据从影院系统30获取的时间码以及由4D系统控制装置40从生成装置10获取的生成文件中提取的生成触觉数据而发布的命令。另外,触觉呈现设备I/F 212是向触觉呈现设备2发送数据和从触觉呈现设备2接收数据的通信单元。例如,触觉呈现设备I/F 212从触觉呈现设备2获取简档信息,并且将由控制信号生成单元201生成的触觉控制信号发送至触觉呈现设备2。
存储单元220由存储控制单元200的处理中使用的程序、算术参数等的ROM(只读存储器)以及临时存储适当变化的参数等的RAM来实现。具体地,根据本实施方式的存储单元220包括例如触觉库DB 221、生成触觉数据DB 222和简档DB 223。
触觉库DB 221存储预先生成的触觉数据库(振动波形模式)。生成触觉数据DB 222存储由生成装置10基于再现内容的音频数据生成的生成触觉数据(振动波形模式)。生成触觉数据可以由4D系统控制装置40从生成装置10获取的生成文件中提取,并且可以经由系统I/F 211从4D系统控制装置40发送。
简档DB 223将简档信息存储在触觉呈现设备2上。具体地,例如,将诸如触觉呈现设备2的振动致动器的数目及其位置(x,y)、瞬态响应特性(1至5)、共振频率(Hz)、频率特性(dB)、最大输入电压(Vpp)、处理(延迟)时间(ms)和版本信息(ID)的信息存储为简档信息。
振动致动器的数目是指在触觉呈现设备2中设置的振动致动器的总数。另外,振动致动器的位置可以通过将触觉呈现设备2的中心设定为原点的坐标(x,y)来表示。另外,可以包括设置在触觉呈现设备2的前表面上的振动致动器的坐标系和设置在触觉呈现设备2的后表面上的振动致动器的坐标系。
瞬态响应特性是指从触觉呈现设备2的静止状态到触觉呈现设备2正确地跟随输入信号的状态的反应程度(例如,该反应程度可以被划分为1级至5级)。另外,共振频率是指振动致动器有效地振动的频率。另外,频率特性是指将共振频率的加速度设置为零(dB)时的每个频率的加速度(例如,由“频率,dB值”的组合表示)。另外,最大输入电压是指在正常使用期间可以施加的最大电压值(例如,信号波形的峰到峰的值)。另外,处理(延迟)时间是指在触觉呈现设备2侧期望的信号处理时间,并且是指该时间发生的延迟。
此处,下面阐述简档信息的数据配置的示例。在该示例中,各个振动致动器的位置由x轴方向(-5至5)和y轴方向(-5至5)的坐标系,其中触觉呈现设备2的中心被设置为原点(0,0)。
·简档信息的数据配置示例
数目:9
位置:(-4.0,2.5),(0.0,4.0),(4.0,2.5),
(-3.0,-0.5),(0.0,0.0),(3.0,-0.5),
(-3.0,-2.5),(0.0,-4.0),(3.0,-2.5)
瞬态:3
共振:100
频率特性:(10,-2.5),(50,-6),(100,0)...
最大输入电压:20
处理延迟时间:300
上面给出了根据本实施方式的触觉呈现设备控制装置20的配置的具体描述。另外,触觉呈现设备控制装置20的配置不限于图3所示的示例,并且例如也可以将触觉呈现设备控制装置20的一部分设置在外部装置中。
<2-2.操作处理>
随后,参照附图给出根据本实施方式的信息处理系统的操作处理的具体描述。
(2-2-1.生成侧上的操作处理)
图4是示出根据本实施方式的在信息处理系统的生成侧上的触觉呈现设备2的控制信息生成的整个处理的流程的示例的流程图。
如图4所示,首先,生成装置10的控制单元100接受用户(创建者)在再现内容的时间轴上对触觉呈现位置的选择(步骤S103)。例如,控制单元100在显示单元130上呈现如图5所示的编辑画面1300。编辑画面1300在时间轴上显示再现内容的音频数据(L/R)的波形,并且还显示用于4D座椅的设定画面1320和用于触觉呈现设备2的设定画面1330。在浏览再现内容的音频数据的波形以及再现内容的图像(未示出)的同时,用户在设定画面1320和设定画面1330上指定4D座椅4或触觉呈现设备2在其上生成振动等的时间区域(时间定位的位置)。设定画面1320和设定画面1330具有与再现内容相对应的时间轴的呈现,因此,使得可以指定由4D座椅4或触觉呈现设备2生成振动等的时间区域。例如,用户在显示在触觉呈现设备2的设定画面1330上的时间轴上,指定期望由触觉呈现设备2通过滑动操作生成振动等的时间区域1331。另外,当通过敲击(或点击等)操作选择了指定时间区域1331时,如图6所示,显示用于执行更具体的设定的详细设定画面1340。在详细的设定画面1340中,可以执行接下来描述的触觉类型(振动刺激的波形类型)的选择(步骤S109)、触觉呈现位置(感知位置)的设定(步骤S112)以及感知强度的调整(步骤S115)。
在触觉类型(振动刺激的波形类型)的选择中(步骤S109),如在图6的详细设定画面1340中所示,除了从预先生成的触觉库中进行选择(例如,典型的波形模式)(参见选择画面1344)之外,还可以从根据再现内容的音频数据生成的触觉数据中进行选择(参见选择画面1345)。
具体地,当用户选择声音数据(声音效果/BGM/对话声音)时(步骤S118),控制单元100由触觉数据生成单元103基于所选择的声音数据来生成触觉数据(步骤S121)。声音数据的选择可以通过在图6所示的选择画面1345中围绕每个声音(声音效果/BGM/对话声音)的波形数据的矩形来执行。
用户能够例如从选择画面1344或选择画面1345中选择波形数据,并且通过拖放操作将所选择的波形数据移动到任何触觉呈现位置(或触觉呈现路径)上,从而在触觉呈现位置(或触觉呈现路径)中设定触觉刺激的类型。触觉刺激的设定类型例如以与时间轴相对应的方式显示在图6所示的时间序列显示图像1342上。
从再现内容的音频数据生成触觉数据的上述功能也可以作为插件2被添加到现有的4D系统编辑应用中。
接下来,在设定触觉呈现位置(感知位置)(步骤S112)中,可以由用户可选地设定感知位置(或感知路径)。例如,如图6所示,在指示触觉呈现设备2的各个振动致动器的位置521a至521i的设定画面1341中,可以通过诸如敲击、点击或滑动的操作来指定感知位置523以及感知位置523移动通过的路径524。
然后,在感知强度的调整中(步骤S115),用户可以可选地在感知位置(或感知路径)处设定感知强度。以与时间轴相对应的方式例如在图6所示的时间序列显示图像1343中显示设定的感知强度。
随后,控制单元100将关于设定的感知位置、触觉类型和强度的信息输出至验证系统50(步骤S124)。在验证系统50中,基于从生成装置10获取的关于感知位置、触觉类型和强度的信息,控制装置52生成(计算)要输入到触觉呈现设备54的振动致动器的触觉控制信号,并且将所生成的触觉控制信号输出至触觉呈现设备54。这使得可以在触觉呈现设备54中在使用设定内容来实际驱动触觉呈现设备2的情况下,验证身体感觉。因此,期望触觉呈现设备54的简档与触觉呈现设备2的简档相似。
重复从步骤S103至步骤S124的上述处理,直到完成与再现内容有关的所有设计(步骤S127/否)。应当注意,基本上可以重复进行S106及其之后的处理,并且在用户通过操作明确地表明改变或在再现内容的时间轴上添加触觉呈现位置的意图的情况下,处理可以进行至步骤S103。
当与再现内容有关的所有设计完成时(步骤S127/是),触觉呈现信息生成单元102基于关于设定的感知位置、触觉类型和强度的信息来生成脚本(步骤S130)。具体地,触觉呈现信息生成单元102与再现内容的时间码(时间轴)相关联地生成描述控制命令的文本数据。控制命令包括关于感知位置、触觉类型和强度的信息。控制命令可以被加密。
在存在脚本的情况下,所生成的脚本与生成触觉数据一起被包括在“生成文件”中,并且被分发给再现侧(例如,4D系统控制装置40)。另外,由生成装置10生成的4D控制信息也一起被分发到再现侧。
还可以将上述生成脚本的功能作为插件1添加到现有的4D系统编辑应用。
(2-2-2.再现侧上的操作处理)
随后,参照图7,给出使用由生成装置10生成的脚本在再现侧上的操作处理的描述。图7是示出根据本实施方式的使用脚本的再现侧上的整个操作处理的流程的示例的流程图。作为示例,在此假设再现侧是电影院并且再现内容是电影内容的情况。
如图7所示,当开始电影内容的再现时(步骤S153),再现控制装置31将指示电影内容中的再现位置的时间码分发给4D系统控制装置40(步骤S156)。重复时间码的分发,直到电影内容的再现完成(步骤S159)。
同时,4D系统控制装置40(从生成装置10)获取4D控制信息和至少包括脚本的生成文件(步骤S162)。
接下来,在生成触觉数据被包括在生成文件中的情况下,4D系统控制装置40将生成触觉数据发送至触觉呈现设备控制装置20(步骤S165)。
然后,触觉呈现设备控制装置20存储从4D系统控制装置40接收的生成触觉数据(步骤S168)。
接下来,当从再现控制装置31分发时间码时,4D系统控制装置40参考4D控制信息以根据时间码来驱动4D系统(步骤S171)。
然后,4D系统控制装置40参考脚本以根据相同的时间码执行命令发布处理(步骤S174)。具体地,4D系统控制装置40从脚本描述中提取与所分发的时间码相对应的控制命令,并且发布所提取的控制命令作为命令(可以是加密的命令)。
4D系统控制装置40向触觉呈现设备控制装置20发布命令(步骤S177)。
4D系统控制装置40重复从上述步骤S171至步骤S177的处理,直到完成从再现控制装置31接收到时间码(步骤S180)。应当注意,当时间码的接收完成时,4D系统控制装置40向触觉呈现设备控制装置20发布结束命令以完成处理。
随后,在从4D系统控制装置40发布的命令不是结束命令的情况下(步骤S183/否),触觉呈现设备控制装置20基于由控制信号生成单元201的命令生成触觉控制信号(可以是驱动振动致动器的音频信号)(步骤S186)。
接下来,触觉呈现设备控制装置20将所生成的触觉控制信号输出至触觉呈现设备2(或触觉呈现设备2的每个振动致动器)(步骤S189)。
此处,参照图8,给出由控制信号生成单元201进行的命令处理的具体描述。图8描述了根据本实施方式的触觉呈现设备2的控制信号生成单元201中的命令处理的示例。如图8所示,当输入命令时,触觉呈现设备控制装置20的控制信号生成单元201分析所输入的命令,并且提取波形类型、触觉呈现位置、强度和偏移信息(稍后描述其细节)。在命令被加密的情况下,控制信号生成单元201对被加密的命令进行解密,并且提取波形类型、触觉呈现位置、强度和偏移信息。
然后,基于波形类型,控制信号生成单元201获取触觉库或生成触觉数据(基本上,从目标波形数据的开头开始使用,但是在脚本的控制命令中添加了诸如“从几秒钟的位置使用”的信息的情况下,遵循这样的信息)。接下来,控制信号生成单元201考虑所获取的触觉数据和触觉呈现位置,以识别多个振动致动器并计算要输入到各个振动致动器的触觉控制信号(波形数据)。在计算时,控制信号生成单元201参考触觉呈现设备2的简档信息(数目/位置、瞬态响应特性、共振频率和振动致动器的频率特性)。
接下来,基于从命令中提取的“强度”,控制信号生成单元201执行增益调整,例如对要输出至各个振动致动器的以上计算出的触觉控制信号的信号幅度的放大和衰减。应当注意,在信号幅度放大时,控制信号生成单元201参考简档信息,并且执行算术运算以不允许输出等于或大于“最大输入电压”。另外,当信号幅度衰减时,可以在等于或小于预定水平的情况下执行将值设定为“0”的算术运算。这使得可以消除小的噪音。
然后,在通过命令分析提取偏移信息的情况下,控制信号生成单元201考虑到前一级的延迟量(在控制信号生成单元201的处理中从命令输入到当前时间点所生成的延迟量),基于偏移信息执行信号延迟处理。具体地,例如,在将偏移信息设定为4s的情况下,如果前一级的延迟量为3s,则在经过1s之后将生成的触觉控制信号输出至触觉呈现设备2。此外,控制信号生成单元201可以执行信号延迟,其中减去在后一级中生成的“处理时间”的量(例如,利用触觉呈现设备2进行的数据传输或触觉呈现设备2中的处理延迟量)。例如,在将偏移信息设定为5s的情况下,如果从简档信息中获取前一级的延迟量为2s而后一级生成的“处理时间”为2s的信息,由于这些值的减法,可以执行控制以允许在1s之后将触觉控制信号输出至触觉呈现设备2。应当注意,在未设定偏移信息的情况下,跳过这样的信号延迟处理。
如上所述,使用由生成装置10生成的脚本并插入4D系统控制装置40使得可以实现与再现内容和4D系统同步地对触觉呈现设备2的控制。
在本实施方式中,再现侧的触觉呈现设备控制装置20基于脚本中描述的控制命令来生成触觉控制信号,并且仅包括具有相对较小数据量的文本数据的脚本作为从生成装置10侧接收的数据就足够了。这使得可以减少在生成侧与再现侧之间的数据分发的量。
·补充1...偏移信息的设定
在从4D系统控制装置40发布的命令中包括偏移信息的情况下,根据本实施方式的触觉呈现设备控制装置20能够在考虑了偏移信息而设定的定时处控制触觉呈现设备2(执行命令)。
当在生成装置10中生成脚本时,可以设定偏移信息。例如,触觉呈现信息生成单元102认为再现侧的处理延迟量(例如,触觉呈现设备控制装置20的处理延迟量)能够自动设定相对于时间轴的偏移信息,或者使得用户能够可选地设定相对于时间轴的偏移信息。
图9示出了根据本实施方式的包括偏移信息的脚本的示例。如图9所示,假设脚本中将包括触觉呈现位置、波形类型、强度和偏移信息的控制命令(可以被加密)与时间轴相关联。
4D系统控制装置40根据从再现控制装置31发布的时间码,向触觉呈现设备控制装置20发布关联命令(包括偏移信息)。在接收到命令之后,触觉呈现设备控制装置20在经过命令中包括的偏移信息的时间之后执行命令(具体地,将根据该命令生成的触觉控制信号输出至触觉呈现设备2)。这使得可以消除在触觉呈现设备控制装置20中产生的处理延迟量。
例如,在图9所示的示例中,在时间码0s的定时处向触觉呈现设备控制装置20发布在脚本中描述的第一行中的控制命令,并且触觉呈现设备控制装置20由于偏移信息“0(s)”而立即生成触觉控制信号并将其输出至触觉呈现设备2。同时,在时间码1s的定时处向触觉呈现设备控制装置20发布图9的脚本中描述的第二行中的控制命令,但是,触觉呈现设备控制装置20由于偏移信息“2(s)”而在接收到命令后2s将生成的触觉控制信号输出至触觉呈现设备2(执行命令)。在这种情况下,在再现内容的时间轴上,实际上在“3s”的定时处执行第二行中的控制命令。以这种方式,偏移信息“2(s)”的设定允许触觉呈现设备控制装置20的处理时间有裕度,从而使得可以消除触觉呈现设备控制装置20的处理延迟量。在下文中,参照图10给出具体描述。
图10是示出根据本实施方式的考虑了偏移信息的触觉呈现设备控制装置20中的命令执行的整个处理的流程的示例的流程图。
如图10所示,当从4D系统控制装置40接收到命令时(步骤S203),触觉呈现设备控制装置20获取包括在命令中的偏移信息(n秒)(步骤S206)。
接下来,在对于偏移信息(n秒)n>0成立的情况下(步骤S209/是),触觉呈现设备控制装置20以1秒为单位重复n-1的运算处理(步骤S212),直到n变为零或小于零。
在n变为零或小于零的情况下(步骤S209/否),触觉呈现设备控制装置20执行命令(步骤S215)。应当注意,触觉呈现设备控制装置20可以在接收到命令之后与来自上述步骤S206至步骤S212的处理并行地基于该命令执行触觉控制信号的生成的处理。
上面给出已经考虑了偏移信息的命令执行的处理的描述。应当注意,在以上步骤S212中指示的偏移信息和减去的值可以是等于或小于小数点的值。
另外,触觉呈现设备控制装置20可以观察从接收到命令起经过的时间,并且与偏移信息进行比较以确定用于执行的定时。
另外,作为考虑了偏移信息的命令执行的处理的结果,取决于偏移信息,存在命令接收的顺序和命令执行的顺序可能彼此不一致的情况。
·补充2...生成触觉数据时的推荐值的表示
在上述根据再现内容的音频数据生成触觉数据(能够作为插件2添加的功能)中,触觉数据生成单元103能够基于音频数据一起自动选择触觉呈现位置和强度,并且将触觉呈现位置和强度作为推荐值呈现给用户。例如,在图6的选择画面1345中选择了声音效果、BGM或对话的情况下,触觉数据生成单元103基于所选择的音频数据生成触觉数据(波形模式),并且还基于这样的音频数据自动计算触觉呈现位置(感知位置)和强度(感知强度),其中例如触觉呈现位置和强度可以作为推荐值呈现在图6的设定画面1341中。用户还可以修改呈现的推荐值。
另外,触觉呈现位置的推荐值的呈现不限于如图6所示的点形状的移动;然而,如图11所示,还可以呈现线性形状(可以包括直线或曲线)的垂直、水平或倾斜移动等(或旋转)。应当注意,当用户可选地设定感知位置时,也可以输入这样线性形状的移动。
例如,在所选择的音频数据(例如,诸如BGM或音效的SE)是立体声数据并且声源正在移动的情况下,与声源的移动方向匹配的触觉呈现位置可以被呈现为触觉呈现位置的推荐值。另外,作为强度的推荐值,例如,可以呈现与所选择的音频数据的量(音量)匹配的强度。另外,当根据量(音量)推荐强度时,触觉呈现信息生成单元102可以不反映等于或小于预定值的小音量。
以这种方式,基于音频数据自动呈现诸如感知位置的推荐值使得可以减少创建者要处理的步骤的数目。
另外,在从音频数据产生的触觉数据接近于现有触觉库的数据的情况下,触觉数据生成单元103可以推荐触觉库的数据。创建者未掌握的触觉库的选择使得可以减少要分发的数据量。
·补充3...关于AMP(放大器)的安装位置
在触觉呈现设备2以有线方式耦合至触觉呈现设备控制装置20的情况下,优选在触觉呈现设备控制装置20侧设置(安装在一个位置)AMP(放大器)。
另外,在将触觉呈现设备2无线地耦合至触觉呈现设备控制装置20的情况下,由于无线地分发放大的数据的负荷大,因此优选在触觉呈现设备2侧设置AMP(放大器)或电池。
另外,在触觉呈现设备2以有线方式耦合至4D座椅4以经由4D系统控制装置40和4D座椅4从触觉呈现设备控制装置20向触觉呈现设备2输出控制信号的情况下(在这种情况下,可以将触觉呈现设备控制装置20的功能添加到4D系统控制装置40),优选地在4D座椅4侧设置AMP。
另外,在触觉呈现设备2无线地耦合至4D座椅4以经由4D系统控制装置40和4D座椅4从触觉呈现设备控制装置20向触觉呈现设备2输出控制信号的情况下(在这种情况下,可以将触觉呈现设备控制装置20的功能添加到4D系统控制装置40),由于无线地分发放大数据的负荷大,因此优选地在触觉呈现设备2侧设置AMP(放大器)或电池。
·补充4...关于触觉呈现设备2与触觉呈现设备控制装置20之间的数据传输
在触觉呈现设备2与触觉呈现设备控制装置20之间的数据传输中,可以提供用于振动致动器的数目的信道(例如,在触觉呈现设备2中提供12个振动致动器的情况下,提供12个信道)。
另外,为了减少信道的数目,可以使用并行/串行转换来执行数据传输。即使对于多个振动致动器,这使得也可以在一个信道中执行数据传输。然而,在这种情况下,在触觉呈现设备2侧发生串行/并行转换的延迟。具体地,当触觉呈现设备控制装置20执行并行/串行转换输出以执行与触觉呈现设备2的串行通信时,与并行通信的情况相比,有必要提高通信速度;然而,即使假设最短情况的示例,也可能发生延迟。即,例如,在将四条并行数据转换成一条串行数据的情况下,期望将通信速度提高四倍或更多;然而,例如,即使假设四倍通信速度并且转换延迟为零的最短情况的示例,当串行转换和发送四条并行数据时,即使对于最短情况,也可能发生等于1.5个分组的延迟(在要转换的数据大小被称为一个分组的情况下)。另外,即使对于最短的情况,并行数据的数目的增加使得逐渐地更接近于等于2.0个分组的延迟。因此,在本实施方式中,可以通过设定“单独延迟”来预先使用偏移信息来应对以这种方式可能发生的延迟,并且从而消除延迟量。
另外,对于在触觉呈现设备2中生成的延迟量,除了由于如上所述的并行/串行转换而导致的延迟之外,例如,在将分组通信用于在触觉呈现设备控制装置20与触觉呈现设备2之间的数据传输的情况下,可能发生由于连续数据的分组化而导致的传输延迟或处理延迟。同样在这种情况下,可以通过设定“单独延迟”预先使用偏移信息来应对延迟。
另外,可以对数字数据执行并行/串行转换,并且可以在触觉呈现设备2侧设置AMP。
另外,可以对要被发送至触觉呈现设备2的触觉控制信号(触觉波形数据)执行频移,以在每个信道中执行频率复用通信(在这种情况下,在触觉呈现设备2侧设置AMP)。
<2-3.修改示例>
接下来,给出对本实施方式的修改示例的描述。
(2-3-1.不涉及4D系统的系统构造的示例)
如图1所示,在前述实施方式中,4D系统控制装置40从再现控制装置31获取时间码,并且响应于时间码参考脚本以将命令适当地发布到触觉呈现设备控制装置20,但是本公开内容不限于此;可以构造不涉及4D系统的系统。例如,可以假设存在没有引入4D系统的电影院中利用触觉呈现设备2的情况、引入4D系统但是在不涉及4D系统时构造触觉呈现设备2的控制系统的情况、或者其他情况。
(配置)
图12描述了根据第一实施方式的第一修改示例的不涉及4D系统的系统的构造的示例。图12中所示的信息处理系统1b包括生成装置10A和触觉呈现设备控制装置20A。
在图2所示的生成装置10的配置中,生成装置10A被配置成不包括4D控制信息生成单元101。触觉呈现设备控制装置20A获取由生成装置10A生成的至少包括脚本的生成文件。然后,当从再现控制装置31获取再现内容的时间码时,触觉呈现设备控制装置20A参考脚本以适当地执行命令。具体地,基于从再现控制装置31接收的时间码,触觉呈现设备控制装置20A从脚本中提取对应的控制命令(在加密的情况下,对所提取的控制命令进行解密),并且根据控制命令生成触觉控制信号以将所生成的触觉控制信号输出至触觉呈现设备2(或触觉呈现设备2的每个振动致动器)。
另外,图13描述了根据本修改示例的没有4D系统的系统(信息处理系统1b’)的构造的示例。在图13所示的示例中,省略了生成侧的配置的图示;同样在这种情况下,信息处理系统1b’包括生成装置10A和触觉呈现设备控制装置20A。
(操作处理)
在生成装置10A中的脚本生成的处理与参照图4描述的前述第一实施方式的处理类似,并且因此这里省略对其的详细描述。
图14是示出根据本修改示例的信息处理系统1b的再现侧的整个操作处理的流程的示例的流程图。如图14所示,当电影内容的再现开始时(步骤S303),再现控制装置31将指示电影内容中的再现位置的时间码分发给触觉呈现设备控制装置20A(步骤S306)。重复时间码的分发,直到电影内容的再现完成(步骤S309)。
同时,触觉呈现设备控制装置20A(从生成装置10)获取至少包括脚本的生成文件(步骤S312)。在对脚本中描述的控制代码进行加密的情况下,触觉呈现设备控制装置20A对加密的控制代码进行解密。
接下来,当从再现控制装置31分发时间码时,触觉呈现设备控制装置20A参考脚本以根据时间码进行命令执行的处理(步骤S315)。具体地,触觉呈现设备控制装置20A首先从脚本的描述中提取与所分发的时间码相对应的时间轴的控制命令。
然后,触觉呈现设备控制装置20A基于所提取的控制命令生成触觉控制信号(其可以是驱动振动致动器的音频信号)(步骤S318)。
接下来,触觉呈现设备控制装置20A将所生成的触觉控制信号输出至触觉呈现设备2(或触觉呈现设备2的每个振动致动器)(步骤S321)。
然后,触觉呈现设备控制装置20A重复上述步骤S315至步骤S318中指示的处理,直到完成从再现控制装置31接收时间码(步骤S324)。
(效果)
如上所述,在本修改示例中,在不涉及4D系统的情况下,可以使触觉呈现设备控制装置20A基于脚本和时间码来控制触觉呈现设备2中的触觉刺激的呈现。这使得能够引入到未设置4D系统的电影院等中,从而允许更广泛的各种引入目的地。使得能够引入到越来越多的电影院等中,允许降低系统的单价,从而允许系统的更多商业开发被预期。
另外,采用系统配置以基于再现侧的脚本生成触觉控制信号仅需要从生成侧分发脚本(文本数据),从而使得可以减少数据量。
(2-3-2.响应于每个触觉呈现设备2上的简档信息的对触觉控制信号的分发)
并非在再现侧使用的触觉呈现设备2的所有简档信息(设备的类型)都需要相同。也就是说,例如,不是电影院中的所有人都需要佩戴共同的触觉呈现设备2,并且由各个人带入的触觉呈现设备2可以混合地呈现。在这种情况下,假设每个触觉呈现设备2上的简档信息可以变化;如图15所示,根据本修改示例的触觉呈现设备控制装置20能够从每个触觉呈现设备2获取简档信息,参考每个简档信息,并且生成和发送与触觉呈现设备2相对应的各个触觉控制信号。图15描述了根据本实施方式的第二修改示例的响应于每个触觉呈现设备2上的简档信息对触觉控制信号的分发。
如图15所示,各个触觉呈现设备2(2a至2e)具有不同(类型)的简档信息(Pr-A到Pr-E)。例如,假设振动致动器的数目/位置、瞬态响应特性、共振频率、频率特性、最大输入电压、处理(延迟)时间等变化。
触觉呈现设备控制装置20可以基于关于每个触觉呈现设备2的简档信息,将最大可用值的触觉控制信号分发到单个的触觉呈现设备2。
应当注意,在每个触觉呈现设备2具有ID(类型信息等)的情况下,触觉呈现设备控制装置20可以基于从每个触觉呈现设备2获取的ID从数据库(数据库可以被包括在触觉呈现设备控制装置20中或可以被设置在网络上)获取简档信息,在该数据库中,ID和简档信息彼此相关联。
这使得可以利用与用户的偏好相匹配的触觉呈现设备2。例如,用户能够购买和利用与他或她自己的身体构造匹配的触觉呈现设备2,而不是由电影院租用的通用的触觉呈现设备2。穿戴与身体构造匹配的触觉呈现设备2使得在触觉呈现设备2呈现触觉刺激时可以完全展现身体感觉的性能。
另外,在人由于振动产生的刺痒感而期望避免振动致动器布置在人的身体部位(腹部、背部、侧面等)(腹部、背部、侧面等)的情况,或者在人由于使用心脏起搏器而需要将振动致动器布置在安全位置的情况,因此存在一些人不能通过通用的触觉呈现设备2来体会身体感觉。即使这样的人也能够通过将为每个人定制的触觉呈现设备2带入电影院中来使用而体会身体感觉。
以这种方式,使得触觉呈现设备控制装置20能够应对触觉呈现设备2之间的简档的差异,这使得仅需要基于生成侧(生成装置10)的标准型简档来描述控制命令,从而使得更容易在每个电影院中唯一地引入新型的触觉呈现设备2。
另外,当在电影院中执行恢复放映时,也不需要在生成侧生成新脚本,并且触觉呈现设备控制装置20能够通过反映当前在电影院中使用的触觉呈现设备2的简档并生成触觉控制信号来进行对应。
应当注意,生成侧可以参考标准简档或预定简档来生成控制命令,或者可以使用特定类型的简档来生成控制命令。在使用特定类型的简档来生成控制命令的情况下,生成装置10可以针对每个特定简档类型来描述控制命令。此处,图16示出了针对每个特定简档类型描述的脚本的示例。
如图16所示,针对每个特定简档类型描述触觉呈现位置(x坐标,y坐标)、波形类型和强度。另外,可以针对简档类型共同设定偏移信息,并且可以由触觉呈现设备控制装置20侧管理每个简档的延迟。基于从每个触觉呈现设备2获取的ID,触觉呈现设备控制装置20使用每个对应简档类型的控制命令来生成触觉控制信号。应当注意,在没有对应的简档类型的情况下,触觉呈现设备控制装置20可以使用预定的标准简档类型(例如Pr-A)。
(2-3-3.呈现适合于儿童的触觉刺激的实现)
在本实施方式中,在触觉呈现设备2由儿童穿戴的情况下,可以调整触觉呈现的强度以使得儿童也能够更安全地享受。
具体地,例如,每个单独的触觉呈现设备2可以基于触觉呈现设备2的尺寸(或基于设定)来确定儿童/成人使用情况,以调整来自每个振动致动器的触觉呈现的强度。也就是说,从触觉呈现设备控制装置20传输的通用触觉控制信号(在触觉呈现设备控制装置20侧上均匀放大的触觉控制信号)经受信号衰减,以为每个儿童驱动触觉呈现设备2中的振动致动器。替选地,通过改变各个触觉呈现设备2中的各个信号放大因子(对于儿童是低信号放大因子,并且对于成人是高信号放大因子)来放大从触觉呈现设备控制装置20传输的通用触觉控制信号,以驱动振动致动器。
应当注意,作为在用于儿童的触觉呈现设备2侧执行信号衰减(在触觉呈现设备控制装置20侧均匀放大的触觉控制信号)的方式,例如,可以通过配置串行布置的振动致动器和电阻器来使信号经受分压。图17示出了串行布置振动致动器和电阻器的配置的示例。在如图17所示的用于儿童的触觉呈现设备2中,即使对于相同的电压,串行的振动致动器和电阻器的布置也使得用于儿童的触觉呈现设备2能够将与用于成人的电压相比施加到致动器的电压减半(相同的振动致动器可以用于成人和儿童两者)。
如上所述,根据本修改示例,即使对于在由于鉴于躯体效果用于成人的触觉呈现设备2的年龄限制而不能体会身体感觉的儿童,也能够通过在儿童穿戴的触觉呈现设备2中执行强度调整(信号衰减等)来体会身体感觉。因此,诸如动画的电影内容也属于利用触觉呈现设备2的电影,这在娱乐方面是有利的。此外,如图17所示的配置,简化用于调整强度的机构使得可以廉价地制造用于儿童的触觉呈现设备2。
(2-3-4.家庭系统的构造的示例)
上述再现侧的系统不限于在上述电影院中观看电影。例如,在家中的用户穿戴触觉呈现设备2以观看TV广播的或通过因特网分发的内容(戏剧、电影、记录片等)的情况下,上述再现侧的系统与内容的再现同步地通过触觉呈现设备2执行触觉刺激的呈现,从而使得可以在除了电影院之外的位置提供充满真实感觉的观看体验。
在下文中,参照图18和图19,给出对适用于家庭的情况下的系统的构造的示例的描述。
图18描述了当观看TV广播或通过因特网分发的内容执行触觉刺激的呈现的示例。在这种情况下,如图18所示,从广播站60和流服务器66与TV广播上的或通过流分发的内容一起来分发至少包括脚本的生成文件。脚本的分发可以在内容再现之前(在节目广播开始之前等)执行。
具有显示功能的电视装置62或PC 68再现内容,并且基于指示要再现的内容的再现位置的时间码参考脚本,以顺序地向触觉呈现设备控制装置20传输对应的命令(电视装置62或PC 68具有根据所获取的脚本分发命令的功能)。另外,在生成触觉数据也被包括在生成文件中的情况下,电视装置62或PC 68预先将生成触觉数据发送至触觉呈现设备控制装置20。
触觉呈现设备控制装置20根据从电视装置62或PC 68接收的命令生成触觉控制信号,并且将所生成的触觉控制信号发送至触觉呈现设备2(或设置在触觉呈现设备2中的每个振动致动器)。与前述实施方式类似,命令包括触觉刺激的呈现位置、强度、触觉刺激波形的类型、偏移信息等。另外,在命令被加密的情况下,触觉呈现设备控制装置20对加密的命令进行解密以生成触觉控制信号。另外,触觉呈现设备控制装置20包括触觉库DB 221,在触觉库DB中累积预先生成的触觉库(呈现波形模式),当根据从电视装置62或PC 68分发的命令生成触觉控制信号时,适当地使用该触觉库。
另外,在本修改示例中,不仅在TV广播或通过因特网分发的内容中,而且当用户使用诸如蓝光(注册商标)盘或DVD的记录介质观看内容时,可以控制触觉呈现设备2与再现内容同步,以执行触觉刺激的呈现。在下文中,参照图19给出详细描述。
图19描述了根据本修改示例的当观看记录在记录介质中的内容时执行触觉刺激的呈现的示例。在记录介质7中,记录了图像数据(内容)和至少包括脚本的生成文件。再现装置64从记录介质7中读取内容和生成文件。
具有显示功能的再现装置64再现内容,并且基于指示要再现的内容的再现位置的时间码参考脚本以顺序地将对应的命令发送至触觉呈现设备控制装置20。另外,在生成触觉数据也被包括在生成文件中的情况下,再现装置64预先将生成触觉数据发送至触觉呈现设备控制装置20。
触觉呈现设备控制装置20根据从再现装置64接收的命令生成触觉控制信号,并且将所生成的触觉控制信号发送至触觉呈现设备2(或设置在触觉呈现设备2中的每个振动致动器)。与前述实施方式类似,命令包括触觉刺激的呈现位置、强度、触觉刺激波形的类型、偏移信息等。另外,在命令被加密的情况下,触觉呈现设备控制装置20对加密的命令进行解密以生成触觉控制信号。另外,触觉呈现设备控制装置20包括触觉库DB 221,在触觉库DB中累积预先生成的触觉库(呈现波形模式),当根据从再现装置64分发的命令生成触觉控制信号时,适当地使用该触觉库DB。应当注意,作为使用记录介质(媒体介质)的示例,除了图19所示的配置之外,可以想到如下配置,在该配置中在触觉呈现设备控制装置20中设定脚本盘并且触觉呈现设备控制装置20执行来自脚本的命令。即,预先准备用于内容和脚本的双重光盘;在(多功能)再现装置中设定内容盘,并且在触觉呈现设备控制装置20中设定脚本盘。再现装置从内容盘再现内容,并且将再现的音频数据输入至触觉呈现设备控制装置20。触觉呈现设备控制装置20根据所输入的音频数据提取定时,并且根据脚本执行命令。此处,在脚本中,与音频数据的模式而不是时间信息相关联地描述控制命令。
如上所述,当观看在TV广播上或通过因特网分发的内容时,脚本也被分发在TV广播等上,从而导致触觉呈现设备2使用户能够感觉到与最新内容相对应的触觉刺激的身体感觉。
另外,同样在观看存储介质中存储的内容时,从存储介质中读取脚本导致触觉呈现设备2使得用户能够感觉到与存储在存储介质中的内容相对应的触觉刺激的身体感觉。用户还可以在喜欢的时间反复地感觉仅喜欢的场景的身体感觉(bodily sensation)。
应当注意,观看在TV广播或通过因特网分发的内容时的操作处理不限于图18所示的示例。在图18所示的示例中,已经给出了示例的描述,在该示例中,从广播站60或流服务器66将脚本分发到家庭的再现装置(电视装置62或PC 68),以使再现装置生成并分发命令。但是,本修改示例不限于此;广播站60或流服务器66可以响应于要再现的内容的时间码而参考脚本来分发命令。
家庭中的再现装置(电视装置62或PC 68)将所接收的命令输出至触觉呈现设备控制装置20,并且触觉呈现设备控制装置20根据该命令生成触觉控制信号以将触觉控制信号发送至触觉呈现设备2。
此时,当从生成侧获取的生成文件中包括生成触觉数据时,广播站60或流服务器66预先(内容分发之前)经由TV广播将生成触觉数据发送至再现装置(电视装置62或PC68)。再现装置(电视装置62或PC 68)将所接收的生成触觉数据发送至触觉呈现设备控制装置20。
以这种方式,广播站侧与再现内容同步地分发对应的命令,并且触觉呈现设备控制装置20根据该命令生成触觉控制信号,从而使得可以在不向家庭再现装置(电视装置62或PC 68)增加命令生成功能的情况下,利用在电影院系统中使用的触觉呈现设备控制装置20。
(2-3-5.因特网游戏中的触觉呈现系统)
随后,给出作为本实施方式的第五修改示例的因特网游戏中的触觉呈现系统的描述。
图20描述了根据本实施方式的第五修改示例的因特网游戏中的触觉呈现系统。此处,假设用户观看显示在显示装置84上的游戏画面时,穿戴触觉呈现设备2并使用控制器86等操作游戏的情况。操作信息的输入不限于控制器86的操作,并且可以是声音输入、基于用户的运动的手势输入等。用于家庭的游戏再现装置82控制显示装置84以显示游戏画面。另外,游戏再现装置82还控制从设置在显示装置84中的扬声器和外围扬声器输出游戏声音。此处,假设从因特网上的游戏服务器80获取并且通过游戏再现装置82输出游戏信息的情况。另外,游戏再现装置82包括触觉呈现设备的控制单元,并且可以执行要输入到触觉呈现设备2的触觉控制信号的生成。
在通过用户操作在游戏中发生某些动作的情况下(与用户操作无关地在游戏中发生某种动作的情况下),游戏再现装置82将已经发生的动作通知给游戏服务器80。
游戏服务器80包括描述与游戏相对应的触觉呈现控制的脚本,并且提取与在游戏中已经发生的动作(再现内容)相对应的命令,以将所提取的命令输出至游戏再现装置82。此处,图21示出了根据本修改示例的描述各个动作的控制命令的脚本的示例。如图21所示,在一个脚本文件中定义多个动作。另外,针对每个动作定义命令组。一个动作被限定几百(ms)到几(s)。在每个动作的最后波形类型的输出完成的时间点处,对应于该动作的触觉刺激的呈现完成。另外,与动作相对应的命令优选地被共同地发送至游戏再现装置82(针对基于因特网的通信的波动的对策)。另外,可以可选地在游戏再现装置82侧调整触觉刺激的强度(如图21中所示的“强度:*”)。
然后,游戏再现装置82根据所接收的命令生成触觉控制信号,并且将所生成的触觉控制信号输出至触觉呈现设备2。因此,在本修改示例中,触觉呈现设备2呈现与游戏中已经发生的诸如爆炸的动作相对应的触觉刺激,从而使得用户能够实际感觉到游戏中已经发生的动作的身体感觉并且获得真实感觉。
应当注意,游戏再现装置82可以预先被提供有触觉库的数据库,并且可以在游戏开始之前预先从游戏服务器80接收(下载)要在游戏中使用的生成触觉数据。
另外,在游戏开始之前,将触觉呈现设备2的简档上传到游戏再现装置82。
另外,此处,假设游戏再现装置82是固定型专用装置,但是本修改示例不限于此,并且也可以是例如与显示装置84通用集成的游戏再现装置82,例如智能电话或PC。
另外,此处给出以因特网游戏分发的情况为例的描述,但是本实施方式不限于此;使游戏再现装置82执行游戏服务器80的功能能够应用于在本地执行游戏的情况。另外,本实施方式还适用于通过因特网分发竞赛型游戏的情况。在这种情况下,还假设一个玩家的动作可以使得向另一玩家给出触觉呈现。也就是说,对用户的触觉呈现不限于源自用户他自己或她自己采取的动作或游戏进度的触觉呈现,并且还假设源自另一用户的触觉呈现。
如上所述,可以提供即使在执行游戏的情况下也能够实现更加真实感觉的系统。另外,提供交互式系统使得可以进一步增加用户的身体感觉的价值。
(2-3-6.通过光通信进行的时间码分发方法)
在参照图1、图12和图13描述的应用于电影院的各个系统(信息处理系统1、信息处理系统1b和信息处理系统1b’)中,使用经由有线/无线通信耦合从影院系统30分发的时间码,以使触觉呈现设备控制装置20与影院系统30同步;然而,本公开内容不限于此。
例如,如图22所示,可以采用如下方法,在该方法中,由投影仪32投影在屏幕S上的时间码被触觉呈现设备控制装置20B读取,以获取该时间码。
触觉呈现设备控制装置20B观察投影在屏幕S上的图像(通过可见光、IR摄像装置等连续地捕获图像),以从观察结果中提取同步分量(此处是时间码)。具体地,例如,投影仪32使用可见光或IR光在要投影的图像上叠加指示从再现控制装置31传输的时间码的闪烁(blink)。
应当注意,通过光通信的时间码分发不限于使用来自屏幕S的反射光的方案;可以由触觉呈现设备控制装置20B观察来自投影仪32的直射光以提取时间码。
另外,要投影到屏幕S上的同步信号可以不投影到整个屏幕S上,而是投影到其有限部分上。
以这种方式,在本修改示例中,使用用于时间码的分发的光通信,使得可以独立地安装影院系统30和触觉呈现设备控制装置20(而不需要通过有线/无线耦合到影院系统30或耦合到影院系统30的4D系统控制装置40)。
(2-3-7.通过光通信的命令分发方法)
另外,对触觉呈现设备控制装置20的命令分发不限于通过如图1所示的来自4D系统控制装置40的有线/无线耦合进行的分发;例如,如图23所示,可以采用如下方法,在该方法中通过每个触觉呈现设备2B读取由影院系统30的投影仪32投影在屏幕S上的命令。
如图23所示,触觉呈现设备2B通过观察单元22(例如可见光或IR摄像装置)观察投影在屏幕S上的图像,以从观察结果中提取触发分量(此处是命令)。具体地,例如,投影仪32使用可见光或IR光在要投影的图像上叠加指示从再现控制装置31传输的命令的闪烁。
触觉呈现设备2B包括生成触觉控制信号的控制单元24。控制单元24根据从观察结果中提取的命令生成要输入到每个振动致动器的触觉控制信号,以控制振动致动器。也就是说,触觉呈现设备2B可以使用命令信号的接收(光接收)作为触发,以由命令指定的触觉波形来呈现触觉。
应当注意,通过光通信的命令分发不限于使用来自屏幕S的反射光的方案;可以通过触觉呈现设备2B观察来自投影仪32的直射光以提取命令。
另外,要投影到屏幕S上的触发信号可以不投影到屏幕S的整个表面上,而是投影到其有限部分。
以这种方式,在本修改示例中,采用无线命令分发并向触觉呈现设备2B提供生成触觉控制信号的功能,允许触觉呈现设备2B本身是无线的(在这种情况下,触觉呈现设备2B由电池驱动),从而使得更容易将系统引入到电影院中(因为不需要在每个座椅中安装布线)。另外,对于各个触觉呈现设备2B的简档之间的差异,控制单元24执行相对于标准简档的差异处理等,从而使得更容易将观众他自己或她自己带入触觉呈现设备2B。
另外,通过使触觉呈现设备2B是无线的,使得还可以在允许人们在游戏或吸引物中以自由视点在虚拟空间等中四处移动的漫游(Walkthrough)系统中利用根据本修改示例的触觉呈现设备2B。
应当注意,作为实际应用示例,可以由触觉呈现设备控制装置20使用与用于投影内容(图像)的光源不同的光源来输出要被投影在屏幕S上的命令。图24描述了通过使用与投影光源不同的光源的光通信来执行命令分发的方法。
如图24所示,当从再现控制装置31接收到时间码时,触觉呈现设备控制装置20C参考脚本以提取命令、控制设置在屏幕S的一部分中或其附近的发光单元34,并且控制指示该命令的光的输出。
触觉呈现设备2B通过观察单元22(例如可见光或IR摄像装置等)观察从发光单元发出的光,并且从观察结果中提取触发分量(此处是命令)。具体地,例如,触觉呈现设备控制装置20C使用可见光或IR光从发光单元34输出指示命令的闪烁。
触觉呈现设备2B包括生成触觉控制信号的控制单元24。控制单元24根据从观察结果中提取的命令生成要输入到每个振动致动器的触觉控制信号,以控制振动致动器。也就是说,触觉呈现设备2B可以使用命令信号的接收(光接收)作为触发,以由命令指定的触觉波形来呈现触觉。
<<3.第二实施方式(在生成侧创建触觉控制信号)>>
随后,参照图25至图33给出在生成侧创建触觉控制信号的情况的描述。在前述第一实施方式中,根据通过参考在生成侧生成的脚本而提取的命令,在再现侧生成要输入到触觉呈现设备2的每个振动致动器的触觉控制信号;然而,本公开内容不限于此。在本公开内容的第二实施方式中,给出在生成侧预先生成响应于再现内容而输入到每个振动致动器的触觉控制信号并且将包括触觉控制信号的生成文件输出至再现侧的情况的描述。
根据本实施方式,减轻了触觉呈现设备控制装置20m中的算术处理(生成触觉控制信号的处理)的负担,从而使得可以抑制要引入到例如电影院中的触觉呈现设备控制装置20m的规格(处理性能)。
<3-1.配置示例>
(整体配置)
图25示出了根据第二实施方式的信息处理系统1c的整体配置的示例。如图25所示,根据本实施方式的信息处理系统1c包括生成装置10m、触觉呈现设备控制装置20m、影院系统30、4D系统控制装置40和验证系统50。在本实施方式中,假设在电影院中使用触觉呈现设备2的情况。
与参照图1描述的第一实施方式不同,在本实施方式中,生成装置10m生成触觉控制信号文件,并且将该触觉控制信号文件分发到4D系统控制装置40。该触觉控制信号文件是要输入到每个振动致动器的振动波形模式的数据。也就是说,生成装置10m考虑触觉呈现位置、强度、波形类型等(基于触觉呈现设备2的简挡),基于用于当前内容(例如,要放映的电影)的触觉数据(期望感知的波形模式)执行算术运算,以生成要输入到触觉呈现设备2的每个振动致动器的触觉控制信号。
另外,生成装置10m还生成与再现内容的时间轴相对应的脚本,并且将所生成的脚本分发到4D系统控制装置40。在脚本中描述与时间轴相对应的触觉控制信号文件名。
4D系统控制装置40在电影开始之前将触觉控制信号文件发送至触觉呈现设备控制装置20m。触觉呈现设备控制装置20m将触觉控制信号文件累积在触觉控制信号文件DB224中。
然后,4D系统控制装置40根据从再现控制装置31分发的时间码,基于脚本的描述,将指示对应的触觉控制信号文件名的命令输出至触觉呈现设备控制装置20m。触觉呈现设备控制装置20m将由该命令指定的触觉控制信号文件输出至触觉呈现设备2。此时,触觉呈现设备控制装置20m可以根据从触觉呈现设备2获取的简档被稍微调整,然后可以将触觉控制信号输出至触觉呈现设备2。触觉呈现设备控制装置20m可以被配置成在第一实施方式中的参照图3描述的各个配置当中不包括触觉控制信号生成功能(控制信号生成单元201)。
(装置的配置)
接下来,参照图26,给出根据本实施方式的生成装置10m的配置的描述。图26是示出根据本实施方式的生成装置10m的配置的示例的框图。如图26所示,生成装置10m包括控制单元100m、通信单元110、操作输入单元120、显示单元130和存储单元140。此处省略了对与参照图2描述的相同的附图标记的配置的详细描述。
根据本实施方式的控制单元100m还用作4D控制信息生成单元101、触觉呈现信息生成单元102、触觉数据生成单元103和触觉控制信号生成单元104。
触觉控制信号生成单元104生成触觉控制信号(要输入到每个单个的振动致动器的控制信号),用于在再现期间驱动触觉呈现设备2中设置的每个振动致动器。具体地,触觉控制信号生成单元104根据用户(创建者)输入的操作,生成驱动各个振动致动器以按照指定的触觉刺激类型并且以指定的强度在指定的触觉呈现位置处呈现触觉刺激的触觉控制信号(例如,音频信号数据)。应当注意,触觉控制信号是针对振动致动器(针对信道的数目)生成的,并且是针对各个场景独立生成的。也就是说,要输入到各个振动致动器的触觉控制信号不是被生成为遍及整个内容的一个数据,而是被生成为在内容中触觉呈现设备2在其中被振动的各个场景的独立数据(文件)。
响应于再现内容的时间轴,在触觉呈现信息生成单元102中生成描述由触觉控制信号生成单元104生成的触觉控制信号的文件名的脚本。应当注意,在第一实施方式中描述的图5至图6能够应用于脚本生成期间的操作画面。另外,与第一实施方式类似,可以从由触觉数据生成单元103基于由用户选择的再现内容的声音效果、BGM或对话的音频数据生成的生成触觉数据(波形模式)中,或者从预先生成并累积在触觉库DB 141中的(通用)触觉库(波形模式)中选择触觉刺激类型。另外,与第一实施方式类似,触觉呈现位置和强度可以被自动选择并作为推荐值呈现给用户。例如,当基于声音效果、BGM或对话的音频数据生成触觉数据(波形模式)时,基于相同音频数据的触觉呈现位置(感知位置)和强度(感知强度)可以被自动计算并作为推荐值呈现在画面上。此外,用户还可以改变所呈现的推荐值。
<3-2.操作处理>
接下来,参照图27和图28,给出根据本实施方式的信息处理系统1c的操作处理的描述。
(3-2-1.生成侧上的操作处理)
图27是示出根据本实施方式的信息处理系统的生成侧的整个操作处理的流程的示例的流程图。
图27中所示的从步骤S103至步骤S127的每个处理与参照图4描述的相同附图标记所指示的处理类似。
接下来,生成装置10m的触觉控制信号生成单元104基于触觉呈现位置、触觉刺激类型和用户指定的强度来生成驱动每个振动致动器的触觉控制信号(例如,音频信号数据)的文件(步骤S128)。
然后,触觉呈现信息生成单元102生成脚本(文本数据),在该脚本中,与再现内容的时间码(时间轴)相关联地描述触觉控制信号的文件名(作为命令)(步骤S131)。应当注意,与第一实施方式类似,在生成脚本时,触觉呈现信息生成单元102可以参考触觉呈现设备2的简档(例如,处理延迟量)以将偏移信息适当地包括在命令中。另外,与第一实施方式类似,可以考虑再现侧的处理延迟量(例如,触觉呈现设备控制装置20的处理延迟量)自动执行偏移信息的设定,或者可以由用户可选地设定偏移信息。另外,与第一实施方式类似,根据本实施方式的生成装置10m可以针对每个特定简档类型生成触觉控制信号,并且针对每个特定简档类型描述控制代码,或者可以基于标准简档类型生成触觉控制信号。在基于标准简档类型生成触觉控制信号的情况下,可以根据简档类型(根据与标准简档类型的差异)来适当地调整触觉控制信号并在再现侧进行输出。
所生成的脚本与触觉控制信号一起被包括在“生成文件”中,并且被分发到再现侧(例如,4D系统控制装置40)。另外,在生成装置10m中生成的4D控制信息也被一起分发到再现侧(例如,4D系统控制装置40)。
上述生成脚本和触觉控制信号的功能可以作为插件1被添加到现有的4D系统编辑应用。
(3-2-2.再现侧的操作处理)
随后,参照图28,给出对其中如上所述分发所生成的生成文件的再现侧的操作处理的描述。图28是示出根据本实施方式的信息处理系统的再现侧的整个操作处理的流程的示例的流程图。
在图28所示的每个处理中,与参照图7描述的处理类似的处理由相同的附图标记表示,并且此处省略对其的详细描述。此处主要给出与根据第一实施方式的再现侧的操作处理的不同方面的描述。
首先,4D系统控制装置40获取4D控制信息以及包括脚本和触觉控制信号文件的生成文件(步骤S163)。
接下来,4D系统控制装置40将包括在生成文件中的触觉控制信号文件发送至触觉呈现设备控制装置20m(步骤S166)。
然后,触觉呈现设备控制装置20m存储从4D系统控制装置40接收的触觉控制信号文件(步骤S169)。
接下来,当从再现控制装置31分发时间码时,4D系统控制装置40参考4D控制信息以根据时间码驱动4D系统(步骤S171)。
另外,根据相同的时间码,4D系统控制装置40参考脚本以执行命令发布处理(步骤S174)。具体地,4D系统控制装置40从脚本的描述中提取与分发的时间码相对应的触觉控制信号文件名(其可以是加密数据),以作为命令发布。此处,图29示出了其中触觉控制信号文件名被描述为命令的脚本的示例。如图29所示,触觉控制信号文件名被描述为根据再现内容的时间轴输出的命令。另外,由触觉控制信号文件名指示的触觉控制信号是与每个振动致动器相对应的文件。在图29所示的示例中,假设输出被给予触觉呈现设备2中设置的振动致动器1到4(四个振动致动器)。例如,脚本的第一行指示要输入到振动致动器1(致动器1(Act1))的触觉控制信号文件1-a、要输入到振动致动器2(致动器2(Act2))的触觉控制信号文件2-a、要输入到振动致动器3(致动器3(Act3))的触觉控制信号文件3-a、以及要输入到振动致动器4(致动器4(Act4))的触觉控制信号文件4-a。
应当注意,这些文件名可以被加密。
然后,4D系统控制装置40根据时间码向触觉呈现设备控制装置20m发布命令(步骤S177)。
接下来,在从4D系统控制装置40发布的命令不是结束命令的情况下(步骤S183/否),触觉呈现设备控制装置20m从触觉控制信号文件DB 224中读取由该命令指定的触觉控制信号文件(步骤S187),并且将读取的触觉控制信号文件输出至触觉呈现设备2(或触觉呈现设备2的每个振动致动器)(步骤S189)。另外,在从4D系统控制装置40分发的命令的内容被加密的情况下,触觉呈现设备控制装置20m对加密进行解密,并且通过触觉控制信号文件DB 224读取来提取触觉控制信号文件名。另外,在命令包括偏移信息的情况下,考虑到这一点,与第一实施方式类似地对触觉控制信号执行输出控制。
此处参照图30给出根据图29所示的脚本执行触觉呈现设备2的每个振动致动器(致动器1至致动器4)的控制(触觉刺激的呈现)的情况的描述。例如,根据响应于再现内容的0.0s处的时间码而发布的命令1(图29中所示的第一行命令)的内容,触觉呈现设备控制装置20m在振动致动器1(致动器1)处再现触觉控制信号文件1-a,在振动致动器2(致动器2)处再现触觉控制信号文件2-a,在振动致动器3(致动器3)处再现触觉控制信号文件3-a,并且在振动致动器4(致动器4)处再现触觉控制信号文件4-a。再现时间可以根据各个触觉控制信号文件而变化。
接下来,根据响应于再现内容的0.8s处的时间码而发布的命令2(图29中所示的第二行命令)的内容,触觉呈现设备控制装置20m在振动致动器2(致动器2)处再现触觉控制信号文件2-b。
随后,根据响应于再现内容的1.8s处的时间码而发布的命令3(图29中所示的第三行命令)的内容,触觉呈现设备控制装置20m在振动致动器2(致动器2)处再现触觉控制信号文件2-c,并且在振动致动器4(致动器4)处再现触觉控制信号文件4-b。
以这种方式,根据命令,触觉呈现设备控制装置20m将触觉控制信号输入到对应的振动致动器以用于再现(呈现触觉刺激)。
以上已经给出对根据第二实施方式的信息处理系统的具体描述。应当注意,即使在存在与用于不同文件名的触觉控制信号相同的数据的情况下(例如,在触觉控制信号文件1-a和触觉控制信号文件1-d是相同的音频信号数据的情况下),生成装置10m也能够通过在生成脚本时描述在触觉控制信号文件1-d的位置处触觉控制信号文件1-a的使用情况来减小传输数据的大小。在这种情况下,例如,图29所示的命令的第九行中的“7.0s:1-d,4-d”被描述成“7.0s:1-a,4-d”。
另外,包括在生成文件中的触觉控制信号文件可以被存储在4D系统控制装置40中,并且4D系统控制装置40可以被控制成参考命令以根据时间码将对应的触觉控制信号文件发送至触觉呈现设备2。即,安装具有图25所示的触觉呈现设备控制装置20m的功能的4D系统控制装置40,使得可以简化再现侧的系统。
随后,给出本实施方式的修改示例的若干描述。
<3-3.修改示例>
(3-3-1.不涉及4D系统的系统构造的示例)
如图25所示,在前述实施方式中,4D系统控制装置40从再现控制装置31获取时间码,并且响应于该时间码参考脚本以适当地向触觉呈现设备控制装置20m发布命令,但是本公开内容不限于此;可以构建不涉及4D系统的系统。例如,可以假设在没有引入4D系统的电影院中利用触觉呈现设备2的情况、引入4D系统但是在不涉及4D系统的情况下构造触觉呈现设备2的控制系统的情况、或者其他情况。
(配置)
图31描述了根据第二实施方式的第一修改示例的不涉及4D系统的信息处理系统1d的构造的示例。图31中所示的信息处理系统1d包括生成装置10n和触觉呈现设备控制装置20n。
在图26所示的生成装置10m的配置中,生成装置10n被配置成不包括4D控制信息生成单元101。触觉呈现设备控制装置20n获取由生成装置10n生成的包括脚本和触觉控制信号文件的生成文件。然后,当从再现控制装置31获取再现内容的时间码时,触觉呈现设备控制装置20n参考脚本以适当地执行命令。具体地,基于从再现控制装置31接收的时间码,触觉呈现设备控制装置20n从脚本中提取对应的命令(在加密的情况下解密所提取的命令),并且将由该命令指定的触觉控制信号输出至触觉呈现设备2(或触觉呈现设备2的每个振动致动器)。触觉控制信号文件DB 224存储从生成文件中提取的触觉控制信号文件。
图31例示了在不涉及4D系统的情况下,在应用4D系统的电影院中,触觉呈现设备控制装置20n与再现内容同步地控制触觉呈现设备2的情况;然而,本系统当然也适用于未引入4D系统的电影院。
(操作处理)
生成装置10n中的脚本生成的处理与参照图27描述的上述第二实施方式的处理类似,并且因此此处省略对其的详细描述。
图32是示出根据本修改示例的信息处理系统1d的再现侧的整个操作处理的流程的示例的流程图。在图32所示的每个处理中,与参照图14描述的处理类似的处理由相同的附图标记表示,并且此处省略对其的详细描述。此处主要给出与根据第一实施方式的第一修改示例的再现侧的操作处理的不同方面的描述,其中在再现侧生成触觉控制信号。
如图32所示,触觉呈现设备控制装置20n(从生成装置10n)获取包括脚本和触觉控制信号文件的生成文件(步骤S313)。触觉控制信号文件存储在触觉控制信号文件DB 224中。
接下来,当从再现控制装置31分发再现内容的时间码时,触觉呈现设备控制装置20n参考脚本,以根据时间码执行命令执行的处理(步骤S315)。
然后,触觉呈现设备控制装置20n从触觉控制信号文件DB 224中读取由所提取的命令指定的触觉控制信号文件(其可以是驱动振动致动器的音频信号)(步骤S319)。
接下来,触觉呈现设备控制装置20n将所读取的触觉控制信号输出至触觉呈现设备2(或触觉呈现设备2的每个振动致动器)(步骤S322)。
如上所述,在本修改示例中,可以使触觉呈现设备控制装置20n在不涉及4D系统的情况下基于脚本读取与时间码相对应的触觉控制信号,并且将所读取的触觉控制信号输出至触觉呈现设备2,从而使得可以控制触觉刺激的呈现。这使得能够引入到未提供4D系统的电影院等中,从而允许更广泛的各种引入目的地。使得能够引入到越来越多的电影院等中,允许降低系统的单价,从而允许预期系统的更多商业开发。
另外,采用系统配置来基于再现侧的脚本读取触觉控制信号使得可以减轻再现侧的处理负荷。
(3-3-2.家庭系统的构造的示例)
上述再现侧的系统不限于如上所述的在电影院中观看电影。与第一实施方式的修改示例类似,例如,在用户在家中穿戴触觉呈现设备2以观看在TV广播上或通过因特网分发的内容(戏剧、电影、记录片等)的情况下,或者在用户玩因特网游戏的情况下,触觉呈现设备2可以与内容的再现或在游戏中发生的动作同步地执行触觉刺激的呈现,从而使得即使在电影院之外的位置也可以提供具有真实感觉的观看体验。
在下文中,参照图33,给出应用于家庭的系统的构造的示例的描述。
图33描述了根据本修改示例的当观看TV广播上的内容时执行触觉刺激的呈现的示例。如图33所示,触觉呈现设备控制装置20p预先(在内容分发之前)从广播站60接收(下载)触觉控制信号。可以由电视装置62通过TV广播来执行触觉控制信号的下载。
以这种方式,在生成侧生成与内容(广播节目)相对应的触觉控制信号并且将生成文件中包括的所生成的触觉控制信号分发到广播站60的情况下,广播站60预先通过TV广播等将具有大数据量的触觉控制信号发送到家庭侧,从而使得可以在不受TV广播等的通信频带的影响的情况下分发大量数据。
然后,在广播开始时,响应于要再现的内容(要广播的节目)的时间码,广播站60参考脚本,以向每个家庭(电视装置62)顺序地分发命令(指示要响应于时间码而再现的触觉控制信号文件)。电视装置62在显示器上显示通过TV广播接收的内容(广播节目),并且将所分发的命令输出至触觉呈现设备控制装置20p。
触觉呈现设备控制装置20p从触觉控制信号文件DB 224中读取由该命令指定的触觉控制信号,并且将所读取的触觉控制信号输出至触觉呈现设备2。
如上所述,同样在第二实施方式中,当观看TV广播时,可以同步触觉呈现设备2对触觉刺激的呈现,从而使得在家庭中也可以体验充满更真实感觉的观看。
应当注意,此处已经给出了观看TV广播节目(电影、戏剧等)的情况作为示例的描述,但是本修改示例不限于此,并且与第一实施方式类似地,也可适用于观看因特网分发时或玩因特网游戏时的时间。
另外,在本实施方式应用于如图25和图31所示的电影院的情况下,时间码的分发不限于使用与再现控制装置31和4D系统控制装置40的有线/无线耦合的分发;还可以利用如在上述第一实施方式的修改示例中描述的通过光通信的时间码分发方法(参见图22)。
另外,对于用于指定触觉控制信号文件名的命令的分发,也可以利用如在前述第一实施方式的修改示例中描述的通过光通信的命令分发方法(参见图23和图24)。
<<4.第三实施方式>>
随后,参照图34至图37,给出由用户进行的触觉呈现(生成触觉数据)的编辑功能的修改示例的描述。图34至图37各自示出了根据第三实施方式的编辑画面的示例。
在上述实施方式中,用户指定包括在如图5所示的编辑画面1300中的触觉呈现设备2的设定画面1330,从而能够指定在触觉呈现设备2中生成振动的时间区域等。另外,当用户通过在设定画面1330上的轻敲(或点击等)操作选择指定的时间区域1331时,显示图6所示的详细设定画面1340,从而使得可以在详细设定画面1340上选择触觉类型(振动刺激的波形类型)、设定触觉呈现位置(感知位置)和调整感知强度。然而,在本实施方式中,通过从预先生成的触觉数据或触觉库(例如,典型的波形图案)进行选择(即,存在约束)来执行选择、设定和调整;用户不能自由地且精细地执行设定和调整。因此,在本实施方式中,给出了对编辑功能的描述,该编辑功能使得用户能够根据用户的意图精细地且自由地对振动刺激的波形、触觉呈现位置的设定、感知强度的调整等执行编辑。应当注意,稍后描述的编辑功能还可以作为插件被添加到现有的4D系统编辑应用。
首先,在本实施方式中,例如,生成装置10的控制单元100在显示单元130上呈现如图34所示的编辑画面600,并且接受用户(创建者)在再现内容的时间轴上对触觉呈现设备2的触觉(触觉设备)的编辑。在编辑画面600中,再现内容的音频数据(L/R)(声道(Sound)L/R)的波形显示在时间轴上,并且还显示用于触觉呈现设备2的设定画面620、设定画面640等。在浏览再现内容的音频数据的波形以及再现内容的图像(未示出)的同时,用户能够在设定画面620或设定画面640中单独地编辑例如由触觉呈现设备2给出的振动等。应当注意,在本实施方式中,根据精细设定(例如波形)的差异,触觉被单独地划分为诸如用于编辑的触感A和触感B的触觉感觉,从而使得可以将触感分配给再现内容的各个音轨。例如,在图34中,针对单独划分的各个触感提供设定画面,并且在各个设定画面上执行操作,从而使得可以编辑各个触感。另外,在本实施方式中,触感的数目没有特别限制。
例如,用户在与通过滑动操作等在触觉呈现设备2的触感A的设定画面620上显示的再现内容相对应的时间轴上,指定期望由触觉呈现设备2生成振动的时间区域622。在图34所示的示例中,触感A被分别处理为针对各个时间区域的触感A-1、触感A-2和触感A-3这三个触感。应当注意,本实施方式不限于一个触感的划分,并且对划分触感的数目没有限制(例如,触感可以被划分成从触感A-1到触感A-99的99个触感)。
例如,用户通过使用滑动操作输入波形624,在触觉呈现设备2的触感A的设定画面620上显示的时间轴上,指定触觉呈现设备2的触感A的振动强度(感知强度)(Vol.)。另外,例如,用户通过使用滑动操作输入波形626,在触觉呈现设备2的触感A的设定画面620上显示的时间轴上,指定触觉呈现设备2的触感A的振动音调(例如,重复周期)(感知间隔)(音调)。
例如,在设定画面620上显示的时间轴上,用户通过单独输入以(穿戴触觉呈现设备2的人的)身体中心设定为原点的三维正交坐标系中的X轴上的坐标、Y轴上的坐标和Z轴上的坐标这三个坐标,来指定每个时间区域622处的触感A的触觉呈现位置。更具体地,用户能够通过在与设定画面620上显示的X轴、Y轴和Z轴中的每一个相对应的时间序列显示画面628中移动光标,来单独地输入触感A的触觉呈现位置的X轴上的坐标、Y轴上的坐标和Z轴上的坐标这三个坐标。此时,用户能够在预定宽度(例如,±1)的范围内可选地调整触觉呈现位置的坐标中的每一个。然后,将该宽度转换成触觉呈现设备控制装置20中的特定触觉呈现位置的范围,并且基于经转换的宽度将输入的坐标转换成特定触觉呈现位置的坐标。因此,在本实施方式中,预先在生成侧与再现侧之间共享特定触觉呈现位置的范围作为简档信息。
应当注意,如上所述,在通过单独输入X轴上的坐标、Y轴上的坐标和Z轴上的坐标来设定触觉呈现位置的情况下,在某些情况下,用户可能难以直观地掌握触觉呈现位置。在这样的情况下,通过单独地利用另一工具等来生成触觉呈现位置的坐标的数据并且通过编辑功能来读取所生成的坐标数据,可以如图34所示显示时间序列显示画面628,以设定触觉呈现位置。另外,在本实施方式中,触觉呈现位置的设定可以涉及使用利用例如插件功能等的另一输入方法,稍后描述其细节。
此外,例如,用户通过使用滑动操作输入波形630,在触觉呈现设备2的触感A的设定画面(screen)620上显示的时间轴上,指定触觉呈现设备2的触感A的再现速度(Speed)(例如,相对于再现内容的再现,以2倍速度或0.5倍速度再现触感A)。另外,例如,用户通过使用滑动操作输入波形632,在触觉呈现设备2的触感A的设定画面620上显示的时间轴上,指定触觉呈现设备2的触感A的振动的频率(Frequency)(感知频率)等。应当注意,在本实施方式中,例如,即使当改变上述再现速度时,触感A的振动频率也被固定为指定频率。此外,例如,用户通过使用滑动操作输入波形634,在触觉呈现设备2的触感A的设定画面620上显示的时间轴上,指定触觉呈现设备2的触感A的偏移信息(Offset)(延迟时间)。应当注意,在本实施方式中,代替偏移信息,可以指定与再现内容的这部分同步的定时等,并且编辑项目不限于图34所示的项目。
在本实施方式中,以这种方式,可以编辑触感A的振动强度、振动音调、触觉呈现位置、再现速度、频率、偏移信息等。此外,还能够与触感A类似地编辑另一触感(例如,触感B)。应当注意,在本实施方式中,编辑项不限于振动强度、振动音调、触觉呈现位置、再现速度、频率和偏移信息以及还可以编辑的其他项目。此外,在本编辑功能中,通过拖放操作将波形从任何时间序列显示画面上的位置移动到另一时间序列显示画面上的位置,可以容易地编辑每个项目。
另外,在本实施方式中,通过上述编辑功能编辑的生成触觉数据被合并到4D系统文件中。生成触觉数据与4D系统文件的格式集成在一起并且与因此要使用的4D系统文件统一,与4D系统文件一起用作根据时间码沿时间轴发布命令的信息。例如,在触觉呈现设备控制装置20中,将触感A的X轴坐标算术处理为预定时间轴上的触觉呈现位置的X轴坐标。
顺便提及,如上所述,在编辑再现内容上的时间轴上的触感的情况下,基于该编辑生成生成触觉数据,并且使用生成触觉数据根据上述时间码发布命令,在某些情况下,可能无法应对触觉呈现设备控制装置20中的算术延迟量。例如,在假设在触觉呈现设备控制装置20发生0.05s的延迟量的算术延迟的情况下,当期望在10.0s的定时处呈现触感时,由于在触觉呈现设备控制装置20中的算术延迟,在生成侧没有生成用于在9.5s的定时处呈现触感的命令使得不能够在10.0s的定时处呈现触感。
因此,为了生成考虑到上述算术延迟的命令,由于触觉呈现设备控制装置20的算术延迟,因此生成侧和再现侧需要共享延迟量。因此,在本实施方式中,将由于在再现侧上的触觉呈现设备控制装置20的算术延迟而引起的延迟量的反馈预先施加到生成触觉数据,以转换为与延迟量相对应的数据。另外,在本实施方式中,当在再现侧对触觉呈现设备控制装置20和触觉呈现设备2执行校准时,计算作为相对于生成侧的控制装置52和触觉呈现设备54的差异的延迟量,并且可以在再现侧施加延迟量的反馈,以将生成触觉数据转换为与延迟量相对应的数据。
另外,在本实施方式中,例如,可以通过使用插件功能等显示如图35和图36所示的编辑画面700和编辑画面710来执行触觉呈现位置的设定。图35和图36各自示出了叠加在身体模型上的正交坐标系。特别地,图35示出了平面正交坐标系(Z-Y坐标系)。在平面正交坐标系中,将人体模型的上半身的身体中心设定为原点,并且Z轴的正方向对应于人体的整个表面(胸部侧),而Y轴的正方向对应于人体的头部侧。另外,图36示出了三维正交坐标系(X-Y-Z坐标系)。在三维正交坐标系中,将身体模型的上半身的身体中心设定为原点;X轴的正方向对应于人体的左侧,Y轴的正方向对应于人体的头部,Z轴的正方向对应于整个人体的整个表面(胸部侧),并且Y轴的正方向对应于人体的头部侧。
例如,用户能够通过使用诸如敲击、点击和滑动的操作在正交坐标系上移动在编辑画面700和编辑画面710上示出的标记702和标记712来设定触觉呈现位置或路径。然后,生成装置10的控制单元100能够通过将以这种方式输入的触觉呈现位置或路径转换为X轴上的坐标、Y轴上的坐标以及Z轴上的坐标的三个坐标,来设定触觉呈现位置。这样的编辑画面700和编辑画面710使用户能够通过使用叠加在身体模型上的正交坐标系来直观地掌握触觉呈现位置。
此外,在本实施方式中,可以通过使用例如插件功能等显示如图37所示的编辑画面730来执行触觉呈现位置的范围。例如,在编辑画面730中,显示X-Y坐标系,在该坐标系中将身体中心设定为原点。用户通过在坐标上移动编辑画面730上指示的标记732,同时使用诸如敲击、点击和滑动的操作来改变编辑屏幕的大小,不仅能够设定触觉呈现位置和路径,还能够设定触觉呈现范围及其时间变化。
<<5.结论>>
尽管上面已经参照附图详细给出了对本公开内容的优选实施方式的描述,但是本技术不限于这样的示例。明显的是,本公开内容的技术领域的普通技术人员可以在权利要求书中描述的技术思想的范围内找到各种变更或修改,并且应当理解,这些变更和修改自然落入本公开内容的技术范围内。
例如,可以准备用于使硬件(例如内置在上述生成装置10、触觉呈现设备控制装置20、4D系统控制装置40等中的CPU、ROM和RAM)展现生成装置10、触觉呈现设备控制装置20、4D系统控制装置40等的功能的计算机程序。此外,还提供了存储计算机程序的计算机可读存储介质。
已经给出了根据本实施方式的操作处理的示例的描述。应当注意,附图中示出的操作处理仅是示例性的,并且本公开内容不限于附图中示出的示例。例如,本公开内容不限于附图中示出的步骤的顺序。可以并行地处理或者可以以相反的顺序处理步骤中的至少一个步骤。另外,不一定需要执行参照附图示出的每个处理。另外,不一定需要在单个装置中执行参照附图示出的每个处理。
另外,本文中描述的效果仅是说明性或示例性的,而不是限制性的。也就是说,除了上述效果之外或代替上述效果,根据本公开内容的技术还可以实现根据本说明书的描述对于本领域技术人员而言明显的其他效果。
本技术还可以具有以下配置。
(1)
一种信息处理器,包括控制单元,
所述控制单元基于指示使得在触觉呈现设备中感知到触觉刺激的感知位置的位置信息,并且基于指定所述触觉刺激的类型的触觉刺激类型信息,根据在所述触觉呈现设备中提供的一个或更多个触觉刺激单元的布置,生成对每个触觉刺激单元中的每个触觉刺激单元的触觉控制信号,以用于在所述感知位置处呈现指定类型的触觉刺激,并且
所述控制单元生成脚本,在所述脚本中,将再现内容中的时间信息与所生成的一个或更多个触觉控制信号彼此相关联。
(2)
根据(1)所述的信息处理器,其中,所述控制单元还考虑指定的感知强度信息以生成对所述触觉刺激单元中的每个触觉刺激单元的触觉控制信号。
(3)
根据(1)或(2)所述的信息处理器,其中,所述触觉刺激类型信息是指定预先准备的触觉数据库的类型或根据所述再现内容生成的生成触觉数据的类型的信息。
(4)
根据(3)所述的信息处理器,其中,所述控制单元根据包括在所述再现内容中的声音效果、背景音乐或对话的音频数据生成所述生成触觉数据。
(5)
根据(3)或(4)所述的信息处理器,其中,所述触觉数据库和所述生成触觉数据是在所述触觉呈现设备中呈现的振动的波形数据。
(6)
根据(1)至(5)中任一项所述的信息处理器,其中,
所述控制单元显示布置显示画面,并接受用户在所述布置显示画面上对感知位置的指定,所述布置显示画面指示对在所述触觉呈现设备中提供的所述一个或更多个触觉刺激单元的布置,并且
所述控制单元显示所述触觉刺激的类型的选择画面,并通过所述选择画面接受在所指定的感知位置处呈现的触觉刺激的类型的指定。
(7)
根据(3)所述的信息处理器,其中,
所述控制单元根据包括在所述再现内容中的声音效果、背景音乐或对话的音频数据生成所述生成触觉数据,并且
所述控制单元基于包括在所述再现内容中的声音效果、背景音乐或对话的音频数据,推荐所生成的生成触觉数据的感知位置和感知强度。
(8)
根据(1)至(7)中任一项所述的信息处理器,其中,所述脚本还包括针对再现内容的时间信息的偏移信息。
(9)
根据(8)所述的信息处理器,其中,所述控制单元根据当在再现侧执行所述触觉控制信号时假设的处理延迟量来设定所述偏移信息。
(10)
根据(1)至(9)中任一项所述的信息处理器,其中,所述再现内容是图像数据。
(11)
根据(1)至(9)中任一项所述的信息处理器,其中,
所述再现内容是在游戏中发生的动作,并且
在所述脚本中,对于每个动作,所述动作的时间信息和所述触觉呈现设备的控制命令彼此相关联。
(12)
根据(1)至(11)中任一项所述的信息处理器,其中,
所述控制单元还考虑所述触觉呈现设备的简档以生成所述触觉控制信号,并且
所述脚本还包括指示所述简档的类型的信息。
(13)
一种信息处理方法,包括使处理器进行以下操作:
基于指示使得在触觉呈现设备中感知到触觉刺激的感知位置的位置信息,并且基于指定所述触觉刺激的类型的触觉刺激类型信息,根据在所述触觉呈现设备中提供的一个或更多个触觉刺激单元的布置,生成对所述触觉刺激单元中的每个触觉刺激单元的触觉控制信号,以用于在所述感知位置处呈现指定类型的触觉刺激,并且
生成脚本,在所述脚本中,关于再现内容的时间信息与一个或更多个所生成的触觉控制信号彼此相关联。
(14)
一种使计算机用作控制单元的程序,
所述控制单元基于指示使得在触觉呈现设备中感知到触觉刺激的感知位置的位置信息,并且基于指定所述触觉刺激的类型的触觉刺激类型信息,根据在所述触觉呈现设备中提供的一个或更多个触觉刺激单元的布置,生成对所述触觉刺激单元中的每个触觉刺激单元的触觉控制信号,以用于在所述感知位置处呈现指定类型的所述触觉刺激,并且
所述控制单元生成脚本,在所述脚本中,再现内容的时间信息与所生成的一个或更多个触觉控制信号彼此相关联。
(15)
一种信息处理器,包括控制单元,
所述控制单元基于脚本来获取要输入到触觉呈现设备的触觉控制信号,所述触觉控制信号与指示再现内容的再现位置的时间码相对应,在所述脚本中,所述再现内容的时间信息和指定所述触觉呈现设备的所述触觉控制信号的信息相关联,并且
所述控制单元将所述触觉控制信号输出至所述触觉呈现设备。
(16)
根据(15)所述的信息处理器,其中,所述控制单元在与所述脚本中包括的偏移信息相对应的定时处将所述触觉控制信号输出至所述触觉呈现设备。
(17)
根据(15)或(16)所述的信息处理器,其中,
所述信息处理器包括存储单元,所述存储单元存储预先生成的触觉控制信号,并且
所述控制单元根据外部装置接收到的时间码,参考所述脚本,将所述触觉控制信号输出至所述触觉呈现设备。
(18)
根据(15)或(16)所述的信息处理器,其中,所述信息处理器从外部装置接收与所述时间码相对应的所述触觉控制信号。
(19)
根据(15)至(18)中任一项所述的信息处理器,其中,所述控制单元考虑所述触觉呈现设备的简档以校正所述触觉控制信号。
(20)
根据(6)所述的信息处理器,其中,所述控制单元通过在以身体的中心被设定为原点的三维正交坐标系中接受在X轴上的坐标、Y轴上的坐标和Z轴上的坐标的三个坐标的输入,在布置显示屏幕上接受对所述感知位置的指定。
(21)
根据(20)所述的信息处理器,其中,所述控制单元通过接受叠加在所述布置显示画面上的人体模型上的正交坐标系的输入来接受对所述感知位置的指定。
(22)
根据(20)或(21)所述的信息处理器,其中,所述控制单元基于指示在所述触觉呈现设备中的多个触觉刺激中的每个触觉刺激的感知位置的位置信息和指定每个触觉刺激的类型的触觉刺激类型信息来生成所述触觉控制信号。
(23)
根据(22)所述的信息处理器,其中,所述控制单元基于每个触觉刺激的感知强度、感知频率、感知间隔、再现速度或偏移信息中的至少一个来生成所述触觉控制信号。
附图标记列表
1 信息处理系统
2 触觉呈现设备
4 4D座椅
40 4D系统控制装置
7 记录介质
10 生成装置
100 控制单元
101 控制信息生产单元
102 触觉呈现信息生成单元
103 触觉数据生成单元
104 触觉控制信号生成单元
110 通信单元
120 操作输入单元
130 显示单元
140 存储单元
141 触觉库DB
142 生成触觉库DB
143 简档DB
20 触觉呈现设备控制装置
200 控制单元
201 控制信号生成单元
202 输出控制单元
210 通信单元
211 系统I/F
212 触觉呈现设备I/F
220 存储单元
221 触觉库DB
222 生成触觉数据DB
223 简档DB
22 观察单元
24 控制单元
30 影院系统
31 再现控制装置
32 投影仪
34 发光单元
50 验证系统
52 控制装置
54 触觉呈现设备
56 4D座椅
58 显示装置
60 广播站
62 电视装置
64 再现装置
66 流服务器
80 游戏服务器
82 游戏再现装置
84 显示装置
86 控制器
600,700,710,730 编辑屏幕
620,640 设定屏幕
622 时间区域
624,626,630,632,634 波形
628 时间序列显示屏幕
702,712,732 标记

Claims (19)

1.一种信息处理器,包括控制单元,
所述控制单元基于指示使得在触觉呈现设备中感知到触觉刺激的感知位置的位置信息,并且基于指定所述触觉刺激的类型的触觉刺激类型信息,根据在所述触觉呈现设备中提供的一个或更多个触觉刺激单元的布置,生成对所述触觉刺激单元中的每个触觉刺激单元的触觉控制信号,以用于在所述感知位置处呈现指定类型的触觉刺激,并且
所述控制单元生成脚本,在所述脚本中,将再现内容中的时间信息与所生成的一个或更多个触觉控制信号彼此相关联。
2.根据权利要求1所述的信息处理器,其中,所述控制单元还考虑指定的感知强度信息以生成对所述触觉刺激单元中的每个触觉刺激单元的触觉控制信号。
3.根据权利要求1所述的信息处理器,其中,所述触觉刺激类型信息是指定预先准备的触觉数据库的类型或根据所述再现内容生成的生成触觉数据的类型的信息。
4.根据权利要求3所述的信息处理器,其中,所述控制单元根据包括在所述再现内容中的声音效果、背景音乐或对话的音频数据生成所述生成触觉数据。
5.根据权利要求3所述的信息处理器,其中,所述触觉数据库和所述生成触觉数据是在所述触觉呈现设备中呈现的振动的波形数据。
6.根据权利要求1所述的信息处理器,其中,
所述控制单元显示布置显示画面,并接受用户在所述布置显示画面上对感知位置的指定,所述布置显示画面指示在所述触觉呈现设备中提供的一个或更多个触觉刺激单元的布置,并且
所述控制单元显示所述触觉刺激的类型的选择画面,并通过所述选择画面接受在所指定的感知位置处呈现的触觉刺激的类型的指定。
7.根据权利要求3所述的信息处理器,其中,
所述控制单元根据包括在所述再现内容中的声音效果、背景音乐或对话的音频数据生成所述生成触觉数据,并且
所述控制单元基于包括在所述再现内容中的声音效果、背景音乐或对话的音频数据,推荐所生成的生成触觉数据的感知位置和感知强度。
8.根据权利要求1所述的信息处理器,其中,所述脚本还包括针对所述再现内容中的时间信息的偏移信息。
9.根据权利要求8所述的信息处理器,其中,所述控制单元根据当在再现侧执行所述触觉控制信号时假设的处理延迟量来设定所述偏移信息。
10.根据权利要求1所述的信息处理器,其中,所述再现内容是影像数据。
11.根据权利要求1所述的信息处理器,其中,
所述再现内容是在游戏中发生的动作,并且
在所述脚本中,针对每个动作,所述动作的时间信息和所述触觉呈现设备的控制命令彼此相关联。
12.根据权利要求1所述的信息处理器,其中,
所述控制单元还考虑所述触觉呈现设备的简档以生成所述触觉控制信号,并且
所述脚本还包括指示所述简档的类型的信息。
13.一种信息处理方法,包括使处理装置进行下述操作:
基于指示使得在触觉呈现设备中感知到触觉刺激的感知位置的位置信息,并且基于指定所述触觉刺激的类型的触觉刺激类型信息,根据在所述触觉呈现设备中提供的一个或更多个触觉刺激单元的布置,生成对所述触觉刺激单元中的每个触觉刺激单元的触觉控制信号,以用于在所述感知位置处呈现指定类型的触觉刺激,并且
生成脚本,在所述脚本中,关于再现内容的时间信息与一个或更多个所生成的触觉控制信号彼此相关联。
14.一种使计算机用作控制单元的程序,
所述控制单元基于指示使得在触觉呈现设备中感知到触觉刺激的感知位置的位置信息,并且基于指定所述触觉刺激的类型的触觉刺激类型信息,根据在所述触觉呈现设备中提供的一个或更多个触觉刺激单元的布置,生成对所述触觉刺激单元中的每个触觉刺激单元的触觉控制信号,以用于在所述感知位置处呈现指定类型的触觉刺激,并且
所述控制单元生成脚本,在所述脚本中,再现内容的时间信息与所生成的一个或更多个触觉控制信号彼此相关联。
15.一种信息处理器,包括控制单元,
所述控制单元基于脚本来获取要输入到触觉呈现设备的触觉控制信号,所述触觉控制信号与指示再现内容的再现位置的时间码相对应,在所述脚本中,所述再现内容的时间信息和指定所述触觉呈现设备的所述触觉控制信号的信息相关联,并且
所述控制单元将所述触觉控制信号输出至所述触觉呈现设备。
16.根据权利要求15所述的信息处理器,其中,所述控制单元在与所述脚本中包括的偏移信息相对应的定时处将所述触觉控制信号输出至所述触觉呈现设备。
17.根据权利要求15所述的信息处理器,其中,
所述信息处理器包括存储单元,所述存储单元存储预先生成的所述触觉控制信号,并且
所述控制单元根据从外部装置接收到的时间码,参考所述脚本,将所述触觉控制信号输出至所述触觉呈现设备。
18.根据权利要求15所述的信息处理器,其中,所述信息处理器从外部装置接收与所述时间码相对应的所述触觉控制信号。
19.根据权利要求15所述的信息处理器,其中,所述控制单元考虑所述触觉呈现设备的简档以校正所述触觉控制信号。
CN201980067161.3A 2018-10-19 2019-10-16 信息处理器、信息处理方法和程序 Pending CN112840295A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018-197172 2018-10-19
JP2018197172 2018-10-19
PCT/JP2019/040745 WO2020080433A1 (ja) 2018-10-19 2019-10-16 情報処理装置、情報処理方法、および、プログラム

Publications (1)

Publication Number Publication Date
CN112840295A true CN112840295A (zh) 2021-05-25

Family

ID=70284686

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980067161.3A Pending CN112840295A (zh) 2018-10-19 2019-10-16 信息处理器、信息处理方法和程序

Country Status (6)

Country Link
US (1) US20220057864A1 (zh)
EP (1) EP3869299A4 (zh)
JP (1) JP7424301B2 (zh)
KR (1) KR20210075082A (zh)
CN (1) CN112840295A (zh)
WO (1) WO2020080433A1 (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220413614A1 (en) * 2018-11-20 2022-12-29 Whirlwind VR, Inc. System and Method for a Surface-Optimized Tactile Transducer
US11850509B2 (en) * 2021-02-17 2023-12-26 Falcon's Beyond Brands, Llc Interactive theater system with real-time feedback and dynamic special effects
CA3224448A1 (en) * 2021-06-28 2023-01-05 Distal Reality LLC Techniques for haptics communication
WO2023189193A1 (ja) * 2022-03-31 2023-10-05 ソニーグループ株式会社 復号装置、復号方法および復号プログラム

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101292211A (zh) * 2005-10-19 2008-10-22 伊默生公司 媒体传输流中的触觉效果数据的同步
CN102016759A (zh) * 2008-05-09 2011-04-13 皇家飞利浦电子股份有限公司 用于传送情绪的方法和系统
CN102822772A (zh) * 2010-03-31 2012-12-12 英默森公司 基于位置提供触觉刺激的系统和方法
CN104623897A (zh) * 2013-11-14 2015-05-20 意美森公司 触觉空间化系统
JP2015148931A (ja) * 2014-02-06 2015-08-20 日本放送協会 提示制御装置
JP2018019393A (ja) * 2016-07-15 2018-02-01 株式会社Cri・ミドルウェア 再生制御システム、情報処理装置およびプログラム
CN107835971A (zh) * 2015-07-13 2018-03-23 汤姆逊许可公司 基于用户触觉空间(HapSpace)提供触觉反馈和交互的方法和装置
CN108572728A (zh) * 2016-07-12 2018-09-25 索尼公司 信息处理设备、信息处理方法和程序

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9400555B2 (en) * 2008-10-10 2016-07-26 Internet Services, Llc System and method for synchronization of haptic data and media data
US9652945B2 (en) 2013-09-06 2017-05-16 Immersion Corporation Method and system for providing haptic effects based on information complementary to multimedia content
US9786201B2 (en) * 2014-05-16 2017-10-10 Not Impossible LLC Wearable sound
US9330547B2 (en) 2014-05-20 2016-05-03 Immersion Corporation Haptic effect authoring tool based on a haptification model
JP6341417B2 (ja) * 2014-06-10 2018-06-13 任天堂株式会社 振動生成システム、振動生成プログラム、および振動生成方法
KR102437373B1 (ko) * 2014-10-31 2022-08-30 삼성전자주식회사 가상의 진동을 출력하는 포터블 디바이스 및 기계적 진동을 이용한 디바이스 간의 통신 방법
US10013059B2 (en) 2015-04-03 2018-07-03 Disney Enterprises, Inc. Haptic authoring tool for animated haptic media production
JP2018045270A (ja) 2016-09-12 2018-03-22 ソニー株式会社 通信装置および方法、並びにプログラム
US10564724B1 (en) * 2016-09-20 2020-02-18 Apple Inc. Touch-based input device with haptic feedback
US10297120B2 (en) * 2016-12-13 2019-05-21 Disney Enterprises, Inc. Haptic effect generation system
US20190163271A1 (en) * 2017-11-27 2019-05-30 Immersion Corporation Systems and methods for providing haptic feedback according to tilt-based inputs
US10572016B2 (en) * 2018-03-06 2020-02-25 Microsoft Technology Licensing, Llc Spatialized haptic device force feedback

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101292211A (zh) * 2005-10-19 2008-10-22 伊默生公司 媒体传输流中的触觉效果数据的同步
CN102016759A (zh) * 2008-05-09 2011-04-13 皇家飞利浦电子股份有限公司 用于传送情绪的方法和系统
CN102822772A (zh) * 2010-03-31 2012-12-12 英默森公司 基于位置提供触觉刺激的系统和方法
CN104623897A (zh) * 2013-11-14 2015-05-20 意美森公司 触觉空间化系统
JP2015148931A (ja) * 2014-02-06 2015-08-20 日本放送協会 提示制御装置
CN107835971A (zh) * 2015-07-13 2018-03-23 汤姆逊许可公司 基于用户触觉空间(HapSpace)提供触觉反馈和交互的方法和装置
CN108572728A (zh) * 2016-07-12 2018-09-25 索尼公司 信息处理设备、信息处理方法和程序
JP2018019393A (ja) * 2016-07-15 2018-02-01 株式会社Cri・ミドルウェア 再生制御システム、情報処理装置およびプログラム

Also Published As

Publication number Publication date
JPWO2020080433A1 (ja) 2021-09-09
WO2020080433A1 (ja) 2020-04-23
EP3869299A1 (en) 2021-08-25
JP7424301B2 (ja) 2024-01-30
EP3869299A4 (en) 2021-12-15
KR20210075082A (ko) 2021-06-22
US20220057864A1 (en) 2022-02-24

Similar Documents

Publication Publication Date Title
CN112840294B (zh) 信息处理装置、信息处理方法和程序
JP7424301B2 (ja) 情報処理装置、情報処理方法、および、プログラム
US11113884B2 (en) Techniques for immersive virtual reality experiences
US10388071B2 (en) Virtual reality (VR) cadence profile adjustments for navigating VR users in VR environments
WO2020138107A1 (ja) 配信ユーザの動きに基づいて生成されるキャラクタオブジェクトのアニメーションを含む動画をライブ配信する動画配信システム、動画配信方法及び動画配信プログラム
US20190073830A1 (en) Program for providing virtual space by head mount display, method and information processing apparatus for executing the program
JP7314926B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP2005006037A (ja) メディア同期システム及びそれに用いるサービス提供方法
US11941177B2 (en) Information processing device and information processing terminal
US11893879B2 (en) Stimulus presentation apparatus, stimulus presentation method and program
US20230033892A1 (en) Information processing device and information processing terminal
JP6523038B2 (ja) 感覚提示装置
CN114930274A (zh) 信息处理设备、信息处理终端和程序
JP2020194030A (ja) カラオケシステム
EP4306192A1 (en) Information processing device, information processing terminal, information processing method, and program
WO2022190919A1 (ja) 情報処理装置、情報処理方法、およびプログラム
US20220284664A1 (en) Image Display System, Display Control Method, and Light Emission Control Method
US11983324B2 (en) Information processing device, information processing terminal, and program
Alfaro Surround vision
CN117438038A (zh) 基于混合现实的动作干预孤独症障碍儿童训练方法及系统
Alfaro Bernate Surround vision: a handheld screen for accessing peripheral content around the TV

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination