CN117609523A - 触觉媒体的数据处理方法、装置及计算机设备、存储介质 - Google Patents
触觉媒体的数据处理方法、装置及计算机设备、存储介质 Download PDFInfo
- Publication number
- CN117609523A CN117609523A CN202311622744.2A CN202311622744A CN117609523A CN 117609523 A CN117609523 A CN 117609523A CN 202311622744 A CN202311622744 A CN 202311622744A CN 117609523 A CN117609523 A CN 117609523A
- Authority
- CN
- China
- Prior art keywords
- haptic
- event
- media
- signal
- field
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003860 storage Methods 0.000 title claims abstract description 51
- 238000003672 processing method Methods 0.000 title claims abstract description 32
- 238000000034 method Methods 0.000 claims abstract description 66
- 230000001052 transient effect Effects 0.000 claims description 84
- 238000012545 processing Methods 0.000 claims description 72
- 238000004590 computer program Methods 0.000 claims description 39
- 238000004806 packaging method and process Methods 0.000 claims description 15
- 238000009877 rendering Methods 0.000 claims description 7
- 230000002085 persistent effect Effects 0.000 claims description 6
- 238000007654 immersion Methods 0.000 description 21
- 230000008569 process Effects 0.000 description 18
- 230000006870 function Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 12
- 230000035807 sensation Effects 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 8
- 230000015654 memory Effects 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 230000001133 acceleration Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000002459 sustained effect Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 230000001953 sensory effect Effects 0.000 description 2
- 230000011664 signaling Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 210000001640 nerve ending Anatomy 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012858 packaging process Methods 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/44—Browsing; Visualisation therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/48—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Human Computer Interaction (AREA)
- Library & Information Science (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请提供了一种触觉媒体的数据处理方法、装置及计算机设备、存储介质。该触觉媒体的数据处理方法包括:获取触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息用于指示瞬时触觉信号的持续时间;按照瞬时触觉信号的表示信息,呈现触觉媒体中的瞬时触觉信号。采用本申请,可以准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及沉浸媒体技术领域,具体涉及一种触觉媒体的数据处理方法、一种触觉媒体的数据处理装置、一种计算机设备、以及一种计算机可读存储介质。
背景技术
随着沉浸媒体的不断发展,在沉浸媒体在呈现方式上,除了传统的视觉和听觉方面的呈现外,还包含触觉这种新的呈现方式,例如,振动触觉、电触觉以及压力触觉,等等,以触觉形式呈现的沉浸媒体可以称为触觉媒体,触觉媒体可以包括一个或多个触觉信号。目前,对于触觉媒体中的瞬时触觉信号,是交由媒体呈现端自行处理的,这样使得瞬时触觉信号的呈现不够准确,会导致相同的瞬时触觉信号在不同媒体呈现端上的呈现存在差异,进一步导致对触觉媒体的消费体验不高。因此,如何准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验,成为当前的研究热点。
发明内容
本申请实施例提供了一种触觉媒体的数据处理方法、装置及计算机设备、存储介质,可以准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验。
一方面,本申请实施例提供了一种触觉媒体的数据处理方法,该触觉媒体的数据处理方法包括:
获取触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息用于指示瞬时触觉信号的持续时间;
按照瞬时触觉信号的表示信息,呈现触觉媒体中的瞬时触觉信号。
相应地,本申请实施例提供了一种触觉媒体的数据处理装置,该触觉媒体的数据处理装置包括:
获取单元,用于获取触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息用于指示瞬时触觉信号的持续时间;
处理单元,用于按照瞬时触觉信号的表示信息,呈现触觉媒体中的瞬时触觉信号。
在一种实现方式中,获取单元,用于获取触觉媒体中瞬时触觉信号的表示信息时,具体用于执行如下步骤:
获取触觉媒体的交换格式文件;
从触觉媒体的交换格式文件中获取瞬时触觉信号的表示信息。
在一种实现方式中,触觉媒体的交换格式文件包括触觉媒体的触觉模式的数据结构,触觉模式的数据结构用于定义触觉媒体的触觉模式的属性信息,触觉模式的数据结构包括短暂持续时间字段;
瞬时触觉信号的表示信息包括短暂持续时间字段,短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
在一种实现方式中,触觉模式的数据结构还包括触觉模式类型字段,所触觉模式类型字段用于指示触觉媒体的触觉模式的类型;
当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
在一种实现方式中,触觉媒体的交换格式文件包括触觉媒体的知识触觉事件的数据结构,知识触觉事件的数据结构用于定义触觉媒体的知识触觉事件的属性信息,知识触觉事件的数据结构包括触觉事件类型字段,触觉事件类型字段用于指示触觉媒体的知识触觉事件的事件类型,事件类型包括瞬时事件或持续事件;
当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件,且知识触觉事件的数据结构还包括持续时间字段时,瞬时触觉信号的表示信息包括持续时间字段,持续时间字段用于指示当前触觉模式下所有瞬时触觉事件的持续时间;
其中,一个触觉模式中存在一个具备持续时间字段的,且事件类型为瞬时事件的知识触觉事件。
在一种实现方式中,当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为持续事件时,持续时间字段用于指示对应知识触觉事件的持续时间。
在一种实现方式中,知识触觉事件的数据结构是根据触觉事件的数据结构确定的,触觉事件的数据结构包含参考知识事件字段,知识触觉事件的数据结构不包含参考知识事件字段,参考知识事件字段用于指示当触觉事件的事件类型为参考事件时,触觉事件对应的知识触觉事件标识符;
触觉事件的数据结构包含相对时间字段,知识触觉事件的数据结构不包含相对时间字段,相对时间字段用于指示触觉事件的时间偏移量。
在一种实现方式中,知识触觉事件的数据结构是根据触觉事件的数据结构确定的,触觉事件的数据结构包含振幅字段、基准频率字段以及事件组件字段;当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件,且知识触觉事件的数据结构包括持续时间字段时,知识触觉事件的数据结构不包含振幅字段、基准频率字段以及事件组件字段;
振幅字段用于指示触觉事件的信号最大幅度值;基准频率字段用于指示触觉事件的信号基准频率;事件组件字段用于指示触觉事件组件元素列表,触觉事件组件元素列表用于指示触觉事件的组件,触觉事件的组件包括触觉事件的时域分量或者频域分量。
在一种实现方式中,触觉媒体的交换格式文件包括触觉媒体的触觉事件的数据结构,触觉事件的数据结构用于定义触觉媒体的触觉事件的属性信息,触觉事件的数据结构包括触觉事件类型字段,触觉事件类型字段用于指示触觉媒体的触觉事件的事件类型,事件类型包括参考事件或普通事件;
当触觉事件类型字段指示触觉媒体的触觉事件的事件类型为参考事件时,触觉事件的数据结构还包括参考知识事件字段,瞬时触觉信号的表示信息包括参考知识事件字段;参考知识事件字段用于指示事件类型为参考事件的触觉事件对应的知识触觉事件标识符;
其中,事件类型为参考事件的所述触觉事件的持续时间,与对应的知识触觉事件标识符所指示的知识触觉事件的持续时间相同。
在一种实现方式中,当触觉事件类型字段指示触觉媒体的触觉事件的事件类型为普通事件时,触觉事件的数据结构还包括相对时间字段,相对时间字段用于指示触觉事件的时间偏移量。
在一种实现方式中,获取单元,用于获取触觉媒体中瞬时触觉信号的表示信息时,具体用于执行如下步骤:
获取触觉媒体的位流文件;
从触觉媒体的位流文件中,获取瞬时触觉信号的表示信息。
在一种实现方式中,触觉媒体的位流文件包括触觉模式元数据包,触觉模式元数据包是对触觉模式元数据进行编码处理得到的;触觉媒体的触觉模式元数据包包括短暂持续时间字段;
瞬时触觉信号的表示信息包括短暂持续时间字段,短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
在一种实现方式中,触觉模式元数据包还包括触觉模式类型字段,触觉模式类型字段用于指示触觉媒体的触觉模式的类型;
当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
在一种实现方式中,触觉媒体的位流文件包括知识触觉事件元数据包,知识触觉事件元数据包是对知识触觉事件元数据进行编码处理得到的;知识触觉事件元数据包包括事件类型字段和持续时间标志字段;事件类型字段用于指示知识触觉事件的事件类型,事件类型包括瞬时事件或持续事件;持续时间标志字段用于指示是否指示知识触觉事件的持续时间;
若持续时间标志字段指示需要指示知识触觉事件的持续时间时,知识触觉事件元数据包还包括持续时间字段,瞬时触觉信号的表示信息包括持续时间字段;当事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件时,持续时间字段用于指示当前触觉模式下所有瞬时触觉信号的持续时间;
其中,一个触觉模式中存在一个具备持续时间字段的,且事件类型为瞬时事件的知识触觉事件。
在一种实现方式中,当事件类型字段指示触觉媒体的知识触觉事件的事件类型为持续事件时,持续时间字段用于指示对应知识触觉事件的持续时间。
在一种实现方式中,获取单元,用于获取触觉媒体中瞬时触觉信号的表示信息时,具体用于执行如下步骤:
获取触觉媒体的媒体文件;
从触觉媒体的媒体文件中获取瞬时触觉信号的表示信息。
在一种实现方式中,触觉媒体的媒体文件包括触觉模式描述数据盒,触觉模式描述数据盒用于指示触觉媒体的触觉模式的元数据信息;触觉模式描述数据盒包括短暂持续时间字段;
瞬时触觉信号的表示信息包括短暂持续时间字段,短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
在一种实现方式中,触觉模式描述数据盒还包括触觉模式类型字段,触觉模式类型字段用于指示触觉媒体的触觉模式的类型;
当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
在一种实现方式中,处理单元,用于按照瞬时触觉信号的表示信息,呈现触觉媒体中的瞬时触觉信号时,具体用于执行如下步骤:
对瞬时触觉信号的表示信息进行渲染,得到瞬时触觉信号。
另一方面,本申请实施例提供了一种触觉媒体的数据处理方法,该触觉媒体的数据处理方法包括:
获取触觉媒体中瞬时触觉信号的持续时间;
根据瞬时触觉信号的持续时间,生成瞬时触觉信号的表示信息;
将瞬时触觉信号的表示信息封装至触觉媒体的媒体文件中。
相应地,本申请实施例提供了一种触觉媒体的数据处理装置,该触觉媒体的数据处理装置包括:
获取单元,用于获取触觉媒体中瞬时触觉信号的持续时间;
处理单元,用于根据瞬时触觉信号的持续时间,生成瞬时触觉信号的表示信息;
处理单元,还用于将瞬时触觉信号的表示信息封装至触觉媒体的媒体文件中。
在一种实现方式中,触觉媒体的交换格式文件包括瞬时触觉信号的表示信息;处理单元,用于将瞬时触觉信号的表示信息封装至触觉媒体的媒体文件中时,具体用于执行如下步骤:
对触觉媒体的交换格式文件进行编码处理,得到触觉媒体的位流文件;
对触觉媒体的位流文件进行封装处理,得到触觉媒体的媒体文件。
在一种实现方式中,处理单元,还用于执行如下步骤:
将瞬时触觉信号的表示信息添加至触觉媒体的位流文件中。
在一种实现方式中,处理单元,还用于执行如下步骤:
将瞬时触觉信号的表示信息添加至触觉媒体的媒体文件中。
相应地,本申请实施例提供一种计算机设备,该计算机设备包括:
处理器,适于实现计算机程序;
计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序适于由处理器加载并执行上述的触觉媒体的数据处理方法。
相应地,本申请实施例提供一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被计算机设备的处理器读取并执行时,使得计算机设备执行上述的触觉媒体的数据处理方法。
相应地,本申请实施例提供了一种计算机程序产品,该计算机程序产品包括计算机程序,该计算机程序存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机程序,处理器执行该计算机程序,使得该计算机设备执行上述的触觉媒体的数据处理方法。
本申请实施例中,定义了触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息可以用于指示瞬时触觉信号的持续时间;也就是说,通过触觉信号的表示信息,可以准确地定义触觉媒体中瞬时触觉信号的呈现形式,从而,可以准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1a是本申请实施例提供的一种6DoF的示意图;
图1b是本申请实施例提供的一种3DoF的示意图;
图1c是本申请实施例提供的一种3DoF+的示意图;
图2是本申请实施例提供的一种触觉媒体的表示信息的数据结构示意图;
图3是本申请实施例提供的一种触觉媒体处理系统的架构示意图;
图4是本申请实施例提供的一种触觉媒体处理系统下的触觉媒体的处理流程示意图;
图5是本申请实施例提供的一种触觉媒体的数据处理方法的流程示意图;
图6是本申请实施例提供的一种触觉媒体的位流文件的结构示意图;
图7是本申请实施例提供的另一种触觉媒体的数据处理方法的流程示意图;
图8是本申请实施例提供的一种触觉媒体的数据处理装置的结构示意图;
图9是本申请实施例提供的一种计算机设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
为了能够更清楚地理解本申请实施例所提供的技术方案,在此先对本申请涉及的一些技术术语进行介绍。
一、沉浸媒体:
沉浸媒体是指能够提供沉浸式的媒体内容,使沉浸于该媒体内容中的消费者能够获得现实世界中视觉、听觉、触觉等感官体验的媒体文件。沉浸媒体可以包括但不限于以下至少一种(本申请实施例中术语“至少一种”是指一种或多种,在此说明):音频媒体、视频媒体、触觉媒体等等。消费者可以包括但不限于以下至少一种:音频媒体的收听者、视频媒体的观看者、触觉媒体的使用者等等。沉浸媒体按照消费者在消费媒体内容时的自由度,可以分为:6DoF(Degree of Freedom,自由度)沉浸媒体,3DoF沉浸媒体,3DoF+沉浸媒体。其中,如图1a所示,6DoF是指沉浸媒体的消费者可以沿着X轴、Y轴、Z轴自由平移,例如,沉浸媒体的消费者可以在三维的360度VR(Virtual Reality,虚拟现实)内容中自由的走动。与6DoF相类似的,还有3DoF和3DoF+制作技术;如图1b所示,3DoF是指沉浸媒体的消费者在一个三维空间的中心点固定,沉浸媒体的消费者头部沿着X轴、Y轴和Z轴旋转来观看媒体内容提供的画面;如图1c所示,3DoF+是指当沉浸媒体提供的虚拟场景具有一定的深度信息,沉浸媒体的消费者头部可以基于3DoF在一个有限的空间内移动来观看媒体内容提供的画面。
二、触觉(Haptics):
沉浸式的媒体内容的呈现往往借助于各种各样的智能设备,例如可穿戴设备或者可交互设备。因此,沉浸媒体在呈现方式上,除了传统的视觉和听觉方面的呈现外,还具备触觉这种新的呈现方式。触觉通过硬件与软件结合的触觉呈现机制,允许消费者通过其身体接收信息,提供一种嵌入式的身体感觉,传递关于消费者正在使用的系统的关键信息。例如,设备会振动以提醒其消费者收到了一条信息。这种振动是触觉的一种呈现形式。触觉还可以增强听觉和视觉的呈现,提高消费者体验。
触觉可以包含但不限于以下一种或多种:振动触觉、运动学触觉以及电触觉。其中,振动触觉是指通过设备的马达振动模拟出特定频率和强度的振动;例如,射击游戏中通过振动模拟出射击工具使用时的特定效果。运动学触觉是指运动学触觉系统模拟物体的重量或压力,运动学触觉可以包含但不限于:速度、加速度;例如,在一个驾驶游戏中,当以较高的速度移动或操作较重的车辆时,方向盘可能会抵制转动;这种类型的反馈直接影响消费者。在驾驶游戏的例子中,消费者必须施加更多的力量才能从方向盘获得所需的反应。电触觉使用电脉冲向消费者的神经末梢提供触觉刺激。电触觉可以为穿着装有电触觉技术的套装或手套的消费者创造高度真实的体验。几乎任何感觉都可以用电脉冲来模拟:温度变化、压力变化、潮湿感。随着可穿戴设备和可交互设备的普及,消费者在消费沉浸式的媒体内容时所感知的触觉可以包括振动、压力、速度、加速度、温度、湿度、嗅觉等全方位体感,这样更逼近真实世界的触觉呈现体验。
三、触觉媒体:
触觉媒体是指媒体类型为触觉类型的沉浸媒体,是能够为消费者提供现实世界中的触觉的感官体验的媒体文件。触觉媒体可以包含一个或多个触觉信号(HapticsSignal),触觉信号用于表示特定模态触觉体验,并且能够在特定设备上渲染呈现的信号。从呈现类型来看,触觉信号可以包括但不限于:振动触觉信号、压力触觉信号、速度触觉信号、温度触觉信号等等;根据触觉信号的不同,触觉媒体的触觉类型也不同;例如,触觉信号为振动触觉信号,该触觉媒体的触觉类型则为振动触觉媒体;又如,触觉信号为电触觉信号,该触觉媒体的触觉类型则为电触觉媒体。从呈现时间来看,触觉信号可以包括但不限于:瞬时触觉信号和持续触觉信号,持续触觉信号呈现时的持续时间长于瞬时触觉信号呈现时的持续时间;特别地,对于振动触觉信号,其持续时间可以采用振动马达以基准频率的振动次数进行衡量。从呈现形式来看,触觉信号可以包括但不限于:参考触觉信号和普通触觉信号,参考触觉信号是指参考知识触觉信号的触觉信号,知识触觉信号是指预定义的、可被重复引用的触觉信号,以避免相同触觉信号的重复解析,普通触觉信号是指不参考知识触觉信号的触觉信号。
触觉媒体的表示信息可以用于指示触觉媒体的属性信息,触觉媒体的属性信息与触觉媒体的呈现形式相关,下面结合图2对触觉媒体的表示信息的数据结构进行介绍,图2示出了AVS(Audio Video Coding Standard,音视频编码标准)触觉媒体的表示信息的数据结构,触觉媒体的表示信息的数据结构按照层级展开。其中:
触觉媒体的表示信息中最高层级的数据结构为触觉体验,可以用于描述文件或位流中全部的触觉体验信息。触觉体验包括触觉体验相关的元数据信息、可能的设备信息(例如,图2中的设备1-设备N),以及一个或多个触觉模式(例如,图2中的触觉模式1-触觉模式N)。触觉模式对应某种触觉类型(比如,振动、压力、温度等)的触觉信号,触觉模式中包括触觉模式相关的元数据信息、可能预定义的知识触觉事件(例如,图2中的知识触觉事件1-知识触觉事件N)、以及一个或多个触觉通道(例如,图2中的触觉通道1-触觉通道N)。触觉通道包含相应触觉模式的全部或部分触觉信号,触觉通道中包括触觉通道相关的元数据信息以及一个或多个触觉事件(例如,图2中的触觉事件1-触觉事件N);通常来说,相同触觉模式下对应于不同渲染设备的触觉信号可以被组织为不同的触觉通道。触觉事件为基本的触觉信号单元,也就是说,一个触觉事件相当于一个触觉信号,触觉事件中包括触觉事件相关的元数据信息以及可能的触觉事件组件(例如,图2中的触觉事件组件1-触觉事件组件N)。触觉事件组件是指触觉事件的时域或频域分量。
下面分别介绍触觉体验、触觉模式、知识触觉事件、触觉通道、触觉事件以及触觉事件组件的数据结构:
1、触觉体验的数据结构定义如下表1所示:
表1触觉体验的数据结构
如上表1示出了数据体验的属性信息,包括以下属性的属性信息:version(版本字段)、creation_date(创建时间字段)、description(描述字段)、timescale(时间刻度字段)、devices(设备信息元素列表字段)以及patterns(触觉模式元素列表字段)。
其中,设备信息的数据结构定义如下表2所示:
表2设备信息的数据结构
属性 | 描述 |
id | 指示设备的标识符 |
device_name | 指示设备的(人眼可读的)名称 |
body_parts | 指示设备对应的身体部位 |
如上表2示出了设备信息的数据结构,包括以下属性的属性信息:id(设备标识字段)、device_name(设备名称字段)以及body_parts(设备对应身体部位字段)。
2、触觉模式的数据结构定义是如下表3所示:
表3触觉模式的数据结构
如上表3示出了触觉模式的数据结构,包括以下属性的属性信息:id(触觉模式标识字段)、pattern_type(触觉模式类型字段)、refer_devices(触觉模式对应设备标识字段)、event_semantics_flag(触觉模式语义指示字段)、event_semantics_type(触觉事件语义遵循规范字段)、library_events(知识触觉事件元素列表字段)以及channels(触觉通道元素列表字段)。
3、知识触觉事件的数据结构:
知识触觉事件是特殊的触觉事件,其数据结构遵循触觉事件的数据结构定义。知识触觉事件通常为预定义的、可被重复引用的触觉事件,以避免相同触觉事件的重复解析。
4、触觉通道的数据结构定义如下表4所示:
表4触觉通道的数据结构
如上表4示出了触觉通道的数据结构,包括以下属性的属性信息:id(触觉通道标识符字段)、description(触觉通道描述字段)、refer_devices(触觉模式对应的设备字段)、gain(触觉通道增益字段)以及events(触觉事件元素列表字段)。
5、触觉事件的数据结构定义如下表5所示:
表5触觉事件的数据结构
如上表5示出了触觉事件的数据结构,包括以下属性的属性信息:id(触觉事件标识符字段)、effect_semantic(触觉事件语义字段)、event_type(触觉事件类型字段)、refer_library_event(参考知识事件字段)、relative_time(时间偏移量字段)、duration(持续时间字段)、amplitude(振幅字段)、base_frequency(基准频率字段)以及event_components(事件组件字段)。
6、触觉事件组件的数据结构定义如下表6所示:
表6触觉事件组件的数据结构
如上表6示出了触觉事件组件的数据结构,包括以下属性的属性信息:refer_event_id(组件所属事件标识符字段)、relative_time(组件相对事件的时间偏移字段)、relative_amplitude(组件相对事件的振幅偏移字段)以及relative_frequency(组件相对事件的频率偏移字段)。
四、轨道(Track):
轨道是指媒体文件封装过程中的媒体数据集合,一个轨道中由多个具备时序的样本组成。一个媒体文件中可包含一个或多个轨道。示意性的,例如一个视频媒体文件可以包含但不限于:视频媒体轨道、音频媒体轨道及字幕媒体轨道。特别地,元数据信息也可以作为一种媒体类型,以元数据轨道的形式包含于媒体文件中。所谓的元数据信息是对与触觉媒体的呈现有关的信息的总称,该元数据可包括对触觉媒体的媒体内容的描述信息、触觉媒体所依赖的依赖信息以及对触觉媒体的媒体内容呈现相关的信令信息等等。
五、ISOBMFF(ISO Based Media File Format,基于ISO标准的媒体文件格式):
ISOBMFF是媒体文件的封装标准,较为典型的ISOBMFF文件即为MP4文件。
基于上述技术术语的介绍,本申请实施例提供一种触觉媒体的数据处理方法,该触觉媒体的数据处理方法增加了触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息可以用于指示瞬时触觉信号的持续时间;通过触觉信号的表示信息,可以准确地定义触觉媒体中瞬时触觉信号的呈现形式,从而,可以准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验。
并且,在本申请实施例提供的触觉媒体的数据处理方法中,瞬时触觉信号的表示信息可以增加于触觉媒体的交换格式文件中,触觉媒体的交换格式文件是指触觉媒体的表示信息,可以用于定义触觉媒体的属性信息;通过在触觉媒体的交换格式文件中增加瞬时触觉信号的表示信息,可以在触觉媒体的呈现层面准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验。可选地,瞬时触觉信号的表示信息还可以增加于触觉媒体的位流文件中,触觉媒体的位流文件是对触觉媒体的交换格式文件进行压缩(即编码处理)得到的二进制位流;通过在触觉媒体的位流文件中增加瞬时触觉信号的表示信息,可以在触觉媒体的位流层面对触觉媒体进行相应处理。可选地,瞬时触觉信号的表示信息还可以增加于触觉媒体的媒体文件中,触觉媒体的媒体文件是对触觉媒体的位流文件进行封装处理得到的;通过在触觉媒体的媒体文件中增加瞬时触觉信号的表示信息,可以在触觉媒体的封装层面对触觉媒体进行相应处理。
下面对本申请实施例提供的触觉媒体处理系统进行介绍。触觉媒体处理系统可以适用实现本申请实施例提供的触觉媒体的数据处理方法。
如图3所示,触觉媒体处理系统中可以包括服务设备301和消费设备302,服务设备301可作为触觉媒体的编码端,对触觉媒体进行编码封装处理,形成触觉媒体的媒体文件。消费设备302可作为触觉媒体的解码端(或者可以称为前文提及的媒体呈现端),对触觉媒体的媒体文件进行解封装解码消费,从而呈现触觉媒体。本申请实施例不对服务设备301和消费设备302之间的连接方式进行限定,服务设备301和消费设备302之间可以通过有线通信的方式建立直接的通信连接,或者,服务设备301和消费设备302之间可以通过无线通信的方式建立间接的通信连接。
服务设备301可以是终端设备或服务器;消费设备302也可以是终端设备或服务器。其中,终端设备可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表、车载终端、智能电视、智能可穿戴设备、智能可交互设备等,但并不局限于此。服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(Content Delivery Network,内容分发网络)、以及大数据和人工智能平台等基础云计算服务的云服务器。
服务设备301与消费设备302之间涉及触觉媒体的传输过程,该传输过程可以基于各种传输协议(或者传输信令)来进行,此处的传输协议可包括但不限于:DASH(DynamicAdaptive Streaming over HTTP,动态自适应流媒体传输)协议、HLS(HTTP LiveStreaming,动态码率自适应传输)协议、SMTP(Smart Media Transport Protocol,智能媒体传输协议)、TCP(Transmission Control Protocol,传输控制协议)等。
服务设备301在执行本申请实施例提供的触觉媒体的数据处理方法时,主要涉及以下数据处理过程:(1)触觉媒体的获取过程;(2)触觉媒体的编码及文件封装的过程。消费设备302在执行本申请实施例提供的触觉媒体的数据处理方法时,主要涉及以下数据处理过程:(3)触觉媒体的文件解封装及解码的过程;(4)触觉媒体的呈现过程。下面分别介绍服务设备301和消费设备302的数据处理过程:
(1)触觉媒体的获取过程。
服务设备301可以获取触觉媒体,并生成触觉媒体的交换格式文件,触觉媒体的交换格式文件中包含瞬时触觉信号的表示信息。详细地,服务设备301可以获取触觉媒体,触觉媒体可以包含一个或多个触觉信号;触觉信号不同,对应的触觉媒体的获取方式也可能不同;例如,针对振动触觉信号,获取对应的振动触觉媒体的方式可以通过服务设备301关联的捕获设备(如传感器)采集具备特定频率和强度的振动触觉信号;又如,针对电触觉信号,获取相应的电触觉媒体的方式可以通过服务设备301关联的捕获设备采集电脉冲,形成电触觉信号。其中,上述捕获设备可以根据所采集的触觉信号的类型来确定,可包括但不限于:摄像设备、传感设备、扫描设备;摄像设备可以包括普通摄像头、立体摄像头、以及光场摄像头等;传感设备可以包括激光设备、雷达设备等。扫描设备可以包括三维激光扫描设备等。
(2)触觉媒体的编码及文件封装的过程。
服务设备301可以对触觉媒体的交换格式文件进行编码处理,得到触觉媒体的位流文件,服务设备301可以对触觉媒体的位流文件进行封装处理,得到触觉媒体的封装文件。
可选地,服务设备301可以将瞬时触觉信号的表示信息添加至触觉媒体的位流文件中;或者,服务设备301可以将瞬时触觉信号的表示信息添加至触觉媒体的媒体文件中。
(3)触觉媒体的文件解封装及解码的过程。
消费设备302可以通过服务设备301获得触觉媒体的媒体文件和相应的媒体呈现描述信息。媒体呈现描述信息包含该触觉媒体的媒体文件的相关信息。消费设备302的文件解封装的过程与服务设备301的文件封装过程是相逆的,消费设备302按照触觉媒体的文件格式要求对媒体文件进行解封装,得到触觉媒体的位流文件。消费设备302的解码过程与服务设备301的编码过程是相逆的,消费设备302对触觉媒体的位流文件进行解码,还原出触觉媒体的交换格式文件,触觉媒体的交换格式文件中可以包括瞬时触觉信号的表示信息。
可选地,若在触觉媒体的封装过程中添加了瞬时触觉信号的表示信息,则在触觉媒体的解封装过程中,可以解封装得到瞬时触觉信号的表示信息;或者,若在触觉媒体的编码过程中添加了瞬时触觉信号的标识信息,则在触觉媒体的解码过程中,可以解码得到瞬时触觉信号的表示信息。
(4)触觉媒体的呈现过程。
消费设备302可以对解码得到的触觉媒体的交换格式文件进行渲染处理,呈现触觉媒体。特别地,消费设备302可以对触觉媒体的交换格式文件瞬时触觉信号的表示信息进行渲染处理,呈现触觉媒体中的瞬时触觉信号。
进一步地,上述服务设备301和消费设备302的数据处理过程可以总结为图4所示的流程示意图。如图4所示,对于服务设备301:首先,可以采集触觉媒体B,该触觉媒体中包含瞬时触觉信号A;其次,可以生成触觉媒体B的交换格式文件,触觉媒体B的交换格式文件中包含瞬时触觉信号A的表示信息;然后,可以对触觉媒体B的交换格式文件进行编码处理,得到触觉媒体的位流文件E;再然后,可以对触觉媒体的位流文件E进行封装处理,得到触觉媒体的媒体文件。另外,对于服务设备301,服务设备301还可以将瞬时触觉信号的表示信息添加至触觉媒体的位流文件中,服务设备301还可以将瞬时触觉信号的表示信息添加至触觉媒体的媒体文件中。
特别地,服务设备301根据特定媒体容器文件格式,将触觉媒体的位流文件E合成为用于文件回放的媒体文件F,或用于流式传输的初始化片段和媒体文件的片段(Fs);也就是说,从触觉媒体的媒体文件可以包括媒体文件F或媒体文件的片段Fs。其中,媒体容器文件格式可以是指在国际标准化组织(International Organization forStandardization,ISO)/国际电工委员会(International ElectrotechnicalCommission,IEC)14496-12中规定的ISO基本媒体文件格式。
对于消费设备302:首先,可以接收服务设备301发送的触觉媒体的媒体文件,该媒体文件可以包括:用于文件回放的媒体文件F',或用于流式传输的初始化片段和媒体文件的片段Fs';其次,可以对触觉媒体的位流文件E媒体文件进行解封装处理,得到触觉媒体的位流文件E';然后,可以对触觉媒体的位流文件E'进行解码处理,得到触觉媒体D'的交换格式文件,触觉媒体D'的交换格式文件包括瞬时触觉信号A'的表示信息;再然后,可以根据触觉媒体D'的交换格式文件,对触觉媒体D'进行渲染,呈现触觉媒体D',特别地,可以根据瞬时触觉信号A'的表示信息,对瞬时触觉信号A'进行渲染,呈现瞬时触觉信号A'。另外,对于消费设备302,消费设备302还可以从触觉媒体的位流文件中获取瞬时触觉信号的表示信息,消费设备302还可以从触觉媒体的媒体文件中获取瞬时触觉信号的表示信息。
需要说明的是,上述触觉媒体处理系统下触觉媒体的数据处理流程,可以应用于触觉反馈相关产品,及沉浸式系统的服务节点(即编码端)、消费节点(即解码端)以及中间节点(即中继端)等环节。可以理解的是,本申请涉及触觉媒体的数据处理方法还可以依托于云技术进行实现;例如,将基于云技术实现的云服务器作为编码端或解码端,其中,云技术(Cloud technology)是指在广域网或局域网内将硬件、软件、网络等系列资源统一起来,实现数据的计算、储存、处理和共享的一种托管技术。
本申请实施例提供一种触觉媒体的数据处理方法,该触觉媒体的数据处理方法主要介绍解码端增加的瞬时触觉信号的表示信息。该触觉媒体的数据处理方法可以由计算机设备执行,计算机设备例如可以是上述图3所示的触觉媒体处理系统中的消费设备302。如图5所示,该触觉媒体的数据处理方法可以包括步骤S501-步骤S502:
S501,获取触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息用于指示瞬时触觉信号的持续时间。
触觉媒体中瞬时触觉信号的表示信息的获取方式可以包括以下至少一种:第一种,从触觉媒体的交换格式文件中获取瞬时触觉信号的表示信息;第二种,从触觉媒体的位流文件中获取瞬时触觉信号的表示信息;第三种,从触觉媒体的媒体文件中获取瞬时触觉信号的表示信息。下面分别对这三种瞬时触觉信号的表示信息的获取方式进行介绍:
一、从触觉媒体的交换格式文件中获取瞬时触觉信号的表示信息:
在该瞬时触觉信号的表示信息的获取方式中,首先,需要获取触觉媒体的交换格式文件,触觉媒体的交换格式文件可以用于定义触觉媒体的属性信息。触觉媒体的交换格式文件的获取方式可以包括:对触觉媒体的媒体文件进行解封装,得到触觉媒体的位流文件,对触觉媒体的位流文件进行解码处理,得到触觉媒体的交换格式文件;在该触觉媒体的交换格式文件的获取方式下,消费设备302可以理解为是触觉媒体的解码端。或者,可以生成触觉媒体的交换格式文件,在该触觉媒体的交换格式文件的获取方式下,消费设备302可以理解为是触觉媒体的编码端和解码端,消费设备302可以自行制作并呈现触觉媒体。
进一步地,在触觉媒体的交换格式文件中,获取瞬时触觉信号的表示信息的方式可以包括以下任一种:从触觉模式的数据结构中获取瞬时触觉信号的表示信息,从知识触觉事件的数据结构中获取瞬时触觉信号的表示信息,以及从触觉事件的数据结构中获取瞬时触觉信号的表示信息。下面分别对在触觉媒体的交换格式文件中,获取瞬时触觉信号的表示信息的三种方式进行介绍:
(1)从触觉模式的数据结构中获取瞬时触觉信号的表示信息:
触觉媒体的交换格式文件可以包括触觉模式的数据结构,触觉模式的数据结构可以用于定义触觉模式的属性信息,触觉模式可以包含一个或多个触觉通道以及相关的元数据,一个触觉模式对应一种触觉类型的触觉信号。在增加瞬时触觉信号的表示信息后,触觉模式的数据结构(AVS_haptics_pattern)如下表7所示:
表7触觉模式的数据结构
/>
/>
将表7与上述表3新增瞬时触觉信号的表示信息前,触觉模式的数据结构进行对比,可以看出:新增后,触觉模式的数据结构可以包括短暂持续时间字段(transient_duration);瞬时触觉信号的表示信息可以包括短暂持续时间字段,短暂持续时间字段可以用于指示当前触觉模式下的瞬时触觉信号的持续时间。并且,当以时间刻度timecale为单位时,transient_duration/timescale可以用于指示瞬时触觉信号的持续秒数。
可选地,对于振动触觉来说,transient_duration还可以按照振动马达的基准频率来进行定义,即通过transient_duration来指示振动马达以基准频率振动的次数,此时transient_duration的语义如下:指示振动触觉模式下的瞬时振动信号的度量,该字段的取值表示振动马达以基准频率振动的次数。也就是说,触觉模式的数据结构还可以包括触觉模式类型字段(pattern_type),触觉模式类型字段可以用于指示触觉媒体的触觉模式的类型;当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段可以用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
(2)从知识触觉事件的数据结构中获取瞬时触觉信号的表示信息:
触觉媒体的交换格式文件可以包括知识触觉事件的数据结构,知识触觉事件的数据结构可以用于定义知识触觉事件的属性信息;知识触觉事件是特殊的触觉事件,其数据结构可以遵循触觉事件的数据结构定义,知识触觉事件通常为预定义的、可被重复引用的触觉事件,以避免相同触觉事件的重复解析。也就是说,对于瞬时触觉信号的表示信息,可以利用当前定义的知识触觉事件,定义特殊的知识触觉事件,用来表示对应触觉模式下的瞬时触觉信号的持续时间。在增加瞬时触觉信号的表示信息后,知识触觉事件的数据结构如下表8所示:
表8知识触觉事件的数据结构
/>
将表8与上述表5新增瞬时触觉信号的表示信息前,触觉事件的数据结构进行对比,可以看出:新增后,知识触觉事件的数据结构可以包括触觉事件类型字段(event_type),触觉事件类型字段可以用于指示触觉媒体的知识触觉事件的事件类型,事件类型可以包括瞬时事件或持续事件;当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件,且知识触觉事件的数据结构还包括持续时间字段(duration)时,瞬时触觉信号的表示信息可以包括持续时间字段,持续时间字段可以用于指示当前触觉模式下所有瞬时触觉事件的持续时间;其中,一个触觉模式中存在一个具备持续时间字段的,且事件类型为瞬时事件的知识触觉事件。
在此情况下,对于持续事件,当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为持续事件时,持续时间字段可以用于指示对应知识触觉事件的持续时间。
继续将表8与上述表5新增瞬时触觉信号的表示信息前,触觉事件的数据结构进行对比,可以看出:知识触觉事件的数据结构是根据触觉事件的数据结构确定的,触觉事件的数据结构可以包含参考知识事件字段(refer_library_event),知识触觉事件的数据结构可以不包含参考知识事件字段,参考知识事件字段可以用于指示当触觉事件的事件类型为参考事件时,触觉事件对应的知识触觉事件标识符;触觉事件的数据结构可以包含相对时间字段(relative_time),知识触觉事件的数据结构可以不包含所述相对时间字段,相对时间字段可以用于指示触觉事件的时间偏移量。
触觉事件的数据结构可以包含振幅字段(amplitude)、基准频率字段(base_frequency)以及事件组件字段(event_components);当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件,且知识触觉事件的数据结构包括持续时间字段时,知识触觉事件的数据结构可以不包含振幅字段、基准频率字段以及事件组件字段;振幅字段可以用于指示触觉事件的信号最大幅度值;基准频率字段可以用于指示触觉事件的信号基准频率;事件组件字段可以用于指示触觉事件组件元素列表,触觉事件组件元素列表用于指示触觉事件的组件,触觉事件的组件包括触觉事件的时域分量或者频域分量。
(3)从触觉事件的数据结构中获取瞬时触觉信号的表示信息:
触觉媒体的交换格式文件可以包括触觉事件的数据结构,触觉事件的数据结构可以用于定义触觉事件的属性信息,触觉事件可以包含一个完整的触觉信号以及相关的元数据;对于瞬时触觉信号的表示信息,还可以进一步直接与当前定义的持续触觉信号合并,即对于触觉媒体的表示信息来说,触觉事件仅存在普通事件和参考事件两种,普通事件即不参考知识触觉事件的触觉信号,普通事件必然具备持续事件,参考事件即需要参考知识触觉事件的触觉信号。在增加瞬时触觉信号的表示信息后,触觉事件的数据结构(AVS_haptics_event)如下表9所示:
表9触觉事件的数据结构
将表9与上述表5新增瞬时触觉信号的表示信息前,触觉事件的数据结构进行对比,可以看出:新增后,触觉事件的数据结构包括触觉事件类型字段(event_type),触觉事件类型字段可以用于指示触觉媒体的触觉事件的事件类型,事件类型包括参考事件或普通事件;当触觉事件类型字段指示触觉媒体的触觉事件的事件类型为参考事件时,触觉事件的数据结构还包括参考知识事件字段(refer_library_event),瞬时触觉信号的表示信息可以包括参考知识事件字段;参考知识事件字段可以用于指示事件类型为参考事件的触觉事件对应的知识触觉事件标识符;其中,事件类型为参考事件的触觉事件的持续时间,与对应的知识触觉事件标识符所指示的知识触觉事件的持续时间相同。
对于普通事件,当触觉事件类型字段指示所述触觉媒体的触觉事件的事件类型为普通事件时,触觉事件的数据结构还可以包括相对时间字段(relative_time),相对时间字段可以由用于指示触觉事件的时间偏移量。
二、从触觉媒体的位流文件中获取瞬时触觉信号的表示信息:
在该瞬时触觉信号的表示信息的获取方式中,首先,需要获取触觉媒体的位流文件,在编码端,触觉媒体的位流文件可以是对触觉媒体的交换格式文件进行编码处理得到的,在解码端,触觉媒体的位流文件可以是对触觉媒体的媒体文件进行解封装得到的。如图6所示,当触觉媒体的交换格式文件被压缩为二进制位流(即触觉媒体的位流文件)后,其中的数据以包的形式存在于二进制位流中;具体来说,触觉媒体的位流文件可以包括多个位流单元(例如,图6中的…、位流单元i-1、位流单元i、位流单元i+1、…),每个位流单元可以包含位流单元头和多个位流数据包(例如,图6中位流单元i包含位流单元头和位流数据包0-位流数据包n),每一个位流数据包可以看作是二进制位流中的一个数据单元。特别的,存在一些数据单元用于包含交换格式文件中的元数据,比如,触觉模式元数据包和知识触觉事件元数据包;其中,触觉模式元数据包可以是对触觉模式元数据进行编码处理得到的,知识触觉事件元数据包可以是对知识触觉事件元数据进行编码处理得到的。
进一步地,在触觉媒体的位流文件中,获取瞬时触觉信号的表示信息的方式可以包括以下任一种:从触觉模式元数据包中获取瞬时触觉信号的表示信息,从知识触觉事件元数据包中获取瞬时触觉信号的表示信息。下面分别对在触觉媒体的位流文件中,获取瞬时触觉信号的表示信息的两种方式进行介绍:
(1)从触觉模式元数据包中获取瞬时触觉信号的表示信息:
触觉模式元数据包(readMetadataPattern())的语法如下表10所示:
表10
表10所示的触觉模式元数据包中各语法元素的解释如下:
id(触觉模式标识字段):指示触觉模式的标识符,该字段取值必须大于等于0。
patternType(触觉模式类型字段):指示触觉模式的类型,该字段取值含义如下表11所示:
表11
取值 | 含义 |
0 | 振动触觉 |
1 | 压力 |
2 | 加速度 |
3 | 速度 |
4 | 温度 |
5 | 电触觉 |
6~255 | 保留 |
eventLibraryCount(知识触觉事件数量字段):指示知识触觉事件的数量。
sementicsFlag(触觉模式语义标志字段):指示触觉模式对应的触觉事件是否存在语义。
event_semantics_type(触觉事件语义遵循规范字段):指示触觉事件语义所遵循的规范。该字段取值为0时,触觉事件的语义遵循本标准定义的规范;取值为1时,触觉事件的语义遵循外部标准的规范;取值为2时,触觉事件的语义为用户自定义。
transient_duration(短暂持续时间字段):指示当前触觉模式下的瞬时触觉信号的持续时长。以时间刻度timecale为单位,transient_duration/timescale即瞬时信号持续的持续秒数。(对应从触觉媒体的交换格式文件中获取瞬时触觉信号的持续时间的可选方案,该字段的含义还可以是:指示振动触觉模式下的瞬时振动信号的度量,该字段的取值表示振动马达以基准频率振动的次数)。
referenceDeviceCount(触觉模式对应设备数量字段):指示触觉模式对应的设备数量。
referenceDeviceId(触觉模式对应设备标识字段):指示触觉模式对应的设备的标识符。
基于上述表10示出的触觉模式元数据包的语法,可以看出:触觉媒体的触觉模式元数据包可以包括短暂持续时间字段(transient_duration);瞬时触觉信号的表示信息可以包括短暂持续时间字段,短暂持续时间字段可以用于指示当前触觉模式下的瞬时触觉信号的持续时间。
可选地,对于振动触觉来说,触觉模式元数据包还可以包括触觉模式类型字段(pattern_type),触觉模式类型字段可以用于指示触觉媒体的触觉模式的类型;当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间可以为,振动马达以基准频率振动的次数。
(2)从知识触觉事件元数据包中获取瞬时触觉信号的表示信息:
知识触觉事件元数据包(readLibraryEvents())的语法如下表12所示:
表12
表12所示的触觉模式元数据包中各语法元素的解释如下:
id(触觉事件标识符字段):指示触觉事件的标识符。
eventType(触觉事件类型字段):指示触觉事件的类型。取值为0时表示瞬时事件;取值为1时表示持续事件;取值为2时表示参考事件。对于知识触觉信号,该字段不能取值为2。
hasSemantic(触觉事件语义指示字段):取值为0时表示事件不具备语义;取值为1时表示事件具备特殊语义。
semanticKeywords(触觉事件语义字段):表示事件的语义。
durationFlag(持续时间标志字段):取值为0时不指示事件的持续时间,取值为1时指示事件的持续时间。
durationTime(持续时间字段):指示事件的持续时间。对于知识触觉事件,若事件类型为瞬时事件且具备该字段,则该字段表示当前触觉模式下所有瞬时事件的持续时间。对于一个触觉模式,仅存在一个具备duration字段的瞬时知识触觉事件。
若事件类型为持续事件,则必须具备该字段,且该字段表示相应知识触觉事件的持续事件。
该字段以时间刻度timecale为单位,transient_duration/timescale即瞬时信号持续的持续秒数。
baseFrequency(基准频率字段):指示触觉事件的信号基准频率。
baseAmplitude(基准振幅字段):指示触觉事件的信号最大幅度值。
eventComponentsCount(触觉事件组件数量字段):指示触觉事件包含的事件组件个数。
Mask(触觉事件组件控制字段):用于控制触觉事件组件的相应字段指示。
relativeTime(相对时间字段):指示触觉事件组件相对于触觉事件的时间偏移值。
relativeAmplitude(相对振幅字段):指示触觉事件组件相对于触觉事件的幅度偏移值。
relativeFrequency(相对频率字段):指示触觉事件组件相对于触觉事件的频率偏移值。
基于上述表12示出的知识触觉事件元数据包的语法,可以看出:知识触觉事件元数据包可以包括事件类型字段(eventType)和持续时间标志字段(durationFlag);事件类型字段可以用于指示知识触觉事件的事件类型,事件类型可以包括瞬时事件或持续事件;持续时间标志字段可以用于指示是否指示知识触觉事件的持续时间;若持续时间标志字段指示需要指示知识触觉事件的持续时间时,知识触觉事件元数据包还可以包括持续时间字段(durationTime),瞬时触觉信号的表示信息可以包括持续时间字段;当事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件时,持续时间字段可以用于指示当前触觉模式下所有瞬时触觉信号的持续时间;其中,一个触觉模式中存在一个具备持续时间字段的,且事件类型为所述瞬时事件的知识触觉事件。
在此情况下,对于持续事件,当事件类型字段指示所述触觉媒体的知识触觉事件的事件类型为持续事件时,所述持续时间字段可以用于指示对应知识触觉事件的持续时间。
三、从触觉媒体的媒体文件中获取瞬时触觉信号的表示信息:
在该瞬时触觉信号的表示信息的获取方式中,首先,需要获取触觉媒体文件,在编码端,触觉媒体的媒体文件可以是对触觉媒体的位流文件进行编码处理得到的,在解码端,触觉媒体的媒体文件可以是编码端发送的。瞬时触觉信号的表示信息具体是从触觉媒体的媒体文件中的触觉模式描述数据盒中获取的,触觉模式描述数据盒可以用于指示触觉媒体的触觉模式的元数据信息,在此先对触觉模式描述数据盒(HapticPatternDescriptionBox())的语法进行介绍,触觉模式描述数据盒的语法如下:
触觉模式描述数据盒的语法元素的解释如下:
pattern_id(触觉模式标识字段):指示触觉模式的标识符,该字段取值必须大于等于0。
pattern_type(触觉模式类型字段):指示触觉模式的类型,该字段取值含义如上表11所示。
library_event_count(知识触觉事件数量字段):指示知识触觉事件的数量。
event_semantics_flag(触觉模式语义标志字段):指示触觉模式对应的触觉事件是否存在语义。
event_semantics_type(触觉事件语义遵循规范字段):指示触觉事件语义所遵循的规范。该字段取值为0时,触觉事件的语义遵循本标准定义的规范;取值为1时,触觉事件的语义遵循外部标准的规范;取值为2时,触觉事件的语义为用户自定义。
transient_duration(短暂持续时间字段):指示当前触觉模式下的瞬时触觉信号的持续时长。以时间刻度timecale为单位,transient_duration/timescale即瞬时信号持续的持续秒数。(对应从触觉媒体的交换格式文件中获取瞬时触觉信号的持续时间的可选方案,该字段的含义还可以是:指示振动触觉模式下的瞬时振动信号的度量,该字段的取值表示振动马达以基准频率振动的次数)。
基于上述触觉模式描述数据盒的语法,可以看出:触觉模式描述数据盒可以包括短暂持续时间字段(transient_duration);瞬时触觉信号的表示信息可以包括短暂持续时间字段,短暂持续时间字段可以用于指示当前触觉模式下的瞬时触觉信号的持续时间。
可选地,对于振动触觉来说,触觉模式描述数据盒还可以包括触觉模式类型字段(pattern_type),触觉模式类型字段可以用于指示触觉媒体的触觉模式的类型;当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间可以为,振动马达以基准频率振动的次数。
S502,按照瞬时触觉信号的表示信息,呈现触觉媒体中的瞬时触觉信号。
在获取到瞬时触觉信号的表示信息后,可以对瞬时触觉信号的表示信息进行渲染,得到瞬时触觉信号。
本申请实施例中,定义了触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息可以用于指示瞬时触觉信号的持续时间;也就是说,通过触觉信号的表示信息,可以准确地定义触觉媒体中瞬时触觉信号的呈现形式,从而,可以准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验。
本申请实施例提供一种触觉媒体的数据处理方法,该触觉媒体的数据处理方法主要介绍编码端增加的瞬时触觉信号的表示信息。该触觉媒体的数据处理方法可以由计算机设备执行,计算机设备例如可以是上述图3所示的触觉媒体处理系统中的服务设备301。如图7所示,该触觉媒体的数据处理方法可以包括步骤S701-步骤S703:
S701,获取触觉媒体中瞬时触觉信号的持续时间。
S702,根据瞬时触觉信号的持续时间,生成瞬时触觉信号的表示信息。
S703,将瞬时触觉信号的表示信息封装至触觉媒体的媒体文件中。
瞬时触觉信号的表示信息可以定义于触觉媒体的交换格式文件中,也就是说,触觉媒体的交换格式文件可以包括瞬时触觉信号的表示信息,在此情况下,将瞬时触觉信号的表示信息封装至触觉媒体的媒体文件中,可以包括:对触觉媒体的交换格式文件进行编码处理,得到触觉媒体的位流文件;对触觉媒体的位流文件进行封装处理,得到触觉媒体的媒体文件。
进一步地,触觉媒体的交换格式文件至少可以包括触觉模式的数据结构、知识触觉事件的数据结构以及触觉事件的数据结构,瞬时触觉信号的表示信息定义于触觉媒体的交换格式文件中,至少可以包括以下任一种:瞬时触觉信号的表示信息可以定义于触觉模式的数据结构、瞬时触觉信号的表示信息可以定义于知识触觉事件的数据结构中、以及瞬时触觉信号的表示信息可以定义于触觉事件的数据结构。下面分别对这三种情况进行介绍:
(1)瞬时触觉信号的表示信息定义于触觉模式的数据结构中:
触觉模式的数据结构可以用于定义触觉媒体的触觉模式的属性信息,触觉模式的数据结构包括短暂持续时间字段;在此情况下,瞬时触觉信号的表示信息可以包括短暂持续时间字段,根据瞬时触觉信号的持续时间,生成瞬时触觉信号的表示信息,可以包括:将短暂持续时间字段的取值,设置为瞬时触觉信号的持续时间。
可选地,对于振动触觉,触觉模式的数据结构还可以包括触觉模式类型字段,触觉模式类型字段可以用于指示触觉媒体的触觉模式的类型;当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,瞬时触觉信号的持续时间可以是指振动马达以基准频率振动的次数。
(2)瞬时触觉信号的表示信息定义于知识触觉事件的数据结构中:
知识触觉事件的数据结构可以用于定义触觉媒体的知识触觉事件的属性信息,知识触觉事件的数据结构包括触觉事件类型字段,触觉事件类型字段可以用于指示触觉媒体的知识触觉事件的事件类型,事件类型可以包括瞬时事件或持续事件;当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件,且知识触觉事件的数据结构还包括持续时间字段时,瞬时触觉信号的表示信息可以包括持续时间字段;在此情况下,根据瞬时触觉信号的持续时间,生成瞬时触觉信号的表示信息,可以包括:将持续时间字段的取值,设置为瞬时触觉信号的持续时间;其中,一个触觉模式中存在一个具备持续时间字段的,且事件类型为瞬时事件的知识触觉事件。
在此情况下,对于持续事件,当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为持续事件时,持续时间字段可以用于指示对应知识触觉事件的持续时间。
特别地,知识触觉事件的数据结构可以是根据触觉事件的数据结构确定的,触觉事件的数据结构可以包含参考知识事件字段,知识触觉事件的数据结构可以不包含参考知识事件字段,参考知识事件字段可以用于指示当触觉事件的事件类型为参考事件时,触觉事件对应的知识触觉事件标识符;触觉事件的数据结构可以包含相对时间字段,知识触觉事件的数据结构可以不包含相对时间字段,相对时间字段可以用于指示触觉事件的时间偏移量。
另外,知识触觉事件的数据结构可以是根据触觉事件的数据结构确定的,触觉事件的数据结构可以包含振幅字段、基准频率字段以及事件组件字段;当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件,且知识触觉事件的数据结构包括持续时间字段时,知识触觉事件的数据结构可以不包含振幅字段、基准频率字段以及事件组件字段。其中,振幅字段可以用于指示触觉事件的信号最大幅度值;基准频率字段可以用于指示触觉事件的信号基准频率;事件组件字段可以用于指示触觉事件组件元素列表,触觉事件组件元素列表可以用于指示触觉事件的组件,触觉事件的组件可以包括触觉事件的时域分量或者频域分量。
(3)瞬时触觉信号的表示信息定义于触觉事件的数据结构中:
触觉事件的数据结构可以用于定义触觉媒体的触觉事件的属性信息,触觉事件的数据结构可以包括触觉事件类型字段,触觉事件类型字段可以用于指示触觉媒体的触觉事件的事件类型,事件类型可以包括参考事件或普通事件;当事件类型字段指示媒体的触觉事件的事件类型为参考事件时,参考事件的数据结构还包括参考知识事件字段,触觉信号的表示信息可以包括参考知识事件字段。在此情况下,根据触觉信号的持续时间,生成触觉信号的表示信息,可以包括:将参考知识事件字段的取值,设置为事件类型为参考事件的触觉事件对应的知识触觉事件标识符;其中,事件类型为参考事件的触觉事件的持续时间,与对应的知识触觉事件标识符所指示的知识触觉事件的持续时间相同。
可选地,对于普通事件,当触觉事件类型字段指示触觉媒体的触觉事件的事件类型为普通事件时,触觉事件的数据结构还可以包括相对时间字段,相对时间字段可以用于指示触觉事件的时间偏移量。
以上步骤S701-步骤S703主要介绍了当触觉媒体的交换格式文件中包含瞬时触觉信号的表示信息时,将瞬时触觉信号的表示信息封装至触觉媒体的媒体文件的过程。可选地,还可以将触觉信号的表示信息添加至触觉媒体的位流文件中,对触觉媒体的位流文件进行封装,得到触觉媒体的媒体文件。触觉媒体的位流文件可以包括以下至少一种:触觉模式元数据包和知识触觉事件元数据包,也就是说,可以将触觉信号的表示信息添加至触觉模式元数据包中,或者,可以将触觉信号的表示信息添加至知识触觉事件元数据包中。下面分别对这两种情况进行介绍:
①将触觉信号的表示信息添加至触觉模式元数据包中:
触觉模式元数据包可以是对触觉模式元数据进行编码处理得到的,瞬时触觉信号的表示信息可以被添加至触觉模式元数据包中;触觉媒体的触觉模式元数据包可以包括短暂持续时间字段,瞬时触觉信号的表示信息可以包括短暂持续时间字段。在此情况下,根据瞬时触觉信号的持续时间,生成瞬时触觉信号的表示信息,可以包括:将短暂持续时间字段的取值,设置为瞬时触觉信号的持续时间。
可选地,对于振动触觉,触觉模式元数据包还可以包括触觉模式类型字段,触觉模式类型字段可以用于指示触觉媒体的触觉模式的类型;当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,瞬时触觉信号的持续时间可以是指振动马达以基准频率振动的次数。
②将触觉信号的表示信息添加至知识触觉事件元数据包中:
知识触觉事件元数据包可以是对知识触觉事件元数据进行编码处理得到的,瞬时触觉信号的表示信息可以被添加至知识触觉事件元数据包中;知识触觉事件元数据包可以包括触觉事件类型字段和持续时间标志字段;触觉事件类型字段可以用于指示知识触觉事件的事件类型,事件类型可以包括瞬时事件或持续事件;持续时间标志字段可以用于指示是否指示知识触觉事件的持续时间。在此情况下,根据所述瞬时触觉信号的持续时间,生成所述瞬时触觉信号的表示信息,可以包括:可以将持续时间表示字段的取值设置为第一预设值,指示需要指示知识触觉事件的持续时间;可以在知识触觉事件元数据包中添加持续时间字段,瞬时触觉信号的表示信息可以包括持续事件字段;以及可以将持续时间字段的取值,设置为瞬时触觉信号的持续时间。其中,当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件时,持续时间字段可以用于指示当前触觉模式下所有瞬时触觉信号的持续时间;一个触觉模式中存在一个具备持续时间字段的,且事件类型为瞬时事件的知识触觉事件。
在此情况下,对于持续事件,当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为持续事件时,持续时间字段可以用于指示对应知识触觉事件的持续时间。
以上①-②介绍了将瞬时触觉信号的表示信息添加至触觉媒体的位流文件中的情况。可选地,还将瞬时触觉信号的表示信息添加至触觉媒体的媒体文件。
详细来说,触觉媒体的媒体文件可以包括触觉模式描述数据盒,触觉模式描述数据盒可以用于指示触觉媒体的触觉模式的元数据信息,瞬时触觉信号的表示信息被添加至触觉模式描述数据盒中;触觉模式描述数据盒可以包括短暂持续时间字段,瞬时触觉信号的表示信息可以包括短暂持续时间字段。在此情况下,根据瞬时触觉信号的持续时间,生成瞬时触觉信号的表示信息,可以包括:将短暂持续时间字段的取值,设置为瞬时触觉信号的持续时间。
可选地,对于振动触觉,触觉模式描述数据盒还可以包括触觉模式类型字段,触觉模式类型字段可以用于指示触觉媒体的触觉模式的类型;当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,瞬时触觉信号的持续时间可以是指振动马达以基准频率振动的次数。
本申请实施例中,定义了触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息可以用于指示瞬时触觉信号的持续时间;也就是说,通过触觉信号的表示信息,可以准确地定义触觉媒体中瞬时触觉信号的呈现形式,从而,可以准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验。
上述详细阐述了本申请实施例的方法,为了便于更好地实施本申请实施例的上述方案,相应地,下面提供了本申请实施例的装置。
请参见图8,图8是本申请实施例提供的一种触觉媒体的数据处理装置的结构示意图,该触觉媒体的数据处理装置可以设置于本申请实施例提供的计算机设备中,计算机设备可以是上述图3所示的触觉媒体处理系统中的消费设备302。图8所示的触觉媒体的数据处理装置可以是运行于计算机设备中的一个计算机程序,该触觉媒体的数据处理装置可以用于执行图5所示的方法实施例中的部分或全部步骤。请参见图8,该触觉媒体的数据处理装置可以包括如下单元:
获取单元801,用于获取触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息用于指示瞬时触觉信号的持续时间;
处理单元802,用于按照瞬时触觉信号的表示信息,呈现触觉媒体中的瞬时触觉信号。
在一种实现方式中,获取单元801,用于获取触觉媒体中瞬时触觉信号的表示信息时,具体用于执行如下步骤:
获取触觉媒体的交换格式文件;
从触觉媒体的交换格式文件中获取瞬时触觉信号的表示信息。
在一种实现方式中,触觉媒体的交换格式文件包括触觉媒体的触觉模式的数据结构,触觉模式的数据结构用于定义触觉媒体的触觉模式的属性信息,触觉模式的数据结构包括短暂持续时间字段;
瞬时触觉信号的表示信息包括短暂持续时间字段,短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
在一种实现方式中,触觉模式的数据结构还包括触觉模式类型字段,所触觉模式类型字段用于指示触觉媒体的触觉模式的类型;
当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
在一种实现方式中,触觉媒体的交换格式文件包括触觉媒体的知识触觉事件的数据结构,知识触觉事件的数据结构用于定义触觉媒体的知识触觉事件的属性信息,知识触觉事件的数据结构包括触觉事件类型字段,触觉事件类型字段用于指示触觉媒体的知识触觉事件的事件类型,事件类型包括瞬时事件或持续事件;
当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件,且知识触觉事件的数据结构还包括持续时间字段时,瞬时触觉信号的表示信息包括持续时间字段,持续时间字段用于指示当前触觉模式下所有瞬时触觉事件的持续时间;
其中,一个触觉模式中存在一个具备持续时间字段的,且事件类型为瞬时事件的知识触觉事件。
在一种实现方式中,当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为持续事件时,持续时间字段用于指示对应知识触觉事件的持续时间。
在一种实现方式中,知识触觉事件的数据结构是根据触觉事件的数据结构确定的,触觉事件的数据结构包含参考知识事件字段,知识触觉事件的数据结构不包含参考知识事件字段,参考知识事件字段用于指示当触觉事件的事件类型为参考事件时,触觉事件对应的知识触觉事件标识符;
触觉事件的数据结构包含相对时间字段,知识触觉事件的数据结构不包含相对时间字段,相对时间字段用于指示触觉事件的时间偏移量。
在一种实现方式中,知识触觉事件的数据结构是根据触觉事件的数据结构确定的,触觉事件的数据结构包含振幅字段、基准频率字段以及事件组件字段;当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件,且知识触觉事件的数据结构包括持续时间字段时,知识触觉事件的数据结构不包含振幅字段、基准频率字段以及事件组件字段;
振幅字段用于指示触觉事件的信号最大幅度值;基准频率字段用于指示触觉事件的信号基准频率;事件组件字段用于指示触觉事件组件元素列表,触觉事件组件元素列表用于指示触觉事件的组件,触觉事件的组件包括触觉事件的时域分量或者频域分量。
在一种实现方式中,触觉媒体的交换格式文件包括触觉媒体的触觉事件的数据结构,触觉事件的数据结构用于定义触觉媒体的触觉事件的属性信息,触觉事件的数据结构包括触觉事件类型字段,触觉事件类型字段用于指示触觉媒体的触觉事件的事件类型,事件类型包括参考事件或普通事件;
当触觉事件类型字段指示触觉媒体的触觉事件的事件类型为参考事件时,触觉事件的数据结构还包括参考知识事件字段,瞬时触觉信号的表示信息包括参考知识事件字段;参考知识事件字段用于指示事件类型为参考事件的触觉事件对应的知识触觉事件标识符;
其中,事件类型为参考事件的所述触觉事件的持续时间,与对应的知识触觉事件标识符所指示的知识触觉事件的持续时间相同。
在一种实现方式中,当触觉事件类型字段指示触觉媒体的触觉事件的事件类型为普通事件时,触觉事件的数据结构还包括相对时间字段,相对时间字段用于指示触觉事件的时间偏移量。
在一种实现方式中,获取单元801,用于获取触觉媒体中瞬时触觉信号的表示信息时,具体用于执行如下步骤:
获取触觉媒体的位流文件;
从触觉媒体的位流文件中,获取瞬时触觉信号的表示信息。
在一种实现方式中,触觉媒体的位流文件包括触觉模式元数据包,触觉模式元数据包是对触觉模式元数据进行编码处理得到的;触觉媒体的触觉模式元数据包包括短暂持续时间字段;
瞬时触觉信号的表示信息包括短暂持续时间字段,短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
在一种实现方式中,触觉模式元数据包还包括触觉模式类型字段,触觉模式类型字段用于指示触觉媒体的触觉模式的类型;
当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
在一种实现方式中,触觉媒体的位流文件包括知识触觉事件元数据包,知识触觉事件元数据包是对知识触觉事件元数据进行编码处理得到的;知识触觉事件元数据包包括事件类型字段和持续时间标志字段;事件类型字段用于指示知识触觉事件的事件类型,事件类型包括瞬时事件或持续事件;持续时间标志字段用于指示是否指示知识触觉事件的持续时间;
若持续时间标志字段指示需要指示知识触觉事件的持续时间时,知识触觉事件元数据包还包括持续时间字段,瞬时触觉信号的表示信息包括持续时间字段;当事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件时,持续时间字段用于指示当前触觉模式下所有瞬时触觉信号的持续时间;
其中,一个触觉模式中存在一个具备持续时间字段的,且事件类型为瞬时事件的知识触觉事件。
在一种实现方式中,当事件类型字段指示触觉媒体的知识触觉事件的事件类型为持续事件时,持续时间字段用于指示对应知识触觉事件的持续时间。
在一种实现方式中,获取单元801,用于获取触觉媒体中瞬时触觉信号的表示信息时,具体用于执行如下步骤:
获取触觉媒体的媒体文件;
从触觉媒体的媒体文件中获取瞬时触觉信号的表示信息。
在一种实现方式中,触觉媒体的媒体文件包括触觉模式描述数据盒,触觉模式描述数据盒用于指示触觉媒体的触觉模式的元数据信息;触觉模式描述数据盒包括短暂持续时间字段;
瞬时触觉信号的表示信息包括短暂持续时间字段,短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
在一种实现方式中,触觉模式描述数据盒还包括触觉模式类型字段,触觉模式类型字段用于指示触觉媒体的触觉模式的类型;
当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
在一种实现方式中,处理单元802,用于按照瞬时触觉信号的表示信息,呈现触觉媒体中的瞬时触觉信号时,具体用于执行如下步骤:
对瞬时触觉信号的表示信息进行渲染,得到瞬时触觉信号。
根据本申请的另一个实施例,图8所示的触觉媒体的数据处理装置中的各个单元可以分别或全部合并为一个或若干个另外的单元来构成,或者其中的某个(些)单元还可以再拆分为功能上更小的多个单元来构成,这可以实现同样的操作,而不影响本申请的实施例的技术效果的实现。上述单元是基于逻辑功能划分的,在实际应用中,一个单元的功能也可以由多个单元来实现,或者多个单元的功能由一个单元实现。在本申请的其它实施例中,触觉媒体的数据处理装置也可以包括其它单元,在实际应用中,这些功能也可以由其它单元协助实现,并且可以由多个单元协作实现。
根据本申请的另一个实施例,可以通过在包括中央处理单元(CPU)、随机存取存储介质(RAM)、只读存储介质(ROM)等处理元件和存储元件的例如计算机的通用计算设备上运行能够执行如图5所示的部分或全部方法所涉及的各步骤的计算机程序,来构造如图8中所示的触觉媒体的数据处理装置,以及来实现本申请实施例的触觉媒体的数据处理方法。计算机程序可以记载于例如计算机可读存储介质上,并通过计算机可读存储介质装载于上述计算设备中,并在其中运行。
本申请实施例中,定义了触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息可以用于指示瞬时触觉信号的持续时间;也就是说,通过触觉信号的表示信息,可以准确地定义触觉媒体中瞬时触觉信号的呈现形式,从而,可以准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验。
请参见图8,图8是本申请实施例提供的一种触觉媒体的数据处理装置的结构示意图,该触觉媒体的数据处理装置可以设置于本申请实施例提供的计算机设备中,计算机设备可以是上述图3所示的触觉媒体处理系统中的服务设备301。图8所示的触觉媒体的数据处理装置可以是运行于计算机设备中的一个计算机程序,该触觉媒体的数据处理装置可以用于执行图7所示的方法实施例中的部分或全部步骤。请参见图8,该触觉媒体的数据处理装置可以包括如下单元:
获取单元801,用于获取触觉媒体中瞬时触觉信号的持续时间;
处理单元802,用于根据瞬时触觉信号的持续时间,生成瞬时触觉信号的表示信息;
处理单元802,还用于将瞬时触觉信号的表示信息封装至触觉媒体的媒体文件中。
在一种实现方式中,触觉媒体的交换格式文件包括瞬时触觉信号的表示信息;处理单元802,用于将瞬时触觉信号的表示信息封装至触觉媒体的媒体文件中时,具体用于执行如下步骤:
对触觉媒体的交换格式文件进行编码处理,得到触觉媒体的位流文件;
对触觉媒体的位流文件进行封装处理,得到触觉媒体的媒体文件。
在一种实现方式中,处理单元802,还用于执行如下步骤:
将瞬时触觉信号的表示信息添加至触觉媒体的位流文件中。
在一种实现方式中,处理单元802,还用于执行如下步骤:
将瞬时触觉信号的表示信息添加至触觉媒体的媒体文件中。
根据本申请的另一个实施例,图8所示的触觉媒体的数据处理装置中的各个单元可以分别或全部合并为一个或若干个另外的单元来构成,或者其中的某个(些)单元还可以再拆分为功能上更小的多个单元来构成,这可以实现同样的操作,而不影响本申请的实施例的技术效果的实现。上述单元是基于逻辑功能划分的,在实际应用中,一个单元的功能也可以由多个单元来实现,或者多个单元的功能由一个单元实现。在本申请的其它实施例中,触觉媒体的数据处理装置也可以包括其它单元,在实际应用中,这些功能也可以由其它单元协助实现,并且可以由多个单元协作实现。
根据本申请的另一个实施例,可以通过在包括中央处理单元(CPU)、随机存取存储介质(RAM)、只读存储介质(ROM)等处理元件和存储元件的例如计算机的通用计算设备上运行能够执行如图7所示的部分或全部方法所涉及的各步骤的计算机程序,来构造如图8中所示的触觉媒体的数据处理装置,以及来实现本申请实施例的触觉媒体的数据处理方法。计算机程序可以记载于例如计算机可读存储介质上,并通过计算机可读存储介质装载于上述计算设备中,并在其中运行。
本申请实施例中,定义了触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息可以用于指示瞬时触觉信号的持续时间;也就是说,通过触觉信号的表示信息,可以准确地定义触觉媒体中瞬时触觉信号的呈现形式,从而,可以准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验。
基于上述方法以及装置实施例,本申请实施例提供了一种计算机设备。请参见图9,图9是本申请实施例提供的一种计算机设备的结构示意图。图9所示的计算机设备至少包括处理器901、输入接口902、输出接口903以及计算机可读存储介质904。其中,处理器901、输入接口902、输出接口903以及计算机可读存储介质904可通过总线或其他方式连接。
计算机可读存储介质904可以存储在计算机设备的存储器中,计算机可读存储介质904用于存储计算机程序,计算机程序包括计算机指令,处理器901用于执行计算机可读存储介质904存储的计算机程序。处理器901(或称CPU(Central Processing Unit,中央处理器))是计算机设备的计算核心以及控制核心,其适于实现计算机程序,具体适于加载并执行计算机程序从而实现相应方法流程或相应功能。
本申请实施例还提供了一种计算机可读存储介质(Memory),计算机可读存储介质是计算机设备中的记忆设备,用于存放程序和数据。可以理解的是,此处的计算机可读存储介质既可以包括计算机设备中的内置存储介质,当然也可以包括计算机设备支持的扩展存储介质。计算机可读存储介质提供存储空间,该存储空间存储了计算机设备的操作系统。并且,在该存储空间中还存放了适于被处理器加载并执行的计算机程序。需要说明的是,此处的计算机可读存储介质可以是高速RAM存储器,也可以是非不稳定的存储器(Non-VolatileMemory),例如至少一个磁盘存储器;可选的还可以是至少一个位于远离前述处理器的计算机可读存储介质。
在一些实施例中,计算机设备可以是上述图3所示的触觉媒体处理系统中的消费设备302,可由处理器901加载并执行计算机可读存储介质904中存放的计算机程序,以实现上述有关图5所示触觉媒体的数据处理方法中的相应步骤。具体实现中,计算机可读存储介质904中的计算机程序由处理器901加载并执行如下步骤:
获取触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息用于指示瞬时触觉信号的持续时间;
按照瞬时触觉信号的表示信息,呈现触觉媒体中的瞬时触觉信号。
在一种实现方式中,计算机可读存储介质904中的计算机程序由处理器901加载并执行获取触觉媒体中瞬时触觉信号的表示信息时,具体用于执行如下步骤:
获取触觉媒体的交换格式文件;
从触觉媒体的交换格式文件中获取瞬时触觉信号的表示信息。
在一种实现方式中,触觉媒体的交换格式文件包括触觉媒体的触觉模式的数据结构,触觉模式的数据结构用于定义触觉媒体的触觉模式的属性信息,触觉模式的数据结构包括短暂持续时间字段;
瞬时触觉信号的表示信息包括短暂持续时间字段,短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
在一种实现方式中,触觉模式的数据结构还包括触觉模式类型字段,所触觉模式类型字段用于指示触觉媒体的触觉模式的类型;
当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
在一种实现方式中,触觉媒体的交换格式文件包括触觉媒体的知识触觉事件的数据结构,知识触觉事件的数据结构用于定义触觉媒体的知识触觉事件的属性信息,知识触觉事件的数据结构包括触觉事件类型字段,触觉事件类型字段用于指示触觉媒体的知识触觉事件的事件类型,事件类型包括瞬时事件或持续事件;
当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件,且知识触觉事件的数据结构还包括持续时间字段时,瞬时触觉信号的表示信息包括持续时间字段,持续时间字段用于指示当前触觉模式下所有瞬时触觉事件的持续时间;
其中,一个触觉模式中存在一个具备持续时间字段的,且事件类型为瞬时事件的知识触觉事件。
在一种实现方式中,当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为持续事件时,持续时间字段用于指示对应知识触觉事件的持续时间。
在一种实现方式中,知识触觉事件的数据结构是根据触觉事件的数据结构确定的,触觉事件的数据结构包含参考知识事件字段,知识触觉事件的数据结构不包含参考知识事件字段,参考知识事件字段用于指示当触觉事件的事件类型为参考事件时,触觉事件对应的知识触觉事件标识符;
触觉事件的数据结构包含相对时间字段,知识触觉事件的数据结构不包含相对时间字段,相对时间字段用于指示触觉事件的时间偏移量。
在一种实现方式中,知识触觉事件的数据结构是根据触觉事件的数据结构确定的,触觉事件的数据结构包含振幅字段、基准频率字段以及事件组件字段;当触觉事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件,且知识触觉事件的数据结构包括持续时间字段时,知识触觉事件的数据结构不包含振幅字段、基准频率字段以及事件组件字段;
振幅字段用于指示触觉事件的信号最大幅度值;基准频率字段用于指示触觉事件的信号基准频率;事件组件字段用于指示触觉事件组件元素列表,触觉事件组件元素列表用于指示触觉事件的组件,触觉事件的组件包括触觉事件的时域分量或者频域分量。
在一种实现方式中,触觉媒体的交换格式文件包括触觉媒体的触觉事件的数据结构,触觉事件的数据结构用于定义触觉媒体的触觉事件的属性信息,触觉事件的数据结构包括触觉事件类型字段,触觉事件类型字段用于指示触觉媒体的触觉事件的事件类型,事件类型包括参考事件或普通事件;
当触觉事件类型字段指示触觉媒体的触觉事件的事件类型为参考事件时,触觉事件的数据结构还包括参考知识事件字段,瞬时触觉信号的表示信息包括参考知识事件字段;参考知识事件字段用于指示事件类型为参考事件的触觉事件对应的知识触觉事件标识符;
其中,事件类型为参考事件的所述触觉事件的持续时间,与对应的知识触觉事件标识符所指示的知识触觉事件的持续时间相同。
在一种实现方式中,当触觉事件类型字段指示触觉媒体的触觉事件的事件类型为普通事件时,触觉事件的数据结构还包括相对时间字段,相对时间字段用于指示触觉事件的时间偏移量。
在一种实现方式中,计算机可读存储介质904中的计算机程序由处理器901加载并执行获取触觉媒体中瞬时触觉信号的表示信息时,具体用于执行如下步骤:
获取触觉媒体的位流文件;
从触觉媒体的位流文件中,获取瞬时触觉信号的表示信息。
在一种实现方式中,触觉媒体的位流文件包括触觉模式元数据包,触觉模式元数据包是对触觉模式元数据进行编码处理得到的;触觉媒体的触觉模式元数据包包括短暂持续时间字段;
瞬时触觉信号的表示信息包括短暂持续时间字段,短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
在一种实现方式中,触觉模式元数据包还包括触觉模式类型字段,触觉模式类型字段用于指示触觉媒体的触觉模式的类型;
当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
在一种实现方式中,触觉媒体的位流文件包括知识触觉事件元数据包,知识触觉事件元数据包是对知识触觉事件元数据进行编码处理得到的;知识触觉事件元数据包包括事件类型字段和持续时间标志字段;事件类型字段用于指示知识触觉事件的事件类型,事件类型包括瞬时事件或持续事件;持续时间标志字段用于指示是否指示知识触觉事件的持续时间;
若持续时间标志字段指示需要指示知识触觉事件的持续时间时,知识触觉事件元数据包还包括持续时间字段,瞬时触觉信号的表示信息包括持续时间字段;当事件类型字段指示触觉媒体的知识触觉事件的事件类型为瞬时事件时,持续时间字段用于指示当前触觉模式下所有瞬时触觉信号的持续时间;
其中,一个触觉模式中存在一个具备持续时间字段的,且事件类型为瞬时事件的知识触觉事件。
在一种实现方式中,当事件类型字段指示触觉媒体的知识触觉事件的事件类型为持续事件时,持续时间字段用于指示对应知识触觉事件的持续时间。
在一种实现方式中,计算机可读存储介质904中的计算机程序由处理器901加载并执行获取触觉媒体中瞬时触觉信号的表示信息时,具体用于执行如下步骤:
获取触觉媒体的媒体文件;
从触觉媒体的媒体文件中获取瞬时触觉信号的表示信息。
在一种实现方式中,触觉媒体的媒体文件包括触觉模式描述数据盒,触觉模式描述数据盒用于指示触觉媒体的触觉模式的元数据信息;触觉模式描述数据盒包括短暂持续时间字段;
瞬时触觉信号的表示信息包括短暂持续时间字段,短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
在一种实现方式中,触觉模式描述数据盒还包括触觉模式类型字段,触觉模式类型字段用于指示触觉媒体的触觉模式的类型;
当触觉模式类型字段指示触觉媒体的触觉模式的类型为振动触觉时,短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
在一种实现方式中,计算机可读存储介质904中的计算机程序由处理器901加载并执行按照瞬时触觉信号的表示信息,呈现触觉媒体中的瞬时触觉信号时,具体用于执行如下步骤:
对瞬时触觉信号的表示信息进行渲染,得到瞬时触觉信号。
在另一些实施例中,计算机设备可以是上述图3所示的触觉媒体处理系统中的服务设备301,可由处理器901加载并执行计算机可读存储介质904中存放的计算机程序,以实现上述有关图7所示触觉媒体的数据处理方法中的相应步骤。具体实现中,计算机可读存储介质904中的计算机程序由处理器901加载并执行如下步骤:
获取触觉媒体中瞬时触觉信号的持续时间;
根据瞬时触觉信号的持续时间,生成瞬时触觉信号的表示信息;
将瞬时触觉信号的表示信息封装至触觉媒体的媒体文件中。
在一种实现方式中,触觉媒体的交换格式文件包括瞬时触觉信号的表示信息;计算机可读存储介质904中的计算机程序由处理器901加载并执行将瞬时触觉信号的表示信息封装至触觉媒体的媒体文件中时,具体用于执行如下步骤:
对触觉媒体的交换格式文件进行编码处理,得到触觉媒体的位流文件;
对触觉媒体的位流文件进行封装处理,得到触觉媒体的媒体文件。
在一种实现方式中,计算机可读存储介质904中的计算机程序由处理器901加载并还用于执行如下步骤:
将瞬时触觉信号的表示信息添加至触觉媒体的位流文件中。
在一种实现方式中,计算机可读存储介质904中的计算机程序由处理器901加载并还用于执行如下步骤:
将瞬时触觉信号的表示信息添加至触觉媒体的媒体文件中。
本申请实施例中,定义了触觉媒体中瞬时触觉信号的表示信息,瞬时触觉信号的表示信息可以用于指示瞬时触觉信号的持续时间;也就是说,通过触觉信号的表示信息,可以准确地定义触觉媒体中瞬时触觉信号的呈现形式,从而,可以准确地呈现触觉媒体中的瞬时触觉信号,提升触觉媒体的消费体验。
本申请实施例还提供一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述触觉媒体的数据处理方法。
本领域普通技术人员可以意识到,结合本申请中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用,使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本申请实施例中,术语“模块”或“单元”是指有预定功能的计算机程序或计算机程序的一部分,并与其他相关部分一起工作以实现预定目标,并且可以通过使用软件、硬件(如处理电路或存储器)或其组合来全部或部分实现。同样的,一个处理器(或多个处理器或存储器)可以用来实现一个或多个模块或单元。此外,每个模块或单元都可以是包含该模块或单元功能的整体模块或单元的一部分。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本申请实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程设备。计算机指令可以存储在计算机可读存储介质中,或者通过计算机可读存储介质进行传输。计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如,同轴电缆、光纤、数字用户线(DSL))或无线(例如,红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如,固态硬盘(Solid State Disk,SSD))等。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (27)
1.一种触觉媒体的数据处理方法,其特征在于,包括:
获取触觉媒体中瞬时触觉信号的表示信息,所述瞬时触觉信号的表示信息用于指示所述瞬时触觉信号的持续时间;
按照所述瞬时触觉信号的表示信息,呈现所述触觉媒体中的所述瞬时触觉信号。
2.如权利要求1所述的方法,其特征在于,所述获取触觉媒体中瞬时触觉信号的表示信息,包括:
获取所述触觉媒体的交换格式文件;
从所述触觉媒体的交换格式文件中获取所述瞬时触觉信号的表示信息。
3.如权利要求2所述的方法,其特征在于,所述触觉媒体的交换格式文件包括所述触觉媒体的触觉模式的数据结构,所述触觉模式的数据结构用于定义所述触觉媒体的触觉模式的属性信息,所述触觉模式的数据结构包括短暂持续时间字段;
所述瞬时触觉信号的表示信息包括所述短暂持续时间字段,所述短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
4.如权利要求2所述的方法,其特征在于,所述触觉模式的数据结构还包括触觉模式类型字段,所述触觉模式类型字段用于指示所述触觉媒体的触觉模式的类型;
当所述触觉模式类型字段指示所述触觉媒体的触觉模式的类型为振动触觉时,所述短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
5.如权利要求2所述的方法,其特征在于,所述触觉媒体的交换格式文件包括所述触觉媒体的知识触觉事件的数据结构,所述知识触觉事件的数据结构用于定义所述触觉媒体的知识触觉事件的属性信息,所述知识触觉事件的数据结构包括触觉事件类型字段,所述触觉事件类型字段用于指示所述触觉媒体的知识触觉事件的事件类型,所述事件类型包括瞬时事件或持续事件;
当所述触觉事件类型字段指示所述触觉媒体的知识触觉事件的事件类型为所述瞬时事件,且所述知识触觉事件的数据结构还包括持续时间字段时,所述瞬时触觉信号的表示信息包括所述持续时间字段,所述持续时间字段用于指示当前触觉模式下所有瞬时触觉事件的持续时间;
其中,一个触觉模式中存在一个具备所述持续时间字段的,且所述事件类型为所述瞬时事件的知识触觉事件。
6.如权利要求5所述的方法,其特征在于,当所述触觉事件类型字段指示所述触觉媒体的知识触觉事件的事件类型为所述持续事件时,所述持续时间字段用于指示对应知识触觉事件的持续时间。
7.如权利要求5或6所述的方法,其特征在于,所述知识触觉事件的数据结构是根据触觉事件的数据结构确定的,所述触觉事件的数据结构包含参考知识事件字段,所述知识触觉事件的数据结构不包含所述参考知识事件字段,所述参考知识事件字段用于指示当所述触觉事件的事件类型为参考事件时,所述触觉事件对应的知识触觉事件标识符;
所述触觉事件的数据结构包含相对时间字段,所述知识触觉事件的数据结构不包含所述相对时间字段,所述相对时间字段用于指示所述触觉事件的时间偏移量。
8.如权利要求5或6所述的方法,其特征在于,所述知识触觉事件的数据结构是根据触觉事件的数据结构确定的,所述触觉事件的数据结构包含振幅字段、基准频率字段以及事件组件字段;当所述触觉事件类型字段指示所述触觉媒体的知识触觉事件的事件类型为所述瞬时事件,且所述知识触觉事件的数据结构包括持续时间字段时,所述知识触觉事件的数据结构不包含所述振幅字段、所述基准频率字段以及所述事件组件字段;
所述振幅字段用于指示触觉事件的信号最大幅度值;所述基准频率字段用于指示触觉事件的信号基准频率;所述事件组件字段用于指示触觉事件组件元素列表,所述触觉事件组件元素列表用于指示触觉事件的组件,所述触觉事件的组件包括所述触觉事件的时域分量或者频域分量。
9.如权利要求2所述的方法,其特征在于,所述触觉媒体的交换格式文件包括所述触觉媒体的触觉事件的数据结构,所述触觉事件的数据结构用于定义所述触觉媒体的触觉事件的属性信息,所述触觉事件的数据结构包括触觉事件类型字段,所述触觉事件类型字段用于指示所述触觉媒体的触觉事件的事件类型,所述事件类型包括参考事件或普通事件;
当所述触觉事件类型字段指示所述触觉媒体的触觉事件的事件类型为所述参考事件时,所述触觉事件的数据结构还包括参考知识事件字段,所述瞬时触觉信号的表示信息包括所述参考知识事件字段;所述参考知识事件字段用于指示所述事件类型为所述参考事件的所述触觉事件对应的知识触觉事件标识符;
其中,所述事件类型为所述参考事件的所述触觉事件的持续时间,与对应的知识触觉事件标识符所指示的知识触觉事件的持续时间相同。
10.如权利要求9所述的方法,其特征在于,当所述触觉事件类型字段指示所述触觉媒体的触觉事件的事件类型为所述普通事件时,所述触觉事件的数据结构还包括相对时间字段,所述相对时间字段用于指示触觉事件的时间偏移量。
11.如权利要求1所述的方法,其特征在于,所述获取触觉媒体中瞬时触觉信号的表示信息,包括:
获取所述触觉媒体的位流文件;
从所述触觉媒体的位流文件中,获取所述瞬时触觉信号的表示信息。
12.如权利要求11所述的方法,其特征在于,所述触觉媒体的位流文件包括触觉模式元数据包,所述触觉模式元数据包是对所述触觉模式元数据进行编码处理得到的;所述触觉媒体的触觉模式元数据包包括短暂持续时间字段;
所述瞬时触觉信号的表示信息包括所述短暂持续时间字段,所述短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
13.如权利要求12所述的方法,其特征在于,所述触觉模式元数据包还包括触觉模式类型字段,所述触觉模式类型字段用于指示所述触觉媒体的触觉模式的类型;
当所述触觉模式类型字段指示所述触觉媒体的触觉模式的类型为振动触觉时,所述短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
14.如权利要求11所述的方法,其特征在于,所述触觉媒体的位流文件包括知识触觉事件元数据包,所述知识触觉事件元数据包是对知识触觉事件元数据进行编码处理得到的;所述知识触觉事件元数据包包括事件类型字段和持续时间标志字段;所述事件类型字段用于指示所述知识触觉事件的事件类型,所述事件类型包括瞬时事件或持续事件;所述持续时间标志字段用于指示是否指示知识触觉事件的持续时间;
若所述持续时间标志字段指示需要指示所述知识触觉事件的持续时间时,所述知识触觉事件元数据包还包括持续时间字段,所述瞬时触觉信号的表示信息包括所述持续时间字段;当所述事件类型字段指示所述触觉媒体的知识触觉事件的事件类型为所述瞬时事件时,所述持续时间字段用于指示当前触觉模式下所有瞬时触觉信号的持续时间;
其中,一个触觉模式中存在一个具备所述持续时间字段的,且所述事件类型为所述瞬时事件的知识触觉事件。
15.如权利要求14所述的方法,其特征在于,当所述事件类型字段指示所述触觉媒体的知识触觉事件的事件类型为所述持续事件时,所述持续时间字段用于指示对应知识触觉事件的持续时间。
16.如权利要求1所述的方法,其特征在于,所述获取触觉媒体中瞬时触觉信号的表示信息,包括:
获取所述触觉媒体的媒体文件;
从所述触觉媒体的媒体文件中获取所述瞬时触觉信号的表示信息。
17.如权利要求16所述的方法,其特征在于,所述触觉媒体的媒体文件包括触觉模式描述数据盒,所述触觉模式描述数据盒用于指示所述触觉媒体的触觉模式的元数据信息;所述触觉模式描述数据盒包括短暂持续时间字段;
所述瞬时触觉信号的表示信息包括所述短暂持续时间字段,所述短暂持续时间字段用于指示当前触觉模式下的瞬时触觉信号的持续时间。
18.如权利要求17所述的方法,其特征在于,所述触觉模式描述数据盒还包括触觉模式类型字段,所述触觉模式类型字段用于指示所述触觉媒体的触觉模式的类型;
当所述触觉模式类型字段指示所述触觉媒体的触觉模式的类型为振动触觉时,所述短暂持续时间字段用于指示当前振动触觉模式下的瞬时触觉信号的持续时间为,振动马达以基准频率振动的次数。
19.如权利要求1所述的方法,其特征在于,所述按照所述瞬时触觉信号的表示信息,呈现所述触觉媒体中的所述瞬时触觉信号,包括:
对所述瞬时触觉信号的表示信息进行渲染,得到所述瞬时触觉信号。
20.一种触觉媒体的数据处理方法,其特征在于,包括:
获取触觉媒体中瞬时触觉信号的持续时间;
根据所述瞬时触觉信号的持续时间,生成所述瞬时触觉信号的表示信息;
将所述瞬时触觉信号的表示信息封装至所述触觉媒体的媒体文件中。
21.如权利要求20所述的方法,其特征在于,所述触觉媒体的交换格式文件包括所述瞬时触觉信号的表示信息;所述将所述瞬时触觉信号的表示信息封装至所述触觉媒体的媒体文件中,包括:
对所述触觉媒体的交换格式文件进行编码处理,得到所述触觉媒体的位流文件;
对所述触觉媒体的位流文件进行封装处理,得到所述触觉媒体的媒体文件。
22.如权利要求21所述的方法,其特征在于,所述方法还包括:
将所述瞬时触觉信号的表示信息添加至所述触觉媒体的位流文件中。
23.如权利要求21所述的方法,其特征在于,所述方法还包括:
将所述瞬时触觉信号的表示信息添加至所述触觉媒体的媒体文件中。
24.一种触觉媒体的数据处理装置,其特征在于,包括:
获取单元,用于获取触觉媒体中瞬时触觉信号的表示信息,所述瞬时触觉信号的表示信息用于指示所述瞬时触觉信号的持续时间;
处理单元,用于按照所述瞬时触觉信号的表示信息,呈现所述触觉媒体中的所述瞬时触觉信号。
25.一种触觉媒体的数据处理装置,其特征在于,包括:
获取单元,用于获取触觉媒体中瞬时触觉信号的持续时间;
处理单元,用于根据所述瞬时触觉信号的持续时间,生成所述瞬时触觉信号的表示信息;
所述处理单元,还用于将所述瞬时触觉信号的表示信息封装至所述触觉媒体的媒体文件中。
26.一种计算机设备,其特征在于,所述计算机设备包括:
处理器,适于实现计算机程序;
计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序适于由所述处理器加载并执行如权利要求1-19任一项所述的触觉媒体的数据处理方法,或者,如权利要求20-23任一项所述的触觉媒体的数据处理方法。
27.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序适于由处理器加载并执行如权利要求1-19任一项所述的触觉媒体的数据处理方法,或者,如权利要求20-23任一项所述的触觉媒体的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311622744.2A CN117609523A (zh) | 2023-11-29 | 2023-11-29 | 触觉媒体的数据处理方法、装置及计算机设备、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311622744.2A CN117609523A (zh) | 2023-11-29 | 2023-11-29 | 触觉媒体的数据处理方法、装置及计算机设备、存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117609523A true CN117609523A (zh) | 2024-02-27 |
Family
ID=89959542
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311622744.2A Pending CN117609523A (zh) | 2023-11-29 | 2023-11-29 | 触觉媒体的数据处理方法、装置及计算机设备、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117609523A (zh) |
-
2023
- 2023-11-29 CN CN202311622744.2A patent/CN117609523A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110876051B (zh) | 视频数据的处理,传输方法及装置,视频数据的处理系统 | |
JP2018527655A (ja) | ユーザ・ハプティック空間(HapSpace)に基づくハプティック・フィードバックおよびインタラクティブ性を提供する方法および装置 | |
US11985381B2 (en) | Mapping architecture of immersive technologies media format (ITMF) specification with rendering engines | |
WO2022053439A1 (en) | Haptic scene representation format | |
CN114116617A (zh) | 点云媒体的数据处理方法、装置、设备及可读存储介质 | |
WO2023226504A1 (zh) | 一种媒体数据处理方法、装置、设备以及可读存储介质 | |
CN117609523A (zh) | 触觉媒体的数据处理方法、装置及计算机设备、存储介质 | |
US11570227B2 (en) | Set up and distribution of immersive media to heterogenous client end-points | |
EP4085567A1 (en) | Adaptation of 2d video for streaming to heterogenous client end-points | |
CN114581631A (zh) | 沉浸式媒体的数据处理方法、装置和计算机可读存储介质 | |
CN117336281A (zh) | 触觉媒体文件的解封装和封装方法、装置、电子设备 | |
CN117376329A (zh) | 媒体文件的解封装和封装方法、装置、介质及电子设备 | |
EP4085397B1 (en) | Reference of neural network model by immersive media for adaptation of media for streaming to heterogenous client end-points | |
CN116303243A (zh) | 触觉媒体的处理方法、装置、介质及电子设备 | |
US12003792B2 (en) | Adaptation of 2D video for streaming to heterogenous client end-points | |
CN115102932B (zh) | 点云媒体的数据处理方法、装置、设备、存储介质及产品 | |
CN117692705A (zh) | 触觉信号插值方法、装置、电子设备以及存储介质 | |
CN117939252A (zh) | 一种数据处理方法、装置、设备及存储介质 | |
WO2023202898A1 (en) | Haptics effect comprising a washout | |
TW202403508A (zh) | 編碼/解碼觸覺資料的方法及設備 | |
WO2023198447A1 (en) | Coding of signal in frequency bands | |
CN116781675A (zh) | 一种点云媒体的数据处理方法、装置、设备及介质 | |
CN116347118A (zh) | 一种沉浸媒体的数据处理方法及相关设备 | |
CN118158377A (zh) | 点云媒体的数据处理方法、装置、设备、存储介质及产品 | |
CN115150368A (zh) | 媒体文件的关联处理方法、装置、介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |