CN109729399B - 视频播放系统、可穿戴设备及物理联动组件的控制方法 - Google Patents

视频播放系统、可穿戴设备及物理联动组件的控制方法 Download PDF

Info

Publication number
CN109729399B
CN109729399B CN201910064879.9A CN201910064879A CN109729399B CN 109729399 B CN109729399 B CN 109729399B CN 201910064879 A CN201910064879 A CN 201910064879A CN 109729399 B CN109729399 B CN 109729399B
Authority
CN
China
Prior art keywords
linkage
video
information
server
wearable device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910064879.9A
Other languages
English (en)
Other versions
CN109729399A (zh
Inventor
杨广煜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201910064879.9A priority Critical patent/CN109729399B/zh
Publication of CN109729399A publication Critical patent/CN109729399A/zh
Application granted granted Critical
Publication of CN109729399B publication Critical patent/CN109729399B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Abstract

本申请是关于一种物理联动组件控制方法,由与用户帐号绑定,且包含物理联动组件的可穿戴设备执行,该方法包括:接收服务器发送的联动信息,所述联动信息是所述服务器接收到视频播放终端发送的播放进度指示信息后发送的,与所述播放进度指示信息所指示的视频播放进度相对应的信息;所述视频播放终端是登录所述用户帐号的终端;获取所述联动信息对应的控制指令;控制所述物理联动组件执行所述控制指令。任意登录了该用户帐号的视频播放终端播放视频,服务器即可以触发可穿戴设备控制物理联动组件执行与视频的播放进度相对应的物理联动操作,从而达到扩展四维视频的物理联动场景的效果。

Description

视频播放系统、可穿戴设备及物理联动组件的控制方法
技术领域
本申请涉及视频联动技术领域,特别涉及一种视频播放系统、可穿戴设备及物理联动组件的控制方法。
背景技术
四维视频是在三维立体视频的基础上增加环境特效模拟仿真而组成的新型影视产品。
在相关技术中,四维视频系统包括视频播放设备和物理联动设备两部分组成,视频播放设备和物理联动设备之间通过专用接口进行通信。视频播放设备在播放四维视频的过程中,若当前播放时间点对应有物理联动设备可执行的操作指令,则通过专用接口向该物理联动设备发送该操作指令,物理联动设备根据该操作指令执行相应的操作。
在上述方案中,物理联动设备需要专用的视频播放设备的配合才可以实现四维视频播放过程中的物理联动,导致四维视频的物理联动场景较为单一。
发明内容
本申请实施例提供了一种视频播放系统、可穿戴设备、物理联动组件的控制方法、装置、计算机设备及存储介质,可以扩展四维视频的物理联动场景,该技术方案如下:
一方面,提供了一种视频播放系统,所述系统包括:包含物理联动组件的可穿戴设备、服务器和视频播放终端;所述可穿戴设备与用户帐号绑定,且所述视频播放终端是登录所述用户帐号的终端;
所述视频播放终端,用于向所述服务器发送播放进度指示信息,所述播放进度指示信息用于指示所述视频终端播放视频时的视频播放进度;
所述服务器,用于接收所述播放进度指示信息,获取与所述播放进度指示信息所指示的视频播放进度相对应的联动信息,并向所述可穿戴设备发送所述联动信息;
所述可穿戴设备,用于接收所述联动信息,获取所述联动信息对应的控制指令,并控制所述物理联动组件执行所述控制指令。
一方面,提供了一种可穿戴设备,所述可穿戴设备包括物理联动组件、网络接口和处理器;
所述处理器,用于控制所述网络接口接收所述服务器发送的联动信息,所述联动信息是所述服务器接收到视频播放终端发送的播放进度指示信息后发送的信息,所述联动信息与所述播放进度指示信息所指示的视频播放进度相对应;所述视频播放终端是登录用户帐号的终端,所述用户帐号是与所述可穿戴设备绑定的帐号;
所述处理器,还用于获取所述联动信息对应的控制指令;
所述处理器,还用于控制所述物理联动组件执行所述控制指令。
一方面,提供了一种物理联动组件的控制方法,所述方法由包含物理联动组件的可穿戴设备执行,所述可穿戴设备与用户帐号绑定,所述方法包括:
接收服务器发送的联动信息,所述联动信息是所述服务器接收到视频播放终端发送的播放进度指示信息后发送的信息,所述联动信息与所述播放进度指示信息所指示的视频播放进度相对应;所述视频播放终端是登录所述用户帐号的终端;
获取所述联动信息对应的控制指令;
控制所述物理联动组件执行所述控制指令。
一方面,提供了一种物理联动组件的控制方法,所述方法包括:
接收视频播放终端发送的播放进度指示信息,所述视频播放终端是登录用户帐号的终端,所述用户帐号与包含物理联动组件的可穿戴设备绑定;
获取与所述播放进度指示信息所指示的视频播放进度相对应的联动信息;
向所述可穿戴设备发送所述联动信息,所述联动信息用于指示所述可穿戴设备获取所述联动信息对应的控制指令,并控制所述物理联动组件执行所述控制指令。
另一方面,提供了一种物理联动组件的控制装置,所述装置用于包含物理联动组件的可穿戴设备中,所述可穿戴设备与用户帐号绑定,所述装置包括:
联动信息接收模块,用于接收服务器发送的联动信息,所述联动信息是所述服务器接收到视频播放终端发送的播放进度指示信息后发送的信息,所述联动信息与所述播放进度指示信息所指示的视频播放进度相对应;所述视频播放终端是登录所述用户帐号的终端;
指令获取模块,用于获取所述联动信息对应的控制指令;
联动控制模块,用于控制所述物理联动组件执行所述控制指令。
可选的,所述获取所述指令获取模块,具体用于,
获取所述联动信息中包含的所述控制指令;
或者,
获取所述联动信息中包含的联动类型,根据所述联动类型生成所述控制指令,所述联动类型用于指示对应的物理联动组件的类型。
可选的,所述联动信息中包含所述控制指令的延时时长,所述联动控制模块,具体用于,
在接收到所述联动信息后,启动计时器开始计时;
当所述计时器计时到达所述延时时长时,控制所述物理联动组件执行所述控制指令。
可选的,所述装置还包括:
暂停指示接收模块,用于在所述联动控制模块控制所述物理联动组件执行所述控制指令之前,接收所述服务器发送的暂停指示,所述暂停指示是所述服务器接收到所述视频播放终端上报的暂停通知时发送的指示,所述暂停通知用于指示所述视频播放终端暂停播放视频;
暂停控制模块,用于控制所述计时器暂停计时。
可选的,所述装置还包括:
启动指示接收模块,用于接收所述服务器发送的启动指示,所述启动指示是所述服务器接收到所述视频播放终端上报的播放通知时发送的指示,所述播放通知用于指示所述视频播放终端继续播放所述视频;
启动控制模块,用于控制所述计时器继续计时。
可选的,所述装置还包括:
所述当所述计时器计时到达所述延时时长时,控制所述物理联动组件执行所述控制指令之前,还包括:
取消指示接收模块,用于在所述联动控制模块控制所述物理联动组件执行所述控制指令之前,接收所述服务器发送的取消指示,所述取消指示是所述服务器接收到所述视频播放终端上报的取消通知时发送的指示,所述取消通知用于指示所述视频播放终端终止播放所述视频,或者,所述视频播放终端播放所述视频的进度发生突变;
取消计时控制模块,用于控制所述计时器取消计时。
可选的,所述联动信息中包含所述控制指令的持续时长,所述联动控制模块,具体用于根据所述持续时长,控制所述物理联动组件执行所述控制指令。
可选的,所述物理联动组件包括如下至少一种:吹风组件、喷水组件、加热组件、制冷组件、震动组件以及收缩组件。
另一方面,提供了一种物理联动组件的控制装置,所述装置包括:
进度指示接收模块,用于接收视频播放终端发送的播放进度指示信息,所述视频播放终端是登录用户帐号的终端,所述用户帐号与包含物理联动组件的可穿戴设备绑定;
联动信息获取模块,用于获取与所述播放进度指示信息所指示的视频播放进度相对应的联动信息;
联动信息发送模块,用于向所述可穿戴设备发送所述联动信息,所述联动信息用于指示所述可穿戴设备获取所述联动信息对应的控制指令,并控制所述物理联动组件执行所述控制指令。
可选的,所述联动信息包含所述控制指令;
或者,
所述联动信息包含联动类型,所述联动类型用于指示对应的物理联动组件的类型。
可选的,所述联动信息中包含所述控制指令的延时时长;
所述联动信息具体用于指示所述可穿戴设备启动计时器开始计时,并在所述计时器计时到达所述延时时长时,控制所述物理联动组件执行所述控制指令。
可选的,所述装置还包括:
暂停指示发送模块,用于在接收到所述视频播放终端上报的暂停通知时,向所述可穿戴设备发送暂停指示;所述暂停通知用于指示所述视频播放终端暂停播放视频,所述暂停指示用于指示所述可穿戴设备控制所述计时器暂停计时。
可选的,所述装置还包括:
启动指示发送模块,用于在接收到所述视频播放终端上报的播放通知时,向所述可穿戴设备发送启动指示;所述播放通知用于指示所述视频播放终端继续播放所述视频,所述启动指示用于指示所述可穿戴设备控制所述计时器继续计时。
可选的,所述装置还包括:
取消指示发送模块,用于在接收到所述视频播放终端上报的取消通知时,向所述可穿戴设备发送取消指示;所述取消通知用于指示所述视频播放终端终止播放所述视频,或者,所述视频播放终端播放所述视频的进度发生突变;所述取消指示用于指示所述可穿戴设备控制所述计时器取消计时。
可选的,所述联动信息中包含所述控制指令的持续时长,所述联动信息具体用于指示所述可穿戴设备根据所述持续时长,控制所述物理联动组件执行所述控制指令。
可选的,所述进度指示接收模块,具体用于接收所述视频播放终端发送的视频分片获取请求,所述视频分片获取请求中包含所述视频播放终端播放所述视频的进度;
所述联动信息获取模块,具体用于确定所述视频分片获取请求所请求的视频分片;获取所述视频分片对应的所述联动信息。
可选的,所述装置还包括:
特征提取模块,用于在所述进度指示接收模块接收视频播放终端发送的播放进度指示信息之前,对所述视频播放终端播放的视频中的各个画面帧进行特征提取,获得所述各个画面帧各自的特征信息;
分类模块,用于将所述各个画面帧各自的特征信息输入分类模型,获得所述分类模型输出的,所述各个画面帧各自对应的联动类型;
联动信息生成模块,用于根据所述各个画面帧各自对应的联动类型,生成所述视频中的各个视频分片对应的联动信息。
另一方面,提供了一种计算机设备,所述计算机设备包含处理器和存储器,所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现上述的物理联动组件的控制方法。
又一方面,提供了一种计算机可读存储介质,所述存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由处理器加载并执行以实现上述的物理联动组件的控制方法。
本申请提供的技术方案可以包括以下有益效果:
可穿戴设备与用户帐号绑定之后,任意登录了该用户帐号的视频播放终端播放视频,且该视频是支持物理联动的视频(即四维视频),服务器即可以根据视频播放终端上报的播放进度,向可穿戴设备下发联动信息,以触发可穿戴设备控制物理联动组件执行与视频的播放进度相对应的物理联动操作,不需要专用的视频播放终端与可穿戴设备相配合即可以实现视频和物理联动组件之间的联动,从而达到扩展四维视频的物理联动场景的效果。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
图1是根据一示例性实施例示出的一种视频播放系统的结构示意图;
图2是图1所示实施例涉及的一种可穿戴设备的结构示意图;
图3是根据一示例性实施例示出的一种物理联动组件的控制方法的流程图;
图4是图3所示实施例涉及的一种视频与物理组件联动的流程图;
图5是根据一示例性实施例示出的一种物理联动组件的控制方法的流程图;
图6是图5所示实施例涉及的一种在线视频播放和物理联动过程示意图;
图7是图5所示实施例涉及的另一种在线视频播放和物理联动过程示意图;
图8是图5所示实施例涉及的一种视频暂停播放时同步联动的方案;
图9是图5所示实施例涉及的一种视频跳跃或终止播放时取消联动的方案;
图10是根据一示例性实施例示出的联动信息生成流程示意图;
图11是图10所示实施例涉及的模型应用流程示意图;
图12是图10所示实施例涉及的方案执行流程;
图13是根据一示例性实施例示出的物理联动组件的控制装置的结构方框图;
图14是根据一示例性实施例示出的物理联动组件的控制装置的结构方框图;
图15是根据一示例性实施例示出的一种计算机设备的结构框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在对本申请所示的各个实施例进行说明之前,首先介绍本申请涉及到系统架构。
图1是根据一示例性实施例示出的一种视频播放系统的结构示意图。该系统包括:可穿戴设备120、服务器140以及视频播放终端160。
可穿戴设备120可以是半身或者全身可穿戴的设备。比如,如图1所示,可穿戴设备120可以包括如下至少一种:头盔设备、上衣设备、手部设备、腿部设备以及脚部设备等。
服务器140是一台服务器,或者由若干台服务器,或者是一个虚拟化平台,或者是一个云计算服务中心。
视频播放终端160是具有视频播放功能的终端设备,比如,视频播放终端160可以是智能电视、智能电视机顶盒、智能手机、平板电脑、电子书阅读器、智能眼镜、智能手表、MP3播放器(Moving Picture Experts Group Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
可穿戴设备120和视频播放终端160都具有网络接入的能力,且分别与服务器120之间通过通信网络相连。可选的,该通信网络是有线网络或无线网络。
可选的,该系统还可以包括管理设备(图1未示出),该管理设备与服务器120之间通过通信网络相连。可选的,通信网络是有线网络或无线网络。
可选的,上述的无线网络或有线网络使用标准通信技术和/或协议。网络通常为因特网、但也可以是任何网络,包括但不限于局域网(Local Area Network,LAN)、城域网(Metropolitan Area Network,MAN)、广域网(Wide Area Network,WAN)、移动、有线或者无线网络、专用网络或者虚拟专用网络的任何组合)。在一些实施例中,使用包括超文本标记语言(Hyper Text Mark-up Language,HTML)、可扩展标记语言(Extensible MarkupLanguage,XML)等的技术和/或格式来代表通过网络交换的数据。此外还可以使用诸如安全套接字层(Secure Socket Layer,SSL)、传输层安全(Transport Layer Security,TLS)、虚拟专用网络(Virtual Private Network,VPN)、网际协议安全(Internet ProtocolSecurity,IPsec)等常规加密技术来加密所有或者一些链路。在另一些实施例中,还可以使用定制和/或专用数据通信技术取代或者补充上述数据通信技术。
请参考图2,其示出了本申请实施例涉及的一种可穿戴设备的结构示意图。如图2所示,可穿戴设备120包含物理联动组件121、网络接口122和处理器123;其中,处理器123可以控制网络接口122接收服务器发送的联动信息,并根据联动信息控制物理联动组件121执行相应的联动操作。
处理器123可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。实现处理器123的硬件形式可以采用如下至少一种:DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)等。
可选的,网络接口122可以包含射频电路,该射频电路用于接收和发射RF(RadioFrequency,射频)信号,也称电磁信号。射频电路通过电磁信号与通信网络以及其他通信设备进行通信。射频电路可以通过至少一种无线通信协议来与其它计算机设备进行通信。该无线通信协议包括但不限于:万维网、城域网、内联网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
可选的,可穿戴设备120还包括存储器124。
存储器124可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器124还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器124中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器124所执行以实现本申请后续各个方法实施例提供的方法中由可穿戴设备执行的步骤。
在一些实施例中,可穿戴设备120还可选包括有:外围设备接口125和至少一个外围设备。物理联动组件121、网络接口122、处理器123、存储器124和外围设备接口125之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口125相连。具体地,外围设备包括如下至少一种:触摸显示屏126和电源127等。
外围设备接口125可被用于将I/O(Input/Output,输入/输出)相关的至少一个外围设备连接到处理器123和存储器124。在一些实施例中,处理器123、存储器124和外围设备接口125被集成在同一芯片或电路板上;在一些其他实施例中,处理器123、存储器124和外围设备接口125中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
显示屏126用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏126是触摸显示屏时,显示屏126还具有采集在显示屏126的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器1401进行处理。此时,显示屏126还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。显示屏126可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(OrganicLight-Emitting Diode,有机发光二极管)等材质制备。
电源127用于为可穿戴设备120中的各个组件进行供电。电源127可以是交流电、直流电、一次性电池或可充电电池。当电源127包括可充电电池时,该可充电电池可以是有线充电电池或无线充电电池。有线充电电池是通过有线线路充电的电池,无线充电电池是通过无线线圈充电的电池。该可充电电池还可以用于支持快充技术。
本领域技术人员可以理解,图2中示出的结构并不构成对可穿戴设备120的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
在本申请实施例中,可穿戴设备120中包含有至少一个物理联动组件121,比如,可穿戴设备120中的物理联动组件121可以包括如下至少一种:吹风组件、喷水组件、加热组件、制冷组件、震动组件以及收缩组件等。基于可穿戴设备120的实现形态的不同,物理联动组件121在可穿戴设备120中的布置方式也可以不同。
比如,所述可穿戴设备121可以包括头盔设备。且物理联动组件121包括以下组件中的至少一种:
设置在头盔设备前方,且用于向头盔设备所在的方向吹风的吹风组件;设置在头盔设备前方,且用于向头盔设备所在的方向喷水的喷水组件;设置在头盔设备内部的加热组件;设置在头盔设备内部的制冷组件;设置在头盔设备内部的震动组件;以及,设置在头盔设备内部的收缩组件等。
可选的,上述吹风组件可以是设置在头盔设备正前方的鼓风机,且与头盔设备相连,当该吹风组件启动时,可以对着头盔设备的方向以固定或者非固定的风力进行吹风,以模拟有风的环境。
上述喷水组件可以是设置在头盔设备前方的喷头,且与头盔设备相连,当该喷水组件启动时,可以对着头盔设备方向以固定或者非固定的水量进行喷雾或者喷水,以模拟有雨水的环境。
上述加热组件可以设置在头盔设备内部,当该加热组件启动时,可以按照固定或者非固定的功率/温度进行加热,以模拟炎热的环境。
上述制冷组件可以设置在头盔设备内部,当该制冷组件启动时,可以按照固定或者非固定的功率/温度进行制冷,以模拟寒冷的环境。
上述震动组件或者收缩组件可以设置在头盔设备内部,当该震动组件或者收缩组件启动时,可以按照固定或者非固定的幅度进行震动/收紧,以模拟打击或者被打击的环境。
可穿戴设备121也可以包括如下设备中的至少一种:上衣设备、手部设备、腿部设备和脚部设备等。上述的吹风组件、喷水组件、加热组件、制冷组件、震动组件以及收缩组件等物理联动组件也可以按照实际使用需求布置在上衣设备、手部设备、腿部设备或者脚部设备中。
并且,根据可穿戴设备的实现形态的而不同,物理联动组件121可以采用不同的布置方式,以达到更加丰富的联动效果。比如,手部设备和脚部设备中的震动组件(比如,可以包含马达或者模拟打击感的弹簧装置)可以通过震动模拟打击效果,而头盔设备、上衣设备或者腿部设备中的收缩组件可以通过收紧模拟被打击的效果。
上述可穿戴设备120的实际产品形态仅以图1所示为例进行说明,在实际应用中,可穿戴设备120还可以有其它的形态,比如,上衣设备可以简化为护臂+护胸,腿部设备可以简化为护腿+护膝等等,本申请实施例对于可穿戴设备120的实现形态不做限定。
在本申请实施例中,可穿戴设备120与用户帐号绑定后,该用户帐号在视频播放终端160登录,且视频播放终端160在播放视频时,服务器可以获取视频播放终端160播放视频时的视频播放进度,并根据该视频播放进度向可穿戴设备120发送相应的联动信息,由可穿戴设备120根据联动信息控制物理联动组件执行与视频播放进度相对应的控制操作,该控制过程可以如下述图3所示。
图3是根据一示例性实施例示出的一种物理联动组件的控制方法的流程图,该物理联动组件的控制方法可以用于如图1所示的视频播放系统中。如图3所示,该物理联动组件的控制方法可以包括如下步骤:
步骤31,登录用户帐号的视频播放终端向服务器发送播放进度指示信息,服务器接收该播放进度指示。
其中,该播放进度指示信息用于指示该视频播放终端播放视频时的视频播放进度。比如,该播放进度指示信息可以包含视频播放终端当前播放的画面帧对应的时间戳。
在本申请实施例中,服务器可以是某个视频播放类应用程序对应的服务器,该视频播放终端中可以安装有服务器对应的视频播放类应用程序,视频播放终端在播放视频之前,首先通过该视频播放类应用程序,使用用户帐号登录该服务器,后续在通过该视频播放类应用程序播放视频的过程中,可以定期或者不定期的向服务器上报播放进度指示信息。
步骤32,服务器获取与该播放进度指示信息所指示的视频播放进度相对应的联动信息。
其中,上述联动信息可以用于指示可穿戴设备中的物理联动组件执行的联动操作。也就是说,该联动信息可以指示可穿戴设备执行哪些联动操作,比如,该联动信息可以指示可穿戴设备以哪一等级的风力吹风、以哪一种出水量喷水、以哪一档温度进行加热或者以哪一档震动强度进行震动等等。
上述联动信息可以是预先在服务器中存储的信息,且该联动信息可以对应视频中的画面帧或者画面帧的时间戳进行存储。比如,视频中的某一帧或连续多帧画面帧对应下雨天的环境,则该服务器中可以预先对应这一帧或者多帧画面帧存储用于指示可穿戴设备喷水的联动信息;或者,视频中的某一帧或连续多帧画面帧对应沙漠环境,则该服务器中可以预先对应这一帧或者多帧画面帧存储用于指示可穿戴设备加热的联动信息。
步骤33,服务器向可穿戴设备发送联动信息,可穿戴设备接收该联动信息。
其中,该可穿戴设备是与上述用户帐号绑定的可穿戴设备。服务器接收到登录该用户帐号的视频播放终端发送的播放进度指示信息,并获取到对应的联动信息之后,即可以根据该用户帐号查询绑定的可穿戴设备,并向查询到的可穿戴设备发送该联动信息。相应的,可穿戴设备可以接收该联动信息。
其中,可穿戴设备接收联动信息时,可以由可穿戴设备中的处理器控制网络接口接收该联动信息。
在本申请实施例中,用户可以预先将可穿戴设备与上述用户帐号进行绑定。
比如,在一种可能的实现方式中,用户购买可穿戴设备后,在首次使用可穿戴设备时,通过智能手机等智能终端下载控制可穿戴设备联网的应用程序,并通过该应用程序控制可穿戴设备通过WiFi接入点(比如路由器)接入网络,并且,智能终端可以接收用户在该应用程序的绑定界面中输入的上述用户帐号,并向服务器发送包含该用户帐号和可穿戴设备的设备标识的绑定请求,由服务器生成并存储该可穿戴设备与上述用户帐号之间的绑定关系。
或者,在另一种可能的实现方式中,可穿戴设备中可以包含触摸屏等输入/输出组件,用户可以通过该输入/输出组件控制可穿戴设备通过WiFi接入网络并输入需要绑定的用户帐号,由可穿戴设备接收用户输入的该用户帐号后,向服务器发送包含该用户帐号和可穿戴设备的设备标识的绑定请求。
可选的,多个可穿戴设备可以同时与同一个用户帐号进行绑定,服务器接收到登录该用户帐号的视频播放终端发送的播放进度指示信息,并获取到对应的联动信息之后,可以向所有与该用户帐号绑定的可穿戴设备发送该联动信息。
步骤34,可穿戴设备获取该联动信息对应的控制指令,并控制该物理联动组件执行该控制指令。
可穿戴设备接收到上述联动信息之后,即可以获取该联动信息对应的控制指令,并控制对应的物理联动组件执行控制指令对应的操作,比如,控制吹风组件按照控制指令指示的风力吹风,或者,控制喷水组件按照控制指令指示的出水量喷水等等。
其中,可穿戴设备执行控制指令时,可以由可穿戴设备中的处理器获取该联动信息对应的控制指令,并控制该物理联动组件执行该控制指令。
通过上述方案,登录了用户帐号的视频播放设备在播放视频时,若该视频支持物理联动,则服务器可以指示可穿戴设备执行与视频播放进度相对应的联动操作。比如,请参考图4,其示出了本申请实施例涉及的一种视频与物理组件联动的流程图。如图4所示,用户购买可穿戴设备后,进行设备入网和用户帐号绑定的操作(S41)。用户穿戴好上述可穿戴设备并启动,可穿戴设备接入网络,同时,用户通过登录该用户帐号的视频播放终端播放视频(S42)。当服务器判断该视频播放终端播放的视频是否支持物理联动(S43)。如果该视频不支持视频联动,比如,该视频不是四维视频(即该视频没有对应的联动信息),或者,该视频是四维,但是用户在视频播放终端中关闭了物理联动功能,则服务器向可穿戴设备发送提醒信息,以提醒当前视频的播放不支持物理联动(S44)。如果该视频支持视频联动,则服务器根据视频播放终端上报的播放进度指示可穿戴设备与视频联动(S45)。
在本申请实施例所示的方案中,可穿戴设备与用户帐号绑定之后,任意登录了该用户帐号的视频播放终端播放视频,且该视频是支持物理联动的视频(即四维视频),服务器即可以根据视频播放终端上报的播放进度,向可穿戴设备下发联动信息,以触发可穿戴设备控制物理联动组件执行与视频的播放进度相对应的物理联动操作,不需要专用的视频播放终端与可穿戴设备相配合即可以实现视频和物理联动组件之间的联动,从而达到扩展四维视频的物理联动场景的效果。
其中,上述图3所示的方案中,由可穿戴设备执行的全部或者部分步骤可以单独实现为可穿戴设备侧的方法实施例,相应的,上述图3所示的方案中由服务器执行的全部或者部分步骤可以单独实现为服务器侧的方法实施例,上述图3所示的方案中由视频播放终端执行的全部或者部分步骤可以单独实现为视频播放终端侧的方法实施例。
在一种可能的实现方式中,视频播放终端播放的视频数据中,在有联动操作的播放时间点处存在特定的标记(也称为打点),视频播放终端可以在播放到有特定标记的时间点时,向服务器上报视频播放进度,从而触发服务器向可穿戴设备发送联动信息,以便可穿戴设备控制物理联动组件执行联动操作。
然而,从视频播放终端向服务器上报视频播放进度,到服务器根据视频播放进度下发联动信息,再到可穿戴设备执行联动操作之间可能存在一定的时延,容易导致可穿戴设备执行的联动操作与视频播放进度不匹配;并且,这种方案需要视频播放终端侧获取到视频中的特定标记,且支持该特定标记的识别才可以实现,增加了视频播放终端侧的实现复杂度。因此本申请提供一种视频联动方案,视频播放终端不需要关心视频中哪些时间点上具有特定标记,只需要视频播放终端向服务器上报视频播放进度即可。
图5是根据一示例性实施例示出的一种物理联动组件的控制方法的流程图,该物理联动组件的控制方法可以用于如图1所示的视频播放系统中。如图5所示,该物理联动组件的控制方法可以包括如下步骤:
步骤501,登录用户帐号的视频播放终端向服务器发送播放进度指示信息,服务器接收该播放进度指示。
在本申请实施例中,登录用户帐号的视频播放终端可以按照预定的时间间隔(比如每隔10s或30s)向服务器发送一次播放进度指示信息,以指示该视频播放终端当前播放视频的进度。
可选的,上述时间间隔可以是开发人员或者用户预先在服务器中设置的时间间隔。或者,上述时间间隔也可以是服务器执行确定的时间间隔,比如,服务器可以根据视频播放终端当前播放的视频的总时长来确定该时间间隔,且视频的总时长与时间间隔成正相关,也就是说,视频的总时长越长,上述时间间隔也越长。
上述按照预定的时间间隔上报视频播放进度的方案可以适用于在线视频或者本地视频的播放,但是需要增加视频播放终端和服务器之间的消息传输次数。在另一种可能的实现方式中,当上述视频播放终端播放的视频是在线视频时,视频播放终端可以复用已有的传输消息来传输上述播放进度指示信息。
比如,对于在线视频来说,视频以分片的形式进行存储,比如,每个视频分片包含连续10s播放时长的视频数据,视频播放终端需要定期或者不定期的向服务器请求视频分片并缓存,视频播放终端可以在每次请求视频分片时,向服务器发送包含视频播放的进度的视频分片获取请求,相应的,服务器接收该视频分片获取请求,此时,该视频分片获取请求同时也是播放进度指示信息。
步骤502,服务器获取与该播放进度指示信息所指示的视频播放进度相对应的联动信息。
在一种可能的实现方式中,当上述视频播放终端按照预定的时间间隔发送播放进度指示信息时,服务器可以将该视频中对应该视频播放进度之后预设时间段内的各个联动信息,获取为与该播放进度指示信息所指示的视频播放进度相对应的联动信息。
比如,在四维视频中,联动信息与视频中触发该联动信息的画面帧对应存储。以预设时间段是10s为例,服务器在接收到按照预定的时间间隔发送播放进度指示信息后,检测该视频在上述播放进度指示信息所指示的当前播放时间点之后10s内的各个画面帧是否对应有联动信息,如果检测到当前播放时间点之后10s内的各个画面帧对应有联动信息,则将当前播放时间点之后10s内的各个画面帧对应的联动信息获取为与上述视频播放进度相对应的联动信息。
其中,上述预设时间段的时间长度可以与上述预定的时间间隔相同,或者,上述预设时间段的时间长度也可以大于上述预定的时间间隔。
或者,在另一种可能的实现方式中,当上述视频是在线视频,且播放进度指示信息是视频分片获取请求时,服务器可以确定该视频分片获取请求所请求的视频分片,并获取该视频分片对应的该联动信息。也就是说,服务器将该视频分片获取请求所请求的视频分片中的各个联动信息获取为与该播放进度指示信息所指示的视频播放进度相对应的联动信息。
比如,服务器在接收到视频分片获取请求后,检测该视频分片获取请求对应的视频分片中的各个画面帧是否对应有联动信息,如果检测到该视频分片中的各个画面帧对应有联动信息,则将该视频分片中的各个画面帧对应的联动信息获取为与上述视频播放进度相对应的联动信息。
其中,上述联动信息中还包含延时时长,该延时时长是视频播放进度对应的播放时间点到触发该联动信息的画面帧的播放时间点之间的时长。
相应的,服务器在获取联动信息时,在向可穿戴设备发送联动信息之前,确定从该视频播放进度对应的播放时间点到触发该联动信息的画面帧的播放时间点之间的时长,根据确定的时长获取联动信息对应的延时时长,并将该延时时长添加到联动信息中。
其中,上述联动信息可能对应后续可穿戴设备获取的多个控制指令,因此,联动信息对应的延时时长可以包括上述多个控制指令中每个控制指令分别对应的延时时长。
可选的,由于从视频播放终端上报播放进度指示信息到可穿戴设备接收到联动信息之间通常存在一定的延迟,在控制可穿戴设备中的物理联动组件与视频联动时,也需要考虑这个延迟的影响,因此,服务器在根据确定的时长获取联动信息对应的延时时长时,可以将上述确定的时长减去预计延迟时长,获得上述延时时长。
其中,上述预计延迟时长可以是开发人员预先设置的固定时长,或者,上述预计延迟时长也可以是服务器根据与视频播放终端和可穿戴设备之间的网络延迟计算出的时长。
步骤503,服务器向可穿戴设备发送联动信息,可穿戴设备接收该联动信息。
该步骤的执行过程可以参考上述图2所示实施例中的步骤23下的描述,此处不再赘述。
步骤504,可穿戴设备获取该联动信息对应的控制指令。
其中,该控制指令可以指示执行该指令的物理联动组件,比如,该控制指令可以指示由可穿戴设备中的哪一种或者多种物理联动组件来执行。可选的,当客户穿戴设备中同一种的物理联动组件有多个时,该控制指令还可以指示由可穿戴设备中某一种物理联动组件中的哪一个或者多个物理联动组件来执行。
比如,当可穿戴设备中左手手套和右手手套分别包含一个震动组件,当控制指令是触发左手打击效果的指令时,该控制指令可以指示左手手套中的震动组件来执行。
可选的,上述控制指令还可以指示对应的物理联动组件执行物理联动操作时的操作强度,比如,喷水的水量、加热的最高温度、震动的幅度和频率等等。
在一种可能的实现方式中,该联动信息中可以直接包含控制指令,可穿戴设备接收到联动信息后,可以直接获取该联动信息中包含的该控制指令。
比如,服务器可以预先每一种联动操作对应的控制指令,并将生成的控制指令添加到联动信息中。当可穿戴设备有多种不同的设备型号时,对于同一种联动操作,服务器可以生成每一种设备型号对应的控制指令,在获取联动信息时,服务器可以获取当前可穿戴设备的设备型号,并将该设备型号对应的控制指令添加到上述联动信息中。后续可穿戴设备接收到该联动信息之后,可以从联动信息中直接获取该控制指令。
在另一种可能的实现方式中,上述联动信息也可以不直接包含控制指令,而是包含联动类型,该联动类型用于指示对应的物理联动组件的类型,可穿戴设备接收到联动信息之后,可以获取该联动信息中包含的联动类型,并根据该联动类型生成该控制指令。
可选的,上述联动信息中也可以包含联动类型对应的物理联动组件执行物理联动操作时的操作强度,可穿戴设备可以结合联动类型和操作强度生成上述控制指令。
由于不同型号的可穿戴设备的控制指令对应的指令结构可能不同,为了兼容不同型号的可穿戴设备,服务器可以不直接生成控制指令,而是将联动类型和操作强度直接添加在联动信息中下发给可穿戴设备,由可穿戴设备执行生成可执行的控制指令。
步骤505,可穿戴设备在接收到该联动信息后,启动计时器开始计时。
其中,一个联动信息可以对应多个延时时长不同的控制指令,并且可穿戴设备也可能短时间内处理多个联动信息,为了避免不同的控制指令之间互相冲突,在本申请实施例中,可穿戴设备可以对每一个控制指令分别启动一个计时器,每个计时器对应的计时时长是对应的控制指令的延时时长。
其中,上述步骤504和步骤505可以同步执行,或者,上述步骤504也可以在步骤505之后执行。
步骤506,当该计时器计时到达该延时时长时,控制物理联动组件执行该控制指令。
其中,当一个计时器计时到达其预定的计时时长时,可以出发可穿戴设备控制对应的物理联动组件执行对应的控制指令。
可选的,上述联动信息中还可以包含该控制指令的持续时长,在控制该物理联动组件执行该控制指令时,可穿戴设备可以根据该持续时长,控制该物理联动组件执行该控制指令。
其中,视频中某些联动操作可能需要持续一段时间,比如,当视频播放的画面是连续的一段沙漠环境的画面时,需要可穿戴设备中的加热组件持续加热一段时间;或者,当视频播放的画面是连续的一段雨天环境的画面时,需要可穿戴设备中的喷水组件持续喷水一段时间。因此,对于上述需要持续执行的联动操作,对应的联动信息中除了包含延时时长之外,还包含持续时长,可穿戴设备在控制物理联动组件执行对应的控制指令时,可以控制相应的物理联动组件按照上述持续时长持续执行相应的联动操作。
请参考图6,其示出了本申请实施例涉及的一种在线视频播放和物理联动过程示意图。如图6所示,可穿戴设备的用户通过用户帐号在视频播放终端中登录,并在视频播放终端中触发播放支持物理联动的四维视频(S61)。视频播放终端定期向服务器发送播放进度指示信息(S62)。服务器获取播放进度指示信息对应的当前播放进度之后预设时长(比如10s内)的联动信息,将触发联动信息的画面帧的播放时间点和视频当前的播放进度对应的时间点之间的时长作为延时时长添加入联动信息(S63)。服务器将联动信息发送给可穿戴设备(S64)。可穿戴设备根据联动信息控制物理联动组件执行联动(S65)。
或者,请参考图7,其示出了本申请实施例涉及的另一种在线视频播放和物理联动过程示意图。如图7所示,可穿戴设备的用户通过用户帐号在视频播放终端中登录,并在视频播放终端中触发播放支持物理联动的四维视频(S71)。视频播放终端向服务器发送视频分片获取请求,该视频分片获取请求中包含视频当前的播放进度(S72)。服务器获取请求的视频分片对应的联动信息,将触发联动信息的画面帧的播放时间点和视频当前的播放进度对应的时间点之间的时长作为延时时长添加入联动信息(S73)。服务器将联动信息发送给可穿戴设备(S74)。可穿戴设备根据联动信息控制物理联动组件执行联动(S75)。
视频播放终端在播放视频的过程中,用户可能会主动选择暂停播放或者继续播放,而按照本申请实施例的上述方案,当用户选择暂停播放视频时,如果可穿戴设备在计时器计时到达预定时间时继续执行对应的控制指令,则会出现虽然视频暂停,但是可穿戴设备依然发生联动的错误。因此,在本申请实施例中,还提供一种根据用户暂停或继续播放视频的操作,触发可穿戴设备同步暂停或继续执行联动操作的机制。
请参考图8,其示出了本申请实施例涉及的一种视频暂停播放时同步联动的方案。如图8所述,该视频暂停播放时同步联动的方案可以在上述步骤505之后,并且在上述步骤506之前执行,上述方案包括如下几个步骤:
步骤801,视频播放终端向服务器发送暂停通知,该暂停通知用于指示该视频播放终端暂停播放视频。服务器接收该暂停通知。
当用户需要暂停当前的视频播放时,可以通过点击视频播放终端的视频播放界面中的暂停按钮,此时,视频播放终端可以向服务器发送暂停通知,以通知服务器该视频已经暂停播放。
步骤802,服务器向可穿戴设备发送暂停指示,可穿戴设备接收该暂停指示。
服务器在接收到视频播放终端发送的暂停通知后,即向绑定上述用户帐号的各个可穿戴设备发送暂停指示,相应的,可穿戴设备接收该暂停指示。
步骤803,可穿戴设备控制计时器暂停计时。
可穿戴设备接收到上述暂停指示之后,即可以控制当前运行的各个计时器暂停计时。
步骤804,视频播放终端向服务器发送播放通知,该播放通知用于指示该视频播放终端继续播放该视频。服务器接收该播放通知。
当用户后续需要继续播放视频时,可以通过点击视频播放终端的视频播放界面中的播放按钮,此时,视频播放终端可以向服务器发送播放通知,以通知服务器该视频继续播放。
步骤805,服务器向可穿戴设备发送启动指示,可穿戴设备接收该启动指示。
服务器在接收到视频播放终端发送的播放通知后,即向绑定上述用户帐号的各个可穿戴设备发送启动指示,相应的,可穿戴设备接收该启动指示。
步骤806,可穿戴设备控制计时器继续计时。
可穿戴设备接收到上述启动指示之后,即可以控制当前运行的各个计时器继续计时。
通过上述图8所示的方案,可穿戴设备可以实现物理联动操作与视频播放过程中的暂停和继续播放操作之间的同步。
视频播放终端在播放视频的过程中,用户还可能会主动选择跳跃播放(比如通过拖动进度条来播放当前进度之间或者之后一段时间的视频画面)或者终止当前视频的播放(比如跳转播放其它视频,或者,关闭视频播放器),而按照本申请实施例的上述方案,当用户选择跳跃播放视频或者终止播放视频时,如果可穿戴设备在计时器计时到达预定时间时继续执行对应的控制指令,则会出现虽然视频播放进度发生跳跃或者终止播放,但是可穿戴设备依然发生联动的错误。因此,在本申请实施例中,还提供一种根据用户跳跃播放或终止播放视频的操作,触发可穿戴设备取消当前未执行的联动操作的机制。
请参考图9,其示出了本申请实施例涉及的一种视频跳跃或终止播放时取消联动的方案。如图9所述,该视频跳跃或终止播放时取消联动的方案可以在上述步骤505之后执行,且上述方案包括如下几个步骤:
步骤901,视频播放终端向服务器发送取消通知,该取消通知用于指示该视频播放终端终止播放该视频,或者,该视频播放终端播放该视频的进度发生突变。
当用户通过操作终止当前视频的播放(比如关闭播放器界面或者播放另一个视频)时,或者,当用户通过按键或者拖动进度条的操作控制视频播放进度向前或者向后发生突变时,视频播放终端可以向服务器发送取消通知,以通知服务器该视频已经终止播放或者进度发生突变。
步骤902,服务器向可穿戴设备发送取消指示,可穿戴设备接收该取消指示。
服务器在接收到视频播放终端发送的取消通知后,即向绑定上述用户帐号的各个可穿戴设备发送取消指示,相应的,可穿戴设备接收该取消指示。
步骤903,可穿戴设备控制计时器取消计时。
可穿戴设备接收到上述取消指示之后,即可以控制当前运行的各个计时器取消计时,同时丢弃各个计时器对应的控制指令。
通过上述图9所示的方案,可穿戴设备可以实现物理联动操作与视频播放过程中的终止播放或者进度突变之间的同步。
综上所述,本申请实施例所示的方案,可穿戴设备与用户帐号绑定之后,任意登录了该用户帐号的视频播放终端播放视频,且该视频是支持物理联动的视频(即四维视频),服务器即可以根据视频播放终端上报的播放进度,向可穿戴设备下发联动信息,以触发可穿戴设备控制物理联动组件执行与视频的播放进度相对应的物理联动操作,不需要专用的视频播放终端与可穿戴设备相配合即可以实现视频和物理联动组件之间的联动,从而达到扩展四维视频的物理联动场景的效果。
在上述图3或者图5所示的方案中,服务器中可以预先存储四维视频中各个画面帧对应的联动信息。在一种可能的实现方式中,上述联动信息可以由视频制作人员通过专用的制作软件制作生成。或者,在另一种可能的实现方式中,上述联动信息也可以由计算机设备对普通视频中的各个画面帧进行分析处理并生成的。
其中,上述计算机设备对普通视频中的各个画面帧进行分析处理并生成联动信息的步骤可以通过机器学习算法来实现。请参考图10,其根据一示例性实施例示出的联动信息生成流程示意图。上述图10所示的方案可以由计算机设备执行,该计算机设备可以是上述图1所示系统中的服务器140,或者,上述计算机设备也可以是上述图1所示系统中的服务器140之外的一个或者多个设备(比如与服务器140相连的管理设备等)。该计算机设备可以分为模型训练设备和模型应用设备,且该模型训练设备和模型应用设备可以是同一个实体设备,也可以是不同的实体设备。该联动信息生成流程可以如下:
步骤1001,模型训练设备获取训练数据,该训练数据包括画面帧样本以及画面帧样本对应的联动类型样本。
在本申请实施例,开发人员可以预先向模型训练设备导入若干画面帧样本,以及对应每个画面帧样本标注的联动类型样本。
比如,某个画面帧样本对应的画面是雨天环境的画面,则开发人员可以对该画面进行标注,获得对应雨天的联动类型样本(比如,该联动类型样本可以是喷水);或者,某个画面帧样本对应的画面是沙漠环境的画面,则开发人员可以对该画面进行标注,获得对应沙漠的联动类型样本(比如,该联动类型样本可以是加热);或者,某个画面帧样本对应的画面是打斗的画面,则开发人员可以对该画面进行标注,获得对应击打/被击打的联动类型样本(比如,该联动类型样本可以是震动/收紧)。
步骤1002,模型训练设备根据各个画面帧样本和联动类型样本进行训练,获得联动类型分类模型。
其中,模型训练设备根据各个画面帧样本和联动类型样本进行训练时,可以首先对画面帧样本进行处理,获得各个画面帧样本的特征信息,并将各个画面帧样本的特征信息以及对应的画面帧样本的联动类型样本输入到机器学习模型进行训练获得上述联动类型分类模型。
可选的,对画面帧样本进行处理的过程可以包括预处理、图像分割和特征提取等过程。
可选的,上述预处理过程包括灰度图转化、黑白图转化、梯度锐化、去除离散噪声、字符倾斜度调整、分割字符、字符归一化以及字符紧密排列等过程。
灰度图转化过程是将彩色图像转化为灰度图的过程,通常可以通过最大值法、平均值法和各比例法等方式来实现。其中,最大值法是指获取图像中的每一个像素值,并且分别获得像素的红(red,R)、绿(green,G)、蓝(blue,B)对应的三个分量值,然后取三个分量的中最大的一个作为像素的分量值;平均值法是指取上述三个分量的平均值作为像素的分量值;各比例法是指设当前像素的三分量分别为R,G,B,然后利用公式0.30*R+0.59*G+0.11*B得到转换后的像素分量值。
黑白图转化过程可以是通过阈值转换算法将灰度图转化为黑白图的过程。
梯度锐化过程是指通过梯度锐化使得图像更加突出,以便于后续分析的过程。其算法可以如下:获取当前点像素值与其下一个像素值之差的绝对值,加上当前点像素值与其下一行当前像素值之差的绝对值,如果结果大于预设阈值,则当前像素值置为此结果。
去除离散噪声的过程是指利用递归方法查找当前像素的八个方向是否存在黑色像素,比如,设置连续长度为15,如果用递归方法得到连续黑色像素的值大于15,则认为不是噪声,相反的则认为是噪声,并置为白色像素。
字符倾斜度调整的过程是指通过对字符位置进行调整,以尽量保持每个字符的位置一致的过程。
分割字符的过程是指找出每个字符的区域,用矩形记录,并记录每个字符矩形数据的过程。
字符归一化过程是指根据图像预处理的准备阶段设置的归一化标准,把每个字符的区域进行归一化,使得所有字符区域矩形大小相同的过程。
字符紧密排列的过程是指将所有字符紧密的排列以备后续识别使用的过程。
可选的,图像分割和特征提取是计算机所视觉和图像处理中的一个概念,图像分割是使用计算机提取图像信息,并决定每个图像的点是否属于一个图像特征的过程。而特征提取过程是把图像上的点分为不同的子集,这些子集往往属于孤立的点、连续曲线或者连续的区域的过程。
在一种可能的实现方式中,上述联动类型分类模型可以包括卷积神经网络(Convolutional Neural Networks,CNN)模型和支持向量机(Support Vector Machine,SVM)模型,其中,CNN模型负责特征提取,SVM模型负责联动类型的分类。
训练获得上述联动类型分类模型之后,模型训练设备将联动类型分类模型提供给模型应用设备。
步骤1003,模型应用设备将视频中的画面帧输入联动类型分类模型,获得联动类型分类模型输出的联动类型。
可选的,在本申请实施例中,模型应用设备可以预先对图2或图4所示的视频播放终端播放的视频中的各个画面帧进行特征提取,获得该各个画面帧各自的特征信息;并将该各个画面帧各自的特征信息输入分类模型,获得该分类模型输出的,该各个画面帧各自对应的联动类型。
比如,请参考图11,其示出了本申请实施例涉及的模型应用流程示意图。如图11所示,模型应用设备可以预先对视频播放终端播放的视频中的各个画面帧进行预处理(S1101),根据预处理结果进行图像分割(S1102),对图像分割结果进行特征提取,比如,将图像分割结果输入联动类型分类模型中的CNN模型,获得CNN模型输出的各个画面帧对应的特征信息(S1103),然后再对获得的特征信息进行判断匹配,以判断画面帧的特征信息是否匹配到对应的联动类型(S1104),比如,将各个画面帧对应的特征信息输入分类模型(即上述SVM模型),最后获得判断匹配的输出结果(S1105),即分类模型输出的各个画面帧各自对应的联动类型。
步骤1004,根据该各个画面帧各自对应的联动类型,生成视频中的各个视频分片对应的联动信息。
如果步骤1003中输出的模型分类结果显示某个画面帧对应有联动类型,则模型应用设备可以根据该画面帧对应的联动类型,生成该画面帧所在的视频分片对应的联动信息。
比如,模型应用设备可以直接将该画面帧对应的联动类型添加到该画面帧所在的视频分片对应的联动信息;或者,模型应用设备可以根据该画面帧对应的联动类型生成相应的控制指令,并将生成的控制指令添加到该画面帧所在的视频分片对应的联动信息。其中,上述画面帧对应的联动类型或者控制指令,可以对应该画面帧的播放时间点进行存储。
请参考图12,以上述模型训练设备和模型应用设备是图1所示系统中的服务器为例,上述图10所示实施例涉及的方案执行流程可以如下:
S1201,开发人员通过管理设备设置图像帧样本和联动类型样本,并将图像帧样本和联动类型样本输入服务器。
S1202,服务器对图像帧样本进行特征提取。
S1203,服务器根据提取的特征信息和对应的联动类型样本训练分类器。
S1204,开发人员通过管理设备设置需要生成联动信息的视频。
S1205,服务器对视频分帧预处理。
S1206,服务器对预处理后的画面帧进行特征提取。
S1207,服务器将提取到的特征信息输入分类器开始匹配。
S1208,若成功匹配到联动类型,则保存画面帧对应的播放时间点以及联动类型。
综上所述,本申请实施例所示的方案,计算机设备可以通过预先训练的机器学习模型对普通视频进行处理,以获得该视频中的各个画面帧对应的联动信息,以便后续视频播放终端播放该视频时,服务器能够根据对应的联动信息指示可穿戴设备执行联动,不需要人工制作四维视频,提高了四维视频的生成效率。
图13是根据一示例性实施例示出的一种物理联动组件的控制装置的结构方框图。该物理联动组件的控制装置用于控制可穿戴设备中的物理联动组件,比如,该物理联动组件的控制装置可以用于如图1所示系统中的可穿戴设备120中,以执行图3或图5所示实施例提供的方法中由可穿戴设备执行的全部或者部分步骤。该物理联动组件的控制装置可以包括:
联动信息接收模块1301,用于接收服务器发送的联动信息,所述联动信息是所述服务器接收到视频播放终端发送的播放进度指示信息后发送的,与所述播放进度指示信息所指示的视频播放进度相对应的信息;所述视频播放终端是登录所述用户帐号的终端;
指令获取模块1302,用于获取所述联动信息对应的控制指令;
联动控制模块1303,用于控制所述物理联动组件执行所述控制指令。
可选的,所述获取所述指令获取模块1302,具体用于,
获取所述联动信息中包含的所述控制指令;
或者,
获取所述联动信息中包含的联动类型,根据所述联动类型生成所述控制指令,所述联动类型用于指示对应的物理联动组件的类型。
可选的,所述联动信息中包含所述控制指令的延时时长,所述联动控制模块1303,具体用于,
在接收到所述联动信息后,启动计时器开始计时;
当所述计时器计时到达所述延时时长时,控制所述物理联动组件执行所述控制指令。
可选的,所述装置还包括:
暂停指示接收模块,用于在所述联动控制模块1303控制所述物理联动组件执行所述控制指令之前,接收所述服务器发送的暂停指示,所述暂停指示是所述服务器接收到所述视频播放终端上报的暂停通知时发送的指示,所述暂停通知用于指示所述视频播放终端暂停播放视频;
暂停控制模块,用于控制所述计时器暂停计时。
可选的,所述装置还包括:
启动指示接收模块,用于接收所述服务器发送的启动指示,所述启动指示是所述服务器接收到所述视频播放终端上报的播放通知时发送的指示,所述播放通知用于指示所述视频播放终端继续播放所述视频;
启动控制模块,用于控制所述计时器继续计时。
可选的,所述装置还包括:
所述当所述计时器计时到达所述延时时长时,控制所述物理联动组件执行所述控制指令之前,还包括:
取消指示接收模块,用于在所述联动控制模块1303控制所述物理联动组件执行所述控制指令之前,接收所述服务器发送的取消指示,所述取消指示是所述服务器接收到所述视频播放终端上报的取消通知时发送的指示,所述取消通知用于指示所述视频播放终端终止播放所述视频,或者,所述视频播放终端播放所述视频的进度发生突变;
取消计时控制模块,用于控制所述计时器取消计时。
可选的,所述联动信息中包含所述控制指令的持续时长,所述联动控制模块1303,具体用于根据所述持续时长,控制所述物理联动组件执行所述控制指令。
可选的,所述物理联动组件包括如下至少一种:吹风组件、喷水组件、加热组件、制冷组件、震动组件以及收缩组件等。
图14是根据一示例性实施例示出的一种物理联动组件的控制装置的结构方框图。该物理联动组件的控制装置用于指示可穿戴设备控制物理联动组件,比如,该物理联动组件的控制装置可以用于如图1所示系统中的服务器140中,以执行图3或图5所示实施例提供的方法中由服务器执行的全部或者部分步骤。该物理联动组件的控制装置可以包括:
进度指示接收模块1401,用于接收视频播放终端发送的播放进度指示信息,所述视频播放终端是登录用户帐号的终端,所述用户帐号与包含物理联动组件的可穿戴设备绑定;
联动信息获取模块1402,用于获取与所述播放进度指示信息所指示的视频播放进度相对应的联动信息;
联动信息发送模块1403,用于向所述可穿戴设备发送所述联动信息,所述联动信息用于指示所述可穿戴设备获取所述联动信息对应的控制指令,并控制所述物理联动组件执行所述控制指令。
可选的,所述联动信息包含所述控制指令;
或者,
所述联动信息包含联动类型,所述联动类型用于指示对应的物理联动组件的类型。
可选的,所述联动信息中包含所述控制指令的延时时长;
所述联动信息具体用于指示所述可穿戴设备启动计时器开始计时,并在所述计时器计时到达所述延时时长时,控制所述物理联动组件执行所述控制指令。
可选的,所述装置还包括:
暂停指示发送模块,用于在接收到所述视频播放终端上报的暂停通知时,向所述可穿戴设备发送暂停指示;所述暂停通知用于指示所述视频播放终端暂停播放视频,所述暂停指示用于指示所述可穿戴设备控制所述计时器暂停计时。
可选的,所述装置还包括:
启动指示发送模块,用于在接收到所述视频播放终端上报的播放通知时,向所述可穿戴设备发送启动指示;所述播放通知用于指示所述视频播放终端继续播放所述视频,所述启动指示用于指示所述可穿戴设备控制所述计时器继续计时。
可选的,所述装置还包括:
取消指示发送模块,用于在接收到所述视频播放终端上报的取消通知时,向所述可穿戴设备发送取消指示;所述取消通知用于指示所述视频播放终端终止播放所述视频,或者,所述视频播放终端播放所述视频的进度发生突变;所述取消指示用于指示所述可穿戴设备控制所述计时器取消计时。
可选的,所述联动信息中包含所述控制指令的持续时长,所述联动信息具体用于指示所述可穿戴设备根据所述持续时长,控制所述物理联动组件执行所述控制指令。
可选的,所述进度指示接收模块1401,具体用于接收所述视频播放终端发送的视频分片获取请求,所述视频分片获取请求中包含所述视频播放终端播放所述视频的进度;
所述联动信息获取模块1402,具体用于确定所述视频分片获取请求所请求的视频分片;获取所述视频分片对应的所述联动信息。
可选的,所述装置还包括:
特征提取模块,用于在所述进度指示接收模块1401接收视频播放终端发送的播放进度指示信息之前,对所述视频播放终端播放的视频中的各个画面帧进行特征提取,获得所述各个画面帧各自的特征信息;
分类模块,用于将所述各个画面帧各自的特征信息输入分类模型,获得所述分类模型输出的,所述各个画面帧各自对应的联动类型;
联动信息生成模块,用于根据所述各个画面帧各自对应的联动类型,生成所述视频中的各个视频分片对应的联动信息。
图15是根据一示例性实施例示出的一种计算机设备的结构示意图。该计算机设备可以实现为图1所示系统中的服务器,或者该计算机设备可以实现为图9所示实施例中的模型训练设备和/或模型应用设备。所述计算机设备1500包括中央处理单元(CPU)1501、系统存储器1504,以及连接系统存储器1504和中央处理单元1501的系统总线1505。所述计算机设备1500还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统(I/O系统)1506,和大容量存储设备1507。
所述大容量存储设备1507通过连接到系统总线1505的大容量存储控制器(未示出)连接到中央处理单元1501。所述大容量存储设备1507及其相关联的计算机可读介质为计算机设备1500提供非易失性存储。也就是说,所述大容量存储设备1507可以包括诸如硬盘或者CD-ROM驱动器之类的计算机可读介质(未示出)。
上述的系统存储器1504和大容量存储设备1507可以统称为存储器。
计算机设备1500可以通过连接在所述系统总线1505上的网络接口单元1511连接到互联网或者其它网络设备。
所述存储器还包括一个或者一个以上的程序,所述一个或者一个以上程序存储于存储器中,中央处理器1501通过执行该一个或一个以上程序来实现图3、图5或图10所示实施例的方法中,由服务器执行的全部或者部分步骤。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括计算机程序(指令)的存储器,上述程序(指令)可由计算机设备的处理器执行以完成本申请各个实施例所示的方法中,由可穿戴设备、服务器、模型训练设备或者模型应用设备执行的方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由下面的权利要求指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

Claims (15)

1.一种视频播放系统,其特征在于,所述系统包括:包含物理联动组件的可穿戴设备、服务器和视频播放终端;所述可穿戴设备与用户帐号绑定,且所述视频播放终端是登录所述用户帐号的终端;
所述视频播放终端,用于向所述服务器发送播放进度指示信息,所述播放进度指示信息用于指示所述视频终端播放视频时的视频播放进度;
所述服务器,用于接收所述播放进度指示信息,获取与所述播放进度指示信息所指示的视频播放进度相对应的联动信息,并向所述可穿戴设备发送所述联动信息;所述联动信息是对应所述视频中的画面帧或画面帧的时间戳存储在服务器中的信息;
所述可穿戴设备,用于接收所述联动信息,获取所述联动信息对应的控制指令,并控制所述物理联动组件执行所述控制指令。
2.根据权利要求1所述的系统,其特征在于,
所述服务器,还用于在向所述可穿戴设备发送所述联动信息之前,确定从所述视频播放进度对应的播放时间点到触发所述联动信息的画面帧的播放时间点之间的时长,根据确定的时长获取所述联动信息对应的延时时长,并将所述延时时长添加到所述联动信息中;
所述可穿戴设备,具体用于在控制所述物理联动组件执行所述控制指令时,在接收到所述联动信息后,启动计时器开始计时,当所述计时器计时到达所述延时时长时,控制所述物理联动组件执行所述控制指令。
3.根据权利要求1所述的系统,其特征在于,
所述视频播放终端,用于在向所述服务器发送播放进度指示信息时,向所述服务器发送视频分片获取请求,所述视频分片获取请求中包含所述视频播放终端播放所述视频的进度;
所述服务器,用于在接收所述播放进度指示信息时,接收所述视频分片获取请求;
所述服务器,用于在获取与所述播放进度指示信息所指示的视频播放进度相对应的联动信息时,确定所述视频分片获取请求所请求的视频分片,获取所述视频分片对应的所述联动信息。
4.根据权利要求1所述的系统,其特征在于,所述服务器,还用于在获取与所述播放进度指示信息所指示的视频播放进度相对应的联动信息之前,对所述视频播放终端播放的视频中的各个画面帧进行特征提取,获得所述各个画面帧各自的特征信息;将所述各个画面帧各自的特征信息输入分类模型,获得所述分类模型输出的,所述各个画面帧各自对应的联动类型;根据所述各个画面帧各自对应的联动类型,生成所述视频中的各个视频分片对应的联动信息。
5.一种可穿戴设备,其特征在于,所述可穿戴设备包括物理联动组件、网络接口和处理器;
所述处理器,用于控制所述网络接口接收服务器发送的联动信息,所述联动信息是所述服务器接收到视频播放终端发送的播放进度指示信息后发送的信息,所述联动信息与所述播放进度指示信息所指示的视频播放进度相对应;所述视频播放终端是登录用户帐号的终端,所述用户帐号是与所述可穿戴设备绑定的帐号;所述联动信息是对应所述视频中的画面帧或画面帧的时间戳存储在服务器中的信息;
所述处理器,还用于获取所述联动信息对应的控制指令;
所述处理器,还用于控制所述物理联动组件执行所述控制指令。
6.根据权利要求5所述的可穿戴设备,其特征在于,所述可穿戴设备包括头盔设备;所述物理联动组件包括以下组件中的至少一种:
设置在所述头盔设备前方,且用于向所述头盔设备所在的方向吹风的吹风组件;
设置在所述头盔设备前方,且用于向所述头盔设备所在的方向喷水的喷水组件;
设置在所述头盔设备内部的加热组件;
设置在所述头盔设备内部的制冷组件;
设置在所述头盔设备内部的震动组件;
以及,设置在所述头盔设备内部的收缩组件。
7.一种物理联动组件的控制方法,其特征在于,所述方法由权利要求5或6所述的可穿戴设备执行,所述可穿戴设备与用户帐号绑定,所述方法包括:
接收服务器发送的联动信息,所述联动信息是所述服务器接收到视频播放终端发送的播放进度指示信息后发送的信息,所述联动信息与所述播放进度指示信息所指示的视频播放进度相对应;所述视频播放终端是登录所述用户帐号的终端;所述联动信息是对应所述视频中的画面帧或画面帧的时间戳存储在服务器中的信息;
获取所述联动信息对应的控制指令;
控制所述物理联动组件执行所述控制指令。
8.根据权利要求7所述的方法,其特征在于,所述获取所述联动信息对应的控制指令,包括:
获取所述联动信息中包含的所述控制指令;
或者,
获取所述联动信息中包含的联动类型,根据所述联动类型生成所述控制指令,所述联动类型用于指示对应的物理联动组件的类型。
9.根据权利要求7所述的方法,其特征在于,所述联动信息中包含所述控制指令的持续时长,所述控制所述物理联动组件执行所述控制指令,包括:
根据所述持续时长,控制所述物理联动组件执行所述控制指令。
10.一种物理联动组件的控制方法,其特征在于,所述方法包括:
接收视频播放终端发送的播放进度指示信息,所述视频播放终端是登录用户帐号的终端,所述用户帐号与包含物理联动组件的可穿戴设备绑定;
获取与所述播放进度指示信息所指示的视频播放进度相对应的联动信息;所述联动信息是对应所述视频中的画面帧或画面帧的时间戳存储在服务器中的信息;
向所述可穿戴设备发送所述联动信息,所述联动信息用于指示所述可穿戴设备获取所述联动信息对应的控制指令,并控制所述物理联动组件执行所述控制指令。
11.根据权利要求10所述的方法,其特征在于,
所述联动信息包含所述控制指令;
或者,
所述联动信息包含联动类型,所述联动类型用于指示对应的物理联动组件的类型。
12.一种物理联动组件的控制装置,其特征在于,所述装置用于如权利要求5或6所述的可穿戴设备中,所述可穿戴设备与用户帐号绑定,所述装置包括:
联动信息接收模块,用于接收服务器发送的联动信息,所述联动信息是所述服务器接收到视频播放终端发送的播放进度指示信息后发送的信息,所述联动信息与所述播放进度指示信息所指示的视频播放进度相对应;所述视频播放终端是登录所述用户帐号的终端;所述联动信息是对应所述视频中的画面帧或画面帧的时间戳存储在服务器中的信息;
指令获取模块,用于获取所述联动信息对应的控制指令;
联动控制模块,用于控制所述物理联动组件执行所述控制指令。
13.一种物理联动组件的控制装置,其特征在于,所述装置包括:
进度指示接收模块,用于接收视频播放终端发送的播放进度指示信息,所述视频播放终端是登录用户帐号的终端,所述用户帐号与包含物理联动组件的可穿戴设备绑定;
联动信息获取模块,用于获取与所述播放进度指示信息所指示的视频播放进度相对应的联动信息;所述联动信息是对应所述视频中的画面帧或画面帧的时间戳存储在服务器中的信息;
联动信息发送模块,用于向所述可穿戴设备发送所述联动信息,所述联动信息用于指示所述可穿戴设备获取所述联动信息对应的控制指令,并控制所述物理联动组件执行所述控制指令。
14.一种计算机设备,其特征在于,所述计算机设备包含处理器和存储器,所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如权利要求10或11所述的物理联动组件的控制方法。
15.一种计算机可读存储介质,其特征在于,所述存储介质存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由处理器加载并执行以实现如权利要求7至9任一所述的物理联动组件的控制方法,或者,实现如权利要求10或11所述的物理联动组件的控制方法。
CN201910064879.9A 2019-01-23 2019-01-23 视频播放系统、可穿戴设备及物理联动组件的控制方法 Active CN109729399B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910064879.9A CN109729399B (zh) 2019-01-23 2019-01-23 视频播放系统、可穿戴设备及物理联动组件的控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910064879.9A CN109729399B (zh) 2019-01-23 2019-01-23 视频播放系统、可穿戴设备及物理联动组件的控制方法

Publications (2)

Publication Number Publication Date
CN109729399A CN109729399A (zh) 2019-05-07
CN109729399B true CN109729399B (zh) 2021-06-01

Family

ID=66298414

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910064879.9A Active CN109729399B (zh) 2019-01-23 2019-01-23 视频播放系统、可穿戴设备及物理联动组件的控制方法

Country Status (1)

Country Link
CN (1) CN109729399B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113133670B (zh) * 2020-01-17 2023-03-21 佛山市顺德区美的电热电器制造有限公司 烹饪设备、烹饪控制方法和装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN202672795U (zh) * 2012-03-21 2013-01-16 合肥探奥自动化有限公司 一种微型可移动4d影院
CN104793739A (zh) * 2015-03-31 2015-07-22 小米科技有限责任公司 播放控制方法及装置
CN105975053A (zh) * 2016-05-11 2016-09-28 乐视控股(北京)有限公司 虚拟头盔控制方法、装置及虚拟头盔
CN107613356A (zh) * 2017-08-30 2018-01-19 瑞声科技(新加坡)有限公司 媒体和震动同步播放方法及装置、电子设备以及存储介质
CN108427505A (zh) * 2018-03-29 2018-08-21 广东欧珀移动通信有限公司 触感控制方法、电子装置及计算机可读存储介质
KR20180134521A (ko) * 2017-06-09 2018-12-19 한국전자통신연구원 실 공간 기반의 가상 콘텐츠 제공 방법 및 이를 위한 장치

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN202672795U (zh) * 2012-03-21 2013-01-16 合肥探奥自动化有限公司 一种微型可移动4d影院
CN104793739A (zh) * 2015-03-31 2015-07-22 小米科技有限责任公司 播放控制方法及装置
CN105975053A (zh) * 2016-05-11 2016-09-28 乐视控股(北京)有限公司 虚拟头盔控制方法、装置及虚拟头盔
KR20180134521A (ko) * 2017-06-09 2018-12-19 한국전자통신연구원 실 공간 기반의 가상 콘텐츠 제공 방법 및 이를 위한 장치
CN107613356A (zh) * 2017-08-30 2018-01-19 瑞声科技(新加坡)有限公司 媒体和震动同步播放方法及装置、电子设备以及存储介质
CN108427505A (zh) * 2018-03-29 2018-08-21 广东欧珀移动通信有限公司 触感控制方法、电子装置及计算机可读存储介质

Also Published As

Publication number Publication date
CN109729399A (zh) 2019-05-07

Similar Documents

Publication Publication Date Title
US11423653B2 (en) Systems and methods for generating media content
CN104866101B (zh) 虚拟对象的实时互动控制方法及装置
WO2020177582A1 (zh) 视频合成的方法、模型训练的方法、设备及存储介质
CN109145784B (zh) 用于处理视频的方法和装置
US10070046B2 (en) Information processing device, recording medium, and information processing method
JP6750046B2 (ja) 情報処理装置及び情報処理方法
CN102467661B (zh) 多媒体设备及其控制方法
CN111567056B (zh) 视频播放装置及其控制方法
CN106527713A (zh) Vr的三维数据渲染系统及其方法
JP6354461B2 (ja) フィードバック提供方法、システム、および解析装置
US20160342202A1 (en) Virtual reality apparatus, feedback apparatus, and system and method for providing realistic service
CN104615234A (zh) 信息处理设备以及信息处理方法
US20220126190A1 (en) Electronic device for providing feedback for specific movement using machine learning model and operating method thereof
US20150331598A1 (en) Display device and operating method thereof
US20170046600A1 (en) Fitness device-based simulator and simulation method using the same
JP2022520699A (ja) オブジェクト制御方法とオブジェクト制御装置、コンピュータ・プログラム、および電子装置
US20210344736A1 (en) MEASURING QUALITY-OF-EXPERIENCE (QoE) FOR VIRTUAL REALITY (VR) STREAMING CONTENT
WO2018135246A1 (ja) 情報処理システム及び情報処理装置
CN109729399B (zh) 视频播放系统、可穿戴设备及物理联动组件的控制方法
CN112565884A (zh) 图像处理方法、装置、终端、服务器及存储介质
CN111915744A (zh) 增强现实图像的交互方法、终端和存储介质
CN105797376A (zh) 一种根据用户表情控制角色模型行为的方法和终端
CN108960130A (zh) 视频文件智能处理方法和装置
CN116704405A (zh) 行为识别方法、电子设备及存储介质
CN112135152B (zh) 信息处理方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant