CN112055237B - 确定屏到屏延时的方法、系统、装置、设备和存储介质 - Google Patents
确定屏到屏延时的方法、系统、装置、设备和存储介质 Download PDFInfo
- Publication number
- CN112055237B CN112055237B CN202010901454.1A CN202010901454A CN112055237B CN 112055237 B CN112055237 B CN 112055237B CN 202010901454 A CN202010901454 A CN 202010901454A CN 112055237 B CN112055237 B CN 112055237B
- Authority
- CN
- China
- Prior art keywords
- video image
- cloud
- screen
- video data
- response
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 90
- 230000004044 response Effects 0.000 claims abstract description 222
- 230000008569 process Effects 0.000 claims description 35
- 238000004891 communication Methods 0.000 claims description 31
- 238000012544 monitoring process Methods 0.000 claims description 21
- 230000015654 memory Effects 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 8
- 230000005540 biological transmission Effects 0.000 abstract description 10
- 230000006872 improvement Effects 0.000 abstract description 3
- 238000012360 testing method Methods 0.000 description 45
- 238000004422 calculation algorithm Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 18
- 230000033001 locomotion Effects 0.000 description 11
- 230000006870 function Effects 0.000 description 9
- 238000005457 optimization Methods 0.000 description 7
- 238000009877 rendering Methods 0.000 description 7
- 230000009471 action Effects 0.000 description 4
- 230000001934 delay Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 210000004209 hair Anatomy 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/4104—Peripherals receiving signals from specially adapted client devices
- H04N21/4126—The peripheral being portable, e.g. PDAs or mobile phones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
- H04N21/4781—Games
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Human Computer Interaction (AREA)
- Studio Devices (AREA)
Abstract
本发明公开了一种确定屏到屏延时的方法、系统、装置、设备和存储介质。该方法包括:在用户侧展示的视频数据中识别云端设备响应操作指令时生成的响应视频图像,根据响应视频图像的播放时刻以及操作指令的生成时刻,确定屏到屏延时。在本发明实施例中,针对一个操作指令而言,操作指令的生成时刻可以作为用户设备的指令传输延时的起始时刻,响应视频图像的播放时刻可以作为用户设备的图像展示延时的结束时刻,进而根据该开始时刻和该结束时刻,就可以简单、方便地确定屏到屏延时,弥补了缺少确定屏到屏延时方式的技术空白,有利于后续改进屏到屏延时,提升云程序的使用体验。
Description
技术领域
本发明涉及云通信技术领域,特别是涉及一种确定屏到屏延时的方法、系统、装置、设备和存储介质。
背景技术
云端应用服务是在云端部署硬件资源,使用云端的硬件资源运行用户所需的应用程序,在用户设备展示该应用程序的显示窗口图像,并且在云端响应来自用户设备的操作指令并进行图像渲染,因此云端应用服务对用户设备的性能要求较低。例如:在云游戏应用场景中,游戏程序部署在云端设备上,云端设备运行游戏程序,响应于接收到来自于用户设备的操作指令进行图像渲染,将渲染后形成的视频流传送给用户设备,用户设备无需安装、运行游戏程序,仅需向云端设备发送操作指令并显示视频流即可。
目前,在使用云端应用服务的过程中,屏到屏延时是影响用户体验的一项重要的指标。屏到屏延时为多种类型的延时的和。该多种类型的延时包括:用户设备到云端设备的指令传输延时,云端设备中程序的逻辑运算延时,云端设备中系统的图像渲染延时,云端设备编码图像数据的延时,云端设备到用户设备的图像传输延时,用户设备解码图像数据的延时,用户设备的图像展示延时。屏到屏延时越短,用户设备展示的图像的实时性越好,用户体验越好;屏到屏延时越长,用户设备展示的图像的实时性越差,用户体验越差。
但是,目前缺少一种机制来测试屏到屏延时,所以在屏到屏延时上无法为云端应用服务提供量化指标,只能凭借经验来改善屏到屏延时。
发明内容
本发明实施例的目的在于提供一种确定屏到屏延时的方法、系统、装置、设备和存储介质,以弥补现有技术中缺少确定屏到屏延时方式的技术空白。具体技术方案如下:
在本发明实施的第一方面,首先提供了一种确定屏到屏延时的方法,第一设备用于展示来自于云端设备的云端视频数据;所述第一设备展示的所述云端视频数据处于第二设备的拍摄视野之中;所述第二设备用于拍摄所述第一设备展示的云端视频图像,得到拍摄视频数据;所述方法包括:在所述第一设备展示所述云端视频数据的过程中,控制所述第一设备生成预设的操作指令,以便使所述第一设备向所述云端设备发送所述操作指令;获取所述拍摄视频数据,并在所述拍摄视频数据中,识别目标视频图像;其中,所述目标视频图像对应于所述第一设备展示的所述云端视频数据中的响应视频图像,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时;其中,所述响应视频图像对应的播放时刻是根据所述目标视频图像对应的拍摄时刻确定的。
在本发明实施的第二方面,还提供了一种确定屏到屏延时的方法,包括:展示来自于云端设备的云端视频数据;在展示所述云端视频数据的过程中,对显示窗口执行事件监听;在监听到预设的操作事件之后,生成所述操作事件对应的操作指令,并向所述云端设备发送所述操作指令;在继续展示的所述云端视频数据中,识别响应视频图像;其中,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时。
在本发明实施的第三方面,还提供了一种确定屏到屏延时的系统,所述系统包括云端设备、第一设备、第二设备和确定设备;所述云端设备连接所述第一设备,用于生成云端视频数据并向所述第一设备发送所述云端视频数据;所述第一设备,用于展示来自于所述云端设备的云端视频数据;所述第二设备的拍摄视野正对所述第一设备展示的所述云端视频数据,用于拍摄所述第一设备展示的云端视频图像,得到拍摄视频数据;所述确定设备分别连接所述第一设备和所述第二设备,用于在所述第一设备展示所述云端视频数据的过程中,控制所述第一设备生成预设的操作指令,以便使所述第一设备向所述云端设备发送所述操作指令;所述确定设备,还用于从所述第二设备获取所述拍摄视频数据,并在所述拍摄视频数据中,识别目标视频图像;根据所述目标视频图像对应的拍摄时刻,以及所述操作指令的生成时刻,确定屏到屏延时;其中,所述目标视频图像对应于所述第一设备展示的所述云端视频数据中的响应视频图像,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像。
在本发明实施的第四方面,还提供了一种确定屏到屏延时的系统,所述系统包括:相互连接的用户设备和云端设备;所述云端设备,用于生成云端视频数据并向所述用户设备发送所述云端视频数据;所述用户设备,用于展示来自于云端设备的云端视频数据;在展示所述云端视频数据的过程中,对显示窗口执行事件监听;在监听到预设的操作事件之后,生成所述操作事件对应的操作指令,并向所述云端设备发送所述操作指令;在继续展示的所述云端视频数据中,识别响应视频图像;其中,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时。
在本发明实施的第五方面,还提供了一种确定屏到屏延时的装置,第一设备用于展示来自于云端设备的云端视频数据;所述第一设备展示的所述云端视频数据处于第二设备的拍摄视野之中;所述第二设备用于拍摄所述第一设备展示的云端视频图像,得到拍摄视频数据;所述装置包括:控制模块,用于在所述第一设备展示所述云端视频数据的过程中,控制所述第一设备生成预设的操作指令,以便使所述第一设备向所述云端设备发送所述操作指令;获取与识别模块,用于获取所述拍摄视频数据,并在所述拍摄视频数据中,识别目标视频图像;其中,所述目标视频图像对应于所述第一设备展示的所述云端视频数据中的响应视频图像,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;第一确定模块,用于根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时;其中,所述响应视频图像对应的播放时刻是根据所述目标视频图像对应的拍摄时刻确定的。
在本发明实施的第六方面,还提供了一种确定屏到屏延时的装置,包括:展示模块,用于展示来自于云端设备的云端视频数据;监听模块,用于在展示所述云端视频数据的过程中,对显示窗口执行事件监听;生成与发送模块,用于在所述监听模块监听到预设的操作事件之后,生成所述操作事件对应的操作指令,并向所述云端设备发送所述操作指令;识别模块,用于在继续展示的所述云端视频数据中,识别响应视频图像;其中,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;第二确定模块,用于根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时。
在本发明实施的第七方面,还提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;存储器,用于存放计算机程序;处理器,用于执行存储器上所存放的程序时,实现上述任一所述的方法步骤。
在本发明实施的第八方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述任一所述的确定屏到屏延时的方法。
在本发明实施的第九方面,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述任一所述的确定屏到屏延时的方法。
本发明实施例提供的一种确定屏到屏延时的方法、装置、设备和存储介质,具有如下有益效果:
在本发明实施例中,在用户侧展示的视频数据中识别云端设备响应操作指令时生成的响应视频图像,根据响应视频图像的播放时刻以及操作指令的生成时刻,确定屏到屏延时。针对一个操作指令而言,操作指令的生成时刻可以作为用户设备的指令传输延时的起始时刻,响应视频图像的播放时刻可以作为用户设备的图像展示延时的结束时刻,进而根据该开始时刻和该结束时刻,就可以简单、方便地确定屏到屏延时,弥补了缺少确定屏到屏延时方式的技术空白,有利于后续改进屏到屏延时,提升云程序的使用体验。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。
图1是根据本发明一实施例的云端通信系统的结构图;
图2是根据本发明一实施例的确定屏到屏延时的方法流程图;
图3是根据本发明一实施例的设备相对位置的示意图;
图4是根据本发明一实施例的确定响应视频图像的播放时刻的示意图;
图5是根据本发明一实施例的确定响应视频图像的播放时刻的示意图;
图6是根据本发明一实施例的识别目标视频图像的步骤流程图;
图7是根据本发明一实施例的确定屏到屏延时的步骤流程图;
图8是根据本发明一实施例的在图像中显示调试信息的示意图;
图9是根据本发明另一实施例的确定屏到屏延时的方法流程图;
图10是根据本发明一实施例的确定屏到屏延时的系统结构图;
图11是根据本发明一实施例的确定屏到屏延时的装置结构图;
图12是根据本发明另一实施例的确定屏到屏延时的装置结构图;
图13是根据本发明一实施例的电子设备的结构图。
具体实施方式
下面结合本发明实施例中的附图,对本发明实施例中的技术方案进行描述。
本发明实施例提供了一种云端通信系统,基于该云端通信系统提供云端应用服务。如图1所示,为根据本发明一实施例的云端通信系统的结构图。
云端通信系统包括:用户设备110和云端设备120。用户设备110和云端设备120网络连接。
用户设备110,用于选择云端设备120运行的云端程序,展示来自于云端设备120的云端视频数据;在展示云端视频数据的过程中,生成操作指令并向云端设备120发送。云端视频数据为多帧云端视频图像形成的视频流数据。
云端设备120,用于运行用户设备110选择的云端程序,生成云端程序对应的云端视频数据并向用户设备110发送云端视频数据;在云端视频数据中包括响应所述操作指令时生成的云端视频图像。
具体而言,用户设备110在与云端设备120建立网络连接之后,可以从云端设备120获取到至少一个云端设备120可运行的云端程序信息,并且在显示窗口中显示该至少一个云端程序信息。用户可以在该至少一个云端程序信息中点击一个希望运行的云端程序信息,以便实现云端程序的选择。用户设备110系统监听点击事件;将处于该点击事件的发生位置的云端程序信息向云端设备120发送。
云端设备120接收云端程序信息,并运行该云端程序信息对应的云端程序。云端设备120在运行云端程序的过程中,生成云端视频图像,并将该云端视频图像发送给用户设备110。
用户设备110在展示该云端视频图像的过程中,监听用户点击事件,在监听到操作事件的情况下,生成携带该操作事件的坐标位置信息的操作指令,并将该操作指令向云端设备120发送。
云端设备120在接收到操作指令之后,根据该操作指令中的坐标位置信息生成云端点击事件,使得该发生位置信息对应的对象响应该云端点击事件,云端设备120生成用于响应该云端点击事件的云端视频图像。
在本发明实施例中,用户设备110无需安装、运行云端程序,仅需向云端设备120发送操作指令并展示来自于云端设备120的云端视频图像即可。但是,由于云端通信系统中的节点(用户设备110和云端设备120)涉及运算过程,并且节点与节点之间涉及传输过程,所以云端通信系统存在服务延时。该服务延时包括屏到屏延时。
屏到屏延时可能是由多种原因造成的,一般表现为多种类型的延时的和。示例性的,该多种类型的延时可以包括但不限于如下的一种或多种:用户设备110到云端设备120的指令传输延时,云端设备120中程序的逻辑运算延时,云端设备120中系统的图像渲染延时,云端设备120编码图像数据的延时,云端设备120到用户设备110的图像传输延时,用户设备110解码图像数据的延时,用户设备110的图像展示延时。
由于屏到屏延时对用户体验存在影响,对其进行改善的前提是:需要确定屏到屏延时的大小。
基于上述的云端通信系统,本发明实施例提供了一种确定屏到屏延时的方法。本实施例的执行主体为确定设备。确定设备的种类包括但不限于:移动终端,平板电脑,台式电脑。
如图2所示,为根据本发明一实施例的确定屏到屏延时的方法流程图。
步骤S210,在第一设备展示云端视频数据的过程中,控制第一设备生成预设的操作指令,以便使第一设备向云端设备发送所述操作指令。
第一设备用于展示来自于云端设备的云端视频数据。其中,第一设备展示的云端视频数据处于第二设备的拍摄视野之中。第二设备用于拍摄第一设备展示的云端视频图像,得到拍摄视频数据。如图3所示,为根据本发明一实施例的设备相对位置的示意图。其中,第一设备和第二设备通过数据线连接确定设备,第二设备可以被支架固定,第二设备的固定位置使第一设备的显示区域(例如屏幕)处于第二设备的图像采集视野中。当然,本实施例的执行主体除了作为独立的确定设备存在,也可以集成在第二设备中或者云端设备中。
第一设备的种类包括但不限于:移动终端,平板电脑和台式电脑。第二设备的种类包括但不限于:具有摄像功能的移动终端,平板电脑和摄像机。
云端视频数据包括多帧云端视频图像。云端视频图像是指:在云端设备运行云端程序时,该云端程序的用户界面图像。
预设的操作指令是指:包含预设坐标位置信息的控制信息。在云端设备侧,云端设备根据该坐标位置信息,生成云端点击事件;云端程序中的控制对象监听到该云端点击事件,执行该云端点击事件对应的响应操作任务,以便云端设备生成用于响应该操作指令的一帧或者连续多帧云端视频图像;在继续向第一设备发送的云端视频数据中将包括该一帧或者连续多帧云端视频图像。
步骤S220,获取拍摄视频数据,并在所述拍摄视频数据中,识别目标视频图像;其中,所述目标视频图像对应于第一设备展示的所述云端视频数据中的响应视频图像,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像。
拍摄视频数据是第二设备拍摄第一设备展示的云端视频数据而得到的。
在第二设备拍摄第一设备展示的云端视频数据的过程中,可以实时从第二设备获取拍摄视频图像。或者,在第二设备拍摄第一设备展示的云端视频数据之后,从第二设备的存储装置中获取第二设备已经拍摄完毕的拍摄视频图像。
响应视频图像是云端设备响应操作指令时生成的云端视频图像。例如:云端设备根据操作指令中的坐标位置信息,在游戏角色对应的换装按钮上生成云端点击事件,云端程序根据该云端点击事件,改变游戏角色的服装颜色,这时云端设备可以生成游戏角色换装的云端视频图像,该云端视频图像为用于响应该操作指令的响应视频图像。又如:云端设备根据操作指令中的坐标位置信息,在游戏车辆对应的转向按钮上生成云端点击事件,云端程序根据该云端点击事件,改变车辆的行进方向,这时云端设备生成游戏车辆完成转向动作的多帧云端视频图像,该多帧云端视频图像都为用于响应该操作指令的响应视频图像。
具体如何识别目标视频图像将在后面进行具体描述,故在此不做赘述。
步骤S230,根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时;其中,所述响应视频图像对应的播放时刻是根据所述目标视频图像对应的拍摄时刻确定的。
响应视频图像对应的播放时刻,是指在展示云端视频数据的过程中,响应视频图像的播放时刻。进一步地,该播放时刻可以是响应视频图像的时间戳或者帧时刻。该时间戳为展示响应视频图像时的系统时间。帧时刻是响应视频图像在云端视频数据中的图像展示时刻。在确定帧时刻时,是以云端视频数据中的第一帧云端视频图像的展示时刻为时间起点的。可以根据响应视频图像的帧序号以及云端视频数据的帧间隔,确定响应视频图像的帧时刻。例如:响应视频图像的帧序号为5,云端视频数据的帧间隔40ms,得到响应视频图像的播放时刻为第200ms(5×40ms=200ms)。
操作指令的生成时刻,是指在展示云端视频数据的过程中,操作指令的生成时刻。进一步地,该生成时刻可以为生成操作指令时的系统时间。当然,该生成时刻也可以由云端视频图像的播放时刻来代替,即,使用该生成时刻展示的云端视频图像的播放时刻来代替该生成时刻。这样,操作指令的生成时刻可以是该生成时刻展示的云端视频图像的时间戳(与生成操作指令时的系统时间相同)或者帧时刻。
屏到屏延时,是指从预设的操作指令生成到响应视频图像在第一设备展示的时间长度。在本发明实施例中,屏到屏延时为第一播放时刻和第二播放时刻的差值。其中,第一播放时刻为响应视频图像对应的播放时刻。第二播放时刻为操作指令的生成时刻。进一步地,第一播放时刻和第二播放时刻的类型相同。第一播放时刻和第二播放时刻都为时间戳或者第一播放时刻和第二播放时刻都为帧时刻。
在根据响应视频图像对应的播放时刻,以及操作指令的生成时刻,确定屏到屏延时之前,需要根据所述目标视频图像对应的拍摄时刻,确定的响应视频图像对应的播放时刻。
具体而言,拍摄视频数据的帧间隔小于或者等于云端视频数据的帧间隔。也即是说,拍摄视频数据的拍摄帧率大于或者等于云端视频数据的播放帧率。进一步地,可以控制第二设备采用慢动作拍摄的方式,拍摄第一设备展示的云端视频图像,使得拍摄视频数据的拍摄帧率大于云端视频数据的播放帧率。
在拍摄视频数据的帧间隔等于云端视频数据的帧间隔的情况下,所述目标视频图像对应的拍摄时刻等于所述响应视频图像对应的播放时刻。
例如:图4是根据本发明一实施例的确定响应视频图像的播放时刻的示意图。云端视频数据的帧间隔为10ms,拍摄视频数据的帧间隔为10ms。云端视频数据的第2帧云端视频图像为响应视频图像。由于拍摄视频数据的帧间隔是云端视频数据的帧间隔相同,同一帧云端视频图像仅被第二设备拍摄了一次。所以,在时间轴上,目标视频图像的拍摄时刻和云端视频数据的播放时刻相同。
在拍摄视频数据的帧间隔小于云端视频数据的帧间隔的情况下,将所述目标视频图像对应的拍摄时刻作为所述响应视频图像对应的播放时刻,或者,将所述目标视频图像对应的拍摄时刻转换为所述响应视频图像对应的播放时刻。
下面提供一种将拍摄时刻转换为播放时刻的方式,但是,本领域技术人员应当知道的是,该方式仅为说明本发明实施例,而不用限定本发明实施例。
根据目标视频图像对应的拍摄时刻,确定目标视频图像的拍摄时刻对应的拍摄时长;根据该拍摄时长以及云端视频数据的帧间隔,确定响应视频图像对应的播放时刻。
该拍摄时长的时间起点为拍摄视频数据中的第一帧拍摄视频图像的拍摄时刻(第二设备的拍摄起点时刻),该拍摄时长的时间终点为目标视频图像的拍摄时刻。
确定响应视频图像对应的播放时刻包括:将该拍摄时长除以云端视频数据的帧间隔,在得到的商中,获取商的整数部分;将该整数部分乘以云端视频数据的帧间隔,得到响应视频图像的播放时刻。其中,该整数部分为响应视频图像的帧序号减1的值。
例如:图5是根据本发明一实施例的确定响应视频图像的播放时刻的示意图。云端视频数据的帧间隔为10ms,拍摄视频数据的帧间隔为4ms。目标视频图像的拍摄时刻为第12ms,目标视频图像对应的拍摄时长为12ms,云端视频数据的帧间隔为10ms,拍摄时长和云端视频数据的帧间隔的商为1.2,整数部分为1,响应视频图像的帧序号为2,那么,响应视频图像的播放时刻为第10ms(整数部分1乘以云端视频数据的帧间隔10ms)。
进一步地,如果为了节省计算资源,降低逻辑运算时长,在拍摄视频数据的帧间隔小于云端视频数据的帧间隔的情况下,也可以直接将目标拍摄图像的拍摄时刻作为响应视频图像的播放时刻。
但是,由于拍摄视频数据的帧间隔小于云端视频数据的帧间隔,所以目标拍摄图像的拍摄时刻不一定能对应到响应视频图像的播放时刻(如图5所示的情况)。针对这种情况,可以将第二设备拍摄时采用的帧间隔设置为云端视频数据的帧间隔的1/N,N为正整数。这时云端视频数据的帧间隔是拍摄视频数据的帧间隔的整数倍,目标拍摄图像的拍摄时刻可以对应到响应视频图像的播放时刻。当然,还可以使第二设备采用较小的帧间隔拍摄第一设备展示的云端视频数据,因为拍摄视频数据的帧间隔越小,也即是拍摄时间的粒度越小,目标拍摄图像的拍摄时刻越接近响应视频图像的播放时刻。
在本发明实施例中,在拍摄视频数据中识别云端设备响应操作指令时生成的响应视频图像,根据响应视频图像的播放时刻以及操作指令的生成时刻,确定屏到屏延时。针对一个操作指令而言,操作指令的生成时刻可以作为指令传输延时的起始时刻,响应视频图像的播放时刻可以作为图像展示延时的结束时刻,进而根据该开始时刻和该结束时刻,就可以简单、方便地确定屏到屏延时,无需分别确定屏到屏延时中的每种类型对应的延时时长,进而缺少确定屏到屏延时方式的技术空白,有利于后续改进屏到屏延时,提升云程序的使用体验。
下面针对识别目标视频图像的步骤进行进一步地描述。
具体而言,可以利用预先训练的识别模型,在拍摄视频数据中,识别目标视频图像;或者,可以利用预设的样本响应视频图像,通过图像匹配的方式,在拍摄视频数据中,识别目标视频图像。
识别模型,用于在拍摄视频数据中识别包括响应视频图像的拍摄视频数据。
识别模型,可以是LSTM(Long Short-Term Memory,长短期记忆)模型。
由于需要控制第一设备生成预设的操作指令,那么该操作指令中的坐标位置信息对应的控制对象已知,该控制对象执行的响应操作任务已知,云端设备生成的云端视频图像也可以预知。进而可以预先收集云端设备响应该操作指令时的云端视频图像,作为训练样本图像。可以利用训练样本图像训练该识别模型,直到该识别模型收敛为止,从而使得该识别模型可以在拍摄视频图像中识别出包括该响应视频图像的拍摄视频数据,以便作为目标视频图像。
下面对通过图像匹配的方式,识别目标视频图像的步骤进行描述。
如图6所示,是根据本发明一实施例的识别目标视频图像的步骤流程图。
步骤S610,顺序获取所述拍摄视频数据中的每帧拍摄视频图像。
步骤S620,确定与预设的样本响应视频图像相匹配的首帧拍摄视频图像,作为目标视频图像;其中,所述样本响应视频图像为事先根据所述操作指令生成的视频图像。
在本实施例中,拍摄视频数据的帧间隔小于或者等于云端视频数据的帧间隔。这样,云端视频数据中的一帧云端视频图像将对应至少一帧拍摄视频图像。
例如:在图5中,由于拍摄视频数据的帧间隔小于云端视频数据的帧间隔,所以,在云端视频图像尚未变化为下一帧的情况下,第二设备已经对该云端视频图像拍摄了至少一次,这就出现了在拍摄视频数据中,第2帧图像和第3帧图像都与第1帧图像相同,第5帧图像和第4帧图像相同,第7帧图像和第8帧图像都与第6帧图像相同。因此,本实施例确定与预设的样本响应视频图像相匹配的首帧拍摄视频图像,作为目标视频图像。
具体而言,可以通过以下步骤来定与预设的样本响应视频图像相匹配的首帧拍摄视频图像:
步骤S1,按照拍摄时间从先到后的顺序,从拍摄视频数据中顺序获取一帧拍摄视频图像。
步骤S2,利用的图像匹配算法,确定当前获取的拍摄视频图像与样本响应视频图像是否匹配;如果是,则执行步骤S3;如果否,则跳转到步骤S1,获取下一帧拍摄视频图像。
图像匹配算法,用于确定当前获取的拍摄视频图像和样本响应视频图像之间的相似度是否大于相似度阈值。如果当前获取的拍摄视频图像和样本响应视频图像之间的相似度大于相似度阈值,则可以表示当前获取的拍摄视频图像与样本响应视频图像匹配,反之,则可以表示当前获取的拍摄视频图像与样本响应视频图像不匹配。
图像匹配算法的种类包括但不限于:基于OpenCV的图像匹配算法,基于灰度的模板匹配算法(又称相关匹配算法)和基于特征的匹配算法。
基于OpenCV的图像匹配算法,包括但不限于:SIFT(Scale Invariant FeatureTransform,尺度不变特征变换)算法。
基于灰度的模板匹配算法,包括但不限于:MAD(Mean Absolute Differences,平均绝对差)算法,SAD(Sum of Absolute Differences,绝对误差和)算法和SSD(Sum ofSquared Differences,误差平方和)算法。
基于特征的匹配算法,包括但不限于:MSD(Mean Square Differences,平均误差平方和)算法,NCC(Normalized Cross Correlation,归一化积相关)算法和SSDA(Sequential Similarity Detection Algorithm,序贯相似性检测)算法。
步骤3,将当前获取的拍摄视频图像作为目标视频图像。
在本实施例中,样本响应视频图像是一帧完整图像,或者,一帧图像中的局部图像。如果样本响应视频图像为完整图像,则可以根据该完整图像,对拍摄视频图像执行全图匹配。如果样本响应视频图像为局部图像,则可以根据该局部图像,对拍摄视频图像进行局部匹配。
进一步地,在样本响应视频图像为局部图像的情况下,样本响应视频图像可以是第一预设区域的视频图像;其中,所述第一预设区域为云端设备响应操作指令时的图像处理区域。
例如:云端设备生成游戏角色换装的响应视频图像,由于游戏角色换装,游戏场景不发生变化,只是游戏角色的服装样式发生改变,所以可以将响应视频图像中游戏角色的衣服区域作为第一预设区域,保存衣服区域的图像作为样本响应视频图像。
这样,可以顺序在每帧所述拍摄视频图像中截取所述第一预设区域中的视频图像,得到每帧所述拍摄视图图像对应的局部响应图像;确定与所述样本响应视频图像相匹配的首张局部响应图像,并将所述首张局部响应图像对应的拍摄视频图像作为所述目标视频图像。
例如:按照拍摄时间从先到后的顺序,获取一帧拍摄视频图像,并在该拍摄视频图像中截取游戏角色的衣服区域的图像;将该衣服区域的图像与样本响应视频图像进行匹配;若该衣服区域的图像和样本响应视频图像相匹配,则该衣服区域的图像所属的拍摄视频图像作为目标视频图像;若该衣服区域的图像和样本响应视频图像不匹配,则获取下一帧拍摄视频图像,直到确定目标视频图像为止,停止获取下一帧拍摄视频图像。
通过局部匹配的方式,可以有效降低图像匹配的运算量,加快图像匹配速度,提高屏到屏延时的确定效率。
在确定目标视频图像之后,可以确定屏到屏延时。下面对确定屏到屏延时的方式进行进一步地描述。
如图7所示,为根据本发明一实施例的确定屏到屏延时的步骤流程图。
步骤S710,在控制第一设备生成预设的操作指令时,控制第一设备标记操作指令的生成时刻展示的云端视频图像。
可以控制第一设备在操作指令生成时刻展示的云端视频图像中绘制预设的标记图像。该标记图像的种类包括但不限于:圆点和十字线。
步骤S720,在拍摄视频数据中,识别起始视频图像;其中,所述起始视频图像对应云端视频数据中被标记的所述云端视频图像。
由于拍摄视频数据的帧间隔小于或者等于云端视频数据的帧间隔,所以,在所述拍摄视频数据中,识别起始视频图像时,可以顺序获取所述拍摄视频数据中的每帧拍摄视频图像;确定与样本起始视频图像相匹配的首帧拍摄视频图像,作为起始视频图像;其中,样本起始视频图像为云端视频数据中被标记的所述云端视频图像。
步骤S730,根据所述起始视频图像对应的拍摄时刻,确定被标记的所述云端视频图像对应的播放时刻。
确定被标记的所述云端视频图像的播放时刻的方式,与确定响应视频图像的播放时刻的方式相似。
具体而言,在拍摄视频数据的帧间隔等于云端视频数据的帧间隔的情况下,起始视频图像对应的拍摄时刻等于被标记的云端视频图像对应的播放时刻。在拍摄视频数据的帧间隔小于云端视频数据的帧间隔的情况下,将所述目标视频图像对应的拍摄时刻作为所述响应视频图像对应的播放时刻,或者,将所述目标视频图像对应的拍摄时刻转换为所述响应视频图像对应的播放时刻。
步骤S740,根据所述目标视频图像对应的拍摄时刻,确定所述响应视频图像对应的播放时刻。
由于上面已经对如何确定响应视频图像对应的播放时刻进行了详细描述,故在此不做赘述。
步骤S750,根据被标记的所述云端视频图像对应的播放时刻以及所述响应视频图像对应的播放时刻,确定所述屏到屏延时。
在本实施例中,将被标记的所述云端视频图像对应的播放时刻和所述响应视频图像对应的播放时刻之间的时间差值,作为屏到屏延时。
在本实施例中,确定起始视频图像的步骤也可以采用局部匹配的方式进行,以便降低图像匹配的运算量,加快图像匹配速度,提高屏到屏延时的确定效率。
具体而言,样本起始视频图像为事先标记的第二预设区域的视频图像;预设的操作事件的坐标位置处于所述第二预设区域中。确定起始视频图像,包括:顺次在每帧所述拍摄视频图像中截取所述第二预设区域的视频图像,得到每帧拍摄视频图像对应的局部触发图像;确定与所述样本起始视频图像相匹配的首张局部触发图像,并将所述首张局部触发图像对应的拍摄视频图像,作为所述起始视频图像。
在本实施例中,在确定屏到屏延时之后,可以对屏到屏延时进行应用。
为了避免人工判断是否需要对云通信系统进行优化的方式,可以预先设置预警监测机制。具体而言,在确定屏到屏延时之后,获取云端视频数据对应的应用程序类型;将屏到屏延时与应用程序类型对应的预警延时范围进行比较;在屏到屏延时处于该预警延时范围内时,执行预设的预警操作。
应用程序类型,是指云端程序的类型。云端程序的类型,包括但不限于:云游戏类型和云办公类型。进一步地,由于云端设备运行的云端程序是在用户设备(第一设备)选择的,所以,用户设备记录有云端程序的类型。
预先为每种应用程序类型对应设置预警延时范围,并且为每个预警延时范围对应设置预警操作。其中,预警延时范围的两个端值可以为经验值或者通过实验获得的值。
例如:由于云游戏的画面实时性要求较高,云办公的画面实时性要求较低,所以云游戏对屏到屏延时的容忍度低于云办公对屏到屏延时的容忍度,这样,可以为云游戏类型和云办公类型设置不同的预警延时范围。针对预警延时范围的两个端值而言,云游戏类型对应的最大端值小于云办公类型对应的最大端值,云游戏类型对应的最小端值小于云办公类型对应的最小端值。
在本实施例中,预警操作包括但不限于:显示预设的预警信息,发出预设的预警声音和显示预设的处理选项提示信息。
预警信息和预警声音都用于提示屏到屏延时已经超出预警延时范围。
处理选项提示信息包括但不限于:云网络系统中每个节点的优化方式,云端设备图像渲染的优化方式,用户设备(第一设备)图像展示的优化方式。其中,节点的优化方式包括路由优化。图像渲染的优化方式包括降低图像分辨率。图像展示的优化方式包括显示装置升级。
下面提供一个较为具体的屏到屏延时测试的应用实例,来进一步地描述本发明实施例的确定屏到屏延时的方法。
本应用实例按照以下三个阶段进行:
一,测试硬件准备阶段:
设置第一设备。第一设备运行Android(安卓)系统,安装客户端、UiAutomator组件和minitouch组件。UiAutomator组件用于接受测试设备的控制。minitouch组件用于在测试设备指定的位置生成点击事件。第一设备的开启开发者调试功能。开发者调试功能为Android系统功能。该开发者调整功能用于在显示窗口发生点击事件的位置显示调试信息。该调试信息为白色圆点。如图8所示的在图像中显示调试信息的示意图。该调试信息为上述的标记图像。
设置第二设备。第二设备支持慢动作拍摄功能,并且安装UiAutomator组件以及minitouch组件。固定第一设备和第二设备的相对位置。第二设备的相机聚焦在第一设备的屏幕上,使第一设备的屏幕处于第二设备的相机视野中。
慢动作拍摄是指拍摄帧率大于正常拍摄时的拍摄帧率。例如:正常拍摄时的帧率可以是每秒拍摄30帧图像,慢动作拍摄时的帧率可以是每秒240帧图像以上,这样在相同时间长度内,慢动作拍摄得到的图像数量大于正常拍摄时的图像数量。无论是正常拍摄得到的视频数据,还是慢动作拍摄得到的视频数据,在同一设备播放时的播放帧率相同,如每秒播放30帧图像,这样慢动作拍摄得到的视频数据在按照每秒30帧图像进行播放时,就出现了慢动作的画面效果。
设置测试设备。测试设备安装测试程序。测试设备中的测试程序可以使用python语言编写。测试设备分别连接第一设备和第二设备,用于控制第一设备和第二设备,并确定屏到屏延时。为测试设备中测试程序设置配置参数和测试场景,并且存储样本游戏画面图像,样本起始视频图像和样本响应视频图像。
样本游戏画面图像为目标游戏程序进入测试场景之后的游戏画面图像。样本起始视频图像为包含调试信息的图像。样本响应视频图像为第一设备响应操作指令时生成的图像。
配置参数包括但不限于:待运行的云端程序信息,待生成的点击事件的坐标信息以及拍摄参数。拍摄参数包括:拍摄类型和拍摄帧率。拍摄类型为慢动作拍摄。如果采用局部匹配的方式识别目标视频图像和起始视频图像,还需要设置目标视频图像对应的第一预设区域,起始视频图像对应的第二预设区域,以便截图时使用。
测试场景是指需要测试屏到屏延时的场景。测试场景例如是角色配置场景。
二,测试视频采集阶段(下面以云游戏场景为例进行描述):
测试设备运行测试程序。测试程序解析配置参数,通过第一设备中的UiAutomator组件启动第一设备中的客户端,并控制客户端在显示窗口中展示的多个游戏信息中,选择目标游戏信息(待运行的云端程序的信息),并将目标游戏信息向云端设备发送,以便云端设备运行该目标游戏信息对应的目标游戏程序,并将目标游戏程序的云端视频数据发送给第一设备。
测试设备中的测试程序通过第二设备中的UiAutomator组件启动第二设备中的照相机,以便利用该照相机对第一设备展示的云端游戏图像进行录制(拍摄),得到第一拍摄视频数据并存储。
测试设备中的测试程序在第一设备展示云端游戏图像过程中,通过第一设备中的minitouch组件在显示窗口的第一预设坐标位置生成点击事件。第一设备在监听到该点击事件后,生成操作指令,并当前展示的云端视频图像中的该点击事件的发生位置显示调试信息。该操作指令被发送给云端设备,以便进入测试场景。例如:该坐标位置对应角色配置按钮,这样,第一设备将包含该第一坐标位置信息的操作指令发送给云端设备之后,云端设备可以在该第一坐标位置生成云端点击事件,目标游戏程序根据该云端点击事件进入角色配置界面。
测试设备中的测试程序可以利用测试设备中adb组件,从第二设备中自动导出第二设备存储的第一拍摄视频数据。
测试设备中的测试程序利用OpenCV组件提供的图像匹配算法,确定第一拍摄视频数据中是否存在与样本游戏画面图像相匹配的拍摄视频图像;如果存在,则表示目标游戏程序已经进入测试场景。如果不存在,则表示目标游戏程序未进入测试场景。如果目标游戏程序未进入测试场景,则记录目标游戏程序未进入测试场景的次数,并通过第一设备中的UiAutomator组件重新启动第一设备中的客户端,并控制客户端在显示窗口中展示的多个游戏信息中,选择目标游戏信息。在目标游戏程序未进入测试场景的次数大于预设的次数阈值时,中止屏到屏测试,或者在测试设备中显示测试失败告警信息。
测试设备中的测试程序在目标游戏程序已经进入测试场景的情况下,通过第二设备中的UiAutomator组件,控制第二设备中的照相机对第一设备展示的云端游戏图像进行慢动作拍摄,得到第二拍摄视频数据并存储。
测试设备中的测试程序在目标游戏程序已经进入测试场景的情况下,每隔预设时间段,通过第一设备中的minitouch组件在显示窗口的预设第二坐标位置生成点击事件。例如:该第二坐标位置对应角色移动按钮或者角色跳跃按钮。第一设备在监听到该点击事件时,生成操作指令,并在当前展示的云端视频图像中该点击事件的发生位置显示调试信息。这样,第一设备将包含该第二坐标位置信息的操作指令发送给云端设备之后,云端设备可以在该第二坐标位置生成云端点击事件,目标游戏程序根据该云端点击事件执行对应的操作,如角色移动或者角色跳跃,云端设备生成的云端视频数据中将包括角色移动或者角色跳跃对应的云端视频图像。预设时间段可以为经验值。
测试设备中的测试程序可以利用测试设备中adb组件,从第二设备中自动导出第二设备存储的第二拍摄视频数据。
三,屏到屏延时确定阶段:
测试设备中的测试程序调用OpenCV组件提供的图像匹配算法,对第二拍摄视频数据进行逐帧分析,确定与样本起始视频图像相匹配的第一帧拍摄视频图像N1,即第一帧包含调试信息的拍摄视频图像,记录拍摄视频图像N1的时间戳为T1。进一步地,可以使用局部匹配的方式,确定拍摄视频图像N1。
测试设备中的测试程序在确定拍摄视频图像N1之后,对第二拍摄视频数据中后续的拍摄视频图像进行逐帧分析,确定与样本响应视频图像相匹配的第一帧拍摄视频图像N2,记录拍摄视频图像N2的时间戳为T2。进一步地,可以使用局部匹配的方式,确定拍摄视频图像N2。
测试设备中的测试程序计算T2减去T1的值,将该值作为屏到屏延时。
在目标游戏程序已经进入测试场景后,测试设备中的测试程序每隔预设时间段,通过第一设备中的minitouch组件在第一设备屏幕的预设第二坐标位置生成点击事件,这样,测试设备中的测试程序可以每隔预设时间执行一次屏到屏延时确定阶段的步骤,直到测试设备中的测试程序通过第一设备中的UiAutomator组件关闭第一设备中的客户端,通过第二设备中的UiAutomator组件关闭第二设备中的照相机为止。
本发明实施例还提供了另一种确定屏到屏延时的方法。本实施例的执行主体为用户设备。本实施例可以在图1所示的云端通信系统的架构下进行。
如图9所示,为根据本发明另一实施例的确定屏到屏延时的方法流程图。
步骤S910,展示来自于云端设备的云端视频数据。
云端视频数据包括多帧云端视频图像。
具体而言,用户设备系统启动客户端,通过该客户端使用户设备和云端设备进行网络连接。用户可以在客户端中选择希望运行的云端程序,并由用户设备将被选择的云端程序信息发送给云端设备。云端设备根据该云端程序信息运行被选择的云端程序,云端设备生成云端程序对应的云端视频图像,并将该云端视频图像发送给用户设备。用户设备在显示窗口中展示来自于云端设备的云端视频图像。
步骤S920,在展示所述云端视频数据的过程中,对显示窗口执行事件监听。
步骤S930,在监听到预设的操作事件之后,生成所述操作事件对应的操作指令,并向所述云端设备发送所述操作指令。
在展示云端视频数据的过程中,对显示窗口的预设坐标位置执行事件监听。
该坐标位置对应云端程序中的控制对象。
具体而言,用户设备在预设坐标位置监听到操作事件之后,生成包括该预设坐标位置信息的操作指令,并将该操作指令发送给云端设备。云端设备系统根据该坐标位置信息,生成云端点击事件;云端程序中的控制对象监听到该云端点击事件,执行该云端点击事件对应的响应操作任务,以便云端程序生成用于响应该操作指令的一帧或者连续多帧云端视频图像。在继续向第一设备发送的云端视频数据中将包括该一帧或者连续多帧云端视频图像。
在本实施例中,在生成所述操作事件对应的操作指令时,还包括:记录所述操作指令的生成时刻展示的云端视频图像的信息。所述云端视频图像的信息包括:所述云端视频图像对应的播放时刻。
云端视频图像对应的播放时刻,为云端视频图像的时间戳或者帧时刻。
时间戳为展示云端视频图像时的系统时间。
帧时刻是云端视频图像在云端视频数据中的图像展示时刻。在确定帧时刻时,是以云端视频数据中的第一帧云端视频图像的展示时刻为时间起点的。可以根据云端视频图像的帧序号以及云端视频数据的帧间隔,确定云端视频图像的帧时刻。
步骤S940,在继续展示的所述云端视频数据中,识别响应视频图像;其中,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像。
识别响应视频图像,包括:顺序获取所述云端视频数据中的每帧云端视频图像;确定与预设的样本响应视频图像相匹配的云端视频图像,作为响应视频图像;其中,所述样本响应视频图像为事先根据所述操作指令生成的视频图像。
进一步地,样本响应视频图像为第一预设区域的视频图像;其中,所述第一预设区域为所述云端设备响应所述操作指令时的图像处理区域。在每帧所述云端视频图像中截取所述第一预设区域中的视频图像,得到每帧所述云端视频图像对应的局部响应图像;确定与所述样本响应视频图像相匹配的局部响应图像,并将确定的所述局部响应图像对应的云端视频图像作为所述响应视频图像。
步骤S950,根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时。
根据第一时刻和第二时刻,确定所述屏到屏延时;其中,所述第一时刻为所述响应视频图像对应的播放时刻,所述第二时刻为被记录的所述云端视频图像对应的播放时刻。
进一步地,屏到屏延时等于第一时刻减去第二时刻得到的差值。
在所述确定屏到屏延时之后,还包括:获取所述云端视频数据对应的应用程序类型;将所述屏到屏延时与所述应用程序类型对应的预警延时范围进行比较;在所述屏到屏延时处于所述预警延时范围内时,执行预设的预警操作。
应用程序类型,是指云端程序的类型。云端程序的类型,包括但不限于:云游戏类型和云办公类型。进一步地,由于云端设备运行的云端程序是在用户设备的客户端中选择的,所以,用户设备记录有云端程序的类型。
预先为每种应用程序类型对应设置预警延时范围,并且为每个预警延时范围对应设置预警操作。其中,预警延时范围的两个端值可以为经验值或者通过实验获得的值。
预警操作包括但不限于:显示预设的预警信息,发出预设的预警声音和显示预设的处理选项提示信息。
预警信息和预警声音都用于提示屏到屏延时已经超出预警延时范围。
处理选项提示信息包括但不限于:切换网络,向云端设备请求目标分辨率的云端视频数据。该目标分辨率小于当前使用的分辨率。
在所述确定屏到屏延时之后,还包括:在显示窗口中显示所述屏到屏延时。进一步地,可以在显示窗口的预设区域位置显示屏到屏延时。例如:在显示窗口的左上角区域显示屏到屏延时。这样可以使用户获知当前的屏到屏延时,在屏到屏延时较大时主动进行处理,用以降低屏到屏延时。
在本发明实施例中,在用户设备展示的视频数据中识别云端设备响应操作指令时生成的响应视频图像,根据响应视频图像的播放时刻以及操作指令的生成时刻,确定屏到屏延时。针对一个操作指令而言,操作指令的生成时刻可以作为用户设备的指令传输延时的起始时刻,响应视频图像的播放时刻可以作为用户设备的图像展示延时的结束时刻,进而根据该开始时刻和该结束时刻,就可以简单方便地确定屏到屏延时,弥补了缺少确定屏到屏延时方式的技术空白。
本发明实施例还提供了一种确定屏到屏延时的系统。如图10所示,为根据本发明一实施例的确定屏到屏延时的系统结构图。
在本实施例中,所述确定屏到屏延时的系统包括:云端设备120、第一设备1020、第二设备1030和确定设备1040。其中,第一设备1020相当于用户设备120。
云端设备120连接所述第一设备1020,用于生成云端视频数据并向所述第一设备1020发送所述云端视频数据。
第一设备1020,用于展示来自于所述云端设备120的云端视频数据。
第二设备1030的拍摄视野正对所述第一设备1020展示的所述云端视频数据,用于拍摄所述第一设备1020展示的云端视频图像,得到拍摄视频数据。
确定设备1040分别连接所述第一设备1020和所述第二设备1030,用于在所述第一设备1020展示所述云端视频数据的过程中,控制所述第一设备1020生成预设的操作指令,以便使所述第一设备1020向所述云端设备120发送所述操作指令。
确定设备1040,还用于从所述第二设备1030获取所述拍摄视频数据,并在所述拍摄视频数据中,识别目标视频图像;根据所述目标视频图像对应的拍摄时刻,以及所述操作指令的生成时刻,确定屏到屏延时;其中,所述目标视频图像对应于所述第一设备1020展示的所述云端视频数据中的响应视频图像,所述响应视频图像是所述云端设备120响应所述操作指令时生成的云端视频图像。
本发明实施例所述的云端设备120、第一设备1020、第二设备1030和确定设备1040已经在上述的方法实施例中进行了描述,故本实施例的描述中未详尽之处,可以参见前述实施例中的相关说明,在此不做赘述。
本发明实施例还提供了另一种确定屏到屏延时的系统。本实施例的确定屏到屏延时的系统在图1的云端通信系统下进行。
在本实施例中,所述确定屏到屏延时的系统包括:相互连接的用户设备110和云端设备120。用户设备110和云端设备120的关系可参考图1。
云端设备120,用于生成云端视频数据并向所述用户设备110发送所述云端视频数据。
用户设备110,用于展示来自于云端设备120的云端视频数据;在展示所述云端视频数据的过程中,对显示窗口执行事件监听;在监听到预设的操作事件之后,生成所述操作事件对应的操作指令,并向所述云端设备120发送所述操作指令;在继续展示的所述云端视频数据中,识别响应视频图像;其中,所述响应视频图像是所述云端设备120响应所述操作指令时生成的云端视频图像;根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时。
本发明实施例所述的用户设备110和云端设备120已经在上述的方法实施例中进行了描述,故本实施例的描述中未详尽之处,可以参见前述实施例中的相关说明,在此不做赘述。
本发明实施例提供了一种确定屏到屏延时的装置。在本实施例中,第一设备用于展示来自于云端设备的云端视频数据;所述第一设备展示的所述云端视频数据处于第二设备的拍摄视野之中;所述第二设备用于拍摄所述第一设备展示的云端视频图像,得到拍摄视频数据。
如图11所示,为根据本发明一实施例的确定屏到屏延时的装置结构图。
该确定屏到屏延时的装置包括:控制模块1110,获取与识别模块1120和第一确定模块1130。
控制模块1110,用于在所述第一设备展示所述云端视频数据的过程中,控制所述第一设备生成预设的操作指令,以便使所述第一设备向所述云端设备发送所述操作指令。
获取与识别模块1120,用于获取所述拍摄视频数据,并在所述拍摄视频数据中,识别目标视频图像;其中,所述目标视频图像对应于所述第一设备展示的所述云端视频数据中的响应视频图像,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像。
第一确定模块1130,用于根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时;其中,所述响应视频图像对应的播放时刻是根据所述目标视频图像对应的拍摄时刻确定的。
本发明实施例所述的装置的功能已经在上述的方法实施例中进行了描述,故本实施例的描述中未详尽之处,可以参见前述实施例中的相关说明,在此不做赘述。
本发明实施例提供了另一种确定屏到屏延时的装置。如图12所示,为根据本发明另一实施例的确定屏到屏延时的装置结构图。
该确定屏到屏延时的装置包括:展示模块1210,监听模块1220,生成与发送模块1230,识别模块1240和第二确定模块1250。
展示模块1210,用于展示来自于云端设备的云端视频数据。
监听模块1220,用于在展示所述云端视频数据的过程中,对显示窗口执行事件监听。
生成与发送模块1230,用于在所述监听模块监听到预设的操作事件之后,生成所述操作事件对应的操作指令,并向所述云端设备发送所述操作指令。
识别模块1240,用于在继续展示的所述云端视频数据中,识别响应视频图像;其中,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像。
第二确定模块1250,用于根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时。
本发明实施例所述的装置的功能已经在上述的方法实施例中进行了描述,故本实施例的描述中未详尽之处,可以参见前述实施例中的相关说明,在此不做赘述。
本发明实施例还提供了一种电子设备,如图13所示,包括处理器1310、通信接口1320、存储器1330和通信总线1340,其中,处理器1310,通信接口1320,存储器1330通过通信总线1340完成相互间的通信。
存储器1330,用于存放计算机程序。
处理器1310,用于执行存储器1330上所存放的程序时,实现上述的确定屏到屏延时的方法的步骤。
在一个实施例中,第一设备用于展示来自于云端设备的云端视频数据;所述第一设备展示的所述云端视频数据处于第二设备的拍摄视野之中;所述第二设备用于拍摄所述第一设备展示的云端视频图像,得到拍摄视频数据。在这种架构下,所述处理器1310,用于执行存储器1330上所存放的程序时,可以实现如下步骤:在所述第一设备展示所述云端视频数据的过程中,控制所述第一设备生成预设的操作指令,以便使所述第一设备向所述云端设备发送所述操作指令;获取所述拍摄视频数据,并在所述拍摄视频数据中,识别目标视频图像;其中,所述目标视频图像对应于所述第一设备展示的所述云端视频数据中的响应视频图像,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时;其中,所述响应视频图像对应的播放时刻是根据所述目标视频图像对应的拍摄时刻确定的。
其中,所述拍摄视频数据的帧间隔小于或者等于所述云端视频数据的帧间隔;所述在所述拍摄视频数据中,识别目标视频图像,包括:顺序获取所述拍摄视频数据中的每帧拍摄视频图像;确定与预设的样本响应视频图像相匹配的首帧拍摄视频图像,作为目标视频图像;其中,所述样本响应视频图像为事先根据所述操作指令生成的视频图像。
其中,所述样本响应视频图像为第一预设区域的视频图像;其中,所述第一预设区域为所述云端设备响应所述操作指令时的图像处理区域;所述确定与预设的样本响应视频图像相匹配的首帧拍摄视频图像,作为目标视频图像,包括:顺序在每帧所述拍摄视频图像中截取所述第一预设区域中的视频图像,得到每帧所述拍摄视图图像对应的局部响应图像;确定与所述样本响应视频图像相匹配的首张局部响应图像,并将所述首张局部响应图像对应的拍摄视频图像作为所述目标视频图像。
其中,在所述控制所述第一设备生成预设的操作指令时,还包括:控制所述第一设备标记所述操作指令的生成时刻展示的云端视频图像;所述根据所述响应视频图像对应的播放时刻以及所述操作指令的生成时刻,确定屏到屏延时,包括:在所述拍摄视频数据中,识别起始视频图像;其中,所述起始视频图像对应所述云端视频数据中被标记的所述云端视频图像;根据所述起始视频图像对应的拍摄时刻,确定被标记的所述云端视频图像对应的播放时刻;根据所述目标视频图像对应的拍摄时刻,确定所述响应视频图像对应的播放时刻;根据被标记的所述云端视频图像对应的播放时刻以及所述响应视频图像对应的播放时刻,确定所述屏到屏延时。
其中,在所述确定屏到屏延时之后,还包括:获取所述云端视频数据对应的应用程序类型;将所述屏到屏延时与所述应用程序类型对应的预警延时范围进行比较;在所述屏到屏延时处于所述预警延时范围内时,执行预设的预警操作。
在另一个实施例中,所述处理器1310,用于执行存储器1330上所存放的程序时,可以实现如下步骤:展示来自于云端设备的云端视频数据;在展示所述云端视频数据的过程中,对显示窗口执行事件监听;在监听到预设的操作事件之后,生成所述操作事件对应的操作指令,并向所述云端设备发送所述操作指令;在继续展示的所述云端视频数据中,识别响应视频图像;其中,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时。
其中,在所述生成所述操作事件对应的操作指令时,还包括:记录所述操作指令的生成时刻展示的云端视频图像的信息;其中,所述云端视频图像的信息包括:所述云端视频图像对应的播放时刻;所述根据所述响应视频图像对应的播放时刻以及所述操作指令的生成时刻,确定屏到屏延时,包括:根据第一时刻和第二时刻,确定所述屏到屏延时;其中,所述第一时刻为所述响应视频图像对应的播放时刻,所述第二时刻为被记录的所述云端视频图像对应的播放时刻。
其中,所述在继续展示的所述云端视频数据中,识别响应视频图像,包括:顺序获取所述云端视频数据中的每帧云端视频图像;确定与预设的样本响应视频图像相匹配的云端视频图像,作为响应视频图像;其中,所述样本响应视频图像为事先根据所述操作指令生成的视频图像。
其中,所述样本响应视频图像为第一预设区域的视频图像;其中,所述第一预设区域为所述云端设备响应所述操作指令时的图像处理区域;所述确定与预设的样本响应视频图像相匹配的云端视频图像,作为响应视频图像,包括:在每帧所述云端视频图像中截取所述第一预设区域中的视频图像,得到每帧所述云端视频图像对应的局部响应图像;确定与所述样本响应视频图像相匹配的局部响应图像,并将确定的所述局部响应图像对应的云端视频图像作为所述响应视频图像。
其中,在所述确定屏到屏延时之后,还包括:获取所述云端视频数据对应的应用程序类型;将所述屏到屏延时与所述应用程序类型对应的预警延时范围进行比较;在所述屏到屏延时处于所述预警延时范围内时,执行预设的预警操作。
上述终端提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect,简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,简称EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述终端与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory,简称RAM),也可以包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(Digital Signal Processing,简称DSP)、专用集成电路(Application SpecificIntegrated Circuit,简称ASIC)、现场可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中,还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述实施例中任一所述的确定屏到屏延时的方法。
在本发明提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一所述的确定屏到屏延时的方法。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (14)
1.一种确定屏到屏延时的方法,其特征在于,第一设备用于展示来自于云端设备的云端视频数据;所述第一设备展示的所述云端视频数据处于第二设备的拍摄视野之中;所述第二设备用于拍摄所述第一设备展示的云端视频图像,得到拍摄视频数据;所述方法包括:
在所述第一设备展示所述云端视频数据的过程中,控制所述第一设备生成预设的操作指令,以便使所述第一设备向所述云端设备发送所述操作指令;
获取所述拍摄视频数据,并在所述拍摄视频数据中,识别目标视频图像;其中,所述目标视频图像对应于所述第一设备展示的所述云端视频数据中的响应视频图像,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;
根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时;其中,所述响应视频图像对应的播放时刻是根据所述目标视频图像对应的拍摄时刻确定的;
其中,所述拍摄视频数据的帧间隔小于或者等于所述云端视频数据的帧间隔;
所述在所述拍摄视频数据中,识别目标视频图像,包括:
顺序获取所述拍摄视频数据中的每帧拍摄视频图像;
确定与预设的样本响应视频图像相匹配的首帧拍摄视频图像,作为目标视频图像;其中,所述样本响应视频图像为事先根据所述操作指令生成的视频图像。
2.根据权利要求1所述的方法,其特征在于,所述样本响应视频图像为第一预设区域的视频图像;其中,所述第一预设区域为所述云端设备响应所述操作指令时的图像处理区域;
所述确定与预设的样本响应视频图像相匹配的首帧拍摄视频图像,作为目标视频图像,包括:
顺序在每帧所述拍摄视频图像中截取所述第一预设区域中的视频图像,得到每帧所述拍摄视频图像对应的局部响应图像;
确定与所述样本响应视频图像相匹配的首张局部响应图像,并将所述首张局部响应图像对应的拍摄视频图像作为所述目标视频图像。
3.根据权利要求1所述的方法,其特征在于,
在所述控制所述第一设备生成预设的操作指令时,还包括:
控制所述第一设备标记所述操作指令的生成时刻展示的云端视频图像;
所述根据所述响应视频图像对应的播放时刻以及所述操作指令的生成时刻,确定屏到屏延时,包括:
在所述拍摄视频数据中,识别起始视频图像;其中,所述起始视频图像对应所述云端视频数据中被标记的所述云端视频图像;
根据所述起始视频图像对应的拍摄时刻,确定被标记的所述云端视频图像对应的播放时刻;
根据所述目标视频图像对应的拍摄时刻,确定所述响应视频图像对应的播放时刻;
根据被标记的所述云端视频图像对应的播放时刻以及所述响应视频图像对应的播放时刻,确定所述屏到屏延时。
4.根据权利要求1-3中任一项所述的方法,其特征在于,在所述确定屏到屏延时之后,还包括:
获取所述云端视频数据对应的应用程序类型;
将所述屏到屏延时与所述应用程序类型对应的预警延时范围进行比较;
在所述屏到屏延时处于所述预警延时范围内时,执行预设的预警操作。
5.一种确定屏到屏延时的方法,其特征在于,包括:
展示来自于云端设备的云端视频数据;
在展示所述云端视频数据的过程中,对显示窗口执行事件监听;
在监听到预设的操作事件之后,生成所述操作事件对应的操作指令,并向所述云端设备发送所述操作指令;
在继续展示的所述云端视频数据中,识别响应视频图像;其中,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;
根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时;
其中,所述在继续展示的所述云端视频数据中,识别响应视频图像,包括:
顺序获取所述云端视频数据中的每帧云端视频图像;
确定与预设的样本响应视频图像相匹配的云端视频图像,作为响应视频图像;其中,所述样本响应视频图像为事先根据所述操作指令生成的视频图像。
6.根据权利要求5所述的方法,其特征在于,
在所述生成所述操作事件对应的操作指令时,还包括:
记录所述操作指令的生成时刻展示的云端视频图像的信息;其中,所述云端视频图像的信息包括:所述云端视频图像对应的播放时刻;
所述根据所述响应视频图像对应的播放时刻以及所述操作指令的生成时刻,确定屏到屏延时,包括:
根据第一时刻和第二时刻,确定所述屏到屏延时;其中,所述第一时刻为所述响应视频图像对应的播放时刻,所述第二时刻为被记录的所述云端视频图像对应的播放时刻。
7.根据权利要求5所述的方法,其特征在于,所述样本响应视频图像为第一预设区域的视频图像;其中,所述第一预设区域为所述云端设备响应所述操作指令时的图像处理区域;
所述确定与预设的样本响应视频图像相匹配的云端视频图像,作为响应视频图像,包括:
在每帧所述云端视频图像中截取所述第一预设区域中的视频图像,得到每帧所述云端视频图像对应的局部响应图像;
确定与所述样本响应视频图像相匹配的局部响应图像,并将确定的所述局部响应图像对应的云端视频图像作为所述响应视频图像。
8.根据权利要求5-7中任一项所述的方法,其特征在于,在所述确定屏到屏延时之后,还包括:
获取所述云端视频数据对应的应用程序类型;
将所述屏到屏延时与所述应用程序类型对应的预警延时范围进行比较;
在所述屏到屏延时处于所述预警延时范围内时,执行预设的预警操作。
9.一种确定屏到屏延时的系统,其特征在于,所述系统包括云端设备、第一设备、第二设备和确定设备;
所述云端设备连接所述第一设备,用于生成云端视频数据并向所述第一设备发送所述云端视频数据;
所述第一设备,用于展示来自于所述云端设备的云端视频数据;
所述第二设备的拍摄视野正对所述第一设备展示的所述云端视频数据,用于拍摄所述第一设备展示的云端视频图像,得到拍摄视频数据;
所述确定设备分别连接所述第一设备和所述第二设备,用于在所述第一设备展示所述云端视频数据的过程中,控制所述第一设备生成预设的操作指令,以便使所述第一设备向所述云端设备发送所述操作指令;
所述确定设备,还用于从所述第二设备获取所述拍摄视频数据,并在所述拍摄视频数据中,识别目标视频图像;根据所述目标视频图像对应的拍摄时刻,以及所述操作指令的生成时刻,确定屏到屏延时;其中,所述目标视频图像对应于所述第一设备展示的所述云端视频数据中的响应视频图像,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;所述拍摄视频数据的帧间隔小于或者等于所述云端视频数据的帧间隔;
其中,所述确定设备,用于在所述拍摄视频数据中,识别目标视频图像,具体用于,顺序获取所述拍摄视频数据中的每帧拍摄视频图像;确定与预设的样本响应视频图像相匹配的首帧拍摄视频图像,作为目标视频图像;其中,所述样本响应视频图像为事先根据所述操作指令生成的视频图像。
10.一种确定屏到屏延时的系统,其特征在于,所述系统包括:相互连接的用户设备和云端设备;
所述云端设备,用于生成云端视频数据并向所述用户设备发送所述云端视频数据;
所述用户设备,用于展示来自于云端设备的云端视频数据;在展示所述云端视频数据的过程中,对显示窗口执行事件监听;在监听到预设的操作事件之后,生成所述操作事件对应的操作指令,并向所述云端设备发送所述操作指令;在继续展示的所述云端视频数据中,识别响应视频图像;其中,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时;
其中,所述用户设备,用于在继续展示的所述云端视频数据中,识别响应视频图像,具体用于,顺序获取所述云端视频数据中的每帧云端视频图像;确定与预设的样本响应视频图像相匹配的云端视频图像,作为响应视频图像;其中,所述样本响应视频图像为事先根据所述操作指令生成的视频图像。
11.一种确定屏到屏延时的装置,其特征在于,第一设备用于展示来自于云端设备的云端视频数据;所述第一设备展示的所述云端视频数据处于第二设备的拍摄视野之中;所述第二设备用于拍摄所述第一设备展示的云端视频图像,得到拍摄视频数据;所述装置包括:
控制模块,用于在所述第一设备展示所述云端视频数据的过程中,控制所述第一设备生成预设的操作指令,以便使所述第一设备向所述云端设备发送所述操作指令;
获取与识别模块,用于获取所述拍摄视频数据,并在所述拍摄视频数据中,识别目标视频图像;其中,所述目标视频图像对应于所述第一设备展示的所述云端视频数据中的响应视频图像,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;其中,所述拍摄视频数据的帧间隔小于或者等于所述云端视频数据的帧间隔;所述在所述拍摄视频数据中,识别目标视频图像,包括:顺序获取所述拍摄视频数据中的每帧拍摄视频图像;确定与预设的样本响应视频图像相匹配的首帧拍摄视频图像,作为目标视频图像;其中,所述样本响应视频图像为事先根据所述操作指令生成的视频图像;
第一确定模块,用于根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时;其中,所述响应视频图像对应的播放时刻是根据所述目标视频图像对应的拍摄时刻确定的。
12.一种确定屏到屏延时的装置,其特征在于,包括:
展示模块,用于展示来自于云端设备的云端视频数据;
监听模块,用于在展示所述云端视频数据的过程中,对显示窗口执行事件监听;
生成与发送模块,用于在所述监听模块监听到预设的操作事件之后,生成所述操作事件对应的操作指令,并向所述云端设备发送所述操作指令;
识别模块,用于在继续展示的所述云端视频数据中,识别响应视频图像;其中,所述响应视频图像是所述云端设备响应所述操作指令时生成的云端视频图像;其中,所述在继续展示的所述云端视频数据中,识别响应视频图像,包括:顺序获取所述云端视频数据中的每帧云端视频图像;确定与预设的样本响应视频图像相匹配的云端视频图像,作为响应视频图像;其中,所述样本响应视频图像为事先根据所述操作指令生成的视频图像;
第二确定模块,用于根据所述响应视频图像对应的播放时刻,以及所述操作指令的生成时刻,确定屏到屏延时。
13.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
存储器,用于存放计算机程序;
处理器,用于执行存储器上所存放的程序时,实现权利要求1-4中任一所述的方法步骤,或者权利要求5-8中任一项所述的方法步骤。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-4中任一所述的方法步骤,或者权利要求5-8中任一项所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010901454.1A CN112055237B (zh) | 2020-08-31 | 2020-08-31 | 确定屏到屏延时的方法、系统、装置、设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010901454.1A CN112055237B (zh) | 2020-08-31 | 2020-08-31 | 确定屏到屏延时的方法、系统、装置、设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112055237A CN112055237A (zh) | 2020-12-08 |
CN112055237B true CN112055237B (zh) | 2022-07-19 |
Family
ID=73607992
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010901454.1A Active CN112055237B (zh) | 2020-08-31 | 2020-08-31 | 确定屏到屏延时的方法、系统、装置、设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112055237B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112843677B (zh) * | 2021-02-08 | 2023-07-11 | 脸萌有限公司 | 一种系统延时确定方法、装置、设备和存储介质 |
CN115695851B (zh) * | 2022-12-28 | 2023-03-28 | 海马云(天津)信息技术有限公司 | 端到端延时计算方法、装置、存储介质及电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106982368A (zh) * | 2016-01-19 | 2017-07-25 | 腾讯科技(深圳)有限公司 | 视频响应速度检测方法和系统 |
CN108900776A (zh) * | 2018-08-22 | 2018-11-27 | 北京百度网讯科技有限公司 | 用于确定响应时间的方法和装置 |
CN111245680A (zh) * | 2020-01-10 | 2020-06-05 | 腾讯科技(深圳)有限公司 | 检测云游戏响应延迟的方法、装置、系统、终端和服务器 |
CN111372115A (zh) * | 2020-03-03 | 2020-07-03 | 北京奇艺世纪科技有限公司 | 应用程序的访问方法及装置、通讯系统 |
CN111555938A (zh) * | 2020-04-28 | 2020-08-18 | 腾讯科技(深圳)有限公司 | 一种信息处理的方法以及相关装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190028767A1 (en) * | 2017-07-18 | 2019-01-24 | Michael Larsuel | System and method for live event notification |
-
2020
- 2020-08-31 CN CN202010901454.1A patent/CN112055237B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106982368A (zh) * | 2016-01-19 | 2017-07-25 | 腾讯科技(深圳)有限公司 | 视频响应速度检测方法和系统 |
CN108900776A (zh) * | 2018-08-22 | 2018-11-27 | 北京百度网讯科技有限公司 | 用于确定响应时间的方法和装置 |
CN111245680A (zh) * | 2020-01-10 | 2020-06-05 | 腾讯科技(深圳)有限公司 | 检测云游戏响应延迟的方法、装置、系统、终端和服务器 |
CN111372115A (zh) * | 2020-03-03 | 2020-07-03 | 北京奇艺世纪科技有限公司 | 应用程序的访问方法及装置、通讯系统 |
CN111555938A (zh) * | 2020-04-28 | 2020-08-18 | 腾讯科技(深圳)有限公司 | 一种信息处理的方法以及相关装置 |
Also Published As
Publication number | Publication date |
---|---|
CN112055237A (zh) | 2020-12-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2019242222A1 (zh) | 用于生成信息的方法和装置 | |
KR20200015728A (ko) | 목표 대상 인식 방법, 장치, 저장 매체 및 전자 기기 | |
CN112055237B (zh) | 确定屏到屏延时的方法、系统、装置、设备和存储介质 | |
EP3687161B1 (en) | Method for image shooting, apparatus, and storage medium | |
KR102087882B1 (ko) | 시각적 이미지 매칭을 기반으로 한 미디어 스트림 식별 장치 및 방법 | |
CN108882019B (zh) | 视频播放测试方法、电子设备及系统 | |
CN111726689B (zh) | 一种视频播放控制方法及装置 | |
CN108076386B (zh) | 视频卡顿检测方法及装置、存储介质 | |
CN111447239B (zh) | 视频流播放控制方法、设备及存储介质 | |
CN105681749A (zh) | 用于预览视频的方法、装置、系统和计算机可读介质 | |
CN110705356B (zh) | 功能控制方法及相关设备 | |
CN112492294B (zh) | 应用程序测试方法、装置、系统、网络摄像头以及介质 | |
CN112153396B (zh) | 页面展示方法、装置、系统和存储介质 | |
WO2020052062A1 (zh) | 检测方法和装置 | |
CN112837640A (zh) | 屏幕动态画面测试方法、系统、电子设备及存储介质 | |
US10154196B2 (en) | Adjusting length of living images | |
CN111797339A (zh) | 页面渲染监控方法和装置 | |
CN114740975A (zh) | 目标内容的获取方法及相关设备 | |
CN113886273A (zh) | 一种应用程序的性能测试方法、装置、测试设备及介质 | |
CN113923443A (zh) | 一种网络录像机测试方法、装置及计算机可读存储介质 | |
CN110347597B (zh) | 图片服务器的接口测试方法、装置、存储介质与移动终端 | |
CN113296660A (zh) | 图像处理方法、装置及电子设备 | |
CN108769525B (zh) | 一种图像调整方法、装置、设备及存储介质 | |
CN112218155A (zh) | 一种切换耗时的自动检测方法、装置及电子设备 | |
CN115330661A (zh) | 视频图像质量检测方法、装置、设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |