CN114979744A - 界面处理方法、装置、服务器及存储介质 - Google Patents

界面处理方法、装置、服务器及存储介质 Download PDF

Info

Publication number
CN114979744A
CN114979744A CN202110214994.7A CN202110214994A CN114979744A CN 114979744 A CN114979744 A CN 114979744A CN 202110214994 A CN202110214994 A CN 202110214994A CN 114979744 A CN114979744 A CN 114979744A
Authority
CN
China
Prior art keywords
interface
target
simulation
environment
target interface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110214994.7A
Other languages
English (en)
Other versions
CN114979744B (zh
Inventor
马海刚
盛颖
田宗洋
邓磊
黄萧齐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202110214994.7A priority Critical patent/CN114979744B/zh
Publication of CN114979744A publication Critical patent/CN114979744A/zh
Application granted granted Critical
Publication of CN114979744B publication Critical patent/CN114979744B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/433Content storage operation, e.g. storage operation in response to a pause request, caching operations
    • H04N21/4334Recording operations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/443OS processes, e.g. booting an STB, implementing a Java virtual machine in an STB or power management in an STB
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/485End-user interface for client configuration

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明实施例公开了一种界面处理方法、装置、服务器及存储介质,其中方法包括:获取针对目标界面的运行参数及操作信息,所述目标界面是终端设备中被执行界面录制操作的界面;所述运行参数包括所述目标界面的界面参数和运行环境的环境标识,所述操作信息用于描述所述目标界面在进行界面录制的过程中所产生的用户操作;根据所述环境标识对所述运行环境进行模拟,并在模拟运行环境中按照所述界面参数运行所述目标界面的模拟界面;根据所述操作信息在所述模拟界面中还原所述用户操作,并将还原了所述用户操作的模拟界面作为所述目标界面的录制界面,可提升对录屏数据(或录屏界面)的生成效率。

Description

界面处理方法、装置、服务器及存储介质
技术领域
本申请涉及计算机技术领域,尤其涉及一种界面处理方法、装置、服务器及存储介质。
背景技术
当前,在对界面进行录制还原时通常采用的方法是通过获取应用界面在终端设备运行时产生的各帧图像,从而可基于获取到的各帧数据得到该目标界面的录屏数据,由此可见,采用现有的生成运行界面的录制界面的方法,需要终端设备在运行界面的过程中采集大量的运行图像,从而可能对终端设备的运行效率产生影响,而且,由于产生的大量图像需要发送给服务器生成相应的录屏数据,较多的图像的发送将占据大量的网络带宽,且也使得服务器基于大量图像生成相应录屏数据的数据处理量较大,因此,如何提升录屏数据的生成效率成为了当前的研究热点。
发明内容
本发明实施例提供了一种界面处理方法、装置、服务器及存储介质,可提升对录屏数据的生成效率。
一方面,本发明实施例提供了一种界面处理方法,包括:
获取针对目标界面的运行参数及操作信息,所述目标界面是终端设备中被执行界面录制操作的界面;所述运行参数包括所述目标界面的界面参数和运行环境的环境标识,所述操作信息用于描述所述目标界面在进行界面录制的过程中所产生的用户操作;
根据所述环境标识对所述运行环境进行模拟,并在模拟运行环境中按照所述界面参数运行所述目标界面的模拟界面;
根据所述操作信息在所述模拟界面中还原所述用户操作,并将还原了所述用户操作的模拟界面作为所述目标界面的录制界面。
再一方面,本发明实施例提供了一种界面处理装置,包括:
获取单元,用于获取针对目标界面的运行参数及操作信息,所述目标界面是终端设备中被执行界面录制操作的界面;所述运行参数包括所述目标界面的界面参数和运行环境的环境标识,所述操作信息用于描述所述目标界面在进行界面录制的过程中所产生的用户操作;
模拟单元,用于根据所述环境标识对所述运行环境进行模拟;
运行单元,用于在模拟运行环境中按照所述界面参数运行所述目标界面的模拟界面;
还原单元,用于根据所述操作信息在所述模拟界面中还原所述用户操作,并将还原了所述用户操作的模拟界面作为所述目标界面的录制界面。
再一方面,本发明实施例提供了一种服务器,包括处理器、输入设备、输出设备和存储器,所述处理器、输入设备、输出设备和存储器相互连接,其中,所述存储器用于存储支持服务器执行上述方法的计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行如下步骤:
获取针对目标界面的运行参数及操作信息,所述目标界面是终端设备中被执行界面录制操作的界面;所述运行参数包括所述目标界面的界面参数和运行环境的环境标识,所述操作信息用于描述所述目标界面在进行界面录制的过程中所产生的用户操作;
根据所述环境标识对所述运行环境进行模拟,并在模拟运行环境中按照所述界面参数运行所述目标界面的模拟界面;
根据所述操作信息在所述模拟界面中还原所述用户操作,并将还原了所述用户操作的模拟界面作为所述目标界面的录制界面。
再一方面,本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有程序指令,所述程序指令被处理器执行时,所述程序指令被处理器执行时,用于执行如第一方面所述的界面处理方法。
在本发明实施例中,服务器可在从目标界面获取到针对目标界面的运行参数和操作信息后,根据该运行参数包括的环境标识对该目标界面的运行环境进行模拟,并在模拟的运行环境中按照该运行参数包括的界面参数运行该目标界面的模拟界面,在服务器在模拟的运行环境中运行了目标界面的模拟界面后,则可进一步根据在目标界面执行用户操作时所记录的操作信息,在该模拟界面中对执行的用户操作进行还原,从而可将还原了用户操作的模拟界面作为该目标界面的录制界面,从而实现对目标界面的录制还原,使得服务器不再需要调用终端设备中的计算资源去生成录制界面,也不需要终端设备对目标界面的界面全量资源进行扫描和监听,只需要对在目标界面中执行的而用户操作进行记录,即可实现对该目标界面的录制,从而可有效降低对终端设备中的资源占用,对接入系统的干扰更小,实现在较低资源配置的终端设备中运行的目标界面的界面录制,此外,由于服务器可基于获取到的运行参数中包括的环境标识,对不同的运行环境进行模拟,也就使得服务器可实现对在不同运行环境中运行的而目标界面进行录制还原,从而也就提升了服务器对目标界面进行录制还原的兼容性。
附图说明
为了更清楚地说明本发明实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种界面处理系统的示意图;
图2是本发明实施例提供的一种界面处理方法的示意流程图;
图3a是本发明实施例提供的一种申请目标软件开发工具包是示意图;
图3b是本发明实施例提供的一种接入埋点平台对目标界面进行录制还原的示意图;
图3c是本发明实施例提供的一种启动目标界面的录像还原功能的示意图;
图4是本发明实施例提供的一种界面处理方法的示意流程图;
图5a是本发明实施例提供的一种终端设备的模块示意图;
图5b是本发明实施例提供的一种服务器在对目标界面进行录制还原时需要的模块示意图;
图5c是本发明实施例提供的一种服务器对目标界面进行录制还原的示意图;
图5d是本发明实施例提供的一种对目标界面进行录制还原的交互示意图;
图6是本发明实施例提供的一种界面处理装置的示意性框图;
图7是本发明实施例提供的一种服务器的示意性框图。
具体实施方式
本发明实施例提出了一种界面处理方法,服务器通过获取目标界面的运行参数,从而实现对目标界面进行模拟得到模拟界面,进一步地,该服务器可根据操作用户在目标界面执行用户操作时产生的操作信息,将该操作用户执行的用户操作还原到该目标界面的模拟界面中,从而可将还原了用户操作的模拟界面为该目标界面的录屏界面(或录制界面)。通过采用对目标界面的模拟,以及对在该目标界面执行的用户操作的还原实现对该目标界面进行录制的方法,使得运行该目标界面的终端设备在将目标界面的运行参数上报给服务器之后,仅需要对在该目标界面的运行过程中产生的用户操作对应的操作信息进行记录,也就实现了降低对该终端设备中计算资源的占用,此外,由于对用户操作进行记录所得到的操作信息的数据量较小,所以可降低终端设备在将记录的操作信息发送给服务器的过程中对网络带宽的占用率,进一步可以理解的是,由于网络在传输数据量较小的操作信息时,可提升对该操作信息的发送效率,也就使得服务器可及时从终端设备中获取到该操作信息,从而实现将在目标界面执行的用户操作及时还原到该目标界面的模拟界面中。
在一个实施例中,该目标界面是运行在终端设备中的任一应用程序的应用界面,那么服务器在获取的针对目标界面的运行参数则是由终端设备上报给服务器的,为了使终端设备能将该目标界面的运行参数上报给服务器,可首先为该目标界面申请一个项目,以使终端设备可通过该项目将该目标界面的运行参数发送给服务器,从而实现对目标界面的录制。其中,为该目标界面申请的项目可以是目标软件开发包,通过将该目标软件开发包嵌入到该目标界面自身的业务系统中,从而使得终端设备可通过调用该目标软件开发包对该目标界面的运行参数进行获取,并将获取得到的运行参数发送给服务器,可以理解的是,运行在不同操作系统(或运行环境)中的目标界面,均可在向服务器上报运行参数前,获取相应的目标软件开发包,从而将相应目标软件开发包获取的相应运行参数上报给服务器,也就是使得服务器实现了对多设备类型的终端设备中的用户界面进行录制还原,提升了对目标界面进行录制还原的效率。在一个实施例中,该界面处理方法可应用在如图1所示的界面处理系统中,如图1所示,该界面处理系统包括终端设备10和服务器11,其中,该终端设备10中可运行一个或多个应用程序(Application,App),每个应用程序在该终端设备10进行前台运行时,将显示相应的应用程序的一个或多个应用界面,其中,该终端设备10中显示的任一应用界面均可以是如上述的目标界面,此外,该服务器11用于对终端设备10正在运行的目标界面进行屏幕录制,得到该目标界面的录制界面。
在具体实现中,终端设备10在检测到操作用户前台运行该终端设备10中的某一应用程序后,如果该操作用户触发进行前台运行的应用程序是具备界面录制功能的应用程序,那么在终端设备10运行该应用程序后,则可获取正在运行的应用程序的应用界面的运行参数,如该终端设备10运行应用程序显示的界面为目标界面,则该终端设备10则可获取该目标界面的运行参数,并将该运行参数发送给服务器11。其中,具备界面录制功能的应用程序,即是已经在该应用程序的程序开发包中嵌入相应的目标软件开发包后的应用程序,服务器11在从终端设备10中获取到该目标界面的运行参数后,则可基于该运行参数对该目标界面进行模拟,从而得到该目标界面的模拟界面,此外,在终端设备10运行目标界面的过程中,还将根据操作用户在该目标界面执行的用户操作生成操作信息,并将该操作信息发送给服务器11,那么服务器11在从终端设备10获取到操作信息后,就可基于该操作信息对该操作用户执行的用户操作进行还原。具体地,服务器11在基于操作用户的操作信息对该操作用户执行的用户操作进行还原时,可通过该操作信息确定该目标界面的增量数据对在目标界面执行的用户操作进行还原,其中,该增量数据用于描述在该目标界面中执行用户操作前后,该目标界面所产生的变化。
在一个实施例中,基于增量数据对该目标界面产生的变化进行描述,对流量带宽和计算量的要求更低,有利于服务器对该目标界面中产生的用户操作进行实时录制。那么服务器11确定出该目标界面在执行用户操作前后产生的变化所对应的增量数据后,基于确定出的增量数据在目标界面的模拟界面中对用户操作进行还原时,可将该操作用户在目标界面中执行的用户操作的操作轨迹显示在该模拟界面中,并同时将该增量数据对应的界面资源显示在该模拟界面中。举例来说,如果该操作用户在该目标界面中执行的用户操作为点击某个组件,并在该目标界面中显示对话窗口,那么在服务器获取到该用户操作对应的操作信息后,则可在该目标界面的模拟界面中先点击相应的组件,并将该对话窗口显示在该模拟界面中,从而可实现对该目标界面的录制。
在一个实施例中,该服务器11可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(ContentDelivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器,该终端设备10可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等,但并不局限于此,其中,该终端设备10以及服务器11可以通过有线或无线通信方式进行直接或间接地连接,在本发明实施例中不做限制。服务器11通过从终端设备10中获取目标界面的运行参数从而对该目标界面进行模拟,并将在目标界面中执行的用户操作映射到该目标界面的模拟界面中,可实现对该目标界面的及时录制,使得服务器可得到较小的录屏界面,从而降低服务器的数据处理压力,提升服务器的数据处理效率。
请参见图2,是本发明实施例提供的一种界面处理方法的示意流程图,该界面处理方法可由上述的服务器执行,如图2所示,该方法可包括:
S201,获取针对目标界面的运行参数及操作信息,运行参数包括目标界面的界面参数和运行环境的环境标识。
在一个实施例中,该目标界面是具备界面录制功能的应用程序中的应用界面,该目标界面可以是具备界面录制功能的应用程序中的任意一个或多个应用界面,其中,服务器在获取针对该目标界面的运行参数和操作信息时,可以是同时获取的,如服务器可在确定该终端设备已启动运行该目标界面时,同时获取针对该目标界面的运行参数和操作信息;或者,服务器在获取针对该目标界面的运行参数和操作信息时,也可以是分别获取的,如该服务器也可在终端设备启动运行该目标界面之前,先获取该目标界面的运行参数,并在启动运行该目标界面之后,获取针对该目标界面的操作信息,在本发明实施例中,对服务器获取针对该目标界面的运行参数和操作信息的方式和时机不作限定。在服务器获取到针对该目标界面的运行参数和操作信息后,则可基于该运行参数和操作信息实现对目标界面的录制,生成该目标界面的录制界面。
在一个实施例中,服务器获取到的运行参数包括该目标界面的界面参数,以及运行环境的环境标识,其中,该界面参数包括:用于指示目标界面的界面大小的尺寸参数,终端设备在显示该目标界面时的布局参数,以及终端设备在显示该目标界面时的分辨率参数等等。该服务器获取到的运行参数还包括目标界面的运行环境的环境标识,可以理解的是,运行该目标界面的运行环境即是终端设备的系统环境,也即是目标界面的运行环境,那么服务器获取到的环境标识即是该终端设备的系统环境标识,在一个实施例中,该终端设备的系统环境例如可以是安卓环境等,服务器在获取到该界面参数和运行环境的环境标识后,则可基于获取到的环境标识对该目标界面的运行环境进行模拟,并在模拟的运行环境中按照该界面参数运行该目标界面的模拟界面,即转而执行步骤S202。此外,服务器获取的操作信息用于描述目标界面在进行界面录制的过程中所产生的用户操作,该用户操作例如可以是选择操作,点击操作,以及滑动操作中的一种或多种,那么服务器根据获取到的操作信息,就可在目标界面的模拟界面中实现对用户操作的还原,并完成对目标界面的录制。
可以理解的是,通过在目标界面中执行用户操作,终端设备中显示的目标界面的界面内容可能将发生变化,那么终端设备在检测到用户操作并将基于该用户操作生成的操作信息发送给服务器时,终端设备记录的操作信息还包括基于用户操作使目标界面的界面内容发生变化的增量数据,那么服务器则可基于获取到的操作信息中包括的增量数据对用户操作进行还原。在一个实施例中,该增量数据用于描述在目标界面中执行用户操作后显示的界面内容,相较于在执行用户操作前显示的界面内容的差异,如在目标界面执行的用户操作为点击操作,且在该目标界面执行点击操作后将显示一个对话窗口,那么终端设备记录用户操作的操作信息时,将记录在该目标界面执行的点击操作,以及基于该点击显示的对话窗口。
为了使终端设备能实现对在目标界面执行的用户操作的操作信息进行记录,操作用户可先申请一个项目,以便终端设备获取到该项目后,对在该目标界面执行的用户操作的操作信息进行记录,从而可将该操作信息和针对该目标界面的运行参数发送给服务器,以使服务器基于获取到的操作信息对该用户操作进行还原。在一个实施例中,操作用户申请的用于对用户操作的操作信息进行记录的项目可以是一个插件,或者与终端设备的操作系统相关的软件开发工具包(Software Development Kit,SDK)代码,终端设备在获取到该SDK代码后,则可将获取到的SDK代码嵌入到自身的业务系统,其中,操作用户在申请该SDK代码的界面可以是如图3a所示的界面。终端设备在申请到SDK代码后,则可将申请到的SDK代码嵌入到自身的操作系统,其中,该SDK代码可计入可视化埋点平台,从而使得终端设备在将SDK代码嵌入自身的操作系统后,可对在目标界面执行的用户操作的操作信息进行记录,并将记录的操作信息发送给服务器,其中,终端设备通过SDK代码接入该可视化埋点平台后,对目标界面进行录制还原的流程可如图3b所示。在一个实施例中,操作用户可基于如图3c所示的界面开启针对该目标界面的录像还原功能,其中,终端设备在确定开启了针对该目标界面的录像功能后,则可在显示该目标界面的过程中,对在该目标界面执行的用户操作的操作信息进行记录,并将记录了的操作信息发送给服务器,以实现对目标界面进行界面录制和回放。
S202,根据环境标识对运行环境进行模拟,并在模拟运行环境中按照界面参数运行目标界面的模拟界面。
服务器在获取到针对目标界面的运行参数和操作信息后,在根据该运行参数中包括的环境标识对该目标界面的运行环境进行模拟时,将参考终端设备的显示屏幕的不同分辨率和不同运行环境对该运行环境进行模拟,其中,该目标界面在终端设备中的运行环境为该终端设备的操作系统的系统环境,该系统环境例如可以是苹果公司的操作系统,安卓(Android)操作系统,或者微软公司的操作系统等。可以理解的是,服务器根据获取到的针对目标界面的运行参数对目标界面所在的运行环境进行模拟,即是在服务器中部署一个用于运行该目标界面的运行环境,进一步地,在服务器部署用于运行该目标界面的模拟运行环境完成后,则可在该模拟运行环境中按照该目标界面的运行参数中所包括的界面参数对该目标界面进行模拟,从而实现在模拟运行环境中运行该目标界面的模拟界面。
在一个实施例中,服务器在根据界面参数运行该目标界面的模拟界面时,将参考该界面参数包括的尺寸参数,使得模拟得到的模拟界面和原来目标界面的尺寸大小一致,此外,服务器还将参考该终端设备在显示该目标界面时的布局参数对目标界面进行模拟,从而使得模拟得到的模拟界面和原来的目标界面的布局一致,以及,服务器还将参考该终端设备在显示该目标界面时的分辨率,从而使模拟得到的模拟界面和目标界面的分辨率保持一致等等。在服务器对运行环境进行模拟,并在该模拟环境中运行了该目标界面的模拟界面后,则可根据操作用户在目标界面执行的用户操作的操作信息,并基于该操作信息对在目标界面中执行的用户操作进行还原,进而得到该目标界面的录制界面,即转而执行步骤S203。
S203,根据操作信息在模拟界面中还原用户操作,并将还原了用户操作的模拟界面作为目标界面的录制界面。
在一个实施例中,终端设备在记录针对目标界面的用户操作时,记录的操作信息包括该用户操作的操作类型,但是由于不同终端设备中运行同一目标界面的运行环境可能不同,所以服务器在从终端设备中获取到该操作信息后,还将基于获取到的该终端设备的运行环境的环境标识对获取到的操作信息进行转换,即将获取到的操作信息转换为与该终端设备的运行环境匹配的操作信息,从而可基于转换后的操作信息在模拟界面中对用户操作进行还原。举例来说,若在目标界面执行的用户操作为点击A用户的用户头像,那么终端设备记录的操作信息包括在目标界面的A用户的用户头像处执行的点击操作的操作信息,在服务器从终端设备中获取到该操作信息后,则可基于获取到的环境标识将该操作信息转换为与该目标界面的运行环境匹配的操作信息,再基于转换后的操作信息对用户操作进行还原。可以理解的是,基于服务器对操作信息的转换,可使得服务器实现对在不同运行环境中运行的目标界面的用户操作进行还原,从而实现对不同运行环境中运行的目标界面的录制与还原。
在本发明实施例中,服务器可在从目标界面获取到针对目标界面的运行参数和操作信息后,根据该运行参数包括的环境标识对该目标界面的运行环境进行模拟,并在模拟的运行环境中按照该运行参数包括的界面参数运行该目标界面的模拟界面,在服务器在模拟的运行环境中运行了目标界面的模拟界面后,则可进一步根据在目标界面执行用户操作时所记录的操作信息,在该模拟界面中对执行的用户操作进行还原,从而可将还原了用户操作的模拟界面作为该目标界面的录制界面,从而实现对目标界面的录制还原,使得服务器不再需要调用终端设备中的计算资源去生成录制界面,也不需要终端设备对目标界面的界面全量资源进行扫描和监听,只需要对在目标界面中执行的而用户操作进行记录,即可实现对该目标界面的录制,从而可有效降低对终端设备中的资源占用,对接入系统的干扰更小,实现在较低资源配置的终端设备中运行的目标界面的界面录制,此外,由于服务器可基于获取到的运行参数中包括的环境标识,对不同的运行环境进行模拟,也就使得服务器可实现对在不同运行环境中运行的而目标界面进行录制还原,从而也就提升了服务器对目标界面进行录制还原的兼容性。
请参见图4,是本发明实施例提供的一种界面处理方法的示意流程图,如图4所示,该方法可包括:
S401,获取针对目标界面的运行参数及操作信息,目标界面是终端设备中被执行界面录制操作的界面;运行参数包括目标界面的界面参数和运行环境的环境标识,操作信息用于描述目标界面在进行界面录制的过程中所产生的用户操作。
S402,根据环境标识对运行环境进行模拟,并在模拟运行环境中按照界面参数运行目标界面的模拟界面。
在步骤S401和步骤S402中,针对目标界面的界面录制操作是终端设备通过提供界面录制功能的目标软件开发包检测到的;该目标软件开发包被内置于目标界面所在应用程序的程序开发包中;该目标软件开发包在检测到针对目标界面所在应用程序的启动操作后,确定检测到界面录制操作,从而使得终端设备对目标界面的运行参数和操作信息进行获取,并将获取到的运行参数和操作信息发送给服务器,服务器在获取到该运行参数和操作信息后,则可根据该运行参数中包括的环境标识对目标界面所在的运行环境进行模拟,以及在模拟的运行环境中根据运行参数包括的界面参数,在该模拟的运行环境中运行该目标界面的模拟界面。在一个实施例中,该目软件开发包即是上述的SDK软件开发包(或SDK代码),终端设备在将SDK软件开发包嵌入到目标界面所在应用程序的程序开发包后,该SDK软件开发包则可接入可视化埋点平台,并通过对目标界面的埋点,对在该目标界面执行的用户操作的操作信息进行记录,其中,将该SDK软件开发包可包括一个或多个程序模块,如图5a所示,该SDK软件开发包中的程序模块例如可包括元素增量策略模块,增量数据处理模块,页面初始化记录模块,数据压缩模块,录屏还原播放器,以及机型兼容适配器,在一个实施例中,该元素增量策略模块,增量数据处理模块和页面初始化记录模块主要用于第一次进入目标界面时记录该目标界面的运行参数(或该目标界面的界面特征),例如入口地址、界面大小、设备系统、应用/站点版本,以及移动、点击、键盘输入等用户操作;数据压缩模块主要用于对记录的数据进行数据量压缩,这里采用gzip(一种数据压缩方法)压缩方法进行压缩;机型兼容适配器主要是对不同运行环境的终端设备进行兼容性弥补,确保不同运行环境的终端设备也能正常进行录屏操作;录屏还原播放器则是用来播放服务器渲染好的页面录像视频。
服务器在获取到针对目标界面的运行参数和操作信息后,并在根据该运行参数包括的环境标识对目标界面的运行环境进行模拟之前,该服务器还可获取技术终端的系统环境,并根据环境标识判断该技术终端的系统环境和目标界面的运行环境是否一致;若确定该技术终端的系统环境和目标界面的运行环境一致,则将运行参数及操作信息发送给技术终端,以在技术终端生成目标界面的录制界面,并在技术终端得到目标界面的录制界面后,对该目标界面的录制界面进行显示;而如果服务器确定技术终端的系统环境和目标界面的运行环境不一致,则可根据环境标识对运行环境进行模拟,从而使得服务器可在得到目标界面的录制界面后,将该目标界面的录制界面发送到技术终端中进行显示。
在一个实施例中,该服务器在对终端设备传输过来的运行参数和操作信息进行处理时,需要调用该服务器的录制数据采集服务和基础服务,其中,如图5b所示,该服务器的录制数据采集服务包括信息压缩模块,信息存储模块,分片还原模块,多设备终端模拟模块,以及还原渲染模块;该信息压缩模块用于解压终端设备传输过来的数据信息,如上述的运行参数和操作信息;信息存储模块用于定位用户在某个页面的操作录屏描述文件,并向后追加增量操作数据;分片还原模块用于信息存储时通过分片进行存储,此模块用于在渲染前对分片数据进行归并合并,以便于进行录屏渲染;多设备终端模拟模块用于模拟用户操作时的设备以及操作的页面,并在技术终端中将用户操作进行复现;还原渲染模块用于在多设备终端模拟模块工作时进行视频录制操作。此外,如图5b所示,该服务器的基础服务用于为服务器生成目标界面的录制界面提供底层支持,包括小文件存储支持和缓存支持等,如为对获取到的运行参数和操作信息进行缓存,以及对该服务器生成的目标界面的录制界面进行存储等,在一个实施例中,该服务器的基础服务包括远程字典服务(RemoteDictionary Server,Redis),文件存储服务和分布式定时任务调度服务等。
在服务器根据环境标识对目标界面在终端设备中的运行环境进行模拟时,该服务器可先获取终端设备的设备信息,如该终端设备的屏幕分辨率,以及终端设备的系统标识等,进一步地,该终端设备可根据该屏幕分辨率和系统标识对运行环境进行模拟。在一个实施例中,如果该目标界面的数量为多个,那么,该终端设备获取的操作信息是由在不同目标界面执行的用户操作生成的,可以理解的是,该目标界面的数量为多个时,终端设备在模拟运行环境中按照界面参数运行该目标界面的模拟界面时,则可先确定执行的每个用户操作的操作时间,并根据操作时间对执行的每个用户操作对应的目标界面进行排序,进而可按照排序后的每个目标界面的界面参数,在模拟运行环境中依次运行每个目标界面的模拟界面。举例来说,若该目标界面包括A社交程序的应用界面1和应用界面2,且用户操作先触发应用界面2,再触发应用界面1,那么服务器在获取到该A社交程序对应的环境标识后,则可模拟得到该A社交程序的运行环境,并在模拟得到的运行环境中,先基于应用界面1的界面参数在该模拟的运行环境中运行应用界面1,再基于应用界面2的界面参数在该模拟的运行界面中运行应用界面2。
在服务器在模拟运行环境中运行了目标界面的模拟界面后,则可根据操作信息将在该目标界面执行的用户操作进行还原,从而基于在模拟界面对用户操作的还原实现对目标界面的录制,即转服务器可转而执行步骤S403。
S403,根据操作信息在模拟界面中还原用户操作,并将还原了用户操作的模拟界面作为目标界面的录制界面。
S404,从终端设备获取执行界面录制操作结束的指示信息,将录制界面的格式转换成目标格式。
S405,将目标格式的录制界面的渲染代码发送到技术终端,以使技术终端根据渲染代码显示目标格式的录制界面。
在步骤S403~步骤S405中,终端设备在对目标界面中执行的用户操作的操作信息进行记录时,均是采用的计算机代码进行记录的,可以理解的是,在不同运行环境的终端设备中执行同一用户操作时所获取到的计算机代码是相同的,如分别在终端设备a的A运行环境,以及终端设备b的B运行环境运行同一目标界面,并在该同一目标界面的同一界面位置执行相同的点击操作,那么终端设备a和终端设备b中记录的执行该点击操作的计算机代码为同一个计算机代码,如记录的同一个计算机代码为“click小明”,但是服务器在模拟得到目标界面的模拟界面后,在该模拟界面中对执行的用户操作进行还原时,如果基于同样的计算机代码进行还原,将可能产生将执行的用户操作还原为错误的用户操作,即还原得到的用户操作和原本执行的用户操作不同的问题,或者,也可能产生还原出错的问题。所以,服务器在对基于用户操作的操作信息对执行的用户操作进行还原时,需要先根据环境标识指示的运行环境,将操作信息包括的计算机代码转换成与运行环境匹配的模拟代码;其中,不同运行环境中执行的同一用户操作对应的模拟代码不同,进一步地,服务器可根据模拟代码在模拟界面中还原用户操作,从而可保证在模拟界面中还原的用户操作和操作用户原先执行的用户操作一致。
在一个实施例中,如上述的终端设备a和终端设备b在检测到同一目标界面的同一界面位置执行相同的点击操作后,记录的同一个计算机代码为“click小明”,但是如果服务器获取的环境标识是目标界面运行在终端设备a时对应的A运行环境的标识,那么服务器在获取到机器代码“click小明”后,会将该机器代码“click小明”转换为与A运行环境匹配的模拟代码,从而根据该模拟代码对用户操作进行还原。此外,该操作信息还包括操作值,那么服务器在根据操作信息在模拟界面中还原用户操作时,则可确定用户操作在目标界面中的操作区域进而根据操作值确定在操作区域执行用户操作后产生的增量数据,并基于增量数据在模拟界面中还原用户操作。具体地,在服务器根据增量数据在模拟界面中还原用户操作时,可先获取增量数据对应界面资源的资源代码,并从模拟界面中确定出用于显示增量数据对应界面资源的显示位置,进而则可在模拟界面中还原用户操作的操作轨迹,并根据资源代码,在模拟界面中的显示位置处渲染并显示增量数据对应的界面资源。
在服务器生成目标界面的录制界面后,则可将该录制节目发送给技术终端进行显示,以便该技术终端所在的技术人员可基于该录制界面对目标界面进行更新等,即转而执行步骤S404和步骤S405。可以理解的是,由于服务器是根据增量数据实时生成的录制界面,所以可有效降低服务器生成该录制节目时所需的数据量,经研究表明,传统的生成目标界面的录制界面时,将对目标界面在终端设备中进行显示时的每帧图像进行获取,则需要占用大量的贷款对目标界面在终端设备进行显示过程中的产生的每帧图像进行传输,服务器也需要大量的存储空间对获取的图像进行存储,而本发明是死了仅需要上报或存储目标界面的运行参数和受用户操作的影响的部分元素信息(即增量数据),也就使得在进行数据传输时占用的带宽会大大降低。如以1080p分辨率下录制一个50分钟的目标界面操作视频为例,假设一张1080p分辨率截图的文件大小为200千字节(Kilobyte,kb),那么一秒钟有24帧,那么上传这样一个视频需要使用约13吉字节(Gigabyte,Gb)流量,而假设用户每秒进行一次操作,每次操作影响5个元素,每个元素需要2kb的描述文件,而使用对用户的操作进行记录的方案,假设用户每秒进行一次操作,一次操作需要0.5k进行描述,仅需要1.46MB即可达到目的。
根据如图5b所示的服务器的各模块,服务器模拟目标界面,并在模拟界面中还原用户操作的过程可参见图5c,并可具体执行如下步骤:
①分片还原模块获取终端设备发送的操作信息,如果获取到的操作信息是由多个用户操作分别产生的操作信息,则该分片还原模块将对每个用户操作对应的操作信息进行读取合并,将零碎的操作信息按照用户操作执行的时间先后顺序和相关组合规则进行合并,以便对该操作信息的指令解析。
②指令解析模块从分片还原模块获取合并后的操作信息,并解析得到用户操作的计算机代码,以及将解析后的计算机代码转换为与目标界面的运行环境相关的模拟代码,进而由模拟驱动模块执行对用户操作的还原。
③模拟驱动模块获取到模拟代码后,将模拟各种运行环境的终端设备,其中,该模拟驱动模块可模拟不同分辨率,运行环境下的安卓操作系统,Linux操作系统等,并在模拟运行环境中运行该目标界面的模拟界面,同时,该模拟渠道模块还会基于模拟代码在模拟界面中对用户操作进行还原,并实时将模拟的界面传输给技术终端进行渲染显示。
④渲染输出模块用于将模拟驱动模块生成的界面信号转换为指定格式(或目标格式)的数据内容,并将转换为指定格式的数据内容存储到数据库中,其中,该指定格式的数据内容可以是mp4格式(一种视频播放格式)的视频数据等。
在一个实施例中,服务器生成目标界面的录制界面的交互过程可如图5d所示,并具体执行如下步骤:
(1)操作用户打开被埋点的目标界面后,SDK进行加载并初始化,在SDK初始化完成后,则对该目标界面的界面尺寸,对应终端设备的设备信息,该目标界面的运行环境进行扫描,得到该目标界面的运行参数,并将该目标界面的运行参数存储在本地缓存中;
SDK将得到的目标界面的运行参数序列化为json格式(一种数据格式)的描述文本,并将用于描述运行参数的描述文本发送给服务器,服务器则相应地会将该描述文本进行存储,以便服务器后续可基于该描述文本对目标界面进行模拟,得到该目标界面的模拟界面。
(2)SDK在目标界面的运行过程中将监听该目标界面的界面元素及其属性是否发生变化,并在确定发生变化时,确定该目标界面执行了用户操作,进而可对执行的用户操作的操作信息进行记录,以及将记录的操作信息,以及基于用户操作产生的增量数据发送给服务器。
其中,SDK记录的用户操作的操作信息包括:执行的用户操作的操作类型、操作事件、操作位置,操作输入值等信息,并可同时采集该目标界面的运行环境的环境标识。在一个实施例中,SDK在将操作信息和环境标识发送给服务器时,也可先将该操作信息和环境标识转换为json格式,并将转换后的操作信息和环境标识发送给服务器。
(3)服务器在接收到操作信息和增量数据后,则可按照操作信息记录的用户操作产生的先后时间顺序,对相应用户操作产生的增量数据进行排序,并存储排序后的增量数据。
(4)基于SDK对在目标界面执行的用户操作的持续监听,在SDK确定目标界面执行用户操作完成后,则可向服务器发送操作完毕的通知消息。
(5)服务器获取到该用户操作执行完毕的通知消息后,则可获取针对该目标界面的运行参数,以及在目标界面执行的用户操作的操作信息,并基于该运行参数和操作信息对该目标界面进行录制还原。
服务器在基于运行参数和操作信息对该目标界面进行录制还原时,该服务器将读取该终端设备运行目标界面时的分辨率,终端系统版本(即运行环境)等,并模拟终端设备(Web、安卓设备、IOS设备)打开用户所操作的应用,进入到操作用户打开的目标界面入口,从而可根据SDK发送的用户操作的操作信息的描述,在模拟的目标界面中还原用户操作(如点击,移动,输入等操作)。
(6)在得到该目标界面的录制界面后,则可将该目标界面的录制界面存储到数据库中,以便后续可将该目标界面的录制界面发送到技术终端进行渲染显示,从而实现对该目标界面的录制界面的实时生成。
在本发明实施例中,服务器在获取到针对目标界面的运行参数和操作信息后,则可基于该运行参数中记录的环境标识对目标界面的运行环境进行模拟,并在模拟的运行环境中按照该运行参数记录的界面参数对目标界面进行模拟得到该目标界面的模拟界面,进而可基于获取的操作信息对在目标界面执行的用户操作进行还原,从而得到该目标界面的录制界面,由在根据增量数据的变化对目标界面进行还原时,如果不对界面进行实时还原,可能导致页面依赖资源不存在的问题,从而导致还原失败的问题,而发明实施例在对目标界面进行录制还原时是实时生成的,也就可提升服务器的录像还原功能的兼容度。
基于上述界面处理方法实施例的描述,本发明实施例还提出了一种界面处理装置,该界面处理装置可以是运行于上述服务器中的一个计算机程序(包括程序代码)。该界面处理装置可用于执行如图2和图4所述的界面处理方法,请参见图6,该界面处理装置包括:获取单元601,模拟单元602,运行单元603和还原单元604。
获取单元601,用于获取针对目标界面的运行参数及操作信息,所述目标界面是终端设备中被执行界面录制操作的界面;所述运行参数包括所述目标界面的界面参数和运行环境的环境标识,所述操作信息用于描述所述目标界面在进行界面录制的过程中所产生的用户操作;
模拟单元602,用于根据所述环境标识对所述运行环境进行模拟;
运行单元603,用于在模拟运行环境中按照所述界面参数运行所述目标界面的模拟界面;
还原单元604,用于根据所述操作信息在所述模拟界面中还原所述用户操作,并将还原了所述用户操作的模拟界面作为所述目标界面的录制界面。
在一个实施例中,所述操作信息包括所述用户操作的计算机代码,且在不同运行环境中执行同一用户操作时获取的计算机代码相同;所述还原单元604,具体用于:
根据所述环境标识指示的运行环境,将所述操作信息包括的计算机代码转换成与所述运行环境匹配的模拟代码;其中,不同运行环境中执行的同一用户操作对应的模拟代码不同;
根据所述模拟代码在所述模拟界面中还原所述用户操作。
在一个实施例中,所述操作信息包括操作值;所述还原单元604,具体用于:
确定所述用户操作在所述目标界面中的操作区域,并根据所述操作值确定在所述操作区域执行所述用户操作后产生的增量数据;
基于所述增量数据在所述模拟界面中还原所述用户操作。
在一个实施例中,所述还原单元604,具体用于:
获取所述增量数据对应界面资源的资源代码,并从所述模拟界面中确定出用于显示所述增量数据对应界面资源的显示位置;
在所述模拟界面中还原所述用户操作的操作轨迹,并根据所述资源代码,在所述模拟界面中的所述显示位置处渲染并显示所述增量数据对应的界面资源。
在一个实施例中,所述模拟单元602,具体用于:
获取所述终端设备的设备信息,所述设备信息包括所述终端设备的屏幕分辨率,以及所述终端设备的系统标识;
根据所述屏幕分辨率和所述系统标识对所述运行环境进行模拟。
在一个实施例中,所述目标界面的数量为多个,获取的操作信息是由在不同目标界面执行的用户操作生成的;所述运行单元603,具体用于:
确定执行的每个用户操作的操作时间,并根据所述操作时间对执行的每个用户操作对应的目标界面进行排序;
按照排序后的每个目标界面的界面参数,在模拟运行环境中依次运行每个目标界面的模拟界面。
在一个实施例中,针对所述目标界面的界面录制操作是所述终端设备通过提供界面录制功能的目标软件开发包检测到的;
所述目标软件开发包被内置于所述目标界面所在应用程序的程序开发包中;
所述目标软件开发包在检测到针对所述目标界面所在应用程序的启动操作后,确定检测到所述界面录制操作。
在一个实施例中,所述装置还包括发送单元605和执行单元606。
所述获取单元601,还用于获取技术终端的系统环境,并根据所述环境标识判断所述系统环境和所述目标界面的运行环境是否一致;
发送单元605,用于若一致,则将所述运行参数及操作信息发送给所述技术终端,以在所述技术终端生成所述目标界面的录制界面;
执行单元606,用于若不一致,则触发执行根据所述环境标识对所述运行环境进行模拟的步骤。
在一个实施例中,所述装置还包括:转换单元607。
所述获取单元601,还用于从所述终端设备获取执行所述界面录制操作结束的指示信息;
转换单元607,用于将所述录制界面的格式转换成目标格式;
所述发送单元605,还用于将目标格式的录制界面的渲染代码发送到技术终端,以使所述技术终端根据所述渲染代码显示所述目标格式的录制界面。
在本发明实施例中,获取单元601可在从目标界面获取到针对目标界面的运行参数和操作信息后,模拟单元602可根据该运行参数包括的环境标识对该目标界面的运行环境进行模拟,该运行单元603则可在模拟的运行环境中按照该运行参数包括的界面参数运行该目标界面的模拟界面,在模拟的运行环境中运行了目标界面的模拟界面后,则可进一步根据在目标界面执行用户操作时所记录的操作信息,还原单元604可在该模拟界面中对执行的用户操作进行还原,从而可将还原了用户操作的模拟界面作为该目标界面的录制界面,从而实现对目标界面的录制还原,使得不再需要调用终端设备中的计算资源去生成录制界面,也不需要终端设备对目标界面的界面全量资源进行扫描和监听,只需要对在目标界面中执行的而用户操作进行记录,即可实现对该目标界面的录制,从而可有效降低对终端设备中的资源占用,对接入系统的干扰更小,实现在较低资源配置的终端设备中运行的目标界面的界面录制,此外,由于可基于获取到的运行参数中包括的环境标识,对不同的运行环境进行模拟,也就使得服务器可实现对在不同运行环境中运行的而目标界面进行录制还原,从而也就提升了对目标界面进行录制还原的兼容性。
请参见图7,是本发明实施例提供的一种服务器的结构示意性框图。如图7所示的本实施例中的服务器可包括:一个或多个处理器701;一个或多个输入设备702,一个或多个输出设备703和存储器704。上述处理器701、输入设备702、输出设备703和存储器704通过总线705连接。存储器704用于存储计算机程序,所述计算机程序包括程序指令,处理器701用于执行所述存储器704存储的程序指令。
所述存储器704可以包括易失性存储器(volatile memory),如随机存取存储器(random-access memory,RAM);存储器704也可以包括非易失性存储器(non-volatilememory),如快闪存储器(flash memory),固态硬盘(solid-state drive,SSD)等;存储器704还可以包括上述种类的存储器的组合。
所述处理器701可以是中央处理器(central processing unit,CPU)。所述处理器701还可以进一步包括硬件芯片。上述硬件芯片可以是专用集成电路(application-specific integrated circuit,ASIC),可编程逻辑器件(programmable logic device,PLD)等。该PLD可以是现场可编程逻辑门阵列(field-programmable gate array,FPGA),通用阵列逻辑(generic array logic,GAL)等。所述处理器701也可以为上述结构的组合。
本发明实施例中,所述存储器704用于存储计算机程序,所述计算机程序包括程序指令,处理器701用于执行存储器704存储的程序指令,用来实现上述如图2和图4中相应方法的步骤。
在一个实施例中,所述处理器701被配置调用所述程序指令,用于执行:
获取针对目标界面的运行参数及操作信息,所述目标界面是终端设备中被执行界面录制操作的界面;所述运行参数包括所述目标界面的界面参数和运行环境的环境标识,所述操作信息用于描述所述目标界面在进行界面录制的过程中所产生的用户操作;
根据所述环境标识对所述运行环境进行模拟,并在模拟运行环境中按照所述界面参数运行所述目标界面的模拟界面;
根据所述操作信息在所述模拟界面中还原所述用户操作,并将还原了所述用户操作的模拟界面作为所述目标界面的录制界面。
在一个实施例中,所述操作信息包括所述用户操作的计算机代码,且在不同运行环境中执行同一用户操作时获取的计算机代码相同;所述处理器701被配置调用所述程序指令,用于执行:
根据所述环境标识指示的运行环境,将所述操作信息包括的计算机代码转换成与所述运行环境匹配的模拟代码;其中,不同运行环境中执行的同一用户操作对应的模拟代码不同;
根据所述模拟代码在所述模拟界面中还原所述用户操作。
在一个实施例中,所述操作信息包括操作值;所述处理器701被配置调用所述程序指令,用于执行:
确定所述用户操作在所述目标界面中的操作区域,并根据所述操作值确定在所述操作区域执行所述用户操作后产生的增量数据;
基于所述增量数据在所述模拟界面中还原所述用户操作。
在一个实施例中,所述处理器701被配置调用所述程序指令,用于执行:
获取所述增量数据对应界面资源的资源代码,并从所述模拟界面中确定出用于显示所述增量数据对应界面资源的显示位置;
在所述模拟界面中还原所述用户操作的操作轨迹,并根据所述资源代码,在所述模拟界面中的所述显示位置处渲染并显示所述增量数据对应的界面资源。
在一个实施例中,所述处理器701被配置调用所述程序指令,用于执行:
获取所述终端设备的设备信息,所述设备信息包括所述终端设备的屏幕分辨率,以及所述终端设备的系统标识;
根据所述屏幕分辨率和所述系统标识对所述运行环境进行模拟。
在一个实施例中,所述目标界面的数量为多个,获取的操作信息是由在不同目标界面执行的用户操作生成的;所述处理器701被配置调用所述程序指令,用于执行:
确定执行的每个用户操作的操作时间,并根据所述操作时间对执行的每个用户操作对应的目标界面进行排序;
按照排序后的每个目标界面的界面参数,在模拟运行环境中依次运行每个目标界面的模拟界面。
在一个实施例中,针对所述目标界面的界面录制操作是所述终端设备通过提供界面录制功能的目标软件开发包检测到的;
所述目标软件开发包被内置于所述目标界面所在应用程序的程序开发包中;
所述目标软件开发包在检测到针对所述目标界面所在应用程序的启动操作后,确定检测到所述界面录制操作。
在一个实施例中,所述处理器701被配置调用所述程序指令,用于执行:
获取技术终端的系统环境,并根据所述环境标识判断所述系统环境和所述目标界面的运行环境是否一致;
若一致,则将所述运行参数及操作信息发送给所述技术终端,以在所述技术终端生成所述目标界面的录制界面;
若不一致,则触发执行根据所述环境标识对所述运行环境进行模拟的步骤。
在一个实施例中,所述处理器701被配置调用所述程序指令,用于执行:
从所述终端设备获取执行所述界面录制操作结束的指示信息,将所述录制界面的格式转换成目标格式;
将目标格式的录制界面的渲染代码发送到技术终端,以使所述技术终端根据所述渲染代码显示所述目标格式的录制界面。
本发明实施例提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述如图2或图4所示的方法实施例。其中,所述的计算机可读存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random AccessMemory,RAM)等。
以上所揭露的仅为本发明的局部实施例而已,当然不能以此来限定本发明之权利范围,本领域普通技术人员可以理解实现上述实施例的全部或局部流程,并依本发明权利要求所作的等同变化,仍属于发明所涵盖的范围。

Claims (12)

1.一种界面处理方法,其特征在于,包括:
获取针对目标界面的运行参数及操作信息,所述目标界面是终端设备中被执行界面录制操作的界面;所述运行参数包括所述目标界面的界面参数和运行环境的环境标识,所述操作信息用于描述所述目标界面在进行界面录制的过程中所产生的用户操作;
根据所述环境标识对所述运行环境进行模拟,并在模拟运行环境中按照所述界面参数运行所述目标界面的模拟界面;
根据所述操作信息在所述模拟界面中还原所述用户操作,并将还原了所述用户操作的模拟界面作为所述目标界面的录制界面。
2.根据权利要求1所述的方法,其特征在于,所述操作信息包括所述用户操作的计算机代码,且在不同运行环境中执行同一用户操作时获取的计算机代码相同;所述根据所述操作信息在所述模拟界面中还原所述用户操作,包括:
根据所述环境标识指示的运行环境,将所述操作信息包括的计算机代码转换成与所述运行环境匹配的模拟代码;其中,不同运行环境中执行的同一用户操作对应的模拟代码不同;
根据所述模拟代码在所述模拟界面中还原所述用户操作。
3.根据权利要求1所述的方法,其特征在于,所述操作信息包括操作值;所述根据所述操作信息在所述模拟界面中还原所述用户操作,包括:
确定所述用户操作在所述目标界面中的操作区域,并根据所述操作值确定在所述操作区域执行所述用户操作后产生的增量数据;
基于所述增量数据在所述模拟界面中还原所述用户操作。
4.根据权利要求3所述的方法,其特征在于,所述基于所述增量数据在所述模拟界面中还原所述用户操作,包括:
获取所述增量数据对应界面资源的资源代码,并从所述模拟界面中确定出用于显示所述增量数据对应界面资源的显示位置;
在所述模拟界面中还原所述用户操作的操作轨迹,并根据所述资源代码,在所述模拟界面中的所述显示位置处渲染并显示所述增量数据对应的界面资源。
5.根据权利要求1所述的方法,其特征在于,所述根据所述环境标识对所述运行环境进行模拟,包括:
获取所述终端设备的设备信息,所述设备信息包括所述终端设备的屏幕分辨率,以及所述终端设备的系统标识;
根据所述屏幕分辨率和所述系统标识对所述运行环境进行模拟。
6.根据权利要求1所述的方法,其特征在于,所述目标界面的数量为多个,获取的操作信息是由在不同目标界面执行的用户操作生成的;所述在模拟运行环境中按照所述界面参数运行所述目标界面的模拟界面,包括:
确定执行的每个用户操作的操作时间,并根据所述操作时间对执行的每个用户操作对应的目标界面进行排序;
按照排序后的每个目标界面的界面参数,在模拟运行环境中依次运行每个目标界面的模拟界面。
7.根据权利要求1所述的方法,其特征在于,针对所述目标界面的界面录制操作是所述终端设备通过提供界面录制功能的目标软件开发包检测到的;
所述目标软件开发包被内置于所述目标界面所在应用程序的程序开发包中;
所述目标软件开发包在检测到针对所述目标界面所在应用程序的启动操作后,确定检测到所述界面录制操作。
8.根据权利要求1所述的方法,其特征在于,所述获取针对目标界面的运行参数及操作信息之后,所述根据所述环境标识对所述运行环境进行模拟之前,所述方法还包括:
获取技术终端的系统环境,并根据所述环境标识判断所述系统环境和所述目标界面的运行环境是否一致;
若一致,则将所述运行参数及操作信息发送给所述技术终端,以在所述技术终端生成所述目标界面的录制界面;
若不一致,则触发执行根据所述环境标识对所述运行环境进行模拟的步骤。
9.根据权利要求1所述的方法,其特征在于,所述将还原了所述用户操作的模拟界面作为所述目标界面的录制界面之后,所述方法还包括:
从所述终端设备获取执行所述界面录制操作结束的指示信息,将所述录制界面的格式转换成目标格式;
将目标格式的录制界面的渲染代码发送到技术终端,以使所述技术终端根据所述渲染代码显示所述目标格式的录制界面。
10.一种界面处理装置,其特征在于,包括:
获取单元,用于获取针对目标界面的运行参数及操作信息,所述目标界面是终端设备中被执行界面录制操作的界面;所述运行参数包括所述目标界面的界面参数和运行环境的环境标识,所述操作信息用于描述所述目标界面在进行界面录制的过程中所产生的用户操作;
模拟单元,用于根据所述环境标识对所述运行环境进行模拟;
运行单元,用于在模拟运行环境中按照所述界面参数运行所述目标界面的模拟界面;
还原单元,用于根据所述操作信息在所述模拟界面中还原所述用户操作,并将还原了所述用户操作的模拟界面作为所述目标界面的录制界面。
11.一种服务器,其特征在于,包括处理器、输入设备、输出设备和存储器,所述处理器、所述输入设备、所述输出设备和所述存储器相互连接,其中,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行如权利要求1~9任一项所述的方法。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如权利要求1~9任一项所述的方法。
CN202110214994.7A 2021-02-25 2021-02-25 界面处理方法、装置、服务器及存储介质 Active CN114979744B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110214994.7A CN114979744B (zh) 2021-02-25 2021-02-25 界面处理方法、装置、服务器及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110214994.7A CN114979744B (zh) 2021-02-25 2021-02-25 界面处理方法、装置、服务器及存储介质

Publications (2)

Publication Number Publication Date
CN114979744A true CN114979744A (zh) 2022-08-30
CN114979744B CN114979744B (zh) 2024-03-19

Family

ID=82973786

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110214994.7A Active CN114979744B (zh) 2021-02-25 2021-02-25 界面处理方法、装置、服务器及存储介质

Country Status (1)

Country Link
CN (1) CN114979744B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014134180A2 (en) * 2013-02-26 2014-09-04 Digimarc Corporation Methods and arrangements for smartphone payments and transactions
CN106488301A (zh) * 2015-08-25 2017-03-08 北京新唐思创教育科技有限公司 一种录屏方法和装置及视频播放方法和装置
CN108924582A (zh) * 2018-09-03 2018-11-30 深圳市东微智能科技股份有限公司 视频录制方法、计算机可读存储介质及录播系统
CN111405301A (zh) * 2020-03-02 2020-07-10 广州虎牙科技有限公司 终端的录屏交互方法、装置、计算机设备及存储介质
CN111526312A (zh) * 2016-11-29 2020-08-11 华为技术有限公司 屏幕录像的录制、播放方法、录屏终端及播放终端

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014134180A2 (en) * 2013-02-26 2014-09-04 Digimarc Corporation Methods and arrangements for smartphone payments and transactions
CN106488301A (zh) * 2015-08-25 2017-03-08 北京新唐思创教育科技有限公司 一种录屏方法和装置及视频播放方法和装置
CN111526312A (zh) * 2016-11-29 2020-08-11 华为技术有限公司 屏幕录像的录制、播放方法、录屏终端及播放终端
CN108924582A (zh) * 2018-09-03 2018-11-30 深圳市东微智能科技股份有限公司 视频录制方法、计算机可读存储介质及录播系统
CN111405301A (zh) * 2020-03-02 2020-07-10 广州虎牙科技有限公司 终端的录屏交互方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
CN114979744B (zh) 2024-03-19

Similar Documents

Publication Publication Date Title
CN109302522B (zh) 测试方法、装置以及计算机系统和介质
CN108628741B (zh) 网页页面测试方法、装置、电子设备和介质
CN106776247B (zh) 一种监控应用中控件的方法、服务器及系统
CN111124567B (zh) 目标应用的操作录制方法和装置
CN112416775B (zh) 基于人工智能的软件自动化测试方法、装置及电子设备
CN110688286B (zh) 应用程序运行信息传送方法及装置、存储介质、电子设备
CN111352836A (zh) 一种压力测试方法及相关装置
CN105260082A (zh) 一种测试数据展示方法及开发终端
CN106354629A (zh) 一种基于多级服务器的iOS系统移动应用自动测试系统的架构方法
CN111352790A (zh) 输入事件上报的测试方法、装置、移动终端以及存储介质
CN115373673A (zh) 应用页面构建方法、装置、计算机设备及可读存储介质
CN112965711B (zh) 作业测试方法和装置、电子设备和存储介质
CN113495843B (zh) 用于测试视频播放器的起播性能的方法和装置
KR20180076020A (ko) 애플리케이션 테스트 자동화 장치 및 방법
CN117707702A (zh) 一种在线ide的实现方法及系统
CN112597828A (zh) 网页识别模型的训练方法、装置、网页识别的方法
CN114979744B (zh) 界面处理方法、装置、服务器及存储介质
CN113656044B (zh) 安卓安装包压缩方法、装置、计算机设备及存储介质
CN111258875A (zh) 界面测试方法及系统、电子设备、存储介质
CN112256564B (zh) 应用程序的运行方法、装置及电子设备
CN113961835A (zh) 数据处理方法、装置、电子设备及存储介质
CN105450501A (zh) 设置定制化回复功能的方法及装置
CN112685306A (zh) 一种测试方法、装置、用户终端及存储介质
CN112882897A (zh) 异常场景处理方法、装置、电子设备及存储介质
CN115982507B (zh) 应用程序触发操作的记录方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant