CN114840159A - 一种渲染上屏方法、装置、设备及介质 - Google Patents

一种渲染上屏方法、装置、设备及介质 Download PDF

Info

Publication number
CN114840159A
CN114840159A CN202210373117.9A CN202210373117A CN114840159A CN 114840159 A CN114840159 A CN 114840159A CN 202210373117 A CN202210373117 A CN 202210373117A CN 114840159 A CN114840159 A CN 114840159A
Authority
CN
China
Prior art keywords
data
rendering
screen
video
rendering data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210373117.9A
Other languages
English (en)
Inventor
蒋升华
王叶群
蔡强
郭月丰
彭寿林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Wulian Technology Co ltd
Original Assignee
Hangzhou Wulian Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Wulian Technology Co ltd filed Critical Hangzhou Wulian Technology Co ltd
Priority to CN202210373117.9A priority Critical patent/CN114840159A/zh
Publication of CN114840159A publication Critical patent/CN114840159A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50—Controlling the output signals based on the game progress
    • A63F13/52—Controlling the output signals based on the game progress involving aspects of the displayed game scene
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/451—Execution arrangements for user interfaces
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/53—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing
    • A63F2300/538—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing for performing operations on behalf of the game client, e.g. rendering

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Digital Computer Display Output (AREA)

Abstract

本申请公开了一种渲染上屏方法、装置、设备及介质，涉及云游戏领域，该方法应用于客户端系统，包括：确定当前的渲染数据，并将所述渲染数据发送至所述客户端系统中的直接渲染管理器中；所述渲染数据包括用户界面渲染数据、光标渲染数据以及视频渲染数据；通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据；利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。这样一来，本方案利用直接渲染管理器对三种渲染数据进行统一管理，以精简的渲染流程避免了现有技术中底层框架下的上屏冲突，且本方案还提出一种上屏优化策略，可以保证客户端的高帧率性能。

Description

一种渲染上屏方法、装置、设备及介质
技术领域
本发明涉及云游戏技术领域，特别涉及一种渲染上屏方法、装置、设备及介质。
背景技术
随着5G网络、编解码技术以及软硬件技术的发展，云游戏系统等创新业务逐步进入大众的视野，并取得了一定的发展。云游戏不同于传统游戏，是一种以云计算、云控制、渲染及网络传输为基础的游戏实现方式，将算力上行，其游戏真正运行在云端边缘计算节点的主机端，而非用户本地客户端上。客户端通过接收主机端发送的音视频数据进行游戏声音与画面的本地呈现，同时用户将对游戏的操作控制数据发送到主机端进行对游戏的控制。
为了推广云游戏系统的发展，云游戏串流终端支持多平台，其中客户端终端也包括支持linux平台，客户端需要对视频、UI(即User Interface，用户界面)和光标等数据进行渲染合成显示上屏。在现有技术中，linux系统有多种不同的开源库分别用于渲染显示UI、视频和光标，比如常见的linux下的C/C++GUI(即Graphical User Interface，图形用户接口)开源库有IMGUI、CEGUI、GTK、QT等，显示视频有不同的播放器，光标也有对应技术方案，但是这些不同的开源库使用的底层框架可能不同，有的使用devfb，有的可能使用DRM(即Direct Rendering Manager，直接渲染管理器)等，如果在显示UI、视频和光标时都分别采用对应的开源库，则在上屏时会导致各种冲突。另外，常用的GUI库的渲染最终要经过窗口处理，一般采用较为庞大的SDL(Simple DirectMedia Layer)图形库支持，这包含了太多内容，图形库太过臃肿，会导致云游戏延时较高，体验效果不佳。
由上可见，在客户端渲染过程中，如何避免出现由于现有的渲染架构导致上屏冲突，且云游戏的体验效果不佳的情况是本领域有待解决的问题。
发明内容
有鉴于此，本发明的目的在于提供一种渲染上屏方法、装置、设备及介质，能够对渲染底层架构进行优化，对所有的视频数据、UI数据和光标数据统一管理，避免上屏冲突。另外，本方案还对架构的部分模块作精简处理，极大地提升了linux云游戏客户端性能，促进云游戏系统的发展。其具体方案如下：
第一方面，本申请公开了一种渲染上屏方法，应用于客户端系统，包括：
确定当前的渲染数据，并将所述渲染数据发送至所述客户端系统中的直接渲染管理器中；所述渲染数据包括用户界面渲染数据、光标渲染数据以及视频渲染数据；
通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据；
利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。
可选的，所述确定当前的渲染数据，包括：
利用预先与图形化交互界面进行对接的第一接口与预先与开放式图形库进行对接的第二接口生成帧缓存数据；
利用预设的第三接口获取所述帧缓存数据，并利用预设的通用缓存管理器，将所述帧缓存数据转换为带有预设标识的帧缓存数据；所述预设标识为所述直接渲染管理器可识别的标识；
将所述带有预设标识的帧缓存数据作为当前的用户界面渲染数据。
可选的，所述确定当前的渲染数据，包括：
获取主机端发送的光标像素数据；所述光标像素数据为表征光标图像的像素值的数据；
基于所述渲染数像素数据，并利用预设光标线程确定光标渲染数据；所述光标渲染数据包括光标的位置坐标数据、光标的分辨率数据以及光标的色彩模式数据。
可选的，所述确定当前的渲染数据，包括：
获取主机端发送的视频码流；
对所述视频码流进行硬件解码，以获取与所述视频码流对应的视频数据，并将所述视频数据作为视频渲染数据。
可选的，所述通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据，还包括：
当所述直接渲染管理器接收到所述视频渲染数据，则将所述视频渲染数据存放至预设栈中；
从所述预设栈中的全部视频渲染数据中确定出目标上屏数据。
可选的，所述的渲染上屏方法，还包括：
确定所述栈中的视频渲染数据的数据数量；
若所述栈中的视频渲染数据的数据数量大于1，则从全部视频渲染数据中确定最新视频渲染数据，并将全部视频渲染数据中除所述最新视频渲染数据以外的视频渲染数据出栈。
可选的，所述的渲染上屏方法，还包括：
通过预设时间获取接口获取上屏周期；
相应的，所述利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示，包括：
基于所述上屏周期并利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。
第二方面，本申请公开了一种渲染上屏装置，应用于客户端系统，包括：
渲染数据确定模块，用于确定当前的渲染数据，并将所述渲染数据发送至所述客户端系统中的直接渲染管理器中；所述渲染数据包括用户界面渲染数据、光标渲染数据以及视频渲染数据；
上屏数据确定模块，用于通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据；
上屏显示模块，用于利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。
第三方面，本申请公开了一种电子设备，包括：
存储器，用于保存计算机程序；
处理器，用于执行所述计算机程序，以实现前述的渲染上屏方法。
第四方面，本申请公开了一种计算机存储介质，用于保存计算机程序；其中，所述计算机程序被处理器执行时实现前述公开的渲染上屏方法的步骤。
本申请通过先确定当前的渲染数据，并将所述渲染数据发送至所述客户端系统中的直接渲染管理器中，所述渲染数据包括用户界面渲染数据、光标渲染数据以及视频渲染数据，然后通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据。接着利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。这样一来，本方案在确定当前的渲染数据后，会将渲染数据发送至所述客户端系统中的直接渲染管理器中，以便所述直接渲染管理器对这些渲染数据进行统一管理，以精简的渲染流程避免了现有技术中底层框架下的上屏冲突。另外，本方案基于预设的上屏优化策略确定目标上屏数据，可以确保每次上屏显示时都会以最新的视频渲染数据进行显示，以完成对于上屏的优化。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本申请提供的一种渲染上屏方法流程图；
图2为本申请提供的一种上屏优化策略的过程示意图；
图3为本申请提供的一种具体的UI数据的确定方法的流程图；
图4为本申请提供的一种线程的工作流程示意图；
图5为本申请提出的一种数据渲染示意图；
图6为本申请提出的一种渲染上屏装置结构示意图；
图7为本申请提供的一种电子设备结构图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
现有技术中，客户端对于UI数据、视频数据和光标数据可能使用不同的开源库与不同的底层框架，导致在上屏时会出现各种冲突。在本申请中对渲染底层架构进行优化，对所有的视频数据、UI数据和光标数据统一管理，避免上屏冲突。另外，本方案还对架构的部分模块作精简处理，极大地提升了linux云游戏客户端性能，促进云游戏系统的发展。
本发明实施例公开了一种渲染上屏方法，应用于客户端系统，参见图1所述，该方法包括：
步骤S11：确定当前的渲染数据，并将所述渲染数据发送至所述客户端系统中的直接渲染管理器中；所述渲染数据包括用户界面渲染数据、光标渲染数据以及视频渲染数据。
在云游戏的具体应用过程中，客户端通过接收主机端发送的音视频数据进行游戏声音与画面的本地呈现，同时用户将对游戏的操作控制数据发送到主机端进行对游戏的控制。也就是说，主机端为向客户端提供服务的一端，客户端是被服务的一端，当客户端接收到由主机端发送的相关数据后，会利用这些数据进行客户端的渲染，以便可以将这些数据进行合成上屏，进而呈现在本地显示器上。这些数据可以包括用户界面渲染数据(以下称为UI数据)、光标渲染数据以及视频渲染数据三种，而由于云游戏串流中最重要的数据是视频数据，因此会优先考虑视频的性能，也就是说在一些具体的实施方式中，在这些渲染数据中，视频渲染数据相较于其他数据来说具有较高的优先级。
在本实施例中，所述确定当前的渲染数据包括确定当前的UI数据，在本实施例中，可以通过UI线程利用一些预设的模块将生成的帧缓存数据确定为当前的UI数据。
在本实施例中，所述确定当前的渲染数据，可以包括：获取主机端发送的光标像素数据；所述光标像素数据为表征光标图像的像素值的数据；基于所述渲染数像素数据，并利用预设光标线程确定光标渲染数据；所述光标渲染数据包括光标的位置坐标数据、光标的分辨率数据以及光标的色彩模式数据。
可以理解的是，在云游戏的应用过程中，主机端为向客户端提供云游戏服务的一方，主机端会先将整个光标像素数据传送到客户端，在客户端收到光标像素数据后，利用光标线程将光标的位置坐标(x，y)、光标分辨率大小(w，h)以及光标argb数据发送至直接渲染管理器中，在一种具体的实施方式中，可以直接将这些光标渲染数据更新到直接渲染管理器中。
在本实施例中，所述确定当前的渲染数据，可以包括：获取主机端发送的视频码流；对所述视频码流进行硬件解码，以获取与所述视频码流对应的视频数据，并将所述视频数据作为视频渲染数据。
可以理解的是，在云游戏的应用过程中，主机端会先将视频编码为视频码流，并将视频码流传输到客户端，在客户端接收到视频码流后，会将视频进行硬件解码，以解码为相应的视频后，基于视频确定相应的视频渲染数据，并将视频渲染数据发送至直接渲染管理器中，在一种具体的实施方式中，可以直接将视频渲染数据更新到直接渲染管理器中。
在一种具体的实施方式中，在将UI数据、光标渲染数据、视频渲染数据更新到直接渲染管理器中后，以便当直接渲染管理器检测相应的到UI数据、光标数据、视频数据发生改变时，则会根据当前的这些渲染数据确定目标上屏数据，并将目标上屏数据进行提交，以利用目标上屏数据进行同步上屏。
步骤S12：通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据。
在本实施例中，所述通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据，还可以包括：当所述直接渲染管理器接收到所述视频渲染数据，则将所述视频渲染数据存放至预设栈中；相应的，所述从所述渲染数据中确定出目标上屏数据，包括：从所述预设栈中的全部视频渲染数据中确定出目标上屏数据。可以理解的是，本实施例中为视频渲染数据创建栈，用于存储接收到的视频渲染数据，并从这些视频渲染数据中确定出目标上屏数据。需要指出的是，在确定目标上屏数据后，会将上述目标上屏数据进行提交，以将目标上屏数据进行与当前图层进行合成，并上屏显示到显示器上。
在本实施例中，所述的渲染上屏方法，还可以包括：通过预设时间获取接口获取上屏周期；相应的，所述利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示，可以包括：基于所述上屏周期并利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。可以理解的是，本实施例中还为客户端设置了上屏周期，也就是说，在利用渲染数据进行上屏显示的过程中，会根据所述上屏周期进行显示屏中画面的更新。
在本实施例中，所述的渲染上屏方法，还可以包括：确定所述栈中的视频渲染数据的数据数量；若所述栈中的视频渲染数据的数据数量大于1，则从全部视频渲染数据中确定最新视频渲染数据，并将全部视频渲染数据中除所述最新视频渲染数据以外的视频渲染数据出栈。可以理解的是，在栈中的视频渲染数据的数据数量大于1时，则表示接收到了多个视频渲染数据，且由于入栈规则为尾部压栈，则表示这些视频渲染数据是以时间先后顺序存入栈中的，则此时可以从栈中确定出最新的视频渲染数据选择上屏，将其余的视频渲染数据出栈丢弃，以完成上屏数据的优化。可以理解的是，若栈中的视频渲染数据的数据数量为1时，可以直接将其确定为目标上屏数据。
需要指出的是，若目标上屏数据提交后，会将提交后的目标上屏数据出栈，也就是说当栈中的视频渲染数据的数据数量为1，并将其确定为目标上屏数据之后，会将其出栈；当栈中的视频渲染数据的数据数量大于1，并将最新的视频渲染数据确定为目标上屏数据并提交后，也会将其出栈。如图2所示为一种上屏优化策略的过程示意图，图中展示了在对视频进行硬解码后，以尾部压栈的方式将视频渲染数据FB0，FB1，FB2，FB3，FBX存放至预设的栈中，然后从栈中取出目标上屏数据进行渲染上屏，当栈中只有一个视频渲染数据时，将其出栈并上屏显示；当栈中有多个视频渲染数据时，则会根据栈内数据的缓存帧情况与显示周期确定用于上屏显示的目标上屏数据，并将其余的视频渲染数据出栈丢弃；当栈中由多个视频渲染数据，且解码器正在解码状态时，则表示除栈内数据之外还有最新的视频正在解码过程中，则将栈内的全部视频渲染数据出栈丢弃，并将最新帧确定为目标上屏数据进行上屏显示。也即，本实施例中用于上屏显示的目标上屏数据始终为当前最新的视频帧数据。
可以理解的是，本实施例中提出了一种上屏优化策略，可以在接收到视频渲染数据后，以尾部压栈的方式将视频渲染数据存入栈中，并将栈中最新的渲染数据确定为目标上屏数据，以确保每次上屏显示时都会以最新的视频渲染数据进行显示，可以保证客户端的高帧率性能，以完成对于上屏的优化。
步骤S13：利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。
在本实施例中，通过先确定当前的渲染数据，并将所述渲染数据发送至所述客户端系统中的直接渲染管理器中，所述渲染数据包括用户界面渲染数据、光标渲染数据以及视频渲染数据，然后通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据。接着利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。这样一来，本方案在确定当前的渲染数据后，会将渲染数据发送至所述客户端系统中的直接渲染管理器中，以便所述直接渲染管理器对这些渲染数据进行统一管理，避免了现有技术中底层框架下的上屏冲突。另外，本方案中提出了一种上屏优化策略，可以确保每次上屏显示时都会以最新的视频渲染数据进行显示，以完成对于上屏的优化，保持了客户端的高帧率性能。
图3为本申请实施例提供的一种具体的UI数据的确定方法的流程图。参见图3所示，该方法包括：
步骤S21：利用预先与图形化交互界面进行对接的第一接口与预先与开放式图形库进行对接的第二接口生成帧缓存数据。
在一种具体的实施方式中，所述预先与图形化交互界面进行对接的第一接口可以采用IMGUI的API(即Application Programming Interface，应用程序编程接口)接口，也可以是其他UI库的API接口，以便可以根据所述第一接口计算叠加图形文字等业务逻辑方面的处理。所述预先与开放式图形库进行对接的第二接口可以是OpenGL ES(OpenGL forEmbeded System)，OpenGL ES是OpenGL的精简子集，是以手持和嵌入式设备为目标的高级3D图形API，其支持桌面系统与多个平台。通过利用所述IMGUI的API接口与OpenGL ES即可生成framebuffer(即帧缓存)，以下将framebuffer简称为fb。
步骤S22：利用预设的第三接口获取所述帧缓存数据，并利用预设的通用缓存管理器，将所述帧缓存数据转换为带有预设标识的帧缓存数据；所述预设标识为所述直接渲染管理器可识别的标识。
在一种具体的实施方式中，所述第三接口可以是EGL，EGL可屏蔽不同平台上的区别，通过SWAP缓存，获取OpengGL的渲染结束后的framebuffer。然后通过GBM(即GenericBuffer Manager，通用缓存管理器)提供的抽象层，请求平台的底层内存管理系统的缓冲区，获取缓存，然后转换成直接渲染管理器可用的带有预设标识fb_id的drm fb。需要指出的是，本实施例中采用GBM以更好地实现与DRM的对接。
步骤S23：将所述带有预设标识的帧缓存数据作为当前的用户界面渲染数据。
在本实施例中，可以将所述带有预设标识的帧缓存数据(drm fb)作为当前的用户界面渲染数据。然后将drm fb发送至直接渲染管理器。
如图4为一种UI线程、光标线程、视频线程的工作流程示意图，ui-thread(即UI线程)通过步骤S11-S13的过程产生UI数据后，将所述UI数据更新至直接渲染管理器中的render线程中(即图中的render-thread)；cursor-thread(即光标线程)根据生成光标渲染数据后，将光标渲染数据更新至直接渲染管理器中的render线程中；vidio-thread(即视频线程)通过对视频码流进行硬件解码的相关过程生成视频渲染数据后，将视频渲染数据更新至直接渲染管理器中的render线程(即图中的render-thread)中。直接渲染管理器中的render线程会检查UI数据、光标数据、视频数据是否发生改变，如果发生了改变，就会按照预设上屏周期，并利用这些渲染数据，在预先连接的显示器上进行渲染上屏。
图5为本申请提出的一种数据渲染示意图，图中展示了通过利用DRM对光标、UI以及视频等三种渲染数据进行统一管理，并将这三种数据渲染上屏至显示器上的过程。图中对于UI数据的生成过程进行展开，即利用UI API接口、OpengGL、EGL、GBM生成UI数据。
本实施例中对用户界面渲染数据的确定过程进行详细展开，即通过利用UI API接口、OpengGL、EGL、GBM确定UI数据，避免了现有技术中采用较为庞大臃肿的SDL图形库而对部分模块进行精简处理，删除了一些不需要的冗余功能后，以更精简化的模块提升linux云游戏客户端性能，且现有开源linux UI框架中并不包括GBM模块，本方案加入了GBM模块以更好地跟视频的DRM进行对接，提升了云游戏串流客户端渲染的高性能优化，以促进云游戏系统的发展。
参见图6所示，本申请实施例公开了一种渲染上屏装置，具体可以包括：
渲染数据确定模块11，用于确定当前的渲染数据，并将所述渲染数据发送至所述客户端系统中的直接渲染管理器中；所述渲染数据包括用户界面渲染数据、光标渲染数据以及视频渲染数据；
上屏数据确定模块12，用于通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据；
上屏显示模块13，用于利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。
本申请通过先确定当前的渲染数据，并将所述渲染数据发送至所述客户端系统中的直接渲染管理器中，所述渲染数据包括用户界面渲染数据、光标渲染数据以及视频渲染数据，然后通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据。接着利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。这样一来，本方案在确定当前的渲染数据后，会将渲染数据发送至所述客户端系统中的直接渲染管理器中，以便所述直接渲染管理器对这些渲染数据进行统一管理，以精简的渲染流程避免了现有技术中底层框架下的上屏冲突。另外，本方案基于预设的上屏优化策略确定目标上屏数据，可以确保每次上屏显示时都会以最新的视频渲染数据进行显示，以完成对于上屏的优化。
在一些具体实施例中，所述渲染数据确定模块11中，包括：
第一帧缓存数据生成单元，用于利用预先与图形化交互界面进行对接的第一接口与预先与开放式图形库进行对接的第二接口生成帧缓存数据；
第二帧缓存数据生成单元，用于利用预设的第三接口获取所述帧缓存数据，并利用预设的通用缓存管理器，将所述帧缓存数据转换为带有预设标识的帧缓存数据；所述预设标识为所述直接渲染管理器可识别的标识；
用户界面渲染数据确定单元，用于将所述带有预设标识的帧缓存数据作为当前的用户界面渲染数据。
在一些具体实施例中，所述渲染数据确定模块11中，包括：
像素数据获取单元，用于获取主机端发送的光标像素数据；所述光标像素数据为表征光标图像的像素值的数据；
光标渲染数据确定单元，用于基于所述渲染数像素数据，并利用预设光标线程确定光标渲染数据；所述光标渲染数据包括光标的位置坐标数据、光标的分辨率数据以及光标的色彩模式数据。
在一些具体实施例中，所述渲染数据确定模块11中，包括：
视频码流获取单元，用于获取主机端发送的视频码流；
视频解码单元，用于对所述视频码流进行硬件解码，以获取与所述视频码流对应的视频数据，并将所述视频数据作为视频渲染数据。
在一些具体实施例中，所述渲染上屏装置，还包括：
数据存放单元，用于当所述直接渲染管理器接收到所述视频渲染数据，则将所述视频渲染数据存放至预设栈中；
视频上屏数据确定单元，用于从所述预设栈中的全部视频渲染数据中确定出目标上屏数据。
在一些具体实施例中，所述渲染上屏装置，还包括：
数量确定单元，用于确定所述栈中的视频渲染数据的数据数量；
最新数据确定单元，用于若所述栈中的视频渲染数据的数据数量大于1，则从全部视频渲染数据中确定最新视频渲染数据，并将全部视频渲染数据中除所述最新视频渲染数据以外的视频渲染数据出栈。
在一些具体实施例中，所述渲染上屏装置，还包括：
周期获取单元，用于通过预设时间获取接口获取上屏周期；
相应的，所述上屏显示模块13，包括：
周期应用单元，用于基于所述上屏周期并利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。
进一步的，本申请实施例还公开了一种电子设备，图7是根据示例性实施例示出的电子设备20结构图，图中的内容不能认为是对本申请的使用范围的任何限制。
图7为本申请实施例提供的一种电子设备20的结构示意图。该电子设备20，具体可以包括：至少一个处理器21、至少一个存储器22、电源23、显示屏24、输入输出接口25、通信接口26和通信总线27。其中，所述存储器22用于存储计算机程序，所述计算机程序由所述处理器21加载并执行，以实现前述任一实施例公开的渲染上屏方法中的相关步骤。另外，本实施例中的电子设备20具体可以为电子计算机。
本实施例中，电源23用于为电子设备20上的各硬件设备提供工作电压；通信接口26能够为电子设备20创建与外界设备之间的数据传输通道，其所遵循的通信协议是能够适用于本申请技术方案的任意通信协议，在此不对其进行具体限定；输入输出接口25，用于获取外界输入数据或向外界输出数据，其具体的接口类型可以根据具体应用需要进行选取，在此不进行具体限定。
另外，存储器22作为资源存储的载体，可以是只读存储器、随机存储器、磁盘或者光盘等，其上所存储的资源可以包括操作系统221、计算机程序222等，存储方式可以是短暂存储或者永久存储。
其中，操作系统221用于管理与控制电子设备20上的各硬件设备以及计算机程序222，其可以是Windows Server、Netware、Unix、Linux等。计算机程序222除了包括能够用于完成前述任一实施例公开的由电子设备20执行的渲染上屏方法的计算机程序之外，还可以进一步包括能够用于完成其他特定工作的计算机程序。
进一步的，本申请还公开了一种计算机可读存储介质，这里所说的计算机可读存储介质包括随机存取存储器(Random Access Memory，RAM)、内存、只读存储器(Read-OnlyMemory，ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、磁碟或者光盘或技术领域内所公知的任意其他形式的存储介质。其中，所述计算机程序被处理器执行时实现前述公开的渲染上屏方法。关于该方法的具体步骤可以参考前述实施例中公开的相应内容，在此不再进行赘述。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的渲染上屏方法、装置、设备、存储介质进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种渲染上屏方法，其特征在于，应用于客户端系统，包括：
确定当前的渲染数据，并将所述渲染数据发送至所述客户端系统中的直接渲染管理器中；所述渲染数据包括用户界面渲染数据、光标渲染数据以及视频渲染数据；
通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据；
利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。
2.根据权利要求1所述的渲染上屏方法，其特征在于，所述确定当前的渲染数据，包括：
利用预先与图形化交互界面进行对接的第一接口与预先与开放式图形库进行对接的第二接口生成帧缓存数据；
利用预设的第三接口获取所述帧缓存数据，并利用预设的通用缓存管理器，将所述帧缓存数据转换为带有预设标识的帧缓存数据；所述预设标识为所述直接渲染管理器可识别的标识；
将所述带有预设标识的帧缓存数据作为当前的用户界面渲染数据。
3.根据权利要求1所述的渲染上屏方法，其特征在于，所述确定当前的渲染数据，包括：
获取主机端发送的光标像素数据；所述光标像素数据为表征光标图像的像素值的数据；
基于所述渲染数像素数据，并利用预设光标线程确定光标渲染数据；所述光标渲染数据包括光标的位置坐标数据、光标的分辨率数据以及光标的色彩模式数据。
4.根据权利要求1所述的渲染上屏方法，其特征在于，所述确定当前的渲染数据，包括：
获取主机端发送的视频码流；
对所述视频码流进行硬件解码，以获取与所述视频码流对应的视频数据，并将所述视频数据作为视频渲染数据。
5.根据权利要求1所述的渲染上屏方法，其特征在于，所述通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据，还包括：
当所述直接渲染管理器接收到所述视频渲染数据，则将所述视频渲染数据存放至预设栈中；
从所述预设栈中的全部视频渲染数据中确定出目标上屏数据。
6.根据权利要求5所述的渲染上屏方法，其特征在于，还包括：
确定所述栈中的视频渲染数据的数据数量；
若所述栈中的视频渲染数据的数据数量大于1，则从全部视频渲染数据中确定最新视频渲染数据，并将全部视频渲染数据中除所述最新视频渲染数据以外的视频渲染数据出栈。
7.根据权利要求1至6任一项所述的渲染上屏方法，其特征在于，还包括：
通过预设时间获取接口获取上屏周期；
相应的，所述利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示，包括：
基于所述上屏周期并利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。
8.一种渲染上屏装置，其特征在于，应用于客户端系统，包括：
渲染数据确定模块，用于确定当前的渲染数据，并将所述渲染数据发送至所述客户端系统中的直接渲染管理器中；所述渲染数据包括用户界面渲染数据、光标渲染数据以及视频渲染数据；
上屏数据确定模块，用于通过所述直接渲染管理器并利用预设上屏优化策略，从所述渲染数据中确定出目标上屏数据；
上屏显示模块，用于利用所述目标上屏数据与当前图层进行合并，并将合并后的图层发送至预设显示屏中进行显示。
9.一种电子设备，其特征在于，包括处理器和存储器；其中，所述处理器执行所述存储器中保存的计算机程序时实现如权利要求1至7任一项所述的渲染上屏方法。
10.一种计算机可读存储介质，其特征在于，用于存储计算机程序；其中，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的渲染上屏方法。
CN202210373117.9A 2022-04-11 2022-04-11 一种渲染上屏方法、装置、设备及介质 Pending CN114840159A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210373117.9A CN114840159A (zh) 2022-04-11 2022-04-11 一种渲染上屏方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210373117.9A CN114840159A (zh) 2022-04-11 2022-04-11 一种渲染上屏方法、装置、设备及介质

Publications (1)

Publication Number Publication Date
CN114840159A true CN114840159A (zh) 2022-08-02

Family

ID=82564449

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210373117.9A Pending CN114840159A (zh) 2022-04-11 2022-04-11 一种渲染上屏方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN114840159A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116048532A (zh) * 2023-04-03 2023-05-02 深圳市启明智显科技有限公司 基于web的嵌入式UI效果模拟预览方法、装置及系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116048532A (zh) * 2023-04-03 2023-05-02 深圳市启明智显科技有限公司 基于web的嵌入式UI效果模拟预览方法、装置及系统
CN116048532B (zh) * 2023-04-03 2023-06-09 深圳市启明智显科技有限公司 基于web的嵌入式UI效果模拟预览方法、装置及系统

Similar Documents

Publication Publication Date Title
CN111882626B (zh) 图像处理方法、装置、服务器及介质
US10356467B2 (en) Virtual user interface including playback control provided over computer network for client device playing media from another source
WO2021135160A1 (zh) 游戏直播控制方法及装置、计算机存储介质、电子设备
JP4901261B2 (ja) 高品質なユーザーインターフェイスによる効率的な遠隔表示を行なうシステム
US7401116B1 (en) System and method for allowing remote users to specify graphics application parameters for generation of interactive images
US11838335B2 (en) Virtual computing system providing local screen sharing from hosted collaboration applications and related methods
US9049341B2 (en) Method and apparatus for video resource management in video conference
WO2022193595A1 (zh) 对象播放方法及装置
US20150012831A1 (en) Systems and methods for sharing graphical user interfaces between multiple computers
US20230215076A1 (en) Image frame display method, apparatus, device, storage medium, and program product
CN112905210A (zh) 服务器及灰度发布方法
CN112947905B (zh) 一种图片加载方法、装置
CN116319790A (zh) 全真场景的渲染方法、装置、设备和存储介质
CN114116092A (zh) 云桌面系统处理方法、云桌面系统控制方法以及相关设备
CN114840159A (zh) 一种渲染上屏方法、装置、设备及介质
CN113778593B (zh) 云桌面控制方法、装置、电子设备、存储介质及程序产品
WO2016066056A1 (zh) 图像远程投射方法、服务器和客户端
WO2023116090A1 (zh) 视频同步播放方法及装置、存储介质、电子设备
CN110990109A (zh) 一种拼接屏回显方法、终端、系统及存储介质
US8046698B1 (en) System and method for providing collaboration of a graphics session
WO2014029091A1 (zh) 窗口图像的传输方法、显示方法、终端、服务器及系统
WO2022228521A1 (zh) 渲染方法及其装置、计算机设备、存储介质
WO2023029603A1 (zh) 数据传输方法、会议终端设备、移动设备和存储介质
CN114125327A (zh) 一种视频切换方法、系统及存储介质和终端设备
CN114745567A (zh) 一种视频显示方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination