CN115022678B - 图像处理方法、系统、装置、设备及存储介质 - Google Patents

Abstract

本公开提供了一种图像处理方法、系统、装置、设备及存储介质，涉及图像处理领域。该方法包括：获取第一图像以及图像超分信息；根据所述图像超分信息对所述第一图像进行前期超分，得到第二图像，所述前期超分包括顶点超分处理以及纹理超分处理；将所述第二图像发送至所述云终端，以使所述云终端对所述第二图像进行后期超分，并将超分后的第二图像进行显示，所述后期超分包括几何着色处理、光栅化处理以及片段着色处理。本公开克服了云终端播放的视频可能会出现卡顿的问题。

Description

图像处理方法、系统、装置、设备及存储介质

技术领域

本公开涉及图像处理领域，尤其涉及一种图像处理方法、系统、装置、设备及存储介质。

背景技术

云终端，就是将云计算技术运用于网络终端服务，通过云服务器实现云服务的终端。

当前云终端在进行视频业务时，通常是由云服务器将视频对应的原始码流传送到云终端，然后由云终端对原始视频码流进行解码、超分还原、画面渲染等操作，然后将操作完成的视频在云终端的屏幕上进行投放。但是这种视频处理方法存在以下问题：

1)使用的时延较高：云终端需要进行解码、超分还原、画面渲染等操作，每一个步骤都会产生时延，导致云终端播放的视频可能会出现卡顿的现象，降低了用户的体验；

2)云平台在向云终端传送原始视频码流时，由于原始视频码流码率较高，所以需要占用大量的带宽，导致在网络质量较差时，发生丢包等情况，导致云终端播放的视频可能会出现卡顿的现象，降低了用户的体验。

发明内容

本公开提供一种图像处理方法、系统、装置、设备及存储介质，至少在一定程度上克服相关技术中云终端播放的视频卡顿的问题。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一个方面，提供一种图像处理方法，应用于云平台，包括：

获取第一图像以及图像超分信息；

根据图像超分信息对第一图像进行前期超分，得到第二图像；

将第二图像发送至云终端，以使云终端对第二图像进行后期超分，并将超分后的第二图像进行显示。

在本公开的一个实施例中，在获取第一图像以及图像超分信息之前，图像处理方法还包括：

接收云终端发送的用户指令；

获取第一图像以及图像超分信息，包括：

根据用户指令确定第一图像以及图像超分信息。

在本公开的一个实施例中，图像处理方法还包括：

在确定用户请求的第三图像为第一图像相邻的后一帧图像的情况下，根据第三图像与第一图像的差别确定第三图像中待更新的图元，将待更新的图元进行前期超分，得到图元信息，图元信息包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色信息，前期超分包括顶点超分处理以及纹理超分处理；

将待更新的图元信息发送至云终端，以使云终端根据图元信息对第二图像中与图元标识对应的图元进行更新，将更新后的图元进行后期超分，并显示超分后的第四图像，后期超分包括几何着色处理、光栅化处理以及片段着色处理。

根据本公开的另一个方面，提供一种图像处理方法，应用于云终端，包括：接收云平台发送的第二图像，第二图像为云平台根据图像超分信息对第一图像进行前期超分得到的；

将第二图像进行后期超分，并显示超分后的第二图像。

在本公开的一个实施例中，在接收云平台发送的第二图像之前，图像处理方法还包括：

响应于用户的操作生成用户指令；

将用户指令发送至云平台，以使云平台根据用户指令确定第一图像以及图像超分信息。

在本公开的一个实施例中，图像处理方法还包括：

接收云平台发送的图元信息，图元信息是云平台在确定用户请求的第三图像为第一图像相邻的后一帧图像的情况下，根据第三图像与第一图像的差别确定第三图像中需要更新的图元，并对图元进行前期超分得到的；图元信息包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色，前期超分包括顶点超分处理以及纹理超分处理；

根据图元信息对第二图像中与图元标识对应的图元进行更新，得到更新后的第五图像；

将第五图像中更新后的图元进行后期超分，得到第四图像，后期超分包括几何着色处理、光栅化处理以及片段着色处理；

显示第四图像。

根据本公开的再一个方面，提供一种图像处理系统，包括云平台以及与云平台通信连接的云终端；

其中，云平台用于获取第一图像以及图像超分信息，以及根据图像超分信息对第一图像进行前期超分，得到第二图像，以及将第二图像发送至云终端；

云终端用于接收云平台发送的第二图像，然后将第二图像进行后期超分，并显示超分后的第二图像。

在本公开的一个实施例中，云平台还包括：虚拟机以及图像渲染器；

其中，虚拟机用于接收云终端发送的用户指令，以及根据用户指令确定第一图像以及图像超分信息，然后将第一图像以及图像超分信息发送至图像渲染器；

图像渲染器用于根据图像超分信息对第一图像进行前期超分，得到第二图像，然后将第二图像发送至云终端，前期超分包括顶点超分处理以及纹理超分处理。

在本公开的一个实施例中，后期超分包括几何着色处理、光栅化处理以及片段着色处理。

根据本公开的又一个方面，提供一种图像处理装置，应用于云平台，包括：

第一获取模块，用于获取第一图像以及图像超分信息；

第一超分模块，用于根据图像超分信息对第一图像进行前期超分，得到第二图像；

第一发送模块，用于将第二图像发送至云终端，以使云终端对第二图像进行后期超分，并将超分后的第二图像进行显示。

在本公开的一个实施例中，图像处理装置还包括：

第二接收模块，在获取第一图像以及图像超分信息之前，用于接收云终端发送的用户指令；

第一获取模块，包括：

第一获取单元，用于根据用户指令确定第一图像以及图像超分信息。

在本公开的一个实施例中，图像处理装置还包括：

第一确定模块，用于在确定用户请求的第三图像为第一图像相邻的后一帧图像的情况下，根据第三图像与第一图像的差别确定第三图像中需要更新的图元，并对待更新的图元进行前期超分，得到图元信息，图元信息包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色信息，前期超分包括顶点超分处理以及纹理超分处理；

第二发送模块，用于将待更新的图元信息发送至云终端，以使云终端根据图元信息对第二图像中与图元标识对应的图元进行更新，将更新后的图元进行后期超分，并显示超分后的第四图像，后期超分包括几何着色处理、光栅化处理以及片段着色处理。

根据本公开的又一个方面，提供一种图像处理装置，应用于云终端，包括：

第一接收模块，用于接收云平台发送的第二图像，第二图像为云平台根据图像超分信息对第一图像进行前期超分得到的；

第二超分模块，用于将第二图像进行后期超分，并显示超分后的第二图像。

在本公开的一个实施例中，图像处理装置还包括：

生成模块，用于响应于用户的操作生成用户指令；

第三发送模块，用于将用户指令发送至云平台，以使云平台根据用户指令确定第一图像以及图像超分信息。

图像处理装置还包括：

第三接收模块，用于接收云平台发送的图元信息，图元信息是云平台在确定用户请求的第三图像为第一图像相邻的后一帧图像的情况下，根据第三图像与第一图像的差别确定第三图像中需要更新的图元，并对图元进行前期超分得到的；图元信息包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色，前期超分包括顶点超分处理以及纹理超分处理；

更新模块，用于根据图元信息对第二图像中与图元标识对应的图元进行更新，得到更新后的第五图像；

第三超分模块，用于将第五图像中更新后的图元进行后期超分，得到第四图像，后期超分包括几何着色处理、光栅化处理以及片段着色处理；

显示模块，用于显示第四图像。

根据本公开的又一个方面，提供一种电子设备，包括：处理器；以及存储器，用于存储处理器的可执行指令；其中，处理器配置为经由执行可执行指令来执行上述的图像处理方法。

根据本公开的又一个方面，提供一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述的图像处理方法。

本公开的实施例所提供的图像处理方法、系统、装置、设备及计算机可读存储介质，通过获取第一图像以及第一图像的超分信息，然后根据第一图像的超分信息进行前期超分，得到第二图像。然后将第二图像发送至云终端，使得云终端在对第二图像进行后期超分，然后将后期超分后的第二图像进行显示。由此，由于是在云平台进行前期超分，在云终端进行后期超分，所以避免了在云终端进行全部超分过程所带来的高延时的问题，并且，由于是云平台将前期超分后的第二图像发送至云终端，所以避免了云平台向云终端发送原始视频码流所导致的占用带宽较高，容易发生丢包的问题。整体上克服了相关技术中云终端播放的视频卡顿的问题，提高了用户的体验。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出本公开实施例中一种常规图像处理方法的流程示意图；

图2示出本公开实施例中一种图像处理系统结构的示意图；

图3示出本公开实施例中另一种图像处理系统结构的示意图；

图4示出本公开实施例中一种图像处理方法流程图；

图5示出本公开实施例中另一种图像处理方法流程图；

图6示出本公开实施例中另一种图像处理系统交互流程图；

图7示出本公开实施例中一种图像处理装置示意图；

图8示出本公开实施例中另一种图像处理装置示意图；

图9示出本公开实施例中一种电子设备的结构框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。

需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。

需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。

背景技术中已经对当前通用的图像处理方法进行了简单的介绍，为了对当前通用的图像处理方法进行详细的说明，本公开实施例中提供了一种常规图像处理方法的流程示意图，如图1所示，当前通用的图像处理方法可以包括：

S110，云平台端获取图像；

S120，云平台将获取的图像进行画面渲染；

S130，云平台将渲染后的画面进行捕捉，得到图像编码；

S140，云平台将图像编码发送到云终端；

S150，云终端在接收到图像编码后对图像进行解码，得到解码后的图像；

S160，云终端将解码后的图像进行超分，得到超分后的图像；

S170，云终端将超分后的图像进行显示。

其中，云平台是将图像编码即原始图像码流发送到云终端上的，当图像为视频中的任意一帧图像时，由于视频的码流较高，单个图像码流占用的带宽较大，所以视频的码流传输需要占用大量的带宽。在这种情况下，在用户所处的网络环境较差的情况下，就容易使得视频码流发生丢包。

并且，在上述实施例中，图像的超分过程完全由云终端完成，云终端需要对图像编码进行解码、超分还原、画面渲染等多个操作，而每个操作均需要一定的时间，所以就会使得云终端处理图像的时间较长，产生了大量的时延。而以上两种情况都会在云终端播放视频的过程中，造成视频的卡顿，使得用户的体验降低。

为了解决上述问题，本公开提供了一种图像处理方法、系统、装置、设备及存储介质。

下面，首先对本公开提供的图像处理系统进行说明。

图2示出了可以应用于本公开实施例的图像处理方法或图像处理装置的示例性系统结构的示意图。

如图2所示，图像处理系统20可以包括云平台201以及与云平台201通信连接的云终端202；

其中，云平台201用于获取第一图像以及图像超分信息，以及根据图像超分信息对第一图像进行前期超分，得到第二图像，以及将第二图像发送至云终端，前期超分包括顶点超分处理以及纹理超分处理；

云终端202用于接收云平台发送的第二图像，然后将第二图像进行后期超分，并显示超分后的第二图像，后期超分包括几何着色处理、光栅化处理以及片段着色处理。

其中，图像超分信息可以包括对应第一图像的第一图像的第一分辨率以及对第一图像进行超分之后，所需要达到的第二分辨率。

顶点超分处理可以包括根据第一分辨率与第二分辨率的变化将第一图像划分成多个图元，然后获取超分前的图元的顶点坐标，然后根据上述第一分辨率与第二分辨率的变化对图元的顶点坐标进行变化，得到调整后的图元的顶点坐标。

纹理超分处理可以包括根据画面的变化确定与画面变化对应的超分算法，然后对超分变化后的第一图像中的画面空缺出进行像素复制、渐变以及色域变换等操作。

其中，云终端202可以包括能够接收图像信息并对图像信息进行超分和显示处理的智能终端。

作为一个示例，云终端202包括但不限于智能手机、平板电脑、膝上型便携计算机、台式计算机、可穿戴设备、增强现实设备、虚拟现实设备等。

作为一个示例，通信连接可以包括无线通信连接和有线通信连接，其中，无线通信连接包括利用无线网络连接，有线通信连接包括利用有线网进行连接。上述的无线网络或有线网络使用标准通信技术和/或协议。网络通常为因特网、但也可以是任何网络，包括但不限于局域网(Local Area Network，LAN)、城域网(Metropolitan Area Network，MAN)、广域网(Wide Area Network，WAN)、移动、有线或者无线网络、专用网络或者虚拟专用网络的任何组合)。在一些实施例中，使用包括超文本标记语言(Hyper Text Mark-up Language，HTML)、可扩展标记语言(Extensible MarkupLanguage，XML)等的技术和/或格式来代表通过网络交换的数据。此外还可以使用诸如安全套接字层(Secure Socket Layer，SSL)、传输层安全(Transport Layer Security，TLS)、虚拟专用网络(Virtual Private Network，VPN)、网际协议安全(Internet ProtocolSecurity，IPsec)等常规加密技术来加密所有或者一些链路。在另一些实施例中，还可以使用定制和/或专用数据通信技术取代或者补充上述数据通信技术。

图3示出了可以应用于本公开实施例的图像处理方法或图像处理装置的示例性另一种系统架构的示意图。

如图3所示，云平台201还可以包括：虚拟机2011以及图像渲染器2012；

其中，虚拟机2011用于接收云终端202发送的用户指令，以及根据用户指令确定第一图像以及图像超分信息，然后将第一图像以及图像超分信息发送至图像渲染器2012；

图像渲染器2012用于根据图像超分信息对第一图像进行前期超分，得到第二图像，然后将第二图像发送至云终端202，前期超分包括顶点超分处理以及纹理超分处理。

作为一个示例，虚拟机可以包括通过x86/ARM服务器模拟的Android手机。

图像渲染器可以包括服务器的GPU硬件。

基于相同的发明构思，本公开实施例中提供了一种图像处理方法，应用于云平台，该方法可以由任意具备计算处理能力的电子设备执行。

图4示出了本公开实施例中一种图像处理方法流程图，如图3所示，本公开实施例中提供的图像处理方法包括如下步骤：

S402，获取第一图像以及图像超分信息；

S404，根据图像超分信息对第一图像进行前期超分，得到第二图像。

其中，前期超分包括顶点超分处理以及纹理超分处理；

S406，将第二图像发送至云终端，以使云终端对第二图像进行后期超分，并将超分后的第二图像进行显示。

其中，后期超分包括几何着色处理、光栅化处理以及片段着色处理。

本公开的实施例所提供的图像处理方法通过获取第一图像以及第一图像的超分信息，然后根据第一图像的超分信息进行前期超分，得到第二图像。然后将第二图像发送至云终端，使得云终端在对第二图像进行后期超分，然后将后期超分后的第二图像进行显示。由此，由于是在云平台进行前期超分，在云终端进行后期超分，所以避免了在云终端进行全部超分过程所带来的高延时的问题，并且，由于是云平台将前期超分后的第二图像发送至云终端，所以避免了云平台向云终端发送原始视频码流所导致的占用带宽较高，容易发生丢包的问题。整体上克服了相关技术中云终端播放的视频卡顿的问题，提高了用户的体验。

在S402中，第一图像可以包括超分前的图像。

作为一个示例，第一图像可以是分辨率为1080P的图像，第二图像可以是分辨率为4K分辨率的图像，图像超分信息可以是用于指示将分辨率为1080P的第一图像超分为4K的第二图像的信息。

在S406中，第二图像已经做了具体的解释，此处不再赘述。

其中，云终端为具备显示功能的终端。

上述实施例中，几何着色处理、光栅化处理、片段着色处理、顶点超分处理和纹理超分处理均为本领域常用的技术手段，此处不再赘述。

在一些实施例中，在S402之前，图像处理方法还可以包括：

接收云终端发送的用户指令；

获取第一图像以及图像超分信息，包括：

根据用户指令确定第一图像以及图像超分信息。

其中，用户指令可以包括用户对云终端的点击，拖动等操作。

作为一个示例，在云平台接收到云终端发送的用户指令之后，可以根据用户指令与图像以及图像的超分信息的对应的关系，通过用户指令确定用户请求的图像以及图像的超分信息。

作为一个示例，由云平台上的虚拟机接收用户指令，然后虚拟机根据用户指令确定用户请求的图像以及图像的超分信息，然后将用户请求的图像以及图像的超分信息发送至图像渲染器。

在一些实施例中，图像处理方法还可以包括：

在确定用户请求的第三图像为第一图像相邻的后一帧图像的情况下，根据第三图像与第一图像的差别确定第三图像中待更新的图元，将待更新的图元进行前期超分，得到图元信息，图元信息包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色信息，前期超分包括顶点超分处理以及纹理超分处理；

将待更新的图元信息发送至云终端，以使云终端根据图元信息对第二图像中与图元标识对应的图元进行更新，将更新后的图元进行后期超分，并显示超分后的第四图像，后期超分包括几何着色处理、光栅化处理以及片段着色处理。

其中，第三图像为与第一图像相邻的后一帧图像的情况可以包括：用户请求的是一段视频，而第三图像与第一图像均为视频里的某一帧图像，且第三图像为与第一图像相临的下一帧图像。

其中，确定第三图像与第一图像的差别的方法为本领域中常用的方法，此处不再赘述。

作为一个示例，在同一个视频中，通常情况下，相邻的帧图像之间仅具有较小的差别。而差别也仅在于图像之间具有一定数量的不相同的图元。

在上述实施例中，当识别到第一图像与第三图像具有差别的图元的情况下，可以仅对差别的图元进行改变。即云平台将具有差别的图元的图元信息，包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色信息发送至云终端。

云终端在接收到图元信息之后，可以根据图元信息中的图元的标识确定第三图像中与第一图像具有差别的图元。然后将具有差别的图元根据图元信息进行更新，然后将更新后的图元进行超分。

通过上述实施例中仅将处于同一视频的相邻的两帧图像中具有差别的图元在云平台进行前期超分，然后将前期超分后得到的图元信息发送至云终端，以使云终端根据图元信息对位于后方的图像中与图元信息对应的图元进行更新，然后对上述图元进行后期超分。由此，由于是仅将具有差别的图元在云平台进行前期超分，并且将得到的图元信息发送至云终端避免了云平台将图像的全部图元发送至云终端所导致的占用带宽较大的问题，同时也在一定程度上降低了云终端处理的任务量，提高了处理的效率，整体上避免了云终端在播放视频时会出现卡顿的问题。

基于相同的发明构思，本公开实施例中提供了另一种图像处理方法，应用于云终端，该方法可以由任意具备计算处理能力的电子设备执行。

如图5所示，方法可以包括：

S502，接收云平台发送的第二图像，第二图像为云平台根据图像超分信息对第一图像进行前期超分得到的；

其中，前期超分包括顶点超分处理以及纹理超分处理。

S504，将第二图像进行后期超分，并显示超分后的第二图像。

其中，后期超分包括几何着色处理、光栅化处理以及片段着色处理。

本公开的实施例所提供的图像处理方法通过获取第一图像以及第一图像的超分信息，然后根据第一图像的超分信息进行前期超分，得到第二图像。然后将第二图像发送至云终端，使得云终端在对第二图像进行后期超分，然后将后期超分后的第二图像进行显示。由此，由于是在云平台进行前期超分，在云终端进行后期超分，所以避免了在云终端进行全部超分过程所带来的高延时的问题，并且，由于是云平台将前期超分后的第二图像发送至云终端，所以避免了云平台向云终端发送原始视频码流所导致的占用带宽较高，容易发生丢包的问题。整体上克服了相关技术中云终端播放的视频卡顿的问题，提高了用户的体验。

在一些实施例中，在S502之前，图像处理方法还可以包括：

响应于用户的操作生成用户指令；

将用户指令发送至云平台，以使云平台根据用户指令确定第一图像以及图像超分信息。

在一些实施例中，图像处理方法还可以包括

接收云平台发送的图元信息，图元信息是云平台在确定用户请求的第三图像为第一图像相邻的后一帧图像的情况下，根据第三图像与第一图像的差别确定第三图像中需要更新的图元，并对图元进行前期超分得到的；图元信息包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色，前期超分包括顶点超分处理以及纹理超分处理；

根据图元信息对第二图像中与图元标识对应的图元进行更新，得到更新后的第五图像；

将第五图像中更新后的图元进行后期超分，得到第四图像，后期超分包括几何着色处理、光栅化处理以及片段着色处理；

显示第四图像。

上述实施例已经对本实施例进行了详细的描述，此处不再赘述。

通过本实施例中仅将处于同一视频的相邻的两帧图像中具有差别的图元在云平台进行前期超分，然后将前期超分后得到的图元信息发送至云终端，以使云终端根据图元信息对位于后方的图像中与图元信息对应的图元进行更新，然后对上述图元进行后期超分。由此，由于是仅将具有差别的图元在云平台进行前期超分，并且将得到的图元信息发送至云终端避免了云平台将图像的全部图元发送至云终端所导致的占用带宽较大的问题，同时也在一定程度上降低了云终端处理的任务量，提高了处理的效率，整体上避免了云终端在播放视频时会出现卡顿的问题。

基于相同的发明构思，本公开实施例中提供了一种图像处理交互方法，应用于图像处理系统，该方法可以由任意具备计算处理能力的电子设备执行。

如图6所示，方法可以包括：

云终端接收用户的输入指令，然后发送输入指令到云平台的虚拟机；

虚拟机接收到输入指令之后，根据输入指令确定需要处理的图像以及图像超分信息；

虚拟机将需要处理的图像以及图像超分信息写入顶点缓冲区；

顶点缓冲区执行顶点着色处理、纹理计算处理、顶点超分处理、纹理超分处理以及图元变换反馈处理的操作，将图元装配，得到超分图元信息；

顶点缓冲区将超分图元信息发送至云终端；

云终端进行光栅化处理、超分片段着色处理，得到处理完成的图像；

云终端将处理完成的图像发送至云终端的写帧数据区以使云终端对处理完成的图像进行显示。

其中，顶点缓冲区包括图像处理器的顶点缓冲区，顶点超分处理包括顶点着色处理以及顶点超分处理，纹理超分包括纹理计算处理以及纹理超分处理。

图元变换反馈包括确定同一视频中相邻的两帧图像差别的图元，图元信息包括超分图元信息。

超分片段着色处理包括几何着色处理以及片段着色处理。

作为一个示例，云终端接收到用户的输入指令，如点击、拖动操作之后，将收集到的输入指令传输到云平台的虚拟机，然后云平台的虚拟机将需要超分的图像以及图像超分信息写入云平台的画面渲染器的顶点缓冲区。

画面渲染器根据图像超分信息确定图像的原始分辨率以及需要超分到的分辨率。然后画面渲染器确定图像的图元顶点的坐标，如：[(300,300),(600,300),(300,700),(600,700)]，然后画面渲染器将图元顶点的坐标改变为需要改变的颜色，并确定纹理的变化。然后根据原始图元顶点的坐标以及图像的原始分辨率以及需要超分到的分辨率的差别，如将图像从1080P的分辨率超分为4K分辨率。此时对顶点超分需要将图元的坐标改变为(640,600),(1280,600),(640,1400),(1280,1400)，然后基于纹理的变化确定超分算法，其中纹理的变化包括渐变等，基于纹理的变化确定超分算法为本领域常规算法，此处不再赘述。在选择超分算法后对纹理进行拉伸后的图像中的空缺处进行补全。

然后根据上述图像上一帧的图像与上述图像确定变化的图元。然后将变化图元的顶点以及变化信息发送至云终端。

在云终端接收到上述信息之后，将需要超分的图元转化为一组二维的片段，片段代表需要绘制的像素，并交给片段着色器上色。

然后完后才能超分光栅化，然后选择超分算法。在超分之后写帧数据区，将超分完成的图像进行显示。

基于同一发明构思，本公开实施例中还提供了一种图像处理装置，应用于云平台，如下面的实施例。由于该装置实施例解决问题的原理与上述方法实施例相似，因此该装置实施例的实施可以参见上述方法实施例的实施，重复之处不再赘述。

图7示出本公开实施例中一种图像处理装置示例图，如图7所示，该图像处理装置700，可以包括：

第一获取模块702，用于获取第一图像以及图像超分信息；

第一超分模块704，用于根据图像超分信息对第一图像进行前期超分，得到第二图像；

第一发送模块706，用于将第二图像发送至云终端，以使云终端对第二图像进行后期超分，并将超分后的第二图像进行显示。

在一些实施例中，图像处理装置700还可以包括：

第二接收模块，在获取第一图像以及图像超分信息之前，可以用于接收云终端发送的用户指令；

第一获取模块702，可以包括：

第一获取单元，可以用于根据用户指令确定第一图像以及图像超分信息。

在一些实施例中，图像处理装置700还可以包括：

第一确定模块，可以用于在确定用户请求的第三图像为第一图像相邻的后一帧图像的情况下，根据第三图像与第一图像的差别确定第三图像中待更新的图元信息，图元信息包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色信息，前期超分包括顶点超分处理以及纹理超分处理；

第二发送模块，可以用于将待更新的图元信息发送至云终端，以使云终端根据图元信息对第二图像中与图元标识对应的图元进行更新，将更新后的图元进行后期超分，并显示超分后的第四图像，后期超分包括几何着色处理、光栅化处理以及片段着色处理。

本公开的实施例所提供的图像处理装置，通过获取第一图像以及第一图像的超分信息，然后根据第一图像的超分信息进行前期超分，得到第二图像。然后将第二图像发送至云终端，使得云终端在对第二图像进行后期超分，然后将后期超分后的第二图像进行显示。由此，由于是在云平台进行前期超分，在云终端进行后期超分，所以避免了在云终端进行全部超分过程所带来的高延时的问题，并且，由于是云平台将前期超分后的第二图像发送至云终端，所以避免了云平台向云终端发送原始视频码流所导致的占用带宽较高，容易发生丢包的问题。整体上克服了相关技术中云终端播放的视频卡顿的问题，提高了用户的体验。

基于同一发明构思，本公开实施例中还提供了一种图像处理装置，应用于云终端，如下面的实施例。由于该装置实施例解决问题的原理与上述方法实施例相似，因此该装置实施例的实施可以参见上述方法实施例的实施，重复之处不再赘述。

图8示出本公开实施例中一种图像处理装置示例图，如图8所示，该图像处理装置800，可以包括：

第一接收模块802，用于接收云平台发送的第二图像，第二图像为云平台根据图像超分信息对第一图像进行前期超分得到的；

第二超分模块804，用于将第二图像进行后期超分，并显示超分后的第二图像。

在一些实施例中，图像处理装置800还可以包括：

生成模块，可以用于响应于用户的操作生成用户指令；

第三发送模块，可以用于将用户指令发送至云平台，以使云平台根据用户指令确定第一图像以及图像超分信息。

图像处理装置800还可以包括：

第三接收模块，可以用于接收云平台发送的图元信息，图元信息是云平台在确定用户请求的第三图像为第一图像相邻的后一帧图像的情况下，根据第三图像与第一图像的差别确定第三图像中需要更新的图元信息；图元信息包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色，前期超分包括顶点超分处理以及纹理超分处理；

更新模块，可以用于根据图元信息对第二图像中与图元标识对应的图元进行更新，得到更新后的第五图像；

第三超分模块，可以用于将第五图像中更新后的图元进行后期超分，得到第四图像，后期超分包括几何着色处理、光栅化处理以及片段着色处理；

显示模块，可以用于显示第四图像。

本公开的实施例所提供的图像处理装置，通过获取第一图像以及第一图像的超分信息，然后根据第一图像的超分信息进行前期超分，得到第二图像。然后将第二图像发送至云终端，使得云终端在对第二图像进行后期超分，然后将后期超分后的第二图像进行显示。由此，由于是在云平台进行前期超分，在云终端进行后期超分，所以避免了在云终端进行全部超分过程所带来的高延时的问题，并且，由于是云平台将前期超分后的第二图像发送至云终端，所以避免了云平台向云终端发送原始视频码流所导致的占用带宽较高，容易发生丢包的问题。整体上克服了相关技术中云终端播放的视频卡顿的问题，提高了用户的体验。

本公开实施例提供的图像处理装置，可以用于执行上述各方法实施例提供的定位方法，其实现原理和技术效果类似，为简便起见，在此不再赘述。

所属技术领域的技术人员能够理解，本公开的各个方面可以实现为系统、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

下面参照图9来描述根据本公开的这种实施方式的电子设备900。图9显示的电子设备900仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图9所示，电子设备900以通用计算设备的形式表现。电子设备900的组件可以包括但不限于：上述至少一个处理单元910、上述至少一个存储单元920、连接不同系统组件(包括存储单元920和处理单元910)的总线930。

其中，存储单元存储有程序代码，程序代码可以被处理单元910执行，使得处理单元910执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如，处理单元910可以执行上述方法实施例的如下步骤：获取第一图像以及图像超分信息；

根据图像超分信息对第一图像进行前期超分，得到第二图像，前期超分包括顶点超分处理以及纹理超分处理；

将第二图像发送至云终端，以使云终端对第二图像进行后期超分，并将超分后的第二图像进行显示，后期超分包括几何着色处理、光栅化处理以及片段着色处理。以及，

接收云平台发送的第二图像，第二图像为云平台根据图像超分信息对第一图像进行前期超分得到的，前期超分包括顶点超分处理以及纹理超分处理；

将第二图像进行后期超分，并显示超分后的第二图像，后期超分包括几何着色处理、光栅化处理以及片段着色处理。

存储单元920可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)9201和/或高速缓存存储单元9202，还可以进一步包括只读存储单元(ROM)9203。

存储单元920还可以包括具有一组(至少一个)程序模块9205的程序/实用工具9204，这样的程序模块9205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线930可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备900也可以与一个或多个外部设备940(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备900交互的设备通信，和/或与使得该电子设备900能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口950进行。并且，电子设备900还可以通过网络适配器960与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器960通过总线930与电子设备900的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备900使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。

在本公开的示例性实施例中，还提供了一种计算机可读存储介质，该计算机可读存储介质可以是可读信号介质或者可读存储介质。其上存储有能够实现本公开上述方法的程序产品。在一些可能的实施方式中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。

本公开中的计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

在本公开中，计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可选地，计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

在具体实施时，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

此外，尽管在附图中以特定顺序描述了本公开中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。

通过以上实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由所附的权利要求指出。

Claims (13)

1.一种图像处理方法，其特征在于，应用于云平台，包括：

获取第一图像以及图像超分信息，所述图像超分信息包括对应第一图像的第一图像的第一分辨率以及对第一图像进行超分之后，所需要达到的第二分辨率；

根据所述图像超分信息对所述第一图像进行前期超分，在选择超分算法后对纹理拉伸后的图像中的空缺处进行补全，得到第二图像；

将所述第二图像发送至云终端，以使所述云终端对所述第二图像进行后期超分，并将超分后的第二图像进行显示。

2.根据权利要求1所述的方法，其特征在于，在获取第一图像以及图像超分信息之前，所述方法还包括：

接收云终端发送的用户指令；

获取第一图像以及图像超分信息，包括：

根据所述用户指令确定所述第一图像以及图像超分信息。

3.根据权利要求1所述的方法，其特征在于，所述方法还包括：

在确定用户请求的第三图像为所述第一图像相邻的后一帧图像的情况下，根据所述第三图像与所述第一图像的差别确定所述第三图像中待更新的图元，将所述待更新的图元进行所述前期超分，得到图元信息，所述图元信息包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色信息，所述前期超分包括顶点超分处理以及纹理超分处理；

将所述待更新的图元信息发送至所述云终端，以使所述云终端根据所述图元信息对所述第二图像中与所述图元标识对应的图元进行更新，将更新后的图元进行后期超分，并显示超分后的第四图像，所述后期超分包括几何着色处理、光栅化处理以及片段着色处理。

4.一种图像处理方法，其特征在于，应用于云终端，包括：

接收云平台发送的第二图像，所述第二图像为所述云平台根据图像超分信息对第一图像进行前期超分以及在选择超分算法后对纹理拉伸后的图像中的空缺处进行补全得到的，所述图像超分信息包括对应第一图像的第一图像的第一分辨率以及对第一图像进行超分之后，所需要达到的第二分辨率；

将所述第二图像进行后期超分，并显示超分后的第二图像。

5.根据权利要求4所述的方法，其特征在于，在接收云平台发送的第二图像之前，所述方法还包括：

响应于用户的操作生成用户指令；

将所述用户指令发送至所述云平台，以使所述云平台根据所述用户指令确定所述第一图像以及图像超分信息。

6.根据权利要求4所述的方法，其特征在于，所述方法还包括：

接收所述云平台发送的图元信息，所述图元信息是所述云平台在确定用户请求的第三图像为所述第一图像相邻的后一帧图像的情况下，根据所述第三图像与所述第一图像的差别确定所述第三图像中需要更新的图元，并对图元进行前期超分得到的；所述图元信息包括图元的标识、图元顶点的纹理信息以及图元的顶点的颜色，所述前期超分包括顶点超分处理以及纹理超分处理；

根据所述图元信息对所述第二图像中与所述图元标识对应的图元进行更新，得到更新后的第五图像；

将所述第五图像中更新后的图元进行后期超分，得到第四图像，所述后期超分包括几何着色处理、光栅化处理以及片段着色处理；

显示所述第四图像。

7.一种图像处理系统，其特征在于，包括云平台以及与云平台通信连接的云终端；

其中，所述云平台用于获取第一图像以及图像超分信息，以及根据所述图像超分信息对所述第一图像进行前期超分，以及在选择超分算法后对纹理拉伸后的图像中的空缺处进行补全，得到第二图像，以及将所述第二图像发送至所述云终端，所述图像超分信息包括对应第一图像的第一图像的第一分辨率以及对第一图像进行超分之后，所需要达到的第二分辨率；

所述云终端用于接收所述云平台发送的第二图像，然后将所述第二图像进行后期超分，并显示超分后的第二图像。

8.根据权利要求7所述的系统，其特征在于，所述云平台还包括：虚拟机以及图像渲染器；

其中，所述虚拟机用于接收云终端发送的用户指令，以及根据所述用户指令确定所述第一图像以及图像超分信息，然后将所述第一图像以及图像超分信息发送至图像渲染器；

所述图像渲染器用于根据所述图像超分信息对所述第一图像进行前期超分，得到第二图像，然后将所述第二图像发送至所述云终端，所述前期超分包括顶点超分处理以及纹理超分处理。

9.根据权利要求7所述的系统，其特征在于，所述后期超分包括几何着色处理、光栅化处理以及片段着色处理。

10.一种图像处理装置，其特征在于，应用于云平台，包括：

第一获取模块，用于获取第一图像以及图像超分信息，所述图像超分信息包括对应第一图像的第一图像的第一分辨率以及对第一图像进行超分之后，所需要达到的第二分辨率；

第一超分模块，用于根据所述图像超分信息对所述第一图像进行前期超分，在选择超分算法后对纹理拉伸后的图像中的空缺处进行补全，得到第二图像；

第一发送模块，用于将所述第二图像发送至云终端，以使所述云终端对所述第二图像进行后期超分，并将超分后的第二图像进行显示。

11.一种图像超分装置，其特征在于，应用于云终端，包括：

第一接收模块，用于接收云平台发送的第二图像，所述第二图像为所述云平台根据图像超分信息对第一图像进行前期超分以及在选择超分算法后对纹理拉伸后的图像中的空缺处进行补全得到的，所述图像超分信息包括对应第一图像的第一图像的第一分辨率以及对第一图像进行超分之后，所需要达到的第二分辨率；

第二超分模块，用于将所述第二图像进行后期超分，并显示超分后的第二图像。

12. 一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求 1～6中任意一项所述图像处理方法。

13.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1～6中任意一项所述的图像处理方法。