CN116866580A - 视频编码方法及装置、存储介质、电子设备 - Google Patents

Abstract

本公开实施例是关于一种视频编码方法及装置、存储介质、电子设备，涉及图像处理技术领域，该视频编码方法包括：获取目标视频中的待编码图像组，根据待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域；根据第二帧图像中运动区域的亮度信息，对第三帧图像中的运动区域进行高动态范围调整，得到第三帧优化图像；根据第二帧图像和第三帧图像确定运动参考帧，并根据运动参考帧和第三帧优化图像确定帧内差异信息；根据第二帧图像、运动参考帧及帧内差异信息，对第三帧图像进行编码。本公开实施例中的技术方案，能够基于运动宏块实现对待编码视频帧的高动态范围调整，提高视频编码中高动态范围优化的简便性和时效性。

Description

视频编码方法及装置、存储介质、电子设备

技术领域

本公开涉及图像处理技术领域，具体而言，涉及一种视频编码方法及装置、存储介质以及电子设备。

背景技术

随着图像处理技术不断发展，视频编码被应用到多个领域，如安防监控、视频会议、课堂录播等。然而，原始视频图像往往会存在一些高暗区和高亮区，特别在安防监控中，部署于楼道出入口、停车场、密集建筑园区等复杂环境的智能摄像机所采集到的视频图像，往往会出现不少的高暗区和高亮区，而对这些视频图像进行高动态范围优化，则能够实现对复杂环境的逆光监控、暗光监控需求，提高视频图像中高暗区和高亮区的细节特征。

部分相关技术中，通过叠加多张视频图像以确定高亮区和高暗区，然后通过分区的局部色调映射完成高动态范围优化，需要的硬件成本较高；还有部分相关技术中，通过人工智能或人工调校的方式来确定高亮区和高暗区，处理速度慢且时效性较差。因此，视频编码中高动态范围优化的简便性和时效性较差。

发明内容

本公开的目的在于提供一种视频编码方法及装置、存储介质、电子设备，进而至少在一定程度上提升视频编码中高动态范围优化的简便性和时效性。

根据本公开的第一方面，提供一种视频编码方法，包括：获取目标视频中的待编码图像组，根据待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域；根据第二帧图像中运动区域的亮度信息，对第三帧图像中的运动区域进行高动态范围调整，得到第三帧优化图像；根据第二帧图像和第三帧图像确定运动参考帧，并根据运动参考帧和第三帧优化图像确定帧内差异信息；根据第二帧图像、运动参考帧及帧内差异信息，对第三帧图像进行编码。

在本公开的一种示例性实施例中，根据待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域，包括：对待编码图像组的第一帧图像和第二帧图像进行帧间预测，确定运动宏块的位置以及运动宏块的运动数据；结合运动数据以及第二帧图像内的运动宏块的位置，确定对应于第三帧图像的运动宏块的位置；根据第三帧图像的运动宏块的位置，确定对应于第三帧图像的运动区域。

在本公开的一种示例性实施例中，根据第二帧图像中运动区域的亮度信息，对第三帧图像中的运动区域进行高动态范围调整，得到第三帧优化图像，包括：确定第二帧图像中运动区域的平均亮度值；若平均亮度值未处于亮度范围内，对第二帧图像中运动区域对应的伽马曲线进行调整，得到调整后的伽马曲线；利用调整后的伽马曲线对对应于第三帧图像的运动区域的像素点的亮度进行优化，得到第三帧优化图像。

在本公开的一种示例性实施例中，若平均亮度值未处于亮度范围内，对第二帧图像中运动区域对应的伽马曲线进行调整，包括：若平均亮度值小于亮度范围内的最小值，则增大运动区域内每个像素点的亮度对应的响应，响应基于调整后的伽马曲线得到；若平均亮度值大于亮度范围内的最大值，则减小运动区域内每个像素点的亮度对应的响应，响应基于调整后的伽马曲线得到。

在本公开的一种示例性实施例中，根据第二帧图像和第三帧图像确定运动参考帧，并根据运动参考帧和第三帧优化图像确定帧内差异信息，包括：对第二帧图像和第三帧图像进行帧间运动预测，确定运动参考帧；对运动参考帧和第三帧优化图像进行差分处理，得到帧内差异信息。

在本公开的一种示例性实施例中，上述视频编码方法还包括：对第一帧图像和第二帧图像采用默认编码策略进行编码。

在本公开的一种示例性实施例中，上述视频编码方法还包括：将待编码图像组中第三帧之后的任一视频帧图像作为当前帧图像；根据前一帧图像中和当前帧图像对应的运动区域的亮度信息对当前帧图像进行高动态范围调整，得到当前帧优化图像；根据前一帧图像和当前帧图像确定当前运动参考帧，并根据当前运动参考帧和当前帧优化图像确定当前帧内差异信息；根据前一帧图像、当前运动参考帧及当前帧内差异信息完成对当前帧图像的编码。

根据本公开的第二方面，提供一种视频编码装置，包括：运动区域确定模块，用于获取目标视频中的待编码图像组，根据待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域；优化图像确定模块，用于根据第二帧图像中运动区域的亮度信息，对第三帧图像中的运动区域进行高动态范围调整，得到第三帧优化图像；差异信息确定模块，用于根据第二帧图像和第三帧图像确定运动参考帧，并根据运动参考帧和第三帧优化图像确定帧内差异信息；图像编码模块，用于根据第二帧图像、运动参考帧及帧内差异信息，对第三帧图像进行编码。

根据本公开的第三方面，提供一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述第一方面的视频编码方法及其可能的实现方式。

根据本公开的第四方面，提供一种电子设备，包括：处理器；以及存储器，用于存储处理器的可执行指令；其中，处理器配置为经由执行可执行指令来执行上述第一方面的视频编码方法及其可能的实现方式。

本公开实施例中提供的技术方案中，一方面，不仅可以基于运动宏块的编码预测来实现运动区域的自动追踪，而且可以基于运动区域的亮度信息来实现高动态范围的优化，从而无需借助人工或人工智能来完成高动态区域的划分，且不需增加额外的硬件成本，具有较好的简便性；另一方面，根据亮度信息对运动区域进行高动态范围优化，不仅可以增加运动物体在图像中的有效信息，从而提升视频图像的质量，而且可以在对视频图像的编码过程中完成高动态范围优化，时效性较高；再一方面，根据第二帧图像、运动参考帧及帧内差异信息，对第三帧图像进行编码，可以减少高动态范围优化对编码结果的影响。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示意性示出本公开实施例的一种视频编码方法的流程示意图。

图2示出了可以应用本公开实施例的视频编码方法的应用场景的示意图。

图3示意性示出本公开实施例的另一种视频编码方法的流程示意图。

图4示意性示出本公开实施例的确定对应于第三帧图像的运动区域的流程示意图。

图5示意性示出本公开实施例的对待编码图像组中第三帧之后的视频帧图像进行编码的流程示意图。

图6示意性示出本公开实施例的再一种视频编码方法的流程示意图。

图7示意性示出本公开实施例的可以应用本公开实施例的视频编码系统的示意图。

图8示意性示出本公开实施例的再一种视频编码方法的流程示意图。

图9示意性示出本公开实施例中一种视频编码装置的框图。

图10示意性示出本公开实施例中电子设备的框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略特定细节中的一个或更多，或者可以采用其他的方法、组元、装置、步骤等。在其他情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

在本公开的一些实施例中，基于虚拟曝光的方法对目标视频进行高动态范围(High Dynamic Range，HDR)优化时，但是虚拟曝光法需要通过叠加多张视频图像来确定高亮区和高暗区，然后通过分区的局部色调映射完成高动态范围优化，需要较高的硬件成本，示例性的，对于25帧的监控视频，若采用虚拟曝光法来进行高动态范围优化，则需要图像处理器(Image Signal Processor，ISP)至少支持处理75帧图像的能力，极大地提升了视频图像采集设备的成本，普适性较差。

在本公开的一些实施例中，还可以通过全局色调映射(Global Tone Mapping)或局部色调映射(Local Tone Mapping)来对视频图像进行高动态范围优化，但是，基于全局色调映射和基于局部色调映射的方法都需要人工调校高亮区和高暗区，对复杂场景中的视频图像优化效果有限，且无法对图像进行实时的高动态区域优化，处理速度较慢，无法快速跟踪运动目标。此外，基于全局色调映射的方法需要对整幅图像的整体伽马(Gamma)曲线进行调整，容易造成图像的中部蒙雾气现象；而基于局部色调映射的方法需要通过人工智能芯片或人工进行图像的分块和调校，其对运动场景的视频图像，例如人物、车辆移动场景的适应性较差。

示例性的，图1示意性示出了本公开实施例的一种视频编码的流程图。首先，通过视频传感器采集视频图像，然后对于不存在高亮区和高暗区的视频图像直接输入图像处理器，对于存在高亮区和高暗区的视频图像采用人工智能(AI)或人工调校的方式来确定高亮区和高暗区，并对其进行高动态范围调整，再输入图像处理器。最后，图像处理器对视频图像进行图像处理后输入编码器，完成对视频图像的编码。对于图1所示的视频编码方法，其不仅需要利用AI或人工调校的方式来确定高亮区和高暗区，对编码设备中芯片的要求较高。而且对视频图像的处理速度较慢，无法快速跟踪运动物体，且由于编码效率的原因，无法对视频图像进行实时调整。

为了解决上述技术问题，本公开实施例中提供了一种视频编码方法，可以应用于视频编码过程中，对目标视频进行简便和实时的高动态范围优化。图2示出了可以应用本公开实施例的视频编码方法及装置的系统架构的示意图。

如图1所示，系统构架200可以包括视频图像采集设备201、网络、服务器202及终端设备203等。其中，网络可以用于在图像采集设备、服务器及终端设备之间提供通信链路的传输介质，主要用于将目标视频传输至服务器以及将编码后的视频图像数据传输至终端设备。网络可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。图像采集设备201可以是各种摄像机，包括但不限于工业摄像机、安防摄像机、运动相机、全景相机等等；还可以是各种具有视频图像采集功能的智能手机、阵列相机、无人机、图像传感器(sensor)等等。终端设备203可以是各种具有对视频图像数据进行解码功能的电子设备，包括但不限于台式计算机、便携式计算机、智能手机和平板电脑等等。应该理解，图1中的视频图像采集设备201、网络、服务器202及终端设备203的数目仅仅是示意性的，根据实现需要，可以具有任意数目的视频图像采集设备、服务器及终端设备。比如服务器可以是多个服务器组成的服务器集群等。

示例性的，可以通过视频图像采集设备201获取目标视频，然后通过网络将目标视频传输至服务器202，服务器202在接收到目标视频后，获取目标视频中的待编码图像组，根据待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域；根据第二帧图像中运动区域的亮度信息，对第三帧图像中的运动区域进行高动态范围调整，得到第三帧优化图像；根据第二帧图像和第三帧图像确定运动参考帧，并根据运动参考帧和第三帧优化图像确定帧内差异信息；根据第二帧图像、运动参考帧及帧内差异信息，对第三帧图像进行编码，并基于上述编码策略对待编码图像组中第三帧之后的任意视频帧图像进行编码，采用默认编码策略对第一帧图像和第二帧图像进行编码，最终得到对目标视频的编码数据。然后服务器202将对目标视频的编码数据传输至终端设备203，终端设备203对编码数据进行解码，得到解码后的视频数据，并在终端设备上进行展示，以基于解码得到的视频图像进行后续处理。

除此之外，也可以是视频图像采集设备将目标视频发送至终端设备，无需将其发送至服务器。在终端设备上对目标视频中的待编码图像进行高动态范围调整和视频编码，得到编码数据，然后终端设备对编码数据进行解码，得到解码后的视频数据，并在终端设备上进行展示。此处对执行主体不作限定。

但本领域技术人员容易理解的是，上述应用场景仅是用于举例，本示例性实施例中并不以此为限。基于此，本公开实施例中，提供了一种视频编码方法。参考图3中所示，对本公开实施例中的视频编码方法的各个步骤进行详细说明。

在步骤S310中，获取目标视频中的待编码图像组，根据待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域。

本公开实施例中，目标视频可以是视频图像采集设备实时获取的视频，也可以是预先存储的视频图像采集设备获取的视频，当然，还可以是已公开的视频数据集等从其他途径获取的视频。待编码图像组可以是目标视频中的各个图像组(Group of Pictures，GOP)，其中，图像组是由多个连续的视频帧按照一定的规则排列组成的视频编码单元，在一个图像组中，通常会有一个视频帧图像被编码为关键帧(I帧)，随后的若干视频帧被编码为预测帧(P帧)或双向预测帧(B帧)。第一帧图像即图像组中的I(intra picture)帧。运动宏块(Motion Vector，MV)是视频编码中的重要组成部分，是帧间预测和运动补偿的关键，可以用于获取视频帧图像中的运动信息。

本公开实施例中，根据待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域，可以是，根据第一帧图像和第二帧图像确定这两帧图像中相对应的运动宏块的位置信息和运动方向及数据，然后预测出第三帧图像中该运动宏块会出现的位置，并基于这些位置确定出对应于第三帧图像的运动区域。

在本公开实施例中，对于待编码视频组中的第一帧图像和第二帧图像，第一帧图像和第二帧图像可以采用默认编码策略进行编码，无需进行高动态范围调整，正常进行图像处理，并传到编码器进行编码。因为第一帧图像是图像组中的关键帧即I帧，是视频序列中最重要的帧之一，其他帧的编码和解码都和其有关，因此不对第一帧图像进行高动态范围调整，可以减少原有视频图像编码过程中的信息损失，保证视频编码的质量。另外，本公开实施例的视频编码方法中，获取视频帧图像的优化图像需要基于前两帧图像来获取相应的运动区域来进行高动态范围调整，因此对于待编码图像组中第三帧图像及其之后的视频图像，才可采用本公开实施例中的高动态范围调整方法对其进行视频编码。

示例性的，默认编码策略可以是基于H.264/AVC标准的编码方法，也可以是基于H.265/HEVC标准的编码方法，还可以是基于VP9标准的编码方法，当然，还可以是基于MPEG标准等其他的编码方法，此处不作具体限定。

图4示意性示出了确定对应于第三帧图像的运动区域的流程图，参考图4中所示，主要包括以下步骤：

在步骤S410中，对待编码图像组的第一帧图像和第二帧图像进行帧间预测，确定运动宏块的位置以及运动宏块的运动数据。

其中，帧间预测可以表示通过对图像组中前后关联视频帧之间的运动和差异进行预测，获取运动矢量，也即关联视频帧对应的像素或宏块之间的位移。运动数据可以是运动宏块的偏移数据，还可以是运动宏块的旋转数据等。示例性的，运动宏块可以是大小为16×16像素的方块，当然，还可以是8×8等其他大小的方块。本示例性实施例中以16×16像素的宏块为例，第一帧图像中一个运动宏块的位置，也即坐标为[(100,100)，(116,100)，(100,116)，(116,116)]，其在第二帧图像中对应的运动宏块的坐标为[(200,100)，(216,100)，(200,116)，(216,116)]，该运动宏块的运动数据即偏移量为横向偏移100像素。

在步骤S420中，结合运动数据以及第二帧图像内的运动宏块的位置，确定对应于第三帧图像的运动宏块的位置。

具体地，由于运动视频图像的相邻帧的图像信息通常没有太大的变化，即图像序列具有很强的时间相关性，因此，可以利用图像序列的时间相关性，使用当前帧图像中运动宏块的运动信息来预测下一帧图像中运动宏块的位置。参考步骤S410中运动宏块的相关信息，结合该运动宏块在第二帧图像中的位置及偏移量可以预测在第三帧图像中，该运动宏块对应的位置坐标为[(300,100)，(316,100)，(300,116)，(316,116)]。

在步骤S430中，根据第三帧图像的运动宏块的位置，确定对应于第三帧图像的运动区域。

具体地，根据步骤S420，可以确定出多个第三帧图像中运动宏块的位置，然后可以将相邻或相近的宏块所围成的区域作为对应于第三帧图像的运动区域。示例性的，可以提取对应于第三帧图像的运动宏块中各个宏块的中心点坐标，然后采用聚类算法对这些中心点坐标进行聚类，最后将中心点连接后所形成的区域作为对应于第三帧图像的运动区域。

在一些实施例中，根据待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域，还可以包括以下步骤：对待编码图像组的第一帧图像和第二帧图像进行帧间预测，确定运动区域及运动数据；结合运动数据以及第二帧图像内的运动区域的位置，确定对应于第三帧图像的运动区域。

示例性的，可以是对待编码图像组中的第一帧图像和第二帧图像进行帧间预测，根据帧间预测宏块得到第一帧图像中运动区域的位置坐标为[(300,300)，(600,300)，(300,700)，(600,700)]，其对应于第二帧图像中的运动区域的位置坐标为[(500,300)，(800,300)，(500,700)，(800,700)]，则该运动区域的运动数据为横向偏移200像素。然后结合运动数据以及第二帧图像内的运动区域的位置，可以预测出对应于第三帧图像中的运动区域坐标为[(700,300)，(1000,300)，(700,700)，(1000,700)]。

接着参考图3，在步骤S320中，根据第二帧图像中运动区域的亮度信息，对第三帧图像中的运动区域进行高动态范围调整，得到第三帧优化图像。

其中，亮度信息可以表示运动区域中各个像素的亮度值。高动态范围(HighDynamic Range，HDR)可以使视频图像显示比标准动态范围更广的色彩和明暗细节，即视频图像中最暗和最亮区域之间的对比度范围较大，以呈现更多的图像细节特征。

在一些实施例中，根据第二帧图像中运动区域的亮度信息，对第三帧图像中的运动区域进行高动态范围调整，得到第三帧优化图像，具体包括以下步骤：确定第二帧图像中运动区域的平均亮度值；若平均亮度值未处于亮度范围内，对第二帧图像中运动区域对应的伽马曲线进行调整，得到调整后的伽马曲线；利用调整后的伽马曲线对对应于第三帧图像的运动区域的像素点的亮度进行优化，得到第三帧优化图像。

具体地，平均亮度值可以基于第二帧图像的运动区域中各像素的亮度值计算得到。伽马(Gamma)曲线是一种用于将数字亮度值映射到人眼感知亮度范围的映射关系，通过调整伽马曲线，可以优化图像在显示设备上的亮度和对比度，使其更具可视化效果。亮度范围可以表示使图像的细节特征显示较丰富的亮度范围。当平均亮度值未处于亮度范围内时，表明该运动区域属于高亮区或高暗区，因此可将其对应的伽马曲线进行调整，以增加该运动区域中的细节特征，提升图像的显示效果。因为相邻图像帧之间的相关性，可以基于对应于第二帧图像的调整后的伽马曲线，将对应于第三帧图像的运动区域的像素点的亮度进行优化，得到第三帧优化图像。

在一些实施例中，若平均亮度值未处于亮度范围内，对第二帧图像中运动区域对应的伽马曲线进行调整，具体包括以下步骤：若平均亮度值小于亮度范围内的最小值，则增大运动区域内每个像素点的亮度对应的响应，所述响应基于调整后的伽马曲线得到；若平均亮度值大于亮度范围内的最大值，则减小运动区域内每个像素点的亮度对应的响应，所述响应基于调整后的伽马曲线得到。

具体地，若平均亮度值小于亮度范围内的最小值，则表示该运动区域处于高暗区，因此需要增大运动区域内每个像素点的亮度对应的响应；若平均亮度值大于亮度范围内的最大值，则表示该运动区域处于高亮区，因此需要减小运动区域内每个像素点的亮度对应的响应，以提升该视频帧最终在显示设备上的呈现效果。

示例性的，亮度范围可以是[1,200]，若平均亮度值小于1，表示该运动区域处于高暗区，则将该运动区域中伽马曲线对像素亮度的响应提升2.2倍，即该区域中每一个像素的texel值变为之前的2.2倍，平均亮度值也变为之前的2.2倍；若平均亮度值大于200，表示该运动区域处于高亮区，则将该运动区域中伽马曲线对像素亮度的响应缩小0.45倍，即该区域中每一个像素的texel值变为之前的0.45倍，平均亮度值也变为之前的0.45倍。当然，对于平均亮度值未处于亮度范围内的运动区域，该运动区域中伽马曲线对像素亮度的响应提升或缩小的倍数，也可以是其他合适的数值，此处不作具体限定。

在一些实施例中，若运动区域的平均亮度值大于255，则表明该运动区域为超亮区，会出现高光眩晕，无法表达，因此需要先将亮度值大于255的像素的亮度值降到255，再进行后续处理。

在一些实施例中，若平均亮度值未处于亮度范围内，则可以调整该运动区域对应的伽马曲线。示例性的，可以将初始的伽马曲线f(x)＝x，调整为f’(x)＝50×SQRT(x/50)，从而提升运动区域中像素点的响应系数。

接着参考图3，在步骤S330中，根据第二帧图像和第三帧图像确定运动参考帧，并根据运动参考帧和第三帧优化图像确定帧内差异信息。

其中，运动参考帧可以表示第二帧图像和第三帧图像之间的运动信息。在一些实施例中，根据第二帧图像和第三帧图像确定运动参考帧，并根据运动参考帧和第三帧优化图像确定帧内差异信息，具体包括以下步骤：对第二帧图像和第三帧图像进行帧间运动预测，确定运动参考帧；对运动参考帧和第三帧优化图像进行差分处理，得到帧内差异信息。

具体地，帧间运动预测(inter-frame motion prediction)可以获取第二帧图像和第三帧图像之间的运动信息，例如对应宏块的偏移、旋转数据等。差分处理可以表示对第三帧优化图像和运动图像中对应的像素进行差分计算，从而得到二者间的帧内差异信息。

在步骤S340中，根据第二帧图像、运动参考帧及帧内差异信息，对第三帧图像进行编码。

具体地，以第二帧图像为参考帧，结合运动参考帧和帧内差异信息，完成对第三帧图像的编码。编码时基于原图像，即第二帧图像和第三帧图像进行帧间运动预测得到的运动参考帧完成编码，可以减少伽马曲线调整对编码算法的影响。

本公开实施例中，对于待编码视频组中第三帧之后的视频图像，可以基于类似于上述对第三帧图像的处理方法来完成编码，具体的，参考图5，图5示意性示出本公开实施例的对待编码图像组中第三帧之后的视频帧图像进行编码的流程图，包括：

步骤S510，将待编码图像组中第三帧之后的任一视频帧图像作为当前帧图像；

步骤S520，根据前一帧图像中和当前帧图像对应的运动区域的亮度信息对当前帧图像进行高动态范围调整，得到当前帧优化图像；

步骤S530，根据前一帧图像和当前帧图像确定当前运动参考帧，并根据当前运动参考帧和当前帧优化图像确定当前帧内差异信息；

步骤S540，根据前一帧图像、当前运动参考帧及当前帧内差异信息完成对当前帧图像的编码。

具体地，根据前一帧图像中和当前帧图像对应的运动区域的亮度信息对当前帧图像进行高动态范围调整，可以是，根据当前帧图像的前两帧图像中的运动宏块确定对应于当前帧图像的运动区域，然后根据前一帧图像中运动区域的亮度信息，对当前帧图像中的运动区域进行高动态范围调整。

参考图6，图6示意性示出了本公开实施例的视频编码方法的流程图。如图6所示，首先通过图像传感器获取目标视频，然后通过图像处理器对视频帧图像进行处理，然后通过编码器进行帧间预测，获取运动参考帧，并对视频帧图像中的宏块进行运动预测，以确定运动区域，基于亮度信息判断运动区域是否处于高亮区或高暗区，若处于，则调整该运动区域对应的下一帧图像对应的高动态范围参数，若不处于，则不调整。最后，编码器根据运动参考帧和优化后图像确定帧内差异信息，最后结合帧内差异信息和运动参考帧完成对视频帧的编码。

图6所示的视频编码方法不仅可以根据对宏块的运动预测，实时对运动物体所在区域的高动态范围进行调整，而且编码器和图像处理器协同，采用原始图像进行编码预测，采用优化后的图像进行差分计算，可以减少编码误差，提升编码效率。

在一些实施例中，还公开了一种视频编码系统，该视频编码系统可以应用于智能摄像头。参考图7，图7示意性示出了可以应用本公开实施例中视频编码方法的视频编码系统的示意图。具体地，视频编码系统主要包含图像传感器、图像处理器、编码器、帧间运动预测模块、图像分区模块、HDR控制器等模块。其中，图像传感器可以用于拍摄镜头画面并获取原始视频图像；图像处理器可以用于对原始视频图像进行处理，并根据HDR控制器的伽马曲线调整数值进行特定区域的图像亮度调整，输出原始图像和调整后图像的颜色及亮度数据；视频编码器可以通过H.265、H.264等编码算法，计算宏块运动向量，并通过原始图像和调整后的图像数据进行视频编码输出；帧间运动预测模块可以根据两帧图像的宏块移动向量，预测下一帧移动物体位置与其运动矢量，确定其位置与区域；图像分区模块可以根据移动物体(宏块)的运动矢量与其整体平均亮度特征，对图像不同区域进行高亮区和高暗区的分区；HDR控制器可以对图像中不同分区进行伽马曲线调整，提升高暗区的伽马值，降低高亮区伽马值。网络模块、本地存储可以将编码好的视频上传到平台或保存到本地存储，例如SD卡、NVR等。

此外，参考图8，图8示意性示出了本公开实施例的视频编码方法的流程图。首先获取原始视频图像，原始视频图像中待编码图像组的长度用m表示，i表示一个图像组中视频帧图像所在的位置排序。当视频帧为第一帧图像时，不做特殊处理，直接进行视频帧编码。当视频帧为第二帧图像时，对进行编码的宏块进行运动预测，并进行差分计算，然后对其进行视频帧编码。具体地，对待编码图像组的第一帧图像和第二帧图像进行帧间预测，确定运动宏块的位置以及运动宏块的运动数据；结合运动数据以及第二帧图像内的运动宏块的位置，确定对应于第三帧图像的运动宏块的位置；根据第三帧图像的运动宏块的位置，确定对应于第三帧图像的运动区域，最后完成对第二帧图像的编码。在第二帧图像完成编码后，确定第二帧图像中运动区域的平均亮度值；若平均亮度值未处于亮度范围内，对第二帧图像中运动区域对应的伽马曲线进行调整，得到调整后的伽马曲线；利用调整后的伽马曲线对对应于第三帧图像的运动区域的像素点的亮度进行优化，得到第三帧优化图像。

接着，将待编码图像组中第二帧之后的任意视频帧图像作为当前帧图像，根据前一帧图像中和当前帧图像对应的运动区域的亮度信息对当前帧图像进行高动态范围调整，得到当前帧优化图像；对前一帧图像和当前帧图像进行帧间运动预测，确定运动参考帧；对运动参考帧和当前帧优化图像进行差分处理，得到帧内差异信息，最后，根据前一帧图像、当前运动参考帧及当前帧内差异信息完成对当前帧图像的编码，重复上述步骤直到i等于m。

本公开实施例中的视频编码方法中，一方面，不仅可以基于运动宏块的编码预测来实现运动区域的自动追踪，而且可以基于运动区域的亮度信息来实现高动态范围的优化，从而无需借助人工或人工智能来完成高动态区域的划分，且不需增加额外的硬件成本，具有较好的简便性和普适性；另一方面，根据亮度信息对运动区域进行高动态范围优化，不仅可以增加运动物体在图像中的有效信息，从而提升视频图像的质量，而且可以在对视频图像的编码过程中完成高动态范围优化，时效性较高；再一方面，根据第二帧图像、运动参考帧及帧内差异信息，对第三帧图像进行编码，可以减少高动态范围优化对编码结果的影响；再一方面，对运动区域中的高亮区和高暗区进行高动态范围调整，可以提升监控视频图像中运动物体所在区域的细节特征，提升视频图像中运动目标如人物、车辆等在高亮或高暗环境下的显示效果，从而可以提升对目标场景的监控效果。

本公开实施例中提供了一种视频编码装置，参考图9中所示，该视频编码装置900可以包括：运动区域确定模块901、优化图像确定模块902、差异信息确定模块903以及图像编码模块904。其中：

运动区域确定模块901可以用于获取目标视频中的待编码图像组，根据待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域；优化图像确定模块902可以用于根据第二帧图像中运动区域的亮度信息，对第三帧图像中的运动区域进行高动态范围调整，得到第三帧优化图像；差异信息确定模块903可以用于根据第二帧图像和第三帧图像确定运动参考帧，并根据运动参考帧和第三帧优化图像确定帧内差异信息；图像编码模块904可以用于根据第二帧图像、运动参考帧及帧内差异信息，对第三帧图像进行编码。

在本公开的一种示例性实施例中，运动区域确定模块被配置为：对待编码图像组的第一帧图像和第二帧图像进行帧间预测，确定运动宏块的位置以及运动宏块的运动数据；结合运动数据以及第二帧图像内的运动宏块的位置，确定对应于第三帧图像的运动宏块的位置；根据第三帧图像的运动宏块的位置，确定对应于第三帧图像的运动区域。

在本公开的一种示例性实施例中，优化图像确定模块包括：平均亮度确定模块，用于确定第二帧图像中运动区域的平均亮度值；伽马曲线调整模块，用于若平均亮度值未处于亮度范围内，对第二帧图像中运动区域对应的伽马曲线进行调整，得到调整后的伽马曲线；亮度优化模块，用于利用调整后的伽马曲线对对应于第三帧图像的运动区域的像素点的亮度进行优化，得到第三帧优化图像。

在本公开的一种示例性实施例中，若平均亮度值未处于亮度范围内，对第二帧图像中运动区域对应的伽马曲线进行调整，具体包括以下步骤：若平均亮度值小于亮度范围内的最小值，则增大运动区域内每个像素点的亮度对应的响应，响应基于调整后的伽马曲线得到；若平均亮度值大于亮度范围内的最大值，则减小运动区域内每个像素点的亮度对应的响应，响应基于调整后的伽马曲线得到。

在本公开的一种示例性实施例中，差异信息确定模块包括：帧间运动预测模块，用于对第二帧图像和第三帧图像进行帧间运动预测，确定运动参考帧；差分处理模块，用于对运动参考帧和第三帧优化图像进行差分处理，得到帧内差异信息。

在本公开的一种示例性实施例中，视频编码装置还包括：默认编码模块，用于对第一帧图像和第二帧图像采用默认编码策略进行编码。

在本公开的一种示例性实施例中，视频编码装置还包括：其他帧编码模块，被配置为：将待编码图像组中第三帧之后的任一视频帧图像作为当前帧图像；根据前一帧图像中和当前帧图像对应的运动区域的亮度信息对当前帧图像进行高动态范围调整，得到当前帧优化图像；根据前一帧图像和当前帧图像确定当前运动参考帧，并根据当前运动参考帧和当前帧优化图像确定当前帧内差异信息；根据前一帧图像、当前运动参考帧及当前帧内差异信息完成对当前帧图像的编码。

需要说明的是，上述视频编码装置中各部分的具体细节在对应方法的部分实施方式中已经详细说明，未披露的细节内容可以参见方法部分的实施方式内容，因而不再赘述。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

此外，尽管在附图中以特定顺序描述了本公开中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。

在本公开的示例性实施例中，还提供了一种能够实现上述方法的电子设备。

所属技术领域的技术人员能够理解，本公开的各个方面可以实现为系统、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

下面参照图10来描述根据本公开的这种实施方式的电子设备1000。图10显示的电子设备1000仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图10所示，电子设备1000以通用计算设备的形式表现。电子设备1000的组件可以包括但不限于：上述至少一个处理单元1010、上述至少一个存储单元1020、连接不同系统组件(包括存储单元1020和处理单元1010)的总线1030以及显示单元1040。

其中，存储单元存储有程序代码，程序代码可以被处理单元1010执行，使得处理单元1010执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如，处理单元1010可以执行如图3中所示的步骤。

存储单元1020可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)10201和/或高速缓存存储单元10202，还可以进一步包括只读存储单元(ROM)10203。

存储单元1020还可以包括具有一组(至少一个)程序模块10205的程序/实用工具10204，这样的程序模块10205包括但不限于：操作系统、一个或者多个应用程序、其他程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线1030可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备1000也可以与一个或多个外部设备1100(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备1000交互的设备通信，和/或与使得该电子设备1000能与一个或多个其他计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口1050进行。并且，电子设备1000还可以通过网络适配器1060与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器1060通过总线1030与电子设备1000的其他模块通信。应当明白，尽管图中未示出，可以结合电子设备1000使用其他硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者电子设备等)执行根据本公开实施方式的方法。

在本公开的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。

根据本公开的实施方式的用于实现上述方法的程序产品，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本公开的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

此外，上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

本领域技术人员在考虑说明书及实践这里发明的发明后，将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未发明的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

Claims (10)

1.一种视频编码方法，其特征在于，包括：

获取目标视频中的待编码图像组，根据所述待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域；

根据所述第二帧图像中所述运动区域的亮度信息，对所述第三帧图像中的所述运动区域进行高动态范围调整，得到第三帧优化图像；

根据所述第二帧图像和所述第三帧图像确定运动参考帧，并根据所述运动参考帧和所述第三帧优化图像确定帧内差异信息；

根据所述第二帧图像、所述运动参考帧及所述帧内差异信息，对所述第三帧图像进行编码。

2.根据权利要求1所述的视频编码方法，其特征在于，所述根据所述待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域，包括：

对所述待编码图像组的第一帧图像和第二帧图像进行帧间预测，确定运动宏块的位置以及所述运动宏块的运动数据；

结合所述运动数据以及所述第二帧图像内的所述运动宏块的位置，确定对应于所述第三帧图像的运动宏块的位置；

根据所述第三帧图像的运动宏块的位置，确定所述对应于第三帧图像的运动区域。

3.根据权利要求1所述的视频编码方法，其特征在于，所述根据所述第二帧图像中所述运动区域的亮度信息，对所述第三帧图像中的所述运动区域进行高动态范围调整，得到第三帧优化图像，包括：

确定所述第二帧图像中所述运动区域的平均亮度值；

若所述平均亮度值未处于亮度范围内，对所述第二帧图像中所述运动区域对应的伽马曲线进行调整，得到调整后的伽马曲线；

利用所述调整后的伽马曲线对所述对应于第三帧图像的运动区域的像素点的亮度进行优化，得到所述第三帧优化图像。

4.根据权利要求3所述的视频编码方法，其特征在于，所述若所述平均亮度值未处于亮度范围内，对所述第二帧图像中所述运动区域对应的伽马曲线进行调整，包括：

若所述平均亮度值小于所述亮度范围内的最小值，则增大所述运动区域内每个像素点的亮度对应的响应，所述响应基于所述调整后的伽马曲线得到；

若所述平均亮度值大于所述亮度范围内的最大值，则减小所述运动区域内每个像素点的亮度对应的响应，所述响应基于所述调整后的伽马曲线得到。

5.根据权利要求1所述的视频编码方法，其特征在于，所述根据所述第二帧图像和所述第三帧图像确定运动参考帧，并根据所述运动参考帧和所述第三帧优化图像确定帧内差异信息，包括：

对所述第二帧图像和所述第三帧图像进行帧间运动预测，确定所述运动参考帧；

对所述运动参考帧和所述第三帧优化图像进行差分处理，得到所述帧内差异信息。

6.根据权利要求1所述的视频编码方法，其特征在于，所述方法还包括：

对所述第一帧图像和所述第二帧图像采用默认编码策略进行编码。

7.根据权利要求1所述的视频编码方法，其特征在于，所述方法还包括：

将所述待编码图像组中第三帧之后的任一视频帧图像作为当前帧图像；

根据前一帧图像中和当前帧图像对应的运动区域的亮度信息对所述当前帧图像进行高动态范围调整，得到当前帧优化图像；

根据所述前一帧图像和所述当前帧图像确定当前运动参考帧，并根据所述当前运动参考帧和所述当前帧优化图像确定当前帧内差异信息；

根据所述前一帧图像、所述当前运动参考帧及所述当前帧内差异信息完成对所述当前帧图像的编码。

8.一种视频编码装置，其特征在于，包括：

运动区域确定模块，用于获取目标视频中的待编码图像组，根据所述待编码图像组的第一帧图像和第二帧图像中的运动宏块确定对应于第三帧图像的运动区域；

优化图像确定模块，用于根据所述第二帧图像中所述运动区域的亮度信息，对所述第三帧图像中的所述运动区域进行高动态范围调整，得到第三帧优化图像；

差异信息确定模块，用于根据所述第二帧图像和所述第三帧图像确定运动参考帧，并根据所述运动参考帧和所述第三帧优化图像确定帧内差异信息；

图像编码模块，用于根据所述第二帧图像、所述运动参考帧及所述帧内差异信息，对所述第三帧图像进行编码。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-7任意一项所述的视频编码方法。

10.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1-7任意一项所述的视频编码方法。