CN113411611B - 视频图像处理方法、设备及电子设备 - Google Patents

视频图像处理方法、设备及电子设备 Download PDF

Info

Publication number
CN113411611B
CN113411611B CN202110735936.9A CN202110735936A CN113411611B CN 113411611 B CN113411611 B CN 113411611B CN 202110735936 A CN202110735936 A CN 202110735936A CN 113411611 B CN113411611 B CN 113411611B
Authority
CN
China
Prior art keywords
interpolation
pixel
sub
target
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110735936.9A
Other languages
English (en)
Other versions
CN113411611A (zh
Inventor
黎凌宇
张莉
王悦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lemon Inc Cayman Island
Original Assignee
Lemon Inc Cayman Island
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lemon Inc Cayman Island filed Critical Lemon Inc Cayman Island
Priority to CN202110735936.9A priority Critical patent/CN113411611B/zh
Publication of CN113411611A publication Critical patent/CN113411611A/zh
Application granted granted Critical
Publication of CN113411611B publication Critical patent/CN113411611B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Television Systems (AREA)

Abstract

本公开实施例提供一种视频图像处理方法、设备及电子设备,该方法包括获取待处理视频图像对应的整像素的值及图像位宽,并获取目标插值公式;基于并行处理技术,根据所述目标插值公式以及所述整像素的值确定整像素对应的分像素的值;其中,所述目标插值公式中的目标插值系数的绝对值与所述图像位宽所对应的和小于预设低位宽对应的并行处理位数;根据所述整像素的值和所述分像素的值,对所述待处理视频图像进行编码处理,从而可以提高像素插值的并行度,进而减少视频图像编码所需的时间,提高视频图像的编码效率,用户体验高。

Description

视频图像处理方法、设备及电子设备
技术领域
本公开实施例涉及视频处理技术领域,尤其涉及一种视频图像处理方法、设备及电子设备。
背景技术
随着电子产品的升级,高动态范围(High Dynamic Range,HDR)视频图像应用越来越常见,相较于标准动态范围(Standard Dynamic Range,SDR)视频图像的像素值通道是通过低位宽(例如,8位(bit))表示的,而Hdr视频图像的像素值通道是通过高位宽(例如,10bit、12bit)表示。
目前,由于一些原因(例如,为了提高视频的传输效率),经常需要对HDR视频进行编码。在对HDR视频编码的过程中,经常会采用分像素插值算法进行像素插值。然而,在利用现有分像素插值算法处理高位宽的HDR视频图像时,会降低像素插值的并行度,从而降低HDR视频图像的编码效率。
发明内容
本公开实施例提供一种视频图像处理方法、设备及电子设备,以提高视频图像的编码效率。
第一方面,本公开实施例提供一种视频图像处理方法,包括:
获取待处理视频图像对应的整像素的值及图像位宽,并获取目标插值公式;
基于并行处理技术,根据所述目标插值公式以及所述整像素的值确定整像素对应的分像素的值;其中,所述目标插值公式中的目标插值系数的绝对值与所述图像位宽所对应的和小于预设低位宽对应的并行处理位数;
根据所述整像素的值和所述分像素的值,对所述待处理视频图像进行编码处理。
第二方面,本公开实施例提供一种视频图像处理设备,包括:
数据获取模块,用于获取待处理视频图像对应的整像素的值及图像位宽,并获取目标插值公式;
处理模块,用于基于并行处理技术,根据所述目标插值公式以及所述整像素的值确定整像素对应的分像素的值;其中,所述目标插值公式中的目标插值系数的绝对值与所述图像位宽所对应的和小于预设低位宽对应的并行处理位数;
所述处理模块,还用于根据所述整像素的值和所述分像素的值,对所述待处理视频图像进行编码处理。
第三方面,本公开实施例提供一种电子设备,包括:至少一个处理器和存储器。
所述存储器存储计算机执行指令。
所述至少一个处理器执行所述存储器存储的计算机执行指令,使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的视频图像处理方法。
第四方面,本公开实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如上第一方面以及第一方面各种可能的设计所述的视频图像处理方法。
第五方面,本公开实施例提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时,实现如上第一方面以及第一方面各种可能的设计所述的视频图像处理方法。
本公开实施例提供的视频图像处理方法、设备及电子设备,该方法包括获取待处理视频图像对应的整像素的值及图像位宽,并获取目标插值公式;基于并行处理技术,根据所述目标插值公式以及所述整像素的值确定整像素对应的分像素的值;其中,所述目标插值公式中的目标插值系数的绝对值与所述图像位宽所对应的和小于预设低位宽对应的并行处理位数;根据所述整像素的值和所述分像素的值,对所述待处理视频图像进行编码处理。本公开实施例通过获取需编码的待处理视频图像,该待处理视频图像可以为高位宽的视频图像。确定该待处理视频图像对应的整像素的值以及该待处理视频图像对应的图像位宽,且确定进行像素插值所需利用的目标插值公式,并基于该目标插值公式进行像素插值的并行计算,即基于并行处理技术、根据该目标插值公式和整像素的值确定待处理视频图像对应的分像素的值,由于目标插值公式中的目标插值系数的绝对值与图像位宽所对应的和小于预设低位宽对应的并行处理位数,使得处理高位宽的视频图像的并行度可以与处理低位宽的视频图像的并行度相同,从而可以提高视频图像的像素插值的并行度,进而减少视频图像编码所需的时间,提高视频图像的编码效率,用户体验高。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的一维亮度分像素及整像素位置示意图;
图2为本公开实施例提供的视频图像处理方法的场景示意图;
图3为本公开实施例提供的视频图像处理方法的流程示意图一;
图4为本公开实施例提供的视频图像处理方法的流程示意图二;
图5为本公开实施例提供的亮度分像素插值系数示意图;
图6为本公开实施例提供的二维分像素及整像素位置示意图一;
图7为本公开实施例提供的亮度分像素插值系数示意图;
图8为本公开实施例提供的二维分像素及整像素位置示意图二;
图9为本公开实施例提供的视频图像处理设备的结构框图;
图10为本公开实施例提供的电子设备的硬件结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
随着人们对视频质量的要求提升,电子产品的升级,HDR视频应用越来越常见,支持HDR视频图像的电子产品(例如,手机)越来越多。目前的图像视频大多是SDR视频,SDR视频图像的每个像素值通道用8bit数字信号表示,其能表示的颜色空间数据有限,即[0,255]。而HDR视频图像则是用更高的位宽,即更多的bits来表示每一个色彩通道,比如10bit,12bit,其能表征更多的颜色空间数字范围,图像的颜色细节更丰富。另一方面,即使对于普通的SDR视频,采用更高的中间位宽(如10bit)进行编码,压缩效率也可以进一步提升。但同时,因为每个色彩通道所需要的数据位宽更大,计算复杂度也随之大幅增加。
在视频编码的过程中,帧间预测的复杂度占比通常超过50%,而运动补偿(MotionCompensation,MC)是帧间预测的主要计算占比部分。H.265/HEVC标准中定义的运动补偿过程如下:
运动补偿是视频编码中的重要过程,为了提高运动矢量估计和运动补偿的精度,经常会采用分像素插值算法,即进行像素插值。且对于自然物体运动场景,像素插值能有效提升编码压缩率。HEVC标准采用了基于离散余弦插值滤波器,HEVC标准中的亮度插值精度,即亮度像素精度包括1/4分像素插值精度,即1/4分像素、1/2分像素、1/4分像素和3/4分像素等,其中1/4分像素采用8抽头插值滤波器计算,1/2分像素、1/4和3/4分像素采用7抽头的插值滤波器进行计算。HEVC标准中的色度插值精度,即色度像素精度包括1/8分像素、2/8分像素、…、7/8分像素等,其采用4抽头的插值滤波器进行计算。
在进行像素插值时,实际是利用分像素对应的相邻整像素的值和相关插值公式确定该分像素的值,其具体过程为:将该相邻整像素的值等参数代入至HEVC标准中的相关插值公式中,即将相邻整像素的值与相应的插值系数进行点乘求和,以及进行移位计算,从而得到该分像素的值。
为了提供像素插值的效率,可以采用simd(single instruction multiple data,单指令多数据)技术并行进行像素插值。simd是一种数据并行加速技术,其利用矢量寄存器单指令并行处理多个数据的计算,在利用simd技术实现运动补偿时,可以有效提升编解码速度。相较于低位宽(例如,8bits)的视频图像,高位宽(例如,10bits,12bits等)的视频图像所需要的数据位宽更大,降低了simd并行效率,即在并行进行像素插值时,由于HDR视频图像是高位宽,需要并行处理的数值的位数较高,即高于低位宽视频图像对应的并行处理位数,从而降低像素插值的并行度,即降低像素插值的效率,进而降低高位宽的视频图像的编码的效率。
举例来说,图1所示,p为需要计算的待编码的视频图像的分像素的值,a-h为该分像素对应的相邻整像素的值,当插值精度,即像素精度为1/4分像素时,先根据公式tmp=(-a+4b-10c+58d+17e-5f+g)>>(bitdepth-8)计算得到分像素对应的中间结果tmp,其中,bitdepth为该待编码的视频图像对应的位宽。在得到分像素对应的中间结果后,利用公式dst=roundshift(tmp,14-bitdepth),计算得到该分像素的值dst。
其中,函数roundshift(x,y)=(x+(1<<(y-1)))>>y。1/4分像素对应的计算中间结果的公式中的插值系数为(-1,4,-10,58,17,-5,1),该插值系数之和为64。
当待编码的视频图像对应的位宽为8bits时,计算中间结果公式中的移位符号左侧的值,即整像素的值与插值系数进行点乘求和得到的值的范围是[-255*64,+255*64],该值需要通过8+6+1=15个bit表示,其中,1为符号位。simd进行并行处理时,可以用2bytes(即16bits)保存该值,即保存中间结果tmp。若用128bit的neon寄存器来实现,单个simd指令能并行处理128/16=8个计算,即可以并行进行8个分像素的值的计算。
而当待编码的视频图像对应的位宽为10bits时,计算中间结果公式中的移位符号左侧的值,即整像素的值与标准插值系数进行点乘求和得到的值的范围是[-1023*64,+1023*64],即该值需要通过10+6+1=17个bit表示,其中,1为符号位。由于超过了16bits,simd进行并行处理时,需用4bytes(即32bits)来保存该值,即保存相应的中间结果tmp。若用128bit的neon寄存器来实现,单个simd指令仅能并行处理128/32=4个计算,即可以并行进行4个分像素的值的计算,从而导致像素插值的并行度大大降低,进而降低视频图像的编码效率。
因此,考虑到HEVC标准中的相关公式中的插值系数的特点,对该插值公式进行等效转化,以保证在计算结果,即计算得到的分像素的值不变的基础上,分像素对应的中间结果可以通过2bytes,即16bits进行保存,而无需通过32bits进行保存,使得simd可以并行计算较多的分像素的值,提高simd并行实现的并行度,从而提升高位宽的视频图像的运动补偿过程中的像素插值的并行度,提高像素插值的效率,进而提高视频编码的效率,用户体验高。
图2为本发明实施例提供的视频图像处理方法的场景示意图,如图2所示,为了提高传输效率,第一设备101在将视频发送至第二设备102之前,对该视频进行压缩,即对该视频中的视频图像进行压缩,以将压缩后的视频发送至第二设备102。第二设备102在需要利用该视频(例如,需要播放该视频)时,对压缩后的视频进行解码,以供利用解码后的视频。
其中,第一设备101和第二设备均可以包括服务器、计算机、移动终端等电子设备。例如,第一设备101为服务器,第二设备102为相应的客户端。
可选的,第一设备101和第二设备102可以为不同设备,也可以为一台设备,在此,不对进行限制。
参考图3,图3为本公开实施例提供的视频图像处理方法流程示意图一。本实施例的方法可以应用于图2中的第一设备上,具体的,应用于第一设备上的处理装置,该消息处理方法包括:
S301:获取待处理视频图像对应的整像素的值及图像位宽,并获取目标插值公式。
S302:基于并行处理技术,根据目标插值公式以及整像素的值确定整像素对应的分像素的值。其中,目标插值公式中的目标插值系数的绝对值与图像位宽所对应的和小于预设低位宽对应的并行处理位数。
在本公开实施例中,在需要对视频进行压缩编码时,将该视频作为待处理视频,待处理视频中的视频帧,即视频图像作为待处理视频图像。确定待处理视频图像中的整像素以及整像素的值,并获取待处理视频图像,即待处理视频对应的位宽,并将其确定为图像位宽。
其中,待处理视频图像对应的图像位宽表示待处理视频图像的像素值通道对应的位宽。例如,图像位宽为10bit,像素值通道通过10bit数字信号标识。
可选的,待处理视频图像对应的图像位宽为高位宽,其中,高位宽大于或等于10位,待处理视频图像可以为HDR视频图像。
在本公开实施例中,在对待处理视频图像进行像素插值时,即确定分像素的值时,需要先确定所需利用插值公式,即获取计算分像素的值所需的利用的公式,并将其确定为目标插值公式。在确定目标插值公式后,基于并行处理技术,根据该目标插值公式以及待处理视频图像对应的整像素的值得到该待处理视频图像对应的分像素的值,以并行对整像素的值进行处理,得到多个分像素的值,实现像素插值的并行处理,即实现分像素值的并行计算。
在进行像素插值的过程中,由于目标插值公式中的目标插值系数的绝对值与待处理视频图像对应的图像位宽之和小于低位宽视频图像,即预设低位宽对应的并行处理位数,因此,并行计算的待处理视频图像对应的分像素的值的数目,即待处理视频图像对应的像素插值的并行度与并行计算的低位宽的视频图像对应的分像素的值的数目,即低位宽的视频图像对应的像素插值的并行度可以相同,从而使得高位宽的视频图像的像素插值的并行度得到了大大提高,提高像素插值的效率,
可选的,并行计算的待处理视频图像对应的分像素的值的数目表示并行处理的分像素对应的中间结果的数目。
可选的,预设低位宽小于或等于8位。预设低位宽对应的并行处理位数为16位,即保证可以通过2bytes保存该中间结果。
可选的,目标插值公式包括移位符号,目标插值系数为目标插值公式中的移位符号左侧的整像素对应的插值系数。
可选的,预设低位宽对应的并行处理位数为16位,其表示低位宽的视频图像对应的中间结果的保存位数。
进一步的,可选的,计算目标插值系数的绝对值的和,并确定大于且与该绝对值的和相差最小的2的幂次方,则目标插值系数的绝对值与图像位宽对应的和表示该幂次方与图像位宽的和,例如,图像位宽为10bit,目标插值系数的绝对值之和为31,则32与31相差最小,且大于31,因此,幂次方为5,则目标插值系数的绝对值与图像位宽对应的和为10+5=15,且由于还有1位符号位,计算得到的中间结果的位数为10+5+1=16,可见,可以通过2bytes进行保存该中间结果,而无需通过4bytes进行保存。
S303:根据整像素的值和分像素的值,对待处理视频图像进行编码处理。
在本公开实施例中,在得到待处理视频图像对应的分像素的值后,基于待处理视频图像对应的整像素的值和分像素的值,对待处理视频图像,即对包括处理视频进行编码处理,以实现待处理视频的压缩。
在任意公开实施例中,可选的,在对待处理视频图像进行编码处理后,即在对待处理视频进行编码处理后,将编码处理后的待处理视频发送至目标端,以使目标端在需要使用待处理视频时,对接收到的编码处理后的待处理视频进行解码,以利用解码后的待处理视频。
在本公开实施例中,在对高位宽的视频图像进行像素插值时,基于目标插值公式,并利用整像素的值进行分像素的值的并行计算时,由于目标插值公式中目标插值系数的绝对值与图像位宽对应的和小于预设低位宽对应的并行处理位数,降低高位宽的视频图像所需的数据位宽,从而可以提高像素插值的并行度。
从上述描述可知,获取需编码的待处理视频图像,该待处理视频图像可以为高位宽的视频图像。确定该待处理视频图像对应的整像素的值以及该待处理视频图像对应的图像位宽,且确定进行像素插值所需利用的目标插值公式,并基于该目标插值公式进行像素插值的并行计算,即基于并行处理技术、根据该目标插值公式和整像素的值确定待处理视频图像对应的分像素的值,由于目标插值公式中的目标插值系数的绝对值与图像位宽所对应的和小于预设低位宽对应的并行处理位数,使得处理高位宽的视频图像的并行度可以与处理低位宽的视频图像的并行度相同,从而可以提高高位宽的视频图像的像素插值的并行度,进而减少视频图像编码所需的时间,提高视频图像的编码效率,用户体验高。
参考图4,图4为本公开实施例提供的视频图像处理方法流程示意图二。在上述图3的实施例基础上,本实施例中详细描述确定像素插值所需利用的插值公式,即目标插值公式的过程,该消息处理方法包括:
S401:获取待处理视频图像对应的整像素的值及图像位宽。
S402:获取目标插值精度,并获取与目标插值精度对应的目标插值公式。
在任意公开实施例中,不同的插值精度对应不同的插值公式,因此,在进行像素差值时,获取目标插值精度,即目标像素精度,以供将该目标插值精度对应的插值公式作为目标插值公式。
可选的,目标插值精度可以是相关人员选择的,也可以是默认的。
可选的,目标插值精度包括亮度插值精度和/或色度插值精度。相应的,目标插值公式包括目标亮度插值公式和/或色度插值公式。
进一步的,可选的,亮度插值精度包括至少一个分像素亮度插值精度。其中,分像素亮度插值精度包括1/2分像素插值精度、1/4分像素插值精度、3/4分像素插值精度中的一个或多个。当然,亮度插值精度也可以包括其它类型的分像素亮度插值精度,在此,不对其进行限制。
可选的,色度插值精度包括至少一个分像素色度插值精度。色度插值精度,即分像素色度插值精度包括1/8分像素插值精度、2/8分像素插值精度、3/8分像素插值精度、4/8分像素插值精度、5/8分像素插值精度、6/8分像素插值精度和7/8分像素插值精度中的一个或多个。当然,分像素色度插值精度也可以包括其它类型的分像素色度插值精度,在此,不对其进行限制。
可选的,目标插值公式是通过对相关标准,例如HEVC标准中的插值公式,即标准插值公式等效转换得到的。具体的,目标亮度插值公式是通过对标准亮度插值公式进行等效转换得到的。目标色度插值公式是通过对标准色度插值公式进行等效转换得到的。
可选的,标准亮度插值公式包括各个标准整像素对应的标准亮度插值系数。
在本公开实施例中,可选的,在对标准亮度插值公式进行等效转换时,对于亮度插值精度中的每个分像素亮度插值精度,获取该分像素亮度插值精度对应的标准亮度插值公式。对该分像素亮度插值精度对应的标准亮度插值公式进行等效转换,得到该分像素亮度插值精度对应的目标亮度插值公式。
具体的,对于每个分像素亮度插值精度,对该分像素亮度插值精度对应的标准亮度插值公式进行等效转换,以得到该分像素亮度插值精度对应的目标亮度插值公式,即利用该目标亮度插值公式计算得到的分像素的值与利用该标准亮度插值公式计算得到分像素的值相同。该目标亮度插值公式中的目标插值系数的绝对值之和小于预设保存数值。
其中,目标亮度插值公式包括计算分像素对应的中间结果的公式,相应的,目标插值系数为该公式中的移位符号左侧的整像素对应的插值系数。
可选的,预设保存数值是通过并行处理位数、图像位宽以及符号位对应的位数计算得到的,即将并行处理位数依次减去图像位宽、符号位对应的位数,得到剩余位数,2的剩余位数次方为该预设保存数值,例如,并行处理位数为16,图像位宽为10,符号位对应的位数为1,则剩余位数为5,预设保存数值为2的5次方,即32;又例如,当图像位宽为12,则剩余位数为16-12-1=3,相应的,预设保存数值为2的3次方,即8。
进一步的,可选的,对分像素亮度插值精度对应的标准亮度插值公式进行等效转换的过程为:获取标准亮度插值公式中的移位数值,并基于移位数值和并行处理位数,对标准整像素对应的标准亮度插值系数进行拆分,得到标准整像素对应的拆分后的亮度插值系数。根据标准整像素对应的拆分后的标准亮度插值系数,对分像素亮度插值精度对应的标准亮度插值公式进行等效转换。
其中,移位数值为图像位宽与预设值(例如,8)的差值。
具体的,在对标准亮度插值公式进行等效转换时,实际上是基于移位数值和并行处理位数对标准亮度插值公式中的整像素对应的插值系数,即标准整像素对应的标准亮度插值系数进行拆分,以使在移位符号左侧的整像素对应的插值系数的绝对值之和小于预设保存数值。
具体的,在对标准亮度插值系数进行拆分时,是对较大的标准亮度插值系数进行拆分,即对大于预设阈值的标准亮度插值系数的进行拆分,以将其拆分成较小的两个亮度插值系数,即得到拆分后的亮度插值系数,由于需要使得移位符号左侧内的插值系数的绝对值尽可能地小,因此,将拆分后的亮度插值系数中的较小的亮度插值系数置于移位符号左侧内。
可选的,移位符号为右移符号。预设阈值可以根据实际需求进行设置,例如,预设阈值为6,在此,不对其进行限制。
另外,可以理解,在对标准亮度插值公式进行转换时,实际是对标准亮度插值公式中的计算分像素对应的中间结果的公式进行等效转换,标准亮度插值系数为该公式中的整像素对应的插值系数。
在公开实施例中,在进行亮度插值时,相邻整像素值pixel-3~4表示为a~h。当分像素亮度插值精度为1/4分像素插值精度时,分像素对应的相邻整像素对应的标准插值系数,即标准亮度插值系数如图5中的qfilter[i]所示,即为(-1,4,-10,58,17,-5,1)。相应的,1/4分像素插值精度对应的标准亮度插值公式包括tmp=(-a+4b-10c+58d+17e-5f+g)>>(bitdepth-8)。其中,tmp为分像素对应的中间结果,bitdepth为图像位宽。
其中,i的取值范围为[-3,4]。
另外,标准亮度插值公式还包括dst=roundshift(tmp,14-bitdepth),其中,dst为与整像素a、b、c、d、e、f和g对应的分像素的值。例如,如图6所示,h0,0为1/4分像素,可以利用A0,0和A0,1等相邻整像素的值确定h0,0分像素对应的中间结果。
具体的,在对1/4分像素插值精度对应的标准亮度插值公式进行等效转换时,先对整像素进行加权求和后进行右移计算得到的中间结果与先进行右移后进行求和所得到的结果相同,因此,可以对标准亮度插值公式中的整像素对应的标准亮度插值系数进行拆分,以将部分整像素置于右移符号左侧,并将剩余部分整像素置于右移符号右侧,从而使得右移符号左侧的整像素对应的标准亮度插值系数的绝对值之和小于预设保存数值。例如,当图像位宽为10bit时,可以将整像素d对应的标准亮度插值系数58拆分为-6和16,由于右移符号左侧的整像素对应的插值系数的绝对值之和需要尽可能地小,因此,可以将-6d置于右移符号左侧,而将16d置于右移符号右侧。
相应的,当图像位宽为10bits时,得到的1/4分像素插值精度对应的目标亮度插值公式包括tmp=((-a-10c-5f+g-6d+e)>>(bitdepth-8))+b+4e+16d,和/或tmp=((-a-2c-5f+g-6d+e)>>(bitdepth-8))+2c+b+4e+16d。
其中,tmp=((-a-10c-5f+g-6d+e)>>(bitdepth-8))+b+4e+16d公式对应的目标插值系数为(-1,-10,-5,1,-6,1),目标插值系数的绝对值之和小于预设保存数值,即32,即小于25,保证中间结果的位宽小于16bit。
其中,tmp=((-a-2c-5f+g-6d+e)>>(bitdepth-8))+2c+b+4e+16d公式对应的目标插值系数为(-1,-2,-5,1,-6,1),目标插值系数的绝对值之和小于32,保证中间结果的位宽小于16bit。
在公开实施例中,当分像素亮度插值精度为3/4分像素插值精度时,3/4分像素插值精度对应的标准亮度插值系数与1/4分像素插值精度对应的标准亮度插值系数对称,即1/4分像素插值精度对应的标准亮度插值系数qfilter[index]与3/4分像素插值精度对应的标准亮度插值系数qfilter[1-index]相等,即3/4分像素插值精度对应的标准插值系数为(0,1,-5,17,58,-10,4,-1)。相应的,3/4分像素插值精度对应的标准亮度插值公式为tmp=(b-5c+17d+58e-10f+4g-h)>>(bitdepth-8)。
具体的,当图像位宽为10bits时,3/4分像素插值精度对应的目标亮度插值公式包括tmp=((b-h-5c-10f+d-6e)>>(bitdepth-8))+(4d+16e+g)、tmp=((b-h-c-10f+d-6e)>>(bitdepth-8))+(c+4d+16e+g)和tmp==((b-h-c-2f+d-6e)>>(bitdepth-8))+(c+4d+16e-2f+g)中的一个或多个。
其中,tmp=((b-h-5c-10f+d-6e)>>(bitdepth-8))公式对应的目标插值系数为(1,-1,-5,-10,1,-6),目标插值系数的绝对值之和小于32,即小于25,保证中间结果的位宽小于10+5+1,即16bits。
其中,tmp=((b-h-c-10f+d-6e)>>(bitdepth-8))+(c+4d+16e+g)公式对应的目标插值系数为(1,-1,-1,-10,1,-6),目标插值系数的绝对值之和小于32,保证中间结果的位宽小于16bits。
其中,tmp==((b-h-c-2f+d-6e)>>(bitdepth-8))+(c+4d+16e-2f+g)公式对应的目标插值系数为(1,-1,-1,-2,1,-6),目标插值系数的绝对值之和小于32,保证中间结果的位宽小于16bit。
在公开实施例中,当分像素亮度插值精度为1/2分像素插值精度时,分像素对应的相邻整像素对应的标准插值系数,即标准亮度插值系数如图5中的hfilter[i]所示,即为(-1,4,-11,40,40,-11,4,-1)。相应的,1/2分像素插值精度对应的标准亮度插值公式包括tmp=(-a+4b-11c+40d+40e-11f+4g-h)>>(bitdepth-8)。其中,tmp为分像素对应的中间结果,bitdepth为图像位宽。
具体的,当图像位宽为10bits时,1/2分像素插值精度对应的目标亮度插值公式包括tmp!=-(((a+h)+11(c+f))>>(bitdepth-8))+(b+g)+10(d+e),即tmp1=(a+h)+11(c+f),tmp==-(tmp1>>2)-(tmp1%4!=0)+(b+g)+10(d+e)。
其中,1/2分像素插值精度对应的目标插值系数为(1,11,11,1),目标插值系数的绝对值之和小于32,保证中间结果的位宽小于16bit。
可以理解,目标亮度插值公式除包括计算分像素对应的中间结果的公式外,还可以包括利用该中间结果计算分像素的值的公式,即dst=roundshift(tmp,14-bitdepth)。另外,当图像位宽为10bits时,上述所列举的目标亮度插值公式仅为示例,还可以对其它标准插值系数进行拆分、组合,以得到分像素亮度插值精度对应的不同的目标亮度公式,且图像位宽也可以为其它高位宽,上述10bits仅为一种示例,在此,不对其进行限制。
在本公开实施例中,可选的,在对标准色度插值公式进行等效转换时,对于色度插值精度中的每个分像素色度插值精度,获取分像素色度插值精度对应的标准色度插值公式,其中标准色度插值公式包括多个标准插值系数。对分像素色度插值精度对应的标准色度插值公式进行等效转换,得到分像素色度插值精度对应的目标色度插值公式。
具体的,对于每个分像素色度插值精度,对该分像素色度插值精度对应的标准色度插值公式进行等效转换,以得到该分像素色度插值精度对应的目标色度插值公式,即利用该目标色度插值公式计算得到的分像素的值与利用该标准色度插值公式计算得到分像素的值相同。该目标色度插值公式中的目标插值系数的绝对值之和小于预设保存数值。
其中,对分像素色度插值精度对应的标准色度插值公式进行等效转换的过程与对分像素亮度插值精度对应的标准亮度插值公式进行等效转换的过程类似,在此,不再对其进行赘述。
在本公开实施例中,在进行色度插值时,相邻整像素值pixel-1~2表示为a~d。当分像素色度插值精度为1/8分像素插值精度时,分像素对应的相邻整像素对应的标准插值系数,即标准色度插值系数如图7中的filter1[i]所示,即为(-2,58,10,-2)。1/8分像素插值精度对应的标准色度插值公式为tmp=(-2a+58b+10c-2d)>>(bitdepth-8)。
具体的,当图像位宽为10bits,在对1/8分像素插值精度对应的标准色度插值公式进行等效转换时,对较大的标准色度插值系数进行拆分,并将拆分得到的较小的插值系数置于右移符号左侧,较大的插值系数置于右移符号右侧。例如,对整像素b对应的标准插值系数58进行拆分,拆分为2和14,2置于右移符号左侧,14置于右移符号右侧。
相应的,当图像位宽为10bits时,1/4分像素插值精度对应的目标色度插值公式包括tmp=((-2a+2b+10c-2d)>>(bitdepth-8))+14b,和/或,tmp=((-2a+2b+2c-2d)>>(bitdepth-8))+14b+2c。
其中,tmp=((-2a+2b+10c-2d)>>2)+14b公式对应的目标插值系数为(-2,2,10,-2),目标插值系数的绝对值之和小于32,小于2(16-bitdepth-1)
其中,tmp=((-2a+2b+2c-2d)>>(bitdepth-8))+14b+2c公式对应的目标插值系数为(-2,2,2-2),目标插值系数的绝对值之和小于32。
在本公开实施例中,可选的,当分像素色度插值精度为2/8分像素插值精度时,其对应的标准插值系数,即标准色度插值系数如图7中的filter2[i]所示,即为(-4,54,16,-2)。2/8分像素插值精度对应的标准色度插值公式为tmp=(-4a+54b+16c-2d)>>(bitdepth-8)。
相应的,当图像位宽为10bits时,在对2/8分像素插值精度对应的标准色度插值公式进行等效转化后,得到的2/8分像素插值精度对应的目标色度插值公式包括tmp=((-4a+6b-2d)>>2)+12b+4c,该公式中的目标插值系数为(-4,6,-2),目标插值系数的绝对值之和为4+6+2=12,其小于32。
在本公开实施例中,可选的,当分像素色度插值精度为3/8分像素插值精度时,其对应的标准插值系数,即标准色度插值系数如图7中的filter3[i]所示,即为(-6,46,28,-4)。2/8分像素插值精度对应的标准色度插值公式为tmp=(-6a+46b+28c-4d)>>(bitdepth-8)。
相应的,当图像位宽为10bits时,在对3/8分像素插值精度对应的标准色度插值公式进行等效转化后,得到的3/8分像素插值精度对应的目标色度插值公式包括tmp=((-6a+2b-4d)>>(bitdepth-8))+11b+7c,该公式中的目标插值系数为(-6,2,-4),标插值系数的绝对值之和小于32。
在本公开实施例中,可选的,当分像素色度插值精度为4/8分像素插值精度时,其对应的标准插值系数,即标准色度插值系数如图7中的filter4[i]所示,即为(-4,36,36,-4)。4/8分像素插值精度对应的标准色度插值公式为tmp=(-4a+36b+36c-4d)>>(bitdepth-8)。
相应的,当图像位宽为10bits时,在对4/8分像素插值精度对应的标准色度插值公式进行等效转化后,得到的4/8分像素插值精度对应的目标色度插值公式包括tmp=-a+9b+9c-1d,该公式中的目标插值系数为(-1,9,9,-1),目标插值系数的绝对值之和小于32。
可以理解,当对标准色度插值公式中的各个整像素对应的标准色度插值系数进行拆分后,得到的各个标准色度插值系数对应的拆分后的插值系数均包括0,表明可以直接对所有整像素,即对各个标准色度插值系数进行移位,则确定整像素对应的目标插值系数为该整像素对应的拆分后的插值系数中除0以外的系数,例如,当分像素色度插值精度为4/8分像素插值精度时,其对应的标准色度插值系数为(-4,36,36,-4),表明对各个标准色度插值系数进行移位,则确定整像素a对应的目标插值系数为-1,整像素b对应的目标插值系数为36,整像素c对应的目标插值系数为36,整像素d对应的目标插值系数为-1。
在本公开实施例中,可选的,当分像素色度插值精度为5/8分像素插值精度时,其对应的标准色度插值系数与3/8分像素插值精度对应的标准色度插值系数对称,即5/8分像素插值精度对应的标准色度插值系数为(-4,28,46,-6)。5/8分像素插值精度对应的标准色度插值公式为tmp=(-4a+28b+46c-6d)>>(bitdepth-8)。
相应的,当图像位宽为10bits时,在对5/8分像素插值精度对应的标准色度插值公式进行等效转化后,得到的5/8分像素插值精度对应的目标色度插值公式包括tmp=((-4a+2c-6d)>>2)+7b+11c,该公式中的目标插值系数为(-4,2,-6),目标插值系数的绝对值之和小于32。
在本公开实施例中,可选的,当分像素色度插值精度为6/8分像素插值精度时,其对应的标准色度插值系数与2/8分像素插值精度对应的标准色度插值系数对称,即2/8分像素插值精度对应的标准色度插值系数为(-2,16,54,-4)。6/8分像素插值精度对应的标准色度插值公式为tmp=(-2a+16b+54c-4d)>>(bitdepth-8)。
相应的,当图像位宽为10bits时,在对6/8分像素插值精度对应的标准色度插值公式进行等效转化后,得到的6/8分像素插值精度对应的目标色度插值公式包括tmp==((-2a+6c-4d)>>2)+4b+12c,该公式中的目标插值系数为(-2,6,-4),目标插值系数的绝对值之和小于32。
在本公开实施例中,可选的,当分像素色度插值精度为7/8分像素插值精度时,其对应的标准色度插值系数与1/8分像素插值精度对应的标准色度插值系数对称,即1/8分像素插值精度对应的标准色度插值系数为(-2,10,58,-2)。7/8分像素插值精度对应的标准色度插值公式为tmp=(-2a+10b+58c-2d)>>(bitdepth-8)。
相应的,当图像位宽为10bits时,在对7/8分像素插值精度对应的标准色度插值公式进行等效转化后,得到的7/8分像素插值精度对应的目标色度插值公式包括tmp==((-2a+10b+2c-2d)>>2)+14c,该公式中的目标插值系数为(-2,10,2,-2),目标插值系数的绝对值之和小于32。
另外,标准亮度插值公式还包括dst=roundshift(tmp,14-bitdepth),相应的,目标亮度插值公式还可以包括dst=roundshift(tmp,14-bitdepth),即利用通过整像素a、b、c和d的值计算得到的中间结果,计算与整像素a、b、c和d对应的分像素的值,例如,如图8所示,ea0,0为1/8分像素,可以利用B0,0和B0,1等相邻整像素的值确定ea0,0分像素对应的中间结果,即确定ea0,0分像素的值。
可以理解,目标色度插值公式除包括计算分像素对应的中间结果的公式外,还可以包括利用该中间结果计算分像素的值的公式,即dst=roundshift(tmp,14-bitdepth)。另外,当图像位宽为10bits时,上述所列举的目标色度插值公式仅为示例,还可以对其它标准插值系数进行拆分、组合,以得到分像素色度插值精度对应的不同的目标色度公式,且图像位宽也可以为其它高位宽,上述10bits仅为一种示例,在此,不对其进行限制。
在本公开实施例中,在利用目标插值公式确定分像素的值,即分像素对应的中间结果tmp时,保证tmp的位宽在16bit,即2bytes内,在利用simd进行并行计算时,可以保证并行度比利用原始插值方式的并行度提升了一倍,从而提高像素插值的效率。
另外,在对标准插值公式等效转换时,也可以由相关人员进行转换,以得到相应的目标插值公式,从而可以在后续应用中,即在需进行像素插值时,可以直接利用目标插值公式。
S403:基于并行处理技术,根据目标插值公式以及整像素的值确定整像素对应的分像素的值。其中,目标插值公式中的目标插值系数的绝对值之和小于或等于预设低位宽对应的并行处理位数。
在本公开实施例中,基于单指令多数据流指令,根据目标插值公式以及整像素的值确定整像素对应的分像素的值。其中,并行处理位数为与单指令多数据流指令对应的预设低位宽对应的并行处理位数。
具体的,基于simd指令并行进行像素插值,由于在利用目标插值公式计算得到分像素对应的中间结果的位宽小于16bit,因此,可以通过2bytes保存该中间结果。当使用128bit的neon寄存器时,单个simd指令可以并行处理128/16=8个计算,即可以并行进行8个分像素的值的计算。
S404:根据整像素的值和分像素的值,对待处理视频图像进行编码处理。
需要说明,上述对Hevc标准中的标准插值公式进行等效转换的过程也适用于其他标准(例如,avc、vvc、av1等)中的插值公式中。同理,上述插值计算相关的simd实现,也可以为其它指令集,例如,x86 sse/avx,arm neon,gpu等指令集。
另外,在自研的h265解码器中,arm64bit neon的实现,优化实现后和优化实现前进行对比,优化后整体解码时间减少了7.86%左右,即在采用转换后的插值公式处理HDR视频图像后,整体解码时间减少了7.86%左右。下面将以一个具体实例进行说明:
测试序列为ctc yuv序列,编码配置为gop8 random access 10bit hevc码流。Anchor是原始计算方法(即利用原始插值公式)实现的解码时间,Test是优化后(即利用转换后的插值公式)的解码时间(如表1所示)。
表1优化后的解码时间
Figure BDA0003141703450000171
其中,classA:Traffic,People,2560x1600;
classB:Kimono,ParkScene,Cactus,BasketballDrive,BQTerrace,1920x1080;
classC:BasketBallDrill,BQMall,PartyScene,RaceHorses,830x480;
classD:BasketballPass,BQSquare,BlowingBubbles,RaceHorses,416x240;
classE:FourPeople,Johnny,KristenAndSara,1280x720;
ClassF:ChinaSpeed,SlideEditing,SlideShow,1280x720。
在本公开实施例中,将原始的插值公式(例如,标准亮度插值公式、标准色度插值公式)转换为等效公式,即目标插值公式。在对高位宽(例如,10bits)的视频图像进行像素插值的过程中,通过原始的插值公式计算得到的中间结果会超过16位,simd计算中需要32bit进行保存,而通过目标插值公式计算得到的中间结果不会超过16位,从而将simd并行度提升了一倍,即将像素插值的并行度提升了一倍。
在本实施例中,通过考虑到分像素插值算法中的相关公式中的加权求和roundshift函数以及具体插值系数的特点,对具体的插值计算过程进行修改,在保证计算结果不变的基础上,使得插值计算的中间结果位宽可以用2byte进行保存,显著提升simd并行实现的并行度。
在本公开实施例中,在利用目标插值公式计算分像素对应的中间结果时,可以保证中间结果可以通过与预设低位宽对应的中间结果对应的保存字节数,即并行处理位数进行保存。可见,相较于采用原始的标准插值公式计算分像素对应的中间结果的位宽,采用目标插值公式计算得到的中间结果的位宽大大减小了,从而使得像素插值的并行度得到了很大的提升,进而可以提高位宽的视频的编解码效率。
对应于上文实施例所述的视频图像处理方法,图9为本公开实施例提供的视频图像处理设备的结构框图。为了便于说明,仅示出了与本公开实施例相关的部分。参照图9,视频图像处理设备90包括:数据获取模块901和处理模块902。
其中,数据获取模块901,用于获取待处理视频图像对应的整像素的值及图像位宽,并获取目标插值公式,
处理模块902,用于基于并行处理技术,根据目标插值公式以及整像素的值确定整像素对应的分像素的值,其中,目标插值公式中的目标插值系数的绝对值与图像位宽所对应的和小于预设低位宽对应的并行处理位数,
处理模块902,还用于根据整像素的值和分像素的值,对待处理视频图像进行编码处理。
在本公开的一个实施例中,数据获取模块901还用于:
获取目标插值精度,并获取与目标插值精度对应的目标插值公式。
在本公开的一个实施例中,目标插值精度包括亮度插值精度,其中,亮度插值精度包括至少一个分像素亮度插值精度,目标插值公式包括目标亮度插值公式,
处理模块902还用于:
对于亮度插值精度中的每个分像素亮度插值精度,获取分像素亮度插值精度对应的标准亮度插值公式,
对分像素亮度插值精度对应的标准亮度插值公式进行等效转换,得到分像素亮度插值精度对应的目标亮度插值公式。
在本公开的一个实施例中,标准亮度插值公式包括各个标准整像素对应的标准亮度插值系数,
处理模块902还用于:
获取标准亮度插值公式中的移位数值,并基于移位数值和并行处理位数,对标准整像素对应的标准亮度插值系数进行拆分,得到标准整像素对应的拆分后的亮度插值系数,
根据标准整像素对应的拆分后的标准亮度插值系数,对分像素亮度插值精度对应的标准亮度插值公式进行等效转换。
在本公开的一个实施例中,目标插值精度包括色度插值精度,其中,色度插值精度包括至少一个分像素色度插值精度,目标插值公式包括目标色度插值公式,
处理模块902还用于:
对于色度插值精度中的每个分像素色度插值精度,获取分像素色度插值精度对应的标准色度插值公式,
对分像素色度插值精度对应的标准色度插值公式进行等效转换,得到分像素色度插值精度对应的目标色度插值公式。
在本公开的一个实施例中,处理模块902还用于:
基于单指令多数据流指令,根据目标插值公式以及整像素的值确定整像素对应的分像素的值,其中,并行处理位数为与单指令多数据流指令对应的预设低位宽对应的并行处理位数。
在本公开的一个实施例中,并行处理位数包括16。
在本公开的一个实施例中,图像位宽为高位宽,其中,高位宽大于或等于10位,预设低位宽小于或等于8位。
参考图10,其示出了适于用来实现本公开实施例的电子设备1000的结构示意图,该电子设备1000可以为第一设备和/或第二设备。其中,终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、个人数字助理(Personal Digital Assistant,简称PDA)、平板电脑(Portable Android Device,简称PAD)、便携式多媒体播放器(PortableMedia Player,简称PMP)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图10示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图10所示,电子设备1000可以包括处理装置(例如中央处理器、图形处理器等)1001,其可以根据存储在只读存储器(Read Only Memory,简称ROM)1002中的程序或者从存储装置1009加载到随机访问存储器(Random Access Memory,简称RAM)1003中的程序而执行各种适当的动作和处理。在RAM 1003中,还存储有电子设备1000操作所需的各种程序和数据。处理装置1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
通常,以下装置可以连接至I/O接口1005:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置1006;包括例如液晶显示器(Liquid CrystalDisplay,简称LCD)、扬声器、振动器等的输出装置1007;包括例如磁带、硬盘等的存储装置1009;以及通信装置1009。通信装置1009可以允许电子设备1000与其他设备进行无线或有线通信以交换数据。虽然图10示出了具有各种装置的电子设备1000,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置1009从网络上被下载和安装,或者从存储装置1009被安装,或者从ROM1002被安装。在该计算机程序被处理装置1001执行时,执行本公开实施例的方法中限定的上述功能。
本公开实施例还提供了一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时,实现如上所述的视频图像处理方法。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备执行上述实施例所示的方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LocalArea Network,简称LAN)或广域网(Wide Area Network,简称WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
第一方面,根据本公开的一个或多个实施例,提供了一种视频图像处理方法,包括:
获取待处理视频图像对应的整像素的值及图像位宽,并获取目标插值公式;
基于并行处理技术,根据所述目标插值公式以及所述整像素的值确定整像素对应的分像素的值;其中,所述目标插值公式中的目标插值系数的绝对值与所述图像位宽所对应的和小于预设低位宽对应的并行处理位数;
根据所述整像素的值和所述分像素的值,对所述待处理视频图像进行编码处理。
根据本公开的一个或多个实施例,所述获取目标插值公式,包括:
获取目标插值精度,并获取与所述目标插值精度对应的目标插值公式。
根据本公开的一个或多个实施例,所述目标插值精度包括亮度插值精度;其中,所述亮度插值精度包括至少一个分像素亮度插值精度;所述目标插值公式包括目标亮度插值公式;
所述方法还包括:
对于所述亮度插值精度中的每个分像素亮度插值精度,获取所述分像素亮度插值精度对应的标准亮度插值公式;
对所述分像素亮度插值精度对应的标准亮度插值公式进行等效转换,得到所述分像素亮度插值精度对应的目标亮度插值公式。
根据本公开的一个或多个实施例,所述标准亮度插值公式包括各个标准整像素对应的标准亮度插值系数;
所述对所述分像素亮度插值精度对应的标准亮度插值公式进行等效转换,包括:
获取所述标准亮度插值公式中的移位数值,并基于所述移位数值和所述并行处理位数,对所述标准整像素对应的标准亮度插值系数进行拆分,得到所述标准整像素对应的拆分后的亮度插值系数;
根据所述标准整像素对应的拆分后的标准亮度插值系数,对所述分像素亮度插值精度对应的标准亮度插值公式进行等效转换。
根据本公开的一个或多个实施例,所述目标插值精度包括色度插值精度;其中,所述色度插值精度包括至少一个分像素色度插值精度;所述目标插值公式包括目标色度插值公式;
所述方法还包括:
对于所述色度插值精度中的每个分像素色度插值精度,获取所述分像素色度插值精度对应的标准色度插值公式;
对所述分像素色度插值精度对应的标准色度插值公式进行等效转换,得到所述分像素色度插值精度对应的目标色度插值公式。
根据本公开的一个或多个实施例,所述基于并行处理技术,根据所述目标插值公式以及所述整像素的值确定整像素对应的分像素的值,包括:
基于单指令多数据流指令,根据所述目标插值公式以及所述整像素的值确定所述整像素对应的分像素的值;其中,所述并行处理位数为与所述单指令多数据流指令对应的预设低位宽对应的并行处理位数。
根据本公开的一个或多个实施例,所述并行处理位数包括16。
根据本公开的一个或多个实施例,所述图像位宽为高位宽,其中,所述高位宽大于或等于10位;所述预设低位宽小于或等于8位。
根据本公开的一个或多个实施例,所述分别确定每个待处理消息对应的哈希值,包括:
对于每个待处理消息,获取所述待处理消息中的消息标识;
通过预设均匀散列算法,计算所述消息主键对应的哈希值以得到所述待处理消息对应的哈希值。
根据本公开的一个或多个实施例,所述方法还包括:
获取消息筛选规则;
从所述多个待处理消息中确定满足所述消息筛选规则的待处理消息,并将其确定为待删除消息;
从所述多个待处理消息中删除所述待删除消息。
根据本公开的一个或多个实施例,所述消息筛选规则包括消息覆盖规则;
所述从所述多个待处理消息中确定满足所述消息筛选规则的待处理消息,包括:
获取各个待处理消息中的消息标识;
从所述多个待处理消息中获取消息标识相同的待处理消息,并将消息标识相同的待处理消息作为消息组;
获取所述消息组中除消息时间最晚的待处理消息以外的待处理消息,并将其确定为满足所述消息覆盖规则的待处理消息。
根据本公开的一个或多个实施例,所述消息筛选规则包括时效筛选规则;其中,所述时效筛选规则包括有效时段;
所述从所述多个待处理消息中确定满足所述消息筛选规则的待处理消息,包括:
获取各个待处理消息中的消息时间;
若所述待处理消息中的消息时间不在所述有效时段内,则确定所述待处理消息为满足所述时效筛选规则的待处理消息。
第二方面,根据本公开的一个或多个实施例,提供了一种视频图像处理设备,包括:
数据获取模块,用于获取待处理视频图像对应的整像素的值及图像位宽,并获取目标插值公式;
处理模块,用于基于并行处理技术,根据所述目标插值公式以及所述整像素的值确定整像素对应的分像素的值;其中,所述目标插值公式中的目标插值系数的绝对值与所述图像位宽所对应的和小于预设低位宽对应的并行处理位数;
所述处理模块,还用于根据所述整像素的值和所述分像素的值,对所述待处理视频图像进行编码处理。
根据本公开的一个或多个实施例,所述数据获取模块还用于:
获取目标插值精度,并获取与所述目标插值精度对应的目标插值公式。
根据本公开的一个或多个实施例,所述目标插值精度包括亮度插值精度;其中,所述亮度插值精度包括至少一个分像素亮度插值精度;所述目标插值公式包括目标亮度插值公式;
所述处理模块还用于:
对于所述亮度插值精度中的每个分像素亮度插值精度,获取所述分像素亮度插值精度对应的标准亮度插值公式;
对所述分像素亮度插值精度对应的标准亮度插值公式进行等效转换,得到所述分像素亮度插值精度对应的目标亮度插值公式。
根据本公开的一个或多个实施例,所述标准亮度插值公式包括各个标准整像素对应的标准亮度插值系数;
所述处理模块还用于:
获取所述标准亮度插值公式中的移位数值,并基于所述移位数值和所述并行处理位数,对所述标准整像素对应的标准亮度插值系数进行拆分,得到所述标准整像素对应的拆分后的亮度插值系数;
根据所述标准整像素对应的拆分后的标准亮度插值系数,对所述分像素亮度插值精度对应的标准亮度插值公式进行等效转换。
根据本公开的一个或多个实施例,所述目标插值精度包括色度插值精度;其中,所述色度插值精度包括至少一个分像素色度插值精度;所述目标插值公式包括目标色度插值公式;
所述处理模块还用于:
对于所述色度插值精度中的每个分像素色度插值精度,获取所述分像素色度插值精度对应的标准色度插值公式;
对所述分像素色度插值精度对应的标准色度插值公式进行等效转换,得到所述分像素色度插值精度对应的目标色度插值公式。
根据本公开的一个或多个实施例,所述处理模块还用于:
基于单指令多数据流指令,根据所述目标插值公式以及所述整像素的值确定所述整像素对应的分像素的值;其中,所述并行处理位数为与所述单指令多数据流指令对应的预设低位宽对应的并行处理位数。
根据本公开的一个或多个实施例,所述并行处理位数包括16。
根据本公开的一个或多个实施例,所述图像位宽为高位宽,其中,所述高位宽大于或等于10位;所述预设低位宽小于或等于8位。
第三方面,根据本公开的一个或多个实施例,提供了一种电子设备,包括:至少一个处理器和存储器;
所述存储器存储计算机执行指令;
所述至少一个处理器执行所述存储器存储的计算机执行指令,使得所述至少一个处理器执行如上第一方面以及第一方面各种可能的设计所述的视频图像处理方法。
第四方面,根据本公开的一个或多个实施例,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如上第一方面以及第一方面各种可能的设计所述的视频图像处理方法。
第五方面,根据本公开的一个或多个实施例,提供了一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时,实现如上第一方面以及第一方面各种可能的设计所述的视频图像处理方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (11)

1.一种视频图像处理方法,其特征在于,包括:
获取待处理视频图像对应的整像素的值及图像位宽,并获取目标插值公式;
基于并行处理技术,根据所述目标插值公式以及所述整像素的值确定整像素对应的分像素的值;其中,所述目标插值公式中的目标插值系数的绝对值与所述图像位宽所对应的和小于预设低位宽对应的并行处理位数;
根据所述整像素的值和所述分像素的值,对所述待处理视频图像进行编码处理。
2.根据权利要求1所述的方法,其特征在于,所述获取目标插值公式,包括:
获取目标插值精度,并获取与所述目标插值精度对应的目标插值公式。
3.根据权利要求2所述的方法,其特征在于,所述目标插值精度包括亮度插值精度;其中,所述亮度插值精度包括至少一个分像素亮度插值精度;所述目标插值公式包括目标亮度插值公式;
所述方法还包括:
对于所述亮度插值精度中的每个分像素亮度插值精度,获取所述分像素亮度插值精度对应的标准亮度插值公式;
对所述分像素亮度插值精度对应的标准亮度插值公式进行等效转换,得到所述分像素亮度插值精度对应的目标亮度插值公式。
4.根据权利要求3所述的方法,其特征在于,所述标准亮度插值公式包括各个标准整像素对应的标准亮度插值系数;
所述对所述分像素亮度插值精度对应的标准亮度插值公式进行等效转换,包括:
获取所述标准亮度插值公式中的移位数值,并基于所述移位数值和所述并行处理位数,对所述标准整像素对应的标准亮度插值系数进行拆分,得到所述标准整像素对应的拆分后的亮度插值系数;
根据所述标准整像素对应的拆分后的标准亮度插值系数,对所述分像素亮度插值精度对应的标准亮度插值公式进行等效转换。
5.根据权利要求2所述的方法,其特征在于,所述目标插值精度包括色度插值精度;其中,所述色度插值精度包括至少一个分像素色度插值精度;所述目标插值公式包括目标色度插值公式;
所述方法还包括:
对于所述色度插值精度中的每个分像素色度插值精度,获取所述分像素色度插值精度对应的标准色度插值公式;
对所述分像素色度插值精度对应的标准色度插值公式进行等效转换,得到所述分像素色度插值精度对应的目标色度插值公式。
6.根据权利要求1所述的方法,其特征在于,所述基于并行处理技术,根据所述目标插值公式以及所述整像素的值确定整像素对应的分像素的值,包括:
基于单指令多数据流指令,根据所述目标插值公式以及所述整像素的值确定所述整像素对应的分像素的值;其中,所述并行处理位数为与所述单指令多数据流指令对应的预设低位宽对应的并行处理位数。
7.根据权利要求1所述的方法,其特征在于,所述并行处理位数包括16。
8.根据权利要求1至7任一项所述的方法,其特征在于,所述图像位宽为高位宽,其中,所述高位宽大于或等于10位;所述预设低位宽小于或等于8位。
9.一种视频图像处理设备,其特征在于,包括:
数据获取模块,用于获取待处理视频图像对应的整像素的值及图像位宽,并获取目标插值公式;
处理模块,用于基于并行处理技术,根据所述目标插值公式以及所述整像素的值确定整像素对应的分像素的值;其中,所述目标插值公式中的目标插值系数的绝对值与所述图像位宽所对应的和小于预设低位宽对应的并行处理位数;
所述处理模块,还用于根据所述整像素的值和所述分像素的值,对所述待处理视频图像进行编码处理。
10.一种电子设备,其特征在于,包括:至少一个处理器和存储器;
所述存储器存储计算机执行指令;
所述至少一个处理器执行所述存储器存储的计算机执行指令,使得所述至少一个处理器执行如权利要求1至8任一项所述的视频图像处理方法。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如权利要求1至8任一项所述的视频图像处理方法。
CN202110735936.9A 2021-06-30 2021-06-30 视频图像处理方法、设备及电子设备 Active CN113411611B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110735936.9A CN113411611B (zh) 2021-06-30 2021-06-30 视频图像处理方法、设备及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110735936.9A CN113411611B (zh) 2021-06-30 2021-06-30 视频图像处理方法、设备及电子设备

Publications (2)

Publication Number Publication Date
CN113411611A CN113411611A (zh) 2021-09-17
CN113411611B true CN113411611B (zh) 2023-06-20

Family

ID=77680498

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110735936.9A Active CN113411611B (zh) 2021-06-30 2021-06-30 视频图像处理方法、设备及电子设备

Country Status (1)

Country Link
CN (1) CN113411611B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004282239A (ja) * 2003-03-13 2004-10-07 Ricoh Co Ltd 画像処理装置
CN102497550A (zh) * 2011-12-05 2012-06-13 南京大学 H.264编码中运动补偿插值的并行加速方法及装置
CN108810544A (zh) * 2017-04-28 2018-11-13 想象技术有限公司 用于纹理解压缩的多输出解码器
CN108833916A (zh) * 2018-06-20 2018-11-16 腾讯科技(深圳)有限公司 视频编码、解码方法、装置、存储介质和计算机设备
CN109416830A (zh) * 2016-07-08 2019-03-01 深圳市大疆创新科技有限公司 用于图像处理的系统和方法
CN109756739A (zh) * 2017-11-07 2019-05-14 华为技术有限公司 图像预测方法和装置
CN110381321A (zh) * 2019-08-23 2019-10-25 西安邮电大学 一种用于运动补偿的插值计算并行实现方法
WO2020082662A1 (zh) * 2018-10-26 2020-04-30 北京图森未来科技有限公司 一种图像亮度统计方法及成像设备
CN112422976A (zh) * 2019-08-23 2021-02-26 北京大学 一种视频编码标准中的亮度分量运动补偿方法及视频编码方法
CN112911313A (zh) * 2021-01-14 2021-06-04 北京博雅慧视智能技术研究院有限公司 一种分像素运动估计方法及其电路装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102402671B1 (ko) * 2015-09-09 2022-05-26 삼성전자주식회사 보간 필터의 연산 복잡도를 조절할 수 있는 영상 처리 장치, 영상 보간 방법 및 영상 부호화 방법

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004282239A (ja) * 2003-03-13 2004-10-07 Ricoh Co Ltd 画像処理装置
CN102497550A (zh) * 2011-12-05 2012-06-13 南京大学 H.264编码中运动补偿插值的并行加速方法及装置
CN109416830A (zh) * 2016-07-08 2019-03-01 深圳市大疆创新科技有限公司 用于图像处理的系统和方法
CN108810544A (zh) * 2017-04-28 2018-11-13 想象技术有限公司 用于纹理解压缩的多输出解码器
CN109756739A (zh) * 2017-11-07 2019-05-14 华为技术有限公司 图像预测方法和装置
CN108833916A (zh) * 2018-06-20 2018-11-16 腾讯科技(深圳)有限公司 视频编码、解码方法、装置、存储介质和计算机设备
WO2020082662A1 (zh) * 2018-10-26 2020-04-30 北京图森未来科技有限公司 一种图像亮度统计方法及成像设备
CN110381321A (zh) * 2019-08-23 2019-10-25 西安邮电大学 一种用于运动补偿的插值计算并行实现方法
CN112422976A (zh) * 2019-08-23 2021-02-26 北京大学 一种视频编码标准中的亮度分量运动补偿方法及视频编码方法
CN112911313A (zh) * 2021-01-14 2021-06-04 北京博雅慧视智能技术研究院有限公司 一种分像素运动估计方法及其电路装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
嵌入式系统中全高清H.264编码器的设计;邓斐;林涛;;大众科技(01);全文 *
面向监控应用的AVS视频编码标准技术;张贤国;张莉;梁路宏;马思伟;;中国安防(05);全文 *

Also Published As

Publication number Publication date
CN113411611A (zh) 2021-09-17

Similar Documents

Publication Publication Date Title
CN109274969B (zh) 色度预测的方法和设备
US20170264904A1 (en) Intra-prediction complexity reduction using limited angular modes and refinement
CN107113435B (zh) 分区模式和变换尺寸确定方法、装置、系统及介质
CN112203085B (zh) 图像处理方法、装置、终端和存储介质
US20200077122A1 (en) Lossy image compression using palettization of locally mixed colors
WO2022135092A1 (zh) 屏幕共享显示方法、装置、设备及存储介质
CN111738951B (zh) 图像处理方法及装置
AU2023202986A1 (en) Method and apparatus for intra prediction
US20230421786A1 (en) Chroma from luma prediction for video coding
CN112203086B (zh) 图像处理方法、装置、终端和存储介质
CN113038176B (zh) 视频抽帧方法、装置和电子设备
US11516477B2 (en) Intra block copy scratch frame buffer
CN111738950B (zh) 图像处理方法及装置
TWI551118B (zh) 用於殘值預測的移動估測之方法
CN113411611B (zh) 视频图像处理方法、设备及电子设备
CN110097520B (zh) 图像处理方法和装置
US8873637B2 (en) Hardware pixel processing pipeline and video processing instructions
US11729416B2 (en) Modular motion estimation engine for tree-based video
CN116248889A (zh) 图像编码及解码方法、装置和电子设备
US11463716B2 (en) Buffers for video coding in palette mode
US9432614B2 (en) Integrated downscale in video core
CN111815508A (zh) 图像生成方法、装置、设备和计算机可读介质
CN116847036B (zh) 图像显示方法、装置、电子设备和计算机可读介质
CN112087636B (zh) 一种图像编码的处理方法、装置、存储介质及终端
US20240095882A1 (en) Image processing method and apparatus, electronic device and medium

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant