CN113497861B - 一种视频稳化方法及装置 - Google Patents

一种视频稳化方法及装置 Download PDF

Info

Publication number
CN113497861B
CN113497861B CN202010195539.2A CN202010195539A CN113497861B CN 113497861 B CN113497861 B CN 113497861B CN 202010195539 A CN202010195539 A CN 202010195539A CN 113497861 B CN113497861 B CN 113497861B
Authority
CN
China
Prior art keywords
frame
stabilized
value
video
video frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010195539.2A
Other languages
English (en)
Other versions
CN113497861A (zh
Inventor
胡振邦
刘阳兴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan TCL Group Industrial Research Institute Co Ltd
Original Assignee
Wuhan TCL Group Industrial Research Institute Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan TCL Group Industrial Research Institute Co Ltd filed Critical Wuhan TCL Group Industrial Research Institute Co Ltd
Priority to CN202010195539.2A priority Critical patent/CN113497861B/zh
Priority to PCT/CN2020/130572 priority patent/WO2021184812A1/zh
Publication of CN113497861A publication Critical patent/CN113497861A/zh
Application granted granted Critical
Publication of CN113497861B publication Critical patent/CN113497861B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Television Systems (AREA)

Abstract

本申请提供一种视频稳化方法及装置,涉及视频处理技术领域,能够有效改善视频拍摄过程中由于抖动产生的画面畸变的问题。该方法包括:获取待处理视频中的非首帧视频帧的运动参数;根据所述运动参数确定与所述运动参数对应的几何参数的稳化值,所述几何参数用于描述所述非首帧视频帧的抖动程度;根据所述运动参数与所述几何参数之间的变换关系,将所述几何参数的稳化值转换为稳化运动参数;根据所述稳化运动参数确定所述非首帧视频帧的稳化视频帧;根据所述稳化视频帧,生成所述待处理视频对应的稳化视频。

Description

一种视频稳化方法及装置
技术领域
本申请涉及视频处理技术领域,尤其涉及一种视频稳化方法及装置。
背景技术
随着视频拍摄在人们日常生活和工作中的普及,人们对拍摄的视频质量的需求越来越高。然而在日常拍摄过程中,拍摄的视频往往由于拍摄者的移动,或者拍摄装置处于非静态的环境,导致拍摄的视频出现画面畸变的问题,使得视频质量下降。
发明内容
本申请实施例提供了一种视频稳化方法及装置,能够有效改善视频拍摄过程中由于抖动产生的画面畸变的问题。
第一方面,本申请提供一种视频稳化方法,包括:获取待处理视频中的非首帧视频帧的运动参数;根据所述运动参数确定与所述运动参数对应的几何参数的稳化值,所述几何参数用于描述所述非首帧视频帧的抖动程度;根据所述运动参数与所述几何参数之间的变换关系,将所述几何参数的稳化值转换为稳化运动参数;根据所述稳化运动参数确定所述非首帧视频帧的稳化视频帧;根据所述稳化视频帧,生成所述待处理视频对应的稳化视频。
采用本申请提供的视频稳化方法,通过计算与每一非首帧视频帧的运动参数对应的几何参数的稳化值,实现了对每一非首帧视频帧抖动程度的直接矫正,在一定程度上消除了每一帧非首帧视频帧由于抖动所产生的画面畸变。因此,保证了得到的稳化视频相比于待处理视频,在一定程度上消除了由于抖动所产生的画面畸变。
可选的,所述非首帧视频帧包括多帧,且所述多帧非首帧视频帧是连续的;相应的,所述根据所述稳化视频帧,生成所述待处理视频对应的稳化视频包括:根据每一帧所述非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频。
可选的,所述多帧非首帧视频帧与所述待处理视频的首帧视频帧连续,所述根据每一帧所述非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频之前,所述方法还包括:根据预设的裁剪比例以及所述首帧视频帧的高和宽,确定所述首帧视频帧的射影变换矩阵;根据所述首帧视频帧的射影变换矩阵对所述首帧视频帧进行裁剪,得到所述首帧视频帧的稳化视频帧;相应的,所述根据所述多帧非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频,包括:根据所述首帧视频帧的稳化视频帧和每一帧所述非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频。
可选的,所述根据所述运动参数确定与所述运动参数对应的几何参数的稳化值,包括:根据所述变换关系,将所述运动参数转换为所述几何参数;对所述几何参数进行平滑滤波处理,得到所述几何参数的稳化值。
可选的,所述几何参数包括在第一方向上的第一缩放比例,在第二方向上的第二缩放比例,偏离所述第一方向的偏第一转角度,偏离所述第二方向的第二偏转角度,在所述第一方向上的第一偏移量,在所述第二方向上的第二偏移量,其中,所述第一方向和所述第二方向相互垂直。
可选的,所述对所述几何参数进行平滑滤波处理,得到所述几何参数的稳化值,包括:对所述第一缩放比例和所述第二缩放比例进行平滑滤波处理,得到所述第一缩放比例的稳化值和所述第二缩放比例的稳化值;对所述第一偏转角度和所述第二偏转角度进行平滑滤波处理,得到的所述第一偏转角度的稳化值和所述第二偏转角度的稳化值;对所述第一偏移量进行平滑滤波处理,得到所述第一偏移量的稳化值;对所述第二偏移量进行平滑滤波处理,得到所述第二偏移量的稳化值。
可选的,所述对所述第一缩放比例和所述第二缩放比例进行平滑滤波处理,得到所述第一缩放比例的稳化值和所述第二缩放比例的稳化值,包括:将所述第一缩放比例和所述第二缩放比例带入预设的第一可逆函数中,计算得到所述第一缩放比例和所述第二缩放比例的均值与第一预设均值的第一差异度;利用第一平滑滤波器对所述第一差异度进行平滑滤波处理,得到所述第一差异度的稳化值;将所述第一缩放比例和所述第二缩放比例带入预设的第二可逆函数中,计算得到所述第一缩放比例和所述第二缩放比例之间的第二差异度;利用第二平滑滤波器对所述第二差异度进行平滑滤波处理,得到所述第二差异度的稳化值;利用所述第一差异度的稳化值和所述第二差异度的稳化值对所述第一可你函数和所述第二可逆函数进行线性求解,得到所述第一缩放比例的稳化值和所述第二缩放比例的稳化值。
可选的,所述对所述第一偏转角度和所述第二偏转角度进行平滑滤波处理,得到的所述第一偏转角度的稳化值和所述第二偏转角度的稳化值,包括:将所述第一偏转角度和所述第二偏转角度带入预设的第三可逆函数中,计算得到所述第一偏转角度和所述第二偏转角度的均值与第三预设均值的第三差异度;利用第三平滑滤波器对所述第三差异度进行平滑滤波处理,得到所述第三差异度的稳化值;将所述第一偏转角度和所述第二偏转角度带入预设的第四可逆函数中,计算得到所述第一偏转角度和所述第二偏转角度之间的第四差异度;利用第四平滑滤波器对所述第四差异度进行平滑滤波处理,得到所述第四差异度的稳化值;利用所述第三差异度和所述第四差异度对所述第三可逆函数和所述第四可逆函数进行线性求解,得到所述第一偏转角度的稳化值和所述第二偏转角度的稳化值。
可选的,所述对所述第一偏移量进行平滑滤波处理,得到所述第一偏移量的稳化值,包括:将所述第一偏移量带入预设的第五可逆函数,计算所述第一偏移量占据所述非首帧视频帧的画面宽度的第一比例;利用第五平滑滤波器对所述第一比例进行平滑滤波处理,得到一个第一稳化值;利用第六平滑滤波器对所述第一比例进行平滑滤波处理,得到第二稳化值;对所述第一稳化值和所述第二稳化值进行加权计算,得到所述第一偏移量的稳化值;其中,所述第五平滑滤波器的状态转移噪声矩阵参数小于所述第六平滑滤波器的状态噪声矩阵参数。
可选的,所述对所述第一稳化值和所述第二稳化值进行加权计算,得到所述第一偏移量的稳化值,包括:根据所述第五平滑滤波器的状态转移噪声矩阵计算与所述第五平滑滤波器对应的加权值;根据与所述第五平滑滤波器对应的加权值,计算与所述第六平滑滤波器对应的加权值;利用与所述第五平滑滤波器对应的加权值和与所述第六平滑滤波器对应的加权值,对所述第一稳化值和所述第二稳化值进行加权计算,得到所述第一偏移量的稳化值。
可选的,所述根据所述第五平滑滤波器的状态转移噪声矩阵计算与所述第五平滑滤波器对应的加权值,包括:利用公式
Figure GDA0002482561290000041
计算与所述第五平滑滤波器对应的加权值;
其中,Q5表示所述第五平滑滤波器的状态转移噪声矩阵,函数
Figure GDA0002482561290000042
表示
Figure GDA0002482561290000043
的绝对值,dxnorm表示所述第一比例,
Figure GDA0002482561290000044
表示所述第一稳化值,函数ω()表示差异度计算,0≤w5≤1。
可选的,所述对所述第二偏移量进行平滑滤波处理,得到所述第二偏移量的稳化值,包括:将所述第二偏移量带入第六可逆函数,计算所述第二偏移量占据所述非首帧视频帧的画面高度的第二比例;利用第七平滑滤波器对所述第二比例进行平滑滤波处理,得到第三稳化值;利用第八平滑滤波器对所述第二比例进行平滑滤波处理,得到第四稳化值;对所述第三稳化值和所述第四稳化值进行加权计算,得到所述第二偏移量的稳化值;其中,所述第七平滑滤波器的状态转移噪声矩阵参数小于所述第八平滑滤波器的状态噪声矩阵参数。
可选的,所述对所述第三稳化值和所述第四稳化值进行加权计算,得到所述第二偏移量的稳化值,包括:利用所述第七平滑滤波器的状态转移噪声矩阵计算与所述第七平滑滤波器对应的加权值;根据与所述第七平滑滤波器对应的加权值,计算与所述第八平滑滤波器对应的加权值;利用与所述第七平滑滤波器对应的加权值和与所述第八平滑滤波器对应的加权值,对所述第三稳化值和所述第四稳化值进行加权计算,得到所述第二偏移量的稳化值。
可选的,所述利用所述第七平滑滤波器的状态转移噪声矩阵计算与所述第七平滑滤波器对应的加权值,包括:利用公式
Figure GDA0002482561290000051
计算与所述第七平滑滤波器对应的加权值w7;其中,Q7表示所述第七平滑滤波器的状态转移噪声矩阵,函数
Figure GDA0002482561290000052
表示
Figure GDA0002482561290000053
的绝对值,dynorm表示所述第二比例,
Figure GDA0002482561290000054
表示所述第三稳化值,0≤w7≤1。
可选的,所述根据所述稳化运动参数确定所述非首帧视频帧的稳化视频帧,包括:根据所述稳化运动参数计算所述非首帧视频帧的射影变换矩阵;利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧。
可选的,所述利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧,包括:利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到稳化子视频帧;若所述稳化子视频帧的尺寸大小与所述非首帧视频帧的尺寸大小相同,则确定所述稳化子视频帧为所述非首帧视频帧的稳化视频帧。
可选的,所述利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到稳化子视频帧之后,所述方法还包括:若所述稳化子视频帧的尺寸大小与所述非首帧视频帧的尺寸大小不同,则对所述射影变换矩阵进行调整;根据调整后的所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧。
第二方面,本申请提供一种视频处理装置,包括:获取单元,用于获取运动参数,所述运动参数为待处理视频中非首帧非首帧视频帧的运动参数;计算单元,用于根据所述运动参数计算与所述运动参数对应的几何参数的稳化值,所述几何参数用于描述所述非首帧视频帧的抖动程度;并根据所述运动参数与所述几何参数之间的变换关系,将所述几何参数的稳化值转换为稳化运动参数;稳化单元,用于根据所述稳化运动参数确定所述非首帧视频帧的稳化视频帧。
第三方面,本申请提供一种视频处理设备,处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面或第一方面的任意可选方式所述的方法。
第四单元,本申请提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面或第一方面的任意可选方式所述的方法。
第五方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在视频处理设备上运行时,使得视频处理设备执行上述第一方面所述的视频质量评估方法的步骤。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种视频稳化原理示意图;
图2是本申请实施例提供的一种视频稳化方法的一个实施例的流程示意图;
图3是本申请实施例提供的一种几何参数与运动参数之间的变换关系的示意图;
图4是本申请实施例提供的测试视频1的原始视频帧和对应的稳化视频帧的对比示意图;
图5是本申请实施例提供的测试视频1的运动参数中的参数a和参数a的稳化值的变化曲线对比示意图;
图6是本申请实施例提供的测试视频1的运动参数中的参数b和参数b的稳化值的变化曲线对比示意图;
图7是本申请实施例提供的测试视频1的运动参数中的参数c和参数c的稳化值的变化曲线对比示意图;
图8是本申请实施例提供的测试视频1的运动参数中的参数d和参数d的稳化值的变化曲线对比示意图;
图9是本申请实施例提供的测试视频1的运动参数中的参数e和参数e的稳化值的变化曲线对比示意图;
图10是本申请实施例提供的测试视频1的运动参数中的参数f和参数f的稳化值的变化曲线对比示意图;
图11是本申请实施例提供的测试视频2的原始视频帧和对应的稳化视频帧的对比示意图;
图12是本申请实施例提供的测试视频2的运动参数中的参数a和参数a的稳化值的变化曲线对比示意图;
图13是本申请实施例提供的测试视频2的运动参数中的参数b和参数b的稳化值的变化曲线对比示意图;
图14是本申请实施例提供的测试视频2的运动参数中的参数c和参数c的稳化值的变化曲线对比示意图;
图15是本申请实施例提供的测试视频2的运动参数中的参数d和参数d的稳化值的变化曲线对比示意图;
图16是本申请实施例提供的测试视频2的运动参数中的参数e和参数e的稳化值的变化曲线对比示意图;
图17是本申请实施例提供的测试视频2的运动参数中的参数f和参数f的稳化值的变化曲线对比示意图;
图18是本申请实施例提供的测试视频3的原始视频帧和对应的稳化视频帧的对比示意图;
图19是本申请实施例提供的测试视频3的运动参数中的参数a和参数a的稳化值的变化曲线对比示意图;
图20是本申请实施例提供的测试视频3的运动参数中的参数b和参数b的稳化值的变化曲线对比示意图;
图21是本申请实施例提供的测试视频3的运动参数中的参数c和参数c的稳化值的变化曲线对比示意图;
图22是本申请实施例提供的测试视频3的运动参数中的参数d和参数d的稳化值的变化曲线对比示意图;
图23是本申请实施例提供的测试视频3的运动参数中的参数e和参数e的稳化值的变化曲线对比示意图;
图24是本申请实施例提供的测试视频3的运动参数中的参数f和参数f的稳化值的变化曲线对比示意图;
图25是本申请实施例提供的一种视频稳化装置的结构示意图;
图26是本申请实施例提供的一种视频处理设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
还应当理解,在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
在说明本申请提供视频稳化方法之前,首先对结合图1对本申请所采用的稳化原理以及视频拍摄中的相关概念进行示例性的说明。
为了便于描述,在本申请实施例中,视频处理设备拍摄到的待处理视频中的视频帧用F表示。如图1所示,待处理视频的第1个视频帧(即首帧视频帧)表示为F1,第2个视频帧表示为F2、第3个视频帧表示为F3、第4个视频帧表示为F4,以此类推。
相邻两个视频帧之间存在射影变换关系,该射影变换关系可以通过运动参数
Figure GDA0002482561290000091
来表示。即运动参数M用于表示相邻两个视频帧之间的射影变换关系。
在本申请中,假设待处理视频中的第t(t>1)个视频帧Ft的运动参数表示为Mt。那么,以Ft和Ft的前一个视频帧Ft-1为例。Ft的图像内容和Ft-1的图像内容相互之间可以通过基于运动参数Mt的二维平面射影变换近似表示,即Ft≈f(Ft-1,Mt),Ft-1≈f(Ft,Mt -1)。其中,函数f表示射影变换。
例如,假设(xt-1 yt-1 1)为Ft-1中坐标点(xt-1 yt-1)的齐次坐标表示,(xt yt 1)为Ft中与坐标点(xt-1 yt-1)对应的坐标点(xt yt)的齐次坐标表示。那么,当
Figure GDA0002482561290000101
时,则有
Figure GDA0002482561290000102
其中,M可以基于运动估计计算所得。常规的运动估计法包括两种,一种是视频处理设备直接基于Ft和Ft-1的图像内容进行运动估计,得到Mt。另一种是视频处理设备通过获取辅助传感器(例如陀螺仪)的数据,对Ft和Ft-1的图像内容进行运动估计,得到Mt。运动估计的具体实施方式,可以参考现有的运动估计的实施方式,对此,本申请不作介绍。
在本申请实施例中,当对待处理视频进行稳化后,得到的每个视频帧的稳化视频帧用S表示。如图1所示,F1的稳化视频帧表示为S1,F2的稳化视频帧表示为S2,F3的稳化视频帧表示为S3,F4的稳化视频帧表示为S4,以此类推。
相应的,相邻两个稳化视频帧之间也存在射影变换关系。同样的,相邻两个稳化视频帧之间的射影变换关系也可以通过稳化运动参数K来表示。例如,Ft的稳化视频帧St的图像内容和Ft-1的稳化视频帧St-1的图像内容相互之间,可以通过基于稳化运动参数Kt二维平面射影变换近似表示,即St≈f(St-1,Kt),
Figure GDA0002482561290000103
也就是说,Kt是对Mt经过稳化后得到的理想匀速运动参数。
假设,如图1所示,Ft的稳化视频帧St,是基于一个射影变换矩阵(为了便于描述,本申请中用Rt来表示)对Ft进行裁剪所得,那么就有St≈f(Ft,Rt)。
以图1中的F1、F2、S1、S2为例,由于存在F2≈f(F1,M2),
Figure GDA0002482561290000104
S2≈f(S1,K2),S1≈f(F1,R1),因此,基于射影变换的连乘法则,可以得到:
Figure GDA0002482561290000105
进一步的,基于数学归纳法,可以得到如下关系式:
Figure GDA0002482561290000111
因此,可以得到
Figure GDA0002482561290000112
可以看出,在本申请实施例中,当计算Ft的稳化视频帧St时,可以通过求解Ft和Ft-1之间的运动参数Mt的稳化运动参数Kt来求解射影变换矩阵Rt,进而通过Rt获取Ft的St
下面通过具体实施例,对本申请提供的视频稳化方法进行示例性的说明。
请参见图2,图2是本申请一个实施例提供的一种视频稳化方法的示意流程图。本实施例中视频稳化方法的执行主体为视频处理设备,包括但不限于智能手机、平板电脑、可穿戴设备等移动终端,还可以是各种应用场景下摄像机、机器人等。如图2所示的视频稳化方法可包括:
S201,获取待处理视频中的非首帧视频帧的运动参数。
在一个示例中,待处理视频中除第一帧(即首帧)视频帧以外的任意一个视频帧均为非首帧视频帧。例如,该待处理视频一共包括10帧视频帧,第2帧到第10帧均为非首帧视频帧。
视频处理设备可以在获取到非首帧视频帧和播放时间早于该非首帧视频的前一个视频帧后,进行运动估计,得到该非首帧视频帧的运动参数。例如,Ft为非首帧视频帧,那么视频处理设备可以对Ft和Ft-1的图像内容进行运动估计,得到Ft的运动参数Mt
S202,根据所述运动参数确定与所述运动参数对应的几何参数的稳化值。
在本申请实施例中,可以通过定义几何参数来描述视频帧的抖动程度,即几何参数可以理解为用于描述视频帧的抖动程度的参数。例如,几何参数可以包括视频帧的缩放程度、偏转程度和/或偏移程度等。需要说明的是,视频帧的抖动程度可以理解为该视频帧与相邻视频帧或其他视频帧之间相对而言的抖动程度,即该视频帧与相邻视频帧或其他视频帧之间相对而言所发生的画面整体偏移程度、缩放程度、偏转程度。
比如,对于偏移程度来讲,非首帧视频帧与其相邻视频帧之间所发生的画面整体的位移越大,则非首帧视频帧的抖动程度越大,反之,非首帧视频帧与其相邻视频帧之间所发生的画面整体的位移越小,则非首帧视频帧的抖动程度越小。可以理解的是,若非首帧视频帧与其相邻视频帧之间所发生的画面整体的位移大于预设偏移阈值时,可以认为非首帧视频帧发生了抖动,若非首帧视频帧与其相邻视频帧之间所发生整体的位移小于或等于该预设偏移阈值时,可以认为非首帧视频帧实现了稳化。
对于缩放程度来讲,非首帧视频帧与其相邻视频帧之间所发生的画面整体的缩放程度越大,则非首帧视频帧的抖动程度越大,反之,非首帧视频帧与其相邻视频帧之间所发生的画面整体的缩放程度越小,则非首帧视频帧的抖动程度越小。可以理解的是,若非首帧视频帧与其相邻视频帧之间所发生的画面整体的缩放程度大于预设缩放阈值时,可以认为非首帧视频帧发生了抖动,若非首帧视频帧与其相邻视频帧之间所发生整体的缩放程度小于或等于该预设偏缩放值时,可以认为非首帧视频帧实现了稳化。
对于偏转程度来讲,非首帧视频帧与其相邻视频帧之间所发生的画面整体的偏转越大,则非首帧视频帧的抖动程度越大,反之,非首帧视频帧与其相邻视频帧之间所发生的画面整体的偏转越小,则非首帧视频帧的抖动程度越小。可以理解的是,若非首帧视频帧与其相邻视频帧之间所发生的画面整体的偏转大于预设偏转角阈值时,可以认为非首帧视频帧发生了抖动,若非首帧视频帧与其相邻视频帧之间所发生整体的偏转小于或等于该预设偏转角阈值时,可以认为非首帧视频帧实现了稳化。
在本申请实施例中,通过建立几何参数和运动参数之间的变换关系,实现几何参数与运动参数之间的相互转换。
示例性的,由于待处理视频是由一帧一帧的二维视频帧组成。因此,每一帧非首帧视频帧的几何参数可以在两个相互垂直的方向(假设为第一方向和第二方向)上进行定义。例如,几何参数可以包括在第一方向上的第一缩放比例Vx,在第二方向上的第二缩放比例Vy,偏离所述第一方向的第一偏转角度θx,偏离所述第二方向的第二偏转角度θy,在所述第一方向上的第一偏移量dx和/或在所述第二方向上的第二偏移量dy。可以理解的是,Vx和Vy可以描述视频帧的缩放程度,θx和θy可以描述视频帧的偏转程度,dx和dy可以描述视频帧的偏移程度。
下面以对几何参数包括Vx、Vy、θx、θy、dx、dy为例,结合图3对几何参数Vx、Vy、θx、θy、dx、dy与M之间的变换关系进行示例性的说明。
如图3所示,建立相互垂直的第一方向的坐标轴(x轴)和第二方向的坐标轴(y轴),x轴和y轴的原点为O点,形成坐标系Ox-y。在本申请实施例中,以Ox-y作为预设的基准坐标,视频处理设备以视频帧的实际坐标系与坐标系Ox-y的差异度,来衡量该视频帧的抖动程度。
如图3所示,x轴按照第一偏转角度θx旋转,并基于第一缩放比例Vx伸缩后形成x1轴。y轴按照第二偏转角度θy旋转,并基于第二缩放比例Vy伸缩后形成y1轴。x1轴沿着y1轴方向偏移第二偏移量dy后形成x2轴,y1沿着x1轴方向偏移第一偏移量dx后形成y2轴。x2轴与y2轴的交点B为x2轴与y2轴的坐标原点。假设原点B、x2轴与y2轴构成的坐标系Bx2-y2为视频帧的实际坐标系。
可以理解为,视频帧经过抖动后,在第一方向上伸缩Vx,在第二方向上的伸缩Vy,偏离第一方向θx,偏离第二方向θy,在第一方向上偏移dx,并在第二方向上的偏移dy,从基准坐标系Ox-y抖动到坐标系Bx2-y2
针对基准坐标系Ox-y和坐标系Bx2-y2进行仿射变换。首先,如图3所示,标注点A、B、C、D、E、F、G、H、I、J、L并进行连线,使得∠PFE=∠PDO=∠GEO=∠PGE=∠PHI=∠PIO=∠PJL=∠IKO=90°,且
Figure GDA0002482561290000131
其中,P点在Ox-y中的坐标假设为(xold,yold),在Bx2-y2中的坐标为(xnew,ynew)。那么,基于几何证明可以得到:
由于
Figure GDA0002482561290000141
因此可以得到xnew=Vx·cos(θx)·xold-Vx·sin(θx)·yold+dx。相应的,由于
Figure GDA0002482561290000142
因此可以得到
Figure GDA0002482561290000143
结合M中参数a、b、c、d、e、f,构建如下方程组:
Figure GDA0002482561290000144
可以得到一个六元方程组:
a=Vx·cos(θx);b=-Vx·sin(θx);c=dx;d=Vy·sin(θy);e=Vy·cos(θy);f=dy。
在该示例中,以该六元方程组作为M与几何参数之间的变换关系,实现M与几何参数的相互变换。即通过该几何变换关系,可以基于运动参数直接获得能够反应非首帧视频帧的抖动程度的几何参数。
在本申请实施例中,视频处理设备可以基于上述变换关系(即M与几何参数之间的变换关系),将非首帧视频帧的运动参数转换为对应的几何参数。需要说明的是,不同的非首帧视频帧的运动参数M中的各个参数值(即a、b、c、d、e、f)可能不同,因此,将不同的M代入上述六元方程组后,得到的几何参数也不同。
视频处理设备得到非首帧视频帧的运动参数所对应的几何参数后,即可对该几何参数进行平滑滤波处理,得到该几何参数的稳化值。
其中,视频处理设备可以基于卡尔曼滤波器对几何参数进行平滑滤波处理,以消除几何参数的噪声,减少突变,使得几何参数的稳化值在非首帧视频帧的相邻上一个视频帧的基础上稳定变化。
在本申请实施例中,由于几何参数是能够反映非首帧视频帧的抖动程度的参数,因此,通过对几何参数进行平滑滤波处理,可以消除几何参数的抖动,实现对几何参数的稳化,能够进一步消除由于抖动所产生的画面畸变,保证非首帧视频帧的稳化效果。
其中,所谓非首帧视频帧的稳化是指使得非首帧视频帧呈现相对稳定的画面,在一定程度上消除由于抖动所产生的画面畸变。
在一个示例中,视频处理设备可以直接利用平滑滤波器分别对每个几何参数进行平滑滤波处理,得到几何参数的稳化值。其中,平滑滤波器可以是卡尔曼(Kalman)滤波器。
在另一个示例中,视频处理设备可以将于非首帧视频帧对应的几何参数分四组进行滤波。示例性的,四组滤波分别为:
(1)对Vx和Vy进行平滑滤波处理,得到Vx的稳化值Vx K和Vy的稳化值Vy K
(2)对θx和θy进行平滑滤波处理,得到θx的稳化值θx K和θy的稳化值θy K
(3)对dx进行平滑滤波处理,得到dx的稳化值dxK
(4)对dy进行平滑滤波处理,得到dy的稳化值dyK
针对第(1)组,当Vx和Vy的值差异较大时,非首帧视频帧的画面会出现高宽不等比缩放的畸变。而在该示例中,通过对对应的Vx和Vy进行组合滤波,可以有效的改善非首帧视频帧在不同方向上基于不同缩放比例的缩放造成的畸变。
示例性的,对于第(1)组,视频处理设备可以通过如下步骤S01-S05实现:
S01,将Vx和Vy带入预设的第一可逆函数g1(Vx,Vy,Vc)中,计算得到Vx和Vy的均值与第一预设均值Vc的第一差异度G1
其中,Vc可以取值为1,也可以取值为与非首帧视频帧相邻的上一个视频帧Ft-1的Vx和Vy的均值。
S02,利用第一平滑滤波器对G1进行平滑滤波处理,得到G1的稳化值G1 K
S03,将所述几何参数中的Vx和Vy的值带入预设的第二可逆函数g2(Vx,Vy)中,计算得到所述几何参数中的Vx和Vy之间的第二差异度G2
S04,利用第二平滑滤波器对G2进行平滑滤波处理,得到G2的稳化值G2 K
其中,第一平滑滤波器和第二平滑滤波器可以是参数相同的卡尔曼滤波器。
S05,利用G1 K和G2 K对g1(Vx,Vy,Vc)和g2(Vx,Vy)进行线性求解,得到Vx K和Vy K
由于g1(Vx,Vy,Vc)和g2(Vx,Vy)是可逆方程,因此将G1 K和G2 K带入后,可以通过构建如下方程组:
Figure GDA0002482561290000161
并对该方程组进行线性求解,几何得到对应的Vx K和Vy K。基于S01-S05可知,视频处理设备通过对Vx和Vy的值之间的差异进行稳化,避免了求得的Vx K和Vy K出现较大的差异,从而能够有效改善非首帧视频帧在不同方向上基于不同缩放比例的缩放造成的畸变。
针对第(2)组,当θx和θy的值差异较大时,非首帧视频帧的画面会出现坐标轴不等比扭曲的畸变。而在该示例中,通过对θx和θy的值进行组合滤波,可以有效的改善非首帧视频帧的画面在坐标轴不等比旋转时造成的畸变。
示例性的,对于第(2)组,视频处理设备可以通过如下步骤S06-S10实现:
S06,将θx和θy带入预设的第三可逆函数g3xyc)中,计算得到θx和θy的均值与预设均值θc的第三差异度G3
其中,θc可以取值为0,也可以取值为与非首帧视频帧相邻的前一帧视频帧的θx和θy的均值。
S07,利用第三平滑滤波器对G3进行平滑滤波处理,得到G3的稳化值G3 K
S08,将θx和θy带入预设的第四可逆函数g4xy)中,计算得到θx和θy之间的第四差异度G4
S09,利用第四平滑滤波器对G4进行平滑滤波处理,得到G4的稳化值G4 K
其中,第三平滑滤波器和第四平滑滤波器可以是参数相同的卡尔曼滤波器。
S10,利用G3 K和G4 K对g3xyc)和g4xy)进行线性求解,得到θx K和θy K
由于g3xyc)和g4xy)是可逆方程,因此将G3 K和G4 K带入后,可以通过构建如下方程组:
Figure GDA0002482561290000171
并对该方程组进行线性求解,几何得到对应的θx K和θy K。基于S06-S110可知,视频处理设备通过对θx和θy的值之间的差异进行稳化,避免了求得的θx K和θy K出现较大的差异,从而能够有效改善视频帧的画面在坐标轴不等比旋转时造成的畸变。
值得说明的是,由于Vx、Vy、θx、θy表征的是视频帧的画面的旋转和缩放,与视频帧的尺寸无关,从而直接基于平滑滤波器进行稳化。而dx、dy是位移量,单位是像素,与视频帧的尺寸相关,因此在对dx、dy进行稳化前,需要先进行归一化操作。
示例性的,对于第(3)组,视频处理设备可以通过如下步骤S11-S14实现:
S11,将dx带入预设的第五可逆函数g5(dx,norm_x),计算dx占据所述非首帧视频帧的画面宽度norm_x的第一比例dxnorm
其中,dxnorm即为dx的归一化值。
S12,利用第五平滑滤波器对dxnorm进行平滑滤波处理,得到第一稳化值
Figure GDA0002482561290000172
S13,利用第六平滑滤波器对dxnorm进行平滑滤波处理,得到第二稳化值
Figure GDA0002482561290000173
其中,在一种实现方式中,第五平滑滤波器和第六平滑滤波器均可以为卡尔曼滤波器。且第五平滑滤波器和第六平滑滤波器的转换与观测噪声矩阵参数完全相同,但第五平滑滤波器的状态转移噪声矩阵参数小于第六平滑滤波器的状态噪声矩阵参数。
S14,对
Figure GDA0002482561290000181
Figure GDA0002482561290000182
进行加权计算,得到dxK
示例性的,视频处理设备可以基于第五平滑滤波器和第六平滑滤波器的权重来控制dx是否被消除。其中,第五平滑滤波器可以对应需要被消除的水平抖动。例如,当运动幅度较小,即dxnorm较小时,即可认为dx是需要被消除的水平抖动。第六平滑滤波器可以对应用户刻意的运动。例如,当运动幅度较大,即dxnorm较大时,大概率上会是用户刻意运动造成的,此时即可认为dx是不需要被消除的水平抖动。
示例性的,在上述S14中,视频处理设备可以根据所述第五平滑滤波器的状态转移噪声矩阵Q5计算与所述第五平滑滤波器对应的加权值w5;根据w5,计算与所述第六平滑滤波器对应的加权值w6;利用w5和w6,对
Figure GDA0002482561290000183
Figure GDA0002482561290000184
进行加权计算,得到dxK
在一个示例中,视频处理设备具体可以利用如下公式计算w5
Figure GDA0002482561290000185
其中,函数
Figure GDA0002482561290000186
表示
Figure GDA0002482561290000187
的绝对值,函数ω()表示差异度计算,0≤w5≤1。
然后利用如下公式w6=1-w5计算w6
可以看出,当dxnorm较小时,w5较大,当dxnorm较大时,w6较大。
最后,将加权值w5和w6带入利用公式
Figure GDA0002482561290000188
计算dxK
即dxK是dx经过归一化后的加权稳化值。
示例性的,对于第(4)组,视频处理设备可以通过如下步骤S15-S18实现:
S15,将dy带入第六可逆函数g6(dy,norm_y),计算dy占据所述非首帧视频帧的画面高度norm_y的第二比例dynorm
S16,利用第七平滑滤波器对dynorm进行平滑滤波处理,得到第三稳化值
Figure GDA0002482561290000191
S17,利用第八平滑滤波器对dynorm进行平滑滤波处理,得到第四稳化值
Figure GDA0002482561290000192
其中,第七平滑滤波器和第八平滑滤波器均可以为卡尔曼滤波器。且第五平滑滤波器和第八平滑滤波器的转换与观测噪声矩阵参数完全相同,但第七平滑滤波器的状态转移噪声矩阵参数小于第八平滑滤波器的状态噪声矩阵参数。
S18,对
Figure GDA0002482561290000193
Figure GDA0002482561290000194
进行加权计算,得到dyK
示例性的,视频处理设备可以基于第七平滑滤波器和第八平滑滤波器的权重来控制dy是否被消除。其中,第七平滑滤波器可以对应需要被消除的垂直抖动,例如,当运动幅度较小,即dynorm较小时,即可认为dy是需要被消除的垂直抖动。第八平滑滤波器可以对应用户刻意的运动,例如,当运动幅度较大,即dynorm较大时,大概率上会是用户刻意运动造成的,此时即可认为dy是不需要被消除的垂直抖动。
示例性的,在上述S18中,视频处理设备可以利用所述第七平滑滤波器的状态转移噪声矩阵Q7计算与所述第七平滑滤波器对应的加权值w7;然后根据w7,计算与所述第八平滑滤波器对应的加权值w8;最后利用w7和w8,对
Figure GDA0002482561290000195
Figure GDA0002482561290000196
进行加权计算,得到dyK
在一个示例中,视频处理设备具体可以利用公
Figure GDA0002482561290000197
计算w7。其中,函数
Figure GDA0002482561290000198
表示
Figure GDA0002482561290000199
的绝对值,0≤w7≤1。
然后利用公式w8=1-w7计算w8
可以看出,当dynorm较小时,w7较大,当dynorm较大时,w8较大。
最后,将w7和w8带入公式
Figure GDA00024825612900001910
计算dyK
即dyK是dy经过归一化后的加权稳化值。
S203,根据运动参数与对应的几何参数之间的变换关系和所述几何参数的稳化值,计算得到运动参数的稳化运动参数。
例如,当视频处理设备得到各个几何参数的稳化值后,通过将各个几何参数的稳化值重新带入上述六元方程组中进行线性求解到运动参数的稳化运动参数。例如,将Mt对应的几何参数的稳化值,带入上述六元方程组进行线性求解后,得到Mt中的a的稳化值aK、b的稳化值bK、c的稳化值cK、d的稳化值dK、e的稳化值eK、以及f的稳化值fK
基于aK、bK、cK、dK、eK、以及fK可以得到Mt的稳化运动参数
Figure GDA0002482561290000201
S204,根据稳化运动参数确定所述非首帧视频帧的稳化视频帧。
示例性的,参考如图1所示示例中的推导过程,视频处理设备可以根据所述稳化运动参数计算所述非首帧视频帧的射影变换矩阵。
例如,非首帧视频帧为Ft,运动参数为Mt,那么运动参数的稳化运动参数为Kt。基于图1所示实施例可知,视频处理设备可以利用公式
Figure GDA0002482561290000202
计算得到Ft的射影变换矩阵Rt
当t=2时,
Figure GDA0002482561290000203
即当计算F2的R2时,需要用到首帧F1的R1。而待处理视频的首帧不存在运动参数,因此视频处理设备可以将中心裁剪矩阵
Figure GDA0002482561290000204
作为F1的R1。其中,r表示预设的裁剪比例,W表示F1的宽,H表示F1的高。
即对于首帧F1来说,
Figure GDA0002482561290000205
得到目标射频帧的射影变换矩阵后,即可利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧。
基于射影变换的原理可知,采用射影变换矩阵对视频帧进行裁剪,是一个基于射影变换矩阵从视频帧中提取像素点的过程。由于视频在录制过程中,可能由于视频采集装置处于运动状态,导致相邻的两帧视频帧中,播放时间较早的前一个视频帧存在的部分图像内容,在播放时间较晚的后一帧视频帧中不存在。因此采用计算所得的射影变换矩阵可能从非首帧视频帧中获取部分像素的图像,即出现图像越界的情况。
那么,视频处理设备在利用所述射影变换矩阵对所述非首帧视频帧的裁剪获得的稳化视频帧时,可以先利用射影变换矩阵对所述非首帧视频帧进行裁剪,得到稳化子视频帧。若所述稳化子视频帧的尺寸大小与所述非首帧视频帧的尺寸大小相同,则确定所述稳化子视频帧为所述非首帧视频帧的稳化视频帧。稳化子视频帧的尺寸大小与所述非首帧视频帧的尺寸大小相同,说明射影变换矩阵未导致稳化视频帧出现图像越界的问题。
若所述稳化子视频帧的尺寸大小与所述非首帧视频帧的尺寸大小不同,则表明计算的射影变换矩阵对非首帧视频帧进行裁剪后,得到的稳化视频帧图像越界。那么,视频处理设备可以对射影变换矩阵进行调整。然后根据调整后的所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧。
示例性的,假设视频帧中第一方向的长度表示视频帧的宽度,与第一方向垂直的两条边分别为左边和右边。视频帧中第二方向的长度表示视频帧的高度,与第二方向垂直的两条边分别为上边和下边。下面以Ft为非首帧视频帧为例。
当所述稳化子视频帧的宽度小于Ft的宽度时,终端先确定是哪一边越界。例如,若Rt所指示的稳化子视频帧的右边上的像素点在Ft中不存在对应的像素点,即无法在Ft中提取到对应的图像内容,则表示稳化子视频帧的右边越界。视频处理设备即可调整Rt,使得根据调整后的Rt裁剪所得稳化子视频帧的右边与Ft的右边对齐。也就是使得调整后的根据调整后的Rt裁剪所得稳化子视频帧的右边上的像素点与Ft的左边上的像素点对应。同样的,若Rt所指示的稳化子视频帧的左边上的像素点在Ft中不存在对应的像素点,即无法在Ft中提取到对应的图像内容,则表示稳化子视频帧左边越界。视频处理设备即可调整Rt,使得根据调整后的Rt裁剪所得稳化子视频帧的左边与Ft的左边对齐。也就是使得调整后的根据调整后的Rt裁剪所得稳化子视频帧的右边上的像素点与Ft的左边上的像素点对应。
当所述稳化子视频帧的宽度大于Ft的宽度时,视频处理设备则可以通过调整几何参数的稳化值中第一方向和第二方向的缩放比例,来调整Rt,使得根据调整后的Rt裁剪所得的稳化子视频帧的宽度与Ft的宽度相同。
相应的,当所述稳化子视频帧的高度小于Ft的高度时,若Rt所指示的稳化子视频帧的上边上的像素点在Ft中不存在对应的像素点,即无法在Ft中提取到对应的图像内容,则表示稳化子视频的上边越界。视频处理设备即可调整Rt,使得根据调整后的Rt裁剪所得稳化子视频帧的上边与Ft的上边对齐。也就是使得调整后的根据调整后的Rt裁剪所得稳化子视频帧的上边上的像素点与Ft的上边上的像素点对应。同样的,若Rt所指示的稳化子视频帧的下边上的像素点在Ft中不存在对应的像素点,即无法在Ft中提取到对应的图像内容,则表示稳化子视频的下边越界。视频处理设备即可调整Rt,使得根据调整后的Rt裁剪所得稳化子视频帧的下边与Ft的下边对齐。也就是使得调整后的根据调整后的Rt裁剪所得稳化子视频帧的下边上的像素点与Ft中的边上的像素点对应。
当所述稳化子视频帧的高度大于Ft的高度时,视频处理设备则可以通过调整几何参数的稳化值中第一方向和第二方向的缩放比例,来调整Rt,使得根据调整后的Rt裁剪所得稳化子视频帧的高度与Ft的高度相同。
采用本申请提供的视频稳化方法,通过计算与运动参数对应的几何参数的稳化值,得到运动参数的稳化运动参数,可以实现对非首帧视频帧抖动程度的直接矫正,保证了非首帧视频帧的稳化效果,能够有效改善非首帧视频帧由于抖动所产生的画面的畸变。
在本实施例中,视频处理设备可以根据实际需要对待处理视频中的一帧非首帧视频帧进行处理,也可以对待处理视频帧中的多帧非首帧视频帧进行处理,在本实施例中并不对非首帧视频帧的数量进行限定。
S205,根据所述非首帧视频帧的稳化视频帧,生成所述待处理视频对应的稳化视频。
在本申请实施例中,稳化视频由视频处理设备对待处理视频中的至少一帧视频帧进行稳化处理后得到的稳化视频帧构成。该至少一帧视频帧可以是连续的非首帧视频帧,也可以是包括首帧视频帧在内的连续视频帧。
也就是说,视频处理设备可以对整个待处理视频进行稳化处理,也可以对由待处理视频中的至少一个连续的视频帧构成的视频片段进行稳化处理。比如,待处理视频的时长为1分钟,若用户需要对播放时间为第10s至第20s之间的全部视频帧进行稳化处理,则可以将播放时间为第10s至第20s之间的全部视频帧作所构成的视频片段作为需要进行视频稳化的视频片段。或者,若用户需要对时长为1分钟的待处理视频整个进行稳化处理,则可以直接对该待处理视频进行稳化处理。
可以理解的是,如果视频处理设备需要对由连续的多帧非首帧视频帧构成的视频片段进行稳化,那么视频处理设备可以基于上述步骤S201-S204对每一帧非首帧视频帧进行稳化,得到每一帧非首帧视频帧的稳化视频帧。相应的,在上述S205中,视频处理设备可以根据每一帧所述非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频。
如果视频处理设备需要对整个待处理视频或者包含首帧视频帧在内的视频片段进行稳化,那么视频处理设备可以基于上述步骤S201-S204对待处理视频或者视频片段中的每一帧非首帧视频帧进行稳化,得到每一帧非首帧视频帧的稳化视频帧。相应的,在上述S205中,视频处理设备可以根据所述首帧视频帧帧和每一帧所述非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频。
在一个示例中,由于首帧视频帧是待处理视频中第一个拍摄到的图像,后续拍摄到的非首帧视频帧存在的抖动,可以理解为以首帧视频帧的画面作为基准,相对于首帧视频帧的画面所发生的画面整体的抖动。因此,视频处理设备可以直接将首帧视频帧作为待处理视频对应的稳化视频的首帧视频帧。并将该首帧视频帧和每一帧非首帧视频帧各自分别对应的稳化视频帧确定为稳化视频。
在另一个示例中,视频处理设备也可以对首帧视频帧进行稳化。例如,视频处理设备在利用预设的裁剪比例以及所述首帧视频帧的高和宽,确定所述首帧视频帧的射影变换矩阵(即上述计算的中心裁剪矩阵
Figure GDA0002482561290000241
)后,也可以根据所述首帧视频帧的射影变换矩阵对所述首帧视频帧进行裁剪,得到所述首帧视频帧的稳化视频帧。进而,视频处理设备即可根据首帧视频帧的稳化视频帧和每一帧非首帧视频帧的稳化视频帧,生成稳化视频。
综上可以看出,采用本申请提供的视频稳化方法,通过对每一帧非首帧视频帧的抖动程度的直接矫正,在一定程度上消除了每一帧非首帧视频帧由于抖动所产生的画面畸变。因此,保证了得到的稳化视频相比于待处理视频,在一定程度上消除了由于抖动所产生的画面畸变。
下面结合3个测试示例,对本申请提供的视频稳化方法的效果进行进一步说明。
在第一个测试示例中,测试视频1在拍摄过程中存在旋转运动。如图4所示,为该测试视频1中的一个原始视频帧和该原始视频帧对应的稳化视频帧的对比示意图。其中,图4中的(a)示出了该原始视频帧中若干个点的移动轨迹,图4中的(b)示出了该稳化视频帧中相对应的若干个点的移动轨迹。通过图4的对比,可以看出,采用本申请提供的视频稳化方法对测试视频进行稳化处理后,各个点的抖动幅度明显减小。
获取测试视频1中连续的300帧视频帧的运动参数,和稳化后的测试视频1中对应的300帧稳化视频帧的稳化运动参数进行统计。其中,参数a的变化曲线如图5(a)所示,参数a对应的稳化值的变化曲线如图5(b)所示。参数b的变化曲线如图6(a)所示,参数b对应的稳化值的变化曲线如图6(b)所示。参数c的变化曲线如图7(a)所示,参数c对应的稳化值的变化曲线如图7(b)所示。参数d的变化曲线如图8(a)所示,参数d对应的稳化值的变化曲线如图8(b)所示。参数e的变化曲线如图9(a)所示,参数e对应的稳化值的变化曲线如图9(b)所示。参数f的变化曲线如图10(a)所示,参数f对应的稳化值的变化曲线如图10(b)所示。经过图5-10的对比可以看出,采用本申请提供的视频稳化方法对测试视频1进行稳化处理后,运动参数中各个参数的抖动幅度明显变小。
在第二个测试示例中,测试视频2存在拍摄过程中在垂直摇晃运动。如图11所示,为该测试视频2中的一个原始视频帧和该原始视频帧对应的稳化视频帧的对比示意图。其中,图11中的(a)示出了该原始视频帧中若干个点的移动轨迹,图11中的(b)示出了该稳化视频帧中相对应的若干个点的移动轨迹。通过图11的对比,可以看出,采用本申请提供的视频稳化方法对测试视频2进行稳化处理后,各个点的上下运动幅度明显减小。
获取测试视频2中连续的300帧视频帧的运动参数,和稳化后的测试视频2中对应的300帧稳化视频帧的稳化运动参数进行统计。其中,参数a的变化曲线如图12(a)所示,参数a对应的稳化值的变化曲线如图12(b)所示。参数b的变化曲线如图13(a)所示,参数b对应的稳化值的变化曲线如图13(b)所示。参数c的变化曲线如图14(a)所示,参数c对应的稳化值的变化曲线如图14(b)所示。参数d的变化曲线如图15(a)所示,参数d对应的稳化值的变化曲线如图15(b)所示。参数e的变化曲线如图16(a)所示,参数e对应的稳化值的变化曲线如图16(b)所示。参数f的变化曲线如图17(a)所示,参数f对应的稳化值的变化曲线如图17(b)所示。经过图12-17的对比可以看出,采用本申请提供的视频稳化方法对测试视频2进行稳化处理后,运动参数中各个参数的抖动幅度明显变小。
在第三个测试示例中,测试视频3在拍摄过程中存在随机抖动的运动。如图18所示,为该测试视频3中的一个原始视频帧和该原始视频帧对应的稳化视频帧的对比示意图。其中,图18中的(a)示出了该原始视频帧中若干个点的移动轨迹,图18中的(b)示出了该稳化视频帧中相对应的若干个点的移动轨迹。通过图18的对比,可以看出,采用本申请提供的视频稳化方法对测试视频3进行稳化处理后,各个点的运动幅度明显减小。
获取测试视频3中连续的300帧视频帧的运动参数,和稳化后的测试视频3中对应的的300帧稳化视频帧的稳化运动参数进行统计。其中,参数a的变化曲线如图19(a)所示,参数a对应的稳化值的变化曲线如图19(b)所示。参数b的变化曲线如图20(a)所示,参数b对应的稳化值的变化曲线如图20(b)所示。参数c的变化曲线如图21(a)所示,参数c对应的稳化值的变化曲线如图21(b)所示。参数d的变化曲线如图22(a)所示,参数d对应的稳化值的变化曲线如图22(b)所示。参数e的变化曲线如图23(a)所示,参数e对应的稳化值的变化曲线如图23(b)所示。参数f的变化曲线如图24(a)所示,参数f对应的稳化值的变化曲线如24(b)所示。经过图19-24的对比可以看出,采用本申请提供的视频稳化方法对测试视频3进行稳化处理后,运动参数中各个参数的抖动幅度明显变小。
基于上述三个测试示例可知,采用本申请提供的视频稳化方法对测试视频进行稳化处理后,能够有效的缓解视频拍摄过程中由于运动而造成的缩放、旋转、偏移等畸变等。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
基于上述实施例所提供的视频稳化方法,本发明实施例进一步给出实现上述方法实施例的装置实施例。
请参见图25,图25是本申请实施例提供的视频处理装置的示意图。包括的各单元用于执行图2对应的实施例中的各步骤。具体请参阅图2对应的实施例中的相关描述。为了便于说明,仅示出了与本实施例相关的部分。参见图9,视频处理装置25包括:
获取单元2501,用于针对待处理视频中的每一非首帧视频帧,获取所述非首帧视频帧的运动参数。
计算单元2502,用于根据所述运动参数计算与所述运动参数对应的几何参数的稳化值,所述几何参数用于描述所述非首帧视频帧的抖动程度;并根据所述运动参数与所述几何参数之间的变换关系,将所述几何参数的稳化值转换为稳化运动参数。
稳化单元2503,用于根据所述稳化运动参数确定所述非首帧视频帧的稳化视频帧,并根据所述待处理视频中的首帧视频帧和每一帧非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频。
可选的,所述稳化单元2503,还用于在根据所述待处理视频中的首帧视频帧和每一帧非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频之前,根据预设的裁剪比例以及所述待处理视频的首帧视频帧的高和宽,确定所述首帧视频帧的射影变换矩阵;并根据所述首帧视频帧的射影变换矩阵对所述首帧视频帧进行裁剪,得到所述首帧视频帧的稳化视频帧。
相应的,稳化单元2503根据所述待处理视频中的首帧视频帧和每一帧非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频,包括:根据所述待处理视频中的每一帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频。
可选的,所述计算单元2502根据所述运动参数计算与所述运动参数对应的几何参数的稳化值,包括:根据所述变换关系,将所述运动参数转换为所述几何参数;对所述几何参数进行平滑滤波处理,得到所述几何参数的稳化值。
可选的,所述几何参数包括在第一方向上的第一缩放比例,在第二方向上的第二缩放比例,偏离所述第一方向的偏第一转角度,偏离所述第二方向的第二偏转角度,在所述第一方向上的第一偏移量,在所述第二方向上的第二偏移量,其中,所述第一方向和所述第二方向相互垂直。
可选的,所述计算单元2502对所述几何参数进行平滑滤波处理,得到所述几何参数的稳化值,包括:对所述第一缩放比例和所述第二缩放比例进行平滑滤波处理,得到所述第一缩放比例的稳化值和所述第二缩放比例的稳化值;对所述第一偏转角度和所述第二偏转角度进行平滑滤波处理,得到的所述第一偏转角度的稳化值和所述第二偏转角度的稳化值;对所述第一偏移量进行平滑滤波处理,得到所述第一偏移量的稳化值;对所述第二偏移量进行平滑滤波处理,得到所述第二偏移量的稳化值。
可选的,所述计算单元2502对所述第一缩放比例和所述第二缩放比例进行平滑滤波处理,得到所述第一缩放比例的稳化值和所述第二缩放比例的稳化值,包括:将所述第一缩放比例和所述第二缩放比例带入预设的第一可逆函数中,计算得到所述第一缩放比例和所述第二缩放比例的均值与第一预设均值的第一差异度;利用第一平滑滤波器对所述第一差异度进行平滑滤波处理,得到所述第一差异度的稳化值;将所述第一缩放比例和所述第二缩放比例带入预设的第二可逆函数中,计算得到所述第一缩放比例和所述第二缩放比例之间的第二差异度;利用第二平滑滤波器对所述第二差异度进行平滑滤波处理,得到所述第二差异度的稳化值;利用所述第一差异度的稳化值和所述第二差异度的稳化值对所述第一可你函数和所述第二可逆函数进行线性求解,得到所述第一缩放比例的稳化值和所述第二缩放比例的稳化值。
可选的,所述计算单元2502对所述第一偏转角度和所述第二偏转角度进行平滑滤波处理,得到的所述第一偏转角度的稳化值和所述第二偏转角度的稳化值,包括:将所述第一偏转角度和所述第二偏转角度带入预设的第三可逆函数中,计算得到所述第一偏转角度和所述第二偏转角度的均值与第三预设均值的第三差异度;利用第三平滑滤波器对所述第三差异度进行平滑滤波处理,得到所述第三差异度的稳化值;将所述第一偏转角度和所述第二偏转角度带入预设的第四可逆函数中,计算得到所述第一偏转角度和所述第二偏转角度之间的第四差异度;利用第四平滑滤波器对所述第四差异度进行平滑滤波处理,得到所述第四差异度的稳化值;利用所述第三差异度和所述第四差异度对所述第三可逆函数和所述第四可逆函数进行线性求解,得到所述第一偏转角度的稳化值和所述第二偏转角度的稳化值。
可选的,所述计算单元2502对所述第一偏移量进行平滑滤波处理,得到所述第一偏移量的稳化值,包括:将所述第一偏移量带入预设的第五可逆函数,计算所述第一偏移量占据所述非首帧视频帧的画面宽度的第一比例;利用第五平滑滤波器对所述第一比例进行平滑滤波处理,得到一个第一稳化值;利用第六平滑滤波器对所述第一比例进行平滑滤波处理,得到第二稳化值;对所述第一稳化值和所述第二稳化值进行加权计算,得到所述第一偏移量的稳化值;其中,所述第五平滑滤波器的状态转移噪声矩阵参数小于所述第六平滑滤波器的状态噪声矩阵参数。
可选的,所述计算单元2502对所述第一稳化值和所述第二稳化值进行加权计算,得到所述第一偏移量的稳化值,包括:根据所述第五平滑滤波器的状态转移噪声矩阵计算与所述第五平滑滤波器对应的加权值;根据与所述第五平滑滤波器对应的加权值,计算与所述第六平滑滤波器对应的加权值;利用与所述第五平滑滤波器对应的加权值和与所述第六平滑滤波器对应的加权值,对所述第一稳化值和所述第二稳化值进行加权计算,得到所述第一偏移量的稳化值。
可选的,所述计算单元2502根据所述第五平滑滤波器的状态转移噪声矩阵计算与所述第五平滑滤波器对应的加权值,包括:利用公式
Figure GDA0002482561290000291
计算与所述第五平滑滤波器对应的加权值;其中,Q5表示所述第五平滑滤波器的状态转移噪声矩阵,函数
Figure GDA0002482561290000292
表示
Figure GDA0002482561290000301
的绝对值,dxnorm表示所述第一比例,
Figure GDA0002482561290000302
表示所述第一稳化值,函数ω()表示差异度计算,0≤w5≤1。
可选的,所述计算单元2502对所述第二偏移量进行平滑滤波处理,得到所述第二偏移量的稳化值,包括:将所述第二偏移量带入第六可逆函数,计算所述第二偏移量占据所述非首帧视频帧的画面高度的第二比例;利用第七平滑滤波器对所述第二比例进行平滑滤波处理,得到第三稳化值;利用第八平滑滤波器对所述第二比例进行平滑滤波处理,得到第四稳化值;对所述第三稳化值和所述第四稳化值进行加权计算,得到所述第二偏移量的稳化值;其中,所述第七平滑滤波器的状态转移噪声矩阵参数小于所述第八平滑滤波器的状态噪声矩阵参数。
可选的,所述计算单元2502对所述第三稳化值和所述第四稳化值进行加权计算,得到所述第二偏移量的稳化值,包括:利用所述第七平滑滤波器的状态转移噪声矩阵计算与所述第七平滑滤波器对应的加权值;根据与所述第七平滑滤波器对应的加权值,计算与所述第八平滑滤波器对应的加权值;利用与所述第七平滑滤波器对应的加权值和与所述第八平滑滤波器对应的加权值,对所述第三稳化值和所述第四稳化值进行加权计算,得到所述第二偏移量的稳化值。
可选的,所述计算单元2502利用所述第七平滑滤波器的状态转移噪声矩阵计算与所述第七平滑滤波器对应的加权值,包括:利用公式
Figure GDA0002482561290000303
计算与所述第七平滑滤波器对应的加权值w7;其中,Q7表示所述第七平滑滤波器的状态转移噪声矩阵,函数
Figure GDA0002482561290000304
表示
Figure GDA0002482561290000305
的绝对值,dynorm表示所述第二比例,
Figure GDA0002482561290000306
表示所述第三稳化值,0≤w7≤1。
可选的,所述稳化单元2503根据所述稳化运动参数确定所述非首帧视频帧的稳化视频帧,包括:根据所述稳化运动参数计算所述非首帧视频帧的射影变换矩阵;利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧。
可选的,所述稳化单元2503利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧,包括:利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到稳化子视频帧;若所述稳化子视频帧的尺寸大小与所述非首帧视频帧的尺寸大小相同,则确定所述稳化子视频帧为所述非首帧视频帧的稳化视频帧。
可选的,所述稳化单元2503利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到稳化子视频帧之后,所述方法还包括:若所述稳化子视频帧的尺寸大小与所述非首帧视频帧的尺寸大小不同,则对所述射影变换矩阵进行调整;根据调整后的所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧。
需要说明的是,上述模块之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
图26是本申请实施例提供的视频处理设备的示意图。如图26所示,该实施例的视频处理设备26包括:处理器260、存储器261以及存储在所述存储器261中并可在所述处理器260上运行的计算机程序262,例如语音识别程序。处理器260执行所述计算机程序262时实现上述各个视频稳化方法实施例中的步骤,例如图2所示的步骤201-204。或者,所述处理器260执行所述计算机程序262时实现上述各装置实施例中各模块/单元的功能,例如图24所示单元2501-2503的功能。
示例性的,所述计算机程序262可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器261中,并由处理器260执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序262在所述视频处理设备26中的执行过程。例如,所述计算机程序262可以被分割成获取单元、计算单元、稳化单元,各单元具体功能请参阅图24对应地实施例中地相关描述,此处不赘述。
所述视频处理设备可包括,但不仅限于,处理器260、存储器261。本领域技术人员可以理解,图26仅仅是视频处理设备26的示例,并不构成对视频处理设备26的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述视频处理设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器260可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器261可以是所述视频处理设备26的内部存储单元,例如视频处理设备26的硬盘或内存。所述存储器261也可以是所述视频处理设备26的外部存储设备,例如所述视频处理设备26上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器261还可以既包括所述视频处理设备26的内部存储单元也包括外部存储设备。所述存储器261用于存储所述计算机程序以及所述视频处理设备所需的其他程序和数据。所述存储器261还可以用于暂时地存储已经输出或者将要输出的数据。
本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时可实现上述视频稳化方法。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在视频处理设备上运行时,使得视频处理设备执行时实现可实现上述视频稳化方法。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。

Claims (18)

1.一种视频稳化方法,其特征在于,包括:
获取待处理视频中的非首帧视频帧的运动参数;
根据所述运动参数确定与所述运动参数对应的几何参数的稳化值,所述几何参数用于描述所述非首帧视频帧的抖动程度,所述几何参数包括在第一方向上的第一缩放比例,在第二方向上的第二缩放比例,偏离所述第一方向的第一偏转角度,偏离所述第二方向的第二偏转角度,在所述第一方向上的第一偏移量,在所述第二方向上的第二偏移量,其中,所述第一方向和所述第二方向相互垂直;
所述第一缩放比例的稳化值和所述第二缩放比例的稳化值是通过对所述第一缩放比例和所述第二所述缩放比例进行组合滤波得到的;所述第一偏转角度的稳化值和所述第二偏转角度的稳化值是通过对所述第一偏转角度和所述第二偏转角度进行组合滤波得到的;
根据所述运动参数与所述几何参数之间的变换关系,将所述几何参数的稳化值转换为稳化运动参数;
根据所述稳化运动参数确定所述非首帧视频帧的稳化视频帧;
根据所述稳化视频帧,生成所述待处理视频对应的稳化视频。
2.根据权利要求1所述的方法,其特征在于,所述非首帧视频帧包括多帧,且所述多帧非首帧视频帧是连续的;
相应的,所述根据所述稳化视频帧,生成所述待处理视频对应的稳化视频包括:
根据每一帧非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频。
3.根据权利要求2所述的方法,其特征在于,所述多帧非首帧视频帧与所述待处理视频的首帧视频帧连续,所述根据每一帧所述非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频之前,所述方法还包括:
根据预设的裁剪比例以及所述首帧视频帧的高和宽,确定所述首帧视频帧的射影变换矩阵;
根据所述首帧视频帧的射影变换矩阵对所述首帧视频帧进行裁剪,得到所述首帧视频帧的稳化视频帧;
相应的,所述根据每一帧所述非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频,包括:
根据所述首帧视频帧的稳化视频帧和每一帧所述非首帧视频帧各自分别对应的稳化视频帧,生成所述待处理视频对应的稳化视频。
4.根据权利要求1所述的方法,其特征在于,所述根据所述运动参数确定与所述运动参数对应的几何参数的稳化值,包括:
根据所述变换关系,将所述运动参数转换为所述几何参数;
对所述几何参数进行平滑滤波处理,得到所述几何参数的稳化值。
5.根据权利要求4所述的方法,其特征在于,所述对所述几何参数进行平滑滤波处理,得到所述几何参数的稳化值,包括:
对所述第一缩放比例和所述第二缩放比例进行平滑滤波处理,得到所述第一缩放比例的稳化值和所述第二缩放比例的稳化值;
对所述第一偏转角度和所述第二偏转角度进行平滑滤波处理,得到的所述第一偏转角度的稳化值和所述第二偏转角度的稳化值;
对所述第一偏移量进行平滑滤波处理,得到所述第一偏移量的稳化值;
对所述第二偏移量进行平滑滤波处理,得到所述第二偏移量的稳化值。
6.根据权利要求5所述的方法,其特征在于,所述对所述第一缩放比例和所述第二缩放比例进行平滑滤波处理,得到所述第一缩放比例的稳化值和所述第二缩放比例的稳化值,包括:
将所述第一缩放比例和所述第二缩放比例带入预设的第一可逆函数中,计算得到所述第一缩放比例和所述第二缩放比例的均值与第一预设均值的第一差异度;
利用第一平滑滤波器对所述第一差异度进行平滑滤波处理,得到所述第一差异度的稳化值;
将所述第一缩放比例和所述第二缩放比例带入预设的第二可逆函数中,计算得到所述第一缩放比例和所述第二缩放比例之间的第二差异度;
利用第二平滑滤波器对所述第二差异度进行平滑滤波处理,得到所述第二差异度的稳化值;
利用所述第一差异度的稳化值和所述第二差异度的稳化值对所述第一可逆函数和所述第二可逆函数进行线性求解,得到所述第一缩放比例的稳化值和所述第二缩放比例的稳化值。
7.根据权利要求5所述的方法,其特征在于,所述对所述第一偏转角度和所述第二偏转角度进行平滑滤波处理,得到的所述第一偏转角度的稳化值和所述第二偏转角度的稳化值,包括:
将所述第一偏转角度和所述第二偏转角度带入预设的第三可逆函数中,计算得到所述第一偏转角度和所述第二偏转角度的均值与第三预设均值的第三差异度;
利用第三平滑滤波器对所述第三差异度进行平滑滤波处理,得到所述第三差异度的稳化值;
将所述第一偏转角度和所述第二偏转角度带入预设的第四可逆函数中,计算得到所述第一偏转角度和所述第二偏转角度之间的第四差异度;
利用第四平滑滤波器对所述第四差异度进行平滑滤波处理,得到所述第四差异度的稳化值;
利用所述第三差异度和所述第四差异度对所述第三可逆函数和所述第四可逆函数进行线性求解,得到所述第一偏转角度的稳化值和所述第二偏转角度的稳化值。
8.根据权利要求5所述的方法,其特征在于,所述对所述第一偏移量进行平滑滤波处理,得到所述第一偏移量的稳化值,包括:
将所述第一偏移量带入预设的第五可逆函数,计算所述第一偏移量占据所述非首帧视频帧的画面宽度的第一比例;
利用第五平滑滤波器对所述第一比例进行平滑滤波处理,得到一个第一稳化值;
利用第六平滑滤波器对所述第一比例进行平滑滤波处理,得到第二稳化值;
对所述第一稳化值和所述第二稳化值进行加权计算,得到所述第一偏移量的稳化值;
其中,所述第五平滑滤波器的状态转移噪声矩阵参数小于所述第六平滑滤波器的状态噪声矩阵参数。
9.根据权利要求8所述的方法,其特征在于,所述对所述第一稳化值和所述第二稳化值进行加权计算,得到所述第一偏移量的稳化值,包括:
根据所述第五平滑滤波器的状态转移噪声矩阵计算与所述第五平滑滤波器对应的加权值;
根据与所述第五平滑滤波器对应的加权值,计算与所述第六平滑滤波器对应的加权值;
利用与所述第五平滑滤波器对应的加权值和与所述第六平滑滤波器对应的加权值,对所述第一稳化值和所述第二稳化值进行加权计算,得到所述第一偏移量的稳化值。
10.根据权利要求9所述的方法,其特征在于,所述根据所述第五平滑滤波器的状态转移噪声矩阵计算与所述第五平滑滤波器对应的加权值,包括:
利用公式
Figure DEST_PATH_FDA0003649555980000041
计算与所述第五平滑滤波器对应的加权值;
其中,
Figure 384436DEST_PATH_IMAGE002
表示所述第五平滑滤波器的状态转移噪声矩阵,函数
Figure DEST_PATH_FDA0003649555980000042
表示
Figure DEST_PATH_FDA0003649555980000043
的绝对值,dxnorm表示所述第一比例,
Figure DEST_PATH_FDA0003649555980000044
表示所述第一稳化值,函数
Figure 330210DEST_PATH_IMAGE006
表示差异度计算,
Figure 760054DEST_PATH_IMAGE007
11.根据权利要求5所述的方法,其特征在于,所述对所述第二偏移量进行平滑滤波处理,得到所述第二偏移量的稳化值,包括:
将所述第二偏移量带入第六可逆函数,计算所述第二偏移量占据所述非首帧视频帧的画面高度的第二比例;
利用第七平滑滤波器对所述第二比例进行平滑滤波处理,得到第三稳化值;
利用第八平滑滤波器对所述第二比例进行平滑滤波处理,得到第四稳化值;
对所述第三稳化值和所述第四稳化值进行加权计算,得到所述第二偏移量的稳化值;
其中,所述第七平滑滤波器的状态转移噪声矩阵参数小于所述第八平滑滤波器的状态噪声矩阵参数。
12.根据权利要求11所述的方法,其特征在于,所述对所述第三稳化值和所述第四稳化值进行加权计算,得到所述第二偏移量的稳化值,包括:
利用所述第七平滑滤波器的状态转移噪声矩阵计算与所述第七平滑滤波器对应的加权值;
根据与所述第七平滑滤波器对应的加权值,计算与所述第八平滑滤波器对应的加权值;
利用与所述第七平滑滤波器对应的加权值和与所述第八平滑滤波器对应的加权值,对所述第三稳化值和所述第四稳化值进行加权计算,得到所述第二偏移量的稳化值。
13.根据权利要求12所述的方法,其特征在于,所述利用所述第七平滑滤波器的状态转移噪声矩阵计算与所述第七平滑滤波器对应的加权值,包括:
利用公式
Figure DEST_PATH_FDA0003649555980000051
计算与所述第七平滑滤波器对应的加权值
Figure 932595DEST_PATH_IMAGE009
其中,
Figure 107225DEST_PATH_IMAGE010
表示所述第七平滑滤波器的状态转移噪声矩阵,函数
Figure DEST_PATH_FDA0003649555980000061
表示
Figure DEST_PATH_FDA0003649555980000062
的绝对值,dynorm表示所述第二比例,
Figure DEST_PATH_FDA0003649555980000063
表示所述第三稳化值,
Figure 154629DEST_PATH_IMAGE014
14.根据权利要求1-13任一项所述的方法,其特征在于,所述根据所述稳化运动参数确定所述非首帧视频帧的稳化视频帧,包括:
根据所述稳化运动参数计算所述非首帧视频帧的射影变换矩阵;
利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧。
15.根据权利要求14所述的方法,其特征在于,所述利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧,包括:
利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到稳化子视频帧;
若所述稳化子视频帧的尺寸大小与所述非首帧视频帧的尺寸大小相同,则确定所述稳化子视频帧为所述非首帧视频帧的稳化视频帧。
16.根据权利要求15所述的方法,其特征在于,所述利用所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到稳化子视频帧之后,所述方法还包括:
若所述稳化子视频帧的尺寸大小与所述非首帧视频帧的尺寸大小不同,则对所述射影变换矩阵进行调整;
根据调整后的所述射影变换矩阵对所述非首帧视频帧进行裁剪,得到所述非首帧视频帧的稳化视频帧。
17.一种视频处理设备,其特征在于,包括 处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至16任一项所述的方法。
18.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至16任一项所述的方法。
CN202010195539.2A 2020-03-19 2020-03-19 一种视频稳化方法及装置 Active CN113497861B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010195539.2A CN113497861B (zh) 2020-03-19 2020-03-19 一种视频稳化方法及装置
PCT/CN2020/130572 WO2021184812A1 (zh) 2020-03-19 2020-11-20 一种视频稳化方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010195539.2A CN113497861B (zh) 2020-03-19 2020-03-19 一种视频稳化方法及装置

Publications (2)

Publication Number Publication Date
CN113497861A CN113497861A (zh) 2021-10-12
CN113497861B true CN113497861B (zh) 2022-06-24

Family

ID=77769691

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010195539.2A Active CN113497861B (zh) 2020-03-19 2020-03-19 一种视频稳化方法及装置

Country Status (2)

Country Link
CN (1) CN113497861B (zh)
WO (1) WO2021184812A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117689569A (zh) * 2022-08-16 2024-03-12 腾讯科技(深圳)有限公司 视频帧的处理方法、装置、计算机设备和存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102724387A (zh) * 2012-05-26 2012-10-10 安科智慧城市技术(中国)有限公司 一种电子稳像的方法及装置
CN103841297A (zh) * 2012-11-23 2014-06-04 中国航天科工集团第三研究院第八三五七研究所 一种适用于合成运动摄像载体的电子稳像方法
CN106550174A (zh) * 2016-10-28 2017-03-29 大连理工大学 一种基于单应性矩阵的实时视频稳像方法
US9756249B1 (en) * 2016-04-27 2017-09-05 Gopro, Inc. Electronic image stabilization frequency estimator
CN110796010A (zh) * 2019-09-29 2020-02-14 湖北工业大学 一种结合光流法和卡尔曼滤波的视频稳像方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101951463A (zh) * 2010-05-19 2011-01-19 上海稳像信息技术有限公司 基于简易快速全局运动参数估计的实时视频稳像方法
TWI469062B (zh) * 2011-11-11 2015-01-11 Ind Tech Res Inst 影像穩定方法及影像穩定裝置
US9131127B2 (en) * 2013-02-08 2015-09-08 Ati Technologies, Ulc Method and apparatus for reconstructing motion compensated video frames

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102724387A (zh) * 2012-05-26 2012-10-10 安科智慧城市技术(中国)有限公司 一种电子稳像的方法及装置
CN103841297A (zh) * 2012-11-23 2014-06-04 中国航天科工集团第三研究院第八三五七研究所 一种适用于合成运动摄像载体的电子稳像方法
US9756249B1 (en) * 2016-04-27 2017-09-05 Gopro, Inc. Electronic image stabilization frequency estimator
CN106550174A (zh) * 2016-10-28 2017-03-29 大连理工大学 一种基于单应性矩阵的实时视频稳像方法
CN110796010A (zh) * 2019-09-29 2020-02-14 湖北工业大学 一种结合光流法和卡尔曼滤波的视频稳像方法

Also Published As

Publication number Publication date
WO2021184812A1 (zh) 2021-09-23
CN113497861A (zh) 2021-10-12

Similar Documents

Publication Publication Date Title
JP4430727B2 (ja) 映像安定化のための動きフィルタ処理
US10887519B2 (en) Method, system and apparatus for stabilising frames of a captured video sequence
US9516228B2 (en) Photographing apparatus, motion estimating apparatus, image compensating method, motion estimating method, and computer-readable recording medium
CN108463994B (zh) 图像处理装置、图像处理方法和存储介质
US20090028462A1 (en) Apparatus and program for producing a panoramic image
CN113556464B (zh) 拍摄方法、装置及电子设备
US8711231B2 (en) Digital image processing device and processing method thereof
US20070285527A1 (en) Imaging apparatus and method, and program
JP2005252626A (ja) 撮像装置および画像処理方法
US8965105B2 (en) Image processing device and method
US9172870B2 (en) Real-time image processing method and device enhancing the resolution of successive images
US20180174326A1 (en) Method, System and Apparatus for Determining Alignment Data
CN110572534A (zh) 全景图像的数字视频稳像方法、装置、设备及存储介质
CN113497861B (zh) 一种视频稳化方法及装置
US7298926B2 (en) Image size reduction method and system
JP6282133B2 (ja) 撮像装置、その制御方法、および制御プログラム
US10713763B2 (en) Image processing apparatus, image processing method, and storage medium
JPH0422280A (ja) 画像の動き検出装置
CN110602410A (zh) 一种图像处理方法、装置、航拍相机及存储介质
CN113888435A (zh) 图像处理方法、装置、电子设备和可读存储介质
CN115174878A (zh) 投影画面校正方法、装置和存储介质
JP2020194532A (ja) 歪み画像内の対象物を検出するための方法、システム、およびデバイス
KR20120003348A (ko) 영상 간 편이량을 결정하는 방법
CN114972046A (zh) 视频稳化方法、装置、终端设备及计算机可读存储介质
JP4484037B2 (ja) 画像処理装置、画像処理システム、撮像装置および画像処理方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant