CN111314604B - 视频防抖方法和装置、电子设备、计算机可读存储介质 - Google Patents
视频防抖方法和装置、电子设备、计算机可读存储介质 Download PDFInfo
- Publication number
- CN111314604B CN111314604B CN202010101586.6A CN202010101586A CN111314604B CN 111314604 B CN111314604 B CN 111314604B CN 202010101586 A CN202010101586 A CN 202010101586A CN 111314604 B CN111314604 B CN 111314604B
- Authority
- CN
- China
- Prior art keywords
- image frame
- video
- time period
- frame sequence
- preset time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 238000013519 translation Methods 0.000 claims abstract description 127
- 238000012545 processing Methods 0.000 claims abstract description 34
- 238000004590 computer program Methods 0.000 claims description 12
- 238000004422 calculation algorithm Methods 0.000 claims description 11
- 238000000605 extraction Methods 0.000 claims description 7
- 238000001514 detection method Methods 0.000 claims description 5
- 230000003287 optical effect Effects 0.000 claims description 5
- 238000012216 screening Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 9
- 239000013598 vector Substances 0.000 description 16
- 239000011159 matrix material Substances 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
本申请涉及一种视频防抖方法和装置、电子设备、计算机可读存储介质,从视频中获取预设时间段内的图像帧序列,对图像帧序列中的图像帧进行帧间对齐得到预设时间段内的平均全局平移量。获取当前图像帧的旋转角度,根据当前图像帧的旋转角度及平均全局平移量对当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。通过对预设时间段内的图像帧序列中的图像帧进行帧间对齐的方式,可以得到预设时间段内的平均全局平移量,该平均全局平移量能够准确地体现预设时间段内的平移抖动。因此,依据该平均全局平移量再加上当前图像帧的旋转角度,对当前图像帧从这两个维度来进行视频防抖处理,能够增强所拍摄视频的防抖效果、提高所拍摄视频的清晰度。
Description
技术领域
本申请涉及计算机技术领域,特别是涉及一种视频防抖方法和装置、电子设备、计算机可读存储介质。
背景技术
随着计算机技术的不断发展,各种具有不同功能的智能终端的出现使得人们的生活越来越丰富多样、也越来越便捷。其中,具有摄像头的智能终端等使得人们可以随时随地拍摄图像或视频来记录生活。但是,在视频拍摄过程中,由于拍摄设备、环境或拍摄对象的因素,例如,手持拍摄设备时手部的抖动、行车拍摄过程中车辆的抖动、拍摄对象的抖动等造成所拍摄的视频也经常出现抖动现象,严重时甚至会出现视频模糊不清楚。因此,急需解决传统的视频拍摄过程中因为抖动造成视频模糊不清楚的问题。
发明内容
本申请实施例提供一种视频防抖方法和装置、电子设备、计算机可读存储介质,可以增强所拍摄视频的防抖效果,进而提高所拍摄视频的清晰度。
一种视频防抖方法,所述方法包括:
从视频中获取预设时间段内的图像帧序列;
对所述图像帧序列中的图像帧进行帧间对齐,得到所述预设时间段内的平均全局平移量;
获取当前图像帧的旋转角度,根据所述当前图像帧的旋转角度及所述平均全局平移量对所述当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。
一种视频防抖装置,所述装置包括:
图像帧序列获取模块,用于从视频中获取预设时间段内的图像帧序列;
平均全局平移量生成模块,用于对所述图像帧序列中的图像帧进行帧间对齐,得到所述预设时间段内的平均全局平移量;
防抖处理模块,用于获取当前图像帧的旋转角度,根据所述当前图像帧的旋转角度及所述平均全局平移量对所述当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。
一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如上所述的视频防抖方法的步骤。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的视频防抖方法的步骤。
上述视频防抖方法和装置、电子设备、计算机可读存储介质,从视频中获取预设时间段内的图像帧序列,对图像帧序列中的图像帧进行帧间对齐,得到预设时间段内的平均全局平移量。获取当前图像帧的旋转角度,根据当前图像帧的旋转角度及平均全局平移量对当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。通过对预设时间段内的图像帧序列中的图像帧进行帧间对齐的方式,可以得到预设时间段内的平均全局平移量,该平均全局平移量能够准确地体现预设时间段内的平移抖动。因此,依据该平均全局平移量再加上当前图像帧的旋转角度,对当前图像帧从这两个维度来进行视频防抖处理,就能够增强所拍摄视频的防抖效果,进而提高所拍摄视频的清晰度。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中电子设备的内部结构示意图;
图2为一个实施例中视频防抖方法的应用环境图;
图3为一个实施例中视频防抖方法的流程图;
图4为视频防抖方法的示意图;
图5为图3中计算得到预设时间段内的平均全局平移量方法的流程图;
图6为图3中计算得到预设时间段内的平均全局平移量方法的流程图;
图7为一个具体的实施例中视频防抖方法的流程图;
图8为一个实施例中视频防抖装置的结构框图;
图9为图8中平均全局平移量生成模块的结构框图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
图1为一个实施例中电子设备的内部结构示意图。如图1所示,该电子设备包括通过系统总线连接的处理器和存储器。其中,该处理器用于提供计算和控制能力,支撑整个电子设备的运行。存储器可包括非易失性存储介质及内存储器。非易失性存储介质存储有操作系统和计算机程序。该计算机程序可被处理器所执行,以用于实现以下各个实施例所提供的一种视频防抖方法。内存储器为非易失性存储介质中的操作系统计算机程序提供高速缓存的运行环境。该电子设备可以是各种手机、电脑、可携带设备等。
如图2所示,为一种视频防抖方法的应用场景图。电子设备220包括陀螺仪、存储器及处理器,拍摄对象240为一个动态的人物。手持电子设备时的抖动、行车拍摄过程中车辆的抖动、拍摄对象的抖动等造成所拍摄的视频经常出现抖动现象,严重时甚至会出现视频模糊不清楚的情况。通过本申请中的视频防抖方法,电子设备可以从视频中获取预设时间段内的图像帧序列,对图像帧序列中的图像帧进行帧间对齐,得到预设时间段内的平均全局平移量。获取当前图像帧的旋转角度,根据当前图像帧的旋转角度及平均全局平移量对当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。
图3为一个实施例中视频防抖方法的流程图,应用于电子设备,如图3所示,视频防抖方法包括步骤320至步骤360。其中,
步骤320,从视频中获取预设时间段内的图像帧序列。
当用户通过电子设备来进行拍摄视频的时候,不管是由于用户手持电子设备造成的抖动,或者车载电子设备在行车拍摄过程中车辆的抖动,还是由于拍摄对象移动(尤其是高速移动)造成的抖动,这些抖动都会使得所拍摄的画面出现不同程度的模糊,以至于影响用户的观感。
基于上述情况,本申请提出了一种视频防抖方法,用户通过电子设备拍摄视频的过程中或拍摄完视频后处理的过程中,首先,从视频中获取预设时间段内的图像帧序列,可以通过该预设时间段内的图像帧序列的拍摄参数对当前视频帧进行抖动校正。该预设时间段可以是所拍摄视频中的任何一个时间段,本申请对此不做限定。
步骤340,对图像帧序列中的图像帧进行帧间对齐,得到预设时间段内的平均全局平移量。
然后,对图像帧序列中的图像帧进行帧间对齐。其中,帧间对齐指的是将不同的两帧图像的图像内容进行对齐。对图像帧序列中的所有图像帧在平移方向上分别进行逐帧对齐,进而得出图像帧序列所对应的预设时间段内的平均全局平移量。其中,平移方向指的是将电子设备看做空间中的一个点,不考虑电子设备的旋转所计算出的电子设备整体平移的方向,所以平移方向是相对于旋转方向而言的。
步骤360,获取当前图像帧的旋转角度,根据当前图像帧的旋转角度及平均全局平移量对当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。
在用户通过电子设备拍摄视频的过程中,一般通过姿态传感器来实时捕捉电子设备的姿态信息,该姿态信息包括三轴旋转角度等姿态信息。其中,三轴旋转角度指的是欧拉角。欧拉角包括3个一组独立角参量,由章动角θ、旋进角(即进动角)ψ和自转角j组成,其实欧拉角主要分成三个轴上的旋转,分别是x轴的pitch,y轴的yaw,z轴的roll。其中,pitch():俯仰,将物体绕X轴旋转(localRotationX),yaw():航向,将物体绕Y轴旋转(localRotationY),横滚,将物体绕Z轴旋转(localRotationZ)。
在获取了当前图像帧的三轴旋转角度之后,根据当前图像帧的三轴旋转角度对当前图像帧进行旋转防抖处理,然后再根据当前图像帧的平均全局平移量对当前图像帧进行平移防抖处理,生成防抖处理后的当前图像帧。当然,以上平移防抖处理和旋转防抖处理不分先后顺序,还可以同时进行防抖处理。
结合图4所示,图4为视频防抖方法的示意图,图中包括姿态传感器420、图像传感器440、防抖模块460。通过图像传感器440获取预设时间段内的图像帧序列,对图像帧序列中的图像帧进行帧间对齐,得到预设时间段内的平均全局平移量(偏移参数)。通过姿态传感器420来实时捕捉电子设备的姿态信息(三轴旋转角度),将偏移参数和三轴旋转角度输入至防抖模块进行视频稳像处理。
本申请实施例中,从视频中获取预设时间段内的图像帧序列,对图像帧序列中的图像帧进行帧间对齐,得到预设时间段内的平均全局平移量。获取当前图像帧的旋转角度,根据当前图像帧的旋转角度及平均全局平移量对当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。通过对预设时间段内的图像帧序列中的图像帧进行帧间对齐的方式,可以得到预设时间段内的平均全局平移量,该平均全局平移量能够准确地体现预设时间段内的平移抖动。因此,依据该平均全局平移量再加上当前图像帧的旋转角度,对当前图像帧从这两个维度来进行视频防抖处理,就能够增强所拍摄视频的防抖效果,进而提高所拍摄视频的清晰度。
在一个实施例中,如图5所示,步骤340,对图像帧序列中的图像帧进行帧间对齐,得到预设时间段内的平均全局平移量,包括:
步骤342,从图像帧序列中筛选出间隔预设数目的图像帧构成目标图像帧序列。
用户通过电子设备拍摄视频的过程中或拍摄完视频后处理的过程中,首先,从视频中获取预设时间段内的图像帧序列,可以通过该预设时间段内的图像帧序列的拍摄参数对当前视频帧进行抖动校正。该预设时间段可以是所拍摄视频中的任何一个时间段,本申请在此不做限定。
其一,由于该预设时间段内的图像帧序列中的图像帧数目较多,为了减少计算量可以从该预设时间段内的图像帧序列中筛选出目标图像帧序列,该目标图像帧序列由其中间隔预设数目的图像帧所构成。其二,因为所拍摄的视频的对象及帧率不同,例如对于运动速度较低的对象而采用高帧率进行拍摄的话,连续的几帧图像上几乎未发生位移,所以对于这种情况为了减少不必要的计算量,就可以从该预设时间段内的图像帧序列中筛选出目标图像帧序列,该目标图像帧序列由其中间隔预设数目的图像帧所构成。
步骤344,对目标图像帧序列中的图像帧进行逐帧对齐,计算出相邻两帧之间的全局平移量。
在筛选出了目标图像帧序列之后,对目标图像帧序列中的图像帧上的图像内容进行逐帧对齐,计算出偏移量即全局平移量。即将目标图像帧序列中的第一帧与第二帧进行对齐计算出第一帧与第二帧之间的偏移量。然后将目标图像帧序列中的第二帧与第三帧进行对齐计算出第二帧与第三帧之间的偏移量,如此类推直到依次对目标图像帧序列中的全部图像帧进行逐帧对齐,计算出两两图像帧之间的偏移量。
步骤346,根据所有的全局平移量计算出平均全局平移量。
在计算出了目标图像帧序列紧邻的前后两帧之间的全局平移量之后,计算出平均全局平移量。其中,计算出平均全局平移量的方式可以是多种多样的,例如平均全局平移量可以是算术平均值、几何平均值、平方平均值(均方根平均值)、调和平均值、加权平均值等。本申请对此不做限定。
本申请实施例中,从视频中获取预设时间段内的图像帧序列之后,可以根据连续视频帧上图像内容位移的情况再从图像帧序列中筛选出间隔预设数目的图像帧构成目标图像帧序列。从而,对所筛选出的目标图像帧序列进行逐帧对齐计算出平均全局平移量,这样就可以保证在大大减少计算量的同时保证所计算出的平均全局平移量的准确性,进而实现高效地进行视频防抖。
在一个实施例中,对图像帧序列中的图像帧进行帧间对齐,得到预设时间段内的平均全局平移量,包括:
对图像帧序列中的图像帧采用特征匹配的方式进行帧间对齐,得到预设时间段内的平均全局平移量。
具体的,对图像帧序列中的图像帧提取特征点,得到图像帧序列中每一图像帧的特征点。基于图像帧序列中相邻图像帧的特征点,对相邻图像帧进行特征匹配,计算出相邻两帧之间的全局平移量,根据所有的全局平移量计算出平均全局平移量。
其中,对图像帧序列中的图像帧提取特征点,可以是对图像帧序列中的每一图像帧提取出对应的特征向量。然后,将前一帧的特征向量与紧邻的后一帧的特征向量进行特征匹配,计算出平移补偿的矩阵即为相邻两帧之间的全局平移量。最后,对所计算出的所有的平移补偿的矩阵进行平均来计算出的平移补偿的目标矩阵。该目标矩阵就是平均全局平移量,根据该目标矩阵就可以实现对当前帧的平移补偿。
本申请实施例中,对图像帧序列中的图像帧提取特征点,得到图像帧序列中每一图像帧的特征点。基于图像帧序列中相邻图像帧的特征点,对相邻图像帧进行特征匹配,计算出相邻两帧之间的全局平移量,根据所有的全局平移量计算出平均全局平移量。因为平均全局平移量是基于图像帧序列中很多帧图像综合计算所得,样本的丰富性提高了所计算出的平均全局平移量的准确性。从而,根据平均全局平移量对当前帧进行平移补偿,就可以实现精确地抖动补偿,进而最终提高所拍摄视频的防抖效果。
在一个实施例中,如图6所示,对图像帧序列中的图像帧采用特征匹配的方式进行帧间对齐,得到预设时间段内的平均全局平移量,包括:
步骤620,对图像帧序列中的图像帧提取特征点,得到图像帧序列中每一图像帧的特征点。
对图像帧序列中的图像帧提取特征点,可以是对图像帧序列中的每一图像帧提取出对应的特征向量。
步骤640,基于图像帧序列中相邻图像帧的特征点,对相邻图像帧进行特征匹配,计算出相邻两帧之间的全局平移量。
然后,将前一帧的特征向量与紧邻的后一帧的特征向量进行特征匹配,计算出平移补偿的矩阵即为相邻两帧之间的全局平移量。
步骤660,根据所有的全局平移量计算出平均全局平移量。
最后,对所计算出的所有的平移补偿的矩阵进行平均来计算出的平移补偿的目标矩阵。该目标矩阵就是平均全局平移量,根据该目标矩阵就可以实现对当前帧的平移抖动补偿。
本申请实施例中,对图像帧序列中的每一图像帧提取出对应的特征向量,将前一帧的特征向量与紧邻的后一帧的特征向量进行特征匹配,计算出平移补偿的矩阵。对所计算出的所有的平移补偿的矩阵进行平均来计算出的平移补偿的目标矩阵。通过特征向量进而计算出平移矩阵,采用平移矩阵来对当前图像帧进行平移补偿,能够更加准确地对当前图像帧进行平移抖动补偿。
在一个实施例中,对图像帧序列中的图像帧提取特征点,得到图像帧序列中每一图像帧的特征点,包括:
通过Harris角点检测算法或SIFT特征提取算法或光流法对图像帧序列中的图像帧提取特征点,得到图像帧序列中每一图像帧的特征点。
其中,Harris角点检测算法的基本思想是使用一个固定窗口在图像上进行任意方向上的滑动,比较滑动前与滑动后的这两种情况,窗口中的像素灰度变化程度,如果一个固定窗口在图像上进行任意方向上的滑动,窗口中都出现较大的灰度变化,那么就可以认为该窗口中存在角点。角点通常指的是轮廓之间的交点。
SIFT(Scale-invariant feature transform)特征提取算法是一种检测局部特征的算法,该算法通过计算一幅图中的特征点(interest points,or corner points)及其有关scale和orientation的描述子得到特征点并进行图像特征点匹配。
其中,光流(optical flow)是目标、场景或摄像机在连续两帧图像间运动时造成的目标的运动。它是图像在平移过程中的二维矢量场,是通过二维图像来表示物体点三维运动的速度场,反映了微小时间间隔内由于运动形成的图像变化,以确定图像点上的运动方向和运动速率。
本申请实施例中,通过Harris角点检测算法或SIFT特征提取算法或光流法对图像帧序列中的图像帧提取特征向量,得到图像帧序列中每一图像帧的特征向量。上述提取特征向量的方法只是举例,本申请并未对此进行限定。上述三种不同的特征向量提取方法各自具有不同的优点,采用不同的特征向量提取方法能够凸出图像帧中的不同特征,从而能够在不同的维度上对当前图像帧进行平移抖动补偿。
在一个实施例中,从视频中获取预设时间段内的图像帧序列,包括:
从视频中获取当前图像帧之前预设时间段内的图像帧序列。
具体的,在对实时拍摄的视频进行视频防抖处理的时候,可以是从视频中获取当前图像帧之前预设时间内的图像帧序列。根据当前图像帧的时间戳获取排在该时间戳之前的预设时间段内的图像帧,这些图像帧就构成了图像帧序列。一般情况下是获取与当前图像帧的时间戳紧邻的预设时间段内的图像帧构成图像帧序列。当然,也可以获取与当前图像帧的时间戳间隔的预设时间段内的图像帧构成图像帧序列。例如,当前图像帧的时间戳为t,则获取t-N~t时间段内所生成图像帧保存在队列QN中,其中时刻i对应的图像帧记为队列QN就是所获取的当前图像帧之前预设时间段内的图像帧序列。
本申请实施例中,在对实时拍摄的视频进行视频防抖处理的时候,可以是从视频中获取当前图像帧的时间戳之前的预设时间段内的图像帧序列。通过对预设时间段内的图像帧序列中的图像帧进行帧间对齐的方式,可以得到预设时间段内的平均全局平移量,该平均全局平移量能够准确地体现预设时间段内的平移抖动。因此,基于预设时间段内的平均全局平移量,对当前图像帧进行平移补偿,就能够增强所拍摄视频的防抖效果,进而提高所拍摄视频的清晰度。
在一个实施例中,从视频中获取预设时间段内的图像帧序列,包括:
从视频中获取当前图像帧之前预设时间段内的图像帧序列及当前图像帧之后预设时间段内的图像帧序列。
具体的,如果不是实时拍摄视频,例如是对所拍摄视频的后期处理中,可以从视频中获取当前图像帧之前预设时间段内的图像帧序列及当前图像帧之后预设时间段内的图像帧序列。例如,当前图像帧的时间戳为t,则获取t-N~t~t+N时间段内所生成图像帧保存在队列QN中,其中时刻i对应的图像帧记为队列QN就是所获取的当前图像帧之前预设时间段内的图像帧序列及当前图像帧之后预设时间段内的图像帧序列。当然,这里的两个预设时间段可以是相同的,也可以是不同的。
本申请实施例中,因为当前图像帧的平移补偿不仅受到当前图像帧之前的图像帧的全局平移量的影响,还会受到当前图像帧之后的图像帧的全局平移量的影响。所以,从视频中获取当前图像帧之前预设时间段内的图像帧序列及当前图像帧之后预设时间段内的图像帧序列,然后对图像帧序列中的图像帧进行帧间对齐,得到预设时间段内的平均全局平移量。再获取当前图像帧的旋转角度,根据当前图像帧的旋转角度及平均全局平移量对当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。如此,防抖处理后的当前图像帧的防抖效果较好,最终所得到的视频的清晰度更高。
在一个实施例中,获取当前图像帧的旋转角度,包括:
通过陀螺仪获取当前图像帧的三轴旋转角度。
本申请实施例中,在用户通过电子设备拍摄视频的过程中,一般通过姿态传感器来实时捕捉电子设备的姿态信息,该姿态信息包括三轴旋转角度等姿态信息。其中,三轴旋转角度指的是欧拉角。欧拉角包括3个一组独立角参量,由章动角θ、旋进角(即进动角)ψ和自转角j组成,其实欧拉角主要分成三个轴上的旋转,分别是x轴的pitch,y轴的yaw,z轴的roll。其中,pitch():俯仰,将物体绕X轴旋转(localRotationX),yaw():航向,将物体绕Y轴旋转(localRotationY),横滚,将物体绕Z轴旋转(localRotationZ)。
本申请实施例中,依据通过上述方法所计算出的平均全局平移量再加上当前图像帧的三轴旋转角度,对当前图像帧从这两个维度来进行视频防抖处理,就能够增强所拍摄视频的防抖效果,进而提高所拍摄视频的清晰度。
在一个具体的实施例中,如图7所示,提供了一种视频防抖方法,包括以下步骤:
步骤704,对队列QN中的图片逐帧进行特征匹配,得到相邻两帧间的全局平移量αi;
步骤706,计算t-N~t时间段内平均全局平移量,作为第t帧的全局平移量λt:
步骤708,通过姿态传感器获取当前相机姿态Rt,Rt指的是三轴旋转角度;
步骤710,将λt和Rt输入防抖模块,执行防抖操作生成去模糊的稳定视频。
本申请实施例中,从视频中获取预设时间段内的图像帧序列,对图像帧序列中的图像帧进行帧间对齐,得到预设时间段内的平均全局平移量。获取当前图像帧的旋转角度,根据当前图像帧的旋转角度及平均全局平移量对当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。通过对预设时间段内的图像帧序列中的图像帧进行帧间对齐的方式,可以得到预设时间段内的平均全局平移量,该平均全局平移量能够准确地体现预设时间段内的平移抖动。因此,依据该平均全局平移量再加上当前图像帧的旋转角度,对当前图像帧从这两个维度来进行视频防抖处理,就能够增强所拍摄视频的防抖效果,进而提高所拍摄视频的清晰度。
在一个实施例中,如图8所示,还提供了一种视频防抖装置800,该装置包括:
图像帧序列获取模块820,用于从视频中获取预设时间段内的图像帧序列;
平均全局平移量生成模块840,用于对图像帧序列中的图像帧进行帧间对齐,得到预设时间段内的平均全局平移量;
防抖处理模块860,用于获取当前图像帧的旋转角度,根据当前图像帧的旋转角度及平均全局平移量对当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。
在一个实施例中,如图9所示,平均全局平移量生成模块840,包括:
目标图像帧序列筛选单元842,用于从图像帧序列中筛选出间隔预设数目的图像帧构成目标图像帧序列;
逐帧对齐单元844,用于对目标图像帧序列中的图像帧进行逐帧对齐,计算出相邻两帧之间的全局平移量;
平均全局平移量计算单元846,用于根据所有的全局平移量计算出平均全局平移量。
在一个实施例中,逐帧对齐单元844,还用于对图像帧序列中的图像帧采用特征匹配的方式进行帧间对齐,得到预设时间段内的平均全局平移量。
在一个实施例中,逐帧对齐单元844,还用于对图像帧序列中的图像帧提取特征点,得到图像帧序列中每一图像帧的特征点;基于图像帧序列中相邻图像帧的特征点,对相邻图像帧进行特征匹配,计算出相邻两帧之间的全局平移量;根据所有的全局平移量计算出平均全局平移量。
在一个实施例中,逐帧对齐单元844,还用于通过Harris角点检测算法或SIFT特征提取算法或光流法对图像帧序列中的图像帧提取特征点,得到图像帧序列中每一图像帧的特征点。
在一个实施例中,图像帧序列获取模块820,还用于从视频中获取当前图像帧之前预设时间段内的图像帧序列。
在一个实施例中,图像帧序列获取模块820,还用于从视频中获取当前图像帧之前预设时间段内的图像帧序列及当前图像帧之后预设时间段内的图像帧序列。
在一个实施例中,防抖处理模块860,还用于通过陀螺仪获取当前图像帧的三轴旋转角度。
上述视频防抖装置中各个模块的划分仅用于举例说明,在其他实施例中,可将视频防抖装置按照需要划分为不同的模块,以完成上述视频防抖装置的全部或部分功能。
本申请实施例中提供的视频防抖装置中的各个模块的实现可为计算机程序的形式。该计算机程序可在终端或服务器上运行。该计算机程序构成的程序模块可存储在终端或服务器的存储器上。该计算机程序被处理器执行时,实现本申请实施例中所描述方法的步骤。
电子设备实现该视频防抖方法的过程如上述实施例,在此不再赘述。
本申请实施例还提供了一种计算机可读存储介质。一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当计算机可执行指令被一个或多个处理器执行时,使得处理器执行视频防抖方法的步骤。
一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行视频防抖方法。
本申请实施例所使用的对存储器、存储、数据库或其它介质的任何引用可包括非易失性和/或易失性存储器。合适的非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM),它用作外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)。
以上实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (11)
1.一种视频防抖方法,其特征在于,所述方法包括:
从视频中获取预设时间段内的图像帧序列;
对所述图像帧序列中的图像帧进行帧间对齐,得到所述预设时间段内的平均全局平移量;所述帧间对齐指的是将不同的两帧图像的图像内容进行对齐;
通过姿态传感器获取当前图像帧的旋转角度,根据所述当前图像帧的旋转角度及所述平均全局平移量对所述当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。
2.根据权利要求1所述的方法,其特征在于,所述对所述图像帧序列中的图像帧进行帧间对齐,得到所述预设时间段内的平均全局平移量,包括:
从所述图像帧序列中筛选出间隔预设数目的图像帧构成目标图像帧序列;
对所述目标图像帧序列中的图像帧进行逐帧对齐,计算出相邻两帧之间的全局平移量;
根据所有的全局平移量计算出平均全局平移量。
3.根据权利要求1所述的方法,其特征在于,所述对所述图像帧序列中的图像帧进行帧间对齐,得到所述预设时间段内的平均全局平移量,包括:
对所述图像帧序列中的图像帧采用特征匹配的方式进行帧间对齐,得到所述预设时间段内的平均全局平移量。
4.根据权利要求3中所述的方法,其特征在于,所述对所述图像帧序列中的图像帧采用特征匹配的方式进行帧间对齐,得到所述预设时间段内的平均全局平移量,包括:
对所述图像帧序列中的图像帧提取特征点,得到所述图像帧序列中每一图像帧的特征点;
基于所述图像帧序列中相邻图像帧的特征点,对所述相邻图像帧进行特征匹配,计算出相邻两帧之间的全局平移量;
根据所有的全局平移量计算出平均全局平移量。
5.根据权利要求4所述的方法,其特征在于,所述对所述图像帧序列中的图像帧提取特征点,得到所述图像帧序列中每一图像帧的特征点,包括:
通过Harris角点检测算法或SIFT特征提取算法或光流法对所述图像帧序列中的图像帧提取特征点,得到所述图像帧序列中每一图像帧的特征点。
6.根据权利要求1至5中任一项所述的方法,其特征在于,所述从视频中获取预设时间段内的图像帧序列,包括:
从视频中获取所述当前图像帧之前预设时间段内的图像帧序列。
7.根据权利要求1至5中任一项所述的方法,其特征在于,所述从视频中获取预设时间段内的图像帧序列,包括:
从视频中获取所述当前图像帧之前预设时间段内的图像帧序列及所述当前图像帧之后预设时间段内的图像帧序列。
8.根据权利要求1至5中任一项所述的方法,其特征在于,获取当前图像帧的旋转角度,包括:
通过陀螺仪获取当前图像帧的三轴旋转角度。
9.一种视频防抖装置,其特征在于,所述装置包括:
图像帧序列获取模块,用于从视频中获取预设时间段内的图像帧序列;
平均全局平移量生成模块,用于对所述图像帧序列中的图像帧进行帧间对齐,得到所述预设时间段内的平均全局平移量;所述帧间对齐指的是将不同的两帧图像的图像内容进行对齐;
防抖处理模块,用于通过姿态传感器获取当前图像帧的旋转角度,根据所述当前图像帧的旋转角度及所述平均全局平移量对所述当前图像帧进行视频防抖处理,生成防抖处理后的当前图像帧。
10.一种电子设备,其特征在于,包括存储器及处理器,所述存储器中储存有计算机程序,其特征在于,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至8中任一项所述的视频防抖方法的步骤。
11.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的视频防抖方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010101586.6A CN111314604B (zh) | 2020-02-19 | 2020-02-19 | 视频防抖方法和装置、电子设备、计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010101586.6A CN111314604B (zh) | 2020-02-19 | 2020-02-19 | 视频防抖方法和装置、电子设备、计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111314604A CN111314604A (zh) | 2020-06-19 |
CN111314604B true CN111314604B (zh) | 2021-08-31 |
Family
ID=71158336
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010101586.6A Active CN111314604B (zh) | 2020-02-19 | 2020-02-19 | 视频防抖方法和装置、电子设备、计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111314604B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114339102B (zh) * | 2020-09-29 | 2023-06-02 | 华为技术有限公司 | 一种录像方法及设备 |
CN114339101B (zh) * | 2020-09-29 | 2023-06-20 | 华为技术有限公司 | 一种录像方法及设备 |
CN112702528B (zh) * | 2020-12-28 | 2022-05-31 | 维沃移动通信有限公司 | 视频防抖方法、装置及电子设备 |
CN114979456B (zh) * | 2021-02-26 | 2023-06-30 | 影石创新科技股份有限公司 | 视频数据的防抖处理方法、装置、计算机设备和存储介质 |
CN113286076B (zh) * | 2021-04-09 | 2022-12-06 | 华为技术有限公司 | 拍摄方法及相关设备 |
CN113163121A (zh) * | 2021-04-21 | 2021-07-23 | 安徽清新互联信息科技有限公司 | 一种视频防抖方法及可读存储介质 |
CN113660420B (zh) * | 2021-08-16 | 2023-06-02 | 维沃移动通信有限公司 | 视频帧处理方法和视频帧处理装置 |
CN115134527B (zh) * | 2022-06-29 | 2024-03-12 | 上海传英信息技术有限公司 | 处理方法、智能终端及存储介质 |
CN117135459B (zh) * | 2023-04-07 | 2024-08-16 | 荣耀终端有限公司 | 图像防抖方法与电子设备 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102231792A (zh) * | 2011-06-29 | 2011-11-02 | 南京大学 | 基于特征匹配的电子稳像方法 |
CN103139568A (zh) * | 2013-02-05 | 2013-06-05 | 上海交通大学 | 基于稀疏度和保真度约束的视频稳像方法 |
CN103634513A (zh) * | 2012-08-20 | 2014-03-12 | 佳能株式会社 | 图像处理设备及其控制方法 |
CN104301712A (zh) * | 2014-08-25 | 2015-01-21 | 浙江工业大学 | 一种基于视频分析的监控摄像头抖动检测方法 |
US9277129B2 (en) * | 2013-06-07 | 2016-03-01 | Apple Inc. | Robust image feature based video stabilization and smoothing |
KR20170082944A (ko) * | 2016-01-07 | 2017-07-17 | 에스케이텔레콤 주식회사 | 영상을 배속 재생하는 방법 및 장치 |
CN109618103A (zh) * | 2019-01-28 | 2019-04-12 | 深圳慧源创新科技有限公司 | 无人机图传视频的防抖方法及无人机 |
CN110139031A (zh) * | 2019-05-05 | 2019-08-16 | 南京大学 | 一种基于惯性感知的视频防抖系统及其工作方法 |
WO2019205129A1 (en) * | 2018-04-28 | 2019-10-31 | SZ DJI Technology Co., Ltd. | Motion estimation |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110166695B (zh) * | 2019-06-26 | 2021-10-01 | Oppo广东移动通信有限公司 | 摄像头防抖方法、装置、电子设备和计算机可读存储介质 |
CN110290320B (zh) * | 2019-06-27 | 2021-01-22 | Oppo广东移动通信有限公司 | 视频预览图生成方法和装置、电子设备、计算机可读存储介质 |
-
2020
- 2020-02-19 CN CN202010101586.6A patent/CN111314604B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102231792A (zh) * | 2011-06-29 | 2011-11-02 | 南京大学 | 基于特征匹配的电子稳像方法 |
CN103634513A (zh) * | 2012-08-20 | 2014-03-12 | 佳能株式会社 | 图像处理设备及其控制方法 |
CN103139568A (zh) * | 2013-02-05 | 2013-06-05 | 上海交通大学 | 基于稀疏度和保真度约束的视频稳像方法 |
US9277129B2 (en) * | 2013-06-07 | 2016-03-01 | Apple Inc. | Robust image feature based video stabilization and smoothing |
CN104301712A (zh) * | 2014-08-25 | 2015-01-21 | 浙江工业大学 | 一种基于视频分析的监控摄像头抖动检测方法 |
KR20170082944A (ko) * | 2016-01-07 | 2017-07-17 | 에스케이텔레콤 주식회사 | 영상을 배속 재생하는 방법 및 장치 |
WO2019205129A1 (en) * | 2018-04-28 | 2019-10-31 | SZ DJI Technology Co., Ltd. | Motion estimation |
CN109618103A (zh) * | 2019-01-28 | 2019-04-12 | 深圳慧源创新科技有限公司 | 无人机图传视频的防抖方法及无人机 |
CN110139031A (zh) * | 2019-05-05 | 2019-08-16 | 南京大学 | 一种基于惯性感知的视频防抖系统及其工作方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111314604A (zh) | 2020-06-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111314604B (zh) | 视频防抖方法和装置、电子设备、计算机可读存储介质 | |
CN107241544B (zh) | 视频稳像方法、装置及摄像终端 | |
KR102509466B1 (ko) | 장면의 초해상도 이미지를 생성하기 위한 광학 이미지 안정화 움직임 | |
CN109005334B (zh) | 一种成像方法、装置、终端和存储介质 | |
CN113436113B (zh) | 防抖动的图像处理方法、装置、电子设备和存储介质 | |
CN113556464B (zh) | 拍摄方法、装置及电子设备 | |
CN114586337B (zh) | 视频防抖优化处理方法和装置、电子设备 | |
CN112017215B (zh) | 图像处理方法、装置、计算机可读存储介质及计算机设备 | |
CN111372000B (zh) | 视频防抖方法和装置、电子设备及计算机可读存储介质 | |
US10198842B2 (en) | Method of generating a synthetic image | |
US20230362317A1 (en) | Method for generating rotation direction of gyroscope and computer device | |
CN113438409B (zh) | 延迟校准方法、装置、计算机设备和存储介质 | |
CN111724421B (zh) | 图像处理方法及装置、电子设备及存储介质 | |
GB2562529A (en) | Method and apparatus for stabilising 360 degree video | |
CN117014726A (zh) | 基于多角度处理的视频稳像方法及系统 | |
CN110602377B (zh) | 一种视频稳像方法及装置 | |
CN113327228B (zh) | 图像处理方法和装置、终端和可读存储介质 | |
CN113436085A (zh) | 防抖效果评估方法、装置、计算机设备和存储介质 | |
CN114979456B (zh) | 视频数据的防抖处理方法、装置、计算机设备和存储介质 | |
CN115278071B (zh) | 图像处理方法、装置、电子设备和可读存储介质 | |
CN113642451B (zh) | 确定视频的匹配性的方法、装置、设备及可读记录介质 | |
CN112927142B (zh) | 一种基于时域插值的高速高分辨率视频生成方法和装置 | |
CN117456097B (zh) | 一种三维模型构建方法及装置 | |
CN118212137A (zh) | 一种视频处理方法、装置、设备和存储介质 | |
CN117745528A (zh) | 图像处理方法及其装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |