CN109348125B - 视频校正方法、装置、电子设备和计算机可读存储介质 - Google Patents

视频校正方法、装置、电子设备和计算机可读存储介质 Download PDF

Info

Publication number
CN109348125B
CN109348125B CN201811291479.3A CN201811291479A CN109348125B CN 109348125 B CN109348125 B CN 109348125B CN 201811291479 A CN201811291479 A CN 201811291479A CN 109348125 B CN109348125 B CN 109348125B
Authority
CN
China
Prior art keywords
image
offset
images
frame
key frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811291479.3A
Other languages
English (en)
Other versions
CN109348125A (zh
Inventor
谭国辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN201811291479.3A priority Critical patent/CN109348125B/zh
Publication of CN109348125A publication Critical patent/CN109348125A/zh
Priority to PCT/CN2019/106389 priority patent/WO2020088134A1/zh
Application granted granted Critical
Publication of CN109348125B publication Critical patent/CN109348125B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

本申请实施例提供一种视频校正方法、装置、电子设备和计算机可读存储介质,其中所述方法包括:控制摄像头连续采集多帧图像,所述摄像头包括光学图像稳定系统;获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量;根据预设标定函数和所述镜头偏移量,获取与所述镜头偏移量对应的图像偏移量;对每一帧所述图像进行标识,获取多帧所述图像中的关键帧图像;根据所述图像偏移量对所述关键帧图像进行校正。通过识别多帧图像中的关键帧图像,根据图像偏移量对所述关键帧图像进行校正,提升了视频的校正效率。

Description

视频校正方法、装置、电子设备和计算机可读存储介质
技术领域
本申请涉及信息技术领域,特别是涉及一种视频校正方法、装置、电子设备和计算机可读存储介质。
背景技术
随着科学技术飞速的发展,各种电子设备不断丰富并方便了人们的日常生活。其中,智能手机、平板电脑等具有摄像头的电子设备使得用户可以随时拍摄自身想要的视频,增加了用户的使用体验。光学图像稳定(Optical Image Stabilization,OIS)作为提升在低光照下拍照质量的重要手段,也越来越多的在手机上应用。但是,在视频拍摄过程中,由于环境因素等其他因素,使得用户手持电子设备时无法保持电子设备的位置稳定,导致所拍摄的视频图像发生抖动现象,进而降低用户的观感。
传统地,当开启OIS功能拍摄视频时,会针对视频的每一帧图像作补偿,运算量较大,导致视频的校正效率较低。
发明内容
本申请实施例提供一种视频校正方法、装置、电子设备和计算机可读存储介质,可以提升视频中多帧图像的校正效率。
本申请实施例提供一种视频校正方法,应用于带有摄像头的电子设备,包括:
控制摄像头连续采集多帧图像,所述摄像头包括光学图像稳定系统;
获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量;
根据预设标定函数和所述镜头偏移量,获取与所述镜头偏移量对应的图像偏移量;
对每一帧所述图像进行标识,获取多帧所述图像中的关键帧图像;
根据所述图像偏移量对所述关键帧图像进行校正。
本申请实施例还提供一种视频校正装置,包括:
采集模块,用于控制摄像头连续采集多帧图像,所述摄像头包括光学图像稳定系统;
第一获取模块,用于获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量;
第二获取模块,用于根据预设标定函数和所述镜头偏移量,获取与所述镜头偏移量对应的图像偏移量;
标识模块,用于对每一帧所述图像进行标识,获取多帧所述图像中的关键帧图像;
校正模块,用于根据所述图像偏移量对所述关键帧进行校正。
本申请实施例还提供一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行上述的视频校正方法的步骤。
本申请实施例还提供一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现上述方法的步骤。
上述提供的视频校正方法、装置、电子设备和计算机可读存储介质,通过识别多帧图像中的关键帧图像,根据图像偏移量对所述关键帧图像进行校正,提升了视频的校正效率。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中提供的视频校正方法流程图;
图2为一个实施例中提供的标定函数获取方式的流程图;
图3为一个实施例中确定关键帧图像和非关键帧图像的流程图;
图4为一个实施例中对关键帧图像分块校正的流程图;
图5为一个实施例中对非关键帧图像校正的流程图;
图6为一个实施例中提供的视频校正装置的结构示意图;
图7为一个实施例中电子设备的内部结构示意图;
图8为一个实施例中电子设备相关的移动终端的部分结构的框图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件,但这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。举例来说,在不脱离本申请的范围的情况下,可以将第一获取模块称为第二获取模块,且类似地,可将第二获取模块称为第一获取模块。第一获取模块和第二获取模块两者都是获取模块,但其不是同一获取模块。
图1为一个实施例中视频校正方法流程图。如图1所示,本申请实施例提供的视频校正方法,应用于带有摄像头的电子设备,包括步骤110至步骤150。
步骤110:控制摄像头连续采集多帧图像,所述摄像头包括光学图像稳定系统。
在一个实施例中,电子设备是具备摄像头的设备,包括但不限于照相机、摄像机、移动终端(如智能手机)、平板电脑(pad)、个人数字助理(Personal Digital Assistant,PDA)、便携设备(例如,便携式计算机)、可穿戴设备等,本发明实施例对此不做具体限定。其中,若电子设备包含双摄像头,则第一摄像头及第二摄像头可并列设置在所述电子设备的机身上。
需要说明的是,本申请实施例所提供的视频校正方法对视频进行校正的过程可以发生在视频拍摄过程中,从而使得用户所看到的视频采集框中的当前帧图像具有较低的抖动或者无抖动,即实时防抖修正,也可以对已拍摄完毕的视频进行抖动修正,即非实时防抖修正。
在一个实施例中,光学图像稳定(Optical Image Stabilization,OIS)系统可以包括霍尔传感器、马达及陀螺仪。其中,陀螺仪测量当前电子设备在多轴方向上的角速度,相应地控制马达进行镜头偏移,而霍尔传感器可用于实时测量OIS偏移时的霍尔位置信息,可根据霍尔位置信息与镜头偏移量(移动量)的对应关系,计算出当前时刻的镜头移动量大小及方向。其中,该移动可以是第一摄像头或第二摄像头在X和/或Y方向上的移动。其中,霍尔位置信息与镜头偏移量存在对应关系,包括但不限于:霍尔位置信息与镜头偏移量相等,或,霍尔位置信息与镜头偏移量存在线性关系,或,霍尔位置信息与镜头偏移量存在着非线性关系。
步骤120:获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量。
在一个实施例中,电子设备控制摄像头连续采集多帧图像以获取视频流,在摄像头抖动时同步获取每一帧图像对应的镜头偏移量。同步即表示在相同的时间段内或时间点上同时采集图像及镜头偏移量,使图像数据与镜头偏移量的数据在时序上对应。
具体地,获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量,包括:获取在所述摄像头抖动时陀螺仪的多个角速度信息;选择至少一个所述角速度信息,获取至少一个所述角速度信息对应的霍尔值,计算出所述霍尔值对应的镜头偏移量,所述角速度信息与所述霍尔值在时序上对应。
在一个实施例中,获取在所述摄像头抖动时陀螺仪的角速度信息,所述角速度信息与所述霍尔值在时序上对应,选择至少一个所述角速度信息,获取至少一个所述角速度信息对应的霍尔值,计算出所述霍尔值对应的镜头偏移量。
其中,从多个角速度值(角速度信息)选取至少一个角速度值,可根据不同方式进行选取。例如,按照多个角速度值加权值从大到小,或由小到大进行排列,选取前N个值(N为正整数),也可以按照多个角速度的均方值由大到小,或由小到大进行排列,选取前N个值。
在一个实施例中,针对每一帧图像对应获取一组至少包含一个镜头偏移量的数据。具体地,第一帧图像获取第一组镜头偏移量数据,第二帧图像获取第二组镜头偏移量数据,依次类推,每一帧图像均获取一组对应的图像偏移量数据。例如,若电子设备包含一个摄像头,当前镜头偏移量的采集频率是8kHz,而拍摄一帧图像的频率是30Hz,则采集一帧图像将会同时采集到266个镜头偏移量的数据,也即对应于一组包括266个图像偏移量的数据;若电子设备包含双摄像头,当前镜头偏移量的采集频率是8kHz,而拍摄一帧图像的频率是30Hz,则采集一帧图像将会同时采集到533个镜头偏移量的数据,也即对应于一组包括533个图像偏移量的数据。
在一个实施例中,可以根据霍尔位置信息与镜头移动量(偏移量)的对应关系,计算出当前时刻的镜头移动量大小及方向。例如,霍尔位置信息与镜头偏移量可存在线性的标定关系,满足函数f(x)=ay+b,x和y分别表示霍尔位置信息和镜头偏移量,例如,当a=1,b=0时,霍尔位置信息与镜头偏移量相等,通过获取到该霍尔位置信息也即获取到镜头偏移量;也可以存在诸如一元二次方程、二元二次方程等非线性关系。在本申请实施例中,已知霍尔位置信息的大小,即可唯一确定出当前时刻该镜头偏移量的大小。在OIS系统中,该镜头偏移量数量级在微米级别。
步骤130:根据预设标定函数和所述镜头偏移量,获取与所述镜头偏移量对应的图像偏移量。
步骤140:对每一帧所述图像进行标识,获取多帧所述图像中的关键帧图像。
在一个实施例中,对每一帧图像进行标识,使每一帧图像携带对应的标识信息,所述标识信息可以唯一标识每一帧图像是否为关键帧。通过识别每一帧图像的标识信息来获取多帧所述图像中的关键帧图像。其中,标识信息可以为数字、字母等,具体形式不做限定。
步骤150:根据所述图像偏移量对所述关键帧图像进行校正。
在确定出关键帧图像之后,可以根据该关键帧图像对应的一组图像偏移量对该关键帧图像进行校正,也可以根据其他帧图像对应的图像偏移量进行校正。
在一个实施例中,可以将所述关键帧图像的所有像素分为多个区域,以形成多个像素块,根据所述图像偏移量对所述多个像素块进行逐一校正。
本申请实施例中,通过控制摄像头连续采集多帧图像,获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量,根据预设标定函数和所述镜头偏移量,获取与所述镜头偏移量对应的图像偏移量,对每一帧所述图像进行标识,获取多帧所述图像中的关键帧图像,根据所述图像偏移量对所述关键帧图像进行分块校正,不仅提升了视频的校正效率,同时也保证了视频的校正效果。
图2为一个实施例中提供的标定函数获取方式的流程图,如图2所示,包括步骤210至步骤230。
步骤210:在不同时刻对同一目标参照物进行拍摄,获取每一时刻的镜头偏移量对应的图像,所述图像中包含至少一个特征点;
步骤220:对所述图像中至少一个特征点进行检测,并根据不同图像中所述特征点的位置,计算不同图像相对于初始时刻图像的图像偏移量;
步骤230:构建所述不同时刻的镜头偏移量与图像偏移量的标定关系表,并根据所述标定关系表,拟合出所述镜头偏移量与所述图像偏移量的标定关系。
在本申请实施例中,拟合出所述镜头偏移量与所述图像偏移量的标定关系,可以为通过设置标定函数模型,确定出镜头偏移量与图像偏移量满足的标定函数,通过计算机几何技术,在二维坐标系中绘制拟合曲线,从而确定当前镜头偏移量与图像偏移量满足的标定函数。
在一个实施例中,所述根据所述标定关系表,拟合出所述镜头偏移量与所述图像偏移量的标定关系可以包括:
根据所述标定关系表,拟合所述镜头偏移量与所述图像偏移量的OIS标定函数;
将所述不同时刻的镜头偏移量与图像偏移量作为输入参数代入标定函数模型,计算出所述标定函数的一般表达式。
在一个实施例中,预设标定函数可以是线性的一元一次方程,也可以是非线性的一元二次方程或二元二次方程等,本申请实施例对此不作限制。以二元二次方程f(Δx,Δy)=ax2+by2+cxy+dx+ey+f为例,Δx,Δy为图像偏移量,单位为像素,x和y为X轴及Y轴的镜头偏移量,a,b,c,d,e和f为参数,在本发明中,需要拟合镜头偏移量与图像偏移量的对应关系,就必须要确定a,b,c,d,e和f这6个参数的具体值,在本申请实施例中,需要测量出6个参数的大小,则需要6个方程式,即,在Δx,Δy和x,y可测量得出的情况下,选取不同的Δx,Δy和x,y带入该方程式,即可求出该6个参数的大小。即,在不同时刻,按照既定的不同镜头偏移量对同一目标物进行拍摄,通过该拍摄图像中特征点(目标点)的位移,确定出Δx和Δy。例如,在t0时刻OIS处于初始化开启状态,此时摄像头位置处于O点,在t1-t6六个时刻时,OIS分别移动至A(x1,y1),B(x2,y2),C(x3,y3),D(x4,y4),E(x5,y5),F(x6,y6)6个点,拍摄6张图像,通过对某一特征点或某几个特征点/特征块的测量,可得到每张图像中该特征点/特征块相对于0点的特征点/特征块偏移量(Δx1,Δy1),(Δx2,Δy2),(Δx3,Δy3),(Δx4,Δy4),(Δx5,Δy5)和(Δx6,Δy6),将该Δx,Δy和x,y数据带入方程式中,即可求出a,b,c,d,e和f这6个参数的具体值,从而确定f(Δx,Δy)的具体值。
图3为一个实施例中提供的确定关键帧图像和非关键帧图像的流程图。如图3所示,包括步骤310和步骤330。
步骤310:获取每一帧所述图像的全局特征和局部特征;
步骤320:根据所述全局特征和所述局部特征计算每一帧所述图像之间的相似度,以获取每一帧所述图像之间的近邻关系;
步骤330:根据所述近邻关系,对每一帧所述图像进行标识,以确定多帧所述图像中的关键帧图像和非关键帧图像。
在一个实施例中,采集的视频流包括多帧图像,对相邻的两帧图像数据的直方图和灰度图进行计算,获取相邻两帧图像的帧差异值、灰度图的均值差值和灰度图的方差差值组成的特征向量,以及对所述帧差异值、均值差值和方差差值进行加权处理得到所述向量的欧式距离,比较所述欧式距离与预设阈值的大小,基于比较的结果获取相邻两帧图像的近邻关系,根据所述近邻关系对每一帧所述图像进行标识,以确定多帧所述图像中的关键帧图像和非关键帧图像
在一个实施例中,对每一帧图像进行标识,使每一帧图像携带对应的标识信息,所述标识信息可以唯一标识每一帧图像为关键帧或非关键帧。通过识别每一帧图像的标识信息来获取多帧所述图像中的关键帧图像和非关键这图像。其中,标识信息可以为数字、字母等,具体形式不做限定。
在一个实施例中,标识信息由数字组成,用于表示每一帧图像是否为关键帧。例如,可以用数字1来表示该帧图像为关键帧,数字2表示该帧图像为非关键帧。
图4为一个实施例中对关键帧图像校正的流程图。如图4所示,对关键帧图像分块校正方法包括步骤410和步骤420。
步骤410:将所述关键帧图像的所有像素分为多个区域,以形成多个像素块。
步骤420:根据所述图像偏移量对所述多个像素块进行逐一校正。
在一个实施例中,每一个像素块可以包括多个像素行,根据图像偏移量(单位为像素)对每一像素块进行逐一校正。例如,若该关键帧图像具备1000行像素,则可将该图像分为20块,每50行为一块,则可以在该关键帧图像对应的一组图像偏移量中选择20个图像偏移量,分别对应于所有的20个像素块进行逐一校正。例如,图像偏移量1为向X轴正向偏移1个像素(pixel),图像偏移量2为向X轴负向偏移1个像素,则分块1整体向右移动1个像素,分块2整体向右移动1个像素,以此类推,不同的像素块通过不同的图像偏移量进行图像校正,相比于一个图像用一个图像偏移量进行校正的方式,可提高图像校正的精度,有效地保证了图像校正的质量,从而提高视频校正的质量。
在一个实施例中,每一个像素块可以包括一个像素行,根据图像偏移量对每一像素行进行逐一校正。例如,当前计算出的图像偏移量为X轴正向偏移了1个像素,则在图像补偿时,将该图像每一像素行向X轴负向平移1个像素,实现图像的逐行校正。
在一个实施例中,所述图像偏移量的数量大于或等于所述图像的像素行数时,利用所述图像偏移量对所述图像进行逐行校正,例如,若电子设备包含一个摄像头,当前镜头偏移量的采集频率是8kHz,而拍摄一帧图像的频率是30Hz,则采集一帧图像将会同时采集到266个镜头偏移量的数据,也即对应于一组包括266个图像偏移量的数据;若电子设备包含双摄像头,当前镜头偏移量的采集频率是8kHz,而拍摄一帧图像的频率是30Hz,则采集一帧图像将会同时采集到533个镜头偏移量的数据,也即对应于一组包括533个图像偏移量的数据。本申请实施例以电子设备包含一个摄像头为例说明。CMOS是逐行扫描成像,假设一帧图像为200行,则266个图像偏移量对于100行还有剩余,则在266个数据中选取200个,每一个数据对应每一个像素行,即将266个的数据中的200个数据逐一分配至每一个像素行,对关键帧图像进行逐行校正。
在一个实施例中,所述图像偏移量的数量小于所述图像的像素行数时,利用所述图像偏移量对所述关键帧图像进行逐行校正。例如,当前镜头偏移量的采集频率是8kHz,而拍摄一帧图像的频率是30Hz,则采集一帧图像将会同时采集到266个镜头偏移量的数据,也即对应于一组包括266个图像偏移量的数据。CMOS是逐行扫描成像,假设一帧图像为300行,则266个图像偏移量对于300个像素行,此时不能将266个图像偏移量数据逐一分配至每一个像素行,则可以将266个图像偏移量对应分配至前266个像素行,其余34个像素行在266个图像偏移量中选取34个图像偏移量,即每一个像素行对应于一个图像偏移量,对关键帧图像进行逐行校正。
需要说明的是,在一组图像偏移量数据中选择一定数量的图像偏移量数据,例如在266个数据中选择200个数据,可按照采集的先后顺序选取,也可以按照均方值由大到小的顺序选取,具体根据实际情况选择,本实施例不做限定。
本申请实施例,对关键帧的像素行进行逐一校正的方式,相对于所有图像采用同一个图像偏移量进行校正的方式而言,其校正的精度大大增强。
图5为一个实施例中对非关键帧图像校正的流程图。如图5所示,包括步骤510和步骤520。
步骤510:获取连续多帧非关键帧图像;
步骤520:采用同一个图像偏移量对连续多帧非关键帧图像进行校正。
在一个实施例中,在确定多帧所述图像中的关键帧图像和非关键帧图像之后,获取连续多帧非关键帧图像,采用同一个图像偏移量对连续多帧非关键帧图像进行校正。例如:摄像头共采集五帧图像,包括第一帧图像、第二帧图像、第三帧图像、第四帧图像、第五帧图像,若第一帧图像为关键帧图像,第二帧图像至第五帧图像均为非关键帧图像,则可以在五帧图像对应的五组图像偏移量中选择一个图像偏移量对第二帧图像至第五帧图像进行校正,具体选择方式不做限定。若第三帧图像为关键帧图像,第一帧图像、第二帧图像、第四帧图像、第五帧图像均为非关键帧图像,则可以在五帧图像对应的五组图像偏移量中选择一个图像偏移量对上述四个非关键帧图像进行校正,也可以选择两个图像偏移量,第一帧图像和第二帧图像共用其中一个图像偏移量,第四帧图像和第五帧图像共用另一个图像偏移量。
应该理解的是,虽然图1至图5的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图1至图5中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
图6为一个实施例的视频校正装置的结构框图。如图6所示,该视频校正装置包括采集模块610、第一获取模块620、第二获取模块630、标识模块640和校正模块650。
采集模块610,可以为OIS控制器,用于控制摄像头连续采集多帧图像,所述摄像头包括光学图像稳定(Optical Image Stabilization,OIS)系统。
第一获取模块620,包括陀螺仪和霍尔传感器,用于获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量。
第二获取模块630,可以为通用处理器CPU,也可以是图像处理器GPU,还可以是图像处理器(Image Signal Processor,ISP),用于根据预设标定函数和所述镜头偏移量,获取与所述镜头偏移量对应的图像偏移量。
标识模块640,用于对每一帧所述图像进行标识,获取多帧所述图像中的关键帧图像。
校正模块650,用于根据所述图像偏移量对所述关键帧进行校正。
在一个实施例中,所述第一获取模块620包括:第一获取单元和计算单元。
第一获取单元,用于获取在所述摄像头抖动时陀螺仪的角速度信息,所述角速度信息与所述霍尔值在时序上对应;
计算单元,用于选择至少一个所述角速度信息,获取至少一个所述角速度信息对应的霍尔值,计算出所述霍尔值对应的镜头偏移量。
在一个实施例中,标识模块640包括第二获取单元、第三获取单元和确定单元。
第二获取单元用于获取每一帧所述图像的全局特征和局部特征;
第三获取单元用于根据所述全局特征和所述局部特征计算每一帧所述图像之间的相似度,以获取每一帧所述图像之间的近邻关系;
确定单元用于根据所述近邻关系,对每一帧所述图像进行标识,以确定多帧所述图像中的关键帧图像和非关键帧图像。
在一个实施例中,校正模块650用于将所述关键帧图像的所有像素分为多个区域,以形成多个像素块,根据所述图像偏移量对所述多个像素块进行逐一校正。
在一个实施例中,校正模块还650用于根据所述图像偏移量对所述非关键帧图像进行校正,具体为:
获取连续多帧非关键帧图像;
采用同一个所述图像偏移量对连续多帧所述非关键帧图像进行校正。
镜头偏移量与图像偏移量的标定关系及相关介绍可参见前述实施例的相关部分,这里不再赘述。
上述提供的视频校正装置,通过控制摄像头连续采集多帧图像,获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量,根据预设标定函数和所述镜头偏移量,获取与所述镜头偏移量对应的图像偏移量,对每一帧所述图像进行标识,获取多帧所述图像中的关键帧图像,根据所述图像偏移量对所述关键帧图像进行分块校正,不仅提升了视频的校正效率,同时也保证了视频的校正效果。
上述视频校正装置中各个模块的划分仅用于举例说明,在其他实施例中,可将视频校正装置按照需要划分为不同的模块,以完成上述视频校正装置的全部或部分功能。
关于视频校正装置的具体限定可以参见上文中对于视频校正方法的限定,在此不再赘述。上述视频校正装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
本申请实施例中提供的视频校正装置中的各个模块的实现可为计算机程序的形式。该计算机程序可在终端或服务器上运行。该计算机程序构成的程序模块可存储在终端或服务器的存储器上。该计算机程序被处理器执行时,实现本申请实施例中所描述方法的步骤。
图7为一个实施例中电子设备的内部结构示意图。如图7所示,该终端包括通过系统总线连接的处理器、存储器和网络接口。其中,该处理器用于提供计算和控制能力,支撑整个电子设备的运行。存储器用于存储数据、程序等,存储器上存储至少一个计算机程序,该计算机程序可被处理器执行,以实现本申请实施例中提供的适用于电子设备的无线网络通信方法。存储器可包括非易失性存储介质及内存储器。非易失性存储介质存储有操作系统和计算机程序。该计算机程序可被处理器所执行,以用于实现以下各个实施例所提供的一种视频校正的方法。内存储器为非易失性存储介质中的操作系统计算机程序提供高速缓存的运行环境。网络接口可以是以太网卡或无线网卡等,用于与外部的电子设备进行通信。该电子设备可以是移动终端、平板电脑或者个人数字助理或穿戴式设备等。
本申请实施例还提供了一种计算机可读存储介质。一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当所述计算机可执行指令被一个或多个处理器执行时,使得所述处理器执行视频校正方法的步骤。
一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行视频校正方法。
本申请实施例还提供了一种电子设备。如图8所示,为了便于说明,仅示出了与本申请实施例相关的部分,具体技术细节未揭示的,请参照本申请实施例方法部分。该电子设备可以为包括手机、平板电脑、PDA(Personal Digital Assistant,个人数字助理)、POS(Point of Sales,销售终端)、车载电脑、穿戴式设备等任意终端设备,以电子设备为手机为例:
图8为与本申请实施例提供的电子设备相关的移动终端的部分结构的框图。参考图8,手机包括:射频(Radio Frequency,RF)电路810、存储器820、输入单元830、显示单元840、传感器850、音频电路860、无线保真(wireless fidelity,WiFi)模块870、处理器880、以及电源890等部件。本领域技术人员可以理解,图8所示的手机结构并不构成对手机的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
其中,RF电路810可用于收发信息或通话过程中,信号的接收和发送,可将基站的下行信息接收后,给处理器880处理;也可以将上行的数据发送给基站。通常,RF电路包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器(Low Noise Amplifier,LNA)、双工器等。此外,RF电路810还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于全球移动通讯系统(Global System ofMobile communication,GSM)、通用分组无线服务(General Packet Radio Service,GPRS)、码分多址(Code Division Multiple Access,CDMA)、宽带码分多址(Wideband CodeDivision Multiple Access,WCDMA)、长期演进(Long Term Evolution,LTE))、电子邮件、短消息服务(Short Messaging Service,SMS)等。
存储器820可用于存储软件程序以及模块,处理器880通过运行存储在存储器820的软件程序以及模块,从而执行手机的各种功能应用以及数据处理。存储器820可主要包括程序存储区和数据存储区,其中,程序存储区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能的应用程序、图像播放功能的应用程序等)等;数据存储区可存储根据手机的使用所创建的数据(比如音频数据、通讯录等)等。此外,存储器820可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
输入单元830可用于接收输入的数字或字符信息,以及产生与手机800的用户设置以及功能控制有关的键信号输入。具体地,输入单元830可包括触控面板831以及其他输入设备832。触控面板831,也可称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板831上或在触控面板831附近的操作),并根据预先设定的程式驱动相应的连接装置。在一个实施例中,触控面板831可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器880,并能接收处理器880发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板831。除了触控面板831,输入单元830还可以包括其他输入设备832。具体地,其他输入设备832可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)等中的一种或多种。
显示单元840可用于显示由用户输入的信息或提供给用户的信息以及手机的各种菜单。显示单元840可包括显示面板841。在一个实施例中,可以采用液晶显示器(LiquidCrystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板841。在一个实施例中,触控面板831可覆盖显示面板841,当触控面板831检测到在其上或附近的触摸操作后,传送给处理器880以确定触摸事件的类型,随后处理器880根据触摸事件的类型在显示面板841上提供相应的视觉输出。虽然在图8中,触控面板831与显示面板841是作为两个独立的部件来实现手机的输入和输入功能,但是在某些实施例中,可以将触控面板831与显示面板841集成而实现手机的输入和输出功能。
手机800还可包括至少一种传感器850,比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板841的亮度,接近传感器可在手机移动到耳边时,关闭显示面板841和/或背光。运动传感器可包括加速度传感器,通过加速度传感器可检测各个方向上加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换)、振动识别相关功能(比如计步器、敲击)等;此外,手机还可配置陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器等。
音频电路860、扬声器861和传声器862可提供用户与手机之间的音频接口。音频电路860可将接收到的音频数据转换后的电信号,传输到扬声器861,由扬声器861转换为声音信号输出;另一方面,传声器862将收集的声音信号转换为电信号,由音频电路860接收后转换为音频数据,再将音频数据输出处理器880处理后,经RF电路810可以发送给另一手机,或者将音频数据输出至存储器820以便后续处理。
WiFi属于短距离无线传输技术,手机通过WiFi模块870可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图8示出了WiFi模块870,但是可以理解的是,其并不属于手机800的必须构成,可以根据需要而省略。
处理器880是手机的控制中心,利用各种接口和线路连接整个手机的各个部分,通过运行或执行存储在存储器820内的软件程序和/或模块,以及调用存储在存储器820内的数据,执行手机的各种功能和处理数据,从而对手机进行整体监控。在一个实施例中,处理器880可包括一个或多个处理单元。在一个实施例中,处理器880可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等;调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器880中。
手机800还包括给各个部件供电的电源890(比如电池),优选的,电源可以通过电源管理系统与处理器880逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
在一个实施例中,手机800还可以包括摄像头、蓝牙模块等。
在本申请实施例中,该电子设备所包括的处理器880执行存储在存储器上的计算机程序时实现视频校正的方法的步骤。
本申请所使用的对存储器、存储、数据库或其它介质的任何引用可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM),它用作外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (9)

1.一种视频校正方法,应用于带有摄像头的电子设备,其特征在于,包括:
控制摄像头连续采集多帧图像,所述摄像头包括光学图像稳定系统;
获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量;
根据预设标定函数和所述镜头偏移量,获取与所述镜头偏移量对应的图像偏移量;
对每一帧所述图像进行标识,获取多帧所述图像中的关键帧图像;
根据所述图像偏移量对所述关键帧图像进行校正;
所述方法还包括根据所述图像偏移量对非关键帧图像进行校正,具体包括:
获取连续多帧所述非关键帧图像;
采用同一个所述图像偏移量对连续多帧所述非关键帧图像进行校正。
2.根据权利要求1所述的方法,其特征在于,所述获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量,包括:
获取在所述摄像头抖动时陀螺仪的多个角速度信息;
选择至少一个所述角速度信息,获取至少一个所述角速度信息对应的霍尔值,计算出所述霍尔值对应的镜头偏移量,所述角速度信息与所述霍尔值在时序上对应。
3.根据权利要求1所述的方法,其特征在于,所述对每一帧所述图像进行标识,获取多帧所述图像中的关键帧图像,包括:
获取每一帧所述图像的全局特征和局部特征;
根据所述全局特征和所述局部特征计算每一帧所述图像之间的相似度,以获取每一帧所述图像之间的近邻关系;
根据所述近邻关系,对每一帧所述图像进行标识,以确定多帧所述图像中的关键帧图像和非关键帧图像。
4.根据权利要求1所述的方法,其特征在于,所述根据预设标定函数和所述镜头偏移量,获取与所述镜头偏移量对应的图像偏移量前,还包括:
在不同时刻对同一目标参照物进行拍摄,获取每一时刻的镜头偏移量对应的图像,所述图像中包含一个或多个特征点;
对所述图像中一个或多个特征点进行检测,并根据不同图像中所述特征点的位置,计算不同图像相对于初始时刻的图像偏移量;
构建所述不同时刻的镜头偏移量与图像偏移量的标定关系表,并根据所述标定关系表,拟合出所述镜头偏移量与所述图像偏移量的标定关系。
5.根据权利要求4所述的方法,其特征在于,所述根据所述标定关系表,拟合出所述镜头偏移量与所述图像偏移量的标定关系,包括:
根据所述标定关系表,拟合所述镜头偏移量与所述图像偏移量的OIS标定函数;
将所述不同时刻的镜头偏移量与图像偏移量作为输入参数,计算出所述OIS标定函数的参数。
6.根据权利要求1所述的方法,其特征在于,所述根据所述图像偏移量对所述关键帧图像进行校正,包括:
将所述关键帧图像的所有像素分为多个区域,以形成多个像素块;
根据所述图像偏移量对多个所述像素块进行逐一校正。
7.一种视频校正装置,其特征在于,包括:
采集模块,用于控制摄像头连续采集多帧图像,所述摄像头包括光学图像稳定系统;
第一获取模块,用于获取所述摄像头抖动时采集的每一帧所述图像的镜头偏移量;
第二获取模块,用于根据预设标定函数和所述镜头偏移量,获取与所述镜头偏移量对应的图像偏移量;
标识模块,用于对每一帧所述图像进行标识,获取多帧所述图像中的关键帧图像;
校正模块,用于根据所述图像偏移量对所述关键帧进行校正;
所述校正模块还用于根据所述图像偏移量对非关键帧图像进行校正,具体为:
获取所述图像中的连续多帧所述非关键帧图像;
采用同一个所述图像偏移量对连续多帧所述非关键帧图像进行校正。
8.一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至6中任一项所述的视频校正方法的步骤。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的方法的步骤。
CN201811291479.3A 2018-10-31 2018-10-31 视频校正方法、装置、电子设备和计算机可读存储介质 Active CN109348125B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201811291479.3A CN109348125B (zh) 2018-10-31 2018-10-31 视频校正方法、装置、电子设备和计算机可读存储介质
PCT/CN2019/106389 WO2020088134A1 (zh) 2018-10-31 2019-09-18 视频校正方法、装置、电子设备和计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811291479.3A CN109348125B (zh) 2018-10-31 2018-10-31 视频校正方法、装置、电子设备和计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN109348125A CN109348125A (zh) 2019-02-15
CN109348125B true CN109348125B (zh) 2020-02-04

Family

ID=65313120

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811291479.3A Active CN109348125B (zh) 2018-10-31 2018-10-31 视频校正方法、装置、电子设备和计算机可读存储介质

Country Status (2)

Country Link
CN (1) CN109348125B (zh)
WO (1) WO2020088134A1 (zh)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109348125B (zh) * 2018-10-31 2020-02-04 Oppo广东移动通信有限公司 视频校正方法、装置、电子设备和计算机可读存储介质
CN110363748B (zh) * 2019-06-19 2023-07-21 平安科技(深圳)有限公司 关键点的抖动处理方法、装置、介质及电子设备
CN112311734B (zh) * 2019-07-30 2022-09-02 杭州海康威视数字技术股份有限公司 一种多路视频的图像特征提取方法、电子设备及存储介质
CN110610465B (zh) * 2019-08-26 2022-05-17 Oppo广东移动通信有限公司 图像校正方法和装置、电子设备、计算机可读存储介质
CN110602386B (zh) * 2019-08-28 2021-05-14 维沃移动通信有限公司 一种视频录制方法及电子设备
CN110673115B (zh) * 2019-09-25 2021-11-23 杭州飞步科技有限公司 雷达与组合导航系统的联合标定方法、装置、设备及介质
CN111343356A (zh) * 2020-03-11 2020-06-26 Oppo广东移动通信有限公司 图像处理方法、图像处理装置、存储介质与电子设备
CN114710640B (zh) * 2020-12-29 2023-06-27 华为技术有限公司 基于虚拟形象的视频通话方法、装置和终端
CN113360804B (zh) * 2021-06-03 2024-02-27 北京百度网讯科技有限公司 界面显示方法、装置、电子设备和存储介质
CN113453070B (zh) * 2021-06-18 2023-01-03 北京灵汐科技有限公司 视频关键帧压缩方法及装置、存储介质和电子设备
CN114697469B (zh) * 2022-03-15 2024-02-06 华能大理风力发电有限公司洱源分公司 适用于光伏电站的视频处理方法、装置及电子设备
CN115115822B (zh) * 2022-06-30 2023-10-31 小米汽车科技有限公司 车端图像处理方法、装置、车辆、存储介质及芯片
CN116320784B (zh) * 2022-10-27 2023-11-28 荣耀终端有限公司 图像处理方法及装置
CN116017158B (zh) * 2023-01-31 2023-09-15 荣耀终端有限公司 一种光学防抖动的标定方法及设备
CN116341587B (zh) * 2023-05-25 2023-09-26 北京紫光青藤微系统有限公司 用于条码识别的方法及装置、条码采集设备
CN118175352A (zh) * 2024-05-13 2024-06-11 深圳市欧灵科技有限公司 视频显示调整方法、装置、设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102223545A (zh) * 2011-06-17 2011-10-19 宁波大学 一种快速多视点视频颜色校正方法
CN107925722A (zh) * 2015-11-16 2018-04-17 谷歌有限责任公司 基于加速度计数据的稳定化

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101537592B1 (ko) * 2008-09-03 2015-07-22 엘지전자 주식회사 이동단말기 및 그 제어 방법
US9374532B2 (en) * 2013-03-15 2016-06-21 Google Inc. Cascaded camera motion estimation, rolling shutter detection, and camera shake detection for video stabilization
JP5997645B2 (ja) * 2013-03-26 2016-09-28 キヤノン株式会社 画像処理装置及び方法、及び撮像装置
CN103685950A (zh) * 2013-12-06 2014-03-26 华为技术有限公司 一种视频图像防抖方法及装置
US9596411B2 (en) * 2014-08-25 2017-03-14 Apple Inc. Combined optical and electronic image stabilization
WO2017014071A1 (ja) * 2015-07-22 2017-01-26 ソニー株式会社 カメラモジュール、固体撮像素子、電子機器、および撮像方法
WO2017166002A1 (zh) * 2016-03-28 2017-10-05 深圳市大疆创新科技有限公司 无人飞行器的悬停控制方法、控制系统和无人飞行器
CN106550229A (zh) * 2016-10-18 2017-03-29 安徽协创物联网技术有限公司 一种平行全景相机阵列多视点图像校正方法
CN109348125B (zh) * 2018-10-31 2020-02-04 Oppo广东移动通信有限公司 视频校正方法、装置、电子设备和计算机可读存储介质

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102223545A (zh) * 2011-06-17 2011-10-19 宁波大学 一种快速多视点视频颜色校正方法
CN107925722A (zh) * 2015-11-16 2018-04-17 谷歌有限责任公司 基于加速度计数据的稳定化

Also Published As

Publication number Publication date
CN109348125A (zh) 2019-02-15
WO2020088134A1 (zh) 2020-05-07

Similar Documents

Publication Publication Date Title
CN109348125B (zh) 视频校正方法、装置、电子设备和计算机可读存储介质
CN108737735B (zh) 图像校正方法、电子设备及计算机可读存储介质
CN108876739B (zh) 一种图像补偿方法、电子设备及计算机可读存储介质
CN107038681B (zh) 图像虚化方法、装置、计算机可读存储介质和计算机设备
CN108388849B (zh) 调整终端的显示图像的方法和装置、电子设备、存储介质
CN109688322B (zh) 一种生成高动态范围图像的方法、装置及移动终端
US20160112701A1 (en) Video processing method, device and system
CN109086761B (zh) 图像处理方法和装置、存储介质、电子设备
CN107124556B (zh) 对焦方法、装置、计算机可读存储介质和移动终端
KR102184308B1 (ko) 이미지 합성 방법, 장치 및 비휘발성 컴퓨터 판독 가능 매체
CN104915625B (zh) 一种人脸识别的方法及装置
CN111028192B (zh) 一种图像合成方法及电子设备
CN109348212B (zh) 一种图像噪声确定方法及终端设备
CN106803863A (zh) 一种图像共享方法和终端
CN108769529B (zh) 一种图像校正方法、电子设备及计算机可读存储介质
CN106851050B (zh) 运动检测方法和装置、移动设备
CN111182206B (zh) 图像处理方法和装置
CN111147754B (zh) 图像处理方法及电子设备
CN110148167B (zh) 一种距离测量方法及终端设备
CN108449560B (zh) 一种录像方法及终端
CN107835336B (zh) 双摄像头帧同步方法、装置、用户终端及存储介质
CN110706158A (zh) 图像处理方法、图像处理装置及终端设备
CN108234867B (zh) 图像处理方法及移动终端
CN114630049A (zh) 图像补偿方法、移动终端以及图像补偿装置
CN116342844A (zh) 碰撞效果添加方法及装置、设备、存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant