CN107241544B - 视频稳像方法、装置及摄像终端 - Google Patents

视频稳像方法、装置及摄像终端 Download PDF

Info

Publication number
CN107241544B
CN107241544B CN201610183684.2A CN201610183684A CN107241544B CN 107241544 B CN107241544 B CN 107241544B CN 201610183684 A CN201610183684 A CN 201610183684A CN 107241544 B CN107241544 B CN 107241544B
Authority
CN
China
Prior art keywords
frame image
current frame
transformation matrix
gyroscope data
adjacent transformation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610183684.2A
Other languages
English (en)
Other versions
CN107241544A (zh
Inventor
孟春芝
蔡进
王浩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Exhibition Communication (tianjin) Co Ltd
Original Assignee
Exhibition Communication (tianjin) Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Exhibition Communication (tianjin) Co Ltd filed Critical Exhibition Communication (tianjin) Co Ltd
Priority to CN201610183684.2A priority Critical patent/CN107241544B/zh
Publication of CN107241544A publication Critical patent/CN107241544A/zh
Application granted granted Critical
Publication of CN107241544B publication Critical patent/CN107241544B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/56Accessories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)

Abstract

一种视频稳像方法、装置及终端,视频稳像方法用于摄像终端,所述摄像终端包括陀螺仪;所述视频稳像方法包括:在拍摄图像时一并获取所述陀螺仪的陀螺仪数据,所述陀螺仪数据分别对应于各帧图像;当所述陀螺仪数据表明所述摄像终端抖动时,提取当前帧图像的特征点;基于所述当前帧图像的特征点的数量,采用所述当前帧图像对应的所述陀螺仪数据以及前帧图像对应的所述陀螺仪数据,或采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标,计算相邻变换矩阵,所述前帧图像为所述当前帧图像的上一帧图像;根据所述相邻变换矩阵对所述当前帧图像进行转换。本发明技术方案提高了视频稳像的准确性。

Description

视频稳像方法、装置及摄像终端
技术领域
本发明涉及图像处理技术领域,尤其涉及一种视频稳像方法、装置及摄像终端。
背景技术
当今社会,视频文件随处可见,随处可拍。在拍照或者拍摄视频的过程中,由于拍摄者手的抖动,使得摄像机会产生一定的随机抖动。由此,造成视频的各帧图像之间出现不规则的移动,导致视频图像出现失真,画面质量差而对于智能视频分析算法来说,视频画面的抖动,会造成分析结果产生较大的偏差。因此,有必要采取一定的技术对视频文件进行“维稳”。视频稳像(也称之为电子稳像)是对随机抖动或随机运动的摄像机所获取的动态图像序列进行重新修改,排列,使其在显示器上更加平稳地显示的技术。可以消除或减弱图像序列之间的不规则的平移、旋转、缩放等失真情况,改善了画面的质量,从而使得画面更加适合于智能视频分析中的目标检测、跟踪和识别等处理操作。
现有技术中,为了达到图像内容对齐、减少视频抖动的目的,通常需要对图像进行某种矩阵变换。通过变换矩阵将一幅图像向另一幅图像对齐,两幅图像之间会发生平移、旋转、透视等变换。例如,在视频稳像操作中,通过计算出每帧图像的校正矩阵(例如,透视变换),然后对该帧图像进行相应的矩阵变换以达到视频稳像的目的。基于图像内容的防抖方法不依赖手机的其他硬件设备,较易实现。最早期的稳像技术,多采用机械式来进行操作。采用陀螺传感器和伺服系统构成稳定平台来进行补偿基座上的摄像系统的相对运动来实现稳像。利用光学系统中的部分元件的补偿运动来实现图像的稳定,以及基于陀螺仪的防抖方法根据陀螺仪传感器三轴的旋转角度判断相机的旋转角度,该方法不需要进行大量的计算。
但是,基于图像内容的防抖方法对图像场景有较强的依赖性,当场景过曝、欠曝、内容单一、运动目标在场景中占据较大比例时,都会影响其变换矩阵的计算,进而影响稳像的性能;基于陀螺仪的防抖方法需要陀螺仪数据与视频帧数据精确匹配,对陀螺仪的稳定性能及系统的性能都有较高的要求。一旦陀螺仪数据出现错误,就会导致稳像结果错误。
发明内容
本发明解决的技术问题是如何提高视频稳像的准确性。
为解决上述技术问题,本发明实施例提供一种视频稳像方法,用于摄像终端,所述摄像终端包括陀螺仪;所述视频稳像方法包括:在拍摄图像时一并获取所述陀螺仪的陀螺仪数据,所述陀螺仪数据分别对应于各帧图像;当所述陀螺仪数据表明所述摄像终端抖动时,提取当前帧图像的特征点;基于所述当前帧图像的特征点的数量,采用所述当前帧图像对应的所述陀螺仪数据以及前帧图像对应的所述陀螺仪数据,或采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标,计算相邻变换矩阵,所述前帧图像为所述当前帧图像的上一帧图像;根据所述相邻变换矩阵对所述当前帧图像进行转换。
可选的,基于所述当前帧图像的特征点的数量,采用所述当前帧图像对应的所述陀螺仪数据以及前帧图像对应的所述陀螺仪数据,或采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标,计算相邻变换矩阵包括:所述特征点的数量达到设定值时,采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标计算第一相邻变换矩阵;否则,采用所述当前帧图像对应的所述陀螺仪数据以及所述前帧图像对应的所述陀螺仪数据计算第二相邻变换矩阵;所述相邻变换矩阵为所述第一相邻变换矩阵或所述第二相邻变换矩阵。
可选的,所述特征点的数量达到所述设定值时,视频稳像方法还包括:根据所述第一相邻变换矩阵对所述陀螺仪数据与所述当前帧图像在时间上的对应关系进行调整。
可选的,根据所述第一相邻变换矩阵对所述陀螺仪数据与所述当前帧图像在时间上的对应关系进行调整包括:以所述当前帧图像的当前帧时间为基准,利用在所述当前帧时间的预设延迟时间范围内的所述陀螺仪数据,迭代计算所述第二相邻变换矩阵,直至所述第二相邻变换矩阵与所述第一相邻变换矩阵的差值最小,确定校正陀螺仪数据;计算所述校正陀螺仪数据对应的时间与所述当前帧时间的差值,并更新为所述陀螺仪数据与所述当前帧图像的延迟时间。
可选的,所述特征点的数量达到设定值时,采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标计算第一相邻变换矩阵包括:将所述当前帧图像的特征点与所述前帧图像的特征点进行匹配;按照匹配后所述特征点坐标的关系计算所述第一相邻变换矩阵。
可选的,计算所述第二相邻变换矩阵的公式为:其中,Tg为所述第二相邻变换矩阵,f为焦距,ωx为所述陀螺仪数据中包含的角速度沿x轴方向的分量,ωy为所述角速度沿y轴方向的分量,Δt为所述当前帧图像与所述前帧图像的时间差。
可选的,所述视频稳像方法还包括:当所述陀螺仪数据表明所述摄像终端未抖动时,所述相邻变换矩阵为单位阵。
为解决上述技术问题,本发明实施例还公开了一种视频稳像装置,视频稳像装置用于摄像终端,所述摄像终端包括陀螺仪,视频稳像装置包括:采集单元,适于在拍摄图像时一并获取所述陀螺仪的陀螺仪数据,所述陀螺仪数据分别对应于各帧图像;提取单元,适于在所述陀螺仪数据表明所述摄像终端抖动时,提取当前帧图像的特征点;计算单元,适于基于所述当前帧图像的特征点的数量,采用所述当前帧图像对应的所述陀螺仪数据以及前帧图像对应的所述陀螺仪数据,或采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标,计算相邻变换矩阵,所述前帧图像为所述当前帧图像的上一帧图像;转换单元,适于根据所述相邻变换矩阵对所述当前帧图像进行转换。
可选的,所述计算单元包括:第一计算子单元,适于在所述特征点的数量达到设定值时,采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标计算第一相邻变换矩阵,所述相邻变换矩阵为所述第一相邻变换矩阵;第二计算子单元,适于在所述特征点的数量未达到设定值时,采用所述当前帧图像对应的所述陀螺仪数据以及所述前帧图像对应的所述陀螺仪数据计算第二相邻变换矩阵,所述相邻变换矩阵为所述第二相邻变换矩阵。
可选的,所述视频稳像装置还包括:调整单元,适于在所述特征点的数量达到设定值时,根据所述第一相邻变换矩阵对所述陀螺仪数据与所述当前帧图像在时间上的对应关系进行调整。
可选的,所述调整单元包括:确定子单元,适于以所述当前帧图像的当前帧时间为基准,利用在所述当前帧时间的预设延迟时间范围内的所述陀螺仪数据,迭代计算所述第二相邻变换矩阵,直至所述第二相邻变换矩阵与所述第一相邻变换矩阵的差值最小,确定校正陀螺仪数据;更新子单元,适于计算所述校正陀螺仪数据对应的时间与所述当前帧时间的差值,并更新为所述陀螺仪数据与所述当前帧图像的延迟时间。
可选的,所述第一转换子单元包括:匹配子单元,适于将所述当前帧图像的特征点与所述前帧图像的特征点进行匹配;矩阵计算子单元,适于按照匹配后所述特征点坐标的关系计算所述第一相邻变换矩阵。
可选的,计算所述第二相邻变换矩阵的公式为:其中,Tg为所述第二相邻变换矩阵,f为焦距,ωx为所述陀螺仪数据中包含的角速度沿x轴方向的分量,ωy为所述角速度沿y轴方向的分量,Δt为所述当前帧图像与所述前帧图像的时间差。
可选的,所述视频稳像装置还包括:当所述陀螺仪数据表明所述摄像终端未抖动时,所述相邻变换矩阵为单位阵。
为解决上述技术问题,本发明实施例还公开了一种摄像终端,终端包括陀螺仪,终端还包括所述视频稳像装置。
与现有技术相比,本发明实施例的技术方案具有以下有益效果:
本发明通过在拍摄图像时一并获取所述陀螺仪的陀螺仪数据,所述陀螺仪数据分别对应于各帧图像;当所述陀螺仪数据表明所述摄像终端抖动时,提取当前帧图像的特征点,根据陀螺仪数据确定摄像终端的运动情况;基于所述当前帧图像的特征点的数量,采用所述当前帧图像对应的所述陀螺仪数据以及前帧图像对应的所述陀螺仪数据,或采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标,计算相邻变换矩阵,所述前帧图像为所述当前帧图像的上一帧图像;根据所述相邻变换矩阵对所述当前帧图像进行转换。通过在基于视频帧图像特征点计算相邻变换矩阵的同时,结合陀螺仪数据计算相邻变换矩阵,并基于当前帧图像的特征点的数量选择至少一种上述计算方式,提高了视频稳像的准确性以及视频稳像的效果。
进一步,所述特征点的数量达到所述设定值时,根据所述第一相邻变换矩阵对所述陀螺仪数据与所述当前帧图像在时间上的对应关系进行调整,利用第一相邻变换矩阵对陀螺仪数据的时间进行校正,确保了陀螺仪数据的稳定性,进一步提高了视频稳像的准确性。
附图说明
图1是本发明实施例一种视频稳像方法的流程图;
图2是本发明实施例另一种视频稳像方法的流程图;
图3是本发明实施例一种视频稳像装置的结构示意图;
图4是本发明实施例另一种视频稳像装置的结构示意图。
具体实施方式
如背景技术中所述,基于图像内容的防抖方法对图像场景有较强的依赖性,当场景过曝、欠曝、内容单一、运动目标在场景中占据较大比例时,都会影响其变换矩阵的计算,进而影响稳像的性能;基于陀螺仪的防抖方法需要陀螺仪数据与视频帧数据精确匹配,对陀螺仪的稳定性能及系统的性能都有较高的要求。一旦陀螺仪数据出现错误,就会导致稳像结果错误。
本发明实施例根据陀螺仪数据确定当前摄像终端的运动情况,判定当前帧图像的特征点的数量,选择基于视频帧图像特征点计算相邻变换矩阵或陀螺仪数据计算相邻变换矩阵,对基于视频帧图像特征点坐标不能处理的情况进行辅助处理,克服了基于特征点的稳像处理中对场景内容依赖程度高的缺点。同时,通过利用特征点计算出的相邻变换矩阵对陀螺仪数据进行校正,保证了陀螺仪数据的准确性,从而达到了相对于现有技术较好的视频稳像效果。
本发明实施例所称视频表示包括多帧或多张图像,多帧或多张图像可以在时间或内容上相互关联,例如在时间上顺序排布。
为使本发明的上述目的、特征和优点能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。
图1是本发明实施例一种视频稳像方法的流程图。下面结合图1对本发明实施例的所述视频稳像方法做详细的说明。
本发明实施例的视频稳像方法用于摄像终端,所述摄像终端包括陀螺仪,陀螺仪是角速度传感器的一种,可以用于测量的物理量是终端偏转、倾斜时的转动角速度,也就是说,陀螺仪输出的陀螺仪数据可以表示摄像终端的运动信息。
步骤S101:在拍摄图像时一并获取所述陀螺仪的陀螺仪数据。其中,所述陀螺仪数据分别对应于各帧图像。
本实施例中,所述陀螺仪数据与各帧图像在时间上相对应,陀螺仪数据的时间与各帧图像的时间可以相同,也可以不同。
可以理解的是,可以在拍摄图像的同时一并获取所述陀螺仪数据,也可以在图像拍摄完成后获取所述陀螺仪数据。所述陀螺仪数据可以是终端转动时的角速度,也可以是终端转动时的角度信息。
步骤S102:当所述陀螺仪数据表明所述摄像终端抖动时,提取当前帧图像的特征点。
本实施例中,陀螺仪数据表明所述摄像终端的运动信息为抖动时,提取当前帧图像的特征点。也就是说,在摄像终端抖动时,当前帧图像与相邻帧图像之间发生不规则的平移,故提取当前帧图像的特征点,以便进行后续处理。
具体实施中,提取当前帧图像的特征点可以包括:通过分析当前帧图像,将当前帧图像进行区域分割;在分割得到的每个区域内提取图像中具有代表性的特征像素点,作为特征点。例如,可以采用尺度不变特征转换(Scale-Invariant Feature Transform,SIFT),侦测当前帧图像中的局部性特征,在空间尺度中寻找极值点,并提取出其位置、尺度、旋转不变量;或者采用加速鲁棒性(Speed Up Robust Feature,SURF)算法,对当前帧图像卷积或基于海赛矩阵(Hessian),提取当前帧图像的特征点。
可以理解的是,提取图像特征点的方式可以采用任意可实施的算法,本发明实施例对此不做限制。
具体实施中,当所述陀螺仪数据表明所述摄像终端未抖动时,所述相邻变换矩阵为单位阵。也就是说,利用单位阵对前一帧图像进行变换(例如,将二者相乘),从而得到当前帧图像,由于变换矩阵为单位阵,因此当前帧图像与前一帧图像相同,也即保持不变。
步骤S103:基于所述当前帧图像的特征点的数量,采用所述当前帧图像对应的所述陀螺仪数据以及前帧图像对应的所述陀螺仪数据,或采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标,计算相邻变换矩阵,所述前帧图像为所述当前帧图像的上一帧图像。
具体实施中,经步骤S102,得到当前帧图像的特征点的位置信息和数量信息,其中,特征点的位置信息可以用特征点坐标表示。所述特征点的数量达到设定值时,采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标计算第一相邻变换矩阵,所述相邻变换矩阵为所述第一相邻变换矩阵;否则,所述特征点的数量未达到设定值时,也就是说,当前帧图像的内容单一,例如,处于过曝或欠曝的状态;此时,采用所述当前帧图像对应的所述陀螺仪数据以及所述前帧图像对应的所述陀螺仪数据计算第二相邻变换矩阵;所述相邻变换矩阵为所述第二相邻变换矩阵。
例如,所述设定值可以采用如下方式设定:将当前帧图像划分为3x3的九宫格区域,当每个九宫格区域内特征点的数量少于预设阈值(例如10个),则记为无效区域;九宫格区域包括的无效区域超过预设上限(例如3个)时,则视为当前帧图像的内容单一,也就是特征点的数量未达到设定值。
可以理解的是,所述设定值、预设阈值及预设上限可以根据实际的应用环境进行适应性的调整,本发明实施例对此不做限制。
具体实施中,所述特征点的数量达到设定值时,将所述当前帧图像的特征点与所述前帧图像的特征点进行匹配;按照匹配后所述特征点坐标的关系计算所述第一相邻变换矩阵。
具体实施中,陀螺仪数据中包含的角速度包括在x轴、y轴和z轴方向的分量。所述特征点的数量未达到设定值时,计算所述第二相邻变换矩阵的公式为:其中,Tg为所述第二相邻变换矩阵,f为摄像终端的焦距,ωx为所述陀螺仪数据中包含的角速度沿x轴方向的分量,ωy为所述角速度沿y轴方向的分量,Δt为所述当前帧图像与所述前帧图像的时间差。
需要说明的是,相邻变换矩阵为所述当前帧图像和与其相邻的所述前帧图像之间的变换矩阵,也可以是当前帧图像和与其相邻的后一帧图像之间的变换矩阵。
步骤S104:根据所述相邻变换矩阵对所述当前帧图像进行转换。
本实施例中,经步骤S103,得到当前帧图像和与其相邻的所述前帧图像之间的相邻变换矩阵。基于相邻变换矩阵对所述当前帧图像进行转换和校正,从而达到稳像的效果。
具体实施中,视频可以包括多帧图像,故周期性执行所述视频稳像方法的上述步骤,得到对应多帧图像的多个相邻变换矩阵。利用多个相邻变换矩阵对视频进行校正,得到稳像后的视频。具体地,对于当前帧图像之前的多个相邻变换矩阵,将其累积相乘后得到观测累积变换矩阵,对观测累积变换矩阵进行滤波平滑处理,得到意向累积变换矩阵,采用上述观测累积变换矩阵和意向累积变换矩阵对当前帧图像进行转换,得到稳像后的当前帧图像。通过对视频的各帧图像进行上述步骤,实现了对视频的稳像处理,提高了视频稳像的准确性以及视频稳像的效果。
例如,对于第n帧图像Xn,其与多个相邻变换矩阵进行转换的公式为:其中,Tn表示第n-1帧到n帧的相邻变换矩阵,为第1帧到第n帧的观测累积变换矩阵,观测累积变换矩阵可以表示摄像终端的运动轨迹,X1,…Xn-2,Xn-1,Xn表示视频帧图像。对观测累积变换矩阵进行滤波平滑处理后,公式为:也可以表示为:其中,为第1帧到第n帧的意向累积变换矩阵,即对观测累积变换矩阵进行滤波平滑的结果,表示第n帧图像Xn稳像后的图像,表示观测累积变换矩阵的逆矩阵,其中平滑滤波可以采用现有技术中适当的算法进行处理。
本发明实施例根据陀螺仪数据确定当前摄像终端的运动情况,判定当前帧图像的特征点的数量,选择基于视频帧图像特征点计算相邻变换矩阵或陀螺仪数据计算相邻变换矩阵,对基于视频帧图像特征点坐标不能处理的情况进行辅助处理,克服了基于特征点的稳像处理中对场景内容依赖程度高的缺点,达到了相对于现有技术较好的视频稳像效果。
图2是本发明实施例另一种视频稳像方法的流程图。下面结合图2对本发明实施例的所述视频稳像方法做详细的说明。
步骤S201:在拍摄图像时一并获取所述陀螺仪的陀螺仪数据。
步骤S202:判断陀螺仪数据是否表明摄像终端抖动,如果是,进入步骤S203,否则,进入步骤S204。
步骤S203:提取当前帧图像的特征点。
步骤S204:相邻变换矩阵为单位阵。
具体实施中,陀螺仪数据表明所述摄像终端的运动信息为抖动时,提取当前帧图像的特征点。也就是说,在摄像终端抖动时,当前帧图像与相邻帧图像之间发生不规则的平移,故提取当前帧图像的特征点,以便进行后续处理。否则,当所述陀螺仪数据表明所述摄像终端未抖动时,所述相邻变换矩阵为单位阵。也就是说,将当前帧图像与其前一帧图像之间的变换为单位变换。
步骤S205:判断特征点的数量是达到设定值,如果是,进入步骤S206,否则,进入步骤S207。
步骤S206:采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标计算第一相邻变换矩阵。
具体实施中,所述特征点的数量达到设定值时,将所述当前帧图像的特征点与所述前帧图像的特征点进行匹配;按照匹配后所述特征点坐标的关系计算所述第一相邻变换矩阵。
步骤S207:采用所述当前帧图像对应的所述陀螺仪数据以及所述前帧图像对应的所述陀螺仪数据计算第二相邻变换矩阵。
具体实施中,所述特征点的数量未达到设定值时,计算所述第二相邻变换矩阵的公式为:其中,Tg为所述第二相邻变换矩阵,f为摄像终端的焦距,ωx为所述陀螺仪数据中包含的角速度沿x轴方向的分量,ωy为所述角速度沿y轴方向的分量,Δt为所述当前帧图像与所述前帧图像之间的时间差。
步骤S208:根据所述第一相邻变换矩阵对所述陀螺仪数据与所述当前帧图像在时间上的对应关系进行调整。
具体实施中,陀螺仪数据时间与当前帧图像的当前帧时间可以相同,也可以不同。例如,当陀螺仪数据为角速度时,理想情况下,角速度时间与当前帧图像时间t一致,也就是说,角速度ω(t+td)对应的角速度时间t+td中,延迟时间td的值为0。但是,由于外部环境的影响,例如可以是终端内部软件响应的延时,导致延迟时间td的值通常不为0,且延迟时间td的值通常会实时变化,导致陀螺仪数据的稳定性差。由此,可以对所述陀螺仪数据与所述当前帧图像在时间上的对应关系进行调整,也就是说,对延迟时间td的值进行校正。
具体实施中,以所述当前帧图像的当前帧时间为基准,利用在所述当前帧时间的预设延迟时间范围内的所述陀螺仪数据,迭代计算所述第二相邻变换矩阵,直至所述第二相邻变换矩阵与所述第一相邻变换矩阵的差值最小,确定校正陀螺仪数据;计算所述校正陀螺仪数据对应的时间与所述当前帧时间的差值,并更新为所述陀螺仪数据与所述当前帧图像的延迟时间。
例如,以当前帧时间t为基准,在当前帧时间的预设延迟时间范围(-5ms~5ms)内,对应的角速度范围为(ω(t-5ms)~ω(t+5ms)),将此范围内的角速度代入公式其中,J为第一相邻变换矩阵与第二相邻变换矩阵之差,Tf为所述第一相邻变换矩阵,Tg为所述第二相邻变换矩阵,f为摄像终端的焦距,ωx(t+td)为所述陀螺仪数据中包含的角速度沿x轴方向的分量,ωy(t+td)为所述角速度沿y轴方向的分量,Δt为所述当前帧图像与所述前帧图像的时间差。在得到的多个J中,根据取值最小的J,确定对应的角速度ω(t+t0),此时采用的t0即为所述延迟时间,并用此时的延迟时间t0更新陀螺仪的延迟时间td,在后续步骤中利用陀螺仪数据时,均采用延迟时间t0,直至延迟时间的下一次更新。
具体地,每次计算第一相邻变换矩阵后,对所述陀螺仪数据与所述当前帧图像在时间上的对应关系进行调整和校正,直至下一次计算第一相邻变换矩阵。
可以理解的是,所述预设延迟时间范围可以根据实际应用环境进行适应性的调整,本发明实施例对此不做限制。
本发明实施例通过利用特征点计算出的相邻变换矩阵,对陀螺仪数据进行校正,保证了陀螺仪数据的准确性,从而达到了相对于现有技术较好的视频稳像效果。
步骤S209:根据所述相邻变换矩阵对所述当前帧图像进行转换。
具体实施中,视频包括多帧图像,故周期性执行所述视频稳像方法的上述步骤,得到对应多帧图像的多个相邻变换矩阵。利用多个相邻变换矩阵对视频进行校正,得到稳像后的视频。具体地,对于当前帧图像之前的多个相邻变换矩阵,将其累积相乘后得到观测累积变换矩阵,对观测累积变换矩阵进行滤波平滑处理,得到意向累积变换矩阵,采用上述观测累积变换矩阵和意向累积变换矩阵对当前帧图像进行转换,得到稳像后的当前帧图像。通过对视频的各帧图像进行上述步骤,实现了对视频的稳像处理,提高了视频稳像的准确性以及视频稳像的效果。
本发明实施例的具体实施方式可参照前述相应实施例,此处不再赘述。
图3是本发明实施例一种视频稳像装置的结构示意图。下面结合图3对本发明实施例的所述视频稳像装置做详细的说明。
所述视频稳像装置包括:采集单元301、提取单元302、计算单元303和转换单元304。
采集单元301适于在拍摄图像时一并获取所述陀螺仪的陀螺仪数据,所述陀螺仪数据分别对应于各帧图像;提取单元302适于在所述陀螺仪数据表明所述摄像终端抖动时,提取当前帧图像的特征点。
计算单元303适于基于所述当前帧图像的特征点的数量,采用所述当前帧图像对应的所述陀螺仪数据以及前帧图像对应的所述陀螺仪数据,或采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标,计算相邻变换矩阵,所述前帧图像为所述当前帧图像的上一帧图像。
具体实施中,所述特征点的数量达到设定值时,将所述当前帧图像的特征点与所述前帧图像的特征点进行匹配;按照匹配后所述特征点坐标的关系计算所述第一相邻变换矩阵。所述特征点的数量未达到设定值时,计算所述第二相邻变换矩阵的公式为:其中,Tg为所述第二相邻变换矩阵,f为摄像终端的焦距,ωx为所述陀螺仪数据中包含的角速度沿x轴方向的分量,ωy为所述角速度沿y轴方向的分量,Δt为所述当前帧图像与所述前帧图像的时间差。
需要说明的是,相邻变换矩阵为所述当前帧图像和与其相邻的所述前帧图像之间的变换矩阵,也可以是当前帧图像和与其相邻的后一帧图像之间的变换矩阵。
转换单元304适于根据所述相邻变换矩阵对所述当前帧图像进行转换。经计算单元303,得到当前帧图像和与其相邻的所述前帧图像之间的相邻变换矩阵。转换单元304基于相邻变换矩阵对所述当前帧图像进行转换和校正,从而达到稳像的效果。
本发明实施例的具体实施方式可参照前述相应实施例,此处不再赘述。
图4是本发明实施例另一种视频稳像装置的结构示意图。下面结合图4对本发明实施例的所述视频稳像装置做详细的说明。
所述视频稳像装置包括:采集单元301、提取单元302、计算单元303、第一计算单元401、第二计算单元402、转换单元304、调整单元403、确定子单元404和更新子单元405。
采集单元301适于在拍摄图像时一并获取所述陀螺仪的陀螺仪数据,所述陀螺仪数据分别对应于各帧图像;提取单元302适于在所述陀螺仪数据表明所述摄像终端抖动时,提取当前帧图像的特征点。
本实施例中,计算单元303可以包括第一计算单元401和第二计算单元402。第一计算子单元401适于在所述特征点的数量达到设定值时,采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标计算第一相邻变换矩阵,所述相邻变换矩阵为所述第一相邻变换矩阵;第二计算子单元402适于在所述特征点的数量未达到设定值时,采用所述当前帧图像对应的所述陀螺仪数据以及所述前帧图像对应的所述陀螺仪数据计算第二相邻变换矩阵,所述相邻变换矩阵为所述第二相邻变换矩阵。
本实施例中,调整单元403可以包括确定子单元404和更新子单元405。确定子单元404适于以所述当前帧图像的当前帧时间为基准,利用在所述当前帧时间的预设延迟时间范围内的所述陀螺仪数据,迭代计算所述第二相邻变换矩阵,直至所述第二相邻变换矩阵与所述第一相邻变换矩阵的差值最小,确定校正陀螺仪数据;更新子单元405适于计算所述校正陀螺仪数据对应的时间与所述当前帧时间的差值,并更新为所述陀螺仪数据与所述当前帧图像的延迟时间。
本发明实施例通过利用特征点计算出的相邻变换矩阵对陀螺仪数据进行校正,保证了陀螺仪数据的准确性,从而达到了相对于现有技术较好的视频稳像效果。
本发明实施例的具体实施方式可参照图3及其相应所述实施例,此处不再赘述。
本发明实施例还公开了一种摄像终端,所述终端包括陀螺仪和所述视频稳像装置。所述终端可以是计算机、手机、PAD等,可以支持配置所述视频稳像装置,执行所述视频稳像方法。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于以计算机可读存储介质中,存储介质可以包括:ROM、RAM、磁盘或光盘等。
虽然本发明披露如上,但本发明并非限定于此。任何本领域技术人员,在不脱离本发明的精神和范围内,均可作各种更动与修改,因此本发明的保护范围应当以权利要求所限定的范围为准。

Claims (11)

1.一种视频稳像方法,用于摄像终端,所述摄像终端包括陀螺仪;其特征在于,所述视频稳像方法包括:
在拍摄图像时一并获取所述陀螺仪的陀螺仪数据,所述陀螺仪数据分别对应于各帧图像;
当所述陀螺仪数据表明所述摄像终端抖动时,提取当前帧图像的特征点;
基于所述当前帧图像的特征点的数量,采用所述当前帧图像对应的所述陀螺仪数据以及前帧图像对应的所述陀螺仪数据,或采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标,计算相邻变换矩阵,所述前帧图像为所述当前帧图像的上一帧图像;
根据所述相邻变换矩阵对所述当前帧图像进行转换;
基于所述当前帧图像的特征点的数量,采用所述当前帧图像对应的所述陀螺仪数据以及前帧图像对应的所述陀螺仪数据,或采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标,计算相邻变换矩阵包括:
所述特征点的数量达到设定值时,采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标计算第一相邻变换矩阵,所述相邻变换矩阵为所述第一相邻变换矩阵;否则,采用所述当前帧图像对应的所述陀螺仪数据以及所述前帧图像对应的所述陀螺仪数据计算第二相邻变换矩阵;所述相邻变换矩阵为所述第二相邻变换矩阵;
所述特征点的数量达到所述设定值时,还包括:
根据所述第一相邻变换矩阵对所述陀螺仪数据与所述当前帧图像在时间上的对应关系进行调整。
2.根据权利要求1所述的视频稳像方法,其特征在于,根据所述第一相邻变换矩阵对所述陀螺仪数据与所述当前帧图像在时间上的对应关系进行调整包括:
以所述当前帧图像的当前帧时间为基准,利用在所述当前帧时间的预设延迟时间范围内的所述陀螺仪数据,迭代计算所述第二相邻变换矩阵,直至所述第二相邻变换矩阵与所述第一相邻变换矩阵的差值最小,确定校正陀螺仪数据;
计算所述校正陀螺仪数据对应的时间与所述当前帧时间的差值,并更新为所述陀螺仪数据与所述当前帧图像的延迟时间。
3.根据权利要求1所述的视频稳像方法,其特征在于,所述特征点的数量达到设定值时,采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标计算第一相邻变换矩阵包括:
将所述当前帧图像的特征点与所述前帧图像的特征点进行匹配;
按照匹配后所述特征点坐标的关系计算所述第一相邻变换矩阵。
4.根据权利要求1所述的视频稳像方法,其特征在于,计算所述第二相邻变换矩阵的公式为:其中,Tg为所述第二相邻变换矩阵,f为焦距,ωx为所述陀螺仪数据中包含的角速度沿x轴方向的分量,ωy为所述角速度沿y轴方向的分量,Δt为所述当前帧图像与所述前帧图像的时间差。
5.根据权利要求1所述的视频稳像方法,其特征在于,还包括:
当所述陀螺仪数据表明所述摄像终端未抖动时,所述相邻变换矩阵为单位阵。
6.一种视频稳像装置,用于摄像终端,所述摄像终端包括陀螺仪,其特征在于,包括:
采集单元,适于在拍摄图像时一并获取所述陀螺仪的陀螺仪数据,所述陀螺仪数据分别对应于各帧图像;
提取单元,适于在所述陀螺仪数据表明所述摄像终端抖动时,提取当前帧图像的特征点;
计算单元,适于基于所述当前帧图像的特征点的数量,采用所述当前帧图像对应的所述陀螺仪数据以及前帧图像对应的所述陀螺仪数据,或采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标,计算相邻变换矩阵,所述前帧图像为所述当前帧图像的上一帧图像;
转换单元,适于根据所述相邻变换矩阵对所述当前帧图像进行转换;
所述计算单元包括:
第一计算子单元,适于在所述特征点的数量达到设定值时,采用所述当前帧图像的特征点坐标与所述前帧图像的特征点坐标计算第一相邻变换矩阵,所述相邻变换矩阵为所述第一相邻变换矩阵;
第二计算子单元,适于在所述特征点的数量未达到设定值时,采用所述当前帧图像对应的所述陀螺仪数据以及所述前帧图像对应的所述陀螺仪数据计算第二相邻变换矩阵,所述相邻变换矩阵为所述第二相邻变换矩阵;
调整单元,适于在所述特征点的数量达到设定值时,根据所述第一相邻变换矩阵对所述陀螺仪数据与所述当前帧图像在时间上的对应关系进行调整。
7.根据权利要求6所述的视频稳像装置,其特征在于,所述调整单元包括:
确定子单元,适于以所述当前帧图像的当前帧时间为基准,利用在所述当前帧时间的预设延迟时间范围内的所述陀螺仪数据,迭代计算所述第二相邻变换矩阵,直至所述第二相邻变换矩阵与所述第一相邻变换矩阵的差值最小,确定校正陀螺仪数据;
更新子单元,适于计算所述校正陀螺仪数据对应的时间与所述当前帧时间的差值,并更新为所述陀螺仪数据与所述当前帧图像的延迟时间。
8.根据权利要求6所述的视频稳像装置,其特征在于,所述第一计算子单元包括:
匹配子单元,适于将所述当前帧图像的特征点与所述前帧图像的特征点进行匹配;
矩阵计算子单元,适于按照匹配后所述特征点坐标的关系计算所述第一相邻变换矩阵。
9.根据权利要求6所述的视频稳像装置,其特征在于,计算所述第二相邻变换矩阵的公式为:其中,Tg为所述第二相邻变换矩阵,f为焦距,ωx为所述陀螺仪数据中包含的角速度沿x轴方向的分量,ωy为所述角速度沿y轴方向的分量,Δt为所述当前帧图像与所述前帧图像的时间差。
10.根据权利要求6所述的视频稳像装置,其特征在于,还包括:
当所述陀螺仪数据表明所述摄像终端未抖动时,所述相邻变换矩阵为单位阵。
11.一种摄像终端,包括陀螺仪,其特征在于,还包括如权利要求6至10任一项所述的视频稳像装置。
CN201610183684.2A 2016-03-28 2016-03-28 视频稳像方法、装置及摄像终端 Active CN107241544B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610183684.2A CN107241544B (zh) 2016-03-28 2016-03-28 视频稳像方法、装置及摄像终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610183684.2A CN107241544B (zh) 2016-03-28 2016-03-28 视频稳像方法、装置及摄像终端

Publications (2)

Publication Number Publication Date
CN107241544A CN107241544A (zh) 2017-10-10
CN107241544B true CN107241544B (zh) 2019-11-26

Family

ID=59983567

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610183684.2A Active CN107241544B (zh) 2016-03-28 2016-03-28 视频稳像方法、装置及摄像终端

Country Status (1)

Country Link
CN (1) CN107241544B (zh)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019084933A1 (zh) * 2017-11-03 2019-05-09 深圳市柔宇科技有限公司 图像消抖方法、装置、终端及计算机可读存储介质
CN108600622B (zh) * 2018-04-12 2021-12-24 联想(北京)有限公司 一种视频防抖的方法及装置
CN109089015B (zh) * 2018-09-19 2020-12-22 厦门美图之家科技有限公司 视频防抖显示方法及装置
CN109793576B (zh) * 2018-12-10 2021-09-28 湖北得康科技有限公司 一种智能可视装置及可视手术器械
WO2020132917A1 (en) * 2018-12-26 2020-07-02 Huawei Technologies Co., Ltd. Imaging device, image stabilization device, imaging method and image stabilization method
CN109751986A (zh) * 2019-01-25 2019-05-14 重庆予胜远升网络科技有限公司 一种根据管网属性数据生成ar图像的处理系统及方法
CN110519507B (zh) 2019-07-23 2021-03-19 影石创新科技股份有限公司 一种相机镜头平滑处理方法、装置及便携式终端
CN112396639A (zh) * 2019-08-19 2021-02-23 虹软科技股份有限公司 图像对齐方法
CN110430365B (zh) * 2019-08-26 2021-10-01 Oppo广东移动通信有限公司 防抖方法、装置、计算机设备和存储介质
CN112866556A (zh) * 2019-11-28 2021-05-28 南京理工大学 基于陀螺仪和特征点匹配的稳像方法及系统
WO2021119982A1 (zh) * 2019-12-17 2021-06-24 深圳市大疆创新科技有限公司 图像传输系统及方法、控制装置、可移动平台
CN113923340B (zh) * 2020-07-09 2023-12-29 武汉Tcl集团工业研究院有限公司 一种视频处理方法、终端以及存储介质
CN112738398B (zh) * 2020-12-29 2023-02-17 维沃移动通信(杭州)有限公司 一种图像防抖方法、装置和电子设备
WO2022227040A1 (zh) * 2021-04-30 2022-11-03 深圳市大疆创新科技有限公司 视频增稳方法、成像装置、手持云台、可移动平台及存储介质
CN113556464B (zh) * 2021-05-24 2023-02-03 维沃移动通信有限公司 拍摄方法、装置及电子设备
CN113436349B (zh) * 2021-06-28 2023-05-16 展讯通信(天津)有限公司 一种3d背景替换方法、装置、存储介质和终端设备
CN113660420B (zh) * 2021-08-16 2023-06-02 维沃移动通信有限公司 视频帧处理方法和视频帧处理装置
CN115546043B (zh) * 2022-03-31 2023-08-18 荣耀终端有限公司 视频处理方法及其相关设备
CN115546042B (zh) * 2022-03-31 2023-09-29 荣耀终端有限公司 视频处理方法及其相关设备
CN116797497B (zh) * 2023-08-24 2023-11-14 摩尔线程智能科技(北京)有限责任公司 一种图像处理方法、装置、设备及存储介质

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1571475A (zh) * 2004-05-10 2005-01-26 东南大学 摄像机图像增稳方法及其辅助装置
CN101630107A (zh) * 2008-07-15 2010-01-20 佳能株式会社 图像稳定控制设备和摄像设备
CN102025919A (zh) * 2010-11-17 2011-04-20 无锡中星微电子有限公司 图像闪烁检测方法和装置以及应用此装置的摄像头
CN102790847A (zh) * 2011-05-18 2012-11-21 宾得理光映像有限公司 图像稳定系统及数码相机
CN103051836A (zh) * 2012-12-14 2013-04-17 中兴通讯股份有限公司 移动终端防抖动拍照方法和装置
CN103679636A (zh) * 2013-12-23 2014-03-26 江苏物联网研究发展中心 基于点、线双重特征的快速图像拼接方法
CN104135598A (zh) * 2014-07-09 2014-11-05 清华大学深圳研究生院 一种视频图像稳定方法及装置
CN104796596A (zh) * 2014-01-20 2015-07-22 联想(北京)有限公司 一种信息处理方法及电子设备
CN104811588A (zh) * 2015-04-10 2015-07-29 浙江工业大学 一种基于陀螺仪的船载稳像控制方法
CN104902142A (zh) * 2015-05-29 2015-09-09 华中科技大学 一种移动终端视频的电子稳像方法
CN105306804A (zh) * 2014-07-31 2016-02-03 北京展讯高科通信技术有限公司 智能终端及其视频稳像方法及装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7705884B2 (en) * 2004-07-21 2010-04-27 Zoran Corporation Processing of video data to compensate for unintended camera motion between acquired image frames
GB201116566D0 (en) * 2011-09-26 2011-11-09 Skype Ltd Video stabilisation

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1571475A (zh) * 2004-05-10 2005-01-26 东南大学 摄像机图像增稳方法及其辅助装置
CN101630107A (zh) * 2008-07-15 2010-01-20 佳能株式会社 图像稳定控制设备和摄像设备
CN102025919A (zh) * 2010-11-17 2011-04-20 无锡中星微电子有限公司 图像闪烁检测方法和装置以及应用此装置的摄像头
CN102790847A (zh) * 2011-05-18 2012-11-21 宾得理光映像有限公司 图像稳定系统及数码相机
CN103051836A (zh) * 2012-12-14 2013-04-17 中兴通讯股份有限公司 移动终端防抖动拍照方法和装置
CN103679636A (zh) * 2013-12-23 2014-03-26 江苏物联网研究发展中心 基于点、线双重特征的快速图像拼接方法
CN104796596A (zh) * 2014-01-20 2015-07-22 联想(北京)有限公司 一种信息处理方法及电子设备
CN104135598A (zh) * 2014-07-09 2014-11-05 清华大学深圳研究生院 一种视频图像稳定方法及装置
CN105306804A (zh) * 2014-07-31 2016-02-03 北京展讯高科通信技术有限公司 智能终端及其视频稳像方法及装置
CN104811588A (zh) * 2015-04-10 2015-07-29 浙江工业大学 一种基于陀螺仪的船载稳像控制方法
CN104902142A (zh) * 2015-05-29 2015-09-09 华中科技大学 一种移动终端视频的电子稳像方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于电子稳像技术的视频稳像研究;张国栋.;《中国优秀硕士学位论文全文数据库(电子期刊)》;20110515;正文第44-56页 *

Also Published As

Publication number Publication date
CN107241544A (zh) 2017-10-10

Similar Documents

Publication Publication Date Title
CN107241544B (zh) 视频稳像方法、装置及摄像终端
US10542217B2 (en) Shooting device and shooting method to suppress blur in an image
US8559751B2 (en) Method and device for removing motion blur effects
Hanning et al. Stabilizing cell phone video using inertial measurement sensors
CN103973999B (zh) 摄像装置及其控制方法
CN109410130B (zh) 图像处理方法和图像处理装置
KR100985805B1 (ko) 적응적인 칼만필터를 이용한 영상 안정화 장치 및 방법
US9716832B2 (en) Apparatus and method for stabilizing image
US20150103193A1 (en) Method and apparatus for long term image exposure with image stabilization on a mobile device
CN111314604B (zh) 视频防抖方法和装置、电子设备、计算机可读存储介质
US8436906B2 (en) Image processing apparatus, image processing method, program, and recording medium
CN111383252B (zh) 多相机目标追踪方法、系统、装置及存储介质
US10142541B2 (en) Image processing apparatus, imaging apparatus, and control method of image processing apparatus
CN113875219B (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN107018311B (zh) 移动信息取得装置、移动信息取得方法以及记录介质
CN113556464A (zh) 拍摄方法、装置及电子设备
CN113438409B (zh) 延迟校准方法、装置、计算机设备和存储介质
CN111712857A (zh) 图像处理方法、装置、云台和存储介质
JP6282133B2 (ja) 撮像装置、その制御方法、および制御プログラム
CN110602377B (zh) 一种视频稳像方法及装置
JP6579816B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6602089B2 (ja) 画像処理装置及びその制御方法
JP6489655B2 (ja) カメラのキャリブレーション装置、方法及びプログラム
JP2019149717A (ja) 画像処理装置及び画像処理方法、撮像装置、プログラム、記憶媒体
JP4046673B2 (ja) 意図的な移動撮像シーンの検出装置および検出方法ならびに意図的な移動撮像シーン検出プログラムを記録した記録媒体

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant