CN113572929A - 图像处理方法、装置、电子设备及存储介质 - Google Patents
图像处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113572929A CN113572929A CN202110777734.0A CN202110777734A CN113572929A CN 113572929 A CN113572929 A CN 113572929A CN 202110777734 A CN202110777734 A CN 202110777734A CN 113572929 A CN113572929 A CN 113572929A
- Authority
- CN
- China
- Prior art keywords
- shake
- image
- rotation
- data
- translation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
- H04N23/687—Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Adjustment Of Camera Lenses (AREA)
Abstract
本申请提供一种图像处理方法、装置、电子设备及存储介质,其中,电子设备包括镜头、图像传感器、光学防抖组件和电子防抖组件,其中根据电子设备的运动数据,通过光学防抖组件对镜头和图像传感器进行五维自由度的光学防抖,得到光学防抖图像;然后,以该光学防抖图像为基础,根据镜头的第一位置姿态数据、图像传感器的第二位置姿态数据和第一旋转姿态数据,对光学防抖图像的姿态进行还原校正,得到校正图像;最后,根据运动数据,通过电子防抖组件对校正图像进行电子防抖处理,得到电子防抖图像。以此,本申请通过光学防抖组件提供光学防抖图像,并还原光学防抖所导致的姿态变化后由电子防抖组件进行电子防抖处理,得到高质量的电子防抖图像。
Description
技术领域
本申请涉及图像处理技术领域,特别涉及一种图像处理方法、装置、电子设备及存储介质。
背景技术
目前,如手机、平板电脑等电子设备通常配置有摄像头,从而为用户提供拍照功能,使得用户能够通过这些电子设备随时随地的记录身边发生的事情,看到的景物等。然而,由于用户通常手持电子设备进行拍摄,而用户手持电子设备会引入不同程度的抖动而影响电子设备拍摄的稳定性,导致拍摄得到的图像的质量较差。
发明内容
本申请实施例提供一种图像处理方法、装置、电子设备及存储介质,能够提高电子设备的图像拍摄质量。
本申请公开一种图像处理方法,应用于电子设备,所述电子设备包括镜头、图像传感器、光学防抖组件和电子防抖组件,所述图像处理方法包括:
获取所述电子设备的运动数据,并根据所述运动数据,通过所述光学防抖组件控制所述镜头在所述镜头的X轴方向和Y轴方向进行补偿平移,控制所述图像传感器在所述图像传感器的X轴方向和Y轴方向进行补偿平移,以及控制所述图像传感器绕所述图像传感器的Z轴进行补偿旋转;
获取所述图像传感器采集的对应所述运动数据的光学防抖图像,以及从所述光学防抖组件获取所述镜头的第一位置姿态数据、所述图像传感器的第二位置姿态数据和第一旋转姿态数据;
根据所述第一位置姿态数据、所述第二位置姿态数据以及所述第一旋转姿态数据对所述光学防抖图像的姿态进行还原校正,得到校正图像;
根据所述运动数据,通过所述电子防抖组件对所述校正图像进行电子防抖处理,得到电子防抖图像。
本申请还公开一种图像处理装置,应用于电子设备,所述电子设备包括镜头、图像传感器、光学防抖组件和电子防抖组件,所述图像处理装置包括:
光学防抖模块,用于获取所述电子设备的运动数据,并根据所述运动数据,通过所述光学防抖组件控制所述镜头在所述镜头的X轴方向和Y轴方向进行补偿平移,控制所述图像传感器在所述图像传感器的X轴方向和Y轴方向进行补偿平移,以及控制所述图像传感器绕所述图像传感器的Z轴进行补偿旋转;
姿态获取模块,用于获取所述图像传感器采集的对应所述运动数据的光学防抖图像,以及从所述光学防抖组件获取所述镜头的第一位置姿态数据、所述图像传感器的第二位置姿态数据和第一旋转姿态数据;
姿态校正模块,用于根据所述第一位置姿态数据、所述第二位置姿态数据以及所述第一旋转姿态数据对所述光学防抖图像的姿态进行还原校正,得到校正图像;
电子防抖模块,用于根据所述运动数据,通过所述电子防抖组件对所述校正图像进行电子防抖处理,得到电子防抖图像。
本申请还公开一种电子设备,包括镜头、图像传感器、光学防抖组件、电子防抖组件、处理器和存储器,存储器存储有计算机程序,处理器通过加载计算机程序执行如本申请提供的图像处理方法中的步骤。
本申请还公开一种存储介质,其上存储有计算机程序,所述计算机程序被处理器加载时执行如本申请提供的图像处理方法中的步骤。
本申请中,电子设备包括镜头、图像传感器、光学防抖组件和电子防抖组件,其中根据电子设备的运动数据,通过光学防抖组件对镜头和图像传感器进行五维自由度的光学防抖,得到光学防抖图像;然后,以该光学防抖图像为基础,根据镜头的第一位置姿态数据、图像传感器的第二位置姿态数据和第一旋转姿态数据,对光学防抖图像的姿态进行还原校正,得到校正图像;最后,根据运动数据,通过电子防抖组件对校正图像进行电子防抖处理,得到电子防抖图像。以此,本申请通过光学防抖组件提供光学防抖图像,并还原光学防抖所导致的姿态变化后由电子防抖组件进行电子防抖处理,得到高质量的电子防抖图像。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍。
图1为本申请实施例提供的电子设备的一硬件结构示意图。
图2为本申请实施例提供的图像处理方法的一流程示意图。
图3为本申请实施例中摄像模组的移动自由度的示例图。
图4为本申请实施例中对光学防抖图像进行校正,得到校正图像的示例图。
图5为本申请实施例提供的预设校准工具的局部示意图。
图6为本申请实施例中提供的矩形校准板的示例图。
图7为本申请实施例提供的图像处理装置的结构示意图。
图8为本申请实施例提供的电子设备的另一硬件结构示意图。
具体实施方式
应当说明的是,本申请中的术语“第一”、“第二”和“第三”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或模块的过程、方法、系统、产品或设备没有限定于已列出的步骤或模块,而是某些实施例还包括没有列出的步骤或模块,或某些实施例还包括对于这些过程、方法、产品或设备固有的其它步骤或模块。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本申请实施例提供一种图像处理方法、图像处理装置、计算机可读的存储介质以及电子设备,其中图像处理方法的执行主体可以是本申请实施例提供的图像处理装置,或者集成了该图像处理装置的电子设备,其中该图像处理装置可以采用硬件或者软件的方式实现。其中,电子设备可以是智能手机、平板电脑、掌上电脑、笔记本电脑等配置有处理器而具有数据处理能力的设备。
下面将结合附图对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
请参照图1,示出了电子设备100的一硬件结构示意图,如图1所示,该电子设备100包括运动传感器110、摄像模组120、光学防抖组件130以及电子防抖组件140。此处对运动传感器110、摄像模组120、光学防抖组件130以及电子防抖组件140在电子设备的设置位置不作具体限制,可由本领域技术人员根据实际需要进行设置。另外,本领域技术人员可以理解的是,图1中示出的结构并不构成对电子设备100的限定,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置等。
其中,运动传感器110被配置为对电子设备100的运动状态进行实时感应,相应得到用于描述电子设备100的运动状态的运动数据。此处对运动传感器110的类型以及数量不作具体限制,可由本领域技术人员根据实际需要进行设置。示例性地,运动传感器110可以仅感应电子设备100在单一维度的运动状态,相应得到单一维度的运动数据(比如,运动传感器110可以仅感应得到电子设备100的加速度),也可以感应电子设备100在多维度的运动状态,相应得到多维度的运动数据(比如,运动传感器110可以感应得到电子设备100的加速度和角速度)。应当说明的是,以运动传感器110与电子设备100本体刚性连接为约束,可以将运动传感器110设置在电子设备100的任意位置。
摄像模组120被配置为采集图像,至少包括镜头1210和图像传感器1220,其中镜头1210用于将外界的光信号投射至图像传感器1220,图像传感器1220用于将镜头1210投射的光信号进行光电转换,将光信号转换为可用的电信号,得到数字化的的图像。此处对镜头1210和图像传感器1220的设置方式不作具体限制,比如,镜头1210和图像传感器1220可以平行设置,也可以非平行设置。
摄像模组120被使能之后,可以实时地对拍摄场景进行拍摄。拍摄场景可以理解为摄像模组120在使能后所对准的现实区域,即摄像模组120能够将光信号转换为对应图像的区域。比如,电子设备100在根据用户操作使能摄像模组120之后,若用户控制电子设备100的摄像模组120对准一包括某对象的区域,则包括该对象的区域即为摄像模组120的拍摄场景。其中,摄像模组120被配置为可相对于电子设备100移动,即摄像模组120相对于电子设备100具备一定的移动自由度(可以是镜头1210和图像传感器1220均具备移动自由度,也可以是镜头1210和图像传感器1220二者之一具备移动自由度),以此,当电子设备100发生运动时,可驱动摄像模组120进行补偿移动,以尽可能抵消电子设备100的运动,使得成像光路稳定。
应当说明的是,本实施例对摄像模组120在电子设备100的设置位置不作具体限制,可由本领域技术人员根据实际需要进行配置。以手机为例,可以在手机屏幕所在的一面设置摄像模组120,也可以在手机屏幕相对的一面设置摄像模组120,还可以同时在手机屏幕的所在面以及相对面均设置摄像模组120。
光学防抖组件130被配置为根据电子设备的运动对摄像模组120进行光学防抖处理。比如,当镜头1210具备在其X轴方向和Y轴方向的平移自由度时,光学防抖组件可以根据电子设备100的运动,相应控制镜头1210在其X轴方向和Y轴方向进行补偿平移,以抵消电子设备100的运动,使得摄像模组120的成像光路稳定。
电子防抖组件140被配置为通过电子防抖的方式对图像进行防抖,电子防抖是一种演算法运算,比如通过图像对应的运动数据,计算出该图像与其它图像间的运动情况,以及该图像内部的运动情况,并根据运动情况对齐图像后进行适当的裁剪、拉伸和变形等处理后,得到相对稳定的图像。
请参照图2,图2为本申请实施例提供的图像处理方法的流程示意图。该图像处理方法应用于图1所示的电子设备100,该电子设备100包括镜头1210、图像传感器1220、光学防抖组件130和电子防抖组件140,如图2所示,本申请实施例提供的图像处理方法的流程可以如下:
在210中,获取电子设备100的运动数据,并根据运动数据,通过光学防抖组件130控制镜头1210在镜头1210的X轴方向和Y轴方向进行补偿平移,控制图像传感器1220在图像传感器1220的X轴方向和Y轴方向进行补偿平移,以及控制图像传感器1220绕图像传感器1220的Z轴进行补偿旋转。
请参照图3,本实施例中,摄像模组120具备5维移动自由度,其中包括镜头1210在其X轴方向和Y轴方向的2维平移自由度,图像传感器1220在其X轴方向和Y轴方向的2维平移自由度,以及图像传感器1220在其Z轴的1维旋转自由度。相应的,光学防抖组件130被配置为在前述5维移动自由度的光学防抖。应当说明的是,本实施例中对于电子设备100、镜头1210以及图像传感器1220三者的结构布局并不限定,可由本领域技术人员根据实际需要进行配置,比如可以配置电子设备100、镜头1210以及图像传感器1220三者的X轴两两平行、Y轴两两平行、Z轴两两平行。
基于以上光学防抖组件130,本实施例中,首先通过电子设备100设置的运动传感器110获取电子设备100的运动数据。此处对运动传感器110的类型以及数量不作具体限制,可由本领域技术人员根据实际需要进行设置。比如,可以通过三轴加速度传感器获取电子设备100的三轴加速度,还可以通过三轴陀螺仪获取电子设备100的三轴角速度等。
如上,在获取到电子设备100的运动数据之后,将电子设备100的运动数据输入光学防抖组件130,由光学防抖组件130根据电子设备100的运动数据驱动镜头1210和图像传感器1220进行光学防抖。其中,根据电子设备100的运动数据,光学防抖组件130控制镜头1210在镜头1210的X轴方向和Y轴方向进行补偿平移,控制图像传感器1220在图像传感器1220的X轴方向和Y轴方向进行补偿平移,以及控制图像传感器1220绕图像传感器1220的Z轴进行补偿旋转,以此来抵消电子设备100的运动,使得成像光路稳定。
应当说明的是,根据实际获取的电子设备100的运动数据,镜头1210可以被光学防抖组件130控制而同时在其X轴方向和Y轴方向产生实际位移(比如,镜头1210在其X轴方向和Y轴方向产生相同大小的位移,则镜头1210产生的位移可以看做是沿45度方向的位移),也可以被光学防抖组件130控制而仅在X轴方向和Y轴方向之一产生实际位移(比如镜头1210仅在X轴方向产生实际位移,或者仅在其Y轴方向产生实际位移),同样的,图像传感器1220可以被光学防抖组件130控制而同时在其X轴方向和Y轴方向产生实际位移,也可以被光学防抖组件130控制而仅在其X轴方向和Y轴方向之一产生实际位移,此外,图像传感器1220被光学防抖组件130控制而绕其Z轴旋转的角度可以为零(即图像传感器1220未绕其Z轴发生实际旋转),也可以不为零(即图像传感器1220绕其Z轴发生实际旋转)。
在220中,获取图像传感器1220采集的对应运动数据的光学防抖图像,以及从光学防抖组件130获取镜头1210的第一位置姿态数据、图像传感器1220的第二位置姿态数据和第一旋转姿态数据。
根据以上相关描述可知,本申请通过光学防抖组件130控制镜头1210和图像传感器1220进行光学防抖,使得图像传感器1220的成像光路稳定,相应的,本实施例在镜头1210完成补偿平移且图像传感器1220完成补偿平移和补偿旋转时,获取此时图像传感器1220采集的图像,记为对应前述运动数据的光学防抖图像。
应当说明的是,光学防抖组件130中还设置有用于实时感应镜头1210的位置姿态的第一位置姿态传感器,用于实时感应图像传感器1220的位置姿态的第二位置姿态传感器,以及用于实时感应图像传感器1220的旋转姿态的旋转姿态传感器。此处对第一位置姿态传感器、第二位置姿态传感器以及旋转姿态传感器的类型不作具体限制,可由本领域技术人员根据需要进行选取。比如,本实施例中,第一位置姿态传感器、第二位置姿态传感器以及旋转姿态传感器均采用霍尔传感器实现。
本实施例中,除了获取图像传感器1220采集的对应运动数据的光学防抖图像之外,还从光学防抖组件130获取镜头1210的第一位置姿态数据和图像传感器1220的第二位置姿态数据和第一旋转姿态数据。比如,光学防抖组件130通过第一位置姿态传感器对镜头1210的位置姿态进行感应,得到镜头1210的第一位置姿态数据,通过第二位置姿态传感器对图像传感器1220的位置姿态进行感应,得到图像传感器1220的第二位置姿态数据,通过旋转姿态传感器对图像传感器1220的旋转姿态进行感应,得到图像传感器1220的第一旋转姿态数据,并将第一位置姿态数据、第二位置姿态数据以及第一旋转姿态数据组合为姿态数据组输出。相应的,可从光学防抖组件130输出的姿态数据组中获取得到前述第一位置姿态数据、前述第二位置姿态数据和前述第一旋转姿态数据。
示例性地,姿态数据组可以表示为H=[h0|h1|h2],其中,h0表示第一位置姿态数据,h1表示第二位置姿态数据,h2表示第一旋转姿态数据。
在230中,根据第一位置姿态数据、第二位置姿态数据以及第一旋转姿态数据对光学防抖图像的姿态进行还原校正,得到校正图像。
本实施例中,在获取到前述第一位置姿态数据、前述第二位置姿态数据以及前述第一旋转姿态数据之后,按照配置的校正策略,根据第一位置姿态数据、第二位置姿态数据以及第一旋转姿态数据对光学防抖图像的姿态进行还原校正,得到校正图像。此处对姿态的还原校正可以通俗的理解为将光学防抖图像“还原”至光学防抖组件130未进行光学防抖的姿态,也即将光学防抖图像“还原”至镜头1210未移动,且图像传感器1220未移动和旋转时所对应的姿态。
在240中,根据运动数据,通过电子防抖组件140对校正图像进行电子防抖处理,得到电子防抖图像。
本实施例中,在完成对光学防抖图像的校正,并得到校正图像之后,进一步将前述运动数据和校正图像输入电子防抖组件140,由电子防抖组件140根据前述运动数据对校正图像进行电子防抖处理,得到电子防抖图像。
由上可知,本申请中,电子设备100包括镜头1210、图像传感器1220、光学防抖组件130和电子防抖组件140,其中根据电子设备100的运动数据,通过光学防抖组件130对镜头1210和图像传感器1220进行五维自由度的光学防抖,得到光学防抖图像;然后,以该光学防抖图像为基础,根据镜头1210的第一位置姿态数据、图像传感器1220的第二位置姿态数据和第一旋转姿态数据,对光学防抖图像的姿态进行还原校正,得到姿态还原后的校正图像;最后,根据运动数据,通过电子防抖组件140对校正图像进行电子防抖处理,得到电子防抖图像。以此,本申请通过光学防抖组件130提供光学防抖图像,并还原光学防抖所导致的姿态变化后由电子防抖组件140进行电子防抖处理,得到高质量的电子防抖图像。
可选地,在一实施例中,根据第一位置姿态数据、第二位置姿态数据以及第一旋转姿态数据对光学防抖图像的姿态进行还原校正,得到校正图像,包括:
(1)根据第一位置姿态数据和第二位置姿态数据,获取用于对光学防抖图像进行平移校正的第一校正平移向量;
(2)根据第一旋转姿态数据,获取用于对光学防抖图像进行旋转校正的第一校正旋转矩阵;
(3)根据第一校正平移向量和第一校正旋转矩阵分别对光学防抖图像进行平移校正和旋转校正,得到校正图像。
根据以上相关描述可知,本实施例中的光学防抖包括5维自由度,分别为镜头1210在X轴和Y轴的2维自由度,以及图像传感器1220在X轴、Y轴以及Z轴的3维自由度。可以理解的是,前述5维自由度的防抖补偿将导致图像内容的平移和旋转,相应的,本实施例对光学防抖图像姿态的还原校正将包括两部分,分别为平移校正和旋转校正。
可以理解的是,图像内容的平移是由镜头1210和图像传感器1220各自的平移所综合导致的,而图像内容的旋转是由图像传感器1220的旋转所导致的。因此,本实施例一方面根据镜头1210的第一位置姿态数据和图像传感器1220的第二位置姿态数据,获取用于对光学防抖图像进行平移校正的第一校正平移向量,另一方面根据图像传感器1220的第一旋转姿态数据,获取用于对光学防抖图像进行旋转校正的第一校正旋转矩阵。之后,根据获取到的第一校正平移向量和第一校正旋转矩阵,分别对光学防抖图像的姿态进行平移校正和旋转校正,得到校正图像,如图4所示。其中,根据获取到的第一校正平移向量和第一校正旋转矩阵,分别对光学防抖图像的姿态进行平移校正和旋转校正,可以表示为:
P'=R·P+t;
其中,P表示光学防抖图像中一像素点的位置,R表示第一校正旋转矩阵,t表示第一校正平移向量,P'表示该像素点进行过校正后在校正图像中的位置。
可选地,在一实施例中,根据第一位置姿态数据和第二位置姿态数据,获取用于对光学防抖图像进行平移校正的第一校正平移向量,包括:
(1)根据位置姿态数据和平移向量的第一函数关系,获取对应第一位置姿态数据的第一平移向量;
(2)根据位置姿态数据和平移向量的第二函数关系,获取对应第二位置姿态数据的第二平移向量;
(3)根据第一平移向量、第一平移向量对应的第一融合参数、第二平移向量及其对应的第二融合参数,融合得到第一平移向量和第二平移向量的融合平移向量;
(4)将融合平移向量作为第一校正平移向量。
应当说明的是,本实施例预设有位置姿态数据和平移向量的第一函数关系,该第一函数关系描述了镜头1210的位置姿态变化导致的图像内容的位置姿态变化之间的对应关系。此外,本实施例还预设有位置姿态数据和平移向量的第二函数关系,该第二函数关系描述了图像传感器1220的位置姿态变化导致的图像内容的位置姿态变化之间的对应关系。
基于以上第一函数关系和第二函数关系,本实施例在根据第一位置姿态数据和第二位置姿态数据获取用于对光学防抖图像进行平移校正的第一校正平移向量时,根据位置姿态数据和平移向量的第一函数关系,获取对应第一位置姿态数据的第一平移向量,以及根据位置姿态数据和平移向量的第二函数关系,获取对应第二位置姿态数据的第二平移向量。
如上所述,图像内容的旋转是由镜头1210和图像传感器1220各自的平移所综合导致的,相应需要将前述第一平移向量和第二平移向量进行融合。为此,本实施例中预先配置有对应第一平移向量的第一融合参数、对应第二平移向量的第二融合参数。相应的,本实施例在获取到对应第一位置姿态数据的第一平移向量以及获取到对应第二位置姿态数据的第二平移向量之后,即根据第一平移向量、第一平移向量对应的第一融合参数、第二平移向量及其对应的第二融合参数,融合得到第一平移向量和第二平移向量的融合平移向量,表示为:
t'=a·t1+b·t2;
其中,t'表示融合平移向量,t1表示第一平移向量、t2表示第二平移向量、a表示第一融合参数、b表示第二融合参数。
应当说明的是,以第一融合参数和第二融合参数和值为1为约束,可由本领域技术人员根据实际需要进行取值。
如上,在融合得到第一平移向量和第二平移向量的融合平移向量之后,本实施例即将该融合平移向量作为第一校正平移向量。
可选地,在一实施例中,将电子设备100固定于预设校准工具,使得电子设备100与预设校准工具中的矩形校准板的位置相对固定,矩形校准板包括中心标记,第一函数关系按照如下步骤预先生成:
(1)开启光学防抖组件130的镜头1210平移防抖功能,并关闭图像传感器1220平移防抖功能和图像传感器1220旋转防抖功能;
(2)发送第一平移控制指令至预设校准工具,使得预设校准工具驱动电子设备100在电子设备100的X轴方向和Y轴方向平移;
(3)在电子设备100的平移过程中,通过光学防抖组件130进行光学防抖处理,并获取图像传感器1220在平移过程中采集的矩形校准板的第一图像序列;
(4)从光学防抖组件130获取镜头1210对应第一图像序列中每一第一图像的第三位置姿态数据,以及获取中心标记在每一第一图像中的第一位置坐标;
(5)根据每一第一图像对应的第三位置姿态数据和第一位置坐标,拟合得到第一函数关系。
本实施例中,利用预设校准工具,预先校准得到第一函数关系。
其中,首先将电子设备100固定于预设校准工具,使得电子设备100与预设校准工具中的矩形校准板的位置相对固定。应当说明的是,此处对预设校准工具的结构不作具体限制,可由本领域技术人员根据实际需要进行设置。
示例性地,请参照图5,该预设校准工具由目标背板、设备载具、滑轨以及驱动机构(图5中未示出)四部分组成,其中目标背板用于固定矩形校准板,设备载具用于固定电子设备100,目标背板和设备载具可沿各自所在滑轨的轨道滑动,驱动机构用于驱动目标背板、设备载具、滑轨同步运动。
基于图5所示的预设校准工具,本实施例将电子设备100固定于设备载具,并对设备载具和目标背板的位置沿各自所在轨道进行调整,使得矩形校准板在图像传感器1220的成像大小与图像传感器1220成像区域的大小一致,通俗的说,就是矩形校准板的成像图像铺满图像传感器1220的成像区域。
在完成对设备载具和目标背板的位置调整之后,将设备载具和目标背板锁定在二者各自的当前位置,从而使得电子设备100与矩形校准板的位置相对固定。
应当说明的是,为确保电子设备100与矩形校准板的位置相对固定,从而确保矩形校准板与电子设备100的摄像模组120(镜头1210和图像传感器1220)之间的平行关系,目标背板采用硬质板材,比如硬质金属板材。此外,还需确保设备载具和目标背板与各自所在滑轨刚性连接,从而避免扰动误差。
如上,在将电子设备100固定于预设校准工具,并使得电子设备100与预设校准工具中的矩形校准板的位置相对固定之后,即可利用预设校准工具校准得到第一函数关系。
由于此时仅对第一函数关系进行校准,相应开启光学防抖组件130的镜头1210平移防抖功能,并关闭图像传感器1220平移防抖功能和图像传感器1220旋转防抖功能,以此,使得光学防抖组件130在电子设备100运动时,根据电子设备100的运动仅对镜头1210进行补偿平移。相应的,发送第一平移控制指令至预设校准工具,使得预设校准工具驱动电子设备100在电子设备100的X轴方向和Y轴方向平移,如图5所示。比如,该第一平移控制指令使得预设校准工具驱动电子设备100在其X轴方向和Y轴方向交替平移,其中平移的距离以及交替的频率可由本领域技术人员根据实际需要进行取值,此处不作具体限制。
在电子设备100的平移过程中,实时获取电子设备100的运动数据并提供给光学防抖组件130,从而通过光学防抖组件130进行光学防抖处理。可以理解的是,由于本实施例仅开启了光学防抖组件130的镜头1210平移防抖功能,光学防抖组件130在电子设备100的运动过程中将仅对镜头1210进行补偿平移。此外,获取图像传感器1220在平移过程中采集的矩形校准板的图像序列,记为第一图像序列。比如,通过图像传感器1220在平移过程中采集矩形校准板一分钟时长的图像序列,得到第一图像序列。
请参照图6,矩形校准板包括中心标记和四角标记(分别为左上角标记、右上角标记、右下角标记和左下角标记),由于电子设备100与预设校准工具中的矩形校准板的位置相对固定,光学防抖组件130因电子设备100平移而进行光学防抖处理将导致中心标记在成像得到第一图像中的位置偏离第一图像的中心。
相应的,本实施例中,进一步从光学防抖组件130获取镜头1210对应第一图像序列中每一第一图像的位置姿态数据,即图像传感器1220在采集每一第一图像时镜头1210的位置姿态数据,记为第三位置姿态数据。此外,还获取中心标记在每一第一图像中的位置坐标,记为第一位置坐标。
可以理解的是,对于一第一图像,前述中心标记在该第一图像中的第一位置坐标等同于该第一图像的中心至中心标记的平移向量。因此,根据每一第一图像对应的第三位置姿态数据和第一位置坐标进行函数拟合,即可拟合得到第一函数关系。此处对函数拟合的方式不作具体限制,包括但不限于最小二乘法、随机抽样一致法以及多项式拟合法等。比如,本实施例采用最小二乘法拟合得到第一函数关系。
在其他实施例中,在拟合得到第一函数关系之后,还对第一函数关系的拟合误差进行评估(可由本领域技术人员根据实际需要选取评估方式,此处不作具体限制,比如可以采用均方误差),得到第一函数关系的拟合误差,若第一函数关系的拟合误差大于第一误差阈值(可由本领域技术人员根据实际需要取经验值),则识别并剔除明显异常的第三位置姿态数据和第一位置坐标后再次进行拟合,若新拟合的第一函数关系的拟合误差仍大于第一误差阈值,则重新获取新的第一图像序列以及新的第三位置姿态数据进行拟合,直至得到拟合误差小于或等于第一误差阈值的第一函数关系。
可选地,在一实施例中,第二函数关系按照如下步骤预先生成:
(1)开启光学防抖组件130的图像传感器1220平移防抖功能,并关闭镜头1210平移防抖功能和图像传感器1220旋转防抖功能;
(2)发送第二平移控制指令至预设校准工具,使得预设校准工具驱动电子设备100在电子设备100的X轴方向和Y轴方向平移;
(3)在电子设备100的平移过程中,通过光学防抖组件130进行光学防抖处理,并获取图像传感器1220在平移过程中采集的矩形校准板的第二图像序列;
(4)从光学防抖组件130获取图像传感器1220采集第二图像序列中每一第二图像时的第四位置姿态数据,以及获取中心标记在每一第二图像中的第二位置坐标;
(5)根据每一第二图像对应的第四位置姿态数据和第二位置坐标,拟合得到第二函数关系。
本实施例中,还利用预设校准工具预先校准得到第二函数关系。同样的,按照以上方式首先将电子设备100固定于预设校准工具,使得电子设备100与预设校准工具中的矩形校准板的位置相对固定。具体可参照以上实施例中的相关描述,此处不再赘述。
在将电子设备100固定于预设校准工具,并使得电子设备100与预设校准工具中的矩形校准板的位置相对固定之后,即可利用预设校准工具校准得到第二函数关系。
由于此时仅对第二函数关系进行校准,相应开启光学防抖组件130的图像传感器1220平移防抖功能,并关闭镜头1210平移防抖功能和图像传感器1220旋转防抖功能,以此,光学防抖组件130在电子设备100运动时,根据电子设备100的运动仅对图像传感器1220进行补偿平移。相应的,发送第二平移控制指令至预设校准工具,使得预设校准工具驱动电子设备100在电子设备100的X轴方向和Y轴方向平移,如图5所示。比如,该第二平移控制指令使得预设校准工具驱动电子设备100在其X轴方向和Y轴方向交替平移,其中平移的距离以及交替的频率可由本领域技术人员根据实际需要进行取值,此处不作具体限制。
在电子设备100的平移过程中,实时获取电子设备100的运动数据并提供给光学防抖组件130,从而通过光学防抖组件130进行光学防抖处理。可以理解的是,由于本实施例仅开启了光学防抖组件130的图像传感器1220平移防抖功能,光学防抖组件130在电子设备100的运动过程中将仅对图像传感器1220进行补偿平移。此外,获取图像传感器1220在平移过程中采集的矩形校准板的图像序列,记为第二图像序列。比如,通过图像传感器1220在平移过程中采集矩形校准板一分钟时长的图像序列,得到第二图像序列。
本实施例中,还从光学防抖组件130获取图像传感器1220采集第二图像序列中每一第二图像的位置姿态数据,记为第四位置姿态数据。此外,还获取中心标记在每一第二图像中的位置坐标,记为第二位置坐标。
可以理解的是,对于一第二图像,前述中心标记在该第二图像中的第二位置坐标等同于该第二图像的中心至中心标记的平移向量。因此,根据每一第二图像对应的第四位置姿态数据和第二位置坐标进行函数拟合,即可拟合得到第二函数关系。此处对函数拟合的方式不作具体限制,包括但不限于最小二乘法、随机抽样一致法以及多项式拟合法等。比如,本实施例采用最小二乘法拟合得到第二函数关系。
在其他实施例中,在拟合得到第二函数关系之后,还对第二函数关系的拟合误差进行评估(可由本领域技术人员根据实际需要选取评估方式,此处不作具体限制,比如可以采用均方误差),得到第二函数关系的拟合误差,若第二函数关系的拟合误差大于第二误差阈值(可由本领域技术人员根据实际需要取经验值),则识别并剔除明显异常的第四位置姿态数据和第二位置坐标后再次进行拟合,若新拟合的第二函数关系的拟合误差仍大于第二误差阈值,则重新获取新的第二图像序列以及新的第四位置姿态数据和第二位置坐标进行拟合,直至得到拟合误差小于或等于第二误差阈值的第二函数关系。
可选地,在一实施例中,第一融合参数和第二融合参数按照如下步骤预先确定:
(1)开启光学防抖组件130的镜头1210平移防抖功能和图像传感器1220平移防抖功能,并关闭图像传感器1220旋转防抖功能;
(2)发送第三平移控制指令至预设校准工具,使得预设校准工具驱动电子设备100在电子设备100的X轴方向和Y轴方向平移;
(3)在电子设备100的平移过程中,通过光学防抖组件130进行光学防抖处理,并获取图像传感器1220在平移过程中采集的矩形校准板的第三图像序列;
(4)从光学防抖组件130获取镜头1210对应第三图像序列中每一第三图像的第五位置姿态数据,以及从光学防抖组件130获取图像传感器1220采集第三图像序列中每一第三图像时的第六位置姿态数据;
(5)根据第一函数关系,获取对应每一第五位置姿态数据的第三平移向量,以及根据第二函数关系,获取对应每一第六位置姿态数据的第四平移向量;
(6)获取中心标记在每一第三图像中的第三位置坐标,并根据每一第三图像对应的第三位置坐标、第三平移向量以及第四平移向量,获取第一融合参数和第二融合参数。
本实施例中,还利用预设校准工具预先校准得到用于融合第一平移向量和第二平移向量的第一融合参数和第二融合参数。同样的,按照以上方式首先将电子设备100固定于预设校准工具,使得电子设备100与预设校准工具中的矩形校准板的位置相对固定。具体可参照以上实施例中的相关描述,此处不再赘述。
在将电子设备100固定于预设校准工具,并使得电子设备100与预设校准工具中的矩形校准板的位置相对固定之后,即可利用预设校准工具校准得到第一融合参数和第二融合参数。
由于此时对用于融合第一平移向量和第二平移向量的第一融合参数和第二融合参数,相应开启光学防抖组件130的镜头1210平移防抖功能和图像传感器1220平移防抖功能,并关闭图像传感器1220旋转防抖功能,以此,光学防抖组件130在电子设备100运动时,根据电子设备100的运动对镜头1210和图像传感器1220同时进行补偿平移。相应的,发送第三平移控制指令至预设校准工具,使得预设校准工具驱动电子设备100在电子设备100的X轴方向和Y轴方向平移,如图5所示。比如,该第三平移控制指令使得预设校准工具驱动电子设备100在其X轴方向和Y轴方向交替平移,其中平移的距离以及交替的频率可由本领域技术人员根据实际需要进行取值,此处不作具体限制。
在电子设备100的平移过程中,实时获取电子设备100的运动数据并提供给光学防抖组件130,从而通过光学防抖组件130进行光学防抖处理。可以理解的是,由于本实施例同时开启了光学防抖组件130的镜头1210平移防抖功能和图像传感器1220平移防抖功能,光学防抖组件130在电子设备100的运动过程中将同时对镜头1210和图像传感器1220进行补偿平移。此外,获取图像传感器1220在平移过程中采集的矩形校准板的图像序列,记为第三图像序列。比如,通过图像传感器1220在平移过程中采集矩形校准板一分钟时长的图像序列,得到第三图像序列。
本实施例中,还从光学防抖组件130获取镜头1210对应第三图像序列中每一第三图像的位置姿态数据,即图像传感器1220在采集每一第三图像时镜头1210的位置姿态数据,记为第五位置姿态数据。此外,还从光学防抖组件130获取图像传感器1220采集每一第三图像时的位置姿态数据,记为第六位置姿态数据。此外,还获取中心标记在每一第三图像中的位置坐标,记为第三位置坐标。
此外,还根据已拟合得到的第一函数关系,获取对应每一第五位置姿态数据的平移向量,记为第三平移向量,以及根据已拟合得到的第二函数关系,获取对应每一第六位置姿态数据的平移向量,记为第四平移向量。
可以理解的是,对于一第三图像,前述中心标记在该第三图像中的第三位置坐标等同于该第三图像的中心至中心标记的平移向量,且该平移向量应当由该第三图像对应的第三平移向量和第四平移向量融合得到。因此,根据每一第三图像对应的第三位置坐标、第三平移向量以及第四平移向量进行拟合,得到第一融合参数和第二融合参数。此处对拟合得到第一融合参数和第二融合参数的方式不作具体限制,可由本领域技术人员根据实际需要进行选取。比如,本实施例采用线性回归方法拟合得到第一融合参数和第二融合参数。
在其他实施例中,在拟合得到第一融合参数和第二融合参数之后,还对第一融合参数和第二融合参数的拟合误差进行评估(可由本领域技术人员根据实际需要选取评估方式,此处不作具体限制,比如可以采用均方误差),得到第一融合参数和第二融合参数的拟合误差,若第一融合参数和第二融合参数的拟合误差大于第三误差阈值(可由本领域技术人员根据实际需要取经验值),则识别并剔除明显异常的第五位置姿态数据、第六位置姿态数据和第三位置坐标后再次进行拟合,若新拟合的第一融合参数和第二融合参数的拟合误差仍大于第三误差阈值,则重新获取新的第三图像序列以及新的第五位置姿态数据、第六位置姿态数据以及第三位置坐标进行拟合,直至得到拟合误差小于或等于第三误差阈值的第一融合参数和第二融合参数。
可选地,在一实施例中,根据第一旋转姿态数据,获取用于对光学防抖图像进行旋转校正的第一校正旋转矩阵,包括:
(1)根据旋转姿态数据和旋转角度的第三函数关系,获取对应第一旋转姿态数据的旋转角度;
(2)获取光学防抖图像的旋转中心坐标,并根据旋转中心坐标和旋转角度获取第一校正旋转矩阵。
应当说明的是,本实施例预设有旋转姿态数据和旋转角度的第三函数关系,该第三函数关系描述了图像传感器1220的旋转姿态变化导致的图像内容的旋转姿态变化之间的对应关系。此外,本实施例还预先拟合有图像传感器1220采集图像的旋转中心坐标,此处对具体的拟合方式不作限制,可由本领域技术人员根据实际需要选取合适的拟合方式。
基于以上第三函数关系,本实施例在根据第一旋转姿态数据,获取用于对光学防抖图像进行旋转校正的第一校正旋转矩阵时,首先根据该第三函数关系,获取对应第一旋转姿态数据的旋转角度,此外,还获取光学防抖图像的旋转中心坐标,也即预先拟合得到的图像传感器1220采集图像的旋转中心坐标。
如上,在获取到对应第一旋转姿态数据的旋转角度,以及获取到光学防抖图像的旋转中心坐标之后,进一步根据该旋转角度以及旋转中心坐标来获取第一校正旋转矩阵。
可选地,在一实施例中,根据旋转中心坐标和旋转角度获取第一校正旋转矩阵,包括:
根据旋转中心坐标和旋转角度,按照如下公式获取第一校正旋转矩阵:
其中,R表示第一校正旋转矩阵,C表示cos(γ),γ表示旋转角度,S表示sin(γ),Cx表示旋转中心坐标中的横坐标,Cy表示旋转中心坐标中的纵坐标。
可选地,在一实施例中,矩形校准板还包括四角标记,旋转中心坐标和第三函数关系按照如下步骤生成:
(1)开启光学防抖组件130的图像传感器1220旋转防抖功能,并关闭镜头1210平移防抖功能和图像传感器1220平移防抖功能;
(2)发送旋转控制指令至预设校准工具,使得预设校准工具驱动电子设备100绕图像传感器1220的Z轴旋转;
(3)在电子设备100的旋转过程中,通过光学防抖组件130进行光学防抖处理,并获取图像传感器1220在旋转过程中采集的矩形校准板的第四图像序列;
(4)从光学防抖组件130获取图像传感器1220采集第四图像序列中每一第四图像时的第二旋转姿态数据,以及获取四角标记在每一第四图像中的第四位置坐标;
(5)根据每一第四图像对应的第二旋转姿态数据和第四位置坐标,拟合得到旋转中心坐标和第三函数关系。
本实施例中,还利用预设校准工具预先校准得到旋转中心坐标和第三函数关系。同样的,按照以上方式首先将电子设备100固定于预设校准工具,使得电子设备100与预设校准工具中的矩形校准板的位置相对固定。具体可参照以上实施例中的相关描述,此处不再赘述。
在将电子设备100固定于预设校准工具,并使得电子设备100与预设校准工具中的矩形校准板的位置相对固定之后,即可利用预设校准工具校准得到旋转中心坐标和第三函数关系。
由于此时对旋转中心坐标和第三函数关系进行校准,相应开启光学防抖组件130的图像传感器1220旋转防抖功能,并关闭镜头1210平移防抖功能和图像传感器1220平移防抖功能,以此,光学防抖组件130在电子设备100运动时,根据电子设备100的运动仅对图像传感器1220进行补偿旋转。相应的,发送旋转控制指令至预设校准工具,使得预设校准工具驱动电子设备100绕图像传感器1220的Z轴旋转。比如,该旋转控制指令使得预设校准工具驱动电子设备100绕图像传感器1220的Z轴交替旋转,其中旋转的速度以及交替的频率可由本领域技术人员根据实际需要进行取值,此处不作具体限制。
在电子设备100的旋转过程中,实时获取电子设备100的运动数据并提供给光学防抖组件130,从而通过光学防抖组件130进行光学防抖处理。可以理解的是,由于本实施例仅开启了光学防抖组件130的图像传感器1220旋转防抖功能,光学防抖组件130在电子设备100的运动过程中将仅对图像传感器1220进行补偿旋转。此外,获取图像传感器1220在旋转过程中采集的矩形校准板的图像序列,记为第四图像序列。比如,通过图像传感器1220在旋转过程中采集矩形校准板一分钟时长的图像序列,得到第四图像序列。
本实施例中,还从光学防抖组件130获取图像传感器1220采集第四图像序列中每一第四图像的旋转姿态数据,记为第二旋转姿态数据。此外,还获取四角标记(左上角标记、右上角标记、右下角标记以及左下角标记)在每一第四图像中的位置坐标,记为第四位置坐标。
可以理解的是,对于一第四图像,若采用第一校正旋转矩阵校正对前述四角标记进行旋转校正,校正后的四角标记应当位于校正后的第四图像的对应四角位置。因此,根据每一第四图像对应的第二旋转姿态数据和第四位置坐标进行拟合,即可拟合得到旋转中心坐标以及第三函数关系。
在其他实施例中,在拟合得到旋转中心坐标和第三函数关系之后,还对旋转中心坐标和第三函数关系的拟合误差进行评估(可由本领域技术人员根据实际需要选取评估方式,此处不作具体限制,比如可以采用重投影误差),得到旋转中心坐标和第三函数关系的拟合误差,若旋转中心坐标和第三函数关系的拟合误差大于第四误差阈值(可由本领域技术人员根据实际需要取经验值),则识别并剔除明显异常的第二旋转姿态数据和第四位置坐标后再次进行拟合,若新拟合的旋转中心坐标和第三函数关系的拟合误差仍大于第四误差阈值,则重新获取新的第四图像序列以及新的第二旋转姿态数据和第四位置坐标进行拟合,直至得到拟合误差小于或等于第四误差阈值的第三函数关系。
可选地,在一实施例中,第三函数关系包括多项式函数,根据每一第四图像对应的第二旋转姿态数据和第四位置坐标,拟合得到旋转中心坐标和第三函数关系,包括:
根据每一第四图像对应的第二旋转姿态数据和第四位置坐标,按照如下公式拟合得到旋转中心坐标和第三函数关系:
θ=[Cx,Cy,α];
其中,Pi表示第i个四角标记的第四位置坐标,h2'表示第二旋转姿态数据,f()表示多项式函数,r表示预设搜索半径,α表示多项式函数的多项式系数,imW表示第四图像的宽,imH表示第四图像的高。
应当说明的是,在对f()进行拟合时,可由本领域技术人员根据实际需要构建合适的损失函数,比如,可由本领域技术人员根据实际几何关系进行构建,包括但不限于弦长关系或旋转关系等。
此外,本实施例中对预设搜索半径r的取值也不作具体限制,可由本领域技术人员根据实际需要进行取值。
此外,本实施例中对多项式函数的次数不作具体限制,可由本领域技术人员根据实际需要进行选取,比如,本实施例中,采用3次多项式函数。
可选地,在一实施例中,本申请提供的图像处理方法,还包括:
(1)开启光学防抖组件130的镜头1210平移防抖功能、图像传感器1220平移防抖功能以及图像传感器1220旋转防抖功能;
(2)发送旋转平移控制指令至预设校准工具,使得预设校准工具驱动电子设备100绕图像传感器1220的Z轴旋转,以及驱动电子设备100在电子设备100的X轴方向和Y轴方向平移;
(3)在电子设备100的旋转平移过程中,通过光学防抖组件130进行光学防抖处理,并获取图像传感器1220在旋转平移过程中采集的矩形校准板的第五图像序列;
(4)从光学防抖组件130获取镜头1210对应第五图像序列中每一第五图像的第七位置姿态数据、图像传感器1220采集每一第五图像时的第八位置姿态数据和第三旋转姿态数据;
(5)根据每一第五图像对应的第七位置姿态数据、第八位置姿态数据以及第一函数关系、第二函数关系,获取用于对每一第五图像进行平移校正的第二校正平移向量;
(6)根据每一第五图像对应的第三旋转姿态数据、第三函数关系以及旋转中心坐标,获取用于对每一第五图像进行旋转校正的第二校正旋转矩阵;
(7)根据第二校正平移向量和第二校正旋转矩阵分别对每一第五图像的中心像素进行平移校正和旋转校正,得到每一中心像素的校正坐标;
(8)获取中心标记在每一第五图像中的第五位置坐标,并根据每一第五图像对应的校正坐标和第五位置坐标的差异,对第一函数关系、第二函数关系以及第三函数关系进行联合修正。
本实施例中,还利用预设校准工具对第一函数关系、第二函数关系以及第三函数关系进行联合修正。同样的,按照以上方式首先将电子设备100固定于预设校准工具,使得电子设备100与预设校准工具中的矩形校准板的位置相对固定。具体可参照以上实施例中的相关描述,此处不再赘述。
在将电子设备100固定于预设校准工具,并使得电子设备100与预设校准工具中的矩形校准板的位置相对固定之后,即可利用预设校准工具对第一函数关系、第二函数关系以及第三函数关系进行联合修正。
由于此时对第一函数关系、第二函数关系以及第三函数关系进行联合修正,相应开启光学防抖组件130的全部防抖功能,即图像传感器1220平移防抖功能、镜头1210平移防抖功能和图像传感器1220旋转防抖功能,以此,使得光学防抖组件130在电子设备100运动时,根据电子设备100的运动对镜头1210进行补偿平移,以及对图像传感器1220进行补偿平移和补偿旋转。相应的,发送旋转平移控制指令至预设校准工具,使得预设校准工具驱动电子设备100绕图像传感器1220的Z轴旋转,同时驱动电子设备100在电子设备100的X轴方向和Y轴方向平移。比如,该旋转平移控制指令使得预设校准工具驱动电子设备100在其X轴方向和Y轴方向交替平移,同时绕图像传感器1220的Z轴交替旋转,其中平移的距离、交替平移的频率、旋转的速度以及交替旋转频率均可由本领域技术人员根据实际需要进行取值,此处不作具体限制。
在电子设备100的旋转平移过程中,实时获取电子设备100的运动数据并提供给光学防抖组件130,从而通过光学防抖组件130进行光学防抖处理。可以理解的是,由于本实施例开启了光学防抖组件130的全部防抖功能,光学防抖组件130在电子设备100的运动过程中将对镜头1210进行补偿平移,同时对图像传感器1220进行补偿平移和补偿旋转。此外,获取图像传感器1220在旋转平移过程中采集的矩形校准板的图像序列,记为第五图像序列。比如,通过图像传感器1220在旋转平移过程中采集矩形校准板一分钟时长的图像序列,得到第五图像序列。
本实施例中,从光学防抖组件130获取镜头1210对应第五图像序列中每一第五图像的位置姿态数据,也即是图像传感器1220采集每一第五图像时,镜头1210的位置姿态数据,记为第七位置姿态数据,此外,还获取图像传感器1220采集每一第五图像时的位置姿态数据,记为第八位置姿态数据,以及获取图像传感器1220采集每一第五图像时的旋转姿态数据,记为第三旋转姿态数据。
如上,在获取到每一第五图像对应的第七位置姿态数据、第八位置姿态数据以及第三旋转姿态数据之后,进一步根据每一第五图像对应的第七位置姿态数据、第八位置姿态数据以及第一函数关系和第二函数关系,获取用于对每一第五图像进行平移校正的校正平移向量,记为第二校正平移向量。具体可参照以上实施例中获取第一校正平移向量的方式相应实施,此处不再赘述。
此外,还根据第三函数关系、旋转中心坐标以及每一第五图像对应的第三旋转姿态数据,获取用于对每一第五图像进行旋转校正的校正旋转矩阵,记为第二校正旋转矩阵。具体可参照以上实施例中获取第一校正旋转矩阵的方式相应实施,此处不再赘述。
如上,在获取到用于对每一第五图像进行平移校正的第二校正平移向量以及用于对每一第五图像进行旋转校正的第二校正旋转矩阵之后,即根据第二校正平移向量和第二校正旋转矩阵分别对每一第五图像的中心像素进行平移校正和旋转校正,得到每一第五图像的中心像素的校正坐标。此外,还获取中心标记在每一第五图像中的位置坐标,记为第五位置坐标。可以理解的是,对于一第五图像,该第五图像对于的校正坐标和第五位置坐标越接近,则说明本实施例对第一函数关系、第二函数关系以及第三函数关系的总拟合误差越小。因此,本实施例根据每一第五图像对应的校正坐标和第五位置坐标间的差异,以尽可能的消除该差异为目标,对第一函数关系、第二函数关系以及第三函数关系进行联合修正。
比如,本实施例中根据第一函数关系、第二函数关系以及第三函数关系各自拟合误差的大小,按照由大至小的顺序进行修正。
可选地,在一实施例中,获取图像传感器1220采集的对应运动数据的光学防抖图像,包括:
(1)根据对应运动数据的第一时延参数对运动数据的第一获取时间戳进行修正,得到第一修正时间戳;
(3)按照第一修正时间戳,获取图像传感器1220采集的对应运动数据的光学防抖图像。
本实施例中,在获取图像传感器1220采集的对应运动数据的光学防抖图像时,首先获取运动数据的获取时间戳,记为第一获取时间戳,该第一获取时间戳用于描述获取到运动数据的获取时刻。
可以理解的是,运动传感器110从采集得到运动数据到输出该运动数据存在一定的时延,本实施例中,为了消除该时延,获取到与运动数据准确对应的光学防抖图像,预先校准有对应运动数据的第一时延参数,该第一时延参数用于描述运动传感器110采集到运动数据直至输出运动数据的时延。
相应的,本实施例根据对应运动数据的第一时延参数对第一获取时间戳进行修正,将修正后的第一获取时间戳记为第一修正时间戳,该第一修正时间戳即描述了前述运动数据的采集时刻。此时,按照第一修正时间戳,即可获取到图像传感器1220采集的对应前述运动数据的光学防抖图像。
可选地,在一实施例中,第一时延参数按照如下步骤预先生成:
(1)获取样本抖动图像序列;
(2)按照样本抖动图像序列中每一样本抖动图像的第二获取时间戳,获取对应每一样本抖动图像的样本运动数据,得到样本运动数据序列;
(3)根据预设时延参数、预设搜索步长、样本抖动图像序列及其对应的样本运动数据序列,搜索得到第一时延参数。
本实施例提供一可选地的第一时延参数的校准方式。
其中,首先获取未经电子防抖处理的图像序列作为样本,记为样本抖动图像序列。比如,关闭光学防抖组件130和电子防抖组件140的防抖功能,通过电子设备100拍摄得到一定时长的图像序列作为样本抖动图像序列。
此外,还按照样本抖动图像序列中每一样本抖动图像的第二获取时间戳(用于描述图像传感器1220输出对应的样本抖动图像的输出时刻),获取对应每一样本抖动图像的样本运动数据,得到与样本抖动图像序列对应的样本运动数据序列。
如上,在获取到样本抖动图像序列及其对应的样本运动数据序列之后,按照预设搜索策略,根据预设时延参数、预设搜索步长、样本抖动图像序列及其对应的样本运动数据序列,搜索得到第一时延参数。此处对预设搜索策略、预设时延参数以及预设搜索步长的配置不作具体限制,可由本领域技术人员根据实际需要进行配置。
可选地,在一实施例中,根据预设时延参数、预设搜索步长、样本抖动图像序列及其对应的样本运动数据序列,搜索得到第一时延参数,包括
(1)根据预设时延参数和预设搜索步长获取预设数量的候选时延参数;
(2)根据每一候选时延参数对样本运动数据序列进行修正,得到预设数量的修正样本运动数据序列;
(3)根据每一修正样本运动数据序列,通过电子防抖组件140对样本抖动图像序列进行电子防抖处理,得到预设数量的防抖图像序列;
(4)对每一防抖图像序列的防抖质量进行量化评分,得到每一防抖图像序列的防抖质量评分;
(5)将预设时延参数更新为防抖质量评分最高的防抖图像序列所对应的候选时延参数,以及根据预设更新参数对预设搜索步长进行更新;
(6)重复以上步骤,直至满足预设搜索条件,将满足预设搜索条件时的预设时延参数作为第一时延参数。
本实施例提供一可选地搜索第一时延参数的搜索策略。
其中,首先根据预设时延参数和预设搜索步长获取预设数量的候选时延参数。此处对预设数量的取值不作具体限制,比如,当取值为3时,以预设时延参数D0为中心,以预设搜索步长Δd生成[D0-Δd,D0,D0+Δd]3个候选时延参数。
然后,根据每一候选时延参数分别对样本运动数据序列进行修正,也即根据每一候选时延参数对样本运动数据序列中样本运动数据与样本抖动图像序列中样本抖动图像的对应关系进行更新,相应得到预设数量的修正样本运动数据序列;
然后,根据每一修正样本运动数据序列,通过电子防抖组件140对样本抖动图像序列进行电子防抖处理,得到预设数量的防抖图像序列,其中,对于一修正样本运动数据序列,将该修正样本运动数据序列中每一修正样本运动数据和样本抖动图像序列与之对应的样本抖动图像输入样本抖动图像进行防抖处理,相应得到对应该修正样本运动数据序列的一防抖图像序列。
如上,在得到预设数量的防抖图像序列之后,按照预设的量化评分策略对每一防抖图像序列的防抖质量进行量化评分,得到每一防抖图像序列的防抖质量评分。此次对量化评分策略的配置不作具体限制,可由本领域技术人员根据实际需要进行配置。
比如,本实施例中采用逐帧特征匹配以及平均特征距离统计的方式对防抖图像序列的防抖质量进行量化评分,可以表示为:
其中,s表示防抖质量评分(其值越大,表示防抖质量越高),p表示特征匹配点集,i表示防抖图像序列的帧号,N表示防抖图像序列中防抖图像的总帧数。应当说明的是,特征匹配算法及其描述子,可由本领域技术人员根据实际需要进行选择,包括但不限于SIFT、FAST、Harris、ORB等。
如上,在完成对每一防抖图像序列的量化评分,相应得到每一防抖图像序列的防抖质量评分之后,将预设时延参数更新为防抖质量评分最高的防抖图像序列所对应的候选时延参数,以及根据预设更新参数,按照预设更新策略对预设搜索步长进行更新。此处对预设更新策略的配置不作具体限制,以减少预设搜索步长为约束,可由本领域技术人员根据实际需要对预设更新策略进行配置。
比如,本实施例配置的预设更新策略可以表示为:
Δd′=Δd/M;M>1;
其中,Δd′表示更新后的预设搜索步长,Δd表示更新前的预设搜索步长,M表示预设更新参数。
在完成对预设时延参数和预设搜索步长的更新之后,重复以上步骤继续进行搜索,直至满足预设搜索条件,将满足预设搜索条件时的预设时延参数作为第一时延参数。此处对预设搜索条件的配置不作具体限制,可由本领域技术人员根据实际需要进行配置。
可选地,在一实施例中,预设搜索条件包括:
任一防抖图像序列的防抖质量评分大于或等于评分阈值;或者
更新后的预设搜索步长小于步长阈值;或者
搜索次数达到次数阈值。
应当说明的是,本实施例对评分阈值、步长阈值以及次数阈值的取值均不作具体限制,可由本领域技术人员根据实际需要取经验值。
可选地,在一实施例中,从光学防抖组件130获取镜头1210的第一位置姿态数据、图像传感器1220的第二位置姿态数据和第一旋转姿态数据,包括:
(1)根据对应光学防抖组件130的第二时延参数对第一修正时间戳进行修正,得到第二修正时间戳;
(2)按照第二修正时间戳,从光学防抖组件130获取镜头1210的第一位置姿态数据、图像传感器1220的第二位置姿态数据和第一旋转姿态数据。
可以理解的是,光学防抖组件130从采集得到镜头1210的位置姿态数据、图像传感器1220的位置姿态数据和旋转姿态数据到输出这些姿态数据存在一定的时延,本实施例中,为了消除该时延,获取到光学防抖图像准确对应的第一位置姿态数据、第二位置姿态数据以及第一旋转姿态数据,预先校准有对应光学防抖组件130的第二时延参数,该第二时延参数用于描述光学防抖组件130采集到前述姿态数据直至输出前述姿态数据的时延。
相应的,本实施例在从光学防抖组件130获取镜头1210的第一位置姿态数据、图像传感器1220的第二位置姿态数据和第一旋转姿态数据时,首先根据对应光学防抖组件130的第二时延参数对第一修正时间戳进行修正,得到第二修正时间戳;再按照第二修正时间戳,从光学防抖组件130获取镜头1210的第一位置姿态数据、图像传感器1220的第二位置姿态数据和第一旋转姿态数据,也即从光学防抖组件130获取输出时间戳与第二修正时间戳匹配的镜头1210的位置姿态数据作为第一位置姿态数据,从光学防抖组件130获取输出时间戳与第二修正时间戳匹配的图像传感器1220的位置姿态数据作为第二位置姿态数据,以及从光学防抖组件130获取输出时间戳与第二修正时间戳匹配的图像传感器1220的旋转姿态数据作为第一旋转姿态数据。
应当说明的是,本实施例对第二时延参数的校准方式不做具体限制,可由本领域技术人员根据实际需要选取。比如,本实施例采用与第一时延参数相同的校准策略(具体可参照以上实施例中的相关描述,此处不再赘述),并在完成对第一时延参数的校准后,再对第二时延参数进行校准。
可选地,在一实施例中,运动数据包括加速度数据和角速度数据。
请参照图7,为了更好的执行本申请所提供的图像处理方法,本实施例还提供一种图像处理装置300,如图7所示,该图像处理装置300包括光学防抖模块310、姿态获取模块320、姿态校正模块330以及电子防抖模块340,该图像处理装置300被配置为执行本申请提供的任一图像处理方法中的步骤,比如:
光学防抖模块310,用于获取电子设备的运动数据,并根据运动数据,通过光学防抖组件控制镜头在镜头的X轴方向和Y轴方向进行补偿平移,控制图像传感器在图像传感器的X轴方向和Y轴方向进行补偿平移,以及控制图像传感器绕图像传感器的Z轴进行补偿旋转;
姿态获取模块320,用于获取图像传感器采集的对应运动数据的光学防抖图像,以及从光学防抖组件获取镜头的第一位置姿态数据、图像传感器的第二位置姿态数据和第一旋转姿态数据;
姿态校正模块330,用于根据第一位置姿态数据、第二位置姿态数据以及第一旋转姿态数据对光学防抖图像的姿态进行还原校正,得到校正图像;
电子防抖模块340,用于根据运动数据,通过电子防抖组件对校正图像进行电子防抖处理,得到电子防抖图像。
应当说明的是,本申请实施例提供的图像处理装置300与上文实施例中的图像处理方法属于同一构思,其具体实现过程请参照以上相关实施例,此处不再赘述。
请结合参照图1和图8,本申请提供的电子设备100还可以包括存储器150和处理器160。本领域技术人员可以理解,图8中示出的电子设备100的结构并不构成对电子设备100的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
其中,存储器150可用于存储计算机程序和数据。存储器150存储的计算机程序中包含有可执行代码。计算机程序可以划分为各种功能模块。
处理器160是电子设备100的控制中心,利用各种接口和线路连接整个电子设备100的各个部分,通过运行或执行存储在存储器150内的计算机程序,以及调用存储在存储器150内的数据,执行电子设备100的各种功能和处理数据,从而对电子设备100进行整体控制。
在本申请实施例中,电子设备100中的处理器160将一个或一个以上的计算机程序对应的可执行代码加载到存储器150中,并由处理器160来执行从而执行本申请提供的任一图像处理方法中步骤,比如:
获取电子设备100的运动数据,并根据运动数据,通过光学防抖组件130控制镜头1210在镜头1210的X轴方向和Y轴方向进行补偿平移,控制图像传感器1220在图像传感器1220的X轴方向和Y轴分析进行补偿平移,以及控制图像传感器1220绕图像传感器1220的Z轴进行补偿旋转;
获取图像传感器1220采集的对应运动数据的光学防抖图像,以及从光学防抖组件130获取镜头1210的第一位置姿态数据、图像传感器1220的第二位置姿态数据和第一旋转姿态数据;
根据第一位置姿态数据、第二位置姿态数据以及第一旋转姿态数据对光学防抖图像的姿态进行还原校正,得到校正图像;
根据运动数据,通过电子防抖组件140对校正图像进行电子防抖处理,得到电子防抖图像。
应当说明的是,本申请实施例提供的电子设备100与上文实施例中的图像处理方法属于同一构思,其具体实现过程请参照以上相关实施例,此处不再赘述。
本申请实施例还提供一种计算机可读的存储介质,其中存储有计算机程序,该计算机程序能够被处理器进行加载,以执行本申请实施例所提供的任一种图像处理方法中的步骤。
其中,该存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该计算机可读的存储介质中所存储的计算机程序,可以执行本申请实施例所提供的任一种图像处理方法中的步骤,因此,可以实现本申请实施例所提供的任一种图像处理方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
以上对本申请实施例提供的图像处理方法、装置、电子设备及存储介质进行了详细介绍。本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请。同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (20)
1.一种图像处理方法,应用于电子设备,其特征在于,所述电子设备包括镜头、图像传感器、光学防抖组件和电子防抖组件,所述图像处理方法包括:
获取所述电子设备的运动数据,并根据所述运动数据,通过所述光学防抖组件控制所述镜头在所述镜头的X轴方向和Y轴方向进行补偿平移,控制所述图像传感器在所述图像传感器的X轴方向和Y轴方向进行补偿平移,以及控制所述图像传感器绕所述图像传感器的Z轴进行补偿旋转;
获取所述图像传感器采集的对应所述运动数据的光学防抖图像,以及从所述光学防抖组件获取所述镜头的第一位置姿态数据、所述图像传感器的第二位置姿态数据和第一旋转姿态数据;
根据所述第一位置姿态数据、所述第二位置姿态数据以及所述第一旋转姿态数据对所述光学防抖图像的姿态进行还原校正,得到校正图像;
根据所述运动数据,通过所述电子防抖组件对所述校正图像进行电子防抖处理,得到电子防抖图像。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一位置姿态数据、所述第二位置姿态数据以及所述第一旋转姿态数据对所述光学防抖图像的姿态进行还原校正,得到校正图像,包括:
根据所述第一位置姿态数据和所述第二位置姿态数据,获取用于对所述光学防抖图像进行平移校正的第一校正平移向量;
根据所述第一旋转姿态数据,获取用于对所述光学防抖图像进行旋转校正的第一校正旋转矩阵;
根据所述第一校正平移向量和所述第一校正旋转矩阵分别对所述光学防抖图像的姿态进行平移校正和旋转校正,得到所述校正图像。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一位置姿态数据和所述第二位置姿态数据,获取用于对所述光学防抖图像进行平移校正的第一校正平移向量,包括:
根据位置姿态数据和平移向量的第一函数关系,获取对应所述第一位置姿态数据的第一平移向量;
根据位置姿态数据和平移向量的第二函数关系,获取对应所述第二位置姿态数据的第二平移向量;
根据所述第一平移向量、所述第一平移向量对应的第一融合参数、所述第二平移向量及其对应的第二融合参数,融合得到所述第一平移向量和所述第二平移向量的融合平移向量;
将所述融合平移向量作为所述第一校正平移向量。
4.根据权利要求3所述的方法,其特征在于,将所述电子设备固定于预设校准工具,使得所述电子设备与所述预设校准工具中的矩形校准板的位置相对固定,所述矩形校准板包括中心标记,所述第一函数关系按照如下步骤预先生成:
开启所述光学防抖组件的镜头平移防抖功能,并关闭图像传感器平移防抖功能和图像传感器旋转防抖功能;
发送第一平移控制指令至所述预设校准工具,使得所述预设校准工具驱动所述电子设备在所述电子设备的X轴方向和Y轴方向平移;
在所述电子设备的平移过程中,通过所述光学防抖组件进行光学防抖处理,并获取所述图像传感器在平移过程中采集的所述矩形校准板的第一图像序列;
从所述光学防抖组件获取所述镜头对应所述第一图像序列中每一第一图像的第三位置姿态数据,以及获取所述中心标记在每一第一图像中的第一位置坐标;
根据每一第一图像对应的所述第三位置姿态数据和所述第一位置坐标,拟合得到所述第一函数关系。
5.根据权利要求3所述的方法,其特征在于,将所述电子设备固定于预设校准工具,使得所述电子设备与所述预设校准工具中的矩形校准板的位置相对固定,所述矩形校准板包括中心标记,所述第二函数关系按照如下步骤预先生成:
开启所述光学防抖组件的图像传感器平移防抖功能,并关闭镜头平移防抖功能和图像传感器旋转防抖功能;
发送第二平移控制指令至所述预设校准工具,使得所述预设校准工具驱动所述电子设备在所述电子设备的X轴方向和Y轴方向平移;
在所述电子设备的平移过程中,通过所述光学防抖组件进行光学防抖处理,并获取所述图像传感器在平移过程中采集的所述矩形校准板的第二图像序列;
从所述光学防抖组件获取所述图像传感器采集所述第二图像序列中每一第二图像时的第四位置姿态数据,以及获取所述中心标记在每一第二图像中的第二位置坐标;
根据每一第二图像对应的所述第四位置姿态数据和所述第二位置坐标,拟合得到所述第二函数关系。
6.根据权利要求3所述的方法,其特征在于,将所述电子设备固定于预设校准工具,使得所述电子设备与所述预设校准工具中的矩形校准板的位置相对固定,所述矩形校准板包括中心标记,所述第一融合参数和所述第二融合参数按照如下步骤预先确定:
开启所述光学防抖组件的镜头平移防抖功能和图像传感器平移防抖功能,并关闭图像传感器旋转防抖功能;
发送第三平移控制指令至所述预设校准工具,使得所述预设校准工具驱动所述电子设备在所述电子设备的X轴方向和Y轴方向平移;
在所述电子设备的平移过程中,通过所述光学防抖组件进行光学防抖处理,并获取所述图像传感器在平移过程中采集的所述矩形校准板的第三图像序列;
从所述光学防抖组件获取所述镜头对应所述第三图像序列中每一第三图像的第五位置姿态数据,以及从所述光学防抖组件获取所述图像传感器采集所述第三图像序列中每一第三图像时的第六位置姿态数据;
根据所述第一函数关系,获取对应每一第五位置姿态数据的第三平移向量,以及根据所述第二函数关系,获取对应每一第六位置姿态数据的第四平移向量;
获取所述中心标记在每一第三图像中的第三位置坐标,并根据每一第三图像对应的所述第三位置坐标、所述第三平移向量以及所述第四平移向量,确定所述第一融合参数和所述第二融合参数。
7.根据权利要求3所述的方法,其特征在于,所述根据所述第一旋转姿态数据,获取用于对所述光学防抖图像进行旋转校正的第一校正旋转矩阵,包括:
根据旋转姿态数据和旋转角度的第三函数关系,获取对应所述第一旋转姿态数据的旋转角度;
获取所述光学防抖图像的旋转中心坐标,并根据所述旋转中心坐标和所述旋转角度获取所述第一校正旋转矩阵。
9.根据权利要求7所述的方法,其特征在于,将所述电子设备固定于预设校准工具,使得所述电子设备与所述预设校准工具中的矩形校准板的位置相对固定,所述矩形校准板包括四角标记,所述旋转中心坐标和所述第三函数关系按照如下步骤生成:
开启所述光学防抖组件的图像传感器旋转防抖功能,并关闭镜头平移防抖功能和图像传感器平移防抖功能;
发送旋转控制指令至所述预设校准工具,使得所述预设校准工具驱动所述电子设备绕所述图像传感器的Z轴旋转;
在所述电子设备的旋转过程中,通过所述光学防抖组件进行光学防抖处理,并获取所述图像传感器在旋转过程中采集的所述矩形校准板的第四图像序列;
从所述光学防抖组件获取所述图像传感器采集所述第四图像序列中每一第四图像时的第二旋转姿态数据,以及获取所述四角标记在每一第四图像中的第四位置坐标;
根据每一第四图像对应的所述第二旋转姿态数据和所述第四位置坐标,拟合得到所述旋转中心坐标和所述第三函数关系。
11.根据权利要求10所述的方法,其特征在于,还包括:
开启所述光学防抖组件的镜头平移防抖功能、图像传感器平移防抖功能以及图像传感器旋转防抖功能;
发送旋转平移控制指令至所述预设校准工具,使得所述预设校准工具驱动所述电子设备绕所述图像传感器的Z轴旋转,以及驱动所述电子设备在所述电子设备的X轴方向和Y轴方向平移;
在所述电子设备的旋转平移过程中,通过所述光学防抖组件进行光学防抖处理,并获取所述图像传感器在旋转平移过程中采集的所述矩形校准板的第五图像序列;
从所述光学防抖组件获取所述镜头对应所述第五图像序列中每一第五图像的第七位置姿态数据、所述图像传感器采集每一第五图像时的第八位置姿态数据和第三旋转姿态数据;
根据每一第五图像对应的所述第七位置姿态数据、所述第八位置姿态数据以及所述第一函数关系、所述第二函数关系,获取用于对每一第五图像进行平移校正的第二校正平移向量;
根据每一第五图像对应的所述第三旋转姿态数据、所述第三函数关系以及所述旋转中心坐标,获取用于对每一第五图像进行旋转校正的第二校正旋转矩阵;
根据所述第二校正平移向量和所述第二校正旋转矩阵分别对每一第五图像的中心像素进行平移校正和旋转校正,得到每一中心像素的校正坐标;
获取所述中心标记在每一第五图像中的第五位置坐标,并根据每一第五图像对应的所述校正坐标和所述第五位置坐标的差异,对所述第一函数关系、所述第二函数关系以及所述第三函数关系进行联合修正。
12.根据权利要求1-11任一项所述的方法,其特征在于,所述获取所述图像传感器采集的对应所述运动数据的光学防抖图像,包括:
根据对应所述运动数据的第一时延参数,对所述运动数据的第一获取时间戳进行修正,得到第一修正时间戳;
按照所述第一修正时间戳,获取所述图像传感器采集的对应所述运动数据的光学防抖图像。
13.根据权利要求12所述的方法,其特征在于,所述第一时延参数按照如下步骤预先生成:
获取样本抖动图像序列;
按照所述样本抖动图像序列中每一样本抖动图像的第二获取时间戳,获取对应每一样本抖动图像的样本运动数据,得到样本运动数据序列;
根据预设时延参数、预设搜索步长、所述样本抖动图像序列及其对应的样本运动数据序列,搜索得到所述第一时延参数。
14.根据权利要求13所述的方法,其特征在于,所述根据预设时延参数、预设搜索步长、所述样本抖动图像序列及其对应的样本运动数据序列,搜索得到所述第一时延参数,包括
根据所述预设时延参数和所述预设搜索步长获取预设数量的候选时延参数;
根据每一候选时延参数分别对所述样本运动数据序列进行修正,得到预设数量的修正样本运动数据序列;
根据每一修正样本运动数据序列,通过所述电子防抖组件对所述样本抖动图像序列进行电子防抖处理,得到预设数量的防抖图像序列;
对每一防抖图像序列的防抖质量进行量化评分,得到每一防抖图像序列的防抖质量评分;
将所述预设时延参数更新为防抖质量评分最高的防抖图像序列所对应的候选时延参数,以及根据预设更新参数对所述预设搜索步长进行更新;
重复以上步骤,直至满足预设搜索条件,将满足预设搜索条件时的预设时延参数作为所述第一时延参数。
15.根据权利要求14所述的方法,其特征在于,所述预设搜索条件包括:
任一防抖图像序列的防抖质量评分大于或等于评分阈值;或者
更新后的预设搜索步长小于步长阈值。
16.根据权利要求12所述的方法,其特征在于,所述从所述光学防抖组件获取所述镜头的第一位置姿态数据、所述图像传感器的第二位置姿态数据和第一旋转姿态数据,包括:
根据对应所述光学防抖组件的第二时延参数对所述第一修正时间戳进行修正,得到第二修正时间戳;
按照所述第二修正时间戳,从所述光学防抖组件获取所述镜头的第一位置姿态数据、所述图像传感器的第二位置姿态数据和第一旋转姿态数据。
17.根据权利要求1-11任一项所述的方法,其特征在于,所述运动数据包括加速度数据和角速度数据。
18.一种图像处理装置,应用于电子设备,其特征在于,所述电子设备包括镜头、图像传感器、光学防抖组件和电子防抖组件,所述图像处理装置包括:
光学防抖模块,用于获取所述电子设备的运动数据,并根据所述运动数据,通过所述光学防抖组件控制所述镜头在所述镜头的X轴方向和Y轴方向进行补偿平移,控制所述图像传感器在所述图像传感器的X轴方向和Y轴方向进行补偿平移,以及控制所述图像传感器绕所述图像传感器的Z轴进行补偿旋转;
姿态获取模块,用于获取所述图像传感器采集的对应所述运动数据的光学防抖图像,以及从所述光学防抖组件获取所述镜头的第一位置姿态数据、所述图像传感器的第二位置姿态数据和第一旋转姿态数据;
姿态校正模块,用于根据所述第一位置姿态数据、所述第二位置姿态数据以及所述第一旋转姿态数据对所述光学防抖图像的姿态进行还原校正,得到校正图像;
电子防抖模块,用于根据所述运动数据,通过所述电子防抖组件对所述校正图像进行电子防抖处理,得到电子防抖图像。
19.一种电子设备,所述电子设备包括镜头、图像传感器、光学防抖组件、电子防抖组件、处理器和存储器,所述存储器存储有计算机程序,其特征在于,所述处理器通过加载所述计算机程序执行如权利要求1-17任一项所述的方法。
20.一种计算机可读的存储介质,其上存储有计算机程序,其特征在于,当所述计算机程序被处理器加载时执行如权利要求1-17任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110777734.0A CN113572929B (zh) | 2021-07-09 | 2021-07-09 | 图像处理方法、装置、电子设备及存储介质 |
PCT/CN2022/092755 WO2023279849A1 (zh) | 2021-07-09 | 2022-05-13 | 图像处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110777734.0A CN113572929B (zh) | 2021-07-09 | 2021-07-09 | 图像处理方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113572929A true CN113572929A (zh) | 2021-10-29 |
CN113572929B CN113572929B (zh) | 2023-06-16 |
Family
ID=78164153
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110777734.0A Active CN113572929B (zh) | 2021-07-09 | 2021-07-09 | 图像处理方法、装置、电子设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN113572929B (zh) |
WO (1) | WO2023279849A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114463432A (zh) * | 2021-12-21 | 2022-05-10 | 国核电力规划设计研究院有限公司 | 一种用于陀螺仪电子防抖的参数校正方法 |
WO2023279849A1 (zh) * | 2021-07-09 | 2023-01-12 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN117896618A (zh) * | 2024-03-15 | 2024-04-16 | 深圳市浩瀚卓越科技有限公司 | 一种云台拍摄防抖方法、装置、设备及存储介质 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117135459A (zh) * | 2023-04-07 | 2023-11-28 | 荣耀终端有限公司 | 图像防抖方法与电子设备 |
CN118102099A (zh) * | 2024-04-17 | 2024-05-28 | 江西省自然资源事业发展中心 | 一种自然资源监管视频拍摄防抖方法和装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105306804A (zh) * | 2014-07-31 | 2016-02-03 | 北京展讯高科通信技术有限公司 | 智能终端及其视频稳像方法及装置 |
US20160360111A1 (en) * | 2014-08-25 | 2016-12-08 | Apple Inc. | Combined Optical And Electronic Image Stabilization |
CN108353131A (zh) * | 2016-10-17 | 2018-07-31 | 华为技术有限公司 | 获取图像的方法和终端设备 |
CN110430365A (zh) * | 2019-08-26 | 2019-11-08 | Oppo广东移动通信有限公司 | 防抖方法、装置、计算机设备和存储介质 |
CN110891133A (zh) * | 2018-09-07 | 2020-03-17 | 佳能株式会社 | 照相机、镜头装置及其控制方法和存储介质 |
CN112073600A (zh) * | 2019-06-11 | 2020-12-11 | 南昌欧菲光电技术有限公司 | 摄像头模组、电子设备及其光学防抖方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6448218B2 (ja) * | 2014-05-12 | 2019-01-09 | キヤノン株式会社 | 撮像装置、その制御方法および情報処理システム |
CN110769146B (zh) * | 2018-07-25 | 2021-01-15 | 北京小米移动软件有限公司 | 拍摄方法及电子设备 |
CN110858873B (zh) * | 2018-08-23 | 2021-06-29 | 北京小米移动软件有限公司 | 电子设备和拍摄方法 |
CN113596322B (zh) * | 2021-07-09 | 2023-06-30 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN113572929B (zh) * | 2021-07-09 | 2023-06-16 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及存储介质 |
-
2021
- 2021-07-09 CN CN202110777734.0A patent/CN113572929B/zh active Active
-
2022
- 2022-05-13 WO PCT/CN2022/092755 patent/WO2023279849A1/zh unknown
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105306804A (zh) * | 2014-07-31 | 2016-02-03 | 北京展讯高科通信技术有限公司 | 智能终端及其视频稳像方法及装置 |
US20160360111A1 (en) * | 2014-08-25 | 2016-12-08 | Apple Inc. | Combined Optical And Electronic Image Stabilization |
CN108353131A (zh) * | 2016-10-17 | 2018-07-31 | 华为技术有限公司 | 获取图像的方法和终端设备 |
CN110891133A (zh) * | 2018-09-07 | 2020-03-17 | 佳能株式会社 | 照相机、镜头装置及其控制方法和存储介质 |
CN112073600A (zh) * | 2019-06-11 | 2020-12-11 | 南昌欧菲光电技术有限公司 | 摄像头模组、电子设备及其光学防抖方法 |
CN110430365A (zh) * | 2019-08-26 | 2019-11-08 | Oppo广东移动通信有限公司 | 防抖方法、装置、计算机设备和存储介质 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023279849A1 (zh) * | 2021-07-09 | 2023-01-12 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN114463432A (zh) * | 2021-12-21 | 2022-05-10 | 国核电力规划设计研究院有限公司 | 一种用于陀螺仪电子防抖的参数校正方法 |
CN117896618A (zh) * | 2024-03-15 | 2024-04-16 | 深圳市浩瀚卓越科技有限公司 | 一种云台拍摄防抖方法、装置、设备及存储介质 |
CN117896618B (zh) * | 2024-03-15 | 2024-05-14 | 深圳市浩瀚卓越科技有限公司 | 一种云台拍摄防抖方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113572929B (zh) | 2023-06-16 |
WO2023279849A1 (zh) | 2023-01-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113572929B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
JP4618370B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP4962460B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP4857363B2 (ja) | 像振れ補正装置および撮像装置 | |
JP5284169B2 (ja) | 像振れ補正装置およびそれを具備する光学機器、撮像装置 | |
JP2009241247A (ja) | ステレオ画像型検出移動装置 | |
CN110475050A (zh) | 提供稳定功能的相机模块和包括该相机模块的电子设备 | |
Viéville | A few steps towards 3d active vision | |
CN113596322B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
JP2006099109A (ja) | 2つの2軸線形加速度計を用いて画像取込装置の動きを検出するためのシステムおよび方法 | |
US20140063279A1 (en) | Image capture device and image processor | |
JP5361551B2 (ja) | 像振れ補正装置およびそれを備える光学機器、撮像装置、並びに像振れ補正装置の制御方法 | |
JPS59115677A (ja) | 画像処理装置 | |
Ude et al. | Foveated vision systems with two cameras per eye | |
US11412142B2 (en) | Translation correction for optical image stabilization | |
US11164321B2 (en) | Motion tracking system and method thereof | |
JP2008204384A (ja) | 撮像装置、物体検出方法及び姿勢パラメータの算出方法 | |
JPH11306363A (ja) | 画像入力装置及び画像入力方法 | |
CN111711756A (zh) | 一种图像防抖方法、电子设备及存储介质 | |
US11310423B2 (en) | Image capturing method and image capturing apparatus | |
EP3718302B1 (en) | Method and system for handling 360 degree image content | |
CN109683345A (zh) | 抖动校正装置、镜头镜筒以及摄影装置 | |
CN110785792A (zh) | 3d建模方法、电子设备、存储介质及程序产品 | |
JP2019161539A (ja) | 撮像装置およびその制御方法 | |
KR20200065175A (ko) | 기판 이송 시스템 및 기판 이송 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |