CN110660034A - 图像校正方法、装置及电子设备 - Google Patents
图像校正方法、装置及电子设备 Download PDFInfo
- Publication number
- CN110660034A CN110660034A CN201910956489.2A CN201910956489A CN110660034A CN 110660034 A CN110660034 A CN 110660034A CN 201910956489 A CN201910956489 A CN 201910956489A CN 110660034 A CN110660034 A CN 110660034A
- Authority
- CN
- China
- Prior art keywords
- image
- corrected
- target object
- function
- distortion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 238000003702 image correction Methods 0.000 title claims abstract description 40
- 238000012545 processing Methods 0.000 claims abstract description 67
- 230000006870 function Effects 0.000 claims description 286
- 238000012937 correction Methods 0.000 claims description 162
- 230000004927 fusion Effects 0.000 claims description 64
- 230000000875 corresponding effect Effects 0.000 claims description 39
- 238000013507 mapping Methods 0.000 claims description 24
- 239000011159 matrix material Substances 0.000 claims description 24
- 238000004590 computer program Methods 0.000 claims description 8
- 238000001514 detection method Methods 0.000 claims description 7
- 230000005855 radiation Effects 0.000 claims description 5
- 230000002596 correlated effect Effects 0.000 claims description 2
- 230000000694 effects Effects 0.000 abstract description 18
- 230000000007 visual effect Effects 0.000 abstract description 14
- 238000010586 diagram Methods 0.000 description 17
- 238000004422 calculation algorithm Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000003384 imaging method Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000004321 preservation Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012634 optical imaging Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G06T5/80—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
Abstract
本发明提供了一种图像校正方法、装置及电子设备,涉及图像处理技术领域,该方法包括:获取待校正图像以及待校正图像的采集设备的设备参数;检测待校正图像中的目标对象,得到对象信息;对象信息包括目标对象在待校正图像中的大小和/或位置;根据对象信息以及设备参数对待校正图像进行校正处理。本发明可以有效提升图像校正效果,为用户带来更好的视觉观感。
Description
技术领域
本发明涉及图像处理技术领域,尤其是涉及一种图像校正方法、装置及电子设备。
背景技术
相机是基于光学成像原理形成并记录图像的设备,通过对相机的拍摄模式进行配置可以拍摄得到不同视觉效果的图像,例如将相机的摄像头配置为超广角摄像头,可以拍摄得到视野更为宽阔的图像,但是由于超广角摄像头的中心区域与边缘区域的厚度不同,将导致得到的图像存在畸变,最直观的畸变表现为图像中的直线成像弯曲,尤其是位于图像边缘处的直线弯曲程度较大。
因此,为了避免图像畸变对人类视觉感受的影响,通常需要对超广角摄像头拍摄得到的畸变图像进行畸变校正处理,以使图像中的直线保持较好的线性,但是现有技术中的畸变校正处理技术将导致图像中的部分非直线区域被异常拉伸,诸如,位于图像边缘处的人脸被异常拉伸,从而导致人脸畸变。因此,现有的图像校正方式难以得到视觉效果较好的图像,校正效果不佳,用户视觉观感较差。
发明内容
有鉴于此,本发明的目的在于提供一种图像校正方法、装置及电子设备,可以有效提升图像校正效果,为用户带来更好的视觉观感。
为了实现上述目的,本发明实施例采用的技术方案如下:
第一方面,本发明实施例提供了一种图像校正方法,包括:获取待校正图像以及所述待校正图像的采集设备的设备参数;检测所述待校正图像中的目标对象,得到对象信息;所述对象信息包括所述目标对象在所述待校正图像中的大小和/或位置;根据所述对象信息以及所述设备参数对所述待校正图像进行校正处理。
进一步,所述设备参数包括相机内参数和畸变参数,所述根据所述对象信息以及所述设备参数对所述待校正图像进行校正处理的步骤,包括:根据所述相机内参数和所述畸变参数确定所述待校正图像的畸变校正函数;其中,所述畸变校正函数用于表征所述待校正图像中每个像素点的像素距离值与像素偏移值之间的关系;所述像素距离值为像素点与所述待校正图像的中心像素点之间的距离值,所述像素偏移值为像素点的实际位置与理论位置之间的偏移值;根据所述畸变校正函数、所述对象信息和所述待校正图像的中心像素点的坐标,确定所述目标对象的反畸变函数;基于所述畸变校正函数和所述反畸变函数对所述待校正图像进行校正处理。
进一步,所述根据所述畸变校正函数、所述对象信息和所述待校正图像的中心像素点的坐标,确定所述目标对象的反畸变函数的步骤,包括:如果所述对象信息包括所述目标对象在所述待校正图像中的大小,根据所述待校正图像的图像尺寸和所述目标对象在所述待校正图像中的大小,确定所述目标对象相对于所述待校正图像的大小权重;如果所述对象信息包括所述目标对象在所述待校正图像中的位置,根据所述待校正图像的中心像素点的坐标和所述目标对象在所述待校正图像中的位置,确定所述目标对象相对于所述待校正图像的位置权重;根据所述畸变校正函数以及所述目标对象相对于所述待校正图像的权重,确定所述目标对象的反畸变函数;其中,所述权重包括大小权重和/或位置权重。
进一步,所述待校正图像的图像尺寸包括所述待校正图像的短边长;所述目标对象在所述待校正图像中的大小包括所述目标对象在所述待校正图像中的高度值;所述根据所述待校正图像的图像尺寸和所述目标对象在所述待校正图像中的大小,确定所述目标对象相对于所述待校正图像的大小权重的步骤,包括:获取所述目标对象在所述待校正图像中的高度值与所述待校正图像的短边长的比值;根据所述比值确定所述目标对象相对于所述待校正图像的大小权重;其中,所述大小权重与所述比值呈线性关系且正相关。
进一步,所述根据所述待校正图像的中心像素点的坐标和所述目标对象在所述待校正图像中的位置,确定所述目标对象相对于所述待校正图像的位置权重的步骤,包括:根据所述待校正图像的中心像素点的坐标和所述目标对象在所述待校正图像中的位置,确定中心距离;其中,所述中心距离为所述目标对象的中心像素点到所述待校正图像的中心像素点的距离;计算所述中心距离与所述待校正图像的对角线长度的比值,并根据计算得到的比值确定所述目标对象相对于所述待校正图像的位置权重。
进一步,所述根据所述畸变校正函数以及所述目标对象相对于所述待校正图像的权重,确定所述目标对象的反畸变函数的步骤,包括:获取所述畸变校正函数的反函数;根据所述畸变校正函数的反函数、所述目标对象相对于所述待校正图像的大小权重和位置权重确定所述目标对象的反畸变函数。
进一步,所述根据所述畸变校正函数的反函数、所述目标对象相对于所述待校正图像的大小权重和位置权重确定所述目标对象的反畸变函数的步骤,包括:按照如下公式确定所述目标对象的反畸变函数fy(μ,σ):fy(μ,σ)=fx(r)-1*μ*σ,其中,fx(r)表示所述畸变校正函数,μ表示所述目标对象相对于所述待校正图像的大小权重,σ表示目标对象相对于所述待校正图像的位置权重,r表示所述目标对象的像素点与所述待校正图像的中心像素点之间的距离。
进一步,所述基于所述畸变校正函数和所述反畸变函数对所述待校正图像进行校正处理的步骤,包括:对所述畸变校正函数和所述反畸变函数进行融合,得到融合函数;基于所述融合函数对所述待校正图像进行校正处理。
进一步,所述目标对象的反畸变函数包括所述目标对象上的多条目标线段分别对应的反畸变函数;多条所述目标线段上的像素点组合形成所述目标对象上的所有像素点;所述目标线段为以所述待校正图像的中心像素点为中心向外辐射的辐射线与所述目标对象相交的交线;所述对所述畸变校正函数和所述反畸变函数进行融合,得到融合函数的步骤,包括:对所述畸变校正函数和每条所述目标线段对应的反畸变函数进行融合,得到每条所述目标线段对应的融合函数;所述基于所述融合函数对所述待校正图像进行校正处理的步骤,包括:针对每条所述目标线段,采用该目标线段对应的融合函数对该目标线段上的像素点进行校正,得到校正后的目标线段;基于所有校正后的目标线段以及所述畸变校正函数对所述待校正图像进行校正处理。
进一步,所述基于所述融合函数对所述待校正图像进行校正处理的步骤包括:基于所述融合函数获取所述待校正图像对应的坐标映射矩阵;根据所述坐标映射矩阵和预设的remap函数对所述待校正图像进行重映射处理,得到校正图像。
进一步,所述待校正图像为所述采集设备通过超广角镜头拍摄得到的。
第二方面,本发明实施例还提供一种图像校正装置,包括:获取模块,用于获取待校正图像以及所述待校正图像的采集设备的设备参数;检测模块,用于检测所述待校正图像中的目标对象,得到对象信息;所述对象信息包括所述目标对象在所述待校正图像中的大小和/或位置;校正模块,用于根据所述对象信息以及所述设备参数对所述待校正图像进行校正处理。
第三方面,本发明实施例提供了一种电子设备,包括处理器和存储装置;所述存储装置上存储有计算机程序,所述计算机程序在被所述处理器运行时执行如第一方面提供的任一项所述的方法。
第四方面,本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行上述第一方面提供的任一项所述的方法的步骤。
本发明实施例提供了一种图像校正方法、装置及电子设备,首先获取待校正图像以及待校正图像的采集设备的设备参数,然后检测待校正图像中的目标对象,得到包含有目标对象在待校正图像中的大小和/或位置的对象信息,进而基于对象信息和设备参数对待校正图像进行校正处理。本发明实施例在对待校正图像进行校正时,综合考虑到了待校正图像的采集设备参数和待校正图像中的对象信息(目标对象在待校正图像中的大小和/或位置),从而在基于设备参数对待校正图像进行校正的同时有效缓解目标对象产生畸变的问题,有效提高了图像校正效果,从而为用户带来更好的视觉观感。
本发明实施例的其他特征和优点将在随后的说明书中阐述,或者,部分特征和优点可以从说明书推知或毫无疑义地确定,或者通过实施本发明实施例的上述技术即可得知。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了本发明实施例所提供的一种畸变校正处理结果示意图;
图2示出了本发明实施例所提供的一种保形处理结果示意图;
图3示出了本发明实施例所提供的一种电子设备的结构示意图;
图4示出了本发明实施例所提供的一种图像校正方法的流程示意图;
图5示出了本发明实施例所提供的一种大小权重与比值的关系示意图;
图6示出了本发明实施例所提供的一种图像中心辐射示意图;
图7示出了本发明实施例所提供的一种λ与r的关系示意图;
图8示出了本发明实施例所提供的一种曲线示意图;
图9示出了本发明实施例所提供的另一种图像校正方法的流程示意图;
图10示出了本发明实施例所提供的一种畸变校正处理结果示意图;
图11示出了本发明实施例所提供的一种图像校正装置的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。
相机在不同拍摄模式下可采用不同类型的镜头,为了拍摄到视野宽阔的图像,可采用超广角镜头。超广角镜头通常是指有效FOV(Field of View,视场)超过95°的镜头,超广角镜头的视角大于普通广角镜头的视角,因此,通过超广角镜头中某一视点观察到的景物范围也相对较大;另外,超广角镜头的景深较长,通过超广角镜头拍摄得到的图像具有更大的清晰范围,而且超广角镜头能够强调图像中的透视效果,善于夸张前景和表现场景的远近感,从而使拍摄的图像更具感染力。在实际应用中,由于超广角镜头的成像视野宽阔,因此较好的应用于拍摄风景照以及合照等场景中。
但是超广角镜头的中心区域与边缘区域的厚度不同,因此拍摄得到的图像普遍存在畸变现象,主要体现为图像中的直线畸变为曲线。现有技术为改善此问题,主要基于相机参数对畸变图像进行畸变校正处理,然而,得到的图像仍然存在畸变问题。为便于理解,以图像中包含有人脸为例,现有技术中通常采用相机标定技术获取诸如相机内参矩阵和相机畸变参数等相机参数,并对图像进行透视还原,从而校正图像中畸变的直线,但是参见图1所示的一种畸变校正处理结果示意图可知,这种校正方式虽然可以较好的保持图像中直线区域的线性,但是图像边缘的人脸被异常拉伸(如,图1中边缘侧的人脸被横向异常拉伸),进而导致人脸产生畸变。为了保持人脸不变,现有技术中虽然提出了保形算法,由于保形算法通常采用全局方式对整张图像进行处理,因此保形算法虽然可以缓解人脸出现畸变的情况,但是对于图像中的非人脸部分的校正效果不佳,具体可参见图2所示的一种保形处理的处理结果示意图,图2中直线区域存在弯曲现象。
为了改善上述问题,本发明实施例提供的一种图像校正方法、装置及电子设备,该技术可应用于需要对图像进行畸变校正的场景,以下对本发明实施例进行详细介绍。
实施例一:
首先,参照图3来描述用于实现本发明实施例的一种图像校正方法及装置的示例电子设备100。
如图3所示的一种电子设备的结构示意图,电子设备100包括一个或多个处理器102、一个或多个存储装置104、输入装置106、输出装置108以及图像采集装置110,这些组件通过总线系统112和/或其它形式的连接机构(未示出)互连。应当注意,图3所示的电子设备100的组件和结构只是示例性的,而非限制性的,根据需要,所述电子设备也可以具有其他组件和结构。
所述处理器102可以采用数字信号处理器(DSP)、现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)中的至少一种硬件形式来实现,所述处理器102可以是中央处理单元(CPU)、图形处理单元(GPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元中的一种或几种的组合,并且可以控制所述电子设备100中的其它组件以执行期望的功能。
所述存储装置104可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器102可以运行所述程序指令,以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据,例如所述应用程序使用和/或产生的各种数据等。
所述输入装置106可以是用户用来输入指令的装置,并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。
所述输出装置108可以向外部(例如,用户)输出各种信息(例如,图像或声音),并且可以包括显示器、扬声器等中的一个或多个。
所述图像采集装置110可以拍摄用户期望的图像(例如照片、视频等),并且将所拍摄的图像存储在所述存储装置104中以供其它组件使用。
示例性地,用于实现根据本发明实施例的图像校正方法及装置的示例电子设备可以被实现为诸如相机、智能手机、平板电脑、计算机等任何具有处理能力的设备上。
实施例二:
参见图4所示的一种图像校正方法的流程示意图,该方法主要包括步骤S402至步骤S406:
步骤S402,获取待校正图像以及待校正图像的采集设备的设备参数。
待校正图像通常是需要进行图像校正处理的畸变图像;待校正图像的采集设备可以是诸如相机或智能手机等带有摄像头的设备;设备参数可以包括采集设备的相机外参数、相机内参数或畸变参数中的一种或多种。在一些实施方式中,直接将相机的摄像头拍摄得到的图像作为待校正图像,并直接获取相机的设备参数。在另一些实施方式中,也可以为用户提供上传通道,用户可自行上传待校正图像以及待校正图像的采集设备的设备参数。
步骤S404,检测待校正图像中的目标对象,得到对象信息。
其中,目标对象可以包括诸如人脸、车辆或动植物等对象,具体可以根据实际需求而设定,对象信息包括目标对象在待校正图像中的大小和/或位置,在具体实现时,可以基于目标检测算法检测待校正图像中的目标对象,得到目标对象的包围框,进而确定目标对象的包围框在待校正图像中的大小和/或位置,其中,目标对象在待校正图像中的大小可以采用包围框在待校正图像中的高度值和/或宽度值表征,目标对象在待校正图像中的位置可以采用包围框在待校正图像中所处区域的坐标值表征。
步骤S406,根据对象信息以及设备参数对待校正图像进行校正处理。
在一种具体的实施方式中,可以基于设备参数拟合畸变校正函数,并基于对象信息拟合反畸变函数,通过对畸变校正函数和反畸变函数进行融合,得到校正处理所需的融合函数,进而基于融合函数对待校正图像进行校正处理。
本发明实施例提供的上述图像校正方法,首先获取待校正图像以及待校正图像的采集设备的设备参数,然后检测待校正图像中的目标对象,得到包含有目标对象在待校正图像中的大小和/或位置的对象信息,进而基于对象信息和设备参数对待校正图像进行校正处理。本发明实施例在对待校正图像进行校正时,综合考虑到了待校正图像的采集设备参数和待校正图像中的对象信息(目标对象在待校正图像中的大小和/或位置),从而在基于设备参数对待校正图像进行校正的同时有效缓解目标对象产生畸变的问题,有效提高了图像校正效果,从而为用户带来更好的视觉观感。
为便于对上述步骤S406进行理解,本发明实施例提供了一种根据对象信息以及设备参数对待校正图像进行校正处理的具体实现方式,其中,设备参数可以包括相机内参数和畸变参数,相机内参数又可以包括标定内参数和待校正图像中心像素点坐标,具体而言,相机内参数可以表征为(α,β,u0,v0),其中,α和β表示相机的标定内参数,(u0,v0)表示待校正图像的中心像素点坐标,畸变参数又可以包括切向畸变参数和径向畸变参数,具体而言,切向畸变参数可以表征为p1和p2,径向畸变参数可以表征为k1、k2、k3、k4、k5和k6。上述步骤S406的具体实现方式可参见如下步骤1至步骤3:
步骤1,根据相机内参数和畸变参数确定待校正图像的畸变校正函数。
其中,畸变校正函数用于表征待校正图像中每个像素点的像素距离值与像素偏移值之间的关系,像素距离值为像素点与待校正图像的中心像素点之间的距离值,像素偏移值为像素点的实际位置与理论位置之间的偏移值。考虑到对设备参数进行标定可以初步校正采集设备,从而得到成像效果较好的待校正图像,因此在一种实施方式中,可以预先对采集设备的设备参数进行标定,并根据校正后的相机内参数和畸变参数确定待校正图像的畸变校正函数,其中,标定方法可以采用张正友标定法、传统相机标定法、主动视觉标定法或相机自标定法等。考虑到设备参数中的切向畸变参数对待校正图像的影响较小,即待校正图像中存在的畸变主要为径向拉伸,因此本发明实施例主要通过径向畸变参数确定畸变校正函数,本发明实施例提供了一种根据相机内参数和径向畸变校正参数确定得到的畸变校正函数:
其中,fx(r)表示畸变校正函数,r表示待校正图像的像素点与待校正图像的中心像素点之间的距离,k1、k2、k3、k4、k5、k6表示径向畸变参数。由于上述畸变校正函数采用6个径向畸变参数确定,因此上述畸变校正函数又可称之为6阶径向畸变参数表达式,通过精确的6阶径向畸变参数表达式,可以在后续基于6阶径向畸变参数表达式确定融合函数时,得到校正效果更好的融合函数,从而有效提高了图像的校正效果。
本发明实施例还提供了一种待校正图像的像素点与待校正图像的中心像素点之间的距离r的计算方式,参见如下公式:
其中,(u,v)表示待校正图像的像素点,(u0,v0)表示待校正图像的中心像素点。
步骤2,根据畸变校正函数、对象信息和待校正图像的中心像素点的坐标,确定目标对象的反畸变函数。其中,反畸变函数可以理解为用于对待校正图像中的目标对象进行保形的函数。在一种实施方式中,可以根据对象信息和待校正图像的中心像素点的坐标,分别确定目标对象相对于待校正图像的大小权重和位置权重,再基于畸变校正函数、大小权重和位置权重确定目标对象的反畸变函数。其中,当大小权重越大时表示目标对象在待校正图像中的占比越大,在对待校正图像进行校正处理时,对目标对象所在区域进行拉伸校正的尺度越大;当位置权重越大时表示目标对象与待校正图像的中心像素点越远,该目标对象需要进行反畸变校正的可能性越大。
步骤3,基于畸变校正函数和反畸变函数对待校正图像进行校正处理。在一种实施方式中,可根据畸变校正函数和反畸变校正函数确定融合函数,通过融合函数对待校正图像进行坐标映射处理,得到待校正图像对应的坐标映射矩阵,进而根据坐标映射矩阵和remap函数对待校正图像进行重映射,从而完成对待校正图像的校正处理。
对于上述步骤2,本发明实施例提供了一种确定目标对象的反畸变函数的具体实现方式,参见如下步骤2.1至步骤2.3:
步骤2.1,如果对象信息包括目标对象在待校正图像中的大小,根据待校正图像的图像尺寸和目标对象在待校正图像中的大小,确定目标对象相对于待校正图像的大小权重。其中,目标对象在待校正图像中的大小也可以理解为目标对象在待校正图像中的尺寸,在一种实施方式中,可以计算目标对象在待校正图像中的尺寸与待校正图像的图像尺寸的比值,进而基于比值确定目标对象相对于待校正图像的大小权重。
在一种具体的实施方式中,上述待校正图像的图像尺寸包括待校正图像的短边长,目标对象在待校正图像中的大小包括目标对象在待校正图像中的高度值,其中,对于横屏的待校正图像,短边长即等于待校正图像的高度值;对于竖屏的待校正图像,短边长即等于待校正图像的宽度值。在根据待校正图像的图像尺寸和目标对象在校正图像中的大小确定大小权重时,可以按照如下步骤a至步骤b执行:
步骤a,获取目标对象在待校正图像中的高度值与待校正图像的短边长的比值。在一种实施方式中,若待校正图像为横屏图像,则可以按照如下公式计算目标对象在待校正图像中的高度值与待校正图像的短边长的比值scaleH:scaleH=H/(v0*2),其中,H表示目标对象在待校正图像中的高度值,v0表示待校正图像的中心像素点的纵坐标。在另一种实施方式中,若待校正图像为竖屏图像,则可以按照如下公式计算目标对象在待校正图像中的高度值与待校正图像的短边长的比值scaleH:scaleH=H/(u0*2),其中,u0表示待校正图像的中心像素点的横坐标。
步骤b,根据比值确定目标对象相对于待校正图像的大小权重。其中,大小权重与比值呈线性关系且正相关。在具体实现时,可以按照如下公式计算目标对象相对于待校正图像的大小权重:
μ=k*scaleH-c;
其中,k表示比例系数,c表示常数,μ为目标对象的大小权重。
在实际应用中,上述比例系数和常数可以灵活设置,为了使计算得到的大小权重更为准确合理,在一种具体的实施方式中,可以按照如下公式计算目标对象相对于待校正图像的大小权重:
μ=6*scaleH-0.5,其中,k等于6,c等于0.5。
为便于对上述计算大小权重的公式进行理解,本发明实施例提供了一种大小权重与比值的关系示意图,如图5所示,大小权重与比值呈线性关系,当比值为1/12时,大小权重为0;当比值为1/4时,大小权重为1。如图5所示的大小权重与比值之间的关系为发明人经过大量研究后得到的经验关系,其可较为准确合理地基于目标对象在待校正图像中的高度值与待校正图像的短边长的比值确定出目标对象相对于待校正图像的大小权重,当然大小权重与比值也可采用其它关系表征,在此不进行限定。
步骤2.2,如果对象信息包括目标对象在待校正图像中的位置,根据待校正图像的中心像素点的坐标和目标对象在待校正图像中的位置,确定目标对象相对于待校正图像的位置权重。在一种具体的实施方式中,可以根据待校正图像的中心像素点的坐标和目标对象在待校正图像中的位置,确定中心距离(目标对象的中心像素点到待校正图像的中心像素点的距离),然后计算中心距离与待校正图像的对角线长度的比值,并根据计算得到的比值确定目标对象相对于待校正图像的位置权重,例如,位置权重等于目标对象的中心像素点到待校正图像的中心像素点之间的距离与待校正图像的对角线的1/2的占比,在此基础上,可以按照如下公式计算目标对象相对于待校正图像的位置权重:
其中,σ表示目标对象相对于待校正图像的位置权重,(uf,vf)表示目标对象的中心像素点的坐标,(u0,v0)表示待校正图像的中心像素点。
步骤2.3,根据畸变校正函数、以及目标对象相对于待校正图像的权重,确定目标对象的反畸变函数。其中,权重包括大小权重和/或位置权重。
在第一种实施方式中,可以基于畸变校正函数以及上述步骤2.1计算得到的大小权重确定目标对象的反畸变函数,诸如,获取畸变校正函数的反函数,根据畸变校正函数的反函数和目标对象相对于待校正图像的大小权重确定目标对象的反畸变函数。在一种具体的实施方式中,可以令反畸变函数等于畸变校正函数的反函数与大小权重的乘积,大小权重不同的目标对象可得到不同的反畸变函数,从而针对不同大小的目标对象进行不同尺度的保形处理,以较好地适应待校正图像中不同大小的目标对象。
在第二种实施方式中,可以基于畸变校正函数以及上述步骤2.2计算得到的位置权重确定目标对象的反畸变函数,诸如,获取畸变校正函数的反函数,根据畸变校正函数的反函数和目标对象相对于待校正图像的位置权重确定目标对象的反畸变函数。在一种具体的实施方式中,可以令反畸变函数等于畸变校正函数的反函数与位置权重的乘积,由于目标对象的畸变现象大多存在于待校正图像的边缘,而对于处于待校正图像中间区域的目标对象通常不存在明显畸变,因此可以基于畸变校正函数、目标对象的位置权重确定反畸变函数,以对待校正图像中不同区域的目标对象采用不同尺度的保形处理,例如,通过上述步骤2.2计算得到位于待校正图像边缘区域的目标对象的位置权重,此时该目标对象的位置权重通常较大,从而对该目标对象采用较大尺寸的保形处理,进而使位于待校正图像中不同区域的目标图像均可以保持较好的保形效果。
在第三种实施方式中,可以基于畸变校正函数的反函数、上述步骤2.1计算得到的大小权重以及上述步骤2.2计算得到的位置权重确定目标对象的反畸变函数,在一种具体的实施方式中,可以首先获取畸变校正函数的反函数,然后根据畸变校正函数的反函数、目标对象相对于待校正图像的大小权重和位置权重确定目标对象的反畸变函数。为便于对根据畸变校正函数的反函数、目标对象相对于待校正图像的大小权重和位置权重确定目标对象的反畸变函数进行理解,本发明实施例提供了一种反畸变函数的确定方法,可按照如下公式确定目标对象的反畸变函数fy(μ,σ):fy(μ,σ)=fx(r)-1*μ*σ,其中,fx(r)表示畸变校正函数,fx(r)-1为畸变校正函数的反函数,μ为目标对象相对于待校正图像的大小权重,σ为目标函数相对于待校正图像的位置权重,r表示目标对象的像素点与待校正图像的中心像素点之间的距离。
在实际应用中,可以根据获取到的对象信息(目标对象在待校正图像中的大小和/或位置),灵活选用上述三种实施方式中的一种。
对于上述步骤3,本发明实施例提供了一种基于畸变校正函数和反畸变校正函数对待校正图像进行校正处理的具体实现方式,包括如下两个主要步骤:步骤3.1,对畸变校正函数和反畸变函数进行融合,得到融合函数。步骤3.2,基于融合函数对待校正图像进行校正处理。为了便于理解,以下分别对该步骤3.1和步骤3.2展开描述。
针对上述步骤3.1,本实施例首先提供一种对畸变校正函数和反畸变函数进行融合,得到融合函数的具体实施方式:首先确定畸变校正函数对应的第一权重,以及反畸变函数对应的第二权重,然后基于第一权重和第二权重对畸变校正函数和反畸变函数进行加权融合,得到融合函数。其中,第一权重与第二权重的和为1。例如,将畸变校正函数的权重设置为第一权重λ,将反畸变函数的权重设置为第二权重λ',λ'=1-λ,则融合函数等于畸变校正函数与λ的乘积与反畸变函数与λ'的乘积之和。
为了更好地保障对目标对象进行反畸变保形的效果,在一种具体的实施方式中,目标对象的反畸变函数包括目标对象上的多条目标线段分别对应的反畸变函数;其中,多条目标线段上的像素点组合形成目标对象上的所有像素点;具体而言,目标线段为以待校正图像的中心像素点为中心向外辐射的辐射线与目标对象相交的交线。也即,以待校正图像的中心像素点为中心向外辐射的辐射线与目标对象相交,可以得到目标对象上的多条目标线段。为便于理解,可参见图6所示,以目标对象是人脸包围框为例,待校正图像的中心像素点O向外辐射,与目标对象相交于像素点P1和像素点P2,即可得到P1-P2线段,与目标对象相交于像素点P1’和像素点P2’,即可得到P1’-P2’线段;其中,P1-P2线段与P1’-P2’线段均为目标线段。可以理解的是,待校正图像的中心像素点O可以向外辐射无数条射线,因此辐射线与目标对象相交得到的目标线段数量也非常密集,由于点构成线,线构成面,所以多条目标线段上的像素点组合即可形成目标对象上的所有像素点,此时每条目标线段均对应一个反畸变函数,从而基于每条目标线段对应的反畸变函数对每条目标线段进行保形处理,在所有目标线段都得以保形处理后,也即对整个目标对象进行了保形处理。因此在基于畸变校正函数和反畸变函数得到融合函数时,可以对畸变校正函数和每条目标线段对应的反畸变函数分别进行融合,得到每条目标线段对应的融合函数,具体的,针对每条目标线段,可以按照如下公式得到该目标线段对应的融合函数fi:
fi=λfx(r)+(1-λ)fyi(μ,σ)。
其中,λ表示第一权重,fx(r)表示畸变校正函数;fyi(μ,σ)表示该目标线段对应的反畸变函数,μ表示目标对象的大小权重,σ表示目标对象相对于待校正图像的位置权重。
r表示该目标线段上的像素点与待校正图像的中心像素点之间的距离;r0表示该目标线段的像素点与待校正图像的中心像素点之间的最小距离,r1表示该目标线段的像素点与待校正图像的中心像素点之间的最大距离,此时目标线段上除两个端点之外的其余像素点与待校正图像的中心像素点之间的距离通常位于最小距离和最大距离之间。由于目标线段的线性关系,本实施例提供了如图7所示的一种λ与r的关系示意图,当r0<r<r1时,
通常而言,目标线段上与待校正图像的中心像素点之间距离最小和距离最大的两个像素点分别为目标线段的两个端点,以图6中目标线段为P1-P2线段为例,像素点P1(目标线段的一个端点)与待校正图像的中心像素点O之间的距离为目标线段P1-P2上的像素点与待校正图像的中心像素点之间的最小距离r0,像素点P2(目标线段的另一个端点)与待校正中心像素点O之间的距离为目标线段P1-P2上的像素点与待校正图像的中心像素点之间的最大距离r1。
针对上述步骤3.2,本实施例进一步提出了一种基于融合函数对待校正图像进行校正处理的具体实施方式:由于通过上述步骤3.1得到了目标对象上的每条目标线段对应的融合函数,因此在基于融合函数对待校正图像进行校正处理时,可以针对每条目标线段,采用该目标线段对应的融合函数对该目标线段上的像素点进行校正,得到校正后的目标线段,进而基于所有校正后的目标线段以及畸变校正函数对待校正图像进行校正处理,具体的,基于所有校正后的目标线段得到待校正图像中目标对象所在区域的校正区域,也即对目标对象进行了保形处理,并基于畸变校正函数对待校正图像中除目标对象所在区域之外的其它区域进行校正处理。
对于目标对象上的一条目标线段,本发明实施例提供了一种如图8所示的曲线示意图,示意出了畸变校正曲线fx(r)(也即表征前述畸变校正函数)和一条目标线段对应的反畸变曲线fyi(μ,σ)(也即表征前述反畸变函数)。其中,曲线示意图的横坐标为像素距离值,纵坐标为像素偏移值,r0与r1之间的区域表征目标线段上的像素点与待校正图像的中心像素点之间的距离范围。在实际应用中,可以将畸变校正曲线和反畸变曲线行融合,得到融合函数fi,对于处于r0~r1区间内的像素点,将通过融合函数fi进行校正,而对于r0~r1区间以外的像素点,由于不存在目标线段对应的反畸变曲线,因此融合函数实质即为畸变校正曲线fx(r),因此在采用融合函数对除目标线段之外的其它区域进行校正时,实质是通过畸变校正曲线fx(r)进行校正。
为了保证校正处理后的待校正图像满足小孔成像模型,本发明实施例在利用融合函数对待校正图像进行校正处理时,可以基于融合函数获取待校正图像对应的坐标映射矩阵,进而根据坐标映射矩阵和预设的remap函数对待校正图像进行重映射处理,得到校正图像。在具体实现时,可以通过融合函数对待校正图像进行坐标映射处理,得到坐标映射矩阵(mapX,mapY),将坐标映射矩阵(mapX,mapY)输入至预设的remap函数中,以实现对待校正图像进行重映射处理,进而得到校正图像。其中,重映射可以理解为通过待校正图像中的像素点对坐标映射矩阵中与该像素点对应的坐标进行填充的过程,例如,通过待校正图像中的像素点(10,10)对坐标(0,0)进行填充,通过待校正图像中的像素点(10,11)对坐标(0,1)进行填充,直至利用待校正图像中的像素点将坐标映射矩阵中的坐标填充完毕,即可得到校正图像。
考虑到图像畸变现象普遍存在于超广角镜头拍摄得到的图像中,因此上述待校正图像均可以为采集设备通过超广角镜头拍摄得到的图像。
综上所述,本发明实施例通过上述方式确定得到融合函数,在待校正图像中的非目标对象所在区域可以利用畸变校正函数(可基于相机内参数和畸变参数得到)对其进行处理,而在待校正图像中目标对象所在区域可以结合畸变校正函数和反畸变函数(可基于畸变校正函数、对象信息以及带校正图像的中心像素点坐标得到)对其进行处理,通过反畸变函数可以使待校正图像中的目标对象(诸如人脸)的形状得以保形,通过畸变校正函数可以使待校正图像中非目标对象所在区域的直线保持较好的线性,从而同时达到保形和保线的图像处理效果,在对待校正图像进行校正的基础上也可以较好地对目标对象进行保形,从而为用户带来更好的视觉观感。另外,基于目标对象在待校正图像中的位置和大小不同,反畸变函数及其权重也不同,因此得到的融合函数(又可称为校正函数)也不同,因此可以使融合函数较好的适应不同大小的目标对象位于待校正图像中不同位置时的情况,即本发明实施例提供的融合函数具有较好的鲁棒性。再者,相较于现有技术中的保形算法通过牺牲部分视场的方法对待校正图像中的目标对象进行保形处理,由于本发明实施例在非目标对象所在区域不进行反向拉伸处理,因此可以保留更多的视场,从而为用户提供较佳的视觉体验。
实施例三:
在前述实施例二的基础上,本发明实施例提供了一种应用前述图像校正方法的具体示例,该示例以目标对象是人脸为例进行说明,具体实现时,可采用人脸包围框表示目标对象。可参见图9所示的另一种图像校正方法的流程示意图,其中,以下待校正图像通过配置有超广角镜头的采集设备采集得到,该方法主要包括以下步骤S902至步骤S920:
步骤S902,预先标定超广角镜头的相机内参数和畸变参数。其中,相机内参数可以包括标定内参数α、β和超广角图像的中心像素点(u0,v0),畸变参数可以包括径向畸变参数k1、k2、k3、k4、k5和k6。另外,可以基于利用张正友标定法确定相机内参数和畸变参数对应的标定内参矩阵用于后续获取坐标映射矩阵。
步骤S904,获取畸变校正函数fx(r)。在一种实施方式中,可以基于步骤S902标定的相机内参数和畸变参数确定畸变校正函数,并可以利用畸变校正曲线表征畸变校正函数。
步骤S906,通过配置有超广角镜头的相机拍摄得到超广角图像(也即,前述待校正图像)。例如,启动配置有超广角镜头的智能手机中的相机软件,并点击相机软件拍摄界面上的拍摄按钮,得到超广角图像。
步骤S908,检测超广角图像中的人脸,得到人脸包围框。在实际应用中,可利用第三方软件中的目标检测算法或智能手机中自带的目标检测算法对超广角图像进行人脸检测处理,得到人脸包围框,并获取人脸包围框的高度值H和包围框的中心像素点坐标(uf,vf)。考虑到一张超广角图像中可能存在多个人脸,此时将检测到多个包围框,在一种实施方式中,可以对每个人脸包围框进行处理,在另一种实施方式中,考虑到图像畸变通常存在于图像边缘,因此仅对处于超广角图像边缘处的人脸包围框进行处理。
步骤S910,计算人脸包围框在超广角图像中的人脸权重。其中,人脸权重包括位置权重和大小权重。在实际应用中,可针对不同尺寸的超广角图像选取对应的大小权重计算公式,具体可参见前述实施例二中的步骤a至b。
步骤S912,根据人脸权重确定反畸变函数fy(μ,σ)。其中,反畸变函数是基于畸变校正函数的反函数与人脸权重进行权重融合得到的,可以通过反畸变曲线表示。
步骤S914,对畸变校正函数和反畸变函数进行权重融合,得到融合函数。在实际应用中,只有目标对象对应有反畸变函数,而待校正图像上除目标对象之外的其余区域对应的融合函数实质仍为畸变校正函数。在具体实现时,也可参照前述实施例,在此不进行赘述。
步骤S916,基于融合函数计算超广角图像的坐标映射矩阵。在具体实现时,通过上述步骤S902确定的标定内参矩阵将超广角图像的坐标系转换为相机坐标系,并通过融合函数计算超广角图像的坐标映射矩阵。
步骤S918,基于预设的remap函数和坐标映射矩阵对超广角图像进行重映射处理。本发明实施例提供了一种Opencv函数(也即,前述remap函数)的具体示例:remap(I,dstI,mapX,mapY,CV_INTER_LINEAR),其中,I为前述超广角图像,dstI为校正图像,(mapX,mapY)为坐标映射矩阵,CV_INTER_LINEAR为双线性插值。
步骤S920,获取校正图像,可参见图10所示的一种畸变校正处理结果示意图,其中,校正图像中的人像区域未被异常拉伸,且非人像区域能够保持较好的线性。相比于现有技术中得到的图1和图2,在对畸变直线进行校正的基础上,还能够实现较好的人脸保形效果。
本发明实施例提供的图像校正方法,通过标定后的超广角镜头拍摄得到超广角图像,并基于标定的超广角镜头的相机内参数和畸变参数得到畸变校正曲线,检测超广角图像中的人脸包围框,用以结合畸变校正函数确定反畸变函数,进而基于畸变校正函数和反畸变函数得到融合函数,基于融合函数对超广角图像进行坐标映射处理,得到坐标映射矩阵,进而通过预设的remap函数和坐标映射矩阵对超广角图像进行重映射处理,得到校正图像。本发明实施例可以得到视觉效果较佳的校正图像,且上述融合函数具有较好的鲁棒性,可以适应多种图像校正场景。此外,本发明实施例提供的图像校正方法可以使超广角图像保留更多的视场。
实施例四:
对于实施例二中所提供的图像校正方法,本发明实施例提供了一种图像校正装置,参见图11所示的一种图像校正装置的结构示意图,该装置包括以下模块:
获取模块1102,用于获取待校正图像以及待校正图像的采集设备的设备参数。
检测模块1104,用于检测待校正图像中的目标对象,得到对象信息;对象信息包括目标对象在待校正图像中的大小和/或位置。
校正模块1106,用于根据对象信息以及设备参数对待校正图像进行校正处理。
本发明实施例在对待校正图像进行校正时,综合考虑到了待校正图像的采集设备参数和待校正图像中的对象信息(目标对象在待校正图像中的大小和/或位置),从而在基于设备参数对待校正图像进行校正的同时有效缓解目标对象产生畸变的问题,有效提高了图像校正效果,可以为用户带来更好的视觉观感。
在一些实施方式中,上述设备参数包括相机内参数和畸变参数,上述校正模块1106还包括:第一函数确定单元,用于根据相机内参数和畸变参数确定待校正图像的畸变校正函数;其中,畸变校正函数用于表征待校正图像中每个像素点的像素距离值与像素偏移值之间的关系;像素距离值为像素点与待校正图像的中心像素点之间的距离值,像素偏移值为像素点的实际位置与理论位置之间的偏移值;第二函数确定单元,用于根据畸变校正函数、对象信息和待校正图像的中心像素点的坐标,确定目标对象的反畸变函数;校正处理单元,用于基于畸变校正函数和反畸变函数对待校正图像进行校正处理。
在一些实施方式中,上述第二函数确定单元还用于:如果对象信息包括目标对象在待校正图像中的大小,根据待校正图像的图像尺寸和目标对象在待校正图像中的大小,确定目标对象相对于待校正图像的大小权重;如果对象信息包括目标对象在待校正图像中的位置,根据待校正图像的中心像素点的坐标和目标对象在待校正图像中的位置,确定目标对象相对于待校正图像的位置权重;根据畸变校正函数以及目标对象相对于待校正图像的权重,确定目标对象的反畸变函数;其中,权重包括大小权重和/或位置权重。
在一些实施方式中,上述待校正图像的图像尺寸包括待校正图像的短边长;目标对象在待校正图像中的大小包括目标对象在待校正图像中的高度值,上述第二函数确定单元还用于:获取目标对象在待校正图像中的高度值与待校正图像的短边长的比值;根据比值确定目标对象相对于待校正图像的大小权重;其中,大小权重与比值呈线性关系且正相关。
在一些实施方式中,上述第二函数确定单元还用于:按照如下公式计算目标对象相对于待校正图像的大小权重:μ=k*scaleH-c,其中,μ为大小权重,scaleH为目标对象在待校正图像中的高度值与待校正图像的短边长的比值;k表示比例系数,c表示常数。
在一些实施方式中,上述第二函数确定单元还用于:根据待校正图像的中心像素点的坐标和目标对象在待校正图像中的位置,确定中心距离;其中,中心距离为目标对象的中心像素点到待校正图像的中心像素点的距离;计算中心距离与待校正图像的对角线长度的比值,并根据计算得到的比值确定目标对象相对于待校正图像的位置权重。
在一些实施方式中,上述第二函数确定单元还用于:按照如下公式计算目标对象相对于待校正图像的位置权重:其中,σ表示目标对象相对于待校正图像的位置权重,(uf,vf)表示目标对象的中心像素点的坐标,(u0,v0)表示待校正图像的中心像素点的坐标。
在一些实施方式中,上述第二函数确定单元还用于:获取畸变校正函数的反函数;根据畸变校正函数的反函数、目标对象相对于待校正图像的大小权重和位置权重确定目标对象的反畸变函数。
在一些实施方式中,上述第二函数确定单元还用于:按照如下公式确定目标对象的反畸变函数fy(μ,σ):fy(μ,σ)=fx(r)-1*μ*σ,其中,fx(r)表示畸变校正函数,μ表示目标对象相对于待校正图像的大小权重,σ表示目标对象相对于待校正图像的位置权重,r表示目标对象的像素点与待校正图像的中心像素点之间的距离。
在一些实施方式中,上述校正处理单元,还用于对畸变校正函数和反畸变函数进行融合,得到融合函数;基于融合函数对待校正图像进行校正处理。
在一些实施方式中,上述校正处理单元,还用于确定畸变校正函数对应的第一权重,以及反畸变函数对应的第二权重;其中,第一权重与第二权重的和为1;基于第一权重和第二权重,对畸变校正函数和反畸变函数进行加权融合,得到融合函数。
在一些实施方式中,上述目标对象的反畸变函数包括目标对象上的多条目标线段分别对应的反畸变函数;多条目标线段上的像素点组合形成目标对象上的所有像素点;目标线段为以待校正图像的中心像素点为中心向外辐射的辐射线与目标对象相交的交线。上述校正处理单元,还用于对畸变校正函数和每条目标线段对应的反畸变函数进行融合,得到每条目标线段对应的融合函数;还用于针对每条目标线段,采用该目标线段对应的融合函数对该目标线段上的像素点进行校正,得到校正后的目标线段;基于所有校正后的目标线段以及畸变校正函数对待校正图像进行校正处理。
在一些实施方式中,上述校正处理单元,还用于针对每条目标线段,按照如下公式得到该目标线段对应的融合函数fi:fi=λfx(r)+(1-λ)fyi(μ,σ),r0<r<r1,fyi(μ,σ)=fx(r)-1*μ*σ,r表示该目标线段上的像素点与待校正图像的中心像素点之间的距离;r0表示该目标线段的像素点与待校正图像的中心像素点之间的最小距离,r1表示该目标线段的像素点与待校正图像的中心像素点之间的最大距离;fx(r)表示畸变校正函数;fyi(μ,σ)表示该目标线段对应的反畸变函数,μ表示目标对象的大小权重,σ表示目标对象相对于待校正图像的位置权重。
在一些实施方式中,上述校正处理单元,还用于基于融合函数获取待校正图像对应的坐标映射矩阵;根据坐标映射矩阵和预设的remap函数对待校正图像进行重映射处理,得到校正图像。
在一些实施方式中,上述待校正图像为采集设备通过超广角镜头拍摄得到的。
本实施例所提供的装置,其实现原理及产生的技术效果和前述实施例相同,为简要描述,装置实施例部分未提及之处,可参考前述方法实施例中相应内容。
综上所述,本发明实施例为用户带来更好的视觉观感,且上述融合函数具有较好的鲁棒性,另外,本发明实施例提供的图像校正方法可以使超广角图像保留更多的视场。
实施例五:
本发明实施例所提供的图像校正方法、装置及电子设备的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行前面方法实施例中所述的方法,具体实现可参见方法实施例,在此不再赘述。
另外,在本发明实施例的描述中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
Claims (14)
1.一种图像校正方法,其特征在于,包括:
获取待校正图像以及所述待校正图像的采集设备的设备参数;
检测所述待校正图像中的目标对象,得到对象信息;所述对象信息包括所述目标对象在所述待校正图像中的大小和/或位置;
根据所述对象信息以及所述设备参数对所述待校正图像进行校正处理。
2.根据权利要求1所述的方法,其特征在于,所述设备参数包括相机内参数和畸变参数,所述根据所述对象信息以及所述设备参数对所述待校正图像进行校正处理的步骤,包括:
根据所述相机内参数和所述畸变参数确定所述待校正图像的畸变校正函数;其中,所述畸变校正函数用于表征所述待校正图像中每个像素点的像素距离值与像素偏移值之间的关系;所述像素距离值为像素点与所述待校正图像的中心像素点之间的距离值,所述像素偏移值为像素点的实际位置与理论位置之间的偏移值;
根据所述畸变校正函数、所述对象信息和所述待校正图像的中心像素点的坐标,确定所述目标对象的反畸变函数;
基于所述畸变校正函数和所述反畸变函数对所述待校正图像进行校正处理。
3.根据权利要求2所述的方法,其特征在于,所述根据所述畸变校正函数、所述对象信息和所述待校正图像的中心像素点的坐标,确定所述目标对象的反畸变函数的步骤,包括:
如果所述对象信息包括所述目标对象在所述待校正图像中的大小,根据所述待校正图像的图像尺寸和所述目标对象在所述待校正图像中的大小,确定所述目标对象相对于所述待校正图像的大小权重;
如果所述对象信息包括所述目标对象在所述待校正图像中的位置,根据所述待校正图像的中心像素点的坐标和所述目标对象在所述待校正图像中的位置,确定所述目标对象相对于所述待校正图像的位置权重;
根据所述畸变校正函数以及所述目标对象相对于所述待校正图像的权重,确定所述目标对象的反畸变函数;其中,所述权重包括大小权重和/或位置权重。
4.根据权利要求3所述的方法,其特征在于,所述待校正图像的图像尺寸包括所述待校正图像的短边长;所述目标对象在所述待校正图像中的大小包括所述目标对象在所述待校正图像中的高度值;
所述根据所述待校正图像的图像尺寸和所述目标对象在所述待校正图像中的大小,确定所述目标对象相对于所述待校正图像的大小权重的步骤,包括:
获取所述目标对象在所述待校正图像中的高度值与所述待校正图像的短边长的比值;
根据所述比值确定所述目标对象相对于所述待校正图像的大小权重;其中,所述大小权重与所述比值呈线性关系且正相关。
5.根据权利要求3所述的方法,其特征在于,所述根据所述待校正图像的中心像素点的坐标和所述目标对象在所述待校正图像中的位置,确定所述目标对象相对于所述待校正图像的位置权重的步骤,包括:
根据所述待校正图像的中心像素点的坐标和所述目标对象在所述待校正图像中的位置,确定中心距离;其中,所述中心距离为所述目标对象的中心像素点到所述待校正图像的中心像素点的距离;
计算所述中心距离与所述待校正图像的对角线长度的比值,并根据计算得到的比值确定所述目标对象相对于所述待校正图像的位置权重。
6.根据权利要求3所述的方法,其特征在于,所述根据所述畸变校正函数以及所述目标对象相对于所述待校正图像的权重,确定所述目标对象的反畸变函数的步骤,包括:
获取所述畸变校正函数的反函数;
根据所述畸变校正函数的反函数、所述目标对象相对于所述待校正图像的大小权重和位置权重确定所述目标对象的反畸变函数。
7.根据权利要求6所述的方法,其特征在于,所述根据所述畸变校正函数的反函数、所述目标对象相对于所述待校正图像的大小权重和位置权重确定所述目标对象的反畸变函数的步骤,包括:
按照如下公式确定所述目标对象的反畸变函数fy(μ,σ):
fy(μ,σ)=fx(r)-1*μ*σ
其中,fx(r)表示所述畸变校正函数,μ表示所述目标对象相对于所述待校正图像的大小权重,σ表示目标对象相对于所述待校正图像的位置权重,r表示所述目标对象的像素点与所述待校正图像的中心像素点之间的距离。
8.根据权利要求2所述的方法,其特征在于,所述基于所述畸变校正函数和所述反畸变函数对所述待校正图像进行校正处理的步骤,包括:
对所述畸变校正函数和所述反畸变函数进行融合,得到融合函数;
基于所述融合函数对所述待校正图像进行校正处理。
9.根据权利要求8所述的方法,其特征在于,所述目标对象的反畸变函数包括所述目标对象上的多条目标线段分别对应的反畸变函数;多条所述目标线段上的像素点组合形成所述目标对象上的所有像素点;所述目标线段为以所述待校正图像的中心像素点为中心向外辐射的辐射线与所述目标对象相交的交线;
所述对所述畸变校正函数和所述反畸变函数进行融合,得到融合函数的步骤,包括:
对所述畸变校正函数和每条所述目标线段对应的反畸变函数进行融合,得到每条所述目标线段对应的融合函数;
所述基于所述融合函数对所述待校正图像进行校正处理的步骤,包括:
针对每条所述目标线段,采用该目标线段对应的融合函数对该目标线段上的像素点进行校正,得到校正后的目标线段;
基于所有校正后的目标线段以及所述畸变校正函数对所述待校正图像进行校正处理。
10.根据权利要求8所述的方法,其特征在于,所述基于所述融合函数对所述待校正图像进行校正处理的步骤包括:
基于所述融合函数获取所述待校正图像对应的坐标映射矩阵;
根据所述坐标映射矩阵和预设的remap函数对所述待校正图像进行重映射处理,得到校正图像。
11.根据权利要求1至10任一项所述的方法,其特征在于,所述待校正图像为所述采集设备通过超广角镜头拍摄得到的。
12.一种图像校正装置,其特征在于,包括:
获取模块,用于获取待校正图像以及所述待校正图像的采集设备的设备参数;
检测模块,用于检测所述待校正图像中的目标对象,得到对象信息;所述对象信息包括所述目标对象在所述待校正图像中的大小和/或位置;
校正模块,用于根据所述对象信息以及所述设备参数对所述待校正图像进行校正处理。
13.一种电子设备,其特征在于,包括处理器和存储装置;
所述存储装置上存储有计算机程序,所述计算机程序在被所述处理器运行时执行如权利要求1至11任一项所述的方法。
14.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时执行上述权利要求1至11任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910956489.2A CN110660034B (zh) | 2019-10-08 | 2019-10-08 | 图像校正方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910956489.2A CN110660034B (zh) | 2019-10-08 | 2019-10-08 | 图像校正方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110660034A true CN110660034A (zh) | 2020-01-07 |
CN110660034B CN110660034B (zh) | 2023-03-31 |
Family
ID=69040407
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910956489.2A Active CN110660034B (zh) | 2019-10-08 | 2019-10-08 | 图像校正方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110660034B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111415307A (zh) * | 2020-03-13 | 2020-07-14 | 北京市商汤科技开发有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
CN112950493A (zh) * | 2021-02-01 | 2021-06-11 | 中车青岛四方车辆研究所有限公司 | 轨道列车线阵相机图像畸变校正方法及装置 |
CN113256540A (zh) * | 2021-07-14 | 2021-08-13 | 智道网联科技(北京)有限公司 | 图像去畸变方法和装置、电子设备和计算机可读存储介质 |
CN114820787A (zh) * | 2022-04-22 | 2022-07-29 | 聊城大学 | 一种面向大视场平面视觉测量的图像校正方法及系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070171288A1 (en) * | 2004-03-25 | 2007-07-26 | Yasuaki Inoue | Image correction apparatus and method, image correction database creating method, information data provision apparatus, image processing apparatus, information terminal, and information database apparatus |
US20100061601A1 (en) * | 2008-04-25 | 2010-03-11 | Michael Abramoff | Optimal registration of multiple deformed images using a physical model of the imaging distortion |
KR20140052769A (ko) * | 2012-10-25 | 2014-05-07 | 에스케이텔레콤 주식회사 | 왜곡 영상 보정 장치 및 방법 |
CN104994281A (zh) * | 2015-06-30 | 2015-10-21 | 广东欧珀移动通信有限公司 | 一种人脸畸变校正的方法及终端 |
CN105793892A (zh) * | 2014-12-09 | 2016-07-20 | 深圳市大疆创新科技有限公司 | 一种图像处理方法、装置及摄像设备 |
CN107424126A (zh) * | 2017-05-26 | 2017-12-01 | 广州视源电子科技股份有限公司 | 图像校正方法、装置、设备、系统及摄像设备和显示设备 |
CN108090880A (zh) * | 2017-12-29 | 2018-05-29 | 杭州联络互动信息科技股份有限公司 | 一种图像的反畸变处理方法以及装置 |
-
2019
- 2019-10-08 CN CN201910956489.2A patent/CN110660034B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070171288A1 (en) * | 2004-03-25 | 2007-07-26 | Yasuaki Inoue | Image correction apparatus and method, image correction database creating method, information data provision apparatus, image processing apparatus, information terminal, and information database apparatus |
US20100061601A1 (en) * | 2008-04-25 | 2010-03-11 | Michael Abramoff | Optimal registration of multiple deformed images using a physical model of the imaging distortion |
KR20140052769A (ko) * | 2012-10-25 | 2014-05-07 | 에스케이텔레콤 주식회사 | 왜곡 영상 보정 장치 및 방법 |
CN105793892A (zh) * | 2014-12-09 | 2016-07-20 | 深圳市大疆创新科技有限公司 | 一种图像处理方法、装置及摄像设备 |
CN104994281A (zh) * | 2015-06-30 | 2015-10-21 | 广东欧珀移动通信有限公司 | 一种人脸畸变校正的方法及终端 |
CN107424126A (zh) * | 2017-05-26 | 2017-12-01 | 广州视源电子科技股份有限公司 | 图像校正方法、装置、设备、系统及摄像设备和显示设备 |
CN108090880A (zh) * | 2017-12-29 | 2018-05-29 | 杭州联络互动信息科技股份有限公司 | 一种图像的反畸变处理方法以及装置 |
Non-Patent Citations (5)
Title |
---|
C. BRAUER-BURCHARDT ET AL.: "A new algorithm to correct fish-eye- and strong wide-angle-lens-distortion from single images", 《PROCEEDINGS 2001 INTERNATIONAL CONFERENCE ON IMAGE PROCESSING (CAT. NO.01CH37205)》 * |
PIERRE DRAP ET AL.: "An exact formula for calculating inverse radial lens distortions", 《SENSORS》 * |
杨力铭: "时空域脉搏信号检测方法研究", 《西南交通大学出版社》 * |
杨波等: "适应内容的广角图像拉伸畸变自动校正算法", 《浙江大学学报(工学版)》 * |
范勇等: "图像几何畸变校正方法", 《计算机工程与应用》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111415307A (zh) * | 2020-03-13 | 2020-07-14 | 北京市商汤科技开发有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
CN111415307B (zh) * | 2020-03-13 | 2024-03-26 | 北京市商汤科技开发有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
CN112950493A (zh) * | 2021-02-01 | 2021-06-11 | 中车青岛四方车辆研究所有限公司 | 轨道列车线阵相机图像畸变校正方法及装置 |
CN113256540A (zh) * | 2021-07-14 | 2021-08-13 | 智道网联科技(北京)有限公司 | 图像去畸变方法和装置、电子设备和计算机可读存储介质 |
CN113256540B (zh) * | 2021-07-14 | 2021-11-19 | 智道网联科技(北京)有限公司 | 图像去畸变方法和装置、电子设备和计算机可读存储介质 |
CN114820787A (zh) * | 2022-04-22 | 2022-07-29 | 聊城大学 | 一种面向大视场平面视觉测量的图像校正方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN110660034B (zh) | 2023-03-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110660034B (zh) | 图像校正方法、装置及电子设备 | |
CN107230225B (zh) | 三维重建的方法和装置 | |
CN110060200B (zh) | 图像透视变换方法、装置及设备 | |
CN110717942B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
JP5437311B2 (ja) | 画像補正方法、画像補正システム、角度推定方法、および角度推定装置 | |
JP5538617B2 (ja) | 複数カメラのキャリブレーション用の方法および構成 | |
Sun et al. | HDR image construction from multi-exposed stereo LDR images | |
CN106846409B (zh) | 鱼眼相机的标定方法及装置 | |
CN110458932B (zh) | 图像处理方法、装置、系统、存储介质和图像扫描设备 | |
CN111127422A (zh) | 图像标注方法、装置、系统及主机 | |
CN110223222B (zh) | 图像拼接方法、图像拼接装置和计算机可读存储介质 | |
JP2019215622A5 (zh) | ||
WO2018210318A1 (zh) | 图像虚化处理方法、装置、存储介质及电子设备 | |
WO2020215283A1 (zh) | 人脸识别方法、处理芯片以及电子设备 | |
CN110996081B (zh) | 一种投影画面校正方法、装置、电子设备及可读存储介质 | |
WO2021208486A1 (zh) | 一种相机坐标变换方法、终端以及存储介质 | |
WO2019041650A1 (zh) | 摄像机标定参数的校正方法、装置、设备和存储介质 | |
WO2020187339A1 (zh) | 一种裸眼3d的虚拟视点图像生成方法及便携式终端 | |
CN113643414B (zh) | 一种三维图像生成方法、装置、电子设备及存储介质 | |
CN112470192A (zh) | 双摄像头标定方法、电子设备、计算机可读存储介质 | |
DK3189493T3 (en) | PERSPECTIVE CORRECTION OF DIGITAL PHOTOS USING DEPTH MAP | |
CN112215906A (zh) | 图像处理方法、装置和电子设备 | |
CN110852958B (zh) | 基于物体倾斜角度的自适应校正方法和装置 | |
CN108876704A (zh) | 人脸图像变形的方法、装置及计算机存储介质 | |
CN111353945B (zh) | 鱼眼图像校正方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |