CN104363986B - 一种图像处理方法和设备 - Google Patents

一种图像处理方法和设备 Download PDF

Info

Publication number
CN104363986B
CN104363986B CN201480001341.9A CN201480001341A CN104363986B CN 104363986 B CN104363986 B CN 104363986B CN 201480001341 A CN201480001341 A CN 201480001341A CN 104363986 B CN104363986 B CN 104363986B
Authority
CN
China
Prior art keywords
image
coordinate value
value
pixel
optical distortion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201480001341.9A
Other languages
English (en)
Other versions
CN104363986A (zh
Inventor
陈刚
唐忠伟
罗巍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Publication of CN104363986A publication Critical patent/CN104363986A/zh
Application granted granted Critical
Publication of CN104363986B publication Critical patent/CN104363986B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G06T5/70
    • G06T5/80
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"

Abstract

本发明公开了一种图像处理方法和设备,包括:获取被拍摄对象发生畸变的图像;根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对任一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像,有效地消除了在获取被拍摄对象的图像过程中因为成像设备的光成像原理引发的光学畸变,改善了拍摄图像的质量。

Description

一种图像处理方法和设备
技术领域
本发明涉及无线通信技术领域,尤其涉及一种图像处理方法和设备。
背景技术
随着智能手机和移动互联网的快速发展,终端设备(例如:摄像机,照相机等)作为连接现实世界和虚拟网络世界的接口,成为智能手机中非常重要的组成部分。每天成千上万的人们通过智能手机的拍照功能或者摄像功能记录着与自己有关或者无关的新鲜事物。
在人们记录的大量新鲜事物中,人脸图像占了相当大的比例。但是终端设备在将人的脸部特征利用光学原理转换成为人脸图像的过程中,容易发生光学畸变,导致得到的人脸图像中的脸部特征发生畸变。例如:发生的桶形畸变,即在实际应用中,若终端设备在采集图像时使用广角镜头,则使得采集图像中的人脸特征出现桶形畸变;发生的枕形畸变,即在实际应用中,若终端设备在采集图像时使用长焦镜头,则使得采集图像中的人脸特征出现枕形畸变。也就是说,人脸畸变的严重程度影响着人脸图像的质量。
发明内容
有鉴于此,本发明实施例提供了一种图像处理方法和设备,用于解决目前存在的采集得到的图像质量低的问题。
根据本发明的第一方面,提供了一种图像处理方法,包括:
获取被拍摄对象发生畸变的图像;
根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,其中,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;
利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像。
结合本发明第一方面可能的实施方式,在第一种可能的实施方式中,利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,包括:
确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,其中,所述理想图像坐标值用于表征所述被拍摄对象在未发生光学畸变图像中的坐标值;
利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值;
根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点;
根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值。
结合本发明第一方面的第一种可能的实施方式,在第二种可能的实施方式中,确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,包括:
虚拟一张没有发生光学畸变的网格图像,将所述被拍摄对象映射在所述网格图像中,得到所述被拍摄对象的理想图像;
确定所述理想图像中每一个网格点的理想图像坐标值。
结合本发明第一方面的第二种可能的实施方式,在第三种可能的实施方式中,利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值,包括:
读取终端设备的内参矩阵以及所述内参矩阵的逆矩阵;
针对所述理想图像中每一个网格点的理想图像坐标值,执行:
从所述理想图像中选择一个网格点,利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值。
结合本发明第一方面的第三种可能的实施方式,在第四种可能的实施方式中,利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值,包括:
利用终端设备的内参矩阵的逆矩阵,将选择的网格点的理想图像坐标值转换得到第一针孔平面坐标值;
利用选择的所述镜头光学畸变模型,将所述第一针孔平面坐标值转换得到畸变的第二针孔平面坐标值,其中,所述畸变的第二针孔平面坐标值为选择的网格点对应的第一针孔平面坐标值基于选择的所述镜头光学畸变模型发生光学畸变得到的;
利用所述终端设备的内参矩阵,将所述畸变的第二针孔平面坐标值转换得到理论光学畸变图像坐标值。
结合本发明第一方面的第一种可能的实施方式,或者结合本发明第一方面的第二种可能的实施方式,或者结合本发明第一方面的第三种可能的实施方式,或者结合本发明第一方面的第四种可能的实施方式,在第五种可能的实施方式中,根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点,包括:
计算所述理论光学畸变图像坐标值与所述获取的发生畸变的图像中包含的每一个像素点的实际光学畸变图像坐标值之间的距离值,确定计算得到的距离值小于设定门限对应的像素点。
结合本发明第一方面的第一种可能的实施方式,或者结合本发明第一方面的第二种可能的实施方式,或者结合本发明第一方面的第三种可能的实施方式,或者结合本发明第一方面的第四种可能的实施方式,或者结合本发明第一方面的第五种可能的实施方式,在第六种可能的实施方式中,根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值,包括:
对查找到的像素点的像素值进行插值计算,得到所述被拍摄对象的理想图像坐标值在所述理想图像中的像素值。
结合本发明第一方面的第二种可能的实施方式,或者结合本发明第一方面的第三种可能的实施方式,或者结合本发明第一方面的第四种可能的实施方式,或者结合本发明第一方面的第五种可能的实施方式,或者结合本发明第一方面的第六种可能的实施方式,在第七种可能的实施方式中,所述得到光学畸变矫正后的图像,包括:
在得到所述理想图像中每一个网格点的像素值时,将得到的所述理想图像作为获取的发生畸变的图像进行光学畸变矫正后的图像。
结合本发明第一方面可能的实施方式,或者结合本发明第一方面的第一种可能的实施方式,或者结合本发明第一方面的第二种可能的实施方式,或者结合本发明第一方面的第三种可能的实施方式,或者结合本发明第一方面的第四种可能的实施方式,或者结合本发明第一方面的第五种可能的实施方式,或者结合本发明第一方面的第六种可能的实施方式,或者结合本发明第一方面的第七种可能的实施方式,在第八种可能的实施方式中,所述镜头光学畸变模型与重投影误差值之间的映射关系,包括:
针对一种镜头光学畸变模型,选取标定对象;
将所述标定对象映射至网格图像中,得到所述标定对象的理想图像坐标值;
利用所述镜头光学畸变模型,将得到的所述标定对象的理想图像坐标值转换成理论畸变图像坐标值;
通过光学成像设备的成像功能将所述标定对象映射至图像传感器中得到发生光学畸变的图像,并确定发生光学畸变的图像中的像素点的实际畸变图像坐标值;
根据所述理论畸变图像坐标值与所述实际畸变图像坐标值的差值,确定所述镜头光学畸变模型对应的重投影误差值;
建立所述镜头光学畸变模型与确定的重投影误差值之间的映射关系。
结合本发明第一方面可能的实施方式,或者结合本发明第一方面的第一种可能的实施方式,或者结合本发明第一方面的第二种可能的实施方式,或者结合本发明第一方面的第三种可能的实施方式,或者结合本发明第一方面的第四种可能的实施方式,或者结合本发明第一方面的第五种可能的实施方式,或者结合本发明第一方面的第六种可能的实施方式,或者结合本发明第一方面的第七种可能的实施方式,或者结合本发明第一方面的第八种可能的实施方式,在第九种可能的实施方式中,在得到光学畸变矫正后的图像时,所述方法还包括:
在确定获取的发生畸变的图像中包含了设定对象时,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向;
根据确定的所述设定对象发生区域畸变的强度和方向,选择区域畸变矫正参数;
利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
结合本发明第一方面的第九种可能的实施方式,在第十种可能的实施方式中,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向,包括:
确定所述设定对象在获取的发生畸变的图像中的第一位置坐标集合,以及确定所述设定对象在光学畸变矫正后的图像中的第二位置坐标集合;
针对所述设定对象中的至少一个像素点,分别确定该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值;
根据该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向。
结合本发明第一方面的第九种可能的实施方式,或者结合本发明第一方面的第十种可能的实施方式,在第十一种可能的实施方式中,利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像,包括:
利用选择的所述区域畸变矫正参数,对所述第一位置坐标集合中包含的每一个像素点的坐标值进行矫正;
根据所述矫正后的第一位置坐标集合和所述第二位置坐标集合,确定所述设定对象的像素点在矫正后的所述第一位置坐标集合中的坐标值与所述像素点在所述第二位置坐标集合中的坐标值之间的转换规则;
利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
结合本发明第一方面的第十一种可能的实施方式,在第十二种可能的实施方式中,利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,包括:
根据所述光学畸变矫正后的图像,虚拟区域畸变矫正后的网格图像,其中,所述区域畸变矫正后的网格图像中包含的网格点的个数与所述光学畸变矫正后的图像包含的像素点个数相同、相同位置上的网格点的坐标值与像素点的坐标值相同;
针对所述网格图像中的每一个网格点,执行以下操作:
从所述网格图像中选择一个网格点,利用确定的转换规则,将所述网格点的坐标值转换得到区域畸变坐标值;
根据所述区域畸变坐标值和光学畸变矫正后的图像中包含的像素点的坐标值,查找坐标值与所述区域畸变坐标值之间的距离值小于设定距离值的像素点;
根据查找到的所述像素点的像素值,计算得到选择的网格点在网格图像中的像素值。
根据本发明的第二方面,提供了一种图像处理设备,所述图像处理设备包括:成像设备、图像传感器和处理器,其中,所述图像传感器和所述处理器之间通过总线连接;
所述成像设备,用于将被拍摄对象映射至所述图像传感器上;
所述图像传感器,用于获取被拍摄对象发生畸变的图像;
所述处理器,用于根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,其中,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;
利用所述镜头光学畸变模型对所述图像传感器获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像。
结合本发明第二方面可能的实施方式,在第一种可能的实施方式中,所述处理器利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,具体用于:
确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,其中,所述理想图像坐标值用于表征所述被拍摄对象在未发生光学畸变图像中的坐标值;
利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值;
根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点;
根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值。
结合本发明第二方面的第一种可能的实施方式,在第二种可能的实施方式中,所述处理器确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,具体用于:
虚拟一张没有发生光学畸变的网格图像,将所述被拍摄对象映射在所述网格图像中,得到所述被拍摄对象的理想图像;
确定所述理想图像中每一个网格点的理想图像坐标值。
结合本发明第二方面的第二种可能的实施方式,在第三种可能的实施方式中,所述处理器利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值,具体用于:
读取终端设备的内参矩阵以及所述内参矩阵的逆矩阵;
针对所述理想图像中每一个网格点的理想图像坐标值,执行:
从所述理想图像中选择一个网格点,利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值。
结合本发明第二方面的第三种可能的实施方式,在第四种可能的实施方式中,所述处理器利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值,具体用于:
利用终端设备的内参矩阵的逆矩阵,将选择的网格点的理想图像坐标值转换得到第一针孔平面坐标值;
利用选择的所述镜头光学畸变模型,将所述第一针孔平面坐标值转换得到畸变的第二针孔平面坐标值,其中,所述畸变的第二针孔平面坐标值为选择的网格点对应的第一针孔平面坐标值基于选择的所述镜头光学畸变模型发生光学畸变得到的;
利用所述终端设备的内参矩阵,将所述畸变的第二针孔平面坐标值转换得到理论光学畸变图像坐标值。
结合本发明第二方面的第一种可能的实施方式,或者结合本发明第二方面的第二种可能的实施方式,或者结合本发明第二方面的第三种可能的实施方式,或者结合本发明第二方面的第四种可能的实施方式,在第五种可能的实施方式中,所述处理器根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点,具体用于:
计算所述理论光学畸变图像坐标值与所述获取的发生畸变的图像中包含的每一个像素点的实际光学畸变图像坐标值之间的距离值,确定计算得到的距离值小于设定门限对应的像素点。
结合本发明第二方面的第一种可能的实施方式,或者结合本发明第二方面的第二种可能的实施方式,或者结合本发明第二方面的第三种可能的实施方式,或者结合本发明第二方面的第四种可能的实施方式,或者结合本发明第二方面的第五种可能的实施方式,在第六种可能的实施方式中,所述处理器根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值,具体用于:
对查找到的像素点的像素值进行插值计算,得到所述被拍摄对象的理想图像坐标值在所述理想图像中的像素值。
结合本发明第二方面的第二种可能的实施方式,或者结合本发明第二方面的第三种可能的实施方式,或者结合本发明第二方面的第四种可能的实施方式,或者结合本发明第二方面的第五种可能的实施方式,或者结合本发明第二方面的第六种可能的实施方式,在第七种可能的实施方式中,所述处理器,具体用于:
在得到所述理想图像中每一个网格点的像素值时,将得到的所述理想图像作为获取的发生畸变的图像进行光学畸变矫正后的图像。
结合本发明第二方面可能的实施方式,或者结合本发明第二方面的第一种可能的实施方式,或者结合本发明第二方面的第二种可能的实施方式,或者结合本发明第二方面的第三种可能的实施方式,或者结合本发明第二方面的第四种可能的实施方式,或者结合本发明第二方面的第五种可能的实施方式,或者结合本发明第二方面的第六种可能的实施方式,或者结合本发明第二方面的第七种可能的实施方式,在第八种可能的实施方式中,所述镜头光学畸变模型与重投影误差值之间的映射关系,包括:
针对一种镜头光学畸变模型,选取标定对象;
将所述标定对象映射至网格图像中,得到所述标定对象的理想图像坐标值;
利用所述镜头光学畸变模型,将得到的所述标定对象的理想图像坐标值转换成理论畸变图像坐标值;
通过光学成像设备的成像功能将所述标定对象映射至图像传感器中得到发生光学畸变的图像,并确定发生光学畸变的图像中的像素点的实际畸变图像坐标值;
根据所述理论畸变图像坐标值与所述实际畸变图像坐标值的差值,确定所述镜头光学畸变模型对应的重投影误差值;
建立所述镜头光学畸变模型与确定的重投影误差值之间的映射关系。
结合本发明第二方面可能的实施方式,或者结合本发明第二方面的第一种可能的实施方式,或者结合本发明第二方面的第二种可能的实施方式,或者结合本发明第二方面的第三种可能的实施方式,或者结合本发明第二方面的第四种可能的实施方式,或者结合本发明第二方面的第五种可能的实施方式,或者结合本发明第二方面的第六种可能的实施方式,或者结合本发明第二方面的第七种可能的实施方式,或者结合本发明第二方面的第八种可能的实施方式,在第九种可能的实施方式中,所述处理器在得到光学畸变矫正后的图像时,还用于:
在确定获取的发生畸变的图像中包含了设定对象时,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向;
根据确定的所述设定对象发生区域畸变的强度和方向,选择区域畸变矫正参数;
利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
结合本发明第二方面的第九种可能的实施方式,在第十种可能的实施方式中,所述处理器确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向,具体用于:
确定所述设定对象在获取的发生畸变的图像中的第一位置坐标集合,以及确定所述设定对象在光学畸变矫正后的图像中的第二位置坐标集合;
针对所述设定对象中的至少一个像素点,分别确定该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值;
根据该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向。
结合本发明第二方面的第九种可能的实施方式,或者结合本发明第二方面的第十种可能的实施方式,在第十一种可能的实施方式中,所述处理器利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像,具体用于:
利用选择的所述区域畸变矫正参数,对所述第一位置坐标集合中包含的每一个像素点的坐标值进行矫正;
根据所述矫正后的第一位置坐标集合和所述第二位置坐标集合,确定所述设定对象的像素点在矫正后的所述第一位置坐标集合中的坐标值与所述像素点在所述第二位置坐标集合中的坐标值之间的转换规则;
利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
结合本发明第二方面的第十一种可能的实施方式,在第十二种可能的实施方式中,所述处理器利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,具体用于:
根据所述光学畸变矫正后的图像,虚拟区域畸变矫正后的网格图像,其中,所述区域畸变矫正后的网格图像中包含的网格点的个数与所述光学畸变矫正后的图像包含的像素点个数相同、相同位置上的网格点的坐标值与像素点的坐标值相同;
针对所述网格图像中的每一个网格点,执行以下操作:
从所述网格图像中选择一个网格点,利用确定的转换规则,将所述网格点的坐标值转换得到区域畸变坐标值;
根据所述区域畸变坐标值和光学畸变矫正后的图像中包含的像素点的坐标值,查找坐标值与所述区域畸变坐标值之间的距离值小于设定距离值的像素点;
根据查找到的所述像素点的像素值,计算得到选择的网格点在网格图像中的像素值。
根据本发明的第三方面,提供了一种图像处理设备,包括:
获取模块,用于获取被拍摄对象发生畸变的图像;
选择模块,用于根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,其中,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;
处理模块,用于利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像。
结合本发明第三方面可能的实施方式,在第一种可能的实施方式中,所述处理模块利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,具体用于:
确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,其中,所述理想图像坐标值用于表征所述被拍摄对象在未发生光学畸变图像中的坐标值;
利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值;
根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点;
根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值。
结合本发明第三方面的第一种可能的实施方式,在第二种可能的实施方式中,所述处理模块确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,具体用于:
虚拟一张没有发生光学畸变的网格图像,将所述被拍摄对象映射在所述网格图像中,得到所述被拍摄对象的理想图像;
确定所述理想图像中每一个网格点的理想图像坐标值。
结合本发明第三方面的第二种可能的实施方式,在第三种可能的实施方式中,所述处理模块利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值,具体用于:
读取终端设备的内参矩阵以及所述内参矩阵的逆矩阵;
针对所述理想图像中每一个网格点的理想图像坐标值,执行:
从所述理想图像中选择一个网格点,利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值。
结合本发明第三方面的第三种可能的实施方式,在第四种可能的实施方式中,所述处理模块利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值,具体用于:
利用终端设备的内参矩阵的逆矩阵,将选择的网格点的理想图像坐标值转换得到第一针孔平面坐标值;
利用选择的所述镜头光学畸变模型,将所述第一针孔平面坐标值转换得到畸变的第二针孔平面坐标值,其中,所述畸变的第二针孔平面坐标值为选择的网格点对应的第一针孔平面坐标值基于选择的所述镜头光学畸变模型发生光学畸变得到的;
利用所述终端设备的内参矩阵,将所述畸变的第二针孔平面坐标值转换得到理论光学畸变图像坐标值。
结合本发明第三方面的第一种可能的实施方式,或者结合本发明第三方面的第二种可能的实施方式,或者结合本发明第三方面的第三种可能的实施方式,或者结合本发明第三方面的第四种可能的实施方式,在第五种可能的实施方式中,所述处理模块根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点,具体用于:
计算所述理论光学畸变图像坐标值与所述获取的发生畸变的图像中包含的每一个像素点的实际光学畸变图像坐标值之间的距离值,确定计算得到的距离值小于设定门限对应的像素点。
结合本发明第三方面的第一种可能的实施方式,或者结合本发明第三方面的第二种可能的实施方式,或者结合本发明第三方面的第三种可能的实施方式,或者结合本发明第三方面的第四种可能的实施方式,或者结合本发明第三方面的第五种可能的实施方式,在第六种可能的实施方式中,所述处理模块根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值,具体用于:
对查找到的像素点的像素值进行插值计算,得到所述被拍摄对象的理想图像坐标值在所述理想图像中的像素值。
结合本发明第三方面的第二种可能的实施方式,或者结合本发明第三方面的第三种可能的实施方式,或者结合本发明第三方面的第四种可能的实施方式,或者结合本发明第三方面的第五种可能的实施方式,或者结合本发明第三方面的第六种可能的实施方式,在第七种可能的实施方式中,所述处理模块,具体用于在得到所述理想图像中每一个网格点的像素值时,将得到的所述理想图像作为获取的发生畸变的图像进行光学畸变矫正后的图像。
结合本发明第三方面可能的实施方式,或者结合本发明第三方面的第一种可能的实施方式,或者结合本发明第三方面的第二种可能的实施方式,或者结合本发明第三方面的第三种可能的实施方式,或者结合本发明第三方面的第四种可能的实施方式,或者结合本发明第三方面的第五种可能的实施方式,或者结合本发明第三方面的第六种可能的实施方式,或者结合本发明第三方面的第七种可能的实施方式,在第八种可能的实施方式中,所述镜头光学畸变模型与重投影误差值之间的映射关系,包括:
针对一种镜头光学畸变模型,选取标定对象;
将所述标定对象映射至网格图像中,得到所述标定对象的理想图像坐标值;
利用所述镜头光学畸变模型,将得到的所述标定对象的理想图像坐标值转换成理论畸变图像坐标值;
通过光学成像设备的成像功能将所述标定对象映射至图像传感器中得到发生光学畸变的图像,并确定发生光学畸变的图像中的像素点的实际畸变图像坐标值;
根据所述理论畸变图像坐标值与所述实际畸变图像坐标值的差值,确定所述镜头光学畸变模型对应的重投影误差值;
建立所述镜头光学畸变模型与确定的重投影误差值之间的映射关系。
结合本发明第三方面可能的实施方式,或者结合本发明第三方面的第一种可能的实施方式,或者结合本发明第三方面的第二种可能的实施方式,或者结合本发明第三方面的第三种可能的实施方式,或者结合本发明第三方面的第四种可能的实施方式,或者结合本发明第三方面的第五种可能的实施方式,或者结合本发明第三方面的第六种可能的实施方式,或者结合本发明第三方面的第七种可能的实施方式,或者结合本发明第三方面的第八种可能的实施方式,在第九种可能的实施方式中,所述处理模块在得到光学畸变矫正后的图像时,还用于:
在确定获取的发生畸变的图像中包含了设定对象时,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向;
根据确定的所述设定对象发生区域畸变的强度和方向,选择区域畸变矫正参数;
利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
结合本发明第三方面的第九种可能的实施方式,在第十种可能的实施方式中,所述处理模块确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向,具体用于:
确定所述设定对象在获取的发生畸变的图像中的第一位置坐标集合,以及确定所述设定对象在光学畸变矫正后的图像中的第二位置坐标集合;
针对所述设定对象中的至少一个像素点,分别确定该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值;
根据该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向。
结合本发明第三方面的第九种可能的实施方式,或者结合本发明第三方面的第十种可能的实施方式,在第十一种可能的实施方式中,所述处理模块利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像,具体用于:
利用选择的所述区域畸变矫正参数,对所述第一位置坐标集合中包含的每一个像素点的坐标值进行矫正;
根据所述矫正后的第一位置坐标集合和所述第二位置坐标集合,确定所述设定对象的像素点在矫正后的所述第一位置坐标集合中的坐标值与所述像素点在所述第二位置坐标集合中的坐标值之间的转换规则;
利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
结合本发明第三方面的第十一种可能的实施方式,在第十二种可能的实施方式中,所述处理模块利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,具体用于:
根据所述光学畸变矫正后的图像,虚拟区域畸变矫正后的网格图像,其中,所述区域畸变矫正后的网格图像中包含的网格点的个数与所述光学畸变矫正后的图像包含的像素点个数相同、相同位置上的网格点的坐标值与像素点的坐标值相同;
针对所述网格图像中的每一个网格点,执行以下操作:
从所述网格图像中选择一个网格点,利用确定的转换规则,将所述网格点的坐标值转换得到区域畸变坐标值;
根据所述区域畸变坐标值和光学畸变矫正后的图像中包含的像素点的坐标值,查找坐标值与所述区域畸变坐标值之间的距离值小于设定距离值的像素点;
根据查找到的所述像素点的像素值,计算得到选择的网格点在网格图像中的像素值。
有益效果:
本发明实施例获取被拍摄对象发生畸变的图像;根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,其中,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对任一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像,这样,对于获取的发生畸变的图像,利用重投影误差值小于设定阈值的镜头光学畸变参数进行光学畸变矫正,有效地消除了在获取被拍摄对象的图像过程中因为成像设备的光成像原理引发的光学畸变;再者由于选择的镜头光学畸变模型对应的重投影误差值小于设定阈值,使得光学畸变矫正的精度得以提升,改善了拍摄图像的质量。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例一提供的一种图像处理方法的流程示意图;
图2为镜头光学畸变模型对应的重投影误差的示意图;
图3(a)为光学畸变矫正图像的位移矢量标准图;
图3(b)为光学畸变矫正图像的位移矢量变化图;
图4为本发明实施例二提供的一种图像处理设备的结构示意图;
图5为本发明实施例三提供的一种图像处理设备的结构示意图。
具体实施方式
为了实现本发明的目的,本发明实施例提供了一种图像处理方法和设备,对于获取的发生畸变的图像,利用重投影误差值小于设定阈值的镜头光学畸变参数进行光学畸变矫正,有效地消除了在获取被拍摄对象的图像过程中因为成像设备的光成像原理引发的光学畸变;再者由于选择的镜头光学畸变模型对应的重投影误差值小于设定阈值,使得光学畸变矫正的精度得以提升,改善了拍摄图像的质量。
需要说明的是,本发明实施例涉及到的被拍摄对象的空间坐标值是指:被拍摄对象在三维空间中的坐标值,例如:空间坐标值可以包含经度值、纬度值和高度值。
被拍摄对象的理想图像坐标值是指:将被拍摄对象映射在网格图像中,得到未发生畸变的各个网格点的坐标值。
被拍摄对象的理论畸变图像坐标值是指:利用镜头光学畸变模型,对被拍摄对象的理想图像坐标值进行坐标转换后得到的坐标值。
被拍摄对象的实际畸变图像坐标值是指:利用光学成像设备的成像功能将被拍摄对象映射至图像传感器中,得到实际发生光学畸变的图像,其中:实际发生光学畸变的图像中各个像素点的坐标值可以被称为被拍摄对象的实际畸变图像坐标值。
需要说明的是,一个终端设备本地可以存储多个镜头光学畸变模型,可以通过现有技术中相机/摄像标定方法(例如:张正友相机标定方法、Tsai相机标定方法等)确定不同镜头光学畸变模型。
其中,镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数。
其中,光学畸变类型至少包含了径向畸变、切向畸变中的一种或者多种。
需要说明的是,径向畸变是指矢量端点沿长度方向发生的变化;切向畸变是指矢量端点沿切线方向发生的变化,即角度发生变化。
需要说明的是,不同终端设备本地存储的镜头光学畸变模型可以不同,也可以相同。
其中,镜头光学畸变模型不同可以是指镜头光学畸变模型中包含的光学畸变类型不同;或者,镜头光学畸变模型中包含的光学畸变类型相同、畸变阶数不同。
镜头光学畸变模型相同是指镜头光学畸变模型中包含的光学畸变类型相同、畸变阶数相同;对于同一个镜头光学畸变模型,不同终端设备通过相机/摄像标定方法确定的该同一个镜头光学畸变模型中同一光学畸变类型、且相同的畸变阶数对应的畸变系数可以相同;也可以不同。
例如:若镜头光学畸变模型表示为:其中,(x,y)为被拍摄对象的理想图像坐标值;(xrd,yrd)为被拍摄对象的理想图像坐标值发生径向畸变后的坐标值;r表示(x,y)的极半径;K1表示径向畸变系数。在不同终端设备中,确定的K1可以相同,也可以不同。
下面结合说明书附图对本发明各个实施例进行详细描述。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
实施例一:
如图1所示,为本发明实施例一提供的一种图像处理方法的流程示意图,所述方法的执行主体可以为终端设备。其中,所述方法包括:
步骤101:获取被拍摄对象发生畸变的图像。
在步骤101中,在获取被拍摄对象发生畸变的图像阶段,终端设备利用成像单元的成像功能将被拍摄对象映射到图像传感器中得到发生畸变的图像,该图像传感器将映射得到的发生畸变的图像发送给终端设备的处理器。
其中,所述终端设备可以为相机、摄像机、手机等具有拍照功能的终端设备,成像单元可以是终端设备中的镜头。
在镜头将被拍摄对象转换成为图像的过程中,由于镜头成像的光学原因,和/或被拍摄对象与终端设备之间的空间距离,导致由被拍摄对象转换成的图像易发生畸变。
其中,镜头成像的光学原因导致由被拍摄对象转换成的图像易发生光学畸变。
步骤102:根据至少一种镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型。
其中,重投影误差值是指针对任一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值。
也就是说,重投影误差值越小,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值越接近,后续光学畸变矫正的精度越高。
需要说明的是,至少一种镜头光学畸变模型可以存储在存储器中。
在步骤102中,至少一种镜头光学畸变模型与重投影误差值之间的映射关系,可以通过对镜头光学畸变模型的学习得到。
例如:选择一种镜头光学畸变模型,针对不同的标定物,分别计算该种镜头光学畸变模型对应的重投影误差值,此时存储该种镜头光学畸变模型与计算得到的多个重投影误差值的映射关系;或者,并将得到的多个重投影误差值的平均值或者其他形式的数值确定为该种镜头光学畸变模型对应的重投影误差值,存储该种镜头光学畸变模型与确定的重投影误差值之间的映射关系。
对于一个终端设备,可以存储多个镜头光学畸变模型。
例如:镜头光学畸变模型可以通过不同的光学畸变类型组合得到,具体地,镜头光学畸变模型通过径向畸变和切向畸变组合得到。
例如:径向畸变对应的径向畸变模型可以为:(公式一);
其中,(x,y)为被拍摄对象的理想图像坐标值;(xrd,yrd)为被拍摄对象的理想图像坐标值发生径向畸变后的坐标值;r表示(x,y)的极半径;Ki表示径向畸变系数,r2i中的2i表示径向畸变的阶数,i的取值为1至N,其中,N为正整数。
切向畸变对应的切向畸变模型可以为:(公式二);
其中,(x,y)为被拍摄对象的理想图像坐标值;(xpd,ypd)为被拍摄对象的理想图像坐标值发生切向畸变后的坐标值;r表示(x,y)的极半径;P1、P2、P3、P4、…表示切向畸变系数,r的指数表示切向畸变的阶数。
组合得到的镜头光学畸变模型为:(公式三);
其中,(xrd,yrd)为被拍摄对象的理想图像坐标值发生径向畸变后的坐标值;(xpd,ypd)为被拍摄对象的理想图像坐标值发生切向畸变后的坐标值;(xd,yd)为被拍摄对象的理想图像坐标值发生镜头光学畸变后的坐标值。
由此可见,径向畸变的阶数不同,和/或,切向畸变的阶数不同,那么得到的镜头光学畸变模型也不同。
如表1所示,为由径向畸变模型和切向畸变模型组合得到的镜头光学畸变模型:
镜头光学畸变模型编号 镜头光学畸变模型对应的径向畸变模型和切向畸变模型
1 2阶径向畸变模型和0阶切向畸变模型
2 4阶径向畸变模型和0阶切向畸变模型
3 6阶径向畸变模型和0阶切向畸变模型
4 (2+4)阶径向畸变模型和0阶切向畸变模型
5 (2+6)阶径向畸变模型和0阶切向畸变模型
6 (4+6)阶径向畸变模型和0阶切向畸变模型
7 (2+4+6)阶径向畸变模型和0阶切向畸变模型
表1
参考公式一和公式二,可以理解的是,2阶径向畸变模型是指4阶径向畸变模型是指6阶径向畸变模型是指(2+4)阶径向畸变模型是指(2+6)阶径向畸变模型是指(4+6)阶径向畸变模型是指(2+4+6)阶径向畸变模型是指
0阶切向畸变模型是指
一个终端设备通过现有技术中相机/摄像标定方法(例如:张正友相机标定方法、Tsai相机标定方法等)分别确定出不同镜头光学畸变模型的径向畸变系数、切向畸变系数和极半径。
在确定出不同镜头光学畸变模型的径向畸变系数、切向畸变系数和极半径后,可以采用如下方式建立该镜头光学畸变模型与对应的重投影误差值之间的映射关系:
针对一种镜头光学畸变模型,选取标定对象。
将该标定对象映射至网格图像中,得到该标定对象的理想图像坐标值;利用该镜头光学畸变模型,将得到的该标定对象的理想图像坐标值转换成理论畸变图像坐标值;
通过光学成像设备的成像功能将该标定对象映射至图像传感器中得到发生光学畸变的图像,并确定发生光学畸变的图像中的像素点的实际畸变图像坐标值;
根据所述理论畸变图像坐标值与所述实际畸变图像坐标值的差值,确定所述镜头光学畸变模型对应的重投影误差值;
建立所述镜头光学畸变模型与确定的重投影误差值之间的映射关系。
需要说明的是,根据所述理论畸变图像坐标值与所述实际畸变图像坐标值的差值,确定所述镜头光学畸变模型对应的重投影误差值,包括:
将理论畸变图像坐标值与实际畸变图像坐标值的差值确定为该镜头光学畸变模型对应的重投影误差值。
需要说明的是,若标定对象由多个点组成,那么在计算理论畸变图像坐标值与实际畸变图像坐标值的差值时,选择表示标定对象的同一个点的理论畸变图像坐标值和实际畸变图像坐标值进行差值计算。将得到的多个差值的平均值或者加权平均值确定为该镜头光学畸变模型对应的重投影误差值。
例如:镜头光学模型中包含了2阶径向畸变模型和0阶切向畸变模型,那么计算得到的重投影误差值为0.6;镜头光学模型中包含了6阶径向畸变模型和0阶切向畸变模型,那么计算得到的重投影误差值为0.67;镜头光学模型中包含了6阶径向畸变模型和0阶切向畸变模型,那么计算得到的重投影误差值为1.1;镜头光学模型中包含了(2+4)阶径向畸变模型和0阶切向畸变模型,那么计算得到的重投影误差值为0.51;镜头光学模型中包含了(2+6)阶径向畸变模型和0阶切向畸变模型,那么计算得到的重投影误差值为0.54;镜头光学模型中包含了(4+6)阶径向畸变模型和0阶切向畸变模型,那么计算得到的重投影误差值为0.51;镜头光学模型中包含了(2+4+6)阶径向畸变模型和0阶切向畸变模型,那么计算得到的重投影误差值为0.49。
如图2所示,为不同镜头光学畸变模型对应的重投影误差值的示意图。
若设定阈值为0.52,那么重投影误差值小于0.52的镜头光学畸变模型包括:
(2+4)阶径向畸变模型和0阶切向畸变模型组合得到的镜头光学畸变模型,即镜头光学畸变模型4;
(4+6)阶径向畸变模型和0阶切向畸变模型组合得到的镜头光学畸变模型,即镜头光学畸变模型6;
(2+4+6)阶径向畸变模型和0阶切向畸变模型组合得到的镜头光学畸变模型,即镜头光学畸变模型7。
由于镜头光学畸变模型7计算得到的重投影误差值最小,那么可以将镜头光学畸变模型7作为优先选择的镜头光学畸变模型;但其模型的复杂度也最高。对于满足条件的镜头光学畸变模型4和镜头光学畸变模型6的重投影误差值,在计算资源有限的设备中可以优先选择镜头光学畸变模型4或镜头光学畸变模型6,这样可以略微牺牲矫正准确性已降低计算复杂度。
可选地,在本发明实施例中,终端设备还可以将获取的发生畸变的图像对应的被拍摄对象作为标定对象,分别计算不同镜头光学畸变模型对应的重投影误差值,根据计算得到的重投影误差值,选择重投影误差值小于设定阈值的镜头光学畸变模型,或者选择最小重投影误差值对应的镜头光学畸变模型。
具体地,将被拍摄对象作为标定对象,首先,确定被拍摄对象对应的实际畸变图像坐标值;其次,分别利用不同的镜头光学畸变模型,得到被拍摄对象对应的理论畸变图像坐标值;再次,分别计算每一个理论畸变图像坐标值与实际畸变图像坐标值之间的差值,得到每一个镜头光学畸变模型对应的重投影误差值;最后,选择重投影误差值小于设定阈值的镜头光学畸变模型,或者选择最小重投影误差值对应的镜头光学畸变模型。
需要说明的是,在得到每一个镜头光学畸变模型对应的重投影误差值时,建立镜头光学畸变模型与对应的重投影误差值的映射关系,存储在本地,可以作为后续选择镜头光学畸变模型的参考依据。
步骤103:利用选择的所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像。
在步骤103中,利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,包括:
确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,其中,所述理想图像坐标值用于表征所述被拍摄对象在未发生光学畸变图像中的坐标值;
利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值;
根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点;
根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值。
具体地,可以先确定获取的发生畸变的图像对应的被拍摄对象中包含的每一个点的空间坐标值,然后计算得到每一个点的空间坐标值对应的理想图像坐标值。
其中,所述理想图像坐标值是指所述被拍摄对象在未发生光学畸变图像中的坐标值;空间坐标值是指被拍摄对象在三维空间中的坐标值。
具体地,可以通过以下方式计算得到每一个点的空间坐标值对应的理想图像坐标值:
虚拟一张没有发生光学畸变的网格图像,将被拍摄对象映射在该网格图像中,得到该被拍摄对象的理想图像,并确定该理想图像中每一个网格点的理想图像坐标值。
其次,针对所述理想图像中每一个网格点的理想图像坐标值,执行以下操作:
从所述理想图像中选择一个网格点,利用选择的镜头光学畸变模型,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值;
根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点;
根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值。
其中,利用选择的镜头光学畸变模型,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值,具体包括:
读取终端设备的内参矩阵以及所述内参矩阵的逆矩阵;
利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值。
具体地,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值,包括:
第一步:利用终端设备的内参矩阵的逆矩阵,将选择的网格点的理想图像坐标值转换得到第一针孔平面坐标值。
第二步:利用选择的所述镜头光学畸变模型,将所述第一针孔平面坐标值转换得到畸变的第二针孔平面坐标值,其中,所述畸变的第二针孔平面坐标值为选择的网格点对应的第一针孔平面坐标值基于选择的所述镜头光学畸变模型发生光学畸变得到的。
第三步:利用所述终端设备的内参矩阵,将所述畸变的第二针孔平面坐标值转换得到理论光学畸变图像坐标值。
需要说明的是,针孔平面坐标是指在以终端设备为基准建立的坐标系中确定出的点的坐标。
以终端设备为基准建立的坐标系包括:以终端设备的成像单元的光心作为原点,光轴作为坐标系的Z轴,并垂直于成像平面,且取摄像方向为正方向,坐标系的X轴与成像平面中图像物理坐标系的x轴平行,坐标系的Y轴与成像平面中图像物理坐标系的y轴平行。
例如:在第一步中,通过以下方式将选择的网格点的理想图像坐标值转换得到选择的网格点对应的第一针孔平面坐标值:
其中,(x,y,1)为选择的网格点的理想图像坐标值的齐次坐标;(X,Y,Z)为第一针孔平面坐标值;A为3*3的上三角矩阵,表示终端设备标定过程中输出的内参数矩阵,A-1为A的逆矩阵。
需要说明的是,(x,y,1)由(x,y)进行齐次坐标转换得到,(x,y)为选择的网格点的理想图像坐标值。
例如:在第二步中,利用选择的镜头光学畸变模型,将所述第一针孔平面坐标值进行坐标转换,得到畸变的第二针孔平面坐标值。
假设选择的镜头光学畸变模型为表1中的镜头光学畸变模型4:径向畸变模型为:(公式四);切向畸变模型为:(公式五);组合得到的镜头光学畸变模型为:(公式六)。
将所述第一针孔平面坐标值分别代入公式四和公式五,将公式四计算得到的结果和公式五计算得到的结果代入公式六,计算得到畸变的第二针孔平面坐标值。
例如:在第三步中,通过以下方式将所述畸变的第二针孔平面坐标值转换得到理论光学畸变图像坐标值:
其中,(xd,yd,zd)为理论光学畸变图像坐标值;(Xd,Yd,1)为畸变的第二针孔平面坐标值。
需要说明的是,(Xd,Yd,1)为第二步中计算得到(Xd,Yd)的齐次坐标。
其中,齐次坐标转换是指将一个n维向量用一个n+1维向量来表示的方式。
具体地,根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点,包括:
计算所述理论光学畸变图像坐标值与所述获取的发生畸变的图像中包含的每一个像素点的实际光学畸变图像坐标值之间的距离值,确定计算得到的距离值小于设定门限对应的像素点。
具体地,根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值,包括:
对查找到的像素点的像素值进行插值计算,得到选择的网格点在所述理想图像中的像素值。
例如:(xd,yd)为理论光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点,用实际光学畸变图像坐标值表示为:(x1,y1),(x2,y2)、(x3,y3)、(x4,y4),那么将(x1,y1)的像素值,(x2,y2)的像素值、(x3,y3)的像素值和(x4,y4)的像素值进行插值计算,即可得到选择的网格点(x,y)对应在理想图像中的像素值。
需要说明的是,插值计算的方法可以采用双线性插值;也可以采用双立方插值;还可以采用更复杂的基于边缘统计信息的插值方法,这里不做具体限定。
在得到所述理想图像中每一个网格点的像素值时,将得到的所述理想图像作为获取的发生畸变的图像进行光学畸变矫正后的图像。
步骤104:在得到光学畸变矫正后的图像时,检测所述光学畸变矫正后的图像中是否包含设定对象,若包含,则执行步骤105;否则,输出得到光学畸变矫正后的图像。
在步骤104中,所述设定对象可以是指人脸特征图像、某特定物体的图像等等,这里不做限定。
步骤105:确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向。
其中,所述设定对象在获取的发生畸变的图像中发生区域畸变的方向包括:设定对象由所述获取的发生畸变的图像的中心向所述获取的发生畸变的图像的四周方向移动、设定对象由所述获取的发生畸变的图像的四周向所述获取的图像的中心方向移动;
所述设定对象在获取的发生畸变的图像中发生区域畸变的强度包括:位移值和位移发生变化量中的一种或者多种。
需要说明的是,区域畸变可以是指在利用光学成像单元的成像功能将被拍摄对象转换成为图像的过程中,由于被拍摄对象与终端设备之间的空间距离或者拍摄角度导致转换得到的图像失真。
步骤105中,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向,具体包括:
第一步:确定所述设定对象在获取的发生畸变的图像中的第一位置坐标集合,以及确定所述设定对象在光学畸变矫正后的图像中的第二位置坐标集合。
例如:设定对象为人脸特征,那么在获取的图像中确定属于人脸特征的像素点,将确定的属于人脸特征的像素点的坐标集合得到第一位置坐标集合;在光学畸变矫正后的图像中确定属于人脸特征的像素点,将确定的属于人脸特征的像素点的坐标集合得到第二位置坐标集合。
需要说明的是,第一位置坐标集合和第二位置坐标集合中包含的人脸特征的像素点的坐标可以是被拍摄对象的所有表示人脸特征的像素点的坐标,还可以是部分表示人脸特征的像素点的坐标。其中,第一位置坐标集合包含的人脸特征的像素点的坐标与第二位置坐标集合中包含的人脸特征的像素点的坐标可以满足:人脸特征的像素点表示的人脸特征相同。例如:被拍摄对象中表示人脸特征眼睛的像素点由编号1~10组成,若第一位置坐标集合中包含了表示人脸特征眼睛的像素点的编号1的坐标,那么第二位置坐标集合中也包含了表示人脸特征眼睛的像素点的编号1的坐标。
第二步:针对所述设定对象中的至少一个像素点,分别确定该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值。
例如:第一位置坐标集合中包含的表示人脸特征眼睛的像素点的编号1的坐标值为(a,b);
第二位置坐标集合中包含的表示人脸特征眼睛的像素点的编号1的坐标值为(c,d)。
第三步:根据该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向。
例如:计算(a,b)到(c,d)的矢量,其中,矢量的正负符号表示人脸特征眼睛的像素点的编号1在获取的图像中发生区域畸变的方向;矢量的大小值表示人脸特征眼睛的像素点的编号1在获取的发生畸变的图像中发生区域畸变的强度。
例如:若根据设定对象在获取的发生畸变的图像中的第一位置坐标集合,确定该设定对象处于获取的发生畸变的图像的四角,且所述设定对象在获取的发生畸变的图像中发生区域畸变的方向为由所述获取的发生畸变的图像的中心向所述获取的发生畸变的图像的四周方向移动,畸变的速度变化为:先变大后减小。
从相对运动角度看,当设定对象处于获取的发生畸变的图像中速度变大的区域时,设定对象被朝四角的方向拉伸,导致设定对象发生区域畸变的强度加重;当设定对象处于获取的发生畸变的图像中速度变小的区域时,设定对象被向中心的方向压缩,导致设定对象发生区域畸变的强度减轻。
如图3(a)所示,为光学畸变矫正图像的位移矢量标准图。
如图3(b)所示,为光学畸变矫正图像的位移矢量变化图。
步骤106:根据确定的所述设定对象发生区域畸变的强度和方向,选择区域畸变矫正参数。
其中,所述区域畸变矫正参数可以用于描述区域畸变矫正方向和区域畸变矫正强度。
在步骤106中,根据发生区域畸变的强度和方向与区域畸变矫正参数之间的对应关系,得到确定的所述设定对象发生区域畸变的强度和方向对应的区域畸变矫正参数。
需要说明的是,区域畸变的强度和方向与区域畸变矫正参数之间的对应关系可以通过学习得到。
步骤107:利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
在步骤107中,利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,具体包括:
第一步:利用选择的所述区域畸变矫正参数,对所述第一位置坐标集合中包含的每一个像素点的坐标值进行矫正。
例如:从所述第一位置坐标集合中选择一个像素点,通过以下方式对选择的像素点的坐标值进行矫正:
其中,为选择的像素点矫正后的坐标值,Fldc为选择的像素点在第二位置坐标集合中的坐标值,Fd为选择的像素点在矫正前的第一位置坐标集合中的坐标值,alpha为区域畸变矫正参数,包含了区域矫正方向和区域矫正强度。
第二步,根据所述矫正后的第一位置坐标集合和所述第二位置坐标集合,确定所述设定对象的像素点在矫正后的所述第一位置坐标集合中的坐标值与所述像素点在所述第二位置坐标集合中的坐标值之间的转换规则。
例如:从矫正后的第一位置坐标集合中选择一个像素点,确定该像素点的坐标值对应的齐次坐标值为(x1,y1,z1),并确定该像素点在第二位置坐标集合中的坐标值对应的齐次坐标值为(x2,y2,z2)。
由于单应性矩阵H描述了和Fldc中同一个像素点对应的坐标值的空间变换关系,即其中,
需要说明的是,表示单应性矩阵,该单应性矩阵为一个3*3的矩阵。
进一步展开得到:
x'2(H31x1+H32y1+H33)=H11x1+H12y1+H13 x'2=x2/z2
y'2(H31x1+H32y1+H33)=H21x1+H22y1+H23,其中,y'2=y2/z2
再进一步整理得到:Bh=0。
其中,h=(H11,H12,H13,H21,H22,H23,H31,H32,H33)T
其中,M是{Fd',Fldc}中包含的像素点对的个数。
对Bh=0可以采用最小二乘法或者梯度下降法,解出h,进而得到单应性矩阵H,其中,该单应性矩阵H表征了所述设定对象的像素点在矫正后的所述第一位置坐标集合中的坐标值与所述像素点在所述第二位置坐标集合中的坐标值之间的转换规则。
第三步:利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
具体地,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像,具体包括:
首先,根据所述光学畸变矫正后的图像,虚拟区域畸变矫正后的网格图像。
其中,所述区域畸变矫正后的网格图像中包含的网格点的个数与所述光学畸变矫正后的图像包含的像素点个数相同、相同位置上的网格点的坐标值与像素点的坐标值相同。
其次,针对所述网格图像中的每一个网格点,执行以下操作:
从所述网格图像中选择一个网格点,利用确定的转换规则,将所述网格点的坐标值转换得到区域畸变坐标值;
根据所述区域畸变坐标值和光学畸变矫正后的图像中包含的像素点的坐标值,查找坐标值与所述区域畸变坐标值之间的距离值小于设定距离值的像素点;
根据查找到的所述像素点的像素值,计算得到选择的网格点在网格图像中的像素值。
具体地,利用确定的转换规则,将所述网格点的坐标值转换得到区域畸变坐标值,包括:
其中,(x1,y1)为选择的网格点的坐标值,H-1为单应性矩阵的逆矩阵;(x2,y2)为区域畸变坐标值。
具体地,根据查找到的所述像素点的像素值,计算得到选择的网格点在网格图像中的像素值,包括:
对查找到的所述像素点的像素值进行插值计算,得到选择的网格点在网格图像中的像素值。
在得到所述网格图像中每一个网格点在未发生区域畸变图像中的像素值时,组合得到获取的发生畸变的图像进行光学畸变矫正以及区域畸变矫正后的图像。
可选地,所述方法还包括:
在得到获取的发生畸变的图像进行光学畸变矫正以及区域畸变矫正后的图像后,还可以包括:利用显示参数对得到的图像进行显示调整,使得到的图像的分辨率与终端设备的图像分辨率相同,并输出调整后的图像。
需要说明的是,显示参数可以包含显示大小,显示分辨率等。
通过本发明实施例一的方案,获取被拍摄对象发生畸变的图像;根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,其中,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对任一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像,这样,对于获取的发生畸变的图像,利用重投影误差值小于设定阈值的镜头光学畸变参数进行光学畸变矫正,有效地消除了在获取被拍摄对象的图像过程中因为成像设备的光成像原理引发的光学畸变;再者由于选择的镜头光学畸变模型对应的重投影误差值小于设定阈值,使得光学畸变矫正的精度得以提升,改善了拍摄图像的质量。
实施例二:
如图4所示,为本发明实施例二提供的一种图像处理设备的结构示意图。所述图像处理设备具备了本发明实施例一的功能。所述矫正设备的功能可以通过通用计算机实现。所述图像处理设备实体包含了成像设备31、图像传感器32、和处理器33。其中,图像传感器32和处理器33之间通过总线34连接。
所述成像设备31,用于将被拍摄对象映射至图像传感器32上;
所述图像传感器32,用于获取发生畸变的图像;
所述处理器33,用于根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,其中,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对任一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;
利用所述镜头光学畸变模型对所述图像传感器32获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像。
进一步的,所述图像处理设备还可以包括存储器35,所述存储器35和所述处理器33通过总线34连接。
所述存储器35,用于存储所述图像传感器32获取的发生畸变的图像。
所述存储器35,还用于将存储的发生畸变的图像发送给所述处理器33。
进一步的,所述图像处理设备还可以包括显示器36,所述显示器36和所述处理器33通过总线34连接.
所述显示器36,用于将所述处理器33得到的光学畸变矫正后的图像输出显示。
具体地,所述处理器33利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,具体用于:
确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,其中,所述理想图像坐标值用于表征所述被拍摄对象在未发生光学畸变图像中的坐标值;
利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值;
根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点;
根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值。
具体地,所述处理器33确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,具体用于:
虚拟一张没有发生光学畸变的网格图像,将所述被拍摄对象映射在所述网格图像中,得到所述被拍摄对象的理想图像;
确定所述理想图像中每一个网格点的理想图像坐标值。
具体地,所述处理器33利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值,具体用于:
从存储器35中读取图像处理设备的内参矩阵以及所述内参矩阵的逆矩阵;
针对所述理想图像中每一个网格点的理想图像坐标值,执行:
从所述理想图像中选择一个网格点,利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值。
具体地,所述处理器33利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值,具体用于:
利用终端设备的内参矩阵的逆矩阵,将选择的网格点的理想图像坐标值转换得到第一针孔平面坐标值;
利用选择的所述镜头光学畸变模型,将所述第一针孔平面坐标值转换得到畸变的第二针孔平面坐标值,其中,所述畸变的第二针孔平面坐标值为选择的网格点对应的第一针孔平面坐标值基于选择的所述镜头光学畸变模型发生光学畸变得到的;
利用所述终端设备的内参矩阵,将所述畸变的第二针孔平面坐标值转换得到理论光学畸变图像坐标值。
具体地,所述处理器33根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点,具体用于:
计算所述理论光学畸变图像坐标值与所述获取的发生畸变的图像中包含的每一个像素点的实际光学畸变图像坐标值之间的距离值,确定计算得到的距离值小于设定门限对应的像素点。
具体地,所述处理器33根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值,具体用于:
对查找到的像素点的像素值进行插值计算,得到所述被拍摄对象的理想图像坐标值在所述理想图像中的像素值。
具体地,所述处理器33,具体用于:
在得到所述理想图像中每一个网格点的像素值时,将得到的所述理想图像作为获取的发生畸变的图像进行光学畸变矫正后的图像。
具体地,所述镜头光学畸变模型与重投影误差值之间的映射关系,包括:
针对一种镜头光学畸变模型,选取标定对象;
将所述标定对象映射至网格图像中,得到所述标定对象的理想图像坐标值;
利用所述镜头光学畸变模型,将得到的所述标定对象的理想图像坐标值转换成理论畸变图像坐标值;
通过光学成像设备的成像功能将所述标定对象映射至图像传感器中得到发生光学畸变的图像,并确定发生光学畸变的图像中的像素点的实际畸变图像坐标值;
根据所述理论畸变图像坐标值与所述实际畸变图像坐标值的差值,确定所述镜头光学畸变模型对应的重投影误差值;
建立所述镜头光学畸变模型与确定的重投影误差值之间的映射关系。
可选地,所述处理器33在得到光学畸变矫正后的图像时,还用于:
在确定获取的发生畸变的图像中包含了设定对象时,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向;
根据确定的所述设定对象发生区域畸变的强度和方向,选择区域畸变矫正参数;
利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
具体地,所述处理器33确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向,具体用于:
确定所述设定对象在获取的发生畸变的图像中的第一位置坐标集合,以及确定所述设定对象在光学畸变矫正后的图像中的第二位置坐标集合;
针对所述设定对象中的至少一个像素点,分别确定该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值;
根据该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向。
具体地,所述处理器33利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像,具体用于:
利用选择的所述区域畸变矫正参数,对所述第一位置坐标集合中包含的每一个像素点的坐标值进行矫正;
根据所述矫正后的第一位置坐标集合和所述第二位置坐标集合,确定所述设定对象的像素点在矫正后的所述第一位置坐标集合中的坐标值与所述像素点在所述第二位置坐标集合中的坐标值之间的转换规则;
利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
具体地,所述处理器33利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,具体用于:
根据所述光学畸变矫正后的图像,虚拟区域畸变矫正后的网格图像,其中,所述区域畸变矫正后的网格图像中包含的网格点的个数与所述光学畸变矫正后的图像包含的像素点个数相同、相同位置上的网格点的坐标值与像素点的坐标值相同;
针对所述网格图像中的每一个网格点,执行以下操作:
从所述网格图像中选择一个网格点,利用确定的转换规则,将所述网格点的坐标值转换得到区域畸变坐标值;
根据所述区域畸变坐标值和光学畸变矫正后的图像中包含的像素点的坐标值,查找坐标值与所述区域畸变坐标值之间的距离值小于设定距离值的像素点;
根据查找到的所述像素点的像素值,计算得到选择的网格点在网格图像中的像素值。
其中,所述显示器36,还用于显示所述区域畸变矫正后的图像。
其中,所述处理器33可以是一个通用中央处理器(CPU),微处理器,特定应用集成电路(application-specific integrated circuit,ASIC),或一个或多个用于控制本发明方案程序执行的集成电路。
所述存储器35,可以是只读存储器(read-only memory,ROM)或可存储静态信息和指令的其他类型的静态存储设备,随机存取存储器(random access memory,RAM)或者可存储信息和指令的其他类型的动态存储设备,也可以是电可擦可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。这些存储器通过总线与处理器相连接。
所述图像处理设备对发生畸变的图像不仅通过镜头光学畸变模型矫正由镜头设备引发的光学畸变,而且通过区域畸变矫正参数矫正由拍摄角度引发的区域畸变,提升了采集设备采集图像的质量。
实施例三:
如图5所示,为本发明实施例三提供的一种图像处理设备的结构示意图,所述图像处理设备包括:获取模块41、选择模块42和处理模块43,其中:
获取模块41,用于获取被拍摄对象发生畸变的图像;
选择模块42,用于根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,其中,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;
处理模块43,用于利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像。
具体地,所述处理模块43利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,具体用于:
确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,其中,所述理想图像坐标值用于表征所述被拍摄对象在未发生光学畸变图像中的坐标值;
利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值;
根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点;
根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值。
具体地,所述处理模块43确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,具体用于:
虚拟一张没有发生光学畸变的网格图像,将所述被拍摄对象映射在所述网格图像中,得到所述被拍摄对象的理想图像;
确定所述理想图像中每一个网格点的理想图像坐标值。
具体地,所述处理模块43利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值,具体用于:
读取终端设备的内参矩阵以及所述内参矩阵的逆矩阵;
针对所述理想图像中每一个网格点的理想图像坐标值,执行:
从所述理想图像中选择一个网格点,利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值。
具体地,所述处理模块43利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值,具体用于:
利用终端设备的内参矩阵的逆矩阵,将选择的网格点的理想图像坐标值转换得到第一针孔平面坐标值;
利用选择的所述镜头光学畸变模型,将所述第一针孔平面坐标值转换得到畸变的第二针孔平面坐标值,其中,所述畸变的第二针孔平面坐标值为选择的网格点对应的第一针孔平面坐标值基于选择的所述镜头光学畸变模型发生光学畸变得到的;
利用所述终端设备的内参矩阵,将所述畸变的第二针孔平面坐标值转换得到理论光学畸变图像坐标值。
具体地,所述处理模块43根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点,具体用于:
计算所述理论光学畸变图像坐标值与所述获取的发生畸变的图像中包含的每一个像素点的实际光学畸变图像坐标值之间的距离值,确定计算得到的距离值小于设定门限对应的像素点。
具体地,所述处理模块43根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值,具体用于:
对查找到的像素点的像素值进行插值计算,得到所述被拍摄对象的理想图像坐标值在所述理想图像中的像素值。
具体地,所述处理模块43,具体用于在得到所述理想图像中每一个网格点的像素值时,将得到的所述理想图像作为获取的发生畸变的图像进行光学畸变矫正后的图像。
可选地,所述镜头光学畸变模型与重投影误差值之间的映射关系,包括:
针对一种镜头光学畸变模型,选取标定对象;
将所述标定对象映射至网格图像中,得到所述标定对象的理想图像坐标值;
利用所述镜头光学畸变模型,将得到的所述标定对象的理想图像坐标值转换成理论畸变图像坐标值;
通过光学成像设备的成像功能将所述标定对象映射至图像传感器中得到发生光学畸变的图像,并确定发生光学畸变的图像中的像素点的实际畸变图像坐标值;
根据所述理论畸变图像坐标值与所述实际畸变图像坐标值的差值,确定所述镜头光学畸变模型对应的重投影误差值;
建立所述镜头光学畸变模型与确定的重投影误差值之间的映射关系。
可选地,所述处理模块43在得到光学畸变矫正后的图像时,还用于:
在确定获取的发生畸变的图像中包含了设定对象时,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向;
根据确定的所述设定对象发生区域畸变的强度和方向,选择区域畸变矫正参数;
利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
具体地,所述处理模块43确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向,具体用于:
确定所述设定对象在获取的发生畸变的图像中的第一位置坐标集合,以及确定所述设定对象在光学畸变矫正后的图像中的第二位置坐标集合;
针对所述设定对象中的至少一个像素点,分别确定该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值;
根据该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向。
具体地,所述处理模块43利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像,具体用于:
利用选择的所述区域畸变矫正参数,对所述第一位置坐标集合中包含的每一个像素点的坐标值进行矫正;
根据所述矫正后的第一位置坐标集合和所述第二位置坐标集合,确定所述设定对象的像素点在矫正后的所述第一位置坐标集合中的坐标值与所述像素点在所述第二位置坐标集合中的坐标值之间的转换规则;
利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
具体地,所述处理模块43利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,具体用于:
根据所述光学畸变矫正后的图像,虚拟区域畸变矫正后的网格图像,其中,所述区域畸变矫正后的网格图像中包含的网格点的个数与所述光学畸变矫正后的图像包含的像素点个数相同、相同位置上的网格点的坐标值与像素点的坐标值相同;
针对所述网格图像中的每一个网格点,执行以下操作:
从所述网格图像中选择一个网格点,利用确定的转换规则,将所述网格点的坐标值转换得到区域畸变坐标值;
根据所述区域畸变坐标值和光学畸变矫正后的图像中包含的像素点的坐标值,查找坐标值与所述区域畸变坐标值之间的距离值小于设定距离值的像素点;
根据查找到的所述像素点的像素值,计算得到选择的网格点在网格图像中的像素值。
所述图像处理设备对发生畸变的图像不仅通过镜头光学畸变模型矫正由镜头设备引发的光学畸变,而且通过区域畸变矫正参数矫正由拍摄角度引发的区域畸变,提升了采集设备采集图像的质量。
本发明实施例三所述的图像处理设备可以是集成在终端设备中的逻辑部件,通过硬件方式或者软件方式实现;也可以是独立于终端设备的设备,这里不做限定。
本领域的技术人员应明白,本发明的实施例可提供为方法、装置(设备)、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、装置(设备)和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (36)

1.一种图像处理方法,其特征在于,包括:
获取被拍摄对象发生畸变的图像;
根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,其中,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;
利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像,在确定获取的发生畸变的图像中包含了设定对象时,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向;根据确定的所述设定对象发生区域畸变的强度和方向,选择区域畸变矫正参数;利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
2.如权利要求1所述的方法,其特征在于,利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,包括:
确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,其中,所述理想图像坐标值用于表征所述被拍摄对象在未发生光学畸变图像中的坐标值;
利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值;
根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点;
根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值。
3.如权利要求2所述的方法,其特征在于,确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,包括:
虚拟一张没有发生光学畸变的网格图像,将所述被拍摄对象映射在所述网格图像中,得到所述被拍摄对象的理想图像;
确定所述理想图像中每一个网格点的理想图像坐标值。
4.如权利要求3所述的方法,其特征在于,利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值,包括:
读取终端设备的内参矩阵以及所述内参矩阵的逆矩阵;
针对所述理想图像中每一个网格点的理想图像坐标值,执行:
从所述理想图像中选择一个网格点,利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值。
5.如权利要求4所述的方法,其特征在于,利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值,包括:
利用终端设备的内参矩阵的逆矩阵,将选择的网格点的理想图像坐标值转换得到第一针孔平面坐标值;
利用选择的所述镜头光学畸变模型,将所述第一针孔平面坐标值转换得到畸变的第二针孔平面坐标值,其中,所述畸变的第二针孔平面坐标值为选择的网格点对应的第一针孔平面坐标值基于选择的所述镜头光学畸变模型发生光学畸变得到的;
利用所述终端设备的内参矩阵,将所述畸变的第二针孔平面坐标值转换得到理论光学畸变图像坐标值。
6.如权利要求5所述的方法,其特征在于,根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点,包括:
计算所述理论光学畸变图像坐标值与所述获取的发生畸变的图像中包含的每一个像素点的实际光学畸变图像坐标值之间的距离值,确定计算得到的距离值小于设定门限对应的像素点。
7.如权利要求6所述的方法,其特征在于,根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值,包括:
对查找到的像素点的像素值进行插值计算,得到所述被拍摄对象的理想图像坐标值在所述理想图像中的像素值。
8.如权利要求7所述的方法,其特征在于,所述得到光学畸变矫正后的图像,包括:
在得到所述理想图像中每一个网格点的像素值时,将得到的所述理想图像作为获取的发生畸变的图像进行光学畸变矫正后的图像。
9.如权利要求1至8任一所述的方法,其特征在于,所述镜头光学畸变模型与重投影误差值之间的映射关系,包括:
针对一种镜头光学畸变模型,选取标定对象;
将所述标定对象映射至网格图像中,得到所述标定对象的理想图像坐标值;
利用所述镜头光学畸变模型,将得到的所述标定对象的理想图像坐标值转换成理论畸变图像坐标值;
通过光学成像设备的成像功能将所述标定对象映射至图像传感器中得到发生光学畸变的图像,并确定发生光学畸变的图像中的像素点的实际畸变图像坐标值;
根据所述理论畸变图像坐标值与所述实际畸变图像坐标值的差值,确定所述镜头光学畸变模型对应的重投影误差值;
建立所述镜头光学畸变模型与确定的重投影误差值之间的映射关系。
10.如权利要求1所述的方法,其特征在于,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向,包括:
确定所述设定对象在获取的发生畸变的图像中的第一位置坐标集合,以及确定所述设定对象在光学畸变矫正后的图像中的第二位置坐标集合;
针对所述设定对象中的至少一个像素点,分别确定该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值;
根据该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向。
11.如权利要求10所述的方法,其特征在于,利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像,包括:
利用选择的所述区域畸变矫正参数,对所述第一位置坐标集合中包含的每一个像素点的坐标值进行矫正;
根据所述矫正后的第一位置坐标集合和所述第二位置坐标集合,确定所述设定对象的像素点在矫正后的所述第一位置坐标集合中的坐标值与所述像素点在所述第二位置坐标集合中的坐标值之间的转换规则;
利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
12.如权利要求11所述的方法,其特征在于,利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,包括:
根据所述光学畸变矫正后的图像,虚拟区域畸变矫正后的网格图像,其中,所述区域畸变矫正后的网格图像中包含的网格点的个数与所述光学畸变矫正后的图像包含的像素点个数相同、相同位置上的网格点的坐标值与像素点的坐标值相同;
针对所述网格图像中的每一个网格点,执行以下操作:
从所述网格图像中选择一个网格点,利用确定的转换规则,将所述网格点的坐标值转换得到区域畸变坐标值;
根据所述区域畸变坐标值和光学畸变矫正后的图像中包含的像素点的坐标值,查找坐标值与所述区域畸变坐标值之间的距离值小于设定距离值的像素点;
根据查找到的所述像素点的像素值,计算得到选择的网格点在网格图像中的像素值。
13.一种图像处理设备,其特征在于,所述图像处理设备包括:成像设备、图像传感器和处理器,其中,所述图像传感器和所述处理器之间通过总线连接;
所述成像设备,用于将被拍摄对象映射至所述图像传感器上;
所述图像传感器,用于获取被拍摄对象发生畸变的图像;
所述处理器,用于根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,其中,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;
利用所述镜头光学畸变模型对所述图像传感器获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像,在确定获取的发生畸变的图像中包含了设定对象时,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向;根据确定的所述设定对象发生区域畸变的强度和方向,选择区域畸变矫正参数;利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
14.如权利要求13所述的图像处理设备,其特征在于,所述处理器利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,具体用于:
确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,其中,所述理想图像坐标值用于表征所述被拍摄对象在未发生光学畸变图像中的坐标值;
利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值;
根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点;
根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值。
15.如权利要求14所述的图像处理设备,其特征在于,所述处理器确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,具体用于:
虚拟一张没有发生光学畸变的网格图像,将所述被拍摄对象映射在所述网格图像中,得到所述被拍摄对象的理想图像;
确定所述理想图像中每一个网格点的理想图像坐标值。
16.如权利要求15所述的图像处理设备,其特征在于,所述处理器利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值,具体用于:
读取终端设备的内参矩阵以及所述内参矩阵的逆矩阵;
针对所述理想图像中每一个网格点的理想图像坐标值,执行:
从所述理想图像中选择一个网格点,利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值。
17.如权利要求16所述的图像处理设备,其特征在于,所述处理器利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值,具体用于:
利用终端设备的内参矩阵的逆矩阵,将选择的网格点的理想图像坐标值转换得到第一针孔平面坐标值;
利用选择的所述镜头光学畸变模型,将所述第一针孔平面坐标值转换得到畸变的第二针孔平面坐标值,其中,所述畸变的第二针孔平面坐标值为选择的网格点对应的第一针孔平面坐标值基于选择的所述镜头光学畸变模型发生光学畸变得到的;
利用所述终端设备的内参矩阵,将所述畸变的第二针孔平面坐标值转换得到理论光学畸变图像坐标值。
18.如权利要求17所述的图像处理设备,其特征在于,所述处理器根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点,具体用于:
计算所述理论光学畸变图像坐标值与所述获取的发生畸变的图像中包含的每一个像素点的实际光学畸变图像坐标值之间的距离值,确定计算得到的距离值小于设定门限对应的像素点。
19.如权利要求18任一所述的图像处理设备,其特征在于,所述处理器根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值,具体用于:
对查找到的像素点的像素值进行插值计算,得到所述被拍摄对象的理想图像坐标值在所述理想图像中的像素值。
20.如权利要求19所述的图像处理设备,其特征在于,所述处理器,具体用于:
在得到所述理想图像中每一个网格点的像素值时,将得到的所述理想图像作为获取的发生畸变的图像进行光学畸变矫正后的图像。
21.如权利要求13至20任一所述的图像处理设备,其特征在于,所述镜头光学畸变模型与重投影误差值之间的映射关系,包括:
针对一种镜头光学畸变模型,选取标定对象;
将所述标定对象映射至网格图像中,得到所述标定对象的理想图像坐标值;
利用所述镜头光学畸变模型,将得到的所述标定对象的理想图像坐标值转换成理论畸变图像坐标值;
通过光学成像设备的成像功能将所述标定对象映射至图像传感器中得到发生光学畸变的图像,并确定发生光学畸变的图像中的像素点的实际畸变图像坐标值;
根据所述理论畸变图像坐标值与所述实际畸变图像坐标值的差值,确定所述镜头光学畸变模型对应的重投影误差值;
建立所述镜头光学畸变模型与确定的重投影误差值之间的映射关系。
22.如权利要求13所述的图像处理设备,其特征在于,所述处理器确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向,具体用于:
确定所述设定对象在获取的发生畸变的图像中的第一位置坐标集合,以及确定所述设定对象在光学畸变矫正后的图像中的第二位置坐标集合;
针对所述设定对象中的至少一个像素点,分别确定该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值;
根据该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向。
23.如权利要求22所述的图像处理设备,其特征在于,所述处理器利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像,具体用于:
利用选择的所述区域畸变矫正参数,对所述第一位置坐标集合中包含的每一个像素点的坐标值进行矫正;
根据所述矫正后的第一位置坐标集合和所述第二位置坐标集合,确定所述设定对象的像素点在矫正后的所述第一位置坐标集合中的坐标值与所述像素点在所述第二位置坐标集合中的坐标值之间的转换规则;
利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
24.如权利要求23所述的图像处理设备,其特征在于,所述处理器利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,具体用于:
根据所述光学畸变矫正后的图像,虚拟区域畸变矫正后的网格图像,其中,所述区域畸变矫正后的网格图像中包含的网格点的个数与所述光学畸变矫正后的图像包含的像素点个数相同、相同位置上的网格点的坐标值与像素点的坐标值相同;
针对所述网格图像中的每一个网格点,执行以下操作:
从所述网格图像中选择一个网格点,利用确定的转换规则,将所述网格点的坐标值转换得到区域畸变坐标值;
根据所述区域畸变坐标值和光学畸变矫正后的图像中包含的像素点的坐标值,查找坐标值与所述区域畸变坐标值之间的距离值小于设定距离值的像素点;
根据查找到的所述像素点的像素值,计算得到选择的网格点在网格图像中的像素值。
25.一种图像处理设备,其特征在于,包括:
获取模块,用于获取被拍摄对象发生畸变的图像;
选择模块,用于根据至少一组镜头光学畸变模型与重投影误差值之间的映射关系,选择重投影误差值小于设定阈值的镜头光学畸变模型,其中,所述镜头光学畸变模型包含光学畸变类型、畸变阶数和畸变系数,所述重投影误差值用于表征针对一个标定对象,所述标定对象的理论畸变图像坐标值与所述标定对象的实际畸变图像坐标值之间的差值;
处理模块,用于利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,得到光学畸变矫正后的图像,在确定获取的发生畸变的图像中包含了设定对象时,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向;根据确定的所述设定对象发生区域畸变的强度和方向,选择区域畸变矫正参数;利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
26.如权利要求25所述的图像处理设备,其特征在于,所述处理模块利用所述镜头光学畸变模型对获取的发生畸变的图像进行光学畸变矫正,具体用于:
确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,其中,所述理想图像坐标值用于表征所述被拍摄对象在未发生光学畸变图像中的坐标值;
利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值;
根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点;
根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值。
27.如权利要求26所述的图像处理设备,其特征在于,所述处理模块确定获取的发生畸变的图像对应的被拍摄对象的理想图像坐标值,具体用于:
虚拟一张没有发生光学畸变的网格图像,将所述被拍摄对象映射在所述网格图像中,得到所述被拍摄对象的理想图像;
确定所述理想图像中每一个网格点的理想图像坐标值。
28.如权利要求27所述的图像处理设备,其特征在于,所述处理模块利用所述镜头光学畸变模型,对确定的所述被拍摄对象的理想图像坐标值进行坐标转换,得到所述理想图像坐标值对应的理论光学畸变图像坐标值,具体用于:
读取终端设备的内参矩阵以及所述内参矩阵的逆矩阵;
针对所述理想图像中每一个网格点的理想图像坐标值,执行:
从所述理想图像中选择一个网格点,利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值。
29.如权利要求28所述的图像处理设备,其特征在于,所述处理模块利用所述终端设备的内参矩阵、选择的所述镜头光学畸变模型以及所述终端设备的内参矩阵的逆矩阵,对选择的网格点的理想图像坐标值进行坐标转换得到理论光学畸变图像坐标值,具体用于:
利用终端设备的内参矩阵的逆矩阵,将选择的网格点的理想图像坐标值转换得到第一针孔平面坐标值;
利用选择的所述镜头光学畸变模型,将所述第一针孔平面坐标值转换得到畸变的第二针孔平面坐标值,其中,所述畸变的第二针孔平面坐标值为选择的网格点对应的第一针孔平面坐标值基于选择的所述镜头光学畸变模型发生光学畸变得到的;
利用所述终端设备的内参矩阵,将所述畸变的第二针孔平面坐标值转换得到理论光学畸变图像坐标值。
30.如权利要求29所述的图像处理设备,其特征在于,所述处理模块根据所述理论光学畸变图像坐标值和所述获取的发生畸变的图像中包含的像素点的实际光学畸变图像坐标值,查找实际光学畸变图像坐标值与所述理论光学畸变图像坐标值之间的距离值小于设定门限的像素点,具体用于:
计算所述理论光学畸变图像坐标值与所述获取的发生畸变的图像中包含的每一个像素点的实际光学畸变图像坐标值之间的距离值,确定计算得到的距离值小于设定门限对应的像素点。
31.如权利要求30所述的图像处理设备,其特征在于,所述处理模块根据查找到的像素点的像素值,计算得到所述被拍摄对象的理想图像坐标值对应的像素值,具体用于:
对查找到的像素点的像素值进行插值计算,得到所述被拍摄对象的理想图像坐标值在所述理想图像中的像素值。
32.如权利要求31所述的图像处理设备,其特征在于,所述处理模块,具体用于在得到所述理想图像中每一个网格点的像素值时,将得到的所述理想图像作为获取的发生畸变的图像进行光学畸变矫正后的图像。
33.如权利要求32任一所述的图像处理设备,其特征在于,所述镜头光学畸变模型与重投影误差值之间的映射关系,包括:
针对一种镜头光学畸变模型,选取标定对象;
将所述标定对象映射至网格图像中,得到所述标定对象的理想图像坐标值;
利用所述镜头光学畸变模型,将得到的所述标定对象的理想图像坐标值转换成理论畸变图像坐标值;
通过光学成像设备的成像功能将所述标定对象映射至图像传感器中得到发生光学畸变的图像,并确定发生光学畸变的图像中的像素点的实际畸变图像坐标值;
根据所述理论畸变图像坐标值与所述实际畸变图像坐标值的差值,确定所述镜头光学畸变模型对应的重投影误差值;
建立所述镜头光学畸变模型与确定的重投影误差值之间的映射关系。
34.如权利要求25所述的图像处理设备,其特征在于,所述处理模块确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向,具体用于:
确定所述设定对象在获取的发生畸变的图像中的第一位置坐标集合,以及确定所述设定对象在光学畸变矫正后的图像中的第二位置坐标集合;
针对所述设定对象中的至少一个像素点,分别确定该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值;
根据该至少一个像素点在所述第一位置坐标集合中的坐标值和该至少一个像素点在所述第二位置坐标集合中的坐标值,确定所述设定对象在获取的发生畸变的图像中发生区域畸变的强度和方向。
35.如权利要求34所述的图像处理设备,其特征在于,所述处理模块利用选择的所述区域畸变矫正参数,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像,具体用于:
利用选择的所述区域畸变矫正参数,对所述第一位置坐标集合中包含的每一个像素点的坐标值进行矫正;
根据所述矫正后的第一位置坐标集合和所述第二位置坐标集合,确定所述设定对象的像素点在矫正后的所述第一位置坐标集合中的坐标值与所述像素点在所述第二位置坐标集合中的坐标值之间的转换规则;
利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,得到区域畸变矫正后的图像。
36.如权利要求35所述的图像处理设备,其特征在于,所述处理模块利用确定的转换规则,对光学畸变矫正后的图像进行区域畸变矫正,具体用于:
根据所述光学畸变矫正后的图像,虚拟区域畸变矫正后的网格图像,其中,所述区域畸变矫正后的网格图像中包含的网格点的个数与所述光学畸变矫正后的图像包含的像素点个数相同、相同位置上的网格点的坐标值与像素点的坐标值相同;
针对所述网格图像中的每一个网格点,执行以下操作:
从所述网格图像中选择一个网格点,利用确定的转换规则,将所述网格点的坐标值转换得到区域畸变坐标值;
根据所述区域畸变坐标值和光学畸变矫正后的图像中包含的像素点的坐标值,查找坐标值与所述区域畸变坐标值之间的距离值小于设定距离值的像素点;
根据查找到的所述像素点的像素值,计算得到选择的网格点在网格图像中的像素值。
CN201480001341.9A 2014-10-31 2014-10-31 一种图像处理方法和设备 Active CN104363986B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2014/090094 WO2016065632A1 (zh) 2014-10-31 2014-10-31 一种图像处理方法和设备

Publications (2)

Publication Number Publication Date
CN104363986A CN104363986A (zh) 2015-02-18
CN104363986B true CN104363986B (zh) 2017-06-13

Family

ID=52530962

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480001341.9A Active CN104363986B (zh) 2014-10-31 2014-10-31 一种图像处理方法和设备

Country Status (5)

Country Link
US (1) US10262400B2 (zh)
EP (1) EP3200148B1 (zh)
KR (1) KR101921672B1 (zh)
CN (1) CN104363986B (zh)
WO (1) WO2016065632A1 (zh)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104363986B (zh) * 2014-10-31 2017-06-13 华为技术有限公司 一种图像处理方法和设备
CN105869110B (zh) 2016-03-28 2018-09-28 腾讯科技(深圳)有限公司 图像显示方法和装置、异形曲面幕布的定制方法和装置
RU2623806C1 (ru) * 2016-06-07 2017-06-29 Акционерное общество Научно-производственный центр "Электронные вычислительно-информационные системы" (АО НПЦ "ЭЛВИС") Способ и устройство обработки стереоизображений
CN106161941B (zh) * 2016-07-29 2022-03-11 南昌黑鲨科技有限公司 双摄像头自动追焦方法、装置及终端
CN106447602B (zh) * 2016-08-31 2020-04-03 浙江大华技术股份有限公司 一种图像拼接方法及装置
CN107315252A (zh) * 2016-11-30 2017-11-03 深圳市虚拟现实技术有限公司 虚拟现实头盔景深区域激光设置的方法及装置
CN108171673B (zh) * 2018-01-12 2024-01-23 京东方科技集团股份有限公司 图像处理方法、装置、车载抬头显示系统及车辆
CN108399606B (zh) * 2018-02-02 2020-06-26 北京奇艺世纪科技有限公司 一种图像调整的方法及装置
CN110290285B (zh) * 2018-03-19 2021-01-22 京东方科技集团股份有限公司 图像处理方法、图像处理装置、图像处理系统及介质
US10754149B2 (en) 2018-04-20 2020-08-25 Amd (Shanghai) Co., Ltd. Efficient radial lens shading correction
WO2020014881A1 (zh) * 2018-07-17 2020-01-23 华为技术有限公司 一种图像校正方法和终端
CN109285190B (zh) * 2018-09-06 2021-06-04 广东天机工业智能系统有限公司 对象定位方法、装置、电子设备和存储介质
CN109447908A (zh) * 2018-09-25 2019-03-08 上海大学 一种基于立体视觉的钢卷识别定位方法
KR102118173B1 (ko) * 2018-10-31 2020-06-02 중앙대학교 산학협력단 왜곡계수 추정을 통한 영상 보정 시스템 및 방법
CN111243028B (zh) * 2018-11-09 2023-09-08 杭州海康威视数字技术股份有限公司 一种电子设备及镜头关联方法、装置
TWI766206B (zh) * 2018-11-13 2022-06-01 創惟科技股份有限公司 影像的修正方法及其裝置
CN111263137B (zh) * 2018-11-30 2022-04-19 南京理工大学 单图像的畸变检测处理方法
CN109799073B (zh) * 2019-02-13 2021-10-22 京东方科技集团股份有限公司 一种光学畸变测量装置及方法、图像处理系统、电子设备和显示设备
CN111756984A (zh) * 2019-03-26 2020-10-09 深圳市赛格导航科技股份有限公司 一种实现倒车实时图像半全景的图像处理方法和系统
CN110473159B (zh) * 2019-08-20 2022-06-10 Oppo广东移动通信有限公司 图像处理方法和装置、电子设备、计算机可读存储介质
CN110519486B (zh) * 2019-09-19 2021-09-03 Oppo广东移动通信有限公司 基于广角镜头的畸变补偿方法、装置、及相关设备
CN112541861A (zh) * 2019-09-23 2021-03-23 华为技术有限公司 图像处理方法、装置、设备及计算机存储介质
CN110751609B (zh) * 2019-10-25 2022-03-11 浙江迅实科技有限公司 一种基于智能光畸变校正的dlp打印精度提升方法
CN111355863B (zh) * 2020-04-07 2022-07-22 北京达佳互联信息技术有限公司 一种图像畸变校正方法、装置、电子设备及存储介质
CN113724141B (zh) * 2020-05-26 2023-09-05 杭州海康威视数字技术股份有限公司 一种图像校正方法、装置及电子设备
KR102267696B1 (ko) * 2020-06-16 2021-06-21 남서울대학교 산학협력단 사진측량과 컴퓨터비전 간의 카메라 렌즈왜곡 변환 시스템 및 그 방법
CN114205487A (zh) 2020-08-28 2022-03-18 超威半导体公司 内容自适应镜头阴影校正方法和装置
CN112489114A (zh) * 2020-11-25 2021-03-12 深圳地平线机器人科技有限公司 图像转换方法、装置、计算机可读存储介质及电子设备
CN112509035A (zh) * 2020-11-26 2021-03-16 江苏集萃未来城市应用技术研究所有限公司 一种光学镜头和热成像镜头的双镜头图像像素点匹配方法
CN112509034A (zh) * 2020-11-26 2021-03-16 江苏集萃未来城市应用技术研究所有限公司 一种基于图像像素点匹配的大范围行人体温精准检测方法
CN112465917B (zh) * 2020-11-30 2023-02-28 北京紫光展锐通信技术有限公司 镜头模组的畸变标定方法、系统、设备及存储介质
CN112435303B (zh) * 2020-12-09 2024-03-19 华中科技大学 振镜系统校正表构建方法、构建系统及振镜系统校正方法
CN114648449A (zh) * 2020-12-18 2022-06-21 华为技术有限公司 一种图像重映射方法以及图像处理装置
CN112871703B (zh) * 2020-12-30 2022-09-06 天津德通电气股份有限公司 一种智能管理选煤平台及其方法
CN113284196B (zh) * 2021-07-20 2021-10-22 杭州先奥科技有限公司 一种摄像机畸变逐像素标定方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6819333B1 (en) * 2000-05-12 2004-11-16 Silicon Graphics, Inc. System and method for displaying an image using display distortion correction
CA2453423C (fr) * 2001-07-12 2014-10-14 Vision Iq Procede et systeme pour fournir des informations formatees a des moyens de traitement d'images
WO2003007592A1 (fr) * 2001-07-12 2003-01-23 Do Labs Procede et systeme pour corriger les aberrations chromatiques d'une image couleur realisee au moyen d'un systeme optique
US6856449B2 (en) * 2003-07-10 2005-02-15 Evans & Sutherland Computer Corporation Ultra-high resolution light modulation control system and method
JP2005327220A (ja) * 2004-05-17 2005-11-24 Sharp Corp イラスト図作成装置、イラスト図作成方法、制御プログラムおよび可読記録媒体
US7742624B2 (en) 2006-04-25 2010-06-22 Motorola, Inc. Perspective improvement for image and video applications
JP4714174B2 (ja) 2007-03-27 2011-06-29 富士フイルム株式会社 撮像装置
KR101014572B1 (ko) * 2007-08-27 2011-02-16 주식회사 코아로직 영상 왜곡 보정 방법 및 그 보정 방법을 채용한 영상처리장치
JP2011049733A (ja) 2009-08-26 2011-03-10 Clarion Co Ltd カメラキャリブレーション装置および映像歪み補正装置
CN102075785B (zh) 2010-12-28 2012-05-23 武汉大学 一种atm机广角摄像机镜头畸变校正方法
CN102169573B (zh) * 2011-03-23 2013-11-06 北京大学 高精度的宽视场镜头实时畸变矫正方法及系统
CN103827917B (zh) * 2011-07-25 2017-06-09 科英布拉大学 用于使用棋盘图案的一幅或多幅图像的自动相机校准的方法和装置
CN102622747B (zh) 2012-02-16 2013-10-16 北京航空航天大学 一种用于视觉测量的摄像机参数优化方法
CN102750697B (zh) 2012-06-08 2014-08-20 华为技术有限公司 一种参数标定方法及装置
CN103685951A (zh) * 2013-12-06 2014-03-26 华为终端有限公司 一种图像处理方法、装置及终端
CN104363986B (zh) * 2014-10-31 2017-06-13 华为技术有限公司 一种图像处理方法和设备
WO2017045129A1 (zh) * 2015-09-15 2017-03-23 华为技术有限公司 图像畸变校正方法及装置
US10373297B2 (en) * 2016-10-26 2019-08-06 Valve Corporation Using pupil location to correct optical lens distortion

Also Published As

Publication number Publication date
US20170330308A1 (en) 2017-11-16
WO2016065632A1 (zh) 2016-05-06
KR101921672B1 (ko) 2019-02-13
EP3200148B1 (en) 2019-08-28
CN104363986A (zh) 2015-02-18
US10262400B2 (en) 2019-04-16
KR20170063953A (ko) 2017-06-08
EP3200148A1 (en) 2017-08-02
EP3200148A4 (en) 2017-08-02

Similar Documents

Publication Publication Date Title
CN104363986B (zh) 一种图像处理方法和设备
CN103426149A (zh) 大视角图像畸变的校正处理方法
CN104917955A (zh) 一种图像转换和多视图输出系统及方法
CN106934806B (zh) 一种基于结构清晰度的无参考图失焦模糊区域分割方法
CN102156969A (zh) 图像纠偏处理方法
CN106295533A (zh) 一种自拍图像的优化方法、装置和拍摄终端
CN107563978A (zh) 人脸去模糊方法及装置
CN103902730B (zh) 一种缩略图生成方法和系统
CN102236790B (zh) 一种图像处理方法和设备
CN103106641B (zh) 应用于全景成像系统的投影变换方法以及装置
US20230237683A1 (en) Model generation method and apparatus based on multi-view panoramic image
CN109360144B (zh) 一种基于手机平台的图像实时校正改进方法
US10657703B2 (en) Image processing apparatus and image processing method
CN104350743A (zh) 用于混合图像去马赛克和扭曲的系统,方法和计算机程序产品
CN110007764B (zh) 一种手势骨架识别方法、装置、系统及存储介质
CN112017242B (zh) 显示方法及装置、设备、存储介质
CN111768396B (zh) 虚拟显示设备的畸变测量方法及装置
KR101888837B1 (ko) 스테레오 매칭 시스템의 전처리 장치
CN104574455B (zh) 图像重建方法及装置
CN115205793B (zh) 基于深度学习二次确认的电力机房烟雾检测方法及装置
US20220179485A1 (en) Gaze point estimation method, device, and electronic device
CN103929584B (zh) 图像校正方法及图像校正电路
CN106408499B (zh) 用于图像处理的逆向映射表的获取方法及装置
CN104809696B (zh) 图像畸变矫正方法和系统
CN115294295B (zh) 一种人体模型的构建方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant