CN107707821A - 畸变参数的建模方法及装置、校正方法、终端、存储介质 - Google Patents
畸变参数的建模方法及装置、校正方法、终端、存储介质 Download PDFInfo
- Publication number
- CN107707821A CN107707821A CN201710913789.3A CN201710913789A CN107707821A CN 107707821 A CN107707821 A CN 107707821A CN 201710913789 A CN201710913789 A CN 201710913789A CN 107707821 A CN107707821 A CN 107707821A
- Authority
- CN
- China
- Prior art keywords
- image
- distortion
- binocular camera
- distance
- distortion parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 230000000007 visual effect Effects 0.000 claims abstract description 32
- 238000012937 correction Methods 0.000 claims description 31
- 230000002159 abnormal effect Effects 0.000 claims description 8
- 239000000284 extract Substances 0.000 claims description 5
- 241000208340 Araliaceae Species 0.000 claims 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 claims 1
- 235000003140 Panax quinquefolius Nutrition 0.000 claims 1
- 235000008434 ginseng Nutrition 0.000 claims 1
- 230000008859 change Effects 0.000 abstract description 14
- 230000006870 function Effects 0.000 description 17
- 230000006854 communication Effects 0.000 description 11
- 238000012545 processing Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 230000033001 locomotion Effects 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 210000003128 head Anatomy 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000009977 dual effect Effects 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- 210000001525 retina Anatomy 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000001629 suppression Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000005314 correlation function Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000001404 mediated effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000009527 percussion Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种畸变参数的建模方法及装置、校正方法、终端、存储介质，所述方法包括步骤：获取双目摄像头的视场角及其对应的不同距离的畸变量数据；根据获取的双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型。本发明通过对双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型；该多项式模型可反映出畸变参数在不同距离上的动态变化，提高了畸变校正精度，同时提高了背景虚化的稳定性和精确性。
Description
技术领域
本发明涉及终端技术领域，尤其涉及一种畸变参数的建模方法及装置、校正方法、终端、存储介质。
背景技术
随着移动终端技术的发展，具有照相功能的移动终端在人们的生活中已经得到了普及。功能越来越丰富的移动终端极大地方便了人们的生活。近年来，图像处理技术飞速发展，移动终端的照相功能也日益强大，加上移动终端携带方便的优点，越来越多的用户青睐通过移动终端进行拍照。
为了提高移动终端的拍照效果，越来越多的移动终端采用双摄像头。通过双摄像头的移动终端拍摄出来的照片比单摄像头的终端拍出的照片的效果很高，画质更清楚。但是通过双摄像头的移动终端不能直接拍摄出具有不同成像效果的照片，还需要终端用户后期对照片进行处理。在图像处理的过程中，背景虚化是一个经常出现的手法，因其能迅速突出主体而被广大摄影爱好者所熟知和使用。
在实现本发明的过程中，发明人发现现有技术存在以下问题：畸变是移动中摄像头的固有属性，畸变不能消除，只能一定程度上进行矫正，参数估计的方法不同导致精度也不一样；同时摄像头对焦距离不同的时候，畸变参数也会有区别，会导致图像矫正精度的降低；而现有技术在计算畸变矫正参数的时候都是基于固定的距离，即参数固定以后使用在任意拍摄场景；该计算方式会导致图像矫正精度的降低。
发明内容
本发明的主要目的在于提出一种畸变参数的建模方法及装置、校正方法、终端、存储介质，旨在解决现有技术存在的问题。
为实现上述目的，本发明实施例第一方面提供一种畸变参数的建模方法，所述方法包括步骤：
获取双目摄像头的视场角及其对应的不同距离的畸变量数据；
根据获取的双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型。
可选的，根据取的双目摄像头的视场角及其对应的不同距离的畸变量数据，通过最小二乘法进行拟合得到畸变参数与距离的多项式模型。
可选的，所述视场角的范围为0.4至1，所述距离的范围为10cm至5m。
此外，为实现上述目的，本发明实施例第二方面提供一种畸变参数的建模装置，所述畸变参数的建模装置包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的畸变参数的建模装置程序，所述畸变参数的建模装置程序被所述处理器执行时实现第一方面所述的畸变参数的建模方法的步骤。
此外，为实现上述目的，本发明实施例第三方面提供一种图像畸变校正方法，所述方法包括步骤：
确定拍摄物与双目摄像头的距离；
根据畸变参数与距离的多项式模型，计算确定的拍摄物与所述双目摄像头的距离的畸变参数；
根据计算的畸变参数对所述双目摄像头进行畸变校正。
可选的，所述确定拍摄物与双目摄像头的距离包括步骤：
获取所述双目摄像头拍摄的图像，所述图像包括第一摄像头拍摄的左目图像和第二摄像头拍摄的和右目图像；
确定所述双目摄像头拍摄的图像的特征点集中区域；
计算所述特征点集中区域在所述左目图像和所述右目图像之间的光流值，并根据计算的所述特征点集中区域在所述左目图像和所述右目图像之间的光流值，确定拍摄物与所述双目摄像头的距离。
可选的，所述确定所述双目摄像头拍摄的图像的特征点集中区域包括步骤：
提取所述双目摄像头拍摄的图像的特征点；
统计局部较密集特征点，并根据统计的局部较密集特征点确定所述双目摄像头拍摄的图像的特征点集中区域。
可选的，所述畸变矫正包括径向畸变校正和或切向畸变校正。
此外，为实现上述目的，本发明实施例第四方面提供一种终端，所述终端包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的图像畸变校正程序，所述图像畸变校正程序被所述处理器执行时实现第三方面所述的图像畸变校正方法的步骤。
再者，为实现上述目的，本发明实施例第五方面提供一种计算机可读存储介质，所述计算机可读存储介质上存储有图像畸变校正程序，所述图像畸变校正程序被处理器执行时实现第一方面所述的图像畸变校正方法的步骤。
本发明实施例提供的畸变参数的建模方法及装置、校正方法、终端、存储介质，通过对双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型；该多项式模型可反映出畸变参数在不同距离上的动态变化，提高了畸变校正精度，同时提高了背景虚化的稳定性和精确性。
附图说明
图1为实现本发明各个实施例的移动终端的硬件结构示意图；
图2为本发明实施例提供的一种通信网络系统架构图；
图3为本发明第一实施例的畸变参数的建模方法流程示意图；
图4为本发明第二实施例的畸变参数的建模装置结构示意图；
图5为本发明第三实施例的图像畸变校正方法流程示意图；
图6为本发明第三实施例的图像畸变校正方法中确定拍摄物与双目摄像头的距离流程示意图；
图7为本发明第四实施例的终端结构示意图；
图8为本发明实施例的FAST特征点判断结构示意图；
图9为本发明实施例的拍摄图像的局部较密集特征点结构示意图；
图10为本发明实施例的拟合后的多项式的曲线结构示意图和实际的曲线结构示意图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身没有特定的意义。因此，“模块”、“部件”或“单元”可以混合地使用。
终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant，PDA)、便捷式媒体播放器(Portable Media Player，PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端，以及诸如数字TV、台式计算机等固定终端。
后续描述中将以移动终端为例进行说明，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。
请参阅图1，其为实现本发明各个实施例的一种移动终端的硬件结构示意图，该移动终端100可以包括：RF(Radio Frequency，射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图1中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
下面结合图1对移动终端的各个部件进行具体的介绍：
射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将基站的下行信息接收后，给处理器110处理；另外，将上行的数据发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于GSM(Global System of Mobile communication，全球移动通讯系统)、GPRS(General Packet Radio Service，通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000，码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access，时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution，频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution，分时双工长期演进)等。
WiFi属于短距离无线传输技术，移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102，但是可以理解的是，其并不属于移动终端的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。
音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。
A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
移动终端100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在移动终端100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)，并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，并能接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种，具体此处不做限定。
进一步的，触控面板1071可覆盖显示面板1061，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中，触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能，具体此处不做限定。
接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的数据，执行移动终端的各种功能和处理数据，从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元；优选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。
移动终端100还可以包括给各个部件供电的电源111(比如电池)，优选的，电源111可以通过电源管理系统与处理器110逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管图1未示出，移动终端100还可以包括蓝牙模块等，在此不再赘述。
为了便于理解本发明实施例，下面对本发明的移动终端所基于的通信网络系统进行描述。
请参阅图2，图2为本发明实施例提供的一种通信网络系统架构图，该通信网络系统为通用移动通信技术的LTE系统，该LTE系统包括依次通讯连接的UE(User Equipment，用户设备)201，E-UTRAN(Evolved UMTS Terrestrial Radio Access Network，演进式UMTS陆地无线接入网)202，EPC(Evolved Packet Core，演进式分组核心网)203和运营商的IP业务204。
具体地，UE201可以是上述终端100，此处不再赘述。
E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中，eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接，eNodeB2021连接到EPC203，eNodeB2021可以提供UE201到EPC203的接入。
EPC203可以包括MME(Mobility Management Entity，移动性管理实体)2031，HSS(Home Subscriber Server，归属用户服务器)2032，其它MME2033，SGW(Serving Gate Way，服务网关)2034，PGW(PDN Gate Way，分组数据网络网关)2035和PCRF(Policy andCharging Rules Function，政策和资费功能实体)2036等。其中，MME2031是处理UE201和EPC203之间信令的控制节点，提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能，并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送，PGW2035可以提供UE 201的IP地址分配以及其它功能，PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点，它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。
IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem，IP多媒体子系统)或其它IP业务等。
虽然上述以LTE系统为例进行了介绍，但本领域技术人员应当知晓，本发明不仅仅适用于LTE系统，也可以适用于其他无线通信系统，例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等，此处不做限定。
基于上述移动终端硬件结构以及通信网络系统，提出本发明方法各个实施例。
第一实施例
如图3所示，本发明第一实施例提供一种畸变参数的建模方法，所述方法包括步骤：
S31、获取双目摄像头的视场角及其对应的不同距离的畸变量数据。
在本实施例中，所述视场角的范围为0.4至1，所述距离的范围为10cm至5m。
作为示例地，厂商可以根据摄像头结构标定出在每个视场角上的畸变量，如下表格所示：
从上表格可以看出，不同视场角上的畸变量随着距离的变化而变化。需要说明的是，随着在距离上采样点的增加，建立的模型越精确。
S32、根据获取的双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型。
在本实施例中，可根据取的双目摄像头的视场角及其对应的不同距离的畸变量数据，通过最小二乘法进行拟合得到畸变参数与距离的多项式模型。
最小二乘法大致的原理为：给定数据点Pi(Xi，Yi)，其中i＝1,2,…,m。求近似曲线y＝φ(x)。并且使得近似曲线与y＝f(x)的偏差最小。近似曲线在点Pi处的偏差δi＝φ(Xi)-Y，i＝1,2,...,m。
需要说明的是，最小二乘法的算法及其实现过程可参考现有技术，在此不作赘述。
还需要说明的是，本实施例的拟合并不限于最小二乘法的算法。
仍以上述表格数据为例，取视场角0.7的数据，如下表格所示，其中，第3-第13列为其10cm-5m距离上的畸变量。
对上述表格中的视场角及其对应的不同距离上的畸变量通过最小二乘法的算法进行拟合之后，可得到的多项式如下所示：
y＝0.0000015x5-0.0025x4+0.042x3-0.3389x2+1.3077x-0.0274，其中y为畸变参数，x为距离。
如图10所示，虚线为视场角0.7时的曲线图，实线为通过最小二乘法拟合后的多项式的曲线图，从图中可以看出拟合的曲线图和实际的曲线图的吻合度很高。
本发明实施例提供的畸变参数的建模方法，通过对双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型；该多项式模型可反映出畸变参数在不同距离上的动态变化，提高了畸变校正精度，同时提高了背景虚化的稳定性和精确性。
第二实施例
如图4所示，本发明第一实施例提供一种畸变参数的建模装置，所述畸变参数的建模装置40包括：存储器41、处理器42及存储在所述存储器41上并可在所述处理器42上运行的畸变参数的建模装置程序，所述畸变参数的建模装置程序被所述处理器42执行时，用于实现以下所述的畸变参数的建模方法的步骤：
S31、获取双目摄像头的视场角及其对应的不同距离的畸变量数据；
S32、根据获取的双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型。
所述畸变参数的建模装置程序被所述处理器42执行时，还用于实现以下所述的畸变参数的建模方法的步骤：
根据取的双目摄像头的视场角及其对应的不同距离的畸变量数据，通过最小二乘法进行拟合得到畸变参数与距离的多项式模型。
所述畸变参数的建模装置程序被所述处理器42执行时，还用于实现以下所述的畸变参数的建模方法的步骤：
所述视场角的范围为0.4至1，所述距离的范围为10cm至5m。
本发明实施例提供的畸变参数的建模装置，通过对双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型；该多项式模型可反映出畸变参数在不同距离上的动态变化，提高了畸变校正精度，同时提高了背景虚化的稳定性和精确性。
第三实施例
如图5所示，本发明第三实施例提供一种图像畸变校正方法，该方法基于第二实施例的畸变参数的建模装置生成的畸变参数与距离的多项式模型，所述方法包括步骤：
S51、确定拍摄物与双目摄像头的距离。
请参考图6所示，在一种实施方式中，所述确定拍摄物与双目摄像头的距离包括步骤：
S511、获取所述双目摄像头拍摄的图像，所述图像包括第一摄像头拍摄的左目图像和第二摄像头拍摄的和右目图像。
在实际拍摄中，有的摄像头会产生畸变，且采集到的图像极线相交，为了降低后续图像匹配的难度，需要得到两个摄像头的焦距、主点坐标、倾斜系数、畸变系数以及它们之间的旋转矢量等参数信息，根据得到的参数信息对摄像头进行标定。
S512、确定所述双目摄像头拍摄的图像的特征点集中区域。
在该实施方式中，所述确定所述双目摄像头拍摄的图像的特征点集中区域包括步骤：
提取所述双目摄像头拍摄的图像的特征点；
在一种实施方式中，可通过FAST(Features from Accelerated Segment Test)算法提取所述双目摄像头拍摄的图像的特征点。
FAST算法是公认的最快的特征点提取方法，请参考图8所示，从图像中选取一点P。以P为圆心画一个半径为3pixel的圆。圆周上如果有连续n个像素点的灰度值比P点的灰度值大或者小，则认为P为特征点。一般n设置为12。判断该点是不是特征点的方法是，首先检测四邻域(1、9、5、13)位置上的灰度值，如果P是特征点，需要满足至少3个位置上的灰度值大于(小于)P点的灰度值。如果不满足，则该点非特征点。
统计局部较密集特征点，并根据统计的局部较密集特征点确定所述双目摄像头拍摄的图像的特征点集中区域。
在一种实施方式中，所述统计局部较密集特征点包括步骤：
计算提取的所述双目摄像头拍摄的图像的特征点的响应值；
可继续参考图8所示，计算提取的所述双目摄像头拍摄的图像的特征点的响应值，即为计算提取的所述双目摄像头拍摄的图像的特征点和其周围16个特征点偏差的绝对值和。
若所述响应值低于预设值，则保留该特征点。
可以理解的，若所述响应值不低于预设值，则可删除掉该特征点。在确定局部较密集特征点之后，即可进行统计确定所述双目摄像头拍摄的图像的特征点集中区域。
S513、计算所述特征点集中区域在所述左目图像和所述右目图像之间的光流值，并根据计算的所述特征点集中区域在所述左目图像和所述右目图像之间的光流值，确定拍摄物与所述双目摄像头的距离。
光流的概念是Gibson在1950年首先提出来的。它是空间运动物体在观察成像平面上的像素运动的瞬时速度，是利用图像序列中像素在时间域上的变化以及相邻帧之间的相关性来找到上一帧跟当前帧之间存在的对应关系，从而计算出相邻帧之间物体的运动信息的一种方法。一般而言，光流是由于场景中前景目标本身的移动、相机的运动，或者两者的共同运动所产生的。
当人的眼睛观察运动物体时，物体的景象在人眼的视网膜上形成一系列连续变化的图像，这一系列连续变化的信息不断“流过”视网膜(即图像平面)，好像一种光的“流”，故称之为光流(optical flow)。光流表达了图像的变化，由于它包含了目标运动的信息，因此可被观察者用来确定目标的运动情况。
在本实施例中，可通过Lucas-Kanade光流算法计算所述特征点集中区域在所述左目图像和所述右目图像之间的光流值。
Lucas-Kanade光流算法，可参考现有技术。以下对实现Lucas-Kanade光流算法的步骤进行介绍：
实现Lucas-Kanade光流算法可以分为三个步骤，第一步骤为初始化需要跟踪的点。第二步骤为根据两帧之间的光流来计算由初始化的需要跟踪的点的目标点，为此要先计算出两帧的光流金字塔。第三步骤为把输入输出点进行互换，还有上一帧与目前帧的互换以及上一帧与当前帧金字塔的互换。
S52、根据畸变参数与距离的多项式模型，计算确定的拍摄物与所述双目摄像头的距离的畸变参数。
在本实施例中，所述畸变参数与距离的多项式模型为第二实施例的畸变参数的建模装置生成。根据该畸变参数与距离的多项式模型，可计算确定的拍摄物与所述双目摄像头的距离的畸变参数。
S53、根据计算的畸变参数对所述双目摄像头进行畸变校正。
在本实施例中，所述畸变矫正包括径向畸变校正和或切向畸变校正。摄像头的畸变是由于成像模型的不精确造成的，人们为了提高光通量用透镜代替小孔来成像，由于这种代替不能完全符合小孔成像的性质，因此畸变就产生了。为了在立体匹配时，双目摄像头图像的平面是行对准的，后续还需要对图像进行校正，立体矫正能够有效降低立体匹配的计算量。
为了进一步地阐述本实施例，现以智能手机为例，结合图9进行说明：
可参考第一实施例中的示例，取视场角0.7的数据，可得到的多项式如下所示：
y＝0.0000015x5-0.0025x4+0.042x3-0.3389x2+1.3077x-0.0274，其中y为畸变参数，x为距离。
智能手机包括双目摄像头，即主摄像头和副摄像头。通过主摄像头和副摄像头分别获取到左目图像和右目图像，左目图像可参考图9中的a所示，右目图像可参考图9中的b所示。
通过FAST算法获取双目摄像头拍摄的图像的特征点，在删除掉非局部较密集特征点之后，对局部较密集特征点进行统计，确定双目摄像头拍摄的图像的特征点集中区域，如图中所示的A1和A2。
计算特征点集中区域A1和A2在所述左目图像a和所述右目图像b之间的光流值，并确定拍摄物与所述双目摄像头的距离。
预设的畸变参数与距离的多项式模型为y＝0.0000015x5-0.0025x4+0.042x3-0.3389x2+1.3077x-0.0274，将确定的拍摄物与所述双目摄像头的距离代入该多项式模型，即可得到畸变参数y。进而根据得到的畸变参数y对所述双目摄像头进行径向畸变校正和或切向畸变校正。
本发明实施例提供的一种图像畸变校正方法，通过对双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型；该多项式模型可反映出畸变参数在不同距离上的动态变化，提高了畸变校正精度，同时提高了背景虚化的稳定性和精确性。
第四实施例
参照图7，图7为本发明第四实施例提供一种终端，所述终端60包括：存储器61、处理器62及存储在所述存储器61上并可在所述处理器62上运行的图像畸变校正程序，所述图像畸变校正程序被所述处理器62执行时，用于实现以下所述的图像畸变校正方法的步骤：
S51、确定拍摄物与双目摄像头的距离；
S52、根据畸变参数与距离的多项式模型，计算确定的拍摄物与所述双目摄像头的距离的畸变参数；
S53、根据计算的畸变参数对所述双目摄像头进行畸变校正。
所述图像畸变校正程序被所述处理器62执行时，还用于实现以下所述的图像畸变校正方法的步骤：
S511、获取所述双目摄像头拍摄的图像，所述图像包括第一摄像头拍摄的左目图像和第二摄像头拍摄的和右目图像；
S512、确定所述双目摄像头拍摄的图像的特征点集中区域；
S513、计算所述特征点集中区域在所述左目图像和所述右目图像之间的光流值，并根据计算的所述特征点集中区域在所述左目图像和所述右目图像之间的光流值，确定拍摄物与所述双目摄像头的距离。
所述图像畸变校正程序被所述处理器62执行时，还用于实现以下所述的图像畸变校正方法的步骤：
所述确定所述双目摄像头拍摄的图像的特征点集中区域包括步骤：
提取所述双目摄像头拍摄的图像的特征点；
统计局部较密集特征点，并根据统计的局部较密集特征点确定所述双目摄像头拍摄的图像的特征点集中区域。
所述图像畸变校正程序被所述处理器62执行时，还用于实现以下所述的图像畸变校正方法的步骤：
所述畸变矫正包括径向畸变校正和或切向畸变校正。
本发明实施例提供的终端，通过对双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型；该多项式模型可反映出畸变参数在不同距离上的动态变化，提高了畸变校正精度，同时提高了背景虚化的稳定性和精确性。
第五实施例
本发明第五实施例提供一种计算机可读存储介质，所述计算机可读存储介质上存储有图像畸变校正程序，所述图像畸变校正程序被处理器执行时实现第一实施例所述的图像畸变校正方法的步骤。
本发明实施例提供的计算机可读存储介质，通过对双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型；该多项式模型可反映出畸变参数在不同距离上的动态变化，提高了畸变校正精度，同时提高了背景虚化的稳定性和精确性。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。
Claims (10)
1.一种畸变参数的建模方法，其特征在于，所述方法包括步骤：
获取双目摄像头的视场角及其对应的不同距离的畸变量数据；
根据获取的双目摄像头的视场角及其对应的不同距离的畸变量数据，进行拟合得到畸变参数与距离的多项式模型。
2.根据权利要求1所述的一种畸变参数的建模方法，其特征在于，根据取的双目摄像头的视场角及其对应的不同距离的畸变量数据，通过最小二乘法进行拟合得到畸变参数与距离的多项式模型。
3.根据权利要求1所述的一种畸变参数的建模方法，其特征在于，所述视场角的范围为0.4至1，所述距离的范围为10cm至5m。
4.一种畸变参数的建模装置，其特征在于，所述畸变参数的建模装置包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的畸变参数的建模装置程序，所述畸变参数的建模装置程序被所述处理器执行时实现如权利要求1至3中任一项所述的畸变参数的建模方法的步骤。
5.一种基于权利要求4所述的畸变参数的建模装置的图像畸变校正方法，其特征在于，所述方法包括步骤：
确定拍摄物与双目摄像头的距离；
根据畸变参数与距离的多项式模型，计算确定的拍摄物与所述双目摄像头的距离的畸变参数；
根据计算的畸变参数对所述双目摄像头进行畸变校正。
6.根据权利要求5所述的一种图像畸变校正方法，其特征在于，所述确定拍摄物与双目摄像头的距离包括步骤：
获取所述双目摄像头拍摄的图像，所述图像包括第一摄像头拍摄的左目图像和第二摄像头拍摄的和右目图像；
确定所述双目摄像头拍摄的图像的特征点集中区域；
计算所述特征点集中区域在所述左目图像和所述右目图像之间的光流值，并根据计算的所述特征点集中区域在所述左目图像和所述右目图像之间的光流值，确定拍摄物与所述双目摄像头的距离。
7.根据权利要求6所述的一种图像畸变校正方法，其特征在于，所述确定所述双目摄像头拍摄的图像的特征点集中区域包括步骤：
提取所述双目摄像头拍摄的图像的特征点；
统计局部较密集特征点，并根据统计的局部较密集特征点确定所述双目摄像头拍摄的图像的特征点集中区域。
8.根据权利要求5所述的一种图像畸变校正方法，其特征在于，所述畸变矫正包括径向畸变校正和或切向畸变校正。
9.一种终端，其特征在于，所述终端包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的图像畸变校正程序，所述图像畸变校正程序被所述处理器执行时实现如权利要求5至8中任一项所述的图像畸变校正方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有图像畸变校正程序，所述图像畸变校正程序被处理器执行时实现如权利要求5至8中任一项所述的图像畸变校正方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710913789.3A CN107707821B (zh) | 2017-09-30 | 2017-09-30 | 畸变参数的建模方法及装置、校正方法、终端、存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710913789.3A CN107707821B (zh) | 2017-09-30 | 2017-09-30 | 畸变参数的建模方法及装置、校正方法、终端、存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN107707821A true CN107707821A (zh) | 2018-02-16 |
| CN107707821B CN107707821B (zh) | 2020-11-06 |
Family
ID=61175767
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710913789.3A Active CN107707821B (zh) | 2017-09-30 | 2017-09-30 | 畸变参数的建模方法及装置、校正方法、终端、存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107707821B (zh) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108961155A (zh) * | 2018-07-13 | 2018-12-07 | 惠州市德赛西威汽车电子股份有限公司 | 一种高保真的鱼眼镜头畸变校正方法 |
| CN109345467A (zh) * | 2018-08-14 | 2019-02-15 | 深圳市麦极客图像技术有限公司 | 成像畸变校正方法、装置、计算机设备及存储介质 |
| CN110689581A (zh) * | 2018-07-06 | 2020-01-14 | Oppo广东移动通信有限公司 | 结构光模组标定方法、电子设备、计算机可读存储介质 |
| CN110738066A (zh) * | 2018-07-20 | 2020-01-31 | 中兴通讯股份有限公司 | 一种扫码方法、装置以及计算机存储介质 |
| CN110958445A (zh) * | 2019-11-12 | 2020-04-03 | 中山大学 | 一种用于智能跟踪摄像头模块的校准系统 |
| CN112697403A (zh) * | 2020-12-16 | 2021-04-23 | 中国科学院光电技术研究所 | 一种超高精度空间望远镜光学畸变在轨标定方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101344965A (zh) * | 2008-09-04 | 2009-01-14 | 上海交通大学 | 基于双目摄像的跟踪系统 |
| JP2015095857A (ja) * | 2013-11-14 | 2015-05-18 | キヤノン株式会社 | 撮像装置 |
| CN104869384A (zh) * | 2014-02-25 | 2015-08-26 | 华晶科技股份有限公司 | 电子装置及其校正方法 |
| CN105674993A (zh) * | 2016-01-15 | 2016-06-15 | 武汉光庭科技有限公司 | 基于双目相机的高精度视觉定位地图生成系统及方法 |
| CN105976374A (zh) * | 2016-05-06 | 2016-09-28 | 北京信息科技大学 | 摄影测量相机的场相关畸变标定方法 |
| CN106023146A (zh) * | 2016-05-06 | 2016-10-12 | 北京信息科技大学 | 用于摄影测量中的场相关单边自标定光束平差方法 |
| CN106780633A (zh) * | 2017-02-20 | 2017-05-31 | 北京创想智控科技有限公司 | 一种图像校正方法、装置及双目视觉系统 |
-
2017
- 2017-09-30 CN CN201710913789.3A patent/CN107707821B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101344965A (zh) * | 2008-09-04 | 2009-01-14 | 上海交通大学 | 基于双目摄像的跟踪系统 |
| JP2015095857A (ja) * | 2013-11-14 | 2015-05-18 | キヤノン株式会社 | 撮像装置 |
| CN104869384A (zh) * | 2014-02-25 | 2015-08-26 | 华晶科技股份有限公司 | 电子装置及其校正方法 |
| CN105674993A (zh) * | 2016-01-15 | 2016-06-15 | 武汉光庭科技有限公司 | 基于双目相机的高精度视觉定位地图生成系统及方法 |
| CN105976374A (zh) * | 2016-05-06 | 2016-09-28 | 北京信息科技大学 | 摄影测量相机的场相关畸变标定方法 |
| CN106023146A (zh) * | 2016-05-06 | 2016-10-12 | 北京信息科技大学 | 用于摄影测量中的场相关单边自标定光束平差方法 |
| CN106780633A (zh) * | 2017-02-20 | 2017-05-31 | 北京创想智控科技有限公司 | 一种图像校正方法、装置及双目视觉系统 |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110689581A (zh) * | 2018-07-06 | 2020-01-14 | Oppo广东移动通信有限公司 | 结构光模组标定方法、电子设备、计算机可读存储介质 |
| CN110689581B (zh) * | 2018-07-06 | 2022-05-13 | Oppo广东移动通信有限公司 | 结构光模组标定方法、电子设备、计算机可读存储介质 |
| CN108961155A (zh) * | 2018-07-13 | 2018-12-07 | 惠州市德赛西威汽车电子股份有限公司 | 一种高保真的鱼眼镜头畸变校正方法 |
| CN110738066A (zh) * | 2018-07-20 | 2020-01-31 | 中兴通讯股份有限公司 | 一种扫码方法、装置以及计算机存储介质 |
| CN109345467A (zh) * | 2018-08-14 | 2019-02-15 | 深圳市麦极客图像技术有限公司 | 成像畸变校正方法、装置、计算机设备及存储介质 |
| CN110958445A (zh) * | 2019-11-12 | 2020-04-03 | 中山大学 | 一种用于智能跟踪摄像头模块的校准系统 |
| CN112697403A (zh) * | 2020-12-16 | 2021-04-23 | 中国科学院光电技术研究所 | 一种超高精度空间望远镜光学畸变在轨标定方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN107707821B (zh) | 2020-11-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107680060A (zh) | 一种图像畸变校正方法、终端及计算机可读存储介质 | |
| CN107707821A (zh) | 畸变参数的建模方法及装置、校正方法、终端、存储介质 | |
| CN108322644A (zh) | 一种图像处理方法、移动终端以及计算机可读存储介质 | |
| CN107730462A (zh) | 一种图像处理方法、终端及计算机可读存储介质 | |
| CN107404617A (zh) | 一种拍摄方法及终端、计算机存储介质 | |
| CN108108704A (zh) | 人脸识别方法及移动终端 | |
| CN107317963A (zh) | 一种双摄像头移动终端控制方法、移动终端及存储介质 | |
| CN107194963A (zh) | 一种双摄像头图像处理方法及终端 | |
| CN107704176A (zh) | 一种图片调整方法及终端 | |
| CN107682627A (zh) | 一种拍摄参数设置方法、移动终端及计算机可读存储介质 | |
| CN107948360A (zh) | 柔性屏终端的拍摄方法、终端和计算机可读存储介质 | |
| CN108008889A (zh) | 柔性屏的拍照方法、移动终端及计算机可读存储介质 | |
| CN108182726A (zh) | 三维重建方法、云端服务器及计算机可读存储介质 | |
| CN107959795A (zh) | 一种信息采集方法、设备和计算机可读存储介质 | |
| CN107566731A (zh) | 一种对焦方法及终端、计算机存储介质 | |
| CN107909540A (zh) | 图像处理方法、装置、移动终端及计算机可读存储介质 | |
| CN107613208A (zh) | 一种对焦区域的调节方法及终端、计算机存储介质 | |
| CN107295269A (zh) | 一种测光方法及终端、计算机存储介质 | |
| CN107040723A (zh) | 一种基于双摄像头的成像方法、移动终端及存储介质 | |
| CN107240072A (zh) | 一种屏幕亮度调节方法、终端和计算机可读存储介质 | |
| CN110086993A (zh) | 图像处理方法、装置、移动终端及计算机可读存储介质 | |
| CN107239205A (zh) | 一种拍照方法、移动终端及存储介质 | |
| CN111866388B (zh) | 一种多重曝光拍摄方法、设备及计算机可读存储介质 | |
| CN107357500A (zh) | 一种图片调整方法、终端及存储介质 | |
| CN108600458A (zh) | 照片拍摄方法、装置及计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |