CN107680059A - 一种图像校正的判断方法、终端及计算机可读存储介质 - Google Patents
一种图像校正的判断方法、终端及计算机可读存储介质 Download PDFInfo
- Publication number
- CN107680059A CN107680059A CN201710913619.5A CN201710913619A CN107680059A CN 107680059 A CN107680059 A CN 107680059A CN 201710913619 A CN201710913619 A CN 201710913619A CN 107680059 A CN107680059 A CN 107680059A
- Authority
- CN
- China
- Prior art keywords
- image
- correction
- key points
- camera
- binocular
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 65
- 238000012937 correction Methods 0.000 claims abstract description 60
- 238000003702 image correction Methods 0.000 claims description 37
- 235000014748 Amaranthus tricolor Nutrition 0.000 claims description 5
- 244000024893 Amaranthus tricolor Species 0.000 claims description 5
- 235000010725 Vigna aconitifolia Nutrition 0.000 claims description 5
- 238000012545 processing Methods 0.000 abstract description 11
- 230000006870 function Effects 0.000 description 18
- 238000004891 communication Methods 0.000 description 11
- 238000000605 extraction Methods 0.000 description 10
- 230000004075 alteration Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 239000013598 vector Substances 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 238000012360 testing method Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000001629 suppression Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种图像校正的判断方法、终端及计算机可读存储介质,所述方法包括步骤:获取校正后的双目图像,所述双目图像包括第一摄像头拍摄的第一图像和第二摄像头拍摄的第二图像;获取所述第一图像和所述第二图像中所有匹配的关键点;计算所有匹配的关键点的平均行误差;根据计算的所有匹配的关键点的平均行误差,确定双目图像的校正精度。本发明通过获取校正后的双目摄像头中所有匹配的关键点,根据所有匹配的关键点的平均行误差,确定双目图像的校正精度;进而提高了立体校正的判断和处理的精度,同时提高了背景虚化的稳定性和精确性。
Description
技术领域
本发明涉及终端技术领域,尤其涉及一种图像校正的判断方法、终端及计算机可读存储介质。
背景技术
随着移动终端技术的发展,具有照相功能的移动终端在人们的生活中已经得到了普及。功能越来越丰富的移动终端极大地方便了人们的生活。近年来,图像处理技术飞速发展,移动终端的照相功能也日益强大,加上移动终端携带方便的优点,越来越多的用户青睐通过移动终端进行拍照。
为了提高移动终端的拍照效果,越来越多的移动终端采用双摄像头。通过双摄像头的移动终端拍摄出来的照片比单摄像头的终端拍出的照片的效果很高,画质更清楚。但是通过双摄像头的移动终端不能直接拍摄出具有不同成像效果的照片,还需要终端用户后期对照片进行处理。在图像处理的过程中,背景虚化是一个经常出现的手法,因其能迅速突出主体而被广大摄影爱好者所熟知和使用。
在实现本发明的过程中,发明人发现现有技术存在以下问题:在图像处理的过程中,立体校正的准确性不高,很容易影响背景虚化的稳定性和精确性。
发明内容
本发明的主要目的在于提出一种图像校正的判断方法、终端及计算机可读存储介质,旨在解决现有技术存在的问题。
为实现上述目的,本发明实施例第一方面提供一种图像校正的判断方法,所述方法包括步骤:
获取校正后的双目图像,所述双目图像包括第一摄像头拍摄的第一图像和第二摄像头拍摄的第二图像;
获取所述第一图像和所述第二图像中所有匹配的关键点;
计算所有匹配的关键点的平均行误差;
根据计算的所有匹配的关键点的平均行误差,确定双目图像的校正精度。
可选的,所述获取第一摄像头拍摄的第一图像和第二摄像头拍摄的第二图像包括步骤:
分别对所述第一摄像头和所述第二摄像头进行标定;
获取标定后的第一摄像头拍摄的第一图像和标定后的第二摄像头拍摄的第二图像。
可选的,所述校正后的双目图像包括:
畸变矫正和立体校正后的双目图像。
可选的,所述畸变矫正包括径向畸变校正和或切向畸变校正。
可选的,所述第一图像和所述第二图像中匹配的关键点通过以下步骤实现:
获取所述第一图像和所述第二图像的一对关键点及其对应的特征描述子;
计算该对关键点对应的特征描述子的距离,并判断计算的特征描述子的距离是否小于预设距离;
若计算的特征描述子的距离小于预设距离,则确定该对关键点为匹配的关键点。
可选的,通过以下方式计算所有匹配的关键点的平均行误差:
其中Distance为平均行误差,m为匹配的关键点的数量,matches(i)为第i个匹配关键点的索引,keypoints2、keypoints3分别表示第一图像和第二图像的关键点。
可选的,所述根据计算的所有匹配的关键点的平均行误差,确定双目图像的校正精度包括步骤:
将计算的所有匹配的关键点的平均行误差与预设阈值进行比较;
若计算的所有匹配的关键点的平均行误差超过预设阈值,则确定双目图像的校正误差大。
可选的,所述确定双目图像的校正误差大之后还包括步骤:
向用户提示校正失败,需要重新拍摄图像的信息。
此外,为实现上述目的,本发明实施例第二方面提供一种终端,所述终端包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的图像校正的判断程序,所述图像校正的判断程序被所述处理器执行时实现第一方面所述的图像校正的判断方法的步骤。
再者,为实现上述目的,本发明实施例第三方面提供一种计算机可读存储介质,所述计算机可读存储介质上存储有图像校正的判断程序,所述图像校正的判断程序被处理器执行时实现第一方面所述的图像校正的判断方法的步骤。
本发明实施例提供的一种图像校正的判断方法、终端及计算机可读存储介质,通过获取校正后的双目摄像头中所有匹配的关键点,根据所有匹配的关键点的平均行误差,确定双目图像的校正精度;进而提高了立体校正的判断和处理的精度,同时提高了背景虚化的稳定性和精确性。
附图说明
图1为实现本发明各个实施例的移动终端的硬件结构示意图;
图2为本发明实施例提供的一种通信网络系统架构图;
图3为本发明实施例的图像校正的判断方法流程示意图;
图4为本发明实施例的图像校正的判断方法中匹配关键点流程示意图;
图5为本发明实施例的图像校正的判断方法中确定双目图像的校正精度流程示意图;
图6为本发明实施例的终端结构示意图;
图7为本发明实施例的FAST特征点判断结构示意图;
图8-图9为本发明实施例的拍摄图像的匹配关键点结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。
终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant,PDA)、便捷式媒体播放器(Portable Media Player,PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端,以及诸如数字TV、台式计算机等固定终端。
后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。
请参阅图1,其为实现本发明各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:RF(Radio Frequency,射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
下面结合图1对移动终端的各个部件进行具体的介绍:
射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于GSM(Global System of Mobile communication,全球移动通讯系统)、GPRS(General Packet Radio Service,通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000,码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access,时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution,频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution,分时双工长期演进)等。
WiFi属于短距离无线传输技术,移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。
A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit,GPU)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。具体地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。
进一步的,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。
接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。
移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。
为了便于理解本发明实施例,下面对本发明的移动终端所基于的通信网络系统进行描述。
请参阅图2,图2为本发明实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的LTE系统,该LTE系统包括依次通讯连接的UE(User Equipment,用户设备)201,E-UTRAN(Evolved UMTS Terrestrial Radio Access Network,演进式UMTS陆地无线接入网)202,EPC(Evolved Packet Core,演进式分组核心网)203和运营商的IP业务204。
具体地,UE201可以是上述终端100,此处不再赘述。
E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中,eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接,eNodeB2021连接到EPC203,eNodeB2021可以提供UE201到EPC203的接入。
EPC203可以包括MME(Mobility Management Entity,移动性管理实体)2031,HSS(Home Subscriber Server,归属用户服务器)2032,其它MME2033,SGW(Serving Gate Way,服务网关)2034,PGW(PDN Gate Way,分组数据网络网关)2035和PCRF(Policy andCharging Rules Function,政策和资费功能实体)2036等。其中,MME2031是处理UE201和EPC203之间信令的控制节点,提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送,PGW2035可以提供UE 201的IP地址分配以及其它功能,PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。
IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem,IP多媒体子系统)或其它IP业务等。
虽然上述以LTE系统为例进行了介绍,但本领域技术人员应当知晓,本发明不仅仅适用于LTE系统,也可以适用于其他无线通信系统,例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等,此处不做限定。
基于上述移动终端硬件结构以及通信网络系统,提出本发明方法各个实施例。
第一实施例
为了便于理解本实施例,以下对本实施例采用的ORB算法进行介绍:
ORB(Oriented FAST and Rotated BRIEF)是一种快速特征点提取和描述的算法,由带有方向性的FAST(Features from Accelerated Segment Test)关键点和带有旋转性的BRIEF(Binary Robust Independent Elementary Features)特征描述子组成。
1、FAST算法是公认的最快的特征点提取方法,其特征点提取示意图可参考图7所示,其步骤如下:
1)、初步特征点的提取。
如图7所示,从图像中选取一点P。以P为圆心画一个半径为3pixel的圆。圆周上如果有连续n个像素点的灰度值比P点的灰度值大或者小,则认为P为特征点。一般n设置为12。判断该点是不是特征点的方法是,首先检测四邻域(1、9、5、13)位置上的灰度值,如果P是特征点,需要满足至少3个位置上的灰度值大于(小于)P点的灰度值。如果不满足,则该点非特征点。
2)、非极大值抑制去除局部较密集特征点。
使用非极大值抑制算法去除临近位置多个特征点的问题。为每一个特征点计算出其响应大小。计算方式是特征点P和其周围16个特征点偏差的绝对值和。在比较临近的特征点中,保留响应值较大的特征点,删除其余的特征点。
3)、建立金字塔,实现特征点的多尺度不变性。
设置一个比例因子scaleFactor(默认为1.2)和金字塔的层数nlevels(默认为8)。将原图像按比例因子缩小成nlevels幅图像。缩放后的图像为:
I'=I/scaleFactorK,
其中k=1,2,…,nlevels。nlevels幅不同比例的图像提取特征点总和作为这幅图像的oFAST特征点。
4)、特征点的旋转不变性。
ORB算法提出使用矩(moment)法来确定FAST特征点的方向。也就是说通过矩来计算特征点以r为半径范围内的质心,特征点坐标到质心形成一个向量作为该特征点的方向。矩定义如下:
其中,I(x,y)为图像灰度表达式。该矩的质心为:
假设角点坐标为O,则向量的角度即为该特征点的方向。计算公式如下:
2、rBRIEF特征描述
rBRIEF特征描述是在BRIEF特征描述的基础上加入旋转因子改进的。下面先介绍BRIEF特征提取方法,然后说一说是怎么在此基础上修改的。
BRIEF算法计算出来的是一个二进制串的特征描述符。它是在一个特征点的邻域内,选择n对像素点pi、qi(i=1,2,…,n)。然后比较每个点对的灰度值的大小。如果I(pi)>I(qi),则生成二进制串中的1,否则为0。所有的点对都进行比较,则生成长度为n的二进制串。一般n取128、256或512(默认为256)。
关于在特征点SxS的区域内选取点对(p,q)的方法,BRIEF算法效果最好的一种方法是p和q都符合(0,s2/25)的高斯分布;
在旋转不是非常厉害的图像里,用BRIEF生成的描述子的匹配质量非常高,作者测试的大多数情况中都超越了SURF特征提取算法。但在旋转大于30°后,BRIEF的匹配率快速降到0左右。
原始的BRIEF算法中取点的前提是假设特征点(p,q)符合高斯分布。rBRIEF为了解决描述子的可区分性和相关性的问题,使用统计学习的方法来重新选择点对集合。
首先建立300k个特征点测试集。对于测试集中的每个点,考虑其31x31邻域。这里在对图像进行高斯平滑之后,使用邻域中的某个点的5x5邻域灰度平均值来代替某个点对的值,进而比较点对的大小,这样特征值更加具备抗噪性。
从上面可知,在31x31的邻域内共有(31-5+1)x(31-5+1)=729个这样的子窗口,那么取点对的方法共有M=265356种,我们就要在这M种方法中选取256种取法,选择的原则是这256种取法之间的相关性最小。选取步骤如下:
1)、在300k特征点的每个31x31邻域内按M种方法取点对,比较点对大小,形成一个300kxM的二进制矩阵Q。矩阵的每一列代表300k个点按某种取法得到的二进制数。
2)、对Q矩阵的每一列求取平均值,按照平均值到0.5的距离大小重新对Q矩阵的列向量排序,形成矩阵T。
3)、将T的第一列向量放到R中。
4)、取T的下一列向量和R中的所有列向量计算相关性,如果相关系数小于设定的阈值,则将T中的该列向量移至R中。
5)、按照4)的方式不断进行操作,直到R中的向量数量为256。
rBRIEF就是通过这种方法就选取了这256种取点对的方法。
如图3所示,本发明第一实施例提供一种图像校正的判断方法,所述方法包括步骤:
S31、获取校正后的双目图像,所述双目图像包括第一摄像头拍摄的第一图像和第二摄像头拍摄的第二图像。
在实际拍摄中,有的摄像头会产生畸变,且采集到的图像极线相交,为了降低后续图像匹配的难度,需要得到两个摄像头的焦距、主点坐标、倾斜系数、畸变系数以及它们之间的旋转矢量等参数信息,根据得到的参数信息对摄像头进行标定。标定的具体算法可采用现有技术中的标定算法,在此不作限制和赘述。
在本实施例中,所述获取第一摄像头拍摄的第一图像和第二摄像头拍摄的第二图像包括步骤:
分别对所述第一摄像头和所述第二摄像头进行标定;
获取标定后的第一摄像头拍摄的第一图像和标定后的第二摄像头拍摄的第二图像。
在本实施例中,所述校正后的双目图像包括:
畸变矫正和立体校正后的双目图像。
摄像头的畸变是由于成像模型的不精确造成的,人们为了提高光通量用透镜代替小孔来成像,由于这种代替不能完全符合小孔成像的性质,因此畸变就产生了。在本实施例中,所述畸变矫正包括径向畸变校正和或切向畸变校正。
为了在立体匹配时,双目摄像头图像的平面是行对准的,需要对图像进行校正,立体矫正能够有效降低立体匹配的计算量。
S32、获取所述第一图像和所述第二图像中所有匹配的关键点。
在本实施例中,通过ORB算法获取所述第一图像和所述第二图像中所有匹配的关键点。ORB算法可参考前述内容,在此不作赘述。
请参考图4所示,在本实施例中,所述第一图像和所述第二图像中匹配的关键点通过以下步骤实现:
S321、获取所述第一图像和所述第二图像的一对关键点及其对应的特征描述子;
S322、计算该对关键点对应的特征描述子的距离,并判断计算的特征描述子的距离是否小于预设距离;
S323、若计算的特征描述子的距离小于预设距离,则确定该对关键点为匹配的关键点。
S33、计算所有匹配的关键点的平均行误差。
在本实施例中,通过以下方式计算所有匹配的关键点的平均行误差:
其中Distance为平均行误差,m为匹配的关键点的数量,matches(i)为第i个匹配关键点的索引,keypoints2、keypoints3分别表示第一图像和第二图像的关键点。
S34、根据计算的所有匹配的关键点的平均行误差,确定双目图像的校正精度。
请参考图5所示,在本实施例中,所述根据计算的所有匹配的关键点的平均行误差,确定双目图像的校正精度包括步骤:
S341、将计算的所有匹配的关键点的平均行误差与预设阈值进行比较;
S342、若计算的所有匹配的关键点的平均行误差超过预设阈值,则确定双目图像的校正误差大。
在一种实施方式中,所述确定双目图像的校正误差大之后还包括步骤:
向用户提示校正失败,需要重新拍摄图像的信息。
为了进一步地阐述本实施例,现以智能手机为例,结合图8和图9进行说明:
智能手机包括双目摄像头,即主摄像头和副摄像头。通过主摄像头和副摄像头分别获取到左目图像和右目图像,左目图像可参考图8-图9中的a所示,右目图像可参考图8-图9中的b所示。
对主摄像头拍摄到的左目图像进行畸变矫正和立体校正,得到校正后的左目图像。类似地,得到校正后的右目图像。
通过ORB算法获取左目图像和右目图像中所有匹配的关键点。以图8为例,设keyPoints2[n],keyPoints3[n]分别代表a,b获取的关键点数组,每个关键点包含着坐标<x,y>,形式表示为{[x,y],[x1,y1],…}。
descriptors_1,descriptors_2分别为a,b关键点对应的特征描述子数组,即rBrief特征。
计算每对a,b关键点对应的特征描述子的距离,如果小于预设的距离,则认为是匹配的,把匹配的keyPoints2[n],keyPoints3[n]关键点的索引(数组下标)分别保存在mathces,mathces也是一个数组,mathces中的每个元素包括a,b图像匹配的关键点的索引,形式表示为{[queryIndex,regIndex],…}。例如:mathces[0]={[1,3],…};表示keyPoints2[1]和keyPoints3[3]关键点的特征是匹配的。
在确定图像中所有匹配的关键点之后,计算所有匹配的关键点的平均行误差。即通过以下公式进行计算:
其中Distance为平均行误差,m为匹配的关键点的数量,matches(i)为第i个匹配关键点的索引,keypoints2、keypoints3分别表示第一图像和第二图像的关键点。
通过上述公式计算,图8中所有匹配的关键点的平均行误差为0.046,图9中所有匹配的关键点的平均行误差为2.04。从平均行误差可以看出来,图8场景的校正精度很高,图9的校正误差比较大,因此可以提示用户图9的校正失败,需要重新拍摄图像。
本发明实施例提供的一种图像校正的判断方法,通过获取校正后的双目摄像头中所有匹配的关键点,根据所有匹配的关键点的平均行误差,确定双目图像的校正精度;进而提高了立体校正的判断和处理的精度,同时提高了背景虚化的稳定性和精确性。
第二实施例
参照图6,图6为本发明第二实施例提供一种终端,所述终端40包括:存储器41、处理器42及存储在所述存储器41上并可在所述处理器42上运行的图像校正的判断程序,所述图像校正的判断程序被所述处理器42执行时,用于实现以下所述的图像校正的判断方法的步骤:
获取校正后的双目图像,所述双目图像包括第一摄像头拍摄的第一图像和第二摄像头拍摄的第二图像;
获取所述第一图像和所述第二图像中所有匹配的关键点;
计算所有匹配的关键点的平均行误差;
根据计算的所有匹配的关键点的平均行误差,确定双目图像的校正精度。
所述图像校正的判断程序被所述处理器42执行时,还用于实现以下所述的图像校正的判断方法的步骤:
所述获取第一摄像头拍摄的第一图像和第二摄像头拍摄的第二图像包括步骤:
分别对所述第一摄像头和所述第二摄像头进行标定;
获取标定后的第一摄像头拍摄的第一图像和标定后的第二摄像头拍摄的第二图像。
所述图像校正的判断程序被所述处理器42执行时,还用于实现以下所述的图像校正的判断方法的步骤:
所述校正后的双目图像包括:
畸变矫正和立体校正后的双目图像。
所述图像校正的判断程序被所述处理器42执行时,还用于实现以下所述的图像校正的判断方法的步骤:
所述畸变矫正包括径向畸变校正和或切向畸变校正。
所述图像校正的判断程序被所述处理器42执行时,还用于实现以下所述的图像校正的判断方法的步骤:
所述第一图像和所述第二图像中匹配的关键点通过以下步骤实现:
获取所述第一图像和所述第二图像的一对关键点及其对应的特征描述子;
计算该对关键点对应的特征描述子的距离,并判断计算的特征描述子的距离是否小于预设距离;
若计算的特征描述子的距离小于预设距离,则确定该对关键点为匹配的关键点。
所述图像校正的判断程序被所述处理器42执行时,还用于实现以下所述的图像校正的判断方法的步骤:
通过以下方式计算所有匹配的关键点的平均行误差:
其中Distance为平均行误差,m为匹配的关键点的数量,matches(i)为第i个匹配关键点的索引,keypoints2、keypoints3分别表示第一图像和第二图像的关键点。
所述图像校正的判断程序被所述处理器42执行时,还用于实现以下所述的图像校正的判断方法的步骤:
所述根据计算的所有匹配的关键点的平均行误差,确定双目图像的校正精度包括步骤:
将计算的所有匹配的关键点的平均行误差与预设阈值进行比较;
若计算的所有匹配的关键点的平均行误差超过预设阈值,则确定双目图像的校正误差大。
所述图像校正的判断程序被所述处理器42执行时,还用于实现以下所述的图像校正的判断方法的步骤:
所述确定双目图像的校正误差大之后还包括步骤:
向用户提示校正失败,需要重新拍摄图像的信息。
本发明实施例提供的终端,通过获取校正后的双目摄像头中所有匹配的关键点,根据所有匹配的关键点的平均行误差,确定双目图像的校正精度;进而提高了立体校正的判断和处理的精度,同时提高了背景虚化的稳定性和精确性。
第三实施例
本发明第三实施例提供一种计算机可读存储介质,所述计算机可读存储介质上存储有图像校正的判断程序,所述图像校正的判断程序被处理器执行时实现第一实施例所述的图像校正的判断方法的步骤。
本发明实施例提供的计算机可读存储介质,通过获取校正后的双目摄像头中所有匹配的关键点,根据所有匹配的关键点的平均行误差,确定双目图像的校正精度;进而提高了立体校正的判断和处理的精度,同时提高了背景虚化的稳定性和精确性。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,这些均属于本发明的保护之内。
Claims (10)
1.一种图像校正的判断方法,其特征在于,所述方法包括步骤:
获取校正后的双目图像,所述双目图像包括第一摄像头拍摄的第一图像和第二摄像头拍摄的第二图像;
获取所述第一图像和所述第二图像中所有匹配的关键点;
计算所有匹配的关键点的平均行误差;
根据计算的所有匹配的关键点的平均行误差,确定双目图像的校正精度。
2.根据权利要求1所述的一种图像校正的判断方法,其特征在于,所述获取第一摄像头拍摄的第一图像和第二摄像头拍摄的第二图像包括步骤:
分别对所述第一摄像头和所述第二摄像头进行标定;
获取标定后的第一摄像头拍摄的第一图像和标定后的第二摄像头拍摄的第二图像。
3.根据权利要求1所述的一种图像校正的判断方法,其特征在于,所述校正后的双目图像包括:
畸变矫正和立体校正后的双目图像。
4.根据权利要求3所述的一种图像校正的判断方法,其特征在于,所述畸变矫正包括径向畸变校正和或切向畸变校正。
5.根据权利要求1所述的一种图像校正的判断方法,其特征在于,所述第一图像和所述第二图像中匹配的关键点通过以下步骤实现:
获取所述第一图像和所述第二图像的一对关键点及其对应的特征描述子;
计算该对关键点对应的特征描述子的距离,并判断计算的特征描述子的距离是否小于预设距离;
若计算的特征描述子的距离小于预设距离,则确定该对关键点为匹配的关键点。
6.根据权利要求1所述的一种图像校正的判断方法,其特征在于,通过以下方式计算所有匹配的关键点的平均行误差:
<mrow>
<mi>D</mi>
<mi>i</mi>
<mi>s</mi>
<mi>tan</mi>
<mi>c</mi>
<mi>e</mi>
<mo>=</mo>
<msubsup>
<mi>&Sigma;</mi>
<mrow>
<mi>i</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>m</mi>
</msubsup>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mi>e</mi>
<mi>y</mi>
<mi>p</mi>
<mi>o</mi>
<mi>i</mi>
<mi>n</mi>
<mi>t</mi>
<mi>s</mi>
<mn>2</mn>
<mo>&lsqb;</mo>
<mi>m</mi>
<mi>a</mi>
<mi>t</mi>
<mi>h</mi>
<mi>c</mi>
<mi>e</mi>
<mi>s</mi>
<mo>(</mo>
<mi>i</mi>
<mo>)</mo>
</mrow>
<mo>&rsqb;</mo>
<mo>-</mo>
<mi>k</mi>
<mi>e</mi>
<mi>y</mi>
<mi>p</mi>
<mi>o</mi>
<mi>i</mi>
<mi>n</mi>
<mi>t</mi>
<mi>s</mi>
<mn>3</mn>
<mo>&lsqb;</mo>
<mi>m</mi>
<mi>a</mi>
<mi>t</mi>
<mi>h</mi>
<mi>c</mi>
<mi>e</mi>
<mi>s</mi>
<mrow>
<mo>(</mo>
<mi>i</mi>
<mo>)</mo>
</mrow>
<mo>&rsqb;</mo>
<mo>)</mo>
<mo>/</mo>
<mi>m</mi>
<mo>,</mo>
</mrow>
其中Distance为平均行误差,m为匹配的关键点的数量,matches(i)为第i个匹配关键点的索引,keypoints2、keypoints3分别表示第一图像和第二图像的关键点。
7.根据权利要求1所述的一种图像校正的判断方法,其特征在于,所述根据计算的所有匹配的关键点的平均行误差,确定双目图像的校正精度包括步骤:
将计算的所有匹配的关键点的平均行误差与预设阈值进行比较;
若计算的所有匹配的关键点的平均行误差超过预设阈值,则确定双目图像的校正误差大。
8.根据权利要求7所述的一种图像校正的判断方法,其特征在于,所述确定双目图像的校正误差大之后还包括步骤:
向用户提示校正失败,需要重新拍摄图像的信息。
9.一种终端,其特征在于,所述终端包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的图像校正的判断程序,所述图像校正的判断程序被所述处理器执行时实现如权利要求1至8中任一项所述的图像校正的判断方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有图像校正的判断程序,所述图像校正的判断程序被处理器执行时实现如权利要求1至8中任一项所述的图像校正的判断方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710913619.5A CN107680059A (zh) | 2017-09-30 | 2017-09-30 | 一种图像校正的判断方法、终端及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710913619.5A CN107680059A (zh) | 2017-09-30 | 2017-09-30 | 一种图像校正的判断方法、终端及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107680059A true CN107680059A (zh) | 2018-02-09 |
Family
ID=61138818
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710913619.5A Pending CN107680059A (zh) | 2017-09-30 | 2017-09-30 | 一种图像校正的判断方法、终端及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107680059A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108540790A (zh) * | 2018-04-24 | 2018-09-14 | 深圳超多维科技有限公司 | 一种用于移动终端的立体图像获取方法、装置及移动终端 |
CN111340749A (zh) * | 2018-12-17 | 2020-06-26 | 顺丰科技有限公司 | 图像质量的检测方法、装置、设备及存储介质 |
CN111915683A (zh) * | 2020-07-27 | 2020-11-10 | 湖南大学 | 图像位置标定方法、智能设备及存储介质 |
CN112529790A (zh) * | 2020-11-13 | 2021-03-19 | 清华大学 | 用于光谱恢复的图像光强校正方法及装置 |
CN112907487A (zh) * | 2021-03-23 | 2021-06-04 | 东软睿驰汽车技术(沈阳)有限公司 | 双目校正结果的确定方法、装置和电子设备 |
CN113706422A (zh) * | 2021-10-28 | 2021-11-26 | 深圳市亚略特生物识别科技有限公司 | 一种基于获取关键点的图像校正方法、装置、设备及介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130135439A1 (en) * | 2011-11-29 | 2013-05-30 | Fujitsu Limited | Stereoscopic image generating device and stereoscopic image generating method |
CN103649997A (zh) * | 2011-07-13 | 2014-03-19 | 高通股份有限公司 | 用于校准成像装置的方法和设备 |
CN106910222A (zh) * | 2017-02-15 | 2017-06-30 | 中国科学院半导体研究所 | 基于双目立体视觉的人脸三维重建方法 |
-
2017
- 2017-09-30 CN CN201710913619.5A patent/CN107680059A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103649997A (zh) * | 2011-07-13 | 2014-03-19 | 高通股份有限公司 | 用于校准成像装置的方法和设备 |
US20130135439A1 (en) * | 2011-11-29 | 2013-05-30 | Fujitsu Limited | Stereoscopic image generating device and stereoscopic image generating method |
CN106910222A (zh) * | 2017-02-15 | 2017-06-30 | 中国科学院半导体研究所 | 基于双目立体视觉的人脸三维重建方法 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108540790A (zh) * | 2018-04-24 | 2018-09-14 | 深圳超多维科技有限公司 | 一种用于移动终端的立体图像获取方法、装置及移动终端 |
CN111340749A (zh) * | 2018-12-17 | 2020-06-26 | 顺丰科技有限公司 | 图像质量的检测方法、装置、设备及存储介质 |
CN111340749B (zh) * | 2018-12-17 | 2023-08-29 | 丰翼科技(深圳)有限公司 | 图像质量的检测方法、装置、设备及存储介质 |
CN111915683A (zh) * | 2020-07-27 | 2020-11-10 | 湖南大学 | 图像位置标定方法、智能设备及存储介质 |
CN112529790A (zh) * | 2020-11-13 | 2021-03-19 | 清华大学 | 用于光谱恢复的图像光强校正方法及装置 |
CN112529790B (zh) * | 2020-11-13 | 2023-06-27 | 清华大学 | 用于光谱恢复的图像光强校正方法及装置 |
CN112907487A (zh) * | 2021-03-23 | 2021-06-04 | 东软睿驰汽车技术(沈阳)有限公司 | 双目校正结果的确定方法、装置和电子设备 |
CN113706422A (zh) * | 2021-10-28 | 2021-11-26 | 深圳市亚略特生物识别科技有限公司 | 一种基于获取关键点的图像校正方法、装置、设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107680059A (zh) | 一种图像校正的判断方法、终端及计算机可读存储介质 | |
CN107707821B (zh) | 畸变参数的建模方法及装置、校正方法、终端、存储介质 | |
CN110072061B (zh) | 一种交互式拍摄方法、移动终端及存储介质 | |
CN110189368B (zh) | 图像配准方法、移动终端及计算机可读存储介质 | |
CN110086993B (zh) | 图像处理方法、装置、移动终端及计算机可读存储介质 | |
CN111327840A (zh) | 一种多帧特效视频获取方法、终端及计算机可读存储介质 | |
CN108198150B (zh) | 一种图像坏点的消除方法、终端及存储介质 | |
CN112995467A (zh) | 图像处理方法、移动终端及存储介质 | |
CN107896304B (zh) | 一种图像拍摄方法、装置及计算机可读存储介质 | |
CN108182668B (zh) | 一种放大图像处理方法、终端及计算机可读存储介质 | |
CN107241504B (zh) | 一种图像处理方法、移动终端和计算机可读存储介质 | |
CN107610057B (zh) | 一种深度图修复方法、终端及计算机可读存储介质 | |
CN107395971B (zh) | 一种图像采集方法、设备和计算机可读存储介质 | |
CN113222850A (zh) | 一种图像处理方法、设备及计算机可读存储介质 | |
CN107798662B (zh) | 一种图像处理方法及移动终端 | |
CN111614902A (zh) | 一种视频拍摄方法、设备及计算机可读存储介质 | |
CN112135045A (zh) | 一种视频处理方法、移动终端以及计算机存储介质 | |
CN112532838B (zh) | 一种图像处理方法、移动终端以及计算机存储介质 | |
CN114581504A (zh) | 一种深度图像置信度计算方法、设备及计算机可读存储介质 | |
CN114900613A (zh) | 控制方法、智能终端及存储介质 | |
CN115205436A (zh) | 一种自适应星座贴图方法、设备及计算机可读存储介质 | |
CN114040073A (zh) | 一种星空图像拍摄处理方法、设备及计算机可读存储介质 | |
CN113473029A (zh) | 一种闪电图像拍摄方法、设备及计算机可读存储介质 | |
CN109215004B (zh) | 一种图像合成方法、移动终端及计算机可读存储介质 | |
CN113572916A (zh) | 拍摄方法、终端设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180209 |