CN109242894B - 一种基于移动最小二乘法的图像对齐方法及系统 - Google Patents

一种基于移动最小二乘法的图像对齐方法及系统 Download PDF

Info

Publication number
CN109242894B
CN109242894B CN201810885864.4A CN201810885864A CN109242894B CN 109242894 B CN109242894 B CN 109242894B CN 201810885864 A CN201810885864 A CN 201810885864A CN 109242894 B CN109242894 B CN 109242894B
Authority
CN
China
Prior art keywords
image
control point
area
initial image
initial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810885864.4A
Other languages
English (en)
Other versions
CN109242894A (zh
Inventor
贺永刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Shiyuan Electronics Thecnology Co Ltd
Original Assignee
Guangzhou Shiyuan Electronics Thecnology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Shiyuan Electronics Thecnology Co Ltd filed Critical Guangzhou Shiyuan Electronics Thecnology Co Ltd
Priority to CN201810885864.4A priority Critical patent/CN109242894B/zh
Publication of CN109242894A publication Critical patent/CN109242894A/zh
Application granted granted Critical
Publication of CN109242894B publication Critical patent/CN109242894B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/38Registration of image sequences
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

本发明涉及一种基于移动最小二乘法的图像对齐方法及系统,其中,该图像对齐方法包括以下步骤:在初始图像上设置多个控制点;设置控制点的局部寻优区域;在初始图像上,采用移动最小二乘法在控制点的局部寻优区域内,找到控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到优化过程中的变形图像;判断设置的控制点是否都被选择,如果否,则将优化过程中的变形图像作为初始图像,对下一控制点继续进行优化,直到所有设置的控制点的位置都被优化,最后一个控制点优化得到的优化过程中的变形图像,作为本次对齐操作的输出图像。本发明实施例提出的基于移动最小二乘法的图像对齐方法及系统能够提高图像对齐精度。

Description

一种基于移动最小二乘法的图像对齐方法及系统
技术领域
本发明属于计算机视觉技术领域,具体涉及一种基于移动最小二乘法的图像对齐方法及系统。
背景技术
图像对齐是指就同一场景拍摄的两幅图像,通过各种变换处理实现两幅图像的重合。传统的图像对齐方法主要是从每幅图像中提取一些关键点,对每个关键点进行特征描述,通过特征匹配来确定两幅图像中关键点的对应关系。其中,应用最为普遍的是SIFT(Scale-invariant feature transform,尺度不变特征转换)算法,SIFT算法是一种计算机视觉的算法,用来侦测与描述影像中的局部性特征,它在空间尺度中寻找极值点,并提取出其位置、尺度、旋转不变量,具有良好的尺度、光照和空间旋转不变等特征。另外,还有SURF(Speeded Up Robust Features,加速鲁棒特征)算法,SURF算子是对SIFT算法的一种改进,通过积分图像来加速SIFT特征的提取。
之后,一些更为鲁棒的算法被设计出来,例如,BRISK(Binary Robust InvariantScalable Keypoints,二进制鲁棒不变可扩展的关键点)、ORB(ORiented Brief)、FREAK(Fast Retina Keypoint,快速视网膜关键点)等算法,这些算法通过分析图像局部区域结构,寻找和描述更为稳定的关键点。这些算法利用从两幅图像中提取的关键点的对应关系,来求解一个单应矩阵,根据单应矩阵对其中一幅图像进行变换,以期获得变换后的图像与另一幅图像相重合的效果。
然而,这类图像对齐方法难以准确捕获到局部的差异,主要适用于全局变换。并且这类图像对齐方法由于在精度上受到关键点数目及可靠性等方面的影响,普遍存在以下缺陷:(1)较少的关键点使得求解的单应矩阵不可靠;(2)不稳定的关键点会产生错误的点对关系。因此,通过这类图像对齐方法很难得到高精度的对齐图像。
另外,当图像中存在景深变化时,通过单一的变换矩阵,也无法精确地描述两幅图像的变换关系,导致图像对齐精度较低。
发明内容
为了解决上述图像对齐精度低的技术问题,本发明实施例提出了一种基于移动最小二乘法的图像对齐方法及系统。
一种基于移动最小二乘法的图像对齐方法,该方法包括以下步骤:
S101、在初始图像上设置多个控制点;
S102、设置控制点的局部寻优区域;其中,每个控制点的局部寻优区域为该控制点能够移动的区域;
S103、在初始图像上,选择一个控制点,采用移动最小二乘法在该控制点的局部寻优区域内,找到该控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到优化过程中的变形图像;
S104、判断设置的控制点是否都被选择,如果否,则将优化过程中的变形图像作为初始图像,返回步骤S103继续执行对其他控制点的位置寻优,直到所有设置的控制点都被选择,最后一个控制点优化得到的优化过程中的变形图像,作为本次对齐操作的输出图像。
进一步地,所述步骤S103包括:在初始图像上,选择一个控制点,采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和;然后,所述控制点在所述局部寻优区域内移动,每移动一次,都采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和,直到所述控制点在所述局部寻优区域内移动完毕;比较所计算出的所有差值绝对值和,找到最小的差值绝对值和,其对应的控制点的位置,作为所述控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到所述优化过程中的变形图像;
所述比对区域是由与所选择的控制点相邻的多个控制点所限定的区域,或者如果所选择的控制点与图像边界之间不存在其他控制点,则所述比对区域是由与所选择的控制点相邻的控制点与图像边界所限定的区域。
进一步地,所述多个控制点沿水平方向的间隔相等,和/或,沿垂直方向的间隔相等;控制点不设置在初始图像的边界上;所述控制点的局部寻优区域以控制点为区域中心,用像素区域来表示局部寻优区域。
进一步地,所述方法还包括初始图像生成步骤S200:对第一图像进行图像匹配,使匹配后的第一图像尽可能与目标图像重合;其中,匹配后的第一图像作为初始图像,第一图像和目标图像是对同一场景内容进行拍摄得到的两幅图像;
所述初始图像生成步骤S200在所述步骤S101之前进行。
进一步地,所述方法还包括迭代次数设置步骤和迭代次数判断步骤;
所述设置迭代次数的步骤设置迭代次数,所述设置迭代次数的步骤在步骤S101之前进行;
所述迭代次数判断步骤在步骤S104之后进行,所述迭代次数判断步骤判断已经进行的迭代次数是否达到设置的迭代次数,如果已经进行的迭代次数未达到设置的迭代次数,则本次对齐操作的输出图像作为初始图像,返回步骤S101继续执行;如果已经进行的迭代次数达到设置的迭代次数,则当前对齐操作的输出图像作为最终的变形图像。
一种基于移动最小二乘法的图像对齐系统,该系统包括:控制点设置模块、局部寻优区域设置模块、变形模块和控制点判断模块;
所述控制点设置模块用于在初始图像上设置多个控制点;
所述局部寻优区域设置模块用于设置控制点的局部寻优区域;其中,每个控制点的局部寻优区域为该控制点能够移动的区域;
所述变形模块用于在初始图像上,选择一个控制点,采用移动最小二乘法在该控制点的局部寻优区域内,找到该控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到优化过程中的变形图像;
所述控制点判断模块用于判断设置的控制点是否都被选择,如果否,则将优化过程中的变形图像作为初始图像,通知所述变形模块继续执行对其他控制点的位置寻优,直到所有设置的控制点都被选择,最后一个控制点优化得到的优化过程中的变形图像,作为本次对齐操作的输出图像。
进一步地,所述变形模块在初始图像上,选择一个控制点,采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和;然后,所述控制点在所述局部寻优区域内移动,每移动一次,都采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和,直到所述控制点在所述局部寻优区域内移动完毕;比较所计算出的所有差值绝对值和,找到最小的差值绝对值和,其对应的控制点的位置,作为所述控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到所述优化过程中的变形图像;
所述比对区域是由与所选择的控制点相邻的多个控制点所限定的区域,或者如果所选择的控制点与图像边界之间不存在其他控制点,则所述比对区域是由与所选择的控制点相邻的控制点与图像边界所限定的区域。
进一步地,所述多个控制点沿水平方向的间隔相等,和/或,沿垂直方向的间隔相等;控制点不设置在初始图像的边界上;所述控制点的局部寻优区域以控制点为区域中心,用像素区域来表示局部寻优区域。
进一步地,所述系统还包括初始图像生成模块,所述初始图像生成模块用于对第一图像进行图像匹配,使匹配后的第一图像尽可能与目标图像重合;其中,匹配后的第一图像作为所述初始图像,第一图像和目标图像是对同一场景内容进行拍摄得到的两幅图像。
进一步地,所述系统还包括迭代次数设置模块和迭代次数判断模块,所述迭代次数设置模块用于设置迭代次数,所述迭代次数判断模块用于判断控制点设置模块执行的次数是否达到设置的迭代次数,如果执行的次数未达到设置的迭代次数,则本次对齐操作的输出图像作为初始图像,通知控制点设置模块继续执行;如果已经进行的迭代次数达到设置的迭代次数,则当前对齐操作的输出图像作为最终的变形图像。
本发明的有益效果:本发明实施例提出的基于移动最小二乘法的图像对齐方法及系统,利用设置控制点,以及对每个控制点单独寻优并且通过移动最小二乘法遍历图像空间,来实现两幅图像的对齐,因为移动最小二乘法能够通过控制点捕获到任意的变换关系,又因为对每个控制点进行单独优化可以考虑到图像的局部结构信息,因此本发明能够提高局部对齐效果,不受图像场景景深的限制,能够纠正更为复杂的变形,适用性广,得到的对齐图像的精度比传统方法高。
附图说明
图1a是本发明实施例1提出的基于移动最小二乘法的图像对齐方法的流程图;
图1b是本发明实施例1提出的基于移动最小二乘法的图像对齐系统的结构框图;
图2a是本发明实施例2提出的基于移动最小二乘法的图像对齐方法的流程图;
图2b是本发明实施例2提出的基于移动最小二乘法的图像对齐系统的结构框图;
图3a是本发明实施例3提出的基于移动最小二乘法的图像对齐方法的流程图;
图3b是本发明实施例3提出的基于移动最小二乘法的图像对齐系统的结构框图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明进一步详细说明。但本领域技术人员知晓,本发明并不局限于附图和以下实施例。
实施例1:
本发明实施例提出了一种基于移动最小二乘法的图像对齐方法,如图1a所示,该方法包括以下步骤:
S101、在初始图像上设置多个控制点;
所述多个控制点可以有规律设置,例如沿水平方向的间隔相等,和/或,沿垂直方向的间隔相等。间隔的大小可以自行合理设置,一般来说,较小的间隔产生的控制点较多,会增加后续处理的计算量,但能够提高后续处理的效果,初始图像和目标图像对齐精度高;较大的间隔产生的控制点较少,可能会使得后续处理所涉及的图像范围无法覆盖初始图像的所有区域,从而影响初始图像和目标图像的对齐效果。因此,设置间隔的大小时,需要兼顾计算量和对齐效果。
所述多个控制点也可以在整个初始图像上无规律设置,尽量覆盖整个初始图像。
优选地,为了提高控制点的有效性,合理减少计算量,控制点一般不设置在初始图像的边界上。
S102、设置控制点的局部寻优区域;
所述控制点的局部寻优区域为控制点可以移动的区域,所述控制点的局部寻优区域大小一般由初始图像与目标图像之间的差异大小决定,保证控制点的最优位置位于其局部寻优区域内。如果差异较大,控制点的局部寻优区域可以设置大一些;如果差异较小,控制点的局部寻优区域可以设置小一些。
每个控制点的局部寻优区域的大小可以相同,也可以不同。
所述控制点的局部寻优区域优选以控制点为区域中心,用像素区域来表示局部寻优区域,例如,所述控制点的局部寻优区域可以设置为5*5像素区域。
S103、在初始图像上,选择一个控制点,采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和;然后,所述控制点在所述局部寻优区域内移动,每移动一次,都采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和,直到所述控制点在所述局部寻优区域内移动完毕;比较所计算出的所有差值绝对值和,找到最小的差值绝对值和,其对应的控制点的位置,作为所述控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到优化过程中的变形图像;
所述比对区域是由与所选择的控制点相邻的控制点所限定的区域,或者如果所选择的控制点与图像边界之间不存在其他控制点,则所述比对区域是由与所选择的控制点相邻的控制点与图像边界所限定的区域。
所述控制点在所述局部寻优区域内移动,每次移动的距离与局部寻优区域的大小和图像对齐的精度要求等条件有关。优选地,每次移动的距离为一个像素。
S104、判断设置的控制点是否都被选择,如果否,则将优化过程中的变形图像作为初始图像,返回步骤S103继续执行,直到所有设置的控制点都被选择,最后一个控制点优化得到的优化过程中的变形图像,作为本次对齐操作的输出图像。
本发明实施例提出的基于移动最小二乘法的图像对齐方法,通过设置控制点,并对每个控制点的最优位置进行求解;在求解出一个控制点的最优位置后,采用移动最小二乘法对整个图像进行一次变换,得到优化过程中的变形图像,该优化过程中的变形图像作为下一个控制点的起始图像,从而可以提高图像对齐精度。
并且,本发明实施例提出的基于移动最小二乘法的图像对齐方法中,移动最小二乘法通过控制点可以准确捕获到局部的差异,也可以精确描述各种图像对齐任务的变换情况。
另外,本发明实施例提出的基于移动最小二乘法的图像对齐方法,通过在局部寻优区域内寻优,能够自动寻找最优控制点。
本发明实施例提出的基于移动最小二乘法的图像对齐方法可以用在图像增强技术中。
本发明实施例提出了一种基于移动最小二乘法的图像对齐系统,如图1a和图1b所示,该系统包括:控制点设置模块11、局部寻优区域设置模块12、变形模块13和控制点判断模块14;
所述控制点设置模块11用于在初始图像上设置多个控制点;
所述多个控制点可以有规律设置,例如沿水平方向的间隔相等,和/或,沿垂直方向的间隔相等。间隔的大小可以自行合理设置,一般来说,较小的间隔产生的控制点较多,会增加后续处理的计算量,但能够提高后续处理的效果,初始图像和目标图像对齐精度高;较大的间隔产生的控制点较少,可能会使得后续处理所涉及的图像范围无法覆盖初始图像的所有区域,从而影响初始图像和目标图像的对齐效果。因此,设置间隔的大小时,需要兼顾计算量和对齐效果。
所述多个控制点也可以在整个初始图像上无规律设置,尽量覆盖整个初始图像。
优选地,为了提高控制点的有效性,合理减少计算量,控制点一般不设置在初始图像的边界上。
所述局部寻优区域设置模块12用于设置控制点的局部寻优区域;
所述控制点的局部寻优区域为控制点可以移动的区域,所述控制点的局部寻优区域大小一般由初始图像与目标图像之间的差异大小决定,保证控制点的最优位置位于其局部寻优区域内。如果差异较大,控制点的局部寻优区域可以设置大一些;如果差异较小,控制点的局部寻优区域可以设置小一些。
每个控制点的局部寻优区域的大小可以相同,也可以不同。
所述控制点的局部寻优区域优选以控制点为区域中心,用像素区域来表示局部寻优区域,例如,所述控制点的局部寻优区域可以设置为5*5像素区域。
所述变形模块13用于在初始图像上,选择一个控制点,采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和;然后,所述控制点在所述局部寻优区域内移动,每移动一次,都采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和,直到所述控制点在所述局部寻优区域内移动完毕;比较所计算出的所有差值绝对值和,找到最小的差值绝对值和,其对应的控制点的位置,作为所述控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到优化过程中的变形图像;
所述比对区域是由与所选择的控制点相邻的控制点所限定的区域,或者如果所选择的控制点与图像边界之间不存在其他控制点,则所述比对区域是由与所选择的控制点相邻的控制点与图像边界所限定的区域。
所述控制点在所述局部寻优区域内移动,每次移动的距离与局部寻优区域的大小和图像对齐的精度要求等条件有关。优选地,每次移动的距离为一个像素。
所述控制点判断模块14用于判断设置的控制点是否都被选择,如果否,则将优化过程中的变形图像作为初始图像,通知所述变形模块13继续执行,直到所有设置的控制点都被选择,最后一个控制点优化得到的优化过程中的变形图像,作为本次对齐操作的输出图像。
本发明实施例提出的基于移动最小二乘法的图像对齐系统,通过设置控制点,并对每个控制点的最优位置进行求解;在求解出一个控制点的最优位置后,采用移动最小二乘法对整个图像进行一次变换,得到优化过程中的变形图像,该优化过程中的变形图像作为下一个控制点的起始图像,从而可以提高图像对齐精度。
并且,本发明实施例提出的基于移动最小二乘法的图像对齐系统中,移动最小二乘法通过控制点可以准确捕获到局部的差异,也可以精确描述各种图像对齐任务的变换情况。
另外,本发明实施例提出的基于移动最小二乘法的图像对齐系统,通过在局部寻优区域内寻优,能够自动寻找最优控制点。
本发明实施例提出的基于移动最小二乘法的图像对齐系统可以用在图像增强技术中。
实施例2:
本实施例提出的基于移动最小二乘法的图像对齐方法,在实施例1提出的方法的基础上,增加了初始图像生成步骤S200。所述初始图像生成步骤S200在所述步骤S101之前进行,如图2a所示。
所述初始图像生成步骤S200包括:对第一图像进行图像匹配,使匹配后的第一图像尽可能与目标图像重合,其中,匹配后的第一图像作为初始图像,第一图像和目标图像是对同一场景内容进行拍摄得到的两幅图像,第一图像和第二图像可以采用相同的相机拍摄,也可以采用不同的相机拍摄,采用不同的相机拍摄时,相机的类型可以相同,也可以不同。
所述图像匹配操作可以采用SIFT算法,通过对第一图像和第二图像分别提取关键点进行匹配,计算出两幅图像的变换矩阵H;利用变换矩阵H对第一图像进行变换,使得变换后的第一图像与第二图像尽可能地重合。由于受到关键点提取的精度及场景景深变化等因素的影响,经过所述匹配后的两幅图像还不能完全重合。
所述图像匹配操作不局限于SIFT算法,也可以是其它的特征点匹配算法,例如SURF、BRISK、ORB、FREAK等算法。
另外,如果第一图像来源于鱼眼相机成像得到的图像,所述初始图像生成步骤S200还包括生成所述第一图像的步骤,其中生成所述第一图像的步骤包括:对鱼眼相机成像得到的图像进行矫正,生成所述第一图像。所述矫正可以采用相机标定算法对鱼眼相机进行标定,根据鱼眼相机的标定参数对原始鱼眼图像F0进行矫正,生成所述第一图像。
本实施例与实施例1相同的内容,在此不再赘述。
本实施例提出的基于移动最小二乘法的图像对齐系统,在实施例1提出的系统的基础上,增加了初始图像生成模块20,如图2a和图2b所示。所述初始图像生成模块20用于对第一图像进行图像匹配,使匹配后的第一图像尽可能与目标图像重合。其中,匹配后的第一图像作为所述初始图像,第一图像和目标图像是对同一场景内容进行拍摄得到的两幅图像,第一图像和第二图像可以采用相同的相机拍摄,也可以采用不同的相机拍摄,采用不同的相机拍摄时,相机的类型可以相同,也可以不同。
所述图像匹配操作可以采用SIFT算法,通过对第一图像和第二图像分别提取关键点进行匹配,计算出两幅图像的变换矩阵H;利用变换矩阵H对第一图像进行变换,使得变换后的第一图像与第二图像尽可能地重合。由于受到关键点提取的精度及场景景深变化等因素的影响,经过所述匹配操作后的两幅图像还不能完全重合。
所述图像匹配操作不局限于SIFT算法,也可以是其它的特征点匹配算法,例如SURF、BRISK、ORB、FREAK等算法。
另外,如果第一图像来源于鱼眼相机成像得到的图像,所述初始图像生成模块20在对第一图像进行匹配之前,还对鱼眼相机成像得到的图像进行矫正,生成所述第一图像。所述矫正可以采用相机标定算法对鱼眼相机进行标定,根据鱼眼相机的标定参数对原始鱼眼图像F0进行矫正,生成所述第一图像。
本实施例与实施例1相同的内容,在此不再赘述。
实施例3:
本实施例提出的基于移动最小二乘法的图像对齐方法,在实施例1和实施例2提出的方法的基础上,增加了迭代次数设置步骤和迭代次数判断步骤。所述设置迭代次数的步骤只要在进行迭代之前完成即可,用于设置迭代次数。
所述迭代次数判断步骤在本次对齐操作结束后进行,所述迭代次数判断步骤判断已经进行的迭代次数是否达到设置的迭代次数,如果已经进行的迭代次数未达到设置的迭代次数,则本次对齐操作的输出图像作为初始图像,返回步骤S101继续执行;如果已经进行的迭代次数达到设置的迭代次数,则当前对齐操作的输出图像作为最终的变形图像。
本实施例通过迭代操作,可以进一步提高图像对齐精度。在每次迭代操作中,可以重新设置控制点的位置和控制点的间隔,也可以重新设置控制点的局部寻优区域。
下面结合实施例1,对本实施例的第一技术方案进行描述,如图3a所示,该方法包括以下步骤:
S300、设置迭代次数C,迭代次数计数器的初始值为0;
S101、迭代次数计数器的值加1,在初始图像上设置控制点;
所述控制点可以有规律设置,例如沿水平方向的间隔相等,和/或,沿垂直方向的间隔相等。沿水平方向的间隔和沿垂直方向的间隔可以相等,也可以不等。间隔的大小可以自行合理设置,一般来说,较小的间隔产生的控制点较多,会增加后续处理的计算量,但能够提高后续处理的效果,初始图像和目标图像对齐精度高;较大的间隔产生的控制点较少,可能会使得后续处理所涉及的图像范围无法覆盖初始图像的所有区域,从而影响初始图像和目标图像的对齐效果。因此,设置间隔的大小时,需要兼顾计算量和对齐效果。
所述控制点也可以在整个初始图像上无规律设置,尽量覆盖整个初始图像。
优选地,为了提高控制点的有效性,合理减少计算量,控制点一般不设置在初始图像的边界上。
S102、设置控制点的局部寻优区域;
所述控制点的局部寻优区域为控制点可以移动的区域,所述控制点的局部寻优区域大小一般由初始图像与目标图像之间的差异大小决定,保证控制点的最优位置位于其局部寻优区域内。如果差异较大,控制点的局部寻优区域可以设置大一些;如果差异较小,控制点的局部寻优区域可以设置小一些。
每个控制点的局部寻优区域的大小可以相同,也可以不同。
所述控制点的局部寻优区域优选以控制点为区域中心,用像素区域来表示局部寻优区域,例如,所述控制点的局部寻优区域可以设置为5*5像素区域。
S103、在初始图像上,选择一个控制点,采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和;然后,所述控制点在所述局部寻优区域内移动,每移动一次,都采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和,直到所述控制点在所述局部寻优区域内移动完毕;比较所计算出的所有差值绝对值和,找到最小的差值绝对值和,其对应的控制点的位置,作为所述控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到优化过程中的变形图像;
所述比对区域是由与所选择的控制点相邻的控制点所限定的区域,或者如果所选择的控制点与图像边界之间不存在其他控制点,则所述比对区域是由与所选择的控制点相邻的控制点与图像边界所限定的区域。
所述控制点在所述局部寻优区域内移动,每次移动的距离与局部寻优区域的大小和图像对齐的精度要求等条件有关。优选地,每次移动的距离为一个像素。
S104、判断设置的控制点是否都被选择,如果否,则将优化过程中的变形图像作为初始图像,返回步骤S103继续执行,直到所有设置的控制点都被选择,最后一个控制点优化得到的优化过程中的变形图像,作为本次对齐操作的输出图像。
S305、判断迭代次数计数器的值是否小于迭代次数C,如果是,则本次对齐操作的输出图像作为初始图像,返回步骤S101继续执行;如果否,则本次对齐操作的输出图像作为最终的变形图像。
本实施例的第二技术方案是在本实施例的第一技术方案的基础上,在步骤S300之前,或者在步骤S300之后以及步骤S101之前,进行实施例2中的初始图像生成步骤S200。相同的内容在此不再赘述。
本实施例提出的基于移动最小二乘法的图像对齐系统,在实施例1和实施例2提出的系统的基础上,增加了迭代次数设置模块30和迭代次数判断模块35。所述迭代次数的设置在进行迭代之前完成,用于设置迭代次数。
所述迭代次数判断模块用于在本次对齐操作结束后进行,所述迭代次数判断模块用于判断已经进行的迭代次数(可以以控制点设置模块执行的次数来计算)是否达到设置的迭代次数,如果已经进行的迭代次数未达到设置的迭代次数,则本次对齐操作的输出图像作为初始图像,通知控制点设置模块11继续执行;如果已经进行的迭代次数达到设置的迭代次数,则当前对齐操作的输出图像作为最终的变形图像。
本实施例通过迭代操作,可以进一步提高图像对齐精度。在每次迭代操作中,可以重新设置控制点的位置和控制点的间隔,也可以重新设置控制点的局部寻优区域。
下面结合实施例1,对本实施例的第三技术方案进行描述,如图3a和图3b所示,该系统包括:迭代次数设置模块30、控制点设置模块11、局部寻优区域设置模块12、变形模块13、控制点判断模块14和迭代次数判断模块35;
所述代次数设置模块30用于设置迭代次数C,迭代次数计数器的初始值为0;
所述控制点设置模块11用于在初始图像上设置控制点;
所述控制点可以有规律设置,例如沿水平方向的间隔相等,和/或,沿垂直方向的间隔相等。沿水平方向的间隔和沿垂直方向的间隔可以相等,也可以不等。间隔的大小可以自行合理设置,一般来说,较小的间隔产生的控制点较多,会增加后续处理的计算量,但能够提高后续处理的效果,初始图像和目标图像对齐精度高;较大的间隔产生的控制点较少,可能会使得后续处理所涉及的图像范围无法覆盖初始图像的所有区域,从而影响初始图像和目标图像的对齐效果。因此,设置间隔的大小时,需要兼顾计算量和对齐效果。
所述控制点也可以在整个初始图像上无规律设置,尽量覆盖整个初始图像。
优选地,为了提高控制点的有效性,合理减少计算量,控制点一般不设置在初始图像的边界上。
所述局部寻优区域设置模块12用于设置控制点的局部寻优区域;
所述控制点的局部寻优区域为控制点可以移动的区域,所述控制点的局部寻优区域大小一般由初始图像与目标图像之间的差异大小决定,保证控制点的最优位置位于其局部寻优区域内。如果差异较大,控制点的局部寻优区域可以设置大一些;如果差异较小,控制点的局部寻优区域可以设置小一些。
每个控制点的局部寻优区域的大小可以相同,也可以不同。
所述控制点的局部寻优区域优选以控制点为区域中心,用像素区域来表示局部寻优区域,例如,所述控制点的局部寻优区域可以设置为5*5像素区域。
所述变形模块13用于在初始图像上,选择一个控制点,采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和;然后,所述控制点在所述局部寻优区域内移动,每移动一次,都采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和,直到所述控制点在所述局部寻优区域内移动完毕;比较所计算出的所有差值绝对值和,找到最小的差值绝对值和,其对应的控制点的位置,作为所述控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到优化过程中的变形图像;
所述比对区域是由与所选择的控制点相邻的控制点所限定的区域,或者如果所选择的控制点与图像边界之间不存在其他控制点,则所述比对区域是由与所选择的控制点相邻的控制点与图像边界所限定的区域。
所述控制点在所述局部寻优区域内移动,每次移动的距离与局部寻优区域的大小和图像对齐的精度要求等条件有关。优选地,每次移动的距离为一个像素。
所述控制点判断模块14用于判断设置的控制点是否都被选择,如果否,则将优化过程中的变形图像作为初始图像,通知所述变形模块13继续执行,直到所有设置的控制点都被选择,最后一个控制点优化得到的优化过程中的变形图像,作为本次对齐操作的输出图像。
所述迭代次数判断模块35用于判断迭代次数计数器的值是否小于迭代次数C,如果是,则本次对齐操作的输出图像作为初始图像,通知控制点设置模块11继续执行;如果否,则本次对齐操作的输出图像作为最终的变形图像。
本实施例的第四技术方案是在本实施例的第三技术方案的基础上,增加实施例2中的初始图像生成模块20。相同的内容在此不再赘述。
本发明实施例还提出一种存储介质,该存储介质中存储有执行前述方法的计算机程序。
本发明实施例还提出一种处理器,所述处理器运行执行如前所述方法的计算机程序。
本领域技术人员可以理解,在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,“计算机可读介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。
计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或它们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
以上,对本发明的实施方式进行了说明。但是,本发明不限定于上述实施方式。凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于移动最小二乘法的图像对齐方法,其特征在于,该方法包括以下步骤:
初始图像生成步骤:对第一图像进行图像匹配,使匹配后的第一图像趋向于与目标图像重合;其中,匹配后的第一图像作为初始图像,第一图像和目标图像是对同一场景内容进行拍摄得到的两幅图像;
控制点设置步骤:在初始图像上设置多个控制点,多个控制点趋向于覆盖整个初始图像;
局部寻优区域设置步骤:设置控制点的局部寻优区域;其中,每个控制点的局部寻优区域为该控制点能够移动的区域;
变形步骤:在初始图像上,选择一个控制点,采用移动最小二乘法在该控制点的局部寻优区域内,找到该控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到优化过程中的变形图像;
控制点判断步骤:判断设置的控制点是否都被选择,如果否,则将优化过程中的变形图像作为初始图像,返回所述变形步骤继续执行对其他控制点的位置寻优,直到所有设置的控制点都被选择,最后一个控制点优化得到的优化过程中的变形图像,作为本次对齐操作的输出图像;
其中,所述所述变形步骤包括:在初始图像上,选择一个控制点,采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和;然后,所述控制点在所述局部寻优区域内移动,每移动一次,都采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和,直到所述控制点在所述局部寻优区域内移动完毕;比较所计算出的所有差值绝对值和,找到最小的差值绝对值和,其对应的控制点的位置,作为所述控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到所述优化过程中的变形图像;
所述比对区域是由与所选择的控制点相邻的多个控制点所限定的区域,或者如果所选择的控制点与图像边界之间不存在其他控制点,则所述比对区域是由与所选择的控制点相邻的控制点与图像边界所限定的区域。
2.根据权利要求1所述的方法,其特征在于,所述控制点在所述局部寻优区域内每次移动的距离为一个像素。
3.根据权利要求1所述的方法,其特征在于,所述多个控制点沿水平方向的间隔相等,和/或,沿垂直方向的间隔相等;控制点不设置在初始图像的边界上;所述控制点的局部寻优区域以控制点为区域中心,用像素区域来表示局部寻优区域。
4.根据权利要求1所述的方法,其特征在于,第一图像来源于鱼眼相机成像得到的图像,所述初始图像生成步骤还包括生成所述第一图像的步骤,其中生成所述第一图像的步骤包括:对鱼眼相机成像得到的图像进行矫正,生成所述第一图像。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述方法还包括迭代次数设置步骤和迭代次数判断步骤;
所述设置迭代次数的步骤设置迭代次数,所述设置迭代次数的步骤在所述控制点设置步骤之前进行;
所述迭代次数判断步骤在控制点判断步骤之后进行,所述迭代次数判断步骤判断已经进行的迭代次数是否达到设置的迭代次数,如果已经进行的迭代次数未达到设置的迭代次数,则本次对齐操作的输出图像作为初始图像,返回所述控制点设置步骤继续执行;如果已经进行的迭代次数达到设置的迭代次数,则当前对齐操作的输出图像作为最终的变形图像。
6.一种基于移动最小二乘法的图像对齐系统,其特征在于,该系统包括:初始图像生成模块、控制点设置模块、局部寻优区域设置模块、变形模块和控制点判断模块;
所述初始图像生成模块用于对第一图像进行图像匹配,使匹配后的第一图像趋向于与目标图像重合;其中,匹配后的第一图像作为所述初始图像,第一图像和目标图像是对同一场景内容进行拍摄得到的两幅图像;
所述控制点设置模块用于在初始图像上设置多个控制点,多个控制点趋向于覆盖整个初始图像;
所述局部寻优区域设置模块用于设置控制点的局部寻优区域;其中,每个控制点的局部寻优区域为该控制点能够移动的区域;
所述变形模块用于在初始图像上,选择一个控制点,采用移动最小二乘法在该控制点的局部寻优区域内,找到该控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到优化过程中的变形图像;
所述控制点判断模块用于判断设置的控制点是否都被选择,如果否,则将优化过程中的变形图像作为初始图像,通知所述变形模块继续执行对其他控制点的位置寻优,直到所有设置的控制点都被选择,最后一个控制点优化得到的优化过程中的变形图像,作为本次对齐操作的输出图像;
其中,所述变形模块在初始图像上,选择一个控制点,采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和;然后,所述控制点在所述局部寻优区域内移动,每移动一次,都采用移动最小二乘法对初始图像的整个图像进行变换,并计算变换后的初始图像中比对区域的图像与目标图像中与该比对区域相对应的区域的图像的差值绝对值和,直到所述控制点在所述局部寻优区域内移动完毕;比较所计算出的所有差值绝对值和,找到最小的差值绝对值和,其对应的控制点的位置,作为所述控制点的最优位置,并采用移动最小二乘法对初始图像的整个图像进行变换,得到所述优化过程中的变形图像;
所述比对区域是由与所选择的控制点相邻的多个控制点所限定的区域,或者如果所选择的控制点与图像边界之间不存在其他控制点,则所述比对区域是由与所选择的控制点相邻的控制点与图像边界所限定的区域。
7.根据权利要求6所述的系统,其特征在于,所述控制点在所述局部寻优区域内每次移动的距离为一个像素。
8.根据权利要求6所述的系统,其特征在于,所述多个控制点沿水平方向的间隔相等,和/或,沿垂直方向的间隔相等;控制点不设置在初始图像的边界上;所述控制点的局部寻优区域以控制点为区域中心,用像素区域来表示局部寻优区域。
9.根据权利要求6所述的系统,其特征在于,第一图像来源于鱼眼相机成像得到的图像,所述初始图像生成模块在对第一图像进行匹配之前,还对鱼眼相机成像得到的图像进行矫正,生成所述第一图像。
10.根据权利要求6-9中任一项所述的系统,其特征在于,所述系统还包括迭代次数设置模块和迭代次数判断模块,所述迭代次数设置模块用于设置迭代次数,所述迭代次数判断模块用于判断控制点设置模块执行的次数是否达到设置的迭代次数,如果执行的次数未达到设置的迭代次数,则本次对齐操作的输出图像作为初始图像,通知控制点设置模块继续执行;如果已经进行的迭代次数达到设置的迭代次数,则当前对齐操作的输出图像作为最终的变形图像。
CN201810885864.4A 2018-08-06 2018-08-06 一种基于移动最小二乘法的图像对齐方法及系统 Active CN109242894B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810885864.4A CN109242894B (zh) 2018-08-06 2018-08-06 一种基于移动最小二乘法的图像对齐方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810885864.4A CN109242894B (zh) 2018-08-06 2018-08-06 一种基于移动最小二乘法的图像对齐方法及系统

Publications (2)

Publication Number Publication Date
CN109242894A CN109242894A (zh) 2019-01-18
CN109242894B true CN109242894B (zh) 2021-04-09

Family

ID=65070595

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810885864.4A Active CN109242894B (zh) 2018-08-06 2018-08-06 一种基于移动最小二乘法的图像对齐方法及系统

Country Status (1)

Country Link
CN (1) CN109242894B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115824573B (zh) * 2023-01-06 2023-05-09 中国航空工业集团公司沈阳空气动力研究所 一种应用于风洞冰形三维测量的定位装置及方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102426712A (zh) * 2011-11-03 2012-04-25 中国科学院自动化研究所 一种基于两幅图像的三维头部建模方法
CN103279936A (zh) * 2013-06-21 2013-09-04 重庆大学 基于画像的人脸伪照片自动合成及修正方法
CN105160684A (zh) * 2015-09-30 2015-12-16 中国科学院遥感与数字地球研究所 一种用于遥感影像几何校正的在线自动匹配方法
CN108038874A (zh) * 2017-12-01 2018-05-15 中国科学院自动化研究所 面向序列切片的扫描电镜图像实时配准装置及方法
CN108182699A (zh) * 2017-12-28 2018-06-19 北京天睿空间科技股份有限公司 基于二维图像局部变形的三维配准方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070043770A1 (en) * 2005-08-22 2007-02-22 Redfin Discovery method for buyers, sellers of real estate
JP5499981B2 (ja) * 2010-08-02 2014-05-21 コニカミノルタ株式会社 画像処理装置
CN102982537B (zh) * 2012-11-05 2015-09-02 安维思电子科技(广州)有限公司 一种检测场景变换的方法和系统
CN105678687A (zh) * 2015-12-29 2016-06-15 天津大学 基于图像内容的立体图像拼接方法
US10453204B2 (en) * 2016-12-06 2019-10-22 Adobe Inc. Image alignment for burst mode images
CN107274423B (zh) * 2017-05-26 2020-06-26 中北大学 一种基于协方差矩阵和投影映射的点云特征曲线提取方法
CN107545567B (zh) * 2017-07-31 2020-05-19 中国科学院自动化研究所 生物组织序列切片显微图像的配准方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102426712A (zh) * 2011-11-03 2012-04-25 中国科学院自动化研究所 一种基于两幅图像的三维头部建模方法
CN103279936A (zh) * 2013-06-21 2013-09-04 重庆大学 基于画像的人脸伪照片自动合成及修正方法
CN105160684A (zh) * 2015-09-30 2015-12-16 中国科学院遥感与数字地球研究所 一种用于遥感影像几何校正的在线自动匹配方法
CN108038874A (zh) * 2017-12-01 2018-05-15 中国科学院自动化研究所 面向序列切片的扫描电镜图像实时配准装置及方法
CN108182699A (zh) * 2017-12-28 2018-06-19 北京天睿空间科技股份有限公司 基于二维图像局部变形的三维配准方法

Also Published As

Publication number Publication date
CN109242894A (zh) 2019-01-18

Similar Documents

Publication Publication Date Title
JP6348093B2 (ja) 入力データから検出対象物の像を検出する画像処理装置および方法
CN108960211B (zh) 一种多目标人体姿态检测方法以及系统
CN109840884B (zh) 一种图像拼接方法、装置及电子设备
JP5940453B2 (ja) 画像のシーケンス内のオブジェクトのリアルタイム表現のハイブリッド型追跡のための方法、コンピュータプログラム、および装置
CN110070564B (zh) 一种特征点匹配方法、装置、设备及存储介质
CN109784250B (zh) 自动引导小车的定位方法和装置
CN110349086B (zh) 一种非同心成像条件的图像拼接方法
CN113447923A (zh) 目标检测方法、装置、系统、电子设备及存储介质
CN112270719B (zh) 相机标定方法、装置及系统
US20190279022A1 (en) Object recognition method and device thereof
KR20120023052A (ko) 3 차원에 있어서의 형상의 일치를 판정하는 방법 및 장치
CN108369739B (zh) 物体检测装置和物体检测方法
CN109242894B (zh) 一种基于移动最小二乘法的图像对齐方法及系统
CN116977671A (zh) 基于图像空间定位的目标跟踪方法、装置、设备及存储介质
US20230069608A1 (en) Object Tracking Apparatus and Method
CN113635299B (zh) 一种机械臂的校正方法、终端设备及存储介质
CN115272462A (zh) 一种相机位姿估计方法、装置及电子设备
CN111091513B (zh) 图像处理方法、装置、计算机可读存储介质及电子设备
CN112150529B (zh) 一种图像特征点的深度信息确定方法及装置
CN111951211B (zh) 一种目标检测方法、装置及计算机可读存储介质
CN113706505A (zh) 一种去除深度图像中局外点的圆柱拟合方法和装置
US11227166B2 (en) Method and device for evaluating images, operating assistance method, and operating device
CN112184776A (zh) 一种目标跟踪方法、装置及存储介质
KR102617222B1 (ko) 전방위 화상정보 기반의 자동위상 매핑 처리 방법 및 그 시스템
US11836218B2 (en) System and method for object detection and dimensioning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant