CN104778697B - 基于快速定位图像尺度和区域的三维跟踪方法及系统 - Google Patents
基于快速定位图像尺度和区域的三维跟踪方法及系统 Download PDFInfo
- Publication number
- CN104778697B CN104778697B CN201510172547.4A CN201510172547A CN104778697B CN 104778697 B CN104778697 B CN 104778697B CN 201510172547 A CN201510172547 A CN 201510172547A CN 104778697 B CN104778697 B CN 104778697B
- Authority
- CN
- China
- Prior art keywords
- yardstick
- key frame
- pose
- screen picture
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 239000011159 matrix material Substances 0.000 claims description 27
- 230000003287 optical effect Effects 0.000 claims description 11
- 238000000605 extraction Methods 0.000 claims description 10
- 238000007796 conventional method Methods 0.000 claims description 6
- 235000013399 edible fruits Nutrition 0.000 claims 1
- 238000000034 method Methods 0.000 abstract description 15
- 230000008901 benefit Effects 0.000 abstract description 5
- 230000003190 augmentative effect Effects 0.000 description 9
- 238000001514 detection method Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 238000005070 sampling Methods 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 238000012935 Averaging Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 239000010931 gold Substances 0.000 description 1
- 229910052737 gold Inorganic materials 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明提供一种基于快速定位图像尺度和区域的三维跟踪方法及系统,该方法包括:根据模板图像构建尺度金字塔;从金字塔中提取第一特征点;对金字塔中每一尺度下的图像进行区域划分,并根据区域信息和区域对应的第一特征点生成关键帧数据结构;从屏幕图像中提取第二特征点;估计摄像机的位姿,将关键帧区域边界投影到屏幕图像上;根据投影结果选择候选关键帧序列;根据屏幕图像的第二特征点和候选关键帧序列的第一特征点进行特征点的匹配;根据特征点的匹配结果计算摄像机的位姿。本发明实施例的方法具有三维跟踪速度快的优点。
Description
技术领域
本发明涉及计算机视觉技术领域,特别涉及一种基于快速定位图像尺度和区域的三维跟踪方法。
背景技术
三维跟踪技术可以应用到虚拟现实,增强现实等热门领域中,其中,对二维平面自然图像进行三维跟踪是非常重要的一个方向。随着近几年移动设备的性能的快速发展,移动增强现实技术也取得了快速的发展。一方面,移动设备在计算能力,存储能力和续航能力等方面相比PC端存在着比较大的差距。另一方面,移动设备具有更好的便携性,并且配备了更多的传感设备,例如GPS,加速计,陀螺仪等。这些传感设备使得移动设备可以从外界获得更多的方位和移动信息。由于移动设备具有这样的优缺点,人们在移动设备上实现了三维跟踪算法,并对算法进行了计算上的优化,使得三维跟踪系统可以在移动设备上流畅的运行。
传统的二维图像进行三维跟踪算法大体可以分为两个阶段,预处理阶段和实时跟踪阶段,预处理阶段从模板图像中提取特征点,并存放在一个特征点数组中。传统的三维跟踪算法为了实现特征的尺度不变性,对模板图像构建金字塔结构,对不同的尺度图像分别提取特征点。提取特征点之后,将各个不同尺度图像上提取到的特征点保存在一个特征点数组中。在实时跟踪阶段,对获取到的每一帧屏幕图像提取特征点,并与预处理阶段得到的模板特征点数组进行特征匹配,进而计算摄像机位姿。
传统的二维图像跟踪算法都是将模板图像上提取到的特征点保存在一个数组中,没有按照特征点在模板上出现的位置和尺度分别存放管理。所以在实时跟踪过程中,屏幕图像特征点需要与模板图像上各尺度下的整个图像的特征点进行匹配。由于实现尺度不变性需要对模板图像构建尺度金字塔,并对不同尺度的图像分别提取特征点,会进一步降低三维跟踪的效率,所以很多传统的算法都因为效率原因没有加入尺度不变性。一些算法加入了尺度不变性,但是以降低了系统效率为代价。在实际中,屏幕图像可能只会与模板图像的某个尺度或某个区域匹配成功。其余的大部分特征匹配都是无效的。这无疑浪费了大量的计算资源。
发明内容
本发明的目的旨在解决上述的技术缺陷。
为此,本发明的一个目的在于提出一种基于快速定位图像尺度和区域的三维跟踪方法。该方法具有三维跟踪速度快的优点。
本发明的另一个目的在于提出一种基于快速定位图像尺度和区域的三维跟踪系统。
为了实现上述目的,本发明的第一方面的实施例公开了一种基于快速定位图像尺度和区域的三维跟踪方法,包括以下步骤:获取模板图像,并根据所述模板图像构建尺度金字塔;从所述尺度金字塔中每一尺度下的图像中提取第一特征点;对所述尺度金字塔中每一尺度下的图像进行区域划分,并根据区域信息和区域对应的第一特征点生成关键帧数据结构;利用摄像机采集屏幕图像;从所述屏幕图像中提取第二特征点;估计所述摄像机的位姿,并判断位姿的估计值是否正确;如果正确,则将关键帧区域边界投影到所述屏幕图像上;根据关键帧投影到所述屏幕图像上的投影结果选择候选关键帧序列;根据所述屏幕图像的第二特征点和所述候选关键帧序列的第一特征点进行特征点的匹配;根据特征点的匹配结果得到单应性矩阵;根据所述单应性矩阵计算所述摄像机的位姿。
另外,根据本发明上述实施例的基于快速定位图像尺度和区域的三维跟踪方法还可以具有如下附加的技术特征:
在一些示例中,在判断所述位姿的估计值是否正确之后,还包括:如果所述位姿的估计值不正确,则采用传统方法计算所述摄像机的位姿。
在一些示例中,根据以下公式选择候选关键帧序列,其中,所述公式为:
其中,所述σ为所述屏幕图像和关键帧投影图像的重合因子。
在一些示例中,在所述利用摄像机采集屏幕图像之后,还包括:获取前一帧图像的特征点集;根据所述前一帧图像的特征点集,利用光流算法求解所述屏幕图像与模板图像匹配的特征点;根据所述匹配特征点得到单应性矩阵;根据所述单应性矩阵计算所述摄像机的位姿。
本发明第二方面的实施例公开了一种基于快速定位图像尺度和区域的三维跟踪系统,包括:尺度金字塔生成模块,用于根据模板图像构建尺度金字塔;特征点提取模块,用于从所述尺度金字塔中每一尺度下的图像中提取第一特征点,并从屏幕图像中提第二特征点;关键帧生成模块,用于对所述尺度金字塔中每一尺度下的图像进行区域划分,并根据区域信息和区域对应的第一特征点生成关键帧数据结构;位姿估计模块,用于估计所述摄像机的位姿,并判断位姿的估计值是否正确;关键帧投影模块,用于在所述位姿估计模块估计的位姿的估计值正确时,将关键帧投影到所述屏幕图像上;候选关键帧序列获取模块,用于根据关键帧区域边界投影到所述屏幕图像上的投影结果选择候选关键帧序列;特征点匹配模块,用于根据所述屏幕图像的第二特征点和所述候选关键帧序列的第一特征点进行特征点的匹配;位姿计算模块,用于根据特征点的匹配结果得到单应性矩阵,并根据所述单应性矩阵计算所述摄像机的位姿。
另外,根据本发明上述实施例的基于快速定位图像尺度和区域的三维跟踪系统还可以具有如下附加的技术特征:
在一些示例中,所述位姿估计模块还用于:在判断所述位姿的估计值不正确时,采用传统方法计算所述摄像机的位姿。
在一些示例中,所述候选关键帧序列获取模块根据以下公式选择候选关键帧序列,其中,所述公式为:
其中,所述σ为所述屏幕图像和关键帧投影图像的重合因子。
在一些示例中,还包括:获取前一帧图像的特征点集;根据所述前一帧图像的特征点集,利用光流算法求解所述屏幕图像与模板图像匹配的特征点;根据所述匹配特征点得到单应性矩阵;根据所述单应性矩阵计算所述摄像机的位姿。
根据本发明的实施例,提升了特征匹配的效率,并在不加重计算量的前提下,实现算法的尺度不变性,并实现了二维平面图像的快速三维跟踪,在虚拟现实、增强现实等方面有很重要的应用。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中,
图1是根据本发明一个实施例的基于快速定位图像尺度和区域的三维跟踪方法的流程图;
图2是根据本发明一个实施例的模板图像的示意图;
图3是根据本发明一个实施例的FLISA(Fast Locating of Image Scale andAera)算法与传统三维跟踪算法的帧率的比较图;
图4是根据本发明实施例的三维跟踪系统的运算帧率的示意图;
图5是根据本发明实施例的三维跟踪系统的运算误差的示意图;以及
图6是根据本发明一个实施例的基于快速定位图像尺度和区域的三维跟踪系统的结构框图。
具体实施方式
下面详细描述本发明的实施例,实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能理解为对本发明的限制。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
以下结合附图描述根据本发明实施例的基于快速定位图像尺度和区域的三维跟踪方法及系统。
图1是根据本发明一个实施例的基于快速定位图像尺度和区域的三维跟踪方法的流程图。如图1所示,根据本发明一个实施例的基于快速定位图像尺度和区域的三维跟踪方法,包括如下步骤:
S101:输入模板图像并构建尺度金字塔,即:获取模板图像,并根据所述模板图像构建尺度金字塔。具体地说,输入模板图像,对模板图像构建尺度金字塔。其中降采样频率采用了BRISK(Binary Robust Invariant Scalable Keypoints)中的采样方法,对原图像先进行一次1.5倍采样,然后对原图像和1.5倍采样图像分别不断进行2采样并将这两个序列交叉放置。在本方案中,希望金字塔最大尺度下的图像分辨率刚好小于摄像头获取的图像分辨率,所以对原始模板图像分割的最大层数公式L可以表示为:
其中,wp,hp分别为模板图像的长和宽,ww,hw分别为屏幕的长和宽。
确定分层数后,对模板图像按照之前确定的降采样频率不断进行降采样,获得每一个尺度下的图像。直到达到最大尺度L后停止。
S102:提取特征点,具体地,从尺度金字塔中每一尺度下的图像中提取第一特征点。
在本发明的一个实施例中,对模板图像尺度金字塔(即:尺度金字塔)中每一尺度中的图像进行特征提取。例如:使用FAST(Features from Accelerated Segment Test)特征检测子进行特征检测,使用BRIEF(Binary Robust Independent Elementary Features)特征描述子进行特征提取。
S103:生成关键帧数据结构。具体地,对尺度金字塔中每一尺度下的图像进行区域划分,并根据区域信息和区域对应的第一特征点生成关键帧数据结构。
作为一个具体的示例,对模板图像尺度金字塔中每一尺度下的图像分区域,将区域位置和大小信息,区域子图像和区域中的特征点组织起来生成关键帧数据结构。关键帧的分辨率采用金字塔中最大尺度下的图像分辨率。将这个分辨率的关键帧的起始位置用相同的间隔排放在尺度图像上,使得这些关键帧均匀地覆盖在尺度图像上。对于l层,横向和纵向上的关键帧数目为:
其中Wl和WL分别为模板金字塔第l层和第L层的图像宽度。第l层中横向上第i列,纵向上第j行关键帧的起始位置为:
这样就得到了尺度图像上每一行和每一列关键帧的起始点位置,也就得到了每一个关键帧的位置。将每一尺度下所有的特征点按照是否该在关键帧范围内分配到当前尺度下相应的关键帧中去,由关键帧保存和管理这些特征点。
实时跟踪阶段为了获得更好的效率,根据不同的情况分成了两个分支,分别为特征匹配分支和光流分支。其中当系统启动或者光流失败的情况下,进行特征匹配分支。当使用光流算法跟踪的帧数达到一个阈值或者当前帧中可以跟踪的点数过少的时候,判定光流跟踪失败。
S201:在获取屏幕图像后,提取特征点,即:利用摄像机采集屏幕图像;从屏幕图像中提取第二特征点。对获取到的屏幕图像,同样可以使用FAST检测特征点,并使用BRIEF提取特征点。
S202:估计当前摄像机位姿并判断位姿的正确性,即:估计摄像机的位姿,并判断位姿的估计值是否正确。在本发明的一个实施例中,如果判断位姿正确,则执行S203,否则,当位姿的估计值不正确时,可以采用传统方法计算所述摄像机的位姿。
具体来说,根据摄像机移动的连续性,连续两幅图像的摄像机位姿很接近,故将上一帧屏幕图像的摄像机位姿作为当前位姿的估计值。并使用计算几何方法验证位姿正确性。根据计算几何的原理,每个关键帧在模板图像上的边框都为矩形,经过仿射变换投影到屏幕图像上的边框仍然为一个简单的凸四边形。且因为这些关键帧都在一个平面上,所以投影后的形状也是相似的,所以只需要对一个关键帧进行判断。在算法中,对第L层的唯一一个关键帧进行判断,如果投影后的四边形为复杂多边形或凹多边形,则证明估计的位姿错误。需要使用传统的跟踪方法进行错误修正。
S203:关键帧投影,即:将关键帧区域边界投影到屏幕图像上。具体而言,若之前的位姿估计正确,则利用估计好的位姿可以将所有的关键帧的范围投影到当前图像帧上面去。
S204:挑选候选关键帧序列。例如:根据关键帧投影到屏幕图像上的投影结果选择候选关键帧序列。在本发明的一个实施例中,可以根据以下公式选择候选关键帧序列,其中,该公式为:
其中,σ为屏幕图像和关键帧投影图像的重合因子,重合因子度量了关键帧投影图像和当前屏幕图像的重合程度。
具体地说,将关键帧投影到屏幕图像上之后对关键帧投影四边形和屏幕上的摄像机图像四个顶点构成的四边形求相交部分,根据凸集的封闭性看,凸多边形的交仍然是一个凸多边形。求相交多边形的方法是:首先屏幕形状是个矩形,使用简单的包围盒技术排除一些肯定不可能相交的情况。如果不能排除,则计算两个四边形的所有边相交的点和一个多边形在另一个多边形当中的顶点。这些顶点就是相交多边形的顶点。求这些多边形的凸包,则为相交多边形。得到相交多边形后,用Skf,Sw,Sinter,分别来表示关键帧多边形,屏幕矩形和相交多边形这三个多边形的面积。
S205:特征匹配,具体地,根据屏幕图像的第二特征点和候选关键帧序列的第一特征点进行特征点的匹配。即将屏幕图像特征点和候选关键帧序列中的特征点进行特征匹配,并使用RANSAC算法消除误匹配。
S206:根据特征点的匹配结果得到单应性矩阵。
S207:计算摄像机的位姿,也就是说,根据单应性矩阵计算摄像机的位姿。例如使用单应性矩阵计算当前屏幕图像的摄像机位姿。然后可以通过显示设备进行三维显示。
根据本发明实施例的基于快速定位图像尺度和区域的三维跟踪方法,提升了特征匹配的效率,并在不加重计算量的前提下,实现算法的尺度不变性,并实现了二维平面图像的快速三维跟踪,在虚拟现实、增强现实等方面有很重要的应用。
在本发明的一个实施例中,当已有前一帧的特征点集的情况下,可以利用光流跟踪方式实现摄像机位姿的计算,具体而言,结合图1所示,包括:
S301,光流算法求解匹配特征点。即:在利用摄像机采集屏幕图像之后,获取前一帧图像的特征点集,然后,根据前一帧图像的特征点集,利用光流算法求解屏幕图像与模板图像匹配的特征点。具体而言,使用光流算法检测当前帧中与上一帧匹配的特征点,并由此得知当前帧中与模板图像相匹配的特征点。
S302:计算单应性矩阵,即:根据匹配特征点得到单应性矩阵。也就是说,可以使用当前帧与模板图像的匹配特征点集计算单应性矩阵。
S303:求解摄像机的位姿,并实现增强现实显示。具体地,根据单应性矩阵计算摄像机的位姿。然后实现增强现实显示。
以图2所示的北京市地图作为模板图像,验证本发明实施例的方法的技术效果。
将屏幕的分辨率设置为640×480像素。模板图像使用如图2所示的北京市地图,模板图像的分辨率为2077×1379。预处理阶段,模板图像被分为5个尺度,共生成了34帧关键帧。为了在系统鲁棒性和效率之间取得一个平衡,对获得的每一帧屏幕图像和每一帧关键帧保留200个显著特征点。主要进行以下几个方面的实验:
1:消耗时间对比
对使用关键帧的FLISA算法和不使用关键帧的传统三维跟踪算法分别进行实验,统计实验过程中特征检测,特征提取,选取关键帧,特征点匹配以及消除误匹配这几个主要环节消耗的时间,以及整个流程消耗的总时间,并进行对比。对比结果如表1所示。表1为三维跟踪算法FLISA算法和传统算法的时间对比。
表1
特征检测 | 特征提取 | 关键帧匹配 | 特征点匹配 | 消除误匹配 | 总时间 | |
传统算法 | 17.59 | 6.49 | N/A | 51.29 | 45.56 | 120.93 |
FLISA | 17.81 | 7.17 | 0.55 | 4.84 | 35.94 | 66.31 |
提升倍数 | N/A | N/A | N/A | 10.59 | 1.27 | 1.82 |
2:帧率对比
对使用关键帧的FLISA算法和不使用关键帧的传统三维跟踪算法分别进行实验,测试两种情况下的算法运行帧率并进行比较。FLISA算法和传统三维跟踪算法的帧率统计如图3所示,为FLISA算法和传统算法的帧率比较。
3:增强现实系统运行的帧率统计
加入了光流算法后,测试了运行帧率。运行帧率如图4所示。
4:运行过程中的误差统计
为了测试系统的稳定性,对系统运行过程中的误差进行统计。为了统计系统误差,在每一帧图像计算出对应的摄像机位姿之后,使用这个位姿,将模板图像中匹配成功的那些特征点投影到当前屏幕上,计算这些投影点与当前图像上检测出的对应特征点之间的距离。对这些距离求平均,得到这一帧图像的误差值。误差统计的结果如图5所示。
本发明的方法具有以下特点:
计算效率高,由于对模板图像不同尺度下的图像进行分块管理,在实时跟踪阶段采用快速算法确定屏幕当前图像所处的尺度和区域,快速选出可以与当前屏幕特征匹配成功的模板特征点集,实现了具有尺度不变性的快速的三维跟踪方法。
应用性强,该方法可以对二维平面图像进行跟踪,并应用到需要三维跟踪技术的各个领域,如增强现实、虚拟现实等领域。
图6是根据本发明一个实施例的基于快速定位图像尺度和区域的三维跟踪系统的结构框图。如图6所示,根据本发明一个实施例的基于快速定位图像尺度和区域的三维跟踪系统600,包括:尺度金字塔生成模块610、特征点提取模块620、关键帧生成模块630、位姿估计模块640、关键帧投影模块650、候选关键帧序列获取模块660、特征点匹配模块670和位姿计算模块680。
其中,尺度金字塔生成模块610用于根据模板图像构建尺度金字塔。特征点提取模块620用于从尺度金字塔中每一尺度下的图像中提取第一特征点,并从屏幕图像中提第二特征点。关键帧生成模块630用于对尺度金字塔中每一尺度下的图像进行区域划分,并根据区域信息和区域对应的第一特征点生成关键帧数据结构。位姿估计模块640用于估计摄像机的位姿,并判断位姿的估计值是否正确。关键帧投影模块650用于在位姿估计模块估计的位姿的估计值正确时,将关键帧投影到屏幕图像上。候选关键帧序列获取模块660用于根据关键帧区域边界投影到所述屏幕图像上的投影结果选择候选关键帧序列。特征点匹配模块670用于根据屏幕图像的第二特征点和候选关键帧序列的第一特征点进行特征点的匹配。位姿计算模块680用于根据特征点的匹配结果得到单应性矩阵,并根据所述单应性矩阵计算所述摄像机的位姿。
在本发明的一个实施例中,位姿估计模块640还用于在判断位姿的估计值不正确时,采用传统方法计算所述摄像机的位姿。
在本发明的一个实施例中,候选关键帧序列获取模块660根据以下公式选择候选关键帧序列,其中,所述公式为:
其中,σ为屏幕图像和关键帧投影图像的重合因子。
在本发明的一个实施例中,还可以结合光流算法计算摄像机的位姿,具体地,获取前一帧图像的特征点集;根据前一帧图像的特征点集,利用光流算法求解屏幕图像与模板图像匹配的特征点;根据匹配特征点得到单应性矩阵;根据单应性矩阵计算摄像机的位姿。
根据本发明实施例的基于快速定位图像尺度和区域的三维跟踪系统,提升了特征匹配的效率,并在不加重计算量的前提下,实现算法的尺度不变性,并实现了二维平面图像的快速三维跟踪,在虚拟现实、增强现实等方面有很重要的应用。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在不脱离本发明的原理和宗旨的情况下在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (8)
1.一种基于快速定位图像尺度和区域的三维跟踪方法,其特征在于,包括以下步骤:
获取模板图像,并根据所述模板图像构建尺度金字塔;
从所述尺度金字塔中每一尺度下的图像中提取第一特征点;
对所述尺度金字塔中每一尺度下的图像进行区域划分,并根据区域信息和区域对应的第一特征点生成关键帧数据结构;
利用摄像机采集屏幕图像;
从所述屏幕图像中提取第二特征点;
估计所述摄像机的位姿,并判断位姿的估计值是否正确;
如果正确,则将关键帧区域边界投影到所述屏幕图像上;
根据关键帧投影到所述屏幕图像上的投影结果选择候选关键帧序列;
根据所述屏幕图像的第二特征点和所述候选关键帧序列的第一特征点进行特征点的匹配;
根据特征点的匹配结果得到单应性矩阵;
根据所述单应性矩阵计算所述摄像机的位姿。
2.根据权利要求1所述的基于快速定位图像尺度和区域的三维跟踪方法,其特征在于,在判断所述位姿的估计值是否正确之后,还包括:
如果所述位姿的估计值不正确,则采用传统方法计算所述摄像机的位姿。
3.根据权利要求1所述的基于快速定位图像尺度和区域的三维跟踪方法,其特征在于,根据以下公式选择候选关键帧序列,其中,所述公式为:
其中,所述σ为所述屏幕图像和关键帧投影图像的重合因子,Skf是关键帧多边形的面积,Sinter是关键帧投影到所述屏幕图像上与摄像机图像对应矩形相交的多边形的面积,Sw是摄像机图像对应矩形的面积。
4.根据权利要求1-3任一项所述的基于快速定位图像尺度和区域的三维跟踪方法,其特征在于,在所述利用摄像机采集屏幕图像之后,还包括:
获取前一帧图像的特征点集;
根据所述前一帧图像的特征点集,利用光流算法求解所述屏幕图像与模板图像匹配的特征点;
根据所述匹配特征点得到单应性矩阵;
根据所述单应性矩阵计算所述摄像机的位姿。
5.一种基于快速定位图像尺度和区域的三维跟踪系统,其特征在于,包括:
尺度金字塔生成模块,用于根据模板图像构建尺度金字塔;
特征点提取模块,用于从所述尺度金字塔中每一尺度下的图像中提取第一特征点,并从屏幕图像中提第二特征点;
关键帧生成模块,用于对所述尺度金字塔中每一尺度下的图像进行区域划分,并根据区域信息和区域对应的第一特征点生成关键帧数据结构;
位姿估计模块,用于估计所述摄像机的位姿,并判断位姿的估计值是否正确;
关键帧投影模块,用于在所述位姿估计模块估计的位姿的估计值正确时,将关键帧投影到所述屏幕图像上;
候选关键帧序列获取模块,用于根据关键帧区域边界投影到所述屏幕图像上的投影结果选择候选关键帧序列;
特征点匹配模块,用于根据所述屏幕图像的第二特征点和所述候选关键帧序列的第一特征点进行特征点的匹配;
位姿计算模块,用于根据特征点的匹配结果得到单应性矩阵,并根据所述单应性矩阵计算所述摄像机的位姿。
6.根据权利要求5所述的基于快速定位图像尺度和区域的三维跟踪系统,其特征在于,所述位姿估计模块还用于:在判断所述位姿的估计值不正确时,采用传统方法计算所述摄像机的位姿。
7.根据权利要求5所述的基于快速定位图像尺度和区域的三维跟踪系统,其特征在于,所述候选关键帧序列获取模块根据以下公式选择候选关键帧序列,其中,所述公式为:
其中,所述σ为所述屏幕图像和关键帧投影图像的重合因子,Skf是关键帧多边形的面积,Sinter是关键帧投影到所述屏幕图像上与摄像机图像对应矩形相交的多边形的面积,Sw是摄像机图像对应矩形的面积。
8.根据权利要求5-7任一项所述的基于快速定位图像尺度和区域的三维跟踪系统,其特征在于,还包括:
获取前一帧图像的特征点集;
根据所述前一帧图像的特征点集,利用光流算法求解所述屏幕图像与模板图像匹配的特征点;
根据所述匹配特征点得到单应性矩阵;
根据所述单应性矩阵计算所述摄像机的位姿。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510172547.4A CN104778697B (zh) | 2015-04-13 | 2015-04-13 | 基于快速定位图像尺度和区域的三维跟踪方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510172547.4A CN104778697B (zh) | 2015-04-13 | 2015-04-13 | 基于快速定位图像尺度和区域的三维跟踪方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104778697A CN104778697A (zh) | 2015-07-15 |
CN104778697B true CN104778697B (zh) | 2017-07-28 |
Family
ID=53620143
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510172547.4A Expired - Fee Related CN104778697B (zh) | 2015-04-13 | 2015-04-13 | 基于快速定位图像尺度和区域的三维跟踪方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104778697B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106570913B (zh) * | 2016-11-04 | 2019-12-13 | 上海玄彩美科网络科技有限公司 | 基于特征的单目slam快速初始化方法 |
CN107480580B (zh) * | 2017-03-31 | 2021-06-15 | 触景无限科技(北京)有限公司 | 图像识别方法和图像识别装置 |
CN108010055B (zh) * | 2017-11-23 | 2022-07-12 | 塔普翊海(上海)智能科技有限公司 | 三维物体的跟踪系统及其跟踪方法 |
CN110097045A (zh) * | 2018-01-31 | 2019-08-06 | 株式会社理光 | 一种定位方法、定位装置及可读存储介质 |
CN108325208A (zh) * | 2018-03-20 | 2018-07-27 | 昆山时记信息科技有限公司 | 应用于游戏领域的增强现实实现方法 |
WO2019231462A1 (en) * | 2018-06-01 | 2019-12-05 | Hewlett-Packard Development Company, L.P. | Substantially real-time correction of perspective distortion |
CN114888692B (zh) * | 2022-06-14 | 2023-02-21 | 广东天太机器人有限公司 | 一种抛光打磨机械臂控制系统及方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102129708A (zh) * | 2010-12-10 | 2011-07-20 | 北京邮电大学 | 增强现实环境中快速多层次虚实遮挡处理方法 |
CN103325108A (zh) * | 2013-05-27 | 2013-09-25 | 浙江大学 | 一种融合光流与特征点匹配的单目视觉里程计的设计方法 |
CN103415860A (zh) * | 2011-01-27 | 2013-11-27 | Metaio有限公司 | 确定第一和第二图像间的对应关系的方法以及确定摄像机姿态的方法 |
CN104050475A (zh) * | 2014-06-19 | 2014-09-17 | 樊晓东 | 基于图像特征匹配的增强现实的系统和方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110130309A (ko) * | 2010-05-27 | 2011-12-05 | 한국항공대학교산학협력단 | 증강현실을 위한 실시간 마커리스 3차원 객체추적 시스템 및 그 방법 |
US9147251B2 (en) * | 2012-08-03 | 2015-09-29 | Flyby Media, Inc. | Systems and methods for efficient 3D tracking of weakly textured planar surfaces for augmented reality applications |
-
2015
- 2015-04-13 CN CN201510172547.4A patent/CN104778697B/zh not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102129708A (zh) * | 2010-12-10 | 2011-07-20 | 北京邮电大学 | 增强现实环境中快速多层次虚实遮挡处理方法 |
CN103415860A (zh) * | 2011-01-27 | 2013-11-27 | Metaio有限公司 | 确定第一和第二图像间的对应关系的方法以及确定摄像机姿态的方法 |
CN103325108A (zh) * | 2013-05-27 | 2013-09-25 | 浙江大学 | 一种融合光流与特征点匹配的单目视觉里程计的设计方法 |
CN104050475A (zh) * | 2014-06-19 | 2014-09-17 | 樊晓东 | 基于图像特征匹配的增强现实的系统和方法 |
Non-Patent Citations (3)
Title |
---|
基于增强现实的实时交互技术研究与实现;蔡攀;《中国优秀硕士学位论文全文数据库 信息科技辑》;20110115;第三章 * |
增强现实三维配准技术方法研究;郭昌达;《中国优秀硕士学位论文全文数据库 信息科技辑》;20140215;正文第46页 * |
并行快速特征点匹配算法研究;刘红;《中国优秀硕士学位论文全文数据库 信息科技辑》;20130315;第4.3节 * |
Also Published As
Publication number | Publication date |
---|---|
CN104778697A (zh) | 2015-07-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104778697B (zh) | 基于快速定位图像尺度和区域的三维跟踪方法及系统 | |
CN110349213B (zh) | 基于深度信息的位姿确定方法、装置、介质与电子设备 | |
CN110335316B (zh) | 基于深度信息的位姿确定方法、装置、介质与电子设备 | |
CN108764048B (zh) | 人脸关键点检测方法及装置 | |
EP3182373B1 (en) | Improvements in determination of an ego-motion of a video apparatus in a slam type algorithm | |
CN108257146B (zh) | 运动轨迹显示方法及装置 | |
Fathi et al. | Automated sparse 3D point cloud generation of infrastructure using its distinctive visual features | |
Shen et al. | Exemplar-based human action pose correction and tagging | |
US9672634B2 (en) | System and a method for tracking objects | |
EP2858008A2 (en) | Target detecting method and system | |
Basha et al. | Photo sequencing | |
US9928426B1 (en) | Vehicle detection, tracking and localization based on enhanced anti-perspective transformation | |
US10268929B2 (en) | Method and device for generating binary descriptors in video frames | |
CN103854283A (zh) | 一种基于在线学习的移动增强现实跟踪注册方法 | |
CN102222341A (zh) | 运动特征点检测方法及装置、运动目标检测方法及装置 | |
Porzi et al. | Learning contours for automatic annotations of mountains pictures on a smartphone | |
US10229508B2 (en) | Dynamic particle filter parameterization | |
Nousias et al. | Large-scale, metric structure from motion for unordered light fields | |
Pei et al. | IVPR: An instant visual place recognition approach based on structural lines in Manhattan world | |
CN107948586A (zh) | 基于视频拼接的跨区域运动目标检测方法和装置 | |
Jung et al. | Object Detection and Tracking‐Based Camera Calibration for Normalized Human Height Estimation | |
US8164633B2 (en) | Calibration apparatus and method for imaging devices and computer program | |
Desai et al. | An efficient feature descriptor based on synthetic basis functions and uniqueness matching strategy | |
CN103765477B (zh) | 通过图形匹配和环形检测而用自动模型初始化进行线跟踪 | |
Chen et al. | 3d line segment detection for unorganized point clouds from multi-view stereo |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
EXSB | Decision made by sipo to initiate substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20170728 |
|
CF01 | Termination of patent right due to non-payment of annual fee |