CN110490271B - 图像匹配及拼接方法、装置、系统、可读介质 - Google Patents

图像匹配及拼接方法、装置、系统、可读介质 Download PDF

Info

Publication number
CN110490271B
CN110490271B CN201910811279.4A CN201910811279A CN110490271B CN 110490271 B CN110490271 B CN 110490271B CN 201910811279 A CN201910811279 A CN 201910811279A CN 110490271 B CN110490271 B CN 110490271B
Authority
CN
China
Prior art keywords
image
matching
matched
algorithm
points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910811279.4A
Other languages
English (en)
Other versions
CN110490271A (zh
Inventor
王森
刘阳
罗小伟
林福辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Spreadtrum Communications Shanghai Co Ltd
Original Assignee
Spreadtrum Communications Shanghai Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Spreadtrum Communications Shanghai Co Ltd filed Critical Spreadtrum Communications Shanghai Co Ltd
Priority to CN201910811279.4A priority Critical patent/CN110490271B/zh
Publication of CN110490271A publication Critical patent/CN110490271A/zh
Application granted granted Critical
Publication of CN110490271B publication Critical patent/CN110490271B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/757Matching configurations of points or features

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

一种图像匹配及拼接方法、装置、系统、可读介质,所述图像匹配方法包括:对待检测的图像进行分块,获取M×N个图像分块;针对每个图像分块,基于特征点算法求取Top N个特征点;针对每个所求取的特征点对应的描述子,依次与其他待检测的图像中的其他特征点对应的描述子进行一一配对,获取互相匹配的特征点集合;针对互相匹配的特征点集合,基于运动的一致性计算匹配外点和匹配内点,并剔除误匹配形成的匹配外点,保留匹配内点对应的图像分块;基于匹配内点对应的图像分块,求解单应矩阵,获取前后两个图像分块的相对位置。应用上述方法,可以在不影响匹配性能的基础上,有效降低特征匹配的计算复杂度,处理速度快,支持实时处理拍摄图像。

Description

图像匹配及拼接方法、装置、系统、可读介质
技术领域
本发明实施例涉及图像处理领域,尤其涉及一种图像匹配及拼接方法、装置、系统、可读介质。
背景技术
随着手机相机应用的普及,对手机相机的拍照效果需求也越来越高。由于手机拍照时,相机的视场角(Field of View,FOV)较小,只能拍摄下场景的一部分,不能对感兴趣的场景进行完整的记录。为了解决这个问题,提出了全景图像拼接(Panorama Stitching)算法,即手机相机按照一定顺序拍摄并相互有重叠区域的图像序列,然后根据全景图像拼接算法拼接出一幅具有高FOV的全景图像。
全景照片拼接算法包含两个步骤:图像匹配(Image Alignment)和图像融合(Image Blending)。在图像匹配步骤中,需要求出相邻图像间准确的位置关系,包括:基于模板匹配(Template Matching)和基于特征匹配(Feature Matching)两类算法。基于模板匹配的算法,将一幅图像中的一部分(或者整个图像)作为模板,在另一幅图像中搜索匹配的部分,计算复杂度高,运行速度慢。基于特征的匹配算法,在图像中根据一定的特征检测(Feature Detection)算法,如加速分段测试提取特征(Features From AcceleratedSegment Test,FAST)算法,提取特征点,然后对特征点及周围像素进行描述(FeatureDescription),提取描述子,最后进行描述子匹配。在图像融合步骤中,需要将图像的重叠区域进行处理,使其平滑,没有瑕疵,可以分为拼接边缘优化(Seam Finding)阶段和图像合成(Image Blending)阶段。
在目前的产品方案中,基于模板匹配的算法,一方面需要进行大量的像素运算,运算量很大,对于手机等移动设备的内存访问也提出较高需求,另一方面,容易落入局部最小值中,使最终匹配结果较差。基于特征的匹配算法,大多数是为拼接普通照片而设计,即对同一场景,用相机进行拍照,然后后期进行拼接操作,在实际应用中,为了满足不同光照,旋转,尺度以及较小的重叠区域等一系列问题,虽然性能较优,但是计算复杂度非常高。
发明内容
本发明实施例解决的技术问题是如何在不影响匹配性能的基础上,有效降低特征匹配算法的计算复杂度。
为解决上述技术问题,本发明实施例提供一种图像匹配方法,包括:对待检测的图像进行分块,获取M×N个图像分块,其中M,N为自然数;针对每个图像分块,求取Top N个特征点,其中
Figure BDA0002183077980000021
T为待检测图像对应的特征点的总个数;针对每个所求取的特征点对应的描述子,依次与其他待检测的图像中的其他特征点对应的描述子进行一一配对,获取互相匹配的特征点集合;针对互相匹配的特征点集合,基于运动的一致性计算匹配外点和匹配内点,并剔除误匹配形成的匹配外点,保留匹配内点对应的图像分块,所述匹配内点对应的图像分块即为匹配的图像分块;基于匹配内点对应的图像分块,求解单应矩阵,获取前后两个图像分块的相对位置。
可选地,所述求取Top N个特征点包括:基于特征点算法求取Top N个特征点。
可选地,所述其他特征点为:其他待检测的图像中部分区域内的特征点。
可选地,所述部分区域在其他待检测的图像中的相对位置与所求取的特征点及其相邻的特征点在其对应的图像中的相对位置一致。
可选地,所述描述子为:二元鲁棒独立基本特征描述子。
可选地,所述针对互相匹配的特征点集合,基于运动的一致性计算匹配外点和匹配内点包括:获取相互匹配的获取特征点pa和pb,其中pa位于图像分块i,pa位于图像分块k;统计图像分块i中与图像分块k中互相匹配的特征点的总个数,记为
Figure BDA0002183077980000022
选取与图像分块i中的特征点互相匹配的特征点总个数最多的图像分块j,其中
Figure BDA0002183077980000023
计算图像分块i周围预设区域内的图像分块中与图像分块j周围预设区域内的图像分块中互相匹配的特征点总个数,记为
Figure BDA0002183077980000024
其中m为预设区域内包含的图像分块总个数;判断Si,j是否大于预设的阈值τ,并在Si,j>τ时,将
Figure BDA0002183077980000025
记为匹配内点,否则记为匹配外点。
可选地,所述求解单应矩阵包括:采用随机抽样一致算法求解单应矩阵。
可选地,所述求解单应矩阵包括:利用随机抽样一致算法计算单应矩阵的初始解;基于单应矩阵的初始解,利用迭代训练算法搜索获取单应矩阵的最优解。
可选地,所述迭代训练算法包括:莱文贝格-马夸特算法或者高斯-牛顿算法。
本发明实施例提供一种图像拼接方法,包括:采用上述任一种图像匹配方法,获取匹配的图像分块以及前后两个图像分块的相对位置;针对匹配的图像分块以及前后两个图像分块的相对位置,通过迭代算法搜索获取图像融合后一致性最优的拼接边缘路径;基于所获取的拼接边缘路径,进行图像融合操作。
可选地,所述迭代算法为动态规划中的回溯算法。
可选地,所述图像融合后一致性的指标为:基于像素均值的代价函数,所述图像融合后一致性最优的拼接边缘路径为:基于像素均值的累计代价函数值最小的拼接边缘路径。
可选地,所述图像融合后一致性的指标为:绝对亮度差值或者归一化的正交相关系数。
可选地,所述图像融合操作包括:仅在拼接边缘两侧预设距离的范围内进行图像融合操作。
本发明实施例提供一种图像匹配装置,包括:图像分块单元,适于对待检测的图像进行分块,获取M×N个图像分块,其中M、N为自然数;特征点提取单元,适于针对每个图像分块,求取Top N个特征点,其中
Figure BDA0002183077980000031
T为待检测图像对应的特征点的总个数;特征点匹配单元,适于针对每个所求取的特征点对应的描述子,依次与其他待检测的图像中的其他特征点对应的描述子进行一一配对,获取互相匹配的特征点集合;外点去除单元,适于针对互相匹配的特征点集合,基于运动的一致性计算匹配外点和匹配内点,并剔除误匹配形成的匹配外点,保留匹配内点对应的图像分块,所述匹配内点对应的图像分块即为匹配的图像分块;单应矩阵求解单元,适于基于匹配内点对应的图像分块,求解单应矩阵。
可选地,所述特征点匹配单元适于针对每个图像分块,基于特征点算法求取Top N个特征点。
可选地,所述其他特征点为:其他待检测的图像中部分区域的特征点。
可选地,所述部分区域在其他待检测的图像中的相对位置与所求取的特征点及其相邻的特征点在其对应的图像中的相对位置一致。
可选地,所述描述子为:二元鲁棒独立基本特征描述子。
可选地,所述外点去除单元包括:第一获取子单元,适于获取相互匹配的获取特征点pa和pb,其中pa位于图像分块i,pa位于图像分块k;统计子单元,适于统计图像分块i中与图像分块k中互相匹配的特征点的总个数,记为
Figure BDA0002183077980000041
选择子单元,适于选取与图像分块i中的特征点互相匹配的特征点总个数最多的图像分块j,其中
Figure BDA0002183077980000042
第一计算子单元,适于计算图像分块i周围预设区域内的图像分块中与图像分块j周围预设区域内的图像分块中互相匹配的特征点总个数,记为
Figure BDA0002183077980000043
其中m为预设区域内包含的图像分块总个数;标记子单元,适于判断Si,j是否大于预设的阈值τ,并在Si,j>τ时,将
Figure BDA0002183077980000044
记为匹配内点,否则记为匹配外点。
可选地,所述单应矩阵求解单元,适于基于匹配内点对应的图像分块,采用随机抽样一致算法求解单应矩阵。
可选地,所述单应矩阵求解单元包括:第二计算子单元,适于基于匹配内点对应的图像分块,利用随机抽样一致算法计算单应矩阵的初始解;第二获取子单元,适于基于单应矩阵的初始解,利用迭代训练算法搜索获取单应矩阵的最优解。
可选地,所述迭代训练算法包括:莱文贝格-马夸特算法或者高斯-牛顿算法。
本发明实施例提供一种图像拼接装置,包括:第一获取单元,适于采用上述任一种图像匹配方法,获取匹配的图像分块以及前后两个图像分块的相对位置;第二获取单元,适于针对匹配的图像分块以及前后两个图像分块的相对位置,通过迭代算法搜索获取图像融合后一致性最优的拼接边缘路径;融合单元,适于基于所获取的拼接边缘路径,进行图像融合操作。
可选地,所述迭代算法为动态规划中的回溯算法。
可选地,所述图像融合后一致性的指标为:基于像素均值的代价函数,所述图像融合后一致性最优的拼接边缘路径为:基于像素均值的累计代价函数值最小的拼接边缘路径。
可选地,所述图像融合后一致性的指标为:绝对亮度差值或者归一化的正交相关系数。
可选地,所述图像融合操作包括:仅在拼接边缘两侧预设距离的范围内进行图像融合操作。
本发明实施例提供一种计算机可读存储介质,其上存储有计算机指令,所述计算机指令运行时执行上述任一种图像匹配方法的步骤。
本发明实施例提供一种计算机可读存储介质,其上存储有计算机指令,所述计算机指令运行时执行上述任一种图像拼接方法的步骤。
本发明实施例提供一种图像匹配系统,包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的计算机指令,所述处理器运行所述计算机指令时执行上述任一种图像匹配方法的步骤。
本发明实施例提供一种图像拼接系统,包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的计算机指令,所述处理器运行所述计算机指令时执行上述任一种图像拼接方法的步骤。
与现有技术相比,本发明实施例的技术方案具有以下有益效果:
本发明实时例通过对待检测的图像进行分块,然后基于图像分块,进行特征点求取、特征点匹配、外点剔除和单应矩阵求解,由于基于图像分块的处理远小于基于整个图像的处理,故可以在不影响匹配性能的基础上,有效降低特征匹配的计算复杂度,处理速度快,支持实时处理拍摄图像。
进一步地,对于相对位移或者变化很小的相邻图像,针对每个特征点对应的描述子,仅与其他待检测的图像中预设区域内的特征点对应的描述子进行一一配对,可以在不影响匹配性能的基础上,进一步降低计算量,加快处理速度。
进一步地,基于拼接后的融合一致性最优的拼接边缘路径进行拼接,可以平滑图像的边缘部分,避免边缘断裂的情况发生。
附图说明
图1是本发明实施例提供的一种图像匹配方法的详细流程图;
图2是本发明实施例提供的一种特征点和部分区域在图像分块中的位置示意图;
图3是本发明实施例提供的一种计算匹配内点和匹配外点的方法的详细流程图;
图4是本发明实施例提供的一种图像分块的位置关系示意图;
图5是本发明实施例提供的一种图像拼接方法的详细流程图;
图6是本发明实施例提供的一种重叠图像的局部示意图;
图7是本发明实施例提供的一种拼接效果的示意图;
图8是本发明实施例提供的一种图像匹配装置的结构示意图;
图9是本发明实施例提供的一种图像拼接装置的结构示意图。
具体实施方式
在目前的产品方案中,基于模板匹配的算法,一方面需要进行大量的像素运算,运算量很大,对于手机等移动设备的内存访问也提出较高需求,另一方面,容易落入局部最小值中,使最终匹配结果较差。基于特征的匹配算法,大多数是为拼接普通照片而设计,即对同一场景,用相机进行拍照,然后后期进行拼接操作,在实际应用中,为了满足不同光照,旋转,尺度以及较小的重叠区域等一系列问题,虽然性能较优,但是计算复杂度非常高。
本发明实时例通过对待检测的图像进行分块,然后基于图像分块,进行特征点求取、特征点匹配、外点剔除和单应矩阵求解,由于基于图像分块的处理远小于基于整个图像的处理,故可以在不影响匹配性能的基础上,有效降低特征匹配的计算复杂度,处理速度快,支持实时处理拍摄图像。
为使本发明的上述目的、特征和有益效果能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。
参见图1,本发明实施例提供了一种图像匹配方法,所述方法可以包括如下步骤:
步骤S101,对待检测的图像进行分块,获取M×N个图像分块,其中M、N为自然数。
在具体实施中,为了满足不同光照,旋转,尺度以及较小的重叠区域等一系列问题,导致基于特征的匹配算法计算复杂度非常高,故本发明实施例通过对待检测的图像进行分块,然后进行后续处理,由于基于图像分块的处理远小于基于整个图像的处理,故可以在不影响匹配性能的基础上,有效降低特征匹配的计算复杂度,处理速度快,支持实时处理拍摄图像。
步骤S102,针对每个图像分块,求取Top N个特征点,其中
Figure BDA0002183077980000071
T为待检测图像对应的特征点的总个数。
在具体实施中,对于特征检测的效果而言,特征点的分布及其重要。过于集中的特征点分布,容易带来后续单应矩阵求解的病态解,使匹配有较大误差。虽然加速分段测试提取特征(Features from Accelerated Segment Test,FAST)算法中有局部非最大值抑制(Non-Maximum Suppression)来去除连续的特征点,但是仍然不能解决特征点在图像中某一区域分布过于集中的问题。针对上述问题,可以针对每个图像分块,均提取固定数量的特征点,使得特征点在整幅图像中均匀分布,从而避免特征点过于集中导致的后续单应矩阵求解的病态解带来的匹配误差。
在具体实施中,可以基于特征点算法提取Top N个特征点。
在具体实施中,所述特征点算法可以为哈里斯(Harris)算法、尺度不变特征转换(Scale-invariant feature transform,SIFT)算法、加速鲁棒特征(Speeded Up RobustFeatures,SURF)算法和FAST算法中的任意一种。
在具体实施中,对于连续拍摄的全景拼接图像,一般而言,具有如下几个特点:
1)、拍摄都是的自然图像,每幅图像都能提取特征点。
2)、相邻图像间的尺度基本一致。
3)、相邻图像间的光照条件基本一致。
4)、相邻图像间的相对位移较小。
5)、相邻图像中图像的局部位移较小。
基于上述特点,在具体实施中,由于拍摄的都是自然图像,相邻图像间的尺寸和光照基本一致,可以优先选择运算量小的特征点算法,例如FAST算法。
步骤S103,针对每个所求取的特征点对应的描述子,依次与其他待检测的图像中的其他特征点对应的描述子进行一一配对,获取互相匹配的特征点集合。
在具体实施中,所述其他待检测的图像指与当前正在处理(图像分块、求取特征点)的图像不同的其他待检测的图像,通过当前图像中的特征点对应的描述子,与其他待检测的图像中的特征点对应的描述子进行一一配对,可以获取互相匹配的图像。
在具体实施中,可以针对每个所求取的特征点对应的描述子,基于暴力(BruteForce,BF)算法,依次与其他待检测的图像中的其他特征点对应的描述子进行一一配对,获取互相匹配的特征点集合。
在具体实施中,描述子是对特征点周围区域的一种描述,针对手机平台,可以选择二元鲁棒独立基本特征(Binary Robust Independent Elementary Features,BRIEF)快速描述子。
在具体实施中,由于相邻图像之间的相对位移较小,为了降低计算复杂度,针对每个所求取的特征点对应的描述子,可以仅选择与其他待检测的图像中部分区域内的其他特征点对应的描述子进行一一配对,而不需要与其他待检测的图像中的所有其他特征点对应的描述子进行一一配对。
在本发明一实施例中,所述部分区域在其他待检测的图像中的相对位置与所求取的特征点及其相邻的特征点在其对应的图像中的相对位置一致.
在本发明一实施例中,提供了一种特征点和部分区域在图像分块中的位置示意图,如图2所示。
参见图2,所求取的特征点为211,对应图像分块21,部分区域为221,对应图像分块22,图像分块21和图像分块22属于不同的相邻图像。部分区域221在图像分块22中的相对位置与特征点211及其相邻3×3区域内的特征点在图像分块21中的相对位置一致。
在具体实施中,相邻3×3区域也可以为相邻2×2区域,或者为相邻4×4区域,不同的相邻区域对应不同的部分区域大小。
在具体实施中,由于相邻图像之间的相对位移较小,故为了降低复杂度,当判断图像分块21中的特征点211对应的描述子与图像分块22中的特征点对应的描述子是否匹配时,可以仅考虑部分区域221内的特征点,而不需要考虑整个图像分块22中的所有特征点。
步骤S104,针对互相匹配的特征点集合,基于运动的一致性计算匹配外点和匹配内点,并剔除误匹配形成的匹配外点,保留匹配内点对应的图像分块,所述匹配内点对应的图像分块即为匹配的图像分块。
在具体实施中,由于特征匹配的过程中存在误匹配形成的外点(outliers),需要进行剔除。又由于相邻图像中图像的局部位移较小,故可以基于运动的一致性计算匹配外点和匹配内点。
本发明实施例提供了一种计算匹配外点和匹配内点的方法,如图3所示。
参见图3,基于运动的一致性计算匹配外点和匹配内点的方法可以包括如下步骤:
步骤S301,获取相互匹配的特征点pa和pb,其中pa位于图像分块i,pb位于图像分块k。
步骤S302,统计图像分块i中与图像分块k中互相匹配的特征点的总个数,记为
Figure BDA0002183077980000091
步骤S303,选取与图像分块i中的特征点互相匹配的特征点总个数最多的图像分块j,其中
Figure BDA0002183077980000092
步骤S304,计算图像分块i周围预设区域内的图像分块中与图像分块j周围预设区域内的图像分块中互相匹配的特征点总个数,记为
Figure BDA0002183077980000101
其中m为预设区域内包含的图像分块总个数。
在本发明一实施例中,提供了一种图像分块的位置关系示意图,如图4所示。
参见图4,预设区域为图像分块周围3×3区域,对于图像分块i5和图像分块j5而言,需要计算图像分块i1~i9像和图像分块j1~j9中互相匹配的特征点总个数。
在具体实施中,预设区域还可以为周围2×2区域,或者为周围4×4区域,图4所示的实施例并不构成对本发明保护范围的限制。
步骤S305,判断Si,j是否大于预设的阈值τ,当Si,j>τ时,执行步骤S306,否则执行步骤S307。
步骤S306,将
Figure BDA0002183077980000102
记为匹配内点。
步骤S307,将
Figure BDA0002183077980000103
记为匹配外点。
步骤S105,基于匹配内点对应的图像分块,求解单应矩阵,获取前后两个图像分块的相对位置。
在具体实施中,可以采用随机抽样一致(Random Sample Consensus,RANSAC)算法求解单应矩阵。
在具体实施中,可以首先利用RANSAC算法计算单应矩阵的初始解,然后利用迭代训练算法获取单应矩阵的最优解。
在本发明一实施例中,所述迭代训练算法可以为莱文贝格-马夸特算法(Levenberg Marquardt Algorithm),也可以为高斯-牛顿算法(Gauss-NewtonAlgorithm)。
应用上述方法,通过对待检测的图像进行分块,然后基于图像分块,进行特征点求取、特征点匹配、外点剔除和单应矩阵求解,由于基于图像分块的处理远小于基于整个图像的处理,故可以在不影响匹配性能的基础上,有效降低特征匹配的计算复杂度,处理速度快,支持实时处理拍摄图像。
为使本领域技术人员更好地理解和实施本发明,本发明实施例提供了一种图像拼接方法,如图5所示。
参见图5,所述图像拼接方法可以包括如下步骤:
步骤S501,采用上述任一种图像匹配方法,获取匹配的图像分块以及前后两个图像分块的相对位置。
步骤S502,针对匹配的图像分块以及前后两个图像分块的相对位置,通过迭代算法搜索获取图像融合后一致性最优的拼接边缘路径。
在具体实施中,当图像中存在目标移动、或者图像匹配不准确时,直接进行图像融合将会产生伪影效果(Ghosting Artifacts),故在图像融合前,可以基于迭代算法在重叠图像中寻找最优的拼接边缘,然后基于最优的拼接边缘进行图像融合。
在具体实施中,为了优化拼接边缘,避免产生边缘断裂,可以通过迭代算法搜索获取图像融合后一致性最优的拼接边缘路径。
在本发明一实施例中,所述迭代算法为动态规划中的回溯算法。
在具体实施中,所述图像融合后一致性的指标可以为基于像素均值的代价函数,当所述图像融合后一致性的指标为基于像素均值的代价函数时,所述图像融合后一致性最优的拼接边缘路径为:基于像素均值的累计代价函数值最小的拼接边缘路径。
在具体实施中,所述图像融合后一致性的指标还可以使用动态规划中的其他匹配相似性测度(Similarity Measures)指标,例如绝对亮度差值(Absolute IntensityDifference,SAD)或者归一化的正交相关系数。
为使本领域技术人员更好地理解和实施本发明,本发明实施例提供了一种重叠图像的局部示意图,如图6所示。
参见图6,3个表格分别对应相互重叠的3个图像,对于图像中的像素I,其可能的拼接边缘有左、中、右三种可能,如图6中灰色方格所示,其中I(h,w)为像素I的均值,h,w为像素索引。
应用上述方法,选择基于像素均值的代价函数作为图像融合后一致性的指标,计算不同拼接边缘路径下增加的代价函数值。
对于第h行,假设在I(h,w)左边的像素属于Ii-1,I(h,w)及其往右的像素属于图像Ii,新增的边界如图6中粗线边框所示,其增加的代价函数如下:
Figure BDA0002183077980000121
Figure BDA0002183077980000122
Figure BDA0002183077980000123
其中
Figure BDA0002183077980000124
Figure BDA0002183077980000125
为重叠区域图像均值。
基于公式(1)、(2)和(3),计算累积代价函数值如下:
E(h,w)=min(E(h-1,w-1)+eL(h,w),E(h-1,w)+eU(h,w),
E(h-1,w+1)+eR(h,w)) (4)
在具体实施中,可以通过迭代算法,搜索获取累计代价函数值最小的拼接边缘路径,基于像素均值的累计代价函数值最小的拼接边缘路径,即为图像融合后一致性最优的拼接边缘路径。
步骤S503,基于所获取的拼接边缘路径,进行图像融合操作。
在具体实施中,为了进一步减少运算量,可以仅在拼接边缘两侧预设距离的范围内进行图像融合操作。
在本发明一实施例中,预设距离为d,对于行h的拼接边缘位置whs,在接近拼接边缘的融合区域,行h的输出像素Io(h,w)为:
Io(h,w)=W0Ii(h,w)+W1Ii+1(h,w),whs-d<w≤whs+d (5)
其中h,w为像素索引值,
Figure BDA0002183077980000126
和W1=1-W0分别表示像素Ii(h,w)和像素Ii+1(h,w)对应的权重值。
应用上述方案,基于拼接后的融合一致性最优的拼接边缘路径进行拼接,可以平滑图像的边缘部分,避免边缘断裂的情况发生。
为使本领域技术人员更好地理解和实施本发明,本发明实施例提供了一种利用上述任一种图像拼接方法获取最优的拼接边缘路径,然后基于最优的拼接边缘路径进行图像融合的效果图,如图7所示。
参加图7,由于选择融合一致性最优的拼接边缘路径进行拼接,故拼接后的边缘部分71比较平滑,无边缘断裂的情况发生。
为使本领域技术人员更好的理解和实施本发明,本发明实施例还提供了一种能够实现上述图像匹配方法的装置,如图8所示。
参加图8,所述图像匹配装置80包括:图像分块单元81、特征点提取单元82、特征点匹配单元83、外点去除单元84和单应矩阵求解单元85,其中:
所述图像分块单元81,适于对待检测的图像进行分块,获取M×N个图像分块,其中M、N为自然数。
所述特征点提取单元82,适于针对每个图像分块,基于特征点算法求取Top N个特征点,其中
Figure BDA0002183077980000131
T为待检测图像对应的特征点的总个数。
所述特征点匹配单元83,适于针对每个所求取的特征点对应的描述子,依次与其他待检测的图像中的其他特征点对应的描述子进行一一配对,获取互相匹配的特征点集合。
所述外点去除单元84,适于针对互相匹配的特征点集合,基于运动的一致性计算匹配外点和匹配内点,并剔除误匹配形成的匹配外点,保留匹配内点对应的图像分块,所述匹配内点对应的图像分块即为匹配的图像分块。
所述单应矩阵求解单元85,适于基于匹配内点对应的图像分块,求解单应矩阵。
在具体实施中,所述特征点算法为以下任意一种:哈里斯算法、尺度不变特征转换算法、加速鲁棒特征算法和加速分段测试提取特征算法。
在具体实施中,所述其他特征点为:其他待检测的图像中部分区域内的特征点。
在本发明一实施例中,所述部分区域在其他待检测的图像中的相对位置与所求取的特征点及其相邻的特征点在其对应的图像中的相对位置一致。
在具体实施中,所述描述子为:二元鲁棒独立基本特征描述子。
在本发明一实施例中,所述外点去除单元84包括第一获取子单元(未示出)、统计子单元(未示出)、选择子单元(未示出)、第一计算子单元(未示出)和标记子单元(未示出),其中:
所述第一获取子单元,适于获取特征点pa以及与之匹配的特征点pb,其中pa位于图像分块i,pa位于图像分块k。
所述统计子单元,适于统计图像分块i中与图像分块k中互相匹配的特征点的总个数,记为
Figure BDA0002183077980000141
所述选择子单元,适于选取与图像分块i中的特征点互相匹配的特征点总个数最多的图像分块j,其中
Figure BDA0002183077980000142
所述第一计算子单元,适于计算图像分块i周围预设区域内的图像分块中与图像分块j周围预设区域内的图像分块中互相匹配的特征点总个数,记为
Figure BDA0002183077980000143
其中m为预设区域内包含的图像分块总个数。
所述标记子单元,适于判断Si,j是否大于预设的阈值τ,并在Si,j>τ时,将
Figure BDA0002183077980000144
记为匹配内点,否则记为匹配外点。
在具体实施中,所述单应矩阵求解单元85,适于基于匹配内点对应的图像分块,采用随机抽样一致算法求解单应矩阵。
在本发明一实施例中,所述单应矩阵求解单元85包括:第二计算子单元(未示出)和第二获取子单元(未示出),其中:
所述第二计算子单元,适于基于匹配内点对应的图像分块,利用随机抽样一致算法计算单应矩阵的初始解。
所述第二获取子单元,适于基于单应矩阵的初始解,利用迭代训练算法搜索获取单应矩阵的最优解。
在具体实施中,所述迭代训练算法包括:莱文贝格-马夸特算法或者高斯-牛顿算法。
在具体实施中,所述图像匹配装置80的工作流程及原理可以参考上述实施例中提供的方法中的描述,此处不再赘述。
为使本领域技术人员更好的理解和实施本发明,本发明实施例还提供了一种能够实现上述图像拼接方法的装置,如图9所示。
参加图9,所述图像拼接装置90包括:第一获取单元91、第二获取单元93和融合单元93,其中:
所述第一获取单元91,适于采用上述任一种图像匹配方法,获取匹配的图像分块以及前后两个图像分块的相对位置。
所述第二获取单元92,适于针对匹配的图像分块以及前后两个图像分块的相对位置,通过迭代算法搜索获取图像融合后一致性最优的拼接边缘路径。
所述融合单元93,适于基于所获取的拼接边缘路径,进行图像融合操作。
在具体实施中,所述迭代算法为动态规划中的回溯算法。
在本发明一实施例中,所述图像融合后一致性的指标为:基于像素均值的代价函数,所述图像融合后一致性最优的拼接边缘路径为:基于像素均值的累计代价函数值最小的拼接边缘路径。
在本发明另一实施例中,所述图像融合后一致性的指标为:绝对亮度差值或者归一化的正交相关系数。
在具体实施中,所述图像融合操作包括:仅在拼接边缘两侧预设距离的范围内进行图像融合操作。
在具体实施中,所述图像拼接装置90的工作流程及原理可以参考上述实施例中提供的方法中的描述,此处不再赘述。
本发明实施例提供一种计算机可读存储介质,计算机可读存储介质为非易失性存储介质或非瞬态存储介质,其上存储有计算机指令,所述计算机指令运行时执行上述任一种所述图像匹配方法的步骤,此处不再赘述。
本发明实施例提供一种计算机可读存储介质,计算机可读存储介质为非易失性存储介质或非瞬态存储介质,其上存储有计算机指令,所述计算机指令运行时执行上述任一种所述图像拼接方法的步骤,此处不再赘述。
本发明实施例提供一种图像匹配系统,包括存储器和处理器,所述存储器上存储有能够在所述处理器上运行的计算机指令,所述处理器运行所述计算机指令时执行上述任一种所述图像匹配方法的步骤,此处不再赘述。
本发明实施例提供一种图像拼接系统,包括存储器和处理器,所述存储器上存储有能够在所述处理器上运行的计算机指令,所述处理器运行所述计算机指令时执行上述任一种所述图像拼接方法的步骤,此处不再赘述。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:ROM、RAM、磁盘或光盘等。
虽然本发明披露如上,但本发明并非限定于此。任何本领域技术人员,在不脱离本发明的精神和范围内,均可作各种更动与修改,因此本发明的保护范围应当以权利要求所限定的范围为准。

Claims (28)

1.一种图像匹配方法,其特征在于,包括:
对待检测的图像进行分块,获取M×N个图像分块,其中M,N为自然数;
针对每个图像分块,求取Top X个特征点,其中
Figure FDA0003208481500000011
T为待检测图像对应的特征点的总个数;
针对每个所求取的特征点对应的描述子,基于暴力算法,依次与其他待检测的图像中的其他特征点对应的描述子进行一一配对,获取互相匹配的特征点集合;所述其他特征点为:其他待检测的图像中部分区域内的特征点;
所述部分区域在其他待检测的图像中的相对位置与所求取的特征点及其相邻的特征点在其对应的图像中的相对位置一致;
针对互相匹配的特征点集合,基于运动的一致性计算匹配外点和匹配内点,并剔除误匹配形成的匹配外点,保留匹配内点对应的图像分块,所述匹配内点对应的图像分块即为匹配的图像分块;
基于匹配内点对应的图像分块,求解单应矩阵,获取前后两个图像分块的相对位置。
2.根据权利要求1所述的图像匹配方法,其特征在于,所述求取Top X个特征点包括:基于特征点算法求取Top X个特征点。
3.根据权利要求1所述的图像匹配方法,其特征在于,所述描述子为:二元鲁棒独立基本特征描述子。
4.根据权利要求1所述的图像匹配方法,其特征在于,所述针对互相匹配的特征点集合,基于运动的一致性计算匹配外点和匹配内点包括:
获取相互匹配的获取特征点pa和pb,其中pa位于图像分块i,pa位于图像分块k;
统计图像分块i中与图像分块k中互相匹配的特征点的总个数,记为
Figure FDA0003208481500000012
选取与图像分块i中的特征点互相匹配的特征点总个数最多的图像分块j,其中
Figure FDA0003208481500000013
计算图像分块i周围预设区域内的图像分块中与图像分块j周围预设区域内的图像分块中互相匹配的特征点总个数,记为
Figure FDA0003208481500000014
其中m为预设区域内包含的图像分块总个数;
判断Si,j是否大于预设的阈值τ,并在Si,j>τ时,将
Figure FDA0003208481500000021
记为匹配内点,否则记为匹配外点。
5.根据权利要求1所述的图像匹配方法,其特征在于,所述求解单应矩阵包括:
采用随机抽样一致算法求解单应矩阵。
6.根据权利要求5所述的图像匹配方法,其特征在于,所述求解单应矩阵包括:
利用随机抽样一致算法计算单应矩阵的初始解;
基于单应矩阵的初始解,利用迭代训练算法搜索获取单应矩阵的最优解。
7.根据权利要求6所述的图像匹配方法,其特征在于,所述迭代训练算法包括:莱文贝格-马夸特算法或者高斯-牛顿算法。
8.一种图像拼接方法,其特征在于,包括:
采用如权利要求1至7任一项所述的图像匹配方法,获取匹配的图像分块以及前后两个图像分块的相对位置;
针对匹配的图像分块以及前后两个图像分块的相对位置,通过迭代算法搜索获取图像融合后一致性最优的拼接边缘路径;
基于所获取的拼接边缘路径,进行图像融合操作。
9.根据权利要求8所述的图像拼接方法,其特征在于,所述迭代算法为动态规划中的回溯算法。
10.根据权利要求9所述的图像拼接方法,其特征在于,所述图像融合后一致性的指标为:基于像素均值的代价函数,所述图像融合后一致性最优的拼接边缘路径为:基于像素均值的累计代价函数值最小的拼接边缘路径。
11.根据权利要求9所述的图像拼接方法,其特征在于,所述图像融合后一致性的指标为:绝对亮度差值或者归一化的正交相关系数。
12.根据权利要求8所述的图像拼接方法,其特征在于,所述图像融合操作包括:
仅在拼接边缘两侧预设距离的范围内进行图像融合操作。
13.一种图像匹配装置,其特征在于,包括:
图像分块单元,适于对待检测的图像进行分块,获取M×N个图像分块,其中M、N为自然数;
特征点提取单元,适于针对每个图像分块,求取Top X个特征点,其中
Figure FDA0003208481500000031
T为待检测图像对应的特征点的总个数;
特征点匹配单元,适于针对每个所求取的特征点对应的描述子,基于暴力算法,依次与其他待检测的图像中的其他特征点对应的描述子进行一一配对,获取互相匹配的特征点集合;所述其他特征点为:其他待检测的图像中部分区域的特征点;所述部分区域在其他待检测的图像中的相对位置与所求取的特征点及其相邻的特征点在其对应的图像中的相对位置一致;
外点去除单元,适于针对互相匹配的特征点集合,基于运动的一致性计算匹配外点和匹配内点,并剔除误匹配形成的匹配外点,保留匹配内点对应的图像分块,所述匹配内点对应的图像分块即为匹配的图像分块;
单应矩阵求解单元,适于基于匹配内点对应的图像分块,求解单应矩阵。
14.根据权利要求13所述的图像匹配装置,其特征在于,所述特征点匹配单元适于针对每个图像分块,基于特征点算法求取Top X个特征点。
15.根据权利要求13所述的图像匹配装置,其特征在于,所述描述子为:二元鲁棒独立基本特征描述子。
16.根据权利要求13所述的图像匹配装置,其特征在于,所述外点去除单元包括:
第一获取子单元,适于获取相互匹配的获取特征点pa和pb,其中pa位于图像分块i,pa位于图像分块k;
统计子单元,适于统计图像分块i中与图像分块k中互相匹配的特征点的总个数,记为
Figure FDA0003208481500000032
选择子单元,适于选取与图像分块i中的特征点互相匹配的特征点总个数最多的图像分块j,其中
Figure FDA0003208481500000041
第一计算子单元,适于计算图像分块i周围预设区域内的图像分块中与图像分块j周围预设区域内的图像分块中互相匹配的特征点总个数,记为
Figure FDA0003208481500000042
其中m为预设区域内包含的图像分块总个数;
标记子单元,适于判断Si,j是否大于预设的阈值τ,并在Si,j>τ时,将
Figure FDA0003208481500000043
记为匹配内点,否则记为匹配外点。
17.根据权利要求13所述的图像匹配装置,其特征在于,所述单应矩阵求解单元,适于基于匹配内点对应的图像分块,采用随机抽样一致算法求解单应矩阵。
18.根据权利要求17所述的图像匹配装置,其特征在于,所述单应矩阵求解单元包括:
第二计算子单元,适于基于匹配内点对应的图像分块,利用随机抽样一致算法计算单应矩阵的初始解;
第二获取子单元,适于基于单应矩阵的初始解,利用迭代训练算法搜索获取单应矩阵的最优解。
19.根据权利要求18所述的图像匹配装置,其特征在于,所述迭代训练算法包括:莱文贝格-马夸特算法或者高斯-牛顿算法。
20.一种图像拼接装置,其特征在于,包括:
第一获取单元,适于采用如权利要求1至7任一项所述的图像匹配方法,获取匹配的图像分块以及前后两个图像分块的相对位置;
第二获取单元,适于针对匹配的图像分块以及前后两个图像分块的相对位置,通过迭代算法搜索获取图像融合后一致性最优的拼接边缘路径;
融合单元,适于基于所获取的拼接边缘路径,进行图像融合操作。
21.根据权利要求20所述的图像拼接装置,其特征在于,所述迭代算法为动态规划中的回溯算法。
22.根据权利要求21所述的图像拼接装置,其特征在于,所述图像融合后一致性的指标为:基于像素均值的代价函数,所述图像融合后一致性最优的拼接边缘路径为:基于像素均值的累计代价函数值最小的拼接边缘路径。
23.根据权利要求21所述的图像拼接装置,其特征在于,所述图像融合后一致性的指标为:绝对亮度差值或者归一化的正交相关系数。
24.根据权利要求20所述的图像拼接装置,其特征在于,所述图像融合操作包括:
仅在拼接边缘两侧预设距离的范围内进行图像融合操作。
25.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时执行权利要求1至7中任一项所述方法的步骤。
26.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时执行权利要求8至12中任一项所述方法的步骤。
27.一种图像匹配系统,包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的计算机程序,其特征在于,所述处理器运行所述计算机程序时执行权利要求1至7中任一项所述方法的步骤。
28.一种图像拼接系统,包括存储器和处理器,所述存储器上存储有能够在所述处理器上运行的计算机程序,其特征在于,所述处理器运行所述计算机程序时执行权利要求8至12中任一项所述方法的步骤。
CN201910811279.4A 2017-12-22 2017-12-22 图像匹配及拼接方法、装置、系统、可读介质 Active CN110490271B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910811279.4A CN110490271B (zh) 2017-12-22 2017-12-22 图像匹配及拼接方法、装置、系统、可读介质

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201711414379.0A CN109961078B (zh) 2017-12-22 2017-12-22 图像匹配及拼接方法、装置、系统、可读介质
CN201910811279.4A CN110490271B (zh) 2017-12-22 2017-12-22 图像匹配及拼接方法、装置、系统、可读介质

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201711414379.0A Division CN109961078B (zh) 2017-12-22 2017-12-22 图像匹配及拼接方法、装置、系统、可读介质

Publications (2)

Publication Number Publication Date
CN110490271A CN110490271A (zh) 2019-11-22
CN110490271B true CN110490271B (zh) 2021-09-21

Family

ID=67020428

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201711414379.0A Active CN109961078B (zh) 2017-12-22 2017-12-22 图像匹配及拼接方法、装置、系统、可读介质
CN201910811279.4A Active CN110490271B (zh) 2017-12-22 2017-12-22 图像匹配及拼接方法、装置、系统、可读介质

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN201711414379.0A Active CN109961078B (zh) 2017-12-22 2017-12-22 图像匹配及拼接方法、装置、系统、可读介质

Country Status (1)

Country Link
CN (2) CN109961078B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111353526A (zh) * 2020-02-19 2020-06-30 上海小萌科技有限公司 一种图像匹配方法、装置以及相关设备
CN111882589A (zh) * 2020-06-23 2020-11-03 广州万维创新科技有限公司 基于图像的单目视觉slam的初始化方法
CN112258391B (zh) * 2020-10-12 2022-05-17 武汉中海庭数据技术有限公司 一种基于道路交通标线的碎片化地图拼接方法
CN112784898B (zh) * 2021-01-21 2024-01-30 大连外国语大学 基于局部相对运动一致性聚类的特征点匹配方法
CN113112531B (zh) * 2021-04-02 2024-05-07 广州图匠数据科技有限公司 一种图像匹配方法及装置
CN113298187B (zh) * 2021-06-23 2023-05-12 展讯通信(上海)有限公司 图像处理方法及装置、计算机可读存储介质
CN113487580B (zh) * 2021-07-16 2022-02-15 北京星天地信息科技有限公司 基于多边形分析的无人机影像重叠度计算方法及系统
CN113611075B (zh) * 2021-07-30 2023-01-24 东风商用车有限公司 牵引车火灾监测方法、装置、设备及可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101923703A (zh) * 2010-08-27 2010-12-22 北京工业大学 基于语义的细缝裁剪和非均匀映射相结合的图像自适应方法
CN102855649A (zh) * 2012-08-23 2013-01-02 山东电力集团公司电力科学研究院 基于orb特征点的高压杆塔高清图像全景拼接方法
CN103985133A (zh) * 2014-05-30 2014-08-13 武汉大学 基于图割能量优化的影像间最优拼接线寻找方法及系统
CN104346788A (zh) * 2013-07-29 2015-02-11 展讯通信(上海)有限公司 一种拼接图像的方法和装置
CN107145829A (zh) * 2017-04-07 2017-09-08 电子科技大学 一种融合纹理特征和尺度不变特征的掌静脉识别方法
CN107481273A (zh) * 2017-07-12 2017-12-15 南京航空航天大学 一种航天器自主导航快速图像匹配方法
CN107480727A (zh) * 2017-08-28 2017-12-15 荆门程远电子科技有限公司 一种sift和orb相结合的无人机影像快速匹配方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101923703A (zh) * 2010-08-27 2010-12-22 北京工业大学 基于语义的细缝裁剪和非均匀映射相结合的图像自适应方法
CN102855649A (zh) * 2012-08-23 2013-01-02 山东电力集团公司电力科学研究院 基于orb特征点的高压杆塔高清图像全景拼接方法
CN104346788A (zh) * 2013-07-29 2015-02-11 展讯通信(上海)有限公司 一种拼接图像的方法和装置
CN103985133A (zh) * 2014-05-30 2014-08-13 武汉大学 基于图割能量优化的影像间最优拼接线寻找方法及系统
CN107145829A (zh) * 2017-04-07 2017-09-08 电子科技大学 一种融合纹理特征和尺度不变特征的掌静脉识别方法
CN107481273A (zh) * 2017-07-12 2017-12-15 南京航空航天大学 一种航天器自主导航快速图像匹配方法
CN107480727A (zh) * 2017-08-28 2017-12-15 荆门程远电子科技有限公司 一种sift和orb相结合的无人机影像快速匹配方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
GMS: Grid-based Motion Statistics for Fast, Ultra-robust Feature Correspondence;JiaWang Bian et al.;《IEEE Xplore》;20171109;第4181-4186页 *

Also Published As

Publication number Publication date
CN110490271A (zh) 2019-11-22
CN109961078A (zh) 2019-07-02
CN109961078B (zh) 2021-09-21

Similar Documents

Publication Publication Date Title
CN110490271B (zh) 图像匹配及拼接方法、装置、系统、可读介质
US11361459B2 (en) Method, device and non-transitory computer storage medium for processing image
US10284789B2 (en) Dynamic generation of image of a scene based on removal of undesired object present in the scene
CN106899781B (zh) 一种图像处理方法及电子设备
US20160301868A1 (en) Automated generation of panning shots
US20160323505A1 (en) Photographing processing method, device and computer storage medium
CN111915483B (zh) 图像拼接方法、装置、计算机设备和存储介质
US20210099646A1 (en) Method and Apparatus for Detecting Subject, Electronic Device, and Computer Readable Storage Medium
US8532337B2 (en) Object tracking method
JP2016521892A5 (zh)
CN107346414B (zh) 行人属性识别方法和装置
JP2010045613A (ja) 画像識別方法および撮像装置
CN105469375A (zh) 处理高动态范围全景图的方法和装置
CN110505398B (zh) 一种图像处理方法、装置、电子设备及存储介质
CN109712177A (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
US20220358619A1 (en) Automatic dolly zoom image processing device
US20190362177A1 (en) Systems and methods for identifying salient images
CN110909750A (zh) 图像差异检测方法及装置、存储介质、终端
CN109308704B (zh) 背景剔除方法、装置、计算机设备及存储介质
CN109600667B (zh) 一种基于网格与帧分组的视频重定向的方法
CN110120012A (zh) 基于双目摄像头的同步关键帧提取的视频拼接方法
CN110266926A (zh) 图像处理方法、装置、移动终端以及存储介质
CN113298187A (zh) 图像处理方法及装置、计算机可读存储介质
CN109598675B (zh) 多重复纹理图像的拼接方法
CN117114997A (zh) 基于缝合线搜索算法的图像拼接方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant