CN112464952A - 一种图像对齐方法以及图像匹配识别方法 - Google Patents
一种图像对齐方法以及图像匹配识别方法 Download PDFInfo
- Publication number
- CN112464952A CN112464952A CN202011342626.2A CN202011342626A CN112464952A CN 112464952 A CN112464952 A CN 112464952A CN 202011342626 A CN202011342626 A CN 202011342626A CN 112464952 A CN112464952 A CN 112464952A
- Authority
- CN
- China
- Prior art keywords
- image
- key point
- point set
- tested
- key
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000013135 deep learning Methods 0.000 claims abstract description 37
- 238000010586 diagram Methods 0.000 claims description 26
- 238000013507 mapping Methods 0.000 claims description 19
- 239000011159 matrix material Substances 0.000 claims description 15
- 238000000605 extraction Methods 0.000 claims description 14
- 238000012549 training Methods 0.000 claims description 14
- 238000012360 testing method Methods 0.000 claims description 12
- 239000000284 extract Substances 0.000 claims description 8
- 230000009466 transformation Effects 0.000 claims description 5
- 238000005070 sampling Methods 0.000 claims description 2
- 238000007689 inspection Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 238000001514 detection method Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 5
- 230000004927 fusion Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012512 characterization method Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Mathematical Physics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例提供一种图像对齐以及图像匹配识别方法，所述图像对齐方法包括：根据深度学习网络分别提取待测试图像和模板图片上的关键点集合；根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二键点进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作。本申请的一些实施例通过深度学习网络来获取关键点集合提升了图像对齐的精度。
Description
技术领域
本申请涉及图像识别领域，具体而言本申请实施例涉及一种图像对齐方法以及图像匹配识别方法。
背景技术
在实际工业质检中，图像对齐技术有着重要的应用。图像对齐是后续进行图像匹配识别的基础。工业质检场景中，其任务目标是检测待检测样品是否有瑕疵。在实际检测识别中，往往存在模板图片，但产线在运动过程中，待检测产品往往会发生一定的旋转和偏移，因此对于不同区域瑕疵的判定，首先需要做的是将待检测图像与模板图片对齐，进而完成后续的结果判定。
现有的技术在进行图像对齐时一般采用的方法为提取两张图像的特征关键点与特征描述子，然后通过匹配算法寻找匹配度高的特征点进行变换从而实现图像对齐。在特征关键点提取时，往往采用SIFT、SURF和ORB等算法。
发明内容
本申请实施例的目的在于提供一种图像对齐方法以及图像匹配识别方法，本申请的实施例通过引入基于深度学习的关键点检测技术，替代了相关技术中对特征点提取的算法，从而使得图像对齐速度有显著提升；此外，由于基于深度学习的关键点检测技术在人工标注的特整点上进行训练，因此其特征点比较稳定，可以有效提升图像对齐的精度。
第一方面，本申请的一些实施例提供一种图像对齐方法，所述图像对齐方法包括：根据深度学习网络分别提取待测试图像和模板图片上的关键点集合；根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作。
本申请的一些实施例通过深度学习网络来获取关键点集合提升了图像对齐的精度。
在一些实施例中，所述深度学习网络是通过如下方式训练得到的：将采集图像输入待训练的深度学习网络；将所述采集图像对应的热力图作为真值图并采用人工标注的图像训练HRNet网络，得到所述采集图像与特征点对应热力图的映射关系。
本申请的一些实施例通过人工数据标注和网络模型训练可以提升关键点提取的准确性。
在一些实施例中，所述根据深度学习网络分别提取待测试图像和模板图片上的关键点，包括：将所述待测试图像输入训练完成的HRNet网络，根据所述映射关系确定所述待测试图像上的所述第一关键点集合；将所述模板图片输入训练完成的HRNet网络，根据所述映射关系确定所述模板图片上的所述第二关键点集合。
本申请的一些实施例采用训练好的HRNet网络来提取待测试图像和模板图片上的关键点，提升了关键点提取的准确性。
在一些实施例中，所述根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，包括：去除所述第一关键点集合中的至少一个关键点，其中，所述第二关键点集合中不存在与所述至少一个关键点所在位置对应的关键点。例如，通过RANSAC随机一致性算法剔除所述无匹配关键点。
本申请的一些实施例通过去除位置不匹配的关键点，进而利用位置匹配的关键点对完成模板图片和待测试图像的对齐，提升了图像对齐的精度。
在一些实施例中，所述根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作，包括：根据所述剩余关键点的对应关系计算所述待测试图像和所述模板图片的单应矩阵，其中，所述单应矩阵用于表征所述待测试图像和所述模板图片之间对应的变换关系；根据所述单应矩阵将所述待测试图像映射到所述模板图片，从而实现所述待测试图像与所述模板图片的对齐。
本申请的一些实施例通过单应矩阵来对齐所述待测试图像和模板图片，提升了图像对齐的精度。
在一些实施例中，所述深度学习网络包括主网络和多个特征图子网络，其中，所述主网络的分辨率大于所述特征图子网络的分辨率，所述多个特征图子网络逐渐并入所述主网络。
本申请的一些实施例在网络特征提取过程中，在并行的多个分辨率较低的特征图子网络上通过信息的融合来实现多尺度特征图融合，然后通过主网络输出的高分辨率表征来生成关键点的热力图，提升了根据热力图获取的关键点的准确性。
第二方面，本申请的一些实施例提供一种图像匹配识别方法，所述图像匹配识别方法包括：根据深度学习网络分别提取待测试图像和模板图片上的关键点；根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作，得到对齐测试图像；根据所述对齐测试图像进行图像识别。
在一些实施例中，所述深度学习网络包括主网络和多个特征图子网络，其中，所述主网络的分辨率大于所述特征图子网络的分辨率，所述多个特征图子网络逐渐并入所述主网络。
第三方面，本申请的一些实施例提供一种图像对齐装置，所述图像对齐装置包括：关键点提取模块，被配置为根据深度学习网络分别提取待测试图像和模板图片上的关键点集合；匹配模块，被配置为根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；对齐模块，被配置为根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作。
第四方面，本申请的一些实施例提供一种图像匹配识别装置，所述图像匹配识别装置包括：关键点提取模块，被配置为根据深度学习网络分别提取待测试图像和模板图片上的关键点；匹配模块，被配置为根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；对齐模块，被配置为根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作，得到对齐测试图像；识别模块，被配置为根据所述对齐测试图像进行图像识别。
附图说明
为了更清楚地说明本申请实施例的技术方案，下面将对本申请实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的图像对齐方法的流程图之一；
图2为本申请实施例提供的映射关系获取的流程图；
图3为本申请实施例提供的图像对齐方法的流程图之二；
图4为本申请实施例提供的图像对齐装置的组成框图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行描述。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本申请的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
正如背景技术所陈述的，相关技术的图像对齐技术在特征点提取这一步骤中，采用的算子提取的特征点不够稳定而且易引入一些错误的点，从而导致待测试图像无法与模板图片对齐；相关技术在图像对齐时采用的SIFT等特征点提取算法非常耗时，无法满足实际工业质检产线对于检测速度的要求。
与相关技术不同的是，本申请实施例提供了一种基于关键点检测技术的图像对齐方法，本申请的实施例基于深度学习网络来提取图像上的关键点来进行待测试图像与模板图片的对齐。也就是说，本申请的实施例通过深度学习网络提取待测试图像的关键点，然后通过与模板图片的关键点进行匹配从而实现图像的对齐操作。本申请的实施例通过引入基于深度学习的关键点检测技术，替代了相关技术中对特征点提取的算法，从而使得图像对齐速度有显著提升；此外，由于本申请一些实施例的基于深度学习的关键点检测技术在指定人工标注的特征点上进行训练得到的，因此其特征点比较稳定，可以有效提升图像对齐的精度。
下面简要阐述本申请一些实施例的深度学习网络的训练过程。
在获取工业质检场景的数据(训练用的采集图像)后，首先选取图像中特征较为显著的点作为关键点(例如，图像中多边形的角、点，或者与图像背景差异较大的区域的特征点)进行人工标注。然后根据人工标注的关键点生成其对应的热力图heatmap。由于相关技术的基于关键点检测的技术大多应用于人体姿态估计，通过检测人体的关键点实现。因此本申请的一些实施例采用在人体关键点训练好的模型上进行微调的方式(微调即导入原始人体关键点训练好的模型，即将其模型的参数作为工业质检场景下模型训练网络的初始化参数，然后在保持网络结构一致的情况下，对工业质检场景下的数据进行训练)，网络模型采用HRNet(High-Resolution Net)。也就是说，在本申请的一些实施例中，所述深度学习网络是通过如下方式训练得到的：将采集图像输入待训练的深度学习网络；将所述采集图像对应的热力图作为真值图并采用人工标注的图像训练HRNet网络，得到所述采集图像与特征点对应热力图的映射关系(此处映射关系即通过神经网络学习原图像与热力图之间的对应关系)。需要说明的是，微调训练好的人体关键点模型即导入原始人体关键点训练好的模型，并将其模型的参数(即神经网络每一层的权重和偏置项)作为工业质检场景下模型训练网络的初始化参数，然后在保持网络结构一致的情况下，对工业质检场景下的采集的图片数据进行训练。
HRNet(High-Resolution Net)网络在特征提取时，其主网络始终保持高分辨率，该设计可以使得预测的热力图heatmap在空间上更为精确。主网络的输入为工业质检场景下的原始图像数据，输出是其关键点对应的热力图。主网络一直维持了输入图像的高分辨率，能够在特征提取过程中维护高分辨率的表征，在一些实施例中其具体网络结构是通过全卷积实现的。
此外，本申请的一些实施例中在主网络中逐渐并行加入低分辨率的特征图子网络，不同网络可以实现一个多尺度的融合，从而通过低分辨率特征图有效提升高分辨率特征图的表征效果。将工业质检采集图像(此处包括工业质检场景中所有有对齐需求的图像，例如笔记本外壳图像、手机质检等)作为输入数据，将其对应的热力图heatmap作为真值图，通过训练HRNet学习输入数据到其特征点对应热力图heatmap的映射关系，从而获取输入图像的关键点。作为一个示例，低分辨率的特征图子网络为全卷积网络，其处理过程中特征图的分辨率分别设定为主网络的1/2或1/4，并将这些低分辨率子网络分支并行连接。在网络特征提取过程中，将并行的多个分辨率子网络上通过信息的融合来实现多尺度特征图融合，然后通过主网络输出的高分辨率表征来生成关键点的热力图。
请参看图1，图1为本申请一些实施例提供的图像对齐方法。如图1所示，本申请实施例的图像对齐方法包括：S101，根据深度学习网络分别提取待测试图像和模板图片上的关键点集合；S102，根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；S103根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作。本申请的一些实施例通过深度学习网络来获取关键点集合提升了图像对齐的精度。
需要说明的是，关键点集合至少包括两个关键点，第一关键点集合至少包括一个关键点，第二关键点集合也至少包括一个关键点。
下面示例性阐述上述S101。
在本申请的一些实施例中，S101可以包括：将所述待测试图像输入训练完成的HRNet网络，根据所述映射关系确定所述待测试图像上的所述第一关键点集合；将所述模板图片输入训练完成的HRNet网络，根据所述映射关系确定所述模板图片上的所述第二关键点集合。
本申请的一些实施例采用训练好的HRNet网络来提取待测试图像和模板图片上的关键点，提升了关键点提取的准确性。
下面示例性阐述上述S102。
在本申请的一些实施例中，S102包括：去除所述第一关键点集合中的至少一个关键点，其中，所述第二关键点集合中不存在与所述至少一个关键点所在位置对应的关键点。例如，通过随机一致性采样算法RANSAC随机一致性算法剔除所述无匹配关键点。
例如，S101从模板图片上提取同样固定位置(比如同样提取左角点等)的关键点，得到第一关键点集合；将输入图像(即待测试图像)上的第二关键点集合中的关键点与模板图片对应的第一关键点集合中的各关键点进行匹配。作为一个示例，利用规则的方法确定输入图像和模板图片中各关键点的对应位置关系，若确认输入图像中缺少在某个位置处某一关键点，则对应去除模板图片上这个位置处的关键点。
下面示例性阐述上述S103。
在本申请的一些实施例中，S103包括：根据所述剩余关键点的对应关系计算所述待测试图像和所述模板图片的单应矩阵，其中，所述单应矩阵用于表征所述待测试图像和所述模板图片之间对应的变换关系；根据所述单应矩阵将所述待测试图像映射到所述模板图片，从而实现所述待测试图像与所述模板图片的对齐。
例如，根据关键点集合中各关键点对应的坐标值，利用RANSAC随机一致性算法剔除无匹配点对(即在某个位置处仅待测试图像和模板图片中之一的图像上存在的关键点)，并根据剩余关键点对的对应关系计算待测试图像和模板图片的单应矩阵，该矩阵即代表两张图像之间对应的变换关系；利用单应矩阵将输入图像映射到模板图片，从而实现输入图像与模板图片的对齐。
本申请的一些实施例提供一种图像匹配识别方法，所述图像匹配识别方法包括：根据深度学习网络分别提取待测试图像和模板图片上的关键点；根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二键点进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作，得到对齐测试图像；根据所述对齐测试图像进行图像识别。
在一些实施例中，所述深度学习网络包括主网络和多个特征图子网络，其中，所述主网络的分辨率大于所述特征图子网络的分辨率，所述多个特征图子网络逐渐并入所述主网络。
如图2所示，映射关系获取过程包括：首先，加载基于人体关键点检测的预训练模型；然后输入训练集，即输入训练集中的原始图像和真值热力图；之后，利用HRNet网络训练，最后，迭代优化学习原始图像到热力图的映射关系，也就是说，通过不断的迭代优化学习原始图像到热力图的映射关系。
如图3所示的图像对齐方法包括：S101，读取待测试图像；S102，基于深度学习提取待测试图像和模板图片上的关键点；S203，完成关键点匹配(即对应图1的S102)；S204，计算单应矩阵；S205根据单应矩阵和模板图片矫正待测试图像。其中，S204和S205与图1的S103对应。
请参考图4，图4示出了本申请实施例提供的图像对齐装置，应理解，该装置与上述图1或图2方法实施例对应，能够执行上述方法实施例涉及的各个步骤，该装置的具体功能可以参见上文中的描述，为避免重复，此处适当省略详细描述。装置包括至少一个能以软件或固件的形式存储于存储器中或固化在装置的操作系统中的软件功能模块，该图像对齐装置，包括：关键点提取模块301，被配置为根据深度学习网络分别提取待测试图像和模板图片上的关键点集合；匹配模块302，被配置为根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；对齐模块303，被配置为根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的装置的具体工作过程，可以参考图1或图2中的对应过程，在此不再过多赘述。
第四方面，本申请的一些实施例提供一种图像匹配识别装置，所述图像匹配识别装置包括：关键点提取模块，被配置为根据深度学习网络分别提取待测试图像和模板图片上的关键点；匹配模块，被配置为根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；对齐模块，被配置为根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作，得到对齐测试图像；识别模块，被配置为根据所述对齐测试图像进行图像识别。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的装置的具体工作过程，可以参考前文图像匹配识别方法的对应过程，在此不再过多赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本申请的实施例而已，并不用于限制本申请的保护范围，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应所述以权利要求的保护范围为准。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (11)
1.一种图像对齐方法，其特征在于，所述图像对齐方法包括：
根据深度学习网络分别提取待测试图像和模板图片上的关键点集合；
根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；
根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作。
2.如权利要求1所述的图像对齐方法，其特征在于，所述深度学习网络是通过如下方式训练得到的：
将采集图像输入待训练的深度学习网络；
将所述采集图像对应的热力图作为真值图并采用人工标注的图像训练HRNet网络，得到所述采集图像与特征点对应热力图的映射关系。
3.如权利要求2所述的图像对齐方法，其特征在于，所述根据深度学习网络分别提取待测试图像和模板图片上的关键点集合，包括：
将所述待测试图像输入训练完成的HRNet网络，根据所述映射关系确定所述待测试图像上的所述第一关键点集合；
将所述模板图片输入训练完成的HRNet网络，根据所述映射关系确定所述模板图片上的所述第二关键点集合。
4.如权利要求1所述的图像对齐方法，其特征在于，所述根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，包括：
去除所述第一关键点集合中的至少一个关键点，其中，所述第二关键点集合中不存在与所述至少一个关键点所在位置对应的关键点。
5.如权利要求1所述的图像对齐方法，其特征在于，通过随机一致性采样算法RANSAC随机一致性算法剔除所述无匹配关键点。
6.如权利要求1所述的图像对齐方法，其特征在于，所述根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作，包括：
根据所述剩余关键点的对应关系计算所述待测试图像和所述模板图片的单应矩阵，其中，所述单应矩阵用于表征所述待测试图像和所述模板图片之间对应的变换关系；
根据所述单应矩阵将所述待测试图像映射到所述模板图片，从而实现所述待测试图像与所述模板图片的对齐。
7.如权利要求1所述的图像对齐方法，其特征在于，所述深度学习网络包括主网络和多个特征图子网络，其中，所述主网络的分辨率大于所述特征图子网络的分辨率，所述多个特征图子网络逐渐并入所述主网络。
8.一种图像匹配识别方法，其特征在于，所述图像匹配识别方法包括：
根据深度学习网络分别提取待测试图像和模板图片上的关键点；
根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；
根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片的对齐操作，得到对齐测试图像；
根据所述对齐测试图像进行图像识别。
9.如权利要求8所述的图像匹配识别方法，其特征在于，所述深度学习网络包括主网络和多个特征图子网络，其中，所述主网络的分辨率大于所述特征图子网络的分辨率，所述多个特征图子网络逐渐并入所述主网络。
10.一种图像对齐装置，其特征在于，所述图像对齐装置包括：
关键点提取模块，被配置为根据深度学习网络分别提取待测试图像和模板图片上的关键点集合；
匹配模块，被配置为根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；
对齐模块，被配置为根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片对齐操作。
11.一种图像匹配识别装置，其特征在于，所述图像匹配识别装置包括：
关键点提取模块，被配置为根据深度学习网络分别提取待测试图像和模板图片上的关键点；
匹配模块，被配置为根据位置关系对位于所述待测试图像上的第一关键点集合和位于所述模板图片上的关第二关键点集合进行匹配，以从所述关键点集合中去除无匹配关键点，其中，所述无匹配关键点为所述第一关键点集合和所述第二关键点集合中位置不能匹配的关键点，所述第一关键点集合和所述第二关键点集合组成所述关键点集合；
对齐模块，被配置为根据所述关键点集合中剩余关键点完成所述待测试图像和所述模板图片对齐操作，得到对齐测试图像；
识别模块，被配置为根据所述对齐测试图像进行图像识别。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011342626.2A CN112464952A (zh) | 2020-11-25 | 2020-11-25 | 一种图像对齐方法以及图像匹配识别方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011342626.2A CN112464952A (zh) | 2020-11-25 | 2020-11-25 | 一种图像对齐方法以及图像匹配识别方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112464952A true CN112464952A (zh) | 2021-03-09 |
Family
ID=74808305
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011342626.2A Pending CN112464952A (zh) | 2020-11-25 | 2020-11-25 | 一种图像对齐方法以及图像匹配识别方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112464952A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115661624A (zh) * | 2022-11-07 | 2023-01-31 | 浙江莲荷科技有限公司 | 一种货架的数字化方法、装置及电子设备 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110705563A (zh) * | 2019-09-07 | 2020-01-17 | 创新奇智(重庆)科技有限公司 | 一种基于深度学习的工业零件关键点检测方法 |
| CN111191708A (zh) * | 2019-12-25 | 2020-05-22 | 浙江省北大信息技术高等研究院 | 自动化样本关键点标注方法、装置及系统 |
| CN111339343A (zh) * | 2020-02-12 | 2020-06-26 | 腾讯科技（深圳）有限公司 | 图像检索方法、装置、存储介质及设备 |
| CN111667479A (zh) * | 2020-06-10 | 2020-09-15 | 创新奇智(成都)科技有限公司 | 目标图像的图案核验方法及装置、电子设备、存储介质 |
| CN111862126A (zh) * | 2020-07-09 | 2020-10-30 | 北京航空航天大学 | 深度学习与几何算法结合的非合作目标相对位姿估计方法 |
-
2020
- 2020-11-25 CN CN202011342626.2A patent/CN112464952A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110705563A (zh) * | 2019-09-07 | 2020-01-17 | 创新奇智(重庆)科技有限公司 | 一种基于深度学习的工业零件关键点检测方法 |
| CN111191708A (zh) * | 2019-12-25 | 2020-05-22 | 浙江省北大信息技术高等研究院 | 自动化样本关键点标注方法、装置及系统 |
| CN111339343A (zh) * | 2020-02-12 | 2020-06-26 | 腾讯科技（深圳）有限公司 | 图像检索方法、装置、存储介质及设备 |
| CN111667479A (zh) * | 2020-06-10 | 2020-09-15 | 创新奇智(成都)科技有限公司 | 目标图像的图案核验方法及装置、电子设备、存储介质 |
| CN111862126A (zh) * | 2020-07-09 | 2020-10-30 | 北京航空航天大学 | 深度学习与几何算法结合的非合作目标相对位姿估计方法 |
Non-Patent Citations (1)
| Title |
|---|
| KE SUN 等: "Deep High-Resolution Representation Learning for Human Pose Estimation", DEEP HIGH-RESOLUTION REPRESENTATION LEARNING FOR HUMAN POSE ESTIMATION * |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115661624A (zh) * | 2022-11-07 | 2023-01-31 | 浙江莲荷科技有限公司 | 一种货架的数字化方法、装置及电子设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111681273B (zh) | 图像分割方法、装置、电子设备及可读存储介质 | |
| CN109118473B (zh) | 基于神经网络的角点检测方法、存储介质与图像处理系统 | |
| CN109343920B (zh) | 一种图像处理方法及其装置、设备和存储介质 | |
| CN110210480B (zh) | 文字识别方法、装置、电子设备和计算机可读存储介质 | |
| CN111126494B (zh) | 基于各向异性卷积的图像分类方法及系统 | |
| CN106295710B (zh) | 基于非几何约束的图像局部特征匹配方法、装置及终端 | |
| CN113298146A (zh) | 一种基于特征检测的图像匹配方法、装置、设备及介质 | |
| Kang et al. | Noise-tolerant deep neighborhood embedding for remotely sensed images with label noise | |
| US20130124147A1 (en) | Random Sample Consensus for Groups of Data | |
| CN116797590A (zh) | 一种基于机器视觉的Mura缺陷检测方法及系统 | |
| CN113033305B (zh) | 活体检测方法、装置、终端设备和存储介质 | |
| CN112464952A (zh) | 一种图像对齐方法以及图像匹配识别方法 | |
| JP2020087404A (ja) | 視覚的関係を推論することによる工業検査シートのデジタル化 | |
| CN113034492A (zh) | 一种印刷质量缺陷检测方法、存储介质 | |
| CN110705554B (zh) | 图像的处理方法和装置 | |
| CN113704276A (zh) | 地图更新方法、装置、电子设备及计算机可读存储介质 | |
| CN113128518A (zh) | 基于孪生卷积网络和特征混合的sift误匹配检测方法 | |
| CN116597431A (zh) | 商品外包装信息检测方法、装置、电子设备和存储介质 | |
| CN116246161A (zh) | 领域知识引导下的遥感图像目标精细类型识别方法及装置 | |
| CN116958724A (zh) | 一种产品分类模型的训练方法和相关装置 | |
| Rodin et al. | Document image quality assessment via explicit blur and text size estimation | |
| JP2007140729A (ja) | 物品の位置及び姿勢を検出する方法および装置 | |
| Wang et al. | Oil tank detection via target-driven learning saliency model | |
| CN112733670A (zh) | 指纹特征提取方法、装置、电子设备及存储介质 | |
| CN115578753B (zh) | 人体关键点检测方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB02 | Change of applicant information | ||
| CB02 | Change of applicant information |
Address after: 19 / F, building B, Xingzhi science and Technology Park, 6 Xingzhi Road, Nanjing Economic and Technological Development Zone, Jiangsu Province, 210000 Applicant after: AINNOVATION (NANJING) TECHNOLOGY Co.,Ltd. Address before: Floor 19, building B, Xingzhi science and Technology Park, 6 Xingzhi Road, Jiangning Economic and Technological Development Zone, Nanjing, Jiangsu Province Applicant before: AINNOVATION (NANJING) TECHNOLOGY Co.,Ltd. |