CN114241019A - 图像配准、检测的方法及其装置、终端及存储介质 - Google Patents
图像配准、检测的方法及其装置、终端及存储介质 Download PDFInfo
- Publication number
- CN114241019A CN114241019A CN202111392082.5A CN202111392082A CN114241019A CN 114241019 A CN114241019 A CN 114241019A CN 202111392082 A CN202111392082 A CN 202111392082A CN 114241019 A CN114241019 A CN 114241019A
- Authority
- CN
- China
- Prior art keywords
- image
- car
- train
- sub
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/337—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种图像配准、检测的方法及其装置、终端及存储介质,该图像配准方法包括:获取待处理列车图像和标准图像,对所述待处理列车图像进行预处理,将所述待处理列车图像分割出多个第一子区域,在标准图像中均对应的第二子区域,并从第二子区域中匹配第一子区域对应的匹配子区域,基于所有第一子区域的中心点以及对应的匹配子区域的中心点,对待处理列车图像进行图像拉伸压缩处理;该方法能够对基于标准图像,对待处理列车图像进行配准。
Description
技术领域
本发明涉及列车检测技术领域,尤其涉及一种图像配准、检测的方法及其装置、终端及存储介质。
背景技术
在列车运行的过程中,列车有可能出现故障、损坏等,其中,有些故障、损坏会对列车的外表面(例如,静止的列车的两侧的外表面,车顶的外表面,车底的外表面等)造成破坏,同样如果列车的外表面的某些区域被破坏,尽可以确定发生了对应的故障、损坏等。因此,可以预先准备好该列车正常时的外表面的原始图像,然后,可以在铁轨的上设置有摄像头,在列车经过的时候,拍摄列车的外表面的现场图像(例如,行进中的列车的两侧面的图像,车顶的图像,车底的图像等),然后将这两个现场图像和原始图像进行对比,从而对列车进行检测(即现该列车的故障、损坏等)。
可以理解的是,由于列车是出于行进中,行进的速度等也会变化,此外,列车在行进时,有可能导致摄像头振动,从而导致所拍摄的图像有可能存在以下问题:图像的某些区域存在偏移,拉伸,压缩等问题,从而需要对所拍摄的图像进行处理,使得现场图像和原始图像配准,从而提高对列车进行检测的准确性。
发明内容
有鉴于此,本发明的主要目的在于提供一种图像配准、检测的方法及其装置、终端及存储介质。
为了实现上述发明目的之一,本发明一实施方式提供一种用于列车的图像配准的方法,包括以下步骤:获取待处理列车图像P'和标准图像P",所述待处理列车图像P'和标准图像P"均为同一车型中的同一车体的侧面图像、车顶图像或车底图像,所述车体为车头、车尾或车厢;对所述待处理列车图像P'进行预处理,使得待处理列车图像P'和标准图像P"均具有相同的长度和宽度;创立二维坐标系(X,Y),在所述二维坐标系中,所述待处理列车图像P'和标准图像P"的左上角的坐标为(0,0),左右方向为宽度方向,上下方向为长度方向,且从左至右的方向上、X值逐渐变大,且从上至下的方向上、Y 值逐渐变大;在所述待处理列车图像P'和标准图像P"中,车体的延伸方向相同,所述延伸方向为车头朝向车尾的方向;将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1’,SP’2,...,SP’N,对于每个第一子区域SPi',在标准图像P"中均对应有第二子区域SPi”,并且对于第一子区域SPi'中的任意的像素(Xi,Yi),在第二子区域SPi”中均存在像素 (Xi,AYi),(Xi,BYi),(LXi,Yi)和(RXi,Yi),其中,AYi≤Yi≤BYi, LXi≤Xi≤RXi,i=1,2,...,N;对于每个第一子区域SPi',均从对应的第二子区域SPi”匹配到对应的匹配子区域,其中,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为(CX”i,CYi”);基于所有第一子区域SPi'的中心点(CX’i,CYi')以及每个第一子区域SPi'对应的匹配子区域的中心点(CX”i,CY”i),对待处理列车图像 P'进行图像拉伸压缩处理。
作为本发明实施例的一种改进,所述“对所述待处理列车图像P'进行预处理”具体包括:获取所述车体对应的车轴的位置信息,基于所述车轴的位置信息和标准图像P"、对所述待处理列车图像P'进行校正处理。
作为本发明实施例的一种改进,所述“将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP’2,...,SP’N”具体包括:将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP’2,...,SP’N第一子区域SPi'的上侧边平行于所述待处理列车图像P' 的上侧边,第一子区域SPi'的下侧边平行于所述待处理列车图像P'的下侧边,第一子区域SPi'的左侧边平行于所述待处理列车图像P'的左侧边且位于所述左侧边的内侧,第一子区域SPi'的右侧边平行于所述待处理列车图像P'的右侧边,且位于所述左侧边的内侧;
所述“对于第一子区域SPi',在标准图像P"中均对应有第二子区域SP”i”具体包括:对于第一子区域SPi',在标准图像P"中均对应有第二子区域SPi”,其中,第二子区域SPi”上侧边平行于所述标准图像P"的上侧边、且第二子区域SPi”上侧边对应的Y值≤第一子区域SPi'上侧边对应的Y值;第二子区域SPi”下侧边平行于所述标准图像P"的下侧边、且第二子区域SPi”下侧边对应的Y值≥第一子区域SPi'下侧边对应的Y值;第二子区域 SPi”的左侧边为所述标准图像P"的左侧边,第二子区域SPi”的右侧边为所述标准图像P" 的右侧边。
作为本发明实施例的一种改进,所述“对于每个第一子区域SPi',均从对应的第二子区域SPi”匹配到对应的匹配子区域,其中,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为(CXi”,CYi”)”具体包括:对于任意的第一子区域SPi'及对应的第二子区域SPi”均进行以下处理:从第二子区域SPi”获取所有的Sum个中间图像,所述中间图像的长度等于第一子区域SPi'的长度、宽度等于第一子区域SPi'的宽度,获取第一子区域SPi'和每个中间图像的相似度值,选择最大的相似度对应的目标中间图像,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为(CX”i,CYi”)=目标中间图像的中心点。
作为本发明实施例的一种改进,所述“获取第一子区域SPi”和每个中间图像的相似度值”具体包括:对于每个中间图像进行以下处理:第一子区域SPi'左上角的像素的坐标为(tsxi,tsyi)、右下角的像素的坐标为(texi,teyi),所述中间图像左上角的像素的坐标为(ssx,ssy)、右下角的像素的坐标为(sex,sey);第一子区域SPi'和所述
作为本发明实施例的一种改进,所述“基于所有第一子区域SPi'的中心点,对应的匹配子区域的中心点,对待处理列车图像P'进行图像拉伸压缩处理”具体包括:当任意两个不同的第一子区域SPi'和第一子区域SP’j,第一子区域SPi'的中心点为(CX’i,CYi')、对应匹配子区域的中心点为(CX”i,CYi”),第一子区域SP’j的中心点为(CX’j,CY’j)、对应匹配子区域的中心点(CX”j,CYj”),满足CX’i<CX’j且CX”i>CX”j时,删除第一子区域SPi'的中心点(CX’i,CY’i)、对应匹配子区域的中心点(CX”i,CYi”),以及第一子区域SPj'的中心点为(CX’j,CYj')、对应匹配子区域的中心点(CX”j,CYj”);之后,基于剩余的第一子区域的中心点,对应的匹配子区域的中心点,对待处理列车图像P' 进行图像拉伸压缩处理。
作为本发明实施例的一种改进,所述“基于所有第一子区域SPi'的中心点(CXi',CYi') 以及每个第一子区域SPi'对应的匹配子区域的中心点(CX”i,CYi”),对待处理列车图像P'进行图像拉伸压缩处理”具体包括:将所述第一子区域SPi'按照Y坐标值递增的顺进行排序得到队列Q,按照队头至队尾的次序,依次从队列Q中选择未处理的第一子区域 SP',都进行以下处理:对第一子区域SP'和作为基准的匹配子区域进行刚体配准,以得到第一变形信息,以第一变形信息作为初始变形信息,对第一子区域SP'和匹配子区域进行第一非刚体配准,以得到第二变形信息,以第二变形信息作为初始变形信息,对第一子区域SP'和匹配子区域进行第二非刚体配准,以得到第三变形信息,将第三变形信息叠加到第一子区域SP'或匹配子区域上,以生成配准图像,将第一子区域SPi'替换为所述配准图像;在所有的第一子区域SP'均被处理之后,将待处理列车图像P'替换为由所有第一子区域SP'拼接得到的图像。
本发明实施例还提供了一种用于列车的图像配准的装置,包括以下模块:
图像获取模块,用于获取待处理列车图像P'和标准图像P",所述待处理列车图像P'和标准图像P"均为同一车型中的同一车体的侧面图像、车顶图像或车底图像,所述车体为车头、车尾或车厢;
预处理模块,用于对所述待处理列车图像P'进行预处理,使得待处理列车图像P'和标准图像P"均具有相同的长度和宽度;创立二维坐标系(X,Y),在所述二维坐标系中,所述待处理列车图像P'和标准图像P"的左上角的坐标为(0,0),左右方向为宽度方向,上下方向为长度方向,且从左至右的方向上、X值逐渐变大,且从上至下的方向上、Y值逐渐变大;在所述待处理列车图像P'和标准图像P"中,车体的延伸方向相同,所述延伸方向为车头朝向车尾的方向;
图像分割模块,用于将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP’2,...,SP’N,对于每个第一子区域SPi',在标准图像P"中均对应有第二子区域SPi”,并且对于第一子区域SPi'中的任意的像素(Xi,Yi),在第二子区域SPi”中均存在像素 (Xi,AYi),(Xi,BYi),(LXi,Yi)和(RXi,Yi),其中,AYi≤Yi≤BYi, LXi≤Xi≤RXi,i=1,2,...,N;
图像匹配模块,用于对于每个第一子区域SPi',均从对应的第二子区域SPi”匹配到对应的匹配子区域,其中,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为(CXi”,CYi”);
处理模块,用于基于所有第一子区域SPi'的中心点(CXi',CYi')以及每个第一子区域SPi'对应的匹配子区域的中心点(CX”i,CYi”),对待处理列车图像P'进行图像拉伸压缩处理。
本发明实施例还提供了一种终端,所述终端包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述的图像配准的方法中的步骤。
本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述的图像配准的方法中的步骤。
本发明实施例还提供了一种用于列车的检测方法,包括以下步骤:
获取列车正常时的原始全车图像,并拍摄所述列车的待处理全车图像,所述原始全车图像和待处理全车图像均为所述列车全车的侧面图像、车顶图像或车底图像;
从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像,从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像,其中,Num为自然数,carj 1比cark 1靠近车头,carj 2比cark 2靠近车头,1≤j<k≤ Num;
基于上述的图像配准的方法对第一车头图像和第二车头图像进行处理,其中,列车图像P'为第一车头图像,标准图像P"为第二车头图像;基于上述的图像配准的方法对carh 1和carh 2进行处理,其中,列车图像P'为carh 1,标准图像P"为carh 2,h=1,2,...,Num;基于上述的图像配准的方法对第一车尾图像和第二车尾图像进行处理,其中,列车图像P'为第一车尾图像,标准图像P"为第二车尾图像;
基于第一车头图像、N第一车厢图像car1 1,car2 1,...,carNum 1、第一车尾图像和原始全车图像,对所述列车进行检测。
作为本发明实施例的一种改进,所述“从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像”具体包括:对所述待处理全车图像进行累积直方图处理,之后,从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像;所述“从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像”具体包括:对所述原始全车图像进行累积直方图处理,之后,从所述原始全车图像中分割出第二车头图像、 Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像。
作为本发明实施例的一种改进,所述“从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像”具体包括:基于预训练好的U-Net神经网络,从所述待处理全车图像中分割出第一车头图像、第一车尾图像和Num+1个车体连接处图像,之后,利用Num+1个车体连接处图像从所述待处理全车图像中分割出Num个相邻车厢的第一车厢图像car1 1,car2 1,..., carNum 1;
所述“从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像”具体包括:基于所述U-Net神经网络,从所述原始全车图像中分割出第二车头图像、第二车尾图像和Num+1个车体连接处图像,之后,利用Num+1个车体连接处图像从所述原始全车图像中分割出Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2;
在所述U-Net神经网络的训练过程中,选用Adam优化方法;在所述U-Net神经网络中,损失函数为交叉熵。
作为本发明实施例的一种改进,所述“基于预训练好的U-Net神经网络,从所述待处理全车图像中分割出第一车头图像、第一车尾图像和Num+1个车体连接处图像”具体包括:基于预训练好的U-Net神经网络,从所述待处理全车图像中分割出第一车头图像、第一车尾图像和多个车体连接处图像,所述车体连接处图像的数量≥Num+1;将多个车体连接处图像按照面积从大到下进行排列,并选择排在前面的Num+1个车体连接处图像;
所述“基于所述U-Net神经网络,从所述原始全车图像中分割出第二车头图像、第二车尾图像和Num+1个车体连接处图像”具体包括:基于所述U-Net神经网络,从所述原始全车图像中分割出第二车头图像、第二车尾图像和多个车体连接处图像,所述车体连接处图像的数量≥Num+1;将多个车体连接处图像按照面积从大到下进行排列,并选择排在前面的Num+1个车体连接处图像。
本发明实施例还提供了一种用于列车的检测装置,包括以下模块:
全车图像获取模块,用于获取列车正常时的原始全车图像,并拍摄所述列车的待处理全车图像,所述原始全车图像和待处理全车图像均为所述列车全车的侧面图像、车顶图像或车底图像;
图像切割模块,用于从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像,从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像,其中,Num为自然数,carj 1比cark 1靠近车头,carj 2比cark 2靠近车头,1≤j<k≤Num;
处理模块,用于基于上述的图像配准的方法对第一车头图像和第二车头图像进行处理,其中,列车图像P'为第一车头图像,标准图像P"为第二车头图像;基于上述的图像配准的方法对carh 1和carh 2进行处理,其中,列车图像P'为carh 1,标准图像P"为 carh 2,h=1,2,...,Num;基于上述的图像配准的方法对第一车尾图像和第二车尾图像进行处理,其中,列车图像P'为第一车尾图像,标准图像P"为第二车尾图像;
检测模块,用于基于第一车头图像、N第一车厢图像car1 1,car2 1,...,carNum 1、第一车尾图像和原始全车图像,对所述列车进行检测。
本发明实施例还提供了一种终端,所述终端包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述的检测方法中的步骤。
本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述的检测方法中的步骤。
相对于现有技术,本发明的技术效果在于:本发明实施例公开了一种图像配准、检测的方法及其装置、终端及存储介质,该图像配准方法包括:获取待处理列车图像和标准图像,对所述待处理列车图像进行预处理,将所述待处理列车图像分割出多个第一子区域,在标准图像中均对应的第二子区域,并从第二子区域中匹配第一子区域对应的匹配子区域,基于所有第一子区域的中心点以及对应的匹配子区域的中心点,对待处理列车图像进行图像拉伸压缩处理;该方法能够对基于标准图像,对待处理列车图像进行配准。
附图说明
图1为本发明实施例提供的图像配准的方法的流程示意图;
图2、图3、图4、图5和图6为本发明实施例提供的图像配准的方法的原理图;
图7为本发明实施例提供的U-Net的结构图。
具体实施方式
以下将结合附图所示的实施方式对本发明进行详细描述。但该实施方式并不限制本发明,本领域的普通技术人员根据该实施方式所做出的结构、方法、或功能上的变换均包含在本发明的保护范围内。
以下描述和附图充分地示出本文的具体实施方案,以使本领域的技术人员能够实践它们。一些实施方案的部分和特征可以被包括在或替换其他实施方案的部分和特征。本文的实施方案的范围包括权利要求书的整个范围,以及权利要求书的所有可获得的等同物。本文中,术语“第一”、“第二”等仅被用来将一个元素与另一个元素区分开来,而不要求或者暗示这些元素之间存在任何实际的关系或者顺序。实际上第一元素也能够被称为第二元素,反之亦然。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的结构、装置或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种结构、装置或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的结构、装置或者设备中还存在另外的相同要素。本文中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。
本文中的术语“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本文和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本实用新型的限制。在本文的描述中,除非另有规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是机械连接或电连接,也可以是两个元件内部的连通,可以是直接相连,也可以通过中间媒介间接相连,对于本领域的普通技术人员而言,可以根据具体情况理解上述术语的具体含义。
本发明实施例一提供了一种用于列车的图像配准的方法,如图1所示,包括以下步骤:
步骤101:获取待处理列车图像P'和标准图像P",所述待处理列车图像P'和标准图像P" 均为同一车型中的同一车体的侧面图像、车顶图像或车底图像,所述车体为车头、车尾或车厢;这里,可以理解的是,列车通常是由车头、车尾和多个车厢组成,该待处理列车图像 P'和标准图像P"可以同时为车头的侧面图像,或者同时为车头的车顶图像,或者同时为车头的车底图像;也可以,该待处理列车图像P'和标准图像P"可以同时为车尾的侧面图像,或者同时为车尾的车顶图像,或者同时为车尾的车底图像;也可以,该待处理列车图像P'和标准图像P"可以同时为相同车厢的侧面图像,或者同时为相同车厢的车顶图像,或者同时为相同车厢的车底图像。
该待处理列车图像P'为在列车行进过程中,使用摄像头拍摄的,可以理解的是,该待处理列车图像P'的某些区域可能存在偏移,拉伸,压缩等问题,而其余的区域可能没有这样的问题,而该标准图像P"是该列车的标准的图像,不存在这样的问题。
该图像配准的方法的目的是让待处理列车图像P'与标准图像P"配准。
这里,在实际中,可以在铁轨的两侧边,正上方,或者两个轨道的中间部分设置有摄像头,从而可以拍摄列车的两侧面的图像,车顶的图像,车底的图像。可选的,该摄像头的类型为CCD(Charge Coupled Device,电荷耦合器件)。
步骤102:对所述待处理列车图像P'进行预处理,使得待处理列车图像P'和标准图像P" 均具有相同的长度和宽度;创立二维坐标系(X,Y),在所述二维坐标系中,所述待处理列车图像P'和标准图像P"的左上角的坐标为(0,0),左右方向为宽度方向,上下方向为长度方向,且从左至右的方向上、X值逐渐变大,且从上至下的方向上、Y值逐渐变大;在所述待处理列车图像P'和标准图像P"中,车体的延伸方向相同,所述延伸方向为车头朝向车尾的方向;这里,为了便于处理,需要首先将待处理列车图像P'和标准图像P"进行预处理,例如,将待处理列车图像P'进行拉伸或压缩,使得待处理列车图像P'和标准图像P"的长度值和宽度值都相等,然后再创建一个如图2所示的坐标系,为了便于处理,可能需要将待处理列车图像P'进行旋转等操作,使得在这两个图像中,车体是重合的;此外,在这两个图像中,需要保证车头朝向车尾的方向是一致的,例如,在标准图像P"中,该延伸方向为向量(A, B),那么,在待处理列车图像P'中,该延伸方向也为向量(A,B)。
这里,对于车体来说,其具有两个端部,其中,第一端部朝向车头,第二端部朝向车尾,于是第一端部朝向第二端部的方向即为该延伸方向。
步骤103:将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP’2,...,SP’N对于每个第一子区域SPi',在标准图像P"中均对应有第二子区域SPi”,并且对于第一子区域 SPi'中的任意的像素(Xi,Yi),在第二子区域SPi”中均存在像素(Xi,AYi),(Xi, BYi),(LXi,Yi)和(RXi,Yi),其中,AYi≤Yi≤BYi,LXi≤Xi≤RXi,i=1,2,..., N;这里,对于第一子区域SPi'中的任意的像素(Xi,Yi),在第二子区域SPi”中对应有像素(Xi,Yi),并且在第二子区域SPi”中,像素(Xi,Yi)的上、下、左、右均存在有其他的像素,即第二子区域SPi”“包含”第一子区域SPi'。
步骤104:对于每个第一子区域SPi',均从对应的第二子区域SPi”匹配到对应的匹配子区域,其中,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为(CXi”, CYi”);
步骤105:对于每个第一子区域SPi',均从对应的第二子区域SPi”匹配到对应的匹配子区域,其中,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为(CXi”, CYi”)。
这里,在该图像配准的方法中,会将待处理列车图像P'分割出若干个第一子区域,并且每个第一子区域在标准图像P"中均对应有第二子区域,然后从第二子区域中寻找与第一子区域匹配的匹配子区域,可以理解的是,如果待处理列车图像P'中存在偏移,拉伸,压缩等问题时,则会导致CXi'≠CXi”或者CYi'≠CYi”,因此,需要对第一子区域SPi'进行图像拉伸压缩处理,使得CXi'=CXi”,CYi'=CYi”。
本实施例中,如图4所示,所述“对所述待处理列车图像P'进行预处理”具体包括:获取所述车体对应的车轴的位置信息,基于所述车轴的位置信息和标准图像P"、对所述待处理列车图像P'进行校正处理。这里,当待处理列车图像P'为列车车体图像或侧面图像时,可以定位到车轴的位置,然后基于车轴的位置,对待处理列车图像P'进行校正处理(即初步校正);如果是车顶位置,可以预先得到车轴对应的车顶区域(该车顶区域位于车轴的正上方)具有何种特征,然后,可以基于该特征,对待处理列车图像P'进行校正处理(即初步校正)。
本实施例中,如图4所示,所述“将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP2',...,SPN'”具体包括:将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP2',...,SPN'第一子区域SPi'的上侧边平行于所述待处理列车图像P'的上侧边,第一子区域SPi'的下侧边平行于所述待处理列车图像P'的下侧边,第一子区域SPi'的左侧边平行于所述待处理列车图像P'的左侧边且位于所述左侧边的内侧,第一子区域SPi'的右侧边平行于所述待处理列车图像P'的右侧边,且位于所述左侧边的内侧;
所述“对于第一子区域SPi',在标准图像P"中均对应有第二子区域SPi””具体包括:对于第一子区域SPi',在标准图像P"中均对应有第二子区域SPi”,其中,第二子区域SPi”上侧边平行于所述标准图像P"的上侧边、且第二子区域SPi”上侧边对应的Y值≤第一子区域SPi'上侧边对应的Y值;第二子区域SPi”下侧边平行于所述标准图像P"的下侧边、且第二子区域SPi”下侧边对应的Y值≥第一子区域SPi'下侧边对应的Y值;第二子区域SPi”的左侧边为所述标准图像P"的左侧边,第二子区域SPi”的右侧边为所述标准图像P"的右侧边。
这里,可以理解的是,对于第一子区域SPi'和第二子区域SPi”均为一个方形区域;并且,在实际中待处理列车图像P'中的靠近左右两侧边的部分,有可能拍摄的不是车体,因此,第一子区域SPi'的左侧边位于所述左侧边的内侧,第一子区域SPi'的右侧边位于所述左侧边的内侧,从而可以有效的避开这些方形区域。
这里,假设待处理列车图像P'和标准图像P"的长度为H,宽度为W,第一子区域SPi'的左上角的像素的坐标为(tsxi,tsyi),右下角的像素的坐标为(texi,teyi),对应的第二子区域SPi”的左上角的像素的坐标为(ssxi,ssyi),右下角的像素的坐标为(sexi, seyi),具体公式如下所示:
本实施例中,所述“对于每个第一子区域SPi',均从对应的第二子区域SPi”匹配到对应的匹配子区域,其中,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为 (CXi”,CYi”)”具体包括:对于任意的第一子区域SPi'及对应的第二子区域SPi”均进行以下处理:从第二子区域SPi”获取所有的Sum个中间图像,所述中间图像的长度等于第一子区域 SPi'的长度、宽度等于第一子区域SPi'的宽度,获取第一子区域SPi'和每个中间图像的相似度值,选择最大的相似度对应的目标中间图像,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为(CXi”,CYi”)=目标中间图像的中心点。这里,从第二子区域SPi”中选择一个相似度最高的作为匹配子区域。
本实施例中,所述“获取第一子区域SPi”和每个中间图像的相似度值”具体包括:
对于每个中间图像进行以下处理:第一子区域SPi'左上角的像素的坐标为(tsxi,tsyi)、右下角的像素的坐标为(texi,teyi),所述中间图像左上角的像素的坐标为(ssx,ssy)、右下角的像素的坐标为(sex,sey);
本实施例中,所述“基于所有第一子区域SPi'的中心点,对应的匹配子区域的中心点,对待处理列车图像P'进行图像拉伸压缩处理”具体包括:
当任意两个不同的第一子区域SPi'和第一子区域SPj',第一子区域SPi'的中心点为(CXi', CYi')、对应匹配子区域的中心点为(CXi”,CYi”),第一子区域SPj'的中心点为(CXj',CYj')、对应匹配子区域的中心点(CX'j',CYj”),满足CXi'<CXj'且CXi”>CX'j'时,删除第一子区域 SPi'的中心点(CXi',CYi')、对应匹配子区域的中心点(CXi”,CYi”),以及第一子区域SPj' 的中心点为(CXj',CYj')、对应匹配子区域的中心点(CX'j',CYj”);之后,基于剩余的第一子区域的中心点,对应的匹配子区域的中心点,对待处理列车图像P'进行图像拉伸压缩处理。
本实施例中,所述“基于所有第一子区域SPi'的中心点(CXi',CYi')以及每个第一子区域SPi'对应的匹配子区域的中心点(CXi”,CYi”),对待处理列车图像P'进行图像拉伸压缩处理”具体包括:将所述第一子区域SPi'按照Y坐标值递增的顺进行排序得到队列Q,按照队头至队尾的次序,依次从队列Q中选择未处理的第一子区域SP',都进行以下处理:对第一子区域SP'和作为基准的匹配子区域进行刚体配准,以得到第一变形信息,以第一变形信息作为初始变形信息,对第一子区域SP'和匹配子区域进行第一非刚体配准,以得到第二变形信息,以第二变形信息作为初始变形信息,对第一子区域SP' 和匹配子区域进行第二非刚体配准,以得到第三变形信息,将第三变形信息叠加到第一子区域SP'或匹配子区域上,以生成配准图像,将第一子区域SPi'替换为所述配准图像;在所有的第一子区域SP'均被处理之后,将待处理列车图像P'替换为由所有第一子区域 SP'拼接得到的图像。这里,当需要拉伸图像时,可以采用线性插值法来填充新增的区域。
根据匹配中心点对,分段线性插值计算第一子区域SP'与匹配子区域坐标映射关系,生成Xmap,Ymap,设第一子区域SP'宽高分别为W,H。则Xmap为W*2大小矩阵,Ymap为H*2大小矩阵,其中Xmap第一列为1到W自然数序列及第一子区域SP'的横坐标xi,第二列为插值得到的xi’,Ymap与Xmap类似,根据此映射关系可将第一子区域SP'转到与标准图像对齐的校正图像,根据映射关系可将标准图P”的模板框,映射到待处理图P’上(如图6 中的模板区域A),如图6所示。
本发明实施例二提供了一种用于列车的图像配准的装置,包括以下模块:
图像获取模块,用于获取待处理列车图像P'和标准图像P",所述待处理列车图像P'和标准图像P"均为同一车型中的同一车体的侧面图像、车顶图像或车底图像,所述车体为车头、车尾或车厢;
预处理模块,用于对所述待处理列车图像P'进行预处理,使得待处理列车图像P'和标准图像P"均具有相同的长度和宽度;创立二维坐标系(X,Y),在所述二维坐标系中,所述待处理列车图像P'和标准图像P"的左上角的坐标为(0,0),左右方向为宽度方向,上下方向为长度方向,且从左至右的方向上、X值逐渐变大,且从上至下的方向上、Y值逐渐变大;在所述待处理列车图像P'和标准图像P"中,车体的延伸方向相同,所述延伸方向为车头朝向车尾的方向;
图像分割模块,用于将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP’2,...,SP’N,对于每个第一子区域SPi',在标准图像P"中均对应有第二子区域SPi”,并且对于第一子区域SPi'中的任意的像素(Xi,Yi),在第二子区域SPi”中均存在像素(Xi,AYi),(Xi,BYi),(LXi,Yi)和(RXi,Yi),其中,AYi≤Yi≤BYi,LXi≤Xi≤RXi, i=1,2,...,N;
图像匹配模块,用于对于每个第一子区域SPi',均从对应的第二子区域SPi”匹配到对应的匹配子区域,其中,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为 (CXi”,CYi”);
处理模块,用于基于所有第一子区域SPi'的中心点(CXi',CYi')以及每个第一子区域SPi' 对应的匹配子区域的中心点(CXi”,CYi”),对待处理列车图像P'进行图像拉伸压缩处理。
本发明实施例三提供了一种终端,所述终端包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现实施例一中图像配准的方法中的步骤。
本发明实施例四提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现实施例一中图像配准的方法中的步骤。
本发明实施例五提供了一种用于列车的检测方法,包括以下步骤:
步骤401:获取列车正常时的原始全车图像,并拍摄所述列车的待处理全车图像,所述原始全车图像和待处理全车图像均为所述列车全车的侧面图像、车顶图像或车底图像;这里,该原始全车图像为列车正常时所拍摄到的全车图像,即没有发生故障、损坏时,所拍摄到的列车的全车图像;该待处理全车图像为在列车行进过程中,使用摄像头所拍摄到的列车的全车图像,该列车有可能出现故障、损坏等;可以理解的是,该列车的“全车”包含有列车的车头、多个车厢和车尾。此外,原始全车图像和待处理全车图像可以同时为列车全车的侧面图像,可以同时为车顶图像,还可以为同时为车底图像,还可以同时包含列车全车的侧面图像、车顶图像和车底图像。
步骤402:从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像,从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像,其中,Num为自然数,carj 1比cark 1靠近车头,carj 2比cark 2靠近车头,1≤j<k≤Num;这里,由于原始全车图像和原始全车图像均是针对同一俩列车的,因此,车厢的数量相同(即为Num)。可以理解的是,如果将第一车头图像,car1 1,car2 1,...,carNum 1和第一车尾图像依次拼接起来,即为待处理全车图像;如果将第二车头图像,car1 2,car2 2,...,carNum 2和第二车尾图像依次拼接起来,即为原始全车图像。
步骤403:基于实施例一中任一项的图像配准的方法对第一车头图像和第二车头图像进行处理,其中,列车图像P'为第一车头图像,标准图像P"为第二车头图像;基于实施例一中的图像配准的方法对carh 1和carh 2进行处理,其中,列车图像P'为carh 1,标准图像P"为carh 2,h=1,2,...,Num;基于实施例一中的图像配准的方法对第一车尾图像和第二车尾图像进行处理,其中,列车图像P'为第一车尾图像,标准图像P"为第二车尾图像;
步骤404:基于第一车头图像、N第一车厢图像car1 1,car2 1,...,carNum 1、第一车尾图像和原始全车图像,对所述列车进行检测。
这里,可以理解的是,原始全车图像和待处理全车图像有可能尺寸不一样,待处理全车图像中的某些区域存在偏移、拉伸或压缩等问题;原始全车图像和待处理全车图像都会包含有列车的全车,有可能需要将其中的一个图像旋转一定的角度,才能使得这两个图像中的列车能够重合;在列车行进过程中,有可能需要转弯,从而使得某两个相邻的车厢不在同样直线上,即列车的全车呈曲线状等等。而在本实施例中检测方法中,会将该列车分割为车头、多个车厢和车尾,然后让原始全车图像和待处理全车图像中的车头图像配准,对应的车厢图像配准,车尾图像配准,从而便于利用原始全车图像和待处理全车图像、对列车进行检测。
本实施例中,所述“从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像”具体包括:对所述待处理全车图像进行累积直方图处理之后,从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像;
所述“从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像 car1 2,car2 2,...,carNum 2和第二车尾图像”具体包括:对所述原始全车图像进行累积直方图处理,之后,从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像。
这里,对该待处理全车图像和原始全车图像先进行累积直方图处理,可以理解的是,这能够极大的提高图像的对比度。
该累积直方图对应的公式为:
其中,x可以为待处理全车图像中的像素的灰度值,将每个x替换为经过上述公式处理得到x’,从而就对待处理全车图像进行了累积直方图处理。同样,x可以为原始全车图像中的像素的灰度值,将每个x替换为经过上述公式处理得到x’,从而就对原始全车图像进行了累积直方图处理。
这里,在所述原始全车图像和待处理全车图像中,灰度值≤Xlow的像素的数量之和占总数量的比值为percent_low,灰度值≤Xhigh的像素的数量之和占总数量的比值为percent_high。
本实施例中,如图7所示,所述“从所述待处理全车图像中分割出第一车头图像、Num 个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像”具体包括:基于预训练好的U-Net神经网络,从所述待处理全车图像中分割出第一车头图像、第一车尾图像和Num+1个车体连接处图像,之后,利用Num+1个车体连接处图像从所述待处理全车图像中分割出Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1;
所述“从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像 car1 2,car2 2,...,carNum 2和第二车尾图像”具体包括:基于所述U-Net神经网络,从所述原始全车图像中分割出第二车头图像、第二车尾图像和Num+1个车体连接处图像,之后,利用Num+1个车体连接处图像从所述原始全车图像中分割出Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2;
在所述U-Net神经网络的训练过程中,选用Adam优化方法;在所述U-Net神经网络中,损失函数为交叉熵。这里,列车通常包含有车头、车尾、以及车头和车尾之间串联的多个车厢,车头和车厢,车厢和车厢,车厢和车尾之间通常都会设置有连接装置,该连接装置即为车体连接处;通常,在车顶上会经常安装有空调,且车顶也通常会由多个部件拼接而成,这些特征可以即为车顶显著特征。
这里,如图5示出了该U-Net神经网络的结构图,该U-Net神经网络的输入大小可以为768 像素*128像素,
这里,在训练U-Net时,可以拍摄列车的列车图像P1(所述列车图像P1为列车的侧面图像、车顶图像或车底图像,且包含有列车的全部车厢、车头和车尾),然后再对列车图像P1进行累计直方图处理、并得到列车图像P2,之后,在列车图像P2人工标注出车头图像区域、车尾图像区域、车体连接处区域和车顶显著特征等,之后,需要对列车图像P2进行加噪处理(添加的噪声包括:椒盐噪声和高斯噪声等)、尺度变换处理和灰度变换处理等。之后在基于多个列车图像P2对U-Net神经网络进行训练,在训练时,选用Adam优化方法,损失函数为交叉熵,选用测试集Dice系数最高的模型为最佳分割模型,具体如下:
本实施例中,所述“基于预训练好的U-Net神经网络,从所述待处理全车图像中分割出第一车头图像、第一车尾图像和Num+1个车体连接处图像”具体包括:基于预训练好的U-Net 神经网络,从所述待处理全车图像中分割出第一车头图像、第一车尾图像和多个车体连接处图像,所述车体连接处图像的数量≥Num+1;将多个车体连接处图像按照面积从大到下进行排列,并选择排在前面的Num+1个车体连接处图像;
所述“基于所述U-Net神经网络,从所述原始全车图像中分割出第二车头图像、第二车尾图像和Num+1个车体连接处图像”具体包括:基于所述U-Net神经网络,从所述原始全车图像中分割出第二车头图像、第二车尾图像和多个车体连接处图像,所述车体连接处图像的数量≥Num+1;将多个车体连接处图像按照面积从大到下进行排列,并选择排在前面的Num+1个车体连接处图像。
在实际中,发明人发现,U-Net神经网络有可能出错,从而将某些列车的外表面的某些区域误判为车体连接处,但这些区域的面积通常都比较小,于是,选择Num+1个面积最大的最为车体连接处图像。
这里,在实际中,待处理全车图像和原始全车图像有可能比较大,不便于计算机处理,可以将待处理全车图像和原始全车图像首先分割为Num1*Num2个小图片,Num1和Num2均为自然数,然后,输入到U-Net神经网络中,由U-Net神经网络拼接处完整图像,可以理解的是,在训练的时候,也需要对训练图像也进行相同的处理。
这里,在实际中,需要编写程序来实现该检测方法,可以采用OpenMP技术,其中,OpenMP是由OpenMP Architecture Review Board牵头提出的,用于共享内存并行系统的多处理器程序设计的一套指导性编译处理方案。
本发明实施例六提供了一种用于列车的检测装置,包括以下模块:
全车图像获取模块,用于获取列车正常时的原始全车图像,并拍摄所述列车的待处理全车图像,所述原始全车图像和待处理全车图像均为所述列车全车的侧面图像、车顶图像或车底图像;
图像切割模块,用于从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像,从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像,其中,Num为自然数,carj 1比cark 1靠近车头,carj 2比cark 2靠近车头,1 ≤j<k≤Num;
处理模块,用于基于实施例一中的图像配准的方法对第一车头图像和第二车头图像进行处理,其中,列车图像P'为第一车头图像,标准图像P"为第二车头图像;基于实施例一中的图像配准的方法对carh 1和carh 2进行处理,其中,列车图像P'为carh 1,标准图像P" 为carh 2,h=1,2,...,Num;基于实施例一中的图像配准的方法对第一车尾图像和第二车尾图像进行处理,其中,列车图像P'为第一车尾图像,标准图像P"为第二车尾图像;
检测模块,用于基于第一车头图像、N第一车厢图像car1 1,car2 1,...,carNum 1、第一车尾图像和原始全车图像,对所述列车进行检测。
本发明实施例七提供了一种终端,所述终端包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现实施例六中检测方法中的步骤。
本发明实施例八提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现实施例六中检测方法中的步骤。
应当理解,虽然本说明书按照实施方式加以描述,但并非每个实施方式仅包含一个独立的技术方案,说明书的这种叙述方式仅仅是为清楚起见,本领域技术人员应当将说明书作为一个整体,各实施方式中的技术方案也可以经适当组合,形成本领域技术人员可以理解的其他实施方式。
上文所列出的一系列的详细说明仅仅是针对本发明的可行性实施方式的具体说明,它们并非用以限制本发明的保护范围,凡未脱离本发明技艺精神所作的等效实施方式或变更均应包含在本发明的保护范围之内。
Claims (17)
1.一种用于列车的图像配准的方法,其特征在于,包括以下步骤:
获取待处理列车图像P'和标准图像P",所述待处理列车图像P'和标准图像P"均为同一车型中的同一车体的侧面图像、车顶图像或车底图像,所述车体为车头、车尾或车厢;
对所述待处理列车图像P'进行预处理,使得待处理列车图像P'和标准图像P"均具有相同的长度和宽度;创立二维坐标系(X,Y),在所述二维坐标系中,所述待处理列车图像P'和标准图像P"的左上角的坐标为(0,0),左右方向为宽度方向,上下方向为长度方向,且从左至右的方向上、X值逐渐变大,且从上至下的方向上、Y值逐渐变大;在所述待处理列车图像P'和标准图像P"中,车体的延伸方向相同,所述延伸方向为车头朝向车尾的方向;
将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP2',...,SP'N,对于每个第一子区域SPi',在标准图像P"中均对应有第二子区域SPi”,并且对于第一子区域SPi'中的任意的像素(Xi,Yi),在第二子区域SPi”中均存在像素(Xi,AYi),(Xi,BYi),(LXi,Yi)和(RXi,Yi),其中,AYi≤Yi≤BYi,LXi≤Xi≤RXi,i=1,2,...,N;
对于每个第一子区域SPi',均从对应的第二子区域SPi”匹配到对应的匹配子区域,其中,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为(CX”i,CYi”);
基于所有第一子区域SPi'的中心点(CX'i,CYi')以及每个第一子区域SPi'对应的匹配子区域的中心点(CX”i,CYi”),对待处理列车图像P'进行图像拉伸压缩处理。
2.根据权利要求1所述的图像配准的方法,其特征在于,所述“对所述待处理列车图像P'进行预处理”具体包括:
获取所述车体对应的车轴的位置信息,基于所述车轴的位置信息和标准图像P"、对所述待处理列车图像P'进行校正处理。
3.根据权利要求1所述的图像配准的方法,其特征在于,
所述“将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP2',...,SP'N”具体包括:将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP2',...,SP'N第一子区域SPi'的上侧边平行于所述待处理列车图像P'的上侧边,第一子区域SPi'的下侧边平行于所述待处理列车图像P'的下侧边,第一子区域SPi'的左侧边平行于所述待处理列车图像P'的左侧边且位于所述左侧边的内侧,第一子区域SPi'的右侧边平行于所述待处理列车图像P'的右侧边,且位于所述左侧边的内侧;
所述“对于第一子区域SPi',在标准图像P"中均对应有第二子区域SPi””具体包括:对于第一子区域SPi',在标准图像P"中均对应有第二子区域SPi”,其中,第二子区域SPi”上侧边平行于所述标准图像P"的上侧边、且第二子区域SPi”上侧边对应的Y值≤第一子区域SPi'上侧边对应的Y值;第二子区域SPi”下侧边平行于所述标准图像P"的下侧边、且第二子区域SPi”下侧边对应的Y值≥第一子区域SPi'下侧边对应的Y值;第二子区域SPi”的左侧边为所述标准图像P"的左侧边,第二子区域SPi”的右侧边为所述标准图像P"的右侧边。
4.根据权利要求3所述的图像配准的方法,其特征在于,
所述“对于每个第一子区域SPi',均从对应的第二子区域SPi”匹配到对应的匹配子区域,其中,第一子区域SPi'的中心点为(CXi',CYi'),所述匹配子区域的中心点为(CX”i,CYi”)”具体包括:
对于任意的第一子区域SPi'及对应的第二子区域SPi”均进行以下处理:从第二子区域SPi”获取所有的Sum个中间图像,所述中间图像的长度等于第一子区域SPi'的长度、宽度等于第一子区域SPi'的宽度,获取第一子区域SPi'和每个中间图像的相似度值,选择最大的相似度对应的目标中间图像,第一子区域SPi'的中心点为(CX'i,CYi'),所述匹配子区域的中心点为(CX”i,CYi”)=目标中间图像的中心点。
6.根据权利要求5所述的图像配准的方法,其特征在于,所述“基于所有第一子区域SPi'的中心点,对应的匹配子区域的中心点,对待处理列车图像P'进行图像拉伸压缩处理”具体包括:
当任意两个不同的第一子区域SPi'和第一子区域SP'j,第一子区域SPi'的中心点为(CX'i,CYi')、对应匹配子区域的中心点为(CX”i,CYi”),第一子区域SPj'的中心点为(CX'j,CYj')、对应匹配子区域的中心点(CX”j,CYj”),满足CXi'<CXj'且CX”i>CX”j时,删除第一子区域SPi'的中心点(CX'i,CYi')、对应匹配子区域的中心点(CX”i,CYi”),以及第一子区域SP'j的中心点为(CX'j,CYj')、对应匹配子区域的中心点(CX”j,CYj”);之后,基于剩余的第一子区域的中心点,对应的匹配子区域的中心点,对待处理列车图像P'进行图像拉伸压缩处理。
7.根据权利要求5所述的图像配准的方法,其特征在于,
所述“基于所有第一子区域SPi'的中心点(CX'i,CYi')以及每个第一子区域SPi'对应的匹配子区域的中心点(CX”i,CYi”),对待处理列车图像P'进行图像拉伸压缩处理”具体包括:将所述第一子区域SPi'按照Y坐标值递增的顺进行排序得到队列Q,按照队头至队尾的次序,依次从队列Q中选择未处理的第一子区域SP',都进行以下处理:对第一子区域SP'和作为基准的匹配子区域进行刚体配准,以得到第一变形信息,以第一变形信息作为初始变形信息,对第一子区域SP'和匹配子区域进行第一非刚体配准,以得到第二变形信息,以第二变形信息作为初始变形信息,对第一子区域SP'和匹配子区域进行第二非刚体配准,以得到第三变形信息,将第三变形信息叠加到第一子区域SP'或匹配子区域上,以生成配准图像,将第一子区域SPi'替换为所述配准图像;在所有的第一子区域SP'均被处理之后,将待处理列车图像P'替换为由所有第一子区域SP'拼接得到的图像。
8.一种用于列车的图像配准的装置,其特征在于,包括以下模块:
图像获取模块,用于获取待处理列车图像P'和标准图像P",所述待处理列车图像P'和标准图像P"均为同一车型中的同一车体的侧面图像、车顶图像或车底图像,所述车体为车头、车尾或车厢;
预处理模块,用于对所述待处理列车图像P'进行预处理,使得待处理列车图像P'和标准图像P"均具有相同的长度和宽度;创立二维坐标系(X,Y),在所述二维坐标系中,所述待处理列车图像P'和标准图像P"的左上角的坐标为(0,0),左右方向为宽度方向,上下方向为长度方向,且从左至右的方向上、X值逐渐变大,且从上至下的方向上、Y值逐渐变大;在所述待处理列车图像P'和标准图像P"中,车体的延伸方向相同,所述延伸方向为车头朝向车尾的方向;
图像分割模块,用于将所述待处理列车图像P'分割出N个依次连接的第一子区域SP1',SP2',...,SP'N,对于每个第一子区域SPi',在标准图像P"中均对应有第二子区域SPi”,并且对于第一子区域SPi'中的任意的像素(Xi,Yi),在第二子区域SPi”中均存在像素(Xi,AYi),(Xi,BYi),(LXi,Yi)和(RXi,Yi),其中,AYi≤Yi≤BYi,LXi≤Xi≤RXi,i=1,2,...,N;
图像匹配模块,用于对于每个第一子区域SPi',均从对应的第二子区域SPi”匹配到对应的匹配子区域,其中,第一子区域SPi'的中心点为(CX'i,CYi'),所述匹配子区域的中心点为(CX”i,CYi”);
处理模块,用于基于所有第一子区域SPi'的中心点(CX'i,CYi')以及每个第一子区域SPi'对应的匹配子区域的中心点(CX”i,CYi”),对待处理列车图像P'进行图像拉伸压缩处理。
9.一种终端,所述终端包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至7任一项中图像配准的方法中的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1-7任一项中图像配准的方法中的步骤。
11.一种用于列车的检测方法,其特征在于,包括以下步骤:
获取列车正常时的原始全车图像,并拍摄所述列车的待处理全车图像,所述原始全车图像和待处理全车图像均为所述列车全车的侧面图像、车顶图像或车底图像;
从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像,从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像,其中,Num为自然数,carj 1比cark 1靠近车头,carj 2比cark 2靠近车头,1≤j<k≤Num;
基于权利要求1-10任一项的图像配准的方法对第一车头图像和第二车头图像进行处理,其中,列车图像P'为第一车头图像,标准图像P"为第二车头图像;基于权利要求1-10任一项的图像配准的方法对carh 1和carh 2进行处理,其中,列车图像P'为carh 1,标准图像P"为carh 2,h=1,2,...,Num;基于权利要求1-10任一项的图像配准的方法对第一车尾图像和第二车尾图像进行处理,其中,列车图像P'为第一车尾图像,标准图像P"为第二车尾图像;
基于第一车头图像、N第一车厢图像car1 1,car2 1,...,carNum 1、第一车尾图像和原始全车图像,对所述列车进行检测。
12.根据权利要求11所述的检测方法,其特征在于,
所述“从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像”具体包括:对所述待处理全车图像进行累积直方图处理之后,从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像;
所述“从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像”具体包括:对所述原始全车图像进行累积直方图处理,之后,从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像。
13.根据权利要求11所述的检测方法,其特征在于,
所述“从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像”具体包括:基于预训练好的U-Net神经网络,从所述待处理全车图像中分割出第一车头图像、第一车尾图像和Num+1个车体连接处图像,之后,利用Num+1个车体连接处图像从所述待处理全车图像中分割出Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1;
所述“从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像”具体包括:基于所述U-Net神经网络,从所述原始全车图像中分割出第二车头图像、第二车尾图像和Num+1个车体连接处图像,之后,利用Num+1个车体连接处图像从所述原始全车图像中分割出Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2;
在所述U-Net神经网络的训练过程中,选用Adam优化方法;在所述U-Net神经网络中,损失函数为交叉熵。
14.根据权利要求13所述的检测方法,其特征在于,
所述“基于预训练好的U-Net神经网络,从所述待处理全车图像中分割出第一车头图像、第一车尾图像和Num+1个车体连接处图像”具体包括:基于预训练好的U-Net神经网络,从所述待处理全车图像中分割出第一车头图像、第一车尾图像和多个车体连接处图像,所述车体连接处图像的数量≥Num+1;将多个车体连接处图像按照面积从大到下进行排列,并选择排在前面的Num+1个车体连接处图像;
所述“基于所述U-Net神经网络,从所述原始全车图像中分割出第二车头图像、第二车尾图像和Num+1个车体连接处图像”具体包括:基于所述U-Net神经网络,从所述原始全车图像中分割出第二车头图像、第二车尾图像和多个车体连接处图像,所述车体连接处图像的数量≥Num+1;将多个车体连接处图像按照面积从大到下进行排列,并选择排在前面的Num+1个车体连接处图像。
15.一种用于列车的检测装置,其特征在于,包括以下模块:
全车图像获取模块,用于获取列车正常时的原始全车图像,并拍摄所述列车的待处理全车图像,所述原始全车图像和待处理全车图像均为所述列车全车的侧面图像、车顶图像或车底图像;
图像切割模块,用于从所述待处理全车图像中分割出第一车头图像、Num个相邻车厢的第一车厢图像car1 1,car2 1,...,carNum 1和第一车尾图像,从所述原始全车图像中分割出第二车头图像、Num个相邻车厢的第二车厢图像car1 2,car2 2,...,carNum 2和第二车尾图像,其中,Num为自然数,carj 1比cark 1靠近车头,carj 2比cark 2靠近车头,1≤j<k≤Num;
处理模块,用于基于权利要求1-10任一项的图像配准的方法对第一车头图像和第二车头图像进行处理,其中,列车图像P'为第一车头图像,标准图像P"为第二车头图像;基于权利要求1-10任一项的图像配准的方法对carh 1和carh 2进行处理,其中,列车图像P'为carh 1,标准图像P"为carh 2,h=1,2,...,Num;基于权利要求1-10任一项的图像配准的方法对第一车尾图像和第二车尾图像进行处理,其中,列车图像P'为第一车尾图像,标准图像P"为第二车尾图像;
检测模块,用于基于第一车头图像、N第一车厢图像car1 1,car2 1,...,carNum 1、第一车尾图像和原始全车图像,对所述列车进行检测。
16.一种终端,所述终端包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求11至14任一项中检测方法中的步骤。
17.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求11至14任一项中检测方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111392082.5A CN114241019A (zh) | 2021-11-23 | 2021-11-23 | 图像配准、检测的方法及其装置、终端及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111392082.5A CN114241019A (zh) | 2021-11-23 | 2021-11-23 | 图像配准、检测的方法及其装置、终端及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114241019A true CN114241019A (zh) | 2022-03-25 |
Family
ID=80750418
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111392082.5A Pending CN114241019A (zh) | 2021-11-23 | 2021-11-23 | 图像配准、检测的方法及其装置、终端及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114241019A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115775269A (zh) * | 2023-02-10 | 2023-03-10 | 西南交通大学 | 一种基于线特征的列车图像精确配准方法 |
-
2021
- 2021-11-23 CN CN202111392082.5A patent/CN114241019A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115775269A (zh) * | 2023-02-10 | 2023-03-10 | 西南交通大学 | 一种基于线特征的列车图像精确配准方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6904614B2 (ja) | 対象物検出装置、予測モデル作成装置、対象物検出方法及びプログラム | |
US8401333B2 (en) | Image processing method and apparatus for multi-resolution feature based image registration | |
CN110163912B (zh) | 二维码位姿标定方法、装置及系统 | |
JP3868876B2 (ja) | 障害物検出装置及び方法 | |
CN111260615B (zh) | 基于激光和机器视觉融合的无人机桥梁表观病害检测方法 | |
WO2009088035A1 (ja) | 車線認識装置、車線認識方法および車線認識プログラム | |
CN107843251B (zh) | 移动机器人的位姿估计方法 | |
CN110926330B (zh) | 图像处理装置和图像处理方法 | |
CN113205447A (zh) | 用于车道线识别的道路图片标注方法和装置 | |
CN114241019A (zh) | 图像配准、检测的方法及其装置、终端及存储介质 | |
JP7180445B2 (ja) | 物体検出装置 | |
CN115564937A (zh) | 一种车辆侧面图像实时拼接方法、计算设备及存储介质 | |
US20200191577A1 (en) | Method and system for road image reconstruction and vehicle positioning | |
CN116977328B (zh) | 车底机器人主动视觉中的图像质量评估方法 | |
JP6908445B2 (ja) | 変化検出装置及び鉄道設備部品の保守管理方法 | |
CN108335266B (zh) | 一种文档图像畸变的矫正方法 | |
CN115775269B (zh) | 一种基于线特征的列车图像精确配准方法 | |
CN103971086B (zh) | 一种车头定位方法及装置 | |
CN110634136B (zh) | 一种管道壁破损检测方法、装置及系统 | |
CN115797446A (zh) | 货架定位方法、货架对接方法以及装置、设备、介质 | |
CN110619337B (zh) | 一种受电弓滑板的亚像素边缘提取和识别方法 | |
JP6944355B2 (ja) | 鉄道車両の画像生成装置及び鉄道車両の外観検査システム | |
CN106355562A (zh) | 一种基于机器视觉的钢轨检测图像的去噪方法 | |
CN113096018A (zh) | 一种航拍图像拼接方法和系统 | |
CN111260561A (zh) | 一种可用于掩模版缺陷检测的快速多图拼接方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |