CN114818880A - 一种YOLOv3铁路关键作业流程自动鉴别方法与系统 - Google Patents
一种YOLOv3铁路关键作业流程自动鉴别方法与系统 Download PDFInfo
- Publication number
- CN114818880A CN114818880A CN202210360677.0A CN202210360677A CN114818880A CN 114818880 A CN114818880 A CN 114818880A CN 202210360677 A CN202210360677 A CN 202210360677A CN 114818880 A CN114818880 A CN 114818880A
- Authority
- CN
- China
- Prior art keywords
- feature
- key
- yolov3
- network
- yolo
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000012549 training Methods 0.000 claims abstract description 54
- 238000007689 inspection Methods 0.000 claims abstract description 31
- 238000004458 analytical method Methods 0.000 claims abstract description 8
- 238000011176 pooling Methods 0.000 claims abstract description 7
- 238000001514 detection method Methods 0.000 claims description 46
- 238000010586 diagram Methods 0.000 claims description 39
- 238000000605 extraction Methods 0.000 claims description 20
- 230000008014 freezing Effects 0.000 claims description 18
- 238000007710 freezing Methods 0.000 claims description 18
- 230000008569 process Effects 0.000 claims description 14
- 238000010257 thawing Methods 0.000 claims description 13
- 230000007704 transition Effects 0.000 claims description 10
- 238000005070 sampling Methods 0.000 claims description 8
- 230000004927 fusion Effects 0.000 claims description 7
- 239000000284 extract Substances 0.000 claims description 6
- 238000011478 gradient descent method Methods 0.000 claims description 6
- 230000005764 inhibitory process Effects 0.000 claims description 5
- 238000002372 labelling Methods 0.000 claims description 5
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 claims description 3
- 230000010354 integration Effects 0.000 claims description 3
- 238000003064 k means clustering Methods 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明涉及计算机视觉领域,尤其是一种YOLOv3铁路关键作业流程自动鉴别方法与系统，包括：通过人工作业时的视频以及得到的包含列车中关键特征的图像信息；对YOLOv3网络进行预训练，将图像输入darknet53，通过残差网络Residual，将主干的输入与输出结合，进行特征提取，通过下采样操作，获取特征图并利用多尺度模块将特征图划分为低频和高频特征图，通过池化层压缩低频特征图，减少分量冗余。本发明优化列车安全检查中关键点的识别，提升传统部分对列车安全检查中小目标的关键特征的精度，去除冗余分量，解决人工审查难度大的问题，形成人工作业视频分析全覆盖的目的。
Description
技术领域
本发明涉及计算机视觉领域，特别在是一种结合目标检测和目标识别的改进YOLOv3网络结构的铁路关键作业流程自动鉴别的方法与系统。
背景技术
YOLOv3网络由三部分组成，分别是darknet53构成主干部分，FPN构成加强特征提取网络，YOLO_Head构成特征融合网络，利用卷积方式对目标特征进行多尺度融合，相比传统的机器学习领域，YOLOv3在目标检测领域对物体的检测精度和检测速度方面进行了提升，但对于较小的物体和关键特征的识别精度仍无法满足列车安全检查中的要求。
基于此类情况，提出一种YOLOv3铁路关键作业流程自动鉴别方法是有必要的。对于改进的YOLOv3网络，主要是在网络结构、检测分支等角度进行优化和扩展，提高列车安全检查中小目标的关键特征的精度。
发明专利CN113706815A中采用的YOLOv3网络模型对数据集进行训练，结合光流法实现了火灾识别，但对于微型火焰识别精度不够，没有对YOLO_Head模块中的检测分支进行扩展，只有等待有明显火焰迹象时才可检测到，从而导致检测不及时、火灾情况加剧的潜在风险。
发明专利CN109727428A通过改进YOLOv3算法，对缺陷图像识别分类，判断相同位置和报警类型的抑制状态来实现对重复报警的抑制。该发明将前三层残差网络与对应输出层进行级联，但实际上扩展后的YOLOv3网络无需全部用到23层残差网络，该发明专利未对残差网络进行简化，过多的残差单元增加了网络结构的复杂程度，训练时间较长，冗余分量较多，从而降低了模型质量。
发明专利CN112307984A通过改进YOLOv3骨干网络，增加可爱卷积和双注意力机制处理，实现了基于神经网络的安全帽检测方法和装置。但是，误检漏检的情况仍有存在，例如工人距离检测装置较远时或有部分物体遮挡住工人头部时，且该发明针对残差网络进行了改进，忽略了过度层的设计，简单的过渡层使得下采样时浅层信息有所丢失，不利于特征信息的平滑提取。
发明内容
针对上述问题，本发明提出一种YOLOv3铁路关键作业流程自动鉴别方法与系统，优化列车安全检查中关键点的识别，提升传统部分对列车安全检查中小目标的关键特征的精度，去除冗余分量，解决人工审查难度大的问题，形成人工作业视频分析全覆盖的目的。
本发明提供如下技术方案：一种YOLOv3铁路关键作业流程自动鉴别方法,包括如下步骤，
步骤1：通过人工作业视频，对包含关键点的部分进行逐帧提取，获得铁路作业流程中的关键特征的图像信息；
步骤2：基于步骤1所述的图像，采用labelimg软件对图像打标签，标注图像内关键特征的矩形包围框，获取矩形包围框在原图像的位置、宽高和类别信息，并生成对应的标签存储信息，搭建数据集；
步骤3：基于步骤2所述的数据集，将图像输入darknet53网络，利用残差网络Residual使主干的输入与输出结合，进行特征提取，通过下采样操作，获取特征图并利用YOLO_Head模块将特征图划分为低频和高频特征图，通过池化层使低频特征图压缩，减少分量冗余，传入特征提取网络；
步骤4：基于步骤3所述的YOLOv3网络，将所述的YOLOv3网络进行改进，过渡层替换成1×1和3×3/2的卷积层并交替使用，对残差网络的层次进行修改，原始YOLOv3残差网络层次分别为1、2、8、8、4，改造后层次为2、6、6、4、2，然后扩展多尺度YOLO_Head模块，将原有的3个YOLO_Head模块扩展为4个，增添104×104的YOLO_Head模块；
步骤5：基于步骤3所述的darknet53网络，将扩展后的四个有效特征层在加强特征网络FPN中进行特征融合，同时对原有的3个YOLO_Head模块进行上采样，添加输出为52×52的上采样过程，并实现和104×104特征层级联，结合不同尺度的特征信息，从而获取加强过的有效特征层；
步骤6：基于步骤5所述的加强过的有效特征层，传入分类器与回归器，预测特征点对应物体的情况，通过梯度下降法计算关键点对应的置信度损失、类别损失以及位置损失；
步骤7：基于步骤4所述的改进的YOLOv3网络，进行冻结以及解冻训练，调整图像格式为RGB，大小为416×416，在改进的残差网络中提取关键特征，采用原有的3种卷积特征层和新增添的卷积特征层预测目标坐标和位置，保存每个epoch的结果以及tensorboard的结果，输出最终的模型权重；
步骤8：基于步骤7所述的模型权重，利用损失值最低的权重文件对作业流程进行分析，判断视频中是否包含了列车中关键点的检查，降低人工检查成本，提高作业视频分析速度，达到作业视频分析全覆盖，从而形成完整的闭环工作的目的。
步骤2中，首先会将图像转换成RGB形式，进行不失真的尺寸调整；其次对输入的图像进行归一化，并添加batch_size维度；最后采用k-means聚类方法，对归一化的图像宽高进行聚类，获取先验框的宽高。
步骤3中，初始化YOLOv3网络中的参数，其中，YOLOv3网络中的参数有冻结阶段迭代次数Freeze epoch、冻结阶段学习率Freeze lr、冻结阶段输入图像数量Freeze_batch_size、解冻阶段迭代次数Unfreeze epoch、解冻阶段学习率Unfreeze lr、解冻阶段图像输入数量Unfreeze_batch_size；对冻结阶段迭代训练次数进行设置，并进行迭代训练计算；其中，第一次进行迭代训练时Freeze epoch=1；判断当前训练次数是否小于解冻阶段迭代训练次数；若所述当前训练次数小于所述解冻阶段迭代训练次数，利用多尺度模块将特征图划分为低频和高频特征图；若所述当前训练次数不小于所述解冻阶段迭代训练次数，则结束迭代训练。
步骤4中，对于原本的YOLOv3网络进行了改进，删除了YOLOv3检测层前的两组卷积层，为预防下采样过程中特征信息的丢失，过渡层将1×1和3×3/2的卷积层交替使用，然后扩展多尺度检测YOLO_Head模块，原有网络检测尺度为3个，扩展后的检测尺度为4个，分支结构提升至4个，增添104×104的YOLO_Head模块。
步骤5中，改进后的YOLOv3网络提取多特征层，实现目标检测，共提取4个特征层。4个特征层分别位于主干部分darknet53的中上层，中间层，中下层以及底层，四个特征层为（104，104，128）、(52,52,256)、(26,26,512)以及(13,13,1024)，残差网络中提取到的特征对4个YOLO_Head模块共同开放，同时对原有的3个YOLO_Head模块进行上采样，添加输出为52×52的上采样过程，并实现和104×104特征层级联，在4个YOLO_Head模块上分别对大、中、小、极小的物体进行独立检测，使得特征提取相对平滑，从而有助于提取浅层特征信息，提高小物体检测效果。
步骤6中，利用1×1的卷积调整通道数，利用3×3的卷积进行特征整合，分别处理改进后的YOLOv3网络得到的4个特征层，在此数据集中关键点有3种，故种类数为3类，输出层的维度分别为(13,13,24)、(26,26,24)、(52,52,24)、（104，104，24），其中因为数据集是基于人工作业流程的，YOLOv3针对四个特征层的每一个特征点，均包含3个先验框，故预测结果的通道数为3×（4＋1＋3），4为每一个先验框的调整参数，1是判断先验框内部是否包含物体，3是判断先验框内物体的种类，故最后一个维度为24。
步骤7中，在冻结阶段，模型权重的主干被冻结，此时模型的特征提取网络不发生改变，由于训练参数较少，模型占用的显存较小，仅对网络进行微调，此时设置的学习率为1e-3，帮助模型跳出局部最优解。在解冻阶段，此时模型的主干不被冻结，特征提取网络会发生改变，由于训练参数较多，占用的显存较大，整个模型都会发生改变，因此设置batch_size为8，设置学习率为1e-4，以便保证训练模型的稳定性。结合(13,13,24)、(26,26,24)、(52,52,24)、（104，104，24）的4种不同尺度的特征层，通过ResNet残差网络进行特征提取，预测出列车安全检查中关键点的类型、坐标和位置信息。
步骤8中，采用了损失值最低的模型，通过非极大抑制，滤除了置信度小于0.5的框，不仅提高了目标检测的速度，还节约了人力，且准确率较高。
一种用于上述方法的YOLOv3铁路关键作业流程自动鉴别系统，包括：关键特征获取模块，主要作用为通过人工作业视频，对包含关键点的部分进行提取，获得关键特征的图像信息；高频特征图与低频特征图区分模块，主要作用为利用YOLO_Head模块将特征图划分为低频和高频特征图，通过池化层使低频特征图压缩，减少分量冗余；预训练模块，主要作用为利用改进后的YOLOv3对列车安全检查中的关键特征数据集进行训练，将采集到的关键特征信息传送至改进后的YOLO_Head模块进行预测；模型输出模块，主要作用为通过梯度下降法计算关键点对应的置信度损失、类别损失以及位置损失，确认三种损失和最低的权重，输出最终模型；识别检测模块，主要作用为通过输入人工作业的视频，识别列车中相关安全检查的关键特征是否被检查，降低审查成本；数据记录模块，主要作用为保存检测到的关键特征信息，直观的反应出每个视频中每个时间段关键点出现频率，判断是否进行了安全检查。
本方案中包括了多个部分，改进YOLOv3网络是由darknet53、FPN和YOLO_Head搭建，所述darknet53结构搭建网络主干部分，相比原始YOLOv3结构，将23层残差网络减少到20层，过渡层结合1×1、3×3/2卷积层，有助于特征平滑提取，所述FPN结构搭建加强特征提取网络部分，通过上采样操作与卷积层进行拼接，同时与浅特征层进行级联，所述YOLO_Head结构搭建特征融合网络，输出层包括(13,13,24)、(26,26,24)、(52,52,24)、（104，104，24）四种不同尺度的检测分支，每个区域进行独立的检测。
附图说明
图1为改进YOLOv3网络的结构图。
图2为基于改进YOLOv3的铁路关键作业流程自动鉴别方法的流程图。
图3为基于改进YOLOv3的铁路关键作业流程自动鉴别系统结构示意图。
具体实施方式
下面将结合本发明具体实施方式中的附图，对本发明具体实施方式中的技术方案进行清楚、完整地描述，显然，所描述的具体实施方式仅仅是本发明一种具体实施方式，而不是全部的具体实施方式。基于本发明中的具体实施方式，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他具体实施方式，都属于本发明保护的范围。
需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本申请的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
通过附图可以看出，本发明改进YOLOv3的铁路关键作业流程自动鉴别方法,包括如下步骤，步骤1：通过人工作业视频，对包含关键点的部分进行逐帧提取，获得铁路作业流程中的关键特征的图像信息；步骤2：基于步骤1所述的图像，采用labelimg软件对图片打标签，标注图像内关键特征的矩形包围框，获取矩形包围框在原图像的位置、宽高和类别信息，并生成对应的标签存储信息即xml文件，搭建数据集；步骤3：基于步骤2所述的数据集，将图像输入darknet53网络，利用残差网络Residual使主干的输入与输出结合，进行特征提取，通过下采样操作，获取特征图并利用YOLO_Head模块将特征图划分为低频和高频特征图，通过池化层使低频特征图压缩，减少分量冗余，传入特征提取网络；步骤4：基于步骤3所述的YOLOv3网络，将所述的YOLOv3网络进行改进，过渡层替换成1×1和3×3/2的卷积层并交替使用，对残差网络的层次进行修改，原始YOLOv3残差网络层次分别为1、2、8、8、4，改造后层次为2、6、6、4、2，然后扩展多尺度YOLO_Head模块，将原有的3个YOLO_Head模块扩展为4个，增添104×104的YOLO_Head模块；步骤5：基于步骤3所述的darknet53网络，将扩展后的四个有效特征层在加强特征网络FPN中进行特征融合，同时对原有的3个YOLO_Head模块进行上采样，添加输出为52×52的上采样过程，并实现和104×104特征层级联，结合不同尺度的特征信息，从而获取加强过的有效特征层；步骤6：基于步骤5所述的加强过的有效特征层，传入分类器与回归器，预测特征点对应物体的情况，通过梯度下降法计算关键点对应的置信度损失、类别损失以及位置损失；步骤7：基于步骤4所述的改进的YOLOv3网络，进行冻结以及解冻训练，调整图像格式为RGB，大小为416×416，在改进的残差网络中提取关键特征，采用原有的3种卷积特征层和新增添的卷积特征层预测目标坐标和位置，保存每个epoch的结果以及tensorboard的结果，输出最终的模型权重；步骤8：基于步骤7所述的模型权重，利用损失值最低的权重文件对作业流程进行分析，判断视频中是否包含了列车中关键点的检查，降低人工检查成本，提高作业视频分析速度，达到作业视频分析全覆盖，从而形成完整的闭环工作的目的。
步骤2中，首先会将图像转换成RGB形式，进行不失真的尺寸调整；其次对输入的图像进行归一化，并添加batch_size维度；最后采用k-means聚类方法，对归一化的图像宽高进行聚类，获取先验框的宽高。步骤3中，初始化YOLOv3网络中的参数，其中，YOLOv3网络中的参数有冻结阶段迭代次数Freeze epoch、冻结阶段学习率Freeze lr、冻结阶段输入图像数量Freeze_batch_size、解冻阶段迭代次数Unfreeze epoch、解冻阶段学习率Unfreezelr、解冻阶段图像输入数量Unfreeze_batch_size；对冻结阶段迭代训练次数进行设置，并进行迭代训练计算；其中，第一次进行迭代训练时Freeze epoch=1；判断当前训练次数是否小于解冻阶段迭代训练次数；若所述当前训练次数小于所述解冻阶段迭代训练次数，利用多尺度模块将特征图划分为低频和高频特征图；若所述当前训练次数不小于所述解冻阶段迭代训练次数，则结束迭代训练。步骤4中，对于原本的YOLOv3网络进行了改进，删除了YOLOv3检测层前的两组卷积层，为预防下采样过程中特征信息的丢失，过渡层将1×1和3×3/2的卷积层交替使用，然后扩展多尺度检测YOLO_Head模块，原有网络检测尺度为3个，扩展后的检测尺度为4个，分支结构提升至4个，增添104×104的YOLO_Head模块。步骤5中，改进后的YOLOv3网络提取多特征层，实现目标检测，共提取4个特征层。4个特征层分别位于主干部分darknet53的中上层，中间层，中下层以及底层，四个特征层为（104，104，128）、(52,52,256)、(26,26,512)以及(13,13,1024)，残差网络中提取到的特征对4个YOLO_Head模块共同开放，同时对原有的3个YOLO_Head模块进行上采样，添加输出为52×52的上采样过程，并实现和104×104特征层级联，在4个YOLO_Head模块上分别对大、中、小、极小的物体进行独立检测，使得特征提取相对平滑，有助于提取浅层特征信息，提高小物体检测效果。步骤6中，利用1×1的卷积调整通道数，利用3×3的卷积进行特征整合，分别处理改进后的网络得到的4个特征层，在此数据集中关键点有3种，故种类数为3类，输出层的维度，分别为(13,13,24)、(26,26,24)、(52,52,24)、（104，104，24），其中因为数据集是基于人工作业流程的，YOLOv3针对四个特征层的每一个特征点，均包含3个先验框，故预测结果的通道数为3×（4＋1＋3），4为每一个先验框的调整参数，1是判断先验框内部是否包含物体，3是判断先验框内物体的种类，故最后一个维度为24；步骤7中，在冻结阶段，模型权重的主干被冻结，此时模型的特征提取网络不发生改变，由于训练参数较少，模型占用的显存较小，仅对网络进行微调，此时设置的学习率为1e-3，帮助模型跳出局部最优解。在解冻阶段，此时模型的主干不被冻结，特征提取网络会发生改变，由于训练参数较多，占用的显存较大，整个模型都会发生改变，因此设置batch_size为8，设置学习率为1e-4，以便保证训练模型的稳定性。结合(13,13,24)、(26,26,24)、(52,52,24)、（104，104，24）的4种不同尺度的特征层，通过ResNet残差网络进行特征提取，预测出列车安全检查中关键点的类型、坐标和位置信息；步骤8中，采用了损失值最低的模型，通过非极大抑制，滤除了置信度小于0.5的框，不仅提高了目标检测的速度，还节约了人力，且准确率较高。
请参阅图3，本发明还提出一种YOLOv3铁路关键作业流程自动鉴别系统，其中,所述系统包括：
关键特征获取模块，主要作用为通过人工作业视频，对包含关键点的部分进行提取，获得关键特征的图像信息；
高频特征图与低频特征图区分模块，主要作用为利用YOLO_Head模块将特征图划分为低频和高频特征图，通过池化层使低频特征图压缩，减少分量冗余；
预训练模块，主要作用为利用改进后的YOLOv3对列车安全检查中的关键特征数据集进行训练，将采集到的关键特征信息传送至改进后的YOLO_Head模块进行预测；
模型输出模块，主要作用为通过梯度下降法计算关键点对应的置信度损失、类别损失以及位置损失，确认三种损失和最低的权重，输出最终模型；
识别检测模块，主要作用为通过输入人工作业的视频，识别列车中相关安全检查的关键特征是否被检查，降低审查成本。
数据记录模块，主要作用为保存检测到的关键特征信息，直观的反应出每个视频中每个时间段关键点出现频率，判断是否进行了安全检查。
本发明采用GPU配置环境，利用(13,13,24)，(26,26,24)，(52,52,24)，（104，104，24）的检测分支检测大型连接器、中型连接器以及列车电箱锁，其中（104，104，24）的检测分支在对列车电箱锁的检测上取得了较大突破；在6000张图片的训练过程中，所用时间为41分钟，大型连接器和中型连接器map分别为0.96与0.95，小型关键特征点（列车电箱上的锁）map为0.86，总计map为0.92；相比改进前的YOLOv3网络的训练时间、三种map以及总计map的72分钟、0.95、0.93、0.69以及0.86而言，在训练时间上和检测精度上取得了较大的突破。
本发明提供的基于改进YOLOv3铁路关键作业流程自动鉴别的方法，优化了darknet53部分，删除了3层残差网络，简化了残差结构，从而减少了计算量，使得训练时间和检测时长有所降低；过渡层在原有的基础上引入了1×1的卷积层，使得浅层特征信息的提取相对平滑，有效降低了下采样过程中特征信息的丢失现象；划分了特征图的高频特性和低频特性，使得冗余程度有所下降；扩展了维度为（104，104，24）的检测模块，提高了对于铁路安全检查中较小关键点的检测精度；增加了52×52特征层上采样的过程，结合特征金字塔的多尺度融合，实现了与104×104特征层拼接，提高了此方法在铁路作业流程安全检查场景中的使用性。与其他的神经网络、目标检测和深度学习的方法相对比，本发明改进的算法对关键特征进行识别和检测的时候，在保证大型物体和中型物体检测精度的同时，不仅提高了小物体检测精度，还降低了损耗时间。
尽管已经示出和描述了本发明的具体实施方式，对于本领域的普通技术人员而言，可以理解在不脱离发明的原理和精神的情况下可以对这些具体实施方式进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。
Claims (9)
1.一种YOLOv3铁路关键作业流程自动鉴别方法,其特征在于包括如下步骤，
步骤1：通过人工作业视频，对包含关键点的部分进行逐帧提取，获得铁路作业流程中的关键特征的图像信息；
步骤2：基于步骤1所述的图像，标注图像内关键特征的矩形包围框，获取矩形包围框在原图像的位置、宽高和类别信息，并生成对应的标签存储信息，搭建数据集；
步骤3：基于步骤2所述的数据集，将图像输入darknet53网络，利用残差网络Residual使主干的输入与输出结合，进行特征提取，通过下采样操作，获取特征图并利用YOLO_Head模块将特征图划分为低频和高频特征图，通过池化层使低频特征图压缩，减少分量冗余，传入特征提取网络；
步骤4：基于步骤3所述的YOLOv3网络，将所述的YOLOv3网络进行改进，过渡层替换成1×1和3×3/2的卷积层并交替使用，然后扩展多尺度YOLO_Head模块，将原有的3个YOLO_Head模块扩展为4个，增添104×104的YOLO_Head模块；
步骤5：基于步骤3所述的darknet53网络，将扩展后的四个有效特征层在加强特征网络FPN中进行特征融合，同时对原有的3个YOLO_Head模块进行上采样，添加输出为52×52的上采样过程，并实现和104×104特征层级联，结合不同尺度的特征信息，从而获取加强过的有效特征层；
步骤6：基于步骤5所述的加强过的有效特征层，传入分类器与回归器，预测特征点对应物体的情况，通过梯度下降法计算关键点对应的置信度损失、类别损失以及位置损失；
步骤7：基于步骤4所述的改进的YOLOv3网络，进行冻结以及解冻训练，输入图像大小为416×416，在改进的残差网络中提取关键特征，采用原有的3种卷积特征层和新增添的卷积特征层预测目标坐标和位置，保存每个epoch的结果以及tensorboard的结果，输出最终的模型权重；
步骤8：基于步骤7所述的模型权重，利用损失值最低的权重文件对作业流程进行分析，判断视频中是否包含了列车中关键点的检查，降低人工检查成本，提高作业视频分析速度，达到作业视频分析全覆盖，从而形成完整的闭环工作的目的。
2.根据权利要求1所述的一种YOLOv3铁路关键作业流程自动鉴别方法，其特征在于,
步骤2中，首先会将图像转换成RGB形式，进行不失真的尺寸调整；其次对输入的图像进行归一化，并添加batch_size维度；最后采用k-means聚类方法，对归一化的图像宽高进行聚类，获取先验框的宽高。
3.根据权利要求1所述的一种YOLOv3铁路关键作业流程自动鉴别方法，其特征在于,
步骤3中，初始化YOLOv3网络中的参数，其中，YOLOv3网络中的参数有冻结阶段迭代次数Freeze epoch、冻结阶段学习率Freeze lr、冻结阶段输入图像数量Freeze_batch_size、解冻阶段迭代次数Unfreeze epoch、解冻阶段学习率Unfreeze lr、解冻阶段图像输入数量Unfreeze_batch_size；
对冻结阶段迭代训练次数进行设置，并进行迭代训练计算；其中，第一次进行迭代训练时Freeze epoch=1；判断当前训练次数是否小于解冻阶段迭代训练次数；若所述当前训练次数小于所述解冻阶段迭代训练次数，利用多尺度模块将特征图划分为低频和高频特征图；若所述当前训练次数不小于所述解冻阶段迭代训练次数，则结束迭代训练。
4.根据权利要求1所述的一种YOLOv3铁路关键作业流程自动鉴别方法,其特征在于，
步骤4中，对于YOLOv3网络进行改进时，删除了YOLOv3检测层前的两组卷积层，为预防下采样过程中特征信息的丢失，过渡层将1×1和3×3/2的卷积层交替使用，然后扩展多尺度检测YOLO_Head模块，原有网络检测尺度为3个，扩展后的检测尺度为4个，分支结构提升至4个，增添104×104的YOLO_Head模块。
5.根据权利要求1所述的一种YOLOv3铁路关键作业流程自动鉴别方法，其特征在于,
步骤5中，改进后的YOLOv3网络提取多特征层，实现目标检测，共提取4个特征层，4个特征层分别位于主干部分darknet53的中上层，中间层，中下层以及底层，四个特征层为（104，104，128）、(52,52,256)、(26,26,512)以及(13,13,1024)，残差网络中提取到的特征对4个YOLO_Head模块共同开放，同时对原有的3个YOLO_Head模块进行上采样，添加输出为52×52的上采样过程，并实现和104×104特征层级联，在4个YOLO_Head模块上分别对大、中、小、极小的物体进行独立检测，从而有助于提取浅层特征信息，提高小物体检测效果。
6.根据权利要求1所述的一种YOLOv3铁路关键作业流程自动鉴别方法，其特征在于,
步骤6中，利用1×1的卷积调整通道数，利用3×3的卷积进行特征整合，分别处理改进后的YOLOv3网络得到的4个特征层，在此数据集中关键点有3种，故种类数为3类，输出层的维度分别为(13,13,24)、(26,26,24)、(52,52,24)、（104，104，24），其中因为数据集是基于人工作业流程的，YOLOv3针对四个特征层的每一个特征点，均包含3个先验框，故预测结果的通道数为3×（4＋1＋3），4为每一个先验框的调整参数，1是判断先验框内部是否包含物体，3是判断先验框内物体的种类，故最后一个维度为24。
7.根据权利要求1所述的一种YOLOv3铁路关键作业流程自动鉴别方法，其特征在于,
步骤7中，在冻结阶段，模型权重的主干被冻结，此时模型的特征提取网络不发生改变，由于训练参数较少，模型占用的显存较小，仅对网络进行微调，此时设置的学习率为1e-3，帮助模型跳出局部最优解，在解冻阶段，此时模型的主干不被冻结，特征提取网络会发生改变，由于训练参数较多，占用的显存较大，整个模型都会发生改变，因此设置batch_size为8，设置学习率为1e-4，以便保证训练模型的稳定性，结合(13,13,24)、(26,26,24)、(52,52,24)、（104，104，24）的4种不同尺度的特征层，通过ResNet残差网络进行特征提取，预测出列车安全检查中关键点的类型、坐标和位置信息。
8.根据权利要求1所述的一种YOLOv3铁路关键作业流程自动鉴别方法，其特征在于,
步骤8中，采用了损失值最低的模型，通过非极大抑制，滤除了置信度小于0.5的框。
9.一种引用权利要求1-9中任一方法的YOLOv3铁路关键作业流程自动鉴别系统，其特征在于,所述系统包括：
关键特征获取模块，主要作用为通过人工作业视频，对包含关键点的部分进行提取，获得关键特征的图像信息；
高频特征图与低频特征图区分模块，主要作用为利用YOLO_Head模块将特征图划分为低频和高频特征图，通过池化层使低频特征图压缩，减少分量冗余；
预训练模块，主要作用为利用改进后的YOLOv3对列车安全检查中的关键特征数据集进行训练，将采集到的关键特征信息传送至改进后的YOLO_Head模块进行预测；
模型输出模块，主要作用为通过梯度下降法计算关键点对应的置信度损失、类别损失以及位置损失，确认三种损失和最低的权重，输出最终模型；
识别检测模块，主要作用为通过输入人工作业的视频，识别列车中相关安全检查的关键特征是否被检查，降低审查成本；
数据记录模块，主要作用为保存检测到的关键特征信息，直观的反应出每个视频中每个时间段关键点出现频率，判断是否进行了安全检查。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210360677.0A CN114818880B (zh) | 2022-04-07 | 2022-04-07 | 一种YOLOv3铁路关键作业流程自动鉴别方法与系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210360677.0A CN114818880B (zh) | 2022-04-07 | 2022-04-07 | 一种YOLOv3铁路关键作业流程自动鉴别方法与系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114818880A true CN114818880A (zh) | 2022-07-29 |
| CN114818880B CN114818880B (zh) | 2024-04-09 |
Family
ID=82535167
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210360677.0A Active CN114818880B (zh) | 2022-04-07 | 2022-04-07 | 一种YOLOv3铁路关键作业流程自动鉴别方法与系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114818880B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019162241A1 (en) * | 2018-02-21 | 2019-08-29 | Robert Bosch Gmbh | Real-time object detection using depth sensors |
| WO2020206861A1 (zh) * | 2019-04-08 | 2020-10-15 | 江西理工大学 | 基于YOLO v3的针对交通枢纽关键物体的检测方法 |
| US11074711B1 (en) * | 2018-06-15 | 2021-07-27 | Bertec Corporation | System for estimating a pose of one or more persons in a scene |
| CN113903009A (zh) * | 2021-12-10 | 2022-01-07 | 华东交通大学 | 一种基于改进YOLOv3网络的铁路异物检测方法与系统 |
-
2022
- 2022-04-07 CN CN202210360677.0A patent/CN114818880B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019162241A1 (en) * | 2018-02-21 | 2019-08-29 | Robert Bosch Gmbh | Real-time object detection using depth sensors |
| US11074711B1 (en) * | 2018-06-15 | 2021-07-27 | Bertec Corporation | System for estimating a pose of one or more persons in a scene |
| WO2020206861A1 (zh) * | 2019-04-08 | 2020-10-15 | 江西理工大学 | 基于YOLO v3的针对交通枢纽关键物体的检测方法 |
| CN113903009A (zh) * | 2021-12-10 | 2022-01-07 | 华东交通大学 | 一种基于改进YOLOv3网络的铁路异物检测方法与系统 |
Non-Patent Citations (1)
| Title |
|---|
| 姚万业;冯涛明;: "基于改进YOLOv3的变压器定位检测研究", 电力科学与工程, no. 08, 28 August 2020 (2020-08-28) * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114818880B (zh) | 2024-04-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112967243B (zh) | 一种基于yolo的深度学习芯片封装裂纹缺陷检测方法 | |
| CN111563557B (zh) | 一种电力电缆隧道内目标检测的方法 | |
| CN111899227A (zh) | 基于无人机作业的铁路扣件缺陷自动采集辨识方法 | |
| CN111951212A (zh) | 对铁路的接触网图像进行缺陷识别的方法 | |
| CN111489339A (zh) | 高速铁路定位器螺栓备母缺陷的检测方法 | |
| CN112183468A (zh) | 一种基于多注意力联合多级特征的行人再识别方法 | |
| CN110232564A (zh) | 一种基于多模态数据的交通事故法律自动决策方法 | |
| CN116485717B (zh) | 一种基于像素级深度学习的混凝土坝表面裂缝检测方法 | |
| CN111368775A (zh) | 一种基于局部上下文感知的复杂场景密集目标检测方法 | |
| CN112907138B (zh) | 一种从局部到整体感知的电网场景预警分类方法及系统 | |
| CN118552800A (zh) | 一种边缘端部署的铁轨异物半监督异常检测方法及系统 | |
| CN112818818B (zh) | 一种基于affpn的新型超高清遥感图像变化检测方法 | |
| CN117011168A (zh) | 一种联合DeeplabV3+和LaMa模型的透明光滑物体高光去除方法及系统 | |
| CN114818880A (zh) | 一种YOLOv3铁路关键作业流程自动鉴别方法与系统 | |
| CN114494893B (zh) | 基于语义重用上下文特征金字塔的遥感图像特征提取方法 | |
| CN113947567B (zh) | 基于多任务学习的缺陷检测方法 | |
| CN115861922A (zh) | 一种稀疏烟火检测方法、装置、计算机设备及存储介质 | |
| CN115131244A (zh) | 基于对抗学习的单幅图像去雨方法及系统 | |
| CN111985625A (zh) | 一种红外-可见光融合的深度神经网络及其建模方法 | |
| Dong et al. | Damage recognition of road auxiliary facilities based on deep convolution network for segmentation and image region correction | |
| CN118164196B (zh) | 一种基于机器视觉的输煤皮带健康状态监测方法及系统 | |
| CN118314442B (zh) | 一种基于深度学习的输电杆塔异物隐患识别方法 | |
| CN117152646B (zh) | 无人电力巡检ai轻量大模型方法及系统 | |
| CN118628761A (zh) | 风机叶片损伤识别边缘计算方法及装置 | |
| Ji et al. | DRI-Net: a model for insulator defect detection on transmission lines in rainy backgrounds |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CP03 | Change of name, title or address |
Address after: 250353 University Road, Changqing District, Ji'nan, Shandong Province, No. 3501 Patentee after: Qilu University of Technology (Shandong Academy of Sciences) Country or region after: China Patentee after: SHANDONG ZHENGCHEN POLYTRON TECHNOLOGIES Co.,Ltd. Address before: 250353 University Road, Changqing District, Ji'nan, Shandong Province, No. 3501 Patentee before: Qilu University of Technology Country or region before: China Patentee before: SHANDONG ZHENGCHEN POLYTRON TECHNOLOGIES Co.,Ltd. |
|
| CP03 | Change of name, title or address |