CN113628164A - 一种基于深度学习与web端定位的路面裂缝检测方法 - Google Patents
一种基于深度学习与web端定位的路面裂缝检测方法 Download PDFInfo
- Publication number
- CN113628164A CN113628164A CN202110785735.XA CN202110785735A CN113628164A CN 113628164 A CN113628164 A CN 113628164A CN 202110785735 A CN202110785735 A CN 202110785735A CN 113628164 A CN113628164 A CN 113628164A
- Authority
- CN
- China
- Prior art keywords
- pavement
- road surface
- crack
- detection
- road
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 105
- 238000013135 deep learning Methods 0.000 title claims abstract description 26
- 238000000034 method Methods 0.000 claims abstract description 48
- 238000012549 training Methods 0.000 claims abstract description 35
- 238000012423 maintenance Methods 0.000 claims abstract description 21
- 230000000007 visual effect Effects 0.000 claims abstract description 19
- 238000007781 pre-processing Methods 0.000 claims abstract description 8
- 238000013528 artificial neural network Methods 0.000 claims description 21
- 238000013145 classification model Methods 0.000 claims description 19
- 230000008569 process Effects 0.000 claims description 18
- 230000002068 genetic effect Effects 0.000 claims description 11
- 238000012545 processing Methods 0.000 claims description 11
- 230000008439 repair process Effects 0.000 claims description 10
- 238000005286 illumination Methods 0.000 claims description 8
- 238000012360 testing method Methods 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 6
- 238000005457 optimization Methods 0.000 claims description 6
- 238000012800 visualization Methods 0.000 claims description 3
- 239000003086 colorant Substances 0.000 claims description 2
- 238000010586 diagram Methods 0.000 abstract description 2
- 201000010099 disease Diseases 0.000 description 5
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 4
- 230000007547 defect Effects 0.000 description 4
- 238000001914 filtration Methods 0.000 description 4
- 230000004927 fusion Effects 0.000 description 4
- 238000002372 labelling Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000000474 nursing effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 206010027146 Melanoderma Diseases 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002146 bilateral effect Effects 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000011229 interlayer Substances 0.000 description 1
- 239000010410 layer Substances 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 108090000623 proteins and genes Proteins 0.000 description 1
- 239000002352 surface water Substances 0.000 description 1
- 230000017105 transposition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/29—Geographical information databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/40—Image enhancement or restoration using histogram techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
- G06T2207/20028—Bilateral filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Remote Sensing (AREA)
- Quality & Reliability (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Physiology (AREA)
- Image Analysis (AREA)
- Road Repair (AREA)
Abstract
本发明公开了一种基于深度学习与web端定位的路面裂缝检测方法,包括:拍摄路面视频并均匀抽帧提取图像进行预处理,训练基于深度学习的路面裂缝检测集成模型,实现路面损伤严重程度分类与裂缝检测;利用web端调用API获取实时地理位置信息,并依据车速和视频帧率利用云计算得出每帧对应的时间与地理位置信息,导入数据库;在云端调用数据库,完成基于深度学习的路面裂缝检测集成模型的检测,在本地生成可视化路面裂缝损伤地图图示和检测裂缝的具体位置。本发明解决了路面裂缝检测效率低,准确率低,成本高的问题,并将路面裂缝检测与地理位置定位结合,生成可视化图示,为公路养护工作提供了便利,同时还可为相似问题提供解决思想。
Description
技术领域
本发明属于人工智能与智能检测技术领域,涉及道路路面的裂缝检测,特别涉及一种基于深度学习与web端定位的路面裂缝检测方法。
背景技术
公路基础设施的不断完善,不仅使得公路的交通运输效率和运输能力不断提升,也使公路里程数和公路运输能力大幅提升,但这带来一个难以回避的问题,即在行车载荷作用、自然因素和人为原因等多种因素影响下,路面会逐渐产生各种损坏、变形及其他缺陷等病害。常见的病害有:裂缝、坑槽、车辙、松散、沉陷、表面破损等。裂缝病害是路面病害的主要形式,对路面使用性能影响很大,不仅直接影响公路整体性能和寿命,也直接关系着行车安全性、舒适性和经济性。路面裂缝病害会破坏路面结构的整体性和连续性,并且会成为路表水侵入路基路面结构层的天然通道,若不及时处置,还有可能使裂缝继续延展形成龟裂造成路面脱落,引起结构性破坏,影响道路的行车舒适性与安全性。因此,作为道路养护工作的重点和难点的路面裂缝病害检测对道路养护管理确定路面养护计划、方法和预算至关重要。
目前,路面裂缝检测方法主要包括人工检测方法、二维裂缝检测方法和三维裂缝检测方法。人工检测方法由技术人员借助一些简单的仪器或者肉眼直接检测并记录,但该方法存在工作强度大、耗时长、劳动成本高、效率低、因人为因素易引发主观误判、可重复性差、难以满足信息时效性的需求等缺点。为了解决上述问题,二维裂缝检测方法和三维裂缝检测方法得以提出和发展。二维裂缝检测方法采用工业相机进行路面信息采集,利用人工智能和图像处理技术对路面裂缝进行检测。比较有代表性的二维裂缝检测方法有:基于边缘检测(如Prewitt算子)的路面裂缝检测方法;基于自适应视觉裂缝检测的结构状态监测方法;基于人工神经网络和深度学习(如卷积神经网络、改进全卷积神经网络、融合Gabor滤波器与卷积神经网络、深度卷积融合神经网络、人工蜂群算法-脉冲耦合神经网络算法、基于转置神经网络层间特征融合、组合的启发式优化边缘检测算法和卷积神经网络)的路面裂缝检测方法;基于多源数据融合的路面裂缝识别方法;基于语义分割的路面裂缝快速分类方法等。二维裂缝检测方法存在如下缺点:大量需人工设置的经验参数,固定的参数使得此类方法鲁棒性较差,难以对噪声复杂、光照不均、存在阴影遮挡的路面图像进行有效检测,无法满足道路维护及时、高效的需求;对路面油污、轮胎痕迹、黑斑、树木阴影、光照不均等干扰因素非常敏感,测量精度误差较大且易产生误判现象;由于裂缝具有多样性、形状和强弱均不固定会造成过大的计算量;较大的步长往往使得在最后的预测图中丢失较多裂缝信息,且受计算机性能的限制,庞大的神经网络模型在训练过程中会耗费大量的时间,无法快速得到结果;当前大多数研究基于裂缝是线性裂缝的假设,现有的研究方法不足以捕获高曲率的裂缝;现有的检测分割方法不适用于常见复杂的裂缝如分叉裂缝、网状裂缝等;当前的方法并没有较好地处理因沿裂缝方向的强度不均匀性导致裂缝像素被错误分类为非裂缝像素。
发明内容
为了克服上述现有技术的缺点,本发明的目的在于提供一种基于深度学习与web端定位的路面裂缝检测方法,以期能够快速准确地检测识别出路面存在的裂缝及其位置,并降低成本。
为了实现上述目的,本发明采用的技术方案是:
一种基于深度学习与web端定位的路面裂缝检测方法,包括如下步骤:
步骤1:将两个摄像头安装在车辆上的不同部位,在车辆行驶过程中摄像头拍摄包含路面情况的不同视角的两个视频,对视频进行均匀抽帧,由此获得路面图像;
步骤2:对获取到的路面图像进行预处理,设计基于量子优化的自适应确定权值神经网络对图像进行重建,以得到高分辨率的路面图像;
步骤3:将路面图像依据损伤程度的不同标注为良好、一级、二级和三级,损伤程度依次加重,并标注裂缝在图像中的位置,由此获得路面裂缝损伤的数据集,利用该数据集训练基于深度学习的路面裂缝检测集成模型,在训练过程基于遗传算法自动优化神经网络拓扑结构和超参数,检测时将两个视频中同一位置的路面损伤程度进行加权平均,给出路面裂缝损伤程度的分类与路面裂缝的检测结果,并针对分类给出路面养护的建议;
步骤4:利用web端的接口实时记录车辆在地图中的地理位置,通过云计算得到视频中每帧的位置信息和对应时间,并保存在数据库中,在云端进行模型的检测,检测时依据每帧的时间调用数据库中对应时间的地理位置,由此生成整个检测路段的可视化路面裂缝损伤地图图示,便于公路运维养护人员直观地了解该路段的裂缝损伤情况。
所述步骤1中,摄像头分别安装在车头和车顶,并调整两个摄像头的角度,使得两个摄像头拍摄路面的距离相同,由此获得包含路面情况的不同视角的两个视频。
所述步骤1中,均匀抽帧包括:
保持车辆在拍摄路面视频时匀速运动;
确定路面视频的拍摄画面中可清晰显示路面情况的范围的真实距离;
计算出所述车辆行驶出所述真实距离所需的行驶时间,以所述行驶时间时间计算出均匀抽帧的频率,对路面视频进行均匀抽帧。
所述步骤2中,预处理包括:路面阴影处理,光照均衡处理和复杂背景处理三个步骤。
所述步骤3中,对路面图像进行标注时,由该领域专家或使用数据标注软件针对每一图像中的情况给出路面裂缝损伤程度的严重等级,得到每张路面图像对应的路面裂缝损伤程度的分类以及裂缝区域。
所述步骤3中,路面裂缝检测集成模型的训练分为路面图像多分类与路面裂缝目标检测两个步骤,分别训练得到路面裂缝多分类模型和路面裂缝目标检测模型;其中,在路面图像多分类过程中,使数据集中四种类别的路面图像处于均衡分布,并按比例划分为训练集与测试集;而在路面裂缝目标检测过程中,使数据集中四种类别的路面图像处于长尾分布,并按比例划分为训练集与测试集,且标注为良好的路面图像处于长尾分布的尾部,从而让模型更加关注于裂缝特征的学习。在训练过程基于遗传算法自动优化神经网络拓扑结构和超参数,利用优化后的神经网络拓扑结构和超参数对模型进行训练,最终得到路面图像多分类模型与路面裂缝目标检测模型的最佳权重。
所述步骤3中,在云端载入路面图像多分类模型与路面裂缝目标检测模型的最佳权重,检测时将两个视频的路面裂缝分类结果进行加权平均,得到最终的路面分类结果以及路面裂缝的检测结果,将结果保存至本地;根据路面裂缝损伤程度的分类直接给出路面无需养护、需要进行小修养护、需要进行中修养护工程或者需要进行大修养护工程的建议。
所述步骤4中,使用web端调用接口进行实时的地理位置信息检测,通过云计算得到视频中每帧的位置信息和对应时间,并将地理位置信息和对应时间同时保存至数据库,在云端检测时根据每一帧路面图像对应的时间与数据库中的时间进行匹配,时间相同则匹配成功,并将该时间对应的地理位置信息与检测结果在地图上进行可视化展示。
所述步骤4中,具体步骤包括:
编写HTML5的代码,调用“百度地图”的API,获取实时的地理位置信息。
每间隔0.5秒记录下当前地理位置信息和对应的实时时间,通过车辆匀速运动的时间以及拍摄视频每秒的帧数,在云端计算出每帧对应时间下车辆的地理位置,并将计算出的地理位置信息和对应时间导入数据库;
检测时,按照每帧对应的时间匹配数据库中对应的地理位置信息。
所述生成整个检测路段的可视化路面裂缝损伤地图图示包括:
检测结果将每帧的路面损伤程度进行了分类,依据所述分类在地图上对该道路进行路面损伤图示的绘制,将四种类型的路段绘制成不同颜色,由此实现路面裂缝损伤可视化。
与现有技术相比,本发明的有益效果如下:
1)、本发明基于路面裂缝图像数据量大、裂缝分类较多、特征复杂、噪声环境较强等特点,采用三维路面裂缝检测技术,由承载摄像头的检测车对路面进行检测,直接获取路面的三维信息,从深度上区分路面与裂缝,不受光照不均、阴影等的影响,合理实用且不用封路。
2)、本发明在车辆移动过程中摄像头拍摄包含路面情况的不同视角的两个视频,能更好地覆盖多车道的路面情况,对视频进行均匀抽帧,由此获得路面的图像。
3)、本发明进行基本的图像预处理后,设计了基于量子优化的自适应确定权值的神经网络,对路面图像进行重建得到高分辨率的路面图像,大大降低了摄像头的成本。
4)、本发明采用最新的深度学习算法,大大提高了模型检测推理路面图像的速度,并结合web端定位的方法识别路面裂缝,实现了路面裂缝的快速高效检测与定位。
5)、本发明使用遗传算法自动优化神经网络拓扑结构和超参数,避免了人工通过大量实验结果设置经验参数的低效与不足,同时在相同精度要求下求解得到最轻量级的网络构架,最大限度地释放了深度学习对硬件的依赖。
6)、本发明中大部分计算采用云计算的方式在云端自动完成,将计算后的结果保存至本地,降低了本地硬件设备的成本。
7)、本发明高度智能化,只需拍摄视频就可得到路面损伤地图图示以及对该路段的修补建议,还可以对标注后的视频做进一步的观察,可视化的界面让公路护理人员准确清晰地掌握公路路面损伤情况,大大减少了公路护理人员的工作量。
附图说明
图1是本发明检测方法流程示意图。
图2是本发明实施例中基于yolov5的路面裂缝目标检测模型的检测效果图。
图3是本发明实施例中基于efficientnet的路面图像多分类模型与web端定位生成的可视化路面裂缝损伤地图图示。
具体实施方式
下面结合附图和实施例详细说明本发明的实施方式。
如图1所示,本发明为一种基于深度学习与web端定位的路面裂缝检测方法,包括如下步骤:
步骤1:将两个摄像头安装在车辆上的不同部位,在车辆行驶过程中摄像头拍摄包含路面情况的不同视角的两个视频,并可使得拍摄能更清晰全面地覆盖路面,对视频进行均匀抽帧,由此获得路面图像。
本实施例将两个摄像头分别安装在车头和车顶,并调整两个摄像头的拍摄角度,使得两个摄像头的拍摄距离相同,由此获得不同视角的两个视频。车辆型号为大众,行驶区域为北京市怀柔区,行驶速度保持在55km/h,拍摄当日天气情况晴,摄像头型号为C4X,像素为2560*1440。
均匀抽帧的方法如下:
保持车辆在拍摄路面视频时匀速运动;
确定路面视频的拍摄画面中可清晰显示路面情况的范围的真实距离;
计算出车辆行驶出真实距离所需的行驶时间,以行驶时间时间计算出均匀抽帧的频率,对路面视频进行均匀抽帧。
本实施例中,车辆基本保持55km/h的匀速运动,可计算出两个摄像头拍摄画面清晰可见部分真实距离约为4米,对应以每秒4帧对视频进行均匀抽帧。最终,两个摄像头获得路面图像均为2836张,共5672张。
步骤2:对获取到的路面图像进行预处理,预处理需要考虑到以下因素,包括:
增强路面图像的清晰度,降低由于阴影和光照不均等因素对图像质量的影响;
消除图像中的噪声,减少图像滤波导致的裂缝信息丢失。
因此,本发明的预处理主要包括:路面阴影处理,光照均衡处理和复杂背景处理三个步骤。
设计基于量子优化的自适应确定权值神经网络对路面图像进行重建,以得到高分辨率的路面图像包括:
1)网络结构由高分辨率路面图像生成网络和路面图像先验信息估计网络两部分组成。
2)生成网络完成高分辨率路面图像的生成,在生成对抗网络的基础上加入了正则化项来加强生成的高分辨率图像和原始图像之间的联系。
3)先验信息估计网络用于生成路面图像的几何先验信息,为生成网络提供路面的结构先验。
4)两者通过协同循环的方式结合起来,逐步生成高分辨率路面图像。
5)利用基于视觉显著机制的PSNR,SSIM改进评价方法来客观评估图像重建的结果
本实施例选择OTSU图像分割算法进行路面阴影处理,采用直方图均衡化和中值滤波来降低光照不均带来的影响,使用改进的双边滤波算法将非目标信息滤除,以此来达到消除噪声的目的。
步骤3:将路面图像依据损伤程度的不同标注为良好、一级、二级和三级,损伤程度依次加重,并标注裂缝在图像中的位置,由此获得路面裂缝损伤的数据集,利用该数据集训练基于深度学习的路面裂缝检测集成模型,在训练过程基于遗传算法自动优化神经网络拓扑结构和超参数,将两个视频中同一位置的路面损伤程度进行加权平均,给出路面裂缝损伤程度的分类与路面裂缝的检测结果,并针对分类给出路面养护的建议。
本发明路面裂缝检测集成模型由路面图像多分类模型和路面裂缝目标检测模型集成得到,相应地,集成模型的训练分为路面图像多分类与路面裂缝目标检测两个步骤,路面裂缝检测集成模型的构建过程具体包括:
1)对经过所述步骤1和所述步骤2处理的路面图像进行标注,由该领域专家或使用数据标注软件针对每一图像中的情况给出路面裂缝损伤程度的严重等级,得到每张路面图像对应的路面裂缝损伤程度的分类以及裂缝区域。
本实施例使用数据标注软件labelme进行标注,按照良好、一级、二级、三级四类进行标注,得到每张图像对应的json文件,其中包括图像的类别以及矩形框的坐标。
2)对标注结果进行统计,将四种类别按照均衡分布和长尾分布组成两个路面图像数据集,并将路面图像数据集按照比例分为训练集与测试集。在路面图像多分类过程中,使用均衡分布的路面图像数据集,利于路面裂缝多分类模型的训练,而在路面裂缝目标检测过程中,使长尾分布的路面图像处于长尾分布,让情况良好的路面图像处于长尾分布的尾部,能让模型更加关注于裂缝特征的学习,利于路面裂缝目标检测模型的训练。
本实施例中,每个摄像头存在裂缝的路面图像为1564张,共3128张,其中类别为一级的图像共有1104张,类别为二级的图像共有1042张,类别为三级的图像共有982张,每个摄像头路面良好的图像为1272张,共2544张。一张存在裂缝的图像中可能标注多条裂缝,不存在良好的路面。一张路面良好的图像没有裂缝的标注。将图像分别制作成四种类别呈均衡分布与长尾分布的数据集,可以观察到现有存在裂缝的三种图像数量基本为1:1:1,为了使一级,二级,三级和良好这四类图像的数量基本呈均衡分布,计算得出存在裂缝的三种图像数量的平均值为1042,随机在路面良好的图像中选取1042张加入数据集,最终构成由3128张路面裂缝图像和1042张路面良好图像组成均衡分布的图像数据集;为了使目标检测数据集拥有长尾分布的特性,更加关注裂缝特征的检测,则应该让路面良好的图像数量占比较少,这里选取一级,二级,三级的图像数量与路面良好的图像数量比均接近4:1,计算得出应该选取的路面良好的图像数量为256张,随机在路面良好的图像中选取256张加入数据集,最终构成由3128张路面裂缝图像和256张路面良好图像组成长尾分布的图像数据集,并将两类数据集按照7:3的比例分为训练集和测试集。
3)构建基于深度学习的路面图像多分类模型与路面裂缝目标检测模型,将均衡分布的数据集输入路面图像多分类模型进行训练,将长尾分布的数据集输入路面裂缝目标检测模型进行训练,在训练过程基于遗传算法自动优化神经网络拓扑结构和超参数,最终得到路面图像多分类模型与路面裂缝目标检测模型的最佳权重,遗传算法自动优化神经网络拓扑结构和超参数的步骤包括:
1、将卷积神经网络卷积核数量、卷积核和池化核的尺寸、训练的最大迭代次数及正则化因子等参数作为每个独立的个体的基因。
2、其中每20个个体组成一个小规模种群,以初始化的种群作为父代参与训练,并计算每个个体对应的适应度值。
3、采取优选,交叉和变异的进化方式,通过遗传迭代进化出满足适应度要求的个体作为目标参数参与最终的路面图像多分类模型和路面裂缝目标检测模型的训练。
本实施例基于efficientnet算法构建路面图像多分类模型,efficientnet主要利用复合系数统一缩放模型的所有维度,进而提升模型的精度和效率。将均衡分布的数据集输入基于efficientnet的路面图像多分类模型进行训练,训练精度设置为10-5,根据遗传算法自动优化神经网络拓扑结构和超参数,最终获得基于efficientnet的路面图像多分类模型的最佳权重。本实施例基于yolov5算法构建路面裂缝目标检测模型,yolov5将物体检测作为回归问题求解。基于一个单独的end-to-end网络,完成从原始图像的输入到物体位置和类别的输出。将长尾分布的数据集输入基于yolov5的路面裂缝目标检测模型进行训练,训练精度设置为10-5,根据遗传算法自动优化神经网络拓扑结构和超参数,最终获得基于yolov5的路面图像多分类模型的最佳权重。
4)在云端载入路面图像多分类模型与路面裂缝目标检测模型的最佳权重,将两个摄像头得到的检测视频进行均匀抽帧,图像预处理和图像重建,得到两个测试集,同时输入路面图像多分类模型与路面裂缝目标检测模型,输出路面裂缝损伤分类时对两个视频的分类结果进行加权平均,最终输出路面裂缝损伤严重程度的分类以及路面裂缝检测框的位置信息,并将结果保存至本地。根据不同的类别对应给出不同的养护意见,一级损伤给出需要进行小修养护的意见,二级损伤给出需要进行中修养护工程的意见,三级损伤给出需要进行大修养护工程的意见。检测效果如图2所示。
步骤4:利用web端的接口实时记录车辆在地图中的地理位置,在云端计算出每帧的位置信息和对应时间,并将位置信息和对应时间保存在数据库中,在检测时依据每帧的时间调用数据库中对应时间的地理位置,由此生成整个检测路段的可视化路面裂缝损伤地图图示,便于公路运维养护人员直观地了解该路段的裂缝损伤情况。
本发明使用web端调用接口进行实时的地理位置信息检测,在云端计算出每帧的位置信息和对应时间后,将地理位置信息和对应时间同时保存至数据库,根据每一路面图像对应的时间与数据库中的时间进行匹配,时间相同则匹配成功,并将该时间对应的地理位置信息与检测结果在地图上进行可视化展示。
本实施例中,编写HTML5的代码,调用“百度地图”的API,获取实时的地理位置信息。每间隔0.5秒记录下当前地理位置信息和对应的实时时间,通过车辆匀速运动的时间以及拍摄视频每秒的帧数,在云端计算出每帧对应时间下车辆的地理位置,并将计算出的地理位置信息和对应时间导入数据库。检测时,按照每帧对应的时间匹配数据库中对应的地理位置信息。
检测结果输出了每帧的路面损伤程度的类别之后,依据所述类别在地图上对该道路进行路面损伤图示的绘制,若类别为良好则该路段不绘制,若类别为一级则该路段绘制成绿色,若类别为二级则该路段绘制成蓝色,若类别为三级则该路段绘制成红色,由此实现路面裂缝损伤可视化。可视化路面裂缝损伤地图图示如图3所示。
综上,本发明将路面裂缝检测与地理位置定位结合,生成可视化路面裂缝损伤地图图示,适用于公路路面视频中的裂缝自动检测与识别,对相似路段可以直接使用,具有成本低、实时性好、应用场景广泛、抗干扰能力强等优点。
Claims (10)
1.一种基于深度学习与web端定位的路面裂缝检测方法,其特征在于,包括如下步骤:
步骤1:将两个摄像头安装在车辆上的不同部位,在车辆行驶过程中摄像头拍摄包含路面情况的不同视角的两个视频,对视频进行均匀抽帧,由此获得路面图像;
步骤2:对获取到的路面图像进行预处理,并设计基于量子优化的自适应确定权值神经网络对图像进行重建;
步骤3:将路面图像依据损伤程度的不同标注为良好、一级、二级和三级,损伤程度依次加重,并标注裂缝在图像中的位置,由此获得路面裂缝损伤的数据集,利用该数据集训练基于深度学习的路面裂缝检测集成模型,在训练过程基于遗传算法自动优化神经网络拓扑结构和超参数,检测时将两个视频中同一位置的路面损伤程度进行加权平均,给出路面裂缝损伤程度的分类与路面裂缝的检测结果,并针对分类给出路面养护的建议;
步骤4:利用web端的接口实时记录车辆在地图中的地理位置,通过云计算得到视频中每帧的位置信息和对应时间,并保存在数据库中,在云端进行模型的检测,检测时依据每帧的时间调用数据库中对应时间的地理位置,由此生成整个检测路段的可视化路面裂缝损伤地图图示,便于公路运维养护人员直观地了解该路段的裂缝损伤情况。
2.根据权利要求1所述基于深度学习与web端定位的路面裂缝检测方法,其特征在于,所述步骤1中,摄像头分别安装在车头和车顶,并调整两个摄像头的角度,使得两个摄像头拍摄路面的距离相同,由此获得包含路面情况的不同视角的两个视频。
3.根据权利要求1所述基于深度学习与web端定位的路面裂缝检测方法,其特征在于,所述步骤1中,均匀抽帧包括:
保持车辆在拍摄路面视频时匀速运动;
确定路面视频的拍摄画面中可清晰显示路面情况的范围的真实距离;
计算出所述车辆行驶出所述真实距离所需的行驶时间,以所述行驶时间时间计算出均匀抽帧的频率,对路面视频进行均匀抽帧。
4.根据权利要求1所述基于深度学习与web端定位的路面裂缝检测方法,其特征在于,所述步骤2中,预处理包括:路面阴影处理,光照均衡处理和复杂背景处理三个步骤。
5.根据权利要求1所述基于深度学习与web端定位的路面裂缝检测方法,其特征在于,所述步骤3中,对路面图像进行标注时,由该领域专家或使用数据标注软件针对每一图像中的情况给出路面裂缝损伤程度的严重等级,得到每张路面图像对应的路面裂缝损伤程度的分类以及裂缝区域。
6.根据权利要求1所述基于深度学习与web端定位的路面裂缝检测方法,其特征在于,所述步骤3中,路面裂缝检测集成模型的训练分为路面图像多分类与路面裂缝目标检测两个步骤,分别训练得到路面裂缝多分类模型和路面裂缝目标检测模型;其中,在路面图像多分类过程中,使数据集中四种类别的路面图像处于均衡分布,并按比例划分为训练集与测试集;而在路面裂缝目标检测过程中,使数据集中四种类别的路面图像处于长尾分布,并按比例划分为训练集与测试集,且标注为良好的路面图像处于长尾分布的尾部,从而让模型更加关注于裂缝特征的学习;其中,在训练过程基于遗传算法自动优化神经网络拓扑结构和超参数,利用优化后的神经网络拓扑结构和超参数对模型进行训练,最终得到路面图像多分类模型与路面裂缝目标检测模型的最佳权重。
7.根据权利要求6所述基于深度学习与web端定位的路面裂缝检测方法,其特征在于,所述步骤3中,检测时,在云端载入路面图像多分类模型与路面裂缝目标检测模型的最佳权重,将两个视频的路面裂缝分类结果进行加权平均,得到最终的路面分类结果以及路面裂缝的检测结果,将结果保存至本地;根据路面裂缝损伤程度的分类直接给出路面无需养护、需要进行小修养护、需要进行中修养护工程或者需要进行大修养护工程的建议。
8.根据权利要求1所述基于深度学习与web端定位的路面裂缝检测方法,其特征在于,所述步骤4中,使用web端调用接口进行实时的地理位置信息检测,再通过云计算得到视频中每帧的位置信息和对应时间,并将地理位置信息和对应时间同时保存至数据库,在云端检测时根据每一帧路面图像对应的时间与数据库中的时间进行匹配,时间相同则匹配成功,并将该时间对应的地理位置信息与检测结果在地图上进行可视化展示。
9.根据权利要求1所述基于深度学习与web端定位的路面裂缝检测方法,其特征在于,所述步骤4中,具体步骤包括:
编写HTML5的代码,调用“百度地图”的API,获取实时的地理位置信息。
每间隔0.5秒记录下当前地理位置信息和对应的实时时间,通过车辆匀速运动的时间以及拍摄视频每秒的帧数,在云端计算出每帧对应时间下车辆的地理位置,并将计算出的地理位置信息和对应时间导入数据库;
检测时,按照每帧对应的时间匹配数据库中对应的地理位置信息。
10.根据权利要求1所述基于深度学习与web端定位的路面裂缝检测方法,其特征在于,所述生成整个检测路段的可视化路面裂缝损伤地图图示包括:
检测结果将每帧的路面损伤程度进行了分类,依据所述分类在地图上对该道路进行路面损伤图示的绘制,将四种类型的路段绘制成不同颜色,由此实现路面裂缝损伤可视化。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110785735.XA CN113628164A (zh) | 2021-07-12 | 2021-07-12 | 一种基于深度学习与web端定位的路面裂缝检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110785735.XA CN113628164A (zh) | 2021-07-12 | 2021-07-12 | 一种基于深度学习与web端定位的路面裂缝检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113628164A true CN113628164A (zh) | 2021-11-09 |
Family
ID=78379537
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110785735.XA Pending CN113628164A (zh) | 2021-07-12 | 2021-07-12 | 一种基于深度学习与web端定位的路面裂缝检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113628164A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115012281A (zh) * | 2022-05-30 | 2022-09-06 | 海南大学 | 一种道路路面质量检测方法及装置 |
WO2023151401A1 (zh) * | 2022-02-09 | 2023-08-17 | 城云科技(中国)有限公司 | 异常市政设施的定位方法、装置及其应用 |
CN117456194A (zh) * | 2023-12-21 | 2024-01-26 | 青岛亿联建设集团股份有限公司 | 一种基于图像处理的路面裂缝提取方法 |
-
2021
- 2021-07-12 CN CN202110785735.XA patent/CN113628164A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023151401A1 (zh) * | 2022-02-09 | 2023-08-17 | 城云科技(中国)有限公司 | 异常市政设施的定位方法、装置及其应用 |
CN115012281A (zh) * | 2022-05-30 | 2022-09-06 | 海南大学 | 一种道路路面质量检测方法及装置 |
CN115012281B (zh) * | 2022-05-30 | 2023-09-05 | 海南大学 | 一种道路路面质量检测方法及装置 |
CN117456194A (zh) * | 2023-12-21 | 2024-01-26 | 青岛亿联建设集团股份有限公司 | 一种基于图像处理的路面裂缝提取方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113628164A (zh) | 一种基于深度学习与web端定位的路面裂缝检测方法 | |
CN110188835B (zh) | 基于生成式对抗网络模型的数据增强行人再识别方法 | |
CN109886947A (zh) | 基于区域的卷积神经网络的高压电线缺陷检测方法 | |
CN112330593A (zh) | 基于深度学习网络的建筑物表面裂缝检测方法 | |
CN114241511B (zh) | 一种弱监督行人检测方法、系统、介质、设备及处理终端 | |
CN112668375B (zh) | 景区内游客分布分析系统及方法 | |
CN112818775B (zh) | 基于区域边界像素交换的林区道路快速识别方法及系统 | |
CN116863274A (zh) | 一种基于半监督学习的钢板表面缺陷检测方法及系统 | |
CN112749654A (zh) | 一种用于视频大雾监测的深度神经网络模型构建方法、系统及装置 | |
CN115937518A (zh) | 一种基于多源图像融合的路面病害识别方法及系统 | |
CN114972177A (zh) | 道路病害识别管理方法、装置及智能终端 | |
CN113313107A (zh) | 一种斜拉桥缆索表面多类型病害智能检测和识别方法 | |
CN116597270A (zh) | 基于注意力机制集成学习网络的道路损毁目标检测方法 | |
CN113469097B (zh) | 一种基于ssd网络的水面漂浮物多相机实时检测方法 | |
Arif et al. | Adaptive deep learning detection model for multi-foggy images | |
CN112883969B (zh) | 一种基于卷积神经网络的降雨强度检测方法 | |
Wang et al. | Advanced crack detection and quantification strategy based on CLAHE enhanced DeepLabv3+ | |
CN116052110B (zh) | 一种路面标线缺损智能定位方法及系统 | |
CN116977917A (zh) | 一种红外图像行人检测方法 | |
Baduge et al. | Assessment of crack severity of asphalt pavements using deep learning algorithms and geospatial system | |
CN115239689A (zh) | 一种路面信息的检测、计算方法、检测系统、设备及计算机可读存储介质 | |
CN112686105B (zh) | 一种基于视频图像多特征融合的雾浓度等级识别方法 | |
Vanitha et al. | A Novel Deep Learning Method for the Identification and Categorization of Footpath Defects based on Thermography | |
CN116052135B (zh) | 一种基于纹理特征的雾天交通标志识别方法 | |
Liu et al. | Enhanced Visual Pipeline Defect Detection Using Partial Convolution Image Restoration |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |