CN113837007A - 一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法 - Google Patents

一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法 Download PDF

Info

Publication number
CN113837007A
CN113837007A CN202110971025.6A CN202110971025A CN113837007A CN 113837007 A CN113837007 A CN 113837007A CN 202110971025 A CN202110971025 A CN 202110971025A CN 113837007 A CN113837007 A CN 113837007A
Authority
CN
China
Prior art keywords
vehicle
matching
image
point
bridge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110971025.6A
Other languages
English (en)
Other versions
CN113837007B (zh
Inventor
李惠
黄永
谢俊鑫
陈智成
鲍跃全
蒋运泉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin Institute of Technology
Original Assignee
Harbin Institute of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Institute of Technology filed Critical Harbin Institute of Technology
Priority to CN202110971025.6A priority Critical patent/CN113837007B/zh
Publication of CN113837007A publication Critical patent/CN113837007A/zh
Application granted granted Critical
Publication of CN113837007B publication Critical patent/CN113837007B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

本发明提出了一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法,所述方法首先进行目标车辆图像的获得及车辆荷载信息关联,然后利用基于HardNet深度学习描述符的图像匹配方法实现不同监控视频图像中的车辆识别,最后对给定时刻的所有位置监控视野中的车辆进行识别,结合目标车辆图像附加的车辆荷载信息,实现桥梁上的车辆荷载识别。本发明的图像匹配过程在各种监控场景下都能很好地建立车辆图像间的点特征对应关系,对于不同监控视频图像间存在的亮度、视角以及尺度变化都有着很好的鲁棒性,从而使得本方法能够有效应对复杂多变的实际监控场景的挑战,稳定识别桥上的车辆荷载。

Description

一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布 识别方法
技术领域
本发明属于桥梁健康监测技术领域,特别是涉及一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法。
背景技术
车辆荷载是桥梁最主要的荷载之一,在各种荷载组合中占很重要的地位。它是产生桥梁疲劳劣化最主要的原因,同时也是桥梁进行时变可靠性分析、剩余寿命预测以及极限承载能力计算等的研究基础之一。随着我国社会、经济和交通运输业的发展,桥梁的车辆荷载状况发生了很大的变化,出现了大量的车辆超载现象,使桥梁处于超负荷运营状态,这将加速桥梁的疲劳破坏,特别是集群出现的超重大型车辆,更是使桥梁的疲劳可靠性和极限承载能力面临严峻考验。因此,准确识别大型车辆荷载对于桥梁结构的受荷状态评估与管理至关重要。
安装在很多桥梁上的动态称重系统,能够直接测量过往车辆的重量,轴数和速度信息,这为识别桥梁上大型车辆荷载提供了可能性。但动态称重系统往往只布置在桥头等桥梁局部位置,因此直接利用其识别全桥的车辆荷载信息是不可能的。监控摄像机由于其安装维护便捷且费用较低、可监控范围广、可获取更多种类的交通参数、而且适用于多桥梁类型等诸多优点,在桥梁监测系统中得到了越来越广泛的应用。安装在桥梁道路上方的监控摄像机持续监控道路状况和过往车辆,得到的视频图像序列中蕴含着车辆的位置信息。因此,结合监控摄像机和运动称重系统成为桥梁健康监测领域中桥梁车辆荷载识别方法的一种很有前景的策略,并且近些年来受到越来越多的关注。
在结合监控视频信息与动态称重系统信息的桥梁车辆荷载识别方法中,如何建立桥梁上不同位置的监控视频中车辆的对应关系,从而提取车辆位置信息,是系统建立的关键问题。但目前的方法或是对光照变化敏感,无法稳定建立各种情况下的车辆对应关系,或是需要相邻监控摄像机间存在重叠视野,只适用于实际应用中的一些特殊情况。基于点特征的图像匹配方法是一种建立图像间对应关系的计算机视觉方法,是该问题的解决方案。
发明内容
本发明的目的是为了解决现有技术中的问题,提出了一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法。
本发明是通过以下技术方案实现的,本发明提出一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法,具体包括以下步骤:
步骤一、根据车辆通过动态称重系统的时间以及其在此处监控视频中出现的时间,将车辆重量附加在对应的车辆图像上,同时截取通过的车辆图像作为目标车辆图像;
步骤二、构建基于HardNet描述符的图像匹配方法以匹配识别不同监控视频中的目标车辆;
步骤三、对给定时刻的所有位置监控视频中的车辆进行匹配识别,建立车辆对应关系,提取车辆位置信息,结合目标车辆图像附加的车辆荷载信息,实现桥梁上的车辆荷载识别。
进一步地,所述步骤一具体为:
步骤1.1、从动态称重系统中读取通过的车辆的通过时间、速度和重量;
步骤1.2、利用基于YOLOV3的车辆检测方法检测截取视频中通过动态称重系统区域的车辆作为目标车辆图像,同时记录检测截取时间;
步骤1.3、将从动态称重系统中提取到的车辆的速度与重量信息附加到同一时间从视频监控系统中检测截取的目标车辆图像上。
进一步地,所述步骤二具体为:
步骤2.1、以加速分段测试的特征提取FAST算法在构造的图像尺度空间金字塔中检测车辆图像中的点特征;
步骤2.2、将点特征及其周围区域输入到经过训练的HardNet深度神经网络中,以获得HardNet点特征描述符;
步骤2.3、利用最近邻匹配方法和SIFT匹配条件来初步建立两个图像的HardNet点特征描述符之间的匹配关系;
步骤2.4、与目标车辆图像建立最多点特征对应关系的待识别车辆图像即为识别结果。
进一步地,所述步骤2.1具体为:
步骤2.1.1、将原始图像不断进行下采样构建图像尺度金字塔;
步骤2.1.2、以加速分段测试的特征提取FAST算法检测尺度金字塔每一层的候选点特征;
步骤2.1.3、对所有候选点特征执行非最大值抑制,保留每个区域里最稳定的点特征,判断在每个候选点特征附近是否存在多个点特征,如果存在,计算每个点特征的函数值V:
Figure BDA0003225759510000031
其中Sbright={x|Ix≥Ip+s},Sdark={x|Ix≤Ip-s},Ip和s是要检测的点的强度值和选定的阈值,Ix表示以检测的点为中心,半径为3的圆周上像素的灰度值;如果该点特征的V值在邻域中最大,保留该点特征;否则,删除该点特征;如果在某点特征的邻域中没有其他点特征,则直接保留该点特征;
步骤2.1.4、对获得的尺度空间金字塔每一层中的点特征位置进行亚像素插值,获得图像点特征的精确坐标。
进一步地,所述步骤2.2具体为:
步骤2.2.1、构建HardNet深度神经网络,网络的输入为32×32像素的图像块,输出为L2规范化的128维特征描述符;
步骤2.2.2、以车辆匹配图像数据集联合训练HardNet深度神经网络,网络的损失函数为:
Figure BDA0003225759510000032
式中n为一个批次的数据量,d(ai,pi)为一批训练图像中第i组匹配图像块的描述符间的欧式距离,
Figure BDA0003225759510000033
为第i个图像块描述符ai与其最接近的不匹配的图像块描述符
Figure BDA0003225759510000034
间的欧式距离,
Figure BDA0003225759510000035
为第i个图像块描述符pi与其最接近的不匹配的图像块描述符
Figure BDA0003225759510000036
间的欧式距离;
步骤2.2.3、将步骤2.1检测到的点特征及其周围区域输入训练好的深度神经网络获得HardNet深度学习描述符。
进一步地,所述步骤2.3中对于两幅图像的匹配过程具体为:
步骤2.3.1、在第一幅图像中选择一个HardNet点特征描述符,计算其与第二幅图像中所有HardNet点特征描述符之间的欧几里得距离,然后保留距离最小的前两个描述符;
步骤2.3.2、对保留的第二幅图中的两个描述符应用SIFT匹配准则,在这两个描述符中,如果与第一幅图的描述符最近的距离除以次近的距离得到的比率小于设定的阈值r,则接受最近的描述符作为匹配描述符;
步骤2.3.3、对第一幅图中的所有点特征描述符重复步骤2.3.1-2.3.2,初步建立两幅图的点特征对应关系。
进一步地,所述步骤三具体为:
步骤3.1、结合搜索时间区间估计、匹配图像区域限制和隔帧搜索搜索匹配策略确定目标车辆车辆搜索视频范围;
步骤3.2、利用基于HardNet深度学习描述符的图像匹配方法对目标车辆在搜索视频范围中进行匹配识别,确定车辆在视频中的出现帧及其在桥上的位置;
步骤3.3、通过联合分析桥梁上一个时段的所有通过车辆的时空信息,对桥梁当前时段内的任意时刻的荷载分布进行识别,完成桥梁车辆荷载识别分析。
进一步地,所述步骤3.1具体为:
步骤3.1.1、利用车辆在通过动态称重系统时记录的车速信息,结合需要分析的监控与动态称重系统的距离,预估车辆到达该处监控的时间区间;
步骤3.1.2、对于获得的时间区间范围内的视频进行抽帧处理,进一步减小搜索范围;
步骤3.1.3、去掉视频帧内多余区域,聚焦图像匹配任务关注的区域,控制匹配图像范围。
进一步地,所述步骤3.2具体为:
步骤3.2.1、利用基于HardNet深度学习描述符的图像匹配方法对目标车辆在处理后的视频流中进行匹配识别,设定一个匹配点对数阈值初步滤除干扰匹配项,获得存储帧号与匹配点对数的匹配序列;
步骤3.2.2、以与目标车辆图像的点特征匹配对的数目为依据对匹配序列进行降序排列,检查匹配点特征对的数量并选择匹配点特征对数目的突然减少点作为阈值;如果匹配点特征对的数量大于阈值,则保留对应的搜索帧,否则,去掉序列中的对应的搜索帧;
步骤3.2.3、对筛选后的序列,以搜索帧的帧号次进行升序排列,获得匹配序列的中位数帧号,并将其作为该目标车辆图像在序列中的出现帧,实现对该目标车辆在视频流中的识别;
步骤3.2.4、利用基于归一化互相关系数的模板匹配算法确定目标车辆在视频出现帧中的具体位置;
步骤3.2.5、利用霍夫直线检测算法检测监控视频中的车道线,并判断车辆的位置与车道线的相对位置关系,实现监控视频中的车辆车道定位。
本发明的有益效果为:
1、本发明能够广泛适用于各种桥梁监控场景,对监控摄像机的安装位置与角度均无特别要求。
2、本发明能有效应对实际桥梁监控场景下存在的视频亮度,视角和尺度变化挑战,稳定识别桥上的车辆荷载。
附图说明
图1为本发明基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法的流程图;
图2为本发明中图像尺度金字塔的示意图;
图3为本发明中的图像匹配方法在实施例中不同监控场景下的点特征对应关系建立示意图;其中(a)为监控场景1下的对应关系;(b)为监控场景2下的对应关系;(c)为监控场景3下的对应关系;
图4为本发明的实施例2中的监控布置位置示意图;
图5为本发明的实施例2中在图4的1号监控处获得的目标车辆的示意图;其中(a)为目标车辆图像1;(b)为目标车辆图像2;
图6为本发明的实施例2中在图4的2号监控处对图5目标车辆的匹配结果示意图;其中(a)为对应目标车辆图像1的匹配结果;(b)为对应目标车辆图像2的匹配结果;
图7为本发明的实施例2中在图4的3号监控处对图5目标车辆的匹配结果示意图:其中(a)为对应目标车辆图像1的匹配结果;(b)为对应目标车辆图像2的匹配结果;
图8为分析时段内8个时刻的桥梁下行侧车辆荷载分布识别结果示意图;其中(a)为00:39:00时刻,(b)为00:39:10时刻,(c)为00:39:25时刻,(d)为00:39:30时刻,(e)为01:47:45时刻,(f)为01:47:55时刻,(g)为01:51:55时刻,(h)为01:52:00时刻。
具体实施方式
下面将结合本发明实施例中的附图对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在桥梁健康监测领域中,大型车辆荷载的识别对于桥梁结构的受荷状态评估与管理至关重要。结合监控摄像机和运动称重系统是建立桥梁车辆荷载识别方法的一种很有前景的策略,而其中如何建立桥梁上不同位置的监控视频中车辆的对应关系,从而提取车辆位置信息,是系统建立的关键问题,但现有的方法有着各自的限制。
本发明的目的是为了满足桥梁健康监测领域的需要,建立了一种基于图像匹配方法的桥梁车辆荷载识别方法,其中图像匹配方法利用HardNet神经网络作为点特征描述符,对于不同监控视频图像间存在的亮度、视角以及尺度变化都有着很好的鲁棒性,从而使得系统能够有效应对复杂多变的实际监控场景的挑战。
结合图1,本发明提出一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法,具体包括以下步骤:
步骤一、根据车辆通过动态称重系统的时间以及其在此处监控视频中出现的时间,将车辆重量附加在对应的车辆图像上,同时截取通过的车辆图像作为目标车辆图像;
步骤二、构建基于HardNet描述符的图像匹配方法以匹配识别不同监控视频中的目标车辆;
步骤三、对给定时刻的所有位置监控视野中的车辆进行匹配识别,建立车辆对应关系,提取车辆位置信息,结合目标车辆图像附加的车辆荷载信息,实现桥梁上的车辆荷载识别。
所述步骤一具体为:
步骤1.1、从动态称重系统中读取通过的车辆的通过时间、速度和重量;
步骤1.2、利用基于YOLOV3的车辆检测方法检测截取视频中通过动态称重系统区域的车辆作为目标车辆图像,同时记录检测截取时间;
步骤1.3、将从动态称重系统中提取到的车辆的速度与重量信息附加到同一时间从视频监控系统中检测截取的目标车辆图像上。
所述步骤二具体为:
步骤2.1、以加速分段测试的特征提取FAST算法在构造的图像尺度空间金字塔中检测车辆图像中的点特征;
步骤2.2、将点特征及其周围区域输入到经过训练的HardNet深度神经网络中,以获得HardNet点特征描述符;
步骤2.3、利用最近邻匹配方法和SIFT匹配条件来初步建立两个图像的HardNet点特征描述符之间的匹配关系;
步骤2.4、与目标车辆图像建立最多点特征对应关系的待识别车辆图像即为识别结果。
所述步骤2.1具体为:
步骤2.1.1、将原始图像不断进行下采样构建如图2的图像尺度金字塔,金字塔由不同尺度的4个八度(octave)层ci和4个内八度(intra-octave)层di组成,i={0,1,...,3}。每个八度层由连续地对原图c0二倍下采样获得,而位于ci层与ci+1层之间的di,除了d0是通过对原图c01.5倍下采样获得,其他都是通过由连续地对d0二倍下采样获得。图2中的方格表示像素,八度层ci的边上的像素数量是ci+1的两倍,内八度层di和di+1存在相同关系。
步骤2.1.2、以加速分割测试特征提取(FAST)算法检测尺度金字塔每一层的候选点特征。
步骤2.1.3、对所有候选点特征执行非最大值抑制,保留每个区域里最稳定的点特征,判断在每个候选点特征附近是否存在多个点特征,如果存在,计算每个点特征的函数值V:
Figure BDA0003225759510000081
其中Sbright={x|Ix≥Ip+s},Sdark={x|Ix≤Ip-s},Ip和s是要检测的点的强度值和选定的阈值,Ix表示以检测的点为中心,半径为3的圆周上像素的灰度值。如果该点特征的V值在邻域中最大,保留该点特征;否则,删除该点特征。如果在某点特征的邻域中没有其他点特征,则直接保留该点特征。
步骤2.1.4、对获得的尺度空间金字塔每一层中的点特征位置进行亚像素插值,获得图像点特征的精确坐标。
所述步骤2.2具体为:
步骤2.2.1、构建HardNet深度神经网络,网络的输入为32×32像素的图像块,输出为L2规范化的128维特征描述符。
步骤2.2.2、以车辆匹配图像数据集联合训练HardNet深度神经网络,网络的损失函数为:
Figure BDA0003225759510000082
式中n为一个批次的数据量,d(ai,pi)为一批训练图像中第i组匹配图像块的描述符间的欧式距离,
Figure BDA0003225759510000083
为第i个图像块描述符ai与其最接近的不匹配的图像块描述符
Figure BDA0003225759510000084
间的欧式距离,
Figure BDA0003225759510000085
为第i个图像块描述符pi与其最接近的不匹配的图像块描述符
Figure BDA0003225759510000086
间的欧式距离。
步骤2.2.3、将步骤2.1检测到的点特征及其周围区域输入训练好的深度神经网络获得HardNet深度学习描述符。
所述步骤2.3中对于两幅图像的匹配过程具体为:
步骤2.3.1、在第一幅图像中选择一个HardNet点特征描述符,计算其与第二幅图像中所有HardNet点特征描述符之间的欧几里得距离,然后保留距离最小的前两个描述符。
步骤2.3.2、对保留的第二幅图中的两个描述符应用SIFT匹配准则:在这两个描述符中,如果与第一幅图的描述符最近的距离除以次近的距离得到的比率小于设定的阈值r,则接受最近的描述符作为匹配描述符。
步骤2.3.3、对第一幅图中的所有点特征描述符重复2.3.1-2.3.2步骤,初步建立两幅图的点特征对应关系。
所述步骤三具体为:
步骤3.1、结合搜索时间区间估计、匹配图像区域限制和隔帧搜索搜索匹配策略,确定目标车辆车辆搜索视频范围。
步骤3.2、利用基于HardNet深度学习描述符的图像匹配方法对目标车辆在搜索视频范围中进行匹配识别,确定车辆在视频中的出现帧及其在桥上的位置。
步骤3.3、通过联合分析桥梁上一个时段的所有通过车辆的时空信息,对桥梁该时段内的任意时刻的荷载分布进行识别,完成桥梁车辆荷载识别分析。
所述步骤3.1具体为:
步骤3.1.1、利用车辆在通过动态称重系统时记录的车速信息,结合需要分析的监控与动态称重系统的距离,预估车辆到达该处监控的时间区间。
步骤3.1.2、对于获得的时间区间范围内的视频进行抽帧处理,进一步减小搜索范围。
步骤3.1.3、去掉视频帧内多余区域,聚焦图像匹配任务关注的区域,控制匹配图像范围。
所述步骤3.2具体为:
步骤3.2.1、利用基于HardNet深度学习描述符的图像匹配方法对目标车辆在处理后的视频流中进行匹配识别,设定一个较小的匹配点对数阈值初步滤除干扰匹配项,获得存储帧号与匹配点对数的匹配序列。
步骤3.2.2、以与目标车辆图像的点特征匹配对的数目为依据对匹配序列进行降序排列,检查匹配点特征对的数量并选择匹配点特征对数目的突然减少点作为阈值;如果匹配点特征对的数量大于阈值,则保留对应的搜索帧,否则,去掉序列中的对应的搜索帧;
步骤3.2.3、对筛选后的序列,以搜索帧的帧号次进行升序排列,获得匹配序列的中位数帧号,并将其作为该目标图像在序列中的出现帧,实现对该辆目标车辆在视频流中的识别。
步骤3.2.4、利用基于归一化互相关系数的模板匹配算法确定目标车辆在视频出现帧中的具体位置。
步骤3.2.5、利用霍夫直线检测算法检测监控视频中的车道线,并基于判断车辆的位置与车道线的相对位置关系,实现监控视野中的车辆车道定位。
本发明建立数据驱动的HardNet深度学习描述符,能够充分挖掘图像高级特征并保留点特征区域的信息以获得足够的区分度,对实际监控场景存在的图像尺度变化,亮度变化和视角变化等具有很好的鲁棒性。因此基于HardNet描述符的图像匹配方法能够有效地建立不同监控视频中的车辆对应关系。基于此提取车辆位置信息,结合目标车辆图像附加的车辆荷载信息,实现桥梁上的车辆荷载识别。
实施例1
本实施方式是将本发明应用于某大桥的车辆监控图像数据。该大桥是一座特大桥梁,长817.2米,宽33.5米,双向有六个车道。由于大型车辆是桥梁结构的受荷状态评估的主要考虑因素,因此本实施例中仅研究该类型车辆。
所述步骤一具体为:根据车辆通过动态称重系统的时间以及其在此处监控视频中出现的时间,将车辆重量附加在对应的车辆图像上,同时截取通过的车辆图像作为目标车辆图像;
所述步骤二具体为:利用基于HardNet描述符的图像匹配方法建立目标车辆与一个位置的一个时段内的监控视频中的所有待识别车辆间的点特征对应关系,其中与目标车辆图像建立最多对应关系的即为该处位置监控下的目标车辆。图3展示了基于HardNet描述符的图像匹配方法在各种监控场景下(分别为光照条件好、光照条件差、光照强烈变化且还存在着图像的视角及尺度变化三种情况)的目标车辆识别情况,可以看到该方法在各种场景下都能很好地建立车辆图像间的点特征对应关系,对于不同监控视频图像间存在的亮度、视角以及尺度变化都有着很好的鲁棒性,从而使得车辆荷载识别方法能够有效应对复杂多变的实际监控场景的挑战。
所述步骤三具体为:对给定时刻的所有位置监控视野中的车辆进行匹配识别,建立车辆对应关系,提取车辆位置信息,结合目标车辆图像附加的车辆荷载信息,实现桥梁上的车辆荷载识别。
实施例2
本实施方式是将本发明应用于某另一座大桥的三个位置的两个时段(时长均为6分钟)的监控视频数据,该桥梁长805米(主桥长330米,引桥长475米),桥面为双向四车道城市主干道,设计速度为40千米/小时。三个监控的布置位置情况示意如图4所示。
所述步骤一具体为:根据车辆通过动态称重系统的时间以及其在图4中1号监控视频中出现的时间,将车辆重量附加在对应的车辆图像上,同时截取通过的车辆图像作为目标车辆图像,如图5所示;
所述步骤二具体为:利用基于HardNet深度学习描述符的图像匹配方法对目标车辆在图4中2号监控与3号监控的视频流中进行匹配识别。
所述步骤三具体为:对给定时刻的所有位置监控视野中的车辆进行匹配识别,建立车辆对应关系,提取车辆位置信息,结合目标车辆图像附加的车辆荷载信息,实现桥梁上的车辆荷载识别。设定一个较小的匹配点对数阈值初步滤除干扰匹配项(本例中设置为5)获得存储帧号与匹配点对数的匹配序列。然后以与目标车辆的点特征匹配对的数目为依据对匹配序列进行降序排列,检查匹配点特征对的数量并选择突然减少点作为阈值,如果匹配点特征对的数量大于阈值,则保留对应的搜索帧,否则,去掉序列中的该搜索帧。最后,对筛选后的序列,以搜索帧的帧号为依据再次进行升序排列,获得匹配序列的中位数帧号,并将其作为该目标图像在序列中的出现帧,实现对该辆目标车辆在视频流中的识别。对图5中的目标车辆匹配识别结果展示如图6,7所示,图中标记了图像所属监控视野。
对分析时段内的8个时刻的桥梁车辆荷载分布识别如表1所示,其中的mk为车辆在动态称重系统中的车重,相同的k表示同一辆车;
表1 8个时刻的桥梁下行侧车辆荷载分布
Figure BDA0003225759510000111
Figure BDA0003225759510000121
由于车重信息以及上行侧监控的缺失,基于相关资料,采用1.5吨(t)作为小型车辆(该座桥梁上通过的主要车辆类型)车重代表值,即mk=1.5t,展示时段1与时段2内各4个时刻的桥梁下行侧(1,2车道)的车辆荷载分布(8个时刻的桥梁上均只存在小型车辆)。当车重信息与上行侧监控均可用时,可基于本发明所述方法轻易实现全桥车辆荷载的识别分析。
以上对本发明所提出的一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (9)

1.一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法,其特征在于,具体包括以下步骤:
步骤一、根据车辆通过动态称重系统的时间以及其在此处监控视频中出现的时间,将车辆重量附加在对应的车辆图像上,同时截取通过的车辆图像作为目标车辆图像;
步骤二、构建基于HardNet描述符的图像匹配方法以匹配识别不同监控视频中的目标车辆;
步骤三、对给定时刻的所有位置监控视频中的车辆进行匹配识别,建立车辆对应关系,提取车辆位置信息,结合目标车辆图像附加的车辆荷载信息,实现桥梁上的车辆荷载识别。
2.根据权利要求1所述的方法,其特征在于,所述步骤一具体为:
步骤1.1、从动态称重系统中读取通过的车辆的通过时间、速度和重量;
步骤1.2、利用基于YOLOV3的车辆检测方法检测截取视频中通过动态称重系统区域的车辆作为目标车辆图像,同时记录检测截取时间;
步骤1.3、将从动态称重系统中提取到的车辆的速度与重量信息附加到同一时间从视频监控系统中检测截取的目标车辆图像上。
3.根据权利要求1所述的方法,其特征在于,所述步骤二具体为:
步骤2.1、以加速分段测试的特征提取FAST算法在构造的图像尺度空间金字塔中检测车辆图像中的点特征;
步骤2.2、将点特征及其周围区域输入到经过训练的HardNet深度神经网络中,以获得HardNet点特征描述符;
步骤2.3、利用最近邻匹配方法和SIFT匹配条件来初步建立两个图像的HardNet点特征描述符之间的匹配关系;
步骤2.4、与目标车辆图像建立最多点特征对应关系的待识别车辆图像即为识别结果。
4.根据权利要求3所述的方法,其特征在于,所述步骤2.1具体为:
步骤2.1.1、将原始图像不断进行下采样构建图像尺度金字塔;
步骤2.1.2、以加速分段测试的特征提取FAST算法检测尺度金字塔每一层的候选点特征;
步骤2.1.3、对所有候选点特征执行非最大值抑制,保留每个区域里最稳定的点特征,判断在每个候选点特征附近是否存在多个点特征,如果存在,计算每个点特征的函数值V:
Figure FDA0003225759500000021
其中Sbright={x|Ix≥Ip+s},Sdark={x|Ix≤Ip-s},Ip和s是要检测的点的强度值和选定的阈值,Ix表示以检测的点为中心,半径为3的圆周上像素的灰度值;如果该点特征的V值在邻域中最大,保留该点特征;否则,删除该点特征;如果在某点特征的邻域中没有其他点特征,则直接保留该点特征;
步骤2.1.4、对获得的尺度空间金字塔每一层中的点特征位置进行亚像素插值,获得图像点特征的精确坐标。
5.根据权利要求3所述的方法,其特征在于,所述步骤2.2具体为:
步骤2.2.1、构建HardNet深度神经网络,网络的输入为32×32像素的图像块,输出为L2规范化的128维特征描述符;
步骤2.2.2、以车辆匹配图像数据集联合训练HardNet深度神经网络,网络的损失函数为:
Figure FDA0003225759500000022
式中n为一个批次的数据量,d(ai,pi)为一批训练图像中第i组匹配图像块的描述符间的欧式距离,
Figure FDA0003225759500000023
为第i个图像块描述符ai与其最接近的不匹配的图像块描述符
Figure FDA0003225759500000024
间的欧式距离,
Figure FDA0003225759500000025
为第i个图像块描述符pi与其最接近的不匹配的图像块描述符
Figure FDA0003225759500000026
间的欧式距离;
步骤2.2.3、将步骤2.1检测到的点特征及其周围区域输入训练好的深度神经网络获得HardNet深度学习描述符。
6.根据权利要求3所述的方法,其特征在于,所述步骤2.3中对于两幅图像的匹配过程具体为:
步骤2.3.1、在第一幅图像中选择一个HardNet点特征描述符,计算其与第二幅图像中所有HardNet点特征描述符之间的欧几里得距离,然后保留距离最小的前两个描述符;
步骤2.3.2、对保留的第二幅图中的两个描述符应用SIFT匹配准则,在这两个描述符中,如果与第一幅图的描述符最近的距离除以次近的距离得到的比率小于设定的阈值r,则接受最近的描述符作为匹配描述符;
步骤2.3.3、对第一幅图中的所有点特征描述符重复步骤2.3.1-2.3.2,初步建立两幅图的点特征对应关系。
7.根据权利要求1所述的方法,其特征在于,所述步骤三具体为:
步骤3.1、结合搜索时间区间估计、匹配图像区域限制和隔帧搜索搜索匹配策略确定目标车辆车辆搜索视频范围;
步骤3.2、利用基于HardNet深度学习描述符的图像匹配方法对目标车辆在搜索视频范围中进行匹配识别,确定车辆在视频中的出现帧及其在桥上的位置;
步骤3.3、通过联合分析桥梁上一个时段的所有通过车辆的时空信息,对桥梁当前时段内的任意时刻的荷载分布进行识别,完成桥梁车辆荷载识别分析。
8.根据权利要求7所述的方法,其特征在于,所述步骤3.1具体为:
步骤3.1.1、利用车辆在通过动态称重系统时记录的车速信息,结合需要分析的监控与动态称重系统的距离,预估车辆到达该处监控的时间区间;
步骤3.1.2、对于获得的时间区间范围内的视频进行抽帧处理,进一步减小搜索范围;
步骤3.1.3、去掉视频帧内多余区域,聚焦图像匹配任务关注的区域,控制匹配图像范围。
9.根据权利要求7所述的方法,其特征在于,所述步骤3.2具体为:
步骤3.2.1、利用基于HardNet深度学习描述符的图像匹配方法对目标车辆在处理后的视频流中进行匹配识别,设定一个匹配点对数阈值初步滤除干扰匹配项,获得存储帧号与匹配点对数的匹配序列;
步骤3.2.2、以与目标车辆图像的点特征匹配对的数目为依据对匹配序列进行降序排列,检查匹配点特征对的数量并选择匹配点特征对数目的突然减少点作为阈值;如果匹配点特征对的数量大于阈值,则保留对应的搜索帧,否则,去掉序列中的对应的搜索帧;
步骤3.2.3、对筛选后的序列,以搜索帧的帧号次进行升序排列,获得匹配序列的中位数帧号,并将其作为该目标车辆图像在序列中的出现帧,实现对该目标车辆在视频流中的识别;
步骤3.2.4、利用基于归一化互相关系数的模板匹配算法确定目标车辆在视频出现帧中的具体位置;
步骤3.2.5、利用霍夫直线检测算法检测监控视频中的车道线,并判断车辆的位置与车道线的相对位置关系,实现监控视频中的车辆车道定位。
CN202110971025.6A 2021-08-23 2021-08-23 一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法 Active CN113837007B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110971025.6A CN113837007B (zh) 2021-08-23 2021-08-23 一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110971025.6A CN113837007B (zh) 2021-08-23 2021-08-23 一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法

Publications (2)

Publication Number Publication Date
CN113837007A true CN113837007A (zh) 2021-12-24
CN113837007B CN113837007B (zh) 2022-04-12

Family

ID=78960942

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110971025.6A Active CN113837007B (zh) 2021-08-23 2021-08-23 一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法

Country Status (1)

Country Link
CN (1) CN113837007B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115482474A (zh) * 2022-08-24 2022-12-16 湖南科技大学 一种基于高空航拍图像的桥面车辆荷载识别方法和系统
CN115909223A (zh) * 2022-10-14 2023-04-04 北京科技大学 一种wim系统信息与监控视频数据匹配的方法和系统
CN117409379A (zh) * 2023-10-17 2024-01-16 哈尔滨工业大学 一种基于计算机视觉的大跨桥梁车辆追踪与车辆荷载谱智能识别方法
CN118366086A (zh) * 2024-06-17 2024-07-19 广东保伦电子股份有限公司 一种基于概率霍夫直线的桥面坍塌检测方法、设备及介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190005361A1 (en) * 2017-06-30 2019-01-03 Ai Systems Co., Ltd. Real-time identification of moving objects in video images
CN109167956A (zh) * 2018-05-21 2019-01-08 同济大学 基于动态称重和多视频信息融合的全桥面移动荷载空间分布监测系统
CN112131971A (zh) * 2020-09-07 2020-12-25 大连理工大学 一种将HardNet的128维浮点型特征描述子进行256维二进制量化的方法
CN112444311A (zh) * 2020-11-22 2021-03-05 同济大学 一种桥梁车辆时空荷载监控方法
CN113221682A (zh) * 2021-04-27 2021-08-06 天津大学 基于计算机视觉的桥梁车辆荷载时空分布细粒度识别方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190005361A1 (en) * 2017-06-30 2019-01-03 Ai Systems Co., Ltd. Real-time identification of moving objects in video images
CN109167956A (zh) * 2018-05-21 2019-01-08 同济大学 基于动态称重和多视频信息融合的全桥面移动荷载空间分布监测系统
CN112131971A (zh) * 2020-09-07 2020-12-25 大连理工大学 一种将HardNet的128维浮点型特征描述子进行256维二进制量化的方法
CN112444311A (zh) * 2020-11-22 2021-03-05 同济大学 一种桥梁车辆时空荷载监控方法
CN113221682A (zh) * 2021-04-27 2021-08-06 天津大学 基于计算机视觉的桥梁车辆荷载时空分布细粒度识别方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
ANASTASIYA MISHCHUK 等: "Working hard to know your neighbor’s margins: Local descriptor learning loss", 《31 ST CONFERENCE ON NEURAL INFORMATION PROCESSING SYSTEMS》 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115482474A (zh) * 2022-08-24 2022-12-16 湖南科技大学 一种基于高空航拍图像的桥面车辆荷载识别方法和系统
CN115909223A (zh) * 2022-10-14 2023-04-04 北京科技大学 一种wim系统信息与监控视频数据匹配的方法和系统
CN117409379A (zh) * 2023-10-17 2024-01-16 哈尔滨工业大学 一种基于计算机视觉的大跨桥梁车辆追踪与车辆荷载谱智能识别方法
CN117409379B (zh) * 2023-10-17 2024-07-12 哈尔滨工业大学 一种基于计算机视觉的大跨桥梁车辆追踪与车辆荷载谱智能识别方法
CN118366086A (zh) * 2024-06-17 2024-07-19 广东保伦电子股份有限公司 一种基于概率霍夫直线的桥面坍塌检测方法、设备及介质
CN118366086B (zh) * 2024-06-17 2024-09-20 广东保伦电子股份有限公司 一种基于概率霍夫直线的桥面坍塌检测方法、设备及介质

Also Published As

Publication number Publication date
CN113837007B (zh) 2022-04-12

Similar Documents

Publication Publication Date Title
CN113837007B (zh) 一种基于桥梁监控视频中车辆匹配深度学习的桥梁荷载分布识别方法
CN109658387B (zh) 电力列车的受电弓碳滑板缺陷的检测方法
CN104978567B (zh) 基于场景分类的车辆检测方法
CN113920097B (zh) 一种基于多源图像的电力设备状态检测方法及系统
CN113837991B (zh) 图像处理方法、装置、设备及存储介质
Hadjidemetriou et al. Automated detection of pavement patches utilizing support vector machine classification
CN113436157B (zh) 一种用于受电弓故障的车载图像识别方法
CN113313012B (zh) 一种基于卷积生成对抗网络的危险驾驶行为识别方法
Wu et al. UAV imagery based potential safety hazard evaluation for high-speed railroad using Real-time instance segmentation
CN112232138A (zh) 基于超像素特征的渠道边坡破坏智能识别方法
Li et al. A review of deep learning methods for pixel-level crack detection
Song et al. Image-based traffic monitoring with shadow suppression
CN115439474A (zh) 一种电力设备故障快速定位方法
CN111680610A (zh) 一种施工场景异常监测方法和装置
CN112465854A (zh) 基于无锚点检测算法的无人机跟踪方法
CN111079748A (zh) 铁路货车滚轴承甩油故障检测方法
CN110852179A (zh) 基于视频监控平台的可疑人员入侵的检测方法
CN114882400A (zh) 一种基于ai智能机器视觉技术的骨料检测分类方法
CN103489012A (zh) 一种基于支持向量机的人群密集度检测方法及系统
CN111582084A (zh) 基于弱监督学习的空基视角下的铁轨异物检测方法及系统
Lam et al. Real-time traffic status detection from on-line images using generic object detection system with deep learning
CN114926456A (zh) 一种半自动标注和改进深度学习的铁轨异物检测方法
Zhao et al. Vehicle counting in very low-resolution aerial images via cross-resolution spatial consistency and Intraresolution time continuity
CN117351499B (zh) 一种分合指示状态识别方法、系统、计算机设备和介质
CN114494845A (zh) 一种用于施工项目现场人工智能隐患排查系统及其排查方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant