CN118262281A - 轨道交通场景的安全预警方法、装置、存储介质和设备 - Google Patents
轨道交通场景的安全预警方法、装置、存储介质和设备 Download PDFInfo
- Publication number
- CN118262281A CN118262281A CN202211697750.XA CN202211697750A CN118262281A CN 118262281 A CN118262281 A CN 118262281A CN 202211697750 A CN202211697750 A CN 202211697750A CN 118262281 A CN118262281 A CN 118262281A
- Authority
- CN
- China
- Prior art keywords
- scene
- track
- traffic signal
- traffic
- track traffic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 67
- 238000003860 storage Methods 0.000 title claims abstract description 21
- 238000001514 detection method Methods 0.000 claims abstract description 213
- 238000012545 processing Methods 0.000 claims abstract description 43
- 238000013528 artificial neural network Methods 0.000 claims abstract description 42
- 239000000203 mixture Substances 0.000 claims description 18
- 230000008569 process Effects 0.000 claims description 16
- 238000002372 labelling Methods 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 9
- 238000012549 training Methods 0.000 claims description 9
- 238000010586 diagram Methods 0.000 description 6
- 230000004044 response Effects 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 230000011218 segmentation Effects 0.000 description 4
- 239000003086 colorant Substances 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 239000011324 bead Substances 0.000 description 2
- 230000007797 corrosion Effects 0.000 description 2
- 238000005260 corrosion Methods 0.000 description 2
- 238000005530 etching Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000007794 irritation Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 231100000252 nontoxic Toxicity 0.000 description 1
- 230000003000 nontoxic effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000011895 specific detection Methods 0.000 description 1
- 239000002341 toxic gas Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Abstract
本公开实施例公开了一种轨道交通场景的安全预警方法、装置、存储介质和设备,其中,方法包括:通过多个图像采集设备从多个视角对轨道交通场景进行图像采集,得到多个场景图像;其中,所述轨道交通场景中至少包括轨道和交通信号设备;通过预先训练好的第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果;其中,所述第一检测结果包括以下信息中的至少一种:所述轨道交通场景中是否包括人员,所述交通信号设备的状态;通过第二模型对所述多个场景图像进行处理,确定第二检测结果;其中,所述第二检测结果包括所述轨道交通场景中是否出现轨道交通设备;基于所述第一检测结果和所述第二检测结果,确定是否发出安全预警信息。
Description
技术领域
本公开涉及计算机视觉技术,尤其是一种轨道交通场景的安全预警方法、装置、存储介质和设备。
背景技术
轨道交通是指运营车辆需要在特定轨道上行驶的一类交通工具或运输系统。随着火车和铁路技术的多元化发展,轨道交通呈现出越来越多的类型,不仅遍布于长距离的陆地运输,也广泛运用于中短距离的城市公共交通中。其中,铁路系统拥有庞大的线路网络,需要车务、机务、工务、电务、车辆、供电等复杂系统协调工作,共同保证铁路运输与安全生产的正常进行。当前,铁路系统内的车务具有点多线长的特点,各个车站的现场环境各不相同,环境也颇为复杂,这些都为车务系统日常的生产管理增添了诸多难以解决的问题。
发明内容
为了解决上述技术问题,提出了本公开。本公开的实施例提供了一种轨道交通场景的安全预警方法、装置、存储介质和设备。
根据本公开实施例的一个方面,提供了一种轨道交通场景的安全预警方法,包括:
通过多个图像采集设备从多个视角对轨道交通场景进行图像采集,得到多个场景图像;其中,所述轨道交通场景中至少包括轨道和交通信号设备;
通过预先训练好的第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果;其中,所述第一检测结果包括以下信息中的至少一种:所述轨道交通场景中是否包括人员,所述交通信号设备的状态;
通过第二模型对所述多个场景图像进行处理,确定第二检测结果;其中,所述第二检测结果包括所述轨道交通场景中是否出现轨道交通设备;
基于所述第一检测结果和所述第二检测结果,确定是否发出安全预警信息。
可选地,所述通过预先训练好的第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果,包括:
将所述多个场景图像输入所述第一神经网络,输出至少一个人体检测框、每个所述人体检测框的置信度、至少一个交通信号设备检测框和每个所述交通信号设备检测框的置信度;
基于所述至少一个人体检测框和每个所述人体检测框的置信度确定所述轨道交通场景中是否包括人员;
基于所述至少一个交通信号设备检测框和每个所述交通信号设备检测框的置信度,确定所述交通信号设备的状态。
可选地,所述第一神经网络为在颈部增加至少一个预设倍数的下采样层的改进后的YOLOv5模型;其中,所述预设倍数小于初始YOLOv5模型颈部原有的多个下采样倍数。
可选地,所述基于所述至少一个交通信号设备检测框和每个所述交通信号设备检测框的置信度,确定所述交通信号设备的状态,包括:
基于每个所述交通信号设备检测框的置信度确定所述轨道交通场景中包括的至少一个交通信号设备对应的至少一个目标设备检测框;
所述至少一个目标设备检测框从所述场景图像中分割获得至少一个所述交通信号区域;
基于所述至少一个交通信号区域中包括的多个像素的像素值,确定所述轨道交通场景中交通信号设备的状态。
可选地,所述基于所述至少一个交通信号区域中包括的多个像素的像素值,确定所述轨道交通场景中交通信号设备的状态,包括:
针对每个所述交通信号区域,将所述交通信号区域转换为预设颜色空间;
在所述预设颜色空间中,基于至少一个颜色对应的至少一个预设边界阈值生成颜色掩膜;其中,所述预设边界阈值包括预设上界阈值和预设下界阈值;
基于所述颜色掩膜确定所述交通信号区域中的有效像素,基于所述有效像素的像素值,确定所述交通信号设备的状态。
可选地,所述基于所述颜色掩膜确定所述交通信号区域中的有效像素,基于所述有效像素的像素值,确定所述交通信号设备的状态,包括:
基于所述颜色掩膜确定所述交通信号区域中的有效像素;
确定所述有效像素中像素值为第一预设像素值的第一数量,以及像素值为第二预设像素值的第二数量;
基于所述第一数量和所述第二数量之间的大小关系,确定所述交通信号设备的状态。
可选地,所述第二模型为高斯混合模型;
所述通过第二模型对所述多个场景图像进行处理,确定第二检测结果,包括:
将所述多个场景图像输入所述高斯混合模型,得到每个所述场景图像中的前景区域和背景区域;
通过对所述前景区域进行至少一种预设处理,确定所述轨道交通场景中是否包括所述轨道交通设备,以及所述轨道对应的轨道区域。
可选地,所述通过对所述前景区域进行至少一种预设处理,确定所述轨道交通场景中是否包括所述轨道交通设备,以及所述轨道的位置,包括:
对所述前景区域执行图像形态学处理,得到检测轮廓;
基于所述检测轮廓的面积是否大于预设面积阈值,确定所述轨道交通场景中是否包括所述轨道交通设备;
响应于所述轨道交通场景包括所述轨道交通设备,基于所述检测轮廓确定所述轨道交通设备的设备检测框,基于所述设备检测框确定所述轨道的位置。
可选地,所述基于所述第一检测结果和所述第二检测结果,确定是否发出安全预警信息,包括:
响应于所述交通信号设备的状态为第一状态,并且所述轨道交通场景中的人员位置与所述轨道的位置之间满足预设条件,发出所述安全预警信息;或,
响应于所述交通信号设备的状态为第二状态,并且所述轨道交通场景中包括所述轨道交通设备,所述轨道交通场景中的人员位置与所述轨道的位置之间满足预设条件,发出所述安全预警信息。
可选地,在通过第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果之前,还包括:
利用样本图像集训练所述第一神经网络;其中,所述样本图像集中包括多个样本图像,每个所述样本图像包括对应的人员标注信息和交通信号设备标注信息。
根据本公开实施例的另一方面,提供了一种轨道交通场景的安全预警装置,包括:
图像采集模块,用于通过多个图像采集设备从多个视角对轨道交通场景进行图像采集,得到多个场景图像;其中,所述轨道交通场景中至少包括轨道和交通信号设备;
第一检测模块,用于通过预先训练好的第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果;其中,所述第一检测结果包括以下信息中的至少一种:所述轨道交通场景中是否包括人员,所述交通信号设备的状态;
第二检测模块,用于通过第二模型对所述多个场景图像进行处理,确定第二检测结果;其中,所述第二检测结果包括所述轨道交通场景中是否出现轨道交通设备;
安全预警模块,用于基于所述第一检测结果和所述第二检测结果,确定是否发出安全预警信息。
可选地,所述第一检测模块,包括:
网络预测单元,用于将所述多个场景图像输入所述第一神经网络,输出至少一个人体检测框、每个所述人体检测框的置信度、至少一个交通信号设备检测框和每个所述交通信号设备检测框的置信度;
人员检测单元,用于基于所述至少一个人体检测框和每个所述人体检测框的置信度确定所述轨道交通场景中是否包括人员;
交通信号检测单元,用于基于所述至少一个交通信号设备检测框和每个所述交通信号设备检测框的置信度,确定所述交通信号设备的状态。
可选地,所述第一神经网络为在颈部增加至少一个预设倍数的下采样层的改进后的YOLOv5模型;其中,所述预设倍数小于初始YOLOv5模型颈部原有的多个下采样倍数。
可选地,所述交通信号检测单元,具体用于基于每个所述交通信号设备检测框的置信度确定所述轨道交通场景中包括的至少一个交通信号设备对应的至少一个目标设备检测框;所述至少一个目标设备检测框从所述场景图像中分割获得至少一个所述交通信号区域;基于所述至少一个交通信号区域中包括的多个像素的像素值,确定所述轨道交通场景中交通信号设备的状态。
可选地,所述交通信号检测单元在基于所述至少一个交通信号区域中包括的多个像素的像素值,确定所述轨道交通场景中交通信号设备的状态时,用于针对每个所述交通信号区域,将所述交通信号区域转换为预设颜色空间;在所述预设颜色空间中,基于至少一个颜色对应的至少一个预设边界阈值生成颜色掩膜;其中,所述预设边界阈值包括预设上界阈值和预设下界阈值;基于所述颜色掩膜确定所述交通信号区域中的有效像素,基于所述有效像素的像素值,确定所述交通信号设备的状态。
可选地,所述交通信号检测单元在基于所述颜色掩膜确定所述交通信号区域中的有效像素,基于所述有效像素的像素值,确定所述交通信号设备的状态时,用于基于所述颜色掩膜确定所述交通信号区域中的有效像素;确定所述有效像素中像素值为第一预设像素值的第一数量,以及像素值为第二预设像素值的第二数量;基于所述第一数量和所述第二数量之间的大小关系,确定所述交通信号设备的状态。
可选地,所述第二模型为高斯混合模型;
所述第二检测模块,具体用于将所述多个场景图像输入所述高斯混合模型,得到每个所述场景图像中的前景区域和背景区域;通过对所述前景区域进行至少一种预设处理,确定所述轨道交通场景中是否包括所述轨道交通设备,以及所述轨道对应的轨道区域。
可选地,所述第二检测模块在通过对所述前景区域进行至少一种预设处理,确定所述轨道交通场景中是否包括所述轨道交通设备,以及所述轨道对应的轨道区域时,用于对所述前景区域执行图像形态学处理,得到检测轮廓;基于所述检测轮廓的面积是否大于预设面积阈值,确定所述轨道交通场景中是否包括所述轨道交通设备;响应于所述轨道交通场景包括所述轨道交通设备,基于所述检测轮廓确定所述轨道交通设备的设备检测框,基于所述设备检测框确定所述轨道对应的轨道区域。
可选地,所述安全预警模块,具体用于响应于所述交通信号设备的状态为第一状态,并且所述轨道交通场景中的人员位置与所述轨道的位置之间满足预设条件,发出所述安全预警信息;或,响应于所述交通信号设备的状态为第二状态,并且所述轨道交通场景中包括所述轨道交通设备,所述轨道交通场景中的人员位置与所述轨道的位置之间满足预设条件,发出所述安全预警信息。
可选地,所述装置还包括:
网络训练模块,用于利用样本图像集训练所述第一神经网络;其中,所述样本图像集中包括多个样本图像,每个所述样本图像包括对应的人员标注信息和交通信号设备标注信息。
根据本公开实施例的又一方面,提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述任一实施例所述的轨道交通场景的安全预警方法。
根据本公开实施例的还一方面,提供了一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述任一实施例所述的轨道交通场景的安全预警方法。
基于本公开上述实施例提供的一种轨道交通场景的安全预警方法、装置、存储介质和设备,通过多个图像采集设备从多个视角对轨道交通场景进行图像采集,得到多个场景图像;其中,所述轨道交通场景中至少包括轨道和交通信号设备;通过预先训练好的第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果;其中,所述第一检测结果包括以下信息中的至少一种:所述轨道交通场景中是否包括人员,所述交通信号设备的状态;通过第二模型对所述多个场景图像进行处理,确定第二检测结果;其中,所述第二检测结果包括所述轨道交通场景中是否出现轨道交通设备;基于所述第一检测结果和所述第二检测结果,确定是否发出安全预警信息。本实施例通过第一神经网络和第二模型同时实现对轨道交通场景中的轨道区域、轨道交通设备以及交通信号设备的状态进行检测,提高了检测的准确率,能够及时对轨道上出现的人员进行安全预警,提高了人员以及轨道交通设备的安全性。
下面通过附图和实施例,对本公开的技术方案做进一步的详细描述。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤;
图1是本公开一示例性实施例提供的轨道交通场景的安全预警方法的流程示意图;
图2是本公开图1所示的实施例中步骤104的一个流程示意图;
图3是本公开图1所示的实施例中步骤106的一个流程示意图;
图4是本公开一示例性实施例提供的轨道交通场景的安全预警装置的结构示意图;
图5是本公开一示例性实施例提供的电子设备的结构图。
具体实施方式
下面,将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。
应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。
还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
另外,本公开中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。
还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备,其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于:个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境,等等。
终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施,分布式云计算环境中,任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。
示例性方法
图1是本公开一示例性实施例提供的轨道交通场景的安全预警方法的流程示意图。本实施例可应用在电子设备上,如图1所示,包括如下步骤:
步骤102,通过多个图像采集设备从多个视角对轨道交通场景进行图像采集,得到多个场景图像。
其中,轨道交通场景中至少包括轨道交通设备中的轨道和交通信号设备。
可选地,图像采集设备可以为单目摄像头或多目摄像头(例如,三目摄像头等)等;为了保障轨道交通中人员的安全性,不仅需要获取轨道的图像,还需要对交通信号设备(例如,信号灯等)等轨道交通场景中的物体进行图像采集。因此。本实施例从需要从多个视角对轨道交通场景进行图像采集。可选地,轨道交通场景可以为铁路交通路口或城市轨道交通路口等场景;可通过在交通路口架设的灯桥上设置多个多目摄像头实现对轨道交通场景的图像采集。
步骤104,通过预先训练好的第一神经网络分别对多个场景图像进行处理,确定第一检测结果。
其中,第一检测结果包括以下信息中的至少一种:轨道交通场景中是否包括人员,交通信号设备的状态。
在一实施例中,通过第一神经网络分别对多个场景图像中每个场景图像进行处理,预测每个场景图像中包括的至少一个检测框;可选地,本实施例中的检测框至少包括两种:人体检测框以及交通信号设备检测框(具体检测框对应的物体可根据训练确定,例如,信号灯等);通过输出人体检测框和交通信号设备检测框,实现了人员以及交通信号设备的检测。可选地,第一神经网络可以为YOLOv5模型等。YOLOv5模型属于常用的一阶段算法,一阶段算法处理速度快,满足了检测的实时性需求;并减少了计算资源的占用,提升了检测的准确率。
步骤106,通过第二模型对多个场景图像进行处理,确定第二检测结果。
其中,第二检测结果包括轨道交通场景中是否出现轨道交通设备。
可选地,轨道交通设备属于轨道交通场景中的运动物体,为了识别轨道交通场景中的运动物体,本实施例通过第二模型对多个场景图像进行处理,以识别轨道交通场景中的运动物体;可选地,第二模型可以为高斯混合模型等,并且对第二模型输出的结果进一步处理,以确定轨道交通场景中是否出现轨道交通设备(如,火车等)。
本实施例中,步骤104和步骤106可同时执行;或先执行步骤104,后执行步骤106;或先执行步骤106,后执行步骤104,执行顺序不影响本申请实现的技术效果。
步骤108,基于第一检测结果和第二检测结果,确定是否发出安全预警信息。
可选地,结合第一检测结果和第二检测结果共同确定当前轨道交通场景中是否出现安全隐患,以发出安全预警信息,通过结合两个检测结果综合轨道交通场景中的多种环境、设备和人员信息,提升了场景识别的准确性,提升了对危险情况进行安全预警的准确性,并避免了无效预警的情况;可选地,安全预警信息可以包括但不限于以下至少一种信息:声音、灯光、气味等;例如,通过高频闪烁灯光结合播放预设语音(例如,重复播放“危险,请避让”)进行提示;或通过高频闪烁灯光、播放预设语音,再结合释放具有刺激性的无毒气体进行提示等。
本公开上述实施例提供的一种轨道交通场景的安全预警方法,通过多个图像采集设备从多个视角对轨道交通场景进行图像采集,得到多个场景图像;其中,所述轨道交通场景中至少包括轨道和交通信号设备;通过预先训练好的第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果;其中,所述第一检测结果包括以下信息中的至少一种:所述轨道交通场景中是否包括人员,所述交通信号设备的状态;通过第二模型对所述多个场景图像进行处理,确定第二检测结果;其中,所述第二检测结果包括所述轨道交通场景中是否出现轨道交通设备;基于所述第一检测结果和所述第二检测结果,确定是否发出安全预警信息。本实施例通过第一神经网络和第二模型同时实现对轨道交通场景中的轨道区域、轨道交通设备以及交通信号设备的状态进行检测,提高了检测的准确率,能够及时对轨道上出现的人员进行安全预警,提高了人员以及轨道交通设备的安全性。
如图2所示,在上述图1所示实施例的基础上,步骤104可包括如下步骤:
步骤1041,将多个场景图像输入第一神经网络,输出至少一个人体检测框、每个人体检测框的置信度、至少一个交通信号设备检测框和每个交通信号设备检测框的置信度。
可选地,第一神经网络可以同时对多个场景图像进行处理;或者,通过多次分别对第一神经网络对多个场景图像进行处理(每次处理一个场景图像);或者,通过多个第一神经网络分别对多个场景图像进行处理,每个第一神经网络处理一个场景图像;由于每个场景图像对应轨道交通场景的不同视角,结合所有场景图像对应的输出结果,即输出对应轨道交通场景的预测结果。
步骤1042,基于至少一个人体检测框和每个人体检测框的置信度确定轨道交通场景中是否包括人员。
可选地,每个人体检测框对应一个置信度,该置信度表示该人体检测框中包括人体的概率,可通过预先设定一个置信度阈值(具体取值根据实际应用场景确定),将置信度大于或等于该置信度阈值的人体检测框确定为包括人员,将置信度小于该置信度阈值的人体检测框确定为不包括人员,即可确定轨道交通场景中是否包括人员,并且,基于人体检测框的位置可知人员的位置信息。
步骤1043,基于至少一个交通信号设备检测框和每个交通信号设备检测框的置信度,确定交通信号设备的状态。
本实施例中,交通信号设备(例如,信号灯等)在不同状态的情况下,对应不同的交通情况,例如,在一个可选示例中,交通信号设备为火车对应的信号灯,当信号灯显示为红灯时,表示火车暂时不会通过,此时如果在轨道交通场景内出现人员,则不需要告警,而如果信号灯显示为绿灯时,说明火车即将经过轨道交通场景中的轨道路段,此时对于轨道交通场景中的人员需要进行告警,避免人员穿行轨道导致危险发生。
可选地,第一神经网络为在颈部增加至少一个预设倍数的下采样层的改进后的YOLOv5模型;其中,预设倍数小于初始YOLOv5模型颈部原有的多个下采样倍数。
在本实施例中,为了提升第一神经网络对人员的检测准确性,即对图像中的小目标更准确的识别,可通过在YOLOv5模型中原有的下采样倍数中增加一个预设倍数的下采样层(例如,4倍下采样),提升小目标特征的挖掘,采用多尺度反馈以引入全局上下文信息来提升对图像中小目标的识别能力。在原始YOLOv5模型中增添注意力机制,加入SE模块,以提高模型的检测效果。
SE模块全称是Squeeze-and-Excitation Networks,中文可以译为压缩和激励网络模块。主要由两部分组成:Squeeze部分。即为压缩部分,原始feature map的维度为HWC,其中H是高度(Height),W是宽度(width),C是通道数(channel)。Squeeze做的事情是把HWC压缩为11C,相当于把HW压缩成一维了,实际中一般是用global average pooling实现的。HW压缩成一维后,相当于这一维参数获得了之前H*W全局的视野,感受区域更广。Excitation部分。得到Squeeze的11C的表示后,加入一个FC全连接层(Fully Connected),对每个通道的重要性进行预测,得到不同channel的重要性大小后再作用(激励)到之前的feature map的对应channel上,再进行后续操作。SE模块的灵活性在于它可以直接应用现有的网络结构中,本实施例通过在原始YOLOv5模型中增加SE模块,以提高模型的检测效果。
并且,针对上述YOLOv5模型的改进部分,由于增加了4倍下采样的过程,对应的对训练数据增加对应大小的先验框(下采样倍数越大,先验框越大),例如,增加先验框的大小为[5,6](表示像素数量5*6大小的先验框),[8,14](表示像素数量8*14大小的先验框),[15,11](表示像素数量15*11大小的先验框)。
可选地,步骤1043可以包括:
基于每个交通信号设备检测框的置信度确定轨道交通场景中包括的至少一个交通信号设备对应的至少一个目标设备检测框;
基于至少一个目标设备检测框从场景图像中分割获得至少一个交通信号区域;
基于至少一个交通信号区域中包括的多个像素的像素值,确定轨道交通场景中交通信号设备的状态。
本实施例中,可通过每个交通信号设备检测框的置信度与预设阈值(具体取值根据实际应用场景确定)进行比较,将置信度大于或等于预设阈值的交通信号设备检测框确定为目标设备检测框;基于目标设备检测框可确定目标设备对应的交通信号区域,并将至少一个交通信号区域从场景图像中分割出来,以单独进行处理,并根据每个交通信号区域中包括的多个像素的像素值来确定交通信号设备的状态,例如,红色和绿色分别对应不同的像素值,因此,交通信号区域中包括的像素对应的像素值即可确定该交通信号设备的状态是红灯还是绿灯。
可选地,基于至少一个交通信号区域中包括的多个像素的像素值,确定轨道交通场景中交通信号设备的状态,包括:
针对每个交通信号区域,将交通信号区域转换为预设颜色空间;
在预设颜色空间中,基于至少一个颜色对应的至少一个预设边界阈值生成颜色掩膜;其中,预设边界阈值包括预设上界阈值和预设下界阈值;
基于颜色掩膜确定交通信号区域中的有效像素,基于有效像素的像素值,确定交通信号设备的状态。
可选地,交通信号区域为场景图像中的一部分,与场景图像对应相同的颜色空间,本实施例将交通信号区域转换到预设颜色空间以提高颜色识别的效率,例如,预设颜色空间为HSV颜色空间、或其他可以明显区分红色和绿色的颜色空间等;通过在该预设颜色空间中确定至少一个颜色对应的预设边界阈值的颜色掩膜,例如,分别确定红色、绿色和黄色的颜色掩膜等;在确定每个颜色对应的预设上界阈值和预设下界阈值后,利用cv2.inRange()函数可在交通信号区域生成对应的颜色掩膜,该掩膜生成过程,可通过中值滤波进行边界平滑处理。
可选地,基于颜色掩膜确定交通信号区域中的有效像素,基于有效像素的像素值,确定交通信号设备的状态,包括:
基于颜色掩膜确定交通信号区域中的有效像素;
确定有效像素中像素值为第一预设像素值的第一数量,以及像素值为第二预设像素值的第二数量;
基于第一数量和第二数量之间的大小关系,确定交通信号设备的状态。
本实施例中,通过至少一个颜色掩膜可得到对应至少一个颜色的掩膜区域,每个颜色对应一个掩膜区域;所有掩膜区域对应的像素为有效像素,即,掩膜区域中的像素具有有效颜色,而交通信号区域中除了信号灯对应的有效像素,还会包括其他对于识别信号灯状态没有用处的像素,本实施例通过颜色掩膜提取得到有效像素,提升了状态识别的准确率。得到的有效像素中可能包括多种颜色的像素,第一预设像素值对应一种颜色(例如,红色),第二预设像素值对应另一种颜色(例如,绿色),当一种颜色的像素值数量在有效像素中占比较大(或数量远大于另一种颜色的像素)时,可确定该交通信号设备的状态由该颜色决定,例如,红色像素对应的数量在有效像素中占比大于预设比例(根据实际场景设置确定)时,确定信号灯颜色为红灯状态;通过像素数量占比来确定交通信号设备的状态,避免了由于信号灯中由于部分显示出错(例如,LED灯珠中由于出错,可能存在多个灯珠显示错误)导致同时呈现红灯和绿灯显示时,本实施例以像素数量占比较大的像素值对应的颜色确定信号灯状态,解决了上述问题。
如图3所示,在上述图1所示实施例的基础上,步骤106可包括如下步骤:
步骤1061,将多个场景图像输入高斯混合模型,得到每个场景图像中的前景区域和背景区域。
其中,第二模型可以为高斯混合模型。
可选地,当场景图像为当前帧,利用高斯混合模型结合当前帧之前的多帧场景图像确定轨道交通场景中的背景区域。
可选地,多个图像采集设备对于轨道交通场景是连续采集,实时处理的,因此,可认为多个场景图像为视频中的某一帧。例如,将高斯混合模型当前输入的多个场景图像作为图像采集设备采集的视频中的第n+1帧,基于在该第n+1帧之前采集的前n帧视频图像进行轨道交通场景的背景确定。
可选地,利用高斯混合模型进行背景区域和前景区域分割的具体过程可以包括:初始化轨道交通场景的背景:首先利用前n帧连续视频流图像来构建轨道交通场景的背景区域,对前n帧的每一帧图像的每一个像素点所呈现的像素值用K个高斯分布的加权来表示;当接收视频的第n+1帧图像(对应本实施例中采集的多个场景图像)时,利用第n+1帧图像更新高斯混合模型的参数,以适应运动场景的改变,当第n+1帧图像中出现了运动的轨道交通设备,执行前景区域和背景区域的分割。
步骤1062,通过对前景区域进行至少一种预设处理,确定轨道交通场景中是否包括轨道交通设备,以及轨道对应的轨道区域。
本实施例中,针对每个场景图像,通过高斯混合模型将该场景图像分割为前景区域和背景区域,前景是指在假设背景为静止的情况下,任何有意义的运动物体(本实施例中为轨道交通设备)即为前景。通过高斯混合模型从轨道交通场景图像中提取前景,其目的是使背景更接近当前视频帧的背景。在确定当前帧场景图像中的前景图像之后,通过至少一种处理进一步对轨道交通场景中运动的物体进行识别确定,以确定场景图像中轨道交通设备的设备区域,并基于该设备区域确定轨道对应的轨道区域。
可选地,步骤1062可以包括:
对前景区域执行图像形态学处理,得到检测轮廓;
可选地,图像形态学处理可以包括但不限于:开运算和闭运算等;其中,开运算是先腐蚀,后膨胀;闭运算为先膨胀,后腐蚀;例如,一个可选示例中,开运算采用的卷积核大小为3*3,闭运算采用的卷积核大小是5*5。
基于检测轮廓的面积是否大于预设面积阈值,确定轨道交通场景中是否包括轨道交通设备;
其中,对于检测轮廓的面积确定,可利用格林公式计算检测轮廓中包括的像素值的数量,确定该检测轮廓对应的面积。
响应于轨道交通场景包括轨道交通设备,基于检测轮廓确定轨道交通设备的设备检测框,基于设备检测框确定轨道的位置。
可选地,高斯混合模型输出的为二值化的图像,通过对二值化图像执行图像形态学处理可确定检测轮廓(对应轨道交通设备),通过对确定的检测轮廓通过预设面积阈值进行识别,将面积大于预设面积阈值的检测轮廓确定为包括轨道交通设备对应的轮廓,如果所有检测轮廓都小于预设面积阈值,说明轨道交通场景中不包括轨道交通设备;通过预设面积阈值的识别可去除图像中的噪点,对轨道交通场景中出现的微小运动物体进行去除(例如,飞鸟等),避免无关移动物体影响检测结果。本实施例中,在确定了轨道交通设备之后,由于轨道交通设备依赖于轨道运行,因此,轨道交通设备必然处于轨道之上,即,基于轨道交通设备的位置可确定轨道在图像中的位置。
例如,在一些可选示例中,对前景区域执行二值化,得到二值化图像,采用大小为3*3的腐蚀卷积核迭代腐蚀两次,对腐蚀处理后的图像采用大小为8*3的膨胀卷积核迭代膨胀两次,对得到的图像进行轮廓检测,得到全部轮廓的位置信息;对检测得到的每个轮廓,利用格林公式计算轮廓中图像的面积,当该面积的像素个数大于预设数量(例如,1000个像素等),则认为当前轨道交通场景中存在运行中的轨道交通设备。
在一些可选的实施例中,步骤108可以包括:
响应于交通信号设备的状态为第一状态,并且轨道交通场景中的人员位置与轨道的位置之间满足预设条件,发出安全预警信息;或,
响应于交通信号设备的状态为第二状态,并且轨道交通场景中包括轨道交通设备,轨道交通场景中的人员位置与轨道的位置之间满足预设条件,发出安全预警信息。
本实施例中,通过至少一种决策对人员发出安全预警信息,可选地,第一状态为绿灯,第二状态为红灯或黄灯;由于第二检测结果中确定了轨道的位置,在交通信号设备为绿灯的情况下,表示轨道交通设备即将出现在轨道交通场景中,因此,在此情况下,只要在轨道的位置出现人员即发出安全预警信息。另外,当交通信号设备为红灯或黄灯的情况下,如果第二检测结果表明轨道交通场景中存在运动中的规定交通设备(例如,火车等),在此情况下,人员的位置与轨道的位置之间的距离小于预设距离值时,会发出安全预警信息,以提示人员进行撤离,减少交通安全事故的发生。
在一些可选的实施例中,在执行步骤104之前,还可以包括:
利用样本图像集训练第一神经网络。
其中,样本图像集中包括多个样本图像,每个样本图像包括对应的人员标注信息和交通信号设备标注信息。
本实施例中,样本图像的获取可对多个不同轨道交通场景进行图像采集,对每个轨道交通场景都基于多个多目摄像头从多个视角进行图像采集,对相同轨道交通场景中采集得到的多个样本图像进行统一标注,例如,人工标注样本图像中的人员和交通信号设备的状态;另外,由于人工标注需要消耗大量人力资源,因此,样本图像的获取具有较大难度,而为了提升第一神经网络的性能,需要大量样本图像对第一神经网络进行训练,可选地,通过对采集标注的样本图像进行数据增强和扩充以模拟自然环境中未在训练数据集出现的复杂场景,通过数据增强和扩展后的样本图像集对第一神经网络进行训练;可选地,数据增强和扩展包括但并不限于以下至少一种:随机缩放、随机裁剪、随机排布、旋转、裁剪、颜色转换等。
本公开实施例提供的任一种轨道交通场景的安全预警方法可以由任意适当的具有数据处理能力的设备执行,包括但不限于:终端设备和服务器等。或者,本公开实施例提供的任一种轨道交通场景的安全预警方法可以由处理器执行,如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种轨道交通场景的安全预警方法。下文不再赘述。
示例性装置
图4是本公开一示例性实施例提供的轨道交通场景的安全预警装置的结构示意图。如图4所示,本实施例提供的装置包括:
图像采集模块41,用于通过多个图像采集设备从多个视角对轨道交通场景进行图像采集,得到多个场景图像。
其中,轨道交通场景中至少包括轨道和交通信号设备。
第一检测模块42,用于通过预先训练好的第一神经网络分别对多个场景图像进行处理,确定第一检测结果。
其中,第一检测结果包括以下信息中的至少一种:轨道交通场景中是否包括人员,交通信号设备的状态。
第二检测模块43,用于通过第二模型对多个场景图像进行处理,确定第二检测结果。
其中,第二检测结果包括轨道交通场景中是否出现轨道交通设备。
安全预警模块44,用于基于第一检测结果和第二检测结果,确定是否发出安全预警信息。
本公开上述实施例提供的一种轨道交通场景的安全预警装置,通过多个图像采集设备从多个视角对轨道交通场景进行图像采集,得到多个场景图像;其中,所述轨道交通场景中至少包括轨道交通设备中的轨道和交通信号设备;通过第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果;其中,所述第一检测结果包括以下信息中的至少一种:所述轨道交通场景中是否包括人员,所述交通信号设备的状态;通过第二模型对所述多个场景图像进行处理,确定第二检测结果;其中,所述第二检测结果包括所述轨道交通场景中是否出现轨道交通设备;基于所述第一检测结果和所述第二检测结果,确定是否发出安全预警信息。本实施例通过第一神经网络和第二模型,提高了检测的准确率,能够及时对轨道上出现的人员进行安全预警,提高了人员以及轨道交通设备的安全性。
可选地,第一检测模块42,包括:
网络预测单元,用于将所述多个场景图像输入所述第一神经网络,输出至少一个人体检测框、每个所述人体检测框的置信度、至少一个交通信号设备检测框和每个所述交通信号设备检测框的置信度;
人员检测单元,用于基于所述至少一个人体检测框和每个所述人体检测框的置信度确定所述轨道交通场景中是否包括人员;
交通信号检测单元,用于基于所述至少一个交通信号设备检测框和每个所述交通信号设备检测框的置信度,确定所述交通信号设备的状态。
可选地,第一神经网络为在颈部增加至少一个预设倍数的下采样层的改进后的YOLOv5模型;其中,预设倍数小于初始YOLOv5模型颈部原有的多个下采样倍数。
可选地,交通信号检测单元,具体用于基于每个交通信号设备检测框的置信度确定轨道交通场景中包括的至少一个交通信号设备对应的至少一个目标设备检测框;至少一个目标设备检测框从场景图像中分割获得至少一个交通信号区域;基于至少一个交通信号区域中包括的多个像素的像素值,确定轨道交通场景中交通信号设备的状态。
可选地,交通信号检测单元在基于至少一个交通信号区域中包括的多个像素的像素值,确定轨道交通场景中交通信号设备的状态时,用于针对每个交通信号区域,将交通信号区域转换为预设颜色空间;在预设颜色空间中,基于至少一个颜色对应的至少一个预设边界阈值生成颜色掩膜;其中,预设边界阈值包括预设上界阈值和预设下界阈值;基于颜色掩膜确定交通信号区域中的有效像素,基于有效像素的像素值,确定交通信号设备的状态。
可选地,交通信号检测单元在基于颜色掩膜确定交通信号区域中的有效像素,基于有效像素的像素值,确定交通信号设备的状态时,用于基于颜色掩膜确定交通信号区域中的有效像素;确定有效像素中像素值为第一预设像素值的第一数量,以及像素值为第二预设像素值的第二数量;基于第一数量和第二数量之间的大小关系,确定交通信号设备的状态。
可选地,第二模型为高斯混合模型;
第二检测模块43,具体用于将多个场景图像输入高斯混合模型,得到每个场景图像中的前景区域和背景区域;通过对前景区域进行至少一种预设处理,确定轨道交通场景中是否包括轨道交通设备,以及轨道的位置。
可选地,第二检测模块在通过对前景区域进行至少一种预设处理,确定轨道交通场景中是否包括轨道交通设备,以及轨道对应的轨道区域时,用于对前景区域执行图像形态学处理,得到检测轮廓;基于检测轮廓的面积是否大于预设面积阈值,确定轨道交通场景中是否包括轨道交通设备;响应于轨道交通场景包括轨道交通设备,基于检测轮廓确定轨道交通设备的设备检测框,基于设备检测框确定轨道对应的轨道区域。
在一些可选的实施例中,安全预警模块44,具体用于响应于交通信号设备的状态为第一状态,并且轨道交通场景中的人员位置与轨道的位置之间满足预设条件,发出安全预警信息;或,响应于交通信号设备的状态为第二状态,并且轨道交通场景中包括轨道交通设备,轨道交通场景中的人员位置与轨道的位置之间满足预设条件,发出安全预警信息。
在一些可选的实施例中,本实施例提供的装置还包括:
网络训练模块,用于利用样本图像集训练第一神经网络。
其中,样本图像集中包括多个样本图像,每个样本图像包括对应的人员标注信息和交通信号设备标注信息。
示例性电子设备
下面,参考图5来描述根据本公开实施例的电子设备。该电子设备可以是第一设备和第二设备中的任一个或两者、或与它们独立的单机设备,该单机设备可以与第一设备和第二设备进行通信,以从它们接收所采集到的输入信号。
图5图示了根据本公开实施例的电子设备的框图。
如图5所示,电子设备50包括一个或多个处理器51和存储器52。
处理器51可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备50中的其他组件以执行期望的功能。
存储器52可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器51可以运行所述程序指令,以实现上文所述的本公开的各个实施例的轨道交通场景的安全预警方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在一个示例中,电子设备50还可以包括:输入装置53和输出装置54,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
例如,在该电子设备是第一设备或第二设备时,该输入装置53可以是上述的麦克风或麦克风阵列,用于捕捉声源的输入信号。在该电子设备是单机设备时,该输入装置53可以是通信网络连接器,用于从第一设备和第二设备接收所采集的输入信号。
此外,该输入装置53还可以包括例如键盘、鼠标等等。
该输出装置54可以向外部输出各种信息,包括确定出的距离信息、方向信息等。该输出装置54可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图5中仅示出了该电子设备50中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备50还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的轨道交通场景的安全预警方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的轨道交通场景的安全预警方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本公开实施为记录在记录介质中的程序,这些程序包括用于实现根据本公开的方法的机器可读指令。因而,本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (13)
1.一种轨道交通场景的安全预警方法,其特征在于,包括:
通过多个图像采集设备从多个视角对轨道交通场景进行图像采集,得到多个场景图像;其中,所述轨道交通场景中至少包括轨道和交通信号设备;
通过预先训练好的第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果;其中,所述第一检测结果包括以下信息中的至少一种:所述轨道交通场景中是否包括人员,所述交通信号设备的状态;
通过第二模型对所述多个场景图像进行处理,确定第二检测结果;其中,所述第二检测结果包括所述轨道交通场景中是否出现轨道交通设备;
基于所述第一检测结果和所述第二检测结果,确定是否发出安全预警信息。
2.根据权利要求1所述的方法,其特征在于,所述通过预先训练好的第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果,包括:
将所述多个场景图像输入所述第一神经网络,输出至少一个人体检测框、每个所述人体检测框的置信度、至少一个交通信号设备检测框和每个所述交通信号设备检测框的置信度;
基于所述至少一个人体检测框和每个所述人体检测框的置信度确定所述轨道交通场景中是否包括人员;
基于所述至少一个交通信号设备检测框和每个所述交通信号设备检测框的置信度,确定所述交通信号设备的状态。
3.根据权利要求2所述的方法,其特征在于,所述第一神经网络为在颈部增加至少一个预设倍数的下采样层的改进后的YOLOv5模型;其中,所述预设倍数小于初始YOLOv5模型颈部原有的多个下采样倍数。
4.根据权利要求2或3所述的方法,其特征在于,所述基于所述至少一个交通信号设备检测框和每个所述交通信号设备检测框的置信度,确定所述交通信号设备的状态,包括:
基于每个所述交通信号设备检测框的置信度确定所述轨道交通场景中包括的至少一个交通信号设备对应的至少一个目标设备检测框;
基于所述至少一个目标设备检测框从所述场景图像中分割获得至少一个所述交通信号区域;
基于所述至少一个交通信号区域中包括的多个像素的像素值,确定所述轨道交通场景中交通信号设备的状态。
5.根据权利要求4所述的方法,其特征在于,所述基于所述至少一个交通信号区域中包括的多个像素的像素值,确定所述轨道交通场景中交通信号设备的状态,包括:
针对每个所述交通信号区域,将所述交通信号区域转换为预设颜色空间;
在所述预设颜色空间中,基于至少一个颜色对应的至少一个预设边界阈值生成颜色掩膜;其中,所述预设边界阈值包括预设上界阈值和预设下界阈值;
基于所述颜色掩膜确定所述交通信号区域中的有效像素,基于所述有效像素的像素值,确定所述交通信号设备的状态。
6.根据权利要求5所述的方法,其特征在于,所述基于所述颜色掩膜确定所述交通信号区域中的有效像素,基于所述有效像素的像素值,确定所述交通信号设备的状态,包括:
基于所述颜色掩膜确定所述交通信号区域中的有效像素;
确定所述有效像素中像素值为第一预设像素值的第一数量,以及像素值为第二预设像素值的第二数量;
基于所述第一数量和所述第二数量之间的大小关系,确定所述交通信号设备的状态。
7.根据权利要求2-6任一所述的方法,其特征在于,所述第二模型为高斯混合模型;
所述通过第二模型对所述多个场景图像进行处理,确定第二检测结果,包括:
将所述多个场景图像输入所述高斯混合模型,得到每个所述场景图像中的前景区域和背景区域;
通过对所述前景区域进行至少一种预设处理,确定所述轨道交通场景中是否包括所述轨道交通设备,以及所述轨道对应的轨道区域。
8.根据权利要求7所述的方法,其特征在于,所述通过对所述前景区域进行至少一种预设处理,确定所述轨道交通场景中是否包括所述轨道交通设备,以及所述轨道对应的轨道区域,包括:
对所述前景区域执行图像形态学处理,得到检测轮廓;
基于所述检测轮廓的面积是否大于预设面积阈值,确定所述轨道交通场景中是否包括所述轨道交通设备;
响应于所述轨道交通场景包括所述轨道交通设备,基于所述检测轮廓确定所述轨道交通设备的设备检测框,基于所述设备检测框确定所述轨道对应的轨道区域。
9.根据权利要求1-8任一所述的方法,其特征在于,所述基于所述第一检测结果和所述第二检测结果,确定是否发出安全预警信息,包括:
响应于所述交通信号设备的状态为第一状态,并且所述轨道交通场景中的人员位置与所述轨道的位置之间满足预设条件,发出所述安全预警信息;或,
响应于所述交通信号设备的状态为第二状态,并且所述轨道交通场景中包括所述轨道交通设备,所述轨道交通场景中的人员位置与所述轨道的位置之间满足预设条件,发出所述安全预警信息。
10.根据权利要求1-9任一所述的方法,其特征在于,在通过第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果之前,还包括:
利用样本图像集训练所述第一神经网络;其中,所述样本图像集中包括多个样本图像,每个所述样本图像包括对应的人员标注信息和交通信号设备标注信息。
11.一种轨道交通场景的安全预警装置,其特征在于,包括:
图像采集模块,用于通过多个图像采集设备从多个视角对轨道交通场景进行图像采集,得到多个场景图像;其中,所述轨道交通场景中至少包括轨道和交通信号设备;
第一检测模块,用于通过预先训练好的第一神经网络分别对所述多个场景图像进行处理,确定第一检测结果;其中,所述第一检测结果包括以下信息中的至少一种:所述轨道交通场景中是否包括人员,所述交通信号设备的状态;
第二检测模块,用于通过第二模型对所述多个场景图像进行处理,确定第二检测结果;其中,所述第二检测结果包括所述轨道交通场景中是否出现轨道交通设备;
安全预警模块,用于基于所述第一检测结果和所述第二检测结果,确定是否发出安全预警信息。
12.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-10任一所述的轨道交通场景的安全预警方法。
13.一种电子设备,其特征在于,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求1-10任一所述的轨道交通场景的安全预警方法。
Publications (1)
Publication Number | Publication Date |
---|---|
CN118262281A true CN118262281A (zh) | 2024-06-28 |
Family
ID=
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102447352B1 (ko) | 교통 신호등 검출 및 지능형 주행을 위한 방법 및 디바이스, 차량, 및 전자 디바이스 | |
WO2020173056A1 (zh) | 交通图像识别方法、装置、计算机设备和介质 | |
US20240020580A1 (en) | Automatic generation of ground truth data for training or retraining machine learning models | |
EP4053735A1 (en) | Method for structuring pedestrian information, device, apparatus and storage medium | |
Lee et al. | Real-time illegal parking detection in outdoor environments using 1-D transformation | |
CN111241343A (zh) | 一种道路信息监控与分析检测方法、智慧交通控制系统 | |
WO2012022744A2 (en) | Multi-mode video event indexing | |
CN110781964A (zh) | 一种基于视频图像的人体目标检测方法及系统 | |
CN112287875B (zh) | 异常车牌识别方法、装置、设备及可读存储介质 | |
Cho et al. | Semantic segmentation with low light images by modified CycleGAN-based image enhancement | |
CN112446316A (zh) | 事故检测方法、电子设备及存储介质 | |
CN116311005A (zh) | 一种用于运动图像处理装置、方法及存储介质 | |
CN112489087A (zh) | 用于高层建筑施工的悬吊式作业平台的晃动检测方法 | |
CN113283273B (zh) | 基于视觉技术的前方障碍物实时检测方法及系统 | |
CN117274926A (zh) | 交通信号设备的控制方法及系统 | |
Rajaji et al. | Detection of lane and speed breaker warning system for autonomous vehicles using machine learning algorithm | |
Yang et al. | Video anomaly detection for surveillance based on effective frame area | |
CN118262281A (zh) | 轨道交通场景的安全预警方法、装置、存储介质和设备 | |
CN112115928B (zh) | 基于违停车辆标签的神经网络的训练方法和检测方法 | |
CN113762027B (zh) | 一种异常行为的识别方法、装置、设备及存储介质 | |
CN114898140A (zh) | 一种基于paa算法的行为检测方法、装置及可读介质 | |
CN114820676A (zh) | 一种设备运行状态识别方法及装置 | |
CN114937248A (zh) | 用于跨相机的车辆跟踪方法、装置、电子设备、存储介质 | |
CN113744304A (zh) | 一种目标检测跟踪的方法和装置 | |
Said et al. | Real-time detection and classification of traffic light signals |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication |