CN112418198A - 基于灰度图能量值的人行走道的地砖起伏缺陷检测方法 - Google Patents

Abstract

本申请公开了一种基于灰度图能量值的人行走道的地砖起伏缺陷检测方法。所述方法，包括：获取人行走道的视频中的图像帧的灰度图；确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向；计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线；将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图；以及，基于所述特征图使用分类函数以获得所述图像帧的分类结果，所述分类结果用于表示所述图像帧对应的人行走道是否存在地砖起伏缺陷。这样，以图割方法确定人行走道图像中的灰度异常线，并以深度神经网络基于所述灰度异常线作为标注特征来判定是否为人行走道上的地砖起伏缺陷。

Description

基于灰度图能量值的人行走道的地砖起伏缺陷检测方法

技术领域

本申请涉及人工智能技术领域，且更为具体地，涉及一种基于灰度图能量值的人行走道的地砖起伏缺陷检测方法。

背景技术

“智慧城市”将信息技术与先进的城市经营服务理念进行有效融合，通过对城市的地理、资源、环境、经济等进行数字网络化管理，为城市提供更便捷、高效、灵活的公共管理的创新服务模式。

城市内的人行走道通常都铺设有地砖，在使用过程中，地砖会发生破损或发生起伏导致路面不平，这些都会影响人行走道的正常使用。地砖的破损可通过基于图像中的缺陷检测来确定，但地砖的起伏很难直接从图像中检测出来。并且，地砖的起伏相比地砖的破损更容易造成行人的不便，尤其是在比较暗的光照条件下，甚至地砖的起伏可能导致地砖的突出边缘，从而可能对行人造成绊倒等损害。

近年来，深度学习尤其是神经网络的发展为人行走道的地砖起伏的检测提供了新的解决思路和方案。

发明内容

为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种基于灰度图能量值的人行走道的地砖起伏缺陷检测方法、系统和电子设备，其以图割方法通过灰度能量值确定人行走道图像中的图像缝隙（即，灰度异常线），并以深度神经网络提取所述灰度异常线的图像特征以结合原始图像帧中对于灰度异常线的标注来判定是否为人行走道上的地砖起伏缺陷。

根据本申请的一个方面，提供了一种基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，其包括：

获取人行走道的视频中的图像帧的灰度图；

确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向；

计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线；

将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图；以及

基于所述特征图使用分类函数以获得所述图像帧的分类结果，所述分类结果用于表示所述图像帧对应的人行走道是否存在地砖起伏缺陷。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中，获取人行走道的视频中的图像帧的灰度图，包括：获取所述人行走道的视频；截取所述人行走道的视频中的多个连续图像帧；以及，将所述多个连续图像帧转换为多个灰度图。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中，确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向，包括：使用区域分割方法确定所述灰度图中的灰度异常区域；将所述灰度异常区域近似为矩形框；将所述矩形框的长度方向和宽度方向分别确定为所述灰度异常区域的长度方向和宽度方向；以及，将所述灰度异常区域的长度方向或宽度方向确定为所述灰度异常区域的预定方向。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中，计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线，包括：将所述灰度异常区域分别沿与所述预定方向垂直的第一方向和第二方向平移预定像素以获得第一灰度图像和第二灰度图像，所述第一方向与所述第二方向相反；计算所述第一灰度图像和所述第二灰度图像的每个像素之间的灰度差值；取每个灰度差值的绝对值以获得灰度差值图像；以及，使用图割算法计算所述灰度差值图像的最低能量线以作为所述灰度异常区域内沿着所述预定方向的最低能量线。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中，将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图，包括：确定所述多个连续图像帧中的每个图像帧中标注的灰度异常线的像素信息；将所述像素信息转换为像素向量；将每个所述像素向量及其所对应的图像帧输入所述卷积神经网络以获得标签特征图和图像特征图；以及，融合所述标签特征图和所述图像特征图以获得用于分类的特征图。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中，所述像素信息为所述灰度异常线对应的每个像素的位置信息和像素值信息，且所述位置信息为相对于所述图像帧的直角坐标系内的xy坐标信息。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中，所述卷积神经网络通过具有标记有地砖起伏缺陷的标签的图像帧的有监督训练获得。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中，在所述卷积神经网络的训练过程中，所述图像帧中的灰度异常线以所述图像帧中的候选提取框形式标记，且所述图像帧具有标记是否存在地砖起伏缺陷的标签。

根据本申请的另一方面，提供了一种基于灰度图能量值的人行走道的地砖起伏缺陷检测系统，其包括：

灰度图获取单元，用于获取人行走道的视频中的图像帧的灰度图；

位姿确定单元，用于确定所述灰度图获取单元获得的所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向；

灰度异常线标定单元，用于计算所述位姿确定单元确定的所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线；

特征图生成单元，用于将标注有所述灰度异常线标定单元确定的所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图；以及

分类单元，用于基于所述特征图生成单元获得的所述特征图使用分类函数以获得所述图像帧的分类结果，所述分类结果用于表示所述图像帧对应的人行走道是否存在地砖起伏缺陷。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测系统中，所述灰度图获取单元，进一步用于：

获取所述人行走道的视频；

截取所述人行走道的视频中的多个连续图像帧；以及

将所述多个连续图像帧转换为多个灰度图。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测系统中，所述位姿确定单元，包括：

灰度异常区域确定子单元，用于使用区域分割方法确定所述灰度图中的灰度异常区域；

拟合子单元，用于将所述灰度异常区域近似为矩形框；

方向确定子单元，用于将所述矩形框的长度方向和宽度方向分别确定为所述灰度异常区域的长度方向和宽度方向；以及

预定方向设定子单元，用于将所述灰度异常区域的长度方向或宽度方向确定为所述灰度异常区域的预定方向。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测系统中，所述灰度异常线标定单元，包括：

平移子单元，用于将所述灰度异常区域分别沿与所述预定方向垂直的第一方向和第二方向平移预定像素以获得第一灰度图像和第二灰度图像，所述第一方向与所述第二方向相反；

灰度差值计算子单元，用于计算所述第一灰度图像和所述第二灰度图像的每个像素之间的灰度差值；

灰度差值图像生成子单元，用于取每个灰度差值的绝对值以获得灰度差值图像；以及

最低能量线确定子单元，用于使用图割算法计算所述灰度差值图像的最低能量线以作为所述灰度异常区域内沿着所述预定方向的最低能量线。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测系统中，所述特征图生成单元，包括：

像素信息确定子单元，用于确定所述多个连续图像帧中的每个图像帧中标注的灰度异常线的像素信息；

像素向量转化子单元，用于将所述像素信息转换为像素向量；

特征图生成子单元，用于将每个所述像素向量及其所对应的图像帧输入所述卷积神经网络以获得标签特征图和图像特征图；以及

融合子单元，用于融合所述标签特征图和所述图像特征图以获得用于分类的特征图。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测系统中，所述像素信息为所述灰度异常线对应的每个像素的位置信息和像素值信息，且所述位置信息为相对于所述图像帧的直角坐标系内的xy坐标信息。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测系统中，所述卷积神经网络通过具有标记有地砖起伏缺陷的标签的图像帧的有监督训练获得。

在上述基于灰度图能量值的人行走道的地砖起伏缺陷检测系统中，在所述卷积神经网络的训练过程中，所述图像帧中的灰度异常线以所述图像帧中的候选提取框形式标记，且所述图像帧具有标记是否存在地砖起伏缺陷的标签。

根据本申请的再一方面，提供了一种电子设备，包括：处理器；以及，存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述处理器运行时使得所述处理器执行如上所述的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法。

根据本申请的又一方面，提供了一种计算机可读介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行如上所述的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法。

与现有技术相比，本申请提供的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法、系统和电子设备，其以图割方法通过灰度能量值确定人行走道图像中的图像缝隙（即，灰度异常线），并以深度神经网络提取所述灰度异常线的图像特征以结合原始图像帧中对于灰度异常线的标注来判定是否为人行走道上的地砖起伏缺陷。

附图说明

通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法的应用场景图。

图2图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法的流程图。

图3图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向的流程图。

图4图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线的流程图。

图5图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图的流程图。

图6图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测系统的框图。

图7图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测系统中所述位姿确定单元的框图。

图8图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测系统中灰度异常线标定单元的框图。

图9图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测系统中特征图生成单元的框图。

图10图示了根据本申请实施例的电子设备的框图。

具体实施方式

下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。

场景概述

如前所述，城市内的人行走道通常都铺设有地砖，在使用过程中，地砖会发生破损或发生起伏导致路面不平，这些都会影响人行走道的正常使用。地砖的破损可通过基于图像中的缺陷检测来确定，但地砖的起伏很难直接从图像中检测出来。并且，地砖的起伏相比地砖的破损更容易造成行人的不便，尤其是在比较暗的光照条件下，甚至地砖的起伏可能导致地砖的突出边缘，从而可能对行人造成绊倒等损害。

近年来，深度学习尤其是神经网络的发展为人行走道的地砖起伏的检测提供了新的解决思路和方案。

具体地，本申请发明人发现：在人行走道的图像中，地砖的起伏会造成地面的起伏，而这会反应在图像的灰度图中生成图像缝隙，也就是，地砖的起伏位置的灰度会与非起伏位置的灰度产生差异，从而在灰度图中形成灰度峰值或者谷值的一条图像缝隙。

相应地，在本申请中，本申请发明人用相对成熟的图割方法的思路来在空间维度上寻找图像缝隙。具体地，借助于相对成熟的图割方法的思路，通过在图像中首先定位缝隙的近似位置的区域，然后求解该区域内具有最低能量的缝隙线，来确定图像中的缝隙。

但是，在通过图割方法求解图像中的缝隙线的情况下，首先，对于包括连续图像帧的视频来说，可能会存在图像中的缝隙线在各帧之间位置误差过大的情况，而且，在人行走道的视频中，可能存在其他的干扰因素导致使用图割方法求解出具有最低能量的灰度异常线，比如恰好沿着与所述较长长度方向垂直的方向呈正态分布的随机噪声。因此，为了能够准确地判定灰度图像中的灰度异常线是否对应于原始图像帧中的地砖起伏缺陷，在本申请中进一步使用卷积神经网络来提取图像特征，以结合原始图像帧中对于灰度异常线的标注来判定是否为人行走道上的地砖起伏缺陷。

基于此，本申请提出了一种基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，其包括：获取人行走道的视频中的图像帧的灰度图；确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向；计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线；将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图；以及，基于所述特征图使用分类函数以获得所述图像帧的分类结果，所述分类结果用于表示所述图像帧对应的人行走道是否存在地砖起伏缺陷。

图1图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法的应用场景图。

如图1所示，在该应用场景中，通过摄像头（例如，如图1中所示意的C）采集铺设有地砖的人行走道的多个图像帧，然后，将这些图像帧输入至部署有基于灰度图能量值的人行走道的地砖起伏缺陷检测算法的服务器中（例如，如图1所示意的S），其中，所述服务器能够使用基于灰度图能量值的人行走道的地砖起伏缺陷检测算法对所述人行走道图像进行检测，以检测出所述图像帧对应的人行走道是否存在地砖起伏缺陷。

在介绍了本申请的基本原理之后，下面将参考附图来具体介绍本申请的各种非限制性实施例。

示例性方法

图2图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法的流程图。如图2所示，根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，包括：S110，获取人行走道的视频中的图像帧的灰度图；S120，确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向；S130，计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线；S140，将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图；以及，S150，基于所述特征图使用分类函数以获得所述图像帧的分类结果，所述分类结果用于表示所述图像帧对应的人行走道是否存在地砖起伏缺陷。

在步骤S110中，获取人行走道的视频中的图像帧的灰度图。如前所述，在人行走道的图像中，地砖的起伏会造成地面的起伏，而这会反应在图像的灰度图中生成图像缝隙，也就是，地砖的起伏位置的灰度会与非起伏位置的灰度产生差异，从而在灰度图中形成灰度峰值或者谷值的一条图像缝隙。

在本申请一具体实施示例中，获取人行走道的视频中的图像帧的灰度图，包括：获取所述人行走道的视频；截取所述人行走道的视频中的多个连续图像帧；以及，将所述多个连续图像帧转换为多个灰度图。也就是，从所述人行走道的视频中获取多帧人形走道的灰度图。

这里，在后续处理中，通过对于多个灰度图确定灰度异常线，可以避免单个灰度图的计算结果中的随机误差，也就是，可以通过多个灰度图中的灰度异常线的连续性的判定来确定对于单个灰度图所确定的灰度异常线的置信度。

在步骤S120中，确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向。这里，如果人行走道中存在地砖起伏的情况，则在所述灰度图像中会存在灰度异常区域，即，灰度值发生跃变的区域。

在本申请一具体示例中，确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向的过程，包括如下步骤。

首先，使用区域分割方法确定所述灰度图中的灰度异常区域；例如，可通过模板匹配、纹理分割或者区域聚类发来确定所述灰度图中的灰度异常区域。

接着，将所述灰度异常区域近似为矩形框；也就是说，将所述灰度异常区域拟合为矩形框区域。

然后，将所述矩形框的长度方向和宽度方向分别确定为所述灰度异常区域的长度方向和宽度方向；

继而，将所述灰度异常区域的长度方向或宽度方向确定为所述灰度异常区域的预定方向。也就是说，将矩形框的长度方向或者宽度方向任意之一作为所述灰度异常区域的预定方向。

特别地，通过确定灰度异常区域的长度方向和宽度方向，并沿该方向来确定最低能量线，可以重点关注可能产生的对行人影响比较大的主要的起伏缺陷，并且能够简化最低能量线的计算。

图3图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向的流程图。如图3所示，确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向，包括：S210，使用区域分割方法确定所述灰度图中的灰度异常区域；S220，将所述灰度异常区域近似为矩形框；S230，将所述矩形框的长度方向和宽度方向分别确定为所述灰度异常区域的长度方向和宽度方向；以及，S240，将所述灰度异常区域的长度方向或宽度方向确定为所述灰度异常区域的预定方向。

在步骤S130中，计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线。如前所述，所述灰度异常区域表征所述图像缝隙在图像中的近似位置的区域，相应地，通过求解该区域内具有最低能量的缝隙线（即，所述灰度异常线）来确定图像中的缝隙。

在本申请一具体示例中，计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线的过程，包括如下步骤。

首先，将所述灰度异常区域分别沿与所述预定方向垂直的第一方向和第二方向平移预定像素以获得第一灰度图像和第二灰度图像，所述第一方向与所述第二方向相反。例如，当所述预定方向为所述灰度异常区域的长度方向时，所述第一方向与所述第二方向为垂直于所述灰度区域的长度方向的方向，即，所述灰度区域的宽度方向，并且，所述第一方向与所述第二方向相反。也就是，当所述预定方向为所述灰度异常区域的长度方向时，将所述灰度异常区域分别沿着其宽度方向的第一方向与所述第一相反的第二方向平移预定像素以获得所述第一灰度图像和所述第二灰度图像。

然后，计算所述第一灰度图像和所述第二灰度图像的每个像素之间的灰度差值；

接着，取每个灰度差值的绝对值以获得灰度差值图像；在确定所述最低能量线时，重要的是灰度能量值而非灰度能量值的变化方向，即，能量增加或减少的方向性。

继而，使用图割算法计算所述灰度差值图像的最低能量线以作为所述灰度异常区域内沿着所述预定方向的最低能量线。具体地，首先，计算所述第一灰度图像与所述灰度差值图像之间的图像差值的第一绝对值；然后，计算所述第二灰度图像与所述灰度差值图像之间的图像差值的第二绝对值；然后，计算所述第一绝对值与所述第二绝对值之和以作为所述灰度差值图像相对于所述最低能量线的有向边缘值；接着，基于所述有向边缘值对所述灰度差值图像进行传递以获得所述最低能量线。

也就是，该示例中，通过将灰度异常区域的灰度图向着预定方向平移并计算灰度差值图像，可以通过图割的思想获取基于图像中的预定方向的能量的区域分布特性，从而计算出沿着预定方向的最低能量线。并且，所述能量分布特性仅需要考虑绝对值，而不需要考虑符号，即能量的增加或减少的方向性，因此取每个灰度差值的绝对值来获得灰度差值图像。

图4图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线的流程图。如图4所示，计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线，包括步骤：S310，将所述灰度异常区域分别沿所述预定方向向相反方向平移预定像素以获得第一灰度图像和第二灰度图像；S320，计算所述第一灰度图像和所述第二灰度图像的每个像素之间的灰度差值；S330，取每个灰度差值的绝对值以获得灰度差值图像；以及，S340，使用图割算法计算所述灰度差值图像的最低能量线以作为所述灰度异常区域内沿着所述预定方向的最低能量线。

在步骤S140中，将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图。如前所述，在通过图割方法求解图像中的缝隙线的情况下，首先，对于包括连续图像帧的视频来说，可能会存在图像中的缝隙线在各帧之间位置误差过大的情况，而且，在人行走道的视频中，可能存在其他的干扰因素导致使用图割方法求解出具有最低能量的灰度异常线，比如恰好沿着与所述较长长度方向垂直的方向呈正态分布的随机噪声。因此，为了能够准确地判定灰度图像中的灰度异常线是否对应于原始图像帧中的地砖起伏缺陷，在本申请中进一步使用卷积神经网络来提取图像特征，以结合原始图像帧中对于灰度异常线的标注来判定是否为人行走道上的地砖起伏缺陷。

具体地，在本申请一示例中，将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图的过程，包括如下步骤。

首先，确定所述多个连续图像帧中的每个图像帧中标注的灰度异常线的像素信息；这里，所述像素信息为所述灰度异常线对应的每个像素的位置信息和像素值信息，且所述位置信息为相对于所述图像帧的直角坐标系内的xy坐标信息。

然后，将所述像素信息转换为像素向量；也就是，将像素信息转化为卷积神经网络可以处理的数据格式。

接着，将每个所述像素向量及其所对应的图像帧输入所述卷积神经网络以获得标签特征图和图像特征图；也就是，基于卷积神经网络从所述像素向量和其所对应的图像帧中提取出相应特征，相应特征表现在所述标签特征图和所述图像特征图中。

然后，融合所述标签特征图和所述图像特征图以获得用于分类的特征图。

也就是说，在本申请实施例中，使用灰度异常线的标签信息来进行有监督学习，应可以理解，有监督学习方式可以促进所述卷积神经网络以更快的速度和以较少的计算量往梯度下降最快的方向收敛。

图5图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图的流程图。

如图5所示，将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图，包括步骤：S410，确定所述多个连续图像帧中的每个图像帧中标注的灰度异常线的像素信息；S420，将所述像素信息转换为像素向量；S430，将每个所述像素向量及其所对应的图像帧输入所述卷积神经网络以获得标签特征图和图像特征图；以及，S440，融合所述标签特征图和所述图像特征图以获得用于分类的特征图。

在步骤S150中，基于所述特征图使用分类函数以获得所述图像帧的分类结果，所述分类结果用于表示所述图像帧对应的人行走道是否存在地砖起伏缺陷。这里，所述分类函数可被实施为Softmax分类函数，且其分类标签为：所述图像帧对应的人行走道存在地砖起伏缺陷，和所述图像帧对应的人行走道不存在地砖起伏缺陷。

综上，基于本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法被阐明，其以图割方法通过灰度能量值确定人行走道图像中的图像缝隙（即，灰度异常线），并以深度神经网络提取所述灰度异常线的图像特征以结合原始图像帧中对于灰度异常线的标注来判定是否为人行走道上的地砖起伏缺陷。

值得一提的是，根据本申请实施例的所述卷积神经网络通过具有标记有地砖起伏缺陷的标签的图像帧的有监督训练获得。并且，在所述卷积神经网络的训练过程中，所述图像帧中的灰度异常线以所述图像帧中的候选提取框形式标记，且所述图像帧具有标记是否存在地砖起伏缺陷的标签。

应可以理解，有监督学习方式可以促进所述卷积神经网络以更快的速度和以较少的计算量往梯度下降最快的方向收敛。

示例性系统

图6图示了根据本申请实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测系统的框图。

如图6所示，根据本申请实施例的人行走道的地砖起伏缺陷检测系统 600，包括：灰度图获取单元 610，用于获取人行走道的视频中的图像帧的灰度图；位姿确定单元 620，用于确定所述灰度图获取单元 610获得的所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向；灰度异常线标定单元 630，用于计算所述位姿确定单元 620确定的所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线；特征图生成单元640，用于将标注有所述灰度异常线标定单元 630确定的所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图；以及，分类单元 650，用于基于所述特征图生成单元640获得的所述特征图使用分类函数以获得所述图像帧的分类结果，所述分类结果用于表示所述图像帧对应的人行走道是否存在地砖起伏缺陷。

在一个示例中，在上述人行走道的地砖起伏缺陷检测系统 600中，所述灰度图获取单元 610，进一步用于：获取所述人行走道的视频；截取所述人行走道的视频中的多个连续图像帧；以及，将所述多个连续图像帧转换为多个灰度图。

在一个示例中，在上述人行走道的地砖起伏缺陷检测系统 600中，如图7所示，所述位姿确定单元 620，包括：灰度异常区域确定子单元 621，用于使用区域分割方法确定所述灰度图中的灰度异常区域；拟合子单元 622，用于将所述灰度异常区域近似为矩形框；方向确定子单元 623，用于将所述矩形框的长度方向和宽度方向分别确定为所述灰度异常区域的长度方向和宽度方向；以及，预定方向设定子单元 624，用于将所述灰度异常区域的长度方向或宽度方向确定为所述灰度异常区域的预定方向。

在一个示例中，在上述人行走道的地砖起伏缺陷检测系统 600中，如图8所示，所述灰度异常线标定单元 630，包括：平移子单元 631，用于将所述灰度异常区域分别沿与所述预定方向垂直的第一方向和第二方向平移预定像素以获得第一灰度图像和第二灰度图像，所述第一方向与所述第二方向相反；灰度差值计算子单元 632，用于计算所述第一灰度图像和所述第二灰度图像的每个像素之间的灰度差值；灰度差值图像生成子单元 633，用于取每个灰度差值的绝对值以获得灰度差值图像；以及，最低能量线确定子单元 634，用于使用图割算法计算所述灰度差值图像的最低能量线以作为所述灰度异常区域内沿着所述预定方向的最低能量线。

在一个示例中，在上述人行走道的地砖起伏缺陷检测系统 600中，如图9所示，所述特征图生成单元 640，包括：像素信息确定子单元641，用于确定所述多个连续图像帧中的每个图像帧中标注的灰度异常线的像素信息；像素向量转化子单元 642，用于将所述像素信息转换为像素向量；特征图生成子单元 643，用于将每个所述像素向量及其所对应的图像帧输入所述卷积神经网络以获得标签特征图和图像特征图；以及，融合子单元 644，用于融合所述标签特征图和所述图像特征图以获得用于分类的特征图。

在一个示例中，在上述人行走道的地砖起伏缺陷检测系统 600中，所述像素信息为所述灰度异常线对应的每个像素的位置信息和像素值信息，且所述位置信息为相对于所述图像帧的直角坐标系内的xy坐标信息。

在一个示例中，在上述人行走道的地砖起伏缺陷检测系统 600中，所述卷积神经网络通过具有标记有地砖起伏缺陷的标签的图像帧的有监督训练获得。

在一个示例中，在上述人行走道的地砖起伏缺陷检测系统 600中，在所述卷积神经网络的训练过程中，所述图像帧中的灰度异常线以所述图像帧中的候选提取框形式标记，且所述图像帧具有标记是否存在地砖起伏缺陷的标签。

这里，本领域技术人员可以理解，上述人行走道的地砖起伏缺陷检测系统 600中的各个单元和模块的具体功能和操作已经在上面参考图1到图5的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法的描述中得到了详细介绍，并因此，将省略其重复描述。

如上所述，根据本申请实施例的人行走道的地砖起伏缺陷检测系统 600可以实现在各种终端设备中，例如用于监控人行走道的服务器等。在一个示例中，根据本申请实施例的人行走道的地砖起伏缺陷检测系统 600可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如，该人行走道的地砖起伏缺陷检测系统 600可以是该终端设备的操作系统中的一个软件模块，或者可以是针对于该终端设备所开发的一个应用程序；当然，该人行走道的地砖起伏缺陷检测系统 600同样可以是该终端设备的众多硬件模块之一。

替换地，在另一示例中，该人行走道的地砖起伏缺陷检测系统 600与该终端设备也可以是分立的设备，并且该人行走道的地砖起伏缺陷检测系统 600可以通过有线和/或无线网络连接到该终端设备，并且按照约定的数据格式来传输交互信息。

示例性电子设备

下面，参考图10来描述根据本申请实施例的电子设备。

图10图示了根据本申请实施例的电子设备的框图。

如图10所示，电子设备10包括一个或多个处理器11和存储器12。

处理器11可以是中央处理单元（CPU）或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备10中的其他组件以执行期望的功能。

存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器（RAM）和/或高速缓冲存储器（cache）等。所述非易失性存储器例如可以包括只读存储器（ROM）、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本申请的各个实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中的功能以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如人行街道图像、分类结果等各种内容。

在一个示例中，电子设备10还可以包括：输入装置13和输出装置14，这些组件通过总线系统和/或其他形式的连接机构（未示出）互连。

该输入装置13可以包括例如键盘、鼠标等等。

该输出装置14可以向外部输出各种信息，包括分类结果等。该输出装置14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图10中仅示出了该电子设备10中与本申请有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备10还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中的功能中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法中的功能中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。

本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (10)

1.一种基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，其特征在于，包括：

获取人行走道的视频中的图像帧的灰度图；

确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向；

计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线；

将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图；以及

基于所述特征图使用分类函数以获得所述图像帧的分类结果，所述分类结果用于表示所述图像帧对应的人行走道是否存在地砖起伏缺陷。

2.根据权利要求1所述的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，其中，获取人行走道的视频中的图像帧的灰度图，包括：

获取所述人行走道的视频；

截取所述人行走道的视频中的多个连续图像帧；以及

将所述多个连续图像帧转换为多个灰度图。

3.根据权利要求1所述的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，其中，确定所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向，包括：

使用区域分割方法确定所述灰度图中的灰度异常区域；

将所述灰度异常区域近似为矩形框；

将所述矩形框的长度方向和宽度方向分别确定为所述灰度异常区域的长度方向和宽度方向；以及

将所述灰度异常区域的长度方向或宽度方向确定为所述灰度异常区域的预定方向。

4.根据权利要求1所述的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，其中，计算所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线，包括：

将所述灰度异常区域分别沿与所述预定方向垂直的第一方向和第二方向平移预定像素以获得第一灰度图像和第二灰度图像，所述第一方向与所述第二方向相反；

计算所述第一灰度图像和所述第二灰度图像的每个像素之间的灰度差值；

取每个灰度差值的绝对值以获得灰度差值图像；以及

使用图割算法计算所述灰度差值图像的最低能量线以作为所述灰度异常区域内沿着所述预定方向的最低能量线。

5.根据权利要求1所述的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，其中，将标注有所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图，包括：

确定所述多个连续图像帧中的每个图像帧中标注的灰度异常线的像素信息；

将所述像素信息转换为像素向量；

将每个所述像素向量及其所对应的图像帧输入所述卷积神经网络以获得标签特征图和图像特征图；以及

融合所述标签特征图和所述图像特征图以获得用于分类的特征图。

6.根据权利要求5所述的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，其中，所述像素信息为所述灰度异常线对应的每个像素的位置信息和像素值信息，且所述位置信息为相对于所述图像帧的直角坐标系内的xy坐标信息。

7.根据权利要求5所述的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，其中，所述卷积神经网络通过具有标记有地砖起伏缺陷的标签的图像帧的有监督训练获得。

8.根据权利要求7所述的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法，其中，在所述卷积神经网络的训练过程中，所述图像帧中的灰度异常线以所述图像帧中的候选提取框形式标记，且所述图像帧具有标记是否存在地砖起伏缺陷的标签。

9.一种基于灰度图能量值的人行走道的地砖起伏缺陷检测系统，其特征在于，包括：

灰度图获取单元，用于获取人行走道的视频中的图像帧的灰度图；

位姿确定单元，用于确定所述灰度图获取单元获得的所述灰度图中的灰度异常区域和所述灰度异常区域的预定方向；

灰度异常线标定单元，用于计算所述位姿确定单元确定的所述灰度异常区域内沿着所述预定方向的最低能量线以作为灰度异常线；

特征图生成单元，用于将标注有所述灰度异常线标定单元确定的所述灰度异常线的多个连续图像帧输入卷积神经网络以获得特征图；以及

分类单元，用于基于所述特征图生成单元获得的所述特征图使用分类函数以获得所述图像帧的分类结果，所述分类结果用于表示所述图像帧对应的人行走道是否存在地砖起伏缺陷。

10.一种电子设备，包括：

处理器；以及

存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述处理器运行时使得所述处理器执行如权利要求1-8中任一项所述的基于灰度图能量值的人行走道的地砖起伏缺陷检测方法。

Images