CN116216234A - 基于视频的输煤系统智能监控系统及其方法 - Google Patents

基于视频的输煤系统智能监控系统及其方法 Download PDF

Info

Publication number
CN116216234A
CN116216234A CN202310194359.6A CN202310194359A CN116216234A CN 116216234 A CN116216234 A CN 116216234A CN 202310194359 A CN202310194359 A CN 202310194359A CN 116216234 A CN116216234 A CN 116216234A
Authority
CN
China
Prior art keywords
coal conveying
conveying belt
monitoring
coal
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310194359.6A
Other languages
English (en)
Inventor
吴坤松
郭凯
陈晓伟
王浩光
赵霞
田宏哲
孙新佳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Huaneng Xinrui Control Technology Co Ltd
Shantou Power Plant of Huaneng Guangdong Energy Development Co Ltd
Original Assignee
Beijing Huaneng Xinrui Control Technology Co Ltd
Shantou Power Plant of Huaneng Guangdong Energy Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Huaneng Xinrui Control Technology Co Ltd, Shantou Power Plant of Huaneng Guangdong Energy Development Co Ltd filed Critical Beijing Huaneng Xinrui Control Technology Co Ltd
Priority to CN202310194359.6A priority Critical patent/CN116216234A/zh
Publication of CN116216234A publication Critical patent/CN116216234A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G43/00—Control devices, e.g. for safety, warning or fault-correcting
    • B65G43/08—Control devices operated by article or material being fed, conveyed or discharged
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G15/00—Conveyors having endless load-conveying surfaces, i.e. belts and like continuous members, to which tractive effort is transmitted by means other than endless driving elements of similar configuration
    • B65G15/30—Belts or like endless load-carriers
    • B65G15/32—Belts or like endless load-carriers made of rubber or plastics
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G43/00—Control devices, e.g. for safety, warning or fault-correcting
    • B65G43/02—Control devices, e.g. for safety, warning or fault-correcting detecting dangerous physical condition of load carriers, e.g. for interrupting the drive in the event of overheating
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B65—CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65G—TRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G2201/00—Indexing codes relating to handling devices, e.g. conveyors, characterised by the type of product or load being conveyed or handled
    • B65G2201/04—Bulk
    • B65G2201/045—Sand, soil and mineral ore

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Control Of Conveyors (AREA)

Abstract

公开了一种基于视频的输煤系统智能监控系统及其方法，其采用基于机器视觉的人工智能监控技术，以提取出输煤皮带实际的监控视频与理想参考视频中关于所述输煤皮带与皮带输煤机之间在空间位置上的相对位置关联的时序差异性分布的动态变化特征信息，并基于这两者的差异性特征对比来评估所述输煤皮带是否偏移正常的运输轨道。这样，能够对于输煤皮带是否偏移进行实时准确地监控，以在检测出输煤皮带偏移时发出安全预警。

Description

基于视频的输煤系统智能监控系统及其方法
技术领域
本申请涉及监控技术领域，且更为具体地，涉及一种基于视频的输煤系统智能监控系统及其方法。
背景技术
现在的煤矿开采行业和煤矿运输行业在采集到煤矿资源后，大规模运用皮带运输的方法对煤矿进行输送，而皮带输煤机为最主要的运料手段的工具会因为长时间的工作造成机器的磨损，一些零件的松动，进而可能造成输煤皮带的偏移，而如果没有及时发现输煤皮带的偏移将会大大增加现场工作人员的危险程度，并且，如果产生安全问题还会造成整个工作系统的瘫痪。但是目前对于输煤皮带偏移的观测只能由工作人员进行按时排查，不能实时监测并且效率低下。
因此，期望一种优化的基于视频的输煤系统智能监控系统。
发明内容
为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种基于视频的输煤系统智能监控系统及其方法，其采用基于机器视觉的人工智能监控技术，以提取出输煤皮带实际的监控视频与理想参考视频中关于所述输煤皮带与皮带输煤机之间在空间位置上的相对位置关联的时序差异性分布的动态变化特征信息，并基于这两者的差异性特征对比来评估所述输煤皮带是否偏移正常的运输轨道。这样，能够对于输煤皮带是否偏移进行实时准确地监控，以在检测出输煤皮带偏移时发出安全预警。
相应地，根据本申请的一个方面，提供了一种基于视频的输煤系统智能监控系统，其包括：
监控数据调用模块，用于通过摄像头获取输煤皮带监控视频和输煤皮带参考视频；
采样模块，用于分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧；
关键帧图像编码模块，用于将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵；
差分模块，用于计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵；
输煤动态特征提取模块，用于将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图；
参考数据编码模块，用于基于所述第一卷积神经网络模型和所述第二卷积神经网络模型，从所述多个输煤皮带参考关键帧得到输煤皮带参考特征图；
优化模块，用于分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图；
差异化评估模块，用于计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的差分特征图；以及
监控结果生成模块，用于将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警。
在上述基于视频的输煤系统智能监控系统中，所述采样模块，进一步用于：以预定采样频率分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取所述多个输煤皮带监控关键帧和所述多个输煤皮带参考关键帧。
在上述基于视频的输煤系统智能监控系统中，所述关键帧图像编码模块，进一步用于：使用所述第一卷积神经网络模型的卷积编码部分对所述输煤皮带监控关键帧进行深度卷积编码以得到初始卷积特征图；将所述初始卷积特征图输入所述第一卷积神经网络模型的空间注意力部分以得到空间注意力图；将所述空间注意力图通过Softmax激活函数以得到空间注意力特征图；计算所述空间注意力特征图和所述初始卷积特征图的按位置点乘以得到输煤皮带监控特征图；以及，对所述输煤皮带监控特征图进行沿通道维度的全局均值池化处理以得到所述输煤皮带监控特征矩阵。
在上述基于视频的输煤系统智能监控系统中，所述差分模块，进一步用于：以如下公式来计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵；其中，所述公式为：
Figure BDA0004106669140000021
其中，M1表示所述所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵的前一特征矩阵，M2表示所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵的后一特征矩阵，Md表示所述差分特征矩阵，
Figure BDA0004106669140000031
表示按位置作差。
在上述基于视频的输煤系统智能监控系统中，所述输煤动态特征提取模块，进一步用于：使用所述使用三维卷积核的第二卷积神经网络模型在层的正向传递中对输入数据分别进行：基于所述三维卷积核对所述输入数据进行三维卷积处理以得到卷积特征图；对所述卷积特征图进行基于局部特征矩阵的均值池化处理以得到池化特征图；以及，对所述池化特征图进行非线性激活以得到激活特征图；其中，所述第二卷积神经网络模型的最后一层的输出为所述输煤皮带监控特征图，所述第二卷积神经网络模型的第一层的输入为所述三维输入张量。
在上述基于视频的输煤系统智能监控系统中，所述优化模块，进一步用于：以如下公式分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图；其中，所述公式为：
Figure BDA0004106669140000032
其中M表示所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵，mi，j是所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的每个特征矩阵的各个位置的特征值，MT表示所述各个特征矩阵的转置矩阵，||·||2为向量的二范数，且
Figure BDA0004106669140000033
表示将矩阵的每个值乘以预定数值，
Figure BDA0004106669140000034
表示按位置加法，M′表示所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图中的沿通道维度的各个特征矩阵。
在上述基于视频的输煤系统智能监控系统中，所述差异化评估模块，进一步用于：以如下公式来计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的所述差分特征图；其中，所述公式为：
Figure BDA0004106669140000036
其中，F′1表示所述优化后输煤皮带监控特征图，F′2表示优化后输煤皮带参考特征图，Fc表示所述差分特征图，
Figure BDA0004106669140000035
表示按位置作差。
在上述基于视频的输煤系统智能监控系统中，所述监控结果生成模块，包括：展开单元，用于将所述差分特征图中各个差分特征矩阵按照行向量或者列向量展开为一维特征向量后级联以得到分类特征向量；全连接编码单元，用于使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及，分类结果生成单元，用于将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。
根据本申请的另一方面，还提供了一种基于视频的输煤系统智能监控方法，其包括：
通过摄像头获取输煤皮带监控视频和输煤皮带参考视频；
分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧；
将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵；
计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵；
将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图；
基于所述第一卷积神经网络模型和所述第二卷积神经网络模型，从所述多个输煤皮带参考关键帧得到输煤皮带参考特征图；
分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图；
计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的差分特征图；以及
将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警。
在上述基于视频的输煤系统智能监控方法中，所述分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧，包括：以预定采样频率分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取所述多个输煤皮带监控关键帧和所述多个输煤皮带参考关键帧。
在上述基于视频的输煤系统智能监控方法中，所述将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵，包括：使用所述第一卷积神经网络模型的卷积编码部分对所述输煤皮带监控关键帧进行深度卷积编码以得到初始卷积特征图；将所述初始卷积特征图输入所述第一卷积神经网络模型的空间注意力部分以得到空间注意力图；将所述空间注意力图通过Softmax激活函数以得到空间注意力特征图；计算所述空间注意力特征图和所述初始卷积特征图的按位置点乘以得到输煤皮带监控特征图；以及，对所述输煤皮带监控特征图进行沿通道维度的全局均值池化处理以得到所述输煤皮带监控特征矩阵。
在上述基于视频的输煤系统智能监控方法中，所述将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图，包括：使用所述使用三维卷积核的第二卷积神经网络模型在层的正向传递中对输入数据分别进行：基于所述三维卷积核对所述输入数据进行三维卷积处理以得到卷积特征图；对所述卷积特征图进行基于局部特征矩阵的均值池化处理以得到池化特征图；以及，对所述池化特征图进行非线性激活以得到激活特征图；其中，所述第二卷积神经网络模型的最后一层的输出为所述输煤皮带监控特征图，所述第二卷积神经网络模型的第一层的输入为所述三维输入张量。
在上述基于视频的输煤系统智能监控方法中，所述分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图，包括：以如下公式分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图；其中，所述公式为：
Figure BDA0004106669140000051
其中M表示所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵，mi，j是所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的每个特征矩阵的各个位置的特征值，MT表示所述各个特征矩阵的转置矩阵，||·||2为向量的二范数，且
Figure BDA0004106669140000052
表示将矩阵的每个值乘以预定数值，
Figure BDA0004106669140000053
表示按位置加法，M′表示所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图中的沿通道维度的各个特征矩阵。
在上述基于视频的输煤系统智能监控方法中，所述将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警，包括：将所述差分特征图中各个差分特征矩阵按照行向量或者列向量展开为一维特征向量后级联以得到分类特征向量；使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及，将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。
根据本申请的再一方面，提供了一种电子设备，包括：处理器；以及，存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述处理器运行时使得所述处理器执行如上所述的基于视频的输煤系统智能监控方法。
根据本申请的又一方面，提供了一种计算机可读介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行如上所述的基于视频的输煤系统智能监控方法。
与现有技术相比，本申请提供的基于视频的输煤系统智能监控系统及其方法，其采用基于机器视觉的人工智能监控技术，以提取出输煤皮带实际的监控视频与理想参考视频中关于所述输煤皮带与皮带输煤机之间在空间位置上的相对位置关联的时序差异性分布的动态变化特征信息，并基于这两者的差异性特征对比来评估所述输煤皮带是否偏移正常的运输轨道。这样，能够对于输煤皮带是否偏移进行实时准确地监控，以在检测出输煤皮带偏移时发出安全预警。
附图说明
通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
图1为根据本申请实施例的基于视频的输煤系统智能监控系统的场景示意图。
图2为根据本申请实施例的基于视频的输煤系统智能监控系统的框图。
图3为根据本申请实施例的基于视频的输煤系统智能监控系统的架构示意图。
图4为根据本申请实施例的基于视频的输煤系统智能监控系统中监控结果生成模块的框图。
图5为根据本申请实施例的基于视频的输煤系统智能监控方法的流程图。
图6为根据本申请实施例的电子设备的框图。
具体实施方式
下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。
申请概述
现在的煤矿开采行业和煤矿运输行业在采集到煤矿资源后，大规模运用皮带运输的方法对煤矿进行输送，而皮带输煤机为最主要的运料手段的工具会因为长时间的工作造成机器的磨损，一些零件的松动，进而可能造成输煤皮带的偏移，而如果没有及时发现输煤皮带的偏移将会大大增加现场工作人员的危险程度，并且，如果产生安全问题还会造成整个工作系统的瘫痪。但是目前对于输煤皮带偏移的观测只能由工作人员进行按时排查，不能实时监测并且效率低下。因此，期望一种优化的基于视频的输煤系统智能监控系统。
目前，深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、语音信号处理等领域。此外，深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域，也展现出了接近甚至超越人类的水平。
近年来，深度学习以及神经网络的发展为基于视频的输煤系统的智能监控提供了新的解决思路和方案。
相应地，由于输煤廊道特殊的环境，一些危险因素及违反安规的现象依靠现场人员与工业电视和人员(机器人)定时巡检是无法及时发现和处理的，为输煤系统的安全生产埋下隐患。考虑到对于所述输煤皮带的偏移检测可以依靠实际的输煤皮带监控视频与理想状况下的参考视频进行差异性对比来进行，但是由于监控视频中具有的信息量较大，且所述输煤皮带偏移时的变化较小，这给输送带的跑偏检测带来了困难。随着深度学习以及神经网络的发展，在实际的检测中可以采用基于深度学习和人工智能算法，研发专用视频图像识别系统，实现对输送带跑偏识别。
具体地，在本申请的技术方案中，采用基于机器视觉的人工智能监控技术，以提取出输煤皮带实际的监控视频与理想参考视频中关于所述输煤皮带与皮带输煤机之间在空间位置上的相对位置关联的时序差异性分布的动态变化特征信息，并基于这两者的差异性特征对比来评估所述输煤皮带是否偏移正常的运输轨道。这样，能够对于输煤皮带是否偏移进行实时准确地监控，以在检测出输煤皮带偏移时发出安全预警，提醒运行人员进行处理，进而保证输煤作业的安全性。
更具体地，在本申请的技术方案中，通过摄像头获取输煤皮带监控视频和输煤皮带参考视频。接着，考虑到在所述输煤皮带监控视频和所述输煤皮带参考视频中，所述输煤皮带的状态变化特征可以通过所述监控视频中相邻监控帧之间的差分来表示，也就是，通过所述监控视频中的相邻图像帧的图像表征来表示输煤皮带的状态变化情况。但是，考虑到在所述监控视频中相邻帧的差异较小，存在大量数据冗余，因此，为了降低计量算，且避免数据冗余给检测带来的不良影响，以预定采样频率分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取所述多个输煤皮带监控关键帧和所述多个输煤皮带参考关键帧。这里，值得一提的是，所述采样频率可基于实际场景的应用需求做出调整，而不是默认值。
进一步地，使用在图像的隐含特征提取方面具有优异表现的卷积神经网络模型来进行所述各个输煤皮带监控关键帧和所述各个输煤皮带参考关键帧的特征提取，特别地，考虑到对于所述输煤皮带的偏移检测需要更加关注于所述输煤皮带在空间位置上与皮带输煤机的相对位置关联特征信息。因此，在本申请的技术方案中，进一步使用空间注意力机制的第一卷积神经网络模型对所述多个输煤皮带监控关键帧和所述多个输煤皮带参考关键帧的特征挖掘，以分别提取出所述多个输煤皮带监控关键帧和所述多个输煤皮带参考关键帧中的各个关键帧在空间位置上的隐藏特征分布信息，即所述各个关键帧中关于所述输煤皮带与所述皮带输煤机在空间位置上的隐藏关联特征，从而得到多个输煤皮带监控特征矩阵和多个输煤皮带参考特征矩阵。
然后，考虑到所述皮带输煤机在实际工作的过程中可能会因工作原因进行机器设备的移动，进而造成采集的监控视频中出现所述输煤皮带与所述皮带输煤机的位置发生变化，但是这并不能够说明所述输煤皮带已经偏移。因此，在本申请的技术方案中，进一步分别计算所述多个输煤皮带监控特征矩阵以及所述多个输煤皮带参考特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵和多个输煤皮带参考差分特征矩阵。这样，能够基于所述监控视频与所述参考视频中的当前帧与先前帧之间关于所述输煤皮带与所述皮带输煤机在空间位置上的相对位置隐含关联特征的差异性对比来进一步提高对于输送带跑偏进行检测的准确性。
进一步地，为了能够在所述皮带输煤机实际工作的过程中对于输煤皮带进行实时动态地跑偏检测预警，需要进一步挖掘其在时序上的动态变化特征信息。也就是，具体地，在本申请的技术方案中，进一步分别将所述多个输煤皮带监控差分特征矩阵和所述多个输煤皮带参考差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型中进行特征挖掘，以分别提取出所述输煤皮带监控视频和所述输煤皮带参考视频中关于所述输煤皮带与所述皮带输煤机在空间位置上的相对位置隐含关联特征在时序上的差异性动态变化特征分布信息，从而得到输煤皮带监控特征图和输煤皮带参考特征图。
接着，再计算所述输煤皮带监控特征图和所述输煤皮带参考特征图之间的差分特征图，以通过所述差分特征图来表示这两者之间关于所述输煤皮带与所述皮带输煤机在空间位置上的相对位置关联的动态变化特征的差异性特征分布信息，并以此作为分类特征图来通过分类器中进行分类处理，以得到用于表示是否产生输送带跑偏预警的分类结果。这样，能够对于输煤皮带是否偏移进行实时监控，以在检测出输煤皮带偏移时发出安全预警，提醒运行人员进行处理。
特别地，在本申请的技术方案中，这里，由于所述第一卷积神经网络模型的空间注意力机制，使得所述多个输煤皮带监控特征矩阵在空间维度上分别具有高的特征分布单调性，但是，这也使得计算所述多个输煤皮带监控特征矩阵中每两个特征矩阵之间由于类内差异的致密性而导致类间差异变大，从而使得其差分得到的所述多个输煤皮带监控差分特征矩阵之间的分布单调性变差，导致所述输煤皮带监控特征图的分布单调性变差，对于所述输煤皮带参考特征图也是如此。
因此，这会影响所述输煤皮带监控特征图和所述输煤皮带参考特征图之间进行逐位置差分计算得到的所述差分特征图的分布单调性，从而影响所述所述差分特征图通过分类器进行分类的收敛效果，从而影响分类器的训练速度和分类结果的准确性。
由此，对所述输煤皮带监控特征图和所述输煤皮带参考特征图的每个特征矩阵进行平滑最大函数近似性调制，表示为：
Figure BDA0004106669140000101
mi，j是所述输煤皮带监控特征图和所述输煤皮带参考特征图的每个特征矩阵M的特征值，其中所述特征矩阵通过线性变换转换为对角矩阵，||·||2为向量的二范数，且
Figure BDA0004106669140000102
表示将矩阵的每个值乘以预定数值。
这里，通过用沿所述各个特征矩阵的行和列维度的平滑最大函数来近似地定义符号化的距离函数，可以实现所述各个特征矩阵在高维特征空间内所表征的高维流形的凸优化的相对良好的联合，并通过以其对所述各个特征矩阵的结构化的特征分布进行调制，就可以获得特征分布的内在结构到特征空间内的空间特征变化的自然分布转移，增强了所述各个特征矩阵的高维流形的特征表达的凸单调性保留，从而增强了所述差分特征图的分布单调性，进而改进了所述差分特征图通过分类器进行分类的收敛效果，提升了分类器的训练速度和分类结果的准确性。这样，能够对于输煤皮带是否偏移进行实时准确地监控，以在检测出输煤皮带偏移时发出安全预警，提醒运行人员进行处理，进而保证输煤作业的安全性。
基于此，本申请提供了一种基于视频的输煤系统智能监控系统，其包括：监控数据调用模块，用于通过摄像头获取输煤皮带监控视频和输煤皮带参考视频；采样模块，用于分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧；关键帧图像编码模块，用于将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵；差分模块，用于计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵；输煤动态特征提取模块，用于将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图；参考数据编码模块，用于基于所述第一卷积神经网络模型和所述第二卷积神经网络模型，从所述多个输煤皮带参考关键帧得到输煤皮带参考特征图；优化模块，用于分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图；差异化评估模块，用于计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的差分特征图；以及，监控结果生成模块，用于将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警。
图1为根据本申请实施例的基于视频的输煤系统智能监控系统的场景示意图。如图1所示，在所述基于视频的输煤系统智能监控系统的应用场景中，首先通过部署于皮带输煤机(例如，如图1中所示意的Co)上的摄像头(例如，如图1中所示意的Ca)获取输煤皮带(例如，如图1中所示意的B)监控视频。进而，将所述输煤皮带监控视频输入至部署有基于视频的输煤系统智能监控算法的服务器(例如，如图1所示意的S)中，其中，所述服务器能够以所述基于视频的输煤系统智能监控算法对所述输煤皮带监控视频进行处理以得到用于表示是否产生输送带跑偏预警的分类结果。
在介绍了本申请的基本原理之后，下面将参考附图来具体介绍本申请的各种非限制性实施例。
示例性系统
图2为根据本申请实施例的基于视频的输煤系统智能监控系统的框图。如图2所示，根据本申请实施例的基于视频的输煤系统智能监控系统100，包括：监控数据调用模块110，用于通过摄像头获取输煤皮带监控视频和输煤皮带参考视频；采样模块120，用于分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧；关键帧图像编码模块130，用于将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵；差分模块140，用于计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵；输煤动态特征提取模块150，用于将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图；参考数据编码模块160，用于基于所述第一卷积神经网络模型和所述第二卷积神经网络模型，从所述多个输煤皮带参考关键帧得到输煤皮带参考特征图；优化模块170，用于分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图；差异化评估模块180，用于计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的差分特征图；以及，监控结果生成模块190，用于将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警。
图3为根据本申请实施例的基于视频的输煤系统智能监控系统的架构示意图。如图3所示，首先通过摄像头获取输煤皮带监控视频和输煤皮带参考视频。接着，分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧。然后，将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵。进而，计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵。接着，将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图。然后，基于所述第一卷积神经网络模型和所述第二卷积神经网络模型，从所述多个输煤皮带参考关键帧得到输煤皮带参考特征图。进而，分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图。接着，计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的差分特征图。然后，将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警。
在上述基于视频的输煤系统智能监控系统100中，所述监控数据调用模块110，用于通过摄像头获取输煤皮带监控视频和输煤皮带参考视频。现在的煤矿开采行业和煤矿运输行业在采集到煤矿资源后，大规模运用皮带运输的方法对煤矿进行输送，而皮带输煤机为最主要的运料手段的工具会因为长时间的工作造成机器的磨损，一些零件的松动，进而可能造成输煤皮带的偏移，而如果没有及时发现输煤皮带的偏移将会大大增加现场工作人员的危险程度，并且，如果产生安全问题还会造成整个工作系统的瘫痪。但是目前对于输煤皮带偏移的观测只能由工作人员进行按时排查，不能实时监测并且效率低下。因此，期望一种优化的基于视频的输煤系统智能监控系统。
相应地，由于输煤廊道特殊的环境，一些危险因素及违反安规的现象依靠现场人员与工业电视和人员(机器人)定时巡检是无法及时发现和处理的，为输煤系统的安全生产埋下隐患。考虑到对于所述输煤皮带的偏移检测可以依靠实际的输煤皮带监控视频与理想状况下的参考视频进行差异性对比来进行，但是由于监控视频中具有的信息量较大，且所述输煤皮带偏移时的变化较小，这给输送带的跑偏检测带来了困难。随着深度学习以及神经网络的发展，在实际的检测中可以采用基于深度学习和人工智能算法，研发专用视频图像识别系统，实现对输送带跑偏识别。
具体地，在本申请的技术方案中，采用基于机器视觉的人工智能监控技术，以提取出输煤皮带实际的监控视频与理想参考视频中关于所述输煤皮带与皮带输煤机之间在空间位置上的相对位置关联的时序差异性分布的动态变化特征信息，并基于这两者的差异性特征对比来评估所述输煤皮带是否偏移正常的运输轨道。这样，能够对于输煤皮带是否偏移进行实时准确地监控，以在检测出输煤皮带偏移时发出安全预警，提醒运行人员进行处理，进而保证输煤作业的安全性。更具体地，在本申请的技术方案中，通过摄像头获取输煤皮带监控视频和输煤皮带参考视频。
在上述基于视频的输煤系统智能监控系统100中，所述采样模块120，用于分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧。考虑到在所述输煤皮带监控视频和所述输煤皮带参考视频中，所述输煤皮带的状态变化特征可以通过所述监控视频中相邻监控帧之间的差分来表示，也就是，通过所述监控视频中的相邻图像帧的图像表征来表示输煤皮带的状态变化情况。但是，考虑到在所述监控视频中相邻帧的差异较小，存在大量数据冗余，因此，为了降低计量算，且避免数据冗余给检测带来的不良影响，以预定采样频率分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取所述多个输煤皮带监控关键帧和所述多个输煤皮带参考关键帧。这里，值得一提的是，所述采样频率可基于实际场景的应用需求做出调整，而不是默认值。
在上述基于视频的输煤系统智能监控系统100中，所述关键帧图像编码模块130，用于将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵。也就是，使用在图像的隐含特征提取方面具有优异表现的卷积神经网络模型来进行所述各个输煤皮带监控关键帧的特征提取，特别地，考虑到对于所述输煤皮带的偏移检测需要更加关注于所述输煤皮带在空间位置上与皮带输煤机的相对位置关联特征信息。因此，在本申请的技术方案中，进一步使用空间注意力机制的第一卷积神经网络模型对所述多个输煤皮带监控关键帧的特征挖掘，以提取出所述多个输煤皮带监控关键帧中的各个关键帧在空间位置上的隐藏特征分布信息，即所述各个关键帧中关于所述输煤皮带与所述皮带输煤机在空间位置上的隐藏关联特征，从而得到多个输煤皮带监控特征矩阵。
具体地，在本申请实施例中，所述关键帧图像编码模块130，进一步用于：使用所述第一卷积神经网络模型的卷积编码部分对所述输煤皮带监控关键帧进行深度卷积编码以得到初始卷积特征图；将所述初始卷积特征图输入所述第一卷积神经网络模型的空间注意力部分以得到空间注意力图；将所述空间注意力图通过Softmax激活函数以得到空间注意力特征图；计算所述空间注意力特征图和所述初始卷积特征图的按位置点乘以得到输煤皮带监控特征图；以及，对所述输煤皮带监控特征图进行沿通道维度的全局均值池化处理以得到所述输煤皮带监控特征矩阵。
在上述基于视频的输煤系统智能监控系统100中，所述差分模块140，用于计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵。考虑到所述皮带输煤机在实际工作的过程中可能会因工作原因进行机器设备的移动，进而造成采集的监控视频中出现所述输煤皮带与所述皮带输煤机的位置发生变化，但是这并不能够说明所述输煤皮带已经偏移。因此，在本申请的技术方案中，进一步计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵。这样，能够基于所述监控视频中的当前帧与先前帧之间关于所述输煤皮带与所述皮带输煤机在空间位置上的相对位置隐含关联特征的差异性对比来进一步提高对于输送带跑偏进行检测的准确性。
具体地，在本申请实施例中，所述差分模块140，进一步用于：以如下公式来计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵；其中，所述公式为：
Figure BDA0004106669140000141
其中，M1表示所述所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵的前一特征矩阵，M2表示所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵的后一特征矩阵，Md表示所述差分特征矩阵，
Figure BDA0004106669140000142
表示按位置作差。
在上述基于视频的输煤系统智能监控系统100中，所述输煤动态特征提取模块150，用于将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图。进一步地，为了能够在所述皮带输煤机实际工作的过程中对于输煤皮带进行实时动态地跑偏检测预警，需要进一步挖掘其在时序上的动态变化特征信息。也就是，具体地，在本申请的技术方案中，进一步分别将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型中进行特征挖掘，以提取出所述输煤皮带监控视频中关于所述输煤皮带与所述皮带输煤机在空间位置上的相对位置隐含关联特征在时序上的差异性动态变化特征分布信息，从而得到输煤皮带监控特征图。
具体地，在本申请实施例中，所述输煤动态特征提取模块150，进一步用于：使用所述使用三维卷积核的第二卷积神经网络模型在层的正向传递中对输入数据分别进行：基于所述三维卷积核对所述输入数据进行三维卷积处理以得到卷积特征图；对所述卷积特征图进行基于局部特征矩阵的均值池化处理以得到池化特征图；以及，对所述池化特征图进行非线性激活以得到激活特征图；其中，所述第二卷积神经网络模型的最后一层的输出为所述输煤皮带监控特征图，所述第二卷积神经网络模型的第一层的输入为所述三维输入张量。
这里，在进行三维卷积编码的过程中，所述三维卷积核的通道维度对应于所述三维输入张量的时间维度，因此，以所述使用三维卷积核的第二卷积神经网络模型对所述三维输入张量进行三维卷积编码可得到输煤皮带监控视频在空间维度的特征在时序维度上的变化模式特征。
在上述基于视频的输煤系统智能监控系统100中，所述参考数据编码模块160，用于基于所述第一卷积神经网络模型和所述第二卷积神经网络模型，从所述多个输煤皮带参考关键帧得到输煤皮带参考特征图。同样地，对于所述多个输煤皮带参考关键帧，首先使用在图像的隐含特征提取方面具有优异表现的卷积神经网络模型来进行所述各个输煤皮带参考关键帧的特征提取；再计算所述多个输煤皮带参考特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带参考差分特征矩阵；进而，将所述多个输煤皮带参考差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型中进行特征挖掘，以提取出所述输煤皮带参考视频中关于所述输煤皮带与所述皮带输煤机在空间位置上的相对位置隐含关联特征在时序上的差异性动态变化特征分布信息，从而得到输煤皮带参考特征图。
在上述基于视频的输煤系统智能监控系统100中，所述优化模块170，用于分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图。特别地，在本申请的技术方案中，这里，由于所述第一卷积神经网络模型的空间注意力机制，使得所述多个输煤皮带监控特征矩阵在空间维度上分别具有高的特征分布单调性，但是，这也使得计算所述多个输煤皮带监控特征矩阵中每两个特征矩阵之间由于类内差异的致密性而导致类间差异变大，从而使得其差分得到的所述多个输煤皮带监控差分特征矩阵之间的分布单调性变差，导致所述输煤皮带监控特征图的分布单调性变差，对于所述输煤皮带参考特征图也是如此。
因此，这会影响所述输煤皮带监控特征图和所述输煤皮带参考特征图之间进行逐位置差分计算得到的所述差分特征图的分布单调性，从而影响所述所述差分特征图通过分类器进行分类的收敛效果，从而影响分类器的训练速度和分类结果的准确性。由此，对所述输煤皮带监控特征图和所述输煤皮带参考特征图的每个特征矩阵进行平滑最大函数近似性调制。
具体地，在本申请实施例中，所述优化模块170，进一步用于：以如下公式分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图；其中，所述公式为：
Figure BDA0004106669140000161
其中M表示所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵，mi，j是所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的每个特征矩阵的各个位置的特征值，MT表示所述各个特征矩阵的转置矩阵，||·||2为向量的二范数，且
Figure BDA0004106669140000162
表示将矩阵的每个值乘以预定数值，
Figure BDA0004106669140000163
表示按位置加法，M′表示所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图中的沿通道维度的各个特征矩阵。
这里，通过用沿所述各个特征矩阵的行和列维度的平滑最大函数来近似地定义符号化的距离函数，可以实现所述各个特征矩阵在高维特征空间内所表征的高维流形的凸优化的相对良好的联合，并通过以其对所述各个特征矩阵的结构化的特征分布进行调制，就可以获得特征分布的内在结构到特征空间内的空间特征变化的自然分布转移，增强了所述各个特征矩阵的高维流形的特征表达的凸单调性保留，从而增强了所述差分特征图的分布单调性，进而改进了所述差分特征图通过分类器进行分类的收敛效果，提升了分类器的训练速度和分类结果的准确性。
在上述基于视频的输煤系统智能监控系统100中，所述差异化评估模块180，用于计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的差分特征图。也就是，计算所述输煤皮带监控特征图和所述输煤皮带参考特征图之间的差分特征图，以通过所述差分特征图来表示这两者之间关于所述输煤皮带与所述皮带输煤机在空间位置上的相对位置关联的动态变化特征的差异性特征分布信息。
具体地，在本申请实施例中，所述差异化评估模块180，进一步用于：以如下公式来计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的所述差分特征图；其中，所述公式为：
Figure BDA0004106669140000171
其中，F′1表示所述优化后输煤皮带监控特征图，F′2表示优化后输煤皮带参考特征图，Fc表示所述差分特征图，
Figure BDA0004106669140000172
表示按位置作差。
在上述基于视频的输煤系统智能监控系统100中，所述监控结果生成模块190，用于将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警。也就是，以所述分类器对所述差分特征图的高维数据流形进行类边界划分和确定以得到用于表示是否产生输送带跑偏预警的分类器结果。这样，能够对于输煤皮带是否偏移进行实时准确地监控，以在检测出输煤皮带偏移时发出安全预警，提醒运行人员进行处理，进而保证输煤作业的安全性。
图4为根据本申请实施例的基于视频的输煤系统智能监控系统中监控结果生成模块的框图。如图4所示，所述监控结果生成模块190，包括：展开单元191，用于将所述差分特征图中各个差分特征矩阵按照行向量或者列向量展开为一维特征向量后级联以得到分类特征向量；全连接编码单元192，用于使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及，分类结果生成单元193，用于将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。
综上，基于本申请实施例的基于视频的输煤系统智能监控系统100被阐明，其采用基于机器视觉的人工智能监控技术，以提取出输煤皮带实际的监控视频与理想参考视频中关于所述输煤皮带与皮带输煤机之间在空间位置上的相对位置关联的时序差异性分布的动态变化特征信息，并基于这两者的差异性特征对比来评估所述输煤皮带是否偏移正常的运输轨道。这样，能够对于输煤皮带是否偏移进行实时准确地监控，以在检测出输煤皮带偏移时发出安全预警。
如上所述，根据本申请实施例的基于视频的输煤系统智能监控系统100可以实现在各种终端设备中，例如用于基于视频的输煤系统智能监控的服务器等。在一个示例中，根据本申请实施例的基于视频的输煤系统智能监控系统100可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如，该基于视频的输煤系统智能监控系统100可以是该终端设备的操作系统中的一个软件模块，或者可以是针对于该终端设备所开发的一个应用程序；当然，该基于视频的输煤系统智能监控系统100同样可以是该终端设备的众多硬件模块之一。
替换地，在另一示例中，该基于视频的输煤系统智能监控系统100与该终端设备也可以是分立的设备，并且该基于视频的输煤系统智能监控系统100可以通过有线和/或无线网络连接到该终端设备，并且按照约定的数据格式来传输交互信息。
示例性方法
图5为根据本申请实施例的基于视频的输煤系统智能监控方法的流程图。如图5所示，根据本申请实施例的基于视频的输煤系统智能监控方法，包括：S110，通过摄像头获取输煤皮带监控视频和输煤皮带参考视频；S120，分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧；S130，将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵；S140，计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵；S150，将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图；S160，基于所述第一卷积神经网络模型和所述第二卷积神经网络模型，从所述多个输煤皮带参考关键帧得到输煤皮带参考特征图；S170，分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图；S180，计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的差分特征图；以及，S190，将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警。
在一个示例中，在上述基于视频的输煤系统智能监控方法中，所述分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧，包括：以预定采样频率分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取所述多个输煤皮带监控关键帧和所述多个输煤皮带参考关键帧。
在一个示例中，在上述基于视频的输煤系统智能监控方法中，所述将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵，包括：使用所述第一卷积神经网络模型的卷积编码部分对所述输煤皮带监控关键帧进行深度卷积编码以得到初始卷积特征图；将所述初始卷积特征图输入所述第一卷积神经网络模型的空间注意力部分以得到空间注意力图；将所述空间注意力图通过Softmax激活函数以得到空间注意力特征图；计算所述空间注意力特征图和所述初始卷积特征图的按位置点乘以得到输煤皮带监控特征图；以及，对所述输煤皮带监控特征图进行沿通道维度的全局均值池化处理以得到所述输煤皮带监控特征矩阵。
在一个示例中，在上述基于视频的输煤系统智能监控方法中，所述将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图，包括：使用所述使用三维卷积核的第二卷积神经网络模型在层的正向传递中对输入数据分别进行：基于所述三维卷积核对所述输入数据进行三维卷积处理以得到卷积特征图；对所述卷积特征图进行基于局部特征矩阵的均值池化处理以得到池化特征图；以及，对所述池化特征图进行非线性激活以得到激活特征图；其中，所述第二卷积神经网络模型的最后一层的输出为所述输煤皮带监控特征图，所述第二卷积神经网络模型的第一层的输入为所述三维输入张量。
在一个示例中，在上述基于视频的输煤系统智能监控方法中，所述分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图，包括：以如下公式分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图；其中，所述公式为：
Figure BDA0004106669140000201
其中M表示所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵，mi，j是所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的每个特征矩阵的各个位置的特征值，MT表示所述各个特征矩阵的转置矩阵，||·||2为向量的二范数，且
Figure BDA0004106669140000202
表示将矩阵的每个值乘以预定数值，
Figure BDA0004106669140000203
表示按位置加法，M′表示所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图中的沿通道维度的各个特征矩阵。
在一个示例中，在上述基于视频的输煤系统智能监控方法中，所述将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警，包括：将所述差分特征图中各个差分特征矩阵按照行向量或者列向量展开为一维特征向量后级联以得到分类特征向量；使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及，将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。
综上，本申请实施例的基于视频的输煤系统智能监控方法被阐明，其采用基于机器视觉的人工智能监控技术，以提取出输煤皮带实际的监控视频与理想参考视频中关于所述输煤皮带与皮带输煤机之间在空间位置上的相对位置关联的时序差异性分布的动态变化特征信息，并基于这两者的差异性特征对比来评估所述输煤皮带是否偏移正常的运输轨道。这样，能够对于输煤皮带是否偏移进行实时准确地监控，以在检测出输煤皮带偏移时发出安全预警。
示例性电子设备
下面，参考图6来描述根据本申请实施例的电子设备。图6为根据本申请实施例的电子设备的框图。
如图6所示，电子设备10包括一个或多个处理器11和存储器12。
处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备10中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本申请的各个实施例的基于视频的输煤系统智能监控方法中的功能以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输煤皮带监控视频和输煤皮带参考视频等各种内容。
在一个示例中，电子设备10还可以包括：输入装置13和输出装置14，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
该输入装置13可以包括例如键盘、鼠标等等。
该输出装置14可以向外部输出各种信息，包括分类结果等。该输出装置14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然，为了简化，图6中仅示出了该电子设备10中与本申请有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备10还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的基于视频的输煤系统智能监控方法中的功能中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的基于视频的输煤系统智能监控方法中的功能中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。
还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (10)

1.一种基于视频的输煤系统智能监控系统，其特征在于，包括：
监控数据调用模块，用于通过摄像头获取输煤皮带监控视频和输煤皮带参考视频；
采样模块，用于分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧；
关键帧图像编码模块，用于将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵；
差分模块，用于计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵；
输煤动态特征提取模块，用于将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图；
参考数据编码模块，用于基于所述第一卷积神经网络模型和所述第二卷积神经网络模型，从所述多个输煤皮带参考关键帧得到输煤皮带参考特征图；
优化模块，用于分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图；
差异化评估模块，用于计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的差分特征图；以及
监控结果生成模块，用于将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警。
2.根据权利要求1所述的基于视频的输煤系统智能监控系统，其特征在于，所述采样模块，进一步用于：以预定采样频率分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取所述多个输煤皮带监控关键帧和所述多个输煤皮带参考关键帧。
3.根据权利要求2所述的基于视频的输煤系统智能监控系统，其特征在于，所述关键帧图像编码模块，进一步用于：
使用所述第一卷积神经网络模型的卷积编码部分对所述输煤皮带监控关键帧进行深度卷积编码以得到初始卷积特征图；
将所述初始卷积特征图输入所述第一卷积神经网络模型的空间注意力部分以得到空间注意力图；
将所述空间注意力图通过Softmax激活函数以得到空间注意力特征图；
计算所述空间注意力特征图和所述初始卷积特征图的按位置点乘以得到输煤皮带监控特征图；以及
对所述输煤皮带监控特征图进行沿通道维度的全局均值池化处理以得到所述输煤皮带监控特征矩阵。
4.根据权利要求3所述的基于视频的输煤系统智能监控系统，其特征在于，所述差分模块，进一步用于：
以如下公式来计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵；
其中，所述公式为：
Figure FDA0004106669130000021
其中，M1表示所述所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵的前一特征矩阵，M2表示所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵的后一特征矩阵，Md表示所述差分特征矩阵，
Figure FDA0004106669130000022
表示按位置作差。
5.根据权利要求4所述的基于视频的输煤系统智能监控系统，其特征在于，所述输煤动态特征提取模块，进一步用于：
使用所述使用三维卷积核的第二卷积神经网络模型在层的正向传递中对输入数据分别进行：
基于所述三维卷积核对所述输入数据进行三维卷积处理以得到卷积特征图；
对所述卷积特征图进行基于局部特征矩阵的均值池化处理以得到池化特征图；以及
对所述池化特征图进行非线性激活以得到激活特征图；
其中，所述第二卷积神经网络模型的最后一层的输出为所述输煤皮带监控特征图，所述第二卷积神经网络模型的第一层的输入为所述三维输入张量。
6.根据权利要求5所述的基于视频的输煤系统智能监控系统，其特征在于，所述优化模块，进一步用于：以如下公式分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图；
其中，所述公式为：
Figure FDA0004106669130000031
其中M表示所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵，mi，j是所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的每个特征矩阵的各个位置的特征值，MT表示所述各个特征矩阵的转置矩阵，||·||2为向量的二范数，且
Figure FDA0004106669130000032
表示将矩阵的每个值乘以预定数值，
Figure FDA0004106669130000033
表示按位置加法，M′表示所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图中的沿通道维度的各个特征矩阵。
7.根据权利要求6所述的基于视频的输煤系统智能监控系统，其特征在于，所述差异化评估模块，进一步用于：
以如下公式来计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的所述差分特征图；
其中，所述公式为：
Figure FDA0004106669130000034
其中，F′1表示所述优化后输煤皮带监控特征图，F′2表示优化后输煤皮带参考特征图，Fc表示所述差分特征图，
Figure FDA0004106669130000035
表示按位置作差。
8.根据权利要求7所述的基于视频的输煤系统智能监控系统，其特征在于，所述监控结果生成模块，包括：
展开单元，用于将所述差分特征图中各个差分特征矩阵按照行向量或者列向量展开为一维特征向量后级联以得到分类特征向量；
全连接编码单元，用于使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及
分类结果生成单元，用于将所述编码分类特征向量输入所述分类器的Softmax分类函数以得到所述分类结果。
9.一种基于视频的输煤系统智能监控方法，其特征在于，包括：
通过摄像头获取输煤皮带监控视频和输煤皮带参考视频；
分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧；
将所述多个输煤皮带监控关键帧通过使用空间注意力机制的第一卷积神经网络模型以得到多个输煤皮带监控特征矩阵；
计算所述多个输煤皮带监控特征矩阵中每两个相邻特征矩阵之间的差分特征矩阵以得到多个输煤皮带监控差分特征矩阵；
将所述多个输煤皮带监控差分特征矩阵排列为三维输入张量后通过使用三维卷积核的第二卷积神经网络模型以得到输煤皮带监控特征图；
基于所述第一卷积神经网络模型和所述第二卷积神经网络模型，从所述多个输煤皮带参考关键帧得到输煤皮带参考特征图；
分别对所述输煤皮带监控特征图和所述输煤皮带参考特征图中的沿通道维度的各个特征矩阵进行特征分布优化以得到优化后输煤皮带监控特征图和优化后输煤皮带参考特征图；
计算所述优化后输煤皮带监控特征图和所述优化后输煤皮带参考特征图之间的差分特征图；以及
将所述差分特征图通过分类器以得到分类结果，所述分类结果用于表示是否产生输送带跑偏预警。
10.根据权利要求9所述的基于视频的输煤系统智能监控方法，其特征在于，所述分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取多个输煤皮带监控关键帧和多个输煤皮带参考关键帧，包括：以预定采样频率分别从所述输煤皮带监控视频和所述输煤皮带参考视频提取所述多个输煤皮带监控关键帧和所述多个输煤皮带参考关键帧。
CN202310194359.6A 2023-03-02 2023-03-02 基于视频的输煤系统智能监控系统及其方法 Pending CN116216234A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310194359.6A CN116216234A (zh) 2023-03-02 2023-03-02 基于视频的输煤系统智能监控系统及其方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310194359.6A CN116216234A (zh) 2023-03-02 2023-03-02 基于视频的输煤系统智能监控系统及其方法

Publications (1)

Publication Number Publication Date
CN116216234A true CN116216234A (zh) 2023-06-06

Family

ID=86578327

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310194359.6A Pending CN116216234A (zh) 2023-03-02 2023-03-02 基于视频的输煤系统智能监控系统及其方法

Country Status (1)

Country Link
CN (1) CN116216234A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117886081A (zh) * 2024-03-14 2024-04-16 山西森尔科技有限公司 一种带式输送机故障监测方法、装置、电子设备及介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117886081A (zh) * 2024-03-14 2024-04-16 山西森尔科技有限公司 一种带式输送机故障监测方法、装置、电子设备及介质

Similar Documents

Publication Publication Date Title
CN115529166B (zh) 基于多源数据的网络安全扫描风险管控系统及其方法
CN113673594B (zh) 一种基于深度学习网络的瑕疵点识别方法
CN115834433B (zh) 基于物联网技术的数据处理方法及系统
CN110175248B (zh) 一种基于深度学习和哈希编码的人脸图像检索方法和装置
CN115761642A (zh) 基于图像处理的破碎作业监控方法及其系统
CN114387567A (zh) 一种视频数据的处理方法、装置、电子设备及存储介质
CN116247824B (zh) 电力设备的控制方法及其系统
CN116486323A (zh) 基于人工智能的输煤廊道监控管理系统及其方法
CN116680557B (zh) 用于煤层气钻井工程的实时监测系统及其方法
CN116216234A (zh) 基于视频的输煤系统智能监控系统及其方法
CN116797533B (zh) 电源适配器的外观缺陷检测方法及其系统
CN117248967A (zh) 基于智慧感知的矿山安全监测系统及其方法
CN116311005A (zh) 一种用于运动图像处理装置、方法及存储介质
CN116403253A (zh) 基于卷积神经网络的人脸识别监控管理系统及其方法
CN116308754A (zh) 一种银行信贷风险预警系统及其方法
CN112465798A (zh) 一种基于生成对抗网络和记忆模块的异常检测方法
CN117176433A (zh) 网络数据的异常行为检测系统及方法
CN117115743A (zh) 矿用安全生产监控系统及其方法
Srivastava et al. Explicit content detection using faster r-cnn and ssd mobilenet v2
CN112861135B (zh) 基于注意力机制的恶意代码检测方法
CN116467485B (zh) 一种视频图像检索构建系统及其方法
CN116232761B (zh) 基于shapelet的网络异常流量检测方法及系统
CN117671450A (zh) 一种基于transformer的属地网络图像内容安全监管的DETR架构方法
CN106033546A (zh) 基于自上而下学习的行为分类方法
CN117054134A (zh) 机械设备的运行状态监控系统及其方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination