CN115906000A - 基于多传感器融合的挖掘大块检测方法及其系统 - Google Patents

Abstract

本申请涉及挖掘机技术领域，其具体地公开了一种基于多传感器融合的挖掘大块检测方法及其系统，其通过振动传感器和声音传感器采集挖掘机在挖掘过程中的振动探测信号和声音探测信号，再分别进行傅里叶变换以提取频域特征，然后，采用包含序列编码器和图像编码器的C l i p模型提取出在挖掘过程中的振动信号和声音信号的时域特征和频域特征的融合特征信息，优选的，考虑到通过C l i p模型的振动特征矩阵和声音特征矩阵中存在对应位置所表示的关联方向相反的情况，因此，采用全正投影非线性重加权的方式对振动特征矩阵和声音特征矩阵进行融合，通过这样的方式，能够实时准确地进行挖掘大块检测，进而保证挖掘的工作顺利进行。

Description

基于多传感器融合的挖掘大块检测方法及其系统

技术领域

本申请涉及挖掘机技术领域，且更为具体地，涉及一种基于多传感器融合的挖掘大块检测方法及其系统。

背景技术

随着社会和经济的发展，城市的建设越来越快，在城市建设中少不了挖掘机，挖掘机在挖掘时主要是利用铲斗挖掘高于或低于承机面的物料，并装入运输车辆或卸至堆料场的土方机械，从近几年工程机械的发展来看，挖掘机的发展相对较快，挖掘机已经成为工程建设中最主要的工程机械之一。

挖掘机在挖掘的工作过程中，由于挖掘的土壤山地等场所中存在着大量的石块土块，这些石块土块有大有小，并不易分别，而现有的挖掘机又并不具有挖掘大块检测功能，当挖掘到尺寸较大的石块土块时，会给挖掘机的挖掘工作带来困难，使得挖掘过程延缓，从而减慢整个建设工程的进度。目前，在挖掘机挖掘到尺寸较大的土块石块时，需要对其进行分块破碎以分解为小尺寸的土块石块来进行下一步的处理，因此，对于挖掘过程中的大块检测十分重要。

因此，期望一种优化的挖掘大块检测方案。

发明内容

为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种基于多传感器融合的挖掘大块检测方法及其系统，其通过振动传感器和声音传感器采集挖掘机在挖掘过程中的振动探测信号和声音探测信号，再分别进行傅里叶变换以提取频域特征，然后，采用包含序列编码器和图像编码器的Clip模型提取出在挖掘过程中的振动信号和声音信号的时域特征和频域特征的融合特征信息，优选的，考虑到通过Clip模型的振动特征矩阵和声音特征矩阵中存在对应位置所表示的关联方向相反的情况，因此，采用全正投影非线性重加权的方式对振动特征矩阵和声音特征矩阵进行融合，通过这样的方式，能够实时准确地进行挖掘大块检测，进而保证挖掘的工作顺利进行。

根据本申请的一个方面，提供了一种基于多传感器融合的挖掘大块检测方法，其包括：

获取在挖掘过程中由振动传感器和声音传感器采集的振动探测信号和声音探测信号；

对所述振动探测信号和所述声音探测信号分别进行傅里叶变换以得到多个振动频域统计特征值和多个声音频域统计特征值；

将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵；

将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵；

融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵；以及

将所述分类特征矩阵通过分类器以得到分类结果，所述分类结果用于表示是否挖掘到大块。

根据本申请的另一方面，提供了一种基于多传感器融合的挖掘大块检测系统，其包括：

信号获取模块，用于获取在挖掘过程中由振动传感器和声音传感器采集的振动探测信号和声音探测信号；

频域特征提取模块，用于对所述振动探测信号和所述声音探测信号分别进行傅里叶变换以得到多个振动频域统计特征值和多个声音频域统计特征值；

振动信号编码模块，用于将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵；

声音信号编码模块，用于将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵；

融合模块，用于融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵；以及

分类模块，用于将所述分类特征矩阵通过分类器以得到分类结果，所述分类结果用于表示是否挖掘到大块。

根据本申请的再一方面，提供了一种电子设备，包括：处理器；以及，存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述处理器运行时使得所述处理器执行如上所述的基于多传感器融合的挖掘大块检测方法。

根据本申请的又一方面，提供了一种计算机可读介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行如上所述的基于多传感器融合的挖掘大块检测方法。

与现有技术相比，本申请提供的一种基于多传感器融合的挖掘大块检测方法及其系统，其通过振动传感器和声音传感器采集挖掘机在挖掘过程中的振动探测信号和声音探测信号，再分别进行傅里叶变换以提取频域特征，然后，采用包含序列编码器和图像编码器的Clip模型提取出在挖掘过程中的振动信号和声音信号的时域特征和频域特征的融合特征信息，优选的，考虑到通过Clip模型的振动特征矩阵和声音特征矩阵中存在对应位置所表示的关联方向相反的情况，因此，采用全正投影非线性重加权的方式对振动特征矩阵和声音特征矩阵进行融合，通过这样的方式，能够实时准确地进行挖掘大块检测，进而保证挖掘的工作顺利进行。

附图说明

通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1图示了根据本申请实施例的基于多传感器融合的挖掘大块检测方法及其系统的应用场景图。

图2图示了根据本申请实施例的基于多传感器融合的挖掘大块检测方法的流程图。

图3图示了根据本申请实施例的基于多传感器融合的挖掘大块检测方法的系统架构的示意图。

图4图示了根据本申请实施例的基于多传感器融合的挖掘大块检测方法及其系统中，将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵的流程图。

图5图示了根据本申请实施例的基于多传感器融合的挖掘大块检测方法及其系统中，将所述多个振动频域统计特征值输入所述第一Clip模型的序列编码器以得到振动频率统计特征向量的流程图。

图6图示了根据本申请实施例的基于多传感器融合的挖掘大块检测系统的框图示意图。

图7图示了根据本申请实施例的基于多传感器融合的挖掘大块检测系统中振动信号编码模块的框图。

图8图示了根据本申请实施例的基于多传感器融合的挖掘大块检测系统中振动频率编码单元的框图。

图9图示了根据本申请实施例的电子设备的框图。

具体实施方式

下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。

场景概述

如上所述，随着社会和经济的发展，城市的建设越来越快，在城市建设中少不了挖掘机，挖掘机在挖掘时主要是利用铲斗挖掘高于或低于承机面的物料，并装入运输车辆或卸至堆料场的土方机械，从近几年工程机械的发展来看，挖掘机的发展相对较快，挖掘机已经成为工程建设中最主要的工程机械之一。

挖掘机在挖掘的工作过程中，由于挖掘的土壤山地等场所中存在着大量的石块土块，这些石块土块有大有小，并不易分别，而现有的挖掘机又并不具有挖掘大块检测功能，当挖掘到尺寸较大的石块土块时，会给挖掘机的挖掘工作带来困难，使得挖掘过程延缓，从而减慢整个建设工程的进度。目前，在挖掘机挖掘到尺寸较大的土块石块时，需要对其进行分块破碎以分解为小尺寸的土块石块来进行下一步的处理，因此，对于挖掘过程中的大块检测十分重要。因此，期望一种优化的挖掘大块检测方案。

目前，深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、语音信号处理等领域。此外，深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域，也展现出了接近甚至超越人类的水平。

近年来，深度学习以及神经网络的发展为挖掘大块的智能检测提供了新的解决思路和方案。

相应地，在挖掘机进行挖掘大块检测时，现有的一些方案是基于挖掘机在挖掘工作过程中的振动来进行大块识别，这是由于在挖掘到大块时其振动信号会与常规的信号有所区别。这种方式虽然能够很好地识别出土壤石块中的异常振动信息，但是考虑到土壤石块中的结构构成有所区别，在环境较为复杂的地区，这种大块检测方式对于大块的检测精准度会有所较低。并且，考虑到挖掘机在对于土壤石块进行正常挖掘的过程中，其声音信号会呈周期性的变化，因此若能够融合这两者的特征信息，以基于声音信号特征来加强振动信号特征的表达显然能够提高对于挖掘大块检测的精准度。

基于此，在本申请的技术方案中，采用基于深度学习的人工智能检测技术，以提取出在挖掘过程中的振动信号和声音信号的时域特征和频域特征的融合特征信息，以此来构建基于多传感器融合的挖掘大块检测方案，以对于挖掘机的挖掘大块进行智能检测。这样，能够实时准确地进行挖掘大块检测，进而保证挖掘的工作顺利进行。

具体地，在本申请的技术方案中，首先，通过振动传感器和声音传感器分别采集在挖掘过程中的振动探测信号和声音探测信号。接着，考虑到在使用所述振动探测信号和所述声音探测信号的时域特征来对于挖掘大块进行检测时，由于时域特征中会包含有较多的环境造成干扰特征信息，这对于检测的结果会造成严重的影响，因此，进一步结合探测信号的频域统计特征来提高检测的精准度。也就是，具体地，对所述振动探测信号和所述声音探测信号分别进行傅里叶变换以得到多个振动频域统计特征值和多个声音频域统计特征值。

然后，对于振动探测信号的振动特征提取，使用包含序列编码器和图像编码器的第一Clip模型来分别对于所述多个振动频域统计特征值和所述振动探测信号的波形图进行处理以得到振动特征矩阵。也就是，具体地，以所述第一Clip模型的序列编码器对于所述振动探测信号的多个振动频域统计特征值进行特征挖掘，以提取出所述振动探测信号的频域统计特征的多尺度隐含特征分布信息；并且以所述第一Clip模型的图像编码器对于所述振动探测信号的波形图进行特征挖掘，以提取出所述振动探测信号的时域隐含特征信息；继而基于所述振动探测信号的频域统计特征值的多尺度隐含特征信息来对所述振动探测信号波形图的时域隐含特征进行图像属性编码优化以得到所述振动特征矩阵。这样，所得到的所述振动特征矩阵既包含了所述振动探测信号的频域特征内容，又反应了频域内容随时间的变化规律特征，提高了大块检测的精准度。

同样地，对于所述声音探测信号的声音特征提取，考虑到所述声音探测信号的周期性特征信息与所述振动探测信号的周期性特征具有相似的规律性，因此，在本申请的技术方案中，同样使用Clip模型来进行声音信号编码。也就是，具体地，将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵，进而基于所述声音探测信号的频域统计特征值的多尺度隐含特征来对所述声音探测信号波形图的时域隐含特征进行图像属性编码优化以得到所述声音特征矩阵。

进一步地，融合所述振动特征矩阵和所述声音特征矩阵中的特征信息，以此来通过分类器中进行分类处理，就能够得到用于表示是否挖掘到大块的分类结果。这样，能够智能对于挖掘机在挖掘过程中的大块进行检测。

特别地，在本申请的技术方案中，由于所述振动特征矩阵和所述声音特征矩阵都是通过CLIP模型融合频域统计特征值的参数语义和相应波形图的图像语义得到的，因此所述振动特征矩阵和所述声音特征矩阵的每个位置的特征值均代表频域统计特征值的参数语义和相应波形图的图像语义的逐位关联值。由此，在所述振动特征矩阵和所述声音特征矩阵中，存在对应位置所表示的关联方向相反的情况，这会导致所述振动特征矩阵和所述声音特征矩阵的相应位置之间的负相关，从而影响所述振动特征矩阵和所述声音特征矩阵的逐位融合的融合效果。

因此，本申请的申请人采用全正投影非线性重加权的方式对所述振动特征矩阵和所述声音特征矩阵进行融合，表示为：

其中M₁，M₂和M_c分别为所述振动特征矩阵、所述声音特征矩阵和所述分类特征矩阵，ReLU(·)表示ReLU激活函数，

表示矩阵相乘，且分子矩阵和分母矩阵之间的除法为矩阵特征值的按位置相除，exp(·)表示矩阵的指数运算，所述矩阵的指数运算表示计算以矩阵中各个位置的特征值为幂的自然指数函数值。

这里，所述全正投影非线性重加权通过ReLU函数来保证投影的全正以避免聚合负相关的信息，并同时引入非线性重加权机制来聚集特征矩阵的特征值分布，以使得特征矩阵的内在结构能够惩罚远距离连接而加强局部性耦合，这就实现了所述振动特征矩阵和所述声音特征矩阵在高维特征空间内的与全正投影重加权对应的空间特征变换(spatialfeature transform)的协同效果，提升了所述振动特征矩阵和所述声音特征矩阵的融合效果。这样，能够实时准确地对于挖掘机在挖掘过程中进行挖掘大块检测，进而保证挖掘的工作顺利进行。

基于此，本申请提供了一种基于多传感器融合的挖掘大块检测方法，其包括：获取在挖掘过程中由振动传感器和声音传感器采集的振动探测信号和声音探测信号；对所述振动探测信号和所述声音探测信号分别进行傅里叶变换以得到多个振动频域统计特征值和多个声音频域统计特征值；将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵；将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵；融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵；以及，将所述分类特征矩阵通过分类器以得到分类结果，所述分类结果用于表示是否挖掘到大块。

图1图示了根据本申请实施例的基于多传感器融合的挖掘大块检测方法及其系统的应用场景图。如图1所示，在该应用场景中，通过部署在挖掘机(例如，如图1中所示意的C)上的振动传感器(例如，如图1中所示意的V)和声音传感器(例如，如图1中所示意的T)采集所述挖掘机在挖掘过程中的振动探测信号和声音探测信号。然后，将采集的所述振动探测信号和所述声音探测信号输入至部署有基于多传感器融合的挖掘大块检测算法的服务器中(例如，图1中所示意的S)，其中，所述服务器能够使用所述基于多传感器融合的挖掘大块检测算法对所述振动探测信号和所述声音探测信号进行处理以生成用于表示是否挖掘到大块的分类结果。

在介绍了本申请的基本原理之后，下面将参考附图来具体介绍本申请的各种非限制性实施例。

示例性方法

图2图示了根据本申请实施例的基于多传感器融合的挖掘大块检测方法的流程图。如图2所示，根据本申请实施例的所述基于多传感器融合的挖掘大块检测方法，包括：S110，获取在挖掘过程中由振动传感器和声音传感器采集的振动探测信号和声音探测信号；S120，对所述振动探测信号和所述声音探测信号分别进行傅里叶变换以得到多个振动频域统计特征值和多个声音频域统计特征值；S130，将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵；S140，将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵；S150，融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵；以及，S160，将所述分类特征矩阵通过分类器以得到分类结果，所述分类结果用于表示是否挖掘到大块。

图3图示了根据本申请实施例的基于多传感器融合的挖掘大块检测方法的系统架构的示意图。如图3所示，在本申请实施例的所述基于多传感器融合的挖掘大块检测方法的系统架构中，首先，获取在挖掘过程中由振动传感器和声音传感器采集的振动探测信号和声音探测信号。然后，对所述振动探测信号和所述声音探测信号分别进行傅里叶变换以得到多个振动频域统计特征值和多个声音频域统计特征值。接着，将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵，同时，将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵。最后，融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵，并将所述分类特征矩阵通过分类器以得到分类结果，所述分类结果用于表示是否挖掘到大块。

在本申请实施例的步骤S110中，获取在挖掘过程中由振动传感器和声音传感器采集的振动探测信号和声音探测信号。如上所述，现有挖掘机在挖掘的工作过程中，由于挖掘的土壤山地等场所中存在着大量的石块土块，这些石块土块有大有小，并不易分别，而现有的挖掘机又并不具有挖掘大块检测功能，当挖掘到尺寸较大的石块土块时，会给挖掘机的挖掘工作带来困难，使得挖掘过程延缓，从而减慢整个建设工程的进度。目前，在挖掘机挖掘到尺寸较大的土块石块时，需要对其进行分块破碎以分解为小尺寸的土块石块来进行下一步的处理，因此，对于挖掘过程中的大块检测十分重要。因此，期望一种优化的挖掘大块检测方案。

具体地，在挖掘机进行挖掘大块检测时，现有的一些方案是基于挖掘机在挖掘工作过程中的振动来进行大块识别，这是由于在挖掘到大块时其振动信号会与常规的信号有所区别。这种方式虽然能够很好地识别出土壤石块中的异常振动信息，但是考虑到土壤石块中的结构构成有所区别，在环境较为复杂的地区，这种大块检测方式对于大块的检测精准度会有所较低。并且，考虑到挖掘机在对于土壤石块进行正常挖掘的过程中，其声音信号会呈周期性的变化，因此若能够融合这两者的特征信息，以基于声音信号特征来加强振动信号特征的表达显然能够提高对于挖掘大块检测的精准度。

基于此，在本申请的技术方案中，采用基于深度学习的人工智能检测技术，以提取出在挖掘过程中的振动信号和声音信号的时域特征和频域特征的融合特征信息，以此来构建基于多传感器融合的挖掘大块检测方案，以对于挖掘机的挖掘大块进行智能检测。这样，能够实时准确地进行挖掘大块检测，进而保证挖掘的工作顺利进行。

具体地，在本申请的技术方案中，通过部署在挖掘机上的所述振动传感器和所述声音传感器采集所述挖掘机在挖掘过程中的振动探测信号和声音探测信号。

在本申请实施例的步骤S120中，对所述振动探测信号和所述声音探测信号分别进行傅里叶变换以得到多个振动频域统计特征值和多个声音频域统计特征值。应可以理解，考虑到在使用所述振动探测信号和所述声音探测信号的时域特征来对于挖掘大块进行检测时，由于时域特征中会包含有较多的环境造成干扰特征信息，这对于检测的结果会造成严重的影响，因此，进一步结合探测信号的频域统计特征来提高检测的精准度。具体地，对所述振动探测信号和所述声音探测信号分别进行傅里叶变换从而得到多个振动频域统计特征值和多个声音频域统计特征值。

在本申请实施例的步骤S130中，将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵。应可以理解，考虑到所述多个振动频域统计特征值和所述振动探测信号的波形图属于不同模态的数据，而Clip模型在不同模态的数据融合方面具有显著优势。具体的，所述第一Clip模型包含有序列编码器和图像编码器。其中，以所述第一Clip模型的序列编码器对于所述振动探测信号的多个振动频域统计特征值进行特征挖掘，以提取出所述振动探测信号的频域统计特征的频域隐含特征信息。并且以所述第一Clip模型的图像编码器对于所述振动探测信号的波形图进行特征挖掘，以提取出所述振动探测信号的时域隐含特征信息。进一步地，考虑到所述多个振动频域统计特征值在不同的时间跨度下具有着不同的周期性规律分布，为了提取所述振动探测信号的频域统计特征值的多尺度隐含特征信息，将所述振动探测信号的频域统计特征值进行不同尺度的卷积处理并融合。然后，基于所述振动探测信号的频域统计特征值的多尺度隐含特征信息来对所述振动探测信号波形图的时域隐含特征进行图像属性编码优化以得到所述振动特征矩阵。这样，所得到的所述振动特征矩阵既包含了所述振动探测信号的频域特征内容，又反应了频域内容随时间的变化规律特征，提高了大块检测的精准度。

图4图示了根据本申请实施例的基于多传感器融合的挖掘大块检测方法及其系统中，将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵的流程图。如图4所示，在本申请一个具体的实施例中，所述将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵，包括：S210，将所述多个振动频域统计特征值输入所述第一Clip模型的序列编码器以得到振动频率统计特征向量；S220，将所述振动探测信号的波形图输入所述第一Clip模型的图像编码器以得到振动波形特征向量；以及，S230，基于所述振动频率统计特征向量，对所述振动波形特征向量进行图像属性编码优化以得到所述振动特征矩阵。

图5图示了根据本申请实施例的基于多传感器融合的挖掘大块检测方法及其系统中，将所述多个振动频域统计特征值输入所述第一Clip模型的序列编码器以得到振动频率统计特征向量的流程图。如图5所示，在本申请一个具体的实施例中，所述将所述多个振动频域统计特征值输入所述第一Clip模型的序列编码器以得到振动频率统计特征向量，包括：S310，将所述多个振动频域统计特征值排列为振动频域统计输入向量；S320，使用所述第一Clip模型的序列编码器的第一卷积层对所述振动频域统计输入向量进行第一尺度的一维卷积编码以得到第一尺度振动频域统计特征向量；S330，使用所述第一Clip模型的序列编码器的第二卷积层对所述振动频域统计输入向量进行第二尺度的一维卷积编码以得到第二尺度振动频域统计特征向量；以及，S340，将所述第一尺度振动频域统计特征向量和所述第二尺度振动频域统计特征向量进行级联以得到所述振动频率统计特征向量。

在本申请一个具体的实施例中，所述将所述振动探测信号的波形图输入所述第一Clip模型的图像编码器以得到振动波形特征向量，包括：使用所述第一Clip模型的图像编码器的各层在层的正向传递中分别对输入数据进行卷积处理、池化处理和非线性激活处理以由所述第一Clip模型的图像编码器的最后一层输出所述振动波形特征向量。

在本申请一个具体的实施例中，所述基于所述振动频率统计特征向量，对所述振动波形特征向量进行图像属性编码优化以得到所述振动特征矩阵，包括：基于所述振动频率统计特征向量，以如下公式对所述振动波形特征向量进行图像属性编码优化以得到所述振动特征矩阵；

其中，所述公式为：

其中，M是所述振动特征矩阵，V₁是所述振动频率统计特征向量，V₂是所述振动波形特征向量。也就是，将通过将振动频率统计特征向量的转置向量与振动波形特征向量进行相乘，从而将所述振动探测信号的频域统计特征值的多尺度隐含特征信息映射到所述振动波形特征向量所在的高维空间，对所述振动探测信号波形图的时域隐含特征进行校正以得到包含振动频域隐含特征和振动时域隐含特征的所述振动特征矩阵。

在本申请实施例的步骤S140中，将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵。同样地，对于所述声音探测信号的声音特征提取，考虑到所述声音探测信号的周期性特征信息与所述振动探测信号的周期性特征具有相似的规律性，因此，在本申请的技术方案中，同样使用Clip模型来进行声音信号编码。也就是，具体地，将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵，进而基于所述声音探测信号的频域统计特征值的多尺度隐含特征来对所述声音探测信号波形图的时域隐含特征进行图像属性编码优化以得到所述声音特征矩阵。

进一步地，融合所述振动特征矩阵和所述声音特征矩阵中的特征信息，以此来通过分类器中进行分类处理，就能够得到用于表示是否挖掘到大块的分类结果。例如，对所述振动特征矩阵和所述声音特征矩阵进行逐位融合。

特别地，在本申请的技术方案中，由于所述振动特征矩阵和所述声音特征矩阵都是通过CLIP模型融合频域统计特征值的参数语义和相应波形图的图像语义得到的，因此所述振动特征矩阵和所述声音特征矩阵的每个位置的特征值均代表频域统计特征值的参数语义和相应波形图的图像语义的逐位关联值。由此，在所述振动特征矩阵和所述声音特征矩阵中，存在对应位置所表示的关联方向相反的情况，这会导致所述振动特征矩阵和所述声音特征矩阵的相应位置之间的负相关，从而影响所述振动特征矩阵和所述声音特征矩阵的逐位融合的融合效果。因此，本申请的申请人采用全正投影非线性重加权的方式对所述振动特征矩阵和所述声音特征矩阵进行融合。

在本申请实施例的步骤S150中，融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵。

在本申请一个具体的实施例中，所述融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵，包括：以如下公式融合所述振动特征矩阵和所述声音特征矩阵以得到所述分类特征矩阵；

其中，所述公式为：

其中M₁，M₂和M_c分别为所述振动特征矩阵、所述声音特征矩阵和所述分类特征矩阵，ReLU(·)表示ReLU激活函数，

表示矩阵相乘，且分子矩阵和分母矩阵之间的除法为矩阵特征值的按位置相除，exp(·)表示矩阵的指数运算，所述矩阵的指数运算表示计算以矩阵中各个位置的特征值为幂的自然指数函数值。

这里，所述全正投影非线性重加权通过ReLU函数来保证投影的全正以避免聚合负相关的信息，并同时引入非线性重加权机制来聚集特征矩阵的特征值分布，以使得特征矩阵的内在结构能够惩罚远距离连接而加强局部性耦合，这就实现了所述振动特征矩阵和所述声音特征矩阵在高维特征空间内的与全正投影重加权对应的空间特征变换(spatialfeature transform)的协同效果，提升了所述振动特征矩阵和所述声音特征矩阵的融合效果。这样，能够实时准确地对于挖掘机在挖掘过程中进行挖掘大块检测，进而保证挖掘的工作顺利进行。

在本申请实施例的步骤S160中，将所述分类特征矩阵通过分类器以得到分类结果，所述分类结果用于表示是否挖掘到大块。也就是，将经过上述处理得到的包含振动探测信号的时频域隐含特征和声音探测信号的时频域隐含特征的分类特征矩阵通过分类器进行分类处理，以得到用于表示是否挖掘到大块的分类结果。这样，能够实时准确地进行挖掘大块检测，进而保证挖掘的工作顺利进行。

在本申请一个具体的实施例中，所述将所述分类特征矩阵通过分类器以得到分类结果，包括：将所述分类特征矩阵投影为分类特征向量；使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及，将所述编码分类特征向量通过所述分类器的Softmax分类函数以得到所述分类结果。

具体地，先将所述分类特征矩阵投影为一维的分类特征向量，然后，考虑到所述分类特征矩阵中的每个位置都包含有丰富的特征信息，因此，使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量。接着，计算所述编码分类特征向量的Softmax函数值，即，所述编码分类特征向量归属于各个分类标签的概率值，在本申请实施例中，所述分类标签包括挖掘到大块(第一标签)以及没有挖掘到大块(第二标签)。最后，将概率值较大者对应的标签作为所述分类结果。

综上，基于本申请实施例的所述基于多传感器融合的挖掘大块检测方法，其通过振动传感器和声音传感器采集挖掘机在挖掘过程中的振动探测信号和声音探测信号，再分别进行傅里叶变换以提取频域特征，然后，采用包含序列编码器和图像编码器的Clip模型提取出在挖掘过程中的振动信号和声音信号的时域特征和频域特征的融合特征信息，优选的，考虑到通过Clip模型的振动特征矩阵和声音特征矩阵中存在对应位置所表示的关联方向相反的情况，因此，采用全正投影非线性重加权的方式对振动特征矩阵和声音特征矩阵进行融合，通过这样的方式，能够实时准确地进行挖掘大块检测，进而保证挖掘的工作顺利进行。

示例性系统

图6图示了根据本申请实施例的基于多传感器融合的挖掘大块检测系统的框图示意图。如图6所示，根据本申请实施例的所述基于多传感器融合的挖掘大块检测系统100，包括：信号获取模块110，用于获取在挖掘过程中由振动传感器和声音传感器采集的振动探测信号和声音探测信号；频域特征提取模块120，用于对所述振动探测信号和所述声音探测信号分别进行傅里叶变换以得到多个振动频域统计特征值和多个声音频域统计特征值；振动信号编码模块130，用于将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵；声音信号编码模块140，用于将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵；融合模块150，用于融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵；以及，分类模块160，用于将所述分类特征矩阵通过分类器以得到分类结果，所述分类结果用于表示是否挖掘到大块

图7图示了根据本申请实施例的基于多传感器融合的挖掘大块检测系统中振动信号编码模块的框图。如图7所示，在本申请一个具体的实施例中，所述振动信号编码模块130，包括：振动频率编码单元131，用于将所述多个振动频域统计特征值输入所述第一Clip模型的序列编码器以得到振动频率统计特征向量；振动波形编码单元132，用于将所述振动探测信号的波形图输入所述第一Clip模型的图像编码器以得到振动波形特征向量；以及，优化单元133，用于基于所述振动频率统计特征向量，对所述振动波形特征向量进行图像属性编码优化以得到所述振动特征矩阵。

图8图示了根据本申请实施例的基于多传感器融合的挖掘大块检测系统中振动频率编码单元的框图。如图8所示，在本申请一个具体的实施例中，所述振动频率编码单元131，包括：排列子单元1311，用于将所述多个振动频域统计特征值排列为振动频域统计输入向量；第一尺度编码子单元1312，用于使用所述第一Clip模型的序列编码器的第一卷积层对所述振动频域统计输入向量进行第一尺度的一维卷积编码以得到第一尺度振动频域统计特征向量；第二尺度编码子单元1313，用于使用所述第一Clip模型的序列编码器的第二卷积层对所述振动频域统计输入向量进行第二尺度的一维卷积编码以得到第二尺度振动频域统计特征向量；以及，级联子单元1314，用于将所述第一尺度振动频域统计特征向量和所述第二尺度振动频域统计特征向量进行级联以得到所述振动频率统计特征向量。

在本申请一个具体的实施例中，所述振动波形编码单元，进一步用于：使用所述第一Clip模型的图像编码器的各层在层的正向传递中分别对输入数据进行卷积处理、池化处理和非线性激活处理以由所述第一Clip模型的图像编码器的最后一层输出所述振动波形特征向量。

在本申请一个具体的实施例中，所述优化单元，进一步用于：基于所述振动频率统计特征向量，以如下公式对所述振动波形特征向量进行图像属性编码优化以得到所述振动特征矩阵；

其中，所述公式为：

其中，M是所述振动特征矩阵，V₁是所述振动频率统计特征向量，V₂是所述振动波形特征向量。

在本申请一个具体的实施例中，所述融合模块，进一步用于：以如下公式融合所述振动特征矩阵和所述声音特征矩阵以得到所述分类特征矩阵；

其中，所述公式为：

其中M₁，M₂和M_c分别为所述振动特征矩阵、所述声音特征矩阵和所述分类特征矩阵，ReLU(·)表示ReLU激活函数，

表示矩阵相乘，且分子矩阵和分母矩阵之间的除法为矩阵特征值的按位置相除，exp(·)表示矩阵的指数运算，所述矩阵的指数运算表示计算以矩阵中各个位置的特征值为幂的自然指数函数值。

在本申请一个具体的实施例中，所述分类模块，包括：投影单元，用于将所述分类特征矩阵投影为分类特征向量；全连接编码单元，用于使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及，分类单元，用于将所述编码分类特征向量通过所述分类器的Softmax分类函数以得到所述分类结果。

这里，本领域技术人员可以理解，上述基于多传感器融合的挖掘大块检测系统中的各个单元和模块的具体功能和操作已经在上面参考图1到图5的基于多传感器融合的挖掘大块检测方法的描述中得到了详细介绍，并因此，将省略其重复描述。

如上所述，根据本申请实施例的所述基于多传感器融合的挖掘大块检测系统100可以实现在各种终端设备中，例如基于多传感器融合的挖掘大块检测系统的服务器等。在一个示例中，根据基于多传感器融合的挖掘大块检测系统100可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如，该基于多传感器融合的挖掘大块检测系统100可以是该终端设备的操作系统中的一个软件模块，或者可以是针对于该终端设备所开发的一个应用程序；当然，该基于多传感器融合的挖掘大块检测系统100同样可以是该终端设备的众多硬件模块之一。

替换地，在另一示例中，该基于多传感器融合的挖掘大块检测系统100与该终端设备也可以是分立的设备，并且基于多传感器融合的挖掘大块检测系统100可以通过有线和/或无线网络连接到该终端设备，并且按照约定的数据格式来传输交互信息。

示例性电子设备

下面，参考图9来描述根据本申请实施例的电子设备。

图9图示了根据本申请实施例的电子设备的框图。

如图9所示，电子设备10包括一个或多个处理器11和存储器12。

处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备10中的其他组件以执行期望的功能。

存储器12可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器11可以运行所述程序指令，以实现上文所述的本申请的各个实施例的基于多传感器融合的挖掘大块检测以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如振动传感器和声音传感器采集的振动探测信号和声音探测信号等各种内容。

在一个示例中，电子设备10还可以包括：输入装置13和输出装置14，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

该输入装置13可以包括例如键盘、鼠标等等。

该输出装置14可以向外部输出各种信息，包括分类结果等。该输出装置14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的基于多传感器融合的挖掘大块检测方法的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的基于多传感器融合的挖掘大块检测方法的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。

本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (10)

1.一种基于多传感器融合的挖掘大块检测方法，其特征在于，包括：

获取在挖掘过程中由振动传感器和声音传感器采集的振动探测信号和声音探测信号；

对所述振动探测信号和所述声音探测信号分别进行傅里叶变换以得到多个振动频域统计特征值和多个声音频域统计特征值；

将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵；

将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵；

融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵；以及

将所述分类特征矩阵通过分类器以得到分类结果，所述分类结果用于表示是否挖掘到大块。

2.根据权利要求1所述的基于多传感器融合的挖掘大块检测方法，其特征在于，所述将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵，包括：

将所述多个振动频域统计特征值输入所述第一Clip模型的序列编码器以得到振动频率统计特征向量；

将所述振动探测信号的波形图输入所述第一Clip模型的图像编码器以得到振动波形特征向量；以及

基于所述振动频率统计特征向量，对所述振动波形特征向量进行图像属性编码优化以得到所述振动特征矩阵。

3.根据权利要求2所述的基于多传感器融合的挖掘大块检测方法，其特征在于，所述将所述多个振动频域统计特征值输入所述第一Clip模型的序列编码器以得到振动频率统计特征向量，包括：

将所述多个振动频域统计特征值排列为振动频域统计输入向量；

使用所述第一Clip模型的序列编码器的第一卷积层对所述振动频域统计输入向量进行第一尺度的一维卷积编码以得到第一尺度振动频域统计特征向量；

使用所述第一Clip模型的序列编码器的第二卷积层对所述振动频域统计输入向量进行第二尺度的一维卷积编码以得到第二尺度振动频域统计特征向量；以及

将所述第一尺度振动频域统计特征向量和所述第二尺度振动频域统计特征向量进行级联以得到所述振动频率统计特征向量。

4.根据权利要求3所述的基于多传感器融合的挖掘大块检测方法，其特征在于，所述将所述振动探测信号的波形图输入所述第一Clip模型的图像编码器以得到振动波形特征向量，包括：使用所述第一Clip模型的图像编码器的各层在层的正向传递中分别对输入数据进行卷积处理、池化处理和非线性激活处理以由所述第一Clip模型的图像编码器的最后一层输出所述振动波形特征向量。

5.根据权利要求4所述的基于多传感器融合的挖掘大块检测方法，其特征在于，所述基于所述振动频率统计特征向量，对所述振动波形特征向量进行图像属性编码优化以得到所述振动特征矩阵，包括：

基于所述振动频率统计特征向量，以如下公式对所述振动波形特征向量进行图像属性编码优化以得到所述振动特征矩阵；

其中，所述公式为：

其中，M是所述振动特征矩阵，V₁是所述振动频率统计特征向量，V₂是所述振动波形特征向量。

6.根据权利要求5所述的基于多传感器融合的挖掘大块检测方法，其特征在于，所述融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵，包括：

以如下公式融合所述振动特征矩阵和所述声音特征矩阵以得到所述分类特征矩阵；

其中，所述公式为：

其中M₁，M₂和M_c分别为所述振动特征矩阵、所述声音特征矩阵和所述分类特征矩阵，ReLU(·)表示ReLU激活函数，

表示矩阵相乘，且分子矩阵和分母矩阵之间的除法为矩阵特征值的按位置相除，exp(·)表示矩阵的指数运算，所述矩阵的指数运算表示计算以矩阵中各个位置的特征值为幂的自然指数函数值。

7.根据权利要求6所述的基于多传感器融合的挖掘大块检测方法，其特征在于，所述将所述分类特征矩阵通过分类器以得到分类结果，包括：

将所述分类特征矩阵投影为分类特征向量；

使用所述分类器的全连接层对所述分类特征向量进行全连接编码以得到编码分类特征向量；以及

将所述编码分类特征向量通过所述分类器的Softmax分类函数以得到所述分类结果。

8.一种基于多传感器融合的挖掘大块检测系统，其特征在于，包括：

信号获取模块，用于获取在挖掘过程中由振动传感器和声音传感器采集的振动探测信号和声音探测信号；

频域特征提取模块，用于对所述振动探测信号和所述声音探测信号分别进行傅里叶变换以得到多个振动频域统计特征值和多个声音频域统计特征值；

振动信号编码模块，用于将所述多个振动频域统计特征值和所述振动探测信号的波形图通过包含序列编码器和图像编码器的第一Clip模型以得到振动特征矩阵；

声音信号编码模块，用于将所述多个声音频域统计特征值和所述声音探测信号的波形图通过包含序列编码器和图像编码器的第二Clip模型以得到声音特征矩阵；

融合模块，用于融合所述振动特征矩阵和所述声音特征矩阵以得到分类特征矩阵；以及

分类模块，用于将所述分类特征矩阵通过分类器以得到分类结果，所述分类结果用于表示是否挖掘到大块。

9.根据权利要求8所述的基于多传感器融合的挖掘大块检测系统，其特征在于，所述振动信号编码模块，包括：

振动频率编码单元，用于将所述多个振动频域统计特征值输入所述第一Clip模型的序列编码器以得到振动频率统计特征向量；

振动波形编码单元，用于将所述振动探测信号的波形图输入所述第一Clip模型的图像编码器以得到振动波形特征向量；以及

优化单元，用于基于所述振动频率统计特征向量，对所述振动波形特征向量进行图像属性编码优化以得到所述振动特征矩阵。

10.根据权利要求9所述的基于多传感器融合的挖掘大块检测系统，其特征在于，所述融合模块，进一步用于：

以如下公式融合所述振动特征矩阵和所述声音特征矩阵以得到所述分类特征矩阵；

其中，所述公式为：

其中M₁，M₂和M_c分别为所述振动特征矩阵、所述声音特征矩阵和所述分类特征矩阵，ReLU(·)表示ReLU激活函数，

表示矩阵相乘，且分子矩阵和分母矩阵之间的除法为矩阵特征值的按位置相除，exp(·)表示矩阵的指数运算，所述矩阵的指数运算表示计算以矩阵中各个位置的特征值为幂的自然指数函数值。

Images