CN117218118A - 基于图像序列的坍落度监测方法、装置及可读介质 - Google Patents

Abstract

本发明公开了一种基于图像序列的坍落度监测方法、装置及可读介质，涉及混凝土生产领域，该方法包括：获取图像序列，并处理得到若干个第一扩充序列；构建基于改进的CNN‑LSTM的坍落度预测模型并训练，得到经训练的坍落度预测模型，将每一个第一扩充序列输入经训练的坍落度预测模型，通过CNN单元提取第一扩充序列中的每一帧图像的空间特征，再输入对应的第一展平层，得到每一帧图像对应的第一展平特征并输入LSTM单元，提取到时序特征并输入第二展平层，得到第二展平特征并输入线性回归层，得到若干个输出结果；经过后处理，得到坍落度的预测值，根据坍落度的预测值对混凝土的生产工艺进行调整，解决坍落度监测人工依赖度高、无法在线监测、准确率低等问题。

Description

基于图像序列的坍落度监测方法、装置及可读介质

技术领域

本发明涉及混凝土生产领域，具体涉及一种基于图像序列的坍落度监测方法、装置及可读介质。

背景技术

混凝土是当前一种应用广泛的建筑材料，坍落度是评价其性能的一个重要指标。通常来说，每一盘混凝土出机后都要进行坍落度的检测。目前对于普通混凝土的坍落度检测主要是在混凝土搅拌过后进行取样，然后对样品进行坍落度扩展度实验、V漏斗实验等实验进行检测。这种方法步骤繁琐，所测坍落度有一定的滞后性，不能做到实时调整坍落度，容易造成混凝土出机后性能不达标的浪费。因此目前主要使用的检测方法是利用人工实时监控混凝土搅拌的画面以及电流曲线，由人工做出判断，之后再对坍落度进行调整。这种方法对工人素质要求较高，工作强度较大，准确率较低。因此，目前亟需一种能不依赖人工，减少工作强度，且能做到实时在线检测并给出调整意见的混凝土实时在线智能化检测系统。

发明内容

针对上述提到的技术问题。本申请的实施例的目的在于提出了一种基于图像序列的坍落度监测方法、装置及可读介质，来解决以上背景技术部分提到的技术问题，可以实现混凝土在生产搅拌过程中的坍落度的实时在线监测，监测得到的坍落度的预测值可用于判断该混凝土是否达到工程施工的要求，并给出调整意见。

第一方面，本发明提供了一种基于图像序列的坍落度监测方法，包括以下步骤：

获取混凝土搅拌过程中采集到的视频帧构成的图像序列，对图像序列进行ROI区域截取和时序扩充处理，得到若干个第一扩充序列；

构建基于改进的CNN-LSTM的坍落度预测模型，采用训练数据对坍落度预测模型进行训练，得到经训练的坍落度预测模型，改进的CNN-LSTM包括依次连接的CNN单元、第一展平层、LSTM单元、第二展平层和线性回归层，CNN单元采用ResNet50卷积神经网络；

将每一个第一扩充序列输入经训练的坍落度预测模型，通过CNN单元提取第一扩充序列中的每一帧图像的空间特征，将每一帧图像的空间特征输入对应的第一展平层，得到每一帧图像对应的第一展平特征，每一帧图像对应的第一展平特征输入LSTM单元，提取到时序特征，时序特征输入第二展平层，得到第二展平特征，第二展平特征输入线性回归层，得到若干个输出结果；

对若干个输出结果进行后处理，得到坍落度的预测值，根据坍落度的预测值对混凝土的生产工艺进行调整，并重复以上步骤，直至坍落度的预测值符合要求。

作为优选，LSTM单元包含依次连接的第一扩充序列中的每一帧图像对应的若干LSTM层，前一帧图像对应的第一展平特征输入对应的LSTM层得到的输出结果与当前帧图像对应的第一展平特征均输入当前帧图像对应的LSTM层，时序特征为最后一帧图像对应的LSTM层的输出结果。

作为优选，训练数据采用以下方式制作：

获取历史的混凝土搅拌过程中采集到的视频帧构成的图像序列及其对应的坍落度标签；

对图像序列进行ROI区域截取、空间扩充处理和时间序列扩充处理，得到若干个第二扩充序列，将若干个第二扩充序列及其对应的坍落度标签作为训练数据。

作为优选，混凝土搅拌过程为加水湿拌的末期至拌合均匀的前期阶段。

作为优选，空间扩充处理具体包括：

设置ROI区域的偏移范围，根据偏移范围对截取到的ROI区域进行扩展。

作为优选，时间序列扩充处理具体包括：

设置T帧长度的滑动窗口，从所述图像序列的第一帧开始，将所述滑动窗口以步长为1帧滑动T/2帧。

作为优选，对若干个输出结果进行后处理，得到坍落度的预测值，根据坍落度的预测值对混凝土的生产工艺进行调整，具体包括：

采用3σ原则剔除若干个输出结果中的异常值，得到过滤后的输出结果；

对过滤后的输出结果求取均值，得到坍落度的预测值；

响应于确定坍落度的预测值未处于订单要求的坍落度范围内，生成警报指令以发出警报，并调整混凝土的配比。

第二方面，本发明提供了一种基于图像序列的坍落度监测装置，包括：

数据增强模块，被配置为获取混凝土搅拌过程中采集到的视频帧构成的图像序列，对图像序列进行ROI区域截取和时序扩充处理，得到若干个第一扩充序列；

模型构建模块，被配置为构建基于改进的CNN-LSTM的坍落度预测模型，采用训练数据对坍落度预测模型进行训练，得到经训练的坍落度预测模型，改进的CNN-LSTM包括依次连接的CNN单元、第一展平层、LSTM单元、第二展平层和线性回归层，CNN单元采用ResNet50卷积神经网络；

预测模块，被配置为将每一个第一扩充序列输入经训练的坍落度预测模型，通过CNN单元提取第一扩充序列中的每一帧图像的空间特征，将每一帧图像的空间特征输入对应的第一展平层，得到每一帧图像对应的第一展平特征，每一帧图像对应的第一展平特征输入LSTM单元，提取到时序特征，时序特征输入第二展平层，得到第二展平特征，第二展平特征输入线性回归层，得到若干个输出结果；

后处理模块，被配置为对若干个输出结果进行后处理，得到坍落度的预测值，根据坍落度的预测值对混凝土的生产工艺进行调整，并重复以上步骤，直至坍落度的预测值符合要求。

第三方面，本发明提供了一种电子设备，包括一个或多个处理器；存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。

第四方面，本发明提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。

相比于现有技术，本发明具有以下有益效果：

（1）本发明提出的基于图像序列的坍落度监测方法可以在不改变现有搅拌机的结构，不添加其他设备的情况下，通过摄像机采集到的图像序列对混凝土的坍落度做出预测，从而引导人工进行调整，避免了工人的劳动强度，节省了用工成本。

（2）本发明提出的基于图像序列的坍落度监测方法所需设备少，方法简单，可移植性高，能够在现有的混凝土搅拌站进行升级，提高混凝土生产的智能化程度。

（3）本发明提出的基于图像序列的坍落度监测方法可以根据大量的数据进行学习和识别，能极大的提高检测精度，避免由于人为因素引起的误差，可以实现对设备状态以及物料产品的实时监测，能有效避免因为延迟监测导致的生产质量下降，降低运维成本，提高设备的使用寿命，解决了现有技术中混凝土坍落度需要离线测量或者人工长时间监视生产的不利检测环境；可以适应不同搅拌站的不同生产工况，实现坍落度在线监测。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简要介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请的一个实施例可以应用于其中的示例性装置架构图；

图2为本申请的实施例的基于图像序列的坍落度监测方法的流程示意图；

图3为本申请的实施例的基于图像序列的坍落度监测方法的图像序列采集过程的示意图；

图4为本申请的实施例的基于图像序列的坍落度监测方法的坍落度预测模型的示意图；

图5为本申请的实施例的基于图像序列的坍落度监测方法的坍落度的预测值与实测值的对比结果；

图6为本申请的实施例的基于图像序列的坍落度监测装置的示意图；

图7是适于用来实现本申请实施例的电子设备的计算机装置的结构示意图。

具体实施方式

为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步地详细描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

图1示出了可以应用本申请实施例的基于图像序列的坍落度监测方法或基于图像序列的坍落度监测装置的示例性装置架构100。

如图1所示，装置架构100可以包括终端设备一101、终端设备二102、终端设备三103，网络104和服务器105。网络104用以在终端设备一101、终端设备二102、终端设备三103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备一101、终端设备二102、终端设备三103通过网络104与服务器105交互，以接收或发送消息等。终端设备一101、终端设备二102、终端设备三103上可以安装有各种应用，例如数据处理类应用、文件处理类应用等。

终端设备一101、终端设备二102、终端设备三103可以是硬件，也可以是软件。当终端设备一101、终端设备二102、终端设备三103为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备一101、终端设备二102、终端设备三103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块（例如用来提供分布式服务的软件或软件模块），也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的服务器，例如对终端设备一101、终端设备二102、终端设备三103上传的文件或数据进行处理的后台数据处理服务器。后台数据处理服务器可以对获取的文件或数据进行处理，生成处理结果。

需要说明的是，本申请实施例所提供的基于图像序列的坍落度监测方法可以由服务器105执行，也可以由终端设备一101、终端设备二102、终端设备三103执行，相应地，基于图像序列的坍落度监测装置可以设置于服务器105中，也可以设置于终端设备一101、终端设备二102、终端设备三103中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。在所处理的数据不需要从远程获取的情况下，上述装置架构可以不包括网络，而只需服务器或终端设备。

图2示出了本申请的实施例提供的一种基于图像序列的坍落度监测方法，包括以下步骤：

S1，获取混凝土搅拌过程中采集到的视频帧构成的图像序列，对图像序列进行ROI区域截取和时序扩充处理，得到若干个第一扩充序列。

在具体的实施例中，混凝土搅拌过程为加水湿拌的末期至拌合均匀的前期阶段。

在具体的实施例中，时间序列扩充处理具体包括：

设置T帧长度的滑动窗口，从所述图像序列的第一帧开始，将所述滑动窗口以步长为1帧滑动T/2帧。

具体的，参考图3，本申请的实施例采用的图像序列采集装置包括摄像机安装槽1、摄像机2、LED光源3、防尘盖板4，其中，摄像机2与LED光源3通过螺栓固定于摄像机安装槽1上。摄像机2通过网线与工业计算机进行连接，进行数据传输。混凝土搅拌分为进料干拌、加水湿拌、拌合均匀、卸料四个阶段。在实际生产过程中，防尘盖板4开启的时间为加水湿拌的末期至拌合均匀的前期阶段，因此选定防尘盖板4开启后10s-20s的视频作为样本提取视频帧，此时搅拌缸内成像清晰，能较好的呈现混凝土的纹理与流动信息。混凝土可以近似看作宾汉流体，不同坍落度的混凝土由于其配方不同会导致混凝土被搅拌叶片5搅起时其状态呈现差异，以及其流动性也会存在一定的差异。这反映在图像序列上就是图像纹理之间存在一定的差异，图像随着时间的变化也有一定的差异。

进一步的，对采集到的图像序列采用光流法与灰度共生矩阵进行分析，提取特征明显的区域作为ROI区域，并截取图像序列中的该区域，得到ROI区域。由于截取到的视频起始点每次都不同，而混凝土的搅拌过程是一个周期型过程，因此需要将截取ROI区域后的图像序列进行时序扩充。在其中一个实施例中，设置160帧长度的滑动窗口，从截取ROI区域后的图像序列的第一帧开始，将滑动窗口以步长为1帧滑动80帧。从另一个角度上看，将截取ROI区域后的图像序列的前80帧图像作为初始帧，并分别向后选取160帧图像作为一个第一扩充序列，将一个原始的图像序列扩充80倍，实现时序上的扩充。通过时间序列扩充处理能够尽可能覆盖多的搅拌状态，得到更多的输出结果，避免偶然预测误差。

S2，构建基于改进的CNN-LSTM的坍落度预测模型，采用训练数据对坍落度预测模型进行训练，得到经训练的坍落度预测模型，改进的CNN-LSTM包括依次连接的CNN单元、第一展平层、LSTM单元、第二展平层和线性回归层，CNN单元采用ResNet50卷积神经网络。

在具体的实施例中，LSTM单元包含依次连接的第一扩充序列中的每一帧图像对应的若干LSTM层，前一帧图像对应的第一展平特征输入对应的LSTM层得到的输出结果与当前帧图像对应的第一展平特征均输入当前帧图像对应的LSTM层，时序特征为最后一帧图像对应的LSTM层的输出结果。

具体的，参考图4，构建基于改进的CNN-LSTM的坍落度预测模型，对输入的第一扩充序列进行空间特征的提取与时序特征的提取，并通过线性回归层进行结果输出。该坍落度预测模型是在经典的视频分析网络CNN-LSTM网络的基础上，将其卷积部分改为ResNet50卷积神经网络，使得其能提取到更多更复杂的图像信息。之后利用ResNet50卷积神经网络提取视频中每一帧图像的空间特征并输入第一展平层，将这一系列第一展平特征送入LSTM（时序信息处理网络）单元中进行时序特征的提取。最后将提取到的时序特征经过一个第二展平层和线性回归层，得到输出结果。

在具体的实施例中，训练数据采用以下方式制作：

获取历史的混凝土搅拌过程中采集到的视频帧构成的图像序列及其对应的坍落度标签；

对图像序列进行ROI区域截取、空间扩充处理和时间序列扩充处理，得到若干个第二扩充序列，将若干个第二扩充序列及其对应的坍落度标签作为训练数据。

在具体的实施例中，空间扩充处理具体包括：

设置ROI区域的偏移范围，根据偏移范围对截取到的ROI区域进行扩展。

具体的，训练数据与输入经训练的坍落度预测模型的第一扩充序列有所区别，除了截取ROI区域的操作和时间序列的扩充，还需要进行空间扩充处理。空间扩充是由于摄像机通过螺栓固定在搅拌机上，搅拌机工作过程中的震动会带动摄像机的震动，这会导致拍摄的图片有一定的偏移。因此在截取ROI区域时可以设置一个基准ROI区域与一个偏移范围，每次截取ROI区域时，都在基准ROI区域上添加一个偏移量，实现空间上的扩充。将历史的混凝土搅拌过程中采集到的视频帧构成的图像序列进行截取ROI区域的操作以及空间扩充处理与时间序列扩充处理，得到第二扩展序列，该第二扩展序列及其对应的坍落度标签便可构成训练数据，该坍落度标签的制作可采用若干方式，不是本申请的实施例的重点，因此不再赘述。将该训练数据划分为训练集与测试集，利用工业计算机搭建坍落度预测模型进行训练与测试，得到经训练的坍落度预测模型。

相比于传统的神经网络训练流程，本申请的实施例采用了warmup的策略对训练过程中的学习率进行更新，减缓了坍落度预测模型在初始阶段的提前过拟合现象，保持了分布的平稳，同时也保持了坍落度预测模型深度的稳定性。由于本申请的实施例训练的数据集为视频序列，数据量较大，在加载过程中会浪费大量时间，因此在训练过程中开启了子进程对数据进行预加载来提升网络的训练速度。对训练过后的坍落度预测模型进行评价，之后选择最优的模型作为经训练的坍落度预测模型。

在实际使用时，需要采集到的训练数据应尽可能的多，以满足实际的检测需求，得到最优的模型之后，可以在后续检测生产过程中利用预测的输出结果对模型进行实时在线更新。

S3，将每一个第一扩充序列输入经训练的坍落度预测模型，通过CNN单元提取第一扩充序列中的每一帧图像的空间特征，将每一帧图像的空间特征输入对应的第一展平层，得到每一帧图像对应的第一展平特征，每一帧图像对应的第一展平特征输入LSTM单元，提取到时序特征，时序特征输入第二展平层，得到第二展平特征，第二展平特征输入线性回归层，得到若干个输出结果。

具体的，由于一个原始的图像序列可获取到若干个第一扩充序列，将每个第一扩充序列输入经训练的坍落度预测模型进行多次预测，可预测得到若干个输出结果，多次预测是因为防止单次预测造成的误差，因为搅拌是个动态的过程，这会使得每次输入的第一扩充序列都会有差异，因此采用时间序列扩充和多次预测能够覆盖更多的搅拌状态，得到更多的输出结果，避免偶然误差，从而降低预测误差。

S4，对若干个输出结果进行后处理，得到坍落度的预测值，根据坍落度的预测值对混凝土的生产工艺进行调整，并重复以上步骤，直至坍落度的预测值符合要求。

在具体的实施例中，对若干个输出结果进行后处理，得到坍落度的预测值，根据坍落度的预测值对混凝土的生产工艺进行调整，具体包括：

采用3σ原则剔除若干个输出结果中的异常值，得到过滤后的输出结果；

对过滤后的输出结果求取均值，得到坍落度的预测值；

响应于确定坍落度的预测值未处于订单要求的坍落度范围内，生成警报指令以发出警报，并调整混凝土的配比。

具体的，将本申请的实施例提出的经训练的坍落度预测模型部署在工业计算机中，并在线监测得到多个输出结果，之后对多个输出结果利用3σ原则剔除异常值后，求均值作为最终的坍落度的预测值。单个图像序列的多次预测结果近似服从于正态分布，其中包括一些偏离中心较远的值，这些值极少，但是会对最终的结果造成一定的影响，因此可以利用3σ原则剔除这些异常值，之后求取平均值作为最终的坍落度的预测值。

利用输出结果的后处理方式输出最终的坍落度的预测值，得到最终的坍落度的预测值后与订单要求的坍落度范围进行对比，若是预测结果未落于订单要求的坍落度范围内，警报器发出警告，若是坍落度的预测值低于订单要求的坍落度范围，经人工复核确认后，进行加水操作对坍落度值进行调整。若是坍落度的预测值高于订单要求的坍落度范围，经人工复核确认后，在保持含砂率不变的情况下，增加砂石用量从而提高坍落度值，配方调整后重复以上步骤直到坍落度符合要求。若是人工复核该锅混凝土符合生产要求，但是预测错误，此时记录该锅生产视频，重新制作标签，送入坍落度预测模型进行在线模型更新。经过一系列调整配比操作后，直到混凝土符合出厂规范，结束本锅预测操作。

在实际使用时，混凝土搅拌过程中，利用坍落度预测模型判断不同坍落度的图像纹理不同与流动性不同，测量出该组图像序列代表的坍落度大小，并将坍落度的预测值与订单要求对比，为混凝土生产工艺的调整提供一个参考依据。根据每天的生产任务与人工复核结果对模型进行在线更新，不断提高模型的精度。

在实际工况中，若一个混凝土生产样本的坍落度值落于其允许的误差范围之内，就可以认为其为合格品，否则其为不合格品。将模型是否能将产品的合格与否准确预测称为预测准确率。为了探究本申请的实施例的有效性，采集了17组样本，分别对其坍落度进行实际测试与利用本申请的实施例提出的方法进行预测，最终的结果如图5所示。其中有94.12%的预测结果在实测值的±30mm误差之内。实测值与预测值的差值的绝对值的均值为11.24mm。最终的模型预测准确率为94.12%，这表明本申请的实施例提出的方法在实际工程中是有效的。

进一步参考图6，作为对上述各图所示方法的实现，本申请提供了一种基于图像序列的坍落度监测装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

本申请实施例提供了一种基于图像序列的坍落度监测装置，包括：

数据增强模块5，被配置为获取混凝土搅拌过程中采集到的视频帧构成的图像序列，对图像序列进行ROI区域截取和时序扩充处理，得到若干个第一扩充序列；

模型构建模块6，被配置为构建基于改进的CNN-LSTM的坍落度预测模型，采用训练数据对坍落度预测模型进行训练，得到经训练的坍落度预测模型，改进的CNN-LSTM包括依次连接的CNN单元、第一展平层、LSTM单元、第二展平层和线性回归层，CNN单元采用ResNet50卷积神经网络；

预测模块7，被配置为将每一个第一扩充序列输入经训练的坍落度预测模型，通过CNN单元提取第一扩充序列中的每一帧图像的空间特征，将每一帧图像的空间特征输入对应的第一展平层，得到每一帧图像对应的第一展平特征，每一帧图像对应的第一展平特征输入LSTM单元，提取到时序特征，时序特征输入第二展平层，得到第二展平特征，第二展平特征输入线性回归层，得到若干个输出结果；

后处理模块8，被配置为对若干个输出结果进行后处理，得到坍落度的预测值，根据坍落度的预测值对混凝土的生产工艺进行调整，并重复以上步骤，直至坍落度的预测值符合要求。

下面参考图7，其示出了适于用来实现本申请实施例的电子设备（例如图1所示的服务器或终端设备）的计算机装置700的结构示意图。图7示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图7所示，计算机装置700包括中央处理单元（CPU）701和图形处理器（GPU）702，其可以根据存储在只读存储器（ROM）703中的程序或者从存储部分709加载到随机访问存储器（RAM）704中的程序而执行各种适当的动作和处理。在RAM 704中，还存储有装置700操作所需的各种程序和数据。CPU 701、GPU702、ROM 703以及RAM 704通过总线705彼此相连。输入/输出（I/O）接口706也连接至总线705。

以下部件连接至I/O接口706：包括键盘、鼠标等的输入部分707；包括诸如、液晶显示器（LCD）等以及扬声器等的输出部分708；包括硬盘等的存储部分709；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分710。通信部分710经由诸如因特网的网络执行通信处理。驱动器711也可以根据需要连接至I/O接口706。可拆卸介质712，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器711上，以便于从其上读出的计算机程序根据需要被安装入存储部分709。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分710从网络上被下载和安装，和/或从可拆卸介质712被安装。在该计算机程序被中央处理单元（CPU）701和图形处理器（GPU）702执行时，执行本申请的方法中限定的上述功能。

需要说明的是，本申请的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。计算机可读介质例如可以是——但不限于——电、磁、光、电磁、红外线或半导体的装置、装置或器件，或者任意以上的组合。计算机可读介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑磁盘只读存储器（CD-ROM）、光存储器件、磁存储器件或者上述的任意合适的组合。在本申请中，计算机可读介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行装置、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行装置、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，也可以连接到外部计算机（例如利用因特网服务提供商来通过因特网连接）。

附图中的流程图和框图，图示了按照本申请各种实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，该模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的装置来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取混凝土搅拌过程中采集到的视频帧构成的图像序列，对图像序列进行ROI区域截取和时序扩充处理，得到若干个第一扩充序列；构建基于改进的CNN-LSTM的坍落度预测模型，采用训练数据对坍落度预测模型进行训练，得到经训练的坍落度预测模型，改进的CNN-LSTM包括依次连接的CNN单元、第一展平层、LSTM单元、第二展平层和线性回归层，CNN单元采用ResNet50卷积神经网络；将每一个第一扩充序列输入经训练的坍落度预测模型，通过CNN单元提取第一扩充序列中的每一帧图像的空间特征，将每一帧图像的空间特征输入对应的第一展平层，得到每一帧图像对应的第一展平特征，每一帧图像对应的第一展平特征输入LSTM单元，提取到时序特征，时序特征输入第二展平层，得到第二展平特征，第二展平特征输入线性回归层，得到若干个输出结果；对若干个输出结果进行后处理，得到坍落度的预测值，根据坍落度的预测值对混凝土的生产工艺进行调整，并重复以上步骤，直至坍落度的预测值符合要求。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的（但不限于）具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (10)

1.一种基于图像序列的坍落度监测方法，其特征在于，包括以下步骤：

获取混凝土搅拌过程中采集到的视频帧构成的图像序列，对所述图像序列进行ROI区域截取和时序扩充处理，得到若干个第一扩充序列；

构建基于改进的CNN-LSTM的坍落度预测模型，采用训练数据对所述坍落度预测模型进行训练，得到经训练的坍落度预测模型，所述改进的CNN-LSTM包括依次连接的CNN单元、第一展平层、LSTM单元、第二展平层和线性回归层，所述CNN单元采用ResNet50卷积神经网络；

将每一个所述第一扩充序列输入经训练的坍落度预测模型，通过所述CNN单元提取所述第一扩充序列中的每一帧图像的空间特征，将每一帧图像的空间特征输入对应的所述第一展平层，得到每一帧图像对应的第一展平特征，每一帧图像对应的所述第一展平特征输入所述LSTM单元，提取到时序特征，所述时序特征输入所述第二展平层，得到第二展平特征，所述第二展平特征输入所述线性回归层，得到若干个输出结果；

对若干个所述输出结果进行后处理，得到坍落度的预测值，根据所述坍落度的预测值对混凝土的生产工艺进行调整，并重复以上步骤，直至坍落度的预测值符合要求。

2.根据权利要求1所述的基于图像序列的坍落度监测方法，其特征在于，所述LSTM单元包含依次连接的所述第一扩充序列中的每一帧图像对应的若干LSTM层，前一帧图像对应的第一展平特征输入对应的LSTM层得到的输出结果与当前帧图像对应的第一展平特征均输入当前帧图像对应的LSTM层，所述时序特征为最后一帧图像对应的LSTM层的输出结果。

3.根据权利要求1所述的基于图像序列的坍落度监测方法，其特征在于，所述训练数据采用以下方式制作：

获取历史的混凝土搅拌过程中采集到的视频帧构成的图像序列及其对应的坍落度标签；

对所述图像序列进行ROI区域截取、空间扩充处理和时间序列扩充处理，得到若干个第二扩充序列，将若干个所述第二扩充序列及其对应的坍落度标签作为所述训练数据。

4.根据权利要求3所述的基于图像序列的坍落度监测方法，其特征在于，所述混凝土搅拌过程为加水湿拌的末期至拌合均匀的前期阶段。

5.根据权利要求3所述的基于图像序列的坍落度监测方法，其特征在于，所述空间扩充处理具体包括：

设置ROI区域的偏移范围，根据所述偏移范围对截取到的ROI区域进行扩展。

6.根据权利要求3所述的基于图像序列的坍落度监测方法，其特征在于，所述时间序列扩充处理具体包括：

设置T帧长度的滑动窗口，从所述图像序列的第一帧开始，将所述滑动窗口以步长为1帧滑动T/2帧。

7.根据权利要求1所述的基于图像序列的坍落度监测方法，其特征在于，所述对若干个所述输出结果进行后处理，得到坍落度的预测值，根据所述坍落度的预测值对混凝土的生产工艺进行调整，具体包括：

采用3σ原则剔除若干个输出结果中的异常值，得到过滤后的输出结果；

对所述过滤后的输出结果求取均值，得到所述坍落度的预测值；

响应于确定所述坍落度的预测值未处于订单要求的坍落度范围内，生成警报指令以发出警报，并调整混凝土的配比。

8.一种基于图像序列的坍落度监测装置，其特征在于，包括：

数据增强模块，被配置为获取混凝土搅拌过程中采集到的视频帧构成的图像序列，对所述图像序列进行ROI区域截取和时序扩充处理，得到若干个第一扩充序列；

模型构建模块，被配置为构建基于改进的CNN-LSTM的坍落度预测模型，采用训练数据对所述坍落度预测模型进行训练，得到经训练的坍落度预测模型，所述改进的CNN-LSTM包括依次连接的CNN单元、第一展平层、LSTM单元、第二展平层和线性回归层，所述CNN单元采用ResNet50卷积神经网络；

预测模块，被配置为将每一个所述第一扩充序列输入经训练的坍落度预测模型，通过所述CNN单元提取所述第一扩充序列中的每一帧图像的空间特征，将每一帧图像的空间特征输入对应的所述第一展平层，得到每一帧图像对应的第一展平特征，每一帧图像对应的所述第一展平特征输入所述LSTM单元，提取到时序特征，所述时序特征输入所述第二展平层，得到第二展平特征，所述第二展平特征输入所述线性回归层，得到若干个输出结果；

后处理模块，被配置为对若干个所述输出结果进行后处理，得到坍落度的预测值，根据所述坍落度的预测值对混凝土的生产工艺进行调整，并重复以上步骤，直至坍落度的预测值符合要求。

9.一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的方法。