CN114758184B - 基于深度学习的渣土分类处理引导方法、装置及可读介质 - Google Patents

基于深度学习的渣土分类处理引导方法、装置及可读介质 Download PDF

Info

Publication number
CN114758184B
CN114758184B CN202210665002.7A CN202210665002A CN114758184B CN 114758184 B CN114758184 B CN 114758184B CN 202210665002 A CN202210665002 A CN 202210665002A CN 114758184 B CN114758184 B CN 114758184B
Authority
CN
China
Prior art keywords
muck
soil
image
class
recycling value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210665002.7A
Other languages
English (en)
Other versions
CN114758184A (zh
Inventor
杨建红
候建强
黄文景
颜伟泽
房怀英
黄骁民
张宝裕
冀效胜
黄斐智
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huaqiao University
Fujian South Highway Machinery Co Ltd
Original Assignee
Huaqiao University
Fujian South Highway Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huaqiao University, Fujian South Highway Machinery Co Ltd filed Critical Huaqiao University
Priority to CN202210665002.7A priority Critical patent/CN114758184B/zh
Publication of CN114758184A publication Critical patent/CN114758184A/zh
Application granted granted Critical
Publication of CN114758184B publication Critical patent/CN114758184B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02W—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO WASTEWATER TREATMENT OR WASTE MANAGEMENT
    • Y02W30/00—Technologies for solid waste management
    • Y02W30/50—Reuse, recycling or recovery technologies
    • Y02W30/91—Use of waste materials as fillers for mortars or concrete

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于深度学习的渣土分类处理引导方法、装置及可读介质，涉及计算机视觉及深度学习领域，获取土场入口处采集到渣土车车厢内渣土的渣土图像，并输入经训练的图像分类模型，得到初步分类结果，根据初步分类结果生成分别对应的第一引导指令；响应于确定初步分类结果为一类土或四类土，将渣土图像输入经训练的语义分割模型，得到分割后的渣土图像并进行处理，得到处理结果，根据处理结果确定一类土或四类土的面积占比；确定渣土图像所对应的渣土的回收价值，生成渣土为一类土或四类土时为具有回收价值或不具有回收价值的第二引导指令，结合第一引导指令和第二引导指令生成最终引导指令，解决了土场渣土堆置混乱、分类难度大等问题。

Description

基于深度学习的渣土分类处理引导方法、装置及可读介质
技术领域
本发明涉及计算机视觉及深度学习领域，具体涉及一种基于深度学习的渣土分类处理引导方法、装置及可读介质。
背景技术
随着我国城镇化的不断推进，工程渣土的产量逐递增，对工程渣土的处置成为考验城市治理能力的难题。工程渣土资源化处置技术不成熟，对工程渣土的处置主要以未加以处理直接进行异地填埋和露天堆埋为主，这些工程渣土不仅造成了资源浪费，占用土地，影响市容，未经处理的工程渣土堆积还会破坏土壤结构、污染水体和造成土表沉降，严重影响了可持续发展城市建设工程的发展进度。
渣土主要由泥浆、粒径不一的砾石、砂石、混凝土块、砖块和各种建筑废材等组成，含土率在60%以上，最高的渣土PH值高达12-13。尤其是工程泥浆，流动性高、承载能力低、固化速度慢、保水性好，处理极其困难。对渣土的处理工艺受到其本身的含水率、颗粒级配、有机质含量和矿物种类等影响。主要的集中处理工艺有泥石分离、化学沉淀和物理压滤等工艺。因此，由于不同的渣土种类对应的处理工艺有别，针对实施工程渣土的再生处理工艺之前有必要对工程渣土进行分类，主要以渣土的含水率、砂石粒径大小、塑性指数以及骨料含量为分类界线。计算机视觉和深度学习技术在分类检测领域备受青睐，在此之前主要靠人为判别，这种方式工作效率低，容易出现误判，人工作业量大，劳动强度大，成本高。因此，开发出一种基于深度学习的渣土分类处理引导系统和方法已经势在必行。
发明内容
本发明的主要目的在于克服渣土处置领域现有技术中的上述缺陷，提出一种基于深度学习的渣土分类处理引导方法、装置及可读介质，能够有效提高对工程渣土的处理效益，有利于针对工程渣土分类处理工艺的施展，解决了土场渣土堆置混乱的问题。
为实现上述目的，本发明采用如下技术方案：
第一方面，本申请的实施例提供了一种基于深度学习的渣土分类处理引导方法，包括以下步骤：
S1，获取土场入口处采集到渣土车车厢内渣土的渣土图像；
S2，将渣土图像输入经训练的图像分类模型，得到初步分类结果，初步分类结果包括一类土、二类土、三类土和四类土，根据初步分类结果生成分别对应于一类土、二类土、三类土或四类土的第一引导指令；
S3，响应于确定初步分类结果为一类土或四类土，将渣土图像输入经训练的语义分割模型，得到分割后的渣土图像，将分割后的渣土图像进行处理，得到处理结果，根据处理结果确定一类土的面积占比或四类土的面积占比；
S4，基于一类土的面积占比或四类土的面积占比确定渣土图像所对应的渣土的回收价值，生成渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值或不具有回收价值的第二引导指令，结合第一引导指令和第二引导指令生成最终引导指令。
作为优选，图像分类模型包括ResNet50神经网络，语义分割模型包括Unet神经网络。
作为优选，图像分类模型采用经标注的图像分类数据集进行多次训练，语义分割模型采用经标注的语义分割数据集进行多次训练，并且图像分类数据集和语义分割数据集为经过图像数据增强后的数据集，图像数据增强的方式包括：裁剪、水平翻转、竖直翻转、旋转、改变图像亮度和对比度、部分像素置零。
作为优选，图像分类模型和语义分割模型的训练过程包括：训练超参数设定，使用SGD优化器进行优化，使用的学习率策略为带预热的余弦退火。
作为优选，步骤S2中的经训练的图像分类模型以砂石、砾石、砖块、混凝土块为主要特征区分渣土图像的初步分类结果为一类土或四类土，其中一类土包括砾石和砂石，四类土包括混凝土块和砖块，以渣土图像的颜色和纹理为主要特征区分渣土图像的初步分类结果为二类土或三类土。
作为优选，步骤S3中将分割后的渣土图像进行处理，得到处理结果，根据处理结果确定一类土的面积占比或四类土的面积占比，具体包括：
将分割后的渣土图像进行图像二值化、高斯滤波、阈值分割、Canny算子边缘检测、膨胀和腐蚀，识别出砂石、砾石、混凝土块和/或砖块的轮廓，并根据轮廓分别计算出砂石、砾石、混凝土块和/或砖块的面积；
将砂石与砾石的面积相加并与渣土图像的面积相比，或者将混凝土块与砖块的面积相加并与渣土图像的面积相比，得到一类土的面积占比或四类土的面积占比。
作为优选，步骤S4具体包括：
将一类土的面积占比或四类土的面积占比分别与对应的预设阈值比较，若面积占比大于预设阈值，则确定渣土图像所对应的渣土具有回收价值，并生成对应于渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值的第二引导指令；
若面积占比小于预设阈值，则确定渣土图像所对应的渣土不具有回收价值，并生成渣土图像所对应的渣土为一类土或四类土时其回收价值为不具有回收价值的第二引导指令。
作为优选，响应于确定初步分类结果为二类土或三类土，确定渣土图像所对应的渣土不具有回收价值，最终引导指令对应于具有回收价值的一类土、不具有回收价值的一类土、二类土、三类土、具有回收价值的四类土、不具有回收价值的四类土。
作为优选，还包括：将最终引导指令进行显示，用于指引渣土车前往相应类别的渣土堆场进行倾倒。
第二方面，本申请的实施例提供了一种基于深度学习的渣土分类处理引导装置，包括：
图像获取模块，被配置为获取土场入口处采集到渣土车车厢内渣土的渣土图像；
初步分类模块，被配置为将渣土图像输入经训练的图像分类模型，得到初步分类结果，初步分类结果包括一类土、二类土、三类土和四类土，根据初步分类结果生成分别对应于一类土、二类土、三类土或四类土的第一引导指令；
语义分割模块，被配置为响应于确定初步分类结果为一类土或四类土，将渣土图像输入经训练的语义分割模型，得到分割后的渣土图像，将分割后的渣土图像进行处理，得到处理结果，根据处理结果确定一类土的面积占比或四类土的面积占比；
最终分类模块，被配置为基于一类土的面积占比或四类土的面积占比确定渣土图像所对应的渣土的回收价值，生成渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值或不具有回收价值的第二引导指令，结合第一引导指令和第二引导指令生成最终引导指令。
第三方面，本申请的实施例提供了一种电子设备，包括一个或多个处理器；存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面，本申请的实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
相比于现有技术，本发明具有以下有益效果：
（1）本发明提出的基于深度学习的渣土分类处理引导方法可以实现渣土类别的快速识别，生成引导指令，从而形成一套快速精准的渣土分类处理引导系统，有利于对工程渣土进行分类处理，有效提高工程渣土的处理效益。
（2）本发明将训练好的图像分类模型和语义分割模型部署到树莓派上在线识别出渣土的种类，引导渣土车前往相应的渣土堆场进行倾倒，在保证了渣土识别精度的前提下，大大降低了硬件成本。
（3）本发明可以有效提高对工程渣土的处理效益，有利于针对工程渣土分类处理工艺的施展，减少了人力成本，经济效益高。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简要介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请的一个实施例可以应用于其中的示例性装置架构图；
图2为本发明的实施例的基于深度学习的渣土分类处理引导方法的流程示意图；
图3为本发明的实施例的基于深度学习的渣土分类处理引导方法的引导过程示意图；
图4为本发明的实施例的基于深度学习的渣土分类处理引导方法的Unet神经网络的结构示意图；
图5为本发明的实施例的基于深度学习的渣土分类处理引导方法的不同类型的渣土的图像；
图6为本发明的实施例的基于深度学习的渣土分类处理引导装置的示意图；
图7是适于用来实现本申请实施例的电子设备的计算机装置的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步地详细描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
图1示出了可以应用本申请实施例的基于深度学习的渣土分类处理引导方法或基于深度学习的渣土分类处理引导装置的示例性装置架构100。
如图1所示，装置架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种应用，例如数据处理类应用、文件处理类应用等。
终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块（例如用来提供分布式服务的软件或软件模块），也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上传的文件或数据进行处理的后台数据处理服务器。后台数据处理服务器可以对获取的文件或数据进行处理，生成处理结果。
需要说明的是，本申请实施例所提供的基于深度学习的渣土分类处理引导方法可以由服务器105执行，也可以由终端设备101、102、103执行，相应地，基于深度学习的渣土分类处理引导装置可以设置于服务器105中，也可以设置于终端设备101、102、103中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。在所处理的数据不需要从远程获取的情况下，上述装置架构可以不包括网络，而只需服务器或终端设备。
图2示出了本申请的实施例提供的一种基于深度学习的渣土分类处理引导方法，包括以下步骤：
S1，获取土场入口处采集到渣土车车厢内渣土的渣土图像。
具体的，参考图3，渣土车在进入土场时，必须经过土场入口处的地磅停留称重，因此在土场入口处的地磅正上方安装摄像头或相机，当渣土车停在摄像头下方，摄像头可以获取一定时长的渣土车车顶的有直观渣土特征信息的视频片段；并从视频片段中截取部分图像作为渣土图像，用于对渣土车车厢内渣土种类进行分类。当渣土车停在相机下方，该相机为工业相机并搭配光源，由上向下拍摄得到的渣土车车厢内渣土的渣土图像。
S2，将渣土图像输入经训练的图像分类模型，得到初步分类结果，初步分类结果包括一类土、二类土、三类土和四类土，根据初步分类结果生成分别对应于一类土、二类土、三类土或四类土的第一引导指令。
在具体的实施例中，图像分类模型包括ResNet50神经网络，经训练的图像分类模型以砂石、砾石、砖块、混凝土块为主要特征区分渣土图像的初步分类结果为一类土或四类土，其中一类土包括砾石和砂石，四类土包括混凝土块和砖块，以渣土图像的颜色和纹理为主要特征区分渣土图像的初步分类结果为二类土或三类土，得到初步分类结果，第一引导指令分别对应于一类土、二类土、三类土或四类土。
S3，响应于确定初步分类结果为一类土或四类土，将渣土图像输入经训练的语义分割模型，得到分割后的渣土图像，将分割后的渣土图像进行处理，得到处理结果，根据处理结果确定一类土的面积占比或四类土的面积占比。
具体的，语义分割模型包括Unet神经网络。图像分类模型采用经标注的图像分类数据集进行多次训练，语义分割模型采用经标注的语义分割数据集进行多次训练，并且图像分类数据集和语义分割数据集为经过图像数据增强后的数据集，图像数据增强的方式包括：裁剪、水平翻转、竖直翻转、旋转、改变图像亮度和对比度、部分像素置零。图像分类模型和语义分割模型的训练过程包括：训练超参数设定，使用SGD优化器进行优化，使用的学习率策略为带预热的余弦退火。图像分类模型和语义分割模型的训练过程如下：
（1）搭建ResNet50神经网络和Unet网络分别构建图像分类模型和语义分割模型，其中ResNet50神经网络共有50层网络，其中包含五种不同的网络层：conv1、conv2_x、conv3_x、conv4_x和conv5_x，输入一个7x7x64的卷积，经过16个Building block，每个block为3层，最后加入一个fc层用于分类。Unet神经网络由收缩路径（contracting path）和扩张路径（expanding path）组成，contracting path有两个重复的3x3卷积核组成，使用ReLU激活函数和一个2x2最大池化操作，expanding path由一个2x2的上采样卷积层（ReLU）、特征拼接层、两个3x3的卷积层反复构成，使用ReLU激活函数；Unet网络结构如图4所示。
（2）收集训练数据集，将渣土分为四类，按批采集四类渣土图像，采集的渣土图像尽可能地涵盖该类渣土的所有特征信息，并且对相机高度有要求，取合适尺寸大小的图片，如图3所示。
对采集到的图像进行归类制作成图像分类模型训练所需的渣土数据集，手动标注制作成语义分割模型训练所需的渣土数据集，该渣土数据集的图像为人为挑选，使得标注的各个种类的数量尽可能均衡。其中，该渣土数据集的种类为砾石土、砂质土为一类土、粘性土为二类土、高流动性土（工程泥浆）为三类土、建废渣土为四类土，其对应的图像参考图5。一类土为砾石土、砂质土，其中含有砾石和砂石，对其分别进行标注。四类土为建废渣土，其中主要含有混凝土块和砖块，对其分别进行标注。一类土和四类土的视觉图像特征相近，对于ResNet50神经网络，以砂石、砾石、砖块、混凝土块为主要特征进行区分，检测出含有砂石、砾石则是一类土，若含有砖块、混凝土块则是四类土。二类土和三类土的视觉图像特征相近，对于ResNet50神经网络，以图像的颜色和纹理为主要特征进行区分，二类土颜色泛白、局部表面光滑，三类土颜色呈黑褐色，更粗糙。
对渣土数据集进行图像数据增强，图像数据增强的方式包括：裁剪、水平翻转、竖直翻转、旋转、改变图像亮度和对比度、部分像素置零，得到图像分类数据集和语义分割数据集。在模型训练时，将图像分类数据集和语义分割数据集划分为训练集（train data =70%）、验证集（validation data = 20%）和测试集（test data = 10%）。
（3）ResNet50神经网络和Unet神经网络分别采用图像分类数据集和语义分割数据集进行训练。对ResNet50神经网络和Unet神经网络进行超参数设定，学习率设置为0.001，梯度下降动量设置为0.9，权重衰减正则设置为0.0005。
（4）使用动量的SGD优化器对模型进行优化，该优化器L的公式如下式所示，
Figure DEST_PATH_IMAGE001
其中
Figure 558697DEST_PATH_IMAGE002
表示t时刻积攒的加速度，
Figure DEST_PATH_IMAGE003
表示动力的大小，
Figure 351204DEST_PATH_IMAGE004
表示t时刻模型的参 数，
Figure DEST_PATH_IMAGE005
为学习率，
Figure 193258DEST_PATH_IMAGE006
为训练集中的第
Figure DEST_PATH_IMAGE007
个样本，
Figure 962368DEST_PATH_IMAGE008
为第
Figure 589790DEST_PATH_IMAGE007
样本的真实值，
Figure DEST_PATH_IMAGE009
为模型的预测值，
Figure DEST_PATH_IMAGE010
为模型的梯度。作为优选，使用的学习率策略为带预热的 余弦退火。
（5）将训练好的图像分类模型和语义分割模型部署到基于树莓派4B的改进型CM4nano上。能够在线识别出渣土车运载渣土类别并判别该渣土的回收价值，生成并发出引导指令指引渣土车前往相应的渣土堆场进行倾倒。
在具体的实施例中，步骤S3中将分割后的渣土图像进行处理，得到处理结果，根据处理结果确定一类土的面积占比或四类土的面积占比，具体包括：
将分割后的渣土图像进行图像二值化、高斯滤波、阈值分割、Canny算子边缘检测、膨胀和腐蚀，识别出砂石、砾石、混凝土块和/或砖块的轮廓，并根据轮廓分别计算出砂石、砾石、混凝土块和/或砖块的面积；
将砂石与砾石的面积相加并与渣土图像的面积相比，或者将混凝土块与砖块的面积相加并与渣土图像的面积相比，得到一类土的面积占比或四类土的面积占比。
具体的，第一步对Unet神经网络识别分割后的图像进行图像二值化处理得到二值化图像；第二步进行高斯滤波处理，消除高斯噪声；第三步进行阈值分割处理，分割出砂石、砾石、混凝土块、砖块的图像；第四步进行Canny算子边缘检测，检测出砂石、砾石、混凝土块、砖块的图像边缘；第五步进行膨胀和腐蚀处理，平滑图像轮廓；之后找出砂石、砾石、混凝土块、砖块的边缘轮廓点坐标，初始化循环排序轮廓，依次计算轮廓内面积并计算其总和，输出砂石与砾石面积之和与渣土图像面积之比或者混凝土块与砖块面积之和与渣土图像面积之比。
S4，基于一类土的面积占比或四类土的面积占比确定渣土图像所对应的渣土的回收价值，生成渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值或不具有回收价值的第二引导指令，结合第一引导指令和第二引导指令生成最终引导指令。
在具体的实施例中，步骤S4具体包括：
将一类土的面积占比或四类土的面积占比分别与对应的预设阈值比较，若面积占比大于预设阈值，则确定渣土图像所对应的渣土具有回收价值，并生成对应于渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值的第二引导指令；
若面积占比小于预设阈值，则确定渣土图像所对应的渣土不具有回收价值，并生成渣土图像所对应的渣土为一类土或四类土时其回收价值为不具有回收价值的第二引导指令。
在具体的实施例中，响应于确定初步分类结果为二类土或三类土，确定渣土图像所对应的渣土不具有回收价值，最终引导指令对应于具有回收价值的一类土、不具有回收价值的一类土、二类土、三类土、具有回收价值的四类土、不具有回收价值的四类土。
具体的，阈值范围可设为40%，在经过图像分类模型检测出一类土或四类土后，还需判断其具体的回收价值。若是一类土或四类土，需要经过Unet神经网络识别分割出图像中砂石和砾石、混凝土块和砖块，并经过处理后计算出砂石和砾石的面积在渣土图像面积的面积占比判断一类土是否有回收价值，面积占比大于40%则有回收价值；或者计算出混凝土块和砖块的面积在渣土图像面积的占比判断四类土是否有回收价值，面积占比大于40%则有回收价值。若检测出二类土或三类土，无需判断其回收价值。因此第二引导指令对应有四种：具有回收价值的一类土、不具有回收价值的一类土、具有回收价值的四类土、不具有回收价值的四类土，将第一引导指令与第二引导指令合并为最终引导指令，最终引导指令有六种：具有回收价值的一类土、不具有回收价值的一类土、二类土、三类土、具有回收价值的四类土、不具有回收价值的四类土。
在具体的实施例中，还包括：将最终引导指令进行显示，用于指引渣土车前往相应类别的渣土堆场进行倾倒。
具体的，渣土车司机根据显示出的最终引导指令，将渣土车开往对应类别的渣土堆场，一方面实现渣土分类，另一方面还能够将有回收价值的渣土进行回收，提高经济效益。
进一步参考图6，作为对上述各图所示方法的实现，本申请提供了一种基于深度学习的渣土分类处理引导装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
本申请实施例提供了一种基于深度学习的渣土分类处理引导装置，包括：
图像获取模块1，被配置为获取土场入口处采集到渣土车车厢内渣土的渣土图像；
初步分类模块2，被配置为将渣土图像输入经训练的图像分类模型，得到初步分类结果，初步分类结果包括一类土、二类土、三类土和四类土，根据初步分类结果生成分别对应于一类土、二类土、三类土或四类土的第一引导指令，其中一类土包括砾石和砂石，四类土包括混凝土块和砖块；
语义分割模块3，被配置为响应于确定初步分类结果为一类土或四类土，将渣土图像输入经训练的语义分割模型，得到分割后的渣土图像，将分割后的渣土图像进行处理，得到处理结果，根据处理结果确定一类土的面积占比或四类土的面积占比；
最终分类模块4，被配置为基于一类土的面积占比或四类土的面积占比确定渣土图像所对应的渣土的回收价值，生成渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值或不具有回收价值的第二引导指令，结合第一引导指令和第二引导指令生成最终引导指令。
下面参考图7，其示出了适于用来实现本申请实施例的电子设备（例如图1所示的服务器或终端设备）的计算机装置700的结构示意图。图7示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图7所示，计算机装置700包括中央处理单元（CPU）701和图形处理器（GPU）702，其可以根据存储在只读存储器（ROM）703中的程序或者从存储部分709加载到随机访问存储器（RAM）704中的程序而执行各种适当的动作和处理。在RAM 704中，还存储有装置700操作所需的各种程序和数据。CPU 701、GPU702、ROM 703以及RAM 704通过总线705彼此相连。输入/输出（I/O）接口706也连接至总线705。
以下部件连接至I/O接口706：包括键盘、鼠标等的输入部分707；包括诸如、液晶显示器（LCD）等以及扬声器等的输出部分708；包括硬盘等的存储部分709；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分710。通信部分710经由诸如因特网的网络执行通信处理。驱动器711也可以根据需要连接至I/O接口706。可拆卸介质712，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器711上，以便于从其上读出的计算机程序根据需要被安装入存储部分709。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分710从网络上被下载和安装，和/或从可拆卸介质712被安装。在该计算机程序被中央处理单元（CPU）701和图形处理器（GPU）702执行时，执行本申请的方法中限定的上述功能。
需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。计算机可读介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的装置、装置或器件，或者任意以上的组合。计算机可读介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑磁盘只读存储器（CD-ROM）、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行装置、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行装置、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机（例如利用因特网服务提供商来通过因特网连接）。
附图中的流程图和框图，图示了按照本申请各种实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的装置来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中。
作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取土场入口处采集到渣土车车厢内渣土的渣土图像；将渣土图像输入经训练的图像分类模型，得到初步分类结果，初步分类结果包括一类土、二类土、三类土和四类土，根据初步分类结果生成分别对应于一类土、二类土、三类土或四类土的第一引导指令；响应于确定初步分类结果为一类土或四类土，将渣土图像输入经训练的语义分割模型，得到分割后的渣土图像，将分割后的渣土图像进行处理，得到处理结果，根据处理结果确定一类土的面积占比或四类土的面积占比；基于一类土的面积占比或四类土的面积占比确定渣土图像所对应的渣土的回收价值，生成渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值或不具有回收价值的第二引导指令，结合第一引导指令和第二引导指令生成最终引导指令。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的（但不限于）具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (8)

1.一种基于深度学习的渣土分类处理引导方法，其特征在于，包括以下步骤：
S1，获取土场入口处采集到渣土车车厢内渣土的渣土图像；
S2，将所述渣土图像输入经训练的图像分类模型，得到初步分类结果，所述初步分类结果包括一类土、二类土、三类土和四类土，所述经训练的图像分类模型以砂石、砾石、砖块、混凝土块为主要特征区分所述渣土图像的初步分类结果为一类土或四类土，其中一类土包括砾石和砂石，四类土包括混凝土块和砖块，以渣土图像的颜色和纹理为主要特征区分所述渣土图像的初步分类结果为二类土或三类土，所述二类土为粘性土，所述三类土为高流动性土，根据所述初步分类结果生成分别对应于一类土、二类土、三类土或四类土的第一引导指令；
S3，响应于确定所述初步分类结果为一类土或四类土，将所述渣土图像输入经训练的语义分割模型，得到分割后的渣土图像，将所述分割后的渣土图像进行处理，得到处理结果，根据所述处理结果确定一类土的面积占比或四类土的面积占比，具体包括：
将所述分割后的渣土图像进行图像二值化、高斯滤波、阈值分割、Canny算子边缘检测、膨胀和腐蚀，识别出所述砂石、砾石、混凝土块和/或砖块的轮廓，并根据所述轮廓分别计算出所述砂石、砾石、混凝土块和/或砖块的面积；
将所述砂石与砾石的面积相加并与所述渣土图像的面积相比，或者将所述混凝土块与砖块的面积相加并与所述渣土图像的面积相比，得到一类土的面积占比或四类土的面积占比；
S4，基于所述一类土的面积占比或四类土的面积占比确定所述渣土图像所对应的渣土的回收价值，生成所述渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值或不具有回收价值的第二引导指令，具体包括：将所述一类土的面积占比或四类土的面积占比分别与对应的预设阈值比较，若面积占比大于所述预设阈值，则确定所述渣土图像所对应的渣土具有回收价值，并生成对应于所述渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值的第二引导指令；
若面积占比小于所述预设阈值，则确定所述渣土图像所对应的渣土不具有回收价值，并生成所述渣土图像所对应的渣土为一类土或四类土时其回收价值为不具有回收价值的第二引导指令；
结合所述第一引导指令和第二引导指令生成最终引导指令；
将所述最终引导指令进行显示，用于指引渣土车前往相应类别的渣土堆场进行倾倒。
2.根据权利要求1所述的基于深度学习的渣土分类处理引导方法，其特征在于，所述图像分类模型包括ResNet50神经网络，所述语义分割模型包括Unet神经网络。
3.根据权利要求1所述的基于深度学习的渣土分类处理引导方法，其特征在于，所述图像分类模型采用经标注的图像分类数据集进行多次训练，所述语义分割模型采用经标注的语义分割数据集进行多次训练，并且所述图像分类数据集和语义分割数据集为经过图像数据增强后的数据集，所述图像数据增强的方式包括：裁剪、水平翻转、竖直翻转、旋转、改变图像亮度和对比度、部分像素置零。
4.根据权利要求1所述的基于深度学习的渣土分类处理引导方法，其特征在于，所述图像分类模型和所述语义分割模型的训练过程包括：训练超参数设定，使用SGD优化器进行优化，使用的学习率策略为带预热的余弦退火。
5.根据权利要求1所述的基于深度学习的渣土分类处理引导方法，其特征在于，响应于确定所述初步分类结果为二类土或三类土，确定所述渣土图像所对应的渣土不具有回收价值，所述最终引导指令对应于具有回收价值的一类土、不具有回收价值的一类土、二类土、三类土、具有回收价值的四类土、不具有回收价值的四类土。
6.一种基于深度学习的渣土分类处理引导装置，其特征在于，包括：
图像获取模块，被配置为获取土场入口处采集到渣土车车厢内渣土的渣土图像；
初步分类模块，被配置为将所述渣土图像输入经训练的图像分类模型，得到初步分类结果，所述初步分类结果包括一类土、二类土、三类土和四类土，所述经训练的图像分类模型以砂石、砾石、砖块、混凝土块为主要特征区分所述渣土图像的初步分类结果为一类土或四类土，其中一类土包括砾石和砂石，四类土包括混凝土块和砖块，以渣土图像的颜色和纹理为主要特征区分所述渣土图像的初步分类结果为二类土或三类土，所述二类土为粘性土，所述三类土为高流动性土，根据所述初步分类结果生成分别对应于一类土、二类土、三类土或四类土的第一引导指令；
语义分割模块，被配置为响应于确定所述初步分类结果为一类土或四类土，将所述渣土图像输入经训练的语义分割模型，得到分割后的渣土图像，将所述分割后的渣土图像进行处理，得到处理结果，根据所述处理结果确定一类土的面积占比或四类土的面积占比，具体包括：
将所述分割后的渣土图像进行图像二值化、高斯滤波、阈值分割、Canny算子边缘检测、膨胀和腐蚀，识别出所述砂石、砾石、混凝土块和/或砖块的轮廓，并根据所述轮廓分别计算出所述砂石、砾石、混凝土块和/或砖块的面积；
将所述砂石与砾石的面积相加并与所述渣土图像的面积相比，或者将所述混凝土块与砖块的面积相加并与所述渣土图像的面积相比，得到一类土的面积占比或四类土的面积占比；
最终分类模块，被配置为基于所述一类土的面积占比或四类土的面积占比确定所述渣土图像所对应的渣土的回收价值，生成所述渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值或不具有回收价值的第二引导指令，具体包括：将所述一类土的面积占比或四类土的面积占比分别与对应的预设阈值比较，若面积占比大于所述预设阈值，则确定所述渣土图像所对应的渣土具有回收价值，并生成对应于所述渣土图像所对应的渣土为一类土或四类土时其回收价值为具有回收价值的第二引导指令；
若面积占比小于所述预设阈值，则确定所述渣土图像所对应的渣土不具有回收价值，并生成所述渣土图像所对应的渣土为一类土或四类土时其回收价值为不具有回收价值的第二引导指令；
结合所述第一引导指令和第二引导指令生成最终引导指令；
将所述最终引导指令进行显示，用于指引渣土车前往相应类别的渣土堆场进行倾倒。
7.一种电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-5中任一所述的方法。
CN202210665002.7A 2022-06-14 2022-06-14 基于深度学习的渣土分类处理引导方法、装置及可读介质 Active CN114758184B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210665002.7A CN114758184B (zh) 2022-06-14 2022-06-14 基于深度学习的渣土分类处理引导方法、装置及可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210665002.7A CN114758184B (zh) 2022-06-14 2022-06-14 基于深度学习的渣土分类处理引导方法、装置及可读介质

Publications (2)

Publication Number Publication Date
CN114758184A CN114758184A (zh) 2022-07-15
CN114758184B true CN114758184B (zh) 2022-09-06

Family

ID=82336820

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210665002.7A Active CN114758184B (zh) 2022-06-14 2022-06-14 基于深度学习的渣土分类处理引导方法、装置及可读介质

Country Status (1)

Country Link
CN (1) CN114758184B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114757948B (zh) * 2022-06-14 2022-09-06 福建南方路面机械股份有限公司 一种基于深度学习的再生骨料砂浆含量检测方法及装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108133599A (zh) * 2017-12-21 2018-06-08 山东亿海兰特通信科技有限公司 一种渣土车视频识别方法及系统
CN109784190A (zh) * 2018-12-19 2019-05-21 华东理工大学 一种基于深度学习的自动驾驶场景关键目标检测提取方法
EP3614308A1 (en) * 2018-08-24 2020-02-26 Ordnance Survey Limited Joint deep learning for land cover and land use classification
CN111209923A (zh) * 2020-04-23 2020-05-29 北京慧智数据科技有限公司 一种基于深度学习技术的渣土车是否盖盖识别方法
CN112184707A (zh) * 2020-10-30 2021-01-05 三峡大学 基于点云数据的渣土车土石方装载判断方法以及判断系统
CN112870837A (zh) * 2021-01-11 2021-06-01 湖北佰翔环保科技股份有限公司 一种风化岩的盾构渣土处理方法
CN112966416A (zh) * 2021-03-08 2021-06-15 河海大学 一种对土压盾构粉细砂和粉质黏土混合渣土资源化利用的方法
CN113744237A (zh) * 2021-08-31 2021-12-03 华中科技大学 一种基于深度学习的渣土流塑性自动检测方法及系统
CN114266989A (zh) * 2021-11-15 2022-04-01 北京建筑材料科学研究总院有限公司 一种混凝土拌合物和易性测定方法和装置
CN114429573A (zh) * 2022-01-10 2022-05-03 华侨大学 一种基于数据增强的生活垃圾数据集生成方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IT201700058505A1 (it) * 2017-05-30 2018-11-30 Volta Robots S R L Metodo di controllo di un mezzo di lavorazione del terreno sulla base di elaborazioni d'immagini e relativo sistema
CN111507321B (zh) * 2020-07-01 2020-09-25 中国地质大学（武汉） 多输出土地覆盖分类模型的训练方法、分类方法及装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108133599A (zh) * 2017-12-21 2018-06-08 山东亿海兰特通信科技有限公司 一种渣土车视频识别方法及系统
EP3614308A1 (en) * 2018-08-24 2020-02-26 Ordnance Survey Limited Joint deep learning for land cover and land use classification
CN109784190A (zh) * 2018-12-19 2019-05-21 华东理工大学 一种基于深度学习的自动驾驶场景关键目标检测提取方法
CN111209923A (zh) * 2020-04-23 2020-05-29 北京慧智数据科技有限公司 一种基于深度学习技术的渣土车是否盖盖识别方法
CN112184707A (zh) * 2020-10-30 2021-01-05 三峡大学 基于点云数据的渣土车土石方装载判断方法以及判断系统
CN112870837A (zh) * 2021-01-11 2021-06-01 湖北佰翔环保科技股份有限公司 一种风化岩的盾构渣土处理方法
CN112966416A (zh) * 2021-03-08 2021-06-15 河海大学 一种对土压盾构粉细砂和粉质黏土混合渣土资源化利用的方法
CN113744237A (zh) * 2021-08-31 2021-12-03 华中科技大学 一种基于深度学习的渣土流塑性自动检测方法及系统
CN114266989A (zh) * 2021-11-15 2022-04-01 北京建筑材料科学研究总院有限公司 一种混凝土拌合物和易性测定方法和装置
CN114429573A (zh) * 2022-01-10 2022-05-03 华侨大学 一种基于数据增强的生活垃圾数据集生成方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
一种基于数值计算的改进BP神经网络加速算法;杜思思等;《纺织高校基础科学学报》;20070330(第01期);全文 *
一种深度卷积神经网络土地利用场景照片的分类方法;徐世武等;《测绘通报》;20200225(第02期);全文 *
周立波.基于深度学习的渣土车违规行为分析.《 中国优秀硕士论文电子期刊网 工程科技Ⅱ辑 信息科技》.2020,(第02期),全文. *
基于深度可分离卷积的实时农业图像逐像素分类研究;刘庆飞等;《中国农业科学》;20181001(第19期);全文 *

Also Published As

Publication number Publication date
CN114758184A (zh) 2022-07-15

Similar Documents

Publication Publication Date Title
Guo et al. Pavement crack detection based on transformer network
Jiang et al. A deep learning approach for fast detection and classification of concrete damage
WO2023240776A1 (zh) 基于深度学习的渣土分类处理引导方法、装置及可读介质
Wang et al. RENet: Rectangular convolution pyramid and edge enhancement network for salient object detection of pavement cracks
Xu et al. Pavement crack detection from CCD images with a locally enhanced transformer network
Yu et al. Efficient crack detection method for tunnel lining surface cracks based on infrared images
Chen et al. Image-based segmentation and quantification of weak interlayers in rock tunnel face via deep learning
CN114677601B (zh) 一种基于无人机巡检的结合深度学习的大坝裂缝检测方法
Huang et al. Edge detection of ore and rock on the surface of explosion pile based on improved Canny operator
Dong et al. Innovative method for pavement multiple damages segmentation and measurement by the Road-Seg-CapsNet of feature fusion
CN111507971A (zh) 一种隧道表面缺陷检测方法
CN114758184B (zh) 基于深度学习的渣土分类处理引导方法、装置及可读介质
Wu et al. Applying deep convolutional neural network with 3D reality mesh model for water tank crack detection and evaluation
CN113592792A (zh) 堆石图像粒径识别方法、装置、电子设备及存储介质
Zamani et al. Deep semantic segmentation for visual scene understanding of soil types
Leu et al. Digital image processing based approach for tunnel excavation faces
Qu et al. Gravelly soil uniformity identification based on the optimized Mask R-CNN model
CN116597270A (zh) 基于注意力机制集成学习网络的道路损毁目标检测方法
Kulambayev et al. Real-time road surface damage detection framework based on mask r-cnn model
Su et al. A framework for RQD calculation based on deep learning
Yao et al. Lightweight neural network for real-time crack detection on concrete surface in fog
Leach et al. Data augmentation for improving deep learning models in building inspections or postdisaster evaluation
Shao et al. Crack detection and measurement using PTZ camera–based image processing method on expressways
CN113838078B (zh) 采煤塌陷地裂缝的识别与提取方法、装置及存储介质
Li et al. Automated bridge crack detection based on improving encoder–decoder network and strip pooling

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant