CN109740656A - 一种基于卷积神经网络的矿石分选方法 - Google Patents

Abstract

本发明提供一种基于卷积神经网络的矿石分选方法，包括制作矿石图片的训练集和测试集；搭建VGG‑SE模型，将训练集中的矿石图片输入VGG‑SE模型，并利用VGG‑SE模型对矿石图片进行特征提取，得到一组特征向量；将得到的一组特征向量输入到softmax分类器中，通过softmax分类器来对矿石图片进行分类，得到训练好的VGG‑SE模型；将测试集中的矿石图片输入到训练好的VGG‑SE模型中进行预测，得到预测结果。本发明优点：与现有的人工分类相比，利用机器分类来代替人工分类，不仅大大提高了分类的准确性，同时还提高了经济效益。

Description

一种基于卷积神经网络的矿石分选方法

技术领域

本发明涉及一种分选方法，特别涉及一种基于卷积神经网络的矿石分选方法。

背景技术

矿产资源是一种不可再生资源，随着人们对矿产资源的大量开发，矿产资源正在逐渐的减少。这使得矿产行业开始重视对矿石的分选，这样能保证在有限的矿产资源中尽可能多的提高优质矿产资源的利用率。而就目前而言，矿石的分选主要都是依靠人工进行分选，由于受人的主观因素，人眼易疲劳等原因的影响，矿石的分选率一直都比较低，这也直接影响了经济效益。

随着科技的不断进步，近几年利用人工智能解决实际的工业问题已经开始广泛出现，而机器学习作为人工智能技术底下的一个分支，它是通过人的行为让机器学会人的行为的一门学科。而在机器学习中，卷积神经网络是一种身躯前馈人工神经网络，已经成功地应用于图像分类，图像分割，语言识别等。

VGGNet是牛津大学计算机视觉组和DeepMind公司共同研发的一种深度卷积网络，并且于2014年在ILSVRC比赛上获得了分类项目的第二名和定位项目的第一名，SE块是SENet中的一部分，SENET是原作者之一胡杰在2017年的ImageNet竞赛中的图像分类取得的最好成绩。虽然卷积神经网络技术已经有了广泛的应用，但是如何将卷积神经网络技术用于矿石分选，目前还没有比较成功的研究成果。

经过检索，申请日为2016.08.20，申请号为201610715882.9的中国发明专利公开了一种基于Adaboost机器学习的矿石可见光图像分选方法，该方法是根据提取的矿石图片的灰度共生矩阵(属于手工提取特征)，然后采用基于决策树的Adaboost模型，而提取手工特征往往依靠的是经验，具有很大的盲目性。分类结果的好坏很大程度上取决于人为选择的特征是否合理，虽然现在利用人为设置的特征进行分类的也有取得较好的效果的，但是这些特征都是针对特定的数据设计的，如果用同样的特征来处理不同的数据集，结果可能不大相同，因此这种特征具有不可迁移性。

申请日为2017.12.06，申请号为201711277597.4的中国发明专利公开了一种卡车装载矿石质量估计方法及系统，该方案采用的是非常普通的包括三层卷积层和三层池化层的网络结构来提取特征，而通过这种方式提取出的特征可能只是浅层的特征，这使得最后分类的准确率也比较低。

发明内容

本发明要解决的技术问题，在于提供一种基于卷积神经网络的矿石分选方法，通过该方法能够有效解决现有技术中由人工分类导致的效率低，准确率低问题。

本发明是这样实现的：一种基于卷积神经网络的矿石分选方法，所述方法包括如下步骤：

步骤S1、制作矿石图片的训练集和测试集；

步骤S2、搭建VGG-SE模型，将训练集中的矿石图片输入VGG-SE模型，并利用VGG-SE模型对矿石图片进行特征提取，得到一组特征向量；

步骤S3、将得到的一组特征向量输入到softmax分类器中，通过softmax分类器来对矿石图片进行分类，得到训练好的VGG-SE模型；

步骤S4、将测试集中的矿石图片输入到训练好的VGG-SE模型中进行预测，得到预测结果。

进一步地，所述步骤S1具体包括：

步骤S11、在同一环境下，使用同一拍摄仪器对收集的不同品质的矿石进行拍摄，得到各种矿石图片；

步骤S12、将拍摄好的矿石图片上传，并对上传的矿石图片进行标记处理，且将标记后的矿石图片制作成数据集；

步骤S13、将数据集分为训练集和测试集。

进一步地，在所述步骤S12中，所述将标记后的矿石图片制作成数据集具体为：

将标记后的矿石图片先转换为灰度图片，并计算出灰度图片的像素均值，然后将灰度图片上的每个像素点均减去像素均值，最后再进行归一化处理。

进一步地，所述步骤S13具体为：

将数据集的70％作为训练集，将数据集的30％作为测试集；同时，所述训练集和测试集均至少包括两个集合，每个集合均表示矿石的一个种类。

进一步地，在所述步骤S2中，搭建的VGG-SE模型包括输入层、第一卷积块、第二卷积块、第三卷积块、第四卷积块、第五卷积块、第一SE块、第二SE块、第三SE块、第一全连接层、第二全连接层、第三全连接层以及输出层；

其中，所述输入层之后连接所述第一卷积块，所述第一卷积块之后连接所述第二卷积块，所述第二卷积块之后连接所述第一SE块，所述第一SE块之后连接所述第三卷积块，所述第三卷积块之后连接所述第二SE块，所述第二SE块之后连接所述第四卷积块，所述第四卷积块之后连接所述第三SE块，所述第三SE块之后连接所述第五卷积块，所述第五卷积块之后连接所述第一全连接层，所述第一全连接层之后连接所述第二全连接层，所述第二全连接层之后连接所述第三全连接层，所述第三全连接层之后连接所述输出层。

进一步地，所述第一卷积块包括2层卷积以及1层池化；

所述第二卷积块包括2层卷积以及1层池化；

所述第三卷积块包括3层卷积以及1层池化；

所述第四卷积块包括3层卷积以及1层池化；

所述第五卷积块包括3层卷积以及1层池化；

其中，所述池化为最大池化或者平均池化。

进一步地，所述步骤S2之前还包括：

步骤S21、预训练VGG-16模型，具体包括：先将ImageNet数据集作为数据源，利用VGG-16模型进行特征迁移得到预训练好的VGG-16模型；然后以VGG-16模型的参数作为初始参数，设定初始学习率，以训练集作为训练数据，输入到搭建的VGG-SE模型中。

进一步地，所述步骤S3具体为：

记输入的一组特征向量为{(a₁,b₁),...,(a_i,b_i),...,(a_n,b_n)}，其中，a_i为矿石图片i的特征向量，n为训练集的样本个数，b_i为矿石所属的种类，b_i∈{1,2,3,...j}，j为矿石的总类数，任意一个矿石均以一定概率被识别为j个分类中的一类；将softmax分类器定义为h_λ(a_i)：

在式(1)中，P(b_i＝k|a_i)为特征向量a_i被识别为第k类的概率，k＝1,…,r；h_λ(a_i)为一个r行1列的列向量，每行均表示当前特征向量被识别为第k类的概率，且行元素的和为1；λ_k为softmax分类器待估计的参数，并且构成参数矩阵λ；

在使用softmax分类器对矿石图片进行分类时，对于任意的特征向量a_i，均选择最大概率所对应的k作为当前矿石图片的分类结果，且将分类结果与标记的真实结果进行比较，如果结果一致，则分类正确；如果结果不一致，则分类错误。

进一步地，将softmax分类器中的代价函数J(λ)定义为：

其中，

采用共轭梯度算法求解min[J(λ)]无约束最优化问题，以作为测试集分类准确率的评价指标。

进一步地，所述步骤S4具体为：

对测试集中的矿石图片均进行归一化处理，并将归一化处理后的矿石图片输入到训练好的VGG-SE模型中进行预测，得到预测结果；同时，将预测结果与标记的真实结果进行对比，并统计出准确率。

本发明具有如下优点：在本发明的VGG-SE模型中具有13层卷积层，5个池化层，同时还包括3个SE块。通过构建以上深层次的网络结构，使得能够更好的提取图片特征，同时SE块可以起到特征重标定的作用，具体来说是：通过学习的方式来自动获取到每个特征通道的重要程度，然后依照这个重要程度去提升有用的特征，并抑制对当前任务用处不大的特征；这可以确保提取出的特征更加准确、有效，最后可以提高分类的准确率。同时，与现有的人工分类相比，利用机器分类来代替人工分类，不仅大大提高了分类的准确性，同时还提高了经济效益。

附图说明

下面参照附图结合实施例对本发明作进一步的说明。

图1为本发明一种基于卷积神经网络的矿石分选方法的执行流程图。

图2为本发明中的卷积块模型图。

图3为本发明中的VGG-SE模型图。

具体实施方式

请参照图1至图3所示，本发明一种基于卷积神经网络的矿石分选方法的较佳实施例，所述方法包括如下步骤：

步骤S1、制作矿石图片的训练集和测试集；

在本发明具体实施例中，所述步骤S1具体包括：

步骤S11、在同一环境下，使用同一拍摄仪器对收集的不同品质的矿石进行拍摄，得到各种矿石图片；在具体实施时，需要采集尽可能多的矿石图片，以保证数据源充足。采用同一环境下、同一拍摄仪器进行拍摄是为了减少周围环境对拍摄的矿石图片造成干扰。拍摄仪器可以选用型号为FL3-GE-03S1M-C的灰点彩色相机进行拍摄，像素大小为1024×1280，当然，本发明并不仅限于此，在具体实施时，还可以根据实际需要来选择其它型号的照相机或者其它的像素大小。

步骤S12、将拍摄好的矿石图片上传，并对上传的矿石图片进行标记处理，且将标记后的矿石图片制作成数据集；

在具体实施时，我们在对矿石进行拍摄之前就要先对矿石进行分类，比如，将黑矿石分一类，白矿石分一类(在此我们仅举例分为2类，在具体实现时，可能还会有更多类)，然后根据分好类的矿石进行图片拍摄，最后再将拍完的图片上传给相关技术人员查看，以判断分类是否正确，如果分类错误的话，则由相关技术人员将分类错误的矿石图片归入到正确的一类中。对上传的矿石图片进行标记处理就是需要对矿石图片进行打标签，比如矿石分为黑白矿石，则给所有的黑矿石都标记为0，所有的白矿石都标记为1；如果有更多类的话，则标记为0,1,2...以此类推。

在所述步骤S12中，所述将标记后的矿石图片制作成数据集具体为：

将标记后的矿石图片先转换为灰度图片，并计算出灰度图片的像素均值，然后将灰度图片上的每个像素点均减去像素均值，最后再进行归一化处理。在具体实施时，可以将标记后的每一张矿石图片的图片像素大小先统一为64×64，当然，该统一的数值是可以根据实际需要进行改变的，然后再计算矿石图片的像素均值。

步骤S13、将数据集分为训练集和测试集；

所述步骤S13具体为：

将数据集的70％作为训练集，将数据集的30％作为测试集；同时，所述训练集和测试集均至少包括两个集合，每个集合均表示矿石的一个种类。例如，需要将矿石分为黑矿石和白矿石两类，那么，训练集和测试集中均需要包括两个集合，其中一个集合用于放置黑矿石图片，另一个集合用于放置白矿石图片，同时，对于每一个集合内的矿石图片，均从1开始进行命名。

步骤S2、搭建VGG-SE模型，将训练集中的矿石图片输入VGG-SE模型，并利用VGG-SE模型对矿石图片进行特征提取，得到一组特征向量；

请重点参照图2和图3所示，在所述步骤S2中，搭建的VGG-SE模型包括输入层、第一卷积块、第二卷积块、第三卷积块、第四卷积块、第五卷积块、第一SE块、第二SE块、第三SE块、第一全连接层、第二全连接层、第三全连接层以及输出层；

其中，所述输入层之后连接所述第一卷积块，所述第一卷积块之后连接所述第二卷积块，所述第二卷积块之后连接所述第一SE块，所述第一SE块之后连接所述第三卷积块，所述第三卷积块之后连接所述第二SE块，所述第二SE块之后连接所述第四卷积块，所述第四卷积块之后连接所述第三SE块，所述第三SE块之后连接所述第五卷积块，所述第五卷积块之后连接所述第一全连接层，所述第一全连接层之后连接所述第二全连接层，所述第二全连接层之后连接所述第三全连接层，所述第三全连接层之后连接所述输出层。

其中，所述第一卷积块包括2层卷积以及1层池化；

所述第二卷积块包括2层卷积以及1层池化；

所述第三卷积块包括3层卷积以及1层池化；

所述第四卷积块包括3层卷积以及1层池化；

所述第五卷积块包括3层卷积以及1层池化；

其中，所述池化为最大池化或者平均池化。

下面以一具体实例来对卷积和池化做具体说明：

在该具体实例中，所述第一卷积块包括2层卷积以及1层池化；其中，第1-1层卷积与第1-2层卷积相同，都是卷积核大小为3×3，得到64幅特征图；将第1-2层卷积得到的64幅特征图输入池化层，对该池化层使用2×2最大池化操作，且步长设置为2，得到64幅特征向量；

所述第二卷积块包括2层卷积以及1层池化；其中，第2-1层卷积与第2-2层卷积相同，都是卷积核大小为3×3，得到128幅特征图；将第2-2层卷积得到的128幅特征图输入池化层，对该池化层使用2×2最大池化操作，且步长设置为2，得到128幅特征向量；在第2-2层卷积连接所述第一SE块(其中，SE块用法和原理可参考文献Hu J,Shen L,Sun G.Squeeze-and-Excitation Networks[J].2017.)；

所述第三卷积块包括3层卷积以及1层池化；其中，第3-1层卷积、第3-2层卷积和第3-3层卷积相同，都是卷积核大小为3×3，得到256幅特征图；将第3-3层卷积得到的256幅特征图输入池化层，对该池化层使用2×2最大池化操作，且步长设置为2，得到256幅特征向量；在第3-3层卷积后连接第二SE块；

所述第四卷积块包括3层卷积以及1层池化；其中，第4-1层卷积、第4-2层卷积和第4-3层卷积相同，都是卷积核大小为3×3，得到512幅特征图；将第3-3层卷积得到的512幅特征图输入池化层，对该池化层使用2×2最大池化操作，且步长设置为2，得到512幅特征向量；在第4-3层后连接第三SE块；

所述第五卷积块包括3层卷积以及1层最大池化；其中，第5-1层卷积、第5-2层卷积和第5-3层卷积相同，都是卷积核大小为3×3，得到512幅特征图；将第3-3层卷积得到的512幅特征图输入池化层，对该池化层使用2×2最大池化操作，且步长设置为2，得到512幅特征向量；在第五卷积块之后加入3层全连接层(即第一全连接层、第二全连接层和第三全连接层)，最后得到一组二维的特征向量。

当然，有些时候可能会受到数据集的限制，也就是说，当数据集中的矿石图片数量比较少，可能就没有足够多的矿石图片去用于训练，针对这种情况，为了能够实现对VGG-SE模型进行更好的训练，所述步骤S2之前还包括：

步骤S21、预训练VGG-16模型，具体包括：先将ImageNet数据集作为数据源，利用VGG-16模型进行特征迁移得到预训练好的VGG-16模型；然后以VGG-16模型的参数作为初始参数，设定初始学习率(例如，可以设定初始学习率为0.001)，以训练集作为训练数据，输入到搭建的VGG-SE模型中。

步骤S3、将得到的一组特征向量输入到softmax分类器中，通过softmax分类器来对矿石图片进行分类，得到训练好的VGG-SE模型；

在本发明具体实施例中，所述步骤S3具体为：

记输入的一组特征向量为{(a₁,b₁),...,(a_i,b_i),...,(a_n,b_n)}，其中，a_i为矿石图片i的特征向量，n为训练集的样本个数(例如，可以取样本个数为483个，在具体实施时，可以根据实际需要来选择样本个数)，b_i为矿石所属的种类(例如，可以将矿石所属的种类分为黑矿石和白矿石两类)，b_i∈{1,2,3,...j}，j为矿石的总类数，任意一个矿石均以一定概率被识别为j个分类中的一类；将softmax分类器定义为h_λ(a_i)：

在式(1)中，P(b_i＝k|a_i)为特征向量a_i被识别为第k类的概率，k＝1,…,r；h_λ(a_i)为一个r行1列的列向量，每行均表示当前特征向量被识别为第k类的概率，且行元素的和为1；λ_k为softmax分类器待估计的参数，并且构成参数矩阵λ；

在使用softmax分类器对矿石图片进行分类时，对于任意的特征向量a_i，均选择最大概率所对应的k作为当前矿石图片的分类结果，且将分类结果与标记的真实结果进行比较，如果结果一致，则分类正确；如果结果不一致，则分类错误。例如，在一具体实施例中，某一矿石图片被识别为黑矿石的概率为89％，被识别为灰矿石的概率为50％，由于89％大于50％，因此，选择黑矿石作为当前矿石图片的分类结果，也就是说，将当前矿石图片分类到黑矿石；同时，需要与标记的真实结果进行比较，如果标记的真实结果也是黑矿石，则说明分类正确，否则就说明分类错误。

将softmax分类器中的代价函数J(λ)定义为：

其中，

采用共轭梯度算法求解min[J(λ)]无约束最优化问题，以作为测试集分类准确率的评价指标。

步骤S4、将测试集中的矿石图片输入到训练好的VGG-SE模型中进行预测，得到预测结果；

在本发明具体实施例中，所述步骤S4具体为：

对测试集中的矿石图片均进行归一化处理(在具体实施时，可以将测试集中的矿石图片先统一为64×64像素大小的图片，当然，该统一的数值是可以根据实际需要进行改变的，然后再进行归一化处理)，并将归一化处理后的矿石图片输入到训练好的VGG-SE模型中进行预测，得到预测结果；同时，将预测结果与标记的真实结果进行对比(在具体进行比对时，如果结果一致，则说明预测成功；如果不一致，则说明预测失败)，并统计出准确率，具体可以通过预测成功的总次数除以预测的总次数来获得准确率。当然，再具体实施时，如果预测出来的结果不理想的话，则需要调整参数值(比如，增加训练数据的数量、修改卷积核的值、修改初始的学习率、将图片像素大小改大等等)，然后继续对测试集中的矿石图片进行预测。

综上所述，本发明具有如下优点：在本发明的VGG-SE模型中具有13层卷积层，5个池化层，同时还包括3个SE块。通过构建以上深层次的网络结构，使得能够更好的提取图片特征，同时SE块可以起到特征重标定的作用，具体来说是：通过学习的方式来自动获取到每个特征通道的重要程度，然后依照这个重要程度去提升有用的特征，并抑制对当前任务用处不大的特征；这可以确保提取出的特征更加准确、有效，最后可以提高分类的准确率。同时，与现有的人工分类相比，利用机器分类来代替人工分类，不仅大大提高了分类的准确性，同时还提高了经济效益。

虽然以上描述了本发明的具体实施方式，但是熟悉本技术领域的技术人员应当理解，我们所描述的具体的实施例只是说明性的，而不是用于对本发明的范围的限定，熟悉本领域的技术人员在依照本发明的精神所作的等效的修饰以及变化，都应当涵盖在本发明的权利要求所保护的范围内。

Claims (10)

1.一种基于卷积神经网络的矿石分选方法，其特征在于：所述方法包括如下步骤：

步骤S1、制作矿石图片的训练集和测试集；

步骤S2、搭建VGG-SE模型，将训练集中的矿石图片输入VGG-SE模型，并利用VGG-SE模型对矿石图片进行特征提取，得到一组特征向量；

步骤S3、将得到的一组特征向量输入到softmax分类器中，通过softmax分类器来对矿石图片进行分类，得到训练好的VGG-SE模型；

步骤S4、将测试集中的矿石图片输入到训练好的VGG-SE模型中进行预测，得到预测结果。

2.根据权利要求1所述的一种基于卷积神经网络的矿石分选方法，其特征在于：所述步骤S1具体包括：

步骤S11、在同一环境下，使用同一拍摄仪器对收集的不同品质的矿石进行拍摄，得到各种矿石图片；

步骤S12、将拍摄好的矿石图片上传，并对上传的矿石图片进行标记处理，且将标记后的矿石图片制作成数集；

步骤S13、将数据集分为训练集和测试集。

3.根据权利要求2所述的一种基于卷积神经网络的矿石分选方法，其特征在于：在所述步骤S12中，所述将标记后的矿石图片制作成数据集具体为：

将标记后的矿石图片先转换为灰度图片，并计算出灰度图片的像素均值，然后将灰度图片上的每个像素点均减去像素均值，最后再进行归一化处理。

4.根据权利要求2所述的一种基于卷积神经网络的矿石分选方法，其特征在于：所述步骤S13具体为：

将数据集的70％作为训练集，将数据集的30％作为测试集；同时，所述训练集和测试集均至少包括两个集合，每个集合均表示矿石的一个种类。

5.根据权利要求1所述的一种基于卷积神经网络的矿石分选方法，其特征在于：在所述步骤S2中，搭建的VGG-SE模型包括输入层、第一卷积块、第二卷积块、第三卷积块、第四卷积块、第五卷积块、第一SE块、第二SE块、第三SE块、第一全连接层、第二全连接层、第三全连接层以及输出层；

其中，所述输入层之后连接所述第一卷积块，所述第一卷积块之后连接所述第二卷积块，所述第二卷积块之后连接所述第一SE块，所述第一SE块之后连接所述第三卷积块，所述第三卷积块之后连接所述第二SE块，所述第二SE块之后连接所述第四卷积块，所述第四卷积块之后连接所述第三SE块，所述第三SE块之后连接所述第五卷积块，所述第五卷积块之后连接所述第一全连接层，所述第一全连接层之后连接所述第二全连接层，所述第二全连接层之后连接所述第三全连接层，所述第三全连接层之后连接所述输出层。

6.根据权利要求5所述的一种基于卷积神经网络的矿石分选方法，其特征在于：

所述第一卷积块包括2层卷积以及1层池化；

所述第二卷积块包括2层卷积以及1层池化；

所述第三卷积块包括3层卷积以及1层池化；

所述第四卷积块包括3层卷积以及1层池化；

所述第五卷积块包括3层卷积以及1层池化；

其中，所述池化为最大池化或者平均池化。

7.根据权利要求1所述的一种基于卷积神经网络的矿石分选方法，其特征在于：所述步骤S2之前还包括：

步骤S21、预训练VGG-16模型，具体包括：先将ImageNet数据集作为数据源，利用VGG-16模型进行特征迁移得到预训练好的VGG-16模型；然后以VGG-16模型的参数作为初始参数，设定初始学习率，以训练集作为训练数据，输入到搭建的VGG-SE模型中。

8.根据权利要求1所述的一种基于卷积神经网络的矿石分选方法，其特征在于：所述步骤S3具体为：

记输入的一组特征向量为{(a₁,b₁),...,(a_i,b_i),...,(a_n,b_n)}，其中，a_i为矿石图片i的特征向量，n为训练集的样本个数，b_i为矿石所属的种类，b_i∈{1,2,3,...j}，j为矿石的总类数，任意一个矿石均以一定概率被识别为j个分类中的一类；将softmax分类器定义为h_λ(a_i)：

在式(1)中，P(b_i＝k|a_i)为特征向量a_i被识别为第k类的概率，k＝1,…,r；h_λ(a_i)为一个r行1列的列向量，每行均表示当前特征向量被识别为第k类的概率，且行元素的和为1；λ_k为softmax分类器待估计的参数，并且构成参数矩阵λ；

在使用softmax分类器对矿石图片进行分类时，对于任意的特征向量a_i，均选择最大概率所对应的k作为当前矿石图片的分类结果，且将分类结果与标记的真实结果进行比较，如果结果一致，则分类正确；如果结果不一致，则分类错误。

9.根据权利要求8所述的一种基于卷积神经网络的矿石分选方法，其特征在于：将softmax分类器中的代价函数J(λ)定义为：

其中，

采用共轭梯度算法求解min[J(λ)]无约束最优化问题，以作为测试集分类准确率的评价指标。

10.根据权利要求1所述的一种基于卷积神经网络的矿石分选方法，其特征在于：所述步骤S4具体为：

对测试集中的矿石图片均进行归一化处理，并将归一化处理后的矿石图片输入到训练好的VGG-SE模型中进行预测，得到预测结果；同时，将预测结果与标记的真实结果进行对比，并统计出准确率。