CN113486806B - 基于一维残差神经网络的悬沙监测方法 - Google Patents
基于一维残差神经网络的悬沙监测方法 Download PDFInfo
- Publication number
- CN113486806B CN113486806B CN202110771135.8A CN202110771135A CN113486806B CN 113486806 B CN113486806 B CN 113486806B CN 202110771135 A CN202110771135 A CN 202110771135A CN 113486806 B CN113486806 B CN 113486806B
- Authority
- CN
- China
- Prior art keywords
- data
- layer
- sand
- neural network
- dimensional residual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000004576 sand Substances 0.000 title claims abstract description 81
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000012544 monitoring process Methods 0.000 title claims description 34
- 230000007935 neutral effect Effects 0.000 title claims description 8
- 238000012549 training Methods 0.000 claims abstract description 58
- 238000013528 artificial neural network Methods 0.000 claims abstract description 51
- 239000002245 particle Substances 0.000 claims abstract description 45
- 239000007788 liquid Substances 0.000 claims abstract description 40
- 238000012360 testing method Methods 0.000 claims abstract description 25
- 238000003756 stirring Methods 0.000 claims abstract description 4
- 238000011176 pooling Methods 0.000 claims description 27
- 238000010606 normalization Methods 0.000 claims description 25
- 230000004913 activation Effects 0.000 claims description 20
- 238000012545 processing Methods 0.000 claims description 16
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Chemical compound O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 claims description 13
- 238000002372 labelling Methods 0.000 claims description 7
- 238000011049 filling Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 239000004810 polytetrafluoroethylene Substances 0.000 claims description 5
- 229920001343 polytetrafluoroethylene Polymers 0.000 claims description 5
- 239000008367 deionised water Substances 0.000 claims description 4
- 229910021641 deionized water Inorganic materials 0.000 claims description 4
- 230000002572 peristaltic effect Effects 0.000 claims description 3
- 230000011218 segmentation Effects 0.000 abstract description 2
- 230000008569 process Effects 0.000 description 15
- 239000013049 sediment Substances 0.000 description 14
- 230000006870 function Effects 0.000 description 13
- 238000012795 verification Methods 0.000 description 11
- 238000010248 power generation Methods 0.000 description 8
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 7
- 230000009471 action Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000003062 neural network model Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 238000007781 pre-processing Methods 0.000 description 4
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 3
- 238000012952 Resampling Methods 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000011068 loading method Methods 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 2
- LFQSCWFLJHTTHZ-UHFFFAOYSA-N Ethanol Chemical compound CCO LFQSCWFLJHTTHZ-UHFFFAOYSA-N 0.000 description 2
- 238000005299 abrasion Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 229910052802 copper Inorganic materials 0.000 description 2
- 239000010949 copper Substances 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000002156 mixing Methods 0.000 description 2
- 238000005086 pumping Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000000137 annealing Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 230000002209 hydrophobic effect Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000012528 membrane Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000002105 nanoparticle Substances 0.000 description 1
- 238000004062 sedimentation Methods 0.000 description 1
- 239000000725 suspension Substances 0.000 description 1
- 238000012956 testing procedure Methods 0.000 description 1
- 238000012876 topography Methods 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
Abstract
公开了基于一维残差神经网络的悬沙监测方法，方法中，不同粒径砂砾分别搅拌形成不同浓度的悬沙液体，从悬沙液体提取含沙液滴，采集含沙液滴作用于摩擦纳米发电机传感器所产生的电流数据，多个电流数据形成电流数据集，标记分割电流数据集，并对分割后的电流数据基于粒径和浓度标记数据标签以形成训练集数据和测试集数据，构建一维残差神经网络，其包括输入模块、卷积模块、残差模块和输出模块，输入训练集数据对一维残差神经网络进行训练以优化一维残差神经网络，将测试集数据输入优化后的一维残差神经网络以得到粒径数据和浓度数据。
Description
技术领域
本发明涉及悬沙监测技术领域，尤其涉及一种基于一维残差神经网络的悬沙监测方法。
背景技术
泥沙随着河流的运输对于水质、地理地形、生态环境等方面具有重要的影响。例如，泥沙浓度变化对于水库的泥沙淤积和水利机械的磨损会造成重要的影响，水库泥沙淤积会造成水库的容量减少和水库发电能力的减弱，同时泥沙含量会造成水库水利机械的寿命减少。而根据有关资料显示，中国的水库平均每年淤积水库的总容量的2％。因此通过采取相应手段控制泥沙淤积，减缓水利器械的磨损具有重要意义。要了解和研究河流泥沙运输相关过程，帮助水利人员管理水利生产，对于河流泥沙浓度的实时测量十分重要。而传统的泥沙测量手段和方法包括如浊度、声学、激光衍射、压力等。但这些方法对于泥沙浓度的测量过程往往包括采样、送检、检测、处理等过程，首先这样的过程无法避免采样条件的不确定性和危险性，且费时费力，并且整个检测过程周期较长。此外，基于这些原理下的检测设备往往成本较高。所以迄今为止，通过可靠、简单且低成本的方法来获得直接、连续的悬沙浓度等信息仍是世界范围内的难题。
综上所述，有必要提出基于一维残差神经网络的悬沙监测方法，以帮助研究人员开展放电物理机理的深入研究工作。
在背景技术部分中公开的上述信息仅仅用于增强对本发明背景的理解，因此可能包含不构成本领域普通技术人员公知的现有技术的信息。
发明内容
本发明的目的是提供一种基于一维残差神经网络的悬沙监测方法。实现实际河水含沙浓度和含沙粒径的快速预测，达到提取河水中含沙参数的连续信息的目标。
为了实现上述目的，本发明提供如下技术方案：
本发明的一种基于一维残差神经网络的悬沙监测方法包括：
第一步骤，不同粒径砂砾分别搅拌形成不同浓度的悬沙液体，从悬沙液体提取含沙液滴，采集含沙液滴作用于摩擦纳米发电机传感器所产生的电流数据，多个所述电流数据形成电流数据集，
第二步骤，标记分割所述电流数据集，并对分割后的电流数据基于粒径和浓度标记数据标签以形成训练集数据和测试集数据，
第三步骤，构建一维残差神经网络，其包括输入模块、卷积模块、残差模块和输出模块，
第四步骤，输入所述训练集数据对一维残差神经网络进行训练以优化一维残差神经网络，
第五步骤，将测试集数据输入优化后的所述一维残差神经网络以得到粒径数据和浓度数据。
所述的一种基于一维残差神经网络的悬沙监测方法中，第一步骤中，含沙液滴逐滴地滴落在摩擦纳米发电机传感器上。
所述的一种基于一维残差神经网络的悬沙监测方法中，第一步骤中，将不同粒径沙粒按比例放入去离子水中均匀混合形成悬沙液体，利用蠕动泵抽取悬沙液体中的含沙液滴，且从摩擦纳米发电机传感器的PTFE膜表面上方3cm处缓慢滴下。
所述的一种基于一维残差神经网络的悬沙监测方法中，在步骤二中，
步骤S21，将采集到的连续的多滴含沙液滴电流数据拆分为每个液滴的单段电流数据；
步骤S22，平移所述单段电流数据以增强处理；
步骤S23，标签采集的不同浓度、不同粒径的增强后的单段电流数据且以预定比例拆分为训练集数据和测试集数据；
步骤S24，修改训练集数据和测试集数据的类型；
步骤S25、降采样处理和归一化处理训练集数据和测试集数据。
所述的一种基于一维残差神经网络的悬沙监测方法中，预定比例为5：1，所述一维残差神经网络包括一维18层卷积残差网络结构。
所述的一种基于一维残差神经网络的悬沙监测方法中，第三步骤中，卷积模块包括依次连接的卷积层、批归一化层、ReLU激活函数层、残差模块层、自适应平均池化层以及一个全连接层，其中，
第一层为卷积层，卷积核大小为7*1，步长为2，填充参数为3；
第二层为批归一化层；
第三层为激活层，用ReLU作为激活函数；
第四层为最大池化层，尺寸为3*1，步长为2，填充参数为1；
第五-八层为残差模块，输出深度分别为64、128、256、512；
第九层为全局平均池化层，输出尺寸1*1，输出深度为512；
最后的池化层连接一个512*1全连接层，将学习的特征映射到分类特征空间。
所述的一种基于一维残差神经网络的悬沙监测方法中，所述残差模块包括卷积层和批归一化层。
所述的一种基于一维残差神经网络的悬沙监测方法中，第四步骤中，一维残差神经网络训练所用的损失计算公式为交叉熵公式：
其中loss表示损失大小；i表示第i个分类；c表示总分类数目；ti表示该分类下的实际概率，为0或1；yi表示一维残差神经网络预测属于该分类的概率，为一个0-1的数。
所述的一种基于一维残差神经网络的悬沙监测方法中，训练中使用到softmax激活和交叉熵损失，softmax激活将输出重新缩放为每个类别的概率，使用交叉熵公式计算训练的误差然后进行反向传递。
所述的一种基于一维残差神经网络的悬沙监测方法中，第四步骤中，
训练过程使用adam优化器，包括以下步骤：步骤(a)，每个浓度下含沙液滴的电流数据输入所述一维残差神经网络后输出得分值logits；
步骤(b)，将得分值logits和真实标签值输入到损失函数中计算损失；
步骤(c)，使用adam优化器进行模型参数的优化，包括反向传递和正向传播，所述反向传递将通过对logits参数进行求导，所述正向传播通过重复步骤(a)和步骤(b)的对网络结构操作；
步骤(d)，循环往复，直至达到规定的循环周期或者误差小于设定值，模型训练完毕。
所述的一种基于一维残差神经网络的悬沙监测方法中，待检测的含沙液滴的电流数据输入优化后的所述一维残差神经网络以得到粒径数据和浓度数据。
在上述技术方案中，本发明提供的一种基于一维残差神经网络的悬沙监测方法，具有以下有益效果：本发明通过测试不同浓度和颗粒大小的含沙砾液滴与摩擦纳米发电传感器作用的信号，然后将ResNet18的残差神经网络作为特征提取的基础网络，学习信号中潜藏的浓度和颗粒尺寸信息，最后将训练好的模型应用于实际信号的监测，实现实际河水含沙浓度和含沙粒径的快速预测，达到提取河水中含沙参数的连续信息的目标。本发明的一维Resnet18结构显著提高了液滴电流信号的分类准确率。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明中记载的一些实施例，对于本领域普通技术人员来讲，还可以根据这些附图获得其他的附图。
图1为本发明中基于一维残差神经网络的悬沙监测方法的流程示意图；
图2为本发明中基于一维残差神经网络的悬沙监测方法的信号随着含沙液滴在传感器上的运动而呈现的规律示意图；
图3为本发明中基于一维残差神经网络的悬沙监测方法的不同颗粒尺寸和不同颗粒浓度的液滴作用在传感器上产生的信号差异示意图；
图4为本发明中基于一维残差神经网络的悬沙监测方法的从原始电流数据中分割出来的单段液滴数据示意图，该数据段用于输入网络中进行训练或测试；
图5为本发明中基于一维残差神经网络的悬沙监测方法的ResNet18-1D的结构示意图，其中虚线表示输入要素需要重新缩放以匹配输出要素的尺寸；
图6为本发明中基于一维残差神经网络的悬沙监测方法的信号采集系统示意图；
图7为本发明中基于一维残差神经网络的悬沙监测方法的训练和测试过程示意图；
图8(a)至图8(d)为本发明中基于一维残差神经网络的悬沙监测方法的训练和测试结果：图8(a)质量的准确性曲线，图8(b)质量的损失率曲线，图8(c)数据的准确性曲线，图8(d)数据的损失率曲线。
具体实施方式
为使本发明实施方式的目的、技术方案和优点更加清楚，下面将结合本发明实施方式中的附图1至图8(d)，对本发明实施方式中的技术方案进行清楚、完整地描述，显然，所描述的实施方式是本发明一部分实施方式，而不是全部的实施方式。基于本发明中的实施方式，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式，都属于本发明保护的范围。
因此，以下对在附图中提供的本发明的实施方式的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施方式。基于本发明中的实施方式，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式，都属于本发明保护的范围。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
在本发明的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的设备或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。
在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中，除非另有明确的规定和限定，第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接触，也可以包括第一和第二特征不是直接接触而是通过它们之间的另外的特征接触。而且，第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正下方和斜下方，或仅仅表示第一特征水平高度小于第二特征。
为了使本领域的技术人员更好地理解本发明的技术方案，下面将结合附图对本发明作进一步的详细介绍。如图1至图8(d)所示，一种基于一维残差神经网络的悬沙监测方法包括，
步骤一：采集获取含颗粒液滴作用于摩擦纳米发电机传感器所产生的电流数据；
步骤二：对上述电流数据集进行标记分割，并对分割后的数据进行标记数据标签；
步骤三：构建一维残差神经网络，包括输入模块、训练模块和输出模块；
步骤四：用训练集数据对神经网络进行训练，每个周期结束后，用验证集数据验证其准确率；
步骤五：利用实际数据进行验证，评估该悬沙信息智能监测系统的准确率效果。
可选的，在步骤一中，数据采集过程包括液滴搅拌混合、液滴输送、电流采集系统，以此系统将含沙液滴逐滴地滴落在摩擦纳米发电机传感器上，所产生的信号会随着含沙液滴在传感器上的运动而呈现如图2所示的一定规律。而对于不同颗粒尺寸和不同颗粒浓度的液滴，信号会呈现如图3的差异。
根据本发明可选的，在步骤二中，对数据进行预处理包括以下步骤：
S21、将采集到的连续的多滴液滴信号拆分为每个液滴的单段信号，如图4所示；
S22、为了有效地利用有限的数据集，对S21中的数据进行平移的数据增强处理；
S23、根据实验对采集到不同浓度信息、不同颗粒大小的数据进行整合，对数据进行标签，然后将数据以5∶1的比例拆分为训练集和测试集。
S24、对数据类型进行修改，使其更适应于训练；
S25、对数据点降采样处理和归一化处理，使得模型的收敛速度和运算速度加快。
在一个实施例中，S31、优选的，在步骤三中建立的残差神经网络中结构如图5。其特征在于：包括输入模块、卷积模块、残差模块和输出模块。所述输入模块：用于对信号数据进行归一化和降采样等预处理；所述卷积模块：用于对样本数据进行卷积、池化进行初步特征提取；所述残差模块：进一步提取信号的抽象特征；所述输出模块：将提取到的特征映射到特征空间中。
S32、优选的，所述卷积模块包括依次连接的卷积层、批归一化层、ReLU激活函数层、残差模块层、自适应平均池化层以及一个全连接层，具体如下：
第一层：conv1，7*1卷积层，步长为2，输出尺寸为1*1，padding为3；
第二层：bn1，批归一化层和正则化，用的是L2惩罚项；
第三层：Relu层，作为激活函数；
第四层：最大池化层maxpool，尺寸为3*1，步长为2，padding为1；
第五-八层：残差模块block，输出深度分别为64、128、256、512；
第九层：平均池化层avgpool，尺寸1*1，输出深度为512；
以上为卷积模块和残差模块，上述结构中包含18个卷积结构，最后的池化层之后，连接一个512*1全连接层fn，将学习的特征映射到分类特征空间。
S33、优选的，所述残差模块包括卷积层、批归一化层，具体如下：
第一层为conv1，3*1卷积层，用于提取数据特征；
第二层：bn1，批归一化层；
第三层：ReLU，激活层
第三层：conv2，3*1卷积层；
第四层：bn2，批归一化层；
第五层：ReLU，激活对象为第四层的输出与第一层前的输入相加的结果。
以上为一个完整的残差模块，每个卷积模块中有2这样的残差模块。
S34、优选的，批归一化(BN)层和ReLU的激活功能用于加速训练过程。
在一个实施例中，在步骤四中，从训练数据中随机抽取20％作为验证集数据，在每个训练周期结束后对模型的训练效果进行准确率评价。
S41、优选的，训练过程所用到的损失计算公式为交叉熵公式；
其中loss表示损失大小；i表示第i个分类；c表示总分类数目；ti表示该分类下的实际概率，为0或1；yi表示模型预测属于该分类的概率，为一个0-1的数。
S42、优选的，所用的优化器为“adam“。包括以下步骤：步骤(a)，每个浓度下含沙液滴的电流数据，在输入第三步骤中构建的神经网络后会输出一个得分值logits；
步骤(b)，将得分值和真实标签值输入到损失函数中计算损失；
步骤(c)，使用“adam”优化器进行模型参数的优化，包括反向传递和正向传播，所述反向传递将通过对神经网络参数进行求导，所述正向传播通过重复上述步骤的对网络结构操作；
步骤(d)，循环往复，直至达到规定的循环周期或者误差小于设定值。模型训练完毕。
在步骤五中，将测试集数据输入到训练好的网络中，即可实现实际液滴参数的测试结果，从而实现液滴参数的动态测量。
所述方法的优选实施方式中，须使用摩擦纳米发电传感器对不同参数的液滴信号(如沙砾浓度和沙砾尺寸)进行分别采集，得到电流数据。
所述方法的优选实施方式中，在步骤二中，对所收集到的数据进行预处理，包括：
S21、将采集到的连续的多滴液滴信号拆分为每个液滴的单段信号；
S22、为了有效地利用有限的数据集，对S21中的数据进行平移的数据增强处理；
S23、根据实验对采集到不同浓度信息、不同颗粒大小的数据进行整合，对数据进行标签，然后将数据以5∶1的比例拆分为训练集和测试集。
S24、对数据类型进行修改，使其更适应于训练；
S25、对数据点降采样处理和归一化处理，使得模型的收敛速度和运算速度加快；
所述方法的优选实施方式中，在步骤三中，所采用的卷积神经网络模型的结构为一维ResNet18网络结构。
所述方法的优选实施方式中，所述输入模块：用于对信号数据进行归一化和降采样等预处理；所述卷积模块：用于对样本数据进行卷积、池化进行初步特征提取；所述残差模块：进一步提取信号的抽象特征；所述输出模块：将提取到的特征映射到特征空间中。
所述卷积模块包括依次连接的卷积层、批归一化层、ReLU激活函数层、残差模块层、自适应平均池化层以及一个全连接层，具体如下：
第一层为卷积层，卷积核大小为7*1，步长为2，填充参数为3；
第二层为批归一化层；
第三层为激活层，用ReLU作为激活函数；
第四层为最大池化层，尺寸为3*1，步长为2，填充参数为1；
第五-八层为残差模块，输出深度分别为64、128、256、512；
第九层为全局平均池化层，输出尺寸1*1，输出深度为512；
最后的池化层连接一个512*1全连接层，将学习的特征映射到分类特征空间。
所述方法的优选实施方式中，训练过程所用到的损失计算公式为交叉熵公式；
其中loss表示损失大小；i表示第i个分类；c表示总分类数目；ti表示该分类下的实际概率，为0或1；yi表示模型预测属于该分类的概率，为一个0-1的数。所述方法的优选实施方式中，所用的优化器为adam。
在一个实施例中，方法中，
一、采集电流信号
如图6所示，采用该实验装置获取含不同浓度和种类沙粒液滴滴作用于摩擦纳米发电机传感器所产生的电流数据
在该步骤中，为提高摩擦纳米发电传感器的输出性能，选择PTFE疏水薄膜(厚度：～50μm)作为摩擦生电介质，并切成正方形片(50mm×50mm)，然后分别在乙醇和去离子水中利用超声波清洗，再将与PTFE膜尺寸相同的导电铜带(厚度：)作为电极粘贴在摩擦电层上，由此制作摩擦纳米发电机传感器。
在该步骤中，实验数据的采集方法如下：首先，将不同种类沙粒按比例放入去离子水中，均匀混合模拟实际河流情况，然后利用蠕动泵抽取溶液从距PTFE膜表面3cm高处缓慢滴下。为了检测液滴滴落引起的电信号，将摩擦纳米发电传感器的铜电极在单电极操作模式下连接到接地的低噪声电流前置放大器(SR570，Stanford Research System)的信号输入，以输出短路电流测量。最后，摩擦纳米发电传感器系统的输出数据将通过基于LabVIEW的数据采集设备(BNC-2120，National Instruments)从前置放大器传输到计算机。
采集到的纯水及含不同浓度沙粒液滴与摩擦纳米发电机传感器作用所产生的电流信号如图3所示，从中可看出其信号特征，在液滴与PTFE薄膜接触的瞬间产生较大正脉冲信号，随后液滴从薄膜上滑落，产生较大负脉冲信号。液滴与摩擦纳米发电机的作用信号主要都有这两个明显信号，但含不同浓度沙粒液滴与传感器作用产生的电流信号存在峰值上的不同，可以利用该特征来进行液滴沙粒含量的预测。
二、进行数据的预处理
首先绘制出测得的电信号与时间的图像，需要确定两个数据，一个是局部最大值大概的范围，另一个是局部最大值之间的距离大概是多少秒(由滴落速度决定)。随后，由于每一部分的正负脉冲不同，根据取得的最大值范围，我们选取一个合适的确定值对数据进行标记，然后在标记前后一段范围内寻找有无负脉冲的一个负值，若存在，则将这一段判定为一次滴落，将其分割出来作为单独的一次滴落数据。
从原始数据中分割得到的数据段如图4所示。
由于网络训练所需要的数据量较大，因此在数据量较少的情况下进行了数据增强。数据增强的具体方式为在上述截取液滴作为数据时，在该截取窗口的条件下，向左和向右分别平移20个数据点作为新窗口截取数据，这些由平移得到的新数据也作为训练数据输入网络中进行训练，可以避免数据量不足的问题。
在该步骤中，首先对分割后的数据进行标记数据标签、数据变形、数据归一化、数据重采样、数据类型转换等一系列预处理操作。
即先将不同液滴条件下测出的数据根据沙砾种类和浓度进行标签，再将分割后得到的mat文件数据转化为txt文件数据，方便处理。
其次进行数据的0-1归一化处理，即将数据缩放为均值为0，方差为1的数据集。然后进行数据重采样，将原始的数据信号重新采样为1024个作为一组，以用于模型输入。
三、构建一维残差神经网络
建立的残差神经网络结构如图5。
Conv之前的数字表示卷积滤波器的大小，Conv之后的数字表示卷积滤波器的数量，“/2”表示输入要素的尺寸将减少一半；MaxPool，AdaptiveMaxPool和Fc分别表示最大池化层，自适应最大池化层和全连接层；批标准化(BN)层和称为ReLU的激活功能用于加速训练过程。
ResNet18模型包括17层卷积层、2层池化层和1个完全连接层，除第1层卷积层conv外，其余16层卷积层被分成4组，各包含4个残差学习单元，残差学习单元包括依次连接的2层卷积层，在2层卷积层的输入和输出之间建立了一个直接连接；
2层池化层包括最大值池化层MaxPool、自适应最大池化层AdaptiveMaxPool，1层完全连接层是指全连接层Fc。
第1层卷积层conv1、最大值池化层max pool、4组卷积层即conv2_x、conv3_x、conv4_x、conv5_x、平均池化层average pool_1、全连接层fc依次连接；
第1层卷积层conv1，卷积核大小为7×1，输出通道大小为64；
第1组卷积层conv2_x，卷积核大小为3×1，输出通道大小为64；
第2组卷积层conv3_x，卷积核大小为3×1，输出通道大小为128；
第3组卷积层conv4_x，卷积核大小为3×1，输出通道大小为256；
第4组卷积层conv5_x，卷积核大小为3×1，输出通道大小为512；
四、网络训练与验证
通过第二步骤中的数据预处理，得到了不同浓度(以及不同颗粒尺寸)的含沙液滴的摩擦电信号，包含0.25％到3.00％共12组数据，每组数据包含500个数据段。将这些数据分别贴上对应的标签，每个类别随机选择400个作为训练集，100个作为测试集。配置神经网络模型的输出分类数为12，即神经网络模型的输出维度为12。
基于上述的Resnet18网络结构，我们利用训练数据集对模型进行训练，然后利用验证集在每个训练周期结束后对模型的效果进行验证。依照如图7的方式来进行模型的训练和验证。具体包括以下步骤：步骤(1)，创建模型训练所需的常量和超参数，其中包括：数据的路径dara_dir，模型文件保存路径checkpoint_dir，单组数据的数量batch_size，学习率lr，学习率下降模式lr_schedule，学习率下降梯度steps，最大训练周期max_epoch等；步骤(2)，加载神经网络模型，初始化模型参数和训练超参数，损失函数和优化器；步骤(3)，将含沙液滴的电流数据转化为tensor格式，便于计算和加速处理，tensor的尺寸为1*1024，将tensor进行数值归一化处理；步骤(4)，加载数据至模型输入处，加载配置参数常量；步骤(5)，进入训练循环epoch，分批次训练神经网络；步骤(6)，当数据输入网络，经过卷积、批归一化、池化、残差卷积等过程后，得到一个输出结果logits；步骤(7)，将得到的output和该输入数据的真实标签共同送入交叉熵损失函数中，得到误差loss，保存当前loss值；步骤(8)，根据得到的loss，结合“adam”优化器对神经网络参数进行求导，更新神经网络模型的参数，并记录得到的参数；步骤(9)，输出本次训练信息，包括训练批次、学习率、损失值、准确率；步骤(10)，重复步骤(5)-(9)，直至一个批次结束；步骤(11)，更新模型的权重参数和优化器的权重参数，记录本次误差最小的模型的权重参数；步骤(12)，重复步骤(5)-(12)，直至所有训练数据均通过了神经网络模型，一个周期结束。步骤(13)，使用验证集数据对当前训练得到的模型进行验证，将验证数据通过步骤(3)-(7)得到当前周期的验证loss和验证准确率，若验证loss小于上一周期的验证loss，则保存当前的模型参数文件到文件路径checkpoint_dir中。
其中，模型训练过程中使用到softmax激活和交叉熵损失，该激活将模型输出重新缩放为每个类别的概率，使用交叉熵函数计算模型训练的误差然后进行反向传递。另外，所使用的Adam优化器，其初始学习率等于0.003，训练过程中的批量大小为16，总时期为100。在Pytorch中使用了一种称为“step”的学习率退火策略，该方法实现在第30、60和90个周期后学习率变为原值的0.1倍。
五、网络性能评估
基于上述ResNet18模型，测量了摩擦纳米发电传感器在不同粒径和质量分数下的输出电流信号，作为数据样本。在用于鉴定粒度的数据样品中，有六组样品，包括粒径74.19、98.77、117.33、166.82、195.28和253.39μm(质量分数：1.00wt％)。在用于确定颗粒浓度的数据样品中，共有12组样品，包括0.25wt％步骤(粒径：117.33μm)中0.25wt％到3.00wt％的颗粒质量分数。然后，用75％的数据样本对CNN模型进行训练，用另外25％的样本检验模型对粒径和质量分数的识别精度。为了进一步验证该方法在泥沙实时监测中的实用性，我们分别采集了日照黄海和兰州黄河的水样。测量了基于摩擦纳米发电传感器的这些样品的摩擦电输出，然后用训练好的深度学习模型对这些数据进行检验，以识别沉积物的粒径和浓度。
为了证明摩擦纳米发电传感器与深度学习方法相结合的粒子识别能力，图8(a)至图8(d)表示两个任务在准确度上的训练和测试过程。为了避免随机误差，采用五个模型对每个任务进行训练和测试，以获得平均准确度。在大约40个周期后，这两项任务的训练和测试精度趋于一个既高又稳定的水平。两项任务的平均测试准确率分别为99.84±0.06％和96.65±0.20％。显然，这两个任务的识别精度很高，标准差相对较低，这表明ResNet18模型在处理PLDD-TENG输出信号以识别粒子参数方面具有很强的鲁棒性。除此之外，对于所有的粒径和浓度识别任务，该模型都获得了很高的精度。对于不同粒径的沙粒，识别精度均超过99％。相比之下，颗粒浓度的识别精度相对较低，但最低准确率仍达到86.87％。
以上结果表明，摩擦纳米发电传感器结合深度学习方法可以有效地识别泥沙颗粒参数，为开发泥沙实时监测新方法提供了依据。此外，与现有的实时泥沙监测传感器相比，PLDD-TENG的结构简单，并在应用过程中效果稳定。
最后应该说明的是：所描述的实施例仅是本申请一部分实施例，而不是全部的实施例，基于本申请中的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其它实施例，都属于本申请保护的范围。
以上只通过说明的方式描述了本发明的某些示范性实施例，毋庸置疑，对于本领域的普通技术人员，在不偏离本发明的精神和范围的情况下，可以用各种不同的方式对所描述的实施例进行修正。因此，上述附图和描述在本质上是说明性的，不应理解为对本发明权利要求保护范围的限制。
Claims (6)
1.一种基于一维残差神经网络的悬沙监测方法，其特征在于，其包括以下步骤：
第一步骤，不同粒径砂砾分别搅拌形成不同浓度的悬沙液体，从悬沙液体提取含沙液滴，采集含沙液滴作用于摩擦纳米发电机传感器所产生的电流数据，多个所述电流数据形成电流数据集，
第二步骤，标记分割所述电流数据集，并对分割后的电流数据基于粒径和浓度标记数据标签以形成训练集数据和测试集数据，在步骤二中，
步骤S21，将采集到的连续的多滴含沙液滴电流数据拆分为每个液滴的单段电流数据；
步骤S22，平移所述单段电流数据以增强处理；
步骤S23，标签采集的不同浓度、不同粒径的增强后的单段电流数据且以预定比例拆分为训练集数据和测试集数据；
步骤S24，修改训练集数据和测试集数据的类型；
步骤S25，降采样处理和归一化处理训练集数据和测试集数据；
第三步骤，构建一维残差神经网络，其包括输入模块、卷积模块、残差模块和输出模块，第三步骤中，卷积模块包括依次连接的卷积层、批归一化层、ReLU激活函数层、残差模块层、自适应平均池化层以及一个全连接层，其中，
第一层为卷积层，卷积核大小为7*1，步长为2，填充参数为3；
第二层为批归一化层；
第三层为激活层，用ReLU作为激活函数；
第四层为最大池化层，尺寸为3*1，步长为2，填充参数为1；
第五-八层为残差模块，输出深度分别为64、128、256、512；
第九层为全局平均池化层，输出尺寸1*1，输出深度为512；
最后的池化层连接一个512*1全连接层，将学习的特征映射到分类特征空间；
第四步骤，输入所述训练集数据对一维残差神经网络进行训练以优化一维残差神经网络，一维残差神经网络训练所用的损失计算公式为交叉熵公式:,其中loss表示损失大小；i表示第i个分类；c表示总分类数目；/>表示该分类下的实际概率，为0或1；/>表示一维残差神经网络预测属于该分类的概率，为一个0-1的数；
第五步骤，将测试集数据输入优化后的所述一维残差神经网络以得到粒径数据和浓度数据，其中，待检测的含沙液滴的电流数据输入优化后的所述一维残差神经网络以得到粒径数据和浓度数据。
2.根据权利要求1所述的一种基于一维残差神经网络的悬沙监测方法，其特征在于，第一步骤中，含沙液滴逐滴地滴落在摩擦纳米发电机传感器上。
3. 根据权利要求1所述的一种基于一维残差神经网络的悬沙监测方法，其特征在于，第一步骤中，将不同粒径沙粒按比例放入去离子水中均匀混合形成悬沙液体，利用蠕动泵抽取悬沙液体中的含沙液滴，且从摩擦纳米发电机传感器的PTFE膜表面上方3 cm处缓慢滴下。
4.根据权利要求1所述的一种基于一维残差神经网络的悬沙监测方法，其特征在于，预定比例为5：1，所述一维残差神经网络包括一维18层卷积残差网络结构。
5.根据权利要求1所述的一种基于一维残差神经网络的悬沙监测方法，其特征在于，训练中使用到softmax激活和交叉熵损失，softmax激活将输出重新缩放为每个类别的概率，使用交叉熵公式计算训练的误差然后进行反向传递。
6.根据权利要求1所述的一种基于一维残差神经网络的悬沙监测方法，其特征在于，所述残差模块包括卷积层和批归一化层。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110771135.8A CN113486806B (zh) | 2021-07-07 | 2021-07-07 | 基于一维残差神经网络的悬沙监测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110771135.8A CN113486806B (zh) | 2021-07-07 | 2021-07-07 | 基于一维残差神经网络的悬沙监测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113486806A CN113486806A (zh) | 2021-10-08 |
| CN113486806B true CN113486806B (zh) | 2024-04-05 |
Family
ID=77937883
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110771135.8A Active CN113486806B (zh) | 2021-07-07 | 2021-07-07 | 基于一维残差神经网络的悬沙监测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113486806B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114282579A (zh) * | 2021-12-30 | 2022-04-05 | 浙大城市学院 | 基于变分模态分解和残差网络的航空轴承故障诊断方法 |
| CN114648529B (zh) * | 2022-05-19 | 2022-09-23 | 深圳市中科先见医疗科技有限公司 | 一种基于cnn网络的dpcr液滴荧光检测方法 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111324934A (zh) * | 2018-11-28 | 2020-06-23 | 中国农业大学 | 一种泵站引渠及前池悬沙总量的确定方法及装置 |
| CN112270404A (zh) * | 2020-11-24 | 2021-01-26 | 南通大学 | 一种基于ResNet64网络的紧固件产品鼓包缺陷的检测结构及其方法 |
| AU2020103901A4 (en) * | 2020-12-04 | 2021-02-11 | Chongqing Normal University | Image Semantic Segmentation Method Based on Deep Full Convolutional Network and Conditional Random Field |
-
2021
- 2021-07-07 CN CN202110771135.8A patent/CN113486806B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111324934A (zh) * | 2018-11-28 | 2020-06-23 | 中国农业大学 | 一种泵站引渠及前池悬沙总量的确定方法及装置 |
| CN112270404A (zh) * | 2020-11-24 | 2021-01-26 | 南通大学 | 一种基于ResNet64网络的紧固件产品鼓包缺陷的检测结构及其方法 |
| AU2020103901A4 (en) * | 2020-12-04 | 2021-02-11 | Chongqing Normal University | Image Semantic Segmentation Method Based on Deep Full Convolutional Network and Conditional Random Field |
Non-Patent Citations (2)
| Title |
|---|
| 方晨晨 ; 石繁槐 ; .基于改进深度残差网络的番茄病害图像识别.计算机应用.2020,(第S1期),全文. * |
| 胡田 ; 李贤哲 ; 于徐华 ; .基于BP神经网络的表层悬浮物浓度预测模型.上海船舶运输科学研究所学报.2016,(第02期),全文. * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113486806A (zh) | 2021-10-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113486806B (zh) | 基于一维残差神经网络的悬沙监测方法 | |
| CN109086824B (zh) | 一种基于卷积神经网络的海底底质声呐图像分类方法 | |
| CN110044554A (zh) | 一种基于声发射信号的金属压力容器泄漏的在线检测方法 | |
| CN110059554A (zh) | 一种基于交通场景的多支路目标检测方法 | |
| CN108805215A (zh) | 基于改进果蝇算法的有杆泵抽油井动态液位软测量方法 | |
| CN110555551B (zh) | 一种智慧城市的空气质量大数据管理方法及系统 | |
| CN108613645B (zh) | 一种基于参数估计的铅锌矿吸水井淤泥厚度测量方法 | |
| CN117198330B (zh) | 一种声源识别方法、系统及电子设备 | |
| CN109902329A (zh) | 一种油藏模拟辅助历史拟合方法、系统、存储介质及设备 | |
| Liu et al. | Three-dimensional texture measurement using deep learning and multi-view pavement images | |
| CN110619418A (zh) | 一种基于混合模型组合算法的多特征水质预测方法 | |
| CN106023153A (zh) | 一种测量水体中气泡的方法 | |
| CN113379737A (zh) | 基于图像处理及深度学习的管道缺陷智能检测方法及应用 | |
| CN110472689A (zh) | 基于集成高斯过程回归的有杆泵抽油井动液面软测量方法 | |
| Mallery et al. | Design and experiments with a robot-driven underwater holographic microscope for low-cost in situ particle measurements | |
| CN114722926A (zh) | 拖曳式传感器阵列中尺度涡时间序列图卷积聚类方法 | |
| CN110671092A (zh) | 油气产能检测方法及系统 | |
| CN114740441A (zh) | 一种基于小样本的低慢小目标雷达回波识别方法 | |
| CN116660996B (zh) | 一种基于深度学习的漂流式浅海局部地声参数预测方法 | |
| Meng et al. | Transformer-based deep learning models for predicting permeability of porous media | |
| CN108254038A (zh) | 一种原油储罐油水界面数据去伪及液位测量的计算方法 | |
| CN117093922A (zh) | 一种基于改进svm的不平衡样本油藏复杂流体识别方法 | |
| CN111553811A (zh) | 基于迭代机器学习的供水管网泄漏区域识别方法 | |
| Wei et al. | An artificial intelligence segmentation method for recognizing the free surface in a sloshing tank | |
| CN113848209B (zh) | 一种基于无人机与激光测距的堤坝裂缝检测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |