CN110197704B - 一种基于受限玻尔兹曼机的自组织bp神经网络出水总磷预测方法 - Google Patents

一种基于受限玻尔兹曼机的自组织bp神经网络出水总磷预测方法 Download PDF

Info

Publication number
CN110197704B
CN110197704B CN201910311618.2A CN201910311618A CN110197704B CN 110197704 B CN110197704 B CN 110197704B CN 201910311618 A CN201910311618 A CN 201910311618A CN 110197704 B CN110197704 B CN 110197704B
Authority
CN
China
Prior art keywords
neural network
neurons
self
organizing
total phosphorus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910311618.2A
Other languages
English (en)
Other versions
CN110197704A (zh
Inventor
乔俊飞
王龙洋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Technology
Original Assignee
Beijing University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Technology filed Critical Beijing University of Technology
Priority to CN201910311618.2A priority Critical patent/CN110197704B/zh
Publication of CN110197704A publication Critical patent/CN110197704A/zh
Application granted granted Critical
Publication of CN110197704B publication Critical patent/CN110197704B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16C—COMPUTATIONAL CHEMISTRY; CHEMOINFORMATICS; COMPUTATIONAL MATERIALS SCIENCE
    • G16C20/00—Chemoinformatics, i.e. ICT specially adapted for the handling of physicochemical or structural data of chemical particles, elements, compounds or mixtures
    • G16C20/70—Machine learning, data mining or chemometrics

Abstract

本发明涉及一种基于受限玻尔兹曼机的自组织BP神经网络出水总磷预测方法，本发明，包括以下几个步骤：1.在分析污水处理过程可测和难测变量的基础上，将出水氨氮、溶解氧浓度、化学需氧量、出水悬浮物浓度、总氮和氧化还原电位这6个关键可测变量作为预测模型的输入参数，并进行数据预处理。2.采用基于互信息和敏感度分析的自组织BP神经网络对输入样本数据进行训练，从而实现网络结构自动调整。3.采用受限玻尔兹曼机对结构调整后的神经网络初始权值和阈值进行训练，进而提高网络收敛速度和总磷预测精度。本发明设计合理，不仅解决了传统BP神经网络在总磷预测时结构冗余，容易过拟合的问题，提高了网络的收敛速度和总磷的预测精度。

Description

一种基于受限玻尔兹曼机的自组织BP神经网络出水总磷预测 方法
技术领域
本发明涉及水环境保护领域，具体而言，涉及到一种基于受限玻尔兹曼机的自组织BP神经网络污水处理过程出水总磷预测方法。
背景技术
随着工业化的推进和人们生活水平的日益提高，排放的污水总磷含量却始终居高不下。在污水处理过程中，总磷是评价水质参数的重要指标，磷是生物生长所必需元素之一，水体中总磷含量过高会使得水中藻类过度繁殖，造成水体富营养化，降低污水出水水质，因此加强对总磷的检测有助于解决水体富营养化问题，对促进水环境保护和技术进步具有现实意义。
现阶段在污水处理厂，对于总磷的测量方法主要采用的是化学方法，如钼酸铵分光光度法、微波消解法、高碘酸钾分光光度法等，虽然这些方法测量精度较高，但操作繁琐复杂、费时费力，耗费大量的人力物力，而且不能满足TP测量的实时性需求。近些年来，随着基于数据驱动的人工智能技术的不断发展，TP软测量技术得到了成功的应用,人工神经网络凭借能够以任意精度逼近任意非线性系统的能力，在污水处理过程关键变量软测量和智能控制中有着广泛的应用，BP神经网络是目前最流行并且发展较成熟的一种神经网络模型该网络的主要特点是信号前向传递，误差反向传递。BP神经网络同时具有非线性映射能力强、并行分布处理、自学习和自适应能力强等优点。因此广泛应用于复杂非线性系统建模，由于出水总磷预测属于复杂非线性系统建模，所以非常适合运用BP神经网络来解决相关问题，然而在建模过程中，其所存在的结构冗余，收敛速度慢，预测精度不高的问题同样不可忽略，因此解决这些问题对于污水处理过程出水总磷的预测具有十分积极的意义。
发明内容
本发明的主要目的在于克服现有总磷的测量方法存在的不足，提供了一种基于受限玻尔兹曼机的自组织BP神经网络出水总磷预测方法，以期能够解决现有总磷预测方法的不便以及BP网络结构在预测时所存在的结构冗余，收敛速度慢，预测精度不佳的问题，从而在实现污水处理过程出水总磷精准预测的基础上，达到结构更加精简紧凑的目的。
为达到上述目的，本发明所采用的技术方案为：
本发明一种基于受限玻尔兹曼机的自组织BP神经网络出水总磷预测方法的特点是按如下步骤进行:
步骤1：该方法首先在分析污水处理过程可测变量以及难测变量的基础上，将出水氨氮、溶解氧浓度、化学需氧量、出水悬浮物浓度、总氮和氧化还原电位这6个关键可测变量作为预测模型的输入参数。
步骤2：从北京市某小型污水处理厂获取水质样本数据，通过一系列传感器收集水质关键变量的状态数据，形成水质数据集，对数据集中的数据进行包括降噪、奇异点清除预处理，总共得到400组数据，然后进行数据归一化，归一化到0-1之间，防止在运算过程中出现“大数吃小数”导致有效数据丢失，最后将预处理后的数据，随机选取350组作为训练数据，剩下50组作为测试数据，进行污水处理过程出水总磷的预测。
步骤3：在对输入的污水水质样本数据进行训练的过程中，自组织BP神经网络通过动态的改变隐含层神经元个数来实现结构的自动调整，这等同于改变隐含层神经元之间的连接权重。结构调整的依据依赖于隐含层神经元的敏感度值以及互信息值，它们的计算公式分别如式(1)和式(2)所示：
Figure GDA0002966937830000021
式中：
Figure GDA0002966937830000022
为在第k个模型输出中由第j个输入变量所产生的贡献值；wjkyj是第k个模型的第j个输入变量，j＝1,2,...,n1,k＝1,2,...n2；
Figure GDA0002966937830000023
表示由第j个隐含层神经元在第k个模型输出值中所产生的部分；Var(Yk)为第k个网络输出变量的方差。
Figure GDA0002966937830000024
式中:I(X；Y)代表神经元变量X与Y之间的互信息，KX和KY分别代表把变量X和Y的取值范围等分为宽度为Δx和Δy片段的个数，N为样本总数，
Figure GDA0002966937830000031
和
Figure GDA0002966937830000032
分别为样本落入第ki,kj个片段中的个数，
Figure GDA0002966937830000033
为落入单元(ki,kj)中的样本的数量。
KX及KY的表达式分别如式(3)(4)所示：
Figure GDA0002966937830000034
Figure GDA0002966937830000035
Figure GDA0002966937830000036
其中ε为一个定值可以根据样本总数直接计算得出，round代表最接近实变量的整数。
如果某个隐含层神经元满足式(6)时，则说明网络存在着冗余的神经元，则可以将其删除。
SI<Ith2 (6)
其中：SI代表神经元的敏感度，Ith2为敏感度修剪神经元所满足的值，本文取值为0.04。
为了使隐含层神经元之间相关性较小，也就是使每个隐含层神经元具有互不相同的功能，如果任意两个隐含层神经元a和b的互信息满足式(7)时，则说明这两个隐含层相关性比较大，可以将它们合并为一个新的神经元，以减少结构的冗余。
I(a,b)>Ith (7)
其中：
Ith＝λIl (8)
Figure GDA0002966937830000037
其中Ith为互信息合并隐含神经元的所满足的值，本文取值为3.15，λ为恒值,本文取值为3，Il为所有隐含层神经元之间互信息的平均值，n1为隐含层神经元的个数。
当某个隐含层神经元敏感度值满足式(10)时，为保持网络输出的稳定，该神经元被分裂为两个新的神经元。
SI>Ith1 (10)
其中：Ith1为敏感度分裂神经元所满足的值，本文取值为0.15。
通过反复进行上述步骤的操作，自组织BP神经网络能够反复地和可选择的进行合并、增长以及修剪操作，实现网络结构的自动调整。
步骤4网络结构调整好后，采用受限玻尔兹曼机对自组织BP神经网络的初始权值和阈值进行训练，将权值和阈值训练好后，重新赋值给改进后的BP神经网络，并对污水处理过程出水总磷进行预测，从而实现神经网络收敛速度的提高和污水处理过程出水总磷的精准预测。
相比现有技术，本发明构建了一种基于受限玻尔兹曼机的自组织BP神经网络出水总磷预测方法，该方法首先在分析污水处理过程可测变量以及难测变量的基础上，将出水氨氮、溶解氧浓度、化学需氧量、出水悬浮物浓度、总氮和氧化还原电位这6个关键可测变量作为预测模型的输入参数，并进行数据的预处理。然后将预处理过的输入样本数据送入到基于互信息和敏感度分析的自组织BP神经网络中，借助自组织BP神经网络，对输入样本数据进行训练，从而实现自组织网络结构的自动调整。最后采用受限玻尔兹曼机对结构调整后的自组织BP神经网络的初始权值和阈值进行训练，进而实现神经网络收敛速度的提高和污水处理过程出水总磷的精准预测。本发明设计合理，不仅解决了传统BP神经网络在总磷预测时结构冗余，容易过拟合的问题，而且进一步提高了网络的收敛速度和出水总磷的预测精度。
附图说明
图1为本发明基于受限玻尔兹曼机的自组织BP神经网络污水处理过程出水总磷预测方法的结构框图。
图2为出水总磷训练结果图
图3为出水总磷测试结果图
图4为受限玻尔兹曼机结构框图
图5为传统BP神经网络结构框图
具体实施方式
下面结合实施例及附图，对本发明作进一步详细的说明，但本发明的实施方式不限于此。
参照图1所示为一种基于受限玻尔兹曼机(RBM)的自组织BP神经网络污水处理过程出水总磷预测方法，所述方法包括以下步骤：
步骤1：该方法首先在分析污水处理过程可测变量以及难测变量的基础上，将出水氨氮、溶解氧浓度、化学需氧量、出水悬浮物浓度、总氮和氧化还原电位这6个关键可测变量作为预测模型的输入参数。
表1部分样本数据示例
Figure GDA0002966937830000051
步骤2：从北京市某小型污水处理厂获取水质样本数据，通过一系列传感器收集水质关键变量的状态数据，形成水质数据集，对数据集中的数据进行包括降噪、奇异点清除的预处理，总共得到400组数据，然后进行数据归一化，归一化到0-1之间，防止在运算过程中出现“大数吃小数”导致有效数据丢失，最后将预处理后的数据，随机选取350组作为训练数据，剩下50组作为测试数据，进行污水处理过程出水总磷的预测。
步骤3：在对输入样本数据训练过程中，自组织BP神经网络通过改变隐含神经元个数来实现自身结构的自动调整，这实际上相当于增加和修剪神经元之间的连接权重。自组织BP神经网络的初始权值随机在(0,1)区间取值，结构调整的依据依赖于隐含层神经元的敏感度值以及互信息值，它们的计算公式分别如式(1)和式(2)所示：
Figure GDA0002966937830000061
式中：
Figure GDA0002966937830000062
为在第k个模型输出中由第j个输入变量所产生的贡献值；wjkyj是第k个模型的第j个输入变量，j＝1,2,...,n1,k＝1,2,...n2；
Figure GDA0002966937830000063
表示由第j个隐含层神经元在第k个模型输出值中所产生的部分；Var(Yk)为第k个网络输出变量的方差。
Figure GDA0002966937830000064
式中:I(X；Y)代表神经元变量X与Y之间的互信息，KX和KY分别代表把变量X和Y的取值范围等分为宽度为Δx和Δy片段的个数，N为样本总数，
Figure GDA0002966937830000065
和
Figure GDA0002966937830000066
分别为样本落入第ki,kj个片段中的个数，
Figure GDA0002966937830000067
为落入单元(ki,kj)中的样本的数量。
KX及KY的表达式分别如式(3)(4)所示：
Figure GDA0002966937830000068
Figure GDA0002966937830000069
Figure GDA00029669378300000610
其中ε为一个定值可以根据样本总数直接计算得出，round代表最接近实变量的整数。
如果某个隐含层神经元满足式(6)时，则说明网络存在着冗余的神经元，则可以将其删除。
SI<Ith2 (6)
其中：SI代表神经元的敏感度，Ith2为敏感度修剪神经元所满足的值，本文取值为0.04。
为了使隐含层神经元之间相关性较小，也就是使每个隐含层神经元具有互不相同的功能，如果任意两个隐含层神经元a和b的互信息满足式(7)时，则说明这两个隐含层相关性比较大，可以将它们合并为一个新的神经元，以减少结构的冗余。
I(a,b)>Ith (7)
其中：
Ith＝λIl (8)
Figure GDA0002966937830000071
其中：Ith为互信息合并隐含神经元的所满足的值，本文取值为3.15，λ为恒值,本文取值为3，Il为所有隐含层神经元之间互信息的平均值，n1为隐含层神经元的个数。
当某个隐含层神经元敏感度值满足式(10)时，为保持网络输出的稳定，该神经元被分裂为两个新的神经元。
SI>Ith1 (10)
其中：Ith1为敏感度分裂神经元所满足的值，本文取值为0.15。
通过反复进行上述步骤的操作，自组织BP神经网络能够反复地和可选择的进行合并、增长以及修剪操作，实现网络结构的自动调整。
步骤4：网络结构调整好后，采用受限玻尔兹曼机对自组织BP神经网络的初始权值和阈值进行训练，将权值和阈值训练好后，重新赋值给自组织BP神经网络，并对污水处理过程出水总磷进行预测，从而实现神经网络收敛速度的提高和污水处理过程出水总磷的精准预测。预测效果如表2和图2，图3所示
表2不同算法预测效果对比
Figure GDA0002966937830000081
本发明设计合理，不但可以解决传统BP神经网络在污水处理过程中出水总磷，收敛速度慢，预测精度不高，结构冗余，容易过拟合的问题，而且实现了网络结构更加紧凑。
尽管上面对本发明说明性的具体方式，以便于本技术领域的技术人员能够理解本发明，但是本发明不仅限于具体实施方式的范围，对本技术领域的普通技术人员而言，只要各种变化包含在所附的权利要求限定和确定的本发明精神和范围内，一切利用本发明构思的发明创造均在保护之列。

Claims (1)

1.一种基于受限玻尔兹曼机的自组织BP神经网络出水总磷预测方法，其特征在于，包括以下几个步骤：
(1)将出水氨氮、溶解氧浓度、化学需氧量、出水悬浮物浓度、总氮和氧化还原电位这6个关键可测变量作为预测模型的输入参数，并进行数据的预处理；
(2)将预处理过的输入样本数据送入到自组织BP神经网络中，对网络进行训练，从而实现自组织网络的结构自动调整；
(3)采用受限玻尔兹曼机对结构调整后的自组织BP神经网络的初始权值和阈值进行训练，进而实现神经网络收敛速度的提高和污水处理过程出水总磷的预测；
步骤(2)将预处理过的输入样本数据送入到自组织BP神经网络中进行训练，自组织BP神经网络在样本训练过程中通过自动的改变隐含层神经元的数量而实现结构的自动调整和确定，网络结构调整的依据依赖于隐含层神经元的互信息值以及隐含层神经元的敏感度值，首先计算隐含层各个神经元的敏感度值的大小，考虑将敏感度值小于0.04的隐含层神经元认为是无效且冗余的神经元，将其删除，然后计算任意两个隐含层神经元之间的互信息值的大小，并确定互信息值过大的隐含层神经元，将互信息值大于3.15的两个神经元认为是相关性过大的神经元，将它们合并为一个神经元，最后确定敏感度过大的神经元，将敏感度值大于0.15的隐含层神经元认为是贡献过大的神经元，则将该神经元进行分裂。
CN201910311618.2A 2019-04-18 2019-04-18 一种基于受限玻尔兹曼机的自组织bp神经网络出水总磷预测方法 Active CN110197704B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910311618.2A CN110197704B (zh) 2019-04-18 2019-04-18 一种基于受限玻尔兹曼机的自组织bp神经网络出水总磷预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910311618.2A CN110197704B (zh) 2019-04-18 2019-04-18 一种基于受限玻尔兹曼机的自组织bp神经网络出水总磷预测方法

Publications (2)

Publication Number Publication Date
CN110197704A CN110197704A (zh) 2019-09-03
CN110197704B true CN110197704B (zh) 2021-06-04

Family

ID=67752042

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910311618.2A Active CN110197704B (zh) 2019-04-18 2019-04-18 一种基于受限玻尔兹曼机的自组织bp神经网络出水总磷预测方法

Country Status (1)

Country Link
CN (1) CN110197704B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113156074B (zh) * 2021-02-22 2023-06-23 北京工业大学 一种基于模糊迁徙的出水总氮预测方法
CN115329661B (zh) * 2022-07-22 2023-06-23 上海环保（集团）有限公司 一种智能投药模型建模、智能投药体系创建、投药方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104360035A (zh) * 2014-11-02 2015-02-18 北京工业大学 一种基于自组织粒子群-径向基神经网络的污水总磷tp软测量方法
CN104376380A (zh) * 2014-11-17 2015-02-25 北京工业大学 一种基于递归自组织神经网络的氨氮浓度预测方法
CN105160422A (zh) * 2015-08-10 2015-12-16 北京工业大学 基于自组织级联神经网络的污水处理出水总磷预测方法
CN107014970A (zh) * 2017-04-11 2017-08-04 盐城工学院 污水处理水质预测方法及服务器
CN107402586A (zh) * 2017-08-29 2017-11-28 北京易沃特科技有限公司 基于深度神经网络的溶解氧浓度控制方法及系统
CN107688871A (zh) * 2017-08-18 2018-02-13 中国农业大学 一种水质预测方法和装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104360035A (zh) * 2014-11-02 2015-02-18 北京工业大学 一种基于自组织粒子群-径向基神经网络的污水总磷tp软测量方法
CN104376380A (zh) * 2014-11-17 2015-02-25 北京工业大学 一种基于递归自组织神经网络的氨氮浓度预测方法
CN105160422A (zh) * 2015-08-10 2015-12-16 北京工业大学 基于自组织级联神经网络的污水处理出水总磷预测方法
CN107014970A (zh) * 2017-04-11 2017-08-04 盐城工学院 污水处理水质预测方法及服务器
CN107688871A (zh) * 2017-08-18 2018-02-13 中国农业大学 一种水质预测方法和装置
CN107402586A (zh) * 2017-08-29 2017-11-28 北京易沃特科技有限公司 基于深度神经网络的溶解氧浓度控制方法及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
An improved RBM based on Bayesian Regularization;Guangyuan Pan 等;《2014 International Joint Conference on Neural Networks (IJCNN)》;20140711;全文 *
基于PLSR自适应深度信念网络的出水总磷预测;王功明 等;《化工学报》;20170217;全文 *
基于自组织模糊神经网络的出水总磷预测;乔俊飞 等;《控制理论与应用》;20170324;全文 *

Also Published As

Publication number Publication date
CN110197704A (zh) 2019-09-03

Similar Documents

Publication Publication Date Title
CN108898215B (zh) 一种基于二型模糊神经网络的污泥膨胀智能辨识方法
CN111354423B (zh) 一种基于多元时间序列分析的自组织递归模糊神经网络的出水氨氮浓度预测方法
CN107358021B (zh) 一种基于优化bp神经网络的do预测模型建立方法
CN102313796B (zh) 一种污水处理生化需氧量软测量方法
CN109828089B (zh) 一种基于dbn-bp的水质参数亚硝酸氮的在线预测方法
CN104376380A (zh) 一种基于递归自组织神经网络的氨氮浓度预测方法
CN103344530B (zh) 一种球磨机水泥生料粉磨粒度软测量方法
CN110197704B (zh) 一种基于受限玻尔兹曼机的自组织bp神经网络出水总磷预测方法
CN110175948A (zh) 一种基于河流整体健康的生态环境需水阈值量化方法
CN112132333A (zh) 一种基于深度学习的短期水质水量预测方法及系统
CN101566612A (zh) 一种污水化学需氧量软测量方法
Chen et al. Three-dimensional short-term prediction model of dissolved oxygen content based on pso-bpann algorithm coupled with kriging interpolation
CN109308544B (zh) 基于对比散度-长短期记忆网络的蓝藻水华预测方法
CN114037163A (zh) 一种基于动态权重pso优化bp神经网络的污水处理出水质量预警方法
CN203772781U (zh) 一种基于特征变量的污水总磷测量装置
CN103793604A (zh) 一种基于相关向量机的污水处理软测量方法
CN115795367A (zh) 基于机器学习的藻华爆发预测方法及应用
CN110119165B (zh) 一种水产养殖池塘溶解氧检测装置
CN111125907A (zh) 一种基于混合智能模型的污水处理氨氮软测量方法
CN113111576A (zh) 一种基于混合编码粒子群-长短期记忆神经网络出水氨氮软测量方法
CN112836432A (zh) 基于迁移学习的室内颗粒悬浮物浓度预测方法
Miao et al. A hybrid neural network and genetic algorithm model for predicting dissolved oxygen in an aquaculture pond
CN109886454B (zh) 一种基于自组织深度信念网络和相关向量机的淡水环境水华预测方法
Huang et al. Construction and application of effluent quality prediction model with insufficient data based on transfer learning algorithm in wastewater treatment plants
CN116341705A (zh) 基于稀疏标签的长短期记忆网络水质参数预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant