CN109978024B - 一种基于互联模块化神经网络的出水bod预测方法 - Google Patents

一种基于互联模块化神经网络的出水bod预测方法 Download PDF

Info

Publication number
CN109978024B
CN109978024B CN201910181758.2A CN201910181758A CN109978024B CN 109978024 B CN109978024 B CN 109978024B CN 201910181758 A CN201910181758 A CN 201910181758A CN 109978024 B CN109978024 B CN 109978024B
Authority
CN
China
Prior art keywords
water quality
sub
network
variable
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910181758.2A
Other languages
English (en)
Other versions
CN109978024A (zh
Inventor
李文静
李萌
乔俊飞
韩红桂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Technology
Original Assignee
Beijing University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Technology filed Critical Beijing University of Technology
Priority to CN201910181758.2A priority Critical patent/CN109978024B/zh
Publication of CN109978024A publication Critical patent/CN109978024A/zh
Application granted granted Critical
Publication of CN109978024B publication Critical patent/CN109978024B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • G06F18/232Non-hierarchical techniques
    • G06F18/2321Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Development Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Game Theory and Decision Science (AREA)
  • Neurology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Feedback Control In General (AREA)

Abstract

一种基于互联模块化神经网络的出水BOD预测方法涉及人工智能领域,直接应用于污水处理领域。本发明模拟人脑模块化结构及信息处理模式,以提高出水BOD的预测精度。本发明采用自适应特征聚类方法将输入变量分解成若干个输入变量子集合,作为子模块的输入变量,在模块化神经网络中加入子模块互联策略以构建互联模块化神经网络,并通过改进的LM(Levenberg‑Marquard)算法对网络训练,对出水BOD进行预测,旨在提高其预测精度。

Description

一种基于互联模块化神经网络的出水BOD预测方法
技术领域
本发明涉及人工智能领域,直接应用于污水处理领域。
背景技术
在污水处理过程中众多的水质监测指标中,生化需氧量(Biochemical OxygenDemand,BOD)是在有氧的条件下,水中微生物分解有机物的生物化学过程中所需溶解氧的质量浓度,直接反映了水体污染程度。目前预测出水BOD指标的方法多采用人工定时采样、实验室分析化验等方法,但滞后性较大,容易造成二次污染,另外少数污水处理厂采用在线分析仪表进行测量,但仪器昂贵且维护成本较高,检测精度也不能满足预期要求,因此如何高效率、低成本地对出水BOD浓度进行预测是一个关键问题。
软测量方法采用间接测量的思路,成为解决污水处理过程关键水质参数测量的重要技术,而软测量模型的构建成为提高水质预测精度的关键所在。本发明提出一种基于互联模块化神经网络的出水BOD预测方法,模拟人脑模块化结构及信息处理模式,以提高出水BOD的预测精度。
发明内容
1、本发明能够解决的问题:
本发明提出了一种基于互联模块化神经网络的污水处理出水BOD预测方法。采用自适应特征聚类方法将输入变量分解成若干个输入变量子集合,作为子模块的输入变量,在模块化神经网络中加入子模块互联策略以构建互联模块化神经网络,并通过改进的LM(Levenberg-Marquard)算法对网络训练,对出水BOD进行预测,以模拟人脑结构及信息处理方式,旨在提高其预测精度。
2、本发明具体的技术方案:
步骤1:水质变量特征自组织分类;
采集污水处理厂实际水质参数数据,记O=[o1,o2,…,oP]为出水BOD浓度,mk(k=1,2,…,K)为第k个水质变量特征子集向量,
Figure BDA0001991475760000021
(i=1,2,…,N)为第i个水质变量,其中
Figure BDA0001991475760000022
为第i个水质变量的第p个样本值,P为水质变量的样本个数,K为水质变量特征子集的个数,N为水质变量的个数;
步骤1.1:计算各变量xi与输出变量的归一化互信息值NMI(xi,O),计算公式为:
Figure BDA0001991475760000023
其中,H(xi)与H(O)分别为变量xi与输出变量O的熵,I(xi,O)为变量xi与输出变量O的互信息;
步骤1.2:根据NMI(xi,O)的大小将水质变量集合按照降序排列,初始化子集合个数K=0;设定阈值0<α<1和1<β<2;
步骤1.3:输入第一个水质变量x1,形成只包含第一个水质变量在内的水质变量向量m1,该集合的中心为c1=x1,大小为S1=1;
步骤1.4:计算第i个水质变量(2≤i≤N)与已存在的水质变量子集向量mk(k=1,2,…,K)之间的一致性Coh(xi,mk)和非相似性InC(xi,mk),计算公式如下:
Coh(xi,mk)=NMI(xi,ck) (2)
InC(xi,mk)=|NMI(xi,O)–NMI(ck,O)| (3)
其中ck为第k个水质变量子集向量mk(k=1,2,…,K)的中心向量,NMI(xi,ck)为水质变量xi和中心向量ck的归一化互信息值,NMI(xi,O)为水质变量xi与输出变量O的归一化互信息值,NMI(ck,O)为中心向量ck与输出变量O的归一化互信息值;
步骤1.5:若第i个水质变量与已存在的水质变量子集向量满足条件Coh(xi,mk)≥α和InC(xi,mk)≤β,则将第i个水质变量放入所有满足此条件的集合一致性值最大的子集合向量
Figure BDA0001991475760000024
当中,该子集合的大小变为
Figure BDA0001991475760000025
中心按照下式进行更新:
Figure BDA0001991475760000026
即子集合的中心由该子集合中所有变量相加后求平均得到;
若不满足以上条件,则令K=K+1,形成新的水质变量子集合向量mK,该子集合的中心cK=xi,大小为1;
步骤1.6:i=i+1返回步骤1.4,直到所有的水质变量全部处理完成,最终获得K个水质变量子集合;
步骤2:设计出水BOD的互联模块化神经网络结构;
步骤2.1:将水质变量xi(i=1,2,…,N)按照公式(5)归一化至[-1,1],输出变量出水BOD按照公式(6)归一化至[0,1]:
Figure BDA0001991475760000031
Figure BDA0001991475760000032
其中,xi表示第i个水质变量,O表示输出变量,zi和y分别表示归一化后的第i个水质变量和输出变量;
步骤2.2:设计互联模块化神经网络结构:互联模块化神经网络共由K个子网络构成,K由自组织特征分类后的水质变量子集合确定,即K个水质变量子集合对应产生K个子网络;每个子网络的隐层节点通过引入其他子网络的输出反馈来建立子网络间的互联,记第k个子网络的输出为yk,(k=1,2,…,K),则整个网络的输出为
Figure BDA0001991475760000033
即由每个子网络的输出加和取平均得到。整个网络的结构如图1所示;
步骤2.3:互联模块化神经网络子网络结构设计:子网络采用典型的RBF神经网络,包含输入层、隐含层、输出层三层结构,第k个子网络拓扑结构为Sk-Hk-1(k=1,2,…,K),其中输入神经元的个数Sk为水质变量自组织特征分类后形成的特征子集合向量mk中包含的变量个数,每个子网络隐含层包含Hk个神经元,同时每个隐含层神经元接受由其他子网络输出引入的反馈,输出层神经元的个数为1,对应出水BOD变量;
步骤2.4:假设训练样本个数为P个,对第k个子集合,第p个样本为
Figure BDA0001991475760000041
(p=1,2,…,P),其中Sk为第k个子集合包含的变量个数,对应的网络的隐含层第h个神经元输出为:
Figure BDA0001991475760000042
其中
Figure BDA0001991475760000043
为和
Figure BDA0001991475760000044
为第k个子网络隐含层第h个神经元的中心和宽度,
Figure BDA0001991475760000045
和yi分别表示第h个隐含层神经元引入的第i个子网络输出的反馈,yi表示第i个子网络的输出,则第k个子网络第p个样本的输出为:
Figure BDA0001991475760000046
其中
Figure BDA0001991475760000047
为第k个子网络第h个隐层神经元与输出神经元的连接权值;
步骤3:设计出水BOD的互联模块化神经网络学习算法;
步骤3.1:对所有子网络,令向量Δ包含所有子网络需要更新的参数,即:
Δ=[Δ12,…,ΔK] (9)
其中Δ12,…,ΔK分别为从第1到第K个子网络需要更新的参数,对第k个子网络(k=1,2,…,K),Δk包含第k个子网络的所有参数,中心、宽度、输出权值、反馈权值,定义如下:
Figure BDA0001991475760000048
参数的更新公式如下:
Δ(t+1)=Δ(t)-(Q(t)+μI)-1g(t) (11)
其中t表示迭代步数,Q为类海森矩阵,μ为学习率参数,I为单位矩阵,g为梯度向量,类海森矩阵和梯度向量的计算公式如下:
Figure BDA0001991475760000049
Figure BDA0001991475760000051
其中,ok,p和yp分别为第k个子网络第p个样本的期望输出和实际输出,ep为模型第p个样本的误差,雅各比行向量jp定义如下:
jp=[jp,1,jp,2,...,jp,K] (14)
其中jp,1,jp,2,…,jp,K分别为从第1到第K个子网络的雅各比行向量,对第k个子网络(k=1,2,…,K),jp,k定义如下:
Figure BDA0001991475760000052
根据公式(7)(8)(13)可得:
Figure BDA0001991475760000053
Figure BDA0001991475760000054
Figure BDA0001991475760000055
Figure BDA0001991475760000056
根据公式(16)-(19)可得第k个子网络的雅各比矩阵行向量jp,k,根据公式(14)进一步得到jp,当所有的样本遍历一遍后,得到类海森矩阵Q和梯度向量g,并按照公式(11)进行更新;
步骤3.2:设定均方根误差函数为性能指标,定义如下:
Figure BDA0001991475760000057
训练时,当RMSE(t+1)≤RMSE(t)时,μ(t+1)=μ(t)/10,子网络参数保留,进行下一次更新,当RMSE(t+1)>RMSE(t)时,μ(t+1)=μ(t)×10,子网络参数返回到参数调整之前,使用当前μ(t+1)的值对网络进行更新;设定性能指标的期望值为RMSEd∈[0.05,0.1]及最大迭代步数ηmax∈[100,200];当某次训练的RMSE(t+1)<RMSEd或迭代步数η=ηmax时,训练停止,整个训练算法结束,获得各个子网络的参数值;
步骤4:将各个子集中的测试样本输入到各个子网络中,得到整个模型的输出,反归一化后得到出水BOD浓度的实际值。
3、本发明与传统神经网络预测方法相比,具有如下特点:
本发明针对污水处理过程中出水BOD预测精度低的问题,结合人脑中“模块化”高度复杂的连接结构,采用自适应特征聚类算法对出水BOD相关的水质变量进行聚类,提出了一种基于互联模块化神经网络的出水BOD预测方法,实现了对人脑网络复杂结构的模拟,提高了出水BOD的预测精度。
附图说明
图1为本发明模型结构示意图。
图2为本实施例中模型训练均方根误差(RMSE)曲线图。
图3为本实施例出水BOD测试结果图
图4为本实施例出水BOD测试误差图
具体实施方式
本发明实际应用采用北京市某污水处理厂水质分析数据,共包含23个水质变量在内的365组样本,水质变量包括(1)进水PH;(2)出水PH;(3)进水固体悬浮物浓度;(4)出水SS;(5)进水BOD浓度;(6)进水化学需氧量浓度;(7)出水COD浓度;(8)生化池污泥沉降比;(9)生化池混合液悬浮固体浓度;(10)生化池溶解氧浓度;(11)进水油类;(12)出水油类;(13)进水氨氮浓度;(14)出水氨氮浓度;(15)进水色度;(16)出水色度;(17)进水总氮浓度;(18)出水总氮浓度;(19)进水磷酸盐浓度;(20)出水磷酸盐浓度;(21)进水水温;(22)出水水温;(23)出水BOD浓度;随机选取265组数据为训练样本,100组数据作为测试样本,主要步骤如下:
步骤1:水质变量特征自组织分类;
采集污水处理厂实际水质参数数据,记O=[o1,o2,...,op]为出水BOD浓度,mk(k=1,2,…,K)为第k个水质变量特征子集向量,
Figure BDA0001991475760000071
(i=1,2,…,N)为第i个水质变量,其中
Figure BDA0001991475760000072
为第i个水质变量的第p个样本值,P为水质变量的样本个数,K为水质变量特征子集个数,N为水质变量的个数;
步骤1.1:按照下式计算各变量xi与输出变量的归一化互信息值NMI(xi,O):
Figure BDA0001991475760000073
其中,H(xi)与H(O)分别为变量xi与输出变量O的熵,I(xi,O)为变量xi与输出变量O的互信息;
步骤1.2:根据NMI(xi,O)的大小将水质变量集合按照降序排列,初始化子集合个数K=0;设定阈值0<α<1和1<β<2;
步骤1.3:输入第一个水质变量x1,形成只包含第一个水质变量在内的水质变量子集向量m1,该集合的中心为c1=x1,大小为S1=1;
步骤1.4:计算第i个水质变量(2≤i≤N)与已存在的水质变量子集向量mk(k=1,2,…,K)之间的一致性Coh(xi,mk)和非相似性InC(xi,mk),计算公式如下:
Coh(xi,mk)=NMI(xi,ck) (22)
InC(xi,mk)=|NMI(xi,O)–NMI(ck,O)| (23)
其中ck为第k个水质变量子集向量mk(k=1,2,…,K)的中心向量,NMI(xi,ck)为水质变量xi和中心向量ck的归一化互信息值,NMI(xi,O)为水质变量xi与输出变量O的归一化互信息值,NMI(ck,O)为中心向量ck与输出变量O的归一化互信息值;
步骤1.5:若第i个水质变量与已存在的水质变量子集合满足条件Coh(xi,mk)≥α和InC(xi,mk)≤β,则将第i个水质变量放入所有满足此条件的集合一致性值最大的子集向量
Figure BDA0001991475760000074
当中,该子集合的大小变为
Figure BDA0001991475760000075
中心按照下式进行更新:
Figure BDA0001991475760000081
即子集合的中心由该子集合中所有变量相加后求平均得到;
若不满足以上条件,则令K=K+1,形成新的水质变量子集合mK,该子集合的中心cK=xi,大小为1;
步骤1.6:i=i+1返回步骤1.4,直到所有的水质变量全部处理完成,最终获得K个水质变量子集合;
本实施例中,随机设定阈值α和β分别为0.08和1.2,通过该步骤得到水质变量子集合为2个,其中水质变量子集合向量m1中包含水质变量的个数为21个,分别为:(1)进水PH;(2)出水PH;(3)进水固体悬浮物浓度;(4)进水BOD浓度;(5)进水化学需氧量浓度;(6)出水COD浓度;(7)生化池污泥沉降比;(8)生化池混合液悬浮固体浓度;(9)生化池溶解氧浓度;(10)进水油类;(11)出水油类;(12)进水氨氮浓度;(13)出水氨氮浓度;(14)进水色度;(15)出水色度;(16)进水总氮浓度;(17)出水总氮浓度;(18)进水磷酸盐浓度;(19)出水磷酸盐浓度;(20)进水水温;(21)出水水温;子集合大小为S1=21;水质变量子集合向量m2中包含水质变量的个数为1个,为出水SS,子集合大小为S2=1。
步骤2:设计出水BOD的互联模块化神经网络结构;
步骤2.1:将水质变量xi(i=1,2,…,N)按照公式(25)归一化至[-1,1],输出变量出水BOD按照公式(26)归一化至[0,1]:
Figure BDA0001991475760000082
Figure BDA0001991475760000083
其中,xi表示子集合mk中的第i个水质变量,O表示输出变量,zi和y分别表示归一化后的第i个水质变量和输出变量;
步骤2.2:设计互联模块化神经网络结构:互联模块化神经网络共由K个子网络构成,K由自组织特征分类后的水质变量子集合确定,即K个水质变量子集合对应产生K个子网络;每个子网络的隐层节点通过引入其他子网络的输出反馈来建立子网络间的互联,记第k个子网络的输出为yk(k=1,2,…,K),则整个网络的输出为
Figure BDA0001991475760000091
即由每个子网络的输出加和取平均得到;
步骤2.3:设计互联模块化神经网络子网络结构:子网络采用典型的RBF神经网络,包含输入层、隐含层、输出层三层结构,第k个子网络拓扑结构为Sk-Hk-1(k=1,2,…,K),其中输入神经元的个数Sk为水质变量自组织特征分类后形成的特征子集合mk中包含的变量个数,每个子网络隐含层包含Hk个神经元,同时每个隐含层神经元接受由其他子网络输出引入的反馈,输出层神经元的个数为1,对应出水BOD变量。模型结构图如图1所示;
步骤2.4:假设训练样本个数为P个,对第k个子集合,第p个样本为
Figure BDA0001991475760000092
(p=1,2,…,P),其中Sk为第k个子集合包含的变量个数,对应的网络的隐含层第h个神经元输出为:
Figure BDA0001991475760000093
其中
Figure BDA0001991475760000094
为和
Figure BDA0001991475760000095
为第k个子网络隐含层第h个神经元的中心和宽度,
Figure BDA0001991475760000096
和yi分别表示第h个隐含层神经元引入的第i个子网络输出的反馈,yi表示第i个子网络的输出,则第k个子网络第p个样本的输出为:
Figure BDA0001991475760000097
其中
Figure BDA0001991475760000098
为第k个子网络第h个隐层神经元与输出神经元的连接权值。
步骤3:设计出水BOD的互联模块化神经网络学习算法;
步骤3.1:对所有子网络,令向量Δ包含所有子网络需要更新的参数,即:
Δ=[Δ12,…,ΔK] (29)
其中Δ12,…,ΔK分别为从第1到第K个子网络需要更新的参数,对第k个子网络(k=1,2,…,K),Δk包含第k个子网络的所有参数,中心、宽度、输出权值、反馈权值,定义如下:
Figure BDA0001991475760000101
参数的更新公式如下:
Δ(t+1)=Δ(t)-(Q(t)+μI)-1g(t) (31)
其中t表示迭代步数,Q为类海森矩阵,μ为学习率参数,I为单位矩阵,g为梯度向量,类海森矩阵和梯度向量的计算公式如下:
Figure BDA0001991475760000102
Figure BDA0001991475760000103
其中,ok,p和yp分别为第k个子网络第p个样本的期望输出和实际输出,ep为模型第p个样本的误差,雅各比行向量jp定义如下:
jp=[jp,1,jp,2,...,jp,K] (34)
其中jp,1,jp,2,…,jp,K分别为从第1到第K个子网络的雅各比行向量,对第k个子网络(k=1,2,…,K),jp,k定义如下:
Figure BDA0001991475760000104
根据公式(27)(28)(33)可得:
Figure BDA0001991475760000105
Figure BDA0001991475760000111
Figure BDA0001991475760000112
Figure BDA0001991475760000113
根据公式(36)-(39)可得第k个子网络的雅各比矩阵行向量jp,k,根据公式(34)进一步得到jp,当所有的样本遍历一遍后,得到类海森矩阵Q和梯度向量g,并按照公式(31)进行更新;
步骤3.2:设定均方根误差函数为性能指标,定义如下:
Figure BDA0001991475760000114
训练时,当RMSE(t+1)≤RMSE(t)时,μ(t+1)=μ(t)/10,子网络参数保留,进行下一次更新,当RMSE(t+1)>RMSE(t)时,μ(t+1)=μ(t)×10子网络参数返回到参数调整之前,使用当前μ(t+1)的值对网络进行更新。设定性能指标的期望值为RMSEd=0.1,最大迭代步数为ηmax=200;当某次训练的RMSE(t+1)<RMSEd或迭代步数η=ηmax时,训练停止,整个训练算法结束,获得各个子网络当前的参数值;
步骤4:将各个子集中的测试样本输入到各个子网络中,得到整个模型的输出,反归一化后得到出水BOD浓度的实际值。
在本实施例中,整个模型的训练RMSE如图2所示,X轴为迭代步数,Y轴为训练RMSE的值,出水BOD浓度的测试结果如图3所示,X轴为测试样本个数,Y轴为出水BOD浓度值,单位是mg/L,实线为出水BOD浓度期望输出值,虚线为出水BOD浓度实际输出值;测试误差如图4所示,X轴为测试样本个数,Y轴为出水BOD预测误差,单位是mg/L。

Claims (1)

1.一种基于互联模块化神经网络的出水BOD预测方法,其特征在于包括:
步骤1:水质变量特征自组织分类;
采集污水处理厂实际水质参数数据,记O=[o1,o2,…,oP]为出水BOD浓度,mk(k=1,2,…,K)为第k个水质变量特征子集合向量,
Figure FDA0002651834070000011
Figure FDA0002651834070000012
为第i个水质变量,其中
Figure FDA0002651834070000013
为第i个水质变量的第p个样本值,P为水质变量的样本个数,K为水质变量特征子集合的个数,N为水质变量的个数;
步骤1.1:计算第i个水质变量xi与输出变量的归一化互信息值NMI(xi,O),计算公式为:
Figure FDA0002651834070000014
其中,H(xi)与H(O)分别为变量xi与输出变量O的熵,I(xi,O)为变量xi与输出变量O的互信息;
步骤1.2:根据NMI(xi,O)的大小将水质变量集合中的变量按照降序排列,初始化子集合个数K=0;设定阈值0<α<1和1<β<2;
步骤1.3:输入第一个水质变量x1,形成只包含第一个水质变量在内的水质变量向量m1,该集合的中心为c1=x1,大小为S1=1;
步骤1.4:计算第i个水质变量(2≤i≤N)与已存在的水质变量子集合向量mk(k=1,2,…,K)之间的一致性Coh(xi,mk)和非相似性InC(xi,mk),计算公式如下:
Coh(xi,mk)=NMI(xi,ck) (2)
InC(xi,mk)=|NMI(xi,O)–NMI(ck,O)| (3)
步骤1.5:若第i个水质变量与已存在的水质变量子集合向量满足条件Coh(xi,mk)≥α和InC(xi,mk)≤β,则将第i个水质变量放入所有满足此条件的集合一致性值最大的子集合向量
Figure FDA0002651834070000015
当中,该子集合的大小变为
Figure FDA0002651834070000016
中心按照下式进行更新:
Figure FDA0002651834070000017
若不满足以上条件,则令K=K+1,形成新的水质变量子集合向量mK,该子集合的中心cK=xi,大小为1;
步骤1.6:i=i+1返回步骤1.4,直到所有的水质变量全部处理完成,最终获得K个水质变量子集合;
步骤2:设计出水BOD的互联模块化神经网络结构;
步骤2.1:将第i个水质变量xi(i=1,2,…,N)按照公式(5)归一化至[-1,1],输出变量出水BOD按照公式(6)归一化至[0,1]:
Figure FDA0002651834070000021
Figure FDA0002651834070000022
其中,xi表示第i个水质变量,O表示输出变量,zi和y分别表示归一化后的第i个水质变量和输出变量;
步骤2.2:设计互联模块化神经网络结构:互联模块化神经网络共由K个子网络构成,K由自组织特征分类后的水质变量子集合确定,即K个水质变量子集合对应产生K个子网络;每个子网络的隐层节点通过引入其他子网络的输出反馈来建立子网络间的互联,记第k个子网络的输出为yk,(k=1,2,…,K),则整个网络的输出为
Figure FDA0002651834070000023
即由每个子网络的输出加和取平均得到;
步骤2.3:互联模块化神经网络子网络结构设计:子网络采用典型的RBF神经网络,包含输入层、隐含层、输出层三层结构,第k个子网络拓扑结构为Sk-Hk-1(k=1,2,…,K),其中输入神经元的个数Sk为水质变量自组织特征分类后形成的特征子集合向量mk中包含的变量个数,每个子网络隐含层包含Hk个神经元,同时每个隐含层神经元接受由其他子网络输出引入的反馈,输出层神经元的个数为1,对应出水BOD变量;
步骤2.4:假设训练样本个数为P个,对第k个子集合,第p个样本为
Figure FDA0002651834070000024
其中Sk为第k个子集合包含的变量个数,对应的子网络隐含层第h个神经元输出为:
Figure FDA0002651834070000031
其中
Figure FDA0002651834070000032
Figure FDA0002651834070000033
为第k个子网络隐含层第h个神经元的中心和宽度,
Figure FDA0002651834070000034
和yi分别表示第h个隐含层神经元引入的第i个子网络输出的反馈,yi表示第i个子网络的输出,则第k个子网络第p个样本的输出为:
Figure FDA0002651834070000035
其中
Figure FDA0002651834070000036
为第k个子网络第h个隐层神经元与输出神经元的连接权值;
步骤3:设计出水BOD的互联模块化神经网络学习算法;
步骤3.1:对所有子网络,令向量Δ包含所有子网络需要更新的参数,即:
Δ=[Δ12,…,ΔK] (9)
其中Δ12,…,ΔK分别为从第1到第K个子网络需要更新的参数,对第k个子网络(k=1,2,…,K),Δk包含第k个子网络的所有参数,中心、宽度、输出权值、反馈权值,定义如下:
Figure FDA0002651834070000037
参数的更新公式如下:
Δ(t+1)=Δ(t)-(Q(t)+μI)-1g(t) (11)
其中t表示迭代步数,Q为类海森矩阵,μ为学习率参数,I为单位矩阵,g为梯度向量,类海森矩阵和梯度向量的计算公式如下:
Figure FDA0002651834070000038
Figure FDA0002651834070000039
其中,ok,p和yp分别为第k个子网络第p个样本的期望输出和实际输出,ep为模型第p个样本的误差,雅各比行向量jp定义如下:
jp=[jp,1,jp,2,...,jp,K] (14)
其中jp,1,jp,2,…,jp,K分别为从第1到第K个子网络的雅各比行向量,对第k个子网络(k=1,2,…,K),jp,k定义如下:
Figure FDA0002651834070000041
根据公式(7)(8)(13)得:
Figure FDA0002651834070000042
Figure FDA0002651834070000043
Figure FDA0002651834070000044
Figure FDA0002651834070000045
根据公式(16)-(19)得第k个子网络的雅各比矩阵行向量jp,k,根据公式(14)进一步得到jp,当所有的样本遍历一遍后,得到类海森矩阵Q和梯度向量g,并按照公式(11)进行更新;
步骤3.2:设定均方根误差函数为性能指标,定义如下:
Figure FDA0002651834070000046
训练时,当RMSE(t+1)≤RMSE(t)时,μ(t+1)=μ(t)/10,子网络参数保留,进行下一次更新,当RMSE(t+1)>RMSE(t)时,μ(t+1)=μ(t)×10,子网络参数返回到参数调整之前,使用当前μ(t+1)的值对网络进行更新;设定性能指标的期望值为RMSEd∈[0.05,0.1]及最大迭代步数ηmax∈[100,200];当某次训练的RMSE(t+1)<RMSEd或迭代步数η=ηmax时,训练停止,整个训练算法结束,获得各个子网络的参数值;
步骤4:将各个子集合中的测试样本输入到各个子网络中,得到整个模型的输出,反归一化后得到出水BOD浓度的实际值。
CN201910181758.2A 2019-03-11 2019-03-11 一种基于互联模块化神经网络的出水bod预测方法 Active CN109978024B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910181758.2A CN109978024B (zh) 2019-03-11 2019-03-11 一种基于互联模块化神经网络的出水bod预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910181758.2A CN109978024B (zh) 2019-03-11 2019-03-11 一种基于互联模块化神经网络的出水bod预测方法

Publications (2)

Publication Number Publication Date
CN109978024A CN109978024A (zh) 2019-07-05
CN109978024B true CN109978024B (zh) 2020-10-27

Family

ID=67078574

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910181758.2A Active CN109978024B (zh) 2019-03-11 2019-03-11 一种基于互联模块化神经网络的出水bod预测方法

Country Status (1)

Country Link
CN (1) CN109978024B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112446168A (zh) * 2020-10-28 2021-03-05 北京工业大学 一种基于mic及rbfnn的出水bod浓度软测量方法
CN112949894B (zh) * 2020-12-10 2023-09-19 北京工业大学 一种基于简化型长短期记忆神经网络的出水bod预测方法
CN112819087B (zh) * 2021-02-11 2024-03-15 北京工业大学 一种基于模块化神经网络的出水bod传感器异常检测方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102662040A (zh) * 2012-04-20 2012-09-12 辽宁工程技术大学 一种动态模块化神经网络的氨氮在线软测量方法
CN103870878A (zh) * 2014-03-28 2014-06-18 西安西热控制技术有限公司 一种电站锅炉燃烧特性神经网络模型
CN103886369A (zh) * 2014-03-27 2014-06-25 北京工业大学 一种基于模糊神经网络的出水总磷tp预测方法
CN106354018A (zh) * 2016-11-21 2017-01-25 北京工业大学 基于rbf神经网络的溶解氧智能控制系统
CN107272418A (zh) * 2017-07-27 2017-10-20 青岛格莱瑞智能控制技术有限公司 一种基于多内涵自调节神经网络的仿生智能控制方法
CN109344971A (zh) * 2018-09-26 2019-02-15 北京工业大学 一种基于自适应递归模糊神经网络的出水氨氮浓度预测方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102854296B (zh) * 2012-08-30 2015-03-11 北京工业大学 一种基于集成神经网络的污水处理软测量方法
CN105510546B (zh) * 2015-12-27 2017-06-16 北京工业大学 一种基于自组织递归rbf神经网络的生化需氧量bod智能检测方法
US20170278135A1 (en) * 2016-02-18 2017-09-28 Fitroom, Inc. Image recognition artificial intelligence system for ecommerce
CN106096727B (zh) * 2016-06-02 2018-12-07 腾讯科技(深圳)有限公司 一种基于机器学习的网络模型构造方法及装置
CN106295800B (zh) * 2016-07-28 2019-03-05 北京工业大学 一种基于递归自组织rbf神经网络的出水总氮tn智能检测方法
CN107145867A (zh) * 2017-05-09 2017-09-08 电子科技大学 基于多任务深度学习的人脸及人脸遮挡物检测方法
US20180349765A1 (en) * 2017-05-30 2018-12-06 Xerox Corporation Log-linear recurrent neural network
CN107607954B (zh) * 2017-09-11 2020-04-24 中国民航大学 一种基于t-s模型的fnn降水粒子相态识别方法
CN108469507B (zh) * 2018-03-13 2020-11-27 北京工业大学 一种基于自组织rbf神经网络的出水bod软测量方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102662040A (zh) * 2012-04-20 2012-09-12 辽宁工程技术大学 一种动态模块化神经网络的氨氮在线软测量方法
CN103886369A (zh) * 2014-03-27 2014-06-25 北京工业大学 一种基于模糊神经网络的出水总磷tp预测方法
CN103870878A (zh) * 2014-03-28 2014-06-18 西安西热控制技术有限公司 一种电站锅炉燃烧特性神经网络模型
CN106354018A (zh) * 2016-11-21 2017-01-25 北京工业大学 基于rbf神经网络的溶解氧智能控制系统
CN107272418A (zh) * 2017-07-27 2017-10-20 青岛格莱瑞智能控制技术有限公司 一种基于多内涵自调节神经网络的仿生智能控制方法
CN109344971A (zh) * 2018-09-26 2019-02-15 北京工业大学 一种基于自适应递归模糊神经网络的出水氨氮浓度预测方法

Also Published As

Publication number Publication date
CN109978024A (zh) 2019-07-05

Similar Documents

Publication Publication Date Title
CN109978024B (zh) 一种基于互联模块化神经网络的出水bod预测方法
CN107358021B (zh) 一种基于优化bp神经网络的do预测模型建立方法
CN111354423B (zh) 一种基于多元时间序列分析的自组织递归模糊神经网络的出水氨氮浓度预测方法
CN108469507B (zh) 一种基于自组织rbf神经网络的出水bod软测量方法
CN112989704B (zh) 一种基于de算法的irfm-cmnn出水bod浓度预测方法
CN111242380A (zh) 一种基于人工智能算法的湖(库)富营养化预测方法
CN115660165A (zh) 一种基于双层pso的模块化神经网络出水氨氮浓度多步预测方法
CN106971241A (zh) 基于模糊神经网络预测污水水质数据的方法
CN109408896B (zh) 一种污水厌氧处理产气量多元智能实时监控方法
CN114707692A (zh) 基于混合神经网络的湿地出水氨氮浓度预测方法及系统
CN112819087B (zh) 一种基于模块化神经网络的出水bod传感器异常检测方法
CN109726857A (zh) 基于GA-Elman网络的蓝藻水华预测方法
Fu et al. Dissolved oxygen control system based on the TS fuzzy neural network
CN111310974A (zh) 一种基于ga-elm的短期需水预测方法
CN110837886A (zh) 一种基于elm-sl0神经网络的出水nh4-n软测量方法
CN112634347B (zh) 一种活性污泥形态学和污泥体积指数svi软测量方法
CN114462208A (zh) 一种基于自组织rbfnn的出水bod在线软测量方法
Hu et al. A classification surrogate model based evolutionary algorithm for neural network structure learning
Li et al. Enhanced particle swarm optimization based on reference direction and inverse model for optimization problems
CN115330019A (zh) 一种基于自组织互联模块化神经网络的出水bod预测方法
Meng et al. A Self-Organizing Modular Neural Network for Nonlinear System Modeling
CN112456639B (zh) 一种厌氧消化中硫化氢产生量的智能预测方法
Clara Neural networks complemented with genetic algorithms and fuzzy systems for predicting nitrogenous effluent variables in wastewater treatment plants
CN114331788A (zh) 一种基于级联模块化神经网络的城市污水处理过程出水含氮量智能检测方法
CN114781166B (zh) 基于加权概率慢特征模型的污水处理过程软测量方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant