CN109598337B - 基于分解模糊神经网络的二氧化硫浓度预测方法 - Google Patents
基于分解模糊神经网络的二氧化硫浓度预测方法 Download PDFInfo
- Publication number
- CN109598337B CN109598337B CN201811480356.4A CN201811480356A CN109598337B CN 109598337 B CN109598337 B CN 109598337B CN 201811480356 A CN201811480356 A CN 201811480356A CN 109598337 B CN109598337 B CN 109598337B
- Authority
- CN
- China
- Prior art keywords
- neural network
- fuzzy neural
- decomposition
- fuzzy
- sulfur dioxide
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/043—Architecture, e.g. interconnection topology based on fuzzy logic, fuzzy membership or fuzzy inference, e.g. adaptive neuro-fuzzy inference systems [ANFIS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/004—Artificial life, i.e. computing arrangements simulating life
- G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Fuzzy Systems (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Automation & Control Theory (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明属于计算智能网络优化技术领域,涉及一种基于分解模糊神经网络的二氧化硫浓度预测方法,包含:建立分解模糊神经网络,依据用户指定参数对输入数据空间进行迭代聚类,获取聚类结果,依据聚类结果确定分解模糊神经网络组件数,及分解模糊神经网络规则前件隶属函数中心;根据分解模糊神经网络组件数及分解模糊神经网络规则前件隶属函数中心,确定网络参数;依据网络参数,确定优化分解模糊神经网络。本发明通过模糊聚类来确定分解模糊神经网络中组件规则数,对模糊神经网络输入模糊化隶属函数参数、规则前件隶属函数参数和组件权值进行优化处理,使得分解模糊神经网络模型建模精度更高,缩短学习时间,提高模型训练学习效率,降低软硬件开销。
Description
技术领域
本发明属于计算智能神经网络优化技术领域,特别涉及一种分解模糊神经网络优化方法及装置。
背景技术
1965年,模糊集合的概念被提出,标志着一种能够描述自然界不确定现象的新方法诞生。在此基础上,模糊推理系统被提出且成功应用于复杂系统建模与控制等领域。但是,传统的模糊系统基于专家系统的理论范式,自适应学习能力不足。1995年,将模糊理论和神经网络相结合,模糊神经网络模型的提出,同时赋予神经网络可解释性和模糊系统可学习性。在模糊神经网络的学习过程中,由于每一个语言变量的语言值出现在不同的规则中,采用学习方法对其进行优化的过程中,因为它们之间是相关的,需要添加约束条件保持该相关性,这样将使优化问题变得复杂。进一步,有人提出分解模糊系统的概念,将不同规则的属于同一语言变量的语言值分解为其本身和它的补集,构成组件模糊系统,先计算子系统的输出,然后取其平均值作为最后的系统输出。目前的分解模糊系统具有较多的模糊规则(对于n维输入每一维具有m个语言值的情形,共有(3m)n条模糊规则),随着输入维度的增加,会出现‘维数灾’。而且,仅采用BP算法调整规则后件零次项系数,前件参数不进行优化。以上学习方法不能保证分解模糊系统的建模精度达到全局最优。
发明内容
为此,本发明提供一种分解模糊神经网络参数优化方法及装置,解决目前分解模糊系统存在的规则数多、计算量大、开销大等问题,建模精度更高,网络模型结构更加简洁,缩短学习时间,提高模型训练学习效率,降低软硬件开销。
按照本发明所提供的设计方案,一种分解模糊神经网络结构和参数优化方法,包含如下内容:
建立分解模糊神经网络,并依据用户指定的参数对输入数据空间进行迭代聚类,获取聚类结果,依据聚类结果确定分解模糊神经网络组件数,及分解模糊神经网络规则前件隶属函数中心;
根据分解模糊神经网络组件数及分解模糊神经网络规则前件隶属函数中心,确定网络参数,其中,所述网络参数包含输入模糊集合隶属函数的宽度、幂指数,规则前件隶属函数的宽度、幂指数,及组件权值;
依据网络参数,确定优化分解模糊神经网络。
上述的,所述分解模糊神经网络包含用于传输输入信号的输入层,用于依据输入层输出分析网络组建隶属关系的隶属函数层,用于依据隶属函数层输出进行三角范数计算并获取激活力的激活力层,用于对激活力层得到的激活力进行归一化处理的归一化层,用于对归一化层输出及输入向量进行乘积运算的乘积层,用于对乘积层输出进行代数求和的求和层,和用于对求和层输出进行加权平均并输出的输出层。
上述的,对输入数据空间进行迭代聚类过程中,依据用户指定的参数,并根据输入数据和聚类中心的距离确定聚类属性,通过循环迭代来更新聚类中心,其中,聚类中心为与所述聚类中所有数据距离之和最小的位置。
上述的,根据分解模糊神经网络组件数及分解模糊神经网络规则前件隶属函数中心,通过采用自适应混沌量子引力搜索算法调整并确定网络其它参数。
优选的,所述自适应混沌量子引力搜索算法包含如下内容:
a1)初始化种群,先获取候选初始种群,对候选初始种群中的个体进行适应值评估,得到初始种群;
a2)依据个体适应值的大小从种群中选取一定比例的个体作为势场中心;
a3)根据个体被势场吸引的原理,更新种群中个体位置;
a4)直至满足设定的迭代终止条件,输出最优个体和其对应的根均方误差RMSE。
优选的,a1)中初始化种群,包含如下内容:初始化种群规模,并依据输入样本维度及分解模糊神经网络组件数设定种群中个体长度,依据种群规模及个体长度,采用均匀分布随机数生成个体各元素,组成候选种群矩阵的初值矩阵。
优选的,获取候选初始种群过程中,引入混沌机制,并通过帐篷映射获取候选初始种群中的个体元素。
优选的,对候选初始种群中的个体进行适应值评估,包含如下内容:
对训练数据集进行模糊化,获取输入模糊集合和组件模糊神经网络规则前件,及规则前件激活力;
对组件模糊神经网络所有规则前件激活力进行归一化处理,获取激活力矩阵;
对于组件模糊神经网络的规则后件,通过最小二乘法得到待定系数估计值,获取规则前件矩阵对应的后件向量矩阵;
利用测试数据,获取输入模糊集合和组件模糊神经网络规则前件匹配度,依据该匹配度得到测试数据激活力的归一化矩阵;
依据归一化矩阵,获取测试数据组件模糊神经网络规则前件矩阵结合后件向量矩阵,获取分解模糊神经网络输出向量及输出根均方误差RMSE;
依据根均方误差RMSE,得到候选初始个体适应值;
依据候选个体被选择的概率,采用轮盘赌原理从中选取个体组成初始种群。
优选的,更新种群中个体位置,直至满足设定迭代终止条件,该设定迭代终止条件即为预设迭代次数。
一种分解模糊神经网络优化装置,包含模型建立模块、模型优化模块和模型确定模块,其中,
模型建立模块,用于建立分解模糊神经网络,并依据用户指定参数对输入数据空间进行迭代聚类,获取聚类结果,依据聚类结果确定分解模糊神经网络组件数,及分解模糊神经网络规则前件隶属函数中心;
模型优化模块,用于根据分解模糊神经网络组件数及分解模糊神经网络规则前件隶属函数中心,确定网络参数,其中,所述网络参数包含输入模糊集合隶属函数的宽度、幂指数,规则前件隶属函数的宽度、幂指数,及组件权值;
模型确定模块,用于依据网络参数,确定优化分解模糊神经网络。
本发明的有益效果:
本发明通过模糊聚类来确定分解模糊神经网络中的组件模糊神经网络数,并对它的输入模糊隶属函数参数、规则前件隶属函数参数和组件权值进行优化处理,解决现有分解模糊系统存在的规则数多、计算量大、开销大等问题,使得分解模糊神经网络模型建模精度更高,网络模型结构更加简洁,大大缩短学习时间,提高模型训练学习效率,保证网络模型学习效果,降低软硬件开销,对计算智能机器学习技术领域具有重要的指导意义。
附图说明:
图1为实施例中参数优化方法流程示意图;
图2为实施例中分解模糊神经网络结构框架;
图3为实施例中规则前件隶属函数中模糊值和补模糊值示意图;
图4为实施例中模糊聚类流程示意图;
图5为实施例中个体浮点数编码示意图;
图6为实施例中参数优化装置示意图。
具体实施方式:
为使本发明的目的、技术方案和优点更加清楚、明白,下面结合附图和技术方案对本发明作进一步详细的说明。
目前在计算智能学习领域,分解模糊系统存在规则数多、计算量大、开销大等问题。为此,本发明实施例,参见图1所示,提供一种分解模糊神经网络优化方法,包含如下内容:
S101、建立分解模糊神经网络,并依据用户指定参数对输入数据空间进行迭代聚类,获取聚类结果,依据聚类结果确定分解模糊神经网络组件数,及分解模糊神经网络规则前件隶属函数中心;
S102、根据分解模糊神经网络组件数及分解模糊神经网络规则前件隶属函数中心,确定网络参数,其中,所述网络参数包含输入模糊集合隶属函数的宽度、幂指数,规则前件隶属函数的宽度、幂指数,及组件权值;
S103、依据网络参数,确定优化分解模糊神经网络。
优选的,参见图2所示,分解模糊神经网络包含用于传输输入信号的输入层,用于依据输入层输出分析网络组建隶属关系的隶属函数层,用于依据隶属函数层输出进行三角范数计算并获取激活力的激活力层,用于对激活力层得到的激活力进行归一化处理的归一化层,用于对归一化层输出及输入向量进行乘积运算的乘积层,用于对乘积层输出进行代数求和的求和层,和用于对求和层输出进行加权和运算并输出的输出层。整个网络结构由7层神经元组成:
第一层:输入层。在输入层中,不进行数学计算,只传输输入信号。
在公式(1)中,Ink (1)表示第一层第k个神经元的输入,Outk (1)表示相应的输出,xk表示输入向量X的第k个分量,k=1,…,n。采用非单值模糊化,即输入分量xk模糊化为模糊集合Xk,它的隶属函数表示为
在公式(2)中,xl k≤xr k,xc k=xk,xl k=xk-δk,xr k=xk+δk,δk>0,pk>0。在分解模糊神经网络中,对于每一模糊规则中每一语言变量的语言值采用补算子将其分解为三个语言值,然后由这些语言值形成组件模糊神经网络(component fuzzy neural network,CFNN),即,规则j:如果x1是A1j…且xk是Akj…且xn是Anj,那么yj=c0j+c1jx1+…+ckjxk+…+cnjxn;对于前件Akj(k=1,…,n,j=1,…,m),采用补算子得到它的补集这里,是Akj的隶属函数,是的隶属函数,c是补算子,可以取基本模糊补,Sugeno模糊补,Yager模糊补等。在论域的模糊集合Akj和它的模糊补集可以表示为
在这里,特殊地,当xkj c等于u k或时,Akj的补集是或公式(3)-(5)表示的隶属函数如图3所示。分解模糊神经网络与传统模糊神经网络的区别在于用规则前件的语言值和补语言值组成新的语言值集合利用它们构造组件模糊神经网络替代传统模糊神经网络中的模糊规则。即
其中,rj表示第j个组件模糊神经网络的模糊规则数,j=1,2,…,m,m是组件模糊神经网络的数目。
在公式(6)中,t-norm有多种实现算子,包括Dombi t-norm,Dubois-Prade t-norm,Yager t-norm等。
第三层:激活力层。在本层中,对上一层计算得到的规则前件匹配度计算三角范数,得到规则激活力。
在公式(7)中,t-norm的实现和公式(6)相同。
第四层:归一化层。对上一层得到的激活力,进行归一化,得到归一化激活力,即
第五层:乘积层。计算上一层的输出和输入向量X的一次多项式的乘积。
第六层:求和层。计算上一层输出的代数和,即
其中,Outj(6)表示第j个组件模糊神经网络的输出。
第七层:输出层。计算上一层输出的加权和,即
对于以上分解模糊神经网络,可以证明它是万能逼近器(能以任意精度逼近任意连续函数)。在已有研究中,分解模糊神经网络的学习仅仅采用BP算法(梯度下降法)调整网络的后件参数,网络的结构和前件参数均未优化,这将极大限制网络的使用效率和精度。本发明实施例提供一种有效的学习算法全面优化网络的结构和参数,克服其存在的不足。对输入数据空间进行迭代聚类过程中,依据用户指定参数,并根据输入数据和聚类中心的距离确定聚类属性,通过循环迭代来更新聚类中心,其中,聚类中心为与所述聚类中所有数据距离之和最小的位置。聚类过程如图4所示,对于数据空间{Xi,yi}i=1 N, 设定任意小的正数ε(用户指定),第j个聚类的中心向量cj可以通过以下方法得到:
a)当i=1时,产生聚类(j=1),c1=X1;
c)以此类推,当i=K时,K≤N,判断‖XK-cr‖2(r=1,…,R)是否都大于ε,如果成立,则产生新的聚类(j=R+1),新聚类的中心cR+1=XK。否则聚类(j=s)增加新成员XK,聚类中心cs进行更新,即此时,聚类s中包含p个输入数据XK∈{Xs1,Xs2,…,Xs p}。
d)直到i=N时,算法停止,输出最终聚类结果。
上述的,根据分解模糊神经网络组件数及分解模糊神经网络规则前件隶属函数中心,通过采用自适应混沌量子引力搜索算法调整并确定其它网络参数。
优选的,所述自适应混沌量子引力搜索算法包含如下内容:
a1)初始化种群,并获取候选初始种群,对候选初始种群中的个体进行适应值评估,得到初始种群;
a2)依据种群中个体适应值选取部分个体作为势场中心;
a3)根据适应值计算每个势场中心被选取概率,更新种群中个体位置;
a4)对于每一个个体获取其对应于测试样本的适应度,返回a2)迭代执行,更新种群中个体位置,直至满足设定迭代终止条件,输出最优个体和其对应的根均方误差RMSE。
优选的,a1)中初始化种群,包含如下内容:初始化种群规模,并依据输入样本维度及分解模糊神经网络组件数设定种群中个体长度,依据种群规模及个体长度,采用均匀分布随机数生成个体各元素,组成候选种群矩阵的初值矩阵,得到候选初始种群。
优选的,获取候选初始种群过程中,引入混沌机制,通过帐篷映射获取候选初始种群中的个体元素。
优选的,对候选初始种群中的个体进行适应值评估,包含如下内容:
对训练数据集进行模糊化,获取输入模糊集合和组件模糊神经网络规则前件,及规则前件激活力;
对组件模糊神经网络所有规则前件激活力进行归一化处理,获取激活力矩阵;
对于组件模糊神经网络的规则后件,通过最小二乘法得到待定系数估计值,获取规则前件矩阵对应的后件向量矩阵;
利用测试数据,获取输入模糊集合和组件模糊神经网络规则前件匹配度,依据该匹配度得到测试数据激活力的归一化矩阵;
依据归一化矩阵,获取测试数据组件模糊神经网络规则前件矩阵及后件向量矩阵,获取分解模糊神经网络输出向量及输出根均方误差RMSE;
依据根均方误差RMSE,得到候选初始个体适应值;
采用轮盘赌原理,获取候选个体被选择的概率,并从中选取个体组成初始种群。
优选的,更新种群中个体位置,直至满足设定迭代终止条件,该设定迭代终止条件即为预设迭代次数。
对于得到组件数m和组件模糊神经网络规则前件隶属函数中心k=1,…,n,j=1,…,m。根据前面公式(2)-(5),采用非单值模糊化时,输入模糊集合隶属函数的宽度幂指数pXk,组件模糊神经网络规则前件隶属函数的宽度幂指数和组件权值αj均需要优化确定。常用的优化算法分为两类:基于导数的优化算法和基于非导数的优化算法。由于目标函数关于调整参数是高度非线性函数,采用基于导数的优化算法易于陷入局部极小值,因此本发明采用基于非导数的优化算法。非导数优化算法,常用的有基于生物遗传原理的算法,基于群集智能的算法,基于自然界规律的算法等。根据要解决的问题的特点,本发明实施例中采用自适应混沌量子引力搜索算法优化调整参数。整个算法过程可设计如下:
a)初始化种群
设定种群规模是Np,种群中个体长度是2n(m+1)+m,其中n是输入样本维度,m是组件模糊神经网络数目。个体采用浮点数编码,如图5所示, 采用[0,1]中服从均匀分布的随机数 生成个体的各元素如下: 因此,可以得到它是一个Np×(2n(m+1)+m)矩阵,组成候选种群矩阵的初值矩阵。为加强初始种群选取的代表性和广泛性,引入混沌机制,利用其遍历性质,对POPinit的个体元素计算得到新的候选初始种群POPinit(n)。混沌算子采用帐篷映射(tent map),即
在公式(12)中,Inds,t norm(n)表示第n次迭代时归一化的个体s的第t个元素。当n=0时,Inds,t norm(0)表示k=1,…,n,j=1,…,m。经过NI次迭代,得到Np(NI+1)个个体,组成候选初始种群。对于其中的每一个体,采用如下的方法评估其适应值,即:对于训练数据集{Xi,yi}i=1 N_train,N_train表示其数据数目。当其输入到分解模糊神经网络时,考虑到数据噪声的影响,对其进行模糊化,输入模糊集合Xk i表示为其和组件模糊神经网络j的规则前件或者的匹配度可以计算为或采用t-范数计算可得前件激活力j=1,…,m,h=1,…,NR,NR是组件模糊神经网络规则数目。对于组件模糊神经网络j的所有规则的激活力fjh进行归一化得到归一化后的激活力矩阵Fj,即
其中是归一化激活力,而且i=1,…,N_train。对于组件模糊神经网络j,其规则数jNR=3n,如果输入模式的维度n趋于无穷,将出现规则过多的情形。因此,采用奇异值分解的方法对其进行约简。激活力矩阵Fj=UjΣjVj T,其中Uj和Vj分别是N×N和jNR×jNR维正交矩阵。不失一般性,N>jNR。对角矩阵而且 是任意小的正数,rj是满足的下标最大值,且rj≤rank(Fj)。经过以上步骤,确定组件模糊神经网络j中重要规则数目是rj,即从jNR条规则中选取rj条规则组成约简后的规则库,删去其余的jNR-rj条规则。对于奇异值分解得到的正交矩阵Vj进行分块得到其中是jNR×rj矩阵,计算它是jNR×jNR矩阵。取其对角线元素组成判断向量其中前rj个取值最大的元素对应的位置就是保留的rj个规则的位置。经过约简以后,组件模糊神经网络j包含rj条规则,经过重新归一化得到新的激活力矩阵,即
对应的后件向量因此可得分块矩阵表示的Φ=[Φ1 … Φj … Φm],分块向量表示的C=[C1 … Cj … Cm]T则有ΦC=Y,采用Moore-Penrose广义逆矩阵,可以得到C=Φ+Y。其中Φ是N×∑j=1 mrj(n+1)矩阵,C是∑j=1 mrj(n+1)×1向量,Y是N×1向量。建立分解模糊神经网络模型以后,采用测试数据集验证模型的建模精度。测试集{Xi,yi}i=1 Ntest输入模型输入模糊集合和组件模糊神经网络j规则前件的匹配度为:
根据分块矩阵Φtest=[Φ1 test…Φj test…Φm test],C=[C1…Cj…Cm],计算分解模糊神经网络输出向量Ytest=Φtest C,输出根均方误差从而可得每个候选初始个体的适应值Fits=exp(-RMSEs),s=1,…,Np(NI+1)。采用轮盘赌原理,计算每个候选个体被选择的概率ps=从中选择Np个个体组成初始种群PoPinit。
b)确定吸引势场中心。
c)根据以下公式更新种群中个体的位置
Inds,t(t)表示第t次迭代时,第s个个体中第t个分量。是第t次迭代时,势场中心位置。它们的选取采用轮盘赌原理,根据适应值计算每个势场中心被选择概率,适应度高的势场中心被选择的概率大。g(t)是平衡探索能力和开发能力的重要指标,它是迭代次数t的减函数。在这里,g(t)=(gf-g0)t/T+g0,其中g0和gf是通过实验选取的参数。其余的参数rand和Num是[0,1]上均匀分布的随机数。
e)采用前面提出的个体适应度评估方法,对于每一个体计算对应于测试样本的RMSEs(t+1),根据Fits(t+1)=exp(-RMSEs(t+1))计算它们的适应度。根据b)-c)计算更新种群中个体位置,直到终止条件被满足,输出最优个体和对应的RMSE(T+1)。
本发明中,采用模糊聚类方法确定组件模糊神经网络数目。设定任意小的正数,根据输入数据和聚类中心的距离确定其是否属于该聚类,并定义与该聚类中所有数据距离之和最小的位置为聚类中心。该方法可在线确定聚类数目和中心(组件模糊神经网络的数目和规则前件隶属函数中心);并采用自适应混沌量子引力搜索算法确定组件模糊神经网络规则前件隶属函数宽度和幂指数以及组件权值,对于每一组件模糊神经网络采用奇异值分解方法约简规则,然后用最小二乘法得到它的规则后件参数。经过以上步骤,使得分解模糊神经网络具有全局逼近能力。在基准数据集上的评测结果表明相较于传统模糊神经网络,分解模糊神经网络具有更高的建模精度和分类正确率。
为进一步清楚的阐述本发明的创新性和可行性,以大气中二氧化硫浓度的时空预测问题为具体实施对象,详细说明本发明的实施步骤:
大气主要污染物包括PM10,PM2.5,二氧化氮,二氧化硫,一氧化碳和臭氧。其中二氧化硫主要会造成酸雨对人体和动植物的健康造成不可逆的伤害。因此准确迅速的浓度预报对于及时采取应对措施避免伤害起到至关重要的作用。在这一部分,以北京市空气中二氧化硫浓度预报问题为具体实施例,说明本发明提出的分解模糊神经网络设计方法的有效性。基于分解模糊神经网络的二氧化硫浓度预测器的设计步骤如下所示。
a)对采集到的二氧化硫浓度数据进行预处理
数据来源于北京市环境保护检测中心网站,共包括35个站点从2014年1月1日至2018年10月31日每小时的空气污染物浓度数据(μg/m3)。根据地理位置的邻近性原则和近期北京地区的气候条件从35个观测站中选取5个站点(东城东四、东城天坛、西城官园、西城万寿西宫、朝阳奥体中心)的二氧化硫浓度数据进行分析。由于测量装置的故障等不可抗因素的影响,收集数据中存在数据缺漏等情况,采用相应的数据处理方法进行数据的修补,如公式(16)所示。
空气的流动性和开放性决定了空气污染物浓度的时空分布特性,由此,可以得到基于分解模糊神经网络的二氧化硫浓度时空预测器模型:
在这里,Si(i=1,…,5)表示5个空气检测站点,其中S1:东城东四,S2:东城天坛,S3:西城官园,S4:西城万寿宫,S5:朝阳奥体中心。采用分解模糊神经网络建立以上预测模型,对于采集到的N组数据{Xi,Yi}i=1 N,采用Q折交叉验证方法,得到训练集{Xi,Yi}i=1 N_train和测试集{Xi,Yi}i=1 N_test,其中
b)采用模糊聚类方法确定组件模糊神经网络数目和规则前件隶属函数中心
对于训练集{Xi,Yi}i=1 N_train,设定任意小的正数ε,当输入向量X1时,直接得到聚类中心C1=X1,此时聚类数目Num_clus=1,相应的聚类中心{C1};当有新的输入X2时,计算‖X2-C1‖2,当它大于ε时,产生新的聚类,聚类中心C2=X2,此时聚类数目Num_clus=2,相应的聚类中心{C1,C2};否则,聚类数目不变Num_clus=1,计算新的聚类中心C1new,使得成立,此时聚类中心{C1new};以此类推,当输入向量Xi时,已有聚类数目Num_clus=j,计算‖Xi-C1‖2,…,‖Xi-Cj‖2,当它们都大于ε时,产生新的聚类,相应的聚类中心Cj+1=Xi,此时聚类数目Num_clus=j+1,相应的聚类中心{C1,…,Cj+1};否则,聚类数目不变Num_clus=j,取为向量Xi所在的聚类的上标,计算新的聚类中心使得成立,这里相应的聚类中心判断i<N_train是否成立,如果成立,则重复以上的步骤,如果不成立,则聚类过程结束。此时,聚类数目是m,聚类中心是{C1,…Cj,…Cm}。
c)采用自适应混沌量子引力搜索算法确定组件模糊神经网络规则前件隶属函数宽度和幂指数
经过步骤b)确定了组件模糊神经网络的数目和规则前件隶属函数的中心,因为隶属函数采用对称β函数宽度δ和幂指数p是待定参数,采用自适应混沌量子引力搜索算法在参数空间进行全局优化搜索最优的参数 它是60(m+1)+m维向量。采用[0,1]中均匀分布的随机数作为它的每一分量(归一化分量),产生Np个该向量,然后对于个体中每一归一化分量采用tent映射进行NI次迭代计算得到(NI+1)Np个个体,然后对于每一个体归一化分量Inds,t norm进行线性变换将其映射到相应的参数空间,采用训练数据集{Xi,Yi}i=1 N_train进行分解模糊推理得到输入模糊集合和规则前件匹配度然后计算规则前件激活力进行归一化计算得到i=1,…,N_train,h=1,…,NR,j=1,…,m,由此得到归一化激活力矩阵
对Fj进行奇异值分解可得Fj=UjΣjVj T,其中 选择η>0,则rj是满足ζl>η成立的最大下标,而且rj≤sj。对正交矩阵V进行分块即 其中对于Inx1,…,InxNR,前rj个最大值对应的位置是要保留的rj条规则的位置,其余的NR-rj条规则被删去。约简后的规则库规则数目是rj,重新计算归一化激活力得到新的归一化激活力矩阵Fj’:
根据公式(21)可以得到
那么Φ=[Φ1…Φj…Φm],C=[C1 T…Cj T…Cm T]T,其中Φ是矩阵,C是向量。因此,ΦC=Y,采用Moore-Penrose广义逆,可以得到C=Φ+Y。至此,得到基于分解模糊神经网络的二氧化硫浓度预测模型,下面采用测试数据集{Xi,Yi}i=1 N_test验证所建立模型的精度。当输入测试样本Xi到网络时,模糊化输入和组件模糊神经网络j规则前件的匹配度是:
因此得到归一化激活力矩阵
所以可以得到
对应的后件矩阵是Cj,j=1,…,m。于是有Φ=[Φ1…Φj…Φm],C=[C1 T…Cj T…Cm T]T,分解模糊神经网络的输出Yout=ΦC,根均方误差个体适应值Fits=exp(-RMSEs),计算所有Np(NI+1)个个体的适应值,采用轮盘赌原理从中选择Np个个体,选择概率=于是得到初始种群PoPinit。对于初始种群,根据它们适应值的大小选择100%的个体作为吸引势域中的最优个体。然后,根据公式
对个体每一分量进行优化,其中g(t)是重要参数,它表示搜索算法的探索能力和开发能力的平衡,它是随着迭代次数递减的线性函数,即rand和Num是在[0,1]中均匀分布的随机数。另外,随着迭代的进行,吸引域中的最优个体数目逐渐减小,即Number(0)=Np,Number(T)=1。形成新一代种群后,采用和前面相同的方法建立分解模糊神经网络预测模型,然后根据测试结果计算个体适应值,选取Number(t)个最优个体组成吸引势域中的个体。然后采用公式(24)计算得到下一代种群。经过T次迭代,得到的最优个体,其对应的分解模糊神经网络预测模型即为所求的二氧化硫浓度预测器,其测试结果即为预测精度。
基于上述的优化方法,本发明还提供一种分解模糊神经网络优化装置,参见图6所示,包含模型建立模块101、模型优化模块102和模型确定模块103,其中,
模型建立模块101,用于建立分解模糊神经网络,并依据用户指定参数对输入数据空间进行迭代聚类,获取聚类结果,依据聚类结果确定分解模糊神经网络组件数,及分解模糊神经网络规则前件隶属函数中心;
模型优化模块102,用于根据分解模糊神经网络组件数及分解模糊神经网络规则前件隶属函数中心,确定其它网络参数,其中,所述网络参数包含输入模糊集合隶属函数的宽度、幂指数,规则前件隶属函数的宽度、幂指数,及组件权值;
模型确定模块103,用于依据网络参数,确定优化分解模糊神经网络。
除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对步骤、数字表达式和数值并不限制本发明的范围。
基于上述的方法,本发明实施例还提供一种服务器,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述的方法。
基于上述的方法,本发明实施例还提供一种计算机可读介质,其上存储有计算机程序,其中,该程序被处理器执行时实现上述的方法。
本发明实施例所提供的装置,其实现原理及产生的技术效果和前述方法实施例相同,为简要描述,装置实施例部分未提及之处,可参考前述方法实施例中相应内容。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在这里示出和描述的所有示例中,任何具体值应被解释为仅仅是示例性的,而不是作为限制,因此,示例性实施例的其他示例可以具有不同的值。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。
Claims (9)
1.一种基于分解模糊神经网络的二氧化硫浓度预测方法,其特征在于,包含如下内容:
对采集到的二氧化硫浓度数据进行预处理,划分训练集和测试集;
利用训练集数据进行模型优化,其中,模型优化中,依据用户指定参数对输入数据空间进行迭代聚类,获取聚类结果,依据聚类结果确定分解模糊神经网络组件数,及分解模糊神经网络规则前件隶属函数中心;根据分解模糊神经网络组件数及分解模糊神经网络规则前件隶属函数中心,确定网络参数,其中,所述网络参数包含输入模糊集合隶属函数的宽度、幂指数,规则前件隶属函数的宽度、幂指数,及组件权值;依据网络参数,确定优化后的二氧化硫浓度预测模型;
利用测试集数据验证预测模型精度,以获取用于二氧化硫浓度预测的分解模糊神经网络预测模型,进而实现大气中二氧化硫浓度的时空预报。
2.根据权利要求1所述的基于分解模糊神经网络的二氧化硫浓度预测方法,其特征在于,所述分解模糊神经网络包含用于传输输入信号的输入层,用于依据输入层输出分析网络组建隶属关系的隶属函数层,用于依据隶属函数层输出进行三角范数计算并获取激活力的激活力层,用于对激活力层得到的激活力进行归一化处理的归一化层,用于对归一化层输出及输入向量进行乘积运算的乘积层,用于对乘积层输出进行代数求和的求和层,和用于对求和层输出进行加权和运算并输出的输出层。
3.根据权利要求1所述的基于分解模糊神经网络的二氧化硫浓度预测方法,其特征在于,对输入数据空间进行迭代聚类过程中,依据指定参数,并根据输入数据和聚类中心的距离确定聚类属性,通过循环迭代来获取聚类中心,其中,聚类中心为与所述聚类中所有数据距离之和最小的位置。
4.根据权利要求1所述的基于分解模糊神经网络的二氧化硫浓度预测方法,其特征在于,根据分解模糊神经网络组件数及分解模糊神经网络规则前件隶属函数中心,通过采用自适应混沌量子引力搜索算法调整并确定网络参数。
5.根据权利要求4所述的基于分解模糊神经网络的二氧化硫浓度预测方法,其特征在于,所述自适应混沌量子引力搜索算法包含如下内容:
a1)初始化种群,并获取候选初始种群,对候选初始种群中的个体元素进行适应值评估,得到初始种群;
a2)依据吸引势场中心数据从初始种群中选取个体作为势场中心;
a3)根据适应值计算每个势场中心被选取概率,更新种群中个体位置;
a4)对于每一个个体获取其对应于测试样本的适应度,返回a2)迭代执行,更新种群中个体位置,直至满足设定迭代终止条件,输出最优个体和其对应的根均方误差RMSE。
6.根据权利要求5所述的基于分解模糊神经网络的二氧化硫浓度预测方法,其特征在于,a1)中初始化种群,包含如下内容:初始化种群规模,并依据输入样本维度及分解模糊神经网络组件数设定种群中个体长度,依据种群规模及个体长度,采用均匀分布随机数生成个体各元素,组成候选种群矩阵的初值矩阵,得到候选初始种群。
7.根据权利要求5或6所述的基于分解模糊神经网络的二氧化硫浓度预测方法,其特征在于,获取候选初始种群过程中,引入混沌机制,并通过帐篷映射获取候选初始种群中的个体元素。
8.根据权利要求5所述的基于分解模糊神经网络的二氧化硫浓度预测方法,其特征在于,对候选初始种群中的个体元素进行适应值评估,包含如下内容:
对训练数据集进行模糊化,获取输入模糊集合和组件模糊神经网络规则前件,及规则前件激活力;
对组件模糊神经网络所有规则前件激活力进行归一化处理,获取激活力矩阵;
对于组件模糊神经网络的规则后件,通过最小二乘法得到待定系数估计值,获取规则前件矩阵对应的后件向量矩阵;
利用测试数据,获取输入模糊集合和组件模糊神经网络规则前件匹配度,依据该匹配度得到测试数据激活力的归一化矩阵;
依据归一化矩阵,获取测试数据组件模糊神经网络规则前件矩阵及后件向量矩阵,获取分解模糊神经网络输出向量及输出根均方误差RMSE;
依据根均方误差RMSE,得到候选初始个体适应值;
采用轮盘赌原理,获取候选个体被选择概率,并从中选取个体组成初始种群。
9.根据权利要求5所述的基于分解模糊神经网络的二氧化硫浓度预测方法,其特征在于,更新种群中个体位置,直至满足设定迭代终止条件,该设定迭代终止条件即为预设迭代次数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811480356.4A CN109598337B (zh) | 2018-12-05 | 2018-12-05 | 基于分解模糊神经网络的二氧化硫浓度预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811480356.4A CN109598337B (zh) | 2018-12-05 | 2018-12-05 | 基于分解模糊神经网络的二氧化硫浓度预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109598337A CN109598337A (zh) | 2019-04-09 |
CN109598337B true CN109598337B (zh) | 2021-02-02 |
Family
ID=65961187
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811480356.4A Active CN109598337B (zh) | 2018-12-05 | 2018-12-05 | 基于分解模糊神经网络的二氧化硫浓度预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109598337B (zh) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108628160B (zh) * | 2017-03-23 | 2021-02-26 | 西南石油大学 | 一种自适应模糊系统的分解结构 |
CN110390461B (zh) * | 2019-05-22 | 2022-06-14 | 广东电网有限责任公司广州供电局 | 基于复杂网络的非线性模糊语言配电网节点脆弱性评价方法 |
DE102019208121A1 (de) * | 2019-06-04 | 2020-12-10 | Continental Automotive Gmbh | Aktive Datengenerierung unter Berücksichtigung von Unsicherheiten |
CN110334293B (zh) * | 2019-07-12 | 2021-08-27 | 吉林大学 | 面向位置社交网络的基于模糊聚类的具有时间感知的位置推荐方法 |
CN110766144B (zh) * | 2019-11-09 | 2023-10-13 | 河南工业大学 | 基于多层分解模糊神经网络的原子之间标量耦合常数预测系统 |
CN111539514B (zh) * | 2020-04-16 | 2023-06-06 | 北京百度网讯科技有限公司 | 用于生成神经网络的结构的方法和装置 |
CN111498148A (zh) * | 2020-04-23 | 2020-08-07 | 北京航空航天大学 | 基于fdnn的智能航天器控制器和控制方法 |
CN111915246B (zh) * | 2020-06-28 | 2024-04-26 | 河南工业大学 | 一种粮仓储粮数量平行检测方法 |
CN114254724A (zh) * | 2020-09-11 | 2022-03-29 | 华为技术有限公司 | 一种数据处理方法、神经网络的训练方法以及相关设备 |
CN112367130B (zh) * | 2020-11-20 | 2023-04-07 | 河南工业大学 | 一种无线网络信号传输强度计算方法及计算机存储介质 |
CN112836718B (zh) * | 2020-12-08 | 2022-12-23 | 上海大学 | 一种基于模糊知识神经网络的图像情感识别方法 |
CN114154780A (zh) * | 2021-10-19 | 2022-03-08 | 港华能源投资有限公司 | 评价方法、装置、电子设备及相关产品 |
CN114841252A (zh) * | 2022-04-18 | 2022-08-02 | 西安交通大学 | 一种航空航天制造过程中多源异构大数据融合方法及系统 |
CN118013365A (zh) * | 2024-02-07 | 2024-05-10 | 中电长城网际系统应用有限公司 | 一种电力信息网络安全态势评估方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110034288A (ko) * | 2009-09-28 | 2011-04-05 | 한국전력공사 | 중수로 압력관 반경방향 크립 예측 방법 |
CN105488564A (zh) * | 2015-11-25 | 2016-04-13 | 哈尔滨工业大学 | 一种神经网络知识表示方法 |
CN106912067A (zh) * | 2017-02-13 | 2017-06-30 | 南京航空航天大学 | 一种基于模糊神经网络的wsn无线通信模块故障诊断方法 |
CN107203753A (zh) * | 2017-05-25 | 2017-09-26 | 西安工业大学 | 一种基于模糊神经网络和图模型推理的动作识别方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107578130A (zh) * | 2017-09-08 | 2018-01-12 | 常州大学 | 一种结构和参数联合学习的tsk型模糊系统的铜期货价格预测的方法 |
CN108108832B (zh) * | 2017-11-20 | 2018-10-02 | 淮阴工学院 | 一种基于无线传感器网络的油罐车油气泄漏智能监测系统 |
-
2018
- 2018-12-05 CN CN201811480356.4A patent/CN109598337B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110034288A (ko) * | 2009-09-28 | 2011-04-05 | 한국전력공사 | 중수로 압력관 반경방향 크립 예측 방법 |
CN105488564A (zh) * | 2015-11-25 | 2016-04-13 | 哈尔滨工业大学 | 一种神经网络知识表示方法 |
CN106912067A (zh) * | 2017-02-13 | 2017-06-30 | 南京航空航天大学 | 一种基于模糊神经网络的wsn无线通信模块故障诊断方法 |
CN107203753A (zh) * | 2017-05-25 | 2017-09-26 | 西安工业大学 | 一种基于模糊神经网络和图模型推理的动作识别方法 |
Non-Patent Citations (2)
Title |
---|
A Novel Fuzzy Modeling Structure-Decomposed Fuzzy System;Shun-Feng Su 等;《IEEE》;20170830;第47卷(第8期);第2311-2317页 * |
基于小波包分解-模糊神经网络的混凝土路面路基沉降预测;刘振华 等;《混凝土与水泥制品》;20180630(第6期);第81-84页 * |
Also Published As
Publication number | Publication date |
---|---|
CN109598337A (zh) | 2019-04-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109598337B (zh) | 基于分解模糊神经网络的二氧化硫浓度预测方法 | |
Khajavi et al. | Predicting the carbon dioxide emission caused by road transport using a Random Forest (RF) model combined by Meta-Heuristic Algorithms | |
Papamakarios et al. | Fast ε-free inference of simulation models with bayesian conditional density estimation | |
Jangir et al. | MOMPA: Multi-objective marine predator algorithm for solving multi-objective optimization problems | |
CN110909926A (zh) | 基于tcn-lstm的太阳能光伏发电预测方法 | |
Jalalkamali | Using of hybrid fuzzy models to predict spatiotemporal groundwater quality parameters | |
CN111260030A (zh) | 基于a-tcn电力负荷预测方法、装置、计算机设备及存储介质 | |
CN115906954A (zh) | 一种基于图神经网络的多变量时间序列预测方法及装置 | |
CN113537539B (zh) | 一种基于注意力机制的多时间步供热用气量预测模型 | |
CN113360848A (zh) | 一种时序数据预测方法及装置 | |
CN110633417A (zh) | 一种基于服务质量的web服务推荐的方法及系统 | |
Chen et al. | A Gaussian approximation of marginal likelihood in relevance vector machine for industrial data with input noise | |
Ragab | Spider Monkey Optimization with Statistical Analysis for Robust Rainfall Prediction. | |
Shemyakin et al. | Online identification of large-scale chaotic system | |
Chandra et al. | Bayesian neural networks via MCMC: a Python-based tutorial | |
CN116090710B (zh) | 一种企业排污许可的管理方法、系统、电子设备及介质 | |
CN117194918A (zh) | 基于自注意力回声状态网络的气温预测方法及系统 | |
Wang et al. | Mfpc-net: Multi-fidelity physics-constrained neural process | |
Dudukcu et al. | Comprehensive comparison of lstm variations for the prediction of chaotic time series | |
CN111402042A (zh) | 一种用于股市大盘形态分析的数据分析与显示方法 | |
Sibruk et al. | Recurrent Neural Networks for Time Series Forecasting. Choosing the best Architecture for Passenger Traffic Data | |
Sklar | Sampling Bias Correction for Supervised Machine Learning: A Bayesian Inference Approach with Practical Applications | |
Zhou et al. | Combining Recurrent Neural Networks with Variational Mode Decomposition and Multifractals to Predict Rainfall Time Series | |
Li et al. | Time series prediction based on decomposition and synthesis | |
Jiang et al. | Hybird evolutionary algorithms for artificial neural network training in rainfall forecasting |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |