CN102722753A - 一种具有类人学习能力的tsk模糊系统建模方法 - Google Patents
一种具有类人学习能力的tsk模糊系统建模方法 Download PDFInfo
- Publication number
- CN102722753A CN102722753A CN2012101798274A CN201210179827A CN102722753A CN 102722753 A CN102722753 A CN 102722753A CN 2012101798274 A CN2012101798274 A CN 2012101798274A CN 201210179827 A CN201210179827 A CN 201210179827A CN 102722753 A CN102722753 A CN 102722753A
- Authority
- CN
- China
- Prior art keywords
- mrow
- msub
- msubsup
- msup
- mfrac
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000012549 training Methods 0.000 claims abstract description 24
- 238000005094 computer simulation Methods 0.000 claims description 12
- 230000006870 function Effects 0.000 claims description 6
- 238000004422 calculation algorithm Methods 0.000 claims description 4
- 230000009977 dual effect Effects 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 238000012067 mathematical method Methods 0.000 claims description 2
- 238000011160 research Methods 0.000 abstract description 3
- 238000010801 machine learning Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 238000004088 simulation Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 3
- 239000004753 textile Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000009987 spinning Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000013526 transfer learning Methods 0.000 description 2
- WQZGKKKJIJFFOK-GASJEMHNSA-N Glucose Natural products OC[C@H]1OC(O)[C@H](O)[C@@H](O)[C@@H]1O WQZGKKKJIJFFOK-GASJEMHNSA-N 0.000 description 1
- WHUUTDBJXJRKMK-UHFFFAOYSA-N Glutamic acid Natural products OC(=O)C(N)CCC(O)=O WHUUTDBJXJRKMK-UHFFFAOYSA-N 0.000 description 1
- 241000282414 Homo sapiens Species 0.000 description 1
- 235000014443 Pyrus communis Nutrition 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000019771 cognition Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000004134 energy conservation Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000000855 fermentation Methods 0.000 description 1
- 230000004151 fermentation Effects 0.000 description 1
- 239000008103 glucose Substances 0.000 description 1
- 235000013922 glutamic acid Nutrition 0.000 description 1
- 239000004220 glutamic acid Substances 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
Images
Landscapes
- Feedback Control In General (AREA)
Abstract
本发明公开了一种具有类人学习能力的TSK模糊系统建模方法。本发明方法主要以TSK模糊系统作为研究对象,在此基础上通过利用传统TSK模型对历史数据训练得到的历史储备(模型参数)融入当前场景训练模型中,进而发明了具有类人学习能力的模糊系统,即TSK类人学习模糊系统。本发明方法的优势在于所得到的TSK模糊系统不但能够充分利用当前场景的数据信息,而且还能够有效地利用历史储备来进行迁移辅助学习,它具有通过继承历史储备来弥补当前场景信息缺失的能力。
Description
技术领域
本发明涉及模糊系统,具体是一种具有类人学习能力的TSK模糊系统建模方法。
背景技术
迁移学习理论自95年被提及以来,在机器学习领域生产了巨大的影响。该方法颠覆了传统的机器学习方法,使得机器学习更加智能以及类人化。其具体的表现在于,利用该理论在建立模型时会考虑以往已有的相似模型,将以往的模型作为参照体,而后再结合当前的环境进行建模,这样的新型建模方法将大大提高前期的建模效率,并且有效地合理地利用历史储备也有助于模型初期的稳定性,比起传统的不考虑历史相似场景只考虑当前场景,全部从“零”开始的建模方法而言,该种策略来的更加快速有效。并且该种建模方法与人类的认知过程也是一致的,正如我们所知人在认知A’事物时,往往会借助A事物来进行迁移学习(注:A’与A存在某种相似性),具体的例子有:当人在认知“梨”这个概念时,一般会借用以往对“苹果”的认识来进行迁移再学习,这大大提高了认知的速度以及准确率。同样,对于机器学习而言,融入该策略之后,将使得传统的机器学习方法更具类人学习的效果。
模糊系统作为机器学习领域内一大重要的研究分支,其依靠自身独特的可解释性以及强大的学习能力,被广泛的应用于各个领域内,如智能控制、信号处理、模式识别等方面。针对模糊系统的研究主要集中在系统的参数学习方面,经典的学习方法包含以下两个方面:1)利用专家经验直接赋值;2)通过大量的数据进行训练学习得到。而在实际建模过程中后一种方法应用的更为广泛,也被大量的实验验证,利用该方法得到的系统更为稳定。但是,正如本文开篇所提及的问题一样,该方法也同样面临着:在针对当前场景数据进行建模时,若当前场景为新兴领域,所采样得到的数据不仅在规模上尚未达到传统建模的“量”,而且在信息完整性上也存在严重的缺失,达不到“质”的保障。在“质”与“量”都无法满足的条件下,强行构建所得之系统其泛化能力必定达不到现实生产过程中数据的复杂多样性。针对该种情况,有效地利用历史相关领域长久以来积累归纳的知识对上述场景而言将是一种有益的补充。但利用历史场景数据也同样存在着各方面的问题:一方面,针对一些具有保密性质的历史数据而言,普通的研究人员往往无法触及(直接获取数据),一般只能获取已被总结整理好的历史储备(如模型的参数)。另一方面,在大量使用历史相关数据时,若历史数据所处之领域与当前数据生产之领域存在较大的差异性,这样必定会给所建模型带来一定程度的负面影响。那么,如何克服在即不需要大量历史相关数据又能够弥补一定程度信息缺失的模糊系统变得十分紧迫。
发明内容
本发明的目的是为了克服上述之不足,提供一种具有类人学习能力的TSK模糊系统方法,使得利用这种建模策略不但可以有效地继承历史储备(由历史数据总结出的结论),而且还允许获取的历史储备与当前采集到的数据之间存在某一程度的偏差。最终,使得利用此种方法开发出的模糊系统更加适应于实际渐变环境下的生产控制。
按照本发明提供的技术方案,所述具有类人学习能力的TSK模糊系统建模方法,包含如下步骤:
1、具有类人学习能力的TSK模糊系统建模方法,其特征是,包含如下步骤:
其中,以及分别表示受训模型的松弛变量项,表示从步骤一历史训练得到模型参数,Pg表示通过当前数据以及历史模型参数共同引导得到的TSK模糊系统的模型参数,yi表示当前样本的第i个输出,xgi表示当前样本第i个样本点,ε表示误差控制项,τ表示TSK回归模型的容错项,λ表示对历史储备的继承程度,数值越大越接近历史;
步骤三:利用通过步骤二获取的模型参数Pg,利用以下输出,得到TSK模糊系统
进一步的,步骤二所述参数Pg优化求解的步骤包括:
(1)利用式2以及其附带的约束条件,利用经典的数学方法-拉格朗日条件极值法求得式2对应的对偶问题如下:
其中,
(2)利用式4,采用数学上经典的二次规划算法,得到λ+以及λ-对应的值;
(3)利用式4,此时Pg对应取极值的必要条件表示为
(4)利用式5以及二次规划求得λ+及λ-的值,最终得到参数Pg的学习规则如下式:
式2中的目标函数所包含两部分:第一个部分为基于传统TSK模糊系统训练方法的当前场景训练项Ψcurrent;第二个部分是利用当前场景数据结合历史储备进行类人学习的辅助训练项Ψhistory。目标函数的第二部分Ψhistory中,关于参数的选择,通过直接继承于利用历史储备数据构建的传统TSK模型的模型参数。参数λ用来均衡历史与当前的影响,若λ越大说明越逼近于历史,当前数据越不可靠,λ越小则表示当前数据渐渐可靠,可逐步摒弃历史储备不用。
本发明的优点是:本发明与现有技术相比本发明方法不需要大量历史数据的支持,仅是继承简洁的TSK历史模型参数,且允许当前采样得到的数据存在某种程度上的信息缺失.由于这些特性的存在,使得本发明方法不但能够根据历史储备进行当前场景下的信息弥补,又因为本方法只需要历史模型参数,因而利用该方法建模还能达到不暴露历史数据的效果,这也间接地对历史数据起到了隐私保护的作用,以上的特征都是传统的TSK模糊系统建模方法所不具备的。
附图说明
图1是本发明所述具有类人学习能力的TSK模糊系统建模方法示意图。
图2是两数据漂移偏差在0.85时的模拟历史和模拟当前场景的生成函数示意图。
图3是利用图2函数生成的历史场景采样数据集D1和当前场景采样训练数据集D2示意图。
图4是利用传统TSK建模方法基于当前场景数据构建的模糊系统性能示意图。
图5是本发明得到的新TSK模糊系统性能于模拟数据的示意图。
图6是本发明得到的新TSK模糊系统性能于真实葡萄糖数据集的示意图。
图7是本发明得到的新TSK模糊系统性能于真实谷氨酸数据集的示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步说明。
如图1所示,所述的具有类人学习能力的TSK模糊系统建模方法包含如下步骤:
其中,以及分别表示受训模型的松弛变量项,表示从步骤一历史训练得到模型参数,Pg表示通过当前数据以及历史模型参数共同引导得到的TSK模糊系统的模型参数,yi表示当前样本的第i个输出,xgi表示当前样本第i个样本点,ε表示误差控制项,τ表示TSK回归模型的容错项,λ表示对历史储备的继承程度,数值越大越接近历史;
步骤三:利用通过步骤二获取的模型参数Pg,利用以下输出,得到TSK模糊系统
此处需要说明的是式2中的目标函数所包含两部分:第一个部分为基于传统TSK模糊系统训练方法的当前场景训练项Ψcurrent;第二个部分是利用当前场景数据结合历史储备进行类人学习的辅助训练项Ψhtstory。目标函数的第二部分Ψhistory中,关于参数的选择,通过直接继承于利用历史储备数据构建的传统TSK模型的模型参数。参数λ用来均衡历史与当前的影响,若λ越大说明越逼近于历史,当前数据越不可靠,λ越小则表示当前数据渐渐可靠,可逐步摒弃历史储备不用。
步骤二所述参数Pg优化求解的步骤包括:
(1)利用式2以及其附带的约束条件,利用经典的数学方法-拉格朗日条件极值法求得式2对应的对偶问题如下:
其中,
(2)利用式4,采用数学上经典的二次规划算法,得到λ+以及λ-对应的值;
(3)利用式4,此时Pg对应取极值的必要条件表示为
(4)利用式5以及二次规划求得λ+及λ-的值,最终得到参数Pg的学习规则如下式:
以下是一个详细的实施过程。
1、历史总结阶段:
2、类人学习阶段:
5)利用表达式(5),求得当前的模型参数Pg;
3、新TSK模糊系统生成阶段:
6)利用传统的TSK输出表达形式,根据步骤5)得到的Pg生成出当前场景下的新TSK模糊系统。
通过上述三个阶段,最终得到了最优的基于当前场景TSK模糊系统。
图2显示了两类偏差在0.85情况下的模拟历史和模拟当前场景的生成函数。在图3~图7中,D1表示历史场景采样数据集,D2表示当前场景采样训练数据集(含有数据缺失的情况),D2_test表示当前场景采样测试数据集。FS(D1)表示通过传统TSK模糊系统建模方法在仅利用历史场景采样数据集的情况下所建之模型,FS(D2)表示通过传统TSK模糊系统建模方法在仅利用当前场景采样训练数据集的情况下所建之模型,FS(D1+D2)表示通过传统TSK模糊系统建模方法在利用历史场景采样数据集以及前场景采样训练数据集结合的数据集的情况下所建之模型,FS(D2+历史知识)为本次发明通过总结历史储备并利用当前场景采样训练数据集所建之模型。
实施例1
通过利用如图2所示之构造函数Y以及y生成出如图3所示的模拟历史数据集D1以及带有信息缺失的模拟当前场景数据集D2。如图4、5所示,在存在信息缺失的区间内,本发明较之于原始的方法具备更加稳定的系统性能。这一优良的性能进一步显示出了具类人学习能力的TSK模糊系统建模方法于存在信息缺失的环境下具有比传统的TSK模糊系统建模方法更好的数据适应能力。
实施例2
如图6、7所示,在真实的生产发酵数据集上,本发明由于自身所独有的历史继承能力,使得该方法的性能比之以往的任何一种TSK建模方法都显得更为有效。
实施例3
纺织/纺纱控制领域为了满足我国社会发展的需求,其技术的更新换代非常迅速,每一种方法之间虽然相似,但仍存在一定的差异性。另外,对于每天存在大量数据需要采集的纺织/纺纱控制领域,在自动化控制上需要大量且各式各样的数据采集器,这些数据采集器的存在使得该领域内采集到的数据很容易因为某一采集器的故障而导致采集到的数据存在某种程度上的信息缺失。但纺织行业是一项传统工艺,在该领域内存在大量的历史储备(历史经验)可以继承,那么,使用本发明训练得到的模糊系统较之于传统的TSK建模方法将有着巨大的优势,特别在高效、节能以及隐私保护方面。
Claims (5)
1.具有类人学习能力的TSK模糊系统建模方法,其特征是,包含如下步骤:
其中,以及分别表示受训模型的松弛变量项,表示从步骤一历史训练得到模型参数,Pg表示通过当前数据以及历史模型参数共同引导得到的TSK模糊系统的模型参数,yi表示当前样本的第i个输出,xgi表示当前样本第i个样本点,ε表示误差控制项,τ表示TSK回归模型的容错项,λ表示对历史储备的继承程度,数值越大越接近历史;
步骤三:利用通过步骤二获取的模型参数Pg,利用以下输出,得到TSK模糊系统
2.如权利要求1所述具有历史继承性的ML型模糊系统建模方法,其特征是,步骤二所述参数Pg优化求解的步骤包括:
1)利用式2以及其附带的约束条件,利用经典的数学方法-拉格朗日条件极值法求得式2对应的对偶问题如下:
其中,
2)利用式4,采用数学上经典的二次规划算法,得到λ+以及λ-对应的值;
3)利用式4,此时Pg对应取极值的必要条件表示为
4)利用式5以及二次规划求得λ+及λ-的值,最终得到参数Pg的学习规则如下式:
3.如权利要求1所述具有类人学习能力的TSK模糊系统建模方法,其特征是,式2中的目标函数所包含两部分:第一个部分为基于传统TSK模糊系统训练方法的当前场景训练项Ψcurrent;第二个部分是利用当前场景数据结合历史储备进行类人学习的辅助训练项Ψhistory。
5.如权利要求3所述具有类人学习能力的TSK模糊系统建模方法,其特征是,式3中的参数λ用来均衡历史与当前的影响,若λ越大说明越逼近于历史,当前数据越不可靠,λ越小则表示当前数据渐渐可靠,可逐步摒弃历史储备不用。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2012101798274A CN102722753A (zh) | 2012-06-01 | 2012-06-01 | 一种具有类人学习能力的tsk模糊系统建模方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2012101798274A CN102722753A (zh) | 2012-06-01 | 2012-06-01 | 一种具有类人学习能力的tsk模糊系统建模方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102722753A true CN102722753A (zh) | 2012-10-10 |
Family
ID=46948502
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2012101798274A Pending CN102722753A (zh) | 2012-06-01 | 2012-06-01 | 一种具有类人学习能力的tsk模糊系统建模方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102722753A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105391504A (zh) * | 2015-10-18 | 2016-03-09 | 中国电子科技集团公司第十研究所 | 基于tsk模糊集合检测噪声干扰的方法 |
CN109475329A (zh) * | 2015-01-07 | 2019-03-15 | 亚辛·马奈 | 基于ts模糊控制的非侵入性医疗分析方法 |
CN110543946A (zh) * | 2018-05-29 | 2019-12-06 | 百度在线网络技术(北京)有限公司 | 用于训练模型的方法和装置 |
CN112632854A (zh) * | 2020-12-17 | 2021-04-09 | 衡阳师范学院 | 基于类人学习能力的tsk模糊模型的故障预测方法及系统 |
-
2012
- 2012-06-01 CN CN2012101798274A patent/CN102722753A/zh active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109475329A (zh) * | 2015-01-07 | 2019-03-15 | 亚辛·马奈 | 基于ts模糊控制的非侵入性医疗分析方法 |
CN105391504A (zh) * | 2015-10-18 | 2016-03-09 | 中国电子科技集团公司第十研究所 | 基于tsk模糊集合检测噪声干扰的方法 |
CN105391504B (zh) * | 2015-10-18 | 2017-10-13 | 中国电子科技集团公司第十研究所 | 基于tsk模糊集合检测噪声干扰的方法 |
CN110543946A (zh) * | 2018-05-29 | 2019-12-06 | 百度在线网络技术(北京)有限公司 | 用于训练模型的方法和装置 |
CN110543946B (zh) * | 2018-05-29 | 2022-07-05 | 百度在线网络技术(北京)有限公司 | 用于训练模型的方法和装置 |
CN112632854A (zh) * | 2020-12-17 | 2021-04-09 | 衡阳师范学院 | 基于类人学习能力的tsk模糊模型的故障预测方法及系统 |
CN112632854B (zh) * | 2020-12-17 | 2022-04-12 | 衡阳师范学院 | 基于类人学习能力的tsk模糊模型的故障预测方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11164095B2 (en) | Fuzzy curve analysis based soft sensor modeling method using time difference Gaussian process regression | |
CN111461463B (zh) | 一种基于tcn-bp的短期负荷预测方法、系统及设备 | |
CN102832617B (zh) | 一种基于精确化模式判别的大电网暂态稳定分析方法 | |
CN109614495A (zh) | 一种结合知识图谱和文本信息的相关公司挖掘方法 | |
CN112130086B (zh) | 一种动力电池剩余寿命预测方法及系统 | |
CN106156434A (zh) | 基于局部时滞重构的滑动窗时间差‑高斯过程回归建模方法 | |
CN104408667A (zh) | 一种电能质量综合评估的方法和系统 | |
CN105719029A (zh) | 一种基于风速波动特征提取的风电功率组合预测方法 | |
CN102722753A (zh) | 一种具有类人学习能力的tsk模糊系统建模方法 | |
Sogabe et al. | Optimization of decentralized renewable energy system by weather forecasting and deep machine learning techniques | |
CN103559542A (zh) | 基于先验知识的可拓神经网络模式识别方法 | |
Zhang et al. | Energy modeling using an effective latent variable based functional link learning machine | |
CN116777039A (zh) | 基于训练集分段和误差修正的双层神经网络风速预测方法 | |
CN108805155A (zh) | 同时学习关联矩阵和拉普拉斯正则化最小二乘的半监督分类方法 | |
CN108304976A (zh) | 一种电力系统精细化负荷预测和分析方法 | |
Tian et al. | Novel deep layers-extended autoencoder with correlation and its industrial soft sensing | |
CN117113054A (zh) | 一种基于图神经网络和Transformer的多元时间序列预测方法 | |
CN112132344A (zh) | 一种基于相似日和frs-svm的短期风电功率预测方法 | |
CN111090679A (zh) | 基于时序影响和图嵌入的时序数据表示学习方法 | |
Nazarov et al. | Machine Learning Price Prediction on Green Building Prices | |
CN106816871A (zh) | 一种电力系统状态相似性分析方法 | |
Wang et al. | A fuzzy matching approach for design pattern mining | |
CN113609758B (zh) | 一种新建风电场的功率预测方法 | |
Chai et al. | Production Forecast of Coalbed Methane Based on GA Optimized BP Neural Network | |
CN102496065A (zh) | 具有历史继承性的ml型模糊系统建模方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20121010 |