CN102792234A - 用于计算机辅助地控制和/或调节技术系统的方法 - Google Patents
用于计算机辅助地控制和/或调节技术系统的方法 Download PDFInfo
- Publication number
- CN102792234A CN102792234A CN2011800136186A CN201180013618A CN102792234A CN 102792234 A CN102792234 A CN 102792234A CN 2011800136186 A CN2011800136186 A CN 2011800136186A CN 201180013618 A CN201180013618 A CN 201180013618A CN 102792234 A CN102792234 A CN 102792234A
- Authority
- CN
- China
- Prior art keywords
- state
- action
- technological system
- aforementioned
- dimension
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 104
- 230000009471 action Effects 0.000 claims abstract description 52
- 230000000306 recurrent effect Effects 0.000 claims abstract description 38
- 238000013528 artificial neural network Methods 0.000 claims abstract description 37
- 230000006399 behavior Effects 0.000 claims abstract description 22
- 238000011156 evaluation Methods 0.000 claims abstract description 20
- 238000005457 optimization Methods 0.000 claims abstract description 19
- 238000005516 engineering process Methods 0.000 claims description 14
- 230000006870 function Effects 0.000 claims description 11
- 238000012549 training Methods 0.000 claims description 11
- 239000000567 combustion gas Substances 0.000 claims description 7
- 238000004590 computer program Methods 0.000 claims description 4
- 238000010304 firing Methods 0.000 claims description 4
- 239000002699 waste material Substances 0.000 claims description 4
- 230000004913 activation Effects 0.000 claims description 3
- 238000010801 machine learning Methods 0.000 claims description 3
- 238000005312 nonlinear dynamic Methods 0.000 claims description 2
- 230000008901 benefit Effects 0.000 abstract description 3
- 230000001537 neural effect Effects 0.000 abstract 2
- 230000000875 corresponding effect Effects 0.000 description 15
- 230000008569 process Effects 0.000 description 8
- 239000011159 matrix material Substances 0.000 description 7
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 235000017060 Arachis glabrata Nutrition 0.000 description 1
- 241001553178 Arachis glabrata Species 0.000 description 1
- 235000010777 Arachis hypogaea Nutrition 0.000 description 1
- 235000018262 Arachis monticola Nutrition 0.000 description 1
- 241001269238 Data Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 235000020232 peanut Nutrition 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 238000010561 standard procedure Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
- G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
- G05B13/0265—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
- G05B13/027—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion using neural networks only
Landscapes
- Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Feedback Control In General (AREA)
Abstract
本发明涉及一种用于计算机辅助地调节和/或控制技术系统的方法。在该方法中,使用回归神经网络来对技术系统的动态行为进行建模,该回归神经网络的输入层包含技术系统的状态以及在技术系统处执行的动作,所述状态和动作被输送给回归隐藏层。在此,回归神经网络的输出层由评价信号来表示,该评价信号再现技术系统的动态特性。必要时也可以作为输出层的状态而仅仅使用技术系统的状态的影响评价信号的状态变量或在技术系统处执行的动作的影响评价信号的动作变量。利用该回归神经网络生成的隐藏状态被用于基于学习和/或优化方法控制或调节技术系统。根据本发明的方法所具有的优点是,可以以合适方式减小回归隐藏层的状态空间的维数,并且仍然良好地对技术系统的动态特性进行建模。由此可以实现对技术系统的计算高效和精确的控制或调节。
Description
技术领域
本发明涉及一种用于计算机辅助地控制和/或调节技术系统的方法以及一种相应的计算机程序产品。
背景技术
如今,技术系统通常具有高复杂度,也就是说,技术系统由具有大量状态变量的状态来描述。另外,可以基于相应的动作变量在技术系统处执行大量不同的动作。在此,状态变量尤其是技术系统的可测量的状态参量,例如物理参量,如压力、温度、功率等等。动作变量尤其是技术系统的可调整的参量,例如燃料到燃气涡轮机中的燃烧室的输送。
在控制复杂技术系统时常常使用计算机辅助的方法,这些方法在考虑到预定标准的情况下优化技术系统的动态时间行为。这种方法的示例是学习方法,如从现有技术中充分公知的增强型学习方法(Reinforcement Learning(强化学习))。这样的学习方法的变型在文献DE 10 2007 001 025 B4中予以了描述。这些公知的方法通过确定在技术系统处执行的合适动作来优化技术系统的动态行为,其中所述动作包括技术系统中的确定的调整参量的变化,如阀门位置的变化、压力的升高等等。在此,每个动作都以合适的方式通过以奖励或惩罚形式的评价信号例如在考虑到成本函数的情况下被评价,由此可以实现技术系统的最优的动态行为。
在上述用于控制或优化技术系统的动态行为的标准方法中所存在的问题是,这样的方法仅能以有限的规模用于具有大量状态变量和动作变量的技术系统(即在由状态和动作构成的高维状态空间中)。
为了减少状态变量,从文献DE 10 2007 001 026 B4中公知基于回归神经网络对技术系统进行建模,其中回归隐藏层中的状态数目比输入层或输出层中小。在此,隐藏状态被用作为用于调节和/或控制技术系统的相应学习或优化方法的输入。该文献的方法尽管减小了隐藏层的状态空间的维数,但是未考虑到:为了对技术系统的动态行为建模实际上需要哪种信息内容。尤其是在输出层中在那里建模的动态特性的情况下总是从输入层中预测所有状态变量,而不分析为了对技术系统的动态行为进行建模实际上需要哪些状态变量。因此,该文献的方法尽管在缩小的状态空间上工作,但是并不保证:在该缩小的状态空间中正确地对技术系统的动态特性建模。这在建模时或在计算机辅助地控制和/或调节技术系统时导致较大的误差。
发明内容
本发明的任务是,提供一种用于控制和/或调节技术系统的方法,该方法以高的计算效率和精度对技术系统的动态行为进行建模。
该任务通过根据权利要求1的方法及根据权利要求15的计算机程序产品来解决。本发明的改进方案在从属权利要求中定义。
根据本发明的方法用于计算机辅助地控制或调节技术系统,该技术系统在多个时刻分别由具有多个状态变量的状态和在技术系统处执行的具有多个动作变量的动作以及所述状态和所述动作的评价信号来表征。
在根据本发明的方法中,利用包括输入层、回归隐藏层和输出层的回归神经网络基于来自已知状态、动作和评价信号的训练数据来对技术系统的动态行为进行建模,其中:
i)输入层由具有第一维数的第一状态空间构成,该第一状态空间包括技术系统的状态和在技术系统处执行的动作;
ii)回归隐藏层由具有第二维数的第二状态空间构成,该第二状态空间包括具有多个隐藏状态变量的隐藏状态;
iii)输出层由具有第三维数的第三状态空间构成,该第三状态空间被确定为使得其状态表示评价信号或者仅仅表示影响评价信号的状态变量和/或动作变量。
第一状态空间的维数因此对应于输入层中的状态变量和动作变量的数目。第二状态空间的维数由隐藏状态变量的数目给定。第三状态空间的维数对应于评价信号的维数(通常为一维)或影响该信号的状态变量和/或动作变量的数目。
对技术系统的动态行为建模以后,在根据本发明的方法中,在第二状态空间中的隐藏状态上通过在技术系统处实施动作来执行用于控制和/或调节技术系统的学习和/或优化方法。
根据本发明的方法的特征在于,使用回归神经网络,该回归神经网络的输出层受评价信号或仅受确定评价信号的参量影响。通过这种方式保证了:在回归神经网络中仅仅对实际上影响技术系统的动态特性的参量进行建模。由此,甚至在第二状态空间的第二维数降低的情况下也可以非常良好地对技术系统的动态行为进行建模。因此,使得能够基于隐藏层中的隐藏状态精确和计算高效地调节和/或控制技术系统。
优选地在根据本发明的方法中,技术系统的动态行为的建模这样进行,使得回归神经网络基于训练数据被训练为使得从一个或多个过去时刻为一个或多个未来时刻预测输出层的状态。这例如通过如下方式来实现:使预测状态与根据训练数据的状态之间的误差最小化。优选地在预测时预测输出层的状态的预期值以及特别优选地预测评价信号的预期值。
为了利用本发明的回归神经网络实现合适的预测,在一个优选的变型方案中,隐藏层中的隐藏状态通过权重被连接为使得未来时刻的权重不同于过去时刻的权重。也就是说,在回归神经网络中允许与过去时刻不同地选择未来时刻的权重。在此,权重可以是矩阵,但是必要时也可以由多层感知器形式的神经网络来表示。神经网络中的各个层之间的权重也可以由矩阵或者必要时也由多层感知器来实现。
根据本发明的方法尤其具有的优点是,可以控制或调节具有非线性动态特性的技术系统。另外,在根据本发明的方法中使用具有非线性激活函数的回归神经网络。
作为应用于回归神经网络的回归隐藏层的隐藏状态的学习或优化方法,可以使用从现有技术中公知的任意方法。例如,可以使用在上面提到的文献DE 10 2007 001 025 B4中描述的方法。一般而言,对于学习或优化方法使用机器学习方法并且尤其是增强型学习方法。这样的学习方法的示例是动态编程和/或优先扫描和/或Q学习。
为了适当地调整回归神经网络中的第二状态空间的第二维数,在根据本发明方法的另一优选变型方案中,第二状态空间的第二维数变化,直到找到满足一个或多个预先给定的标准的第二维数。该找到的第二维数然后被用于回归隐藏层的第二状态空间。在此,在一个优选的变型方案中,只要输出层的利用回归神经网络确定的状态与根据训练数据的已知状态之间的偏差小于预先确定的阈值,就逐步地减小第二状态空间的第二维数。由此,以合适的方式找到具有减少的维数的第二状态空间,该第二状态空间实现了技术系统的动态行为的建模。
在根据本发明方法的另一变型方案中,评价信号由取决于状态变量和/或动作变量的一部分的评价函数表示。状态变量和/或动作变量的该部分因此同样可以构成输出层的状态。
在根据本发明方法的特别优选的实施方式中,在回归神经网络中所使用的评价信号还用在与其联系的学习和/或优化方法中,以便关于最优的评价信号实施动作。在此,最优是指,该动作导致根据评价信号的高回报或小成本。
根据本发明的方法可以在任意技术系统中用于其控制或调节。在一个特别优选的变型方案中,将根据本发明的方法用于控制涡轮机、尤其是燃气涡轮机或风力涡轮机。对于燃气涡轮机,评价信号例如至少由涡轮机的效率和/或废物排放和/或涡轮机的燃烧室的机械载荷来确定。在此,优化的目的是燃烧室的高效率或少的废物排放或小的机械载荷。在将该方法用于调节或控制风力涡轮机的情况下,评价信号可以例如至少是风力涡轮机的一个或多个转子叶片上的(动态)力载荷和所产生的电功率。
除了上述方法以外,本发明还包括具有存储在机器可读载体上的程序代码的计算机程序产品,所述程序代码用于在该程序在计算机上运行时执行根据本发明的方法。
附图说明
下面根据附图详细描述本发明的实施例。
图1示出了一般地说明技术系统的动态行为的建模的示意图;
图2示出了在本发明的实施方式中用于计算隐藏状态的回归神经网络的示意图;
图3示出了风力涡轮机形式的技术系统的示意图,其中基于该系统的数据测试了根据本发明方法的实施方式;
图4示出了基于根据图3的风力涡轮机的数据来说明根据本发明方法的实施方式的结果的图表;
图5示出了基于本身公知的Cart-Pole问题再现根据本发明方法的实施方式的结果的图表。
具体实施方式
图1示意性地示出了在本发明中考察的技术系统的动态特性,该技术系统由具有附图标记T的框来表示。在此,该技术系统在相应时刻t由可观察的状态或可观测量zt和在技术系统处执行的动作 来描述。在此,该系统包含内部或隐藏状态st,该状态是不可观察的。在此,隐藏状态st由于动作而改变,并且转变到状态st+1。状态st+1取决于动作以及在先状态st。技术系统T另外由合适的评价信号(图1中不可见)来规定,该评价信号定义:在技术系统的状态中执行的动作在技术系统的最优运行方面以何种程度被归为良好的。这样的评价信号的示例是技术系统的废物排放或者技术系统在运行中的机械载荷和交变载荷,其中控制或调节技术系统的目标设定是小的排放或小的机器载荷。
在根据本发明的方法中,在考虑到评价信号的情况下首先基于包括在多个时刻的状态和动作的训练数据来执行技术系统的动态行为的合适的建模。接着,将经常也被称为奖励(Reward)并且在技术系统的运行中应当尽可能大的回报信号看成为评价信号。出发点是,对技术系统的描述基于状态和动作是所谓的马尔可夫(Markov)决策过程,其中针对该决策过程,只有该回报信号示出了相关信息。马尔可夫决策过程是从现有技术中公知的,并且例如在文献DE 10 2007 001 025 B4中被详细定义。
利用根据本发明的方法,对于通过回报定义的马尔可夫决策过程重要的信息被编码到隐藏状态st中,其中-与公知方法不同-不考虑对于马尔可夫决策过程不重要的信息。为了实现这一点,用于对技术系统的动态行为建模的回归神经网络被构造为使得在输出层中包含回报信号或仅仅包含影响回报信号的参量,这将在下面更进一步描述。
如上面提到的,首先执行对技术系统的动态行为的建模,由此获得技术系统的合适的隐藏状态。在这些状态上可以接着应用合适的、用于控制或调节技术系统的学习方法或优化方法来。这些方法于是在技术系统的实际运行中提供技术系统在特定状态下的分别最优的动作,其中该最优化是通过上面提到的回报信号来确定的。
为了更好的理解,首先阐述:如何能够以常规方式借助于回归神经网络来对技术系统的动态行为进行建模以及由此能够获得相应的隐藏状态。一般而言,按下式来描述技术系统在彼此相继的时刻 的动态特性:
因此,寻找对函数f和g的合适的参数化,使得预测的状态与实际的观察状态之间的偏差最小。在文献DE 10 2007 001 025 B4和DE 10 2007 001 026 B4中示出了这种基于回归神经网络对技术系统进行的建模。在此,该网络中的输出层如已经在上面提到的那样包含要预测的可观测量。
可观测量通常由来自多个状态变量的矢量来描述。类似地,动作由具有多个动作变量的矢量来描述。现在已经认识到,为了对技术系统的动态特性建模,在许多情况下不是必须考虑矢量zt或的所有项。这通过下面描述的马尔可夫决策过程提取网络来实现,该网络在下面亦称MPEN网络。在此,相对于常规的动态一致回归神经网络而言进行几个改变。
图2中示出了MPEN网络的特殊实施方式。在此,该图的MPEN网络的输入层用I来表示,隐藏层用V来表示,并且输出层用O来描述。当前时刻是时刻t。可以认识到,输入层包括状态zt-2、zt-1、zt以及相应的动作、、,它们以合适的方式引入到隐藏层V中的相应隐藏状态中。在图2的实施方式中,针对过去存在两种类型的隐藏状态,即、及、。除此之外,网络在当前时刻t包含隐藏状态和。另外,已经在上面提到的回报与一状态以及在该状态中实施的动作耦合,该回报针对图1中的时刻t用rt来表示。在此,在图2中针对输出层再现了在当前时刻t要预测的回报。通常,输出层还包含另外的、处于未来的回报rt+1、rt+2等等,这些回报由该网络预测。
图2的网络的虚线部分说明在时刻t对回报rt的预测,该回报与内部回报耦合。与公知网络不同,现在输出层O通过回报信号而不是通过状态矢量来描述。这需要图2的网络被划分成两个部分网络,其中第一部分网络处于图2的线L的左方并且描述过去和现在,而第二部分网络处于线L的右方并且将来自第一部分网络的信息用于回报的预测。在此应当考虑,图2的网络的目标不是预测动作序列、即预先给定所示动作以及另外(未示出)的未来动作。基于预先给定的动作仅仅预测回报。以合适的方式通过用大写字母表示的权重矩阵将这些层中的各个状态彼此连接,其中图2的网络的动态特性可以通过下列等式来描述:
替代于使用权重矩阵,必要时也可以使用多层感受器来描述加权。
图2的网络中的重要方面在于,针对过去使用不同于未来(即)的其他权重矩阵(即)。这通过上述到第一和第二部分网络的划分来实现。一般而言,到部分网络的划分可以被描述为使得形成针对过去状态的部分网络和针对未来状态的部分网络,使得针对要预测的隐藏状态有下列条件成立:
在此应当注意,当前隐藏状态st和所实施的动作at足以描述所有相关回报函数的预期值,因为在自变数中必然包含了关于后继状态st+1的所有信息。利用作为目标参量的回报信号,可以如下地描述通过MPEN网络执行的优化:
可以认识到,与等式(3)不同,现在基于来自训练数据的已知回报信号寻求针对f、g的参数化,该参数化对预测的回报信号与已知的回报信号之间的误差进行最小化。这样的回归神经网络从第一部分网络中的过去观察序列中积累了马尔可夫特性所需的所有信息,而第二部分网络优化状态转变。
在前述MPEN网络中所基于的经证明的认识是,回归神经网络可以用于逼近马尔可夫决策过程,其方式是,基于观察的历史来预测所有预期的未来后继状态。由于回归神经网络,每个状态必须将所有所需的信息编码,以便估计通过执行动作得出的后继状态。出于该原因,回归神经网络必须能够针对每个未来状态估计预期的回报信号,因为回报函数仅能将一个状态、一个动作以及一个后继状态用作自变数。由此导致:针对利用回归神经网络的增强型学习足够的是,对能够预测所有未来时刻的回报信号的动态特性进行建模。基于该预测已经构建了上述以及在图2中示例性示出的MPEN网络。
在本发明的范围内,相应地利用训练数据学习的MPEN网络作为隐藏状态st+1。该状态于是用作为用于另一学习和/或优化方法的输入。在该方面中,根据本发明的方法对应于在文献DE 10 2007 001 026 B4中所描述的方法,但是其中根据本发明,将其他建模用于技术系统的动态行为。作为后续的学习和/或优化方法使用从现有技术中公知的机器学习方法,例如可以使用文献DE 10 2007 001 025 B4中的增强型学习方法。同样可以使用公知的学习方法、动态编程、优先扫描以及Q学习。
图3说明风力涡轮机形式的技术系统,其中基于风力涡轮机的运行数据测试了根据本发明方法的实施方式。风力涡轮机在图1中用附图标记1来表示,并且包括三个转子叶片1a、1b和1c。风力涡轮机的动态行为利用常规的回归神经网络以及利用根据本发明的MPEN网络被建模,其中作为回报信号使用作用于转子叶片的要最小化的负荷。在此,要在风力涡轮机处执行的动作通过改变各个转子叶片的安装角来规定,其中该改变在图3中通过相应的圆圈C来表示。
在所执行的试验中,作为输入变量、即作为输入层的状态考察总共46个变量。在常规的回归神经网络中,也用该46个变量来描述输出层。与此相对地,在根据本发明的MPEN网络中,作为要预测的输出仅考察回报信号。在此,利用不同的许多过去状态以及未来要预测的状态或回报来考察不同的回归神经网络。同样,不同地选择相应隐藏状态的维数(即隐藏状态的状态变量的数目)。
图4示出这样的图表,该图表再现了转子叶片上的负荷的平均预测误差PE与未来的预测时间步长TS的关系。在此,线L1和L2示出了常规神经网络的误差,其中分别利用20个状态变量来考察隐藏状态。另外针对根据线L2的网络,替代于46个变量在输入层中使用仅仅26个变量。与此相对地,图3示出了具有由4个状态变量构成的隐藏状态的MPEN网络,并且线L4示出了具有由20个状态变量构成的隐藏状态的MPEN网络。可以认识到,尽管MPEN网络使用具有仅仅4个变量的隐藏状态空间,MPEN网络也比常规的回归神经网络提供更佳的预测。根据本发明的预测回报信号的MPEN网络因此非常好地描述了风力涡轮机形式的技术系统的动态特性。在此,该方法是非常有计算效率的,因为小数目的隐藏状态变量就足以对系统进行建模。因此可以假定,基于利用MPEN网络预测的隐藏状态随动地控制或调节风力涡轮机实现了风力涡轮机以转子叶片上尽可能小的负荷进行的经优化的运行。
另外,按照从现有技术中充分公知的Cart-Pole问题测试了根据本发明的方法。该问题例如在文献DE 10 2007 001 025 B4中被详细阐述。经典的Cart-Pole问题涉及一个杆(Stab),该杆以可转动的方式固定于在平面中运动的车辆上,其中该车辆可以在两个界限之间来回运动。该杆被向前定向,并且目标是,通过将车辆在界限内移动来尽可能长地平衡该杆,而不到达所述界限或者杆相对于垂直方向倾斜不超过12°。于是,当杆在大于100000个步骤中平衡时该问题得到解决,其中所述步骤分别表示车辆的预先确定的运动。在此,当达到极限时,相应的回报信号由值-1来定义。否则,回报信号为0。Cart-Pole问题在每个时刻t的马尔可夫状态完全由车辆的位置、车辆的速度、垂直于车辆的杆的角度以及杆的角度速来描述。在此,可能的动作包括车辆以恒定的力F或不施加力向左或向右的运动。
为了测试根据本发明的方法,在MPEN网络的输入层中仅仅考察3个可观测量,即车辆的位置和速度以及杆的角度。由此,违反了马尔可夫条件。然后基于以表格为基础的动态编程,利用MPEN网络获得的隐藏状态被输送给学习方法。尽管通过考察仅仅3个可观测量而违反了马尔可夫条件,但是可以利用MPEN网络以合适方式提取马尔可夫决策过程并且令人满意地解决Cart-Pole问题。
这通过图5来表明,该图示出了再现所学习的动作选择规则的图表。图5的线L′说明了利用MPEN网络和接着的动态编程所获得的彼此相继的平衡步骤BS的数目与用来学习动态编程的观察B的数目的关系。与此相对地,图5中的线L′′表示在没有前置MPEN网络的情况下基于原始4个可观测量的动态编程的彼此相继的平衡步骤的数目。MPEN网络利用25000个训练数据被训练,其中-如上面提到的-仅仅考虑到3个可观测量。从图5中可认识到,尽管省略了针对Cart-Pole问题的可观测量,但是利用大量的平衡步骤实现了非常良好的结果。
如从上面的阐述中得出的,根据本发明的方法具有一系列优点。尤其是实现了高的预测质量,该预测质量明显比常规的递归神经网络中更好。另外,在对技术系统的动态特性进行建模时,可以使用具有少的隐藏状态变量的紧凑的内部状态空间。该状态空间开拓了这样的可能性,即针对应用于隐藏状态的学习和/或优化方法,也使用作为输入数据需要具有小维数的状态空间的方法。
在根据本发明的方法中,通过将评价信号或仅仅影响评级信号的参量用作为要预测的目标值而仅仅考虑对于系统的动态特性重要的方面。由此可以使用隐藏层中具有最小维数的状态,该状态可以接着作为用于相应学习方法或模型精确的调节或其他优化方法的状态被用于在动作空间中进行寻找,以便因此解决基于评级信号的优化控制问题。
Claims (15)
1.用于计算机辅助地控制和/或调节技术系统(T)的方法,其中:
a)技术系统(T)在多个时刻(t)分别由具有多个状态变量的状态(xt)和在技术系统处执行的具有多个动作变量的动作(at)以及所述状态(xt)和所述动作(at)的评价信号(rt)来表征;
b)利用包括输入层(I)、回归隐藏层(H)和输出层(O)的回归神经网络基于由已知状态(xt)、动作(at)和评价信号(rt)构成的训练数据来对技术系统(T)的动态行为进行建模,其中:
i)输入层(I)由具有第一维数的第一状态空间构成,该第一状态空间包括技术系统(T)的状态(xt)和在技术系统(T)处执行的动作(at);
iii)输出层(O)由具有第三维数的第三状态空间构成,该第三状态空间被确定为使得其状态表示评价信号(rt)或者仅仅表示影响评价信号(rt)的状态变量和/或动作变量;
c)在第二状态空间中的隐藏状态(st)上通过在技术系统(T)处实施动作(at)来执行用于控制和/或调节技术系统(T)的学习和/或优化方法。
2.根据权利要求1所述的方法,其中在步骤b)中对技术系统的动态行为进行建模时基于训练数据这样训练回归神经网络,即从一个或多个过去时刻中为一个或多个未来时刻预测输出层(O)的状态(rt)。
4.根据前述权利要求之一所述的方法,其中所述技术系统具有非线性的动态特性。
5.根据前述权利要求之一所述的方法,其中在步骤b)中,所述回归神经网络使用非线性的激活函数。
6.根据前述权利要求之一所述的方法,其中步骤c)中的学习和/或优化方法是机器学习方法并且尤其是增强型学习方法。
7.根据权利要求6所述的方法,其中所述学习和/或优化方法包括动态编程和/或优先扫描和/或Q学习。
8.根据前述权利要求之一所述的方法,其中在步骤b)中,第二状态空间的第二维数改变,直到找到满足一个或多个预先给定的标准的第二维数。
9.根据权利要求8所述的方法,其中在步骤b)中,只要输出层(O)的利用回归神经网络确定的状态(rt)与根据训练数据的已知状态的偏差小于预先确定的阈值,就逐步减小第二状态空间的第二维数。
10.根据前述权利要求之一所述的方法,其中评价信号(rt)由评价函数来表示,所述评价函数取决于状态变量和/或动作变量的一部分。
11.根据前述权利要求之一所述的方法,其中步骤c)中的学习和/或优化方法使用评价信号(rt)来关于最优评价信号(rt)实施动作(at)。
12.根据前述权利要求之一所述的方法,其中所述技术系统(T)是涡轮机,尤其是燃气涡轮机或风力涡轮机。
13.根据前述权利要求之一所述的方法,其中所述技术系统(T)是燃气涡轮机,其中评价信号(rt)至少由所述燃气涡轮机的效率和/或废物排放和/或所述燃气涡轮机的燃烧室的交变压力和/或机械载荷来确定。
14.根据前述权利要求之一所述的方法,其中所述技术系统是风力涡轮机,其中评价信号(rt)至少由所述风力涡轮机的一个或多个转子叶片上的力载荷和/或交变载荷来确定。
15.具有存储在机器可读载体上的程序代码的计算机程序产品,所述程序代码用于在该程序在计算机上运行时执行根据前述权利要求之一所述的方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102010011221.6 | 2010-03-12 | ||
DE102010011221A DE102010011221B4 (de) | 2010-03-12 | 2010-03-12 | Verfahren zur rechnergestützten Steuerung und/oder Regelung eines technischen Systems |
PCT/EP2011/052162 WO2011110404A1 (de) | 2010-03-12 | 2011-02-15 | Verfahren zur rechnergestützten steuerung und/oder regelung eines technischen systems |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102792234A true CN102792234A (zh) | 2012-11-21 |
CN102792234B CN102792234B (zh) | 2015-05-27 |
Family
ID=43923710
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180013618.6A Active CN102792234B (zh) | 2010-03-12 | 2011-02-15 | 用于计算机辅助地控制和/或调节技术系统的方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20130013543A1 (zh) |
EP (1) | EP2519861B1 (zh) |
CN (1) | CN102792234B (zh) |
DE (1) | DE102010011221B4 (zh) |
DK (1) | DK2519861T3 (zh) |
WO (1) | WO2011110404A1 (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105051625A (zh) * | 2013-03-26 | 2015-11-11 | 西门子公司 | 用于技术系统的计算机辅助控制和/或调节的方法 |
CN105556401A (zh) * | 2013-09-25 | 2016-05-04 | 西门子公司 | 用于计算机辅助地控制和/或调节技术系统的方法 |
CN106662847A (zh) * | 2014-07-01 | 2017-05-10 | 西门子公司 | 用于借助于仿真模块的计算机辅助的设施控制优化的方法 |
CN107077110A (zh) * | 2014-10-22 | 2017-08-18 | 西门子股份公司 | 用于确定排放特性的方法 |
CN110658785A (zh) * | 2018-06-28 | 2020-01-07 | 发那科株式会社 | 输出装置、控制装置、以及评价函数值的输出方法 |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10089443B2 (en) | 2012-05-15 | 2018-10-02 | Baxter International Inc. | Home medical device systems and methods for therapy prescription and tracking, servicing and inventory |
US8775341B1 (en) | 2010-10-26 | 2014-07-08 | Michael Lamport Commons | Intelligent control with hierarchical stacked neural networks |
US9015093B1 (en) | 2010-10-26 | 2015-04-21 | Michael Lamport Commons | Intelligent control with hierarchical stacked neural networks |
KR101608283B1 (ko) | 2010-12-10 | 2016-04-01 | 지멘스 악티엔게젤샤프트 | 기술 시스템의 컴퓨터―보조 모델링을 위한 방법 |
US9466032B2 (en) | 2011-06-03 | 2016-10-11 | Siemens Aktiengesellschaft | Method for the computer-supported generation of a data-driven model of a technical system, in particular of a gas turbine or wind turbine |
DE102011076969B4 (de) | 2011-06-06 | 2015-01-08 | Siemens Aktiengesellschaft | Verfahren zum rechnergestützten Lernen einer Regelung und/oder Steuerung eines technischen Systems |
CN102562469B (zh) * | 2011-12-27 | 2014-01-22 | 华北电力大学 | 基于校正算法的短期风力发电机输出功率预测方法 |
DE102012206651A1 (de) | 2012-04-23 | 2013-10-24 | Siemens Aktiengesellschaft | Verfahren zur Regelung einer Turbine |
KR102103812B1 (ko) * | 2013-03-25 | 2020-04-24 | 가부시키가이샤 유야마 세이사쿠쇼 | 약제 분포 장치, 약제 분포지 잔량 판단 방법 및 약제 분포지 롤 |
EP2943841B1 (de) * | 2013-03-26 | 2019-08-28 | Siemens Aktiengesellschaft | Verfahren zur rechnergestützten steuerung und/oder regelung eines technischen systems |
CN103410662A (zh) * | 2013-08-06 | 2013-11-27 | 江苏科技大学 | 风电系统最大风能捕获神经网络补偿控制方法 |
US9679258B2 (en) | 2013-10-08 | 2017-06-13 | Google Inc. | Methods and apparatus for reinforcement learning |
JP6612716B2 (ja) | 2016-11-16 | 2019-11-27 | 株式会社東芝 | パターン識別装置、パターン識別方法およびプログラム |
DE102016224207A1 (de) * | 2016-12-06 | 2018-06-07 | Siemens Aktiengesellschaft | Verfahren und Steuereinrichtung zum Steuern eines technischen Systems |
DE102017216634A1 (de) * | 2017-09-20 | 2019-03-21 | Siemens Aktiengesellschaft | Verfahren und Trainingsdatengenerator zum Konfigurieren eines technischen Systems sowie Steuereinrichtung zum Steuern des technischen Systems |
WO2019099693A1 (en) * | 2017-11-15 | 2019-05-23 | Schlumberger Technology Corporation | Field operations system with filter |
EP3534278A1 (de) * | 2018-02-28 | 2019-09-04 | Siemens Aktiengesellschaft | Verfahren und anordnung zum rechnergestützten entwerfen einer industriellen fertigungsanlage |
EP3588211A1 (de) * | 2018-06-27 | 2020-01-01 | Siemens Aktiengesellschaft | Steuereinrichtung zum steuern eines technischen systems und verfahren zum konfigurieren der steuereinrichtung |
WO2020074787A1 (en) * | 2018-10-13 | 2020-04-16 | IPRally Technologies Oy | Method of searching patent documents |
KR20210062838A (ko) * | 2019-11-22 | 2021-06-01 | 엘지전자 주식회사 | 인공지능 기반의 음성처리 방법 |
US20220199078A1 (en) * | 2020-12-22 | 2022-06-23 | Samsung Electronics Co., Ltd. | Electronic apparatus, system comprising electronic apparatus and server and controlling method thereof |
US11883746B2 (en) * | 2021-02-23 | 2024-01-30 | Electronic Arts Inc. | Adversarial reinforcement learning for procedural content generation and improved generalization |
US20230111052A1 (en) * | 2021-10-13 | 2023-04-13 | International Business Machines Corporation | Self-learning annotations to generate rules to be utilized by rule-based system |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005081076A2 (de) * | 2004-02-24 | 2005-09-01 | Siemens Aktiengesellschaft | Verfahren, zur prognose eines brennkammerzustandes unter verwendung eines rekurrenten, neuronalen netzes |
CN1750010A (zh) * | 2005-10-09 | 2006-03-22 | 万向钱潮股份有限公司 | 一种计算机辅助的汽车底盘选型方法 |
DE102007001025A1 (de) * | 2007-01-02 | 2008-07-03 | Siemens Ag | Verfahren zur rechnergestützten Steuerung und/oder Regelung eines technischen Systems |
DE102007001026A1 (de) * | 2007-01-02 | 2008-07-03 | Siemens Ag | Verfahren zur rechnergestützten Steuerung und/oder Regelung eines technischen Systems |
CN101566829A (zh) * | 2008-04-23 | 2009-10-28 | 西门子公司 | 针对技术系统的计算机辅助的开环和/或闭环控制的方法 |
CN101573667A (zh) * | 2007-01-02 | 2009-11-04 | 西门子公司 | 用于对技术系统、尤其是燃气轮机进行计算机辅助的调节和/或控制的方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19611732C1 (de) * | 1996-03-25 | 1997-04-30 | Siemens Ag | Verfahren zur Ermittlung von zur Entfernung geeigneten Gewichten eines neuronalen Netzes mit Hilfe eines Rechners |
-
2010
- 2010-03-12 DE DE102010011221A patent/DE102010011221B4/de not_active Expired - Fee Related
-
2011
- 2011-02-15 WO PCT/EP2011/052162 patent/WO2011110404A1/de active Application Filing
- 2011-02-15 US US13/583,057 patent/US20130013543A1/en not_active Abandoned
- 2011-02-15 CN CN201180013618.6A patent/CN102792234B/zh active Active
- 2011-02-15 DK DK11706782.7T patent/DK2519861T3/en active
- 2011-02-15 EP EP20110706782 patent/EP2519861B1/de active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005081076A2 (de) * | 2004-02-24 | 2005-09-01 | Siemens Aktiengesellschaft | Verfahren, zur prognose eines brennkammerzustandes unter verwendung eines rekurrenten, neuronalen netzes |
WO2005081076A3 (de) * | 2004-02-24 | 2006-03-02 | Siemens Ag | Verfahren, zur prognose eines brennkammerzustandes unter verwendung eines rekurrenten, neuronalen netzes |
CN1750010A (zh) * | 2005-10-09 | 2006-03-22 | 万向钱潮股份有限公司 | 一种计算机辅助的汽车底盘选型方法 |
DE102007001025A1 (de) * | 2007-01-02 | 2008-07-03 | Siemens Ag | Verfahren zur rechnergestützten Steuerung und/oder Regelung eines technischen Systems |
DE102007001026A1 (de) * | 2007-01-02 | 2008-07-03 | Siemens Ag | Verfahren zur rechnergestützten Steuerung und/oder Regelung eines technischen Systems |
CN101573667A (zh) * | 2007-01-02 | 2009-11-04 | 西门子公司 | 用于对技术系统、尤其是燃气轮机进行计算机辅助的调节和/或控制的方法 |
CN101566829A (zh) * | 2008-04-23 | 2009-10-28 | 西门子公司 | 针对技术系统的计算机辅助的开环和/或闭环控制的方法 |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105051625A (zh) * | 2013-03-26 | 2015-11-11 | 西门子公司 | 用于技术系统的计算机辅助控制和/或调节的方法 |
US10036328B2 (en) | 2013-03-26 | 2018-07-31 | Siemens Aktiengesellschaft | Method for the computerized control and/or regulation of a technical system |
CN105556401A (zh) * | 2013-09-25 | 2016-05-04 | 西门子公司 | 用于计算机辅助地控制和/或调节技术系统的方法 |
US10107205B2 (en) | 2013-09-25 | 2018-10-23 | Siemens Aktiengesellschaft | Computer-aided control and/or regulation of a technical system |
CN105556401B (zh) * | 2013-09-25 | 2019-02-22 | 西门子公司 | 用于计算机辅助地控制和/或调节技术系统的方法 |
CN106662847A (zh) * | 2014-07-01 | 2017-05-10 | 西门子公司 | 用于借助于仿真模块的计算机辅助的设施控制优化的方法 |
US10338542B2 (en) | 2014-07-01 | 2019-07-02 | Siemens Aktiengesellschaft | Method for computer-aided installation control optimization using a simulation module |
CN107077110A (zh) * | 2014-10-22 | 2017-08-18 | 西门子股份公司 | 用于确定排放特性的方法 |
CN110658785A (zh) * | 2018-06-28 | 2020-01-07 | 发那科株式会社 | 输出装置、控制装置、以及评价函数值的输出方法 |
CN110658785B (zh) * | 2018-06-28 | 2024-03-08 | 发那科株式会社 | 输出装置、控制装置、以及评价函数值的输出方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2011110404A1 (de) | 2011-09-15 |
DK2519861T3 (en) | 2015-07-20 |
DE102010011221A1 (de) | 2011-09-15 |
EP2519861A1 (de) | 2012-11-07 |
EP2519861B1 (de) | 2015-05-20 |
DE102010011221B4 (de) | 2013-11-14 |
US20130013543A1 (en) | 2013-01-10 |
CN102792234B (zh) | 2015-05-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102792234A (zh) | 用于计算机辅助地控制和/或调节技术系统的方法 | |
CN110023850B (zh) | 用于控制技术系统的方法和控制装置 | |
Leimeister et al. | A review of reliability-based methods for risk analysis and their application in the offshore wind industry | |
US9043254B2 (en) | Method for computer-aided closed-loop and/or open-loop control of a technical system | |
CN108520155B (zh) | 基于神经网络的车辆行为模拟方法 | |
CN102934131A (zh) | 用于计算机辅助地学习递归神经网络以对动态系统建模的方法 | |
JP7079662B2 (ja) | 電力需要予測システム、学習装置及び電力需要予測方法 | |
CN105676670B (zh) | 用于处理能源数据的方法和系统 | |
CN111615589A (zh) | 用于协同控制风电场的风力涡轮机的方法和装置 | |
KR20170024086A (ko) | 시뮬레이션 모듈을 사용하는 컴퓨터-지원 플랜트 제어 최적화를 위한 방법 | |
CN116261690A (zh) | 提供用于高炉热控制的操作指令的计算机系统和方法 | |
Dash | Performance analysis of an evolutionary recurrent Legendre Polynomial Neural Network in application to FOREX prediction | |
CN108595803A (zh) | 基于递归神经网络的页岩气井生产压力预测方法 | |
US20220341306A1 (en) | Automatic history matching system and method for an oil reservoir based on transfer learning | |
US20070135938A1 (en) | Methods and systems for predictive modeling using a committee of models | |
CN103729569A (zh) | 一种基于lssvm及在线更新的电站锅炉烟气软测量系统 | |
CN102393645A (zh) | 一种高速电液比例调速系统的控制方法 | |
CN115423146A (zh) | 一种基于多因子最近邻抽样回归和支持向量机的自适应径流预报方法 | |
Malikopoulos et al. | A real-time computational learning model for sequential decision-making problems under uncertainty | |
Pan et al. | A novel differential evolution approach to scheduling the freight trains in intervals of passenger trains | |
EP4280122A1 (en) | Actionable advice for the optimization of process systems | |
CN105068423B (zh) | 一键式实现汽轮机及其调速系统参数智能辨识的方法 | |
Li et al. | Performance prediction of a production line with variability based on grey model artificial neural network | |
Li et al. | Saturation load forecasting based on long short-time memory network | |
CN113821012B (zh) | 一种用于变工况卫星姿态控制系统的故障诊断方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |