CN113159410A - 自动控制模型的训练方法和流体供给系统控制方法 - Google Patents

Abstract

本公开提供了一种自动控制模型的训练方法和流体供给系统控制方法，涉及人工智能领域，尤其涉及深度学习和自动控制领域。实现方案为：令自动控制模型执行强化操作，包括：获取当前时刻的控制参数信息；确定当前时刻的控制参数信息在多个不同的状态项中所对应的目标状态项；针对多个动作项中任一动作项，响应于目标状态项和该动作项的组合的评价值满足预设条件，将该动作项确定为无效动作项；基于目标状态项和每个动作项的组合分别对应的评价值，确定多个动作项中除去无效动作项以外的剩余动作项中的一个动作项为目标动作项；控制被控对象执行目标动作项的相应动作；以及基于控制被控对象执行相应动作后的反馈信息更新评价值。

Description

自动控制模型的训练方法和流体供给系统控制方法

技术领域

本公开涉及人工智能技术领域，尤其涉及深度学习和自动控制技术领域，具体涉及一种自动控制模型的训练方法及装置、流体供给系统控制方法及装置、计算机设备、计算机可读存储介质和计算机程序产品。

背景技术

人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术:人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。近年来，人工智能技术已经广泛地应用于自动控制技术领域。

发明内容

本公开提供了一种自动控制模型的训练方法及装置、流体供给系统控制方法及装置、计算机设备、计算机可读存储介质和计算机程序产品。

根据本公开的一方面，提供了一种自动控制模型的训练方法，其中，自动控制模型包括多个不同的状态项和多个不同的动作项，针对多个状态项中任一状态项，该状态项和多个动作项中每个动作项所构成的组合分别具有对应的评价值，训练方法包括令自动控制模型执行强化操作，其中，强化操作包括：获取当前时刻的控制参数信息；确定当前时刻的控制参数信息在多个不同的状态项中所对应的目标状态项；针对多个动作项中任一动作项，响应于目标状态项和该动作项的组合的评价值满足预设条件，将该动作项确定为无效动作项；基于目标状态项和每个动作项的组合分别对应的评价值，确定多个动作项中除去无效动作项以外的剩余动作项中的一个动作项为目标动作项；控制被控对象执行目标动作项的相应动作；以及基于控制被控对象执行相应动作后的反馈信息，更新目标状态项和目标动作项的组合的评价值。

根据本公开的另一方面，提供了一种流体供给系统控制方法，其中，流体供给系统包括至少一个流体泵，控制方法包括：获取下一时刻的预测流量值；以及基于下一时刻的预测流量值，利用自动控制模型对至少一个流体泵进行控制，其中，自动控制模型利用上述的训练方法训练得到。

根据本公开的另一方面，提供了一种自动控制模型的训练装置，其中，自动控制模型包括多个不同的状态项和多个不同的动作项，针对多个状态项中任一状态项，该状态项和多个动作项中每个动作项所构成的组合分别具有对应的评价值，训练装置包括强化单元，强化单元被配置用于令自动控制模型执行强化操作，其中，强化单元包括：获取子单元，被配置用于令自动控制模型获取当前时刻的控制参数信息；第一确定子单元，被配置用于令自动控制模型确定当前时刻的控制参数信息在多个不同的状态项中所对应的目标状态项；第二确定子单元，被配置用于令自动控制模型针对多个动作项中任一动作项，响应于目标状态项和该动作项的组合的评价值满足预设条件，将该动作项确定为无效动作项；第三确定子单元，被配置用于令自动控制模型基于目标状态项和每个动作项的组合分别对应的评价值，确定多个动作项中除去无效动作项以外的剩余动作项中的一个动作项为目标动作项；控制子单元，被配置用于令自动控制模型控制被控对象执行目标动作项的相应动作；以及更新子单元，被配置用于令自动控制模型基于控制被控对象执行相应动作后的反馈信息，更新目标状态项和目标动作项的组合的评价值。

根据本公开的另一方面，提供了一种流体供给系统控制装置，其中，流体供给系统包括至少一个流体泵，控制装置包括：获取单元，被配置用于获取下一时刻的预测流量值；以及控制单元，被配置用于基于下一时刻的预测流量值，利用自动控制模型对至少一个流体泵进行控制，其中，自动控制模型利用如上述训练方法训练得到。

根据本公开的另一方面，提供了一种计算机设备，包括：存储器、处理器以及存储在存储器上的计算机程序，其中，处理器被配置为执行计算机程序以实现上述的方法的步骤。

根据本公开的另一方面，提供了一种非暂态计算机可读存储介质，其上存储有计算机程序，其中，计算机程序被处理器执行时实现上述的方法的步骤。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，其中，计算机程序被处理器执行时实现上述的方法的步骤。

根据本公开的一个或多个实施例，提供了一种可以在真实场景中对自动控制模型进行训练的方法，在提升自动控制模型的训练效果的同时，能够避免未训练完成的自动控制模型在真实场景中可能导致的不良后果，保证被控对象的平稳运行。同时，有效地加快模型的收敛速度，提升了对自动控制模型的训练效率。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图示例性地示出了实施例并且构成说明书的一部分，与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的，并不限制权利要求的范围。在所有附图中，相同的附图标记指代类似但不一定相同的要素。

图1示出了根据本公开的实施例的可以在其中实施本文描述的各种方法的示例性系统的示意图；

图2示出了根据本公开的实施例的自动控制模型的训练方法的流程图；

图3示出了可以实现根据本公开的实施例的流体供给系统场景图；

图4示出了根据本公开的实施例的流体供给系统控制方法的流程图；

图5示出了根据本公开的实施例的自动控制模型的训练装置的结构框图；

图6示出了根据本公开的实施例的流体供给系统的控制装置的结构框图；

图7示出了能够用于实现本公开的实施例的示例性计算机设备的结构框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

在本公开中，除非另有说明，否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系，这种术语只是用于将一个元件与另一元件区分开。在一些示例中，第一要素和第二要素可以指向该要素的同一实例，而在某些情况下，基于上下文的描述，它们也可以指代不同实例。

在本公开中对各种示例的描述中所使用的术语只是为了描述特定示例的目的，而并非旨在进行限制。除非上下文另外明确地表明，如果不特意限定要素的数量，则该要素可以是一个也可以是多个。此外，本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。

近些年，自动控制模型被广泛地应用于各种不同的日常生活或工业制造场景之中。在一些简单的场景中，自动控制模型已经能够脱离人类的监督，自动地根据相关控制参数信息，准确控制被控对象执行相应的操作。然而，在一些复杂多变的场景中，面对突发或偶然因素的影响，自动控制模型仍然会显得“应变力”的不足，难以完全取代人的决策。造成这种现象的原因很大程度上在于，在相关技术中，对自动控制模型的训练往往采用“闭门造车”的方式，即研发人员在实验室中基于有限的样本数据对自动控制模型进行训练。在这种模式下被训练完成的自动控制模型在面对真实场景中的“新情况”时，往往无法做出正确的决策。

基于此，本公开提供一种可以在真实场景中对自动控制模型进行训练的方法，其中，该自动控制模型中设置有多个不同的状态项和多个不同的动作项，每个不同的状态项和动作项的组合对应于一个评价值，用以评价在该状态项所对应的状态下，执行该动作项的相应动作的效果。在训练过程中，自动控制模型获取真实场景中的当前时刻的控制参数信息，并据此确定其所对应的目标状态项。基于目标状态项和每个动作项分别对应的评价值，选择并执行其中一个动作项的相应动作，进而根据执行该相应动作后的反馈信息，更新对应的评价值，实现对模型的优化。由此，能够使训练完成的自动控制模型在真实场景中具有更强的应对能力，提升自动控制模型的训练效果。

为了避免未训练完成的自动控制模型在真实场景的应用过程中选择不利的动作项而导致不良后果，本公开在自动控制模型的训练过程中，对自动控制模型的选择进行了有效的引导和干预，即设定预设条件，针对多个动作项中每个动作项，响应于目标状态项和该动作项的组合的评价值满足预设条件，将该动作项确定为无效动作项，以使自动控制模型在除去所有无效动作项以外的剩余动作项中，选择要执行的目标动作项。由此，能够避免未训练完成的自动控制模型在真实场景中可能导致的不良后果，保证被控对象的平稳运行。同时，所设定的预设条件能够在训练过程中为自动控制模型缩小需要探索的动作项的范围，由此能够有效地加快模型的收敛速度，提升对自动控制模型的训练效率。

下面将结合附图详细描述本公开的实施例。

图1示出了根据本公开的实施例可以将本文描述的各种方法和装置在其中实施的示例性系统100的示意图。参考图1，该系统100包括一个或多个客户端设备101、102、103、104、105和106、服务器120以及将一个或多个客户端设备耦接到服务器120的一个或多个通信网络110。客户端设备101、102、103、104、105和106可以被配置为执行一个或多个应用程序。

在本公开的实施例中，服务器120可以运行使得能够执行自动控制模型的训练方法或流体供给系统控制方法的一个或多个服务或软件应用。

在某些实施例中，服务器120还可以提供可以包括非虚拟环境和虚拟环境的其他服务或软件应用。在某些实施例中，这些服务可以作为基于web的服务或云服务提供，例如在软件即服务(SaaS)模型下提供给客户端设备101、102、103、104、105和/或106的用户。

在图1所示的配置中，服务器120可以包括实现由服务器120执行的功能的一个或多个组件。这些组件可以包括可由一个或多个处理器执行的软件组件、硬件组件或其组合。操作客户端设备101、102、103、104、105和/或106的用户可以依次利用一个或多个客户端应用程序来与服务器120进行交互以利用这些组件提供的服务。应当理解，各种不同的系统配置是可能的，其可以与系统100不同。因此，图1是用于实施本文所描述的各种方法的系统的一个示例，并且不旨在进行限制。

用户可以使用客户端设备101、102、103、104、105和/或106来获取当前的控制参数信息。客户端设备可以提供使客户端设备的用户能够与客户端设备进行交互的接口。客户端设备还可以经由该接口向用户输出信息。尽管图1仅描绘了六种客户端设备，但是本领域技术人员将能够理解，本公开可以支持任何数量的客户端设备。

客户端设备101、102、103、104、105和/或106可以包括各种类型的计算机设备，例如便携式手持设备、通用计算机(诸如个人计算机和膝上型计算机)、工作站计算机、可穿戴设备、游戏系统、瘦客户端、各种消息收发设备、传感器或其他感测设备等。这些计算机设备可以运行各种类型和版本的软件应用程序和操作系统，例如Microsoft Windows、AppleiOS、类UNIX操作系统、Linux或类Linux操作系统(例如Google Chrome OS)；或包括各种移动操作系统，例如Microsoft Windows Mobile OS、iOS、Windows Phone、Android。便携式手持设备可以包括蜂窝电话、智能电话、平板电脑、个人数字助理(PDA)等。可穿戴设备可以包括头戴式显示器和其他设备。游戏系统可以包括各种手持式游戏设备、支持互联网的游戏设备等。客户端设备能够执行各种不同的应用程序，例如各种与Internet相关的应用程序、通信应用程序(例如电子邮件应用程序)、短消息服务(SMS)应用程序，并且可以使用各种通信协议。

网络110可以是本领域技术人员熟知的任何类型的网络，其可以使用多种可用协议中的任何一种(包括但不限于TCP/IP、SNA、IPX等)来支持数据通信。仅作为示例，一个或多个网络110可以是局域网(LAN)、基于以太网的网络、令牌环、广域网(WAN)、因特网、虚拟网络、虚拟专用网络(VPN)、内部网、外部网、公共交换电话网(PSTN)、红外网络、无线网络(例如蓝牙、WIFI)和/或这些和/或其他网络的任意组合。

服务器120可以包括一个或多个通用计算机、专用服务器计算机(例如PC(个人计算机)服务器、UNIX服务器、中端服务器)、刀片式服务器、大型计算机、服务器群集或任何其他适当的布置和/或组合。服务器120可以包括运行虚拟操作系统的一个或多个虚拟机，或者涉及虚拟化的其他计算架构(例如可以被虚拟化以维护服务器的虚拟存储设备的逻辑存储设备的一个或多个灵活池)。在各种实施例中，服务器120可以运行提供下文所描述的功能的一个或多个服务或软件应用。

服务器120中的计算单元可以运行包括上述任何操作系统以及任何商业上可用的服务器操作系统的一个或多个操作系统。服务器120还可以运行各种附加服务器应用程序和/或中间层应用程序中的任何一个，包括HTTP服务器、FTP服务器、CGI服务器、JAVA服务器、数据库服务器等。

在一些实施方式中，服务器120可以包括一个或多个应用程序，以分析和合并从客户端设备101、102、103、104、105和106的用户接收的数据馈送和/或事件更新。服务器120还可以包括一个或多个应用程序，以经由客户端设备101、102、103、104、105和106的一个或多个显示设备来显示数据馈送和/或实时事件。

在一些实施方式中，服务器120可以为分布式系统的服务器，或者是结合了区块链的服务器。服务器120也可以是云服务器，或者是带人工智能技术的智能云计算服务器或智能云主机。云服务器是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理难度大、业务扩展性弱的缺陷。

系统100还可以包括一个或多个数据库130。在某些实施例中，这些数据库可以用于存储数据和其他信息。例如，数据库130中的一个或多个可用于存储诸如音频文件和视频文件的信息。数据存储库130可以驻留在各种位置。例如，由服务器120使用的数据存储库可以在服务器120本地，或者可以远离服务器120且可以经由基于网络或专用的连接与服务器120通信。数据存储库130可以是不同的类型。在某些实施例中，由服务器120使用的数据存储库可以是数据库，例如关系数据库。这些数据库中的一个或多个可以响应于命令而存储、更新和检索到数据库以及来自数据库的数据。

在某些实施例中，数据库130中的一个或多个还可以由应用程序使用来存储应用程序数据。由应用程序使用的数据库可以是不同类型的数据库，例如键值存储库，对象存储库或由文件系统支持的常规存储库。

图1的系统100可以以各种方式配置和操作，以使得能够应用根据本公开所描述的各种方法和装置。

图2是示出根据本公开示例性实施例的自动控制模型的训练方法，其中，自动控制模型包括多个不同的状态项和多个不同的动作项，针对多个状态项中任一状态项，该状态项和多个动作项中每个动作项所构成的组合分别具有对应的评价值，训练方法包括令自动控制模型执行强化操作，其中，如图2所示，强化操作可以包括：步骤S201、获取当前时刻的控制参数信息；步骤S202、确定当前时刻的控制参数信息在多个不同的状态项中所对应的目标状态项；步骤S203、针对多个动作项中任一动作项，响应于目标状态项和该动作项的组合的评价值满足预设条件，将该动作项确定为无效动作项；步骤S204、基于目标状态项和每个动作项的组合分别对应的评价值，确定多个动作项中除去无效动作项以外的剩余动作项中的一个动作项为目标动作项；步骤S205、控制被控对象执行目标动作项的相应动作；以及步骤S206、基于控制被控对象执行相应动作后的反馈信息，更新目标状态项和目标动作项的组合的评价值。

由此，在提升自动控制模型的训练效果的同时，能够避免未训练完成的自动控制模型在真实场景中可能导致的不良后果，保证被控对象的平稳运行。同时，有效地加快模型的收敛速度，提升了对自动控制模型的训练效率。

针对步骤S201，根据一些实施例，当前时刻的控制参数信息可以包括被控对象的当前时刻的状态信息、当前时刻的环境信息，或者在当前时刻对未来的预测信息等参数信息中的一个或多个。

针对步骤S202，根据一些实施例，基于预设的映射关系，可以确定当前时刻的控制参数信息在多个不同的状态项中所对应的目标状态项。

针对步骤S203，根据一些实施例，预设条件可以包括评价值在预设数据范围之内，其中，预设范围可以为小于零的数据范围。

针对步骤S204，根据一些实施例，基于目标状态项和每个动作项的组合所分别对应的评价值的大小，分别确定多个动作项中除去无效动作项以外的剩余动作项中每个动作项的执行概率；以及基于多个动作项中除去无效动作项以外的剩余动作项的执行概率的分布，选择其中一个动作项为目标动作项。由此，能够基于不同大小的评价值，在训练过程中对自动控制模型对动作项的选择进行进一步的指引，对不同的动作项执行差异化的探索，进而进一步提升模型的收敛速度。

在一种实施方式中，针对多个动作项中除去无效动作项以外的剩余动作项中每个动作项，该动作项被确定为目标动作项的概率与该动作项所对应的评价值正相关。即对于每个动作项，其所对应的评价值越高，该动作项被选中的概率越高。

在步骤S205控制被控对象执行目标动作项的相应动作之后，可以执行步骤S206，基于控制被控对象执行相应动作后的反馈信息，更新目标状态项和目标动作项的组合的评价值。

根据一些实施例，可以根据反馈信息与预期目标的匹配程度更新目标状态项和目标动作项的组合的评价值。例如，在反馈信息与预期目标的匹配程度高的情况下，可以赋予目标状态项和目标动作项的组合较高的评价值，反之，则赋予目标状态项和目标动作项的组合较低的评价值。

其中，自动控制模型重复执行该强化操作，在每次强化操作中可以执行相应的一个动作项的相关动作，自动控制模型控制被控对象执行每个动作项的相应动作后，均可以获取基于该动作的奖励值。

根据一些实施例，反馈信息可以基于多次强化操作所获得的奖励值确定。例如，反馈信息可以基于控制被控对象执行该次强化操作中的相应动作所获得的奖励值，以及执行该次强化操作后的多次强化操作中的相应动作后分别获得的奖励值来确定。

在一种实施方式中，反馈信息可以为每次强化操作所获取的奖励值的加权和。

根据一些实施例，在令自动控制模型执行强化操作之前，分别控制被控对象执行多个动作项中每个动作项的相应动作；以及针对多个动作项中任一动作项，基于控制被控对象执行该动作项的相应动作后的反馈信息，初始化该动作项和相应状态项所构成的组合的评价值。由此，可以在自动控制模型开始执行强化操作时，即能够根据初始评价值避免对无效动作项的选择，从而保证系统的稳定性。

根据一些实施例，可以基于虚拟场景中的计算，初始化该自动控制模型中的评价值。

基于上述训练方法训练得到的自动控制模型，可以被应用于多种真实场景中，以执行相应的自动控制任务，在此不作限定。为了对上述训练方法进行进一步阐述，现以流体供给系统中对至少一个流体泵的控制场景为例进行说明。

图3示出了可以实现根据本公开的实施例的流体供给系统300场景图。如图3所示，该流体供给系统300可以包括位于流体供给系统300的输入端的第二阀门310和流体储蓄池320，流体泵子系统330，以及位于流体供给系统300的输出端的第一阀门340。在真实的应用场景中，例如，在供水场景中，自来水公司将自来水输送至流体供给系统300的输入端，自来水通过第二阀门310输入流体供给系统300之中，输入的自来水经过流体泵子系统330的加压后，经过第一阀门340输出，再经过传输管道为居民区、工厂、写字楼等各个配水点提供自来水。其中，流体泵子系统330中包括并联的流体泵331，流体泵332，流体泵333和流体泵334。可以理解，流体泵子系统330包括4个流体泵仅为示例，也可以采用其它任意数量的流体泵。

基于在真实的流体供给系统中对自动控制模型进行训练，可以训练得到能够对流体供给系统中的多个流体泵执行自动控制的自动控制模型。

根据一些实施例，被控对象包括至少一个流体泵，状态项包括至少一个流体泵的第一状态信息、当前时刻的流量范围和下一时刻的预测流量范围，当前时刻的控制参数信息包括至少一个流体泵在当前时刻的第二状态信息、当前时刻的流量值以及下一时刻的预测流量值。由此，可以基于流体供给系统中的当前时刻的控制参数信息对自动控制模型进行强化操作。

根据一些实施例，第一状态信息和第二状态信息可以分别包括多个流体泵中每个流体泵的状态信息，其中，状态信息可以包括运行或停止。

根据一些实施例，可以根据每个流体泵的工作状态和故障状态两者，确定该流体泵的状态信息。

根据一些实施例，至少一个流体泵包括多个流体泵，该方法还包括：根据多个流体泵中每个流体泵的额定流量值，确定当前时刻的流量范围和下一时刻的预测流量范围。由此，能够在有效地缩减自动控制模型中状态项的数量，提升训练效率的同时，合理地调整多个流体泵的状态。

根据一些实施例，获取在流体供给系统中的多个流体泵中每个流体泵的额定流量值；基于每个流体泵的额定流量值，确定多个流体泵在每种状态下所分别对应的总额定流量值，其中，多个流体泵在每种状态下分别至少有一个流体泵处于运行状态，多个流体泵在每种状态下的总额定流量值为其中处于运行状态的每个流体泵的额定流量值之和；根据多个流体泵在每种状态下分别对应的总额定流量值，可以将当前时刻的流量值和下一时刻的预测流量值分别划分为连续的多个当前时刻的流量范围和下一时刻的预测流量范围。

根据一些实施例，通过以下方式获取下一时刻的预测流量值：基于用水预测模型获取下一时刻的预测流量值，其中，用水预测模型用于基于当前时间信息、当前天气信息和自回归信息中的至少一种预测下一时刻的预测流量值。

其中，用水预测模型可以包括神经网络、XGBoost在内的各种机器学习模型，在此不作限定。

由此用水预测模型可以根据当前时间信息、当前天气信息和自回归信息中的至少一种和流量值之间的关系，方便地预测出下一时刻的预测流量值。

其中，当前时间信息可以包括当前时刻、日期、星期、节假日信息等；当前天气信息可以包括当前时刻的温度和当前时刻的湿度；自回归信息可以包括任意历史时刻的真实流量值。

根据一些实施例，确定当前时刻的控制参数信息在多个不同的状态项中所对应的目标状态项包括：针对多个状态项中任一状态项，响应于至少一个流体泵在当前时刻的第二状态信息和该状态项中的第一状态信息相同，当前时刻的流量值在该状态项中的当前时刻的流量范围之中，并且下一时刻的预测流量值在该状态项中的下一时刻的预测流量范围之中，确定该状态项为当前时刻的控制参数信息所对应的目标状态项。由此能够方便地确定在用于控制多个流体泵的自动控制模型中，与当前的控制参数信息对应的目标状态项。

根据一些实施例，状态项还包括当前时刻。当前时刻的控制参数信息还可以包括当前时刻。由此，可以使自动控制模型在训练的过程中学习当前时刻与每个动作项之间的关系，从而能够使训练完成的自动控制模型能够当前时刻，确定最佳的动作项。

根据一些实施例，动作项的相应动作包括对每个流体泵的控制动作，基于以下参数至少之一确定反馈信息：执行对每个流体泵的控制动作的耗电量；执行对每个流体泵的控制动作后的用水供需情况；和对至少一个流体泵执行启动或关闭的次数。由此，能够使自动控制模型在训练的过程中学习动作项与耗电量、用水供需情况和流体泵开或关次数之间的关系，从而能够使训练完成的自动控制模型能够为流体供给系统提供既能满足用水供应需求又能有效节能的自动化控制方案。

根据一些实施例，对每个流体泵的控制动作可以包括对该流体泵执行运行和停止之间的切换，或者维持该流体泵的当前状态。

根据一些实施例，对每个流体泵的控制动作还可以包括调节该流体泵的工作频率，或者维持该流体泵的当前工作频率。其中，调节该流体泵的工作频率包括对该流体泵执行定频和变频之间的切换，或者设定该流体泵的新的工作频率值。

图4是示出根据本公开示例性实施例的流体供给系统控制方法流程图，流体供给系统包括至少一个流体泵，如图4所示，控制方法包括：步骤S401、获取下一时刻的预测流量值；以及步骤S402、基于下一时刻的预测流量值，利用自动控制模型对至少一个流体泵进行控制，其中，自动控制模型利用上述的训练方法训练得到。由此，可以在如图3所示的流体供给系统300中应用训练完成的自动控制模型对流体供给系统中的至少一个流体泵进行自动化控制。

根据一些实施例，流体供给系统还包括位于流体供给系统的输出端的第一阀门，该方法包括：获取传输损失参数、输出端的当前时刻的流量值和输出端的当前时刻的压力值；基于传输损失参数、输出端的当前时刻的流量值和输出端的当前时刻的压力值，以及下一时刻的预测流量值，确定流体供给系统的输出端在下一时刻的预测压力值；以及基于流体供给系统的输出端在下一时刻的预测压力值，对第一阀门进行控制。由此，能够方便、准确地对流体供给系统的第一阀门进行控制。

根据一些实施例，传输损失参数为基于流体的运动形式确定的。其中，流体的运动形式可以包括层流、湍流、过度流等，不同的流体的运动形式对应于不同的传输损失参数。由此，能够基于真实场景中的流体的运动形式确定相应的传输损失参数。

流体从流体供给系统的输出端输出后，需要经过传输管道输送至各个目标地。其中，对于各个目标地中的其中一个目标地，流体供给系统如果能够满足该目标地的所需压力值，则系统中其它的目标地的压力值均能够满足，则称该目标地为最不利点。

以下以传输管道中流体的运动形式为层流的情况为例，详细阐述确定流体供给系统的输出端在下一时刻的预测压力值的具体方式，但是本领域人员可知，在流体的运动形式为其它形式时，也可以采用类似的方式确定流体供给系统的输出端在下一时刻的预测压力值。

从流体供给系统的输出端到最不利点，流体在传输管道中将会造成能量损失，即

E1＝E0+H11+H21 (1)

E2＝E0+H12+H22 (2)

其中，E1表示当前时刻的流体供给系统的输出端的能量值，E2表示下一时刻的流体供给系统的输出端的能量值，E0表示当前时刻和下一时刻的最不利点的能量值。假设流体供给系统的输出端的当前流体参数包括压力P1、流体高度h1以及流速v1，流体供给系统的输出端在下一时刻的流体参数包括压力P2、流体高度h2以及流速v2，最不利点处的流体参数包括压力P0、流体高度h0以及流速v0，由此，可以基于伯努利方程得到：

其中，g表示重力加速度，ρ表示流体密度。

H11和H12分别表示当前时刻和下一时刻流体在传输管道中的沿程损失，其与传输管道的内径、长度、流速、管道的材料、管道的表面粗糙度和流体的黏度等多种因素相关，其中，H11可以表示为：

其中，f表示摩擦系数，L表示传输管道的长度，D表示传输管道直径，v表示流体在传输管道中的流速。

如果传输管道中流体的运动形式为层流，则

其中，Re表示传输管道中流体的雷诺数，在流体的运动粘性系数为η的情况下，

令v＝v1，可以将沿程损失H11表示为在当前时刻的最大值的形式，即

同样地，

H21和H22则分别表示当前时刻和下一时刻流体在传输管道中的局部压头损失，其与流体由于流速大小、方向以及分别的急剧变化等因素相关，主要发生在传输管道的弯道入口、弯头、阀门、三通、过流断面等，其中，H21可表示为：

令v＝v1，可以将局部压头损失H21表示为在当前时刻的最大值的形式，即

同样地，

将公式(3)至(9)带入公式(1)和(2)中可以得到：

其中，

由于h1＝h2，对公式(10)和公式(11)的等式两边分别做差,并合并同类项后可以得到：

P2＝P1+μ(v2²-v1²)+δ(v2-v1) (12)

δ＝aρ

其中，μ、δ即为基于流体在传输管道中的传输损失确定的传输损失参数。

对于固定的流体供给系统输出端横截面，流量值和流速成正比，因此在已知当前时刻的流量值Q1和下一时刻的预测流量值Q2时，公式(12)也可以表示为：

P2＝P1+μ，(Q2²-Q1²)+δ，(Q2-Q1) (13)

其中，μ，、δ，为基于流体在传输管道中的传输损失确定的传输损失参数。

根据一些实施例，传输损失参数μ、δ、μ，、δ，可以通过在真实场景中不同时刻的多组压力值和流量值计算得出。

根据一些实施例，流体供给系统还包括位于流体供给系统的输入端的第二阀门，控制方法还包括：基于下一时刻的预测流量值，对第二阀门进行控制。由此，可以方便准确地对流体供给系统的第二阀门进行控制，保证流体供给系统的平稳运行。

根据一些实施例，基于下一时刻的预测流量值，对第二阀门进行控制包括以下至少之一：响应于下一时刻的预测流量值在预设流量区间内，控制第二阀门的开度与下一时刻的预测流量值正相关；响应于下一时刻的预测流量值高于预设流量区间上限，控制第二阀门的开度至最大值；响应于下一时刻的预测流量值低于预设流量区间下限，控制第二阀门的开度至最小值。由此可以方便准确地对流体供给系统的第二阀门开度进行控制，并在下一时刻的预测流量值过高或过低时，及时对流体供给系统进行适应性调整。

根据一些实施例，可以预先拟合出第二阀门的开度于流量值之间的对应关系，基于所拟合出的对应关系可以根据下一时刻的预测流量值，确定第二阀门的开度。

根据本公开的另一方面，还提供了一种自动控制模型的训练装置，用于执行上述任一自动控制模型的训练方法。如图5所示，还提供一种自动控制模型的训练装置500，其中，自动控制模型500包括多个不同的状态项和多个不同的动作项，针对多个状态项中任一状态项，该状态项和多个动作项中每个动作项所构成的组合分别具有对应的评价值，训练装置包括强化单元510，强化单元510被配置用于令自动控制模型执行强化操作，其中，强化单元510包括：获取子单元511，被配置用于令自动控制模型获取当前时刻的控制参数信息；第一确定子单元512，被配置用于令自动控制模型确定当前时刻的控制参数信息在多个不同的状态项中所对应的目标状态项；第二确定子单元513，被配置用于令自动控制模型针对多个动作项中任一动作项，响应于目标状态项和该动作项的组合的评价值满足预设条件，将该动作项确定为无效动作项；第三确定子单元514，被配置用于令自动控制模型基于目标状态项和每个动作项的组合分别对应的评价值，确定多个动作项中除去无效动作项以外的剩余动作项中的一个动作项为目标动作项；控制子单元515，被配置用于令自动控制模型控制被控对象执行目标动作项的相应动作；以及更新子单元516，被配置用于令自动控制模型基于控制被控对象执行相应动作后的反馈信息，更新目标状态项和目标动作项的组合的评价值。

根据本公开的另一方面，还提供了一种流体供给系统控制装置，用于执行上述任一流体供给系统控制方法。如图6所示，还提供一种流体供给系统控制装置600，其中，流体供给系统包括至少一个流体泵，控制装置600包括：获取单元610，被配置用于获取下一时刻的预测流量值；控制单元620，被配置用于至少基于下一时刻的预测流量值，利用自动控制模型621对至少一个流体泵进行控制，其中，自动控制模型利用上述的训练方法训练得到。

根据本公开的另一方面，还提供一种计算机设备，包括：存储器、处理器以及存储在存储器上的计算机程序，其中，处理器被配置为执行计算机程序以实现上述任一方法的步骤。

根据本公开的另一方面，还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，其中，计算机程序被处理器执行时实现上述任一方法的步骤。

根据本公开的另一方面，还提供一种计算机程序产品，包括计算机程序，其中，计算机程序被处理器执行时实现上述任一方法的步骤。

参考图7，现将描述可以作为本公开的服务器或客户端的电子设备700的结构框图，其是可以应用于本公开的各方面的硬件设备的示例。电子设备旨在表示各种形式的数字电子的计算机设备，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序，来执行各种适当的动作和处理。在RAM 703中，还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。

设备700中的多个部件连接至I/O接口705，包括：输入单元706、输出单元707、存储单元708以及通信单元709。输入单元706可以是能向设备700输入信息的任何类型的设备，输入单元706可以接收输入的数字或字符信息，以及产生与电子设备的用户设置和/或功能控制有关的键信号输入，并且可以包括但不限于鼠标、键盘、触摸屏、轨迹板、轨迹球、操作杆、麦克风和/或遥控器。输出单元707可以是能呈现信息的任何类型的设备，并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。存储单元708可以包括但不限于磁盘、光盘。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据，并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信收发机和/或芯片组，例如蓝牙TM设备、1302.11设备、WiFi设备、WiMax设备、蜂窝通信设备和/或类似物。

计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如，自动控制模型训练方法和流体供给系统控制方法。例如，在一些实施例中，自动控制模型训练方法和流体供给系统控制方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由ROM702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时，可以执行上文描述的自动控制模型训练方法和流体供给系统控制方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行自动控制模型训练方法和流体供给系统控制方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行、也可以顺序地或以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

虽然已经参照附图描述了本公开的实施例或示例，但应理解，上述的方法、系统和设备仅仅是示例性的实施例或示例，本发明的范围并不由这些实施例或示例限制，而是仅由授权后的权利要求书及其等同范围来限定。实施例或示例中的各种要素可以被省略或者可由其等同要素替代。此外，可以通过不同于本公开中描述的次序来执行各步骤。进一步地，可以以各种方式组合实施例或示例中的各种要素。重要的是随着技术的演进，在此描述的很多要素可以由本公开之后出现的等同要素进行替换。

Claims (19)

1.一种自动控制模型的训练方法，其中，所述自动控制模型包括多个不同的状态项和多个不同的动作项，针对所述多个状态项中任一状态项，该状态项和所述多个动作项中每个动作项所构成的组合分别具有对应的评价值，所述训练方法包括令所述自动控制模型执行强化操作，

其中，所述强化操作包括：

获取当前时刻的控制参数信息；

确定所述当前时刻的控制参数信息在所述多个不同的状态项中所对应的目标状态项；

针对所述多个动作项中任一动作项，响应于所述目标状态项和该动作项的组合的评价值满足预设条件，将该动作项确定为无效动作项；

基于所述目标状态项和每个动作项的组合分别对应的评价值，确定所述多个动作项中除去无效动作项以外的剩余动作项中的一个动作项为目标动作项；

控制被控对象执行所述目标动作项的相应动作；以及

基于控制所述被控对象执行相应动作后的反馈信息，更新所述目标状态项和所述目标动作项的组合的评价值。

2.根据权利要求1所述的训练方法，其中，所述基于所述目标状态项和每个动作项的组合分别对应的评价值，确定所述多个动作项中除去无效动作项以外的剩余动作项中的一个动作项为目标动作项包括：

基于所述目标状态项和每个动作项的组合所分别对应的评价值的大小，分别确定所述多个动作项中除去无效动作项以外的剩余动作项中每个动作项的执行概率；以及

基于所述多个动作项中除去无效动作项以外的剩余动作项的执行概率的分布，选择其中一个动作项为目标动作项。

3.根据权利要求1或2所述的训练方法，还包括：

在令所述自动控制模型执行所述强化操作之前，分别控制所述被控对象执行所述多个动作项中每个动作项的相应动作；以及

针对所述多个动作项中任一动作项，基于控制所述被控对象执行该动作项的相应动作后的反馈信息，初始化该动作项和相应状态项所构成的组合的评价值。

4.根据权利要求1至3中任一项所述的训练方法，其中，所述被控对象包括至少一个流体泵，所述状态项包括所述至少一个流体泵的第一状态信息、当前时刻的流量范围和下一时刻的预测流量范围，所述当前时刻的控制参数信息包括所述至少一个流体泵在当前时刻的第二状态信息、当前时刻的流量值以及下一时刻的预测流量值。

5.根据权利要求4所述的训练方法，其中，所述确定所述当前时刻的控制参数信息在所述多个不同的状态项中所对应的目标状态项包括：

针对所述多个状态项中任一状态项，响应于所述至少一个流体泵在当前时刻的第二状态信息和该状态项中的所述第一状态信息相同，所述当前时刻的流量值在该状态项中的所述当前时刻的流量范围之中，并且所述下一时刻的预测流量值在该状态项中的所述下一时刻的预测流量范围之中，确定该状态项为所述当前时刻的控制参数信息所对应的目标状态项。

6.根据权利要求4或5所述的训练方法，其中，所述至少一个流体泵包括多个流体泵，所述方法还包括：

根据所述多个流体泵中每个流体泵的额定流量值，确定所述当前时刻的流量范围和所述下一时刻的预测流量范围。

7.根据权利要求4所述的训练方法，其中，所述状态项还包括当前时间信息。

8.根据权利要求4至7中任一项所述的训练方法，其中，所述动作项的相应动作包括对每个流体泵的控制动作，基于以下参数至少之一确定所述反馈信息：

执行对每个流体泵的控制动作的耗电量；

执行对每个流体泵的控制动作后的用水供需情况；和

对所述至少一个流体泵执行启动或关闭的次数。

9.根据权利要求4至8中任一项所述的训练方法，其中，通过以下方式获取所述下一时刻的预测流量值：

基于用水预测模型获取所述下一时刻的预测流量值，其中，所述用水预测模型用于基于当前时间信息、当前天气信息和自回归信息中的至少一种预测所述下一时刻的预测流量值。

10.一种流体供给系统控制方法，其中，所述流体供给系统包括至少一个流体泵，所述控制方法包括：

获取下一时刻的预测流量值；以及

基于所述下一时刻的预测流量值，利用自动控制模型对所述至少一个流体泵进行控制，其中，所述自动控制模型利用如权利要求1至9中任一项所述的训练方法训练得到。

11.根据权利要求10所述的控制方法，其中，所述流体供给系统还包括位于所述流体供给系统的输出端的第一阀门，所述控制方法包括：

获取传输损失参数、所述输出端的当前时刻的流量值和所述输出端的当前时刻的压力值；

基于所述传输损失参数、所述输出端的当前时刻的流量值和所述输出端的当前时刻的压力值，以及所述下一时刻的预测流量值，确定所述流体供给系统的输出端在下一时刻的预测压力值；以及

基于所述流体供给系统的输出端在下一时刻的预测压力值，对所述第一阀门进行控制。

12.根据权利要求11所述的控制方法，其中，所述传输损失参数为基于流体的运动形式确定的。

13.根据权利要求10所述的控制方法，其中，所述流体供给系统还包括位于所述流体供给系统的输入端的第二阀门，所述控制方法还包括：

基于所述下一时刻的预测流量值，对所述第二阀门进行控制。

14.根据权利要求13所述的控制方法，其中，所述基于所述下一时刻的预测流量值，对所述第二阀门进行控制包括以下至少之一：

响应于所述下一时刻的预测流量值在预设流量区间内，控制所述第二阀门的开度与所述下一时刻的预测流量值正相关；

响应于所述下一时刻的预测流量值高于所述预设流量区间上限，控制所述第二阀门的开度至最大值；

响应于所述下一时刻的预测流量值低于所述预设流量区间下限，控制所述第二阀门的开度至最小值。

15.一种自动控制模型的训练装置，其中，所述自动控制模型包括多个不同的状态项和多个不同的动作项，针对所述多个状态项中任一状态项，该状态项和所述多个动作项中每个动作项所构成的组合分别具有对应的评价值，所述训练装置包括强化单元，所述强化单元被配置用于令所述自动控制模型执行强化操作，

其中，所述强化单元包括：

获取子单元，被配置用于令所述自动控制模型获取当前时刻的控制参数信息；

第一确定子单元，被配置用于令所述自动控制模型确定所述当前时刻的控制参数信息在所述多个不同的状态项中所对应的目标状态项；

第二确定子单元，被配置用于令所述自动控制模型针对所述多个动作项中任一动作项，响应于所述目标状态项和该动作项的组合的评价值满足预设条件，将该动作项确定为无效动作项；

第三确定子单元，被配置用于令所述自动控制模型基于所述目标状态项和每个动作项的组合分别对应的评价值，确定所述多个动作项中除去无效动作项以外的剩余动作项中的一个动作项为目标动作项；

控制子单元，被配置用于令所述自动控制模型控制被控对象执行所述目标动作项的相应动作；以及

更新子单元，被配置用于令所述自动控制模型基于控制所述被控对象执行相应动作后的反馈信息，更新所述目标状态项和所述目标动作项的组合的评价值。

16.一种流体供给系统控制装置，其中，所述流体供给系统包括至少一个流体泵，所述控制装置包括：

获取单元，被配置用于获取下一时刻的预测流量值；以及

控制单元，被配置用于基于所述下一时刻的预测流量值，利用自动控制模型对所述至少一个流体泵进行控制，其中，所述自动控制模型利用如权利要求1至9中任一项所述的训练方法训练得到。

17.一种计算机设备，包括：

存储器、处理器以及存储在所述存储器上的计算机程序，

其中，所述处理器被配置为执行所述计算机程序以实现权利要求1-14中任一项所述的方法的步骤。

18.一种非暂态计算机可读存储介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现权利要求1-14中任一项所述的方法的步骤。

19.一种计算机程序产品，包括计算机程序，其中，所述计算机程序被处理器执行时实现权利要求1-14中任一项所述的方法的步骤。

Images