CN103777623A - 实时控制系统管理 - Google Patents

实时控制系统管理 Download PDF

Info

Publication number
CN103777623A
CN103777623A CN201310495006.6A CN201310495006A CN103777623A CN 103777623 A CN103777623 A CN 103777623A CN 201310495006 A CN201310495006 A CN 201310495006A CN 103777623 A CN103777623 A CN 103777623A
Authority
CN
China
Prior art keywords
control system
embedded control
behavior
parameter
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201310495006.6A
Other languages
English (en)
Inventor
W·李
M·M·孔特
A·阿亚加里
R·N·布莱尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Boeing Co
Original Assignee
Boeing Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Boeing Co filed Critical Boeing Co
Publication of CN103777623A publication Critical patent/CN103777623A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751—Error or fault detection not based on redundancy
    • G06F11/0754—Error or fault detection not based on redundancy by exceeding limits
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0243—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model
    • G05B23/0254—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model based on a quantitative model, e.g. mathematical relationships between inputs and outputs; functions: observer, Kalman filter, residual calculation, Neural Networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0736—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in functional embedded systems, i.e. in a data processing system designed as a combination of hardware and software dedicated to performing a certain function

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • General Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明公开了在网络化环境中用于实时控制系统管理的系统和方法。在一个实施例中，用于实时嵌入式控制系统行为监控和异常检测的基于计算机的系统包含处理器以及存储在耦合到该处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被该处理器执行时将该处理器配置为生成用于嵌入式控制系统的行为训练集，其中该行为训练集在训练过程中将嵌入式控制系统的输入与来自嵌入式控制系统的输出相关联以限定嵌入式控制系统的行为指纹，在嵌入式控制系统的操作期间实时监控嵌入式控制系统的输入和来自嵌入式控制系统的输出，并且当实时操作中进入嵌入式控制系统的输入或者从嵌入式控制系统收集的输出中的一个或更多个表现为异常时产生警报。

Description

实时控制系统管理
技术领域
本文所描述的主题涉及嵌入式控制系统，并且更具体地涉及实施实时嵌入式控制系统行为监控和异常检测的系统和方法。
背景技术
嵌入式控制系统是制造加工和航空应用如飞行器和任务系统操作的主要部分。网络化嵌入式传感器、控制器和致动器由于更多的收集信息和计算机驱动控制而提高性能效率。然而，这些系统的特性能够随着时间显著偏离标称状态或者由于不同的原因如正常使用、损坏或甚至网络攻击而退化。此外，随着嵌入式设备的全球供应链条和网络攻击复杂性的增加，利用零时差攻击的存在和利用设计漏洞的可能性也已经增加。
这些嵌入式控制系统的故障或退化可能很细微并且难以检测。因此，这表明需要一种实时检测网络化嵌入式控制系统的异常行为的系统和方法。
发明内容
本发明公开了在网络化环境中用于实时控制系统管理的系统和方法。在一个实施例中，一种用于实时嵌入式控制系统行为监控和异常检测的基于计算机的方法包含生成用于嵌入式控制系统的行为训练集，其中该行为训练集在训练过程中将嵌入式控制系统的输入与来自嵌入式控制系统的输出相关联以限定嵌入式控制系统的行为指纹，在嵌入式控制系统的操作期间实时监控嵌入式控制系统的输入和来自嵌入式控制系统的输出，以及当实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个表现为异常时生成警报。
在另一个实施例中，一种用于实时嵌入式控制系统行为监控和异常检测的基于计算机的系统包含处理器和存储在耦合到处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为生成用于嵌入式控制系统的行为训练集，其中该行为训练集在训练过程中将嵌入式控制系统的输入与来自嵌入式控制系统的输出相关联以限定嵌入式控制系统的行为指纹，在嵌入式控制系统的操作期间实时监控嵌入式控制系统的输入和来自嵌入式控制系统的输出，以及当实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个表现为异常时生成警报。
有利地，该基于计算机的系统进一步包含存储在耦合到处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为使用至少一个参数调试行为训练集。优选地，该至少一个参数选自一组参数，所述一组参数包含：储存器大小参数，其限定储存器计算网络中节点的数量；输入定标参数，其对嵌入式控制系统的输入属性进行加权；输出反馈定标参数，其限定用于储存器计算网络的反馈量；储存器权重矩阵参数，其控制储存器计算网络中的一个或更多个脉冲响应；耗散率参数，其控制储存器计算网络中对噪声行为和时间扭曲行为的灵敏度；以及噪声定标参数，其控制储存器计算网络中的一个或更多个噪声积分器。
有利地，该基于计算机的系统进一步包含存储在耦合到处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为：将实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个与训练过程中收集的一个或更多个输出进行比较；以及当实时操作中从嵌入式控制系统收集的一个或更多个输出与训练过程中收集的一个或更多个输出之间的偏差超过阈值时，将实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个表征为异常。优选地，该处理器确定该异常的严重程度。
有利地，该基于计算机的系统进一步包含存储在耦合到处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为向耦合到嵌入式控制系统的一个或更多个应用程序发布警报。
有利地，该基于计算机的系统进一步包含存储在耦合到处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为：将实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个存储在存储器中；以及使用存储器中的实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个更新行为训练集。
在另一个实施例中，一种计算机程序产品包含存储在耦合到处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为生成用于嵌入式控制系统的行为训练集，其中该行为训练集在训练过程中将嵌入式控制系统的输入与来自嵌入式控制系统的输出相关联以限定嵌入式控制系统的行为指纹，在嵌入式控制系统的操作期间实时监控嵌入式控制系统的输入和来自嵌入式控制系统的输出，以及当实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个表现为异常时生成警报。
有利地，该计算机程序产品进一步包含存储在耦合到处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为使用至少一个参数调试行为训练集。优选地，该至少一个参数选自一组参数，所述一组参数包含：储存器大小参数，其限定储存器计算网络中节点的数量；输入定标参数，其对嵌入式控制系统的输入属性进行加权；输出反馈定标参数，其限定用于储存器计算网络的反馈量；储存器权重矩阵参数，其控制储存器计算网络中的一个或更多个脉冲响应；耗散率参数，其控制储存器计算网络中对噪声行为和时间扭曲行为的灵敏度；以及噪声定标参数，其控制储存器计算网络中的一个或更多个噪声积分器。
有利地，该计算机程序产品进一步包含存储在耦合到处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为：将实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个与训练过程中收集的一个或更多个输出进行比较；以及当实时操作中从嵌入式控制系统收集的一个或更多个输出与训练过程中收集的一个或更多个输出之间的偏差超过阈值时，将实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个表征为异常。优选地，该处理器进一步确定该异常的严重程度。
有利地，该计算机程序产品进一步包含存储在耦合到处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为：将实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个存储在存储器中；以及使用存储器中的实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个更新行为训练集。
根据在此提供的说明书，更多领域的适用性将是显而易见的。应当理解的是本说明书和具体示例仅用于说明性目的而不意味着对本公开范围的限制。
附图说明
下面参照以下附图详细说明根据本发明教导的方法、系统和计算机程序产品的实施例。
图1A-1B是根据一些实施例实施实时嵌入式控制系统行为监控和异常检测的系统的示意图。
图2是根据某些实施例可以适用于实施实时嵌入式控制系统行为监控和异常检测的计算设备的示意图。
图3是根据一些实施例说明用于实时嵌入式控制系统行为监控和异常检测的方法中的操作的流程图。
具体实施方式
本文描述了用于实时嵌入式控制系统行为监控及异常检测的系统和方法。某些实施例的具体细节在以下说明及附图中被阐释以提供对这些实施例的全面理解。然而，本领域技术人员将认识到可以在没有以下说明中所描述的若干细节的情况下实现可替换的实施例。
在此描述的各种实施例被设置在一个或更多个基于计算机的系统的背景中，这些系统可以实施操作以生成用于嵌入式控制系统的行为训练集。例如，在某些实施例中，基于计算机的系统可以形成训练集，该训练集在训练过程中将嵌入式控制系统的输入与来自嵌入式控制系统的输出相关联以限定在正常或稳定条件下运行的嵌入式控制系统的行为指纹。可以以将嵌入式控制系统的输入与来自嵌入式控制系统的输出相关联的形式将行为指纹存储在合适的数据存储如数据库中。
在实时操作中，基于计算机的系统可以在嵌入式控制系统的操作期间监控嵌入式控制系统的输入和来自嵌入式控制系统的输出。在某些实施例中，从该系统收集的输出可以与训练过程中收集的一个或更多个输出进行比较。如果实时操作中进入嵌入式控制系统的输入或从嵌入式控制系统收集的输出中的一个或更多个与训练期间收集的一个或更多个输出之间的偏差超过阈值，则实时操作中进入嵌入式控制系统的一个或更多输入或从嵌入式控制系统收集的输出可以被表征为异常。当实时操作中进入嵌入式控制系统的一个或更多个输入或从嵌入式控制系统收集的一个或更多个输出表现出异常时，该系统可以产生警报。
图1A-1B是根据一些实施例实现实时嵌入式控制系统行为监控及异常检测的系统的示意图。首先参考图1A，简单地说，在一个实施例中，系统100可以被配置为训练模式，在该模式下系统100被配置为生成用于一个或更多个嵌入式控制系统的行为训练集。在一些实施例中，系统100从一个或更多个网络化嵌入式控制系统110接收输入。网络化嵌入式控制系统110可以包含制造平台上的设备中的一个或更多个嵌入式控制器。例如，网络化嵌入式控制系统110可以包含监控制造工艺或使制造工艺自动化的一个或更多个嵌入式控制器。来自网络化嵌入式控制系统的数据输出可以包含一个或更多个工艺参数、设备测量值、环境条件读数等。
系统100包含一个或更多个行为属性输入应用程序120、行为输入及分类器相关器应用程序125、行为输入及分类数据存储装置130、储存器计算参数数据存储装置140以及行为训练集数据存储装置145。在一些实施例中，应用程序120、125、135可以被实现为存储在永久性计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为执行操作以生成行为训练集，该行为训练集将处于稳定和/或预定工况下的网络化嵌入式控制系统110的输入和输出相关联。
现在参考图1B，在一些实施例中，系统100可以被配置为在嵌入式控制系统100操作期间实时监控嵌入式控制系统的输入和来自嵌入式控制系统的输出。网络化嵌入式控制系统110的数据输入可以包含来自一个或更多个控制系统的控制参数和来自与网络化嵌入式控制系统110关联的一个或更多个监控系统的反馈。来自网络化嵌入式控制系统的数据输出可以包含一个或更多个工艺参数、设备测量值、环境条件读数等。
在图1B描述的监控配置中，系统100包含一个或更多个行为属性输入应用程序120、行为输入及分类器相关器应用程序125、行为输入及分类数据存储装置130、储存器计算参数数据存储装置140、行为训练集数据存储装置145，行为模型应用程序165、异常行为分类器应用程序170以及行为警报发布器应用程序175。在一些实施例中，应用程序120、125、135、165、170、175可以被实现为存储在永久性计算机可读介质中的逻辑指令，所述逻辑指令在被处理器执行时将处理器配置为执行操作以生成行为训练集，该行为训练集将处于稳定和/或预定工况下的网络化嵌入式控制系统110的输入和输出相关联。
在一些实施例中，图1中描述的系统100的各种组件都可以在计算机系统环境中实现。图2是根据一些实施例可以适用于实现系统100的一些部分的计算机系统200的示意图。在一个实施例中，系统200包含计算设备208和一个或更多个附属输入/输出设备，所述输入/输出设备包含具有屏幕204的显示器202、一个或更多个扬声器206、键盘210、一个或更多个其它I/O设备212以及鼠标214。其它I/O设备212可以包含触摸屏、声控输入设备、轨迹球以及允许系统200接收来自使用者的输入的任何其它设备。
计算设备208包含系统硬件220和存储器230，该存储器230可以被实现为随机存取存储器和/或只读存储器。文件存储装置280可以可通信地耦合到计算设备208。文件存储装置280可以被内置于计算设备208中，例如一个或更多个硬盘驱动器、CD-ROM驱动器、DVD-ROM驱动器或其他类型的存储设备。文件存储装置280也可以外置于计算机208，例如一个或更多个外置硬盘驱动器、附连网络的存储设备或独立的存储网络。
系统硬件220可以包含一个或更多个处理器222、一个或更多个图形处理器224、网络接口226以及总线结构228。此处所用的术语“处理器”的意思是任何类型的计算元件，例如但不限于微处理器、微控制器、复杂指令集计算（CISI）微处理器、精简指令集（RISC）微处理器、超长指令字（VLIW）微处理器或者任何其他类型的处理器或处理电路。
图形处理器224的功能可以用作管理图形和/或视频操作的辅助处理器。图形处理器224可以被集成到计算系统200的主板上或者可以经由扩展槽耦合到主板上。
在一个实施例中，网络接口226可以是有线接口例如以太网接口（参见例如Institute of Electrical and Electronics Engineers/IEEE802.3-2002）或者无线接口例如IEEE802.11a,b或g-兼容接口（参见例如IEEE Standard forIT-Telecommunications and information exchange between systemsLAN/MAN--Part II:Wireless LAN Medium Access Control(MAC)and PhysicalLayer(PHY)specifications Amendment4:Further Higher Data Rate Extension inthe2.4GHz Band,802.11G-2003）。无线接口的另一个示例可以是通用分组无线电服务技术（GPRS）接口（参见例如Guidelines on GPRS HandsetRequirements,Global System for Mobile Communications/GSM Association,Ver.3.0.1,December2002）。
总线结构228连接系统硬件228的各种组件。在一个实施例中，总线结构228可以是若干类型的总线结构中的一个或更多个，其包含存储器总线、外围总线或外部总线和/或使用任何种类的可用总线架构的本地总线，所述总线架构包括但不限于11位总线、工业标准架构（ISA）、微通道架构（MSA）、扩展工业标准架构（EISA）、智能驱动电子设备（IDE）、VESA本地总线（VLB）、外围组件互连（PCI）、通用串行总线（USB）、高级图形端口（AGP）、个人计算机存储卡国际协会总线（PCMCIA）以及小型计算机系统接口（SCSI）。
存储器230可以包含用于管理计算设备208的操作的操作系统240。在一个实施例中，操作系统240包含向系统硬件220提供接口的硬件接口模块254。此外，操作系统240可以包含管理计算设备208的操作中使用的文件的文件系统250以及管理在计算设备208上执行的过程的过程控制子系统252。
操作系统240可以包含（或管理）一个或更多个通信接口，所述通信接口可以结合系统硬件220进行操作以收发来自远程来源的数据包和/或数据流。操作系统240可以进一步包含系统调用接口模块242，该系统调用接口模块在操作系统240与驻留在存储器130中的一个或更多个应用模块之间提供接口。操作系统240可以具体化为例如
Figure BDA0000399064570000071
品牌操作系统或UNIX操作系统或其任何衍生品（如Linux、Solaris等）或者其它操作系统。
如上所述，在一些实施例中，系统100的各种应用程序可以被实现为包括被编码到有形计算机可读介质如存储器230中的逻辑指令，所述逻辑指令在被处理器222执行时促使处理器222实现操作。因此，在一些实施例中，存储器230可以包含一个或更多个行为属性输入应用程序120、行为输入及分类器相关器应用程序125、行为输入及分类数据存储装置130、储存器计算参数数据存储装置140、行为训练集数据存储装置145、行为模型应用程序165、异常行为分类器应用程序170以及行为警报发布器应用程序175。
已经描述了系统100的结构化组件，下面将参照图3描述系统100的操作，该图是说明根据一些实施例用于实时嵌入式控制系统行为监控和异常检测的方法中的操作的流程图。
参考图3，在操作310中生成行为训练集。参考图1A，在操作的训练模式中，当系统110在稳定状态中和/或在已知条件下操作时，行为属性输入应用程序120接收进入网络化嵌入式控制系统110的数据输入和来自网络化嵌入式控制系统110的数据输出。例如，在一些实施例中，用于网络化嵌入式控制系统110的输入训练序列可以被存储在行为训练集数据存储装置145中。行为属性输入应用程序120可以向一个或更多个网络化嵌入式控制系统110提供输入训练集并且可以响应于所述输入接收由一个或更多个网络化嵌入式控制系统110生成的数据输出。行为属性输入应用程序120可以将接收到的输出传递给行为输入及分类器相关器应用程序125。
行为输入及分类器相关器应用程序125接收由一个或更多个网络化嵌入式控制系统110生成的输出，将由一个或更多个网络化嵌入式控制系统110生成的输出与提供给一个或更多个网络化嵌入式控制系统110的输入相关联，并且将输出和关联关系存储在行为输入及分类数据存储装置130中。此外，行为输入及分类器相关器应用程序125接收可以由外部来源为一个或更多个网络化嵌入式控制系统110提供的正常行为分类输入115，并且使用正常行为分类输入115对来自一个或更多个网络化嵌入式控制系统110的输出进行分类。
行为训练器应用程序135允许系统的使用者访问行为训练集数据存储装置145中的训练集以及来自储存器计算参数数据库的相关参数。此外，行为训练器应用程序135可以将一个或更多个储存器计算参数应用于训练集以调试训练集使其达到一定水平的灵敏度。在一些实施例中，如下所述的六个参数可用于调试：
储存器大小：基于统计学习理论限定储存器计算网络内部的节点数量的参数，其影响建模能力。
输入定标：对输入属性进行加权的参数，其直接影响储存器动态，该参数有助于规范储存器动态使其同等重要地处理小输入振幅和大输入振幅，并且确定储存器的非线性程度。
输出反馈定标：限定用于稳定控制储存器计算网络的反馈量的参数，其辅助识别振荡行为模式的程度，并且确定经训练的网络化嵌入式系统控制器120的模式生成组件的独立程度。
储存器权重矩阵谱半径：控制储存器计算网络的脉冲响应和交互的输入值范围的参数，其辅助行为灵敏度测定并且依靠有问题的任务是否要求长存储或短存储来允许过去的输入影响未来的输出。
耗散率：控制储存器计算网络对噪声行为、时间扭曲行为模式和/或非常慢的动态系统的灵敏度的参数。
噪声定标：控制储存器计算网络的噪声积分器的重要性的参数，其影响行为模式的稳定/混乱方面的分类灵敏度。
因此，在图1A所描述的学习/训练配置中，系统100在作为稳定和/或正常操作条件的条件下构造一个或更多个网络化嵌入式控制系统110的输入和相关输出的曲线并且可以根据分类方案将输出分类。结果被存储在行为训练集数据存储装置145中。
再次参考图3，当系统100如图1B所示处于监控配置下时，由系统100实施剩余的操作。在操作315中，系统100在网络化嵌入式控制系统110的实时操作期间监控一个或更多个网络化嵌入式控制系统110的输入和输出。例如，如图1B所描述，在一些实施例中行为属性输入应用程序120监控一个或更多个网络化嵌入式控制系统110以检索控制系统110的输入和由控制系统110生成的输出。在其他实施例中，行为属性输入应用程序120主动请求来自一个或更多个网络化嵌入式控制系统110的输入和输出。
由行为属性输入应用程序120收集的数据被转发给行为模型应用程序165。在一些实施例中，行为模型应用程序165可以被实现为经训练和部署的储存器计算网络。行为模型应用程序165被行为训练器应用程序135训练。因此，行为模型应用程序165将使其储存器计算参数和储存器计算网络矩阵被配置。行为模型应用程序165监控行为属性输入并基于该配置和所学习的训练集来输出分类。
由行为模型应用程序165生成的输出被转发给异常行为分类器应用程序170，该异常行为分类器应用程序170解释行为模型应用程序165的结果并且确定结果是否异常。例如，在一些实施例中，在实时操作中从网络化嵌入式控制系统110收集的一个或更多个输出与训练过程中收集的一个或更多个输出进行比较（操作320），并且当实时操作中从嵌入式控制系统收集的一个或更多个输出与训练过程中收集的一个或更多个输出之间的偏差超过阈值时被表征为异常（操作325，330）。该阈值可以是固定值、与输出的量值成正比的值或者可以是动态的。在一些实施例中，异常行为分类应用程序170也可以确定异常的严重程度（操作335）。
由异常行为分类应用程序170生成的输出被转发给行为警报发布器应用程序175，以便警报能够生成并且发布（操作340）给一个或更多个外部应用程序180。同样，结果也可以转发给行为输入及分类器相关器应用程序125进行处理。在一些实施例中，行为输入及分类器相关器应用程序125将在实时操作中从嵌入式控制系统收集的一个或更多个输出存储在存储器中（操作345）并且使用存储器中的在实时操作中从嵌入式控制系统收集的一个或更多个输出来更新行为训练集（操作350），例如通过更新行为输入及分类数据存储装置130来完成。
虽然图1A和图1B中描述的实施例说明了单一行为模型应用程序165和单一异常行为分类应用程序170，但本领域技术人员将认识到系统100可以包含多个行为模型应用程序165和行为分类应用程序170以适用于分层式行为异常检测系统。
在前面的讨论中，已经描述了示例性过程的具体实施方式，然而应当理解的是，在可替换实施方式中，某些操作不需要按照以上所描述的顺序执行。在可替换实施例中，根据具体情况一些操作可以被修改、以不同的顺序执行或者可以完全省略。此外，在各种替代实施方式中，所描述的操作可以由计算机、控制器、处理器、可编程设备、固件或任何其它合适的设备来实现，并且可以基于存储在一个或更多个计算机可读介质上或以其他方式存储或编程到此类设备中（例如包括向此类设备实时传输计算机可读指令）的指令。在软件的背景下，上述操作可以代表计算机指令，所述计算机指令在被一个或更多个处理器执行时完成所述操作。在使用计算机可读介质的事件中，该计算机可读介质可以是任何可用介质，其能够被设备访问以实施存储在其上的指令。
虽然已经描述了各种实施例，但本领域技术人员将认识到在不偏离本发明的情况下可以做出各种修改或变体。这些示例说明各种实施例而不旨在限制本发明。因此，说明书和权利要求应该仅在考虑有关现有技术的情况下以必要的限制进行自由解释。

Claims (10)

1.一种用于实时嵌入式控制系统行为监控和异常检测的基于计算机的方法，其包含：
生成用于所述嵌入式控制系统的行为训练集，其中所述行为训练集在训练过程中将所述嵌入式控制系统的输入与来自所述嵌入式控制系统的输出相关联，以限定所述嵌入式控制系统的行为指纹；
在所述嵌入式控制系统的操作期间，实时监控所述嵌入式控制系统的输入和来自所述嵌入式控制系统的输出；以及
当实时操作中进入所述嵌入式控制系统的输入或者从所述嵌入式控制系统收集的输出中的一个或更多个表现为异常时生成警报。
2.根据权利要求1所述的基于计算机的方法，其中生成用于所述嵌入式控制系统的行为训练集包含使用至少一个参数调试所述行为训练集。
3.根据权利要求2所述的基于计算机的方法，其中所述至少一个参数选自一组参数，所述一组参数包含：
储存器大小参数，其限定储存器计算网络中节点的数量；
输入定标参数，其对所述嵌入式控制系统的输入属性进行加权；
输出反馈定标参数，其限定用于所述储存器计算网络的反馈量；
储存器权重矩阵参数，其控制所述储存器计算网络中的一个或更多个脉冲响应；
耗散率参数，其控制所述储存器计算网络中对噪声行为和时间扭曲行为的灵敏度；以及
噪声定标参数，其控制所述储存器计算网络中的一个或更多个噪声积分器。
4.根据权利要求1所述的基于计算机的方法，其中当实时操作中从所述嵌入式控制系统收集的一个或更多个输出表现为异常时生成警报包含：
将实时操作中进入所述嵌入式控制系统的输入或从所述嵌入式控制系统收集的输出中的所述一个或更多个与所述训练过程中收集的一个或更多个输出进行比较；以及
当实时操作中从所述嵌入式控制系统收集的所述一个或更多个输出与所述训练过程中收集的所述一个或更多个输出之间的偏差超过阈值时，将实时操作中进入所述嵌入式控制系统的输入或从所述嵌入式控制系统收集的输出中的所述一个或更多个表征为异常。
5.根据权利要求4所述的基于计算机的方法，其进一步包含：
确定所述异常的严重程度。
6.根据权利要求1所述的基于计算机的方法，其进一步包含：
向耦合到所述嵌入式控制系统的一个或更多个应用程序发布所述警报。
7.根据权利要求6所述的基于计算机的方法，其进一步包含：
将实时操作中进入所述嵌入式控制系统的输入或从所述嵌入式控制系统收集的输出中的所述一个或更多个存储在存储器中；以及
使用存储器中的实时操作中进入所述嵌入式控制系统的输入或从所述嵌入式控制系统收集的输出中的所述一个或更多个更新所述行为训练集。
8.根据权利要求1所述的基于计算机的方法，其中生成用于所述嵌入式控制系统的行为训练集包含使用选自一组参数的至少两个参数调试所述行为训练集，所述一组参数包含：
储存器大小参数，其限定储存器计算网络中节点的数量；
输入定标参数，其对所述嵌入式控制系统的输入属性进行加权；
输出反馈定标参数，其限定用于所述储存器计算网络的反馈量；
储存器权重矩阵参数，其控制所述储存器计算网络中的一个或更多个脉冲响应；
耗散率参数，其控制所述储存器计算网络中对噪声行为和时间扭曲行为的灵敏度；以及
噪声定标参数，其控制所述储存器计算网络中的一个或更多个噪声积分器。
9.一种用于实时嵌入式控制系统行为监控和异常检测的基于计算机的系统，其包含：
处理器；以及
存储在耦合到所述处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被所述处理器执行时将所述处理器配置为执行如权利要求1至8中任一项所述的方法。
10.一种计算机程序产品，其包含存储在耦合到处理器的有形计算机可读介质中的逻辑指令，所述逻辑指令在被所述处理器执行时将所述处理器配置为执行如权利要求1至8中任一项所述的方法。
CN201310495006.6A 2012-10-22 2013-10-21 实时控制系统管理 Pending CN103777623A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US13/657,440 US20140114442A1 (en) 2012-10-22 2012-10-22 Real time control system management
US13/657,440 2012-10-22

Publications (1)

Publication Number Publication Date
CN103777623A true CN103777623A (zh) 2014-05-07

Family

ID=49382187

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310495006.6A Pending CN103777623A (zh) 2012-10-22 2013-10-21 实时控制系统管理

Country Status (5)

Country Link
US (1) US20140114442A1 (zh)
EP (1) EP2722762A3 (zh)
JP (1) JP6305004B2 (zh)
CN (1) CN103777623A (zh)
RU (1) RU2658392C2 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105739917A (zh) * 2014-12-31 2016-07-06 三星电子株式会社 具有学习机制的电子系统及其操作方法
CN112424718A (zh) * 2018-08-06 2021-02-26 欧姆龙株式会社 控制系统以及控制装置

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9472084B1 (en) * 2014-03-12 2016-10-18 Ca, Inc. Alarm notification based on detecting anomalies in big data
CN104281512A (zh) * 2014-10-31 2015-01-14 成都众易通科技有限公司 一种服务器智能机箱系统
SE542513C2 (en) * 2015-12-15 2020-05-26 Saab Ab A method for authenticating software
CN106126409B (zh) * 2016-07-01 2018-11-23 浪潮(北京)电子信息产业有限公司 一种实时监控oracle单块读延迟的方法及装置
US10204226B2 (en) * 2016-12-07 2019-02-12 General Electric Company Feature and boundary tuning for threat detection in industrial asset control system
JP6907014B2 (ja) * 2017-04-25 2021-07-21 三菱重工業株式会社 管理監視システム
US10921422B2 (en) * 2017-10-25 2021-02-16 The Boeing Company Below-noise after transmit (BAT) Chirp Radar
US20200334578A1 (en) * 2018-01-09 2020-10-22 Nippon Telegraph And Telephone Corporation Model training apparatus, model training method, and program
EP3918500B1 (en) * 2019-03-05 2024-04-24 Siemens Industry Software Inc. Machine learning-based anomaly detections for embedded software applications
RU2716389C1 (ru) * 2019-03-26 2020-03-11 Акционерное общество "Информационные спутниковые системы имени академика М.Ф. Решетнёва" Способ построения вычислительного процесса испытаний аппаратуры с мультиинтерфейсным взаимодействием
US11455500B2 (en) 2019-12-19 2022-09-27 Insitu, Inc. Automatic classifier profiles from training set metadata
CN115004196A (zh) * 2020-03-26 2022-09-02 Tdk株式会社 参数的设定方法和储备池元件的控制方法
US11157267B1 (en) * 2020-09-09 2021-10-26 International Business Machines Corporation Evaluation of dynamic relationships between application components
US11729195B1 (en) 2022-09-15 2023-08-15 Cyviation Ltd Computerized-system and computerized-method for detecting cyber-attacks on avionic communications of an airborne computerized-device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5568377A (en) * 1992-10-29 1996-10-22 Johnson Service Company Fast automatic tuning of a feedback controller
EP1180734A1 (en) * 2000-08-14 2002-02-20 Kollmorgen Corporation Frequency domain auto-tune for an internal motor controller
US20070028220A1 (en) * 2004-10-15 2007-02-01 Xerox Corporation Fault detection and root cause identification in complex systems
US20090037358A1 (en) * 2004-07-27 2009-02-05 International Business Machines Corporation Computer Program Product and System for Autonomous Classification

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04363705A (ja) * 1991-01-22 1992-12-16 Jgc Corp ニューラルネットワークによるサーボ系の異常診断　　　　　　　　　　　　方法及び装置
US5365723A (en) * 1991-04-16 1994-11-22 Ramos Enrique A Portable baggage wrapping apparatus
US5980096A (en) * 1995-01-17 1999-11-09 Intertech Ventures, Ltd. Computer-based system, methods and graphical interface for information storage, modeling and stimulation of complex systems
JPH11324782A (ja) * 1998-05-14 1999-11-26 Yamaha Motor Co Ltd 内燃機関の空燃比制御装置における学習方法
US6597777B1 (en) * 1999-06-29 2003-07-22 Lucent Technologies Inc. Method and apparatus for detecting service anomalies in transaction-oriented networks
US6853921B2 (en) * 1999-07-20 2005-02-08 Halliburton Energy Services, Inc. System and method for real time reservoir management
US7346929B1 (en) * 1999-07-29 2008-03-18 International Business Machines Corporation Method and apparatus for auditing network security
US6742124B1 (en) * 2000-05-08 2004-05-25 Networks Associates Technology, Inc. Sequence-based anomaly detection using a distance matrix
US6772036B2 (en) * 2001-08-30 2004-08-03 Fisher-Rosemount Systems, Inc. Control system using process model
JP4018374B2 (ja) * 2001-11-21 2007-12-05 株式会社山武 空気調和機の異常検出装置、異常検出方法及びプログラム
US7472413B1 (en) * 2003-08-11 2008-12-30 F5 Networks, Inc. Security for WAP servers
JP4652741B2 (ja) * 2004-08-02 2011-03-16 インターナショナル・ビジネス・マシーンズ・コーポレーション 異常検出装置、異常検出方法、異常検出プログラム、及び記録媒体
US20070028219A1 (en) * 2004-10-15 2007-02-01 Miller William L Method and system for anomaly detection
US8051484B2 (en) * 2005-06-14 2011-11-01 Imperva, Inc. Method and security system for indentifying and blocking web attacks by enforcing read-only parameters
US7590481B2 (en) * 2005-09-19 2009-09-15 Ford Global Technologies, Llc Integrated vehicle control system using dynamically determined vehicle conditions
US7962403B2 (en) * 2006-03-16 2011-06-14 Sungard Avantgard Llc Method and apparatus for a model assessing debtor behavior
JP2007334554A (ja) * 2006-06-14 2007-12-27 Nissan Motor Co Ltd 障害物検出装置および障害物検出方法
US8713190B1 (en) * 2006-09-08 2014-04-29 At&T Intellectual Property Ii, L.P. Method and apparatus for performing real time anomaly detection
US20080270328A1 (en) * 2006-10-18 2008-10-30 Chad Lafferty Building and Using Intelligent Software Agents For Optimizing Oil And Gas Wells
US20090138415A1 (en) * 2007-11-02 2009-05-28 James Justin Lancaster Automated research systems and methods for researching systems
RU2355024C2 (ru) * 2007-02-12 2009-05-10 ВОЕННАЯ АКАДЕМИЯ СВЯЗИ имени С.М. Буденного Способ мониторинга безопасности автоматизированных систем
US20090049547A1 (en) * 2007-08-13 2009-02-19 Yuan Fan System for real-time intrusion detection of SQL injection web attacks
US20090187344A1 (en) * 2008-01-19 2009-07-23 Brancaccio Daniel S System, Method, and Computer Program Product for Analyzing Power Grid Data
FR2939170B1 (fr) * 2008-11-28 2010-12-31 Snecma Detection d'anomalie dans un moteur d'aeronef.
US8146429B2 (en) * 2009-08-03 2012-04-03 Georgia Tech Research Corporation Methods and systems for classifying the type and severity of defects in welds
US8676721B2 (en) * 2009-09-18 2014-03-18 Apo Offshore, Inc. Method, system and apparatus for intelligent management of oil and gas platform surface equipment
US8478548B2 (en) * 2010-01-15 2013-07-02 Fluke Corporation User interface system and method for diagnosing a rotating machine condition not based upon prior measurement history
US8322658B2 (en) * 2010-04-05 2012-12-04 The Boeing Company Automated fire and smoke detection, isolation, and recovery

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5568377A (en) * 1992-10-29 1996-10-22 Johnson Service Company Fast automatic tuning of a feedback controller
EP1180734A1 (en) * 2000-08-14 2002-02-20 Kollmorgen Corporation Frequency domain auto-tune for an internal motor controller
US20090037358A1 (en) * 2004-07-27 2009-02-05 International Business Machines Corporation Computer Program Product and System for Autonomous Classification
US20070028220A1 (en) * 2004-10-15 2007-02-01 Xerox Corporation Fault detection and root cause identification in complex systems

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105739917A (zh) * 2014-12-31 2016-07-06 三星电子株式会社 具有学习机制的电子系统及其操作方法
CN105739917B (zh) * 2014-12-31 2020-09-22 三星电子株式会社 具有学习机制的电子系统及其操作方法
CN112424718A (zh) * 2018-08-06 2021-02-26 欧姆龙株式会社 控制系统以及控制装置

Also Published As

Publication number Publication date
EP2722762A3 (en) 2017-03-15
RU2658392C2 (ru) 2018-06-21
JP2014096145A (ja) 2014-05-22
US20140114442A1 (en) 2014-04-24
RU2013142338A (ru) 2015-03-27
JP6305004B2 (ja) 2018-04-04
EP2722762A2 (en) 2014-04-23

Similar Documents

Publication Publication Date Title
CN103777623A (zh) 实时控制系统管理
CN104424354B (zh) 使用用户操作生成模型检测异常用户行为的方法和系统
US10101244B2 (en) Self-learning simulation environments
Fu et al. Sensor fault management techniques for wireless smart sensor networks in structural health monitoring
US10311171B2 (en) Multi-component and mixed-reality simulation environments
CN109564609A (zh) 利用先进计算机决策平台的计算机攻击的检测缓和与矫正
EP2951654B1 (en) Methods and systems for online monitoring using a variable data sampling rate
CN114662618B (zh) 一种基于联邦学习的故障诊断方法、装置及相关设备
US20160259869A1 (en) Self-learning simulation environments
WO2016053748A1 (en) Vibration signatures for prognostics and health monitoring of machinery
Al-Dabbagh et al. Reliability modeling of networked control systems using dynamic flowgraph methodology
CN108318532B (zh) 结构健康监测系统
KR102185737B1 (ko) 도로 상태 예측 시스템 및 예측 방법
US9639443B2 (en) Multi-component and mixed-reality simulation environments
KR20160035406A (ko) 종합분석 기법을 기반으로 한 실시간 가스설비 자동 긴급차단장치
Salehi et al. Localized damage identification in plate-like structures using self-powered sensor data: A pattern recognition strategy
US20180216960A1 (en) Monitoring a sensor array
US20140115148A1 (en) Decommission of a Server in Wireless Environment
US8489730B2 (en) Server location mapping
US20160350657A1 (en) Cross-Module Behavioral Validation
CN109542732A (zh) 一种集群日志收集方法、装置和计算机可读存储介质
CN112817827A (zh) 运维方法、装置、服务器、设备、系统及介质
US10409274B1 (en) Control system backplane monitoring with FPGA
Sudusinghe et al. Multiobjective design optimization in the lightweight dataflow for DDDAS environment (LiD4E)
US11106832B1 (en) Secure compute device housing with sensors, and methods and systems for the same

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20140507

RJ01 Rejection of invention patent application after publication