RU2658392C2 - Организация системы управления в режиме реального времени - Google Patents

Организация системы управления в режиме реального времени Download PDF

Info

Publication number
RU2658392C2
RU2658392C2 RU2013142338A RU2013142338A RU2658392C2 RU 2658392 C2 RU2658392 C2 RU 2658392C2 RU 2013142338 A RU2013142338 A RU 2013142338A RU 2013142338 A RU2013142338 A RU 2013142338A RU 2658392 C2 RU2658392 C2 RU 2658392C2
Authority
RU
Russia
Prior art keywords
control system
specified
processing device
behavioral
input signals
Prior art date
Application number
RU2013142338A
Other languages
English (en)
Other versions
RU2013142338A (ru
Inventor
Уинфен ЛИ
Моника М. КХОТ
Арун АЙЯГАРИ
Рик Н. БЛЭЙР
Original Assignee
Зе Боинг Компани
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Зе Боинг Компани filed Critical Зе Боинг Компани
Publication of RU2013142338A publication Critical patent/RU2013142338A/ru
Application granted granted Critical
Publication of RU2658392C2 publication Critical patent/RU2658392C2/ru

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751—Error or fault detection not based on redundancy
    • G06F11/0754—Error or fault detection not based on redundancy by exceeding limits
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0243—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model
    • G05B23/0254—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model based on a quantitative model, e.g. mathematical relationships between inputs and outputs; functions: observer, Kalman filter, residual calculation, Neural Networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0736—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in functional embedded systems, i.e. in a data processing system designed as a combination of hardware and software dedicated to performing a certain function

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • General Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Debugging And Monitoring (AREA)

Abstract

Группа изобретений относится к способу отслеживания поведения и обнаружения аномалий встроенных систем управления, компьютерной системе и обрабатывающему устройству. Для отслеживания и обнаружения аномалий создают поведенческую обучающую последовательность определенным образом, отслеживают входные сигналы, создают тревожный сигнал, при обнаружении аномалии во входном или выходных сигналах. Система содержит обрабатывающее устройство и логические инструкции, хранящиеся на материальном носителе для реализации способа. Обеспечивается обнаружение аномалий встроенных систем управления в режиме реального времени. 3 н. и 17 з.п. ф-лы, 4 ил.

Description

ОБЛАСТЬ ТЕХНИКИ
[0001] Настоящее изобретение относится к встроенным системам управления и, в частности, к системам и способам осуществления отслеживания поведения и обнаружения аномалий встроенных систем управления в режиме реального времени.
УРОВЕНЬ ТЕХНИКИ
[0002] Встроенные системы управления являются неотъемлемой частью производственных операций и приложений для авиакосмической области, таких как для функционирования систем самолета и систем обеспечения целевых задач. Объединенные в сеть встроенные датчики, управляющие устройства и исполнительно-приводные средства увеличивают уровень производительности, что является результатом большего количества собранной информации и использования компьютерной системы управления. Однако с течением времени характеристики, или параметры, этих систем могут существенно отклоняться от номинального состояния или ухудшаться вследствие различных причин, таких как обычное использование, повреждение или даже кибератаки. Кроме того, из-за глобализации цепи поставок встроенных устройств и усовершенствования кибератак, также увеличилось присутствие эксплойтов, или программных средств кибернетических атак, "нулевого дня" (zero-day exploit) и увеличилась возможность злонамеренного использования уязвимых мест атакуемой конструкции.
[0003] Отказ этих встроенных систем управления или их снижение их эффективности может быть незаметным и сложным для обнаружения. Соответственно, это подтверждает необходимость в системах и способах обнаружения аномального поведения сетевых встроенных систем управления в режиме реального времени.
РАСКРЫТИЕ ИЗОБРЕТЕНИЯ
[0004] Раскрыты системы и способы организации системы управления в режиме реального времени в сетевых средах. В одном варианте осуществления изобретения основанный на применении компьютера способ отслеживания поведения и обнаружения аномалий встроенных систем управления в режиме реального времени включает создание поведенческой обучающей последовательности для встроенной системы управления, причем поведенческая обучающая последовательность соотносит входные сигналы в указанную встроенную систему управления с выходными сигналами из нее во время обучающего процесса для определения поведенческих характерных признаков для указанной встроенной системы управления; отслеживание входных сигналов в указанную встроенную систему управления и выходных сигналов из нее в режиме реального времени во время работы указанной встроенной системы управления; и создание тревожного сигнала, когда по меньшей мере один из входных сигналов в указанную встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, представляет аномалию.
[0005] В другом варианте осуществления изобретения основанная на применении компьютера система для отслеживания поведения и обнаружения аномалий встроенной системы управления в режиме реального времени содержит обрабатывающее устройство и логические инструкции, хранящиеся на материальном носителе, читаемом с помощью компьютера и соединенном с обрабатывающим устройством, которые при выполнении их указанным обрабатывающим устройством конфигурируют его с обеспечением возможности создания поведенческой обучающей последовательности для встроенной системы управления, причем поведенческая обучающая последовательность соотносит входные сигналы в указанную встроенную систему управления с выходными сигналами из нее во время обучающего процесса для определения поведенческих характерных признаков для указанной встроенной системы управления; возможности отслеживания входных сигналов в указанную встроенную систему управления и выходных сигналов из нее в режиме реального времени во время работы указанной встроенной системы управления; и возможности создания тревожного сигнала, когда по меньшей мере один из входных сигналов в указанную встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, представляет аномалию.
[0006] В другом варианте осуществления изобретения компьютерный программный продукт, содержащий логические инструкции, хранящиеся на материальном носителе, читаемом с помощью компьютера и соединенном с обрабатывающим устройством, которые при выполнении их указанным обрабатывающим устройством конфигурируют его с обеспечением возможности создания поведенческой обучающей последовательности для встроенной системы управления, причем поведенческая обучающая последовательность связывает входные сигналы в указанную встроенную систему управления с выходными сигналами из нее во время обучающего процесса для определения поведенческих характерных признаков для указанной встроенной системы управления; возможностью отслеживания входных сигналов в указанную встроенную систему управления и выходных сигналов из нее в реальном времени во время работы указанной встроенной системы управления; и возможности создания тревожного сигнала, когда по меньшей мере один из входных сигналов в указанную встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, представляют аномалию.
[0007] Дополнительные области применимости будут очевидны из описания, предоставленного в настоящем документе. Следует понимать, что указанное описание и конкретные примеры предназначены только для иллюстративных целей, но не для ограничения объема настоящего раскрытия.
КРАТКОЕ ОПИСАНИЕ ЧЕРТЕЖЕЙ
[0008] Варианты осуществления способов, систем и компьютерных программных продуктов в соответствии с идеями настоящего раскрытия подробно описаны ниже со ссылкой на следующие чертежи.
[0009] На фиг.1А-1В представлены схематичные иллюстрации системы для осуществления отслеживания поведения и обнаружения аномалий встроенных систем управления в режиме реального времени в соответствии с вариантами осуществления изобретения.
[0010] На фиг.2 представлена схематичная иллюстрация компьютерного устройства, которое может быть выполнено с обеспечением возможности отслеживания поведения и обнаружения аномалий встроенных систем управления в режиме реального времени в соответствии с вариантами осуществления изобретения.
[0011] На фиг.3 представлена блок-схема, иллюстрирующая способ отслеживания поведения и обнаружения аномалий встроенных систем управления в режиме реального времени в соответствии с вариантами осуществления изобретения.
ОСУЩЕСТВЛЕНИЕ ИЗОБРЕТЕНИЯ
[0012] В настоящем документе описаны системы и способы отслеживания поведения и обнаружения аномалий встроенных систем управления в режиме реального времени. Для обеспечения полного понимания таких вариантов осуществления в следующем описании и на чертежах изложены конкретные признаки некоторых вариантов осуществления изобретения. Однако специалистам в области техники будет понятно, что могут применяться альтернативные варианты осуществления изобретения без признаков, описанных в следующем описании.
[0013] Описанные здесь различные варианты осуществления изобретения показаны в контексте по меньшей мере одной основанной на применении компьютера системы, которая может реализовывать этапы создания поведенческой обучающей последовательности для встроенной системы управления. Например, в некоторых вариантах осуществления изобретения основанная на применении компьютера система может создавать обучающую последовательность, которая соотносит входные сигналы во встроенную систему управления с выходными сигналами из нее во время обучающего процесса для определения поведенческих характерных признаков для указанной встроенной системы управления, работающей при нормальных или устойчивых условиях. Поведенческие характерные признаки могут быть сохранены в подходящем хранилище данных, например, базе данных, в форме, которая связывает входные сигналы во встроенную систему управления с выходными сигналами из нее.
[0014] В режиме реального времени основанная на применении компьютера система может отслеживать входные сигналы во встроенную систему управления и выходные сигналы из нее во время работы указанной встроенной системы управления. В некоторых вариантах осуществления изобретения выходные сигналы, собранные из указанной системы, могут сравнивать по меньшей мере с одним выходным сигналом, собранным во время обучающего процесса. Если расхождение между указанными по меньшей мере одним из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени и по меньшей мере одним выходным сигналом, собранным во время обучающего процесса, превышает пороговое значение, то указанные по меньшей мере один входной сигнал во встроенную систему управления или выходной сигнал, собранный из нее во время работы в режиме реального времени, может быть охарактеризован, как аномалия. Когда по меньшей мере один входной сигнал во встроенную систему управления или по меньшей мере один из выходных сигналов, собранных из нее во время работы в режиме реального времени, представляет аномалию, система может создавать тревожный сигнал.
[0015] На фиг.1А-1В изображены схематичные иллюстрации системы для осуществления отслеживания поведения и обнаружения аномалий встроенных систем управления в режиме реального времени в соответствии с вариантами осуществления изобретения. Как показано на фиг.1А, в одном варианте осуществлении изобретения система 100 может быть выполнена в обучающем режиме, в котором система 100 выполнена с возможностью создания обучающей последовательности по меньшей мере для одной встроенной системы управления. В некоторых вариантах осуществления изобретения система 100 принимает входной сигнал по меньшей мере от одной сетевой встроенной системы 110 управления. Сетевые встроенные системы 110 управления могут содержать по меньшей мере одно встроенное управляющее устройство в составе оборудования на производственном участке. К примеру, сетевые встроенные системы 110 управления могут содержать по меньшей мере одно встроенное управляющее устройство, которое отслеживает или автоматизирует производственный процесс. Выходные данные из сетевых встроенных систем управления могут содержать по меньшей мере один параметр процесса, измерение оборудования, замер условия окружающей среды или тому подобное.
[0016] Система 100 содержит по меньшей мере одно приложение 120 поведенческого входного атрибута, приложение 125 классифицирующего корреляционного устройства и поведенческого входного сигнала, хранилище 130 данных для классификационных данных и поведенческого входного сигнала, хранилище 140 данных для параметров вычислительного резервуара и хранилище 145 данных для поведенческой обучающей последовательности. В некоторых вариантах осуществления изобретения приложения 120, 125, 135 могут быть реализованы, как логические инструкции, хранящиеся на не кратковременном носителе, читаемом с помощью компьютера, которые при исполнении их обрабатывающим устройством конфигурируют это обрабатывающее устройство с обеспечением возможности реализации этапов создания поведенческой обучающей последовательности, которая соотносит входные сигналы в сетевую встроенную систему 110 управления с выходными сигналами из нее при устойчивых и/или заранее определенных рабочих условиях.
[0017] Как показано на фиг.1В, в некоторых вариантах осуществления изобретения система 100 может быть выполнена с возможностью отслеживания входных сигналов во встроенную систему управления и выходных сигналов из нее в в режиме реального времени во время работы встроенной системы 100 управления. Входные данные в сетевую встроенную систему 110 управления могут содержать управляющие параметры по меньшей мере от одной системы управления и сигналы обратной связи по меньшей мере от одной отслеживающей системы, связанной с сетевой встроенной системой 110 управления. Выходные данные от сетевых встроенных систем могут содержать по меньшей мере один параметр процесса, измерение оборудования, замер условия окружающей среды или тому подобное.
[0018] При отслеживании, выполненная так, как показано на фиг.1 В, система 100 содержит по меньшей мере одно приложение 120 поведенческого входного атрибута, приложение 125 классифицирующего корреляционного устройства и поведенческого входного сигнала, хранилище 130 данных для классификационных данных и поведенческого входного сигнала, хранилище 140 данных для параметров вычислительного резервуара, хранилище 145 данных для поведенческой обучающей последовательности, приложения 165 поведенческой модели, приложения 170 классификатора аномального поведения и приложения 175 выпуска поведенческого тревожного сигнала. В некоторых вариантах осуществления изобретения приложения 120, 125, 135, 165, 170, 175 могут быть реализованы, как логические инструкции, хранящиеся на не кратковременном носителе, читаемом с помощью компьютера, которые при исполнении их обрабатывающим устройством конфигурируют это обрабатывающее устройство с обеспечением возможности реализации этапов создания поведенческой обучающей последовательности, которая соотносит входные сигналы в сетевую встроенную систему 110 управления с выходными сигналами из нее при устойчивых и/или заранее определенных рабочих условиях.
[0019] В некоторых вариантах осуществления изобретения оба различных компонента системы 100, изображенные на фиг.1, могут быть реализованы в среде компьютерных систем. На фиг.2 представлена схематичная иллюстрация вычислительной системы 200, которая может быть выполнена с возможностью реализации частей системы 100 в соответствии с некоторыми вариантами осуществления изобретения. В одном варианте осуществления изобретения система 200 содержит вычислительное устройство 208 и по меньшей мере одно сопутствующее устройство ввода/вывода, содержащее отображающее устройство 202, имеющее экран 204, по меньшей мере один динамик 206, клавиатуру 210, по меньшей мере одно другое устройство 212 ввода/вывода и манипулятор «мышь» 214. Другое устройство 212 ввода/вывода может содержать сенсорный экран, устройство речевого ввода, шаровой манипулятор и любое другое устройство, обеспечивающее системе 200 возможность приема ввода от пользователя.
[0020] Вычислительное устройство 208 содержит системное аппаратное обеспечение 220 и запоминающее устройство 230, которое может быть реализовано, как оперативное запоминающее устройство и/или постоянное запоминающее устройство. Хранилище 280 файлов может быть соединено с вычислительным устройством 208 с возможностью осуществления связи. Хранилище 280 может быть встроено в вычислительное устройство 208 так, что, например, может представлять собой по меньшей мере один жесткий диск, накопитель на компакт-диске, накопитель на DVD-диске или другой тип устройств хранения. Хранилище 280 файлов может быть также внешним по отношению к компьютеру 208, таким как, например, по меньшей мере один внешний жесткий диск, хранилище, присоединенное посредством сети, или отдельная сеть для хранения данных.
[0021] Системное аппаратное обеспечение 220 может содержать по меньшей мере одно обрабатывающее устройство 222, по меньшей мере одно графическое обрабатывающее устройство 224, сетевой интерфейс 226 и шинную структуру 228. В настоящем документе термин «обрабатывающее устройство» означает любой тип вычислительного элемента, такой как среди прочего микрообрабатывающее устройство, микроуправляющее устройство, микрообрабатывающее устройство архитектуры CISC (complex instruction set computing, вычисление со сложным набором команд), микрообрабатывающее устройство архитектуры RISC (reduced instruction set, уменьшенный набор инструкций), микрообрабатывающее устройство архитектуры VLIW (very long instruction word, команды сверхбольшой разрядности) или любой другой тип обрабатывающего устройства или обрабатывающей схемы.
[0022] Графическое обрабатывающее устройство 224 может функционировать в качестве вспомогательного обрабатывающего устройства, которое управляет графическими и/или видео операциями. Графическое обрабатывающее устройство 224 может быть встроено в системную плату вычислительной системы 200 или может быть связано с системной платой через расширительное гнездо.
[0023] В одном варианте осуществления изобретения сетевой интерфейс 226 может представлять собой проводной интерфейс, такой как интерфейс Ethernet (см, например, стандарта IEEE 802.3-2002 (Institute of Electrical and Electronics Engineers, институт инженеров по электротехнике и электронике)) или беспроводной интерфейс, такой как интерфейс, соответствующий стандарту IEEE 802.11а, b или g (см. IEEE стандарт ИТ - телекоммуникаций и информационного обмена между системами LAN/MAN (Local Area Network/Metropolitan area network, локальные вычислительные сети/сети мегаполисов) часть II: спецификации управления доступом к среде (MAC, Medium Access Control) и физического уровня (PHY, Physical Layer) для беспроводных ЛВС, Дополнение 4: Дальнейшее расширение высокоскоростной передачи данных в частотном диапазоне 2,4 ГГц, 802.11G-2003). Другим примером беспроводного интерфейса может являться интерфейс GPRS (general packet radio service, пакетная радиосвязь общего пользования) (см., например, Руководство по требованиям к переносным телефонам GPRS, Ассоциация GSM (Global System for Mobile Communications, глобальная система мобильной связи), вер. 3.0.1, декабрь 2002).
[0024] Шинные структуры 228 соединяют различные компоненты системного аппаратного обеспечения 220. В одном варианте осуществления изобретения шинные структуры 228 могут являться по меньшей мере одним из нескольких типов шинных структур, содержащих шину памяти, периферийную шину или внешнюю шину и/или локальную шину, использующую любой ассортимент доступных шинных архитектур, включая среди прочего 11-разрядную шину, архитектуру промышленного стандарта (ISA, Industrial Standard Architecture), микроканальную архитектуру (MSA, Micro-Channel Architecture), расширенную ISA (EISA), интерфейс IDE (Intelligent Drive Electronics), локальную шину VESA (VLB), шину PCI (Peripheral Component Interconnect, шина соединения периферийных компонентов), шину USB (Universal Serial Bus, универсальная последовательная шина), разъем AGP (Advanced Graphics Port, усовершенствованный графический разъем), шину PCMCIA (Personal Computer Memory Card International Association, международная ассоциация производителей карт памяти для персональных компьютеров) и интерфейс SCSI (Small Computer Systems Interface, интерфейс малых компьютерных систем).
[0025] Запоминающее устройство 230 может содержать операционную систему 240 для управления работой вычислительного устройства 208. В одном варианте осуществления изобретения операционная система 240 содержит интерфейсный модуль 254 аппаратного обеспечения, который обеспечивает интерфейс для системного аппаратного обеспечения 220. Дополнительно, операционная система 240 может содержать файловую систему 250, которая управляет файлами, использованными в работе вычислительного устройства 208, и подсистему 252 управления процессом, которая управляет процессом, выполняющимся на вычислительном устройстве 208.
[0026] Операционная система 240 может содержать (или организовывать) по меньшей мере один интерфейс связи, который может работать во взаимодействии с системным аппаратным обеспечением 220 для передачи пакетов данных и/или потоков данных от удаленного источника. Операционная система 240 может дополнительно содержать интерфейсный модуль 242 системного вызова, который обеспечивает интерфейс между операционной системой 240 и по меньшей мере одним прикладным модулем, расположенном в запоминающем устройстве 130. Операционная система 240 может быть осуществлена, как операционная система товарной марки Windows®, операционная система типа UNIX или любые ее модификации (например, Linux, Solaris и т.п.) или другие операционные системы.
[0027] Как было описано выше, в некоторых вариантах осуществления изобретения различные приложения системы 100 могут содержать зашифрованные логические инструкции на материальном носителе, читаемом с помощью компьютера, таком как запоминающее устройство 230, которые при выполнении их обрабатывающим устройством 222 инициируют обрабатывающее устройство 222 осуществлять определенные этапы. Таким образом, в некоторых вариантах осуществления изобретения запоминающее устройство 230 может содержать по меньшей мере одно приложение 120 поведенческого входного атрибута, приложение 125 классифицирующего корреляционного устройства и поведенческого входа, хранилище 130 данных для классификационных данных и поведенческого входа, хранилище 140 данных для параметров вычислительного резервуара, хранилище 145 данных для поведенческой обучающей последовательности, приложения 165 поведенческой модели, приложения 170 классификатора аномального поведения и приложения 175 выпуска поведенческого тревожного сигнала.
[0028] После описания структурных компонентов системы 100 будут описаны действия системы 100 со ссылкой на фиг.3, которая представляет собой блок-схему, иллюстрирующую этапы в способе отслеживания поведения и обнаружения аномалий встроенных систем управления в режиме реального времени в соответствии с вариантами осуществления изобретения.
[0029] Ссылаясь на фиг.3, на этапе 310 создают поведенческую обучающую последовательность. Ссылаясь на фиг.1А, в обучающем режиме работы приложение 120 поведенческого входного атрибута принимает входные данные в сетевую встроенную систему 110 управления и выходные данные их нее, когда система 110 работает при стабильных и/или известных условиях. К примеру, в некоторых вариантах осуществления изобретении обучающая последовательность входных сигналов в сетевую встроенную систему 110 управления может быть сохранена в хранилище 145 данных для поведенческой обучающей последовательности. Приложение 120 поведенческого входного атрибута может обеспечивать обучающую последовательность входных сигналов по меньшей мере в одну сетевую встроенную систему 110 управления и может принимать выходные данные, созданные указанной по меньшей мере одной сетевой встроенной системой 110 управления в ответ на указанные входные сигналы. Приложение 120 поведенческого входного атрибута может передавать принятые выходные сигналы приложению 125 классифицирующего корреляционного устройства и поведенческого входа.
[0030] Приложение 125 классифицирующего корреляционного устройства и поведенческого входа принимает выходные сигналы, созданные указанной по меньшей мере одной сетевой встроенной системой 110 управления, соотносит эти выходные сигналы с указанным входным сигналом, обеспеченным сетевой встроенной системе 110 управления, и сохраняет указанные выходные сигналы и соотношение в хранилище 130 данных для классификационных данных и поведенческого входного сигнала. Далее, приложение 125 классифицирующего корреляционного устройства и поведенческого входного сигнала принимает нормальный поведенческий классификационный входной сигнал 115, который может быть обеспечен посредством внешнего источника, для указанной по меньшей мере одной сетевой встроенной системы 110 управления и использует нормальный поведенческий классификационный входной сигнал 115 для классификации выходных сигналов из указанной по меньшей мере одной сетевой встроенной системы 110 управления.
[0031] Поведенческое обучающее приложение 135 обеспечивает пользователю указанной системы возможность осуществления доступа к обучающим последовательностям в хранилище 145 данных для поведенческой обучающей последовательности и соотнесенным параметрам из базы данных для параметров вычислительного резервуара. Кроме того, поведенческое обучающее приложение 135 может применять по меньшей мере один параметр вычислительного резервуара к обучающей последовательности для регулировки этой обучающей последовательности для достижения уровня чувствительности. В некоторых вариантах осуществления изобретения для регулировки доступны шесть параметров, а именно:
[0032] Размер резервуара: параметр, который задает количество узлов внутри сети на основе вычислительного резервуара, основанный на теории изучения статистики, этот параметр влияет на глубину моделирования.
[0033] Входное масштабирование: параметр, который взвешивает входные атрибуты, непосредственно воздействующие на динамику резервуара, который помогает нормализовать динамику резервуара, предназначенную в равной степени как для небольших входных амплитуд, так и для больших входных амплитуд, и определяет степень нелинейности указанного резервуара.
[0034] Масштабирование выходного сигнала обратной связи: параметр, который задает величину сигнала обратной связи для сети на основе вычислительного резервуара для управления стабильностью, способствует выявлению степени колебаний поведенческих шаблонов, и определяет, насколько независимым является компонент создания шаблонов управляющих устройств 120 обученной сетевой встроенной системы управления.
[0035] Радиус спектра весовой матрицы резервуара: параметр, который управляет ответами на импульсы сети на основе вычислительного резервуара и входным значением диапазона взаимодействий, способствует определениям поведенческой чувствительности и зависит от того, требует или нет задача в вопросе длинной или короткой памяти для обеспечения возможности влияния прошлых входных сигналов на будущие выходные сигналы.
[0036] Скорость рассеяния: параметр, который управляет чувствительностью сети на основе вычислительного резервуара к помехонасыщенному поведению, поведенческим шаблонам, искаженным по времени, и/или очень медленной динамической системе.
[0037] Масштабирование помех: параметр, который управляет значимостью интеграторов помех для сети на основе вычислительного резервуара, которая влияет на классификационную чувствительность стабильных/хаотических аспектов поведенческого шаблона.
[0038] Таким образом, в тренировочной/обучающей конфигурации, показанной на фиг.1А, система 100 конструирует профильный файл входных сигналов и связанных выходных сигналов по меньшей мере для одной сетевой встроенной системы 110 управления при условиях, являющихся стабильными и/или обычными рабочими условиями, и может классифицировать указанные выходные сигналы в соответствии с классификационной схемой. Результаты сохраняют в хранилище 145 данных для поведенческой обучающей последовательности.
[0039] Ссылаясь снова на фиг.3, оставшиеся этапы реализованы системой 100, когда она находится в отслеживающей конфигурации, как изображено на фиг.1В. На этапе 315 система 100 отслеживает входные сигналы в указанную по меньшей мере одну сетевую встроенную систему 110 управления и выходные сигналы из нее во время работы в реальном времени указанной сетевой встроенной системы 110 управления. К примеру, как изображено на фиг.1В, в некоторых вариантах осуществления изобретения приложение 120 поведенческого входного атрибута отслеживает указанную по меньшей мере одну сетевую встроенную систему 110 управления для приема входных сигналов в указанную систему 110 управления и выходных сигналов, созданных ею. В других вариантах осуществления изобретения приложение 120 поведенческого входного атрибута заранее запрашивает входные сигналы в указанную по меньшей мере одну сетевую встроенную систему 110 управления и выходные сигналы из нее.
[0040] Данные, собранные приложением 120 поведенческого входного атрибута, передают приложению 165 поведенческой модели. В некоторых вариантах осуществления изобретения приложение 165 поведенческой модели может быть реализовано, как обученная и развернутая сеть на основе вычислительного резервуара. Приложение 165 поведенческой модели обучено при помощи поведенческого обучающего приложения 135. Таким образом, приложение 165 поведенческой модели будет иметь свои сконфигурированные параметры вычислительного резервуара и матрицу сети на основе вычислительного резервуара. Приложение 165 поведенческой модели отслеживает поведенческие выходные атрибуты и выводит классификацию на основании изученных конфигурации и обучающих последовательностей.
[0041] Выходные сигналы, созданные посредством приложения 165 поведенческой модели, передают приложению 170 классификатора аномального поведения, которое интерпретирует результаты приложения 165 поведенческой модели и определяет, является ли результат аномалией. К примеру, в некоторых вариантах осуществления изобретения по меньшей мере один выходной сигнал, собранный из сетевой встроенной системы 110 управления в режиме реального времени сравнивают (этап 320) по меньшей мере с одним выходным сигналом, собранным во время обучающего процесса, и характеризуют, как аномалию, когда расхождение между указанными по меньшей мере одним выходным сигналом, собранным из встроенной системы управления во время работы в режиме реального времени, и по меньшей мере одним выходным сигналом, собранным во время обучающего процесса, превышает пороговое значение (этапы 325, 330). Пороговое значение может являться постоянным значением, пропорциональным амплитуде выхода, или может быть динамическим. В некоторых вариантах осуществления изобретения приложение 170 классификатора аномального поведения может также определять степень критичности этой аномалии (этап 335).
[0042] Выходной сигнал, созданный посредством приложения 170 классификатора аномального поведения, передают приложению 175 выпуска поведенческого тревожного сигнала так, что тревожный сигнал может быть создан и выпущен (этап 340) по меньшей мере в одно внешнее приложение 180. Кроме того, результаты могут передавать для обработки приложению 125 классифицирующего корреляционного устройства и поведенческого входа. В некоторых вариантах осуществления изобретения приложение 125 классифицирующего корреляционного устройства и поведенческого входного сигнала сохраняет указанный по меньшей мере один выходной сигнал, собранный из встроенной системы управления во время работы в режиме реального времени, в запоминающем устройстве (этап 345) и обновляет поведенческую обучающую последовательность (этап 350), используя указанный по меньшей мере один выходной сигнал, собранный из встроенной системы управления во время работы в режиме реального времени, в запоминающем устройстве, например, посредством обновления хранилища 130 данных для классификационных данных и поведенческого входного сигнала.
[0043] Хотя вариант осуществления изобретения, изображенный на фиг.1А и 1В, показывает одно приложение 165 поведенческой модели и одно приложение 170 классификатора аномального поведения, специалистам в области техники будет понятно, что система 100 может содержать многочисленные приложения 165 поведенческой модели и приложения 170 классификатора аномального поведения для применения в многоуровневой системе обнаружения аномалий.
[0044] В вышеприведенном обсуждении были описаны конкретные реализации примерных процессов, однако, следует понимать, что в альтернативных реализациях некоторые этапы не обязательно должны быть выполнены в вышеописанном порядке. В альтернативных вариантах осуществления изобретения некоторые этапы могут быть изменены, выполнены в различном порядке, или могут быть полностью пропущены в зависимости от обстоятельств. Кроме того, в различных альтернативных реализациях описанные этапы могут быть реализованы посредством компьютера, управляющего устройства, обрабатывающего устройства, программируемого устройства, программно-аппаратных средств или любого другого подходящего устройства, а также могут быть основаны на инструкциях, хранящихся по меньшей мере на одном читаемом с помощью компьютера носителе, или иным образом сохраненных или запрограммированных в таких устройствах (например, включая передачу читаемых с помощью компьютера инструкций в режиме реального времени на такие устройства). В контексте программного обеспечения этапы, описанные выше, могут представлять компьютерные инструкции, которые при выполнении их по меньшей мере одним обрабатывающим устройством выполняют изложенные этапы. В случае, когда используют читаемый с помощью компьютера носитель, этот носитель может являться любым доступным носителем, к которому может быть осуществлен доступ посредством устройства для реализации инструкций, хранящихся на нем.
[0045] Хотя были описаны различные варианты осуществления изобретения, специалистам в области техники будут понятны изменения и модификации, которые могли бы быть выполнены без отклонения от настоящего раскрытия. Указанные примеры иллюстрируют различные варианты осуществления изобретения и не предполагаются ограничительными для настоящего раскрытия. Следовательно, настоящее описание и формула изобретения следует интерпретировать свободно с только такими ограничениями, какие являются необходимыми ввиду применимого уровня техники.

Claims (61)

1. Основанный на применении компьютера способ отслеживания поведения и обнаружения аномалий встроенных систем управления в режиме реального времени, согласно которому:
создают поведенческую обучающую последовательность для встроенной системы управления, причем поведенческая обучающая последовательность соотносит входные сигналы в указанную встроенную систему управления с выходными сигналами из нее во время обучающего процесса для определения поведенческих характерных признаков для указанной встроенной системы управления;
отслеживают входные сигналы в указанную встроенную систему управления и выходные сигналы из нее в режиме реального времени во время работы указанной встроенной системы управления; и
создают тревожный сигнал, когда по меньшей мере один из входных сигналов в указанную встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, представляет аномалию.
2. Способ по п. 1, в котором создание поведенческой обучающей последовательности для встроенной системы управления включает настройку указанной поведенческой обучающей последовательности с использованием по меньшей мере одного параметра.
3. Способ по п. 2, в котором указанный по меньшей мере один параметр выбран из группы параметров, содержащей:
параметр размера резервуара, который задает количество узлов внутри сети на основе вычислительного резервуара;
параметр входного масштабирования, который взвешивает атрибуты входных сигналов, поступающих во встроенную систему управления;
параметр масштабирования выходного сигнала обратной связи, который задает величину сигнала обратной связи для сети на основе вычислительного резервуара;
параметр весовой матрицы резервуара, который управляет по меньшей мере одним импульсным откликом в сети на основе вычислительного резервуара;
параметр скорости рассеяния, который управляет чувствительностью сети на основе вычислительного резервуара к помехонасыщенному поведению и поведению, искаженному по времени; и
параметр масштабирования помех, который управляет по меньшей мере одним интегратором помех в сети на основе вычислительного резервуара.
4. Способ по п. 1, в котором создание тревожного сигнала, когда по меньшей мере один из выходных сигналов, собранных из встроенной системы управления в режиме реального времени, представляет аномалию, включает:
сравнивание указанного по меньшей мере одного из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, по меньшей мере с одним выходным сигналом, собранным во время обучающего процесса; и
характеризуют указанный по меньшей мере один из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, как аномалию, когда расхождение между указанными по меньшей мере одним выходным сигналом, собранным из встроенной системы управления во время работы в режиме реального времени, и по меньшей мере одним выходным сигналом, собранным во время обучающего процесса, превышает пороговое значение.
5. Способ по п. 4, дополнительно включающий определение степени критичности указанной аномалии.
6. Способ по п. 1, дополнительно включающий выпуск указанного тревожного сигнала по меньшей мере в одно приложение, связанное с указанной встроенной системой управления.
7. Способ по п. 6, дополнительно включающий:
сохранение указанного по меньшей мере одного из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, в запоминающем устройстве; и
обновление поведенческой обучающей последовательности, используя указанный по меньшей мере один из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, в запоминающем устройстве.
8. Основанная на применении компьютера система для отслеживания поведения и обнаружения аномалий встроенной системы управления в режиме реального времени, содержащая:
обрабатывающее устройство и
логические инструкции, хранящиеся на материальном носителе, читаемом с помощью компьютера и соединенном с обрабатывающим устройством, которые при исполнении их указанным обрабатывающим устройством обеспечивают возможность:
создания им поведенческой обучающей последовательности для встроенной системы управления, причем поведенческая обучающая последовательность соотносит входные сигналы в указанную встроенную систему управления с выходными сигналами из нее во время обучающего процесса для определения поведенческих характерных признаков для указанной встроенной системы управления;
отслеживания им входных сигналов в указанную встроенную систему управления и выходных сигналов из нее в режиме реального времени во время работы указанной встроенной системы управления; и
создания им тревожного сигнала, когда по меньшей мере один из входных сигналов в указанную встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, представляет аномалию.
9. Система по п. 8, дополнительно содержащая логические инструкции, хранящиеся на материальном носителе, читаемом с помощью компьютера и соединенном с обрабатывающим устройством, которые при исполнении их указанным обрабатывающим устройством обеспечивают возможность настройки им поведенческой обучающей последовательности с использованием по меньшей мере одного параметра.
10. Система по п. 9, в которой указанный по меньшей мере один параметр выбран из группы параметров, содержащей:
параметр размера резервуара, который задает количество узлов внутри сети на основе вычислительного резервуара;
параметр входного масштабирования, который взвешивает входные атрибуты для встроенной системы управления;
параметр масштабирования выходного сигнала обратной связи, который задает величину сигнала обратной связи для сети на основе вычислительного резервуара;
параметр весовой матрицы резервуара, который управляет по меньшей мере одним импульсным откликом в сети на основе вычислительного резервуара;
параметр скорости рассеяния, который управляет чувствительностью сети на основе вычислительного резервуара к помехонасыщенному поведению и поведению, искаженному по времени; и
параметр масштабирования помех, который управляет по меньшей мере одним интегратором помех в сети на основе вычислительного резервуара.
11. Система по п. 8, дополнительно содержащая логические инструкции, хранящиеся на материальном носителе, читаемом с помощью компьютера и соединенном с обрабатывающим устройством, которые при исполнении их указанным обрабатывающим устройством обеспечивают возможность:
сравнивания им указанного по меньшей мере одного из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени по меньшей мере с одним выходным сигналом, собранным во время обучающего процесса; и
охарактеризования им указанного по меньшей мере одного из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, как аномалии, когда расхождение между указанными по меньшей мере одним выходным сигналом, собранным из встроенной системы управления во время работы в режиме реального времени, и по меньшей мере одним выходным сигналом, собранным во время обучающего процесса, превышает пороговое значение.
12. Система по п. 11, дополнительно содержащая логические инструкции, хранящиеся на материальном носителе, читаемом с помощью компьютера и соединенном с обрабатывающим устройством, которые при исполнении их указанным обрабатывающим устройством обеспечивают возможность определения им степени критичности указанной аномалии.
13. Система по п. 8, дополнительно содержащая логические инструкции, хранящиеся на материальном носителе, читаемом с помощью компьютера и соединенном с обрабатывающим устройством, которые при исполнении их указанным обрабатывающим устройством обеспечивают возможность выпуска им тревожного сигнала по меньшей мере в одно приложение, связанное с указанной встроенной системой управления.
14. Система по п. 8, дополнительно содержащая логические инструкции, хранящиеся на материальном носителе, читаемом с помощью компьютера и соединенном с обрабатывающим устройством, которые при исполнении их указанным обрабатывающим устройством обеспечивают возможность:
сохранения им указанного по меньшей мере одного из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, в запоминающем устройстве; и
обновления им поведенческой обучающей последовательности, используя указанный по меньшей мере один из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, в запоминающем устройстве.
15. Обрабатывающее устройство, соединенное с материальным носителем, на котором хранятся логические инструкции, при исполнении которых обеспечена возможность:
создания поведенческой обучающей последовательности для встроенной системы управления, причем поведенческая обучающая последовательность связывает входные сигналы в указанную встроенную систему управления с выходными сигналами из нее во время обучающего процесса для определения поведенческих характерных признаков для указанной встроенной системы управления;
отслеживания входных сигналов в указанную встроенную систему управления и выходных сигналов из нее в режиме реального времени во время работы указанной встроенной системы управления; и
создания тревожного сигнала, когда по меньшей мере один из входных сигналов в указанную встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, представляют аномалию.
16. Обрабатывающее устройство по п. 15, соединенное с материальным носителем, на котором дополнительно хранятся логические инструкции, которые при их исполнении обеспечивают возможность настройки поведенческой обучающей последовательности с использованием по меньшей мере одного параметра.
17. Обрабатывающее устройство по п. 16, в котором указанный по меньшей мере один параметр выбран из группы параметров, содержащей:
параметр размера резервуара, который задает количество узлов внутри сети на основе вычислительного резервуара;
параметр входного масштабирования, который взвешивает входные атрибуты для встроенной системы управления;
параметр масштабирования выходного сигнала обратной связи, который задает величину сигнала обратной связи для сети на основе вычислительного резервуара;
параметр весовой матрицы резервуара, который управляет по меньшей мере одним импульсным откликом в сети на основе вычислительного резервуара;
параметр скорости рассеяния, который управляет чувствительностью сети на основе вычислительного резервуара к помехонасыщенному поведению и поведению, искаженному по времени; и
параметр масштабирования помех, который управляет по меньшей мере одним интегратором помех в сети на основе вычислительного резервуара.
18. Обрабатывающее устройство по п. 15, соединенное с материальным носителем, на котором дополнительно хранятся логические инструкции, которые при их исполнении обеспечивают возможность:
сравнивания указанного по меньшей мере одного из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, по меньшей мере с одним выходным сигналом, собранным во время обучающего процесса; и
охарактеризования указанного по меньшей мере одного из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, как аномалии, когда расхождение между указанными по меньшей мере одним выходным сигналом, собранным из встроенной системы управления во время работы в режиме реального времени и по меньшей мере одним выходным сигналом, собранным во время обучающего процесса, превышает пороговое значение.
19. Обрабатывающее устройство по п. 18, соединенное с материальным носителем, на котором дополнительно хранятся логические инструкции, которые при их исполнении обеспечивают возможность определения степени критичности указанной аномалии.
20. Обрабатывающее устройство по п. 15, соединенное с материальным носителем, на котором дополнительно хранятся логические инструкции, которые при их исполнении обеспечивают возможность:
сохранения указанного по меньшей мере одного из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, в запоминающем устройстве; и
обновления поведенческой обучающей последовательности, используя указанный по меньшей мере один из входных сигналов во встроенную систему управления или выходных сигналов, собранных из нее во время работы в режиме реального времени, в запоминающем устройстве.
RU2013142338A 2012-10-22 2013-09-17 Организация системы управления в режиме реального времени RU2658392C2 (ru)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US13/657,440 2012-10-22
US13/657,440 US20140114442A1 (en) 2012-10-22 2012-10-22 Real time control system management

Publications (2)

Publication Number Publication Date
RU2013142338A RU2013142338A (ru) 2015-03-27
RU2658392C2 true RU2658392C2 (ru) 2018-06-21

Family

ID=49382187

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2013142338A RU2658392C2 (ru) 2012-10-22 2013-09-17 Организация системы управления в режиме реального времени

Country Status (5)

Country Link
US (1) US20140114442A1 (ru)
EP (1) EP2722762A3 (ru)
JP (1) JP6305004B2 (ru)
CN (1) CN103777623A (ru)
RU (1) RU2658392C2 (ru)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2716389C1 (ru) * 2019-03-26 2020-03-11 Акционерное общество "Информационные спутниковые системы имени академика М.Ф. Решетнёва" Способ построения вычислительного процесса испытаний аппаратуры с мультиинтерфейсным взаимодействием

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9472084B1 (en) * 2014-03-12 2016-10-18 Ca, Inc. Alarm notification based on detecting anomalies in big data
CN104281512A (zh) * 2014-10-31 2015-01-14 成都众易通科技有限公司 一种服务器智能机箱系统
US9766818B2 (en) * 2014-12-31 2017-09-19 Samsung Electronics Co., Ltd. Electronic system with learning mechanism and method of operation thereof
SE542513C2 (en) * 2015-12-15 2020-05-26 Saab Ab A method for authenticating software
CN106126409B (zh) * 2016-07-01 2018-11-23 浪潮(北京)电子信息产业有限公司 一种实时监控oracle单块读延迟的方法及装置
US10204226B2 (en) * 2016-12-07 2019-02-12 General Electric Company Feature and boundary tuning for threat detection in industrial asset control system
JP6907014B2 (ja) * 2017-04-25 2021-07-21 三菱重工業株式会社 管理監視システム
US10921422B2 (en) * 2017-10-25 2021-02-16 The Boeing Company Below-noise after transmit (BAT) Chirp Radar
WO2019138655A1 (ja) * 2018-01-09 2019-07-18 日本電信電話株式会社 モデル学習装置、モデル学習方法、及びプログラム
JP6977686B2 (ja) * 2018-08-06 2021-12-08 オムロン株式会社 制御システムおよび制御装置
EP3918500B1 (en) * 2019-03-05 2024-04-24 Siemens Industry Software Inc. Machine learning-based anomaly detections for embedded software applications
US11455500B2 (en) 2019-12-19 2022-09-27 Insitu, Inc. Automatic classifier profiles from training set metadata
WO2021192147A1 (ja) * 2020-03-26 2021-09-30 Tdk株式会社 パラメータの設定方法およびリザボア素子の制御方法
US11157267B1 (en) * 2020-09-09 2021-10-26 International Business Machines Corporation Evaluation of dynamic relationships between application components
US11729195B1 (en) 2022-09-15 2023-08-15 Cyviation Ltd Computerized-system and computerized-method for detecting cyber-attacks on avionic communications of an airborne computerized-device

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070028219A1 (en) * 2004-10-15 2007-02-01 Miller William L Method and system for anomaly detection
US7472413B1 (en) * 2003-08-11 2008-12-30 F5 Networks, Inc. Security for WAP servers
RU2355024C2 (ru) * 2007-02-12 2009-05-10 ВОЕННАЯ АКАДЕМИЯ СВЯЗИ имени С.М. Буденного Способ мониторинга безопасности автоматизированных систем
US20090187344A1 (en) * 2008-01-19 2009-07-23 Brancaccio Daniel S System, Method, and Computer Program Product for Analyzing Power Grid Data
US8051484B2 (en) * 2005-06-14 2011-11-01 Imperva, Inc. Method and security system for indentifying and blocking web attacks by enforcing read-only parameters

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04363705A (ja) * 1991-01-22 1992-12-16 Jgc Corp ニューラルネットワークによるサーボ系の異常診断　　　　　　　　　　　　方法及び装置
US5365723A (en) * 1991-04-16 1994-11-22 Ramos Enrique A Portable baggage wrapping apparatus
US5568377A (en) * 1992-10-29 1996-10-22 Johnson Service Company Fast automatic tuning of a feedback controller
US5980096A (en) * 1995-01-17 1999-11-09 Intertech Ventures, Ltd. Computer-based system, methods and graphical interface for information storage, modeling and stimulation of complex systems
JPH11324782A (ja) * 1998-05-14 1999-11-26 Yamaha Motor Co Ltd 内燃機関の空燃比制御装置における学習方法
US6597777B1 (en) * 1999-06-29 2003-07-22 Lucent Technologies Inc. Method and apparatus for detecting service anomalies in transaction-oriented networks
US6853921B2 (en) * 1999-07-20 2005-02-08 Halliburton Energy Services, Inc. System and method for real time reservoir management
US7346929B1 (en) * 1999-07-29 2008-03-18 International Business Machines Corporation Method and apparatus for auditing network security
US6742124B1 (en) * 2000-05-08 2004-05-25 Networks Associates Technology, Inc. Sequence-based anomaly detection using a distance matrix
US6622099B2 (en) * 2000-08-14 2003-09-16 Kollmorgen Corporation Frequency domain auto-tune for an internal motor controller
US6772036B2 (en) * 2001-08-30 2004-08-03 Fisher-Rosemount Systems, Inc. Control system using process model
JP4018374B2 (ja) * 2001-11-21 2007-12-05 株式会社山武 空気調和機の異常検出装置、異常検出方法及びプログラム
US7426498B2 (en) * 2004-07-27 2008-09-16 International Business Machines Corporation Method and apparatus for autonomous classification
JP4652741B2 (ja) * 2004-08-02 2011-03-16 インターナショナル・ビジネス・マシーンズ・コーポレーション 異常検出装置、異常検出方法、異常検出プログラム、及び記録媒体
US20070028220A1 (en) * 2004-10-15 2007-02-01 Xerox Corporation Fault detection and root cause identification in complex systems
US7590481B2 (en) * 2005-09-19 2009-09-15 Ford Global Technologies, Llc Integrated vehicle control system using dynamically determined vehicle conditions
US7962403B2 (en) * 2006-03-16 2011-06-14 Sungard Avantgard Llc Method and apparatus for a model assessing debtor behavior
JP2007334554A (ja) * 2006-06-14 2007-12-27 Nissan Motor Co Ltd 障害物検出装置および障害物検出方法
US8713190B1 (en) * 2006-09-08 2014-04-29 At&T Intellectual Property Ii, L.P. Method and apparatus for performing real time anomaly detection
US20080270328A1 (en) * 2006-10-18 2008-10-30 Chad Lafferty Building and Using Intelligent Software Agents For Optimizing Oil And Gas Wells
US20090138415A1 (en) * 2007-11-02 2009-05-28 James Justin Lancaster Automated research systems and methods for researching systems
US20090049547A1 (en) * 2007-08-13 2009-02-19 Yuan Fan System for real-time intrusion detection of SQL injection web attacks
FR2939170B1 (fr) * 2008-11-28 2010-12-31 Snecma Detection d'anomalie dans un moteur d'aeronef.
US8146429B2 (en) * 2009-08-03 2012-04-03 Georgia Tech Research Corporation Methods and systems for classifying the type and severity of defects in welds
US8676721B2 (en) * 2009-09-18 2014-03-18 Apo Offshore, Inc. Method, system and apparatus for intelligent management of oil and gas platform surface equipment
US8478548B2 (en) * 2010-01-15 2013-07-02 Fluke Corporation User interface system and method for diagnosing a rotating machine condition not based upon prior measurement history
US8322658B2 (en) * 2010-04-05 2012-12-04 The Boeing Company Automated fire and smoke detection, isolation, and recovery

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7472413B1 (en) * 2003-08-11 2008-12-30 F5 Networks, Inc. Security for WAP servers
US20070028219A1 (en) * 2004-10-15 2007-02-01 Miller William L Method and system for anomaly detection
US8051484B2 (en) * 2005-06-14 2011-11-01 Imperva, Inc. Method and security system for indentifying and blocking web attacks by enforcing read-only parameters
RU2355024C2 (ru) * 2007-02-12 2009-05-10 ВОЕННАЯ АКАДЕМИЯ СВЯЗИ имени С.М. Буденного Способ мониторинга безопасности автоматизированных систем
US20090187344A1 (en) * 2008-01-19 2009-07-23 Brancaccio Daniel S System, Method, and Computer Program Product for Analyzing Power Grid Data

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2716389C1 (ru) * 2019-03-26 2020-03-11 Акционерное общество "Информационные спутниковые системы имени академика М.Ф. Решетнёва" Способ построения вычислительного процесса испытаний аппаратуры с мультиинтерфейсным взаимодействием

Also Published As

Publication number Publication date
RU2013142338A (ru) 2015-03-27
JP2014096145A (ja) 2014-05-22
CN103777623A (zh) 2014-05-07
EP2722762A2 (en) 2014-04-23
EP2722762A3 (en) 2017-03-15
JP6305004B2 (ja) 2018-04-04
US20140114442A1 (en) 2014-04-24

Similar Documents

Publication Publication Date Title
RU2658392C2 (ru) Организация системы управления в режиме реального времени
Huda et al. Securing the operations in SCADA-IoT platform based industrial control system using ensemble of deep belief networks
Stabili et al. Detecting attacks to internal vehicle networks through Hamming distance
CN106796639B (zh) 用于可信执行环境的数据挖掘算法
US11171977B2 (en) Unsupervised spoofing detection from traffic data in mobile networks
US11481495B2 (en) Anomalous behavior detection in processor based systems
US11347867B2 (en) Methods and apparatuses to evaluate cyber security risk by establishing a probability of a cyber-attack being successful
US10101244B2 (en) Self-learning simulation environments
CN109691055B (zh) 基于对网络流量的分析检测网络入侵的系统、方法与介质
Stolfo et al. Anomaly detection in computer security and an application to file system accesses
Kukkala et al. Latte: L stm self-att ention based anomaly detection in e mbedded automotive platforms
CN103888282A (zh) 基于核电站的网络入侵报警方法和系统
CN112152962A (zh) 一种威胁检测方法及系统
EP3602372B1 (en) Sample-specific sandbox configuration based on endpoint telemetry
Wan et al. Function-aware anomaly detection based on wavelet neural network for industrial control communication
KR102134357B1 (ko) 원자력발전소 사이버 취약성 시험을 위한 가상 물리 시스템 및 그 방법
Al Huda et al. Android malware detection using backpropagation neural network
Russo et al. Anomaly detection in vehicle-to-infrastructure communications
Saudi et al. Malware Classification for Cyber Physical System (CPS) based on Phylogenetics
Zhang et al. Design of Threat Response Modeling Language for Attacker Profile Based on Probability Distribution
Khan et al. Secure and safe surveillance system using sensors networks-internet of things
Krishnamurthy et al. Process-aware side channel shaping and watermarking for cyber-physical systems
Silka Bidirectional Long Short-Term Memory Classifier Assist for Intelligent Ransomware Detection in Android OS.
Mittal et al. Ai security threats against pervasive robotic systems: A course for next generation cybersecurity workforce
Verma et al. Detecting Abnormal Vehicle Behavior: A Clustering-Based Approach