ES2996458T3 - Method and system for detection and characterization of low risk exposure signals in an industrial system - Google Patents

Method and system for detection and characterization of low risk exposure signals in an industrial system Download PDF

Info

Publication number
ES2996458T3
ES2996458T3 ES22213750T ES22213750T ES2996458T3 ES 2996458 T3 ES2996458 T3 ES 2996458T3 ES 22213750 T ES22213750 T ES 22213750T ES 22213750 T ES22213750 T ES 22213750T ES 2996458 T3 ES2996458 T3 ES 2996458T3
Authority
ES
Spain
Prior art keywords
risk
elementary
signature
predictive
event
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
ES22213750T
Other languages
English (en)
Inventor
Qrichi Aniba Hakima Berdouz
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Commissariat a lEnergie Atomique et aux Energies Alternatives CEA
Original Assignee
Commissariat a lEnergie Atomique CEA
Commissariat a lEnergie Atomique et aux Energies Alternatives CEA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Commissariat a lEnergie Atomique CEA, Commissariat a lEnergie Atomique et aux Energies Alternatives CEA filed Critical Commissariat a lEnergie Atomique CEA
Application granted granted Critical
Publication of ES2996458T3 publication Critical patent/ES2996458T3/es
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0259Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the response to fault detection
    • G05B23/0275Fault isolation and identification, e.g. classify fault; estimate cause or root of failure
    • G05B23/0281Quantitative, e.g. mathematical distance; Clustering; Neural networks; Statistical analysis
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0259Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the response to fault detection
    • G05B23/0283Predictive maintenance, e.g. involving the monitoring of a system and, based on the monitoring results, taking decisions on the maintenance schedule of the monitored system; Estimating remaining useful life [RUL]
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0224Process history based detection method, e.g. whereby history implies the availability of large amounts of data
    • G05B23/024Quantitative history assessment, e.g. mathematical relationships between available data; Functions therefor; Principal component analysis [PCA]; Partial least square [PLS]; Statistical classifiers, e.g. Bayesian networks, linear regression or correlation analysis; Neural networks
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • G05B23/0205Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0259Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the response to fault detection
    • G05B23/0267Fault communication, e.g. human machine interface [HMI]
    • G05B23/027Alarm generation, e.g. communication protocol; Forms of alarm
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Human Computer Interaction (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Algebra (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Character Discrimination (AREA)
  • Image Analysis (AREA)

Abstract

La invención se refiere a un método y a un sistema para detectar y caracterizar señales débiles de exposición a un riesgo en un sistema industrial, a partir de datos relativos al sistema industrial recogidos durante un periodo de tiempo determinado. Este sistema está configurado para implementar: - un módulo (36) de cálculo de una firma predictiva del riesgo, a partir de datos relativos al sistema industrial recogidos, a partir de un primer término obtenido mediante la suma de firmas elementales asociadas a eventos iniciadores elementales, dependientes de parámetros que comprenden un valor de severidad, una función característica y una función de ponderación del evento iniciador elemental, determinándose al menos parte de dichos parámetros mediante la implementación de una red neuronal, - un módulo (38) de detección de la presencia de una señal débil de exposición a un riesgo mediante la comparación de la firma predictiva del riesgo calculada con firmas de riesgo de referencia predeterminadas. (Traducción automática con Google Translate, sin valor legal)

Description

DESCRIPCIÓN
Procedimiento y sistema de detección y de caracterización de señales débiles de exposición a un riesgo en un sistema industrial
[0001] La presente invención se refiere a un procedimiento y a un sistema de detección y de caracterización de señales débiles de exposición a un riesgo en un sistema industrial.
[0002] La invención se sitúa en el campo de la seguridad de los sistemas, en particular de los sistemas industriales, con el objetivo de una detección precoz y una prevención de acontecimientos significativos, que presentan un riesgo para la seguridad.
[0003] En particular, la invención se aplica en los campos de la detección de anomalías, del mantenimiento predictivo, de la supervisión de la seguridad y del análisis de la seguridad.
[0004] En el contexto de la invención, una señal débil de exposición a un riesgo se define como una característica relacionada con el estado del sistema en un instante t, en particular con el sistema industrial, que se observa, tal que esta característica puede medirse y es capaz de evolucionar en el tiempo.
[0005] Una señal débil es la medida (valor) o el impacto en un instante t de una incubación definida como una acumulación o sucesión de acontecimientos elementales, casi siempre menores e incluso insignificantes en términos de protección/seguridad, que anuncia la plasmación de una tendencia, una amenaza, una anomalía y/o un fallo e incluso de un acontecimiento mayor.
[0006] En el contexto de la invención, el riesgo designa un riesgo de que un acontecimiento significativo o un acontecimiento temidos intervenga y obstaculice el funcionamiento del sistema observado, en particular de un sistema industrial observado. El riesgo es, por ejemplo, un riesgo de mal funcionamiento/anomalía de uno o varios subsistemas, que llega hasta la avería.
[0007] El artículo «Learning about Risk: Machine learning for risk assessment», de N. Paltrinieri y col., publicado en Safety Science, vol. 118, 2019 indica que la evaluación continua de los riesgos desempeña un papel crucial en los sectores industriales con una alta componente de seguridad, donde el aprendizaje de las lecciones de los resultados de la experiencia operativa, la descripción de las buenas prácticas y el despliegue de técnicas y procedimientos para tratar y valorar los datos masivos disponibles deben ir asociados a una capacidad de análisis predictivo y de anticipación para hacer frente a los acontecimientos inesperados y controlar los riesgos e incertidumbres asociados.
[0008] Una definición del riesgo es la suministrada en 1981 por Kaplan y Garrick. Esta definición estipula que el riesgo (R) puede expresarse porque puede acabar mal (escenario s), por la probabilidad de que esto se produzca (probabilidad p) y por la gravedad de las consecuencias (consecuencia c):
[0009] Una de las problemáticas abordadas en el estado de la técnica es la que tiene en consideración las evoluciones dinámicas frente al análisis realizado en el momento del diseño que suministra una imagen estática del riesgo.
[0010] Más recientemente se ha propuesto una definición del riesgo que tiene en cuenta además el conocimiento k:
[0011] La verosimilitud de un riesgo es la estimación de la viabilidad o de la probabilidad de que un riesgo se concrete, según la escala adoptada (muy bajo, poco verosímil, casi una certeza, etc.).
[0012] Un riesgo tiene una signatura de riesgo asociada, que es una función matemática que modeliza la exposición al riesgo en el tiempo. Es posible calcular una valoración del riesgo, que caracteriza una cuantificación del riesgo en un instante temporal dado. La valoración es el valor en el instante t de la signatura del riesgo.
[0013] La invención tiene especialmente como objeto automatizar la detección precoz y la caracterización de señales débiles precursoras en la incubación de acontecimientos significativos para garantizar la protección y la seguridad del sistema observado.
[0014] La cuestión de la captación y de la caracterización de señales débiles, precursoras de un acontecimiento significativo o crítico (también denominado «acontecimiento temido»), se plantea de manera más general en el campo industrial, en el campo de la vigilancia del riesgo de catástrofes naturales y también en el campo de la salud.
[0015] La noción de señales débiles, precursoras en la incubación de acontecimientos temidos, se ha definido más en general, en particular en las ciencias sociales. Se ha demostradoa posteriorique cualquier fallo habría tenido una señal precursora denominada señal débil.
[0016] Una dificultad principal es la deteccióna prioriy la caracterización precoz de dichas señales débiles con respecto a las señales aleatorias, que se califican de ruidos, al estar las señales débiles observables en general llenas de ruido ellas mismas en una cierta medida.
[0017] Se han puesto en práctica diversos enfoques de detección y de caracterización de señales débiles, en particular un enfoque simbólico y un enfoque numérico. El enfoque simbólico se basa en modelos y sistemas de razonamiento a base de reglas, que intentan reproducir los mecanismos cognitivos de un experto. Este enfoque se limita a casos particulares. El enfoque numérico usa redes neuronales artificiales aplicadas en datos digitales, basados en aprendizajes automáticos. Este enfoque puede revelarse complejo, y permite en especial realizar investigaciones de datosa posteriori,después de la aparición de un acontecimiento temido. La detección hacia arriba ya prioride señales débiles sigue siendo problemática.
[0018] El documento EP 2015186 A2 describe un sistema de diagnóstico empírico del estado de un sistema vigilado. Las estimaciones de los parámetros vigilados a partir de un modelo del sistema suministran valores residuales que pueden analizarse para el reconocimiento de la signatura del modo de fallo.
[0019] La patente FR 3009615 describe un procedimiento y un sistema para captar y caracterizar señales débiles comparadas con un valor umbral dado, de manera que se asocia una señal a una cantidad de energía y emitida por una o varias fuentes que son objeto de vigilancia dentro de un sistema. Este procedimiento implementa un cálculo de una signatura que expresa un valor de energía de una señal detectada asociada a un acontecimiento, según una gravedad G de un acontecimiento que ha incidido en la fuente emisora de la señal, una probabilidad de aparición del acontecimiento y una función M<r>que representa el control del riesgo. La función de control del riesgo se pondera mediante parámetros que representan medios, competencias y procedimientos desplegados en prevención. Este procedimiento permite detectar señales débiles precursoras de un acontecimiento importante (por ejemplo, un mal funcionamiento) en comparación con umbrales dados.
[0020] La invención tiene por objeto proponer un procedimiento de caracterización de señales débiles mejorado con respecto a este procedimiento del estado de la técnica, en su aplicación al campo industrial.
[0021] Para este fin, la invención propone, según un aspecto, un procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo en un sistema industrial, siendo una señal débil representativa de una incubación de un acontecimiento temido, a partir de datos relativos al sistema industrial recogidos por al menos un sensor en un periodo temporal dado. Este procedimiento incluye las etapas siguientes, implementadas por un procesador:
- a partir de datos relativos a dicho sistema industrial, recogidos durante dicho periodo, cálculo de una signatura predictiva del riesgo que define una función de incubación, tal que la signatura predictiva del riesgo comprende un primer término obtenido por la suma de signaturas elementales asociadas a acontecimientos iniciadores elementales, siendo cada signatura elemental dependiente de parámetros que comprenden un valor de gravedad del acontecimiento iniciador elemental, una función característica del acontecimiento iniciador elemental y una función de ponderación asociada al acontecimiento iniciador elemental, estando al menos una parte de dichos parámetros determinados por la implementación de una red neuronal,
- detección de presencia de al menos una señal débil de exposición a un riesgo por comparación de la signatura predictiva del riesgo calculada con las signaturas de riesgo de referencia predeterminadas,
- en caso de detección positiva, determinación de una signatura predictiva de referencia asociada a la signatura predictiva del riesgo calculada y caracterización del riesgo asociado a dicha signatura de riesgo de referencia, tal que dicha caracterización incluye una visualización de un escenario de amenazas determinado previamente y registrado en asociación con dicha signatura predictiva de referencia.
[0022] Ventajosamente, el procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo en un sistema industrial implementa una signatura predictiva del riesgo, calculada según acontecimientos iniciadores elementales, teniendo en cuenta los parámetros determinados por la implementación de procedimientos de inteligencia artificial.
[0023] Ventajosamente, el enfoque propuesto es un enfoque multimodal que combina el enfoque simbólico y el enfoque numérico.
[0024] El procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo según la invención puede presentar también una o varias de las características mostradas a continuación, tomadas independientemente o según todas las combinaciones que pueden plantearse técnicamente.
[0025] La función de ponderación asociada al acontecimiento iniciador elemental es una función deterministaprobabilista, dependiente de una probabilidad de dicho acontecimiento iniciador elemental en relación con dicho acontecimiento temido.
[0026] La signatura predictiva del riesgo incluye un segundo término dependiente de pares de acontecimientos iniciadores elementales y de una función característica de intercorrelación para cada par de acontecimientos iniciadores elementales.
[0027] El cálculo de una signatura predictiva de riesgo tiene en cuenta además una función probabilista característica de ruido con respecto a los datos recogidos.
[0028] La signatura elemental de un acontecimiento iniciador elemental Ei es suministrada por la fórmula siguiente:
[0029] Donde f(Gi(x, t))n es una función característica de la gravedad del acontecimiento iniciador elemental Ei, definida en un perímetro espacial y en un periodo temporal, siendo n un parámetro entero,
Oi(x, t) es la función característica del acontecimiento iniciador elemental Ei y Wi(x, t) es la función de ponderación asociada al acontecimiento iniciador elemental Ei.
[0030] La signatura predictiva del riesgo se calcula según la fórmula:
[0031] DondeJkes una función característica de intercorrelación entre acontecimientos iniciadores elementales Ej y Ek, <f(G(x, t)) A f (G(x, t))> indica una función que relaciona las funciones características de gravedad de los acontecimientos iniciadores Ej y Ek, y B(x, t) es una función probabilista que caracteriza a un ruido.
[0032] La función característica de gravedad de un acontecimiento iniciador elemental toma cuatro valores diferentes representativos respectivamente de una gravedad nula, de una gravedad menor, de una gravedad significativa o de una gravedad severa.
[0033] Los datos relativos al sistema industrial son valores representativos de equipos del sistema industrial, y la recogida de datos es realizada por uno o varios sensores.
[0034] El procedimiento incluye, después de la recogida de datos relativos al sistema industrial durante dicho periodo, un pretratamiento de dichos datos recogidos para formatear dichos datos recogidos en datos digitales, y una clasificación por un clasificador de dichos datos digitales para obtener valores de parámetros asociados a los acontecimientos iniciadores elementales.
[0035] El procedimiento incluye una fase de inicialización de una base de datos de las signaturas de riesgo de referencia en relación con un conjunto de acontecimientos temidos, según los datos recogidos para sistemas industriales y de validaciones de expertos, y una memorización de las signaturas de riesgo de referencia de escenarios de amenazas asociados y de una cartografía de riesgos asociada.
[0036] Según otro aspecto, la invención se refiere a un sistema de detección y de caracterización de señales débiles de exposición a un riesgo en un sistema industrial, tal que una señal débil es representativa de una incubación de un acontecimiento temido, a partir de datos relativos al sistema industrial recogidos por al menos un sensor en un periodo temporal dado. Este sistema incluye al menos un sistema de cálculo, que incluye un procesador configurado para implementar:
- a partir de datos relativos al sistema industrial recogidos durante dicho periodo, un módulo de cálculo de una signatura predictiva del riesgo, comprendiendo la signatura predictiva del riesgo un primer término obtenido por la suma de signaturas elementales asociadas a acontecimientos iniciadores elementales, siendo cada signatura elemental dependiente de parámetros que comprenden un valor de gravedad del acontecimiento iniciador elemental, una función característica del acontecimiento iniciador elemental y una función de ponderación asociada al acontecimiento iniciador elemental, tal que al menos una parte de dichos parámetros están determinados por la implementación de una red neuronal,
- un módulo de detección de presencia de al menos una señal débil de exposición a un riesgo por comparación de la signatura predictiva del riesgo calculada con las signaturas de riesgo de referencia predeterminadas,
en caso de detección positiva, aplicación de un módulo de determinación de una signatura predictiva de referencia asociada a la signatura predictiva del riesgo calculada y de caracterización del riesgo asociado a la signatura de riesgo de referencia que incluye un módulo visualización de un escenario de amenazas determinado previamente y registrado en asociación con dicha signatura predictiva de referencia.
[0037] Según otro aspecto, la invención se refiere a un programa informático que incluye instrucciones de software que, cuando son implementadas por un dispositivo electrónico programable, implementan un procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo tal como se describe brevemente con anterioridad.
[0038] Otras características y ventajas de la invención resultarán evidentes a partir de la descripción que se ofrece a continuación, de modo indicativo y en ningún caso limitativo, en referencia a las figuras adjuntas, entre las que:
[Fig. 1] la figura 1 es un cuadro sinóptico de un dispositivo de detección y de caracterización de señales débiles de exposición a un riesgo en un sistema industrial según una realización;
[Fig. 2] la figura 2 es un cuadro sinóptico de las principales etapas de una fase de inicialización de un procedimiento detección y de caracterización de señales débiles de exposición a un riesgo, según una realización;
[Fig. 3] la figura 3 es un cuadro sinóptico de las principales etapas de una fase de cálculo de signatura predictiva de riesgo en un procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo, en una realización;
[Fig. 4] la figura 4 es un cuadro sinóptico de las principales etapas de una fase de caracterización de señales débiles de exposición a un riesgo en una realización;
[Fig. 5] la figura 5 ilustra un ejemplo esquemático de sistema industrial donde la invención encuentra una aplicación.
[0039] A continuación, la invención se describirá en realizaciones, en particular en su aplicación para la detección y la caracterización de señales débiles de exposición de un sistema industrial a un riesgo de fallo material de uno de sus componentes.
[0040] A continuación, en la figura 5 se describirá un ejemplo de aplicación de la invención en el marco de un sistema industrial particular, que es una instalación nuclear. Naturalmente, se trata de un ejemplo no limitativo de aplicación de la invención.
[0041] La figura 1 ilustra esquemáticamente un sistema 2 de detección y de caracterización de señales débiles de exposición de un sistema industrial a un riesgo.
[0042] El sistema industrial observado, referencia S en la figura 1, incluye varios elementos que son fuentes S1, S2, S3 que son emisoras de magnitudes físicas (p. ej., notificación de alarma, lista detallada de medidas de funcionamiento, desviación o anomalía, hecho técnico), que son captadas por uno o varios sensores 3. Naturalmente, en la práctica el número de fuentes emisoras observadas puede ser cualquiera.
[0043] Estas magnitudes físicas tomadas forman señales medidas, según el tiempo, que pueden contener señales que se refieren a acontecimientos iniciadores elementales relativos a un riesgo temido (mal funcionamiento, avería, recalentamiento o superación de valores de funcionamiento aceptables, etc.).
[0044] Este sistema 2 comprende un primer sistema de cálculo 4 y un segundo sistema de cálculo 6. En una realización, cada uno de los sistemas de cálculo 4, 6 está formado por uno o varios dispositivos electrónicos programables, p. ej. ordenadores, adaptados para realizar cálculos.
[0045] Estos sistemas de cálculo 4, 6 están adaptados para comunicarse, en lectura y en escritura, con un sistema de almacenamiento de datos 8, que comprende bases de datos memorizadas en una o varias unidades de memoria electrónicas.
[0046] El primer sistema de cálculo 4 incluye una unidad de cálculo 10, compuesta por uno o varios procesadores, asociada a una unidad de memoria electrónica 12 y a una interfaz persona-máquina 14.
[0047] El segundo sistema de cálculo 6 incluye una unidad de cálculo 16, compuesta por uno o varios procesadores, asociada a una unidad de memoria electrónica 20 y a una interfaz persona-máquina 18.
[0048] El primer sistema de cálculo 4 está configurado para implementar una fase de inicialización de un procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo, en relación con al menos un perímetro de observación predefinido, en particular un perímetro espacial, que incluye un conjunto de fuentes S1, S2, S3 observadas, que permiten generar o enriquecer bases de datos que comprenden:
- una base de datos 22 de acontecimientos iniciadores elementales y de parámetros asociados que caracteriza a riesgos para el perímetro predefinido del sistema industrial;
- una base 24 de signaturas de riesgos de referencia y de escenarios de amenazas asociados;
- opcionalmente se memoriza una cartografía de riesgos asociada 26.
[0049] En este caso se entiende por escenario de amenazas asociadas a un riesgo, también denominado escenario de riesgo, un escenario completo de evolución que va desde la fuente del riesgo, p. ej. uno o varios acontecimientos iniciadores elementales, a su desarrollo.
[0050] Un acontecimiento iniciador elemental se caracteriza por uno o varios parámetros que salen de un intervalo de valores nominales, representativo de una señal débil precursora del riesgo. Por ejemplo, se trata de desviaciones con respecto a valores nominales de funcionamiento o de notificaciones de alarmas de tipo de alarma predefinido. Por ejemplo, se trata de desviaciones menores, inferiores a un umbral de alerta, es decir, a un valor de umbral dado.
[0051] Por ejemplo, un escenario de amenazas asociado al riesgo describe evoluciones temporales, por ejemplo, una frecuencia de notificación de alarma o una curva de aumento de las desviaciones con respecto a los valores nominales de funcionamiento que permite predecir un riesgo, por ejemplo, de recalentamiento y de incendio.
[0052] En otros términos, un escenario de amenazas es un modelo cinético del riesgo temido, también denominado «modelo mecanicista».
[0053] Una cartografía asociada es una representación visual, por ejemplo, en forma de diagrama 2D o 3D, de los riesgos que pueden afectar al sistema industrial S observado.
[0054] Estas bases de datos 22, 24, 26 son memorizadas por el sistema de almacenamiento de datos 8. El sistema de almacenamiento de datos es un soporte legible por ordenador, por ejemplo, un medio capaz de memorizar las instrucciones electrónicas y de acoplarse a un bus de un sistema informático. A modo de ejemplo, el soporte legible es un disco óptico, un disco magnetoóptico, una memoria ROM, una memoria RAM, cualquier tipo de memoria no volátil (por ejemplo, EPROM, EEPROM, FLASH, NVRAM), una tarjeta magnética o una tarjeta óptica.
[0055] La unidad de cálculo 10 está configurada para implementar un módulo 28 de selección y validación de modelos de riesgo asociado al perímetro de observación, un módulo 30 de cálculo de signaturas de riesgo de referencia de escenarios de amenazas asociados y de cartografía de riesgo asociada y un módulo 32 de validación de actualización.
[0056] Cada riesgo se modeliza mediante un modelo multifísico según los datos recogidos por varios sistemas industriales (por ejemplo, en varios lugares de las instalaciones nucleares) en un tiempo dado, tal que este modelo puede actualizarse durante el transcurso de los acontecimientos observados, como se explica más en detalle a continuación.
[0057] En una realización, para un perímetro de observación, se tienen varios riesgos en consideración, teniendo cada riesgo un modelo de riesgo asociado, y se obtiene un modelo de riesgo global, teniendo en cuenta las interdependencias y las correlaciones entre los riesgos.
[0058] A continuación, se detallará un ejemplo de aplicación en una instalación nuclear en referencia a la figura 5.
[0059] El segundo sistema de cálculo 6 está configurado para implementar un procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo para el sistema industrial S.
[0060] La unidad de cálculo 16 está configurada para implementar:
- un módulo 34 de recogida de datos relativos al sistema industrial durante un periodo temporal dado, tal que los datos recogidos incluyen en particular medidas obtenidas por el o los sensores 3, a partir de las fuentes emisoras S1, S2, S3;
- un módulo 36 de cálculo de una signatura predictiva de riesgo;
- un módulo 38 de detección de presencia de al menos una señal débil de exposición a un riesgo por comparación de la signatura predictiva del riesgo con las signaturas de riesgo de referencia;
- un módulo 40 de determinación de una signatura predictiva de referencia asociada a la signatura predictiva del riesgo calculada y caracterización de riesgo asociado a la signatura de riesgo de referencia, tal que este módulo incluye también un módulo de visualización de datos en la interfaz persona-máquina 18, especialmente en una pantalla de visualización de esta interfaz.
[0061] En una realización, los módulos 34, 36, 38, 40 están hechos en forma de código de software, y forman un programa informático, que incluye instrucciones de software que, cuando son implementadas por un dispositivo electrónico programable, implementan un procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo.
[0062] Como variante no representada, los módulos 34, 36, 38, 40 están hechos cada uno en forma de un componente lógico programable, tal como un FPGA (del inglésField Prngrammable Gate Array),o un GPGPU (del inglésGeneral-purpose processing on graphics processing)o en forma de un circuito integrado dedicado, tal como un ASIC (del inglésApplication Specific Integrated Circuit).
[0063] El programa informático de detección y de caracterización de señales débiles de exposición a un riesgo puede además registrarse en un soporte, no representado, legible por ordenador. El soporte legible por ordenador es, por ejemplo, un medio capaz de memorizar las instrucciones electrónicas y de acoplarse a un bus de un sistema informático. A modo de ejemplo, el soporte legible es un disco óptico, un disco magnetoóptico, una memoria ROM, una memoria RAM, cualquier tipo de memoria no volátil (por ejemplo, EPROM, EEPROM, FLASH, NVRAM), una tarjeta magnética o una tarjeta óptica.
[0064] De manera análoga, los módulos 28, 30, 32 están hechos en forma de código de software, y forman un programa informático. Como variante no representada, los módulos 28, 30, 32 están hechos en forma de un componente lógico programable, tal como un FPGA (del inglésField Programmable Gate Array),o un GPGPU (del inglésGeneral-purpose processing on graphics processing),o en forma de un circuito integrado dedicado, tal como un ASIC (del inglésApplication Specific Integrated Circuit).
[0065] El primer sistema de cálculo 4 y el segundo sistema de cálculo 6 se han representado aquí en forma de sistemas de cálculo distintos.
[0066] En una variante no representada, los dos sistemas de cálculo 4, 6 se reúnen en un solo sistema de cálculo, que realiza a la vez la fase de inicialización para un perímetro de observación del sistema industrial y la fase de tratamiento de los datos recogidos para el sistema industrial para la caracterización y la predicción de señales débiles de exposición a un riesgo.
[0067] La figura 2 es un cuadro sinóptico de las principales etapas de una fase de inicialización 50 de un procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo, en una realización.
[0068] Esta fase de inicialización es una fase previa a la implementación del procedimiento para un sistema industrial observado, en un perímetro de observación que incluye una pluralidad de fuentes emisoras, y tiene como objetivo generar y memorizar las informaciones:
- de la base de datos 22 de acontecimientos iniciadores elementales y de parámetros asociados que caracteriza a riesgos para el sistema industrial;
- de la base 24 de signaturas de riesgos de referencia y de escenarios de amenazas asociados;
- de la cartografía de riesgos asociada 26.
[0069] Ventajosamente, la fase de inicialización es realizada, en relación con el perímetro de observación y con un conjunto de riesgos predefinido, según los datos recogidos en uno o varios sistemas industriales del mismo tipo, recogidos durante las fases de funcionamiento de estos sistemas y de validaciones de expertos.
[0070] Por ejemplo, la fase de inicialización 50 es conducida por un experto que es un profesional de la seguridad de funcionamiento del sistema industrial elegido.
[0071] Por ejemplo, la fase de inicialización implementa un esquema de recuperación de experiencia o REX, después del análisis de los datos registrados antes de la aparición de accidentes en los sistemas industriales.
[0072] En una realización, la fase de inicialización es conducida por un experto de la seguridad de funcionamiento que usa una interfaz persona-máquina (p. ej., pantalla y teclado, pantalla táctil, interfaz de control vocal, etc.) que le permite seleccionar un perímetro de observación y un conjunto de riesgos temidos.
[0073] El procedimiento comprende a continuación una selección 54 de datos recogidos con anterioridad, por ejemplo, memorizados previamente en una o varias bases de datos, relativos a los datos recogidos en relación con el o los riesgos temidos.
[0074] Además, el experto tiene la posibilidad de seleccionar en la etapa 56 modelos y algoritmos de aprendizaje por inteligencia artificial (IA), de desplegar en el procedimiento, entre varios de estos modelos y algoritmos propuestos, por ejemplo, a partir de evaluaciones de rendimiento obtenidas de una recuperación de experiencia operativa o de la bibliografía científica. Por ejemplo, es posible usar algoritmos de aprendizaje profundo que implementan redes neuronales artificiales, de manera automatizada, entre:
- aprendizaje supervisado basado en redes neuronales convolutivas (CNN), que comprenden varias capas, que, opcionalmente, están totalmente conectadas;
- aprendizaje semisupervisado basado por ejemplo en redes neuronales profundas (DNN);
- aprendizaje no supervisado basado por ejemplo en redes neuronales recurrentes (RNN) de memoria larga y corta (o LSTM, por «long short-term memory» en inglés), que comprenden una o varias capas LSTM.
[0075] El procedimiento comprende también una etapa 58 de obtención de modelos multifísicos del riesgo para investigar los riesgos.
[0076] Aquí se denomina modelo multifísico del riesgo a un modelo que integra varios parámetros que permiten caracterizar el riesgo, que son cuantificables, por ejemplo, las desviaciones con respecto a los valores nominales de funcionamiento y las notificaciones de alarmas.
[0077] Dicho modelo define acontecimientos iniciadores elementales del riesgo cuyo uso se describe en detalle más adelante.
[0078] La etapa de obtención 58 es implementada, por ejemplo, mediante la implementación de un algoritmo de inteligencia artificial entre los algoritmos mencionados anteriormente, entrenado en la fase de aprendizaje con los datos recogidos en la etapa de selección 54.
[0079] Según una realización, la etapa de obtención 58 realiza una selección entre los modelos suministrados por expertos, de tal forma que la selección se realiza por ejemplo con un criterio de rendimiento elegido.
[0080] Según una variante, la etapa de obtención 58 realiza una construcción de un modelo de riesgo a partir de los datos recogidos en la etapa 54.
[0081] El procedimiento comprende también, preferentemente, una etapa 60 de validación por interacción con el experto, que permite una validación incremental de los resultados intermedios, que permite por ejemplo afinar y reforzar el aprendizaje.
[0082] Por ejemplo, en una realización, la etapa 60 es realizada por un módulo de preguntas/respuestas (o QA, por «questions and answers» en inglés), por ejemplo, implementado en forma de un agente de conversación (o «chatbot» en inglés). Dicha etapa 60 de validación por interacción forma parte de un proceso de tipo HILL (por «human in the loop learning» en inglés), que permite mejorar los resultados obtenidos automáticamente por un aprendizaje automático.
[0083] El procedimiento comprende también una etapa 62 de acoplamiento multiescala de modelos multifísicos del riesgo y de las incertidumbres asociadas, que permite obtener parámetros asociados a los acontecimientos iniciadores elementales, lo que permite calcular una signatura predictiva de riesgo, formada a partir de signaturas denominadas signaturas elementales de acontecimientos iniciadores elementales, como se detalla a continuación.
[0084] El acoplamiento multiescala es implementado por el modelo de inteligencia artificial seleccionado en la etapa de selección 56.
[0085] Aquí se entiende por acoplamiento multiescala la toma en cuenta de perímetros espaciales definidos a varias escalas. Por ejemplo, para un emplazamiento industrial, por ejemplo, un emplazamiento nuclear, los perímetros espaciales a diferentes escalas comprenden la instalación en su conjunto a una primera escala, un edificio específico a una segunda escala, un conjunto de piezas de acceso restringido que confinan el material cuya seguridad es crítica a una tercera escala, etc. A continuación, se detallará un ejemplo concreto relativo a un sistema industrial en referencia a la figura 5.
[0086] Para cada escala se define un modelo, y el acoplamiento multiescala tiene en consideración las interacciones entre escalas, por ejemplo, partiendo del nivel más elemental (que corresponde a la escala N-ésima, siendo n el número total de escalas en la notación elegida anteriormente), y ponderando la contribución de un nivel de escala n a un nivel de escala n-1.
[0087] Aquí se entiende por incertidumbre asociada al modelo una incertidumbre probabilista, calculada por un procedimiento de cálculo probabilista con respecto a los datos recogidos.
[0088] De hecho, los datos recogidos suelen estar sesgados e incluso llenos de ruido en la fuente teniendo en cuenta las incertidumbres asociadas a los sistemas y procedimientos de adquisición de los datos en la fuente, su tratamiento y su salvaguarda.
[0089] Los modelos matemáticos también generan incertidumbres suplementarias relacionadas con las desviaciones entre el modelo real que describe la mecánica y la fenomenología de la exposición a los riesgos y las aproximaciones desplegadas según los datos disponibles.
[0090] Para evaluar esta incertidumbre se describen varios procedimientos por el estado de la técnica. Como testigo, el uso de una ley de probabilidad, como la ley de Poisson que se aplica a la aparición de acontecimientos de baja probabilidad o bien la ley de Gauss (o ley normal) que es la ley de probabilidad más utilizada. Su interés se confirma si se cumplen simultáneamente las condiciones siguientes:
• Las causas de error son numerosas;
• Los errores son del mismo orden de magnitud;
[0091] Las fluctuaciones relacionadas con las diferentes causas de error son independientes y aditivas.
[0092] El procedimiento comprende además una etapa 64 de cálculo de cartografía del riesgo y de modelización determinista-probabilista del riesgo y de las amenazas asociadas.
[0093] La modelización determinista-probabilista comprende la toma en cuenta de parámetros deterministas (por ejemplo, antigüedad de los equipos del sistema industrial, fecha de puesta en funcionamiento de una máquina, frecuencia de uso de una máquina, condiciones de funcionamiento (temperatura ambiente, higrometría)), que modifican los cálculos de incertidumbre probabilista asociados al riesgo.
[0094] Para un riesgo considerado, se aplica una clasificación por redes neuronales o por bosques aleatorios en varias clases según la modelización determinista-probabilista y, para cada clase, se calcula una signatura de riesgo de referencia que se memoriza en la base de datos 24, así como un escenario de amenazas asociado.
[0095] La signatura elemental de un acontecimiento iniciador elemental Ei está definida por la fórmula siguiente:
[MAT 1]
dondef(G(x, t))nes la función característica de la gravedad del acontecimiento iniciador elemental Ei, siendo n un parámetro, preferentemente comprendido entre 1/2 y 5/2 ambos incluidos, definida en un perímetro espacial Per_s=[x, x Ax] y en un periodo temporal Per_t= [t, t A t];
f(X) es una función de una variable X, por ejemplo:
f(X)= 2X o
f(X)=Xn,siendo n un número real, o
ai (x, t)es la función característica del acontecimiento iniciador elemental Ei ywi(x, t)es la función de ponderación asociada al acontecimiento iniciador elemental Ei.
[0096] Por ejemplo, la función caracterizadora de la gravedad es una función del acontecimiento iniciador elemental.
[0097] En una realización, la función característica de la gravedad puede tomar cuatro valores diferentes representativos respectivamente de una gravedad nula, de una gravedad menor, de una gravedad significativa o de una gravedad severa, para un valor x del perímetro elegido y un instante t:
4
[0098] Donde es el késimo valor de gravedad para el acontecimiento iniciador elemental E
i* _ i ic _ o [0099] r ejemplo, Ai _n
Po u para gravedad nula,/l2 ±para gravedad menor, ¿ para gravedad significativa yÁl4= 3para gravedad severa
[0100] La función característica de un acontecimiento iniciador elemental Ei toma por ejemplo los valores 0 o 1, según el estado de realización del acontecimiento:
ai (x, t)= 1 si Ei se concreta
ai (x, t)= 0 en caso contrario.
[0101] La función de ponderaciónw(x, t)es, por ejemplo, un parámetro fijado por un experto o una función determinista-probabilista asociada a un acontecimiento iniciador elemental Ei, caracterizado por una gravedad Gi(x, t), y una probabilidad pi.
[0102] Por ejemplo, una fórmula de la ponderación es:
[MAT 2]
[0103] Donde V¡k es un valor representativo de una vulnerabilidad intrínseca para el sistema industrial S relativamente y ^ u n a característica de barrera de defensa asociada.
[0104] En una realización, la signatura predictiva de riesgo se calcula según la fórmula siguiente que suministra r(t), también denominada función de incubación.
[0105] La función de incubación es una función matemática multivariable, que depende de varios tipos de variables temporales, espaciales, cuantitativas y/o cualitativas.
[0106] La función de incubación se define a continuación a partir de signaturas características de acontecimientos elementales, en un perímetro espacial y un periodo temporal tal como se indica anteriormente.
[MAT 3] Donde:
- f(Gi(x, t)) es la función característica de la gravedad del acontecimiento iniciador elemental Ei,
-Oi(x, t)es la función característica del acontecimiento iniciador elemental Ei,
-w(x, t)es la función de ponderación asociada al acontecimiento iniciador elemental E¡;
(x, t)es una función característica de intercorrelación entre acontecimientos iniciadores elementales Ej y Ek, y B(x, t) es una función probabilista que caracteriza a un ruido,
- la notación <f(G(x, t)) a f(Gj (x, t))> indica una función que relaciona las funciones características de gravedad de los acontecimientos iniciadores Ei y Ej, por ejemplo:
[0107] La función característica de intercorrelación entre dos acontecimientos iniciador elemental puede escribirse:
[0108] Por ejemplo:
&1 si la correlación de acontecimientos iniciadores elementales<E j>y<E k>aporta un efecto negativo agravante;<fjfc _>:<,>0 si la correlación de acontecimientos iniciadores elementales Ej y Ek no aporta ningún efecto, en otros términos, es neutra;
<fjk _>1 si la correlación de acontecimientos iniciadores elementales Ej y Ek aporta un efecto positivo protector.
[0109] Más en general, si la correlación de acontecimientos iniciadores elementales Ej y Ek aporta un efecto negativo agravante toma un primer valor de correlación, preferentemente un valor positivo, si la correlación de los acontecimientos elementales Ej y Ek aporta un efecto positivo protector, toma un segundo valor de correlación, preferentemente negativo.
[0110] La señal débil se define por el término fuente O que caracteriza la deriva de la incubación en el perímetro espacial Per_s y el periodo temporal Per_t:
[MAT 4]
[0111] Además, es posible, según una variante, tener en cuenta una o varias otras variables Xi, específicas del sistema vigilado, que forman una limitación suplementaria:
[MAT 5]
[0112] Según una variante, se tienen en cuenta varias variables, ponderadas por parámetros pi que caracterizan «la importancia» de cada variable:
[MAT 6]
[0113] Por ejemplo, los parámetros pi son crecientes con la importancia, es decir, la contribución, de cada variable en el escenario de amenazas considerado.
[0114] Los parámetros pi son, por ejemplo, valores reales de ponderación, positivos e inferiores a 1 cuya suma total está normalizada al 100%.
[0115] El ruido B(x, t) puede filtrarse gracias a la implementación de funciones matemáticas conocidas, lo que permite obtener una función de incubación filtrada denotada por:
[MAT 7]
P(t)<=>[Si f ( Gi{x,<0)W í(x, t)(T¿X, t) Zjk ZjkWjfr OlVfcO, t) < f(Gi(x, 0 ) A>f(Gj(x,0 ) >]
[0116] La caracterización de los factores de ponderación Wi(x, t) se realiza preferentemente por aprendizaje IA («inteligencia artificial») por refuerzo para aumentar la precisión y la personalización de los acontecimientos iniciadores elementales.
[0117] El procedimiento comprende, opcionalmente, otra etapa 66 de validación interactiva por un experto, análoga a la etapa 60 descrita anteriormente.
[0118] El experto valida especialmente los resultados de las etapas 62 y 64.
[0119] En caso de validación positiva (respuesta 'sí' a la prueba 68), la base de datos 22 de acontecimientos iniciadores elementales y de parámetros asociados que caracteriza a los riesgos para el perímetro predefinido, la base 24 de signaturas de riesgos de referencia y de escenarios de amenazas asociados y la cartografía de riesgos asociada 26 se actualizan (etapa 70) con los resultados de las etapas 62 y 64.
[0120] En caso de validación negativa (respuesta 'no' a la prueba 68), el procedimiento regresa a la etapa 58 de selección de modelos multifísicos del riesgo, y se iteran las etapas 60 a 68.
[0121] La figura 3 es un cuadro sinóptico de las principales etapas de una fase de cálculo y de evaluación de signatura de riesgo en el procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo en un sistema industrial observado, en una realización.
[0122] El procedimiento recibe en entrada datos 72 relativos al sistema industrial observado, según un perímetro espacial de observación, recogidos por uno o varios sensores, durante un periodo temporal dado, denominado periodo de vigilancia, por ejemplo, una semana, 15 días o un mes.
[0123] Los datos 72 relativos al sistema industrial pueden también comprender datos descriptivos del perímetro espacial de observación, por ejemplo, datos históricos como la fecha de puesta en funcionamiento de cada equipo o máquina observada, la frecuencia de uso de la máquina o los datos de contexto (temperatura, higrometría, presencia de sustancias corrosivas, etc.).
[0124] Estos datos 72 son recogidos durante una etapa de recogida 74, por ejemplo, en forma de archivos que contienen estos datos y/o por introducción manual por un operador. Estos datos 72 recogidos se denominan datos en bruto.
[0125] Los datos en bruto son tratados previamente durante una etapa de pretratamiento 76, consistiendo este pretratamiento en formatear, o en otros términos en estructurar y en traducir, los datos en bruto en datos digitales aprovechables en lo sucesivo por algoritmos de tratamiento automáticos. La etapa de pretratamiento es realizada por un tratamiento automático basado en reglas predeterminado.
[0126] A continuación, el procedimiento incluye una etapa 78 de clasificación de los datos digitales obtenidos en la etapa 76 por un procedimiento de inteligencia artificial. Por ejemplo, la etapa 78 aplica un clasificador, implementado por un algoritmo de inteligencia artificial, tal como una red neuronal, o un árbol de decisión o una red de bosques, entrenados en una fase de aprendizaje previa.
[0127] En salida de esta etapa 78 de clasificación de los datos se obtienen los parámetros que definen los acontecimientos iniciadores elementales y los valores de gravedad, de ponderación asociados.
[0128] Los acontecimientos iniciadores elementales asociados al riesgo que se busca caracterizar son definidos por el modelo del riesgo calculado y memorizado durante la fase de inicialización 50.
[0129] Las etapas 74, 76 y 78 contribuyen a un pretratamiento 75 de los datos 72 relativos al sistema industrial que son recogidos.
[0130] Este pretratamiento 75 se sigue de una evaluación predictiva 80 del riesgo de aparición de un acontecimiento temido.
[0131] Esta evaluación predictiva comprende un cálculo 82 de signatura predictiva del riesgo temido usando la fórmula [MAT 3] o [MAT 7] en una realización.
[0132] El procedimiento incluye a continuación una etapa 84 de evaluación estadística de incertidumbres asociadas a la signatura predictiva del riesgo calculada, tal que esta evaluación tiene en cuenta las incertidumbres asociadas a los datos, los modelos y los algoritmos.
[0133] Esta evaluación estadística de incertidumbres es realizada por un procedimiento de cálculo estadístico, por ejemplo, implementando una ley normal o bien una ley de Poisson según uno de los procedimientos conocidos en el estado de la técnica.
[0134] El procedimiento comprende además una etapa 86 de evaluación temporal de la función de incubación o signatura predictiva del riesgo, según la fórmula [MAT 3] o [MAT 7], en el periodo de vigilancia, con una frecuencia temporal elegida. Así se obtiene un muestreo temporal de la función de incubación predictiva del riesgo (o signatura predictiva del riesgo), en una duración temporal dada, que forma una curva de evolución del riesgo. La duración temporal es, por ejemplo, de una o varias semanas o meses.
[0135] En la realización descrita, sustancialmente en paralelo a la evaluación predictiva 80 del riesgo para el sistema industrial considerado, se implementa una evaluación paralela 95 a partir de datos 88 memorizados, también denominados datos de recuperación de experiencia o REX.
[0136] La evaluación 95 realizada a partir de lo anterior tiene como objetivo permitir una actualización interactiva de los modelos memorizados en las bases de datos 22, 24 según los datos recogidos, lo que permite así afinar los modelos de riesgo, las signaturas de riesgo de referencia y los escenarios de amenazas asociados.
[0137] Además, esta evaluación permite sacar a la luz escenarios raros, pero no obstante posibles, que tienen una muy baja probabilidad de aparición pero que corresponden a un escenario temido para el sistema industrial.
[0138] La evaluación 95 comprende una etapa 90 de obtención de una signatura de riesgo de referencia y de modelo mecanicista del riesgo asociado. La signatura de riesgo de referencia es la más cercana al modelo calculado para el sistema industrial considerado, a partir de los datos 88 memorizados, en particular a partir de las bases de datos 22, 24.
[0139] A continuación, durante una etapa 92, se calcula una predicción de la evolución del riesgo para el sistema industrial, en la misma duración temporal que la usada en la etapa 84, usando la signatura del riesgo de referencia obtenida en la etapa 90.
[0140] Se implementa una etapa 94 de evaluación determinista-probabilista de la signatura del riesgo de referencia aplicada y del escenario de amenazas temido asociado mediante procedimientos matemáticos del vecino más próximo, por ejemplo.
[0141] A continuación, se implementa una etapa 96 (opcional) de validación por interacción con un experto, que forma parte de un proceso de tipo HILL (por «human in the loop learning» en inglés), y si el resultado de la validación (prueba 98) es negativo, se aplica una modificación de la signatura de riesgo de referencia en la base de datos, por aprendizaje por refuerzo y se iteran las etapas 90, 92 y 94.
[0142] La validación comprende en particular la comparación entre la signatura de riesgo de referencia y la signatura de riesgo obtenida para el sistema industrial considerado.
[0143] El experto valida entonces los datos de referencia memorizados en las bases de datos 22, 24.
[0144] Si el resultado de la validación es positivo, el procedimiento continúa hacia una fase final 100 de detección y caracterización en el procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo, de manera que la continuación se describe seguidamente en referencia a la figura 4.
[0145] Esta fase final de detección y caracterización comprende una etapa 102 de implementación de un módulo de caracterización de señales débiles de exposición a un riesgo (o señales débiles precursoras), que realiza una comparación de la signatura predictiva del riesgo calculada, o de las signaturas predictivas del riesgo calculadas en varios instantes temporales con una signatura de riesgo de referencia predeterminada.
[0146] En una realización, la signatura de riesgo de referencia es un valor de umbral, y se realiza una comparación con el valor de umbral, y la detección de señales débiles precursoras es positiva si el valor de umbral predeterminado es superado por la signatura predictiva del riesgo calculada en al menos un instante t del periodo considerado. Pueden usarse varios valores de umbrales que definen varios niveles de riesgo, habiendo sido estos valores de umbrales memorizados previamente.
[0147] En otra realización, la etapa 102 implementa una comparación con una o con las signaturas de riesgo de referencia previamente calculadas y memorizadas en la base de datos 24 de signaturas de riesgos de referencia y la detección de señales débiles precursoras es positiva si una distancia entre signaturas de riesgo de referencia y signatura predictiva del riesgo calculada es inferior a un umbral de distancia predeterminado. Por ejemplo, cada una de las signaturas de riesgo se caracteriza por una pluralidad de valores en instantes temporales sucesivos en una duración temporal de evaluación de las signaturas de riesgo. El cálculo de una distancia entre signaturas de riesgo implementa en este caso una distancia entre dos curvas, por ejemplo, la media ponderada de las distancias punto a punto.
[0148] Además, una incertidumbre estadística asociada a la detección es evaluada sistemáticamente por cualquiera de los procedimientos estadísticos del estado de la técnica (ley normal o ley de Poisson).
[0149] En caso de detección de señales débiles precursoras negativa (respuesta «no» a la prueba 104), el procedimiento regresa a la etapa 66 de validación interactiva por un experto.
[0150] En caso de detección de señales débiles precursoras positiva (respuesta sí a la prueba 104), a continuación, se verifica (prueba 106) si existe una signatura de riesgo de referencia próxima a la signatura predictiva del riesgo entre las signaturas de riesgo de referencia previamente memorizadas.
[0151] La proximidad es evaluada según un cálculo de distancia según una medida de distancia predeterminada.
[0152] Por ejemplo, como se indica anteriormente en referencia a la etapa 102, se calcula una distancia entre dos curvas, respectivamente una curva representativa de una signatura de riesgo de referencia y una curva representativa de la signatura predictiva de riesgo calculada, lo que permite encontrar la signatura de riesgo de referencia más próxima a la signatura predictiva del riesgo calculada. A continuación, se compara la distancia entre la signatura de riesgo de referencia más próxima de la signatura predictiva del riesgo calculada y la signatura predictiva del riesgo calculada con un umbral de distancia, y si es inferior a este umbral de distancia, entonces la respuesta a la prueba 106 es positiva.
[0153] En caso de respuesta negativa a la prueba 106 se implementa una etapa 108 de validación interactiva por un experto, seguida de la etapa 56 de selección de modelos de aprendizaje por inteligencia artificial. En este caso, el proceso de aprendizaje se vuelve a lanzar con un nuevo modelo de aprendizaje, por ejemplo, se modifican los parámetros del modelo, o se elige otro algoritmo de aprendizaje.
[0154] En caso de respuesta positiva a la prueba 106, en otros términos, si se ha encontrado una signatura de riesgo de referencia próxima a la signatura predictiva del riesgo, se implementa una etapa 110 de visualización. Esta incluye una visualización 112 de una simulación predictiva del riesgo de aparición del acontecimiento temido y una etapa 114 de visualización de las características de los modelos de IA usados.
[0155] Opcionalmente se implementa una nueva etapa 116 de validación interactiva por un experto.
[0156] En caso de validación negativa (respuesta «no» a la prueba 118), el procedimiento regresa a la etapa 102 de comparación con una o con las signaturas de riesgo de referencia.
[0157] En caso de validación positiva (respuesta «sí» a la prueba 118) se implementa una etapa 120 de generación de relación, usando (etapa 122) datos de las bases de datos previamente memorizadas, en particular usando los escenarios de amenazas asociados y la cartografía de riesgos asociada.
[0158] Así se enriquece la base de datos REX.
[0159] En particular se visualiza el escenario de amenazas asociado a la signatura de riesgo de referencia seleccionada. Además, se visualizan los parámetros que caracterizan al modelo de riesgo aplicado, así como las incertidumbres probabilistas calculadas.
[0160] Como complemento opcional se genera un plan de proposiciones y de recomendaciones (etapa 124).
[0161] Por ejemplo, se implementan recomendaciones de vigilancia o de puesta en parada de determinados equipos del sistema industrial, o de aplicación de mantenimiento predictivo.
[0162] Así, se obtiene una relación 126, tal que esta relación permite una toma de decisión informada del riesgo detectado, después de la detección y la caracterización de señales débiles precursoras.
[0163] A continuación, se describirá un ejemplo de aplicación en un sistema industrial de instalación nuclear en referencia a la figura 5.
[0164] En la figura 5 se representa esquemáticamente un emplazamiento de instalación nuclear 150.
[0165] El emplazamiento de instalación nuclear 150 comprende dos edificios 152, 154, tales que el primer edificio 152 acoge una instalación nuclear y el segundo edificio 154 incluye oficinas de personal. La instalación 150 contiene materiales nucleares según la reglamentación aplicable a los materiales nucleares.
[0166] En este ejemplo de aplicación, el edificio 152 comprende zonas de diferentes niveles de acceso, respectivamente acceso autorizado al conjunto del personal que tiene un primer nivel de habilitación, acceso reglamentado autorizado a personas que tienen un segundo nivel de habilitación y acceso restringido a las personas que tienen un tercer nivel de habilitación.
[0167] El edificio 152 acoge una zona 156 de acceso reglamentado, que a su vez comprende una celda de almacenamiento de materiales en bruto 158 (zona de acceso restringido), las zonas 160 de implementación de procedimientos de transformación de materiales nucleares, dirigidas a obtener una pieza o un objeto a partir del material en bruto, como la fundición, la forja, la prensa, el mecanizado, la embutición, la soldadura, la fabricación aditiva o una combinación de estos procedimientos, referidos como PROC_1 a PROC_n. Los objetos acabados se almacenan en una celda 162 distinta de acceso restringido.
[0168] De manera esquemática, estos procedimientos industriales PROC_i, acogidos cada uno en una celda 160 distinta que contiene aparatos de pesada y ordenadores para la introducción de datos, se suceden en la cadena de producción industrial, según un proceso industrial, cualificado y evaluado dentro del control de calidad, que permite el paso, al final de cada etapa validada, de un procedimiento al siguiente PROC_i+1.
[0169] Las flechas ilustradas en la figura 5 indican los flujos de entrada, de salida y de transformación.
[0170] El edificio 152 acoge también zonas 164, 166, 168, que son respectivamente una zona de entrada 164 de acceso reglamentado, donde tienen lugar la llegada, la descarga y la transferencia de las materias primas, una zona de salida 166 de salida, donde se lleva a cabo la transferencia de salida y la carga de objetos finales, y una zona 168 de acceso autorizado para el personal (vestuarios, oficinas, salas de reunión, etc.).
[0171] El edificio 154, distinto del edificio 152 que acoge las instalaciones industriales, incluye una celda 170 de acceso restringido, de almacenamiento de datos sensibles que permite un control de funcionamiento del emplazamiento industrial, y oficinas 172 de personal habilitadas en el acceso reglamentado. El edificio 154 comprende también una zona 174 de acceso autorizado al personal (oficinas, salas de reunión, etc.).
[0172] Para garantizar la seguridad de funcionamiento se atribuye una responsabilidad operativa a un jefe de instalación (el término «jefe» designa en este caso a todas las personas con responsabilidad, por ejemplo, una persona responsable y un suplente), que realizan controles en el conjunto de la instalación 156. Además, cada procedimiento industrial PROC_k está bajo la responsabilidad de un jefe de equipo.
[0173] El control de calidad de primer nivel es realizado por las personas responsables de la instalación 156, así como de las zonas de entrada 164 y de salida 166. Este control persigue garantizar, por una parte, la calidad de la producción industrial en lo relativo al control de calidad, y por otra parte, la conformidad reglamentaria de los procesos industriales en términos de conservación de los materiales nucleares (seguimiento, contabilidad y protección física de los materiales), de seguridad de la instalación y de las personas (protección física de la instalación, riesgos laborales, riesgo de incendio, riesgo de actos maliciosos internos y de desvíos, etc.) y de protección del medio ambiente (control del manejo de los residuos y prevención/gestión de los riesgos y amenazas internas y externas).
[0174] En el marco de la reglamentación aplicable se realiza un control de segundo nivel por una celda denominada de control de segundo nivel, a cargo del control del conjunto de las instalaciones de un emplazamiento o de una fábrica. Esta celda que compete a la dirección general del emplazamiento o de la fábrica, está situada en general en un edificio administrativo (edificio B), distinto de los edificios que acogen las instalaciones industriales. Registra, controla y almacena el conjunto de las informaciones sensibles y datos digitales, cuantitativos y cualitativos, relativos al conjunto de las instalaciones y a cada uno de los procedimientos.
[0175] Esta celda de control de segundo nivel tiene también como misión producir el conjunto de los documentos reglamentarios con destino a las autoridades, instruir las peticiones de estas realizadas en particular después de inspecciones en el marco de cartas de seguimiento de la inspección, declarar los acontecimientos e incidentes, comandar las acciones de investigación e implementar los planes de acciones correctoras y preventivas.
[0176] Se tienen en cuenta los riesgos siguientes, denotados de R1 a R6, que comprenden 4 amenazas externas y 2 amenazas internas.
[0177] Las amenazas externas tenidas en cuenta son respectivamente:
- R1: riesgo de agresiones externas;
- R2: riesgo de intrusión física en la instalación;
- R3: riesgo de robo y/o de desvío de materiales nucleares y/o de objetos sensibles;
- R4: riesgo de ciberataque y/o de intrusión informática que pueden afectar a la integridad de los datos sensibles.
[0178] Las amenazas internas respectivamente tenidas en cuenta son:
- R5: riesgo de fraude y/o de acto malicioso interno;
- R6: riesgos de anomalía/mal funcionamiento crítico.
[0179] Las fuentes de amenazas internas son el acto malicioso interno, la negligencia o la incompetencia.
[0180] Los datos de funcionamiento de la instalación nuclear son recogidos por campaña, en un periodo temporal dado. El periodo temporal es, por ejemplo, de seis meses o de un año.
[0181] En general, en el marco de la rutina de explotación industrial, el jefe de instalación reúne y verifica las desviaciones y anomalías que son comunicadas por los equipos operativos en cada procedimiento, bajo la responsabilidad del jefe de equipo en cuestión. Estas desviaciones y anomalías son objeto de investigaciones para identificar las causas y evaluar las consecuencias.
[0182] Los resultados de estas investigaciones se someten a la evaluación y la validación independiente de la celda de control de segundo nivel, que registra estas desviaciones y anomalías, valida o no su carácter «confirmado» y las clasifica, en su caso, como acontecimientos y les atribuye individualmente un nivel de gravedad G según, por ejemplo, la clasificación siguiente:
- G = 1: acontecimiento menor;
- G = 2: acontecimiento moderado;
- G = 3: acontecimiento grave/significativo;
- G = 4: acontecimiento severo.
[0183] Los datos de aprendizaje suministrados en la entrada del procedimiento son datos recogidos durante una campaña, e incluso durante un número predeterminado de campañas anteriores.
[0184] Los datos recogidos son datos de funcionamiento de la instalación nuclear.
[0185] El perímetro espacial considerado es el perímetro del emplazamiento industrial, y se modeliza preferentemente según una modelización multiescala de la manera siguiente:
- Escala 1: perímetro del emplazamiento 150 que acoge la instalación nuclear 156;
- Escala 2: perímetro de la instalación;
- Escala 3: perímetro de una celda que acoge varios procedimientos;
- Escala 4: perímetro de un procedimiento.
[0186] En un ejemplo más particular, considerando el perímetro del procedimiento (escala 4), y un riesgo de robo y desvío de materiales nucleares, se identifican los acontecimientos iniciadores identificados siguientes mediante el despliegue del procedimiento:
- Acontecimiento 1 (E<1>) ^ Intrusión de un operador no habilitado/no autorizado en una celda de acceso restringido/reglamentado, que acoge un procedimiento sensible:
- Acontecimiento 2 (E<2>) ^ Modificación del procedimiento sin autorización previa por el Jefe de instalación y no conforme con el marco reglamentario:
- Acontecimiento 3 (E<3>) -i> Falsificación de los datos de explotación y de control:
[0187] En este ejemplo, los parámetros que definen las signaturas elementales de los acontecimientos iniciadores se estiman mediante algoritmos de aprendizaje automático, no supervisado, o algoritmos de aprendizaje profundo («deep learning») que aplican redes neuronales en datos obtenidos de archivos de desviaciones y anomalías disponibles en el nivel de la instalación.
[0188] De manera simultánea se aplica una estimación por aprendizaje automático supervisado aplicado sobre datos previamente etiquetados por expertos del campo.
[0189] Aplicando el modelo de incubación a estos tres acontecimientos iniciadores E<1>, E<2>, E<3>, conf(G(x, t))= 2G/ y <f(Gi(x, t)) a f(Gj(x, t)) > = f(Gi(x, t) x f(G¡{s, t))(siendo n igual a 1), se obtiene la fórmula de la incubación de las señales débiles precursoras para el riesgo de robo y desvío de materiales nucleares, en el nivel de escala de un procedimiento:
[0190] La gravedad se define en este ejemplo del modo siguiente:
- G = 0: ausencia de acontecimiento;
- G = 1: acontecimiento menor;
- G = 2: acontecimiento moderado;
- G = 3: acontecimiento grave/significativo;
- G = 4: acontecimiento severo.
[0191] La gravedad Gi anterior es igual al valor de G para el acontecimiento iniciador Ei.
[0192] Además, las otras funciones se definen en el ejemplo mediante:
-a(x, t)= 1 si el acontecimiento iniciador tiene una probabilidad no insignificante de producirse, con independencia de la gravedad de su impacto y de sus consecuencias, o bien si el acontecimiento iniciador tiene una probabilidad casi nula de producirse pero con un impacto significativo en el conjunto del sistema.
-a(x, t) =0 si el acontecimiento iniciador tiene una probabilidad casi nula de producirse con un impacto casi nulo. - f f rt) ={-1,0,1} según el efecto (protector, neutro o negativo) de la correlación de acontecimientos iniciadores.
[0193] En lo que se refiere a la función w(x, t), las funciones Vulnerabilidad Viky Barrera de defensa ^ podrían modelizarse del modo siguiente:
[0194] Con, por ejemplo, a^x), bik(x) y Ok(x) funciones polinómicas positivas.
[0195] Los parámetros de estas funciones se calculan mediante aprendizaje IA como se explica anteriormente.
[0196] Ventajosamente, la invención permite detectar señales débiles de exposición a un riesgo, en particular a un acontecimiento temido, lo que permite aumentar la seguridad del funcionamiento de los sistemas industriales, y la prevención por adelantado de los riesgos (recalentamiento, avería, incendio, etc.).

Claims (12)

  1. REIVINDICACIONES 1. Procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo en un sistema industrial, siendo una señal débil representativa de una incubación de un acontecimiento temido, a partir de datos relativos al sistema industrial recogidos por al menos un sensor en un periodo temporal dado, estando el procedimiento caracterizado porque incluye las etapas siguientes, implementadas por un procesador: - a partir de datos relativos a dicho sistema industrial, recogidos (74) durante dicho periodo, cálculo (76-80) de una signatura predictiva del riesgo que define una función de incubación, comprendiendo la signatura predictiva del riesgo un primer término obtenido por la suma de signaturas elementales asociadas a acontecimientos iniciadores elementales, tal que cada signatura elemental depende de parámetros que comprenden un valor de gravedad del acontecimiento iniciador elemental, una función característica del acontecimiento iniciador elemental y una función de ponderación asociada al acontecimiento iniciador elemental, estando al menos una parte de dichos parámetros determinada por la implementación de una red neuronal, - detección (102, 104) de presencia de al menos una señal débil de exposición a un riesgo por comparación de la signatura predictiva del riesgo calculada con las signaturas de riesgo de referencia predeterminadas, - en caso de detección positiva (104), determinación (106) de una signatura predictiva de referencia asociada a la signatura predictiva del riesgo calculada y caracterización del riesgo asociado a dicha signatura de riesgo de referencia tal que dicha caracterización incluye una visualización (122) de un escenario de amenazas determinado previamente y registrado en asociación con dicha signatura predictiva de referencia.
  2. 2. Procedimiento según la reivindicación 1, donde la función de ponderación asociada al acontecimiento iniciador elemental es una función determinista-probabilista, dependiente de una probabilidad de dicho acontecimiento iniciador elemental en relación con dicho acontecimiento temido.
  3. 3. Procedimiento según la reivindicación 1 o 2, donde la signatura predictiva del riesgo incluye un segundo término dependiente de pares de acontecimientos iniciadores elementales y de una función característica de intercorrelación para cada par de acontecimientos iniciadores elementales.
  4. 4. Procedimiento según cualquiera de las reivindicaciones 1 a 3, donde el cálculo de una signatura predictiva de riesgo tiene en cuenta además una función probabilista característica de ruido con respecto a los datos recogidos.
  5. 5. Procedimiento según cualquiera de las reivindicaciones 1 a 4, donde la signatura elemental de un acontecimiento iniciador elemental Ei es suministrada por la fórmula siguiente:
    Donde f(Gi(x, t))n es una función característica de la gravedad del acontecimiento iniciador elemental Ei, definida en un perímetro espacial y en un periodo temporal, siendo n un parámetro entero Oi(x, t) es la función característica del acontecimiento iniciador elemental Ei y Wi(x, t) es la función de ponderación asociada al acontecimiento iniciador elemental Ei.
  6. 6. Procedimiento según la reivindicación 5, donde la signatura predictiva del riesgo se calcula según la fórmula:
    ¡¡Jk Donde es una función característica de intercorrelación entre acontecimientos iniciadores elementales Ej y Ek <f(Gi(x, t)) a f (Gj (x, t))> indica una función que relaciona las funciones características de gravedad de los acontecimientos iniciadores Ej y Ek, y B(x, t) es una función probabilista que caracteriza a un ruido.
  7. 7. Procedimiento según la reivindicación 5 o 6, donde la función característica de gravedad de un acontecimiento iniciador elemental toma cuatro valores diferentes representativos respectivamente de una gravedad nula, de una gravedad menor, de una gravedad significativa o de una gravedad severa.
  8. 8. Procedimiento según cualquiera de las reivindicaciones 1 a 7, donde los datos relativos al sistema industrial son valores representativos de equipos del sistema industrial, y la recogida de datos es realizada por uno o varios sensores.
  9. 9. Procedimiento según cualquiera de las reivindicaciones 1 a 8, que incluye, después de la recogida de datos relativos al sistema industrial durante dicho periodo, un pretratamiento de dichos datos recogidos para formatear dichos datos recogidos en datos digitales, y una clasificación por un clasificador de dichos datos digitales para obtener valores de parámetros asociados a los acontecimientos iniciadores elementales.
  10. 10. Procedimiento según cualquiera de las reivindicaciones 1 a 9, que incluye una fase de inicialización (50) de una base de datos (24) de las signaturas de riesgo de referencia en relación con un conjunto de acontecimientos temidos, según los datos recogidos para sistemas industriales y de validaciones de expertos, y una memorización de las signaturas de riesgo de referencia de escenarios de amenazas asociados y de una cartografía de riesgos asociada.
  11. 11. Programa informático que incluye instrucciones de software que, cuando son ejecutadas por un dispositivo programable, implementan un procedimiento de detección y de caracterización de señales débiles de exposición a un riesgo según las reivindicaciones 1 a 10.
  12. 12. Sistema de detección y de caracterización de señales débiles de exposición a un riesgo en un sistema industrial, siendo una señal débil representativa de una incubación de un acontecimiento temido, a partir de datos relativos al sistema industrial recogidos por al menos un sensor en un periodo temporal dado, estando el sistema caracterizado porque incluye al menos un sistema de cálculo, que incluye un procesador configurado para implementar: - a partir de datos relativos al sistema industrial recogidos durante dicho periodo, un módulo (36) de cálculo de una signatura predictiva del riesgo, tal que la signatura predictiva del riesgo comprende un primer término obtenido por la suma de signaturas elementales asociadas a acontecimientos iniciadores elementales, siendo cada signatura elemental dependiente de parámetros que comprenden un valor de gravedad del acontecimiento iniciador elemental, una función característica del acontecimiento iniciador elemental y una función de ponderación asociada al acontecimiento iniciador elemental, estando al menos una parte de dichos parámetros determinada por la implementación de una red neuronal, - un módulo (38) de detección de presencia de al menos una señal débil de exposición a un riesgo por comparación de la signatura predictiva del riesgo calculada con las signaturas de riesgo de referencia predeterminadas, en caso de detección positiva, aplicación de un módulo (40) de determinación de una signatura predictiva de referencia asociada a la signatura predictiva del riesgo calculada y de caracterización del riesgo asociado a la signatura de riesgo de referencia que incluye un módulo de visualización de un escenario de amenazas determinado previamente y registrado en asociación con dicha signatura predictiva de referencia.
ES22213750T 2021-12-16 2022-12-15 Method and system for detection and characterization of low risk exposure signals in an industrial system Active ES2996458T3 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
FR2113680A FR3130960B1 (fr) 2021-12-16 2021-12-16 Procédé et système de détection et de caractérisation de signaux faibles d’exposition à un risque dans un système industriel

Publications (1)

Publication Number Publication Date
ES2996458T3 true ES2996458T3 (en) 2025-02-12

Family

ID=81928166

Family Applications (1)

Application Number Title Priority Date Filing Date
ES22213750T Active ES2996458T3 (en) 2021-12-16 2022-12-15 Method and system for detection and characterization of low risk exposure signals in an industrial system

Country Status (5)

Country Link
US (1) US20230195101A1 (es)
EP (1) EP4198668B1 (es)
CA (1) CA3183842A1 (es)
ES (1) ES2996458T3 (es)
FR (1) FR3130960B1 (es)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20240404718A1 (en) * 2023-06-05 2024-12-05 King Faisal University Method for performing real-time probabilistic safety assessments for nuclear power plants

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020183971A1 (en) * 2001-04-10 2002-12-05 Wegerich Stephan W. Diagnostic systems and methods for predictive condition monitoring
FR3009615B1 (fr) 2013-08-06 2016-10-14 Commissariat Energie Atomique Procede et systeme de captage, discrimination et caracterisation de signaux faibles au moyen de leurs signatures respectives
EP3482266A1 (en) * 2016-07-07 2019-05-15 Aspen Technology Inc. Computer system and method for monitoring key performance indicators (kpis) online using time series pattern model

Also Published As

Publication number Publication date
EP4198668B1 (fr) 2024-09-04
FR3130960B1 (fr) 2024-01-26
EP4198668A1 (fr) 2023-06-21
FR3130960A1 (fr) 2023-06-23
EP4198668C0 (fr) 2024-09-04
CA3183842A1 (fr) 2023-06-16
US20230195101A1 (en) 2023-06-22

Similar Documents

Publication Publication Date Title
JP4895110B2 (ja) リスク監視装置、リスク監視システム、リスク監視方法
Sheridan Understanding human error and aiding human diagnostic behaviour in nuclear power plants
Zou et al. Insider threats of Physical Protection Systems in nuclear power plants: Prevention and evaluation
Halboob et al. Crowd management intelligence framework: Umrah use case
Bloomfield et al. Safety case templates for autonomous systems
ES2996458T3 (en) Method and system for detection and characterization of low risk exposure signals in an industrial system
Batbayar et al. Medical device software risk assessment using FMEA and fuzzy linguistic approach: Case study
Awadid et al. AI systems trustworthiness assessment: State of the art
CN118607784A (zh) 一种基于指标偏离分析的突发事件情景推演方法及系统
Sverdlova et al. Predicting anomaly conditions of energy equipment using neural networks
Maxwell Meaningful human control to detect algorithmic errors
de Oliveira et al. Contextual knowledge to enhance workplace hazard recognition and interpretation in a cognitive vision platform
Dupuis-Mc Donald Downward Causation in Complex Systems of Migration. Challenges for Prediction and Intervention
Turkoglu Data-Driven and Bayesian Analyses for Safety and Security
Altay Turkoglu Data-driven and Bayesian analyses for safety
Kostogryzov et al. Applicable technologies to forecast, analyze and optimize reliability and risks for complex systems
Yang et al. An adaptive probabilistic mapping matrix search algorithm for vulnerability analysis of PPS
JP7716114B2 (ja) 安全ではない構造からの人および物体の安全ガード
Dawson et al. Real-Time Effectiveness Approach to Protecting Nuclear Materials.
Ibrahim et al. Utilizing Ontology For Modelling The Existing Personnel Trustworthiness Evaluation Process
Yalagi et al. Towards Predicting Traffic Accident Consequence Using Transformer Learning and Clear AI Technologies
Liyanage Technical AI Assurance for Trustworthy Systems in the Age of Regulation: A Framework for Compliance and Defensibility
Takon AI Safety Systems and Risk Analytics for High-Hazard Engineering Systems
CN120562943A (zh) 半导体实验室用户安全画像的生成方法及装置
Zhu et al. Reinforcement learning for vulnerability assessment of physical protection systems