WO2023203096A1 - Computer-implementiertes verfahren und system zur anomalie-erkennung beim betrieb eines technischen geräts - Google Patents

Computer-implementiertes verfahren und system zur anomalie-erkennung beim betrieb eines technischen geräts Download PDF

Info

Publication number
WO2023203096A1
WO2023203096A1 PCT/EP2023/060175 EP2023060175W WO2023203096A1 WO 2023203096 A1 WO2023203096 A1 WO 2023203096A1 EP 2023060175 W EP2023060175 W EP 2023060175W WO 2023203096 A1 WO2023203096 A1 WO 2023203096A1
Authority
WO
WIPO (PCT)
Prior art keywords
model
client
computing device
weights
server
Prior art date
Application number
PCT/EP2023/060175
Other languages
English (en)
French (fr)
Inventor
Daniel SCHALL
Original Assignee
Siemens Ag Österreich
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Ag Österreich filed Critical Siemens Ag Österreich
Publication of WO2023203096A1 publication Critical patent/WO2023203096A1/de

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/098—Distributed learning, e.g. federated learning

Definitions

  • the invention relates to a computer-implemented method and a client-server system for anomaly detection during the operation of a technical device.
  • the invention further relates to a computer program, an electronically readable data carrier and a data carrier signal.
  • AI artificial intelligence systems
  • ML machine learning models
  • a computing device with a processor and memory is located at the edge.
  • edge devices often do not have sufficient capabilities to perform full training of ML models.
  • the object according to the invention is achieved by a method of the type mentioned at the beginning, which consists of a client-server system with a server and a client with a first computing device, having a processor and a nen memory, is operated and the following steps are carried out: a) recording from the operation of the technical device and providing first training data from the client to the server, generating and training a first model in the form of an auto-encoder by the server, and Providing the first model in the form of first weights from the server to the client, as well as loading and storing the first model in the first computing device, b) acquiring operating data of the technical device and determining an anomaly parameter with regard to the agreement with the first model by the first computing device, c) checking whether the anomaly parameter is within a predetermined value range, if so, continue with step b), otherwise continue with step d), d) providing the first model weights of the auto-encoder and storing the anomaly characteristic variable in the memory by the first computing device, e) checking whether
  • the new ML model can be distributed to other clients without distributing the raw data itself in the distributed client-server system, resulting in improved data security and privacy .
  • the second computing device which is included by the client and is connected to the first computing device via a communication connection with a predefined bandwidth.
  • the predefined bandwidth of the communication connection is set in such a way that it corresponds to the respective applications and their required runtime behavior, with for example at least ten times the bandwidth of the communication connection between the first and second computing devices compared to the bandwidth of the communication connection between the client and the server, or preferably at least 100 times or at least 500 times the bandwidth, particularly preferably at least 1000 times. times the bandwidth.
  • step a only the first training is carried out on the server in step a), but a subsequent re-training in steps f) and g) is carried out on the client.
  • the topology and structure of the first model and the second model each correspond to an auto-encoder, so that the respective model weights can be replaced between the two models, but the two models can still have different - first and second - model weights.
  • step g) the operating data of the technical device continuously recorded in step b) can be evaluated and recognized with regard to an anomaly and accordingly a respective warning can be issued to an operator of the system, preferably directly and locally to the client the first computing device.
  • the anomaly parameter is the reconstruction error of the auto-encoder.
  • the size of the memory occupancy of the memory of the first computing device for storing the number of stored first model weights of the auto-encoder predetermined in step e) is proportional to the bandwidth of the communication connection between the first computing device and the second computing device is provided.
  • the second model weights calculated in step f) are provided by the client to the server, and the client-server system preferably has a further client with a further technical device and the server is set up for this purpose to provide the second model weights to the other client through federated learning.
  • the object according to the invention is achieved by a system of the type mentioned at the beginning, comprising a server and a client with a first computing device, having a processor and a memory, and the client-server system is set up to carry out the method according to the invention.
  • the predefined bandwidth of the communication connection is as follows it is determined that it corresponds to at least ten times the bandwidth of the communication connection between the first and second computing device compared to the bandwidth of the communication connection between the client and the server, preferably at least 100 times or at least 500 times the bandwidth, particularly preferably corresponds to at least 1000 times the bandwidth.
  • the object according to the invention is solved by a computer program comprising commands which, when executed by a computer, cause it to carry out the method according to the invention.
  • the object according to the invention is achieved by an electronically readable data carrier with readable control information stored thereon, which includes at least the computer program according to the invention and is designed in such a way that it carries out the method according to the invention when the data carrier is used in a computing device.
  • the object according to the invention is achieved by a data carrier signal which transmits the computer program according to the invention.
  • Fig. 1 an exemplary embodiment of the method according to the invention as a flow chart
  • Fig. 2 an exemplary embodiment of the system according to the invention as a block diagram.
  • Fig. 1 shows an exemplary embodiment of the method according to the invention as a flow chart.
  • a client-server system CSS for anomaly detection when operating a technical device TD1 comprises a server S and a client Kl with a first computing device 1 and a further, in this example, identical client K2 with a further technical device TD2.
  • the first computing device 1 has a processor and a memory.
  • the client Kl further comprises a second computing device 2, which is connected to the first computing device 1 via a communication connection 3, the communication connection 3 having a predefined bandwidth.
  • the client Kl preferably records test data DT with the aid of the first computing device 1 during a reference operation of the technical device TD1, which represents a permissible, valid operation of the technical device TD1.
  • the data acquisition can be done, for example, with a sensor means such as a camera and the test data DT can be camera recordings.
  • the global model can be provided to clients K1, K2 for operating the technical device TD1 in the form of weights of the global model.
  • the method according to the invention for anomaly detection when operating a technical device TD1 in Fig. 2 now describes the details of data processing.
  • the process is computer-implemented, meaning one or more steps are carried out by a computer.
  • the following steps are carried out: a) Recording from the operation of the technical device TD1 and providing first training data DT from the client Kl to the server S, generating and training a first model in the form of an auto-encoder by the server, and providing the first model in the form of first weights from the server S to the client Kl, as well as loading and saving the first model in the first computing device 1, b) acquiring operating data of the technical device TD1 and determining an anomaly parameter with regard to the agreement with the first model by the first computing device 1, for example the reconstruction error of the auto-encoder, c) Check whether the anomaly parameter is within a predetermined value range, if so, continue with step b), otherwise continue with step d), d) providing the first model weights of the auto-encoder and storing the anomaly parameter in the memory by the first computing device 1, e) checking whether a predetermined number of stored first model weights of the auto-encoder has been reached for the respective anomaly parameters, if so, then continue with
  • the size of the memory occupancy of the memory of the first computing device 1 for storing the number of stored first model weights of the auto-encoder predetermined in step e) is proportional to the bandwidth of the communication connection 3 between the first computing device 1 and the second computing device 2.
  • the second computing device is preferably a graphics processing unit (GPU for short), which is a processor specialized and optimized for efficient calculation and can be used for artificial intelligence and machine learning. Because GPUs offer an extraordinary amount of computing power, For example, they can achieve enormous acceleration in computing tasks due to parallel processing.
  • GPU graphics processing unit
  • the graphics processor can be an integrated part of the first computing device, such as an integrated graphics card of an edge computer.
  • Encoder in step d) is also compressed as "embedding" ter features or a compressed feature space, which is formed by the model weights.
  • the second model weights calculated in step f) can be provided to the server S by the client Kl.
  • Server S can now update its global ML model.
  • the system can provide the second model weights to the further client K2 through federated learning.
  • the predefined bandwidth of the communication connection 3 in the client-server system CSS is set so that it is at least ten times the bandwidth of the communication connection 3 between the first and second computing device 1 compared to the bandwidth of the communication connection between the client Kl and the Server S corresponds to, preferably at least 100 times or at least 500 times the bandwidth, particularly preferably corresponds to at least 1000 times the bandwidth.
  • TD1, TD2 technical device e.g. motor of a production plant

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Debugging And Monitoring (AREA)

Abstract

Computer-implementiertes Verfahren zur Anomalie-Erkennung beim Betrieb eines technischen Geräts, wobei folgende Schritte ausgeführt werden: a) Erfassen aus dem Betrieb des technischen Geräts und Bereitstellen von ersten Trainings-Daten, Erzeugen und Trainieren eines ersten Modells, und Bereitstellen des ersten Modells in Form von ersten Gewichten, sowie Laden und Speichern des ersten Modells in der ersten Rechenvor- richtung, b) Erfassen von Betriebs-Daten des technischen Geräts und Bestimmen einer Anomalie-Kenngröße hinsichtlich der Übereinstimmung mit dem ersten Modell, c) Prüfen, ob die Anomalie-Kenngröße innerhalb eines vorbestimmten Werte-Bereichs liegt, wenn ja, fortfahren mit Schritt b), sonst fortfahren mit Schritt d), d) Bereitstellen der ersten Modell-Gewichte des Auto-Encoders und Speichern mit der Anomalie-Kenngröße im Speicher, e) Prüfen, ob eine vorbestimmte Anzahl an gespeicherten ersten Modell-Gewichte für jeweilige Anomalie-Kenngrößen erreicht ist, wenn ja, dann Fortfahren mit Schritt b), sonst Fortfahren mit Schritt f), f) Übermitteln der gespeicherten ersten Modell-Gewichte für jeweilige Anomalie-Kenngrößen an eine zweite Rechenvorrichtung (2), und Berechnen eines zweiten Modells mit zweiten Modell-Gewichten durch Bestimmen der Inferenz, g) Übermitteln der zweiten Modell-Gewichte des zuvor berechneten zweiten Modells an die erste Rechenvorrichtung (1), und Löschen der im Schritt f) übermittelten ersten Modell-Gewichte aus dem Speicher, und Fortfahrten mit Schritt b)

Description

Computer- Implementiertes Verfahren und System zur Anomalie- Erkennung beim Betrieb eines technischen Geräts
Die Erfindung betri f ft ein computer-implementiertes Verfahren und ein Klienten-Server-System zur Anomalie-Erkennung beim Betrieb eines technischen Geräts .
Ferner betri f ft die Erfindung ein Computerprogramm, einen elektronisch lesbaren Datenträger und ein Datenträgersignal .
Typische Systeme künstlicher Intelligenz ( kurz „KI" ) passen Modelle des maschinellen Lernens ( kurz „ML" ) nur sehr langsam an neue Daten oder Umgebungsänderungen an . Der typische ML- Lebens zyklus umfasst drei Phasen : i ) Datenerfassung und Datenaufbereitung, ii ) Modellerstellung und iii ) Modellbereitstellung und Inferenz .
Das Schließen von Daten auf (hypothetische ) Modelle wird als statistische Inferenz bezeichnet .
ML-Modelle können sich j edoch häufig nicht schnell an Live- Daten oder neue Eingabedaten anpassen .
Ferner sind nicht alle Daten in einem Cloud-Edge-Kontext in der Cloud verfügbar . Das Senden aller Daten an die Cloud umgeht den Vorteil des Edge-Computing .
In einem Klienten-Server-System liegt eine Rechenvorrichtung mit einem Prozessor und einem Speicher an der Edge .
Außerdem verfügen Edge-Geräte häufig nicht über ausreichende Fähigkeiten, um ein vollständiges Training von ML-Modellen durchzuführen .
In modernen Cloud-Edge-Umgebungen nach dem Stand der Technik wird beispielsweise das Training und die Inferenz nur in der Cloud durchgeführt . Dies hat den Vorteil , dass alle Daten an einem Ort verarbeitet und gespeichert werden . Klienten rufen diese Daten von einer zentralen Stelle ab . Jedoch ist keine Echt zeitinteraktion mit einem Prozess , welcher an einem Klienten ausgeführt wird, möglich .
Alternativ wird im Stand der Technik Training in der Cloud und die Inferenz an der Edge durchgeführt . Dies führt dazu, dass performantes Training in der Cloud und Prozessinteraktion in Echtzeit an der Edge ausgeführt wird . Jedoch werden dabei Daten über die Cloud und die Edge verstreut verarbeitet oder gespeichert , was nachteilig ist , da das Aktualisieren von Modellen typischerweise nur in der Cloud möglich ist .
In der Veröf fentlichung SUYI LI ET AL : "Abnormal Client Behavior Detection in Federated Learning" , Dl ARXIV . ORG, CORNELL UNIVERS ITY LIBRARY, 201 OLIN LIBRARY CORNELL UNIVERS ITY ITHACA, NY 14853 , 22 , Oktober 2019 ( 2019- 10-22 ) , XP081519014 ist ein föderiertes Lernsystemen mit autonomen Klienten gezeigt , bei welchen ihr Verhalten nicht vollständig einem Server gesteuert wird . Ein Klient kann daher absichtlich oder unabsichtlich vom vorgeschriebenen Kurs des föderierten Modell-Trainings abweichen, was zu anormalem Verhalten führen kann, wie z . B . zu einem böswilligen Angrei fer oder einem schlecht funktionierenden Klienten . Die rechtzeitige Erkennung dieser anomalen Klienten kann daher entscheidend sein, um ihre nachteiligen Auswirkungen zu minimieren . Dabei werden niedrigdimensionale Surrogate von Modellgewichtsvektoren und erzeugt und zur Anomalie-Erkennung verwendet .
Es ist daher Aufgabe der Erfindung eine Lösung bereitzustellen, mittels welcher die genannten Nachteile überwunden werden können .
Die erfindungsgemäße Aufgabe wird durch ein Verfahren eingangs genannter Art gelöst , welches von einem Klienten- Server-System mit einem Server und einen Klienten mit einer ersten Rechenvorrichtung, aufweisend einen Prozessor und ei- nen Speicher, betrieben wird und folgende Schritte ausgeführt werden : a) Erfassen aus dem Betrieb des technischen Geräts und Bereitstellen von ersten Trainings-Daten vom Klienten an den Server, Erzeugen und Trainieren eines ersten Modells in Form eines Auto-Encoders durch den Server, und Bereitstellen des ersten Modells in Form von ersten Gewichten vom Server an den Klienten, sowie Laden und Speichern des ersten Modells in der ersten Rechenvorrichtung, b) Erfassen von Betriebs-Daten des technischen Geräts und Bestimmen einer Anomalie-Kenngröße hinsichtlich der Übereinstimmung mit dem ersten Modell durch die erste Rechenvorrichtung, c) Prüfen, ob die Anomalie-Kenngröße innerhalb eines vorbestimmten Werte-Bereichs liegt , wenn j a, fortfahren mit Schritt b ) , sonst fortfahren mit Schritt d) , d) Bereitstellen der ersten Modell-Gewichte des Auto- Encoders und Speichern mit der Anomalie-Kenngröße im Speicher durch die erste Rechenvorrichtung, e ) Prüfen, ob eine vorbestimmte Anzahl an gespeicherten ersten Modell-Gewichte des Auto-Encoders für j eweilige Anomalie-Kenngrößen erreicht ist , wenn j a, dann Fortfahren mit Schritt b ) , sonst Fortfahren mit Schritt f ) , f ) Übermitteln der gespeicherten ersten Modell-Gewichte für j eweilige Anomalie-Kenngrößen an eine zweite Rechenvorrichtung, welche vom Klienten umfasst ist und mit der ersten Rechenvorrichtung über eine Kommunikations- Verbindung mit einer vordefinierten Bandbreite verbunden ist , und Berechnen eines zweiten Modells in Form eines Auto-Encoders nach dem ersten Modell , mit zweiten Modell- Gewichten, durch Bestimmen der Inferenz durch die zweite Rechenvorrichtung, g) Übermitteln der zweiten Modell-Gewichte des zuvor berechneten zweiten Modells an die erste Rechenvorrichtung, Übernehmen der zweiten Modell-Gewichte durch das erste Modell , und Löschen der im Schritt f ) übermittelten ersten Modell-Gewichte aus dem Speicher der ersten Rechenvorrichtung, und Fortfahrten mit Schritt b ) .
Dadurch ist ein Modell-Training in der Cloud vorgesehen, die Inferenz wird j edoch an der Edge berechnet , außerdem erfolgt ein erneutes Trainieren ( engl . „re-training" ) an der Edge .
Dadurch ist es möglich ein performantes Training in der Cloud aus zuführen, sowie eine Prozess- Interaktion in Echtzeit zu erlauben, und ferner ein Re-Training von ML-Modellen wiederum an der Edge durchzuführen, um beispielsweise die Modellgenauigkeit aufgrund neuer Trainings-Daten, welche aus dem vorhergehenden Betrieb eines technischen Geräts mit dem vorhergehenden ML-Modell gewonnen wurden, zu verbessern .
Die Daten liegen zwar über Klienten und Server verteilt , j edoch kann durch Anwendung föderierten Lernens das neue ML- Modell an andere Klienten verteilt werden, ohne die Rohdaten selbst im verteilten Klienten-Server-System zu verteilen, was zu einer verbesserten Datensicherheit und Privatsphäre führt .
Zudem ist es erst durch die geschickte Verarbeitung und Speicherung der relevanten Daten an bevorzugten Stellen im Klien- ten-Server-System möglich, sehr hohe Lauf zeit-Erfordernisse bei der Anomalie-Erkennung zu erfüllen . Dies wird insbesondere durch die zweite Rechenvorrichtung, welche vom Klienten umfasst ist und mit der ersten Rechenvorrichtung über eine Kommunikations-Verbindung mit einer vordefinierten Bandbreite verbunden ist , ermöglicht .
Die vordefinierte Bandbreite der Kommunikations-Verbindung ist dabei so festgelegt , dass sie den j eweiligen Anwendungen und deren erforderlichem Lauf zeitverhalten entspricht , bei- spielsweise zumindest die zehnfache Bandbreite der Kommunikations-Verbindung zwischen der ersten und zweiten Rechenvorrichtung gegenüber der Bandbreite der Kommunikations- Verbindung zwischen dem Klienten und dem Server, oder bevorzugt zumindest die 100- fache oder zumindest die 500- fache Bandbreite , besonders bevorzugt zumindest die 1000- fache Bandbreite .
Mit anderen Worten erfolgt ein Teil des Trainings an der Edge und nicht wie im Stand der Technik bei Systemen mit föderiertem Lernen am Server . Die führt zu einem besseren Lauf zeitverhalten und zu einer geringeren Komplexität am Server . Im genannten Verfahren wird im Schritt a ) lediglich das erste Training am Server ausgeführt , ein nachfolgendes Re-Training in den Schritten f ) und g) j edoch am Klienten .
Die Topologie und Struktur des ersten Modells und ene des zweiten Modells entsprechen j eweils einem Auto-Encoder, sodass die j eweiligen Modell-Gewichte zwischen beiden Modellen ersetzbar sind, die beiden Modelle aber dennoch unterschiedliche - erste und zweite - Modell-Gewichte aufweisen können .
Es können in fortlaufenden Wiederholungen gemäß Schritt g) die im Schritt b ) laufend erfassten Betriebs-Daten des technischen Geräts hinsichtlich einer Anomalie ausgewertet und erkannt werden und dementsprechend eine j eweilige Warnung an einen Bediener des Systems ausgegeben werden, vorzugsweise direkt und lokal am Klienten mit der ersten Rechenvorrichtung .
In einer Weiterbildung der Erfindung ist es vorgesehen, dass die Anomalie-Kenngröße der Rekonstruktions-Fehler des Auto- Encoders ist .
Dadurch kann auf besonders einfache Weise eine besonders aussagekräftige Anomalie-Kenngröße ermittelt werden . In einer Weiterbildung der Erfindung ist es vorgesehen, dass die Größe der Speicherbelegung des Speichers der ersten Rechenvorrichtung zum Speichern der im Schritt e ) vorbestimmte Anzahl an gespeicherten ersten Modell-Gewichte des Auto- Encoders proportional zur Bandbreite der Kommunikations- Verbindung zwischen der ersten Rechenvorrichtung und der zweiten Rechenvorrichtung vorgesehen ist .
Dadurch wird erreicht , dass erst bei Überschreiten einer vorgegebenen Anzahl an Rekonstruktions-Fehlern eine Aktualisierung des Modells erfolgt .
In einer Weiterbildung der Erfindung ist es vorgesehen, dass die im Schritt f ) berechneten zweiten Modell-Gewichte vom Klienten dem Server bereitgestellt werden, und das Klienten- Server-System vorzugsweise einen weiteren Klienten mit einem weiteren technischen Gerät aufweist und der Server dazu eingerichtet ist , die zweiten Modell-Gewichte dem weiteren Klienten durch föderiertes Lernen bereitzustellen .
Dadurch kann erreicht werden, dass das aktualisierte zweite Modell auf einfache Weise von weiteren Klienten genutzt werden können, ohne selbst dafür nötige Rechenoperationen aus zuführen . Somit ist für weitere Klienten eine Bauart mit reduzierter Komplexität und geringeren Kosten möglich, und es können insbesondere die Prinzipen von föderiertem Lernen angewendet werden .
Die erfindungsgemäße Aufgabe wird durch ein System eingangs genannter Art gelöst , umfassend einen Serverund einen Klienten mit einer ersten Rechenvorrichtung, aufweisend einen Prozessor und einen Speicher, und das Klienten-Server-System dazu eingerichtet ist , das erfindungsgemäße Verfahren aus zuführen .
In einer Weiterbildung der Erfindung ist es vorgesehen, dass die vordefinierte Bandbreite der Kommunikations-Verbindung so festgelegt ist , dass sie zumindest der zehnfachen Bandbreite der Kommunikations-Verbindung zwischen der ersten und zweiten Rechenvorrichtung gegenüber der Bandbreite der Kommunikations-Verbindung zwischen dem Klienten und dem Server entspricht , bevorzugt zumindest der 100- fachen oder zumindest der 500- fachen Bandbreite , besonders bevorzugt zumindest der 1000- fachen Bandbreite entspricht .
Dadurch kann eine Verbesserung des Lauf zeitverhaltens bei der Anomalie-Erkennung nach der ersten Modell-Training, insbesondere beim Re-Training, erzielt werden .
Die erfindungsgemäße Aufgabe wird durch ein Computerprogramm gelöst , umfassend Befehle , welche bei deren Aus führung durch einen Computer diesen veranlassen, das erfindungsgemäße Verfahren aus zuführen .
Die erfindungsgemäße Aufgabe wird durch einen elektronisch lesbaren Datenträger mit darauf gespeicherten lesbaren Steuerinformationen gelöst , welche zumindest das erfindungsgemäße Computerprogramm umfassen und derart ausgestaltet sind, dass sie bei Verwendung des Datenträgers in einer Recheneinrichtung das erfindungsgemäße Verfahren durchführen .
Die erfindungsgemäße Aufgabe wird durch ein Datenträgersignal gelöst , welches das erfindungsgemäße Computerprogramm überträgt .
Die Erfindung wird nachfolgend anhand eines in den beigeschlossenen Zeichnungen dargestellten Aus führungsbeispiels näher erläutert . In den Zeichnungen zeigt :
Fig . 1 ein Aus führungsbeispiel des erfindungsgemäßen Verfahrens als Ablauf diagramm,
Fig . 2 ein Aus führungsbeispiel des erfindungsgemäßen Systems als Blockschaltbild . Fig . 1 stellt ein Aus führungsbeispiel des erfindungsgemäßen Verfahrens als Ablauf diagramm dar .
Ein Klienten-Server-System CSS zur Anomalie-Erkennung beim Betrieb eines technischen Geräts TD1 umfasst einen Server S und einen Klienten Kl mit einer ersten Rechenvorrichtung 1 und einen weiteren, in diesem Beispiel baugleichen Klienten K2 mit einem weiteren technischen Gerät TD2 .
Es können j edoch auch weitere Klienten im System eingesetzt werden, welche eine einfachere Bauart vorweisen und das das Modell mithil fe föderierten Lernens beziehen .
Die erste Rechenvorrichtung 1 weist einen Prozessor und einen Speicher auf .
Der Klient Kl umfasst ferner eine zweite Rechenvorrichtung 2 , welche mit der ersten Rechenvorrichtung 1 über eine Kommunikations-Verbindung 3 verbunden ist , wobei die Kommunikations- Verbindung 3 eine vordefinierte Bandbreite aufweist .
Der Klient Kl erfasst vorzugsweise mithil fe der ersten Rechenvorrichtung 1 während eines Referenzbetriebs des technischen Geräts TD1 Testdaten DT , welche einen zulässigen, gültigen Betrieb technischen Geräts TD1 repräsentieren .
Die Datenerfassung kann beispielsweise mit einem Sensor- Mittel wie einer Kamera erfolgen und die Testdaten DT können Kamera-Aufnahmen sein .
Mithil fe dieser Testdaten DT kann im Server durch Anwendung eines Auto-Encoders ein globales Modell auf Basis maschinellen Lernens für das technische Geräts TD1 erzeugt und trainiert werden .
In weiterer Folge kann das globale Modell an Klienten Kl , K2 zum Betrieb des technische Geräts TD1 in Form von Gewichten des globalen Modells bereitgestellt werden . Das erfindungsgemäße Verfahren zur Anomalie-Erkennung beim Betrieb eines technischen Geräts TD1 in Fig . 2 beschreibt nun die Details der Daten-Verarbeitung .
Das Verfahren ist computer-implementiert , das heißt ein oder mehrere Schritte werden von einem Computer ausgeführt .
Folgende Schritte werden ausgeführt : a ) Erfassen aus dem Betrieb des technischen Geräts TD1 und Bereitstellen von ersten Trainings-Daten DT vom Klienten Kl an den Server S , Erzeugen und Trainieren eines ersten Modells in Form eines Auto-Encoders durch den Server, und Bereitstellen des ersten Modells in Form von ersten Gewichten vom Server S an den Klienten Kl , sowie Laden und Speichern des ersten Modells in der ersten Re- chenvor-richtung 1 , b ) Erfassen von Betriebs-Daten des technischen Geräts TD1 und Bestimmen einer Anomalie-Kenngröße hinsichtlich der Übereinstimmung mit dem ersten Modell durch die erste Rechenvorrichtung 1 , beispielsweise der Rekonstruktions- Fehler des Auto-Encoders , c ) Prüfen, ob die Anomalie-Kenngröße innerhalb eines vorbestimmten Werte-Bereichs liegt , wenn j a, fortfahren mit Schritt b ) , sonst fortfahren mit Schritt d) , d) Bereitstellen der ersten Modell-Gewichte des Auto- Encoders und Speichern mit der Anomalie-Kenngröße im Speicher durch die erste Rechenvorrichtung 1 , e ) Prüfen, ob eine vorbestimmte Anzahl an gespeicherten ersten Modell-Gewichte des Auto-Encoders für j eweilige Anomalie-Kenngrößen erreicht ist , wenn j a, dann Fortfahren mit Schritt b ) , sonst Fortfahren mit Schritt f ) , f ) Übermitteln der gespeicherten ersten Modell-Gewichte für j eweilige Anomalie-Kenngrößen an eine zweite Rechenvor- richtung 2 , welche vom Klienten Kl umfasst ist und mit der ersten Rechenvorrichtung 1 über eine Kommunikations- Verbindung 3 mit einer vordefinierten Bandbreite verbunden ist , und Berechnen eines zweiten Modells in Form eines Auto-Encoders nach dem ersten Modell , mit zweiten Modell-Gewichten, durch Bestimmen der Inferenz durch die zweite Rechenvorrichtung 2 , g) Übermitteln der zweiten Modell-Gewichte des zuvor berechneten zweiten Modells an die erste Rechenvorrichtung 1 , Übernehmen der zweiten Modell-Gewichte durch das erste Modell , und Löschen der im Schritt f ) übermittelten ersten Modell-Gewichte aus dem Speicher der ersten Rechenvorrichtung 1 , und Fortfahrten mit Schritt b )
Die Größe der Speicherbelegung des Speichers der ersten Rechenvorrichtung 1 zum Speichern der im Schritt e ) vorbestimmte Anzahl an gespeicherten ersten Modell-Gewichte des Auto- Encoders ist proportional zur Bandbreite der Kommunikations- Verbindung 3 zwischen der ersten Rechenvorrichtung 1 und der zweiten Rechenvorrichtung 2 vorgesehen .
Die zweite Rechenvorrichtung ist vorzugsweise ein Grafikprozessor ( engl . „graphics processing unit" , kurz GPU) , welcher ein auf ef fi ziente Berechnung spezialisierter und optimierter Prozessor ist und für künstliche Intelligenz und maschinelles Lernen verwendet werden kann . Weil GPUs außerordentlich viel Rechenleistung bieten, können sie beispielsweise aufgrund von Parallelverarbeitung eine enorme Beschleunigung bei Rechenaufgaben erzielen .
Der Grafik-Prozessor kann integrierter Teil der ersten Rechenvorrichtung sein, wie eine integrierte Grafikkarte eines Edge-Computers .
Das Bereitstellen der ersten Modell-Gewichte des Auto-
Encoders im Schritt d) wird auch als „embedding" komprimier- ter Merkmale beziehungsweise eines komprimierten Merkmalsraums , welcher durch die Modell-Gewichte gebildet wird, bezeichnet .
Es ist klar, dass im gesamten Verfahren ein oder mehrere Anomalie-Kenngrößen angewendet werden können .
Die im Schritt f ) berechneten zweiten Modell-Gewichte können vom Klienten Kl dem Server S bereitgestellt werden .
Der Server S kann sein globales ML-Modell nun aktualisieren .
Wenn das Klienten-Server-System CSS zumindest einen weiteren Klienten K2 mit einem weiteren technischen Gerät TD2 aufweist , kann das System dem weiteren Klienten K2 durch föderiertes Lernen die zweiten Modell-Gewichte bereitstellen .
Die vordefinierte Bandbreite der Kommunikations-Verbindung 3 im Klienten-Server-System CSS ist so festgelegt , dass sie zumindest der zehnfachen Bandbreite der Kommunikations- Verbindung 3 zwischen der ersten und zweiten Rechenvorrichtung 1 gegenüber der Bandbreite der Kommunikations-Verbindung zwischen dem Klienten Kl und dem Server S entspricht , bevorzugt zumindest der 100- fachen oder zumindest der 500- fachen Bandbreite , besonders bevorzugt zumindest der 1000- fachen Bandbreite entspricht .
Bezugszeichenliste :
1, 2 Rechenvorrichtung mit Prozessor und Speicher
3 Datenverbindung mit Übertragungskapazität
CSS Klienten-Server-System (engl. „client-server- system")
Kl, Kl Klient, Edge-Vorrichtung
S Server
D, DT Daten, Trainings-Daten
TD1, TD2 technisches Gerät, z.B. Motor einer Produktions- anlage

Claims

Patentansprüche
1. Computer-implementiertes Verfahren zur Anomalie- Erkennung beim Betrieb eines technischen Geräts (TD1) , welches von einem Klienten-Server-System (CSS) mit einem Server (S) und einen Klienten (Kl) mit einer ersten Rechenvorrichtung (1) , aufweisend einen Prozessor und einen Speicher, betrieben wird und folgende Schritte ausgeführt werden: a) Erfassen aus dem Betrieb des technischen Geräts (TD1) und Bereitstellen von ersten Trainings-Daten (DT) vom Klienten (Kl) an den Server (S) , Erzeugen und Trainieren eines ersten Modells in Form eines Auto-Encoders durch den Server, und Bereitstellen des ersten Modells in Form von ersten Gewichten vom Server (S) an den Klienten (Kl) , sowie Laden und Speichern des ersten Modells in der ersten Rechenvorrichtung (1) , b) Erfassen von Betriebs-Daten des technischen Geräts (TD1) und Bestimmen einer Anomalie-Kenngröße hinsichtlich der Übereinstimmung mit dem ersten Modell durch die erste Rechenvorrichtung (1) , c) Prüfen, ob die Anomalie-Kenngröße innerhalb eines vorbestimmten Werte-Bereichs liegt, wenn ja, fortfahren mit Schritt b) , sonst fortfahren mit Schritt d) , d) Bereitstellen der ersten Modell-Gewichte des Auto- Encoders und Speichern mit der Anomalie-Kenngröße im Speicher durch die erste Rechenvorrichtung (1) , e) Prüfen, ob eine vorbestimmte Anzahl an gespeicherten ersten Modell-Gewichte des Auto-Encoders für jeweilige Anomalie-Kenngrößen erreicht ist, wenn ja, dann Fortfahren mit Schritt b) , sonst Fortfahren mit Schritt f ) , f) Übermitteln der gespeicherten ersten Modell-Gewichte für jeweilige Anomalie-Kenngrößen an eine zweite Rechenvorrichtung (2) , welche vom Klienten (Kl) umfasst ist und mit der ersten Rechenvorrichtung (1) über eine Kommunika- tions-Verbindung (3) mit einer vordefinierten Bandbreite verbunden ist, und Berechnen eines zweiten Modells in Form eines Auto-Encoders nach dem ersten Modell, mit zweiten Modell-Gewichten, durch Bestimmen der Inferenz durch die zweite Rechenvorrichtung (2) , g) Übermitteln der zweiten Modell-Gewichte des zuvor berechneten zweiten Modells an die erste Rechenvorrichtung (1) , Übernehmen der zweiten Modell-Gewichte durch das erste Modell, und Löschen der im Schritt f) übermittelten ersten Modell-Gewichte aus dem Speicher der ersten Rechenvorrichtung (1) , und Fortf ährten mit Schritt b)
2. Verfahren nach dem vorhergehenden Anspruch, wobei die Anomalie-Kenngröße der Rekonstruktions-Fehler des Auto- Encoders ist.
3. Verfahren nach einem der vorhergehenden Ansprüche, wobei die Größe der Speicherbelegung des Speichers der ersten Rechenvorrichtung (1) zum Speichern der im Schritt e) vorbestimmte Anzahl an gespeicherten ersten Modell-Gewichte des Auto-Encoders proportional zur Bandbreite der Kommunikations- Verbindung (3) zwischen der ersten Rechenvorrichtung (1) und der zweiten Rechenvorrichtung (2) vorgesehen ist.
4. Verfahren nach einem der vorhergehenden Ansprüche, wobei die im Schritt f) berechneten zweiten Modell-Gewichte vom Klienten (Kl) dem Server (S) bereitgestellt werden, und das Klienten-Server-System vorzugsweise einen weiteren Klienten (K2) mit einem weiteren technischen Gerät (TD2) aufweist und der Server (S) dazu eingerichtet ist, die zweiten Modell- Gewichte dem weiteren Klienten (K2) durch föderiertes Lernen bereitzustellen.
5. Klienten-Server-System (CSS) zur Anomalie-Erkennung beim Betrieb eines technischen Geräts (TD1) , umfassend einen Server (S) und einen Klienten (Kl) mit einer ersten Rechenvor- richtung (1) , aufweisend einen Prozessor und einen Speicher, und das Klienten-Server-System (CSS) dazu eingerichtet ist, das Verfahren nach einem der vorhergehenden Ansprüche auszuführen .
6. Klienten-Server-System (CSS) nach dem vorhergehenden Anspruch, wobei die vordefinierte Bandbreite der Kommunikations-Verbindung (3) so festgelegt ist, dass sie zumindest der zehnfachen Bandbreite der Kommunikations-Verbindung (3) zwischen der ersten und zweiten Rechenvorrichtung (1,2) gegenüber der Bandbreite der Kommunikations-Verbindung zwischen dem Klienten (Kl) und dem Server (S) entspricht, bevorzugt zumindest der 100-fachen oder zumindest der 500-fachen Bandbreite, besonders bevorzugt zumindest der 1000-fachen Bandbreite entspricht.
7. Computerprogramm, umfassend Befehle, welche bei deren Ausführung durch einen Computer diesen veranlassen, das Verfahren nach einem der Ansprüche 1 bis 4 auszuführen.
8. Elektronisch lesbarer Datenträger mit darauf gespeicherten lesbaren Steuerinformationen, welche zumindest das Computerprogramm nach dem vorhergehenden Anspruch umfassen und derart ausgestaltet sind, dass sie bei Verwendung des Datenträgers in einer Recheneinrichtung das Verfahren nach einem der Ansprüche 1 bis 4 durchführen.
9. Datenträgersignal, welches das Computerprogramm nach Anspruch 7 überträgt.
PCT/EP2023/060175 2022-04-22 2023-04-19 Computer-implementiertes verfahren und system zur anomalie-erkennung beim betrieb eines technischen geräts WO2023203096A1 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EPPCT/EP2022/060677 2022-04-22
PCT/EP2022/060677 WO2023202778A1 (de) 2022-04-22 2022-04-22 Computer-implementiertes verfahren und system zur anomalie-erkennung beim betrieb eines technischen geräts

Publications (1)

Publication Number Publication Date
WO2023203096A1 true WO2023203096A1 (de) 2023-10-26

Family

ID=81750729

Family Applications (2)

Application Number Title Priority Date Filing Date
PCT/EP2022/060677 WO2023202778A1 (de) 2022-04-22 2022-04-22 Computer-implementiertes verfahren und system zur anomalie-erkennung beim betrieb eines technischen geräts
PCT/EP2023/060175 WO2023203096A1 (de) 2022-04-22 2023-04-19 Computer-implementiertes verfahren und system zur anomalie-erkennung beim betrieb eines technischen geräts

Family Applications Before (1)

Application Number Title Priority Date Filing Date
PCT/EP2022/060677 WO2023202778A1 (de) 2022-04-22 2022-04-22 Computer-implementiertes verfahren und system zur anomalie-erkennung beim betrieb eines technischen geräts

Country Status (1)

Country Link
WO (2) WO2023202778A1 (de)

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
SUYI LI ET AL.: "D1 ARXIV.ORG", CORNELL UNIVERSITY LIBRARY, article "Abnormal Client Behavior Detection in Federated Learning"
SUYI LI ET AL: "Abnormal Client Behavior Detection in Federated Learning", ARXIV.ORG, CORNELL UNIVERSITY LIBRARY, 201 OLIN LIBRARY CORNELL UNIVERSITY ITHACA, NY 14853, 22 October 2019 (2019-10-22), XP081519014 *

Also Published As

Publication number Publication date
WO2023202778A1 (de) 2023-10-26

Similar Documents

Publication Publication Date Title
EP3876060B1 (de) Verfahren und recheneinheit zur ursachenanalyse eines anomalen zustandes einer maschine
DE112018004693T5 (de) Verbessern der effizienz eines neuronalen netzes
DE102019217613A1 (de) Verfahren zur diagnose eines motorzustands und diagnostisches modellierungsverfahren dafür
DE102017210787A1 (de) Verfahren und Vorrichtung zum Ermitteln von Anomalien in einem Kommunikationsnetzwerk
EP3330818A1 (de) Verfahren und vorrichtung zur zustandsüberwachung von komponenten einer technischen anlage
WO2023041459A1 (de) Computerimplementierte verfahren und system zur anomalieerkennung und verfahren zur anomalieerkennung in einer akustischen endprüfung eines getriebes
EP3901713B1 (de) Verfahren und system zum betrieb einer technischen anlage mit einem optimalen modell
WO2021209192A1 (de) Verfahren und vorrichtung zum prüfen der kompatibilität zwischen einer anwendungssoftware und einer mobilen arbeitsmaschine
WO2023203096A1 (de) Computer-implementiertes verfahren und system zur anomalie-erkennung beim betrieb eines technischen geräts
EP3340250B1 (de) Bauteilidentifikation bei der fehlerbehandlung von medizinischen geräten
DE102018202626A1 (de) Verfahren zur rechnergestützten Parametrierung eines technischen Systems
DE102021114191A1 (de) Verteiltes System
DE102020205131A1 (de) Verfahren und Vorrichtung zum Simulieren eines technischen Systems
EP3929554A1 (de) Verbesserte fehlererkennung bei maschinen mittels ki
DE102020212921A1 (de) Verfahren, Computerprogramm und Vorrichtung zum Bewerten einer Verwendbarkeit von Simulationsdaten
WO2023237205A1 (de) Computer-implementiertes verfahren und system zur anomalie-erkennung beim betrieb eines technischen geräts
DE102019114049A1 (de) Verfahren zur Validierung eines Fahrerassistenzsystems mithilfe von weiteren generierten Testeingangsdatensätzen
EP3056994B1 (de) Vorrichtung und verfahren zur erfassung, überprüfung und speicherung von prozessdaten aus mindestens zwei prozessschritten
EP3686697A1 (de) Regleroptimierung für ein leitsystem einer technischen anlage
EP3812239B1 (de) Rechnergestützte plattform zur darstellung einer bahninfrastruktur und verfahren zu deren betrieb
WO2023209029A1 (de) Computer-implementiertes verfahren und system für den betrieb eines technischen geräts mit einem modell auf basis föderierten lernens
DE102017207036A1 (de) Verfahren zur rechnergestützten Analyse des Betriebs eines Produktionssystems
DE102021200192A1 (de) Verfahren zum Überwachen von Zuständen von Entitäten
DE102023201929A1 (de) Verfahren und Vorrichtung zum Bereitstellen von Konfigurationsvorschlägen für eine Konfiguration eines modularen Produktionssystems
WO2023057494A1 (de) Computer-implementiertes verfahren und system zur anomalie-erkennung in sensordaten

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23720138

Country of ref document: EP

Kind code of ref document: A1

DPE1 Request for preliminary examination filed after expiration of 19th month from priority date (pct application filed from 20040101)