DE102022203833A1 - Verfahren und Vorrichtung zum Bereitstellen eines Rekonstruktionsmodells für Signalzeitreihen - Google Patents

Verfahren und Vorrichtung zum Bereitstellen eines Rekonstruktionsmodells für Signalzeitreihen Download PDF

Info

Publication number
DE102022203833A1
DE102022203833A1 DE102022203833.9A DE102022203833A DE102022203833A1 DE 102022203833 A1 DE102022203833 A1 DE 102022203833A1 DE 102022203833 A DE102022203833 A DE 102022203833A DE 102022203833 A1 DE102022203833 A1 DE 102022203833A1
Authority
DE
Germany
Prior art keywords
data set
time series
signal time
input data
frequency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102022203833.9A
Other languages
English (en)
Inventor
Konrad Groh
Matthias Woehrle
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Priority to DE102022203833.9A priority Critical patent/DE102022203833A1/de
Publication of DE102022203833A1 publication Critical patent/DE102022203833A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • G06N3/0455Auto-encoder networks; Encoder-decoder networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/094Adversarial learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

Die Erfindung betrifft ein computer-implementiertes Verfahren zum Bereitstellen eines Rekonstruktionsmodells, das als Autoencoder oder als Variational Autoencoder ausgebildet ist, mit folgenden Schritten:
- Bereitstellen (S1) von Eingangsdatensätzen (E), die jeweils mindestens eine Signalzeitreihe umfassen;
- Trainieren (S5) des Rekonstruktionsmodells (10) mit den Eingangsdatensätzen (E) mithilfe eines Losses (L), wobei der Loss (L) jeweils als Abstand oder Differenz zwischen einem modifizierten Eingangsdatensatz (E`) und einem modifizierten Ausgangsdatensatz (A`) bestimmt wird, wobei der modifizierte Eingangsdatensatz (E`) durch Filtern der mindestens einen Signalzeitreihe des betreffenden Eingangsdatensatzes (E) mithilfe eines vorgegebenen ersten frequenzbezogenen Filters (14) und der modifizierte Ausgangsdatensatz (A`) durch Filtern der mindestens einen Signalzeitreihe mithilfe eines vorgegebenen zweiten frequenzbezogenen Filters (15) bestimmt wird.

Description

  • Technisches Gebiet
  • Die Erfindung betrifft ein Verfahren zum Bereitstellen eines Rekonstruktionsmodells für Zeitreihensignale, insbesondere mithilfe eines Autoencoders. Die Erfindung betrifft weiterhin das Bereitstellen eines Rekonstruktionsmodells zum Generieren von künstlichen Signalzeitreihen oder zum Auffinden von Signalanomalien.
  • Technischer Hintergrund
  • Technische Systeme sind in der Regel mit einer Sensoranordnung mit einem oder mehreren Sensoren sowie einer Aktuatoranordnung mit einem oder mehreren Aktoren ausgebildet. Mithilfe eines Steuergeräts, in dem zur Realisierung einer gewünschten Funktion ein Systemmodell implementiert ist, werden Sensor- und Zustandsgrößen des technischen Systems verarbeitet, um eine entsprechende Ansteuerung der Aktuatoranordnung zum Erfüllen einer Aufgabe oder des Zwecks des technischen Systems auszuführen.
  • Zusehends werden solche Systemmodelle mit oder aus datenbasierten Modellen implementiert, da diese in der Regel ohne detaillierte Kenntnisse des Systemverhaltens lediglich basierend auf Trainingsdaten modelliert werden können. Dazu sind lediglich Trainingsdatensätze erforderlich, die die Sensor- und Zustandsgrößen in geeigneter definierter Weise zu Eingangsdatensätze zusammenfassen und diese einem Label, insbesondere einer oder mehreren Ansteuergrößen für den einen oder die mehreren Aktuatoren der Aktuatoranordnung, zuordnen.
  • Da häufig aufgrund von eingeschränkter Beobachtbarkeit und nicht vorhandenen Sensoren das Ermitteln von Trainingsdatensätzen im Einsatz des technischen Systems im Feldbetrieb nur mit hohem Aufwand möglich ist, erfolgt eine Vermessung des technischen Systems häufig auf einem Prüfstand, oder es werden Simulationen über das Systemverhalten durchgeführt. Man erhält dadurch in einfacherer Weise Trainingsdatensätze, mit denen dann das als datenbasiertes Modell ausgebildete Systemmodell trainiert werden kann.
  • Zum Training eines solchen Modells ist zudem häufig notwendig, künstliche Signalzeitreihen bereitzustellen, um das datenbasiertes Systemmodell mit entsprechend ausgedehntem Eingangsdatenraum trainieren zu können. Diese künstlichen Signalzeitreihen unterscheiden sich von den ursprünglichen tatsächlich gemessenen Signalzeitreihen und können mithilfe eines geeigneten Rekonstruktionsmodells generiert werden. Ein solches Rekonstruktionsmodell kann einem datenbasierten Modell entsprechen, das trainiert ist, um eine Signalzeitreihe entsprechend einem den Signalzeitreihen immanenten Muster zu rekonstruieren. Sie können auch verwendet werden, um implizit, in realen Signalzeitreihen vorhandene Merkmale in neu generierten Signalzeitreihen widerzuspiegeln. Zudem werden Rekonstruktionsmodelle häufig verwendet, um Anomalien in einem sensorisch bestimmten Zeitreihensignal feststellen zu können.
  • Offenbarung der Erfindung
  • Erfindungsgemäß sind ein Verfahren zum Bereitstellen eines datenbasierten Rekonstruktionsmodells, insbesondere in Form eines (Variational) Autoencoders, gemäß Anspruch 1 und ein Verfahren zur Verwendung eines datenbasierten Rekonstruktionsmodells zur Rekonstruktion von Zeitreihensignalen und zur Anomalieerkennung gemäß den nebengeordneten Ansprüchen vorgesehen.
  • Weitere Ausgestaltungen sind in den abhängigen Ansprüchen angegeben. Gemäß einem ersten Aspekt ist ein computer-implementiertes Verfahren zum Bereitstellen eines Rekonstruktionsmodells vorgesehen, das als Autoencoder oder als Variational Autoencoder ausgebildet ist, mit folgenden Schritten:
    • - Bereitstellen von Eingangsdatensätzen, die jeweils mindestens eine Signalzeitreihe umfassen;
    • - Trainieren des Rekonstruktionsmodells mit den Eingangsdatensätzen mithilfe eines Losses,
    wobei der Loss jeweils als Abstand oder Differenz zwischen einem modifizierten Eingangsdatensatz und einem modifizierten Ausgangsdatensatz bestimmt wird, wobei der modifizierte Eingangsdatensatz durch Filtern der mindestens einen Signalzeitreihe des betreffenden Eingangsdatensatzes mithilfe eines vorgegebenen ersten frequenzbezogenen Filters und der modifizierte Ausgangsdatensatz durch Filtern der mindestens einen Signalzeitreihe mithilfe eines vorgegebenen zweiten frequenzbezogenen Filters bestimmt wird.
  • Das obige Verfahren betrifft technische Systeme, in denen Zeitreihensignale sensorisch erfasst oder in sonstiger Weise bereitgestellt werden. Die technischen Systeme können dazu einen oder mehrere Sensoren aufweisen, die Verläufe einer oder mehrerer Sensorgrößen erfassen, so dass diese nach dem Sampeln digitalisiert als Signalzeitreihen bereitgestellt werden. Die Signalzeitreihen können mithilfe von Systemmodellen bearbeitet und ausgewertet werden.
  • Die technischen Systeme können vielfältiger Natur sein und insbesondere Motorsysteme, Aktorsysteme, Robotikanwendungen, Fahrzeuge und dergleichen umfassen.
  • Das Systemmodell kann als datenbasiertes Modell oder mit einem datenbasierten Modell ausgebildet sein. Zum Training eines solchen Systemmodells kann es sinnvoll sein, Eingangsdatensätze mit „künstlichen“ Zeitreihensignalen zu generieren, die im Wesentlichen die Merkmale der sensorisch erfassbaren Zeitreihensignale beinhalten, und den Aufwand einer Vermessung des realen technischen Systems, z. B. auf einem Prüfstand, minimieren. Die Generierung von solchen künstlichen Zeitreihensignale kann mithilfe eines datenbasierten Rekonstruktionsmodells vorgenommen werden, das als Autoencoder bzw. als Variational Autoencoder ausgebildet sein kann. Ein Autoencoder ist ein spezielles neuronales Netz, dass eine Rekonstruktions-Aufgabe erfüllt. Da die Rekonstruktion in der Regel fehlerbehaftet ist, entsteht durch die Rekonstruktion einer Signalzeitreihe eine modifizierte Signalzeitreihe, die die Merkmale der ursprünglichen Signalzeitreihe beinhaltet, aber von dieser leicht abweicht. Dadurch eignet sich die so rekonsruierte Signalzeitreihe als „künstliche“ Signalzeitreihe für das Generieren von weiteren Trainingsdatensätzen, beispielsweise durch Zuordnen eines die rekonstruierte Signalzeitreihe enthaltenen Eingangsdatensatz zu dem Label eines die ursprüngliche Signalzeitreihe enthaltenen Eingangsdatensatz eines vorhandenen Trainingsdatensatzes.
  • Zudem kann ein solches Rekonstruktionsmodell auf Basis eines Autoencoders verwendet werden, um anhand eines Rekonstruktionsfehlers ein anomales Verhalten des technischen Systems zu erkennen. Dazu wird eine tatsächlich direkt erfasste oder indirekt ermittelte Signalzeitreihe mithilfe des trainierten Autoencoders als Rekonstruktionsmodell auf sich abgebildet. Dann kann die Signalzeitreihe durch das datenbasierte Rekonstruktionsmodell ausgewertet werden, indem in an sich bekannter Weise ein Rekonstruktionsfehler ausgewertet wird.
  • Signalzeitreihen können beispielsweise mithilfe eines Sensors erfasst werden, der kontinuierlich in Abtastschritten abgetastet wird. Ein solcher Sensor kann beispielsweise ein Drucksensor, ein Massenstromsensor, ein Beschleunigungssensor, ein Vibrationssensor, ein Strahlungssensor oder dergleichen sein. Derartige Sensoren werden zum Überwachen einer zeitlichen Änderung in der Regel zeitlich kontinuierlich mit einer vorbestimmten Abtastfrequenz abgetastet und so eine Signalzeitreihe in analoger oder digitalisierter Weise bereitgestellt.
  • Das datenbasierte Rekonstruktionsmodell kann also vorzugsweise als (Variational) Autoencoder ausgebildet und trainiert werden, um eine eingangsseitig bereitgestellte Signalzeitreihe auf sich selbst abzubilden bzw. zu rekonstruieren. Das Bereitstellen eines solchen datenbasierten Rekonstruktionsmodells erfolgt herkömmlich durch Definieren einer Loss-Funktion, die auf eine Minimierung eines Rekonstruktionsfehlers abstellt. Der Rekonstruktionsfehler ist im einfachsten Fall ein Loss entsprechend einer L2-Norm zwischen eingangsseitigem Eingangsdatensatz (der eine oder mehrere ursprüngliche Signalzeitreihen enthält) und rekonstruiertem Eingangsdatensatz (der eine oder mehrere rekonstruierte Signalzeitreihen enthält) als Ausgangsdatensatz vor. Autoencoder können mit zusammengesetzten Losses trainiert werden, also einzelnen Losses die gewichtet addiert werden. Ein Beispiel ist der Variational Autoencoder, bei dem zusätzlich zum oben genannten Loss ein Loss basierend auf einer Kullback-Leibler Divergenz addiert wird.
  • Ein herkömmlicher Autoencoder, der mit einer L2-Norm trainiert wird, berücksichtigt jedoch nicht die Signaleigenschaften im Frequenzbereich. Dies bedeutet, dass eine Rekonstruktion des Eingangsdatensatzes in der Regel wesentliche frequenzbehaftete Merkmale der Signalzeitreihe nicht ordnungsgemäß rekonstruieren kann. Dies führt einerseits dazu, dass rekonstruierte (künstliche) Signalzeitreihen wesentliche Eigenschaften des Systems nicht nachbilden können und andererseits, dass auf dem Rekonstruktionsmodell basierende Anomalieerkennungen teilweise hohe Rekonstruktionsfehler produzieren, obwohl die auszuwertende Signalzeitreihe ordnungsgemäß ist. Dies erfordert es, eine Fehlererkennungsschwelle entsprechend anzupassen, so dass die Empfindlichkeit der Anomalieerkennung reduziert ist.
  • Daher ist vorgesehen, als datenbasiertes Rekonstruktionsmodell einen Autoencoder, insbesondere einen Variational Autoencoder, bereitzustellen. Das Rekonstruktionsmodell ist so trainiert, dass dieses basierend auf Eingangsdatensätzen, die jeweils eine oder mehrere aus dem realen System abgeleitete Signalzeitreihen umfassen können, einen entsprechenden rekonstruierten Eingangsdatensatz (gleichen Formats) ausgibt.
  • Es kann vorgesehen sein, dass der erste und der zweite frequenzbezogene Filter identisch ausgebildet sind und insbesondere als FIR-Filter ausgebildet sind und durch eine konvolutionelle Schicht eines neuronalen Netzes realisiert wird. Insbesondere kann der vorgegebene FIR-Filter jeweils des ersten und des zweiten Filters zum Filtern eines oder mehrerer gewünschter Frequenzbereiche konfiguriert sein. Es kann vorgesehen sein, dass der Filter im Falle eines FIR-Filters durch eine oder mehrere konvolutionelle Schichten eines neuronalen Netzes realisiert wird, da sowohl der Eingang eines neuronalen Netzes als auch dessen Ausgang gefiltert werden muss.
  • Die für das Training verwendete Loss-Funktion wird erfindungsgemäß aus einem Abstand bzw. Differenz zwischen einem modifizierten Eingangsdatensatz und einem modifizierten rekonstruierten Eingangsdatensatz (Ausgangsdatensatz) ergibt. Der modifizierte Eingangsdatensatz entspricht einem Datensatz, der die darin enthaltene Signalzeitreihe mithilfe eines ersten frequenzbezogenen Filters, vorzugsweise eines FIR Filters filtert. Der FIR-Filter ist für einen oder mehrere gewünschte Frequenzbereiche konfiguriert, der vorgegeben wird und der beispielsweise durch die Frequenz der Abtastrate des der jeweiligen Signalzeitreihe zugeordneten Sensorsignals und/oder sonstigen Systemeigenschaften bestimmt sein kann. Der modifizierte Ausgangsdatensatz wird in entsprechender Weise durch Filterung des rekonstruierten Eingangsdatensatzes mit dem gleichermaßen konfigurierten zweiten frequenzbezogenen Filter ermittelt.
  • Zum Trainieren des Rekonstruktionsmodells wird also eine Loss-Funktion verwendet, die sich zusätzlich zu den oben beschrieben Losses auch aus dem Abstand des modifizierten Eingangsdatensatzes und des modifizierten Ausgangsdatensatzes ergibt, z.B. entsprechend einer L2-Norm.
  • Der (Variational) Autoencoder kann nun in an sich bekannter Weise zur Konstruktion von Ausgangsdatensätzen aus Eingangsdatensätzen mit aus einem realen Betrieb des technischen Systems ermittelten Signalzeitreihen verwendet werden, um leicht abweichende künstliche Signalzeitreihen zu erzeugen, die für ein Training eines datenbasierten Systemmodells verwendet werden können.
  • Alternativ kann der so trainierte Variational Autoencoder als Rekonstruktionsmodell zur Anomalieerkennung durch Auswertung eines Rekonstruktionsfehlers verwendet werden. Der Rekonstruktionsfehler ergibt sich in herkömmlicher Weise aus einem vorgegebenen Eingangsdatensatz, der sich aus einem realen Betrieb des technischen Systems 1 ergibt, und dem Ausgangsdatensatz in an sich bekannter Weise, z. B. mithilfe der Berechnung einer Distanz zwischen dem Eingangsdatensatz und dem Ausgangsdatensatz basierend auf einer L2-Norm.
  • Weiterhin kann es vorgesehen sein, einen frequenzbezogenen (FIR-)Filter auf jede der im Eingangsdatensatz berücksichtigten bzw. enthaltenen Signalzeitreihen zu verwenden, wobei die Signalzeitreihen ggfs. durch Padding verlängert werden können.
  • In einer weiteren Ausführungsform kann die mindestens eine Signalzeitreihe des Eingangsdatensatzes mit dem ersten frequenzbezogenen Filter zweifach gefiltert werden, wobei die betreffende mindestens eine Signalzeitreihe des Eingangsdatensatzes mit dem ersten frequenzbezogenen Filter gefiltert wird und die so gefilterte Signalzeitreihe reversiert wird und erneut mit dem ersten frequenzbezogenen Filter gefiltert wird, um die mindestens eine Signalzeitreihe des modifizierten Eingangsdatensatzes zu erhalten, und wobei die mindestens eine Signalzeitreihe des Ausgangsdatensatzes mit dem zweiten frequenzbezogenen Filter zweifach gefiltert wird, wobei die betreffende mindestens eine Signalzeitreihe des Ausgangsdatensatzes mit dem zweiten frequenzbezogenen Filter gefiltert wird und die so gefilterte Signalzeitreihe reversiert wird und erneut mit dem zweiten frequenzbezogenen Filter gefiltert wird, um die mindestens eine Signalzeitreihe des modifizierten Ausgangsdatensatzes zu erhalten.
  • Gemäß einem weiteren Aspekt ist eine Vorrichtung zur Durchführung des obigen Verfahrens vorgesehen.
  • Kurzbeschreibung der Zeichnungen
  • Ausführungsformen werden nachfolgend anhand der beigefügten Zeichnungen näher erläutert. Es zeigen:
    • 1 eine schematische Darstellung eines technischen Systems mit einer Sensoranordnung, die mit einem Systemmodel betreibbar ist;
    • 2 eine schematische Darstellung eines datenbasierten Rekonstruktionsmodells in Form eines Autoencoders;
    • 3 ein Flussdiagramm zur Veranschaulichung eines Verfahrens zum Trainieren des Rekonstruktionsmodells; und
    • 4 ein Signalzeitdiagramm zur Veranschaulichung eines Eingangsdatensatz mit mindestens einer Signalzeitreihe und eines Ausgangsdatensatzes mit mindestens einer Signalzeitreihe im Falle eines Rekonstruktionsmodells ohne Anwendung einer FIR-Filterung und einer Loss-Funktion mit Anwendung einer FIR-Filterung.
  • Beschreibung von Ausführungsformen
  • 1 zeigt ein technisches System 1 mit einer Sensoranordnung 2 mit einem oder mehreren Sensoren 21, die zum Aufzeichnen und/oder Erfassen von kontinuierlichen Messsignalen ausgelegt sind und Sensorgrößen B bereitstellen. Die Sensorgrößen entsprechen den abgetasteten Messsignalen und werden einer Steuereinheit 3 als Signalzeitreihe bereitgestellt.
  • Die Steuereinheit 3 generiert eine oder mehrere Ansteuergrößen S zur Steuerung eines oder mehrerer Aktuatoren 4. Diese können einen Antriebsmotor, einen Stellgeber, eine Heizeinrichtung, eine Strahlungsquelle und dergleichen umfassen.
  • Die Sensoren 21 können allgemein als Sensorgrößen B physikalische Betriebsgrößen des Systems 1 oder auch direkt physikalische Zustände des einen oder der mehreren Aktuatoren 4 erfassen. Die Sensoren 21 können beispielsweise einen Drucksensor, einen Drehzahlsensor, einen Massenstromsensor, einen Temperatursensor, einen Beschleunigungssensor, einen Vibrationssensor, einen Strahlungssensor, eine Kamera oder dergleichen umfassen.
  • Die Steuereinheit 3 umfasst einen Mikroprozessor 31 und mindestens ein separat oder als Software-Algorithmus in dem Mikroprozessor implementiertes datenbasiertes Systemmodell 32. Die Steuereinheit 3 erhält die eine oder die mehreren Sensorgrößen B als Betriebsgrößen und/oder Zustandsgrößen und bestimmt daraus die eine oder die mehreren Ansteuergrößen S.
  • Das datenbasierte Systemmodell 32 ist ein nicht-parametrisches Modell (Machine-Learning-Modell) und stellt eine abbildende Funktion dar, die aus einer oder mehreren der Betriebs- und/oder Zustandsgrößen und ggfs. einer oder mehreren Merkmalsgrößen als Eingangsdatensatz eine oder mehrere Ausgangsgrößen bereitstellt, die der einen oder den mehreren Ansteuergrößen entsprechen oder Größen entsprechen können, aus denen die eine oder die mehreren Ansteuergrößen ableitbar sind.
  • Die Merkmalsgrößen können z.B. aus Zeitreihen der Sensorgrößen aggregierte Größen oder statistischen Größen entsprechen.
  • Das datenbasierte Systemmodell 32 kann beispielsweise zur Durchführung einer Regelung oder einer Steuerung des einen oder der mehreren Aktuatoren 4 trainiert werden. Dazu werden in an sich bekannter Weise Trainingsdatensätze bereitgestellt, die einen Eingangsdatensatz auf ein Label abbilden, dass zur Steuerung oder Regelung verwendet werden soll.
  • Das datenbasierte Systemmodell 32, z.B. in Form eines neuronalen Netzes oder vergleichbaren trainierbaren Modellen, wird mit direkt mit den Trainingsdatensätzen oder nach Merkmalsextraktion aus den Trainingsdatensätzen trainiert. Die Trainingsdatensätze können Eingangsdatensätze aufweisen, denen jeweils ein Label zugeordnet ist. Die Eingangsdatensätze können jeweils eine oder mehrere Signalzeitreihen eines oder mehrerer Sensorsignale B umfassen.
  • Beispiele für technische Systeme, die ein datenbasiertes Systemmodell 32 und mindestens eine Signalzeitreihe in einem durch das Systemmodell 32 auszuwertenden Eingangsdatensatz nutzen, sind vielfältig.
  • Beispielsweise kann eine Drehzahl einer elektrischen Maschine ggfs. nebst zusätzlich erfassten Motortemperaturen durch Auswertung in einem in entsprechender Weise trainierten Systemmodell ermittelt werden, wenn eine Signalzeitreihe in Form eines Verlaufs eines Motorstroms für einen vorbestimmten zurückliegenden Zeitraum als Teil des entsprechend durch das Systemmodell 32 auszuwertenden Eingangsdatensatzes bestimmt wird. Weitere Größen des Eingangsdatensatzes kann eine Motortemperatur und/oder eine oder mehrere eine Last der elektrischen Maschine bestimmende Größen sein. Die Signalzeitreihe gibt den Verlauf des Motorstroms bis zu einem vorgegebenen aktuellen Auswertungszeitpunkt an. Die Auswertung ergibt als Ausgangsgröße eine aktuelle Drehzahl der elektrischen Maschine.
  • Als weiteres Beispiel kann zur Ermittlung einer Einspritzmenge von Kraftstoff in einem Einspritzsystem für einen Verbrennungsmotor ein Systemmodell 32 verwendet werden. Hier wird über ein Einspritzventil Kraftstoff zum Betrieb des Verbrennungsmotors in einen Brennraum eines Zylinders des Verbrennungsmotors eingespritzt. Kraftstoff wird dazu dem Einspritzventil über eine Kraftstoffzuführung zugeführt, über die Kraftstoff in an sich bekannter Weise (z. B. Common Rail) unter einem hohen Kraftstoffdruck bereitgestellt wird. Das Einspritzventil kann einen elektromagnetisch oder piezoelektrisch ansteuerbare Aktuatoreinheit aufweisen, die mit einer Ventilnadel gekoppelt ist. Durch Ansteuerung der Aktuatoreinheit wird die Ventilnadel in Längsrichtung bewegt und gibt einen Teil einer Ventilöffnung frei, um den unter Druck stehenden Kraftstoff in den Brennraum des Zylinders einzuspritzen. Mithilfe eines Piezosensors können Druckänderungen in dem durch das Einspritzventil geführten Kraftstoff bestimmt als Spannungssignal bestimmt werden, das abgetastet und als Sensorsignalzeitreihe bereitgestellt werden kann. Die Einspritzmenge kann durch Kenntnis eines genauen Öffnungszeitpunkt des Einspritzventils in an sich bekannter Weise bestimmt werden. Der Öffnungszeitpunkt wird durch das entsprechend trainierte Systemmodell 32 basierend auf einem Eingangsdatensatz ermittelt, der die Signalzeitreihe des Spannungssignals als Vektor und den Kraftstoffdruck umfasst. Das Systemmodell 32 kann den Öffnungszeitpunkt dann als Wahrscheinlichkeits-Vektor oder direkt als Zeitgröße ausgegeben.
  • Als weiteres Beispiel kann das Systemmodell 32 zur Zustandsprädiktion eines Fahrers eines Kraftfahrzeugs verwendet werden, wie z.B. zur Erkennung einer Fahrermüdigkeit. Hierzu können fahrrelevante Größen als zeitliche Verläufe in Form von Signalzeitreihen bereitgestellt werden, wie z.B. ein Verlauf von Lenkstellungen, ein Verlauf der Fahrgeschwindigkeit und/oder ein Verlauf von Kopfposen des Fahrers. Die Ausgangsgröße nach Auswertung in dem entsprechend trainierten Systemmodell ergibt eine Wahrscheinlichkeit einer Übermüdung des Fahrers.
  • In 2 ist ein Rekonstruktionsmodell in Form eines Autoencoders 10 dargestellt. Das Rekonstruktionsmodell weist einen Encoderteil 11 auf, der als datenbasiertes Modell, insbesondere als neuronales Netz, ausgebildet ist und einen Eingangsdatensatz E mit mindestens einer Signalzeitreihe als Zeitreihenvektor auf eine dimensionsreduzierte Zwischenschicht 12 abbildet. In einem Decoderteil 13 wird der Inhalt der Zwischenschicht 12 verarbeitet, um den Eingangsdatensatz E möglichst zu rekonstruieren und als Ausgangsdatensatz A bereitzustellen. Der Ausgangsdatensatz A soll dabei als Zielvorgabe möglichst dem Eingangsdatensatz E entsprechen oder nur geringfügig von diesem abweichen.
  • Der Decoderteil 13 kann ebenfalls als neuronales Netz oder sonstiges datenbasiertes Modell ausgebildet sein. Der Autoencoder 10 kann alternativ auch als Variational Autoencoder ausgebildet sein, wobei bei der Loss-Funktion bzw. zur Berechnung des Losses der Inhalt der Zwischenschicht 12 entsprechend berücksichtigt wird. Insbesondere wird dort eine gewünschte Verteilung der Elemente der Zwischenschicht 12 vorgegeben.
  • 3 zeigt ein Flussdiagramm zur Veranschaulichung eines Verfahrens zum Bereitstellen eines Rekonstruktionsmodells für die Rekonstruktion oder Generierung einer oder mehrerer Signalzeitreihen.
  • Zum Trainieren des Rekonstruktionsmodells werden zunächst in Schritt S1 Eingangsdatensätze E mit einer oder mehreren Signalzeitreihen bereitgestellt.
  • Eine oder mehrere der Signalzeitreihen der Eingangsdatensätze E werden in Schritt S2 jeweils mithilfe eines (insbesondere jeweiligen) ersten frequenzbezogenen Filters 14 gefiltert. Der erste frequenzbezogene Filter 14 kann vorsehen, die eine oder die mehreren Signalzeitreihen mit einem FIR-Filter, der für einen oder mehrere Frequenzbereiche konfiguriert ist, zu filtern. Dadurch erhält man einen modifizierten Eingangsdatensatz E`, der statt der einen oder mehrere Signalzeitreihe entsprechende gefilterte Signalzeitreihen umfasst. Dabei bleiben die nicht den Signalzeitreihen zugeordneten Größen bzw. Merkmale im Eingangsdatensatz unverändert.
  • Die Eingangsdatensätze E werden in Schritt S3 in dem Autoencoder 10 verarbeitet, um einen jeweiligen Ausgangsdatensatz A zu erhalten.
  • Der Ausgangsdatensatz A wird in Schritt S4 in einem zweiten frequenzbezogenen Filter 15 gefiltert. Der zweite Filter 15 kann zu dem ersten Filter 14 identisch ausgebildet sein und sieht vor, die eine oder die mehreren Signalzeitreihen in dem rekonstruierten Eingangsdatensatz (=Ausgangsdatensatz) mit einem FIR-Filter, der für einen oder mehrere Frequenzbereiche in gleicher Weise wie der erste Filter 14 konfiguriert ist, zu filtern. Dadurch erhält man einen modifizierten Ausgangsdatensatz A', der statt der einen oder mehrere rekonstruierten Signalzeitreihe entsprechende gefilterte rekonstruierte Signalzeitreihen umfasst.
  • Die FIR-Filter des ersten und des zweiten frequenzbezogenen Filters 14, 15 können jeweils in Form einer konvolutionellen Schicht eines neuronalen Netzes ausgebildet sein und auf jede der Signalzeitreihen separat angewendet werden. Auch können für die Signalzeitreihen des Eingangsdatensätze erste frequenzbezogene Filter unterschiedliche Konfigurationen verwendet werden. Es ergibt sich jeweils ein modifizierter Eingangsdatensatz E`, in dem die Signalzeitreihen entsprechend gefiltert vorliegen. Der/die FIR-Filter sind jeweils mit einem vorgegebenen Frequenzbereich parametrisiert.
  • In Schritt S5 wird das Rekonstruktionsmodell trainiert. Der für das Training (z.B. durch Backpropagation basierte Trainingsverfahren) verwendete Loss L wird erfindungsgemäß alternativ oder zusätzlich (als Summenterm) zu dem bekannten Loss auch aus einem in einem Differenzblock 16 Abstand bzw. Differenz, z.B. entsprechend einer L2-Norm, zwischen dem modifizierten Eingangsdatensatz E' und einem modifizierten rekonstruierten Eingangsdatensatz (Ausgangsdatensatz) A` berechnet.
  • Der Autoencoder 10 kann nun in an sich bekannter Weise zur Konstruktion von Ausgangsdatensätzen A aus Eingangsdatensätzen E mit aus einem realen Betrieb des technischen Systems 1 ermittelten Signalzeitreihen verwendet werden, um leicht abweichende künstliche Signalzeitreihen zu erzeugen, die für ein Training eines datenbasierten Systemmodells 32 verwendet werden können. Falls für so generierte rekonstruierte Eingangsdatensätze Labels benötigt werden, so kann der Autoencoder in bekannter Weise zu einem Conditional Variational Autoencoder erweitert werden, wobei die „Condition“ die gewünschte Information (Label, ...) beschreibt.
  • Alternativ kann der so trainierte (Variational) Autoencoder als Rekonstruktionsmodell zur Anomalieerkennung durch Auswertung eines Rekonstruktionsfehlers verwendet werden. Der Rekonstruktionsfehler ergibt sich in herkömmlicher Weise aus einem vorgegebenen Eingangsdatensatz E, der sich aus einem realen Betrieb des technischen Systems 1 ergibt, und dem Ausgangsdatensatz A in an sich bekannter Weise, z. B. mithilfe der Berechnung einer Distanz zwischen dem Eingangsdatensatz und dem Ausgangsdatensatz basierend auf einer L2-Norm, als Rekonstruktionsfehler. Alternativ oder zusätzlich als Summenterm kann der Rekonstruktionsfehler auch nach Filterungen des Eingangsdatensatzes E und des Ausgangsdatensatzes A, z. B. mithilfe der Berechnung einer Distanz zwischen dem gefilterten Eingangsdatensatz und dem gefilterten Ausgangsdatensatz basierend auf einer L2-Normbestimmt werden.
  • Weiterhin kann es vorgesehen sein, die FIR-Filter auf jede der im Eingangsdatensatz E berücksichtigten bzw. enthaltenen Signalzeitreihen zu verwenden, wobei die Signalzeitreihen, wenn notwendig, durch Padding verlängert werden können.
  • In einer weiteren Ausführungsform kann zum Training eine zweifache FIR-Filterung in den ersten und zweiten frequenzbezogenen Filtern 14, 15 vorgenommen werden, bei der mindestens eine der in dem Signalzeitreihen im Eingangsdatensatz E und im Ausgangsdatensatz A FIR-gefiltert wird und die so FIR-gefilterte Signalzeitreihe reversiert wird und erneut FIR-gefiltert (mit gleicher frequenzbezogener Konfiguration) wird, um so die Filtereigenschaften zu verbessern. Somit kann Filterung auch zweifach vorgenommen werden, einmal mit einem Vorwärtssignal und zum anderen mit einer reversierten, einmalig gefilterten Signalzeitreihe, um die Filtereigenschaften zu verbessern.
  • Der Autoencoder als Rekonstruktionsmodell kann in vielfältiger Weise verwendet werden, um einerseits die Signalzeitreihen im Eingangsdatensatz E auf systemuntypische Verläufe im Sinne einer Anomaliedetektion (Überwachung des Rekonstruktionsfehlers) zu überprüfen und/oder um „künstliche“ Eingangsdatensätze für die Generierung weiterer Trainingsdaten zu generieren (durch Zuordnung eines rekonstruierten Eingangsdatensatzes zu dem Label des ursprünglichen Eingangsdatensatzes). Das Training des Autoencoders 10 erfolgt mit im System gemessenen Signalzeitreihen eines oder mehrerer Sensorsignale, die ein Systemverhalten charakterisieren können.
  • Im Ergebnis erkennt man in Signalzeitdiagrammen der 4a und 4b den Einfluss der veränderten Loss-Funktion für das Training des resultierenden Rekonstruktionsmodells am Beispiel einer Signalzeitreihe in einem Eingangsdatensatz und der rekonstruierten Signalzeitreihe im Ausgangsdatensatz einer Rekonstruktion durch das Rekonstruktionsmodell. 4a zeigt ein Beispiel einer Signalzeitreihe eines Eingangsdatensatzes E und eines Ausgangsdatensatzes A dabei einem herkömmlich trainierten Rekonstruktionsmodell (Loss =Rekonstruktionsfehler) und 4b ein Beispiel einer Signalzeitreihe eines Eingangsdatensatzes E und eines Ausgangsdatensatzes A bei einem Rekonstruktionsmodell, das entsprechend dem obigen Verfahren trainiert ist. Man erkennt, dass das neuartig trainiert Rekonstruktionsmodell höherfrequente Änderungen in der Signalzeitreihe in verbesserter Weise abbilden kann, als dies bei einem herkömmlichen Rekonstruktionsmodell der Fall ist.

Claims (10)

  1. Computer-implementiertes Verfahren zum Bereitstellen eines Rekonstruktionsmodells (10), das als Autoencoder oder als Variational Autoencoder ausgebildet ist, mit folgenden Schritten: - Bereitstellen (S1) von Eingangsdatensätzen (E), die jeweils mindestens eine Signalzeitreihe umfassen; - Trainieren (S5) des Rekonstruktionsmodells (10) mit den Eingangsdatensätzen (E) mithilfe eines Losses (L), wobei der Loss (L) jeweils als Abstand oder Differenz zwischen einem modifizierten Eingangsdatensatz (E`) und einem modifizierten Ausgangsdatensatz (A`) bestimmt wird, wobei der modifizierte Eingangsdatensatz (E`) durch Filtern der mindestens einen Signalzeitreihe des betreffenden Eingangsdatensatzes (E) mithilfe eines vorgegebenen ersten frequenzbezogenen Filters (14) und der modifizierte Ausgangsdatensatz (A`) durch Filtern der mindestens einen Signalzeitreihe mithilfe eines vorgegebenen zweiten frequenzbezogenen Filters (15) bestimmt wird.
  2. Verfahren nach Anspruch 1, wobei der erste und der zweite frequenzbezogene Filter (15) identisch ausgebildet sind und insbesondere als FIR-Filter ausgebildet sind und durch eine konvolutionelle Schicht eines neuronalen Netzes realisiert wird.
  3. Verfahren nach Anspruch 1 oder 2, wobei der vorgegebene FIR-Filter jeweils des ersten und des zweiten Filters (14, 15) zum Filtern eines oder mehrerer gewünschter Frequenzbereiche konfiguriert ist.
  4. Verfahren nach einem der Ansprüche 1 bis 3, wobei mindestens eine der mindestens einen Signalzeitreihe im Eingangsdatensatz (E) durch Padding verlängert wird.
  5. Verfahren nach einem der Ansprüche 1 bis 4, wobei die mindestens eine Signalzeitreihe des Eingangsdatensatzes (E) mit dem ersten frequenzbezogenen Filter zweifach gefiltert wird, wobei die betreffende mindestens eine Signalzeitreihe des Eingangsdatensatzes (E) mit dem ersten frequenzbezogenen Filter gefiltert wird und die so gefilterte Signalzeitreihe reversiert wird und erneut mit dem ersten frequenzbezogenen Filter (14) gefiltert wird, um die mindestens eine Signalzeitreihe des modifizierten Eingangsdatensatzes (E`) zu erhalten, und wobei die mindestens eine Signalzeitreihe des Ausgangsdatensatzes (A) mit dem zweiten frequenzbezogenen Filter (15) zweifach gefiltert wird, wobei die betreffende mindestens eine Signalzeitreihe des Ausgangsdatensatzes (A) mit dem zweiten frequenzbezogenen Filter (15) gefiltert wird und die so gefilterte Signalzeitreihe reversiert wird und erneut mit dem zweiten frequenzbezogenen Filter (15) gefiltert wird, um die mindestens eine Signalzeitreihe des modifizierten Ausgangsdatensatzes (A`) zu erhalten.
  6. Verfahren zur Generierung eines weiteren Trainingsdatensatzes zum Trainieren eines Systemmodells (32) zum Betreiben eines technischen Systems (1), mit folgenden Schritten: - Bereitstellen eines Eingangsdatensatzes mindestens eines Trainingsdatensatzes, wobei der Eingangsdatensatz mindestens eine Signalzeitreihe umfasst; - Rekonstruieren eines rekonstruierten Eingangsdatensatz mithilfe eines Rekonstruktionsmodells (10), das entsprechend eines Verfahrens nach einem der Ansprüche 1 bis 5 trainiert ist, - Zuordnen des Labels des Eingangsdatensatzes (E) zu dem rekonstruierten Eingangsdatensatz , um einen weiteren Trainingsdatensatz zu erhalten; - Trainieren des datenbasierten Systemmodells (32) mit dem mindestens einen Trainingsdatensatz und dem weiteren Trainingsdatensatz.
  7. Verfahren zur Erkennung einer Anomalie in einem bereitgestellten Eingangsdatensatz mit mindestens einer Signalzeitreihe durch Auswerten eines Rekonstruktionsfehlers eines Rekonstruktionsmodells (10), das entsprechend eines Verfahrens nach einem der Ansprüche 1 bis 5 trainiert ist.
  8. Vorrichtung zur Durchführung eines der Verfahren nach einem der Ansprüche 1 bis 7.
  9. Computerprogrammprodukt, umfassend Befehle, die bei der Ausführung des Programms durch mindestens eine Datenverarbeitungseinrichtung diese veranlassen, die Schritte des Verfahrens gemäß einem der Ansprüche 1 bis 7 auszuführen.
  10. Maschinenlesbares Speichermedium, umfassend Befehle, die bei der Ausführung durch mindestens eine Datenverarbeitungseinrichtung diese veranlassen, die Schritte des Verfahrens gemäß einem der Ansprüche 1 bis 7 auszuführen.
DE102022203833.9A 2022-04-19 2022-04-19 Verfahren und Vorrichtung zum Bereitstellen eines Rekonstruktionsmodells für Signalzeitreihen Pending DE102022203833A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102022203833.9A DE102022203833A1 (de) 2022-04-19 2022-04-19 Verfahren und Vorrichtung zum Bereitstellen eines Rekonstruktionsmodells für Signalzeitreihen

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102022203833.9A DE102022203833A1 (de) 2022-04-19 2022-04-19 Verfahren und Vorrichtung zum Bereitstellen eines Rekonstruktionsmodells für Signalzeitreihen

Publications (1)

Publication Number Publication Date
DE102022203833A1 true DE102022203833A1 (de) 2023-10-19

Family

ID=88191760

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102022203833.9A Pending DE102022203833A1 (de) 2022-04-19 2022-04-19 Verfahren und Vorrichtung zum Bereitstellen eines Rekonstruktionsmodells für Signalzeitreihen

Country Status (1)

Country Link
DE (1) DE102022203833A1 (de)

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
CANZIANI, Alfredo: Generative Models – Variational Autoencoders. 24.03.2020. URL: https://atcold.github.io/pytorch-Deep-Learning/en/week08/08-3/, Archiviert in archive.org am 01.12.2021 [abgerufen am 12.12.2022]
DÜRR, Oliver: Introduction to variational autoencoders. 11.05.2016. URL: https://tensorchiefs.github.io/bbs/files/vae.pdf, Archiviert in archive.org am 13.01.2021 [abgerufen am 12.12.2022]
Filter mit endlicher Impulsantwort. In: Wikipedia, Die freie Enzyklopädie. 2021. URL: https://de.wikipedia.org/w/index.php?title=Filter_mit_endlicher_Impulsantwort&oldid=216762560 [abgerufen am 12.12.2022]
ODAIBO, Stephen: Tutorial: Deriving the standard variational autoencoder (vae) loss function. arXiv preprint arXiv:1907.08956, 2019
SHORTEN, Connor; KHOSHGOFTAAR, Taghi M.: A survey on image data augmentation for deep learning. Journal of big data, 2019, 6. Jg., Nr. 1, S. 1-48

Similar Documents

Publication Publication Date Title
EP1715165B1 (de) Verfahren und Vorrichtung zur Fehlerdiagnose für Verbrennungsmotoren
DE102005018980B4 (de) Verfahren und Vorrichtung zur Fehlerdiagnose mechatronischer Systeme
DE3435465A1 (de) Verfahren und vorrichtung zur eigendiagnose von stellgliedern
DE102018208763A1 (de) Verfahren, Vorrichtung und Computerprogramm zum Betreiben eines maschinellen Lernsystems
DE102018203280A1 (de) Zustandsdiagnosevorrichtung
DE102017127517A1 (de) Verfahren und Vorrichtung zur Steuerung des Kraftstoffdrucks
DE102020202870A1 (de) Verfahren zur Validierung und Auswahl auf maschinellem Lernen basierender Modelle zur Zustandsüberwachung einer Maschine
DE102018213114A1 (de) Verfahren und Vorrichtung zum Betreiben eines Verbrennungsmotors mit einem Common-Rail-Einspritzsystem
DE102020202866A1 (de) Verfahren und Recheneinheit zur Ursachenanalyse eines anomalen Zustandes einer Maschine
DE10159016A1 (de) Verfahren und Vorrichtung zur Steuerung einer Brennkraftmaschine
DE102020202869A1 (de) Vorverarbeitungsverfahren zur Bereitstellung homogener Datenblöcke
DE102022203833A1 (de) Verfahren und Vorrichtung zum Bereitstellen eines Rekonstruktionsmodells für Signalzeitreihen
DE102022203832A1 (de) Verfahren und Vorrichtung zum Bereitstellen eines Rekonstruktionsmodells für Signalzeitreihen
DE10038340A1 (de) Verfahren und Vorrichtung zur Steuerung einer Brennkraftmaschine
DE102022200286A1 (de) Verfahren und Vorrichtung zum Trainieren eines Sensormodells für eine Change-Point-Detektion
WO2022053626A1 (de) Verfahren und vorrichtung zum betreiben eines kraftstoffeinspritzventils mithilfe maschineller lernverfahren
DE102020211416A1 (de) Verfahren und Vorrichtung zum Betreiben eines Kraftstoffeinspritzventils mithilfe maschineller Lernverfahren
DE102021200789A1 (de) Computer-implementiertes Verfahren und Vorrichtung zur Manipulationserkennung für Abgasnachbehandlungssysteme mithilfe Verfahren künstlicher Intelligenz
DE102020004853A1 (de) Verfahren zur Erzeugung eines Rechenmodells für ein Steuergerät zur Steuerung zumindest einer Fahrzeugkomponente mithilfe von künstlichen Datensätzen
DE102022207997A1 (de) Verfahren und Vorrichtung zum Betreiben eines technischen Systems mit einem künstlichen neuronalen Netz
DE102022204168A1 (de) Verfahren und Vorrichtung zum Bewerten von Trainingsdaten und zum Erstellen eines datenbasierten Systemmodells
DE102021205589B4 (de) Verfahren und Vorrichtung zum Betreiben eines Kraftstoffeinspritzventils mithilfe maschineller Lernverfahren
DE10219797A1 (de) Verfahren zur Optimierung eines Modells zur Steuerung einer Brennkraftmaschine
DE102013208998A1 (de) Verfahren zum Gewinnen von Informationen in Bezug auf Betriebsgrößen von Einspritzsystemen
DE102022101290B4 (de) Verfahren zur Kraftstoffbestimmung

Legal Events

Date Code Title Description
R163 Identified publications notified