EP4673875A1 - Verfahren und vorrichtung zur erkennung einer anomalie im verhalten eines dynamischen systems - Google Patents

Verfahren und vorrichtung zur erkennung einer anomalie im verhalten eines dynamischen systems

Info

Publication number
EP4673875A1
EP4673875A1 EP24708441.1A EP24708441A EP4673875A1 EP 4673875 A1 EP4673875 A1 EP 4673875A1 EP 24708441 A EP24708441 A EP 24708441A EP 4673875 A1 EP4673875 A1 EP 4673875A1
Authority
EP
European Patent Office
Prior art keywords
anomaly
neural network
determined
detected
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
EP24708441.1A
Other languages
English (en)
French (fr)
Inventor
Babette DELLEN
Uwe Jaekel
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hochschule Koblenz
Original Assignee
Hochschule Koblenz
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hochschule Koblenz filed Critical Hochschule Koblenz
Publication of EP4673875A1 publication Critical patent/EP4673875A1/de
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/092—Reinforcement learning

Definitions

  • HSK.02.22.PCT patent application - 1 - Method and device for detecting an anomaly in the behavior of a dynamic system The present invention relates to a method and a device for detecting an anomaly in the behavior of a dynamic system that has state transitions between several states.
  • machine learning methods have also already been proposed for this purpose for certain applications.
  • modeling both with conventional machine learning methods and with heuristic threshold value methods requires complex studies under controlled conditions.
  • the previous methods can only be used to a limited extent on so-called wearables with low computing power, since the models contain many parameters and can often only be evaluated numerically with great effort.
  • the present invention is based on the object of providing a method and a device for detecting an anomaly in the behavior of a dynamic system (e.g. living being, machine) that have comparatively low requirements in terms of implementation, production and assembly effort.
  • the anomaly detection should be able to deliver reliable and accurate results without having to rely on high computing power.
  • the device should also have a compact structure. This object is achieved by a method with the features of claim 1 and by a device with the features of claim 12. Further, particularly advantageous embodiments of the invention are disclosed in the respective subclaims.
  • the term "approximately” is to be understood as a tolerance range of the related size of up to a maximum of +/-20%, preferably up to a maximum of +/-10%.
  • a detection mode with which an artificial neural network (herein also referred to simply as a network for short) is trained, wherein in a detection mode a future state of the system is predicted by means of the artificial neural network, the future state of the system is detected by means of a detection means, a deviation of the detected future state from the predicted future state is determined and the anomaly is determined from the determined deviation.
  • the detection means can be, for example, a sensor for detecting a mechanical vibration, an acceleration, a spatial position, for detecting sound waves, electrical, magnetic or electromagnetic fields and the like, or any combination thereof.
  • the system can be, for example, a living being (e.g. a human or animal) or a HSK.02.22.PCT Patent Application - 3 - inanimate object such as a machine, building, vehicle and the like, wherein the state of the system can be detected, i.e. measured, by means of the at least one detection means.
  • the detection operation and/or detection operation is carried out or controlled by a control unit, for example a microcontroller, microprocessor, digital signal processor (DSP), single-board computer and the like, which can have a memory such as RAM, ROM, Flash, etc.
  • the detection and detection operations can be carried out by different control units, but they can be carried out by one and the same control unit.
  • a signal provided by the detection means which describes the detected state of the system, is fed to the control unit for carrying out the detection and/or detection operation.
  • the anomaly determined in the detection operation can be recorded or stored by the control unit (e.g. for later evaluation) and/or signaled after the determination, e.g. B.
  • the anomaly is determined based on the deviation determined exceeding a predetermined threshold value.
  • the artificial neural network can have at least one, preferably only one, hidden layer with hidden neurons.
  • the hidden neurons are each designed as multiplicative units (also referred to herein as product units), to which input signals are fed, which are multiplied by the respective multiplicative unit.
  • the number of neurons required in the network according to the invention for the same application can be increased by at least HSK.02.22.PCT patent application - 4 - an order of magnitude.
  • the neural network of the method according to the invention can be formed from a maximum of about 50 neurons, so that the computational effort in the recognition mode can be significantly reduced.
  • the input signals are logarithmized, the logarithmized input signals are added and the result of the addition is exponentiated.
  • the input signals are logarithmized using the complex logarithm function and the result of the addition is exponentiated using the complex exponential function.
  • the logarithmized input signals are each multiplied by a complex weight before the addition.
  • the complex weight has a real part and an imaginary part.
  • the artificial neural network can have an output layer with at least one output neuron, to which the results of the multiplication of at least a part of the multiplicative units are fed, which are each multiplied by a complex output weight and then added together to provide a complex output signal of the output neuron.
  • the complex output signal has a real part and an imaginary part.
  • a measure of the confidence or reliability of the complex output signal can advantageously be provided by means of the imaginary part of the complex output signal.
  • different subsets of the states are assigned to different modes of the system, each of which defines a different dynamic behavior of the system, wherein the anomaly is determined in at least two different modes, preferably in all different modes.
  • different normal states of the system can be classified by means of the modes.
  • Each normal state has state transitions between different HSK.02.22.PCT patent application - 5 - states in the respective system mode, wherein in each mode deviations between the predicted future state and the future state detected by means of the at least one detection means are determined, from which in turn the anomaly is determined if necessary.
  • different system modes can be assigned, for example, to different operating modes of a machine, wherein the invention enables the reliable determination of anomalies in each machine operating mode.
  • the different system modes when investigating near falls (e.g. stumbling) of living beings can be walking, running and sitting, wherein a near fall in each of the three system modes is recognized as an anomaly of the respective normal state of walking, running or sitting.
  • a device for detecting an anomaly in the behavior of a dynamic system that has state transitions between several states has at least one detection means and a control unit, wherein the detection means is designed and arranged to detect at least a subset of the states of the system, and the control unit is designed and set up to carry out a method according to one of the preceding claims.
  • the control unit for example a microcontroller, microprocessor, digital signal processor (DSP), single-board computer and the like, which can have a memory such as RAM, ROM, flash, etc., serves, among other things, to carry out or control the detection operation and/or detection operation.
  • the detection and detection operations can be carried out by different control units, but they can be carried out by one and the same control unit. Due to the low computing effort required to carry out the method according to the invention, the control unit can be energy-saving and compact, because it only has to be designed for moderate computing power. It should be noted that with regard to process-related definitions of terms and the effects and advantages of process-related features, the explanations of corresponding definitions, effects and advantages of the device according to the invention can be used in full and vice versa. In this respect, a repetition of HSK.02.22.PCT patent application - 6 - Explanations of similar features, their effects and advantages with regard to the device according to the invention disclosed here and the method according to the invention disclosed here are largely omitted in favor of a more compact description.
  • the at least one detection means is a sensor for detecting a mechanical vibration, an acceleration, a spatial position, sound waves, electrical, magnetic or electromagnetic fields or any combination thereof.
  • the device is particularly preferably designed as an integrated portable unit, e.g. as a so-called wearable. In this case, all information can be present locally in the portable unit.
  • An operationally self-sufficient device can be provided by means of an energy storage device (e.g. battery, accumulator) for the electrical supply of the portable unit.
  • the at least one detection means or sensor can be integrated into the device. In this way, a portable (e.g. by a living being), mobile, inexpensive to manufacture and compact device is provided.
  • the device disclosed herein is used for near-fall detection of a living being (e.g. person), wherein the device is worn by the living being and a near-fall (e.g. stumbling) when running, walking and/or sitting represents the anomaly of the dynamic system to be detected.
  • a still further preferred aspect of the invention provides for the use of the device disclosed herein for monitoring a machine, wherein a predetermined deviation from a nominal operating behavior of the machine represents the anomaly to be detected.
  • the invention serves to detect anomalies when a system transitions from one state to another (also referred to herein as a dynamic system).
  • the system can be, for example, a living being (e.g.
  • sensors e.g. portable acceleration sensors on living beings or on a building or machine.
  • an important application is the detection of near falls using portable sensors. This is a very important topic in accident prevention and occupational safety.
  • the method is particularly well suited for control based on the observation of normal sound emissions and vibration behavior.
  • a normal state of the dynamic system can be learned with relatively short observation periods using the invention disclosed here.
  • Preferred areas of application relate to: • Detection of near falls (prevention and occupational safety) - Sensors worn on the body - Possible online evaluation in real time on a relatively low-performance computer (e.g. smartwatch or wearable) - Continuous analysis of the dynamics and statistical evaluation - Possible training of the neural network on the same device as for detecting the anomalies • Detection of machine damage HSK.02.22.PCT patent application - 8 - - Single-board computer or microcontroller possible - This enables direct attachment with integrated sensors - Implementation both on a central computer and on or near machine parts - Detection of machine damage based on anomaly detection • System description for the control of technological processes (control loops) - Learning an (unknown) dynamic system of a process from sensor data including control parameters - Control of the process by predicting the future, expected state, detecting and determining the deviations (anomalies) and initiating appropriate measures - Learning the control function as a dynamic system (here
  • the main differences between the method according to the invention and conventional methods are: • Interpretation of the state dynamics as a non-linear dynamic system driven by relatively simple multiplicative couplings. • Modeling of the dynamic system using an interpretable mathematical model that can learn multiplicative couplings independently even with a large number of input signals. • The learned model contains relatively few parameters (for example, only 7 neurons in a single hidden layer) and can therefore be trained and evaluated very quickly. These properties enable, among other things: • Training and analysis on low-performance and energy-efficient hardware. • Simultaneous detection of the normal state and possible anomalies. • Very fine temporal resolution, anomalies can be detected under one period (e.g. less than one step), while many conventional methods require the completion of at least one period.
  • the learned model parameters contain compact information about the system that can be used in further applications (e.g. statistical studies of gait behavior).
  • Overview of the offline learning method A recorded data set is used offline to train the model and is generally not executed in real time.
  • the learned exponents and couplings of the model can, however, be saved and used in a real-time variant (see online learning below). This option is not available in this form with conventional neural networks, as exponents and couplings cannot be learned; instead, the entire conventional neural network would have to be retrained with a large number of parameters.
  • the method according to the invention also allows the processing of a large number of input signals (e.g.
  • the multiplicative couplings determined offline and their exponents w k,j are predetermined, so that only the weights ⁇ k need to be determined. This can be achieved directly using much simpler methods, e.g. using linear regression. This is possible because the previously determined or learned exponents wkj already qualitatively describe the dynamic system using the multiplicative couplings (including, if necessary, the different dynamic system modes).
  • the superpositions of the power functions can be adjusted online with significantly less effort using the prefactors ⁇ k.
  • Both the logarithmic input data and non-logarithmic input data can be passed on to the product units (see step 2 above).
  • This allows complex-valued exponential functions (including sine and cosine functions) to be introduced as multiplicative and/or additive terms.
  • nonlinear differential equations can also be described with periodic terms, e.g. a periodically driven oscillator.
  • the output signals of the method according to the invention can be complex-valued, which has the direct advantage that the imaginary parts can be penalized in the optimization using a corresponding cost function (see equation 8). This has a positive effect on the convergence of the method.
  • Fig.1 examples of anomaly detection results are shown.
  • the top three rows 100, 101, 102 show the x, y and z accelerations measured by a detection device (in this case acceleration sensors), which HSK.02.22.PCT patent application - 17 - while walking with a smartphone. Three stumbling events can be identified.
  • a detection device in this case acceleration sensors
  • HSK.02.22.PCT patent application - 17 - Three stumbling events can be identified.
  • Offline training of the model via the training region 110 outlined in dashed lines allows the acceleration in the y direction to be predicted using the current measurement over the squared distance (see bottom row 103).
  • Undisturbed walking i.e. normal state
  • the exemplary method determines a determined time series of the deviation of the expected from the observed acceleration in the y direction (anomaly indicator function). Although the acceleration data in this direction do not have any clear peaks, the method according to the invention can clearly identify the anomalies (shortly before 5000 and 7000 [1/100 sec]). The stumbling events are clearly visible and can now be detected by applying a threshold value and assigned to a precise point in time.
  • Fig.2 shows an example of offline learning of the model or neural network according to an embodiment of the invention. The weights 120, 121 are adjusted using sample data.
  • Fig.3 shows an example of online learning of the model or neural network according to an embodiment of the invention.
  • the multiplicative couplings learned in offline learning, given by the weights wkj, are frozen in online learning.
  • linear regression only calculates the weights adapted to the current sample. This is possible because the previously determined or learned exponents wkj describe the dynamic system qualitatively using the multiplicative couplings (including, if necessary, the different dynamic system modes).
  • the superpositions of the power functions can be adapted online with significantly less effort using the prefactors ⁇ k.
  • HSK.02.22.PCT patent application - 18 - Fig. 4 shows an example of the use of the models or neural networks learned in offline and online mode according to an embodiment of the invention to predict the development of the dynamic system.
  • Fig. 6 shows a comparison of an exemplary real, observed dynamic system and its corresponding simulation using a learned model according to the invention. A good match can be seen between the real system and its predicted behavior based on the invention.
  • a device e.g. wearable, smartphone or similar
  • a separate, further device - can provide a user interface that allows a user to train the model interactively and apply it to test data to check the quality of the learned model.
  • the learned models can be applied to new data from a detection operation and used to classify motion states.
  • the device according to the invention disclosed here and the method according to the invention for detecting an anomaly in the behavior of a dynamic system are not limited to the specific embodiments disclosed here, but also include other embodiments with the same effect, which result from technically reasonable further combinations of the features of both the device and the method described here.
  • the features and combinations of features mentioned above in the general description and the description of the figures and/or shown alone in the figures can be used not only in the combinations explicitly specified here, but also in other combinations or on their own, without departing from the scope of the present invention.
  • the device disclosed herein for detecting an anomaly in the behavior of a dynamic system is used particularly advantageously for near-fall detection (e.g.
  • the device disclosed herein for detecting an anomaly in the behavior of a dynamic system is advantageously used for monitoring a machine, wherein a predetermined deviation from a nominal operating behavior of the machine represents the anomaly to be detected.
  • the machine can have different operating modes, wherein the anomaly can be determined for each operating mode.
  • HSK.02.22.PCT Patent Application - 20 - system An example would be a robot arm that is disturbed in the planned movement. If, on the other hand, no abnormalities occur, the system can also be used to give positive feedback and signal that the movements were carried out correctly. In this way, it can be used, for example, for training purposes in sports or for learning movements in rehabilitation.
  • the sensor can also be built into sports equipment.
  • the feedback signal can also gradually signal a deviation from the desired movement, eg by means of acoustic signals, for example in order to learn a desired movement sequence.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Testing Or Calibration Of Command Recording Devices (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Debugging And Monitoring (AREA)

Abstract

Die Erfindung betrifft ein Verfahren und eine Vorrichtung zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems, das Zustandsübergänge zwischen mehreren Zuständen aufweist. Bei dem Verfahren wird wenigstens eine Teilmenge der Zustände in einem Erfassungsbetrieb erfasst, mit welcher ein künstliches neuronales Netzwerk trainiert wird, wobei in einem Erkennungsbetrieb ein zukünftiger Zustand des Systems mittels des künstlichen neuronalen Netzwerks vorhergesagt wird, der zukünftige Zustand des Systems erfasst wird, eine Abweichung des erfassten zukünftigen Zustands vom vorhergesagten zukünftigen Zustand ermittelt wird und die Anomalie aus der ermittelten Abweichung bestimmt wird.

Description

HSK.02.22.PCT Patentanmeldung - 1 - Verfahren und Vorrichtung zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems Die vorliegende Erfindung betrifft ein Verfahren sowie eine Vorrichtung zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems, das Zustandsübergänge zwischen mehreren Zuständen aufweist. Im Bereich der Anomalieerkennung sind allgemein verschiedenste Lösungsansätze aus der Zeitreihenanalyse bekannt. Auch sind für gewisse Anwendungen bereits maschinelle Lernverfahren zu diesem Zweck vorgeschlagen worden. Allerdings setzt die Modellbildung sowohl bei herkömmlichen maschinellen Lernverfahren als auch bei heuristischen Schwellenwertverfahren aufwändige Studien unter kontrollierten Bedingungen voraus. Außerdem sind die bisherigen Verfahren nur bedingt auf so genannte Wearables mit schwacher Rechenleistung einsetzbar, da die Modelle viele Parameter enthalten und oft auch nur mit großem Aufwand numerisch auszuwerten sind. Zudem setzen herkömmliche Verfahren zum Teil Vorwissen über die Zusammenhänge und Kopplungen der Eingabeparameter voraus, was bei einer großen Zahl von Eingabeparametern nicht umsetzbar ist. Vor diesem Hintergrund liegt der vorliegenden Erfindung die Aufgabe zugrunde, ein Verfahren sowie eine Vorrichtung zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems (z. B. Lebewesen, Maschine) bereitzustellen, die vergleichbar geringe Anforderungen an einen Implementierungs-, Herstellungs- und Montageaufwand aufweisen. Zudem soll die Anomalieerkennung zuverlässige und genaue Ergebnisse liefern können, ohne auf eine große Rechenleistung angewiesen zu sein. Die Vorrichtung soll weiterhin einen kompakten Aufbau aufweisen. Diese Aufgabe wird durch ein Verfahren mit den Merkmalen des Anspruchs 1 sowie durch eine Vorrichtung mit den Merkmalen des Anspruchs 12 gelöst. Weitere, besonders vorteilhafte Ausgestaltungen der Erfindung offenbaren die jeweiligen Unteransprüche. Es ist darauf hinzuweisen, dass die in den Ansprüchen einzeln aufgeführten Merkmale in beliebiger, technisch sinnvoller Weise miteinander kombiniert werden können und weitere Ausgestaltungen der Erfindung aufzeigen. Die Beschreibung charakterisiert und spezifiziert HSK.02.22.PCT Patentanmeldung - 2 - die Erfindung insbesondere im Zusammenhang mit den Figuren zusätzlich. Es sei ferner angemerkt, dass eine hierin nachstehend verwendete, zwischen zwei Merkmalen stehende und diese miteinander verknüpfende Konjunktion „und/oder“ stets so auszulegen ist, dass in einer ersten Ausgestaltung des erfindungsgemäßen Gegenstands lediglich das erste Merkmal vorhanden sein kann, in einer zweiten Ausgestaltung lediglich das zweite Merkmal vorhanden sein kann und in einer dritten Ausgestaltung sowohl das erste als auch das zweite Merkmal vorhanden sein können. Ein hierin verwendeter Begriff „etwa“ gibt einen Toleranzbereich an, den der auf dem vorliegenden Gebiet tätige Fachmann als üblich ansieht. Insbesondere ist unter dem Begriff „etwa“ ein Toleranzbereich der bezogenen Größe von bis maximal +/-20 %, bevorzugt bis maximal +/-10 % zu verstehen. Bei einem erfindungsgemäßen Verfahren zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems, das Zustandsübergänge zwischen mehreren Zuständen aufweist, wird wenigstens eine Teilmenge der Zustände in einem Erfassungsbetrieb erfasst, mit welcher ein künstliches neuronales Netzwerk (hierin auch kurz lediglich als Netz bezeichnet) trainiert wird, wobei in einem Erkennungsbetrieb ein zukünftiger Zustand des Systems mittels des künstlichen neuronalen Netzwerks vorhergesagt wird, der zukünftige Zustand des Systems mittels eines Erfassungsmittels erfasst wird, eine Abweichung des erfassten zukünftigen Zustands vom vorhergesagten zukünftigen Zustand ermittelt wird und die Anomalie aus der ermittelten Abweichung bestimmt wird. Mit anderen Worten stellen diejenigen Zustandsübergänge, für die keine Anomalie bestimmt wird, ein nominelles, normales dynamisches Verhalten des Systems dar (hierin auch als Normalzustand bezeichnet). Das Erfassungsmittel kann beispielsweise ein Sensor zur Erfassung einer mechanischen Schwingung, einer Beschleunigung, einer Ortslage im Raum, zur Erfassung von Schallwellen, von elektrischen, magnetischen oder elektromagnetischen Feldern und dergleichen oder eine beliebige Kombination hiervon sein. Das System kann beispielsweise ein Lebewesen (z. B. Mensch oder Tier) oder aber ein HSK.02.22.PCT Patentanmeldung - 3 - unbelebter Gegenstand wie beispielsweise eine Maschine, Gebäude, Fahrzeug und dergleichen sein, wobei der Zustand des Systems mittels des wenigstens einen Erfassungsmittels erfasst, d. h. gemessen, werden kann. Der Erfassungsbetrieb und/oder Erkennungsbetrieb wird von einer Steuereinheit, beispielsweise Mikrocontroller, Mikroprozessor, digitaler Signalprozessor (DSP), Einplatinenrechner und dergleichen, die einen Speicher, wie zum Beispiel RAM, ROM, Flash etc., aufweisen kann, ausgeführt bzw. gesteuert. Der Erfassungs- und Erkennungsbetrieb können von unterschiedlichen Steuereinheiten ausgeführt werden, sie können jedoch von ein und derselben Steuereinheit ausgeführt werden. Jedenfalls wird ein vom Erfassungsmittel bereitgestelltes Signal, das den erfassten Zustand des Systems beschreibt, der Steuereinheit zur Ausführung des Erfassungs- und/oder Erkennungsbetriebs zugeführt. Die im Erkennungsbetrieb bestimmte Anomalie kann von der Steuereinheit aufgezeichnet bzw. gespeichert werden (z. B. für eine spätere Auswertung) und/oder nach der Bestimmung signalisiert werden, z. B. optisch, akustisch und/oder mittels einer auf an sich bekannten drahtlosen oder drahtgebundenen Kommunikationstechnologien beruhenden Datenübertragung an eine entfernte weitere Steuereinheit, die der bestimmten Anomalie entsprechende weitere Maßnahmen anstoßen bzw. einleiten kann. Gemäß einer vorteilhaften Ausgestaltung der Erfindung wird die Anomalie anhand einer Überschreitung eines vorbestimmten Schwellenwerts durch die ermittelte Abweichung bestimmt. Bevorzugt kann das künstliche neuronale Netzwerk wenigstens eine, bevorzugt ausschließlich eine, verborgene Schicht mit verborgenen Neuronen aufweisen. Die verborgenen Neuronen sind nach einer weiteren bevorzugten Ausgestaltung jeweils als multiplikative Einheiten (hierin auch als Produkt-Einheit bezeichnet) ausgebildet, denen jeweils Eingangssignale zugeführt werden, die von der jeweiligen multiplikativen Einheit miteinander multipliziert werden. Im Vergleich zu herkömmlichen neuronalen Netzen kann die Anzahl der erforderlichen Neuronen des Netzwerks gemäß der Erfindung für denselben Anwendungsfall um wenigstens HSK.02.22.PCT Patentanmeldung - 4 - eine Größenordnung reduziert werden. Beispielsweise kann das neuronale Netzwerk des erfindungsgemäßen Verfahrens aus maximal etwa 50 Neuronen gebildet werden, so dass der Rechenaufwand im Erkennungsbetrieb erheblich reduziert werden kann. Bevorzugt werden zur Ausführung der Multiplikation die Eingangssignale logarithmiert, werden die logarithmierten Eingangssignale addiert und wird das Ergebnis der Addition exponenziert. Besonders bevorzugt werden die Eingangssignale mittels der komplexen Logarithmusfunktion logarithmiert und das Ergebnis der Addition mittels der komplexen Exponentialfunktion exponenziert. Weiterhin nach einer bevorzugten Ausgestaltung des Erfindungsgegenstands werden die logarithmierten Eingangssignale vor der Addition jeweils mit einem komplexen Gewicht multipliziert. Das komplexe Gewicht weist einen Realteil und einen Imaginärteil auf. Weiterhin kann das künstliche neuronale Netzwerk eine Ausgabeschicht mit wenigsten einem Ausgabeneuron aufweisen, dem die Ergebnisse der Multiplikation wenigstens eines Teils der multiplikativen Einheiten zugeführt werden, die jeweils mit einem komplexen Ausgabegewicht multipliziert werden und anschließend aufaddiert werden, um ein komplexes Ausgabesignal des Ausgabeneurons bereitzustellen. Das komplexe Ausgabesignal weist einen Realteil und einen Imaginärteil auf. Ein Maß für die Konfidenz bzw. Zuverlässigkeit des komplexen Ausgabesignals kann vorteilhaft mittels des Imaginärteils des komplexen Ausgabesignals bereitgestellt werden. Gemäß einer bevorzugten anderen Weiterbildung des Erfindungsgegenstands werden unterschiedliche Teilmengen der Zustände unterschiedlichen Modi des Systems zugeordnet, die jeweils ein unterschiedliches dynamisches Verhalten des Systems definieren, wobei die Anomalie in wenigstens zwei unterschiedlichen Modi, vorzugsweise in allen unterschiedlichen Modi, bestimmt wird. Mit anderen Worten können mittels der Modi unterschiedliche Normalzustände des Systems klassifiziert werden. Jeder Normalzustand weist Zustandsübergänge zwischen verschiedenen HSK.02.22.PCT Patentanmeldung - 5 - Zuständen im jeweiligen Systemmodus auf, wobei in jedem Modus Abweichungen zwischen dem vorhergesagten zukünftigen Zustand und dem mittels des wenigstens einen Erfassungsmittels erfassten zukünftigen Zustands ermittelt werden, aus denen wiederum ggfs. die Anomalie bestimmt wird. Auf diese Weise können unterschiedliche Systemmodi zum Beispiel unterschiedlichen Betriebsmodi einer Maschine zugeordnet werden, wobei die Erfindung die zuverlässige Bestimmung von Anomalien in jedem Maschinenbetriebsmodus ermöglicht. In einem weiteren Beispiel können die unterschiedlichen Systemmodi bei der Untersuchung von Beinahestürzen (z. B. Stolpern) von Lebewesen Gehen, Laufen und Setzen sein, wobei ein Beinahesturz in jedem der drei Systemmodi als Anomalie des jeweiligen Normalzustands Gehen, Laufen bzw. Setzen erkannt wird. Gemäß einem weiteren Aspekt der Erfindung weist eine Vorrichtung zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems, das Zustandsübergänge zwischen mehreren Zuständen aufweist, wenigstens ein Erfassungsmittel und eine Steuereinheit auf, wobei das Erfassungsmittel ausgebildet und angeordnet ist, wenigstens eine Teilmenge der Zustände des Systems zu erfassen, und die Steuereinheit ausgebildet und eingerichtet ist, ein Verfahren nach einem der vorhergehenden Ansprüche auszuführen. Insbesondere dient die Steuereinheit, beispielsweise Mikrocontroller, Mikroprozessor, digitaler Signalprozessor (DSP), Einplatinenrechner und dergleichen, die einen Speicher, wie zum Beispiel RAM, ROM, Flash etc., aufweisen kann, unter anderem dazu, den Erfassungsbetrieb und/oder Erkennungsbetrieb auszuführen bzw. zu steuern. Der Erfassungs- und Erkennungsbetrieb können von unterschiedlichen Steuereinheiten ausgeführt werden, sie können jedoch von ein und derselben Steuereinheit ausgeführt werden. Die Steuereinheit kann aufgrund des geringen erforderlichen Rechenaufwands zur Ausführung des erfindungsgemäßen Verfahrens energiesparend und kompakt ausgebildet sein, denn sie muss lediglich für eine moderate Rechenleistung ausgelegt sein. Es sei darauf hingewiesen, dass bezüglich verfahrensbezogener Begriffsdefinitionen sowie der Wirkungen und Vorteile verfahrensgemäßer Merkmale vollumfänglich auf die Erläuterungen sinngemäßer Definitionen, Wirkungen und Vorteile der erfindungsgemäßen Vorrichtung zurückgegriffen werden kann und umgekehrt. Insofern kann auf eine Wiederholung von HSK.02.22.PCT Patentanmeldung - 6 - Erläuterungen sinngemäß gleicher Merkmale, deren Wirkungen und Vorteile bezüglich der hierin offenbarten erfindungsgemäßen Vorrichtung sowie des hierin offenbarten erfindungsgemäßen Verfahrens zugunsten einer kompakteren Beschreibung weitgehend verzichtet werden. Nach einer bevorzugten Ausgestaltung ist das wenigstens eine Erfassungsmittel ein Sensor zur Erfassung einer mechanischen Schwingung, einer Beschleunigung, einer Ortslage im Raum, von Schallwellen, von elektrischen, magnetischen oder elektromagnetischen Feldern oder eine beliebige Kombination hiervon. Besonders bevorzugt ist die Vorrichtung als integrierte tragbare Einheit ausgebildet ist, z. B. als so genanntes Wearable. Alle Informationen können in diesem Fall lokal in der tragbaren Einheit vorliegen. Eine betriebsautarke Vorrichtung kann mittels eines Energiespeichers (z. B. Batterie, Akkumulator) zur elektrischen Versorgung der tragbaren Einheit bereitgestellt werden. Das wenigstens eine Erfassungsmittel bzw. Sensor kann in die Vorrichtung integriert sein. Auf diese Weise wird eine tragbare (z. B. von einem Lebewesen), mobile, preiswert herstellbare und kompakt bauende Vorrichtung bereitgestellt. Nach einem weiteren bevorzugten Aspekt der Erfindung wird die hierin offenbarte Vorrichtung zur Beinahesturzerkennung eines Lebewesens (z. B. Person) verwendet, wobei die Vorrichtung von dem Lebewesen getragen wird und ein Beinahesturz (z. B. Stolpern) beim Laufen, Gehen und/oder Setzen die zu erkennende Anomalie des dynamischen Systems darstellt. Ein noch weiterer bevorzugter Aspekt der Erfindung sieht die Verwendung der hierin offenbarten Vorrichtung zur Überwachung einer Maschine vor, wobei eine vorbestimmte Abweichung von einem nominalen Betriebsverhalten der Maschine die zu erkennende Anomalie darstellt. Die Erfindung dient der Erkennung von Anomalien beim Übergang eines Systems von einem Zustand zu einem anderen (hierin auch als dynamisches System bezeichnet). Das System kann beispielsweise ein Lebewesen (z. B. Mensch oder Tier) oder aber ein unbelebter Gegenstand wie beispielsweise eine Maschine, Gebäude, Fahrzeug und dergleichen sein, wobei der Zustand des Systems durch Sensoren gemessen werden kann (z. B. tragbare Beschleunigungssensoren bei Lebewesen oder an einem Gebäude oder einer Maschine HSK.02.22.PCT Patentanmeldung - 7 - montierbare akustische, optische, elektrische, magnetische, elektromagnetische oder auf Vibrationen reagierende Sensoren und dergleichen). Ohne zwingende Beschränkung der Erfindung hierauf ist eine wichtige Anwendung die Erkennung von Beinahestürzen (engl. „Near Falls“) mit Hilfe tragbarer Sensoren. Dies ist in der Prävention von Unfällen und in der Arbeitssicherheit ein sehr wichtiges Thema. Bei Maschinen eignet sich das Verfahren besonders gut zur Kontrolle auf der Basis der Beobachtung der gewöhnlichen Schallemissionen und des Vibrationsverhaltens. Jedenfalls kann ein Normalzustand des dynamischen Systems mit Hilfe der hierin offenbarten Erfindung mit relativ kurzen Beobachtungszeiträumen gelernt werden. Eine Anomalie im Verhalten des Systems kennzeichnet sich durch signifikante Abweichungen von dem Normalzustand. In anderen Worten weist die Erfindung die wesentlichen Eigenschaften auf: • Erlernen der Dynamik eines (unbekannten) dynamischen Systems (z. B. Mensch, Maschine, Lebewesen) in Form eines Modells, das als künstliches neuronales Netzwerk dargestellt werden kann (bevorzugt als flaches neuronales Netz) • Vorhersage (d. h. Extrapolation) des erwarteten nächsten Zustands des Systems • Erkennung von Anomalien als Abweichung des beobachteten Zustands vom erwarteten, extrapolierten Zustand, z. B. oberhalb einer Toleranzgrenze (vorbestimmter Schwellenwert) Bevorzugte Anwendungsgebiete betreffen: • Erkennen von Near Falls bzw. Beinahestürzen (Prävention und Arbeitssicherheit) - Am Körper getragene Sensoren - Mögliche Online-Auswertung in Echtzeit auf einem relativ leistungsschwachen Computer (z. B. Smartwatch oder Wearable) - Durchgehend laufende Analyse der Dynamik und statistische Auswertung - Mögliches Training des neuronalen Netzwerks auf dem gleichen Gerät wie zur Erfassung der Anomalien • Erkennen von Maschinenschäden HSK.02.22.PCT Patentanmeldung - 8 - - Einplatinenrechner bzw. Microcontroller möglich - Dadurch mögliche direkte Anbringung mit integrierter Sensorik - Implementierung sowohl auf einem zentralen Rechner als auch auf oder in der Nähe von Maschinenteilen - Erkennung von Maschinenschäden auf Basis der Anomalieerkennung • Systembeschreibung für die Kontrolle/Steuerung von technologischen Prozessen (Regelkreisen) - Erlernen eines (unbekannten) dynamischen Systems eines Prozesses aus Sensordaten einschließlich Kontroll-/Steuerungsparameter - Steuerung des Prozesses durch Vorhersage des zukünftigen, zu erwartenden Zustands, Ermitteln und Bestimmen der Abweichungen (Anomalien) und Einleitung entsprechender Maßnahmen - Erlernen der Kontroll-/Steuerungsfunktion als dynamisches System (hier können sowohl Methoden des Reinforcement-Learnings als auch der Optimalen Steuerung verwendet werden) - Umsetzung auf Einplatinenrechnern bzw. Microcontrollern/ Mikroprozessoren/DSPs möglich Das erfindungsgemäße Verfahren hat die Aufgabe, die Dynamik (Zustandsänderung von einem Beobachtungszeitpunkt zum nächsten) zu erlernen. Aus dieser Dynamik kann der Normalzustand bzw. die Normalzustände erlernt werden (d. h. Erfassungsbetrieb). Hierdurch kann ermittelt werden, in welchem der Normalzustände (bei der Ganganalyse z. B. Gehen, Laufen, Setzen etc.; bei Maschinen z. B. verschiedene Arbeitsmodi) sich das Lebewesen bzw. der unbelebte Gegenstand befindet und wie groß die Abweichungen vom regulären Zustand sind. Das beobachtete System kann in einem von ggfs. mehreren Normalzuständen sein. Die Dynamik dieser Zustände wird in der Trainingsphase (d. h. im Erfassungsbetrieb) gelernt. Im Einsatz (d. h. im Erkennungsbetrieb) vergleicht die Erfindung dann die beobachteten Zustandsänderungen mit den Zustandsänderungen, die den erlernten, vorhergesagten und extrapolierten Normalzuständen entsprechen. Wird keine gute Übereinstimmung mit diesen Vorhersagen erzielt, so wird das Ereignis als Anomalie gekennzeichnet und ggf. werden Gegenmaßnahmen ergriffen. HSK.02.22.PCT Patentanmeldung - 9 - Die Vorhersage der Dynamik wird mit Hilfe des neuronalen Netzwerks erreicht, das im Gegensatz zu herkömmlichen neuronalen Netzen multiplikative Kopplungen der Eingabesignale lernen kann. Dies kann insbesondere durch die Verwendung komplexwertiger Gewichte, sowie logarithmischer und exponentieller Aktivierungsfunktionen im Netzwerk erreicht werden. Das bereits trainierte Netz kann dann zur Anomalieerkennung eingesetzt werden. Der zukünftige Zustand des dynamischen Systems wird dadurch über das erlernte Modell berechnet und mit dem aktuellen (gemessenen) Zustand verglichen. Ein direkter Vergleich mit dem beobachteten dynamischen Zustand erlaubt es dann, die Anomalie über Berechnung des Abstandes zu erkennen. Dieser Ansatz zur Anomalieerkennung ist nur anwendbar, da das neuronale Netzwerk der Erfindung die Extrapolation von Funktionen erlaubt. Wesentliche Unterschiede des erfindungsgemäßen Verfahrens gegenüber herkömmlichen Verfahren sind: • Interpretation der Zustandsdynamik als nichtlineares dynamisches System, das von relativ einfachen multiplikativen Kopplungen getrieben wird. • Modellierung des dynamischen Systems durch ein interpretierbares mathematisches Modell, das auch bei größerer Anzahl von Eingabesignalen multiplikative Kopplungen selbständig erlernen kann. • Das gelernte Modell enthält relativ wenige Parameter (beispielsweise lediglich 7 Neuronen in einer einzigen verborgenen Schicht) und lässt sich daher sehr schnell trainieren und auswerten. Diese Eigenschaften ermöglichen u. a.: • Training und Analyse auf leistungsschwacher und energieeffizienter Hardware. • Gleichzeitige Erkennung des Normalzustands und möglicher Anomalien. • Sehr feine zeitliche Auflösung, Anomalien können u. U. unterhalb einer Periode (z. B. weniger als einem Schritt) erkannt werden, während viele herkömmliche Verfahren das Durchlaufen mindestens einer Periode voraussetzen. • Die gelernten Modellparameter enthalten kompakte Informationen über das System, die in weiteren Anwendungen (z. B. statistische Untersuchungen des Gangverhaltens HSK.02.22.PCT Patentanmeldung - 10 - bei unterschiedlichen Personen oder zur Qualitätskontrolle in der Produktion) eingesetzt werden können. Überblick über das Verfahren Offline Learning Es wird ein aufgenommener Datensatz offline zum Training des Modells genutzt und in der Regel nicht in Echtzeit ausgeführt. Die gelernten Exponenten und Kopplungen des Modells können allerdings gespeichert und in einer Echtzeitvariante (s. u. Online Learning) genutzt werden. Diese Möglichkeit besteht in dieser Form bei herkömmlichen neuronalen Netzen nicht, da keine Exponenten und Kopplungen gelernt werden können, sondern das gesamte herkömmliche neuronale Netz mit einer hohen Anzahl von Parametern neu trainiert werden müsste. Das erfindungsgemäße Verfahren erlaubt darüber hinaus die Verarbeitung einer großen Zahl von Eingabesignalen (z. B. Daten von Beschleunigungs-, Lage-, Magnetfeldsensoren etc.), die dann auf beliebige Weise miteinander multiplikativ gekoppelt werden können. Herkömmliche Verfahren können die vorherige Festlegung dieser Kopplungen erfordern. Wenn z. B. 10 Eingabekanäle (d. h. Eingabesignale) vorhanden sind, von denen z. B. drei miteinander multiplikativ gekoppelt sind, so gibt es, selbst wenn man annimmt, dass jeder Term in höchstens erster Potenz eingeht, bereits 10*9*8 = 720 mögliche Kopplungen. Bei höheren Potenzen wird die Anzahl der zu berücksichtigenden Möglichkeiten und damit die Modellgröße schnell prohibitiv groß. Während klassische neuronale Netze aus verschiedenen Schichten bestehen, die die Inputs (d. h. Eingangssignale) der vorherigen Schicht gewichtet aufsummieren und die Ergebnisse dann über eine Aktivierungsfunktion an die nächste Schicht weitergeben, kann das erfindungsgemäße Verfahren multiplikative Einheiten verwenden, die Überlagerungen von Potenzgesetzen zur Folgeschicht übertragen. Dies wird erreicht, indem die Inputs bzw. Eingangssignale logarithmiert, dann an beispielsweise ein lineares Perzeptron weitergereicht und schließlich dessen Output (d. h. Ausgabesignal) exponenziert wird. Um auch mit negativen Inputs umgehen zu können, können die komplexe Logarithmusfunktion und die komplexe HSK.02.22.PCT Patentanmeldung - 11 - Exponentialfunktion verwendet werden. Durch Anpassung des Netzwerks an Beobachtungen wird nun ein Modell bestimmt, das entweder den n-dimensionalen Zustand zu einer Instanz (z. B. Zeitpunkt) p, also oder die Zustandsänderung aus dem vorherigen Zustand möglichst gut vorhersagt. Eine Zustandsanomalie kann festgestellt werden, wenn die Abweichung des vorhergesagten Zustands vom tatsächlich beobachteten Zustand eine gewisse Schwelle überschreitet. Online Learning (Echtzeitvariante) In der Echtzeitvariante sind die offline ermittelten multiplikativen Kopplungen und ihre Exponenten wk,j vorgegeben, so dass nur noch die Gewichte αk ermittelt werden müssen. Dies kann mit wesentlich einfacheren Methoden, z. B. durch eine lineare Regression, direkt erreicht werden. Dies ist u. a. möglich, da die zuvor festgelegten bzw. gelernten Exponenten wkj das dynamische System mittels der multiplikativen Kopplungen qualitativ bereits beschreiben (einschließlich ggfs. der unterschiedlichen dynamischen Systemmodi). Die Überlagerungen der Potenzfunktionen können mit deutlich geringerem Aufwand online mittels der Vorfaktoren αk angepasst werden. Anomalieerkennung Das bereits trainierte neuronale Netzwerk kann dann zur Anomalieerkennung eingesetzt werden. Der zukünftige Zustand des dynamischen Systems wird dadurch über das erlernte Modell berechnet und mit dem aktuellen (gemessenen) Zustand verglichen. Die entsprechenden mathematischen Operationen werden durch das erfindungsgemäße neuronale Netzwerk realisiert. Ein direkter Vergleich mit dem beobachteten dynamischen Zustand erlaubt es dann, die Anomalie über Berechnung des Abstandes zu erkennen. Dieser Ansatz zur HSK.02.22.PCT Patentanmeldung - 12 - Anomalieerkennung ist nur anwendbar, da das neuronale Netzwerk des erfindungsgemäßen Verfahrens die Extrapolation von Funktionen erlaubt. Training des Netzes Aufbau des Netzes Lernregel für das Training des Netzes HSK.02.22.PCT Patentanmeldung
HSK.02.22.PCT Patentanmeldung - 14 - Es ist zu verstehen, dass die vorstehende mathematische Beschreibung lediglich beispielhaft ist und dem Zweck dient, die der Erfindung zugrundeliegenden Prinzipien weiter zu verdeutlichen. Keineswegs ist die Erfindung ausschließlich auf diese beschränkt. Die Ableitungen für den Gradientenabstieg können auch durch automatisches oder symbolisches Differenzieren gebildet werden. Statt des Gradientenabstiegs kommen auch andere an sich bekannte Optimierungsverfahren in Frage, ebenfalls Heuristiken wie zum Beispiel Simulated Annealing. HSK.02.22.PCT Patentanmeldung - 15 - 6. Zum Trainieren des Modells und zur Vorhersage des momentanen Zustands können Stichproben aus einem zurückliegenden Zeitfenster herangezogen werden oder nur eine Teilmenge dieser Stichproben. Dies erlaubt es, die Dimensionalität des Problems zu verringern, ohne dabei zeitlich weiter zurückliegende Informationen auszuschließen. 7. An die Produkteinheiten (siehe Schritt 2 oben) können sowohl die logarithmierten Eingangsdaten als auch nicht-logarithmierte Eingangsdaten weitergegeben werden. Dies erlaubt es, komplexwertige Exponentialfunktionen (einschließlich Sinus- und Kosinusfunktionen) als multiplikative und/oder additive Terme einzubringen. So lassen sich auch nichtlineare Differentialgleichungen mit periodischen Termen beschreiben, z. B. ein periodisch getriebener Oszillator. Als ein Beispiel kann die Funktion f(x) = x cos (3x) dienen. Die Ausgabesignale des erfindungsgemäßen Verfahrens können komplexwertig sein, was den direkten Vorteil hat, dass die Imaginärteile in der Optimierung über eine entsprechende Kostenfunktion (siehe Gleichung 8) bestraft werden können. Dies wirkt sich positiv auf die Konvergenz des Verfahrens aus. Mögliche bevorzugte Ober- und Untergrenzen für die Anzahl der Neuronen Anhand des Trainings- und Validierungsfehlers lässt sich die Anzahl an benötigten multiplikativen Einheiten ermitteln. Bewirkt weiteres Hinzufügen von multiplikativen Einheiten keine Verringerung des Trainings- und Validierungsfehlers, so ist dieser Prozess zu stoppen. Da das erfindungsgemäße Verfahren nur kleine Netze verwendet (d. h. Anzahl der Neuronen bevorzugt kleiner gleich 30), ist diese Methode durchführbar. Dieses Vorgehen ist HSK.02.22.PCT Patentanmeldung - 16 - für den Offline-Modus geeignet. Im Online-Modus baut man dann auf Netzwerkgrößen auf, die sich im Offline-Modus bewährt haben. Weitere Merkmale und Vorteile der Erfindung ergeben sich aus der folgenden Beschreibung eines nicht einschränkend zu verstehenden Ausführungsbeispiels der Erfindung, die im Folgenden unter Bezugnahme auf die Zeichnung näher erläutert wird. In dieser Zeichnung zeigen schematisch: Fig.1 ein Anwendungsbeispiel für eine Anomalieerkennung gemäß einem Ausführungsbeispiel eines Verfahrens gemäß der Erfindung, Fig.2 ein erstes Beispiel eines Erfassungsbetriebs für den in Fig. 1 gezeigten Anwendungsfall gemäß dem Ausführungsbeispiel des erfindungsgemäßen Verfahrens, Fig.3 ein zweites Beispiel eines Erfassungsbetriebs für den in Fig. 1 gezeigten Anwendungsfall gemäß dem Ausführungsbeispiel des erfindungsgemäßen Verfahrens, Fig.4 ein Beispiel einer Vorhersage eines Systemzustands in einem Erkennungsbetriebs gemäß dem Ausführungsbeispiel des erfindungsgemäßen Verfahrens, Fig.5 ein Modellierungsergebnis einer beispielhaften Funktion f(x) = x cos(3x) und Fig.6 ein Vergleich eines realen und eines simulierten dynamischen Systems. In den unterschiedlichen Figuren sind hinsichtlich ihrer Funktion gleichwertige Teile stets mit denselben Bezugszeichen versehen, so dass diese in der Regel auch nur einmal beschrieben werden. In Fig.1 sind beispielhaft Ergebnisse zur Anomalieerkennung dargestellt. In den oberen drei Reihen 100, 101, 102 sind die von einem Erfassungsmittel (vorliegend Beschleunigungssensoren) gemessenen x-, y- und z-Beschleunigungen dargestellt, die HSK.02.22.PCT Patentanmeldung - 17 - während des Gehens mit einem Smartphone erhoben wurden. Es sind drei Stolperereignisse zu erkennen. Ein Offline-Training des Modells Über die gestrichelt umrandete Training-Region 110 erlaubt die Vorhersage der Beschleunigung in y-Richtung mit der aktuellen Messung über den quadratischen Abstand (siehe unterste Reihe 103). Das ungestörte Gehen (d. h. Normalzustand) entspricht einem fast periodischen Signal mit leicht variierender Amplitude. Die beiden Near-Fall-Ereignisse sind durch Peaks in den z- und x-Komponenten recht gut erkennbar. Deutlich unauffälliger sind diese Störungen in der y- Komponente. Als Anomalieindikator 103 wird mit dem beispielhaften Verfahren eine ermittelte Zeitreihe der Abweichung der erwarteten von der beobachteten Beschleunigung in y-Richtung bestimmt (Anomalieindikatorfunktion). Obwohl die Beschleunigungsdaten in dieser Richtung keine deutlichen Peaks aufweisen, kann das erfindungsgemäße Verfahren die Anomalien (kurz vor 5000 und 7000 [1/100 sec]) klar identifizieren. Die Stolperereignisse sind deutlich zu erkennen und lassen sich nun durch Anwendung einen Schwellenwertes detektieren und einem genauen Zeitpunkt zuordnen. In Fig.2 ist beispielhaft ein Offline-Learning des Modells bzw. neuronalen Netzwerks gemäß einem Ausführungsbeispiel der Erfindung dargestellt. Anhand von Stichproben-Daten werden die Gewichte 120, 121 angepasst. Hier können Stichproben, die über einen vergleichsweise längeren Zeitraum erhoben wurden, verarbeitet werden, um die Exponenten wkj und damit die multiplikativen Kopplungen, die in einem System vorliegen, möglichst genau zu bestimmen. In Fig.3 ist beispielhaft ein Online-Learning des Modells bzw. neuronalen Netzwerks gemäß einem Ausführungsbeispiel der Erfindung dargestellt. Die im Offline-Learning gelernten multiplikativen Kopplungen, gegeben durch die Gewichte wkj, sind beim Online-Learning eingefroren. Über lineare Regression werden im Online-Modus nur noch die Gewichte an die aktuelle Stichprobe angepasst. Dies ist u. a. möglich, da die zuvor festgelegten bzw. gelernten Exponenten wkj das dynamische System mittels der multiplikativen Kopplungen qualitativ beschreiben (einschließlich ggfs. der unterschiedlichen dynamischen Systemmodi). Die Überlagerungen der Potenzfunktionen können mit deutlich geringerem Aufwand online mittels der Vorfaktoren αk angepasst werden. HSK.02.22.PCT Patentanmeldung - 18 - In Fig. 4 ist beispielhaft die Nutzung der im Offline- und Online-Modus erlernten Modelle bzw. neuronalen Netzwerke gemäß einem Ausführungsbeispiel der Erfindung dargestellt, um die Entwicklung des dynamischen Systems vorherzusagen. Fig. 5 stellt eine erfolgreiche Modellierung der Funktion f(x) = x cos(3x) gemäß der oben beschriebenen Variante 7 dar. Die Funktion ist in Fig.5 als durchgezogene Linie dargestellt, die Trainingsdaten mittels Dreiecke und die Ergebnisse eines Tests mittels Kreisscheiben. Es ist deutlich zu erkennen, dass die Funktion erfolgreich erlernt wurde, die Testergebnisse im Wesentlichen Abweichung vom eigentlichen Verlauf der Funktion f(x) = x cos(3x) aufweisen. Darüber hinaus zeigt das Testergebnis in Fig. 5 ebenfalls deutlich, dass die Erfindung die Extrapolation der Funktion über den Bereich der bereitgestellten Trainingsdaten hinaus präzise ermöglicht (s. Testpunkte für x < -3 und x > 3). Fig. 6 stellt einen Vergleich eines beispielhaften realen, beobachteten dynamischen Systems und seine entsprechende Simulation mittels eines gelernten Modells gemäß der Erfindung dar. Es ist eine gute Übereinstimmung zwischen dem realen System und seinem vorhergesagten Verhalten basierend auf der Erfindung zu erkennen. Zum Trainieren eines Modells des dynamischen Systems, d. h. zum Trainieren des künstlichen neuronalen Netzwerks, kann eine Vorrichtung (z. B. Wearable, Smartphone o. ä.) zur Erkennung einer Anomalie im Verhalten des dynamischen Systems – oder alternativ eine hiervon separate, weitere Vorrichtung – eine Benutzerschnittstelle bereitstellen, die es einem Anwender ermöglicht, das Modell interaktiv zu trainieren und auf Testdaten anzuwenden, um die Qualität des erlernten Modells zu überprüfen. Hierzu wird bevorzugt vom Anwender ein Trainingsbereich (z. B. aus gestreamten Daten des Erfassungsmittels) ausgewählt, der zum Training des dynamischen Systems benutzt wird (vgl. Fig. 1-3). Die Benutzerschnittstelle erlaubt es, verschiedene Parameter des Verfahrens einzustellen, z. B. die Anzahl der Produkt- Einheiten, die Lernrate, eine Indexauswahl der für das Training zu verwendenden Stichproben (siehe Variante 6). Die Schnittstelle erlaubt es, einen Datenstrom von erfassten Zuständen des Systems zu empfangen, z. B. von einem Wearable abzurufen, Messungen online zu starten, durchzuführen und die erlernten Modelle abzuspeichern. Die Vorhersagen des gelernten Modells können auf einem Display der Vorrichtung dargestellt werden. Die Anomalieindikatorfunktion (vgl. Fig.1) kann berechnet werden und kann ebenfalls im Display HSK.02.22.PCT Patentanmeldung - 19 - dargestellt werden. Die gelernten Modelle können auf neue Daten eines Erkennungsbetriebs angewandt werden und zur Klassifikation von Bewegungszuständen benutzt werden. Die hierin offenbarte erfindungsgemäße Vorrichtung sowie das erfindungsgemäße Verfahren zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems sind nicht auf die hierin jeweils offenbarten konkreten Ausführungsformen beschränkt, sondern umfassen jeweils auch gleich wirkende weitere Ausführungsformen, die sich aus technisch sinnvollen weiteren Kombinationen der hierin beschriebenen Merkmale sowohl der Vorrichtung als auch des Verfahrens ergeben. Insbesondere sind die hierin vorstehend in der allgemeinen Beschreibung und der Figurenbeschreibung genannten und/oder in den Figuren allein gezeigten Merkmale und Merkmalskombinationen nicht nur in den jeweils hierin explizit angegebenen Kombinationen, sondern auch in anderen Kombinationen oder in Alleinstellung verwendbar, ohne den Rahmen der vorliegenden Erfindung zu verlassen. Die hierin offenbarte Vorrichtung zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems wird besonders vorteilhaft zur Beinahesturzerkennung (z. B. Stolpern) eines Lebewesens (z. B. Mensch) verwendet, wobei die Vorrichtung von dem Lebewesen getragen wird und ein Beinahesturz beim Laufen, Gehen und/oder Setzen die zu erkennende Anomalie darstellt. Die hierin offenbarte Vorrichtung zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems wird nach einer weiteren Ausgestaltung vorteilhaft zur Überwachung einer Maschine verwendet, wobei eine vorbestimmte Abweichung von einem nominellen Betriebsverhalten der Maschine die zu erkennende Anomalie darstellt. Die Maschine kann unterschiedliche Betriebsmodi aufweisen, wobei die Anomalie für jeden Betriebsmodus bestimmt werden kann. Die Erfindung ist nicht zwingend ausschließlich auf die vorbeschriebenen Anwendungsfälle beschränkt. Sie kann auch in anderen Fällen vorteilhaft zur Anwendung kommen, in denen ein dynamisches System in seinem Verhalten beobachtet werden soll, bei dem gegenüber einem normalen, nominellen dynamischen Verhalten des Systems Anomalien bzw. deutliche Abweichungen auftreten können, auf deren Basis frühzeitig entsprechende Gegenmaßnahmen eingeleitet werden können, um insbesondere (weiteren) Schaden von dem dynamischen HSK.02.22.PCT Patentanmeldung - 20 - System abzuwenden oder zumindest abzumildern. Ein Beispiel wäre ein Roboterarm, der in der geplanten Bewegung gestört wird. Wenn dagegen keine Anomalien auftreten, kann das System auch genutzt werden, um positives Feedback zu geben und zu signalisieren, dass die Bewegungen korrekt ausgeführt wurden. Auf diese Weise kann es z.B. für Trainingszwecke im Sport oder zum Erlernen von Bewegungen in der Rehabilitation genutzt werden. Der Sensor kann auch in Sportgeräte eingebaut werden. Das Feedbacksignal kann auch graduell eine Abweichung von der gewünschten Bewegung signalisieren, z.B. durch akustische Signale, etwa um einen angestrebten Bewegungsablauf zu erlernen.
HSK.02.22.PCT Patentanmeldung - 21 - Bezugszeichenliste 100 Beschleunigung in z-Richtung 101 Beschleunigung in x-Richtung 102 Beschleunigung in y-Richtung 103 Anomalieindikator für y-Beschleunigung 110 Trainingsbereich 120 Trainierbares Gewicht 121 Trainierbares Gewicht

Claims

HSK.02.22.PCT Patentanmeldung - 22 - Patentansprüche 1. Verfahren zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems, das Zustandsübergänge zwischen mehreren Zuständen aufweist, wobei wenigstens eine Teilmenge der Zustände in einem Erfassungsbetrieb erfasst wird, mit welcher ein künstliches neuronales Netzwerk trainiert wird, wobei in einem Erkennungsbetrieb ein zukünftiger Zustand des Systems mittels des künstlichen neuronalen Netzwerks vorhergesagt wird, der zukünftige Zustand des Systems mittels eines Erfassungsmittels erfasst wird, eine Abweichung des erfassten zukünftigen Zustands vom vorhergesagten zukünftigen Zustand ermittelt wird und die Anomalie aus der ermittelten Abweichung bestimmt wird. 2. Verfahren nach dem vorhergehenden Anspruch, dadurch gekennzeichnet, dass die Anomalie anhand einer Überschreitung eines vorbestimmten Schwellenwerts durch die ermittelte Abweichung bestimmt wird. 3. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das künstliche neuronale Netzwerk wenigstens eine, bevorzugt ausschließlich eine, verborgene Schicht mit verborgenen Neuronen aufweist. 4. Verfahren nach dem vorhergehenden Anspruch, dadurch gekennzeichnet, dass die verborgenen Neuronen jeweils als multiplikative Einheiten ausgebildet sind, denen jeweils Eingangssignale zugeführt werden, die von der jeweiligen multiplikativen Einheit miteinander multipliziert werden. 5. Verfahren nach dem vorhergehenden Anspruch, dadurch gekennzeichnet, dass zur Ausführung der Multiplikation die Eingangssignale logarithmiert werden, die logarithmierten Eingangssignale addiert werden und das Ergebnis der Addition exponenziert wird. HSK.02.22.PCT Patentanmeldung - 23 - 6. Verfahren nach dem vorhergehenden Anspruch, dadurch gekennzeichnet, dass die Eingangssignale mittels der komplexen Logarithmusfunktion logarithmiert werden und das Ergebnis der Addition mittels der komplexen Exponentialfunktion exponenziert wird. 7. Verfahren nach einem der beiden vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die logarithmierten Eingangssignale vor der Addition jeweils mit einem komplexen Gewicht multipliziert werden. 8. Verfahren nach einem der Ansprüche 4 bis 7, dadurch gekennzeichnet, dass das künstliche neuronale Netzwerk eine Ausgabeschicht mit wenigsten einem Ausgabeneuron aufweist, dem die Ergebnisse der Multiplikation wenigstens eines Teils der multiplikativen Einheiten zugeführt werden, die jeweils mit einem komplexen Ausgabegewicht multipliziert werden und anschließend aufaddiert werden, um ein komplexes Ausgabesignal des Ausgabeneurons bereitzustellen. 9. Verfahren nach dem vorhergehenden Anspruch, dadurch gekennzeichnet, dass ein Maß für die Konfidenz des komplexen Ausgabesignals mittels eines Imaginärteils des komplexen Ausgabesignals bereitgestellt wird. 10. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass unterschiedliche Teilmengen der Zustände unterschiedlichen Modi des Systems zugeordnet werden, die jeweils ein unterschiedliches dynamisches Verhalten des Systems definieren, wobei die Anomalie in wenigstens zwei unterschiedlichen Modi bestimmt wird. 11. Verfahren nach Anspruch 3, dadurch gekennzeichnet, dass HSK.02.22.PCT Patentanmeldung - 24 - das künstliche neuronale Netzwerk maximal 50 Neuronen in der verborgenen Schicht aufweist. 12. Vorrichtung zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems, das Zustandsübergänge zwischen mehreren Zuständen aufweist, aufweisend wenigstens ein Erfassungsmittel und eine Steuereinheit, wobei das Erfassungsmittel ausgebildet und angeordnet ist, wenigstens eine Teilmenge der Zustände zu erfassen, und die Steuereinheit ausgebildet und eingerichtet ist, ein Verfahren nach einem der vorhergehenden Ansprüche auszuführen. 13. Vorrichtung nach dem vorhergehenden Anspruch, dadurch gekennzeichnet, dass das wenigstens eine Erfassungsmittel ein Sensor zur Erfassung einer mechanischen Schwingung, einer Beschleunigung, einer Ortslage im Raum, von Schallwellen, von elektrischen, magnetischen oder elektromagnetischen Feldern oder eine beliebige Kombination hiervon ist. 14. Vorrichtung nach einem der beiden vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Vorrichtung als integrierte tragbare Einheit ausgebildet ist. 15. Verwendung der Vorrichtung nach einem der Ansprüche 12 bis 14 zur Beinahesturzerkennung eines Lebewesens, wobei die Vorrichtung von dem Lebewesen getragen wird und ein Beinahesturz beim Laufen, Gehen und/oder Setzen die zu erkennende Anomalie darstellt. 16. Verwendung der Vorrichtung nach einem der Ansprüche 12 bis 14 zur Überwachung einer Maschine, wobei eine vorbestimmte Abweichung von einem nominalen Betriebsverhalten der Maschine die zu erkennende Anomalie darstellt.
EP24708441.1A 2023-02-28 2024-02-28 Verfahren und vorrichtung zur erkennung einer anomalie im verhalten eines dynamischen systems Pending EP4673875A1 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102023104927.5A DE102023104927A1 (de) 2023-02-28 2023-02-28 Verfahren und Vorrichtung zur Erkennung einer Anomalie im Verhalten eines dynamischen Systems
PCT/EP2024/055143 WO2024180150A1 (de) 2023-02-28 2024-02-28 Verfahren und vorrichtung zur erkennung einer anomalie im verhalten eines dynamischen systems

Publications (1)

Publication Number Publication Date
EP4673875A1 true EP4673875A1 (de) 2026-01-07

Family

ID=90105431

Family Applications (1)

Application Number Title Priority Date Filing Date
EP24708441.1A Pending EP4673875A1 (de) 2023-02-28 2024-02-28 Verfahren und vorrichtung zur erkennung einer anomalie im verhalten eines dynamischen systems

Country Status (4)

Country Link
EP (1) EP4673875A1 (de)
CN (1) CN121039674A (de)
DE (1) DE102023104927A1 (de)
WO (1) WO2024180150A1 (de)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102024132472A1 (de) * 2024-11-07 2026-05-07 Ifm Electronic Gmbh Datenlogger zur Anomalieerkennung und Verfahren
DE102024132471A1 (de) * 2024-11-07 2026-05-07 Ifm Electronic Gmbh Sensorgerät zur Anomalieerkennung und Verfahren

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11886980B2 (en) * 2019-08-23 2024-01-30 Nvidia Corporation Neural network accelerator using logarithmic-based arithmetic

Also Published As

Publication number Publication date
WO2024180150A1 (de) 2024-09-06
CN121039674A (zh) 2025-11-28
DE102023104927A1 (de) 2024-08-29

Similar Documents

Publication Publication Date Title
DE102017108169B4 (de) Produktionssystem, das einen Bestimmungswert einer Variablen in Bezug auf eine Produktabweichung festlegt
DE102017008836B4 (de) Maschinelle Lernvorrichtung und maschinelles Lernverfahren zum Lernen eines optimalen Objekt-Greifwegs
EP2165296B1 (de) Verfahren und vorrichtung zur rechnergestützten vorhersage von intendierten bewegungen
WO2024180150A1 (de) Verfahren und vorrichtung zur erkennung einer anomalie im verhalten eines dynamischen systems
DE102017217733A1 (de) Prüfen eines neuronalen Netzes
DE102018128289A1 (de) Verfahren und vorrichtung für eine autonome systemleistung und zur einstufung
DE112011101370T5 (de) Neuronales Netz mit kanonischen gepulsten Neuronen für einen raumzeitlichen Assoziativspeicher
WO2004090807A2 (de) Verfahren zum trainieren von neuronalen netzen
DE102016011523A1 (de) Motorantriebsvorrichtung mit vorbeugender Wartungsfunktion eines Gebläsemotors
DE102017209262A1 (de) Verfahren und Vorrichtung zur automatischen Gestenerkennung
WO2019057568A1 (de) Verfahren und vorrichtung zur beurteilung eines müdigkeitsgrads eines fahrzeuginsassen eines fahrzeugs
EP3282399A1 (de) Verfahren zur verbesserten erkennung von prozessanomalien einer technischen anlage sowie entsprechendes diagnosesystem
WO2020187591A1 (de) Verfahren und vorrichtung zum ansteuern eines roboters
DE102017006155A1 (de) Verfahren zum Betreiben eines Sensorsystems eines Fahrzeugs
EP2734998A2 (de) Assistenzsystem
WO2025010459A1 (de) Verfahren und system zur ermittlung einer ladestromgrenze für einen ladeprozess einer wiederaufladbaren batterie
WO2010006928A1 (de) Verfahren und vorrichtung zur überprüfung und feststellung von zuständen eines sensors
EP3467722B1 (de) Konfiguration einer kraftfahrzeug-fahrerassistenzvorrichtung mit einem neuronalen netzwerk im laufenden betrieb
EP0750764B1 (de) Verfahren und anordnung zur fuzzy-regelung
DE102019217300A1 (de) Verfahren zum Trainieren eines künstlichen neuronalen Netzes, Computerprogramm, Speichermedium, Vorrichtung, künstliches neuronales Netz und Anwendung des künstlichen neuronalen Netzes
DE102017219269A1 (de) Klassifizierung mit automatischer Auswahl aussichtsreicher Lerndaten
DE102025109319A1 (de) Zeitreihen-anomalieerkennung
EP4677393A1 (de) Verfahren zur erkennung eines lebewesens, auswerteeinheit und fahrzeug
DE102019201045B4 (de) Verfahren, Vorrichtung und Computerprogramm zum Ermitteln einer Aktion oder Trajektorie eines Roboters
DE102019107126B3 (de) Verarbeiten eines Ultraschallsignals mittels eines künstlichen neuronalen Netzwerks

Legal Events

Date Code Title Description
STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: UNKNOWN

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE INTERNATIONAL PUBLICATION HAS BEEN MADE

PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: REQUEST FOR EXAMINATION WAS MADE

17P Request for examination filed

Effective date: 20250916

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC ME MK MT NL NO PL PT RO RS SE SI SK SM TR