DE102017213510A1

DE102017213510A1 - Verfahren und Vorrichtung zum Erzeugen eines maschinellen Lernsystems, und virtuelle Sensorvorrichtung

Info

Publication number: DE102017213510A1
Application number: DE102017213510.7A
Authority: DE
Inventors: Volker Imhof; Ernst Kloppenburg; Heiner Markert
Original assignee: Robert Bosch GmbH
Current assignee: Robert Bosch GmbH
Priority date: 2017-08-03
Filing date: 2017-08-03
Publication date: 2019-02-07
Also published as: US11151475B2; US20190042980A1

Abstract

Verfahren zum automatischen Erzeugen eines maschinellen Lernsystems (200), welches abhängig von einer Zeitreihe einer Eingangsgröße (x) eine Zeitreihe einer Ausgangsgröße (s) ermittelt, die eine Zeitreihe einer tatsächlichen Ausgangsgröße (y) approximiert, wobei das maschinellen Lernsystem (200) abhängig von Werten (x, x, ...) der Eingangsgröße (x) und von Werten (s, s...) der Ausgangsgröße (s) zu Zeitpunkten (t-1, t-2, ...), die in einem vorgebbaren Zeitintervall liegen, das vor einem vorgebbaren Zeitpunkt (t) liegt, einen dem vorgebbaren Zeitpunkt (t) zugeordneten Wert (s) der Ausgangsgröße (s) ermittelt,wobei nur eine Teilmenge der in dem vorgebbaren Zeitintervall verfügbaren Werte (x, x, ...) der Eingangsgröße (x) und der Werte (s, s...) der Ausgangsgröße (s) in die Ermittlung der dem vorgebbaren Zeitpunkt (t) zugeordneten Ausgangsgröße (s) einfließt,wobei die Teilmenge derart ausgewählt wird, dass sie genau diejenigen verfügbaren Werte (x, x, ...) der Eingangsgröße (x) und der Werte (s, s...) der Ausgangsgröße (s) umfasst, die Zeitpunkten (t-1, t-2, ...) in dem vorgebbaren Zeitintervall zugeordnet sind, die in einem vorgebbaren äquidistanten Auswahlraster innerhalb des vorgebbaren Zeitintervalls liegen.

Description

Die Erfindung betrifft ein_Verfahren und eine Vorrichtung zum Erzeugen eines maschinellen Lernsystems, ein Computerprogramm, dass das Verfahren ausführt, wenn es auf einem Computer abläuft, ein maschinenlesbares Speichermedium und eine virtuelle Sensorvorrichtung, die das maschinelle Lernsystem umfasst.
Stand der Technik
Aus der DE 10 2014 226 485 A1 ist ein Verfahren zum Vermessen eines physikalischen Systems), um Modelldatenpunkte zu erhalten, die jeweils durch einen Messpunkt und einen zugeordneten Ausgangswert einer Ausgangsgröße bestimmt sind, mit folgenden Schritten bekannt:

- Zyklisches Anlegen von vorgegebenen Messpunkten an das physikalische System;
- Erfassen von resultierenden Ausgangswerten der Ausgangsgröße des physikalischen Systems bei Anlegen der Messpunkte;
- Prädizieren von zukünftigen Ausgangswerten der Ausgangsgröße basierend auf einer Prädiktionsfunktion, die auf einem NARX-Modell basiert;
- Bereitstellen von einem oder mehreren der an das physikalische System vorzugebenden Messpunkte durch eine Korrekturfunktion, wenn eine Verletzung einer vorgegebenen Überwachungsbedingung durch den Verlauf der prädizierten Ausgangswerte in einer Überwachungsfunktion erkannt wird.

Offenbarung der Erfindung
Zur Erstellung statistischer Regressionsmodelle und/oder dynamischer Modelle können sogenannte NARX-Modelle (NARX = „nonlinear autoregressive exogenous“) verwendet werden, bei denen Eingangsgrößen und Ausgangsgröße des Modells in verzögerter Form als zusätzliche Eingangsgrößen hinzugefügt werden. Für diesen erweiterten Eingangsraum kann dann ein statisches Modell erstellt werden. Auf diese Weise wird die Vergangenheit mit berücksichtigt.
In einem ersten Aspekt betrifft die Erfindung daher ein Verfahren zum Erzeugen eines maschinellen Lernsystems, welches abhängig von einer Zeitreihe von mindestens einer Eingangsgröße eine Zeitreihe mindestens einer Ausgangsgröße ermittelt, die eine Zeitreihe einer tatsächlichen Ausgangsgröße approximiert, wobei das maschinelle Lernsystem abhängig von Werten der Eingangsgröße und von Werten der Ausgangsgröße zu Zeitpunkten, die in einem vorgebbaren Zeitintervall liegen, die vor einem vorgebbaren Zeitpunkt liegen, einen dem vorgebbaren Zeitpunkt zugeordneten Wert der Ausgangsgröße ermittelt. Vorzugsweise ermittelt das maschinelle Lernsystem die Ausgangsgröße auch abhängig vom Wert der Eingangsgröße, den diese zu dem vorgebbaren Zeitpunkt annimmt. Die Eingangsgröße kann hierbei eine vektorwertige Größe sein, d.h. das maschinelle Lernsystem ist nicht zwangsläufig vom Type SISO (Englisch: „Single Input Single Output“), sondern kann auch vom Type MISO (Englisch: „Multi Input Single Output“) sein.
Das maschinelle Lernsystem beinhaltet also ein dynamisches Modell, beispielsweise ein NARX-Modell mit Gauß-Prozess.
Es ist weiter vorgesehen, dass nur eine vorgebbare Teilmenge der in dem vorgebbaren Zeitintervall verfügbaren Werte der Eingangsgröße und der Werte der Ausgangsgröße in die Ermittlung der dem vorgebbaren Zeitpunkt zugeordneten Ausgangsgröße einfließt.
Die Teilmenge ist hierbei derart ausgewählt, dass sie genau diejenigen verfügbaren Werte der Eingangsgröße und der Werte der Ausgangsgröße umfasst, die Zeitpunkten in dem vorgebbaren Zeitintervall zugeordnet sind, die in einem vorgebbaren äquidistanten Auswahlraster innerhalb des vorgebbaren Zeitintervalls liegen.
D.h. die dem vorgebbaren Zeitpunkt zugeordnete Ausgangsgröße wird genau abhängig von denjenigen Werten der Eingangsgröße und rückgeführten Ausgangsgröße ermittelt, die in dieser Teilmenge enthalten sind. Das vorgebbare äquidistante Auswahlraster ist insbesondere ein endliches Auswahlraster, d.h. es umfasst nur eine endliche Anzahl an Zeitpunkten.
D.h. das äquidistante Auswahlraster kann durch eine Verzögerungsmatrix charakterisiert sein, welche aus Nullen und Einsen besteht, die jeweils angeben, ob eine bestimmte Verzögerung, also ein bestimmter Zeitpunkt, verwendet wird, oder nicht.
Ein solches maschinelles Lernsystem ist besonders flexibel anwendbar.
In einer Weiterbildung kann vorgesehen sein, dass Parameter des maschinellen Lernsystem derart angepasst werden, dass die Zeitreihe der Ausgangsgröße möglichst genau die Zeitreihe der tatsächlichen Ausgangsgröße approximiert, wobei die Zeitreihe der Eingangsgröße mindestens einem Aktor eines physikalischen Systems zugeführt wird und die tatsächliche Ausgangsgröße ein Ausgangssignal eines Sensors des physikalischen Systems ist.
In einem weiteren Aspekt kann vorgesehen sein, dass Parameter, die das äquidistante Auswahlraster charakterisieren, derart optimiert werden, dass ein Optimierungskriterium minimiert wird, wobei das Optimierungskriterium derart gewählt ist, dass sein Wert umso kleiner ist, je besser die ermittelte Zeitreihe der Ausgangsgröße der Zeitreihe der tatsächlichen Ausgangsgröße entspricht. Als Maß hierfür kann beispielsweise die Methode der kleinsten Fehlerquadrate (RMSE) verwendet werden..
Selbstverständlich ist es alternativ auch möglich, dass das Optimierungskriterium maximiert wird, und dass Optimierungskriterium derart gewählt ist, dass sein Wert umso größer ist, je besser die ermittelte Zeitreihe der Ausgangsgröße der Zeitreihe der tatsächlichen Ausgangsgröße entspricht.
D.h. dieses zu lösende Optimierungsproblem beantwortet die Frage, zu welchen Zeitpunkten die Eingangs- bzw. Ausgangssignale verwendet werden sollen, um ein qualitativ gutes dynamisches Modell zu erhalten. Die zu optimierenden Variablen bilden die Verzögerungsmatrix bestehend aus Nullen und Einsen, die angeben, ob eine Verzögerung verwendet wird oder nicht.
In einer Weiterbildung kann vorgesehen sein, dass das Optimierungskriterium derart gewählt ist, dass sein Wert auch umso kleiner wird, je weniger Zeitpunkte das äquidistante Auswahlraster umfasst.
D.h. das Optimierungsproblem wird mulitkriteriell gelöst. Die Lösung dieses Optimierungsproblems ist üblicherweise als Paretofront gegeben, aus der geeignete Parameter dann nach vorgebbaren Kriterien ausgewählt werden können, beispielsweise zufällig. Als Optimierungsalgorithmus wird vorteilhafterweise ein evolutionärer Algorithmus verwendet, beispielsweise der NSGA-II.
In einem weiteren Aspekt kann vorgesehen sein, dass die Parameter, die das äquidistante Auswahlraster charakterisieren, einen ersten Parameter umfassen, der charakterisiert, wie viele Zeitpunkte das äquidistante Auswahlraster umfasst, und einen zweiten Parameter umfassen, der einen Beginn des äquidistanten Auswahlrasters charakterisiert, und einen dritten Parameter umfassen, der eine Schrittweite des äquidistanten Auswahlrasters charakterisiert. Vorteilhafterweise umfassen die Parameter genau diese drei Parameter.
Gegenüber einer Optimierung aller Einträge der Verzögerungsmatrix, was der Suche nach einer optimalen Binärmatrix entspricht, entspricht dieses Verfahren der Suche nach einer optimalen Integer-Matrix als Verzögerungsbeschreibung. Dies hat den Vorteil, dass das Optimierungsproblem wesentlich kleiner ist. Dies macht die Suche nach einer näherungsweise optimalen Lösung wesentlich effizienter.
Dies liegt daran, dass sich jede derartige Verzögerungsbeschreibung in eine binäre Verzögerungsmatrix übersetzen lässt. Umgekehrt funktioniert das jedoch nicht. Deshalb kann mit der Verzögerungsbeschreibung ein wesentlich größerer Suchrauchraum durchforscht werden, bei dem im Sinne der binären Verzögerungsmatrix jedoch nicht alle Lösungen möglich sind.
In einem weiteren Aspekt ist ein Verfahren zum Emulieren eines Ausgangssignals eines physikalischen Systems vorgesehen, wobei mindestens einem Aktor des physikalischen Systems mindestens eine Eingangsgröße zugeführt wird, wobei ein maschinelles Lernsystem mittels eines Ausgangssignals eines Sensors des physikalischen Systems mit einem der vorgenannten Verfahren erzeugt wird, wobei als tatsächliche Ausgangsgröße das reale Ausgangssignal verwendet wird, und wobei dann das so erzeugte maschinelle Lernsystem verwendet wird, um abhängig von der Eingangsgröße die Ausgangsgröße zu ermitteln, welche das Ausgangssignal emuliert.
Beispielsweise kann das physikalische System ein Verbrennungsmotor sein, dessen Emissionswerte, beispielsweise NOx-Emissionswerte oder Rußpartikel-Emissionswerte normalerweise von einem entsprechenden Sensor erfasst werden. Das Ausgangssignal dieses Sensors, also des NOx-Sensors oder des Rußpartikel-Sensors kann dann herangezogen werden, um in der beschriebenen Weise das maschinelle Lernsystem zu generieren.
In weiteren Aspekten betrifft die Erfindung ein Computerprogramm, welches eingerichtet ist, eines der vorgenannten Verfahren auszuführen, wenn es auf einem Computer ausgeführt wird, ein maschinenlesbares Speichermedium, auf dem dieses Computerprogramm gespeichert ist (wobei dieses Speichermedium selbstverständlich räumlich verteilt angeordnet sein kann, z.B. bei paralleler Ausführung über mehrere Computer verteilt), und eine Vorrichtung zum Erzeugen des maschinellen Lernsystems.
Nachfolgend werden Ausführungsformen der Erfindung unter Bezugnahme auf die beiliegende Zeichnung näher erläutert.
Figurenliste

1 zeigt schematisch eine beschriebene NARX-Struktur. Über einen Eingangsblock wird eine Eingangsgröße x empfangen, beispielweise eine Stellung eines Fahrpedals, mit dem ein Fahrerwunsch charakterisiert wird. Abhängig von der Eingangsgröße x wird ein physikalisches System 100, insbesondere ein Kraftfahrzeug bzw. eine Komponente eines Kraftfahrzeugs angesteuert. Im Ausführungsbeispiel umfasst das physikalische System 100 einen Verbrennungsmotor mit angeschlossenem Abgastrakt. Ferner umfasst das physikalische System 100 einen im Abgastrakt verbauten NOx-Sensor, der eine tatsächliche Ausgangsgröße y ermittelt, konkret eine NOx-Konzentration im Abgas.

Die Eingangsgröße x, die einem Zeitpunkt t entspricht und daher im Folgenden auch mit x_t bezeichnet wird, wird außerdem einem maschinellen Lernsystem 200 zugeführt. Ferner wird die Eingangsgröße in zeitlichen Verzögerungsblöcken 101, 102, 103 jeweils um ein zeitliches Inkrement verzögert, und die so verzögerte Eingangsgröße x, die nun jeweils den Zeitpunkten t-1, t-2, t-3 entspricht und daher auch mit x_t-1, x_t-2, x_t-3 bezeichnet wird, wird ebenfalls dem maschinellen Lernsystem 200 zugeführt. Das maschinelle Lernsystem 200, beispielsweise ein Gaußprozess, ermittelt abhängig von den ihm zugeführten Eingangsgröße x_t, x_t-1, x_t-2, x_t-3 eine Ausgangsgröße s, die ebenfalls dem Zeitpunkt t zugeordnet ist und daher mit s_t bezeichnet wird. Die Ausgangsgröße s ist ein Schätzwert der tatsächlichen Ausgangsgröße y und wird daher auch als geschätzte Ausgangsgröße s bezeichnet. Diese geschätzte Ausgangsgröße s_t wird ebenfalls in zeitlichen Verzögerungsblöcken jeweils um ein zeitliches Inkrement verzögert, und die so verzögerten geschätzten Ausgangsgrößen s_t-1, s_t-2, s_t-3 werden ebenfalls dem maschinellen Lernsystem 200 zugeführt. Selbstverständlich ist die Anzahl der Verzögerungsstufen bei Eingangsgröße x und geschätzter Ausgangsgröße s nicht zwingend gleich groß, und muss auch nicht genau 3 Stufen umfassen.
Das maschinelle Lernsystem 200 verfügt über eine Matrix, die charakterisiert, welche der ihm zugeführten verzögerten Eingangsgrößen x_t, x_t-1, x_t-2, x_t-3 und verzögerten geschätzten Ausgangsgrößen s_t-1, s_t-2, s_t-3 tatsächlich in die Ermittlung der geschätzten Ausgangsgröße s_t eingehen.
Zur Adaption der Parameter des maschinellen Lernsystems 200 einschließlich der genannten Matrix wird abhängig von zeitlichen Verläufen der Ausgangsgröße y und der geschätzten Ausgangsgröße s die Parameter angepasst, beispielsweise derart, dass eine Abstandsmetrik zwischen Ausgangsgröße y und geschätzter Ausgangsgröße s möglichst gering wird.
Hierzu werden beispielsweise ein erster Parameter n vorgegeben, der charakterisiert, wie viele Zeitpunkte im äquidistanten Auswahlraster verwendet werden, und ein zweiter Parameter offset vorgegeben, der einen Beginn im äquidistanten Auswahlrasters charakterisiert, und ein dritter Parameter (delta) vorgegeben, der eine Schrittweite charakterisiert. n, offset und delta sind im Ausführungsbeispiel ganzzahlig.
Es gehen dann genau diejenigen verzögerten Eingangsgröße x_T und verzögerten geschätzten Ausgangsgröße s_T in die Ermittlung der geschätzten Ausgangsgröße s ein, deren zugeordneter Zeitpunkt T die Gleichung $T = t - (offset + (i - 1) *delta)$
für ein ganzzahliges i = 1, ..., n erfüllt.
Die Parameter n, delta, offset sowie die restlichen Parameter des maschinellen Lernsystems werden dann in üblicher Weise optimiert.
Es ist möglich, dass für jede Eingangsgröße x und Ausgangsgröße s jeweils getrennte Parametersätze n, delta, offset ermittelt werden, es ist aber auch möglich, dass der gleiche Parametersatz verwendet wird.
Sind die Parameter fertig adaptiert, so kann das maschinelle Lernsystem 200 als virtueller Sensor verwendet werden, der an Stelle des Sensors, der die tatsächliche Ausgangsgröße y ermittelt, die Ausgangsgröße s ermittelt.
Ein derartiger virtueller Sensor kann beispielsweise in einem Motorsteuergerät verbaut werden, sodass der Sensor eingespart werden kann oder der virtuelle Sensor den Sensor überwacht. So kann abhängig von der ermittelten Ausgangsgröße s der Verbrennungsmotor angesteuert werden, beispielsweise indem sein Betriebspunkt abhängig von der ermittelten Ausgangsgröße s gewählt wird.
Anstelle eines NOx-Sensors kann beispielsweise analog ein Rußsensor verwendet und emuliert werden.
Es ist auch möglich, dass mit Hilfe des virtuellen Sensors eine Prognose über zu erwartende Ausgangsgrößen, hier: Abgaswerte, ermittelt wird.
Eine weitere mögliche Anwendung wäre die Modellierung des Spannungssignals als tatsächliche Ausgangsgröße y aus gemessenem Strom und dem Ladezustand einer Batterie als Eingangsgröße x.
ZITATE ENTHALTEN IN DER BESCHREIBUNG
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
Zitierte Patentliteratur

DE 102014226485 A1 [0002]

Claims

Verfahren zum automatischen Erzeugen eines maschinellen Lernsystems (200), welches abhängig von einer Zeitreihe einer Eingangsgröße (x) eine Zeitreihe einer Ausgangsgröße (s) ermittelt, die eine Zeitreihe einer tatsächlichen Ausgangsgröße (y) approximiert, wobei das maschinellen Lernsystem (200) abhängig von Werten (x_t-1, x_t-2, ...) der Eingangsgröße (x) und von Werten (s_t-1, s_t-2...) der Ausgangsgröße (s) zu Zeitpunkten (t-1, t-2, ...), die in einem vorgebbaren Zeitintervall liegen, das vor einem vorgebbaren Zeitpunkt (t) liegt, einen dem vorgebbaren Zeitpunkt (t) zugeordneten Wert (s_t) der Ausgangsgröße (s) ermittelt, wobei nur eine Teilmenge der in dem vorgebbaren Zeitintervall verfügbaren Werte (x_t-1, x_t-2, ...) der Eingangsgröße (x) und der Werte (s_t-1, s_t-2 ...) der Ausgangsgröße (s) in die Ermittlung der dem vorgebbaren Zeitpunkt (t) zugeordneten Ausgangsgröße (s_t) einfließt, wobei die Teilmenge derart ausgewählt wird, dass sie genau diejenigen verfügbaren Werte (x_t-1, x_t-2, ...) der Eingangsgröße (x) und der Werte (s_t-1, s_t-2 ...) der Ausgangsgröße (s) umfasst, die Zeitpunkten (t-1, t-2, ...) in dem vorgebbaren Zeitintervall zugeordnet sind, die in einem vorgebbaren äquidistanten Auswahlraster innerhalb des vorgebbaren Zeitintervalls liegen.
Verfahren nach Anspruch 1, wobei Parameter des maschinellen Lernsystem (200) derart angepasst werden, dass die Zeitreihe der Ausgangsgröße (s) möglichst genau die Zeitreihe der tatsächlichen Ausgangsgröße (y) approximiert, wobei die Zeitreihe der Eingangsgröße (x) mindestens einem Aktor eines physikalischen Systems (100) zugeführt wird und die tatsächliche Ausgangsgröße (y) ein Ausgangssignal (y) eines Sensors des physikalischen Systems (100) ist.
Verfahren nach Anspruch 1 oder 2, wobei Parameter (n, offset, delta), die das äquidistante Auswahlraster charakterisieren, derart optimiert werden, dass ein Optimierungskriterium minimiert wird, wobei das Optimierungskriterium derart gewählt ist, dass sein Wert umso kleiner ist, je besser die ermittelte Zeitreihe der Ausgangsgröße (s) der Zeitreihe der tatsächlichen Ausgangsgröße (y) entspricht.
Verfahren nach Anspruch 3, wobei das Optimierungskriterium derart gewählt ist, dass sein Wert auch umso kleiner wird, je weniger Zeitpunkte das äquidistante Auswahlraster umfasst.
Verfahren nach einem der vorherigen Ansprüche, wobei die Parameter, die das äquidistante Auswahlraster charakterisieren, einen ersten Parameter (n) umfassen, der charakterisiert, wie viele Zeitpunkte das äquidistante Auswahlraster umfasst, und einen zweiten Parameter (offset) umfassen, der einen Beginn des äquidistanten Auswahlrasters charakterisiert, und einen dritten Parameter (delta) umfassen, der eine Schrittweite des äquidistanten Auswahlrasters charakterisiert.
Verfahren nach Anspruch 5, wobei die Parameter genau den ersten Parameter (n) und den zweiten Parameter (offset) und den dritten Parameter (delta) umfassen. (Reihenfolge ist egal)
Verfahren zum Emulieren eines Ausgangssignals (y) eines physikalischen Systems (100), wobei mindestens einem Aktor des physikalischen Systems (100) mindestens eine Eingangsgröße (x) zugeführt wird, wobei ein maschinelles Lernsystem (200) mittels eines Ausgangssignals (y) eines Sensors des physikalischen Systems (100) mit dem Verfahren nach einem der Ansprüche 1 bis 6 erzeugt wird, wobei als tatsächliche Ausgangsgröße (y) das reale Ausgangssignal (y) verwendet wird, und wobei dann das so erzeugte maschinelle Lernsystem (200) verwendet wird, um abhängig von der Eingangsgröße (x) die Ausgangsgröße (s) zu ermitteln, welche das Ausgangssignal (y) emuliert.
Computerprogramm, welches eingerichtet ist, das Verfahren nach einem der vorhergehenden Ansprüche auszuführen.
Maschinenlesbares Speichermedium (220), auf dem das Computerprogramm nach Anspruch 8 gespeichert ist.
Vorrichtung zum Erzeugen eines maschinellen Lernsystems (200), welches eingerichtet ist, das Verfahren nach einem der Ansprüche 1 bis 6 auszuführen.
Virtuelle Sensorvorrichtung umfassend ein maschinelles Lernsystem (200), das mit dem Verfahren nach einem der Ansprüche 1 bis 6 erzeugt wurde, welche eingerichtet ist, das Verfahren nach Anspruch 7 auszuführen.