WO2025257089A1

WO2025257089A1 - Verfahren zum bestimmen einer merkmalswichtigkeit eines maschinenlernmodells

Info

Publication number: WO2025257089A1
Application number: PCT/EP2025/065935
Authority: WO
Inventors: Jonas Bergdolt
Original assignee: Robert Bosch GmbH
Current assignee: Robert Bosch GmbH
Priority date: 2024-06-14
Filing date: 2025-06-06
Publication date: 2025-12-18
Anticipated expiration: 2026-12-14
Also published as: DE102024205508A1

Abstract

Die Erfindung betrifft ein Verfahren (100) zum Bestimmen einer Merkmalswichtigkeit eines Maschinenlernmodells, umfassend die nachfolgenden Schritte: - Bereitstellen (101) von Merkmalsvektoren und Zielwerten, wobei die Merkmalsvektoren eine Eingabe und die Zielwerte eine auf Basis der Merkmalsvektoren generierte Ausgabe des Maschinenlernmodells für ein technisches System (1) darstellen, - Schätzen (102) einer bedingten Verteilung für eine jeweilige Teilmenge der Merkmalsvektoren, - Filtern (103) der geschätzten bedingten Verteilung auf Basis wenigstens einer definierten physikalischen Bedingung, - Bestimmen (104) eines Erwartungswertes für die gefilterte geschätzte bedingte Verteilung, wobei die vorangehenden Schritte für die jeweilige Teilmenge der Merkmalsvektoren durchgeführt werden und das Verfahren ferner die folgenden Schritte umfasst: - Bestimmen (105) von marginalen Beiträgen jedes Merkmalsvektors, wobei ein Unterschied in den bestimmten Erwartungswerten zwischen den Fällen berechnet wird, in denen der Merkmalsvektor Teil der jeweiligen Teilmenge ist gegenüber den Fällen in denen der Merkmalsvektor nicht Teil der jeweiligen Teilmenge ist, - Aggregieren (106) der bestimmten marginalen Beiträge über Permutationen der Merkmalsvektoren, um jeweilige Shapley-Werte für die Merkmalsvektoren zu ermitteln, - Bestimmen (107) der Merkmalswichtigkeit des Maschinenlernmodells auf Basis der ermittelten Shapley-Werte der Merkmalsvektoren. Ferner betrifft die Erfindung ein Computerprogramm, eine Vorrichtung sowie ein Speichermedium zu diesem Zweck.

Description

R.412945 -_{1 -} Beschreibung Titel Verfahren zum Bestimmen einer Merkmalswichtigkeit eines Maschinenlernmo- dells Die Erfindung betrifft ein Verfahren zum Bestimmen einer Merkmalswichtigkeit eines Maschinenlernmodells. Ferner betrifft die Erfindung ein Computerpro- _{gramm, eine Vorrichtung sowie ein Speichermedium zu diesem Zweck.} Stand der Technik Für die Steuerung von Dieselmotoren ist es wichtig zu wissen, wie viel Kraftstoff _{eingespritzt wurde. Zu diesem Zweck kann beispielsweise ein auf Maschinen-} _{lernmodell basierender virtueller Sensor verwendet werden. Dieses Maschinen-} lernmodell bietet jedoch keine Erklärungsmöglichkeiten, was zu einem geringen Vertrauen in die Ergebnisse des Maschinenlernmodells führt. Dieses Vertrauen _{ist allerdings beispielsweise notwendig, um eine Genehmigung der Behörden zu} erhalten. Offenbarung der Erfindung Gegenstand der Erfindung ist ein Verfahren mit den Merkmalen des Anspruchs 1, ein Computerprogramm mit den Merkmalen des Anspruchs 8, eine Vorrichtung mit den Merkmalen des Anspruchs 9 sowie ein computerlesbares Speicherme- dium mit den Merkmalen des Anspruchs 10. Weitere Merkmale und Details der Erfindung ergeben sich aus den jeweiligen Unteransprüchen, der Beschreibung und den Zeichnungen. Dabei gelten Merkmale und Details, die im Zusammen- hang mit dem erfindungsgemäßen Verfahren beschrieben sind, selbstverständ- lich auch im Zusammenhang mit dem erfindungsgemäßen Computerprogramm, R.412945 -_{2 -} der erfindungsgemäßen Vorrichtung sowie dem erfindungsgemäßen computer- lesbaren Speichermedium, und jeweils umgekehrt, so dass bezüglich der Offen- barung der Erfindung stets auch eine wechselseitige Bezugnahme möglich ist. Gegenstand der Erfindung ist insbesondere ein Verfahren zum Bestimmen einer Merkmalswichtigkeit eines Maschinenlernmodells, umfassend die nachfolgenden Schritte, wobei die Schritte wiederholt und/oder nacheinander durchgeführt wer- den können. In einem ersten Schritt werden vorzugsweise Merkmalsvektoren und Zielwerte bereitgestellt, wobei die Merkmalsvektoren eine Eingabe und die Zielwerte eine auf Basis der Merkmalsvektoren generierte Ausgabe des Maschinenlernmodells _{für ein technisches System darstellen. Die Merkmalsvektoren können Sensorda-} ten umfassen, die aus einer Erfassung wenigstens eines Drucksensors resultie- _{ren. Das technische System ist vorzugsweise ein Dieselmotor, der den wenigs-} _{tens einen Drucksensor umfasst. Der Drucksensor ist dabei insbesondere in ei-} nem Common-Rail-System des Dieselmotors angeordnet. Das Maschinenlern- modell kann auf Basis der Merkmalsvektoren die Zielwerte bestimmen, wobei die _{Zielwerte vorzugsweise eine Menge an injiziertem Kraftstoff in dem Dieselmotor} _{repräsentieren. Mit dem Maschinenlernmodell wird somit insbesondere ein virtu-} _{eller Sensor für das Bestimmen der Menge an injiziertem Kraftstoff bereitgestellt.} In einem weiteren Schritt wird vorzugsweise eine bedingte Verteilung für eine je- _{weilige Teilmenge der Merkmalsvektoren geschätzt. Die bedingte Verteilung ist} insbesondere eine bedingte Wahrscheinlichkeitsverteilung der Teilmenge an Merkmalsvektoren, gegeben einer komplementären Teilmenge an Merkmalsvek- _{toren, die nicht in der Teilmenge enthalten ist und kann mathematisch ausge-} _{drückt werden als ^(^^̅|^^), wobei ^ die Teilmenge ist, ^^ die Merkmalsvektoren} _{der Teilmenge und ^^̅ die komplementären Merkmalsvektoren, die nicht in der} _{Teilmenge sind. Die bedingte Verteilung gibt insbesondere an, wie wahrschein-} _{lich verschiedene Werte der komplementären Teilmenge sind, wenn die Werte} _{der Teilmenge bekannt sind. Durch diese bedingte Verteilung können vorteilhaft} _{Abhängigkeiten zwischen den Merkmalsvektoren berücksichtigt werden. Das} Schätzen der bedingten Verteilung kann beispielsweise auf Basis einer multivari- R.412945 -_{3 -} _{aten Gaußschen Verteilung durchgeführt werden. Dabei können Mittelwertvekto-} ren und Kovarianzmatrizen verwendet werden, um die bedingte Verteilung zu be- rechnen. In einem weiteren Schritt wird vorzugsweise die geschätzte bedingte Verteilung _{auf Basis wenigstens einer definierten physikalischen Bedingung gefiltert. Die} wenigstens eine definierte physikalische Bedingung kann durch das technische System vorgegeben sein und beispielsweise einen zeitlichen Verlauf von Sensor- daten betreffen. Im Falle eines Dieselmotors als technisches System kann die definierte physikalische Bedingung beispielsweise sein, dass Druckwerte in dem Dieselmotor in einer Injektionsphase zeitlich gesehen abnehmen und in einer Pumpphase zeitlich gesehen gleich bleiben oder zunehmen. In einem weiteren Schritt wird vorzugsweise ein Erwartungswert für die gefilterte _{geschätzte bedingte Verteilung bestimmt. Dabei wird insbesondere für die jewei-} _{lige Teilmenge der Merkmalsvektoren ein durchschnittlicher Vorhersagewert des} _{Maschinenlernmodells bestimmt. Hierbei kann eine erwartete Ausgabe des Ma-} _{schinenlernmodells ^[^(^)|^ ∗} _{^ = ^^] für die jeweilige Teilmenge ^ der Merkmals-} _{vektoren berechnet werden, wobei ^^} ^∗ Werte von fixierten Merkmalsvektoren sind. _{Vorzugsweise wird für die jeweilige Teilmenge der Merkmalsvektoren der durch-} schnittliche Vorhersagewert des Maschinenlernmodells bestimmt, wenn diese fi- xierten Merkmalsvektoren auf bestimmte Werte festgelegt sind. Die vorangehenden Schritte werden insbesondere für die jeweilige Teilmenge _{durchgeführt. Es kann vorgesehen sein, dass die vorangehenden Schritte für} jede mögliche Teilmenge der Merkmalsvektoren durchgeführt werden. Der Aus- druck „jede mögliche Teilmenge“ indiziert insbesondere, dass sowohl alle einzel- nen Merkmalsvektoren, als auch jede mögliche Kombination von Merkmalsvekto- ren als Teilmenge verwendet wird, um jeweils die vorangehenden Schritte durch- _{zuführen. Das Verfahren umfasst vorzugsweise ferner die folgenden Schritte, wo-} bei auch diese Schritte wiederholt und/oder nacheinander durchgeführt werden können. R.412945 -_{4 -} In einem weiteren Schritt werden vorzugsweise marginale Beiträge jedes Merk- _{malsvektors bestimmt, wobei ein Unterschied in den bestimmten Erwartungswer-} ten zwischen den Fällen berechnet wird, in denen der Merkmalsvektor Teil der jeweiligen Teilmenge ist gegenüber den Fällen in denen der Merkmalsvektor _{nicht Teil der jeweiligen Teilmenge ist. Ein marginaler Beitrag eines Merkmals-} vektors in einer spezifischen Permutation der Merkmalsvektoren ist dabei insbe- _{sondere gegeben als: ∆^(^) = ^[^(^) = ^∗ − ^ = ^^} ^∗ . Eine Per- mutation der Merkmalsvektoren spezifische _{Anordnung der Merkmalsvektoren, beispielsweise auch in einer bestimmten Rei-} henfolge. _{In einem weiteren Schritt werden vorzugsweise die bestimmten marginalen Bei-} träge über Permutationen, insbesondere über eine Vielzahl oder auch über alle _{möglichen Permutationen, der Merkmalsvektoren aggregiert, um jeweilige Shap-} _{ley-Werte für die Merkmalsvektoren zu ermitteln. Der jeweilige Shapley-Wert re-} präsentiert insbesondere einen durchschnittlichen marginalen Beitrag des jeweili- _{gen Merkmalsvektors und berechnet sich vorzugsweise wie folgt:} . _{In einem weiteren Schritt wird vorzugsweise die Merkmalswichtigkeit des Maschi-} nenlernmodells auf Basis der ermittelten Shapley-Werte der Merkmalsvektoren bestimmt. Dafür können die Merkmalsvektoren beispielsweise je nach Höhe ihres jeweiligen Shapley-Wertes gruppiert oder sortiert werden. Von weiterem Vorteil kann vorgesehen sein, dass das Filtern der geschätzten be- dingten Verteilung die folgenden Schritte umfasst, wobei für diese Schritte das technische System vorzugsweise ein Dieselmotor ist: _{- Bestimmen eines jeweiligen einzelnen Wertes aus der geschätzten bedingten} Verteilung, _{- Entfernen des bestimmten jeweiligen einzelnen Wertes, wenn dieser größer} als ein zeitlich vorangehender Wert ist und der jeweilige einzelne Wert in ei- n_{er Injektionsphase des Dieselmotors erfasst wurde, und/oder wenn dieser} kleiner als ein zeitlich vorangehender Wert ist und der jeweilige einzelne Wert in einer Pumpphase des Dieselmotors erfasst wurde. R.412945 -_{5 -} In Form eines Pseudo-Codes können diese Schritte wie folgt durchgeführt wer- den: Sample ^^ from ^(^^̅|^^) If ^_^−1 exists: If in an injection phase: Accept ^_^ if ^_^ < ^_^−1 Reject ^_^ otherwise If in a fuel pump stroke phase: Accept ^_^ if ^_^ ≥ ^_^−1 Reject ^_^ otherwise Dabei steht ^_^ insbesondere für einen Druck-Messwert des Drucksensors zu ei- _{nem bestimmten Messzeitpunkt ^. Ob sich der jeweilige Messzeitpunkt in einer} Injektionsphase (englisch: „injection phase“) des Dieselmotors befindet, kann mit- _{tels einer Maximalwertbestimmung in einer Verlaufskurve der Druck-Messwerte} festgestellt werden, da insbesondere zeitlich nach dem Maximalwert bis zu ei- _{nem nächsten Minimalwert die Injektionsphase vorliegt. Anders herum kann die} Pumpphase des Dieselmotors (englisch: „fuel pump stroke phase“) nach dem Mi- _{nimalwert und vor einem nächsten Maximalwert vorliegen. Durch diese Schritte} kann vorteilhaft ein physikalisches Vorwissen über Dieselmotoren in das Bestim- men der Merkmalswichtigkeit eingebracht werden, sodass die Zuverlässigkeit des Maschinenlernmodells präziser bestimmt und nachgewiesen werden kann. Beispielsweise kann es vorgesehen sein, dass das Verfahren ferner den folgen- den Schritt umfasst: _{- Analysieren der bestimmten Merkmalswichtigkeit, um eine Genauigkeit des} Maschinenlernmodells zu prüfen. Das Analysieren kann durch einen Experten erfolgen, um prüfen zu können, dass das Maschinenlernmodell zuverlässig ist. Dies kann für eine Genehmigung durch _{eine Zulassungsstelle notwendig sein. Dabei kann beispielsweise der Einfluss} verschiedener Merkmalsvektoren auf die Ausgabe des Maschinenlernmodells geprüft werden, ob diese stimmig mit den Erfahrungswerten des Experten sind. Es kann weiter möglich sein, dass das Verfahren ferner den folgenden Schritt umfasst: R.412945 -_{6 -} _{- Initiieren einer Prüfung des technischen Systems, wenn die Genauigkeit we-} nigstens eine technische Vorgabe nicht erfüllt. Die Prüfung kann anschließend automatisiert oder durch ein Fachpersonal erfol- gen. Dabei können beispielsweise Sensoren wie Drucksensoren des technischen Systems geprüft, neu kalibriert oder ausgetauscht werden. Ebenfalls Gegenstand der Erfindung ist ein Computerprogramm, insbesondere Computerprogrammprodukt, umfassend Befehle, die bei der Ausführung des Computerprogrammes durch einen Computer diesen veranlassen, das erfin- dungsgemäße Verfahren auszuführen. Damit bringt das erfindungsgemäße Com- puterprogramm die gleichen Vorteile mit sich, wie sie ausführlich mit Bezug auf ein erfindungsgemäßes Verfahren beschrieben worden sind. Ebenfalls Gegenstand der Erfindung ist eine Vorrichtung zur Datenverarbeitung, die eingerichtet ist, das erfindungsgemäße Verfahren auszuführen. Als die Vor- richtung kann bspw. ein Computer vorgesehen sein, welcher das erfindungsge- mäße Computerprogramm ausführt. Der Computer kann wenigstens einen Pro- zessor zur Ausführung des Computerprogramms aufweisen. Auch kann ein nicht- flüchtiger Datenspeicher vorgesehen sein, in welchem das Computerprogramm hinterlegt und von welchem das Computerprogramm durch den Prozessor zur Ausführung ausgelesen werden kann. Ebenfalls Gegenstand der Erfindung kann ein computerlesbares Speicherme- _{dium sein, welches das erfindungsgemäße Computerprogramm aufweist} und/oder Befehle umfasst, die bei der Ausführung durch einen Computer diesen veranlassen, das erfindungsgemäße Verfahren auszuführen. Das Speicherme- dium ist bspw. als ein Datenspeicher wie eine Festplatte und/oder ein nicht-flüch- tiger Speicher und/oder eine Speicherkarte ausgebildet. Das Speichermedium kann z. B. in den Computer integriert sein. Darüber hinaus kann das erfindungsgemäße Verfahren auch als ein computerim- _{plementiertes Verfahren ausgeführt sein. Alternativ oder zusätzlich kann zumin-} dest einer der offenbarten Verfahrensschritte computer-implementiert sein und/oder automatisiert durchgeführt werden. R.412945 -_{7 -} Weitere Vorteile, Merkmale und Einzelheiten der Erfindung ergeben sich aus der nachfolgenden Beschreibung, in der unter Bezugnahme auf die Zeichnungen Ausführungsbeispiele der Erfindung im Einzelnen beschrieben sind. Dabei kön- nen die in den Ansprüchen und in der Beschreibung erwähnten Merkmale jeweils einzeln für sich oder in beliebiger Kombination erfindungswesentlich sein. Es zei- gen: _{Fig. 1 eine schematische Visualisierung eines Verfahrens, eines technischen} Systems mit einem Drucksensor, einer Vorrichtung, eines Speichermedi- u_{ms sowie eines Computerprogramms gemäß Ausführungsbeispielen} der Erfindung, _{Fig. 2 eine schematische Darstellung einer Rail-Druckkurve in einem Com-} mon-Rail-System eines Dieselmotors. In Fig.1 sind ein Verfahren 100, ein technisches System 1 mit einem Druck- _{sensor 2, eine Vorrichtung 10, ein Speichermedium 15 sowie ein Computerpro-} gramm 20 gemäß Ausführungsbeispielen der Erfindung schematisch dargestellt. Das technische System 1 ist insbesondere ein Dieselmotor. Fig.1 zeigt insbesondere ein Ausführungsbeispiel für ein Verfahren 100 zum Be- stimmen einer Merkmalswichtigkeit eines Maschinenlernmodells. In einem ersten _{Schritt 101 werden Merkmalsvektoren und Zielwerte bereitgestellt, wobei die} Merkmalsvektoren eine Eingabe und die Zielwerte eine auf Basis der Merkmals- vektoren generierte Ausgabe des Maschinenlernmodells für ein technisches Sys- tem 1 darstellen. In einem zweiten Schritt 102 wird eine bedingte Verteilung für _{eine jeweilige Teilmenge der Merkmalsvektoren geschätzt. In einem dritten} Schritt 103 wird die geschätzte bedingte Verteilung auf Basis wenigstens einer _{definierten physikalischen Bedingung gefiltert. In einem vierten Schritt 104 wird} _{ein Erwartungswert für die gefilterte geschätzte bedingte Verteilung bestimmt.} Die vorangehenden Schritte werden dabei für die jeweilige Teilmenge der Merk- malsvektoren durchgeführt und das Verfahren umfasst ferner die folgenden Schritte. In einem fünften Schritt 105 werden marginale Beiträge jedes Merkmals- _{vektors bestimmt, wobei ein Unterschied in den bestimmten Erwartungswerten} R.412945 -_{8 -} zwischen den Fällen berechnet wird, in denen der Merkmalsvektor Teil der jewei- ligen Teilmenge ist gegenüber den Fällen in denen der Merkmalsvektor nicht Teil der jeweiligen Teilmenge ist. In einem sechsten Schritt 106 werden die bestimm- _{ten marginalen Beiträge über Permutationen der Merkmalsvektoren aggregiert,} um jeweilige Shapley-Werte für die Merkmalsvektoren zu ermitteln. In einem siebten Schritt 107 wird die Merkmalswichtigkeit des Maschinenlernmodells auf _{Basis der ermittelten Shapley-Werte der Merkmalsvektoren bestimmt.} _{Die vorgeschlagene Erfindung ermöglicht es insbesondere, eine Bedeutung von} _{Merkmalen für einen gegebenen, auf einem Maschinenlernmodell basierenden} _{virtuellen Sensor zu bestimmen. Sie modifiziert insbesondere die SHAP-} Methode, indem sie spezifisches Wissen über Dieselmotoren in den Algorithmus _{einbezieht, was zu physikalisch plausiblen Ergebnissen führen kann. Die Erfin-} _{dung kann es somit gemäß Ausführungsbeispielen ermöglichen physikalisch} plausible Erklärungen im Rahmen der Dieseleinspritzung bereitzustellen. Dadurch kann ein Vertrauen in das Maschinenlernmodell erhöht werden (z. B. für die Zulassung durch die Zulassungsstelle), indem überprüft wird, ob es physika- lisch plausible Zusammenhänge gelernt hat. Der virtuelle Sensor in Form des Maschinenlernmodell schätzt insbesondere eine _{Einspritzmenge durch Auswertung des eines Rail-Drucks in dem Dieselmotor.} Der geschätzte Wert kann später auch zur Korrektur der Einspritzmenge verwen- _{det werden. Eine Rail-Druckkurve in einem Common-Rail-System eines Diesel-} _{motors kann wie in Fig. 2 dargestellt aussehen. Darin ist links eine Injektions-} phase I und rechts sind zwei Pumpphasen P dargestellt Der Druck wird beispielsweise zu 20 Zeitpunkten gemessen. Während der Injekti- _{onsphase fällt der Druck insbesondere ab. Auf der anderen Seite steigt er bei-} _{spielsweise im Laufe der Pumpenhübe in der Pumpphase an oder bleibt kon-} _{stant. Daraus können sich physikalische Zusammenhänge zwischen den Mes-} _{sungen zu den verschiedenen Zeitpunkten ergeben. So muss beispielsweise} während einer Einspritzphase der Druck zum Zeitpunkt ^₂ höher sein als zum _{Zeitpunkt ^3. Während der Pumpphase sind die Beziehungen insbesondere wie} _{folgt: ^^+1 ≥ ^^ für ^ ∈ ℕ. Diese physikalischen Zusammenhänge können mit der} _{vorliegenden Erfindung gemäß Ausführungsbeispielen berücksichtigt werden.} R.412945 -_{9 -} _{Das Kernel-SHAP-Verfahren geht insbesondere von unabhängigen Merkmalen} aus. Es wurde von Aas et al. in “Explaining Individual Predictions When Features _{Are Dependent: More Accurate Approximations To Shapley Values“ auf abhän-} gige Merkmale erweitert, indem im nachfolgenden Schritt, beziehungsweise bei _{der Berechnung der nachfolgenden Formel, ^(^^̅|^^) = ^(^^̅) nicht angenommen} wurde: _{wobei ^ für eine Teilmenge der Merkmalsvektoren und ^̅ für ihr Komplement} steht. ^_∗ _{^ repräsentiert insbesondere einen bestimmten Merkmalsvektor.} Dies ermöglicht jedoch insbesondere nur eine Abhängigkeit per se zu berück- sichtigen und nicht die Einbeziehung physikalischer Bedingungen. Die vorlie- gende Erfindung erreicht diese Einbeziehung gemäß Ausführungsbeispielen ins- besondere durch die folgende Modifikation unter Verwendung eines Accept-Re- ject-Samplings: _{Als eine Eingabe werden vorzugsweise Merkmalsvektoren ^ mit Messwerten der} _{Druckkurven, Zielwerte ^ mit den Messwerten der Einspritzmenge und ein trai-} _{niertes Maschinenlernmodell ^(^) bereitgestellt. Als Ausgabe sollen vorzugs-} _{weise Shapley-Werte ^0, ... , ^^ für M Merkmalsvektoren bestimmt werden.} _{Für eine jeweilige Merkmalsteilmenge ^ soll nun zunächst insbesondere eine} _{Schätzung oder Annäherung von ^(^^̅|^^) (z. B. unter Verwendung der multivari-} _{aten Gaußschen Verteilung) durchgeführt werden. Anschließend werden vor-} _{zugsweise die nachfolgenden Schritte für i ∈ ^̅ durchgeführt:} Sample ^^ from ^(^^̅|^^) If ^_^−1 exists: If in an injection phase: Accept ^_^ if ^_^ < ^_^−1 Reject ^_^ otherwise If in a fuel pump stroke phase: Accept ^_^ if ^_^ ≥ ^_^−1 R.412945 -_{10 -} Reject ^_^ otherwise _{Anschließend wird insbesondere v(^)=E[f(x)| ^^ = ^^∗] berechnet.} Danach kann das nachfolgende Minimierungsproblem unter Berücksichtigung _{von ^0, ... , ^^ werden:} _{Durch das Verfahren gemäß Ausführungsbeispielen können Merkmalswerte, die} _{die physikalischen Randbedingungen nicht erfüllen, verworfen werden. Auf diese} _{Weise können Erkenntnisse darüber gewonnen werden, was das Maschinenlern-} _{modell beeinflusst (z. B. der Druck zu Beginn der Einspritzphase). Dies kann für} eine Validierung des Maschinenlernmodells verwendet werden. Die Verwendung von Merkmalswichtigkeitswerten zur Validierung des virtuellen Sensors kann bei- spielsweise für eine Genehmigung durch Behörden notwendig sein. Die voranstehende Erläuterung der Ausführungsformen beschreibt die vorlie- gende Erfindung ausschließlich im Rahmen von Beispielen. Selbstverständlich können einzelne Merkmale der Ausführungsformen, sofern technisch sinnvoll, frei miteinander kombiniert werden, ohne den Rahmen der vorliegenden Erfin- dung zu verlassen.

Claims

R.412945 -_{11 -} Ansprüche _{1. Verfahren (100) zum Bestimmen einer Merkmalswichtigkeit eines Ma-} schinenlernmodells, umfassend die nachfolgenden Schritte: -_{Bereitstellen (101) von Merkmalsvektoren und Zielwerten, wobei die} Merkmalsvektoren eine Eingabe und die Zielwerte eine auf Basis der Merkmalsvektoren generierte Ausgabe des Maschinenlernmodells f_{ür ein technisches System (1) darstellen, wobei die Merkmalsvekto-} ren Sensordaten umfassen, die aus einer Erfassung wenigstens ei- nes Drucksensors (2) resultieren, wobei das technische System (1) ein Dieselmotor ist, der den wenigstens einen Drucksensor (2) um- fasst, wobei das Maschinenlernmodell auf Basis der Merkmalsvekto- ren die Zielwerte bestimmt, wobei die Zielwerte eine Menge an inji- ziertem Kraftstoff in dem Dieselmotor (1) repräsentieren, -_{Schätzen (102) einer bedingten Verteilung für eine jeweilige Teil-} menge der Merkmalsvektoren, -_{Filtern (103) der geschätzten bedingten Verteilung auf Basis wenigs-} tens einer definierten physikalischen Bedingung, -_{Bestimmen (104) eines Erwartungswertes für die gefilterte ge-} schätzte bedingte Verteilung, wobei das Filtern (103) der geschätzten bedingten Verteilung die folgen- den Schritte umfasst: -_{Bestimmen eines jeweiligen einzelnen Wertes aus der geschätzten} bedingten Verteilung, -_{Entfernen des bestimmten jeweiligen einzelnen Wertes, wenn dieser} größer als ein zeitlich vorangehender Wert ist und der jeweilige ein- zelne Wert in einer Injektionsphase des Dieselmotors (1) erfasst wurde, und/oder wenn dieser kleiner als ein zeitlich vorangehender Wert ist und der jeweilige einzelne Wert in einer Pumpphase des Dieselmotors (1) er- fasst wurde, R.412945 -_{12 -} wobei die vorangehenden Schritte für die jeweilige Teilmenge der Merk- malsvektoren durchgeführt werden und das Verfahren ferner die folgen- den Schritte umfasst: -_{Bestimmen (105) von marginalen Beiträgen jedes Merkmalsvektors,} wobei ein Unterschied in den bestimmten Erwartungswerten zwi- schen den Fällen berechnet wird, in denen der Merkmalsvektor Teil d_{er jeweiligen Teilmenge ist gegenüber den Fällen in denen der} _{Merkmalsvektor nicht Teil der jeweiligen Teilmenge ist,} _{- Aggregieren (106) der bestimmten marginalen Beiträge über Permu-} tationen der Merkmalsvektoren, um jeweilige Shapley-Werte für die Merkmalsvektoren zu ermitteln, -_{Bestimmen (107) der Merkmalswichtigkeit des Maschinenlernmo-} dells auf Basis der ermittelten Shapley-Werte der Merkmalsvektoren. _{2. Verfahren (100) nach Anspruch 1,} dadurch gekennzeichnet, dass das Schätzen (102) der bedingten Verteilung auf Basis einer mul- tivariaten Gaußschen Verteilung durchgeführt wird. _{3. Verfahren (100) nach einem der vorhergehenden Ansprüche,} dadurch gekennzeichnet, dass im Rahmen des Bestimmens (104) des Erwartungswertes für die j_{eweilige Teilmenge der Merkmalsvektoren ein durchschnittlicher Vor-} hersagewert des Maschinenlernmodells bestimmt wird.

R.412945 -_{13 -} _{4. Verfahren (100) nach einem der vorhergehenden Ansprüche,} dadurch gekennzeichnet, dass das Verfahren ferner den folgenden Schritt umfasst: -_{Analysieren der bestimmten Merkmalswichtigkeit, um eine Genauig-} keit des Maschinenlernmodells zu prüfen. _{5. Verfahren (100) nach Anspruch 4,} dadurch gekennzeichnet, dass das Verfahren ferner den folgenden Schritt umfasst: -_{Initiieren einer Prüfung des technischen Systems (1), wenn die Ge-} nauigkeit wenigstens eine technische Vorgabe nicht erfüllt. _{6. Computerprogramm (20), umfassend Befehle, die bei der Ausführung} des Computerprogramms (20) durch einen Computer (10) diesen veran- l_{assen, das Verfahren (100) nach einem der vorhergehenden Ansprüche} auszuführen. _{7. Vorrichtung (10) zur Datenverarbeitung, die eingerichtet ist, das Verfah-} _{ren (100) nach einem der Ansprüche 1 bis 5 auszuführen.} _{8. Computerlesbares Speichermedium (15), umfassend Befehle, die bei} der Ausführung durch einen Computer (10) diesen veranlassen, die S_{chritte des Verfahrens (100) nach einem der Ansprüche 1 bis 5 auszu-} führen.