EP4256475A1

EP4256475A1 - Vergleichen eines ersten knn mit einem zweiten knn

Info

Publication number: EP4256475A1
Application number: EP21815132.2A
Authority: EP
Inventors: Fabian Woitschek; Georg Schneider
Original assignee: ZF Friedrichshafen AG
Current assignee: ZF Friedrichshafen AG
Priority date: 2020-12-07
Filing date: 2021-11-15
Publication date: 2023-10-11
Also published as: WO2022122307A1; DE102020215430A1

Abstract

Verfahren zum Vergleichen eines ersten künstlichen neuronalen Netzwerks, nachfolgend mit KNN bezeichnet, mit einem zweiten KNN, wobei das erste KNN bzw. das zweite KNN jeweils eine erste bzw. eine zweite Abbildung von einem Eingangsdatenraum auf einem Ergebnisdatenraum bilden, mit den folgenden Schritten: - Vorgeben (S1) eines ersten Eingangsdatenraums zu dem ersten KNN; - Vorgeben oder Schätzen (S2) einer ersten Partition aus Teilmengen des ersten Eingangsdatenraums mit mehreren Datenpunkten, wobei jedem Datenpunkt ein Abbildungsergebnis des ersten KNN aus dem Ergebnisdatenraum zugeordnet wird, wobei jeweils ein Datenpunkt aus dem Eingangsdatenraum zusammen mit einem zugehörigen Abbildungsergebnis des ersten KNN ein erstes Abbildungspaar bilden; - Ermitteln (S3) von zweiten Abbildungspaaren des zweiten KNN, wobei jedes Abbildungspaar ein Datenpunkt aus dem Eingangsdatenraum und ein zugehöriges Abbildungsergebnis aus dem Ergebnisdatenraum enthält; - Vergleichen (S4) der zweiten Abbildungspaare mit den ersten Abbildungspaaren, um das zweite KNN hinsichtlich seiner Ähnlichkeit oder Unterschiedlichkeit zu dem ersten KNN zu beurteilen.

Description

Vergleichen eines ersten KNN mit einem zweiten KNN

GEBIET DER ERFINDUNG

Die vorliegende Erfindung betrifft ein Verfahren zum Vergleichen einer ersten künstlichen Intelligenz mit einer zweiten künstlichen Intelligenz.

TECHNISCHER HINTERGRUND

Es ist bekannt, eine künstliche Intelligenz mittels sogenannter Adversarial Attacks zu täuschen. Hierbei werden Eingangsdaten für eine künstliche Intelligenz ermittelt, die anschaulich gesprochen einen Grenzfall bilden, das bedeutet, das eine geringfügige Änderung der Eingangsdaten ausreicht, um die künstliche Intelligenz zu einem falschen Ergebnis zu bringen.

ZUSAMMENFASSUNG DER ERFINDUNG

Vor diesem Hintergrund liegt der Erfindung die Aufgabe zugrunde, eine Vergleichsmöglichkeit für künstliche Intelligenzen bzw. künstliche neuronale Netzwerke zu schaffen.

Demgemäß ist vorgesehen:

- ein Verfahren zum Vergleichen eines ersten künstlichen neuronalen Netzwerks, nachfolgend mit KNN bezeichnet, mit einem zweiten KNN, wobei das erste KNN bzw. das zweite KNN jeweils eine erste bzw. eine zweite Abbildung von einem Eingangsdatenraum auf einem Ergebnisdatenraum bilden, mit den folgenden Schritten: Vorgeben eines ersten Eingangsdatenraums zu dem ersten KNN; Vorgeben oder Schätzen einer ersten Partition aus Teilmengen des ersten Eingangsdatenraums mit mehreren Datenpunkten, wobei jedem Datenpunkt ein Abbildungsergebnis des ersten KNN aus dem Ergebnisdatenraum zugeordnet wird, wobei jeweils eine Teilmenge zusammen mit einem zugehörigen Abbildungsergebnis des ersten KNN ein erstes Abbildungspaar bilden; Ermitteln von zweiten Abbildungspaaren des zweiten KNN, wobei jedes Abbildungspaar einen Datenpunkt aus dem Eingangsdatenraum und ein zugehöriges Abbildungsergebnis aus dem Ergebnisdatenraum enthält; Vergleichen der zweiten Abbildungspaare mit den ersten Abbildungspaaren, um das zweite KNN hinsichtlich seiner Ähnlichkeit oder Unterschiedlichkeit zu dem ersten KNN zu beurteilen.

Ein künstliches neuronales Netzwerk (KNN, englisch artificial neural network - ANN) ist insbesondere ein in einem Rechenprogramm nachgebildetes Netzwerk aus vernetzten künstlichen Neuronen. Die künstlichen Neuronen sind dabei typischerweise auf verschiedenen Schichten (layers) angeordnet. Üblicherweise umfasst das künstliche neuronale Netzwerk eine Eingangsschicht und eine Ausgabeschicht (output layer), deren Neuronenausgabe als einzige des künstlichen neuronalen Netzwerks sichtbar wird. Zwischen der Eingangsschicht und der Ausgabeschicht liegende Schichten werden typischerweise als verdeckte Schichten (hidden layer) bezeichnet. Typischerweise wird zunächst eine Architektur bzw. Topologie eines künstlichen neuronalen Netzwerks initiiert und dann in einer Trainingsphase für eine spezielle Aufgabe oder für mehrere Aufgaben in einer Trainingsphase trainiert.

Der Begriff „Topologie eines KNN“ umfasst sämtliche Aspekte bezüglich des Aufbaus eines KNN. Hierunter fallen beispielsweise die Anzahl der Neuronen des KNN, die Aufteilung der Neuronen auf die einzelnen Schichten des KNN, die Anzahl der Schichten eines KNN, die Vernetzung der Neuronen und die Gewichtung der Vernetzung.

Unter dem Begriff „Architektur eines KNN“ versteht man dessen initiale Topologie, also dessen Topologie vor dem Training des KNN.

Das Training des künstlichen neuronalen Netzwerks umfasst dabei typischerweise eine Veränderung eines Gewichts einer Verbindung zwischen zwei künstlichen Neuronen des künstlichen neuronalen Netzwerks. Das Gewicht enthält Information zur Stärke der Berücksichtigung eines Eingangs eines Neurons. Das Training des künstlichen neuronalen Netzwerks kann auch eine Entwicklung von neuen Verbindungen zwischen künstlichen Neuronen, ein Löschen von bestehenden Verbindungen zwischen künstlichen Neuronen, ein Anpassen von Schwellwerten der künstlichen Neuronen und/oder ein Hinzufügen oder ein Löschen von künstlichen Neuronen umfassen.

Eine Partition (auch Zerlegung) einer Menge M ist eine Menge P, deren Elemente nichtleere Teilmengen von M sind, sodass jedes Element von M in genau einem Element von P enthalten ist. A ist eine Teilmenge von B, wenn jedes Element von A auch in B enthalten ist. Ein Rand einer Menge ist dessen Grenze. Der Rand kann in der Menge enthalten oder nicht enthalten sein. Ein Nahbereich eines Teilmengenrandes liegt innerhalb der Teilmenge und ist zu dem Rand benachbart. Der Nahbereich kann durch einen vorgegebenen maximalen Abstand zum Rand bestimmt sein. Der Teilmengenrand einer Teilmenge kann auch als Entscheidungsgrenze des zugehörigen KNN bezeichnet werden.

Eine Abbildung ist eine Beziehung zwischen zwei Mengen, die jedem Element der einen Menge, in dieser Patentanmeldung ein Eingangsdatenraum, genau ein Element der anderen Menge, in dieser Patentanmeldung ein Ergebnisdatenraum, zuordnet. Ein Abbildungsergebnis ist das Ergebnis einer Abbildung für einen Datenpunkt aus dem Eingangsdatenraum. Ein Abbildungspaar ist das Paar aus einem Datenpunkt aus dem Eingangsdatenraum mit seinem zugehörigen Abbildungsergebnis.

Ein Eingangsdatenraum ist eine Menge an Daten, die alle denkbaren bzw. wohldefinierten Eingangsdaten für ein KNN enthält. Ein Ergebnisdatenraum ist eine Menge, die alle denkbaren Ergebnisdaten eines KNN enthält. Dieser Patentanmeldung liegt die Annahme zugrunde, dass sich ein Eingangsdatenraum in Teilmengen oder Datenpunkte partitionieren lässt, wobei jedes Element, also eine Teilmenge oder ein Datenpunkt, der Partition auf ein anderes Abbildungsergebnis aus dem Ergebnisdatenraum abgebildet wird. Dementsprechend entspricht das Schätzen einer Partition des Eingangsdatenraumes dem Schätzen von Entscheidungsgrenzen.

Ein Bildsensor ist beispielsweise eine Kamera, ein Radarsensor oder ein Lidar- sensor, der reale Bilddaten erfasst. Bilddaten, die mittels softwaregestützter Verfahren erzeugt wurden, sind künstliche Bilddaten, wie Frequenzbilder, die eine Ansammlung von Pixeln mit bestimmten Eigenschaften enthalten. Die Eigenschaften können sich auf die Pixel selbst, wie etwa deren Grauwert, oder auf eine Beziehung zwischen den Pixeln, etwa ein Gradient oder eine Frequenz, beziehen.

Computerprogrammprodukte umfassen in der Regel eine Folge von Befehlen, durch die die Hardware bei geladenem Programm veranlasst wird, ein bestimmtes Verfahren durchzuführen, das zu einem bestimmten Ergebnis führt.

Die grundlegende Idee der Erfindung ist es, das Verhalten eines ersten KNN und eines zweiten KNN für bestimmte Eingangsdaten zu untersuchen und die KNN aufgrund eines anderen oder identischen Verhaltens des ersten bzw. zweiten KNN hinsichtlich der Eingangsdaten vergleichend zu charakterisieren.

Die Aspekte der Erfindung werden im folgenden anschaulich anhand eines zweidimensionalen Eingangsdatenraums erläutert. Es versteht sich jedoch, dass dieses Beispiel vorwiegend der Erläuterung dient und möglicherweise eine eher geringe Relevanz für die Praxis hat.

Ein KNN legt eine Abbildung von einem (beispielhaft zweidimensionalen) Eingangsdatenraum auf einen Ergebnisdatenraum fest. Die Abbildung hängt maßgeblich vom Zweck der künstlichen Intelligenz ab, beispielsweise ist es denkbar, Datenpunkte des Eingangsdatenraums hinsichtlich ihrer Eigenschaften zu klassifizieren. In diesem Fall wird den Datenpunkten aus dem Eingangsdatenraum ein Klassifikationsergebnis, wie beispielsweise „Baum“ oder „Haus“, aus dem Ergebnisdatenraum zugeordnet.

Alternativ ist es auch denkbar, dass der Ergebnisdatenraum keine diskreten Elemente wie „Haus“ oder „Baum“ enthält, sondern kontinuierlich ist. Beispielsweise ist es denkbar, dass ein KNN Eingangsdaten auf eine rationale Zahl abbildet.

Davon ausgehend ist ersichtlich, dass sich ein Eingangsdatenraum eines KNN in eine Partition zerlegen lässt, sodass jedem Element der Partition ein Element aus dem Ergebnisdatenraum zugeordnet werden kann. Anhand dieser Abbildungspaare, also Paare aus dem Eingangsdatenraum und dem Ergebnisdatenraum, lassen sich KNNs vergleichen, indem Abbildungspaare des zweiten KNN mit Abbildungspaaren oder der Abbildung des ersten KNN verglichen werden.

Es versteht sich, dass die Erfindung sowohl für den Vergleich von Blackbox- als auch Greybox- oder Whitebox-KNN-Routinen anwendbar ist.

White-Box bedeutet, dass das gesamte KNN bekannt ist, also dessen gesamte Topologie, und während des Betriebs exakt beobachtet werden kann. Dem Nutzer ist es somit möglich die internen Berechnungen nachzuvollziehen und zu jedem Zeitpunkt beobachten zu können. Dies trifft beispielsweise für ein eigens entwickeltes KNN zu. Bei Black-Box Systemen ist dies hingegen nicht möglich. Der Nutzer kann lediglich die Eingangsdaten und die Ausgabe des KNN auf diesen Daten beobachten. Es ist ihm nicht möglich die Berechnung im KNN nachzuvollziehen und er hat auch keine Informationen über die Topologie des KNN. Dies trifft beispielsweise für ein zugekauftes KNN zu.

Dementsprechend sind folgende Szenarien denkbar: ein zweites KNN mit einer unbekannten Partition des Eingangsdatenraums, die mit einem ersten KNN verglichen werden soll, wobei das erste KNN sowohl eine bekannte als auch unbekannte Partition des Eingangsdatenraumes aufweisen kann. Ist die erste Partition des ersten KNN unbekannt kann vorgesehen sein, Abbildungspaare sowohl für die erste als auch für das zweite KNN zu ermitteln, und die Abbildungspaare miteinander zu vergleichen. Ist die Partition des ersten KNN hingegen bekannt, also handelt es sich um eine White-Box-künstliche Intelligenz, so genügt es, die Abbildungspaare des zweiten KNN mit der ersten Partition in Verbindung mit der Abbildung des ersten KNN zu vergleichen.

Wenn ein KNN eine unbekannte Partition des Eingangsdatenraums aufweist, bedeutet das, dass Eingangsdaten existieren, für die das zugehörige Abbildungsergebnis der KNN nur durch die KNN ermittelt werden kann. Vorteilhafte Ausgestaltungen und Weiterbildungen ergeben sich aus den weiteren Unteransprüchen sowie aus der Beschreibung unter Bezugnahme auf die Figuren der Zeichnung.

Gemäß einer bevorzugten Weiterbildung der Erfindung werden anhand des Vergleichens die Ähnlichkeit von ersten Trainingsdaten, mittels welchen das erste KNN trainiert wurde, und zweiten Trainingsdaten, mittels welchen das zweite KNN trainiert wurde, beurteilt.

Trainingsdaten beeinflussen das Verhalten einer KNN maßgeblich. So lässt sich beispielsweise die Identität der ersten und zweiten Trainingsdaten nur dann annehmen, wenn das Vergleichen der Abbildungspaare des zweiten KNN mit den Abbildungspaaren des ersten KNN keine oder nur geringfügige Unterschiede hervorbringt.

Gemäß einer bevorzugten Weiterbildung der Erfindung wird anhand des Vergleichens die Ähnlichkeit von einer ersten Architektur des ersten KNN mit einer zweiten Architektur des zweiten KNN beurteilt.

Eine Ähnlichkeit der ersten und zweiten Architektur kommt in Betracht, wenn der Vergleich der Abbildungspaare des zweiten KNN mit den Abbildungspaaren des ersten KNN keine oder nur geringfügige Unterschiede hervorbringt oder wenn das Vergleichsergebnis gewisse Gemeinsamkeiten und Unterschiede zwischen den Abbildungspaaren des zweiten KNN und den Abbildungspaaren des ersten KNN hervorbringt, die anwendungsspezifisch hinsichtlich der zu vergleichenden KNN festzulegen sind.

Gemäß einer bevorzugten Weiterbildung der Erfindung werden Abbildungspaare mit Datenpunkten aus dem Eingangsdatenraum, welche sich innerhalb eines vorgegebenen Nahbereichs eines Teilmengenrandes einer Teilmenge der ersten Partition befinden, vorgegeben.

Für einen zweidimensionalen Eingangsdatenraum lässt sich dieser Aspekt veranschaulichen, indem zu jeder Teilmenge der Partition ein Nahbereich des Teilmengenrandes festgelegt wird. Im Folgenden wird das Verhalten der KNN auf Datenpunkte, die in dem Nahbereich enthalten sind, untersucht. D. h. es wird untersucht, ob das erste KNN zu Eingangsdaten aus dem vorgegebenen Nahbereich andere Ergebnisdaten liefert wie die zweite künstliche Intelligenz.

Dabei ist es auch zweckmäßig, wenn eine minimale Störung ermittelt wird, die mit dem Datenpunkt aus dem Eingangsdatenraum zu verknüpfen ist, sodass sich das zu dem gestörten Datenpunkt aus dem Eingangsdatenraum zugehörige Abbildungsergebnis aus dem Ergebnisdatenraum von dem zugehörigen Abbildungsergebnis des nicht gestörten Datenpunkts unterscheidet. Es versteht sich, dass es vorteilhaft ist, minimale Störungen für eine Vielzahl von Datenpunkten zu ermitteln.

Das bedeutet, dass zu wenigstens zwei Datenpunkten in dem Eingangsdatenraum, die sich jeweils in einem anderen Nahbereich eines Teilmengenrandes der ersten Partition befinden, untersucht wird, ob sich das Ergebnis des ersten KNN von dem Ergebnis des zweiten KNN unterscheidet. Dass die Eingangsdaten in einem jeweils anderen Nahbereich eines Teilmengenrandes liegen, impliziert, dass das erste KNN zu den gestörten bzw. nicht gestörten Eingangsdaten jeweils ein anderes Ergebnis ermittelt. Um das erste KNN möglichst genau zu charakterisieren, ist es vorteilhaft, die Störung zwischen den nicht gestörten und gestörten Eingangsdaten zu minimieren, sodass das erste KNN (gerade noch) für die gestörten bzw. nicht gestörten Eingangsdaten ein anderes Ergebnis ermittelt. Im Folgenden lässt sich das erste KNN mit dem zweiten KNN dahingehend vergleichen, ob auch das zweite KNN zu den gestörten bzw. nicht gestörten Eingangsdaten ein unterschiedliches Ergebnis ermittelt. In diesem Fall ließe sich darauf schließen, dass die erste Partition punktuell identisch bzw. lokal zumindest ähnlich mit der zweiten Partition ist.

Gemäß einer bevorzugten Weiterbildung der Erfindung enthält der Eingangsdatenraum Daten, die von einem Bildsensor erfasst wurden. Dies können beispielsweise Bilddaten, Radardaten und/oder Lidardaten sein, die als Eingangsdaten für ein KNN dienen. Alternativ ist es auch denkbar, dass der Eingangsdatenraum Bilddaten enthält, die mittels softwaregestützter Verfahren erzeugt wurden, also nicht von einem Sensor erfasst wurden. Hierzu zählen beispielsweise Pixelwerte mit bestimmten vorgegebenen Eigenschaften, beispielsweise hinsichtlich einer Frequenz oder eines Gradienten.

Ein Computerprogrammprodukt gemäß einem Verfahren einer Ausführungsform der Erfindung führt die Schritte eines Verfahrens gemäß der vorangehenden Beschreibung aus, wenn das Computerprogrammprodukt auf einem Computer, insbesondere einem fahrzeuginternen Computer, läuft. Wenn das betreffende Programm auf einem Computer zum Einsatz kommt, ruft das Computerprogrammprodukt einen Effekt hervor, nämlich einen charakterisierenden Vergleich zweier KNN.

Es versteht sich, dass eine Recheneinheit, die eingerichtet ist, mit dem ersten bzw. zweiten KNN geladen zu werden und/oder mit einer das erste bzw. zweite KNN ausführenden Recheneinheit gekoppelt zu werden, wobei die Recheneinheit eingerichtet ist, das Verfahren wie es vorstehend beschrieben wurde, durchzuführen, vorteilhaft ist.

INHALTSANGABE DER ZEICHNUNGEN

Die vorliegende Erfindung wird nachfolgend anhand der in den schematischen Figuren der Zeichnungen angegebenen Ausführungsbeispiele näher erläutert. Es zeigen dabei:

Figur 1 eine schematisches Blockdiagramm einer Ausführungsform der Erfindung.

Figur 2 eine Prinzipskizze zur beispielshaften Erläuterung einer Ausführungsform der Erfindung;

Figur 3 eine Prinzipskizze zur beispielshaften Erläuterung einer Ausführungsform der Erfindung. Die beiliegenden Zeichnungen sollen ein weiteres Verständnis der Ausführungsformen der Erfindung vermitteln. Sie veranschaulichen Ausführungsformen und dienen im Zusammenhang mit der Beschreibung der Erklärung von Prinzipien und Konzepten der Erfindung. Andere Ausführungsformen und viele der genannten Vorteile ergeben sich im Hinblick auf die Zeichnungen. Die Elemente der Zeichnungen sind nicht notwendigerweise maßstabsgetreu zueinander gezeigt.

In den Figuren der Zeichnungen sind gleiche, funktionsgleiche und gleichwirkende Elemente, Merkmale und Komponenten - sofern nicht anders ausgeführt ist - jeweils mit denselben Bezugszeichen versehen.

BESCHREIBUNG VON AUSFÜHRUNGSBEISPIELEN

Figur 1 zeigt ein Verfahren zum Vergleichen eines ersten KNN mit einem zweiten KNN, wobei das erste KNN und das zweite KNN jeweils eine erste und eine zweite Abbildung von einem Eingangsdatenraum auf einen Ergebnisdatenraum bilden, mit den Schritten S1 bis S4.

In dem Schritt S1 wird ein erster Eingangsdatenraum zu dem ersten KNN vorgegeben.

In dem Schritt S2 wird eine Partition aus Teilmengen des ersten Eingangsdatenraumes vorgegeben oder geschätzt, insbesondere berechnet, wobei jeder Teilmenge der ersten Partition ein Abbildungsergebnis des ersten KNN aus dem Ergebnisdatenraum zugeordnet wird. Wird eine Partition berechnet, bedeutet dies, dass diese durch eine Schätzung ermittelt wird.

In dem Schritt S3 werden Abbildungspaare des zweiten KNN ermittelt, wobei jedes Abbildungspaar einen Datenpunkt aus dem Eingangsdatenraum und ein zugehöriges Abbildungsergebnis aus dem Ergebnisdatenraum enthält.

In dem Schritt S4 werden die Abbildungspaare des zweiten KNN mit der ersten Partition verglichen, um das zweite KNN hinsichtlich ihrer Ähnlichkeit oder Unterschiedlichkeit zu dem ersten KNN zu beurteilen.

Figur 2 zeigt eine Prinzipskizze zur Veranschaulichung einer Ausführungsform der Erfindung. In Figur 2 ist ein Eingangsdatenraum 19, der in eine Partition 13 zerlegt ist, dargestellt. Die Partition 13 umfasst drei Teilmengen 15, 16 und 17. Die Teilmengen 15, 16 und 17 sind voneinander durch einen Teilmengenrand 11 abgegrenzt. Innerhalb der Teilmenge 15 ist ein Nahbereich 12 des Teilmengenrandes 11 veranschaulicht dargestellt. Wenngleich der Teilmengenrand 12 nur für die Teilmenge 15 dargestellt ist, versteht es sich, dass auch die Teilmengen 16 und 17 einen vergleichbaren Teilmengenrand innerhalb dieser Teilmengen aufweisen. Die Teilmenge 15 enthält mehrere Datenpunkte 1 , die sich innerhalb der Teilmenge 15 mit einem Abstand zum Teilmengenrand 12 befinden. Ferner umfasst die Teilmenge 15 Datenpunkte 2, die sich innerhalb der Teilmenge 15 und innerhalb des Teilmengenrandes 12 befinden.

Die Teilmenge 16 umfasst mehrere Datenpunkte 3. Die Teilmenge 17 umfasst mehrere Daten punkte 4.

Ein KNN, welches Daten aus dem Eingangsdatenraum 19 verarbeitet, kann beispielsweise als klassifizierendes KNN ausgebildet sein. Dementsprechend würde ein KNN den Datenpunkten 1 und 2 der Teilmenge 15 beispielsweise einen Gegenstand „Haus“ zuordnen, den Datenpunkten 3 der Teilmenge 16 einen Gegenstand „Baum“ und den Datenpunkten 4 der Teilmenge 17 einen Gegenstand „Fahrzeug“ zuordnen. Typischerweise ist davon auszugehen, dass das KNN in der praktischen Anwendung in der Regel mit Eingangsdaten 1 , 3 oder 4, die klar innerhalb einer Teilmenge der Partition 13 liegen, gespeist wird. Um das KNN zu charakterisieren sind jedoch auch Grenzfälle, also Datenpunkte in einem Nahbereich 12 an dem Teilmengenrand 1 1 von Bedeutung. Deshalb kann vorgesehen sein, gezielt Datenpunkte 2, die sich in der Nähe eines Teilmengenrandes 11 befinden, zu ermitteln und das künstliche neuronale Netzwerk anhand dieser Datenpunkte 2 zu charakterisieren.

Es ist denkbar, dass sich ein Anwender oder Entwickler eines KNN nach spezifischen Unterschieden zwischen zwei ähnlichen KNN fragt. So existieren zu einem Eingangsdatenraum 19 in der Regel eine Vielzahl von KNN bzw. zumindest eine Vielzahl von Möglichkeiten ein KNN, welches mit Daten aus dem Eingangsdatenraum 19 gespeist wird, zu implementieren.

In der Praxis ergibt es sich häufig für zwei ähnliche KNN, dass die KNN für Datenpunkte 3 und 4, die sich klar innerhalb einer Teilmenge einer Partition 13 des Eingangsdatenraums befinden, also einen ausreichenden Abstand von einem Teilmengenrand 11 aufweisen, ein identisches Ergebnis ermitteln.

Ermitteln zwei KNN auch identische Ergebnisse für Datenpunkte 2, die sich in der Nähe eines Teilmengenrandes 11 befinden, ist davon auszugehen, dass die KNN nahezu identisch sind und mit nahezu identischen Trainingsdaten trainiert wurden.

Sind die KNN jedoch verschieden bzw. wurden mit verschiedenen Trainingsdaten trainiert, so ist davon auszugehen, dass die KNN nicht für alle Eingangsdaten 2, die sich innerhalb eines Nahbereichs 12 einer Teilmengengrenze 11 befinden, ein identisches Ergebnis liefern.

Figur 3 veranschaulicht schematisch eine weitere Ausführungsform der Erfindung. Figur 3 zeigt eine Detailansicht der Partition 13 gemäß Figur 2. In Figur 3 ist ein Datenpunkt 2, der sich innerhalb der Teilmenge 15 und innerhalb des Nahbereichs 12 befindet, dargestellt. Zu dem Datenpunkt 2 wurde eine Störung 5 ermittelt, die auf den Datenpunkt 2 addiert werden kann, wodurch der Datenpunkt 2 von der Teilmenge 15 in die Teilmenge 16 verschoben wird. Dementsprechend überführt die Störung 5 den Datenpunkt 2 in den Datenpunkt 3 innerhalb der Teilmenge 16. Es kann vorgesehen sein, dass die Störung 5 minimiert ist, also dass die Störung 5 gerade so groß ist, dass der Datenpunkt 2 in der Teilmenge 15 gerade noch in die Teilmenge 16 verschoben wird. Dementsprechend würde sich auch der Datenpunkt 3 in Figur 3 sehr nahe an dem Teilmengenrand 11 befinden. Es ist denkbar, derartige Störungen 5 mittels eines softwaregestützten Verfahrens zu ermitteln. Dabei kann vorgesehen sein, dass eine Störung einen Datenpunkt innerhalb einer Teilmenge in eine bestimmte oder unbestimmte andere Teilmenge verschiebt. Die Kenntnis von Datenpunkten 2 innerhalb eines Nahbereichs 12 sowie von gestörten Datenpunkten 3 ist hilfreich für den charakterisierenden Vergleich von KNN. Sind mehrere Datenpunkte 2 bzw. eine Vielzahl von Datenpunkten 2, die sich in verschiedenen Teilmengen innerhalb eines Teilmengenrandes befinden, bekannt, so lässt sich hieraus eine Partition 13 eines Eingangsdatenraums 19 schätzen.

Ist zumindest die Partition eines Eingangsdatenraums eines KNN bekannt, so lässt sich das KNN durch die Partition vollständig charakterisieren, wenn auch bekannt ist, welche Teilmengen auf welches Abbildungsergebnis abgebildet werden. In der Praxis dürfte die Partition jedoch günstigstenfalls für das erste KNN und nicht für das zweite KNN bekannt sein. Die Unbekanntheit der Partition eines KNN kann beispielsweise daher rühren, dass es sich bei dem KNN um ein statistisches Black-Box-KNN handelt, daher, dass ein anderer Anbieter des KNN keine Informationen zum Aufbau des KNN preisgibt oder daher dass es nicht möglich ist die Partition exakt zu bestimmen. In der Realität ist es auch für ein bekanntes System schwierig die Partition exakt zu berechnen. Dennoch kann es gefragt sein, zwei KNN mit einer unbekannten Partition miteinander zu vergleichen.

Bezugszeichen -S4 Verfahrensschritte Datenpunkte Störung Teilmengenrand Partition -17 Teilmengen Eingangsdatenraum

Claims

Patentansprüche

1 . Verfahren zum Vergleichen eines ersten künstlichen neuronalen Netzwerks, nachfolgend mit KNN bezeichnet, mit einem zweiten KNN, wobei das erste KNN bzw. das zweite KNN jeweils eine erste bzw. eine zweite Abbildung von einem Eingangsdatenraum (19) auf einem Ergebnisdatenraum bilden, mit den folgenden Schritten:

- Vorgeben (S1 ) eines ersten Eingangsdatenraums zu dem ersten KNN;

- Vorgeben oder Schätzen (S2) einer ersten Partition (13) aus Teilmengen (15- 17) des ersten Eingangsdatenraums (19) mit mehreren Datenpunkten, wobei jeder Teilmenge ein Abbildungsergebnis des ersten KNN aus dem Ergebnisdatenraum zugeordnet wird, wobei jeweils eine Teilmenge aus dem Eingangsdatenraum zusammen mit einem zugehörigen Abbildungsergebnis des ersten KNN ein erstes Abbildungspaar bilden;

- Ermitteln (S3) von zweiten Abbildungspaaren des zweiten KNN, wobei jedes Abbildungspaar einen Datenpunkt aus dem Eingangsdatenraum (19) und ein zugehöriges Abbildungsergebnis aus dem Ergebnisdatenraum enthält;

- Vergleichen (S4) der zweiten Abbildungspaare mit den ersten Abbildungspaaren, um das zweite KNN hinsichtlich seiner Ähnlichkeit oder Unterschiedlichkeit zu dem ersten KNN zu beurteilen.

2. Verfahren nach Anspruch 1 , wobei anhand des Vergleichens die Ähnlichkeit von ersten Trainingsdaten, mittels welchen das erste KNN trainiert wurde und zweiten Trainingsdaten, mittels welchen das zweite KNN trainiert wurde, beurteilt wird.

3. Verfahren nach einem der vorstehenden Ansprüche, wobei anhand des Vergleichens die Ähnlichkeit von einer ersten Architektur des ersten KNN mit einer zweiten Architektur des zweiten KNN beurteilt wird.

4. Verfahren nach einem der vorstehenden Ansprüche, wobei erste Abbildungspaare mit einem Datenpunkt aus dem Eingangsdatenraum (19), welche sich innerhalb eines vorgegebenen Nahbereichs eines Teilmengenrandes (1 1 ) einer Teilmenge (15; 16; 17) der ersten Partition (13) befinden, vorgegeben werden.

5. Verfahren nach Anspruch 4, wobei eine minimale Störung (5) ermittelt wird, die mit dem Datenpunkt aus dem Eingangsdatenraum zu verknüpfen ist, sodass sich das zu dem gestörten Datenpunkt aus dem Eingangsdatenraum (19) zugehörige Abbildungsergebnis von dem zugehörigen Abbildungsergebnis des nicht gestörten Datenpunkts aus dem Eingangsdatenraum (19) unterscheidet.

6. Verfahren nach einem der vorstehenden Ansprüche, wobei der Eingangsdatenraum Daten enthält, die von einem Bildsensor erfasst wurden und/oder Bilddaten enthält, die mittels softwaregestützter Verfahren erzeugt wurden.

7. Computerprogrammprodukt mit Programmcode-Mitteln, um das Verfahren nach einem der vorstehenden Ansprüche durchzuführen.

8. Recheneinheit, die eingerichtet ist, mit dem ersten und/oder zweiten KNN geladen zu werden und/oder mit einem das erste bzw. zweite KNN ausführenden Recheneinheit gekoppelt zu werden, wobei die Recheneinheit eingerichtet ist, das Verfahren nach einem der vorstehenden Ansprüche 1 -6 durchzuführen.