DE102021133740A1 - Erlernen der identifikation sicherheitskritischer szenarien für ein autonomes fahrzeug - Google Patents

Erlernen der identifikation sicherheitskritischer szenarien für ein autonomes fahrzeug Download PDF

Info

Publication number
DE102021133740A1
DE102021133740A1 DE102021133740.2A DE102021133740A DE102021133740A1 DE 102021133740 A1 DE102021133740 A1 DE 102021133740A1 DE 102021133740 A DE102021133740 A DE 102021133740A DE 102021133740 A1 DE102021133740 A1 DE 102021133740A1
Authority
DE
Germany
Prior art keywords
action
distance
vehicle
agent
reward
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102021133740.2A
Other languages
English (en)
Inventor
James Guo Ming Fu
Scott D. Pendleton
You Hong Eng
Yu Pan
Jiong Yang
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Motional AD LLC
Original Assignee
Motional AD LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Motional AD LLC filed Critical Motional AD LLC
Publication of DE102021133740A1 publication Critical patent/DE102021133740A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0015—Planning or execution of driving tasks specially adapted for safety
    • B60W60/0018—Planning or execution of driving tasks specially adapted for safety by employing degraded modes, e.g. reducing speed, in response to suboptimal conditions
    • B60W60/00186—Planning or execution of driving tasks specially adapted for safety by employing degraded modes, e.g. reducing speed, in response to suboptimal conditions related to the vehicle
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095—Predicting travel path or likelihood of collision
    • B60W30/0956—Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02—Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/0205—Diagnosing or detecting failures; Failure detection models
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0027—Planning or execution of driving tasks using trajectory prediction for other traffic participants
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062—Adapting control system settings
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/20—Static objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/40—Dynamic objects, e.g. animals, windblown objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/80—Spatial relation or speed relative to objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Traffic Control Systems (AREA)

Abstract

Es sind Verfahren zum Erlernen, sicherheitskritische Szenarien für autonome Fahrzeuge zu identifizieren, vorgesehen. Es werden erste Zustandsinformationen empfangen, die einen ersten Zustand eines Fahrszenarios repräsentieren. Die Informationen weisen einen Zustand eines Fahrzeugs und einen Zustand eines Agenten in der Umgebung des Fahrzeugs auf. Die ersten Zustandsinformationen werden mit einem neuronalen Netz verarbeitet, um wenigstens eine durch den Agenten auszuführende Aktion zu bestimmen, einschließlich einer Wahrnehmungsverschlechterungsaktion, die eine Fehlwahrnehmung des Agenten durch ein Wahrnehmungssystem des Fahrzeugs hervorruft. Zweite Zustandsinformationen, die einen zweiten Zustand des Fahrszenarios repräsentieren, werden nach der Ausführung der wenigstens einen Aktion empfangen. Es wird eine Belohnung für die Aktion bestimmt. Erste und zweite Abstände zwischen dem Fahrzeug und dem Agenten werden bestimmt und verglichen, um die Belohnung für die wenigstens eine Aktion zu bestimmen. Wenigstens ein Gewicht des neuronalen Netzes wird auf der Grundlage der Belohnung angepasst.

Description

  • HINTERGRUND
  • Die Entwicklung eines autonomen Fahrzeugs (AV) ist mit der Herausforderung verbunden, Szenarien zu identifizieren, welche eine Wahrnehmungsverschlechterung außerhalb einer Betriebseinhüllenden des AVs genau erfassen. Beispielsweise kann es am Rand der Betriebseinhüllenden des AVs Szenarien geben, die in der Software, welche den Betrieb des AVs steuert, nicht modelliert werden. Identifizierte Szenarien werden beispielsweise verwendet, um die Navigation des AVs um andere Objekte, die Sicherheitsbedenken für das AV oder seinen (seine) Insassen präsentieren können, zu verbessern. Ein Beispiel einer Wahrnehmungsverschlechterung ist ein Objektflackern, bei dem ein Objekt vorübergehend hinter einem anderen Objekt „verschwinden“ kann, wenn sich das AV in Richtung des Objekts bewegt. Objektflackern gilt beispielsweise für einen Fußgänger, der hinter einem Kraftfahrzeug in Richtung eines Verkehrs geht, in dem das AV arbeitet und/oder sich diesem nähert.
  • Figurenliste
  • Es zeigen:
    • 1 eine beispielhafte Umgebung, worin ein Fahrzeug, das eine oder mehrere Komponenten eines autonomen Systems aufweist, implementiert ist,
    • 2 ein Diagramm eines oder mehrerer Systeme eines Fahrzeugs, das ein autonomes System aufweist,
    • 3 ein Diagramm von Komponenten einer oder mehrerer Vorrichtungen und/oder eines oder mehrerer Systeme aus den 1 und 2,
    • 4A ein Diagramm gewisser Komponenten eines autonomen Systems,
    • 4B ein Diagramm einer Implementation eines neuronalen Netzes,
    • die 4C und 4D Diagramme eines beispielhaften Betriebs eines CNNs,
    • 5 ein Diagramm einer Implementation eines Prozesses, um es zu erlernen, sicherheitskritische Szenarien für ein autonomes Fahrzeug zu identifizieren,
    • 6 ein Diagramm eines Szenariolernsystems, das zum Erzeugen oder Aktualisieren von Szenarien zur Verwendung durch ein autonomes Fahrzeug verwendet wird, und
    • 7 ein Flussdiagramm eines Prozesses, um es zu erlernen, sicherheitskritische Szenarien für ein autonomes Fahrzeug zu identifizieren.
  • DETAILLIERTE BESCHREIBUNG
  • In der folgenden Beschreibung werden für die Zwecke der Erklärung zahlreiche spezifische Einzelheiten dargelegt, um ein gründliches Verständnis der vorliegenden Offenbarung bereitzustellen. Es ist jedoch zu verstehen, dass die durch die vorliegende Offenbarung beschriebenen Ausführungsformen ohne diese spezifischen Einzelheiten verwirklicht werden können. In einigen Fällen sind wohlbekannte Strukturen und Vorrichtungen in Form eines Blockdiagramms dargestellt, um es zu vermeiden, Aspekte der vorliegenden Offenbarung unnötig unverständlich zu machen.
  • Spezifische Anordnungen oder Reihenfolgen schematischer Elemente in der Art jener, die Systeme, Vorrichtungen, Module, Engines, Befehlsblöcke, Datenelemente und/oder dergleichen repräsentieren, sind zur Vereinfachung der Beschreibung in den Zeichnungen dargestellt. Fachleute werden jedoch verstehen, dass die spezifische Reihenfolge oder Anordnung der schematischen Elemente in den Zeichnungen nicht implizieren soll, dass eine bestimmte Ordnung oder Sequenz der Verarbeitung oder Trennung von Prozessen erforderlich ist, es sei denn, dass dies explizit so beschrieben wird. Ferner soll die Aufnahme eines schematischen Elements in einer Zeichnung nicht implizieren, dass dieses Element in allen Ausführungsformen benötigt wird oder dass die durch dieses Element repräsentierten Merkmale nicht gemäß einigen Ausführungsformen in andere Elemente aufgenommen oder mit diesen kombiniert werden können, es sei denn, dass dies explizit so beschrieben wird.
  • Ferner soll in den Zeichnungen an Stellen, an denen verbindende Elemente, beispielsweise durchgezogene oder gestrichelte Linien oder Pfeile, verwendet werden, um eine Verbindung, Beziehung oder Assoziation zwischen oder unter zwei oder mehr anderen schematischen Elementen darzustellen, das Nichtvorhandensein solcher verbindender Elemente nicht bedeuten, dass dadurch impliziert wird, dass keine Verbindung, Beziehung oder Assoziation existieren kann. Mit anderen Worten sind in den Zeichnungen einige Verbindungen, Beziehungen oder Assoziationen zwischen Elementen nicht dargestellt, um die Offenbarung nicht unverständlich zu machen. Zusätzlich kann im Interesse einer einfachen Darstellung ein einziges verbindendes Element verwendet werden, um mehrere Verbindungen, Beziehungen oder Assoziationen zwischen Elementen zu repräsentieren. Beispielsweise sollten Fachleute an Stellen, an denen ein verbindendes Element eine Kommunikation von Signalen, Daten oder Befehlen (beispielsweise „Softwarebefehlen“) repräsentiert, verstehen, dass dieses Element einen oder mehrere Signalwege (beispielsweise einen Bus) repräsentieren kann, wie es erforderlich sein kann, um die Kommunikation auszuführen.
  • Wenngleich die Begriffe erster, zweiter, dritter und/oder dergleichen verwendet werden, um verschiedene Elemente zu beschreiben, sollten diese Elemente nicht durch diese Begriffe beschränkt werden. Die Begriffe erster, zweiter, dritter und/oder dergleichen werden nur zur Unterscheidung eines Elements von einem anderen verwendet. Beispielsweise könnte ein erster Kontakt als ein zweiter Kontakt bezeichnet werden und könnte ähnlich ein zweiter Kontakt als ein erster Kontakt bezeichnet werden, ohne vom Schutzumfang der beschriebenen Ausführungsformen abzuweichen. Der erste und der zweite Kontakt sind beide Kontakte, sie sind jedoch nicht derselbe Kontakt.
  • Die in der Beschreibung der verschiedenen hier beschriebenen Ausführungsformen verwendete Terminologie dient nur der Beschreibung bestimmter Ausführungsformen und ist nicht als einschränkend vorgesehen. Wie in der Beschreibung der verschiedenen beschriebenen Ausführungsformen und den anliegenden Ansprüchen verwendet, sollen die Singularformen „ein/eine/eines“ und „der/die/das“ auch die Pluralformen einschließen und können austauschbar mit „ein/eine/eines oder mehrere“ oder „wenigstens ein/eine/eines“ verwendet werden, es sei denn, dass der Zusammenhang klar etwas anderes angibt. Es sei auch bemerkt, dass der Begriff „und/oder“, wie er hier verwendet wird, jegliche und alle möglichen Kombinationen eines oder mehrerer der assoziierten aufgezählten Bestandteile betrifft und diese umfasst. Es ist ferner zu verstehen, dass die Begriffe „weist auf“, „aufweisend“, „umfasst“ und/oder „umfassend“, wenn sie in dieser Beschreibung verwendet werden, das Vorhandensein erwähnter Merkmale, natürlicher Zahlen, Schritte, Operationen, Elemente und/oder Komponenten spezifizieren, jedoch nicht das Vorhandensein oder das Hinzufügen eines oder mehrerer anderer Merkmale, natürlicher Zahlen, Schritte, Operationen, Elemente, Komponenten und/oder Gruppen davon ausschließen.
  • Hier beziehen sich die Begriffe „Kommunikation“ und „Kommunizieren“ auf wenigstens einen vom Empfang, von der Entgegennahme, von der Aussendung, der Übertragung, der Bereitstellung und/oder dergleichen von Informationen (oder Informationen, die beispielsweise durch Daten, Signale, Nachrichten, Befehle, Anweisungen und/oder dergleichen repräsentiert sind). Dass eine Einheit (beispielsweise eine Vorrichtung, ein System, eine Komponente einer Vorrichtung oder eines Systems, Kombinationen davon und/oder dergleichen) in Kommunikation mit einer anderen Einheit steht, bedeutet, dass die eine Einheit in der Lage ist, direkt oder indirekt Informationen von der anderen Einheit zu empfangen und/oder zu dieser zu senden (beispielsweise zu übertragen). Dies kann sich auf eine direkte oder indirekte Verbindung beziehen, die der Natur nach festverdrahtet und/oder drahtlos ist. Zusätzlich können zwei Einheiten in Kommunikation miteinander stehen, selbst wenn die übertragenen Informationen zwischen der ersten und der zweiten Einheit modifiziert, verarbeitet, vermittelt und/oder weitergeleitet werden können. Beispielsweise kann eine erste Einheit in Kommunikation mit einer zweiten Einheit stehen, selbst wenn die erste Einheit passiv Informationen empfängt und nicht aktiv Informationen zur zweiten Einheit sendet. Bei einem anderen Beispiel kann eine erste Einheit in Kommunikation mit einer zweiten Einheit stehen, falls wenigstens eine Zwischeneinheit (beispielsweise eine dritte Einheit, die sich zwischen der ersten Einheit und der zweiten Einheit befindet) von der ersten Einheit empfangene Informationen verarbeitet und die verarbeiteten Informationen zur zweiten Einheit sendet. Gemäß einigen Ausführungsformen kann sich eine Nachricht auf ein Netzpaket (beispielsweise ein Datenpaket und/oder dergleichen), das Daten aufweist, beziehen.
  • Hier sollte der Begriff „falls“ abhängig vom Zusammenhang optional als „wenn“, „bei“, „ansprechend auf eine Feststellung“, „ansprechend auf eine Erkennung“ und/oder dergleichen bedeutend ausgelegt werden. Ähnlich sollte der Ausdruck „falls festgestellt wird“ oder „falls [eine erwähnte Bedingung oder ein erwähntes Ereignis] erkannt wird“ abhängig vom Zusammenhang optional als „bei einer Feststellung“, „ansprechend auf eine Feststellung“, „bei einer Erkennung [der erwähnten Bedingung oder des erwähnten Ereignisses]“, „ansprechend auf eine Erkennung [der erwähnten Bedingung oder des erwähnten Ereignisses]“ und/oder dergleichen bedeutend ausgelegt werden. Auch sind die Begriffe „weist auf“, „weisen auf“, „aufweisend“ oder dergleichen wie hier verwendet als offene Begriffe vorgesehen. Ferner soll der Ausdruck „basierend auf‟ als „zumindest teilweise basierend auf“ verstanden werden, es sei denn, dass etwas anderes explizit ausgesagt wird.
  • Es wird nun detailliert auf Ausführungsformen Bezug genommen, von denen Beispiele in den anliegenden Zeichnungen dargestellt sind. In der folgenden detaillierten Beschreibung werden zahlreiche spezifische Einzelheiten dargelegt, um ein gründliches Verständnis der verschiedenen beschriebenen Ausführungsformen bereitzustellen. Durchschnittsfachleute auf dem Gebiet werden jedoch verstehen, dass die verschiedenen beschriebenen Ausführungsformen ohne diese spezifischen Einzelheiten verwirklicht werden können. In anderen Fällen wurden wohlbekannte Verfahren, Prozeduren, Komponenten, Schaltungen und Netze nicht detailliert beschrieben, um Aspekte der Ausführungsformen nicht unnötig unverständlich zu machen.
  • Allgemeiner Überblick
  • Gemäß einigen Aspekten und/oder Ausführungsformen umfassen und/oder implementieren hier beschriebene Systeme, Verfahren und Computerprogrammprodukte Folgendes. Erste Zustandsinformationen, die einen ersten Zustand eines Fahrszenarios repräsentieren, werden von wenigstens einem Prozessor empfangen. Die ersten Zustandsinformationen umfassen einen Zustand eines Fahrzeugs und einen Zustand eines Agenten in einer Umgebung des Fahrzeugs. Die ersten Zustandsinformationen werden durch den wenigstens einen Prozessor mit einem neuronalen Netz verarbeitet, um wenigstens eine durch den Agenten auszuführende Aktion zu bestimmen. Die wenigstens eine Aktion umfasst eine Wahrnehmungsverschlechterungsaktion, die eine Fehlwahrnehmung des Agenten durch ein Wahrnehmungssystem des Fahrzeugs hervorruft. Zweite Zustandsinformationen, die einen zweiten Zustand des Fahrszenarios repräsentieren, werden durch den wenigstens einen Prozessor nach der Ausführung der wenigstens einen Aktion durch den Agenten empfangen. Eine Belohnung für die wenigstens eine Aktion wird durch den wenigstens einen Prozessor bestimmt, wobei dies Folgendes aufweist. Ein erster Abstand zwischen dem Fahrzeug und dem Agenten im ersten Zustand wird auf der Grundlage der ersten Zustandsinformationen bestimmt. Ein zweiter Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand wird auf der Grundlage der zweiten Zustandsinformationen bestimmt. Der erste und der zweite Abstand werden verglichen, um die Belohnung für die wenigstens eine Aktion zu bestimmen. Die Belohnung ist größer, wenn der zweite Abstand mit dem ersten Abstand übereinstimmt. Wenigstens ein Gewicht des neuronalen Netzes wird durch den wenigstens einen Prozessor auf der Grundlage der Belohnung für die wenigstens eine Aktion angepasst.
  • Durch die Implementation der hier beschriebenen Systeme, Verfahren und Computerprogrammprodukte weisen Techniken, um es zu erlernen, sicherheitskritische Szenarien für ein autonomes Fahrzeug zu identifizieren, die folgenden Vorteile auf. Die Techniken können für das Erlernen adversarieller, jedoch vernünftiger Aktionen, die andere Agenten ausführen können, um Randfallszenarien zwangsweise auszuschließen, verwendet werden. Weil eine Wahrnehmungsverschlechterung, Lokalisierungsverschlechterung oder andere Formen einer Systemverschlechterung selten sein können, ist das Herausziehen solcher Fälle bei einer Simulation entscheidend, um vernünftige mögliche im schlimmsten Fall auftretende Fehler des autonomen Fahrzeugsystems zu beurteilen. Die Technik kann auf viele Szenarien skaliert werden, wobei rechnerische Vorteile gegenüber Alternativen in der Art gleichmäßiger Abtastungs- oder Abdeckungs-Arrays bei höherdimensionalen Szenarioparametrisierungen verwirklicht werden können. Wenn verschiedene Wahrnehmungsverschlechterungssituationen entdeckt werden, können die Situationen zu einer der Aktionen hinzugefügt werden, um nach neuen Randfallszenarien zu suchen. Dies kann wiederum zu einem genaueren Training am Betrieb eines autonomen Fahrzeugs beteiligter Maschinenlernmodelle führen. Die identifizierten Testszenarien können auch zur Überprüfung des Verhaltens des Betriebs eines autonomen Fahrzeugs bei Vorhandensein einer Systemverschlechterung verwendet werden, wodurch eine eher holistische Sicherheitsanalyse als bei Alternativen, die sich nur auf vollständig beobachtete Ego- und Agentenorte konzentrieren, bereitgestellt wird. Die Überprüfung des Ego-Verhaltens in diesen verschiedenen Situationen kann die Verifizierung, dass gewisse Sicherheitsstandards erfüllt sind (beispielsweise Sicherheit der beabsichtigten Funktionalität gemäß ISO 21448), unterstützen. Es sei auch bemerkt, dass eine Verhaltensbefolgungsverifikation breit auf ein autonomes System anwendbar ist, das für die Verfahren agnostisch ist, die für die Planung und Entscheidungsfällung des autonomen Fahrzeugs (auf Maschinenlernen oder etwas anderem beruhend) implementiert sind.
  • 1 zeigt nun eine beispielhafte Umgebung 100, in der Fahrzeuge, die autonome Systeme aufweisen, sowie Fahrzeuge, bei denen dies nicht der Fall ist, betrieben werden. Wie dargestellt, weist die Umgebung 100 Fahrzeuge 102a - 102n, Objekte 104a - 104n, Routen 106a - 106n, einen Bereich 108, eine Fahrzeug-zu-Infrastruktur(V21)-Vorrichtung 110, ein Netz 112, ein Fernes-autonomes-Fahrzeug(AV)-System 114, ein Flottenverwaltungssystem 116 und ein V21-System 118 auf. Die Fahrzeuge 102a - 102n, die Fahrzeug-zu-Infrastruktur(V21)-Vorrichtung 110, das Netz 112, das Autonomes-Fahrzeug(AV)-System 114, das Flottenverwaltungssystem 116 und das V21-System 118 sind durch festverdrahtete Verbindungen, drahtlose Verbindungen oder eine Kombination festverdrahteter oder drahtloser Verbindungen miteinander verbunden (stellen beispielsweise eine Verbindung zur Kommunikation und/oder dergleichen) her. Gemäß einigen Ausführungsformen sind Objekte 104a - 104n durch festverdrahtete Verbindungen, drahtlose Verbindungen oder eine Kombination festverdrahteter oder drahtloser Verbindungen mit wenigstens einem der Fahrzeuge 102a - 102n, der Fahrzeug-zu-Infrastruktur(V21)-Vorrichtung 110, des Netzes 112, des Autonomes-Fahrzeug(AV)-Systems 114, des Flottenverwaltungssystems 116 und des V21-Systems 118 verbunden.
  • Fahrzeuge 102a - 102n (individuell als Fahrzeug 102 und gemeinsam als Fahrzeuge 102 bezeichnet) weisen wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, Waren und/oder Personen zu transportieren. Gemäß einigen Ausführungsformen sind Fahrzeuge 102 dafür ausgelegt, über das Netz 112 in Kommunikation mit der V21-Vorrichtung 110, dem Fern-AV-System 114, dem Flottenverwaltungssystem 116 und/oder dem V21-System 118 zu stehen. Gemäß einigen Ausführungsformen umfassen Fahrzeuge 102 Personenkraftwagen, Busse, Lastwagen, Züge und/oder dergleichen. Gemäß einigen Ausführungsformen gleichen oder ähneln die Fahrzeuge 102 hier beschriebenen Fahrzeugen 200 (siehe 2). Gemäß einigen Ausführungsformen ist ein Fahrzeug 200 eines Satzes von Fahrzeugen 200 mit einem Autonome-Flotte-Manager assoziiert. Gemäß einigen Ausführungsformen fahren Fahrzeuge 102 entlang jeweiligen Routen 106a - 106n (individuell als Route 106 und gemeinsam als Routen 106 bezeichnet), wie hier beschrieben. Gemäß einigen Ausführungsformen weisen ein oder mehrere Fahrzeuge 102 ein autonomes System (beispielsweise ein autonomes System, das dem autonomen System 202 gleicht oder ähnelt) auf.
  • Objekte 104a - 104n (individuell als Objekt 104 und gemeinsam als Objekte 104 bezeichnet) umfassen beispielsweise wenigstens ein Fahrzeug, wenigstens einen Fußgänger, wenigstens einen Radfahrer, wenigstens eine Struktur (beispielsweise ein Gebäude, ein Zeichen, einen Feuerhydranten usw.) und/oder dergleichen. Jedes Objekt 104 ist stationär (befindet sich beispielsweise während eines Zeitraums an einem festen Ort) oder mobil (weist beispielsweise eine Geschwindigkeit auf und ist mit wenigstens einer Fahrstrecke assoziiert). Gemäß einigen Ausführungsformen sind Objekte 104 mit entsprechenden Orten im Bereich 108 assoziiert.
  • Routen 106a - 106n (individuell als Route 106 und gemeinsam als Routen 106 bezeichnet) sind jeweils mit einer Sequenz von Aktionen (auch als Fahrstrecke bekannt), die Zustände verbinden, entlang derer ein AV navigieren kann, assoziiert (schreiben diese beispielsweise vor). Jede Route 106 beginnt an einem Anfangszustand (beispielsweise einem Zustand, der einem ersten räumlich-zeitlichen Ort, einer Geschwindigkeit und/oder dergleichen entspricht) und einem Endzielzustand (beispielsweise einem Zustand, der einem zweiten räumlich-zeitlichen Ort entspricht, welcher sich vom ersten räumlich-zeitlichen Ort unterscheidet) oder Zielgebiet (beispielsweise einem Teilraum akzeptierbarer Zustände (beispielsweise Endzustände)). Gemäß einigen Ausführungsformen umfasst der erste Zustand einen Ort, an dem eine oder mehrere Personen durch das AV aufzunehmen sind, und umfasst der zweite Zustand oder das zweite Gebiet einen oder mehrere Orte, an denen die eine oder die mehreren vom AV aufgenommenen Personen abzusetzen sind. Gemäß einigen Ausführungsformen umfassen Routen 106 mehrere akzeptierbare Zustandssequenzen (beispielsweise mehrere räumlich-zeitliche Ortssequenzen), wobei die mehreren Zustandssequenzen mit mehreren Fahrstrecken assoziiert sind (beispielsweise diese definieren). Bei einem Beispiel umfassen Routen 106 nur Aktionen hoher Ebene oder ungenaue Zustandsorte, wie eine Reihe miteinander verbundener Straßen, die Abbiegerichtungen an Straßenkreuzungen vorschreiben. Zusätzlich oder alternativ können Routen 106 genauere Aktionen oder Zustände wie beispielsweise spezifische Zielfahrspuren oder genaue Orte innerhalb der Fahrspurbereiche und die angestrebte Geschwindigkeit an diesen Positionen umfassen. Bei einem Beispiel umfassen Routen 106 mehrere genaue Zustandssequenzen entlang der wenigstens einen Aktionssequenz hoher Ebene mit einem begrenzten Vorschauhorizont zur Erreichung von Zwischenzielen, wobei die Kombination aufeinander folgender Iterationen von Zustandssequenzen mit einem begrenzten Horizont kumulativ mehreren Fahrstrecken entspricht, die gemeinsam die Route hoher Ebene zum Erreichen des Endzielzustands oder -gebiets bilden.
  • Der Bereich 108 umfasst einen physischen Bereich (beispielsweise ein geographisches Gebiet), innerhalb dessen Fahrzeuge 102 navigieren können. Bei einem Beispiel umfasst der Bereich 108 wenigstens einen Zustand (beispielsweise ein Land, eine Provinz, einen individuellen Staat mehrerer Staaten in einem Land usw.), wenigstens einen Teil eines Staats, wenigstens eine Stadt, wenigstens einen Teil einer Stadt usw. Gemäß einigen Ausführungsformen umfasst der Bereich 108 wenigstens eine benannte Durchgangsroute (hier als „Straße“ bezeichnet) in der Art einer Schnellstraße, einer Überlandschnellstraße, einer Schnellstraße mit beschränkter Fahrzeuggröße, einer Stadtstraße usw. Zusätzlich oder alternativ umfasst der Bereich 108 bei einigen Beispielen wenigstens eine unbenannte Straße in der Art einer Auffahrt, eines Abschnitts eines Parkplatzes, eines Abschnitts eines leeren und/oder unterentwickelten Grundstücks, eines unbefestigten Wegs usw. Gemäß einigen Ausführungsformen weist eine Straße wenigstens eine Fahrspur (beispielsweise einen Teil der Straße, der von Fahrzeugen 102 befahren werden kann) auf. Bei einem Beispiel weist eine Straße wenigstens eine Fahrspur in Zusammenhang mit wenigstens einer Fahrspurmarkierung (beispielsweise auf der Grundlage dieser identifiziert) auf.
  • Die Fahrzeug-zu-Infrastruktur(V21)-Vorrichtung 110 (manchmal als Fahrzeug-zu-Infrastruktur(V2X)-Vorrichtung bezeichnet) umfasst wenigstens eine Vorrichtung, die dafür ausgelegt ist, mit Fahrzeugen 102 und/oder dem V2I-Infrastruktursystem 118 in Kommunikation zu stehen. Gemäß einigen Ausführungsformen ist die V21-Vorrichtung 110 dafür ausgelegt, über das Netz 112 in Kommunikation mit Fahrzeugen 102, mit dem Fern-AV-System 114, mit dem Flottenverwaltungssystem 116 und/oder dem V21-System 118 zu stehen. Gemäß einigen Ausführungsformen umfasst die V21-Vorrichtung 110 eine Funkfrequenzidentifikations(RFID)-Vorrichtung, eine Ausschilderung, Kameras (beispielsweise zweidimensionale (2D) und/oder dreidimensionale (3D) Kameras), Fahrspurmarkierungen, Straßenleuchten, Parkuhren usw. Gemäß einigen Ausführungsformen ist die V21-Vorrichtung 110 dafür ausgelegt, direkt mit Fahrzeugen 102 zu kommunizieren. Alternativ oder zusätzlich ist die V21-Vorrichtung 110 gemäß einigen Ausführungsformen dafür ausgelegt, über das V21-System 118 mit Fahrzeugen 102, mit dem Fern-AV-System 114 und/oder mit dem Flottenverwaltungssystem 116 zu kommunizieren. Gemäß einigen Ausführungsformen ist die V21-Vorrichtung 110 dafür ausgelegt, über das Netz 112 mit dem V21-System 118 zu kommunizieren.
  • Das Netz 112 umfasst ein oder mehrere festverdrahtete und/oder drahtlose Netze. Bei einem Beispiel umfasst das Netz 112 ein zellenbasiertes Netz (beispielsweise ein Long-Term-Evolution(LTE)-Netz, ein Netz der dritten Generation (3G-Netz), ein Netz der vierten Generation (4G-Netz), ein Netz der fünften Generation (5G-Netz), ein Codegetrenntlage-Vielfachzugriff(CDMA)-Netz usw.), ein öffentliches terrestrisches Mobilfunknetz (PLMN), ein lokales Netz (LAN), ein Weitbereichsnetz (WAN), ein Großstadtnetz (MAN), ein Telefonnetz (beispielsweise das öffentliche Wählverbindungsnetz (PSTN), ein privates Netz, ein Adhoc-Netz, ein Intranet, das Internet, ein Netz auf Faseroptikbasis, ein Cloud-Rechennetz usw., eine Kombination einiger oder aller dieser Netze und/oder dergleichen.
  • Das Fern-AV-System 114 weist wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, über das Netz 112 in Kommunikation mit Fahrzeugen 102, der V21-Vorrichtung 110, dem Netz 112, dem Fern-AV-System 114, dem Flottenverwaltungssystem 116 und/oder dem V21-System 118 zu stehen. Bei einem Beispiel weist das Fern-AV-System 114 einen Server, eine Gruppe von Servern und/oder andere vergleichbare Vorrichtungen auf. Gemäß einigen Ausführungsformen befindet sich das Fern-AV-System 114 am selben Ort wie das Flottenverwaltungssystem 116. Gemäß einigen Ausführungsformen ist das Fern-AV-System 114 an der Installation einiger oder aller der Komponenten eines Fahrzeugs, einschließlich eines autonomen Systems, eines Autonomes-Fahrzeug-Computers, durch einen Autonomes-Fahrzeug-Computer implementierter Software und/oder dergleichen, beteiligt. Gemäß einigen Ausführungsformen wartet das Fern-AV-System 114 solche Komponenten und/oder solche Software während der Lebensdauer der Vorrichtung (führt beispielsweise Aktualisierungen und/oder Ersetzungen aus).
  • Das Flottenverwaltungssystem 116 weist wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, in Kommunikation mit Fahrzeugen 102, der V2I-Vorrichtung 110, dem Fern-AV-System 114 und/oder dem V21-Infrastruktursystem 118 zu stehen. Bei einem Beispiel weist das Flottenverwaltungssystem 116 einen Server, eine Gruppe von Servern und/oder andere vergleichbare Vorrichtungen auf. Gemäß einigen Ausführungsformen ist das Flottenverwaltungssystem 116 mit einer Fahrgemeinschaftsfirma (beispielsweise einer Organisation, die den Betrieb mehrerer Fahrzeuge steuert (beispielsweise Fahrzeuge, die autonome Systeme aufweisen, und/oder Fahrzeuge, die keine autonomen Systeme aufweisen) und/oder dergleichen) assoziiert.
  • Gemäß einigen Ausführungsformen weist das V21-System 118 wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, über das Netz 112 in Kommunikation mit Fahrzeugen 102, der V21-Vorrichtung 110, dem Fern-AV-System 114 und/oder dem Flottenverwaltungssystem 116 zu stehen. Bei einigen Beispielen ist das V21-System 118 dafür ausgelegt, über eine vom Netz 112 verschiedene Verbindung in Kommunikation mit der V21-Vorrichtung 110 zu stehen. Gemäß einigen Ausführungsformen weist das V21-System 118 einen Server, eine Gruppe von Servern und/oder andere vergleichbare Vorrichtungen auf. Gemäß einigen Ausführungsformen ist das V21-System 118 mit einer Kommunalverwaltung oder einer privaten Institution (beispielsweise einer privaten Institution, welche die V2I-Vorrichtung 110 und/oder dergleichen unterhält) assoziiert.
  • Die Anzahl und die Anordnung der in 1 dargestellten Elemente dienen als Beispiel. Es kann zusätzliche Elemente, weniger Elemente, andere Elemente und/oder anders angeordnete Elemente als die in 1 dargestellten geben. Zusätzlich oder alternativ kann wenigstens ein Element der Umgebung 100 eine oder mehrere Funktionen ausführen, die als durch wenigstens ein anderes Element aus 1 ausgeführt beschrieben wurden. Zusätzlich oder alternativ kann wenigstens ein Satz von Elementen der Umgebung 100 eine oder mehrere Funktionen ausführen, die als durch wenigstens einen anderen Satz der Elemente der Umgebung 100 ausgeführt beschrieben wurden.
  • Mit Bezug auf 2 sei nun bemerkt, dass das Fahrzeug 200 ein autonomes System 202, ein Antriebsstrang-Steuersystem 204, ein Lenksteuersystem 206 und ein Bremssystem 208 aufweist. Gemäß einigen Ausführungsformen gleicht oder ähnelt das Fahrzeug 200 dem Fahrzeug 102 (siehe 1). Gemäß einigen Ausführungsformen weist das Fahrzeug 102 eine Autonomiefähigkeit auf (beispielsweise Implementieren wenigstens einer Funktion, wenigstens eines Merkmals, wenigstens einer Vorrichtung und/oder dergleichen, wodurch es ermöglicht wird, dass das Fahrzeug 200 teilweise oder ganz ohne einen menschlichen Eingriff betrieben wird, einschließlich ohne Einschränkung vollständig autonomer Fahrzeuge (beispielsweise Fahrzeuge, die nicht auf einen menschlichen Eingriff vertrauen), hochgradig autonomer Fahrzeuge (beispielsweise Fahrzeuge, die in gewissen Situationen nicht auf einen menschlichen Eingriff vertrauen) und/oder dergleichen). Für eine detaillierte Beschreibung vollständig autonomer Fahrzeuge und hochgradig autonomer Fahrzeuge sei auf SAE International's Standard J3016: Taxonomy and Definitions for Terms Related to On-Road Motor Vehicle Automated Driving Systems, der durch Verweis in seiner Gesamtheit aufgenommen ist, verwiesen. Gemäß einigen Ausführungsformen ist das Fahrzeug 200 mit einem Autonome-Flotte-Manager und/oder einer Fahrgemeinschaftsfirma assoziiert.
  • Das autonome System 202 weist eine Sensorsuite auf, die eine oder mehrere Vorrichtungen in der Art von Kameras 202a, LiDAR-Sensoren 202b, Radarsensoren 202c und Mikrofonen 202d aufweist. Gemäß einigen Ausführungsformen kann das autonome System 202 mehr oder weniger Vorrichtungen und/oder andere Vorrichtungen (beispielsweise Ultraschallsensoren, Trägheitssensoren, GPS-Empfänger (nachstehend erörtert), Odometrie-Sensoren, die Daten erzeugen, die mit einer Angabe der Strecke, die das Fahrzeug 200 gefahren ist, assoziiert sind, und/oder dergleichen) aufweisen. Gemäß einigen Ausführungsformen verwendet das autonome System 202 die eine oder die mehreren darin enthaltenen Vorrichtungen zur Erzeugung von Daten in Zusammenhang mit der Umgebung 100, wie hier beschrieben. Die durch die eine oder die mehreren Vorrichtungen des autonomen Systems 202 erzeugten Daten können durch ein oder mehrere hier beschriebene Systeme zur Beobachtung der Umgebung (beispielsweise der Umgebung 100), in der sich das Fahrzeug 200 befindet, verwendet werden. Gemäß einigen Ausführungsformen weist das autonome System 202 eine Kommunikationsvorrichtung 202e, einen Autonomes-Fahrzeug-Computer 202f und ein Drive-by-Wire(DBW)-System 202h auf.
  • Kameras 202a weisen wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, über einen Bus (beispielsweise einen Bus, der dem Bus 302 aus 3 gleicht oder ähnelt) in Kommunikation mit der Kommunikationsvorrichtung 202e, dem Autonomes-Fahrzeug-Computer 202f und/oder der Sicherheitssteuereinrichtung 202g zu stehen. Kameras 202a umfassen wenigstens eine Kamera (beispielsweise eine Digitalkamera unter Verwendung eines Lichtsensors in der Art einer ladungsgekoppelten Vorrichtung (CCD), eine Wärmekamera, eine Infrarot(IR)-Kamera, eine Ereigniskamera und/oder dergleichen) zur Aufnahme von Bildern, die physische Objekte (beispielsweise Personenkraftwagen, Busse, Bordsteine, Personen und/oder dergleichen) aufweisen. Gemäß einigen Ausführungsformen erzeugt die Kamera 202a Kameradaten als Ausgabe. Bei einigen Beispielen erzeugt die Kamera 202a Kameradaten, die Bilddaten in Zusammenhang mit einem Bild einschließen. Bei diesem Beispiel können die Bilddaten wenigstens einen dem Bild entsprechenden Parameter (beispielsweise Bildmerkmale in der Art von Belichtung, Helligkeit usw., einen Bildzeitstempel und/oder dergleichen) spezifizieren. Bei einem solchen Beispiel kann das Bild in einem Format (beispielsweise RAW, JPEG, PNG und/oder dergleichen) vorliegen. Gemäß einigen Ausführungsformen umfasst die Kamera 202a mehrere unabhängige Kameras, die an einem Fahrzeug zur Aufnahme von Bildern für den Zweck des räumlichen Sehens (Stereosehens) ausgebildet (beispielsweise positioniert) sind. Bei einigen Beispielen umfasst die Kamera 202a mehrere Kameras, die Bilddaten erzeugen und die Bilddaten zum Autonomes-Fahrzeug-Computer 202f und/oder zum Flottenverwaltungssystem (beispielsweise einem Flottenverwaltungssystem, das dem Flottenverwaltungssystem 116 aus 1 gleicht oder ähnelt) senden. Bei einem solchen Beispiel bestimmt der Autonomes-Fahrzeug-Computer 202f die Tiefe eines oder mehrerer Objekte in einem Gesichtsfeld wenigstens zweier der mehreren Kameras auf der Grundlage der Bilddaten von den wenigstens zwei Kameras. Gemäß einigen Ausführungsformen sind Kameras 202a dafür ausgelegt, Bilder von Objekten innerhalb eines Abstands von den Kameras 202a (beispielsweise bis zu 100 Meter, bis zu einem Kilometer und/oder dergleichen) aufzunehmen. Dementsprechend weisen die Kameras 202a Merkmale in der Art von Sensoren und Linsen auf, die für die Wahrnehmung von Objekten optimiert sind, die sich in einem oder mehreren Abständen von den Kameras 202a befinden.
  • Gemäß einer Ausführungsform umfasst die Kamera 202a wenigstens eine Kamera, die dafür ausgelegt ist, ein oder mehrere Bilder in Zusammenhang mit einer oder mehreren Ampeln, Straßenzeichen und/oder anderen physischen Objekten, die visuelle Navigationsinformationen bereitstellen, aufzunehmen. Gemäß einigen Ausführungsformen erzeugt die Kamera 202a Ampeldaten in Zusammenhang mit einem oder mehreren Bildern. Bei einigen Beispielen erzeugt die Kamera 202a TLD-Daten in Zusammenhang mit einem oder mehreren Bildern, die ein Format (beispielsweise RAW, JPEG, PNG und/oder dergleichen) aufweisen. Gemäß einigen Ausführungsformen unterscheidet sich die Kamera 202a, die TLD-Daten erzeugt, von anderen hier beschriebenen Systemen, die Kameras aufweisen, in der Hinsicht, dass die Kamera 202a eine oder mehrere Kameras mit einem weiten Gesichtsfeld (beispielsweise Weitwinkellinse, Fischaugenlinse, Linse mit einem Sichtwinkel von etwa 120 Grad oder mehr und/oder dergleichen) zur Erzeugung von Bildern über möglichst viele physische Objekte aufweisen kann.
  • Laser-Detection-and-Ranging(LiDAR)-Sensoren 202b weisen wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, über einen Bus (beispielsweise einen Bus, der dem Bus 302 aus 3 gleicht oder ähnelt) in Kommunikation mit der Kommunikationsvorrichtung 202e, dem Autonomes-Fahrzeug-Computer 202f und/oder der Sicherheitssteuereinrichtung 202g zu stehen. LiDAR-Sensoren 202b weisen ein System auf, das dafür ausgelegt ist, Licht von einem Lichtemitter (beispielsweise einem Lasersender) auszusenden. Von LiDAR-Sensoren 202b emittiertes Licht umfasst Licht (beispielsweise Infrarotlicht und/oder dergleichen), das sich außerhalb des sichtbaren Spektrums befindet. Gemäß einigen Ausführungsformen trifft während des Betriebs von LiDAR-Sensoren 202b emittiertes Licht auf ein physisches Objekt (beispielsweise ein Fahrzeug) und wird zu den LiDAR-Sensoren 202b rückreflektiert. Gemäß einigen Ausführungsformen durchdringt das von den LiDAR-Sensoren 202b emittierte Licht die physischen Objekte, auf die das Licht trifft, nicht. LiDAR-Sensoren 202b weisen auch wenigstens einen Lichtdetektor auf, der das Licht erfasst, das vom Lichtemitter emittiert wurde, nachdem es auf ein physisches Objekt getroffen ist. Gemäß einigen Ausführungsformen erzeugt wenigstens ein Datenverarbeitungssystem in Zusammenhang mit LiDAR-Sensoren 202b ein Bild (beispielsweise eine Punktwolke, eine kombinierte Punktwolke und/oder dergleichen), welches die im Gesichtsfeld der LiDAR-Sensoren 202b enthaltenen Objekte repräsentiert. Bei einigen Beispielen erzeugt das wenigstens eine Datenverarbeitungssystem in Zusammenhang mit dem LiDAR-Sensor 202b ein Bild, das die Begrenzungen eines physischen Objekts, die Oberflächen (beispielsweise die Topologie der Oberflächen) des physischen Objekts und/oder dergleichen repräsentiert. Bei einem solchen Beispiel wird das Bild zur Bestimmung der Begrenzungen physischer Objekte im Gesichtsfeld von LiDAR-Sensoren 202b verwendet.
  • Radio-Detection-and-Ranging(Radar)-Sensoren 202c weisen wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, über einen Bus (beispielsweise einen Bus, der dem Bus 302 aus 3 gleicht oder ähnelt) in Kommunikation mit der Kommunikationsvorrichtung 202e, dem Autonomes-Fahrzeug-Computer 202f und/oder der Sicherheitssteuereinrichtung 202g zu stehen. Radarsensoren 202c weisen ein System auf, das dafür ausgelegt ist, Radiowellen (entweder gepulst oder kontinuierlich) auszusenden. Die von Radarsensoren 202c ausgesendeten Radiowellen umfassen Radiowellen, die sich innerhalb eines vorgegebenen Spektrums befinden. Gemäß einigen Ausführungsformen treffen während des Betriebs von Radarsensoren 202c ausgesendete Radiowellen auf ein physisches Objekt und werden zu den Radarsensoren 202c rückreflektiert. Gemäß einigen Ausführungsformen werden die von Radarsensoren 202c ausgesendeten Radiowellen von einigen Objekten nicht reflektiert. Gemäß einigen Ausführungsformen erzeugt wenigstens ein Datenverarbeitungssystem in Zusammenhang mit Radarsensoren 202c Signale, welche die in einem Gesichtsfeld der Radarsensoren 202c enthaltenen Objekte repräsentieren. Beispielsweise erzeugt das wenigstens eine Datenverarbeitungssystem in Zusammenhang mit dem Radarsensor 202c ein Bild, das die Begrenzungen eines physischen Objekts, die Oberflächen (beispielsweise die Topologie der Oberflächen) des physischen Objekts und/oder dergleichen repräsentiert. Bei einigen Beispielen wird das Bild verwendet, um die Begrenzungen physischer Objekte im Gesichtsfeld der Radarsensoren 202c zu bestimmen.
  • Mikrofone 202d weisen wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, über einen Bus (beispielsweise einen Bus, der dem Bus 302 aus 3 gleicht oder ähnelt) in Kommunikation mit der Kommunikationsvorrichtung 202e, dem Autonomes-Fahrzeug-Computer 202f und/oder der Sicherheitssteuereinrichtung 202g zu stehen. Die Mikrofone 202d umfassen ein oder mehrere Mikrofone (beispielsweise Array-Mikrofone, externe Mikrofone und/oder dergleichen), die Audiosignale erfassen und Daten in Zusammenhang mit den Audiosignalen erzeugen (beispielsweise repräsentieren). Bei einigen Beispielen weisen die Mikrofone 202d Wandlervorrichtungen und/oder vergleichbare Vorrichtungen auf. Gemäß einigen Ausführungsformen können ein oder mehrere hier beschriebene Systeme die von Mikrofonen 202d erzeugten Daten empfangen und die Position eines Objekts in Bezug auf das Fahrzeug 200 (beispielsweise Abstand und/oder dergleichen) auf der Grundlage der Audiosignale in Zusammenhang mit den Daten bestimmen.
  • Die Kommunikationsvorrichtung 202e umfasst wenigstens eine Vorrichtung, die dafür ausgelegt ist, in Kommunikation mit Kameras 202a, LiDAR-Sensoren 202b, Radarsensoren 202c, Mikrofonen 202d, dem Autonomes-Fahrzeug-Computer 202f, der Sicherheitssteuereinrichtung 202g und/oder dem DBW-System 202h zu stehen. Beispielsweise kann die Kommunikationsvorrichtung 202e eine Vorrichtung umfassen, die der Kommunikationsschnittstelle 314 aus 3 gleicht oder ähnelt. Gemäß einigen Ausführungsformen umfasst die Kommunikationsvorrichtung 202e eine Fahrzeug-zu-Fahrzeug(V2V)-Kommunikationsvorrichtung (beispielsweise eine Vorrichtung, die eine Drahtloskommunikation von Daten zwischen Fahrzeugen ermöglicht).
  • Der Autonomes-Fahrzeug-Computer 202f weist wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, in Kommunikation mit Kameras 202a, LiDAR-Sensoren 202b, Radarsensoren 202c, Mikrofonen 202d, der Kommunikationsvorrichtung 202e, der Sicherheitssteuereinrichtung 202g und/oder dem DBW-System 202h zu stehen. Bei einigen Beispielen weist der Autonomes-Fahrzeug-Computer 202f eine Vorrichtung in der Art einer Client-Vorrichtung, einer mobilen Vorrichtung (beispielsweise Mobiltelefon, Tablet und/oder dergleichen), eines Servers (beispielsweise einer Rechenvorrichtung, die eine oder mehrere Zentralverarbeitungseinheiten, Graphikverarbeitungseinheiten und/oder dergleichen aufweist) und/oder dergleichen auf. Gemäß einigen Ausführungsformen gleicht oder ähnelt der Autonomes-Fahrzeug-Computer 202f dem hier beschriebenen Autonomes-Fahrzeug-Computer 400. Zusätzlich oder alternativ ist der Autonomes-Fahrzeug-Computer 202f gemäß einigen Ausführungsformen dafür ausgelegt, in Kommunikation mit einem autonomen Fahrzeugsystem (beispielsweise einem autonomen Fahrzeugsystem, das dem Fern-AV-System 114 aus 1 gleicht oder ähnelt), einem Flottenverwaltungssystem (beispielsweise einem Flottenverwaltungssystem, das dem Flottenverwaltungssystem 116 aus 1 gleicht oder ähnelt), einer V21-Vorrichtung (beispielsweise einer V21-Vorrichtung, die der V21-Vorrichtung 110 aus 1 gleicht oder ähnelt) und/oder einem V21-System (beispielsweise einem V21-System, das dem V21-System 118 aus 1 gleicht oder ähnelt) zu stehen.
  • Die Sicherheitssteuereinrichtung 202g weist wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, in Kommunikation mit Kameras 202a, LiDAR-Sensoren 202b, Radarsensoren 202c, Mikrofonen 202d, der Kommunikationsvorrichtung 202e, dem Autonomes-Fahrzeug-Computer 202f und/oder dem DBW-System 202h zu stehen. Bei einigen Beispielen umfasst die Sicherheitssteuereinrichtung 202g eine oder mehrere Steuereinrichtungen (elektrische Steuereinrichtungen, elektromechanische Steuereinrichtungen und/oder dergleichen), die dafür ausgelegt sind, Steuersignale zum Betreiben einer oder mehrerer Vorrichtungen des Fahrzeugs 200 (beispielsweise Antriebsstrang-Steuersystem 204, Lenksteuersystem 206, Bremssystem 208 und/oder dergleichen) zu erzeugen und/oder auszusenden. Gemäß einigen Ausführungsformen ist die Sicherheitssteuereinrichtung 202g dafür ausgelegt, Steuersignale zu erzeugen, die vom Autonomes-Fahrzeug-Computer 202f erzeugten und/oder ausgesendeten Steuersignalen übergeordnet sind (beispielsweise diese überschreiben).
  • Das DBW-System 202h weist wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, in Kommunikation mit der Kommunikationsvorrichtung 202e und/oder dem Autonomes-Fahrzeug-Computer 202f zu stehen. Bei einigen Beispielen weist das DBW-System 202h eine oder mehrere Steuereinrichtungen (beispielsweise elektrische Steuereinrichtungen, elektromechanische Steuereinrichtungen und/oder dergleichen) auf, die dafür ausgelegt sind, Steuersignale zum Betreiben einer oder mehrerer Vorrichtungen des Fahrzeugs 200 (beispielsweise Antriebsstrang-Steuersystem 204, Lenksteuersystem 206, Bremssystem 208 und/oder dergleichen) zu erzeugen und/oder auszusenden. Zusätzlich oder alternativ sind die eine oder die mehreren Steuereinrichtungen des DBW-Systems 202h dafür ausgelegt, Steuersignale zum Betreiben wenigstens einer anderen Vorrichtung (beispielsweise Blinksignal, Frontscheinwerfer, Türverriegelungen, Scheibenwischer und/oder dergleichen) des Fahrzeugs 200 zu erzeugen und/oder auszusenden.
  • Das Antriebsstrang-Steuersystem 204 weist wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, in Kommunikation mit dem DBW-System 202h zu stehen. Bei einigen Beispielen weist das Antriebsstrang-Steuersystem 204 wenigstens eine Steuereinrichtung, einen Aktuator und/oder dergleichen auf. Gemäß einigen Ausführungsformen empfängt das Antriebsstrang-Steuersystem 204 Steuersignale vom DBW-System 202h und veranlasst das Antriebsstrang-Steuersystem 204 das Fahrzeug 200, eine Vorwärtsbewegung zu beginnen, eine Vorwärtsbewegung zu unterbrechen, eine Rückwärtsbewegung zu beginnen, eine Rückwärtsbewegung zu unterbrechen, in einer Richtung zu beschleunigen, in einer Richtung zu verzögern, nach links zu fahren, nach rechts zu fahren und/oder dergleichen. Bei einem Beispiel bewirkt das Antriebsstrang-Steuersystem 204, dass die einem Motor des Fahrzeugs bereitgestellte Energie (beispielsweise Kraftstoff, Elektrizität und/oder dergleichen) zunimmt, gleich bleibt oder abnimmt, wodurch bewirkt wird, dass sich wenigstens ein Rad des Fahrzeugs 200 dreht oder nicht dreht.
  • Das Lenksteuersystem 206 weist wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, ein oder mehrere Räder des Fahrzeugs 200 zu drehen. Bei einigen Beispielen weist das Lenksteuersystem 206 wenigstens eine Steuereinrichtung, einen Aktuator und/oder dergleichen auf. Gemäß einigen Ausführungsformen bewirkt das Lenksteuersystem 206, dass die beiden Vorderräder und/oder die beiden hinteren Räder des Fahrzeugs 200 nach links oder nach rechts gedreht werden, um zu bewirken, dass das Fahrzeug 200 nach links oder nach rechts fährt.
  • Das Bremssystem 208 weist wenigstens eine Vorrichtung auf, die dafür ausgelegt ist, eine oder mehrere Bremsen zu betätigen, um zu bewirken, dass das Fahrzeug 200 die Geschwindigkeit verringert und/oder stationär bleibt. Bei einigen Beispielen weist das Bremssystem 208 wenigstens eine Steuereinrichtung und/oder wenigstens einen Aktuator auf, der dafür ausgelegt ist, das Schließen eines oder mehrerer Bremsbeläge in Zusammenhang mit einem oder mehreren Rädern des Fahrzeugs 200 an einem entsprechenden Rotor des Fahrzeugs 200 zu bewirken. Zusätzlich oder alternativ umfasst das Bremssystem 208 bei einigen Beispielen ein automatisches Notbrems(AEB)-System, ein regeneratives Bremssystem und/oder dergleichen.
  • Gemäß einigen Ausführungsformen weist das Fahrzeug 200 wenigstens einen Plattformsensor (nicht explizit dargestellt) auf, der Eigenschaften eines Zustands oder einer Bedingung des Fahrzeugs 200 misst oder ableitet. Bei einigen Beispielen weist das Fahrzeug 200 Plattformsensoren in der Art eines Empfängers des globalen Positionsbestimmungssystems (GPS), einer Trägheitsmesseinheit (IMU), eines Radgeschwindigkeitssensors, eines Radbrems-Drucksensors, eines Raddrehmomentsensors, eines Motordrehmomentsensors, eines Lenkwinkelsensors und/oder dergleichen auf.
  • 3 zeigt ein schematisches Diagramm einer Vorrichtung 300. Wie dargestellt, weist die Vorrichtung 300 einen Prozessor 304, einen Speicher 306, eine Massenspeicherkomponente 308, eine Eingabeschnittstelle 310, eine Ausgabeschnittstelle 312, eine Kommunikationsschnittstelle 314 und einen Bus 302 auf. Gemäß einigen Ausführungsformen entspricht die Vorrichtung 300 wenigstens einer Vorrichtung der Fahrzeuge 102 (beispielsweise wenigstens einer Vorrichtung eines Systems der Fahrzeuge 102), wenigstens einer Komponente des Fahrzeugs 200 und/oder einer oder mehreren Vorrichtungen des Netzes 112 (beispielsweise einer oder mehreren Vorrichtungen eines Systems des Netzes 112). Gemäß einigen Ausführungsformen umfassen eine oder mehrere Vorrichtungen der Fahrzeuge 102 (beispielsweise eine oder mehrere Vorrichtungen eines Systems der Fahrzeuge 102) und/oder eine oder mehrere Vorrichtungen des Netzes 112 (beispielsweise eine oder mehrere Vorrichtungen eines Systems des Netzes 112) wenigstens eine Vorrichtung 300 und/oder wenigstens eine Komponente der Vorrichtung 300. Wie in 3 dargestellt ist, weist die Vorrichtung 300 den Bus 302, den Prozessor 304, den Speicher 306, die Massenspeicherkomponente 308, die Eingabeschnittstelle 310, die Ausgabeschnittstelle 312 und die Kommunikationsschnittstelle 314 auf.
  • Der Bus 302 weist eine Komponente auf, die eine Kommunikation zwischen den Komponenten der Vorrichtung 300 ermöglicht. Gemäß einigen Ausführungsformen ist der Prozessor 304 in Hardware, Software oder einer Kombination von Hardware und Software implementiert. Bei einigen Beispielen umfasst der Prozessor einen Prozessor (beispielsweise eine Zentralverarbeitungseinheit (CPU), eine Graphikverarbeitungseinheit (GPU), eine Einheit für eine beschleunigte Verarbeitung (APU) und/oder dergleichen), ein Mikrofon, einen Digitalsignalprozessor (DSP) und/oder eine Verarbeitungskomponente (beispielsweise ein feldprogrammierbares Gate-Array (FPGA), eine anwendungsspezifische integrierte Schaltung (ASIC) und/oder dergleichen), die programmiert werden kann, um wenigstens eine Funktionen auszuführen. Der Speicher 306 umfasst einen Direktzugriffsspeicher (RAM), einen Nurlesespeicher (ROM) und/oder einen anderen Typ einer dynamischen und/oder statischen Speichervorrichtung (beispielsweise Flash-Speicher, magnetischer Speicher, optischer Speicher und/oder dergleichen), die vom Prozessor 304 verwendbare Daten und/oder Befehle speichert.
  • Die Massenspeicherkomponente 308 speichert Daten und/oder Software in Bezug auf den Betrieb und die Verwendung der Vorrichtung 300. Bei einigen Beispielen umfasst die Massenspeicherkomponente 308 eine Festplatte (beispielsweise eine Magnetplatte, eine optische Scheibe, eine magnetooptische Scheibe, eine Halbleiterplatte und/oder dergleichen), eine Compact Disc (CD), eine Digital Versatile Disc (DVD), eine Diskette, eine Kassette, ein Magnetband, eine CD-ROM, einen RAM, einen PROM, einen EPROM, einen FLASH-EPROM, einen NV-RAM und/oder einen anderen Typ eines computerlesbaren Mediums zusammen mit einem entsprechenden Laufwerk.
  • Die Eingabeschnittstelle 310 weist eine Komponente auf, die es der Vorrichtung 300 ermöglicht, Informationen, beispielsweise über eine Benutzereingabe (beispielsweise eine Touchscreen-Anzeige, eine Tastatur, ein Tastenfeld, eine Maus, eine Taste, einen Schalter, ein Mikrofon, eine Kamera und/oder dergleichen), zu empfangen. Zusätzlich oder alternativ weist die Eingabeschnittstelle 310 gemäß einigen Ausführungsformen einen Sensor auf, der Informationen erfasst (beispielsweise einen Empfänger des globalen Positionsbestimmungssystems (GPS), einen Beschleunigungsmesser, ein Gyroskop, einen Aktuator und/oder dergleichen). Die Ausgabeschnittstelle 312 weist eine Komponente auf, die von der Vorrichtung 300 ausgegebene Informationen bereitstellt (beispielsweise eine Anzeige, einen Lautsprecher, eine oder mehrere Leuchtdioden (LEDs) und/oder dergleichen).
  • Gemäß einigen Ausführungsformen weist die Kommunikationsschnittstelle 314 eine sendeempfängerartige Komponente (beispielsweise einen Sendeempfänger, einen getrennten Empfänger und Sender und/oder dergleichen) auf, die es der Vorrichtung 300 ermöglicht, über eine festverdrahtete Verbindung, eine drahtlose Verbindung oder eine Kombination einer festverdrahteten und einer drahtlosen Verbindung mit anderen Vorrichtungen zu kommunizieren. Bei einigen Beispielen ermöglicht es die Kommunikationsschnittstelle 314 der Vorrichtung 300, Informationen von einer anderen Vorrichtung zu empfangen und/oder einer anderen Vorrichtung Informationen bereitzustellen. Bei einigen Beispielen umfasst die Kommunikationsschnittstelle 314 eine Ethernet-Schnittstelle, eine optische Schnittstelle, eine Koaxialschnittstelle, eine Infrarotschnittstelle, eine Funkfrequenz(RF)-Schnittstelle, eine Universeller-serieller-Bus(USB)-Schnittstelle, eine WiFi®-Schnittstelle, eine Mobilfunkschnittstelle und/oder dergleichen.
  • Gemäß einigen Ausführungsformen führt die Vorrichtung 300 einen oder mehrere hier beschriebene Prozesse aus. Die Vorrichtung 300 führt diese Prozesse auf der Grundlage davon aus, dass der Prozessor 304 von einem computerlesbaren Medium in der Art des Speichers 305 und/oder der Massenspeicherkomponente 308 gespeicherte Softwarebefehle ausführt. Ein computerlesbares Medium (beispielsweise ein nichtflüchtiges computerlesbares Medium) wird hier als nichtflüchtige Speichervorrichtung definiert. Eine nichtflüchtige Speichervorrichtung weist einen sich innerhalb einer einzigen physischen Speichervorrichtung befindenden Speicherplatz oder einen über mehrere physische Speichervorrichtungen verteilten Speicherplatz auf.
  • Gemäß einigen Ausführungsformen werden Softwarebefehle über die Kommunikationsschnittstelle 314 von einem anderen computerlesbaren Medium oder einer anderen Vorrichtung in den Speicher 306 und/oder die Massenspeicherkomponente 308 gelesen. Wenn sie ausgeführt werden, veranlassen im Speicher 306 und/oder der Massenspeicherkomponente 308 gespeicherte Softwarebefehle den Prozessor 304, einen oder mehrere hier beschriebene Prozesse auszuführen. Zusätzlich oder alternativ wird anstelle von Softwarebefehlen oder in Kombination damit eine festverdrahtete Schaltungsanordnung verwendet, um einen oder mehrere hier beschriebene Prozesse auszuführen. Demgemäß sind hier beschriebene Ausführungsformen nicht auf eine spezifische Kombination einer Hardwareschaltungsanordnung und Software beschränkt, es sei denn, dass explizit etwas anderes ausgesagt wird.
  • Der Speicher 306 und/oder die Massenspeicherkomponente 308 weist einen Datenspeicher oder wenigstens eine Datenstruktur (beispielsweise eine Datenbank und/oder dergleichen) auf. Die Vorrichtung 300 ist in der Lage, Informationen vom Datenspeicher oder von der wenigstens einen Datenstruktur im Speicher 306 oder der Massenspeicherkomponente 308 zu empfangen, darin zu speichern, Informationen dazu zu übermitteln oder darin gespeicherte Informationen zu suchen. Bei einigen Beispielen umfassen die Informationen Netzdaten, Eingangsdaten, Ausgangsdaten oder eine Kombination davon.
  • Gemäß einigen Ausführungsformen ist die Vorrichtung 300 dafür ausgelegt, Softwarebefehle auszuführen, die entweder im Speicher 306 und/oder im Speicher einer anderen Vorrichtung (beispielsweise einer anderen Vorrichtung, die der Vorrichtung 300 gleicht oder ähnelt) gespeichert sind. Hier bezieht sich der Begriff „Modul“ auf wenigstens einen im Speicher 306 und/oder im Speicher einer anderen Vorrichtung gespeicherten Befehl, der, wenn er durch den Prozessor 304 und/oder einen Prozessor einer anderen Vorrichtung (beispielsweise eine andere Vorrichtung, die der Vorrichtung 300 gleicht oder ähnelt) ausgeführt wird, die Vorrichtung 300 (beispielsweise wenigstens eine Komponente der Vorrichtung 300) veranlasst, einen oder mehrere hier beschriebene Prozesse auszuführen. Gemäß einigen Ausführungsformen ist ein Modul (oder eine Engine) in Software, Firmware, Hardware und/oder dergleichen implementiert.
  • Die Anzahl und Anordnung in 3 dargestellter Komponenten dienen als Beispiel. Gemäß einigen Ausführungsformen kann die Vorrichtung 300 zusätzliche Komponenten, weniger Komponenten, andere Komponenten oder anders angeordnete Komponenten als in 3 aufweisen. Zusätzlich oder alternativ kann ein Satz von Komponenten (beispielsweise eine oder mehrere Komponenten) der Vorrichtung 300 eine oder mehrere Funktionen ausführen, die als von einer anderen Komponente oder einem anderen Satz von Komponenten der Vorrichtung 300 ausgeführt beschrieben werden.
  • 4A zeigt ein beispielhaftes Blockdiagramm eines Autonomes-Fahrzeug-Computers 400 (manchmal als „AV-Stapel“ bezeichnet). Wie dargestellt ist, weist der Autonomes-Fahrzeug-Computer 400 ein Wahrnehmungssystem 402 (manchmal als Wahrnehmungsmodul bezeichnet), ein Planungssystem 404 (manchmal als Planungsmodul bezeichnet), ein Lokalisierungssystem 406 (manchmal als Lokalisierungsmodul bezeichnet), ein Steuersystem 408 (manchmal als Steuermodul bezeichnet) und eine Datenbank 410 auf. Gemäß einigen Ausführungsformen sind das Wahrnehmungssystem 402, das Planungssystem 404, das Lokalisierungssystem 406, das Steuersystem 408 und die Datenbank 410 in ein autonomes Navigationssystem eines Fahrzeugs (beispielsweise den Autonomes-Fahrzeug-Computer 202f des Fahrzeugs 200) aufgenommen und/oder darin implementiert. Zusätzlich oder alternativ sind gemäß einigen Ausführungsformen das Wahrnehmungssystem 402, das Planungssystem 404, das Lokalisierungssystem 406, das Steuersystem 408 und die Datenbank 410 in ein oder mehrere eigenständige Systeme (beispielsweise ein oder mehrere Systeme, die dem Autonomes-Fahrzeug-Computer 400 und/oder dergleichen gleichen oder ähneln) aufgenommen. Bei einigen Beispielen sind das Wahrnehmungssystem 402, das Planungssystem 404, das Lokalisierungssystem 406, das Steuersystem 408 und die Datenbank 410 in ein oder mehrere eigenständige Systeme aufgenommen, die sich in einem Fahrzeug und/oder wenigstens einem fernen System, wie hier beschrieben, befinden. Gemäß einigen Ausführungsformen sind einige und/oder alle der im Autonomes-Fahrzeug-Computer 400 enthaltenen Systeme in Software (beispielsweise in Softwarebefehlen, die im Speicher gespeichert sind), Computerhardware (beispielsweise durch Mikroprozessoren, Mikrosteuereinrichtungen, anwendungsspezifische integrierte Schaltungen (ASICs), feldprogrammierbare Gate-Arrays (FPGAs) und/oder dergleichen) oder Kombinationen von Computersoftware und Computerhardware implementiert. Es sei auch bemerkt, dass der Autonomes-Fahrzeug-Computer 400 gemäß einigen Ausführungsformen dafür ausgelegt ist, in Kommunikation mit einem fernen System (beispielsweise einem Autonomes-Fahrzeug-System, das dem Fern-AV-System 114 gleicht oder ähnelt, einem Flottenverwaltungssystem 116, das dem Flottenverwaltungssystem 116 gleicht oder ähnelt, einem V21-System, das dem V2I-System 118 gleicht oder ähnelt und/oder dergleichen) zu stehen.
  • Gemäß einigen Ausführungsformen empfängt das Wahrnehmungssystem 402 Daten in Zusammenhang mit wenigstens einem physischen Objekt (beispielsweise Daten, die vom Wahrnehmungssystem 402 verwendet werden, um das wenigstens eine physische Objekt zu erkennen) in einer Umgebung und klassifiziert das wenigstens eine physische Objekt. Bei einigen Beispielen empfängt das Wahrnehmungssystem 402 von wenigstens einer Kamera (beispielsweise Kameras 202a) aufgenommene Bilddaten, wobei das Bild mit einem oder mehreren physischen Objekten innerhalb eines Gesichtsfelds der wenigstens einen Kamera assoziiert ist (diese beispielsweise repräsentiert). Bei einem solchen Beispiel klassifiziert das Wahrnehmungssystem 402 wenigstens ein physisches Objekt auf der Grundlage einer oder mehrerer Gruppierungen physischer Objekte (beispielsweise Fahrräder, Fahrzeuge, Verkehrszeichen, Fußgänger und/oder dergleichen). Gemäß einigen Ausführungsformen überträgt das Wahrnehmungssystem 402 Daten in Zusammenhang mit der Klassifikation der physischen Objekte auf der Grundlage der vom Wahrnehmungssystem 402 vorgenommenen Klassifikation der physischen Objekte zum Planungssystem 404.
  • Gemäß einigen Ausführungsformen empfängt das Planungssystem 404 Daten in Zusammenhang mit einem Bestimmungsort und erzeugt Daten in Zusammenhang mit wenigstens einer Route (beispielsweise Routen 106), entlang derer ein Fahrzeug (beispielsweise die Fahrzeuge 102) zu einem Bestimmungsort fahren kann. Gemäß einigen Ausführungsformen empfängt das Planungssystem 404 periodisch oder kontinuierlich Daten vom Wahrnehmungssystem 402 (beispielsweise Daten in Zusammenhang mit der Klassifikation physischer Objekte, wie vorstehend beschrieben) und aktualisiert das Planungssystem 404 die wenigstens eine Fahrstrecke oder erzeugt wenigstens eine andere Fahrstrecke auf der Grundlage der vom Wahrnehmungssystem 402 erzeugten Daten. Gemäß einigen Ausführungsformen empfängt das Planungssystem 404 Daten in Zusammenhang mit einer aktualisierten Position eines Fahrzeugs (beispielsweise der Fahrzeuge 102) vom Lokalisierungssystem 406 und aktualisiert das Planungssystem 404 die wenigstens eine Fahrstrecke oder erzeugt wenigstens eine andere Fahrstrecke auf der Grundlage der vom Lokalisierungssystem 406 erzeugten Daten.
  • Gemäß einigen Ausführungsformen empfängt das Lokalisierungssystem 406 Daten in Zusammenhang mit dem Ort eines Fahrzeugs (beispielsweise der Fahrzeuge 102) in einem Bereich (welche diesen beispielsweise repräsentieren). Bei einigen Beispielen empfängt das Lokalisierungssystem 406 LiDAR-Daten in Zusammenhang mit wenigstens einer von wenigstens einem LiDAR-Sensor (beispielsweise den LiDAR-Sensoren 202b) erzeugten Punktwolke. Bei gewissen Beispielen empfängt das Lokalisierungssystem 406 Daten in Zusammenhang mit wenigstens einer Punktwolke von mehreren LiDAR-Sensoren und erzeugt das Lokalisierungssystem 406 eine kombinierte Punktwolke auf der Grundlage jeder der Punktwolken. Bei diesen Beispielen vergleicht das Lokalisierungssystem 406 die wenigstens eine Punktwolke oder die kombinierte Punktwolke mit einer in der Datenbank 410 gespeicherten zweidimensionalen (2D) und/oder dreidimensionalen (3D) Karte des Bereichs. Das Lokalisierungssystem 406 bestimmt dann die Position des Fahrzeugs im Bereich auf der Grundlage dessen, dass das Lokalisierungssystem 406 die wenigstens eine Punktwolke oder die kombinierte Punktwolke mit der Karte vergleicht. Gemäß einigen Ausführungsformen weist die Karte eine vor der Navigation des Fahrzeugs erzeugte kombinierte Punktwolke des Bereichs auf. Gemäß einigen Ausführungsformen umfassen Karten ohne Einschränkung Karten hoher Genauigkeit der geometrischen Eigenschaften der Fahrbahn, Karten, die Straßennetz-Verbindbarkeitseigenschaften beschreiben, Karten, die physische Eigenschaften der Fahrbahn beschreiben (wie Verkehrsgeschwindigkeit, Verkehrsaufkommen, die Anzahl von Fahrzeug- und Radfahrer-Verkehrsspuren, die Fahrspurbreite, Fahrspur-Verkehrsrichtungen oder Fahrspur-Markierungstypen und -orte oder Kombinationen davon) und Karten, welche die räumlichen Orte von Straßenmerkmalen in der Art von Fußgängerüberwegen, Verkehrszeichen oder anderen Verkehrssignalen verschiedener Typen beschreiben. Gemäß einigen Ausführungsformen wird die Karte in Echtzeit auf der Grundlage der vom Wahrnehmungssystem empfangenen Daten erzeugt.
  • Bei einem anderen Beispiel empfängt das Lokalisierungssystem 406 von einem Empfänger des globalen Positionsbestimmungssystems (GPS) erzeugte Daten des globalen Navigationssatellitensystems (GNSS). Bei einigen Beispielen empfängt das Lokalisierungssystem 406 GNSS-Daten in Zusammenhang mit dem Ort des Fahrzeugs im Bereich und bestimmt das Lokalisierungssystem 406 die Breite und Länge des Fahrzeugs im Bereich. Bei einem solchen Beispiel bestimmt das Lokalisierungssystem 406 die Position des Fahrzeugs im Bereich auf der Grundlage der Breite und Länge des Fahrzeugs. Gemäß einigen Ausführungsformen erzeugt das Lokalisierungssystem 406 Daten in Zusammenhang mit der Position des Fahrzeugs. Bei einigen Beispielen erzeugt das Lokalisierungssystem 406 Daten in Zusammenhang mit der Position des Fahrzeugs auf der Grundlage dessen, dass das Lokalisierungssystem 406 die Position des Fahrzeugs bestimmt. Bei einem solchen Beispiel umfassen die Daten in Zusammenhang mit der Position des Fahrzeugs Daten in Zusammenhang mit einer oder mehreren semantischen Eigenschaften, die der Position des Fahrzeugs entsprechen.
  • Gemäß einigen Ausführungsformen empfängt das Steuersystem 408 Daten in Zusammenhang mit wenigstens einer Fahrstrecke vom Planungssystem 404 und steuert das Steuersystem 408 den Betrieb des Fahrzeugs. Bei einigen Beispielen empfängt das Steuersystem 408 Daten in Zusammenhang mit wenigstens einer Fahrstrecke vom Planungssystem 404 und steuert das Steuersystem 408 den Betrieb des Fahrzeugs durch Erzeugen und Übertragen von Steuersignalen, um zu bewirken, dass ein Antriebsstrang-Steuersystem (beispielsweise das DBW-System 202h, das Antriebsstrang-Steuersystem 204 und/oder dergleichen, ein Lenksteuersystem (beispielsweise das Lenksteuersystem 206) und/oder ein Bremssystem (beispielsweise das Bremssystem 208) arbeiten. Bei einem Beispiel, bei dem eine Fahrstrecke ein Abbiegen nach links aufweist, überträgt das Steuersystem 408 ein Steuersignal, um das Lenksteuersystem 206 zu veranlassen, den Lenkwinkel des Fahrzeugs 200 einzustellen, wodurch das Fahrzeug 200 veranlasst wird, nach links zu fahren. Zusätzlich oder alternativ erzeugt und überträgt das Steuersystem 408 Steuersignale, um andere Vorrichtungen (beispielsweise Frontscheinwerfer, Abbiegesignale, Türverriegelungen, Scheibenwischer und/oder dergleichen) des Fahrzeugs 200 zu veranlassen, Zustände zu ändern.
  • Gemäß einigen Ausführungsformen implementieren das Wahrnehmungssystem 402, das Planungssystem 404, das Lokalisierungssystem 406 und/oder das Steuersystem 408 wenigstens ein Maschinenlernmodell (beispielsweise wenigstens ein mehrschichtiges Perzeptron (MLP), wenigstens ein faltendes neuronales Netz (CNN), wenigstens ein rekurrentes neuronales Netz (RNN), wenigstens einen Autoencoder, wenigstens einen Transformer und/oder dergleichen). Bei einigen Beispielen implementieren das Wahrnehmungssystem 402, das Planungssystem 404, das Lokalisierungssystem 406 und/oder das Steuersystem 408 allein oder in Kombination mit einem oder mehreren der vorstehend erwähnten Systeme wenigstens ein Maschinenlernmodell. Bei einigen Beispielen implementieren das Wahrnehmungssystem 402, das Planungssystem 404, das Lokalisierungssystem 406 und/oder das Steuersystem 408 wenigstens ein Maschinenlernmodell als Teil einer Pipeline (beispielsweise einer Pipeline zur Identifikation eines oder mehrerer Objekte, die sich in einer Umgebung und/oder dergleichen befinden). Ein Beispiel einer Implementation eines Maschinenlernmodells wird nachstehend mit Bezug auf die 4B - 4D aufgenommen.
  • Die Datenbank 410 speichert Daten, die zum Wahrnehmungssystem 402, zum Planungssystem 404, zum Lokalisierungssystem 406 und/oder zum Steuersystem 408 gesendet, davon empfangen und/oder dadurch aktualisiert werden. Bei einigen Beispielen weist die Datenbank 410 eine Massenspeicherkomponente (beispielsweise eine Massenspeicherkomponente, die der Massenspeicherkomponente 308 aus 3 gleicht oder ähnelt) auf, die Daten und/oder Software in Bezug auf den Betrieb speichert und wenigstens ein System des Autonomes-Fahrzeug-Computers 400 verwendet. Gemäß einigen Ausführungsformen speichert die Datenbank 410 Daten in Zusammenhang mit 2D- und/oder 3D-Karten wenigstens eines Bereichs. Bei einigen Beispielen speichert die Datenbank 410 Daten in Zusammenhang mit 2D- und/oder 3D-Karten eines Teils einer Stadt, mehrerer Teile mehrerer Städte, mehrerer Städte, eines Lands, eine Staats, eines souveränen Staats (beispielsweise eines Lands) und/oder dergleichen. Bei einem solchen Beispiel kann ein Fahrzeug (beispielsweise ein Fahrzeug, das den Fahrzeugen 102 und/oder dem Fahrzeug 200 gleicht oder ähnelt) entlang einem oder mehreren befahrbaren Gebieten (beispielsweise einspurigen Straßen, mehrspurigen Straßen, Schnellstraßen, Nebenwegen, Querfeldeinwegen und/oder dergleichen) fahren und wenigstens einen LiDAR-Sensor (beispielsweise einen LiDAR-Sensor, der dem LiDAR-Sensor 202b gleicht oder ähnelt) veranlassen, Daten in Zusammenhang mit einem Bild zu erzeugen, das die in einem Gesichtsfeld des wenigstens einen LiDAR-Sensors enthaltenen Objekte repräsentiert.
  • Gemäß einigen Ausführungsformen kann die Datenbank 410 über mehrere Vorrichtungen hinweg implementiert werden. Bei einigen Beispielen ist die Datenbank 410 in ein Fahrzeug (beispielsweise ein Fahrzeug, das den Fahrzeugen 102 und/oder dem Fahrzeug 200 gleicht oder ähnelt), ein autonomes Fahrzeugsystem (beispielsweise ein autonomes Fahrzeugsystem, das dem Fern-AV-System 114 gleicht oder ähnelt), ein Flottenverwaltungssystem (beispielsweise ein Flottenverwaltungssystem, das dem Flottenverwaltungssystem 116 aus 1 gleicht oder ähnelt), ein V21-System (beispielsweise ein V21-System, das dem V2I-System 118 aus 1 gleicht oder ähnelt) und/oder dergleichen aufgenommen.
  • 4B zeigt ein Diagramm einer Implementation eines Maschinenlernmodells. Insbesondere ist ein Diagramm einer Implementation eines faltenden neuronalen Netzes (CNN) 420 dargestellt. Für die Zwecke der Erläuterung geschieht die folgende Beschreibung des CNNs 420 mit Bezug auf eine Implementation des CNNs 420 durch das Wahrnehmungssystem 402. Es ist jedoch zu verstehen, dass das CNN 420 (beispielsweise eine oder mehrere Komponenten des CNNs 420) bei einigen Beispielen durch vom Wahrnehmungssystem 402 verschiedene oder darüber hinausgehende Systeme in der Art des Planungssystems 404, des Lokalisierungssystems 406 und/oder Steuersystems 408 implementiert ist. Wenngleich das CNN 420 gewisse hier beschriebene Merkmale aufweist, dienen diese Merkmale der Erläuterung und sollen die vorliegende Offenbarung nicht einschränken.
  • Das CNN 420 weist mehrere Faltungsschichten einschließlich einer ersten Faltungsschicht 422, einer zweiten Faltungsschicht 424 und einer Faltungsschicht 426 auf. Gemäß einigen Ausführungsformen weist das CNN 420 eine Unterabtastschicht 428 (manchmal als Pooling-Schicht bezeichnet) auf. Gemäß einigen Ausführungsformen weisen die Unterabtastschicht 428 und/oder andere Abtastschichten eine Dimension (d. h. eine Anzahl von Knoten) auf, die kleiner ist als die Dimension eines vorgeschalteten Systems. Dadurch, dass die Unterabtastschicht 428 eine Dimension aufweist, die kleiner als die Dimension einer vorgeschalteten Schicht ist, konsolidiert das CNN 420 die Datenmenge in Zusammenhang mit der anfänglichen Eingabe und/oder der Ausgabe einer vorgeschalteten Schicht, wodurch der Rechenaufwand verringert wird, den das CNN 420 benötigt, um nachfolgende Faltungsoperationen auszuführen. Zusätzlich oder alternativ konsolidiert das CNN 420 dadurch, dass die Unterabtastschicht 428 mit wenigstens einer Unterabtastfunktion (wie nachstehend mit Bezug auf die 4C und 4D beschrieben) assoziiert ist (beispielsweise dafür ausgelegt ist, diese auszuführen), die Datenmenge in Zusammenhang mit der anfänglichen Eingabe.
  • Das Wahrnehmungssystem 402 führt Faltungsoperationen auf der Grundlage davon aus, dass es jeweilige Eingaben und/oder Ausgaben in Zusammenhang mit jeder von der ersten Faltungsschicht 422, der zweiten Faltungsschicht 424 und der Faltungsschicht 426 bereitstellt, um jeweilige Ausgaben zu erzeugen. Bei einigen Beispielen implementiert das Wahrnehmungssystem 402 das CNN 420 auf der Grundlage davon, dass das Wahrnehmungssystem 402 der ersten Faltungsschicht 422, der zweiten Faltungsschicht 424 und der Faltungsschicht 426 Daten als Eingabe bereitstellt. Bei einem solchen Beispiel stellt das Wahrnehmungssystem 402 die Daten der ersten Faltungsschicht 422, der zweiten Faltungsschicht 424 und der Faltungsschicht 426 auf der Grundlage davon als Eingabe bereit, dass das Wahrnehmungssystem 402 Daten von einem oder mehreren anderen Systemen (beispielsweise einem oder mehreren Systemen eines Fahrzeugs, das dem Fahrzeug 102 gleicht oder ähnelt, einem Fern-AV-System, das dem Fern-AV-System 114 gleicht oder ähnelt, einem Flottenverwaltungssystem, das dem Flottenverwaltungssystem 116 gleicht oder ähnelt, einem V21-System, das dem V21-System 118 gleicht oder ähnelt, und/oder der gleichen) empfängt. Eine detaillierte Beschreibung der Faltungsoperationen wird nachstehend mit Bezug auf 4C gegeben.
  • Gemäß einigen Ausführungsformen stellt das Wahrnehmungssystem 402 Daten in Zusammenhang mit einer Eingabe (als anfängliche Eingabe bezeichnet) der ersten Faltungsschicht 422 bereit und erzeugt das Wahrnehmungssystem 402 Daten in Zusammenhang mit einer Ausgabe unter Verwendung der ersten Faltungsschicht 422. Gemäß einigen Ausführungsformen stellt das Wahrnehmungssystem 402 eine durch eine Faltungsschicht erzeugte Ausgabe einer anderen Faltungsschicht als Eingabe bereit. Beispielsweise stellt das Wahrnehmungssystem 402 die Ausgabe der ersten Faltungsschicht 422 der Unterabtastschicht 428, der zweiten Faltungsschicht 424 und/oder der Faltungsschicht 426 als Eingabe bereit. Bei einem solchen Beispiel wird die erste Faltungsschicht 422 als vorhergehende Schicht bezeichnet und werden die Unterabtastschicht 428, die zweite Faltungsschicht 424 und/oder die Faltungsschicht 426 als nachfolgende Schichten bezeichnet. Ähnlich stellt das Wahrnehmungssystem 402 gemäß einigen Ausführungsformen die Ausgabe der Unterabtastschicht 428 der zweiten Faltungsschicht 424 und/oder der Faltungsschicht 426 bereit, wobei bei diesem Beispiel die Unterabtastschicht 428 als vorhergehende Schicht bezeichnet werden würde und die zweite Faltungsschicht 424 und/oder die Faltungsschicht 426 als nachfolgende Schichten bezeichnet werden würden.
  • Gemäß einigen Ausführungsformen verarbeitet das Wahrnehmungssystem 402 die Daten in Zusammenhang mit der dem CNN 420 bereitgestellten Eingabe, bevor das Wahrnehmungssystem 402 die Eingabe dem CNN 420 bereitstellt. Beispielsweise verarbeitet das Wahrnehmungssystem 402 die Daten in Zusammenhang mit der dem CNN 420 bereitgestellten Eingabe auf der Grundlage davon, dass das Wahrnehmungssystem 402 Sensordaten (beispielsweise Bilddaten, LiDAR-Daten, Radardaten und/oder dergleichen) normiert.
  • Gemäß einigen Ausführungsformen erzeugt das CNN 420 eine Ausgabe auf der Grundlage davon, dass das Wahrnehmungssystem 402 Faltungsoperationen in Zusammenhang mit jeder Faltungsschicht ausführt. Bei einigen Beispielen erzeugt das CNN 420 eine Ausgabe auf der Grundlage davon, dass das Wahrnehmungssystem 402 Faltungsoperationen in Zusammenhang mit jeder Faltungsschicht und einer anfänglichen Eingabe ausführt. Gemäß einigen Ausführungsformen erzeugt das Wahrnehmungssystem 402 die Ausgabe und stellt die Ausgabe als vollständig verbundene Schicht 430 bereit. Bei einigen Beispielen stellt das Wahrnehmungssystem 402 die Ausgabe der Faltungsschicht 426 als vollständig verbundene Schicht 430 bereit, wobei die vollständig verbundene Schicht 420 Daten in Zusammenhang mit mehreren als F1, F2 ... FN bezeichneten Merkmalswerten aufweist. Bei diesem Beispiel weist die Ausgabe der Faltungsschicht 426 Daten in Zusammenhang mit mehreren ausgegebenen Merkmalswerten, die eine Vorhersage repräsentieren, auf.
  • Gemäß einigen Ausführungsformen identifiziert das Wahrnehmungssystem 402 eine Vorhersage aus mehreren Vorhersagen auf der Grundlage davon, dass das Wahrnehmungssystem 402 einen Merkmalswert identifiziert, der mit der höchsten Wahrscheinlichkeit assoziiert ist, aus den mehreren Vorhersagen die korrekte Vorhersage zu sein. Wenn die vollständig verbundene Schicht 430 beispielsweise Merkmalswerte F1, F2, ... FN aufweist und F1 der größte Merkmalswert ist, identifiziert das Wahrnehmungssystem 402 die Vorhersage in Zusammenhang mit F1 als die korrekte Vorhersage aus den mehreren Vorhersagen. Gemäß einigen Ausführungsformen trainiert das Wahrnehmungssystem 402 das CNN 420, um die Vorhersage zu erzeugen. Bei einigen Beispielen trainiert das Wahrnehmungssystem 402 das CNN 420, um die Vorhersage auf der Grundlage davon zu erzeugen, dass das Wahrnehmungssystem 402 dem CNN 420 Trainingsdaten in Zusammenhang mit der Vorhersage bereitstellt.
  • Die 4C und 4D zeigen ein Diagramm eines durch das Wahrnehmungssystem 402 ausgeführten beispielhaften Betriebs des CNNs 440. Gemäß einigen Ausführungsformen gleicht oder ähnelt das CNN 440 (beispielsweise eine oder mehrere Komponenten des CNNs 440) dem CNN 420 (beispielsweise einer oder mehreren Komponenten des CNNs 420) (siehe 4B).
  • In Schritt 450 stellt das Wahrnehmungssystem 420 Daten in Zusammenhang mit einem Bild dem CNN 440 als Eingabe bereit (Schritt 450). Beispielsweise stellt das Wahrnehmungssystem 402, wie dargestellt, die Daten in Zusammenhang mit dem Bild dem CNN 440 bereit, wobei das Bild ein als in einem zweidimensionalen (2D) Array gespeicherte Werte repräsentiertes Graustufenbild ist. Gemäß einigen Ausführungsformen können die Daten in Zusammenhang mit dem Bild Daten in Zusammenhang mit einem Farbbild umfassen, wobei das Farbbild als in einem dreidimensionalen (3D) Array gespeicherte Werte repräsentiert ist. Zusätzlich oder alternativ können die Daten in Zusammenhang mit dem Bild Daten in Zusammenhang mit einem Infrarotbild, einem Radarbild und/oder dergleichen umfassen.
  • In Schritt 455 führt das CNN 440 eine erste Faltungsfunktion aus. Beispielsweise führt das CNN 440 die erste Faltungsfunktion auf der Grundlage davon aus, dass das CNN 440 die das Bild repräsentierenden Werte als Eingabe einem oder mehreren in der ersten Faltungsschicht 442 enthaltenen Neuronen (nicht explizit dargestellt) bereitstellt. Bei diesem Beispiel können die das Bild repräsentierenden Werte ein Gebiet des Bilds (manchmal als rezeptives Feld bezeichnet) repräsentierenden Werten entsprechen. Gemäß einigen Ausführungsformen ist jedes Neuron mit einem Filter (nicht explizit dargestellt) assoziiert. Ein Filter (manchmal als Kern bezeichnet) ist als Feld von Werten repräsentierbar, das in der Größe den Werten entspricht, die dem Neuron als Eingabe bereitgestellt werden. Bei einem Beispiel kann ein Filter dafür ausgelegt sein, Kanten (beispielsweise horizontale Linien, vertikale Linien, gerade Linien und/oder dergleichen) zu identifizieren. Bei nachfolgenden Faltungsschichten können die Filter in Zusammenhang mit Neuronen dafür ausgelegt werden, zunehmend komplexere Muster (beispielsweise Bögen, Objekte und/oder dergleichen) zu identifizieren.
  • Gemäß einigen Ausführungsformen führt das CNN 440 die erste Faltungsfunktion auf der Grundlage davon aus, dass es die jedem von dem einen oder den mehreren Neuronen in der ersten Faltungsschicht 442 als Eingabe bereitgestellten Werte mit den Werten des Filters, das jedem von dem einen oder den mehreren Neuronen entspricht, multipliziert. Beispielsweise kann das CNN 440 die jedem von dem einen oder den mehreren Neuronen in der ersten Faltungsschicht 442 als Eingabe bereitgestellten Werte mit den Werten des Filters multiplizieren, das jedem von dem einen oder den mehreren Neuronen entspricht, um einen einzigen Wert oder ein Array von Werten als Ausgabe zu erzeugen. Gemäß einigen Ausführungsformen wird die gemeinsame Ausgabe der Neuronen der ersten Faltungsschicht 442 als gefaltete Ausgabe bezeichnet. Gemäß einigen Ausführungsformen, bei denen jedes Neuron das gleiche Filter aufweist, wird die gefaltete Ausgabe als Merkmalskarte bezeichnet.
  • Gemäß einigen Ausführungsformen stellt das CNN 440 die Ausgaben jedes Neurons der ersten Faltungsschicht 442 Neuronen einer nachfolgenden Schicht bereit. Aus Gründen der Klarheit kann eine vorhergehende Schicht eine Schicht sein, die Daten zu einer anderen Schicht (als nachfolgende Schicht bezeichnet) sendet. Beispielsweise kann das CNN 440 die Ausgaben jedes Neurons der ersten Faltungsschicht 442 entsprechenden Neuronen einer Unterabtastschicht bereitstellen. Bei einem Beispiel stellt das CNN 440 die Ausgaben jedes Neurons der ersten Faltungsschicht 442 entsprechenden Neuronen der ersten Unterabtastschicht 444 bereit. Gemäß einigen Ausführungsformen addiert das CNN 440 einen Bias-Wert zu den Aggregaten aller jedem Neuron der nachfolgenden Schicht bereitgestellten Werte. Beispielsweise addiert das CNN 440 einen Bias-Wert zu den Aggregaten aller jedem Neuron der ersten Unterabtastschicht 444 bereitgestellter Werte. Bei einem solchen Beispiel bestimmt das CNN 440 einen endgültigen Wert, der jedem Neuron der ersten Unterabtastschicht 444 auf der Grundlage der Aggregate aller jedem Neuron bereitgestellter Werte und einer Aktivierungsfunktion in Zusammenhang mit jedem Neuron der ersten Unterabtastschicht 444 bereitzustellen ist.
  • In Schritt 460 führt das CNN 440 eine erste Unterabtastfunktion aus. Beispielsweise kann das CNN 440 eine erste Unterabtastfunktion auf der Grundlage davon ausführen, dass das CNN 440 die von der ersten Faltungsschicht 442 ausgegebenen Werte entsprechenden Neuronen der ersten Unterabtastschicht 444 bereitstellt. Gemäß einigen Ausführungsformen führt das CNN 440 die erste Unterabtastfunktion auf der Grundlage einer Aggregationsfunktion aus. Bei einem Beispiel führt das CNN 440 die erste Unterabtastfunktion auf der Grundlage davon aus, dass es die maximale Eingabe unter den einem gegebenen Neuron bereitgestellten Werten bestimmt (als Max-Pooling-Funktion bezeichnet). Bei einem anderen Beispiel führt das CNN 440 die erste Unterabtastfunktion auf der Grundlage davon aus, dass es die durchschnittliche Eingabe der einem gegebenen Neuron bereitgestellten Werte bestimmt (als Mittelungs-Pooling-Funktion bezeichnet). Gemäß einigen Ausführungsformen erzeugt das CNN 440 eine Ausgabe auf der Grundlage davon, dass es die Werte jedes Neurons der ersten Unterabtastschicht 444 bereitstellt, wobei die Ausgabe manchmal als unterabgetastete gefaltete Ausgabe bezeichnet wird.
  • In Schritt 465 führt das CNN 440 eine zweite Faltungsfunktion aus. Gemäß einigen Ausführungsformen führt das CNN 440 die zweite Faltungsfunktion ähnlich aus, wie es die erste Faltungsfunktion ausgeführt hat, wie vorstehend beschrieben. Gemäß einigen Ausführungsformen führt das CNN 440 die zweite Faltungsfunktion auf der Grundlage davon aus, dass es die von der ersten Unterabtastschicht 444 ausgegebenen Werte einem oder mehreren Neuronen (nicht explizit dargestellt), die in der zweiten Faltungsschicht 446 enthalten sind, als Eingabe bereitstellt. Gemäß einigen Ausführungsformen ist jedes Neuron der zweiten Faltungsschicht 446 mit einem Filter assoziiert, wie vorstehend beschrieben. Das eine oder die mehreren Filter in Zusammenhang mit der zweiten Faltungsschicht 446 können dafür ausgelegt sein, komplexere Muster als das Filter in Zusammenhang mit der ersten Faltungsschicht 442, wie vorstehend beschrieben, zu identifizieren.
  • Gemäß einigen Ausführungsformen führt das CNN 440 die zweite Faltungsfunktion auf der Grundlage davon aus, dass es die jedem von dem einen oder den mehreren Neuronen in der zweiten Faltungsschicht 446 als Eingabe bereitgestellten Werte mit den Werten des Filters, das jedem von dem einen oder den mehreren Neuronen entspricht, multipliziert. Beispielsweise kann das CNN 440 die jedem von dem einen oder den mehreren Neuronen in der zweiten Faltungsschicht 446 als Eingabe bereitgestellten Werte mit den Werten des Filters multiplizieren, das jedem von dem einen oder den mehreren Neuronen entspricht, um einen einzigen Wert oder ein Array von Werten als Ausgabe zu erzeugen.
  • Gemäß einigen Ausführungsformen stellt das CNN 440 die Ausgaben jedes Neurons der zweiten Faltungsschicht 446 Neuronen einer nachfolgenden Schicht bereit. Beispielsweise kann das CNN 440 die Ausgaben jedes Neurons der ersten Faltungsschicht 442 entsprechenden Neuronen einer Unterabtastschicht bereitstellen. Bei einem Beispiel stellt das CNN 440 die Ausgaben jedes Neurons der ersten Faltungsschicht 442 entsprechenden Neuronen der zweiten Unterabtastschicht 448 bereit. Gemäß einigen Ausführungsformen addiert das CNN 440 einen Bias-Wert zu den Aggregaten aller jedem Neuron der nachfolgenden Schicht bereitgestellten Werte. Beispielsweise addiert das CNN 440 einen Bias-Wert zu den Aggregaten aller jedem Neuron der zweiten Unterabtastschicht 448 bereitgestellter Werte. Bei einem solchen Beispiel bestimmt das CNN 440 einen endgültigen Wert, der jedem Neuron der zweiten Unterabtastschicht 448 auf der Grundlage der Aggregate aller jedem Neuron bereitgestellter Werte und einer Aktivierungsfunktion in Zusammenhang mit jedem Neuron der zweiten Unterabtastschicht 448 bereitzustellen ist.
  • In Schritt 470 führt das CNN 440 eine zweite Unterabtastfunktion aus. Beispielsweise kann das CNN 440 eine zweite Unterabtastfunktion auf der Grundlage davon ausführen, dass das CNN 440 die von der zweiten Faltungsschicht 446 ausgegebenen Werte entsprechenden Neuronen der zweiten Unterabtastschicht 448 bereitstellt. Gemäß einigen Ausführungsformen führt das CNN 440 die zweite Unterabtastfunktion auf der Grundlage davon aus, dass es eine Aggregationsfunktion verwendet. Bei einem Beispiel führt das CNN 440 die erste Unterabtastfunktion auf der Grundlage davon aus, dass es die maximale Eingabe oder eine durchschnittliche Eingabe der einem gegebenen Neuron bereitgestellten Werte bestimmt, wie vorstehend beschrieben. Gemäß einigen Ausführungsformen erzeugt das CNN 440 eine Ausgabe auf der Grundlage davon, dass es die Werte jedes Neurons der zweiten Unterabtastschicht 448 bereitstellt.
  • In Schritt 475 stellt das CNN 440 die Ausgabe jedes Neurons der zweiten Unterabtastschicht 448 den vollständig verbundenen Schichten 449 bereit. Beispielsweise stellt das CNN 440 die Ausgabe jedes Neurons der zweiten Unterabtastschicht 448 vollständig verbundenen Schichten 449 bereit, um die vollständig verbundenen Schichten 449 zu veranlassen, eine Ausgabe zu erzeugen. Gemäß einigen Ausführungsformen sind die vollständig verbundenen Schichten 449 dafür ausgelegt, eine Ausgabe in Zusammenhang mit einer Vorhersage zu erzeugen (manchmal als Klassifikation bezeichnet). Die Vorhersage kann eine Angabe aufweisen, dass ein Objekt, das im Bild enthalten ist, das dem CNN 440 als Eingabe bereitgestellt wird, ein Objekt, einen Satz von Objekten und/oder dergleichen aufweist. Gemäß einigen Ausführungsformen führt das Wahrnehmungssystem 402 eine oder mehrere Operationen aus und/oder stellt die Daten in Zusammenhang mit der Vorhersage einem anderen System bereit, wie hier beschrieben.
  • Gemäß einigen Ausführungsformen kann das CNN 440 im Laufe der Zeit während der Entwicklung des AVs (beispielsweise des Fahrzeugs 200) aktualisiert (oder erweitert) werden. Gemäß einigen Ausführungsformen kann bei der Aktualisierung des CNNs 440 ein Simulator verwendet werden, um Szenarien zu identifizieren, welche eine Wahrnehmungsverschlechterung, die das AV gerade aus seiner Betriebseinhüllenden bringt, genau erfassen. Beispielsweise kann sich das Wahrnehmungssystem des AVs (beispielsweise das Wahrnehmungssystem 402) auf mehrere Arten verschlechtern, wobei es schwierig sein kann, herauszufinden, wie die Wahrnehmungsverschlechterung einen Planer (beispielsweise das Planungssystem 404) des AVs beeinflusst. Ein Beispiel einer Wahrnehmungsverschlechterung steht in Zusammenhang mit einem Objektflackern. Beispielsweise kann eine Wahrnehmungsverschlechterung abhängig von der aktuellen Umgebung des AVs (beispielsweise der Umgebung 100) und abhängig davon, welches Manöver das AV ausführt, in einem bestimmten Moment auftreten und das AV aus seiner normalen Betriebseinhüllenden in einen unsicheren Zustand bringen. Dies kann beispielsweise geschehen, wenn eine Bedingung in der Umgebung existiert, die zuvor nicht in das Wahrnehmungssystem aufgenommen wurde.
  • Gemäß einigen Ausführungsformen kann ein Ziel des Aktualisierens des CNNs 440 das Konstruieren von Randfallszenarien aus dem Blickpunkt anderer Agenten (beispielsweise Fußgänger, Fahrräder, Motorräder oder anderer Fahrzeuge) einschließen. Die Randfallszenarien können beispielsweise als Hinzufügungen zum CNN 440 verwendet werden. Beim Identifizieren der Randfallszenarien kann ein Verstärkungslernprozess verwendet werden, um eine rechtliche Richtlinie zu identifizieren, beispielsweise wie das AV sicher reagieren sollte, um durch eine Situation in der Art einer von einem Agenten ausgeführten Aktion (beispielsweise Bewegen oder sogar Vorhanden sein) zu navigieren. Gemäß einigen Ausführungsformen ist eine Wahrnehmungsverschlechterung eine der möglichen Aktionen des Agenten, die es einem Agenten ermöglichen kann, mit dem AV zu kollidieren. Gemäß einigen Ausführungsformen können Aktionen von Agenten normale Verhaltensaktionen (wie das Bewegen in einer bestimmten Richtung und mit einer bestimmten Geschwindigkeit) und eine Wahrnehmungsverschlechterung (beispielsweise Ausführen einer Aktion, die vom Wahrnehmungssystem noch nicht berücksichtigt wurde) einschließen. Gemäß einigen Ausführungsformen kann eine Aktionssequenz bestimmt werden, die zur Erzeugung eines Randfallszenarios führt (beispielsweise eines Szenarios, welches das AV gerade aus der Betriebseinhüllenden bringt).
  • 5 zeigt ein Diagramm einer Implementation 500 eines Prozesses, um es zu erlernen, sicherheitskritische Szenarien für ein autonomes Fahrzeug zu identifizieren. Beispielsweise kann das Planungssystem 404 infolge des Auftretens einer Situation, die vom Wahrnehmungssystem 402 nicht erkannt wird, nicht in der Lage sein, eine sichere Route für das AV zu planen. Gemäß einigen Ausführungsformen wird die Implementation 500 verwendet, um beispielsweise ein Manöver 502, um einem geparkten Kraftfahrzeug auszuweichen (durch einen Weg 504 angegeben), durch ein AV 506 auszuführen, um einem unachtsamen Fußgänger 508 auszuweichen. Der unachtsame Fußgänger 508 kann beispielsweise hinter einem geparkten Kraftfahrzeug 510 vortreten, wie in 5 allgemein durch eine Bewegungsrichtung 512 des unachtsamen Fußgängers 508 angegeben ist. Bei einigen Implementationen geschieht das Manöver 502, um einem geparkten Kraftfahrzeug auszuweichen, beispielsweise nach einem ersten Zustand (beispielsweise einer Geschwindigkeit und Richtung an einem ersten Ort 516) und einem zweiten Zustand (beispielsweise einer Geschwindigkeit und Richtung an einem zweiten Ort 518) des AVs 506 auf einer Fahrbahn 514. Gemäß einigen Ausführungsformen gibt es andere vom AV 506 ausgeführte Ausweichmanöver, um dem unachtsamen Fußgänger 508 auszuweichen, wobei einige von ihnen durch Techniken der vorliegenden Offenbarung festgelegt werden.
  • Mit Bezug auf 5 sei bemerkt, dass gemäß einigen Ausführungsformen ein Simulator verwendet wird, um ein Szenario zu simulieren, das durch Aktionen des unachtsamen Fußgängers 508, beispielsweise während eines Manövers 502, um einem geparkten Kraftfahrzeug auszuweichen, angegeben wird. Die Simulation in diesem Fall wird verwendet, um eine spezifische Wahrnehmungsverschlechterung von Objektflackern zu simulieren, wobei ein Objekt (beispielsweise der unachtsame Fußgänger 508) vorübergehend verschwindet (beispielsweise aus den Kameras 202a). Beispielsweise kann der unachtsame Fußgänger 508, der anfänglich vom AV 506 wahrgenommen wird, vorübergehend hinter dem geparkten Kraftfahrzeug 510 verschwinden, wenn sich das AV 506 dem geparkten Kraftfahrzeug 510 nähert. Gemäß einigen Ausführungsformen geschieht die Annäherung des AVs 506 an das geparkte Fahrzeug 510 entlang verschiedenen Positionen entlang dem Weg 504, einschließlich des ersten Orts 516 und des zweiten Orts 518.
  • Bei diesem Beispiel kann das Objektflackern, abhängig davon, wann das Objektflackern auftritt (beispielsweise wenn der unachtsame Fußgänger 508 vorübergehend verschwindet), zu einer Kollision oder einer Beinahekollision durch das AV 506 führen, oder dies kann nicht der Fall sein. Im Allgemeinen ist ein Objektflackern in größeren Abständen für das AV 506 weniger bedenklich als ein Objektflackern, das in geringeren Abständen von einem Objekt auftritt. Insbesondere kann das Objektflackern am zweiten Ort 518 für das AV 506 und andere Objekte weniger adressierbar sein (beispielsweise kann das AV 506 begrenzte Optionen zum Manövrieren, um einen Kontakt mit dem unachtsamen Fußgänger 508 zu vermeiden, aufweisen) als am ersten Ort 516, weil sich das AV 506 näher zum geparkten Kraftfahrzeug 510 bewegt.
  • Bei einigen Implementationen wird ein neuronales Netz (beispielsweise durch die Implementation 500) verwendet, um die Technologie zum Lernen des Identifizierens sicherheitskritischer Szenarien für ein autonomes Fahrzeug zu implementieren. Gemäß einigen Ausführungsformen ist das neuronale Netz ein rekurrentes neuronales Netz (RNN). Ein Beispiel eines RNNs ist ein Long Short-Term Memory (LSTM). Gemäß einigen Ausführungsformen wird das RNN am CNN 440 verwendet, um interne Gewichte am neuronalen Netz zu lernen. Gemäß einigen Ausführungsformen stellen diese Techniken eine Verbesserung beispielsweise gegenüber Brute-Force-Techniken bereit, bei denen der Suchraum unendlich sein kann und die demgemäß nicht praktikabel sind.
  • Gemäß einigen Ausführungsformen ist eine der beobachteten Metriken, die als Eingabe in das LSTM verwendet wird, eine Regelverletzung, beispielsweise die Nähe zum AV (beispielsweise durch ein geparktes Kraftfahrzeug und/oder einen Fußgänger). Größere (oder höhere) Werte oder Ausmaße von Regelverletzungen können das LSTM-Modell zum Lernen dieser Aktion vorbeeinflussen. Gemäß einigen Ausführungsformen wird das System zum Lernen der korrekten Gewichte wieder und wieder demselben Szenario ausgesetzt.
  • Mit Bezug auf 6 sei bemerkt, dass ein Szenariolernsystem 600 verwendet wird, um Szenarien zur Verwendung durch ein autonomes Fahrzeug zu erzeugen oder zu aktualisieren. Gemäß einigen Ausführungsformen weist das Szenariolernsystem 600 ein Szenarioidentifikationssystem 602 auf, das in Kommunikation mit einer Client-Vorrichtung 604, einem Fahrsimulator 606 und einem Speichersystem 608 steht. Gemäß einigen Ausführungsformen wird das Szenarioidentifikationssystem 602 verwendet, um das CNN 440 zur Verwendung durch das Wahrnehmungssystem 402 zu erzeugen oder zu aktualisieren. Gemäß einigen Ausführungsformen dient die Client-Vorrichtung 604 als Frontend für das Szenarioidentifikationssystem 602, wodurch es einem Benutzer ermöglicht wird, Ausgaben vom Szenarioidentifikationssystem 602 zu steuern und zu überprüfen. Gemäß einigen Ausführungsformen führt der Fahrsimulator 606 Fahrsimulationen aus, beispielsweise zur Identifikation von Szenarien, die das AV gerade aus der Betriebseinhüllenden bringen. Gemäß einigen Ausführungsformen speichert das Speichersystem 608 von der Simulation verwendete Daten, einschließlich für das Steuern des sicheren Betriebs des AVs verwendeter Regeln.
  • Gemäß einigen Ausführungsformen weist das Szenarioidentifikationssystem 602 eine AV-Beobachtungs-Engine 610 zum Beobachten und Verfolgen der Aktionen, einschließlich der Position, des Kurses und der Geschwindigkeit des AVs 506, auf. Gemäß einigen Ausführungsformen wird eine Weltbeobachtungs-Engine 612 verwendet, um Objekte in der Umgebung des AVs 506 unter Einschluss von Objekten im Weg des AVs 506 (oder welche eine Wahrscheinlichkeit aufweisen, sich darin zu befinden) zu beobachten und zu verfolgen. Gemäß einigen Ausführungsformen führt eine Regelverletzungs-Prüf-Engine 614 dem Betrieb des AVs 506 entsprechende Regeln aus, wobei sie beispielsweise erkennt, wenn sich ein Objekt in der Nähe des AVs 506 befindet, was es notwendig machen kann, dass das AV 506 um das Objekt herum navigiert. Gemäß einigen Ausführungsformen führt eine LSTM-Engine 616 Algorithmen in Zusammenhang mit vom Wahrnehmungssystem 402 verwendeten neuronalen Netzen aus. Gemäß einigen Ausführungsformen weist eine Wertfunktions-Engine 618 einem Kantenverbindungsknoten in einem neuronalen Netz einen Wert, ein Gewicht oder eine andere numerische Größe zu. Gemäß einigen Ausführungsformen werden die Kanten verwendet, um Szenarien zu identifizieren, die dabei helfen, den Betrieb des Wahrnehmungssystems 402 zu verbessern. Gemäß einigen Ausführungsformen wird eine Aktions-Engine 620 verwendet, um Aktionen zu identifizieren, die durch Objekte im Weg des AVs 506 oder in der Nähe davon auftreten. Gemäß einigen Ausführungsformen wird eine Zustands-Engine 622 verwendet, um Zustände des AVs zu behandeln, wobei dies einem anfänglichen räumlich-zeitlichen Ort entsprechende Zustände, einen Endzielzustand und einen Teilraum akzeptabler Zustände in einem Zielgebiet umfasst. Gemäß einigen Ausführungsformen wird eine Belohnungs-Engine 624 verwendet, um Belohnungen für verschiedene Kanten des neuronalen Netzes zu behandeln.
  • 7 zeigt ein Flussdiagramm eines Prozesses 700 zum Erlernen des Identifizierens sicherheitskritischer Szenarien für ein autonomes Fahrzeug. Gemäß einigen Ausführungsformen werden ein oder mehrere der mit Bezug auf den Prozess 700 beschriebenen Schritte durch das autonome System 202 (beispielsweise durch ein oder mehrere Systeme (oder Untersysteme) des autonomen Systems 202) ausgeführt (beispielsweise ganz, teilweise und/oder dergleichen). Zusätzlich oder alternativ werden gemäß einigen Ausführungsformen ein oder mehrere mit Bezug auf den Prozess 700 beschriebene Schritte (beispielsweise ganz, teilweise und/oder dergleichen) durch eine andere Vorrichtung oder Gruppe von Vorrichtungen, welche von der Vorrichtung 300 getrennt sind oder diese einschließen, ausgeführt.
  • Bei 702 werden einen ersten Zustand eines Fahrszenarios repräsentierende erste Zustandsinformationen durch wenigstens einen Prozessor (beispielsweise den Prozessor 304) empfangen. Die ersten Zustandsinformationen weisen einen Zustand eines Fahrzeugs (beispielsweise des AVs 506) und einen Zustand eines Agenten (beispielsweise des unachtsamen Fußgängers 508) in einer Umgebung des Fahrzeugs (beispielsweise einem Bereich der Fahrbahn 514, der das AV 506 und eine geplante Route des AVs 506 aufweist) auf. Der Zustand des Fahrzeugs umfasst beispielsweise die Position, Geschwindigkeit und den Kurs des Fahrzeugs. Der Zustand des Agenten umfasst beispielsweise die Position, Geschwindigkeit und den Kurs eines Agenten oder ein Objekt in der Umgebung des Fahrzeugs in der Art eines Fußgängers, eines Fahrrads, eines Motorrads oder einer anderen Vorrichtung.
  • Bei 704 werden die ersten Zustandsinformationen (beispielsweise Geschwindigkeit und Richtung am ersten Ort 516) durch den wenigstens einen Prozessor mit einem neuronalen Netz verarbeitet, um wenigstens eine durch den Agenten auszuführende Aktion zu bestimmen. Gemäß einigen Ausführungsformen ist die Aktion des Agenten eine normale Aktion, in der Art einer Bewegung nach vorne, nach hinten, nach links oder nach rechts mit einer spezifischen Geschwindigkeit und/oder eine Wahrnehmungsverschlechterungsaktion. Gemäß einigen Ausführungsformen umfasst die Wahrnehmungsverschlechterungsaktion eine verpasste Wahrnehmung des Agenten durch das Wahrnehmungssystem des Fahrzeugs (beispielsweise Flackern), eine Fehlklassifikation des Agenten durch das Wahrnehmungssystem des Fahrzeugs (beispielsweise als Fahrrad anstelle eines Fußgängers) oder eine Fehlcharakterisierung eines oder mehrerer Merkmale des Agenten durch das Wahrnehmungssystem des Fahrzeugs (beispielsweise eine Fehlcharakterisierung der Position, der Größe und/oder des Kurses des Fahrzeugs).
  • Die wenigstens eine Aktion umfasst eine Wahrnehmungsverschlechterungsaktion, die eine Fehlwahrnehmung des Agenten durch ein Wahrnehmungssystem des Fahrzeugs hervorruft, beispielsweise dass eine Gefahr besteht, dass der unachtsame Fußgänger 508 auf die Fahrbahn 514 in den Weg des AVs 506 geht. Gemäß einigen Ausführungsformen besteht die Fehlwahrnehmung beispielsweise darin, dass eine Agentenaktion ein Objektflackern, eine Objektfehlklassifikation, einen Positionsfehler, einen Größenfehler oder einen Kursfehler induziert.
  • Gemäß einigen Ausführungsformen werden die ersten Zustandsinformationen unter Verwendung eines Fahrmodells verarbeitet, um wenigstens eine durch das Fahrzeug auszuführende Aktion zu bestimmen, wobei die zweiten Zustandsinformationen den zweiten Zustand des Fahrszenarios nach der Ausführung der wenigstens einen Aktion durch das Fahrzeug, beispielsweise eine Änderung der Richtung und/oder Geschwindigkeit des AVs 506 zwischen den Orten 516 und 518, repräsentieren. Gemäß einigen Ausführungsformen wird das neuronale Netz als Long Short-Term Memory (LSTM) implementiert und repräsentieren die ersten Zustandsinformationen den ersten Zustand und wenigstens einen vor dem ersten Zustand auftretenden Zustand. Beispielsweise verwendet das autonome System 202 gemäß einigen Ausführungsformen Informationen über Zustände des AVs 506, die vor der ersten Position des AVs, bevor das AV 506 den ersten Ort 516 erreicht, oder zwischen dem ersten Ort 516 und dem zweiten Ort 518 auftreten.
  • Bei 706 werden einen zweiten Zustand (beispielsweise die Geschwindigkeit und Richtung am zweiten Ort 518) des Fahrszenarios repräsentierende zweite Zustandsinformationen durch den wenigstens einen Prozessor (beispielsweise den Prozessor 304) empfangen, nachdem die wenigstens eine Aktion durch den Agenten ausgeführt wurde. Beispielsweise kann der unachtsame Fußgänger 508 Schritte entlang der Bewegungsrichtung 512 zum Weg des ankommenden AVs 506 machen.
  • Bei 708 wird eine Belohnung für die wenigstens eine Aktion durch den wenigstens einen Prozessor bestimmt. Gemäß einigen Ausführungsformen ist die Belohnung beispielsweise ein momentaner oder kumulativer Wert, der gemäß einer Belohnungsfunktion bestimmt wird, die zur Bestärkung (oder Entmutigung) des Agenten, eine bestimmte Aktion in einem gegebenen Zustand auszuführen, verwendet wird. Beispielsweise aktualisiert die Belohnungs-Engine 624 gemäß einigen Ausführungsformen Belohnungsinformationen an verschiedenen Kanten des neuronalen Netzes auf der Grundlage der vom AV 506 ansprechend auf den unachtsamen Fußgänger 508 ausgeführten Aktion. Gemäß einigen Ausführungsformen umfasst die Bestimmung einer Belohnung für die wenigstens eine Aktion die Schritte 710 - 714.
  • Bei 710 wird ein erster Abstand zwischen dem Fahrzeug und dem Agenten im ersten Zustand auf der Grundlage der ersten Zustandsinformationen bestimmt. Beispielsweise bestimmt das autonome System 202 gemäß einigen Ausführungsformen den Abstand zwischen dem AV 506 (beispielsweise am ersten Ort 516) und dem unachtsamen Fußgänger 508.
  • Bei 712 wird ein zweiter Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand auf der Grundlage der zweiten Zustandsinformationen bestimmt. Beispielsweise ist der zweite Abstand der Abstand zwischen dem zweiten Ort 518 und dem unachtsamen Fußgänger 508.
  • Bei 714 werden der erste und der zweite Abstand verglichen, um die Belohnung für die wenigstens eine Aktion zu bestimmen. Die Belohnung ist größer, wenn der zweite Abstand mit dem ersten Abstand übereinstimmt. Falls das Fahrzeug beispielsweise infolge der Ausführung der ausgewählten Aktion in einem gegebenen Zustand einer Kollision näher kommt, wird diese Aktion für den gegebenen Zustand belohnt.
  • Gemäß einigen Ausführungsformen werden bei der Bestimmung der Belohnung für die wenigstens eine Aktion Ähnlichkeitsmetriken für Aktionen bestimmt. Beispielsweise werden gemäß einigen Ausführungsformen Informationen empfangen, die eine vorhergehende vom Agenten im ersten Zustand während einer vorhergehenden Ausführung des Fahrszenarios ausgeführte Aktion angeben. Gemäß einigen Ausführungsformen wird die wenigstens eine vom Agenten ausgeführte Aktion mit der vorhergehenden Aktion verglichen, um eine Unähnlichkeitsmetrik zwischen der wenigstens einen Aktion und der vorhergehenden Aktion zu bestimmen. Gemäß einigen Ausführungsformen wird die Belohnung auf der Grundlage der Unähnlichkeitsmetrik bestimmt, wobei die Belohnung größer ist, wenn die Unähnlichkeitsmetrik angibt, dass es eine größere Unähnlichkeit zwischen der wenigstens einen Aktion und der vorhergehenden Aktion gibt. Beispielsweise werden höhere Belohnungen Aktionen (oder Sätzen von Aktionen) gegeben, die eine größere Unähnlichkeit als andere für dasselbe Fahrszenario gefundene Lösungen aufweisen.
  • Gemäß einigen Ausführungsformen werden bei der Bestimmung der Belohnung für die wenigstens eine Aktion ferner Verdeckungsabstände verwendet. Es wird ein erster Verdeckungsabstand zwischen dem Agenten und einem Verdeckungspunkt für das Fahrzeug im ersten Zustand bestimmt. Es wird ein zweiter Verdeckungsabstand zwischen dem Agenten und dem Verdeckungspunkt für das Fahrzeug im zweiten Zustand bestimmt. Der erste Verdeckungsabstand und der zweite Verdeckungsabstand werden verglichen, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Verdeckungsabstand kleiner als der erste Verdeckungsabstand ist.
  • Gemäß einigen Ausführungsformen wird eine künftige Belohnung für eine künftige vom Agenten ausgeführte Wahrnehmungsverschlechterungsaktion ansprechend darauf verringert, dass die wenigstens eine Aktion die Wahrnehmungsverschlechterungsaktion aufweist. Gemäß einigen Ausführungsformen wird die künftige Belohnung jedes Mal dann verringert, wenn der Agent eine Wahrnehmungsverschlechterungsaktion ausführt, um die künftige Belohnung für eine solche Aktion zu verringern. Die künftige Belohnung wird beispielsweise durch Verringern eines Gewichts an einer Kante am CNN 420 verringert.
  • Bei 716 wird das wenigstens eine Gewicht des neuronalen Netzes durch den wenigstens einen Prozessor auf der Grundlage der Belohnung für die wenigstens eine Aktion angepasst. Beispielsweise repräsentiert das autonome System 202 gemäß einigen Ausführungsformen mögliche Aktionen, die der Agent in verschiedenen vom CNN repräsentierten Zuständen ausführt. Gemäß einigen Ausführungsformen werden bei der Bestimmung der Belohnung für die wenigstens eine Aktion abstandsbasierte Vergleiche und Anpassungen vorgenommen. Gemäß einigen Ausführungsformen werden Informationen empfangen, die den kleinsten aufgezeichneten Abstand zwischen dem Fahrzeug und dem Agenten während einer vorhergehenden Ausführung des Fahrszenarios angeben. Gemäß einigen Ausführungsformen wird der zweite Abstand mit dem geringsten aufgezeichneten Abstand für das Fahrszenario verglichen. Gemäß einigen Ausführungsformen wird die Belohnung für die wenigstens eine Aktion ansprechend auf eine Feststellung erhöht, dass der zweite Abstand kleiner als der niedrigste aufgezeichnete Abstand ist. Gemäß einigen Ausführungsformen wird die Belohnung für jede vom Agenten im Fahrszenario ausgeführte Aktion vor der wenigstens einen Aktion ansprechend darauf erhöht, dass festgestellt wurde, dass der zweite Abstand kleiner als der kleinste aufgezeichnete Abstand ist. Falls der Gesamtabstand zwischen dem Agenten und dem Fahrzeug beispielsweise niedriger ist als der aufgezeichnete kleinste Abstand von vorhergehenden Ausführungen des Fahrszenarios, wird die Belohnung für alle ausgeführten Aktionen erhöht.
  • Gemäß einigen Ausführungsformen geschieht das Testen für ein Fahrmodell des Fahrzeugs, wenn sich das Fahrzeug dem Agenten nähert. Gemäß einigen Ausführungsformen ist das Fahrmodell des Fahrzeugs ein Softwarestapel des autonomen Fahrzeugs. Gemäß einigen Ausführungsformen wird festgestellt, dass der zweite Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand kleiner als ein Schwellenabstand ist. Beispielsweise repräsentiert der Schwellenabstand gemäß einigen Ausführungsformen einen Abstand, in dem eine Kollision oder eine Beinahekollision zwischen dem Fahrzeug und dem Agenten aufgetreten ist. Gemäß einigen Ausführungsformen wird ansprechend darauf, dass festgestellt wird, dass der zweite Abstand kleiner als der Schwellenabstand ist, ein Test für ein Fahrmodell auf der Grundlage wenigstens eines vom Fahrszenario, von den ersten Zustandsinformationen oder von den zweiten Zustandsinformationen erzeugt.
  • In der vorhergehenden Beschreibung wurden Aspekte und Ausführungsformen der vorliegenden Offenbarung mit Bezug auf zahlreiche spezifische Einzelheiten, die von Implementation zu Implementation variieren können, beschrieben. Dementsprechend sind die Beschreibung und die Zeichnungen als erläuternd und nicht als einschränkend anzusehen. Der einzige und ausschließliche Indikator des Schutzumfangs der Erfindung und dessen, was von den Anmeldern als der Schutzumfang der Erfindung vorgesehen ist, ist der buchstäbliche und gleichwertige Schutzumfang des Anspruchssatzes, der sich aus dieser Anmeldung ergibt, in der spezifischen Form, in der diese Ansprüche erteilt werden, einschließlich jeder späteren Korrektur. Jegliche Definitionen, die hier ausdrücklich für in diesen Ansprüchen enthaltene Begriffe dargelegt sind, sollen die Bedeutung dieser Begriffe, wie in den Ansprüchen verwendet, bestimmen. Zusätzlich kann, wenn wir den Begriff „ferner umfassend“ in der folgenden Beschreibung oder den folgenden Ansprüchen verwenden, das, was diesem Ausdruck folgt, ein zusätzlicher Schritt oder eine zusätzliche Entität oder ein Unterschritt/eine Unterentität eines zuvor erwähnten Schritts oder einer zuvor erwähnten Entität sein.
  • Bezugszeichenliste
  • 1/10
    • 100
    Umgebung
    104a - 104n
    Objekt
    106a - 106n
    Route
    108
    Bereich
    110
    Fahrzeug-zu-Infrastruktur-Vorrichtung
    102a - 102n
    Fahrzeug
    112
    Netz
    114
    Fern-AV-System
    116
    Flottenverwaltungssystem
    118
    Fahrzeug-zu-Infrastruktur-System
  • 2/10
    • 200
    Fahrzeug
    202
    autonomes System
    202a
    Kameras
    202b
    LiDAR-Sensoren
    202c
    Radar-Sensoren
    202d
    Mikrofone
    202e
    Kommunikationsvorrichtung
    202f
    Autonomes-Fahrzeug-Computer
    202g
    Sicherheitssteuereinrichtung
    202h
    Drive-by-Wire-System
    208
    Bremssystem
    206
    Lenksteuersystem
    204
    Antriebsstrang-Steuersystem
    Front
    Vorderseite
    Rear
    Rückseite
  • 3/10
    • 300
    Vorrichtung
    304
    Prozessor
    306
    Speicher
    308
    Massenspeichervorrichtung
    302
    Bus
    310
    Eingabeschnittstelle
    312
    Ausgabeschnittstelle
    314
    Kommunikationsschnittstelle
  • 4/10
    • 400
    Autonomes-Fahrzeug-Computer
    402
    Wahrnehmungssystem
    404
    Planungssystem
    410
    Datenbank
    406
    Lokalisierungssystem
    408
    Steuersystem
  • 5/10
    • 420
    faltendes neuronales Netz
    422
    erste Faltungsschicht
    428
    Unterabtastschicht
    424
    zweite Faltungsschicht
    426
    Faltungsschicht
    430
    vollständig verbundene Schicht
    Initial Input
    anfängliche Eingabe
    Convolved output
    gefaltete Ausgabe
    Subsampled convolved output
    unterabgetastete gefaltete Ausgabe
  • 6/10
    • 402
    Wahrnehmungssystem
    Image
    Bild
    450
    Bereitstellen einer Eingabe
    455
    Ausführen einer ersten Faltungsfunktion
    460
    Ausführen einer ersten Unterabtastfunktion
    440
    faltendes neuronales Netz
    442
    erste Faltungsschicht
    444
    erste Unterabtastschicht
    Convolved output
    gefaltete Ausgabe
    Subsampled convolved output
    unterabgetastete gefaltete Ausgabe
  • 7/10
    • 402
    Wahrnehmungssystem
    465
    Ausführen einer zweiten Faltungsfunktion
    470
    Ausführen einer zweiten Unterabtastfunktion
    475
    Bereitstellen zu einer oder mehreren vollständig verbundenen Schichten
    480
    Bereitstellen der Ausgabe
    446
    zweite Faltungsschicht
    448
    zweite Unterabtastschicht
    449
    vollständig verbundene Schichten
    440
    faltendes neuronales Netz
    Convolved output
    gefaltete Ausgabe
    Subsampled convolved output
    unterabgetastete gefaltete Ausgabe
  • 9/10
    • 602
    SZENARIOIDENTIFIKATIONSSYSTEM
    604
    Client-Vorrichtung
    610
    AV-Beobachtung
    612
    Weltbeobachtung
    614
    Regelverletzungsprüfung
    622
    Zustand
    624
    Belohnung
    616
    LSTM
    618
    Wertfunktionen
    620
    Aktionen
    606
    Fahrsimulator
    608
    Speichersystem
    Agent Movement Model
    Agentenbewegungsmodell
    Perception Degradation
    Wahrnehmungsverschlechterung
  • 10/10
    • 702
    Empfangen erster Zustandsinformationen, die einen ersten Zustand eines Fahrszenarios repräsentieren, unter Verwendung wenigstens eines Prozessors, wobei die ersten Zustandsinformationen einen Zustand eines Fahrzeugs und einen Zustand eines Agenten in einer Umgebung des Fahrzeugs aufweisen
    704
    Verarbeiten der ersten Zustandsinformationen mit einem neuronalen Netz zur Bestimmung wenigstens einer durch den Agenten auszuführenden Aktion unter Verwendung des wenigstens einen Prozessors, wobei die wenigstens eine Aktion einschließt, dass eine Wahrnehmungsverschlechterungsaktion eine Fehlwahrnehmung des Agenten durch ein Wahrnehmungssystem des Fahrzeugs hervorruft
    706
    Empfangen zweiter Zustandsinformationen, die einen zweiten Zustand des Fahrszenarios repräsentieren, nach der Ausführung der wenigstens einen Aktion durch den Agenten unter Verwendung des wenigstens einen Prozessors
    708
    Bestimmen einer Belohnung für die wenigstens eine Aktion unter Verwendung des wenigstens einen Prozessors
    710
    Bestimmen eines ersten Abstands zwischen dem Fahrzeug und dem Agenten im ersten Zustand auf der Grundlage der ersten Zustandsinformationen
    712
    Bestimmen eines zweiten Abstands zwischen dem Fahrzeug und dem Agenten im zweiten Zustand auf der Grundlage der zweiten Zustandsinformationen
    714
    Vergleichen des ersten Abstands und des zweiten Abstands zur Bestimmung der Belohnung für die wenigstens eine Aktion, wobei die Belohnung größer ist, wenn der zweite Abstand mit dem ersten Abstand übereinstimmt
    716
    Anpassen wenigstens eines Gewichts des neuronalen Netzes auf der Grundlage der Belohnung für die wenigstens eine Aktion unter Verwendung des wenigstens einen Prozessors
  • Die folgenden Aspekte sind auch Teil der Erfindung:
    1. 1. Verfahren, welches Folgendes umfasst:
      • Empfangen erster Zustandsinformationen, die einen ersten Zustand eines Fahrszenarios repräsentieren, unter Verwendung wenigstens eines Prozessors, wobei die ersten Zustandsinformationen einen Zustand eines Fahrzeugs und einen Zustand eines Agenten in einer Umgebung des Fahrzeugs aufweisen,
      • Verarbeiten der ersten Zustandsinformationen mit einem neuronalen Netz zur Bestimmung wenigstens einer durch den Agenten auszuführenden Aktion unter Verwendung des wenigstens einen Prozessors, wobei die wenigstens eine Aktion einschließt, dass eine Wahrnehmungsverschlechterungsaktion eine Fehlwahrnehmung des Agenten durch ein Wahrnehmungssystem des Fahrzeugs hervorruft,
      • Empfangen zweiter Zustandsinformationen, die einen zweiten Zustand des Fahrszenarios repräsentieren, nach der Ausführung der wenigstens einen Aktion durch den Agenten unter Verwendung des wenigstens einen Prozessors,
      • Bestimmen einer Belohnung für die wenigstens eine Aktion unter Verwendung des wenigstens einen Prozessors, wobei
        • auf der Grundlage der ersten Zustandsinformationen ein erster Abstand zwischen dem Fahrzeug und dem Agenten im ersten Zustand bestimmt wird,
        • auf der Grundlage der zweiten Zustandsinformationen ein zweiter Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand bestimmt wird und
        • der erste Abstand und der zweite Abstand verglichen werden, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Abstand mit dem ersten Abstand übereinstimmt, und
      • wenigstens ein Gewicht des neuronalen Netzes auf der Grundlage der Belohnung für die wenigstens eine Aktion unter Verwendung des wenigstens einen Prozessors angepasst wird.
    2. 2. Verfahren nach Aspekt 1, ferner umfassend:
      • Verarbeiten der ersten Zustandsinformationen unter Verwendung eines Fahrmodells zur Bestimmung wenigstens einer durch das Fahrzeug auszuführenden Aktion, wobei die zweiten Zustandsinformationen den zweiten Zustand des Fahrszenarios nach der Ausführung der wenigstens einen Aktion durch das Fahrzeug repräsentieren.
    3. 3. Verfahren nach Aspekt 1, ferner umfassend:
      • Feststellen, dass der zweite Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand kleiner als ein Schwellenabstand ist, und
      • ansprechend auf die Feststellung, dass der zweite Abstand kleiner als der Schwellenabstand ist, Erzeugen eines Tests für ein Fahrmodell auf der Grundlage wenigstens eines vom Fahrszenario, von den ersten Zustandsinformationen oder den zweiten Zustandsinformationen.
    4. 4. Verfahren nach einem der Aspekte 1 bis 3, wobei das neuronale Netz ein Long Short-Term Memory (LSTM) umfasst und wobei die ersten Zustandsinformationen den ersten Zustand und wenigstens einen vor dem ersten Zustand auftretenden Zustand repräsentieren.
    5. 5. Verfahren nach einem der Aspekte 1 bis 4, ferner umfassend:
      • Verringern einer künftigen Belohnung für eine künftige Wahrnehmungsverschlechterungsaktion durch den Agenten ansprechend darauf, dass die wenigstens eine Aktion die Wahrnehmungsverschlechterungsaktion aufweist.
    6. 6. Verfahren nach einem der Aspekte 1 bis 5, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst:
      • Empfangen von Informationen, die den kleinsten aufgezeichneten Abstand zwischen dem Fahrzeug und dem Agenten während einer vorhergehenden Ausführung des Fahrszenarios angeben,
      • Vergleichen des zweiten Abstands mit dem kleinsten aufgezeichneten Abstand für das Fahrszenario und
      • Erhöhen der Belohnung für die wenigstens eine Aktion ansprechend auf eine Feststellung, dass der zweite Abstand kleiner als der kleinste aufgezeichnete Abstand ist.
    7. 7. Verfahren nach Aspekt 6, ferner umfassend:
      • Erhöhen einer Belohnung für jede Aktion durch den Agenten im Fahrszenario vor der wenigstens einen Aktion ansprechend auf die Feststellung, dass der zweite Abstand kleiner als der kleinste aufgezeichnete Abstand ist.
    8. 8. Verfahren nach einem der Aspekte 1 bis 7, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst:
      • Empfangen von Informationen, die eine vorhergehende vom Agenten im ersten Zustand während einer vorhergehenden Ausführung des Fahrszenarios ausgeführte Aktion angeben,
      • Vergleichen der wenigstens einen Aktion durch den Agenten mit der vorhergehenden Aktion zur Bestimmung einer Unähnlichkeitsmetrik zwischen der wenigstens einen Aktion und der vorhergehenden Aktion und
      • Bestimmen der Belohnung auf der Grundlage der Unähnlichkeitsmetrik, wobei die Belohnung größer ist, wenn die Unähnlichkeitsmetrik angibt, dass es eine größere Unähnlichkeit zwischen der wenigstens einen Aktion und der vorhergehenden Aktion gibt.
    9. 9. Verfahren nach einem der Aspekte 1 bis 8, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst:
      • Bestimmen eines ersten Verdeckungsabstands zwischen dem Agenten und einem Verdeckungspunkt für das Fahrzeug im ersten Zustand,
      • Bestimmen eines zweiten Verdeckungsabstands zwischen dem Agenten und dem Verdeckungspunkt für das Fahrzeug im zweiten Zustand und
      • Vergleichen des ersten Verdeckungsabstands und des zweiten Verdeckungsabstands, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Verdeckungsabstand kleiner als der erste Verdeckungsabstand ist.
    10. 10. Verfahren nach einem der Aspekte 1 bis 9, wobei die Wahrnehmungsverschlechterungsaktion eine verpasste Wahrnehmung des Agenten durch das Wahrnehmungssystem des Fahrzeugs, eine Fehlklassifikation des Agenten durch das Wahrnehmungssystem des Fahrzeugs oder eine Fehlcharakterisierung eines oder mehrerer Merkmale des Agenten durch das Wahrnehmungssystem des Fahrzeugs umfasst.
    11. 11. Nichtflüchtiges computerlesbares Speichermedium, das Befehle umfasst, die, wenn sie durch wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche Folgendes umfassen:
      • Empfangen erster Zustandsinformationen, die einen ersten Zustand eines Fahrszenarios repräsentieren, wobei die ersten Zustandsinformationen einen Zustand eines Fahrzeugs und einen Zustand eines Agenten in einer Umgebung des Fahrzeugs aufweisen,
      • Verarbeiten der ersten Zustandsinformationen mit einem neuronalen Netz zur Bestimmung wenigstens einer durch den Agenten auszuführenden Aktion, wobei die wenigstens eine Aktion einschließt, dass eine Wahrnehmungsverschlechterungsaktion eine Fehlwahrnehmung des Agenten durch ein Wahrnehmungssystem des Fahrzeugs hervorruft,
      • Empfangen zweiter Zustandsinformationen, die einen zweiten Zustand des Fahrszenarios repräsentieren, nach der Ausführung der wenigstens einen Aktion durch den Agenten,
      • Bestimmen einer Belohnung für die wenigstens eine Aktion, wobei
        • auf der Grundlage der ersten Zustandsinformationen ein erster Abstand zwischen dem Fahrzeug und dem Agenten im ersten Zustand bestimmt wird,
        • auf der Grundlage der zweiten Zustandsinformationen ein zweiter Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand bestimmt wird und
        • der erste Abstand und der zweite Abstand verglichen werden, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Abstand kleiner als der erste Abstand ist, und
      • wenigstens ein Gewicht des neuronalen Netzes auf der Grundlage der Belohnung für die wenigstens eine Aktion angepasst wird.
    12. 12. Nichtflüchtiges computerlesbares Speichermedium nach Aspekt 11, welches Befehle umfasst, die, wenn sie durch den wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche Folgendes umfassen:
      • Verarbeiten der ersten Zustandsinformationen unter Verwendung eines Fahrmodells zur Bestimmung wenigstens einer durch das Fahrzeug auszuführenden Aktion, wobei die zweiten Zustandsinformationen den zweiten Zustand des Fahrszenarios nach der Ausführung der wenigstens einen Aktion durch das Fahrzeug repräsentieren.
    13. 13. Nichtflüchtiges computerlesbares Speichermedium nach Aspekt 11 oder 12, welches Befehle umfasst, die, wenn sie durch den wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche ferner Folgendes umfassen:
      • Feststellen, dass der zweite Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand kleiner als ein Schwellenabstand ist, und
      • ansprechend auf die Feststellung, dass der zweite Abstand kleiner als der Schwellenabstand ist, Erzeugen eines Tests für ein Fahrmodell auf der Grundlage wenigstens eines vom Fahrszenario, von den ersten Zustandsinformationen oder den zweiten Zustandsinformationen.
    14. 14. Nichtflüchtiges computerlesbares Speichermedium nach einem der Aspekte 11 bis 13, wobei das neuronale Netz ein rekurrentes neuronales Long-Short-Term-Memory-Netz (LSTM-RNN) umfasst und wobei die ersten Zustandsinformationen den ersten Zustand und wenigstens einen vor dem ersten Zustand auftretenden Zustand repräsentieren.
    15. 15. Nichtflüchtiges computerlesbares Speichermedium nach einem der Aspekte 11 bis 14, welches Befehle umfasst, die, wenn sie durch den wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche Folgendes umfassen:
      • Verringern einer künftigen Belohnung für eine künftige Wahrnehmungsverschlechterungsaktion durch den Agenten ansprechend darauf, dass die wenigstens eine Aktion die Wahrnehmungsverschlechterungsaktion aufweist.
    16. 16. Nichtflüchtiges computerlesbares Speichermedium nach einem der Aspekte 11 bis 15, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst:
      • Empfangen von Informationen, die den kleinsten aufgezeichneten Abstand zwischen dem Fahrzeug und dem Agenten während einer vorhergehenden Ausführung des Fahrszenarios angeben,
      • Vergleichen des zweiten Abstands mit dem kleinsten aufgezeichneten Abstand für das Fahrszenario und
      • Erhöhen der Belohnung für die wenigstens eine Aktion ansprechend auf eine Feststellung, dass der zweite Abstand kleiner als der kleinste aufgezeichnete Abstand ist.
    17. 17. Nichtflüchtiges computerlesbares Speichermedium nach Aspekt 16, welches Befehle umfasst, die, wenn sie durch den wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche Folgendes umfassen:
      • Erhöhen einer Belohnung für jede Aktion durch den Agenten im Fahrszenario vor der wenigstens einen Aktion ansprechend auf die Feststellung, dass der zweite Abstand kleiner als der kleinste aufgezeichnete Abstand ist.
    18. 18. Nichtflüchtiges computerlesbares Speichermedium nach einem der Aspekte 11 bis 17, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst:
      • Empfangen von Informationen, die eine vorhergehende vom Agenten im ersten Zustand während einer vorhergehenden Ausführung des Fahrszenarios ausgeführte Aktion angeben,
      • Vergleichen der wenigstens einen Aktion durch den Agenten mit der vorhergehenden Aktion zur Bestimmung einer Unähnlichkeitsmetrik zwischen der wenigstens einen Aktion und der vorhergehenden Aktion und
      • Bestimmen der Belohnung auf der Grundlage der Unähnlichkeitsmetrik, wobei die Belohnung größer ist, wenn die Unähnlichkeitsmetrik angibt, dass es eine größere Unähnlichkeit zwischen der wenigstens einen Aktion und der vorhergehenden Aktion gibt.
    19. 19. Nichtflüchtiges computerlesbares Speichermedium nach einem der Aspekte 11 bis 18, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst:
      • Bestimmen eines ersten Verdeckungsabstands zwischen dem Agenten und einem Verdeckungspunkt für das Fahrzeug im ersten Zustand,
      • Bestimmen eines zweiten Verdeckungsabstands zwischen dem Agenten und dem Verdeckungspunkt für das Fahrzeug im zweiten Zustand und
      • Vergleichen des ersten Verdeckungsabstands und des zweiten Verdeckungsabstands, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Verdeckungsabstand kleiner als der erste Verdeckungsabstand ist.
    20. 20. Nichtflüchtiges computerlesbares Speichermedium nach einem der Aspekte 11 bis 19, wobei die Wahrnehmungsverschlechterungsaktion eine verpasste Wahrnehmung des Agenten durch das Wahrnehmungssystem des Fahrzeugs, eine Fehlklassifikation des Agenten durch das Wahrnehmungssystem des Fahrzeugs oder eine Fehlcharakterisierung eines oder mehrerer Merkmale des Agenten durch das Wahrnehmungssystem des Fahrzeugs umfasst.
    21. 21. System, umfassend:
      • ein computerlesbares Medium, das computerausführbare Befehle speichert, und
      • wenigstens einen Prozessor, der kommunikativ mit dem computerlesbaren Medium gekoppelt ist, wobei der wenigstens eine Prozessor dafür ausgelegt ist, die computerausführbaren Befehle auszuführen, um Operationen auszuführen, welche Folgendes umfassen:
        • Empfangen erster Zustandsinformationen, die einen ersten Zustand eines Fahrszenarios repräsentieren, wobei die ersten Zustandsinformationen einen Zustand eines Fahrzeugs und einen Zustand eines Agenten in einer Umgebung des Fahrzeugs aufweisen,
        • Verarbeiten der ersten Zustandsinformationen mit einem neuronalen Netz zur Bestimmung wenigstens einer durch den Agenten auszuführenden Aktion, wobei die wenigstens eine Aktion einschließt, dass eine Wahrnehmungsverschlechterungsaktion eine Fehlwahrnehmung des Agenten durch ein Wahrnehmungssystem des Fahrzeugs hervorruft,
        • Empfangen zweiter Zustandsinformationen, die einen zweiten Zustand des Fahrszenarios repräsentieren, nach der Ausführung der wenigstens einen Aktion durch den Agenten,
        • Bestimmen einer Belohnung für die wenigstens eine Aktion, wobei
          • auf der Grundlage der ersten Zustandsinformationen ein erster Abstand zwischen dem Fahrzeug und dem Agenten im ersten Zustand bestimmt wird,
          • auf der Grundlage der zweiten Zustandsinformationen ein zweiter Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand bestimmt wird und
          • der erste Abstand und der zweite Abstand verglichen werden, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Abstand kleiner als der erste Abstand ist, und
        • wenigstens ein Gewicht des neuronalen Netzes auf der Grundlage der Belohnung für die wenigstens eine Aktion angepasst wird.
    22. 22. System nach Aspekt 21, wobei der Prozessor ferner dafür ausgelegt ist, die computerausführbaren Befehle auszuführen, um Operationen auszuführen, welche Folgendes umfassen:
      • Verarbeiten der ersten Zustandsinformationen unter Verwendung eines Fahrmodells zur Bestimmung wenigstens einer durch das Fahrzeug auszuführenden Aktion, wobei die zweiten Zustandsinformationen den zweiten Zustand des Fahrszenarios nach der Ausführung der wenigstens einen Aktion durch das Fahrzeug repräsentieren.
    23. 23. System nach Aspekt 21 oder 22, wobei der Prozessor ferner dafür ausgelegt ist, die computerausführbaren Befehle auszuführen, um Operationen auszuführen, welche Folgendes umfassen:
      • Feststellen, dass der zweite Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand kleiner als ein Schwellenabstand ist, und
      • ansprechend auf die Feststellung, dass der zweite Abstand kleiner als der Schwellenabstand ist, Erzeugen eines Tests für ein Fahrmodell auf der Grundlage wenigstens eines vom Fahrszenario, von den ersten Zustandsinformationen oder den zweiten Zustandsinformationen.
    24. 24. System nach einem der Aspekte 21 bis 23, wobei das neuronale Netz ein rekurrentes neuronales Long-Short-Term-Memory-Netz (LSTM-RNN) umfasst und wobei die ersten Zustandsinformationen den ersten Zustand und wenigstens einen vor dem ersten Zustand auftretenden Zustand repräsentieren.
    25. 25. System nach einem der Aspekte 21 bis 24, welches Befehle umfasst, die, wenn sie durch den wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche Folgendes umfassen:
      • Verringern einer künftigen Belohnung für eine künftige Wahrnehmungsverschlechterungsaktion durch den Agenten ansprechend darauf, dass die wenigstens eine Aktion die Wahrnehmungsverschlechterungsaktion aufweist.
    26. 26. System nach einem der Aspekte 21 bis 25, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst:
      • Empfangen von Informationen, die den kleinsten aufgezeichneten Abstand zwischen dem Fahrzeug und dem Agenten während einer vorhergehenden Ausführung des Fahrszenarios angeben,
      • Vergleichen des zweiten Abstands mit dem kleinsten aufgezeichneten Abstand für das Fahrszenario und
      • Erhöhen der Belohnung für die wenigstens eine Aktion ansprechend auf eine Feststellung, dass der zweite Abstand kleiner als der kleinste aufgezeichnete Abstand ist.
    27. 27. System nach einem der Aspekte 21 bis 26, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst:
      • Empfangen von Informationen, die eine vorhergehende vom Agenten im ersten Zustand während einer vorhergehenden Ausführung des Fahrszenarios ausgeführte Aktion angeben,
      • Vergleichen der wenigstens einen Aktion durch den Agenten mit der vorhergehenden Aktion zur Bestimmung einer Unähnlichkeitsmetrik zwischen der wenigstens einen Aktion und der vorhergehenden Aktion und
      • Bestimmen der Belohnung auf der Grundlage der Unähnlichkeitsmetrik, wobei die Belohnung größer ist, wenn die Unähnlichkeitsmetrik angibt, dass es eine größere Unähnlichkeit zwischen der wenigstens einen Aktion und der vorhergehenden Aktion gibt.
    28. 28. System nach einem der Aspekte 21 bis 27, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst:
      • Bestimmen eines ersten Verdeckungsabstands zwischen dem Agenten und einem Verdeckungspunkt für das Fahrzeug im ersten Zustand,
      • Bestimmen eines zweiten Verdeckungsabstands zwischen dem Agenten und dem Verdeckungspunkt für das Fahrzeug im zweiten Zustand und
      • Vergleichen des ersten Verdeckungsabstands und des zweiten Verdeckungsabstands, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Verdeckungsabstand kleiner als der erste Verdeckungsabstand ist.
    29. 29. System nach einem der Aspekte 21 bis 28, wobei die Wahrnehmungsverschlechterungsaktion eine verpasste Wahrnehmung des Agenten durch das Wahrnehmungssystem des Fahrzeugs, eine Fehlklassifikation des Agenten durch das Wahrnehmungssystem des Fahrzeugs oder eine Fehlcharakterisierung eines oder mehrerer Merkmale des Agenten durch das Wahrnehmungssystem des Fahrzeugs umfasst.
    30. 30. System nach einem der Aspekte 21 bis 29, wobei die Wahrnehmungsverschlechterungsaktion eine verpasste Wahrnehmung des Agenten durch das Wahrnehmungssystem des Fahrzeugs, eine Fehlklassifikation des Agenten durch das Wahrnehmungssystem des Fahrzeugs oder eine Fehlcharakterisierung eines oder mehrerer Merkmale des Agenten durch das Wahrnehmungssystem des Fahrzeugs umfasst.

Claims (20)

  1. Verfahren, umfassend: Empfangen erster Zustandsinformationen, die einen ersten Zustand eines Fahrszenarios repräsentieren, unter Verwendung wenigstens eines Prozessors, wobei die ersten Zustandsinformationen einen Zustand eines Fahrzeugs und einen Zustand eines Agenten in einer Umgebung des Fahrzeugs aufweisen, Verarbeiten der ersten Zustandsinformationen mit einem neuronalen Netz zur Bestimmung wenigstens einer durch den Agenten auszuführenden Aktion unter Verwendung des wenigstens einen Prozessors, wobei die wenigstens eine Aktion einschließt, dass eine Wahrnehmungsverschlechterungsaktion eine Fehlwahrnehmung des Agenten durch ein Wahrnehmungssystem des Fahrzeugs hervorruft, Empfangen zweiter Zustandsinformationen, die einen zweiten Zustand des Fahrszenarios repräsentieren, nach der Ausführung der wenigstens einen Aktion durch den Agenten unter Verwendung des wenigstens einen Prozessors, Bestimmen einer Belohnung für die wenigstens eine Aktion unter Verwendung des wenigstens einen Prozessors, wobei auf der Grundlage der ersten Zustandsinformationen ein erster Abstand zwischen dem Fahrzeug und dem Agenten im ersten Zustand bestimmt wird, auf der Grundlage der zweiten Zustandsinformationen ein zweiter Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand bestimmt wird und der erste Abstand und der zweite Abstand verglichen werden, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Abstand mit dem ersten Abstand übereinstimmt, und wenigstens ein Gewicht des neuronalen Netzes auf der Grundlage der Belohnung für die wenigstens eine Aktion unter Verwendung des wenigstens einen Prozessors angepasst wird.
  2. Verfahren nach Anspruch 1, ferner umfassend: Verarbeiten der ersten Zustandsinformationen unter Verwendung eines Fahrmodells zur Bestimmung wenigstens einer durch das Fahrzeug auszuführenden Aktion, wobei die zweiten Zustandsinformationen den zweiten Zustand des Fahrszenarios nach der Ausführung der wenigstens einen Aktion durch das Fahrzeug repräsentieren.
  3. Verfahren nach Anspruch 1, ferner umfassend: Feststellen, dass der zweite Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand kleiner als ein Schwellenabstand ist, und ansprechend auf die Feststellung, dass der zweite Abstand kleiner als der Schwellenabstand ist, Erzeugen eines Tests für ein Fahrmodell auf der Grundlage wenigstens eines vom Fahrszenario, von den ersten Zustandsinformationen oder den zweiten Zustandsinformationen.
  4. Verfahren nach Anspruch 1, wobei das neuronale Netz ein Long Short-Term Memory (LSTM) umfasst und wobei die ersten Zustandsinformationen den ersten Zustand und wenigstens einen vor dem ersten Zustand auftretenden Zustand repräsentieren.
  5. Verfahren nach Anspruch 1, ferner umfassend: Verringern einer künftigen Belohnung für eine künftige Wahrnehmungsverschlechterungsaktion durch den Agenten ansprechend darauf, dass die wenigstens eine Aktion die Wahrnehmungsverschlechterungsaktion aufweist.
  6. Verfahren nach Anspruch 1, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst: Empfangen von Informationen, die den kleinsten aufgezeichneten Abstand zwischen dem Fahrzeug und dem Agenten während einer vorhergehenden Ausführung des Fahrszenarios angeben, Vergleichen des zweiten Abstands mit dem kleinsten aufgezeichneten Abstand für das Fahrszenario und Erhöhen der Belohnung für die wenigstens eine Aktion ansprechend auf eine Feststellung, dass der zweite Abstand kleiner als der kleinste aufgezeichnete Abstand ist.
  7. Verfahren nach Anspruch 6, ferner umfassend: Erhöhen einer Belohnung für jede Aktion durch den Agenten im Fahrszenario vor der wenigstens einen Aktion ansprechend auf die Feststellung, dass der zweite Abstand kleiner als der kleinste aufgezeichnete Abstand ist.
  8. Verfahren nach Anspruch 1, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst: Empfangen von Informationen, die eine vorhergehende vom Agenten im ersten Zustand während einer vorhergehenden Ausführung des Fahrszenarios ausgeführte Aktion angeben, Vergleichen der wenigstens einen Aktion durch den Agenten mit der vorhergehenden Aktion zur Bestimmung einer Unähnlichkeitsmetrik zwischen der wenigstens einen Aktion und der vorhergehenden Aktion und Bestimmen der Belohnung auf der Grundlage der Unähnlichkeitsmetrik, wobei die Belohnung größer ist, wenn die Unähnlichkeitsmetrik angibt, dass es eine größere Unähnlichkeit zwischen der wenigstens einen Aktion und der vorhergehenden Aktion gibt.
  9. Verfahren nach Anspruch 1, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst: Bestimmen eines ersten Verdeckungsabstands zwischen dem Agenten und einem Verdeckungspunkt für das Fahrzeug im ersten Zustand, Bestimmen eines zweiten Verdeckungsabstands zwischen dem Agenten und dem Verdeckungspunkt für das Fahrzeug im zweiten Zustand und Vergleichen des ersten Verdeckungsabstands und des zweiten Verdeckungsabstands, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Verdeckungsabstand kleiner als der erste Verdeckungsabstand ist.
  10. Verfahren nach Anspruch 1, wobei die Wahrnehmungsverschlechterungsaktion eine verpasste Wahrnehmung des Agenten durch das Wahrnehmungssystem des Fahrzeugs, eine Fehlklassifikation des Agenten durch das Wahrnehmungssystem des Fahrzeugs oder eine Fehlcharakterisierung eines oder mehrerer Merkmale des Agenten durch das Wahrnehmungssystem des Fahrzeugs umfasst.
  11. Nichtflüchtiges computerlesbares Speichermedium, das Befehle umfasst, die, wenn sie durch wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche Folgendes umfassen: Empfangen erster Zustandsinformationen, die einen ersten Zustand eines Fahrszenarios repräsentieren, wobei die ersten Zustandsinformationen einen Zustand eines Fahrzeugs und einen Zustand eines Agenten in einer Umgebung des Fahrzeugs aufweisen, Verarbeiten der ersten Zustandsinformationen mit einem neuronalen Netz zur Bestimmung wenigstens einer durch den Agenten auszuführenden Aktion, wobei die wenigstens eine Aktion einschließt, dass eine Wahrnehmungsverschlechterungsaktion eine Fehlwahrnehmung des Agenten durch ein Wahrnehmungssystem des Fahrzeugs hervorruft, Empfangen zweiter Zustandsinformationen, die einen zweiten Zustand des Fahrszenarios repräsentieren, nach der Ausführung der wenigstens einen Aktion durch den Agenten, Bestimmen einer Belohnung für die wenigstens eine Aktion, wobei auf der Grundlage der ersten Zustandsinformationen ein erster Abstand zwischen dem Fahrzeug und dem Agenten im ersten Zustand bestimmt wird, auf der Grundlage der zweiten Zustandsinformationen ein zweiter Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand bestimmt wird und der erste Abstand und der zweite Abstand verglichen werden, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Abstand kleiner als der erste Abstand ist, und wenigstens ein Gewicht des neuronalen Netzes auf der Grundlage der Belohnung für die wenigstens eine Aktion angepasst wird.
  12. Nichtflüchtiges computerlesbares Speichermedium nach Anspruch 11, welches Befehle umfasst, die, wenn sie durch den wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche Folgendes umfassen: Verarbeiten der ersten Zustandsinformationen unter Verwendung eines Fahrmodells zur Bestimmung wenigstens einer durch das Fahrzeug auszuführenden Aktion, wobei die zweiten Zustandsinformationen den zweiten Zustand des Fahrszenarios nach der Ausführung der wenigstens einen Aktion durch das Fahrzeug repräsentieren.
  13. Nichtflüchtiges computerlesbares Speichermedium nach Anspruch 11, welches Befehle umfasst, die, wenn sie durch den wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche ferner Folgendes umfassen: Feststellen, dass der zweite Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand kleiner als ein Schwellenabstand ist, und ansprechend auf die Feststellung, dass der zweite Abstand kleiner als der Schwellenabstand ist, Erzeugen eines Tests für ein Fahrmodell auf der Grundlage wenigstens eines vom Fahrszenario, von den ersten Zustandsinformationen oder den zweiten Zustandsinformationen.
  14. Nichtflüchtiges computerlesbares Speichermedium nach Anspruch 11, wobei das neuronale Netz ein rekurrentes neuronales Long-Short-Term-Memory-Netz (LSTM-RNN) umfasst und wobei die ersten Zustandsinformationen den ersten Zustand und wenigstens einen vor dem ersten Zustand auftretenden Zustand repräsentieren.
  15. Nichtflüchtiges computerlesbares Speichermedium nach Anspruch 11, welches Befehle umfasst, die, wenn sie durch den wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche Folgendes umfassen: Verringern einer künftigen Belohnung für eine künftige Wahrnehmungsverschlechterungsaktion durch den Agenten ansprechend darauf, dass die wenigstens eine Aktion die Wahrnehmungsverschlechterungsaktion aufweist.
  16. Nichtflüchtiges computerlesbares Speichermedium nach Anspruch 11, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst: Empfangen von Informationen, die den kleinsten aufgezeichneten Abstand zwischen dem Fahrzeug und dem Agenten während einer vorhergehenden Ausführung des Fahrszenarios angeben, Vergleichen des zweiten Abstands mit dem kleinsten aufgezeichneten Abstand für das Fahrszenario und Erhöhen der Belohnung für die wenigstens eine Aktion ansprechend auf eine Feststellung, dass der zweite Abstand kleiner als der kleinste aufgezeichnete Abstand ist.
  17. Nichtflüchtiges computerlesbares Speichermedium nach Anspruch 16, welches Befehle umfasst, die, wenn sie durch den wenigstens einen Prozessor ausgeführt werden, den wenigstens einen Prozessor veranlassen, Operationen auszuführen, welche Folgendes umfassen: Erhöhen einer Belohnung für jede Aktion durch den Agenten im Fahrszenario vor der wenigstens einen Aktion ansprechend auf die Feststellung, dass der zweite Abstand kleiner als der kleinste aufgezeichnete Abstand ist.
  18. Nichtflüchtiges computerlesbares Speichermedium nach Anspruch 11, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst: Empfangen von Informationen, die eine vorhergehende vom Agenten im ersten Zustand während einer vorhergehenden Ausführung des Fahrszenarios ausgeführte Aktion angeben, Vergleichen der wenigstens einen Aktion durch den Agenten mit der vorhergehenden Aktion zur Bestimmung einer Unähnlichkeitsmetrik zwischen der wenigstens einen Aktion und der vorhergehenden Aktion und Bestimmen der Belohnung auf der Grundlage der Unähnlichkeitsmetrik, wobei die Belohnung größer ist, wenn die Unähnlichkeitsmetrik angibt, dass es eine größere Unähnlichkeit zwischen der wenigstens einen Aktion und der vorhergehenden Aktion gibt.
  19. Nichtflüchtiges computerlesbares Speichermedium nach Anspruch 11, wobei die Bestimmung der Belohnung für die wenigstens eine Aktion ferner Folgendes umfasst: Bestimmen eines ersten Verdeckungsabstands zwischen dem Agenten und einem Verdeckungspunkt für das Fahrzeug im ersten Zustand, Bestimmen eines zweiten Verdeckungsabstands zwischen dem Agenten und dem Verdeckungspunkt für das Fahrzeug im zweiten Zustand und Vergleichen des ersten Verdeckungsabstands und des zweiten Verdeckungsabstands, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Verdeckungsabstand kleiner als der erste Verdeckungsabstand ist.
  20. System, welches Folgendes aufweist: ein computerlesbares Medium, das computerausführbare Befehle speichert, und wenigstens einen Prozessor, der kommunikativ mit dem computerlesbaren Medium gekoppelt ist, wobei der wenigstens eine Prozessor dafür ausgelegt ist, die computerausführbaren Befehle auszuführen, um Operationen auszuführen, welche Folgendes umfassen: Empfangen erster Zustandsinformationen, die einen ersten Zustand eines Fahrszenarios repräsentieren, wobei die ersten Zustandsinformationen einen Zustand eines Fahrzeugs und einen Zustand eines Agenten in einer Umgebung des Fahrzeugs aufweisen, Verarbeiten der ersten Zustandsinformationen mit einem neuronalen Netz zur Bestimmung wenigstens einer durch den Agenten auszuführenden Aktion, wobei die wenigstens eine Aktion einschließt, dass eine Wahrnehmungsverschlechterungsaktion eine Fehlwahrnehmung des Agenten durch ein Wahrnehmungssystem des Fahrzeugs hervorruft, Empfangen zweiter Zustandsinformationen, die einen zweiten Zustand des Fahrszenarios repräsentieren, nach der Ausführung der wenigstens einen Aktion durch den Agenten, Bestimmen einer Belohnung für die wenigstens eine Aktion, wobei auf der Grundlage der ersten Zustandsinformationen ein erster Abstand zwischen dem Fahrzeug und dem Agenten im ersten Zustand bestimmt wird, auf der Grundlage der zweiten Zustandsinformationen ein zweiter Abstand zwischen dem Fahrzeug und dem Agenten im zweiten Zustand bestimmt wird und der erste Abstand und der zweite Abstand verglichen werden, um die Belohnung für die wenigstens eine Aktion zu bestimmen, wobei die Belohnung größer ist, wenn der zweite Abstand kleiner als der erste Abstand ist, und wenigstens ein Gewicht des neuronalen Netzes auf der Grundlage der Belohnung für die wenigstens eine Aktion angepasst wird.
DE102021133740.2A 2021-09-20 2021-12-17 Erlernen der identifikation sicherheitskritischer szenarien für ein autonomes fahrzeug Pending DE102021133740A1 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17/479,197 2021-09-20
US17/479,197 US11400958B1 (en) 2021-09-20 2021-09-20 Learning to identify safety-critical scenarios for an autonomous vehicle

Publications (1)

Publication Number Publication Date
DE102021133740A1 true DE102021133740A1 (de) 2023-03-23

Family

ID=82652521

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102021133740.2A Pending DE102021133740A1 (de) 2021-09-20 2021-12-17 Erlernen der identifikation sicherheitskritischer szenarien für ein autonomes fahrzeug

Country Status (5)

Country Link
US (1) US11400958B1 (de)
KR (1) KR20230042430A (de)
CN (1) CN115840441A (de)
DE (1) DE102021133740A1 (de)
GB (1) GB2611119B (de)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11727671B1 (en) * 2022-08-26 2023-08-15 Motional Ad Llc Efficient and optimal feature extraction from observations

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9015093B1 (en) * 2010-10-26 2015-04-21 Michael Lamport Commons Intelligent control with hierarchical stacked neural networks
CN103942359B (zh) * 2014-03-13 2017-01-04 华南理工大学 无信号交叉口自行车冲突避让行为仿真模型的建模方法
US9934689B2 (en) 2014-12-17 2018-04-03 Toyota Motor Engineering & Manufacturing North America, Inc. Autonomous vehicle operation at blind intersections
WO2017209313A1 (ko) 2016-05-30 2017-12-07 엘지전자 주식회사 차량용 디스플레이 장치 및 차량
DE102019202634B3 (de) 2019-02-27 2020-07-23 Zf Friedrichshafen Ag Verfahren, Steuergerät für ein automatisiert betreibbares Straßenfahrzeug, Computerprogrammprodukt zum Erkennen von Objekten im Straßenverkehr und automatisiert betreibbares Straßenfahrzeug für Mobilitätsdienstleistungen
US11016492B2 (en) 2019-02-28 2021-05-25 Zoox, Inc. Determining occupancy of occluded regions
US11260852B2 (en) * 2019-03-26 2022-03-01 GM Global Technology Operations LLC Collision behavior recognition and avoidance
US20190225214A1 (en) * 2019-03-30 2019-07-25 Intel Corporation Advanced wild-life collision avoidance for vehicles
US11945440B2 (en) * 2019-08-23 2024-04-02 Motional Ad Llc Data driven rule books
US11993291B2 (en) 2019-10-17 2024-05-28 Perceptive Automata, Inc. Neural networks for navigation of autonomous vehicles based upon predicted human intents
US11912271B2 (en) * 2019-11-07 2024-02-27 Motional Ad Llc Trajectory prediction from precomputed or dynamically generated bank of trajectories
KR20200003355A (ko) 2019-12-16 2020-01-09 엘지전자 주식회사 전자 장치 및 그의 동작 방법
US20210213977A1 (en) * 2020-01-14 2021-07-15 Allstate Insurance Company Nearby Driver Intent Determining Autonomous Driving System
US11577759B2 (en) * 2020-05-26 2023-02-14 Toyota Research Institute, Inc. Systems and methods for hybrid prediction framework with inductive bias

Also Published As

Publication number Publication date
CN115840441A (zh) 2023-03-24
GB2611119B (en) 2023-11-29
KR20230042430A (ko) 2023-03-28
US11400958B1 (en) 2022-08-02
GB2611119A (en) 2023-03-29

Similar Documents

Publication Publication Date Title
DE102022102189A1 (de) Multimodales Segmentierungsnetz für ein verbessertes semantisches Labelingbei einer Kartenerzeugung
DE102021132853A1 (de) Auf deep learning basierende kamerakalibrierung
DE102021132082A1 (de) Ende-zu-ende-system-training unter verwendung vereinigter bilder
DE102022100041A1 (de) Betriebseinhüllendenerkennung mit situationsbeurteilung unter verwendung von metriken
DE102023111485A1 (de) Nachverfolgungssegmentbereinigung nachverfolgter objekte
DE102021131489A1 (de) Semantische annotation von sensordaten unter verwendung unzuverlässiger kartenannotationseingaben
DE102022131625A1 (de) Bordsteinbasierte merkmalsextraktion für lokalisierung und fahrspurerkennung mittels radar
DE102022105579A1 (de) Graphenerkundung zur regelbuchtrajektorieerzeugung
DE102022100413A1 (de) Objekterkennung unter verwendung von radar-und-lidar-zusammenführung
DE102022106461A1 (de) Systeme und verfahren zur kameraausrichtung
DE102021132199A1 (de) Bestimmen von Objektmobilitätsparametern unter Verwendung einer Objektsequenz
DE102021131480A1 (de) Sensorangriffssimulationssystem
DE102021132096A1 (de) Fahrzeugortsbestimmung unter verwendung kombinierter eingaben redundanter ortsbestimmungs-pipelines
DE102021133740A1 (de) Erlernen der identifikation sicherheitskritischer szenarien für ein autonomes fahrzeug
DE102023108247A1 (de) Tracker-Positionsaktualisierungen zur Erzeugung von Fahrzeugtrajektoren
WO2023249857A1 (en) Semi-closed loop rollouts for data augmentation
DE102023107233A1 (de) Auswahl von fahrzeugaktionen auf grundlage simulierter zustände
DE102022133254A1 (de) Antennenüberwachung und -auswahl
DE102022102187A1 (de) High-fidelity-daten-getriebene multimodale simulation
DE102022122456A1 (de) Auf maschinellem lernen basierte klassifizierung einer punktwolkenausrichtung
DE102022103060A1 (de) Automatisches detektieren von verkehrssignalen unter verwendung von sensordaten
DE102022104054A1 (de) Die fahrzeugzustandsschätzung verbessernde sensordaten zur fahrzeugsteuerung und zum autonomen fahren
DE102023114901A1 (de) Steuerparameterbasierter suchraum für fahrzeugbewegungsplanung
DE102022102214A1 (de) Verfahren und Systeme zur Agent-Priorisierung
US20240059302A1 (en) Control system testing utilizing rulebook scenario generation