DE102021114032A1

DE102021114032A1 - Identifizieren von hintergrundmerkmalen mittels lidar

Info

Publication number: DE102021114032A1
Application number: DE102021114032.3A
Authority: DE
Inventors: Tolga Ozaslan
Original assignee: Motional AD LLC
Current assignee: Motional AD LLC
Priority date: 2020-06-02
Filing date: 2021-05-31
Publication date: 2021-12-02
Also published as: US20210373173A1; GB2601024A; GB202305613D0; GB202107877D0; CN114089375A; KR20210149624A; GB2601024B

Abstract

Es werden unter anderem Techniken zum Identifizieren von Hintergrundmerkmalen mittels LiDAR beschrieben. Die Techniken beinhalten das Modellieren der Punktwolkeninformationen als Kugel und das Identifizieren von Flächen, die den jeweiligen Punktclustern der empfangenen LiDAR-Punktwolkeninformationen entsprechen. Es wird eine Graphendatenstruktur erzeugt, die Eckpunkte enthält, die den jeweiligen Flächen der identifizierten Flächen entsprechen, und Eckpunkte der Graphendatenstruktur werden basierend auf der Angrenzung der jeweiligen zugrundeliegenden Punkte und Eigenschaften der entsprechenden Flächen verbunden. Es werden Eigenschaften der Flächen analysiert, die den Eckpunkten des Teilgraphen entsprechen, und es werden Teilgraphen identifiziert, die einem Hintergrundmerkmal der physischen Umgebung basierend auf der Analyse entsprechen.

Description

QUERVERWEIS AUF VERWANDTE ANMELDUNG
Die vorliegende Anmeldung beansprucht die Priorität der vorläufigen US-Patentanmeldung Nr. 63/033.816 , eingereicht am 2. Juni 2020, deren gesamter Inhalt hier durch Bezugnahme aufgenommen ist.
GEBIET DER ERFINDUNG
Die vorliegende Beschreibung bezieht sich auf die Identifizierung von Hintergrundmerkmalen mittels LiDAR.
HINTERGRUND
Fahrzeuge (z. B. autonome Fahrzeuge) können LiDAR verwenden, um Merkmale der Umgebung zu identifizieren. LiDAR verwendet einen oder mehrere Emissionsquellen, um nahe gelegene Objekte zu beleuchten.
Figurenliste

1 zeigt ein Beispiel für ein autonomes Fahrzeug mit autonomer Fähigkeit.
2 veranschaulicht ein Beispiel für eine „Cloud“-Rechenumgebung.
3 veranschaulicht ein Computersystem.
4 zeigt ein Beispiel für die Architektur eines autonomen Fahrzeugs.
5 zeigt ein Beispiel für Eingaben und Ausgaben, die durch ein Wahrnehmungsmodul verwendet werden können.
6 zeigt ein Beispiel für ein LiDAR-System.
7 zeigt das LiDAR-System im Betrieb.
8 zeigt die Funktionsweise des LiDAR-Systems mit zusätzlichen Details.
9 zeigt ein Blockdiagramm der Zusammenhänge zwischen Eingaben und Ausgaben eines Planungsmoduls.
10 zeigt einen gerichteten Graphen, der bei der Wegplanung verwendet wird.
11 zeigt ein Blockdiagramm der Eingaben und Ausgaben eines Steuermoduls.
12 zeigt ein Blockdiagramm der Eingaben, Ausgaben und Komponenten einer Steuervorrichtung.
13 zeigt ein Teilnetz aus einer rohen Punktwolke.
14 zeigt Flächen, die sowohl die Bodenoberfläche als auch andere Objekte darstellen.
15 zeigt nur die identifizierte Bodenoberfläche.
16 zeigt nur die Nicht-Bodenflächen.
17 zeigt die Entsprechung von Flächen fl-f5 und einer Graphendatenstruktur.
18 ist ein Flussdiagramm eines Prozesses zum Identifizieren von Hintergrundmerkmalen mittels LiDAR.

DETAILLIERTE BESCHREIBUNG
In der folgenden Beschreibung werden zwecks Erklärung zahlreiche spezifische Details dargelegt, um ein gründliches Verständnis der vorliegenden Erfindung zu ermöglichen. Es wird jedoch offensichtlich, dass die vorliegende Erfindung auch ohne diese spezifischen Details umgesetzt werden kann. In anderen Fällen werden bekannte Strukturen und Vorrichtungen in Blockdiagrammform dargestellt, um eine unnötige Verschleierung der vorliegenden Erfindung zu vermeiden.
Zur leichteren Beschreibung sind in den Zeichnungen spezifische Anordnungen oder Reihenfolgen von schematischen Elementen abgebildet, wie zum Beispiel solche, die Vorrichtungen, Module, Anweisungsblöcke und Datenelemente darstellen. Der Fachmann sollte jedoch verstehen, dass die spezifische Reihenfolge oder Anordnung der schematischen Elemente in den Zeichnungen nicht bedeuten soll, dass eine bestimmte Reihenfolge oder Sequenz der Bearbeitung oder eine Trennung der Prozesse erforderlich ist. Ferner soll die Aufnahme eines schematischen Elements in eine Zeichnung nicht bedeuten, dass dieses Element in allen Ausführungsformen erforderlich ist oder dass die durch dieses Element dargestellten Merkmale in einigen Ausführungsformen nicht in andere Elemente aufgenommen oder mit anderen Elementen kombiniert werden dürfen.
Ferner ist in den Zeichnungen, in denen Verbindungselemente, wie beispielsweise durchgezogene oder gestrichelte Linien oder Pfeile verwendet werden, um eine Verbindung, Beziehung oder Verknüpfung zwischen oder unter zwei oder mehreren anderen schematischen Elementen darzustellen, das Fehlen solcher Verbindungselemente nicht so zu verstehen, dass keine Verbindung, Beziehung oder Verknüpfung bestehen kann. Mit anderen Worten werden einige Verbindungen, Zusammenhänge oder Verknüpfungen zwischen Elementen in den Zeichnungen nicht dargestellt, um die Offenbarung nicht zu verschleiern. Zur leichteren Veranschaulichung wird außerdem ein einzelnes Verbindungselement verwendet, um mehrere Verbindungen, Zusammenhänge oder Verknüpfungen zwischen Elementen darzustellen. Wenn zum Beispiel ein Verbindungselement eine Kommunikation von Signalen, Daten oder Anweisungen darstellt, sollte der Fachmann verstehen, dass ein solches Element einen oder mehrere Signalwege (zum Beispiel einen Bus) darstellt, je nachdem, was erforderlich ist, um die Kommunikation zu bewirken.
Im Folgenden wird im Detail Bezug auf Ausführungsformen genommen, deren Beispiele in den begleitenden Zeichnungen veranschaulicht sind. In der folgenden detaillierten Beschreibung werden zahlreiche spezifische Details dargelegt, um ein gründliches Verständnis der verschiedenen beschriebenen Ausführungsformen zu ermöglichen. Jedoch wird für einen durchschnittlichen Fachmann deutlich sein, dass die verschiedenen beschriebenen Ausführungsformen auch ohne diese spezifischen Details umgesetzt werden können. In anderen Fällen sind allgemein bekannte Verfahren, Vorgehensweisen, Komponenten, Schaltungen und Netzwerke nicht ausführlich beschrieben, um eine unnötige Verschleierung der Aspekte der Ausführungsformen zu vermeiden.
Im Folgenden werden mehrere Merkmale beschrieben, die jeweils unabhängig voneinander oder in einer beliebigen Kombination anderer Merkmale verwendet werden können. Allerdings kann es sein, dass ein einzelnes Merkmal keines der oben erörterten Probleme oder nur eines der oben erörterten Probleme anspricht. Einige der oben erörterten Probleme werden möglicherweise durch keines der hier beschriebenen Merkmale vollständig angesprochen. Auch wenn Überschriften angegeben sind, können Informationen, die sich auf eine bestimmte Überschrift beziehen, aber nicht in dem Abschnitt mit dieser Überschrift zu finden sind, auch an anderer Stelle in dieser Beschreibung gefunden werden. Ausführungsformen werden hier gemäß der folgenden Übersicht beschrieben:

1. Allgemeiner Überblick
2. Systemübersicht
3. Architektur autonomer Fahrzeuge
4. Eingaben autonomer Fahrzeuge
5. Planung autonomer Fahrzeuge
6. Steuerung autonomer Fahrzeuge
7. Hintergrunderkennung

Allgemeiner Überblick
Ein Fahrzeug (z. B. ein autonomes Fahrzeug) kann den Boden in seiner Umgebung identifizieren, indem es LiDAR-Punktwolken verarbeitet, um Oberflächen zu identifizieren und zu bestimmen, welche angrenzenden Oberflächen dem Boden entsprechen. Zum Beispiel kann das Fahrzeug eine Graphendatenstruktur erzeugen, bei der jeder Eckpunkt des Graphen einem Abschnitt der Punktwolkendaten entspricht, und angrenzende Eckpunkte identifizieren, die ähnliche Eigenschaften aufweisen.
Einige der Vorteile sind die Identifizierung des Bodens auf eine Weise, die weniger Rechenleistung und Energie als andere Techniken verbraucht. LiDAR-Daten werden als Kugel und nicht als Zylinder modelliert, was eine einfachere Identifizierung angrenzender Oberflächen ermöglicht. Daten aus mehreren LiDAR-Vorrichtungen können verwendet werden und brauchen nicht unbedingt im Voraus zusammengeführt zu werden. Die Punktwolkendaten brauchen nicht in einer bestimmten Reihenfolge bereitgestellt zu werden.
Systemübersicht
1 zeigt ein Beispiel für ein autonomes Fahrzeug 100, das über autonome Fähigkeit verfügt.
Wie hier verwendet, bezieht sich der Begriff „autonome Fähigkeit“ auf eine Funktion, ein Merkmal oder eine Einrichtung, die es ermöglicht, ein Fahrzeug teilweise oder vollständig ohne menschliches Eingreifen in Echtzeit zu betreiben, einschließlich, aber nicht beschränkt auf vollständig autonome Fahrzeuge, hochgradig autonome Fahrzeuge und bedingt autonome Fahrzeuge.
Wie hier verwendet, ist ein autonomes Fahrzeug (AF) ein Fahrzeug, das über autonome Fähigkeiten verfügt.
Wie hier verwendet, umfasst „Fahrzeug“ Transportmittel für den Transport von Gütern oder Personen. Zum Beispiel Autos, Busse, Züge, Flugzeuge, Drohnen, Lastwagen, Boote, Schiffe, Tauchboote, Lenkflugkörper usw. Ein fahrerloses Kraftfahrzeug ist ein Beispiel für ein Fahrzeug.
Wie hier verwendet, bezieht sich „Bewegungsbahn“ auf einen Weg oder eine Route zum Navigieren eines AF von einem ersten räumlich-zeitlichen Ort zu einem zweiten raumzeitlichen Ort. In einer Ausführungsform wird der erste raumzeitliche Ort als Anfangs- oder Startort und der zweite raumzeitliche Ort als Bestimmungsort, Endort, Ziel, Zielposition oder Zielort bezeichnet. In einigen Beispielen besteht eine Bewegungsbahn aus einem oder mehreren Segmenten (z. B. Straßenabschnitten), und jedes Segment besteht aus einem oder mehreren Blöcken (z. B. Abschnitten eines Fahrstreifens oder einer Einmündung). In einer Ausführungsform entsprechen die raumzeitlichen Orte den Orten der realen Welt. Die raumzeitlichen Orte sind zum Beispiel Abhol- oder Absetzorte zum Abholen oder Absetzen von Personen oder Gütern.
Wie hier verwendet, umfasst „Sensor(en)“ eine oder mehrere Hardwarekomponenten, die Informationen über die Umgebung rund um den Sensor erfassen. Einige der Hardwarekomponenten können sensorische Komponenten (z. B. Bildsensoren, biometrische Sensoren), Sende- und/oder Empfangskomponenten (z. B. Laser- oder Hochfrequenzwellensender und -empfänger), elektronische Komponenten wie Analog-DigitalWandler, eine Datenspeichervorrichtung (z. B. ein RAM und/oder ein nichtflüchtiger Speicher), Software- oder Firmwarekomponenten und Datenverarbeitungskomponenten wie eine ASIC (anwendungsspezifische integrierte Schaltung), einen Mikroprozessor und/oder einen Mikrocontroller umfassen.
Wie hier verwendet, ist eine „Szeneriebeschreibung“ eine Datenstruktur (z. B. Liste) oder ein Datenstrom, der ein oder mehrere klassifizierte oder markierte Objekte enthält, die durch einen oder mehrere Sensoren an dem AF-Fahrzeug erkannt oder durch eine AF-externe Quelle bereitgestellt werden.
Wie hier verwendet, ist eine „Straße“ ein physischer Bereich, der durch ein Fahrzeug befahren werden kann und einem benannten Verkehrsweg (z. B. Stadtstraße, Autobahn usw.) oder einem unbenannten Verkehrsweg (z. B. eine Einfahrt an einem Haus oder Bürogebäude, ein Abschnitt eines Parkplatzes, ein Abschnitt eines leeren Grundstücks, ein Feldweg in einem ländlichen Gebiet usw.) entsprechen kann. Da einige Fahrzeuge (z. B. Allradlastwagen, Geländewagen, usw.) in der Lage sind, eine Vielzahl physischer Bereiche zu befahren, die nicht speziell für den Fahrzeugverkehr angepasst sind, kann eine „Straße“ ein physischer Bereich sein, der nicht formell durch eine Gemeinde oder andere Regierungs- oder Verwaltungsbehörde als Verkehrsweg definiert ist.
Wie hier verwendet, ist ein „Fahrstreifen“ ein Abschnitt einer Straße, der durch ein Fahrzeug befahren werden kann. Ein Fahrstreifen wird mitunter basierend auf Fahrstreifenmarkierungen gekennzeichnet. Beispielsweise kann ein „Fahrstreifen“ dem größten Teil oder der Gesamtheit des Zwischenraums zwischen den Fahrstreifenmarkierungen oder nur einem Teil (z. B. weniger als 50 %) des Zwischenraums zwischen den Fahrstreifenmarkierungen entsprechen. Zum Beispiel könnte eine Straße mit weit auseinanderliegenden Fahrstreifenmarkierungen zwei oder mehr Fahrzeuge zwischen den Markierungen aufnehmen, sodass ein Fahrzeug das andere überholen kann, ohne die Fahrstreifenmarkierungen zu überqueren, und könnte daher so interpretiert werden, dass ein Fahrstreifen schmaler als der Zwischenraum zwischen den Fahrstreifenmarkierungen ist oder dass zwei Fahrstreifen zwischen den Fahrstreifenmarkierungen liegen. Ein Fahrstreifen könnte auch bei Fehlen von Fahrstreifenmarkierungen interpretiert werden. Beispielsweise kann ein Fahrstreifen basierend auf physischen Merkmalen einer Umgebung definiert werden, z. B. durch Felsen und Bäume entlang einer Durchgangsstraße in einem ländlichen Gebiet oder z. B. durch natürliche Hindernisse, die in einem unerschlossenen Gebiet zu vermeiden sind. Ein Fahrstreifen könnte auch unabhängig von Fahrstreifenmarkierungen oder physischen Merkmalen interpretiert werden. Beispielsweise könnte ein Fahrstreifen basierend auf einem beliebigen, hindernisfreien Weg in einem Gebiet interpretiert werden, in dem ansonsten Merkmale fehlen, die als Fahrstreifenbegrenzungen interpretiert werden würden. In einem Beispielszenario könnte ein AF einen Fahrstreifen durch einen hindernisfreien Abschnitt eines Feldes oder einer leeren Geländefläche interpretieren. In einem anderen Beispielszenario könnte ein AF einen Fahrstreifen durch eine breite (z. B. breit genug für zwei oder mehr Fahrstreifen) Straße interpretieren, die keine Fahrstreifenmarkierungen aufweist. In diesem Szenario könnte das AF Informationen über den Fahrstreifen an andere AFs übermitteln, sodass die anderen AFs die gleichen Fahrstreifeninformationen verwenden können, um die Wegplanung untereinander zu koordinieren.
Der Begriff „Over-the-Air(OTA)-Client“ umfasst jedes AF oder jede elektronische Vorrichtung (z. B. Computer, Steuervorrichtung, IoT-Vorrichtung, elektronisches Steuergerät (ECU)), die in ein AF eingebettet, mit einem AF gekoppelt oder in Kommunikation mit einem AF steht.
Der Begriff „Over-the-Air(OTA)-Aktualisierung“ bezeichnet jede Aktualisierung, Änderung, Löschung oder Hinzufügung von Software, Firmware, Daten oder Konfigurationseinstellungen oder jede Kombination davon, die an einen OTA-Client unter Verwendung firmeneigener und/oder standardisierter drahtloser Kommunikationstechnologie geliefert wird, einschließlich, aber nicht beschränkt auf: zellulare Mobilkommunikation (z. B. 2G, 3G, 4G, 5G), drahtlose Funknetze (z. B. WLAN) und/oder Satelliten-Internet.
Der Begriff „Edge-Knoten“ bezeichnet ein oder mehrere mit einem Netzwerk gekoppelte Edge-Vorrichtungen, die ein Portal für die Kommunikation mit AFs bieten und mit anderen Edge-Knoten und einer Cloud-basierten Rechenplattform kommunizieren können, um OTA Aktualisierungen zu planen und an OTA-Clients zu liefern.
Der Begriff „Edge-Vorrichtung“ bedeutet eine Vorrichtung, die einen Edge-Knoten implementiert und einen physischen drahtlosen Zugangspunkt (AP) in Kernnetzwerke von Unternehmen oder Dienstanbietern (z. B. VERIZON, AT&T) bereitstellt. Beispiele für Edge-Vorrichtungen beinhalten, sind aber nicht beschränkt auf: Computer, Controller, Sender, Router, Routing-Switches, integrierte Zugangsgeräte (IADs), Multiplexer, Zugangsgeräte für Großstadtnetze (MANs) und Weitverkehrsnetze (WANs).
„Eine oder mehrere” umfasst eine Funktion, die durch ein Element ausgeführt wird, eine Funktion, die durch mehr als ein Element ausgeführt wird, z. B. auf verteilte Weise, wobei mehrere Funktionen durch ein Element ausgeführt werden, mehrere Funktionen durch mehrere Elemente ausgeführt werden, oder eine beliebige Kombination des oben Genannten.
Es versteht sich auch, dass die Begriffe „erste“, „zweite“ usw. hier zwar in einigen Fällen zur Beschreibung verschiedener Elemente verwendet werden, diese Elemente jedoch nicht durch diese Begriffe eingeschränkt werden sollten. Diese Begriffe werden nur verwendet, um ein Element von einem anderen zu unterscheiden. Beispielsweise könnte ein erster Kontakt als ein zweiter Kontakt bezeichnet sein, und in ähnlicher Weise könnte ein zweiter Kontakt als ein dritter Kontakt bezeichnet sein, ohne vom Schutzbereich der verschiedenen beschriebenen Ausführungsformen abzuweichen. Der erste Kontakt und der zweite Kontakt sind beide Kontakte, aber sie sind nicht derselbe Kontakt.
Die Terminologie, die bei der Beschreibung der verschiedenen hier beschriebenen Ausführungsformen verwendet wird, dient nur der Beschreibung bestimmter Ausführungsformen und ist nicht als einschränkend beabsichtigt. Bei der Beschreibung der verschiedenen beschriebenen Ausführungsformen und der beigefügten Ansprüche sollen die Singularformen „ein“, „eine“ sowie „der“, „die“, „das“ auch die Pluralformen einschließen, sofern der Zusammenhang nicht eindeutig etwas anderes vorgibt. Es versteht sich auch, dass der Begriff „und/oder“ wie hier verwendet sich auf alle möglichen Kombinationen eines oder mehrerer der zugehörigen aufgelisteten Punkte bezieht und diese mit einschließt. Es versteht sich ferner, dass die Begriffe „enthalten“, „einschließlich“, „umfassen“, und/oder „umfassend“ bei Verwendung in dieser Beschreibung das Vorhandensein angegebener Merkmale, Ganzzahlen, Schritte, Vorgänge, Elemente und/oder Komponenten davon angibt, aber nicht das Vorhandensein oder die Hinzufügung eines/einer oder mehrerer anderer Merkmale, Ganzzahlen, Schritte, Vorgänge, Elemente, Komponenten und/oder Gruppen davon ausschließt.
Wie hier verwendet, ist der Begriff „falls“ gegebenenfalls so auszulegen, dass er je nach Zusammenhang „wenn“ oder „bei“ oder „als Reaktion auf das Ermitteln“ oder „als Reaktion auf das Erkennen“ bedeutet. In ähnlicher Weise ist die Formulierung „falls ermittelt wird“ oder „falls [ein angegebener Zustand oder ein Ereignis] erkannt wird“ je nach Zusammenhang gegebenenfalls so auszulegen, dass sie „bei Ermitteln“ oder „als Reaktion auf das Ermitteln“ oder „bei Erkennen [des angegebenen Zustands oder Ereignisses]“ oder „als Reaktion auf das Erkennen [des angegebenen Zustands oder Ereignisses]“ bedeutet.
Wie hier verwendet, bezieht sich ein AF-System auf das AF zusammen mit der Anordnung von Hardware, Software, gespeicherten Daten und in Echtzeit erzeugten Daten, die den Betrieb des AF unterstützen. In einer Ausführungsform ist das AF-System in das AF integriert. In einer Ausführungsform ist das AF-System über mehrere Orte verteilt. Zum Beispiel ist ein Teil der Software des AF-Systems in einer Cloud-Rechenumgebung implementiert, ähnlich der Cloud-Rechenumgebung 200, die im Folgenden mit Bezug auf 2 beschrieben wird.
Allgemein beschreibt dieses Dokument Technologien, die auf alle Fahrzeuge anwendbar sind, die über eine oder mehrere autonome Fähigkeiten verfügen, einschließlich vollständig autonomer Fahrzeuge, hochgradig autonomer Fahrzeuge und bedingt autonomer Fahrzeuge, wie z. B. sogenannte Stufe-5-, Stufe-4- und Stufe-3-Fahrzeuge (siehe SAE International's Standard J3016: Taxonomy and Definitions for Terms Related to On-Road Motor Vehicle Automated Driving Systems (Taxonomie und Definitionen für Begriffe im Zusammenhang mit automatischen Straßen-Kraftfahrzeug-Fahrsystemen), die durch Verweis in ihrer Gesamtheit übernommen wurde, für weitere Einzelheiten über die Klassifizierung von Autonomiegraden in Fahrzeugen). Die in diesem Dokument beschriebenen Technologien sind auch auf teilautonome Fahrzeuge und fahrerunterstützte Fahrzeuge anwendbar, wie z. B. sogenannte Stufe-2- und Stufe-1-Fahrzeuge (siehe SAE International's Standard J3016: Taxonomy and Definitions for Terms Related to On-Road Motor Vehicle Automated Driving Systems (Taxonomie und Definitionen für Begriffe im Zusammenhang mit automatisierten Straßen-Kraftfahrzeug-Fahrsystemen)). In einer Ausführungsform können eines oder mehrere der Fahrzeugsysteme der Stufen 1, 2, 3, 4 und 5 unter bestimmten Betriebsbedingungen basierend auf dem Verarbeiten von Sensoreingaben bestimmte Fahrzeugfunktionen (z B. Lenken, Bremsen und Verwenden von Karten) automatisieren. Die in diesem Dokument beschriebenen Technologien können Fahrzeugen auf allen Stufen zugute kommen, von vollständig autonomen Fahrzeugen bis hin zu durch Menschen betriebenen Fahrzeugen.
Autonome Fahrzeuge haben Vorteile gegenüber Fahrzeugen, die einen menschlichen Fahrer erfordern. Ein Vorteil ist die Sicherheit. Zum Beispiel gab es in den Vereinigten Staaten im Jahr 2016 6 Millionen Autounfälle, 2,4 Millionen Verletzte, 40.000 Tote und 13 Millionen Unfallfahrzeuge, deren gesellschaftliche Kosten auf über 910 Milliarden Dollar geschätzt werden. Die Zahl der Verkehrstoten pro 100 Millionen gefahrener Meilen ist in den USA von 1965 bis 2015 von ca. sechs auf ca. eins zurückgegangen, was zum Teil auf zusätzliche Sicherheitsmaßnahmen in den Fahrzeugen zurückzuführen ist. Beispielsweise wird davon ausgegangen, dass eine zusätzliche halbe Sekunde, in der vor einem Zusammenstoß gewarnt wird, 60 % der Auffahrunfälle abmildert. Allerdings haben passive Sicherheitsmerkmale (z. B. Sicherheitsgurte, Airbags) bei der Verbesserung dieser Zahl wahrscheinlich ihre Grenze erreicht. Daher sind aktive Sicherheitsmaßnahmen, wie die automatisierte Steuerung eines Fahrzeugs, der wahrscheinlich nächste Schritt zur Verbesserung dieser Statistiken. Da davon ausgegangen wird, dass bei 95 % der Unfälle menschliche Fahrer für ein kritisches Ereignis vor dem Unfall verantwortlich sind, werden automatisierte Fahrsysteme wahrscheinlich bessere Sicherheitsergebnisse erzielen, z. B. indem sie kritische Situationen besser als Menschen zuverlässig erkennen und vermeiden, bessere Entscheidungen treffen, Verkehrsgesetze befolgen und zukünftige Ereignisse besser vorhersagen als Menschen und ein Fahrzeug besser als Menschen zuverlässig steuern.
Mit Bezug auf 1 betreibt ein AF-System 120 das AF-System 100 entlang einer Bewegungsbahn 198 durch eine Umgebung 190 bis zu einem Zielort 199 (mitunter auch als Endort bezeichnet), wobei Objekte (z. B. natürliche Hindernisse 191, Fahrzeuge 193, Fußgänger 192, Radfahrer und andere Hindernisse) vermieden und Straßenregeln (z. B. Betriebsregeln oder Fahrpräferenzen) befolgt werden.
In einer Ausführungsform beinhaltet das AF-System 120 Vorrichtungen 101, die dazu eingerichtet sind, Betriebsbefehle aus den Computerprozessoren 146 zu empfangen und darauf zu reagieren. Wir verwenden den Begriff „Betriebsbefehl“, um eine ausführbare Anweisung (oder eine Menge von Anweisungen) zu bezeichnen, die ein Fahrzeug veranlasst, eine Maßnahme (z. B. ein Fahrmanöver) durchzuführen. Betriebsbefehle können, ohne Einschränkung, Anweisungen für ein Fahrzeug enthalten, vorwärts zu fahren, die Vorwärtsfahrt zu unterbrechen, rückwärts zu fahren, die Rückwärtsfahrt zu unterbrechen, zu beschleunigen, abzubremsen, eine Linkskurve zu fahren und eine Rechtskurve zu fahren. In einer Ausführungsform, Computerprozessoren 146 ähneln dem nachfolgend mit Bezug auf 3 beschriebenen Prozessor 304. Beispiele für Vorrichtungen 101 beinhalten eine Lenksteuerung 102, Bremsen 103, Gangschaltung, Gaspedal oder andere Beschleunigungssteuerungsmechanismen, Scheibenwischer, Seitentürschlösser, Fenstersteuervorrichtungen und Blinker.
In einer Ausführungsform umfasst das AF-System 120 Sensoren 121 zur Messung oder Ableitung von Zuständen oder Bedingungen des AF 100, wie z. B. die Position, die Linear- und Winkelgeschwindigkeit und -beschleunigung und die Fahrtrichtung des AF (z. B. eine Ausrichtung des vorderen Endes des AF 100). Beispiele für Sensoren 121 sind GPS, Trägheitsmesseinheiten (IMU), die sowohl lineare Fahrzeugbeschleunigungen als auch Winkelbeschleunigungen messen, Raddrehzahlsensoren zum Messen oder Schätzen von Radschlupfverhältnissen, Radbremsdruck- oder Bremsmomentsensoren, Motordrehmoment- oder Raddrehmomentsensoren sowie Lenkwinkel- und Winkelgeschwindigkeitssensoren.
In einer Ausführungsform enthalten die Sensoren 121 auch Sensoren zum Erfassen oder Messen von Eigenschaften der Umgebung des AF. Zum Beispiel Monokular- oder Stereo-Videokameras 122 im sichtbaren Licht-, Infrarot- oder Wärmespektrum (oder beiden Spektren), LiDAR 123, RADAR, Ultraschallsensoren, Time-of-Flight(TOF)-Tiefensensoren, Geschwindigkeitssensoren, Temperatursensoren, Feuchtigkeitssensoren und Niederschlagssensoren.
In einer Ausführungsform umfasst das AF-System 120 eine Datenspeichereinheit 142 und einen Speicher 144 zum Speichern von Maschinenanweisungen im Zusammenhang mit Computerprozessoren 146 oder durch Sensoren 121 gesammelten Daten. In einer Ausführungsform ähnelt die Datenspeichereinheit 142 dem ROM 308 oder der Speichervorrichtung 310, die nachfolgend mit Bezug auf 3 beschrieben werden. In einer Ausführungsform ähnelt der Speicher 144 dem nachfolgend beschriebenen Hauptspeicher 306. In einer Ausführungsform speichern die Datenspeichereinheit 142 und der Speicher 144 historische, Echtzeit- und/oder vorausschauende Informationen über die Umgebung 190. In einer Ausführungsform umfassen die gespeicherten Informationen Karten, Fahrleistungen, Aktualisierungen zu Verkehrsstaus oder Wetterbedingungen. In einer Ausführungsform werden Daten, die sich auf die Umgebung 190 beziehen, über einen Kommunikationskanal aus einer entfernt gelegenen Datenbank 134 an das AF 100 übertragen.
In einer Ausführungsform umfasst das AF-System 120 Kommunikationsvorrichtungen 140 zum Übermitteln gemessener oder abgeleiteter Eigenschaften von Zuständen und Bedingungen anderer Fahrzeuge wie z. B. Positionen, Linear- und Winkelgeschwindigkeiten, Linear- und Winkelbeschleunigungen sowie Linear- und Winkelfahrtrichtungen an das AF 100. Diese Vorrichtungen umfassen Fahrzeug-zu-Fahrzeug(V2V)- und Fahrzeug-zu-Infrastruktur(V2I)-Kommunikationsvorrichtungen und Vorrichtungen für drahtlose Kommunikation über Punkt-zu-Punkt- oder Ad-hoc-Netzwerke oder beides. In einer Ausführungsform kommunizieren die Kommunikationsvorrichtungen 140 über das elektromagnetische Spektrum (einschließlich Funk- und optische Kommunikation) oder andere Medien (z. B. Luft- und akustische Medien). Eine Kombination von Fahrzeug-zu-Fahrzeug(V2V)-Kommunikation, Fahrzeug-zu-Infrastruktur(V2I)-Kommunikation (und in einigen Ausführungsformen eine oder mehrere andere Kommunikationsarten) wird mitunter als Fahrzeug-zu-alles (V2X)-Kommunikation bezeichnet. Die V2X-Kommunikation entspricht in der Regel einem oder mehreren Kommunikationsstandards für die Kommunikation mit, zwischen und unter autonomen Fahrzeugen.
In einer Ausführungsform enthalten die Kommunikationsvorrichtungen 140 Kommunikationsschnittstellen. Zum Beispiel drahtgebundene, drahtlose, WiMAX-, Wi-Fi-, Bluetooth-, Satelliten-, Zellular-, optische, Nahfeld-, Infrarot- oder Funkschnittstellen. Die Kommunikationsschnittstellen übertragen Daten aus einer entfernt gelegenen Datenbank 134 an das AF-System 120. In einer Ausführungsform ist die entfernt gelegene Datenbank 134 wie in 2 beschrieben in eine Cloud-Rechenumgebung 200 eingebettet. Die Kommunikationsschnittstellen 140 übertragen die aus den Sensoren 121 gesammelten Daten oder andere Daten, die sich auf den Betrieb des AF 100 beziehen, an die entfernt gelegene Datenbank 134. In einer Ausführungsform übertragen die Kommunikationsschnittstellen 140 Informationen, die sich auf Teleoperationen beziehen, an das AF 100. In einigen Ausführungsformen kommuniziert das AF 100 mit anderen entfernt gelegenen (z. B. „Cloud“-) Servern 136.
In einer Ausführungsform speichert und überträgt die entfernt gelegene Datenbank 134 auch digitale Daten (z. B. Speichern von Daten wie Straßen- und Wegestandorte). Diese Daten werden im Speicher 144 des AF 100 gespeichert oder über einen Kommunikationskanal aus der entfernt gelegenen Datenbank 134 an das AF 100 übertragen.
In einer Ausführungsform speichert und überträgt die entfernt gelegene Datenbank 134 historische Informationen über Fahreigenschaften (z. B. Geschwindigkeits- und Beschleunigungsprofile) von Fahrzeugen, die zuvor zu ähnlichen Tageszeiten entlang der Bewegungsbahn 198 gefahren sind. In einer Ausführungsform können diese Daten im Speicher 144 des AF 100 gespeichert oder über einen Kommunikationskanal aus der entfernt gelegenen Datenbank 134 an das AF 100 übertragen werden.
Die im AF 100 befindlichen Rechenvorrichtungen 146 erzeugen auf algorithmische Weise Steueraktionen, die sowohl auf Echtzeit-Sensordaten als auch auf vorherigen Informationen basieren, sodass das AF-System 120 seine autonomen Fahrfähigkeiten ausführen kann.
In einer Ausführungsform umfasst das AF-System 120 Computerperipherievorrichtungen 132, die mit Rechenvorrichtungen 146 gekoppelt sind, um Informationen und Warnungen an einen Benutzer (z. B. einen Insassen oder einen entfernt befindlichen Benutzer) des AF 100 zu liefern und Eingaben von diesem zu empfangen. In einer Ausführungsform ähneln die Peripherievorrichtungen 132 der Anzeigevorrichtung 312, der Eingabevorrichtung 314 und der Cursorsteuervorrichtung 316, die nachfolgend mit Bezug auf 3 behandelt werden. Die Kopplung erfolgt drahtlos oder drahtgebunden. Zwei oder mehrere der Schnittstellenvorrichtungen können zu einer einzelnen Vorrichtung integriert sein.
In einer Ausführungsform empfängt und erzwingt das AF-System 120 die Datenschutzstufe eines Fahrgastes, die z. B. durch den Fahrgast spezifiziert oder in einem dem Fahrgast zugeordneten Profil gespeichert ist. Die Datenschutzstufe des Fahrgastes bestimmt, wie bestimmte Informationen, die dem Fahrgast zugeordnet sind (z. B. Fahrgastkomfortdaten, biometrische Daten usw.), verwendet, im Fahrgastprofil gespeichert und/oder auf dem Cloud-Server 136 gespeichert und dem Fahrgastprofil zugeordnet werden dürfen. In einer Ausführungsform gibt die Datenschutzstufe bestimmte einem Fahrgast zugeordnete Informationen an, die nach Beendigung der Fahrt gelöscht werden. In einer Ausführungsform spezifiziert die Datenschutzstufe bestimmte einem Fahrgast zugeordnete Informationen und identifiziert eine oder mehrere Einheiten, die zum Zugriff auf die Informationen berechtigt sind. Beispiele für bestimmte Einheiten, die zum Zugriff auf Informationen berechtigt sind, können andere AFs, AF-Systeme Dritter oder jede Einheit, die potenziell auf die Informationen zugreifen könnte, beinhalten.
Eine Datenschutzstufe eines Fahrgastes kann auf einer oder mehreren Granularitätsstufen festgelegt sein. In einer Ausführungsform identifiziert eine Datenschutzstufe bestimmte Informationen, die zu speichern oder weiterzugeben sind. In einer Ausführungsform gilt die Datenschutzstufe für alle dem Fahrgast zugeordneten Informationen, sodass der Fahrgast festlegen kann, dass keine seiner persönlichen Informationen gespeichert oder weitergegeben werden. Die Festlegung der Einheiten, die auf bestimmte Informationen zugreifen dürfen, kann auch auf verschiedenen Granularitätsstufen erfolgen. Verschiedene Mengen von Einheiten, denen der Zugriff auf bestimmte Informationen erlaubt ist, können z. B. andere AFs, Cloud-Server 136, bestimmte AF-Systeme von Drittanbietern usw. umfassen.
In einer Ausführungsform bestimmt das AF-System 120 oder der Cloud-Server 136, ob bestimmte Informationen, die einem Fahrgast zugeordnet sind, durch das AF 100 oder eine andere Einheit abgerufen werden können. So muss z. B. ein AF-System eines Drittanbieters, das versucht, auf die Eingabe von Fahrgästen in Bezug auf einen bestimmten raumzeitlichen Standort zuzugreifen, z. B. aus dem AF-System 120 oder dem Cloud-Server 136 die Genehmigung erhalten, auf die dem Fahrgast zugeordneten Informationen zuzugreifen. Beispielsweise verwendet das AF-System 120 die festgelegte Datenschutzstufe des Fahrgastes, um zu bestimmen, ob die auf den raumzeitlichen Standort bezogenen Fahrgasteingaben dem AF-System eines Drittanbieters, dem AF 100 oder einem anderen AF übermittelt werden können. Dadurch ist die Datenschutzstufe des Fahrgastes in der Lage, festzulegen, welche anderen Einheiten Daten über die Maßnahmen des Fahrgastes oder andere dem Fahrgast zugeordnete Daten empfangen dürfen.
2 veranschaulicht ein Beispiel für eine „Cloud“-Rechenumgebung. Cloud Computing ist ein Modell zum Bereitstellen von Diensten, das einen komfortablen, bedarfsgerechten Netzwerkzugang zu einem gemeinsam genutzten Bestand konfigurierbarer Rechenressourcen (z. B. Netzwerke, Netzwerkbandbreite, Server, Verarbeitung, Speicher, Anwendungen, virtuelle Maschinen und Dienste) ermöglicht. In typischen Cloud-Rechensystemen sind in einem oder mehreren großen Cloud-Rechenzentren die Rechner untergebracht, die zum Erbringen der durch die Cloud bereitgestellten Dienste verwendet werden. Mit Bezug auf 2 umfasst die Cloud-Rechenumgebung 200 Cloud-Rechenzentren 204a, 204b und 204c, die über die Cloud 202 miteinander verbunden sind. Die Rechenzentren 204a, 204b und 204c bieten Cloud-Rechendienste für die mit der Cloud 202 verbundenen Computersysteme 206a, 206b, 206c, 206d, 206e und 206f.
Die Cloud-Rechenumgebung 200 enthält ein oder mehrere Cloud-Rechenzentren. Allgemein bezieht sich ein Cloud-Rechenzentrum, z. B. das in 2 dargestellte Cloud-Rechenzentrum 204a, auf die physische Anordnung von Servern, die eine Cloud, z. B. die in 2 dargestellte Cloud 202, oder einen bestimmten Abschnitt einer Cloud bilden. Beispielsweise sind die Server physisch im Cloud-Rechenzentrum in Räumen, Gruppen, Reihen und Racks angeordnet. Ein Cloud-Rechenzentrum hat eine oder mehrere Zonen, die einen oder mehrere Räume mit Servern umfassen. Jeder Raum hat eine oder mehrere Reihen von Servern, und jede Reihe enthält ein oder mehrere Racks. Jedes Rack enthält einen oder mehrere einzelne Serverknoten. In einigen Ausführungen sind Server in Zonen, Räumen, Racks und/oder Reihen basierend auf den physischen Infrastrukturanforderungen der Rechenzentrumseinrichtung, die Strom, Energie, Heizung, Wärme und/oder andere Anforderungen umfassen, in Gruppen angeordnet. In einer Ausführungsform ähneln die Serverknoten dem in 3 beschriebenen Computersystem. Das Rechenzentrum 204a weist viele Rechensysteme auf, die über viele Racks verteilt sind.
Die Cloud 202 umfasst die Cloud-Rechenzentren 204a, 204b und 204c sowie die Netzwerk- und Netzwerkressourcen (z. B. Netzwerkgeräte, Knoten, Router, Switches und Netzwerkkabel), die die Cloud-Rechenzentren 204a, 204b und 204c miteinander verbinden und dazu beitragen, den Zugang der Computersysteme 206a-f zu den Cloud-Rechendiensten zu ermöglichen. In einer Ausführungsform stellt das Netzwerk eine Kombination aus einem oder mehreren lokalen Netzwerken, Weitverkehrsnetzwerken oder Internetnetzwerken dar, die über drahtgebundene oder drahtlose Verbindungen mittels terrestrischer oder satellitengestützter Verbindungstechnik gekoppelt sind. Daten, die über das Netzwerk ausgetauscht werden, werden unter Verwendung einer Anzahl von Netzwerkschichtprotokollen übertragen, wie z. B. Internet Protocol (IP), Multiprotocol Label Switching (MPLS), Asynchronous Transfer Mode (ATM), Frame Relay, usw. Fernerhin werden in Ausführungsformen, in denen das Netzwerk eine Kombination aus mehreren Teilnetzwerken darstellt, in jedem der zugrunde liegenden Teilnetzwerke unterschiedliche Netzwerkschichtprotokolle verwendet. In einigen Ausführungsformen stellt das Netzwerk ein oder mehrere miteinander verbundene Internetnetzwerke dar, wie z. B. das öffentliche Internet.
Die Verbraucher der Rechensysteme 206a-f oder Cloud-Rechendienste sind über Netzwerkverbindungen und Netzwerkadapter mit der Cloud 202 verbunden. In einer Ausführungsform sind die Rechensysteme 206a-f als verschiedene Rechenvorrichtungen, z. B. Server, Desktops, Laptops, Tablets, Smartphones, Geräte für das Internet der Dinge (IoT), autonome Fahrzeuge (darunter Autos, Drohnen, Pendelfahrzeuge, Züge, Busse usw.) und Verbraucherelektronik, implementiert. In einer Ausführungsform sind die Rechensysteme 206a-f in oder als Bestandteil von anderen Systemen implementiert.
3 veranschaulicht ein Computersystem 300. In einer Implementierung ist das Computersystem 300 eine Spezialrechenvorrichtung. Die Spezialrechenvorrichtung ist fest verdrahtet, um die Techniken auszuführen, oder umfasst digitale elektronische Vorrichtungen wie eine oder mehrere anwendungsspezifische integrierte Schaltungen (ASICs) oder feldprogrammierbare Gate-Arrays (FPGAs), die dauerhaft programmiert sind, um die Techniken auszuführen, oder kann einen oder mehrere Universal-Hardware-Prozessoren umfassen, die dazu programmiert sind, die Techniken gemäß Programmanweisungen in Firmware, Arbeitsspeicher, anderen Speichern oder einer Kombination davon auszuführen. Derartige Spezialcomputervorrichtungen können auch kundenspezifische fest verdrahtete Logik, ASICs oder FPGAs mit kundenspezifischer Programmierung kombinieren, um die Techniken zu erzielen. In verschiedenen Ausführungsformen sind die Spezialrechenvorrichtungen Desktop-Computersysteme, tragbare Computersysteme, Handgeräte, Netzwerkgeräte oder sonstige Vorrichtungen, die zur Implementierung der Techniken festverdrahtete und/oder programmgesteuerte Logik enthalten.
In einer Ausführungsform umfasst das Computersystem 300 einen Bus 302 oder einen anderen Kommunikationsmechanismus zum Übermitteln von Informationen und einen mit einem Bus 302 gekoppelten Hardwareprozessor 304 zum Verarbeiten von Informationen. Der Hardwareprozessor 304 ist zum Beispiel ein Allzweck-Mikroprozessor. Das Computersystem 300 beinhaltet auch einen Hauptspeicher 306, wie beispielsweise einen Direktzugriffsspeicher (RAM) oder eine andere dynamische Speichervorrichtung, die mit dem Bus 302 zum Speichern von Informationen und Anweisungen gekoppelt ist, die durch den Prozessor 304 ausgeführt werden sollen. In einer Ausführungsform wird der Hauptspeicher 306 zum Speichern von temporären Variablen oder anderen Zwischeninformationen während der Ausführung von Anweisungen durch den Prozessor 304 verwendet. Derartige in nichtflüchtigen, für den Prozessor 304 zugänglichen Speichermedien gespeicherte Anweisungen machen aus dem Computersystem 300 eine Spezialmaschine, die auf das Ausführen der in den Anweisungen angegebenen Funktionen zugeschnitten ist.
In einer Ausführungsform beinhaltet das Computersystem 300 ferner einen Nur-LeseSpeicher (ROM) 308 oder eine andere statische Speichervorrichtung, die mit dem Bus 302 gekoppelt ist, um statische Informationen und Anweisungen für den Prozessor 304 zu speichern. Eine Speichervorrichtung 310, wie beispielsweise eine Magnetplatte, eine optische Platte, ein Solid-State-Laufwerk oder ein dreidimensionaler Kreuzpunktespeicher, ist vorhanden und mit dem Bus 302 zum Speichern von Informationen und Anweisungen gekoppelt.
In einer Ausführungsform ist das Computersystem 300 über den Bus 302 an ein Display 312, wie z. B. eine Kathodenstrahlröhre (CRT), ein Flüssigkristalldisplay (LCD), ein Plasmadisplay, ein Leuchtdioden(LED)-Display oder ein organisches Leuchtdioden(OLED)-Display, zum Anzeigen von Informationen für einen Computerbenutzer gekoppelt. Eine Eingabevorrichtung 314 mit alphanumerischen und anderen Tasten ist mit dem Bus 302 zum Übermitteln von Informationen und Befehlsauswahlen an den Prozessor 304 gekoppelt. Eine andere Art von Benutzereingabevorrichtung ist eine Cursorsteuervorrichtung 316, z. B. eine Maus, ein Trackball, ein berührungsempfindliches Display oder Cursorrichtungstasten zum Übermitteln von Richtungsinformationen und Befehlsauswahlen an den Prozessor 304 und zum Steuern der Cursorbewegung auf dem Display 312. Diese Eingabevorrichtung verfügt in der Regel über zwei Freiheitsgrade in zwei Achsen, eine erste Achse (z. B. x-Achse) und eine zweite Achse (z. B. y-Achse), mit denen die Vorrichtung Positionen in einer Ebene angeben kann.
Gemäß einer Ausführungsform werden die hier beschriebenen Techniken durch das Computersystem 300 als Reaktion darauf durchgeführt, dass der Prozessor 304 eine oder die mehreren Sequenzen von einer oder mehreren Anweisungen ausführt, die im Hauptspeicher 306 enthalten sind. Derartige Anweisungen werden aus einem anderen Speichermedium, z. B. der Speichervorrichtung 310, in den Hauptspeicher 306 eingelesen. Die Ausführung der im Hauptspeicher 306 enthaltenen Anweisungssequenzen veranlasst den Prozessor 304, die hier beschriebenen Prozessschritte durchzuführen. In alternativen Ausführungsformen wird eine fest verdrahtete Schaltungsanordnung anstelle von oder in Kombination mit Softwareanweisungen verwendet.
Der Begriff „Speichermedium“, wie hier verwendet, betrifft alle nichtflüchtigen Medien, die Daten und/oder Anweisungen speichern, die eine Maschine veranlassen, auf eine spezifische Art und Weise zu arbeiten. Derartige Speichermedien umfassen nichtflüchtige Medien und/oder flüchtige Medien. Nichtflüchtige Medien umfassen z. B. optische Platten, Magnetplatten, Solid-State-Laufwerke oder dreidimensionale Kreuzpunktespeicher, wie z. B. die Speichervorrichtung 310. Flüchtige Medien umfassen dynamische Speicher, wie beispielsweise den Hauptspeicher 306. Übliche Formen von Speichermedien umfassen zum Beispiel eine Floppy-Disk, eine Diskette, eine Festplatte, ein Solid-State-Laufwerk, ein Magnetband oder jedes andere magnetische Datenspeichermedium, einen CD-ROM, ein beliebiges anderes optisches Datenspeichermedium, ein beliebiges physisches Medium mit Lochmustern, einen RAM, einen PROM und EPROM, einen FLASH-EPROM, NV-RAM, oder einen beliebigen anderen Speicherchip oder eine Speicherkassette.
Speichermedien unterscheiden sich von Übertragungsmedien, können aber zusammen mit diesen verwendet werden. Übertragungsmedien sind am Übertragen von Informationen zwischen Speichermedien beteiligt. Zum Beispiel umfassen Übertragungsmedien Koaxialkabel, Kupferdraht und Lichtwellenleiter, einschließlich der Leitungen, die den Bus 302 umfassen. Übertragungsmedien können auch die Form von akustischen Wellen oder Lichtwellen annehmen, wie etwa jene, die bei Funkwellen- und Infrarotdatenkommunikation erzeugt werden.
In einer Ausführungsform sind verschiedene Formen von Medien am Transportieren von einer oder mehreren Sequenzen von einer oder mehreren Anweisungen an den Prozessor 304 zur Ausführung beteiligt. Zum Beispiel werden die Anweisungen zuerst auf einer Magnetplatte oder einem Solid-State-Laufwerk eines entfernt gelegenen Computers getragen. Der entfernt gelegene Computer lädt die Anweisungen in seinen dynamischen Speicher und sendet die Anweisungen unter Verwendung eines Modems über eine Telefonleitung. Ein am Computersystem 300 lokal vorhandenes Modem empfängt die Daten über die Telefonleitung und verwendet einen Infrarotsender, um die Daten in ein Infrarotsignal umzuwandeln. Ein Infrarotdetektor empfängt die in dem Infrarotsignal transportierten Daten, und eine entsprechende Schaltungsanordnung stellt die Daten auf den Bus 302. Der Bus 302 transportiert die Daten an den Hauptspeicher 306, aus dem der Prozessor 304 die Anweisungen abruft und ausführt. Die durch den Hauptspeicher 306 empfangenen Anweisungen können gegebenenfalls entweder vor oder nach dem Ausführen durch den Prozessor 304 auf der Speichervorrichtung 310 gespeichert werden.
Das Computersystem 300 enthält auch eine Kommunikationsschnittstelle 318, die mit dem Bus 302 gekoppelt ist. Die Kommunikationsschnittstelle 318 stellt eine bidirektionale Datenkommunikationskopplung mit einer Netzwerkverbindung 320 bereit, die mit einem lokalen Netzwerk 322 verbunden ist. Die Kommunikationsschnittstelle 318 ist zum Beispiel eine Integrated Services Digital Network(ISDN)-Karte, ein Kabelmodem, Satellitenmoden oder ein Modem zum Bereitstellen einer Datenkommunikationsverbindung mit einem entsprechenden Typ einer Telefonleitung. Als weiteres Beispiel ist die Kommunikationsschnittstelle 318 eine Karte eines lokalen Netzwerks (LAN), um eine Datenkommunikationsverbindung zu einem kompatiblen LAN bereitzustellen. Bei einigen Implementierungen sind auch drahtlose Verbindungen implementiert. Bei jeder derartigen Implementierung sendet und empfängt die Kommunikationsschnittstelle 318 elektrische, elektromagnetische oder optische Signale, die digitale Datenströme transportieren, die verschiedene Arten von Informationen darstellen.
Die Netzwerkverbindung 320 stellt typischerweise eine Datenkommunikation über ein oder mehrere Netzwerke zu anderen Datenvorrichtungen bereit. Zum Beispiel stellt die Netzwerkverbindung 320 eine Verbindung durch das lokale Netzwerk 322 zu einem Hostcomputer 324 oder zu einem Cloud-Rechenzentrum oder Geräten bereit, die durch einen Internetdienstanbieter (ISP) 326 betrieben werden. Der ISP 326 stellt wiederum Datenkommunikationsdienste über das weltweite paketorientierte Datenkommunikationsnetzwerk bereit, das jetzt allgemein als das „Internet“ 328 bezeichnet wird. Sowohl das lokale Netzwerk 322 als auch das Internet 328 verwenden elektrische, elektromagnetische oder optische Signale, die digitale Datenströme transportieren. Die Signale über die verschiedenen Netzwerke und die Signale auf der Netzwerkverbindung 320 und über die Kommunikationsschnittstelle 318, die die digitalen Daten an das und aus dem Computersystem 300 transportieren, sind Beispielformen von Übertragungsmedien. In einer Ausführungsform enthält das Netzwerk 320 die Cloud 202 oder einen Teil der oben beschriebenen Cloud 202.
Das Computersystem 300 sendet Nachrichten und empfängt Daten einschließlich Programmcode über das/die Netzwerk(e), die Netzwerkverbindung 320 und die Kommunikationsschnittstelle 318. In einer Ausführungsform empfängt das Computersystem 300 einen Code zum Verarbeiten. Der empfangene Code wird sofort beim Empfang durch den Prozessor 304 ausgeführt und/oder auf der Speichervorrichtung 310 oder einem anderen nichtflüchtigen Speicher zum späteren Ausführen gespeichert.
Architektur autonomer Fahrzeuge
4 zeigt eine Beispielarchitektur 400 für ein autonomes Fahrzeug (z. B. das in 1 gezeigte AF 100). Die Architektur 400 enthält ein Wahrnehmungsmodul 402 (mitunter als Wahrnehmungsschaltung bezeichnet), ein Planungsmodul 404 (mitunter als Planungsschaltung bezeichnet), ein Steuermodul 406 (mitunter als Steuerschaltung bezeichnet), ein Lokalisierungsmodul 408 (mitunter als Lokalisierungsschaltung bezeichnet) und ein Datenbankmodul 410 (mitunter als Datenbankschaltung bezeichnet). Jedes Modul spielt eine Rolle beim Betrieb des AF 100. Die Module 402, 404, 406, 408 und 410 können zusammen Bestandteil des in 1 gezeigten AF-Systems 120 sein. In einigen Ausführungsformen sind die Module 402, 404, 406, 408 und 410 eine Kombination aus Computersoftware (z. B. ausführbarem Code, der auf einem computerlesbaren Medium gespeichert ist) und Computerhardware (z. B. ein oder mehrere Mikroprozessoren, Mikrocontroller, anwendungsspezifische integrierte Schaltungen [ASICs], Hardware-Speichervorrichtungen, andere Arten von integrierten Schaltungen, andere Arten von Computerhardware oder eine Kombination von einem oder allen dieser Dinge). Jedes der Module 402, 404, 406, 408 und 410 wird mitunter als Verarbeitungsschaltung bezeichnet (z. B. Computer-Hardware, ComputerSoftware oder eine Kombination aus beiden). Eine Kombination aus einem oder allen Modulen 402, 404, 406, 408 und 410 ist ebenfalls ein Beispiel für eine Verarbeitungsschaltung.
Beim Betrieb empfängt das Planungsmodul 404 Daten, die einen Zielort 412 darstellen, und ermittelt Daten, die eine Bewegungsbahn 414 (mitunter auch als Route bezeichnet) darstellen, die durch das AF 100 gefahren werden kann, um den Zielort 412 zu erreichen (z. B. am Zielort anzukommen). Damit das Planungsmodul 404 die die Bewegungsbahn 414 repräsentierenden Daten ermitteln kann, empfängt das Planungsmodul 404 Daten aus dem Wahrnehmungsmodul 402, dem Lokalisierungsmodul 408 und dem Datenbankmodul 410.
Das Wahrnehmungsmodul 402 identifiziert nahegelegene physische Objekte mittels eines oder mehrerer Sensoren 121, z. B. wie ebenfalls in 1 gezeigt. Die Objekte werden klassifiziert (z. B. gruppiert in Arten wie Fußgänger, Fahrrad, Kraftfahrzeug, Verkehrszeichen usw.), und eine Szeneriebeschreibung einschließlich der klassifizierten Objekte 416 wird dem Planungsmodul 404 zur Verfügung gestellt.
Das Planungsmodul 404 empfängt auch Daten, die die AF-Position 418 repräsentieren, aus dem Lokalisierungsmodul 408. Das Lokalisierungsmodul 408 ermittelt die AF-Position unter Verwendung von Daten aus den Sensoren 121 und Daten aus dem Datenbankmodul 410 (z. B. geografische Daten), um eine Position zu berechnen. Zum Beispiel verwendet das Lokalisierungsmodul 408 Daten aus einem GNSS(Globales Navigationssatellitensystem)-Sensor und geografische Daten, um einen Längen- und Breitengrad des AF zu berechnen. In einer Ausführungsform beinhalten die durch das Lokalisierungsmodul 408 verwendeten Daten hochpräzise Karten der geometrischen Eigenschaften der Fahrbahn, Karten, die die Verbindungseigenschaften des Straßennetzes beschreiben, Karten, die die physischen Eigenschaften der Straßen beschreiben (wie z. B. die Verkehrsgeschwindigkeit, das Verkehrsaufkommen, die Anzahl der Fahrstreifen für den Auto- und Fahrradverkehr, die Fahrstreifenbreite, die Fahrstreifenrichtungen oder die Arten und Orte von Fahrstreifenmarkierungen oder Kombinationen davon), und Karten, die die räumliche Lage von Straßenmerkmalen wie Fußgängerüberwegen, Verkehrsschildern oder anderen Verkehrssignalen verschiedener Arten beschreiben. In einer Ausführungsform werden die hochpräzisen Karten durch Hinzufügen von Daten mittels automatischer oder manueller Beschriftung zu Karten mit geringer Präzision erstellt.
Das Steuermodul 406 empfängt die Daten der Bewegungsbahn 414 und die Daten das AF-Position 418 und führt die Steuerfunktionen 420a-c (z. B. Lenken, Drosselklappenbetätigung, Bremsen, Zündung) des AF so aus, dass das AF 100 auf der Bewegungsbahn 414 bis zum Zielort 412 fährt. Falls zum Beispiel die Bewegungsbahn 414 eine Linkskurve enthält, führt das Steuermodul 406 die Steuerfunktionen 420a-c so aus, dass der Lenkwinkel der Lenkfunktion das AF 100 zum Linksabbiegen veranlasst und das Betätigen der Drosselklappe und Bremsen das AF 100 zum Anhalten und Warten auf passierende Fußgänger oder entgegenkommende Fahrzeuge veranlasst, bevor das Abbiegen durchgeführt wird.
Eingaben autonomer Fahrzeuge
5 zeigt ein Beispiel für die Eingaben 502a-d (z. B. Sensoren 121 in 1) und Ausgaben 504a-d (z. B. Sensordaten), die durch das Wahrnehmungsmodul 402 (4) verwendet werden. Eine Eingabe 502a ist ein LiDAR(„Light Detection and Ranging“)-System (z. B. LiDAR 123 wie in 1 gezeigt). LiDAR ist eine Technologie, die Licht (z. B. Lichtblitze wie Infrarotlicht) verwendet, um Daten über physische Objekte in Sichtlinie zu erhalten. Ein LiDAR-System erzeugt LiDAR-Daten als Ausgabe 504a. LiDAR-Daten sind beispielsweise Sammlungen von 3D- oder 2D-Punkten (auch als Punktwolken bekannt), die zur Konstruktion einer Darstellung der Umgebung 190 verwendet werden.
Eine weitere Eingabe 502b ist ein RADAR-System. RADAR ist eine Technologie, die Funkwellen verwendet, um Daten über nahe gelegene physische Objekte zu erhalten. RADAR-Einrichtungen können Daten über Objekte erhalten, die sich nicht in Sichtlinie eines LiDAR-Systems befinden. Ein RADAR-System 502b erzeugt RADAR-Daten als Ausgabe 504b. Zum Beispiel sind RADAR-Daten ein oder mehrere elektromagnetische Hochfrequenzsignale, die zur Konstruktion einer Darstellung der Umgebung 190 verwendet werden.
Eine weitere Eingabe 502c ist ein Kamerasystem. Ein Kamerasystem verwendet eine oder die mehreren Kameras (z. B. Digitalkameras, die einen Lichtsensor, wie ein ladungsgekoppeltes Bauelement [CCD], verwenden), um Informationen über nahe gelegene physische Objekte zu erhalten. Ein Kamerasystem erzeugt Kameradaten als Ausgabe 504c. Kameradaten liegen häufig in Form von Bilddaten vor (z. B. Daten in einem Bilddatenformat wie RAW, JPEG, PNG usw.). In einigen Beispielen verfügt das Kamerasystem über mehrere unabhängige Kameras, z. B. zwecks Stereopsis (Stereosehen), wodurch das Kamerasystem in der Lage ist, die Tiefe wahrzunehmen. Obwohl die durch das Kamerasystem wahrgenommenen Objekte hier als „nah“ beschrieben werden, gilt dies relativ zum AF. Beim Betrieb kann das Kamerasystem dazu ausgelegt sein, weit entfernt gelegene Objekte zu „sehen“, z. B. bis zu einem Kilometer oder mehr vor dem AF. Dementsprechend kann das Kamerasystem über Merkmale wie Sensoren und Objektive verfügen, die für die Wahrnehmung weit entfernter Objekte optimiert sind.
Eine weitere Eingabe 502d ist ein Ampelerkennungs(AE)-System. Ein AE-System verwendet eine oder mehrere Kameras, um Informationen über Ampeln, Straßenschilder und andere physische Objekte zu erhalten, die visuelle Navigationsinformationen liefern. Ein AE-System erzeugt AE-Daten als Ausgabe 504d. AE-Daten liegen häufig in Form von Bilddaten vor (z. B. Daten in einem Bilddatenformat wie RAW, JPEG, PNG usw.). Ein AE-System unterscheidet sich von einem System mit einer Kamera dadurch, dass bei einem AE-System eine Kamera mit weitem Sichtfeld (z. B. mit einem Weitwinkelobjektiv oder einem Fischaugenobjektiv) verwendet wird, um Informationen über möglichst viele physische Objekte zu erhalten, die visuelle Navigationsinformationen liefern, sodass das AF 100 Zugriff auf alle relevanten Navigationsinformationen hat, die durch diese Objekte bereitgestellt werden. Beispielsweise kann der Sichtwinkel des AE-Systems ca. 120 Grad oder mehr betragen.
In einigen Ausführungsformen werden die Ausgaben 504a-d mittels einer Sensorfusionstechnik kombiniert. So werden entweder die einzelnen Ausgaben 504a-d anderen Systemen des AF 100 (z. B. einem Planungsmodul 404 wie in 4 dargestellt) zur Verfügung gestellt, oder die kombinierte Ausgabe kann den anderen Systemen entweder in Form einer einzelnen kombinierten Ausgabe oder mehrerer kombinierter Ausgaben derselben Art (z. B. unter Verwendung derselben Kombinationstechnik oder Kombination derselben Ausgaben oder beides) oder unterschiedlicher Arten (z. B. unter Verwendung jeweils unterschiedlicher Kombinationstechniken oder Kombination jeweils unterschiedlicher Ausgaben oder beides) zur Verfügung gestellt werden. In einigen Ausführungsformen wird eine frühzeitige Fusionstechnik verwendet. Eine frühzeitige Fusionstechnik zeichnet sich dadurch aus, dass die Ausgaben kombiniert werden, bevor ein oder mehrere Datenverarbeitungsschritte auf die kombinierte Ausgabe angewendet werden. In einigen Ausführungsformen wird eine späte Fusionstechnik verwendet. Eine späte Fusionstechnik zeichnet sich dadurch aus, dass die Ausgaben kombiniert werden, nachdem ein oder mehrere Datenverarbeitungsschritte auf die einzelnen Ausgaben angewendet wurden.
6 zeigt ein Beispiel für ein LiDAR-System 602 (z. B. die in 5 gezeigte Eingabe 502a). Das LiDAR-System 602 emittiert Licht 604a-c aus einem Lichtemitter 606 (z. B. einem Laseremitter). Das durch ein LiDAR-System emittierte Licht liegt in der Regel nicht im sichtbaren Spektrum; beispielsweise wird häufig Infrarotlicht verwendet. Ein Teil des emittierten Lichts 604b trifft auf ein physisches Objekt 608 (z. B. ein Fahrzeug) und wird zurück zum LiDAR-System 602 reflektiert. (Das durch ein LiDAR-System emittierte Licht durchdringt normalerweise keine physischen Objekte, z. B. physische Objekte in fester Form.) Das LiDAR-System 602 verfügt auch über einen oder mehrere Lichtdetektoren 610, die das reflektierte Licht detektieren. In einer Ausführungsform erzeugen ein oder mehrere dem LiDAR-System zugeordnete Datenverarbeitungssysteme ein Bild 612, das das Sichtfeld 614 des LiDAR-Systems darstellt. Das Bild 612 enthält Informationen, die die Begrenzungen 616 eines physischen Objekts 608 repräsentieren. Auf diese Weise wird das Bild 612 verwendet, um die Begrenzungen 616 eines oder mehrerer physischer Objekte in der Nähe eines AF zu ermitteln.
7 zeigt das LiDAR-System 602 im Betrieb. In dem in dieser Figur dargestellten Szenario empfängt das AF 100 sowohl die Kamerasystemausgabe 504c in Form eines Bildes 702 als auch die LiDAR-Systemausgabe 504a in Form von LiDAR-Datenpunkten 704. Beim Betrieb vergleicht das Datenverarbeitungssystem des AF 100 das Bild 702 mit den Datenpunkten 704. Insbesondere wird ein im Bild 702 identifiziertes physisches Objekt 706 ebenfalls unter den Datenpunkten 704 identifiziert. Auf diese Weise nimmt das AF 100 die Begrenzungen des physischen Objekts anhand der Kontur und Dichte der Datenpunkte 704 wahr.
8 zeigt die Funktionsweise des LiDAR-Systems 602 mit zusätzlichen Details. Wie oben beschrieben, erkennt das AF 100 die Begrenzung eines physischen Objekts anhand der Eigenschaften der durch das LiDAR-System 602 erfassten Datenpunkte. Wie in 8 gezeigt, reflektiert ein ebenes Objekt, wie z. B. der Boden 802, das durch ein LiDAR-System 602 emittierte Licht 804a-d auf konsistente Weise. Anders ausgedrückt, da das LiDAR-System 602 Licht in gleichmäßigen Abständen emittiert, reflektiert der Boden 802 das Licht mit dem gleichen konsistenten Abstand zum LiDAR-System 602 zurück. Während sich das AF 100 über den Boden 802 bewegt, erkennt das LiDAR-System 602 weiterhin das durch den nächsten gültigen Bodenpunkt 806 reflektierte Licht, falls nichts die Straße versperrt. Falls jedoch ein Objekt 808 die Straße versperrt, wird das durch das LiDAR-System 602 emittierte Licht 804e-f von den Punkten 810a-b in einer Weise reflektiert, die nicht mit der erwarteten Gleichmäßigkeit übereinstimmt. Aus diesen Informationen kann das AF 100 ermitteln, dass das Objekt 808 vorhanden ist.
Wegplanung
9 zeigt in einem Blockdiagramm 900 die Zusammenhänge zwischen Ein- und Ausgaben eines Planungsmoduls 404 (z. B. wie in 4 gezeigt). Allgemein ist die Ausgabe eines Planungsmoduls 404 eine Route 902 aus einem Startpunkt 904 (z. B. Quellenort oder Anfangsort) und einem Endpunkt 906 (z. B. Ziel- oder Endort). Die Route 902 ist in der Regel durch ein oder mehrere Segmente definiert. Ein Segment ist zum Beispiel eine Entfernung, die mindestens über einen Abschnitt einer Straße, einer Landstraße, einer Autobahn, einer Einfahrt oder eines anderen für den Autoverkehr geeigneten physischen Bereichs zurückzulegen ist. In einigen Beispielen, z. B. falls das AF 100 ein geländegängiges Fahrzeug wie z. B. ein vierradgetriebener (4WD) oder allradgetriebener (AWD) PKW, SUV, Lieferwagen o. ä. ist, umfasst die Route 902 „geländegängige“ Segmente wie unbefestigte Wege oder offene Felder.
Zusätzlich zur Route 902 gibt ein Planungsmodul auch Routenplanungsdaten auf Fahrstreifenebene 908 aus. Die Routenplanungsdaten auf Fahrstreifenebene 908 werden verwendet, um Segmente der Route 902 basierend auf den Bedingungen des Segments zu einem bestimmten Zeitpunkt zu durchfahren. Falls die Route 902 beispielsweise eine Autobahn mit mehreren Fahrstreifen umfasst, enthalten die Routenplanungsdaten auf Fahrstreifenebene 908 die Bewegungsbahnplanungsdaten 910, die das AF 100 verwenden kann, um einen Fahrstreifen unter den mehreren Fahrstreifen auszuwählen, z. B. in Abhängigkeit davon, ob sich eine Ausfahrt nähert, ob eine oder mehrere der Fahrstreifen andere Fahrzeuge aufweisen oder aufgrund anderer Faktoren, die im Laufe weniger Minuten oder weniger variieren. In ähnlicher Weise enthalten bei einigen Implementierungen die Routenplanungsdaten auf Fahrstreifenebene 908 auch Geschwindigkeitsrandbedingungen 912, die spezifisch für ein Segment der Route 902 gelten. Falls das Segment zum Beispiel Fußgänger oder unerwarteten Verkehr enthält, können die Geschwindigkeitsrandbedingungen 912 das AF 100 auf eine Fahrgeschwindigkeit beschränken, die langsamer als eine erwartete Geschwindigkeit ist, z. B. eine Geschwindigkeit, die auf den Geschwindigkeitsbegrenzungsdaten für das Segment basiert.
In einer Ausführungsform umfassen die Eingaben an das Planungsmodul 404 auch die Datenbankdaten 914 (z. B. aus dem in 4 dargestellten Datenbankmodul 410), die aktuellen Standortdaten 916 (z. B. die in 4 dargestellte AF-Position 418), die Zielortdaten 918 (z. B. für den in 4 dargestellten Zielort 412) und die Objektdaten 920 (z. B. die klassifizierten Objekte 416, die durch das Wahrnehmungsmodul 402 wahrgenommen werden, wie in 4 gezeigt). In einigen Ausführungsformen enthalten die Daten der Datenbank 914 Regeln, die bei der Planung verwendet werden. Regeln werden durch eine formale Sprache spezifiziert, z. B. durch boolesche Logik. In jeder Situation, in der sich das AF 100 befindet, sind mindestens einige der Regeln auf die Situation anwendbar. Eine Regel gilt für eine gegebene Situation, falls die Regel Bedingungen enthält, die basierend auf den dem AF 100 zur Verfügung stehenden Informationen, z. B. Informationen über die Umgebung, erfüllt sind. Regeln können eine Priorität aufweisen. Beispielsweise kann eine Regel, die besagt: „Falls die Straße eine Autobahn ist, auf den äußerst linken Fahrstreifen wechseln“, eine niedrigere Priorität als „Falls die Ausfahrt sich innerhalb von 2 Kilometern nähert, auf den äußerst rechten Fahrstreifen wechseln“ aufweisen.
10 zeigt einen gerichteten Graphen 1000, der bei der Wegplanung z. B. durch das Planungsmodul 404 verwendet wird (4). Allgemein wird ein gerichteter Graph 1000 wie der in 10 gezeigte verwendet, um einen Weg zwischen einem beliebigen Startpunkt 1002 und Endpunkt 1004 zu ermitteln. In der Praxis kann die Entfernung zwischen dem Startpunkt 1002 und dem Endpunkt 1004 relativ groß (z. B. in zwei verschiedenen Ballungsgebieten) oder relativ klein (z. B. zwei Einmündungen, die an einen Stadtblock angrenzen oder zwei Fahrstreifen einer Straße mit mehreren Fahrstreifen) sein.
In einer Ausführungsform hat der gerichtete Graph 1000 Knoten 1006a-d, die verschiedene Orte zwischen dem Startpunkt 1002 und dem Endpunkt 1004 darstellen, die durch ein AF 100 belegt werden könnten. In einigen Beispielen, z. B. wenn der Startpunkt 1002 und der Endpunkt 1004 verschiedene Ballungsräume darstellen, stellen die Knoten 1006a-d Straßensegmente dar. In einigen Beispielen, z. B. wenn der Startpunkt 1002 und der Endpunkt 1004 verschiedene Orte auf derselben Straße darstellen, stellen die Knoten 1006a-d verschiedene Positionen auf dieser Straße dar. Auf diese Weise enthält der gerichtete Graph 1000 Informationen in unterschiedlicher Granularität. In einer Ausführungsform ist ein gerichteter Graph mit hoher Granularität auch ein Teilgraph eines anderen gerichteten Graphen mit einem größeren Maßstab. Zum Beispiel hat ein gerichteter Graph, bei dem der Startpunkt 1002 und der Endpunkt 1004 weit entfernt sind (z. B. viele Kilometer auseinander liegend), die meisten seiner Informationen in einer niedrigen Granularität und basiert auf gespeicherten Daten, enthält aber auch einige Informationen mit hoher Granularität für den Abschnitt des Graphen, der physische Orte im Sichtfeld des AF 100 darstellt.
Die Knoten 1006a-d unterscheiden sich von Objekten 1008a-b, die sich nicht mit einem Knoten überlappen können. In einer Ausführungsform, wenn die Granularität gering ist, stellen die Objekte 1008a-b Regionen dar, die nicht mit dem Auto befahren werden können, z. B. Gebiete, die keine Straßen oder Wege aufweisen. Bei hoher Granularität stellen die Objekte 1008a-b physische Objekte im Sichtfeld des AF 100 dar, z. B. andere Kraftfahrzeuge, Fußgänger oder andere Objekte, mit denen das AF 100 den physischen Raum nicht teilen kann. In einer Ausführungsform sind einige oder alle der Objekte 1008a-b statische Objekte (z. B. ein Objekt, das seine Position nicht ändert, wie eine Straßenlampe oder ein Strommast) oder dynamische Objekte (z. B. ein Objekt, das seine Position ändern kann, wie ein Fußgänger oder ein anderes Kraftfahrzeug).
Die Knoten 1006a-d sind durch die Kanten 1010a-c verbunden. Falls zwei Knoten 1006a-b durch eine Kante 1010a verbunden sind, ist es möglich, dass ein AF 100 zwischen dem einen Knoten 1006a und dem anderen Knoten 1006b fahren kann, z. B. ohne zu einem Zwischenknoten fahren zu müssen, bevor es am anderen Knoten 1006b ankommt. (Wenn wir von einem zwischen Knoten fahrenden AF 100 sprechen, meinen wir, dass sich das AF 100 zwischen den beiden physischen Positionen bewegt, die durch die jeweiligen Knoten dargestellt werden.) Die Kanten 1010a-c sind oft bidirektional, in dem Sinne, dass ein AF 100 von einem ersten Knoten zu einem zweiten Knoten oder vom zweiten Knoten zum ersten Knoten fährt. In einer Ausführungsform sind die Kanten 1010a-c unidirektional, in dem Sinne, dass ein AF 100 von einem ersten Knoten zu einem zweiten Knoten fahren kann, das AF 100 jedoch nicht vom zweiten Knoten zum ersten Knoten fahren kann. Die Kanten 1010a-c sind unidirektional, wenn sie z. B. Einbahnstraßen, einzelne Fahrstreifen einer Straße, eines Weges oder einer Landstraße oder andere Merkmale darstellen, die aufgrund rechtlicher oder physischer Randbedingungen nur in einer Richtung befahren werden können.
In einer Ausführungsform verwendet das Planungsmodul 404 den gerichteten Graphen 1000 zum Identifizieren eines Weges 1012, der aus Knoten und Kanten zwischen dem Startpunkt 1002 und dem Endpunkt 1004 besteht.
Eine Kante 1010a-c ist einem Aufwand 1014a-b zugeordnet. Der Kostenwert 1014a-b ist ein Wert, der die Ressourcen darstellt, die aufgewendet werden, falls das AF 100 diese Kante auswählt. Eine typische Ressource ist die Zeit. Falls zum Beispiel eine Kante 1010a eine physische Entfernung darstellt, die doppelt so groß wie die einer anderen Kante 1010b ist, kann der zugeordnete Kostenwert 1014a der ersten Kante 1010a doppelt so groß wie der zugeordnete Kostenwert 1014b der zweiten Kante 1010b sein. Andere Faktoren, die sich auf die Zeit auswirken, sind der erwartete Verkehr, die Anzahl der Einmündungen, Geschwindigkeitsrandbedingungen usw. Eine weitere typische Ressource ist der Kraftstoffverbrauch. Zwei Kanten 1010a-b können die gleiche physische Entfernung darstellen, aber eine Kante 1010a kann mehr Kraftstoff als eine andere Kante 1010b erfordern, z. B. aufgrund von Straßenbedingungen, voraussichtlichem Wetter usw.
Wenn das Planungsmodul 404 einen Weg 1012 zwischen dem Startpunkt 1002 und dem Endpunkt 1004 identifiziert, wählt das Planungsmodul 404 in der Regel einen Weg mit optimiertem Kostenwert, z. B. den Weg mit dem geringsten Gesamtkostenwert, wenn die einzelnen Kostenwerte der Kanten addiert werden.
Steuerung autonomer Fahrzeuge
11 zeigt in einem Blockdiagramm 1100 die Ein- und Ausgaben eines Steuermoduls 406 (z. B. wie in 4 gezeigt). Ein Steuermodul arbeitet gemäß einer Steuervorrichtung 1102, die z. B. einen oder mehrere Prozessoren (z. B. einen oder mehrere Computerprozessoren wie Mikroprozessoren oder Mikrocontroller oder beides) ähnlich dem Prozessor 304, einen Kurzzeit- und/oder Langzeitdatenspeicher (z. B. Direktzugriffsspeicher oder Flashspeicher oder beides) ähnlich dem Hauptspeicher 306, ROM 308 und Speichervorrichtung 310 und im Speicher gespeicherte Anweisungen enthält, die Operationen der Steuervorrichtung 1102 durchführen, wenn die Anweisungen ausgeführt werden (z. B. durch den einen oder die mehreren Prozessoren).
In einer Ausführungsform empfängt die Steuervorrichtung 1102 Daten, die eine gewünschte Ausgabe 1104 darstellen. Die gewünschte Ausgabe 1104 umfasst in der Regel eine Geschwindigkeit und eine Fahrtrichtung. Die gewünschte Ausgabe 1104 kann zum Beispiel auf Daten basieren, die aus einem Planungsmodul 404 empfangen werden (z. B. wie in 4 gezeigt). Die Steuervorrichtung 1102 erzeugt gemäß der gewünschten Ausgabe 1104 Daten, die als Drosselklappeneingabe 1106 und als Lenkeingabe 1108 verwendet werden können. Die Drosselklappeneingabe 1106 stellt die Größe dar, in der die Drosselklappe (z. B. Beschleunigungssteuerung) eines AF 100 zu betätigen ist, z. B. durch Betätigen des Lenkpedals oder durch Betätigen einer anderen Drosselklappensteuerung, um die gewünschte Ausgabe 1104 zu erreichen. In einigen Beispielen umfasst die Drosselklappeneingabe 1106 auch Daten, die zum Betätigen der Bremse (z. B. Verlangsamungssteuerung) des AF 100 verwendet werden können. Die Lenkeingabe 1108 stellt einen Lenkwinkel dar, z. B. den Winkel, in dem die Lenksteuerung (z. B. Lenkrad, Lenkwinkelsteller oder eine andere Funktion zur Steuerung des Lenkwinkels) des AF positioniert werden sollte, um die gewünschte Ausgabe 1104 zu erreichen.
In einer Ausführungsform empfängt die Steuervorrichtung 1102 eine Rückmeldung, die bei der Anpassung der für die Drosselklappe und Lenkung bereitgestellten Eingaben verwendet wird. Falls beispielsweise das AF 100 auf eine Störung 1110 wie z. B. einen Hügel trifft, wird die gemessene Geschwindigkeit 1112 des AF 100 unter die gewünschte Ausgabegeschwindigkeit abgesenkt. In einer Ausführungsform wird der Steuervorrichtung 1102 eine Messwertausgabe 1114 zur Verfügung gestellt, sodass die nötigen Anpassungen, z. B. basierend auf der Differenz 1113 zwischen der gemessenen Geschwindigkeit und der gewünschten Ausgabe, durchgeführt werden. Die gemessene Ausgabe 1114 umfasst die gemessene Position 1116, die gemessene Geschwindigkeit 1118 (einschließlich Drehzahl und Fahrtrichtung), die gemessene Beschleunigung 1120 und andere durch Sensoren des AF 100 messbare Ausgaben.
In einer Ausführungsform werden Informationen über die Störung 1110 im Voraus erkannt, z. B. durch einen Sensor wie eine Kamera oder einen LiDAR-Sensor, und einem vorausschauenden Rückmeldemodul 1122 zur Verfügung gestellt. Das vorausschauende Rückmeldemodul 1122 liefert dann Informationen an die Steuervorrichtung 1102, die die Steuervorrichtung 1102 zur entsprechenden Anpassung verwenden kann. Falls zum Beispiel die Sensoren des AF 100 einen Hügel erkennen („sehen“), können diese Informationen durch die Steuervorrichtung 1102 genutzt werden, um sich darauf vorzubereiten, die Drosselklappe zum geeigneten Zeitpunkt zu betätigen, um eine wesentliche Verlangsamung zu vermeiden.
12 zeigt ein Blockdiagramm 1200 der Eingaben, Ausgaben und Komponenten der Steuervorrichtung 1102. Die Steuervorrichtung 1102 weist einen Geschwindigkeitsprofilersteller 1202 auf, der den Betrieb einer Drosselklappen-/Bremssteuervorrichtung 1204 beeinflusst. Beispielsweise weist der Geschwindigkeitsprofilersteller 1202 die Drosselklappen-/Bremssteuervorrichtung 1204 an, eine Beschleunigung oder Verlangsamung unter Verwendung der Drosselklappe/Bremse 1206 einzuleiten, abhängig z. B. von der Rückmeldung, die durch die Steuervorrichtung 1102 empfangen und durch den Geschwindigkeitsprofilersteller 1202 verarbeitet wird.
Die Steuervorrichtung 1102 weist auch eine Seitenführungssteuervorrichtung 1208 auf, die den Betrieb einer Lenksteuervorrichtung 1210 beeinflusst. Zum Beispiel weist die Seitenführungssteuervorrichtung 1208 die Lenksteuervorrichtung 1210 an, die Position des Lenkwinkelstellers 1212 abhängig von z. B. der Rückmeldung anzupassen, die durch die Steuervorrichtung 1102 empfangen und durch die Seitenführungssteuervorrichtung 1208 verarbeitet wird.
Die Steuervorrichtung 1102 empfängt mehrere Eingaben, mit denen ermittelt wird, wie die Drosselklappe/Bremse 1206 und der Lenkwinkelsteller 1212 gesteuert werden sollen. Ein Planungsmodul 404 liefert Informationen, die durch die Steuervorrichtung 1102 verwendet werden, um z. B. eine Bewegungsrichtung zu wählen, wenn das AF 100 den Betrieb aufnimmt, und um zu ermitteln, welches Straßensegment befahren werden soll, wenn das AF 100 eine Einmündung erreicht. Ein Lokalisierungsmodul 408 liefert der Steuervorrichtung 1102 Informationen, die zum Beispiel den aktuellen Standort des AF 100 beschreiben, sodass die Steuervorrichtung 1102 ermitteln kann, ob sich das AF 100 an einem Ort befindet, der basierend auf der Art und Weise, in der die Drosselklappe/Bremse 1206 und der Lenkwinkelsteller 1212 gesteuert werden, erwartet wird. In einer Ausführungsform empfängt die Steuervorrichtung 1102 Informationen aus anderen Eingaben 1214, z. B. Informationen, die aus Datenbanken, Computernetzwerken usw. empfangen werden.
Hintergrunderkennung
Städtische Gebiete sind unübersichtlich. Dynamische Einheiten wie Fahrzeuge mit verschiedenen Größen und Formen, Fußgänger mit nichtstarren Bewegungen, sich schnell ändernde Objektverdeckungen, Bauzonen, Bäume und Blattwerk sind nur einige Faktoren für das Wirrwarr. Zu den dynamischen Einheiten gehören ferner Objekte (z. B. natürliche Hindernisse 191, Fahrzeuge 193, Fußgänger 192, Radfahrer und andere Hindernisse). Dies erschwert in manchen Fällen die Erkennung von Objektgrenzen und damit die Segmentierung von Punktwolkendaten, die mit LiDAR(s) erfasst wurden, aufgrund der Dünnbesetzung der Daten. Aufeinanderfolgende Messungen, die aus einem Objekt mit einer Relativbewegung ungleich null in Bezug auf den Sensor aufgenommen wurden, überlappen sich häufig nicht ausreichend, was eine zeitliche Zuordnung der Daten verhindert. Andererseits sind LiDAR-Vorrichtungen bei der Abstandsmessung genauer als Kameras. Eine Kette zur Verarbeitung von dünnbesetzten Punktwolken kann verwendet werden, um die Genauigkeit von LiDAR in seinen Frühstadien zu nutzen, um die Bodenoberfläche zu segmentieren. Dies erleichtert die Segmentierung von Vordergrundobjekten und deren zeitliche Zuordnung in späteren Stufen der Kette.
In einem Beispiel weist eine Bodenoberfläche Eigenschaften auf, die im Vergleich zu anderen Arten von Objekten leicht zu modellieren sind. Bodenebenen verbinden praktisch auch alle Objekte mit anderen, da fast alle Objekte in einer städtischen Umgebung auf der Bodenoberfläche liegen. Das wiederum bedeutet, dass das Heraussegmentieren der Bodenoberfläche die meisten Objekte abtrennt, was das Abstecken von Objektgrenzen erleichtert. Aus diesen beiden Gründen werden in der ersten Stufe einer Punktwolkenverarbeitungskette Bodenoberflächenpunkte markiert.
Normalerweise wird angenommen, dass die Bodenoberfläche eben ist, aber diese Annahme trifft in der realen Welt (z. B. in hügeligen Umgebungen wie in San Francisco) nicht immer zu. In einigen Beispielen kann Regionswachstum basierend auf Metriken wie Punkt/Facetten-Normal, Punkt-zu-Punkt-Abstand usw. verwendet werden, wobei es von zufällig ausgewählten Startpunkten ausgeht, was es im Falle einer schlechten Auswahl von Startpunkten anfällig für Fehler macht.
Im Gegensatz zu Kamerabildern enthalten LiDAR-Punktwolken nicht von Haus aus Punkt- (Pixel-) Nachbarschaftsinformationen. Obwohl ein Treiber (z. B. die Schnittstelle) eines LiDAR dazu ausgelegt werden kann, geordnete Punktwolkendaten zu veröffentlichen, werden für Multi-LiDAR-Szenarien, z. B. bei autonomen Fahrzeugen, immer noch Nachbarschaftsbeziehungen rekonstruiert. Zwei Verfahren zum Implementieren einer Nachbarschaftssuche sind die k-nächste-Nachbarn(kNN)-Suche und die Radius-Suche (r-Suche). Diese Verfahren funktionieren gut bei gleichmäßig abgetasteten Punktwolken. Aufgrund der projektiven Natur der LiDAR-Sensoren nimmt die Punkt-zu-Punkt-Distanz bei Daten, die von der Bodenoberfläche ausgehend erfasst werden, jedoch exponentiell mit der Reichweite zu. In einigen Beispielen werden die zwei Suchverfahren mit unterschiedlichen Parametern durchgeführt, die sich in verschiedenen Bereichen adaptiv ändern.
Es kann ein 2D-Netz der Umgebung verwendet werden. Dazu werden alle Punkte auf eine Einheitskugel projiziert, die im (virtuellen) Sensorursprung zentriert ist, und auf der Kugel wird eine 2D-Delaunay-Triangulation durchgeführt. Diese Punkte werden dann auf ihre ursprünglichen Bereiche zurück projiziert, um das endgültige dreieckige Netz zu erhalten. Kugelrotationstessellierung wird verwendet, um „Flächen“ zu erzeugen, d. h. Ebenen zwischen Punkten in einer Punktwolke. Im Allgemeinen deckt die Tessellierung einer Kugel die Kugel in Kacheln ab. In einer Ausführungsform sind die Kacheln dreieckig, ohne überlappende Kacheln oder Lücken.
Die sphärische Delaunay-Triangulation kann mit einer Neuformulierung des Fortune-Sweep-Linien-Algorithmus verwendet werden, der ursprünglich für eine 2D-Ebene konzipiert ist. Im Allgemeinen ist eine Delaunay-Triangulation für eine gegebene Menge diskreter Punkte in einer allgemeinen Position eine Triangulation, bei der kein Punkt innerhalb des Umkreises eines Dreiecks in der Triangulation liegt. In einer Ausführungsform maximiert die Delaunay-Triangulation den minimalen Winkel aller Winkel der Dreiecke in der Triangulation und neigt dazu, Splitterdreiecke zu vermeiden. In Beispielen wird der Sweep-Kreis gemäß der Apriori-Richtung der Bodenebene initialisiert, die durch einen Kalman-Filter geschätzt wird, der den Schwerkraftvektor mithilfe einer fahrzeuginternen Trägheitsmesseinheit (IMU) verfolgt. Eine Anfangsposition des Sweep-Kreises bestimmt die Entwicklung der Delaunay-Triangulation. Wenn beispielsweise eine mit einem LiDAR erfasste Punktwolke so ausgerichtet ist, dass ihre -z-Achse mit dem Schwerkraftvektor zusammenfällt, beginnt die Vernetzung mit dem Hinzufügen von Dreiecken mit Eckpunkten an höheren z-Koordinaten. Teile eines Netzes mit höheren z-Koordinaten entsprechen jedoch möglicherweise nicht der Bodenoberfläche, z. B. Gebäudefassaden oder Baumkronen. Die Punktwolke wird also so transformiert, dass die Vernetzung von den Punkten ausgeht, die mit größerer Wahrscheinlichkeit der Bodenoberfläche entsprechen. In Ausführungsformen beginnt die Vernetzung mit Punkten auf der Bodenoberfläche. Auf diese Weise brauchen nicht alle Punkte verarbeitet zu werden, da sich die Bodenoberfläche auf der nördlichen Hemisphäre der Sweep-Kugel befindet (z. B. nach der Transformation). In einigen Beispielen spart dies CPU-Zeit. Ferner werden aufgrund der projektiven Natur eines LiDAR-Sensors und der Art und Weise, wie die Vernetzung funktioniert, dem Netz viele versplitterte, schräge, künstliche Flächen hinzugefügt. Vorausgesetzt, dass der (virtuelle, falls mehrere LiDARs verwendet werden) Sensorursprung richtig gewählt ist, sind solche Flächen immer auf Nicht-Bodenobjekte zurückzuführen. Durch die Initialisierung des Sweep-Kreises am richtigen Punkt kann die Hinzufügung solcher Flächen in das Netz vermieden werden, die andernfalls übermäßiges Rauschen verursachen könnten, das die Erkennung der Bodenoberfläche behindert. In Ausführungsformen ist der richtige Punkt ein Punkt, der aufgrund der geschätzten Richtung der Bodenebene wahrscheinlich ein Punkt der Bodenoberfläche ist.
Zusammen mit dem Netz der Umgebung wird gleichzeitig ein Graph konstruiert, dessen Eckpunkte den Netzflächen entsprechen. Graphenkanten sind nur zwischen Flächen definiert, die sich in Ausrichtung und Höhe ähneln. Das Netz ist dann durch Analysieren der verbundenen Komponenten auf diesem Graphen übersegmentiert. Verbundene Komponenten mit mehr als einer Schwellenanzahl von Elementen und solche, deren mittlere Oberflächennormale nahe an der Apriori-Bodenebenennormalen liegt, werden als Bodenoberfläche identifiziert. Ein alternativer Ansatz zur Analyse verbundener Komponenten ist die Durchführung eines Graphenschnitts, obwohl diese Technik möglicherweise mehr Rechenleistung benötigt.
Diese Technik verwendet wenige Parameter wie z. B. die maximale Abweichung der Oberflächennormalen und die Größe der verbundenen Komponenten. Diese Technik verwendet außerdem keine Annahmen über die Ebenheit der Bodenoberfläche. Ferner können mehrere LiDARs verwendet werden, da während des Vernetzungsprozesses Nachbarschaftsbeziehungen durch den Algorithmus konstruiert werden. Zum Beispiel wird ein Punkt mit anderen Punkten gemäß den identifizierten Flächen verknüpft, wie unten beschrieben.
Nachdem die Punkte auf der Bodenoberfläche entfernt wurden, können die späteren Stufen einer Punktwolkenverarbeitungskette Objekte wie Kraftfahrzeuge und Fußgänger leichter erkennen, da jedes solche Objekt von seiner Umgebung isoliert wird, sodass eine Segmentierung mithilfe der einfachen euklidischen Distanz möglich ist.
13 zeigt ein Teilnetz aus einer rohen Punktwolke. In einer Ausführungsform ermöglichen die vorliegenden Techniken das Empfangen von Linien- oder Punktwolkeninformationen aus der mindestens einen LiDAR-Vorrichtung. Im Beispiel von 13 ist ein Netz im Allgemeinen eine Struktur, die auf eine Vielzahl von Datenpunkten angewendet wird. Ein LiDAR, wie z. B. LiDAR 123 aus 1, gibt eine Sammlung von zweidimensionalen (2D-) oder dreidimensionalen (3D-) Punkten 1302 aus. In einigen Fällen werden die 2D- oder 3D-Punkte 1302 als Punktwolken bezeichnet (z. B. Ausgabe 504a in 5), die dazu verwendet werden, eine Darstellung der Umgebung 190 (1) zu konstruieren.
In einer Ausführungsform sind das Teilnetz 1300 Linien- oder Punktwolkeninformationen, die aus mindestens einer LiDAR-Vorrichtung empfangen wurden. Das Teilnetz ist eine zweidimensionale (2D-) Darstellung der Datenpunkte der Punktwolke in der Umgebung. Die vorliegenden Techniken sind mit einer oder mehreren LiDAR-Vorrichtungen durchführbar. In einem Beispiel mit einer Vielzahl von LiDAR-Vorrichtungen wird der Sensorursprung bei der Modellierung der Punktwolkeninformationen richtig als Kugel gewählt. In Ausführungsformen werden nach Erhalten von Punktwolkeninformationen aus mindestens einer LiDAR-Vorrichtung die Punktwolkeninformationen als Kugel modelliert.
Dementsprechend ermöglichen die vorliegenden Techniken das Modellieren der Punktwolkeninformationen als Kugel. In einer Ausführungsform wird zum Modellieren der Punktwolkeninformationen als Kugel ein zweidimensionales Netz der Umgebung unter Verwendung der Punktwolkendaten erzeugt. In einem Beispiel werden zum Erzeugen des 2D-Netzes der Umgebung die Punkte der Punktwolke auf eine Einheitskugel projiziert, die auf dem (virtuellen) Sensorursprung zentriert ist. Im Allgemeinen haben Punktwolkendaten einen zugehörigen Satz von X-, Y- und Z-Koordinaten. Die Projektion der Punktwolkendaten auf die Einheitskugel bildet die Punktwolkendaten auf einen Satz von Kugelkoordinaten ab. In einer Ausführungsform geben die Kugelkoordinaten die Position eines Punktes durch drei Zahlen an: den radialen Abstand dieses Punktes von einem festen Ursprung, seinen Polarwinkel gemessen von einer festen Zenitrichtung und den Azimutwinkel seiner Orthogonalprojektion auf eine Bezugsebene, die durch den Ursprung verläuft und orthogonal zum Zenit ist, gemessen von einer festen Bezugsrichtung auf dieser Ebene. Zum Beispiel kann ein Kugelkoordinatensystem als dreidimensionale Version des Polarkoordinatensystems realisiert werden. Um die Punktwolkeninformationen als Kugel zu modellieren, wird in Ausführungsformen die Punktwolke wird mittels Kugelparametrisierung gehandhabt. In einer Ausführungsform werden Cluster auf der Kugel verwendet, um Flächen in den Punktwolkendaten zu identifizieren, wie hier beschrieben.
In einer Ausführungsform wird eine zweidimensionale Triangulation auf der Einheitskugel durchgeführt, um das polygonale Netz zu erzeugen, auch als Vernetzung bezeichnet. In einer Ausführungsform besteht die Ausgabe der Kugelrotationstessellierung aus einer oder mehreren Flächen. Wie hier verwendet, ist eine Fläche eine Ebene zwischen Punkten in einer Punktwolke. In einer Ausführungsform können die Flächen unter Verwendung der sphärischen Delaunay-Triangulation mit einer Neuformulierung des Fortune-Linien-Sweep-Algorithmus erzeugt werden. Der Fortune Sweep-Line Algorithmus wurde ursprünglich für die Verwendung mit einer zweidimensionalen Ebene entwickelt. Der Linien-Sweep (und die Vernetzung) beginnt an den Punkten, die am ehesten der Bodenoberfläche entsprechen. Im Allgemeinen befindet sich die Bodenoberfläche nach der Transformation von einer Punktwolke in eine Kugel auf der nördlichen Hemisphäre der Sweep-Kugel.
14 zeigt Flächen, die die Bodenoberfläche 1402 sowie andere Objekte 1404 darstellen. Im Allgemeinen wird die Bodenoberfläche 1402 durch weiße Dreiecke dargestellt, während die anderen Objekte 1404 durch gefüllte/schraffierte Dreiecke dargestellt werden. In einer Ausführungsform werden anhand der Kugel Flächen identifiziert, die den jeweiligen Punktclustern der empfangenen LiDAR-Punktwolkeninformationen entsprechen. Die Flächen 1402 stellen eine Bodenoberfläche dar. Die Flächen 1404 stellen andere Objekte dar. In einer Ausführungsform werden Linien verwendet, um jeden Standort mit den nächstgelegenen Nachbarn zu verbinden. Die Triangulation, die zur Bildung des Netzes verwendet wird, minimiert die Entartung der erzeugten Dreiecke.
Beim Erzeugen des Netzes 1402 wird die Punktwolke so transformiert, dass das Vernetzen an Punkten beginnt, die mit größerer Wahrscheinlichkeit der Bodenoberfläche entsprechen. Auf diese Weise brauchen nicht alle Punkte verarbeitet zu werden, da sich die Bodenoberfläche auf der nördlichen Hemisphäre der Sweep-Halbkugel befindet. In einigen Beispielen spart dies CPU-Zeit. Ferner werden aufgrund der projizierten Natur eines LiDAR-Sensors und der Art und Weise, wie die Vernetzung vor sich geht, dem Netz viele versplitterte, schräge, künstliche Flächen hinzugefügt. Wenn der Sensorursprung richtig gewählt ist, kann das Hinzufügen solcher Zwischenräume in das Netz vermieden werden, die sonst zu übermäßigem Rauschen führen könnten, das die Erkennung der Bodenoberfläche behindert. In einer Ausführungsform endet die Verarbeitung, wenn die Bodenoberfläche identifiziert wird.
15 zeigt die identifizierte Bodenoberfläche 1402.
16 zeigt die identifizierten Nicht-Bodenoberflächen 1404.
17 zeigt die Entsprechung 1700 von beispielhaften Flächen F1-F5 und einer Graphendatenstruktur. Die Flächen F1-F5 können zum Beispiel die Flächen 1402 oder 1404 sein. Zum Beispiel sind die Flächen F2-F4 aneinander angrenzend (z. B. teilen sie sich LiDAR-Punktwolkenpunkte, die in der Figur als Dreiecke dargestellt sind) und haben ähnliche Eigenschaften, sodass ihre entsprechenden Graphenknoten/-eckpunkte (als Kreise dargestellt) zu einem zusammenhängenden Graphen gehören. Die Flächen F1 und F5 grenzen zwar an andere Flächen, haben aber keine gemeinsamen Eigenschaften (z. B. innerhalb eines Schwellenwerts für die Ähnlichkeit) und sind daher nicht mit den anderen Knoten/Eckpunkten verbunden.
In einer Ausführungsform wird eine Graphenstruktur 1702 erzeugt, die Eckpunkte enthält, die den jeweiligen Flächen der identifizierten Netzflächen entsprechen. In einer Ausführungsform wird zusammen mit dem Netz der Umgebung gleichzeitig (mit dem Netz der Umgebung) ein Graph konstruiert, dessen Eckpunkte den Netzflächen entsprechen. Graphenkanten sind nur zwischen Flächen definiert, die sich in Ausrichtung und Höhe ähneln.
In einer Ausführungsform ermöglichen die vorliegenden Techniken das Verbinden der Eckpunkte der Graphendatenstruktur basierend auf der Angrenzung der jeweils zugrundeliegenden Punkte und der Eigenschaften der entsprechenden Flächen. Wie hier verwendet, teilen sich angrenzende Flächen einen oder mehrere Punktwolkenpunkte. In dem Graphen werden die Flächen F1-F5 durch Knoten dargestellt. In einer Ausführungsform ist 17 eine Abbildung der Entsprechung der Flächen F1 bis F5 1702 und einer Graphendatenstruktur 1704. In der Graphenstruktur 1704 wird jede Fläche 1702 durch einen Knoten dargestellt. Verbindungen zwischen den Knoten/Eckpunkten des Graphen können mindestens teilweise auf der Angrenzung der jeweils zugrundeliegenden Punkte aus der Punktwolke basieren. Die Verbindungen zwischen den Knoten/Eckpunkten des Graphen können mindestens teilweise auf den Eigenschaften der entsprechenden Flächen basieren. Ein Merkmal kann zum Beispiel sein, dass die Flächen innerhalb eines Ähnlichkeitsschwellenwertes liegen. Wie hier verwendet, bezieht sich ein Ähnlichkeitsschwellenwert auf eine ähnliche Ausrichtung oder Höhe. Zum Beispiel sind Flächen mit einer ähnlichen Ausrichtung in eine im Wesentlichen ähnliche Richtung ausgerichtet. Flächen mit ähnlicher Höhe befinden sich auf einer im Wesentlichen ähnlichen Höhe.
In einer Ausführungsform wird basierend auf der Graphendatenstruktur ein Satz von Graphen identifiziert, wobei jeder Teilgraph verbundene Eckpunkte enthält. Die Erzeugung von Teilgraphen basiert auf Graphenkanten, die nur zwischen Flächen definiert sind, die sich in Ausrichtung und Höhe ähneln. In einer Ausführungsform werden für jeden Teilgraphen die Eigenschaften der Flächen analysiert, die den Eckpunkten des Teilgraphen entsprechen. Das Netz ist dann zum Beispiel durch Analysieren der verbundenen Komponenten auf diesem Graphen übersegmentiert. Verbundene Komponenten mit mehr als einer Schwellenanzahl von Elementen und solche, deren mittlere Flächennormale nahe an der Bodenebenennormalen mit hoher Priorität liegt, werden als Bodenoberfläche identifiziert. Ein alternativer Ansatz zur Analyse verbundener Komponenten ist die Durchführung eines Graphenschnitts, obwohl diese Technik möglicherweise mehr Rechenleistung benötigt. In einer Ausführungsform wird basierend auf der Analyse der Teilgraph identifiziert, der einem Hintergrundmerkmal der physischen Umgebung entspricht.
18 ist ein Flussdiagramm eines Prozesses zum Identifizieren von Hintergrundmerkmalen mittels LiDAR. Im Beispiel von 18 kann der Prozess durch die Rechenprozessoren 146 von 1 implementiert sein. Der Prozess kann in einer Cloud-Rechenumgebung implementiert sein, die der mit Bezug auf 2 beschriebenen Cloud-Rechenumgebung 200 ähnelt. Zusätzlich kann im Beispiel von 18 der Prozess durch das Computersystem 300 von 3 implementiert sein.
In Block 1802 werden LiDAR-Punktwolkeninformationen (z. B. Ausgabe 504a) aus der mindestens einen LiDAR-Vorrichtung (z. B. LiDAR 123) erhalten. In Block 1804 werden die Punktwolkeninformationen als Kugel modelliert. In Block 1806 werden auf Basis der Kugel die Flächen identifiziert, die den jeweiligen Punktclustern der empfangenen LiDAR-Punktwolkeninformationen entsprechen. Zum Beispiel wird eine Kugelrotationstessellierung auf die Kugel angewandt, um mindestens eine Fläche zu identifizieren.
In Block 1808 wird eine Graphendatenstruktur erzeugt, die Eckpunkte enthält, die den jeweiligen Flächen der identifizierten Flächen entsprechen. In Block 1810 werden die Eckpunkte der Graphendatenstruktur basierend auf der Angrenzung der jeweils zugrundeliegenden Punkte und den Eigenschaften der entsprechenden Flächen verbunden. In Block 1812 werden basierend auf der Graphendatenstruktur Teilgraphen identifiziert, wobei jeder Teilgraph verbundene Eckpunkte enthält. In Block 1814 werden für jeden Teilgraphen die Eigenschaften der Flächen analysiert, die den Eckpunkten des Teilgraphen entsprechen. In Block 1816 werden basierend auf der Analyse Teilgraphen identifiziert, die einem Hintergrundmerkmal der physischen Umgebung entsprechen. In Block 1818 ist eine Steuerschaltung, die kommunizierend mit dem mindestens einen Prozessor gekoppelt ist, dazu ausgelegt, das Fahrzeug basierend auf dem identifizierten Hintergrundmerkmal zu betreiben.
In der vorgenannten Beschreibung sind Ausführungsformen der Erfindung unter Bezugnahme auf zahlreiche spezifische Details beschrieben, die von Implementierung zu Implementierung verschieden sein können. Die Beschreibung und die Zeichnungen sind dementsprechend in einem veranschaulichenden statt einem einschränkenden Sinn zu sehen. Der einzige und ausschließliche Indikator für den Schutzbereich der Erfindung und das, was durch die Anmelder als Schutzbereich der Erfindung beabsichtigt ist, ist der wörtliche und äquivalente Schutzbereich der Menge der Ansprüche, die aus dieser Anmeldung in der spezifischen Form hervorgehen, in der diese Ansprüche ausgestellt sind, einschließlich etwaiger späterer Korrekturen. Alle hier ausdrücklich dargelegten Definitionen für Begriffe, die in diesen Ansprüchen enthalten sind, regeln die Bedeutung der in den Ansprüchen verwendeten Begriffe. Darüber hinaus kann bei Verwendung des Begriffs „ferner umfassend“ in der vorhergehenden Beschreibung oder in den folgenden Ansprüchen das auf diese Formulierung Folgende ein zusätzlicher Schritt oder eine zusätzliche Einrichtung oder ein Unterschritt bzw. eine Untereinrichtung eines bereits erwähnten Schritts oder einer bereits erwähnten Einrichtung sein.
ZITATE ENTHALTEN IN DER BESCHREIBUNG
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
Zitierte Patentliteratur

US 63/033816 [0001]

Claims

Fahrzeug, umfassend: mindestens eine LiDAR-Vorrichtung, die dazu ausgelegt ist, elektromagnetische Strahlung zu erfassen, die von Objekten in der Nähe des Fahrzeugs ausgehend reflektiert wird, und LiDAR-Punktwolkeninformationen basierend auf dem erfassten Licht zu erzeugen; mindestens ein computerlesbares Medium, das computerausführbare Anweisungen speichert; mindestens einen Prozessor, der kommunizierend mit der mindestens einen LiDAR-Vorrichtung gekoppelt und dazu ausgelegt ist, die auf dem Computer ausführbaren Anweisungen auszuführen, wobei die Ausführung das Ausführen folgender Operationen umfasst: Empfangen von LiDAR-Punktwolkeninformationen aus der mindestens einen LiDAR-Vorrichtung; Modellieren der Punktwolkeninformationen als Kugel; basierend auf der Kugel Identifizieren von Flächen, die den jeweiligen Punktclustern der empfangenen LiDAR-Punktwolkeninformationen entsprechen; Erzeugen einer Graphendatenstruktur, die Eckpunkte entsprechend den jeweiligen Flächen der identifizierten Flächen enthält; Verbinden von Eckpunkten der Graphendatenstruktur basierend auf der Angrenzung der jeweils zugrundeliegenden Punkte und Eigenschaften der entsprechenden Flächen; basierend auf der Graphendatenstruktur Identifizieren von Teilgraphen, wobei jeder Teilgraph verbundene Eckpunkte enthält; für jeden Teilgraphen Analysieren von Eigenschaften der Flächen, die den Eckpunkten des Teilgraphen entsprechen; und basierend auf der Analyse Identifizieren von Teilgraphen, die einem Hintergrundmerkmal der physischen Umgebung entsprechen; und eine Steuerschaltung, die kommunizierend mit dem mindestens einen Prozessor gekoppelt ist, wobei die Steuerschaltung dazu ausgelegt ist, das Fahrzeug basierend auf dem identifizierten Hintergrundmerkmal zu betreiben.
Fahrzeug gemäß Anspruch 1, wobei die Operationen, die das Modellieren der Punktwolkeninformation als Kugel umfassen, das Projizieren der Punktwolke auf eine Einheitskugel beinhalten.
Fahrzeug gemäß Anspruch 1 oder 2, wobei eine den Punktwolkeninformationen zugeordnete Dünnbesetzung mit zunehmendem Abstand vom LiDAR zunimmt.
Fahrzeug gemäß einem der Ansprüche 1-3, wobei die Punktwolkeninformationen nicht gleichmäßig abgetastet werden.
Fahrzeug gemäß Anspruch 1-4, wobei die Operationen, die das Identifizieren von Flächen umfassen, die jeweiligen Punktclustern der empfangenen LiDAR-Punktwolkeninformationen entsprechen, eine Kugelrotationstessellierung umfassen.
Fahrzeug gemäß einem der Ansprüche 1-5, wobei eine Fläche eine Ebene zwischen einer Vielzahl von Punkten in den Punktwolkeninformationen ist.
Fahrzeug gemäß einem der Ansprüche 1-6, wobei eine Trägheitsmesseinheit dazu verwendet wird, einen Schwerkraftvektor zu bestimmen, wobei der Schwerkraftvektor dazu verwendet wird, eine Bodenebenenrichtung zum Initialisieren eines Sweep-Kreises der sphärischen Delaunay-Triangulation zu schätzen, wobei die sphärische Delaunay-Triangulation mit einer Neuformulierung des Fortune-Sweep-Linien-Algorithmus zum Identifizieren von Flächen verwendet werden kann.
Fahrzeug gemäß Anspruch 7, wobei das Initialisieren des Sweep-Kreises an einem geeigneten Punkt das Beseitigen von Störobjekten in einem Netz ermöglicht.
Fahrzeug gemäß Anspruch 1-8, wobei die Operationen, die das Identifizieren von Flächen umfassen, die jeweiligen Punktclustern der empfangenen LiDAR-Punktwolkeninformationen entsprechen, das Initialisieren der Vernetzung an Punkten umfassen, die der Bodenoberfläche entsprechen.
Fahrzeug gemäß Anspruch 1-9, wobei eine Graphendatenstruktur und ein Netz gleichzeitig aufgebaut werden.
Verfahren, umfassend: Empfangen von LiDAR-Punktwolkeninformationen aus mindestens einer LiDAR-Vorrichtung; Modellieren der Punktwolkeninformationen als Kugel unter Verwendung mindestens eines Prozessors; Identifizieren, unter Verwendung des mindestens einen Prozessors, von Flächen, die den jeweiligen Punktclustern der empfangenen LiDAR-Punktwolkeninformationen entsprechen; Erzeugen, unter Verwendung des mindestens einen Prozessors, einer Graphendatenstruktur, die Eckpunkte enthält, die den jeweiligen Flächen der identifizierten Flächen entsprechen; Verbinden, unter Verwendung des mindestens einen Prozessors, von Eckpunkten der Graphendatenstruktur basierend auf der Angrenzung der jeweils zugrundeliegenden Punkte und Eigenschaften der entsprechenden Flächen; Identifizieren, unter Verwendung des mindestens einen Prozessors, von Teilgraphen der Graphendatenstruktur, wobei jeder Teilgraph verbundene Eckpunkte enthält; Analysieren, unter Verwendung des mindestens einen Prozessors, von Eigenschaften der Flächen, die den Eckpunkten des Teilgraphen entsprechen; und Identifizieren, unter Verwendung des mindestens einen Prozessors, von Teilgraphen, die einem Hintergrundmerkmal der physischen Umgebung entsprechen, basierend auf der Analyse; und Betreiben des Fahrzeugs unter Verwendung einer Steuerschaltung basierend auf dem identifizierten Hintergrundmerkmal.
Verfahren gemäß Anspruch 11, umfassend das Projizieren der Punktwolke auf eine Einheitskugel.
Verfahren gemäß Anspruch 11 oder 12, wobei eine den Punktwolkeninformationen zugeordnete Dünnbesetzung mit zunehmendem Abstand vom LiDAR zunimmt.
Verfahren gemäß einem der Ansprüche 11-13, wobei die Punktwolkeninformationen nicht gleichmäßig abgetastet werden.
Verfahren gemäß Anspruch 11-14, das eine Kugelrotationstessellierung umfasst, um Flächen zu identifizieren, die den jeweiligen Punktclustern der empfangenen LiDAR-Punktwolkeninformationen entsprechen.
Verfahren gemäß einem der Ansprüche 11-15, wobei eine Fläche eine Ebene zwischen einer Vielzahl von Punkten in den Punktwolkeninformationen ist.
Verfahren gemäß einem der Ansprüche 11-16, wobei eine Trägheitsmesseinheit dazu verwendet wird, einen Schwerkraftvektor zu bestimmen, wobei der Schwerkraftvektor dazu verwendet wird, eine Bodenebenenrichtung zum Initialisieren eines Sweep-Kreises der sphärischen Delaunay-Triangulation zu schätzen, wobei die sphärische Delaunay-Triangulation mit einer Neuformulierung des Fortune-Sweep-Linien-Algorithmus zum Identifizieren von Flächen verwendet werden kann.
Verfahren gemäß Anspruch 17, wobei das Initialisieren des Sweep-Kreises an einem geeigneten Punkt das Beseitigen von Störobjekten in einem Netz ermöglicht.
Nichtflüchtiges computerlesbares Speichermedium, das mindestens ein Programm zur Ausführung durch mindestens einen Prozessor einer ersten Vorrichtung umfasst, wobei das mindestens eine Programm Anweisungen enthält, die beim Ausführen durch den mindestens einen Prozessor ein Verfahren ausführen, das Folgendes umfasst: Empfangen von LiDAR-Punktwolkeninformationen aus mindestens einer LiDAR-Vorrichtung; Modellieren der Punktwolkeninformationen als Kugel unter Verwendung mindestens eines Prozessors; Identifizieren, unter Verwendung des mindestens einen Prozessors, von Flächen, die den jeweiligen Punktclustern der empfangenen LiDAR-Punktwolkeninformationen entsprechen; Erzeugen, unter Verwendung des mindestens einen Prozessors, einer Graphendatenstruktur, die Eckpunkte enthält, die den jeweiligen Flächen der identifizierten Flächen entsprechen; Verbinden, unter Verwendung des mindestens einen Prozessors, von Eckpunkten der Graphendatenstruktur basierend auf der Angrenzung der jeweils zugrundeliegenden Punkte und Eigenschaften der entsprechenden Flächen; Identifizieren, unter Verwendung des mindestens einen Prozessors, von Teilgraphen der Graphendatenstruktur, wobei jeder Teilgraph verbundene Eckpunkte enthält; Analysieren, unter Verwendung des mindestens einen Prozessors, von Eigenschaften der Flächen, die den Eckpunkten des Teilgraphen entsprechen; und Identifizieren, unter Verwendung des mindestens einen Prozessors, von Teilgraphen, die einem Hintergrundmerkmal der physischen Umgebung entsprechen, basierend auf der Analyse; und Betreiben des Fahrzeugs unter Verwendung einer Steuerschaltung basierend auf dem identifizierten Hintergrundmerkmal.
Nichtflüchtiges computerlesbares Speichermedium gemäß Anspruch 19, umfassend das Projizieren der Punktwolke auf eine Einheitskugel.