DE102019217528A1 - Intelligente Steuerung der Aufnahme von Eingangsdaten für das aktive Lernen von Klassifikatoren - Google Patents

Intelligente Steuerung der Aufnahme von Eingangsdaten für das aktive Lernen von Klassifikatoren Download PDF

Info

Publication number
DE102019217528A1
DE102019217528A1 DE102019217528.7A DE102019217528A DE102019217528A1 DE 102019217528 A1 DE102019217528 A1 DE 102019217528A1 DE 102019217528 A DE102019217528 A DE 102019217528A DE 102019217528 A1 DE102019217528 A1 DE 102019217528A1
Authority
DE
Germany
Prior art keywords
input data
vehicle
classifier
training
data records
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102019217528.7A
Other languages
English (en)
Inventor
Konrad Groh
Matthias Woehrle
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Priority to DE102019217528.7A priority Critical patent/DE102019217528A1/de
Publication of DE102019217528A1 publication Critical patent/DE102019217528A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Human Computer Interaction (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)

Abstract

Verfahren (100) zum Erfassen einer Menge von Eingangsdatensätzen (2) für einen trainierbaren Klassifikator (1) mit den Schritten:• es wird in Bezug auf mindestens ein Fahrzeug (3), das mit mindestens einem Sensor (3b) zum Erfassen von Eingangsdatensätzen (2) ausgerüstet ist, mindestens eine Randbedingung (3a) hinsichtlich der von diesem Fahrzeug (3) erfassbaren Eingangsdatensätze (2) ermittelt (110);• auf der Basis der Randbedingung (3a) sowie des aktuellen Trainingsstandes (1a) des Klassifikators (1) wird eine Anweisung (4) zur Erfassung mindestens eines neuen Eingangsdatensatzes (2') ermittelt (120) mit dem Ziel, dass die Einbeziehung dieses neuen Eingangsdatensatzes (2') in das Training des Klassifikators (1) die Leistung des Klassifikators (1) im Hinblick auf mindestens ein vorgegebenes Kriterium (1b) verbessert; das Fahrzeug (3) wird mit der Anweisung (4) angesteuert (130) und so dazu veranlasst, den neuen Eingangsdatensatz (2') mit dem mindestens einen Sensor (3b) zu erfassen.Verfahren (200) mit vollständiger Wirkkette bis zur Ansteuerung technischer Systeme (50, 60, 70, 80, 90).

Description

  • Die vorliegende Erfindung betrifft die Gewinnung von Eingangsdaten, mit denen die Leistung von Klassifikatoren für Sensordaten im Hinblick auf eine vorgegebene Aufgabe im Wege des aktiven Lernens optimiert werden kann.
  • Stand der Technik
  • Damit sich ein Fahrzeug zumindest teilweise automatisiert im Straßenverkehr bewegen kann, ist es erforderlich, das Umfeld des Fahrzeugs zu erfassen und Gegenmaßnahmen einzuleiten, falls eine Kollision mit einem Objekt im Umfeld des Fahrzeugs droht. Auch die Erstellung einer Umfeld-Repräsentation und Lokalisierung sind für sicheres automatisiertes Fahren notwendig.
  • Um aus der physikalischen Beobachtung des Fahrzeugumfelds Entscheidungen bezüglich des weiteren Verhaltens des eigenen Fahrzeugs ableiten zu können, kommen vielfach Klassifikatoren mit Machine Learning-Modulen zum Einsatz. Analog einem menschlichen Fahrer, der bis zum Erwerb der Fahrerlaubnis typischerweise weniger als 100 Stunden fährt und weniger als 1000 km zurücklegt, können Machine Learning-Module das aus einem begrenzten Vorrat an Trainingsdaten geschöpfte Wissen auch auf eine Vielzahl weiterer Situationen verallgemeinern, die nicht Gegenstand des Trainings waren.
  • Dabei hängt die Fähigkeit des Klassifikators, das erlernte Wissen zu verallgemeinern, von der Variabilität der verwendeten Trainingsdaten ab. Beim „aktiven Lernen“ von Klassifikatoren werden neue Trainingsdatensätze gezielt danach ausgewählt, inwieweit deren Einbeziehung in das Training einen Mehrwert in Bezug auf die Leistung des Klassifikators verspricht.
  • Offenbarung der Erfindung
  • Im Rahmen der Erfindung wurde ein Verfahren zum Erfassen einer Menge von Eingangsdatensätzen für einen trainierbaren Klassifikator entwickelt.
  • Der Klassifikator beinhaltet eine Machine Learning-Funktionalität, d.h., eine mit anpassbaren Parametern parametrierte Funktion mit idealerweise großer Kraft zur Verallgemeinerung. Die Parameter können beim Training des Klassifikators insbesondere dergestalt angepasst werden, dass bei Eingabe von Lern-Eingabedaten in den Klassifikator die zugehörigen Lern-Ausgabedaten möglichst gut reproduziert werden. Der Klassifikator kann insbesondere ein künstliches neuronales Netzwerk, KNN, beinhalten, und/oder er kann ein KNN sein.
  • Der Begriff des Klassifikators ist nicht dahingehend einschränkend zu verstehen, dass damit Eingangsdatensätze nur genau einer von mehreren verfügbaren Klassen zugeordnet werden können. Vielmehr kann ein und derselbe Eingangsdatensatz auch mehreren Klassen zugeordnet werden. So kann beispielsweise die Klassifikation eines Bildes nach Objekttypen alle Objekttypen liefern, von denen mindestens ein Objekt in dem Bild sichtbar ist. Ein Klassifikator eignet sich also auch für Detektionsaufgaben oder auch beispielsweise für die semantische Segmentierung von Bildern oder anderen Eingangsdatensätzen nach Objekttypen (oder anderen Klassen).
  • Die Eingangsdatensätze sind beim Training des Klassifikators vielseitig verwendbar. Sie können beispielsweise genutzt werden
    • • als Trainingsdatensätze, die Lern-Eingabedaten für das Training des Klassifikators bereitstellen; und/oder
    • • als Test-Datensätze, anhand derer die Leistung eines konkreten Klassifikators bei einem konkreten Trainingsstand im Vergleich zu anderen Trainingsständen, und/oder zu anderen Klassifikatoren, bewertet werden kann; und/oder
    • • als Validierungs-Datensätze, die nicht für das Training verwendet werden, sondern zur Prüfung, ob der Klassifikator das aus den Trainingsdatensätzen gelernte Wissen zutreffend verallgemeinert.
  • Bei diesem Verfahren wird in Bezug auf mindestens eine Fahrzeug, das mit mindestens einem Sensor zum Erfassen von Eingangsdatensätzen ausgerüstet ist, mindestens eine Randbedingung hinsichtlich der von diesem Fahrzeug erfassbaren Eingangsdatensätze ermittelt. Auf der Basis der Randbedingung sowie des aktuellen Trainingsstandes des Klassifikators wird eine Anweisung zur Erfassung mindestens eines Eingangsdatensatzes ermittelt. Diese Anweisung ist von dem Ziel geleitet, dass die Einbeziehung des zu beschaffenden Eingangsdatensatzes in das Training des Klassifikators die Leistung des Klassifikators im Hinblick auf mindestens ein vorgegebenes Kriterium verbessert. Das Fahrzeug wird mit dieser Anweisung angesteuert und so dazu veranlasst, den neuen Eingangsdatensatz mit dem mindestens einen Sensor zu erfassen.
  • Es wurde erkannt, dass auf diese Weise insbesondere das Sammeln von Eingangsdatensätzen von einer großen Zahl Fahrzeuge, die mit physikalischen Sensoren Messdaten erfassen, vorteilhaft koordiniert werden kann. Jedes dieser Fahrzeuge hat dann zu der Zeit und an der Position, an der es sich aktuell befindet, die Möglichkeit, bestimmte Klassen von Situationen zu erfassen. Diese Möglichkeiten sind naturgemäß begrenzt, da sich viele Eigenschaften, durch die sich die Situationen voneinander unterscheiden, gegenseitig ausschließen. So kann etwa ein Fahrzeug, das in einem Gebiet mit Regenwetter unterwegs ist, Eingangsdaten für Fahrten bei Regenwetter erfassen, aber nicht gleichzeitig Eingangsdaten für Fahrten bei Sonnenschein und trockener Fahrbahn. Wenn nun beispielsweise eine große Flotte von Fahrzeugen durch einen zentralen Server koordiniert wird, dann kann dieser Server beispielsweise durch regelmäßige Statusmeldungen der Fahrzeuge darüber informiert werden, welches Fahrzeug aktuell Eingangsdaten zu welchen Typen von Situationen beisteuern kann. Stellt der zentrale Server nun beispielsweise fest, dass das Training eines Systems für die Erkennung von Verkehrszeichen in Bildern von zusätzlichen Eingangsdaten für Fahrsituationen bei Regen und Wind besonders profitieren würde, so kann er dasjenige Fahrzeug, das sich genau diese Eingangsdaten am ehesten verschaffen kann, mit einer entsprechenden Anweisung ansteuern.
  • Wenn die Fahrzeuge für das zumindest teilweise automatisierte Fahren ausgerüstet sind, kann beispielsweise eine Anweisung, zur Aufnahme von Eingangsdaten eine bestimmte Route mit einer bestimmten Geschwindigkeit abzufahren, automatisch vom Fahrzeug umgesetzt werden. Es muss aber nicht jedes Fahrzeug, das zu einer zentral koordinierten Sammlung von Eingangsdaten beitragen soll, mit automatisierten Fahrfunktionen ausgerüstet sein. Beispielsweise kann eine Anweisung, eine bestimmte Route zu fahren, auch durch Einwirkung auf ein Navigationssystem oder ähnliche Mittel an einen menschlichen Fahrer des Fahrzeugs übermittelt werden. Der menschliche Fahrer setzt diese Anweisung dann durch Bedienung der normalen Steuerelemente des Fahrzeugs um.
  • Wenngleich Fahrzeuge ein gutes Beispiel für Datenquellen sind, deren Randbedingungen in Bezug auf erfassbare Situationen ständig wechseln, ist die grundlegende Funktion des Verfahrens nicht auf Fahrzeuge als Datenquellen beschränkt. Beispielsweise können auch fest montierte Sensoren zur Erfassung von Messwerten angesteuert werden. Weiterhin können beispielsweise auch Eingangsdaten von externen Quellen zugekauft werden. Durch die gemeinsame Koordination von Datenquellen unterschiedlicher Typen können insbesondere auch die Kosten für den Erwerb von Eingangsdatensätzen optimiert werden. So ist es etwa nicht notwendig, Eingangsdatensätze, die ein eigenes Testfahrzeug schnell „einfahren“ könnte, von einem externen Dienstleister zu kaufen.
  • Das Verfahren ist weiterhin nicht darauf eingeschränkt, dass das Anwachsen der Menge von Eingangsdatensätzen von einem ortsfesten zentralen Server koordiniert wird. Vielmehr kann das „aktive Lernen“, bei dem der Vorrat an Eingangsdaten im Hinblick auf eine „Weiterbildung“ des Klassifikators stetig ergänzt wird, auch von einem bestimmten Fahrzeug, auf dem das „aktive Lernen“ stattfinden soll, koordiniert werden. Dieses Fahrzeug kann beispielsweise über „Vehicle to Vehicle“ (V2V)-Kommunikation mit anderen Fahrzeugen in Verbindung treten und von diesen Fahrzeugen weitere Eingangsdaten beziehen. Weiterhin kann beispielsweise auch ein und dasselbe Fahrzeug sowohl in dieser Weise seinen eigenen Klassifikator weiter trainieren als auch als Datenquelle für eine durch einen zentralen Server koordinierte Sammlung von Eingangsdaten dienen.
  • Der Klassifikator kann insbesondere beispielsweise dazu ausgebildet sein, aus Datensätzen mit realen und/oder simulierten physikalischen Messdaten
    • • eine Zugehörigkeit dieser Datensätze zu einer oder mehreren Klassen einer Klassifikation, und/oder
    • • eine semantische Segmentierung dieser Datensätze anhand einer durch die jeweilige Anwendung vorgegebenen Bedeutung, und/oder
    • • mindestens einen Regressionswert einer gesuchten Größe,
    zu ermitteln.
  • Die physikalischen Messdaten können beispielsweise mit einer oder mehreren Kameras, die auf Strahlung im sichtbaren oder auch unsichtbaren Bereich (etwa Infrarot) sensitiv sind, erfasst werden. Alternativ oder auch in Kombination hierzu können die physikalischen Messdaten beispielsweise auch mit Radar- oder LIDAR-Sensoren erfasst werden.
  • Wenn der Klassifikator im Zusammenhang mit der Steuerung von Fahrzeugen verwendet wird, kann er beispielsweise eingegebene physikalische Messdaten auf Klassen von Objekten abbilden, deren Vorhandensein durch diese Messdaten angezeigt wird. Die Objekte, nach denen in dieser Weise gesucht wird, können insbesondere beispielsweise Verkehrszeichen, andere Verkehrsteilnehmer, Fahrbahnmarkierungen, Signalanlagen oder andere verkehrsrelevante Objekte sein. Dementsprechend kann beispielsweise eine semantische Segmentierung eines Bildes angeben, welche Pixel, Voxel, Stixel oder andere Untereinheiten des Bildes welchen Typen von Objekten zuzuordnen sind. Der Klassifikator kann aber auch Regressionswerte liefern. Ein Regressionswert kann beispielsweise eine Geschwindigkeit eines anderen Verkehrsteilnehmers, ein Reibwert für den Kontakt zwischen Reifen und Fahrbahn oder eine andere für das Steuern des Fahrzeugs relevante Größe sein.
  • Gerade im Zusammenhang mit der Steuerung und/oder Überwachung von Fahrzeugen unter Nutzung von Klassifikatoren korrespondiert die Häufigkeit, mit der bestimmte Fahrsituationen in den Eingangsdaten vorkommen, oft nicht mit der Wichtigkeit einer sicheren Beherrschung dieser Situationen. So mag es beispielsweise nur selten vorkommen, dass die tiefstehende Sonne aus der Sicht des zu steuernden Fahrzeugs genau von vorne kommt und im passenden Winkel in die für die Bildaufnahme verwendete Kamera trifft, so dass der Dynamikumfang der Kamera gesättigt ist und die Qualität der mit der Kamera aufgenommenen Bilder leidet. Wenn dies aber einmal der Fall ist, sollten beispielsweise Verkehrszeichen nach wie vor richtig klassifiziert werden. Auch sind beispielsweise Eingangsdatensätze für das Fahren bei Starkregen knapp, da Starkregen meist plötzlich auftritt und eine Trainingsfahrt bei Starkregen entsprechend schwer vorab planbar ist. Gleichwohl wird erwartet, dass beispielsweise eine Objekterkennung auch mit Starkregen umgehen kann.
  • Um solchen Knappheiten von Eingangsdatensätzen abzuhelfen, beinhaltet in einer besonders vorteilhaften Ausgestaltung die Anweisung an das Fahrzeug, von zwei möglichen Situationen, in denen physikalischer Messdaten von dem Fahrzeug erfassbar sind, diejenige auszuwählen,
    • • die zeitlich kurzlebiger ist, und/oder
    • • die seltener auftritt, und/oder
    • • in der Eingangsdaten zu erwarten sind, die eine höhere Relevanz für die Aufgabe und zugehörige Herausforderungen bezüglich der Domäne der Eingangsdaten haben; und/oder
    • • in der Eingangsdaten zu erwarten sind, die eine höhere Relevanz für die spezielle Machine Learning Komponente des Klassifikators, und/oder für deren Kostenfunktion, haben.
  • Die Auswahl kann beispielsweise nach einem Punktesystem erfolgen, in dem der Grad, zu dem jedes der genannten Kriterien erfüllt ist, mit einer Punktzahl bewertet wird. Es kann dann von den möglichen Situationen diejenige mit der höchsten Punktzahl ausgewählt werden. Hierbei können die Kriterien je nach den Bedürfnissen der vorliegenden Anwendung in beliebiger Weise gewichtet werden. Beispielsweise kann festgelegt sein, dass für zeitliche Kurzlebigkeit maximal 10 Punkte vergeben werden können, während für seltenes Auftreten maximal 20 Punkte vergeben werden können.
  • Wenn beispielsweise ein zentraler Server, der den Erwerb der Eingangsdatensätze koordiniert, feststellt, dass frische Eingangsdaten für das Fahren bei Starkregen für das weitere Training förderlich wären und an einem bestimmten Ort gerade Starkregen niedergeht, können als Datenquellen fungierende Fahrzeuge in der Nähe dieses Orts gezielt in den Starkregen geschickt werden.
  • Das Kriterium, nach dem weitere Eingangsdatensätze ausgewählt werden, wird durch die jeweilige Anwendung des Klassifikators vorgegeben. Im Zusammenhang mit der Steuerung von Fahrzeugen unter Nutzung von Klassifikatoren sind insbesondere drei Kriterien relevant, die einzeln oder auch (beispielsweise gewichtet) in Kombination berücksichtigt werden können.
  • Das Kriterium kann beispielsweise eine Minimierung der Unsicherheit mindestens einer Größe, die der Klassifikator aus eingegebenen Daten ermittelt, beinhalten. So wird beispielsweise bei einer Klassifikation oder Regression neben der Zugehörigkeit zu einer oder mehreren Klassen, bzw. neben einem oder mehreren Regressionswerten, häufig auch gleich eine Unsicherheit mitgeliefert. Eine Klassifikation kann beispielsweise einen Softmax-Score liefern, der zu jeder verfügbaren Klasse die Konfidenz angibt, mit der die eingegebenen Daten dieser Klasse angehören. Ist diese Konfidenz nun beispielsweise nur für eine Klasse hoch und für die anderen Klassen deutlich niedriger, ist die Einteilung in die Klasse vergleichsweise sicher. Ist hingegen die Konfidenz für diese Klasse nur wenig höher als für die anderen Klassen, ist die Einteilung vergleichsweise unsicher.
  • Alternativ oder auch in Kombination hierzu kann das Kriterium beispielsweise eine Übereinstimmung einer Verteilung von durch die jeweiligen Eingangsdatensätze verkörperten Situationen mit einer vorgegebenen Soll-Verteilung umfassen. Wie zuvor erläutert, sollten beispielsweise Situationen, auf deren sichere Beherrschung es für die sichere Teilnahme am Verkehr ankommt, in den Eingangsdaten nicht völlig unterrepräsentiert sein. Auf der anderen Seite kommen solche Situationen zuweilen nur selten vor. So ist beispielsweise bei Blitzeis die richtige Reaktion essentiell, damit die Haftreibung nicht in Gleitreibung übergeht, was zum Kontrollverlust führen würde. Blitzeis tritt aber nur räumlich und zeitlich begrenzt auf, und es ist zu gefährlich, im öffentlichen Straßenverkehr ein Testfahrzeug gezielt auf von Blitzeis betroffene Straßen zu schicken. Wenn eine hinreichend große Flotte von Fahrzeugen als Datenquellen zur Verfügung steht, können jedoch Fahrzeuge, die gerade von dem Blitzeis betroffen sind, gezielt angesprochen werden und Eingangsdaten für Blitzeis erfassen.
  • Alternativ oder auch in Kombination hierzu kann das Kriterium beispielsweise eine maximale Plausibilität mindestens einer Größe, die der Klassifikator aus eingegebenen Daten ermittelt, mit einem für die jeweilige Anwendung vorgegebenen Modell beinhalten. Wenn beispielsweise ein zentraler Server die Sammlung von Eingangsdatensätzen koordiniert, so kann dieser zentrale Server aus den von allen Fahrzeugen gelieferten Eingangsdatensätzen in Verbindung mit eigenen Erkundigungen (beispielsweise Kartendaten, Wetterdaten und Daten zur Verkehrsdichte) ein „globales Modell“ der Umgebung erstellen, in der sich die Fahrzeuge bewegen. Ausgaben von Klassifikatoren können dann beispielsweise daraufhin überprüft werden, ob sie im Einklang mit diesem „globalen Modell“ stehen. Wenn ausweislich des „globalen Modells“ etwa an einem bestimmten Ort eine bestimmte Konstellation von Verkehrszeichen vorhanden ist, dann wird erwartet, dass der Klassifikator diese Konstellation richtig erkennt.
  • Allgemein kann ein Fahrzeug in Antwort darauf, dass es mit der Anweisung zur Beschaffung mindestens eines Eingangsdatensatzes angesteuert wird, mindestens einen physikalischen Sensor, und/oder die Datenaufnahme mit diesem physikalischen Sensor, aktivieren, und/oder sie kann durch Einwirkung auf mindestens einen Antrieb und/oder Aktor den von mindestens einem physikalischen Sensor erfassbaren räumlichen Bereich verändern. Der erfassbare Bereich ändert sich beispielsweise, wenn ein mit dem Sensor versehenes Fahrzeug an eine andere Position fährt. Der erfassbare Bereich kann sich aber auch beispielsweise durch Zoomen ändern. Das Aktivieren eines physikalischen Sensors kann insbesondere beispielsweise sinnvoll sein, um Eingangsdaten, die mit einer ersten physikalischen Modalität aufgenommen wurden, durch zusätzliche Messungen mit einer zweiten physikalischen Modalität anzureichern.
  • Allgemein ist es nach dem zuvor Beschriebenen vorteilhaft, eine Mehrzahl von Fahrzeugen von einem zentralen Server mit Anweisungen anzusteuern. Wie zuvor erläutert, können dann besonders flexibel Eingangsdaten zu Situationen erfasst werden, die nur selten und dann immer plötzlich ohne Vorankündigung auftreten.
  • Die Eingangsdatensätze können insbesondere vorteilhaft auf Veranlassung des zentralen Servers von allen Fahrzeugen gesammelt werden, und der Klassifikator kann dann auf Veranlassung des zentralen Servers fortwährend unter Nutzung dieser Eingangsdatensätze als Trainingsdaten trainiert werden. Auf diese Weise wird der Trainingsstand des Klassifikators fortwährend aktualisiert. Mit dem Trainingsfortschritt ändert sich jeweils die „Wunschtiste“ des Klassifikators dahingehend, welche weiteren Trainingsdatensätze bevorzugt zugeführt werden sollten, um die anhand des vorgegebenen Kriteriums gemessene Leistung weiter zu verbessern.
  • In einer weiteren besonders vorteilhaften Ausgestaltung übermitteln die Fahrzeuge fortwährend Statusinformationen an den zentralen Server. Der Server kann dann beispielsweise in Antwort darauf, dass aus Sicht des Klassifikators ein Bedarf an Eingangsdaten zu bestimmten Situationen besteht, direkt auf ein passendes Fahrzeug zurückgreifen, um diese Eingangsdaten anzufordern. Der zentrale Server kann beispielsweise auch ermitteln, wie häufig bestimmte Situationen vorkommen, und entsprechende Verteilungen ermitteln. Der zentrale Server kann beispielsweise auch ermitteln, mit wie vielen Eingangsdaten jede Situation abgedeckt ist.
  • In einer besonders vorteilhaften Ausgestaltung wird ein Klassifikator gewählt, der dazu ausgebildet ist, aus durch Beobachtung des Umfelds eines Fahrzeugs mit mindestens einem Sensor erhaltenen physikalischen Messdaten mindestens eine für die Steuerung des Verhaltens dieses Fahrzeugs im Verkehr relevante Größe zu ermitteln. Wie zuvor erläutert, kommt es gerade in dieser Anwendung darauf an, dass die Variabilität der zum Training verwendeten Trainingsdatensätze ausgewogen ist und insbesondere wichtige Situationen, auch wenn sie im Betrieb des Fahrzeugs selten vorkommen, nicht unterrepräsentiert sind.
  • Die verschiedenen Situationen, für die die an unterschiedlichen Orten befindlichen Fahrzeuge jeweils Eingangsdatensätze registrieren können, können im Rahmen des Verfahrens gepoolt werden, um insgesamt die für das Training vorteilhafte ausgewogene Variabilität der Trainingsdatensätze zu erzielen.
  • Die Randbedingung dahingehend, welche Eingangsdatensätze von einem konkreten Fahrzeug aktuell zur Verfügung gestellt werden können, kann insbesondere beispielsweise aus
    • • der Position (Pose), Geschwindigkeit bzw. Beschleunigung des Fahrzeugs, und/oder
    • • dem vom Fahrzeug aktuell befahrenen Straßentyp und Straßentopologie inkl. Spuren und Verkehrszeichen, und/oder
    • • dem Straßenzustand an der aktuellen Position des Fahrzeugs, und/oder
    • • den lokalen Verkehrsverhältnissen an der aktuellen Position des Fahrzeugs, und/oder
    • • den lokalen Wetterverhältnissen an der aktuellen Position des Fahrzeugs, und/oder
    • • der Ausstattung des Fahrzeugs mit physikalischen Sensoren
    ermittelt werden. Dies sind wesentliche Größen, die einzeln oder in Kombination unterschiedliche Verkehrssituationen charakterisieren können. Wenn aus Sicht des Klassifikators ein Bedarf an zusätzlichen Eingangsdatensätzen besteht, sind ein oder mehrere Fahrzeuge, die diesen Bedarf decken können, durch den Server anhand dieser und/oder weiterer Größen schnell auffindbar.
  • Ein Produkt des Verfahrens ist die letztendlich vorhandene Menge von Eingangsdatensätzen. Hierin steckt eine Art Handlungsanweisung, wie ein Klassifikator trainiert werden kann, damit seine Leistung im Hinblick auf das vorgegebene Kriterium optimal wird. Wer diese Menge von Eingangsdatensätzen hat, kann das Training unter Nutzung dieser Eingangsdatensätze als Trainingsdatensätze unmittelbar durchführen, ohne zuerst bei einer Vielzahl von Fahrzeugen oder anderen Datenquellen um Trainingsdatensätze nachsuchen zu müssen. Daher ist die Menge an Eingangsdatensätzen ein eigenständig verkaufbares Produkt, auf das sich die Erfindung ebenfalls bezieht.
  • Ein weiteres Produkt des Verfahrens ist der Trainingszustand des Klassifikators. Wie zuvor erläutert, kann die Erhebung neuer Eingangsdatensätze das Training begleiten, so dass in dem Moment, in dem die Menge der Eingangsdatensätze feststeht, auch das Training im Wesentlichen fertig ist. Das Trainingsergebnis ist in den Parametern verkörpert, die das Verhalten des Klassifikators charakterisieren. Wer einen Parametersatz mit diesen Parametern hat, kann den Klassifikator unmittelbar im trainierten Zustand nutzen, ohne es zuerst trainieren zu müssen. Daher bezieht sich die Erfindung auch auf den Parametersatz.
  • Die Erfindung bezieht sich auch auf ein weiteres Verfahren. Bei diesem Verfahren wird eine Menge von Eingangsdatensätzen mit dem zuvor beschriebenen Verfahren erfasst. Ein trainierbarer Klassifikator wird unter Nutzung dieser Eingangsdatensätze als Trainingsdatensätze trainiert, wobei dies, wie zuvor erläutert, zumindest teilweise auch begleitend zur Gewinnung der Menge von Eingangsdatensätzen geschehen kann.
  • Der trainierte Klassifikator wird betrieben, indem er sensorisch erfasste physikalische Messdaten, bzw. hieraus abgeleitete Größen, auf Ausgabedaten abbildet. Abhängig von den Ausgabedaten wird ein Fahrzeug, für ein Klassifikationssystem, ein System für die Qualitätskontrolle von in Serie gefertigten Produkten, ein System für die Überwachung von Bereichen, und/oder ein System für die medizinische Bildgebung, mit einem Ansteuersignal angesteuert.
  • Im Rahmen dieses Verfahrens führt das verbesserte Training dazu, dass der Klassifikator in einer größeren Bandbreite von Situationen Ausgangsdaten erzeugt, die im Sinne der jeweiligen Anwendung gut zu der Situation passen. Damit bewirkt dann auch das hieraus erzeugte Ansteuersignal einen Eingriff in das jeweilige technische System, der zu dem in der jeweiligen Situation im Sinne der Anwendung erwünschten Verhalten führt.
  • Die Verfahren können insbesondere ganz oder teilweise computerimplementiert sein. Daher bezieht sich die Erfindung auch auf ein Computerprogramm mit maschinenlesbaren Anweisungen, die, wenn sie auf einem oder mehreren Computern ausgeführt werden, den oder die Computer dazu veranlassen, eines der beschriebenen Verfahren auszuführen. In diesem Sinne sind auch Steuergeräte für Fahrzeuge und Embedded-Systeme für technische Geräte, die ebenfalls in der Lage sind, maschinenlesbare Anweisungen auszuführen, als Computer anzusehen.
  • Ebenso bezieht sich die Erfindung auch auf einen maschinenlesbaren Datenträger und/oder auf ein Downloadprodukt mit der Menge der Eingangsdatensätze, mit dem Parametersatz bzw. mit dem Computerprogramm. Ein Downloadprodukt ist ein über ein Datennetzwerk übertragbares, d.h. von einem Benutzer des Datennetzwerks downloadbares, digitales Produkt, das beispielsweise in einem Online-Shop zum sofortigen Download feilgeboten werden kann.
  • Weiterhin kann ein Computer mit dem Computerprogramm, mit der Menge der Eingangsdatensätze, mit dem Parametersatz, mit dem maschinenlesbaren Datenträger bzw. mit dem Downloadprodukt ausgerüstet sein.
  • Weitere, die Erfindung verbessernde Maßnahmen werden nachstehend gemeinsam mit der Beschreibung der bevorzugten Ausführungsbeispiele der Erfindung anhand von Figuren näher dargestellt.
  • Figurenliste
  • Es zeigt:
    • 1 Ausführungsbeispiel des Verfahrens 100 zum Erfassen einer Menge von Eingangsdatensätzen 2;
    • 2 Ausführungsbeispiel des Verfahrens 200 mit vollständiger Wirkkette bis zum Ansteuern technischer Systeme 50, 60, 70, 80, 90.
  • 1 ist ein Ablaufdiagramm eines Ausführungsbeispiels des Verfahrens 100. In Schritt 110 wird in Bezug auf mindestens eine Fahrzeug 3, das mit mindestens einem Sensor 3b zum Erfassen von Eingangsdatensätzen 2 ausgerüstet ist, mindestens eine Randbedingung 3a hinsichtlich der von diesem Fahrzeug 3 erfassbaren Eingangsdatensätze 2 ermittelt. Gemäß Block 111 kann diese Randbedingung 3a in Bezug auf ein Fahrzeug 3 insbesondere aus Größen ermittelt werden, die den Zustand, die Umgebung und/oder die Verkehrssituation des Fahrzeugs 3 charakterisieren.
  • In Schritt 120 wird auf der Basis der Randbedingung 3a sowie des aktuellen Trainingsstandes 1a des Klassifikators 1 eine Anweisung 4 zur Erfassung mindestens eines neuen Eingangsdatensatzes 2' ermittelt. Mit dieser Anweisung 4 wird das Ziel verfolgt, dass die Einbeziehung dieses Eingangsdatensatzes 2' in das Training des Klassifikators 1 die Leistung des Klassifikators 1 im Hinblick auf mindestens ein vorgegebenes Kriterium 1b verbessert. In Schritt 130 wird das Fahrzeug 3 mit der Anweisung 4 angesteuert und so dazu veranlasst, den neuen Eingangsdatensatz 2' mit dem mindestens einen Sensor 3b zu erfassen. Das Fahrzeug 3 gibt daraufhin den angeforderten Eingangsdatensatz 2' zurück, so dass dieser neue Eingangsdatensatz 2' dem Pool der vorhandenen Eingangsdatensätze 2 hinzugefügt wird.
  • Die Anweisung 4 ist nicht darauf beschränkt, lediglich ein Fahrzeug 3 auszuwählen und dieses, analog einem Druck auf den Auslöser einer Kamera, zu einem bestimmten Zeitpunkt zur Erfassung eines Eingangsdatensatzes 2' zu veranlassen. Vielmehr kann gemäß Block 140 die Anweisung 4 auch bewirken, dass das Fahrzeug 3 einen physikalischen Sensor 3b aktiviert, und/oder den von diesem Sensor 3b erfassbaren räumlichen Bereich 3c verändert.
  • Die Anweisungen 4 können insbesondere von einem zentralen Server 7 ausgegeben werden. Dieser zentrale Server kann insbesondere das Sammeln 150 der Eingangsdatensätze 2, 2' von allen Fahrzeugen 3, sowie das Trainieren 160 des Klassifikators 1 unter Nutzung der gesammelten Eingangsdatensätze 2 als Trainingsdatensätze, koordinieren. Gemäß Schritt 170 können die Fahrzeuge 3 fortwährend Statusinformationen, aus denen die Randbedingungen 3a hervorgehen, an den zentralen Server 7 übermitteln.
  • Der Klassifikator 1 ist in dem in 1 gezeigten Beispiel dazu ausgebildet, aus Datensätzen 5 mit realen und/oder simulierten physikalischen Messdaten eine für die jeweilige Anwendung relevante Größe 6 zu ermitteln. Diese Größe 6 kann beispielsweise
    • • eine Zugehörigkeit 6a dieser Datensätze 5 zu einer oder mehreren Klassen einer Klassifikation, und/oder
    • • eine semantische Segmentierung 6b dieser Datensätze 5 anhand einer durch die jeweilige Anwendung vorgegebenen Bedeutung, und/oder
    • • mindestens einen Regressionswert 6c einer gesuchten Größe, umfassen.
  • 2 zeigt ein Ausführungsbeispiel des Verfahrens 200. In Schritt 210 dieses Verfahrens 200 wird eine Menge von Eingangsdatensätzen 2 mit dem zuvor beschriebenen Verfahren 100 erfasst. In Schritt 220 wird ein trainierbarer Klassifikator 1 unter Nutzung der Eingangsdatensätze 2 als Trainingsdatensätze trainiert. Die Schritt 210 und 210 können iterativ sein dahingehend, dass beispielsweise fortwährend der aktuelle Trainingsstand 1a des Klassifikators 1 an die Beschaffung 210 von Eingangsdatensätzen 2 zurückgekoppelt wird.
  • Wenn das Training 220 abgeschlossen ist, liegt der Klassifikator 1 in seinem trainierten Zustand 1* vor. Er wird dann gemäß Schritt 230 im Sinne seiner Zweckbestimmung betrieben, indem er sensorisch erfasste physikalische Messdaten 5 auf Ausgabedaten 6 abbildet. In Schritt 240 wird aus diesen Ausgabedaten 6 ein Ansteuersignal 240a gebildet. Ein Fahrzeug 50, ein Klassifikationssystem 60, ein System 70 für die Qualitätskontrolle von in Serie gefertigten Produkten, ein System 80 für die Überwachung von Bereichen, und/oder ein System 90 für die medizinische Bildgebung, wird mit diesem Ansteuersignal 240a angesteuert.

Claims (15)

  1. Verfahren (100) zum Erfassen einer Menge von Eingangsdatensätzen (2) für einen trainierbaren Klassifikator (1) mit den Schritten: • es wird in Bezug auf mindestens ein Fahrzeug (3), das mit mindestens einem Sensor (3b) zum Erfassen von Eingangsdatensätzen (2) ausgerüstet ist, mindestens eine Randbedingung (3a) hinsichtlich der von diesem Fahrzeug (3) erfassbaren Eingangsdatensätze (2) ermittelt (110); • auf der Basis der Randbedingung (3a) sowie des aktuellen Trainingsstandes (1a) des Klassifikators (1) wird eine Anweisung (4) zur Erfassung mindestens eines neuen Eingangsdatensatzes (2') ermittelt (120) mit dem Ziel, dass die Einbeziehung dieses neuen Eingangsdatensatzes (2') in das Training des Klassifikators (1) die Leistung des Klassifikators (1) im Hinblick auf mindestens ein vorgegebenes Kriterium (1b) verbessert; • das Fahrzeug (3) wird mit der Anweisung (4) angesteuert (130) und so dazu veranlasst, den neuen Eingangsdatensatz (2') mit dem mindestens einen Sensor (3b) zu erfassen.
  2. Verfahren (100) nach Anspruch 1, wobei der Klassifikator (1) dazu ausgebildet ist, aus Datensätzen (5) mit realen und/oder simulierten physikalischen Messdaten • eine Zugehörigkeit (6a) dieser Datensätze (5) zu einer oder mehreren Klassen einer Klassifikation, und/oder • eine semantische Segmentierung (6b) dieser Datensätze (5) anhand einer durch die jeweilige Anwendung vorgegebenen Bedeutung, und/oder • mindestens einen Regressionswert (6c) einer gesuchten Größe, zu ermitteln.
  3. Verfahren (100) nach Anspruch 2, wobei die Anweisung (4) beinhaltet, von zwei möglichen Situationen, in denen physikalische Messdaten von dem Fahrzeug (3) erfassbar sind, diejenige auszuwählen, • die zeitlich kurzlebiger ist, und/oder • die seltener auftritt, und/oder • in der Eingangsdaten zu erwarten sind, die eine höhere Relevanz für die Aufgabe und zugehörige Herausforderungen bezüglich der Domäne der Eingangsdaten haben; und/oder • in der Eingangsdaten zu erwarten sind, die eine höhere Relevanz für die spezielle Machine Learning Komponente des Klassifikators (1), und/oder für deren Kostenfunktion, haben.
  4. Verfahren (100) nach einem der Ansprüche 1 bis 3, wobei das vorgegebene Kriterium (1b) • eine Minimierung der Unsicherheit mindestens einer Größe (6), die der Klassifikator (1) aus eingegebenen Daten (5) ermittelt, und/oder • eine Übereinstimmung einer Verteilung von durch die jeweiligen Eingangsdatensätze (2) verkörperten Situationen mit einer vorgegebenen Soll-Verteilung, und/oder • eine maximale Plausibilität mindestens einer Größe (6), die der Klassifikator (1) aus eingegebenen Daten (5) ermittelt, mit einem für die jeweilige Anwendung vorgegebenen Modell, beinhaltet.
  5. Verfahren (100) nach einem der Ansprüche 1 bis 4, wobei das Fahrzeug (3) in Antwort darauf, dass es mit der Anweisung (4) angesteuert wird (130), mindestens einen physikalischen Sensor (3b) aktiviert, und/oder durch Einwirkung auf mindestens einen Antrieb und/oder Aktor den von mindestens einem physikalischen Sensor (3b) erfassbaren räumlichen Bereich (3c) verändert (140).
  6. Verfahren (100) nach einem der Ansprüche 1 bis 5, wobei eine Mehrzahl Fahrzeuge (3) von einem zentralen Server (7) mit Anweisungen (4) angesteuert wird (130).
  7. Verfahren (100) nach Anspruch 6, wobei auf Veranlassung des zentralen Servers (7) die Eingangsdatensätze (2, 2') von allen Fahrzeugen (3) gesammelt werden (150) und der Klassifikator (1) fortwährend mit diesen Eingangsdatensätzen (2, 2') als Trainingsdatensätzen trainiert wird (160).
  8. Verfahren (100) nach einem der Ansprüche 6 bis 7, wobei die Fahrzeuge (3) fortwährend Statusinformationen, aus denen die Randbedingungen (3a) hervorgehen, an den zentralen Server (7) übermitteln (170).
  9. Verfahren (100) nach einem der Ansprüche 1 bis 8, wobei ein Klassifikator (1) gewählt wird, der dazu ausgebildet ist, aus durch Beobachtung des Umfelds eines Fahrzeugs (3, 50) mit mindestens einem Sensor (3b) erhaltenen physikalischen Messdaten (5) mindestens eine für die Steuerung des Verhaltens dieses Fahrzeugs (3, 50) im Verkehr relevante Größe (6) zu ermitteln.
  10. Verfahren (100) nach einem der Ansprüche 1 bis 9, wobei die Randbedingung (3a) in Bezug auf mindestens ein Fahrzeug (3) aus • der Position, der Pose, der Geschwindigkeit und/oder der Beschleunigung des Fahrzeugs (3), und/oder • dem vom Fahrzeug (3) aktuell befahrenen Straßentyp, und/oder • der von Fahrzeug (3) aktuell befahrenen Straßentopologie einschließlich Spuren und Verkehrszeichen, und/oder • dem Straßenzustand an der aktuellen Position des Fahrzeugs (3), und/oder • den lokalen Verkehrsverhältnissen an der aktuellen Position des Fahrzeugs (3), und/oder • den lokalen Wetterverhältnissen an der aktuellen Position des Fahrzeugs (3), und/oder • der Ausstattung des Fahrzeugs (3) mit physikalischen Sensoren ermittelt wird (111).
  11. Menge von Eingangsdatensätzen (2) für das Training eines trainierbaren Klassifikators (1), und/oder Parametersatz mit Parametern, die das Verhalten eines mit diesen Eingangsdatensätzen (2) als Trainingsdatensätzen trainierten Klassifikators (1) charakterisieren, erhalten mit dem Verfahren nach einem der Ansprüche 1 bis 10.
  12. Verfahren (200) mit den Schritten: • eine Menge von Eingangsdatensätzen (2) wird mit dem Verfahren (100) nach einem der Ansprüche 1 bis 11 erfasst (210); • ein trainierbarer Klassifikator (1) wird anhand der Eingangsdatensätze (2) als Trainingsdatensätze trainiert (220); • der trainierte Klassifikator (1*) wird betrieben (230), indem er sensorisch erfasste physikalische Messdaten (5) auf Ausgabedaten (6) abbildet; • abhängig von den Ausgabedaten (6) wird ein Fahrzeug (50), ein Klassifikationssystem (60), ein System (70) für die Qualitätskontrolle von in Serie gefertigten Produkten, ein System (80) für die Überwachung von Bereichen, und/oder ein System (90) für die medizinische Bildgebung, mit einem Ansteuersignal (240a) angesteuert (240).
  13. Computerprogramm, enthaltend maschinenlesbare Anweisungen, die, wenn sie auf einem oder mehreren Computern ausgeführt werden, den oder die Computer dazu veranlassen, ein Verfahren (100, 200) nach einem der Ansprüche 1 bis 10 oder 12 auszuführen.
  14. Maschinenlesbarer Datenträger und/oder Downloadprodukt mit der Menge von Eingangsdatensätzen und/oder dem Parametersatz nach Anspruch 11, und/oder mit dem Computerprogramm nach Anspruch 13.
  15. Computer, ausgerüstet mit dem Computerprogramm nach Anspruch 13, und/oder mit dem maschinenlesbaren Datenträger und/oder Downloadprodukt nach Anspruch 14.
DE102019217528.7A 2019-11-13 2019-11-13 Intelligente Steuerung der Aufnahme von Eingangsdaten für das aktive Lernen von Klassifikatoren Pending DE102019217528A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102019217528.7A DE102019217528A1 (de) 2019-11-13 2019-11-13 Intelligente Steuerung der Aufnahme von Eingangsdaten für das aktive Lernen von Klassifikatoren

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102019217528.7A DE102019217528A1 (de) 2019-11-13 2019-11-13 Intelligente Steuerung der Aufnahme von Eingangsdaten für das aktive Lernen von Klassifikatoren

Publications (1)

Publication Number Publication Date
DE102019217528A1 true DE102019217528A1 (de) 2021-05-20

Family

ID=75683409

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102019217528.7A Pending DE102019217528A1 (de) 2019-11-13 2019-11-13 Intelligente Steuerung der Aufnahme von Eingangsdaten für das aktive Lernen von Klassifikatoren

Country Status (1)

Country Link
DE (1) DE102019217528A1 (de)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3151213A1 (de) * 2015-09-30 2017-04-05 Continental Automotive GmbH Fahrzeugvorrichtung sowie verfahren zur aufzeichnung eines umgebungsbereichs eines kraftfahrzeugs
DE102018200134B3 (de) * 2018-01-08 2019-03-21 Audi Ag Verfahren zum Erfassen von Trainingsdaten für ein Fahrerassistenzsystem, Kraftfahrzeug und Servereinrichtung

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3151213A1 (de) * 2015-09-30 2017-04-05 Continental Automotive GmbH Fahrzeugvorrichtung sowie verfahren zur aufzeichnung eines umgebungsbereichs eines kraftfahrzeugs
DE102018200134B3 (de) * 2018-01-08 2019-03-21 Audi Ag Verfahren zum Erfassen von Trainingsdaten für ein Fahrerassistenzsystem, Kraftfahrzeug und Servereinrichtung

Similar Documents

Publication Publication Date Title
DE102016212700A1 (de) Verfahren und System zur Steuerung eines Fahrzeugs
DE102019127229A1 (de) System und verfahren zum bestimmen einer vertrautheit eines fahrzeugdatensatzes
DE102019218613B4 (de) Objektklassifizierungsverfahren, Objektklassifizierungsschaltung, Kraftfahrzeug
DE102016219455A1 (de) Kraftfahrzeug, Verfahren und aktive Infrastruktur zur Überprüfung einer Umfelderfassung eines Kraftfahrzeugs
DE102018203583B4 (de) Verfahren, Fahrerassistenzsystem sowie Kraftfahrzeug zur Prädiktion einer Position oder einer Trajektorie mittels eines graphbasierten Umgebungsmodells
DE102016210534A1 (de) Verfahren zum Klassifizieren einer Umgebung eines Fahrzeugs
EP3393875B1 (de) Verfahren zum verbesserten erkennen von objekten durch ein fahrerassistenzsystem
DE112020003091T5 (de) System zum Realisieren einer automatischen Iteration vom Vorhersagemodell auf der Grundlage eines Datenbetriebs
DE102018218098A1 (de) Verfahren und Vorrichtung zum Abstrahieren eines Datensatzes
DE102018214971A1 (de) Verfahren zur Erstellung einer Karte eines Umfelds eines Fahrzeugs
WO2018215242A2 (de) Verfahren zur ermittlung einer fahranweisung
WO2020048940A1 (de) Verfahren und system zur verbesserten objektmarkierung in sensordaten
WO2020126167A1 (de) Verfahren zur erkennung von mindestens einem muster in einer umgebung eines fahrzeugs, steuergerät zum ausführen eines solchen verfahrens, sowie fahrzeug mit einem solchen steuergerät
DE102019214200A1 (de) Übersetzung von Trainingsdaten zwischen Beobachtungsmodalitäten
EP3748454B1 (de) Verfahren und vorrichtung zum automatischen ausführen einer steuerfunktion eines fahrzeugs
EP3748453B1 (de) Verfahren und vorrichtung zum automatischen ausführen einer steuerfunktion eines fahrzeugs
EP3440432A1 (de) Verfahren zur bestimmung einer pose eines wenigstens teilautomatisiert fahrenden fahrzeugs mittels speziell ausgewählter und von einem backend-server übertragener landmarken
DE102019217528A1 (de) Intelligente Steuerung der Aufnahme von Eingangsdaten für das aktive Lernen von Klassifikatoren
DE102020209987A1 (de) Vorrichtung und Verfahren zum Verarbeiten von Umfeldsensordaten
DE102021001043A1 (de) Verfahren zur automatischen Erkennung und Lokalisierung von Anomalien in mittels eines Lidarsensors erfassten Daten
EP3772017A1 (de) Bahnsignalerkennung für autonome schienenfahrzeuge
DE102019130204A1 (de) Verfahren und System zum Erstellen dynamischer Karteninformation, die zum Bereitstellen von Umgebungsinformationen geeignet ist
DE102019108722A1 (de) Videoverarbeitung für maschinelles Lernen
DE102018202378B4 (de) Verfahren zum Bereitstellen eines Repräsentationsmodells sowie ein Kraftfahrzeug
WO2022043203A1 (de) Training eines generators zur erzeugung realistischer bilder mit einem semantisch segmentierenden diskriminator

Legal Events

Date Code Title Description
R163 Identified publications notified