-
Die Erfindung betrifft eine Verarbeitungseinheit, ein System und ein computerimplementiertes Verfahren für einen Fahrzeuginnenraum zur Wahrnehmung und Reaktion auf Gerüche eines Fahrzeuginsassen.
-
Geruchssensoren sind aus dem Stand der Technik bekannt, siehe beispielsweise
US 2019/0227042 A1 . Die bekannten Geruchssensoren basieren auf Lichtabsorptionsspektroskopie, Oberflächenadsorptions-Verfahren oder chemischen Reaktionen.
-
Im Stand der Technik sind Alcolocks, auch Alkohol-Zündschlosssperre genannt, das heißt Wegfahrsperren in einem Fahrzeug, die ab einem bestimmten Wert an Atemalkoholgehalt des Fahrzeugführers das Anfahren des Fahrzeugs blockieren, bekannt, siehe beispielsweise Pressemitteilungen des Europäischen Parlaments. Die bekannten Alcolocks umfassen ein in Reichweite des Fahrzeugführer-Sitzes angebrachtes Handgerät, das die Alkoholkonzentration des eingeblasenen Atems misst. Bekannt sind auch in einem Bereich eines Armaturenbretts oder Lenkrads aufgesetzte Geräte, die Alkoholkonzentration des eingeblasenen Atems messen. Derartige Handgeräte und aufgesetzte Geräte sind unkomfortabel.
-
Aufgabe der Erfindung war es, wie in einem Fahrzeug Gerüche von Fahrzeuginsassen, insbesondere von Fahrzeugführern, verbessert wahrgenommen werden und damit verbesserte Wegfahrsperren für Fahrzeuge bereitgestellt werden können.
-
Gemäß einem Aspekt stellt die Erfindung eine Verarbeitungseinheit für einen Fahrzeuginnenraum zur Wahrnehmung und Reaktion auf Gerüche eines Fahrzeuginsassen bereit. Die Verarbeitungseinheit umfasst eine erste Schnittstelle zu einem ersten Sensor, der in einem Fahrzeuginnenraum Geruchsmoleküle in Atemluft und/oder aus Körpergeruch des Fahrzeuginsassen erfasst und in erste Signale umformt, um die ersten Signale zu erhalten. Die ersten Signale resultieren aus einer Lichtwechselwirkung oder umfassen Frequenzen und/oder Amplituden von Schwingungen. Ferner umfasst die Verarbeitungseinheit eine zweite Schnittstelle zu einem zweiten Sensor, der den Fahrzeuginsassen identifiziert, um eine Identifikation des Fahrzeuginsassen zu erhalten. Die Verarbeitungseinheit führt Befehle aus, die bewirken, dass die Verarbeitungseinheit in Abhängigkeit einer Position des Fahrzeuginsassen im Fahrzeuginnenraum Gerüche des Fahrzeuginsassen, die auf Drogen und/oder Krankheiten hinweisen, der Identifikation des Fahrzeuginsassen zuordnet und bei einer positiven Zuordnung ein zweites Signal erzeugt, wobei die Befehle einen ersten Maschinenlernalgorithmus umfassen, der trainiert ist, in Abhängigkeit der ersten Signale Alkohol, Kokain, Amphetamine, Zigarettenrauch, Cannabis, Tetrahydrocannabinol, Morphin, Methadone, Ammoniak, Azeton oder eine Kombination dieser Substanzen in den Gerüchen des Fahrzeuginsassen zu identifizieren. Außerdem umfasst die Verarbeitungseinheit eine dritte Schnittstelle zu wenigstens einer Fahrzeugeinheit, um dem Fahrzeuginsassen und/oder einer Fahrzeugsteuerung das zweite Signal bereitzustellen. Der erste Maschinenlernalgorithmus ist auf semantische Bildsegmentierung trainiert zur Identifikation des Fahrzeuginsassen. Alternativ umfassen die Befehle einen zweiten Maschinenlernalgorithmus, der auf semantische Bildsegmentierung trainiert ist zur Identifikation des Fahrzeuginsassen.
-
Die Verarbeitungseinheit ist eine Recheneinheit, die Eingangssignale verarbeitet und Ausgangssignale, beispielsweise als Regel- und/oder Steuersignale, bereitstellt.
-
Nach einem Aspekt der Erfindung umfasst die Verarbeitungseinheit eine elektronische Schaltung, beispielsweise integrierte Schaltkreise. Beispielsweise umfasst die Verarbeitungseinheit programmierbare Logikbausteine, beispielsweise field programmable gateway arrays, bei denen Schaltungsstrukturen mittels Hardware-Befehlen programmierbar sind. Nach einem Aspekt der Erfindung umfasst die Verarbeitungseinheit wenigstens eine zentrale Prozessoreinheit, die Softwareprogramm-Befehle ausführt, und/oder wenigstens eine Graphikprozessoreinheit zum parallelisierten Ausführen von Prozessen oder wenigstens einen Mehrkernprozessor. Nach einem weiteren Aspekt der Erfindung umfasst die Verarbeitungseinheit wenigstens ein Speichermodul, beispielsweise RAM, DRAM SDRAM oder SRAM, für einen Signal- und/oder Datenaustausch mit Prozessoren. Nach einem Aspekt der Erfindung ist die Verarbeitungseinheit ein system-on-chip. Das heißt alle oder zumindest ein großer Teil der Funktionen sind auf einem Chip integriert und können modular erweitert werden. Nach einem weiteren Aspekt der Erfindung ist die Verarbeitungseinheit oder der Chip in ein elektronisches Steuergerät, beispielsweise ein elektronisches Steuergerät für Fahrzeugsteuerung, integriert.
-
Nach einem Aspekt der Erfindung führt die Verarbeitungseinheit ein künstliches neuronales Netzwerk aus, das Mitralzellen, apikale und laterale Dendriten der Mitralzellen, das jeweilige Soma der Mitralzellen und Körnerzellen des Riechkolbens modelliert. Das heißt, das künstlich neuronale Netzwerk ist programmiert oder wird auf der Verarbeitungseinheit derart ausgeführt, dass durch die Ausführung das olfaktorische System von Säugern modelliert wird. Beispielsweise werden die Geruchsmoleküle aus der ausgeatmeten Atemluft den apikalen Dendriten jeder Mitralzelle bereitgestellt. Die Mitralzellen sind Neuronen des künstlichen neuronalen Netzwerks. Die apikalen Dendriten entsprechen gewichteten Verbindungen der Mitralzellen-Neuronen. Die Mitralzellen-Neuronen werden beispielsweise über Aktivierungsfunktionen des künstlichen neuronalen Netzwerks aktiviert und aktivieren weitere Neuronen in einer weiteren Schicht des künstlichen neuronalen Netzwerks. Die weiteren Neuronen in der weiteren Schicht entsprechen den Körnerzellen des Riechkolbens.
-
Nach einem weiteren Aspekt der Erfindung umfasst die Verarbeitungseinheit einen neuronalen Schaltkreis, der das olfaktorische System von Säugern nachbildet. Nach einem Aspekt der Erfindung ist der neuronale Schaltkreis ein neuromorpher Schaltkreis. Durch den neuromorphen Schaltkreis wird das olfaktorische System von Säugern in Hardware abgebildet. Der neuromorphe Schaltkreis ist beispielsweise mittels CMOS-Technik gefertigt, das heißt er beruht auf complementary metal-oxide-semiconductors. Der neuromorphe Schaltkreis umfasst Neuristoren, das sind Bauteile, die Neuronenmodelle und Synapsen umfassen. Die Elemente des neuromorphen Schaltkreises modellieren beispielsweise Mitralzellen, apikale und laterale Dendriten der Mitralzellen, das jeweilige Soma der Mitralzellen und Körnerzellen des Riechkolbens. Nach einem weiteren Aspekt der Erfindung sind die Elemente des neuromorphen Schaltkreises in einem künstlichen neuronalen Netzwerk verbunden. Nach einem weiteren Aspekt der Erfindung wird das künstliche neuronale Netzwerk, welches das olfaktorische System von Säugern modelliert, auf dem neuromorphen Schaltkreis ausgeführt.
-
Nach einem Aspekt der Erfindung führt die Verarbeitungseinheit ein künstliches neuronales Netzwerk aus, das die Mitralzellen, apikale und laterale Dendriten der Mitralzellen, das jeweilige Soma der Mitralzellen und Körnerzellen des Riechkolbens modelliert. Das heißt, das künstlich neuronale Netzwerk ist programmiert oder wird auf dem neuromorphen Schaltkreis derart ausgeführt, dass durch die Ausführung das olfaktorische System von Säugern modelliert wird. Beispielsweise werden die Geruchsmoleküle aus der ausgeatmeten Atemluft den apikalen Dendriten jeder Mitralzelle bereitgestellt. Die Mitralzellen sind Neuronen des künstlichen neuronalen Netzwerks. Die apikalen Dendriten entsprechen gewichteten Verbindungen der Mitralzellen-Neuronen. Die Mitralzellen-Neuronen werden beispielsweise über Aktivierungsfunktionen des künstlichen neuronalen Netzwerks aktiviert und aktivieren weitere Neuronen in einer weiteren Schicht des künstlichen neuronalen Netzwerks. Die weiteren Neuronen in der weiteren Schicht entsprechen den Körnerzellen des Riechkolbens.
-
Fahrzeuge umfassen Passagierfahrzeuge, beispielsweise PKWs, Kleinbusse, Busse, leichte und schwere Nutzfahrzeuge, Landmaschinen, beispielsweise Traktoren oder Bagger, schienengebundene Fahrzeuge, beispielsweise Züge, Schiffe und Passagierdrohnen. Damit ist die Erfindung beispielsweise nicht eingeschränkt auf PKWs, sondern stellt für mehrere Fahrzeugarten, die von einem Fahrzeugführer geführt werden, eine in Bezug auf Wahrnehmung und Reaktion auf Gerüche eine vorteilhafte Anwendung dar. Nach einem weiteren Aspekt stellt die Erfindung für Flottenbetreiber eine in Bezug auf Wahrnehmung und Reaktion auf Gerüche eine vorteilhafte Anwendung dar. Beispielsweise sind Fahrzeuge von Flottenbetreiber mit dem Gegenstand der Erfindung ausgerüstet. Damit erhalten Flottenbetreiber beispielsweise Informationen über ihre Fahrer hinsichtlich Fahrtüchtigkeit in Abhängigkeit eines durch den Gegenstand der Erfindung erkannten Alkoholkonsums oder einer Krankheit. Nach einem Aspekt der Erfindung werden die erfindungsgemäßen Erfassungen an den Flottenbetreiber übermittelt, beispielsweise über elektronische Fahrtenbucheinträge und/oder über Funkkommunikation.
-
Gerüche umfassen Atemgeruch und weitere Gerüche aus anderen Körperöffnungen von Lebewesen, das heißt Körpergerüche, beispielsweise Körperausdünstungen über die Haut. Falls sich in dem Fahrzeuginnenraum Tiere, beispielsweise Hunde, befinden, erfasst der erste Sensor auch Gerüche von den Tieren. Basierend auf den Funktionalitäten des ersten Sensors kann zunächst nicht unterscheiden, von welchem Lebewesen, beispielsweise Mensch oder Tier, Gerüche erfasst werden. Durch die Funktionalität des zweiten Sensors werden die Lebewesen differenziert. Das heißt, durch die Kombination der Funktionalitäten des ersten Sensors und des zweiten Sensors werden Gerüche den jeweiligen Lebewesen zuordenbar.
-
Fahrzeuginsasse umfassen Fahrzeugführer, Fahrzeuginsassen, die nicht die Aufgabe des Führens eines Fahrzeuges ausführen, beispielsweise Beifahrer oder Passagiere, und Tiere. Durch die Funktionalitäten des ersten Sensors werden in dem Fahrzeuginnenraum Gerüche von Fahrzeugführer, Beifahrer und Tieren erfasst. Nach einem Aspekt der Erfindung werden Gerüche von Fahrzeugführern ausgewertet.
-
Lichtwechselwirkung umfasst Lichtstreuung, Rückstreuung, Reflexion, Transmission, Beugung und Brechung. Nach einem Aspekt der Erfindung resultieren die ersten Signale aus einer Lichtstreuung.
-
Geruchsmoleküle werden beispielsweise mittels Signaturen der Geruchsmolekülen erfasst. Die Signaturen umfassen Absorptionslinien in einem Absorptionsspektrum, für die jeweiligen Moleküle spezifisches Streulicht, beispielsweise Raman- oder Rayleigh-Streuung, spezifische Schwingungsmuster basierend auf Molekülmassen oder Kennlinien in Impedanzspektroskopie. Die Schwingungsmuster werden beispielsweise mit Beschleunigungssensoren, zum Beispiel micro-electro-mechanical-systems, erfasst.
-
Nach einem Aspekt der Erfindung sind die Signaturen für das jeweilige Molekül spezifisches Streulicht, beispielsweise Streulicht aus Rückstreuung.
-
Ein Geruchsmolekül ist ein Molekül mit einem kennzeichnenden Geruch. Beispielsweise kennzeichnet das Geruchsmolekül (R)-(+)-Limonen den Hauptgeruchsstoff der Zitrone.
-
Die Signale sind beispielsweise elektrische Signale. Die elektrischen Signale umfassen Schwingungsfrequenzen.
-
Der Fahrzeuginsasse wird nach einem Aspekt der Erfindung über Gesichtserkennung identifiziert, beispielsweise über dreidimensionale Gesichtserkennung, wobei der zweite Sensor ein 3D Sensor oder 2D Sensor ist oder mehrere 2D Sensoren umfasst. Dreidimensionale Gesichtserkennung umfasst nach einem Aspekt der Erfindung Erkennung, Klassifikation und/oder Lokalisation von einzelnen Punkten des Gesichts, beispielsweise Wangenknochen oder Abstände von Augen. Nach einem weiteren Aspekt der Erfindung wird der Fahrzeuginsasse über Haut-Textur-Analyse identifiziert. Beispielsweise wird das Gesicht eines Fahrzeuginsassen mittels Haut-Textur-Analyse identifiziert. Haut-Textur-Analyse umfasst Anordnung von Linien und Poren.
-
Die Befehle, die die Verarbeitungseinheit ausführt, sind Programminstruktionen oder Hardwarebefehle. Die Befehle liegen beispielsweise als Softwarecode oder Maschinencode vor.
-
Maschinelles Lernen ist eine Technologie, die Computern und anderen Datenverarbeitungsvorrichtungen die Ausführung von Aufgaben durch Lernen aus Daten lehrt, anstatt für die Aufgaben programmiert zu werden. Der Maschinenlernalgorithmus lernt die Gerüche und/oder die Identifikation des Fahrzeuginsassen aus den Daten.
-
Ein Vorteil der Bestimmung von Gerüchen, die auf Drogen und/oder Krankheiten hinweisen, in Atemluft und/oder aus Körpergeruch des Fahrzeuginsassen mittels des ersten Maschinenlernalgorithmus ist, dass keine chemischen Verfahren, die bei der Bestimmung des Alkoholgehalts in Atemluft beispielsweise auf ein Blasrohr angewiesen sind und damit unkomfortabel sind, oder Oberflächenkontaktverfahren, beispielsweise Adsorptionsverfahren, oder invasive Verfahren, beispielsweise Blutalkoholbestimmung, anzuwenden sind. Atemluft und andere Körpergerüche werden kontinuierlich abgegeben und werden von der Verarbeitungseinheit ausgewertet.
-
Beispielsweise umfasst der erste Maschinenlernalgorithmus ein Graphen neuronales Netzwerk, in dessen Eingangsschicht ein Graph eingegeben wird, dessen Knoten Atome und dessen Kanten Molekülverbindungen modellieren. Damit werden die Geruchsmoleküle als Graphen modelliert und die Gerüche mit einem Graphen neuronalen Netzwerk bestimmt. Das Graphen neuronale Netzwerk hat beispielsweise gelernt, aus der Struktur von Geruchsmolekülen die mit den Geruchsmolekülen verbundenen Gerüche zu bestimmen. Diese Art der Geruchsbestimmung ist als quantitative structure odor relationship bekannt, siehe beispielsweise B. Sanchez-Lengeling et al., „Machine Learning for Scent: Learning Generalizable Perceptual Representations of Small Molecules“, arXiv:1910.10685v2 [stat.ML].
-
Drogen und/oder Krankheiten besitzen charakteristische Gerüche, die in der Atemluft nachweisbar sind. Drogen, die oder deren Konsum in der Atemluft nachweisbar sind, umfassen Alkohol, Kokain, Amphetamine, Zigarettenrauch, Cannabis, Tetrahydrocannabinol, Morphin und Methadone. Beispielsweise deutet ein Ammoniak-Geruch auf eine Nierenerkrankung hin. Ein Azeton-Geruch deutet auf Diabetes hin.
-
Wird beispielsweise Alkohol in der Atemluft erkannt und zugeordnet, dass diese Atemluft von der Position des Fahrzeugführers von dem Fahrzeugführer ausgeatmet wurde, dann umfasst das zweite Signal ein elektrisches Signal für eine Anzeigevorrichtung, beispielsweise einen Display in Form eines Infotainment-Systems oder eines Head-Up-Displays oder eine akustische Vorrichtung, beispielsweise ein Lautsprechersystem im Fahrzeuginnenraum, um dem Fahrzeuginsassen visuell oder akustisch zu informieren, dass er wegen Alkoholgehalt nicht fahrtüchtig ist. Das zweite Signal umfasst ferner ein Regel- und/oder Steuersignal für die Fahrzeugsteuerung, um in diesem Fall ein Losfahren des Fahrzeuges zu sperren. Neben Anzeigevorrichtung und akustischer Vorrichtung ist ein Steuergerät für Fahrzeugkommunikation ein weiteres Beispiel für eine Fahrzeugeinheit. Fahrzeugkommunikation umfasst vehicle to everything und vehicle to vehicle Kommunikation. Über die Fahrzeugkommunikation wird beispielsweise ein Flottenbetreiber, das ist beispielsweise ein Unternehmen, dem das Fahrzeug gehört oder einer Regierungsbehörde, informiert, dass ein Fahrzeugführer eines seiner Fahrzeuge wegen festgestelltem Alkoholgehalt fahruntüchtig ist.
-
Durch die Zuordnung der Gerüche zu der Identifikation des Fahrzeuginsassen in Abhängigkeit einer Position des Fahrzeuginsassen im Fahrzeuginnenraum wird erreicht, dass hinsichtlich Fahrzeiten die Gerüche mit der Identifikation des Fahrzeuginsassen, nach einem Aspekt des Fahrzeugführers, verknüpft werden. Damit stellt die Verarbeitungseinheit einen Abgleich oder ein Matching der Gerüche mit dem Fahrzeugführer bereit. Durch die Abhängigkeit einer Position des Fahrzeuginsassen wird ferner ausgewertet, ob der Fahrzeuginsasse, dem die Gerüche zugeordnet wurden, sich in einem Fahrzeugführer-Bereich befindet, beispielsweise auf dem Fahrzeugführer-Sitz, und im Erfassungsbereich des ersten und/oder zweiten Sensors. Dadurch wird hinsichtlich der Wahrnehmung und Zuordnung der Gerüche zu dem Fahrzeuginsassen vorteilhafterweise ein Betrug oder Missbrauch durch den Fahrzeuginsassen verhindert oder vorgebeugt. Beispielsweise ist die Fahrtüchtigkeit des Fahrzeugführers durch Alkoholkonsum beeinträchtigt. Ein Beifahrer ist fahrtüchtig. Ohne die Zuordnung der Gerüche zu der Identifikation des Fahrzeuginsassen in Abhängigkeit einer Position des Fahrzeuginsassen im Fahrzeuginnenraum könnte bei Fahrtantritt der Beifahrer sich in den Bereich des Fahrzeugführers begeben. Die Verarbeitungseinheit würde die Gerüche des Beifahrers auswerten, dabei keine Drogen feststellen und über die dritte Schnittstelle der Fahrzeugsteuerung ein zweites Signal zum Losfahren bereitstellen. Der beeinträchtigte Fahrzeugführer würde dann das Fahrzeug führen. Mittels der Zuordnung der Gerüche zu der Identifikation des Fahrzeuginsassen in Abhängigkeit einer Position im Fahrzeuginnenraum erkennt in diesem Fall die Verarbeitungseinheit, dass die erfassten Gerüche dem Beifahrer und nicht dem Fahrzeugführer zugeordnet sind. Das zweite Signal zum Losfahren wird erst bereitgestellt, wenn Gerüche des Fahrzeugführers erfasst wurden und in diesen keine Drogen festgestellt wurden. Damit wird die Verkehrssicherheit erhöht, insbesondere auch für automatisierte Fahrsysteme, die auf einen Fahrzeugführer als Rückfallebene angewiesen sind.
-
Gemäß einem weiteren Aspekt stellt die Erfindung ein System für einen Fahrzeuginnenraum zur Wahrnehmung und Reaktion auf Gerüche eines Fahrzeuginsassen bereit. Das System umfasst wenigstens einen ersten Sensor, der im Fahrzeuginnenraum Geruchsmoleküle in Atemluft und/oder aus Körpergeruch des Fahrzeuginsassen erfasst und in erste Signale umformt. Ferner umfasst das System wenigstens einen zweiten Sensor, der den Fahrzeuginsassen identifiziert. Außerdem umfasst das System eine erfindungsgemäße Verarbeitungseinheit, die über eine erste und zweite Schnittstelle jeweils mit dem ersten und zweiten Sensor Signal übertragend verbunden ist. Das System stellt über eine dritte Schnittstelle ein zweites Signal der Verarbeitungseinheit einer optischen, akustischen und/oder taktilen Informationseinheit oder einer Fahrzeugsteuerungseinheit bereit.
-
Gemäß einem weiteren Aspekt stellt die Erfindung ein computerimplementiertes Verfahren bereit zur Wahrnehmung und Reaktion auf Gerüche eines Fahrzeuginsassen. Das Verfahren umfasst die Schritte
- • Erhalten von ersten Signalen, die Geruchsmoleküle beschreiben,
- • Erhalten einer Identifikation des Fahrzeuginsassen,
- • Identifizieren von Gerüchen, die auf Drogen und/oder Krankheiten hinweisen, in Abhängigkeit der ersten Signale mittels eines ersten Maschinenlernalgorithmus, der trainiert ist, in Abhängigkeit der ersten Signale Gerüche umfassend Gerüche von Alkohol, Kokain, Amphetamine, Zigarettenrauch, Cannabis, Tetrahydrocannabinol, Morphin, Methadone, Ammoniak, Azeton oder eine Kombination dieser Substanzen zu identifizieren,
- • in Abhängigkeit einer Position des Fahrzeuginsassen im Fahrzeuginnenraum Zuordnen der Gerüche zu der Identifikation des Fahrzeuginsassen,
- • Erzeugen eines zweiten Signals bei einer positiven Zuordnung, und
- • Bereitstellen des zweiten Signales wenigstens einer Fahrzeugeinheit,
wobei zur Durchführung des Verfahrens eine erfindungsgemäße Verarbeitungseinheit oder ein erfindungsgemäßes System verwendet wird.
-
Gemäß einem weiteren Aspekt stellt die Erfindung ein Computerprogramm zur Wahrnehmung und Reaktion auf Gerüche eines Fahrzeuginsassen bereit. Das Computerprogramm umfasst Befehle, die bewirken, dass eine erfindungsgemäße Verarbeitungseinheit ein erfindungsgemäßes Verfahren ausführt, wenn das Computerprogramm auf der Verarbeitungseinheit ausgeführt wird.
-
Weitere Ausgestaltungen der Erfindung ergeben sich aus den Unteransprüchen, den Zeichnungen und der Beschreibung bevorzugter Ausführungsbeispiele.
-
Der auf semantische Bildsegmentierung trainierte Maschinenlernalgorithmus klassifiziert zunächst das Lebewesen, das heißt, ob ein Mensch oder ein Tier, beispielsweise ein Hund, erfasst wurde. Daran folgend wird ein Körper des Lebewesen erkannt und Körperteile klassifiziert. Damit wird ein Body-Modell erhalten. Körperteile, die klassifiziert werden, umfassen Gesicht und Gliedmaße, beispielsweise Hände. Anschließend werden Merkmale des Gesichts oder der Gliedmaßen, beispielsweise der Händen, bestimmt.
-
Semantische Bildsegmentierung ermöglicht die Gesichtserkennung, Gliedmaßen-, beispielsweise Händeerkennung und Identifikation über Gesichtserkennung und/oder Gliedmaßen-, beispielsweise Händeerkennung. Beispielsweise segmentiert der erste oder zweite Maschinenlernalgorithmus aus dreidimensionalen Aufnahmen eines Fahrzeuginnenraums ein Gesicht eines Fahrzeuginsassen und ordnet diesem Aufnahmebereich die Bedeutung des Gesichts zu, analog für Gliedmaßen, beispielsweise Hände. In dem Gesicht werden weitere Elemente segmentiert und ihren jeweiligen Bedeutungen zugeordnet, beispielsweise Mund, Augen, Nase, Ohren, Stirn, Kinn und/oder Gesichtsmuskel und deren Anordnung untereinander. Im Fall von Händen werden Anzahl Finger, Länge und/oder Breite einzelner Finger, Fingernagelstruktur, Handflächengröße, Venenmuster von Handinnenfläche, des Handrückens oder die Fingervenen. Dies sind biometrische Merkmale, die den Fahrzeuginsassen identifizieren.
-
Nach einem Aspekt der Erfindung umfasst der Maschinenlernalgorithmus ein künstliches neuronales Netzwerk, das auf semantische Bildsegmentierung trainiert ist. Das künstliche neuronale Netzwerk ist beispielsweise ein Faltungsnetzwerk, beispielsweise ein VGG Net, siehe K. Simonyan et al., „Very Deep Convolutional Networks For Large-Scale Image Recognition“, arXiv:1409.1556v6 [cs.CV]. Das künstliche neuronale Netzwerk wird nach einem Aspekt der Erfindung mittels überwachtem Lernen trainiert. Damit ist der Lernprozess besser nachvollziehbar als beim unüberwachten Lernen, was vorteilhaft für die Validierung und Absicherung der Verarbeitungseinheit ist.
-
Nach einem weiteren Aspekt der Erfindung umfasst der Maschinenlernalgorithmus einen Random-Forest-Klassifikator umfassend unkorrelierte Entscheidungsbäume, die nach einer bestimmten Randomisierung während eines Lernprozesses wachsen. Für eine Klassifikation darf jeder Baum in diesem Wald eine Entscheidung treffen und die Klasse mit den meisten Stimmen entscheidet die endgültige Klassifikation. Vorteile des Random Forest sind insbesondere, dass er relativ schnell trainiert aufgrund kurzen Trainings- und/oder Aufbauzeiten eines einzelnen Entscheidungsbaums, dass Evaluierungen aufgrund mehrerer Bäume parallelisierbar sind und dass wichtige Klassen, wie zum Beispiel für Gesichtserkennung oder Gliedmaßen- beispielsweise Handerkennung, erkannt werden können.
-
Nach einem weiteren Aspekt der Erfindung umfasst der Maschinenlernalgorithmus einen Support-Vector-Machine-Klassifikator, die eine Menge von Objekten derart in Klassen unterteilt, dass um Klassengrenzen herum ein möglichst breiter Bereich frei von Objekten bleibt.
-
Nach einem weiteren Aspekt der Erfindung wird der Maschinenlernalgorithmus, beispielsweise das künstliches neuronales Netzwerk auf dem erfindungsgemäßen Computer auf semantische Bildsegmentierung trainiert. Für das Training ist es vorteilhaft, dass der Computer eine Mikroarchitektur zum parallelisierten Ausführen von Prozessen umfasst, um das künstliche neuronale Netzwerk mit einer großen Anzahl an Daten zeiteffizient trainieren zu können. Graphikprozessoren umfassen eine derartige Mikroarchitektur. Das trainierte Netz wird nach einem Aspekt der Erfindung auf dem Computer ausgeführt.
-
Nach einem weiteren Aspekt der Erfindung ist die Verarbeitungseinheit in ein Fahrzeug oder in ein Bordnetz eines Fahrzeuges integriert. Nach einem Aspekt der Erfindung sind der erste und der zweite Sensor in das Bordnetz integriert. Damit wird die Kommunikation zwischen den Sensoren, der Verarbeitungseinheit und der Fahrzeugsteuerung erleichtert. Das Bordnetz ist beispielsweise ein CAN-Bus. Zumindest ein Teil der Kommunikation zwischen den Sensoren, der Verarbeitungseinheit und der Fahrzeugsteuerung erfolgt nach einem Aspekt der Erfindung kabellos, beispielsweise mittels Bluetooth Low Energy, ANT oder ANT+, oder einem anderen Funknetzstandard, beispielsweise für das 868 MHz-Band, für das erkannt wurde, das relativ hohe Energiedichten übertragen werden können. Beispielsweise erfolgt die Kommunikation zwischen den Sensoren und zwischen den Sensoren und der Verarbeitungseinheit kabellos. Nach einem Aspekt der Erfindung erfolgt die Kommunikation zwischen der Verarbeitungseinheit und der Fahrzeugsteuerung kabelgebunden, um die Betriebssicherheit und zu erhöhen und Cyberangriffe besser abwehren zu können.
-
In einer Ausgestaltung des Systems ist der erste Sensor ein Fahrzeug-Lidarsensor. Der Fahrzeug-Lidarsensor ist ausgeführt, Geruchsmoleküle in Abhängigkeit von aus dem Fahrzeuginnenraum zurückgestreutem Licht zu erfassen.
-
Ein Fahrzeug-Lidarsensor ist ein Lidarsensor, der für die Verwendung im Fahrzeug-Umfeld, beispielsweise im Fahrzeuginnenraum, geeignet ist. Beispielsweise senden Fahrzeug-Lidarsensoren Laserimpulse mit Wellenlängen im Infrarotbereich aus, die für einen Menschen nicht schädlich sind.
-
Beispielsweise umfasst der Fahrzeug-Lidarsensor einen CCD oder CMOS Chip mit integrierter Auswertungselektronik für Spektroskopie, beispielsweise Raman-Spektroskopie. Beispielsweise werden aus den Signalen der Pixel des CCD oder CMOS Chips Lichtwellenlängen des zurückgestreuten Lichts, umfassend elastische Rückstreuung durch die Geruchsmoleküle, bestimmt, anhand derer die Geruchsmoleküle erfasst werden.
-
In einer weiteren Ausgestaltung des Systems ist der Fahrzeug-Lidarsensor ausgeführt, mehrere Lichtpulse unterschiedlicher Wellenlänge auszusenden und für jede der Wellenlängen die Geruchsmoleküle aus dem zurückgestreuten Licht zu erfassen. Der Fahrzeug-Lidarsensor umfasst nach einem Aspekt der Erfindung eine Ansteuerelektronik, um unterschiedliche Wellenlängen auszusenden.
-
Beispielsweise ist der Fahrzeug-Lidarsensor ausgeführt, zwei Lichtpulse unterschiedlicher Wellenlänge auszusenden. Dabei wird nach einem Aspekt der Erfindung eine erste Wellenlänge derart gewählt, dass sie von der Substanz, deren Konzentration bestimmt werden soll, absorbiert wird. Die zweite Wellenlänge wird derart gewählt, dass sie nicht oder möglichst wenig absorbiert wird. Damit wird aus dem schrittweisen Vergleich der Rückstreusignale bei der ersten und der zweiten Wellenlänge mittels differentieller Absorption auf ein Konzentrationsprofil der Substanz berechnet. Damit wird dann vorteilhafterweise im Fahrzeuginnenraum beispielsweise auch eine Konzentration von Alkoholmolekülen in der Atemluft oder des Körpergeruchs des Fahrzeuginsassen bestimmt.
-
In einer weiteren Ausgestaltung des Systems umfasst der Fahrzeug-Lidarsensor einen Güteschalter. Mit dem Güteschalter, auch Q-Switch genannt, werden die Lichtpulse kürzer. Damit werden auch bei vergleichsweise geringen Energien hohe Spitzenleistungen erreicht. Durch die geringen Energien wird erreicht, dass der Fahrzeug-Lidarsensor unschädlich für den Fahrzeugführer ist. Durch hohe Spitzenleistungen werden Geruchsmoleküle auflösbar. Der Güteschalter ist beispielsweise ein elektrooptischer Modulator.
-
Nach einem weiteren Aspekt der Erfindung ist der Fahrzeug-Lidarsensor eingehaust.
-
In einer weiteren Ausgestaltung des Systems ist der zweite Sensor ein 2D oder 3D Kamerasensor, Radarsensor oder Lidarsensor. Das System ist ausgeführt, die Identifikation des Fahrzeuginsassen aus einer Gesichtserkennung des Fahrzeuginsassen zu erhalten. Der 3D Kamerasensor ist beispielsweise ein time-of-flight Sensor.
-
Dabei wird beispielsweise eine dreidimensionale Geometrie des Gesichts über ein Lichtlaufzeitverfahren, basierend auf dem der zweite Sensor arbeitet, bestimmt.
-
Nach einem weiteren Aspekt der Erfindung wird die dreidimensionale Geometrie des Gesichts mittels strukturiertem Licht, im Englischen structured lightning, bestimmt.
-
Structured Lightning wird beispielsweise mit einem 3D Kamerasensor oder einem Lidarsensor realisiert.
-
In einer weiteren Ausgestaltung des Systems umfasst das System einen Sensor, der Funktionalitäten des ersten und zweiten Sensors vereint, wobei der Sensor ein Lichtlaufzeit-Sensor ist, die ersten Signale aus von aus dem Fahrzeuginnenraum zurückgestreutem Licht des Sensors resultieren und die Identifikation des Fahrzeuginsassen aus Lichtlaufzeiten von Lichtimpulsen des Sensors zu einer Körperoberfläche, beispielsweise Gesichtsoberfläche, des Fahrzeuginsassen resultiert. Der Sensor ist beispielsweise eine time-of-flight Kamera oder ein Fahrzeug- Lidarsensor.
-
Es sind Fahrzeugsysteme bekannt umfassend ein Innenraumüberwachungssystem zur Überwachung eines Aufmerksamkeitszustandes eines Fahrzeugführers und zur Überwachung von Sicherheitssystemen, beispielsweise angelegten Sicherheitsgurten. Derartige Innenraumüberwachungssysteme umfassen eine time-of-flight Kamera oder ein Fahrzeug- Lidarsensor. Die Erfindung schlägt vor, diese Systeme derart zu konfigurieren, dass Gerüche, die auf Drogen und/oder Krankheiten hinweisen, in Atemluft und/oder Körperausdünstungen von Fahrzeuginsassen mittels diesen Systemen wahrgenommen werden, um gegebenenfalls ein Losfahren des Fahrzeuges zu verhindern. Damit sind keine Zusatzsysteme erforderlich, um beispielsweise eine alkoholempfindliche Wegfahrsperre bereitzustellen.
-
In einer weiteren Ausgestaltung des Systems erfasst der zweite Sensor einzelne Gliedmaßen. Das System ist ausgeführt, den Fahrzeuginsassen in Abhängigkeit der erfassten Gliedmaßen zu identifizieren. Beispielsweise werden von einer Kamera Hände erfasst. Das System unterscheidet dann zwischen den Händen des Fahrzeugführers und den Händen eines Beifahrers. Damit wird einem Missbrauch weiter vorgebeugt. Dies ist insbesondere dann von Vorteil, wenn der erste Sensor ein Finger-Alkohol-Messgerät ist, auf das ein Finger einer Hand aufgesetzt wird, angestrahlt wird und die Blutalkoholkonzentration basierend auf Reflexionen oder anderen Lichtwechselwirkungen bestimmt wird.
-
In einer weiteren Ausgestaltung des Systems ist bei Verwendung in dem Fahrzeuginnenraum der erste Sensor an einem Fahrzeuglenkrad oder in einem Bereich eines Armaturenbretts und der zweite Sensor oder der Sensor an dem Fahrzeuglenkrad, in einem Bereich des Armaturenbretts, in einem Bereich einer Windschutzscheibe des Fahrzeuges oder in einem Bereich eines Fahrzeughimmels angeordnet.
-
In einer weiteren Ausgestaltung des Systems ist der erste Sensor ein Fahrzeug-Lidarsensor, ausgeführt, Geruchsmoleküle in Abhängigkeit von aus dem Fahrzeuginnenraum zurückgestreutem Licht zu erfassen und der zweite Sensor ein CCD oder CMOS Sensor zur Spektroskopie des zurückgestreuten Lichts. Beispielsweise ist der zweite Sensor ein time-of-flight Sensor eines Innenraumüberwachungssystems.
-
In einer weiteren Ausgestaltung des Systems ist das zweite Signal ein Steuerungssignal für eine Wegfahrsperre des Fahrzeuges und die dritte Schnittstelle stellt das zweite Signal der Wegfahrsperre bereitstellt oder das zweite Signal ist ein Steuerungssignal ist und leitet einen Fail-Safe oder Fail-Operational Zustand für das Fahrzeug ein. Im Falle von erkanntem Alkohol in Atemluft und/oder Körpergeruch, oder bei Überschreiten eines Schwellenwertes, beispielsweise einem gesetzlichen Grenzwertes, stellt die Erfindung damit eine alkoholempfindliche Wegfahrsperre oder einen verbesserten Alcolock bereit. Fail-Safe bedeutet, dass beispielsweise ein Anfahren des Fahrzeuges nicht erfolgt, wenn Gerüche des Fahrzeugführers erkannt wurden, die auf Drogen und/oder Krankheit hinweisen. Fail-Operational bedeutet, dass beispielsweise das Fahrzeug operativ bleibt und weiterfährt, bis sich eine sichere Anhaltemöglichkeit ergibt, wenn während einer Fahrt Gerüche des Fahrzeugführers erkannt wurden, die auf Drogen und/oder Krankheit hinweisen.
-
In einer weiteren Ausgestaltung des Systems umfasst das System einen Speicher und/oder Kommunikationsmittel, um identifizierte Gerüche von Drogen und/oder Krankheiten zu speichern und/oder einem Unternehmen, dem das Fahrzeug gehört oder einer Regierungsbehörde eine Information über die identifizierten Gerüche bereitzustellen. Damit kann das Unternehmen oder die Regierungsbehörde eines ihrer Fahrzeuge remote anhalten oder in einen Fail-Operational Zustand überführen.
-
Ferner werden damit Fahrzeugführer, die bei dem Unternehmen angestellt sind, oder von Regierungsbehörden hinsichtlich Fahrtüchtigkeit überwacht.
-
Die Erfindung wird in den folgenden Ausführungsbeispielen verdeutlicht. Es zeigen:
- 1 ein aus dem Stand bekannter Alkoholtester,
- 2 ein Ausführungsbeispiel eines erfindungsgemäßen Systems in einem Fahrzeuginnenraum,
- 3 ein Ausführungsbeispiel einer erfindungsgemäßen Verarbeitungseinheit,
- 4 eine schematische Darstellung eines erfindungsgemäßen Systems,
- 5 eine schematische Darstellung eines weiteren erfindungsgemäßen Systems und
- 6 eine schematische Darstellung eines Ausführungsbeispiels eines erfindungsgemäßen Verfahrens.
-
In den Figuren bezeichnen gleiche Bezugszeichen gleiche oder funktionsähnliche Bezugsteile. Übersichtshalber werden in den einzelnen Figuren nur die jeweils relevanten Bezugsteile hervorgehoben.
-
1 zeigt als Fahrzeuginsassen F einen Fahrzeugführer, der eine Atemprobe in ein Handgerät abgibt. Das Handgerät misst die Alkoholkonzentration des eingeblasenen Alkohols. Falls der gemessene Wert über einem Schwellenwert, beispielsweise einem gesetzlichen Grenzwert liegt, wird ein Anlasser des Fahrzeuges blockiert. Das Fahrzeug kann dann nicht anfahren. Das Handgerät ist relativ unkomfortabel. Ferner muss der Fahrzeugführer zusätzliche Handbewegungen und/oder Handgriffe ausführen zur Bedienung des Handgeräts, bevor er losfahren kann.
-
Das erfindungsgemäße System 20 ist in 2 in einen Fahrzeuginnenraum integriert. 4 zeigt das System 20 schematisch. Das System 20 umfasst beispielsweise einen ersten Sensor 21. Der erste Sensor 21 ist in ein Fahrzeuglenkrad integriert und ausgeführt, Geruchsmoleküle in Atemluft und/oder aus Körpergeruch des Fahrzeuginsassen F zu detektieren. Ferner umfasst das System 20 zweite Sensoren 22, die ein Gesicht des Fahrzeugführers identifizieren mittels softwarebasierter Gesichtserkennung. Einer der zweiten Sensoren 22 ist beispielsweise im Bereich eines Rückspiegels im Fahrzeuginnenraum angeordnet und ist beispielsweise eine time-of-flight Kamera. Der andere der zweiten Sensoren 22 ist im Armaturenbrett integriert und umfasst beispielsweise einen Kamera-, Lidar- oder Radar-Sensor. Das System 20 umfasst eine Verarbeitungseinheit 10 wie in 3 gezeigt.
-
Die Verarbeitungseinheit 10 erhält über eine erste Schnittstelle 11 Signale des ersten Sensors 21. Über eine zweite Schnittstelle 12 erhält die Verarbeitungseinheit1 0 Signale des oder der zweiten Sensoren 22. In Abhängigkeit der Signale bestimmt die Verarbeitungseinheit in der Atemluft und/oder in Körpergerüchen des Fahrzeuginsassen, der Atemluft in Richtung des Fahrzeuglenkrads abgibt, Gerüche, die beispielsweise auf Alkoholkonsum hinweisen. Die Gerüche oder die für die Gerüche relevanten Substanzen werden mittels Maschinenlernverfahren bestimmt. Ferner verknüpft die Verarbeitungseinheit die Gerüche mit der Identität des Fahrzeuginsassen, um einen Betrug oder Missbrauch des Systems 20 vorzubeugen. Wird dabei beispielsweise erkannt, dass die Alkoholkonzentration in der Atemluft des Fahrzeugführers einen gesetzlichen Grenzwert übersteigt, erzeugt die Verarbeitungseinheit 10 ein zweites Signal. Das zweite Signal wird beispielsweise über eine dritte Schnittstelle 13 der Verarbeitungseinheit 10 einer Fahrzeugsteuerung ECU bereitgestellt. Das zweite Signal veranlasst die Fahrzeugsteuerung, dass ein Motorstart und/oder Getriebestart des Fahrzeuges unterbleibt. Die Fahrzeugsteuerung ECU ist beispielsweise ein elektronisches Steuergerät.
-
5 zeigt das System in der Ausführungsform mit nur einem Sensor, beispielsweise einem time-of-flight Sensor oder einem Lidarsensor. Der eine Sensor übernimmt dabei die Funktionalitäten des ersten Sensors 21 und des zweiten Sensors 22.
-
Das erfindungsgemäße Verfahren ist in 6 gezeigt. In einem Verfahrensschritt V1 werden erste Signale, die Geruchsmoleküle beschreiben, erhalten. In einem Verfahrensschritt V2 wird eine Identifikation des Fahrzeuginsassen erhalten. In einem Verfahrensschritt V3 werden Gerüchen identifiziert, die auf Drogen und/oder Krankheiten hinweisen in Abhängigkeit der ersten Signale mittels eines ersten Maschinenlernalgorithmus, der trainiert ist, in Abhängigkeit der ersten Signale Gerüche umfassend Gerüche von Alkohol, Kokain, Amphetamine, Zigarettenrauch, Cannabis, Tetrahydrocannabinol, Morphin, Methadone, Ammoniak, Azeton oder eine Kombination dieser Substanzen zu identifizieren. In einem Verfahrensschritt V4 werden in Abhängigkeit einer Position des Fahrzeuginsassen F im Fahrzeuginnenraum die Gerüche der Identifikation des Fahrzeuginsassen zugeordnet. In einem Verfahrensschritt V5 wird ein zweites Signal bei einer positiven Zuordnung erzeugt. In einem Verfahrensschritt V6 wird das zweite Signal wenigstens einer Fahrzeugeinheit bereitgestellt.
-
Das Verfahren wird mit der Verarbeitungseinheit 10 oder dem System 20 durchgeführt.
-
Bezugszeichenliste
-
- F
- Fahrzeuginsasse
- 10
- Verarbeitungseinheit
- 11
- erste Schnittstelle
- 12
- zweite Schnittstelle
- 13
- dritte Schnittstelle
- 20
- System
- 21
- erster Sensor
- 22
- zweiter Sensor
- ECU
- Fahrzeugsteuerung
- V1-V6
- Verfahrensschritte
-
ZITATE ENTHALTEN IN DER BESCHREIBUNG
-
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
-
Zitierte Patentliteratur
-
- US 2019/0227042 A1 [0002]