DE102015217336A1 - Verfahren zur Ermittlung eines Klassifikators zur Zustandsbestimmung eines Fahrers eines Fahrzeugs - Google Patents
Verfahren zur Ermittlung eines Klassifikators zur Zustandsbestimmung eines Fahrers eines Fahrzeugs Download PDFInfo
- Publication number
- DE102015217336A1 DE102015217336A1 DE102015217336.4A DE102015217336A DE102015217336A1 DE 102015217336 A1 DE102015217336 A1 DE 102015217336A1 DE 102015217336 A DE102015217336 A DE 102015217336A DE 102015217336 A1 DE102015217336 A1 DE 102015217336A1
- Authority
- DE
- Germany
- Prior art keywords
- feature
- features
- weighting
- source
- driver
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
- A61B5/0245—Detecting, measuring or recording pulse rate or heart rate by using sensing means generating electric signals, i.e. ECG signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1113—Local tracking of patients, e.g. in a hospital or private home
- A61B5/1114—Tracking parts of the body
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1126—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
- A61B5/1128—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
- A61B5/316—Modalities, i.e. specific diagnostic methods
- A61B5/369—Electroencephalography [EEG]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
- A61B5/7267—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R16/00—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
- B60R16/02—Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/251—Fusion techniques of input or preprocessed data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/163—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- Pathology (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Biophysics (AREA)
- Surgery (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- Theoretical Computer Science (AREA)
- Physiology (AREA)
- Psychiatry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Psychology (AREA)
- Signal Processing (AREA)
- Data Mining & Analysis (AREA)
- Fuzzy Systems (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Cardiology (AREA)
- Hospice & Palliative Care (AREA)
- Software Systems (AREA)
- Developmental Disabilities (AREA)
- General Engineering & Computer Science (AREA)
- Child & Adolescent Psychology (AREA)
- Dentistry (AREA)
- Educational Technology (AREA)
- Social Psychology (AREA)
- Multimedia (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
Abstract
Es wird ein Verfahren (300) zur Ermittlung eines Zustands-Klassifikators beschrieben. Das Verfahren (300) umfasst das Ermitteln (304) einer Vielzahl von Trainings-Datensätzen. Desweiteren umfasst das Verfahren (300) das Ermitteln (305, 306), auf Basis der Vielzahl von Trainings-Datensätzen, von Gewichtungswerten für einzelne Ursprungs-Merkmale, wobei ein Gewichtungswert für ein Ursprungs-Merkmal eine Relevanz dieses Ursprungs-Merkmals für den Zustands-Klassifikator anzeigt, und wobei die Gewichtungswerte durch Reduzieren oder Erhöhen einer Optimierungsfunktion ermittelt werden. Die Optimierungsfunktion umfasst dabei einen ersten Eliminierungs-Term, der es belohnt, wenn alle Ursprungs-Merkmale einer bestimmten Datenquelle (103, 104, 105) einer Vielzahl von unterschiedlichen Datenquellen (103, 104, 105) für den Zustands-Klassifikator irrelevant sind. Desweiteren umfasst die Optimierungsfunktion einen zweiten Eliminierungs-Term, der es belohnt, wenn ein einzelnes Ursprungs-Merkmal für den Zustands-Klassifikator irrelevant ist. Es kann so auf Basis der Gewichtungswerte eine relevante Untermenge der Vielzahl von Ursprungs-Merkmalen für den Zustands-Klassifikators ausgewählt werden.
Description
- Die Erfindung betrifft ein Verfahren und eine entsprechende Steuereinheit zur Ermittlung eines Zustands-Klassifikators zur Bestimmung des Zustands einer Person, insbesondere eines Fahrers, eines Kraftfahrzeugs.
- Ein Kraftfahrzeug, insbesondere ein Straßenkraftfahrzeug, umfasst bereits heute typischerweise eine Vielzahl von Fahrerassistenzsystemen (wie z. B. einen Spurhalteassistenten, einen automatischen Geschwindigkeitsregler (ACC), etc.), die einen Fahrer des Kraftfahrzeugs bei der Führung des Kraftfahrzeugs unterstützen. Um die Qualität der Unterstützung und/oder den Komfort eines Fahrerassistenzsystems (FAS) zu erhöhen, kann der Funktionsumfang eines FAS von einem Zustand der Fahrers, z. B. von einem Grad der Aufmerksamkeit des Fahrers, abhängig gemacht werden. Beispielsweise kann ein von dem FAS generiertes Warnsignal in Abhängigkeit von dem Zustand des Fahrers (z. B. relativ frühzeitig oder relativ spät) generiert werden.
- In diesem Zusammenhang ist es erforderlich, den Zustand eines Fahrers in zuverlässiger Weise zu ermitteln. Dabei können Sensordaten einer Vielzahl von unterschiedlichen Sensoren bzw. Datenquellen (z. B. ein oder mehrere Kameras, ein oder mehrere Eyetracker, einen Elektrokardiographen, einen Elektroenzephalographen, etc.) ausgewertet werden. Das vorliegende Dokument befasst sich mit der technischen Aufgabe, den Zustand eines Fahrers eines Fahrzeugs in zuverlässiger und effizienter Weise auf Basis der Sensordaten einer Vielzahl von unterschiedlichen Sensoren zu ermitteln. Insbesondere befasst sich das vorliegende Dokument mit der technischen Aufgabe, einen Zustands-Klassifikator bereitzustellen, der den Zustand eines Fahrers eines Fahrzeugs in zuverlässiger und effizienter Weise ermitteln kann.
- Die Aufgabe wird durch die unabhängigen Ansprüche gelöst. Vorteilhafte Ausführungsformen werden u. a. in den abhängigen Ansprüchen beschrieben.
- Gemäß einem Aspekt wird ein Verfahren zur Ermittlung eines Zustands-Klassifikators beschrieben. Das Verfahren kann durch einen Mikroprozessor (z. B. durch einen Mikroprozessor in einem Fahrzeug) ausgeführt werden. Der Zustands-Klassifikator ist eingerichtet, einem ersten Wert eines reduzierten Merkmalsvektors einen ersten Zustand einer Person, insbesondere eines Fahrers eines Fahrzeugs (z. B. eines Straßenkraftfahrzeugs), zuzuweisen. Insbesondere kann der Zustands-Klassifikator eingerichtet sein, den aktuellen Zustand eines Fahrers eines Fahrzeugs während einer Fahrt zu bestimmten. Zu diesem Zweck kann auf Basis von aktuellen Sensordaten ein aktueller (erster) Wert des reduzierten Merkmalsvektors ermittelt werden. Der Zustands-Klassifikator ist dann eingerichtet, diesem aktuellen (ersten) Wert des reduzierten Merkmalsvektors einen aktuellen (ersten) Zustand des Fahrers zuzuweisen. So kann ein aktueller Zustand des Fahrers in zuverlässiger und effektiver Weise ermittelt werden.
- Dabei ist der Zustands-Klassifikator typischerweise eingerichtet, einen Zustand einer Person aus einer Vielzahl von vordefinierten Zuständen auszuwählen. Die unterschiedlichen vordefinierten Zustände können auch als unterschiedliche Klassen betrachtet werden. Die Menge an unterschiedlichen vordefinierten Zuständen ist dabei typischerweise auf eine relativ geringe Anzahl (z. B. 10, 5, 4, 3 oder weniger) von Zuständen begrenzt. Ein Zustand einer Person kann z. B. einen Grad der Aufmerksamkeit der Person anzeigen.
- Der reduzierte Merkmalsvektor umfasst typischerweise eine Vielzahl von unterschiedlichen Merkmalen, die auf Basis von Sensordaten von unterschiedlichen Datenquellen ermittelt werden können. Dabei können typischerweise auf Basis der Sensordaten eine relativ große Menge an unterschiedlichen Merkmalen berechnet werden (die in diesem Dokument auch als Ursprungs-Merkmale) bezeichnet werden. Der reduzierte Merkmalsvektor umfasst nur eine Teilmenge der relativ großen Menge an Ursprungs-Merkmalen. Das in diesem Dokument beschriebene Verfahren ist eingerichtet, diese Teilmenge derart zu ermitteln, dass auch mit einem reduzierten Merkmalsvektor (mit einer reduzierten Menge an Merkmalen), ein Zustands-Klassifikator mit einer hohen Klassifikationsgüte bereitgestellt werden kann. Gleichzeitig wird durch die Reduzierung der Menge an Merkmalen die Rechenkomplexität des Zustands-Klassifikators reduziert, so dass ein Zustands-Klassifikator bereitgestellt werden kann, der in Echtzeit auf einem Steuergerät eines Fahrzeugs verwendet werden kann.
- Das Verfahren umfasst das Bereitstellen von Trainingsdaten, die Sensordaten einer Vielzahl von unterschiedlichen Datenquellen umfassen. Dabei kann die Vielzahl von Datenquellen ein oder mehrere umfassen von: eine Bildkamera, die eingerichtet ist, Bilddaten des Fahrers als Sensordaten zu erfassen; einen Eyetracker, der eingerichtet ist, Information über eine Blickrichtung des Fahrers als Sensordaten bereitzustellen; einen Elektrokardiographen, der eingerichtet ist, Information bezüglich des Herzschlags des Fahrers als Sensordaten bereitzustellen; und/oder einen Elektroenzephalographen, der eingerichtet ist, Information bezüglich der Hirnströme des Fahrers als Sensordaten bereitzustellen.
- Das Verfahren umfasst weiter das Ermitteln, auf Basis der Trainingsdaten, einer Vielzahl von Trainings-Datensätzen. Dabei umfasst ein Trainings-Datensatz einen Wert eines Ursprungs-Merkmalsvektors und einen entsprechenden tatsächlichen Zustand des Fahrers. Desweiteren umfasst der Ursprungs-Merkmalsvektor eine Vielzahl von Ursprungs-Merkmalen, wobei die Vielzahl von Ursprungs-Merkmalen zumindest ein Merkmal für jede der Vielzahl von unterschiedlichen Datenquellen umfasst. Insbesondere kann die Vielzahl von Ursprungs-Merkmalen für zumindest eine Datenquelle der Vielzahl von unterschiedlichen Datenquellen (ggf. für alle Datenquellen der Vielzahl von unterschiedlichen Datenquellen) eine Vielzahl von Ursprungs-Merkmalen umfassen.
- Außerdem umfasst das Verfahren das Ermitteln, auf Basis der Vielzahl von Trainings-Datensätzen, von Gewichtungswerten für die einzelnen Ursprungs-Merkmale. Dabei umfassen die Gewichtungswerte typischerweise zumindest einen Gewichtungswert für jedes Ursprungs-Merkmal der Vielzahl von Ursprungs-Merkmale. Desweiteren können die Gewichtungswerte zumindest einen Gewichtungswert für jeden möglichen Zustand der Vielzahl von vordefinierten Zuständen umfassen. Die Gewichtungswerte können in einer Gewichtungsmatrix zusammengefasst sein.
- Ein Gewichtungswert für ein Ursprungs-Merkmal zeigt dabei eine Relevanz dieses Ursprungs-Merkmals für den Zustands-Klassifikator an. Beispielsweise kann ein steigender (Absolut-)Wert eines Gewichtungswertes eine steigende Relevanz des entsprechenden Ursprungs-Merkmals für den Zustands-Klassifikator anzeigen. Die Gewichtungswerte ermöglichen es somit, eine Auswahl darüber zu treffen, welche Ursprungs-Merkmale für den Zustands-Klassifikator relevant sind (und somit in den reduzierten Merkmalsvektor aufgenommen werden sollten) und welche Ursprungs-Merkmale für den Zustands-Klassifikator irrelevant sind (und somit, ohne eine substantielle Reduzierung der Klassifikationsgüte zu bewirkten, im Zustands-Klassifikator unberücksichtigt bleiben können).
- Die Gewichtungswerte werden durch ein Reduzieren oder ein Erhöhen (bzw. durch ein Optimieren) einer Optimierungsfunktion ermittelt. Zu diesem Zweck kann z. B. ein Gradientenverfahren verwendet werden, um die Optimierungsfunktion zu minimieren bzw. zu maximieren. Die Optimierungsfunktion umfasst dabei einen ersten Eliminierungs-Term, der es belohnt, wenn alle Ursprungs-Merkmale einer bestimmten Datenquelle der Vielzahl von unterschiedlichen Datenquellen für den Zustands-Klassifikator irrelevant sind. Insbesondere kann der erste Eliminierungs-Term einen Anreiz dafür geben, dass entweder alle Gewichtungswerte der Ursprungs-Merkmale einer bestimmten Datenquelle eine Irrelevanz der entsprechenden Ursprungs-Merkmale anzeigen (z. B. dass alle Gewichtungswerte null sind), oder dass alle Gewichtungswerte der Ursprungs-Merkmale einer bestimmten Datenquelle eine Relevanz der entsprechenden Ursprungs-Merkmale anzeigen (z. B. dass alle Gewichtungswerte substantiell von null abweichen). Der erste Eliminierungs-Term kann somit einen Anreiz dafür darstellen, einzelne Datenquellen komplett zu eliminieren, und somit nicht im Zustands-Klassifikator zu berücksichtigen.
- Desweiteren umfasst die Optimierungsfunktion einen zweiten Eliminierungs-Term, der es belohnt, wenn ein einzelnes Ursprungs-Merkmal für den Zustands-Klassifikator irrelevant ist. Insbesondere kann der zweite Eliminierungs-Term einen Anreiz dafür geben, dass entweder alle Gewichtungswerte eines bestimmten Ursprungs-Merkmals eine Irrelevanz des entsprechenden Ursprungs-Merkmals anzeigen (z. B. dass alle Gewichtungswerte null sind), oder dass alle Gewichtungswerte dieses Ursprungs-Merkmals eine Relevanz des Ursprungs-Merkmals anzeigen (z. B. dass alle Gewichtungswerte substantiell von null abweichen). Der zweite Eliminierungs-Term kann somit einen Anreiz dafür darstellen, einzelne Ursprungs-Merkmale eindeutig zu eliminieren, und somit nicht im Zustands-Klassifikator zu berücksichtigen.
- Die Eliminierungs-Terme können auch als Besetzungs-Terme bezeichnet werden, da sie die Besetzung einer Gewichtungsmatrix, die die Gewichtungswerte aufweist, beeinflussen. Der erste Eliminierungs-Term bewirkt dabei eine Reduzierung der Besetzung der Gewichtungsmatrix für die Gesamtzeit der Ursprungs-Merkmale einzelner Datenquellen. Der zweite Eliminierungs-Term bewirkt eine Reduzierung der Besetzung der Gewichtungsmatrix für einzelne Ursprungs-Merkmale.
- Die Optimierungsfunktion ermöglicht somit eine zeitgleiche Datenquellen-Auswahl und Merkmals-Auswahl in einem Optimierungsschritt. So kann ein reduzierter Merkmalsvektor bereitgestellt werden, der eine hohe Klassifikationsgüte bei geringer Rechenkomplexität ermöglicht.
- Das Verfahren kann weiter umfassen, das Auswählen, auf Basis der Gewichtungswerte, einer Untermenge der Vielzahl von Ursprungs-Merkmalen für einen reduzierten Merkmalsvektor. Zu diesem Zweck kann ein Vergleich der Gewichtungswerte (oder daraus ermittelter repräsentativer Gewichtungswerte) mit einem Gewichtungs-Schwellenwert erfolgen.
- Desweiteren kann das Verfahren umfassen, das Bereitstellen des Zustands-Klassifikators auf Basis der Gewichtungswerte für die ausgewählte Untermenge von Ursprungs-Merkmalen. Insbesondere können die Gewichtungswerte für die ausgewählte Untermenge von Ursprungs-Merkmalen dazu verwendet werden, Klassifikator-Werte zu ermitteln, mit denen der erste Wert des reduzierten Merkmalsvektors multipliziert werden kann, um den (ersten) Zustand des Fahrers zu ermitteln. Die Klassifikator-Werte können ggf. den Gewichtungswerten für die ausgewählte Untermenge von Ursprungs-Merkmalen entsprechen.
- Die Optimierungsfunktion umfasst typischerweise einen Fehler-Term, der eine mittlere Abweichung von prädizierten Zuständen des Fahrers von tatsächlichen Zuständen des Fahrers anzeigt. Dabei kann der Fehler-Term einen prädizierten Zustand des Fahrers für einen Trainings-Datensatz durch Anwendung (z. B. durch Multiplikation) von zumindest einem Gewichtungswert auf den Wert des Ursprungs-Merkmalsvektors dieses Trainings-Datensatzes ermitteln.
- Insbesondere kann der Fehler-Term auf Basis folgender Formel ermittelt werden
J = 1 / 2||X ^W – Y|| 2 / F - Dabei entspricht W einer Gewichtungsmatrix, die die Gewichtungswerte umfasst. X ^ ist eine Trainingsdatenmatrix, die die Werte des Ursprungs-Merkmalsvektors aus der Vielzahl von Trainings-Datensätzen umfasst. Y ist eine Zustandsmatrix, die die tatsächlichen Zustände des Fahrers aus der Vielzahl von Trainings-Datensätzen anzeigt. Desweiteren entspricht || ||F einer Frobenius Norm.
- Das Ermitteln von Gewichtungswerten umfasst das Ermitteln des ersten Eliminierungs-Terms und das Ermitteln des zweiten Eliminierungs-Terms. Dabei kann das Ermitteln des ersten Eliminierungs-Terms umfassen, das Ermitteln einer Vielzahl von Datenquellen-Normen für die entsprechende Vielzahl von Datenquellen, wobei eine Datenquellen-Norm für eine Datenquelle eine L2-Norm der Gewichtungswerte der ein oder mehreren Ursprungs-Merkmale dieser Datenquelle umfassen kann. Desweiteren kann das Ermitteln des ersten Eliminierungs-Terms umfassen, das Ermitteln einer L1-Norm der Vielzahl von Datenquellen-Normen. Durch die Kombination von einer L2-Norm mit einer L1-Norm kann eine besonders effektive Eliminierung einzelner Datenquellen bewirkt werden.
- Insbesondere kann der erste Eliminierungs-Term auf Basis folgender Formel ermittelt werden wobei W die Gewichtungsmatrix ist, wobei M der Anzahl von unterschiedlichen Datenquellen entspricht, wobei Quellem der Menge der Ursprungs-Merkmale einer m-ten Datenquelle entspricht, und wobei wq eine Untermatrix der Gewichtungsmatrix ist, die nur die Gewichtungswerte der ein oder mehreren Ursprungs-Merkmale für eine bestimmte m-te Datenquelle umfasst.
- Das Ermitteln des zweiten Eliminierungs-Terms kann umfassen, das Ermitteln einer Vielzahl von Merkmals-Normen für die entsprechende Vielzahl von Ursprungs-Merkmalen, wobei eine Merkmals-Norm für ein Ursprungs-Merkmal eine L2-Norm der ein oder mehreren Gewichtungswerte für dieses Ursprungs-Merkmal umfasst. Desweiteren kann das Ermitteln des zweiten Eliminierungs-Terms umfassen, das Ermitteln einer L1-Norm der Vielzahl von Merkmals-Normen. Durch die Kombination von einer L2-Norm mit einer L1-Norm kann eine besonders effektive Eliminierung einzelner Merkmale bewirkt werden.
- Insbesondere kann der zweite Eliminierungs-Term auf Basis folgender Formel ermittelt werden
||W||1,2 = Σd||wd||2 - Der erste Eliminierungs-Term und der zweite Eliminierungs-Term können über jeweilige Faktoren C1 und C2 (auch als Hyperparameter bezeichnet) in der Optimierungsfunktion berücksichtigt werden. Das Verfahren kann weiter umfassen, das Ermitteln von Werten für die Faktoren C1 und C2, so dass eine Klassifikationsgüte des ermittelten Zustands-Klassifikators erhöht (ggf. maximiert) wird. Dies kann z. B. durch ein iteratives Verfahren ermöglicht werden, bei dem anhand von unterschiedlichen Werten der Faktoren C1 und C2 unterschiedliche Zustands-Klassifikatoren bestimmt werden. Es kann dann der Zustands-Klassifikator mit der relativ höchsten Klassifikationsgüte ausgewählt werden. So kann die Güte des Zustands-Klassifikators weiter erhöht werden.
- Gemäß einem weiteren Aspekt wird eine Steuereinheit (z. B. ein Steuergerät für ein Fahrzeug) beschrieben, das eingerichtet ist, das in diesem Dokument beschriebene Verfahren auszuführen. Beispielsweise kann das Verfahren während des Betriebs eines Fahrzeugs verwendet werden, um den Zustands-Klassifikator an einen Fahrer des Fahrzeugs anzupassen. So kann die Ermittlung des Zustands des Fahrers weiter verbessert werden.
- Gemäß einem weiteren Aspekt wird ein Fahrzeug (insbesondere ein Straßenkraftfahrzeug z. B. ein Personenkraftwagen, ein Lastkraftwagen oder ein Motorrad) beschrieben, das die in diesem Dokument beschriebene Steuereinheit umfasst.
- Gemäß einem weiteren Aspekt wird ein Software (SW) Programm beschrieben. Das SW Programm kann eingerichtet werden, um auf einem Prozessor (z. B. auf einem Steuergerät) ausgeführt zu werden, und um dadurch das in diesem Dokument beschriebene Verfahren auszuführen.
- Gemäß einem weiteren Aspekt wird ein Speichermedium beschrieben. Das Speichermedium kann ein SW Programm umfassen, welches eingerichtet ist, um auf einem Prozessor ausgeführt zu werden, und um dadurch das in diesem Dokument beschriebene Verfahren auszuführen.
- Es ist zu beachten, dass die in diesem Dokument beschriebenen Verfahren, Vorrichtungen und Systeme sowohl alleine, als auch in Kombination mit anderen in diesem Dokument beschriebenen Verfahren, Vorrichtungen und Systemen verwendet werden können. Desweiteren können jegliche Aspekte der in diesem Dokument beschriebenen Verfahren, Vorrichtungen und Systemen in vielfältiger Weise miteinander kombiniert werden. Insbesondere können die Merkmale der Ansprüche in vielfältiger Weise miteinander kombiniert werden.
- Im Weiteren wird die Erfindung anhand von Ausführungsbeispielen näher beschrieben. Dabei zeigen
-
1 ein Blockdiagramm mit beispielhaften Komponenten eines Fahrzeugs; -
2 eine beispielhafte Extraktion eines Merkmals aus Sensordaten; -
3 ein Ablaufdiagramm eines beispielhaften Verfahrens zur Ermittlung eines Klassifikators für die Bestimmung des Zustands eines Fahrers eines Fahrzeugs; und -
4a ,4b und4c beispielhafte Anordnungen von Elektroden eines Elektroenzephalographen. - Wie eingangs dargelegt, befasst sich das vorliegende Dokument mit der zuverlässigen und effizienten Ermittlung des Zustands des Fahrers eines Fahrzeugs. In diesem Zusammenhang zeigt
1 ein Blockdiagramm eines beispielhaften Fahrzeugs100 . Das Fahrzeug100 umfasst eine Fahrerposition102 , auf der ein Fahrer des Fahrzeugs100 sitzen kann, um das Fahrzeug100 zu führen. Das Fahrzeug100 kann eine Vielzahl von unterschiedlichen Sensoren103 ,104 ,105 umfassen, die eingerichtet sind, Sensordaten111 bezüglich des Fahrers zu erfassen und an eine Steuereinheit101 weiterzuleiten. - Ein beispielhafter Sensor
103 ,104 ,105 ist eine Bildkamera103 (z. B. eine Stereokamera), die eingerichtet ist, Bilddaten bezüglich des Fahrers als Sensordaten111 bereitzustellen. Insbesondere kann eine Bildkamera103 eingerichtet sein, einen Kopf des Fahrers zu erfassen. Ein weiterer beispielhafter Sensor103 ,104 ,105 ist ein Eyetracker104 , der eingerichtet ist, zumindest ein Auge des Fahrers bildlich zu erfassen und Bilddaten bezüglich des Auges des Fahrers als Sensordaten111 bereitzustellen. Desweiteren können ein Elektrokardiograph und/oder ein Elektroenzephalograph105 an der Sitzposition102 des Fahrers angeordnet sein, um z. B. Sensordaten111 bezüglich des Herzrhythmus und/oder bezüglich der Hirnströme des Fahrers zu erfassen. - Die Sensordaten
111 können von der Steuereinheit101 ausgewertet werden, um den Zustand des Fahrers zu bestimmen. Zu diesem Zweck kann ggf. auf gespeicherte Daten (z. B. auf einen vorbestimmten Zustands-Klassifikator) aus einer Speichereinheit109 zugegriffen werden. Insbesondere kann den Sensordaten111 mittels eines vorbestimmten Zustands-Klassifikators ein Zustand des Fahrers zugeordnet werden. Desweiteren kann ggf. eine Wahrscheinlichkeit bestimmt werden, mit der der Fahrer den ermittelten Zustand aufweist. Beispielhafte Zustands-Klassifikatoren sind ein Bayes-Klassifikator, ein Expectation Maximization-Klassifikator, ein K-Means-Klassifikator, und/oder ein Support Vector Machine-Klassifikator. - Ein Zustands-Klassifikator ist typischerweise eingerichtet, einer Ausprägung (in diesem Dokument auch als Wert bezeichnet) eines Merkmalsvektors xi zum Zeitpunkt i eine Klasse yi zum Zeitpunkt i zuzuordnen. Die Ausprägung des Merkmalsvektors xi zum Zeitpunkt i kann dabei auf Basis der Sensordaten
111 am bzw. um den Zeitpunkt i ermittelt werden. Insbesondere können auf Basis der Sensordaten111 die Ausprägungen für eine Vielzahl von unterschiedlichen Merkmalen xdi, mit d = 1, ..., D, ermittelt werden, wobei D die Gesamtzahl der ermittelten Merkmale ist. Die Ausprägung des Merkmalsvektors xi ergibt sich aus den Ausprägungen der Vielzahl von Merkmalen xdi als xi = [x1i, ..., xDi]T Beispielhafte Merkmale sind: - • Ein Deskriptor der, durch eine Bildkamera
103 erfassten, Bilddaten. Dabei kann der Deskriptor z. B. gemäß einem HOG(Histogram of Oriented Gradients)-Modell, einem LBP(Local Binary Patterns)-Modell, und/oder einem Wavelet-Modell ermittelt werden. Der Deskriptorwert für einen bestimmten Satz von Bilddaten stellt dabei eine Ausprägung des Deskriptors dar. - • Eine Blinkrate, eine Blickrichtung, etc., die auf Basis der Sensordaten
111 eines Eyetrackers104 ermittelt werden können. Ein bestimmter Wert der Blinkrate und/oder ein bestimmter Blickwinkel stellen dabei eine Ausprägung dieser Merkmale dar. - • Eine Herzfrequenz, eine Varianz der Herzfrequenz, etc., die auf Basis der Sensordaten
111 eines Elektrokardiographen105 ermittelt werden können. Ein bestimmter Wert der Herzfrequenz und/oder der Varianz stellen dabei Ausprägungen dieser Merkmale dar. - • Die Energie in einem bestimmten Frequenzbandes eines EEG-Kanals, die Entropie in einem EEG-Kanal, etc., die auf Basis der Sensordaten
111 eines Elektroenzephalographen105 ermittelt werden. Die auf Basis der Sensordaten ermittelten Werte dieser Merkmale stellen dabei Ausprägungen dieser Merkmale dar. -
2 veranschaulicht bildlich die Ermittlung einer Ausprägung eines Merkmals203 auf Basis der Sensordaten111 eines Sensors103 ,104 ,105 . Die Sensordaten111 umfassen typischerweise eine zeitliche Sequenz von Abtastwerten201 (oder Messwerten), die an einer entsprechenden Sequenz von Zeitpunkten204 erfasst wurde. Typischerweise wird ein Fenster202 von Abtastwerten201 aus der Sequenz von Abtastwerten201 betrachtet, um die Ausprägung eines Merkmals203 zu einem bestimmten Zeitpunkt204 zu ermitteln. Das Fenster202 kann dabei wie in2 dargestellt einen bestimmten zeitlichen Ausschnitt vor einem aktuellen Zeitpunkt204 umfassen. Das Fenster202 kann schrittweise verschoben werden, um eine Sequenz von Ausprägungen des Merkmals203 für eine entsprechende Sequenz von Zeitpunkten204 zu ermitteln. - Es kann somit auf Basis der Sensordaten
111 zu jedem Zeitpunkt i204 eine Ausprägung eines Merkmalsvektors xi mit einer Vielzahl von Merkmalen203 ermittelt werden. Mittels eines Zustands-Klassifikators (d. h. mittels einer vordefinierten Zuweisungsfunktion) kann dieser Ausprägung des Merkmalsvektors xi eine Klasse yi aus einer Vielzahl von vorbestimmten Klassen {1, ..., K}, wobei K die Anzahl von vorbestimmten Klassen ist, zugewiesen werden. Dabei können die unterschiedlichen Klassen unterschiedliche Zustände (z. B. einen unterschiedlichen Grad der Aufmerksamkeit) des Fahrers anzeigen. - Die Ermittlung einer Vielzahl von unterschiedlichen Merkmals-Ausprägungen für eine Vielzahl von unterschiedlichen Merkmalen
203 auf Basis von Sensordaten111 einer Vielzahl von unterschiedlichen Sensoren bzw. Datenquellen103 ,104 ,105 kann sehr rechenintensiv sein. Insbesondere kann der erforderliche Rechenaufwand ggf. nicht durch den Prozessor einer Steuereinheit101 eines Fahrzeugs100 in Echtzeit erbracht werden. Um eine Echtzeit-Anwendung in einem Fahrzeug100 zu ermöglichen, sollte daher die Anzahl D von Merkmalen203 beschränkt werden. Es stellt sich dann die Frage, welche Merkmale203 ausgewählt werden sollten, um auch bei einer begrenzten Anzahl D von Merkmalen203 den Zustand des Fahrers in möglichst präziser Weise ermitteln zu können. Insbesondere stellt sich die Frage, welche Merkmale203 und welche Sensoren (d. h. Datenquellen)103 ,104 ,105 für die Bestimmung des Zustands des Fahrers herangezogen werden sollen. Mit anderen Worten, es soll eine möglichst optimale Kombination von Merkmalen203 und Datenquellen103 ,104 ,105 für die Zustandsbestimmung ausgewählt werden. Im Folgenden wird ein Verfahren beschrieben, durch das zeitgleich in effizienter und präziser Weise die Merkmale203 und die zugrundeliegenden Datenquellen103 ,104 ,105 für einen zuverlässigen Zustands-Klassifikator ermittelt werden können. - Insbesondere wird ein Verfahren beschreiben, mit dem gleichzeitig die Merkmale
203 und die Datenquellen103 ,104 ,105 derart ausgewählt werden können, dass ein mittleres (quadratisches) Fehlermaß für die Klassifikation reduziert (insbesondere minimiert) wird. Zu diesem Zweck wird eine (lineare) Diskriminanzanalyse (auf Englisch, Linear Discriminant Analysis) verwendet, wobei folgendes Optimierungsproblem für die Auswahl von Merkmalen203 zugrundegelegt werden kann: wobei{(xi, yi)} N / i=1 - Die Matrix Y (die auch als Zustandsmatrix bezeichnet wird) ist eine N × K Matrix, die die Zustandsklassen für die verschiedenen Ausprägungen des Merkmalsvektors anzeigen. Die einzelnen Einträge Yij der Matrix Y können wie folgt ermittelt werden wobei nj die Anzahl von Trainings-Datensätzen mit der Zustandsklasse j ist, und wobei N der Gesamtzahl der Traings-Datensätze entspricht.
- Die Matrix W ist eine D × K Matrix, die in einer Zeile, K Gewichtungswerte wdk für ein bestimmtes Merkmal
203 anzeigt. Der Gewichtungswert wdk zeigt an, wie relevant ein bestimmtes Merkmal d203 für die Erkennung einer bestimmten Zustandsklasse k ist. - || ||F entspricht der Frobenius Norm. Es kann gezeigt werden, dass das o. g. Optimierungsproblem zwar ein Problem darstellt, welches einen mittleren quadratischen Fehler reduziert (insbesondere minimiert), welches aber dennoch in Bezug auf eine mittlere quadratische Diskriminanzanalyse optimal ist. Anhand des o. g. Optimierungsproblems (insbesondere Minimierungsproblems) können somit Gewichtungswerte wdk für die einzelnen Merkmale
203 ermittelt werden, die die Relevanz der einzelnen Merkmale203 für einen Zustands-Klassifikator anzeigen. In der Praxis können jedoch typischerweise auf Basis der Gewichtungswerte wdk keinen klaren Entscheidungen darüber getroffen werden, welche Merkmale203 von welchen Datenquellen103 ,104 ,105 in einem Zustands-Klassifikator berücksichtigt werden sollten. Insbesondere ermöglichen die ermittelten Gewichtungswerte wdk typischerweise keine klare Trennung in eine erste Gruppe von relevanten Merkmalen203 und in eine zweite Gruppe von nicht relevanten Merkmalen203 . Dies liegt daran, dass die ermittelte Matrix W typischerweise nicht schwachbesetzt (auf Englisch, sparse) ist, d. h. dass die Matrix W typischerweise keine oder nur wenige Gewichtungswerte wdk aufweist, die (nahezu) null sind bzw. die substantiell kleiner sind als andere Gewichtungswerte. - Das Optimierungsproblem kann durch ein oder mehrere weitere Terme ergänzt werden, durch die der Besetzungsgrad der Matrix W beeinflusst werden kann. Insbesondere können ein oder mehrere Terme zugefügt werden, die es belohnen, wenn die ermittelte Matrix W schwachbesetzt ist. Bevorzugt wird ein erster Besetzung-Term dazu verwendet, eine schwache Besetzung in Bezug auf die Gesamtheit der Merkmale
203 einer bestimmten Datenquelle103 ,104 ,105 zu belohnen. Desweiteren kann ein zweiter Besetzungs-Term dazu verwendet werden, eine schwache Besetzung in Bezug auf einzelne Merkmale203 zu belohnen (unabhängig davon, auf welcher Datenquelle103 ,104 ,105 die jeweiligen Merkmale203 basieren). - Der erste Besetzungs-Term (zur Auswahl einzelner Datenquellen
103 ,104 ,105 ) kann wie folgt formuliert werden:J1 = C1||W||Quelle,2 - Diese Norm ermittelt das quadratische Mittel der Gewichtungswerte wdk für alle Merkmale q einer bestimmten Datenquelle m (d. h. für alle q ∊ Quellem) und anschließend die Summe dieser quadratischen Mittel über alle M Datenquellen, d. h. für m = 1, ..., M. Dabei ist Wm eine Teilmatrix der Gewichtungsmatrix W, die die Zeilen der Gewichtungswerte wdk für die Merkmale q der Datenquelle m umfasst. Es gilt dabei, dass die Anzahl D aller betrachteten Merkmale
203 , der Anzahl M der betrachteten Datenquellen103 ,104 ,105 multipliziert mit der Anzahl Qm der Merkmale203 der einzelnen betrachteten Datenquellen103 ,104 ,105 entspricht, mit m = 1, ..., M. - Der erste Besetzungs-Term kann dadurch reduziert werden, dass wenn (ohne Berücksichtigung des ersten Besetzungs-Terms) die Gewichtungswerte wdk der Merkmale
203 einer ersten Datenquelle103 ,104 ,105 tendenziell klein wären und die Gewichtungswerte wdk der Merkmale203 einer zweiten Datenquelle103 ,104 ,105 tendenziell groß wären, alle Gewichtungswerte wdk der Merkmale203 der ersten Datenquelle103 ,104 ,105 auf null gesetzt werden. Der erste Besetzungs-Term bewirkt somit eine Selektion von relevanten Datenquellen103 ,104 ,105 . - Der zweite Besetzungs-Term kann dazu verwendet werden, einzelne Merkmale
203 für den Zustands-Klassifikator zu selektieren (unabhängig davon, auf welcher Datenquelle103 ,104 ,105 ein Merkmal203 basiert). Der zweite Besetzungs-Term kann wie folgt formuliert werden:J2 = C2||W||1,2 ||W||1,2 = Σd||wd||2 203 ) entspricht. Der zweite Besetzungs-Term bewirkt, dass bevorzugt alle Gewichtungswerte für ein Merkmal203 null sind oder alle Gewichtungswerte für ein Merkmal203 signifikant unterschiedlich von null sind. Der zweite Besetzungs-Term ermöglicht somit eine eindeutige Auswahl von Merkmalen203 für einen Zustands-Klassifikator. - Die o. g. Besetzungs-Terme können auch als Lasso(aus dem Englischen, Least Absolute Shrinkage and Selection Operator)-Terme bezeichnet werden.
-
- Durch Lösen dieses Optimierungsproblems kann eine schwachbesetzte Gewichtungsmatrix W ermittelt werden, aus der sich in eindeutiger Weise die relevanten und die nicht-relevanten Merkmale
203 und/oder Datenquellen103 ,104 ,105 ergeben. -
3 zeigt ein Ablaufdiagramm eines beispielhaften Verfahrens300 zur Ermittlung eines Zustands-Klassifikators. In Schritt301 werden Sensordaten111 von einer Vielzahl von unterschiedlichen Sensoren103 ,104 ,105 (d. h. Datenquellen) bereitgestellt. Diese Daten111 können ggf. vorverarbeitet werden (Schritt302 ) und es kann ein erster Teil der Daten111 als Trainingsdaten zur Ermittlung des Zustands-Klassifikators und ein zweiter Teil der Daten111 als Testdaten zur Verifizierung des Zustands-Klassifikators verwendet werden (Schritt303 ). Aus den Trainingsdaten kann dann eine Vielzahl von Trainins-Datensätzen{(xi, yi)} N / i=1 304 ). Zu diesem Zweck können auf Basis der Sensordaten111 einer Datenquelle103 ,104 ,105 Ausprägungen von ein oder mehreren Merkmalen203 ermittelt werden. Insgesamt können so für jede Datenquelle103 ,104 ,105 Ausprägungen für jeweils ein oder mehrere Merkmale203 ermittelt werden. Diese Merkmale203 werden in diesem Dokument auch als Ursprungs-Merkmale bezeichnet. - Aus den Trainings-Datensätzen
{(xi, yi)} N / i=1 305 ). Es kann dann, z. B. mittels eines Gradientenverfahrens, das o. g. Optimierungsproblem gelöst werden, um eine optimierte Gewichtungsmatrix wopt zu bestimmen (Schritt305 ). Auf Basis der optimierten Gewichtungsmatrix wopt können dann die relevanten Merkmale203 und/oder Datenquellen103 ,104 ,105 bestimmt werden (Schritt306 ). Zu diesem Zweck kann auf Basis der Gewichtungswerte wd einer Zeile d ein repräsentativer Gewichtungswertw 203 ermittelt werden, (z. B. als Mittelwert, insbesondere als quadratisches Mittel, der einzelnen Gewichtungswerte wdk, mit k = 1, ..., K, der Zeile d oder durch Auswahl von ein oder mehreren signifikanten Gewichtungswerten wdk der Zeile d). Es können z. B. alle Merkmale d ausgewählt werden, für die der repräsentative Gewichtungswertw - Ggf. kann optional die ermittelte Gewichtungsmatrix Wopt rechtsseitig mit einer zentrierten Trainingsdatenmatrix X ^ multipliziert werden, um den Merkmalsraum in einen Teilraum der Diskriminatenanalyse zu transformieren (Schritt
308 ). - Mittels der Gewichtungsmatrix Wopt kann eine Untermenge der D Merkmale
203 für einen Zustands-Klassifikator ausgewählt werden. Desweiteren kann der Zustands-Klassifikator auf Basis der Gewichtungswerte wdk der selektierten Merkmale203 bestimmt werden. Insbesondere können die Gewichtungswerte wdk dazu verwendet werden, eine aktuell ermittelte Ausprägung bzw. einen aktuell ermittelten Wert eines (reduzierten) Merkmalsvektors zu gewichten und einen gewichteten Merkmalswert zu ermitteln (analog zu der Matrixoperation X ^W). Der gewichtete Merkmalswert kann für alle möglichen Klassen k = 1, ..., K ermittelt werden (mittels der jeweiligen Gewichtungswerte wdk). Durch Vergleich der gewichteten Merkmalswerte ergibt sich Information darüber, welche Klasse am wahrscheinlichsten ist (analog zu der o. g. Klassenmatrix Y). Es können die wahrscheinlichste Klasse (und der entsprechende Fahrerzustand) ausgewählt werden. - Es kann anschließend eine Kreuzvalidierung des ermittelten Zustands-Klassifikators durchgeführt werden (Schritt
310 ), wobei zu diesem Zweck ggf. geeignete Hyperparameter ausgewählt werden (Schritt309 ). Für die Kreuzvalidierung kann ein Teil der Trainingsdaten verwendet werden. Auf Basis der Kreuzvalidierung kann ein Gütemaß des Zustands-Klassifikators ermittelt werden. - Die o. g. Schritte
305 ,306 ,307 ,308 ,309 ,310 können für unterschiedliche Werte der Hyperparameter C1 und C2 wiederholt werden (z. B. für unterschiedliche Werte aus einem vorbestimmten Werteintervall). Es können somit die Werte der Hyperparameter C1 und C2 ermittelt werden, für die das Gütemaß des Zustands-Klassifikators (d. h. für die die Klassifikationsgüte) maximiert wird. Es kann folglich eine weitere Optimierung der Auswahl der Merkmale203 durchgeführt werden (Schritt311 ). - Abschließend kann eine Validierung des optimalen Zustands-Klassifikators (der auf Basis der optimalen Werte der Hyperparameter C1 und C2 ermittelt wurde) anhand der Testdaten durchgeführt werden (Schritte
312 ,313 ,314 ). Zu diesem Zweck können auf Basis der Testdaten Testdatensätze{(x ~i, yi)} T / i=1 312 ). Dabei entspricht einer Ausprägung des reduzierten Merkmalsvektors (mit einer reduzierten Anzahl von Merkmalen203 ). T entspricht der Anzahl von Testdatensätzen. Ggf. kann optional eine Transformation in den Teilraum der Diskriminatenanalyse erfolgen (Schritt313 ). Desweiteren kann anhand der Testdatensätze ein Gütemaß für den ermittelten Zustands-Klassifikator ermittelt werden (Schritt314 ). - Das oben beschriebene Verfahren
300 kann in analoger Weise verwendet werden, um relevante Kanäle einer Datenquelle105 mit einer Vielzahl von Sensor-Kanälen auszuwählen. Insbesondere umfasst ein Elektroenzephalograph105 eine Vielzahl von Elektroden bzw. Kanäle405 (z. B. 10–20, insbesondere 14 oder 19, Elektroden), die an unterschiedlichen Punkten am Schädel400 eines Fahrers angebracht werden können (siehe4a ). Die einzelnen Elektroden405 können als separate Datenquellen (im Sinne des in diesem Dokument beschriebenen Verfahrens) betrachtet werden. Insbesondere kann von jeder Elektrode405 (siehe4a ) ein separates Sensorsignal111 erfasst und bereitgestellt werden. Jedes Sensorsignal111 umfasst dabei ein bestimmtes Stromsignal. Auf Basis jedes Sensorsignals111 können ein oder mehrere Merkmale203 ermittelt werden. Beispielhafte Merkmale203 für die Elektrodensignale111 eines Elektroenzephalographen sind dabei - • ein Spektrum eines zeitlichen Ausschnittes
202 eines Elektrodensignals111 ; - • die Entropie eines zeitlichen Ausschnittes
202 eines Elektrodensignals111 ; und/oder - • eine fraktale Dimension eines zeitlichen Ausschnittes
202 eines Elektrodensignals111 . - Für M Elektroden
505 eines Elektroenzephalographen (die als M Datenquellen bzw. als M Kanäle betrachtet werden können) können so jeweils Q Merkmale203 ermittelt werden, so dass insgesamt auf Basis der Elektrodensignale111 eines Elektroenzephalographen D = M·Q Merkmale203 ermittelt werden können. Mittels des oben beschriebenen Verfahrens300 können in einem Schritt die Merkmale203 und/oder die Elektroden bzw. Kanäle405 identifiziert werden, die für einen Zustands-Klassifikator relevant sind. So kann die Qualität eines auf EEG-Daten basierenden Zustands-Klassifikators erhöht und/oder der Rechenaufwand reduziert werden. -
4a ,4b und4c veranschaulichen den Effekt der gemeinsamen Merkmals/Datenquellen Auswahl am Beispiel eines Elektroenzephalographen105 .4a veranschaulicht den Fall, bei dem eine reine Merkmals-basierte Selektion erfolgt (dies entspricht dem Fall, bei dem der erste Hyperparameter C1 = 0 ist). Es ergibt sich eine relativ gleichmäßige Verteilung der selektierten Merkmale203 über eine relativ große Menge von selektierten Elektroden bzw. Kanälen415 des Elektroenzephalographen105 (und einem damit verbundenen relativ hohen Rechenaufwand).4b veranschaulicht den Fall, bei dem eine reine Datenquellen-basierte, insbesondere Elektroden/Kanal-basierte, Selektion erfolgt (dies entspricht dem Fall, bei dem der zweite Hyperparameter C2 = 0 ist). In diesem Fall werden relativ wenige Elektroden/Kanäle415 ausgewählt, wobei für jede ausgewählte Elektrode alle möglichen Q Merkmale203 berücksichtigt werden. Eine Datenquellen-basierte Selektion führt typischerweise zu einem reduzierten Rechenaufwand, kann aber möglicherweise mit einer reduzierten Güte des ermittelten Zustands-Klassifikators einhergehen. -
4c zeigt beispielhaft das Selektionsergebnis der beschriebenen kombinierten Merkmals- und Datenquellen-Selektion (bei denen weder der erste noch der zweite Hyperparameter null sind, d. h. C1 ≠ 0 und C2 ≠ 0). Durch die kombinierte Merkmals- und Datenquellen-Selektion kann ein optimaler Kompromiss zwischen Rechenaufwand und Güte des Zustands-Klassifikators bereitgestellt werden. - Zum Anlernen des Zustands-Klassifikators können Trainingsdaten verwendet werden, die für einen bestimmten Fahrer erfasst wurden. So kann ein Zustands-Klassifikator mit einer hohen Güte für einen bestimmten Fahrer bereitgestellt werden. Alternativ oder ergänzend können die Trainingsdaten während des Betriebs eines Fahrzeugs
100 von der Steuereinheit101 ermittelt werden. Das in diesem Dokument beschriebene Verfahren300 kann dann auf Basis der im tatsächlichen Betrieb erfassten Sensordaten111 angewendet werden, um den Zustands-Klassifikator anzupassen. So kann ein adaptiver Zustands-Klassifikator bereitgestellt werden, der sich an den Fahrer des Fahrzeugs100 anpasst. - Das in diesem Dokument beschriebene Verfahren
300 ermöglicht es, in Rechen-effizienter Weise Sensordaten111 von einer Vielzahl von Datenquellen103 ,104 ,105 ,405 für eine Zustandsermittlung auszuwerten. So kann der Zustand eines Fahrers in zuverlässiger Weise ermittelt werden. - Wie oben dargelegt, wird im Rahmen des beschriebenen Verfahrens eine Gewichtungsmatrix Wopt ermittelt, die unterschiedliche Gewichtungswerte wdk für unterschiedliche Klassen (d. h. für unterschiedliche Zustände) des Fahrers umfasst. Anhand dieser Gewichtungswerte wdk wird es ermöglicht, unterschiedliche Zustände bzw. Zustandskomponenten eines Fahrers gleichzeitig zu ermitteln. Insbesondere können die unterschiedlichen Klassen unterschiedliche Komponenten eines Zustands des Fahrers beschreiben, wie z. B. eine Zustandskomponente, die einen Grad der Aufmerksamkeit des Fahrers auf den Verkehr anzeigt, und eine Zustandskomponente, die einen Grad der Zufriedenheit bzw. des Komforts des Fahrers anzeigt. Durch die Bereitstellung von entsprechenden Klassen und durch die Ermittlung der Gewichtungsmatrix Wopt können auf Basis der Gewichtungswerte wdk für die einzelnen Klassen zeitgleich für mehrere Zustandskomponenten Informationen gewonnen werden.
- Das in diesem Dokument beschriebene Verfahren
300 ermöglicht es, in zuverlässiger und automatischer Weise verrauschte Datenquellen103 ,104 ,105 ,405 zu identifizieren und für die Ermittlung des Fahrerzustands auszuschließen. Dies wird insbesondere durch die Berücksichtigung des ersten Besetzungs-Terms bewirkt, durch den Datenquellen m103 ,104 ,105 ,405 mit tendenziell niedrigen Gewichtungswerten Wm automatisch ausgeschlossen werden. - Durch das beschriebene Verfahren
300 können in einem einzigen Optimierungsschritt eine Merkmals-Auswahl und eine Datenquellen-Auswahl erfolgen. Diese zeitgleiche Auswahl von Merkmalen und Datenquellen ermöglicht die Ermittlung eines globalen Optimums. - Desweiteren ermöglicht es das beschriebene Verfahren
300 , die Anzahl der tatsächlich berücksichtigen Merkmale auf wirklich relevante Merkmale zu reduzieren. So kann ohne substantiellen Güteverlust der Rechenaufwand reduziert werden, um Echtzeit-Anwendungen in einem Fahrzeug100 zu ermöglichen. Desweiteren können durch eine Reduzierung der berücksichtigten Anzahl von Datenquellen103 ,104 ,105 ,405 die Kosten reduziert werden. - Desweiteren wird durch die Auswahl von relevanten Kanälen/Elektroden
405 bei einem Elektroenzephalographen105 eine verbesserte Auswertung der Hirnaktivitäten für die Zustandsermittlung eines Fahrers ermöglicht. - Die vorliegende Erfindung ist nicht auf die gezeigten Ausführungsbeispiele beschränkt. Insbesondere ist zu beachten, dass die Beschreibung und die Figuren nur das Prinzip der vorgeschlagenen Verfahren, Vorrichtungen und Systeme veranschaulichen sollen.
Claims (10)
1) Verfahren (300 ) zur Ermittlung eines Zustands-Klassifikators, wobei der Zustands-Klassifikator eingerichtet ist, einem ersten Wert eines reduzierten Merkmalsvektors einen ersten Zustand eines Fahrers eines Fahrzeugs (100 ) zuzuweisen; wobei das Verfahren (300 ) umfasst,
– Bereitstellen (301 , 302 , 303 ) von Trainingsdaten, die Sensordaten (111 ) einer Vielzahl von unterschiedlichen Datenquellen (103 , 104 , 105 ) umfassen;
– Ermitteln (304 ), auf Basis der Trainingsdaten, einer Vielzahl von Trainings-Datensätzen; wobei ein Trainings-Datensatz einen Wert eines Ursprungs-Merkmalsvektors und einen entsprechenden tatsächlichen Zustand des Fahrers umfasst; wobei der Ursprungs-Merkmalsvektor eine Vielzahl von Ursprungs-Merkmalen umfasst; wobei die Vielzahl von Ursprungs-Merkmalen zumindest ein Merkmal für jede der Vielzahl von unterschiedlichen Datenquellen (103 , 104 , 105 ) umfasst;
– Ermitteln (305 , 306 ), auf Basis der Vielzahl von Trainings-Datensätzen, von Gewichtungswerten für die einzelnen Ursprungs-Merkmale; wobei ein Gewichtungswert für ein Ursprungs-Merkmal eine Relevanz dieses Ursprungs-Merkmals für den Zustands-Klassifikator anzeigt; wobei die Gewichtungswerte durch Reduzieren oder Erhöhen einer Optimierungsfunktion ermittelt werden; wobei die Optimierungsfunktion umfasst,
– einen ersten Eliminierungs-Term, der es belohnt, wenn alle Ursprungs-Merkmale einer bestimmten Datenquelle (103 , 104 , 105 ) der Vielzahl von unterschiedlichen Datenquellen (103 , 104 , 105 ) für den Zustands-Klassifikator irrelevant sind; und
– einen zweiten Eliminierungs-Term, der es belohnt, wenn ein einzelnes Ursprungs-Merkmal für den Zustands-Klassifikator irrelevant ist;
– Auswählen (307 ), auf Basis der Gewichtungswerte, einer Untermenge der Vielzahl von Ursprungs-Merkmalen für einen reduzierten Merkmalsvektor; und
– Bereitstellen (307 ) des Zustands-Klassifikators auf Basis der Gewichtungswerte für die ausgewählte Untermenge von Ursprungs-Merkmalen.
Verfahren (300 ) gemäß Anspruch 1, wobei
– die Optimierungsfunktion einen Fehler-Term umfasst, der eine mittlere Abweichung von prädizierten Zuständen des Fahrers von tatsächlichen Zuständen des Fahrers anzeigt; und
– der Fehler-Term einen prädizierten Zustand des Fahrers für einen Trainings-Datensatz durch Anwendung von zumindest einem Gewichtungswert auf den Wert des Ursprungs-Merkmalsvektors dieses Trainings-Datensatzes ermittelt.
Verfahren (300 ) gemäß Anspruch 2, wobei
– der Fehler-Term auf Basis folgender Formel ermittelt wird: J = 1 / 2||X ^W – Y|| 2 / F
– W eine Gewichtungsmatrix ist, die die Gewichtungswerte umfasst;
– X ^ eine Trainingsdatenmatrix ist, die die Werte des Ursprungs-Merkmalsvektors aus der Vielzahl von Trainings-Datensätzen umfasst;
– Y eine Zustandsmatrix ist, die die tatsächlichen Zustände des Fahrers aus der Vielzahl von Trainings-Datensätzen anzeigt; und
– || ||F einer Frobenius Norm entspricht.
Verfahren (300 ) gemäß einem der vorhergehenden Ansprüche, wobei
– das Ermitteln (305 , 306 ) von Gewichtungswerten umfasst, das Ermitteln des ersten Eliminierungs-Terms und das Ermitteln des zweiten Eliminierungs-Terms;
– die Gewichtungswerte zumindest einen Gewichtungswert für jedes Ursprungs-Merkmal der Vielzahl von Ursprungs-Merkmale umfassen;
– das Ermitteln des ersten Eliminierungs-Terms umfasst, Ermitteln einer Vielzahl von Datenquellen-Normen für die entsprechende Vielzahl von Datenquellen (103 , 104 , 105 ), wobei eine Datenquellen-Norm für eine Datenquelle (103 , 104 , 105 ) eine L2-Norm der Gewichtungswerte der ein oder mehreren Ursprungs-Merkmale dieser Datenquelle (103 , 104 , 105 ) umfasst; und
– das Ermitteln des zweiten Eliminierungs-Terms umfasst, Ermitteln einer Vielzahl von Merkmals-Normen für die entsprechende Vielzahl von Ursprungs-Merkmalen, wobei eine Merkmals-Norm für ein Ursprungs-Merkmal eine L2-Norm der ein oder mehreren Gewichtungswerte für dieses Ursprungs-Merkmal umfasst.
Verfahren (300 ) gemäß Anspruch 4, wobei
– das Ermitteln des ersten Eliminierungs-Terms weiter umfasst, Ermitteln einer L1-Norm der Vielzahl von Datenquellen-Normen; und
– das Ermitteln des zweiten Eliminierungs-Terms weiter umfasst, Ermitteln einer L1-Norm der Vielzahl von Merkmals-Normen.
Verfahren (300 ) gemäß einem der vorhergehenden Ansprüche, wobei
– der erste Eliminierungs-Term auf Basis folgender Formel ermittelt wird – W eine Gewichtungsmatrix ist, die die Gewichtungswerte umfasst;
– M der Anzahl von unterschiedlichen Datenquellen (103 , 104 , 105 ) entspricht;
– Quellem der Menge der Ursprungs-Merkmale einer m-ten Datenquelle (103 , 104 , 105 ) entspricht; und
– wq eine Untermatrix der Gewichtungsmatrix ist, die nur die Gewichtungswerte der ein oder mehreren Ursprungs-Merkmale für eine bestimmte m-te Datenquelle (103 , 104 , 105 ) umfasst; und/oder
– der zweite Eliminierungs-Term auf Basis folgender Formel ermittelt wird ||W||1,2 = Σd||wd||2
– wd eine Untermatrix der Gewichtungsmatrix ist, die nur die Gewichtungswerte für ein bestimmtes Ursprungs-Merkmal umfasst.
Verfahren (300 ) gemäß einem der vorhergehenden Ansprüche, wobei
– der erste Eliminierungs-Term und der zweite Eliminierungs-Term über jeweilige Faktoren C1 und C2 in der Optimierungsfunktion berücksichtigt werden;
– das Verfahren (300 ) weiter umfasst, Ermitteln (305 , 309 , 310 , 311 ) von Werten für die Faktoren C1 und C2, so dass eine Güte des ermittelten Zustands-Klassifikators erhöht wird.
Verfahren (300 ) gemäß einem der vorhergehenden Ansprüche, wobei die Vielzahl von Datenquellen (103 , 104 , 105 ) ein oder mehrere umfassen von,
– eine Bildkamera (103 ), die eingerichtet ist, Bilddaten des Fahrers als Sensordaten (111 ) zu erfassen;
– einen Eyetracker (104 ), der eingerichtet ist, Information über eine Blickrichtung des Fahrers als Sensordaten (111 ) bereitzustellen;
– einen Elektrokardiographen (105 ), der eingerichtet ist, Information bezüglich des Herzschlags des Fahrers als Sensordaten (111 ) bereitzustellen; und/oder
– einen Elektroenzephalographen (105 ), der eingerichtet ist, Information bezüglich der Hirnströme des Fahrers als Sensordaten (111 ) bereitzustellen.
Verfahren (300 ) gemäß einem der vorhergehenden Ansprüche, wobei
– die Gewichtungswerte zumindest einen Gewichtungswert für jedes Ursprungs-Merkmal der Vielzahl von Ursprungs-Merkmale umfasst;
– die Gewichtungswerte zumindest einen Gewichtungswert für jeden möglichen Zustand einer Vielzahl von vordefinierten Zuständen umfasst.
Verfahren (300 ) gemäß einem der vorhergehenden Ansprüche, wobei die Vielzahl von Ursprungs-Merkmalen für zumindest eine Datenquelle (103 , 104 , 105 ) der Vielzahl von unterschiedlichen Datenquellen (103 , 104 , 105 ) eine Vielzahl von Ursprungs-Merkmalen umfasst.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102015217336.4A DE102015217336A1 (de) | 2015-09-10 | 2015-09-10 | Verfahren zur Ermittlung eines Klassifikators zur Zustandsbestimmung eines Fahrers eines Fahrzeugs |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102015217336.4A DE102015217336A1 (de) | 2015-09-10 | 2015-09-10 | Verfahren zur Ermittlung eines Klassifikators zur Zustandsbestimmung eines Fahrers eines Fahrzeugs |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102015217336A1 true DE102015217336A1 (de) | 2017-03-16 |
Family
ID=58160821
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102015217336.4A Pending DE102015217336A1 (de) | 2015-09-10 | 2015-09-10 | Verfahren zur Ermittlung eines Klassifikators zur Zustandsbestimmung eines Fahrers eines Fahrzeugs |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102015217336A1 (de) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6070098A (en) * | 1997-01-11 | 2000-05-30 | Circadian Technologies, Inc. | Method of and apparatus for evaluation and mitigation of microsleep events |
US20120071780A1 (en) * | 2010-07-13 | 2012-03-22 | Commissariat A L'energie Atomique Et Aux Energies Alternatives | Method and a System for Classifying Neural Signals, and a Method of Selecting Electrodes for Direct Neural Control |
US20150018664A1 (en) * | 2013-07-12 | 2015-01-15 | Francisco Pereira | Assessment of Traumatic Brain Injury |
-
2015
- 2015-09-10 DE DE102015217336.4A patent/DE102015217336A1/de active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6070098A (en) * | 1997-01-11 | 2000-05-30 | Circadian Technologies, Inc. | Method of and apparatus for evaluation and mitigation of microsleep events |
US20120071780A1 (en) * | 2010-07-13 | 2012-03-22 | Commissariat A L'energie Atomique Et Aux Energies Alternatives | Method and a System for Classifying Neural Signals, and a Method of Selecting Electrodes for Direct Neural Control |
US20150018664A1 (en) * | 2013-07-12 | 2015-01-15 | Francisco Pereira | Assessment of Traumatic Brain Injury |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP1789906B1 (de) | Verfahren zur bildbasierten fahreridentifikation in einem kraftfahrzeug | |
DE102015121339B4 (de) | Systeme und verfahren zum ermitteln eines zustands einer fahrbahn | |
DE102014210820A1 (de) | Verfahren zum Nachweis von großen und Passagierfahrzeugen von festen Kameras | |
DE102019100575A1 (de) | Verfahren und system zum erzeugen eines bereichsbildes unter verwendung von daten mit geringer tiefe | |
DE102012223360A1 (de) | Vorrichtung und Verfahren zum Erfassen eines Hindernisses für ein Rundumsicht-Überwachungssystem | |
DE102017219282A1 (de) | Verfahren und Vorrichtung zum automatischen Erzeugen eines künstlichen neuronalen Netzes | |
DE102020126732A1 (de) | Systeme und Verfahren zum Diagnostizieren von Wahrnehmungssystemen von Fahrzeugen anhand der zeitlichen Kontinuität von Sensordaten | |
DE102021201777A1 (de) | Verfahren zur Verhaltenserkennung, Vorrichtung zur Verhaltenserkennung und computerlesbares Aufzeichnungsmedium | |
DE102017124600A1 (de) | Semantische Segmentierung eines Objekts in einem Bild | |
DE102020207449B4 (de) | Verfahren, Computerprogramm und Vorrichtung zum Verarbeiten von Signalen | |
DE102013210771A1 (de) | Detektion eines komplexen objekts unter verwendung einer kaskade von klassifizierungseinrichtungen | |
EP3410324B1 (de) | Bestimmen eines anonymisierten dosisberichtbildes | |
DE102020211262A1 (de) | Verfahren und Vorrichtung zum Komprimieren eines neuronalen Netzes | |
DE112017007247T5 (de) | Bildverarbeitungsvorrichtung | |
DE102020103770A1 (de) | Identifizierung der Aufmerksamkeitsregion zur Verbesserung der sensorgestützten Erkennung in einem Fahrzeug | |
DE102015217336A1 (de) | Verfahren zur Ermittlung eines Klassifikators zur Zustandsbestimmung eines Fahrers eines Fahrzeugs | |
DE102015217335A1 (de) | Verfahren zur Ermittlung eines Klassifikators zur Zustandsbestimmung anhand von Elektroenzephalographie-Daten | |
DE102015205720A1 (de) | System zum Analysieren nichtklassifizierter Kraftfahrzeugfehlerdaten | |
DE102018220608A1 (de) | Maschinelles Lernsystem, sowie ein Verfahren, ein Computerprogramm und eine Vorrichtung zum Erstellen des maschinellen Lernsystems | |
DE102018211875A1 (de) | Verfahren und Vorrichtung zum Betreiben eines Steuerungssystems | |
DE102021204550A1 (de) | Verfahren zum Erzeugen wenigstens eines Datensatzes zum Trainieren eines Algorithmus maschinellen Lernens | |
DE102021206375A1 (de) | Verfahren zum Trainieren eines Algorithmus des maschinellen Lernens | |
DE102016200854B4 (de) | Verfahren und Recheneinheit zur Dimensionierung eines Klassifikators | |
EP3399427A1 (de) | Verfahren und system zur quantitativen messung der mentalen beanspruchung eines individuellen benutzers | |
DE102016111327A1 (de) | Verfahren und System zur Beurteilung von Wunden |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R163 | Identified publications notified | ||
R081 | Change of applicant/patentee |
Owner name: BAYERISCHE MOTOREN WERKE AKTIENGESELLSCHAFT, DE Free format text: FORMER OWNERS: BAYERISCHE MOTOREN WERKE AKTIENGESELLSCHAFT, 80809 MUENCHEN, DE; NANYANG TECHNOLOGICAL UNIVERSITY, SINGAPUR, SG |
|
R082 | Change of representative | ||
R012 | Request for examination validly filed |