DE112018006164T5 - Sichtlinienrichtungskalibrierungsvorrichtung, sichtlinienrichtungskalibrierungsverfahren und sichtlinienrichtungskalibrierungsprogramm - Google Patents

Sichtlinienrichtungskalibrierungsvorrichtung, sichtlinienrichtungskalibrierungsverfahren und sichtlinienrichtungskalibrierungsprogramm Download PDF

Info

Publication number
DE112018006164T5
DE112018006164T5 DE112018006164.7T DE112018006164T DE112018006164T5 DE 112018006164 T5 DE112018006164 T5 DE 112018006164T5 DE 112018006164 T DE112018006164 T DE 112018006164T DE 112018006164 T5 DE112018006164 T5 DE 112018006164T5
Authority
DE
Germany
Prior art keywords
calibration
line
sight direction
user
gaze
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
DE112018006164.7T
Other languages
English (en)
Other versions
DE112018006164B4 (de
Inventor
Takahisa Hirata
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of DE112018006164T5 publication Critical patent/DE112018006164T5/de
Application granted granted Critical
Publication of DE112018006164B4 publication Critical patent/DE112018006164B4/de
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/653Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B21/00Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant
    • G01B21/22Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant for measuring angles or tapers; for testing the alignment of axes

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • Biophysics (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Eye Examination Apparatus (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)

Abstract

Enthalten sind: eine Kalibrierungsinformationenerfassungseinheit (101) zum Erfassen dreidimensionaler Koordinaten für mindestens ein Blickziel für eine Kalibrierung, wobei die dreidimensionalen Koordinaten eine Position jedes Blickziels für die Kalibrierung angeben; eine Abtastungserfassungseinheit (102) zum Erfassen mehrerer Abtastungen, die eine Sichtlinienrichtung eines Benutzers angeben; eine Kalibrierungsmodellerzeugungseinheit (103) zum Erzeugen mehrerer Kalibrierungsmodelle, die dreidimensionale Koordinaten angeben, die Kandidaten für eine Position des Benutzers sind, auf Basis der dreidimensionalen Koordinaten, die eine Position jedes der Blickziele für die Kalibrierung angeben, und der Abtastungen, die die Sichtlinienrichtung des Benutzers angeben, der zu jedem der Blickziele für die Kalibrierung blickt; und eine Kalibrierungsparameterberechnungseinheit (104) zum Berechnen von Kalibrierungsparametern auf Basis der erzeugten Kalibrierungsmodelle.

Description

  • TECHNISCHES GEBIET
  • Die vorliegende Erfindung betrifft Technologie zum Kalibrieren einer gemessenen Sichtlinienrichtung einer Person.
  • STAND DER TECHNIK
  • Seit einiger Zeit wird erwartet, in verschiedenen Gebieten eine gemessene Sichtlinienrichtung einer Person zu nutzen. Beispielsweise beinhaltet die Nutzung bei der Fahrassistenz für Fahrer von Fahrzeugen das Bestimmen des Wahrnehmungszustands eines Fahrers hinsichtlich der Umgebung, wie etwa den Aufmerksamkeitsgrad gegenüber Fußgängern oder dergleichen oder das unaufmerksame Fahren auf Basis einer gemessenen Sichtlinienrichtung des Fahrers oder das Anzeigen von Unterstützungsinformationen in der Sichtlinienrichtung.
  • Allgemein beinhaltet die gemessene Sichtlinienrichtung einen Messfehler. In einem Fall, bei dem eine gemessene Sichtlinienrichtung verwendet wird, wird daher auch eine Technologie zum Kalibrieren eines in der gemessenen Sichtlinienrichtung enthaltenen Messfehlers in Kombination damit verwendet.
  • Die Patentliteratur 1 beschreibt eine Sichtlinienrichtungsmessvorrichtung, die ein Hornhautreflexionsbild von jedem Auge des Fahrers aus durch zwei Kameras aufgenommenen Bildern extrahiert, die Augapfelpositionen detektiert, wobei die Mitte zwischen den Augäpfeln am Schnittpunkt zweier Geraden liegt, die Koordinaten der beiden Hornhautreflexionsbilder und die Brennpunkte der entsprechenden Kameras verbinden, um die Rotationswinkel der Augäpfel bezüglich der Bildgebungsrichtung der Kameras zu detektieren, und die Sichtlinienrichtung auf Basis der detektierten Augapfelpositionen und des Rotationswinkels der Augäpfel berechnet. Die in der Patentliteratur 1 beschriebene Sichtlinienrichtungsmessvorrichtung startet einen Kalibrierungsvorgang, wenn eine spezifische Vorrichtung wie etwa eine Navigationsvorrichtung durch einen Insassen betrieben wird, und berechnet einen Korrekturkoeffizienten, der die wie oben beschrieben berechnete Sichtlinienrichtung des Fahrers mit einer Geraden, die durch das Zentrum des Augapfels läuft, und einer spezifischen Vorrichtung abgleicht.
  • REFERENZLISTE
  • PATENTLITERATUR
  • Patentliteratur 1: JP H09-238905 A
  • KURZFASSUNG DER ERFINDUNG
  • TECHNISCHES PROBLEM
  • In der Sichtlinienrichtungsmessvorrichtung in der oben beschriebenen Patentliteratur 1 wird jedoch nur ein Korrekturkoeffizient für eine Sichtlinienrichtung, die bezüglich einer zu der spezifischen Vorrichtung gerichteten Sichtlinie gemessen wird, als ein Kalibrierungsbetrag für die Kalibrierung eines Messfehlers berechnet. Daher besteht ein Problem darin, dass der Kalibrierungsbetrag nicht für eine zu einem beliebigen anderen Punkt außer der spezifischen Vorrichtung gerichteten Sichtlinie berechnet werden kann.
  • Die vorliegende Erfindung wurde getätigt, um das oben beschriebene Problem zu lösen, und ein Ziel der Erfindung besteht darin, einen Kalibrierungsbetrag für die Kalibrierung eines Messfehlers zu berechnen, der in einer Sichtlinienrichtung enthalten ist, die für eine zu einem beliebigen Punkt gerichtete Sichtlinie gemessen wird.
  • LÖSUNG DES PROBLEMS
  • Eine Sichtlinienrichtungskalibrierungsvorrichtung gemäß der vorliegenden Erfindung beinhaltet Folgendes: eine Kalibrierungsinformationenerfassungseinheit zum Erfassen dreidimensionaler Koordinaten für mindestens ein Blickziel für eine Kalibrierung, wobei die dreidimensionalen Koordinaten eine Position jedes Blickziels für die Kalibrierung angeben; eine Abtastungserfassungseinheit zum Erfassen mehrerer Abtastungen, die eine Sichtlinienrichtung eines Benutzers angeben; eine Kalibrierungsmodellerzeugungseinheit zum Erzeugen mehrerer Kalibrierungsmodelle, die dreidimensionale Koordinaten angeben, die Kandidaten für eine Position des Benutzers sind, auf Basis der durch die Kalibrierungsinformationenerfassungseinheit erfassten dreidimensionalen Koordinaten und der durch die Abtastungserfassungseinheit erfassten Abtastungen, die die Sichtlinienrichtung des Benutzers angeben, der zu jedem der Blickziele für die Kalibrierung blickt; und eine Kalibrierungsparameterberechnungseinheit zum Berechnen eines Kalibrierungsparameters auf Basis der durch die Kalibrierungsmodellerzeugungseinheit erzeugten Kalibrierungsmodelle.
  • VORTEILHAFTE EFFEKTE DER ERFINDUNG
  • Gemäß der vorliegenden Erfindung ist es möglich, einen Kalibrierungsbetrag zum Kalibrieren eines Messfehlers zu berechnen, der in einer Sichtlinienrichtung enthalten ist, die für eine zu einem beliebigen Punkt gerichtete Sichtlinie gemessen wird.
  • Figurenliste
  • 1 ist ein Blockdiagramm, das eine Konfiguration einer Sichtlinienrichtungskalibrierungsvorrichtung gemäß einer ersten Ausführungsform veranschaulicht.
    • 2A und 2B sind Diagramme, die jeweils eine beispielhafte Hardwarekonfiguration der Sichtlinienrichtungskalibrierungsvorrichtung gemäß der ersten Ausführungsform veranschaulichen.
    • 3 ist ein Diagramm, das dreidimensionale Koordinaten veranschaulicht, die in der Sichtlinienrichtungskalibrierungsvorrichtung gemäß der ersten Ausführungsform verwendet werden.
    • 4 ist ein erläuterndes Diagramm, das einen Prozess durch eine Kalibrierungsmodellerzeugungseinheit der Sichtlinienrichtungskalibrierungsvorrichtung gemäß der ersten Ausführungsform veranschaulicht.
    • 5 ist ein erläuterndes Diagramm, das einen Prozess durch eine Kalibrierungsmodellerzeugungseinheit der Sichtlinienrichtungskalibrierungsvorrichtung gemäß der ersten Ausführungsform veranschaulicht.
    • 6 ist ein erläuterndes Diagramm, das ein Berechnungsbeispiel einer Kalibrierter-Wert-Berechnungseinheit der Sichtlinienrichtungskalibrierungsvorrichtung gemäß der ersten Ausführungsform veranschaulicht.
    • 7 ist ein Flussdiagramm, das einen Arbeitsablauf eines Kalibrierungsparameterberechnungsprozesses der Sichtlinienrichtungskalibrierungsvorrichtung gemäß der ersten Ausführungsform veranschaulicht.
    • 8 ist ein Flussdiagramm, das einen Arbeitsablauf eines Sichtlinienrichtungskalibrierungsprozesses und eines Sichtlinienrichtungbestimmungsprozesses der Sichtlinienrichtungskalibrierungsvorrichtung gemäß der ersten Ausführungsform veranschaulicht.
    • 9 ist ein Diagramm, das ein Ergebnis eines Kalibrierungsprozesses der Sichtlinienrichtungskalibrierungsvorrichtung gemäß der ersten Ausführungsform veranschaulicht.
  • BESCHREIBUNG VON AUSFÜHRUNGSFORMEN
  • Um die vorliegende Erfindung weiter ausführlich zu beschreiben, wird eine Ausführungsform zum Ausführen der vorliegenden Erfindung im Folgenden mit Bezug auf die begleitenden Zeichnungen beschrieben.
  • Erste Ausführungsform
  • 1 ist ein Blockdiagramm, das eine Konfiguration einer Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß einer ersten Ausführungsform veranschaulicht.
  • Die Sichtlinienrichtungskalibrierungsvorrichtung 100 beinhaltet eine Kalibrierungsinformationenerfassungseinheit 101, eine Abtastungserfassungseinheit 102, eine Kalibrierungsmodellerzeugungseinheit 103, eine Kalibrierungsparameterberechnungseinheit 104, eine Kalibrierter-Wert-Berechnungseinheit 105, eine Kalibrierungsparameterspeichereinheit 106a, eine Sichtlinienrichtungsspeichereinheit 106b und eine Sichtlinienrichtungsbestimmungseinheit 107.
  • Die Sichtlinienrichtungskalibrierungsvorrichtung 100 ist außerdem mit einer Sichtlinienmessvorrichtung 201 und einer Eingabevorrichtung 202 verbunden.
  • Die Sichtlinienrichtungskalibrierungsvorrichtung 100 kann weitläufig bei Fällen angewendet werden, bei denen eine relative Position zwischen einem Blickziel für die Kalibrierung und einem Benutzer als fest angenommen wird, wie etwa eine Kalibrierung einer gemessenen Sichtlinienrichtung eines Insassen in einem Fahrzeug oder eine Kalibrierung einer Sichtlinienrichtung, die für einen Benutzer gemessen wird, der einen Bildschirm auf einem Schreibtisch oder einen am Kopf des Benutzers angebrachten Bildschirm visuell erkennt.
  • Die Kalibrierungsinformationenerfassungseinheit 101 erfasst dreidimensionale Koordinaten eines voreingestellten Blickziels, zu dem ein Benutzer blicken soll (nachfolgend als ein Blickziel für die Kalibrierung bezeichnet), zur Erzeugung eines später beschriebenen Kalibrierungsmodells. Hier ist ein Benutzer eine Person, deren Sichtlinie gemessen werden soll. Die Kalibrierungsinformationenerfassungseinheit 101 erfasst die dreidimensionalen Koordinaten des Blickziels für die Kalibrierung von einer internen Speicherungsvorrichtung. Alternativ erfasst die Kalibrierungsinformationenerfassungseinheit 101 die dreidimensionalen Koordinaten, die die Position des Blickziels für die Kalibrierung angeben, über die Eingabevorrichtung von einem externen Programm.
  • Was die Anzahl von Blickzielen für die Kalibrierung angeht, kann eine beliebige Anzahl von Objekten festgelegt werden, die zumindest den Freiheitsgrad der Kalibrierung erfüllen kann. Man nehme beispielsweise an, dass die Sichtlinienrichtungskalibrierungsvorrichtung 100 in einem Fahrzeug verwendet wird und dass in einem Fall, bei dem die Sichtlinienrichtung eines Fahrers des Fahrzeugs kalibriert wird, ein Rotationsparameter (p in der später beschriebenen Gleichung (1)), der angibt, dass ein Winkel, der durch eine Referenzrichtung zur Messung der Sichtlinienrichtung und eine Kalibrierungsreferenzrichtung gebildet wird, im Voraus bekannt ist, fest und im Voraus bekannt ist, und dass die Position des Fahrersitzes in der Links-Rechts-Richtung (eine x-Komponente von xZiel in Gleichung (1)) fest und im Voraus bekannt ist. In diesem Fall beinhaltet der Freiheitsgrad der Kalibrierung zwei Freiheitsgrade in der Vorderseite-Rückseite-Richtung und in der Aufwärts-AbwärtsRichtung der Benutzerposition (y- und z-Komponente von xZiel in Gleichung (1)). Weiterhin unter der Annahme, dass die Sichtlinienmessvorrichtung 201 die Gierrichtung und die Nickrichtung einer Sichtlinie bereitstellt, kann ein Messwert mit zwei Freiheitsgraden erhalten werden, und somit genügt es, mindestens ein Blickziel für die Kalibrierung festzulegen. In der folgenden Beschreibung wird ein Fall als ein Beispiel beschrieben, bei dem der Rotationsparameter (p) unbekannt ist und es mehrere Blickziele für die Kalibrierung gibt. Es ist zu beachten, dass sich die Genauigkeit von berechneten Kalibrierungsparametern im Allgemeinen verbessert, wenn die Anzahl von Blickzielen für die Kalibrierung zunimmt.
  • Während die Sichtlinienrichtungskalibrierungsvorrichtung 100 Kalibrierungsparameter berechnet, erfasst die Abtastungserfassungseinheit 102 mehrere Abtastungen, die Sichtlinienrichtungen des Benutzers angeben, der zu jedem Blickziel für die Kalibrierung blickt. Die Abtastungserfassungseinheit 102 erfasst mehrere Sichtlinienrichtungen für einen Benutzer, der zu einem Blickziel für die Kalibrierung blickt. Die Abtastungserfassungseinheit 102 erfasst außerdem eine Sichtlinienrichtung für den Benutzer, der zu jedem von mehreren Blickzielen für die Kalibrierung blickt.
  • Es ist zu beachten, dass es wünschenswert ist, dass am einfachsten die Referenz einer Sichtlinienrichtung, das heißt die wahre Sichtlinienrichtung am Nullpunkt der Sichtlinienmessvorrichtung 201, parallel zu der Vorwärtsrichtung des Benutzers ist. In einem Fall, bei dem die Referenz der Sichtlinienrichtung in Kalibrierungszielen enthalten ist, kann die Referenz der Sichtlinienrichtung jedoch unbekannt sein. In diesem Fall wird eine kalibrierte Sichtlinienrichtung auf Basis eines wünschenswerterweise gekennzeichneten Azimuts, zum Beispiel einer später beschriebenen Y-Achse, durch einen später beschriebenen Kalibrierungsprozess berechnet. Die Abtastungserfassungseinheit 102 gibt die erfassten Abtastungen zu der Kalibrierungsmodellerzeugungseinheit 103 aus.
  • Unterdessen, während die Scihtlinienrichtungskalibrierungsvorrichtung 100 einen Sichtlinienrichtungskalibrierungspropzess und einen Sichtlinienrichtungsbestimmungsprozess unter Verwendung der Kalibrierungsparameter durchführt, erfasst die Abtastungserfassungseinheit 102 eine Abtastung, die die aktuelle Sichtlinienrichtung des Benutzers angibt. Die Abtastungserfassungseinheit 102 gibt die erfasste Abtastung zu der Kalibrierter-Wert-Berechnungseinheit 105 aus.
  • Die Kalibrierungsmodellerzeugungseinheit 103 erzeugt mehrere Kalibrierungsmodelle, die dreidimensionale Koordinaten angeben, die Kandidaten für die Benutzerposition sind, durch Assoziieren der dreidimensionalen Koordinaten des Blickziels für die Kalibrierung, die durch die Kalibrierungsinformationenerfassungseinheit 101 erfasst werden, mit den Abtastungen, die durch die Abtastungserfassungseinheit 102 erfasst werden. Es ist anzumerken, dass die Kalibrierungsmodellerzeugungseinheit 103 mehrere Abtastungen erfassen kann, die in Assoziation mit Informationen, die das Blickziel für die Kalibrierung angeben, in Zusammenarbeit mit einem externen Programm gespeichert sind. Die Benutzerposition entspricht zum Beispiel der Mittelposition des Kopfes des Benutzers, der Mittelposition der Augäpfel oder der Mittelposition zwischen den Augenbrauen. Die Kalibrierungsmodellerzeugungseinheit 103 gibt das erzeugte Kalibrierungsmodell zu der Kalibrierungsparameterberechnungseinheit 104 aus. Es ist anzumerken, dass ausführliche Inhalte des Prozesses der Kalibrierungsmodellerzeugungseinheit 103 später beschrieben werden.
  • Die Kalibrierungsparameterberechnungseinheit 104 berechnet Kalibrierungsparameter auf Basis des durch die Kalibrierungsmodellerzeugungseinheit 103 erzeugten Kalibrierungsmodells. Die Kalibrierungsparameterberechnungseinheit 104 speichert Kalibrierungsparameter in der Kalibrierungsparameterspeichereinheit 106a. Es ist anzumerken, dass ausführliche Inhalte des Prozesses der Kalibrierungsparameterberechnungseinheit 104 später beschrieben werden.
  • Die Kalibrierter-Wert-Berechnungseinheit 105 berechnet eine kalibrierte Sichtlinienrichtung auf Basis der durch die Kalibrierungsparameterberechnungseinheit 104 berechneten Kalibrierungsparameter. Beispielsweise akzeptiert die Kalibrierter-Wert-Berechnungseinheit 105 über die Eingabevorrichtung 202 eine Anforderung von einem externen Programm, um zu bestimmen, ob der Benutzer ein gewünschtes Blickziel visuell erkennt oder nicht (nachfolgend als ein Blickbestimmungsziel bezeichnet). Nach dem Empfangen der Anforderung erfasst die Kalibrierter-Wert-Berechnungseinheit 105 eine Abtastung, die die aktuelle Sichtlinienrichtung angibt, von der Abtastungserfassungseinheit 102. Die Kalibrierter-Wert-Berechnungseinheit 105 kalibriert die Sichtlinienrichtung unter Verwendung der in der Kalibrierungsparameterspeichereinheit 106a gespeicherten Kalibrierungsparameter. Die Kalibrierter-Wert-Berechnungseinheit 105 gibt die kalibrierte Sichtlinienrichtung zu der Sichtlinienrichtungsbestimmungseinheit 107 aus.
  • Die Kalibrierter-Wert-Berechnungseinheit 105 kann ferner die kalibrierten Sichtlinienrichtungen jederzeit in der Sichtlinienrichtungsspeichereinheit 106b speichern. In diesem Fall gibt die Sichtlinienrichtungskalibrierungsvorrichtung 100 Werte, die durch Umwandeln der dreidimensionalen Koordinaten des Blickbestimmungsziels in eine kalibrierte Sichtlinienrichtung erhalten werden, beispielsweise θZiel in einem später beschriebenen Bestimmungsprozess, zu einem externen Programm zurück, das bestimmen will, ob der Benutzer das Blickbestimmungsziel visuell erkennt oder nicht. Das externe Programm führt unabhängig einen Bestimmungsprozess durch Bezugnahme auf die Sichtlinienrichtungsspeichereinheit 106b wie erforderlich und Vergleichen von dieser mit der kalibrierten Sichtlinienrichtung durch. Es ist anzumerken, dass die Kombination aus kalibrierten Werten, die in der Sichtlinienrichtungsspeichereinheit 106b gespeichert sind, und aus den Kalibrierungsparametern, die dem externen Programm bereitgestellt werden, ein Beispiel ist und wie erforderlich in Abhängigkeit vom Bestimmungsprozess modifiziert werden kann.
  • Die Sichtlinienrichtungsbestimmungseinheit 107 bestimmt, ob der Benutzer das Blickbestimmungsziel visuell erkennt oder nicht, auf Basis der in der Kalibrierungsparameterspeichereinheit 106a gespeicherten Kalibrierungsparameter und der durch die Kalibrierter-Wert-Berechnungseinheit 105 kalibrierten Sichtlinienrichtung.
  • Die Sichtlinienrichtungsbestimmungseinheit 107 bestimmt, dass der Benutzer das Blickbestimmungsziel visuell erkennt, beispielsweise wenn die kalibrierte Sichtlinienrichtung der Richtung des Blickbestimmungsziels ähnelt. Die Sichtlinienrichtungsbestimmungseinheit 107 legt auf Basis eines voreingestellten Schwellenwerts fest, ob die kalibrierte Sichtlinienrichtung und die Richtung des Blickbestimmungsziels ähnlich sind. Der Schwellenwert wird auf Basis der aktuellen Sichtlinienrichtung des Benutzers und Informationen, die die Umgebungssituation angeben, eingestellt. Beispielsweise wird der Schwellenwert auf einen großen Wert eingestellt, wenn bestimmt wird, dass ein Ziel, das visuell von einem Benutzer erkannt wird, in der Nähe des Benutzers positioniert ist, und wird auf einen kleinen Wert eingestellt, wenn bestimmt wird, dass ein Ziel, das visuell von dem Benutzer erkannt wird, weit weg vom Benutzer positioniert ist.
  • Als Nächstes wird ein Hardwarekonfigurationsbeispiel der Sichtlinienrichtungskalibrierungsvorrichtung 100 beschrieben.
  • Die 2A und 2B sind Diagramme, die jeweils eine beispielhafte Hardwarekonfiguration der Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform veranschaulichen.
  • Die Kalibrierungsparameterspeichereinheit 106a und die Sichtlinienrichtungsspeichereinheit 106b in der Sichtlinienrichtungskalibrierungsvorrichtung 100 werden durch einen Speicher 100a implementiert. Jede der Funktionen der Kalibrierungsinformationenerfassungseinheit 101, der Abtastungserfassungseinheit 102, der Kalibrierungsmodellerzeugungseinheit 103, der Kalibrierungsparameterberechnungseinheit 104, der Kalibrierter-Wert-Berechnungseinheit 105 und der Sichtlinienrichtungsbestimmungseinheit 107 in der Sichtlinienrichtungskalibrierungsvorrichtung 100 werden durch eine Verarbeitungsschaltung implementiert. Das heißt, die Sichtlinienrichtungskalibrierungsvorrichtung 100 beinhaltet eine Verarbeitungsschaltung zum Implementieren der obigen Funktionen. Die Verarbeitungsschaltung kann eine Verarbeitungsschaltung 100b sein, die dedizierte Hardware ist, wie in 2A veranschaulicht, oder kann ein Prozessor 100c zum Ausführen von in einem Speicher 100d gespeicherten Programmen sein, wie in 2B veranschaulicht.
  • In dem Fall, bei dem die Kalibrierungsinformationenerfassungseinheit 101, die Abtastungserfassungseinheit 102, die Kalibrierungsmodellerzeugungseinheit 103, die Kalibrierungsparameterberechnungseinheit 104, die Kalibrierter-Wert-Berechnungseinheit 105 und die Sichtlinienrichtungsbestimmungseinheit 107 durch dedizierte Hardware implementiert werden, wie in 2A veranschaulicht, entspricht die Verarbeitungsschaltung 100b zum Beispiel einer einzelnen Schaltung, einer zusammengesetzten Schaltung, einem programmierten Prozessor, einem parallelprogrammierten Prozessor, einer anwendungsspezifischen integrierten Schaltung (ASIC), einem feldprogrammierbaren Gate-Array (FPGA) oder einer Kombination davon. Die Funktionen der Kalibrierungsinformationenerfassungseinheit 101, der Abtastungserfassungseinheit 102, der Kalibrierungsmodellerzeugungseinheit 103, der Kalibrierungsparameterberechnungseinheit 104, der Kalibrierter-Wert-Berechnungseinheit 105 und der Sichtlinienrichtungsbestimmungseinheit 107 können separat durch Verarbeitungsschaltungen implementiert werden oder können kollektiv durch eine einzelne Verarbeitungsschaltung implementiert werden.
  • In dem Fall, bei dem die Kalibrierungsinformationenerfassungseinheit 101, die Abtastungserfassungseinheit 102, die Kalibrierungsmodellerzeugungseinheit 103, die Kalibrierungsparameterberechnungseinheit 104, die Kalibrierter-Wert-Berechnungseinheit 105 und die Sichtlinienrichtungsbestimmungseinheit 107 dem Prozessor 100c entsprechen, wie in 2B veranschaulicht, wird die Funktion jeder Einheit durch Software, Firmware oder eine Kombination aus Software und Firmware implementiert. Die Software oder die Firmware wird als ein Programm beschrieben und ist im Speicher 100d gespeichert. Der Prozessor 100c liest und führt das im Speicher 100d gespeicherte Programm aus und implementiert dadurch die Funktionen der Kalibrierungsinformationenerfassungseinheit 101, der Abtastungserfassungseinheit 102, der Kalibrierungsmodellerzeugungseinheit 103, der Kalibrierungsparameterberechnungseinheit 104, der Kalibrierter-Wert-Berechnungseinheit 105 und der Sichtlinienrichtungsbestimmungseinheit 107. Das heißt, die Kalibrierungsinformationenerfassungseinheit 101, die Abtastungserfassungseinheit 102, die Kalibrierungsmodellerzeugungseinheit 103, die Kalibrierungsparameterberechnungseinheit 104, die Kalibrierter-Wert-Berechnungseinheit 105 und die Sichtlinienrichtungsbestimmungseinheit 107 beinhalten den Speicher 100d zum Speichern eines Programms, das durch den Prozessor 100c ausgeführt wird, was zur Ausführung der Schritte führt, die in den später beschriebenen 7 und 8 veranschaulicht sind. Es kann auch gesagt werden, dass diese Programme veranlassen, dass ein Computer Vorgehensweisen oder Verfahren der Kalibrierungsinformationenerfassungseinheit 101, der Abtastungserfassungseinheit 102, der Kalibrierungsmodellerzeugungseinheit 103, der Kalibrierungsparameterberechnungseinheit 104, der Kalibrierter-Wert-Berechnungseinheit 105 und der Sichtlinienrichtungsbestimmungseinheit 107 ausführt.
  • Hier kann der Prozessor 100c zum Beispiel eine Zentralverarbeitungseinheit (CPU), eine Verarbeitungsvorrichtung, eine arithmetische Vorrichtung, ein Prozessor, ein Mikroprozessor, ein Mikrocomputer, ein Digitalsignalprozessor (DSP) oder dergleichen sein.
  • Der Speicher 100d kann ein nichtflüchtiger oder flüchtiger Halbleiterspeicher, wie etwa ein Direktzugriffsspeicher (RAM), ein Nurlesespeicher (ROM), ein Flash-Speicher, ein löschbarer programmierbarer ROM (EPROM), ein elektrischer EPROM (EEPROM), eine Magnetplatte wie etwa eine Festplatte oder eine flexible Platte oder eine optische Platte wie etwa eine MiniDisc, eine Compact Disc (CD) oder eine Digital Versatile Disc (DVD) sein.
  • Es ist anzumerken, dass einige der Funktionen der Kalibrierungsinformationenerfassungseinheit 101, der Abtastungserfassungseinheit 102, der Kalibrierungsmodellerzeugungseinheit 103, der Kalibrierungsparameterberechnungseinheit 104, der Kalibrierter-Wert-Berechnungseinheit 105 und der Sichtlinienrichtungsbestimmungseinheit 107 durch dedizierte Hardware implementiert werden können und ein anderer Teil davon durch Software oder Firmware implementiert wird. Auf diese Weise kann die Verarbeitungsschaltung in der Sichtlinienrichtungskalibrierungsvorrichtung 100 die obigen Funktionen durch Hardware, Software, Firmware oder eine Kombination davon implementieren.
  • Als Nächstes werden Einzelheiten der Kalibrierungsmodellerzeugungseinheit 103 und der Kalibrierungsparameterberechnungseinheit 104 beschrieben. Zunächst wird ein Koordinatensystem dreidimensionaler Koordinaten beschrieben, das als eine Referenz für die in der Sichtlinienrichtungskalibrierungsvorrichtung 100 verwendeten Kalibrierung verwendet wird.
  • 3 ist ein Diagramm, das dreidimensionale Koordinaten veranschaulicht, die in der Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform verwendet werden. In 3 wird ein Fall als ein Beispiel beschrieben, in dem die Sichtlinienrichtungskalibrierungsvorrichtung 100 die Sichtlinienrichtung eines Fahrers des Fahrzeugs kalibriert.
  • Die Koordinatenachsen sind die X-Achse in der Breitenrichtung eines Fahrzeugs 300, die Y-Achse in der Fahrtrichtung des Fahrzeugs 300 und die Z-Achse ist eine Richtung senkrecht zu einer Straßenoberfläche, auf der das Fahrzeug 300 fährt. Die X-Achse ist in einer Richtung zu der rechten Seite der Fahrtrichtung des Fahrzeugs hin positiv und die Y-Achse ist in einer Richtung zu der Fahrtrichtung des Fahrzeugs hin positiv. Die Z-Achse ist in einer Richtung von der Straßenoberfläche aufwärts positiv. Der Ursprung O der dreidimensionalen Koordinaten ist die Mittelposition der Sichtlinienmessvorrichtung 201, die am Fahrzeug 300 montiert ist. In 3 wird eine Referenzrichtung einer Messung in der Sichtlinienmessvorrichtung 201, wenn auf die X-Y-Ebene projiziert, durch die R-Achse auf der X-Y-Ebene angegeben. Es ist anzumerken, dass, da der Rotationsparameter (p) hier unbekannt ist, wie oben beschrieben, die Referenzrichtung der Sichtlinienmessvorrichtung 201 auch unbekannt ist.
  • Es ist anzumerken, dass die Einstellung der in 3 veranschaulichten Koordinatenachsen ein Beispiel ist und somit die Einstellung des Ursprungs der Koordinatenachsen, die Richtungen der Koordinatenachsen usw. wie erforderlich modifiziert werden können.
  • Ein Fahrer 302 sitzt auf einem Fahrersitz 301 des Fahrzeugs 300. Ein rechter Außenspiegel 303, ein linker Außenspiegel 304 und ein Rückspiegel 305 des Fahrzeugs 300 sind die Blickziele für die Kalibrierung. Wenn beispielsweise eine Blickanweisung wie etwa „Bitte schauen Sie zu dem linken Außenspiegel“ durch eine Steuereinheit (nicht veranschaulicht) der Sichtlinienrichtungskalibrierungsvorrichtung 100 vor dem Fahrstart gegeben wird, blickt der Fahrer 302 zu dem linken Außenspiegel 304. Ein Zustand, in dem die Sichtlinienrichtung des Fahrers 302 nach der Blickanweisung bei einem konstanten Wert bleibt, wird als ein Zustand betrachtet, in dem der Fahrer 302 zu dem Blickziel für die Kalibrierung blickt. Zu dieser Zeit ist es wünschenswert, um die Assoziation zwischen einer Sichtlinienrichtung und einem Blickziel für die Kalibrierung zu erleichtern, die Präsentationsreihenfolge von Blickzielen auszuwählen, sodass sich die Sichtlinie vertikal und horizontal stark bewegt. Dies erleichtert die Detektion eines Abschnitts, in dem sich die Sichtlinie stark bewegt, als ein Abschnitt, in dem sich die Sichtlinienrichtung zwischen Blickzielen für die Kalibrierung bewegt hat. Beispielsweise erleichtert das Präsentieren des rechten Außenspiegels 303, des linken Außenspiegels 304 und des Rückspiegels 305 in der erwähnten Reihenfolge eine Unterscheidung bei der Blickbestimmung von Blickzielen für die Kalibrierung, im Gegensatz zum Präsentieren von diesen in der Reihenfolge des rechten Außenspiegels 303, des Rückspiegels 305 und des linken Außenspiegels 304.
  • Als ein anderer Ansatz kann der Fahrer 302 als sich in einem Zustand befindlich angesehen werden, bei dem er zu einem Blickziel für die Kalibrierung blickt, indem ein Zustand des Blickens zu dem linken Außenspiegel 304 oder dergleichen geschätzt wird, wenn der Fahrer 302 diesem häufig zur Sicherheitsbestätigung oder dergleichen Aufmerksamkeit schenkt, wenn das Fahrzeug 300 fährt.
  • Als Nächstes werden Prozesse der Kalibrierungsmodellerzeugungseinheit 103 und der Kalibrierungsparameterberechnungseinheit 104 in den in 3 veranschaulichten dreidimensionalen Koordinaten mit Bezug auf die 4 und 5 beschrieben.
  • Die 4 und 5 sind erläuternde Diagramme, die einen Prozess durch die Kalibrierungsmodellerzeugungseinheit 103 der Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform veranschaulichen.
  • Die Kalibrierungsinformationenerfassungseinheit 101 erfasst dreidimensionale Koordinaten (RX, RY, RZ) des Mittelpunkts des rechten Außenspiegels 303, dreidimensionale Koordinaten (LX, LY, LZ) des Mittelpunkts des linken Außenspiegels 304 und dreidimensionale Koordinaten (FX, FY, FZ) des Mittelpunkts des Rückspiegels 305, die die Blickziele für die Kalibrierung sind, und gibt die Koordinaten zu der Kalibrierungsmodellerzeugungseinheit 103 aus.
  • In den 4 und 5 werden die Erzeugung eines Kalibrierungsmodells und die Berechnung von Kalibrierungsparametern durch das Betrachten eines beispielhaften Zustands beschrieben, in dem der Fahrer 302 zu dem linken Außenspiegel 304 blickt.
  • 4 ist ein Diagramm, das den Prozess der Kalibrierungsmodellerzeugungseinheit 103 veranschaulicht, wenn der Fahrer 302 zu dem linken Außenspiegel 304 blickt. In dem Beispiel von 4 wird eine Beschreibung unter der Annahme gegeben, dass die Kalibrierungsmodellerzeugungseinheit 103 ein Kalibrierungsmodell erzeugt, das dreidimensionale Koordinaten, die ein Kandidat für die Mittelposition des linken Augapfels eines Benutzers sind, als eine Benutzerposition angibt.
  • Die Kalibrierungsmodellerzeugungseinheit 103 erzeugt ein Kalibrierungsmodell, das dreidimensionale Koordinaten angibt, die ein Kandidat für die Benutzerposition sind, wenn der Fahrer 302 zu dem linken Außenspiegel 304 blickt, auf Basis der folgenden Gleichungen (1) und (2). x ˜ K o p f ( s , ρ ) = x Z i e l + s v p o v
    Figure DE112018006164T5_0001
    v p o v = [ 1 tan ( θ N i c k e n ρ N i c k e n ) tan ( θ G i e r e n ρ G i e r e n ) ]
    Figure DE112018006164T5_0002
  • Der Ausdruck x̃Kopf in Gleichung (1) ist ein Kalibrierungsmodell und repräsentiert eine Position in einem dreidimensionalen Koordinatenraum, die ein Kandidat für die Benutzerposition ist, und genauer gesagt repräsentiert es einen Punkt auf einer Geraden, die in dem dreidimensionalen Raum virtuell existiert. Der Wert xZiel ist ein Positionsvektor, der die Position eines Blickziels für die Kalibrierung im dreidimensionalen Raum repräsentiert. In 4 ist xZiel ein Positionsvektor, der die Mittelposition des linken Außenspiegels 304 im dreidimensionalen Raum repräsentiert. Der Wert s ist ein Positionsparameter und ist eine reale Zahl. Der Wert vpov ist ein Richtungsvektor, der eine Sichtlinienrichtung angibt (nachfolgend als ein Sichtlinienrichtungsvektor bezeichnet), wenn der Fahrer 302 zu dem linken Außenspiegel 304 blickt.
  • Gleichung (2) repräsentiert Komponenten eines Sichtlinienrichtungsvektors vpov in Gleichung (1). Der Winkel θ in Gleichung (2) repräsentiert einen Winkel, der von der Sichtlinienmessvorrichtung 201 ausgegeben wird, und gibt einen Messwert in der Sichtlinienrichtung an. Der Winkel θGieren ist ein Messwert in der Sichtlinienrichtung in der X-Y-Ebenenrichtung. Der Winkel θNicken ist ein Winkel, der einen Messwert in der Sichtlinienrichtung in der Y-Z-Ebene angibt.
  • Zusätzlich ist ρ in Gleichung (2) ein Rotationsparameter und ist ein Winkel, der durch eine Referenzrichtung einer Messung durch die Sichtlinienmessvorrichtung 201 und eine Referenzrichtung (hier die Y-Achse) einer kalibrierten Sichtlinie gebildet wird. Der Winkel ρGieren repräsentiert einen Winkel, der durch die Referenzrichtung einer Messung in der Sichtlinienmessvorrichtung 201 und die Y-Achse gebildet wird und gibt den Rotationswinkel um die Z-Achse an. Der Winkel ρNicken repräsentiert einen Winkel, der durch die Referenzrichtung einer Messung in der Sichtlinienmessvorrichtung 201 bei Projektion auf die Y-Z-Ebene und die Y-Achse gebildet wird.
  • In dem Beispiel von 4 sind θGieren und ρGieren veranschaulicht.
  • Es ist anzumerken, dass die oben beschriebene Formulierung der Gleichung (1) des Kalibrierungsprozesses ein Beispiel für Erläuterungszwecke ist.
  • 5 ist ein Diagramm, das die x-Komponente des Sichtlinienrichtungsvektors vpov veranschaulicht. In 5 wird θGieren so bestimmt, dass eine Richtung im Uhrzeigersinn, am Ursprung O zentriert, mit der R-Achse als ein Startpunkt, einen positiven Wert aufweist. Daher gilt θGieren < 0 für θGieren in 5. Ferner wird ρGieren so bestimmt, dass eine Richtung im Uhrzeigersinn, am Ursprung O zentriert, mit der R-Achse als ein Startpunkt, einen positiven Wert aufweist. Daher gilt ρGieren > 0 für ρGieren in 5. Falls die Vorzeichen von θGieren und ρGieren wie oben beschrieben bestimmt werden und die y-Komponente des Sichtlinienrichtungsvektors vpov als „1“ bestimmt wird, wird die x-Komponente durch tan(θGieren - ρGieren ) repräsentiert, wie in 5 veranschaulicht. Es ist anzumerken, dass die obige Definition ungeachtet dessen angewendet werden kann, ob die Benutzerposition bezüglich der Sichtlinienmessvorrichtung 201 links, rechts oder in der Mitte ist.
  • Obwohl nicht veranschaulicht, wird die z-Komponente des Sichtlinienrichtungsvektors vpov ähnlich unter Verwendung von θNicken und ρNicken repräsentiert.
  • Die Kalibrierungsmodellerzeugungseinheit 103 führt den oben beschriebenen Prozess mehrere Male aus, während der Fahrer 302 zu dem linken Außenspiegel 304 blickt, um mehrere Kalibrierungsmodelle Kopf zu erzeugen, die dreidimensionale Koordinaten angeben, die Kandidaten für die Benutzerposition sind. Dann weist die Sichtlinienrichtungskalibrierungsvorrichtung 100 den Fahrer 302 an, zu dem rechten Außenspiegel 303 zu blicken, und die Kalibrierungsmodellerzeugungseinheit 103 erzeugt mehrere Kalibrierungsmodelle Kopf , die dreidimensionale Koordinaten angeben, die Kandidaten für die Benutzerposition sind, während der Fahrer 302 zu dem rechten Außenspiegel 303 blickt. Anschließend weist die Sichtlinienrichtungskalibrierungsvorrichtung 100 den Fahrer 302 an, zu dem Rückspiegel 305 zu blicken, und die Kalibrierungsmodellerzeugungseinheit 103 erzeugt mehrere Kalibrierungsmodelle Kopf , die dreidimensionale Koordinaten angeben, die Kandidaten für die Benutzerposition sind, während der Fahrer 302 zu dem Rückspiegel 305 blickt.
  • Wenn die Kalibrierungsmodellerzeugungseinheit 103 die mehreren Kalibrierungsmodelle Kopf für das einzelne Blickziel für die Kalibrierung erzeugt, berechnet die Kalibrierungsparameterberechnungseinheit 104 die wahrscheinlichste Benutzerposition auf Basis eines später beschriebenen Prozesses. Die Kalibrierungsmodellerzeugungseinheit 103 gibt Folgendes zu der Kalibrierungsparameterberechnungseinheit 104 aus: die mehreren Kalibrierungsmodelle Kopf für den Zustand, in dem der Fahrer 302 zu dem rechten Außenspiegel 303 blickt, die mehreren Kalibrierungsmodelle Kopf für den Zustand, in dem der Fahrer 302 zu dem linken Außenspiegel 304 blickt, und die mehreren Kalibrierungsmodelle Kopf für den Zustand, in dem der Fahrer 302 zu dem Rückspiegel 305 blickt.
  • Die Kalibrierungsparameterberechnungseinheit 104 schätzt die wahrscheinlichste Benutzerposition aus dem folgenden Ausdruck (3) unter Verwendung der mehreren darin eingegebenen Kalibrierungsmodelle Kopf . min s , ρ , x ˜ ( x ˜ K o p f , i ( s i , ρ ) x ˜ ) 2
    Figure DE112018006164T5_0003
  • Im Ausdruck (3) repräsentiert Kopf,i einen Kandidaten für die Benutzerposition, der aus einem i-ten Kalibrierungsmodell Kopf geschätzt wird, und x̃ repräsentiert die Maximale-Wahrscheinlichkeits-Schätzung der Benutzerposition.
  • Der Ausdruck (3) präsentiert ein Optimierungsproblem zur Berechnung, als die Benutzerposition, eines Punktes mit der höchsten Wahrscheinlichkeit in zwei Normen aus den Kandidaten für die Benutzerposition, die durch die aus den Gleichungen (1) und (2) erzeugten Kalibrierungsmodelle angegeben wird. Das Optimierungsproblem ist bezüglich des Positionsparameters s und der Benutzerposition x̃ linear, aber ist bezüglich des Rotationsparameters ρ nichtlinear. Daher ist es möglich, das Problem effizient zum Beispiel durch Suchen des Minimalwerts für ρ durch dichotomische Suche und Berechnen von s und x̃ für jeden ρ durch die Least-Squares-Methode zu lösen.
  • Aus dem obigen Prozess schätzt die Kalibrierungsparameterberechnungseinheit 104 die wahrscheinlichste Benutzerposition des Fahrers 302, bei der auch Schwankungen der Sichtlinie des Fahrers 302 berücksichtigt werden. Die Kalibrierungsparameterberechnungseinheit 104 berechnet als Kalibrierungsparameter den Rotationsparameter ρ und die Maximale-Wahrscheinlichkeits-Schätzung x̃ der Benutzerposition, die durch Lösen des Optimierungsproblems spezifiziert werden. Die Kalibrierungsparameterberechnungseinheit 104 speichert entweder die berechneten Kalibrierungsparameter in der Kalibrierungsparameterspeichereinheit 106a oder gibt sie direkt zu der Kalibrierter-Wert-Berechnungseinheit 105 aus.
  • Mit den obigen Prozessen kann die Sichtlinienrichtungskalibrierungsvorrichtung 100 Parameter, die für die Kalibrierung der Sichtlinienrichtung notwendig sind, aus den dreidimensionalen Koordinaten jedes der Blickziele für die Kalibrierung und der Sichtlinienrichtung, wenn der Fahrer 302 zu jedem der Blickziele für die Kalibrierung blickt, erfassen.
  • 6 ist ein erläuterndes Diagramm, das beispielhafte Prozesse der Kalibrierter-Wert-Berechnungseinheit 105 und der Sichtlinienrichtungsbestimmungseinheit 107 der Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform veranschaulicht.
  • Die Kalibrierter-Wert-Berechnungseinheit 105 berechnet eine kalibrierte Sichtlinienrichtung θ' = (θ - ρ) bezüglich der von der Abtastungserfassungseinheit 102 eingegebenen Sichtlinienrichtung θ. Die Kalibrierter-Wert-Berechnungseinheit 105 speichert die berechnete kalibrierte Sichtlinienrichtung θ' in der Sichtlinienrichtungsspeichereinheit 106 oder gibt sie zu der Sichtlinienrichtungsbestimmungseinheit 107 aus.
  • Die Sichtlinienrichtungsbestimmungseinheit 107 leitet einen Sichtlinienrichtungsvektor vpov aus der obigen Gleichung (1) auf Basis dreidimensionaler Koordinaten (Px, Py, Pz) eines über die Eingabevorrichtung 202 eingegebenen Blickbestimmungsziels P und den in der Kalibrierungsparameterspeichereinheit 106a gespeicherten Benutzerpositionen x̃ ab. Die Sichtlinienrichtungsbestimmungseinheit 107 berechnet die Richtung des Blickbestimmungsziels P, θZiel = arctan (vpov), in einem Gieren-Nicken-Raum aus dem erhalten Sichtlinienrichtungsvektor vpov . Die Sichtlinienrichtungsbestimmungseinheit 107 bestimmt, dass der Benutzer das Blickbestimmungsziel P angesehen hat, wenn die Winkeldifferenz zwischen der von der Kalibrierter-Wert-Berechnungseinheit 105 eingegebenen kalibrierten Sichtlinienrichtung θ' und der Richtung θZiel des Blickbestimmungsziels P im Gieren-Nicken-Raum geringer als ein Schwellenwert ist. des
  • Die Kalibrierter-Wert-Berechnungseinheit 105 und die Sichtlinienrichtungsbestimmungseinheit 107 können den folgenden Prozess durchführen.
  • Die Kalibrierter-Wert-Berechnungseinheit 105 leitet den Sichtlinienrichtungsvektor vpov aus der obigen Gleichung (2) auf Basis der von der Abtastungserfassungseinheit 102 eingegebenen Sichtlinienrichtung θ und der in der Kalibrierungsparameterspeichereinheit 106a gespeicherten Rotationsparameter ρ ab. Die Kalibrierter-Wert-Berechnungseinheit 105 ersetzt den abgeleiteten Sichtlinienrichtungsvektor vpov und die Benutzerposition x̃ in der obigen Gleichung (1) und ordnet die Gleichung nach der Ersetzung um, um die folgende Gleichung (1a) zu erhalten. x Ziel = x Kopf sv pov
    Figure DE112018006164T5_0004
  • Dieses xZiel repräsentiert eine Gerade, die die kalibrierte Sichtlinienrichtung basierend auf der gemessenen Sichtlinienrichtung θ und den Kalibrierurierungsparametern angibt. Die Kalibrierter-Wert-Berechnungseinheit 105 gibt die erfasste Gerade xZiel zu der Sichtlinienrichtungsbestimmungseinheit 107 aus.
  • Die Sichtlinienrichtungsbestimmungseinheit 107 berechnet den Abstand von dreidimensionalen Koordinaten (Px, Py, Pz) eines Blickbestimmungsziels P zu der Geraden xZiel . In einem Fall, bei dem der berechnete Abstand innerhalb eines Schwellenwerts liegt, bestimmt die Sichtlinienrichtungsbestimmungseinheit 107, dass der Benutzer zu dem Blickbestimmungsziel P geschaut hat.
  • Es ist anzumerken, dass der Schwellenwert für die Sichtlinienrichtungsbestimmungseinheit 107 zum Bestimmen, ob der Benutzer das Blickbestimmungsziel P visuell erkennt oder nicht, auf Basis des Abstands zwischen dem Blickbestimmungsziel P und dem Fahrer 302 eingestellt werden kann. Beispielsweise wird der Schwellenwert kontinuierlich eingestellt, sodass sich der Schwellenwert erhöht, während der Abstand zwischen dem Blickbestimmungsziel P und dem Fahrer 302 abnimmt, und der Schwellenwert abnimmt, während sich der Abstand zwischen dem Blickbestimmungsziel P und dem Fahrer 302 erhöht. Ferner ist es nicht erforderlich, dass der Schwellenwert kontinuierlich in Abhängigkeit vom Abstand zwischen dem Blickbestimmungsziel P und dem Fahrer 302 variiert, und der Schwellenwert kann in einem Fall klein eingestellt werden, bei dem der Abstand zwischen dem Blickbestimmungsziel P und dem Fahrer 302 innerhalb eines voreingestellten Abstands liegt, und in einem Fall, bei dem der Abstand zwischen dem Blickbestimmungsziel P und dem Fahrer 302 länger als der voreingestellte Abstand ist, kann der Schwellenwert groß eingestellt werden.
  • Auf diese Weise, durch das Einstellen des Schwellenwerts in Abhängigkeit vom Abstand zwischen dem Blickbestimmungsziel P und dem Fahrer 302, kann die Sichtlinienrichtungsbestimmungseinheit 107 die Sichtlinienrichtung unter Berücksichtigung einer Verschiebung der Sichtlinienrichtung, wenn der Fahrer 302 einen Punkt in der Nähe des Fahrers 302 visuell erkennt, und einer Verschiebung der Sichtlinienrichtung, wenn der Fahrer 302 einen Punkt entfernt vom Fahrer 302 visuell erkennt, bestimmen.
  • Es ist anzumerken, dass, obwohl ein Beispiel beschrieben wurde, bei dem der Schwellenwert zum Bestimmen, ob der Benutzer das Blickbestimmungsziel visuell erkennt oder nicht, auf Basis des Abstands zwischen dem Blickbestimmungsziel P und dem Fahrer 302 eingestellt wird, der Schwellenwert auf Basis anderer Bedingungen eingestellt werden kann.
  • Als Nächstes wird der Betrieb der Sichtlinienrichtungskalibrierungsvorrichtung 100 beschrieben.
  • Nachfolgend wird der Betrieb der Sichtlinienrichtungskalibrierungsvorrichtung 100 separat als ein Arbeitsablauf des Durchführens eines Kalibrierungsparameterberechnungsprozesses und ein Arbeitsablauf des Durchführens eines Sichtlinienrichtungskalibrierungsprozesses und eines Sichtlinienrichtungsbestimmungsprozesses beschrieben.
  • Zunächst wird der Kalibrierungsparameterberechnungsprozesses unter Bezugnahme auf das Flussdiagramm von 7 beschrieben.
  • 7 ist ein Flussdiagramm, das den Arbeitsablauf des Kalibrierungsparameterberechnungsprozesses durch die Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform veranschaulicht.
  • Die Kalibrierungsinformationenerfassungseinheit 101 erfasst dreidimensionale Koordinaten eines Blickziels für die Kalibrierung (Schritt ST1). Die Kalibrierungsinformationenerfassungseinheit 101 gibt die erfassten dreidimensionalen Koordinaten des Blickziels für die Kalibrierung zu der Kalibrierungsmodellerzeugungseinheit 103 aus. Hier werden Informationen zum Anweisen des Benutzers, zu welchem Blickziel für die Kalibrierung er blicken soll, von einem Lautsprecher (nicht veranschaulicht), einem Bildschirm (nicht veranschaulicht) oder dergleichen ausgegeben. Wenn der Benutzer zu dem spezifizierten Blickziel für die Kalibrierung blickt, erfasst die Abtastungserfassunsgeinheit 102 eine Abtastung, die die Sichtlinienrichtung des zu dem Blickziel für die Kalibrierung blickenden Benutzers angibt, von der Sichtlinienmessvorrichtung 201 und gibt die Abtastung zu der Kalibrierungsmodellerzeugungseinheit 103 aus (Schritt ST2).
  • Die Kalibrierungsmodellerzeugungseinheit 103 assoziiert und erfasst die in Schritt ST1 erfassten dreidimensionalen Koordinaten des Blickziels für die Kalibrierung und das Blickziel für die Kalibrierung, das der durch die Abtastungserfassungseinheit 102 erfassten Abtastung entspricht (Schritt ST3). Die Kalibrierungsmodellerzeugungseinheit 103 erzeugt mehrere Kalibrierungsmodelle, die dreidimensionale Koordinaten angeben, die ein Kandidat für die Benutzerposition sind, aus den in Schritt ST3 erhaltenen dreidimensionalen Koordinaten des Blickziels für die Kalibrierung und der in Schritt ST2 erfassten Abtastung auf Basis der obigen Gleichungen (1) und (2) (Schritt ST4). Die Kalibrierungsmodellerzeugungseinheit 103 gibt das in Schritt ST4 erzeugte Kalibrierungsmodell zu der Kalibrierungsparameterberechnungseinheit 104 aus.
  • Die Kalibrierungsparameterberechnungseinheit 104 berechnet, als Kalibrierungsparameter, den Rotationsparameter ρ und die Maximale-Wahrscheinlichkeits-Schätzung x̃ der Benutzerposition auf Basis der in Schritt ST4 erzeugten Kalibrierungsmodelle (Schritt ST5). Die Kalibrierungsparameterberechnungseinheit 104 speichert die berechneten Kalibrierungsparameter in der Kalibrierungsparameterspeichereinheit 106a (Schritt ST6) und beendet den Prozess.
  • Als Nächstes werden der Sichtlinienrichtungskalibrierungsprozess und der Sichtlinienrichtungsbestimmungsprozess unter Bezugnahme auf das Flussdiagramm in 8 beschrieben.
  • 8 ist ein Flussdiagramm, das den Arbeitsablauf des Sichtlinienrichtungskalibrierungsprozesses und des Sichtlinienrichtungsbestimmungsprozesses der Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform veranschaulicht.
  • Wenn eine Bestimmungsanforderung, ob zu einem Blickbestimmungsziel geblickt wird, über die Eingabevorrichtung 202 eingegeben wird (Schritt ST21), berechnet die Kalibrierter-Wert-Berechnungseinheit 105 eine kalibrierte Sichtlinienrichtung bezüglich der durch die Abtastungserfassungseinheit 102 erfassten abgetasteten Sichtlinienrichtung (Schritt ST22). Die Kalibrierter-Wert-Berechnungseinheit 105 gibt die berechnete kalibrierte Sichtlinienrichtung zu der Sichtlinienrichtungsbestimmungseinheit 107 aus. Die Sichtlinienrichtungsbestimmungseinheit 107 berechnet die Richtung des Blickbestimmungsziels (Schritt ST23). Die Sichtlinienrichtungsbestimmungseinheit 107 bestimmt, ob der Benutzer das Blickbestimmungsziel visuell erkennt oder nicht, auf Basis der in Schritt ST22 berechneten kalibrierten Sichtlinienrichtung und des in Schritt ST23 berechneten Blickbestimmungsziels (Schritt ST24).
  • Falls der Benutzer das Blickbestimmungsziel visuell erkennt (Schritt ST24: JA), gibt die Sichtlinienrichtungsbestimmungseinheit 107 ein Ergebnis aus, das angibt, dass der Benutzer das Blickbestimmungsziel visuell erkennt (Schritt ST25), und beendet den Prozess.
  • Andererseits gibt, falls der Benutzer das Blickbestimmungsziel nicht visuell erkennt (Schritt ST24: NEIN), die Sichtlinienrichtungsbestimmungseinheit 107 ein Bestimmungsergebnis aus, das angibt, dass der Benutzer das Blickbestimmungsziel nicht visuell erkennt (Schritt ST26), und beendet den Prozess.
  • 9 ist ein Diagramm, das ein Ergebnis des Kalibrierungsprozesses der Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform veranschaulicht.
  • In 9 wird ein Ergebnis des Durchführens des oben beschriebenen Sichtlinienrichtungskalibrierungsprozesses unter Verwendung von Zubehör im Fahrzeug als Blickziele für die Kalibrierung veranschaulicht. Als Zubehör des Fahrzeugs ist in 9 ein Fall veranschaulicht, bei dem die Sichtlinienmessvorrichtung 201, der Rückspiegel 305, der rechte Außenspiegel 303 und der linke Außenspiegel 304 Blickziele sind.
  • In 9 gibt die horizontale Achse die Position in der Sichtlinienrichtung in der Fahrzeugbreitenrichtung an, und die vertikale Achse gibt die Position in der Sichtlinienrichtung senkrecht zu einer Straßenoberfläche an, auf der das Fahrzeug fährt. Ein rechteckiger Bereich 401 gibt eine Vorne-Position des Benutzers an. Rechteckige Bereiche 402 bis 405 geben Positionen in der kalibrierten Sichtlinienrichtung in einem Fall an, bei dem jedes Zubehör des Fahrzeugs als ein Blickziel für die Kalibrierung verwendet wird. Ergebnisse 412 bis 415 geben die Position der Sichtlinienrichtung des Benutzers an, wenn zu jedem Zubehör des Fahrzeugs als ein Blickziel für die Kalibrierung geblickt wird. Es wird in 9 veranschaulicht, dass die rechteckigen Bereiche, die die Positionen kalibrierter Sichtlinienrichtungen repräsentieren, zu einem Ergebnis konvergieren, das dem des Kalibrierungsprozesses durch die Sichtlinienrichtungskalibrierungsvorrichtung 100 entspricht.
  • Es ist anzumerken, dass in 9 ein Ergebnis 412 grafische Darstellungen von Sichtlinienvektoren des Benutzers veranschaulicht, wenn der Benutzer zu der Sichtlinienmessvorrichtung 201 blickt. Gleichermaßen veranschaulichen ein Ergebnis 413, ein Ergebnis 414 und ein Ergebnis 415 Schaubilder von Sichtlinienvektoren des Benutzers, wenn der Benutzer zu dem Rückspiegel 305, dem rechten Außenspiegel 303 bzw. dem linken Außenspiegel 304 blickt.
  • Ein Fahrer erkennt visuell häufig Fahrzeugzubehör, wie etwa einen Rückspiegel oder einen Außenspiegel, während das Fahrzeug fährt. Daher wird es durch das Festlegen von Fahrzeugzubehör als Blickziele für die Kalibrierung möglich, den Sichtlinienrichtungskalibrierungsprozess durch ein unbewusstes Verhalten, wie etwa des Betrachtens des Fahrzeugzubehörs durch den Fahrer, während das Fahrzeug fährt, oder ein unvermeidbares Verhalten durchzuführen.
  • Technologie zum Festlegen einer Referenz in der Sichtlinienrichtung und Kalibrieren der Detektion der Sichtlinienrichtung durch das Verhalten eines Fahrers, dass er das Fahrzeugzubehör anschaut, während das Fahrzeug fährt, ist beispielsweise in der folgenden Referenzliteratur 1 offenbart.
  • · Referenzliteratur 1
  • JP 2010-30361 A
  • Wie oben beschrieben, beinhaltet die Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform Folgendes: die Kalibrierungsinformationenerfassungseinheit 101 zum Erfassen dreidimensionaler Koordinaten, die die Position jedes Blickziels für die Kalibrierung für mindestens ein Blickziel für die Kalibrierung angeben; die Abtastungserfassungseinheit 102 zum Erfassen mehrerer Abtastungen, die eine Sichtlinienrichtung eines Benutzers angeben; die Kalibrierungsmodellerzeugungseinheit 103 zum Erzeugen mehrerer Kalibrierungsmodelle, die dreidimensionale Koordinaten angeben, die Kandidaten für eine Position des Benutzers sind, auf Basis der erfassten dreidimensionalen Koordinaten und der erfassten Abtastungen, die die Sichtlinienrichtung des Benutzers angeben, der zu jedem der Blickziele für die Kalibrierung blickt; und die Kalibrierungsparameterberechnungseinheit 104 zum Berechnen von Kalibrierungsparametern auf Basis der erzeugten Kalibrierungsmodelle.
  • Dies ermöglicht eine Kalibrierung eines Messfehlers, der in der Sichtlinienrichtung enthalten ist, die für die zu einem beliebigen Punkt gerichtete Sichtlinie gemessen wird. Es wird auch ermöglicht, die Kalibrierungsparameter nur aus der Sichtlinienrichtung und Informationen des Blickziels für die Kalibrierung zu berechnen. Aus diesem Grund können die Kalibrierungsparameter beispielsweise berechnet werden, selbst wenn nur ein Sichtlinienrichtungsmesswert basierend auf einem Bildgebungsmittel verwendet wird, und somit wird die Konfiguration vereinfacht, und die Kosten können im Vergleich zu der Technologie des Verwendens eines Abstandsmessers zum Ermitteln der Benutzerposition oder der Technologie des Verwendens mehrerer Bildgebungsmittel reduziert werden.
  • Zusätzlich beinhaltet die Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform Folgendes: die Kalibrierter-Wert-Berechnungseinheit 105 zum Kalibrieren der durch die Abtastungserfassungseinheit 102 erfassten Sichtlinienrichtung des Benutzers auf Basis der durch die Kalibrierungsparameterberechnungseinheit 104 berechneten Kalibrierungsparameter und zum Berechnen einer kalibrierten Sichtlinienrichtung; und die Sichtlinienrichtungsbestimmungseinheit 107 zum Bestimmen, ob der Benutzer das Blickbestimmungsziel visuell erkennt oder nicht, auf Basis der berechneten kalibrierten Sichtlinienrichtung und der durch die Kalibrierungsparameterberechnungseinheit 104 berechneten Kalibrierungsparameter.
  • Dies ermöglicht es, die Sichtlinienrichtung des Benutzers zu bestimmen, die zu einem beliebigen Punkt gerichtet ist.
  • Es ist anzumerken, dass in einem Fall, bei dem die Messcharakteristiken der Sichtlinienmessvorrichtung 201 auch in der oben beschriebenen Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform kalibriert werden sollen, es ausreicht, die obige Gleichung (2) in die folgende Gleichung (2a) zu transformieren. ν p o v = [ 1 tan ( f ( α , θ N i c k e n ) ρ N i c k e n ) tan ( f ( α , θ G i e r e n ) ρ G i e r e n ) ]
    Figure DE112018006164T5_0005
  • In Gleichung (2a) wird der Winkel θ in Gleichung (2) mit f(α, θ) ersetzt. In Gleichung (2a) können die Messcharakteristiken der Sichtlinienmessvorrichtung 201 durch Optimieren der Variable α in der Funktion f zu einem Kalibrierungsziel gemacht werden.
  • In einem Fall, bei dem sich die Empfindlichkeit der Abtastungserfassungseinheit 102 in die X-, Y- und Z-Richtung in den dreidimensionalen Koordinaten aufgrund individueller Unterschiede zwischen Benutzern oder individueller Unterschiede von Sichtlinienmessvorrichtungen 201 ändert, wird f(α, θ) in Gleichung (2a) mit αθ ersetzt. Infolgedessen kann die Empfindlichkeit der Messcharakteristiken der Sichtlinienmessvorrichtung 201 gleichzeitig kalibriert werden. Es ist anzumerken, dass α in Gleichung (2a) separat für αGieren und αNicken gesetzt wird.
  • In der oben beschriebenen Sichtlinienrichtungskalibrierungsvorrichtung 100 gemäß der ersten Ausführungsform berechnet die Kalibrierungsparameterberechnungseinheit 104 die wahrscheinlichste Benutzerposition als die Kalibrierungsparameter aus dem Ausdruck (3) unter Verwendung der mehreren darin eingegebenen Kalibrierungsmodelle Kopf,i . Bei diesem Prozess kann die wahrscheinlichste Benutzerposition durch Hinzufügen von Gewichtungen zu den mehreren Kalibrierungsmodellen Kopf,i , die bei der Kalibrierung verwendet werden, in Abhängigkeit von der Zuverlässigkeit oder dergleichen der Werte der Kalibrierungsmodelle Kopf,i berechnet werden. In einem Fall, bei dem Gewichtungen zu den Kalibrierungsmodellen Kopf,i hinzugefügt werden, werden die Kalibrierungsmodelle Kopf,i mit wi Kopf,i ersetzt.
  • Beispielsweise in einem Fall, bei dem Messcharakteristiken der Sichtlinienmessvorrichtung 201 eine hohe Messgenauigkeit im mittleren Teil des Messbereichs und eine niedrige Messgenauigkeit in den peripheren Bereichen aufweisen, werden Gewichtungen von Kalibrierungsmodellen Kopf,i eines sich in oder in der Nähe der Mitte des Messbereichs befindlichen Blickziels groß eingestellt, während Gewichtungen von Kalibrierungsmodellen Kopf,i eines sich in den peripheren Bereichen des Messbereichs befindlichen Blickziels klein eingestellt werden. Dies ermöglicht es der Kalibrierungsparameterberechnungseinheit 104 in der Sichtlinienrichtungskalibrierungsvorrichtung 100, Fehler zu unterdrücken, wenn die wahrscheinlichste Benutzerposition berechnet wird.
  • Als ein anderes Beispiel für Messcharakteristiken der Sichtlinienmessvorrichtung 201, wird in einem Fall, bei dem ein Blickziel für die Kalibrierung näher an der Benutzerposition liegt, der Sichtwinkel im Vergleich zu einem Fall, bei dem sich das Blickziel für die Kalibrierung mit gleicher Größe an einer fernen Position befindet, größer und somit wird angenommen, dass Messwerte in die Sichtlinienrichtung stark variieren, da eine Abweichung von den Mittenkoordinaten des Blickziels für die Kalibrierung groß wird. Falls Messwerte in der Sichtlinienrichtung stark variieren, gibt es hinsichtlich dessen einen Nachteil, dass es wahrscheinlicher ist, dass das Kalibrierungsmodell die Benutzerposition nicht sachgemäß widerspiegelt, wodurch die Schätzgenauigkeit der Kalibrierungsparameter verschlechtert wird. Daher ist es wünschenswert, einen Gewichtungsfaktor zu reduzieren, wenn sich Variationen in der Sichtlinienrichtung erhöhen, beispielsweise durch Hinzufügen eines Gewichtungsfaktors, der durch w = exp (-σ) erhalten wird, wobei σ die Standardabweichung in der Sichtlinienrichtung ist, wenn zu dem gleichen Blickziel für die Kalibrierung geblickt wird.
  • Als ein anderes Beispiel gibt es Fälle, bei denen ein Blickziel aufgrund einer Sakkade oder aus anderen Gründen temporär vom Sichtfeld abweicht, selbst wenn der Benutzer weiterhin zu dem gleichen Blickziel blickt, während die Sichtlinienrichtungskalibrierungsvorrichtung 100 einen Kalibrierungsprozess durchführt. Zur Bestimmung, ob der Benutzer zu einem Blickziel blickt, wird typischerweise zwischen Bewegung und Beibehaltung einer Sichtlinie unterschieden und dadurch die Beibehaltung als ein Blickzustand bestimmt. Das Einstellen strikter Bedingungen zur Bestimmung der Beibehaltung einer Sichtlinie führt jedoch einen Kompromiss zwischen Verbesserung der Auswahlgenauigkeit von bei der Kalibrierung verwendeten Kalibrierungsmodellen Kopf,i und der Verschlechterung der Zuverlässigkeit des Kalibrierungsergebnisses aufgrund der reduzierten Anzahl von bei der Kalibrierung verwendeten Kalibrierungsmodellen Kopf,i herbei. In einer derartigen Situation werden Sichtlinienrichtungsvektoren für dasselbe Blickziel statistisch geprüft und Gewichtungen für Kalibrierungsmodelle Kopf,i werden in Abhängigkeit vom Abweichungsgrad von der Verteilung der Sichtlinienrichtungsvektoren reduziert. Dies kann die Genauigkeit und die Zuverlässigkeit des Kalibrierungsergebnisses gewährleisten.
  • Es ist anzumerken, dass, obwohl ein Fall in der obigen Beschreibung beschrieben wurde, bei dem Gewichtung kontinuierlich unter Verwendung der Standardabweichung σ in die Sichtlinienrichtung als eine Referenz durchgeführt wird, ein Kalibrierungsmodell diskontinuierlich gewichtet werden kann, wie in dem Fall einer weichen Grenze in einer Support Vector Machine (SVM).
  • Es ist anzumerken, dass ein Fall in der obigen Beschreibung beschrieben wurde, bei dem die Sichtlinienrichtungskalibrierungsvorrichtung 100 die kalibrierte Sichtlinienrichtung für einen beliebigen Punkt in einem dreidimensionalen Raum berechnet. Die Sichtlinienrichtungskalibrierungsvorrichtung 100 kann jedoch eine kalibrierte Sichtlinienrichtung für einen beliebigen Punkt in einem zweidimensionalen Raum berechnen, der ein spezieller Fall eines dreidimensionalen Raums ist.
  • Es ist anzumerken, dass die vorliegende Erfindung Modifikationen einer beliebigen Komponente jeder Ausführungsform oder eine Auslassung einer beliebigen Komponente jeder Ausführungsform innerhalb des Schutzumfangs der vorliegenden Erfindung beinhalten kann.
  • INDUSTRIELLE ANWENDBARKEIT
  • Eine Sichtlinienrichtungskalibrierungsvorrichtung gemäß der vorliegenden Erfindung ist bei einem System oder dergleichen anwendbar, das eine Sichtlinienrichtung eines Benutzers genau bestimmen und ein Ziel, das visuell von dem Benutzer in einer Vorrichtung einschließlich eines Bildschirms wie etwa einer fahrzeuginternen Vorrichtung und eines Fernsehers erkannt wird, ermitteln soll.
  • Bezugszeichenliste
  • 100
    Sichtlinienrichtungskalibrierungsvorrichtung,
    101
    Kalibrierungsinformationenerfassungseinheit,
    102
    Abtastungserfassungseinheit,
    103
    Kalibrierungsmodellerzeugungseinheit,
    104
    Kalibrierungsparameterberechnungseinheit,
    105
    Kalibrierter-Wert-Berechnungseinheit,
    106a
    Kalibrierungsparameterspeichereinheit,
    106b
    Sichtlinienrichtungsspeichereinheit,
    107
    Sichtlinienrichtungsbestimmungseinheit,
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • JP H09238905 A [0005]
    • JP 201030361 A [0089]

Claims (9)

  1. Sichtlinienrichtungskalibrierungsvorrichtung, die Folgendes umfasst: eine Kalibrierungsinformationenerfassungseinheit zum Erfassen dreidimensionaler Koordinaten für mindestens ein Blickziel für eine Kalibrierung, wobei die dreidimensionalen Koordinaten eine Position jedes Blickziels für die Kalibrierung angeben; eine Abtastungserfassungseinheit zum Erfassen mehrerer Abtastungen, die eine Sichtlinienrichtung eines Benutzers angeben; eine Kalibrierungsmodellerzeugungseinheit zum Erzeugen mehrerer Kalibrierungsmodelle, die dreidimensionale Koordinaten angeben, die Kandidaten für eine Position des Benutzers sind, auf Basis der durch die Kalibrierungsinformationenerfassungseinheit erfassten dreidimensionalen Koordinaten und der durch die Abtastungserfassungseinheit erfassten Abtastungen, die die Sichtlinienrichtung des Benutzers angeben, der zu jedem der Blickziele für die Kalibrierung blickt; und eine Kalibrierungsparameterberechnungseinheit zum Berechnen eines Kalibrierungsparameters auf Basis der durch die Kalibrierungsmodellerzeugungseinheit erzeugten Kalibrierungsmodelle.
  2. Sichtlinienrichtungskalibrierungsvorrichtung nach Anspruch 1, die ferner Folgendes umfasst: eine Kalibrierter-Wert-Berechnungseinheit zum Kalibrieren der durch die Abtastungserfassungseinheit erhaltenen Sichtlinienrichtung des Benutzers auf Basis der durch die Kalibrierungsparameterberechnungseinheit berechneten Kalibrierungsparameter und zum Berechnen einer kalibrierten Sichtlinienrichtung; und eine Sichtlinienrichtungsbestimmungseinheit zum Bestimmen, ob der Benutzer ein Blickbestimmungsziel visuell erkennt oder nicht, auf Basis der durch die Kalibrierter-Wert-Berechnungseinheit berechneten kalibrierten Sichtlinienrichtung und des durch die Kalibrierungsparameterberechnungseinheit berechneten Kalibrierungsparameters.
  3. Sichtlinienrichtungskalibrierungsvorrichtung nach Anspruch 2, wobei ein Schwellenwert zum Veranlassen, dass die Sichtlinienrichtungsbestimmungseinheit bestimmt, dass der Benutzer das Blickbestimmungsziel visuell erkennt, auf Basis eines Abstands zwischen dem Benutzer und dem Blickbestimmungsziel eingestellt wird.
  4. Sichtlinienrichtungskalibrierungsvorrichtung nach Anspruch 1, wobei die Kalibrierungsmodellerzeugungseinheit eine Berechnungscharakteristik der Sichtlinienrichtung des Benutzers als ein Kalibrierungsziel einstellt.
  5. Sichtlinienrichtungskalibrierungsvorrichtung nach Anspruch 1, wobei die Kalibrierungsparameterberechnungseinheit ein Gewicht zu den Kalibrierungsmodellen in Abhängigkeit von einer Position in einem Messbereich einer Messvorrichtung, die die Sichtlinienrichtung des Benutzers misst, hinzufügt.
  6. Sichtlinienrichtungskalibrierungsvorrichtung nach Anspruch 1, wobei die Kalibrierungsparameterberechnungseinheit ein Gewicht zu den Kalibrierungsmodellen in Abhängigkeit von einem Variationsgrad der Sichtlinienrichtung des Benutzers für jedes der Blickziele für die Kalibrierung hinzufügt.
  7. Sichtlinienrichtungskalibrierungsvorrichtung nach Anspruch 1, wobei die Kalibrierungsparameterberechnungseinheit für jede Sichtlinienrichtung des Benutzers ein Gewicht zu den Kalibrierungsmodellen in Abhängigkeit von einem Abweichungsgrad der Sichtlinienrichtung des Benutzers von einer Verteilung der Sichtlinienrichtung des Benutzers in dem Blickziel für die Kalibrierung hinzufügt, zu der die Sichtlinienrichtung des Benutzers gehört.
  8. Sichtlinienrichtungskalibrierungsverfahren, das die folgenden Schritte umfasst: Erfassen, durch eine Kalibrierungsinformationenerfassungseinheit, dreidimensionaler Koordinaten für mindestens ein Blickziel für eine Kalibrierung, wobei die dreidimensionalen Koordinaten eine Position jedes Blickziels für die Kalibrierung angeben; Erfassen, durch eine Abtastungserfassungseinheit, mehrerer Abtastungen, die eine Sichtlinienrichtung eines Benutzers angeben; Erzeugen, durch eine Kalibrierungsmodellerzeugungseinheit, mehrerer Kalibrierungsmodelle, die dreidimensionale Koordinaten angeben, die Kandidaten für eine Position des Benutzers sind, auf Basis der dreidimensionalen Koordinaten, die die Position jedes der Blickziele für die Kalibrierung angeben, und der Abtastungen, die die Sichtlinienrichtung des Benutzers angeben, der zu jedem der Blickziele für die Kalibrierung blickt; und Berechnen, durch eine Kalibrierungsparameterberechnungseinheit, eines Kalibrierungsparameters auf Basis der erzeugten Kalibrierungsmodelle.
  9. Sichtlinienrichtungskalibrierungsprogramm zum Veranlassen, dass ein Computer Folgendes ausführt: eine Prozedur zum Erfassen dreidimensionaler Koordinaten für mindestens ein Blickziel für eine Kalibrierung, wobei die dreidimensionalen Koordinaten eine Position jedes Blickziels für die Kalibrierung angeben; eine Prozedur zum Erfassen mehrerer Abtastungen, die eine Sichtlinienrichtung eines Benutzers angeben; eine Prozedur zum Erzeugen mehrerer Kalibrierungsmodelle, die dreidimensionale Koordinaten angeben, die Kandidaten für eine Position des Benutzers sind, auf Basis der dreidimensionalen Koordinaten, die die Position jedes der Blickziele für die Kalibrierung angeben, und der Abtastungen, die die Sichtlinienrichtung des Benutzers angeben, der zu jedem der Blickziele für die Kalibrierung blickt; und eine Prozedur zum Berechnen eines Kalibrierungsparameters auf Basis der erzeugten Kalibrierungsmodelle.
DE112018006164.7T 2018-01-05 2018-01-05 Sichtlinienrichtungskalibrierungsvorrichtung, sichtlinienrichtungskalibrierungsverfahren und sichtlinienrichtungskalibrierungsprogramm Active DE112018006164B4 (de)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/000091 WO2019135281A1 (ja) 2018-01-05 2018-01-05 視線方向較正装置、視線方向較正方法および視線方向較正プログラム

Publications (2)

Publication Number Publication Date
DE112018006164T5 true DE112018006164T5 (de) 2020-08-27
DE112018006164B4 DE112018006164B4 (de) 2021-05-12

Family

ID=65655825

Family Applications (1)

Application Number Title Priority Date Filing Date
DE112018006164.7T Active DE112018006164B4 (de) 2018-01-05 2018-01-05 Sichtlinienrichtungskalibrierungsvorrichtung, sichtlinienrichtungskalibrierungsverfahren und sichtlinienrichtungskalibrierungsprogramm

Country Status (5)

Country Link
US (1) US10977488B2 (de)
JP (1) JP6479272B1 (de)
CN (1) CN111527374B (de)
DE (1) DE112018006164B4 (de)
WO (1) WO2019135281A1 (de)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110458104B (zh) * 2019-08-12 2021-12-07 广州小鹏汽车科技有限公司 人眼视线检测系统的人眼视线方向确定方法和系统
JP7340882B2 (ja) * 2021-01-07 2023-09-08 株式会社ロイヤリティバンク 評価価格算定プログラム及び評価価格算定方法
JP2022171084A (ja) * 2021-04-30 2022-11-11 キヤノン株式会社 撮像装置及びその制御方法、並びにプログラム
CN116027910B (zh) * 2023-03-29 2023-07-04 广州视景医疗软件有限公司 一种基于vr眼动追踪技术的眼位图生成方法及系统
CN116052264B (zh) * 2023-03-31 2023-07-04 广州视景医疗软件有限公司 一种基于非线性偏差校准的视线估计方法及装置

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2925147B2 (ja) * 1988-09-16 1999-07-28 キヤノン株式会社 視線検出装置及び光学機器
JP3785669B2 (ja) * 1996-03-05 2006-06-14 日産自動車株式会社 視線方向計測装置
JPH11276438A (ja) * 1998-03-30 1999-10-12 Isuzu Motors Ltd 視線計測装置
JP3225270B2 (ja) * 1999-04-28 2001-11-05 経済産業大臣 視線計測方法、視線計測装置
US7641342B2 (en) * 2000-10-07 2010-01-05 Metaio Gmbh Information system and method for providing information using a holographic element
EP2042079B1 (de) * 2006-07-14 2010-10-20 Panasonic Corporation Sehachsenrichtungs-nachweisvorrichtung und sehlinienrichtungs-nachweisverfahren
JP4420002B2 (ja) * 2006-09-14 2010-02-24 トヨタ自動車株式会社 視線先推定装置
JP2008243031A (ja) * 2007-03-28 2008-10-09 Toyota Central R&D Labs Inc 漫然運転判定装置
JP4966816B2 (ja) * 2007-10-25 2012-07-04 株式会社日立製作所 視線方向計測方法および視線方向計測装置
JP2010030361A (ja) * 2008-07-25 2010-02-12 Toyota Motor Corp 運転状態監視装置
US8384534B2 (en) * 2010-01-14 2013-02-26 Toyota Motor Engineering & Manufacturing North America, Inc. Combining driver and environment sensing for vehicular safety systems
US20120002028A1 (en) * 2010-07-05 2012-01-05 Honda Motor Co., Ltd. Face image pick-up apparatus for vehicle
JP5664064B2 (ja) * 2010-09-22 2015-02-04 富士通株式会社 視線検出装置および補正係数算出プログラム
US9405364B2 (en) * 2010-10-29 2016-08-02 IT-Universitetet i København Method of determining reflections of light
JP5719216B2 (ja) * 2011-04-05 2015-05-13 日本放送協会 視線測定装置および視線測定プログラム
JP6014931B2 (ja) * 2012-09-06 2016-10-26 公立大学法人広島市立大学 視線計測方法
CN102878951B (zh) * 2012-09-14 2015-02-11 北京航空航天大学 一种基于图像的车辆方向盘转角检测方法及检测装置
US20140267415A1 (en) * 2013-03-12 2014-09-18 Xueming Tang Road marking illuminattion system and method
JP6181974B2 (ja) * 2013-05-23 2017-08-16 株式会社Nttドコモ 視線計測装置及び視線計測方法
FR3012952B1 (fr) * 2013-11-08 2015-11-06 Essilor Int Methode de determination d'au moins un parametre de conception optique d'une lentille ophtalmique progressive
DE102013019117A1 (de) * 2013-11-15 2015-05-21 Audi Ag Verfahren zum Kalibrieren einer Blickrichtungserfassungseinrichtung für ein Kraftfahrzeug, Kalibrierungseinrichtung und Kraftfahrzeug
US9354073B2 (en) * 2013-12-09 2016-05-31 Harman International Industries, Inc. Eye gaze enabled navigation system
CN106028913B (zh) * 2014-02-19 2018-03-30 三菱电机株式会社 显示控制装置、显示控制装置的显示控制方法
WO2015136908A1 (ja) * 2014-03-13 2015-09-17 パナソニックIpマネジメント株式会社 視線検出装置
JP2016149660A (ja) 2015-02-13 2016-08-18 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
DE102016210288A1 (de) * 2016-06-10 2017-12-14 Volkswagen Aktiengesellschaft Bedienvorrichtung mit Eyetrackereinheit und Verfahren zum Kalibrieren einer Eyetrackereinheit einer Bedienvorrichtung
JP6944138B2 (ja) * 2016-07-29 2021-10-06 ソニーグループ株式会社 画像処理装置および画像処理方法

Also Published As

Publication number Publication date
US20200327324A1 (en) 2020-10-15
DE112018006164B4 (de) 2021-05-12
CN111527374B (zh) 2021-10-22
JPWO2019135281A1 (ja) 2020-01-16
US10977488B2 (en) 2021-04-13
CN111527374A (zh) 2020-08-11
WO2019135281A1 (ja) 2019-07-11
JP6479272B1 (ja) 2019-03-06

Similar Documents

Publication Publication Date Title
DE112018006164B4 (de) Sichtlinienrichtungskalibrierungsvorrichtung, sichtlinienrichtungskalibrierungsverfahren und sichtlinienrichtungskalibrierungsprogramm
DE102017115028A1 (de) Verfahren, Gerät und Vorrichtung zur Erzeugung von Zielerkennungs-Informationen
DE102014100352B4 (de) Verfahren zum Detektieren einer Bedingung mit von der Straße abgewandten Augen
DE102019106277A1 (de) Bildanalysevorrichtung, -verfahren und -programm
DE102017116952A1 (de) System und verfahren für verbessertes scoring von 3d-lagen und entfernen von störpunkten in 3d-bilddaten
DE112018007120B4 (de) Physis-Ermittlungseinrichtung und Physis-Ermittlungsverfahren
DE102013102153A1 (de) Verfahren zur Registrierung von Entfernungsbildern von mehreren LiDAR-Sensoren
DE102018109774A1 (de) Bildverarbeitungssystem, Bildverarbeitungsvorrichtung und Bildverarbeitungsprogramm
DE112016001150T5 (de) Schätzung extrinsischer kameraparameter anhand von bildlinien
DE102013108070A9 (de) Bildkalibrierung und Entzerrung einer Weitwinkelkamera
DE102019125751A1 (de) Augapfelinformationenschätzvorrichtung, Augapfelinformationenschätzverfahren und Augapfelinformationenschätzprogramm
DE102014201271A1 (de) Verfahren und Steuergerät zum Erkennen einer Veränderung eines relativen Gierwinkels innerhalb eines Stereo-Video-Systems für ein Fahrzeug
DE102012209316A1 (de) Verfahren und Vorrichtung zum Verarbeiten von Sensordaten eines Stereosensorsystems
DE102019103197B4 (de) Insassenüberwachungsvorrichtung
DE102020007045A1 (de) Objektdetektionssystem mit Laufzeitsensor
DE112014005376T5 (de) Informationsverarbeitungsvorrichtung, Informationsverarbeitungsverfahren und Programm
DE102021110477A1 (de) Dynamische anpassung eines bildes mit erweiterter realität
DE112017007243T5 (de) Fahrerzustandsabschätzungsvorrichtung undfahrerzustandsabschätzungsverfahren
DE102019102923B4 (de) Verfahren und eine Vorrichtung zur Sensordatenfusion für ein Fahrzeug
DE102021120966A1 (de) Sensorfusion
DE112021003430T5 (de) Bildverarbeitungsvorrichtung
DE112021003088T5 (de) Bilderkennungs-simulatorvorrichtung
WO2017129306A1 (de) Verfahren und vorrichtung zum lokalisieren eines kopfes eines fahrers in einem fahrzeug und kopflokalisierungssystem
DE112020007700T5 (de) Positions-lage-schätzeinrichtung, positions-lage-schätzverfahren und programm
DE112020004944T5 (de) Hinderniserkennungsvorrichtung

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R018 Grant decision by examination section/examining division
R020 Patent grant now final
R084 Declaration of willingness to licence