DE102013102528A1 - Method for determining a mounting position of an interior sensor system in a vehicle - Google Patents

Method for determining a mounting position of an interior sensor system in a vehicle Download PDF

Info

Publication number
DE102013102528A1
DE102013102528A1 DE102013102528.5A DE102013102528A DE102013102528A1 DE 102013102528 A1 DE102013102528 A1 DE 102013102528A1 DE 102013102528 A DE102013102528 A DE 102013102528A DE 102013102528 A1 DE102013102528 A1 DE 102013102528A1
Authority
DE
Germany
Prior art keywords
vehicle
head
model
data
sensor system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
DE102013102528.5A
Other languages
German (de)
Other versions
DE102013102528B4 (en
Inventor
Daniel Slieter
Matthias Gebhard
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dr Ing HCF Porsche AG
Original Assignee
Dr Ing HCF Porsche AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dr Ing HCF Porsche AG filed Critical Dr Ing HCF Porsche AG
Priority to DE102013102528.5A priority Critical patent/DE102013102528B4/en
Publication of DE102013102528A1 publication Critical patent/DE102013102528A1/en
Application granted granted Critical
Publication of DE102013102528B4 publication Critical patent/DE102013102528B4/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512Passenger detection systems
    • B60R21/01552Passenger detection systems detecting position of specific human body parts, e.g. face, eyes or hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/647Three-dimensional objects by matching two-dimensional images to three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/164Detection; Localisation; Normalisation using holistic features

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Instrument Panels (AREA)

Abstract

Bei einem Verfahren zur Bestimmung einer Verbauposition einer Innenraumsensorik in einem Fahrzeug, insbesondere mindestens einer Kamera, welche zur Bestimmung einer Kopfpose mindestens eines Insassen des Fahrzeugs einzusetzen ist, soll eine Lösung geschaffen werden, um eine virtuelle Szene des Fahrzeugs inklusive der Insassen, insbesondere des Fahrers zu erzeugen und dadurch einen Vergleich von verschiedenen Einbaupositionen und/oder Ausprägungsformen der Innenraumsensorik zu ermöglichen. Dies wird erfindungsgemäß dadurch erreicht, dass die Verbauposition der Innenraumsensorik durch mindestens eine virtuelle, auf einem mathematischen Operator basierende Szene evaluiert wird, wobei der mathematische Operator in Abhängigkeit eines spezifischen Fahrzeugmodells, spezifischer Fahrzeugdaten, eines Kopfmodells, welches auf messtechnisch zu erfassenden Daten von verschiedenen Kopfposen des mindestens einen Insassen beruht, und von verschiedenen Koordinaten möglicher Verbaupositionen der Innenraumsensorik gebildet wird.In the case of a method for determining a installation position of an interior sensor system in a vehicle, in particular at least one camera, which is to be used for determining a head pose of at least one occupant of the vehicle, a solution is to be created for a virtual scene of the vehicle including the occupants, in particular the driver to generate and thereby enable a comparison of different installation positions and / or forms of the interior sensor system. This is achieved according to the invention in that the installation position of the interior sensor system is evaluated by at least one virtual scene based on a mathematical operator, the mathematical operator depending on a specific vehicle model, specific vehicle data, a head model, which is based on data to be recorded from different head poses of the at least one occupant, and is formed from different coordinates of possible installation positions of the interior sensor system.

Description

Die vorliegende Erfindung betrifft ein Verfahren und ein entsprechendes System zur Evaluation einer Verbauposition einer Innenraumsensorik in einem Fahrzeug. The present invention relates to a method and a corresponding system for evaluating a mounting position of an interior sensor system in a vehicle.

Anhand einer Kopfpose eines Insassen eines Fahrzeugs können vielseitige Informationen über Intentionen des entsprechenden Insassen abgeleitet werden. Insbesondere im Bereich der Fahrererkennung kann durch Wissen über eine aktuelle Kopfpose eines jeweiligen Fahrers eine Prädiktion des Fahr- bzw. Fahrerverhaltens erreicht werden. On the basis of a head pose of an occupant of a vehicle versatile information about intentions of the corresponding occupant can be derived. Particularly in the area of driver recognition, prediction of the driving or driving behavior can be achieved by knowledge of a current head pose of a respective driver.

Da eine Schätzung der Kopfpose eines jeweiligen Fahrers meist auf einer Interpretation digitaler Bilder beruht, ist die Verbauposition, welche in dem jeweiligen Fahrzeug für die Innenraumsensorik, insbesondere einer bildgebenden digitalen Vorrichtung, im speziellen einer Kamera, bestimmt ist, von großer Wichtigkeit für Effektivität und Qualität einer Schätzung der Kopfpose. Since an estimation of the head pose of a respective driver is mostly based on an interpretation of digital images, the installation position which is determined in the respective vehicle for the interior sensor system, in particular an imaging digital device, in particular a camera, is of great importance for effectiveness and quality an estimate of the head pose.

Bisher wurde die Verbauposition durch designtechnische Restriktionen vorgegeben. Dazu wurden in aufwendigen Verfahren geeignete Prototypen von Fahrzeugen, welche eine Inneraumsensorik umfassen, aufgebaut. Diese Prototpen zeigen jedoch immer auch einige Nachteile. So müssen, um einen Prototypen zu erschaffen, bauliche und strukturelle Veränderungen an einem existierenden Fahrzeug real vorgenommen werden. Dadurch ist eine Ausrichtung des Innenraumsensors grob durch diese baulichen und strukturellen Veränderungen vorbestimmt. Previously, the installation position was dictated by design restrictions. For this purpose, suitable prototypes of vehicles, which comprise an interior space sensor system, were set up in complex processes. However, these prototypes always show some disadvantages. Thus, in order to create a prototype, structural and structural changes must actually be made to an existing vehicle. As a result, an orientation of the interior sensor is roughly predetermined by these structural and structural changes.

Weiterhin ist durch eine hohe Anzahl an möglichen Derivaten eines jeweiligen Fahrzeugs, also an Anpassungsformen für verschiedene Baureihen und Ausstattungsvarianten, eine Vielzahl an Prototypen erforderlich. Furthermore, a large number of possible derivatives of a particular vehicle, that is to adaptations for different series and equipment variants, a variety of prototypes required.

Ferner gestaltete sich eine Evaluierung von verschiedenen infrage kommenden Innenraumsensoren bisher schwierig, da eine Verwendung einer zu einem Vergleichsobjekt identischen Verbauposition aus baulichen oder strukturellen Gründen oft unmöglich und ein bestimmungsgemäßer Gebrauch der infrage stehenden Innenraumsensoren dadurch nicht immer möglich war. Furthermore, an evaluation of various eligible indoor sensors has been difficult, since use of an identical to a comparative object installation position for structural or structural reasons often impossible and a proper use of the question indoor sensors was not always possible.

Weiterhin ergaben sich bei der Verwendung von Prototypen zur Bestimmung der bestmöglichen Verbauposition der Innenraumsensorik Probleme durch eine fehlende Referenz. Furthermore, the use of prototypes to determine the best possible installation position of the interior sensor problems caused by a lack of reference.

Aufgrund von Einschränkungen beim Verbau in einem jeweiligen Prototyp ist ein Einsatz von markerbasierten Systemen, welche eine Referenz in Form eines oder mehrerer Marker vorsehen, meist nicht möglich. Insbesondere ist ein Anbringen von Markern an den jeweiligen Insassen nicht möglich. Dieses Fehlen von Markern und einer damit verbundenen Grundwahrheit, welche als Bezugspunkt für etwaige Vergleiche von Messungen notwendig ist, erschwert eine Evaluation von unterschiedlichen Verbaupositionen eines Innenraumsensors enorm. Due to limitations in the installation in a particular prototype, the use of marker-based systems, which provide a reference in the form of one or more markers, is usually not possible. In particular, attaching markers to the respective occupants is not possible. This lack of markers and associated fundamental truth, which is necessary as a reference point for any comparisons of measurements, hampers an evaluation of different installation positions of an interior sensor enormously.

Verfahren und Computerprodukte zur Blickerfassung sind bereits vorbekannt. Methods and computer products for eye tracking are already known.

So werden in der DE 10 2007 001 738 A1 ein Verfahren und ein Computerprogrammprodukt zur Blickerfassung offenbart. Dabei ist vorgesehen, mittels einer Kamera und einer Datenverarbeitungseinrichtung festzustellen, ob ein Proband seinen Blick während der Bildaufnahme in einen festgelegten räumlich begrenzten Bereich gerichtet hat. So be in the DE 10 2007 001 738 A1 discloses a method and a computer program product for eye tracking. It is provided to determine by means of a camera and a data processing device, whether a subject has directed his gaze during the image acquisition in a fixed limited area.

In der DE 102 57 963 A1 sind ein Verfahren und eine Vorrichtung zur Bestimmung der 3D-Position von PKW-Insassen offenbart. Dabei werden unter Beobachtung von Fahrzeuginsassen durch mindestens zwei Kameras, geeignete Merkmale aus den aufgezeichneten Videodaten extrahiert und mittels Mustererkennung verifiziert. Ein Kopfmodell dient dabei als Grundlage für ein Tracking der verifizierten Merkmale. In the DE 102 57 963 A1 For example, there is disclosed a method and apparatus for determining the 3D position of passenger car occupants. Under observation of vehicle occupants by at least two cameras, suitable features are extracted from the recorded video data and verified by means of pattern recognition. A head model serves as the basis for tracking the verified features.

Vor diesem Hintergrund ist es eine Aufgabe der vorliegenden Erfindung, eine Möglichkeit vorzusehen, eine Verbauposition einer Innenraumsensorik in einem Fahrzeug zu bestimmen, wobei ein Vergleich von verschiedenen Einbaupositionen und/oder Ausprägungsformen der vorzusehenden Innenraumsensorik vorzusehen ist. Against this background, it is an object of the present invention to provide a possibility to determine a mounting position of an interior sensor in a vehicle, wherein a comparison of different installation positions and / or characteristics of the interior sensor to be provided is provided.

Diese Aufgabe wird erfindungsgemäß durch ein Verfahren mit den Merkmalen des unabhängigen Patentanspruchs 1 und ein System mit den Merkmalen des unabhängigen Patentanspruchs 16 gelöst. This object is achieved by a method having the features of independent claim 1 and a system having the features of independent claim 16.

Weitere Vorteile und Ausgestaltungen der Erfindung ergeben sich aus der Beschreibung, den beiliegenden Zeichnungen und den jeweiligen Unteransprüchen. Further advantages and embodiments of the invention will become apparent from the description, the accompanying drawings and the respective subclaims.

Erfindungsgemäß wird dabei ein Verfahren bereitgestellt, welches zur Bestimmung einer Verbauposition einer Innenraumsensorik in einem Fahrzeug, insbesondere mindestens einer Kamera, welche zur Bestimmung einer Kopfpose mindestens eines Insassen des Fahrzeugs einzusetzen ist, vorgesehen ist. Dabei wird die Verbauposition der Innenraumsensorik durch mindestens eine virtuelle, auf einem mathematischen Operator basierende Szene evaluiert, wobei der mathematische Operator in Abhängigkeit eines spezifischen Fahrzeugmodells, spezifischer Fahrzeugdaten, eines Kopfmodells, welches auf messtechnisch zu erfassenden Daten von verschiedenen Kopfposen des mindestens einen Insassen beruht und verschiedener Koordinaten möglicher Verbaupositionen der Innenraumsensorik gebildet wird. According to the invention, a method is provided which is provided for determining a mounting position of an interior sensor system in a vehicle, in particular at least one camera, which is to be used to determine a head pose of at least one occupant of the vehicle. In this case, the installation position of the interior sensor system is evaluated by at least one virtual scene based on a mathematical operator, wherein the mathematical operator in dependence of a specific vehicle model, specific vehicle data, a head model, which on metrologically to be acquired data from different head poses of at least one occupant is based and various coordinates of possible installation positions of the passenger compartment sensor is formed.

Im Kontext des vorliegenden erfindungsgemäßen Verfahrens ist unter Innenraumsensorik jede Form von Sensorik zu verstehen, mittels derer Informationen über das Geschehen im Inneren des Fahrzeugs erfasst werden können. Insbesondere sind dies 2D- und/oder Tiefenkameras, laser- und/oder radarbasierte Vorrichtungen sowie Infrarotsensoren. In the context of the present inventive method, indoor sensor systems are understood to mean any form of sensor system by means of which information about the events inside the vehicle can be detected. In particular, these are 2D and / or depth cameras, laser and / or radar-based devices and infrared sensors.

Es ist erfindungsgemäß vorgesehen, eine virtuelle Szene zur Evaluierung verschiedener Verbaupositionen der Innenraumsensorik zu verwenden. It is inventively provided to use a virtual scene for the evaluation of various installation positions of the interior sensor system.

Die Berechnung der mindestens einen virtuellen Szene, welche als Simulation einer realen Fahrt zu verstehen ist, erfolgt dabei auf Basis des mathematischen Operators, welcher in Abhängigkeit des für das jeweilige Fahrzeug spezifischen Fahrzeugmodells, der spezifischen Fahrzeugdaten, des Kopfmodells, welches auf messtechnisch erfassten Daten von verschiedenen Kopfposen des mindestens einen Insassen beruht und der verschiedenen Koordinaten möglicher Verbaupositionen gebildet wird. The calculation of the at least one virtual scene, which is to be understood as a simulation of a real journey, is carried out on the basis of the mathematical operator, which depending on the specific vehicle model for the vehicle, the specific vehicle data, the head model, which on metrologically recorded data from different head poses of at least one occupant based and the various coordinates of possible installation positions is formed.

Ein spezifisches Fahrzeugmodell ist dabei nicht als Fahrzeuggruppe zu verstehen, sondern als digitales Modell eines einzelnen Fahrzeugs, was insbesondere in Form einer CAD-Zeichnung dargestellt werden kann. Selbstverständlich enthält das spezifische Fahrzeugmodell Informationen über die Fahrzeuggruppe, ferner jedoch zudem Ausstattungsmerkmale des jeweiligen Fahrzeugs. Dabei wird das spezifische Fahrzeugmodell bspw. aus 3D-Mesh- und/oder Texturdaten gebildet. A specific vehicle model is not to be understood as a group of vehicles, but as a digital model of a single vehicle, which can be represented in particular in the form of a CAD drawing. Of course, the specific vehicle model contains information about the vehicle group, but also features of the respective vehicle. In this case, the specific vehicle model is formed, for example, from 3D mesh and / or texture data.

Die spezifischen Fahrzeugdaten umfassen sowohl die fahrzeugeigenen Parameter wie bspw. Maße von Baueinheiten oder Freiflächen als auch variable Daten über bspw. Gaspedalstellung, Motordrehzahl, Gierwinkel, Lenkwinkel und ähnliches. The specific vehicle data include both the vehicle's own parameters such as dimensions of units or open spaces and variable data on, for example, accelerator pedal position, engine speed, yaw angle, steering angle and the like.

Um eine möglichst hohe Realitätsnähe zu erhalten, ist erfindungsgemäß vorgesehen, dass die Kopfpose des jeweiligen mindestens einen Insassen, insbesondere des Fahrers, messtechnisch erfasst wird, d. h. die Kopfpose des jeweiligen mindestens einen Insassen wird durch die Innenraumsensorik, insbesondere durch mindestens eine Kamera vermessen und als Datengrundlage für ein Kopfmodell verwendet, welches Auskunft über spezifische Eigenschaften des jeweiligen Kopfes gibt. Dabei werden insbesondere Größe, Lage und Position des Kopfes verwendet. In order to obtain the highest possible realism, it is provided according to the invention that the head pose of the respective at least one occupant, in particular of the driver, is detected metrologically, ie H. The head pose of the respective at least one occupant is measured by the interior sensor system, in particular by at least one camera and used as a data basis for a head model, which provides information about specific properties of the respective head. In particular, the size, position and position of the head are used.

Zur Evaluierung einer bestmöglichen Verbauposition der Innenraumsensorik ist erfindungsgemäß vorgesehen, verschiedene Einbauorte in der mindestens einen virtuellen Szene zu simulieren und diese miteinander zu vergleichen. In order to evaluate a best possible installation position of the interior sensor system, it is provided according to the invention to simulate different installation locations in the at least one virtual scene and to compare these with one another.

Eine Evaluation auf Basis einer virtuellen Szene weist dabei eine Vielzahl von Vorteilen auf. Bspw. können ohne großen Aufwand verschiedene Verbaupositionen simuliert und dadurch miteinander verglichen werden. Durch Verwendung eines digitalen Modells können Störvariablen minimiert und die Reliabilität von zugrundeliegenden Messungen maximiert werden. Dabei ist besonders die mit dem erfindungsgemäßen Verfahren einhergehende Kontrolle über Licht und Schattenwurf, welche die Innenraumsensorik beeinflussen, von Vorteil. An evaluation based on a virtual scene has a number of advantages. For example. can be simulated without great effort different installation positions and thus compared with each other. By using a digital model, noise can be minimized and the reliability of underlying measurements maximized. It is particularly the associated with the process according to the invention control of light and shadow, which affect the interior sensors, advantage.

Weiterhin ist es möglich, verschiedene Sensoren in beliebiger Weise zu kombinieren, selbst wenn diese in der Realität in der Regel aus technischen Gründen in einer jeweiligen Ausgestaltung nicht zu verwenden wären. Eine solche Kombination erscheint bspw. dann sinnvoll, wenn verschiedene Ausführungsformen von geeigneten Sensoren zu vergleichen sind, welche in einem zukünftigen Entwicklungsschritt kombiniert werden sollen. Furthermore, it is possible to combine various sensors in any way, even if they would not be used in reality usually for technical reasons in a particular embodiment. Such a combination, for example, makes sense if different embodiments of suitable sensors are to be compared, which are to be combined in a future development step.

Ferner können digitalisierte Daten des mindestens einen Insassen, ermittelt durch die Innenraumsensorik, als auch die Innenraumsensorik selbst, direkt in das CAD-Modell des Fahrzeugs integriert werden. Dadurch ist es möglich, die Innenraumsensorik von Beginn an bei einer Konstruktion eines Fahrzeugs zu berücksichtigen, wodurch eine spätere Anpassung von Bauelementen des Fahrzeuginnenraums vermieden werden kann. Furthermore, digitized data of the at least one occupant, determined by the interior sensor system, as well as the interior sensor system itself, can be integrated directly into the CAD model of the vehicle. This makes it possible to consider the interior sensor system from the beginning in a construction of a vehicle, whereby a subsequent adaptation of components of the vehicle interior can be avoided.

Weiterhin ermöglicht das erfindungsgemäße Verfahren einen Vergleich von Verfahren und/oder Vorrichtungen, welche mit der Innenraumsensorik in Verbindung stehen. Basierend auf einer virtuellen Kopfposen-Szene können verschiedene Verfahren und/oder Vorrichtungen evaluiert werden. Bspw. können anhand derselben virtuellen Szene verschiedene Fahrerbeobachtungssysteme auf ihre Genauigkeit oder Fehlerwahrscheinlichkeit hin verglichen werden. Furthermore, the method according to the invention allows a comparison of methods and / or devices which are connected to the interior sensor system. Based on a virtual head pose scene, various methods and / or devices can be evaluated. For example. By means of the same virtual scene, different driver observation systems can be compared for their accuracy or probability of error.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass die Evaluation der Verbauposition mindestens folgende Verfahrensschritte umfasst:

  • a) Aufzeichnung realer Fahrten,
  • b) Kopfposeschätzung und Erstellen eines Kopfmodells mittels eines Tiefensensors sowie Fusion von Fahrzeugdaten, welche bei der Aufzeichung realer Fahrten erhoben wurden mit Daten des Kopfmodells und dem Fahrzeugmodell zu einer 3D-Szene,
  • c) Positionierung des Innenraumsensors in verschiedenen Verbaupositionen,
  • d) Evaluierung der verschiedenen Verbaupositionen anhand gerenderter, also im dreidimensionalen Raum digitalisierter Szenen.
In a further embodiment of the method according to the invention, it is provided that the evaluation of the installation position comprises at least the following method steps:
  • a) recording of real trips,
  • b) head pose estimation and generation of a head model by means of a depth sensor and fusion of vehicle data collected in the recording of real rides with data of the head model and the vehicle model into a 3D scene,
  • c) positioning of the interior sensor in different installation positions,
  • d) Evaluation of the various installation positions on the basis of rendered scenes, ie digitized in three-dimensional space.

Dabei ist erfindungsgemäß vorgesehen, die Daten, welche während realer Fahrten von einem Tiefensensor gesammelt wurden, als Grundlage für die Kopfposeschätzung zu verwenden, welche wiederum zur Erzeugung des Kopfmodells verwendet wird, welches schließlich mit dem auf den spezifischen Fahrzeugdaten beruhenden Fahrzeugmodell zu einer virtuellen 3D-Szene fusioniert wird. In dieser virtuellen 3D-Szene kann der Innenraumsensor frei in verschiedenen infrage kommenden Verbaupositionen positioniert und die dadurch erzeugten virtuellen Szenen jeweilig evaluiert werden. According to the invention, the data collected during actual travel by a depth sensor is used as the basis for the head pose estimation, which in turn is used to generate the head model, which is finally combined with the vehicle model based on the specific vehicle data to form a virtual 3D model. Scene is merged. In this virtual 3D scene, the indoor sensor can be freely positioned in various candidate installation positions and the virtual scenes generated thereby can be evaluated in each case.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass das Kopfmodell durch eine Verbindung aus 3D-Mesh- und Texturdaten gebildet werden kann. In a further embodiment of the method according to the invention, it is provided that the head model can be formed by a combination of 3D mesh and texture data.

Im Bereich des computergestützten Designs ist eine Erzeugung von virtuellen Szenen, insbesondere 3D-Szenen durch Mesh-Techniken in Verbindung mit Texturen bekannt. Erfindungsgemäß wird diese Technik verwendet, um ein qualitativ hochwertiges Kopfmodell zu erzeugen, welches als Grundlage für die Evaluation der Verbauposition der Innenraumsensorik dient. In the field of computer-aided design, creation of virtual scenes, in particular 3D scenes, by mesh techniques in conjunction with textures is known. According to the invention, this technique is used to produce a high-quality head model, which serves as the basis for the evaluation of the installation position of the interior sensor system.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass das spezifische Fahrzeugmodell durch eine Verbindung aus 3D-Mesh- und Texturdaten gebildet werden kann. In a further embodiment of the method according to the invention, it is provided that the specific vehicle model can be formed by a combination of 3D mesh and texture data.

Da auch das spezifische Fahrzeugmodell als Grundlage für die Evaluation der Verbauposition der Innenraumsensorik dient, ist auch hier eine qualitativ hochwertige 3D-Szene entscheidend. Daher werden auch hier die bereits erwähnten Techniken der Fusion von 3D-Mesh und Texturen angewandt. Since the specific vehicle model also serves as the basis for the evaluation of the installation position of the interior sensor system, a high-quality 3D scene is also crucial here. Therefore, the already mentioned techniques of 3D mesh and texture merging are applied.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass der mathematische Operator verwendet wird, um das Fahrermodell mit Kopfanimation, das Fahrzeugmodell mit Lenkradanimation sowie simulierte Umgebungsbedingungen bereitzustellen. In a further embodiment of the method according to the invention, it is provided that the mathematical operator is used to provide the driver model with head animation, the vehicle model with steering wheel animation as well as simulated environmental conditions.

Um eine Funktionsweise eines jeweiligen Innenraumsensors zu evaluieren, sind in der dazu verwendeten virtuellen Szene Bedingungen zu schaffen, wie sie auch in der Realität vorherrschen bzw. vorherrschen können. Dazu ist zwingend notwendig, sowohl eine Kopfanimation als auch ein Fahrzeugmodell mit Lenkradsimulation und simulierte Umgebungsbedingungen in die virtuelle Szene einzubeziehen. Die Animation eines Kopfes als vornehmliches Zielobjekt der Inneraumsensorik ist dabei von besonderer Bedeutung. In order to evaluate the functioning of a respective interior sensor, conditions are to be created in the virtual scene used for this purpose, as can prevail or prevail in reality. For this purpose, it is absolutely necessary to include both a head animation and a vehicle model with steering wheel simulation and simulated environmental conditions in the virtual scene. The animation of a head as a primary target object of the interior room sensor is of particular importance.

Erfindungsgemäß ist die Möglichkeit zur Kontrolle der genannten Parameter durch Verwendung einer virtuellen Szene vorgesehen. Dadurch wird eine Analyse der Kopfanimation unabhängig von den Störvariablen Umgebungsbedingungen, Fahrzeug- und Lenkradeinfluss ermöglicht. Innerhalb der virtuellen Szene können Störeinflüsse beliebig einbezogen oder ausgeschlossen werden, wenn diese bekannt und in die Generierung der virtuellen Szene einbezogen sind. According to the invention, it is possible to control said parameters by using a virtual scene. This allows an analysis of the head animation independently of the environmental, vehicle and steering wheel influence variables. Within the virtual scene interferences can be arbitrarily included or excluded, if they are known and included in the generation of the virtual scene.

Ferner ist erfindungsgemäß vorgesehen, dass von dem Fahrermodell auf die Stellung des Lenkrades und damit auf das jeweilige Fahrmanöver geschlossen werden kann. Dies ist nur möglich, wenn das Lenkrad auch in das jeweilige spezifische Fahrzeugmodell eingeschlossen wird. Further, the invention provides that can be closed by the driver model on the position of the steering wheel and thus to the respective driving maneuver. This is only possible if the steering wheel is also included in the specific vehicle model.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass das Kopfmodell unter Verwendung eines 2D-Sensors und/oder eines Tiefensensors erzeugt wird. In a further embodiment of the method according to the invention, it is provided that the head model is generated using a 2D sensor and / or a depth sensor.

Eine verlässliche Versorgung mit Tiefeninformationen ist in einer realen Anwendung im Fahrzeug häufig schwierig. Daher ist erfindungsgemäß eine Kopfposeschätzung auf Basis einer 2D- und/oder einer Tiefendarstellung des Fahrzeuginnenraums sowie einer 2D- und/oder einer Tiefendarstellung des mindestens einen Fahrzeuginsassen vorgesehen. Ferner bietet eine Fusion aus 2D- und Tiefendarstellung eine verbesserte Kopfposeschätzung, da in der 2D-Darstellung verhältnismäßig einfach die Information über den Hintergrund von der des Kopfes des mindestens einen Insassen des jeweiligen Fahrzeugs getrennt werden kann und der Tiefensensor Informationen über die räumliche Ausrichtung des Kopfes liefert. A reliable supply of depth information is often difficult in a real vehicle application. Therefore, a Kopfposeschätzung based on a 2D and / or a depth representation of the vehicle interior and a 2D and / or a depth representation of the at least one vehicle occupant is provided according to the invention. Further, a fusion of 2D and depth rendering provides improved head pose estimation because in the 2D representation the information about the background can be relatively easily separated from that of the head of the at least one occupant of the respective vehicle and the depth sensor provides information about the head's spatial orientation supplies.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass die Kopfpose, welche durch den mathematischen Operator bestimmt wird, in Verbindung mit den spezifischen Fahrzeugdaten zur Bildung eines Modells, welches sowohl das jeweilige Fahrzeug als auch die Kopfpose und die Arme des mindestens einen Insassen des jeweiligen Fahrzeugs aufweist, verwendet wird. Neben fahrzeugspezifischen Einflüssen, wie bspw. der Stellung des Lenkrads und den Umgebungseinflüssen, spielt auch die Position der Arme des mindestens einen Insassen des jeweiligen Fahrzeugs eine Rolle für die Verarbeitung der Kopfpose. Daher ist erfindungsgemäß vorgesehen, eine Simulation der Arme mindestens des mindestens einen Insassen mit in die Simulation aufzunehmen und dadurch deren Auswirkung auf die Innenraumsensorik auszuwerten. In a further embodiment of the method according to the invention it is provided that the Kopfpose, which is determined by the mathematical operator, in conjunction with the specific vehicle data to form a model, which both the respective vehicle and the Kopfpose and the arms of the at least one occupant of respective vehicle is used. In addition to vehicle-specific influences, such as, for example, the position of the steering wheel and the environmental influences, the position of the arms of the at least one occupant of the respective vehicle also plays a role in the processing of the head pose. Therefore, according to the invention, a simulation of the arms of at least the at least one occupant with in to record the simulation and thereby evaluate its effect on the interior sensor system.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass die mindestens eine virtuelle Szene zum Test einer Fahrererkennung eingesetzt werden kann, welcher mindestens die folgenden Schritte umfasst:

  • a) Wahl der Verbauposition der Innenraumsensorik
  • b) Szenenrendering
  • c) Algorithmentest.
In a further embodiment of the method according to the invention, it is provided that the at least one virtual scene can be used to test a driver recognition, which comprises at least the following steps:
  • a) Choice of the installation position of the interior sensor system
  • b) Scene rendering
  • c) Algorithm test.

Ein Ziel der Kopfposebestimmung ist eine Fahrererkennung durch technische Mittel und daraus abgeleitet eine Prädiktion des Fahrverhaltens. Um dies zu leisten, ist eine ganze Reihe an Algorithmen denkbar, welche gegeneinander verglichen werden müssen, um den bestmöglichen Algorithmus zu bestimmen. Dabei kann die Wahl der Verbauposition der Innenraumsensorik für die Genauigkeit eines Algorithmus entscheidend sein. Daher ist es durch Einsatz des vorliegenden erfindungsgemäßen Verfahrens möglich, verschiedene Algorithmen unter Berücksichtigung verschiedener Verbaupositionen miteinander zu vergleichen, d. h. dass dem jeweiligen Algorithmus zugrunde liegende Szenenrendering zu testen. A goal of Kopfposebestimmung is a driver recognition by technical means and derived therefrom a prediction of driving behavior. To do this, a whole range of algorithms is conceivable, which have to be compared against each other in order to determine the best possible algorithm. The choice of the installation position of the interior sensor system can be decisive for the accuracy of an algorithm. Therefore, by employing the present inventive method, it is possible to compare different algorithms with each other taking into consideration various mounting positions, that is, to use different algorithms. H. to test the scene based rendering of the respective algorithm.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass eine Fehlerberechnung, welche auf einer Modellüberlagerung einer 3D-Tiefenkarte basiert, als Ausgangspunkt für eine weitere Modellüberlagerung verwendet wird und ein Ergebnis der mindestens einen Modellüberlagerung als Kopfmodell in dem erfindungsgemäßen Verfahren verwendet wird. In a further embodiment of the method according to the invention, it is provided that an error calculation which is based on a model overlay of a 3D depth map is used as the starting point for a further model overlay and a result of the at least one model overlay is used as a head model in the method according to the invention.

Um eine möglichst valide Kopfposeschätzung für die Erstellung einer virtuellen Szene zu erreichen, ist bei einer Ausführungsform des vorliegenden erfindungsgemäßen Verfahrens ein Abgleich einer Tiefenkarte und einer Punktewolke, generiert durch einen Tiefensensor, vorgesehen. Dazu wird die Tiefenkarte mit der Punktewolke verglichen, indem die Tiefenkarte von der Punktewolke überlagert wird. Anhand dieser Überlagerung sind Fehler in den jeweiligen Modellen zu berechnen, welche zur Kopfposeschätzung und damit zur Bildung des Kopfmodells beitragen. Dabei kann der Vorgang der Fehlerberechnung durch Wiedereinspeisen des errechneten Modells in die Überlagerungsdarstellung mehrmals durchlaufen werden, was zu einer erhöhten Genauigkeit des Kopfmodells führt. In order to achieve a valid head pose estimation for the creation of a virtual scene, in one embodiment of the present inventive method, an adjustment of a depth map and a point cloud, generated by a depth sensor, is provided. For this purpose, the depth map is compared with the point cloud by superimposing the depth map of the point cloud. Based on this overlay errors in the respective models are to be calculated, which contribute to the Kopfposeschätzung and thus to the formation of the head model. In this case, the process of error calculation by re-feeding the calculated model in the overlay representation can be repeated several times, which leads to an increased accuracy of the head model.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass die Kopfpose relativ zu einem Fahrzeugkoordinatensystem des spezifischen Fahrzeugs bestimmt wird. In a further embodiment of the method according to the invention, it is provided that the head pose is determined relative to a vehicle coordinate system of the specific vehicle.

Um eine exakte Positionierung der Innenraumsensorik zu gewährleisten, ist erfindungsgemäß vorgesehen, die Kopfpose in räumlichen Bezug zu den Informationen der Innenraumsensorik zu stellen. Dazu wird die Kopfpose in Abhängigkeit zu einem Fahrzeugkoordinatensystem vermessen und deren Bewegung dargestellt. In order to ensure an exact positioning of the interior sensor system, it is provided according to the invention to set the head pose in spatial relation to the information of the interior sensor system. For this purpose, the head pose is measured as a function of a vehicle coordinate system and its movement is displayed.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass verschiedene Messdaten von verschiedenen Kamerapositionen im Fahrzeug verglichen werden und darunter die beste Position ausgewählt wird. In a further embodiment of the method according to the invention, it is provided that different measurement data from different camera positions in the vehicle are compared and the best position is selected thereunder.

Ferner ist vorgesehen, dass der Prozess der Evaluation mit einem weiteren, verfeinerten Satz von Messdaten wiederholt wird. It is further provided that the process of evaluation is repeated with a further, refined set of measurement data.

Ein Ziel des erfindungsgemäßen Verfahrens ist die Evaluation der Verbauposition der Innenraumsensorik eines Fahrzeugs, insbesondere einer Kamera. Dazu ist erfindungsgemäß vorgesehen, dass verschiedene Messdaten aus verschiedenen Verbaupositionen aufgezeichnet, zur Bildung eines Kopfmodells verwendet und schließlich miteinander verglichen werden. Auf diese Weise können die zu vergleichenden Verbaupositionen immer weiter verfeinert werden, um schließlich die finale Verbauposition zu erhalten. An object of the method according to the invention is the evaluation of the installation position of the interior sensor system of a vehicle, in particular a camera. For this purpose, it is provided according to the invention that different measurement data from different mounting positions are recorded, used to form a head model and finally compared with each other. In this way, the construction positions to be compared can be further refined to finally obtain the final installation position.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass die Kopfposebestimmung für einen Vergleich von Kopfposeschätzungsalgorithmen zur Fahreraufmerksamkeitsbestimmung und/oder zur Fahrmanöverprädiktion genutzt wird. In a further embodiment of the method according to the invention, it is provided that the head position determination is used for a comparison of head pose estimation algorithms for driver attention determination and / or for driving maneuver prediction.

Die Kopfpose eines Fahrers eines Fahrzeuges kann Aufschluss über dessen Intentionen geben. Daher ist erfindungsgemäß vorgesehen, über die Kopfposeschätzung bzw. die Kopfmodellbildung eine Prädiktion des Fahrverhaltens des jeweiligen Fahrers zu leisten und die daraus gewonnen Informationen einem jeweiligen Fahrzeugmanagement zur Verfügung zu stellen. The head pose of a driver of a vehicle can provide information about his intentions. Therefore, it is provided according to the invention to make a prediction of the driving behavior of the respective driver via the Kopfposeschätzung or the Kopfmodellbildung and to provide the information gained therefrom a respective vehicle management available.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass die Kopfposebestimmung für einen Vergleich verschiedener Kameramodelle genutzt wird. In a further embodiment of the method according to the invention, it is provided that the head position determination is used for a comparison of different camera models.

Wie bereits dargelegt, eignet sich die Kopfposebestimmung mittels mindestens einer virtuellen Szene dazu, unterschiedliche Innenraumsensoren zu evaluieren. Insbesondere im Bereich der Kameras ist eine Vielzahl an Sensoren verfügbar, welche mittels des vorliegenden erfindungsgemäßen Verfahrens evaluiert werden können. As already explained, the head position determination by means of at least one virtual scene is suitable for evaluating different interior sensors. In particular in the field of cameras, a large number of sensors is available, which can be evaluated by means of the present inventive method.

In einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens ist vorgesehen, dass die Kopfposebestimmung für eine Ausrichtung eines Head-Up-Displays (HUD) genutzt wird. In a further embodiment of the method according to the invention, it is provided that the head position determination is used for alignment of a head-up display (HUD).

Da die Erkennungsleistung eines HUD stark vom Sehwinkel des Betrachters abhängt, ist erfindungsgemäß eine Positionierung in Abhängigkeit der Kopfpose des Fahrers vorgesehen. Dazu wird das HUD in die mindestens eine virtuelle Szene eingefügt und ein bestmöglicher Sehwinkel für den Fahrer bestimmt. Since the recognition performance of a HUD depends strongly on the visual angle of the observer, positioning according to the head pose of the driver is provided according to the invention. For this purpose, the HUD is inserted into the at least one virtual scene and determines the best possible viewing angle for the driver.

Ferner betrifft die vorliegende Erfindung ein System zur Evaluation einer Verbauposition einer Innenraumsensorik in einem Fahrzeug. Das erfindungsgemäße System dient insbesondere dazu das erfindungsgemäße Verfahren zur Bestimmung einer Verbauposition einer Innenraumsensorik auszuführen. Furthermore, the present invention relates to a system for evaluating a mounting position of an interior sensor in a vehicle. The system according to the invention serves, in particular, to carry out the method according to the invention for determining a mounting position of an interior sensor system.

In einer Ausgestaltung des erfindungsgemäßen Systems ist vorgesehen, dass das System mindestens folgende Komponenten umfasst: eine Vorrichtung zur Ausführung von notwendigen Rechenoperationen, eine Schnittstelle zur Erfassung von Daten der Innenraumsensorik und eine Innenraumsensorik, wobei Daten, welche von der Inneraumsenorik gesammelt werden, durch die Schnittstelle erfasst und schließlich der Vorrichtung zur Ausführung der notwendigen Rechenoperationen zur Verfügung gestellt werden, welche Vorrichtung unter Verwendung der durch die Schnittstelle erfassten Daten ein virtuelles Äquivalent zu der durch die Innenraumsensorik aufgezeichneten Szene errechnet. In one embodiment of the system according to the invention, it is provided that the system comprises at least the following components: a device for carrying out necessary arithmetic operations, an interface for acquiring data of the interior sensor system and an interior sensor system, wherein data collected by the interior room sensor is passed through the interface and finally provided to the apparatus for performing the necessary arithmetic operations, which apparatus, using the data acquired by the interface, calculates a virtual equivalent to the scene recorded by the indoor sensor system.

Dabei ist unter Vorrichtung zur Ausführung der notwendigen Rechenoperationen jede Form von automatisiertem Rechenelement zu verstehen, dass die für eine bestimmungsgemäße Ausführung des erfindungsgemäßen Verfahrens notwendigen Berechnungen zu leisten vermag. In this case, the term apparatus for carrying out the necessary arithmetic operations means any form of automated computation element that is capable of performing the calculations necessary for a proper execution of the method according to the invention.

Als Schnittstelle zur Erfassung von Daten der Innenraumsensorik kommen insbesondere Hochgeschwindigkeitsschnittstellen wie bspw. ein Universal Serial Bus (USB) in Betracht. In particular, high-speed interfaces such as, for example, a Universal Serial Bus (USB) come into consideration as the interface for capturing data from the interior sensor system.

Die Erfindung ist anhand von Ausführungsformen in der Zeichnung schematisch dargestellt und wird unter Bezugnahme auf die Zeichnung ausführlich beschrieben. The invention is illustrated schematically by means of embodiments in the drawing and will be described in detail with reference to the drawing.

1 zeigt einen schematischen Ablauf eines Evaluierungsprozesses, wie er in einer ersten Ausführungsform des erfindungsgemäßen Verfahrens vorgesehen ist. 1 shows a schematic flow of an evaluation process, as provided in a first embodiment of the method according to the invention.

2 zeigt die Ergebnisse einer Evaluierung anhand eines Fehler/Gierwinkel Diagramms, 2 shows the results of an evaluation on the basis of an error / yaw diagram

3 zeigt einen schematischen Überblick über die Bildung eines spezifischen Fahrzeugmodells mit einem Insassen, welcher sowohl Kopf als auch Arme aufweist, anhand von spezifischen Fahrzeugdaten und einer Kopfposeschätzung, wie es in einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens vorgesehen ist. 3 shows a schematic overview of the formation of a specific vehicle model with an occupant, which has both head and arms, based on specific vehicle data and a Kopfposeschätzung, as provided in a further embodiment of the method according to the invention.

4 zeigt einen Vergleich zwischen zwei Verbaupositionen zur Optimierung eines Algorithmus zur Fahrererkennung, wie es in einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens vorgesehen ist. 4 shows a comparison between two installation positions for optimizing an algorithm for driver recognition, as provided in a further embodiment of the method according to the invention.

5 zeigt einen schematischen Ablauf einer Kopfposeschätzung mittels Tiefeninformation, wie sie in einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens vorgesehen ist. 5 shows a schematic sequence of a Kopfposeschätzung means depth information, as provided in a further embodiment of the method according to the invention.

6 zeigt eine virtuelle Szene, in der ein Innenraumsensor relativ zu einem Fahrzeugkoordinatensystem positioniert wird, wie es in einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens vorgesehen ist. 6 shows a virtual scene in which an interior sensor is positioned relative to a vehicle coordinate system, as provided in a further embodiment of the method according to the invention.

7 zeigt eine virtuelle Szene, in der verschiedene Verbaupositionen für Innenraumsensorik dargestellt sind, wie sie in einer weiteren Ausführungsform des erfindungsgemäßen Verfahrens vorgesehen sind. 7 shows a virtual scene, in which various installation positions for interior sensors are shown, as they are provided in a further embodiment of the method according to the invention.

Wie in 1 dargestellt, läuft eine Evaluierung einer Verbauposition für eine Innenraumsensorik, wie sie in einer ersten Ausführungsform des vorliegenden erfindungsgemäßen Verfahrens vorgesehen ist, in fünf Verfahrensschritten ab. In einem ersten Schritt 1 werden Aufzeichnungen realer Fahrten mittels geeigneter 2D- und Tiefensensoren erstellt. Darüber hinaus erfolgt bei den realen Fahrten eine Aufzeichnung von Fahrzeugdaten, wie bspw. einem Lenkradwinkel, Gierwinkel oder ähnlichem. As in 1 1, an evaluation of a mounting position for an interior sensor system, as provided in a first embodiment of the present inventive method, proceeds in five method steps. In a first step 1 Recordings of real trips are made using suitable 2D and depth sensors. In addition, during the actual journeys, a recording of vehicle data, such as, for example, a steering wheel angle, yaw angle or the like, takes place.

Durch die Innenraumsensorik, insbesondere durch 2D- und Tiefensensoren, aufgezeichnetes Datenmaterial wird in einem zweiten Schritt 2 zur Berechnung einer Kopfposeschätzung verwendet. Dabei erfolgt eine Fusion der 2D- und der Tiefensensordaten zu einem Kopfmodell. Data collected by the interior sensor system, in particular by 2D and depth sensors, becomes a second step 2 used to calculate a head pose estimate. This merges the 2D and depth sensor data into a head model.

In einem dritten Verfahrensschritt 3 wird das Kopfmodell mit den aus den realen Fahrten gewonnen Fahrzeugdaten und einem virtuellen Fahrzeugmodell, welches als CAD-Zeichnung vorliegt, zu einer 3D-Szene fusioniert. In a third process step 3 the head model is fused with the vehicle data obtained from the real rides and a virtual vehicle model, which is present as a CAD drawing, to form a 3D scene.

1 zeigt weiterhin eine Visualisierung eines vierten Verfahrensschritts 4, in dem ein Innenraumsensor in verschiedenen Verbaupositionen simuliert wird und dessen jeweilige Ausgaben untereinander verglichen werden. 1 further shows a visualization of a fourth method step 4 in which an interior sensor is simulated in various installation positions and whose respective outputs are compared with each other.

In einem fünften und letzten Verfahrensschritt 5 werden die Ausgaben der verschiedenen Verbaupositionen evaluiert. Dies geschieht unter anderem anhand von Fehler/Gierwinkel-Diagrammen. In a fifth and final process step 5 the expenses of the different installation positions are evaluated. This happens among other things on the basis of error / yaw angle diagrams.

2 zeigt eine solche Evaluation anhand eines Fehler/Gierwinkel-Diagramms. Dabei zeigt sich in dem hier dargestellten konkreten Beispiel, dass eine Verbauposition einer Innenraumsensorik in einem Kombiinstrument des jeweiligen Fahrzeugs 2a eine geringere Fehlerhäufigkeit bedingt als dies bei einem Verbau in einer A-Säule 2c oder in einem Innenspiegel des jeweiligen Fahrzeugs 2b der Fall wäre. 2 shows such an evaluation using an error / yaw angle diagram. It shows in the concrete example shown here that a mounting position of an interior sensor in an instrument cluster of the respective vehicle 2a a lower error rate caused than in a shoring in an A-pillar 2c or in an interior mirror of the respective vehicle 2 B the case would be.

In 3 ist der Verfahrensschritt der Kopfposeschätzung mittels 2D- und Tiefeninformation dargestellt. Die Informationen 3a des 2D-Sensors und die Informationen 3b des Tiefensensors werden zu einer Kopfposeschätzung fusioniert und bilden zusammen mit den Fahrzeugdaten, welche während der realen Fahrten aufgezeichnet wurden, ein Modell des Fahrzeugs 3c samt Insassen. In 3 the method step of the Kopfposeschätzung by means of 2D and depth information is shown. The information 3a of the 2D sensor and the information 3b of the depth sensor are fused to a head pose estimation and, together with the vehicle data recorded during the real rides, form a model of the vehicle 3c including inmates.

Ein Vergleich zwischen zwei Verbaupositionen zur Optimierung eines Algorithmus zur Fahrererkennung ist in 4 dargestellt. Dabei zeigt sich, dass der Algorithmus unabhängig vom Einbauort 4a im Algorithmentest jeweils dieselben relevanten Gesichtsbereiche eines Insassen 4b markiert. A comparison between two installation positions for optimizing an algorithm for driver recognition is in 4 shown. It shows that the algorithm is independent of the installation location 4a in the algorithm test in each case the same relevant facial areas of an occupant 4b marked.

Zur Schätzung der Tiefeninformation, wie sie in 5 schematisch dargestellt ist, werden eine Tiefenkarte 5a und eine Punktewolke, wie in 5b angedeutet, welche von einem Tiefensensor bereitgestellt werden, durch Überlagerung der Punktewolke und der Tiefenkarte zu einem Modell 5c fusioniert und anhand der Deckung der durch die Überlagerung erhaltenen Informationen mögliche Fehler berechnet. Das Ergebnis dieser Modellbildung kann wiederum als Eingangsmaterial für eine erneute Modellbildung 5d mit anschließender Fehlerberechnung verwendet werden. To estimate the depth information as given in 5 is shown schematically, a depth map 5a and a point cloud, as in 5b indicated, which are provided by a depth sensor, by superposition of the point cloud and the depth map to a model 5c merged and based on the coverage of the information obtained by the overlay calculated possible errors. The result of this modeling can in turn be used as input material for re-modeling 5d be used with subsequent error calculation.

Um einen virtuellen Innenraumsensor 6a mit der nötigen Präzision in einem virtuellen Fahrzeug verbauen zu können, ist, wie in 6 dargestellt, ein Fahrzeugkoordinatensystem 6b vorgesehen. To a virtual interior sensor 6a Being able to build with the necessary precision in a virtual vehicle is like in 6 shown, a vehicle coordinate system 6b intended.

Die möglichen Verbaupositionen A, B, C, D werden zunächst, wie in 7a gezeigt, grob, d. h. mit großen Abständen zueinander evaluiert, um sich dann in weiteren Evaluationsschritten mit zunehmend kleineren Abständen der miteinander zu vergleichenden Verbaupositionen Da, Db, Dc, wie es in 7b dargestellt ist, schließlich der optimalen Verbauposition sukkzessive anzunähern. The possible installation positions A, B, C, D are initially, as in 7a shown coarsely, ie evaluated at great distances from each other, in order to then in further evaluation steps with increasingly smaller distances of the installation positions Da, Db, Dc, which are to be compared with one another 7b is shown, finally to approach the optimal installation position successively.

ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION

Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.

Zitierte PatentliteraturCited patent literature

  • DE 102007001738 A1 [0010] DE 102007001738 A1 [0010]
  • DE 10257963 A1 [0011] DE 10257963 A1 [0011]

Claims (14)

Verfahren zur Bestimmung einer Verbauposition einer Innenraumsensorik in einem Fahrzeug, mit mindestens einer Kamera, welche zur Bestimmung einer Kopfpose mindestens eines Insassen des Fahrzeugs einzusetzen ist, wobei die Verbauposition der Innenraumsensorik durch mindestens eine virtuelle, auf einem mathematischen Operator basierende Szene evaluiert wird, wobei der mathematische Operator in Abhängigkeit eines spezifischen Fahrzeugmodells, spezifischer Fahrzeugdaten, eines Kopfmodells, welches auf messtechnisch zu erfassenden Daten von verschiedenen Kopfposen des mindestens einen Insassen beruht, und von verschiedenen Koordinaten möglicher Verbaupositionen der Innenraumsensorik gebildet wird.  Method for determining an installation position of an interior sensor system in a vehicle, having at least one camera to be used for determining a head pose of at least one occupant of the vehicle, wherein the installation position of the interior sensor system is evaluated by at least one virtual scene based on a mathematical operator, wherein the mathematical operator depending on a specific vehicle model, specific vehicle data, a head model, which is based on metrologically to be recorded data from different head positions of the at least one occupant, and formed by different coordinates of possible installation positions of the passenger compartment sensor. Verfahren nach Anspruch 1, wobei die Evaluation der Verbauposition der Innenraumsensorik mindestens folgende Verfahrensschritte umfasst: a) Aufzeichnung realer Fahrten, b) Kopfposeschätzung und Erstellen eines Kopfmodells mittels mindestens eines Tiefensensors und eine Fusion von Fahrzeugdaten, welche bei der Aufzeichnung realer Fahrten erhoben wurden sowie von Daten des Kopfmodells und dem Fahrzeugmodell zu einer virtuellen Szene, c) Positionierung des Innenraumsensors in verschiedenen Verbaupositionen, d) Evaluierung verschiedener Verbaupositionen anhand gerenderter Szenen.  The method of claim 1, wherein the evaluation of the installation position of the interior sensor system comprises at least the following method steps: a) recording of real trips, b) head pose estimation and creation of a head model by means of at least one depth sensor and a fusion of vehicle data, which were collected during the recording of real journeys, as well as data of the head model and the vehicle model to a virtual scene, c) positioning of the interior sensor in different installation positions, d) Evaluation of various installation positions based on rendered scenes. Verfahren nach Anspruch 1 oder 2, wobei das spezifische Kopfmodell durch eine Verbindung aus 3D-Mesh- und Texturdaten gebildet wird.  The method of claim 1 or 2, wherein the specific header model is formed by a combination of 3D mesh and texture data. Verfahren nach einem der voranstehenden Ansprüche, wobei das spezifische Fahrzeugmodell durch eine Verbindung aus 3D-Mesh- und Texturdaten gebildet wird.  Method according to one of the preceding claims, wherein the specific vehicle model is formed by a combination of 3D mesh and texture data. Verfahren nach einem der voranstehenden Ansprüche, wobei der mathematische Operator verwendet wird, um ein Fahrermodell mit Kopfanimation, das Fahrzeugmodell mit Lenkradanimation sowie simulierte Umgebungsbedingungen zu erzeugen.  Method according to one of the preceding claims, wherein the mathematical operator is used to generate a driver model with head animation, the vehicle model with steering wheel animation and simulated environmental conditions. Verfahren nach einem der voranstehenden Ansprüche, wobei das Kopfmodell unter Verwendung eines 2D-Sensors und/oder eines Tiefensensors erzeugt wird.  Method according to one of the preceding claims, wherein the head model is generated using a 2D sensor and / or a depth sensor. Verfahren nach einem der voranstehenden Ansprüche, wobei die Kopfpose des mindestens einen Insassen des Fahrzeugs in Verbindung mit den spezifischen Fahrzeugdaten zur Bildung eines Modells, welches sowohl das spezifische Fahrzeug, als auch die Kopfpose und die Arme des mindestens einen Insassen des jeweiligen Fahrzeugs aufweist, verwendet wird.  The method of any one of the preceding claims, wherein the head pose of the at least one occupant of the vehicle in conjunction with the specific vehicle data uses to form a model having both the specific vehicle and the head pose and arms of the at least one occupant of the respective vehicle becomes. Verfahren nach einem der voranstehenden Ansprüche, wobei die Kopfpose relativ zu einem Fahrzeugkoordinatensystem des spezifischen Fahrzeugs bestimmt wird.  The method of any one of the preceding claims, wherein the head pose is determined relative to a vehicle coordinate system of the specific vehicle. Verfahren nach einem der voranstehenden Ansprüche, wobei verschiedene Messdaten von verschiedenen Kamerapositionen im Fahrzeug verglichen werden und die Position, welche die geringste Fehlerhäufigkeit bedingt, ausgewählt wird.  Method according to one of the preceding claims, wherein different measurement data from different camera positions in the vehicle are compared and the position which causes the lowest error frequency is selected. Verfahren nach Anspruch 9, wobei das Verfahren mit einem weiteren, anhand der Ergebnisse der vorangehenden Messung optimierten Satz von Messdaten wiederholt wird.  Method according to claim 9, wherein the method is repeated with a further set of measurement data optimized on the basis of the results of the preceding measurement. Verfahren nach einem der voranstehenden Ansprüche, wobei die Kopfposebestimmung für einen Vergleich von Kopfposeschätzungsalgorithmen zur Fahreraufmerksamkeitsbestimmung und/oder zur Fahrmanöverprädiktion genutzt wird.  Method according to one of the preceding claims, wherein the head position determination is used for a comparison of Kopfposeschätzungsalgorithmen for driver attention determination and / or driving maneuver prediction. Verfahren nach einem der voranstehenden Ansprüche, wobei die Kopfposebestimmung für einen Vergleich verschiedener Kameramodelle genutzt wird.  Method according to one of the preceding claims, wherein the head position determination is used for a comparison of different camera models. Verfahren nach einem der voranstehenden Ansprüche, wobei die Kopfposebestimmung für eine Ausrichtung eines Head-Up-Displays (HUD) genutzt wird.  Method according to one of the preceding claims, wherein the head position determination is used for alignment of a head-up display (HUD). System zur Ausführung einer Evaluation einer Verbauposition nach einem der voranstehenden Ansprüche, wobei das System mindestens folgende Komponenten umfasst: eine Vorrichtung zur Ausführung der notwendigen Rechenoperationen und eine Schnittstelle zur Erfassung von Daten der Innenraumsensorik, wobei Daten, welche von der Inneraumsenorik gesammelt werden, durch die Schnittstelle erfasst und der Vorrichtung zur Ausführung der notwendigen Rechenoperationen zur Verfügung gestellt werden, welche Vorrichtung unter Verwendung der durch die Schnittstelle erfassten Daten ein virtuelles Äquivalent der durch die Innenraumsensorik aufgezeichneten Szene errechnet.  System for carrying out an evaluation of a mounting position according to one of the preceding claims, the system comprising at least the following components: a device for executing the necessary arithmetic operations and an interface for acquiring data of the indoor sensor system, wherein data collected by the interior room sensory system is detected by the interface and made available to the device for performing the necessary arithmetic operations, which device using the The data acquired by the interface calculates a virtual equivalent of the scene recorded by the interior sensor system.
DE102013102528.5A 2013-03-13 2013-03-13 Method for determining an installation position of an interior sensor system in a vehicle Active DE102013102528B4 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102013102528.5A DE102013102528B4 (en) 2013-03-13 2013-03-13 Method for determining an installation position of an interior sensor system in a vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102013102528.5A DE102013102528B4 (en) 2013-03-13 2013-03-13 Method for determining an installation position of an interior sensor system in a vehicle

Publications (2)

Publication Number Publication Date
DE102013102528A1 true DE102013102528A1 (en) 2014-09-18
DE102013102528B4 DE102013102528B4 (en) 2022-04-21

Family

ID=51418555

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102013102528.5A Active DE102013102528B4 (en) 2013-03-13 2013-03-13 Method for determining an installation position of an interior sensor system in a vehicle

Country Status (1)

Country Link
DE (1) DE102013102528B4 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111461980A (en) * 2020-03-30 2020-07-28 北京百度网讯科技有限公司 Performance estimation method and device of point cloud splicing algorithm

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10257963A1 (en) 2002-12-12 2004-07-08 Daimlerchrysler Ag Method and device for determining the 3D position of passenger car occupants
DE102007001738A1 (en) 2007-01-11 2008-07-17 Audi Ag Method for view detection of test person, involves identifying test person when test person directs view towards monitoring area, where spatially limited monitoring area is specified, and camera is arranged in monitoring area

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10321506B4 (en) 2003-05-13 2006-10-05 Siemens Ag Method for determining the current head position of vehicle occupants
DE10360176A1 (en) 2003-12-20 2005-07-21 Volkswagen Ag Optical monitoring system observing vehicle drivers eyes e.g. for signs of tiredness, is positioned to avoid obstruction to beam path during driving
DE102010044449B4 (en) 2009-12-31 2014-05-08 Volkswagen Ag Recognizing the degree of driving ability of the driver of a motor vehicle

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10257963A1 (en) 2002-12-12 2004-07-08 Daimlerchrysler Ag Method and device for determining the 3D position of passenger car occupants
DE102007001738A1 (en) 2007-01-11 2008-07-17 Audi Ag Method for view detection of test person, involves identifying test person when test person directs view towards monitoring area, where spatially limited monitoring area is specified, and camera is arranged in monitoring area

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111461980A (en) * 2020-03-30 2020-07-28 北京百度网讯科技有限公司 Performance estimation method and device of point cloud splicing algorithm
CN111461980B (en) * 2020-03-30 2023-08-29 北京百度网讯科技有限公司 Performance estimation method and device of point cloud stitching algorithm

Also Published As

Publication number Publication date
DE102013102528B4 (en) 2022-04-21

Similar Documents

Publication Publication Date Title
EP3438901A1 (en) Test drive scenario database system for realistic virtual test drive scenarios
EP2043045B1 (en) Method for tracking an object
DE102017107396B4 (en) Test procedure and test device for driver assistance systems
DE102018128289B4 (en) METHOD AND DEVICE FOR AUTONOMOUS SYSTEM PERFORMANCE AND CLASSIFICATION
DE102016211182A1 (en) A method, apparatus and system for performing automated driving of a vehicle along a trajectory provided from a map
DE102008013366B4 (en) Method for providing information for driver assistance systems
DE102011087901A1 (en) Method for displaying a vehicle environment
DE102016225915A1 (en) System and method for detecting the surroundings of a vehicle
EP2546778A2 (en) Method for evaluating an object detection device of a motor vehicle
EP2381207A1 (en) 3D targeting and target designation from IR data
DE102021112616A1 (en) SELF-MONITORED ESTIMATION OF A WATCHED VEHICLE FLOAT
DE102018222862A1 (en) Method and system for locating an acoustic source relative to a vehicle
DE102020200169B3 (en) Method for merging several data sets for the generation of a current lane model of a roadway and device for data processing
DE102013215408A1 (en) A vehicle display system and method for displaying a vehicle environment
DE102020214596A1 (en) Method for generating training data for a recognition model for recognizing objects in sensor data of an environment sensor system of a vehicle, method for generating such a recognition model and method for controlling an actuator system of a vehicle
DE102017201796A1 (en) Control device for determining a self-motion of a motor vehicle and motor vehicle and method for providing the control device
DE102013102528B4 (en) Method for determining an installation position of an interior sensor system in a vehicle
WO2023083620A1 (en) Testing the environment sensor system and/or environment perception of a vehicle
DE102021129864A1 (en) Method and system for annotating sensor data
DE102020200876B4 (en) Method for processing sensor data from a sensor system in a vehicle
DE102006048869A1 (en) Projection arrangement e.g. trolley, for e.g. car, has laser projection system representing design on surface of motor vehicle or component of motor vehicle dependent on image of motor vehicle or component
EP4222039A1 (en) Optical railway detection
DE102020126954A1 (en) System and method for detecting a spatial orientation of a portable device
DE102016216268A1 (en) GENERATION OF SENSOR DATA IN A VIRTUAL ROAD ENVIRONMENT
EP3571091B1 (en) Method and device for displaying the surroundings of a vehicle

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R016 Response to examination communication
R018 Grant decision by examination section/examining division
R020 Patent grant now final