WO2016124473A1 - Verfahren zum auswählen eines bedienelements eines kraftfahrzeugs und bediensystem für ein kraftfahrzeug - Google Patents

Verfahren zum auswählen eines bedienelements eines kraftfahrzeugs und bediensystem für ein kraftfahrzeug Download PDF

Info

Publication number
WO2016124473A1
WO2016124473A1 PCT/EP2016/051779 EP2016051779W WO2016124473A1 WO 2016124473 A1 WO2016124473 A1 WO 2016124473A1 EP 2016051779 W EP2016051779 W EP 2016051779W WO 2016124473 A1 WO2016124473 A1 WO 2016124473A1
Authority
WO
WIPO (PCT)
Prior art keywords
eye
motor vehicle
user
gesture
finger
Prior art date
Application number
PCT/EP2016/051779
Other languages
English (en)
French (fr)
Inventor
Dorin Aiteanu
Original Assignee
Bayerische Motoren Werke Aktiengesellschaft
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bayerische Motoren Werke Aktiengesellschaft filed Critical Bayerische Motoren Werke Aktiengesellschaft
Publication of WO2016124473A1 publication Critical patent/WO2016124473A1/de

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements

Definitions

  • the present invention relates to a method for selecting an operating element of a motor vehicle by a user of the motor vehicle, in particular a driver of the motor vehicle, as well as an operating system for a motor vehicle.
  • a gesture detection device detects a hand or a finger of a driver of the motor vehicle.
  • a gaze detection device detects an eye of the driver. Through the eye and the hand a direction axis is determined.
  • An evaluation unit determines an object located outside the vehicle in the path of the directional axis, for example a place sign or a point of interest. Information about the object is displayed by means of a display device.
  • a method for providing an input for an operating element of a motor vehicle is known.
  • a control element is preselected by a glance in a first step.
  • the viewing direction is determined.
  • the user actuates the control element preselected by his look by means of an input gesture, which can be, for example, a finger gesture.
  • the object is to provide a method and an operating system, each of which is a simple and reliable
  • the method according to the invention is suitable for every user of a motor vehicle who wishes to select an operating element.
  • the invention is thus suitable for a driver of the motor vehicle.
  • the invention is also suitable for a passenger or for in-seat occupants who want to select, for example, controls an in-car infotainment system.
  • the invention is explained below with reference to the and / or with reference to the driver, this is not to be understood as limiting, but is solely for the easier understanding of the invention and its embodiments.
  • the user of the motor vehicle is a reliable
  • Non-contact operation of the controls allows.
  • an eye position of an eye of the user is detected.
  • An eye position is a spatial location of the position of the eye. As a rule, this location is related to a three-dimensional Cartesian coordinate system. This coordinate system may be referred to as a relative coordinate system with respect to
  • the position of the pupil of the eye is preferably detected.
  • the implementation of the invention a
  • Detecting means used which can not determine the eye position so accurately, it is advantageous to choose as the eye position, the spatial center of that object which has been recognized by the detection device (for example, of an object recognition software, which is performed by the detection device) as an eye.
  • a finger position of a user's finger forming a pointing gesture is detected.
  • a finger position is a spatial location of the position of the finger in the same coordinate system in which the eye position has been detected. It is particularly advantageous if the position of the fingertip of the finger gesture forming finger is determined.
  • Essential in the execution of the second step is that the user forms a pointing gesture with one of his hands. On the other hand, it is not essential to the invention what kind of gesture it is and which spatial direction the gesture has.
  • the user points with a finger at the control element to be operated or whether he only raises a finger in the air (for example, vertically).
  • the gesture recognition ie the recognition of whether there is a finger gesture, which gesture it is and in which spatial direction the gesture is oriented, is known per se in the prior art.
  • Control element will be selected or a wrongly selected control element will not be operated by the user.
  • Finger positions have been detected.
  • multiple controls could be selected as a result of the parallel methods.
  • the user will be the possibly perceive as an undesirable result and adjust his pointers.
  • the spatial axis is the axis defined by the eye position and finger position. The determination of the spatial axis is in turn made with reference to the same coordinate system in which the eye position and the finger position have been detected.
  • the spatial axis may preferably extend only in the direction determined by eye and finger direction. In other words, the spatial axis can start at the eye position and extend beyond the finger position. This has the advantage that no lying behind the user controls can be selected, which is not usually wanted.
  • an intersection of the spatial axis with an interior surface of the motor vehicle having at least one operating element is determined.
  • An interior surface for example, a
  • Instrument panel of the motor vehicle on or in which several
  • Controls such as switches, push buttons and knobs can be arranged.
  • An Innraumamide could also be a touch-sensitive display area
  • a touchscreen may itself be a control or one or more controls (e.g., on the touch screen)
  • the interior surface usually has a fixed position in the motor vehicle, which is known with respect to the previously described coordinate system. It is also conceivable that the
  • Interior surface has a variable position. This can be the case, for example, if the interior surface is an extendable touchscreen. In this case, in the execution of the method, the respective current position of the interior surface to be considered. In other words, in this step, the point on the interior surface which the user has selected by means of his eye and his finger is determined. In a further method step according to the invention, an operating element identifiable by the point of intersection is determined. Located on the
  • Control element are determined when the intersection is located not more than one centimeter from the edge of the control element and at the same time more than two inches from the edge of another control element.
  • the intersection may also be such that multiple controls
  • intersection may be in the middle between two controls.
  • the method may be advantageous
  • Embodiment two alternative options include.
  • the method can be continued with all identifiable operating elements. So then actually several methods are executed simultaneously in parallel, as has already been explained above for the case of multiple pointers.
  • the process can be aborted or interrupted until (due to a
  • the operating element is selected.
  • the selection of a control element is to be distinguished from the operation of the
  • each operating element can be selected and can additionally be actuated. If an operating element is linked to a specific function, this function is not already executed when the operating element is selected, but only when the operating element is actuated becomes.
  • the successful selection of a control element can be communicated to the user. This can be done in particular by highlighting the operating element, as will be described below with reference to a first advantageous embodiment of the invention. It can advantageously be provided that only one (or none) operating element can be selected at a time. It can also be provided that more than one operating element can be selected at a time, but none of these operating elements can be actuated.
  • control is broad. For example, this can be
  • auxiliary mode in which information and assistance are displayed on a display device for a user-selected part of the motor vehicle
  • a glove compartment, a ventilation outlet, a tachometer or a rotary push-button can be selected, whereupon the respective information is displayed on the display device
  • the glove compartment, the ventilation outlet, the speedometer and the rotary push-button Examples of controls.
  • Controls are not necessarily physical parts (“hardware”) of the
  • buttons can be control elements.
  • Controls can also be referred to as virtual controls.
  • Highlighting control element This can be done in different ways, the type of emphasis may also depend on the type of control. Is the control a physical control such as a switch, a
  • Push button, a knob or a slider and the control element has a lighting the highlighting may include an activation of the lighting.
  • An illumination can be formed by a light source located in the operating element, in the activation of which, for example, the entire front of the
  • Control element or certain parts of the front can also be formed by backlighting of the control element, upon activation of which, for example, Light can be seen at the edges of the control element.
  • Virtual controls can be controls that can be displayed on a display surface.
  • a display area may be, for example, a touchscreen.
  • Such a display area can also be a so-called freely programmable
  • a virtual control can be through the
  • the control element can be highlighted by being enlarged in comparison with other controls and / or compared to its unmarked state.
  • a virtual control can be highlighted by changing its appearance. For this purpose it can be displayed in different colors or colors. It is also possible to change a label and / or a symbol displayed on the operating element.
  • controls may be displayed on the display surface that are highlighted when selected in accordance with the present invention. It can also happen that the intersection lies on the display surface, but no control element is identifiable. This can be the case, for example, if there is no display on the display surface
  • the invention may preferably provide that the intersection point itself is highlighted.
  • a graphic marking symbol for example in the form of a colored dot, can be displayed at the location of the point of intersection on the display surface, which has the advantage that the user receives feedback about which location he has selected using his pointing gesture If the user is actually the intention had to select a control, so he receives an indication of how he must correct his pointer to move the intersection in the direction of the desired control element.
  • Accommodation of the eyes determines a viewing plane determined by the accommodation of the eyes. It is envisaged that the step of selecting the operating element is carried out under the condition that the operating element is close to or on the viewing plane.
  • Accommodation is the focus set by the eye on a certain depth level and the formation of a certain convergence angle of the sight axes of both eyes.
  • the user-focused depth plane is called the view plane.
  • the gaze plane is the plane in the space that the user has his gaze directed towards (and therefore he sees sharply).
  • the accommodation of the eyes may be accomplished by a visual image (e.g., by a camera system) of the head and pupils of both eyes. For this purpose, taking into account the spatial position of the head, the spatial distance of the pupils from each other is determined. To increase the reliability of the method, it can be provided that the
  • Pupillenabstand a user for different levels of view once recorded and stored.
  • Pupil distance then compared with the recorded values to determine the current viewing plane.
  • the method is set up to recognize whether the
  • Viewing plane is the plane of the dashboard of the motor vehicle or not. This is advantageous because most of the controls of the motor vehicle are arranged in this plane. It is recognized that the inventively identified
  • the method is continued as described above. So then the control is selected and possibly highlighted. This is based on the assumption that the user, if he wants to select a specific control, this also looks, so his eyes focused on the level of the control. If, on the other hand, it is recognized that the operating element identified according to the invention is not close to the viewing plane, then it can be assumed that the user does not select the operating element intended. The pointing gesture made by the user could in this case have been made unwanted and / or unconscious. Thus, by detecting the accommodation of the eye and determining the viewing plane, it is possible to prevent a control from being selected even though it was not intended by the user.
  • a dominant eye of the user is first determined. Subsequently, an eye position of the dominant eye is detected and the process then continues as described above.
  • eye dominance refers to the fact that the retinal image of one eye of a living being is preferred over the retinal image of the other eye. The eye whose image is preferred is the dominant eye. In particular, the image of the dominant eye is preferred when the
  • the effect of eye dominance may be expressed as follows. If the user has opened both eyes and he points with one finger to a control element, due to the parallax of the binocular vision actually two intersections are formed, namely on the one hand, the intersection of the determined by the left eye position and the finger position spatial axis with the interior surface or view level and on the other hand the intersection of the spatial axis defined by the right eye position and the finger position with the
  • Fingerposition fixed spatial axis with the interior surface or view level next to the control element is located.
  • the user's brain triggers the conflict resulting from the parallax of binocular vision by using the image of the dominant eye and rejecting the image of the non-dominant eye.
  • the inventors have recognized that this circumstance can be exploited by detecting the eye position of the dominant eye.
  • the determination of the dominant eye can be automated.
  • a known fact may be used, namely that when looking at a certain point, the dominant eye first (i.e., ahead of the non-dominant eye) attains the fixation.
  • fixation is meant the stabilization of the visual axis (i.e., the line of vision) to the particular point.
  • Gaze tracker Alternatively, the determination of the dominant eye can advantageously be done by using for each user of the
  • Motor vehicle information which eye is the dominant eye is detected and permanently stored.
  • the determination of the dominant eye can then take place by first determining the person of the user. This is done by means known per se in the prior art method for user identification. If it is determined that a user is unknown or that the user yet
  • Information about his dominant eye is stored, the user can first be asked to enter the information which eye is his dominant eye. This information can be entered directly by means of an input device of the motor vehicle, if known to the user. The user may also be offered an easy-to-perform experiment to determine which eye is the dominant eye. Since the information about the dominant eye has to be collected only once for each user, this is not practical
  • Another embodiment of the invention utilizes this fact by first determining an open and a closed eye of the user. This step involves determining if any of the eyes are closed at all. If this is the case, it is determined which eye is closed and which eye is open. Subsequently, an eye position of the opened eye is detected and the method then continues as described above.
  • Another embodiment of the invention is particularly suitable for users in whom no eye is dominant.
  • the eye positions of both eyes of the user are detected.
  • the process can be continued in two alternative ways, which lead to the same or a similar result.
  • two spatial axes formed by the eye positions and by the finger position can be determined.
  • two intersections of the spatial axes can be determined with an interior surface of the motor vehicle having at least one operating element.
  • a center point of the intersection points can be determined and an operating element identifiable by the center point can be determined.
  • the center of the eye positions can be determined.
  • a space axis formed by the center of the eye positions and by the finger position can be determined.
  • a centering is thus carried out in both alternative types: Either the center of the intersections is formed or the center of the eye positions is formed.
  • the method can be further configured by after the step of selecting the control element further steps take place with which the control element can be actuated.
  • a two-stage method is now to be provided in which first (as described above) an operating element is selected and then the operating element is actuated. The user can therefore first select the desired control element. This is preferably emphasized as described above. If the control element desired by the user has been selected, then it can also be actuated in the second step. The user must therefore not fear in the application of the invention to make an undesirable operation, since he can only operate the control when the desired control has been previously selected.
  • an operating gesture is detected.
  • the operating gesture may include a finger gesture and / or an eye gesture and / or a voice gesture.
  • the user actuates the operating element with a jogging movement or click movement of the finger, that is to say with a rapid movement of the finger downwards and possibly back up again.
  • the user makes an eye gesture, e.g. a wink with both eyes, performs.
  • the user makes a voice gesture, e.g. pronounces a command word ("press", "yes” or the like).
  • the operating element is actuated in response to a recognized operating gesture. It can be provided that the user can decide for himself which operating gesture for actuating the
  • Intersection point is so that several controls are identified. In this case can be provided with further advantage that no control element can be operated. The user then has to change his pointing gesture so that only one control element is identified. This can then be selected subsequently as explained above.
  • the correction gesture may include a finger gesture and / or an eye gesture and / or a voice gesture. Particularly preferably, the
  • Correction gesture consists of a double wink and the voice command "Back." A response is made in response to a recognized correction gesture
  • Control be a light switch for interior lighting of the motor vehicle.
  • the user has selected and actuated the light switch.
  • the interior lighting is then active.
  • the operation of the light switch is canceled. In this example, this withdrawal is equivalent to a second operation.
  • the interior lighting goes out.
  • the invention is particularly suitable for use in motor vehicles. It is to be understood, however, that the invention expressly is not limited to this use
  • the invention can also be used outside of motor vehicles.
  • the invention can be used to control consumer electronics devices.
  • the invention could be used to operate controls of a television (power button, volume control, etc.) and / or virtual television shown on a television Controls (buttons, selection menus, etc.) to select and if necessary to operate.
  • An inventive operating system for a motor vehicle comprises a first
  • Detection device which is set up to detect an eye position of a user of the motor vehicle, in particular of a driver of the motor vehicle.
  • This may preferably be an interior camera of the motor vehicle, particularly preferably a stereo camera. This is particularly advantageous because modern motor vehicles often have an interior camera anyway, which can be used simultaneously for different purposes.
  • a second detection device is provided for detecting a finger position of a finger of the user forming a pointing gesture. With particular advantage, the same interior camera can be used for this, if their detection range
  • the operating system further includes a in or on one
  • the data processing device can be any type of data processing device.
  • the data processing device can be any type of data processing device.
  • Be control unit of the motor vehicle which may be connected by means of a data bus system with the interior camera.
  • the data processing device is for determining a spatial axis formed by the eye position and by the finger position, an intersection of the spatial axis with the interior surface of the space
  • the data processing device performs essential steps of the method according to the invention.
  • the data processing device may have a data memory.
  • user information can be stored permanently, e.g. for different users each pupil size with different accommodation, eye dominance, operating gestures and
  • Show it 1 shows a user situation occurring in the course of the procedure at a first time from a first perspective
  • FIG. 4 shows a user situation occurring in the course of the method at a second time from the second perspective
  • FIG. 5 shows a flow chart of an embodiment of the method according to the invention.
  • FIG. 5 The sequence of an exemplary embodiment of the method according to the invention will be illustrated below with reference to the flowchart shown in FIG. 5, wherein situations occurring at certain times of the method sequence in the Figures 1 to 4 are shown. 5, reference is made to FIG. 1, in which a user situation occurring in the course of the process is shown at a first time from a first perspective.
  • a driver 1 of a motor vehicle Shown in FIG. 1 is a driver 1 of a motor vehicle. Also shown is a camera 2 detecting the interior of the motor vehicle. Not shown is a data processing device connected downstream of the camera 2 for processing the images captured by the camera 2.
  • a first step S01 an open and a closed eye of the user 1 are determined. It is thus determined if any of the eyes are opened and the other is closed and, if so, which of the eyes is open. If only one of the eyes is open, the method continues with step S10. If, on the other hand, both eyes are open, step S02 follows, in which a dominant eye is determined. Also in this step S02, a case distinction is made. If a dominant eye can be determined, the process proceeds to step S10. If no dominant eye can be determined, then some of the subsequent steps beginning with step S10 will continue in parallel for both eyes. This is shown in Fig. 5 by a second, marked by dashed arrows process sequence (with the
  • step S10 the eye position 3 of the open eye of the driver 1 is detected.
  • the driver 1 points with the index finger of his right hand to a control element 7.
  • step S20 the finger position 5 of the finger 4 forming the finger is detected. From the two positions, ie from the eye position 3 and the finger position 5, a spatial axis 6 is determined in step S30. This 6 intersects an interior surface 10 of the motor vehicle, in the plane thereof
  • Controls are located at the intersection 8. This intersection of
  • Room axis 6 with the interior surface 10 is determined in step S40. in the
  • step S50 an identifiable by the intersection 8 control element 7 is determined.
  • the point of intersection 8 lies on the operating element 7, so that this 7 can be easily identified.
  • the illustrated by Fig. 5 embodiment of the invention comprises a subsequent step S51, in which by means of the camera 2 an accommodation of the eyes is detected. For this purpose, the pupil distance is determined as described above, which is why it is necessary that the user has opened both eyes.
  • step S52 the viewing plane determined by the accommodation of the eyes is determined.
  • step S53 it is checked whether the operating element 7 identified in step S50 is near or on the view plane. Only if this is the case will the procedure continue. Otherwise, it can be assumed that the driver 1 did not look at the operating element 7 and therefore did not want to select it.
  • step S60 the operation item 7 determined in step S50 is selected.
  • the operating element 7 is highlighted in step S61. This can be done by the control element 7, which in the present case is an illuminated push-button 7, is illuminated. This is illustrated in FIG. 1 by a hatching of the operating element 7. It should be noted with reference to FIG. 5 that steps S60 and S61 should be performed without appreciable time interval from each other. In other words, the operating element 7 is highlighted (step S61) if and when it has been selected (step S60).
  • FIG. 2 shows the same user situation at the first time as in FIG. 1, but from a second perspective, namely that of the driver 1. This sees through his open eye, the interior surface 10 with the arranged thereon
  • FIG. 3 shows an alternative user situation occurring in the course of the method at the first time from the second perspective.
  • the user has both eyes open.
  • the driver 1 sees his right hand forming the pointing gesture 4 twice, namely once with the left eye and once with the right eye.
  • the driver 1 has no dominant eye or that this can not be determined or determined.
  • step S01 That the driver 1 has opened both eyes is determined in step S01, whereupon the process proceeds to step S02. In step S02, it is determined that the driver 1 has no dominant eye or that it can not be determined.
  • step S10 Some process steps are now carried out in parallel twice, namely once each for the left and the right eye. This is illustrated in FIG. 5 by the method sequence S10 '- S40' shown in dashed lines.
  • the steps S10 to S40 are performed as described above for the right eye.
  • the parallel steps S10 'to S40' are performed for the left eye.
  • the eye position of the left eye of the driver 1 is detected in step S10 '.
  • step S20 the
  • Finger position 5 of the pointer 4 forming finger detected is detected. Of course, this step does not have to be done twice. From the eye position 3 of the right eye and the finger position 5, a first spatial axis 6 is determined in step S30. From the eye position of the left eye and the finger position 5, a second spatial axis is determined in step S30 '. The first space axis 6 intersects the interior surface 10 at a first intersection 8 'determined in step S40. The second
  • the spatial axis intersects the interior surface 10 at a second intersection point 8 ", which is determined in step S40 'In the following method step S50, a center point 11 is first determined from the two intersection points 8', 8". Then in the same method step S50 an identifiable by the center point 1 1 control element 7 is determined.
  • the driver 1 would, after the desired control element 7 was selected, press this 7 now. For this purpose, he moves the index finger of his right hand briefly down and back up, which is shown in Fig. 4 by two opposite arrows and a dashed line of the index finger in its lower position.
  • the thus executed finger gesture 9 is detected by the camera 2 and recognized by the (not shown) data processing device as a control gesture (Step S70). In response to the detected operating gesture 9, the operating element is actuated in step S80.
  • the method may further provide that a correction gesture is detected in a subsequent step S90.
  • a correction gesture could include a duplicate execution of the finger gesture 9 (fast two times finger-down and again finger-up).
  • a correction gesture could also include the inverted finger gesture 9 (up and then down movement of the finger).
  • the operation of the operating element 7 is canceled in step S100.

Abstract

Vorgeschlagen wird ein Verfahren zum Auswählen eines Bedienelements eines Kraftfahrzeugs durch einen Nutzer des Kraftfahrzeugs, insbesondere einen Fahrer des Kraftfahrzeugs, sowie ein Bediensystem für ein Kraftfahrzeug. Die Erfindung ermöglicht eine einfache und zuverlässige Bedienung von Bedienelementen des Kraftfahrzeugs und erfordert zugleich einen gegenüber dem Stand der Technik verringerten technischen Aufwand. Erfindungsgemäß wird eine Augenposition eines Auges des Nutzers und eine Fingerposition eines eine Zeigegeste bildenden Fingers des Nutzers erfasst. Es wird eine durch die Augenposition und durch die Fingerposition gebildete Raumachse bestimmt. Ein durch einen Schnittpunkt der Raumachse mit einer Innenraumfläche des Kraftfahrzeugs identifizierbares Bedienelement wird ausgewählt.

Description

Beschreibung
Verfahren zum Auswählen eines Bedienelements eines Kraftfahrzeugs und
Bediensystem für ein Kraftfahrzeug
Die vorliegende Erfindung betrifft ein Verfahren zum Auswählen eines Bedienelements eines Kraftfahrzeugs durch einen Nutzer des Kraftfahrzeugs, insbesondere einen Fahrer des Kraftfahrzeugs, sowie ein Bediensystem für ein Kraftfahrzeug.
DE 10 2012 219 280 A1 beschreibt ein Fahrerassistenzsystem für ein Kraftfahrzeug. Eine Gestenerfassungseinrichtung erfasst eine Hand oder einen Finger eines Fahrers des Kraftfahrzeugs. Eine Blickerfassungseinrichtung erfasst ein Auge des Fahrers. Durch das Auge und die Hand ist eine Richtungsachse festgelegt. Eine Auswerteeinheit bestimmt ein im Weg der Richtungsachse liegendes außerhalb des Fahrzeugs befindliches Objekt, beispielsweise ein Ortsschild oder eine Sehenswürdigkeit. Zu dem Objekt werden Informationen mittels einer Anzeigeeinrichtung angezeigt.
Aus DE 10 2012 215 407 A1 ist ein Verfahren zum Bereitstellen einer Eingabe für ein Bedienelement eines Kraftfahrzeugs bekannt. Bei dem zweistufigen Verfahren wird in einem ersten Schritt ein Bedienelement durch einen Blick vorausgewählt. Hierzu wird die Blickrichtung bestimmt. In einem zweiten Schritt ist vorgesehen, dass der Nutzer das durch seinen Blick vorausgewählte Bedienelement mittels einer Eingabegeste, die zum Beispiel eine Fingergeste sein kann, betätigt.
Die im Stand der Technik bekannte Auswahl von Bedienelementen mittels einer Blickrichtungserkennung („gaze tracker") ist technisch aufwändig, da die Ausrichtung der Pupille möglichst genau bestimmt werden muss. Hierzu sind sehr genaue
Erfassungseinrichtungen nötig. Weiterhin wirkt sich ein Winkelfehler bei der
Blickrichtungserkennung umso schwerer aus, je weiter das Bedienelement vom Auge entfernt ist. Ausgehend vom Stand der Technik stellt sich die Aufgabe, ein Verfahren und ein Bediensystem bereitzustellen, welche jeweils eine einfache und zuverlässige
Bedienung von Bedienelementen des Kraftfahrzeugs ermöglichen und zugleich einen gegenüber dem Stand der Technik verringerten technischen Aufwand erfordern.
Die Aufgabe wird gelöst bei einem Verfahren mit den Merkmalen des Patentanspruchs 1 und einem Bediensystem nach Anspruch 9. Vorteilhafte Weiterbildungen der
Erfindung sind Gegenstände der abhängigen Ansprüche.
Das erfindungsgemäße Verfahren ist für jeden Nutzer eines Kraftfahrzeugs geeignet, der ein Bedienelement auswählen möchte. Insbesondere ist die Erfindung somit für einen Fahrer des Kraftfahrzeugs geeignet. Die Erfindung ist jedoch auch für einen Beifahrer oder für auf einem Rücksitz befindliche Insassen geeignet, die beispielsweise Bedienelemente einer fahrzeugeigenen Infotainment-Anlage auswählen möchten. Soweit nachfolgend die Erfindung mit Bezug zum dem und / oder unter Nennung des Fahrers erläutert wird, ist dies nicht einschränkend zu verstehen, sondern dient ausschließlich dem leichteren Verständnis der Erfindung und ihrer Ausführungsformen.
Erfindungsgemäß wird dem Nutzer des Kraftfahrzeugs eine zuverlässige
berührungslose Bedienung der Bedienelemente ermöglicht.
Bei dem erfindungsgemäßen Verfahren ist vorgesehen, dass in einem ersten Schritt eine Augenposition eines Auges des Nutzers erfasst wird. Eine Augenposition ist eine räumliche Ortsangabe der Position des Auges. In der Regel wird diese Ortsangabe mit Bezug zu einem dreidimensionalen kartesischen Koordinatensystem gemacht. Dieses Koordinatensystem kann als relatives Koordinatensystem mit Bezug zu dem
Kraftfahrzeug gewählt werden. Als Augenposition wird bevorzugt die Position der Pupille des Auges erfasst. Wird zur Umsetzung der Erfindung eine
Erfassungseinrichtung verwendet, die die Augenposition nicht derart genau bestimmen kann, so ist es vorteilhaft, als Augenposition den räumlichen Mittelpunkt desjenigen Objekts zu wählen, welches von der Erfassungseinrichtung (beispielsweise von einer Objekterkennungssoftware, welche durch die Erfassungseinrichtung ausgeführt wird) als Auge erkannt worden ist. In einem zweiten Schritt wird eine Fingerposition eines eine Zeigegeste bildenden Fingers des Nutzers erfasst. Eine Fingerposition ist eine räumliche Ortsangabe der Position des Fingers in demselben Koordinatensystem, in dem auch die Augenposition erfasst worden ist. Besonders vorteilhaft ist es, wenn die Position der Fingerspitze des die Fingergeste bildenden Fingers bestimmt wird. Wesentlich bei der Ausführung des zweiten Schrittes ist es, dass der Nutzer mit einer seiner Hände eine Zeigegeste formt. Nicht erfindungswesentlich ist hingegen, um welche Art von Geste es sich handelt und welche räumliche Richtung die Geste hat. Es ist daher für die Ausführung der Erfindung unerheblich, ob der Nutzer mit einem Finger auf das zu bedienende Bedienelement zeigt oder ob er nur einen Finger in die Luft erhebt (beispielsweise senkrecht). Die Gestenerkennung, also die Erkennung, ob eine Fingergeste vorliegt, um welche Geste es sich handelt sowie in welcher räumlichen Richtung die Geste orientiert ist, ist an sich im Stand der Technik bekannt.
Wenn das Ergebnis der Gestenerkennung Zweifel daran lässt, ob überhaupt eine Fingergeste vorliegt, so ist die Annahme vorteilhaft, dass eine Fingergeste vorliegt. Hierdurch wird vermieden, dass eine tatsächliche Fingergeste nicht als solche erkannt wird („false negative"), was den Nutzer verärgern kann. Hingegen hat eine
fälschlicherweise erkannte Fingergeste („false positive") in der Regel keine nachteiligen Konsequenzen, da in den nachfolgenden Verfahrensschritten entweder kein
Bedienelement ausgewählt werden wird oder ein fälschlicherweise ausgewähltes Bedienelement vom Nutzer nicht betätigt werden wird.
Es ist denkbar, dass im zweiten Schritt mehrere Fingerpositionen erfasst werden (dass also die jeweilige Fingerposition von zumindest zwei Fingern erfasst wird). Dies kann beispielsweise der Fall sein, wenn der Nutzer mit dem Zeige- und Mittelfinger einer Hand ein„V" formt oder die Zeigefinger beider Hände erhebt. In diesem Fall kann eine vorteilhafte Weiterbildung des Verfahrens vorsehen, dass das Verfahren abgebrochen oder solange unterbrochen wird, bis eine einzige eindeutige Zeigegeste erkannt wird. Alternativ kann das Verfahren mit allen erkannten Fingerpositionen parallel fortgesetzt werden. Es werden dann also gleichzeitig so viele Verfahren ausgeführt, wie
Fingerpositionen erfasst worden sind. In diesem Fall könnten als Ergebnis der parallelen Verfahren mehrere Bedienelemente ausgewählt werden. Der Nutzer wird die gegebenenfalls als unerwünschtes Ergebnis wahrnehmen und seine Zeigegesten anpassen.
In einem weiteren erfindungsgemäßen Verfahrensschritt wird eine durch die
Augenposition und durch die Fingerposition gebildete Raumachse bestimmt. Bei der Raumachse handelt es sich um diejenige Achse, welche durch die Augenposition und die Fingerposition festgelegt ist. Die Bestimmung der Raumachse erfolgt dabei wiederum mit Bezug zu demselben Koordinatensystem, in dem auch die Augenposition und die Fingerposition erfasst worden sind. Die Raumachse kann sich vorzugsweise nur in die durch Auge und Finger festgelegte Richtung erstrecken. Mit anderen Worten kann die Raumachse an der Augenposition ihren Anfang haben und sich von dort über die Fingerposition hinaus erstrecken. Dies hat den Vorteil, dass keine hinter dem Nutzer liegenden Bedienelemente ausgewählt werden können, was in der Regel nicht gewollt ist.
In einem weiteren erfindungsgemäßen Verfahrensschritt wird ein Schnittpunkt der Raumachse mit einer wenigstens ein Bedienelement aufweisenden Innenraumfläche des Kraftfahrzeugs bestimmt. Eine Innenraumfläche kann beispielsweise eine
Instrumententafel des Kraftfahrzeugs sein, auf oder in welcher mehrere
Bedienelemente wie Schalter, Druckknöpfe und Drehknöpfe angeordnet sein können. Eine Innraumfläche könnte auch eine berührungsempfindliche Anzeigefläche
(„Touchscreen") sein. Ein Touchscreen kann selber ein Bedienelement darstellen oder ein oder mehrere Bedienelemente (z.B. auf dem Touchscreen dargestellte
Schaltflächen und Eingabeflächen) umfassen. Die Innenraumfläche hat in der Regel eine unveränderliche Position im Kraftfahrzeug, welche mit Bezug zu dem vorab beschriebenen Koordinatensystem bekannt ist. Es ist auch denkbar, dass die
Innenraumfläche eine veränderliche Position hat. Dies kann z.B. dann der Fall sein, wenn es sich bei der Innenraumfläche um einen ausfahrbaren Touchscreen handelt. In diesem Fall ist bei der Ausführung des Verfahrens die jeweils gegenwärtige Position der Innenraumfläche zu berücksichtigen. Mit anderen Worten wird bei diesem Schritt also derjenige Punkt auf der Innenraumfläche bestimmt, welchen der Nutzer mittels seines Auges und seines Fingers ausgewählt hat. In einem weiteren erfindungsgemäßen Verfahrensschritt wird ein durch den Schnittpunkt identifizierbares Bedienelement bestimmt. Befindet sich an dem
Schnittpunkt ein Bedienelement, so wird dieses bestimmt. In diesem Fall hat die
Auswertung der Augenposition sowie der Zeigegeste des Nutzers ein eindeutiges Ergebnis ergeben. Es ist aber auch möglich, dass sich an dem Schnittpunkt kein Bedienelement befindet. Ist in diesem Fall dennoch ein Bedienelement identifizierbar, so wird dieses bestimmt. Dies kann beispielsweise dann der Fall sein, wenn sich der Schnittpunkt in unmittelbarer Nähe eines Bedienelements befindet und zugleich die Entfernung von dem Schnittpunkt zu einem nächstgelegenen weiteren Bedienelement wesentlich größer ist. Der Begriff der unmittelbaren Nähe kann im Rahmen
fachmännischen Handelns ausgestaltet werden. Beispielsweise könnte ein
Bedienelement dann bestimmt werden, wenn der Schnittpunkt nicht weiter als einen Zentimeter von dem Rand des Bedienelements und zugleich weiter als zwei Zentimeter von dem Rand eines weiteren Bedienelements entfernt liegt. In einem weiteren Fall kann der Schnittpunkt aber auch so liegen, dass mehrere Bedienelemente
identifizierbar sind. Beispielsweise kann der Schnittpunkt in der Mitte zwischen zwei Bedienelementen liegen. In diesem Fall kann das Verfahren in vorteilhafter
Ausgestaltung zwei alternative Möglichkeiten umfassen. Zum einen kann das Verfahren mit allen identifizierbaren Bedienelementen fortgesetzt werden. Es werden dann also eigentlich gleichzeitig mehrere Verfahren parallel ausgeführt, wie dies vorstehend bereits für den Fall mehrerer Zeigegesten erläutert wurde. Zum anderen kann das Verfahren abgebrochen oder solange unterbrochen werden, bis (aufgrund einer
Veränderung der Zeigegeste und / oder aufgrund einer Veränderung der Augenposition) nur noch ein einziges Bedienelement identifizierbar ist und somit bestimmt werden kann.
Im letzten erfindungsgemäßen Verfahrensschritt wird das Bedienelement ausgewählt. Die Auswahl eines Bedienelements ist zu unterscheiden von der Betätigung des
Bedienelements, welche nachstehend noch mit Bezug zu einer vorteilhaften
Weiterbildung der Erfindung näher beschrieben wird. Mit anderen Worten sind die vorliegend gewählten Begriffe so zu verstehen, dass jedes Bedienelement auswählbar ist und zusätzlich betätigbar sein kann. Ist ein Bedienelement mit einer bestimmten Funktion verknüpft, so wird diese Funktion nicht bereits dann ausgeführt, wenn das Bedienelement ausgewählt wird, sondern erst dann, wenn das Bedienelement betätigt wird. Das erfolgte Auswählen eines Bedienelements kann dem Nutzer mitgeteilt werden. Dies kann insbesondere durch Hervorhebung des Bedienelements erfolgen, wie nachstehend noch mit Bezug zu einer ersten vorteilhaften Weiterbildung der Erfindung näher beschrieben wird. Es kann vorteilhafterweise vorgesehen sein, dass zu einem Zeitpunkt nur genau ein (oder kein) Bedienelement ausgewählt sein kann. Es kann auch vorgesehen sein, dass zu einem Zeitpunkt mehr als ein Bedienelement ausgewählt sein kann, aber keines dieser Bedienelemente betätigt werden kann.
Der Begriff des Bedienelements ist breit gefasst. Beispielsweise kann sich das
Kraftfahrzeug in einem Hilfemodus („interaktives Handbuch") befinden, in welchem auf einer Anzeigeeinrichtung zu einem vom Nutzer ausgewählten Teil des Kraftfahrzeugs Informationen und Hilfestellungen angezeigt werden. In einem solchen Hilfemodus kann jedes Teil des Innenraums des Kraftfahrzeugs ein Bedienelement darstellen. Der Nutzer kann mittels des erfindungsgemäßen Verfahrens beispielsweise ein Handschuhfach, einen Lüftungsauslass, einen Tachometer oder einen Dreh-Drück-Steller auswählen, woraufhin auf der Anzeigeeinrichtung die jeweilige Information angezeigt wird. In diesem Beispiel sind das Handschuhfach, der Lüftungsauslass, der Tachometer und der Dreh-Drück-Steller Beispiele für Bedienelemente.
Bedienelemente sind nicht notwendigerweise körperliche Teile („Hardware") des
Kraftfahrzeugs. Auch auf einer Anzeigeeinrichtung, insbesondere einem Touchscreen, dargestellte Elemente wie Schaltflächen können Bedienelemente sein. Derartige
Bedienelemente können auch als virtuelle Bedienelemente bezeichnet werden.
Das erfindungsgemäße Verfahren bietet den Vorteil, dass auf technisch
verhältnismäßig einfache Weise Bedienelemente zuverlässig ausgewählt werden können. Insbesondere wird erfindungsgemäß keine Kenntnis der Blickrichtung benötigt, es ist also kein gaze tracker nötig. Darüber hinaus ist das Verfahren für einen Nutzer äußerst intuitiv handhabbar und bedarf keiner nennenswerten Lernphase oder
Einarbeitung.
Eine vorteilhafte Weiterbildung des Verfahrens sieht vor, das ausgewählte
Bedienelement hervorzuheben. Dies kann auf unterschiedliche Weise geschehen, wobei die Art der Hervorhebung auch von der Art des Bedienelements abhängen kann. Ist das Bedienelement ein körperliches Bedienelement wie z.B. ein Schalter, ein
Druckknopf, ein Drehknopf oder ein Schieberegler und weist das Bedienelement eine Beleuchtung auf, so kann die Hervorhebung eine Aktivierung der Beleuchtung umfassen. Eine Beleuchtung kann durch eine im Bedienelement befindliche Lichtquelle gebildet sein, bei deren Aktivierung beispielsweise die gesamte Front des
Bedienelements oder bestimmte Teile der Front (wie z.B. ein auf dem Bedienelement dargestelltes Symbol) beleuchtet werden. Eine Beleuchtung kann auch durch eine Hinterleuchtung des Bedienelements gebildet werden, bei deren Aktivierung z.B. Licht an den Rändern des Bedienelements Sichtbar werden kann. Noch vielfältigere
Möglichkeiten der Hervorhebung bieten sich bei virtuellen Bedienelementen. Virtuelle Bedienelemente können Bedienelemente sein, die auf einer Anzeigefläche dargestellt werden können. Eine solche Anzeigefläche kann beispielsweise ein Touchscreen sein. Eine solche Anzeigefläche kann auch ein sogenanntes frei programmierbares
Kombiinstrument sein. Virtuelle Bedienelemente können auf vielfältige Weise
hervorgehoben werden, wie dies beispielsweise aus dem Bereich grafischer
Benutzeroberflächen bekannt ist. Ein virtuelles Bedienelement kann durch die
Darstellung einer virtuellen Beleuchtung hervorgehoben werden. Ein virtuelles
Bedienelement kann hervorgehoben werden, indem es im Vergleich mit anderen Bedienelementen und / oder im Vergleich mit seinem nicht hervorgehobenen Zustand vergrößert dargestellt wird. Ein virtuelles Bedienelement kann hervorgehoben werden, indem es sein Aussehen verändert. Hierzu kann es farbig oder andersfarbig dargestellt werden. Es kann sich auch eine Beschriftung und / oder eine auf dem Bedienelement dargestelltes Symbol ändern. Im Falle einer Anzeigefläche (z.B. Touchscreen) können Bedienelemente auf der Anzeigefläche dargestellt sein, die hervorgehoben werden, wenn sie erfindungsgemäß ausgewählt worden sind. Es kann auch vorkommen, dass der Schnittpunkt auf der Anzeigefläche liegt, aber kein Bedienelement identifizierbar ist. Dies kann beispielsweise der Fall sein, wenn auf der Anzeigefläche gar kein
Bedienelement dargestellt wird oder wenn der Schnittpunkt ausreichend weit von jedem der dargestellten Bedienelemente entfernt liegt. In diesem Fall kann die Erfindung vorzugsweise vorsehen, dass der Schnittpunkt selber hervorgehoben wird.
Beispielsweise kann an dem Ort des Schnittpunkts auf der Anzeigefläche ein grafisches Markierungssymbol („Cursor"), z.B. in Form eines farbigen Punktes, dargestellt werden. Dies hat den Vorteil, dass der Nutzer eine Rückmeldung darüber bekommt, welchen Ort er mittels seiner Zeigegeste ausgewählt hat. Falls der Nutzer eigentlich die Absicht hatte, ein Bedienelement auszuwählen, so erhält er hierdurch einen Hinweis, wie er seine Zeigegeste korrigieren muss, um den Schnittpunkt in Richtung des gewünschten Bedienelements zu verschieben.
In einer vorteilhaften Ausgestaltung des Verfahrens wird zusätzlich eine
Akkommodation der Augen erfasst und eine durch die Akkommodation der Augen festgelegte Blickebene bestimmt. Es ist vorgesehen, dass der Schritt des Auswählens des Bedienelements unter der Bedingung ausgeführt wird, dass das Bedienelement nahe der oder auf der Blickebene liegt. Unter Akkommodation wird die vom Auge eingestellte Fokussierung auf eine bestimmte Tiefenebene sowie die Bildung eines bestimmten Konvergenzwinkels der Blickachsen beider Augen verstanden. Dabei befindet sich der Kreuzungspunkt der beiden Blickachsen in dieser Tiefenebene. Die vom Nutzer fokussierte Tiefenebene wird als Blickebene bezeichnet. Die Blickebene ist also mit anderen Worten diejenige Ebene im Raum, auf die der Nutzer seinen Blick gerichtet hat (und die er daher scharf sieht). Die Akkommodation der Augen kann durch eine bildliche Aufnahme (z.B. mittels eines Kamerasystems) des Kopfes und der Pupillen beider Augen erfolgen. Hierzu wird unter Berücksichtigung der räumlichen Lage des Kopfes der räumliche Abstand der Pupillen zueinander ermittelt. Um die Zuverlässigkeit des Verfahrens zu erhöhen, kann vorgesehen sein, dass der
Pupillenabstand eines Nutzers für unterschiedliche Blickebenen einmalig aufgenommen und abgespeichert wird. Bei Ausführung des Verfahrens kann der gegenwärtige
Pupillenabstand dann mit den aufgenommenen Werten verglichen werden, um die gegenwärtige Blickebene zu bestimmen. In einer einfachen, aber besonders
vorteilhaften Ausgestaltung ist das Verfahren eingerichtet, zu erkennen, ob die
Blickebene die Ebene der Instrumententafel des Kraftfahrzeugs ist oder nicht. Dies ist deshalb vorteilhaft, weil die meisten der Bedienelemente des Kraftfahrzeugs in dieser Ebene angeordnet sind. Wird erkannt, dass das erfindungsgemäß identifizierte
Bedienelement nahe der oder auf der Blickebene liegt, so wird das Verfahren wie vorab beschrieben fortgesetzt. Es wird dann also das Bedienelement ausgewählt und ggf. hervorgehoben. Dem liegt die Annahme zugrunde, dass der Nutzer, wenn er ein bestimmtes Bedienelement auswählen möchte, dieses auch ansieht, seine Augen also auf die Ebene des Bedienelements fokussiert. Wird hingegen erkannt, dass das erfindungsgemäß identifizierte Bedienelement nicht nahe der Blickebene liegt, so kann davon ausgegangen werden, dass der Nutzer die Auswahl des Bedienelements nicht beabsichtigt hat. Die vom Nutzer gemachte Zeigegeste könnte in diesem Fall ungewollt und / oder unbewusst gemacht worden sein. Indem die Akkommodation des Auges erfasst und die Blickebene bestimmt wird, kann somit verhindert werden, dass ein Bedienelement ausgewählt wird, obwohl dies vom Nutzer nicht beabsichtigt war.
Durch die Parallaxe des binokularen Sehens kann es vorkommen, dass dem Nutzer der die Zeigegeste bildende Finger doppelt erscheint. Dieser Effekt ist umso stärker, je weiter entfernt die Blickebene von dem die Zeigegeste bildenden Finger liegt. Bei der Ausführung der Erfindung und ihrer bisher beschriebenen Ausführungsformen kann es daher abhängig von der Wahl des Auges des Nutzers, dessen Augenposition
erfindungsgemäß erfasst wird, zu unterschiedlichen Schnittpunkten kommen. Dies könnte dazu führen, dass das vom Nutzer beabsichtigte Bedienelement nicht mit größtmöglicher Zuverlässigkeit ausgewählt wird. Es stellt sich daher die Teilaufgabe, das erfindungsgemäße Verfahren durch weitere Ausgestaltung noch zuverlässiger zu machen. Die Teilaufgabe wird durch die nachfolgend beschriebenen
Ausführungsformen gelöst.
In einer vorteilhaften Weiterbildung der Erfindung wird zunächst ein dominantes Auge des Nutzers bestimmt. Anschließend wird eine Augenposition des dominanten Auges erfasst und das Verfahren dann wie vorstehend beschrieben fortgesetzt. Mit dem Begriff der Augendominanz wird der Umstand bezeichnet, dass das retinale Abbild des einen Auges eines Lebewesens gegenüber dem retinalen Abbild des anderen Auges bevorzugt wird. Das Auge, dessen Abbild bevorzugt wird, ist das dominante Auge. Es wird insbesondere dann das Abbild des dominanten Auges bevorzugt, wenn die
Abbilder der beiden Augen vom Gehirn nicht in Übereinstimmung gebracht werden können. Im Zusammenhang mit der vorliegenden Erfindung kann sich der Effekt der Augendominanz wie folgt äußern. Hat der Nutzer beide Augen geöffnet und zeigt er mit einem Finger auf ein Bedienelement, so werden aufgrund der Parallaxe des binokularen Sehens eigentlich zwei Schnittpunkte gebildet, nämlich zum einen der Schnittpunkt der durch die linke Augenposition und die Fingerposition festgelegten Raumachse mit der Innenraumfläche bzw. Blickebene und zum anderen der Schnittpunkt der durch die rechte Augenposition und die Fingerposition festgelegten Raumachse mit der
Innenraumfläche bzw. Blickebene. Liegt das vom Nutzer anvisierte Bedienelement in etwa mittig zwischen diesen beiden Schnittpunkten, so kann darauf geschlossen werden, dass keines der Augen dominant ist. Bei den meisten Menschen ist jedoch eines der Augen dominant. Ist dies der Fall, so liegt der Schnittpunkt der durch die Augenposition des dominanten Auges und die Fingerposition festgelegten Raumachse mit der Innenraumfläche bzw. Blickebene auf dem Bedienelement, wohingegen der Schnittpunkt der durch die Augenposition des nicht-dominanten Auges und die
Fingerposition festgelegten Raumachse mit der Innenraumfläche bzw. Blickebene neben dem Bedienelement liegt. Mit anderen Worten löst also das Gehirn des Nutzers den sich aus der Parallaxe des binokularen Sehens ergebenden Konflikt auf, indem es das Abbild des dominanten Auges verwendet und das Abbild des nicht-dominanten Auges verwirft. Die Erfinder haben erkannt, dass sich dieser Umstand nutzen lässt, indem die Augenposition des dominanten Auges erfasst wird.
Die Bestimmung des dominanten Auges kann automatisiert erfolgen. Hierzu kann ein bekannter Umstand genutzt werden, nämlich dass beim Blicken auf einen bestimmten Punkt das dominante Auge zuerst (d.h. zeitlich vor dem nicht-dominanten Auge) die Fixation erreicht. Mit dem Begriff Fixation ist die Stabilisierung der Blickachse (d.h. der Blickrichtung) auf den bestimmten Punkt gemeint. Um die Erfindung in dieser
Ausführungsform umzusetzen, muss also eine Vorrichtung zur Erkennung der
Blickachse (gaze tracker) vorhanden sein. Alternativ kann die Bestimmung des dominanten Auges vorteilhafterweise erfolgen, indem für jeden Nutzer des
Kraftfahrzeugs die Information, welches Auge das dominante Auge ist, festgestellt und dauerhaft abgespeichert wird. Die Bestimmung des dominanten Auges kann dann erfolgen, indem zunächst die Person des Nutzers bestimmt wird. Dies geschieht mittels an sich im Stand der Technik bekannter Verfahren zur Nutzer-Identifikation. Wird dabei festgestellt, dass ein Nutzer unbekannt ist bzw. dass zu dem Nutzer noch keine
Information über sein dominantes Auge abgespeichert ist, kann der Nutzer zunächst aufgefordert werden, die Information einzugeben, welches Auge sein dominantes Auge ist. Diese Information kann mittels einer Eingabevorrichtung des Kraftfahrzeugs direkt eingegeben werden, falls sie dem Nutzer bekannt ist. Es kann dem Nutzer auch ein einfach durchzuführendes Experiment zur Feststellung, welches Auge das dominante Auge ist, angeboten werden. Da die Information über das dominante Auge für jeden Nutzer nur ein einziges Mal erhoben werden muss, stellt dies keine praktische
Einschränkung der Nutzung der Erfindung dar. Weiterhin kann auf die vorstehend beschriebenen Verfahrensschritte zur automatisierten Feststellung des dominanten Auges zurückgegriffen werden, falls hierfür ein gaze tracker zur Verfügung steht.
Beim Zeigen auf Objekte (wie z.B. vorliegend auf ein Bedienelement) vermeiden viele Nutzer den sich aus der Parallaxe des binokularen Sehens ergebenden Konflikt, indem sie eines ihrer Augen schließen. Eine weitere Ausführungsform der Erfindung nutzt diesen Umstand, indem zunächst ein geöffnetes und ein geschlossenes Auge des Nutzers bestimmt werden. Dieser Schritt schließt ein, dass bestimmt wird, ob überhaupt eines der Augen geschlossen ist. Ist dies der Fall, so wird bestimmt, welches Auge geschlossen und welches Auge geöffnet ist. Anschließend wird eine Augenposition des geöffneten Auges erfasst und das Verfahren dann wie vorstehend beschrieben fortgesetzt.
Eine weitere Ausführungsform der Erfindung eignet sich insbesondere für Nutzer, bei denen kein Auge dominant ist. Bei dieser Ausführungsform ist vorgesehen, dass die Augenpositionen beider Augen des Nutzers erfasst werden. Anschließend kann das Verfahren auf zwei alternative Arten fortgesetzt werden, welche zum gleichen oder zu einem ähnlichen Ergebnis führen. Zum einen können zwei durch die Augenpositionen und durch die Fingerposition gebildete Raumachsen bestimmt werden. Danach können zwei Schnittpunkte der Raumachsen mit einer wenigstens ein Bedienelement aufweisenden Innenraumfläche des Kraftfahrzeugs bestimmt werden. Danach kann ein Mittelpunkt der Schnittpunkte bestimmt werden und ein durch den Mittelpunkt identifizierbares Bedienelement bestimmt werden. Zum anderen kann der Mittelpunkt der Augenpositionen bestimmt werden. Danach kann eine durch den Mittelpunkt der Augenpositionen und durch die Fingerposition gebildete Raumachse bestimmt werden. Mit anderen Worten wird also bei beiden alternativen Arten eine Mittelpunktbildung durchgeführt: Entweder wird der Mittelpunkt der Schnittpunkte gebildet oder es wird der Mittelpunkt der Augenpositionen gebildet.
Die drei vorbeschriebenen Ausführungsformen können unabhängig voneinander sowie in Kombination eingesetzt werden. Es ist insbesondere vorteilhaft, die
Ausführungsformen zu kombinieren und ihre jeweiligen Schritte nacheinander und in Abhängigkeit voneinander wie folgt durchzuführen. Zunächst kann bestimmt werden, ob eines der Augen des Nutzers geschlossen ist. Ist dies der Fall, so wird eine Augenposition des geöffneten Auges erfasst und das erfindungsgemäße Verfahren fortgesetzt. Ist dies aber nicht der Fall (sind also beide Augen geöffnet), so wird ein dominantes Auge des Nutzers bestimmt. Kann das dominante Auge erfolgreich bestimmt werden, so wird eine Augenposition des dominanten Auges erfasst und das erfindungsgemäße Verfahren fortgesetzt. Kann aber kein dominantes Auge bestimmt werden (weil die Information, welches Auge das dominante Auge des Nutzers ist, nicht bekannt ist oder weil der Nutzer kein dominantes Auge hat), so kann schließlich der Schritt des Erfassens der Augenpositionen beider Augen des Nutzers erfolgen und das Verfahren anschließend wie vorstehend beschrieben fortgesetzt werden.
Mit besonderem Vorteil kann das Verfahren weiter ausgestaltet werden, indem nach dem Schritt des Auswählens des Bedienelements weitere Schritte erfolgen, mit denen das Bedienelement betätigt werden kann. Mit anderen Worten soll nun ein zweistufiges Verfahren bereitgestellt werden, bei dem zunächst (wie vorstehend beschrieben) ein Bedienelement ausgewählt wird und dann das Bedienelement betätigt wird. Der Nutzer kann also zunächst das gewünschte Bedienelement auswählen. Dieses wird bevorzugt hervorgehoben, wie dies vorstehend beschrieben wurde. Wurde das vom Nutzer gewünschte Bedienelement ausgewählt, so kann es im zweiten Schritt auch betätigt werden. Der Nutzer muss somit bei der Anwendung der Erfindung nicht befürchten, eine unerwünschte Fehlbedienung zu tätigen, da er das Bedienelement nur dann betätigen kann, wenn das gewünschte Bedienelement zuvor ausgewählt wurde. In einem ersten weiteren Schritt wird eine Bediengeste erkannt. Die Bediengeste kann eine Fingergeste und / oder eine Augengeste und / oder eine Sprachgeste umfassen. Beispielsweise kann vorgesehen sein, dass der Nutzer mit einer Tippbewegung oder Klickbewegung des Fingers, also mit einer raschen Bewegung des Fingers nach unten und ggf. wieder zurück nach oben, das Bedienelement betätigt. Es kann alternativ oder zusätzlich vorgesehen sein, dass der Nutzer eine Augengeste, z.B. ein Zwinkern mit beiden Augen, durchführt. Es kann alternativ oder zusätzlich vorgesehen sein, dass der Nutzer eine Sprachgeste durchführt, also z.B. ein Kommandowort („Betätigen",„Ja" oder dergleichen) ausspricht. In einem zweiten weiteren Schritt wird im Ansprechen auf eine erkannte Bediengeste das Bedienelement betätigt. Es kann vorgesehen sein, dass der Nutzer selber entscheiden kann, welche Bediengeste zur Betätigung des
Bedienelements dienen soll. Dies kann der Nutzer dann vorab einstellen, beispielsweise in einem Konfigurationsmenü des Kraftfahrzeugs. Wie vorstehend beschrieben kann es bei Ausführungsformen der Erfindung vorkommen, dass mehrere Bedienelemente ausgewählt werden. Dieser Fall kann z.B. dann eintreten, wenn mehrere Fingergesten erkannt werden oder wenn der
Schnittpunkt so liegt, dass mehrere Bedienelemente identifiziert werden. In diesem Fall kann mit weiterem Vorteil vorgesehen werden, dass kein Bedienelement betätigt werden kann. Der Nutzer muss dann seine Zeigegeste so verändern, dass nur ein Bedienelement identifiziert wird. Dieses kann dann anschließend wie vorstehend erläutert ausgewählt werden.
Eine vorteilhafte Weiterbildung erlaubt es, eine nicht beabsichtigte Betätigung eines Bedienelements zu korrigieren. Hierzu ist vorgesehen, dass eine Korrekturgeste erkannt wird. Die Korrekturgeste kann eine Fingergeste und / oder eine Augengeste und / oder eine Sprachgeste umfassen. Besonders bevorzugt umfasst die
Korrekturgeste die gleichen Arten von Gesten wie die Bediengeste. Besteht die
Bediengeste beispielsweise aus einem einfachen Augenzwinkern und dem
Sprachkommando„Ja", so kann vorteilhafterweise vorgesehen sein, dass die
Korrekturgeste aus einem doppelten Augenzwinkern und dem Sprachkommando „Zurück" besteht. Im Ansprechen auf eine erkannte Korrekturgeste erfolgt ein
Zurücknehmen der Betätigung des Bedienelements. Beispielsweise könnte das
Bedienelement ein Lichtschalter für eine Innenraumbeleuchtung des Kraftfahrzeugs sein. Mittels des vorbeschriebenen Verfahrens hat der Nutzer den Lichtschalter ausgewählt und betätigt. Die Innenraumbeleuchtung ist dann aktiv. Indem der Nutzer die Korrekturgeste durchführt, wird die Betätigung des Lichtschalters zurückgenommen. In diesem Beispiel ist diese Zurücknahme gleichbedeutend mit einer nochmaligen Betätigung. Die Innenraumbeleuchtung erlischt.
Die Erfindung eignet sich besonders für den Einsatz in Kraftfahrzeugen. Es wird jedoch darauf hingewiesen, dass die Erfindung ausdrücklich nicht auf diesen Einsatz
beschränkt ist. Vielmehr kann die Erfindung auch außerhalb von Kraftfahrzeugen eingesetzt werden. Beispielsweise kann die Erfindung eingesetzt werden, um Geräte der Unterhaltungselektronik zu steuern. Beispielsweise könnte die Erfindung eingesetzt werden, um Bedienelemente eines Fernsehgeräts (Einschaltknopf, Lautstärkeregler, etc.) zu betätigen und / oder auf einem Fernsehgerät dargestellte virtuelle Bedienelemente (Schaltflächen, Auswahlmenüs, etc.) auszuwählen und ggf. zu betätigen.
Ein erfindungsgemäßes Bediensystem für ein Kraftfahrzeug umfasst eine erste
Erfassungseinrichtung, die zur Erfassung einer Augenposition eines Nutzers des Kraftfahrzeugs, insbesondere eines Fahrers des Kraftfahrzeugs, eingerichtet ist. Hierbei kann es sich vorzugsweise um eine Innenraumkamera des Kraftfahrzeugs handeln, besonders bevorzugt um eine Stereokamera. Dies ist deswegen besonders vorteilhaft, weil moderne Kraftfahrzeuge ohnehin häufig eine Innenraumkamera aufweisen, die für unterschiedliche Einsatzzwecke gleichzeitig genutzt werden kann. Weiterhin ist eine zweite Erfassungseinrichtung zur Erfassung einer Fingerposition eines eine Zeigegeste bildenden Fingers des Nutzers vorgesehen. Mit besonderem Vorteil kann hierfür dieselbe Innenraumkamera verwendet werden, falls deren Erfassungsbereich
entsprechend groß ist, so dass das Auge und der Finger des Nutzers erfasst werden können. Mit weiterem Vorteil kann die Innenraumkamera zur Nutzer-Identifikation genutzt werden. Das Bediensystem umfasst weiterhin ein in oder auf einer
Innenraumfläche des Kraftfahrzeugs angeordnetes Bedienelement und
eine mit der ersten und zweiten Erfassungseinrichtung verbundene
Datenverarbeitungseinrichtung. Die Datenverarbeitungseinrichtung kann ein
Steuergerät des Kraftfahrzeugs sein, das mittels eines Datenbussystems mit der Innenraumkamera verbunden sein kann. Die Datenverarbeitungseinrichtung ist zur Bestimmung einer durch die Augenposition und durch die Fingerposition gebildete Raumachse, eines Schnittpunkts der Raumachse mit der Innenraumfläche des
Kraftfahrzeugs und des durch den Schnittpunkt identifizierbaren Bedienelements eingerichtet. Mit anderen Worten führt die Datenverarbeitungseinrichtung wesentliche Schritte des erfindungsgemäßen Verfahrens durch. Die Datenverarbeitungseinrichtung kann über einen Datenspeicher verfügen. In diesem können Nutzerinformationen dauerhaft abgelegt werden, z.B. für unterschiedliche Nutzer jeweils Pupillengröße bei unterschiedlicher Akkommodation, Augendominanz, Bediengesten und
Korrekturgesten.
Weitere Ausführungsformen der Erfindung werden nachfolgend anhand beispielhafter Darstellungen erläutert. Es zeigen Fig. 1 eine im Verfahrensablauf auftretende Nutzersituation zu einem ersten Zeitpunkt aus einer ersten Perspektive,
Fig. 2 die im Verfahrensablauf auftretende Nutzersituation zu dem ersten Zeitpunkt aus einer zweiten Perspektive,
Fig. 3 eine im Verfahrensablauf auftretende alternative Nutzersituation zu dem ersten Zeitpunkt aus der zweiten Perspektive,
Fig. 4 eine im Verfahrensablauf auftretende Nutzersituation zu einem zweiten Zeitpunkt aus der zweiten Perspektive und
Fig. 5 ein Flussdiagramm einer Ausführungsform des erfindungsgemäßen Verfahrens.
Gleiche Bezugszeichen kennzeichnen in den Figuren gleiche Merkmale der
dargestellten Ausführungsformen der Erfindung. Es wird darauf hingewiesen, dass es sich bei den dargestellten Figuren sowie der zugehörigen Beschreibung lediglich um Ausführungsbeispiele der Erfindung handelt. Insbesondere sind Darstellungen von Merkmalskombinationen in den Figuren und / oder der Figurenbeschreibung nicht dahingehend auszulegen, dass die Erfindung zwingend die Verwirklichung aller genannten Merkmale erfordert. Andere Ausführungsformen der Erfindung können weniger, mehr und / oder andere Merkmale enthalten. Der Schutzbereich und die Offenbarung der Erfindung ergeben sich aus den beiliegenden Patentansprüchen und der vollständigen Beschreibung. Es wird zudem darauf hingewiesen, dass es sich bei den Darstellungen um Prinzipdarstellungen von Ausführungsformen der Erfindung handelt. Die Anordnung der einzelnen dargestellten Elemente zueinander ist nur beispielhaft gewählt und kann bei anderen Ausführungsformen der Erfindung anders gewählt werden. Weiterhin ist die Darstellung nicht unbedingt maßstabsgetreu. Einzelne dargestellte Merkmale können zu Zwecken der besseren Veranschaulichung vergrößert oder verkleinert dargestellt sein.
Der Ablauf einer beispielshaften Ausführungsform des erfindungsgemäßen Verfahrens soll nachfolgend anhand des in Fig. 5 gezeigten Flussdiagramms dargestellt werden, wobei zu bestimmten Zeitpunkten des Verfahrensablaufs auftretende Situationen in den Figuren 1 bis 4 dargestellt sind. Zunächst wird dabei neben Fig. 5 auf Fig. 1 Bezug genommen, worin eine im Verfahrensablauf auftretende Nutzersituation zu einem ersten Zeitpunkt aus einer ersten Perspektive dargestellt ist.
In Fig. 1 dargestellt ist ein Fahrer 1 eines Kraftfahrzeugs. Weiter dargestellt ist eine den Innenraum des Kraftfahrzeugs erfassende Stereokamera 2. Nicht dargestellt ist eine der Kamera 2 nachgeschaltete Datenverarbeitungseinrichtung zur Verarbeitung der von der Kamera 2 erfassten Bilder. In einem ersten Schritt S01 wird ein geöffnetes und ein geschlossenes Auge des Nutzers 1 bestimmt. Es wird also bestimmt, ob überhaupt eines der Augen geöffnet und das andere geschlossen ist und, falls dies zutrifft, welches der Augen geöffnet ist. Ist nur eines der Augen geöffnet, so wird das Verfahren mit dem Schritt S10 fortgesetzt. Sind hingegen beide Augen geöffnet, so folgt der Schritt S02, in welchem ein dominantes Auge bestimmt wird. Auch in diesem Schritt S02 wird eine Fallunterscheidung vorgenommen. Kann ein dominantes Auge bestimmt werden, so wird das Verfahren mit dem Schritt S10 fortgesetzt. Kann kein dominantes Auge bestimmt werden, so werden einige der nachfolgenden Schritte, beginnend mit dem Schritt S10, parallel für beide Augen fortgesetzt. Dies ist in Fig. 5 durch einen zweiten, durch gestrichelte Pfeile gekennzeichneten Verfahrensablauf (mit den
Schritten S10', S30', S40') kenntlich gemacht. Dieser Fall paralleler Abläufe wird nachfolgend noch mit Bezug zu Fig. 3 beschrieben. Zunächst soll angenommen werden, dass der Nutzer 1 nur eines seiner Augen geöffnet und das andere
geschlossen hat. Im Schritt S10 wird die Augenposition 3 des geöffneten Auges des Fahrers 1 erfasst. Der Fahrer 1 zeigt mit dem Zeigefinger seiner rechten Hand auf ein Bedienelement 7. In Schritt S20 wird die Fingerposition 5 des die Zeigegeste 4 bildenden Fingers erfasst. Aus den beiden Positionen, also aus der Augenposition 3 und der Fingerposition 5 wird in Schritt S30 eine Raumachse 6 bestimmt. Diese 6 schneidet eine Innenraumfläche 10 des Kraftfahrzeugs, in deren Ebene
Bedienelemente angeordnet sind, im Schnittpunkt 8. Dieser Schnittpunkt der
Raumachse 6 mit der Innenraumfläche 10 wird in Schritt S40 bestimmt. Im
nachfolgenden Verfahrensschritt S50 wird ein durch den Schnittpunkt 8 identifizierbares Bedienelement 7 bestimmt. In dem in Fig. 1 dargestellten Beispiel liegt der Schnittpunkt 8 auf dem Bedienelement 7, so dass dieses 7 leicht identifizierbar ist. Die durch Fig. 5 veranschaulichte Ausführungsform der Erfindung umfasst einen nachfolgenden Schritt S51 , in welchem mittels der Kamera 2 eine Akkommodation der Augen erfasst wird. Hierzu wird wie vorstehend beschrieben der Pupillenabstand bestimmt, weswegen es nötig ist, dass der Nutzer beide Augen geöffnet hat. In Schritt S52 wird die durch die Akkommodation der Augen festgelegte Blickebene bestimmt. In Schritt S53 wird geprüft, ob das in Schritt S50 identifizierte Bedienelement 7 nahe oder auf der Blickebene liegt. Nur wenn dies der Fall ist, wird das Verfahren fortgesetzt. Anderenfalls kann davon ausgegangen werden, dass der Fahrer 1 das Bedienelement 7 nicht angesehen hat und es daher nicht auswählen wollte.
In Schritt S60 wird das in Schritt S50 bestimmte Bedienelement 7 ausgewählt. Um dies für den Fahrer 1 kenntlich zu machen, kann vorgesehen sein, dass das Bedienelement 7 in Schritt S61 hervorgehoben wird. Dies kann erfolgen, indem das Bedienelement 7, das vorliegend ein beleuchtbarer Druckknopf 7 ist, beleuchtet wird. Dies ist in Fig. 1 durch eine Schraffur des Bedienelement 7 dargestellt. Es sei mit Bezug zu Fig. 5 darauf hingewiesen, dass die Schritte S60 und S61 ohne nennenswerten zeitlichen Abstand zueinander durchgeführt werden sollten. Mit anderen Worten wird das Bedienelement 7 hervorgehoben (Schritt S61 ), wenn und sobald es ausgewählt wurde (Schritt S60).
In Fig. 2 ist die gleiche Nutzersituation zu dem ersten Zeitpunkt wie in Fig. 1 dargestellt, jedoch aus einer zweiten Perspektive, nämlich der des Fahrers 1 . Dieser sieht durch sein geöffnetes Auge die Innenraumfläche 10 mit dem darauf angeordneten
Bedienelement 7. Er formt mit seiner rechten Hand eine Zeigegeste 4, wobei er den Zeigefinger der rechten Hand so hält, dass er mit der Fingerposition 5 aus seiner Sicht (also von der Augenposition 3 aus, die in Fig. 2 die Position des Bildbetrachters ist) auf das Bedienelement 7 zeigt. In der Darstellung der Fig. 2 fallen daher die Fingerposition 5 und der Schnittpunkt 8 zusammen.
Fig. 3 zeigt eine im Verfahrensablauf auftretende alternative Nutzersituation zu dem ersten Zeitpunkt aus der zweiten Perspektive. In diesem alternativen Beispiel hat der Nutzer beide Augen geöffnet. Im Vergleich der Figuren 2 und 3 erkennt man, dass der Fahrer 1 seine die Zeigegeste 4 bildende rechte Hand doppelt sieht, nämlich einmal mit dem linken und einmal mit dem rechten Auge. Für das in Fig. 3 dargestellte Beispiel sei angenommen, dass der Fahrer 1 kein dominantes Auge hat oder dass dieses nicht bestimmt werden kann oder bestimmt werden soll.
Dass der Fahrer 1 beide Augen geöffnet hat, wird im Schritt S01 festgestellt, woraufhin das Verfahren mit Schritt S02 fortgesetzt wird. In Schritt S02 wird festgestellt, dass der Fahrer 1 kein dominantes Auge hat oder dass dieses nicht bestimmt werden kann.
Einige Verfahrensschritte werden nunmehr zweifach parallel ausgeführt, nämlich je einmal für das linke und das rechte Auge. Dies ist in Fig. 5 durch den gestrichelt dargestellten Verfahrensablauf S10' - S40' dargestellt. Die Schritte S10 bis S40 werden wie vorstehend beschrieben für das rechte Auge durchgeführt. Die parallelen Schritte S10' bis S40' werden für das linke Auge durchgeführt. Es wird also in Schritt S10' die Augenposition des linken Auges des Fahrers 1 erfasst. In Schritt S20 wird die
Fingerposition 5 des die Zeigegeste 4 bildenden Fingers erfasst. Dieser Schritt muss natürlich nicht zweifach ausgeführt werden. Aus der Augenposition 3 des rechten Auges und der Fingerposition 5 wird in Schritt S30 eine erste Raumachse 6 bestimmt. Aus der Augenposition des linken Auges und der Fingerposition 5 wird in Schritt S30' eine zweite Raumachse bestimmt. Die erste Raumachse 6 schneidet die Innenraumfläche 10 in einem ersten Schnittpunkt 8', der in Schritt S40 bestimmt wird. Die zweite
Raumachse schneidet die Innenraumfläche 10 in einem zweiten Schnittpunkt 8", der in Schritt S40' bestimmt wird. Im nachfolgenden Verfahrensschritt S50 wird zunächst aus den beiden Schnittpunkte 8', 8" ein Mittelpunkt 1 1 bestimmt. Sodann wird im gleichen Verfahrensschritt S50 ein durch den Mittelpunkt 1 1 identifizierbares Bedienelement 7 bestimmt.
Fig. 4 zeigt eine im Verfahrensablauf auftretende Nutzersituation zu einem zweiten Zeitpunkt aus der zweiten Perspektive. Das Bedienelement 7 wurde in dieser
Nutzersituation bereits mittels der Zeigegeste 4 ausgewählt und hervorgehoben. Der Fahrer 1 möchte, nachdem das von ihm gewünschte Bedienelement 7 ausgewählt wurde, dieses 7 nun betätigen. Hierzu bewegt er den Zeigefinger seiner rechten Hand kurz nach unten und wieder nach oben, was in Fig. 4 durch zwei entgegengesetzte Pfeile sowie eine gestrichelte Darstellung des Zeigefingers in seiner unteren Position dargestellt ist. Die so getätigte Fingergeste 9 wird von der Kamera 2 erfasst und von der (nicht dargestellten) Datenverarbeitungseinrichtung als Bediengeste erkannt (Verfahrensschritt S70). Im Ansprechen auf die erkannte Bediengeste 9 wird in Schritt S80 das Bedienelement betätigt.
Das Verfahren kann weiter vorsehen, dass in einem nachfolgenden Schritt S90 eine Korrekturgeste erkannt wird. Dies kann auf ähnliche Weise erfolgen wie die vorstehend beschriebene Erkennung der Bediengeste 9. Beispielsweise könnte eine Korrekturgeste eine doppelte Ausführung der Fingergeste 9 (schnelle zweimalige Ab- und wieder Aufbewegung des Fingers) umfassen. Eine Korrekturgeste könnte auch die umgekehrte Fingergeste 9 (Auf- und dann Abbewegung des Fingers) umfassen. Im Ansprechen auf die erkannte Korrekturgeste wird in Schritt S100 die Betätigung des Bedienelements 7 zurückgenommen.
Bezugszeichenliste
1 Nutzer
2 Erfassungseinrichtung
3 Augenposition
4 Zeigegeste
5 Fingerposition
6 Raumachse
7 Bedienelement
8, 8', 8" Schnittpunkt
9 Fingergeste (Bediengeste)
10 Innenraumfläche
1 1 Mittelpunkt der Schnittpunkte
S01 - S100 Verfahrensschritte

Claims

Patentansprüche
1 . Verfahren zum Auswählen eines Bedienelements (7) eines Kraftfahrzeugs durch einen Nutzer (1 ) des Kraftfahrzeugs, insbesondere einen Fahrer (1 ) des
Kraftfahrzeugs, mit den Schritten
• Erfassen (S10) einer Augenposition (3) eines Auges des Nutzers (1 ),
• Erfassen (S20) einer Fingerposition (5) eines eine Zeigegeste (4)
bildenden Fingers des Nutzers (1 ),
• Bestimmen (S30) einer durch die Augenposition (3) und durch die
Fingerposition (5) gebildeten Raumachse (6),
• Bestimmen (S40) eines Schnittpunkts (8) der Raumachse (6) mit einer wenigstens ein Bedienelement (7) aufweisenden Innenraumfläche (10) des Kraftfahrzeugs,
• Bestimmen (S50) eines durch den Schnittpunkt (8) identifizierbaren
Bedienelements (7) und
• Auswählen (S60) des Bedienelements (7).
2. Verfahren nach Anspruch 1 mit dem Schritt
• Hervorheben (S61 ) des ausgewählten Bedienelements (7).
3. Verfahren nach einem der vorhergehenden Ansprüche mit den Schritten
• Erfassen (S51 ) einer Akkommodation beider Augen des Nutzers (1 ),
• Bestimmen (S52) einer durch die Akkommodation der Augen festgelegten Blickebene,
wobei der Schritt des Auswählens (S60) des Bedienelements (7) unter der Bedingung ausgeführt wird, dass das Bedienelement (7) nahe der oder auf der Blickebene liegt.
4. Verfahren nach einem der vorhergehenden Ansprüche mit den Schritten
• Bestimmen (S02) eines dominanten Auges des Nutzers (1 ) und
• Erfassen (S10) einer Augenposition des dominanten Auges.
5. Verfahren nach einem der vorhergehenden Ansprüche mit den Schritten
• Bestimmen (S01 ) eines geöffneten und eines geschlossenen Auges des Nutzers (1 ) und
• Erfassen einer Augenposition (S10) des geöffneten Auges.
6. Verfahren nach einem der vorhergehenden Ansprüche mit den Schritten
• Erfassen (S10, S10') der Augenpositionen beider Augen des Nutzers (1 ) und anschließend entweder
• Bestimmen (S30, S30') zweier durch die Augenpositionen und durch die Fingerposition gebildeten Raumachsen,
• Bestimmen (S40, S40') zweier Schnittpunkte (8, 8') der Raumachsen mit einer wenigstens ein Bedienelement (7) aufweisenden Innenraumfläche (10) des Kraftfahrzeugs,
• Bestimmen (S50) eines durch den Mittelpunkt (1 1 ) der Schnittpunkte (8, 8') identifizierbaren Bedienelements (7)
oder
• Bestimmen des Mittelpunkts der Augenpositionen,
• Bestimmen einer durch den Mittelpunkt der Augenpositionen und durch die Fingerposition (5) gebildeten Raumachse.
7. Verfahren nach einem der vorhergehenden Ansprüche mit den Schritten
• Erkennen (S70) einer Bediengeste (9) und
• Betätigen (S80) des Bedienelements (7) im Ansprechen auf eine erkannte Bediengeste (9),
wobei die Bediengeste eine Fingergeste (9) und / oder eine Augengeste und / oder eine Sprachgeste umfasst.
8. Verfahren nach Anspruch 7 mit den Schritten
• Erkennen (S90) einer Korrekturgeste und
• Zurücknehmen (S100) der Betätigung (S80) des Bedienelements (7) im Ansprechen auf eine erkannte Korrekturgeste,
wobei die Korrekturgeste eine Fingergeste und / oder eine Augengeste und / oder eine Sprachgeste umfasst.
9. Bediensystem für ein Kraftfahrzeug mit
• einer ersten Erfassungseinrichtung (2), die zur Erfassung einer
Augenposition (3) eines Nutzers (1 ) des Kraftfahrzeugs, insbesondere eines Fahrers (1 ) des Kraftfahrzeugs, eingerichtet ist,
• einer zweiten Erfassungseinrichtung (2), die zur Erfassung einer
Fingerposition (5) eines eine Zeigegeste (4) bildenden Fingers des Nutzers (1 ) eingerichtet ist,
• einem in oder auf einer Innenraumfläche (10) des Kraftfahrzeugs
angeordneten Bedienelement (7) und
• einer mit der ersten und zweiten Erfassungseinrichtung (2) verbundenen Datenverarbeitungseinrichtung, wobei die Datenverarbeitungseinrichtung zur Bestimmung einer durch die Augenposition (3) und durch die Fingerposition (5) gebildete Raumachse (6), eines Schnittpunkts (8) der Raumachse (6) mit der Innenraumfläche (10) des Kraftfahrzeugs und des durch den Schnittpunkt (8) identifizierbaren Bedienelements (7) eingerichtet ist.
10. Bediensystem nach Anspruch 9, wobei die erste und zweite
Erfassungseinrichtung durch eine Innenraumkamera (2) des Kraftfahrzeugs gebildet werden.
1 1 . Bediensystem nach Anspruch 9 oder 10, wobei das Bediensystem zur
Durchführung des Verfahrens nach einem der Ansprüche 1 bis 8 eingerichtet ist.
PCT/EP2016/051779 2015-02-02 2016-01-28 Verfahren zum auswählen eines bedienelements eines kraftfahrzeugs und bediensystem für ein kraftfahrzeug WO2016124473A1 (de)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102015201728.1A DE102015201728A1 (de) 2015-02-02 2015-02-02 Verfahren zum Auswählen eines Bedienelements eines Kraftfahrzeugs und Bediensystem für ein Kraftfahrzeug
DE102015201728.1 2015-02-02

Publications (1)

Publication Number Publication Date
WO2016124473A1 true WO2016124473A1 (de) 2016-08-11

Family

ID=55359496

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2016/051779 WO2016124473A1 (de) 2015-02-02 2016-01-28 Verfahren zum auswählen eines bedienelements eines kraftfahrzeugs und bediensystem für ein kraftfahrzeug

Country Status (2)

Country Link
DE (1) DE102015201728A1 (de)
WO (1) WO2016124473A1 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11768536B2 (en) 2021-09-09 2023-09-26 Toyota Motor Engineering & Manufacturing North America, Inc. Systems and methods for user interaction based vehicle feature control

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102015115526A1 (de) 2015-09-15 2017-03-16 Visteon Global Technologies, Inc. Verfahren zur Zielerfassung von Zielobjekten, insbesondere zur Zielerfassung von Bedienelementen in einem Fahrzeug
DE102017200717A1 (de) 2016-12-23 2018-06-28 Audi Ag Berührungslos bedienbare Bedienvorrichtung für ein Kraftfahrzeug sowie Kraftfahrzeug und Betriebsverfahren für die Bedienvorrichtung
JP6884123B2 (ja) * 2018-05-15 2021-06-09 Kddi株式会社 ユーザの注視点を推定する注視点推定装置、プログラム及び方法
DE102020205328A1 (de) 2020-04-28 2021-10-28 Daimler Ag Verfahren zur Darstellung von der Umgebung überlagerten Objekten

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050248529A1 (en) * 2004-05-06 2005-11-10 Kenjiro Endoh Operation input device and method of operation input
DE102009046376A1 (de) * 2009-11-04 2011-05-05 Robert Bosch Gmbh Fahrerassistenzsystem für ein Fahrzeug mit einer Eingabevorrichtung zur Eingabe von Daten
US20110228975A1 (en) * 2007-05-23 2011-09-22 The University Of British Columbia Methods and apparatus for estimating point-of-gaze in three dimensions
DE102012019508A1 (de) * 2012-10-05 2014-04-10 GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) Kraftfahrzeug mit Umgebungssensor und Display
DE102012219280A1 (de) * 2012-10-23 2014-04-24 Robert Bosch Gmbh Fahrerassistenzsystem und Verfahren
DE102012215407A1 (de) * 2012-08-30 2014-05-28 Bayerische Motoren Werke Aktiengesellschaft Bereitstellen einer Eingabe für ein Bedienelement
US20140348377A1 (en) * 2013-05-24 2014-11-27 Honda Motor Co., Ltd. Field of vision capture

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6531999B1 (en) * 2000-07-13 2003-03-11 Koninklijke Philips Electronics N.V. Pointing direction calibration in video conferencing and other camera-based system applications
US6600475B2 (en) * 2001-01-22 2003-07-29 Koninklijke Philips Electronics N.V. Single camera system for gesture-based input and target indication
JP2005138755A (ja) * 2003-11-07 2005-06-02 Denso Corp 虚像表示装置およびプログラム
US8933882B2 (en) * 2012-12-31 2015-01-13 Intentive Inc. User centric interface for interaction with visual display that recognizes user intentions
US8931905B2 (en) * 2013-01-25 2015-01-13 James Waller Lambuth Lewis Binocular measurement method and device
KR101519290B1 (ko) * 2014-04-09 2015-05-11 현대자동차주식회사 차량용 헤드 업 디스플레이 제어방법

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050248529A1 (en) * 2004-05-06 2005-11-10 Kenjiro Endoh Operation input device and method of operation input
US20110228975A1 (en) * 2007-05-23 2011-09-22 The University Of British Columbia Methods and apparatus for estimating point-of-gaze in three dimensions
DE102009046376A1 (de) * 2009-11-04 2011-05-05 Robert Bosch Gmbh Fahrerassistenzsystem für ein Fahrzeug mit einer Eingabevorrichtung zur Eingabe von Daten
DE102012215407A1 (de) * 2012-08-30 2014-05-28 Bayerische Motoren Werke Aktiengesellschaft Bereitstellen einer Eingabe für ein Bedienelement
DE102012019508A1 (de) * 2012-10-05 2014-04-10 GM Global Technology Operations LLC (n. d. Gesetzen des Staates Delaware) Kraftfahrzeug mit Umgebungssensor und Display
DE102012219280A1 (de) * 2012-10-23 2014-04-24 Robert Bosch Gmbh Fahrerassistenzsystem und Verfahren
US20140348377A1 (en) * 2013-05-24 2014-11-27 Honda Motor Co., Ltd. Field of vision capture

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11768536B2 (en) 2021-09-09 2023-09-26 Toyota Motor Engineering & Manufacturing North America, Inc. Systems and methods for user interaction based vehicle feature control

Also Published As

Publication number Publication date
DE102015201728A1 (de) 2016-08-04

Similar Documents

Publication Publication Date Title
WO2016124473A1 (de) Verfahren zum auswählen eines bedienelements eines kraftfahrzeugs und bediensystem für ein kraftfahrzeug
EP3067244B1 (de) Kraftfahrzeug mit situationsadaptivem automatischem fahrmodus
WO2017211817A1 (de) Bedienvorrichtung mit eyetrackereinheit und verfahren zum kalibrieren einer eyetrackereinheit einer bedienvorrichtung
EP3418861B1 (de) Verfahren zum betreiben einer anzeigevorrichtung sowie ein kraftfahrzeug
EP3114554B1 (de) Verfahren und vorrichtung zum bereitstellen einer graphischen benutzerschnittstelle in einem fahrzeug
DE102010048745A1 (de) Benutzerschnittstelle und Verfahren zum Bedienen einer Benutzerschnittstelle
EP3040849B1 (de) Fortbewegungsmittel, Anwenderschnittstelle und Verfahren zur übergreifenden Anzeige eines Anzeigeinhaltes auf zwei Anzeigeeinrichtungen
DE102014200993A1 (de) Anwenderschnittstelle und Verfahren zur Anpassung einer Ansicht auf einer Anzeigeeinheit
DE102011112448A1 (de) Verfahren und Vorrichtung zum Bereitstellen einer Nutzerschnittstelle, insbesondere in einem Fahrzeug
DE102012206247A1 (de) Verfahren und Vorrichtung zur Anzeige einer Hand eines Bedieners eines Bedienelements eines Fahrzeugs
DE102014012550A1 (de) Kraftfahrzeug-Bedienungsvorrichtung
WO2015121187A1 (de) Anwenderschnittstelle und verfahren zum berührungslosen bedienen eines in hardware ausgestalteten bedienelementes in einem 3d-gestenmodus
DE102013217558A1 (de) Verfahren zum Steuern einer Informationsanzeigeeinrichtung sowie Vorrichtung mit einer Informationsanzeigeeinrichtung
DE102016120999A1 (de) Benutzerschnittstelle und Verfahren zur Ein- und Ausgabe von Informationen in einem Fahrzeug
DE102013000069B4 (de) Kraftfahrzeug-Bedienschnittstelle mit einem Bedienelement zum Erfassen einer Bedienhandlung
WO2017054894A1 (de) Interaktives bediensystem und verfahren zum durchführen einer bedienhandlung bei einem interaktiven bediensystem
EP2925552B1 (de) Bedienverfahren und bediensystem in einem strassenfahrzeug
DE102013022035B4 (de) Kraftfahrzeug-Bedienvorrichtung mit graphischer Benutzerschnittstelle, sowie Kraftfahrzeug und Verfahren
DE102015222682A1 (de) Verfahren zum Aktivieren eines Bedienelements eines Kraftfahrzeugs und Bediensystem für ein Kraftfahrzeug
EP3188922B1 (de) Bedienvorrichtung und verfahren zum bedienen von funktionen eines fahrzeugs, insbesondere eines kraftwagens
DE102017218718A1 (de) Verfahren, Vorrichtung und Fortbewegungsmittel zur Unterstützung einer Gestensteuerung für ein virtuelles Display
EP2030828A2 (de) Multimodales Bediensystem und Verfahren zum Bedienen von Komponenten und Funktionen in einem Kraftfahrzeug
DE102013019570A1 (de) Bedieneinrichtung mit berührungsloser Schrifteingabefunktion für ein Kraftfahrzeug, Kraftfahrzeug und Verfahren zum Betreiben einer Bedieneinrichtung
DE102015201730A1 (de) Verfahren zum Auswählen eines Bedienelements eines Kraftfahrzeugs und Bediensystem für ein Kraftfahrzeug
WO2014114428A1 (de) Verfahren und system zum blickrichtungsabhängigen steuern einer mehrzahl von funktionseinheiten sowie kraftwagen und mobiles endgerät mit einem solchen system

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16704549

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 16704549

Country of ref document: EP

Kind code of ref document: A1