WO2017140569A1 - Kraftfahrzeug-bedienvorrichtung und verfahren zum betreiben einer bedienvorrichtung, um eine wechselwirkung zwischen einer virtuellen darstellungsebene und einer hand zu bewirken - Google Patents
Kraftfahrzeug-bedienvorrichtung und verfahren zum betreiben einer bedienvorrichtung, um eine wechselwirkung zwischen einer virtuellen darstellungsebene und einer hand zu bewirken Download PDFInfo
- Publication number
- WO2017140569A1 WO2017140569A1 PCT/EP2017/052848 EP2017052848W WO2017140569A1 WO 2017140569 A1 WO2017140569 A1 WO 2017140569A1 EP 2017052848 W EP2017052848 W EP 2017052848W WO 2017140569 A1 WO2017140569 A1 WO 2017140569A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- user
- objects
- hand
- operating
- interaction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/10—Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
- B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
- B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
- B60K35/22—Display screens
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/11—Instrument graphical user interfaces or menu aspects
- B60K2360/111—Instrument graphical user interfaces or menu aspects for controlling multiple devices
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/143—Touch sensitive instrument input devices
- B60K2360/1438—Touch screens
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/146—Instrument input by gesture
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/146—Instrument input by gesture
- B60K2360/1464—3D-gesture
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
- B60K2360/20—Optical features of instruments
- B60K2360/21—Optical features of instruments using cameras
Definitions
- the invention relates to a method for operating an operating device in order to effect an interaction between graphical objects which are displayed in a virtual display plane of a display device and a user's hand located outside this display device.
- the invention also includes an operating device for carrying out the method according to the invention.
- the operating device can be provided in particular in a motor vehicle, which is why the invention also includes a motor vehicle with the operating device according to the invention.
- a mouse pointer or another representation can be represented, for example, together with the graphic object in the virtual display plane, which the user then displays from outside the virtual display plane by means of a real operating element, e.g. a joystick, can move.
- a real operating element e.g. a joystick
- VR virtual reality
- EP 2 930 603 A1 It is known from EP 2 930 603 A1 to place grouped objects in a different display state in groups when an approach of a hand of a user to the display device is detected. The user can then manipulate this group through further operations. Again, after activating the group, it is first necessary to wait and see which command should actually be performed on this group.
- the invention is based on the object of effecting an interaction between graphic objects in a virtual display plane of a display device on the one hand and a user's hand located outside the display direction on the other hand.
- the object is solved by the subject matters of the independent claims.
- Advantageous developments of the invention are disclosed by the features of the dependent claims, the following description and the figures.
- the invention provides a method for operating an operating device.
- the operating device can be configured, for example, as an infotainment system (information entertainment system) of a motor vehicle.
- the operating device can also be realized, for example, by a portable mobile terminal, that is, for example, a smartphone or a tablet PC.
- the method effects an interaction between graphical objects which are displayed in a virtual display plane of a display device and a user's hand located outside this display device.
- a detection device a hand gesture that is free of contact with the outside of the display device is detected by the hand in a predetermined manner.
- the hand gesture determines the interaction to be applied to one or more of the objects.
- the user can perform a sliding gesture with his hand as if he were pushing objects floating freely in space away from him or pushing them aside.
- a selection mode is activated in the virtual presentation level when detected hand gesture.
- the control device thus changes from a normal operating mode or operating mode into a selection mode.
- a respectively assigned operating function can be activated, for example an air conditioning system set or a navigation device configured.
- the selection mode is activated, the user then receives from the user a user selection of at least one of the objects to which the hand gesture is to act.
- the user determines through user selection which of the objects to manipulate from the interaction represented or determined by the hand gesture. For example, it determines by the user selection which of the objects is to be moved by its shift gesture.
- the user selection can be done for example by tapping or touching the objects on the display device.
- the associated operating function is not activated here.
- the detection device finally acquires a confirmation gesture concluding the user selection.
- the confirmation gesture finally determines which of the objects as a whole is to be recorded by the hand gesture.
- the control device determines the interaction determined by the hand gesture on the at least one object selected in the virtual presentation plane selected by the user selection. turned. In the example described, the selected objects are then moved. In other words, the user establishes a manipulation function by the hand gesture, determines by the user selection the objects to which the manipulation function is to be applied, and finally the control device applies the selected manipulation function to the selected objects.
- the invention provides the advantage that the user can determine freely in space with a hand gesture, which interaction he wishes with the objects, that is, for example, if they are moved or deleted. Since the user can not intervene directly with the virtual representation plane, for example with a virtual representation of his hand, and can directly grasp or touch the objects to be changed or manipulated, the invention solves this problem by determining the interaction in a selection mode the user is still determined by means of the user selection on which of the objects the interaction is to act. This saves the complex representation of the user's hand by a virtual hand in the virtual presentation level. Finally, the selected objects can then actually be manipulated according to the selected or specified interaction.
- the invention includes optional developments, the characteristics of which provide additional advantages.
- a gripping movement or catching position is recognized as the hand gesture.
- the gripping movement may be, for example, a movement of the hand with the fingers open and then closing the fingers to the fist.
- the catching posture can be, for example, the holding of the flat or curved hand with the palm upwards.
- the user selection determines which of the objects are then selected from the virtual presentation plane pulled out or fall out of the virtual presentation level.
- the falling out can be visualized by a corresponding animation of the selected objects on the display device.
- the user selection is received as an inverse selection, in that all objects except those marked by the user are included in the user selection. So the user first marks some objects. The user selection then includes all unmarked objects. This results in the advantage that the selection of a plurality of objects, namely in particular more than half of the objects, takes place with fewer operating steps.
- a further development provides that the user selection is terminated by the recognition device only when the final confirmation gesture is recognized, and only then, by the control device, is the interaction simultaneously applied to each selected object. This has the advantage that the user can still reschedule during the user selection, ie before the termination, and can undo a selection, for example. With immediate deletion of an object this would not be possible.
- the method for operating the operating device can be used for different fields of application.
- a further development provides that hereby a menu structure or a menu content and a content of a desktop view are adjusted. The operating menu or the desktop in this case represents the virtual presentation level.
- the interaction is used to adapt a content of an operating menu provided in the virtual representation level for activating operating functions of the operating device and / or a collection of icons (image symbols) ,
- the user can remove menu items of the operating menu or remove icons. Only the menu entries or icons selected by the user remain.
- operating functions for example, controlling an air-conditioning device and / or media playback (radio or MP3 playback device) and / or setting a seat position can be performed by the operating device. tion in a motor vehicle and / or the operation of a navigation device may be provided.
- a further development relates to the selection mode.
- the objects are displayed differently and graphically and / or dynamically, that is to say in their movement, by the control device when the selection mode is activated than in the case of an inactive selection mode.
- a graphic change for example, a color and / or shape and / or marking can be changed.
- a dynamic change for example, a silent or motionless representation on the one hand and, for example, a pulsating or rotating representation on the other hand be provided.
- the hand gesture is detected by means of a camera by the detection device.
- the camera here means the actual image capture device as well as an associated image processing device by which a hand is recognized in image data of the image capture device and its position in space is detected.
- a time-of-flight camera is used. This has the advantage that directly on the basis of the 3D image data of the time-of-flight camera, a relative position of the hand in space with respect to the camera can be detected.
- a development provides that the user selection of the at least one object is detected by the detection device in each case by means of a sensor matrix on a display surface of the display device as a respective contact of the object. The user thus interacts directly with this by touching each object.
- a sensor matrix can be realized, for example, by means of a touchscreen, by means of which both the display surface of the display device and the touch-sensitive sensor matrix can be provided.
- the invention also provides an operating device which comprises a display device, a detection device and a control device.
- the display device is set up to display graphic objects in a virtual display plane.
- the detection device is set up to display, outside the display device, a hand gesture of a hand of a user. He realizes that he performs it freely in the room.
- This predetermined hand gesture represents an interaction to be applied to at least one or more of the objects, that is, for example, a deletion function.
- the detection device is further configured to receive a user selection of the user of the objects to which the hand gesture is to act.
- the control device is configured to activate a selection mode for receiving the user selection and to implement or apply the interaction defined by the recognized hand gesture to the at least one object selected by the user selection in the virtual presentation plane.
- the operating device performs an embodiment of the method according to the invention by means of its display device, detection device and control device.
- the display device can be realized, for example, by a screen or a head-up display.
- the detection device may comprise a camera, in particular a time-of-flight camera, and / or a sensor matrix in the manner described.
- the control device can be realized on the basis of a processor device, for example a microcontroller or microprocessor.
- the control device then has a corresponding program module, by means of which, when it is executed by the processor device, those method steps which relate to the control device are carried out.
- the operating device can be provided in the manner described in a portable, mobile terminal, for example a smartphone or tablet PC.
- the operating device is realized in a motor vehicle.
- the invention also provides a motor vehicle with an embodiment of the operating device according to the invention.
- the motor vehicle according to the invention is preferably designed as a motor vehicle, in particular as a passenger car or truck.
- FIG. 1 shows a schematic representation of an embodiment of the operating device according to the invention in a normal operating mode
- FIG. 2 shows a schematic representation of the operating device of FIG. 1 upon detection of a hand gesture of a user
- FIG. 1 shows a schematic representation of an embodiment of the operating device according to the invention in a normal operating mode
- FIG. 2 shows a schematic representation of the operating device of FIG. 1 upon detection of a hand gesture of a user
- FIG. 3 shows a schematic illustration of the operating device in a selection mode different from the normal operating mode
- Fig. 4 is a schematic illustration of a user's hand in carrying out a confirmation gesture
- Figure 5 is a schematic representation of the operator after returning from the selection mode to the normal mode of operation.
- the exemplary embodiment explained below is a preferred embodiment of the invention.
- the described components of the embodiment each represent individual features of the invention that are to be considered independently of one another, which also each independently further develop the invention and thus also individually or in a different combination than the one shown as part of the invention.
- the described embodiment can also be supplemented by further features of the invention already described.
- the operating device 1 shows an operating device 1 which may be provided, for example, in a motor vehicle 2 or (not shown) in a portable, mobile terminal, for example a smartphone or a tablet PC.
- the operating device 1 may have a display device 3 with a display surface 4.
- the display device 3 may be, for example, a screen or a head-up display.
- a display content on the display surface 4 may be controlled by a controller 5, which may be realized, for example, on the basis of a microcontroller or microprocessor.
- the control device 5 for example, device components 6, for example vehicle components of the motor vehicle 2, can be controlled by a corresponding control signal 7.
- the device components 6 are shown in Fig. 1 only by a single element.
- a respective operating function 8 can be realized by the example, a graphical user interface for operating the respective device component or a control function for triggering a device function of the respective device component.
- the control device 5 can be represented by corresponding graphics data 9 on the display surface 4 of the display device 3, the operating functions 8 each by a graphical object 10, such as an icon or a logo, or a menu item.
- the operating device 1 it is possible for a user to simultaneously select a plurality of the graphic objects 10 and thereby, for example, in a menu select the operating functions 8 to be offered to the user on the display surface 4, ie a selection of the graphic objects 10 to be displayed only. meets.
- the operating device 1 may comprise a detection device 11, which may comprise, for example, a camera 12, in particular a TOF camera, and / or a proximity-sensitive and / or touch-sensitive sensor matrix 13.
- the sensor matrix 13 may be provided, for example, on the display surface 4, that is, the display device 3 is in this case a touch screen.
- a detection area 14 of the camera 12 may also be directed to the display area 4.
- the graphical objects 10 may be, for example, list entries of an operating menu or icons of a desktop. Accordingly, a display plane 15, which is shown on the display surface 4 and on which the objects 10 are arranged, forms a virtual display plane, such as an operating menu or a desktop. The user is now able to select which graphical objects 10 he wants to get displayed from the presentation plane 15. In other words, he can customize an operating menu or an arrangement of icons. By means of the operating device 1, it is hereby possible for him by means of gesture operation and on the sensor matrix 13 of the display device 3 to delete / hide menu contents / elements, that is, the graphical objects 10, make.
- the display of graphic objects 10 shown in FIG. 1 may, for example, represent a standard orientation of the menu arrangement of individual menu items in the form of the graphic objects 10. Each menu item may represent, for example, one of the operating functions 8, for example for radio, navigation, climate control, seat adjustment.
- FIG. 2 shows how the user can now specify that some of the graphical objects are to be removed from the presentation plane 15.
- the user performs with his hand 16 an operating gesture 17, which determines the desire of a deletion process or the desire to hide one of the graphic objects 10, thus announcing an interaction that the user with the hand 16 and the graphical Want to cause objects 10.
- the hand gesture 17 may, for example, represent an attitude of the hand 16, in which the hand represents for collecting the falling out of the virtual display plane 15 and thus from the display device 3 graphic objects 10 by a flat, turned up palm or a curved, upward turned palm is shown.
- the camera 12 the hand 16 is imaged in the hand gesture 17 by 3D image data 18.
- the detection device 1 1 detects the hand gesture 17 and signals it to the control device 5, which then activates a selection mode A for the display plane 15, which is also shown in FIG.
- a selection mode A for the display plane 15, which is also shown in FIG.
- a graphical and / or dynamic representation of the objects 10 is modified in such a way that the graphical objects 10 are animated and / or displayed in a different shape, size, color and / or in comparison to the normal operating mode illustrated in FIG. or in a dynamically variable form, for example, pulsatingly larger and smaller. It can also be a wobble or flashing provided.
- FIG. 3 shows how a selection of the graphic objects 10 to be removed is determined by the detection device 11 in the selection mode A.
- a direct selection takes place, that is to say the user can mark the objects 10 to be removed.
- the user selection can be detected via the sensor matrix 13 on the display surface 4.
- the user can, for example, touch or touch the objects 10 to be selected with a finger 19 of the hand 16 on the display surface 4. These can then also be marked graphically as selected.
- the marked or selected objects 10 represent a user selection 10 '.
- the user can freely execute in space a confirmation gesture 20 in which the user, for example, performs a swiping movement with the hand 16 in a predetermined wiping direction.
- This confirmation gesture 20 can in turn be detected by the camera 12 and represented by 3D image data 18 so that it can be recognized by the image recognition device of the detection device 11 as the confirmation gesture 20.
- the user selection is completed by the control device 5 in such a way that the interaction or manipulation function established by the hand gesture 17 is now applied to the selected objects 10.
- the selected objects "fall out of the display device 15", for example by being shifted downwards in an animation 21 on the virtual presentation plane 5 as shown in FIG. 5 and then out of the virtual presentation plane 15, that is to say the display device 3 falls out or disappears, the animation 21 thus representing the falling out of the selected object 10 and thus the interaction defined by the hand gesture 17.
- the graphic objects 10 desired by the user then remain for this reason Quick access or direct access to operating functions 8 is possible over the remaining graphical objects 10, without the user having to visually seek out the right objects from a variety of otherwise unnecessary graphical objects can be used on an operating device.
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Combustion & Propulsion (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Die Erfindung betrifft ein Verfahren zum Betreiben einer Bedienvorrichtung (1), um eine Wechselwirkung (21) zwischen graphischen Objekten (10) und einer Hand (16) eines Benutzers zu bewirken, wobei durch eine Erfassungseinrichtung (11) eine von der Hand (16) frei im Raum berührungslos durchgeführte, vorbestimmte Handgeste (17), durch welche die auf zumindest eines oder einige der Objekte (10) anzuwendende Wechselwirkung (21) festgelegt wird, erkannt wird; durch eine Steuereinrichtung (5) bei erkannter Handgeste (17) ein Auswahlmodus (A) aktiviert wird; durch die Erfassungseinrichtung (11) bei aktiviertem Auswahlmodus (A) von dem Benutzer eine Benutzerauswahl (10') zumindest eines der Objekte (10), auf welches die Handgeste (17) wirken soll, empfangen wird und eine die Benutzerauswahl (10') abschließende Bestätigungsgeste (20) erfasst wird und durch die Steuereinrichtung (5) die durch die erkannte Handgeste (17) festgelegte Wechselwirkung (21) auf das zumindest eine durch die Benutzerauswahl (10') ausgewählte Objekt (10) angewendet wird.
Description
Kraftfahrzeug-Bedienvorrichtung und Verfahren zum Betreiben einer Bedienvorrichtung, um eine Wechselwirkung zwischen einer virtuellen Darstellungsebene und einer Hand zu bewirken
BESCHREIBUNG:
Die Erfindung betrifft ein Verfahren zum Betreiben einer Bedienvorrichtung, um eine Wechselwirkung zwischen graphischen Objekten, die in einer virtuellen Darstellungsebene einer Anzeigeeinrichtung angezeigt werden, und einer außerhalb dieser Anzeigeeinrichtung befindlichen Hand eines Benutzers zu bewirken. Zu der Erfindung gehört auch eine Bedienvorrichtung zum Durchführen des erfindungsgemäßen Verfahrens. Die Bedienvorrichtung kann insbesondere in einem Kraftfahrzeug bereitgestellt werden, weshalb die Erfindung auch ein Kraftfahrzeug mit der erfindungsgemäßen Bedienvorrich- tung umfasst.
Im Bereich der Darstellung virtueller Objekte auf einer Anzeigevorrichtung ist es oftmals nötig, dass ein Benutzer mit einem solchen virtuellen Objekt inter- agieren, also beispielsweise das Objekt manipulieren kann. Hierzu kann zu- sammen mit dem graphischen Objekt in der virtuellen Darstellungsebene beispielsweise ein Mauszeiger oder eine andere Repräsentation dargestellt werden, die der Benutzer dann von außerhalb der virtuellen Darstellungsebene mittels eines realen Bedienelements, z.B. eines Joysticks, bewegen kann. Um direkt eine Bewegung einer Hand des Benutzers in der virtuellen Darstellungsebene umzusetzen, ist bekannt, hierzu eine dreidimensionale virtuelle Repräsentation der Hand in einer virtuellen Realität (VR - Virtual Reality) zu repräsentieren. Dies ist aber in der Implementierung aufwendig.
Aus der DE 10 2008 048 825 A1 ist bekannt, ein graphisches Objekt, das in einer virtuellen Darstellungsebene, beispielsweise einem virtuellen Desktop (Schreibtischoberfläche) dargestellt wird, an die Bewegung eines Fingers zu koppeln, indem ein Benutzer zunächst eine Aktivierungsgeste durch Annähern der Hand mit gespreizten Fingern ausführt und hierdurch ein Modifizierungsmodus für die graphischen Objekte in der virtuellen Ebene aktiviert
wird. Nachteilig bei dieser Lösung ist, dass durch die Aktivierungsgeste lediglich ein einziger Modifiziermodus aktiviert werden kann, wobei dann nach Aktivieren dieses Modifiziermodus der Benutzer zusätzliche Eingaben machen muss, um anzuzeigen, was er eigentlich an den Objekten verändern möchte.
Aus der EP 2 930 603 A1 ist bekannt, gruppierte Objekte gruppenweise in einen anderen Anzeigezustand zu versetzen, wenn eine Annäherung einer Hand eines Benutzers an die Anzeigeeinrichtung erkannt wird. Der Benutzer kann dann diese Gruppe durch weitere Bedienschritte manipulieren. Auch hier muss zunächst nach dem Aktivieren der Gruppe abgewartet werden, welcher Befehl eigentlich an dieser Gruppe durchgeführt werden soll.
Aus der US 2007 0157089 A1 ist bekannt, in Abhängigkeit von einer vorbe- stimmten Nutzerhandlung an einem Touchscreen einen Rekonfigurations- prozess zu starten, in welchem der Benutzer dann graphische Objekte auf der Anzeigeeinrichtung des Touchscreens mit dem Finger verschieben kann. Hierbei ist nachteilig, dass der Benutzer mit dem Finger jedes einzelne Objekt behandeln muss, also beispielsweise einen Verschiebeprozess einzeln auf jedes Objekt anwenden muss, und somit keine gleichzeitige Verschiebung mehrerer Objekte möglich ist.
Wünschenswert wäre es, wenn ein Benutzer mit einer Hand frei im Raum beispielsweise eine Greifgeste ausführen könnte und dies so wirken würde, als würde er mit der Hand in die virtuelle Darstellungsebene hinein greifen und dort eine direkte Wechselwirkung seiner Hand mit den graphischen Objekten stattfinden. Dies ist zwar mit der virtuellen Realität (VR) möglich, erfordert dann aber einen hohen Implementierungsaufwand. Der Erfindung liegt die Aufgabe zugrunde, eine Wechselwirkung zwischen graphischen Objekten in einer virtuellen Darstellungsebene einer Anzeigeeinrichtung einerseits und einer außerhalb der Anzeigerichtung befindlichen Hand eines Benutzers andererseits zu bewirken. Die Aufgabe wird durch die Gegenstände der unabhängigen Patentansprüche gelöst. Vorteilhafte Weiterbildungen der Erfindung sind durch die Merkmale der abhängigen Patentansprüche, die folgende Beschreibung sowie die Figuren offenbart.
Durch die Erfindung ist ein Verfahren zum Betreiben einer Bedienvorrichtung bereitgestellt. Die Bedienvorrichtung kann beispielsweise als ein Infotain- mentsystem (Informations-Unterhaltungssystem) eines Kraftfahrzeugs ausgestaltet sein. Die Bedienvorrichtung kann aber beispielsweise auch durch ein portables mobiles Endgerät, also beispielsweise ein Smartphone oder einen Tablet-PC, realisiert sein. Durch das Verfahren wird eine Wechselwirkung zwischen graphischen Objekten, die in einer virtuellen Darstellungsebene einer Anzeigeeinrichtung angezeigt werden, und einer außerhalb dieser Anzeigeeinrichtung befindlichen Hand des Benutzers bewirkt. Durch eine Erfassungseinrichtung wird eine außerhalb der Anzeigeeinrichtung von der Hand frei im Raum berührungslos ausgeführte, vorbestimmte Handgeste erkannt. Durch die Handgeste wird die auf eines oder mehrere der Objekte anzuwendende Wechselwirkung festgelegt. Beispielsweise kann der Benutzer mit seiner Hand eine Schiebegeste ausführen, als ob er frei im Raum schwebende Objekte von sich wegschieben oder zur Seite schieben würde. Durch eine Steuereinrichtung wird bei erkannter Handgeste ein Auswahlmodus in der virtuellen Darstellungsebene aktiviert. Die Steuereinrichtung wechselt also von einem Normalbetriebsmodus oder Bedienmodus in einen Auswahlmodus. Im Normalbetriebsmodus kann z.B. durch Berühren eine jeweiligen Objekts z.B. eine jeweils zugeordnete Bedienfunktion aktiviert werden, z.B. eine Klimaanlage eingestellt oder ein Navigationsgerät konfiguriert werden. Durch die Erfassungseinrichtung wird dann bei aktiviertem Auswahlmodus von dem Benutzer eine Benutzerauswahl zumindest eines der Objekte empfangen, auf welches die Handgeste wirken soll. Mit anderen Worten legt der Benutzer durch die Benutzerauswahl fest, welches oder welche der Objekte von der Wechselwirkung manipuliert werden soll, die durch die Handgeste repräsentiert oder festgelegt ist. Er legt also beispielsweise durch die Benutzerauswahl fest, welches der Objekte durch seine Verschiebegeste verschoben werden soll. Die Benutzerauswahl kann beispielsweise durch Antippen oder Berühren der Objekte an der Anzeigeeinrichtung erfolgen. Anders als im Normalbetriebsmodus wird hier also nicht die zugeordnete Bedienfunktion aktiviert.
Durch die Erfassungseinrichtung wird schließlich eine die Benutzerauswahl abschließende Bestätigungsgeste erfasst. Durch die Bestätigungsgeste ist abschließend festgelegt, welche der Objekte insgesamt von der Handgeste erfasst werden sollen. Durch die Steuereinrichtung wird dann die durch die Handgeste festgelegte Wechselwirkung auf das durch die Benutzerauswahl ausgewählte zumindest eine Objekt in der virtuellen Darstellungsebene ab-
gewendet. In dem beschriebenen Beispiel werden dann also die ausgewählten Objekte verschoben. Mit anderen Worten legt der Benutzer durch die Handgeste eine Manipulationsfunktion fest, bestimmt durch die Benutzerauswahl die Objekte, auf weiche die Manipulationsfunktion angewendet wer- den soll, und die Steuereinrichtung wendet dann schließlich die ausgewählte Manipulationsfunktion auf die ausgewählten Objekte an.
Durch die Erfindung ergibt sich der Vorteil, dass der Benutzer mit einer Handgeste frei im Raum berührungslos festlegen kann, welche Wechselwir- kung er mit den Objekten wünscht, ob sie also beispielsweise verschoben oder gelöscht werden. Da der Benutzer nun nicht beispielsweise mit einer virtuellen Repräsentation seiner Hand direkt in die virtuelle Darstellungsebene eingreifen kann und die zu verändernden oder zu manipulierenden Objekte direkt greifen oder berühren kann, löst die Erfindung dieses Problem, in- dem nach Festlegen der Wechselwirkung in einem Auswahlmodus durch den Benutzer mittels der Benutzerauswahl noch festgelegt wird, auf welche der Objekte die Wechselwirkung wirken soll. Hierdurch spart man sich das aufwendige Repräsentieren der Benutzerhand durch eine virtuelle Hand in der virtuellen Darstellungsebene. Schließlich können dann die ausgewählten Ob- jekte tatsächlich gemäß der ausgewählten oder festgelegten Wechselwirkung manipuliert werden.
Zu der Erfindung gehören optionale Weiterbildungen, durch deren Merkmale sich zusätzliche Vorteile ergeben.
Gemäß einer Weiterbildung wird als die Handgeste eine Greifbewegung oder Auffanghaltung erkannt. Die Greifbewegung kann beispielsweise eine Bewegung der Hand mit geöffneten Fingern und ein anschließendes Schließen der Finger zur Faust sein. Die Auffanghaltung kann beispielsweise das Aufhalten der flachen oder gekrümmten Hand mit der Handfläche nach oben sein. Durch die Steuereinrichtung wird hierdurch als die Wechselwirkung ein Herausschieben oder Herausfallen des danach durch die Benutzerauswahl festgelegten zumindest einen Objekts aus der virtuellen Ebene umgesetzt. Damit wird ein Löschen dieser Objekte von der Anzeigeeinrichtung realisiert oder umgesetzt. Der Benutzer greift also nach Objekten oder hält die Hand in der Handgeste derart, als wolle er Objekte, die aus der Anzeigeeinrichtung herausfallen, mit der Auffanghaltung auffangen. Die Auffanghaltung wird insbesondere unterhalb der Anzeigeeinrichtung erkannt. Durch die Benutzerauswahl legt er fest, welche der Objekte dann aus der virtuellen Darstellungs-
ebene herausgezogen oder aus der virtuellen Darstellungsebene herausfallen. Das Herausfallen kann durch eine entsprechende Animation der ausgewählten Objekte auf der Anzeigeeinrichtung visualisiert werden. Eine Weiterbildung sieht vor, dass die Benutzerauswahl als eine inverse Auswahl empfangen wird, indem alle Objekte bis auf solche, die durch den Benutzer markiert werden, von der Benutzerauswahl umfasst sind. Der Benutzer markiert also zunächst einige Objekte. Die Benutzerauswahl umfasst dann alle nicht-markierten Objekte. Hierdurch ergibt sich der Vorteil, dass die Auswahl einer Vielzahl von Objekten, nämlich insbesondere mehr als der Hälfte der Objekte, mit weniger Bedienschritten erfolgt.
Beim Empfangen der Benutzerauswahl gibt es die Möglichkeit, nach Auswahl eines der Objekte unmittelbar auf dieses die Wechselwirkung anzu- wenden, also dieses Objekt beispielsweise zu löschen oder zu verschieben. Eine Weiterbildung sieht dagegen vor, dass durch die Erkennungseinrichtung die Benutzerauswahl erst bei Erkennen der abschließenden Bestätigungsgeste beendet wird und durch die Steuereinrichtung erst anschließend die Wechselwirkung gleichzeitig auf jedes ausgewählte Objekt angewendet wird. Hierdurch ergibt sich der Vorteil, dass sich der Benutzer während der Benutzerauswahl, also vor deren Beendigung, noch umentscheiden kann und eine Auswahl beispielsweise rückgängig machen kann. Bei sofortiger Löschung eines Objekts wäre dies nicht möglich. Das Verfahren zum Betreiben der Bedienvorrichtung kann für unterschiedliche Anwendungsgebiete genutzt werden. Eine Weiterbildung sieht vor, dass hiermit eine Menü struktur oder ein Menüinhalt und ein Inhalt einer Desktop- Ansicht angepasst werden. Das Bedienmenü beziehungsweise der Desktop stellt in diesem Fall die virtuelle Darstellungsebene dar. Bei der Weiterbil- dung wird durch die Wechselwirkung ein Inhalt eines in der virtuellen Darstellungsebene für eine Aktivierung von Bedienfunktionen der Bedienvorrichtung bereitgestellten Bedienmenüs und/oder eine Sammlung von Icons (Bildsymbolen) angepasst. Beispielsweise kann der Benutzer also Menüeinträge des Bedienmenüs entfernen oder Icons entfernen. Es bleiben dann nur die vom Benutzer ausgewählten Menüeinträge beziehungsweise Icons übrig. Als Bedienfunktionen können durch die Bedienvorrichtung beispielsweise das Steuern einer Klimatisierungseinrichtung und/oder einer Medienwiedergabe (Radio oder MP3-Abspieleinrichtung) und/oder das Einstellen einer Sitzposi-
tion in einem Kraftfahrzeug und/oder das Bedienen einer Navigationseinrichtung vorgesehen sein.
Eine Weiterbildung betrifft den Auswahlmodus. Bei dieser Weiterbildung werden durch die Steuereinrichtung bei aktiviertem Auswahlmodus die Objekte graphisch und/oder dynamisch, das heißt in ihrer Bewegung, anders dargestellt als bei inaktivem Auswahlmodus. Als graphische Änderung kann beispielsweise eine Farbe und/oder Form und/oder Markierung verändert werden. Als dynamische Änderung können beispielsweise eine stille oder bewegungslose Darstellung einerseits und beispielsweise eine pulsierende oder drehende Darstellung andererseits vorgesehen sein.
Um die Handgeste zuverlässig außerhalb der Anzeigeeinrichtung zu erfassen, sieht eine Weiterbildung vor, dass durch die Erfassungseinrichtung die Handgeste mittels einer Kamera erfasst wird. Mit der Kamera ist hierbei die eigentliche Bilderfassungseinrichtung sowie eine zugehörige Bildverarbeitungseinrichtung gemeint, durch welche in Bilddaten der Bilderfassungseinrichtung eine Hand erkannt und deren Lage im Raum erfasst wird. Insbesondere ist vorgesehen, dass eine Time-of-Flight-Kamera verwendet wird. Diese weist den Vorteil auf, dass unmittelbar anhand der 3D-Bilddaten der Time-of- Flight-Kamera eine relative Lage der Hand im Raum bezüglich der Kamera erfasst werden kann.
Um die Benutzerauswahl zu erfassen, sieht eine Weiterbildung vor, dass durch die Erfassungseinrichtung die Benutzerauswahl des zumindest einen Objekts jeweils mittels einer Sensormatrix an einer Anzeigefläche der Anzeigeeinrichtung als eine jeweilige Berührung des Objekts erfasst wird. Der Benutzer interagiert also direkt durch Berühren jedes Objekts mit diesem. Eine solche Sensormatrix kann beispielsweise mittels eines Berührungsbild- schirms (Touchscreen) realisiert sein, durch welchen sowohl die Anzeigefläche der Anzeigeeinrichtung als auch die berührungssensitive Sensormatrix bereitgestellt werden können.
Um das erfindungsgemäße Verfahren durchzuführen, ist durch die Erfindung auch eine Bedienvorrichtung bereitgestellt, die eine Anzeigeeinrichtung, eine Erfassungseinrichtung und eine Steuereinrichtung umfasst. Die Anzeigeeinrichtung ist dazu eingerichtet, graphische Objekte in einer virtuellen Darstellungsebene anzuzeigen. Die Erfassungseinrichtung ist dazu eingerichtet, außerhalb der Anzeigeeinrichtung eine Handgeste einer Hand eines Benut-
zers zu erkennen, die dieser frei im Raum durchführt. Diese vorbestimmte Handgeste repräsentiert eine auf zumindest eines oder mehrere der Objekte anzuwendende Wechselwirkung, also beispielsweise eine Löschfunktion. Die Erfassungseinrichtung ist des Weiteren dazu eingerichtet, eine Benutzer- auswahl derjenigen der Objekte, auf welche die Handgeste wirken soll, von dem Benutzer zu empfangen. Die Steuereinrichtung ist dazu eingerichtet, einen Auswahlmodus zum Empfangen der Benutzerauswahl zu aktivieren und die durch die erkannte Handgeste festgelegte Wechselwirkung auf das zumindest eine durch die Benutzerauswahl ausgewählte Objekt in der virtuel- len Darstellungsebene umzusetzen oder anzuwenden. Hierbei ist vorgesehen, dass die erfindungsgemäße Bedienvorrichtung eine Ausführungsform des erfindungsgemäßen Verfahrens mittels ihrer Anzeigeeinrichtung, Erfassungseinrichtung und Steuereinrichtung durchführt. Die Anzeigeeinrichtung kann beispielsweise durch einen Bildschirm oder eine Kopf-oben-Anzeige (Head-up-Display) realisiert sein. Die Erfassungseinrichtung kann in der beschriebenen Weise eine Kamera, insbesondere eine Time-of-Flight-Kamera, und/oder eine Sensormatrix umfassen. Die Steuereinrichtung kann auf der Grundlage einer Prozessoreinrichtung, beispielsweise eines MikroControllers oder Mikroprozessors, realisiert sein. Die Steuereinrichtung weist dann ein entsprechendes Programmmodul auf, durch welches bei dessen Ausführung durch die Prozessoreinrichtung diejenigen Verfahrensschritte durchgeführt werden, welche die Steuereinrichtung betreffen.
Die Bedienvorrichtung kann in der beschriebenen Weise in einem portablen, mobilen Endgerät, beispielsweise einem Smartphone oder Tablet-PC, bereitgestellt sein. Insbesondere ist vorgesehen, dass die Bedienvorrichtung in einem Kraftfahrzeug realisiert ist. Entsprechend sieht die Erfindung auch ein Kraftfahrzeug mit einer Ausführungsform der erfindungsgemäßen Bedienvorrichtung vor. Das erfindungsgemäße Kraftfahrzeug ist bevorzugt als Kraftwa- gen, insbesondere als Personenkraftwagen oder Lastkraftwagen, ausgestaltet.
Im Folgenden ist ein Ausführungsbeispiel der Erfindung beschrieben. Hierzu zeigt:
Fig. 1 eine schematische Darstellung einer Ausführungsform der erfindungsgemäßen Bedienvorrichtung in einem Normalbetriebsmodus;
Fig. 2 eine schematische Darstellung der Bedienvorrichtung von Fig. 1 bei Erkennen einer Handgeste eines Benutzers;
Fig. 3 eine schematische Darstellung der Bedienvorrichtung in einem von dem Normalbetriebsmodus verschiedenen Auswahlmodus;
Fig. 4 eine schematische Darstellung einer Hand des Benutzers beim Ausführen einer Bestätigungsgeste; und Fig. 5 eine schematische Darstellung der Bedienvorrichtung, nachdem sie aus dem Auswahlmodus in den Normalbetriebsmodus zurückgekehrt ist.
Bei dem im Folgenden erläuterten Ausführungsbeispiel handelt es sich um eine bevorzugte Ausführungsform der Erfindung. Bei dem Ausführungsbeispiel stellen die beschriebenen Komponenten der Ausführungsform jeweils einzelne, unabhängig voneinander zu betrachtende Merkmale der Erfindung dar, welche die Erfindung jeweils auch unabhängig voneinander weiterbilden und damit auch einzeln oder in einer anderen als der gezeigten Kombination als Bestandteil der Erfindung anzusehen sind. Des Weiteren ist die beschriebene Ausführungsform auch durch weitere der bereits beschriebenen Merkmale der Erfindung ergänzbar.
In den Figuren sind funktionsgleiche Elemente jeweils mit denselben Be- zugszeichen versehen.
Fig. 1 zeigt eine Bedienvorrichtung 1 , die beispielsweise in einem Kraftfahrzeug 2 oder (nicht dargestellt) in einem portablen, mobilen Endgerät, beispielsweise einem Smartphone oder einem Tablet-PC, bereitgestellt sein kann. Die Bedienvorrichtung 1 kann eine Anzeigeeinrichtung 3 mit einer Anzeigefläche 4 aufweisen. Die Anzeigeeinrichtung 3 kann beispielsweise ein Bildschirm oder eine Kopf-oben-Anzeige (Head-up-Display) sein. Ein Anzeigeinhalt auf der Anzeigefläche 4 kann durch eine Steuereinrichtung 5 gesteuert sein, die beispielsweise auf der Grundlage eines MikroControllers o- der Mikroprozessors realisiert sein kann. Durch die Steuereinrichtung 5 können beispielsweise Gerätekomponenten 6, beispielsweise Fahrzeugkomponenten des Kraftfahrzeugs 2, durch ein entsprechendes Steuersignal 7 gesteuert werden. Die Gerätekomponenten 6 sind in der Fig. 1 lediglich durch ein einzelnes Element dargestellt. Für jede der Gerätekomponenten 6 kann
durch die Steuereinrichtung 5 eine jeweilige Bedienfunktion 8 bereitgestellt sein, durch die beispielsweise eine graphische Benutzerschnittstelle zum Bedienen der jeweiligen Gerätekomponente oder eine Steuerfunktion zum Auslösen einer Gerätefunktion der jeweiligen Gerätekomponente realisiert sein kann. Durch die Steuereinrichtung 5 können durch entsprechende Graphikdaten 9 auf der Anzeigefläche 4 der Anzeigeeinrichtung 3 die Bedienfunktionen 8 jeweils durch ein graphisches Objekt 10, beispielsweise ein Icon oder einen Schriftzug, oder einen Menüeintrag, repräsentiert sein. Bei der Bedienvorrichtung 1 ist es ermöglicht, dass ein Benutzer nun gleichzeitig mehrere der graphischen Objekte 10 auswählt und hierdurch beispielsweise in einem Menü eine Auswahl der dem Benutzer auf der Anzeigefläche 4 anzubietenden Bedienfunktionen 8, das heißt eine Auswahl der nur noch anzuzeigenden graphischen Objekte 10, trifft. Es kann auch eine gleichzeitige Aktivierung mehrerer der Bedienfunktionen 8 durch eine entsprechende gleichzeitige Auswahl mehrerer der graphischen Objekte 10 realisiert sein. Zum Erkennen oder Erfassen der Benutzerauswahl kann die Bedienvorrichtung 1 eine Erfassungseinrichtung 1 1 aufweisen, die beispielsweise eine Kamera 12, insbesondere eine TOF-Kamera, und/oder eine nä- herungssensitive und/oder berührungssensitive Sensormatrix 13 umfassen kann. Die Sensormatrix 13 kann beispielsweise an der Anzeigefläche 4 bereitgestellt sein, das heißt die Anzeigeeinrichtung 3 ist in diesem Fall ein Touchscreen. Ein Erfassungsbereich 14 der Kamera 12 kann ebenfalls auf die Anzeigefläche 4 gerichtet sein.
Die graphischen Objekte 10 können beispielsweise Listeneinträge eines Bedienmenüs oder Icons eines Desktops sein. Entsprechend bildet eine Darstellungsebene 15, die auf der Anzeigefläche 4 dargestellt ist und auf welcher die Objekte 10 angeordnet sind, eine virtuelle Darstellungsebene, wie beispielsweise ein Bedienmenü oder ein Desktop. Dem Benutzer ist es nun ermöglicht auszuwählen, welche graphischen Objekte 10 er aus der Darstellungsebene 15 dargestellt bekommen möchte. Mit anderen Worten kann er also ein Bedienmenü oder ein Arrangement von Icons individualisieren. Durch die Bedienvorrichtung 1 ist es ihm hierbei ermöglicht, mittels Gesten- bedienung und an der Sensormatrix 13 der Anzeigeeinrichtung 3 das Löschen/Ausblenden von Menüinhalten/Elementen, das heißt der graphischen Objekte 10, vorzunehmen.
Die in Fig. 1 dargestellte Anzeige von graphischen Objekten 10 kann beispielsweise eine Standardausrichtung der Menüanordnung einzelner Menüpunkte in Form der graphischen Objekte 10 darstellen. Jeder Menüpunkt kann beispielsweise eine der Bedienfunktionen 8 beispielsweise für Radio, Navigation, Klimatisierungsregelung, Sitzeinstellung repräsentieren.
Fig. 2 zeigt, wie der Benutzer nun festlegen kann, dass einige der graphischen Objekte von der Darstellungsebene 15 zu entfernen sind. Unterhalb der Anzeigeeinrichtung 3 führt der Benutzer mit seiner Hand 16 eine Bedien- geste 17 aus, welche den Wunsch eines Löschvorgangs beziehungsweise den Wunsch zur Ausblendung eines der graphischen Objekte 10 festlegt, also eine Wechselwirkung ankündigt, die der Benutzer mit der Hand 16 und den graphischen Objekten 10 bewirken möchte. Die Handgeste 17 kann beispielsweise eine Haltung der Hand 16 darstellen, bei welcher die Hand zum Auffangen der aus der virtuellen Darstellungsebene 15 und damit aus der Anzeigeeinrichtung 3 herausfallenden graphischen Objekte 10 repräsentiert, indem eine flache, nach oben gedrehte Handfläche oder eine gekrümmte, nach oben gedrehte Handfläche dargestellt wird. Durch die Kamera 12 wird die Hand 16 in der Handgeste 17 durch 3D-Bilddaten 18 abgebildet. Die Er- kennungseinrichtung 1 1 erkennt die Handgeste 17 und signalisiert sie an die Steuereinrichtung 5, welche daraufhin für die Darstellungsebene 15 einen Auswahlmodus A aktiviert, der ebenfalls in Fig. 2 dargestellt ist. Im Auswahlmodus A ist eine graphische und/oder dynamische Darstellung der Objekte 10 dahingehend verändert, dass die graphischen Objekte 10 beispiels- weise im Vergleich zum in Fig. 1 dargestellten Normalbetriebsmodus animiert dargestellt werden und/oder in einer anderen Form, Größe, Farbe und/oder in einer dynamisch veränderlichen Form, beispielsweise pulsierend größer und kleiner werdend. Es kann auch ein Wackeln oder Blinken vorgesehen sein.
Fig. 3 zeigt, wie durch die Erfassungseinrichtung 1 1 im Auswahlmodus A eine Auswahl der zu entfernenden graphischen Objekte 10 festgelegt wird. Hierbei findet eine direkte Auswahl statt, das heißt der Benutzer kann die zu entfernende Objekte 10 markieren. Hierzu kann beispielsweise die Benut- zerauswahl über die Sensormatrix 13 an der Anzeigefläche 4 erfasst werden. Der Benutzer kann beispielsweise mit einem Finger 19 der Hand 16 an der Anzeigefläche 4 die auszuwählenden Objekte 10 antippen oder berühren. Diese können dann auch graphisch als ausgewählt markiert werden. Die
markierten oder ausgewählten Objekte 10 stellen eine Benutzerauswahl 10' dar.
Beispielhaft ist in Fig. 4 veranschaulicht, dass zum Beenden des Auswahl- modus A der Benutzer frei im Raum eine Bestätigungsgeste 20 ausführen kann, bei welcher der Benutzer beispielsweise eine Wischbewegung mit der Hand 16 in eine vorbestimmte Wischrichtung ausführt. Diese Bestätigungsgeste 20 kann wiederum mit der Kamera 12 erfasst und durch 3D-Bilddaten 18 repräsentiert werden, damit sie durch die Bilderkennungseinrichtung der Erfassungseinrichtung 1 1 als die Bestätigungsgeste 20 erkannt werden kann. Mit dem Signalisieren der Bestätigungsgeste 20 wird durch die Steuereinrichtung 5 die Benutzerauswahl dahingehend abgeschlossen, dass diejenige Wechselwirkung oder Manipulationsfunktion, die durch die Handgeste 17 festgelegt wurde, nun auf die ausgewählten Objekte 10 angewendet wird. Im dargestellten Beispiel kann also vorgesehen sein, dass die ausgewählten Objekte„aus der Anzeigeeinrichtung 15 fallen", indem sie beispielsweise, wie in Fig. 5 dargestellt, in einer Animation 21 auf der virtuellen Darstellungsebene 5 nach unten verschoben werden und dann aus der virtuellen Darstellungsebene 15, das heißt der Anzeigeeinrichtung 3 herausfallen oder ver- schwinden. Die Animation 21 repräsentiert somit das Herausfallen der ausgewählten Objekt 10 und damit die durch die Handgeste 17 festgelegte Wechselwirkung. Übrig bleiben dann die vom Benutzer gewünschten graphischen Objekte 10. Damit ist für den Benutzer ein Schnellzugriff oder Direktzugriff auf Bedienfunktionen 8 über die verbleibenden graphischen Objekte 10 möglich, ohne dass der Benutzer zunächst visuell die richtigen Objekte aus einer Vielzahl von ansonsten unbenötigten graphischen Objekten heraussuchen müsste. Insgesamt zeigt das Beispiel, wie durch die Erfindung eine Gestenbedienung zur Löschfunktion einer Bedienvorrichtung genutzt werden kann.
Claims
PATENTANSPRÜCHE:
Verfahren zum Betreiben einer Bedienvorrichtung (1 ), um eine Wechselwirkung (21 ) zwischen in einer virtuellen Darstellungsebene (15) einer Anzeigeeinrichtung (3) angezeigten graphischen Objekten (10) und einer außerhalb der Anzeigeeinrichtung (3) befindlichen Hand (16) eines Benutzers zu bewirken, wobei
- durch eine Erfassungseinrichtung (1 1 ) eine außerhalb der Anzeigeeinrichtung (3) von der Hand (16) frei im Raum berührungslos durchgeführte, vorbestimmte Handgeste (17), durch welche die auf eines oder mehrere der Objekte (10) anzuwendende Wechselwirkung (21 ) festgelegt wird, erkannt wird;
- durch eine Steuereinrichtung (5) bei erkannter Handgeste (17) ein Auswahlmodus (A) in der virtuellen Darstellungsebene (15) aktiviert wird;
- durch die Erfassungseinrichtung (1 1 ) bei aktiviertem Auswahlmodus (A) von dem Benutzer eine Benutzerauswahl (10') zumindest eines der Objekte (10), auf welches die Handgeste (17) wirken soll, empfangen wird und eine die Benutzerauswahl (10') abschließende Bestätigungsgeste (20) erfasst wird; und
- durch die Steuereinrichtung (5) die durch die erkannte Handgeste (17) festgelegte Wechselwirkung (21 ) auf das durch die Benutzerauswahl (10') ausgewählte zumindest eine Objekt (10) in der virtuellen Darstellungsebene (15) angewendet wird.
Verfahren nach Anspruch 1 , wobei als die Handgeste (17) eine Greifbewegung oder Auffanghaltung erkannt wird und hierdurch durch die Steuereinrichtung (5) als die Wechselwirkung (21 ) ein Herausschieben oder Herausfallen des durch die Benutzerauswahl (10') festgelegten zumindest einen Objekts (10) aus der virtuellen Ebene (15) und damit ein Löschen dieser Objekte (10) von der Anzeigeeinrichtung (3) umgesetzt wird.
Verfahren nach einem der vorhergehenden Ansprüche, wobei die Benutzerauswahl (10') als eine inverse Auswahl empfangen wird, indem alle Objekte (10) bis auf solche, die durch den Benutzer markiert werden, von der Benutzerauswahl (10') umfasst sind.
4. Verfahren nach einem der vorhergehenden Ansprüche, wobei durch die
Erkennungseinrichtung (1 1 ) die Benutzerauswahl (10') bei Erkennen der abschließenden Bestätigungsgeste (20) beendet wird und durch die Steuereinrichtung (5) erst anschließend die Wechselwirkung (21 ) gleichzeitig auf jedes ausgewählte Objekt (10) angewendet wird.
Verfahren nach einem der vorhergehenden Ansprüche, wobei durch die Wechselwirkung (21 ) ein Inhalt eines in der virtuellen Darstellungsebene (15) für eine Aktivierung von Bedienfunktionen (8) der Bedienvorrichtung (3) bereitgestellten Bedienmenüs und/oder eine Sammlung von Icons an den Benutzer angepasst wird.
Verfahren nach einem der vorhergehenden Ansprüche, wobei durch die Steuereinrichtung (5) bei aktiviertem Auswahlmodus (A) die Objekte (10) graphisch und/oder dynamisch anders dargestellt werden als bei inaktivem Auswahlmodus.
Verfahren nach einem der vorhergehenden Ansprüche, wobei durch die Erfassungseinrichtung (1 1 ) die Handgeste (17) mittels einer Kamera (12), insbesondere einer Time-of-Flight-Kamera (12), erfasst wird.
Verfahren nach einem der vorhergehenden Ansprüche, wobei durch die Erfassungseinrichtung (1 1 1 ) die Benutzerauswahl (10') des zumindest einen Objekts (10) jeweils mittels einer Sensormatrix (13) an einer Anzeigefläche (4) der Anzeigeeinrichtung (3) als eine jeweilige Berührung des Objekts (10) erfasst wird.
Bedienvorrichtung (1 ), aufweisend:
- eine Anzeigeeinrichtung (3) zum Anzeigen von graphischen Objekten (10) in einer virtuellen Darstellungsebene (15);
- eine Erfassungseinrichtung (1 1 ) zum Erkennen einer außerhalb der Anzeigeeinrichtung (3) von einer Hand (16) eines Benutzers frei im Raum berührungslos durchgeführten, vorbestimmten Handgeste (17), durch welche eine auf eines oder mehrere der Objekte (10) anzuwendende Wechselwirkung (21 ) repräsentiert ist, und zum Empfangen einer Benutzerauswahl (10') zumindest eines der Objekte (10), auf welches die Handgeste (17) wirken soll, von dem Benutzer; und
- eine Steuereinrichtung (5) zum Aktivieren eines Auswahlmodus (A) zum Empfangen der Benutzerauswahl (10') und zum Umsetzen der durch die erkannte Handgeste (17) festgelegte Wechselwirkung (21 )
auf das zumindest eine durch die Benutzerauswahl (10') ausgewählte
Objekt (10) in der virtuellen Darstellungsebene (15);
wobei die Bedienvorrichtung (1 ) dazu eingerichtet ist, ein Verfahren nach einem der vorhergehenden Ansprüche durchzuführen.
10. Kraftfahrzeug (2) mit einer Bedienvorrichtung (1 ) nach Anspruch 9.
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE102016001998.0 | 2016-02-19 | ||
| DE102016001998.0A DE102016001998A1 (de) | 2016-02-19 | 2016-02-19 | Kraftfahrzeug-Bedienvorrichtung und Verfahren zum Betreiben einer Bedienvorrichtung, um eine Wechselwirkung zwischen einer virtuellen Darstellungsebene und einer Hand zu bewirken |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2017140569A1 true WO2017140569A1 (de) | 2017-08-24 |
Family
ID=58016702
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/EP2017/052848 Ceased WO2017140569A1 (de) | 2016-02-19 | 2017-02-09 | Kraftfahrzeug-bedienvorrichtung und verfahren zum betreiben einer bedienvorrichtung, um eine wechselwirkung zwischen einer virtuellen darstellungsebene und einer hand zu bewirken |
Country Status (2)
| Country | Link |
|---|---|
| DE (1) | DE102016001998A1 (de) |
| WO (1) | WO2017140569A1 (de) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020078319A1 (zh) * | 2018-10-15 | 2020-04-23 | 华为技术有限公司 | 基于手势的操控方法及终端设备 |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102018205664A1 (de) * | 2018-04-13 | 2019-10-17 | Bayerische Motoren Werke Aktiengesellschaft | Vorrichtung zur Assistenz eines Insassen im Innenraum eines Kraftfahrzeugs |
| DE102019205097A1 (de) * | 2019-04-09 | 2020-10-15 | Volkswagen Aktiengesellschaft | Verfahren zur Inszenierung eines Bedienmodalitätenwechsels eines Fahrzeugs, System zur Inszenierung eines Bedienmodalitätenwechsels eines Fahrzeugs |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20070157089A1 (en) | 2005-12-30 | 2007-07-05 | Van Os Marcel | Portable Electronic Device with Interface Reconfiguration Mode |
| DE102008048825A1 (de) | 2008-09-22 | 2010-03-25 | Volkswagen Ag | Anzeige- und Bediensystem in einem Kraftfahrzeug mit nutzerbeeinflussbarer Darstellung von Anzeigeobjekten sowie Verfahren zum Betreiben eines solchen Anzeige- und Bediensystems |
| US20110107268A1 (en) * | 2009-11-05 | 2011-05-05 | International Business Machines Corporation | Managing large user selections in an application |
| US20110252346A1 (en) * | 2010-04-07 | 2011-10-13 | Imran Chaudhri | Device, Method, and Graphical User Interface for Managing Folders |
| US20150143272A1 (en) * | 2012-04-25 | 2015-05-21 | Zte Corporation | Method for performing batch management on desktop icon and digital mobile device |
| EP2930603A1 (de) | 2014-04-07 | 2015-10-14 | Volkswagen Aktiengesellschaft | Verfahren und Vorrichtung zum Bereitstellen einer graphischen Benutzerschnittstelle in einem Fahrzeug |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102009059867A1 (de) * | 2009-12-21 | 2011-06-22 | Volkswagen AG, 38440 | Verfahren und Vorrichtung zum Bereitstellen einer graphischen Benutzerschnittstelle |
| DE102014202836A1 (de) * | 2014-02-17 | 2015-08-20 | Volkswagen Aktiengesellschaft | Anwenderschnittstelle und Verfahren zur Unterstützung eines Anwenders bei der Bedienung einer Anwenderschnittstelle |
| US20150261659A1 (en) * | 2014-03-12 | 2015-09-17 | Bjoern BADER | Usability testing of applications by assessing gesture inputs |
-
2016
- 2016-02-19 DE DE102016001998.0A patent/DE102016001998A1/de not_active Withdrawn
-
2017
- 2017-02-09 WO PCT/EP2017/052848 patent/WO2017140569A1/de not_active Ceased
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20070157089A1 (en) | 2005-12-30 | 2007-07-05 | Van Os Marcel | Portable Electronic Device with Interface Reconfiguration Mode |
| DE102008048825A1 (de) | 2008-09-22 | 2010-03-25 | Volkswagen Ag | Anzeige- und Bediensystem in einem Kraftfahrzeug mit nutzerbeeinflussbarer Darstellung von Anzeigeobjekten sowie Verfahren zum Betreiben eines solchen Anzeige- und Bediensystems |
| WO2010031454A1 (de) * | 2008-09-22 | 2010-03-25 | Volkswagen Ag | Anzeige- und bediensystem in einem kraftfahrzeug mit nutzerbeeinflussbarer darstellung von anzeigeobjekten sowie verfahren zum betreiben eines solchen anzeige- und bediensystems |
| US20110107268A1 (en) * | 2009-11-05 | 2011-05-05 | International Business Machines Corporation | Managing large user selections in an application |
| US20110252346A1 (en) * | 2010-04-07 | 2011-10-13 | Imran Chaudhri | Device, Method, and Graphical User Interface for Managing Folders |
| US20150143272A1 (en) * | 2012-04-25 | 2015-05-21 | Zte Corporation | Method for performing batch management on desktop icon and digital mobile device |
| EP2930603A1 (de) | 2014-04-07 | 2015-10-14 | Volkswagen Aktiengesellschaft | Verfahren und Vorrichtung zum Bereitstellen einer graphischen Benutzerschnittstelle in einem Fahrzeug |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020078319A1 (zh) * | 2018-10-15 | 2020-04-23 | 华为技术有限公司 | 基于手势的操控方法及终端设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| DE102016001998A1 (de) | 2017-08-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP2930049B1 (de) | Anwenderschnittstelle und Verfahren zur Anpassung einer Ansicht auf einer Anzeigeeinheit | |
| EP3113969B1 (de) | Anwenderschnittstelle und verfahren zur signalisierung einer 3d-position eines eingabemittels bei der gestenerfassung | |
| EP3067244B1 (de) | Kraftfahrzeug mit situationsadaptivem automatischem fahrmodus | |
| EP3508968A1 (de) | Verfahren zum betreiben einer mensch-maschinen-schnittstelle sowie mensch-maschinen-schnittstelle | |
| WO2015110227A1 (de) | Anwenderschnittstelle und verfahren zur anpassung einer ansicht auf einer anzeigeeinheit | |
| EP3234743B1 (de) | Verfahren zum betreiben einer bedienvorrichtung eines kraftfahrzeugs in unterschiedlichen bedienmodi sowie bedienvorrichtung und kraftfahrzeug | |
| EP2867762B1 (de) | Verfahren zum empfangen einer eingabe auf einem berührungsempfindlichen feld | |
| DE102012020607B4 (de) | Kraftwagen mit einer Gestensteuerungseinrichtung sowie Verfahren zum Steuern eines Auswahlelements | |
| EP2058162B1 (de) | Multifunktionsanzeige- und Bediensystem und Verfahren zum Bedienen von Funktionen oder Fahrzeugsystemen mit einem assistierten Bedienmodus | |
| DE102015011647B3 (de) | Kraftfahrzeug-Bedienvorrichtung mit mehreren gekoppelten Bildschirmen | |
| EP3347804B1 (de) | Bedienvorrichtung mit zeicheneingabe und löschfunktion | |
| EP3508967A1 (de) | Verfahren zum betreiben einer mensch-maschinen-schnittstelle sowie mensch-maschinen-schnittstelle | |
| DE102016001998A1 (de) | Kraftfahrzeug-Bedienvorrichtung und Verfahren zum Betreiben einer Bedienvorrichtung, um eine Wechselwirkung zwischen einer virtuellen Darstellungsebene und einer Hand zu bewirken | |
| WO2013053529A1 (de) | Bediensystem und verfahren zur darstellung einer bedienfläche | |
| DE102012218155A1 (de) | Erleichtern der Eingabe auf einer berührungsempfindlichen Anzeige in einem Fahrzeug | |
| EP3426516B1 (de) | Bedienvorrichtung und verfahren zum erfassen einer benutzerauswahl zumindest einer bedienfunktion der bedienvorrichtung | |
| DE102008025124B4 (de) | Anzeigesystem für ein Fahrzeug und Bedienverfahren für ein Anzeigesystem eines Fahrzeugs | |
| WO2014032822A2 (de) | Vorrichtung und verfahren zur steuerung von fahrzeugfunktionen durch detektion der interaktionen eines benutzers | |
| WO2024046612A1 (de) | Steuern einer funktion an bord eines kraftfahrzeugs | |
| EP3188922B1 (de) | Bedienvorrichtung und verfahren zum bedienen von funktionen eines fahrzeugs, insbesondere eines kraftwagens | |
| DE102010009622A1 (de) | Verfahren zum Betreiben einer Benutzerschnittstelle und Vorrichtung dazu, insbesondere in einem Fahrzeug | |
| DE102008023890A1 (de) | Bedieneinrichtung mit einer Anzeigeeinrichtung sowie Verfahren zu ihrem Betrieb | |
| EP2885154B1 (de) | Verfahren und eine bedien- und anzeigeeinrichtung zum betreiben einer interaktiven bedieneinrichtung | |
| WO2015121173A1 (de) | Anwenderschnittstelle und verfahren zum wechseln von einem ersten bedienmodus einer anwenderschnittstelle in einen 3d-gesten-modus | |
| WO2014114428A1 (de) | Verfahren und system zum blickrichtungsabhängigen steuern einer mehrzahl von funktionseinheiten sowie kraftwagen und mobiles endgerät mit einem solchen system |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| DPE2 | Request for preliminary examination filed before expiration of 19th month from priority date (pct application filed from 20040101) | ||
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 17704452 Country of ref document: EP Kind code of ref document: A1 |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 17704452 Country of ref document: EP Kind code of ref document: A1 |