WO2023186397A1 - Interaktive Steuerung eines Fahrzeugs - Google Patents

Interaktive Steuerung eines Fahrzeugs Download PDF

Info

Publication number
WO2023186397A1
WO2023186397A1 PCT/EP2023/053825 EP2023053825W WO2023186397A1 WO 2023186397 A1 WO2023186397 A1 WO 2023186397A1 EP 2023053825 W EP2023053825 W EP 2023053825W WO 2023186397 A1 WO2023186397 A1 WO 2023186397A1
Authority
WO
WIPO (PCT)
Prior art keywords
emotion
person
digital assistant
vehicle
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/EP2023/053825
Other languages
English (en)
French (fr)
Inventor
Etienne Iliffe-Moon
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bayerische Motoren Werke AG
Original Assignee
Bayerische Motoren Werke AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bayerische Motoren Werke AG filed Critical Bayerische Motoren Werke AG
Priority to CN202380025145.4A priority Critical patent/CN118829966A/zh
Priority to US18/846,491 priority patent/US20250214425A1/en
Publication of WO2023186397A1 publication Critical patent/WO2023186397A1/de
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/26Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using acoustic output
    • B60K35/265Voice
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/20Three-dimensional [3D] animation
    • G06T13/40Three-dimensional [3D] animation of characters, e.g. humans, animals or virtual beings
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language

Definitions

  • the present invention relates to the interactive control of a vehicle.
  • the invention relates to a dialogue between a person on board a vehicle and a digital assistant of the vehicle.
  • a vehicle includes a variety of simple and complex functions that can be functionally linked to one another.
  • a digital assistant can be provided that identifies or implements an action desired by a person.
  • a structure of entries in a menu can be dynamically adapted to a person's habits. It is also possible to use a dialog to guide the user through a menu structure or decision tree.
  • the person may perceive the digital assistant as impersonal or bureaucratic. Especially when the person is driving the vehicle, they may be exposed to emotions for various reasons that can influence their actions and also their way of communicating.
  • a typical interactive system on board a vehicle may have difficulty determining a person's intention or providing an output that is easily digestible by the person.
  • An object underlying the present invention is to provide an improved technology for interactive control of a vehicle.
  • the invention solves this problem by means of the subject matter of the independent claims. Subclaims reflect preferred embodiments.
  • a system for controlling a digital assistant on board a vehicle for interacting with a person using voice comprises an optical input device pat-down of the person; an output device for outputting a visual impression of the assistant; and a processing device configured to control the digital assistant to express an emotion depending on an emotion of the person.
  • the digital assistant can also be called an interactive digital assistant (IDA) and is usually implemented in the form of a computer program.
  • the digital assistant is set up to respond to input from the person and to provide output to the person.
  • the assistant can also control a function on board the vehicle.
  • a general attempt is made to equip the digital assistant with at least some human characteristics, attributes or skills so that the assistant can support the person like a human at least in some aspects. For example, the interaction with the person can take place in one or both directions using language.
  • a human or a section of a human can be represented, for example realistically, stylized, abstracted or metaphorically.
  • the representation can be animated so that it can, for example, show attention to the person. It is particularly preferred that the emotion is expressed while the person is speaking or directing a verbal input to the digital assistant.
  • the emotion of the digital assistant follows the emotion of the person. For example, if the person speaks to the digital assistant in a serious manner, the latter may output a serious emotion, an output of the digital assistant may be provided in a serious manner.
  • the person can get the impression in an improved way that his or her linguistic utterance is being correctly recorded or implemented by the digital assistant. Signs of emotion that accompany virtually every human expression can be easily captured and reproduced by the digital assistant. This can give the person a feeling of empathy through the digital assistant.
  • the digital assistant essentially implements one or more control functions, a representation shown on the output device is also referred to below as a digital assistant. This representation can in particular concern a human, a humanoid or another being.
  • the digital assistant includes a face and the processing device is set up to control the digital assistant so that an expression of its face follows an expression of the person's face.
  • the expression of the person's face can be broken down into individual elements. For example, positions of the eyebrows, a shape of the mouth or the shape or movements of the eyes can each be individually reflected by corresponding elements of the face of the digital assistant.
  • the digital assistant does not have to track the person's movements, but can use the observed elements as a stylistic device to create an overall impression.
  • the digital assistant includes limbs, wherein the processing device is set up to control the digital assistant so that its limbs follow a pose or a gesture of the person's limbs.
  • a pose or posture of the person can be easily observed, particularly if the person maintains a certain distance from the vehicle controls. This can be the case, for example, with a partially or completely automatically controlled vehicle.
  • crossed legs or crossed arms can each indicate an emotion in the person.
  • the digital assistant can use appropriate poses or gestures as a stylistic device to express a corresponding emotion.
  • the processing device is set up to determine a first emotion of the person based on the optical scanning; determine a second emotion based on the first emotion; and control the digital assistant to express the second emotion.
  • the first emotion By decoupling the first from the second emotion, different style elements can be used in an improved manner by the person and the digital assistant to express an emotion.
  • the second emotion may be decoupled from the first emotion in a predetermined manner. For example, the second emotion can follow the first emotion with a time delay.
  • the processing device can be set up to determine a difference between the first emotion and a predetermined normal emotion on a predetermined scale and to determine the second emotion such that it follows the first emotion on the scale only up to a predetermined distance from the normal emotion.
  • an emotion expressed by the digital assistant impairs assistance that is intended to be provided to the person by the function of the digital assistant.
  • it can be prevented that the person in an emotionally tense situation is additionally burdened by an emotion from the digital assistant. For example, excessive anger, sadness or fear can be prevented in the person.
  • the normal emotion can be experienced as neutral or expressionless.
  • the normal emotion can be found as the center point on the predetermined scale.
  • An emotion expressed by the person or digital assistant can be on several different scales. For example, it is possible to be happy and angry at the same time.
  • the emotion expressed by the digital assistant can follow the person's emotions to different degrees on different scales. For example, the digital assistant can follow a happy emotion further than an angry one.
  • a connection between the first and second emotions can be predetermined by the person in the form of a user preference.
  • the second emotion may complement the first emotion on the predetermined scale.
  • the digital assistant's emotion may express gentleness when the person expresses aggressiveness. Different transitions to the aforementioned embodiment are possible.
  • an emotion expressed by the digital assistant can follow an emotion of the person to the predetermined distance and develop backwards from there.
  • the regression can extend to the complementary side of the emotion. In particular, this can ensure that the person remains within a limited range of emotions in relation to normal emotions. If the person is the driver of the vehicle, the person's ability to concentrate or make decisions can be ensured in an improved manner.
  • the processing device can be set up to define a predetermined emotion as the second emotion if the determination of the first emotion is not successful or is not clear.
  • the predetermined emotion can express, for example, friendliness, interest and/or attention.
  • the predetermined emotion corresponds to the normal emotion.
  • the system may have an interface to an interior lighting system, wherein the processing device is configured to control the interior lighting system such that it supports the second emotion.
  • the interior lighting can be illuminated in reddish colors, relatively bright or flickering.
  • the interior lighting can be constantly lit in a deep blue and with medium to low brightness.
  • the interior lighting can be used as an additional means of conveying the emotion of the digital assistant to the person.
  • other controllable elements on board the vehicle may be used to support the emotion being expressed. For example, an entertainment system or a communication system can be controlled accordingly.
  • the digital assistant is preferably set up to recognize a linguistic utterance by the person and to provide a spoken output in accordance with the utterance. This means that the digital assistant can act on both sides with the person or conduct a dialogue.
  • the assistant's emotion can also be expressed by adjusting the spoken output. For example, a tone, speed or pitch of the spoken output can be adjusted to express the emotion.
  • the statement can concern a vehicle condition or a driving condition of the vehicle.
  • the digital assistant can perform a function that affects the vehicle status or the driving status of the vehicle.
  • Information can be provided to the person or an intervention can be made in the respective control system.
  • the digital assistant is set up to control a vehicle function in response to the statement.
  • vehicle function can include, for example, setting a destination for navigation of a vehicle, changing the interior lighting or a preferred lane to be used.
  • a vehicle includes a system described herein.
  • the vehicle can in particular include a motor vehicle, for example a passenger car, a motorcycle, a truck or a bus.
  • the vehicle can be set up to be partially or autonomously controlled.
  • a method for controlling a digital assistant on board a vehicle for interacting with a person using voice includes steps of optically scanning the person and outputting an optical impression of the digital assistant.
  • the digital assistant is controlled to express an emotion depending on an emotion of the person.
  • the method can be carried out by a system described herein.
  • the system can include a processing device, for example a programmable microcomputer or microcontroller includes.
  • the method can be in the form of a computer program product with program code means.
  • the computer program product can also be stored on a computer-readable data carrier. Additional features or advantages of the system can be transferred to the process or vice versa.
  • the computer program product generally requires an execution environment, which usually includes a processing device, a first data memory for accommodating the computer program product, a second data memory for accommodating a processing result, a first interface for providing information to be processed and a second interface for outputting processed information.
  • the processing device usually works in a clock-controlled manner and can include a suitable clock generator.
  • the processing device, the data memories and the interfaces can each be implemented using semiconductors. To supply energy to the semiconductors, an electrical energy source or an interface for connection to an electrical energy supply can be provided.
  • the computer program product can run within the framework of or with the aid of a management program running on the execution environment, which can also be called an operating system.
  • the system can include or provide a computer-based execution environment.
  • Figure 1 shows a system on board a vehicle
  • Figure 2 is a flowchart of a method
  • Figure 3 exemplary expressions of emotions on a person's face
  • Figure 4 illustrates exemplary visual representations of emotions.
  • Figure shows a system 100 on board a vehicle 105.
  • the system 100 is set up to interact with a person 110 on board the vehicle 105.
  • the system 100 includes an input device 115, an output device 120 and a processing device 125.
  • a data memory 130 and/or an interface 135 can optionally be provided.
  • the input device 115 is set up to optically scan the person 110 or a section of him.
  • the input device 115 can include a camera, for example an interior camera of the vehicle 105. Multiple cameras 115 can also be used, which can work from different perspectives, with different focal lengths and/or different wavelength ranges.
  • the input device 115 also includes a microphone for recording a linguistic utterance by the person 110.
  • the output device 120 is set up to provide an optical output for the person 110.
  • the output device 120 can in particular comprise a screen or a projector. Acoustic output can also be supported.
  • the output device 120 is wirelessly connected to the vehicle 100 or one of its systems.
  • the output device 120 can be comprised by a mobile device such as a smartphone.
  • the processing device 125 is preferably designed as a control device on board the vehicle 105 and can include a processing device.
  • the data storage 130 may include user-definable presets, a repertoire of emotions to be recognized or provided, or a history of recorded emotions of the person 110.
  • the interface 135 may be connected to another system or subsystem on board the vehicle 105 and may be used to obtain information or control a vehicle function.
  • an interior lighting of the vehicle 105 can be controlled.
  • a driving function of the vehicle 105 which includes longitudinal and/or lateral control of the vehicle 105, can be influenced, for example by specifying a travel destination or changing a desired driving speed.
  • the information may also provide a further indication of an emotion of the person 110, for example by reflecting a pulse rate or a frequency of blinking of the person 110.
  • Such scanning can be carried out using an optical or other sensor on board the vehicle 100.
  • the system 100 can implement a digital assistant for controlling the vehicle 105 through voice interaction with the person 110. It is proposed to design the system 100 to control a visual representation of the digital assistant on the output device 120 so that it expresses a predetermined emotion. This emotion should in particular be derived from an emotion that was recognized during the interaction by the person 110 on the basis of a scan using the input device 115.
  • Figure 2 shows a flowchart of an exemplary method 200.
  • the method 200 can be carried out in particular with the aid of a system 100.
  • an interior of the vehicle 105 can be recorded.
  • An optical input device 115 such as a camera can be used for this purpose.
  • a person 110 can be detected in the interior of the vehicle 105. If there are several people 110 in the interior, one can be selected to interact with the digital assistant of the system 100.
  • the selected person 110 can be optically scanned.
  • a face optionally a torso or, further optionally, the entire person can be optically scanned.
  • Individual elements of the person 110 can be recognized on the scan and contextualized with one another. For example, positions of limbs of the person 110 can be recorded and a resulting posture or gesture can be determined.
  • the scanning can take place in particular while in a Secondary step 220 an acoustic input from the person 110 is recorded.
  • Steps shown on the left in the illustration of Figure 2 relate to a functionality of a digital assistant, while steps shown on the right are assigned to the emotional support presented herein.
  • a first emotion of the person 110 can be determined based on the optical scanning.
  • the emotion can be determined in particular on the basis of a pose, a gesture, a facial expression and/or a manner of speaking.
  • the specific emotion can be placed in the context of the linguistic expression of the person 110.
  • the acoustic input of the person 110 can be processed and in particular understood in a step 235.
  • additional information such as a driving status, a travel destination or a number of people on board 110 can also be determined in step 230.
  • a second emotion can be determined based on the determined first emotion and the further determined information.
  • the second emotion can follow the first emotion, i.e. be modeled on it, or be designed to counteract the first emotion, i.e. complement it.
  • the second emotion may be shifted by a predetermined amount on a predetermined scale relative to the first.
  • the second emotion can always be a certain degree friendlier or more relaxed.
  • the digital assistant can be perceived primarily as positive or open-minded.
  • the shift of the second compared to the first emotion can also be determined in amount or scale with respect to an existing situation or a driving condition of the vehicle. Both the first and second emotions can involve a superposition of different emotions that lie on different scales, as will be discussed in more detail below.
  • the interactive digital assistant may be controlled to express the predetermined second emotion. This can be done while the person 110 is speaking, or while an acoustic output from the digital assistant is being made.
  • the output can be in a step 250 depending on the processed acoustic scanning of the person 110 can be provided.
  • a vehicle function in particular a driving function of the vehicle 105, can be controlled in response to the acoustic input from the person 110.
  • the second emotion conveyed by the representation of the digital assistant visible on the output device 120 can support the interaction with the person 110.
  • steps 205 to 250 of the method 200 shown need to occur in the order shown. Some of the steps can also be omitted.
  • the different embodiments can also be converted into one another, so that, for example, after recognizing the linguistic input, a transition is made to the more complex embodiment of emotional support described above.
  • FIG. 3 shows exemplary expressions of emotions on a face of a person 110.
  • the expressions shown can be observed on the person 110 or can be used as the basis for an output of the graphic representation of the digital assistant on the output device 120.
  • facial expressions are shown, each of which can be assigned to an emotion. These include a happy expression 305, a sad expression 310, a fearful expression 315, an angry expression 320, a surprised expression 325, a repulsed expression 330 and a neutral expression 335.
  • the neutral expression 335 can be used as an example of a normal emotion described herein become.
  • an expression 305 to 335 to an emotion
  • individual elements of the depicted face can be analyzed. For example, a shape, degree of opening, or distortion of the mouth may be observed.
  • eyes, eyebrows, or Cheek muscles can be viewed in terms of size, position, activity, etc.
  • Features determined in this way can be compared with predetermined combinations of features. An emotion can be assigned to a combination, which can therefore be recognized.
  • An emotion can be expressed by the person 110 or the digital assistant in different degrees.
  • the gradations can be arranged on a scale so that they are ordered by ascending or descending strength of emotion. It is also possible to form a scale or gradient between two different emotions.
  • a first course 340 of emotions is shown, which are graded from fear (far left) to sadness (far right).
  • a second progression 345 of emotions is shown, graded from happiness (far left) to disgust (far right).
  • Figure 4 shows exemplary visual representations of emotions. Each of the representations can be used as a visual representation of the digital assistant on the output device 120.
  • a first representation 405 concerns a three-dimensional representation of a face.
  • a wireframe model was chosen to represent the face.
  • the model can be refined as desired and, in particular, given a texture.
  • the output device 120 can provide a two-dimensional or three-dimensional visual representation. Instead of one face, another and especially larger one can also be used Section of a figure can be selected. This figure can be humanoid or another expression can be chosen for the digital assistant.
  • a second representation 410 shows a stylized face, with elements such as a nose, eyes, cheeks, a mouth or a chin being represented in simplified, reduced, exaggerated or symbolic forms.
  • elements such as a nose, eyes, cheeks, a mouth or a chin being represented in simplified, reduced, exaggerated or symbolic forms.
  • a shape, size or arrangement of elements does not have to follow normal human anatomy and can also be used to express an emotion.
  • a third representation 415 shows an abstracted face, which in the present case includes realistic elements in the form of the eyes and unrealistic elements in the form of black and white borders surrounding the eyes.
  • the borders form patterns in an area between the eyes that can be perceived as a nose or mouth.
  • representations 405 to 415 can be controlled to express a predetermined emotion. It should be noted that the representation does not necessarily have to be based on a face. In other embodiments, for example, an animal, a mythical creature, an animated object, or a cartoon character may be used to represent the digital assistant.
  • Control 245 interactive digital assistants

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Combustion & Propulsion (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Engineering & Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

Ein System zur Steuerung eines digitalen Assistenten an Bord eines Fahrzeugs zur Interaktion mit einer Person mittels Sprache umfasst eine Eingabeeinrichtung zur optischen Abtastung der Person; eine Ausgabeeinrichtung zur Ausgabe eines optischen Eindrucks des Assistenten; und eine Verarbeitungseinrichtung, die dazu eingerichtet ist, den digitalen Assistenten so zu steuern, dass er eine Emotion in Abhängigkeit einer Emotion der Person ausdrückt.

Description

Interaktive Steuerung eines Fahrzeugs
Die vorliegende Erfindung betrifft die interaktive Steuerung eines Fahrzeugs. Insbesondere betrifft die Erfindung einen Dialog zwischen einer Person an Bord eines Fahrzeugs mit einem digitalen Assistenten des Fahrzeugs.
Ein Fahrzeug umfasst eine Vielzahl einfacher und komplexer Funktionen, die funktional miteinander verbunden sein können. Zur Steuerung des Fahrzeugs kann ein digitaler Assistent vorgesehen sein, der eine von einer Person gewünschte Handlung identifiziert beziehungsweise umsetzt. Beispielsweise kann eine Struktur von Einträgen in einem Menü dynamisch an Gewohnheiten einer Person angepasst werden. Es ist auch möglich, den Benutzer anhand eines Dialogs durch eine Menüstruktur oder einen Entscheidungsbaum zu führen.
Es wurde vorgeschlagen, eine Ausgabe eines digitalen Assistenten an Bord eines Fahrzeugs mittels natürlicher Sprache durchzuführen. Die Person kann sich ebenfalls in natürlicher Sprache äußern, so dass sie mit dem digitalen Assistenten in einen Dialog treten kann. So können die Funktionen an Bord des Fahrzeugs verbessert durch die Person gesteuert werden.
Trotz sprachlicher Dialogfähigkeit kann der digitale Assistent durch die Person als unpersönlich oder bürokratisch empfunden werden. Insbesondere dann, wenn die Person das Fahrzeug steuert, kann sie aus verschiedenen Gründen Emotionen ausgesetzt sein, die ihr Handeln und auch ihre Kommunikationsweise beeinflussen können. Ein übliches interaktives System an Bord eines Fahrzeugs kann Schwierigkeiten haben, eine Intention der Person zu bestimmen oder eine leicht durch die Person aufnehmbare Ausgabe bereitzustellen.
Eine der vorliegenden Erfindung zugrundeliegende Aufgabe besteht in der Angabe einer verbesserten Technik zur interaktiven Steuerung eines Fahrzeugs. Die Erfindung löst diese Aufgabe mittels der Gegenstände der unabhängigen Ansprüche. Unteransprüche geben bevorzugte Ausführungsformen wieder.
Nach einem ersten Aspekt der vorliegenden Erfindung umfasst ein System zur Steuerung eines digitalen Assistenten an Bord eines Fahrzeugs zur Interaktion mit einer Person mittels Sprache eine Eingabeeinrichtung zur optischen Abtastung der Person; eine Ausgabeeinrichtung zur Ausgabe eines optischen Eindrucks des Assistenten; und eine Verarbeitungseinrichtung, die dazu eingerichtet ist, den digitalen Assistenten so zu steuern, dass er eine Emotion in Abhängigkeit einer Emotion der Person ausdrückt.
Der digitale Assistent kann auch interaktiver digitaler Assistent (interacitve digital assistent, IDA) genannt werden, und ist üblicherweise in Form eines Computerprogramms realisiert. Der digitale Assistent ist dazu eingerichtet, auf eine Eingabe der Person zu reagieren und eine Ausgabe an die Person bereitzustellen. Außerdem kann der Assistent eine Funktion an Bord des Fahrzeugs steuern. Dabei wird allgemein versucht, den digitalen Assistenten mit zumindest einigen menschlichen Eigenschaften, Attributen oder Fähigkeiten auszustatten, sodass der Assistent die Person zumindest in einigen Aspekten wie ein Mensch unterstützen kann. Beispielsweise kann die Interaktion mit der Person in einer oder in beiden Richtungen mittels Sprache erfolgen.
Zur Bereitstellung eines optischen Eindrucks einer Emotion des digitalen Assistenten kann ein Mensch oder ein Ausschnitt eines Menschen dargestellt werden, beispielsweise realistisch, stilisiert, abstrahiert oder metaphorisch. Die Darstellung kann animiert sein, sodass sie beispielsweise Aufmerksamkeit gegenüber der Person zeigen kann. Es ist besonders bevorzugt, dass die Emotion ausgedrückt wird, während die Person spricht, beziehungsweise eine sprachliche Eingabe an den digitalen Assistenten richtet.
Es ist weiterhin bevorzugt, dass die Emotion des digitalen Assistenten der Emotion der Person folgt. Spricht die Person beispielsweise in ernsthafter Weise mit dem digitalen Assistenten, so kann dieser eine ernsthafte Emotion ausgeben, eine Ausgabe des digitalen Assistenten kann in einer ernsthaften Weise bereitgestellt sein. Die Person kann in verbesserter Weise den Eindruck erhalten, dass seine sprachliche Äußerung durch den digitalen Assistenten korrekt aufgenommen oder umgesetzt wird. Zeichen von Emotionen, die praktisch jede Äußerung eines Menschen begleiten, können leicht erfasst und durch den digitalen Assistenten wiedergegeben werden. So kann sich bei der Person ein Gefühl von Empathie durch den digitalen Assistenten einstellen. Während der digitale Assistent im Wesentlichen eine oder mehrere Steuerfunktionen umsetzt, wird im Folgenden von einer auf der Ausgabeeinrichtung dargestellten Repräsentation ebenfalls als digitaler Assistent gesprochen. Diese Repräsentation kann insbesondere einen Menschen, eine Humanoiden oder ein anderes Wesen betreffen.
In einer Ausführungsform umfasst der digitale Assistent ein Gesicht und die Verarbeitungseinrichtung ist dazu eingerichtet, den digitalen Assistenten so anzusteuern, dass ein Ausdruck seines Gesichts einem Ausdruck des Gesichts der Person folgt. Der Ausdruck des Gesichts der Person kann in einzelne Elemente zerlegt werden. Beispielsweise können Stellungen der Augenbrauen, eine Form des Mundes oder Form oder Bewegungen der Augen jeweils einzeln durch korrespondierende Elemente des Gesichts des digitalen Assistenten reflektiert werden. Dabei muss der digitale Assistent die Bewegungen der Person nicht nachvollziehen, sondern kann die beobachteten Elemente als Stilmittel eines Gesamteindrucks einsetzen.
In einer weiteren Ausführungsform umfasst der digitale Assistent Gliedmaßen, wobei die Verarbeitungseinrichtung dazu eingerichtet ist, den digitalen Assistenten so zu steuern, dass seine Gliedmaßen einer Pose oder einer Geste von Gliedmaßen der Person folgt.
Eine Pose oder eine Körperhaltung der Person kann insbesondere dann gut beobachtet werden, wenn die Person einen gewissen Abstand zu den Bedienelementen des Fahrzeugs einhält. Dies kann beispielsweise bei einem teilweise oder vollständig automatisch gesteuerten Fahrzeug der Fall sein. So können beispielsweise übereinander geschlagene Beine oder verschränkte Arme jeweils auf eine Emotion der Person hinweisen. Der digitale Assistent kann entsprechende Posen oder Gesten als Stilmittel zum Ausdrücken einer korrespondierenden Emotion verwenden.
In einer weiteren Ausführungsform ist die Verarbeitungseinrichtung dazu eingerichtet, eine erste Emotion der Person auf der Basis der optischen Abtastung zu bestimmen; eine zweite Emotion auf der Basis der ersten Emotion zu bestimmen; und den digitalen Assistenten dazu anzusteuern, die zweite Emotion auszudrücken. Durch die Entkopplung der ersten von der zweiten Emotion können in verbesserter Weise unterschiedliche Stilelemente durch die Person und den digitalen Assistenten jeweils zum Ausdrücken einer Emotion eingesetzt werden. Außerdem kann die zweite Emotion in einer vorbestimmten Weise von der ersten Emotion entkoppelt sein. Beispielsweise kann die zweite Emotion zeitverzögert der ersten Emotion folgen.
Die Verarbeitungseinrichtung kann dazu eingerichtet sein, einen Unterschied zwischen der ersten Emotion und einer vorbestimmten Normalemotion auf einer vorbestimmten Skala zu bestimmen und die zweite Emotion derart zu bestimmen, dass sie der ersten Emotion auf der Skala nur bis zu einem vorbestimmten Abstand von der Normalemotion folgt.
So kann der digitale Assistent ein eingeschränktes Repertoire an Emotionen einhalten, so dass er nicht als übermäßig emotional durch die Person wahrgenommen werden kann. Insbesondere kann vermieden werden, dass eine durch den digitalen Assistenten ausgedrückte Emotion eine Hilfestellung beeinträchtigt, die durch die Funktion des digitalen Assistenten für die Person erbracht werden soll. Außerdem kann verhindert werden, dass die Person in einer emotional angespannten Situation zusätzlich durch eine Emotion des digitalen Assistenten belastet wird. Beispielsweise kann eine Übersteigerung von Wut, T rauer oder Angst bei der Person verhindert werden.
Die Normalemotion kann als neutral oder ausdruckslos empfunden werden. In einer Ausführungsform ist die Normalemotion als Mittelpunkt auf der vorbestimmten Skala zu finden. Eine durch die Person oder den digitalen Assistenten ausgedrückte Emotion kann sich auf mehreren unterschiedlichen Skalen befinden. Beispielsweise ist es möglich, gleichzeitig glücklich und wütend zu sein. Die durch den digitalen Assistenten ausgedrückte Emotion kann den Emotionen der Person auf den unterschiedlichen Skalen unterschiedlich weit folgen. Beispielsweise kann der digitale Assistent einer glücklichen Emotion weiter folgen als einer zornigen. Ein Zusammenhang zwischen der ersten und der zweiten Emotion können durch die Person in Form einer Nutzerpräferenz vorbestimmt sein. In einer weiteren Ausführungsform kann die zweite Emotion die erste Emotion auf der vorbestimmten Skala komplementieren. Beispielsweise kann die Emotion des digitalen Assistenten Sanftmut ausdrücken, wenn die Person Aggressivität ausdrückt. Dabei sind unterschiedliche Übergänge zur vorgenannten Ausführungsform möglich. Beispielsweise kann eine durch den digitalen Assistenten ausgedrückte Emotion einer Emotion der Person bis zu dem vorbestimmten Abstand folgen und sich von dort aus zurück entwickeln. Die Rückentwicklung kann sich bis auf die komplementäre Seite der Emotion erstrecken. So kann insbesondere darauf hingewirkt werden, dass die Person innerhalb eines begrenzten Rahmens von Emotionen bezüglich der Normalemotion bleibt. Handelt es sich bei der Person um den Fahrer des Fahrzeugs, kann so in verbesserter Weise eine Konzentrations- oder Entscheidungsfähigkeit der Person sichergestellt werden.
Die Verarbeitungseinrichtung kann dazu eingerichtet sein, eine vorbestimmte Emotion als zweite Emotion festzulegen, falls die Bestimmung der ersten Emotion nicht gelingt oder nicht eindeutig ist. Die vorbestimmte Emotion kann beispielsweise Freundlichkeit, Interesse und/oder Aufmerksamkeit ausdrücken. In einer Ausführungsform entspricht die vorbestimmte Emotion der Normalemotion.
Das System kann eine Schnittstelle zu einem Innenbeleuchtungssystem aufweisen, wobei die Verarbeitungseinrichtung dazu eingerichtet ist, das Innenbeleuchtungssystem derart zu steuern, dass es die zweite Emotion unterstützt. Sollte der digitale Assistent beispielsweise Zorn als Emotion ausdrücken, so kann die Innenbeleuchtung in rötliche Farben, relativ hell oder flackernd illuminiert werden. Soll der digitale Assistent in einem weiteren Beispiel Ruhe ausstrahlen, so kann die Innenbeleuchtung in einem tiefen Blau konstant und mit mittlerer bis geringer Helligkeit ausgeleuchtet werden. Die Innenbeleuchtung kann so als zusätzliches Mittel verwendet werden, um die Emotion des digitalen Assistenten an die Person zu vermitteln. In ähnlicher Weise können andere steuerbare Elemente an Bord des Fahrzeugs zur Unterstützung der ausgedrückten Emotion eingesetzt werden. Beispielsweise können ein Unterhaltungssystem oder ein Kommunikationssystem entsprechend dazu angesteuert werden. Bevorzugt ist der digitale Assistent dazu eingerichtet, eine sprachliche Äußerung der Person zu erkennen und eine gesprochene Ausgabe in Einigkeit der Äußerung bereitzustellen. So kann der digitale Assistent mit der Person beidseitig agieren oder einen Dialog führen. Die Emotion des Assistenten kann auch ausgedrückt werden, indem die gesprochene Ausgabe angepasst wird. Beispielsweise können ein Tonus eine Geschwindigkeit oder eine Tonhöhe der gesprochenen Ausgabe zum Ausdruck der Emotion angepasst werden.
Die Äußerung kann einen Fahrzeugzustand oder eine Fahrzustand des Fahrzeugs betreffen. Der digitale Assistent kann eine Funktion durchführen, die den Fahrzeugzustand oder den Fahrzustand des Fahrzeugs betrifft. Dabei können Informationen an die Person bereitgestellt oder ein Eingriff in die jeweilige Steuerung durchgeführt werden.
In einer besonders bevorzugten Ausführungsform ist der digitale Assistent dazu eingerichtet, eine Fahrzeugfunktion in Antwort auf die Äußerung zu steuern. Die Fahrzeugfunktion kann beispielsweise ein Setzen eines Zielorts für eine Navigation eines Fahrzeugs, eine Änderung der Innenbeleuchtung oder einer bevorzugt zu verwendenden Fahrspur umfassen.
Nach einem weiteren Aspekt der vorliegenden Erfindung umfass ein Fahrzeug ein hierin beschriebenes System. Das Fahrzeug kann insbesondere ein Kraftfahrzeug umfassen, beispielsweise einen Personenkraftwagen, ein Kraftrad, einen Lastkraftwagen oder einen Omnibus. Das Fahrzeug kann dazu eingerichtet sein, teilweise oder autonom gesteuert zu werden.
Nach wieder einem weiteren Aspekt der vorliegenden Erfindung umfasst ein Verfahren zur Steuerung eines digitalen Assistenten an Bord eines Fahrzeugs zur Interaktion mit einer Person mittels Sprache Schritte des optischen Abtastens der Person und des Ausgebens eines optischen Eindrucks des digitalen Assistenten. Dabei wird der digitale Assistent dazu angesteuert, eine Emotion in Abhängigkeit einer Emotion der Person auszudrücken.
Das Verfahren kann durch ein hierin beschriebenes System ausgeführt werden.
Dazu kann das System eine Verarbeitungseinrichtung umfassen, die beispielsweise einen programmierbaren Mikrocomputer oder Mikrocontroller umfasst. Das Verfahren kann in Form eines Computerprogrammprodukts mit Programmcodemitteln vorliegen. Das Computerprogrammprodukt kann auch auf einem computerlesbaren Datenträger abgespeichert sein. Merkmale oder Vorteile des Systems können auf das Verfahren übertragen werden oder umgekehrt.
Zur Ausführung benötigt das Computerprogrammprodukt allgemein eine Ausführungsumgebung, die meist eine Verarbeitungseinrichtung, einen ersten Datenspeicher zur Aufnahme des Computerprogrammprodukts, einen zweiten Datenspeicher zur Aufnahme eines Verarbeitungsergebnisses, eine erste Schnittstelle zur Bereitstellung von zu verarbeitenden Informationen und eine zweite Schnittstelle zur Ausgabe von verarbeiteten Informationen umfasst. Die Verarbeitungseinrichtung arbeitet üblicherweise taktgesteuert und kann einen passenden Taktgenerator umfassen. Die Verarbeitungseinrichtung, die Datenspeicher und die Schnittstellen können jeweils unter Verwendung von Halbleitern realisiert werden. Zur Energieversorgung der Halbleiter kann eine elektrische Energiequelle oder eine Schnittstelle zur Verbindung mit einer elektrischen Energieversorgung bereitgestellt sein.
Das Computerprogrammprodukt kann im Rahmen oder unter Zuhilfenahme eines auf der Ausführungsumgebung ablaufenden Verwaltungsprogramms, das auch Betriebssystem genannt werden kann, ablaufen. Vorliegend kann insbesondere das System eine computerbasierte Ausführungsumgebung umfassen bzw. bereitstellen.
Die Erfindung wird nun mit Bezug auf die beigefügten Zeichnungen genauer beschrieben, in denen:
Figur 1 ein System an Bord eines Fahrzeugs;
Figur 2 ein Ablaufdiagramm eines Verfahrens;
Figur 3 beispielhafte Ausdrücke von Emotionen auf einem Gesicht einer Person; und
Figur 4 beispielhafte optische Darstellungen von Emotionen illustriert. Figur zeigt ein System 100 an Bord eines Fahrzeugs 105. Das System 100 ist dazu eingerichtet, mit einer Person 110 an Bord des Fahrzeugs 105 zu interagieren. Das System 100 umfasst eine Eingabeeinrichtung 115, eine Ausgabeeinrichtung 120 und eine Verarbeitungseinrichtung 125. Optional können ein Datenspeicher 130 und/oder eine Schnittstelle 135 vorgesehen sein.
Die Eingabeeinrichtung 115 ist zur optischen Abtastung der Person 110 oder eines Abschnitts von ihr eingerichtet. Dazu kann die Eingabeeinrichtung 115 eine Kamera, beispielsweise eine Innenraumkamera des Fahrzeugs 105 umfassen. Es können auch mehrere Kameras 115 verwendet werden, die aus unterschiedlichen Perspektiven, mit unterschiedlichen Brennweiten und/oder unterschiedlichen Wellenlängenbereichen arbeiten können.
In einer weiteren Ausführungsform umfasst die Eingabeeinrichtung 115 auch ein Mikrofon zur Erfassung einer sprachlichen Äußerung der Person 110.
Die Ausgabeeinrichtung 120 ist dazu eingerichtet, eine optische Ausgabe für die Person 110 bereitzustellen. Dazu kann die Ausgabeeinrichtung 120 insbesondere einen Bildschirm oder einen Projektor umfassen. Eine akustische Ausgabe kann ebenfalls unterstützt werden. In einer weiteren Ausführungsform ist die Ausgabeeinrichtung 120 drahtlos mit dem Fahrzeug 100 beziehungsweise einem seiner Systeme verbunden. Dabei kann die Ausgabeeinrichtung 120 von einem Mobilgerät wie einem Smartphone umfasst sein.
Die Verarbeitungseinrichtung 125 ist bevorzugt als Steuergerät an Bord des Fahrzeugs 105 ausgebildet und kann eine Verarbeitungseinrichtung umfassen. Der Datenspeicher 130 kann benutzerdefinierbare Voreinstellungen, ein Repertoire an erkennbaren oder bereitzustellenden Emotionen oder eine Historie von erfassten Emotionen der Person 110 umfassen.
Die Schnittstelle 135 kann mit einem anderen System oder Subsystem an Bord des Fahrzeugs 105 verbunden sein und den Bezug von Informationen oder der Steuerung einer Fahrzeugfunktion dienen. In einer Ausführungsform kann über die Schnittstelle 135 beispielsweise eine Innenbeleuchtung des Fahrzeugs 105 gesteuert werden. In einer anderen Ausführungsform kann beispielsweise eine Fahrfunktion des Fahrzeugs 105, die eine Längs- und/oder Quersteuerung des Fahrzeugs 105 umfasst, beeinflusst werden, beispielsweise durch Vorgabe eines Reiseziels oder Änderung einer gewünschten Fahrgeschwindigkeit. Die Informationen können auch einen weiteren Hinweis auf eine Emotion der Person 110 geben, beispielsweise indem sie eine Pulsrate oder eine Frequenz des Blinzelns der Person 110 reflektieren. Eine solche Abtastung kann mittels eines optischen oder eines anderen Sensors an Bord des Fahrzeugs 100 erfolgen.
Das System 100 kann einen digitalen Assistenten zur Steuerung des Fahrzeugs 105 mittels sprachlicher Interaktion mit der Person 110 realisieren. Es wird vorgeschlagen, das System 100 dazu auszubilden, eine optische Repräsentation des digitalen Assistenten auf der Ausgabeeinrichtung 120 so zu steuern, dass er eine vorbestimmte Emotion ausdrückt. Diese Emotion soll insbesondere von einer Emotion abgeleitet werden, die während der Interaktion von der Person 110 auf der Basis einer Abtastung mittels der Eingabeeinrichtung 115 erkannt wurde.
Figur 2 zeigt ein Ablaufdiagramm eines beispielhaften Verfahrens 200. Das Verfahren 200 kann insbesondere mit Hilfe eines Systems 100 ausgeführt werden.
In einem Schritt 205 kann ein Innenraum des Fahrzeugs 105 aufgenommen werden. Dazu kann eine optische Eingabeeinrichtung 115 wie eine Kamera verwendet werden. In einem Schritt 210 kann eine Person 110 im Innenraum des Fahrzeugs 105 erfasst werden. Befinden sich mehrere Personen 110 im Innenraum, so kann eine ausgewählt werden, die mit dem digitalen Assistenten des Systems 100 interagiert.
In einem Schritt 215 kann die gewählte Person 110 optisch abgetastet werden. Dazu kann insbesondere ein Gesicht, optional ein Torso oder weiter optional die gesamte Person optisch abgetastet werden. Einzelne Elemente der Person 110 können auf der Abtastung erkannt und miteinander in Kontext werden. Beispielsweise können Stellungen von Gliedmaßen der Person 110 erfasst werden und eine daraus entstehende Körperhaltung oder Geste kann bestimmt werden. Das Abtasten kann insbesondere erfolgen, während in einem nebengeordneten Schritt 220 eine akustische Eingabe der Person 110 erfasst wird.
Schritte, die in der Darstellung von Figur 2 links dargestellt sind, betreffen eine Funktionalität eines digitalen Assistenten, während rechts dargestellte Schritte der hierin vorgestellten emotionalen Unterstützung zugeordnet sind.
In einem Schritt 225 kann eine erste Emotion der Person 110 auf der Basis der optischen Abtastung bestimmt werden. Die Emotion kann insbesondere auf der Basis einer Pose, einer Geste, einer Mimik und/oder einer Sprechweise bestimmt werden. In einem Schritt 230 kann die bestimmte Emotion im Kontext mit der sprachlichen Äußerung der Person 110 gesetzt werden. Dazu kann in einem Schritt 235 die akustische Eingabe der Person 110 verarbeitet und insbesondere verstanden werden. Optional können im Schritt 230 auch noch weitere Informationen wie beispielsweise ein Fahrzustand, ein Reiseziel oder eine Anzahl an Bord befindlicher Personen 110 bestimmt werden.
In einem Schritt 240 kann auf der Basis der bestimmten ersten Emotion und der weiteren bestimmten Informationen eine zweite Emotion bestimmt werden. Die zweite Emotion kann der ersten Emotion folgen, also ihr nachempfunden sein, oder dazu eingerichtet sein, der ersten Emotion entgegen zu wirken, sie also zu komplementieren. In einer weiteren Ausführungsform kann die zweite Emotion gegenüber der ersten auf einer vorbestimmten Skala um einen vorbestimmten Betrag verschoben sein. So kann die zweite Emotion beispielsweise stets um ein gewisses Maß freundlicher oder gelassener sein. So kann der digitale Assistent vorwiegend als positiv oder aufgeschlossen wahrgenommen werden. Die Verschiebung der zweiten gegenüber der ersten Emotion kann auch in Betrag oder Skala bezüglich einer vorliegenden Situation oder eines Fahrzustands des Fahrzeugs bestimmt werden. Sowohl die erste als auch die zweite Emotion kann eine Überlagerung verschiedener Emotionen betreffen, die auf unterschiedlichen Skalen liegen, wie unten noch genauer ausgeführt wird.
In einem Schritt 245 kann der interaktive digitale Assistent gesteuert werden, um die vorbestimmte zweite Emotion auszudrücken. Dies kann erfolgen, während die Person 110 spricht, oder während eine akustische Ausgabe des digitalen Assistenten erfolgt. Die Ausgabe kann in einem Schritt 250 in Abhängigkeit der verarbeiteten akustischen Abtastung der Person 110 bereitgestellt werden. Ebenfalls kann im Schritt 250 eine Fahrzeugfunktion insbesondere eine Fahrfunktion des Fahrzeugs 105 in Antwort auf die akustische Eingabe der Person 110 gesteuert werden. Die durch den auf der Ausgabeeinrichtung 120 sichtbare Repräsentation des digitalen Assistenten vermittelte zweite Emotion kann dabei die Interaktion mit der Person 110 unterstützen.
Nicht alle der dargestellten Schritte 205 bis 250 des Verfahrens 200 müssen in der gezeigten Reihenfolge ablaufen. Einige der Schritte können auch entfallen. Beispielsweise kann in einer Ausführungsform vom Schritt 215 unmittelbar zum Schritt 245 übergegangen werden, indem die optische Repräsentation des digitalen Assistenten dazu angesteuert wird, mimische oder gestuelle Hinweise auf die erste Emotion direkt zu reflektieren. Dies kann insbesondere vorteilhaft sein, um die erste Emotion der Person 110 widerzuspiegeln, noch bevor eine Eingabe der Person 110 abgeschlossen ist. Selbstverständlich können die unterschiedlichen Ausführungsformen auch ineinander übergeführt werden, so dass beispielsweise nach dem Erkennen der sprachlichen Eingabe auf die oben beschriebene, komplexere Ausführungsform der emotionalen Unterstützung übergegangen wird.
Figur 3 zeigt beispielhafte Ausdrücke von Emotionen auf einem Gesicht einer Person 110. Die dargestellten Ausdrücke können an der Person 110 beobachtet werden oder einer Ausgabe der grafischen Repräsentation des digitalen Assistenten auf der Ausgabevorrichtung 120 zugrunde gelegt werden.
In einer oberen Reihe sind Ausdrücke von Gesichtern dargestellt, die jeweils einer Emotion zugeordnet werden können. Dazu zählen ein glücklicher Ausdruck 305, ein trauriger Ausdruck 310, ein ängstlicher Ausdruck 315, ein verärgerter Ausdruck 320, ein überraschter Ausdruck 325, ein abgestoßener Ausdruck 330 und ein neutraler Ausdruck 335. Der neutrale Ausdruck 335 kann als Beispiel für eine hierin beschriebene Normalemotion verwendet werden.
Zur Zuordnung eines Ausdrucks 305 bis 335 zu einer Emotion können einzelne Elemente des dargestellten Gesichts analysiert werden. Beispielsweise kann eine Form, ein Öffnungsgrad oder eine Verzerrung des Mundes beobachtet werden. In ähnlicher Weise können Augen, Augenbrauen, oder Wangenmuskulatur in Größe, Stellung, Betätigung etc. betrachtet werden. Solchermaßen bestimmte Merkmale können mit vorbestimmten Kombinationen von Merkmalen verglichen werden. Einer Kombination kann eine Emotion zugeordnet sein, die somit erkannt werden kann.
Eine Emotion kann durch die Person 110 oder den digitalen Assistenten in unterschiedlichen graduellen Abstufungen ausgedrückt werden. Die Abstufungen können auf einer Skala angeordnet werden, sodass sie nach aufsteigender oder absteigender Stärke der Emotion geordnet sind. Es ist auch möglich, eine Skala oder einen Verlauf zwischen zwei unterschiedlichen Emotionen zu bilden.
In der zweiten Reihe der Darstellung von Figur 3 ist ein erster Verlauf 340 von Emotionen dargestellt, die von Furcht (ganz links) bis Traurigkeit (ganz rechts) graduell abgestuft sind. In ähnlicher Weise ist in der dritten Reihe von Figur 3 ein zweiter Verlauf 345 von Emotionen dargestellt, die von Glück (ganz links) graduell bis Ekel (ganz rechts) abgestuft sind.
Es wird deutlich, wie eine Emotion in Art und Stärke anhand einer optischen Abtastung eines Gesichts erkannt beziehungsweise umgekehrt durch eine optische Repräsentation eines Gesichts für den digitalen Assistenten ausgedrückt werden kann.
Die in Figur 3 dargestellten Emotionen und Übergänge sind hierbei als rein exemplarisch zu betrachten.
Figur 4 zeigt beispielhafte optische Darstellungen von Emotionen. Jede der Darstellungen kann als optische Repräsentation des digitalen Assistenten auf der Ausgabeeinrichtung 120 verwendet werden.
Eine erste Darstellung 405 betrifft eine dreidimensionale Darstellung eines Gesichts. Dabei ist exemplarisch ein Drahtgittermodell zur Darstellung des Gesichts gewählt worden. Das Modell kann beliebig verfeinert und insbesondere mit einer Textur versehen werden. Die Ausgabeeinrichtung 120 kann eine zweidimensionale oder dreidimensionale optische Repräsentation bereitstellen. Anstelle eines Gesichts kann auch ein anderer und insbesondere größerer Abschnitt einer Figur gewählt werden. Diese Figur kann humanoid sein oder es kann eine andere Ausdrucksweise für den digitalen Assistenten gewählt sein.
Eine zweite Darstellung 410 zeigt ein stilisiertes Gesicht, wobei Elemente wie eine Nase, die Augen, Wangen, ein Mund oder ein Kinn in vereinfachten, reduzierten, überzeichneten oder symbolhaften Formen dargestellt sind. Eine Form, Größe oder Anordnung der Elemente muss nicht einer üblichen menschlichen Anatomie folgen und kann auch zum Ausdrücken einer Emotion verwendet werden.
Eine dritte Darstellung 415 zeigt ein abstrahiertes Gesicht, das vorliegend realistische Elemente in Form der Augen und unrealistische Elemente in Form von die Augen umgebenden schwarzen und weißen Umrandungen umfasst. Die Umrandungen bilden in einem Bereich zwischen den Augen Muster, die als Nase oder Mund wahrgenommen werden können.
In entsprechender Weise können auch noch abstraktere Muster oder Effekte verwendet werden, um die Anmutung einer Person oder Persönlichkeit des digitalen Assistenten zu transportieren. In allen Fällen können die Darstellungen 405 bis 415 so gesteuert werden, dass sie eine vorbestimmte Emotion ausdrücken. Es ist zu beachten, dass der Darstellung nicht notwendigerweise ein Gesicht zugrunde gelegt sein muss. In anderen Ausführungsformen kann beispielsweise ein Tier, ein Fabelwesen, ein animierter Gegenstand oder eine Comicfigur zur Repräsentation des digitalen Assistenten verwendet werden.
Bezugszeichen
100 System
105 Fahrzeug
110 Person
115 Eingabeeinrichtung
120 Ausgabeeinrichtung
125 Verarbeitungseinrichtung
130 Datenspeicher
135 Schnittstelle
200 System
205 Innenraum aufnehmen
210 Person erfassen
215 Person optisch abtasten
220 akustische Eingabe erfassen
225 erste Emotion bestimmen
230 Verarbeitung optische Abtastung
235 Verarbeitung akustische Abtastung
240 zweite Emotion bestimmen
245 interaktiven digitalen Assistenten steuern
250 Ausgabe des digitalen Assistenten,
Fahrzeugfunktion steuern
305 glückliche Emotion
310 traurige Emotion
315 ängstliche Emotion
320 verärgerte Emotion
325 überraschte Emotion
330 abgestoßene Emotion
335 neutrale Emotion
340 erster Verlauf
345 zweiter Verlauf erste Darstellung zweite Darstellung dritte Darstellung

Claims

Ansprüche
1. System (100) zur Steuerung eines digitalen Assistenten an Bord eines Fahrzeugs (105) zur Interaktion mit einer Person (110) mittels Sprache, wobei das System (100) folgende Elemente umfasst: eine Eingabeeinrichtung (115) zur optischen Abtastung der Person (110); eine Ausgabeeinrichtung (120) zur Ausgabe eines optischen Eindrucks des Assistenten; und eine Verarbeitungseinrichtung (125), die dazu eingerichtet ist, den digitalen Assistenten so zu steuern, dass er eine Emotion (305-335) in Abhängigkeit einer Emotion (305-335) der Person (110) ausdrückt.
2. System (100) nach Anspruch 1 , wobei die Emotion (305-335) des digitalen Assistenten der Emotion (305-335) der Person (110) folgt.
3. System (100) nach Anspruch 1 oder 2, wobei der digitale Assistent ein Gesicht aufweist und die Verarbeitungseinrichtung (125) dazu eingerichtet ist, den digitalen Assistenten so anzusteuern, dass ein Ausdruck seines Gesichts einem Ausdruck des Gesichts der Person (110) folgt.
4. System (100) nach einem der vorangehenden Ansprüche, wobei der digitale Assistent Gliedmaßen aufweist und die Verarbeitungseinrichtung (125) dazu eingerichtet ist, den digitalen Assistenten so zu steuern, dass seine Gliedmaßen einer Pose oder einer Geste von Gliedmaßen der Person (110) folgt.
5. System (100) nach einem der vorangehenden Ansprüche, wobei die Verarbeitungseinrichtung (125) dazu eingerichtet ist, eine erste Emotion (305-335) der Person (110) auf der Basis der optischen Abtastung zu bestimmen; eine zweite Emotion (305-335) auf der Basis der ersten Emotion (305-335) zu bestimmen; und den digitalen Assistenten dazu anzusteuern, die zweite Emotion (305-335) auszudrücken.
6. System (100) nach Anspruch 5, wobei die Verarbeitungseinrichtung (125) dazu eingerichtet ist, einen Unterschied zwischen der ersten Emotion (305- 335) und einer vorbestimmten Normalemotion (335) auf einer vorbestimmten Skala zu bestimmen und die zweite Emotion (305-335) derart zu bestimmen, dass sie der ersten Emotion (305-335) auf der Skala nur bis zu einem vorbestimmten Abstand von der Normalemotion (335) folgt.
7. System (100) nach einem der Ansprüche 5 oder 6, wobei die zweite Emotion (305-335) die erste Emotion (305-335) auf der vorbestimmten Skala komplementiert.
8. System (100) nach einem der Ansprüche 5 bis 7, wobei die Verarbeitungseinrichtung (125) dazu eingerichtet ist, eine vorbestimmte Emotion (335) als zweite Emotion (305-335) festzulegen, falls die Bestimmung der ersten Emotion (305-335) nicht gelingt oder nicht eindeutig ist.
9. System (100) nach einem der vorangehenden Ansprüche, ferner umfassend eine Schnittstelle (135) zu einem Innenbeleuchtungssystem des Fahrzeugs (105); wobei die Verarbeitungseinrichtung (125) dazu eingerichtet ist, das Innenbeleuchtungssystem derart zu steuern, dass es die zweite Emotion (305-335) unterstützt.
10. System (100) nach einem der vorangehenden Ansprüche, wobei der digitale Assistent dazu eingerichtet ist, eine sprachliche Äußerung der Person (110) zu erkennen und eine gesprochene Ausgabe in Abhängigkeit der Äußerung bereitzustellen.
11. System (100) nach Anspruch 10, wobei die Äußerung einen Fahrzeugzustand des Fahrzeugs (105) betrifft.
12. System (100) nach Anspruch 10 oder 11 , wobei der digitale Assistent dazu eingerichtet ist, eine Fahrzeugfunktion (105) in Antwort auf die Äußerung zu steuern.
13. Fahrzeug (105), umfassend ein System (100) nach einem der vorangehenden Ansprüche.
14. Verfahren (200) zur Steuerung eines digitalen Assistenten an Bord eines
Fahrzeugs (105) zur Interaktion mit einer Person (110) mittels Sprache, wobei das Verfahren (200) folgende Schritte umfasst: optisches Abtasten (215) der Person (110); und
Ausgeben (245, 250) eines optischen Eindrucks des digitalen Assistenten; wobei der digitale Assistent angesteuert (245) wird, eine Emotion (305- 335) in Abhängigkeit einer Emotion (305-335) der Person (110) auszudrücken.
PCT/EP2023/053825 2022-04-01 2023-02-16 Interaktive Steuerung eines Fahrzeugs Ceased WO2023186397A1 (de)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202380025145.4A CN118829966A (zh) 2022-04-01 2023-02-16 车辆的交互式控制
US18/846,491 US20250214425A1 (en) 2022-04-01 2023-02-16 Interactive Control for a Vehicle

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102022107809.4A DE102022107809A1 (de) 2022-04-01 2022-04-01 Interaktive Steuerung eines Fahrzeugs
DE102022107809.4 2022-04-01

Publications (1)

Publication Number Publication Date
WO2023186397A1 true WO2023186397A1 (de) 2023-10-05

Family

ID=85283672

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2023/053825 Ceased WO2023186397A1 (de) 2022-04-01 2023-02-16 Interaktive Steuerung eines Fahrzeugs

Country Status (4)

Country Link
US (1) US20250214425A1 (de)
CN (1) CN118829966A (de)
DE (1) DE102022107809A1 (de)
WO (1) WO2023186397A1 (de)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102007053470A1 (de) * 2006-11-20 2008-05-29 Denso Corp., Kariya Fahrzeug-Anwender-Behelfssystem
US20110093158A1 (en) * 2009-10-21 2011-04-21 Ford Global Technologies, Llc Smart vehicle manuals and maintenance tracking system
DE102011013777A1 (de) * 2011-03-12 2011-11-03 Daimler Ag Verfahren zum Einstellen der Lichtfarbe von zumindest zwei Leuchtmitteln sowie Kraftwagen
WO2021077737A1 (zh) * 2019-10-22 2021-04-29 上海商汤智能科技有限公司 基于车载数字人的交互

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8649533B2 (en) 2009-10-02 2014-02-11 Ford Global Technologies, Llc Emotive advisory system acoustic environment
DE102015203875B4 (de) 2015-03-04 2025-05-28 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Vorrichtung zur Informationsausgabe von einem Fahrzeug

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102007053470A1 (de) * 2006-11-20 2008-05-29 Denso Corp., Kariya Fahrzeug-Anwender-Behelfssystem
US20110093158A1 (en) * 2009-10-21 2011-04-21 Ford Global Technologies, Llc Smart vehicle manuals and maintenance tracking system
DE102011013777A1 (de) * 2011-03-12 2011-11-03 Daimler Ag Verfahren zum Einstellen der Lichtfarbe von zumindest zwei Leuchtmitteln sowie Kraftwagen
WO2021077737A1 (zh) * 2019-10-22 2021-04-29 上海商汤智能科技有限公司 基于车载数字人的交互
US20220189093A1 (en) * 2019-10-22 2022-06-16 Shanghai Sensetime Intelligent Technology Co., Ltd. Interaction based on in-vehicle digital persons

Also Published As

Publication number Publication date
CN118829966A (zh) 2024-10-22
US20250214425A1 (en) 2025-07-03
DE102022107809A1 (de) 2023-10-05

Similar Documents

Publication Publication Date Title
DE60119496T2 (de) Verfahren und Vorrichtung um eine mittels eines Klangs übermittelte Emotion zu synthetisieren
DE102006032484B4 (de) Auf Gesichtsmerkmale örtlich begrenztes und umfassendes Echtzeit-Video-Morphing
DE102023101187A1 (de) Verfahren zum Betreiben eines Unterhaltungssystems in einem Kraftfahrzeug sowie Kraftfahrzeug
DE102021125744A1 (de) Computer-implementiertes Verfahren, Vorrichtung und Computerprogramm zum Steuern von ein oder mehreren Einstellungen eines Fahrzeugs
DE102021202519A1 (de) Verfahren zum Betreiben eines Unterhaltungssystems eines Kraftfahrzeugs, Computerprogrammprodukt sowie Unterhaltungssystem
DE102022003085A1 (de) Verfahren zur individuellen Anpassung innenraumbezogener Einstellungen eines Fahrzeuges
WO2023186397A1 (de) Interaktive Steuerung eines Fahrzeugs
DE102020003718A1 (de) Verfahren zur Zuordnung zwischen Eingabesignalen und Fahrzeugfunktionen
DE102015203875B4 (de) Verfahren und Vorrichtung zur Informationsausgabe von einem Fahrzeug
DE102018200915A1 (de) Verfahren und System zur Visualisierung eines Fahrzeugzustands
DE102024107810A1 (de) Verfahren und vorrichtung zur einstellung der kabinenumgebung
DE202023107282U1 (de) Interaktives Fahrzeug-Unterhaltungssystem unter Verwenden von Fahrzeug-Innenraum- und Fahrzeug-Aussenraum-Sensoren
DE102008045123B4 (de) Assistenz- und Informationsvorrichtung in einem Kraftfahrzeug sowie Verfahren zum Ausgeben von Informationen
DE102023004208B4 (de) Verfahren zur lnteraktion mit einem Verkehrsteilnehmer und Fahrzeug
DE102024003531B3 (de) Verfahren zum Betrieb eines Sprachassistenzsystems in einem Fahrzeug
DE102021133483A1 (de) Verfahren zur Gestaltung eines Exterieur-Designs eines kraftangetriebenen Fortbewegungsmittels
DE102025105589B3 (de) Bildklassifizierung im Sparse Coding Modell durch Erhöhung der Ausgangsschicht-Neuronen
DE102023129939B3 (de) Verfahren zum persönlichkeitsbasierten Assistieren eines Nutzers eines Fahrzeugs
DE102025134122A1 (de) Vorrichtung, Fahrzeug, computerlesbarer Datenträger, Computerprogramm und Verfahren zum Anpassen eines elektronisch steuerbaren Erscheinungsbildes eines Fahrzeuginnenraums
EP4528432A1 (de) Verfahren zum generieren einer virtuellen person für eine interaktion mit einer realen person mittels eines systems, computerprogrammprodukt, computerlesbares speichermedium sowie system
DE102023004448A1 (de) Verfahren zur Ermittlung eines sprachlichen Umganges eines Nutzers mit einem Sprachassistenzsystem
DE102008045125B4 (de) Verfahren und Assistenzsystem zum Vermitteln von zur Laufzeit zusammengestellten Assistenzinformationen
DE102023124435A1 (de) Verfahren zum autonomen oder teleoperierten Betrieb eines Personentransportfahrzeuges und autonom fahrendes oder teleoperiertes Personentransportfahrzeug
DE102020100123A1 (de) Verfahren zum Betreiben wenigstens einer Ausgabevorrichtung, die einem Kraftfahrzeug zugeordnet ist
US20250216927A1 (en) Context-based in-vehicle immersive visual output

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23705990

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 202380025145.4

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 18846491

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 23705990

Country of ref document: EP

Kind code of ref document: A1

WWP Wipo information: published in national office

Ref document number: 18846491

Country of ref document: US