WO2024256344A1 - Steuern eines haushaltsgeräts - Google Patents

Steuern eines haushaltsgeräts Download PDF

Info

Publication number
WO2024256344A1
WO2024256344A1 PCT/EP2024/065965 EP2024065965W WO2024256344A1 WO 2024256344 A1 WO2024256344 A1 WO 2024256344A1 EP 2024065965 W EP2024065965 W EP 2024065965W WO 2024256344 A1 WO2024256344 A1 WO 2024256344A1
Authority
WO
WIPO (PCT)
Prior art keywords
household appliance
language model
response
support request
representation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/EP2024/065965
Other languages
English (en)
French (fr)
Inventor
Manuel KIRSCHNER
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
BSH Hausgeraete GmbH
Original Assignee
BSH Hausgeraete GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by BSH Hausgeraete GmbH filed Critical BSH Hausgeraete GmbH
Priority to CN202480039571.8A priority Critical patent/CN121336255A/zh
Priority to EP24732289.4A priority patent/EP4728506A1/de
Publication of WO2024256344A1 publication Critical patent/WO2024256344A1/de
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/06Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/063Training
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/30Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/088Word spotting
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/27Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
    • G10L25/30Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks

Definitions

  • the present invention relates to the control of a household appliance.
  • the invention relates to improved user guidance when controlling the household appliance.
  • a household appliance such as a washing machine, includes controls that allow a user to select a predetermined program, set an option or obtain information about the appliance.
  • user guidance is intuitive in most cases, there are cases where the user needs assistance. For example, the user may have a question about the correct use of an option or program, or the household appliance may signal an error or warning that is not self-explanatory.
  • the user can consult a user manual that may be provided with the device.
  • the user can contact a help center or a specialist.
  • Another source of information includes a forum or documentation center that may be accessible via the Internet. These sources of information have in common that they are usually not trustworthy or do not address the user's specific problem or question. In addition, some methods require a longer wait time for an answer. Some sources are subject to payment. An answer is not always relevant or safe. In some cases, the user may follow advice and thereby make the problem worse or cause a new one.
  • One object underlying the present invention is to provide an improved technology for controlling a household appliance.
  • the invention solves this problem by means of the subject matter of the independent claims. Subclaims give preferred embodiments.
  • a method for controlling a household appliance comprises steps of detecting a linguistically formulated support request in the area of the household appliance; converting the support request into a textual representation; determining a response in text form by means of a language model; converting the response into a linguistic representation; and outputting the linguistic representation on the household appliance.
  • specialist knowledge and language understanding that can be achieved by means of a language model can be used to provide a specific response to a request formulated by a user of the household appliance.
  • a linguistic interaction can take place between the household appliance and the user in order to solve an existing problem.
  • the method can be controlled or triggered intuitively by the user.
  • a response can be provided with little or no noticeable delay.
  • the language model can be capable of learning so that increasingly better answers can be found over time based on the support requests of one or more users.
  • the language model preferably comprises a large language model (LLM) implemented on an artificial neural network (ANN) with a large number of parameters.
  • LLM large language model
  • ANN artificial neural network
  • ANN artificial neural network
  • the language model can be operated by an external service provider and made available to respond to the support request.
  • the quality of the responses provided can be improved by applying one or more measures for specific training or adaptation of the language model.
  • the language model is trained on vocabulary related to the household appliance. For example, with regard to a washing machine, an improved technical understanding of a component such as a water pump, an eco-closure or an aqua stop can be achieved.
  • the vocabulary can be incorporated into the language model so that the vocabulary can be put together to form sentences in a given context that are meaningful not only grammatically but also in terms of their meaning.
  • the language model is trained to operate the household appliance.
  • the contents of an instruction manual or a general user guide for household appliances of the same type or class can be used as training data.
  • Other data sources can include, for example, a discussion in a forum or background information, such as from a scientific publication or a test report. For example, the user can find out about a washing machine how to gently remove a certain type of dirt from a given textile.
  • the language model is trained with respect to a function of the household appliance. For example, information from a service manual or a general work regarding the function of the present class of household appliances can be used as training data.
  • the language model is trained to handle errors in the household appliance.
  • the error handling can include errors reported by the household appliance itself or errors noticed by the user due to a faulty function.
  • Function or repair documentation or forum conversations can also be used as training material for this.
  • the language model's achievable answers can improve in quality if the additional training data mentioned is as precise and as comprehensive as possible.
  • An operator of a language model can offer an interface via which special knowledge can be contributed or made accessible to the language model.
  • training data relating to the household appliance can be combined modularly with general training data of the language model.
  • the training data provided can be separable from the rest of the language model complex so that mixing or combining only takes place under predetermined conditions. For example, it can be ensured that the language model only accesses the additional information if a specific interface provided by the operator is used.
  • a user who uses a different, in particular a public, interface of the language model can receive answers that are not based on the specifically contributed training data.
  • a predetermined keyword or key phrase is first recognized, which precedes the assistance request. This means that it can first only be checked whether the keyword can be recognized in acoustic data in the area of the household appliance, and only if this is the case can further processing of audio data can be started. The privacy of a person in the area of the household appliance can thus be better protected. In addition, analysis of verbal utterances that do not include a request for support can be prevented.
  • the linguistically formulated support request is converted into a textual representation using a predetermined vocabulary that is related in particular to the household appliance.
  • a recognition model for converting spoken language can be trained in addition to recognizing technical terms and proper names in connection with the household appliance.
  • a modular approach in which the trained technical terms can be separated from a general vocabulary can be supported. The approach for this can correspond to that regarding the modularity of learning content in the language model.
  • a device for controlling a household appliance comprises at least one microphone in the area of the household appliance for detecting a verbally formulated support request; an acoustic output device in the area of the household appliance; a communication device for communicating with a service external to the household appliance; and a processing device.
  • the processing device is configured to transmit an indication of the support request to the external service; to receive a response to the support request; and to output a linguistic representation of the response.
  • the device and in particular the processing device it comprises are preferably designed to at least partially carry out a method described herein.
  • the method can be in the form of a computer program product with program code means.
  • the computer program product can be stored on a computer-readable data carrier. Additional features or advantages of the method can be transferred to the device or vice versa.
  • the device can be retrofitted cost-effectively to a household appliance if it already contains one or more of the components mentioned.
  • the communication device is preferably designed to provide a wired or wireless connection to the external service via a data or communication network.
  • the communication device can be designed to communicate with a mobile network or the Internet.
  • the device further includes a device for detecting a predetermined keyword that precedes the support request.
  • the processing device is designed to forward the reference to the support request to the external service only after recognizing the keyword.
  • the conversion of the support request from an acoustic to a textual form can also be carried out by the device.
  • the device comprises a device for converting the support request into a textual representation; the indication comprises the textual representation.
  • the conversion can be carried out by an external service that is contacted via the communication device. The external service can be implemented separately from the language model or combined with it.
  • the response is received in text form, the device further comprising a device for converting the response into a linguistic representation.
  • the response in text form can thus only be small in scope and can be transmitted quickly to the household appliance. Conversion into a linguistic representation then only takes place in the household appliance.
  • an interface is provided for controlling a function of the household appliance depending on the answer.
  • an optical display device can be used to output the answer in text form.
  • an optical indication of a control element of the household appliance to be used can be highlighted in accordance with the answer.
  • a household appliance comprises a device described herein.
  • the household appliance can be intended in particular for laundry care and can comprise a washing machine or a dryer.
  • Other exemplary household appliances that can be used with the device can be equipped with an extractor hood or a coffee machine.
  • a system for controlling a household appliance comprises at least one microphone in the area of the household appliance for detecting a linguistically formulated support request; a device for determining a textual representation of the support request; a language model that is configured to provide a response in text form to a textually represented support request; a device for providing a linguistic representation of a response represented in text form; and an acoustic output device in the area of the household appliance for acoustically outputting a provided linguistic representation.
  • the system can in particular comprise a household appliance described herein and a service that is external to the household appliance. Further services can implement additional functionalities. It is preferred that the system is set up for use by a large number of household appliances.
  • the household appliances can, for example, belong to a common appliance class or be manufactured by the same manufacturer.
  • Figure 1 a system
  • Figure 2 shows a flow chart of a method.
  • FIG. 1 shows a system 100 for controlling a household appliance 105.
  • the household appliance 105 is designed to serve a predetermined purpose in a household. This purpose can include, in particular, laundry care or a task in a kitchen.
  • a user 110 can use the household appliance 105.
  • the male gender is used for the user 110 purely by way of example and without any specific intention or restriction.
  • the household appliance 105 comprises a device 112 for controlling an interaction with the user 110.
  • the device 112 comprises at least one microphone 115 which is attached to the household appliance 105 in such a way that it records spoken words in the area of the household appliance 105.
  • the microphones 115 can be attached to the household appliance 105 in different areas or with different orientations.
  • a pre-processing 120 is provided, which is designed to process and improve a detected acoustic signal. For example, noise suppression can be applied, a frequency response can be adjusted, background or interference noises can be suppressed, or a speaker can be isolated from a complex audio signal with multiple speakers.
  • the pre-processing 120 can comprise a digital or analog signal processor.
  • a keyword recognition 125 is set up to recognize an occurrence of a predetermined keyword in an audio data stream.
  • the keyword is preferably selected such that it is conspicuous in terms of signal technology in a typical household audio data stream and a user 110 can easily remember it.
  • a processing device 130 is designed to control at least one of the components of the household appliance 105 shown.
  • the processing device 130 can provide audio data provided by the preprocessing 120 to an external service 140 by means of a communication device 135.
  • a response from the external service 140 can also be received by means of the communication device 135 and provided acoustically to the user 110 by means of an output device 145 in the area of the household appliance 105.
  • the output device 145 preferably comprises a loudspeaker and more preferably a matching amplifier.
  • Acoustic data provided to the outside by the communication device 135 can be converted by a service 150.
  • This is also referred to as speech-to-text (STT).
  • the conversion of speech data into text form can also be carried out by means of a component 150 that is part of the household appliance 105 or the device 112. In this case, the component 150 is connected upstream of the communication device 135 in the direction of the external service 140.
  • the provided text data which is a representation of the support request of the user 110, can be provided to a language model 155.
  • the language model 155 is preferably a large language model that is trained to process general language texts using a large variety of data.
  • additional training data 160 may be provided, in particular by a manufacturer of the household appliance 105, which may be combined or interwoven with the general data. It is preferred that the use of the additional training data 160 is limited to use cases in connection with the household appliance 105.
  • the language model 155 can provide a response based on the support request, which is usually also in text form.
  • the response can be converted by means of a component 165 into acoustic data that corresponds to a spoken word of the textual response.
  • This technology is also called text-to-speech (TTS).
  • TTS text-to-speech
  • the component 165 is shown as a service outside of the household appliance 105.
  • An output of the component 165 can be transmitted to the household appliance 105 by means of the communication device 135.
  • a component 165 with the same functionality can also be included in the household appliance 105 or the device 112, so that the text data of the language model 155 first passes through the communication device 135 and only then reaches the component 165.
  • the acoustic data provided in this way can be output to the user by means of the acoustic output device 145 in the area of the household appliance 105.
  • the processing device 130 can provide part of the data to the user 110 by means of a device of the household appliance 105.
  • information can be exchanged via an interface 170.
  • an output device in the form of a text display can be provided, and the response can be provided not only in acoustic but also in text form on the household appliance 105.
  • the user 110 makes a linguistic support request to the household appliance 105, his spoken words can be converted into text, converted into a response using the language model 155, and the response can be output to the user 110 on the household appliance 105. This can give the user 110 the impression that the household appliance 105 is capable of dialogue.
  • an assistance request may include advice on operating the household appliance 105 to achieve a predetermined goal.
  • the household appliance 105 comprises a washing machine
  • the user 110 can request assistance with a cleaning or operating problem as follows:
  • the first part of this statement may correspond to the predetermined keyword to cause processing of the following sentence.
  • An exemplary response provided to the user 110 by the language model 155 to this sentence could be:
  • the user 110 can also seek advice if a problem occurs with the household appliance 105.
  • the user can ask a question related to a general operation of the household appliance 105:
  • this response could then be output as voice data on the household appliance 105:
  • the washing machine is still in the middle of a wash cycle. Make sure that the washing machine has finished its cycle and the 'door locked' indicator light has gone out.”
  • additional information that depicts a device status of the household appliance 105 can also be taken into account.
  • the device status can be transmitted together with the request to the language model 155.
  • the device status is also available in text form so that it can be read by a human.
  • the user 110 can ask a question regarding operation or maintenance of the household appliance 105:
  • the user 110 may inquire about the meaning of an existing error or an error code that the household appliance 105 is issuing:
  • a device status of the household appliance 105 here for example the error code provided, can be transmitted and provided together with the linguistic request to the language model 155.
  • a possible answer could be:
  • FIG. 2 shows a flow chart of an exemplary method 200 for controlling a household appliance 105.
  • the method 200 preferably begins in a step 205, in which the pronunciation of a predetermined keyword is detected in the area of the household appliance 105.
  • a linguistic request following the keyword to assist in handling the household appliance 105 can be detected.
  • the recorded request can be converted into text form in a step 215.
  • the STT component 150 in the household appliance 105 or an STT service 150 outside the appliance 105 can be used for this purpose. Speech recognition can be based on machine learning, for example using an artificial neural network trained for this purpose. Available STT components can support different speakers and/or different languages or dialects.
  • a special vocabulary can be used that is related to the household appliance 105 in question or the task to be performed with it.
  • the special vocabulary can be entered into the STT component for general recognition or used modularly only for requests in the present context. It is preferred that a manufacturer of the household appliance 105 provides information about an expected vocabulary to a provider of the STT component.
  • the support request in text form can be fed to the language model 155 in a step 220.
  • additional information can also be provided to the language model 155, which in particular relates to an identification, a device type, a device model and/or a status of the household appliance 105.
  • This information is preferably also expressed in text form.
  • a status of the household appliance 105 can include a number of structured parameters that can be expressed in an XML structure or in JSON format, for example.
  • the language model 155 determines a response in text form with regard to the support request in text form and, if applicable, the further information on the basis of the training data made available to it.
  • the response can be converted into a linguistic representation.
  • a TTS service 165 outside the household appliance 105 can be used, or a TTS component 165 is included in the household appliance 105 for this purpose.
  • the specific linguistic representation can be output in the area of the household appliance 105 so that the user 110 can hear it.
  • the dialogue with the language model 155 - or the perceived dialogue with the household appliance 105 - can be continued by running through the method 200 again.
  • the method 200 can be run through as often as necessary to enable the user 110 to enable the user to use his household appliance 105 in the planned manner or in the best possible way.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Selective Calling Equipment (AREA)

Abstract

Ein Verfahren (200) zum Steuern eines Haushaltsgeräts (105) umfasst Schritte des Erfassens (210) einer sprachlich formulierten Unterstützungsanforderung im Bereich des Haushaltsgeräts (105); des Umwandelns (215) der Unterstützungsanforderung in eine textuelle Repräsentation; des Bestimmens (220) einer Antwort in Textform mittels eines Sprachmodells (155); des Umwandelns (225) der Antwort in eine sprachliche Repräsentation; und des Ausgebens (230) der sprachlichen Repräsentation an dem Haushaltsgerät (105).

Description

Steuern eines Haushaltsgeräts
Die vorliegende Erfindung betrifft die Steuerung eines Haushaltsgeräts. Insbesondere betrifft die Erfindung eine verbesserte Benutzerführung bei der Steuerung des Haushaltsgeräts.
Ein Haushaltsgerät, beispielsweise eine Waschmaschine, umfasst Bedienelemente, mit denen ein Benutzer ein vorbestimmtes Programm auswählen, eine Option einstellen oder eine Information über das Gerät erfassen kann. Obwohl eine Benutzerführung in den meisten Fällen intuitiv ist, gibt es Fälle, in denen der Benutzer Unterstützung benötigt. Beispielsweise kann der Benutzer eine Frage zur korrekten Verwendung einer Option oder eines Programms haben, oder das Haushaltsgerät kann einen Fehler oder eine Warnung signalisieren, die nicht aus sich heraus verständlich ist.
Klassischerweise kann der Benutzer eine Bedienungsanleitung konsultieren, die zusammen mit dem Gerät ausgeliefert sein kann. Alternativ kann der Benutzer ein Hilfecenter oder einen Fachmann zu Rate ziehen. Eine weitere Informationsmöglichkeit umfasst ein Forum oder ein Dokumentationszentrum, das über das Internet erreichbar sein kann. Diese Informationsquellen haben gemein, dass sie in der Regel nicht vertrauenswürdig sind oder nicht auf das spezifische Problem bzw. die Fragestellung des Benutzers eingehen. Außerdem muss bei manchen Methoden eine längere Wartezeit für eine Antwort in Kauf genommen werden. Eine Nutzung mancher Quellen ist kostenpflichtig. Nicht in allen Fällen ist eine Antwort sachdienlich oder ungefährlich. Unter Umständen kann der Benutzer einen Rat befolgen und das Problem dadurch verschlimmern oder ein neues Problem verursachen.
Eine der vorliegenden Erfindung zu Grunde liegende Aufgabe besteht in der Angabe einer verbesserten Technik zur Steuerung eines Haushaltsgeräts. Die Erfindung löst diese Aufgabe mittels der Gegenstände der unabhängigen Ansprüche. Unteransprüche geben bevorzugte Ausführungsformen wieder.
Nach einem ersten Aspekt der vorliegenden Erfindung umfasst ein Verfahren zum Steuern eines Haushaltsgeräts Schritte des Erfassens einer sprachlich formulierten Unterstützungsanforderung im Bereich des Haushaltsgeräts; des Umwandelns der Unterstützungsanforderung in eine textuelle Repräsentation; des Bestimmens einer Antwort in Textform mittels eines Sprachmodells; des Umwandelns der Antwort in eine sprachliche Repräsentation; und des Ausgebens der sprachlichen Repräsentation an dem Haushaltsgerät.
Verfahrensgemäß können ein Fachwissen und ein Sprachverständnis, das mittels eines Sprachmodells erreicht werden kann, dazu genutzt werden, eine spezifische Antwort auf eine Anforderung bereitzustellen, die ein Benutzer des Haushaltsgeräts formuliert. So kann eine sprachliche Interaktion zwischen dem Haushaltsgerät und dem Benutzer erfolgen, um ein bestehendes Problem zu lösen. Das Verfahren kann durch den Benutzer intuitiv gesteuert bzw. ausgelöst werden. Eine Antwort kann mit geringer oder ohne merkliche Verzögerung bereitgestellt werden. Das Sprachmodell kann lernfähig sein, sodass auf der Basis von Unterstützungsanforderungen eines oder mehrerer Benutzer im Lauf der Zeit zunehmend bessere Antworten gefunden werden können.
Das Sprachmodell umfasst bevorzugt ein Large Language Model (LLM), das auf einem künstlichen neuronalen Netzwerk (KNN) mit einer großen Vielzahl von Parametern realisiert ist. In einer typischen Ausführungsform können an einem allgemeinen LLM mehrere Milliarden Gewichte zwischen Neuronen bestimmt sein. Das Netzwerk kann auf einer großen Vielzahl ungekennzeichnetem (unlabelled) Text mittels selbstüberwachten Lernens (unsupervised learning) trainiert sein. Beispielhafte bekannte Sprachmodelle, die sich für den angegebenen Zweck eignen können, umfassen GPT-2, GPT-3, GPT-4, Minerva, PaLM oder LaMDA.
Das Sprachmodell kann von einem externen Dienstleister betrieben und für die Beantwortung der Unterstützungsanforderung bereitgestellt werden. Dabei kann die Qualität von bereitgestellten Antworten verbessert werden, indem eine oder mehrere Maßnahmen zur spezifischen Fortbildung oder Anpassung des Sprachmodells angewandt werden.
In einer Ausführungsform ist das Sprachmodell bezüglich auf das Haushaltsgerät bezogenen Vokabeln trainiert. So kann beispielsweise bezüglich einer Waschmaschine ein verbessertes technisches Verständnis für eine Komponente wie eine Wasserpumpe, einen Ökoverschluss oder einen Aquastop erreicht werden. Die Vokabeln können in das Sprachmodell eingebaut werden, sodass die Vokabeln nicht nur grammatikalisch, sondern auch bezüglich ihrer Bedeutung sinnvoll zu Sätzen in einem gegebenen Kontext zusammengebaut werden können.
In einer weiteren Ausführungsform ist das Sprachmodell bezüglich einer Bedienung des Haushaltsgeräts trainiert. Beispielsweise können Inhalte einer Bedienungsanleitung oder eines allgemeinen Bedienungsleitfadens für Haushaltsgeräte derselben Art oder Klasse als Trainingsdaten verwendet werden. Weitere Datenquellen können beispielsweise eine Diskussion in einem Forum oder Hintergrundinformationen umfassen, etwa aus einer wissenschaftlichen Veröffentlichung oder einem Testbericht. So kann der Benutzer beispielsweise bezüglich einer Waschmaschine in Erfahrung bringen, wie er eine bestimmte Verschmutzung aus einem vorliegenden Textil schonend entfernen kann.
In einer weiteren Ausführungsform ist das Sprachmodell bezüglich einer Funktion des Haushaltsgeräts trainiert. Dazu können beispielsweise Informationen aus einem Servicemanual oder einem allgemeinen Werk bezüglich der Funktion der vorliegenden Klasse von Haushaltsgeräten als Trainingsdaten verwendet werden.
In wieder einer weiteren Ausführungsform ist das Sprachmodell bezüglich einer Fehlerbehandlung des Haushaltsgeräts trainiert. Die Fehlerbehandlung kann Fehler umfassen, die vom Haushaltsgerät selbst gemeldet werden, oder Fehler, die der Benutzer durch eine mangelhafte Funktion bemerkt. Auch hierfür können beispielsweise Funktions- oder Instandsetzungsdokumentationen oder Forenunterhaltungen als Trainingsmaterial verwendet werden. Allgemein gilt, dass erzielbare Antworten des Sprachmodells an Qualität gewinnen können, wenn die genannten zusätzlichen Trainingsdaten möglichst genau und möglichst umfangreich sind.
Ein Betreiber eines Sprachmodells kann eine Schnittstelle anbieten, über die Spezialwissen beigesteuert bzw. dem Sprachmodell zugänglich gemacht werden kann. So können auf das Haushaltsgerät bezogene Trainingsdaten modular mit allgemeinen Trainingsdaten des Sprachmodells kombiniert werden. Die bereitgestellten Trainingsdaten können vom restlichen Komplex des Sprachmodells separierbar sein, sodass eine Vermischung oder Kombination nur unter vorbestimmten Bedingungen stattfindet. Beispielsweise kann sichergestellt sein, dass das Sprachmodell nur dann auf die zusätzlichen Informationen zugreift, wenn eine spezifische Schnittstelle, die der Betreiber dafür vorgesehen hat, genutzt wird. Ein Benutzer, der eine andere, insbesondere eine öffentliche Schnittstelle des Sprachmodells nutzt, kann Antworten erhalten, die nicht auf den spezifisch beigesteuerten Trainingsdaten basieren.
Es ist allgemein bevorzugt, dass zunächst ein vorbestimmtes Schlüsselwort oder eine Schlüsselphrase erkannt wird, das der Unterstützungsanforderung vorangestellt ist. So kann zunächst nur darauf geachtet werden, ob das Schlüsselwort in akustischen Daten im Bereich des Haushaltsgeräts erkannt werden kann, und nur wenn dies der Fall ist, kann eine weitere Prozessierung von Audiodaten gestartet werden. Eine Privatsphäre einer Person im Bereich des Haushaltsgeräts kann so verbessert geschützt sein. Außerdem kann eine Analyse von sprachlichen Äußerungen, die keine Unterstützungsanforderung umfassen, verhindert werden.
In einer weiter bevorzugten Ausführungsform erfolgt das Umwandeln der sprachlich formulierten Unterstützungsanforderung in eine textuelle Repräsentation unter Nutzung eines vorbestimmten Wortschatzes, der insbesondere auf das Haushaltsgerät bezogen ist. Eine Umsetzung gesprochener Sprache in geschriebenes Wort kann auf diese Weise verbessert treffsicher und fehlerarm sein. Ein Erkennungsmodell zur Umwandlung gesprochener Sprache kann zusätzlich zur Erkennung von Fachbegriffen und Eigennamen im Zusammenhang mit dem Haushaltsgerät trainiert werden. Dabei kann eine modulare Vorgehensweise, bei der die trainierten Fachbegriffe von einem allgemeinen Wortschatz trennbar sind, unterstützt werden. Die Vorgehensweise hierzu kann derjenigen bezüglich der Modularität von Lerninhalten beim Sprachmodell entsprechen.
Nach einem weiteren Aspekt der vorliegenden Erfindung umfasst eine Vorrichtung zur Steuerung eines Haushaltsgeräts wenigstens ein Mikrofon im Bereich des Haushaltsgeräts, zur Erfassung einer sprachlich formulierten Unterstützungsanforderung; eine akustische Ausgabeeinrichtung im Bereich des Haushaltsgeräts; eine Kommunikationseinrichtung zur Kommunikation mit einem zum Haushaltsgerät externen Dienst; und eine Verarbeitungseinrichtung.
Dabei ist die Verarbeitungseinrichtung dazu eingerichtet, einen Hinweis auf die Unterstützungsanforderung an den externen Dienst zu übermitteln; eine Antwort auf die Unterstützungsanforderung zu empfangen; und eine sprachliche Repräsentation der Antwort auszugeben.
Die Vorrichtung und insbesondere die von ihr umfasste Verarbeitungseinrichtung sind bevorzugt dazu eingerichtet, ein hierin beschriebenes Verfahren zumindest teilweise auszuführen. Das Verfahren kann in Form eines Computerprogrammprodukts mit Programmcodemitteln vorliegen. Das Computerprogrammprodukt kann auf einem computerlesbaren Datenträger abgespeichert sein. Merkmale oder Vorteile des Verfahrens können auf die Vorrichtung übertragen werden oder umgekehrt.
Die Vorrichtung kann kostengünstig an einem Haushaltsgerät nachgerüstet werden, wenn dieses bereits eine oder mehrere der genannten Komponenten enthält. Die Kommunika- tionseinrichtung ist bevorzugt dazu eingerichtet, eine drahtgebundene oder drahtlose Verbindung über ein Daten- oder Kommunikationsnetzwerk zu dem externen Dienst bereitzustellen. Beispielsweise kann die Kommunikationseinrichtung zur Kommunikation mit einem Mobilfunknetz oder dem Internet eingerichtet sein.
In unterschiedlichen Ausführungsformen können noch weitere Komponenten, die zur Ausführung des Verfahrens eingesetzt werden, von der Vorrichtung umfasst sein. In einer Ausführungsform umfasst die Vorrichtung ferner eine Einrichtung zur Erfassung eines vorbestimmten Schlüsselworts, das der Unterstützungsanforderung vorangestellt ist. Dabei ist die Verarbeitungseinrichtung dazu eingerichtet, den Hinweis auf die Unterstützungsanforderung nur nach dem Erkennen des Schlüsselworts an den externen Dienst weiterzuleiten.
Auch die Umwandlung der Unterstützungsanforderung von einer akustischen in eine tex- tuelle Ausprägungsform kann durch die Vorrichtung erfolgen. In einer Ausführungsform umfasst die Vorrichtung eine Einrichtung zur Umwandlung der Unterstützungsanforderung in eine textuelle Repräsentation; wobei der Hinweis die textuelle Repräsentation umfasst. In einer anderen Ausführungsform kann die Umwandlung durch einen externen Dienst erfolgen, der über die Kommunikationseinrichtung kontaktiert wird. Der externe Dienst kann separat vom Sprachmodell oder mit ihm kombiniert ausgeführt sein.
In einer weiteren Ausführungsform wird die Antwort in Textform empfangen, wobei die Vorrichtung ferner eine Einrichtung zur Umwandlung der Antwort in eine sprachliche Repräsentation umfasst. So kann die Antwort in Textform nur geringen Umfang aufweisen und rasch an das Haushaltsgerät übermittelt werden. Eine Umwandlung in eine sprachliche Repräsentation erfolgt dann erst im Haushaltsgerät.
In einer weiteren Ausführungsform ist eine Schnittstelle zur Steuerung einer Funktion des Haushaltsgeräts in Abhängigkeit der Antwort vorgesehen. So kann beispielsweise eine optische Anzeigevorrichtung genutzt werden, um die Antwort in Textform auszugeben. In einer anderen Ausführungsform kann ein beispielsweise optischer Hinweis auf ein zu benutzendes Bedienelement des Haushaltsgeräts in Übereinstimmung mit der Antwort hervorgehoben werden.
Ein Haushaltsgerät umfasst eine hierin beschriebene Vorrichtung. Das Haushaltsgerät kann insbesondere zur Wäschepflege vorgesehen sein und eine Waschmaschine oder einen Trockner umfassen. Weitere beispielhafte Haushaltsgeräte, die mit der Vorrichtung ausgestattet sein können, umfassen eine Dunstabzugshaube oder einen Kaffeeautomaten.
Ein System zur Steuerung eines Haushaltsgeräts umfasst wenigstens ein Mikrofon im Bereich des Haushaltsgeräts, zur Erfassung einer sprachlich formulierten Unterstützungsanforderung; eine Einrichtung zur Bestimmung einer textuellen Repräsentation der Unterstützungsanforderung; ein Sprachmodell, das dazu eingerichtet ist, eine Antwort in Textform auf eine textuell repräsentierte Unterstützungsanforderung bereitzustellen; eine Einrichtung zur Bereitstellung einer sprachlichen Repräsentation einer in Textform repräsentierten Antwort; und eine akustische Ausgabeeinrichtung im Bereich des Haushaltsgeräts, um eine bereitgestellte sprachliche Repräsentation akustisch auszugeben.
Das System kann insbesondere ein hierin beschriebenes Haushaltsgerät und einen Dienst umfassen, der extern vom Haushaltsgerät ist. Weitere Dienste können zusätzliche Funktionalitäten realisieren. Es ist bevorzugt, dass das System zur Nutzung durch eine Vielzahl Haushaltsgeräte eingerichtet ist. Dabei können die Haushaltsgeräte beispielsweise einer gemeinsamen Geräteklasse angehören oder von demselben Hersteller gefertigt werden.
Die Erfindung wird nun unter Bezug auf die beiliegenden Figuren genauer beschrieben, in denen:
Figur 1 ein System; und
Figur 2 ein Ablaufdiagramm eines Verfahrens darstellt.
Figur 1 zeigt ein System 100 zum Steuern eines Haushaltsgeräts 105. Das Haushaltsgerät 105 ist dazu eingerichtet, einem vorbestimmten Zweck in einem Haushalt zu dienen. Dieser Zweck kann insbesondere eine Wäschepflege oder eine Aufgabe in einer Küche umfassen. Ein Benutzer oder eine Benutzerin 110 kann das Haushaltsgerät 105 nutzen. Im Folgenden wird rein beispielhaft und ohne spezifische Intention oder Einschränkung der männliche Genus für den Benutzer 110 verwendet.
Das Haushaltsgerät 105 umfasst eine Vorrichtung 112 zur Steuerung einer Interaktion mit dem Benutzer 110. Die Vorrichtung 112 umfasst wenigstens ein Mikrofon 115, das derart am Haushaltsgerät 105 angebracht ist, dass es eine Aufzeichnung gesprochener Wörter im Bereich des Haushaltsgeräts 105 abtasten kann. Die Mikrofone 115 können an unterschiedlichen Bereichen bzw. mit unterschiedlichen Ausrichtungen am Haushaltsgerät 105 angebracht sein. Außerdem ist eine Vorverarbeitung 120 vorgesehen, die dazu eingerichtet ist, ein erfasstes akustisches Signal aufzubereiten und zu verbessern. Dazu kann beispielsweise eine Rauschunterdrückung angewandt werden, ein Frequenzgang kann angepasst werden, Neben- oder Störgeräusche können unterdrückt werden, oder ein Sprecher kann aus einem komplexen Audiosignal mit mehreren Sprechern isoliert werden. Die Vorverarbeitung 120 kann einen digitalen oder analogen Signalprozessor umfassen.
Eine Schlüsselworterkennung 125 ist dazu eingerichtet, in einem Audiodatenstrom ein Vorkommen eines vorbestimmten Schlüsselworts zu erkennen. Das Schlüsselwort ist bevorzugt so gewählt, dass es signaltechnisch in einem üblichen Audiodatenstrom eines Haushalts auffällig ist und ein Benutzer 110 es sich leicht merken kann.
Eine Verarbeitungseinrichtung 130 ist dazu eingerichtet, wenigstens eine der gezeigten Komponenten des Haushaltsgeräts 105 zu steuern. So kann die Verarbeitungseinrichtung 130, wenn die Schüsselworterkennung 125 das Erkennen des vorbestimmten Schlüsselworts signalisiert, von der Vorverarbeitung 120 bereitgestellte Audiodaten mittels einer Kommunikationseinrichtung 135 an einen externen Dienst 140 bereitstellen. Eine Antwort des externen Diensts 140 kann ebenfalls mittels der Kommunikationseinrichtung 135 empfangen und mittels einer Ausgabeeinrichtung 145 im Bereich des Haushaltsgeräts 105 an den Benutzer 110 akustisch bereitgestellt werden. Die Ausgabeeinrichtung 145 umfasst bevorzugt einen Lautsprecher und weiter bevorzugt einen dazu passenden Verstärker.
Durch die Kommunikationseinrichtung 135 nach außen bereitgestellte akustische Daten können von einem Dienst 150 umgewandelt werden. Man spricht dabei auch von Spra- che-zu-Text (Speech-to-Text, STT). In einer anderen Ausführungsform kann die Umwandlung von Sprachdaten in Textform auch mittels einer Komponente 150 erfolgen, die Teil des Haushaltsgeräts 105 bzw. der Vorrichtung 112 ist. In diesem Fall ist die Komponente 150 der Kommunikationseinrichtung 135 in Richtung des externen Diensts 140 vorgeschaltet.
Die bereitgestellten Textdaten, die eine Repräsentation der Unterstützungsanforderung des Benutzers 110 darstellen, können an ein Sprachmodell 155 bereitgestellt werden. Das Sprachmodell 155 ist bevorzugt ein Large Language Model, das anhand einer großen Vielzahl von Daten darauf trainiert ist, allgemeinsprachliche Texte zu bearbeiten. Darüber hinaus können, insbesondere von einem Hersteller des Haushaltsgeräts 105, zusätzliche Trainingsdaten 160 breitgestellt sein, die mit den allgemeinen Daten kombiniert oder verflochten werden können. Es ist bevorzugt, dass die Nutzung der zusätzlichen Trainingsdaten 160 auf Anwendungsfälle im Zusammenhang mit dem Haushaltsgerät 105 beschränkt ist.
Das Sprachmodell 155 kann auf der Basis der Unterstützungsanforderung eine Antwort bereitstellen, die üblicherweise ebenfalls in Textform vorliegt. Die Antwort kann mittels einer Komponente 165 in akustische Daten umgewandelt werden, die einem gesprochenen Wort der textuellen Antwort entsprechen. Diese Technik wird auch als Text-zu-Sprache (Text-to-Speech, TTS) genannt. In der dargestellten Ausführungsform ist die Komponente 165 als Dienst außerhalb des Haushaltsgeräts 105 dargestellt. Eine Ausgabe der Komponente 165 kann mittels der Kommunikationseinrichtung 135 an das Haushaltsgerät 105 übermittelt werden. In einer anderen Ausführungsform kann eine Komponente 165 mit derselben Funktionalität auch vom Haushaltsgerät 105 bzw. der Vorrichtung 112 umfasst sein, sodass die Textdaten des Sprachmodells 155 zunächst durch die Kommunikationseinrichtung 135 verlaufen und erst dann auf die Komponente 165 treffen.
Die solchermaßen bereitgestellten akustischen Daten können mittels der akustischen Ausgabeeinrichtung 145 im Bereich des Haushaltsgeräts 105 an den Benutzer ausgegeben werden. Insbesondere dann, wenn die Textdaten seitens des Haushaltsgeräts 105 verfügbar sind, kann die Verarbeitungseinrichtung 130 einen Teil der Daten mittels einer Einrichtung des Haushaltsgeräts 105 an den Benutzer 110 bereitstellen. Dazu können Informationen über eine Schnittstelle 170 ausgetauscht werden. Beispielsweise kann eine Ausgabeeinrichtung in Form einer Textanzeige vorgesehen sein, und die Antwort kann nicht nur in akustischer, sondern auch in textueller Form am Haushaltsgerät 105 bereitgestellt werden.
Stellt der Benutzer 110 eine sprachliche Unterstützungsanforderung an das Haushaltsgerät 105, so können seine gesprochenen Worte in Text umgewandelt, mittels des Sprachmodells 155 in eine Antwort umgesetzt und die Antwort am Haushaltsgerät 105 an den Benutzer 110 ausgegeben werden. So kann für den Benutzer 110 der Eindruck einer Dialogfähigkeit des Haushaltsgeräts 105 entstehen.
Eine Unterstützungsanforderung kann in einer ersten Variante einen Ratschlag bei der Bedienung des Haushaltsgeräts 105 zum Erreichen eines vorbestimmten Ziels umfassen. Umfasst das Haushaltsgerät 105 beispielsweise eine Waschmaschine, so kann der Benutzer 110 Unterstützung bei einem vorliegenden Reinigungs- oder Bedienproblem wie folgt anfordern:
„Hey Waschmaschine! Wie entferne ich Grasflecken aus einem Seidenhemd?“
Der erste Teil dieser Aussage kann dem vorbestimmten Schlüsselwort entsprechen, um eine Verarbeitung des folgenden Satzes zu bewirken. Eine beispielhafte Antwort, die dem Benutzer 110 durch das Sprachmodell 155 auf diesen Satz bereitgestellt wird, könnte lauten:
„Für ein Seidenhemd mit Grasflecken wählen Sie am besten den Schonwaschgang Ihrer Siemens-Waschmaschine und verwenden ein Feinwaschmittel. Sie können auch einen zusätzlichen Spülgang in Erwägung ziehen, um sicherzustellen, dass das gesamte Waschmittel gründlich aus dem Hemd herausgespült wird. Wenn Ihre Waschmaschine über die Option .Handwäsche' verfügt, sollten Sie diese wählen, da sie den Stoff schonender behandelt. Vermeiden Sie die Verwendung von Bleichmitteln oder Weichspülern, da diese den Seidenstoff angreifen können. Es wird außerdem empfohlen, das Hemd getrennt von anderen Kleidungsstücken zu waschen und einen Netzwäschesack zu verwenden, um das Hemd vor Beschädigungen zu schützen.“
Der Benutzer 110 kann auch einen Ratschlag bei Auftreten eines Problems mit dem Haushaltsgerät 105 einholen. In einem ersten Beispiel kann der Benutzer eine Frage stellen, die auf eine allgemeine Bedienung des Haushaltsgeräts 105 gerichtet ist:
„Hey Waschmaschine! Warum kann ich die Gerätetür nicht öffnen?“
Am Haushaltsgerät 105 könnte dann beispielsweise diese Antwort als Sprachdaten ausgegeben werden:
„Es kann verschiedene Gründe geben, warum Sie die Tür Ihrer Siemens-Waschmaschine nicht entriegeln können. In Ihrem Fall befindet sich die Waschmaschine noch mitten in einem Waschgang. Vergewissern Sie sich, dass die Waschmaschine ihren Zyklus beendet hat und die Kontrollleuchte ,Tür verriegelt' erloschen ist." In diesem Beispiel kann eine Zusatzinformation, die einen Gerätezustand des Haushaltsgeräts 105 abbildet, zusätzlich berücksichtigt sein. Der Gerätezustand kann zusammen mit der Anforderung an das Sprachmodell 155 übermittelt werden. Bevorzugt liegt der Gerätezustand dabei ebenfalls in Textform vor, sodass er von einem Menschen gelesen werden kann.
In einer zweiten Variante kann der Benutzer 110 eine Frage bezüglich einer Bedienung oder Wartung des Haushaltsgeräts 105 stellen:
„Hey Waschmaschine! Soll ich das Flusensieb mit Wasser reinigen?“
Eine mögliche Antwort darauf kann lauten:
„Es wird nicht empfohlen, das Flusensieb Ihres Siemens-Trockners mit Wasser zu reinigen, da dies das Sieb beschädigen und eine Brandgefahr darstellen könnte.“
In einem dritten Beispiel kann sich der Benutzer 110 nach der Bedeutung eines vorliegenden Fehlers oder eines Fehlercodes erkundigen, den das Haushaltsgerät 105 ausgibt:
„Hey Waschmaschine! Was bedeutet dieser Fehlercode?“
Auch in diesem Beispiel kann ein Gerätezustand des Haushaltsgeräts 105, hier beispielhaft der bereitgestellte Fehlercode, zusammen mit der sprachlichen Anforderung an das Sprachmodell 155 übermittelt und bereitgestellt werden. Eine mögliche Antwort könnte lauten:
„Der Fehlercode E18 Ihrer Siemens-Waschmaschine weist auf ein Problem mit dem Wasserabfluss hin. Der Code erscheint, wenn die Waschmaschine nicht in der Lage ist, das Wasser aus der Trommel abzupumpen.“
Figur 2 zeigt ein Ablaufdiagramm eines beispielhaften Verfahrens 200 zum Steuern eines Haushaltsgeräts 105. Das Verfahren 200 beginnt bevorzugt in einem Schritt 205, in welchem die Aussprache eines vorbestimmten Schlüsselworts im Bereich des Haushaltsgeräts 105 erfasst wird. In einem Schritt 210 kann eine auf das Schlüsselwort folgende sprachliche Anforderung zur Unterstützung beim Umgang mit dem Haushaltsgerät 105 erfasst werden. Die erfasste Anforderung kann in einem Schritt 215 in Textform umgewandelt werden. Dazu kann die STT-Komponente 150 im Haushaltsgerät 105 oder ein STT-Dienst 150 außerhalb des Geräts 105 genutzt werden. Die Erkennung von Sprache kann auf der Basis maschinellen Lernens erfolgen, beispielsweise mittels eines darauf trainierten künstlichen neuronalen Netzwerks. Erhältliche STT-Komponenten können unterschiedliche Sprecher und/oder verschiedene Sprachen oder Dialekte unterstützen. Bei der Umwandlung der Sprache in den Text kann ein spezielles Vokabular genutzt werden, das auf das vorliegende Haushaltsgerät 105 bzw. die mit ihm zu verrichtende Aufgabe bezogen ist. Das spezielle Vokabular kann zur allgemeinen Erkennung in der STT-Komponente eingepflegt sein oder modular nur für Anfragen im vorliegenden Kontext verwendet werden. Es ist bevorzugt, dass ein Hersteller des Haushaltsgeräts 105 Informationen über ein erwartetes Vokabular an einen Anbieter der STT-Komponente bereitstellt.
Die Unterstützungsanforderung in Textform kann in einem Schritt 220 dem Sprachmodell 155 zugeführt werden. Optional können dem Sprachmodell 155 auch zusätzliche Informationen bereitgestellt werden, die insbesondere eine Identifikation, einen Gerätetyp, ein Gerätemodell und/oder einen Zustand des Haushaltsgeräts 105 betreffen. Diese Informationen sind bevorzugt ebenfalls in Textform ausgedrückt. Beispielsweise kann ein Zustand des Haushaltsgeräts 105 eine Anzahl strukturiert formulierter Parameter umfassen, die etwa in einer XML- Struktur oder im JSON-Format ausgedrückt sein können. Das Sprachmodell 155 bestimmt bezüglich der Unterstützungsanforderung in Textform und gegebenenfalls der weiteren Informationen eine Antwort in Textform auf der Basis der ihm zur Verfügung gestellten Trainingsdaten.
In einem Schritt 225 kann die Antwort in eine sprachliche Repräsentation umgewandelt werden. Dazu kann ein TTS-Dienst 165 außerhalb des Haushaltsgeräts 105 genutzt werden, oder es ist eine TTS-Komponente 165 zu diesem Zweck vom Haushaltsgerät 105 umfasst. In einem Schritt 230 kann die bestimmte sprachliche Repräsentation im Bereich des Haushaltsgeräts 105 ausgegeben werden, sodass der Benutzer 110 sie hören kann.
Sollte der Benutzer 110 noch weitere Unterstützung benötigen, so kann der Dialog mit dem Sprachmodell 155 - bzw. der empfundene Dialog mit dem Haushaltsgerät 105 - fortgeführt werden, indem das Verfahren 200 erneut durchlaufen wird. In unterschiedlichen Ausführungsformen kann es dazu nötig sein, das Schlüsselwort im Schritt 205 erneut zu erfassen, oder eine auf die Ausgabe der sprachlichen Repräsentation folgende weitere sprachliche Anforderung kann unmittelbar im Schritt 210 erfasst werden. Das Verfahren 200 kann so oft wie nötig durchlaufen werden, um den Benutzer 110 in die Lage zu versetzen, sein Haushaltsgerät 105 in der geplanten Weise bzw. bestmöglich zu nutzen.
Bezugszeichen
100 System
105 Haushaltsgerät
110 Benutzer
112 Vorrichtung
115 Mikrofon
120 Vorverarbeitung
125 Schlüsselwort Erkennung
130 Verarbeitungseinrichtung
135 Kommunikationseinrichtung
140 externer Dienst
145 akustische Ausgabeeinrichtung
150 Sprache-zu-Text
155 Sprachmodell, insbesondere LLM
160 zusätzliche Trainingsdaten
165 Text-zu-Sprache
170 Schnittstelle
200 Verfahren
205 Schlüsselwort erfassen
210 sprachliche Anforderung erfassen
215 Anforderung in Textform umwandeln
220 Antwort in Textform bestimmen
225 Antwort in sprachliche Repräsentation umwandeln
230 sprachliche Repräsentation ausgeben

Claims

PATENTANSPRÜCHE
1. Verfahren (200) zum Steuern eines Haushaltsgeräts (105), wobei das Verfahren (200) folgende Schritte umfasst:
- Erfassen (210) einer sprachlich formulierten Unterstützungsanforderung im Bereich des Haushaltsgeräts (105);
- Umwandeln (215) der Unterstützungsanforderung in eine textuelle Repräsentation;
- Bestimmen (220) einer Antwort in Textform mittels eines Sprachmodells (155);
- Umwandeln (225) der Antwort in eine sprachliche Repräsentation; und
- Ausgeben (230) der sprachlichen Repräsentation am Haushaltsgerät (105).
2. Verfahren (200) nach Anspruch 1 , wobei das Sprachmodell (155) bezüglich auf das Haushaltsgerät (105) bezogenen Vokabeln trainiert ist.
3. Verfahren (200) nach Anspruch 1 oder 2, wobei das Sprachmodell (155) bezüglich einer Bedienung des Haushaltsgeräts (105) trainiert ist.
4. Verfahren (200) nach einem der vorangehenden Ansprüche, wobei das Sprachmodell (155) bezüglich einer Funktion des Haushaltsgeräts (105) trainiert ist.
5. Verfahren (200) nach einem der vorangehenden Ansprüche, wobei das Sprachmodell (155) bezüglich einer Fehlerbehandlung des Haushaltsgeräts (105) trainiert ist.
6. Verfahren (200) nach einem der Ansprüche 2 bis 5, wobei auf das Haushaltsgerät (105) bezogene Trainingsdaten modular mit allgemeinen Trainingsdaten des Sprachmodell (155) kombiniert werden.
7. Verfahren (200) nach einem der vorangehenden Ansprüche, ferner umfassend ein Erkennen (205) eines vorbestimmten Schlüsselworts, das der Unterstützungsanforderung vorangestellt ist.
8. Verfahren (200) nach einem der vorangehenden Ansprüche, wobei das Umwandeln in eine textuelle Repräsentation auf der Basis eines vorbestimmten Wortschatzes erfolgt, der auf das Haushaltsgerät (105) bezogen ist.
9. Vorrichtung (112) zur Steuerung eines Haushaltsgeräts (105), wobei die Vorrichtung (112) folgendes umfasst:
- wenigstens ein Mikrofon (115) im Bereich des Haushaltsgeräts (105), zur Erfassung einer sprachlich formulierten Unterstützungsanforderung;
- eine akustische Ausgabevorrichtung (145) im Bereich des Haushaltsgeräts (105);
- eine Kommunikationseinrichtung (135) zur Kommunikation mit einem zum Haushaltsgerät (105) externen Dienst (240);
- eine Verarbeitungseinrichtung (130), die dazu eingerichtet ist, einen Hinweis auf die Unterstützungsanforderung an den externen Dienst (140) zu übermitteln; eine Antwort auf die Unterstützungsanforderung zu empfangen; und eine sprachliche Repräsentation der Antwort auszugeben.
10. Vorrichtung (112) nach Anspruch 9, ferner umfassend eine Einrichtung (125) zur Erfassung eines vorbestimmten Schlüsselworts, das der Unterstützungsanforderung vorangestellt ist.
11. Vorrichtung (112) nach Anspruch 9 oder 10, ferner umfassend eine Einrichtung zur (150) Umwandlung der Unterstützungsanforderung in eine textuelle Repräsentation; wobei der Hinweis die textuelle Repräsentation umfasst.
12. Vorrichtung (112) nach einem der Ansprüche 9 bis 11 , wobei die Antwort in Textform empfangen wird; ferner umfassend eine Einrichtung (165) zur Umwandlung der Antwort in eine sprachliche Repräsentation.
13. Vorrichtung (112) nach einem der Ansprüche 9 bis 12, ferner umfassend eine Schnittstelle (170) zur Steuerung einer Funktion des Haushaltsgeräts (105) in Abhängigkeit der Antwort.
14. Haushaltsgerät (105), umfassend eine Vorrichtung (112) nach einem der Ansprüche 9 bis 13.
15. System (100) zur Steuerung eines Haushaltsgeräts (105), wobei das System (100) folgendes umfasst:
- wenigstens ein Mikrofon (115) im Bereich des Haushaltsgeräts (105), zur Erfassung einer sprachlich formulierten Unterstützungsanforderung;
- eine Einrichtung (150) zur Bestimmung einer textuellen Repräsentation der Unterstützungsanforderung; - ein Sprachmodell (155), das dazu eingerichtet ist, eine Antwort in Textform auf eine textuell repräsentierte Unterstützungsanforderung bereitzustellen;
- eine Einrichtung (165) zur Bereitstellung einer sprachlichen Repräsentation einer in Textform repräsentierten Antwort; und - eine akustische Ausgabevorrichtung (145) im Bereich des Haushaltsgeräts (105), um eine bereitgestellte sprachliche Repräsentation akustisch auszugeben.
PCT/EP2024/065965 2023-06-13 2024-06-10 Steuern eines haushaltsgeräts Ceased WO2024256344A1 (de)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202480039571.8A CN121336255A (zh) 2023-06-13 2024-06-10 家用电器的控制
EP24732289.4A EP4728506A1 (de) 2023-06-13 2024-06-10 Steuern eines haushaltsgeräts

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102023205462.0A DE102023205462A1 (de) 2023-06-13 2023-06-13 Steuern eines Haushaltsgeräts
DE102023205462.0 2023-06-13

Publications (1)

Publication Number Publication Date
WO2024256344A1 true WO2024256344A1 (de) 2024-12-19

Family

ID=91469886

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2024/065965 Ceased WO2024256344A1 (de) 2023-06-13 2024-06-10 Steuern eines haushaltsgeräts

Country Status (4)

Country Link
EP (1) EP4728506A1 (de)
CN (1) CN121336255A (de)
DE (1) DE102023205462A1 (de)
WO (1) WO2024256344A1 (de)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210097990A1 (en) * 2019-10-01 2021-04-01 Lg Electronics Inc. Speech processing method and apparatus therefor

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6513006B2 (en) * 1999-08-26 2003-01-28 Matsushita Electronic Industrial Co., Ltd. Automatic control of household activity using speech recognition and natural language
CN112840256A (zh) * 2018-10-15 2021-05-25 住友电气工业株式会社 光模块及光模块的制造方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210097990A1 (en) * 2019-10-01 2021-04-01 Lg Electronics Inc. Speech processing method and apparatus therefor

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
EVAN KING ET AL: "Sasha: creative goal-oriented reasoning in smart homes with large language models", ARXIV.ORG, CORNELL UNIVERSITY LIBRARY, 201 OLIN LIBRARY CORNELL UNIVERSITY ITHACA, NY 14853, 16 May 2023 (2023-05-16), XP091510750 *

Also Published As

Publication number Publication date
CN121336255A (zh) 2026-01-13
EP4728506A1 (de) 2026-04-22
DE102023205462A1 (de) 2024-12-19

Similar Documents

Publication Publication Date Title
DE60213195T2 (de) Verfahren, System und Computerprogramm zur Sprach-/Sprechererkennung unter Verwendung einer Emotionszustandsänderung für die unüberwachte Anpassung des Erkennungsverfahrens
DE60030920T2 (de) Verfahren zur Ermittlung von Persönlichkeitsmerkmalen unter Verwendung eines sprachbasierten Dialogs
EP1964110B1 (de) Verfahren zur ansteuerung von zumindest einer ersten und zweiten hintergrundapplikation über ein universelles sprachdialogsystem
DE102009045187A1 (de) System und Verfahren zum Kommunizieren mit Telefonagenten in einem automatischen Call Center
DE69427083T2 (de) Spracherkennungssystem für mehrere sprachen
EP0852051B1 (de) Verfahren zur automatischen steuerung eines oder mehrerer geräte durch sprachkommandos oder per sprachdialog im echtzeitbetrieb und vorrichtung zum ausführen des verfahrens
DE60313706T2 (de) Spracherkennungs- und -antwortsystem, Spracherkennungs- und -antwortprogramm und zugehöriges Aufzeichnungsmedium
DE602005001142T2 (de) Nachrichtenübertragungsgerät
DE102019217751B4 (de) Verfahren zum Betreiben eines Sprachdialogsystems und Sprachdialogsystem
DE102006057159A1 (de) Verfahren zur Klassifizierung der gesprochenen Sprache in Sprachdialogsystemen
DE10040466A1 (de) Verfahren zur Steuerung einer Spracheingabe und -ausgabe
EP1884924A1 (de) Verfahren zum Erzeugen einer kontextbasierten Sprachdialogausgabe in einem Sprachdialogsystem
EP1081683A1 (de) Verfahren un dAnordnung zur Spracherkennung
EP3693960B1 (de) Verfahren für eine individualisierte signalverarbeitung eines audiosignals eines hörgeräts
DE4010028C2 (de) Spracherkennungsverfahren
DE3709670A1 (de) Haushaltsgeraet mit einer programmschalteinrichtung
EP3365891A1 (de) Sprachgesteuertes system
EP0987682A2 (de) Verfahren zur Adaption von linguistischen Sprachmodellen
DE102020110626A1 (de) Roboter-lehrvorrichtung
WO2014131763A2 (de) Wortwahlbasierte sprachanalyse und sprachanalyseeinrichtung
WO2022013045A1 (de) Verfahren zum automatischen lippenlesen mittels einer funktionskomponente und zum bereitstellen der funktionskomponente
EP3576084B1 (de) Effiziente dialoggestaltung
WO2024256344A1 (de) Steuern eines haushaltsgeräts
EP0467157B1 (de) Sprachgesteuertes Gerät der Unterhaltungselektronik, insbesondere Videorecorder
DE69022783T2 (de) Verfahren zur Unterstützung des Benutzers eines Rechnersystems und Vorrichtung zur Durchführung des besagten Verfahrens.

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 24732289

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2024732289

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2024732289

Country of ref document: EP

Effective date: 20260113

ENP Entry into the national phase

Ref document number: 2024732289

Country of ref document: EP

Effective date: 20260113

ENP Entry into the national phase

Ref document number: 2024732289

Country of ref document: EP

Effective date: 20260113

ENP Entry into the national phase

Ref document number: 2024732289

Country of ref document: EP

Effective date: 20260113

WWP Wipo information: published in national office

Ref document number: 2024732289

Country of ref document: EP