DE112014003653T5

DE112014003653T5 - Automatisch aktivierende intelligente Antworten auf der Grundlage von Aktivitäten von entfernt angeordneten Vorrichtungen

Info

Publication number: DE112014003653T5
Application number: DE112014003653.6T
Authority: DE
Inventors: Varun A. VORA; Swapnil R. Dave
Original assignee: Apple Inc
Current assignee: Apple Inc
Priority date: 2013-08-06
Filing date: 2014-08-04
Publication date: 2016-04-21
Also published as: US20150045003A1; US10791216B2; CN105453026A; JP6163266B2; TW201512900A; AU2014306221A1; US20200382635A1; JP2016534616A; KR20160040279A; AU2014306221B2; KR101749009B1; WO2015020942A1; TWI553507B

Abstract

Eine elektronische Vorrichtung mit einem oder mehreren Prozessoren und Speicher umfasst eine Vorgehensweise zum Verwenden eines digitalen Assistenten, um automatisch auf eingehende Kommunikationen zu antworten. In einigen Ausführungsformen erhält die Vorrichtung eine Spracheingabe von einem Benutzer, und infolge des Erhaltens der Spracheingabe bestimmt die Vorrichtung, ob die Spracheingabe Anweisungen zum Ausführen einer spezifizierten Aktion infolge des Empfangens einer nachfolgend eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern enthält. Nach dem Speichern der Anweisungen erhält die Vorrichtung eine eingehende Kommunikation von einem jeweiligen Absender. Die Vorrichtung bestimmt, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, und wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, führt die Vorrichtung die spezifizierte Aktion gemäß den Anweisungen aus und löscht danach automatisch die Anweisungen.

Description

QUERVERWEIS ZU VERWANDTER ANMELDUNG
Diese Anmeldung beansprucht die Priorität der am 6. August 2013 eingereichten vorläufigen US-Anmeldung der Seriennummer 61/862,927 mit dem Titel „AUTO-ACTIVATING SMART RESPONSES BASED ON ACTIVITIES FROM REMOTE DEVICES”, die hierdurch durch Bezugnahme in ihrer Gesamtheit für alle Zwecke aufgenommen wird.
HINTERGRUND
Die offenbarten Ausführungsformen betreffen allgemein digitale Assistenzsysteme und genauer ein automatisches Antworten auf eingehende Kommunikation.
Genau wie menschliche persönliche Assistenten können digitale Assistenzsysteme angefragte Aufgaben durchführen und angefragte Ratschläge, Informationen oder Dienste bereitstellen. Die Fähigkeit eines digitalen Assistenzsystems, eine Anfrage eines Benutzers zu erfüllen, hängt von dem korrekten Verständnis der Anfrage oder Anweisungen durch das digitale Assistenzsystem ab. Jüngste Fortschritte bei der Verarbeitung natürlicher Sprache haben es Benutzern ermöglicht, mit digitalen Assistenzsystemen unter Verwendung natürlicher Sprache in gesprochener Form oder Textform zu interagieren. Solche digitalen Assistenzsysteme können die Eingabe des Benutzers interpretieren, um die Absicht des Benutzers abzuleiten, die abgeleitete Absicht in ausführbare Aufgaben übersetzen, Operationen ausführen oder Dienste einsetzen, um die Aufgaben durchzuführen und eine Ausgabe erzeugen, die für den Benutzer verständlich ist. Idealerweise sollte die durch ein digitales Assistenzsystem erzeugte Ausgabe die Absicht des Benutzers erfüllen, die während der Interaktion in natürlicher Sprache zwischen dem Benutzer und dem digitalen Assistenzsystem ausgedrückt wurde.
Die Fähigkeit eines digitalen Assistenzsystems, zufriedenstellende Antworten auf Benutzeranfragen zu erzeugen, hängt von der Verarbeitung natürlicher Sprache, Wissensdatenbank und künstlichen Intelligenz ab, die für das digitale Assistenzsystem verfügbar sind. Während darüber hinaus derzeit zahlreiche Drittparteisysteme und -dienste existieren, gibt es kein effizientes Mittel für ein digitales Assistenzsystem, automatisch eine spezifizierte Aktion als Reaktion auf eine eingehende Kommunikation von einem oder mehreren Absendern durchzuführen.
ZUSAMMENFASSUNG
Die hierein offenbarten Ausführungsformen stellen Verfahren, Vorrichtungen, Systeme und nichtflüchtige computerlesbare Datenspeichermedien zum Betreiben eines digitalen Assistenten bereit, um automatisch eine spezifizierte Aktion als Reaktion auf einen Empfang einer eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern durchzuführen.
Manche Ausführungsformen stellen ein Verfahren bereit, um einen digitalen Assistenten zu veranlassen, automatisch auf eingehende Kommunikation zu antworten. Das Verfahren wird bei einer oder mehreren elektronischen Vorrichtungen durchgeführt, die jeweils einen oder mehrere Prozessoren und Speicher einschließen. Zuerst wird eine Spracheingabe von einem Benutzer erhalten. Als Reaktion auf das Erhalten der Spracheingabe wird ermittelt, ob die Spracheingabe Anweisungen zum Durchführen einer spezifizierten Aktion als Reaktion auf einen Empfang einer nachfolgenden eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern einschließt. Danach werden die Anweisungen gespeichert. Nach dem Speichern der Anweisungen wird eine eingehende Kommunikation von einem entsprechenden Absender erhalten. Es wird ermittelt, ob der entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist. Nach dem Ermitteln, dass der entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist, wird die spezifizierte Aktion gemäß den Anweisungen durchgeführt. Danach werden die Anweisungen automatisch (d. h. ohne menschliche Intervention) gelöscht.
In manchen Ausführungsformen schließt das Ermitteln, ob die Spracheingabe Anweisungen einschließt, ein Ermitteln ein, ob die Spracheingabe Anweisungen zum Durchführen der spezifizierten Aktion als Reaktion auf den Empfang von einer oder mehreren nachfolgenden eingehenden Kommunikationstypen von einem oder mehreren spezifizierten Absendern einschließt. Nach dem Ermitteln, dass der entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist und dass die eingehende Kommunikation einer des einen oder der mehreren eingehenden Kommunikationstypen ist, wird die spezifizierte Aktion gemäß den Anweisungen durchgeführt Danach werden die Anweisungen automatisch (d. h. ohne menschliche Intervention) gelöscht.
In manchen Ausführungsformen ist ein entsprechender spezifizierter eingehender Kommunikationstyp des einen oder der mehreren spezifizierten nachfolgenden eingehenden Kommunikationstypen eines von einem Telefonanruf, einer Sprachnachricht, einer Voicemail, einem Videoanruf, einer SMS, einer MMS, einem VOIP-Anruf oder einer E-Mail.
In manchen Ausführungsformen ist die eingehende Kommunikation ein Telefonanruf, und wobei die spezifizierte Aktion ein Senden einer Sprachnachricht ist.
In manchen Ausführungsformen ist zumindest ein Teil der Sprachnachricht eine Aufnahme der Stimme des Benutzers.
In manchen Ausführungsformen ist zumindest ein Teil der Sprachnachricht eine digitalisierte oder Text-zu-Sprache-Version von Eingabetext.
In manchen Ausführungsformen schließt das Verfahren ein Durchführen von Verarbeitung natürlicher Sprache an der Spracheingabe ein, um die Spracheingabe in Text umzuwandeln, und wobei das Speichern der Anweisungen ein Speichern der Anweisungen als Text einschließt.
In manchen Ausführungsformen schließt das Durchführen der spezifizierten Aktion ein: Verfassen einer Antwort an den entsprechenden Absender gemäß den Anweisungen; und Mitteilen der Antwort an den Absender.
In manchen Ausführungsformen ist die Kommunikation eines von einem Telefonanruf, einer Voicemail, einem Videoanruf, einer SMS, einer MMS, einem VOIP-Anruf oder einer E-Mail.
In manchen Ausführungsformen verwendet das Kommunizieren dasselbe Kommunikationsmittel wie die eingehende Kommunikation.
In manchen Ausführungsformen schließt das Verfassen ein Verfassen der Antwort an den entsprechenden Absender gemäß den Anweisungen ein und basiert zumindest in Teilen auf Kontextinformationen.
In manchen Ausführungsformen schließen die Kontextinformationen eines oder mehrerer von Standortinformationen, Musterinformationen oder Verhaltensinformationen ein, die dem Benutzer zugeordnet sind.
In manchen Ausführungsformen schließt das Ermitteln, ob der entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist, ein Feststellen, ob der entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage einer Liste von Kontakten ein, die dem Benutzer der Vorrichtung zugeordnet sind.
In manchen Ausführungsformen schließt das Ermitteln, ob der entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist, ein Feststellen, ob der entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage einer Anrufer-ID ein, die dem entsprechenden Absender zugeordnet ist.
In manchen Ausführungsformen schließt das Verfahren ein Identifizieren einer dem Absender der Kommunikation zugeordneten Adresse ein, und das Ermitteln, ob der entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist, schließt ein Feststellen, ob der Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage der Adresse ein, die dem entsprechenden Absender der Kommunikation zugeordnet ist.
In manchen Ausführungsformen schließt das Ermitteln, ob der entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist, ein Feststellen, ob der Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage des Inhalts der vom entsprechenden Absender empfangenen eingehenden Kommunikation ein.
In manchen Ausführungsformen ist die spezifizierte nachfolgende eingehende Kommunikation eines von einem Telefonanruf, einer Sprachnachricht, einer Voicemail, einem Videoanruf, einer SMS, einer MMS, einem VOIP-Anruf oder einer E-Mail.
In manchen Ausführungsformen ist die eingehende Kommunikation eines von einem Telefonanruf, einer Sprachnachricht, einer Voicemail, einem Videoanruf, einer SMS, einer MMS, einem VOIP-Anruf oder einer E-Mail.
In manchen Ausführungsformen wird die Aktion aus der Gruppe ausgewählt bestehend aus: Senden einer Sprachnachricht an den Absender; Senden einer SMS-Nachricht an den Absender; Senden einer MMS oder Fotografie an den Absender; Senden einer E-Mail an den Absender; Senden einer Ereigniseinladung an den Absender; Teilen eines oder mehrerer Kalendereinträge mit dem Absender; und Teilen eines oder mehrerer benutzerdefinierter Attribute mit dem Absender.
In manchen Ausführungsformen werden das Durchführen und Löschen ohne weitere Durchsicht oder Anweisung vom Benutzer der Vorrichtung automatisch durchgeführt.
In manchen Ausführungsformen schließt das Durchführen der spezifizierten Aktion ein: Durchführen einer ersten Unteraktion; und Durchführen einer zweiten Unteraktion, die sich von der ersten Unteraktion unterscheidet.
In manchen Ausführungsformen schließen die Anweisungen ferner eine Ablaufdauer ein; und das Verfahren schließt ein, nach dem Ermitteln, dass der entsprechende Absender nicht einer des einen oder der mehreren spezifizierten Absender ist und dass die Ablaufdauer verstrichen ist, die Anweisungen automatisch zu löschen.
In manchen Ausführungsformen ist der entsprechende Absender ein erster entsprechender Absender; und das Verfahren schließt ein: nach dem Ermitteln, dass der erste entsprechende Absender nicht einer des einen oder der mehreren spezifizierten Absender ist und dass die Ablaufdauer nicht verstrichen ist, ein Verzichten auf die Löschung der Anweisungen; Erhalten einer eingehenden Kommunikation von einem zweiten entsprechenden Absender, der sich von dem ersten entsprechenden Absender unterscheidet; Ermitteln, ob der zweite entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist; und nach dem Ermitteln, dass der zweite entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist und dass die Ablaufdauer nicht verstrichen ist, Durchführen der spezifizierten Aktion gemäß den Anweisungen und danach automatisches Löschen der Anweisungen.
Gemäß manchen Ausführungsformen besitzt ein nichtflüchtiges computerlesbares Datenspeichermedium darin gespeicherte Anweisungen, die bei Ausführen durch eine elektronische Vorrichtung mit einem oder mehreren Prozessoren die Vorrichtung veranlassen, die Operationen irgendeines der vorstehend beschriebenen Verfahren durchzuführen. Gemäß manchen Ausführungsformen schließt eine elektronische Vorrichtung einen oder mehrere Prozessoren, Speicher und ein oder mehrere Programme ein; das eine oder die mehreren Programme sind im Speicher gespeichert und konfiguriert, durch den einen oder die mehreren Prozessoren ausgeführt zu werden, und das eine oder die mehreren Programme schließen Anweisungen zum Durchführen der Operationen irgendeines der vorstehend beschriebenen Verfahren ein. Gemäß manchen Ausführungsformen eine grafische Benutzeroberfläche auf einer elektronischen Vorrichtung mit einer Anzeige, einem Speicher und einem oder mehreren Prozessoren, um ein oder mehrere im Speicher gespeicherte Programme auszuführen, wobei die grafische Benutzeroberfläche Benutzeroberflächen einschließt, die gemäß irgendeinem der vorstehend beschriebenen Verfahren angezeigt werden. Gemäß manchen Ausführungsformen schließt eine elektronische Vorrichtung ein Mittel zum Durchführen der Operationen irgendeines der vorstehend beschriebenen Verfahren ein. Gemäß manchen Ausführungsformen schließt eine Informationsverarbeitungseinrichtung zur Verwendung in einer elektronischen Vorrichtung ein Mittel zum Durchführen der Operationen irgendeines der vorstehend beschriebenen Verfahren ein.
Gemäß manchen Ausführungsformen schließt eine elektronische Vorrichtung eine Tonempfangseinheit ein, die konfiguriert ist, eine Spracheingabe von einem Benutzer zu erhalten. Die elektronische Vorrichtung schließt zudem eine mit der Tonempfangseinheit gekoppelte Verarbeitungseinheit ein. Als Reaktion auf das Erhalten der Spracheingabe ist die Verarbeitungseinheit konfiguriert, zu ermitteln, ob die Spracheingabe Anweisungen zum Durchführen einer spezifizierten Aktion als Reaktion auf einen Empfang einer nachfolgenden eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern und Anweisungen vom ersten Benutzer einschließt. Danach ist die Verarbeitungseinheit konfiguriert, die Anweisungen zu speichern. Nach dem Speichern der Anweisungen ist die Verarbeitungseinheit konfiguriert, eine eingehende Kommunikation von einem entsprechenden Absender zu erhalten. Danach ist die Verarbeitungseinheit konfiguriert, zu ermitteln, ob der entsprechenden Absender einer von dem einen oder den mehreren spezifizierten Absendern ist. Nach dem Ermitteln, dass der entsprechende Absender einer des einen oder der mehreren spezifizierten Absender ist, ist die Verarbeitungseinheit konfiguriert, die spezifizierte Aktion gemäß den Anweisungen durchzuführen. Danach ist die Verarbeitungseinheit konfiguriert, die Anweisungen automatisch zu löschen.
Die Details einer oder mehrerer Ausführungsformen des in dieser Patentschrift beschriebenen Gegenstands sind in den begleitenden Zeichnungen und der Beschreibung nachstehend dargelegt. Weitere Merkmale, Aspekte und Vorteile des Gegenstandes werden aus der Beschreibung und den Zeichnungen und den Ansprüchen ersichtlich.
KURZBESCHREIBUNG DER ZEICHNUNGEN
1 zeigt ein Blockdiagramm, das gemäß manchen Ausführungsformen eine Umgebung veranschaulicht, in der ein digitaler Assistent arbeitet.
2 zeigt ein Blockdiagramm, das gemäß manchen Ausführungsformen ein Client-System eines digitalen Assistenten veranschaulicht.
3A zeigt ein Blockdiagramm, das gemäß manchen Ausführungsformen ein digitales Assistenzsystem oder einen Serverabschnitt davon veranschaulicht.
3B zeigt ein Blockdiagramm, das gemäß manchen Ausführungsformen Funktionen des in 3A gezeigten digitalen Assistenten veranschaulicht.
3C zeigt gemäß manchen Ausführungsformen ein Diagramm einer in 3B gezeigten Ontologie.
4 zeigt gemäß manchen Ausführungsformen ein Diagramm eines Abschnitts einer Ontologie zum automatischen Durchführen einer spezifizierten Aktion als Reaktion auf einen Empfang einer eingehenden Kommunikation von einem des einen oder der mehreren spezifizierten Absendern.
5 veranschaulicht gemäß manchen Ausführungsformen ein Flussdiagramm für einen beispielhaften Prozess eines Betreibens eines digitalen Assistenten.
6 veranschaulicht gemäß manchen Ausführungsformen ein Flussdiagramm für einen beispielhaften Prozess eines Betreibens eines digitalen Assistenten.
7 zeigt ein funktionelles Blockdiagramm einer elektronischen Vorrichtung gemäß manchen Ausführungsformen.
Gleiche Bezugsziffern beziehen sich innerhalb der Zeichnungen auf entsprechende Teile.
BESCHREIBUNG VON AUSFÜHRUNGSFORMEN
1 zeigt ein Blockdiagramm einer Betriebsumgebung 100 eines digitalen Assistenten gemäß manchen Ausführungsformen. Die Begriffe „digitaler Assistent”, „virtueller Assistent”, „intelligenter automatisierter Assistent” oder „automatischer digitaler Assistent” beziehen sich auf jegliches Informationsverarbeitungssystem, das Eingaben in natürlicher Sprache in gesprochener und/oder Textform interpretiert, um eine Benutzerabsicht abzuleiten, und Aktionen auf der Grundlage der abgeleiteten Benutzerabsicht durchführt. Um zum Beispiel auf eine abgeleitete Benutzerabsicht hin zu agieren, kann das System eines oder mehrere des Folgenden durchführen: Identifizieren eines Aufgabenflusses mit Schritten und Parametern, die gestaltet sind, die abgeleitete Benutzerabsicht zu erreichen; Eingeben spezifischer Anforderungen von der abgeleiteten Benutzerabsicht in den Aufgabenfluss; Ausführen des Aufgabenflusses durch Aufrufen von Programmen, Verfahren, Diensten, APIs oder Ähnlichem; und Erzeugen von Ausgabeantworten an den Benutzer in einer hörbaren (z. B. Sprache) und/oder visuellen Form.
Spezifisch ist ein digitaler Assistent (DA) in der Lage, eine Benutzeranfrage zumindest teilweise in der Form eines Befehls, einer Anfrage, einer Aussage einer Erzählung und/oder einer Nachforschung in natürlicher Sprache zu akzeptieren. Typischerweise strebt die Benutzeranfrage entweder eine informationelle Antwort oder eine Durchführung einer Aufgabe durch den digitalen Assistenten an. Eine zufriedenstellende Antwort auf die Benutzeranfrage ist entweder eine Bereitstellung der angefragten informationellen Antwort, die Durchführung der angefragten Aufgabe oder eine Kombination aus beiden. Zum Beispiel kann ein Benutzer dem digitalen Assistenten ein Frage stellen, wie beispielsweise „Wo bin ich gerade?”. Auf der Grundlage des aktuellen Standortes des Benutzers kann der digitale Assistent antworten „Du bist im Central Park.”/„Sie sind im Central Park.”. Der Benutzer kann auch nach der Durchführung einer Aufgabe fragen, zum Beispiel „Bitte erinnere mich daran, heute um 16 Uhr Mama anzurufen.” Als Reaktion kann der digitale Assistent die Anfrage bestätigen und dann ein geeignetes Erinnerungsereignis im elektronischen Plan des Benutzers erzeugen. Während der Durchführung einer angefragten Aufgabe interagiert der digitale Assistent manchmal mit dem Benutzer in einem fortgesetzten Dialog, der mehrere Informationsaustausche über eine ausgedehnte Zeitdauer mit sich bringt. Es gibt zahlreiche weitere Arten des Interagieren mit einem digitalen Assistenten, um Informationen oder die Durchführung vielfältiger Aufgaben anzufragen. Zusätzlich zu dem Bereitstellen verbaler Antworten und des Vornehmens programmierter Aktionen stellt der digitale Assistent auch Antworten in anderen visuellen oder Audioformen bereit (z. B. als Text, Alarme, Musik, Videos, Animationen usw.).
Ein Beispiel eines digitalen Assistenten ist in der am 10. Januar 2011 eingereichten US-Gebrauchsmusteranmeldung des Anmelders mit der Seriennummer 12/987,982 für einen „Intelligent Automated Assistant” beschrieben, deren gesamte Offenbarung hierin durch Bezugnahme aufgenommen wird.
Wie in 1 gezeigt, ist in manchen Ausführungsformen ein digitaler Assistent gemäß einem Client-Server-Modell implementiert. Der digitale Assistent schließt einen clientseitigen Abschnitt 102a, 102b (hierin nachstehend „DA-Client” 102), der auf einer Benutzervorrichtung 104a, 104b ausgeführt wird, und einen serverseitigen Abschnitt 106 (hierein nachstehend „DA-Server” 106) ein, der auf einem Serversystem 108 ausgeführt wird. Der DA-Client 102 kommuniziert mit dem DA-Server 106 durch ein oder mehrere Netzwerke 110. Der DA-Client 102 stellt clientseitige Funktionalitäten, wie beispielsweise eine zum Benutzer weisende Eingabe- und Ausgabeverarbeitung und Kommunikation mit dem DA-Server 106, bereit. Der DA-Server 106 stellt serverseitige Funktionalitäten für eine beliebige Anzahl von DA-Clients 102 bereit, die sich jeweils auf einer entsprechenden Benutzervorrichtung 104 befinden.
In manchen Ausführungsformen schließt der DA-Sever 106 eine zum Client weisende E/A-Schnittstelle 112 ein oder mehrere Verarbeitungsmodule 114, Daten und Modelle 116 und eine E/A-Schnittstelle zu externen Diensten 118 ein. Die zum Client weisende E/A-Schnittstelle ermöglicht die zum Client weisende Eingabe- und Ausgabeverarbeitung für den Server des digitalen Assistenten 106. Ein oder mehrere Verarbeitungsmodule 114 verwenden die Daten und Modelle 116, um die Absicht des Benutzers auf der Grundlage von Eingaben in natürlicher Sprache zu ermitteln und die Aufgabenausführung auf der Grundlage der abgeleiteten Benutzerabsicht durchzuführen. In manchen Ausführungsformen kommuniziert der DA-Server 106 mit externen Diensten 120 durch das oder die Netzwerke 110 zum Abschließen von Aufgaben oder zum Informationserwerb. Die E/A-Schnittstelle zu externen Diensten 118 ermöglicht solche Kommunikation.
Beispiele der Benutzervorrichtung 104 schließen einen handgeführten Computer, einen persönlichen digitalen Assistenten (PDA, einen Tablet-Computer, einen Laptop-Computer einen Desktop-Computer, ein Mobiltelefon, ein Smartphone, ein mobiles Telefon des „Enhanced General Packet Radio Service” (EGPRS), eine Medienwiedergabevorrichtung, eine Navigationsvorrichtung, eine Spielekonsole, ein Fernsehgerät, eine Fernsteuerung oder eine Kombination irgendwelcher zwei oder mehrerer dieser Datenverarbeitungsvorrichtungen oder anderer Datenverarbeitungsvorrichtungen ein, sind jedoch nicht auf diese beschränkt. Mehr Details zur Benutzervorrichtung 104 werden in Bezug zu einer in 2 gezeigten beispielhaften Benutzervorrichtung 104 bereitgestellt.
Die Benutzervorrichtung 104 kommunizierte mit anderen Vorrichtungen 130 über ein oder mehrere Kommunikationsnetzwerke 110. Die anderen Vorrichtungen 130 schließen Rechenvorrichtungen (z. B. mobile Telefone, Computer oder irgendwelche anderen elektronischen Vorrichtungen mit einem oder mehreren Prozessoren, einem Speicher und einer Kommunikationsschnittstelle) ein, die anderen Benutzern als dem Benutzer der Benutzervorrichtung 104 zugeordnet sind. Beispiele für das eine oder die mehreren Kommunikationsnetzwerke 110 schließen lokale Netzwerke (local area networks (LAN)) und Weitverkehrsnetzwerke (wide area networks (WAN)) wie beispielsweise das Internet ein. Das eine oder die mehreren Kommunikationsnetzwerke 110 sind optional unter Verwendung irgendeines bekannten Netzwerkprotokolls implementiert, einschließlich verschiedener kabelgebundener oder kabelloser Protokolle, wie beispielsweise Ethernet, „Universal Serial Bus” (USB), FIREWIRE, „Global System for Mobile Communications” (GSM), „Enhanced Data GSM Environment” (EDGE), „Code Division Multiple Access” (CDMA), „Time Division Multiple Access” (TDMA), Bluetooth, Wi-Fi, „Voice over Internet Protocol” (VoIP), Wi-MAX oder irgendein anderes geeignetes Kommunikationsprotokoll.
Das Serversystem 108 ist auf einer oder mehreren eigenständigen Datenverarbeitungseinrichtungen oder einem verteilten Netzwerk von Computern implementiert. In manchen Ausführungsformen nutzt das Serversystem 108 auch vielfältige virtuelle Vorrichtungen und/oder Dienste von Drittparteidienstanbietern (z. B. Drittpartei-Cloud-Dienstanbietern), um die zugrundeliegenden Rechenressourcen und/oder Infrastrukturressourcen des Serversystems 108 bereitzustellen.
Obwohl der in 1 gezeigte digitale Assistent sowohl einen clientseitigen Abschnitt (z. B. den DA-Client 102) als auch einen serverseitigen Abschnitt (z. B. den DA-Server 106) einschließt, sind in manchen Ausführungsformen die Funktionen eines digitalen Assistenten als eine auf einer Benutzervorrichtung installierte eigenständige Anwendung implementiert. Zusätzlich kann die Aufteilung von Funktionalitäten zwischen den Client- und den Serverabschnitten des digitalen Assistenten in unterschiedlichen Ausführungsformen variieren. Zum Beispiel ist der DA-Client 102 in manchen Ausführungsformen ein schlanker Client (thin-client), der nur zum Benutzer weisende Eingabe- und Ausgabeverarbeitungsfunktionen bereitstellt und alle anderen Funktionalitäten des digitalen Assistenten an einen Backend-Server delegiert.
2 zeigt ein Blockdiagramm einer Benutzervorrichtung 104 gemäß manchen Ausführungsformen. Die Benutzervorrichtung 104 schließt eine Speicherschnittstelle 202, einen oder mehrere Prozessoren 204 und eine Peripherievorrichtungsschnittstelle 206 ein. Die verschiedenen Komponenten in der Benutzervorrichtung 104 sind durch einen oder mehrere Kommunikationsbusse oder eine oder mehrere Signalleitungen gekoppelt. Die Benutzervorrichtung 104 schließt verschiedene Sensoren, Untersysteme und Peripherievorrichtungen ein, die mit der Peripherievorrichtungsschnittstelle 206 gekoppelt sind. Die Sensoren, Untersysteme und Peripherievorrichtungen sammeln Informationen und/oder ermöglichen verschiedene Funktionen der Benutzervorrichtung 104.
Zum Beispiel sind ein Bewegungssensor 210, eine Lichtsensor 212 und ein Näherungssensor 214 mit der Peripherievorrichtungsschnittstelle 206 gekoppelt, um Ausrichtungs-, Licht- und Näherungserfassungsfunktionen zu ermöglichen. Ein oder mehrere weitere Sensoren 216, wie beispielsweise ein Positionsbestimmungssystem (z. B. ein GPS-Empfänger), ein Temperatursensor, ein biometrischer Sensor, ein Kompass, ein Beschleunigungsmesser und Ähnliches sind ebenfalls mit der Peripherievorrichtungsschnittstelle 206 gekoppelt, um zugehörige Funktionen zu ermöglichen.
In manchen Ausführungsformen werden ein Kamerauntersystem 220 und ein optischer Sensor 222 verwendet, um Kamerafunktionen zu ermöglichen, wie beispielsweise Fotografieren und Aufnehmen von Videos. Kommunikationsfunktionen werden durch ein oder mehrere kabelgebundene und/oder kabellose Kommunikationsuntersysteme 224 ermöglicht, die verschiedene Kommunikationsanschlüsse, Funkfrequenzempfänger und -sender und/oder optische (z. B. Infrarot-)Empfänger und Sender einschließen können. Ein Audiountersystem 226 ist mit Lautsprechern 228 und einem Mikrofon 230 gekoppelt, um sprachfähige Funktionen, wie beispielsweise Funktionen einer Spracherkennung, Spracherzeugung, eines digitalen Aufnehmens und von Telefoniefunktionen, zu ermöglichen.
In manchen Ausführungsformen ist auch ein E/A-Untersystem 240 mit der Peripherievorrichtungsschnittstelle 206 gekoppelt. Das E/A-Untersystem 240 schließt eine Touchscreen-Steuereinheit 242 und/oder eine oder mehrere andere Eingabesteuereinheiten 244 ein. Die Touchscreen-Steuereinheit 242 ist mit einem Touchscreen 246 gekoppelt. Der Touchscreen 246 und die Touchscreen-Steuereinheit 242 können zum Beispiel Kontakt und Bewegung oder Bruch davon unter Verwendung irgendeiner von einer Mehrzahl von berührungsempfindlichen Technologien erkennen, wie beispielsweise kapazitive, Widerstands-, Infrarot-, akustische Oberflächenwellentechnologien, Näherungssensoranordnungen und Ähnliches. Die eine oder mehreren anderen Eingabesteuereinheiten 244 können mit den anderen Eingabe-/Steuervorrichtungen 248, wie beispielsweise einer oder mehreren Tasten oder Schaltflächen, Kippschaltern, einem Einstellrad, einem Infrarotanschluss, einem USB-Anschluss und/oder einer Zeigevorrichtung, wie beispielsweise einem Stift, gekoppelt sein,
In manchen Ausführungsformen ist die Speicherschnittstelle 202 mit einem Speicher 250 gekoppelt. Der Speicher 250 kann Hochgeschwindigkeitsspeicher mit wahlfreiem Zugriff und/oder nichtflüchtigen Speicher, wie beispielsweise eine oder mehrere Magnetplatten-Datenspeichervorrichtungen, eine oder mehrere optische Datenspeichervorrichtungen und/oder Flash-Speicher (z. B. NAND oder NOR), einschließen.
In manchen Ausführungsformen sind im Speicher 250 ein Betriebssystem 252, ein Kommunikationsmodul 256, ein grafisches Benutzeroberflächenmodul 256, ein Sensorverarbeitungsmodul 258, ein Telefonmodul 260 und Anwendungen 262 gespeichert. Das Betriebssystem 252 schließt Anweisungen zum Abwickeln grundlegender Systemdienste und zum Durchführen von hardwareabhängigen Aufgaben ein. Das Kommunikationsmodul 254 ermöglicht das Kommunizieren mit einer oder mehreren zusätzlichen Vorrichtungen, einem oder mehreren Computer und/oder einem oder mehreren Server. Das grafische Benutzeroberflächenmodul 256 ermöglicht die Verarbeitung einer grafischen Benutzeroberfläche. Das Sensorverarbeitungsmodul 258 ermöglicht sensorbezogene Verarbeitung und Funktionen. Das Telefonmodul 358 ermöglicht telefonbezogene Prozesse und Funktionen. Das Anwendungsmodul 262 ermöglicht verschiedene Funktionalitäten von Benutzeranwendungen, wie beispielsweise elektronische Nachrichten, Web-Browsing, Medienverarbeitung, Navigation, Abbildung und/oder weitere Prozesse und Funktionen.
Wie in dieser Patentschrift beschrieben, sind im Speicher 250 auch clientseitige Anweisungen des digitalen Assistenten (z. B. in einem Clientmodul eines digitalen Assistenten 264) und vielfältige Benutzerdaten 266 (z. B. benutzerspezifische Vokabulardaten, Präferenzdaten und oder weitere Daten, wie beispielsweise das elektronische Adressbuch des Benutzers, Listen zu erledigender Aufgaben, Einkaufszettel usw.) gespeichert, um die clientseitigen Funktionalitäten des digitalen Assistenten bereitzustellen.
In verschiedenen Ausführungsformen ist das Clientmodul des digitalen Assistenten 264 in der Lage, Spracheingaben (z. B. Stimmeingaben), Texteingaben, Berührungseingaben und/oder Gesteneingaben durch verschiedene Benutzerschnittstellen (z. B. das E/A-Untersystem 244) der Benutzervorrichtung 104 anzunehmen. Das Clientmodul des digitalen Assistenten 264 ist zudem in der Lage, Ausgaben in Audio- (z. B. Sprachausgaben), virtuellen und/oder taktilen Formen bereitzustellen. Zum Beispiel können Ausgaben als Stimme, Ton, Alarme, Textnachrichten, Menüs, Grafiken, Videos, Animationen Vibrationen und/oder Kombinationen davon bereitgestellt werden. Während des Betriebs kommuniziert das Clientmodul des digitalen Assistenten 264 mit dem Server des digitalen Assistenten unter Verwendung des Kommunikationsuntersystems 224.
In manchen Ausführungsformen verwendet das Clientmodul des digitalen Assistenten 264 die verschiedenen Sensoren, Untersysteme und Peripherievorrichtungen, um zusätzliche Informationen von der umliegenden Umgebung der Benutzervorrichtung 104 zu sammeln, um einem Benutzer der derzeitigen Benutzerinteraktion und/oder der derzeitigen Benutzereingabe zugeordneten Kontext einzurichten. In manchen Ausführungsformen stellt das Clientmodul des digitalen Assistenten 264 die Kontextinformationen oder einen Untersatz davon mit der Benutzereingabe dem Server des digitalen Assistenten bereit, um beim Ableiten der Absicht des Benutzers zu helfen. In manchen Ausführungsformen verwendet der digitale Assistent die Kontextinformationen auch, um zu ermitteln, wie Ausgaben vorzubereiten und dem Benutzer zu übermitteln sind.
In manchen Ausführungsformen schließen die Kontextinformationen, welche die Benutzereingabe begleiten, Sensorinformationen, wie beispielsweise Helligkeit, Umgebungsgeräusche, Umgebungstemperatur, Bilder oder Videos der umliegenden Umgebung und Ähnliches ein. In manchen Ausführungsformen schließen die Kontextinformationen auch den physischen Zustand der Benutzervorrichtung 104 (z. B. Vorrichtungsausrichtung, Vorrichtungsstandort, Vorrichtungstemperatur, Energieniveau, Geschwindigkeit, Beschleunigung, Bewegungsmuster, Mobilfunksignale usw.) ein. In manchen Ausführungsformen werden dem Softwarezustand der Benutzervorrichtung 104 zugehörige Informationen (z. B. laufende Prozesse, installierte Programme, vergangene und derzeitige Netzwerkaktivitäten, Hintergrunddienste, Fehlerprotokolle, Ressourcenauslastung usw.) dem Server des digitalen Assistenten als einer Benutzereingabe zugeordnete Kontextinformationen bereitgestellt.
In manchen Ausführungsformen stellt das Clientmodul des digitalen Assistenten 264 selektiv Informationen (z. B. die Benutzerdaten 266), die auf der Benutzervorrichtung 104 gespeichert sind, als Reaktion auf Anfragen vom Server des digitalen Assistenten bereit. In manchen Ausführungsformen entlockt das Clientmodul des digitalen Assistenten 264 auf Anfrage durch den Server des digitalen Assistenten 106 dem Benutzer über einen Dialog in natürlicher Sprache oder andere Benutzerschnittstellen zudem zusätzliche Benutzereingaben. Das Clientmodul des digitalen Assistenten 264 leitet die zusätzlichen Eingaben an den Server des digitalen Assistenten 106 weiter, um dem Server des digitalen Assistenten 106 bei der Absichtsableitung und/oder Erfüllung der in der Benutzeranfrage ausgedrückten Absicht des Benutzers zu helfen.
In verschiedenen Ausführungsformen schließt der Speicher 250 zusätzliche Anweisungen oder weniger Anweisungen ein. Des Weiteren können verschiedene Funktionen der Benutzervorrichtung 104 in Hardware und/oder in Firmware, einschließlich einer oder mehrerer Signalverarbeitungs- und/oder anwendungsspezifischer integrierter Schaltungen (ASICs) implementiert sein.
3A zeigt ein Blockdiagramm eines digitalen Beispielassistenzsystems 300 gemäß manchen Ausführungsformen. In manchen Ausführungsformen ist das digitale Assistenzsystem 300 auf einem eigenständigen Computersystem implementiert. In manchen Ausführungsformen ist das digitale Assistenzsystem 300 über mehrere Computer hinweg verteilt. In manchen Ausführungsformen sind manche der Module und Funktionen des digitalen Assistenten in einen Serverabschnitt und einen Clientabschnitt aufgeteilt, wobei sich der Clientabschnitt auf einer Benutzervorrichtung (z. B. der Benutzervorrichtung 104) befindet und mit dem Serverabschnitt (z. B. dem Serversystem 108) durch ein oder mehrere Netzwerke (z. B. dem einen oder den mehreren Netzwerken 110) kommuniziert. In manchen Ausführungsformen ist das digitale Assistenzsystem 300 eine Ausführungsform des in 1 gezeigten Serversystems 108 (und/oder des Servers des digitalen Assistenten 106). Es sollte beachtet werden, dass das digitale Assistenzsystem 300 nur ein Beispiel eines digitalen Assistenzsystems darstellt, und dass das digitale Assistenzsystem 300 mehr oder weniger Komponenten besitzen kann als gezeigt, zwei oder mehr Komponenten kombinieren kann oder eine andere Konfiguration oder Anordnung der Komponenten aufweisen kann. Die verschiedenen in 3A gezeigten Komponenten können in Hardware, Softwareanweisungen zum Ausführen durch einen oder mehrere Prozessoren, Firmware einschließlich einer oder mehrerer Signalverarbeitungs- und/oder anwendungsspezifischer integrierter Schaltungen oder einer Kombination davon implementiert sein.
Das digitale Assistenzsystem 300 schließt einen Speicher 302, einen oder mehrere Prozessoren 304, eine Eingabe/Ausgabe(E/A)-Schnittstelle 306 und eine Netzwerkkommunikationsschnittstelle 308 ein. Diese Komponenten kommunizieren miteinander über einen oder mehrere Kommunikationsbusse oder Signalleitungen 310.
In manchen Ausführungsformen schließt der Speicher 302 ein nichtflüchtiges computerlesbares Datenspeichermedium ein, wie beispielsweise einen Hochgeschwindigkeitsspeicher mit wahlfreiem Zugriff und/oder ein nichtflüchtiges Datenspeichermedium (z. B. eine oder mehrere Magnetplattendatenspeichervorrichtungen, Flash-Speicher-Vorrichtungen oder andere nichtflüchtige Halbleiterspeichervorrichtungen).
In manchen Ausführungsformen koppelt die E/A-Schnittstelle 306 Eingabe/Ausgabe-Vorrichtungen 316 des digitalen Assistenzsystems 300, wie beispielsweise Anzeigen, Tastaturen, Touchscreens und Mikrofone, mit einem Benutzerschnittstellenmodul 322. Die E/A-Schnittstelle 306 empfängt in Verbindung mit dem Benutzerschnittstellenmodul 322 Benutzereingaben (z. B. Spracheingaben, Tastatureingaben, Berührungseingaben usw.) und verarbeitet sie entsprechend. In manchen Ausführungsformen schließt das digitale Assistenzsystem 300 irgendwelche der Komponenten und E/A- und Kommunikationsschnittstellen ein, die in Hinblick auf die Benutzervorrichtung 104 in 2 beschrieben wurden (z. B. wenn der digitale Assistent auf einer eigenständigen Benutzervorrichtung implementiert ist). In manchen Ausführungsformen steht der digitale Assistent 300 für den Serverabschnitt einer Implementierung eines digitalen Assistenten und interagiert mit dem Benutzer durch einen clientseitigen Abschnitt, der sich auf einer Benutzervorrichtung (z. B. der in 2 gezeigten Benutzervorrichtung 104) befindet.
In manchen Ausführungsformen schließt die Netzwerkkommunikationsschnittstelle 308 einen oder mehrere kabelgebundene Kommunikationsanschlüsse 312 und/oder eine kabellose Sende- und Empfangsschaltung 314 ein. Der eine oder die mehreren kabelgebundenen Kommunikationsanschlüsse empfangen und senden Kommunikationssignale über eine oder mehrere kabelgebundene Schnittstellen, wie beispielsweise Ethernet, Universal Serial Bus (USB), FIREWIRE und Ähnliches. Die kabellose Schaltung 314 empfängt und sendet Funkfrequenzsignale und/oder optische Signale von/zu Kommunikationsnetzwerken und anderen Kommunikationsvorrichtungen. Die kabellose Kommunikation verwendet optional irgendeinen einer Mehrzahl von Kommunikationsstandards, -protokollen und -technologien, wie beispielswiese GSM, EDGE, CDMA, TDMA, Bluetooth, Wi-Fi, VoIP, Wi-MAX oder irgendein anderes geeignetes Kommunikationsprotokoll. Die Netzwerkkommunikationsschnittstelle 308 ermöglicht die Kommunikation zwischen dem digitalen Assistenzsystem 300, dem Serversystem 108 und den anderen Vorrichtungen 130 über ein oder mehrere Netzwerke (z. B. dem Internet, einem Intranet oder einem kabellosen Netzwerk, wie beispielsweise einem Mobiltelefonnetz, einem kabellosen lokalen Netzwerk (LAN) oder einem Stadtnetzwerk (metropolitan area network (MAN))).
In manchen Ausführungsformen sind im Speicher 302 oder den nichtflüchtigen computerlesbaren Datenspeichermedien des Speichers 302 Programme, Module, Anweisungen und Datenstrukturen gespeichert, einschließlich von allem oder einem Untersatz von: einem Betriebssystem 318, einem Kommunikationsmodul 320, einem Benutzerschnittstellenmodul 322, einer oder mehreren Anwendungen 324 und einem digitalen Assistenzmodul 326. Ein oder mehrere Prozessoren 304 führen diese Programme, Module und Anweisungen aus und lesen/schreiben von den/auf die Datenstrukturen.
Das Betriebssystem 318 (z. B. Darwin, RTXC, LINUX, UNIX, OS X, WINDOWS oder ein eingebettetes Betriebssystem wie beispielsweise VxWorks) schließt verschiedene Softwarekomponenten und/oder Treiber zum Steuern und Verwalten allgemeiner Systemaufgaben ein (z. B. Speicherverwaltung, Datenspeichervorrichtungssteuerung, Energieverwaltung usw.) und ermöglicht die Kommunikation zwischen verschiedenen Hardware-, Firmware- und Softwarekomponenten.
Das Kommunikationsmodul 320 ermöglicht die Kommunikation über die Netzwerkkommunikationsschnittstelle 308 zwischen dem digitalen Assistenzsystem 300, dem Serversystem 108 und den anderen Vorrichtungen 130 (z. B. Rechenvorrichtungen, die anderen Benutzern als dem Benutzer der Benutzervorrichtung 104 zugeordnet sind). Zum Beispiel kommuniziert das Kommunikationsmodul 320 optional mit der in 2 gezeigten Kommunikationsschnittstelle 254 der Benutzervorrichtung 104. Das Kommunikationsmodul 320 schließt zudem verschiedene Komponenten zum Abwickeln von Daten, die durch die kabellose Schaltung 314 und/oder den kabelgebundenen Kommunikationsanschluss 312 empfangen werden, ein.
Das Benutzerschnittstellenmodul 322 empfängt Befehle und/oder Eingaben von einem Benutzer über die E/A-Schnittstelle 306 (z. B. von einer Tastatur, einem Touchscreen, einer Zeigevorrichtung, einer Steuereinheit und/oder einem Mikrofon) und erzeugt Benutzeroberflächenobjekte auf einer Anzeige. Das Benutzerschnittstellenmodul 322 bereitet auch Ausgaben vor (z. B. Sprache, Ton, Animation, Text, Symbole, Vibrationen, haptische Rückmeldungen, Licht usw.) und übermittelt sie über die E/A-Schnittstelle 306 (z. B. durch Anzeigen, Audiokanäle, Lautsprecher Touchpads usw.) an den Benutzer.
Die eine oder mehreren Anwendungen 324 schließen Programme und/oder Module ein, die konfiguriert sind, durch den einen oder die mehreren Prozessoren 314 ausgeführt zu werden. Wenn zum Beispiel das digitale Assistenzsystem auf einer eigenständigen Benutzervorrichtung implementiert ist, schließen die eine oder mehreren Anwendungen 324 optional Benutzeranwendungen, wie beispielsweise Spiele, eine Kalenderanwendung, eine Navigationsanwendung oder eine E-Mail-Anwendung, ein. Wenn das digitale Assistenzsystem 300 auf einer Serverfarm implementiert ist, schließen die eine oder mehreren Anwendungen 324 optional Ressourcenverwaltungsanwendungen, Diagnoseanwendungen oder Planungsanwendungen ein.
Im Speicher 302 sind auch das digitale Assistenzmodul 326 (oder der Serverabschnitt eines digitalen Assistenten) gespeichert. In manchen Ausführungsformen schließt das digitale Assistenzmodul 326 die folgenden Untermodule oder einen Untersatz oder Übersatz davon ein: ein Eingabe/Ausgabe-Verarbeitungsmodul 328, eine Sprache-zu-Text(speech-to-text, STT)-Verarbeitungsmodul 330, eine Verarbeitungsmodul für natürliche Sprache 322, ein Dialogfluss-Verarbeitungsmodul 340, ein Task-Flow-Verarbeitungsmodul 342, ein Service-Verarbeitungsmodul 346 und ein automatisches Antwortmodul 350 ein. Jedes dieser Module besitzt Zugriff auf eines oder mehrere der folgenden Daten und Modelle des digitalen Assistenten 326 oder einen Untersatz oder Übersatz davon: eine Ontologie 334, einen Vokabularindex 336, Benutzerdaten 338, Aufgabenflussmodelle 344, Service-Modelle 348 und ein Benutzerprotokoll 360.
In manchen Ausführungsformen führt das digitale Assistenzsystem 300 unter Verwendung der Verarbeitungsmodule, Daten und Modelle, die im digitalen Assistenzmodul 326 implementiert sind, mindestens manches des Folgenden durch: Identifizieren einer Absicht eines Benutzers, die in einer Eingabe natürlicher Sprache ausgedrückt ist, die vom Benutzer kommend empfangen wird; aktives Entlocken und Erhalten von Informationen, die benötigt werden, um die Absicht eines Benutzers völlig abzuleiten (z. B. durch Eindeutigmachen von Standorten, Namen, Intentionen usw.); Ermitteln des Aufgabenflusses zum Erfüllen der abgeleiteten Absicht; und Ausführen des Aufgabenflusses zum Erfüllen der abgeleiteten Absicht. In manchen Ausführungsformen unternimmt der digitale Assistent auch geeignete Aktionen, wenn dem Benutzer aus verschiedenen Gründen keine zufriedenstellende Antwort bereitgestellt wurde oder bereitgestellt werden konnte.
Wie in 3B gezeigt, interagiert in manchen Ausführungsformen das E/A-Verarbeitungsmodul 328 mit dem Benutzer durch die E/A-Vorrichtungen 316 in 3A oder mit einer Benutzervorrichtung (z. B. der Benutzervorrichtung 104 in 1) durch die Netzwerkkommunikationsschnittstelle 308 in 3A, um eine Benutzereingabe (z. B. eine Spracheingabe) zu erhalten und Antworten (z. B. als Sprachausgaben) auf die Benutzereingabe bereitzustellen. Das E/A-Verarbeitungsmodul 328 erhält optional zusammen oder kurz nach dem Empfang der Benutzereingabe Kontextinformationen, die der Benutzereingabe zugeordnet sind, von der Benutzervorrichtung. Die Kontextinformationen schließen benutzerspezifische Daten, Vokabular und oder Präferenzen ein, die für die Benutzereingabe relevant sind. In manchen Ausführungsformen schließen die Kontextinformationen auch Software- und Hardwarezustände der Vorrichtung (z. B. der Benutzervorrichtung 104 in 1) zur Zeit, zu der die Benutzereingabe empfangen wird, und/oder Informationen ein, die der umliegenden Umgebung des Benutzers zur Zeit, zu der die Benutzereingabe empfangen wird, zugehörig sind. In manchen Ausführungsformen sendet das E/A-Verarbeitungsmodul 328 auch Nachfolgefragen bezüglich der Benutzeranfrage an den Benutzer und empfängt Antworten von ihm. Wenn eine Benutzeranfrage durch das E/A-Verarbeitungsmodul 328 empfangen wird und die Benutzeranfrage eine Spracheingabe enthält, leitet das E/A-Verarbeitungsmodul 328 die Spracheingabe an das STT-Verarbeitungsmodul 330 zur Sprache-zu-Text-Umwandlung weiter.
Das STT-Verarbeitungsmodul 330 empfängt die Spracheingabe (z. B. eine in einer Sprachaufnahme erfasste Benutzeräußerung) durch das E/A-Verarbeitungsmodul 328. In manchen Ausführungsformen verwendet das STT-Verarbeitungsmodul 330 verschiedene akustische und Sprachmodelle, um die Spracheingabe als eine Sequenz von Phonemen und letztendlich eine Sequenz von Wörtern oder Tokens zu erkennen, die in einer oder mehreren Sprachen geschrieben sind. Das Sprache-zu-Text-Verarbeitungsmodul 330 kann unter Verwendung jeglicher geeigneter Spracherkennungstechniken, akustischer Modelle und Sprachmodelle, wie beispielsweise auf „Hiddden Markov Models”, „Dynamic Time Warping” (DTW) beruhender Spracherkennung und anderer statistischer und/oder analytischer Techniken implementiert sein. In manchen Ausführungsformen kann die Sprache-zu-Text-Erkennung zumindest teilweise durch einen Drittparteidienst oder auf der Vorrichtung des Benutzers durchgeführt werden. Nachdem das STT-Verarbeitungsmodul 330 das Ergebnis der Sprache-zu-Text-Verarbeitung (z. B. eine Sequenz von Wörtern oder Tokens) erhalten hat, leitet das STT-Verarbeitungsmodul 330 das Ergebnis zum Verarbeitungsmodul für natürliche Sprache 332 zur Ableitung der Absicht weiter.
Mehr Details zur Sprache-zu-Text-Verarbeitung sind in der am 20. September 2011 eingereichten US-Gebrauchsmusteranmeldung mit der Seriennummer 13/236,942 zu den „Consolidating Speech Recognition Results” beschrieben, deren gesamte Offenbarung hierin durch Bezugnahme aufgenommen wird.
Das Verarbeitungsmodul für natürliche Sprache 332 (hierin manchmal auch ein „Prozessor für natürliche Sprache” genannt) des digitalen Assistenten nimmt die Sequenz von Wörtern oder Tokens (oder Token-Sequenz), die durch das STT-Verarbeitungsmodul 330 erzeugt wurde, auf und versucht, die Token-Sequenz einer oder mehreren ausführbaren Absichten zuzuordnen, die durch den digitalen Assistenten erkannt werden. Eine „ausführbare Absicht” steht für eine Aufgabe, die durch den digitalen Assistenten durchgeführt werden kann, und besitzt einen zugeordneten Aufgabenfluss, der in den Aufgabenflussmodellen 344 implementiert ist. Der zugeordnete Aufgabenfluss ist eine Reihe programmierter Aktionen und Schritte, die der digitale Assistent unternimmt, um die Aufgabe durchzuführen. Der Umfang der Fähigkeiten eines digitalen Assistenten hängt von der Anzahl und Vielfalt von Aufgabenflüssen ab, die in den Aufgabenflussmodellen 344 implementiert und gespeichert wurden, oder mit anderen Worten von der Anzahl und Vielfalt ausfahrbarer Absichten, die der digitale Assistent erkennt. Die Wirksamkeit des digitalen Assistenten hängt jedoch auch von den Möglichkeiten des digitalen Assistenten ab, die eine oder mehreren korrekten ausführbaren Absichten aus der in natürlicher Sprache ausgedrückten Benutzeranfrage abzuleiten.
In manchen Ausführungsformen empfängt der Prozessor für natürliche Sprache 332 zusätzlich zur von dem SST-Verarbeitungsmodul 330 erhaltenen Token-Sequenz auch Kontextinformationen, die der Benutzeranfrage zugehörig sind (z. B. vom E/A-Verarbeitungsmodul 328). Der Prozessor für natürliche Sprache 332 verwendet optional die Kontextinformationen, um die in der vom SST-Verarbeitungsmodul 330 empfangenen Token-Sequenz enthaltenen Informationen zu klären, zu ergänzen und/oder weiter zu definieren. Die Kontextinformationen schließen zum Beispiel Benutzerpräferenzen, Hardware- und/oder Softwarezustände der Benutzervorrichtung, Sensorinformationen, die vor, während oder kurz nach der Benutzeranfrage, vor Interaktionen (z. B. einem Dialog) zwischen dem digitalen Assistenten und dem Benutzer erfasst wurden, und Ähnliches ein.
In manchen Ausführungsformen beruht die Verarbeitung natürlicher Sprache auf der Ontologie 334. Die Ontologie 334 ist eine hierarchische Struktur, die viele Knoten enthält, wobei jeder Knoten entweder für eine „ausführbare Absicht” oder eine „Eigenschaft” steht, die für eine oder mehrere der „ausführbaren Absichten” oder andere „Eigenschaften” relevant ist. Wie vorstehend festgehalten, steht eine „ausführbare Absicht” für eine Aufgabe, die durchzuführen der digitale Assistent in der Lage ist (d. h. sie ist ausführbar oder auf sie hin kann agiert werden). Eine „Eigenschaft” steht für einen Parameter, der einer ausführbaren Absicht oder einem Unteraspekt einer anderen Eigenschaft zugeordnet ist. Eine Verknüpfung zwischen einem Knoten einer ausführbaren Absicht und einem Eigenschaftsknoten in der Ontologie 334 definiert, wie ein durch den Eigenschaftsknoten dargestellter Parameter der Aufgabe angehört, für die der Knoten der ausführbaren Absicht steht.
In manchen Ausführungsformen ist die Ontologie 334 aus Knoten ausführbarer Absichten und Eigenschaftsknoten aufgebaut. Innerhalb der Ontologie 334 ist jeder Knoten einer ausführbaren Absicht mit einem oder mehreren Eigenschaftsknoten entweder direkt oder durch einen oder mehreren dazwischenliegende Eigenschaftsknoten verknüpft. Gleichermaßen ist jeder Eigenschaftsknoten entweder direkt oder durch einen oder mehrere dazwischenliegende Eigenschaftsknoten mit einem oder mehreren Knoten ausführbarer Absichten verknüpft. Wie zum Beispiel in 3C gezeigt, schließt die Ontologie 334 optional einen Knoten „Restaurantreservierung” ein – einen Knoten einer ausführbaren Absicht. Eigenschaftsknoten „Restaurant”, „Datum/Uhrzeit” (für die Reservierung) und „Gesellschaftsgröße” sind jeweils direkt mit dem Knoten der ausführbaren Absicht (z. B. dem Knoten „Restaurantreservierung”) verknüpft. Zusätzlich sind Eigenschaftsknoten „Küche”, „Preisbereich”, „Telefonnummer” und „Standort” Unterknoten des Eigenschaftsknotens „Restaurant” und sind jeweils mit dem Knoten „Restaurantreservierung” durch den dazwischenliegenden Eigenschaftsknoten „Restaurant” verknüpft. Wie in 3C für ein weiteres Beispiel gezeigt, kann die Ontologie 334 auch einen Knoten „Erinnerung einrichten” einschließen (z. B. einen weiteren Knoten einer ausführbaren Absicht). Eigenschaftsknoten „Datum/Uhrzeit” (zum Einrichten der Erinnerung) und „Betreff” (für die Erinnerung) sind jeweils mit dem Knoten „Erinnerung einrichten” verknüpft. Da die Eigenschaft „Datum/Uhrzeit” sowohl für die Aufgabe des Vornehmens einer Restaurantreservierung als auch der Aufgabe des Einrichtens einer Erinnerung relevant ist, ist der Eigenschaftsknoten „Datum/Uhrzeit” in der Ontologie 334 sowohl mit dem Knoten „Restaurantreservierung” als auch dem Knoten „Erinnerung einrichten” verknüpft.
Ein Knoten einer ausführbaren Absicht wird zusammen mit seinen verknüpften Eigenschaftsknoten manchmal als eine „Domäne” beschrieben. In der vorliegenden Erörterung ist jede Domäne einer entsprechenden ausführbaren Absicht zugeordnet und bezieht sich auf die Gruppe von Knoten (und die Beziehungen dazwischen), die der bestimmten ausführbaren Absicht zugeordnet sind. Zum Beispiel schließt die in 3C gezeigte Ontologie 334 ein Beispiel einer Restaurantreservierungsdomäne 362 und ein Beispiel einer Erinnerungsdomäne 364 innerhalb der Ontologie 334 ein. Die Restaurantreservierungsdomäne schließt den Knoten der ausführbaren Absicht „Restaurantreservierung”, die Eigenschaftsknoten „Restaurant”, „Datum/Uhrzeit” und „Gesellschaftsgröße” und die Untereigenschaftsknoten „Küche”, „Preisbereich, „Telefonnummer” und „Standort” ein. Die Erinnerungsdomäne 364 schließt den Knoten der ausführbaren Absicht „Erinnerung einrichten” und die Eigenschaftsknoten „Betreff” und „Datum/Uhrzeit” ein. In manchen Ausführungsformen ist die Ontologie 334 aus vielen Domänen aufgebaut. Jede Domäne nutzt optional einen oder mehrere Eigenschaftsknoten mit einer oder mehreren anderen Domänen gemeinsam. Zum Beispiel ist der Eigenschaftsknoten „Datum/Uhrzeit” zusätzlich zur Restaurantreservierungsdomäne 362 und der Erinnerungsdomäne 364 optional vielen unterschiedlichen Domänen (z. B. einer Planungsdomäne, einer Reisereservierungsdomäne, einer Kinokartendomäne usw.) zugeordnet.
Während 3C zwei Beispieldomänen innerhalb der Domäne 334 veranschaulicht, schließen andere Domänen (oder ausführbare Absichten) zum Beispiel „einen Telefonanruf tätigen”, „Richtungen finden”, „ein Meeting planen”, „eine Nachricht senden” und „eine Antwort auf eine Frage geben” und so weiter ein. Eine Domäne „eine Nachricht senden” ist einem Knoten einer ausführbaren Absicht „eine Nachricht senden” zugeordnet und schließt ferner optional Eigenschaftsknoten, wie beispielsweise „Empfänger”, „Nachrichtentyp” und „Nachrichtenkörper” ein. Der Eigenschaftsknoten „Empfänger” ist optional zum Beispiel durch die Untereigenschaftsknoten, wie beispielsweise „Empfängername” und „Nachrichtenadresse”, weiter definiert.
Bei einigen Ausführungsformen schließt die Ontologie 334 alle Domänen ein (und somit umsetzbare Absichten), die der digitale Assistent verstehen und umsetzen kann. Bei einigen Ausführungsformen ist die Ontologie 334 optional modifiziert, wie z. B. durch Hinzufügen oder Entfernen ganzer Domänen oder Knoten oder durch Modifizieren von Beziehungen zwischen den Knoten in der Ontologie 334.
Bei einigen Ausführungsformen sind Knoten, die mit mehreren verbundenen umsetzbaren Absichten zusammenhängen, optional unter einer „Superdomäne” in der Ontologie 334 gebündelt. Beispielsweise enthält eine Superdomäne „Reisen” wahlfrei einen Cluster von Eigenschaftsknoten und Knoten umsetzbarer Absichten mit Bezug auf Reisen. Die Knoten umsetzbarer Absichten mit Bezug auf Reisen schließen wahlfrei „Flugbuchung”, „Hotelbuchung”, „Autovermietung”, „Wegbeschreibung”, „Point-of-Interest finden” usw. ein. Die Knoten umsetzbarer Absichten unter der gleichen Superdomäne (z. B. unter der Superdomäne „Reisen”) haben manchmal viele gemeinsame Eigenschaftsknoten. Beispielsweise teilen die Knoten umsetzbarer Absichten für „Flugbuchung”, „Hotelbuchung”, „Autovermietung”, „Wegbeschreibung”, „Point-of-Interest finden” manchmal einen oder mehrere der Eigenschaftsknoten „Ausgangspunkt”, „Ziel”, „Abfahrtsdatum/Zeit”, „Ankunftsdatum/Zeit” und „Gruppengröße”.
Bei einigen Ausführungsformen ist jeder Knoten in der Ontologie 334 mit einer Gruppe von Wörtern und/oder Sätzen assoziiert, die für die durch den Knoten wiedergegebene Eigenschaft oder umsetzbare Absicht wiedergegeben werden. Die entsprechende Gruppe von Wörtern und/oder Sätzen in Zusammenhang mit jedem Knoten ist das sogenannte „Vokabular”, das mit dem Knoten assoziiert ist. Die entsprechende Gruppe von Wörtern und/oder Sätzen, die mit jedem Knoten assoziiert ist, kann im Vokabular-Index 336 in Zusammenhang mit der durch den Knoten wiedergegebenen Eigenschaft oder umsetzbaren Absicht gespeichert werden. In 3B wiederum schließt das mit dem Knoten für die Eigenschaft „Restaurant” assoziierte Vokabular beispielsweise wahlfrei Wörter ein wie z. B. „Speisen”, „Getränke”, „Küche”, „hungrig”, „essen”, „Pizza”, „Fast Food”, „Gericht” usw. Als weiteres Beispiel schließt das mit dem Knoten für die umsetzbare Absicht „Anruf initiieren” assoziierte Vokabular wahlfrei Wörter und Sätze ein wie z. B. „Anruf”, „Handy”, „wählen”, „Diese Nummer anrufen”, „Anruf an” usw. Der Vokabular-Index 336 schließt wahlfrei Wörter und Sätze in unterschiedlichen Sprachen ein.
Der Prozessor für natürliche Sprache 332 empfängt die Token-Sequenz (z. B. eine Textfolge) vom STT-Verarbeitungsmodul 330 und bestimmt, welche Knoten durch die Wörter in der Token-Sequenz einbezogen sind. Falls es sich bei einigen Ausführungsformen ergibt, dass ein Wort oder ein Satz in der Token-Sequenz mit einem oder mehreren Knoten in der Ontologie 334 assoziiert ist (über den Vokabular-Index 336), „löst” das Wort oder der Satz diese Knoten aus bzw. „aktiviert” sie. Auf der Grundlage der Menge und/oder relativen Bedeutung der aktivierten Knoten wählt der Prozessor für natürliche Sprache 332 eine der umsetzbaren Absichten als Aufgabe aus, deren Ausführung durch den digitalen Assistenten der Benutzer beabsichtigt. Bei einigen Ausführungsformen wird die Domäne ausgewählt, die die meisten „ausgelösten” Knoten hat. Bei einigen Ausführungsformen wird die Domäne mit dem höchsten Vertrauenswert ausgewählt (z. B. basierend auf der relativen Bedeutung der verschiedenen ausgelösten Knoten). Bei einigen Ausführungsformen wird die Domäne ausgewählt basierend auf einer Kombination der Anzahl und der Bedeutung der ausgelösten Knoten. Bei einigen Ausführungsformen werden auch zusätzliche Faktoren bei der Auswahl des Knotens berücksichtigt, wie z. B., ob der digitale Assistent zuvor eine ähnliche Anfrage durch einen Benutzer korrekt interpretiert hatte.
Bei einigen Ausführungsformen speichert der digitale Assistent auch Namen spezifischer Entitäten im Vokabular-Index 336, sodass, wenn einer dieser Namen in der Benutzeranfrage detektiert wird, der Prozessor 332 für natürliche Sprache erkennen kann, dass sich der Name auf eine spezifische Instanz einer Eigenschaft oder Untereigenschaft in der Ontologie bezieht. Bei einigen Ausführungsformen sind die Namen spezifischer Entitäten Namen von Geschäftsunternehmen, Restaurants, Personen, Filmen und Ähnliches. Bei einigen Ausführungsformen sucht und identifiziert der digitale Assistent spezifische Namen von anderen Datenquellen, wie z. B. dem Adressbuch des Benutzers, einer Filmdatenbank, einer Datenbank von Musikern und/oder einer Restaurantdatenbank. Wenn der Prozessor für natürliche Sprache 332 bei einigen Ausführungsformen identifiziert, dass ein Wort in der Token-Sequenz ein Name einer spezifischen Entität ist (z. B. ein Name im Adressbuch des Benutzers), erhält das Wort zusätzliche Bedeutung bei der Auswahl der umsetzbaren Absicht in der Ontologie für die Benutzeranfrage.
Wenn beispielsweise die Wörter „Herr Santo” in einer Benutzeranfrage erkannt werden und der Nachname „Santo” im Vokabular-Index 336 als einer der Kontakte im Adressbuch des Benutzers gefunden wird, ist es wahrscheinlich, dass die Benutzeranfrage zu einer Domäne „Nachricht versenden” oder „Anruf initiieren” gehört. Wenn bei einem anderen Beispiel die Wörter in einer Benutzeranfrage die Wörter „ABC-Café” gefunden werden und der Begriff „ABC-Café” im Vokabular-Index 336 als Name eines bestimmten Restaurants in der Stadt des Benutzers gefunden wird, ist es wahrscheinlich, dass die Benutzeranfrage einer Domäne „Tischreservierung” oder „Restaurant finden” entspricht.
Die Benutzerdaten 338 schließen nutzerspezifische Informationen ein, wie nutzerspezifisches Vokabular, Benutzerpräferenzen, Benutzeradresse oder Heimat-Standort, bevorzugte und zweite Sprache des Benutzers, Benutzeradressbuch, sowie weitere kurzfristige oder langfristige Informationen zu jedem Benutzer. Bei einigen Ausführungsformen verwendet der Prozessor 332 für natürliche Sprache die benutzerspezifischen Informationen zur Ergänzung der in einer Nutzereingabe enthaltenen Informationen, um die Absicht des Benutzers näher zu definieren. Beispielsweise kann der Prozessor 332 für natürliche Sprache bei einer Benutzeranfrage „Meine Freunde zu meiner Geburtstags-Party einladen” auf die Benutzerdaten 338 zugreifen, um zu bestimmen, wer die „Freunde” sind und wo die „Geburtstags-Party” stattfindet, statt den Benutzer aufzufordern, solche Informationen in seiner Anfrage explizit anzugeben.
Weitere Details zum Suchen in einer Ontologie auf der Basis eines Token-Strings sind beschrieben in der US-Gebrauchsmusteranmeldung Seriennr. 12/341743 mit dem Titel „Method and Apparatus for Searching Using An Active Ontology”, eingereicht am 22. Dezember 2008, wobei deren gesamte Offenbarung durch Verweis hierin übernommen wird.
Bei einigen Ausführungsformen erzeugt der Prozessor 332 für natürliche Sprache, wenn der Prozessor 332 für natürliche Sprache eine umsetzbare Absicht (oder Domäne) auf der Basis der Benutzeranfrage identifiziert, eine strukturierte Abfrage zur Wiedergabe der identifizierten umsetzbaren Absicht. Bei einigen Ausführungsformen schließt die strukturierte Abfrage Parameter für einen oder mehrere Knoten in der Domäne für die umsetzbare Absicht ein, und mindestens einige der Parameter sind mit den spezifischen Informationen und Anforderungen gefüllt, die in der Benutzeranfrage angegeben sind. Beispielsweise gibt der Benutzer in den DA ein: „Mach eine Dinner-Reservierung in einem Sushi-Restaurant um 7”. In diesem Fall kann der Prozessor 332 für natürliche Sprache in der Lage sein, die umsetzbare Absicht basierend auf der Benutzereingabe als „Tischreservierung” korrekt zu identifizieren. Gemäß der Ontologie schließt eine strukturierte Abfrage einer „Tischreservierung” wahlfrei Parameter ein, wie z. B. {Küche}, {Zeit}, {Datum}, {Gruppengröße} und Ähnliches. Bei einigen Ausführungsformen erzeugt der Prozessor 332 für natürliche Sprache basierend auf den in der Wortwahl des Benutzers enthaltenen Informationen eine partielle strukturierte Abfrage für die Tischreservierungs-Domäne, wobei die partielle strukturierte Abfrage die Parameter {Küche = Sushi) und {Zeit = 19 h} enthält. Bei diesem Beispiel enthält die Wortwahl des Benutzers jedoch unzureichende Informationen, um die mit der Domäne assoziierte strukturierte Abfrage abzuschließen. Daher sind auf der Basis der derzeit verfügbaren Informationen andere erforderliche Parameter wie {Gruppengröße} und {Datum} in der strukturierten Abfrage nicht angegeben. Bei einigen Ausführungsformen füllt der Prozessor 332 für natürliche Sprache einige Parameter der strukturierten Abfrage mit empfangenen Kontextinformationen aus. Falls der Benutzer beispielsweise bei einigen Ausführungsformen ein Sushi-Restaurant „in der Nähe” nachfragt, füllt der Prozessor 332 für natürliche Sprache einen {Standort}-Parameter in der strukturierten Abfrage mit GPS-Koordinaten von der Benutzereinrichtung 104.
Bei einigen Ausführungsformen gibt der Prozessor 332 für natürliche Sprache die strukturierte Abfrage (einschließlich der vollständigen Parameter) weiter an das Task-Flow-Verarbeitungsmodul 342 (manchmal auch als „Task-Flow-Prozessor” bezeichnet). Der Task-Flow-Prozessor 342 ist konfiguriert, um die strukturierte Abfrage von dem Prozessor 332 für natürliche Sprache zu empfangen, die strukturierte Abfrage ggf. zu vervollständigen und die Vorgänge durchzuführen, die erforderlich sind, um die endgültige Abfrage des Benutzers „abzuschließen”. Bei einigen Ausführungsformen liegen die verschiedenen zur Vervollständigung dieser Aufgaben erforderlichen Prozeduren in Task-Flow-Modellen 344 vor. Bei einigen Ausführungsformen schließen Task-Flow-Modelle 344 Prozeduren ein, um zusätzliche Informationen von dem Benutzer zu erhalten, sowie Task-Flows, um Vorgänge in Zusammenhang mit der umsetzbaren Absicht auszuführen.
Entsprechend der Beschreibung weiter oben muss der Task-Flow-Prozessor 342 zum Abschluss einer strukturierten Abfrage gelegentlich einen zusätzlichen Dialog mit dem Benutzer initiieren, um zusätzliche Informationen zu erhalten und/oder um eine potenziell zweideutige Ausdrucksweise zu klären. Wenn derartige Interaktionen erforderlich sind, ruft der Task-Flow-Prozessor 342 ein Dialogfluss-Verarbeitungsmodul 340 auf (manchmal hierin als „Dialogprozessor” bezeichnet), um in einen Dialog mit dem Benutzer einzutreten. Bei einigen Ausführungsformen bestimmt der Dialogprozessor 340, wie (und/oder wann) der Benutzer nach zusätzlichen Informationen gefragt wird, und er empfängt und verarbeitet die Antworten des Benutzers. Über das I/O-Verarbeitungsmodul 328 werden die Fragen an die Benutzer bereitgestellt und die Antworten von ihnen empfangen. Bei einigen Ausführungsformen gibt der Dialogprozessor 340 eine Dialogausgabe zum Benutzer über Audio- und/oder Video-Ausgabe aus, und er empfängt Eingaben des Benutzers über gesprochene oder physische Antworten (z. B. Mausklicks). Wiederum im vorstehenden Beispiel erzeugt der Dialogprozessor 340, wenn der Task-Flow-Prozessor 342 den Dialog-Prozessor 340 aufruft, um die Informationen „Gruppengröße” und „Datum” für die strukturierte Abfrage in Zusammenhang mit der Domäne „Tischreservierung” zu bestimmen, Fragen wie „Für wie viele Personen?” und „An welchem Tag?” zur Weitergabe an den Benutzer. Sobald Antworten vom Benutzer empfangen werden, kann der Dialogprozessor 340 die strukturierte Abfrage mit den fehlenden Informationen ausfüllen oder die Informationen an den Task-Flow-Prozessor 342 weitergeben, um die fehlenden Informationen aus der strukturierten Abfrage zu vervollständigen.
Nachdem der Task-Flow-Prozessor 342 die strukturierte Abfrage für eine umsetzbare Absicht vervollständigt hat, fährt der Task-Flow-Prozessor 342 mit der Ausführung der abschließenden Aufgabe in Zusammenhang mit der umsetzbaren Absicht fort. Dementsprechend führt der Task-Flow-Prozessor 342 die Schritte und Anweisungen im Task-Flow-Modell gemäß den in der strukturierten Abfrage enthaltenen spezifischen Parameter aus. Das Task-Flow-Modell für die umsetzbare Absicht „Tischreservierung” schließt beispielsweise wahlfrei Schritte und Anweisungen ein zum Kontaktieren eines Restaurants und zur eigentlichen Buchung einer Reservierung für eine bestimmte Gruppengröße zu einer bestimmen Zeit. Beispielsweise führt der Task-Flow-Prozessor 342 wahlfrei unter Verwendung einer strukturierten Abfrage wie z. B. {Tischreservierung, Restaurant – ABC Café, Datum = 12/03/2012, Zeit 19 h, Gruppengröße = 5} die folgenden Schritte aus: (1) Anmelden bei einem Server des ABC-Cafés oder einem Restaurant-Reservierungssystem wie z. B. OPENTABLE^®; (2) Eingabe von Informationen zu Datum, Zeit und Gruppengröße in ein Formular der Website; (3) Einreichen des Formulars; und (4) Erstellen eines Kalendereintrags für die Reservierung im Kalender des Benutzers.
Bei einigen Ausführungsformen verwendet der Task-Flow-Prozessor 342 die Unterstützung eines Service-Verarbeitungsmoduls 346 (manchmal hierin auch als „Service-Prozessor” bezeichnet), um eine in der Benutzereingabe angeforderte Aufgabe abzuschließen oder um in der Benutzereingabe geforderte Informationsantwort bereitzustellen. Beispielsweise kann der Service-Prozessor 346 für den Task-Flow-Prozessor 342 handeln, um einen Anruf zu tätigen, einen Kalendereintrag vorzunehmen, eine Kartensuche zu initiieren, andere auf der Benutzereinrichtung installierte Benutzeranwendungen aufzurufen oder damit zu interagieren und Dienste Dritter aufzurufen oder damit zu interagieren (z. B. ein Restaurant-Reservierungsportal, eine Social-Networking-Website, ein Banking-Portal usw.). Bei einigen Ausführungsformen können von jedem Dienst angeforderte Protokolle und Anwendungsprogrammierschnittstellen (API) durch ein entsprechendes Service-Modell unter den Service-Modellen 348 angegeben werden. Der Service-Prozessor 346 greift auf das zutreffende Service-Modell für einen Service zu und erzeugt Anforderungen des Service entsprechend den Protokollen und APIs, die gemäß dem Service-Modell für den Service erforderlich sind.
Falls ein Restaurant beispielsweise einen Online-Reservierungs-Service aktiviert hat, kann das Restaurant ein Service-Modell vorlegen, das die notwendigen Parameter zur Vornahme einer Reservierung angibt, sowie die APIs zur Kommunikation der Werte der erforderlichen Parameter an den Online-Reservierungs-Service. Auf Anforderung durch den Task-Flow-Prozessor 342 kann der Service-Prozessor 346 eine Netzverbindung mit dem Online-Reservierungs-Service unter Verwendung der im Service-Modell gespeicherten Webadresse aufbauen und die erforderlichen Parameter der Reservierung (z. B. Zeit, Datum, Gruppengröße) in einem der API des Online-Reservierungs-Services entsprechenden Format zur Online-Reservierungsschnittstelle senden.
Bei einigen Ausführungsformen werden der Prozessor 332 für natürliche Sprache, der Dialogprozessor 340 und der Task-Flow-Prozessor 342 gemeinsam und iterativ verwendet, um die Absicht des Benutzers abzuleiten und zu definieren, die Informationen zur weiteren Klärung und genaueren Formulierung der Benutzerabsicht zu erhalten und schließlich eine Antwort zu erzeugen (z. B. eine Ausgabe an den Benutzer oder den Abschluss einer Aufgabe), um die Absicht des Benutzers auszuführen.
Bei einigen Ausführungsformen formuliert der digitale Assistent 326, nachdem alle zur Erfüllung der Anforderung des Benutzers erforderlichen Aufgaben ausgeführt worden sind, eine Bestätigungsantwort und sendet die Antwort durch das I/O-Verarbeitungsmodul 328 zum Benutzer. Falls die Benutzeranfrage eine Informationsantwort sucht, präsentiert die Bestätigungsantwort dem Benutzer die angeforderten Informationen. Bei einigen Ausführungsformen fordert der digitale Assistent den Benutzer auch auf, anzugeben, ob der Benutzer mit der durch den digitalen Assistenten 326 erzeugten Antwort zufrieden ist.
Der Prozessor 332 für natürliche Sprache empfängt eine Token-Sequenz von dem STT-Verarbeitungsmodul 330, die einer Spracheingabe eines Benutzers der Benutzereinrichtung 104 (1) entspricht. Bei einigen Ausführungsformen leitet der Prozessor 332 für natürliche Sprache ab, dass die Spracheingabe Anweisungen enthält, um eine anschließend eingehende Kommunikation von einem oder mehreren angegebenen Absendern automatisch zu beantworten. Wenn Anweisungen mindestens (1) einen oder mehrere angegebene Absender (1) einschließen und (2) einen angegebenen Vorgang, ist der Anweisungs-Trigger ein Task-Flow, der mit der automatischen Antwort-Domäne 400 der Ontologie 334 assoziiert ist, die weiter unten mit Bezug auf 4 detaillierter erörtert wird. Bei einigen anderen Ausführungsformen leitet der Prozessor 332 für natürliche Sprache ab, dass eine entsprechende, von der automatischen Antwort-Domäne 400 unterschiedliche Domäne ausgelöst wird, und der digitale Assistent 326 fährt mit dem Task-Flow-Modell fort, das mit der entsprechenden Domäne assoziiert ist (z. B. der weiter oben erörterten Restaurant-Reservierungs-Domäne).
Bei einigen Ausführungsformen schließt der digitale Assistent 326 ein automatisches Antwortmodul 350 ein. Bei einigen Ausführungsformen ist das automatische Antwortmodul 350 eine Komponente des Task-Flow-Prozessors 342. Bei einigen anderen Ausführungsformen ist das automatische Antwortmodul 350 vom Task-Flow-Prozessor 342 getrennt. Das automatische Antwortmodul 350 ist konfiguriert, um Schritte auszuführen, die eine Benutzeranforderung erfüllen, die die automatische Antwort-Domäne 400 auslösen. Anders ausgedrückt, ist das automatische Antwortmodul 350 konfiguriert, um einen Task-Flow in Zusammenhang mit der automatischen Antwort-Domäne 400 auszuführen.
Nachdem der Prozessor 332 für natürliche Sprache bestimmt hat, dass die automatische Antwort-Domäne 400 ausgelöst wird, erhält das automatische Antwortmodul 350 die Anweisungen vom Prozessor 332 für natürliche Sprache und führt einen angegebenen Vorgang aus oder veranlasst die Ausführung eines angegebenen Vorgangs in Abhängigkeit vom Empfang einer anschließend eingehenden Kommunikation von einem der einen oder mehreren angegebenen Absender. Bei einigen Ausführungsformen schließt das automatische Antwortmodul 350 ein Anweisungsmodul 352, ein Bestimmungsmodul 354, ein Zusammenfügungsmodul 356 und ein Ausführungsmodul 358 ein.
Das Anweisungsmodul 352 ist konfiguriert, um die in der Spracheingabe enthaltenen Anweisungen zum Beantworten einer eingehenden Kommunikation zu speichern. Die gespeicherten Anweisungen enthalten mindestens den angegebenen Vorgang und den einen oder die mehreren angegebenen Absender. Bei einigen Ausführungsformen schließen die gespeicherten Anweisungen wahlfrei einen oder mehrere angegebene Informationstypen ein sowie einen Ablaufzeitraum für die Anweisungen und/oder eine der Ausführung der Anweisungen vorangehenden Bedingung. Bei einigen Ausführungsformen schließt das Anweisungsmodul 352 einen Speicher zum Speichern der vom Benutzer empfangenen Anweisungen ein. Bei einigen anderen Ausführungsformen speichert das Anweisungsmodul 352 die Anweisungen in einem vom Anweisungsmodul 352 separaten Speicher. Bei einigen Ausführungsformen ist das Anweisumgsmodul 352, wenn dies in der Spracheingabe (d. h. den Anweisungen) enthalten ist, auch konfiguriert, um einen Ablaufzeitraum (oder eine Dauer) für die Anweisungen zu speichern (z. B. innerhalb der nächsten beiden Tage oder bis 17:00 h heute) sowie eine der Ausführung des angegebenen Vorgangs vorangehende Bedingung. Das Anweisungsmodul 352 ist auch konfiguriert, um die Anweisungen bei Ausführung des angegebenen Vorgangs oder Verstreichen des Ablaufzeitraums automatisch zu löschen. Bei einigen Ausführungsformen werden die Anweisungen bei Ausführung oder beim Verstreichen des Ablaufzeitraums unverzüglich und ohne menschlichen Eingriff oder menschliche Anweisung gelöscht.
Bei einigen Ausführungsformen empfängt die Benutzereinrichtung 104 eine über das/die Kommunikationsnetz(e) 110 von einer der anderen Einrichtungen 130, die mit einem vom Benutzer der Benutzereinrichtung 104 unterschiedlichen Benutzer assoziiert ist, eingehende Kommunikation. Bei einigen Ausführungsformen ist das Bestimmungsmodul 354 konfiguriert, um festzustellen, ob der Sender einer anschließend eingehenden Kommunikation (z. B. der Sender eines Anrufs, einer SMS oder E-Mail) einer der einen oder mehreren in den Anweisungen angegebenen Absender ist. Bei einer Ausführungsform stellt das Bestimmungsmodul 354 basierend mindestens teilweise auf dem Adressbuch des Benutzers fest, ob der Sender einer anschließend eingehenden Kommunikation einer der einen oder mehreren angegebenen Absender ist. Beispielsweise vergleicht das Bestimmungsmodul 354 die der eingehenden Kommunikation entsprechende Telefonnummer mit der Telefonnummer in der dem angegebenen Benutzer entsprechenden Adresse des Benutzers. Bei einer anderen Ausführungsform stellt das Bestimmungsmodul 354 basierend mindestens teilweise auf Anrufer-Identifizierungsinformationen in Zusammenhang mit dem Absender der anschließend eingehenden Kommunikation fest, ob der Sender einer anschließend eingehenden Kommunikation einer der einen oder mehreren angegebenen Absender ist. Bei einer anderen Ausführungsform identifiziert das Bestimmungsmodul 354 eine E-Mail-Adresse (oder eine andere eindeutige ID) in Zusammenhang mit der anschließend eingehenden Kommunikation (z. B. einem VoIP-Anruf oder einer anderen internetbasierten Kommunikation) und stellt basierend zumindest teilweise auf der identifizierten E-Mail-Adresse fest, ob der Sender einer anschließend eingehenden Kommunikation einer der einen oder mehreren angegebenen Absender ist.
Bei einer weiteren Ausführungsform stellt das Bestimmungsmodul 354 basierend mindestens teilweise auf Nachverarbeitung der anschließend eingehenden Kommunikation fest, ob der Absender einer anschließend eingehenden Kommunikation einer der einen oder mehreren angegebenen Absender ist. Beispielsweise bestimmt oder folgert das Bestimmungsmodul 354 die Identität des Absenders der anschließend eingehenden Kommunikation basierend auf einem Namen, einer Telefonnummer, einer E-Mail-Adresse oder anderen Identifizierungsinformationen eines Anrufbeantworters oder einer Sprachnachricht, wie z. B. „Hallo, hier ist Hans Müller, bitte rufen Sie mich zurück”. Bei einem anderen Beispiel bestimmt das Bestimmungsmodul 354 die Identität des Absenders der anschließend eingehenden Kommunikation basierend auf einem Namen in einem Signaturblock einer E-Mail. Bei einem anderen Beispiel bestimmt das Bestimmungsmodul 354 die Identität des Absenders der anschließend eingehenden Kommunikation basierend auf einem Namen, einer Telefonnummer, einer E-Mail-Adresse oder anderen Identifizierungsinformationen, einer SMS wie z. B. „Hallo, ich bin Max Müller, bitte Adresse für Gig heute Abend zurücktexten”.
Bei einigen Ausführungsformen ist das Bestimmungsmodul 354 auch konfiguriert, um zu bestimmen, ob die anschließend eingehende Kommunikation einer der in den Anweisungen angegebenen Kommunikationstypen ist. Beispielsweise gibt der Benutzer im DA vor „Wenn Mama schreibt, bitte zurücktexten, dass ich schon unterwegs bin”. Bei diesem Beispiel soll der angegebene Vorgang (z. B. Textnachricht an Mama senden) nur ausgeführt werden, falls eine Textnachricht oder SMS von Mama empfangen wird. Beispielsweise gibt der Benutzer im DA vor „Wenn meine Frau anruft, teile ihr bitte mit, dass ich im Fitnessstudio bin und bald nach Hause komme”. Bei diesem Beispiel soll der angegebene Vorgang (z. B. der Frau des Benutzers mitteilen, dass der Benutzer im Fitnessstudio ist und bald nach Hause kommt) nur ausgeführt werden, falls ein Anruf von der Frau des Benutzers empfangen wird.
Bei einigen Ausführungsformen ist das Bestimmungsmodul 354, wenn das Anweisungsmodul einen Ablaufzeitraum angibt, weiter konfiguriert, um zu bestimmen, ob die anschließend eingehende Kommunikation innerhalb des Ablaufzeitraums empfangen wird. Bei einigen Ausführungsformen ist das Bestimmungsmodul 354, wenn die Anweisungen eine der Ausführung des angegebenen Vorgangs vorangehende Bedingung angeben, weiter konfiguriert, um zu bestimmen, ob die vorangehende Bedingung vor oder zeitgleich mit dem Empfang der anschließend eingehenden Kommunikation erfüllt ist.
Das Zusammenfügungsmodul 356 ist konfiguriert, um basierend auf den in der Spracheingabe enthaltenen Anweisungen eine Beantwortung der anschließend eingehenden Kommunikation zusammenzustellen. Bei einigen Ausführungsformen verwendet das Zusammenfügungsmodul 356 bei der Zusammenstellung der Antwort Kontextinformationen (z. B. Standort, zurückliegende Muster oder Verhaltensformen oder einen mit dem Benutzer assoziierten Kalender). Man nehme beispielsweise an, dass der Benutzer der Benutzereinrichtung 104 den DA anweist „Wenn mich meine Frau sucht, texte ihr bitte, dass ich bald nach Hause komme”. Bei diesem Beispiel stellt der digitale Assistent, nachdem er bestimmt hat, dass eine anschließend eingehende Kommunikation von der Frau des Benutzers empfangen wurde (z. B. basierend auf einer der vorstehend beschriebenen Prozeduren), eine Textnachricht an die Frau des Benutzers zusammen, die zumindest teilweise auf den mit dem Benutzer assoziierten Anweisungen und Standortinformationen basiert. Beispielsweise lautet die vom Zusammenfügungsmodul 356 zusammengestellte Textnachricht: „Hi Schatz. Ich bin unterwegs und werde je nach Verkehr in circa 15 Minuten zu Hause sein”. Bei diesem Beispiel wird der Zeitraum von 15 Minuten vom digitalen Assistenten basierend auf dem aktuellen Standort des Benutzers, der Wohnanschrift des Benutzers und/oder aktuellen Verkehrsbedingungen geschätzt.
Bei einigen Ausführungsformen ist das Ausführungsmodul 358 konfiguriert, um den in den Anweisungen angegebenen Vorgang auszuführen, nachdem das Bestimmungsmodul 354 bestimmt hat, dass der Absender einer anschließend eingehenden Kommunikation einer der einen oder mehreren angegebenen Absender ist. Bei einigen Ausführungsformen ist das Ausführungsmodul 358 konfiguriert, um die Ausführung des in den Anweisungen angegebenen Vorgangs zu veranlassen, nachdem das Bestimmungsmodul 354 bestimmt hat, dass die anschließend eingehende Kommunikation einer der einen oder mehreren angegebenen Kommunikationstypen ist. Beispielsweise ist der angegebene Vorgang das Senden einer Sprachnachricht an den Absender, das Senden einer SMS oder Textnachricht an den Absender, das Senden einer MMS an den Absender, das Senden einer Sofortnachricht an den Absender, das Senden einer E-Mail an den Absender, das Senden einer anderen elektronischen oder nicht elektronischen Kommunikationsform an den Absender, das Senden eines Ereignisses oder einer Kalendereinladung an den Absender, das Senden oder Teilen von Medieninhalten (z. B. eine Audiodatei, einen Videoclip, ein Foto, eine URL oder Ähnliches), das Teilen von einem oder mehreren Kalender- oder Termineinträgen mit dem Absender oder das Teilen von einem oder mehreren individuellen Attributen (z. B. andere, durch den Benutzer definierte Informationstypen oder Medieninhalte) mit dem Absender. Bei einigen Ausführungsformen ist das Ausführungsmodul konfiguriert, um standardmäßig eine anschließend eingehende Kommunikation unter Verwendung der gleichen Kommunikationstypen wie in der anschließend eingehenden Kommunikation zu beantworten.
Weitere Einzelheiten zum digitalen Assistenten finden sich in der US-Gebrauchsmusteranmeldung Nr. 12/987982 mit dem Titel „Intelligent Automated Assistant”, eingereicht am 18. Januar 2010, und auch in der US-Gebrauchsmusteranmeldung Nr. 61/493201 mit dem Titel „Generating and Processing Data Items That Represent Tasks to Perform”, eingereicht am 3. Juni 2011, deren gesamte Offenbarungen durch Verweis hierin übernommen werden.
4 stellt eine automatische Antwort-Domäne 400 in der Ontologie 334 dar, die assoziiert ist mit einer umsetzbaren Absicht 402 zur automatischen Ausführung eines angegebenen Vorgangs in Abhängigkeit vom Empfang einer anschließend eingehenden Kommunikation von einem der einen oder mehreren angegebenen Absender (gelegentlich hierin auch bezeichnet als „automatisch beantwortete” umsetzbare Absicht).
Der angegebene Eigenschaftsknoten 404 des Absenders gibt einen Absender einer anschließend eingehenden Kommunikation an. Bei einigen Ausführungsformen schließt der angegebene Sendeknoten 404 Unter-Eigenschaftsknoten ein, die den angegebenen Absender identifizieren, wie z. B. einen Namen im Adressbuch des Benutzers, eine Telefonnummer, eine E-Mail-Adresse und Ähnliches. Der angegebene Vorgangsknoten 406 gibt den Vorgang an, der ausgeführt werden soll, wenn eine eingehende Kommunikation vom angegebenen Absender empfangen wird. Bei einigen Ausführungsformen schließt der angegebene Vorgangsknoten 406 Unterknoten ein, die Details 414 (oder Informationen) identifizieren, die in der automatischen Antwort eingeschlossen sein sollen, sowie den auszuführenden Vorgangstyp 416.
Bei einigen Ausführungsformen schließt der Unterknoten 414 der Details Text oder aufgezeichnete gesprochene Wörter aus der Spracheingabe ein, eine digitalisierte oder Text-zu-Sprache-Version einer Texteingabe vom Benutzer und/oder den aktuellen Standort der Benutzereinrichtung 104 (1) zur Übernahme in die automatische Antwort. Falls die Benutzeranfrage bei einigen Ausführungsformen für die Zusammenstellung der automatischen Antwortnachricht unzureichende Details oder Informationen einschließt, ist das automatische Antwortmodul 350 (3A) konfiguriert, das Dialogfluss-Verarbeitungsmodul 340 (3A) zu veranlassen, einen Dialog mit dem Benutzer zu initiieren, um zusätzliche Details oder Anweisungen zum Zusammenstellen einer vollständigen automatischen Antwortnachricht einzuholen. Falls die Benutzeranfrage bei einigen Ausführungsformen für die Zusammenstellung der automatischen Antwortnachricht unzureichende Details oder Informationen einschließt, ist das automatische Antwortmodul 350 (3A) konfiguriert, um das Zusammenfügungsmodul 356 (3A) zu veranlassen, nicht wesentliche Details zu vervollständigen, die in den Anweisungen nicht enthalten sind, um die automatische Antwortnachricht zusammenzustellen. Beispielsweise verwendet das Zusammenfügungsmodul 356 (3A) den Einsatz von mit dem Benutzer assoziierten Kontextinformationen, wie z. B. dem Adressbuch des Benutzers, Standortinformationen, Informationen zu Muster oder Verhaltensformen, Benutzerprotokolle oder Kalendereinträge, um die vollständige automatische Antwortnachricht zusammenzustellen.
Bei einigen Ausführungsformen gibt der Unterknoten 416 des Vorgangstyps den Typ des auszuführenden Vorgangs an, wie z. B. Senden/Teilen von einer AB-Nachricht oder Sprachnachricht, SMS oder Textnachricht, MMS, E-Mail, Event-Einladung, Medieninhalten, einem oder mehreren Kalendereinträgen oder einem oder mehreren individuellen Attributen an/mit dem angegebenen Absender. Falls die Benutzeranfrage bei einigen Ausführungsformen vorgibt, dass der DA Informationen an einen angegebenen Absender kommunizieren soll, aber kein Kommunikationsmittel angibt, wird ein am häufigsten verwendetes oder standardmäßiges Kommunikationsmittel für die Antwortnachricht eingesetzt.
Beispielsweise kann der Benutzer der Benutzereinrichtung 104 den DA anweisen: „Wenn meine Eltern versuchen, mich zu erreichen, texte ihnen die Adresse meiner neuen Wohnung und teil ihnen auch mit, dass ich zurückrufe”. In diesem Fall identifiziert der Prozessor 332 für natürliche Sprache (3A) umsetzbare Absicht als die „automatisch beantwortete” umsetzbare Absicht 402, weil die Spracheingabe einen oder mehrere angegebene Absender einschließt (z. B. einen der Elternteile des Benutzers) sowie einen angegebenen auszuführenden Vorgang (z. B. Senden einer Textnachricht). Entsprechend der Ontologie 334 schließt eine strukturierte Abfrage für die automatische Antwort-Domäne 400 Parameter ein wie z. B. {angegebener Absender 404), {Details 414} und {Vorgangstyp 416}. Beispielsweise führt der Task-Flow-Prozessor 342 (3A) oder eine seiner Komponenten unter Verwendung einer strukturierten Abfrage wie z. B. {automatische Antwort, angegebener Absender = Eltern, Details = Adresse der Wohnung des Benutzers und „werde zurückrufen”, Vorgangstyp = SMS oder Textnachricht} die folgenden Schritte aus: (1) Speichern der in der Spracheingabe enthaltenen Anweisungen; (2) Empfangen einer anschließend eingehenden Kommunikation (z. B. einer Textnachricht oder eines Anrufs); (3) Bestimmen, ob der Absender einer anschließend eingehenden Kommunikation der angegebene Absender ist (z. B. ein Elternteil des Benutzers); (4) Zusammenstellen einer Antwort-Textnachricht entsprechend den in den Anweisungen angegebenen Details (oder Informationen) (z. B. „Meine Anschrift ist 123 Elwynn Forest Drive, Sunnyvale, CA 94086. Ich rufe zurück, sobald ich kann.”); (5) Veranlassen, dass die Textnachricht an einen oder beide Elternteile) des Benutzers versandt wird; und (6) automatisches Löschen der Anweisungen, nachdem der Versand der Textnachricht veranlasst worden ist.
Der Knoten 408 des Ablaufzeitraums gibt einen Zeitraum an, in dem eine anschließend eingehende Kommunikation von dem einen oder den mehreren angegebenen Absender(n) empfangen werden muss. Beispielsweise kann der Benutzer der Benutzereinrichtung 104 den DA anweisen: „Wenn Gary in den nächsten 30 Minuten versucht, mich zu erreichen, schick ihm eine Mail mit meinem nächsten möglichen Termin für ein Meeting heute”. In diesem Fall identifiziert der Prozessor 332 für natürliche Sprache (3A) umsetzbare Absicht als die „automatisch beantwortete” umsetzbare Absicht 402 weil die Spracheingabe einen oder mehrere angegebene Absender einschließt (z. B. Gary) sowie einen angegebenen auszuführenden Vorgang (z. B. Senden eines Terminvorschlags für ein Meeting). Entsprechend der Ontologie 334 schließt eine strukturierte Abfrage für die automatische Antwort-Domäne 400 Parameter ein wie z. B. {angegebener Absender 404}, {Details 414}, {Vorgangstyp 416} und {Ablaufzeitraum 408). Beispielsweise führt der Task-Flow-Prozessor 342 (3A) oder eine seiner Komponenten unter Verwendung einer strukturierten Abfrage wie z. B. {automatische Antwort, angegebener Absender = Gary, Details = nächster verfügbarer Termin für Meeting, Vorgangstyp = E-Mail, Ablaufzeitraum = 30 Minuten} die folgenden Schritte aus: (1) Speichern der in der Spracheingabe enthaltenen Anweisungen; (2) Empfangen einer anschließend eingehenden Kommunikation (z. B. einer Textnachricht, eines Anrufs oder einer E-Mail); (3) Bestimmen, ob der Absender einer anschließend eingehenden Kommunikation der angegebene Absender ist (z. B. Gary); (4) Bestimmen, ob die anschließend eingehende Kommunikation innerhalb des Ablaufzeitraums empfangen worden ist (z. B. innerhalb von 30 Minuten nach Erhalt der Anweisungen); (5) Zusammenstellen einer Antwort-E-Mail entsprechend den in den Anweisungen enthaltenen Details (oder Informationen) und dem Kalender des Benutzers (z. B. „Hi Gary. Mein Terminplan sagt, dass die nächste Möglichkeit für ein Treffen heute Nachmittag um 13:00 h ist.”); (6) Veranlassen des Versands der E-Mail an Gary; und (7) automatisches Löschen der Anweisungen, nachdem der Versand der E-Mail veranlasst worden ist.
Der Bedingungsknoten 410 gibt eine Bedingung an, die vor der Ausführung des angegebenen Vorgangs erfüllt sein muss. Beispielsweise kann der Benutzer der Benutzereinrichtung 104 den DA anweisen: „Wenn Barbara versucht, mich zu erreichen, schick ihr eine Wegbeschreibung nach Half Moon Bay von ihrer Wohnung, aber nur, wenn es bei ihrem Anruf in Half Moon Bay mindestens 25°C warm ist”. In diesem Fall identifiziert der Prozessor 332 für natürliche Sprache (3A) umsetzbare Absicht als die „automatisch beantwortete” umsetzbare Absicht 402 weil die Spracheingabe einen oder mehrere angegebene Absender einschließt (z. B. Barbara) sowie einen angegebenen auszuführenden Vorgang (z. B. Senden einer Wegbeschreibung). Entsprechend der Ontologie 334, schließt eine strukturierte Abfrage für die automatische Antwort-Domäne 400 Parameter ein wie z. B. {angegebener Absender 404}, {angegebener Vorgang 406}, {Details 414} und {Vorbedingung 410}. Beispielsweise führt der Task-Flow-Prozessor 342 (3A) oder eine seiner Komponenten unter Verwendung einer strukturierten Abfrage wie z. B. {automatische Antwort, angegebener Absender = Barbara, angegebener Vorgang = Wegbeschreibung senden, Details = Wegbeschreibung nach Half Moon Bay von Barbaras Wohnungsanschrift, Vorbedingung = Temperatur in Half Moon Bay bei Barbaras Kontaktversuch über 25°C} die folgenden Schritte aus: (1) Speichern der in der Spracheingabe enthaltenen Anweisungen; (2) Empfangen einer anschließend eingehenden Kommunikation (z. B. einer Textnachricht, eines Anrufs oder einer E-Mail); (3) Bestimmen, ob der Absender einer anschließend eingehenden Kommunikation der angegebene Absender ist (z. B. Barbara); (4) Bestimmen, ob die Vorbedingung beim Empfang der anschließend eingehenden Kommunikation erfüllt ist (z. B. die Temperatur in Half Moon Bay ist über 25°C); (5) Veranlassen, dass eine Wegbeschreibung von Barbaras Wohnanschrift nach Half Moon Bay an Barbara versandt wird (z. B. unter Verwendung eines standardmäßigen oder am häufigsten eingesetzten Kommunikationsmittels); und (6) automatisches Löschen der Anweisungen, nachdem der Versand der Wegbeschreibung veranlasst worden ist.
Der Knoten 412 des angegebenen Typs der eingehenden Kommunikation gibt ein Kommunikationsmittel an, durch das die anschließend eingehende Kommunikation empfangen werden muss, um den angegebenen Vorgang auszuführen. Bei einigen Ausführungsformen schließt der Knoten 412 des Typs der angegebenen eingehenden Kommunikation Unterknoten ein, die die Kommunikationsmittel identifizieren, wie z. B. SMS oder Textnachricht, Anruf, E-Mail, VoIP, Videoanruf und Ähnliches. Beispielsweise kann der Benutzer der Benutzereinrichtung 104 den DA anweisen: „Wenn eine Textnachricht von Marco eingeht, teile ihm mit, dass ich in 15 Minuten online bin”. In diesem Fall identifiziert der Prozessor 332 für natürliche Sprache (3A) umsetzbare Absicht als die „automatisch beantwortete” umsetzbare Absicht 402, weil die Spracheingabe einen oder mehrere angegebene Absender einschließt (z. B. Marco) sowie einen angegebenen auszuführenden Vorgang (z. B. Senden einer Informationsnachricht). Entsprechend der Ontologie 334 schließt eine strukturierte Abfrage für die automatische Antwort-Domäne 400 Parameter ein wie z. B. {angegebener Absender 404}, {angegebener Vorgang 406}, {Details 414} und (angegebener eingehender Kommunikationstyp 412). Beispielsweise führt der Task-Flow-Prozessor 342 (3A) oder eine seiner Komponenten unter Verwendung einer strukturierten Abfrage wie z. B. {automatische Antwort, angegebener Absender = Marco, angegebener Vorgang = Senden einer Informationsnachricht, Details = Benutzer ist in 15 Minuten online, angegebener eingehender Kommunikationstyp = SMS oder Textnachricht} die folgenden Schritte aus: (1) Speichern der in der Spracheingabe enthaltenen Anweisungen; (2) Empfangen einer anschließend eingehenden Kommunikation (z. B. einer Textnachricht, eines Anrufs oder einer E-Mail); (3) Bestimmen, ob der Absender einer anschließend eingehenden Kommunikation der angegebene Absender (e. g. Marco); (4) Bestimmen, ob die anschließend eingehende Kommunikation der angegebene eingehende Kommunikationstyp ist (z. B. eine SMS oder Textnachricht); (5) Zusammenstellen einer Antwortnachricht entsprechend den in den Anweisungen enthaltenen Details (oder Informationen) (z. B. „Hi Marco, ich bin in 15 Minuten online.”); (6) Veranlassen, dass die Informationsnachricht an Marco versandt wird (z. B. unter Verwendung eines standardmäßigen oder am häufigsten eingesetzten Kommunikationsmittels); und (7) automatisches Löschen der Anweisungen, nachdem der Versand der Informationsnachricht veranlasst worden ist.
5 gibt ein Ablaufdiagramm eines Verfahrens 500 zum Betreiben eines digitalen Assistenten gemäß einigen Ausführungsformen wieder. Bei einigen Ausführungsformen wird das Verfahren 500 an einer elektronischen Einrichtung ausgeführt, die einen oder mehrere Prozessoren und Speicher einschließt (z. B. einen entsprechenden DA-Client 102 oder DA-Server 106, 1). Bei einigen Ausführungsformen wird das Verfahren 500 an dem in 3A–3B wiedergegebenen digitalen Assistenten 326 ausgeführt. Bei einigen Ausführungsformen ist das Verfahren 500 geregelt durch eine Menge von Anweisungen, die in einem Speicher gespeichert sind (z. B. einem nichtflüchtigen computerlesbaren Speichermedium) und die durch den einen oder die mehreren Prozessor(en) der elektronischen Einrichtung ausgeführt werden.
Die elektronische Einrichtung (z. B. die Benutzereinrichtung 104) empfängt eine Spracheingabe von einem Benutzer der Benutzereinrichtung 104 (z. B. wird die Spracheingabe am I/O-Verarbeitungsmodul 328, 3A, empfangen). Beispielsweise weist der Benutzer den digitalen Assistenten (DA) an: „Wenn Christina textet, teile ihr bitte mit, dass ich gerade im Auto bin und bald ankomme”. Das I/O-Verarbeitungsmodul 328 (3A) sendet die Spracheingabe wiederum zum STT-Verarbeitungsmodul 330 (3A). Nach der Verarbeitung der Spracheingabe sendet das STT-Verarbeitungsmodul 330 (3A) eine Token-Sequenz, die die Spracheingabe wiedergibt, zum Prozessor 332 für natürliche Sprache (3A).
Der Prozessor 332 für natürliche Sprache empfängt (502) die Token-Sequenz vom STT-Verarbeitungsmodul 330 und versucht, die Token-Sequenz mit einer oder mehreren, vom digitalen Assistenten erkannten umsetzbaren Absichten zu assoziieren.
Der Prozessor 332 für natürliche Sprache bestimmt (504), ob die Spracheingabe Anweisungen enthält, um eine anschließend eingehende Kommunikation von einem oder mehreren angegebenen Absendern automatisch zu beantworten. Wenn die Anweisungen mindestens (1) einen oder mehrere angegebene Absender und (2) einen angegebenen Vorgang einschließen (z. B. eine Informationsantwort), ist der Anweisungs-Trigger ein Task-Flow, der mit der automatischen Antwort-Domäne 400 der Ontologie 334 assoziiert ist.
Bei der Bestimmung, dass die Spracheingabe keine Anweisungen zur automatischen Beantwortung einer anschließend eingehenden Kommunikation von einem oder mehreren angegebenen Absendern einschließt („Nein”-Zweig), führt der digitale Assistent (506) einen oder mehrere Prozesse aus, die mit Task-Flows assoziiert sind, die von dem mit der automatischen Antwort-Domäne 400 assoziierten Task-Flow unterschiedlich sind (z. B. die weiter oben erörterte Restaurant-Reservierungs-Domäne).
Bei der Bestimmung, dass die Spracheingabe Anweisungen enthält, um eine anschließend eingehende Kommunikation von einem oder mehreren angegebenen Absendern automatisch zu beantworten („Ja”-Zweig), bestimmt der digitale Assistent (508), ob die Anweisungen einen Ablaufzeitraum für die Anweisungen enthalten.
Bei der Bestimmung, dass die Anweisungen einen Ablaufzeitraum für die Anweisungen enthalten („Ja”-Zweig), speichert der digitale Assistent (510) den Ablaufzeitraum. Beispielsweise speichert das Anweisungsmodul 352 (3A) den Ablaufzeitraum für die Anweisungen in einem Speicher, der im Anweisungsmodul 352 enthalten oder separat davon ist.
Nach dem Speichern des Ablaufzeitraums („Ja”-Zweig) oder bei der Bestimmung, dass die Anweisungen keinen Ablaufzeitraum für die Anweisungen enthalten („Nein”-Zweig), bestimmt der digitale Assistent (512), ob die Anweisungen eine Vorbedingung für die Ausführung des angegebenen Vorgangs einschließen.
Bei der Bestimmung, dass die Anweisungen eine Vorbedingung enthalten („Ja”-Zweig), speichert der digitale Assistent (514) die Vorbedingung. Beispielsweise speichert das Anweisungsmodul 352 (3A) die Vorbedingung in einem Speicher, der im Anweisungsmodul 352 enthalten oder separat davon ist.
Nach dem Speichern der Vorbedingung („Ja”-Zweig) oder bei der Bestimmung, dass die Anweisungen keine Vorbedingung enthalten („Nein”-Zweig), bestimmt der digitale Assistent (516), ob die in der empfangenen Spracheingabe enthaltenen Anweisungen vollständig sind (d. h., ob die Anweisungen ausreichende Details oder Informationen zur Durchführung des angegebenen Vorgangs einschließen).
Bei der Bestimmung, dass die Anweisungen unvollständig sind („Nein”-Zweig) veranlasst das automatische Antwortmodul 350 (518) das Dialogfluss-Verarbeitungsmodul 340 (3A), einen Dialog mit dem Benutzer zu initiieren, um vollständige Details oder Anweisungen für die Ausführung des angegebenen Vorgangs zu erfassen. Beispielsweise kann der Benutzer den DA anweisen: „Wenn Tony anruft, sende ihm eine Mail mit dem Kinoprogramm”. Bei diesem Beispiel hat es der Benutzer versäumt, einen spezifischen Filmtitel und einen Tag oder Zeitangaben für die Vorführungen anzugeben. In diesem Fall bewirkt das automatische Antwortmodul 350, dass das Dialogfluss-Verarbeitungsmodul 340 einen Dialog mit dem Benutzer initiiert, um den Filmtitel und den Tag zu bestimmen, zu denen der Benutzer Vorführungszeiten an Tony senden möchte.
Bei der Bestimmung, dass die Anweisungen vollständig sind („Ja”-Zweig), speichert der digitale Assistent (520) die Anweisungen mindestens unter Einschluss des einen oder der mehreren Absender(s) und des angegebenen Vorgangs. Beispielsweise speichert das Anweisungsmodul 352 (3A) den einen oder die mehreren angegebenen Absender und den angegebenen Vorgang in einem Speicher, der im Anweisungsmodul 352 enthalten oder separat davon ist.
6 gibt ein Ablaufdiagramm eines Verfahrens 600 zum Betreiben eines digitalen Assistenten gemäß einigen Ausführungsformen wieder. Bei einigen Ausführungsformen wird das Verfahren 600 an einer elektronischen Einrichtung ausgeführt, die einen oder mehrere Prozessoren und Speicher einschließt (z. B. einen entsprechenden DA-Client 102 oder DA-Server 106, 1). Bei einigen Ausführungsformen wird das Verfahren 600 an dem in 3A–3B wiedergegebenen digitalen Assistenten 326 ausgeführt. Bei einigen Ausführungsformen ist das Verfahren 600 geregelt durch eine Menge von Anweisungen, die in einem Speicher gespeichert sind (z. B. einem nichtflüchtigen computerlesbaren Speichermedium) und die durch den einen oder die mehreren Prozessor(en) der elektronischen Einrichtung ausgeführt werden.
Im Anschluss an das Speichern von Anweisungen für die automatische Beantwortung einer anschließend eingehenden Kommunikation von einem oder mehreren angegebenen Absendern empfängt die elektronischen Einrichtung (z. B. die Benutzereinrichtung 104, 1) (602) eine eingehende Kommunikation von einem entsprechenden Absender. Beispielsweise ist die eingehende Kommunikation eine E-Mail oder ein Anruf, ein Videoanruf, ein VoIP-Anruf, eine SMS oder Textnachricht, eine MMS, eine Sprachnachricht oder Ähnliches.
Der digitale Assistent bestimmt (604), ob die Anweisungen zur automatischen Beantwortung einer anschließend eingehenden Kommunikation von einem oder mehreren angegebenen Absendern ausgelöst worden sind. Das automatische Antwortmodul 350 (3A) oder eine seiner Komponenten (z. B. das Bestimmungsmodul 354, 3A) bestimmt, ob der entsprechende Absender einer von dem einen oder mehreren, in den Anweisungen eingeschlossenen Absendern ist. Entsprechend der Erörterung weiter oben gibt es eine Vielzahl von Prozeduren zur Bestimmung, ob der jeweilige Absender der anschließend eingehenden Kommunikation einer von dem einen oder mehreren angegebenen Absendern ist. Bei einigen Ausführungsformen bestimmt das automatische Antwortmodul 350 (3A) oder eine seiner Komponenten (z. B. das Bestimmungsmodul 354, 3A) auch, ob die eingehende Kommunikation einer der durch die Anweisungen vorgegebenen Kommunikationstypen ist.
Bei der Bestimmung, dass die Anweisungen zur automatischen Beantwortung einer anschließend eingehenden Kommunikation von einem oder mehreren angegebenen Absendern ausgelöst worden sind, folgt das Verfahren 600 dem „Ja”-Zweig zu Schritt 612 (oder zu einem der Schritte 606 oder 608, falls die Anweisungen einen Ablaufzeitraum und/oder eine Vorbedingung enthalten, oder bei einigen Ausführungsformen zu Schritt 610). Beispielsweise ist der entsprechende Absender einer aus dem einen oder mehreren angegebenen Absendern, und in einigen Fällen verwendet die eingehende Kommunikation einen von dem einen oder mehreren angegebenen Kommunikationstypen. Bei der Bestimmung, dass die Anweisungen zur automatischen Beantwortung einer anschließend eingehenden Kommunikation von einem oder mehreren angegebenen Absendern nicht ausgelöst worden sind, folgt das Verfahren 600 dem „Nein”-Zweig zu Schritt 602, um eine andere eingehende Kommunikation zu empfangen und den Bestimmungsprozess zu wiederholen.
In einigen Ausführungsformen, wenn die Anweisungen einen Ablaufzeitraum enthalten, bestimmt (606) der digitale Assistent oder eine Komponente davon (z. B. das Bestimmungsmodul 354, 3A), ob der Ablaufzeitraum abgelaufen ist. Wenn bestimmt wird, dass der Ablaufzeitraum vor dem Empfangen der eingehenden Kommunikation abgelaufen ist, folgt das Verfahren 600 dem Zweig „Ja” zu Schritt 614, und das automatische Antwortmodul 350 (3A) oder eine Komponente davon (z. B. Anweisungsmodul 352, 3A) löscht automatisch die Anweisungen. Wenn bestimmt wird, dass der Ablaufzeitraum nicht vor dem Empfangen der eingehenden Kommunikation abgelaufen ist, folgt das Verfahren 600 dem Zweig „Nein” zu Schritt 612 (oder in einigen Ausführungsformen Schritt 608 oder 610).
In einigen Ausführungsformen, wenn die Anweisungen eine Bedingung enthalten, die der Ausführung der spezifizierten Aktion vorausgehen, bestimmt (608) der digitale Assistent oder eine Komponente davon (z. B. Bestimmungsmodul 354, 3A), ob die vorausgehende Bedingung erfüllt wurde. Wenn bestimmt wird, dass die vorausgehende Bedingung nicht vor oder bei dem Empfangen der eingehenden Kommunikation erfüllt wurde, folgt das Verfahren 600 dem Zweig „Nein” zu Schritt 602, um eine andere eingehende Kommunikation zu empfangen und den Bestimmungsvorgang zu wiederholen. Wenn bestimmt wird, dass die vorausgehende Bedingung vor oder bei dem Empfangen der eingehenden Kommunikation erfüllt wurde, folgt das Verfahren 600 dem Zweig „Ja” zu Schritt 612 (oder in einigen Ausführungsformen Schritt 610).
In einigen Ausführungsformen erstellt (610) der digitale Assistent oder eine Komponente davon (z. B. das Erstellungsmodul 356, 3A) eine benutzerdefinierte Antwort an einen jeweiligen Absender. Die benutzerdefinierte Antwort wird gemäß den Details oder Informationen, die in den Anweisungen enthalten sind, erstellt, und beruht wahlweise auf Kontextinformationen im Zusammenhang mit dem Benutzer der Benutzervorrichtung 104, 1 (z. B. Standort-, Muster- oder Verhaltensinformation oder einem Kalender oder Zeitplan im Zusammenhang mit dem Benutzer). Zum Beispiel bittet der Benutzer den digitalen Assistenten, „Wenn Swapnil versucht, mich zu erreichen, teile ihm mit, dass ich in einer Besprechung bin, und schlage ein Treffen zu einem möglichen Zeitpunkt heute Nachmittag vor.” Nachdem bestimmt wurde, dass eine nachfolgend eingehende Kommunikation von Swapnil empfangen wurde (z. B. auf der Grundlage des Adressbuchs des Benutzers), erstellt der digitale Assistent in diesem Beispiel eine Nachricht an Swapnil mit der Aussage, „Ich bin in einer Besprechung, wir können uns 16.00 Uhr treffen, um Kundenfragen zu erörtern,” und sendet eine Kalendereinladung an Swapnil für diesen Nachmittag 16.00 Uhr. In diesem Beispiel erstellt der DA die Nachricht an Swapnil mindestens teilweise auf dem Kalender oder Zeitplan des Benutzers für den Tag (z. B. Kontextinformationen).
Wenn bestimmt wird, dass die Anweisungen zu automatischen Antworten auf eine nachfolgend eingehende Kommunikation von einem oder mehreren spezifizierten Absendern ausgelöst werden, führt der digitale Assistent die spezifizierte Aktion aus (612). Zum Beispiel sendet das automatische Antwortmodul 350 (3A) oder eine Komponente davon (z. B. Ausführungsmodul 358, 3A) die benutzerdefinierte Antwort (z. B. vom Erstellungsmodul 356, 3A in Schritt 610 erstellt) an den jeweiligen Benutzer über eines von mehreren Kommunikationsmitteln. In einigen Ausführungsformen verwendet das Ausführungsmodul das gleiche Kommunikationsmittel zum Senden der benutzerdefinierten Antwort, das für die eingehende Kommunikation verwendet wurde. Zum Beispiel schließt die spezifizierte Aktion das Senden von einem von einer E-Mail, einem Telefonanruf, einem Videoanruf, einem VoIP-Anruf, einer SMS oder Textnachricht, MMS, Sprachnachricht oder Ähnlichem an den spezifizierten Absender ein.
In einigen Ausführungsformen ist das Ausführungsmodul zum Ausführen der spezifizierten Aktion ohne weitere Überprüfung oder Anweisung vom Benutzer konfiguriert. In einigen Ausführungsformen schließt das Ausführen der spezifizierten Aktion das Ausführen einer ersten Unteraktion und das Ausführen einer zweiten Unteraktion ein. Zum Beispiel bittet ein Benutzer den DA, „Wenn meine Frau anruft, teile ihr mit, dass wir uns heute Abend in Cyrano's Restaurant treffen, und schicke ihr auch eine Kalendereinladung für 19.00 Uhr mit dem Titel, Abendessen' 30 Minuten nach dem Senden des Textes.” Infolge des Empfangen eines eingehenden Telefonanrufs von der Frau des Benutzers ist das Ausführungsmodul 358 (3A) in diesem Beispiel zum Ausführen der ersten Unteraktion, die in den Anweisungen enthalten ist, konfiguriert (z. B. Senden einer Textnachricht an die Frau des Benutzers mit der Aussage „Treffen heute Abend bei Cyrano's.”). Und ferner ist in diesem Beispiel das Ausführungsmodul 358 (3A) auch zu dem Ausführen der zweiten Unteraktion, die in den Anweisungen enthalten ist, 30 Minuten nach dem Senden der Textnachricht an die Frau des Benutzers konfiguriert (z. B. Senden einer Kalendereinladung an die Frau des Benutzers mit dem Titel, Abendessen' für diesen Abend 19.00 Uhr).
In einem Beispiel antwortet das automatische Antwortmodul 350 (3A) auf einen eingehenden Telefonanruf von einem spezifizierten Absender durch Senden einer Sprachnachricht an den spezifizierten Absender, die eine Aufzeichnung der Stimme des Benutzers von der Spracheingabe, die die Anweisungen enthält, oder einer Spracheingabe, die vor dem Empfangen der Anweisungen aufgezeichnet wurde, enthält. In einem anderen Beispiel antwortet das automatische Antwortmodul 350 (3A) auf einen eingehenden Kommunikationsanruf von einem spezifizierten Absender durch Senden einer Sprachnachricht an den spezifizierten Absender, die eine digitalisierte oder Text-zu-Sprache-Version einer Texteingabe von dem Benutzer ist.
Nach dem Ausführen der spezifizierten Aktion löscht (614) die elektronische Vorrichtung automatisch die Anweisungen. Zum Beispiel löscht das automatische Antwortmodul 350 (3A) oder eine Komponente davon (z. B. das Anweisungsmodul 352, 3A) die Anweisungen, die im Speicher gespeichert sind, der im Anweisungsmodul 352 (3A) enthalten oder davon getrennt ist. In einigen Ausführungsformen löscht das Anweisungsmodul 352 (3A) automatisch einen Ablaufzeitraum und/oder eine vorausgehende Bedingung zusätzlich zu dem einen oder den mehreren spezifizierten Absendern und der spezifizierten Aktion, die in den Anweisungen enthalten sind.
Es sollte sich verstehen, dass die bestimmte Reihenfolge, in der die Vorgänge in 5–6 beschrieben wurden, lediglich beispielhaft ist und nicht angeben soll, dass die beschriebene Reihenfolge die einzige Reihenfolge ist, in der die Vorgänge ausgeführt werden könnten. Ein Fachmann erkennt verschiedene Wege um Umordnen der hierin beschriebenen Vorgänge.
Gemäß einigen Ausführungsformen zeigt 7 ein funktionelles Blockdiagramm einer elektronischen Vorrichtung 700, die gemäß den Prinzipien der verschiedenen beschriebenen Ausführungsformen konfiguriert ist. Die funktionellen Blöcke der Vorrichtung werden wahlweise durch Hardware, Software oder eine Kombination von Hardware und Software implementiert, um die Prinzipien der verschiedenen beschriebenen Ausführungsformen umzusetzen. Fachleute verstehen, dass die in 7 beschriebenen funktionellen Blöcke wahlweise kombiniert oder in Unterblöcke unterteilt werden, um die Prinzipien der verschiedenen beschriebenen Ausführungsformen zu implementieren. Deshalb unterstützt die Beschreibung hierin wahlweise jegliche mögliche Kombination oder Unterteilung oder weitere Definition der hierin beschriebenen funktionellen Blöcke.
Wie in 7 dargestellt, weist die elektronische Vorrichtung 700 eine Tonempfangseinheit 702 auf, die zum Erhalten einer Spracheingabe von einem Benutzer konfiguriert ist. In einigen Ausführungsformen weist die elektronische Vorrichtung 700 wahlweise eine Lautsprechereinheit 704, die zum Erzeugen von Ton konfiguriert ist, und eine Berührungsbildschirm-Anzeigeeinheit 706, die zum Anzeigen von Informationen und zum Empfangen einer oder mehrerer Berührungseingaben konfiguriert ist, auf. Die elektronische Vorrichtung 700 weist auch eine Verarbeitungseinheit 708 auf, die mit der Tonempfangseinheit 702 gekoppelt ist (und wahlweise mit der Lautsprechereinheit 704 und der Berührungsbildschirm-Anzeigeeinheit 706 gekoppelt ist). In einigen Ausführungsformen weist die Verarbeitungseinheit 708 eine Anweisungsbestimmungseinheit 710, eine Speichereinheit 712, eine Kommunikationserhalteinheit 714, eine Absenderermittlungseinheit 716, eine Ausführungseinheit 718, eine Löscheinheit 720, eine Kommunikationsartbestimmungseinheit 722, eine Konvertierungseinheit 724 und eine Erstellungseinheit 726 auf.
Die Verarbeitungseinheit 708 ist zu Folgendem konfiguriert: Infolge des Erhaltens der Spracheingabe Bestimmen (z. B. mit der Anweisungsbestimmungseinheit 710), ob die Spracheingabe Anweisungen zum Ausführen einer spezifizierten Aktion infolge des Empfangens einer nachfolgend eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern enthält; und Speichern (z. B. mit der Speichereinheit 712) der Anweisungen. Die Verarbeitungseinheit 708 ist auch zu Folgendem konfiguriert: Nach dem Speichern der Anweisungen Erhalten (z. B. mit der Kommunikationserhalteinheit 714) einer eingehenden Kommunikation von einem jeweiligen Absender; und Bestimmen (z. B. mit der Absenderermittlungseinheit 716), ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist. Die Verarbeitungseinheit 708 ist ferner zum Ausführen (z. B. mit der Ausführungseinheit 718) der spezifizierten Aktion gemäß den Anweisungen, wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, und danach zum automatischen Löschen (z. B. mit der Löscheinheit 720) der Anweisungen konfiguriert.
In einigen Ausführungsformen umfasst das Bestimmen, ob die Spracheingabe Anweisungen enthält, das Bestimmen (z. B. mit der Anweisungsbestimmungseinheit 710), ob die Spracheingabe Anweisungen zum Ausführen einer spezifizierten Aktion infolge des Empfangens einer oder mehrerer spezifizierter nachfolgend eingehender Kommunikationsarten von einem oder mehreren spezifizierten Absendern enthält; die Verarbeitungseinheit 708 ist zum Bestimmen (z. B. mit der Kommunikationsartbestimmungseinheit 722), ob die eingehende Kommunikation eine der einen oder mehreren spezifizierten nachfolgend eingehenden Kommunikationsarten ist, konfiguriert; und das Ausführen der spezifizierten Aktion umfasst, wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist und dass die eingehende Kommunikation eine der einen oder mehreren spezifizierten nachfolgend eingehenden Kommunikationsarten ist, das Ausführen (z. B. mit der Ausführungseinheit 718) der spezifizierten Aktion gemäß den Anweisungen und danach das automatische Löschen (z. B. mit der Löscheinheit 720) der Anweisungen.
In einigen Ausführungsformen ist eine jeweilige spezifizierte nachfolgend eingehende Kommunikationsart der einen oder mehreren spezifizierten nachfolgend eingehenden Kommunikationsarten eines von einem Telefonanruf, einer Sprachnachricht, Voicemail, einem Videoanruf, einer SMS, MMS, einem VoIP-Anruf oder einer E-Mail.
In einigen Ausführungsformen ist die eingehende Kommunikation ein Telefonanruf, und die spezifizierte Aktion ist das Senden einer Sprachnachricht.
In einigen Ausführungsformen ist mindestens ein Teil der Sprachnachricht eine Aufzeichnung der Stimme des Benutzers.
In einigen Ausführungsformen ist mindestens ein Teil der Sprachnachricht eine digitalisierte oder Text-zu-Sprache-Version von Eingabetext.
In einigen Ausführungsformen ist die Verarbeitungseinheit 708 zum Ausführen der Verarbeitung natürlicher Sprache (z. B. mit der Konvertierungseinheit 724) anhand der Spracheingabe konfiguriert, um die Spracheingabe in Text umzuwandeln, wobei ein Speichern der Anweisungen das Speichern der Anweisungen als Text umfasst.
In einigen Ausführungsformen umfasst das Ausführen der spezifizierten Aktion: Erstellen (z. B. mit der Erstellungseinheit 726) einer Antwort an den jeweiligen Absender gemäß den Anweisungen; und Übermitteln (z. B. mit der Ausführungseinheit 718) der Antwort an den Absender.
In einigen Ausführungsformen ist das Übermitteln eines von einem Telefonanruf, Voicemail, Videoanruf, einer SMS, MMS, einem VoIP-Anruf oder einer E-Mail.
In einigen Ausführungsformen wird für das Übermitteln das gleiche Kommunikationsmittel verwendet wie bei der eingehenden Kommunikation.
In einigen Ausführungsformen umfasst das Erstellen ein Erstellen (z. B. mit der Erstellungseinheit 726) der Antwort an den jeweiligen Absender gemäß den Anweisungen und mindestens teilweise auf der Grundlage von Kontextinformationen.
In einigen Ausführungsformen umfasst das Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, das Ermitteln (z. B. mit der Absenderermittlungseinheit 716), ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage einer Liste von Kontakten des Benutzers der Vorrichtung.
In einigen Ausführungsformen umfasst das Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, das Ermitteln (z. B. mit der Absenderermittlungseinheit 716), ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage einer Anrufer-ID im Zusammenhang mit dem jeweiligen Absender.
In einigen Ausführungsformen ist die Verarbeitungseinheit 708 zum Identifizieren (z. B. mit der Absenderermittlungseinheit 716) einer Adresse im Zusammenhang mit dem Absender der Kommunikation konfiguriert; und ein Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, umfasst ein Ermitteln (z. B. mit der Absenderermittlungseinheit 716), ob der Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage der Adresse im Zusammenhang mit dem jeweiligen Absender der Kommunikation.
In einigen Ausführungsformen umfasst das Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, das Ermitteln (z. B. mit der Absenderermittlungseinheit 716), ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage des Inhalts der eingehenden Kommunikation, die vom jeweiligen Absender empfangen wird.
In einigen Ausführungsformen ist die eingehende Kommunikation eines von einem Telefonanruf, einer Sprachnachricht, Voicemail, einem Videoanruf, einer SMS, MMS, einem VoIP-Anruf oder einer E-Mail.
In einigen Ausführungsformen ist die Aktion ausgewählt aus der Gruppe, bestehend aus dem: Senden einer Sprachnachricht an den Absender; Senden einer SMS an den Absender; Senden einer MMS oder einer Fotografie an den Absender; Senden einer E-Mail an den Absender; Senden einer Ereigniseinladung an den Absender; Teilen eines oder mehrerer Kalendereinträge mit dem Absender; und Teilen eines oder mehrerer benutzerdefinierter Attribute mit dem Absender.
In einigen Ausführungsformen werden das Ausführen (z. B. mit der Ausführungseinheit 718) und Löschen (z. B. mit der Löscheinheit 720) automatisch ohne weitere Überprüfung oder Anweisung vom Benutzer der elektronischen Vorrichtung 700 ausgeführt.
In einigen Ausführungsformen umfasst das Ausführen der spezifizierten Aktion: Ausführen (z. B. mit der Ausführungseinheit 718) einer ersten Unteraktion; und Ausführen (z. B. mit der Ausführungseinheit 718) einer zweiten Unteraktion, die sich von der ersten Unteraktion unterscheidet.
In einigen Ausführungsformen legen die Anweisungen ferner einen Ablaufzeitraum fest; und die Verarbeitungseinheit 708 ist zum automatischen Löschen (z. B. mit der Löscheinheit 720) der Anweisungen konfiguriert, wenn bestimmt wird, dass der jeweilige Absender keiner des einen oder der mehreren spezifizierten Absender ist und dass der Ablaufzeitraum abgelaufen ist.
In einigen Ausführungsformen ist der jeweilige Absender ein erster jeweiliger Absender; und die Verarbeitungseinheit 708 ist zu Folgendem konfiguriert: Wenn bestimmt wird, dass der erste jeweilige Absender keiner des einen oder der mehreren spezifizierten Absender ist und der Ablaufzeitraum nicht abgelaufen ist, Verzichten auf das Löschen der Anweisungen; Erhalten (z. B. mit der Kommunikationserhalteinheit 714) einer eingehenden Kommunikation von einem zweiten jeweiligen Absender, der sich vom ersten jeweiligen Absender unterscheidet; Bestimmen (z. B. mit der Absenderermittlungseinheit 716), ob der zweite jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist; und wenn bestimmt wird, dass der zweite jeweilige Absender einer der des einen oder der mehreren spezifizierten Absender ist und dass der Ablaufzeitraum nicht abgelaufen ist, Durchführen (z. B. mit der Ausführungseinheit 718) der spezifizierten Aktion gemäß den Anweisungen und danach automatisches Löschen der Anweisungen.
Die vorstehende Beschreibung wurde zum Zweck der Erläuterung in Bezug auf konkrete Ausführungsformen beschrieben. Jedoch sollen die vorstehenden veranschaulichenden Erörterungen nicht erschöpfend sein oder die offenbarten Ausführungsformen sich nicht auf die genauen offenbarten Formen beschränken. Es sind viele Modifikationen und Variationen angesichts der vorstehenden Lehren möglich. Die Ausführungsformen wurden ausgewählt und beschrieben, um die Prinzipien und praktischen Anwendungen der offenbarten Ideen am besten zu erklären, um dadurch zu ermöglichen, dass andere Fachleute diese mit verschiedenen Modifikationen, wie sie für die bestimmte vorgesehene Verwendung geeignet sind, am besten nutzen können.
Obwohl die Begriffe „erste”, „zweite” usw. hierin verwendet werden, um verschiedene Elemente zu beschreiben, sollten diese Elemente nicht durch diese Begriffe eingeschränkt werden. Diese Begriffe werden nur verwendet, um ein Element von einem anderen zu unterscheiden. Zum Beispiel könnte eine erste Spracheingabe als eine zweite Spracheingabe bezeichnet werden, und ähnlich könnte eine zweite Spracheingabe als erste Spracheingabe bezeichnet werden, ohne die Bedeutung der Beschreibung zu ändern, solange alle Stellen der „ersten Spracheingabe” konsistent umbenannt werden und alle Stellen der „zweiten Spracheingabe” konsistent umbenannt werden. Die erste Spracheingabe und die zweite Spracheingabe sind jeweils Spracheingaben, sie sind jedoch nicht dieselbe Spracheingabe.
Die hierin verwendete Terminologie dient lediglich dem Zweck des Beschreiben spezieller Ausführungsformen und soll nicht die Ansprüche beschränken. Wie in der Beschreibung der Ausführungsformen und den beiliegenden Ansprüchen verwendet, sollen die Singularformen „ein”, „eine”, „der”, „die” und „das” auch die Pluralformen einschließen, sofern es im Kontext nicht eindeutig anders angegeben ist. Es versteht sich auch, dass sich der Begriff „und/oder”, wie hier verwendet, auf jegliche und alle möglichen Kombinationen eines oder mehrerer der damit verbundenen aufgeführten Elemente bezieht und diese umfasst. Es versteht sich ferner, dass die Begriffe „umfasst” und/oder „umfassend” bei Verwendung in dieser Patentschrift das Vorhandensein genannter Merkmale, ganzer Zahlen, Schritte, Vorgänge, Elemente und/oder Komponenten angeben, jedoch das Vorhandensein oder Hinzufügen eines bzw. einer oder mehrerer anderer Merkmale, ganzer Zahlen, Schritte, Vorgänge, Elemente, Komponenten und/oder Gruppen davon nicht ausschließen.
Wie hier verwendet, kann der Begriff „wenn” als „wenn” oder „bei” oder „infolge des Bestimmens” oder „gemäß einer Bestimmung” oder „infolge des Erkennens”, dass eine genannte vorausgehende Bedingung erfüllt ist, abhängig vom Kontext, verstanden werden. Ähnlich kann die Wendung „wenn bestimmt wird, [dass eine genannte vorausgehende Bedingung erfüllt ist]” oder ”falls [eine genannte vorausgehende Bedingung erfüllt ist]” oder „wenn [eine genannte vorausgehende Bedingung erfüllt ist]” als „bei Bestimmung” oder „bei einer Bestimmung, dass” oder „infolge des Bestimmens” oder „gemäß einer Bestimmung” oder „beim Erkennen” oder „infolge des Erkennens”, dass eine genannte vorausgehende Bedingung erfüllt ist, abhängig vom Kontext, verstanden werden.

Claims

Verfahren zum Hervorrufen, dass ein digitaler Assistent automatisch auf eingehende Kommunikationen antwortet, wobei das Verfahren Folgendes umfasst: an einer oder mehreren elektronischen Vorrichtungen, die jeweils einen oder mehrere Prozessoren und Speicher aufweisen: Erhalten einer Spracheingabe von einem Benutzer; infolge des Erhalten der Spracheingabe, Bestimmen, ob die Spracheingabe Anweisungen zum Ausführen einer spezifizierten Aktion infolge des Empfangen einer nachfolgend eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern einschließt; Speichern der Anweisungen; nach dem Speichern der Anweisungen, Erhalten einer eingehenden Kommunikation von einem jeweiligen Absender; Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist; und wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, Ausführen der spezifizierten Aktion gemäß den Anweisungen und danach automatisches Löschen der Anweisungen.
Verfahren nach Anspruch 1, wobei das Bestimmen, ob die Spracheingabe Anweisungen enthält, umfasst zu bestimmen, ob die Spracheingabe Anweisungen zum Ausführen einer spezifizierten Aktion infolge des Empfangen einer oder mehrerer spezifizierter nachfolgend eingehender Kommunikationsarten von einem oder mehreren spezifizierten Absendern enthält; wobei das Verfahren umfasst zu bestimmen, ob die eingehende Kommunikation eine der einen oder mehreren spezifizierten nachfolgend eingehenden Kommunikationsarten ist; und wobei das Ausführen der spezifizierten Aktion, wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist und dass die eingehende Kommunikation eine der einen oder mehreren spezifizierten nachfolgend eingehenden Kommunikationsarten ist, das Ausführen der spezifizierten Aktion gemäß den Anweisungen und danach das automatische Löschen der Anweisungen umfasst.
Verfahren nach Anspruch 2, wobei eine jeweilige spezifizierte nachfolgend eingehende Kommunikationsart der einen oder mehreren spezifizierten nachfolgend eingehenden Kommunikationsarten eines von einem Telefonanruf, einer Sprachnachricht, Voicemail, einem Videoanruf, einer SMS, MMS, einem VoIP-Anruf oder einer E-Mail ist.
Verfahren nach einem der Ansprüche 1–3, wobei die eingehende Kommunikation ein Telefonanruf ist und wobei die spezifizierte Aktion das Senden einer Sprachnachricht ist.
Verfahren nach Anspruch 4, wobei mindestens ein Teil der Sprachnachricht eine Aufzeichnung der Stimme des Benutzers ist.
Verfahren nach einem der Ansprüche 4–5, wobei mindestens ein Teil der Sprachnachricht eine digitalisierte oder Text-zu-Sprache-Version von Eingabetext ist.
Verfahren nach einem der Ansprüche 1–6, umfassend das Ausführen von Verarbeitung natürlicher Sprache an der Spracheingabe, um die Spracheingabe in Text umzuwandeln, wobei das Speichern der Anweisungen das Speichern der Anweisungen als Text umfasst.
Verfahren nach einem der Ansprüche 1–3 und 7, wobei das Ausführen der spezifizierten Aktion Folgendes umfasst: Erstellen einer Antwort an den jeweiligen Absender gemäß den Anweisungen; und Übermitteln der Antwort an den Absender.
Verfahren nach Anspruch 8, wobei die Übermittlung eines von einem Telefonanruf, einer Voicemail, einem Videoanruf, einer SMS, MMS, einem VoIP-Anruf oder einer E-Mail ist.
Verfahren nach einem der Ansprüche 8–9, wobei für das Übermitteln das gleiche Kommunikationsmittel verwendet wird wie die eingehende Kommunikation.
Verfahren nach einem der Ansprüche 8–10, wobei das Erstellen ein Erstellen der Antwort an den jeweiligen Absender gemäß den Anweisungen und mindestens teilweise auf der Grundlage von Kontextinformationen umfasst.
Verfahren nach Anspruch 11, wobei die Kontextinformationen eine oder mehrere Standortinformationen, Musterinformationen oder Verhaltensinformationen im Zusammenhang mit dem Benutzer umfasst.
Verfahren nach einem der Ansprüche 1–12, wobei das Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, das Ermitteln, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage einer Liste von Kontakten des Benutzers der Vorrichtung umfasst.
Verfahren nach einem der Ansprüche 1–12, wobei das Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, das Ermitteln, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage der Anrufer-ID im Zusammenhang mit dem jeweiligen Absender umfasst.
Verfahren nach einem der Ansprüche 1–12, umfassend das Identifizieren einer Adresse im Zusammenhang mit dem Absender der Kommunikation; und wobei ein Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, ein Ermitteln, ob der Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage der Adresse im Zusammenhang mit dem jeweiligen Absender der Kommunikation umfasst.
Verfahren nach einem der Ansprüche 1–12, wobei das Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, das Ermitteln, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage des Inhalts der eingehenden Kommunikation, die vom jeweiligen Absender empfangen wird, umfasst.
Verfahren nach einem der Ansprüche 1–3 und 7–16, wobei die eingehende Kommunikation eines von einem Telefonanruf, einer Sprachnachricht, einer Voicemail, einem Videoanruf, einer SMS, MMS, einem VoIP-Anruf oder einer E-Mail ist.
Verfahren nach einem der Ansprüche 1–3 und 7–16, wobei die Aktion ausgewählt ist aus der Gruppe bestehend aus: Senden einer Sprachnachricht an den Absender; Senden einer SMS an den Absender; Senden einer MMS oder einer Fotografie an den Absender; Senden einer E-Mail an den Absender; Senden einer Ereigniseinladung an den Absender; Teilen eines oder mehrerer Kalendereinträge mit dem Absender; und Teilen eines oder mehrerer benutzerdefinierter Attribute mit dem Absender.
Verfahren nach einem der Ansprüche 1–18, wobei das Ausführen und Löschen automatisch ohne weitere Überprüfung oder Anweisung von dem Benutzer der Vorrichtung ausgeführt werden.
Verfahren nach einem der Ansprüche 1–19, wobei das Ausführen der spezifizierten Aktion Folgendes umfasst: Ausführen einer ersten Unteraktion; und Ausführen einer zweiten Unteraktion, die sich von der ersten Unteraktion unterscheidet.
Verfahren nach einem der Ansprüche 1–20, wobei die Anweisungen ferner einen Ablaufzeitraum festlegen; und wobei das Verfahren, wenn bestimmt wird, dass der jeweilige Absender keiner des einen oder der mehreren spezifizierten Absender ist und dass der Ablaufzeitraum abgelaufen ist, automatisches Löschen der Anweisungen umfasst.
Verfahren nach Anspruch 21, wobei der jeweilige Absender ein erster jeweiliger Absender ist; und wobei das Verfahren Folgendes umfasst: wenn bestimmt wird, dass der erste jeweilige Absender keiner des einen oder der mehreren spezifizierten Absender ist und der Ablaufzeitraum nicht abgelaufen ist, Verzichten auf das Löschen der Anweisungen; Erhalten einer eingehenden Kommunikation von einem zweiten jeweiligen Absender, der sich vom ersten jeweiligen Absender unterscheidet; Bestimmen, ob der zweite jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist; und wenn bestimmt wird, dass der zweite jeweilige Absender einer der des einen oder der mehreren spezifizierten Absender ist und dass der Ablaufzeitraum nicht abgelaufen ist, Durchführen der spezifizierten Aktion gemäß den Anweisungen und danach automatisches Löschen der Anweisungen.
Nichttransitorisches computerlesbares Speichermedium, das ein oder mehrere Programme speichert, wobei das eine oder die mehreren Programme Anweisungen zum Bedienen eines digitalen Assistent umfassen, die, wenn sie von einer elektronischen Vorrichtung mit einem oder mehreren Prozessoren ausgeführt werden, hervorrufen, dass die Vorrichtung Vorgänge ausführt, die Folgendes umfassen: Erhalten einer Spracheingabe von einem Benutzer; infolge des Erhaltens der Spracheingabe Bestimmen, ob die Spracheingabe Anweisungen zum Ausführen einer spezifizierten Aktion infolge des Empfangens einer nachfolgend eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern einschließt; nach dem Speichern der Anweisungen Erhalten einer eingehenden Kommunikation von einem jeweiligen Absender; Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist; und wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, Ausführen der spezifizierten Aktion gemäß den Anweisungen und danach automatisches Löschen der Anweisungen.
Nichttransitorisches computerlesbares Speichermedium, das ein oder mehrere Programme speichert, wobei das eine oder die mehreren Programme Anweisungen umfassen, die, wenn sie von einer elektronischen Vorrichtung mit einem oder mehreren Prozessoren ausgeführt werden, hervorrufen, dass die Vorrichtung ein beliebiges der Verfahren nach Ansprüchen 1–22 ausführt.
Elektronische Vorrichtung, umfassend: einen oder mehrere Prozessoren; und Speicher, der Anweisungen zum Bedienen eines digitalen Assistenten speichert, wobei die Anweisungen, wenn sie von dem einen oder den mehreren Prozessoren ausgeführt werden, verursachen, dass die Prozessoren Vorgänge ausführen, umfassend: Erhalten einer Spracheingabe von einem Benutzer; infolge des Erhaltens der Spracheingabe, Bestimmen, ob die Spracheingabe Anweisungen zum Ausführen einer spezifizierten Aktion infolge des Empfangens einer nachfolgend eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern einschließt; nach dem Speichern der Anweisungen, Erhalten einer eingehenden Kommunikation von einem jeweiligen Absender; Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist; und wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, Ausführen der spezifizierten Aktion gemäß den Anweisungen und danach automatisches Löschen der Anweisungen.
Elektronische Vorrichtung, umfassend einen oder mehrere Prozessoren und Speicher, der ein oder mehrere Programme zum Ausführen durch den einen oder die mehreren Prozessoren speichert, wobei das eine oder die mehreren Programme Anweisungen zu dem Ausführen eines beliebigen Verfahrens nach den Ansprüchen 1–22 einschließen.
Elektronische Vorrichtung, umfassend: Mittel zum Erhalten einer Spracheingabe von einem Benutzer; Mittel, infolge des Erhaltens der Spracheingabe, zum Bestimmen, ob die Spracheingabe Anweisungen zu dem Ausführen einer spezifizierten Aktion infolge des Empfangens einer nachfolgend eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern einschließt; nach dem Speichern der Anweisungen aktivierte Mittel zum Erhalten einer eingehenden Kommunikation von einem jeweiligen Absender; Mittel zum Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist; und Mittel, die aktiviert werden, wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, zum Ausführen der spezifizierten Aktion gemäß den Anweisungen und danach automatisches Löschen der Anweisungen.
Elektronische Vorrichtung, die Mittel zum Ausführen jedes der Verfahren nach den Ansprüchen 1–22 umfasst.
Informationsverarbeitungsvorrichtung zum Gebrauch in einer elektronischen Vorrichtung, umfassend: Mittel zum Erhalten einer Spracheingabe von einem Benutzer; Mittel, infolge des Erhaltens der Spracheingabe, zum Bestimmen, ob die Spracheingabe Anweisungen zum Ausführen einer spezifizierten Aktion infolge des Empfangens einer nachfolgend eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern einschließt; nach dem Speichern der Anweisungen aktivierte Mittel zum Erhalten einer eingehenden Kommunikation von einem jeweiligen Absender; Mittel zum Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist; und Mittel, die aktiviert werden, wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, zum Ausführen der spezifizierten Aktion gemäß den Anweisungen und danach automatisches Löschen der Anweisungen.
Informationsverarbeitungsvorrichtung zum Gebrauch in einer elektronischen Vorrichtung, die Mittel zum Ausführen jedes der Verfahren nach den Ansprüchen 1–22 umfasst.
Grafische Benutzerschnittstelle an einer elektronischen Vorrichtung mit einer Anzeige, einem Speicher und einem oder mehreren Prozessoren zum Ausführen eines oder mehrerer Programme, die in dem Speicher gespeichert sind, wobei die grafische Benutzerschnittstelle Benutzerschnittstellen umfasst, die gemäß der Verfahren nach den Ansprüchen 1–22 angezeigt werden.
Elektronische Vorrichtung, umfassend: eine Tonempfangseinheit, die zum Erhalten einer Spracheingabe von einem Benutzer konfiguriert ist; und eine Verarbeitungseinheit, die mit der Tonempfangseinheit gekoppelt ist, wobei die Verarbeitungseinheit zu Folgendem konfiguriert ist: infolge des Erhaltens der Spracheingabe Bestimmen, ob die Spracheingabe Anweisungen zum Ausführen einer spezifizierten Aktion infolge des Empfangen einer nachfolgend eingehenden Kommunikation von einem oder mehreren spezifizierten Absendern einschließt; nach dem Speichern der Anweisungen Erhalten einer eingehenden Kommunikation von einem jeweiligen Absender; Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist; und wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, Ausführen der spezifizierten Aktion gemäß den Anweisungen und danach automatisches Löschen der Anweisungen.
Elektronische Vorrichtung nach Anspruch 32, wobei das Bestimmen, ob die Spracheingabe Anweisungen enthält, umfasst zu bestimmen, ob die Spracheingabe Anweisungen zum Ausführen einer spezifizierten Aktion infolge des Empfangens einer oder mehrerer spezifizierter nachfolgend eingehender Kommunikationsarten von einem oder mehreren spezifizierten Absendern enthält; wobei die Verarbeitungseinheit zum Bestimmen, ob die eingehende Kommunikation eine der einen oder mehreren spezifizierten nachfolgend eingehenden Kommunikationsarten ist, konfiguriert ist; und wobei das Ausführen der spezifizierten Aktion, wenn bestimmt wird, dass der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist und dass die eingehende Kommunikation eine der einen oder mehreren spezifizierten nachfolgend eingehenden Kommunikationsarten ist, das Ausführen der spezifizierten Aktion gemäß den Anweisungen und danach das automatische Löschen der Anweisungen umfasst.
Elektronische Vorrichtung nach Anspruch 33, wobei eine jeweilige spezifizierte nachfolgend eingehende Kommunikationsart der einen oder mehreren spezifizierten nachfolgend eingehenden Kommunikationsarten eines von einem Telefonanruf, einer Sprachnachricht, Voicemail, einem Videoanruf, einer SMS, MMS, einem VoIP-Anruf oder einer E-Mail ist.
Elektronische Vorrichtung nach einem der Ansprüche 32–34, wobei die eingehende Kommunikation ein Telefonanruf ist und wobei die spezifizierte Aktion das Senden einer Sprachnachricht ist.
Elektronische Vorrichtung nach Anspruch 35, wobei mindestens ein Teil der Sprachnachricht eine Aufzeichnung der Stimme des Benutzers ist.
Elektronische Vorrichtung nach einem der Ansprüche 35–36, wobei mindestens ein Teil der Sprachnachricht eine digitalisierte oder Text-zu-Sprache-Version von Eingabetext ist.
Elektronische Vorrichtung nach einem der Ansprüche 32–37, wobei die Verarbeitungseinheit zum Durchführen von Verarbeitung natürlicher Sprache an der Spracheingabe konfiguriert ist, um die Spracheingabe in Text umzuwandeln, und wobei das Speichern der Anweisungen das Speichern der Anweisungen als Text umfasst.
Elektronische Vorrichtung nach einem der Ansprüche 32–34 und 38, wobei das Ausführen der spezifizierten Aktion Folgendes umfasst: Erstellen einer Antwort an den jeweiligen Absender gemäß den Anweisungen; und Übermitteln der Antwort an den Absender.
Elektronische Vorrichtung nach Anspruch 39, wobei die Übermittlung eines von einem Telefonanruf, einer Voicemail, einem Videoanruf, einer SMS, MMS, einem VoIP-Anruf oder einer E-Mail ist.
Elektronische Vorrichtung nach einem der Ansprüche 39–40, wobei für das Übermitteln das gleiche Kommunikationsmittel verwendet wird wie für die eingehende Kommunikation.
Elektronische Vorrichtung nach einem der Ansprüche 39–41, wobei das Erstellen ein Erstellen der Antwort an den jeweiligen Absender gemäß den Anweisungen und mindestens teilweise auf der Grundlage von Kontextinformationen umfasst.
Elektronische Vorrichtung nach Anspruch 42, wobei die Kontextinformationen eine oder mehrere Standortinformationen, Musterinformationen oder Verhaltensinformationen im Zusammenhang mit dem Benutzer umfasst.
Elektronische Vorrichtung nach einem der Ansprüche 32–43, wobei das Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, das Ermitteln, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage einer Liste von Kontakten des Benutzers der Vorrichtung umfasst.
Elektronische Vorrichtung nach einem der Ansprüche 32–43, wobei das Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, das Ermitteln, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage der Anrufer-ID im Zusammenhang mit dem jeweiligen Absender umfasst.
Elektronische Vorrichtung nach einem der Ansprüche 32–43, wobei die Verarbeitungseinheit zum Identifizieren einer Adresse im Zusammenhang mit dem Absender der Kommunikation konfiguriert ist; und wobei ein Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, ein Ermitteln, ob der Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage der Adresse im Zusammenhang mit dem jeweiligen Absender der Kommunikation umfasst.
Elektronische Vorrichtung nach einem der Ansprüche 32–43, wobei das Bestimmen, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, das Ermitteln, ob der jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist, auf der Grundlage des Inhalts der eingehenden Kommunikation, die vom jeweiligen Absender empfangen wird, umfasst.
Elektronische Vorrichtung nach einem der Ansprüche 32–34 und 38–47, wobei die eingehende Kommunikation eines von einem Telefonanruf, einer Sprachnachricht, einer Voicemail, einem Videoanruf, einer SMS, MMS, einem VoIP-Anruf oder einer E-Mail ist.
Elektronische Vorrichtung nach einem der Ansprüche 32–34 und 38–47, wobei die Aktion ausgewählt ist aus der Gruppe bestehend aus: Senden einer Sprachnachricht an den Absender; Senden einer SMS an den Absender; Senden einer MMS oder einer Fotografie an den Absender; Senden einer E-Mail an den Absender; Senden einer Ereigniseinladung an den Absender; Teilen eines oder mehrerer Kalendereinträge mit dem Absender; und Teilen eines oder mehrerer benutzerdefinierter Attribute mit dem Absender.
Elektronische Vorrichtung nach einem der Ansprüche 32–49, wobei das Ausführen und das Löschen automatisch ohne weitere Überprüfung oder Anweisung vom Benutzer der Vorrichtung ausgeführt werden.
Elektronische Vorrichtung nach einem der Ansprüche 32–50, wobei das Ausführen der spezifizierten Aktion Folgendes umfasst: Ausführen einer ersten Unteraktion; und Ausführen einer zweiten Unteraktion, die sich von der ersten Unteraktion unterscheidet.
Elektronische Vorrichtung nach einem der Ansprüche 32–51, wobei die Anweisungen ferner einen Ablaufzeitraum festlegen; und wobei das Verfahren, wenn bestimmt wird, dass der jeweilige Absender keiner des einen oder der mehreren spezifizierten Absender ist und dass der Ablaufzeitraum abgelaufen ist, automatisches Löschen der Anweisungen umfasst.
Elektronische Vorrichtung nach Anspruch 52, wobei der jeweilige Absender ein erster jeweiliger Absender ist; und die Verarbeitungseinheit zu Folgendem konfiguriert ist: Wenn bestimmt wird, dass der erste jeweilige Absender keiner des einen oder der mehreren spezifizierten Absender ist und der Ablaufzeitraum nicht abgelaufen ist, Verzichten auf das Löschen der Anweisungen; Erhalten einer eingehenden Kommunikation von einem zweiten jeweiligen Absender, der sich vom ersten jeweiligen Absender unterscheidet; Bestimmen, ob der zweite jeweilige Absender einer des einen oder der mehreren spezifizierten Absender ist; und wenn bestimmt wird, dass der zweite jeweilige Absender einer der des einen oder der mehreren spezifizierten Absender ist und dass der Ablaufzeitraum nicht abgelaufen ist, Durchführen der spezifizierten Aktion gemäß den Anweisungen und danach automatisches Löschen der Anweisungen.