JP2015122104A - バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用 - Google Patents

バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用 Download PDF

Info

Publication number
JP2015122104A
JP2015122104A JP2015025813A JP2015025813A JP2015122104A JP 2015122104 A JP2015122104 A JP 2015122104A JP 2015025813 A JP2015025813 A JP 2015025813A JP 2015025813 A JP2015025813 A JP 2015025813A JP 2015122104 A JP2015122104 A JP 2015122104A
Authority
JP
Japan
Prior art keywords
user
context
input
context information
task
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015025813A
Other languages
English (en)
Other versions
JP6285883B2 (ja
Inventor
ロバート グルーバー トーマス
Robert Gruber Thomas
ロバート グルーバー トーマス
ディーン ブリガム クリストファー
Dean Brigham Christopher
ディーン ブリガム クリストファー
エス キーン ダニエル
S Keen Daniel
エス キーン ダニエル
ノヴィック グレゴリー
Novick Gregory
ノヴィック グレゴリー
エス フィップス ベンジャミン
S Phipps Benjamin
エス フィップス ベンジャミン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US13/250,854 external-priority patent/US9858925B2/en
Application filed by Apple Inc filed Critical Apple Inc
Publication of JP2015122104A publication Critical patent/JP2015122104A/ja
Application granted granted Critical
Publication of JP6285883B2 publication Critical patent/JP6285883B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • G10L15/183Speech classification or search using natural language modelling using context dependencies, e.g. language models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • G10L15/1822Parsing for meaning understanding
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0381Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • G10L2015/227Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of the speaker; Human-factor methodology
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • G10L2015/228Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of application context

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Artificial Intelligence (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Software Systems (AREA)
  • Machine Translation (AREA)
  • Digital Computer Display Output (AREA)
  • Input From Keyboards Or The Like (AREA)

Abstract

【課題】バーチャルアシスタントに与えられるコマンドの解釈及び処理を改善するためのメカニズムを提供する。
【解決手段】バーチャルアシスタントは、コンテクスト情報を使用して、ユーザからの自然言語又はジェスチャー入力を補足する。コンテクストは、ユーザの意図を明確にし、ユーザ入力の解釈の候補数を減少し、そしてユーザが非常に明瞭な入力を与える必要性を緩和する上で助けとなる。コンテクストは、明確なユーザ入力を補足して情報処理問題を制限し及び/又は結果を個人化するためにアシスタントにより使用できる利用可能な情報を含む。コンテクストは、例えば、スピーチ認識、自然言語処理、タスクフロー処理及びダイアログ発生を含めて、種々の処理段階中に解答を制限するのに使用できる。
【選択図】図2

Description

本発明は、一般的に、バーチャルアシスタントに関し、より特定すれば、そのようなアシスタントに与えられるコマンドの解釈及び処理を改善するためのメカニズムに関する。
(関連出願の相互参照)
本出願は、2009年6月5日に出願された“Contextual Voice Commands”と題する米国実用特許出願第12/479,477号、代理人整理番号P7393US1、の一部継続出願として優先権を主張するものであり、その全ての開示が参考としてここに援用される。
本出願は、更に、2011年1月10日に出願された“Intelligent Automated Assistant”と題する米国実用特許出願第12/987,982号、代理人整理番号P10575US1、の一部継続出願として優先権を主張するものであり、その全ての開示が参考としてここに援用される。
米国実用特許出願第12/987,982号は、2010年1月18日に出願された“Intelligent Automated Assistant”と題する米国仮特許出願第61/295,774号、代理人整理番号SIRIP003P、から優先権を主張するものであり、その全ての開示が参考としてここに援用される。
本出願は、更に、2011年6月3日に出願された“Generating and Processing Data Items That Represent Tasks to Perform”と題する米国仮特許出願第61/493,201号、代理人整理番号P11337P1、から優先権を主張するものであり、その全ての開示が参考としてここに援用される。
本出願は、本出願と同日に出願された“Generating and Processing Data Items That Represent Tasks to Perform”と題する米国実用特許出願、代理人整理番号P11337US1、に関するものであり、その全ての開示が参考としてここに援用される。
本出願は、本出願と同日に出願された“Automatically Adapting User Interfaces for Hands-Free Interaction”と題する米国実用特許出願、代理人整理番号P11357US1、に関するものであり、その全ての開示が参考としてここに援用される。
今日の電子装置は、大きな、成長するそして様々な量のファンクション、サービス及び情報に、インターネットを経て及び他のソースから、アクセスすることができる。そのような装置のファンクションは、急速に増加している。というのは、多くの消費者用装置、スマートホン、タブレットコンピュータ、等がソフトウェアアプリケーションを実行して、種々のタスクを遂行し、そして異なる形式の情報を提供することができるからである。多くの場合、各アプリケーション、ファンクション、ウェブサイト又は特徴は、それ自身のユーザインターフェイス及びそれ自身の動作パラダイムを有し、その多くは、ユーザにとって学習し又は圧倒することが難儀である。加えて、多くのユーザは、自分の電子装置又は種々のウェブサイトにおいて、どんなファンクション及び/又は情報を利用できるか発見することも困難であり、従って、そのようなユーザは、挫折し又は圧倒されるか、或いは利用可能なリソースを単に有効に使用できないかである。
特に、初心者ユーザ、障害者又は何かができない者、及び/又は年配者、多忙者、気が散った者、及び/又は乗物の運転者は、自分の電子装置に効果的にインターフェイスしたり、及び/又はオンラインサービスに効果的に関与したりすることが困難である。特に、そのようなユーザは、おそらく、利用可能な非常に多数の様々な、一貫性のないファンクション、アプリケーション及びウェブサイトでの問題を抱えることになろう。
従って、既存のシステムは、多くの場合に、使用及び操縦が困難であると共に、多くの場合に、一貫性のない、どうしようもないインターフェイスをユーザにもたらし、多くの場合に、ユーザが技術を有効利用するのを妨げる。
ここでバーチャルアシスタントとも称されるインテリジェントな自動アシスタントは、人間とコンピュータとの間の改良されたインターフェイスを提供することができる。全ての開示を参考としてここに援用する2011年1月10日に出願された“Intelligent Automated Assistant”と題する米国実用特許出願第12/987,982号、代理人整理番号P10575US1、に説明されたように具現化できるそのようなアシスタントは、口頭及び/又はテキスト形態での自然言語を使用してユーザが装置又はシステムと対話できるようにする。そのようなアシスタントは、ユーザの入力を解釈し、ユーザの意図を、タスク及びタスクに対するパラメータへと運用し、それらのタスクをサポートするためのサービスを実行し、そしてユーザに理解できる出力を発生する。
バーチャルアシスタントは、例えば、知識ベース、モデル及び/又はデータを含めて、ユーザ入力を処理するための多数の情報ソースのいずれかを引き出すことができる。多くのケースでは、ユーザの入力だけでは、ユーザの意図及び遂行すべきタスクを明確に定義することが充分でない。これは、入力ストリームにおけるノイズ、ユーザ間の個人差、及び/又は自然言語の固有の曖昧さによるものである。例えば、電話に対するテキストメッセージングアプリケーションのユーザは、バーチャルアシスタントを呼び出して、コマンド「彼女にコールする(call her)」と言う。このようなコマンドは、完全に正当な英語であるが、その要求に対する解釈及び考えられる解答が多数あるので、正確な実行可能なステートメントではない。従って、更に情報がないと、バーチャルアシスタントは、そのような入力を正しく解釈して処理することができない。この種の曖昧さがエラーを招き、誤ったアクションが遂行され、及び/又は入力を明瞭化するための要求でユーザに著しい負担を掛ける。
本発明の種々の実施形態によれば、バーチャルアシスタントは、コンテクスト情報(ここでは「コンテクスト」とも称される)を使用して、ユーザからの自然言語又はジェスチャー入力を補足する。これは、ユーザの意図を明確にし、ユーザ入力の解釈の候補数を減少し、そしてユーザが非常に明瞭な入力を与える必要性を緩和する上で助けとなる。コンテクストは、明確なユーザ入力を補足して情報処理問題を制限し及び/又は結果を個人化するためにアシスタントにより使用できる利用可能な情報を含む。例えば、ユーザからの入力が代名詞(コマンド“call her”(彼女にコールする)の“her”(彼女)のような)を含む場合には、バーチャルアシスタントは、コンテクストを使用して、代名詞の参照先を推測し、例えば、電話を受ける個人のアイデンティティ及び/又は使用する電話番号を確認する。コンテクストの他の使用については、以下に述べる。
本発明の種々の実施形態によれば、電子装置で実施されるバーチャルアシスタントにおいて計算を遂行するためにコンテクスト情報を取得して適用する多数のメカニズムを実施することができる。種々の実施形態において、バーチャルアシスタントは、全ての開示を参考としてここに援用する2011年1月10日に出願された“Intelligent Automated Assistant”と題する米国実用特許出願第12/987,982号、代理人整理番号P10575US1、に説明されたインテリジェント自動アシスタントである。このようなアシスタントは、自然言語ダイアログを使用する一体的な会話形態でユーザに関わり、適時に外部サービスを呼び出して、情報を得るか又は種々のアクションを遂行する。ここに述べる技術によれば、コンテクスト情報は、そのようなアシスタントにおいて、例えば、スピーチ認識、自然言語処理、タスクフロー処理、及びダイアログ発生のような情報処理ファンクションを遂行するときに曖昧さを減少するように使用される。
本発明の種々の実施形態によれば、バーチャルアシスタントは、コンテクストを使用して、種々の異なる形式のオペレーション、ファンクション、及び/又は特徴を遂行し、及び/又はそれがインストールされた電子装置の複数の特徴、オペレーション及びアプリケーションを結合するように構成され、設計され、及び/又は動作することができる。ある実施形態では、本発明のバーチャルアシスタントは、ユーザから入力を能動的に引き出し、ユーザの意図を解釈し、競合する解釈の中を明瞭化し、必要に応じて明瞭化情報を要求し及び受け取り、及び/又は見分けられた意図に基づきアクションを遂行(又は開始)する、ことのいずれか又は全部を遂行するときに、コンテクストを使用することができる。
アクションは、例えば、電子装置で利用できるアプリケーション又はサービス、並びにインターネットのような電子的ネットワークを経て利用できるサービス、をアクチベートし、及び/又はそれとインターフェイスすることにより、遂行される。種々の実施形態において、外部サービスのそのようなアクチベーションは、アプリケーションプログラミングインターフェイス(API)を経て又は他の適当なメカニズムにより遂行される。このように、本発明の種々の実施形態により実施されるバーチャルアシスタントは、電子装置の多数の異なるアプリケーション及びファンクションに関して、並びにインターネットを経て利用できるサービスに関してユーザの経験を統合し、簡単化し、そして改善することができる。従って、ユーザは、装置及びウェブ接続サービスにおいてどんな機能を利用できるか、自分の希望を達成するためにそのようなサービスとどのようにインターフェイスするか、及びそのようなサービスから受け取った出力をどのように解釈するかについて、学習する負担が軽減され、むしろ、本発明のアシスタントは、ユーザとそのような種々のサービスとの間の媒介者として働くことができる。
加えて、種々の実施形態において、本発明のバーチャルアシスタントは、従来のグラフィックユーザインターフェイスより直感的に且つ負担なくユーザが見出せる会話インターフェイスを提供する。ユーザは、例えば、スピーチ、グラフィックユーザインターフェイス(ボタン及びリンク)、テキストエントリ、等の多数の入手可能な入力及び出力メカニズムのいずれかを使用してアシスタントと会話ダイアログの形態で関与することができる。システムは、装置API、ウェブ、e−メール、等、又はその組み合わせのような多数の異なるプラットホームのいずれかを使用して実施される。追加入力の要求がそのような会話のコンテクストでユーザに与えられる。以前のイベント、及び所与のセッション内の通信、並びにユーザに関する履歴的及びプロフィール情報が与えられると、ユーザ入力を適切なコンテクストで解釈できるように短期及び長期メモリが関与される。
更に、種々の実施形態において、装置の特徴、オペレーション又はアプリケーションとのユーザ対話から導出されたコンテクスト情報を使用して、装置又は他の装置の他の特徴、オペレーション又はアプリケーションを合理化することができる。例えば、バーチャルアシスタントは、(コールされた個人のような)電話コールのコンテクストを使用して、テキストメッセージの開始を合理化する(例えば、ユーザがテキストメッセージの受信者を明確に特定する必要なく、テキストメッセージを同じ個人に送信すべきであると決定する)ことができる。従って、本発明のバーチャルアシスタントは、“send him a text message”(彼にテキストメッセージを送信する)というインストラクションを解釈することができ、ここで、“him”(彼)は、現在電話コール、及び/又は装置の特徴、オペレーション又はアプリケーションから導出されるコンテクスト情報に基づいて解釈される。種々の実施形態において、バーチャルアシスタントは、種々の形式の利用可能なコンテクスト情報を考慮に入れて、どのアドレス帳の連絡先を使用すべきか、どの連絡先データを使用すべきか、どの電話番号を連絡先として使用すべきか、等を決定し、ユーザが、そのような情報を手で再指定する必要がないようにする。
コンテクスト情報ソースは、例えば、これに限定されないが、アシスタントへのインターフェイスとして使用される装置の現在状態、例えば、現在時間、位置、アプリケーション、又はデータオブジェクト;パーソナルデータ、例えば、ユーザのアドレス帳、カレンダー、及びアプリケーション使用履歴;並びにユーザとバーチャルアシスタントとの間のダイアログの状態、例えば、最近言及された人々及び/又は場所、を含む。
コンテクストは、バーチャルアシスタントの動作において種々の計算及び推測に適用される。例えば、コンテクストは、ユーザ入力が処理されるときに、曖昧さを減少するか、さもなければ、解答の数を制限するのに使用される。従って、コンテクストは、例えば、これに限定されないが、次のものを含めて、種々の処理段階中の解答を制限するのに使用される。
スピーチ認識:ボイス入力を受け取り、そしてその解釈の候補を、例えば、「彼女にコールする(call her)」、「カラー(collar)」及び「ハーブにコールする(call Herb)」というテキストで発生する。コンテクストを使用して、スピーチ認識モジュールによりどのワード及びフレーズが考慮されるか、それらがどのようにランクされるか、そしてどれが考慮のためのスレッシュホールドより高いとして受け容れられるかについて、制限することができる。例えば、ユーザのアドレス帳は、アザーワイズ・ランゲッジ・ジェネラル・モデル・オブ・スピーチ(otherwise language-general model of speech)に個人名を追加して、それらの名前を認識できるようにし、プライオリティを与えることができる。
自然言語処理:テキストをパーズし、そしてワードをシンタクティック及びセマンティックロールに関連付け、例えば、ユーザ入力が代名詞「彼女(her)」で指された個人へ電話コールをしようとしていると決定し、そしてその個人のための特定のデータ表現を見出す。例えば、テキストメッセージングアプリケーションのコンテクストは、「彼女(her)」の解釈を「私がテキストで会話している個人(the person with whom I am conversing in text」を意味するように制限する上で助けとなる。
タスクフロー処理:ユーザタスク、タスクステップ、及びタスクでアシストするのに使用されるタスクパラメータ、例えば、「彼女(her)」と称される個人に対してどの電話番号を使用するか、識別する。この場合も、テキストメッセージングアプリケーションのコンテクストは、電話番号の解釈を、テキストメッセージング会話に対して現在又は最近使用された番号をシステムが使用しなければならないことを指示するように制限することができる。
ダイアログ発生:例えば、ユーザの意図を「OK、私は、レベッカに彼女の電話でコールする・・・(OK, I’ll call Rebecca on her mobile…)」という応答で言い換えるために、タスクに関するユーザとの会話の一部分としてアシスタント応答を発生する。冗舌及び非公式トーンのレベルは、コンテクスト情報により案内できる選択である。
種々の実施形態において、本発明のバーチャルアシスタントは、電子装置の種々の特徴及びオペレーションをコントロールすることができる。例えば、バーチャルアシスタントは、APIを経て又は他の手段により装置のファンクション及びアプリケーションとインターフェイスするサービスをコールし、もしそうでなければ装置の従来のユーザインターフェイスを使用して開始されるファンクション及びオペレーションを遂行することができる。そのようなファンクション及びオペレーションは、例えば、アラームをセットし、電話コールを実行し、テキストメッセージ又はe−メールメッセージを送信し、カレンダーイベントを追加し、等々を含む。そのようなファンクション及びオペレーションは、ユーザとアシスタントとの間の会話ダイアログのコンテクストにおいてアドオンファンクションとして遂行される。そのようなファンクション及びオペレーションは、ダイアログのようなコンテクストにおいてユーザにより指定されるか、又はダイアログのコンテクストに基づいて自動的に遂行される。従って、当業者であれば、アシスタントは、電子装置における種々のオペレーションを開始し及びコントロールするためのコントロールメカニズムとして使用され、このメカニズムは、ボタン又はグラフィックユーザインターフェイスのような従来のメカニズムに代わるものとして使用されることが明らかであろう。ここに述べるように、コンテクスト情報は、コントロールメカニズムとしてのバーチャルアシスタントのそのような使用を通知し及び改良するために使用することができる。
添付図面は、本発明の多数の実施形態を示すもので、以下の説明と共に、それら実施形態に基づく本発明の原理を説明するのに役立つ。当業者であれば、添付図面に示す特定の実施形態は、単なる例示に過ぎず、本発明の範囲を限定するものではないことが認識されよう。
一実施形態によるバーチャルアシスタント及びそのオペレーションに影響を及ぼすコンテクストのソースの幾つかの例を示すブロック図である。 一実施形態によりバーチャルアシスタントにおける種々の処理段階にコンテクストを使用する方法を示すフローチャートである。 一実施形態によりスピーチ引き出しおよび解釈にコンテクストを使用する方法を示すフローチャートである。 一実施形態により自然言語処理にコンテクストを使用する方法を示すフローチャートである。 一実施形態によりタスクフロー処理にコンテクストを使用する方法を示すフローチャートである。 一実施形態によりクライアントとサーバーとの間に分布されたコンテクストのソースの一例を示すブロック図である。 図7a、図7b、図7c、図7dは一実施形態によりコンテクスト情報を得て整合するためのメカニズムの一例を示すイベント図である。 本発明の実施形態に関連して使用できるコンテクスト情報の表現例を示す。 本発明の実施形態に関連して使用できるコンテクスト情報の表現例を示す。 本発明の実施形態に関連して使用できるコンテクスト情報の表現例を示す。 本発明の実施形態に関連して使用できるコンテクスト情報の表現例を示す。 一実施形態により種々のコンテクスト情報ソースのための通信及びキャッシュポリシーを指定するコンフィギュレーションテーブルの一例を示す。 一実施形態により対話シーケンスの処理中に図9に構成されたコンテクスト情報ソースにアクセスする一例を示すイベント図である。 一実施形態により代名詞の参照先を導出するためにテキストメッセージングドメインにおけるアプリケーションコンテクストの使用例を示すスクリーンショットである。 一実施形態により代名詞の参照先を導出するためにテキストメッセージングドメインにおけるアプリケーションコンテクストの使用例を示すスクリーンショットである。 一実施形態により代名詞の参照先を導出するためにテキストメッセージングドメインにおけるアプリケーションコンテクストの使用例を示すスクリーンショットである。 一実施形態によりバーチャルアシスタントが名前の明瞭化を促しているところを示すスクリーンショットである。 一実施形態によりバーチャルアシスタントがダイアログコンテクストを使用してコマンドに対する位置を推測するところを示すスクリーンショットである。 一実施形態によりコンテクストのソースとしての電話のお気に入りリストの使用例を示すスクリーンショットである。 一実施形態によりコマンドを解釈しそして運用できるようにするための現在アプリケーションコンテクストの使用例を示すスクリーンショットである。 一実施形態によりコマンドを解釈しそして運用できるようにするための現在アプリケーションコンテクストの使用例を示すスクリーンショットである。 一実施形態によりコマンドを解釈しそして運用できるようにするための現在アプリケーションコンテクストの使用例を示すスクリーンショットである。 一実施形態によりコマンドを解釈しそして運用できるようにするための現在アプリケーションコンテクストの使用例を示すスクリーンショットである。 異なるアプリケーションを呼び出すコマンドを解釈するための現在アプリケーションコンテクストの使用例を示すスクリーンショットである。 一実施形態により到来テキストメッセージの形態のイベントコンテクストの使用例を示すスクリーンショットである。 一実施形態により到来テキストメッセージの形態のイベントコンテクストの使用例を示すスクリーンショットである。 一実施形態により到来テキストメッセージの形態のイベントコンテクストの使用例を示すスクリーンショットである。 一実施形態により以前のダイアログコンテクストの使用例を示すスクリーンショットである。 一実施形態により以前のダイアログコンテクストの使用例を示すスクリーンショットである。 一実施形態により候補解釈間で選択を行うためのユーザインターフェイスの例を示すスクリーンショットである。 一実施形態により候補解釈間で選択を行うためのユーザインターフェイスの例を示すスクリーンショットである。 バーチャルアシスタントシステムの一実施形態を例示するブロック図である。 少なくとも1つの実施形態によりバーチャルアシスタントの少なくとも一部分を具現化するのに適したコンピューティング装置を示すブロック図である。 少なくとも1つの実施形態によりスタンドアローンコンピューティングシステムにおいてバーチャルアシスタントの少なくとも一部分を具現化するためのアーキテクチャーを示すブロック図である。 少なくとも1つの実施形態により分散型コンピューティングネットワークにおいてバーチャルアシスタントの少なくとも一部分を具現化するためのアーキテクチャーを示すブロック図である。 多数の異なる形式のクライアント及び動作モードを示すシステムアーキテクチャーを描いたブロック図である。 一実施形態により本発明を実施するために互いに通信するクライアント及びサーバーを描いたブロック図である。
本発明の種々の実施形態によれば、種々のコンテクスト情報が取得され、そしてバーチャルアシスタントのオペレーションをサポートする上で情報処理ファンクションを遂行するように適用される。説明上、「バーチャルアシスタント」という語は、「インテリジェントな自動アシスタント」という語と同等であり、両方とも、次のファンクションの1つ以上を遂行する情報処理システムを指す。
●口頭及び/又はテキスト形態の人間の言語入力を解釈する;
●ユーザの意図の表現を、ステップ及び/又はパラメータを伴うタスクの表現のような実行可能な形態へ運用できるようにする;
●プログラム、方法、サービス、API、等を呼び出すことにより、タスク表現を実行する;及び
●出力応答を言語及び/又はグラフィック形態でユーザへ発生する。
このようなバーチャルアシスタントの一例が、全ての開示を参考としてここに援用する2011年1月10日に出願された“Intelligent Automated Assistant”と題する関連米国実用特許出願第12/987,982号、代理人整理番号P10575US1、に説明されている。
添付図面に示された実施形態を参照して、種々の技術を以下に詳細に説明する。以下の説明において、ここに述べる1つ以上の態様及び/又は特徴を完全に理解するために多数の特定の細部について述べる。しかしながら、当業者であれば、ここに述べる1つ以上の態様及び/又は特徴は、これら特定の細部が幾つか又は全くなくても実施できることが明らかであろう。他の点については、良く知られたプロセス段階及び/又は構造は、ここに述べる幾つかの態様及び/又は特徴を不明瞭にしないために、詳細に説明しない。
本出願には、1つ以上の異なる発明が述べられている。更に、ここに述べる発明の1つ以上について、多数の実施形態が単に例示の目的で説明されている。ここに述べる実施形態は、限定を意図したものではない。発明の1つ以上は、本開示から容易に明らかなように、多数の実施形態に広く適用される。これらの実施形態は、当業者が発明の1つ以上を実施できるに充分なほど詳細に説明され、他の実施形態も利用できると共に、発明の1つ以上の範囲から逸脱せずに、構造、論理、ソフトウェア、電気的及び他の変更がなされることを理解されたい。従って、当業者であれば、発明の1つ以上は、種々の変更及び修正と共に実施できることが認識されよう。1つ以上の発明の特定の特徴は、1つ以上の特定の実施形態と、本開示の一部分をなし且つ1つ以上の発明の特定の実施形態が例示された添付図面とを参照して説明される。しかしながら、そのような特徴は、1つ以上の特定の実施形態、又はそれを説明するときに参照する添付図面への使用に限定されない。本開示は、1つ以上の発明の全ての実施形態を逐語的に説明するものでもないし、全ての実施形態に存在すべき1つ以上の発明の特徴をリストするものでもない。
本特許出願に設けられる章の見出し及び本特許出願の名称は、便宜的なものに過ぎず、本開示を何ら限定するものではない。
互いに通信する装置は、特に指示のない限り、互いに常時通信する必要はない。更に、互いに通信する装置は、直接通信してもよいし、又は1つ以上の媒介手段を介して間接的に通信してもよい。
多数のコンポーネントが互いに通信する実施形態の説明は、そのような全てのコンポーネントが要求されることを意味していない。逆に、1つ以上の発明の種々様々な考えられる実施形態を例示するために種々の光学的コンポーネントについて説明する。
更に、プロセス段階、方法段階、アルゴリズム、等は、逐次の順序で説明するが、そのようなプロセス、方法及びアルゴリズムは、適当な順序で作用するように構成されてもよい。換言すれば、本特許出願に述べるステップのシーケンス又は順序は、それ自体、ステップをその順序で遂行する要求を示すものではない。更に、あるステップは、(例えば、あるステップを述べた後に他のステップを述べるので)同時に行われるものではないとして説明され又は暗示されるが、同時に遂行されてもよい。更に、図面に描くことによるプロセスの例示は、その例示されたプロセスがそれに対する他の変更や修正を除外することを意味するものでもないし、その例示されたプロセス又はそのいずれかのステップが1つ以上の発明に必要なものであることを意味するものでもないし、又、その例示されたプロセスが好ましいものであることを意味するものでもない。
単一の装置又は物品について述べるときには、単一の装置/物品に代わって2つ以上の装置/物品(それらが協働するかどうかに関わらず)が使用されてもよいことが容易に明らかであろう。同様に、2つ以上の装置又は物品について述べるときには(それらが協働するかどうかに関わらず)、2つ以上の装置又は物品に代わって単一の装置/物品が使用されてもよいことが容易に明らかであろう。
或いは又、装置のファンクション及び/又は特徴は、そのようなファンクション/特徴を有すると明確に述べられない1つ以上の他の装置によって実施されてもよい。従って、1つ以上の発明の他の実施形態は、装置それ自体を含む必要がない。
ここに述べる技術及びメカニズムは、時々、明瞭化のために単数形態で説明する。しかしながら、特定の実施形態は、特に指示のない限り、技術の何回もの繰り返し又はメカニズムの何回ものインスタンス化を含むことに注意されたい。
バーチャルアシスタントとしても知られたインテリジェント自動アシスタントを実施するための技術のコンテクスト内で述べるが、ここに述べる種々の態様及び技術は、ソフトウェアとの人間及び/又はコンピュータ化対話を含む技術の他の分野において展開及び/又は適用されてもよいことを理解されたい。
バーチャルアシスタント技術(例えば、ここに述べる1つ以上のバーチャルアシスタントシステム実施形態により利用され、それにより提供され及び/又はそこで実施される)に関する他の態様は、全開示を参考としてここに援用する次の文献の1つ以上に開示されている。
●2011年1月10日に出願された“Intelligent Automated Assistant”と題する米国実用特許出願第12/987,982号、代理人整理番号P10575US1;
●2010年1月18日に出願された“Intelligent Automated Assistant”と題する米国仮特許出願第61/295,774号、代理人整理番号SIRIP003P;
●2006年9月8日に出願された“Method And Apparatus for Building an Intelligent Automated Assistant”と題する米国特許出願第11/518,292号;及び
●2009年6月12日に出願された“System and Method for Semantic Auto-Completion”と題する米国仮特許出願第61/186,414号。
ハードウェアアーキテクチャー
一般的に、ここに開示するバーチャルアシスタント技術は、ハードウェア、又はソフトウェアとハードウェアの組み合わせで実施される。例えば、それらは、オペレーティングシステムカーネル、個別のユーザプロセス、ネットワークアプリケーションへと結合されたライブラリパッケージ、特別に構成されたマシン、及び/又はネットワークインターフェイスカードにおいて実施される。特定の実施形態では、ここに開示する技術は、オペレーティングシステムのようなソフトウェア、又はオペレーティングシステムで実行されるアプリケーションで実施される。
ここに開示するバーチャルアシスタント実施形態の少なくとも幾つかのソフトウェア/ハードウェア混成具現化は、メモリに記憶されたコンピュータプログラムにより選択的にアクチベートされ又は再構成されるプログラム可能なマシンにおいて行われる。そのようなネットワーク装置は、異なる形式のネットワーク通信プロトコルを使用するように構成又は設計された複数のネットワークインターフェイスを有する。幾つかのこれらマシンのための一般的アーキテクチャーは、ここに開示する説明から明らかとなろう。特定の実施形態によれば、ここに開示する種々のバーチャルアシスタント実施形態の特徴及び/又はファンクションの少なくとも幾つかは、1つ以上の汎用ネットワークホストマシン、例えば、エンドユーザコンピュータシステム、コンピュータ、ネットワークサーバー又はサーバーシステム、移動コンピューティング装置(例えば、パーソナルデジタルアシスタント、移動電話、スマートホン、ラップトップ、タブレットコンピュータ、等)、消費者向け電子装置、音楽プレーヤ、又は他の適当な電子装置、ルーター、スイッチ、等、或いはその組み合わせにおいて具現化される。少なくとも幾つかの実施形態において、ここに開示する種々のバーチャルアシスタント実施形態の特徴及び/又はファンクションの少なくとも幾つかは、1つ以上のバーチャル化コンピューティング環境(例えば、ネットワークコンピューティングクラウド、等)において具現化される。
図28を参照すれば、ここに開示するバーチャルアシスタント特徴及び/又はファンクションの少なくとも一部分を具現化するのに適したコンピューティング装置60を描いたブロック図が示されている。このコンピューティング装置60は、例えば、エンドユーザコンピュータシステム、ネットワークサーバー又はサーバーシステム、移動コンピューティング装置(例えば、パーソナルデジタルアシスタント、移動電話、スマートホン、ラップトップ、タブレットコンピュータ、等)、消費者向け電子装置、音楽プレーヤ、又は他の適当な電子装置、或いはその組み合わせ又は一部分である。コンピューティング装置60は、ワイヤレスであるかワイヤードであるかに関わらず通信のための既知のプロトコルを使用して、インターネットのような通信ネットワークを経て、クライアント及び/又はサーバーのような他のコンピューティング装置と通信するようにされる。
一実施形態において、コンピューティング装置60は、中央処理ユニット(CPU)62、インターフェイス68、及びバス67(周辺コンポーネント相互接続(PCI)バスのような)を備えている。適当なソフトウェア又はファームウェアのコントロールの下で動作するときに、CPU62は、特別に構成されたコンピューティング装置又はマシンのファンクションに関連した特定のファンクションを具現化する役割を果たす。例えば、少なくとも1つの実施形態において、ユーザのパーソナルデジタルアシスタント(PDA)又はスマートホンは、CPU62、メモリ61、65及びインターフェイス68を使用するバーチャルアシスタントシステムとして機能するように構成又は設計される。少なくとも1つの実施形態では、CPU62は、例えば、オペレーティングシステム、並びに適当なアプリケーションソフトウェア、ドライバ、等を含むソフトウェアモジュール/コンポーンのコントロールの下で異なる形式のバーチャルアシスタントファンクション及び/又はオペレーションの1つ以上を遂行するようにされる。
CPU62は、例えば、モトローラ又はインテルファミリーのマイクロプロセッサ或いはMIPSファミリのマイクロプロセッサからのプロセッサのような1つ以上のプロセッサ63を含む。ある実施形態では、プロセッサ63は、コンピューティング装置60のオペレーションをコントロールするための特別設計のハードウェア(例えば、特定用途向け集積回路(ASIC)、電子的に消去可能なプログラマブルリードオンリメモリ(EEPROM)、フィールドプログラマブルゲートアレイ(FPGA)、等)を含む。特定の実施形態では、メモリ61(不揮発性ランダムアクセスメモリ(RAM)及び/又はリードオンリメモリ(ROM))も、CPU62の一部分を形成する。しかしながら、システムにメモリを結合する多数の異なる方法がある。メモリブロック61は、例えば、データのキャッシング及び/又は記憶、インストラクションのプログラミング、等の種々の目的で使用される。
ここで使用する「プロセッサ」という語は、この技術でプロセッサと称される集積回路のみに限定されるのではなく、マイクロコントローラ、マイクロコンピュータ、プログラム可能なロジックコントローラ、特定用途向け集積回路、及び他のプログラマブル回路も広範囲に指すものとする。
一実施形態において、インターフェイス68は、インターフェイスカード(「ラインカード」とも時々称される)として設けられる。一般的に、それらは、コンピューティングネットワークを経てのデータパケットの送信及び受信をコントロールし、そして時々、コンピューティング装置60と共に使用される他の周辺装置をサポートする。設けられるインターフェイスの中には、イーサネット(登録商標)インターフェイス、フレームリレーインターフェイス、ケーブルインターフェイス、DSLインターフェイス、トークインリングインターフェイス、等がある。更に、例えば、ユニバーサルシリアルバス(USB)、シリアル、イーサネット(登録商標)、Firewire、PCI、パラレル、高周波(RF)、BluetoothTM、近フィールド通信(例えば、近フィールド磁界を使用する)、802.11(WiFi)、フレームリレー、TCP/IP、ISDN、高速イーサネット(登録商標)インターフェイス、ギガビットイーサネット(登録商標)インターフェイス、非同期転送モード(ATM)インターフェイス、高速シリアルインターフェイス(HSSI)インターフェイス、ポイントオブセール(POS)インターフェイス、ファイバデータ分散インターフェイス(FDDI)、等の種々の形式のインターフェイスが設けられる。一般的に、そのようなインターフェイス68は、適当な媒体と通信するのに適したポートを含む。あるケースでは、それらは、独立したプロセッサ、及びある場合には、揮発性及び/又は不揮発性メモリ(例えば、RAM)を含んでもよい。
図28に示したシステムは、ここに述べる本発明の技術を具現化するためのコンピューティング装置60の1つの特定のアーキテクチャーを例示するが、これは、ここに述べる特徴及び技術の少なくとも一部分が具現化される唯一の装置アーキテクチャーではない。例えば、1つ又は任意の数のプロセッサ63を有するアーキテクチャーを使用することができ、そのようなプロセッサ63は、単一の装置に存在してもよいし又は多数の装置間に分散されてもよい。1つの実施形態において、単一のプロセッサ63は、通信及びルート計算を取り扱う。種々の実施形態において、異なる形式のバーチャルアシスタント特徴及び/又はファンクションが、クライアント装置(クライアントソフトウェアを実行するパーソナルデジタルアシスタント又はスマートホンのような)及びサーバーシステム(以下に詳細に述べるサーバーシステムのような)を含むバーチャルアシスタントシステムにおいて具現化される。
ネットワーク装置のコンフィギュレーションに関わらず、本発明のシステムは、データ、汎用ネットワークオペレーションのためのプログラムインストラクション、及び/又はここに述べるバーチャルアシスタント技術のファンクションに関する他の情報を記憶するよう構成された1つ以上のメモリ又はメモリモジュール(例えば、メモリブロック65)を使用する。プログラムインストラクションは、例えば、オペレーティングシステム及び/又は1つ以上のアプリケーションのオペレーションをコントロールする。又、メモリ(1つ又は複数)は、データ構造、キーワード分類学情報、広告情報、ユーザクリック及び印象情報、及び/又はここに述べる他の特定の非プログラム情報を記憶するように構成される。
そのような情報及びプログラムインストラクションは、ここに述べるシステム/方法を具現化するのに使用されるので、少なくとも幾つかのネットワーク装置実施形態は、非一時的マシン読み取り可能な記憶媒体を含み、これは、例えば、ここに述べる種々のオペレーションを遂行するためのプログラムインストラクション、状態情報、等を記憶するように構成され又は設計される。このような非一時的マシン読み取り可能な記憶媒体は、例えば、これに限定されないが、ハードディスク、フロッピー(登録商標)ディスク、及び磁気テープのような磁気媒体;CD−ROMディスクのような光学媒体;フロプティカルディスクのような磁気光学媒体;及びプログラムインストラクションを記憶し遂行するように特に構成されたハードウェア装置、例えば、リードオンリメモリ装置(ROM)、フラッシュメモリ、メモリスタメモリ、ランダムアクセスメモリ、等を含む。プログラムインストラクションは、例えば、コンパイラーにより発生されるもののようなマシンコードと、インタープリターを使用してコンピュータにより実行される高レベルコードを含むファイルとの両方を含む。
一実施形態では、本発明のシステムは、スタンドアローンコンピューティングシステムにおいて具現化される。図29を参照すれば、少なくとも1つの実施形態に基づき、スタンドアローンコンピューティングシステムにおいてバーチャルアシスタントの少なくとも一部分を具現化するためのアーキテクチャーを描いたブロック図が示されている。コンピューティング装置60は、バーチャルアシスタント1002を具現化するためのソフトウェアを実行するプロセッサ63を備えている。入力装置1206は、ユーザ入力を受け取るのに適した任意の形式のものであり、例えば、キーボード、タッチスクリーン、マイクロホン(例えば、ボイス入力用の)、マウス、タッチパッド、トラックボール、5路スイッチ、ジョイスティック、及び/又はその組み合わせ含む。出力装置1207は、スクリーン、スピーカ、プリンタ、及び/又はその組み合せである。メモリ1210は、ソフトウェアの実行中にプロセッサ63により使用するためにこの分野で知られた構造及びアーキテクチャーを有するランダムアクセスメモリである。記憶装置1208は、デジタル形態でデータを記憶するための磁気、光学、及び/又は電気的記憶装置であり、例えば、フラッシュメモリ、磁気ハードドライブ、CD−ROM、等を含む。
別の実施形態では、本発明のシステムは、例えば、多数のクライアント及び/又はサーバーを有する分散型コンピューティングネットワークにおいて具現化される。図30を参照すれば、少なくとも1つの実施形態により分散型コンピューティングネットワークにおいてバーチャルアシスタントの少なくとも一部分を具現化するためのアーキテクチャーを描いたブロック図が示されている。
図30に示す構成では、多数のクライアント1304が設けられ、各クライアント1304は、本発明のクライアント側部分を具現化するためのソフトウェアを実行する。加えて、クライアント1304から受け取られる要求を取り扱うために多数のサーバー1304を設けることができる。クライアント1304及びサーバー1340は、インターネットのような電子的ネットワーク1361を経て互いに通信することができる。ネットワーク1361は、例えば、ワイヤード及び/又はワイヤレスプロトコルを含む既知のネットワークプロトコルを使用して具現化される。
更に、一実施形態において、サーバー1340は、付加的な情報を得るか、又は特定のユーザとの以前の対話に関する記憶データを参照するために、必要なときに、外部サービス1360をコールすることができる。外部サービス1360との通信は、例えば、ネットワーク1361を経て行うことができる。種々の実施形態において、外部サービス1360は、ハードウェア装置それ自体に関連した又はそこにインストールされたウェブイネーブルサービス及び/又は機能を含む。例えば、スマートホン又は他の電子装置においてアシスタント1002が具現化される実施形態では、アシスタント1002は、カレンダーアプリケーション(app)、連絡先、及び/又は他のソースに記憶された情報を得ることができる。
種々の実施形態において、アシスタント1002は、それがインストールされた電子装置の多数の特徴及びオペレーションをコントロールすることができる。例えば、アシスタント1002は、APIを経て又は他の手段により装置のファンクション及びアプリケーションとインターフェイスする外部サービス1360をコールし、さもなければ装置の従来のユーザインターフェイスを使用して開始されるファンクション及びオペレーションを遂行することができる。そのようなファンクション及びオペレーションは、例えば、アラームをセットし、電話コールを実行し、テキストメッセージ又はe−メールメッセージを送信し、カレンダーイベントを追加し、等々を含む。そのようなファンクション及びオペレーションは、ユーザとアシスタント1002との間の会話ダイアログのコンテクストにおいてアドオンファンクションとして遂行される。そのようなファンクション及びオペレーションは、ダイアログのようなコンテクストにおいてユーザにより指定されるか、又はダイアログのコンテクストに基づいて自動的に遂行される。従って、当業者であれば、アシスタント1002は、電子装置における種々のオペレーションを開始し及びコントロールするためのコントロールメカニズムとして使用され、このメカニズムは、ボタン又はグラフィックユーザインターフェイスのような従来のメカニズムに代わるものとして使用されることが明らかであろう。
例えば、ユーザは、「私は明日午前8時に起きねばならない(I need to wake tomorrow at 8am)」という入力をアシスタント1002に与える。アシスタント1002がここに述べる技術を使用してユーザの意図を決定すると、アシスタント1002は、外部サービス1340をコールして、装置のアラームクロックファンクション又はアプリケーションとインターフェイスする。アシスタント1002は、ユーザに代わってアラームをセットする。このように、ユーザは、アラームをセットしたり又は装置の他の機能を遂行したりする従来のメカニズムに取って代わるものとしてアシスタント1002を使用することができる。ユーザの要求が曖昧であるか又は更なる明瞭化を必要とする場合には、アシスタント1002は、能動的な聞き出し、言い換え、示唆、等を含めて及びコンテクスト情報の取得を含めて、ここに述べる種々の技術を使用して、正しいサービス1340がコールされそして意図されたアクションがとられるようにする。一実施形態では、アシスタント1002は、ファンクションを遂行するためにサービス1340をコールする前に確認を行い及び/又は適当なソースから付加的なコンテクスト情報を要求するようにユーザを促す。一実施形態において、ユーザは、特定のサービス1340をコールするためのアシスタント1002の能力を選択的にディスエイブルし、又は必要に応じてそのような全てのサービスコールをディスエイブルすることができる。
本発明のシステムは、多数の異なる形式のクライアント1304及び動作モードのいずれかで具現化することができる。図31を参照すれば、多数の異なる形式のクライアント1304及び動作モードを示すシステムアーキテクチャーを描いたブロック図が示されている。当業者であれば、図31に示す種々の形式のクライアント1304及び動作モードは、単なる例示に過ぎず、本発明のシステムは、ここに描かれた以外のクライアント1304及び/又は動作モードを使用しても具現化できることが明らかである。更に、このシステムは、このようなクライアント1304及び/又は動作モードのいずれか又は全部を単独で又は任意の組み合わせで含むこともできる。描かれた例は、次のものを含む。
●入力/出力装置及び/又はセンサを伴うコンピュータ装置1402。このようなコンピュータ装置1402にクライアントコンポーネントが配備される。少なくとも1つの実施形態は、ネットワーク1361を経てサービス1340との通信を可能にするためにウェブブラウザ1304A又は他のソフトウェアアプリケーションを使用して具現化される。入力及び出力チャンネルは、例えば、視覚及び/又は聴覚チャンネルを含めて、いずれの形式でもよい。例えば、一実施形態では、本発明のシステムは、音声ベースの通信方法を使用して具現化され、ウェブブラウザの等効物がスピーチで駆動されそして出力にスピーチを使用する盲人のためのアシスタントの実施形態を許す。
●クライアントが移動装置1304Bのアプリケーションとして具現化されるI/O及びセンサを伴う移動装置1406。これは、移動電話、スマートホン、パーソナルデジタルアシスタント、タブレット装置、ネットワークゲームコンソール、等を含むが、これに限定されない。
●クライアントが機器1304Cの埋め込まれたアプリケーションとして具現化されるI/O及びセンサを伴う消費者向け機器1410。
●クライアントが埋め込まれたシステムアプリケーション1304Dとして具現化されるダッシュボードインターフェイス及びセンサを伴う自動車及び他の乗物1414。これは、カーナビゲーションシステム、音声コントロールシステム、カー内娯楽システム、等を含むが、これに限定されない。
●クライアントが装置常駐アプリケーション1304Eとして具現化されるルーターのようなネットワークコンピューティング装置1418、又はネットワークに常駐し又はネットワークとインターフェイスする他の装置。
●アシスタントの実施形態がe−メールモダリティサーバー1426を経て接続されるe−メールクライアント。e−メールモダリティサーバー1426は、例えば、アシスタントへ送られるe−メールメッセージとしてユーザから入力を取り出し、そしてアシスタントからの出力を応答としてユーザへ送る通信ブリッジとして働く。
●アシスタントの実施形態がメッセージングモダリティサーバー1430を経て接続されるインスタントメッセージングクライアント1428。メッセージングモダリティサーバー1430は、アシスタントへ送られるメッセージとしてユーザから入力を取り出し、そしてアシスタントからの出力を応答メッセージとしてユーザへ送る通信ブリッジとして働く。
●アシスタントの実施形態がボイスオーバーインターネットプロトコル(VoIP)モダリティサーバー1430を経て接続される音声電話1432。VoIPモダリティサーバー1430は、アシスタントへ話された音声としてユーザから入力を取り出し、そしてアシスタントからの出力を、例えば、応答において同期スピーチとしてユーザへ送る通信ブリッジとして働く。
これに限定されないが、e−メール、インスタントメッセージング、討論の場、グループチャットセッション、ライブヘルプ又は顧客サポートセッション、等を含むメッセージングプラットホームに対して、アシスタント1002は、会話の参加者として働く。アシスタント1002は、1対1の対話に対してここに述べる1つ以上の技術及び方法を使用して、会話を監視し、そして個人又はグループへ応答する。
種々の実施形態において、本発明の技術を具現化するためのファンクションは、多数のクライアント及び/又はサーバーコンポーンと間に分散させることができる。例えば、本発明に関連した種々のファンクションを遂行するための種々のソフトウェアモジュールを具現化することができ、又、そのようなモジュールは、サーバー及び/又はクライアントコンポーネントにおいて実行されるように色々に具現化することができる。そのような構成の更なる詳細が、2011年1月10日に出願された“Intelligent Automated Assistant”と題する関連米国実用特許出願第12/987,982号、代理人整理番号P10575US1、になされており、その全開示が参考としてここに援用される。
図32の例では、入力引き出しファンクション及び出力処理ファンクションは、クライアント1304及びサーバー1340の間に分散され、入力引き出しのクライアント部分2794a及び出力処理のクライアント部分2792aは、クライアント1304に位置され、そして入力引き出しのサーバー部分2794b及び出力処理のサーバー部分2792bは、サーバー1340に位置される。
次のコンポーネントは、サーバー1340に位置される。
●完全な語彙2758b;
●言語パターンレコグナイザーの完全なライブラリ2760b;
●短期パーソナルメモリのマスターバージョン2752b;
●長期パーソナルメモリのマスターバージョン2754b。
一実施形態において、クライアント1304は、応答性を改善し且つネットワーク通信への依存性を減少するために、これらコンポーネントのサブセット及び/又は部分をローカルに維持する。そのようなサブセット及び/又は部分は、良く知られたキャッシュマネージメント技術に基づいて維持し更新することができる。そのようなサブセット及び/又は部分は、例えば、
●語彙のサブセット2758a;
●言語パターンレコグナイザーのライブラリのサブセット2760a;
●短期パーソナルメモリのキャッシュ2752a;
●長期パーソナルメモリのキャッシュ2754a。
付加的なコンポーネントは、例えば、次のものを含めて、サーバー1340の一部分として具現化される。
●言語インタープリター2770;
●ダイアログフロープロセッサ2780;
●出力プロセッサ2790;
●ドメインエンティティデータベース2772;
●タスクフローモデル2786;
●サービスオーケストレーション2782;
●サービス能力モデル2788。
これらコンポーネントの各々について以下に詳細に述べる。サーバー1340は、必要なときに外部サービス1360とインターフェイスすることにより付加的な情報を得る。
概念アーキテクチャー
図27を参照すれば、バーチャルアシスタント1002の特定の実施形態の簡単なブロック図が示されている。上述した関連米国実用特許出願に詳細に述べられたように、バーチャルアシスタント1002の異なる実施形態は、バーチャルアシスタント技術に一般的に関連した種々の異なる形式のオペレーション、ファンクション及び/又は特徴を提供するように構成され、設計され、及び/又は動作することができる。更に、ここに詳細に述べるように、ここに開示するバーチャルアシスタント1002の種々のオペレーション、ファンクション及び/又は特徴の多くは、バーチャルアシスタント1002と対話する異なるエンティティに対して異なる形式の効果及び/又は利益を可能にし又は提供することができる。図27に示す実施形態は、上述したハードウェアアーキテクチャーのいずれか、又は異なる形式のハードウェアアーキテクチャーを使用して具現化される。
例えば、異なる実施形態によれば、バーチャルアシスタント1002は、例えば、次の1つ以上(又はその組み合わせ)のような種々の異なる形式のオペレーション、ファンクション及び/又は特徴を提供するように構成され、設計され、及び/又は動作することができる。
●製品及びサービスを発見し、見出し、選択し、購入し、予約し又は注文するために、インターネットを経て利用できるデータ及びサービスのアプリケーションを自動化する。これらのデータ及びサービスを利用するプロセスを自動化するのに加えて、バーチャルアシスタント1002は、データ及びサービスの多数のソースを一度に組み合わせて使用することもできる。例えば、多数のレビューサイトからの製品に関する情報を結合し、複数の代理店から価格及び入手性をチェックし、彼等の場所及び時間制限をチェックし、そしてユーザが自分の問題に対する個人的解答を見出す上で助けをする。
●行うべきこと(映画、催し物、演奏、展覧会、ショー及びアトラクションを含むが、これに限定されない)、行くべき場所(旅行の行先、ホテル及び他の滞在場所、目印及び関心のある他の場所、等を含むが、これに限定されない)、飲食場所(レストラン、バー、等)、会合時刻及び場所、及びインターネットで見つけることのできる他の娯楽源又は社会的関わりについて発見し、調査し、選択し、予約し、その他、学習するためにインターネットを経て利用できるデータ及びサービスの使用を自動化する。
●(位置ベースのサーチを含めて)サーチを含むグラフィックユーザインターフェイスで専用アプリケーションによって与えられる自然言語ダイアログを経てアプリケーション及びサービスを動作すること;ナビゲーション(マップ及び方向);データベースルックアップ(名前又は他のプロパティで仕事又は人を見つける、等);天気の状態及び予報を得ること;市場品目の価格又は金融取引の状態のチェック;交通又はフライト状態の監視;カレンダー及びスケジュールへのアクセス及びその更新;催促、警告、タスク及びプロジェクトの管理;e−メール又は他のメッセージングプラットホームを経ての通信;及びローカル又はリモート位置からの装置の動作(例えば、電話をダイヤルし、照明及び温度をコントロールし、ホームセキュリティ装置をコントロールし、音楽又はビデオを再生する、等)を可能にする。一実施形態において、バーチャルアシスタント1002は、装置で利用できる多数のファンクション及びアプリケーションを開始し、動作し、コントロールするのに使用される。
●活動、製品、サービス、娯楽源、時間管理、或いは自然言語の双方向ダイアログ並びにデータ及びサービスへの自動アクセスから利益が得られる他の種類の推奨サービスに対して個人的な推薦を与える。
異なる実施形態によれば、バーチャルアシスタント1002によって与えられる種々の形式のファンクション、オペレーション、アクション、及び/又は他の特徴の少なくとも一部分は、1つ以上のクライアントシステム、1つ以上のサーバーシステム、及び/又はその組み合わせにおいて具現化される。
異なる実施形態によれば、バーチャルアシスタント1002によって与えられる種々の形式のファンクション、オペレーション、アクション、及び/又は他の特徴の少なくとも一部分は、ここに詳細に述べるように、コンテクスト情報を使用して、ユーザ入力を解釈しそして運用可能にする。
例えば、少なくとも1つの実施形態において、バーチャルアシスタント1002は、特定のタスク及び/又はオペレーションを遂行するときに種々の異なる形式のデータ及び/又は他の形式の情報を利用し及び/又は発生するよう動作できる。これは、例えば、入力データ/情報及び/又は出力データ/情報を含む。例えば、少なくとも1つの実施形態において、バーチャルアシスタント1002は、例えば、1つ以上のローカル及び/又はリモートメモリ、装置、及び/又はシステムのような1つ以上の異なる形式のソースからの情報にアクセスし、それを処理し、及び/又はその他それを利用するように動作できる。加えて、少なくとも1つの実施形態において、バーチャルアシスタント1002は、1つ以上の異なる形式の出力データ/情報を発生するように動作でき、これは、例えば、1つ以上のローカル及び/又はリモート装置及び/又はシステムのメモリに記憶される。
バーチャルアシスタント1002によりアクセスされ及び/又は利用される異なる形式の入力データ/情報は、例えば、次の1つ以上(又はその組み合わせ)を含むが、それに限定されない。
●移動電話及びタブレットのような移動装置、マイクロホン付きのコンピュータ、Bluetooth(登録商標)ヘッドセット、電話システムを経ての自動車用音声コントロールシステム、応答サービスにおけるレコーディング、一体的メッセージングサービスにおけるオーディオボイスメール、時計付きラジオのような音声入力をもつ消費者向けアプリケーション、電話局、家庭用娯楽コントロールシステム、及びゲームコンソールからの音声入力。
●コンピュータ又は移動装置のキーボード、リモートコントロール又は他の消費者向け電子装置のキーパッド、アシスタントに送られるe−メールメッセージ、アシスタントへ送られるインスタントメッセージ又は同様のショートメッセージ、マルチユーザゲーム環境においてプレーヤから受け取られるテキスト、及びメッセージフィードにおいてストリーミングされるテキストからのテキスト入力。
●センサ又は位置ベースのシステムから到来する位置情報。例えば、移動電話におけるグローバルポジショニングシステム(GPS)及び支援型GPS(A−GPS)を含む。一実施形態では、位置情報は、明確なユーザ入力と合成される。一実施形態では、本発明のシステムは、ユーザが家にいるときを、既知の住所情報及び現在位置決定に基づき検出することができる。このように、ユーザが家の外ではなく家にいるときに関心のある情報の形式、並びにユーザが家にいるかどうかに基づきユーザに代わって呼び出さねばならないサービス及びアクションの形式に関して幾つかの推測がなされる。
●クライアント装置の時計からの時間情報。これは、例えば、ローカル時間及び時間ゾーンを指示する電話又は他のクライアント装置からの時間を含む。加えて、時間は、例えば、「1時間で(in an hour)」及び「今夜(tonight)」のようなフレーズを解釈するためのユーザの要求に関して使用される。
●自動車コントロールシステムのような移動又はハンドヘルド装置又は埋め込み型システムからのコンパス、加速度計、ジャイロスコープ、及び/又は進行速度データ、並びに他のセンサデータ。これも、リモートコントロールから機器及びゲームコンソールへの装置ポジショニングデータを含む。
●グラフィックユーザインターフェイス(GUI)を有する装置のGUIからのクリック及びメニュー選択及び他のイベント。更なる例は、タッチスクリーンへのタッチを含む。
●アラームクロック、カレンダーアラート、価格変更トリガー、位置トリガー、サーバーから装置へのプッシュ通知、等のセンサ及び他のデータ駆動トリガーからのイベント。
ここに述べる実施形態への入力は、ダイアログ及び要求履歴を含めて、ユーザ対話履歴のコンテクストも含む。
上述した関連米国実用特許出願に述べられたように、多数の異なる形式の出力データ/情報がバーチャルアシスタント1002により発生される。これらは、次の1つ以上(又はその組み合わせ)を含むが、それに限定されない。
●出力装置及び/又は装置のユーザインターフェイスへ直接送られるテキスト出力;
●e−メールを経てユーザに送られるテキスト及びグラフィック;
●メッセージングサービスを経てユーザへ送られるテキスト及びグラフィック;
●以下の1つ以上(又はその組み合わせ)を含むスピーチ出力;
○同期スピーチ
○サンプルスピーチ
○記録メッセージ
●写真、リッチテキスト、ビデオ、サウンド及びハイパーリンクを伴う情報のグラフィックレイアウト(例えば、ウェブブラウザにおいてレンダリングされたコンテンツ);
●装置をターンオン又はオフさせ、サウンドを発し、カラーを変化させ、振動させ、ライトをコントロールさせ、等の装置の物理的アクションをコントロールするアクチュエータ出力;
●マッピングアプリケーションをコールし、電話を音声でダイヤルし、e−メール又はインスタントメッセージを送信し、メディアを再生し、カレンダー、タスクマネージャー及びノートアプリケーション、並びに他のアプリケーションにエントリーする、等の、装置の他のアプリケーションの呼び出し;
●リモートカメラを動作し、車椅子をコントロールし、リモートスピーカで音楽を再生し、リモートディスプレイでビデオを再生し、等の、装置により取り付けられ又はコントロールされる装置への物理的アクションをコントロールするアクチュエータ出力。
しかし、図27のバーチャルアシスタント1002は、具現化できる広範囲なバーチャルアシスタントシステム実施形態の一例に過ぎないことが明らかであろう。バーチャルアシスタントシステムの他の実施形態(図示せず)は、例えば、図27の規範的バーチャルアシスタントシステム実施形態に例示されたものより多数の、少数の、及び/又はそれとは異なるコンポーネント/特徴を含んでもよい。
バーチャルアシスタント1002は、例えば、ハードウェア、及び/又はハードウェアとソフトウェアの組み合わせの使用により具現化され及び/又はインスタンス生成される複数の異なる形式のコンポーネント、装置、モジュール、プロセス、システム、等を含んでもよい。例えば、図27の規範的実施形態に示すように、アシスタント1002は、次の形式のシステム、コンポーネント、装置、プロセッサ、等の1つ以上(又はその組み合わせ)を含んでもよい。
●1つ以上のアクティブなオントロジー1050;
●アクティブな入力引き出しコンポーネント2794(クライアント部分2894a及びサーバー部分2794bを含む);
●短期パーソナルメモリコンポーネント2752(マスターバージョン2752b及びキャッシュ2752aを含む);
●長期パーソナルメモリコンポーネント2754(マスターバージョン2754b及びキャッシュ2754aを含み、例えば、パーソナルデータベース1058、アプリケーションの好み及び使用履歴1072、等を含む);
●ドメインモデルコンポーネント2756;
●語彙コンポーネント2758(完全な語彙2758b及びサブセット2758aを含む);
●言語パターンレコグナイザーコンポーネント2760(全ライブラリ2760b及びサブセット2760aを含む);
●言語インタープリターコンポーネント2770;
●ドメインエンティティデータベース2772;
●ダイアログフロープロセッサコンポーネント2780;
●サービスオーケストレーションコンポーネント2782;
●サービスコンポーネント2784;
●タスクフローモデルコンポーネント2786;
●ダイアログフローモデルコンポーネント2787;
●サービスモデルコンポーネント2788;
●出力プロセッサコンポーネント2790。
あるクライアント/サーバーベースの実施形態では、これらのコンポーネントの幾つか又は全部がクライアント1304とサーバー1340との間に分散される。
一実施形態において、バーチャルアシスタント1002は、例えば、タッチスクリーン入力、キーボード入力、口頭入力及び/又はその組み合わせを含む適当な入力モダリティを経てユーザ入力2704を受け取る。一実施形態において、アシスタント1002は、イベントコンテクスト2706、及び/又はここに詳細に述べる多数の他の形式のコンテクストのいずれかを含むコンテクスト情報1000も受け取る。
ここに述べる技術に基づいてユーザ入力2704及びコンテクスト情報1000を処理すると、バーチャルアシスタント1002は、ユーザへ提示するための出力2708を発生する。出力2708は、コンテクスト1000及びもし適当なものがあれば他のファクタにより通知される適当な出力モダリティに基づいて発生される。出力モダリティは、例えば、スクリーンに提示される視覚出力、聴覚出力(口頭出力及び/又はビープ並びに他のサウンドを含む)、触覚出力(振動のような)、及び/又はその組み合わせを含む。
図27に示す種々のコンポーネントの動作に関する付加的な詳細は、全開示を参考としてここに援用する2011年1月10日に出願された“Intelligent Automated Assistant”と題する関連米国実用特許出願第12/987,982号、代理人整理番号P10575US1、に述べられている。
コンテクスト
上述したように、一実施形態において、バーチャルアシスタント1002は、情報処理ファンクションを遂行するために種々のコンテクスト情報を取得して適用する。次の説明で明らかにされるのは:
●バーチャルアシスタント1002により使用するためのコンテクスト情報のソースの範囲;
●コンテクスト情報を表現し、編成し及びサーチするための技術;
●コンテクスト情報でバーチャルアシスタントの多数のファンクションのオペレーションをサポートできるようにする方法;及び
●分散型システムにおいてコンテクスト情報を効率的に取得し、アクセスしそして適用するための方法。
当業者であれば、コンテクスト情報を使用するためのソース、技術、及び方法の以下の説明は、単なる例示に過ぎず、本発明の本質的な特性から逸脱せずに、他のソース、技術及び方法を使用できることが明らかであろう。
コンテクストのソース
バーチャルアシスタント1002により遂行される情報処理段階全体にわたり、ユーザ入力の考えられる解釈を減少するために多数の異なる種類のコンテクストを使用することができる。例えば、それらは、アプリケーションコンテクスト、パーソナルデータコンテクスト、及び以前のダイアログ履歴を含む。当業者であれば、コンテクストの他のソースも利用できることが明らかであろう。
図1は、一実施形態によるバーチャルアシスタント1002及びそのオペレーションに影響を及ぼすコンテクストのソースの幾つかの例を示すブロック図である。バーチャルアシスタント1002は、口頭又は型付き言語のようなユーザ入力2704を取り出し、その入力を処理し、そして出力2708をユーザへ発生し、及び/又はユーザに代わってアクションを遂行する2710。図1に示すバーチャルアシスタント1002は、具現化できる広範囲のバーチャルアシスタントシステム実施形態の一例に過ぎないことが明らかである。バーチャルアシスタントシステムの他の実施形態(図示せず)は、例えば、図1に示す規範的バーチャルアシスタント1002に例示されたものより多数の、少数の、及び/又はそれとは異なるコンポーネント/特徴を含んでもよい。
ここにより詳細に述べるように、バーチャルアシスタント1002は、辞書、ドメインモデル、及び/又はタスクモデルのような知識及びデータの多数の異なるソースのいずれかを利用することができる。本発明の観点から、バックグランドソースと称されるそのようなソースは、アシスタント1002の内部にある。ユーザ入力2704及びバックグランドソースに加えて、バーチャルアシスタント1002は、例えば、装置センサデータ1056、アプリケーションの好み及び使用履歴1072、ダイアログ履歴及びアシスタントメモリ1052、パーソナルデータベース1058、パーソナル音響コンテクストデータ1080、現在アプリケーションコンテクスト1060、及びイベントコンテクスト2706を含む多数のコンテクストソースからの情報を利用することもできる。これらは、ここで詳細に説明する。
アプリケーションコンテクスト1060
アプリケーションコンテクスト1060は、ユーザが何かを行うアプリケーション又は同様のソフトウェア状態を指す。例えば、ユーザは、特定の個人とのチャットを行うためにテキストメッセージングアプリケーションを使用することができる。バーチャルアシスタント1002は、テキストメッセージングアプリケーションのユーザインターフェイスに特有のものであるか又はその一部分である必要はない。むしろ、バーチャルアシスタント1002は、多数のアプリケーションからコンテクストを受け取ることができ、各アプリケーションは、バーチャルアシスタント1002に通知するためのそのコンテクストに貢献する。
バーチャルアシスタント1002が呼び出されたときにユーザが現在アプリケーションを使用する場合には、そのアプリケーションの状態が有用なコンテクスト情報を与えることができる。例えば、バーチャルアシスタント1002がe−メールアプリケーション内から呼び出された場合には、コンテクスト情報は、送信者情報、受信者情報、データ及び/又は送信時間、主題、e−メールコンテンツ、メールボックス又はフォルダ名から抽出されたデータ、等を含む。
図11ないし13は、一実施形態により代名詞の参照先を導出するためにテキストメッセージングドメインにおけるアプリケーションコンテクストの使用例を示す1組のスクリーンショットである。図11は、ユーザがテキストメッセージングアプリケーションにある間に表示されるスクリーン1150を示す。図12は、テキストメッセージングアプリケーションのコンテクストにおいてバーチャルアシスタント1002がアクチベートされた後のスクリーン1250を示す。この例において、バーチャルアシスタント1002は、プロンプト1251をユーザに提示する。一実施形態において、ユーザは、マイクロホンアイコン1252をタップすることにより口頭入力を与えることができる。別の実施形態において、アシスタント1002は、いつでも口頭入力を受け容れることができ、ユーザが入力を与えるまでマイクロホンアイコン1252をタップすることを要求せず、従って、アイコン1252は、アシスタント1002が口頭入力を待っているという催促になる。
図13において、ユーザは、スクリーン1253に示したバーチャルアシスタント1002とのダイアログに関与する。ユーザのスピーチ入力「彼にコールする(call him)」が反響し、バーチャルアシスタント1002は、それに応答して、特定の電話番号の特定の個人にコールする。ユーザの曖昧な入力を解釈するため、バーチャルアシスタント1002は、ここに詳細に述べるように、複数のコンテクストソースを組み合わせて使用して、代名詞の参照先を導出する。
図17ないし20は、一実施形態によりコマンドを解釈しそして運用できるようにするための現在アプリケーションコンテクストの別の使用例を示す。
図17において、ユーザには自身のe−メールインボックス1750が提示され、ユーザは、特定のe−メールメッセージ1751を選択して見る。図18は、見るために選択されたe−メールメッセージ1751を示し、この例では、e−メールメッセージ1751は、画像を含む。
図19において、ユーザは、e−メールアプリケーション内からe−メールメッセージ1751を見ながらバーチャルアシスタント1002をアクチベートする。一実施形態において、e−メールメッセージ1751の表示はスクリーンを上方に移動し、バーチャルアシスタント1002からのプロンプト150のための余地を作る。この表示は、現在見ているe−メールメッセージ1751のコンテクストにおいてバーチャルアシスタント1002が支援を与えるという観念を強化する。従って、バーチャルアシスタント1002へのユーザ入力は、e−メールメッセージ1751が見られているという現在コンテクストにおいて解釈される。
図20において、ユーザは、コマンド2050“Reply let’s get this to marketing right away("let’s get this to marketing right away”と返事せよ)”を与える。
e−メールメッセージ1751及びそれが表示されるe−メールアプリケーションに関する情報を含むコンテクスト情報を使用して、コマンド2050を解釈する。このコンテクストは、コマンド2050におけるワード“reply”及び“this”の意味を決定し、そして特定のメッセージスレッドにおける特定の受信者に対してe−メール構成処理をどのように設定するか解明するのに使用できる。この場合に、バーチャルアシスタント1002は、コンテクスト情報にアクセスして、“marketing”がジョンアプリコア(John Applecore)という名前の受信者を指すことを決定し、そしてその受信者に対して使用するためのe−メールアドレスを決定することができる。従って、バーチャルアシスタント1002は、ユーザが承認して送信するべくe−メール2052を構成する。このように、バーチャルアシスタント1002は、現在アプリケーションの状態を記述するコンテクスト情報と一緒にユーザ入力に基づいてタスク(e−メールメッセージを構成する)を運用することができる。
又、アプリケーションコンテクストは、アプリケーションにわたりユーザの意図の意味を識別する上で助けとなることができる。図21は、ユーザがe−メールメッセージ(e−メールメッセージ1751のような)を見る状況においてバーチャルアシスタント1002を呼び出すが、ユーザのコマンド2150が“Send him a text…”である例を示している。コマンド2150は、e−メールではなく、テキストメッセージを送信すべきであることを指示するものとしてバーチャルアシスタント1002により解釈される。しかしながら、ワード“him”の使用は、同じ受信者(John Applecore)が意図されることを指示する。従って、バーチャルアシスタント1002は、この受信者へ異なるチャンネルを経て通信(装置に記憶された連絡先情報から得た個人の電話番号へテキストメッセージ)を行うべきであることを認識する。従って、バーチャルアシスタント1002は、ユーザが承認し送信するためのテキストメッセージ2152を構成する。
アプリケーションから得ることのできるコンテクスト情報は、例えば、次のものを含むが、これに限定されない。
●アプリケーションのアイデンティティ;
●アプリケーションにおいて動作される現在オブジェクト(1つ又は複数)、例えば、現在e−メールメッセージ、再生される現在の曲又はプレイリスト又はチャンネル、現在の本又は映画或いは写真、現在のカレンダー日/週/月、現在の催促リスト、現在電話コール、現在テキストメッセージ会話、現在マップ位置、現在ウェブページ又はサーチ問合せ、位置感知アプリケーションのための現在とし又は他の位置、現在の社会的ネットワークプロフィール、或いは現在オブジェクトの他のアプリケーション特有観念;
●現在オブジェクトから抽出できる名前、場所、日付、及び他の識別可能なエンティティ又は値。
パーソナルデータベース1058
コンテクストデータの別のソースは、電話のような装置におけるユーザのパーソナルデータベース1058、例えば、名前及び電話番号を含むアドレス帳である。図14には、一実施形態により名前の明瞭化のためにバーチャルアシスタント1022が促すスクリーンショットの一例が示されている。ここで、ユーザは、「ハーブにコールする(Call Herb)」と言い、バーチャルアシスタント1002は、ユーザがユーザのアドレス帳において一致する連絡先を選択するように促す。従って、アドレス帳は、パーソナルデータコンテクストのソースとして使用される。
一実施形態において、ユーザのパーソナル情報は、ユーザの意図を解釈し及び/又は運用化するためのコンテクストとして又はバーチャルアシスタント1002の他のファンクションとして使用するためにパーソナルデータベース1058から得られる。例えば、ユーザの連絡先データベースにおけるデータは、ユーザがファーストネームだけで誰かを指すときにユーザのコマンドを解釈する上で曖昧さを減少するのに使用できる。パーソナルデータベース1058から得ることのできるコンテクスト情報は、例えば、次のものを含むが、これに限定されない。
●ユーザの連絡先データベース(アドレス帳)・・・名前、電話番号、物理的アドレス、ネットワークアドレス、アカウント識別子、重要な日付に関する情報を含む・・・ユーザが参照する人々、会社、組織、場所、ウェブサイト、及び他のエンティティに関する; ●ユーザ自身の名前、好ましい発音、アドレス、電話番号、等;
●ユーザの親族関係、例えば、母、父、姉妹、家長、等;
●暦上の行事、特別な日の名前、又はユーザが参照する他の名前付きエントリーを含むユーザの暦上のデータ;
●ユーザが参照する行うべきこと、忘れないこと又は獲得することのリストを含むユーザのリマインダー又はタスクリスト;
●ユーザが参照するユーザの音楽ライブラリに関連した曲名、ジャンル、プレイリスト及び他のデータ;
●ユーザのメディアライブラリ内の写真又はビデオ又は他のメディアにおける人々、場所、分類、タグ、ラベル又は他の象徴的名前;
●ユーザのパーソナルライブラリの書籍又は他の文献におけるタイトル、著者、ジャンル又は他の象徴的名前。
ダイアログ履歴1052
コンテクストデータの別のソースは、バーチャルアシスタント1002とのユーザのダイアログ履歴1052である。このような履歴は、例えば、ドメイン、人々、場所、等への参照を含む。図15には、一実施形態によりバーチャルアシスタント1002がダイアログコンテクストを使用してコマンドに対する位置を推測する一例が示されている。スクリーン1551において、ユーザは、先ず、「ニューヨークは何時か(What’s the time in New York)」尋ね、バーチャルアシスタント1002は、それに応答して1552、ニューヨーク市の現在時間を与える。次いで、ユーザは、「どんな天気か(What’s the weather)」尋ねる。バーチャルアシスタント1002は、以前のダイアログ履歴を使用して、天気の質問に意図された位置がダイアログ履歴に述べられた最後の位置であると推測する。それ故、その応答1553は、ニューヨーク市の天気情報を与える。
別の例として、ユーザが「この近くのカメラショップを探せ(find camera shops near here)」と言い、次いで、結果を検討した後に、「サンフランシスコはどう(how about San Francisco?)」と言うと、アシスタントは、ダイアログコンテクストを使用して、“how about”が“do the same task (find camera stores)(同じタスク(カメラ店を探せ)を行う) ”を意味し、又、“in San Francisco”が“changing the locus of the search from here to San Francisco(探索の場所をここからサンフランシスコへ変える)”を意味すると決定する。又、バーチャルアシスタント1002は、ダイアログの以前の詳細、例えば、ユーザに与えられた以前の出力をコンテクストとして使用することもできる。例えば、バーチャルアシスタント1002が、ユーモアとして意図された賢い応答、例えば、「ようし、君がボスだ(Sure thing, you’re the boss)」を使用した場合には、既にこれを言っていることを思い出し、ダイアログセッション内でこのフレーズを繰り返すことを回避することができる。
ダイアログ履歴及びバーチャルアシスタントメモリからのコンテクスト情報は、例えば、次のものを含むが、これに限定されない。
●ダイアログに述べられた人々;
●ダイアログに述べられた場所及び位置;
●焦点である現在時間フレーム;
●e−メール又はカレンダーのような、焦点である現在アプリケーションドメイン;
●e−メールの読み取り又はカレンダーエントリの生成のような、焦点である現在タスク;
●丁度読み取られたe−メールメッセージ、又は丁度生成されたカレンダーエントリのような、焦点である現在ドメインオブジェクト;
●質問がなされたかどうか、どんな回答が予想されるかのような、ダイアログ又はトランザクションフローの現在状態;
●「うまいイタリアレストラン(good Italian restaurants)」のような、ユーザ要求の履歴;
●返送されたレストランの組のような、ユーザ要求の結果の履歴;
●ダイアログにアシスタントにより使用されるフレーズの履歴;
●「私の母は、レベッカ・リチャードです(my mother is Rebecca Richards)」及び「そのレストランが好きだった(I liked that restaurant)」のような、ユーザによりアシスタントに語られた事実。
図25A及び25Bには、一実施形態により以前のダイアログコンテクストの使用例を描いた一連のスクリーンショットが示されている。図25Aにおいて、ユーザは、ジョン(John)からの新たなe−メールに対して要求2550を入力する。バーチャルアシスタント1002は、それに応答して、ジョンからのe−メールメッセージ2551を表示する。図25Bにおいて、ユーザは、コマンド2552“Reply let’s get this to marketing right away”を入力する。バーチャルアシスタント1002は、以前のダイアログコンテクストを使用してコマンド2552を解釈し、特に、コマンドは、図25に表示されたe−メールメッセージ2551を参照するものと解釈される。
装置センサデータ1056
一実施形態において、バーチャルアシスタント1002を実行する物理的装置は、1つ以上のセンサを有する。そのようなセンサは、コンテクスト情報のソースをなす。そのような情報は、例えば、次のものを含むが、これに限定されない。
●ユーザの現在位置;
●ユーザの現在位置のローカル時間;
●装置の位置、方向及び動き;
●現在照明レベル、温度及び他の環境測定;
●使用中のマイクロホン及びカメラの特性;
●使用される現在ネットワーク、並びにイーサネット(登録商標)、Wi−Fi及びBluetooth(登録商標)を含む接続されるネットワークのシグネチャー。シグネチャーは、ネットワークアクセスポイントのMACアドレス、指定のIPアドレス、Bluetooth(登録商標)名のような装置識別子、周波数チャンネル、及びワイヤレスネットワークの他の特性を含む。
センサは、例えば、加速度計、コンパス、GPSユニット、高度検出器、照明センサ、温度計、気圧計、クロック、ネットワークインターフェイス、バッテリテスト回路、等を含む任意の形式のものである。
アプリケーションの好み及び使用履歴1072
一実施形態において、種々のアプリケーションに対するユーザの好み及び設定、並びに使用履歴を記述する情報1072は、ユーザの意図又はバーチャルアシスタント1002の他のファンクションを解釈し及び/又は運用するためのコンテクストとして使用される。そのような好み及び履歴1072は、例えば、次のものを含むが、これに限定されない。
●ショートカット、お気に入り、ブックマーク、友人リスト、或いは人々、会社、アドレス、電話番号、場所、ウェブサイト、e−メールメッセージ又は他の基準に関するユーザデータの他の集合;
●装置でなされた最近のコール;
●会話への当事者を含む最近のテキストメッセージ会話;
●マップ又は方向に対する最近の要求;
●最近のウェブサーチ及びURL;
●株アプリケーションにリストされた株;
●最近再生された曲又はビデオ又は他のメディア;
●アラートアプリケーションでセットされたアラームの名前;
●装置におけるアプリケーション又は他のデジタルオブジェクトの名前;
●ユーザの好ましい言語、又はユーザ位置で使用する言語。
図16には、一実施形態によりコンテクストのソースとして電話のお気に入りリストを使用する一例が示されている。スクリーン1650には、お気に入り連絡先のリスト1651が示されている。ユーザが「ジョンにコールする(call John)」入力を与える場合には、お気に入りの連絡先のこのリスト1651を使用して、“John”がJohn Appleseedの移動番号を指していることを決定する。というのは、この番号がリストに現れるからである。
イベントコンテクスト2706
一実施形態において、バーチャルアシスタント1002は、バーチャルアシスタント1002とのユーザ対話とは独立して起きる非同期イベントに関連したコンテクストを使用することができる。図22ないし24を参照すれば、一実施形態によりイベントコンテクスト又はアラートコンテクストを与えるイベントが生じた後のバーチャルアシスタント1002のアクチベーションを例示する一例が示されている。この場合、イベントは、図22に示すように、到来するテキストメッセージ2250である。図23において、バーチャルアシスタント1002が呼び出され、テキストメッセージ2250がプロンプト1251に沿って示されている。図24において、ユーザは、コマンド「彼にコールする(call him)」2450を入力する。バーチャルアシスタント1002は、イベントコンテクストを使用して、到来テキストメッセージ2250を送信した個人を意味するように“him”を解釈することによりコマンドを明瞭化する。バーチャルアシスタント1002は、更に、イベントコンテクストを使用して、出て行くコールに対してどの電話番号を使用すべきか決定する。確認メッセージ2451は、コールが発信されることを指示するために表示される。
アラートコンテクスト情報は、次のものを含むが、これに限定されない。
●到来するテキストメッセージ又はページ;
●到来するe−メールメッセージ;
●到来する電話コール;
●リマインダー通知又はタスクアラート;
●カレンダーアラート;
●アラートクロック、タイマー、又は他の時間ベースのアラート;
●ゲームからのスコア又は他のイベントの通知;
●株価アラートのような金融イベントの通知;
●ニュースフラッシュ又は他の放送通知;
●任意のアプリケーションからのプッシュ通知。
パーソナル音響コンテクストデータ1080
スピーチ入力を解釈するとき、バーチャルアシスタント1002は、スピーチが入力される音響環境も考慮することができる。例えば、静寂なオフィスの騒音プロフィールは、自動車又は公共の場所のものとは異なる。スピーチ認識システムが音響プロフィールデータを識別しそして記憶できる場合には、それらのデータは、コンテクスト情報として与えることもできる。使用中のマイクロホンのプロパティ、現在位置、及び現在ダイアログ状態のような他のコンテクスト情報と合成されるときに、音響コンテクストは、入力を認識しそして解釈する上で助けとなる。
コンテクストの表現及びアクセス
上述したように、バーチャルアシスタント1002は、多数の異なるソースのいずれのコンテクスト情報を使用することもできる。バーチャルアシスタント1002へ使用可能とするようにコンテクストを表現するために多数の異なるメカニズムのいずれを使用することもできる。図8aないし8dには、本発明の種々の実施形態に関連して使用できるようにコンテクスト情報を表現する幾つかの例が示されている。
人々、場所、時間、ドメイン、タスク及びオブジェクトの表現
図8aは、ユーザの現在位置の地理座標のような簡単なプロパティを表わすコンテクスト変数の例801−809を示す。一実施形態において、コンテクスト変数のコアセットに対して現在値を維持することができる。例えば、現在ユーザ、焦点である現在位置、焦点である現在時間フレーム、焦点である現在アプリケーションドメイン、焦点である現在タスク、及び焦点である現在ドメインオブジェクトがある。図8aに示すようなデータ構造は、そのような表現に使用することができる。
図8bは、連絡先に対するコンテクスト情報を記憶するのに使用できるより複雑な表現の例850を示す。連絡先に対するデータを含む表現の例851も示されている。一実施形態において、連絡先(又は個人)は、名前、性別、アドレス、電話番号に対するプロパティ、及び連絡先データベースに保持される他のプロパティを伴うオブジェクトとして表現される。場所、時間、アプリケーションドメイン、タスク、ドメインオブジェクト、等についても同様の表現を使用することができる。
一実施形態において、所与の形式の現在値のセットが表現される。このようなセットは、現在の人々、現在の場所、現在時間、等を指すことができる。
一実施形態において、コンテクスト値が履歴に配列されて、N回の繰り返しで現在コンテクスト値のフレームが生じるようにし、又、現在N−1の繰り返しであるコンテクスト値のフレームが、望ましい履歴の長さに関するある限界に戻るようにする。図8cは、コンテクスト値の履歴を含むアレイ811の例を示す。特に、図8cの各列は、コンテクスト変数を表わし、行は、異なる時間に対応する。
一実施形態において、タイプされたコンテクスト変数のセットが、図8dに示したように履歴に配列される。この例では、個人を参照するコンテクスト変数のセット861が、場所を参照するコンテクスト変数の別のセット871と共に示されている。従って、履歴の特定時間に対する関連コンテクストデータを検索し適用することができる。
当業者であれば、図8aないし8dに示された特定の表現は、単なる例示に過ぎず、コンテクストを表現するための多数の他のメカニズム及び/又はデータフォーマットを使用できることが明らかであろう。例えば、次のものが含まれる。
●一実施形態において、システムの現在ユーザは、バーチャルアシスタント1002がどのようにしてユーザにアドレスし、そしてユーザの家、仕事、移動電話、等を参照するか分かるように、ある特殊な仕方で表される。
●一実施形態において、人々の中の関係は、バーチャルアシスタント1002が「自分の母」又は「自分の家長の家」のような参照を理解できるように表わされる。
●場所は、名前、街路アドレス、地理座標、等のプロパティを伴うオブジェクトとして表される。
●時間は、普遍的時間、タイムゾーンオフセット、分解能(年、月、日、時間、分又は秒のような)を含むプロパティを伴うオブジェクトとして表される。又、時間オブジェクトは、「今日」、「今週」、「この(今度の)週末」、「次週」、「アニーの誕生日」、等の象徴的時間を表わすこともできる。又、時間オブジェクトは、期間又は時点を表わすこともできる。
●又、コンテクストは、サービス又はアプリケーション又は談話のドメイン、例えば、e−メール、テキストメッセージング、電話、カレンダー、連絡先、写真、ビデオ、マップ、天気、リマインダー、クロック、ウェブブラウザ、フェースブック、パンドラ、等を表わすアプリケーションドメインに関して与えることもできる。現在ドメインは、これらのドメインのどれが焦点であるか指示する。
●又、コンテクストは、ドメイン内で遂行するための1つ以上のタスク又はオペレーションを定義することもできる。例えば、e−メールドメイン内には、e−メールメッセージの読み取り、e−メールのサーチ、新たなe−メールの構成、等のタスクがある。
●ドメインオブジェクトは、種々のドメインに関連したデータオブジェクトである。例えば、e−メールドメインは、e−メールメッセージにおいて動作し、カレンダードメインは、カレンダーイベントにおいて動作し、等々である。
ここでの説明の目的上、コンテクスト情報のこれらの表現は、所与の形式のコンテクスト変数と称される。例えば、現在ユーザの表現は、形式「個人」のコンテクスト変数である。
コンテクスト導出の表現
一実施形態において、コンテクスト変数の導出は、情報処理に使用できるように明確に表わされる。コンテクスト情報の導出は、情報を完結し又は検索するためになされる推測のソース及び/又はセットを特徴付けるものである。例えば、図8bに描かれた「個人」コンテクスト値851は、イベントコンテクスト2706から取得した「テキストメッセージドメインオブジェクト」から導出される。コンテクスト値851のこのソースが表現される。
ユーザ要求及び/又は意図の履歴の表現
一実施形態において、ユーザの要求の履歴を記憶することができる。一実施形態において、(自然言語処理から導出された)ユーザの意図の深い構造表現の履歴も記憶することができる。これは、バーチャルアシスタント1002が、以前に解釈された入力のコンテクストにおいて新たな入力の意味をとれるようにする。例えば、ユーザが「ニューヨークの天気は?(what is the weather in New York?)」と尋ねた場合に、言語インタープリター2770は、質問を、ニューヨークの位置を参照するものと解釈する。次いで、ユーザが「今週末についてはどうか?(what is it for this weekend?)」と言うと、バーチャルアシスタント1002は、この以前の解釈を参照して、「どうか(what is it)」が「天気はどうか(what is the weather)」を意味すると解釈すべきであると決定する。
結果の履歴の表示
一実施形態では、ユーザ要求の結果の履歴をドメインオブジェクトの形態で記憶することができる。例えば、ユーザ要求「うまいイタリアレストランを見つけよ(find me some good Italian restaurants)」は、レストランを表わすドメインオブジェクトのセットを返送する。次いで、ユーザが「アミリオにコールせよ(call Amilio’s)」のようなコマンドを入力すると、バーチャルアシスタント1002は、サーチ結果内の「アミリオ」という名前のレストランについて結果をサーチし、これは、コールできる全ての考えられる場所よりも小さなセットである。
コンテクスト変数の遅延バインディング
一実施形態において、コンテクスト変数は、オンデマンドで検索又は導出された情報を表現することができる。例えば、現在位置を表わすコンテクスト変数は、アクセスされたとき、APIを呼び出し、APIは、装置から現在位置データを検索し、そして他の処理を行って、例えば、街路アドレスを計算することができる。そのコンテクスト変数の値は、キャッシュポリシーに基づいて、ある期間、維持することができる。
コンテクストのサーチ
バーチャルアシスタント1002は、多数の異なる解答のいずれかを使用して、情報処理問題を解決するための関連コンテクスト情報をサーチすることができる。異なる形式のサーチは、例えば、次のものを含むが、これに限定されない。
コンテクスト変数名によるサーチ:要求されたコンテクスト変数の名前が「現在ユーザファーストネーム(current user first name)」のような既知のものである場合には、バーチャルアシスタント1002は、そのインスタンスをサーチすることができる。履歴が保持されている場合には、バーチャルアシスタント1002は、先ず、現在値をサーチし、次いで、一致が見つかるまで初期のデータを調べる。
コンテクスト変数形式によるサーチ:要求されたコンテクスト変数の形式が「個人」のような既知のものである場合には、バーチャルアシスタント1002は、この形式のコンテクスト変数のインスタンスをサーチすることができる。履歴が保持されている場合には、バーチャルアシスタント1002は、先ず、現在値をサーチし、次いで、一致が見つかるまで初期のデータを調べる。
一実施形態において、現在情報処理問題が単一の一致を要求する場合には、一致が見つかると、サーチが終了となる。複数の一致が許される場合には、ある限界に到達するまで一致結果を検索することができる。
一実施形態において、もし適当であれば、バーチャルアシスタント1002は、そのサーチを、ある導出を有するデータに制限することができる。例えば、e−メールのタスクフローの中で「人々」オブジェクトを探す場合に、バーチャルアシスタント1002は、導出がそのドメインに関連したアプリケーションであるようなコンテクスト変数しか考慮しない。
一実施形態において、バーチャルアシスタント1002は、コンテクスト変数の使用可能なプロパティを使用し、発見的手法に基づき一致をランク付けするルールを使用する。例えば、「私が遅れることを彼女に告げる(tell her I’ll be late)」コマンドを含むユーザ入力を処理するときには、バーチャルアシスタント1002は、コンテクストを参照することにより「彼女(her)」を解釈する。これを行う際に、バーチャルアシスタント1002は、その導出がテキストメッセージング及びe−メールのような通信アプリケーションに対するアプリケーション使用履歴であるような「人々」オブジェクトについての好みを指示するためのランキングを適用することができる。別の例として、「彼女にコールする(call her)」コマンドを解釈するために、バーチャルアシスタント1002は、電話番号が分からないものより電話番号をもつ「人々」オブジェクトを好むためのランキングを適用することができる。一実施形態では、ランキングルールは、ドメインに関連付けされる。例えば、「e−メール」及び「電話」ドメインの「個人」変数をランキングするために異なるランキングルールを使用することができる。当業者であれば、そのようなランキングルールは、必要なコンテクスト情報の特定の表現及びそこへのアクセスに基づいて、生成及び/又は適用できることが明らかであろう。
バーチャルアシスタント処理を改善するためのコンテクストの使用
上述したように、コンテクストは、バーチャルアシスタント1002のオペレーションに関連して種々の計算及び推測に適用することができる。図2は、一実施形態によりバーチャルアシスタント1002における種々の処理段階にコンテクストを使用する方法10を示すフローチャートである。
方法10は、バーチャルアシスタント1002の1つ以上の実施形態に関連して具現化される。
少なくとも1つの実施形態において、方法10は、種々の形式のファンクション、オペレーション、アクション、及び/又は他の特徴、例えば、次の1つ以上(又はその組み合わせ)を遂行し及び/又は具現化するように動作できる。
●ユーザとバーチャルアシスタント1002との間の会話インターフェイスのインターフェイスコントロールフローループを実行する。方法10の少なくとも1回の繰り返しは、会話における1つのプライとして働く。会話インターフェイスは、ユーザ及びアシスタント1002が会話式に前後に発話することにより通信するインターフェイスである。
●バーチャルアシスタント1002のための管理コントロールフローを与える。即ち、この手順は、入力の収集、入力の処理、出力の発生、及びユーザへの出力の提示をコントロールする。
●バーチャルアシスタント1002のコンポーネント間で通信を整合する。即ち、どこで1つのコンポーネントの出力が別のコンポーネントへ供給されるか、及びどこで環境からの全体的入力及び環境へのアクションが生じるか指令する。
少なくともある実施形態では、方法10の一部分が、コンピュータネットワークの他の装置及び/又はシステムで実施されてもよい。
特定の実施形態によれば、方法10の複数のインスタンス又はスレッドは、1つ以上のプロセッサ63、及び/又はハードウェア及び/又はハードウェア及びソフトウェアの他の組み合わせの使用を経て同時に具現化及び/又は開始されてもよい。少なくとも1つの実施形態では、方法10の1つ以上の部分又は選択された部分は、1つ以上のクライアント1304、1つ以上のサーバー1340、及び/又はその組み合わせにおいて具現化されてもよい。
例えば、少なくとも幾つかの実施形態において、方法10の種々の態様、特徴、及び/又はファンクションは、ソフトウェアコンポーネント、ネットワークサービス、データベース、等、或いはその組み合わせにより、遂行され、具現化され、及び/又は開始されてもよい。
異なる実施形態によれば、方法10の1つ以上の異なるスレッド又はインスタンスは、方法10の少なくとも1つのインスタンスの開始をトリガーするための1つ以上の異なる形式の基準(例えば、最小スレッシュホールド基準)を満足する1つ以上の条件又はイベントの検出に応答して開始される。この方法の1つ以上の異なるスレッド又はインスタンスの開始及び/又は具現化をトリガーする種々の形式の条件又はイベントは、例えば、次の1つ以上(又はその組み合わせ)を含むが、これに限定されない。
●バーチャルアシスタント1002のインスタンスとのユーザセッション、例えば、次の1つ以上であるが、これに限定されない。
○移動装置アプリケーションスタートアップ、例えば、バーチャルアシスタント1002の実施形態を具現化する移動装置アプリケーション;
○コンピュータアプリケーションスタートアップ、例えば、バーチャルアシスタント1002の実施形態を具現化するアプリケーション;
○押圧される移動装置の専用ボタン、例えば、「スピーチ入力ボタン」;
○ヘッドセット、電話ハンドセット又はベースステーション、GPSナビゲーションシステム、消費者向け機器、リモートコントロール、又は支援の呼び出しに関連したボタンを伴う他の装置のような、コンピュータ又は移動装置に取り付けられる周辺装置のボタン;
○ウェブブラウザから、バーチャルアシスタント1002を具現化するウェブサイトへとスタートされるウェブセッション;
○既存のウェブブラウザセッション内から、バーチャルアシスタント1002を具現化するウェブサイトへとスタートされる対話であって、例えば、バーチャルアシスタント1002のサービスが要求される対話;
○バーチャルアシスタント1002の実施形態との通信を仲裁するモダリティサーバー1426へ送信されるe−メールメッセージ;
○バーチャルアシスタント1002の実施形態との通信を仲裁するモダリティサーバー1426へ送信されるテキストメッセージ;
○バーチャルアシスタント1002の実施形態との通信を仲裁するモダリティサーバー1434へ発信される電話コール;
○バーチャルアシスタント1002の実施形態を与えるアプリケーションへ送られるアラート又は通知のようなイベント。
●バーチャルアシスタント1002を与える装置がターンオンされ及び/又はスタートされるとき。
異なる実施形態によれば、方法10の1つ以上の異なるスレッド又はインスタンスは、手動で、自動的に、スタティックに、ダイナミックに、同時に、及び/又はその組み合わせで、開始され及び/又は具現化されてもよい。更に、方法10の異なるインスタンス及び/又は実施形態は、1つ以上の異なる時間インターバルで(例えば、特定の時間インターバル中、規則的な周期的インターバル、不規則な周期的インターバル、オンデマンド、等で)開始されてもよい。
少なくとも1つの実施形態において、方法10の所与のインスタンスは、ここに述べるコンテクストデータを含めて、特定のタスク及び/又はオペレーションを遂行するときに種々の異なる形式のデータ及び/又は他の形式の情報を利用し及び/又は発生する。又、データは、他の形式の入力データ/情報及び/又は出力データ/情報を含んでもよい。例えば、少なくとも1つの実施形態において、方法10の少なくとも1つのインスタンスは、1つ以上の異なる形式のソース、例えば、1つ以上のデータベースからの情報にアクセスし、それを処理し、及び/又はその他、それを利用することができる。少なくとも1つの実施形態において、データベース情報の少なくとも一部分は、1つ以上のローカル及び/又はリモートメモリ装置との通信を経てアクセスされる。更に、方法10の少なくとも1つのインスタンスは、1つ以上の異なる形式の出力データ/情報を発生し、これは、例えば、ローカルメモリ及び/又はリモートメモリ装置に記憶される。
少なくとも1つの実施形態において、方法10の所与のインスタンスの初期コンフィギュレーションは、1つ以上の異なる形式の初期化パラメータを使用して遂行される。少なくとも1つの実施形態において、初期化パラメータの少なくとも一部分は、1つ以上のローカル及び/又はリモートメモリ装置との通信を経てアクセスされる。少なくとも1つの実施形態において、方法10のインスタンスに与えられる初期化パラメータの少なくとも一部分は、入力データ/情報に対応し、及び/又はそこから導出される。
図2の特定例では、1人のユーザが、スピーチ入力能力をもつクライアントアプリケーションからネットワークを経てバーチャルアシスタント1002のインスタンスにアクセスすると仮定する。
スピーチ入力を引き出して解釈する100。引き出しは、適当なモードでプロンプトを提示することを含む。種々の実施形態において、クライアントのユーザインターフェイスは、多数の入力モードを与える。それらは、例えば、次のものを含む。
●アクティブなタイプ入力引き出し手順を呼び出すタイプ入力用のインターフェイス; ●アクティブなスピーチ入力引き出し手順を呼び出すスピーチ入力用のインターフェイス;
●アクティブなGUIベースの入力引き出しを呼び出す、メニューから入力を選択するインターフェイス。
これら各々を遂行するための技術は、上述した関連特許出願に説明されている。当業者であれば、他の入力モードを設けてもよいことが明らかであろう。ステップ100の出力は、入力スピーチの候補解釈190のセットである。
候補解釈190のセットは、言語インタープリター2770(自然言語プロセッサ又はNLPとも称される)によって処理され200、これは、テキスト入力をパーズしそしてユーザの意図の考えられる解釈のセットを発生する290。
ステップ300において、ユーザの意図の表現290は、図5を参照して説明するダイアログ及びフロー分析手順の実施形態を具現化するダイアログフロープロセッサ2780へ送られる。このダイアログフロープロセッサ2780は、意図のどの解釈が最もあり得るか決定し、その解釈をドメインモデルのインスタンス及びタスクモデルのパラメータへマップし、そしてタスクフローにおける次のフローステップを決定する。
ステップ400において、識別されたフローステップを実行する。一実施形態において、フローステップの呼び出しは、ユーザの要求に代わってサービスのセットを呼び出すサービスオーケストレーションコンポーネント2782により遂行される。一実施形態において、これらのサービスは、あるデータを共通の結果に寄与させる。
ステップ500において、ダイアログ応答が発生される。ステップ700において、その応答がクライアント装置へその出力のために送られる。装置のクライアントソフトウェアは、クライアント装置のスクリーン(又は他の出力装置)においてそれをレンダリングする。
応答を見た後に、ユーザが終了すると790、この方法は終了となる。ユーザが終了しないと、ステップ100へ戻ることにより、ループの別の繰り返しが開始される。
コンテクスト情報1000は、方法10の種々のポイントでシステムの種々のコンポーネントによって使用される。例えば、図2に示すように、コンテクスト1000は、ステップ100、200、300及び500において使用される。これらステップにおけるコンテクスト1000の使用について、以下に更に説明する。しかしながら、当業者であれば、コンテクスト情報の使用は、これら特定のステップに限定されず、そしてこのシステムは、本発明の本質的な特徴から逸脱せずに、他のポイントでもコンテクスト情報を使用できることが明らかであろう。
更に、当業者であれば、方法10の異なる実施形態は、図2に示す特定の実施形態に例示されたもの以外の付加的な特徴及び/又はオペレーションを含んでもよく、及び/又は図2の特定の実施形態に例示された方法10の特徴及び/又はオペレーションの少なくとも一部分を省略してもよいことが明らかであろう。
スピーチ引き出し及び解釈におけるコンテクストの使用
図3は、一実施形態によりスピーチ認識を改善するためにスピーチ引き出し及び解釈にコンテクストを使用する方法100を示すフローチャートである。コンテクスト1000は、例えば、音素をワードに一致させる候補仮説の発生、ランキング及びフィルタリングをガイドするためのスピーチ認識の明瞭化に使用される。異なるサーチ認識システムは、発生、ランク及びフィルタの種々の混合を使用するが、コンテクスト1000は、一般的に、任意の段階において仮説スペースを減少するように適用することができる。
この方法は、100で始まる。アシスタント1002は、聴覚信号の形態でボイス又はスピーチ入力を受け取る121。スピーチ対テキストサービス122又はプロセッサは、聴覚信号の候補テキスト解釈124のセットを発生する。一実施形態において、スピーチ対テキストサービス122は、例えば、マサチューセッツ州バーリントンのニュアンス・コミュニケーションズ・インクから入手できるニュアンスレコグナイザー(Nuance Recognizer)を使用して具現化される。
一実施形態において、アシスタント1002は、統計学的言語モデル1029を使用して、スピーチ入力121の候補テキスト解釈124を発生する。一実施形態において、コンテクスト1000は、スピーチ対テキストサービス122により発生される候補解釈124の発生、フィルタリング及び/又はランキングをバイアスするために適用される。例えば、
●スピーチ対テキストサービス122は、ユーザパーソナルデータベース1058からの語彙を使用して、統計学的言語モデル1029をバイアスすることができる。
●スピーチ対テキストサービス122は、ダイアログ状態コンテクストを使用して、カスタム統計学的言語モデル1029を選択することができる。例えば、イエス/ノー質問を行うときに、統計学的言語モデル1029は、それらのワードを聴取に向かってバイアスするものが選択される。
●スピーチ対テキストサービス122は、現在アプリケーションコンテクストを使用して、関連ワードに向かってバイアスすることができる。例えば、“call her”は、テキストメッセージアプリケーションコンテクストにおいて“collar”より好ましい。というのは、そのようなコンテクストは、コールすることのできる「個人オブジェクト」を与えるからである。
例えば、所与のスピーチ入力は、解釈“call her”及び“collar”を発生するようにスピーチ対テキストサービス122を導く。統計学的言語モデル(SLM)1029によりガイドされて、スピーチ対テキストサービス122は、“call”を聞いた後に名前を聞くように文法上の制約により同調される。又、スピーチ対テキストサービス122は、コンテクスト1000にも基づいて同調される。例えば、“Herb”がユーザのアドレス帳においてファーストネームである場合には、このコンテクストを使用して、“Herb”を第2シラブルの解釈と考えるためのスレッシュホールドを下げることができる。即ち、ユーザのパーソナルデータコンテクストにおける名前の存在は、仮説を発生するのに使用される統計学的言語モデル1029の選択及び同調に影響を及ぼす。名前“Herb”は、一般的なSLM1029の一部分であるか、又はコンテクスト1000により直接追加できるものである。一実施形態において、これは、コンテクスト1000に基づいて同調される付加的なSLM1029として追加できるものである。一実施形態では、これは、コンテクスト1000に基づいて同調される既存のSLM1029の同調である。
一実施形態において、統計学的言語モデル1029は、長期パーソナルメモリ2754に記憶されるアプリケーション好み及び使用履歴1072及び/又はパーソナルデータベース1058からワード、名前及びフレーズを探すようにも同調される。例えば、統計学的言語モデル1029は、ツードウ(to-do)アイテム、リストアイテム、パーソナルノート、カレンダーエントリ、連絡先/アドレス帳における人の名前、連絡先/アドレス帳に記されたe−メールアドレス、街路名又は都市名、等からテキストが与えられる。
ランキングコンポーネントは、候補解釈を分析し124、そしてそれらがバーチャルアシスタント1002のシンタクティック及び/又はセマンティックモデルにどれほど良好に適合するかに基づいてそれらをランク付けする126。ユーザ入力に対する制約ソースを使用してもよい。例えば、一実施形態において、アシスタント1002は、解釈がシンタクティック及び/又はセマンティックセンス、ドメインモデル、タスクフローモデル、及び/又はダイアログモデル、等においてどれほど良好にパーズするかに基づいて、スピーチ対テキストインタープリターの出力をランク付けし、即ち、候補解釈124におけるワードの種々の組み合わせが、上述した関連米国実用特許出願に説明されたように、アクティブなオントロジー及びその関連モデルのコンセプト、関係、エンティティ及びプロパティにどれほど良好に適合するか評価する。
又、候補解釈のランキング126も、コンテクスト1000により影響される。例えば、バーチャルアシスタント1002が呼び出されたときにユーザがテキストメッセージングアプリケーションにおいて現在会話を続けている場合には、フレーズ“call her”は、おそらく、ワード“collar”より正しい解釈となる。というのは、このコンテクストでは“her”がコールする潜在性があるからである。このようなバイアスは、現在アプリケーションコンテクストが「コール可能なエンティティ(callable entities)」を与えるアプリケーションを指示するときに仮説126のランキングを“call her”又は“call <contact name>”のような好ましいフレーズへ同調させることにより達成することができる。
種々の実施形態において、図3に示す自然言語処理手順の実施形態を含めて、テキスト入力を解釈するためにアシスタント1002により使用されるアルゴリズム又は手順は、スピーチ対テキストサービス122により発生される候補テキスト解釈124をランク付け及びスコア付けするのに使用される。
又、コンテクスト1000は、候補解釈の発生を制限するか又はそれらのランク付けに影響を及ぼすのに代わって又はそれに加えて、候補解釈124をフィルタリングするのにも使用できる。例えば、フィルタリングルールは、“Herb”のアドレス帳エントリーのコンテクストが、それがフィルタリングスレッシュホールドより低くても、それを含むフレーズが最上位候補とみなされねばならない130ことを充分に指示すると規定することができる。使用する特定のスピーチ認識技術に基づき、コンテクストバイアスに基づく制約は、発生、ランク付け及び/又はフィルタ段に適用することができる。
一実施形態において、ランキングコンポーネント126で、解釈124からの最高ランキングスピーチ解釈が指定スレッシュホールドより上にランクされると決定された場合には、最高ランキングの解釈が自動的に選択される130。指定スレッシュホールドより高い解釈ランクがない場合には、スピーチの考えられる候補解釈134がユーザに提示される132。次いで、ユーザは、表示された選択肢から選択を行う136。
図26A及び26Bは、一実施形態により候補解釈間で選択を行うためのユーザインターフェイスの一例を描いたスクリーンショットである。図26Aは、曖昧な解釈の下にドットを伴うユーザスピーチ2651の提示を示す。ユーザがテキストをタップすると、図26Bに示すように、別の解釈2652A、2652Bを示す。一実施形態において、コンテクスト1000は、候補解釈2652A、2652Bのどちらが好ましい解釈であるか(図25Aのように初期デフォールトとして示す)に影響を及ぼすと共に、図26Bのように提示すべき代替え物の限定セットの選択にも影響を及ぼす。
種々の実施形態において、表示された選択肢間でのユーザ選択136は、例えば、マルチモード入力を含めて、入力のモードにより達成される。このような入力モードは、アクティブに引き出されるタイプ入力、アクティブに引き出されるスピーチ入力、入力に対してアクティブに提示されるGUI、等を含むが、これに限定されない。一実施形態において、ユーザは、例えば、タップするか又は話すことにより候補解釈134に間で選択することができる。話す場合には、新たなスピーチ入力の考えられる解釈は、与えられる選択肢の小さなセットにより著しく制約される134。
入力が自動的に選択されるか130又はユーザにより選択される136かに関わらず、それにより得られる1つ以上のテキスト解釈190は返送される。少なくとも1つの実施形態において、返送された入力は、ステップ136においてどの選択を行ったかの情報がテキスト入力と共に保存されるように、注釈付けされる。これは、例えば、ストリングの下にあるセマンティックコンセプト又はエンティティを返送時にストリングに関連付けできるようにし、その後の言語解釈の精度を改善することができる。
図1を参照して述べたいずれのソースも、図3に示すスピーチ引き出し及び解釈方法にコンテクスト1000を与えることができる。例えば、
●「パーソナル音響コンテクストデータ」1080は、考えられるSLM1029から選択を行うか、さもなければ、認識された音響コンテクストに対して最適化するようにそれらを同調させるのに使用される。
●使用中のマイクロホン及び/又はカメラのプロパティを記述する「装置センサデータ」1056は、考えられるSLM1029から選択を行うか、さもなければ、認識された音響コンテクストに対して最適化するようそれらを同調させるのに使用される。
●パーソナルデータベース1058、並びにアプリケーション好み及び使用履歴1072からの語彙は、コンテクスト1000として使用される。例えば、メディアのタイトル及びアーチストの名前は、言語モデル1029を同調するのに使用される。
●現在ダイアログ状態、ダイアログ履歴の一部分及びアシスタントメモリ1052は、候補解釈124の発生/フィルタ/ランクをテキスト対スピーチサービス122によってバイアスするのに使用される。例えば、一種のダイアログ状態がイエス/ノー質問を行う。そのような状態のとき、手順100は、それらのワードを聞くことに向かってバイアスするSLM1029を選択するか、又は122でのコンテクスト特有同調においてそれらワードのランク付け及びフィルタリングをバイアスすることができる。
自然言語処理におけるコンテクストの使用
コンテクスト1000は、自然言語処理(NLP)、即ちテキスト入力を、考えられるパーズを表わすセマンティック構造へとパージすること、を容易にするのに使用される。図4は、一実施形態により、言語インタープリター2770で遂行される自然言語処理にコンテクストを使用するための方法を示すフローチャートである。
この方法は、200で始まる。入力テキストを受け取る202。一実施形態において、入力テキスト202は、パターンレコグナイザー2760、語彙データベース2758、オントロジー及び他のモデル1050を使用して、ワード及びフレーズに対してマッチングされ210、ユーザ入力とコンセプトとの間の関連性を識別する。ステップ210は、候補シンタクティックパーズ212のセットを生成し、これは、セマンティック関連性についてマッチングされ220、候補セマンティックパーズ222を発生する。候補パーズは、次いで、230において曖昧な代替え物を除去するように処理され、関連性によってフィルタリング及び分類され232、そして返送される。
自然言語処理全体にわたり、コンテクスト情報1000は、仮説スペースを減少しそして考えられるパーズを制限するために適用することができる。例えば、言語インタープリター2770が2つの候補“call her”及び“call Herb”を受け取る場合に、言語インタープリター2770は、ワード“call”、“her”及び“Herb”のためのバインディング212を見出す。アプリケーションコンテクスト1060は、“call”に対して考えられるワードの意味を、“phone call”を意味するように制限するのに使用される。又、コンテクストは、“her”及び“Herb”の参照先を見出すのにも使用される。“her”については、コンテクストソース1000は、コール可能なエンティティのソースについてサーチされる。この例では、テキストメッセージング会話に対する当事者は、コール可能なエンティティであり、そしてこの情報は、テキストメッセージングアプリケーションから到来するコンテクストの一部分である。“Herb”の場合には、ユーザのアドレス帳は、他のパーソナルデータ、例えば、アプリケーション好み(ドメインエンティティデータベース2772からの気に入った番号のような)及びアプリケーション使用履歴(ドメインエンティティデータベース2772からの最近の電話コールのような)のような、コンテクストを明瞭化するソースである。現在テキストメッセージング当事者がRebeccaRichardsであり、そしてユーザのアドレス帳にHerbGowenがある例では、言語インタープリター2770により生成される2つのパーズが“PhoneCall(RebeccaRichards)”及び“PhoneCall(HerbGowen)”を表わすセマンティック構造となる。
アプリケーション好み及び使用履歴1072、ダイアログ履歴及びアシスタントメモリ1052、及び/又はパーソナルデータベース1058からのデータも、候補シンタクティックパーズ212を発生する際に、言語インタープリター2770により使用することができる。そのようなデータは、例えば、短期及び長期メモリ2752、2754から得ることができる。このように、同じセッションにおいて以前に与えられた入力、及び/又はユーザに関する既知の情報は、性能を改善し、曖昧さを減少し、そして相互作用の会話性を強化するのに使用できる。アクティブなオントロジー1050、ドメインモデル2756、及びタスクフローモデル2786からのデータは、有効な候補シンタクティックパーズ212を決定する上で証拠推理を実施するのにも使用される。
セマンティックマッチング220において、言語インタープリター2770は、あり得るパーズ結果の組み合わせを、それらがドメインモデル及びデータベースのようなセマンティックモデルにどれほど良好に適合するかに基づいて考慮する。セマンティックマッチング220は、例えば、アクティブなオントロジー1050、短期パーソナルメモリ2752、及び長期パーソナルメモリ2754からのデータを使用する。例えば、セマンティックマッチング220は、(ダイアログ履歴及びアシスタントメモリ1052からの)ダイアログにおける開催地又はローカルイベント、又は(アプリケーション好み及び使用履歴1072からの)個人的に好きな開催地への以前の参照からのデータを使用する。又、セマンティックマッチング220のステップは、コンテクスト1000を使用して、フレーズをドメイン意図構造へと解釈する。候補又は潜在的セマンティックパーズ結果のセットが発生される222。
明瞭化ステップ230において、言語インタープリター2770は、候補セマンティックパーズ結果222の証拠強度を重み付けする。明瞭化230は、ありそうもない又は冗長な代替え物を排除することにより候補セマンティックパーズ222の数を減少することを含む。明瞭化230は、例えば、アクティブなオントロジー1050の構造からのデータを使用する。少なくとも1つの実施形態では、アクティブなオントロジーにおけるノード間の接続は、候補セマンティックパーズ結果222の中で明瞭化を行うための証拠サポートを与える。一実施形態において、コンテクスト1000は、そのような明瞭化を支援するために使用される。そのような明瞭化は、例えば、同じ名前をもつ多数の人々の1つを決定し、「応答」(e−メール又はテキストメッセージ)のような、コマンドに対する参照先(referent)を決定し、代名詞の参照外し(dereferencing)を行い、等々を含む。
例えば、“call Herb”のような入力は、潜在的に、“Herb”に一致するエンティティを参照する。このようなエンティティは、ユーザのアドレス帳(パーソナルデータベース1058)だけでなく、パーソナルデータベース1058及び/又はドメインエンティティデータベース2772からの会社名のデータベースにも多数ある。多数のコンテクストソースは、“Herb”に一致するセットを制限し、及び/又はステップ232においてそれらをランク付け及びフィルタリングする。例えば、
●他の「アプリケーション好み及び使用履歴」1072、例えば、お気に入りの電話番号リストにあるか、又は最近コールされたか、或いはテキストメッセージ会話又はe−メールスレッドに対する最近の当事者であるHerb;
●パーソナルデータベース1058に言及されたHerb、例えば、父又は兄弟のような親族の名前であるか、又は最近のカレンダー行事にリストされた参加者であるHerb。タスクが電話コールではなくメディアの再生である場合には、メディアタイトル、制作者、等からの名前が制約ソースとなる。
●要求又は結果におけるダイアログの最近のプライ。例えば、図25Aないし25Bを参照して上述したように、Johnからのe−メールをサーチした後、サーチ結果がダイアログコンテクストにまだある状態で、ユーザは、応答を構成することができる。アシスタント1002は、ダイアログコンテクストを使用して、特定のアプリケーションドメインオブジェクトコンテクストを識別することができる。
又、コンテクスト1000は、適切な名前ではなくワードの曖昧さを減少する上で助けとなることもできる。例えば、e−メールアプリケーションのユーザがアシスタント1002に「応答」(図20に示すように)するよう告げる場合には、アプリケーションのコンテクストは、ワードがTextMessagingReplyではなくEmailReplyに関連付けされねばならないことを決定する上で助けとなる。
ステップ232において、言語インタープリター2770は、最上位のセマンティックパーズをユーザ意図の表現290としてフィルタリングし分類する232。コンテクスト1000は、そのようなフィルタリング及び分類232を通知するのに使用される。その結果が、ユーザ意図の表現290である。
タスクフロー処理におけるコンテクストの使用
図5は、一実施形態により、ダイアログフロープロセッサ2780で遂行されるタスクフロー処理にコンテクストを使用する方法を示すフローチャートである。このタスクフロー処理において、図4の方法から発生された候補パーズが、実行可能な運営上のタスク説明を発生するようにランク付けされインスタンス生成される。
この方法は、300で始まる。ユーザ意図の複数の候補表現290が受け取られる。図4を参照して述べたように、一実施形態において、ユーザ意図の表現290は、セマンティックパーズのセットを含む。
ステップ312において、ダイアログフロープロセッサ2780は、他の情報と共にセマンティックパーズの好ましい解釈を決定し、遂行すべきタスク、及びそのパラメータをユーザ意図の決定に基づいて決定する。情報は、例えば、ドメインモデル2756、タスクフローモデル2786、及び/又はダイアログフローモデル2787、又はその組み合わせから得られる。例えば、タスクは、PhoneCallであり、そしてタスクパラメータは、コールすべきPhoneNumberである。
一実施形態において、コンテクスト1000は、ステップ312を遂行するのに使用され、デフォールト値を推測しそして曖昧さを解明することでパラメータのバインディングをガイドする312。例えば、コンテクスト1000は、タスク説明のインスタンス生成をガイドし、そしてユーザの意図の最良の解釈があるかどうか決定する。
例えば、意図入力290は、“PhoneCall(RebeccaRichards)”及び“PhoneCall(HerbGowen”である。PhoneCallタスクは、パラメータPhoneNumberを要求する。コンテクスト100の多数のソースを適用して、Rebecca及びHerbのどの電話番号が機能するか決定することができる。この例では、連絡先データベースにおけるRebeccaのアドレス帳エントリーは、2つの電話番号を有し、そしてHerbのエントリーは、電話番号をもたないが、1つのe−メールアドレスを有する。連絡先データベースのようなパーソナルデータベース1058からのコンテクスト情報1000を使用すると、バーチャルアシスタント1002は、HerbよりRebeccaを好む。というのは、Rebeccaの電話番号はあるが、Herbはないからである。Rebeccaについてどちらの電話番号を使用するか決定するため、アプリケーションコンテクスト1060を調査して、Rebeccaとのテキストメッセージング会話を搬送するために使用される番号を選択することができる。従って、バーチャルアシスタント1002は、Rebecca Richardsとのテキストメッセージング会話のコンテクストにおける“call her”は、テキストメッセージングのためにRebeccaが使用する移動電話へ電話コールを行うことを意味すると決定することができる。この特定の情報は、ステップ390において返送される。
コンテクスト1000は、電話番号の曖昧さを減少する以外にも使用することができる。タスクパラメータに対して複数の値があり得るときには、そのパラメータの値を有するコンテクスト1000のソースが利用できる限り、これを使用することができる。コンテクスト1000が曖昧さを減少できる(そしてユーザに候補の選択を促す必要性を回避できる)他の例は、e−メールアドレス、物理的アドレス、時期及び日付、場所、リスト名、メディアタイトル、アーチスト名、会社名、又は他の値のスペースを含むが、これに限定されない。
又、タスクフロー処理300に要求される他の種類の推測もコンテクスト1000から得られる。例えば、デフォールト値の推測は、現在位置、時間及び他の現在値を使用することができる。デフォールト値の推測は、ユーザの要求に暗示されるタスクパラメータの値を決定するのに有用である。例えば、誰かが“what is the weather like?(天気はどうか)”と言う場合に、この周囲の現在の天気はどうかを暗示的に意味している。
ステップ310において、ダイアログフロープロセッサ2780は、ユーザ意図のこの解釈がそれを進めるに充分なほど強力にサポートされるかどうか、及び/又は別の曖昧なパーズより良好にサポートされるかどうか、決定する。競合する曖昧さ又は著しい不確実性がある場合には、ステップ322を遂行し、実行段階でダイアログがユーザから更なる情報を促す出力を生じさせるようにダイアログフローステップをセットする。曖昧さを解明するようにユーザを促すスクリーンショットの一例が図14に示されている。コンテクスト1000は、ステップ322において、ユーザが選択するための候補アイテムの表示メニューを分類し及び注釈付けするのに使用される。
ステップ320において、タスクフローモデルを調査して、適当な次のステップを決定する。情報は、例えば、ドメインモデル2756、タスクフローモデル2786、及び/又はダイアログフローモデル2787、或いはその組み合わせから得られる。
ステップ320又はステップ322の結果は、ダイアログフロープロセッサ2780及びサービスオーケストレーション2782が適当なサービスに対して発送するのに充分なタスクパラメータを含むユーザ要求の表現390である。
ダイアログ発生を改善するためのコンテクストの使用
ダイアログ応答発生500の間に、アシスタント1002は、ユーザの意図の理解及びそれがタスクにおいてどのように運営されるか言い換えることができる。そのような出力は、例えば、“OK, I’ll call Rebecca on her mobile…”である。これは、アシスタント1002がコール発信のような関連タスク自動化を遂行するのをユーザが許可できるようにする。ダイアログ発生ステップ500において、アシスタント1002は、ユーザの意図の理解を言い換える上で、どれほどの詳細をユーザに返送するか決定する。
一実施形態において、コンテクスト1000は、ダイアログにおける適当な詳細レベルの選択をガイドし、且つ(情報の繰り返しを回避するため)以前の出力に基づきフィルタリングするのにも使用される。例えば、アシスタント1002は、個人及び電話番号がコンテクスト1000から推測されたという知識を使用して、名前及び電話番号を言及すべきかどうか及びどんな詳細レベルか決定することができる。適用できるルールは、例えば、次のものを含むが、これに限定されない。
●代名詞がコンテクストにより解明されるとき、名前でコールすべき個人を言及する。
●個人がテキストメッセージのような馴染み易いコンテクストから推測されるときは、ファーストネームだけを使用する。
●電話番号がアプリケーション又はパーソナルデータコンテクストから推測されるときには、ダイヤルすべき実際の番号ではなく「移動電話」のような電話番号の象徴的名前を使用する。
適当な詳細レベルをガイドするのに加えて、コンテクスト1000は、例えば、ダイアログ発生ステップ500において、以前の発生をフィルタリングして繰り返しを回避し、そして会話において以前に述べたエンティティを参照するのにも使用される。
当業者であれば、コンテクスト1000を他の仕方でも使用できることが明らかであろう。例えば、ここに述べる技術に関連して、コンテクスト1000は、全開示を参考としてここに援用する2009年6月5日に出願された“Contextual Voice Commands”と題する関連米国実用特許出願第12/479,477号、代理人整理番号P7393US1、に説明されたメカニズムに基づいて使用することができる。
コンテクスト収集及び通信メカニズム
種々の実施形態において、バーチャルアシスタント1002においてコンテクスト情報を収集しそして通信するために異なるメカニズムが使用される。例えば、バーチャルアシスタント1002がクライアント/サーバー環境において具現化されて、そのサービスがクライアントとサーバーとの間に分散されるような1つの実施形態において、コンテクスト1000のソースも分散される。
図6を参照すれば、一実施形態により、クライアント1304とサーバー1340との間にコンテクスト1000のソースを分布する一例が示されている。移動コンピューティング装置又は他の装置であるクライアント装置1304は、装置センサデータ1056、現在アプリケーションコンテクスト1060、イベントコンテクスト2706、等、コンテクスト情報1000のソースである。コンテクスト1000の他のソースを、クライアント1304又はサーバー1340或いはその両方の何らかの組み合わせに対して分散させることができる。例えば、アプリケーション好み及び使用履歴1072c、1072s;ダイアログ履歴及びアシスタントメモリ1052c、1052s;パーソナルデータベース1058c、1058s;及びパーソナル音響コンテクストデータ1080c、1080sが含まれる。これらの各例において、コンテクスト1000のソースは、サーバー1340、クライアント1304、又はその両方に存在する。更に、上述したように、図2に示す種々のステップは、クライアント1304又はサーバー1340或いはその両方の組み合わせによって遂行することができる。
一実施形態において、コンテクスト1000は、クライアント1304及びサーバー1340のような分散されたコンポーネント間で通信することができる。このような通信は、ローカルAPIを経て又は分散型ネットワークを経て或いは他の何らかの手段により行われる。
図7aないし7dは、種々の実施形態によりコンテクスト情報1000を得て整合するためのメカニズムの例を示すイベント図である。必要なとき又は有用なときバーチャルアシスタント1002に利用できるようにコンテクストをロードし又は通信するための種々の技術が存在する。これらのメカニズムの各々を、バーチャルアシスタント1002のオペレーションに関して配することのできる4つのイベント、即ち装置又はアプリケーション初期化601;初期ユーザ入力602;初期入力処理603;及びコンテクスト依存処理604に関して説明する。
図7aは、ユーザ入力が開始すると602、「プル」メカニズムを使用してコンテクスト情報1000がロードされる解答を示している。ユーザがバーチャルアシスタント1002を呼び出しそして少なくとも幾つかの入力を与えると602、バーチャルアシスタント1002は、コンテクスト1000をロードする610。このロード動作610は、適当なソースからコンテクスト情報1000を要求し又は検索することにより行うことができる。入力処理603は、コンテクスト1000がロードされると610、スタートする。
図7bは、装置又はアプリケーションが初期化されたときに601、あるコンテクスト情報1000がロードされ620、即ちユーザ入力が始まると602、プルメカニズムを使用して、付加的なコンテクスト情報1000がロードされるという解答を示す。一実施形態において、初期化時にロードされた620コンテクスト情報1000は、スタティックコンテクスト(即ち、頻繁に変化しないコンテクスト)を含み、ユーザ入力がスタートするとき602ロードされた621コンテクスト情報1000は、ダイナミックコンテクスト(即ち、スタティックコンテクストがロードされて620以来変化するコンテクスト)を含む。このような解答は、システムのランタイム性能からスタティックコンテクスト情報1000をロードするコストを除去することで性能を改善することができる。
図7cは、図7bの解答の変形を示す。この例において、ダイナミックコンテクスト情報1000は、入力処理が開始した603後にロード621を続けることが許される。従って、ロード621は、入力処理と並列に行うことができる。バーチャルアシスタント1002の手順は、処理が受け取られたコンテクスト情報1000に依存するときにステップ604において阻止されるだけである。
図7dは、5つまでの異なる方法のいずれかでコンテクストを取り扱う完全に構成可能な態様を示している。
●スタティックコンテクスト情報1000は、コンテクストソースから、バーチャルアシスタント1002を実行する環境又は装置へと一方向に同期される640。コンテクストソースにおいてデータが変化するときに、その変化がバーチャルアシスタント1002へプッシュされる。例えば、アドレス帳は、それが最初に生成され又はイネーブルされるときにバーチャルアシスタント1002に同期される。アドレス帳が変更されるときに、その変化が、直ちに又はバッチ式にバーチャルアシスタント1002にプッシュされる。図7dに示したように、そのような同期640は、ユーザ入力が開始する602前を含めて、いつでも行うことができる。
●一実施形態において、ユーザ入力がスタートすると602、スタティックコンテクストソースは、同期状態についてチェックすることができる。必要に応じて、残りのスタティックコンテクスト情報1000を同期させるプロセスが始まる641。
●ユーザ入力がスタートすると602、あるダイナミックコンテクスト1000が、610及び621と同様に、ロードされる642。コンテクスト1000を消費する手順は、それが必要とするまだ未ロードのコンテクスト情報1000を待機するためにだけ阻止される。
●他のコンテクスト情報1000は、プロセスにより、それが必要とするときに、オンデマンドでロードされる643。
●イベントコンテクスト2706は、イベントが生じるとき、ソースから、バーチャルアシスタント1002を実行する装置へ送られる644。イベントコンテクスト2706を消費するプロセスは、イベントのキャッシュが準備できることだけ待機し、その後、いつでも阻止せずに進行することができる。このようにロードされるイベントコンテクスト2706は、次のいずれかを含む。
●ユーザ入力がスタートする602前にロードされるイベントコンテクスト2706、例えば、未読メッセージ通知。そのような情報は、例えば、同期されたキャッシュを使用して維持することができる。
●ユーザ入力がスタートする602のと同時に又はその後にロードされるイベントコンテクスト2706。例えば、ユーザがバーチャルアシスタント1002と対話する間に、テキストメッセージが到着し、このイベントをアシスタント1002に通知するイベントコンテクストは、アシスタント1002の処理と並列にプッシュすることができる。
一実施形態において、コンテクスト情報1000を得て整合する柔軟性は、コンテクスト情報1000の各ソースに対して、通信ポリシーと、要求ごとに情報を利用できるようにする値に対して通信のコストをバランスするアクセスAPIとを規定することにより、達成される。例えば、各スピーチ対テキスト要求に関連した変数、例えば、パーソナル音響コンテクストデータ1080、又はマイクロホンのパラメータを記述する装置センサデータ1050は、要求ごとにロードすることができる。そのような通信ポリシーは、例えば、コンフィギュレーションテーブルにおいて指定することができる。
図9は、一実施形態によりコンテクスト情報1000の種々のソースに対して通信及びキャッシュポリシーを指定するのに使用できるコンフィギュレーションテーブル900の一例を示す。ユーザ名、アドレス帳名、アドレス帳番号、SMSイベントコンテクスト、及びカレンダーデータベースを含む多数の異なるコンテクストソースの各々について、図2の各ステップ、即ちスピーチ入力引き出し及び解釈100、自然言語解釈200、タスク識別300、及びダイアログ応答発生500に対して、特定形式のコンテクストローディングが指定される。テーブル900の各エントリーは、次のうちの1つを指示する。
●Sync:コンテクスト情報1000は、装置において同期される;
●オンデマンド:コンテクスト情報1000は、それに対するバーチャルアシスタント1002の要求に応答して与えられる;
●プッシュ:コンテクスト情報1000は、装置へプッシュされる。
完全に構成可能な方法は、人間とマシンとの間の自然言語対話を合理化するのに潜在的な関連コンテクスト情報1000の大きなスペースを利用できるようにする。全てのこの情報を常時ロードして非効率性を招くのではなく、ある情報は、コンテクストソース及びバーチャルアシスタント1002の両方に維持される一方、他の情報は、オンデマンドで問合せされる。例えば、上述したように、スピーチ認識のようなリアルタイムオペレーションに使用される名前のような情報は、ローカルに維持される一方、ユーザのパーソナルカレンダーのような幾つかの考えられる要求のみにより使用される情報は、オンデマンドで問合わされる。到来するSMSイベントのように、ユーザがアシスタントを呼び出すときに予想できないデータは、それらが生じたときにプッシュされる。
図10は、一実施形態によりアシスタント1002がユーザとのダイアログにある対話シーケンスの処理中に図9に構成されたコンテクスト情報ソースにアクセスする一例を示すイベント図950である。
図10に示すシーケンスは、次の対話シーケンスを表わす。
●T1:アシスタント1002:“Hello Steve, what I can I do for you?”
●T2:ユーザ:“When is my next meeting?”
●T3:アシスタント1002:“Your next meeting is at 1:00pm in the boardroom.”
●T4:[Sound of incoming SMS message]
●T5:ユーザ:“Read me that message.”
●T6:アシスタント1002:“Your message from Johnny says “How about lunch””
●T7:ユーザ:“Tell Johnny I can’t make it today.”
●T8:アシスタント1002:“OK, I’ll tell him.”
時間T0において、対話が始まる前に、ユーザ名を同期し770、そしてアドレス帳名を同期する771。これらは、図7dの要素640に示されたように、初期化時にロードされるスタティックコンテクストの例である。これは、アシスタント1002が自分のファーストネーム(“Steve”)でユーザを参照できるようにする。
時間T1において、同期ステップ770及び771が完了する。時間T2において、ユーザは、要求を話し、これは、図2のステップ100、200及び300に基づいて処理される。タスク識別ステップ300において、バーチャルアシスタント1002は、コンテクスト1000のソースとしてユーザのパーソナルデータベース1058に問合せし774、より詳細には、バーチャルアシスタント1002は、テーブル900によりオンデマンドアクセスについて構成されたユーザのカレンダーデータベースから情報を要求する。時間T3において、ステップ500が遂行され、ダイアログ応答が発生される。
時間T4において、SMSメッセージを受け取り、これは、イベントコンテクスト2706の一例である。イベントの通知は、テーブル900のコンフィギュレーションに基づいてバーチャルアシスタント1002へプッシュされる773。
時間T5において、ユーザは、バーチャルアシスタント1002に、SMSメッセージを読むように求める。イベントコンテクスト2706の存在は、ステップ200を遂行する上でNLPコンポーネントをガイドし、“that message”を新たなSMSメッセージとして解釈する。時間T6において、ステップ300をタスクコンポーネントにより遂行して、APIを呼び出し、SMSメッセージをユーザに読み取ることができる。時間T7において、ユーザは、曖昧な動詞(“tell”)及び名前(“Johnny”)で要求を形成する。NLPコンポーネントは、ステップ773で受け取られたイベントコンテクスト2706を含むコンテクスト1000の種々のソースを使用してこれらの曖昧さを解明することで自然言語200を解釈し、これは、NLPコンポーネントに、コマンドがJohnnyという名の個人からのSMSメッセージを指していることを告げる。ステップT7において、受け取られたイベントコンテクストオブジェクトから使用すべき番号をルックアップすることにより名前をマッチングする771ことを含めてフローステップ400を実行する。従って、アシスタント1002は、新たなSMSメッセージを構成して、それをJohnnyへ送信することができ、これは、ステップT8で確認される。
本発明は、考えられる実施形態について特に詳細に説明した。当業者であれば、本発明は、他の実施形態でも具現化できることが明らかであろう。第1に、コンポーネントの特定の名前、用語の大文字使用、属性、データ構造、或いは他のプログラミング又は構造観点は、必須なことでも有意義なことでもなく、そして発明又はその特徴を具現化するメカニズムは、異なる名前、フォーマット又はプロトコルを有してもよい。更に、このシステムは、ここに述べたようにハードウェア及びソフトウェアの組み合わせを経て具現化されてもよいし、或いは全体的にハードウェア要素で又は全体的にソフトウェア要素で具現化されてもよい。又、ここに述べる種々のシステムコンポーネント間でのファンクションの特定の分配は、単なる例示に過ぎず、必須なものではなく、又、単一のシステムコンポーネントにより遂行されるファンクションは、複数のコンポーネントによって遂行されてもよく、そして複数のコンポーネントにより遂行されるファンクションは、単一のコンポーネントによって遂行されてもよい。
種々の実施形態において、本発明は、上述した技術を単独で又は任意の組み合わせで遂行するためのシステム又は方法として具現化することができる。別の実施形態において、本発明は、コンピューティング装置又は他の電子装置のプロセッサに上述した技術を遂行させるために、非一時的コンピュータ読み取り可能な記憶媒体及びその媒体にエンコードされたコンピュータプログラムコードを備えたコンピュータプログラム製品として具現化することができる。
明細書において「1つの実施形態」又は「一実施形態」と言及するときは、その実施形態に関連して述べた特定の特徴、構造又は特性が本発明の少なくとも1つの実施形態に含まれることを意味している。明細書の種々の場所で「一実施形態において」というフレーズが現れたときは、必ずしも全部が同じ実施形態を指すのではない。
前記のある部分は、コンピューティング装置のメモリ内のデータビットでのオペレーションのアルゴリズム及び記号表現に関して表わされる。これらのアルゴリズム記述及び表現は、データ処理技術の当業者により、彼らの仕事の実体をその分野の他の当業者に最も効率的に伝えるために使用される手段である。アルゴリズムとは、ここでは、一般的に、望ましい結果を導く自己矛盾のないステップ(インストラクション)シーケンスであると考えられる。ステップは、物理量の物理的操作を要求するものである。通常、必ずしもそうでないが、これらの量は、記憶、転送、合成、比較、及びその他、操作することのできる電気的、磁気的又は光学的信号の形態をとる。時々、主として、共通使用の理由で、これらの信号は、ビット、値、エレメント、記号、キャラクタ、期間、数、等として参照するのが便利である。更に、時々、物理量の物理的操作を要求するステップの構成は、一般性を失うことのないモジュール又はコード装置として参照するのも便利である。
しかしながら、これら及び同様の用語は、全て、適当な物理量に関連付けられ、そしてそれらの量に適用される便宜的表示に過ぎないことを銘記されたい。特に指示のない限り、以下の説明から明らかなように、この説明全体を通して、「処理」又は「コンピューティング」又は「計算」又は「表示」又は「決定」、等の用語を使用する説明は、コンピュータシステムのメモリ又はレジスタ、或いはそのような他の情報記憶、送信又は表示装置内で物理的(電子的)量として表されたデータを操作及び変換するコンピュータシステム又は同様の電子的コンピューティングモジュール及び/又は装置のアクション及びプロセスを参照するものである。
本発明の幾つかの態様は、アルゴリズムの形態のここに述べるプロセスステップ及びインストラクションを含む。本発明のプロセスステップ及びインストラクションは、ソフトウェア、ファームウェア及び/又はハードウェアで実施することができ、ソフトウェアに埋め込まれたときには、種々のオペレーティングシステムにより使用される異なるプラットホームに常駐するようにダウンロードしてそこから動作できることに注意されたい。
又、本発明は、ここに示すオペレーションを遂行するための装置にも関する。この装置は、要求される目的のために特に構成されてもよいし、又は記憶されたコンピュータプログラムにより選択的にアクチベートされ又は再構成される汎用コンピューティング装置を備えてもよい。そのようなコンピュータプログラムは、コンピュータ読み取り可能な記憶媒体、例えば、これに限定されないが、フロッピー(登録商標)ディスク、光学的ディスク、CD−ROM、磁気−光学ディスクを含む任意の形式のディスク、リードオンリメモリ(ROM)、ランダムアクセスメモリ(RAM)、EPROM、EEPROM、磁気又は光学カード、特定用途向け集積回路(ASIC)、或いはコンピュータシステムバスに各々結合されて電子的インストラクションを記憶するのに適した任意の形式の媒体に記憶される。更に、ここで参照されるコンピューティング装置は、単一プロセッサを含むものでもよいし、或いは計算能力を増強するためにマルチプロセッサ設計を使用するアーキテクチャーでもよい。
ここに述べるアルゴリズム及びディスプレイは、特定のコンピューティング装置、バーチャルシステム又は他の装置に固有に関係していない。種々の汎用システムを、ここに述べる技術に基づくプログラムと共に使用してもよいし、又は必要な方法オペレーションを遂行するように更に特殊な装置を構成するのが便利であると分かっている。種々のこれらシステムに要求される構造は、以上の説明から明らかとなろう。更に、本発明は、特定のプログラミング言語を参照して説明していない。上述した本発明の教示を具現化するのに種々のプログラミング言語を使用でき、又、特定の言語への前記言及は、本発明の実現可能な最良の態様を開示するためになされたことが明らかであろう。
従って、種々の実施形態において、本発明は、コンピュータシステム、コンピューティング装置又は他の電子装置、或いはその複数の組み合わせをコントロールするためにソフトウェア、ハードウェア、及び/又は他の要素として具現化することができる。そのような電子装置は、例えば、プロセッサ、入力装置(例えば、キーボード、マウス、タッチパッド、トラックパッド、ジョイスティック、トラックボール、マイクロホン、及び/又はその組み合わせ)、出力装置(例えば、スクリーン、スピーカ、等)、メモリ、長期記憶装置(例えば、磁気記憶装置、光学的記憶装置、等)、及び/又はこの分野でよく知られた技術によるネットワーク接続性を含む。そのような電子装置は、ポータブルでも、非ポータブルでもよい。本発明を具現化するのに使用できる電子装置は、例えば、移動電話、パーソナルデジタルアシスタント、スマートホン、キオスク、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、消費者向け電子装置、消費者向け娯楽装置、音楽プレーヤ、カメラ、テレビジョン、セットトップボックス、電子ゲーム機、等を含む。本発明を具現化するための電子装置は、例えば、カリフォルニア州クパチーノのアップル社から入手できるiOS又はMacOSのようなオペレーティングシステム、又は装置に使用される他のオペレーティングシステムを使用することができる。
限定された数の実施形態について本発明を以上に説明したが、前記説明の利益を得る当業者であれば、ここに述べる本発明の範囲から逸脱せずに、他の実施形態も案出できることが明らかであろう。更に、本明細書で使用した言語は、主として、読み易さ及び説明の目的から選択されたもので、発明の要旨の範囲又は境界を定めるために選択されたものではない。従って、本発明の開示は、特許請求の範囲に述べた本発明の範囲を例示するもので、限定するものではない。
60:コンピューティング装置
61:メモリ
62:CPU
63:プロセッサ
65:メモリ
68:インターフェイス
1000:コンテクスト
1002:バーチャルアシスタント
1050:アクティブオントロジー
1052:ダイアログ履歴及びアシスタントメモリ
1056:装置センサデータ
1058:パーソナルデータベース
1060:現在アプリケーションコンテクスト
1072:アプリケーションの好み及び使用履歴
1080:パーソナル音響コンテクストデータ
1206:入力装置
1207:出力装置
1208:記憶装置
1210:メモリ
1304:クライアント
1340:サービス
1361:ネットワーク
1360:外部サービス
2704:ユーザ入力
2706:事象コンテクスト
2708:ユーザへの出力
2710:他のアクション
2752:短期パーソナルメモリ
2754:長期パーソナルメモリ
2756:ドメインモデル
2758:語彙
2760:言語パターンレコグナイザー
2770:言語インタープリター
2772:ドメインエンティティデータベース
2780:ダイアログフロープロセッサ
2782:サービスオーケストレーション
2784:サービス
2786:タスクフローモデル
2787:ダイアログフローモデル
2788:サービスモデル
2790:出力プロセッサ
2794:能動的入力引き出し

Claims (20)

  1. 少なくとも1つのプロセッサを有するコンピューティング装置でタスクを遂行するためにユーザ入力を解釈するコンピュータプログラム製品において、
    非一時的なコンピュータ読み取り可能な記憶媒体と、
    前記媒体にエンコードされたコンピュータプログラムコードであって、少なくとも1つのプロセッサが、
    コンテクストソースからコンテクスト情報を受け取り、
    出力装置がユーザに入力を促すようにさせ、
    入力装置を経てユーザ入力を受け取り、
    前記受け取ったユーザ入力を解釈して、ユーザの意図の表現を導出し、
    少なくとも1つのタスク及び該タスクに対する少なくとも1つのパラメータを、前記ユーザの意図の導出された表現に少なくとも一部分基づいて識別し、
    前記少なくとも1つのパラメータを使用して前記少なくとも1つのタスクを実行して、結果を導出し、
    前記導出された結果に基づいてダイアログ応答を発生し、
    前記出力装置が前記発生されたダイアログ応答を出力するようにさせる、
    という方法を遂行するようにさせるよう構成されたコンピュータプログラムコードと、
    を備え、前記コンピュータプログラムコードは、前記出力装置がユーザに入力を促すようにさせ、前記受け取ったユーザ入力を解釈し、少なくとも1つのタスク及び該タスクに対する少なくとも1つのパラメータを識別し、及び前記受け取ったコンテクスト情報を使用してダイアログ応答を発生させる、のうちの少なくとも1つを少なくとも1つのプロセッサが遂行するようにさせるよう構成された、コンピュータプログラム製品。
  2. タスクを遂行するためにユーザ入力を解釈するシステムにおいて、
    ユーザに入力を促すように構成された出力装置と、
    ユーザ入力を受け取るように構成された入力装置と、
    前記出力装置及び入力装置に通信結合された少なくとも1つのプロセッサであって、
    コンテクストソースからコンテクスト情報を受け取り、
    前記受け取ったユーザ入力を解釈して、ユーザの意図の表現を導出し、
    少なくとも1つのタスク及び該タスクに対する少なくとも1つのパラメータを、前記ユーザの意図の導出された表現に少なくとも一部分基づいて識別し、
    前記少なくとも1つのパラメータを使用して前記少なくとも1つのタスクを実行して、結果を導出し、
    前記導出された結果に基づいてダイアログ応答を発生する、
    というステップを遂行するように構成された少なくとも1つのプロセッサと、
    を備え、
    前記出力装置は、更に、前記発生されたダイアログ応答を出力するように構成され、
    ユーザに入力を促し、受け取ったユーザ入力を解釈し、少なくとも1つのタスク及び該タスクに対する少なくとも1つのパラメータを識別し、及びダイアログ応答を発生する、のうちの少なくとも1つは、前記受け取ったコンテクスト情報を使用して遂行される、システム。
  3. 前記受け取ったコンテクスト情報は、
    アプリケーションコンテクスト、
    ユーザに関連したパーソナルデータ、
    ユーザに関連したデータベースからのデータ、
    ダイアログ履歴から得たデータ、
    少なくとも1つのセンサから受け取られたデータ、
    アプリケーションの好み、
    アプリケーション使用履歴、
    イベントを記述するデータ、
    口頭入力が受け取られる音響環境を記述するデータ、
    現在ダイアログ状態、
    ユーザにより以前に与えられた入力、
    位置、
    位置の時間、及び
    環境条件、
    より成るグループから選択された少なくとも1つを含む、請求項2に記載のシステム。
  4. 前記出力装置は、会話インターフェイスを経てユーザを促すように構成され、
    前記入力装置は、口頭入力を受け取ることによって会話インターフェイスを経てユーザ入力を受け取るように構成され、
    前記少なくとも1つのプロセッサは、口頭入力をテキスト表現へ変換するように構成される、請求項2に記載のシステム。
  5. 前記少なくとも1つのプロセッサは、
    口頭入力の複数の候補テキスト解釈を発生し、
    前記発生された候補テキスト解釈の少なくともサブセットをランク付けする、
    ことにより、口頭入力をテキスト表現へ変換するように構成され、
    前記発生及びランク付けステップの少なくとも1つは、受け取ったコンテクスト情報を使用して遂行される、請求項4に記載のシステム。
  6. 前記発生及びランク付けの少なくとも1つに使用される前記受け取られたコンテクスト情報は、
    口頭入力が受け取られる音響環境を記述するデータ、
    少なくとも1つのセンサから受け取られるデータ、
    ユーザに関連したデータベースから得られる語彙、
    アプリケーションの好みに関連した語彙、
    使用履歴から得られる語彙、及び
    現在ダイアログ状態、
    より成るグループから選択された少なくとも1つを含む、請求項5に記載のシステム。
  7. 前記出力装置は、前記受け取ったコンテクスト情報に少なくとも一部分基づいて少なくとも1つのプロンプトを発生することによりユーザを促すように構成される、請求項2に記載のシステム。
  8. 前記少なくとも1つのプロセッサは、前記受け取ったコンテクスト情報に少なくとも一部分基づいて前記受け取ったユーザ入力に対して自然言語処理を遂行することによりユーザ意図の表現を導出するように前記受け取ったユーザ入力を解釈するように構成される、請求項2に記載のシステム。
  9. 前記受け取ったユーザ入力を解釈するのに使用される前記受け取ったコンテクスト情報は、
    イベントを記述するデータ、
    アプリケーションコンテクスト、
    ユーザにより以前に与えられた入力、
    ユーザに関する既知の情報、
    位置、
    日付、
    環境条件、及び
    履歴、
    より成るグループから選択された少なくとも1つを含む、請求項8に記載のシステム。
  10. 前記少なくとも1つのプロセッサは、少なくとも1つのタスク及び該タスクに対する少なくとも1つのパラメータを、前記受け取ったコンテクスト情報に少なくとも一部分基づいて識別することにより、少なくとも1つのタスク及び該タスクに対する少なくとも1つのパラメータ識別するように構成される、請求項2に記載のシステム。
  11. 少なくとも1つのタスク及び該タスクに対する少なくとも1つのパラメータを識別するのに使用される前記受け取ったコンテクスト情報は、
    イベントを記述するデータ、
    ユーザに関連したデータベースからのデータ、
    少なくとも1つのセンサから受け取ったデータ、
    アプリケーションコンテクスト、
    ユーザにより以前に与えられた入力、
    ユーザに関する既知の情報、
    位置、
    日付、
    環境条件、及び
    履歴、
    より成るグループから選択された少なくとも1つを含む、請求項10に記載のシステム。
  12. 前記少なくとも1つのプロセッサは、前記受け取ったコンテクスト情報に少なくとも一部分基づいてダイアログ応答を発生することにより、ダイアログ応答を発生するように構成される、請求項2に記載のシステム。
  13. ダイアログ応答を発生するのに使用される前記受け取ったコンテクスト情報は、
    ユーザに関連したデータベースからのデータ、
    アプリケーションコンテクスト、
    ユーザにより以前に与えられた入力、
    ユーザに関する既知の情報、
    位置、
    日付、
    環境条件、及び
    履歴、
    より成るグループから選択された少なくとも1つを含む、請求項12に記載のシステム。
  14. 前記受け取ったコンテクスト情報は、
    サーバーに記憶されたコンテクスト情報、及び
    クライアントに記憶されたコンテクスト情報、
    より成るグループから選択された少なくとも1つを含む、請求項2に記載のシステム。
  15. 前記少なくとも1つのプロセッサは、
    コンテクストソースからコンテクスト情報を要求し、及び
    前記要求に応答してコンテクスト情報を受け取る、
    ことによりコンテクストソースからコンテクスト情報を受け取るように構成される、請求項2に記載のシステム。
  16. 前記少なくとも1つのプロセッサは、
    ユーザ入力を受け取る前にコンテクスト情報の少なくとも一部分を受け取る、
    ことによりコンテクストソースからコンテクスト情報を受け取るように構成される、請求項2に記載のシステム。
  17. 前記少なくとも1つのプロセッサは、
    ユーザ入力を受け取った後にコンテクスト情報の少なくとも一部分を受け取る、
    ことによりコンテクストソースからコンテクスト情報を受け取るように構成される、請求項2に記載のシステム。
  18. 前記少なくとも1つのプロセッサは、
    初期化ステップの一部分としてスタティックなコンテクスト情報を受け取り、
    ユーザ入力を受け取った後に付加的なコンテクスト情報を受け取る、
    ことによりコンテクストソースからコンテクスト情報を受け取るように構成される、請求項2に記載のシステム。
  19. 前記少なくとも1つのプロセッサは、
    コンテクスト情報の変化のプッシュ通知を受け取り、
    そのプッシュ通知に応答して、ローカル記憶されたコンテクスト情報を更新する、
    ことによりコンテクストソースからコンテクスト情報を受け取るように構成される、請求項2に記載のシステム。
  20. 前記出力装置、入力装置、及び少なくとも1つのプロセッサは、
    電話、
    スマートホン、
    タブレットコンピュータ、
    ラップトップコンピュータ、
    パーソナルデジタルアシスタント、
    デスクトップコンピュータ、
    キオスク、
    消費者向け電子装置、
    消費者向け娯楽装置、
    音楽プレーヤ、
    カメラ、
    テレビジョン、
    電子ゲーム機、及び
    セットトップボックス、
    より成るグループから選択された少なくとも1つのコンポーネントとして具現化される、請求項2に記載のシステム。
JP2015025813A 2011-09-30 2015-02-12 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用 Active JP6285883B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US13/250,854 2011-09-30
US13/250,854 US9858925B2 (en) 2009-06-05 2011-09-30 Using context information to facilitate processing of commands in a virtual assistant

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2012230300A Division JP5698203B2 (ja) 2011-09-30 2012-09-28 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017062372A Division JP6740162B2 (ja) 2011-09-30 2017-03-28 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用

Publications (2)

Publication Number Publication Date
JP2015122104A true JP2015122104A (ja) 2015-07-02
JP6285883B2 JP6285883B2 (ja) 2018-02-28

Family

ID=47225421

Family Applications (6)

Application Number Title Priority Date Filing Date
JP2012230300A Active JP5698203B2 (ja) 2011-09-30 2012-09-28 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用
JP2015025813A Active JP6285883B2 (ja) 2011-09-30 2015-02-12 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用
JP2017062372A Active JP6740162B2 (ja) 2011-09-30 2017-03-28 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用
JP2020125245A Active JP7082645B2 (ja) 2011-09-30 2020-07-22 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用
JP2022086561A Active JP7357113B2 (ja) 2011-09-30 2022-05-27 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用
JP2023160075A Pending JP2023169360A (ja) 2011-09-30 2023-09-25 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2012230300A Active JP5698203B2 (ja) 2011-09-30 2012-09-28 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用

Family Applications After (4)

Application Number Title Priority Date Filing Date
JP2017062372A Active JP6740162B2 (ja) 2011-09-30 2017-03-28 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用
JP2020125245A Active JP7082645B2 (ja) 2011-09-30 2020-07-22 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用
JP2022086561A Active JP7357113B2 (ja) 2011-09-30 2022-05-27 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用
JP2023160075A Pending JP2023169360A (ja) 2011-09-30 2023-09-25 バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用

Country Status (12)

Country Link
EP (3) EP3200185A1 (ja)
JP (6) JP5698203B2 (ja)
KR (7) KR101683083B1 (ja)
CN (1) CN103226949B (ja)
AU (1) AU2012232977A1 (ja)
BR (1) BR102012024861B1 (ja)
CA (2) CA3023918C (ja)
DE (1) DE102012019178A1 (ja)
GB (1) GB2495222B (ja)
MX (1) MX2012011426A (ja)
NL (1) NL2009544B1 (ja)
RU (1) RU2542937C2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106814639A (zh) * 2015-11-27 2017-06-09 富泰华工业(深圳)有限公司 语音控制系统及方法
JP2018530026A (ja) * 2015-07-24 2018-10-11 フェイスブック,インク. メッセージングによるパーソナル・アシスタント・サービスの提供
JP2021507381A (ja) * 2017-12-15 2021-02-22 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 認知システムのためのコミュニケーション・モデル
US11113473B2 (en) 2018-04-02 2021-09-07 SoundHound Inc. Interpreting expressions having potentially ambiguous meanings in different domains
JP2021182168A (ja) * 2016-01-06 2021-11-25 グーグル エルエルシーGoogle LLC 音声認識システム

Families Citing this family (369)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8645137B2 (en) 2000-03-16 2014-02-04 Apple Inc. Fast, language-independent method for user authentication by voice
US8181205B2 (en) 2002-09-24 2012-05-15 Russ Samuel H PVR channel and PVR IPG information
US8677377B2 (en) 2005-09-08 2014-03-18 Apple Inc. Method and apparatus for building an intelligent automated assistant
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US10002189B2 (en) 2007-12-20 2018-06-19 Apple Inc. Method and apparatus for searching using an active ontology
US9330720B2 (en) 2008-01-03 2016-05-03 Apple Inc. Methods and apparatus for altering audio output signals
US8996376B2 (en) 2008-04-05 2015-03-31 Apple Inc. Intelligent text-to-speech conversion
US20100030549A1 (en) 2008-07-31 2010-02-04 Lee Michael M Mobile device having human language translation capability with positional feedback
US8676904B2 (en) 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US9858925B2 (en) 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US10706373B2 (en) 2011-06-03 2020-07-07 Apple Inc. Performing actions associated with task items that represent tasks to perform
US10241644B2 (en) 2011-06-03 2019-03-26 Apple Inc. Actionable reminder entries
US10241752B2 (en) 2011-09-30 2019-03-26 Apple Inc. Interface for a virtual digital assistant
US9431006B2 (en) 2009-07-02 2016-08-30 Apple Inc. Methods and apparatuses for automatic speech recognition
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US8682667B2 (en) 2010-02-25 2014-03-25 Apple Inc. User profiling for selecting user specific voice input processing information
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
US10057736B2 (en) 2011-06-03 2018-08-21 Apple Inc. Active transport based notifications
US8994660B2 (en) 2011-08-29 2015-03-31 Apple Inc. Text correction processing
US10134385B2 (en) 2012-03-02 2018-11-20 Apple Inc. Systems and methods for name pronunciation
US9280610B2 (en) 2012-05-14 2016-03-08 Apple Inc. Crowd sourcing information to fulfill user requests
US10417037B2 (en) 2012-05-15 2019-09-17 Apple Inc. Systems and methods for integrating third party services with a digital assistant
US9721563B2 (en) 2012-06-08 2017-08-01 Apple Inc. Name recognition system
US9547647B2 (en) 2012-09-19 2017-01-17 Apple Inc. Voice-based media searching
KR20240132105A (ko) 2013-02-07 2024-09-02 애플 인크. 디지털 어시스턴트를 위한 음성 트리거
US10652394B2 (en) 2013-03-14 2020-05-12 Apple Inc. System and method for processing voicemail
US10748529B1 (en) 2013-03-15 2020-08-18 Apple Inc. Voice activated device for use with a voice-based digital assistant
US10445115B2 (en) * 2013-04-18 2019-10-15 Verint Americas Inc. Virtual assistant focused user interfaces
WO2014197334A2 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
US9582608B2 (en) 2013-06-07 2017-02-28 Apple Inc. Unified ranking with entropy-weighted information for phrase-based semantic auto-completion
WO2014197336A1 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for detecting errors in interactions with a voice-based digital assistant
WO2014197335A1 (en) 2013-06-08 2014-12-11 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
KR101772152B1 (ko) * 2013-06-09 2017-08-28 애플 인크. 디지털 어시스턴트의 둘 이상의 인스턴스들에 걸친 대화 지속성을 가능하게 하기 위한 디바이스, 방법 및 그래픽 사용자 인터페이스
US9728184B2 (en) 2013-06-18 2017-08-08 Microsoft Technology Licensing, Llc Restructuring deep neural network acoustic models
US9311298B2 (en) 2013-06-21 2016-04-12 Microsoft Technology Licensing, Llc Building conversational understanding systems using a toolset
US9589565B2 (en) * 2013-06-21 2017-03-07 Microsoft Technology Licensing, Llc Environmentally aware dialog policies and response generation
CN103309618A (zh) 2013-07-02 2013-09-18 姜洪明 移动操作系统
US10776375B2 (en) * 2013-07-15 2020-09-15 Microsoft Technology Licensing, Llc Retrieval of attribute values based upon identified entities
DE112014003653B4 (de) 2013-08-06 2024-04-18 Apple Inc. Automatisch aktivierende intelligente Antworten auf der Grundlage von Aktivitäten von entfernt angeordneten Vorrichtungen
CN104423844B (zh) * 2013-08-30 2019-03-29 联想(北京)有限公司 一种信息处理方法、装置和电子设备
US10127224B2 (en) 2013-08-30 2018-11-13 Intel Corporation Extensible context-aware natural language interactions for virtual personal assistants
JP2015052743A (ja) * 2013-09-09 2015-03-19 Necパーソナルコンピュータ株式会社 情報処理装置、情報処理装置の制御方法、及びプログラム
US20150074524A1 (en) * 2013-09-10 2015-03-12 Lenovo (Singapore) Pte. Ltd. Management of virtual assistant action items
US9240182B2 (en) * 2013-09-17 2016-01-19 Qualcomm Incorporated Method and apparatus for adjusting detection threshold for activating voice assistant function
US9754591B1 (en) 2013-11-18 2017-09-05 Amazon Technologies, Inc. Dialog management context sharing
US10162813B2 (en) * 2013-11-21 2018-12-25 Microsoft Technology Licensing, Llc Dialogue evaluation via multiple hypothesis ranking
US10296160B2 (en) 2013-12-06 2019-05-21 Apple Inc. Method for extracting salient dialog usage from live data
US8862467B1 (en) 2013-12-11 2014-10-14 Google Inc. Contextual speech recognition
WO2015102082A1 (ja) * 2014-01-06 2015-07-09 株式会社Nttドコモ ユーザのデータ入力に応じて情報提供を行うための端末装置、プログラム、およびサーバ装置
US8938394B1 (en) * 2014-01-09 2015-01-20 Google Inc. Audio triggers based on context
EP3097553B1 (en) * 2014-01-23 2022-06-01 Nuance Communications, Inc. Method and apparatus for exploiting language skill information in automatic speech recognition
CN105934791B (zh) * 2014-01-31 2019-11-22 惠普发展公司,有限责任合伙企业 语音输入命令
US20150234930A1 (en) * 2014-02-19 2015-08-20 Google Inc. Methods and systems for providing functional extensions with a landing page of a creative
US9324321B2 (en) 2014-03-07 2016-04-26 Microsoft Technology Licensing, Llc Low-footprint adaptation and personalization for a deep neural network
CN103885596B (zh) * 2014-03-24 2017-05-24 联想(北京)有限公司 一种信息处理方法及电子设备
US9529794B2 (en) 2014-03-27 2016-12-27 Microsoft Technology Licensing, Llc Flexible schema for language model customization
US9710546B2 (en) * 2014-03-28 2017-07-18 Microsoft Technology Licensing, Llc Explicit signals personalized search
US10037758B2 (en) 2014-03-31 2018-07-31 Mitsubishi Electric Corporation Device and method for understanding user intent
US9614724B2 (en) 2014-04-21 2017-04-04 Microsoft Technology Licensing, Llc Session-based device configuration
US9520127B2 (en) 2014-04-29 2016-12-13 Microsoft Technology Licensing, Llc Shared hidden layer combination for speech recognition systems
US9384335B2 (en) 2014-05-12 2016-07-05 Microsoft Technology Licensing, Llc Content delivery prioritization in managed wireless distribution networks
US9384334B2 (en) 2014-05-12 2016-07-05 Microsoft Technology Licensing, Llc Content discovery in managed wireless distribution networks
US9430667B2 (en) 2014-05-12 2016-08-30 Microsoft Technology Licensing, Llc Managed wireless distribution network
US10111099B2 (en) 2014-05-12 2018-10-23 Microsoft Technology Licensing, Llc Distributing content in managed wireless distribution networks
US9874914B2 (en) 2014-05-19 2018-01-23 Microsoft Technology Licensing, Llc Power management contracts for accessory devices
US10726831B2 (en) * 2014-05-20 2020-07-28 Amazon Technologies, Inc. Context interpretation in natural language processing using previous dialog acts
CN110797019B (zh) * 2014-05-30 2023-08-29 苹果公司 多命令单一话语输入方法
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
US9842101B2 (en) 2014-05-30 2017-12-12 Apple Inc. Predictive conversion of language input
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
US10838378B2 (en) 2014-06-02 2020-11-17 Rovio Entertainment Ltd Control of a computer program using media content
ES2894730T3 (es) * 2014-06-02 2022-02-15 Rovio Entertainment Ltd Control de un programa de ordenador
US10037202B2 (en) 2014-06-03 2018-07-31 Microsoft Technology Licensing, Llc Techniques to isolating a portion of an online computing service
EP3158691B1 (en) 2014-06-06 2024-09-25 Google LLC Proactive environment-based chat information system
US9367490B2 (en) 2014-06-13 2016-06-14 Microsoft Technology Licensing, Llc Reversible connector for accessory devices
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
KR102261552B1 (ko) 2014-06-30 2021-06-07 삼성전자주식회사 음성 명령어 제공 방법 및 이를 지원하는 전자 장치
US10015234B2 (en) * 2014-08-12 2018-07-03 Sony Corporation Method and system for providing information via an intelligent user interface
CN104239767B (zh) * 2014-09-03 2018-05-01 陈飞 基于环境参数对自然语言命令自动补正操作序列以简化使用的装置及方法
US9818400B2 (en) 2014-09-11 2017-11-14 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10789041B2 (en) 2014-09-12 2020-09-29 Apple Inc. Dynamic thresholds for always listening speech trigger
US9886432B2 (en) 2014-09-30 2018-02-06 Apple Inc. Parsimonious handling of word inflection via categorical stem + suffix N-gram language models
US10074360B2 (en) 2014-09-30 2018-09-11 Apple Inc. Providing an indication of the suitability of speech recognition
US9668121B2 (en) 2014-09-30 2017-05-30 Apple Inc. Social reminders
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US9646609B2 (en) 2014-09-30 2017-05-09 Apple Inc. Caching apparatus for serving phonetic pronunciations
EP3201913A4 (en) 2014-10-01 2018-06-06 Xbrain Inc. Voice and connection platform
KR101610151B1 (ko) * 2014-10-17 2016-04-08 현대자동차 주식회사 개인음향모델을 이용한 음성 인식장치 및 방법
CN104360897B (zh) * 2014-10-29 2017-09-22 百度在线网络技术(北京)有限公司 对话处理方法和对话管理系统
KR20160056548A (ko) 2014-11-12 2016-05-20 삼성전자주식회사 질의 응답을 위한 디스플레이 장치 및 방법
DE102014224794B4 (de) * 2014-12-03 2024-02-29 Bayerische Motoren Werke Aktiengesellschaft Sprachassistenzverfahren für ein Kraftfahrzeug
US11327711B2 (en) 2014-12-05 2022-05-10 Microsoft Technology Licensing, Llc External visual interactions for speech-based devices
CN111427534B (zh) * 2014-12-11 2023-07-25 微软技术许可有限责任公司 能够实现可动作的消息传送的虚拟助理系统
KR102241289B1 (ko) * 2014-12-12 2021-04-16 엘지전자 주식회사 디스플레이 장치 및 그 제어 방법
US9552816B2 (en) * 2014-12-19 2017-01-24 Amazon Technologies, Inc. Application focus in speech-based systems
KR101941804B1 (ko) * 2014-12-22 2019-01-23 폭스바겐 악티엔 게젤샤프트 손가락 기반 컨트롤 바 및 상기 손가락 기반 컨트롤 바의 사용
US9836452B2 (en) * 2014-12-30 2017-12-05 Microsoft Technology Licensing, Llc Discriminating ambiguous expressions to enhance user experience
US10713005B2 (en) 2015-01-05 2020-07-14 Google Llc Multimodal state circulation
US9865280B2 (en) 2015-03-06 2018-01-09 Apple Inc. Structured dictation using intelligent automated assistants
US10152299B2 (en) 2015-03-06 2018-12-11 Apple Inc. Reducing response latency of intelligent automated assistants
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US9899019B2 (en) 2015-03-18 2018-02-20 Apple Inc. Systems and methods for structured stem and suffix language models
CN106020784B (zh) * 2015-03-18 2020-09-08 小米科技有限责任公司 应用消息显示方法、装置及终端
US9842105B2 (en) 2015-04-16 2017-12-12 Apple Inc. Parsimonious continuous-space phrase representations for natural language processing
US20160320198A1 (en) * 2015-04-29 2016-11-03 Ford Global Technologies, Llc Ride-sharing routing using contextual constraints
US10114676B2 (en) * 2015-05-05 2018-10-30 Microsoft Technology Licensing, Llc Building multimodal collaborative dialogs with task frames
US10460227B2 (en) 2015-05-15 2019-10-29 Apple Inc. Virtual assistant in a communication session
US10200824B2 (en) 2015-05-27 2019-02-05 Apple Inc. Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US10127220B2 (en) 2015-06-04 2018-11-13 Apple Inc. Language identification from short strings
US9578173B2 (en) 2015-06-05 2017-02-21 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US10101822B2 (en) 2015-06-05 2018-10-16 Apple Inc. Language input correction
RU2614930C2 (ru) * 2015-06-05 2017-03-30 Закрытое акционерное общество "Лаборатория Касперского" Система и способ контроля исполнения приложений дополненной реальности, установленных на устройстве пользователя, в зависимости от состояния окружающей среды
US10255907B2 (en) 2015-06-07 2019-04-09 Apple Inc. Automatic accent detection using acoustic models
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
US10186254B2 (en) 2015-06-07 2019-01-22 Apple Inc. Context-based endpoint detection
US20160378747A1 (en) 2015-06-29 2016-12-29 Apple Inc. Virtual assistant for media playback
US20180190272A1 (en) * 2015-06-30 2018-07-05 Nuance Communications, Inc. Method and apparatus for processing user input
US10249297B2 (en) * 2015-07-13 2019-04-02 Microsoft Technology Licensing, Llc Propagating conversational alternatives using delayed hypothesis binding
DE102015213722B4 (de) * 2015-07-21 2020-01-23 Volkswagen Aktiengesellschaft Verfahren zum Betreiben eines Spracherkennungssystems in einem Fahrzeug und Spracherkennungssystem
CN106469040B (zh) 2015-08-19 2019-06-21 华为终端有限公司 通信方法、服务器及设备
US10339916B2 (en) 2015-08-31 2019-07-02 Microsoft Technology Licensing, Llc Generation and application of universal hypothesis ranking model
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10503265B2 (en) * 2015-09-08 2019-12-10 Microvision, Inc. Mixed-mode depth detection
US10671428B2 (en) * 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US10331312B2 (en) 2015-09-08 2019-06-25 Apple Inc. Intelligent automated assistant in a media environment
US10740384B2 (en) 2015-09-08 2020-08-11 Apple Inc. Intelligent automated assistant for media search and playback
CN105205133A (zh) 2015-09-15 2015-12-30 小米科技有限责任公司 信息收集方法和装置
US9697820B2 (en) 2015-09-24 2017-07-04 Apple Inc. Unit-selection text-to-speech synthesis using concatenation-sensitive neural networks
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10956666B2 (en) 2015-11-09 2021-03-23 Apple Inc. Unconventional virtual assistant interactions
WO2017091550A2 (en) * 2015-11-25 2017-06-01 Semantic Machines, Inc. Automatic spoken dialogue script discovery
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
WO2017112796A1 (en) 2015-12-21 2017-06-29 Google Inc. Automatic suggestions and other content for messaging applications
JP6638087B2 (ja) 2015-12-21 2020-01-29 グーグル エルエルシー メッセージ交換スレッド用の自動提案
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
WO2017138777A1 (en) 2016-02-12 2017-08-17 Samsung Electronics Co., Ltd. Method and electronic device for performing voice based actions
DE202016107174U1 (de) * 2016-03-09 2017-06-13 Simone Hajek-Glöckner Einrichtung zur psychischen Selbstschulung
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
US10133612B2 (en) * 2016-03-17 2018-11-20 Nuance Communications, Inc. Session processing interaction between two or more virtual assistants
US10757048B2 (en) 2016-04-08 2020-08-25 Microsoft Technology Licensing, Llc Intelligent personal assistant as a contact
US10158593B2 (en) * 2016-04-08 2018-12-18 Microsoft Technology Licensing, Llc Proactive intelligent personal assistant
US10319371B2 (en) * 2016-05-04 2019-06-11 GM Global Technology Operations LLC Disambiguation of vehicle speech commands
US10291565B2 (en) * 2016-05-17 2019-05-14 Google Llc Incorporating selectable application links into conversations with personal assistant modules
US10263933B2 (en) 2016-05-17 2019-04-16 Google Llc Incorporating selectable application links into message exchange threads
US20170337284A1 (en) * 2016-05-17 2017-11-23 Google Inc. Determining and using attributes of message exchange thread participants
US10783178B2 (en) * 2016-05-17 2020-09-22 Google Llc Generating a personal database entry for a user based on natural language user interface input of the user and generating output based on the entry in response to further natural language user interface input of the user
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US11227589B2 (en) 2016-06-06 2022-01-18 Apple Inc. Intelligent list reading
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US10049670B2 (en) * 2016-06-06 2018-08-14 Google Llc Providing voice action discoverability example for trigger term
US10282218B2 (en) * 2016-06-07 2019-05-07 Google Llc Nondeterministic task initiation by a personal assistant module
US10462619B2 (en) * 2016-06-08 2019-10-29 Google Llc Providing a personal assistant module with a selectively-traversable state machine
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
DK179588B1 (en) 2016-06-09 2019-02-22 Apple Inc. INTELLIGENT AUTOMATED ASSISTANT IN A HOME ENVIRONMENT
US10490187B2 (en) * 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
DK179343B1 (en) * 2016-06-11 2018-05-14 Apple Inc Intelligent task discovery
DK179049B1 (en) 2016-06-11 2017-09-18 Apple Inc Data driven natural language event detection and classification
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
US10474946B2 (en) 2016-06-24 2019-11-12 Microsoft Technology Licensing, Llc Situation aware personal assistant
DE102016212073A1 (de) * 2016-07-04 2018-01-04 Bayerische Motoren Werke Aktiengesellschaft Fortbewegungsmittel, Vorrichtung und Verfahren zur Aktivierung einer Empfangsfunktion eines Assistentensystems in einem Fortbewegungsmittel
CN106250474B (zh) * 2016-07-29 2020-06-23 Tcl科技集团股份有限公司 一种语音控制的处理方法及系统
RU2635902C1 (ru) * 2016-08-05 2017-11-16 Общество С Ограниченной Ответственностью "Яндекс" Способ и система отбора обучающих признаков для алгоритма машинного обучения
US10192551B2 (en) 2016-08-30 2019-01-29 Google Llc Using textual input and user state information to generate reply content to present in response to the textual input
US10474753B2 (en) 2016-09-07 2019-11-12 Apple Inc. Language identification using recurrent neural networks
JP6917446B2 (ja) * 2016-09-16 2021-08-11 オラクル・インターナショナル・コーポレイション 意図判断を有する、インターネットクラウドによってホストされた自然言語インタラクティブメッセージングシステム
US10015124B2 (en) 2016-09-20 2018-07-03 Google Llc Automatic response suggestions based on images received in messaging applications
WO2018057541A1 (en) 2016-09-20 2018-03-29 Google Llc Suggested responses based on message stickers
CN109716727B (zh) 2016-09-20 2021-10-15 谷歌有限责任公司 获取访问与用户相关联的数据的许可的方法及系统
US10043516B2 (en) 2016-09-23 2018-08-07 Apple Inc. Intelligent automated assistant
US20180096072A1 (en) * 2016-10-03 2018-04-05 Google Inc. Personalization of a virtual assistant
US10552742B2 (en) * 2016-10-14 2020-02-04 Google Llc Proactive virtual assistant
JP7100422B2 (ja) 2016-10-21 2022-07-13 富士通株式会社 データプロパティ認識のための装置、プログラム、及び方法
EP3312722A1 (en) 2016-10-21 2018-04-25 Fujitsu Limited Data processing apparatus, method, and program
EP3312724B1 (en) 2016-10-21 2019-10-30 Fujitsu Limited Microservice-based data processing apparatus, method, and program
JP6805765B2 (ja) 2016-10-21 2020-12-23 富士通株式会社 ソフトウェアサービスの実行のためのシステム、方法、及びプログラム
US10776170B2 (en) 2016-10-21 2020-09-15 Fujitsu Limited Software service execution apparatus, system, and method
CN106601216A (zh) * 2016-11-30 2017-04-26 宇龙计算机通信科技(深圳)有限公司 通过音乐实现电子设备控制的方法及系统
US11281993B2 (en) 2016-12-05 2022-03-22 Apple Inc. Model and ensemble compression for metric learning
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
KR102668438B1 (ko) * 2016-12-26 2024-05-24 현대자동차주식회사 음성 처리 장치, 이를 포함하는 차량 및 음성 처리 방법
US10924376B2 (en) * 2016-12-30 2021-02-16 Google Llc Selective sensor polling
US11204787B2 (en) 2017-01-09 2021-12-21 Apple Inc. Application integration with a digital assistant
KR102338990B1 (ko) 2017-01-23 2021-12-14 현대자동차주식회사 대화 시스템, 이를 포함하는 차량 및 대화 처리 방법
KR20180102871A (ko) * 2017-03-08 2018-09-18 엘지전자 주식회사 이동단말기 및 이동단말기의 차량 제어 방법
US10636418B2 (en) 2017-03-22 2020-04-28 Google Llc Proactive incorporation of unsolicited content into human-to-computer dialogs
CN107122179A (zh) 2017-03-31 2017-09-01 阿里巴巴集团控股有限公司 语音的功能控制方法和装置
CN107146610B (zh) * 2017-04-10 2021-06-15 易视星空科技无锡有限公司 一种用户意图的确定方法及装置
EP3613044A1 (en) * 2017-04-20 2020-02-26 Semantic Machines, Inc. Automated assistant data flow
US20180314532A1 (en) * 2017-04-26 2018-11-01 Google Inc. Organizing messages exchanged in human-to-computer dialogs with automated assistants
KR102309031B1 (ko) 2017-04-27 2021-10-06 삼성전자 주식회사 지능형 에이전트 관리 방법 및 장치
KR102375800B1 (ko) * 2017-04-28 2022-03-17 삼성전자주식회사 음성 인식 서비스를 제공하는 전자 장치 및 그 방법
KR102380717B1 (ko) 2017-04-30 2022-03-31 삼성전자주식회사 사용자 발화를 처리하는 전자 장치 및 이 전자 장치의 제어 방법
US9865260B1 (en) 2017-05-03 2018-01-09 Google Llc Proactive incorporation of unsolicited content into human-to-computer dialogs
US10417266B2 (en) 2017-05-09 2019-09-17 Apple Inc. Context-aware ranking of intelligent response suggestions
DK201770383A1 (en) 2017-05-09 2018-12-14 Apple Inc. USER INTERFACE FOR CORRECTING RECOGNITION ERRORS
DK180048B1 (en) 2017-05-11 2020-02-04 Apple Inc. MAINTAINING THE DATA PROTECTION OF PERSONAL INFORMATION
DK201770439A1 (en) 2017-05-11 2018-12-13 Apple Inc. Offline personal assistant
US10395654B2 (en) 2017-05-11 2019-08-27 Apple Inc. Text normalization based on a data-driven learning network
CN110574023A (zh) * 2017-05-11 2019-12-13 苹果公司 脱机个人助理
US10726832B2 (en) 2017-05-11 2020-07-28 Apple Inc. Maintaining privacy of personal information
DK201770428A1 (en) 2017-05-12 2019-02-18 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
US11301477B2 (en) 2017-05-12 2022-04-12 Apple Inc. Feedback analysis of a digital assistant
EP3596727B1 (en) * 2017-05-15 2022-04-13 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
DK201770432A1 (en) 2017-05-15 2018-12-21 Apple Inc. Hierarchical belief states for digital assistants
DK201770431A1 (en) 2017-05-15 2018-12-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
DK201770411A1 (en) 2017-05-15 2018-12-20 Apple Inc. MULTI-MODAL INTERFACES
US20180336892A1 (en) 2017-05-16 2018-11-22 Apple Inc. Detecting a trigger of a digital assistant
US10275651B2 (en) * 2017-05-16 2019-04-30 Google Llc Resolving automated assistant requests that are based on image(s) and/or other sensor data
US10403278B2 (en) 2017-05-16 2019-09-03 Apple Inc. Methods and systems for phonetic matching in digital assistant services
WO2018212822A1 (en) 2017-05-16 2018-11-22 Google Inc. Suggested actions for images
US10311144B2 (en) 2017-05-16 2019-06-04 Apple Inc. Emoji word sense disambiguation
US20180336275A1 (en) 2017-05-16 2018-11-22 Apple Inc. Intelligent automated assistant for media exploration
DK179549B1 (en) 2017-05-16 2019-02-12 Apple Inc. FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES
US11074280B2 (en) * 2017-05-18 2021-07-27 Aiqudo, Inc Cluster based search and recommendation method to rapidly on-board commands in personal assistants
US10664533B2 (en) * 2017-05-24 2020-05-26 Lenovo (Singapore) Pte. Ltd. Systems and methods to determine response cue for digital assistant based on context
US10657328B2 (en) 2017-06-02 2020-05-19 Apple Inc. Multi-task recurrent neural network architecture for efficient morphology handling in neural language modeling
US10348658B2 (en) 2017-06-15 2019-07-09 Google Llc Suggested items for use with embedded applications in chat conversations
US10404636B2 (en) 2017-06-15 2019-09-03 Google Llc Embedded programs and interfaces for chat conversations
CN109102802B (zh) 2017-06-21 2023-10-17 三星电子株式会社 用于处理用户话语的系统
US10742435B2 (en) * 2017-06-29 2020-08-11 Google Llc Proactive provision of new content to group chat participants
US11017037B2 (en) * 2017-07-03 2021-05-25 Google Llc Obtaining responsive information from multiple corpora
KR102406718B1 (ko) * 2017-07-19 2022-06-10 삼성전자주식회사 컨텍스트 정보에 기반하여 음성 입력을 수신하는 지속 기간을 결정하는 전자 장치 및 시스템
CN110019699B (zh) 2017-09-05 2023-10-20 声音猎手公司 域间通过语法槽的分类
US11074911B2 (en) 2017-09-05 2021-07-27 First Advantage Corporation Digital assistant
US10445429B2 (en) 2017-09-21 2019-10-15 Apple Inc. Natural language understanding using vocabularies with compressed serialized tries
US10394957B2 (en) * 2017-09-25 2019-08-27 Microsoft Technology Licensing, Llc Signal analysis in a conversational scheduling assistant computing system
US10755051B2 (en) 2017-09-29 2020-08-25 Apple Inc. Rule-based natural language processing
KR102487669B1 (ko) 2017-09-29 2023-01-13 현대자동차주식회사 대화 시스템, 이를 포함하는 차량 및 대화 처리 방법
CN107773982B (zh) * 2017-10-20 2021-08-13 科大讯飞股份有限公司 游戏语音交互方法及装置
WO2019103200A1 (ko) * 2017-11-23 2019-05-31 주식회사 모다 통합 음성비서 서비스 제공 방법 및 장치
US10636424B2 (en) 2017-11-30 2020-04-28 Apple Inc. Multi-turn canned dialog
EP3519936B1 (en) * 2017-12-08 2020-04-08 Google LLC Isolating a device, from multiple devices in an environment, for being responsive to spoken assistant invocation(s)
CN109920429A (zh) * 2017-12-13 2019-06-21 上海擎感智能科技有限公司 一种用于车载的语音识别数据处理方法及系统
US10891526B2 (en) 2017-12-22 2021-01-12 Google Llc Functional image archiving
KR102532300B1 (ko) 2017-12-22 2023-05-15 삼성전자주식회사 어플리케이션 실행 방법 및 이를 위한 장치
US10733982B2 (en) 2018-01-08 2020-08-04 Apple Inc. Multi-directional dialog
US10733375B2 (en) 2018-01-31 2020-08-04 Apple Inc. Knowledge-based framework for improving natural language understanding
KR102066451B1 (ko) * 2018-02-02 2020-01-15 주식회사 오비고 차량용 ai 서비스를 제공하는 방법 및 이를 이용한 장치
CN110209776B (zh) * 2018-02-13 2023-10-27 鼎捷软件股份有限公司 操作虚拟助理的方法及系统
US10789959B2 (en) 2018-03-02 2020-09-29 Apple Inc. Training speaker recognition models for digital assistants
CN111819566A (zh) 2018-03-05 2020-10-23 谷歌有限责任公司 通过自动助理在先前对话场境之间的转变
KR102508677B1 (ko) 2018-03-08 2023-03-13 삼성전자주식회사 사용자 발화를 처리하는 시스템 및 그 시스템의 제어 방법
US10592604B2 (en) 2018-03-12 2020-03-17 Apple Inc. Inverse text normalization for automatic speech recognition
US10818288B2 (en) * 2018-03-26 2020-10-27 Apple Inc. Natural assistant interaction
US10909331B2 (en) 2018-03-30 2021-02-02 Apple Inc. Implicit identification of translation payload with neural machine translation
US11056107B2 (en) * 2018-03-30 2021-07-06 International Business Machines Corporation Conversational framework
CN113536093A (zh) * 2018-04-26 2021-10-22 华为技术有限公司 一种信息处理方法及装置
EP3753016A4 (en) 2018-05-02 2021-05-05 Samsung Electronics Co., Ltd. CONTEXTUAL RECOMMENDATION
US10877718B2 (en) 2018-05-07 2020-12-29 Spotify Ab Adaptive voice communication
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
CN110489517B (zh) * 2018-05-09 2023-10-31 鼎捷软件股份有限公司 虚拟助理的自动学习方法及系统
KR102562227B1 (ko) 2018-06-12 2023-08-02 현대자동차주식회사 대화 시스템, 그를 가지는 차량 및 차량의 제어 방법
KR20200042127A (ko) 2018-10-15 2020-04-23 현대자동차주식회사 대화 시스템, 이를 포함하는 차량 및 대화 처리 방법
KR20200006739A (ko) 2018-07-11 2020-01-21 현대자동차주식회사 대화 시스템, 이를 포함하는 차량 및 대화 처리 방법
KR102695306B1 (ko) 2018-06-27 2024-08-16 현대자동차주식회사 대화 시스템, 그를 가지는 차량 및 차량의 제어 방법
KR20190131741A (ko) * 2018-05-17 2019-11-27 현대자동차주식회사 대화 시스템 및 대화 처리 방법
US10984780B2 (en) 2018-05-21 2021-04-20 Apple Inc. Global semantic word embeddings using bi-directional recurrent neural networks
KR20190133100A (ko) * 2018-05-22 2019-12-02 삼성전자주식회사 어플리케이션을 이용하여 음성 입력에 대한 응답을 출력하는 전자 장치 및 그 동작 방법
KR20190135676A (ko) 2018-05-29 2019-12-09 현대자동차주식회사 대화 시스템, 이를 포함하는 차량 및 대화 처리 방법
EP3576084B1 (de) 2018-05-29 2020-09-30 Christoph Neumann Effiziente dialoggestaltung
US11386266B2 (en) 2018-06-01 2022-07-12 Apple Inc. Text correction
DK201870355A1 (en) 2018-06-01 2019-12-16 Apple Inc. VIRTUAL ASSISTANT OPERATION IN MULTI-DEVICE ENVIRONMENTS
DK179822B1 (da) 2018-06-01 2019-07-12 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
US10892996B2 (en) 2018-06-01 2021-01-12 Apple Inc. Variable latency device coordination
DK180639B1 (en) 2018-06-01 2021-11-04 Apple Inc DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT
US11076039B2 (en) 2018-06-03 2021-07-27 Apple Inc. Accelerated task performance
KR20200000155A (ko) 2018-06-22 2020-01-02 현대자동차주식회사 대화 시스템 및 이를 이용한 차량
KR20200000604A (ko) 2018-06-25 2020-01-03 현대자동차주식회사 대화 시스템 및 대화 처리 방법
US11386338B2 (en) * 2018-07-05 2022-07-12 International Business Machines Corporation Integrating multiple domain problem solving in a dialog system for a user
KR20200006738A (ko) 2018-07-11 2020-01-21 현대자동차주식회사 대화 시스템 및 대화 처리 방법
US11075007B2 (en) 2018-07-18 2021-07-27 International Business Machines Corporation Dynamic selection of virtual agents in a mutli-domain expert system
US10887454B2 (en) 2018-08-20 2021-01-05 Samsung Electronics Co., Ltd. Electronic apparatus and control method thereof
JP7159707B2 (ja) * 2018-09-04 2022-10-25 富士フイルムビジネスイノベーション株式会社 表示装置及びプログラム
KR20200027753A (ko) * 2018-09-05 2020-03-13 삼성전자주식회사 전자 장치 및 단축 명령어에 대응하는 태스크 수행 방법
CN110930999A (zh) * 2018-09-19 2020-03-27 上海博泰悦臻电子设备制造有限公司 语音互动方法、装置及车辆
US11010561B2 (en) 2018-09-27 2021-05-18 Apple Inc. Sentiment prediction from textual data
US10839159B2 (en) 2018-09-28 2020-11-17 Apple Inc. Named entity normalization in a spoken dialog system
US11462215B2 (en) 2018-09-28 2022-10-04 Apple Inc. Multi-modal inputs for voice commands
US11170166B2 (en) 2018-09-28 2021-11-09 Apple Inc. Neural typographical error modeling via generative adversarial networks
US20200127988A1 (en) * 2018-10-19 2020-04-23 Apple Inc. Media intercom over a secure device to device communication channel
US11528589B2 (en) 2018-10-26 2022-12-13 Motorola Solutions, Inc. Device, system and method for modifying actions associated with an emergency call
US11475898B2 (en) 2018-10-26 2022-10-18 Apple Inc. Low-latency multi-speaker speech recognition
KR20210084615A (ko) * 2018-12-03 2021-07-07 구글 엘엘씨 음성 입력 프로세싱
RU2701090C1 (ru) * 2018-12-19 2019-09-24 Самсунг Электроникс Ко., Лтд. Система и способ для автоматического выполнения команд, заданных пользователем
KR20210110650A (ko) 2018-12-28 2021-09-08 구글 엘엘씨 선택된 제안에 따라 자동 어시스턴트에 음성 입력 보충하기
US11638059B2 (en) 2019-01-04 2023-04-25 Apple Inc. Content playback on multiple devices
US11455982B2 (en) * 2019-01-07 2022-09-27 Cerence Operating Company Contextual utterance resolution in multimodal systems
RU2721999C1 (ru) * 2019-03-18 2020-05-25 Сергей Александрович Гайдамаков Ассоциативная сеть контактов, заметок и/или событий
US11348573B2 (en) 2019-03-18 2022-05-31 Apple Inc. Multimodality in digital assistant systems
KR20200119531A (ko) * 2019-04-10 2020-10-20 삼성전자주식회사 자연어 응답을 생성하는 전자 장치 및 자연어 응답 생성 방법
US11307752B2 (en) 2019-05-06 2022-04-19 Apple Inc. User configurable task triggers
US11423908B2 (en) 2019-05-06 2022-08-23 Apple Inc. Interpreting spoken requests
US11475884B2 (en) 2019-05-06 2022-10-18 Apple Inc. Reducing digital assistant latency when a language is incorrectly determined
DK201970509A1 (en) 2019-05-06 2021-01-15 Apple Inc Spoken notifications
JP7417634B2 (ja) * 2019-05-10 2024-01-18 グーグル エルエルシー 音声認識のためのエンドツーエンドモデルでコンテキスト情報を使用すること
US11140099B2 (en) 2019-05-21 2021-10-05 Apple Inc. Providing message response suggestions
EP3977257A1 (en) * 2019-05-31 2022-04-06 Google LLC Dynamically assigning multi-modality circumstantial data to assistant action requests for correlating with subsequent requests
DK180129B1 (en) 2019-05-31 2020-06-02 Apple Inc. USER ACTIVITY SHORTCUT SUGGESTIONS
US11289073B2 (en) 2019-05-31 2022-03-29 Apple Inc. Device text to speech
DK201970511A1 (en) 2019-05-31 2021-02-15 Apple Inc Voice identification in digital assistant systems
KR102425473B1 (ko) * 2019-05-31 2022-07-25 애플 인크. 온-디바이스 목표설정 및 개인화를 통한 음성 어시스턴트 발견가능성
US11496600B2 (en) 2019-05-31 2022-11-08 Apple Inc. Remote execution of machine-learned models
US11360641B2 (en) 2019-06-01 2022-06-14 Apple Inc. Increasing the relevance of new available information
US11227599B2 (en) 2019-06-01 2022-01-18 Apple Inc. Methods and user interfaces for voice-based control of electronic devices
CN110211584A (zh) * 2019-06-04 2019-09-06 广州小鹏汽车科技有限公司 车辆控制方法、装置、存储介质及控制终端
CN110413654B (zh) * 2019-06-20 2023-11-21 平安科技(深圳)有限公司 一种确定客户可信联系信息的方法、装置、计算机设备和存储介质
US11438452B1 (en) 2019-08-09 2022-09-06 Apple Inc. Propagating context information in a privacy preserving manner
CN112397062B (zh) * 2019-08-15 2024-10-18 华为技术有限公司 语音交互方法、装置、终端及存储介质
WO2021061370A1 (en) * 2019-09-24 2021-04-01 Apple Inc. Resolving natural language ambiguities with respect to a simulated reality setting
WO2021056255A1 (en) 2019-09-25 2021-04-01 Apple Inc. Text detection using global geometry estimators
US20210104220A1 (en) * 2019-10-08 2021-04-08 Sarah MENNICKEN Voice assistant with contextually-adjusted audio output
KR20210046475A (ko) * 2019-10-18 2021-04-28 삼성전자주식회사 전자 장치 및 이의 음성 인식 기능 구동 방법
KR102135859B1 (ko) 2019-10-24 2020-07-20 주식회사 유니온플레이스 개인화된 가상 비서를 제공하는 장치
US20210125610A1 (en) * 2019-10-29 2021-04-29 Facebook Technologies, Llc Ai-driven personal assistant with adaptive response generation
US11227583B2 (en) 2019-11-05 2022-01-18 International Business Machines Corporation Artificial intelligence voice response system having variable modes for interaction with user
KR20220062360A (ko) 2019-11-27 2022-05-16 구글 엘엘씨 동적으로 업데이트되는 자연어 처리를 통한 애플리케이션과의 인터페이스
US11574634B2 (en) 2019-11-27 2023-02-07 Google Llc Interfacing with applications via dynamically updating natural language processing
CN110995936B (zh) * 2019-12-19 2021-03-19 大众问问(北京)信息科技有限公司 一种语音交互方法、装置及设备
CN111061453B (zh) * 2019-12-26 2023-12-26 北京官匠空间科技有限公司 一种用于app生态系统的语音交互方法、装置
CN111222322B (zh) * 2019-12-31 2022-10-25 联想(北京)有限公司 信息处理方法和电子设备
JPWO2021192794A1 (ja) * 2020-03-25 2021-09-30
CN111488441B (zh) * 2020-04-08 2023-08-01 北京百度网讯科技有限公司 问题解析方法、装置、知识图谱问答系统和电子设备
KR102389179B1 (ko) * 2020-04-14 2022-04-22 주식회사 오비고 차량 AVN 시스템의 상태 정보를 이용한 차량앱 제어 방법 및 이를 이용한 AI Service Agent
US11038934B1 (en) 2020-05-11 2021-06-15 Apple Inc. Digital assistant hardware abstraction
US11061543B1 (en) 2020-05-11 2021-07-13 Apple Inc. Providing relevant data items based on context
US11755276B2 (en) 2020-05-12 2023-09-12 Apple Inc. Reducing description length based on confidence
US11490204B2 (en) 2020-07-20 2022-11-01 Apple Inc. Multi-device audio adjustment coordination
US11438683B2 (en) 2020-07-21 2022-09-06 Apple Inc. User identification using headphones
US12027163B2 (en) 2020-07-27 2024-07-02 Samsung Electronics Co., Ltd. Electronic device and operation method thereof
CN112182373B (zh) * 2020-09-25 2023-06-02 中国人民大学 一种基于上下文表示学习的性化搜索方法
EP3989057A1 (de) * 2020-10-23 2022-04-27 Deutsche Telekom AG Adaptiver sprachassistent bedienbar durch einen nutzer mittels eines nutzerendgeräts
US11705111B2 (en) 2020-11-12 2023-07-18 Samsung Electronics Co., Ltd. Methods and systems for predicting non-default actions against unstructured utterances
US12112747B2 (en) 2020-12-04 2024-10-08 Samsung Electronics Co., Ltd. Method for controlling external device based on voice and electronic device thereof
CN112631138A (zh) * 2020-12-09 2021-04-09 创维集团有限公司 一种基于智能家居智能控制系统的办公控制方法
CN113066489A (zh) * 2021-03-16 2021-07-02 深圳地平线机器人科技有限公司 语音交互方法、装置、计算机可读存储介质及电子设备
US11705125B2 (en) 2021-03-26 2023-07-18 International Business Machines Corporation Dynamic voice input detection for conversation assistants
CN113297359B (zh) * 2021-04-23 2023-11-28 阿里巴巴新加坡控股有限公司 交互信息的方法以及装置
DE102021120246A1 (de) 2021-08-04 2023-02-09 Bayerische Motoren Werke Aktiengesellschaft Spracherkennungssystem
WO2023018908A1 (en) * 2021-08-11 2023-02-16 MeetKai, Inc. Conversational artificial intelligence system in a virtual reality space
US20230124889A1 (en) * 2021-10-15 2023-04-20 Rovi Guides, Inc. Systems and methods to generate contextual based actions
TWI823195B (zh) * 2021-11-25 2023-11-21 荷蘭商荷蘭移動驅動器公司 智慧推薦方法及系統
DE102022112444A1 (de) 2022-05-18 2023-11-23 Bayerische Motoren Werke Aktiengesellschaft Spracherkennungssystem
US11978436B2 (en) 2022-06-03 2024-05-07 Apple Inc. Application vocabulary integration with a digital assistant
US11995457B2 (en) 2022-06-03 2024-05-28 Apple Inc. Digital assistant integration with system interface
CN115064168B (zh) * 2022-08-17 2022-12-13 广州小鹏汽车科技有限公司 语音交互方法、服务器和存储介质
WO2024049459A1 (en) * 2022-08-30 2024-03-07 Google Llc Reducing metadata transmitted with automated assistant requests
WO2024058474A1 (ko) * 2022-09-15 2024-03-21 삼성전자주식회사 음성 인식을 수행하는 전자 장치 및 이의 제어 방법
WO2024071469A1 (ko) * 2022-09-28 2024-04-04 엘지전자 주식회사 인공지능 기기 및 그의 동작 방법
CN115565519B (zh) * 2022-11-30 2023-04-07 广汽埃安新能源汽车股份有限公司 对话语音生成方法、装置、设备、计算机可读介质
US11695867B1 (en) 2022-12-07 2023-07-04 V Group Inc. Methods and systems for facilitating context-to-call communications between communication points via dedicated context-to-call-enabled contact numbers

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001109493A (ja) * 1999-10-12 2001-04-20 Mitsubishi Electric Corp 音声対話装置
JP2006146182A (ja) * 2004-11-16 2006-06-08 Microsoft Corp 音声コマンドを明瞭化する集中化された方法およびシステム
JP2007323475A (ja) * 2006-06-02 2007-12-13 Advanced Telecommunication Research Institute International 自然言語における多義解消装置及びコンピュータプログラム
US20090150156A1 (en) * 2007-12-11 2009-06-11 Kennewick Michael R System and method for providing a natural language voice user interface in an integrated voice navigation services environment
JP2010066519A (ja) * 2008-09-11 2010-03-25 Brother Ind Ltd 音声対話装置、音声対話方法、および音声対話プログラム
US20110022388A1 (en) * 2009-07-27 2011-01-27 Wu Sung Fong Solomon Method and system for speech recognition using social networks
WO2011116309A1 (en) * 2010-03-19 2011-09-22 Digimarc Corporation Intuitive computing methods and systems

Family Cites Families (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08339288A (ja) * 1995-06-14 1996-12-24 Canon Inc 情報処理装置及びその制御方法
PL185513B1 (pl) * 1995-09-14 2003-05-30 Ericsson Inc Sposób i urządzenie do selektywnej zmiany ramki sygnału cyfrowego ukształtowanego z wielu kolejnych ramek
US20030093281A1 (en) * 1999-05-21 2003-05-15 Michael Geilhufe Method and apparatus for machine to machine communication using speech
US6584439B1 (en) * 1999-05-21 2003-06-24 Winbond Electronics Corporation Method and apparatus for controlling voice controlled devices
US6324512B1 (en) * 1999-08-26 2001-11-27 Matsushita Electric Industrial Co., Ltd. System and method for allowing family members to access TV contents and program media recorder over telephone or internet
JP4200607B2 (ja) * 1999-09-03 2008-12-24 ソニー株式会社 情報処理装置および方法、並びにプログラム格納媒体
US6353794B1 (en) * 1999-10-19 2002-03-05 Ar Group, Inc. Air travel information and computer data compilation, retrieval and display method and system
JP2001216131A (ja) 2000-02-04 2001-08-10 Sony Corp 情報処理装置および方法、並びにプログラム格納媒体
KR100380829B1 (ko) * 2000-09-09 2003-04-18 주식회사 모빅텔커뮤니케이션스 에이전트를 이용한 대화 방식 인터페이스 운영 시스템 및방법과 그 프로그램 소스를 기록한 기록 매체
US20020087306A1 (en) * 2000-12-29 2002-07-04 Lee Victor Wai Leung Computer-implemented noise normalization method and system
US7257537B2 (en) * 2001-01-12 2007-08-14 International Business Machines Corporation Method and apparatus for performing dialog management in a computer conversational interface
US7031916B2 (en) * 2001-06-01 2006-04-18 Texas Instruments Incorporated Method for converging a G.729 Annex B compliant voice activity detection circuit
US20030233230A1 (en) * 2002-06-12 2003-12-18 Lucent Technologies Inc. System and method for representing and resolving ambiguity in spoken dialogue systems
US7003464B2 (en) * 2003-01-09 2006-02-21 Motorola, Inc. Dialog recognition and control in a voice browser
JP2004239963A (ja) 2003-02-03 2004-08-26 Mitsubishi Electric Corp 車載制御装置
KR20040088975A (ko) * 2003-04-14 2004-10-20 주식회사 케이티 개인비서 전화서비스 시스템 및 그 방법
US7302392B1 (en) * 2003-10-07 2007-11-27 Sprint Spectrum L.P. Voice browser with weighting of browser-level grammar to enhance usability
US7669177B2 (en) * 2003-10-24 2010-02-23 Microsoft Corporation System and method for preference application installation and execution
US20060036430A1 (en) * 2004-08-12 2006-02-16 Junling Hu System and method for domain-based natural language consultation
US7826945B2 (en) * 2005-07-01 2010-11-02 You Zhang Automobile speech-recognition interface
US7949529B2 (en) * 2005-08-29 2011-05-24 Voicebox Technologies, Inc. Mobile systems and methods of supporting natural language human-machine interactions
US8126120B2 (en) * 2005-12-12 2012-02-28 Tellme Networks, Inc. Providing missed call and message information
US7657849B2 (en) 2005-12-23 2010-02-02 Apple Inc. Unlocking a device by performing gestures on an unlock image
US7480870B2 (en) 2005-12-23 2009-01-20 Apple Inc. Indication of progress towards satisfaction of a user input condition
IL174107A0 (en) * 2006-02-01 2006-08-01 Grois Dan Method and system for advertising by means of a search engine over a data network
US7599861B2 (en) * 2006-03-02 2009-10-06 Convergys Customer Management Group, Inc. System and method for closed loop decisionmaking in an automated care system
US8423347B2 (en) * 2006-06-06 2013-04-16 Microsoft Corporation Natural language personal information management
US9318108B2 (en) * 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8073681B2 (en) * 2006-10-16 2011-12-06 Voicebox Technologies, Inc. System and method for a cooperative conversational voice user interface
US20080147411A1 (en) * 2006-12-19 2008-06-19 International Business Machines Corporation Adaptation of a speech processing system from external input that is not directly related to sounds in an operational acoustic environment
US8762143B2 (en) * 2007-05-29 2014-06-24 At&T Intellectual Property Ii, L.P. Method and apparatus for identifying acoustic background environments based on time and speed to enhance automatic speech recognition
US9954996B2 (en) 2007-06-28 2018-04-24 Apple Inc. Portable electronic device with conversation management for incoming instant messages
US20090182562A1 (en) * 2008-01-14 2009-07-16 Garmin Ltd. Dynamic user interface for automated speech recognition
US8121837B2 (en) * 2008-04-24 2012-02-21 Nuance Communications, Inc. Adjusting a speech engine for a mobile computing device based on background noise
US8082148B2 (en) * 2008-04-24 2011-12-20 Nuance Communications, Inc. Testing a grammar used in speech recognition for reliability in a plurality of operating environments having different background noise
KR101462932B1 (ko) * 2008-05-28 2014-12-04 엘지전자 주식회사 이동 단말기 및 그의 텍스트 수정방법
JP2010079103A (ja) 2008-09-26 2010-04-08 Brother Ind Ltd 音声対話装置及びそのプログラム並びに音声対話処理方法
US8285545B2 (en) * 2008-10-03 2012-10-09 Volkswagen Ag Voice command acquisition system and method
US8584031B2 (en) 2008-11-19 2013-11-12 Apple Inc. Portable touch screen device, method, and graphical user interface for using emoji characters
US20100146437A1 (en) 2008-12-04 2010-06-10 Microsoft Corporation Glanceable animated notifications on a locked device
US8539382B2 (en) * 2009-04-03 2013-09-17 Palm, Inc. Preventing unintentional activation and/or input in an electronic device
US10706373B2 (en) * 2011-06-03 2020-07-07 Apple Inc. Performing actions associated with task items that represent tasks to perform
US9197736B2 (en) * 2009-12-31 2015-11-24 Digimarc Corporation Intuitive computing methods and systems
US8301121B2 (en) * 2010-01-22 2012-10-30 Sony Ericsson Mobile Communications Ab Regulating alerts generated by communication terminals responsive to sensed movement
US8626511B2 (en) * 2010-01-22 2014-01-07 Google Inc. Multi-dimensional disambiguation of voice commands

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001109493A (ja) * 1999-10-12 2001-04-20 Mitsubishi Electric Corp 音声対話装置
JP2006146182A (ja) * 2004-11-16 2006-06-08 Microsoft Corp 音声コマンドを明瞭化する集中化された方法およびシステム
JP2007323475A (ja) * 2006-06-02 2007-12-13 Advanced Telecommunication Research Institute International 自然言語における多義解消装置及びコンピュータプログラム
US20090150156A1 (en) * 2007-12-11 2009-06-11 Kennewick Michael R System and method for providing a natural language voice user interface in an integrated voice navigation services environment
JP2010066519A (ja) * 2008-09-11 2010-03-25 Brother Ind Ltd 音声対話装置、音声対話方法、および音声対話プログラム
US20110022388A1 (en) * 2009-07-27 2011-01-27 Wu Sung Fong Solomon Method and system for speech recognition using social networks
WO2011116309A1 (en) * 2010-03-19 2011-09-22 Digimarc Corporation Intuitive computing methods and systems
JP2013527947A (ja) * 2010-03-19 2013-07-04 ディジマーク コーポレイション 直観的コンピューティング方法及びシステム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018530026A (ja) * 2015-07-24 2018-10-11 フェイスブック,インク. メッセージングによるパーソナル・アシスタント・サービスの提供
US10686738B2 (en) 2015-07-24 2020-06-16 Facebook, Inc. Providing personal assistant service via messaging
CN106814639A (zh) * 2015-11-27 2017-06-09 富泰华工业(深圳)有限公司 语音控制系统及方法
JP2021182168A (ja) * 2016-01-06 2021-11-25 グーグル エルエルシーGoogle LLC 音声認識システム
US11996103B2 (en) 2016-01-06 2024-05-28 Google Llc Voice recognition system
JP2021507381A (ja) * 2017-12-15 2021-02-22 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 認知システムのためのコミュニケーション・モデル
JP7292780B2 (ja) 2017-12-15 2023-06-19 インターナショナル・ビジネス・マシーンズ・コーポレーション 認知システムのためのコミュニケーション・モデル
US11836592B2 (en) 2017-12-15 2023-12-05 International Business Machines Corporation Communication model for cognitive systems
US11113473B2 (en) 2018-04-02 2021-09-07 SoundHound Inc. Interpreting expressions having potentially ambiguous meanings in different domains

Also Published As

Publication number Publication date
BR102012024861A2 (pt) 2017-02-14
KR20180052112A (ko) 2018-05-17
KR102309489B1 (ko) 2021-10-07
JP7357113B2 (ja) 2023-10-05
DE102012019178A1 (de) 2013-04-04
KR20240010057A (ko) 2024-01-23
KR20210122755A (ko) 2021-10-12
MX2012011426A (es) 2013-04-01
RU2012141604A (ru) 2014-04-10
KR20130035983A (ko) 2013-04-09
KR20160142802A (ko) 2016-12-13
JP2020194557A (ja) 2020-12-03
JP2017139004A (ja) 2017-08-10
CA2791277C (en) 2019-01-15
JP6285883B2 (ja) 2018-02-28
BR102012024861B1 (pt) 2021-02-09
KR102622737B1 (ko) 2024-01-10
EP3200185A1 (en) 2017-08-02
GB2495222B (en) 2016-10-26
AU2012232977A1 (en) 2013-04-18
KR102447546B1 (ko) 2022-09-26
JP2022119908A (ja) 2022-08-17
JP2023169360A (ja) 2023-11-29
EP3392876A1 (en) 2018-10-24
GB201217449D0 (en) 2012-11-14
NL2009544B1 (en) 2017-05-24
KR102145660B1 (ko) 2020-08-18
KR101683083B1 (ko) 2016-12-07
KR20220136304A (ko) 2022-10-07
JP2013080476A (ja) 2013-05-02
CA3023918C (en) 2022-11-29
JP7082645B2 (ja) 2022-06-08
CA2791277A1 (en) 2013-03-30
JP6740162B2 (ja) 2020-08-12
EP2575128A3 (en) 2013-08-14
KR20190132321A (ko) 2019-11-27
CN103226949B (zh) 2017-02-01
CA3023918A1 (en) 2013-03-30
KR102048375B1 (ko) 2019-11-25
EP2575128A2 (en) 2013-04-03
RU2542937C2 (ru) 2015-02-27
JP5698203B2 (ja) 2015-04-08
NL2009544A (en) 2013-04-03
GB2495222A (en) 2013-04-03
CN103226949A (zh) 2013-07-31

Similar Documents

Publication Publication Date Title
JP7357113B2 (ja) バーチャルアシスタントのコマンド処理を容易にするためのコンテクスト情報の使用
AU2023202497B2 (en) Processing of commands in a virtual assistant
US20230409283A1 (en) Interface for a virtual digital assistant
US10475446B2 (en) Using context information to facilitate processing of commands in a virtual assistant

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150421

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160615

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161110

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20161128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170328

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170403

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20170414

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180202

R150 Certificate of patent or registration of utility model

Ref document number: 6285883

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250