JPWO2017168936A1 - 情報処理装置、情報処理方法、及びプログラム - Google Patents

情報処理装置、情報処理方法、及びプログラム Download PDF

Info

Publication number
JPWO2017168936A1
JPWO2017168936A1 JP2018508407A JP2018508407A JPWO2017168936A1 JP WO2017168936 A1 JPWO2017168936 A1 JP WO2017168936A1 JP 2018508407 A JP2018508407 A JP 2018508407A JP 2018508407 A JP2018508407 A JP 2018508407A JP WO2017168936 A1 JPWO2017168936 A1 JP WO2017168936A1
Authority
JP
Japan
Prior art keywords
user
mode
utterance
feedback
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018508407A
Other languages
English (en)
Other versions
JP6819672B2 (ja
Inventor
真里 斎藤
真里 斎藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2017168936A1 publication Critical patent/JPWO2017168936A1/ja
Application granted granted Critical
Publication of JP6819672B2 publication Critical patent/JP6819672B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/067Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/165Management of the audio stream, e.g. setting of volume, audio stream path
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/06Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/065Adaptation
    • G10L15/07Adaptation to the speaker
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/28Constructional details of speech recognition systems
    • G10L15/32Multiple recognisers used in sequence or in parallel; Score combination systems therefor, e.g. voting systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/225Feedback of the input speech

Abstract

【課題】ユーザとシステムとの間のより自然な対話を実現する。【解決手段】ユーザの発話認識に係る情報に応じて、前記ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択する制御部、を備え、前記複数のモードは、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、を含む、情報処理装置を提供する。また、プロセッサが、ユーザの発話認識に係る情報に応じて、前記ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択すること、を含み、前記複数のモードは、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、を含む、情報処理方法を提供する。【選択図】図7

Description

本開示は、情報処理装置、情報処理方法、及びプログラムに関する。
近年、ユーザの発話や動作を認識し、認識した入力に対応する処理を実行する種々の装置が提案されている。また、ユーザからの入力に対しフィードバックを行い、入力の認識精度を高めようとする技術が知られている。上記のような技術としては、例えば、特許文献1に記載の情報処理装置がある。
特開2011−209787号公報
しかし、特許文献1に記載の情報処理装置では、入力に対するフィードバックの方式が固定されており、ユーザの状況に応じた対応が困難である。
そこで、本開示では、ユーザとシステムとの間のより自然な対話を実現することが可能な情報処理装置、情報処理方法、及びプログラムを提案する。
本開示によれば、ユーザの発話認識に係る情報に応じて、前記ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択する制御部、を備え、前記複数のモードは、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、を含む、情報処理装置が提供される。
以上説明したように本開示によれば、ユーザとシステムとの間のより自然な対話を実現することが可能となる。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示に係るシステム構成例を示す図である。 本開示に係る入出力端末の機能ブロック図である。 本開示に係る情報処理装置の機能ブロック図である。 本開示の実施形態に係る入出力端末とユーザとの対話例を示す図である。 同実施形態に係る暗示的フィードバックの制御の流れを示す図である。 同実施形態に係る入出力端末の音量レベルを説明するための図である。 同実施形態に係る認識の試行回数に基づくフィードバック制御の流れを示す図である。 同実施形態に係る発話態様の変化度合いに基づくフィードバック制御の流れを示す図である。 同実施形態に係る発話位置及び発話方向に対するフィードバック制御の流れを示す図である。 同実実施形態に係る改善理由を付加した明示的なフィードバックの制御の流れを説明するための図である。 同実施形態に係る視覚情報によるフィードバックの追加制御の流れを示す図である。 同実施形態に係るインジケータを用いたフィードバックの例である。 同実施形態に係るインジケータを用いたフィードバックの例である。 同実施形態に係るアバターを用いたフィードバックの例である 同実施形態に係るアバターを用いたフィードバックの例である 同実施形態に係るアバターを用いたフィードバックの例である 同実施形態に係るグラフィックを用いたフィードバックの例である。 同実施形態に係るグラフィックを用いたフィードバックの例である。 同実施形態に係るグラフィックを用いたフィードバックの例である。 同実施形態に係るアバターを用いたフィードバックの例である 同実施形態に係るアバターを用いたフィードバックの例である 同実施形態に係るアバターを用いたフィードバックの例である 同実施形態に係るグラフィックを用いたフィードバックの例である。 同実施形態に係るグラフィックを用いたフィードバックの例である。 入出力端末及び情報処理装置のハードウェア構成例を示す図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.本開示に係るフィードバックの制御
1.1.音声認識技術におけるフィードバック
1.2.本開示に係るシステム構成例
1.3.本開示に係る入出力端末10
1.4.本開示に係る情報処理装置30
2.実施形態
2.1.フィードバックのモードについて
2.2.暗示的なフィードバックの例
2.3.フィードバックに係るモードの切り替え
2.4.改善理由を付加した明示的なフィードバック
2.5.視覚情報によるフィードバックの追加制御
2.6.視覚情報によるフィードバックの例
3.入出力端末10及び情報処理装置30のハードウェア構成例
4.まとめ
<1.本開示に係るフィードバックの制御>
<<1.1.音声認識技術におけるフィードバック>>
近年、音声認識技術を利用した様々な装置が提供されている。音声認識技術を利用した装置は、PC(Personal Computer)やスマートフォンなどの情報処理装置をはじめ、生活家電や車載用装置など、一般消費者に近い場面でも広く利用されている。また、音声認識技術を利用した装置は、商業施設や公共施設において、人の代わりとなり顧客にサービスを提供する主体としても、今後の活用が期待される。
上記のような装置では、例えば、ユーザの発話を認識し、認識した発話内容に基づいてアプリケーションの処理を実行することが可能である。また、上記のような装置は、ユーザの発話に対する認識結果に応じて、ユーザに対しフィードバックを行う機能を有する場合がある。当該フィードバックは、例えば、装置がユーザの発話を認識できなかった場合に、装置の表示部に、「声が小さいです」、というテキストメッセージが表示されることで行われる。ユーザは、当該メッセージを確認することで、発話した内容が装置に認識されなかったことを知覚し、次の行動を起こすことができる。このように、音声認識技術を利用した装置は、発話に関するフィードバックを行うことで、ユーザに対し、発話の改善を求めることができる。この際、装置によるフィードバックの内容が明確であるほど、ユーザの発話を改善できる可能性は向上する。
一方、装置によるフィードバックは、ユーザの当該装置に対する印象に大きく影響する。例えば、装置によるフィードバックが常に明確である場合、ユーザは、当該装置に対し、「冷たい」、「固い」、といった印象を抱きかねない。これは、ユーザが実際の人間との対話と、装置との対話と、を比較するためである。人間同士による対話は、状況に応じて変化するものであるため、常に一定したフィードバックを行う装置に対し、ユーザは不自然さを覚えてしまう。また、上記のような印象は、装置の技術レベルが低い、という評価にも繋がりかねない。さらには、装置によるフィードバックが明確である場合、ユーザによっては、装置に指示されていると感じ、当該装置に対し嫌悪感を抱くことも想定される。
本開示に係る情報処理装置、情報処理方法、及びプログラムは、上記の点に着目して発想されたものであり、ユーザの発話認識に係る情報に応じて、ユーザの発話態様に対するフィードバックのモードを複数のモードから選択すること、を特徴の一つとする。また、上記の複数のモードには、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、が含まれる。以降の説明においては、本開示に係る情報処理装置、情報処理方法、及びプログラムの特徴を挙げながら、当該特徴が奏する効果について述べる。
<<1.2.本開示に係るシステム構成例>>
まず、図1を参照して、本開示に係る情報処理システムの構成例について説明する。図1を参照すると、本開示に係る情報処理システムは、入出力端末10及び情報処理装置30を備える。また、入出力端末10と情報処理装置30は、ネットワーク20を介して互いに通信が行えるように接続される。
ここで、入出力端末10は、ユーザの発話を収音し、当該発話に基づいたアプリケーションの処理結果をユーザに提示する端末であってよい。また、入出力端末10は、ユーザの発話に対するフィードバックを行う機能を有してよい。図1には、入出力端末10が、ユーザP1の発話、”Hello.”、に対し、”May I help you?”、という音声出力によるフィードバックを行う一例が示されている。
また、本開示に係る情報処理装置30は、入出力端末10が収音したユーザP1の発話に基づいて、当該発話に対して入出力端末10が実行するフィードバックを制御する機能を有する。情報処理装置30は、入出力端末10が収音したユーザP1の発話を、ネットワーク20を介して取得し、当該発話に基づく情報に応じて、当該発話態様に対するフィードバックのモードを、複数のモードから選択してよい。また、上記の複数のモードには、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、が含まれてよい。
また、ネットワーク20は、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。ネットワーク20は、IP−VPN(Internt Protocol−Virtual Private Network)などの専用回線網であってもよい。
なお、以降の説明においては、入出力端末10と情報処理装置30とから成るシステム構成を例に述べるが、本開示に係る情報システムの構成は、係る例に限定されない。例えば、情報処理装置30は、ユーザの発話を収音し、当該発話に対するフィードバックを実行する機能を有してもよい。情報処理装置30が上記のような入出力機能を有する場合、情報処理装置30は、フィードバックの制御を担うと同時に、入出力端末10としての役割を果たすこともできる。
また、音声認識の結果に基づいて処理されるアプリケーションの機能は、入出力端末10で実行されてもよいし、情報処理装置30で実行されてもよい。ユーザの発話に基づくアプリケーションの処理は、当該アプリケーション、入出力端末10、及び情報処理装置30の仕様により適宜変更され得る。
<<1.3.本開示に係る入出力端末10>>
次に、本開示に係る入出力端末10について、詳細に説明する。上記で説明したとおり、本開示に係る入出力端末10は、ユーザの発話を収音する機能を有する。また、入出力端末10は、ユーザの発話認識に係る情報に応じて情報処理装置30が制御するフィードバックの情報をユーザに提示する機能を有する。
本開示に係る入出力端末10は、上記の機能を有する様々な装置として実現され得る。本開示に係る入出力端末10は、例えば、ユーザの発話に基づいて種々の処理を実行する専用のエージェントであってもよい。当該エージェントには、対話型ロボットや、自動販売機、音声案内装置などが含まれてもよい。また、本開示に係る入出力端末10は、PC(Personal Computer)、タブレット、スマートフォンなどの情報処理端末であってもよい。さらには、入出力端末10は、建物や車両に組み込まれて用いられる装置であってもよい。本開示に係る入出力端末10は、音声認識機能を応用した種々の装置に広く適用され得る。
以下、図2を参照して、本開示に係る入出力端末10の機能構成例について説明する。図2を参照すると、本開示に係る入出力端末10は、音声入力部110、センサ部120、音声出力部130、表示部140、端末制御部150、及びサーバ通信部160を備える。
(音声入力部110)
音声入力部110は、ユーザの発話及び環境音を収音する機能を有する。音声入力部110は、ユーザの発話及び環境音を電気信号に変換するマイクロフォンを含んでよい。また、音声入力部110は、特定方向の音を収音する指向性を有したマイクアレイを含んでもよい。上記のようなマイクアレイにより、音声入力部110が、ユーザの発話を環境音と切り離して収音することも可能となる。また、音声入力部110は、マイクロフォンやマイクアレイを複数含んでもよい。当該構成により、音源の位置、向き、及び動きなどをより高い精度で検出することが可能となる。
(センサ部120)
センサ部120は、ユーザを含む物体に関する種々の情報を検出する機能を有する。センサ部120は、上記の情報を検出するための複数のセンサを含んでよい。センサ部120は、ユーザの動作を検出するための撮像素子や、赤外線センサ、温度センサなどを含んでもよい。また、センサ部120は、撮像した画像に基づく画像認識を行う機能を有してよい。例えば、センサ部120は、ユーザの口の動きを検出することで、発話を行っているユーザを特定することができる。
(音声出力部130)
音声出力部130は、電気信号を音に変換し出力する機能を有する。具体的には、音声出力部130は、情報処理装置30が制御するフィードバックの情報に基づいて、音声出力によりユーザへのフィードバックを行う機能を有する。音声出力部130は、上記の機能を有するスピーカを含んでよい。また、音声出力部130に含まれるスピーカは、特定の方向や距離などに指向性を持つ音声出力を実現する機能を有してもよい。当該機能を有するスピーカを含むことで、音声出力部130は、例えば、センサ部120が検出したユーザの位置に応じた音声出力を実施することができる。また、音声出力部130は、複数のスピーカを含んでもよい。音声出力部130が複数のスピーカを含む場合、フィードバックを出力するスピーカを制御することで、ユーザの位置に応じたフィードバックを実行することが可能となる。当該機能の詳細については、後述する。
さらには、音声出力部130は、情報処理装置30が制御するフィードバックの情報に基づいて、音声合成を行う機能を有してよい。音声出力部130は、例えば、情報処理装置30から取得したテキスト情報に基づいて、テキスト読み上げ(TTS: Text To Speech)を行ってもよい。
(表示部140)
表示部140は、情報処理装置30が制御するフィードバックの情報に基づいて、視覚情報によるユーザへのフィードバックを行う機能を有する。当該機能は、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD:Liquid Crystal Display)装置、OLED(Organic Light Emitting Diode)装置により実現されてもよい。また、表示部140は、ユーザの操作を受け付ける操作部としての機能を有してもよい。操作部としての機能は、例えば、タッチパネルにより実現され得る。
(端末制御部150)
端末制御部150は、上記で述べた入出力端末10の各構成を制御する機能を有する。端末制御部150は、例えば、音声入力部110及びセンサ部120が検出した各種の情報を取得し、後述するサーバ通信部160を介して、情報処理装置30に送信する機能を有してよい。また、端末制御部150は、サーバ通信部160を介して情報処理装置30からフィードバックに係る情報を取得し、当該情報に基づいて、音声出力部130及び表示部140を制御してもよい。また、ユーザの発話に基づいて処理を実行するアプリケーションが入出力端末10に備えられる場合、端末制御部150は、当該アプリケーションの処理を制御することができる。
以上、本開示に係る入出力端末10について説明した。上記の説明においては、入出力端末10が、ユーザの発話などの入力を受け付ける機能と、ユーザの発話認識に係る情報に応じたフィードバックをユーザに提示する機能と、を併せて有する場合を例に説明した。一方、本開示に係るシステム構成は係る例に限定されない。本開示に係るシステムは、入力機能を有する入力端末と、上記のフィードバックを提示する出力端末と、を別々の備えてもよい。この場合、入力端末は、例えば、上記で説明した音声入力部110、センサ部120、及び端末制御部150の有する機能を備えてもよい。また、出力端末は、例えば、上記で説明した音声出力部130、表示部140、及び端末制御部150の有する機能を備えてもよい。本開示に係るシステム構成は、柔軟に変形され得る。
(サーバ通信部160)
サーバ通信部160は、ネットワーク20を介して、情報処理装置30との情報通信を行う機能を有する。具体的には、サーバ通信部160は、音声入力部110やセンサ部120が取得した情報を、端末制御部150の制御に基づいて、情報処理装置30に送信する。また、サーバ通信部160は、情報処理装置30から取得したフィードバックの情報を端末制御部150に引き渡す。
<<1.4.本開示に係る情報処理装置30>>
次に、本開示に係る情報処理装置30について、詳細に説明する。本開示に係る情報処理装置30は、入出力端末10が収音したユーザの発話認識に係る情報に応じて、ユーザの発話態様に対して入出力端末10が実行するフィードバックを制御する機能を有する。情報処理装置30は、ユーザの発話認識に係る情報に応じて、ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択することができる。上記の複数のモードには、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、が含まれてよい。また、上記の発話態様には、発話音量、発話速度、発話する音の高さ、発音の明確さ、発話位置、発話方向、発話内容、及び環境音が含まれてよい。
本開示に係る情報処理装置30は、上記の機能を有するサーバであってもよい。また、情報処理装置30は、ユーザの発話を検出し、フィードバックを実行する各種のエージェント、PC、タブレット、またはスマートフォンであってもよい。
以下、図3を参照して、本開示に係る情報処理装置30の機能構成例について説明する。図3を参照すると、本開示に係る情報処理装置30は、端末通信部310、音声分析部320、音声認識部330、状態記憶部340、位置検出部350、及び出力制御部360を備える。
(端末通信部310)
端末通信部310は、ネットワーク20を介して、入出力端末10との情報通信を行う機能を有する。具体的には、端末通信部310は、入出力端末10から取得した各種の情報を、音声分析部320、音声認識部330、及び位置検出部350に引き渡す。また、端末通信部310は、出力制御部360により制御されるフィードバックの情報を取得し、入出力端末10に送信する機能を有する。なお、情報処理装置30が複数の入出力端末10を制御する場合、端末通信部310は、ネットワーク20を介して、複数の入出力端末10と情報通信を行ってよい。
(音声分析部320)
音声分析部320は、入出力端末10が収音した情報を取得し、当該情報を分析する機能を有する。音声分析部320は、例えば、ユーザの発話音量、発話速度、発話する音の高さ、または発音の明確さなどを含む、ユーザの発話態様に関する情報を分析できる。また、上記ユーザの発話態様には、ユーザの発話に付随して集音される環境音が含まれてよい。また、音声分析部320は、入出力端末10が収音した情報から、ユーザの発話と環境音とを分離する機能を有してもよい。ユーザの発話と環境音との分離は、人間の声に係る周波数帯域の情報などに基づいて行われてもよいし、VAD(Voice Activity Detection)技術などにより実現されてもよい。また、後述する状態記憶部340が、所定のユーザの音声に関する個人情報を記憶している場合、音声分析部320は、当該情報を用いて、ユーザの発話と環境音とを分離することもできる。
また、音声分析部320は、入出力端末10が収音したユーザの発話を分析し、当該ユーザを特定する機能を有してもよい。ユーザの特定は、ユーザの発話の分析結果と、後述する状態記憶部340に記憶されるユーザの声紋情報を比較することで行われてよい。
また、音声分析部320は、入出力端末10が収音したユーザの発話を分析し、当該ユーザの感情を推定する機能を有してもよい。ユーザの感情の推定は、例えば、韻律や振幅、強勢などの解析により行われてもよい。
(音声認識部330)
音声認識部330は、入出力端末10が収音した音声、または音声分析部320が分離したユーザの音声、に基づいて、ユーザの発話を認識する機能を有する。具体的には、音声認識部330は、取得した音声情報を音素化し、テキスト化する機能を有してよい。なお、音声認識部330による音声認識については種々の手法が用いられてよいため、詳細な説明は省略する。
(状態記憶部340)
状態記憶部340は、音声分析部320及び音声認識部330による処理結果を記憶する機能を有する。状態記憶部340は、例えば、音声分析部320により分析されたユーザの発話態様に係る情報や、音声認識部330による音声認識の結果を記憶できる。また、状態記憶部340は、ユーザの音声に係る特徴を含むユーザの属性情報や、発話態様の傾向などを記憶してもよい。
(位置検出部350)
位置検出部350は、入出力端末10が取得した情報に基づいて、ユーザの発話位置や発話方向を推定する機能を有する。位置検出部350は、入出力端末10の音声入力部110が収音した音声情報や、センサ部120が取得した画像情報を含む各種のセンサから収集された情報を基にユーザの発話位置及び発話方向を推定することができる。また、位置検出部350は、上記の情報を基に、発話を行っているユーザ以外の人物及び物体の位置を推定してもよい。
(出力制御部360)
出力制御部360は、音声分析部320、音声認識部330、状態記憶部340、及び位置検出部350から各種の情報を取得し、ユーザの発話に対するフィードバックを制御する機能を有する。出力制御部360は、上記の情報に基づいて、ユーザの発話態様に対するフィードバックのモードを複数のモードから選択する。当該複数のモードには、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、が含まれる。また、出力制御部360は、入出力端末10が行う音声または視覚情報によるフィードバックの情報を生成し、端末通信部310を介して、入出力端末10に送信してもよい。出力制御部360は、後述する出力DB370から条件に基づいたフィードバック情報を検索することで、上記のフィードバックの情報を生成してもよい。出力制御部360によるフィードバック制御の詳細については、後述する。
(出力DB370)
出力DB370は、入出力端末10が実施する音声または視覚情報によるフィードバックの情報を蓄積するデータベースであってよい。出力DB370は、例えば、フィードバックに係る音声情報を記憶してもよいし、入出力端末10の音声合成機能により音声出力させるためのテキスト情報を記憶してもよい。また、出力DB370は、入出力端末10が実施する視覚情報によるフィードバックに係る画像情報やテキスト情報を記憶してもよい。
<2.実施形態>
<<2.1.フィードバックのモードについて>>
以上、本開示に係るフィードバックの制御について、概要を述べた。続いて、本開示の実施形態に係るフィードバックの制御について、詳細に説明する。本実施形態に係る情報処理装置30は、ユーザの発話認識に係る情報に応じて、ユーザの発話態様に対するフィードバックのモードを複数のモードから選択することができる。
(暗示的なフィードバック)
暗示的なフィードバックとは、ユーザの発話態様に対する間接的な改善方法を含むフィードバックである。すなわち、暗示的なフィードバックでは、ユーザに発話態様の改善方法を直接的には提示せず、入出力端末10による出力の態様を変化させることでフィードバックが行われる。ここで、本実施形態に係る暗示的なフィードバックとは、ユーザの発話態様よりも認識精度の高い発話態様でのフィードバックと定義してもよい。上記の認識精度は、入出力端末10によるユーザの発話の認識精度であってよい。言い換えると、暗示的なフィードバックが行われる第1のモードでは、ユーザに期待する発話態様によるフィードバックが行われる。
例えば、ユーザの発話音量が小さい場合、第1のモードでは、ユーザの発話音量よりも大きい音量の音声出力によるフォードバックが行われてよい。また、例えば、ユーザの発話速度が速すぎる場合、第1のモードでは、ユーザの発話速度よりも遅い速度での音声出力によるフィードバックが行われてよい。また、本実施形態に係る第1のモードでは、上記とは逆方向のフィードバックを行うこともできる。すなわち、ユーザの発話音量が大きい場合、第1のモードでは、ユーザの発話音量よりも小さい音量の音声出力によるフォードバックが行われてよい。また、例えば、ユーザの発話速度が遅すぎる場合、第1のモードでは、ユーザの発話速度よりも速い速度での音声出力によるフィードバックが行われてよい。
図4は、暗示的なフィードバックを用いた、ユーザと入出力端末10との対話例を示す図である。図4では、横軸に時間経過が、縦軸に発話音量の大きさが、示されている。ここで、横軸に係る時間経過の単位は、例えばミリ秒(msec)であってもよい。また、縦軸に係る発話音量の単位は例えば例えばデジベル(dB)であってもよい。図4に示す一例では、まずユーザが発話Uv1を行っている。ここで、発話Uv1の発話内容は、例えば、「明日の予定は?」、という問い合わせであってもよい。また、本例における発話Uv1の発話音量は、例えば45dBであってよい。しかし、発話Uv1は、認識可能音量よりも小さい音量で発話されているため、情報処理装置30は発話Uv1を認識することが困難である。このため、情報処理装置30は、暗示的なフィードバックとして、認識可能な音量によるシステム出力Sv1を入出力端末10に出力させる。ここで、システム出力Sv1の発話内容は、例えば、「ご用ですか?」、という聞き直しであってもよい。また、この際のシステム出力Sv1は、例えば、60dBであってよい。
続いて、暗示的なフィードバックとしてのシステム出力Sv1を受けたユーザは、発話Uv2による再度の問い合わせを行っている。発話Uv2の発話内容は、例えば、「明日、予定ある?」という問い合わせであってもよい。また、本例における、発話Uv2の発話音量は、例えば45dBであってよい。すなわち、図4に示す一例では、暗示的なフィードバックであるシステム出力Sv1を受けたことで、ユーザの発話Uv2は発話Uv1よりも大きな音量で発話されており、認識可能音量を上回っている。このため、発話Uv2は、情報処理装置30により認識され、認識された発話Uv2に基づいて、入出力端末10がアプリケーションの実行結果として、システム出力Sv2を出力している。ここで、システム出力Sv2は、例えば、「明日は昼に通院の予定があります」、というユーザの予定に関する検索結果であってもよい。なお、この際のシステム出力Sv2は、例えばシステム出力Sv1と同等の音量で行われてもよい。
なお、図4に示す一例では、ユーザの発話が先に行われているが、入出力端末10が先に音声出力を行う場合においては、入出力端末10が認識可能な音量によるシステム出力を初めに例示することで、ユーザの発話音量を誘導することも可能である。
以上説明したように、暗示的なフィードバックが行われる第1のモードでは、ユーザに期待する認識精度の高い態様を例示することで、ユーザの発話態様が改善されるように促すフィードバックが行われる。
(明示的なフィードバック)
一方、明示的なフィードバックとは、ユーザの発話態様に対する直接的な改善方法を示すフィードバックであってよい。すなわち、明示的なフィードバックでは、入出力端末10による出力の態様を変化させる暗示的なフィードバックとは異なり、入出力端末10による認識精度を向上させるための改善方法を直接的にユーザに示してよい。このため、明示的なフィードバックが行われる第2のモードでは、ユーザの発話を認識するために、ユーザがとり得る発話の改善方法が具体的に提示される。例えば、ユーザの発話音量が小さい場合、第2のモードでは、「もっと大きな声で喋ってください」、という音声出力が行われてもよい。また、例えば、ユーザの発話速度が速すぎる場合、第2のモードでは、「もっとゆっくり喋ってください」、という音声出力が行われてもよい。上記のように、明示的なフィードバックが行われる第2のモードでは、ユーザがとり得る改善手段を明確に示すことで、ユーザの発話態様が改善されるように促すフィードバックが行われる。
本実施形態に係る情報処理装置30は、ユーザの発話態様を含む、ユーザの発話認識に係る情報に応じて、上記で説明した第1のモード又は第2のモードを選択すること、を特徴の一つとする。上述したとおり、明示的なフィードバックは、ユーザの装置に対する印象を損ねる可能性があり、また、多用されることで対話が不自然となる可能性がある。一方、暗示的なフィードバックは、明示的なフィードバックと比較して、人間同士に近いより自然な対話を実現できるものの、明示的なフィードバックに対し発話態様の改善効果は低いことが予想される。
上記の点を踏まえ、本実施形態に係る情報処理装置30は、暗示的なフィードバックが行われる第1のモードを基本としながら、状況に応じて、明示的なフィードバックが行われる第2のモードに切り替える制御を行う。情報処理装置30が当該制御を行うことで、ユーザとのより自然な対話を実現しながらも、ユーザにより発話の認識精度を高めることが可能となる。
<<2.2.暗示的なフィードバックの例>>
次に、本実施形態に係る暗示的なフィードバックの具体的な例について説明する。本実施形態では、ユーザの発話態様に応じて、様々な暗示的フィードバックが行われてよい。図5は、本実施形態に係る出力制御部360による暗示的なフィードバックの制御の流れを示すフローチャートである。
図5を参照すると、まず、出力制御部360は、ユーザの発話が認識可能であったか否かを判定する(S1101)。この際、出力制御部360は、音声認識部330から認識の結果を取得して判定を行ってよい。ステップS1101で、出力制御部360は、ユーザの発話が認識されたと判定すると(S1101:Yes)、暗示的なフィードバックに係る制御を終了し、認識された音声に基づくアプリケーションの処理に移行する。
一方、ステップS1101で、出力制御部360がユーザの発話が認識されていないと判定すると(S1101:No)、続いて、出力制御部360は、ユーザの発話音量と、環境音の音量と、を比較する(S1102)。この際、出力制御部360は、音声分析部320による分析結果を基に判定を行ってよい。ステップ1102で、出力制御部360が、環境音の音量がユーザの発話音量を上回ると判定すると(S1102:Yes)、出力制御部360は、環境調整を提案するフィードバック情報を生成する(S1106)。
上記の環境調整を提案するフィードバック情報は、例えば、「周りの音が大きいです」、という音声を出力させる命令であってもよい。このように、本実施形態に係る暗示的なフィードバックには、ユーザに期待する認識精度の高い態様によるフィードバックの他、ユーザに発話改善に対する気付きを与えるフィードバックが含まれてよい。
一方、ステップS1102で、出力制御部360が、環境音の音量よりもユーザの発話音量が大きいと判定すると(S1102:No)、続いて、出力制御部360は、ユーザの発話音量が認識されるために充分な大きさであったか、を判定する(S1103)。すなわち、出力制御部360は、ユーザの発話を認識できなかった原因がユーザの発話音量にあるか否かを判定する。
ここで、出力制御部360が、ユーザの発話音量が充分でなかったと判定した場合(S1103:No)、出力制御部360は、ユーザの発話音量よりも大きな音量の音声出力を行うフィードバック情報を生成する(S1107)。当該フィードバック情報は、例えば、ユーザの発話音量よりも大きな音量で聞き直しを行わせる命令であってもよい。
一方、ステップS1103で、出力制御部360が、ユーザの発話音量が充分であったと判定した場合(S1103:Yes)、続いて、出力制御部360は、ユーザの発話が音素化可能であったか否かを判定する(S1104)。すなわち、出力制御部360は、ユーザの発話を認識できなかった原因がユーザの発話速度や発音の明確さにあるか否かを判定する。
ここで、出力制御部360が、ユーザの発話が音素化できていないと判定した場合(S1104:No)、出力制御部360は、ユーザの発話速度よりも遅い速度で音声出力を行うフィードバック情報を生成する(S1108)。当該フィードバック情報は、例えば、ユーザの発話速度よりも遅い速度で聞き直しを行わせる命令であってもよい。また、当該フィードバック情報は、ピッチや声質などの変化を明確に発音した音声出力を行わせる命令であってもよい。
一方、ステップS1104で、出力制御部360が、ユーザの発話が音素化できていたと判定した場合(S1104:Yes)、続いて、出力制御部360は、ユーザの発話がテキスト化可能であったか否かを判定する(S1105)。すなわち、出力制御部360は、ユーザの発話を基に音素化された情報が、単語として認識されたか否かを判定する。
ここで、出力制御部360が、ユーザの発話が単語として認識さえていない、と判定した場合(S1105:No)、出力制御部360は、音素化された音を用いて音声出力を行うフィードバック情報を生成する(S1109)。当該フィードバック情報は、例えば、音素化された音の情報を用いて、「〇〇ですか?」、と聞き直しを行わせる命令であってもよい。
以上、本実施形態に係る暗示的なフィードバックの例について説明した。上記で説明したとおり、本実施形態に係る情報処理装置30は、ユーザの発話認識に係る情報に応じて、入出力端末10に様々な暗示的フィードバックを実行させることができる。情報処理装置30による当該制御により、人間同士に近いより自然な対話を実現することが可能となる。
<<2.3.フィードバックに係るモードの選択>>
次に、本実施形態の出力制御部360によるフィードバックに係るモードの選択について説明する。上述したとおり、本実施形態に係る情報処理装置30は、ユーザの発話認識に係る情報に応じて、ユーザの発話態様に対するフィードバックのモードを選択することができる。ここで、ユーザの発話認識に係る情報には、例えば、ユーザ情報、コンテンツ情報、環境情報、デバイス情報が含まれてよい。
上記のユーザ情報は、ユーザに関する情報であり、例えば、ユーザの発話態様、発話内容、属性情報、感情情報などであってよい。本実施形態に係る出力制御部360は、ユーザ情報に応じて、ユーザの発話態様に対するフィードバックのモードを選択することができる。
また、上記のコンテンツ情報は、ユーザの発話を認識し処理を行うアプリケーションに係る情報であってよい。ここで、コンテンツ情報は、例えば、アプリケーションの種類や仕様に関する情報を含んでよい。本実施形態に係る出力制御部360は、コンテンツ情報に応じて、ユーザの発話態様に対するフィードバックのモードを選択することができる。出力制御部360は、例えば、ユーザとの会話を主目的としたアプリケーションでは、第1のモードを選択し、情報検索を主目的としたアプリケーションでは、第2のモードを選択することもできる。
また、上記の環境情報は、ユーザや入出力端末10の周辺環境に係る情報であってよい。環境情報には、例えば、ユーザ以外の人物検出情報や、環境音の情報などが含まれてよい。本実施形態に係る出力制御部360は、環境情報に応じて、ユーザの発話態様に対するフィードバックのモードを選択することができる。
また、上記のデバイス情報は、入出力端末10の種類や仕様に関する情報であってよい。本実施形態に係る出力制御部360は、デバイス情報に応じて、ユーザの発話態様に対するフィードバックのモードを選択することができる。出力制御部360は、例えば、入出力端末10がユーザとの会話を主目的としたエージェントである場合に第1のモードを選択し、入出力端末10が事務的または機械的に利用されるデバイスである場合に第2のモードを選択することもできる。
以上、ユーザの発話認識に係る情報について説明した。上述したように、本実施形態に係る情報処理装置30は、暗示的なフィードバックが行われる第1のモードを基本としながら、状況に応じて、明示的なフィードバックが行われる第2のモードに切り替える制御を行うことができる。以下、出力制御部360がフィードバックに係るモードを切り替える条件を具体的に挙げながら説明する。
(認識の試行回数に基づくモードの選択)
まず、認識の試行回数に基づくモードの選択について説明する。本実施形態に係る出力制御部360は、ユーザの発話が所定の回数以内に認識されないことに基づいて、明示的なフィードバックが行われる第2のモードを選択することができる。なお、上記の所定の回数については、システムやアプリケーションの仕様に応じた種々の定義が行われてよい。本実施形態に係る所定の回数は、例えば、ユーザの発話に係る入力を検出したものの認識には至らなかった回数であってもよい(認証失敗回数)。また、所定の回数は、認識に係る入力待ち状態がタイムアウトした回数であってもよい(タイムアウト回数)。また、所定の回数は、ユーザの発話回数であってもよい(発話回数)。さらには、所定の回数は、上記に示した例の合計回数であてもよい。以下、図6及び図7を参照して、上記の制御について詳細に説明する。なお、以下の説明においては、ユーザの発話音量を判定する場合を例に説明を行う。
まず、図6を参照して、本実施形態に係る音声出力の音量レベルについて説明する。図6は、入出力端末10の音声出力部130による音声出力の音量レベルについて説明するための図である。図6に示す一例では、音声出力の音量レベルは、レベル1〜3の3段階に定義されており、レベルの数値が上がるほど、音量が大きくなってよい。ここで、レベル1は、音声出力部130による音声出力における初期設定値であってよい。レベル1における音量範囲は、例えば、0dB〜50dBであってもよい。ユーザの発話が正常に認識された場合、入出力端末10は、レベル1の音量でその後の応答を行ってよい。また、レベル2は、レベル1よりも一段階大きな音量と定義されてよい。レベル2における音量範囲は、例えば、51dB〜70dBであってもよい。また、レベル3は、レベル2よりも一段階大きな音量であり、暗示的なフィードバックにおける最大音量として定義されてもよい。レベル3における音量範囲は、例えば、71dB〜100dB、または71dB以上と定義されてもよい。
次に、図7を参照して、認識の試行回数に基づく第2のモードの選択について説明する。図7は、認識の試行回数に基づく出力制御部360の制御の流れを示すフローチャートである。まず、出力制御部360は、入出力端末10から取得したユーザの発話音量が、認識を行うための音量として不足しているか否かを判定する(S1201)。
ここで、ユーザの発話音量が認識を行うのに充分である場合(S1201:No)、出力制御部360は、ユーザの発話音量に係る判定の処理を終了する。一方、ユーザの発話音量が不足している場合(S1201:Yes)、出力制御部360は、図6で示したレベル2の音量による暗示的フィードバックを実行させるためのフィードバック情報を生成する(S1202)。すなわち、出力制御部360は、入出力端末10に、ユーザの発話音量よりも一段階レベルの高い音量による暗示的なフィードバックを実行させる。
ステップS1202による暗示的なフィードバックが実行された後、再度ユーザの発話を取得すると、出力制御部360は、取得したユーザの発話音量が、認識を行うための音量として不足しているか否か、再度判定を行う(S1203)。ここで、ユーザの発話音量が認識を行うのに充分である場合(S1203:No)、出力制御部360は、ユーザの発話音量に係る判定の処理を終了する。
一方、再度ユーザの発話音量が不足している場合(S1203:Yes)、出力制御部360は、図6で示したレベル3の音量による暗示的フィードバックを実行させるためのフィードバック情報を生成する(S1204)。すなわち、出力制御部360は、入出力端末10に、設定された最大音量による暗示的フィードバックを実行させる。
ステップS1204による暗示的なフィードバックが実行された後、再度ユーザの発話を取得すると、出力制御部360は、取得したユーザの発話音量が、認識を行うための音量として不足しているか否か、再度判定を行う(S1205)。ここで、ユーザの発話音量が認識を行うのに充分である場合(S1205:No)、出力制御部360は、ユーザの発話音量に係る判定の処理を終了する。
一方、再度ユーザの発話音量が不足している場合(S1205:Yes)、出力制御部360は、明示的なフィードバックを実行させるためのフィードバック情報を生成する(S1206)。すなわち、出力制御部360は、暗示的なフィードバックがユーザの発話態様の改善につながらないと判断し、入出力端末10に、明示的なフィードバックを実行させる。入出力端末10は、出力制御部360による制御に従って、ユーザに対し、例えば、「もっと大きな声で話してください」、という音声出力を行ってもよい。
以上説明したように、本実施形態に係る出力制御部360は、認識の試行回数に基づいて、明示的なフィードバックが行われる第2のモードを選択することができる。出力制御部360による上記の制御により、暗示的なフィードバックによる自然な対話を基本としながらも、ユーザの発話が所定の回数以内に認識されない場合において、認識の精度を向上させることが可能となる。
なお、上記の説明では、音量レベルを3段階に定義し、認識の試行回数が3回である場合を例に説明した。しかし、本実施形態に係る認識の試行回数に基づく第2のモードの選択は、係る例に限定されない。音量レベル及び認識の試行回数は適宜変更されてよい。また、上記の説明では、ユーザの発話態様のうち、ユーザの発話音量を判定する場合を例に説明した。しかし、本実施形態に係る認識の試行回数に基づく第2のモードの選択は、係る例に限定されない。出力制御部360は、ユーザの発話速度や発話の明確さを判定して、第2のモードを選択することも可能である。
(発話態様の変化度合いに基づくモードの選択)
次に、ユーザの発話態様の変化度合いに基づくモードの選択について説明する。本実施形態に係る出力制御部360は、暗示的なフィードバックを受けたユーザの発話態様に改善が認められないことに基づいて、第2のモードを選択することができる。以下、図8を参照して、上記の制御について詳細に説明する。なお、以下の説明においては、ユーザの発話音量を判定する場合を例に説明を行う。
まず、出力制御部360は、入出力端末10から取得したユーザの発話音量が、認識を行うための音量として不足しているか否かを判定する(S1301)。こで、ユーザの発話音量が認識を行うのに充分である場合(S1301:No)、出力制御部360は、ユーザの発話音量に係る判定の処理を終了する。一方、ユーザの発話音量が不足している場合(S1301:Yes)、出力制御部360は、図6で示したレベル2の音量による暗示的フィードバックを実行させるためのフィードバック情報を生成する(S1302)。
ステップS1302による暗示的なフィードバックが実行された後、再度ユーザの発話を取得すると、出力制御部360は、取得したユーザの発話音量と、前回の発話音量と、を比較して発話音量の変化度合いを判定する(S1303)。この際、出力制御部360は、状態記憶部340に記憶される、ユーザの前回の発話態様の分析結果を取得することで、上記の判定を行うことができる。
ここで、ユーザの発話音量が認識可能な大きさまで充分に変化している場合(S1303:充分な変化)、出力制御部360は、ユーザの発話音量に係る判定の処理を終了する。一方、ステップS1303で、ユーザの発話音量に変化があるものの認識可能な大きさには至らない場合(S1303:不充分な変化)、出力制御部360は、図6で示したレベル3の音量による暗示的フィードバックを実行させるためのフィードバック情報を生成する(S1305)。また、ステップS1303で、ユーザの発話音量に変化がない場合、または発話音量が小さくなっている場合(S1303:変化なし)、出力制御部360は、暗示的なフィードバックがユーザの発話態様の改善につながらないと判断し、入出力端末10に、明示的なフィードバックを実行させる。
以上説明したように、本実施形態に係る出力制御部360は、ユーザの発話態様の変化度合いに基づいて、明示的なフィードバックが行われる第2のモードを選択することができる。出力制御部360による上記の制御により、暗示的なフィードバックにユーザが反応を示さない場合でも、認識の精度を向上させることが可能となる。
なお、上記の説明では、ユーザの発話態様のうち、ユーザの発話音量を判定する場合を例に説明した。しかし、本実施形態に係るユーザの発話態様の変化度合いに基づく第2のモードの選択は、係る例に限定されない。出力制御部360は、ユーザの発話速度や発話の明確さを判定して、第2のモードを選択することも可能である。
(発話位置又は発話方向に基づくモードの選択)
次に、ユーザの発話位置または発話方向に基づくモードの選択について説明する。本実施形態に係る出力制御部360は、暗示的なフィードバックを受けたユーザの発話位置または発話方向に改善が認められないことに基づいて、第2のモードを選択することができる。このように、本実施形態に係るユーザの発話態様には、ユーザの発話位置や発話方向が含まれてよい。
図9は、ユーザの発話位置または発話方向に基づく出力制御部360の制御の流れを示すフローチャートである。まず、出力制御部360は、入出力端末10から取得したユーザの発話音量が、認識を行うための音量として不足しているか否かを判定する(S1401)。ここで、ユーザの発話音量が認識を行うのに充分である場合(S1401:No)、出力制御部360は、ユーザの発話位置及び発話方向に係る判定の処理を終了する。
一方、ユーザの発話音量が不足している場合(S1401:Yes)、続いて、出力制御部360は、ユーザの発話位置が適切か否かを判定する(S1402)。すなわち、出力制御部360は、発話音量の不足が発話位置に起因するか否かを判定する。この際、出力制御部360は、位置検出部350が推定したユーザの発話位置の情報を基に、上記の判定を行うことができる。
ステップS1402で、出力制御部360がユーザの発話位置が適切でないと判定した場合(S1402:No)、出力制御部360は、ユーザの発話位置に対する暗示的なフィードバックを実行させるためのフィードバック情報を生成する(S1404)。当該フィードバック情報は、例えば、「声が遠いようです」、という音声を入出力端末10に出力させる命令であってもよい。
一方、ステップS1402で、出力制御部360がユーザの発話位置が適切であると判定した場合(S1402:Yes)、続いて、出力制御部360は、ユーザの発話方向が適切か否かを判定する(S1403)。すなわち、出力制御部360は、発話音量の不足が発話方向に起因するか否かを判定する。この際、出力制御部360は、位置検出部350が推定したユーザの発話方向の情報を基に、上記の判定を行うことができる。
ステップS1403で、出力制御部360がユーザの発話方向が適切であると判定した場合(S1403:Yes)、出力制御部360は、ユーザの発話位置及び発話方向に係る判定の処理を終了する。
一方、ステップS1403で、出力制御部360がユーザの発話方向が適切でないと判定した場合(S1403:No)、出力制御部360は、ユーザの発話方向に対する暗示的なフィードバックを実行させるためのフィードバック情報を生成する(S1405)。当該フィードバック情報は、例えば、「私に話しかけていますか?」、という音声を入出力端末10に出力させる命令であってもよい。また、ステップS1405で生成されるフィードバック情報は、音声出力を行うスピーカに関する指定であってもよい。例えば、入出力端末10の音声出力部130が複数のスピーカを含む場合、暗示的なフィードバックを出力させるスピーカを限定することで、ユーザに対し、発話方向に対する気付きを与えることができる。また、音声出力部130がマイクアレイを含む場合、上記のフィードバック情報には、当該マイクアレイの指向性を設定する情報が含まれてもよい。
ステップS1404またはステップS1405において暗示的なフィードバックが実行された後、再度ユーザの発話認識に係る情報を取得すると、出力制御部360は、ユーザの発話位置または発話方向が改善されたか否かを判定する(S1406)。ここで、出力制御部360が、ユーザの発話位置または発話方向が改善されたと判定した場合(S1406:Yes)、出力制御部360は、発話位置及び発話方向に係る判定の処理を終了する。
一方、出力制御部360がユーザの発話位置または発話方向が改善されていないと判定した場合(S1406:No)、出力制御部360は、ユーザの発話位置または発話方向に対する明示的なフィードバックを実行させるフィードバック情報を生成する。当該フィードバック情報は、例えば、「マイクに近づいてください」、「マイクの方向に喋ってください」、という音声を入出力端末10に出力させる命令であってもよい。
以上説明したように、本実施形態に係る出力制御部360は、ユーザの発話位置または発話方向に基づいて、明示的なフィードバックが行われる第2のモードを選択することができる。なお、上記では、ユーザの発話音量が不足している場合について説明したが、ユーザの発話位置または発話方向に基づく第2のモードの選択は、環境音の音量を考慮して制御されてもよい。例えば、入出力端末10が建物に組み込まれたエージェントであり、当該建物の複数の部屋に音声入力部110及び音声出力部130を備える場合を想定する。この際、ユーザが発話を行った部屋の環境音が大きく、ユーザの発話を認識するのが困難な場合、情報処理装置30は、ユーザを別の部屋に誘導するフィードバック情報を生成してもよい。すなわち、情報処理装置30は、ユーザの発話を検出したマイクロフォンとは異なる別のマイクロフォンに発話が行われるよう、ユーザを誘導することができる。このように、出力制御部360がユーザの発話位置または発話方向に基づいたフィードバックの制御を行うことで、入出力端末10の仕様に応じた様々なフィードバックを実現することが可能となる。
(発話態様の分析に基づくモードの選択)
次に、ユーザの発話態様の分析に基づくモードの選択について説明する。本実施形態に係る出力制御部360は、ユーザの発話態様の分析結果に基づいて、フィードバックのモードを制御することができる。上記の発話態様には、発話音量、発話速度、発話する音の高さ、発音の明確さ、発話位置、発話方向、発話内容、及び環境音が含まれてよい。
―ユーザの属性情報に基づくモードの選択―
まず、ユーザの属性情報に基づくモードの選択について説明する。本実施形態に係る出力制御部360は、ユーザの属性情報に基づいて、フィードバックのモードを制御することができる。ユーザの属性情報は、音声分析部320がユーザの発話態様を分析することで得られる情報、または音声認識部330による音声認識の結果から得られる情報であってよい。また、ユーザの属性情報には、ユーザの性別、年齢などのプロフィール情報や、使用言語、発話態様の傾向などの情報が含まれてよい。
出力制御部360は、ユーザの発話態様の傾向に基づいて、フィードバックのモードを選択してもよい。例えば、音声分析部320の分析により特定されたユーザが、発話音量が小さい傾向にある場合、出力制御部360は、第2のモードを優先的に選択してもよい。このように、出力制御部360がユーザの発話傾向に基づいてモードの選択を行うことで、ユーザの発話を認識するまでの時間を短縮することが期待できる。
また、出力制御部360は、モードに関するユーザの行った設定に基づいて、フィードバックのモードを選択してもよい。ユーザが発話に対するフィードバックのモードを設定できる場合、出力制御部360は、音声分析部320の分析により特定されたユーザの設定に従ってフィードバックのモードを設定することができる。
また、出力制御部360は、複数のユーザの属性情報から得られる統計情報に基づいて、フィードバックのモードを選択してもよい。出力制御部360は、特定の属性情報をキーに、当該属性を有するユーザグループの発話態様の傾向などを取得し、当該傾向に基づいて、モードの選択を行ってもよい。上記の制御は、入出力端末10が不特定多数のユーザに利用される環境において、特に有効である。
―ユーザの感情に基づくモードの選択―
次に、ユーザの感情に基づくモードの選択について説明する。本実施形態に係る出力制御部360は、ユーザの感情に基づいて、フィードバックのモードを制御することができる。ユーザの感情は、音声分析部320がユーザの発話態様を分析することで得られる情報であってよい。
出力制御部360は、例えば、ユーザが興奮状態であると推定されることに基づいて、第1のモードを選択してもよい。上述したとおり、ユーザによっては、明示的なフィードバックに嫌悪感を抱くことも想定される。このため、出力制御部360は、ユーザが興奮状態であると推定される場合には、入出力端末10に暗示的なフィードバックを行わせることで、ユーザの感情を損ねる恐れを軽減することができる。
―発話内容に基づくモードの選択―
次に、ユーザの発話内容に基づくモードの選択について説明する。本実施形態に係る出力制御部360は、ユーザの発話内容に基づいて、フィードバックのモードを制御することができる。ユーザの発話内容は、音声認識部330による音声認識の結果から得られる情報であってよい。
出力制御部360は、例えば、ユーザの発話内容がプライバシー情報を含むと推定されることに基づいて、第2のモードを選択してもよい。本実施形態に係る暗示的フィードバックでは、音素化またはテキスト化できた要素を用いた聞き直しが行われる可能性がある。このため、ユーザ以外の人物にプライバシー情報が漏えいすることを防ぐために、出力制御部360は、第2のモードを設定することができる。また、出力制御部360が上記の制御を行うことで、プライバシー情報に係る発話の認識精度を向上させ、対話をより短い時間で終了させることが可能となる。
―環境情報に基づくモードの選択―
次に、環境情報に基づくモードの選択について説明する。本実施形態に係る出力制御部360は、ユーザの周囲に第三者の存在が検出されたことに基づいて、フィードバックのモードを制御することができる。第三者の検出は、位置検出部350による検出結果から得られる情報、または音声認識部330による音声認識の結果から得られる情報であってよい。
出力制御部360は、例えば、ユーザの周囲に第三者の存在が検出されたことに基づいて、第1のモードを選択してもよい。上述したとおり、ユーザによっては、明示的なフィードバックを、装置に指示されている、と感じる場合がある。このようなユーザは、周囲人物に明示的なフィードバックを聞かれることで、入出力端末10に対する印象をより損ねると予想される。このため、出力制御部360は、ユーザの周囲に第三者の存在が検出された場合には、入出力端末10に暗示的なフィードバックを行わせることで、ユーザの感情を損ねる恐れを軽減することができる。
<<2.4.改善理由を付加した明示的なフィードバック>>
以上、出力制御部360によるフィードバックに係るモードの選択について説明した。次に、本実施形態に係る改善理由を付加した明示的なフィードバックについて説明する。本開示に係る出力制御部360は、明示的なフィードバックが行われる第2のモードにおいて、入出力端末10に、改善理由を付加したフィードバックを実行させることができる。出力制御部360が、ユーザに発話態様を改善する理由を併せて提示するようにフィードバックを制御することで、明示的なフィードバックの表現を和らげ、ユーザの感情を損ねる可能性を低減することが可能となる。
図10は、出力制御部360による改善理由の付加の流れを示すフローチャートである。図10に示す一例において、出力制御部360は、まず、音声分析部320による発話の分析結果を取得し、検出された音声の数を判定する(S1501)。すなわち、出力制御部360は、収音情報に複数人の音声が含まれているか否かを判定する。
ステップS1501において、出力制御部360が、一人の音声のみが検出されていると判定した場合(S1501:一人の音声)、出力制御部360は、フィードバック情報に改善理由1を設定する(S1502)。ここで、フィードバック情報に設定される改善理由1は、例えば、「まわりの音が大きすぎるので」、という付加情報であってもよい。
また、ステップS1501において、出力制御部360が、複数人音声が検出されていると判定した場合(S1501:複数人の音声)、出力制御部360は、フィードバック情報に改善理由2を設定する(S1503)。ここで、フィードバック情報に設定される改善理由2は、例えば、「他の人が話しているようなので」、という付加情報であってもよい。
また、ステップS1501において、出力制御部360が、音声の数を判定することが困難である場合(S1501:特定困難)、出力制御部360は、フィードバック情報に改善理由3を設定する(S1504)。ここで、フィードバック情報に設定される改善理由3は、例えば、「ちょっと聞こえにくいので」、という付加情報であってもよい。
ステップS1502〜S1504において、いずれかの改善理由が設定されると、続いて、出力制御部360は、改善理由を付加した明示的なフィードバックを実行させるフィードバック情報を生成し、入出力端末10に送信する(S1505)。ステップS1505で生成されるフィードバック情報は、例えば、「もう少し大きな声で言ってください」、という出力情報と、改善理由と、を組み合わせた情報であってよい。例えば、ステップS1502で改善理由1が設定されている場合、ステップS1505で生成される情報は、「まわりの音が大きすぎるので、もう少し大きな声でいってください」という出力情報であってよい。
以上説明したように、本実施形態に係る出力制御部360は、明示的なフィードバックが行われる第2のモードにおいて、入出力端末10に、改善理由を付加したフィードバックを実行させることができる。出力制御部360による上記の制御により、明示的なフィードバックの表現を和らげ、より自然な対話を実現することが可能となる。
<<2.5.視覚情報によるフィードバックの追加制御>>
次に、本実施形態に係る視覚情報によるフィードバックの追加について説明する。本実施形態に係る出力制御部360は、音声出力によるフィードバックに加え、視覚情報によるフィードバックを制御することが可能である。また、出力制御部360は、ユーザの発話態様が充分に変化しないことに基づいて、視覚情報によるフィードバックを追加することができる。以下、図11を参照して、出力制御部360による上記の制御について、詳細に説明する。
まず、出力制御部360は、ユーザの発話音量が認識を行うための音量として不足しているか否かを判定する(S1601)。ここで、ユーザの発話音量が認識を行うのに充分である場合(S1601:No)、出力制御部360は、視覚情報によるフィードバックの追加に係る制御を終了する。一方、ユーザの発話音量が不足している場合(S1601:Yes)、出力制御部360は、図6で示したレベル2の音量による暗示的フィードバックを実行させるためのフィードバック情報を生成する(S1602)。
ステップS1602による暗示的なフィードバックが実行された後、再度ユーザの発話を取得すると、出力制御部360は、取得したユーザの発話音量が、認識を行うための音量として不足しているか否か、再度判定を行う(S1603)。ここで、ユーザの発話音量が認識を行うのに充分である場合(S1603:No)、出力制御部360は、視覚情報によるフィードバックの追加に係る制御を終了する。
一方、再度ユーザの発話音量が不足している場合(S1603:Yes)、出力制御部360は、図6で示したレベル3の音量による暗示的フィードバックを実行させるためのフィードバック情報を生成する(S1604)。また、出力制御部360は、視覚情報による暗示的フィードバックを実行させるためのフィードバック情報を生成する(S1605)。暗示的フィードバックを実行させるためのフィードバック情報は、例えば、入出力端末10の表示部140に、音声出力によるフィードバックと同様のテキスト情報を表示させる命令であってもよい。また、暗示的フィードバックを実行させるためのフィードバック情報は、後述する画像やアニメーションを用いたフィードバックを実行させる命令であってもよい。
ステップS1604〜S1605において、暗示的なフィードバックが実行された後、再度ユーザの発話を取得すると、出力制御部360は、取得したユーザの発話音量が、認識を行うための音量として不足しているか否か、再度判定を行う(S1606)。ここで、ユーザの発話音量が認識を行うのに充分である場合(S1606:No)、出力制御部360は、視覚情報によるフィードバックの追加に係る制御を終了する。
一方、再度ユーザの発話音量が不足している場合(S1606:Yes)、出力制御部360は、音声出力による明示的なフィードバックを実行させるためのフィードバック情報を生成する(S1607)。また、出力制御部360は、視覚情報による明示的なフィードバックを実行させるためのフィードバック情報を生成する(S1608)。
以上説明したように、本実施形態に係る出力制御部360は、音声出力によるフィードバックに加え、視覚情報によるフィードバックを制御することが可能である。また、出力制御部360は、音声出力によるフィードバックの制御と同様に、段階的に視覚によるフィードバックを追加することができる。出力制御部360が上記の制御を行うことにより、音声による暗示的なフィードバックを基本としながらも、認識の精度を向上させることが可能となる。
<<2.6.視覚情報によるフィードバックの例>>
以上、本実施形態に係る視覚情報によるフィードバックの制御について説明した。以下、図12〜図16を参照して、本実施形態に係る視覚情報によるフィードバックの例について説明する。上記の視覚情報には、文字、記号、アバター、インジケータ、または画像の変化が含まれてよい。
(インジケータによる暗示的フィードバック)
図12は、本実施形態の視覚情報による暗示的なフィードバックに用いられるインジケータの一例である。図12Aを参照すると、入出力端末10の表示部140には、2つのインジケータi1及びi2が表示されている。ここで、インジケータi1は、ユーザの発話音量を示すインジケータであってよい。また、インジケータi2は、入出力端末10の出力音量を示すインジケータであってよい。それぞれのインジケータi1及びi2は、ユーザの発話音量または入出力端末10の出力音量の変化に応じて、表示部140の上部に向けてグラデーションの占める割合が変化してよい。すなわち、ユーザの発話音量が大きいほど、インジケータi1は、表示部140の画面上部に向けてグラデーションが広がり、入出力端末10の出力音量が大きいほど、インジケータi2は、表示部140の画面上部に向けてグラデーションが広がってよい。
また、図12Bは、別のインジケータの例を示す図である。図12Bを参照すると、入出力端末10の表示部140には、2つのインジケータi3及びi4が表示されている。ここで、インジケータi3は、ユーザの発話音量を示すインジケータであってよい。また、インジケータi4は、入出力端末10の出力音量を示すインジケータであってよい。それぞれのインジケータi3及びi4は、ユーザの発話音量または入出力端末10の出力音量の変化に応じて、表示部140の中央に向けて音量レベルを示すバーの数が変化してよい。すなわち、ユーザの発話音量が大きいほど、インジケータi3は、表示部140の画面中央に向けてバーの数が増え、入出力端末10の出力音量が大きいほど、インジケータi4は、表示部140の画面中央に向けてバーの数が増えてよい。
ユーザは、表示部140に表示されるインジケータを確認することで、入出力端末10の出力音量と、ユーザの発話音量と、を比較することができる。これにより、ユーザが、発話音量が不足していることを認識し、発話態様を改善する効果が期待される。
(アバターによる発話方向に対する暗示的フィードバック)
次に、図13を参照して、本実施形態の視覚情報による暗示的なフィードバックに用いられるアバターについて、一例を説明する。図13に示されるアバターは、ユーザの発話方向に対する暗示的なフィードバックを行うための画像やアニメーションであってよい。図13Aを参照すると、入出力端末10の表示部140には、アバターa1が表示されている。また、入出力端末10の下部には、音声入力部110が配置されている。ここで、アバターa1は、ユーザの発話方向が適切である場合に表示されるアバターの一例であってよい。
図13Bは、ユーザの発話方向が適切でない場合に表示されるアバターの一例である。図13Bを参照すると、図13Aとは異なり、音声入力部110は、入出力端末10の向かって左側に配置されている。また、アバターa2は、表示部140の向かって左側に表示されており、視線は音声入力部110に向いている。
続いて、図13Cを参照する。図13Cも、図13Bと同様、ユーザの発話方向が適切でない場合に表示されるアバターの一例を示している。図13Cを参照すると、図13Aとは異なり、音声入力部110は、入出力端末10の向かって右側に配置されている。また、アバターa3は、表示部140の向かって右側に表示されており、視線は音声入力部110に向いている。
以上、説明したように、図13に示す一例では、ユーザの発話方向が適切でない場合、アバターが音声入力部110の位置を示唆することによる暗示的なフィードバックが行われる。ユーザがアバターの画像やアニメーションの動きを視認することで、ユーザの発話方向が改善される効果が期待される。
(グラフィックを用いた発話方向に対する暗示的フィードバック)
次に、図14を参照して、本実施形態の視覚情報による暗示的なフィードバックに用いられるグラフィックについて、一例を説明する。図14に示されるグラフィックg1は、ユーザの発話方向に対する暗示的なフィードバックを行うための画像やアニメーションであってよい。図14Aを参照すると、入出力端末10の表示部140には、グラフィックg1が表示されている。また、入出力端末10の下部には、音声入力部110が配置されている。ここで、グラフィックg1は、ユーザの発話方向が適切である場合に表示されるグラフィックの一例であってよい。
図14Bは、ユーザの発話方向が適切でない場合に表示されるグラフィックの一例である。図14Bを参照すると、図14Aとは異なり、音声入力部110は、入出力端末10の向かって左側に配置されている。また、グラフィックg2は、表示部140の向かって左側に表示されており、音声入力部110側に広がるように変形している。
続いて、図14Cを参照する。図14Cも、図14Bと同様、ユーザの発話方向が適切でない場合に表示されるグラフィックの例を示している。図14Cを参照すると、図14Aとは異なり、音声入力部110は、入出力端末10の向かって右側に配置されている。また、グラフィックg3は、表示部140の向かって右側に表示されており、音声入力部110側に広がるように変形している。
以上、説明したように、図14に示す一例では、ユーザの発話方向が適切でない場合、グラフィックが音声入力部110の位置を示唆することによる暗示的なフィードバックが行われる。ユーザがグラフィックの画像やアニメーションの動きを視認することで、ユーザの発話方向が改善される効果が期待される。なお、上記では、グラフィックの形状及び表示位置を変化させる例を説明したが、音声入力部110の位置は、表示部140の画面全体に表示される色のグラデーションを変化させることで示されてもよい。
(アバターによる発話位置に対する暗示的フィードバック)
次に、図15を参照して、アバターによる発話位置に対する暗示的なフィードバックについて、一例を説明する。図15に示されるアバターは、ユーザの発話位置に対する暗示的なフィードバックを行うための画像やアニメーションであってよい。図15Aを参照すると、入出力端末10の表示部140には、アバターa4が表示されている。ここで、アバターa4は、ユーザの発話位置が適切である場合に表示されるアバターの一例であってよい。
図15Bは、ユーザの発話位置が適切でない場合(距離が遠い場合)に表示されるアバターの一例である。図15Bを参照すると、アバターa5は、アバターa4と比較して小さく表示されており、表情が変化していることがわかる。このように、図15Bに示す一例では、アバターa5の大きさや表情を変化させることで、ユーザの発話位置に対する暗示的なフィードバックが行われる。なお、図15Bでは、アバターa5の表情を曇らせる一例を示しているが、アバターa5の表情には他の表現が用いられてもよい。例えば、アバターa5の視線が遠方を示すことで、ユーザの発話位置が遠いことを示唆してもよい。
続いて、図15Cを参照する。図15Cも、図15Bと同様、ユーザの発話位置が適切でない場合に表示されるアバターの一例を示している。図15Cを参照するとアバターa6は、アバターa4と比較して輪郭が薄く表示されていることがわかる。このように、図15Cに示す一例では、アバターa6の輪郭の濃さを変化させることで、ユーザの発話位置に対する暗示的なフィードバックが行われる。
以上、説明したように、図15に示す一例では、ユーザの発話位置が適切でない旨をアバターが示唆することによる暗示的なフィードバックが行われる。ユーザがアバターの画像やアニメーションの動きを視認することで、ユーザの発話方向が改善される効果が期待される。
(矢印による発話方向又は発話位置に対する暗示的フィードバック)
次に、図16を参照して、矢印による発話方向又は発話位置に対する暗示的フィードバックについて、一例を説明する。図16に示される矢印を含むグラフィックは、ユーザの発話方向または発話位置に対する暗示的なフィードバックを行うための画像やアニメーションであってよい。
図16Aを参照すると、入出力端末10の表示部140には、グラフィックg4、及びg5が表示されている。ここで、グラフィックg4は、音声入力部110の位置を指し示す矢印として表示されており、グラフィックg5は、耳のアイコンとして示されている。このように、図16Aに示す一例では、矢印や耳の形をしたグラフィックにより音声入力部110の位置を示すことで、ユーザの発話方向に対する暗示的なフィードバックが行われる。
続いて、図16Bを用いて説明を続ける。図16Bに示す一例では、図16Aとは異なり、入出力端末10とユーザとの相対位置を示すフィードバックが行われる。図16Bを参照すると、入出力端末10の表示部140には、グラフィックg6〜g9が示されている。ここで、グラフィックg6は、音声入力部110の位置を指し示す矢印として表示される。また、グラフィックg7及びg8は、それぞれ入出力端末10及びユーザを示すアイコンである。このように、図16Bに示す一例では、入出力端末10とユーザとの相対位置を示しながら、矢印により音声入力部110の位置を示すことで、ユーザの発話方向に対する暗示的なフィードバックが行われる。また、図16Bに示す一例では、グラフィックg9に示されるように、ユーザ以外の音源を示すフィードバックが行われてよい。ユーザが当該音源を示すグラフィックを視認することで、ユーザの発話位置が改善される効果が期待される。
<3.入出力端末10及び情報処理装置30のハードウェア構成例>
次に、本開示に係る入出力端末10及び情報処理装置30に共通するハードウェア構成例について説明する。図17は、本開示に係る入出力端末10及び情報処理装置30のハードウェア構成例を示すブロック図である。図17を参照すると、入出力端末10及び情報処理装置30は、例えば、CPU871と、ROM872と、RAM873と、ホストバス874と、ブリッジ875と、外部バス876と、インターフェース877と、入力部878と、出力部879と、記憶部880と、ドライブ881と、接続ポート882と、通信部883と、を有する。なお、ここで示すハードウェア構成は一例であり、構成要素の一部が省略されてもよい。また、ここで示される構成要素以外の構成要素をさらに含んでもよい。
(CPU871)
CPU871は、例えば、演算処理装置又は制御装置として機能し、ROM872、RAM873、記憶部880、又はリムーバブル記録媒体901に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。
(ROM872、RAM873)
ROM872は、CPU871に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。RAM873には、例えば、CPU871に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的又は永続的に格納される。
(ホストバス874、ブリッジ875、外部バス876、インターフェース877)
CPU871、ROM872、RAM873は、例えば、高速なデータ伝送が可能なホストバス874を介して相互に接続される。一方、ホストバス874は、例えば、ブリッジ875を介して比較的データ伝送速度が低速な外部バス876に接続される。また、外部バス876は、インターフェース877を介して種々の構成要素と接続される。
(入力部878)
入力部878には、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、及びレバー等が用いられる。さらに、入力部878としては、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントローラ(以下、リモコン)が用いられることもある。
(出力部879)
出力部879には、例えば、CRT(Cathode Ray Tube)、LCD、又は有機EL等のディスプレイ装置、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。
(記憶部880)
記憶部880は、各種のデータを格納するための装置である。記憶部880としては、例えば、ハードディスクドライブ(HDD)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等が用いられる。
(ドライブ881)
ドライブ881は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体901に記録された情報を読み出し、又はリムーバブル記録媒体901に情報を書き込む装置である。
(リムーバブル記録媒体901)
リムーバブル記録媒体901は、例えば、DVDメディア、Blu−ray(登録商標)メディア、HD DVDメディア、各種の半導体記憶メディア等である。もちろん、リムーバブル記録媒体901は、例えば、非接触型ICチップを搭載したICカード、又は電子機器等であってもよい。
(接続ポート882)
接続ポート882は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)、RS−232Cポート、又は光オーディオ端子等のような外部接続機器902を接続するためのポートである。
(外部接続機器902)
外部接続機器902は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はICレコーダ等である。
(通信部883)
通信部883は、ネットワーク903に接続するための通信デバイスであり、例えば、有線又は無線LAN、Bluetooth(登録商標)、又はWUSB(Wireless USB)用の通信カード、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、又は各種通信用のモデム等である。
<4.まとめ>
以上、説明したように情報処理装置30は、ユーザの発話認識に係る情報に応じて、ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択することができる。上記の複数のモードには、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、が含まれてよい。また、上記の発話態様には、発話音量、発話速度、発話する音の高さ、発音の明確さ、発話位置、発話方向、発話内容、及び環境音が含まれてよい。係る構成によれば、ユーザとシステムとの間のより自然な対話を実現することが可能となる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
ユーザの発話認識に係る情報に応じて、前記ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択する制御部、
を備え、
前記複数のモードは、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、を含む、
情報処理装置。
(2)
前記第1のモードでは、前記ユーザの発話態様に対する間接的な改善方法を含むフィードバックが行われ、
前記第2のモードでは、前記ユーザの発話態様に対する直接的な改善方法を示すフィードバックが行われる、
前記(1)に記載の情報処理装置。
(3)
前記ユーザの発話認識に係る情報は、ユーザ情報、コンテンツ情報、環境情報、デバイス情報を含む、
前記(2)に記載の情報処理装置。
(4)
前記ユーザ情報は、前記ユーザの発話態様を含み、
前記制御部は、前記ユーザの発話態様に基づいて、前記第1のモード又は前記第2のモードを選択する、
前記(3)に記載の情報処理装置。
(5)
前記発話態様には、発話音量、発話速度、発話する音の高さ、発音の明確さ、発話位置、または発話方向のうち、少なくとも1つが含まれる、
前記(4)に記載の情報処理装置。
(6)
前記制御部は、前記第1のモードによるフィードバックを受けた前記ユーザの発話態様に改善が認められないことに基づいて、前記第2のモードを選択する、
前記(4)または(5)に記載の情報処理装置。
(7)
前記制御部は、前記第1のモードによるフィードバックを行った後、前記ユーザの発話が所定の回数以内に認識されないことに基づいて、前記第2のモードを選択する、
前記(4)〜(6)のいずれかに記載の情報処理装置。
(8)
前記ユーザ情報は、前記ユーザの発話の内容を含み、
前記制御部は、前記ユーザの発話の内容に基づいて、前記第1のモード又は前記第2のモードを選択する、
前記(3)〜(7)のいずれかに記載の情報処理装置。
(9)
前記制御部は、前記ユーザの発話の内容がプライバシー情報を含むと推定されることに基づいて、前記第2のモードを選択する、
前記(8)に記載の情報処理装置。
(10)
前記制御部は、前記環境情報から前記ユーザとは異なる別の人物の存在が推定されることに基づいて、前記第1のモードを選択する、
前記(3)〜(9)のいずれかに記載の情報処理装置。
(11)
前記ユーザ情報は、前記ユーザの属性情報を含み、
前記制御部は、前記ユーザの属性情報に基づいて、前記第1のモード又は前記第2のモードを選択する、
前記(3)〜(10)のいずれかに記載の情報処理装置。
(12)
前記ユーザ情報は、前記ユーザの感情情報を含み、
前記制御部は、前記ユーザの発話から推定される前記ユーザの感情情報に基づいて、前記第1のモード又は前記第2のモードを選択する、
前記(3)〜(11)のいずれかに記載の情報処理装置。
(13)
前記第1のモードでは、前記ユーザの発話音量よりも認識精度の高い音量でフィードバックが行われる、
前記(4)〜(12)のいずれかに記載の情報処理装置。
(14)
前記第1のモードでは、前記ユーザの発話速度よりも認識精度の高い速度でフィードバックが行われる、
前記(4)〜(13)のいずれかに記載の情報処理装置。
(15)
前記第1のモードでは、前記ユーザの発話する音の高さよりも認識精度の高い音の高さでフィーバックが行われる、
前記(4)〜(14)のいずれかに記載の情報処理装置。
(16)
前記第2のモードでは、前記発話態様の改善理由を付加したフィードバックが行われる、
前記(2)〜(15)のいずれかに記載の情報処理装置。
(17)
前記フィードバックは、視覚情報によるフィードバックを含む、
前記(2)〜(16)のいずれかに記載の情報処理装置。
(18)
前記第2のモードでは、前記ユーザの発話を検出したセンサとは異なる別のセンサに発話をすべき旨のフィードバックが行われる、
前記(2)〜(17)のいずれかに記載の情報処理装置。
(19)
前記ユーザの属性情報には、性別、年齢、使用言語、または発話態様の傾向のうち、少なくとも1つが含まれる、
前記(11)に記載の情報処理装置。
(20)
前記制御部は、前記ユーザが興奮状態であると推定されることに基づいて、前記第1のモードを選択する、
前記(12)に記載の情報処理装置。
(21)
前記第1のモードでは、前記ユーザの発話態様に応じた人工音声によるフィードバックが行われる、
前記(1)〜(20)のいずれかに記載の情報処理装置。
(22)
前記視覚情報は、文字、記号、アバター、インジケータ、または画像の変化を含む、
前記(17)に記載の情報処理装置。
(23)
プロセッサが、ユーザの発話認識に係る情報に応じて、前記ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択すること、
を含み、
前記複数のモードは、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、を含む、
情報処理方法。
(24)
コンピュータを、
ユーザの発話認識に係る情報に応じて、前記ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択する制御部、
を備え、
前記複数のモードは、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、を含む、
情報処理装置、
として機能させるためのプログラム。
10 入出力端末
110 音声入力部
120 センサ部
130 音声出力部
140 表示部
150 端末制御部
160 サーバ通信部
20 ネットワーク
30 情報処理装置
310 端末通信部
320 音声分析部
330 音声認識部
340 状態記憶部
350 位置検出部
360 出力制御部
370 出力DB

Claims (20)

  1. ユーザの発話認識に係る情報に応じて、前記ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択する制御部、
    を備え、
    前記複数のモードは、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、を含む、
    情報処理装置。
  2. 前記第1のモードでは、前記ユーザの発話態様に対する間接的な改善方法を含むフィードバックが行われ、
    前記第2のモードでは、前記ユーザの発話態様に対する直接的な改善方法を示すフィードバックが行われる、
    請求項1に記載の情報処理装置。
  3. 前記ユーザの発話認識に係る情報は、ユーザ情報、コンテンツ情報、環境情報、デバイス情報を含む、
    請求項2に記載の情報処理装置。
  4. 前記ユーザ情報は、前記ユーザの発話態様を含み、
    前記制御部は、前記ユーザの発話態様に基づいて、前記第1のモード又は前記第2のモードを選択する、
    請求項3に記載の情報処理装置。
  5. 前記発話態様には、発話音量、発話速度、発話する音の高さ、発音の明確さ、発話位置、または発話方向のうち、少なくとも1つが含まれる、
    請求項4に記載の情報処理装置。
  6. 前記制御部は、前記第1のモードによるフィードバックを受けた前記ユーザの発話態様に改善が認められないことに基づいて、前記第2のモードを選択する、
    請求項4に記載の情報処理装置。
  7. 前記制御部は、前記第1のモードによるフィードバックを行った後、前記ユーザの発話が所定の回数以内に認識されないことに基づいて、前記第2のモードを選択する、
    請求項4に記載の情報処理装置。
  8. 前記ユーザ情報は、前記ユーザの発話の内容を含み、
    前記制御部は、前記ユーザの発話の内容に基づいて、前記第1のモード又は前記第2のモードを選択する、
    請求項3に記載の情報処理装置。
  9. 前記制御部は、前記ユーザの発話の内容がプライバシー情報を含むと推定されることに基づいて、前記第2のモードを選択する、
    請求項8に記載の情報処理装置。
  10. 前記制御部は、前記環境情報から前記ユーザとは異なる別の人物の存在が推定されることに基づいて、前記第1のモードを選択する、
    請求項3に記載の情報処理装置。
  11. 前記ユーザ情報は、前記ユーザの属性情報を含み、
    前記制御部は、前記ユーザの属性情報に基づいて、前記第1のモード又は前記第2のモードを選択する、
    請求項3に記載の情報処理装置。
  12. 前記ユーザ情報は、前記ユーザの感情情報を含み、
    前記制御部は、前記ユーザの発話から推定される前記ユーザの感情情報に基づいて、前記第1のモード又は前記第2のモードを選択する、
    請求項3に記載の情報処理装置。
  13. 前記第1のモードでは、前記ユーザの発話音量よりも認識精度の高い音量でフィードバックが行われる、
    請求項4に記載の情報処理装置。
  14. 前記第1のモードでは、前記ユーザの発話速度よりも認識精度の高い速度でフィードバックが行われる、
    請求項4に記載の情報処理装置。
  15. 前記第1のモードでは、前記ユーザの発話する音の高さよりも認識精度の高い音の高さでフィーバックが行われる、
    請求項4に記載の情報処理装置。
  16. 前記第2のモードでは、前記発話態様の改善理由を付加したフィードバックが行われる、
    請求項2に記載の情報処理装置。
  17. 前記フィードバックは、視覚情報によるフィードバックを含む、
    請求項2に記載の情報処理装置。
  18. 前記第2のモードでは、前記ユーザの発話を検出したセンサとは異なる別のセンサに発話をすべき旨のフィードバックが行われる、
    請求項2に記載の情報処理装置。
  19. プロセッサが、ユーザの発話認識に係る情報に応じて、前記ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択すること、
    を含み、
    前記複数のモードは、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、を含む、
    情報処理方法。
  20. コンピュータを、
    ユーザの発話認識に係る情報に応じて、前記ユーザの発話態様に対するフィードバックのモードを、複数のモードから選択する制御部、
    を備え、
    前記複数のモードは、暗示的なフィードバックが行われる第1のモードと、明示的なフィードバックが行われる第2のモードと、を含む、
    情報処理装置、
    として機能させるためのプログラム。
JP2018508407A 2016-03-31 2017-01-12 情報処理装置、情報処理方法、及びプログラム Active JP6819672B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016070593 2016-03-31
JP2016070593 2016-03-31
PCT/JP2017/000726 WO2017168936A1 (ja) 2016-03-31 2017-01-12 情報処理装置、情報処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2017168936A1 true JPWO2017168936A1 (ja) 2019-02-07
JP6819672B2 JP6819672B2 (ja) 2021-01-27

Family

ID=59963984

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018508407A Active JP6819672B2 (ja) 2016-03-31 2017-01-12 情報処理装置、情報処理方法、及びプログラム

Country Status (5)

Country Link
US (1) US11462213B2 (ja)
EP (1) EP3438974A4 (ja)
JP (1) JP6819672B2 (ja)
CN (1) CN109074805A (ja)
WO (1) WO2017168936A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110998724B (zh) * 2017-08-01 2021-05-21 杜比实验室特许公司 基于位置元数据的音频对象分类
CN108108391A (zh) * 2017-11-21 2018-06-01 众安信息技术服务有限公司 用于数据可视化的信息的处理方法以及装置
WO2019107144A1 (ja) * 2017-11-28 2019-06-06 ソニー株式会社 情報処理装置、及び情報処理方法
WO2019150708A1 (ja) * 2018-02-01 2019-08-08 ソニー株式会社 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
JP7223561B2 (ja) * 2018-03-29 2023-02-16 パナソニックホールディングス株式会社 音声翻訳装置、音声翻訳方法及びそのプログラム
JP2019179502A (ja) * 2018-03-30 2019-10-17 株式会社 ディー・エヌ・エー 動画を作成するためのシステム、方法、及びプログラム
CN109697290B (zh) * 2018-12-29 2023-07-25 咪咕数字传媒有限公司 一种信息处理方法、设备及计算机存储介质
CN110223711B (zh) * 2019-06-03 2021-06-01 清华大学 基于麦克风信号的语音交互唤醒电子设备、方法和介质
JP7312639B2 (ja) * 2019-07-29 2023-07-21 株式会社第一興商 カラオケ用入力装置
CN110568931A (zh) * 2019-09-11 2019-12-13 百度在线网络技术(北京)有限公司 交互方法、设备、系统、电子设备及存储介质
US11562744B1 (en) * 2020-02-13 2023-01-24 Meta Platforms Technologies, Llc Stylizing text-to-speech (TTS) voice response for assistant systems
JP7405660B2 (ja) * 2020-03-19 2023-12-26 Lineヤフー株式会社 出力装置、出力方法及び出力プログラム
CN114155865A (zh) * 2021-12-16 2022-03-08 广州城市理工学院 一种全息互动系统
JP2024036013A (ja) * 2022-09-05 2024-03-15 ダイキン工業株式会社 システム、支援方法、サーバ装置及び通信プログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003150194A (ja) * 2001-11-14 2003-05-23 Seiko Epson Corp 音声対話装置および音声対話装置における入力音声最適化方法ならびに音声対話装置における入力音声最適化処理プログラム
WO2005076258A1 (ja) * 2004-02-03 2005-08-18 Matsushita Electric Industrial Co., Ltd. ユーザ適応型装置およびその制御方法
JP2005266020A (ja) * 2004-03-17 2005-09-29 Advanced Telecommunication Research Institute International 音声認識装置
JP2006251061A (ja) * 2005-03-08 2006-09-21 Nissan Motor Co Ltd 音声対話装置および音声対話方法
JP2007264126A (ja) * 2006-03-27 2007-10-11 Toshiba Corp 音声処理装置、音声処理方法および音声処理プログラム
JP2014186184A (ja) * 2013-03-25 2014-10-02 Panasonic Corp 音声入力選択装置及び音声入力選択方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5495282A (en) * 1992-11-03 1996-02-27 The Arbitron Company Monitoring system for TV, cable and VCR
US8645122B1 (en) * 2002-12-19 2014-02-04 At&T Intellectual Property Ii, L.P. Method of handling frequently asked questions in a natural language dialog service
JP4241443B2 (ja) * 2004-03-10 2009-03-18 ソニー株式会社 音声信号処理装置、音声信号処理方法
US7412378B2 (en) * 2004-04-01 2008-08-12 International Business Machines Corporation Method and system of dynamically adjusting a speech output rate to match a speech input rate
US20080177734A1 (en) * 2006-02-10 2008-07-24 Schwenke Derek L Method for Presenting Result Sets for Probabilistic Queries
US8972268B2 (en) * 2008-04-15 2015-03-03 Facebook, Inc. Enhanced speech-to-speech translation system and methods for adding a new word
US8886521B2 (en) * 2007-05-17 2014-11-11 Redstart Systems, Inc. System and method of dictation for a speech recognition command system
AU2010347009B2 (en) * 2010-02-24 2014-05-22 Sivantos Pte. Ltd. Method for training speech recognition, and training device
JP2011209787A (ja) 2010-03-29 2011-10-20 Sony Corp 情報処理装置、および情報処理方法、並びにプログラム
US20140343947A1 (en) * 2013-05-15 2014-11-20 GM Global Technology Operations LLC Methods and systems for managing dialog of speech systems
US10075140B1 (en) * 2014-06-25 2018-09-11 Amazon Technologies, Inc. Adaptive user interface configuration
US9639854B2 (en) * 2014-06-26 2017-05-02 Nuance Communications, Inc. Voice-controlled information exchange platform, such as for providing information to supplement advertising
US9858920B2 (en) * 2014-06-30 2018-01-02 GM Global Technology Operations LLC Adaptation methods and systems for speech systems
US9418663B2 (en) * 2014-07-31 2016-08-16 Google Inc. Conversational agent with a particular spoken style of speech
WO2016136062A1 (ja) * 2015-02-27 2016-09-01 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003150194A (ja) * 2001-11-14 2003-05-23 Seiko Epson Corp 音声対話装置および音声対話装置における入力音声最適化方法ならびに音声対話装置における入力音声最適化処理プログラム
WO2005076258A1 (ja) * 2004-02-03 2005-08-18 Matsushita Electric Industrial Co., Ltd. ユーザ適応型装置およびその制御方法
JP2005266020A (ja) * 2004-03-17 2005-09-29 Advanced Telecommunication Research Institute International 音声認識装置
JP2006251061A (ja) * 2005-03-08 2006-09-21 Nissan Motor Co Ltd 音声対話装置および音声対話方法
JP2007264126A (ja) * 2006-03-27 2007-10-11 Toshiba Corp 音声処理装置、音声処理方法および音声処理プログラム
JP2014186184A (ja) * 2013-03-25 2014-10-02 Panasonic Corp 音声入力選択装置及び音声入力選択方法

Also Published As

Publication number Publication date
US20210142796A1 (en) 2021-05-13
CN109074805A (zh) 2018-12-21
EP3438974A4 (en) 2019-05-08
JP6819672B2 (ja) 2021-01-27
WO2017168936A1 (ja) 2017-10-05
US11462213B2 (en) 2022-10-04
EP3438974A1 (en) 2019-02-06

Similar Documents

Publication Publication Date Title
JP6819672B2 (ja) 情報処理装置、情報処理方法、及びプログラム
US11657812B2 (en) Message playback using a shared device
JP6534926B2 (ja) 話者識別方法、話者識別装置及び話者識別システム
JPWO2016103988A1 (ja) 情報処理装置、情報処理方法およびプログラム
JP5731998B2 (ja) 対話支援装置、対話支援方法および対話支援プログラム
JP2014153663A (ja) 音声認識装置、および音声認識方法、並びにプログラム
US10157614B1 (en) Message playback using a shared device
WO2017141530A1 (ja) 情報処理装置、情報処理方法、及びプログラム
US10186267B1 (en) Message playback using a shared device
CN106067996A (zh) 语音再现方法、语音对话装置
JP6772839B2 (ja) 情報処理装置、情報処理方法およびプログラム
WO2018105373A1 (ja) 情報処理装置、情報処理方法、および情報処理システム
JP6678315B2 (ja) 音声再生方法、音声対話装置及び音声対話プログラム
WO2020202862A1 (ja) 応答生成装置及び応答生成方法
US20230362026A1 (en) Output device selection
WO2019138652A1 (ja) 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
JP2021076715A (ja) 音声取得装置、音声認識システム、情報処理方法、及び情報処理プログラム
JPWO2018105373A1 (ja) 情報処理装置、情報処理方法、および情報処理システム
JP2019053180A (ja) 音響処理装置、音声認識装置、音響処理方法、音声認識方法、音響処理プログラム及び音声認識プログラム
WO2019142420A1 (ja) 情報処理装置および情報処理方法
WO2019017033A1 (ja) 情報処理装置、情報処理方法、およびプログラム
WO2019207912A1 (ja) 情報処理装置及び情報処理方法
JP6927331B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP7416053B2 (ja) 情報処理装置および情報処理方法
WO2020017165A1 (ja) 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201013

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201214

R151 Written notification of patent or utility model registration

Ref document number: 6819672

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151