本発明を実施するための形態について図面を参照して詳細に説明する。尚、各図面及び明細書記載の各実施形態において、同様の構成要素には同様の符号を付与し、適宜説明を省略する。
<<<第1の実施形態>>>
図1は、本発明の第1の実施形態に係るコミュニケーション処理システム(情報処理システムとも呼ばれる)の構成を示すブロック図である。本実施形態のコミュニケーション処理システムは、異なる言語を母国語とするユーザ同士の会話を支援するシステムである。
図1を参照すると、本実施形態のコミュニケーション処理システムは、n台のユーザ端末(コミュニケーション処理装置とも呼ばれる)10−1、ユーザ端末10−2、・・・及びユーザ端末10−nと1台のオペレータ端末20とを備える。以後、ユーザ端末10−1、ユーザ端末10−2、・・・及びユーザ端末10−nを区別しないで示す場合、ユーザ端末10とも記載する。各ユーザ端末10とオペレータ端末20とは、図示しないネットワークを介して通信可能なように接続されている。また、ユーザ端末10及びオペレータ端末20は、図1に示す例に係わらず、任意の台数であってよい。
各ユーザ端末10は、音声入力部101−1、音声入力部101−2、翻訳部102−1、翻訳部102−2、結果出力部103−1、結果出力部103−2、オペレータ呼出指示部104、要援助度算出部106、パラメータ格納部107、通信制御部108及び音声入出力部109を含む。
以下、図1に示すコミュニケーション処理システムが日本語を母国語とするユーザ(以下日本語話者と呼ぶ)と英語を母国語とするユーザ(以下英語話者と呼ぶ)との会話を支援する日英音声翻訳システムである場合を例に、各部の動作を説明する。
音声入力部101−1は、日本語話者から発せられた日本語音声をマイク等により音声信号として取り込み、デジタルデータに変換する。
翻訳部102−1は、デジタルデータに変換された音声について音声認識を実行してテキスト化し、更に機械翻訳により英語のテキストに変換する。
結果出力部103−1は、変換結果の英語テキストを、画面に表示したり、あるいは音声合成により音声に変換して聞かせたりすることにより、英語話者に提示する。
尚、音声認識、機械翻訳、音声合成等の技術は、当業者には周知であるため、詳細な説明は省略する。
英語話者から発せられた英語音声は、同様に音声入力部101−2、翻訳部102−2により日本語テキストに変換され、結果出力部103−2により日本語話者に提示される。
オペレータ呼出指示部104は、ユーザによるヘルプボタン押下等のオペレータ呼出指示を検出する。
要援助度算出部106は、ユーザ端末10を介して行われているユーザ同士の会話におけるコミュニケーション不全状態に対応する、要援助度を算出する。例えば、要援助度算出部106は、第1に不全度を算出し、第2にその不全度に基づいて要援助度を算出する。
具体的には、要援助度算出部106は、ユーザによるオペレータ呼出指示を監視し、ユーザ端末10を介して行われているユーザ同士の会話におけるコミュニケーション不全状態の発生を検出する。また、要援助度算出部106は、音声入力部101−1及び音声入力部101−2に入力された音声を監視し、ユーザ端末10を介して行われているユーザ同士の会話におけるコミュニケーション不全状態の発生を検出する。もしくは、要援助度算出部106は、翻訳部102−1及び翻訳部102−2で処理した結果を監視し、ユーザ端末10を介して行われているユーザ同士の会話におけるコミュニケーション不全状態の発生を検出する。
入力された音声もしくはその音声を処理した結果に基づく不全状態の検出には、例えば、再発声、聞き返しの検出を用いることができる。ここで、再発声とは、同じ話者により同一もしくは同内容の発声が繰り返されることを指し、そのような発声が連続する場合と、コミュニケーションにおける相手による発話を挟んで繰り返される場合とがある。また、再発声においては、文章全体が繰り返される場合と、文章の一部分が繰り返される場合とがあり、更に、同様の表現を用いた発声が繰り返される場合や、表現は異なるが意味が同様である発声が繰り返される場合などがある。聞き返しとは、相手方の話者により「もう一度お願いします」などの発声がなされることを指す。
再発声の検出は、例えば各入力音声もしくはそれに対して音声認識を実行した結果の類似性を比較することで行うことができる。聞き返しの検出は、例えば、入力音声を認識した結果を「もう一度お願いします」など予め定めたフレーズと比較することで行うことができる。
次に、要援助度算出部106は、上述の検出結果に基づいて、不全の度合いを示す「不全度」を大小比較が可能な値として算出する。
例えば、要援助度算出部106は、不全度の値を、再発声や聞き返しの出現頻度等を用いて、予め定めた基準に従って算出する。図2は、不全度の値の算出に用いる不全度基準リスト810の一例を示す。図2の例では、不全度は「低」「中」「高」の3値で表されているが、不全度は連続値で表わされてもよい。また、要援助度算出部106は、不全状態の検出と不全度の算出に、ここに挙げた例に限らず、例えば相手の発話の翻訳結果が提示されてから発話するまでの時間、音声認識や機械翻訳の信頼度などを用いてもよい。更に、要援助度算出部106は、複数の現象が生じている場合に、それらを組み合わせて不全度を算出してもよい。
次に、要援助度算出部106は、算出した不全度の値とパラメータ格納部107に格納された調整パラメータを用いて、大小比較が可能な値として「要援助度」を算出し、通信制御部108に出力する。
例えば、調整パラメータは、ユーザ端末10ごとに、その利用シーン等に応じて予め定められた値が設定される。あるいは、調整パラメータは、ユーザ端末10の利用開始時に、ユーザがパラメータ設定部(不図示)を介して、値を設定してもよい。調整パラメータは、より重要な利用シーンやコミュニケーションを急ぐシーンなどについて、大きな値が設定される。
例えば、調整パラメータが±0のときには、要援助度算出部106は、不全度の値をそのまま要援助度とする。そして、調整パラメータが+1のときには、要援助度算出部106は、不全度が低、中、高のとき、それぞれ要援助度を中、高、高とする。また、不全度が連続値のときには調整パラメータも連続値とし、要援助度算出部106は、不全度に調整パラメータを加算あるいは乗算した値を要援助度としてもよい。簡単なケースとしては、要援助度算出部106は、常に不全度の値をそのまま要援助度としてもよい。この場合、パラメータ格納部107は不要となる。
要援助度算出部106は、算出された要援助度の値を、更にユーザのガイドに用いてもよい。例えば、要援助度が予め定めた一定の値を越えた場合に、要援助度算出部106は、ユーザに対し、必要に応じてヘルプボタンを押すようガイドを行うようにしてもよい。
通信制御部108は、ネットワークを介したオペレータ端末20との接続・通信を制御する。通信制御部108は、常時あるいは必要に応じてオペレータ端末20と接続し、要援助度算出部106で算出された要援助度の値をオペレータ端末20に送信する。同時に、通信制御部108は、ユーザ端末10のID(Identifier)などの情報を送信してもよい。音声入出力部109の動作については後述する。
尚、以上のユーザ端末10は、以下の構成のユーザ端末であってもよい。例えば、翻訳部102−1、翻訳部102−2、結果出力部103−1、結果出力部103−2及び要援助度算出部106のすべてあるいは一部が、外部のサーバに配置されてよい。この場合、そのユーザ端末は、そのサーバと通信して必要なデータを送信し、処理結果をサーバから受信する。例えば、音声認識、機械翻訳、音声合成は、外部のサーバで実行されてもよい。
また、図1に示す1台のユーザ端末10は、物理的に1台である必要はなく、例えば二人のユーザのそれぞれが有する、物理的には2台の、ユーザ端末であってよい。そのユーザ端末のそれぞれは、外部のサーバとネットワークを介して接続する。そして、それらのユーザ端末の一方は、音声入力部101−1、翻訳部102−1、結果出力部103−1、オペレータ呼出指示部104、パラメータ格納部107及び音声入出力部109を備える。それらのユーザ端末のもう一方は、音声入力部101−2、翻訳部102−2、結果出力部103−2、オペレータ呼出指示部104、パラメータ格納部107及び音声入出力部109を備える。また、外部のサーバは、要援助度算出部106及び通信制御部108を備える。更に、そのユーザ端末のいずれかは、その外部のサーバの機能を備える構成であってもよい。
オペレータ端末20は、通信制御部201、判定部203及び音声入出力部204を含む。
通信制御部201は、ネットワークを介してユーザ端末10と接続し、各ユーザ端末10の通信制御部108から送信される要援助度の値を受信する。通信制御部201は、各ユーザ端末10から、ユーザ端末10のIDなど他の情報が同時に送信される場合は、合わせてそれも受信する。
判定部203は、要援助度の値に基づいて、援助対象のユーザ端末10を判定(選定)し、通信制御部201に判定した援助対象のユーザ端末10を指定して接続を指示する。具体的には、判定部203は、最も大きい値の要援助度に対応するユーザ端末10を判定し、判定したそのユーザ端末10を指定して、通信制御部201に接続を指示する。尚、最も大きい値の要援助度に対応するユーザ端末10の台数が複数である場合、判定部203は、先に受信したその要援助度に対応するユーザ端末10を判定してよい。判定部203は、例えば、所定の時間(例えば、一定間隔の時間)ごとに判定する処理を実行する。また、判定部203は、接続可能なオペレータ端末が存在しない状態から接続可能なオペレータ端末が存在する状態へ変化したことを検出した場合に、判定する処理を実行してもよい。あるいは、判定部203は、オペレータの指示に基づいて、判定する処理を実行してもよい。
通信制御部201は、判定部203から、その援助対象(接続対象)のユーザ端末10の指定を含む指示を受け取ると、そのユーザ端末10と援助用の通信チャンネルを確立する。
オペレータ端末20の通信制御部201とユーザ端末10の通信制御部108とは、その援助用の通信チャンネルを介し、オペレータ端末20の音声入出力部204とユーザ端末10の音声入出力部109との間で音声のやり取りが可能となるよう、通信を制御する。
オペレータ端末20の音声入出力部204は、オペレータの音声を入力し、ユーザ端末10から送信されるユーザの音声を出力する。
ユーザ端末10の音声入出力部109は、ユーザ端末10を利用している2人のユーザの音声を入力し、オペレータ端末20から送信されるオペレータの音声を出力する。
以上の構成により、ユーザ端末10を利用しているユーザとオペレータ端末20を利用しているオペレータの間で会話が可能になり、オペレータが通訳することで、不全状態に陥っているユーザ間のコミュニケーションを援助することが可能になる。
ユーザ端末10の音声入出力部109は、音声入力部101−1、音声入力部101−2及び結果出力部103−1、結果出力部103−2と共用されてもよい。また、援助用の通信チャンネルを介してやり取りされる情報は、音声に限らず、画像やテキスト、また、これらの組み合わせであってもよい。
上述した本実施形態における効果は、オペレータが対応するユーザ端末10を、より適切な優先順で判定することが可能になる点である。
その理由は、ユーザ端末10のそれぞれの要援助度算出部106が要援助度を算出し、オペレータ端末20の判定部203が、接続する援助対象のユーザ端末10を、それらの要援助度に基づいて判定するからである。
換言すると、本実施形態のコミュニケーション処理システムでは、コミュニケーション処理装置を用いるユーザのコミュニケーション支援が、複数のユーザ端末10によって実現される。そして、そのいずれかでコミュニケーション不全が生じた場合、オペレータに自動的に接続され、コミュニケーションの継続が図られる。このようなコミュニケーション処理システムにおいて、各ユーザ端末10が不全度に基づく要援助度を比較可能な値として送信する。そして、オペレータ端末20が、その要援助度に基づいて、援助するユーザ端末10を判定する。こうすることで、オペレータが援助する対象のユーザ端末10をより適切な優先順で判定することが可能となる。
<<<第2の実施形態>>>
次に、本発明の第2の実施形態について図面を参照して詳細に説明する。以下、本実施形態の説明が不明確にならない範囲で、前述の説明と重複する内容については説明を省略する。
図3は、本発明の第2の実施形態に係るコミュニケーション処理システムの構成を示すブロック図である。本実施形態は、第1の実施形態同様、異なる言語を母国語とするユーザ同士の会話を支援するシステムである。以下、第1の実施形態と同じ部分については同じ番号を付して説明を省略し、第1の実施形態と異なる部分を中心に説明する。
本実施形態のコミュニケーション処理システムは、n台のユーザ端末11−1、ユーザ端末11−2、・・・及びユーザ端末11−nを備える。更に、本実施形態のコミュニケーション処理システムは、m台のオペレータ端末21−1、オペレータ端末21−2、・・・及びオペレータ端末21−mと、接続制御部31とを備える。以後、ユーザ端末11−1、ユーザ端末11−2、・・・及びユーザ端末11−nを区別しないで示す場合、ユーザ端末11とも記載する。また、オペレータ端末21−1、オペレータ端末21−2、・・・及びオペレータ端末21−mを区別しないで示す場合、オペレータ端末21とも記載する。各ユーザ端末11と各オペレータ端末21とは、接続制御部31の制御に従って、図示しないネットワークを介して接続可能に構成されている。
各ユーザ端末11は、音声入力部101−1、音声入力部101−2、翻訳部102−1、翻訳部102−2、結果出力部103−1及び結果出力部103−2を含む。更に、各ユーザ端末11は、オペレータ呼出指示部104、要援助度算出部106、パラメータ格納部107、言語・分野設定部111、通信制御部112及び音声入出力部109を含む。第1の実施形態と異なるのは、通信制御部112と新たに追加された言語・分野設定部111であり、以下、これらの動作について説明する。
言語・分野設定部111は、2人のユーザのコミュニケーションにおいてそれぞれが話す言語の組と、コミュニケーションの内容に関する分野を設定、それらを格納(記憶)する。
言語は、例えば日本語話者と英語話者のコミュニケーションであれば「日本語・英語」となる。一方の言語が固定されていれば、他方の言語だけを設定することにしてもよい。言語の設定は、例えば、事前のユーザの指定によって行われる。言語の設定は、音声入力部101−1及び音声入力部101−2が入力される音声から言語を自動的に認識し、その認識結果を言語・分野設定部111に通知してもよい。
分野は、例えば「観光」「医療」「ビジネス会議」等である。分野は、更に専門や地域等によって、「観光(京都)」「医療(内科)」など細分化された分野であってもよい。分野の設定は、言語の設定と同様に、事前のユーザの指定や、入力される音声からの自動判定によって行われる。
尚、言語・分野設定部111で設定される情報は、言語あるいは分野の一方のみでもよい。また、言語・分野設定部111で設定される情報は、言語及び分野に限らず、後述の情報設定部211で設定される情報と対応して、後述するオペレータ選定の際に制約として用いることができる任意の情報であってもよい。
言語・分野設定部111で言語を設定する場合、設定された言語の情報により翻訳部102−1及び翻訳部102−2などの動作も変更するようにしておくことは、より好適である。例えば、言語として「日本語・中国語」が設定された場合には、翻訳部102−1は日本語音声を認識して中国語に翻訳し、翻訳部102−2は中国語音声を認識して日本語に翻訳するよう動作する。
通信制御部112は、常時あるいは必要に応じて接続制御部31と接続し、要援助度算出部106で算出された要援助度の値と、言語・分野設定部111で設定された情報とを接続制御部31に送信する。同時に、通信制御部112は、ユーザ端末11のIDや、端末を利用中かどうかなどの情報を送信してもよい。
各オペレータ端末21は、情報設定部211、音声入出力部204、通信制御部212からなる。情報設定部211は、そのオペレータ端末21を利用するオペレータに関する情報、具体的には、オペレータが在席しているかどうか(対応可能かどうか)や、オペレータが対応可能な言語、分野等の情報、を設定し、それらの情報を格納(記憶)する。対応可能な言語、分野は、それぞれ複数設定できる。例えば、それらの情報の設定は、オペレータが情報設定部211に対して手動で行う。あるいは、図3に示すコミュニケーション処理システムは、予めオペレータと設定情報との対応づけを示す、データベース(不図示)を含んでもよい。この場合、オペレータがオペレータ端末21にログインした際に、情報設定部211は、そのデータベースを参照し、それらの情報を自動的に設定するようにしてもよい。尚、設定される情報の種類は、ここに挙げたものの一部のみでもよいし、またこれらに限らず、前述の言語・分野設定部111で設定される情報と対応して、後述するオペレータ選定の制約として用いることができる任意の情報を含んでよい。
通信制御部212は、接続制御部31と常時あるいは必要に応じて接続し、情報設定部211で設定・格納された情報を接続制御部31に送信する。
接続制御部31は、ユーザ端末11の通信制御部112から送信される情報と、オペレータ端末21の通信制御部212から送信される情報とに基づいて、ユーザ端末11とオペレータ端末21との状況を管理し、これらの間の接続を制御する。接続制御部31は、オペレータ端末21のそれぞれに接続するユーザ端末11を判定し、その判定結果を出力する判定部303を含む。また、接続制御部31は、判定部303が判定した結果に基づいて、ユーザ端末11にオペレータ端末21を接続する接続部305を含む。
例えば、判定部303は、ユーザ端末11の状況を「ユーザ端末管理テーブル」により管理し、オペレータ端末21の状況を「オペレータ端末管理テーブル」により管理する。以下、ユーザ端末管理テーブルとオペレータ端末管理テーブルを総称して「端末管理テーブル」と呼ぶ。判定部303は、端末管理テーブルの内容を、各端末から送信される情報及び接続制御部31の動作に基づいて、随時更新する。
図4は、ユーザ端末管理テーブル820の一例を示す図である。図4に示すように、ユーザ端末管理テーブル820の各レコードは、端末番号、状態、言語、分野及び要援助度を含む。図4に示す「状態」において、「未利用」はユーザ端末11が使われていないことを、「利用中」はユーザ端末11が利用中でオペレータ端末21とは接続されていないことを示す。また、図4に示す「状態」において、「OP接続中(3)」は、3番のオペレータ端末21と接続されて利用中であることを示す。
図5は、オペレータ端末管理テーブル830の一例を示す図である。図5に示すように、オペレータ端末管理テーブル830の各レコードは、端末番号、状態、言語、分野を含む。図5に示す「状態」において、「待機中」はユーザ端末11と接続されておらずオペレータが待機中であることを、「接続中(6)」は、6番のユーザ端末11と接続中であることを、「不在」はオペレータが不在であることを、それぞれ示す。ここでは簡単のため、2人のユーザのうちの一方の言語は日本語に固定されていて、他方の言語が英語または中国語であるとしている。また、分野は観光または医療であるとしている。「○」は、そのオペレータ端末21を利用しているオペレータが、それぞれの言語、分野に対応可能であることを示す。
端末管理テーブルの内容が更新され、かつ1台以上のユーザ端末11が要援助状態にあるとき、判定部303は、当該ユーザ端末11をオペレータ端末21と接続するか否かを、端末管理テーブルの内容及び予め定めた接続判定ルールに従って判定する。更に、判定部303は、ユーザ端末11をどのオペレータ端末21と接続するかも決定する。ここで、「要援助状態にある」とは、要援助度に何らかの値が与えられていることを示す。
図6は、接続判定ルール840の一例を示す図である。図6に示すように接続判定ルール840の各レコードは、要援助度及び接続基準を含む。ここで、図6に示す接続基準における「待機オペレータの割合」は、全オペレータ端末21中、状態が「待機中」である端末の割合を示し、例えばオペレータ端末管理テーブル830から求められる。この割合が高ければ、対応可能なオペレータの数に余裕があることになる。尚、「待機オペレータの割合」は、言語や分野ごとに細かく指定されてもよい。また、接続判定ルール840に用いる接続基準は「待機オペレータの割合」に限らず、これ以外の基準を用いてもよい。
以下、図4乃至図6に示す端末管理テーブル及び接続判定ルール840を例に、接続制御部31の接続判定手順及び動作について説明する。尚、このときの待機オペレータの割合は40%であるとする。
判定部303は、要援助状態にあるユーザ端末11について、要援助度が高い順に判定を行う。図4の例に示すユーザ端末管理テーブル820の場合、判定部303は、要援助度が「高」である2番のユーザ端末11について、まず判定する。図6の接続判定ルール840では、要援助度が「高」の場合「常に接続」となっているので、判定部303は、対応可能なオペレータ端末21の探索に移る。
判定部303は、2番のユーザ端末11は言語=英語、分野=医療であるので、この言語・分野に対応可能で、かつ「待機中」であるオペレータ端末21を、オペレータ端末管理テーブル830から探索する。図5の例では、4番のオペレータ端末21がこの条件に合致する。
条件に合致するオペレータ端末21が見つかれば、接続部305は、ユーザ端末11とオペレータ端末21とを接続し、判定部303は、端末管理テーブル中の各端末の状態を更新する。この例では、接続部305は、2番のユーザ端末11と4番のオペレータ端末21とを接続し、判定部303は、2番のユーザ端末11の状態を「OP接続中(4)」に、4番のオペレータ端末21の状態を「接続中(2)」にそれぞれ更新する。更に、判定部303は、2番のユーザ端末11の「要援助度」をクリアする。尚、条件に合致するオペレータ端末21が複数存在する場合、判定部303は、予め定められたルールに従って1台選択する。予め定められたルールとしては、例えば「待機時間が長いオペレータ端末優先」「累積接続時間が短いオペレータ端末優先」などが考えられる。このようなルールを用いる場合、判定部303は、「待機時間」、「累積接続時間」などの情報も、オペレータ端末管理テーブル830で合わせて管理してよい。
続いて、判定部303は、要援助度が次に高い「中」の3番のユーザ端末11について、接続判定を行う。図6の接続判定ルール840では、要援助度が「中」の場合「待機オペレータの割合が20%以上」が基準となっている。上述したように、待機オペレータの割合は40%であるので、この基準はクリアされる。そこで、判定部303は、対応可能なオペレータ端末21の探索に移る。上記と同様に、判定部303は、条件に合致するオペレータ端末21を探索して1番のオペレータ端末21を検出する。次に、接続部305は、3番のユーザ端末11と1番のオペレータ端末21とを接続し、判定部303は、端末管理テーブルを更新する。
続いて、判定部303は、要援助度が「低」である5番のユーザ端末11について、接続判定を行う。図6の接続判定ルール840では、要援助度が「低」の場合「待機オペレータの割合が50%以上」が基準となっている。上述したように、待機オペレータの割合は40%であるので、この基準はクリアされない。そこで、接続部305は、5番のユーザ端末11については、オペレータ端末21との接続は行わない。
尚、以上の説明では、簡単のため、一連の接続判定中、待機オペレータの割合は40%のままで変わらないとしたが、新たな接続が行われ端末管理テーブルが更新されるたびに待機オペレータの割合を計算し直すのが望ましい。
接続制御部31によりユーザ端末11とオペレータ端末21とが接続されると、これらの間で援助用の通信チャンネルが確立され、第1の実施形態の場合と同様に両端末の間で音声のやり取りが可能となる。これにより、ユーザ端末11を利用しているユーザとオペレータ端末21を利用しているオペレータとの間で会話が可能になり、オペレータが通訳することで、不全状態に陥っているユーザ間のコミュニケーションを援助することが可能になる。
ユーザ端末11の音声入出力部109は、音声入力部101−1、音声入力部101−2、結果出力部103−1及び結果出力部103−2と共用されてもよい。また、援助用の通信チャンネルを介してやり取りされる情報は、音声に限らず、画像やテキスト、また、これらの組み合わせであってもよい。
接続されたユーザ端末11とオペレータ端末21との間でのオペレータによる援助が終了すると、接続制御部31は、両端末間の援助用通信チャンネルの接続を切断し、それに伴い判定部303は、端末管理テーブルを更新する。具体的には、判定部303は、当該ユーザ端末11の状態を「OP接続中」から「未利用」に更新し、当該オペレータ端末21の状態を「待機中」に更新する。
各ユーザ端末11から送信される要援助度の値が変わったり、あるいはオペレータによる援助の終了でオペレータ端末21の状態が変わったりすると、判定部303は改めて接続判定を行う。
上述した本実施形態における効果は、第1の実施形態の効果に加えて、複数のオペレータ端末21と複数のユーザ端末11とをより適切に組み合わせることが可能になる点である。
その理由は、判定部303が、オペレータ端末21のそれぞれに接続するユーザ端末11を判定し、接続部305がその判定結果に基づいて、ユーザ端末11にオペレータ端末21を接続するからである。
換言すると、本実施形態のコミュニケーション処理システムでは、コミュニケーション処理装置を用いるユーザのコミュニケーション援助が、複数のユーザ端末11によって実現される。そして、そのいずれかでコミュニケーション不全が生じた場合、複数のオペレータのいずれかに自動的に接続され、オペレータの援助によりコミュニケーションの継続が図られる。このようなコミュニケーション処理システムにおいて、ユーザ端末11ごとの援助の必要度の度合いに応じた、オペレータへの接続の制御が可能となる。具体的には、援助の必要度の高いユーザ端末11を優先的にオペレータに接続し、また、オペレータの数に余裕があるときには、援助の必要度の低いユーザ端末11でもオペレータに接続できるようにする、といった制御が可能になる。
<<<第3の実施形態>>>
次に、本発明の第3の実施形態について図面を参照して詳細に説明する。以下、本実施形態の説明が不明確にならない範囲で、前述の説明と重複する内容については説明を省略する。
図7は、本発明の第3の実施形態に係るコミュニケーション処理システムの構成を示すブロック図である。本実施形態のコミュニケーション処理システムは、音声対話によりユーザと機械との会話を支援するシステムである。以下、第1の実施形態と同じ部分については同じ番号を付して説明を省略し、第1の実施形態と異なる部分を中心に説明する。
図7を参照すると、本実施形態のコミュニケーション処理システムは、n台のユーザ端末12−1、ユーザ端末12−2、・・・及びユーザ端末12−nと1台のオペレータ端末20とを備える。以後、ユーザ端末12−1、ユーザ端末12−2、・・・及びユーザ端末12−nを区別しないで示す場合、ユーザ端末12とも記載する。各ユーザ端末12とオペレータ端末20とは、図示しないネットワークを介して通信可能なように接続されている。また、ユーザ端末10及びオペレータ端末20は、図7に示す例に係わらず、任意の台数であってよい。
各ユーザ端末12は、音声入力部121、対話処理部122、音声出力部123、オペレータ呼出指示部104、パラメータ格納部107、要援助度算出部126、通信制御部108及び音声入出力部109を含む。
音声入力部121は、ユーザから発せられた音声をマイク等により音声信号として取り込み、デジタルデータに変換する。
対話処理部122は、デジタルデータに変換された音声に対して音声認識を実行してテキスト化あるいは単語抽出する。そして、対話処理部122は、その結果と、予め格納した対話ルールあるいは外部の知識データベース(いずれも不図示)などを参照してユーザへの応答内容を決定し、テキストデータとして音声出力部123に出力する。対話処理部122はまた、対話(ユーザの入力とシステムからの応答)の履歴を管理し、ユーザへの応答内容の決定に用いる。
音声出力部123は、対話処理部122から受け取ったテキストデータを音声合成により音声に変換して出力する。
オペレータ呼出指示部104は、ユーザによるヘルプボタン押下等のオペレータ呼出指示を検出する。
要援助度算出部126は、ユーザによるオペレータ呼出指示及び音声入力部121に入力された音声もしくはそれを対話処理部122で処理した結果を監視する。そして、要援助度算出部126は、その監視結果に基づいて、ユーザ端末12で行われているユーザと機械の対話におけるコミュニケーション不全状態の発生を検出し、不全の度合いを示す「不全度」を大小比較が可能な値として算出する。続けて、要援助度算出部126は、図1に示す要援助度算出部106と同様に、要援助度を算出する。
入力された音声もしくはそれを処理した結果に基づく不全状態の検出には、例えば、ユーザの再発声やシステムによる聞き返しの検出、ユーザの反応時間、対話の長さなどを用いることができる。要援助度算出部126は、不全度の値を、再発声や聞き返しの出現頻度、ユーザの反応時間、対話の長さ等を用いて、予め定めた基準に従って算出する。
パラメータ格納部107、通信制御部108、音声入出力部109については、第1の実施形態と同じなので省略する。
尚、ユーザ端末12は、以下の構成のユーザ端末であってもよい。例えば、そのユーザ端末は、パラメータ格納部107を含まなくてもよい。また、対話処理部122、音声出力部123、要援助度算出部126のすべてあるいは一部を外部のサーバに配置し、ユーザ端末は、サーバと通信して必要なデータを送信し、処理結果をサーバから受信する構成であってもよい。
オペレータ端末20は、図1に示す第1の実施形態のオペレータ端末20と同じである。
尚、本実施形態のコミュニケーション処理システムは、オペレータ端末20に替えて、図3に示すオペレータ端末21と接続制御部31とを備えてもよい。
更に、本実施形態のコミュニケーション処理システムは、図1に示すユーザ端末10と図7に示すユーザ端末12とが混在してもよい。
上述した本実施形態における第1の効果は、音声対話によりユーザと機械との会話を支援するコミュニケーション処理装置(ユーザ端末12)についても、第1の実施形態の効果と同様の効果を得られることである。
その理由は、要援助度算出部126が、音声入力部121に入力された音声やそれを対話処理部122で処理した結果に基づいて、要援助度を算出するからである。
<<<第4の実施形態>>>
図8は、本発明の第1の実施形態に係る情報処理システム40の構成を示すブロック図である。図8に示すように、本実施形態に係る情報処理システム40は、要援助度算出部406と判定部403とを含む。
図8に示す各構成要素は、ハードウエア単位の回路でも、マイクロチップに含まれるモジュールでも、コンピュータ装置の機能単位に分割された構成要素でもよい。ここでは、図8に示す構成要素が、コンピュータ装置の機能単位に分割された構成要素であるものとして説明する。尚、図8に示す情報処理システム40は、あるサーバに実装され、ネットワークを介して利用可能にされてよいし、図8に示す各構成要素がネットワーク上に分散して設置されて利用可能にされてもよい。
図9は、本実施形態における情報処理システム40を実現するコンピュータ700のハードウエア構成を示す図である。
図9に示すように、コンピュータ700は、CPU(Central Processing Unit)701、記憶部702、記憶装置703、入力部704、出力部705及び通信部706を含む。更に、コンピュータ700は、外部から供給される記録媒体(または記憶媒体)707を含む。例えば、記録媒体707は、情報を非一時的に記憶する不揮発性記録媒体(非一時的記録媒体)である。また、記録媒体707は、情報を信号として保持する、一時的記録媒体であってもよい。
CPU701は、オペレーティングシステム(不図示)を動作させて、コンピュータ700の全体の動作を制御する。例えば、CPU701は、記憶装置703に装着された記録媒体707から、そのプログラムやデータを読み込み、読み込んだそのプログラムやそのデータを記憶部702に書き込む。ここで、そのプログラムは、例えば、後述の図10及び図11に示すフローチャートの動作をコンピュータ700に実行させるためのプログラムである。
そして、CPU701は、その読み込んだプログラムに従って、またその読み込んだデータに基づいて、図8に示す要援助度算出部406及び判定部403として各種の処理を実行する。
尚、CPU701は、通信網(不図示)に接続される外部コンピュータ(不図示)から、記憶部702にそのプログラムやそのデータをダウンロードしてもよい。
記憶部702は、そのプログラムやそのデータを記憶する。記憶部702は、図2に示す不全度基準リスト810、図4に示すユーザ端末管理テーブル820、図5に示すオペレータ端末管理テーブル830及び図6に示す接続判定ルール840を、任意に記憶してよい。記憶部702は、要援助度算出部406及び判定部403の一部として含まれてよい。
記憶装置703は、例えば、光ディスクや、フレキシブルディスク、磁気光ディスク、外付けハードディスク半導体メモリなどであって、記録媒体707を含む。記憶装置703(記録媒体707)は、そのプログラムをコンピュータ読み取り可能に記憶する。また、記憶装置703は、そのデータを記憶してもよい。記憶装置703は、図2に示す不全度基準リスト810、図4に示すユーザ端末管理テーブル820、図5に示すオペレータ端末管理テーブル830及び図6に示す接続判定ルール840を、任意に記憶してよい。記憶装置703は、要援助度算出部406及び判定部403の一部として含まれてよい。
入力部704は、オペレータによる操作の入力や外部からの情報の入力を受け付ける。入力操作に用いられるデバイスは、例えば、マウスや、キーボード、内蔵のキーボタン及びタッチパネルなどである。入力部704は、要援助度算出部406及び判定部403の一部として含まれてよい。
出力部705は、例えばディスプレイで実現される。出力部705は、例えばGUI(GRAPHICAL User Interface)によるオペレータへの入力要求や、オペレータに対する出力提示などのために用いられる。出力部705は、要援助度算出部406及び判定部403の一部として含まれてよい。
通信部706は、外部装置とのインタフェースを実現する。通信部706は、要援助度算出部406及び判定部403の一部として含まれてよい。
以上説明したように、図8に示す情報処理システム40の機能単位の各構成要素は、図9に示すハードウエア構成のコンピュータ700によって実現される。但し、コンピュータ700が備える各部の実現手段は、上記に限定されない。すなわち、コンピュータ700は、物理的に結合した1つの装置により実現されてもよいし、物理的に分離した2つ以上の装置を有線または無線で接続し、これら複数の装置により実現されてもよい。
尚、上述のプログラムのコードを記録した記録媒体707が、コンピュータ700に供給される場合、CPU701は、記録媒体707に格納されたそのプログラムのコードを読み出して実行してもよい。あるいは、CPU701は、記録媒体707に格納されたそのプログラムのコードを、記憶部702、記憶装置703またはその両方に格納してもよい。すなわち、本実施形態は、コンピュータ700(CPU701)が実行するそのプログラム(ソフトウエア)を、一時的にまたは非一時的に、記憶する記録媒体707の実施形態を含む。尚、情報を非一時的に記憶する記憶媒体は、不揮発性記憶媒体とも呼ばれる。
以上が、本実施形態における情報処理システム40を実現するコンピュータ700の、ハードウエア単位の各構成要素についての説明である。
図8に戻って、情報処理システム40の機能単位の各構成要素について説明する。
===要援助度算出部406===
要援助度算出部406は、コミュニケーション処理装置の、コミュニケーションに対する援助の必要性の程度を示す要援助度を算出する。ここで、そのコミュニケーション処理装置は、発信情報に、情報処理を施すことによってコミュニケーションを支援する。その発信情報は、言語を用いるコミュニケーションにおいて発生する内容である。
要援助度算出部406は、例えば、図1に示す要援助度算出部106と通信制御部108とを合わせたものに対応する。また、要援助度算出部406は、図3に示す要援助度算出部106と通信制御部112とを合わせたものに対応する。要援助度算出部406は、図7に示す要援助度算出部126と通信制御部108とを合わせたものに対応する。
===判定部403===
判定部403は、要援助度算出部406が算出した要援助度に基づいて、オペレータ端末を接続するコミュニケーション処理装置(ユーザ端末)を判定し、判定結果を出力する。オペレータ端末は、上述のコミュニケーションを援助する。そのオペレータ端末は、例えば、図1及び図7に示すオペレータ端末20や、図3に示すオペレータ端末21(オペレータ端末21−1、オペレータ端末21−2及びオペレータ端末21−m)である。そのコミュニケーション処理装置(ユーザ端末)は、例えば、図1に示すユーザ端末10(ユーザ端末10−1、ユーザ端末10−2・・・及び10−n)である。また、そのコミュニケーション処理装置は、図3に示すユーザ端末11(ユーザ端末11−1、ユーザ端末11−2・・・及び11−n)であってよい。また、そのコミュニケーション処理装置は、例えば、図7に示すユーザ端末12(ユーザ端末12−1、ユーザ端末12−2・・・及び12−n)であってよい。
判定部403は、例えば、図1に示す通信制御部201と判定部203とを合わせたものに対応する。また、判定部403は、図3に示す判定部303に対応する。また、判定部403は、図7に示す通信制御部201と判定部203とを合わせたものに対応する。
以上が、情報処理システム40の機能単位の各構成要素についての説明である。
次に本実施形態の動作について、図面を参照して詳細に説明する。
図10は、本実施形態の要援助度算出部406の動作を示すフローチャートである。尚、このフローチャートによる処理は、前述したCPU701によるプログラム制御に基づいて、実行されてよい。また、処理のステップ名については、S601のように、記号で記載する。
要援助度算出部406は、コミュニケーション不全状態の発生を検出する(ステップS601)。
次に、要援助度算出部406は、その発生したコミュニケーション不全状態の度合いを示す不全度を、大小比較が可能な値として、算出する(ステップS602)。
次に、要援助度算出部406は、算出した不全度に基づいて、要援助度を算出する(ステップS603)。
次に、要援助度算出部406は、算出した要援助度を判定部403へ送信する(ステップS604)。
図11は、本実施形態の判定部403の動作を示すフローチャートである。尚、このフローチャートによる処理は、前述したCPU701によるプログラム制御に基づいて、実行されてよい。また、処理のステップ名については、S601のように、記号で記載する。
ここでは、判定部403が所定の時間に判定処理を実行する、と想定した場合の動作を説明する。
判定部403は、オペレータ端末が空いているか否かを確認する(ステップS611)。オペレータ端末が空いていると判定した場合(ステップS611でYES)、処理はステップS612へ進む。オペレータ端末は空いていないと判定した場合(ステップS611でNO)、処理はステップS611へ戻る。
例えば、図1及び図7に示すオペレータ端末20の、判定部403の一部に対応する、判定部203は、通信制御部201がいずれかのコミュニケーション処理装置と援助用の通信チャンネルを確立した状態であるか否かを判定する。この場合、援助用の通信チャンネルを確立した状態であるならば、そのオペレータ端末20は空いていない。また、援助用の通信チャンネルを確立した状態でないならば、そのオペレータ端末20は空いている。
判定部403は、要援助度を受信したか否かを判定する(ステップS612)。要援助度を受信したと判定した場合(ステップS612でYES)、処理はステップS613へ進む。要援助度を受信していないと判定した場合(ステップS612でNO)、処理はステップS614へ進む。
判定部403は、受信した要援助度と対応するコミュニケーション処理装置のユーザ端末識別子との組を、図12に示すような要援助端末情報850として記憶する(ステップS613)。その後処理は、ステップS615へ進む。
図12は、要援助端末情報850の一例を示す図である。図12に示すように、要援助端末情報850は、要援助度とユーザ端末識別子との組を含む。
判定部403は、要援助端末情報850が空(カラ)か否かを判定する(ステップS614)。要援助端末情報850が空でないと判定した場合(ステップS614)でNO)、処理はステップS615へ進む。要援助端末情報850が空であると判定した場合(ステップS614でYES)、処理は終了する。
次に、判定部403は、要援助端末情報850に基づいて、要援助度が最大の値であるコミュニケーション処理装置を判定する(ステップS615)。
次に、判定部403は、判定したそのコミュニケーション処理装置のユーザ端末識別子を出力する(ステップS616)。
例えば、判定部403は、そのユーザ端末識別子を図9に示す出力部705を介して出力する。また、判定部403は、図9に示す通信部706を介して、図示しない機器にそのユーザ端末識別子を送信してもよい。また、判定部403は、図9に示す記憶装置703を介して、記録媒体707にそのユーザ端末識別子を記録してもよい。
次に、判定部403は、要援助端末情報850から、判定したそのコミュニケーション処理装置に対応する、要援助度とユーザ端末識別子との組を削除する(ステップS617)。その後、処理は、終了する。
上述した本実施形態における第1の効果は、オペレータが対応するコミュニケーション処理装置を、より適切な優先順で判定することが可能になる点である。
その理由は、要援助度算出部406が各コミュニケーション処理装置の要援助度を算出し、判定部403がその要援助度に基づいて、オペレータ端末を接続するコミュニケーション処理装置を判定するからである。
<<<第4の実施形態の変形例>>>
図13は、第4の実施形態の変形例である情報処理システム41を示す図である。図に示すように、情報処理システム41は、図8に示す情報処理システム40と、ユーザ端末14と、オペレータ端末24と、パラメータ記憶装置407と、を含む。情報処理システム40と、ユーザ端末14と、オペレータ端末24と、パラメータ記憶装置407とは、ネットワーク419を介して接続されている。尚、情報処理システム40と、ユーザ端末14と、オペレータ端末24と、パラメータ記憶装置407との任意のいずれかどうしは、ネットワークを介することなく直接接続されてもよい。即ち、情報処理システム40と、ユーザ端末14と、オペレータ端末24と、パラメータ記憶装置407とは、任意に、ネットワーク419を介して接続されてよい。
===ユーザ端末14==
ユーザ端末14は、例えば図1に示すユーザ端末10‐1と比べて、要援助度算出部106を含まない点が異なる。即ち、ユーザ端末14における要援助度の算出は、情報処理システム40の要援助度算出部106で実現される。尚、情報処理システム41は、図13に示す構成に係わらず、任意の数のユーザ端末14を含んでよい。
===オペレータ端末24===
オペレータ端末24は、例えば図1に示すオペレータ端末20と比べて、判定部203を含まない点が異なる。即ち、オペレータ端末24における判定の処理は、情報処理システム40の判定部403で実現される。尚、情報処理システム41は、図13に示す構成に係わらず、任意の数のオペレータ端末24を含んでよい。
===パラメータ記憶装置407===
パラメータ記憶装置407は、前述の調整パラメータを記憶する。尚、調整パラメータをパラメータ記憶装置407に記憶するユーザ端末14は、パラメータ格納部107を含まなくてもよい。尚、情報処理システム41は、図13に示す構成に係わらず、任意の数のパラメータ記憶装置407を含んでよいし、パラメータ記憶装置407を1台も含まなくてもよい。
情報処理システム41は、更に、図3に示す接続制御部31を含んでよい。この場合、判定部403は、判定部303として、接続制御部31に含まれてよい。また、情報処理システム41は、オペレータ端末21を含んでよい。
上述した本実施形態における変形例の効果は、情報処理システム41の構築を柔軟に実現することが可能になる点である。
その理由は、情報処理システム40と、ユーザ端末14と、オペレータ端末24と、パラメータ記憶装置407とを、任意に、ネットワーク419を介して接続するからである。
以上の各実施形態で説明した各構成要素は、必ずしも個々に独立した存在である必要はない。例えば、複数個の任意のその構成要素が1個のモジュールとして実現されてよい。また、その構成要素の内の任意のひとつが複数のモジュールで実現されてもよい。また、その構成要素の内の任意のひとつがその構成要素の内の任意の他のひとつであってよい。また、その構成要素の内の任意のひとつの一部と、その構成要素の内の任意の他のひとつの一部とが重複してもよい。
以上説明した各実施形態における各構成要素及び各構成要素を実現するモジュールは、必要に応じ、可能であれば、ハードウエア的に実現されてよい。また、各構成要素及び各構成要素を実現するモジュールは、コンピュータ及びプログラムで実現されてよい。また、各構成要素及び各構成要素を実現するモジュールは、ハードウエア的なモジュールとコンピュータ及びプログラムとの混在により実現されてもよい。
そのプログラムは、例えば、磁気ディスクや半導体メモリなど、コンピュータが読み取り可能な非一時的記録媒体に記録され、コンピュータに提供される。そして、そのプログラムは、コンピュータの立ち上げ時などに、非一時的記録媒体からコンピュータに読み取られる。この読み取られたプログラムは、そのコンピュータの動作を制御することにより、そのコンピュータを前述した各実施形態における構成要素として機能させる。
また、以上説明した各実施形態では、複数の動作をフローチャートの形式で順番に記載してあるが、その記載の順番は複数の動作を実行する順番を限定するものではない。このため、各実施形態を実施するときには、その複数の動作の順番は内容的に支障のない範囲で変更することができる。
更に、以上説明した各実施形態では、複数の動作は個々に相違するタイミングで実行されることに限定されない。例えば、ある動作の実行中に他の動作が発生してよい。また、ある動作と他の動作との実行タイミングが部分的に乃至全部において重複してもよい。
更に、以上説明した各実施形態では、ある動作が他の動作の契機になるように記載しているが、その記載はある動作と他の動作との関係を限定するものではない。このため、各実施形態を実施するときには、その複数の動作の関係は内容的に支障のない範囲で変更することができる。また各構成要素の各動作の具体的な記載は、各構成要素の各動作を限定するものではない。このため、各構成要素の具体的な各動作は、各実施形態を実施する上で機能的、性能的、その他の特性に対して支障を来さない範囲内で変更されてよい。
以上、各実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得るさまざまな変更をすることができる。