JP2020160132A - エージェント装置、エージェント装置の制御方法、プログラム、エージェントサーバ、およびエージェントサーバの制御方法 - Google Patents

Abstract

【課題】利便性を高めることができるエージェント装置、エージェント装置の制御方法、プログラム、エージェントサーバ、およびエージェントサーバの制御方法を提供すること。【解決手段】利用者の発話に応じて、音声による応答を含むサービスを提供するエージェント機能部を備え、前記エージェント機能部は、前記利用者の発話に対して予め想定された対応ができない場合、対応ができない理由が、複数の対応不可理由のうちいずれに該当するかを報知する情報を、出力部に出力させる、エージェント装置。【選択図】図２

Description

本発明は、エージェント装置、エージェント装置の制御方法、プログラム、エージェントサーバ、およびエージェントサーバの制御方法に関する。

従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェント機能に関する技術が開示されている（例えば、特許文献１参照）。

特開２００６−３３５２３１号公報

従来の技術では、利用者が、エージェント機能が予め想定していない発話を行った場合、単に「分からない」「対応できない」といった画一的な応答がなされていた。このため、利用者の側では、対応できなかった理由を知ることができず、例えば、発音を正しくすれば良いのか、言い回しを丁寧にすれば良いのか、或いはそもそもエージェントが機能を備えていないため諦めた方が良いのか、次のアクションに迷ってしまう場合があり、利便性が十分でなかった。

本発明は、このような事情を考慮してなされたものであり、利便性を高めることができるエージェント装置、エージェント装置の制御方法、プログラム、エージェントサーバ、およびエージェントサーバの制御方法を提供することを目的の一つとする。

この発明に係るエージェント装置、エージェント装置の制御方法、プログラム、エージェントサーバ、およびエージェントサーバの制御方法は、以下の構成を採用した。

（１）：本発明の一態様に係るエージェント装置は、利用者の発話に応じて、音声による応答を含むサービスを提供するエージェント機能部を備え、前記エージェント機能部は、前記利用者の発話に対して予め想定された対応ができない場合、対応ができない理由が、複数の対応不可理由のうちいずれに該当するかを報知する情報を、出力部に出力させるものである。

（２）：上記（１）の態様において、前記複数の対応不可理由は、前記利用者の発話を音声認識して意図解釈する過程における、どの段階に該当するかを示すものである。

（３）：上記（１）または（２）の態様において、前記複数の対応不可理由は、前記利用者の発話を音声認識した際に、十分な精度でテキスト化できなかったという対応不可理由を含むものである。

（４）：上記（１）から（３）のいずれかの態様において、前記複数の対応不可理由は、前記利用者の発話を音声認識した際に、言語が不明であったという対応不可理由を含むものである。

（５）：上記（１）から（４）のいずれかの態様において、前記複数の対応不可理由は、前記利用者の発話を音声認識して意図解釈した際に、動詞が不明であったという対応不可理由を含むものである。

（６）：上記（１）から（５）のいずれかの態様において、前記複数の対応不可理由は、前記利用者の発話を音声認識して意図解釈した際に、動詞の目的語が不明であったという対応不可理由を含むものである。

（７）：上記（１）から（６）のいずれかの態様において、前記複数の対応不可理由は、前記利用者の発話を音声認識して意図解釈した結果、前記エージェント機能部が実現するエージェントが有していない機能を要求するものであったという対応不可理由を含むものである。

（８）：本発明の他の態様に係るエージェント装置の制御方法は、エージェント装置が、利用者の発話に応じて、音声による応答を含むサービスを提供し、前記利用者の発話に対して予め想定された対応ができない場合、対応ができない理由が、複数の対応不可理由のうちいずれに該当するかを報知する情報を、出力部に出力させるものである。

（９）：本発明の他の態様に係るプログラムは、エージェント装置に、利用者の発話に応じて、音声による応答を含むサービスを提供させ、前記利用者の発話に対して予め想定された対応ができない場合、対応ができない理由が、複数の対応不可理由のうちいずれに該当するかを報知する情報を、出力部に出力させることを行わせるものである。

（１０）：本発明の他の態様に係るエージェントサーバは、エージェント装置に対して利用者が発した音声を取得する取得部と、前記取得部により取得された音声に対して音声認識を行う音声認識部と、前記音声認識部により行われた音声認識の結果に対して意図解釈を行う意図解釈部と、前記意図解釈部により行われた意図解釈の結果に基づいて前記エージェント装置の対応を決定する対応部と、を備え、前記対応部は、前記音声認識または前記意図解釈の結果、予め想定された複数の対応のうちいずれかの対応を決定できない場合、対応ができない理由が、複数の対応不可理由のいずれに該当するかを判定し、複数の対応不可理由のいずれに該当するかを前記エージェント装置に報知させるものである。

（１１）：上記（１０）の態様において、前記対応部は、前記エージェント装置が対応可能な機能に関する機能辞書と、汎用的な言葉の意味を記述した汎用辞書とを用いて、前記対応ができない理由が、複数の対応不可理由のいずれに該当するかを判定するものである。

（１２）：本発明の他の態様に係るエージェントサーバの制御方法は、エージェントサーバが、エージェント装置に対して利用者が発した音声を取得し、前記取得された音声に対して音声認識を行い、前記音声認識の結果に対して意図解釈を行い、前記意図解釈の結果に基づいて前記エージェント装置の対応を決定し、前記対応を決定する際に、前記音声認識または前記意図解釈の結果、予め想定された複数の対応のうちいずれかの対応を決定できない場合、対応ができない理由が、複数の対応不可理由のいずれに該当するかを判定し、複数の対応不可理由のいずれに該当するかを前記エージェント装置に報知させるものである。

（１３）：本発明の他の態様に係るプログラムは、エージェントサーバに、エージェント装置に対して利用者が発した音声を取得させ、前記取得された音声に対して音声認識を行わせ、前記音声認識の結果に対して意図解釈を行わせ、前記意図解釈の結果に基づいて前記エージェント装置の対応を決定させ、前記対応を決定させる際に、前記音声認識または前記意図解釈の結果、予め想定された複数の対応のうちいずれかの対応を決定できない場合、対応ができない理由が、複数の対応不可理由のいずれに該当するかを判定させ、複数の対応不可理由のいずれに該当するかを前記エージェント装置に報知させることを行わせるものである。

（１）〜（１３）の態様によれば、利便性を高めることができる。

エージェント装置１００を含むエージェントシステム１の構成図である。 第１実施形態に係るエージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。 表示・操作装置２０の配置例を示す図である。 スピーカユニット３０の配置例を示す図である。 エージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。 利用者の発話に応じたエージェント装置１００が応答する内容を例示した図である。 エージェントサーバ２００において実行される処理の流れの一例を示すフローチャートである。

以下、図面を参照し、本発明のエージェント装置、エージェント装置の制御方法、プログラム、およびエージェントサーバの実施形態について説明する。エージェント装置は、エージェントシステムの一部または全部を実現する装置である。以下では、エージェント装置の一例として、車両（以下、車両Ｍ）に搭載され、複数種類のエージェント機能を備えたエージェント装置について説明する。本発明の適用上、必ずしもエージェント装置が複数種類のエージェント機能を有している必要はなく、エージェント装置は、スマートフォンなどの可搬型端末装置であってもよいが、以下の説明では、車両に搭載された複数種類のエージェント機能を備えたエージェント装置を前提とする。エージェント機能とは、例えば、車両Ｍの乗員と対話をしながら、乗員の発話の中に含まれる要求（コマンド）に基づく各種の情報提供や各種機器制御を行ったり、ネットワークサービスを仲介したりする機能である。エージェント機能の中には、車両内の機器（例えば運転制御や車体制御に関わる機器）の制御等を行う機能を有するものがあってよい。

エージェント機能は、例えば、乗員の音声を認識する音声認識機能（音声をテキスト化する機能）に加え、自然言語処理機能（テキストの構造や意味を理解する機能、換言すると意図解釈機能）、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、ＡＩ（Artificial Intelligence）技術によって実現されてよい。また、これらの機能を行うための構成の一部（特に、音声認識機能や自然言語処理解釈機能）は、車両Ｍの車載通信装置または車両Ｍに持ち込まれた汎用通信装置と通信可能なエージェントサーバ（外部装置）に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバが協働してエージェントシステムを実現することを前提とする。また、エージェント装置とエージェントサーバが協働して仮想的に出現させるサービス提供主体（サービス・エンティティ）をエージェントと称する。

＜全体構成＞
図１は、エージェント装置１００を含むエージェントシステム１の構成図である。エージェントシステム１は、例えば、エージェント装置１００と、複数のエージェントサーバ２００−１、２００−２、２００−３、…とを備える。符号の末尾のハイフン以下数字は、エージェントを区別するための識別子であるものとする。いずれのエージェントサーバであるかを区別しない場合、単にエージェントサーバ２００と称する場合がある。図１では３つのエージェントサーバ２００を示しているが、エージェントサーバ２００の数は２つであってもよいし、４つ以上であってもよい。それぞれのエージェントサーバ２００は、互いに異なるエージェントシステムの提供者が運営するものである。従って、本発明におけるエージェントは、互いに異なる提供者により実現されるエージェントである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者・製造者などが挙げられ、任意の主体（法人、団体、個人等）がエージェントシステムの提供者となり得る。

エージェント装置１００は、ネットワークＮＷを介してエージェントサーバ２００と通信する。ネットワークＮＷは、例えば、インターネット、セルラー網、Ｗｉ−Ｆｉ網、ＷＡＮ（Wide Area Network）、ＬＡＮ（Local Area Network）、公衆回線、電話回線、無線基地局などのうち一部または全部を含む。ネットワークＮＷには、各種ウェブサーバ３００が接続されており、エージェントサーバ２００またはエージェント装置１００は、ネットワークＮＷを介して各種ウェブサーバ３００からウェブページを取得することができる。

エージェント装置１００は、車両Ｍの乗員と対話を行い、乗員からの音声をエージェントサーバ２００に送信し、エージェントサーバ２００から得られた回答を、音声出力や画像表示の形で乗員に提示する。

［車両］
図２は、第１実施形態に係るエージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。車両Ｍには、例えば、一以上のマイク１０と、表示・操作装置２０と、スピーカユニット３０と、ナビゲーション装置４０と、車両機器５０と、車載通信装置６０と、乗員認識装置８０と、エージェント装置１００とが搭載される。また、スマートフォンなどの汎用通信装置７０が車室内に持ち込まれ、通信装置として使用される場合がある。これらの装置は、ＣＡＮ（Controller Area Network）通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図２に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。

マイク１０は、車室内で発せられた音声を収集する収音部である。表示・操作装置２０は、画像を表示すると共に、入力操作を受付可能な装置（或いは装置群）である。表示・操作装置２０は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置２０は、更に、ＨＵＤ（Head Up Display）や機械式の入力装置を含んでもよい。スピーカユニット３０は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ（音出力部）を含む。表示・操作装置２０は、エージェント装置１００とナビゲーション装置４０とで共用されてもよい。表示・操作装置２０とスピーカユニット３０のうち少なくとも一方は、「出力部」の一例である。

ナビゲーション装置４０は、ナビＨＭＩ（Human machine Interface）と、ＧＰＳ（Global Positioning System）などの位置測位装置と、地図情報を記憶した記憶装置と、経路探索などを行う制御装置（ナビゲーションコントローラ）とを備える。マイク１０、表示・操作装置２０、およびスピーカユニット３０のうち一部または全部がナビＨＭＩとして用いられてもよい。ナビゲーション装置４０は、位置測位装置によって特定された車両Ｍの位置から、乗員によって入力された目的地まで移動するための経路（ナビ経路）を探索し、経路に沿って車両Ｍが走行できるように、ナビＨＭＩを用いて案内情報を出力する。経路探索機能は、ネットワークＮＷを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置４０は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置１００は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置１００は、ハードウェア上は一体に構成される。

車両機器５０は、例えば、エンジンや走行用モータなどの駆動力出力装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、空調装置などを含む。

車載通信装置６０は、例えば、セルラー網やＷｉ−Ｆｉ網を利用してネットワークＮＷにアクセス可能な無線通信装置である。

乗員認識装置８０は、例えば、着座センサ、車室内カメラ、画像認識装置などを含む。着座センサは座席の下部に設けられた圧力センサ、シートベルトに取り付けられた張力センサなどを含む。車室内カメラは、車室内に設けられたＣＣＤ（Charge Coupled Device）カメラやＣＭＯＳ（Complementary Metal Oxide Semiconductor）カメラである。画像認識装置は、車室内カメラの画像を解析し、座席ごとの乗員の有無、顔向きなどを認識する。本実施形態において、乗員認識装置８０は、着座位置認識部の一例である。

図３は、表示・操作装置２０の配置例を示す図である。表示・操作装置２０は、例えば、第１ディスプレイ２２と、第２ディスプレイ２４と、操作スイッチＡＳＳＹ２６とを含む。表示・操作装置２０は、更に、ＨＵＤ２８を含んでもよい。

車両Ｍには、例えば、ステアリングホイールＳＷが設けられた運転席ＤＳと、運転席ＤＳに対して車幅方向（図中Ｙ方向）に設けられた助手席ＡＳとが存在する。第１ディスプレイ２２は、インストルメントパネルにおける運転席ＤＳと助手席ＡＳとの中間辺りから、助手席ＡＳの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。第２ディスプレイ２４は、運転席ＤＳと助手席ＡＳとの車幅方向に関する中間あたり、且つ第１ディスプレイの下方に設置されている。例えば、第１ディスプレイ２２と第２ディスプレイ２４は、共にタッチパネルとして構成され、表示部としてＬＣＤ（Liquid Crystal Display）や有機ＥＬ（Electroluminescence）、プラズマディスプレイなどを備えるものである。操作スイッチＡＳＳＹ２６は、ダイヤルスイッチやボタン式スイッチなどが集積されたものである。表示・操作装置２０は、乗員によってなされた操作の内容をエージェント装置１００に出力する。第１ディスプレイ２２または第２ディスプレイ２４が表示する内容は、エージェント装置１００によって決定されてよい。

図４は、スピーカユニット３０の配置例を示す図である。スピーカユニット３０は、例えば、スピーカ３０Ａ〜３０Ｈを含む。スピーカ３０Ａは、運転席ＤＳ側の窓柱（いわゆるＡピラー）に設置されている。スピーカ３０Ｂは、運転席ＤＳに近いドアの下部に設置されている。スピーカ３０Ｃは、助手席ＡＳ側の窓柱に設置されている。スピーカ３０Ｄは、助手席ＡＳに近いドアの下部に設置されている。スピーカ３０Ｅは、右側後部座席ＢＳ１側に近いドアの下部に設置されている。スピーカ３０Ｆは、左側後部座席ＢＳ２側に近いドアの下部に設置されている。スピーカ３０Ｇは、第２ディスプレイ２４の近傍に設置されている。スピーカ３０Ｈは、車室の天井（ルーフ）に設置されている。

係る配置において、例えば、専らスピーカ３０Ａおよび３０Ｂに音を出力させた場合、音像は運転席ＤＳ付近に定位することになる。また、専らスピーカ３０Ｃおよび３０Ｄに音を出力させた場合、音像は助手席ＡＳ付近に定位することになる。また、専らスピーカ３０Ｅに音を出力させた場合、音像は右側後部座席ＢＳ１付近に定位することになる。また、専らスピーカ３０Ｆに音を出力させた場合、音像は左側後部座席ＢＳ２付近に定位することになる。また、専らスピーカ３０Ｇに音を出力させた場合、音像は車室の前方付近に定位することになり、専らスピーカ３０Ｈに音を出力させた場合、音像は車室の上方付近に定位することになる。これに限らず、スピーカユニット３０は、ミキサーやアンプを用いて各スピーカの出力する音の配分を調整することで、車室内の任意の位置に音像を定位させることができる。

［エージェント装置］
図２に戻り、エージェント装置１００は、管理部１１０と、エージェント機能部１５０−１、１５０−２、１５０−３と、ペアリングアプリ実行部１５２とを備える。管理部１１０は、例えば、音響処理部１１２と、エージェントごとＷＵ（Wake Up）判定部１１４と、表示制御部１１６と、音声制御部１１８とを備える。いずれのエージェント機能部であるか区別しない場合、単にエージェント機能部１５０と称する。３つのエージェント機能部１５０を示しているのは、図１におけるエージェントサーバ２００の数に対応させた一例に過ぎず、エージェント機能部１５０の数は、２つであってもよいし、４つ以上であってもよい。図２に示すソフトウェア配置は説明のために簡易に示しており、実際には、例えば、エージェント機能部１５０と車載通信装置６０の間に管理部１１０が介在してもよいように、任意に改変することができる。

エージェント装置１００の各構成要素は、例えば、ＣＰＵ（Central Processing Unit）などのハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）、ＧＰＵ（Graphics Processing Unit）などのハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤ（Hard Disk Drive）やフラッシュメモリなどの記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ−ＲＯＭなどの着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。

管理部１１０は、ＯＳ（Operating System）やミドルウェアなどのプログラムが実行されることで機能する。

管理部１１０の音響処理部１１２は、エージェントごとに予め設定されているウエイクアップワードを認識するのに適した状態になるように、入力された音に対して音響処理を行う。

エージェントごとＷＵ判定部１１４は、エージェント機能部１５０−１、１５０−２、１５０−３のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。エージェントごとＷＵ判定部１１４は、音響処理が行われた音声（音声ストリーム）から音声の意味を認識する。まず、エージェントごとＷＵ判定部１１４は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。エージェントごとＷＵ判定部１１４は、混合ガウス分布モデル（ＧＭＭ；Gaussian mixture model) に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。

次に、エージェントごとＷＵ判定部１１４は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、エージェントごとＷＵ判定部１１４は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合。エージェントごとＷＵ判定部１１４は、対応するエージェント機能部１５０を起動させる。なお、エージェントごとＷＵ判定部１１４に相当する機能がエージェントサーバ２００に搭載されてもよい。この場合、管理部１１０は、音響処理部１１２によって音響処理が行われた音声ストリームをエージェントサーバ２００に送信し、エージェントサーバ２００がウエイクアップワードであると判定した場合、エージェントサーバ２００からの指示に従ってエージェント機能部１５０が起動する。なお、各エージェント機能部１５０は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部１１０がエージェントごとＷＵ判定部１１４を備える必要はない。

エージェント機能部１５０は、対応するエージェントサーバ２００と協働してエージェントを出現させ、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する。エージェント機能部１５０には、車両機器５０を制御する権限が付与されたものが含まれてよい。また、エージェント機能部１５０には、ペアリングアプリ実行部１５２を介して汎用通信装置７０と連携し、エージェントサーバ２００と通信するものがあってよい。例えば、エージェント機能部１５０−１には、車両機器５０を制御する権限が付与されている。エージェント機能部１５０−１は、車載通信装置６０を介してエージェントサーバ２００−１と通信する。エージェント機能部１５０−２は、車載通信装置６０を介してエージェントサーバ２００−２と通信する。エージェント機能部１５０−３は、ペアリングアプリ実行部１５２を介して汎用通信装置７０と連携し、エージェントサーバ２００−３と通信する。ペアリングアプリ実行部１５２は、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）によって汎用通信装置７０とペアリングを行い、エージェント機能部１５０−３と汎用通信装置７０とを接続させる。なお、エージェント機能部１５０−３は、ＵＳＢ（Universal Serial Bus）などを利用した有線通信によって汎用通信装置７０に接続されるようにしてもよい。以下、エージェント機能部１５０−１とエージェントサーバ２００−１が協働して出現させるエージェントをエージェント１、エージェント機能部１５０−２とエージェントサーバ２００−２が協働して出現させるエージェントをエージェント２、エージェント機能部１５０−３とエージェントサーバ２００−３が協働して出現させるエージェントをエージェント３と称する場合がある。

表示制御部１１６は、エージェント機能部１５０からの指示に応じて第１ディスプレイ２２または第２ディスプレイ２４に画像を表示させる。以下では、第１ディスプレイ２２を使用するものとする。表示制御部１１６は、一部のエージェント機能部１５０の制御により、例えば、車室内で乗員とのコミュニケーションを行う擬人化されたエージェントの画像（以下、エージェント画像と称する）を生成し、生成したエージェント画像を第１ディスプレイ２２に表示させる。エージェント画像は、例えば、乗員に対して話しかける態様の画像である。エージェント画像は、例えば、少なくとも観者（乗員）によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、エージェント画像は、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、エージェント画像は、立体的に感じられ、観者によって三次元空間における頭部画像を含むことでエージェントの顔向きが認識されたり、本体（胴体や手足）の画像を含むことで、エージェントの動作や振る舞い、姿勢等が認識されるものであってもよい。また、エージェント画像は、アニメーション画像であってもよい。

音声制御部１１８は、エージェント機能部１５０からの指示に応じて、スピーカユニット３０に含まれるスピーカのうち一部または全部に音声を出力させる。音声制御部１１８は、複数のスピーカユニット３０を用いて、エージェント画像の表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。エージェント画像の表示位置に対応する位置とは、例えば、エージェント画像がエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、エージェント画像の表示位置付近（例えば、２〜３［ｃｍ］以内）の位置である。また、音像が定位するとは、例えば、乗員の左右の耳に伝達される音の大きさを調節することにより、乗員が感じる音源の空間的な位置を定めることである。

［エージェントサーバ］
図５は、エージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。以下、エージェントサーバ２００の構成と共にエージェント機能部１５０等の動作について説明する。ここでは、エージェント装置１００からネットワークＮＷまでの物理的な通信についての説明を省略する。

エージェントサーバ２００は、通信部２１０を備える。通信部２１０は、例えばＮＩＣ（Network Interface Card）などのネットワークインターフェースである。更に、エージェントサーバ２００は、例えば、音声認識部２２０と、自然言語処理部２２２と、対話管理部２２４と、ネットワーク検索部２２６と、応答文生成部２２８と、対応不可理由解析部２３０とを備える。これらの構成要素は、例えば、ＣＰＵなどのハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩやＡＳＩＣ、ＦＰＧＡ、ＧＰＵなどのハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤやフラッシュメモリなどの記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ−ＲＯＭなどの着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。通信部２１０は「取得部」の一例であり、自然言語処理部２２２は「意図解釈部」の一例であり、対話管理部２２４とネットワーク検索部２２６と応答文生成部２２８と対応不可理由解析部２３０とを合わせたものは「対応部」の一例である。なお、複数のエージェントサーバ２００のうち一部は、対応不可理由解析部２３０を備えないものであってよい。

エージェントサーバ２００は、記憶部２５０を備える。記憶部２５０は、上記の各種記憶装置により実現される。記憶部２５０には、パーソナルプロファイル２５２、辞書ＤＢ（データベース）２５４、知識ベースＤＢ２５６、応答規則ＤＢ２５８などのデータやプログラムが格納される。

エージェント装置１００において、エージェント機能部１５０は、音声ストリーム、或いは圧縮や符号化などの処理を行った音声ストリームを、エージェントサーバ２００に送信する。エージェント機能部１５０は、ローカル処理（エージェントサーバ２００を介さない処理）が可能な音声コマンドを認識した場合は、音声コマンドで要求された処理を行ってよい。ローカル処理が可能な音声コマンドとは、エージェント装置１００が備える記憶部（不図示）を参照することで回答可能な音声コマンドであったり、エージェント機能部１５０−１の場合は車両機器５０を制御する音声コマンド（例えば、空調装置をオンにするコマンドなど）であったりする。従って、エージェント機能部１５０は、エージェントサーバ２００が備える機能の一部を有してもよい。

音声ストリームを取得すると、音声認識部２２０が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部２２２が文字情報に対して辞書ＤＢ２５４を参照しながら意図解釈を行う。辞書ＤＢ２５４は、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書ＤＢ２５４は、例えば、機能辞書２５４Ａと汎用辞書２５４Ｂを含む。機能辞書２５４Ａは、当該エージェントサーバ２００がエージェント装置１００と協働して実現するエージェント（以下、当該エージェントと称する）が提供する機能をカバーするための辞書である。例えば、当該エージェントが車載エアコンを制御する機能を提供する場合、機能辞書２５４Ａには、「エアコン」「空調」「つける」「消す」「温度」「上げる」「下げる」「内気」「外気」などの単語が、動詞、目的語などの単語種別、および抽象化された意味と対応付けられて登録されている。また、機能辞書２５４Ａには、同時に使用可能であることを示す単語間リンク情報が含まれてよい。汎用辞書２５４Ｂは、当該エージェントの提供する機能に限らず、一般的な物事の事象を抽象化された意味と対応付けた辞書である。機能辞書２５４Ａと汎用辞書２５４Ｂのそれぞれは、同義語や類義語の一覧情報を含んでもよい。機能辞書２５４Ａと汎用辞書２５４Ｂは、複数の言語のそれぞれに対応して用意されてよく、その場合、音声認識部２２０および自然言語処理部２２２は、予め設定されている言語設定に応じた機能辞書２５４Ａおよび汎用辞書２５４Ｂ、並びに文法情報（不図示）を使用する。音声認識部２２０の処理と、自然言語処理部２２２の処理は、段階が明確に分かれるものではなく、自然言語処理部２２２の処理結果を受けて音声認識部２２０が認識結果を修正するなど、相互に影響し合って行われてよい。

自然言語処理部２２２は、例えば、認識結果として、「今日の天気は」、「天気はどうですか」等の意図が認識された場合、標準文字情報「今日の天気」に置き換えたコマンドを生成する。これにより、リクエストの音声に文字揺らぎがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部２２２は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成してもよい。

対話管理部２２４は、自然言語処理部２２２の処理結果（コマンド）に基づいて、パーソナルプロファイル２５２や知識ベースＤＢ２５６、応答規則ＤＢ２５８を参照しながら車両Ｍの乗員に対する発話の内容を決定する。パーソナルプロファイル２５２は、乗員ごとに保存されている乗員の個人情報、趣味嗜好、過去の対話の履歴などを含む。知識ベースＤＢ２５６は、物事の関係性を規定した情報である。応答規則ＤＢ２５８は、コマンドに対してエージェントが行うべき動作（回答や機器制御の内容など）を規定した情報である。

また、対話管理部２２４は、音声ストリームから得られる特徴情報を用いて、パーソナルプロファイル２５２と照合を行うことで、乗員を特定してもよい。この場合、パーソナルプロファイル２５２には、例えば、音声の特徴情報に、個人情報が対応付けられている。音声の特徴情報とは、例えば、声の高さ、イントネーション、リズム（音の高低のパターン）等の喋り方の特徴や、メル周波数ケプストラム係数（Mel Frequency Cepstrum Coefficients）等による特徴量に関する情報である。音声の特徴情報は、例えば、乗員の初期登録時に所定の単語や文章等を乗員に発声させ、発声させた音声を認識することで得られる情報である。

対話管理部２２４は、コマンドが、ネットワークＮＷを介して検索可能な情報を要求するものである場合、ネットワーク検索部２２６に検索を行わせる。ネットワーク検索部２２６は、ネットワークＮＷを介して各種ウェブサーバ３００にアクセスし、所望の情報を取得する。「ネットワークＮＷを介して検索可能な情報」とは、例えば、車両Ｍの周辺にあるレストランの一般ユーザによる評価結果であったり、その日の車両Ｍの位置に応じた天気予報であったりする。

応答文生成部２２８は、対話管理部２２４により決定された発話の内容が車両Ｍの乗員に伝わるように、応答文を生成し、エージェント装置１００に送信する。応答文生成部２２８は、乗員がパーソナルプロファイルに登録された乗員であることが特定されている場合に、乗員の名前を呼んだり、乗員の話し方に似せた話し方にした応答文を生成してもよい。

エージェント機能部１５０は、応答文を取得すると、音声合成を行って音声を出力するように音声制御部１１８に指示する。また、エージェント機能部１５０は、音声出力に合わせてエージェントの画像を表示するように表示制御部１１６に指示する。このようにして、仮想的に出現したエージェントが車両Ｍの乗員に応答するエージェント機能が実現される。

［対応不可理由の出力］
以下、エージェント装置１００とエージェントサーバ２００が協働して行う対応不可理由の出力処理について説明する。以下に説明する処理は、複数のエージェントのうちいずれか一つ以上のエージェントが実行する、すなわち、一つ以上のエージェント装置１００とエージェントサーバ２００の組み合わせが実行するものである。

対応不可理由解析部２３０は、当該エージェントが、利用者の発話に対して予め想定された対応ができない場合、対応ができない理由が、複数の対応不可理由のうちいずれに該当するかを判定する。複数の対応不可理由は、例えば、利用者の発話を音声認識して意図解釈する過程における、どの段階に該当するかを示すものである。応答文生成部２２８は、判定結果に基づく応答文を通信部２１０を用いてエージェント装置１００に送信することで、判定結果を報知する情報をエージェント装置１００に、利用者に対して報知させる。

複数の対応不可理由は、例えば、以下のようなものを含む。
（１）利用者の発話を音声認識した際に、十分な精度でテキスト化できなかった。
（２）利用者の発話を音声認識した際に、言語が不明であった。
（３）利用者の発話を音声認識して意図解釈した際に、動詞が不明であった。
（４）利用者の発話を音声認識して意図解釈した際に、動詞の目的語が不明であった。
（５）利用者の発話を音声認識して意図解釈した結果、当該エージェントが有していない機能を要求するものであった。

これに対してエージェント装置１００が音声によって応答する内容は、例えば以下のようになる。応答文生成部２２８は、応答規則ＤＢ２５８を参照し、対応不可理由の種別に対応する応答文を生成し、エージェント装置１００に送信する。なお（２）に関しては、エージェント装置１００やエージェントサーバ２００から乗員に対する音声応答の内容を理解してもらえない可能性があるため、音声と併せて複数言語で第１ディスプレイ２２に同趣旨の表示をさせてもよい。

対応不可理由解析部２３０は、例えば、音声認識部２２０による認識処理において、音声認識部２２０が出力する認識信頼度が閾値よりも低い場合に、（１）の対応不可理由が発生したと判定する。

対応不可理由解析部２３０は、例えば、音声認識部２２０による認識処理によってテキスト化がなされたが、機能辞書２５４Ａだけでなく汎用辞書２５４Ｂを使用しても抽象化された意図が十分に認識されなかった場合に、（２）の対応不可理由が発生したと判定する。より具体的に、対応不可理由解析部２３０は、自然言語処理部２２２による処理において、自然言語処理部２２２が出力するマッチング率が閾値よりも低い場合に、（２）の対応不可理由が発生したと判定する。「マッチング率が閾値よりも低い」とは、例えば、テキスト化された情報の中で抽象化された意図が理解できる部分が閾値以下（例えば２０［％］程度以下）であることを意味する。

対応不可理由解析部２３０は、例えば、音声認識部２２０による認識処理によってテキスト化がなされ、自然言語処理部２２２によって、機能辞書２５４Ａだけでなく汎用辞書２５４Ｂを使用しても動詞の部分のみ抽象化された意図が認識されなかった場合、（３）の対応不可理由が発生したと判定する。

対応不可理由解析部２３０は、例えば、音声認識部２２０による認識処理によってテキスト化がなされ、自然言語処理部２２２によって、機能辞書２５４Ａだけでなく汎用辞書２５４Ｂを使用しても目的語の部分のみ抽象化された意図が認識されなかった場合、（４）の対応不可理由が発生したと判定する。

対応不可理由解析部２３０は、例えば、音声認識部２２０による認識処理によってテキスト化がなされ、自然言語処理部２２２によって、機能辞書２５４Ａを使用した場合には抽象化された意図が十分に認識されなかった（少なくとも動詞と目的語の双方が認識されなかった）が、汎用辞書２５４Ｂを使用すると抽象化された意図が認識された場合に、（５）の対応不可理由が発生したと判定する。

エージェント機能部１５０は、エージェントサーバ２００から応答文を取得すると、そのままの内容で、或いは利用者の特性に応じた修正を行った内容で音声合成を行って、スピーカユニット３０に出力させる。

図６の各図は、利用者の発話に応じたエージェント装置１００が応答する内容を例示した図である。

図６の（１）に示すように、利用者の発話が音声認識（テキスト化）できないほど不明瞭な場合、エージェントサーバ２００の対応不可理由解析部２３０は、（１）の対応不可理由が発生したと判定する。この場合、エージェント装置１００は、「恐れ入りますが、もう一度お願いします」といった応答を出力する。これを受けて、利用者は、発話全体を丁寧にやり直す対応をすることができる。

図６の（２）に示すように、利用者の発話が音声認識によってテキスト化されたが、抽象化された意図が分からないようなものである場合、エージェントサーバ２００の対応不可理由解析部２３０は、（２）の対応不可理由が発生したと判定する。この場合、エージェント装置１００は、「何語で理解すれば宜しいでしょうか」または、「言語設定を変更して下さい」といった応答を出力する。好ましくは、前述の通り複数カ国語で出力する。これを受けて、利用者は、言語設定を変更する対応をすることができる。

図６の（３）に示すように、利用者の発話をテキスト化した結果が、「エアコンをじふねじき…」といったものである場合、エージェントサーバ２００の対応不可理由解析部２３０は、動詞が認識できないため、（３）の対応不可理由が発生したと判定する。この場合、エージェント装置１００は、「エアコンをどうすれば宜しいでしょうか」といった応答を出力する。これを受けて、利用者は、動詞の部分を丁寧に発話するようにして発話をやり直したり、動詞のみ発話する対応をすることができる。また、エージェント装置１００またはエージェントサーバ２００が認識した結果が発話意図と異なる場合（この例ではエアコンという意図はなかったが、エアコンと認識されてしまった場合）、利用者は発話を注意して最初からやり直すという対応が取れる。

図６の（４）に示すように、利用者の発話をテキスト化した結果が、「ぷるじどを付けて…」といったものである場合、エージェントサーバ２００の対応不可理由解析部２３０は、目的語が認識できないため、（４）の対応不可理由が発生したと判定する。この場合、エージェント装置１００は、「何を起動すれば宜しいでしょうか」といった応答を出力する。これを受けて、利用者は、目的語のみを発話するか、目的語の部分を丁寧に発話するようにして発話をやり直す対応をすることができる。

図６の（５）に示すように、利用者の発話をテキスト化した結果が、「エアコンを食べて」といったものである場合、エージェントサーバ２００の対応不可理由解析部２３０は、汎用辞書２５４Ｂを用いると動詞および目的語が認識されるが、そのような機能は機能辞書２５４Ａに登録されていないため、（５）の対応不可理由が発生したと判定する。この場合、エージェント装置１００は、「そのサービスには対応しておりません」といった応答を出力する。これを受けて、利用者は、要求内容を再考する対応をすることができる。

このような処理を行う結果、エージェント装置１００は、利用者の発話に対して予め想定された対応ができない場合、対応ができない理由が、複数の対応不可理由のうちいずれに該当するかを報知する情報をスピーカユニット３０に出力されることになる。これによって、利用者は、次のアクションをどうすれば良いのか、自然と理解することができるため、エージェント装置１００は、利用者にとっての利便性を高めることができる。

図７は、エージェントサーバ２００において実行される処理の流れの一例を示すフローチャートである。本フローチャートの処理は、エージェントサーバ２００がエージェント装置１００から音声を取得したときに開始される。

まず、音声認識部２２０が音声認識処理を行い（ステップＳ１００）自然言語処理部２２２が自然言語処理を行う（ステップＳ１０２）。対話管理部２２４は、自然言語処理の結果に基づいて通常応答が可能であるか否かを判定する（ステップＳ１０４）。通常応答が可能であると判定された場合、応答文生成部２２８が、利用者の要求（コマンド）に応じた応答文を生成し、通信部２１０を介してエージェント装置１００に送信する（ステップＳ１０６）。

ステップＳ１０４において通常応答が可能でないと判定された場合、対応不可理由解析部２３０は、十分に音声認識できなかったことが、通常応答できない原因であるか否かを判定する（ステップＳ１０８）。十分に音声認識できなかったことが原因であると判定された場合、応答文生成部２２８は、（１）の対応不可理由に応じた応答文を生成し、通信部２１０を介してエージェント装置１００に送信する（ステップＳ１１０）。

ステップＳ１０８において否定的な判定を得た場合、対応不可理由解析部２３０は、発話全体として十分に意図が認識できなかったことが、通常応答できない原因であるか否かを判定する（ステップＳ１１２）。発話全体として十分に意図が認識できなかったことが原因であると判定された場合、応答文生成部２２８は、（２）の対応不可理由に応じた応答文を生成し、通信部２１０を介してエージェント装置１００に送信する（ステップＳ１１４）。

ステップＳ１１２において否定的な判定を得た場合、対応不可理由解析部２３０は、動詞が認識できなかったことが、通常応答できない原因であるか否かを判定する（ステップＳ１１６）。動詞が認識できなかったことが原因であると判定された場合、応答文生成部２２８は、（３）の対応不可理由に応じた応答文を生成し、通信部２１０を介してエージェント装置１００に送信する（ステップＳ１１８）。

ステップＳ１１６において否定的な判定を得た場合、対応不可理由解析部２３０は、目的語が認識できなかったことが、通常応答できない原因であるか否かを判定する（ステップＳ１２０）。動詞が認識できなかったことが原因であると判定された場合、応答文生成部２２８は、（４）の対応不可理由に応じた応答文を生成し、通信部２１０を介してエージェント装置１００に送信する（ステップＳ１２２）。

ステップＳ１２０において否定的な判定を得た場合、対応不可理由解析部２３０は、発話の意図が機能辞書２５４Ａに無いが汎用辞書２５４Ｂにあることが、通常応答できない原因であるか否かを判定する（ステップＳ１２４）。発話の意図が機能辞書２５４Ａに無いが汎用辞書２５４Ｂにあることが原因であると判定された場合、応答文生成部２２８は、（５）の対応不可理由に応じた応答文を生成し、通信部２１０を介してエージェント装置１００に送信する（ステップＳ１２６）。

ステップＳ１２４において否定的な判定を得た場合、エージェントサーバ２００は、対応不可理由が不明であるため、何らのエラー処理を行う（ステップＳ１２８）。

上記の説明において、エージェント装置１００とエージェントサーバ２００が別体であり、ネットワークＮＷを介した通信によってエージェントを実現するものとしたが、これに限らず、エージェント装置がエージェントサーバの機能を兼ね備え、一つの装置で上記説明した動作を行えるようにしてもよい。

以上説明した実施形態によれば、利用者にとっての利便性を高めることができる。

以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。

１０ マイク
２０ 表示・操作装置
３０ スピーカユニット
４０ ナビゲーション装置
５０ 車両機器
６０ 車載通信装置
７０ 汎用通信装置
８０ 乗員認識装置
１００、１００Ａ エージェント装置
１１０ 管理部
１１２ 音響処理部
１１４ エージェントごとＷＵ判定部
１１６ 表示制御部
１１８ 音声制御部
１２０ 起動エージェント選択部
１５０ エージェント機能部
１５２ ペアリングアプリ実行部
２００ エージェントサーバ
２１０ 通信部
２２０ 音声認識部
２２２ 自然言語処理部
２２４ 対話管理部
２２６ ネットワーク検索部
２２８ 応答文生成部
２３０ 対応不可理由解析部２３０
２５０ 記憶部
２５４ 辞書ＤＢ
２５４Ａ 機能辞書
２５４Ｂ 汎用辞書
２５８ 応答規則ＤＢ

Claims (13)

1. 利用者の発話に応じて、音声による応答を含むサービスを提供するエージェント機能部を備え、
   前記エージェント機能部は、前記利用者の発話に対して予め想定された対応ができない場合、対応ができない理由が、複数の対応不可理由のうちいずれに該当するかを報知する情報を、出力部に出力させる、
   エージェント装置。
2. 前記複数の対応不可理由は、前記利用者の発話を音声認識して意図解釈する過程における、どの段階に該当するかを示すものである、
   請求項１記載のエージェント装置。
3. 前記複数の対応不可理由は、前記利用者の発話を音声認識した際に、十分な精度でテキスト化できなかったという対応不可理由を含む、
   請求項１または２記載のエージェント装置。
4. 前記複数の対応不可理由は、前記利用者の発話を音声認識した際に、言語が不明であったという対応不可理由を含む、
   請求項１から３のうちいずれか１項記載のエージェント装置。
5. 前記複数の対応不可理由は、前記利用者の発話を音声認識して意図解釈した際に、動詞が不明であったという対応不可理由を含む、
   請求項１から４のうちいずれか１項記載のエージェント装置。
6. 前記複数の対応不可理由は、前記利用者の発話を音声認識して意図解釈した際に、動詞の目的語が不明であったという対応不可理由を含む、
   請求項１から５のうちいずれか１項記載のエージェント装置。
7. 前記複数の対応不可理由は、前記利用者の発話を音声認識して意図解釈した結果、前記エージェント機能部が実現するエージェントが有していない機能を要求するものであったという対応不可理由を含む、
   請求項１から６のうちいずれか１項記載のエージェント装置。
8. エージェント装置が、
   利用者の発話に応じて、音声による応答を含むサービスを提供し、
   前記利用者の発話に対して予め想定された対応ができない場合、対応ができない理由が、複数の対応不可理由のうちいずれに該当するかを報知する情報を、出力部に出力させる、
   エージェント装置の制御方法。
9. エージェント装置に、
   利用者の発話に応じて、音声による応答を含むサービスを提供させ、
   前記利用者の発話に対して予め想定された対応ができない場合、対応ができない理由が、複数の対応不可理由のうちいずれに該当するかを報知する情報を、出力部に出力させることを行わせる、
   プログラム。
10. エージェント装置に対して利用者が発した音声を取得する取得部と、
    前記取得部により取得された音声に対して音声認識を行う音声認識部と、
    前記音声認識部により行われた音声認識の結果に対して意図解釈を行う意図解釈部と、
    前記意図解釈部により行われた意図解釈の結果に基づいて前記エージェント装置の対応を決定する対応部と、を備え、
    前記対応部は、前記音声認識または前記意図解釈の結果、予め想定された複数の対応のうちいずれかの対応を決定できない場合、対応ができない理由が、複数の対応不可理由のいずれに該当するかを判定し、複数の対応不可理由のいずれに該当するかを前記エージェント装置に報知させる、
    エージェントサーバ。
11. 前記対応部は、前記エージェント装置が対応可能な機能に関する機能辞書と、汎用的な言葉の意味を記述した汎用辞書とを用いて、前記対応ができない理由が、複数の対応不可理由のいずれに該当するかを判定する、
    請求項１０記載のエージェントサーバ。
12. エージェントサーバが、
    エージェント装置に対して利用者が発した音声を取得し、
    前記取得された音声に対して音声認識を行い、
    前記音声認識の結果に対して意図解釈を行い、
    前記意図解釈の結果に基づいて前記エージェント装置の対応を決定し、
    前記対応を決定する際に、前記音声認識または前記意図解釈の結果、予め想定された複数の対応のうちいずれかの対応を決定できない場合、対応ができない理由が、複数の対応不可理由のいずれに該当するかを判定し、
    複数の対応不可理由のいずれに該当するかを前記エージェント装置に報知させる、
    エージェントサーバの制御方法。
13. エージェントサーバに、
    エージェント装置に対して利用者が発した音声を取得させ、
    前記取得された音声に対して音声認識を行わせ、
    前記音声認識の結果に対して意図解釈を行わせ、
    前記意図解釈の結果に基づいて前記エージェント装置の対応を決定させ、
    前記対応を決定させる際に、前記音声認識または前記意図解釈の結果、予め想定された複数の対応のうちいずれかの対応を決定できない場合、対応ができない理由が、複数の対応不可理由のいずれに該当するかを判定させ、
    複数の対応不可理由のいずれに該当するかを前記エージェント装置に報知させることを行わせる、
    プログラム。

Images