JP2020154082A - エージェント装置、エージェント装置の制御方法、およびプログラム - Google Patents

Abstract

【課題】より適切な応答結果を提供することができるエージェント装置、エージェント装置の制御方法、およびプログラムを提供すること。【解決手段】実施形態のエージェント装置は、それぞれが車両の乗員の発話による音声を認識する認識部を備え、前記認識部による音声認識結果に応じて、応答を含むサービスを提供する複数のエージェント機能部と、前記乗員の発話の音声を記憶部に記憶させる記憶制御部と、を備え、前記複数のエージェント機能部のうち、前記乗員により選択された第１のエージェント機能部は、前記記憶部に記憶された音声と、前記第１のエージェント機能部が備える認識部により認識された音声認識結果とを、他のエージェント機能部に出力する。【選択図】図２

Description

本発明は、エージェント装置、エージェント装置の制御方法、およびプログラムに関する。

従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェント機能に関する技術が開示されている（例えば、特許文献１参照）。

特開２００６−３３５２３１号公報

近年では、複数のエージェント機能を車両に搭載することについて実用化が進められているが、複数のエージェントを用いた場合であっても、乗員が一つのエージェントを呼び出して要求を伝える必要がある。そのため、乗員は、エージェントごとの特徴を把握していないと、要求に対する処理を実行させるのに最適なエージェントを呼び出すことができず、適切な結果が得られない場合があった。

本発明は、このような事情を考慮してなされたものであり、より適切な応答結果を提供することができるエージェント装置、エージェント装置の制御方法、およびプログラムを提供することを目的の一つとする。

この発明に係るエージェント装置、エージェント装置の制御方法、およびプログラムは、以下の構成を採用した。
（１）：この発明の一態様に係るエージェント装置は、それぞれが車両の乗員の発話による音声を認識する認識部を備え、前記認識部による音声認識結果に応じて、応答を含むサービスを提供する複数のエージェント機能部と、前記乗員の発話の音声を記憶部に記憶させる記憶制御部と、を備え、前記複数のエージェント機能部のうち、前記乗員により選択された第１のエージェント機能部は、前記記憶部に記憶された音声と、前記第１のエージェント機能部が備える認識部により認識された音声認識結果とを、他のエージェント機能部に出力する、エージェント装置である。

（２）：上記（１）の態様において、前記第１のエージェント機能部は、前記認識部により前記乗員の発話に対する音声認識結果が得られたタイミングで、前記記憶部に記憶された音声と、前記音声認識結果とを他のエージェント機能部に出力するものである。

（３）：上記（１）または（２）の態様において、前記乗員の発話に対する応答結果を出力部に出力させる出力制御部を、更に備え、前記出力制御部は、前記第１のエージェント機能部によって得られた応答結果の確信度が閾値未満である場合に、前記乗員に提供する応答結果を、前記他のエージェント機能部によって得られた応答結果に変更して前記出力部に出力させるものである。

（４）：上記（１）〜（３）のうち何れか１つの態様において、前記他のエージェント機能部は、前記第１のエージェント機能部の応答結果に基づいて、前記乗員の要求内容に対する応答結果を生成するものである。

（５）：上記（１）〜（４）のうち何れか１つの態様において、前記第１のエージェント機能部は、前記認識部による音声認識結果に基づいて、前記複数のエージェント機能部から一以上の他のエージェント機能部を選択し、選択した他のエージェント機能部に前記記憶部に記憶された音声と前記音声認識結果とを出力するものである。

（６）：本発明の他の態様に係るエージェント装置の制御方法は、コンピュータが、それぞれが車両の乗員の発話による音声を認識する認識部を備えた複数のエージェント機能部を起動させ、前記起動したエージェント機能部の機能として、前記認識部による音声認識結果に応じて、応答を含むサービスを提供し、前記乗員の発話の音声を記憶部に記憶し、前記複数のエージェント機能部のうち、前記乗員により選択された第１のエージェント機能部が、前記記憶部に記憶された音声と、前記第１のエージェント機能部が備える認識部により認識された音声認識結果とを、他のエージェント機能部に出力する、エージェント装置の制御方法である。

（７）：本発明の他の態様に係るプログラムは、コンピュータに、それぞれが車両の乗員の発話による音声を認識する認識部を備えた複数のエージェント機能部を起動させ、前記起動させたエージェント機能部の機能として、前記認識部による音声認識結果に応じて、応答を含むサービスを提供させ、前記乗員の発話の音声を記憶部に記憶させ、前記複数のエージェント機能部のうち、前記乗員により選択された第１のエージェント機能部が、前記記憶部に記憶された音声と、前記第１のエージェント機能部が備える認識部により認識された音声認識結果とを、他のエージェント機能部に出力させる、プログラムである。

上記（１）〜（７）の態様によれば、より適切な応答結果を提供することができる。

エージェント装置１００を含むエージェントシステム１の構成図である。 実施形態に係るエージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。 表示・操作装置２０およびスピーカユニット３０の配置例を示す図である。 エージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。 乗員Ｐが発話する前の場面において、表示制御部１２２により表示される画像ＩＭ１の一例を示す図である。 第１のエージェント機能部が起動中である場面において、表示制御部１２２により表示される画像ＩＭ２の一例を示す図である。 応答結果が出力される様子の一例を示す図である。 他のエージェント機能部によって得られた応答結果が出力される様子について説明するための図である。 他のエージェント機能部が乗員に応答する様子を説明するための図である。 エージェント装置１００により実行される処理の流れの一例を示すフローチャートである。 変形例においてエージェント装置１００により実行される処理の流れの一例を示すフローチャートである。

以下、図面を参照し、本発明のエージェント装置、エージェント装置の制御方法、およびプログラムの実施形態について説明する。エージェント装置は、エージェントシステムの一部または全部を実現する装置である。以下では、エージェント装置の一例として、車両（以下、車両Ｍ）に搭載され、複数種類のエージェント機能を備えたエージェント装置について説明する。エージェント機能とは、例えば、車両Ｍの乗員と対話をしながら、乗員の発話の中に含まれる要求（コマンド）に基づく各種の情報提供を行ったり、ネットワークサービスを仲介したりする機能である。また、エージェント機能の中には、車両内の機器（例えば運転制御や車体制御に関わる機器）の制御等を行う機能を有するものがあってよい。

エージェント機能は、例えば、乗員の音声を認識する音声認識機能（音声をテキスト化する機能）に加え、自然言語処理機能（テキストの構造や意味を理解する機能）、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、ＡＩ（Artificial Intelligence）技術によって実現されてよい。また、これらの機能を行うための構成の一部（特に、音声認識機能や自然言語処理解釈機能）は、車両Ｍの車載通信装置または車両Ｍに持ち込まれた汎用通信装置と通信可能なエージェントサーバ（外部装置）に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバが協働してエージェントシステムを実現することを前提とする。また、エージェント装置とエージェントサーバが協働して仮想的に出現させるサービス提供主体（サービス・エンティティ）をエージェントと称する。

＜全体構成＞
図１は、エージェント装置１００を含むエージェントシステム１の構成図である。エージェントシステム１は、例えば、エージェント装置１００と、複数のエージェントサーバ２００−１、２００−２、２００−３、…とを備える。符号の末尾のハイフン以下数字は、エージェントを区別するための識別子であるものとする。何れのエージェントサーバであるかを区別しない場合、単にエージェントサーバ２００と称する場合がある。図１では３つのエージェントサーバ２００を示しているが、エージェントサーバ２００の数は２つであってもよいし、４つ以上であってもよい。それぞれのエージェントサーバ２００は、例えば、互いに異なるエージェントシステムの提供者が運営するものである。したがって、本実施形態におけるエージェントは、互いに異なる提供者により実現されるエージェントである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者等が挙げられ、任意の主体（法人、団体、個人等）がエージェントシステムの提供者となり得る。

エージェント装置１００は、ネットワークＮＷを介してエージェントサーバ２００と通信する。ネットワークＮＷは、例えば、インターネット、セルラー網、Ｗｉ−Ｆｉ網、ＷＡＮ（Wide Area Network）、ＬＡＮ（Local Area Network）、公衆回線、電話回線、無線基地局等のうち一部または全部を含む。ネットワークＮＷには、各種ウェブサーバ３００が接続されており、エージェントサーバ２００またはエージェント装置１００は、ネットワークＮＷを介して各種ウェブサーバ３００からウェブページやＷｅｂ ＡＰＩ（Web Application Programming Interface）経由で各種情報を取得することができる。

エージェント装置１００は、車両Ｍの乗員と対話を行い、乗員からの音声をエージェントサーバ２００に送信し、エージェントサーバ２００から得られた回答を、音声出力や画像表示の形で乗員に提示する。また、エージェント装置１００は、乗員からの要求に基づいて車両機器５０に対する制御等を行う。

＜第１実施形態＞
［車両］
図２は、実施形態に係るエージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。車両Ｍには、例えば、一以上のマイク１０と、表示・操作装置２０と、スピーカユニット３０と、ナビゲーション装置４０と、車両機器５０と、車載通信装置６０と、乗員認識装置８０と、エージェント装置１００とが搭載される。また、スマートフォン等の汎用通信装置７０が車室内に持ち込まれ、通信装置として使用される場合がある。これらの装置は、ＣＡＮ（Controller Area Network）通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図２に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。表示・操作装置２０と、スピーカユニット３０とを合わせたものが「出力部」の一例である。

マイク１０は、車室内で発せられた音を収集する収音部である。表示・操作装置２０は、画像を表示すると共に、入力操作を受付可能な装置（或いは装置群）である。表示・操作装置２０は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置２０は、更に、ＨＵＤ（Head Up Display）や機械式の入力装置を含んでもよい。スピーカユニット３０は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ（音出力部）を含む。表示・操作装置２０及びスピーカユニット３０は、エージェント装置１００とナビゲーション装置４０とで共用されてもよい。これらの詳細については後述する。

ナビゲーション装置４０は、ナビＨＭＩ（Human Machine Interface）と、ＧＰＳ（Global Positioning System）等の位置測位装置と、地図情報を記憶した記憶装置と、経路探索等を行う制御装置（ナビゲーションコントローラ）とを備える。マイク１０、表示・操作装置２０、およびスピーカユニット３０のうち一部または全部がナビＨＭＩとして用いられてもよい。ナビゲーション装置４０は、位置測位装置によって特定された車両Ｍの位置から、乗員によって入力された目的地まで移動するための経路（ナビ経路）を探索し、経路に沿って車両Ｍが走行できるように、ナビＨＭＩを用いて案内情報を出力する。経路探索機能は、ネットワークＮＷを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置４０は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置１００は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置１００は、ハードウェア上は一体に構成される。

車両機器５０は、例えば、エンジンや走行用モータ等の駆動力出力装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、空調装置等を含む。

車載通信装置６０は、例えば、セルラー網やＷｉ−Ｆｉ網を利用してネットワークＮＷにアクセス可能な無線通信装置である。

乗員認識装置８０は、例えば、着座センサ、車室内カメラ、画像認識装置等を含む。着座センサは座席の下部に設けられた圧力センサ、シートベルトに取り付けられた張力センサ等を含む。車室内カメラは、車室内に設けられたＣＣＤ（Charge Coupled Device）カメラやＣＭＯＳ（Complementary Metal Oxide Semiconductor）カメラである。画像認識装置は、車室内カメラの画像を解析し、座席ごとの乗員の有無、顔向き等を認識する。

図３は、表示・操作装置２０およびスピーカユニット３０の配置例を示す図である。表示・操作装置２０は、例えば、第１ディスプレイ２２と、第２ディスプレイ２４と、操作スイッチＡＳＳＹ２６とを含む。表示・操作装置２０は、更に、ＨＵＤ２８を含んでもよい。また、表示・操作装置２０は、更に、インストルメントパネルのうち運転席ＤＳに対面する部分に設けられるメーターディスプレイ２９を含んでもよい。第１ディスプレイ２２と、第２ディスプレイ２４と、ＨＵＤ２８と、メーターディスプレイ２９とを合わせたものが「表示部」の一例である。

車両Ｍには、例えば、ステアリングホイールＳＷが設けられた運転席ＤＳと、運転席ＤＳに対して車幅方向（図中Ｙ方向）に設けられた助手席ＡＳとが存在する。第１ディスプレイ２２は、インストルメントパネルにおける運転席ＤＳと助手席ＡＳとの中間辺りから、助手席ＡＳの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。第２ディスプレイ２４は、運転席ＤＳと助手席ＡＳとの車幅方向に関する中間あたり、且つ第１ディスプレイの下方に設置されている。例えば、第１ディスプレイ２２と第２ディスプレイ２４は、共にタッチパネルとして構成され、表示部としてＬＣＤ（Liquid Crystal Display）や有機ＥＬ（Electroluminescence）、プラズマディスプレイ等を備えるものである。操作スイッチＡＳＳＹ２６は、ダイヤルスイッチやボタン式スイッチ等が集積されたものである。ＨＵＤ２８は、例えば、風景に重畳させて画像を視認させる装置であり、一例として、車両Ｍのフロントウインドシールドやコンバイナーに画像を含む光を投光することで、乗員に虚像を視認させる。メーターディスプレイ２９は、例えば、ＬＣＤや有機ＥＬ等であり、速度計や回転速度計等の計器類を表示する。表示・操作装置２０は、乗員によってなされた操作の内容をエージェント装置１００に出力する。上述した各表示部が表示する内容は、エージェント装置１００によって決定されてよい。

スピーカユニット３０は、例えば、スピーカ３０Ａ〜３０Ｆを含む。スピーカ３０Ａは、運転席ＤＳ側の窓柱（いわゆるＡピラー）に設置されている。スピーカ３０Ｂは、運転席ＤＳに近いドアの下部に設置されている。スピーカ３０Ｃは、助手席ＡＳ側の窓柱に設置されている。スピーカ３０Ｄは、助手席ＡＳに近いドアの下部に設置されている。スピーカ３０Ｅは、第２ディスプレイ２４の近傍に設置されている。スピーカ３０Ｆは、車室の天井（ルーフ）に設置されている。また、スピーカユニット３０は、右側後部座席や左側後部座席に近いドアの下部に設置されてもよい。

係る配置において、例えば、専らスピーカ３０Ａおよび３０Ｂに音を出力させた場合、音像は運転席ＤＳ付近に定位することになる。「音像が定位する」とは、例えば、乗員の左右の耳に伝達される音の大きさを調節することにより、乗員が感じる音源の空間的な位置を定めることである。また、専らスピーカ３０Ｃおよび３０Ｄに音を出力させた場合、音像は助手席ＡＳ付近に定位することになる。また、専らスピーカ３０Ｅに音を出力させた場合、音像は車室の前方付近に定位することになり、専らスピーカ３０Ｆに音を出力させた場合、音像は車室の上方付近に定位することになる。これに限らず、スピーカユニット３０は、ミキサーやアンプを用いて各スピーカの出力する音の配分を調整することで、車室内の任意の位置に音像を定位させることができる。

［エージェント装置］
図２に戻り、エージェント装置１００は、管理部１１０と、エージェント機能部１５０−１、１５０−２、１５０−３と、ペアリングアプリ実行部１５２と、記憶部１６０とを備える。管理部１１０は、例えば、音響処理部１１２と、エージェントごとＷＵ（Wake Up）判定部１１４と、記憶制御部１１６と、出力制御部１２０と備える。以下、何れのエージェント機能部であるか区別しない場合、単にエージェント機能部１５０と称する。３つのエージェント機能部１５０を示しているのは、図１におけるエージェントサーバ２００の数に対応させた一例に過ぎず、エージェント機能部１５０の数は、２つであってもよいし、４つ以上であってもよい。図２に示すソフトウェア配置は説明のために簡易に示しており、実際には、例えば、エージェント機能部１５０と車載通信装置６０の間に管理部１１０が介在してもよいように、任意に改変することができる。

エージェント装置１００の各構成要素は、例えば、ＣＰＵ（Central Processing Unit）等のハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）、ＧＰＵ（Graphics Processing Unit）等のハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤ（Hard Disk Drive）やフラッシュメモリ等の記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ−ＲＯＭ等の着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。

記憶部１６０は、上記の各種記憶装置により実現される。記憶部１６０には、例えば、音声情報１６２等のデータやプログラムが格納される。音声情報１６２には、例えば、マイク１０から得られる乗員の発話の音声（生音声データ）または音響処理部１１２により音響処理された音声（音声ストリーム）のうち、一方または双方が含まれる。

管理部１１０は、ＯＳ（Operating System）やミドルウェア等のプログラムが実行されることで機能する。

管理部１１０の音響処理部１１２は、マイク１０から収集される音を受け付け、受け付けた音に対して、エージェントごとに予め設定されているウエイクアップワードを認識するのに適した状態になるように音響処理を行う。音響処理とは、例えば、バンドパスフィルタ等のフィルタリングによるノイズ除去や音の増幅等である。

エージェントごとＷＵ判定部１１４は、エージェント機能部１５０−１、１５０−２、１５０−３のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。エージェントごとＷＵ判定部１１４は、音響処理が行われた音声（音声ストリーム）から音声がウエイクアップワードであるか否かを認識する。まず、エージェントごとＷＵ判定部１１４は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。エージェントごとＷＵ判定部１１４は、混合ガウス分布モデル（ＧＭＭ；Gaussian mixture model) に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。

次に、エージェントごとＷＵ判定部１１４は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、エージェントごとＷＵ判定部１１４は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合、エージェントごとＷＵ判定部１１４は、対応するエージェント機能部１５０を起動させる。なお、エージェントごとＷＵ判定部１１４に相当する機能が、エージェントサーバ２００に搭載されてもよい。この場合、管理部１１０は、音響処理部１１２によって音響処理が行われた音声ストリームをエージェントサーバ２００に送信し、エージェントサーバ２００がウエイクアップワードであると判定した場合、エージェントサーバ２００からの指示に従ってエージェント機能部１５０が起動する。なお、各エージェント機能部１５０は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部１１０がエージェントごとＷＵ判定部１１４を備える必要はない。

記憶制御部１１６は、記憶部１６０に記憶される情報を制御する。例えば、記憶制御部１１６は、複数のエージェント機能部１５０のうち、何れかのエージェント機能部が乗員の発話に応答している場合に、マイク１０から入力される音声や、音響処理部１１２により処理された音声を音声情報１６２として記憶部１６０に記憶させる。また、記憶制御部１１６は、音声情報１６２を記憶してから所定時間が経過した場合、または音声情報１６２に含まれる乗員の要求に対する応答が完了した場合に、音声情報１６２を記憶部１６０から削除する制御を行ってもよい。

出力制御部１２０は、管理部１１０またはエージェント機能部１５０からの指示に応じて表示部またはスピーカユニット３０に応答結果等の情報を出力させることで、乗員にサービス等の提供を行う。出力制御部１２０は、例えば、表示制御部１２２と、音声制御部１２４とを備える。

表示制御部１２２は、出力制御部１２０からの指示に応じて表示部の少なくとも一部の領域に画像を表示させる。以下では、エージェントに関する画像を第１ディスプレイ２２に表示させるものとして説明する。表示制御部１２２は、出力制御部１２０の制御により、例えば、車室内で乗員とのコミュニケーションを行う擬人化されたエージェントの画像（以下、エージェント画像と称する）を生成し、生成したエージェント画像を第１ディスプレイ２２に表示させる。エージェント画像は、例えば、乗員に対して話しかける態様の画像である。エージェント画像は、例えば、少なくとも観者（乗員）によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、エージェント画像は、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、エージェント画像は、立体的に感じられ、観者によって三次元空間における頭部画像を含むことでエージェントの顔向きが認識されたり、本体（胴体や手足）の画像を含むことで、エージェントの動作や振る舞い、姿勢等が認識されるものであってもよい。また、エージェント画像は、アニメーション画像であってもよい。例えば、表示制御部１２２は、乗員認識装置８０により認識された乗員の位置に近い表示領域にエージェント画像を表示させたり、乗員の位置に顔を向けたエージェント画像を生成して表示させてもよい。

音声制御部１２４は、出力制御部１２０からの指示に応じて、スピーカユニット３０に含まれるスピーカのうち一部または全部に音声を出力させる。音声制御部１２４は、複数のスピーカユニット３０を用いて、エージェント画像の表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。エージェント画像の表示位置に対応する位置とは、例えば、エージェント画像がエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、エージェント画像の表示位置付近（例えば、２〜３［ｃｍ］以内）の位置である。

エージェント機能部１５０は、対応するエージェントサーバ２００と協働してエージェントを出現させ、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する。エージェント機能部１５０には、車両機器５０を制御する権限が付与されたものが含まれてよい。また、エージェント機能部１５０には、ペアリングアプリ実行部１５２を介して汎用通信装置７０と連携し、エージェントサーバ２００と通信するものがあってよい。例えば、エージェント機能部１５０−１には、車両機器５０を制御する権限が付与されている。エージェント機能部１５０−１は、車載通信装置６０を介してエージェントサーバ２００−１と通信する。エージェント機能部１５０−２は、車載通信装置６０を介してエージェントサーバ２００−２と通信する。エージェント機能部１５０−３は、ペアリングアプリ実行部１５２を介して汎用通信装置７０と連携し、エージェントサーバ２００−３と通信する。

ペアリングアプリ実行部１５２は、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）によって汎用通信装置７０とペアリングを行い、エージェント機能部１５０−３と汎用通信装置７０とを接続させる。なお、エージェント機能部１５０−３は、ＵＳＢ（Universal Serial Bus）等を利用した有線通信によって汎用通信装置７０に接続されるようにしてもよい。以下、エージェント機能部１５０−１とエージェントサーバ２００−１が協働して出現させるエージェントをエージェント１、エージェント機能部１５０−２とエージェントサーバ２００−２が協働して出現させるエージェントをエージェント２、エージェント機能部１５０−３とエージェントサーバ２００−３が協働して出現させるエージェントをエージェント３と称する場合がある。エージェント機能部１５０−１〜１５０−３のそれぞれは、マイク１０や音響処理部１１２等から入力された乗員の発話（音声）に対する処理を実行し、実行結果（例えば、発話に含まれる要求に対する応答結果）を管理部１１０に出力する。

また、エージェント機能部１５０−１〜１５０−１のそれぞれは、マイク１０から入力された音声や音声認識結果、応答結果等を他のエージェント機能部に受け渡して、他のエージェント機能部に処理を実行させる。上記機能の詳細については後述する。

［エージェントサーバ］
図４は、エージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。以下、エージェントサーバ２００の構成と共にエージェント機能部１５０等の動作について説明する。ここでは、エージェント装置１００からネットワークＮＷまでの物理的な通信についての説明を省略する。また、以下では、主にエージェント機能部１５０−１およびエージェントサーバ２００−１を中心として説明するが、他のエージェント機能部やエージェントサーバの組についても、それぞれの詳細な機能やデータベース等で相違はあるものの、ほぼ同様の動作を行う。

エージェントサーバ２００−１は、通信部２１０を備える。通信部２１０は、例えば、ＮＩＣ（Network Interface Card）等のネットワークインターフェースである。更に、エージェントサーバ２００−１は、例えば、音声認識部２２０と、自然言語処理部２２２と、対話管理部２２４と、ネットワーク検索部２２６と、応答文生成部２２８と、記憶部２５０とを備える。これらの構成要素は、例えば、ＣＰＵ等のハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩやＡＳＩＣ、ＦＰＧＡ、ＧＰＵ等のハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤやフラッシュメモリ等の記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ−ＲＯＭ等の着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。音声認識部２２０と、自然言語処理部２２２とを合わせたものが「認識部」の一例である。

記憶部２５０は、上記の各種記憶装置により実現される。記憶部２５０には、例えば、辞書ＤＢ（データベース）２５２、パーソナルプロファイル２５４、知識ベースＤＢ２５６、応答規則ＤＢ２５８等のデータやプログラムが格納される。

エージェント装置１００において、エージェント機能部１５０−１は、マイク１０や音響処理部１１２等から得らえる音声ストリーム、或いは圧縮や符号化などの処理を行った音声ストリームを、エージェントサーバ２００−１に送信する。エージェント機能部１５０−１は、ローカル処理（エージェントサーバ２００−１を介さない処理）が可能なコマンド（要求内容）が認識できた場合には、コマンドで要求された処理を実行してもよい。ローカル処理が可能なコマンドとは、例えば、エージェント装置１００が備える記憶部１６０を参照することで応答可能なコマンドである。より具体的には、ローカル処理が可能なコマンドとは、例えば、記憶部１６０内に存在する電話帳データから特定者の名前を検索し、合致した名前に対応付けられた電話番号に電話をかける（相手を呼び出す）コマンドである。したがって、エージェント機能部１５０−１は、エージェントサーバ２００−１が備える機能の一部を有してもよい。

音声ストリームを取得すると、音声認識部２２０が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部２２２が文字情報に対して辞書ＤＢ２５２を参照しながら意味解釈を行う。辞書ＤＢ２５２は、例えば、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書ＤＢ２５２は、同義語や類義語の一覧情報を含んでもよい。音声認識部２２０の処理と、自然言語処理部２２２の処理は、段階が明確に分かれるものではなく、自然言語処理部２２２の処理結果を受けて音声認識部２２０が認識結果を修正するなど、相互に影響し合って行われてよい。

自然言語処理部２２２は、例えば、音声認識結果として、「今日の天気は」、「天気はどうですか」等のテキストが認識された場合、ユーザ意図を「天気：今日」に置き換えた内部状態を生成する。これにより、リクエストの音声に文字揺らぎや言い回しの違いがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部２２２は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成してもよい。

対話管理部２２４は、入力されたコマンドに基づいて、パーソナルプロファイル２５４や知識ベースＤＢ２５６、応答規則ＤＢ２５８を参照しながら車両Ｍの乗員に対する応答内容（例えば、乗員への発話内容や出力する画像）を決定する。パーソナルプロファイル２５４は、乗員ごとに保存されている乗員の個人情報、趣味嗜好、過去の対話の履歴等を含む。知識ベースＤＢ２５６は、物事の関係性を規定した情報である。応答規則ＤＢ２５８は、コマンドに対してエージェントが行うべき動作（回答や機器制御の内容等）を規定した情報である。

また、対話管理部２２４は、音声ストリームから得られる特徴情報を用いて、パーソナルプロファイル２５４と照合を行うことで、乗員を特定してもよい。この場合、パーソナルプロファイル２５４には、例えば、音声の特徴情報に、個人情報が対応付けられている。音声の特徴情報とは、例えば、声の高さ、イントネーション、リズム（音の高低のパターン）等の喋り方の特徴や、メル周波数ケプストラム係数（Mel Frequency Cepstrum Coefficients）等による特徴量に関する情報である。音声の特徴情報は、例えば、乗員の初期登録時に所定の単語や文章等を乗員に発声させ、発声させた音声を認識することで得られる情報である。

対話管理部２２４は、コマンドが、ネットワークＮＷを介して検索可能な情報を要求するものである場合、ネットワーク検索部２２６に検索を行わせる。ネットワーク検索部２２６は、ネットワークＮＷを介して各種ウェブサーバ３００にアクセスし、所望の情報を取得する。「ネットワークＮＷを介して検索可能な情報」とは、例えば、車両Ｍの周辺にあるレストランの一般ユーザによる評価結果であったり、その日の車両Ｍの位置に応じた天気予報であったりする。

応答文生成部２２８は、対話管理部２２４により決定された発話の内容が車両Ｍの乗員に伝わるように、応答文を生成し、生成した応答文（応答結果）をエージェント装置１００に送信する。また、応答文生成部２２８は、乗員認識装置８０による認識結果をエージェント装置１００から取得し、取得した認識結果によりコマンドを含む発話を行った乗員がパーソナルプロファイル２５４に登録された乗員であることが特定されている場合に、乗員の名前を呼んだり、乗員の話し方に合わせた話し方にした応答文を生成してもよい。

エージェント機能部１５０は、応答文を取得すると、音声合成を行って音声を出力するように音声制御部１２４に指示する。また、エージェント機能部１５０は、音声出力に合わせてエージェント画像を表示するように表示制御部１２２に指示する。このようにして、仮想的に出現したエージェントが車両Ｍの乗員に応答するエージェント機能が実現される。

［エージェント機能部の機能］
以下、エージェント機能部１５０の機能の詳細について具体的に説明する。なお、以下では、主にエージェント機能部１５０の機能と、エージェント機能部１５０の機能によって出力制御部１２０により出力され、乗員（以下、乗員Ｐと称する）に提供される応答結果を中心として説明する。また、以下では、乗員Ｐにより選択されたエージェント機能部を、「第１のエージェント機能部」と称するものとする。「乗員Ｐにより選択される」とは、例えば、乗員Ｐの発話に含まれるウエイクアップワードやエージェント起動スイッチ等によって起動される（または呼び出される）ことである。

図５は、乗員Ｐが発話する前の場面において、表示制御部１２２により表示される画像ＩＭ１の一例を示す図である。なお、画像ＩＭ１に表示される内容やレイアウト等については、これに限定されるものではない。また、画像ＩＭ１は、出力制御部１２０等からの指示に基づいて表示制御部１２２により生成されるものである。上述の内容は、以降の画像の説明についても同様とする。

出力制御部１２０は、例えば、乗員Ｐがエージェントと対話を行っていない状態（第１のエージェント機能部が存在していない状態）である場合に、表示制御部１２２に初期状態画面として画像ＩＭ１を生成させ、生成させた画像ＩＭ１を第１ディスプレイ２２に表示させる。

画像ＩＭ１には、例えば、文字情報表示領域Ａ１１と、応答結果表示領域Ａ１２とが含まれる。文字情報表示領域Ａ１１には、例えば、使用可能なエージェントの数や種類に関する情報が表示される。使用可能なエージェントとは、例えば乗員の発話に対して応答が可能なエージェントである。使用可能なエージェントは、例えば、車両Ｍが走行している地域、時間帯、エージェントの状況、乗員認識装置８０により認識される乗員Ｐに基づいて設定される。エージェントの状況には、例えば、車両Ｍが地下やトンネル内に存在するためにエージェントサーバ２００と通信できない状況、または、既に他のコマンドによる処理が実行中であり、次の発話に対する処理が実行できない状況が含まれる。図８の例において、文字情報表示領域Ａ１１には、「３つのエージェントが使用可能です」という文字情報が表示されている。

応答結果表示領域Ａ１２には、使用可能なエージェントに対応付けられたエージェント画像が表示される。図５の例において、応答結果表示領域Ａ１２には、エージェント機能部１５０−１〜１５０−３に対応付けられたエージェント画像ＥＩ１〜ＥＩ３が表示されている。これにより、乗員Ｐは、使用可能なエージェントの数や種類を容易に把握することができる。

ここで、エージェントごとＷＵ判定部１１４は、乗員Ｐの発話に含まれるウエイクアップワードを認識し、認識したウエイクアップワードに対応する第１のエージェント機能部（例えば、エージェント機能部１５０−１）を起動させる。エージェント機能部１５０−１は、表示制御部１２２の制御によって、エージェント画像ＥＩ１を第１ディスプレイ２２に表示させる。

図６は、第１のエージェント機能部が起動中である場面において、表示制御部１２２により表示される画像ＩＭ２の一例を示す図である。画像ＩＭ２には、例えば、文字情報表示領域Ａ２１と、応答結果表示領域Ａ２２とが含まれる。文字情報表示領域Ａ２１には、例えば、乗員Ｐと対話を行うエージェントに関する情報が表示される。図６の例において、文字情報表示領域Ａ２１には、「エージェント１が応答中」という文字情報が表示されている。なお、この場面においては、文字情報表示領域Ａ２１に文字情報を表示させなくてもよい。

応答結果表示領域Ａ２２には、対話中のエージェントに対応付けられたエージェント画像が表示される。図６の例において、応答結果表示領域Ａ２２には、エージェント機能部１５０−１に対応付けられたエージェント画像ＥＩ１が表示されている。これにより、乗員Ｐは、エージェント１が起動したことを容易に把握することができる。

次に、乗員Ｐが「最近流行っているお店はどこ？」と発話した場合、記憶制御部１１６は、マイク１０または音響処理部１１２から入力された音声または音声ストリームを音声情報１６２として記憶部１６０に記憶させる。また、エージェント機能部１５０−１は、発話内容に基づく音声認識を行う。そして、エージェント機能部１５０−１は音声認識結果が得られた場合、乗員Ｐに確認するために、音声認識結果に基づく応答結果（応答文）を生成し、生成した応答結果を乗員Ｐに出力する。

図６の例において、音声制御部１２４は、エージェント１（エージェント機能部１５０−１、エージェントサーバ２００−１）によって生成された応答文に対応させて、「最近流行っているお店を検索します！」という音声を生成し、生成した音声をスピーカユニット３０に出力させる。また、音声制御部１２４は、上述した応答文の音声を、応答結果表示領域Ａ２２に表示されているエージェント画像ＥＩ１の表示位置付近に定位させる音像定位処理を行う。表示制御部１２２は、音声出力に合わせてエージェント画像ＥＩ１が喋っているように乗員Ｐに視認させるアニメーション画像等を生成して表示させてもよい。また、表示制御部１２２は、応答文を応答結果表示領域Ａ２２に表示させてもよい。これにより、乗員Ｐは、発話内容をエージェント１が認識できたか否かをより正確に把握することができる。

次に、エージェント機能部１５０−１は、音声認識した内容に基づく処理を実行し、応答結果を生成する。また、エージェント機能部１５０−１は、発話の音声の認識が終了した時点で、記憶部１６０に記憶された音声情報１６２と、音声認識結果とを、他のエージェント機能部（例えば、エージェント機能部１５０−２、エージェント機能部１５０−３）に出力し、他のエージェント機能部のそれぞれに処理を実行させる。他のエージェント機能部に出力される音声認識結果とは、例えば、音声認識部２２０によりテキスト化された文字情報でもよく、自然言語処理部２２２による意味解析結果でもよく、コマンド（要求内容）でもよく、これらのうち複数の組み合わせでもよい。

なお、音声情報１６２および音声認識結果を出力する際に、他のエージェント機能部が起動していなかった場合、エージェント機能部１５０−１は、他のエージェント機能部を起動させた後に、音声情報１６２および音声認識結果を出力する。

また、エージェント機能部１５０−１は、予め決められている複数の他のエージェント機能部ごとの特徴や機能に基づいて、音声情報１６２または音声認識結果のうち、そのエージェント機能部に必要な情報を選択して、他のエージェント機能部に出力してもよい。

また、エージェント機能部１５０−１は、複数の他のエージェント機能部の全てに音声情報１６２および音声認識結果を出力するのではなく、複数の他のエージェント機能部のうち、選択されたエージェント機能部に音声情報１６２および音声認識結果を出力してもよい。例えば、エージェント機能部１５０−１は、音声認識結果により、応答に必要となる機能（例えば、店の検索機能）を識別し、識別した機能を実現可能な他のエージェント機能部を選択して、選択した他のエージェント機能部のみに音声情報１６２および音声認識結果を出力する。これにより、応答ができない、または適切な応答結果が期待できないことが予測されるエージェントに対する処理負荷を軽減させることができる。

エージェント機能部１５０−１は、自己の音声認識結果に基づいて、応答結果を生成する。また、エージェント機能部１５０−１により音声情報１６２および音声認識結果を取得した他のエージェント機能部は、取得した情報に基づいて、それぞれが応答結果を生成する。エージェント機能部１５０−１は、音声認識結果が得られたタイミングで他のエージェント機能部に情報を出力することで、それぞれのエージェント機能部が並行して、それぞれの応答結果を生成する処理を実行することができる。したがって、短時間で複数のエージェントによる応答結果を取得することができる。他のエージェント機能部によって生成された応答結果は、例えば、エージェント機能部１５０−１に出力される。

エージェント機能部１５０−１は、エージェントサーバ２００−１等の処理によって応答結果が得られた場合に、その応答結果を出力制御部１２０に出力させる。図７は、応答結果が出力される様子の一例を示す図である。図７の例では、第１ディスプレイ２２に表示される画像ＩＭ３が示されている。画像ＩＭ３には、例えば、文字情報表示領域Ａ３１と、応答結果表示領域Ａ３２とが含まれる。文字情報表示領域Ａ３１には、文字情報表示領域Ａ３１と同様に対話中のエージェント１に関する情報が表示される。

応答結果表示領域Ａ３２には、例えば、対話中のエージェント画像やエージェントの応答結果が表示される。図７の例において、応答結果表示領域Ａ３２には、エージェント画像ＥＩ１およびエージェント１の応答結果である「イタリアンレストラン「ＡＡＡ」です。」という文字情報が表示されている。この場面において、音声制御部１２４は、エージェント機能部１５０−１によってなされた応答結果の音声を生成し、エージェント画像ＥＩ１の表示位置付近に定位させる音像定位処理を行う。図７の例において、音声制御部１２４は、「私が紹介するのはイタリアンレストラン「ＡＡＡ」です。」という音声を出力させている。

また、エージェント機能部１５０−１は、他のエージェント機能部からの応答結果を取得した場合に、その応答結果を出力制御部１２０に出力させる処理を行ってもよい。図８は、他のエージェント機能部によって得られた応答結果が出力される様子について説明するための図である。図８の例では、第１ディスプレイ２２に表示される画像ＩＭ４が示されている。画像ＩＭ４には、例えば、文字情報表示領域Ａ４１と、応答結果表示領域Ａ４２とが含まれる。文字情報表示領域Ａ４１には、文字情報表示領域Ａ３１と同様に応答中のエージェントに関する情報が表示される。

応答結果表示領域Ａ４２には、例えば、応答中のエージェント画像やエージェントの応答結果が表示される。表示制御部１２２は、エージェント機能部１５０−１から、応答結果、および応答結果を生成した他のエージェント機能部の識別情報を取得し、取得した情報に基づいて、応答結果表示領域Ａ４２に表示する画像を生成する。

図８の例において、応答結果表示領域Ａ４２には、エージェント画像ＥＩ１およびエージェント２の応答結果である「エージェント２は、中華レストラン「ＢＢＢ」を紹介しています。」という文字情報が表示されている。この場面において、音声制御部１２４は、応答結果に対応する音声を生成し、エージェント画像ＥＩ１の表示位置付近に定位させる音像定位処理を行う。これにより、乗員は、ウエイクアップワードにより指示したエージェントの応答結果だけでなく、他のエージェントの応答結果も取得することができる。また、エージェント機能部１５０−１は、エージェント機能部１５０−３から応答結果を取得した場合には、図８と同様に、エージェント３の応答結果を出力部に出力させる。

なお、エージェント機能部１５０−１は、図７および図８に示すように、各エージェント機能部による応答結果を全て出力するのに代えて、複数の応答結果のうち選択された応答結果を出力させてもよい。この場合、エージェント機能部１５０−１は、例えば、応答結果ごとに設定される確信度に基づいて、出力する応答結果を選択する。確信度とは、例えば、乗員Ｐの発話に含まれる要求（コマンド）に対する応答結果が、正しい答えであると推定される度合（指標値）である。また、確信度とは、例えば、乗員の発話に対する応答が、乗員の要求に合致している、または乗員が期待していた答えであると推定される度合である。複数のエージェント機能部１５０−１〜１５０−３のそれぞれは、例えば、個々の記憶部２５０に設けられたパーソナルプロファイル２５４や知識ベースＤＢ２５６、応答規則ＤＢ２５８に基づいて応答内容を決定すると共に、応答内容に対する確信度を決定する。

例えば、対話管理部２２４は、乗員Ｐから「最近流行っているお店はどこかな？」というコマンドを受け付けた場合、ネットワーク検索部２２６によりコマンドに対応する情報として各種ウェブサーバ３００から「洋服のお店」、「靴のお店」、「イタリアンレストランのお店」の情報を取得したとする。ここで、対話管理部２２４は、パーソナルプロファイル２５４を参照し、乗員Ｐの趣味との合致度が高い応答結果の確信度を高く設定する。例えば、乗員Ｐの趣味が「食事」である場合、対話管理部２２４は、「イタリアンレストランのお店」の確信度を他の情報よりも高く設定する。また、対話管理部２２４は、各種ウェブサーバ３００から取得したそれぞれの店に対する一般ユーザの評価結果（お薦め度合）が高いほど確信度を高く設定してもよい。

また、対話管理部２２４は、コマンドに対する検索結果として得られた応答候補の数に基づいて確信度を決定してもよい。例えば、対話管理部２２４は、応答候補の数が１つである場合、他の候補が存在しないため、確信度を最も高く設定する。また、対話管理部２２４は、応答候補の数が多くなるほど、それぞれの確信度を低くなるように設定する。

また、対話管理部２２４は、コマンドに対する検索結果として得られた応答内容の充実度に基づいて確信度を決定してもよい。例えば、対話管理部２２４は、検索結果として文字情報だけでなく画像情報も取得できた場合には、画像が取得できていない場合よりも充実度が高いため確信度を高く設定する。

また、対話管理部２２４は、コマンドと応答内容の情報を用いて知識ベースＤＢ２５６を参照し、両者の関係性に基づいて確信度を設定してもよい。また、対話管理部２２４は、パーソナルプロファイル２５４を参照し、最近（例えば、１か月以内）の対話の履歴で同様の質問があったか否かを参照し、同様の質問があった場合に、その回答と同様の応答内容の確信度を高く設定してもよい。対話の履歴は、発話した乗員Ｐとの対話の履歴でもよく、乗員Ｐ以外のパーソナルプロファイル２５４に含まれる対話の履歴でもよい。また、対話管理部２２４は、上述した複数の確信度の設定条件のそれぞれを組み合わせて確信度を設定してもよい。

また、対話管理部２２４は、確信度に対する正規化を行ってもよい。例えば、対話管理部２２４は、上述したそれぞれの設定条件ごとに確信度が０〜１の範囲となる正規化を行う。これにより、複数の設定条件によって設定された確信度で比較を行う場合であっても均一に定量化されるため、何れかの設定条件の確信度だけが大きくなることがない。その結果、確信度に基づいて、より適切な応答結果を選択することができる。

例えば、エージェント機能部１５０−１の応答結果の確信度が０．２であり、エージェント機能部１５０−２の応答結果の確信度が０．８であり、エージェント機能部１５０−３の応答結果の確信度が０．５であったとする。この場合、エージェント機能部１５０−１は、確信度が最も高いエージェント２の応答結果（つまり、上述した図８に示す画像や音声）を出力部に出力させる。また、エージェント機能部１５０−１は、応答結果の確信度が閾値以上である応答結果を出力させてもよい。

また、エージェント機能部１５０−１は、自己の応答結果の確信度が閾値未満である場合に、他のエージェント機能部から取得した応答結果を、エージェント機能部１５０−１による応答結果として出力部に出力させてもよい。この場合、エージェント機能部１５０−１は、他のエージェント機能部から取得した応答結果の確信度が、自己の応答結果よりも大きい場合に、他のエージェント機能部から取得した応答結果を出力させる。

また、エージェント機能部１５０−１は、図７に示す情報の出力を行った後、自己の応答結果を他のエージェント機能部１５０−１に出力すると共に、他のエージェント機能部に乗員Ｐとの対話を行わせてもよい。この場合、他のエージェント機能部は、エージェント機能部１５０−１の応答結果に基づいて、乗員Ｐの要求内容に対する応答結果を生成する。例えば、他のエージェント機能部は、エージェント機能部１５０−１の応答結果を加味した応答結果を生成してもよく、エージェント機能部１５０−１の応答結果と異なる応答結果を生成してもよい。「エージェント機能部１５０−１の応答結果を加味する」とは、例えば、エージェント機能部１５０−１の応答結果の一部または全部を用いることである。

図９は、他のエージェント機能部が乗員に応答する様子を説明するための図である。以下、他のエージェント機能部は、エージェント機能部１５０−２であるものとして説明する。図９の例では、第１ディスプレイ２２に表示される画像ＩＭ５が示されている。画像ＩＭ５には、例えば、文字情報表示領域Ａ５１と、応答結果表示領域Ａ５２とが含まれる。文字情報表示領域Ａ５１には、乗員Ｐと対話中のエージェント２に関する情報が表示される。

応答結果表示領域Ａ５２には、例えば、対話中のエージェント画像やエージェントの応答結果が表示される。図９の例において、応答結果表示領域Ａ５２には、エージェント画像ＥＩ２およびエージェント２の応答結果である「中華レストラン「ＢＢＢ」です。」という文字情報が表示されている。この場面において、音声制御部１２４は、応答結果の音声情報として、エージェント機能部１５０−１の応答結果を付加した音声情報を生成し、エージェント画像ＥＩ２の表示位置付近に定位させる音像定位処理を行う。図９の例では、「エージェント１は、イタリアンレストラン「ＡＡＡ」を紹介したけど、私は中華レストラン「ＢＢＢ」を紹介するよ。」といった音声がスピーカユニット３０から出力されている。これにより、乗員Ｐは、複数のエージェントからの情報を取得することができる。また、乗員Ｐは、複数のエージェントからの情報を取得するために、個別にエージェントを呼び出して発話する必要がないため、利便性を向上させることができる。

[処理フロー]
図１０は、エージェント装置１００により実行される処理の流れの一例を示すフローチャートである。本フローチャートの処理は、例えば、所定周期或いは所定のタイミングで繰り返し実行されてよい。

まず、エージェントごとＷＵ判定部１１４は、音響処理部１１２により音響処理された乗員の発話からウエイクアップワードを受け付けたか否かを判定する（ステップＳ１００）。ウエイクアップワードを受け付けたと判定された場合、エージェントごとＷＵ判定部１１４は、対応するエージェント機能部（第１のエージェント機能部）に乗員の応答を実行させる（ステップＳ１０２）。

次に、第１のエージェント機能部は、マイク１０から乗員の発話の入力を受け付けたか否かを判定する（ステップＳ１０４）。乗員の発話の入力を受け付けたと判定された場合、記憶制御部１１６は、乗員の発話の音声（音声情報１６２）を記憶部１６０に記憶させる（ステップＳ１０６）。次に、第１のエージェント機能部は、エージェントサーバ２００に発話の音声に対する音声認識および自然言語処理を実行させ、音声認識結果を取得する（ステップＳ１０８、ステップＳ１１０）。次に、第１のエージェント機能部は、音声情報１６２と音声認識結果とを他のエージェント機能部に出力する（ステップＳ１１２）。

次に、第１のエージェント機能部は、音声認識結果に基づく応答結果を生成し（ステップＳ１１４）、生成した応答結果を出力部に出力させる（ステップＳ１１６）。次に、第１のエージェント機能部は、他のエージェント機能部からの応答結果を出力部に出力させる（ステップＳ１１８）。ステップＳ１１８の処理では、例えば、第１のエージェント制御部が、他のエージェント機能部からの応答結果を取得して出力してもよく、他のエージェント機能部から応答結果を出力させてもよい。これにより、本フローチャートの処理は、終了する。また、ステップＳ１００の処理において、ウエイクアップワードを受け付けていない場合、またはステップＳ１０４の処理において、乗員の発話の入力を受け受けていない場合、本フローチャートの処理は、終了する。なお、ステップＳ１０４の処理では、既に第１のエージェント機能部がウエイクアップワードにより起動しているものの、起動してから所定時間以上発話の入力を受け付けなかった場合には、エージェント装置１００の管理部１１０は、第１のエージェント機能部を終了させる処理を行ってもよい。

[変形例]
上述した実施形態において、乗員Ｐから呼び出された第１のエージェント機能部は、乗員Ｐの発話の音声認識結果が得られたタイミングで他のエージェント機能部に音声情報や音声認識結果を出力していたが、他のタイミングで出力してもよい。例えば、第１のエージェント機能部は、他のエージェント機能部に音声情報や音声認識結果を出力する前に応答結果を生成し、生成した自己の応答結果の確信度が閾値未満である場合に他のエージェントに音声情報や音声認識結果等を出力して処理を実行させる。

図１１は、変形例においてエージェント装置１００により実行される処理の流れの一例を示すフローチャートである。図１１に示すフローチャートは、上述した図１１のフローチャートと比較して、ステップＳ１１２〜Ｓ１１８の処理に代えて、ステップＳ２００〜Ｓ２０８の処理を備える点で相違する。したがって、以下では、主にステップＳ２００〜Ｓ２０８の処理を中心として説明する。

ステップＳ１０８およびステップＳ１１０の処理において、音声認識結果を取得した後、第１のエージェント機能部は、音声認識結果に基づく応答結果および確信度を生成する（ステップＳ２００）。次に、第１のエージェント機能部は、応答結果の確信度が閾値未満であるか否かを判定する（ステップＳ２０２）。閾値未満であると判定された場合、第１のエージェント機能部は、音声情報１６２と音声認識結果とを他のエージェント機能部に出力し（ステップＳ２０４）、他のエージェント機能部からの応答結果を出力部に出力させる（ステップＳ２０６）。

なお、ステップＳ２０６の処理では、他のエージェント機能部の応答結果を出力部に出力させる前に、その応答結果の確信度が閾値未満であるか否かを判定し、閾値未満でない場合に出力させるようにしてもよい。なお、他のエージェント機能部の応答結果の確信度が閾値未満である場合、第１のエージェント機能部は、応答結果が得られなかったことを示す情報を出力部に出力してもよく、第１のエージェント機能部および他のエージェント機能部のそれぞれの応答結果を出力部に出力させてもよい。

また、ステップＳ２０２の処理において、応答結果の確信度が閾値未満でないと判定された場合、第１のエージェント機能部は、生成した応答結果を出力部に出力させる（ステップＳ２０８）。
上述した変形例によれば、応答結果の確信度が低い場合にのみ、他のエージェント機能部に処理を行わせるため、効率的に処理を実行させることができる。また、乗員に対しては確信度の高い情報を乗員に出力することができる。

なお、上述した実施形態において、エージェント装置１００の機能のうち一部または全部は、エージェントサーバ２００に含まれていてもよい。また、エージェントサーバ２００の機能のうち一部または全部は、エージェント装置１００に含まれていてもよい。つまり、エージェント装置１００およびエージェントサーバ２００における機能の切り分けは、各装置の構成要素や、エージェントサーバ２００またはエージェントシステム１の規模等によって適宜変更されてよい。また、エージェント装置１００およびエージェントサーバ２００における機能の切り分けは、車両Ｍごとに設定されてもよい。

上述した実施形態に係るエージェント装置１００によれば、それぞれが車両Ｍの乗員Ｐの発話による音声を認識する認識部（音声認識部２２０、自然言語処理部２２２）を備え、認識部による音声認識結果に応じて、応答を含むサービスを提供する複数のエージェント機能部１５０と、乗員Ｐの発話の音声を記憶部１６０に記憶させる記憶制御部１１６と、を備え、複数のエージェント機能部１５０のうち、乗員Ｐにより選択された第１のエージェント機能部は、記憶部１６０に記憶された音声と、認識部により認識された音声認識結果とを、他のエージェント機能部に出力することで、より適切な応答結果を提供することができる。

また、実施形態に係るエージェント装置１００によれば、乗員の音声（生音声データ）と、音声認識結果とを他のエージェント機能部に出力することで、各エージェント機能部は、それぞれの音声認識レベルや認識条件に合わせて音声認識を実行できるため、音声認識に対する信頼性の低下を抑制することができる。したがって、乗員がエージェントごとの特徴や機能を把握していない状態で、あるエージェントを呼び出して要求を発話した場合であっても、他のエージェントに発話に対する処理を実行させて、より適切な応答結果を乗員に提供することができる。また、呼び出したエージェントが実現できない機能に関する要求（コマンド）が、乗員からあった場合であっても、他のエージェントに処理を受け渡して代わりに処理を実行させることができる。

以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。

１…エージェントシステム、１０…マイク、２０…表示・操作装置、３０…スピーカユニット、４０…ナビゲーション装置、５０…車両機器、６０…車載通信装置、７０…汎用通信装置、８０…乗員認識装置、１００…エージェント装置、１１０…管理部、１１２…音響処理部、１１４…エージェントごとＷＵ判定部、１１６…記憶制御部、１２０…出力制御部、１２２…表示制御部、１２４…音声制御部、１５０…エージェント機能部、１５２…ペアリングアプリ実行部、１６０、２５０…記憶部、２００…エージェントサーバ、２１０…通信部、２２０…音声認識部、２２２…自然言語処理部、２２４…対話管理部、２２６…ネットワーク検索部、２２８…応答文生成部、３００…各種ウェブサーバ、Ｍ…車両

Claims (7)

1. それぞれが車両の乗員の発話による音声を認識する認識部を備え、前記認識部による音声認識結果に応じて、応答を含むサービスを提供する複数のエージェント機能部と、
   前記乗員の発話の音声を記憶部に記憶させる記憶制御部と、を備え、
   前記複数のエージェント機能部のうち、前記乗員により選択された第１のエージェント機能部は、前記記憶部に記憶された音声と、前記第１のエージェント機能部が備える認識部により認識された音声認識結果とを、他のエージェント機能部に出力する、
   エージェント装置。
2. 前記第１のエージェント機能部は、前記認識部により前記乗員の発話に対する音声認識結果が得られたタイミングで、前記記憶部に記憶された音声と、前記音声認識結果とを他のエージェント機能部に出力する、
   請求項１に記載のエージェント装置。
3. 前記乗員の発話に対する応答結果を出力部に出力させる出力制御部を、更に備え、
   前記出力制御部は、前記第１のエージェント機能部によって得られた応答結果の確信度が閾値未満である場合に、前記乗員に提供する応答結果を、前記他のエージェント機能部によって得られた応答結果に変更して前記出力部に出力させる、
   請求項１または２に記載のエージェント装置。
4. 前記他のエージェント機能部は、前記第１のエージェント機能部の応答結果に基づいて、前記乗員の要求内容に対する応答結果を生成する、
   請求項１から３のうち何れか１項に記載のエージェント装置。
5. 前記第１のエージェント機能部は、前記認識部による音声認識結果に基づいて、前記複数のエージェント機能部から一以上の他のエージェント機能部を選択し、選択した他のエージェント機能部に前記記憶部に記憶された音声と前記音声認識結果とを出力する、
   請求項１から４のうち何れか１項に記載のエージェント装置。
6. コンピュータが、
   それぞれが車両の乗員の発話による音声を認識する認識部を備えた複数のエージェント機能部を起動させ、
   前記起動したエージェント機能部の機能として、前記認識部による音声認識結果に応じて、応答を含むサービスを提供し、
   前記乗員の発話の音声を記憶部に記憶し、
   前記複数のエージェント機能部のうち、前記乗員により選択された第１のエージェント機能部が、前記記憶部に記憶された音声と、前記第１のエージェント機能部が備える認識部により認識された音声認識結果とを、他のエージェント機能部に出力する、
   エージェント装置の制御方法。
7. コンピュータに、
   それぞれが車両の乗員の発話による音声を認識する認識部を備えた複数のエージェント機能部を起動させ、
   前記起動させたエージェント機能部の機能として、前記認識部による音声認識結果に応じて、応答を含むサービスを提供させ、
   前記乗員の発話の音声を記憶部に記憶させ、
   前記複数のエージェント機能部のうち、前記乗員により選択された第１のエージェント機能部が、前記記憶部に記憶された音声と、前記第１のエージェント機能部が備える認識部により認識された音声認識結果とを、他のエージェント機能部に出力させる、
   プログラム。

Images