JP7288781B2 - 情報提供装置、情報提供方法、およびプログラム - Google Patents

Description

本発明は、情報提供装置、情報提供方法、およびプログラムに関する。

従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェント機能に関する技術が開示されている（例えば、特許文献１参照）。また、特許文献１では、複数の搭乗者が存在する場合に、運転席の表示手段に表示されるエージェントキャラクタを、助手席や後部席の表示手段にも表示する技術が開示されている。

特開２００６－３３５２３１号公報

しかしながら、上述した技術では、車両内に存在する複数の搭乗者に応答する場合に、どの搭乗者に合わせた応答を行うかについては考慮されていなかった。そのため、利用者への適切な応答ができない場合があった。

本発明は、このような事情を考慮してなされたものであり、移動体の乗員に、より適切な情報提供を行うことができる情報提供装置、情報提供方法、およびプログラムを提供することを目的の一つとする。

この発明に係る情報提供装置、情報提供方法、およびプログラムは、以下の構成を採用した。
（１）：この発明の一態様に係る情報提供装置は、移動体に存在する複数の乗員の個人情報を取得する取得部と、前記取得部により取得された前記複数の乗員の個人情報の少なくとも一部を組み合わせて統合個人情報を生成する処理部と、前記処理部により処理された統合個人情報に基づいて、前記複数の乗員に情報を提供する情報提供部と、を備える情報提供装置である。

（２）：上記（１）の態様において、前記情報提供部は、前記複数の乗員とのコミュニケーションを行うエージェント画像を表示部に表示させる表示制御部と、前記複数の乗員の音声に応じて、音声による応答を含むサービスを提供するエージェント機能部と、を更に備え、前記処理部は、前記エージェント画像が前記表示部に表示される領域に基づいて、前記複数の乗員の個人情報の少なくとも一部を組み合わせるものである。

（３）：上記（２）の態様において、前記処理部は、前記エージェント画像の表示位置と、前記移動体に存在する複数の乗員のそれぞれの位置とに基づいて、前記統合個人情報に含まれる前記乗員の個人情報の影響度合を変更するものである。

（４）：上記（３）の態様において、前記処理部は、前記複数の乗員のうち、前記エージェント画像の表示位置との距離が近い位置に存在する乗員ほど、前記統合個人情報に含まれる前記乗員の個人情報の影響度合を大きくするものである。

（５）：上記（３）または（４）の態様において、前記処理部は、前記統合個人情報に含まれる個人情報のうち、前記移動体を運転する乗員の個人情報の影響度合を、他の乗員の個人情報に対する前記影響度合よりも大きくするものである。

（６）：上記（３）から（５）のうち何れか一つの態様において、前記処理部は、前記エージェント画像の表示位置と、前記移動体に存在する複数の乗員のそれぞれの位置とに基づいて、前記統合個人情報に含まれる前記乗員の個人情報の割合を変更するものである。

（７）：上記（２）から（６）のうち何れか一つの態様において、前記表示部は、前記複数の乗員のうち２以上の乗員に対して、自身に対向する位置にエージェント画像が表示されていると認識される程度の表示領域の広がりを有するものである。

（８）：本発明の他の態様に係る情報提供方法は、情報提供装置が、移動体に存在する複数の乗員の個人情報を取得し、取得した前記複数の乗員の個人情報の少なくとも一部を組み合わせて統合個人情報を生成し、生成した前記統合個人情報に基づいて、前記複数の乗員に情報を提供する、情報提供方法である。

（９）：本発明の他の態様に係るプログラムは、情報提供装置に、移動体に存在する複数の乗員の個人情報をさせ、取得された前記複数の乗員の個人情報の少なくとも一部を組み合わせて統合個人情報を生成させ、生成された前記統合個人情報に基づいて、前記複数の乗員に情報を提供させる、プログラムである。

上記（１）～（９）の態様によれば、移動体の乗員に、より適切な情報提供を行うことができる。

エージェント装置１００を含むエージェントシステム１の構成図である。 第１実施形態に係るエージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。 表示・操作装置２０の配置例を示す図である。 スピーカユニット３０の配置例を示す図である。 第１実施形態に係るエージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。 パーソナルプロファイル２５４の内容の一例を示す図である。 統合プロファイル１７２の内容の一例を示す図である。 統合プロファイル生成部１５４－１により設定される重みについて説明するための図である。 エージェント画像ＥＩ１が乗員Ｕ１に近い位置に表示されている場面での応答内容について説明するための図である。 エージェント画像ＥＩ１が乗員Ｕ２に近い位置に表示されている場面での応答内容について説明するための図である。 第１実施形態のエージェント装置１００により実行される統合プロファイル生成処理の流れの一例を示すフローチャートである。 第１実施形態のエージェントシステム１により実行される情報提供処理の流れの一例を示すシーケンス図である。 第２実施形態に係るエージェント装置１００Ａの構成と、車両Ｍに搭載された機器とを示す図である。 第２実施形態に係るエージェントサーバ２００Ａの構成と、エージェント装置１００Ａの構成の一部とを示す図である。

以下、図面を参照し、本発明の情報提供装置、情報提供方法、およびプログラムの実施形態について説明する。

＜第１実施形態＞
第１実施形態では、情報提供装置の一例としてエージェント装置を用いる。エージェント装置は、エージェントシステムの一部または全部を実現する装置である。以下では、エージェント装置の一例として、移動体の一例である車両（以下、車両Ｍ）に搭載され、複数種類のエージェント機能を備えたエージェント装置について説明する。本発明の適用上、必ずしもエージェント装置が複数種類のエージェント機能を有している必要はなく、またエージェント装置は、スマートフォン等の可搬型端末装置であってもよいが、以下の説明では、車両に搭載された複数種類のエージェント機能を備えたエージェント装置を前提とする。エージェント機能とは、例えば、車両Ｍの乗員（利用者の一例）と対話をしながら、乗員の発話の中に含まれる要求（コマンド）に基づく各種の情報提供や各種機器制御を行ったり、ネットワークサービスを仲介したりする機能である。複数種類のエージェントは、それぞれに果たす機能、処理手順、制御、出力態様・内容がそれぞれ異なってもよい。また、エージェント機能の中には、車両内の機器（例えば運転制御や車体制御に関わる機器）の制御等を行う機能を有するものがあってよい。

エージェント機能は、例えば、乗員の音声を認識する音声認識機能（音声をテキスト化する機能）に加え、自然言語処理機能（テキストの構造や意味を理解する機能）、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、ＡＩ（Artificial Intelligence）技術によって実現されてよい。また、これらの機能を行うための構成の一部（特に、音声認識機能や自然言語処理解釈機能）は、車両Ｍの車載通信装置または車両Ｍに持ち込まれた汎用通信装置と通信可能なエージェントサーバ（外部装置）に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバが協働してエージェントシステムを実現することを前提とする。また、エージェント装置とエージェントサーバが協働して仮想的に出現させるサービス提供主体（サービス・エンティティ）をエージェントと称する。

＜全体構成＞
図１は、エージェント装置１００を含むエージェントシステム１の構成図である。エージェントシステム１は、例えば、エージェント装置１００と、複数のエージェントサーバ２００－１、２００－２、２００－３、…とを備える。符号の末尾のハイフン以下数字は、エージェントを区別するための識別子であるものとする。何れのエージェントサーバであるかを区別しない場合、単にエージェントサーバ２００と称する場合がある。図１では３つのエージェントサーバ２００を示しているが、エージェントサーバ２００の数は２つであってもよいし、４つ以上であってもよい。それぞれのエージェントサーバ２００は、互いに異なるエージェントシステムの提供者が運営するものである。したがって、本実施形態におけるエージェントは、互いに異なる提供者により実現されるエージェントである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者や製造者等が挙げられ、任意の主体（法人、団体、個人等）がエージェントシステムの提供者となり得る。

エージェント装置１００は、ネットワークＮＷを介してエージェントサーバ２００と通信する。ネットワークＮＷは、例えば、インターネット、セルラー網、Ｗｉ－Ｆｉ網、ＷＡＮ（Wide Area Network）、ＬＡＮ（Local Area Network）、公衆回線、電話回線、無線基地局等のうち一部または全部を含む。ネットワークＮＷには、各種ウェブサーバ３００が接続されており、エージェントサーバ２００またはエージェント装置１００は、ネットワークＮＷを介して各種ウェブサーバ３００からウェブページを取得することができる。

エージェント装置１００は、車両Ｍの乗員と対話を行い、乗員からの音声をエージェントサーバ２００に送信し、エージェントサーバ２００から得られた回答を、音声出力や画像表示の形で乗員に提示する。

［車両］
図２は、第１実施形態に係るエージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。車両Ｍには、例えば、一以上のマイク１０と、表示・操作装置２０と、スピーカユニット３０と、ナビゲーション装置４０と、車両機器５０と、車載通信装置６０と、乗員認識装置８０と、エージェント装置１００とが搭載される。また、スマートフォン等の汎用通信装置７０が車室内に持ち込まれ、通信装置として使用される場合がある。これらの装置は、ＣＡＮ（Controller Area Network）通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図２に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。表示・操作装置２０とスピーカユニット３０のうち少なくとも一方は、「出力部」の一例である。

マイク１０は、車室内で発せられた音を収集する収音部である。表示・操作装置２０は、画像を表示するとともに、入力操作を受付可能な装置（或いは装置群）である。表示・操作装置２０は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置２０は、更に、ＨＵＤ（Head Up Display）や機械式の入力装置を含んでもよい。スピーカユニット３０は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ（音出力部）を含む。表示・操作装置２０は、エージェント装置１００とナビゲーション装置４０とで共用されてもよい。これらの詳細については後述する。

ナビゲーション装置４０は、ナビＨＭＩ（Human Machine Interface）と、ＧＰＳ（Global Positioning System）等の位置測位装置と、地図情報を記憶した記憶装置と、経路探索等を行う制御装置（ナビゲーションコントローラ）とを備える。マイク１０、表示・操作装置２０、およびスピーカユニット３０のうち一部または全部がナビＨＭＩとして用いられてもよい。ナビゲーション装置４０は、位置測位装置によって特定された車両Ｍの位置から、乗員によって入力された目的地まで移動するための経路（ナビ経路）を探索し、経路に沿って車両Ｍが走行できるように、ナビＨＭＩを用いて案内情報を出力する。経路探索機能は、ネットワークＮＷを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置４０は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置１００は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置１００は、ハードウェア上は一体に構成される。

車両機器５０は、例えば、エンジンや走行用モータ等の駆動力出力装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、窓、窓の開閉装置および窓の開閉制御装置、シート、シート位置の制御装置、ルームミラーおよびその角度位置制御装置、車両内外の照明装置およびその制御装置、ワイパーやデフォッガーおよびそれぞれの制御装置、方向指示灯およびその制御装置、空調装置、走行距離やタイヤの空気圧の情報や燃料の残量情報等の車両情報装置等を含む。

車載通信装置６０は、例えば、セルラー網やＷｉ－Ｆｉ網を利用してネットワークＮＷにアクセス可能な無線通信装置である。

乗員認識装置８０は、例えば、着座センサ、車室内カメラ、画像認識装置、音声認識装置等を含む。着座センサは、座席の下部に設けられた圧力センサ、シートベルトに取り付けられた張力センサ等を含む。車室内カメラは、車室内に設けられたＣＣＤ（Charge Coupled Device）カメラやＣＭＯＳ（Complementary Metal Oxide Semiconductor）カメラである。画像認識装置は、車室内カメラの画像を解析し、座席ごとの乗員の有無、顔の向き、顔の特徴情報等を認識する。顔の特徴情報とは、例えば、顔の肌色、輪郭形状、特徴部位（目、鼻、口）の配置、形状に関する情報である。音声認識装置は、マイク１０等から取得した音声から乗員ごとの音声の特徴情報を認識する。音声の特徴情報とは、例えば、声の高さ、イントネーション、リズム（音の高低のパターン）、ポーズ等の喋り方の特徴や、メル周波数ケプストラム係数（Mel Frequency Cepstrum Coefficients）等による特徴量に関する情報である。乗員認識装置８０は、複数のマイク１０のそれぞれで収集される音の強さや同じ音声を集音した時間差等に基づいて、音声が出力された位置を推定し、推定した位置から乗員の着座位置を認識してもよい。また、乗員認識装置８０は、画像から得られる口の動きや音声が出力された位置から発話者を認識してもよい。また、乗員認識装置８０は、上述した顔や音声の特徴情報に対応付けて、各乗員が着座している車室内空間座標上の位置を認識してもよい。つまり、本実施形態において、乗員認識装置８０は、着座位置認識部の一例でもある。

図３は、表示・操作装置２０の配置例を示す図である。表示・操作装置２０は、例えば、第１ディスプレイ２２と、第２ディスプレイ２４と、操作スイッチＡＳＳＹ２６とを含む。表示・操作装置２０は、更に、ＨＵＤ２８を含んでもよい。また、表示・操作装置２０は、更に、インストルメントパネルのうち運転席ＤＳに対面する部分に設けられるメーターディスプレイ２９を含んでもよい。第１ディスプレイ２２と、第２ディスプレイ２４と、ＨＵＤ２８と、メーターディスプレイ２９との一部または全部を組み合わせたものは、「表示部」の一例である。

車両Ｍには、例えば、ステアリングホイールＳＷが設けられた運転席ＤＳと、運転席ＤＳに対して車幅方向（図中Ｙ方向）に設けられた助手席ＡＳとが存在する。第１ディスプレイ２２は、複数の乗員のうち２以上の乗員に対して、自身に対向する位置に後述するエージェント画像が表示されていると認識される程度の表示領域の広がりを有する。具体的には、第１ディスプレイ２２は、インストルメントパネルにおける運転席ＤＳの左側辺りから、助手席ＡＳの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。車両Ｍにメーターディスプレイ２９を設けていない場合には、第１ディスプレイ２２を運転席ＤＳの右端部辺りまで延在させ、第１ディスプレイ２２の正面から見て右側（運転席ＤＳ側）の領域に後述するメーターディスプレイ２９に表示させる内容を表示させてもよい。

第２ディスプレイ２４は、運転席ＤＳと助手席ＡＳとの車幅方向に関する中間あたり、且つ第１ディスプレイの下方に設置されている。例えば、第１ディスプレイ２２と第２ディスプレイ２４は、共にタッチパネルとして構成され、表示部としてＬＣＤ（Liquid Crystal Display）や有機ＥＬ（Electroluminescence）、プラズマディスプレイ等を備えるものである。操作スイッチＡＳＳＹ２６は、ダイヤルスイッチやボタン式スイッチ等が集積されたものである。ＨＵＤ２８は、例えば、風景に重畳させて画像を視認させる装置であり、一例として、車両Ｍのフロントウインドシールドやコンバイナーに画像を含む光を投光することで、乗員に虚像を視認させる。メーターディスプレイ２９は、例えば、ＬＣＤや有機ＥＬ等であり、速度計や回転速度計等の計器類を表示する。表示・操作装置２０は、乗員によってなされた操作の内容をエージェント装置１００に出力する。上述した各表示部が表示する内容は、エージェント装置１００によって決定されてよい。

図４は、スピーカユニット３０の配置例を示す図である。スピーカユニット３０は、例えば、スピーカ３０Ａ～３０Ｈを含む。スピーカ３０Ａは、運転席ＤＳ側の窓柱（いわゆるＡピラー）に設置されている。スピーカ３０Ｂは、運転席ＤＳに近いドアの下部に設置されている。スピーカ３０Ｃは、助手席ＡＳ側の窓柱に設置されている。スピーカ３０Ｄは、助手席ＡＳに近いドアの下部に設置されている。スピーカ３０Ｅは、右側後部座席ＢＳ１側に近いドアの下部に設置されている。スピーカ３０Ｆは、左側後部座席ＢＳ２側に近いドアの下部に設置されている。スピーカ３０Ｇは、第２ディスプレイ２４の近傍に設置されている。スピーカ３０Ｈは、車室の天井（ルーフ）に設置されている。

係る配置において、例えば、専らスピーカ３０Ａおよび３０Ｂに音を出力させた場合、音像は運転席ＤＳ付近に定位することになる。「音像が定位する」とは、例えば、乗員の左右の耳に伝達される音の大きさを調節することにより、乗員が感じる音源の空間的な位置を定めることである。また、専らスピーカ３０Ｃおよび３０Ｄに音を出力させた場合、音像は助手席ＡＳ付近に定位することになる。また、専らスピーカ３０Ｅに音を出力させた場合、音像は車室の前方付近に定位することになり、専らスピーカ３０Ｆに音を出力させた場合、音像は車室の上方付近に定位することになる。また、専らスピーカ３０Ｇに音を出力させた場合、音像は車室の前方付近に定位することになり、専らスピーカ３０Ｈに音を出力させた場合、音像は車室の上方付近に定位することになる。これに限らず、スピーカユニット３０は、ミキサーやアンプを用いて各スピーカの出力する音の配分を調整することで、車室内の任意の位置に音像を定位させることができる。

［エージェント装置］
図２に戻り、エージェント装置１００は、管理部１１０と、エージェント機能部１５０－１、１５０－２、１５０－３と、ペアリングアプリ実行部１６０と、記憶部１７０とを備える。管理部１１０は、例えば、音響処理部１１２と、エージェントごとＷＵ（Wake Up）判定部１１４と、出力制御部１２０と備える。以下、何れのエージェント機能部であるか区別しない場合、単にエージェント機能部１５０と称する。３つのエージェント機能部１５０を示しているのは、図１におけるエージェントサーバ２００の数に対応させた一例に過ぎず、エージェント機能部１５０の数は、２つであってもよいし、４つ以上であってもよい。図２に示すソフトウェア配置は説明のために簡易に示しており、実際には、例えば、エージェント機能部１５０と車載通信装置６０の間に管理部１１０が介在してもよいように、任意に改変することができる。また、以下では、エージェント機能部１５０－１とエージェントサーバ２００－１が協働して出現させるエージェントを「エージェント１」、エージェント機能部１５０－２とエージェントサーバ２００－２が協働して出現させるエージェントを「エージェント２」、エージェント機能部１５０－３とエージェントサーバ２００－３が協働して出現させるエージェントを「エージェント３」と称する場合がある。第１実施形態において、エージェント機能部１５０と、出力制御部１２０との一部または全部を組み合わせたものは、「情報提供部」の一例である。

エージェント装置１００の各構成要素は、例えば、ＣＰＵ（Central Processing Unit）等のハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）、ＧＰＵ（Graphics Processing Unit）等のハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤ（Hard Disk Drive）やフラッシュメモリ等の記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ－ＲＯＭ等の着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。

記憶部１７０は、上記の各種記憶装置により実現される。記憶部１７０には、例えば、統合プロファイル１７２等のデータやプログラムが格納される。統合プロファイル１７２は、後述する統合プロファイル生成部１５４により生成されるデータである。統合プロファイル１７２の内容の詳細については後述する。

管理部１１０は、ＯＳ（Operating System）やミドルウェア等のプログラムが実行されることで機能する。

管理部１１０の音響処理部１１２は、マイク１０から収集される音を受け付け、受け付けた音に対して、エージェントごとに予め設定されているウエイクアップワードを認識するのに適した状態になるように音響処理を行う。ウエイクアップワードとは、例えば、対象のエージェントを起動させるためのワード（単語）やフレーズ等である。音響処理とは、例えば、バンドパスフィルタ等のフィルタリングによるノイズ除去や音の増幅等である。また、音響処理部１１２は、音響処理された音声を、エージェントごとＷＵ判定部１１４や起動中のエージェント機能部に出力する。

エージェントごとＷＵ判定部１１４は、エージェント機能部１５０－１、１５０－２、１５０－３のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。エージェントごとＷＵ判定部１１４は、音響処理が行われた音声（音声ストリーム）から音声の意味を認識する。まず、エージェントごとＷＵ判定部１１４は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。エージェントごとＷＵ判定部１１４は、混合ガウス分布モデル（ＧＭＭ；Gaussian mixture model) に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。

次に、エージェントごとＷＵ判定部１１４は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、エージェントごとＷＵ判定部１１４は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合、エージェントごとＷＵ判定部１１４は、対応するエージェント機能部１５０を起動させる。なお、エージェントごとＷＵ判定部１１４に相当する機能が、エージェントサーバ２００に搭載されてもよい。この場合、管理部１１０は、音響処理部１１２によって音響処理が行われた音声ストリームをエージェントサーバ２００に送信し、エージェントサーバ２００がウエイクアップワードであると判定した場合、エージェントサーバ２００からの指示に従ってエージェント機能部１５０が起動する。また、各エージェント機能部１５０は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部１１０がエージェントごとＷＵ判定部１１４を備える必要はない。

また、エージェントごとＷＵ判定部１１４は、上述した手順と同様の手順で、発話された音声に含まれる終了ワードを認識した場合であり、且つ、終了ワードに対応するエージェントが起動している状態（以下、必要に応じて「起動中」と称する）である場合、起動しているエージェント機能部を終了（停止）させる。なお、エージェントの起動および終了は、例えば、表示・操作装置２０から所定の操作を受け付けることによって実行されてもよいが、以下では、音声による起動および停止の例を説明する。また、起動中のエージェントは、音声の入力を所定時間以上受け付けなかった場合に停止させてもよい。

出力制御部１２０は、管理部１１０またはエージェント機能部１５０からの指示に応じて表示部またはスピーカユニット３０に応答結果等の情報を出力させることで、乗員にサービス等の提供を行う。出力制御部１２０は、例えば、表示制御部１２２と、音声制御部１２４とを備える。

表示制御部１２２は、出力制御部１２０からの指示に応じて表示部の所定の領域に画像を表示させる。以下では、エージェントに関する画像を第１ディスプレイ２２に表示させるものとして説明する。表示制御部１２２は、出力制御部１２０の制御により、例えば、車室内で乗員とのコミュニケーションを行う擬人化されたエージェントの画像（以下、エージェント画像と称する）を生成し、生成したエージェント画像を第１ディスプレイ２２に表示させる。エージェント画像は、例えば、乗員に対して話しかける態様の画像である。エージェント画像は、例えば、少なくとも観者（乗員）によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、エージェント画像は、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、エージェント画像は、立体的に感じられ、観者によって三次元空間における頭部画像を含むことでエージェントの顔向きが認識されたり、本体（胴体や手足）の画像を含むことで、エージェントの動作や振る舞い、姿勢等が認識されるものであってもよい。また、エージェント画像は、アニメーション画像であってもよい。

また、表示制御部１２２は、例えば、乗員認識装置８０により認識された乗員の位置に近い表示領域にエージェント画像を表示させたり、乗員の位置に顔を向けたエージェント画像を生成して表示させてもよい。また、表示制御部１２２は、乗員認識装置８０により車両Ｍに複数の乗員が認識された場合に、乗員認識装置８０により認識された発話者側にエージェント画像を移動させたり、複数の乗員の位置から視認可能となる位置にエージェント画像を移動させてもよい。また、表示制御部１２２は、乗員の操作により指示された位置にエージェント画像を移動してもよい。乗員の操作には、例えば、第１ディスプレイ２２に表示されているエージェント画像の表示位置を乗員が指でタッチし、タッチした状態の指を画面上の何れかの方向にスライドさせる操作や、タッチしていない状態でのエージェント画像の移動を表す乗員のジェスチャーによる操作、エージェント画像の移動を指示する音声による操作等が含まれる。エージェント画像の移動には、例えば、同一のディスプレイでの移動（例えば、第１ディスプレイ２２における右側から左側への移動）や、他のディスプレイ間での移動（例えば、第１ディスプレイ２２から第２ディスプレイ２４への移動）等が含まれる。

音声制御部１２４は、出力制御部１２０からの指示に応じて、スピーカユニット３０に含まれるスピーカのうち一部または全部に音声を出力させる。音声制御部１２４は、複数のスピーカユニット３０を用いて、エージェント画像の表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。エージェント画像の表示位置に対応する位置とは、例えば、エージェント画像がエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、エージェント画像の表示位置付近（例えば、２～３［ｃｍ］以内）の位置である。

エージェント機能部１５０は、対応するエージェントサーバ２００と協働してエージェントを出現させ、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する。エージェント機能部１５０には、車両Ｍ（例えば、車両機器５０）を制御する権限が付与されたものが含まれてよい。また、エージェント機能部１５０には、ペアリングアプリ実行部１６０を介して汎用通信装置７０と連携し、エージェントサーバ２００と通信するものがあってよい。例えば、エージェント機能部１５０－１には、車両Ｍ（例えば、車両機器５０）を制御する権限が付与されている。エージェント機能部１５０－１は、車載通信装置６０を介してエージェントサーバ２００－１と通信する。エージェント機能部１５０－２は、車載通信装置６０を介してエージェントサーバ２００－２と通信する。エージェント機能部１５０－３は、ペアリングアプリ実行部１６０を介して汎用通信装置７０と連携し、エージェントサーバ２００－３と通信する。

また、エージェント機能部１５０－１～１５０－３は、それぞれ、パーソナルプロファイル取得部１５２－１～１５２－３と、統合プロファイル生成部１５４－１～１５４－３とを備える。パーソナルプロファイル取得部１５２は、「取得部」の一例である。統合プロファイル生成部１５４は、「処理部」の一例である。パーソナルプロファイル取得部１５２は、乗員認識装置８０による乗員認識結果をエージェントサーバ２００に送信し、乗員ごとのパーソナルプロファイルを取得する。パーソナルプロファイルには、例えば、乗員ごとに保存されている乗員の個人情報が含まれる。個人情報には、例えば、画像または音声から導出される特徴情報や、氏名、住所、年齢、趣味嗜好、過去の対話の履歴等が含まれる。パーソナルプロファイルの具体例については後述する。

統合プロファイル生成部１５４は、パーソナルプロファイル取得部１５２により取得された車両Ｍの乗員のパーソナルプロファイルの少なくとも一部を組み合わせて統合プロファイルを生成する。統合プロファイルは、「統合個人情報」の一例である。また、統合プロファイル生成部１５４は、生成した統合プロファイルを記憶部１７０に格納する。パーソナルプロファイル取得部１５２および統合プロファイル生成部１５４の機能の詳細については、後述する。なお、上述したパーソナルプロファイル取得部１５２と統合プロファイル生成部１５４は、管理部１１０内に設けられてもよい。

ペアリングアプリ実行部１６０は、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）によって汎用通信装置７０とペアリングを行い、エージェント機能部１５０－３と汎用通信装置７０とを接続させる。なお、エージェント機能部１５０－３は、ＵＳＢ（Universal Serial Bus）等を利用した有線通信によって汎用通信装置７０に接続されるようにしてもよい。

［エージェントサーバ］
図５は、第１実施形態に係るエージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。以下、エージェントサーバ２００の構成とともに、エージェント機能部１５０等の動作について説明する。ここでは、エージェント装置１００からネットワークＮＷまでの物理的な通信についての説明を省略する。また、以下では、エージェントごとＷＵ判定部１１４によりエージェント機能部１５０－１が起動され、エージェント機能部１５０－１およびエージェントサーバ２００－１が協働して実現するエージェント１によって、乗員に発話に対する応答が提供されるものとして説明するが、他のエージェント機能部とエージェントサーバとの組についても、それぞれで実行可能な機能やデータベース等で相違はあるものの、ほぼ同様の流れで処理が実行される。

エージェントサーバ２００－１は、通信部２１０を備える。通信部２１０は、例えば、ＮＩＣ（Network Interface Card）等のネットワークインターフェースである。更に、エージェントサーバ２００－１は、例えば、パーソナルプロファイル提供部２１２と、音声認識部２２０と、自然言語処理部２２２と、対話管理部２２４と、ネットワーク検索部２２６と、応答文生成部２２８と、記憶部２５０とを備える。これらの構成要素は、例えば、ＣＰＵ等のハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩやＡＳＩＣ、ＦＰＧＡ、ＧＰＵ等のハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤやフラッシュメモリ等の記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ－ＲＯＭ等の着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。音声認識部２２０と、自然言語処理部２２２とを合わせたものは、「認識部」の一例である。

記憶部２５０は、上記の各種記憶装置により実現される。記憶部２５０には、例えば、辞書ＤＢ２５２、パーソナルプロファイル２５４、知識ベースＤＢ２５６、応答規則ＤＢ２５８等のデータやプログラムが格納される。

パーソナルプロファイル提供部２１２は、エージェント機能部１５０－１により送信された乗員認識結果に基づいて、パーソナルプロファイル２５４から乗員のパーソナルプロファイルを取得し、取得した乗員のパーソナルプロファイルをエージェント機能部１５０－１に送信する。統合プロファイル生成部１５４－１は、エージェントサーバ２００－１により送信された乗員のパーソナルプロファイルを取得し、取得した乗員のパーソナルプロファイルから統合プロファイル１７２を生成し、記憶部１７０に記憶する。

また、エージェント機能部１５０－１は、例えば、音響処理部１１２等から入力される音声ストリーム、或いは圧縮や符号化等の処理を行った音声ストリームを、エージェントサーバ２００－１に送信する。エージェント機能部１５０－１は、ローカル処理（エージェントサーバ２００－１を介さない処理）が可能なコマンド（要求内容）が認識できた場合には、コマンドで要求された処理を実行してもよい。ローカル処理が可能なコマンドとは、例えば、エージェント装置１００が備える記憶部１７０を参照することで応答可能なコマンドである。より具体的には、ローカル処理が可能なコマンドとは、例えば、記憶部１７０内に存在する電話帳データ（不図示）から特定者の名前を検索し、合致した名前に対応付けられた電話番号に電話をかける（相手を呼び出す）コマンドである。したがって、エージェント機能部１５０－１は、エージェントサーバ２００－１が備える機能の一部を有してもよい。

音声ストリームを取得すると、音声認識部２２０が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部２２２が文字情報に対して辞書ＤＢ２５２を参照しながら意味解釈を行う。辞書ＤＢ２５２は、例えば、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書ＤＢ２５２は、例えば、機能辞書２５２Ａと汎用辞書２５２Ｂを含む。機能辞書２５２Ａは、エージェントサーバ２００－１がエージェント機能部１５０－１と協働して実現するエージェント１が提供する機能をカバーするための辞書である。例えば、エージェント１が車載エアコンを制御する機能を提供する場合、機能辞書２５２Ａには、「エアコン」、「空調」、「つける」、「消す」、「温度」、「上げる」、「下げる」、「内気」、「外気」等の単語が、動詞、目的語等の単語種別、および抽象化された意味と対応付けられて登録されている。また、機能辞書２５２Ａには、同時に使用可能であることを示す単語間リンク情報が含まれてよい。汎用辞書２５２Ｂは、エージェント１の提供する機能に限らず、一般的な物事の事象を抽象化された意味と対応付けた辞書である。機能辞書２５２Ａと汎用辞書２５２Ｂのそれぞれは、同義語や類義語の一覧情報を含んでもよい。機能辞書２５２Ａと汎用辞書２５２Ｂとは、複数の言語のそれぞれに対応して用意されてよく、その場合、音声認識部２２０および自然言語処理部２２２は、予め設定されている言語設定に応じた機能辞書２５２Ａおよび汎用辞書２５２Ｂ、並びに文法情報（不図示）を使用する。音声認識部２２０の処理と、自然言語処理部２２２の処理は、段階が明確に分かれるものではなく、自然言語処理部２２２の処理結果を受けて音声認識部２２０が認識結果を修正する等、相互に影響し合って行われてよい。

自然言語処理部２２２は、音声認識部２２０による認識結果に基づく意味の解析を行う。また、自然言語処理部２２２は、認識結果として、「今日の天気は」、「天気はどうですか」等の意味が認識され、標準文字情報「今日の天気」に置き換えたコマンドを生成する。これにより、リクエストの音声に文字揺らぎがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部２２２は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成してもよい。

対話管理部２２４は、入力されたコマンドに基づいて、知識ベースＤＢ２５６や応答規則ＤＢ２５８を参照しながら車両Ｍの乗員に対する応答内容（例えば、乗員への発話内容や出力部から出力する画像、音声）を決定する。知識ベースＤＢ２５６は、物事の関係性を規定した情報である。応答規則ＤＢ２５８は、コマンドに対してエージェントが行うべき動作（回答や機器制御の内容等）を規定した情報である。

対話管理部２２４は、コマンドが、ネットワークＮＷを介して検索可能な情報を要求するものである場合、ネットワーク検索部２２６に検索を行わせる。ネットワーク検索部２２６は、ネットワークＮＷを介して各種ウェブサーバ３００にアクセスし、所望の情報を取得する。「ネットワークＮＷを介して検索可能な情報」とは、例えば、車両Ｍの周辺にあるレストランの一般ユーザによる評価結果であったり、その日の車両Ｍの位置に応じた天気予報であったりする。

応答文生成部２２８は、対話管理部２２４により決定された発話の内容が車両Ｍの乗員に伝わるように、応答文を生成し、生成した応答文（応答内容）をエージェント装置１００に送信する。また、応答文生成部２２８は、乗員認識装置８０による認識結果をエージェント装置１００から取得し、取得した認識結果によりコマンドを含む発話を行った乗員がパーソナルプロファイル２５４に登録された乗員であることが特定されている場合に、乗員の名前を呼んだり、乗員の話し方に似せた話し方にした応答文を生成してもよい。

エージェント機能部１５０は、応答文を取得すると、音声合成を行って音声を出力するように音声制御部１２４に指示する。また、エージェント機能部１５０は、音声出力に合わせてエージェント画像を生成し、生成したエージェント画像や応答内容に含まれる画像等を表示するように表示制御部１２２に指示する。なお、応答な内容を音声や画像で表示する場合、エージェント機能部１５０は、記憶部１７０に記憶された統合プロファイル１７２に基づいて、乗員ごとのプロファイルに適した出力を行う。このようにして、仮想的に出現したエージェントが車両Ｍの乗員に応答するエージェント機能が実現される。

［統合プロファイルの生成］
次に、上述した統合プロファイル１７２の生成処理について具体的に説明する。パーソナルプロファイル取得部１５２－１は、乗員認識装置８０により認識された乗員認識結果をエージェントサーバ２００－１に送信すると共に、乗員のパーソナルプロファイルの取得要求を行う。エージェントサーバ２００－１のパーソナルプロファイル提供部２１２は、乗員認識結果に含まれる乗員ごとの特徴情報を用いてパーソナルプロファイル２５４の特徴情報を参照し、該当する乗員のプロファイル情報（個人情報）を取得する。図６は、パーソナルプロファイル２５４の内容の一例を示す図である。パーソナルプロファイル２５４は、乗員を含むエージェントの利用者を識別する識別情報である利用者ＩＤに、プロファイル情報が対応付けられている。プロファイル情報には、例えば、特徴情報、氏名、住所、年齢、趣味、嗜好、使用履歴等が含まれる。特徴情報には、例えば、顔の特徴情報や声の特徴情報等が含まれる。顔の特徴情報や声の特徴情報は、例えば、乗員認識装置８０で認識可能な特徴情報が含まれる。プロファイル情報は、例えば、エージェントの初期設定時に登録され、乗員の変更指示やエージェントの使用結果等に基づいて適宜更新される。

パーソナルプロファイル提供部２１２は、乗員認識結果に含まれる特徴情報に基づいて、パーソナルプロファイル２５４の特徴情報を参照し、類似度が最も高い特徴情報に対応付けられた利用者ＩＤ、趣味、嗜好、使用履歴を含むパーソナルプロファイルを取得する。また、パーソナルプロファイル提供部２１２は、上記の情報に加えて、氏名、住所、年齢に関する情報を取得してもよい。また、パーソナルプロファイル提供部２１２は、エージェント機能部１５０－１から利用者ＩＤ（乗員ＩＤ）が送信された場合には、パーソナルプロファイル２５４の利用者ＩＤを参照し、合致する利用者ＩＤに対応付けられたパーソナルプロファイルの少なくとも一部を取得してもよい。パーソナルプロファイル提供部２１２は、取得した乗員のパーソナルプロファイルをエージェント機能部１５０－１に送信する。

統合プロファイル生成部１５４－１は、パーソナルプロファイル提供部２１２により送信された乗員ごとのパーソナルプロファイルの少なくとも一部を組み合わせた統合プロファイル１７２を生成し、生成した統合プロファイル１７２を記憶部１７０に記憶する。図７は、統合プロファイル１７２の内容の一例を示す図である。統合プロファイル１７２は、例えば、車両Ｍに存在する乗員の情報である搭乗者情報に、統合プロファイル情報が対応付けられている。統合プロファイル情報には、例えば、着座位置情報、統合趣味、総合嗜好、統合使用履歴が含まれる。搭乗者情報は、乗員認識装置８０により認識された乗員を識別する情報である。図７の例では、搭乗者情報として、利用者ＩＤ「Ｕ１」、「Ｕ２」が格納されている。この搭乗者情報は、パーソナルプロファイル取得部１５２－１により取得されるパーソナルプロファイルに含まれる利用者ＩＤの情報でもよく、乗車時に表示・操作装置２０により乗員に入力させた利用者ＩＤ（乗員ＩＤ）であってもよい。着座位置情報は、例えば、乗員ごとの着座位置に関する情報である。着座位置に関する情報とは、例えば、運転席ＤＳ、助手席ＡＳ、後部座席ＢＳ１，ＢＳ２のうち、どの座席に着座しているかを示す情報である。図７の例において、着座位置情報には、利用者ＩＤ「Ｕ１」の乗員（以下、乗員Ｕ１と称する）が運転席ＤＳに着座し、利用者ＩＤ「Ｕ２」の乗員（以下、乗員Ｕ２と称する）が助手席ＡＳに着座していることを示す情報が格納されている。また、着座位置情報は、例えば、乗員認識装置８０により認識された乗員ごとの位置情報（例えば、車室内空間座標）であってもよい。

統合趣味は、パーソナルプロファイル取得部１５２－１が取得した乗員ごとのパーソナルプロファイルに含まれる趣味を統合した情報である。統合嗜好は、パーソナルプロファイル取得部１５２－１が取得した乗員ごとのパーソナルプロファイルに含まれる嗜好を統合した情報である。統合使用履歴は、パーソナルプロファイル取得部１５２－１が取得した乗員ごとのパーソナルプロファイルに含まれる使用履歴を統合した情報である。

統合プロファイル生成部１５４－１は、統合趣味、統合嗜好、および統合使用履歴を格納する場合に、それぞれの要素ごとに重みを設定する。重みとは、例えば、乗員に提供される情報に対する影響度合を示す情報である。影響度合とは、例えば、エージェントが乗員の発話内容の意味を解析して対応する機能を実行させる場合や、機能の実行結果に基づいて応答内容を出力する場合における要素の重要度である。本実施形態では、例えば、重みが大きいほどその要素を優先した機能が実行されたり、要素を優先した応答内容が出力される。また、上述した重みは、乗員ごと、または機能ごとに設定される。複数の乗員に共通の要素が存在する場合には、例えば、重みを加算して設定する。

図７の例において、統合趣味には、乗員Ｕ１に対応する趣味の要素＜ドライブ＞と、乗員Ｕ１、Ｕ２の共通の趣味の要素＜音楽鑑賞＞、＜外食＞とが格納されている。また、図７に示すｗ１、ｗ２は、乗員Ｕ１、Ｕ２の趣味の各要素に対する重みを表している。つまり、図７に示す＜ドライブ＊ｗ１＞は、ドライブという趣味の要素に重みｗ１が設定されていることを示している。また、図７に示すｗ１＋ｗ２は、重みｗ１とｗ２とを加算したことを示している。

＜重みの設定＞
次に、統合プロファイル生成部１５４－１による重みの設定について説明する。統合プロファイル生成部１５４－１は、例えば、起動中のエージェントに対応付けられたエージェント画像が表示部に表示されている場合に、表示される領域に基づいて重みを設定する。

図８は、統合プロファイル生成部１５４－１により設定される重みについて説明するための図である。図８の例では、車両Ｍの運転席ＤＳに乗員Ｕ１が着座し、助手席ＡＳに乗員Ｕ２が着座しているものとする。また、図８では、表示部の一例として、第１ディスプレイ２２が示されているが、他の表示部を用いてもよい。以降の説明についても同様とする。

図８の例において、起動中のエージェント１に対応付けらえたエージェント画像ＥＩ１が、第１ディスプレイ２２の正面から見て右側の領域に表示されている。この場合、統合プロファイル生成部１５４－１は、乗員認識装置８０により認識された乗員Ｕ１およびＵ２の位置と、エージェント画像ＥＩ１の表示位置とに基づいて、第１ディスプレイ２２に表示されるエージェント画像ＥＩ１が、乗員Ｕ１および乗員Ｕ２から視認可能な位置に表示されていると推定する。また、統合プロファイル生成部１５４－１は、乗員Ｕ１およびＵ２の顔の向きが、エージェント画像ＥＩ１の表示位置を向いている場合に、エージェント画像ＥＩ１が、乗員Ｕ１および乗員Ｕ２から視認可能な位置に表示されていると推定してもよい。

そして、統合プロファイル生成部１５４－１は、乗員Ｕ１、Ｕ２の位置情報（車室内空間座標の位置）から、第１ディスプレイ２２に表示されたエージェント画像ＥＩ１の表示位置までのそれぞれの距離Ｄ１、Ｄ２を算出する。そして、統合プロファイル生成部１５４－１は、算出されたそれぞれの距離Ｄ１、Ｄ２に基づいて、乗員Ｕ１のプロファイルの各要素に付与する重みｗ１と、乗員Ｕ２のプロファイルの各要素に付与する重みｗ２とを設定する。

図８の例において、距離Ｄ１は、距離Ｄ２より短い。したがって、乗員Ｕ１の方が乗員Ｕ２よりもエージェント画像ＥＩ１の表示位置に近いことになる。この場合、統合プロファイル生成部１５４－１は、重みｗ１を重みｗ２よりも大きくする。図８の例では、統合プロファイル１７２に含まれる統合趣味、統合嗜好、および統合使用履歴について、乗員Ｕ１のプロファイル情報の要素の重みｗ１に０．８が設定され、乗員Ｕ２のプロファイル情報の要素の重みｗ２に０．５が設定されている。この値は、距離Ｄ１とＤ２の大きさに基づいて設定されてもよく、距離Ｄ１とＤ２との差分に基づいて設定されてもよい。

ここで、乗員操作や発話者認識等により、エージェント画像ＥＩ１の表示領域が図８に示す表示位置から正面から見て左側に移動した場合には、乗員Ｕ１から離れ、乗員Ｕ２に近づくことになる。したがって、統合プロファイル生成部１５４－１は、エージェント画像ＥＩ１の表示領域が変更された時点で、距離Ｄ１、Ｄ２に基づいて重みｗ１およびｗ２を更新する。

また、統合プロファイル生成部１５４－１は、上述したエージェントの表示位置に基づく重みの設定に代えて（または加えて）、乗員が着座する位置に基づいて重みを設定してもよい。例えば、統合プロファイル生成部１５４－１は、運転席ＤＳに着座している乗員Ｕ１のプロファイルの各要素の重みｗ１を、助手席ＡＳに着座する乗員Ｕ２のプロファイルの各要素の重みｗ２よりも大きくする。また、統合プロファイル生成部１５４－１は、後部座席（ＢＳ１、ＢＳ２）に乗員が着座している場合には、運転席ＤＳに着座する乗員Ｕ１のプロファイル情報の要素の重みを、後部座席に着座した乗員のプロファイルの各要素の重みよりも大きくする。これにより、運転席ＤＳに着座する乗員Ｕ１のプロファイルを優先して、エージェント１による機能の実行や応答結果を出力させることができる。運転者は、他の乗員と比較して、走行ルートや現在地の付近のお店等の走行状態に応じた問い合わせを行うことが多いと予測される。そのため、運転者に対する重みを大きくすることで、運転者に、より適切な情報を提供することができる。

また、統合プロファイル生成部１５４－１は、予め決められた乗員のプロファイル情報の要素の重みを他の乗員よりも大きくしてもよい。これにより、複数の乗員のうち何れかの乗員が発話した内容であっても、特定の乗員に特化した応答結果を出力させることができる。

また、統合プロファイル生成部１５４－１は、複数の乗員の位置や、エージェント画像の表示位置に基づいて、統合プロファイル１７２の各要素の重みを変更することに代えて（または加えて）、統合個人情報に含める乗員ごとのプロファイル情報の割合を変更してもよい。例えば、乗員Ｕ１とエージェント画像ＥＩ１の表示位置との距離Ｄ１が、乗員Ｕ２とエージェント画像ＥＩ１の表示位置との距離Ｄ２よりも短い場合に、乗員Ｕ１のプロファイル情報の要素の数を、乗員Ｕ２のプロファイル情報の要素の数より多くなるように組み合わせて、統合プロファイル１７２を生成する。

なお、上述した統合プロファイル１７２の生成は、起動されるエージェントが切り替わるごとに、起動したエージェントに対応付けられたエージェント機能部１５０の統合プロファイル生成部１５４によって実行される。つまり、エージェント１が生成した統合プロファイル１７２は、エージェント２やエージェント３では利用できないように制御される。これにより、各エージェントで特有の応答結果を出力させることができる。また、統合プロファイル１７２は、有料で他のエージェントに利用させてもよい。その場合には、統合プロファイル１７２の利用回数やデータ量に基づいて課金が行われる。上記課金処理は、例えば、管理部１１０で行われてよい。

＜統合プロファイルに基づく情報提供＞
次に、統合プロファイル１７２に基づく情報提供の様子について、具体的に説明する。なお、以下では、複数の乗員に提供される情報の一例として、乗員の発話に対する応答結果の情報を用いるものとする。図９は、エージェント画像ＥＩ１が乗員Ｕ１に近い位置に表示されている場面での応答内容について説明するための図である。図９の例では、エージェント１が起動し、乗員Ｕ１およびＵ２は、エージェント画像ＥＩ１を視認していると推定されているものとする。この場面において、統合プロファイル１７２に含まれる乗員Ｕ１のプロファイル情報の要素の重みｗ１は、乗員Ｕ２のプロファイル情報の要素の重みｗ２よりも大きな値が設定される。

ここで、乗員Ｕ１から「この付近のお薦めのレストランは？」という発話を受け付けた場合に、エージェント１（エージェント機能部１５０－１およびエージェントサーバ２００－１）は、発話の音声の意味を解析し、近くのレストランの検索を行う。この場合、エージェント１は、統合プロファイル１７２に含まれる要素の一部または全部を用いて検索を絞り込んでもよい。図７の例では、統合嗜好の要素として中華料理およびイタリアンが含まれるため、それぞれをキーワードに追加して近くにあるレストラン検索を行う。次に、エージェント１は、検索結果および統合プロファイルの重み等に基づいて応答文（応答内容）を生成して乗員Ｕ１、Ｕ２に提供する。

例えば、エージェント機能部１５０－１は、要素の重みが大きいほど、その要素に対応して出力される応答内容の数を多くしたり、その応答内容を他の要素に対応する応答内容よりも強調して出力制御部１２０に出力させたり、出力する順序を早くさせる。強調して出力するとは、例えば、表示出力の場合には、その応答内容を強調色で表示したり、文字を大きく表示したり、目立つようなグラデーションで表示させ、音声出力の場合には、その応答内容の音声の音量を他の音声よりも大きくすること等である。

例えば、エージェント機能部１５０－１は、レストランの結果のうち、乗員Ｕ１のプロファイル情報の要素である中華料理のお店を４件出力させ、乗員Ｕ２のプロファイル情報の要素であるイタリアンのお店を１件出力させる。図９の例において、エージェント機能部１５０－１は、「この付近では、中華料理が４件、イタリアンが１件のお薦めがあります。」という音声をエージェント画像ＥＩ１の表示位置に音像定位させて出力させると共に、中華料理およびイタリアンのお店に関する情報（例えば、店名）をエージェント画像ＥＩ１と共に第１ディスプレイ２２に表示させている。また、中華料理のお店に関する文字画像は、イタリアンのお店に関する文字画像よりも大きく表示されている。

図１０は、エージェント画像ＥＩ１が乗員Ｕ２に近い位置に表示されている場面での応答内容について説明するための図である。この場面において、統合プロファイル１７２に含まれる乗員Ｕ２のプロファイル情報の要素の重みｗ２は、乗員Ｕ１のプロファイル情報の要素の重みｗ１よりも大きな値が設定される。

したがって、エージェント機能部１５０－１は、重みに基づいて、応答結果の内容を変更し、レストランの結果のうち、乗員Ｕ２のプロファイル情報の要素であるイタリアンを４件出力させ、乗員Ｕ１のプロファイル情報の要素である中華料理を１件出力させる。図１０の例において、エージェント機能部１５０－１は、「この付近では、イタリアンが４件、中華料理が１件のお薦めがあります。」という音声をエージェント画像ＥＩ１の表示位置に音像定位させて出力させると共に、イタリアンおよび中華料理のお店をエージェント画像ＥＩ１と共に第１ディスプレイ２２に表示させている。また、イタリアンのお店に関する文字画像は、中華料理のお店に関する文字画像よりも大きく表示されている。上述した図９および図１０に示すように、統合プロファイル１７２を用いて情報を提供することで、同一の発話内容であっても応答結果を変更することができ、乗員に、より適切な情報を提供することができる。また、エージェント機能部１５０－１は、上述したレストラン検索の他、例えば、乗員の好きな楽曲を再生したり、お勧めのドライブルートを検索する等、多種の情報提供において、より適切な情報を提供することができる。

[処理フロー]
次に、第１実施形態のエージェントシステム１により実行される処理について説明する。なお、エージェントシステム１により実行される処理は、エージェント装置１００により統合プロファイルを生成する処理（統合プロファイル生成処理）と、統合プロファイルを用いて情報を提供する処理（情報提供処理）とに大別される。したがって、以下では、それぞれの処理を分けて説明する。

図１１は、第１実施形態のエージェント装置１００により実行される統合プロファイル生成処理の流れの一例を示すフローチャートである。図１１の例では、乗員によるウエイクアップワードの発話により、すでにエージェント１が起動され、エージェント画像ＥＩ１が表示部の所定の領域に表示されているものとする。本フローチャートの処理は、例えば、所定周期或いは所定のタイミングで繰り返し実行されてよい。所定のタイミングとは、例えば、エージェント１が起動したタイミングや、エージェント１の表示位置が移動したタイミング、乗員認識装置８０の認識結果に変更があったタイミング、または乗員により統合プロファイルの生成または更新の指示があったタイミングである。

まず、エージェント装置１００は、乗員認識装置８０による乗員認識結果を取得する（ステップＳ１００）。次に、エージェント機能部１５０－１は、表示制御部１２２により表示されたエージェント画像ＥＩ１の表示位置を取得する（ステップＳ１０２）。次に、統合プロファイル生成部１５４－１は、統合プロファイルを生成済みであるか否かを判定する（ステップＳ１０４）。生成済みであると判定された場合、記憶部１７０から統合プロファイル１７２を取得する（ステップＳ１０６）。また、統合プロファイル生成済みでないと判定された場合、パーソナルプロファイル取得部１５２－１は、乗員認識結果をエージェントサーバ２００－１に送信し、車両Ｍに乗車している乗員のパーソナルプロファイルを取得する（ステップＳ１０８）。次に、統合プロファイル生成部１５４－１は、取得した乗員ごとのパーソナルプロファイルのうち少なくとも一部を組み合わせて統合プロファイルを生成する（ステップＳ１１０）。

ステップＳ１０６またはステップＳ１１０の処理後、統合プロファイル生成部１５４－１は、エージェント画像の表示位置と、乗員ごとの位置とに基づいて統合プロファイルの各要素の重みを更新する（ステップＳ１１２）。次に、統合プロファイル生成部１５４－１は、更新した統合プロファイル１７２を記憶部１７０に記憶する（ステップＳ１１４）。これにより、本フローチャートの処理は、終了する。

図１２は、第１実施形態のエージェントシステム１により実行される情報提供処理の流れの一例を示すシーケンス図である。図１２の例では、起動中のエージェント１（エージェント装置１００およびエージェントサーバ２００－１）により実行される情報提供処理について説明するものとする。また、図１２の例では、すでに図１１に示す生成処理により、統合プロファイル１７２の生成または更新が行われているものとする。

まず、エージェント装置１００の音響処理部１１２は、マイク１０から乗員の発話の入力を受け付け（ステップＳ２００）、受け付けた発話の音声に対する音響処理を行う（ステップＳ２０２）。次に、エージェント機能部１５０－１は、記憶部１７０に記憶された統合プロファイル１７２を取得し（ステップＳ２０４）、音響処理が行われた音声をエージェントサーバ２００－１に送信する（ステップＳ２０６）。なお、ステップＳ２０６の処理において、エージェント機能部１５０－１は、統合プロファイルを送信してもよい。

エージェントサーバ２００－１の音声認識部２２０は、エージェント機能部１５０－１から送信された音響処理が行われた音声（音声ストリーム）の認識を行い、音声をテキスト化する（ステップＳ２０８）。次に、自然言語処理部２２２は、テキスト化された文字情報に対する自然言語処理を実行し、文字情報の意味解析を行う（ステップＳ２１０）。

次に、対話管理部２２４およびネットワーク検索部２２６は、意味解析結果に基づいてエージェントの機能を実行する（ステップＳ２１２）。なお、ステップＳ２１２の処理において、対話管理部２２４およびネットワーク検索部２２６は、エージェント機能部１５０－１により送信された統合プロファイルに基づく機能を実行してもよい。次に、応答文生成部２２８は、実行された結果に基づいて応答文を生成し（ステップＳ２１４）、生成した応答文をエージェント装置１００に送信する（ステップＳ２１６）。

エージェント装置１００のエージェント機能部１５０－１は、統合プロファイルに基づいて、エージェントサーバ２００－１から送信された応答結果を選択して出力部に出力させる（ステップＳ２１８）。

上述した第１実施形態のエージェント装置（情報提供装置）１００によれば、車両Ｍ（移動体の一例）に存在する複数の乗員のパーソナルプロファイルを取得するパーソナルプロファイル取得部１５２と、パーソナルプロファイル取得部１５２により取得された複数の乗員のパーソナルプロファイルの少なくとも一部を組み合わせて統合プロファイルを生成する処理部（統合プロファイル生成部１５４）と、処理部により処理された統合個人情報に基づいて、前記複数の乗員に情報を提供する情報提供部（エージェント機能部１５０、出力制御部１２０）と、を備えることにより、乗員に、より適切な情報提供を行うことができる。具体的には、第１実施形態によれば、車両Ｍに複数の乗員が乗車している場合に、エージェントの表示位置や対話対象者のプロファイル情報を優先させた応答結果を出力させることができる。

＜第２実施形態＞
以下、第２実施形態について説明する。第２実施形態のエージェントシステム１は、第第１実施形態と比較して、エージェント装置１００で実行した統合プロファイルの生成処理をエージェントサーバ側で実行し、生成された統合プロファイルをエージェントサーバ２００の記憶部２５０に記憶させる点で相違する。したがって、以下では、主に上述した相違点を中心に説明する。また、第１実施形態と同様の構成については、同様の名称または符号を付するものとし、ここでの具体的な説明は省略する。また、第２の実施形態において、エージェントサーバは、「情報提供装置」の一例である。

［エージェント装置］
図１３は、第２実施形態に係るエージェント装置１００Ａの構成と、車両Ｍに搭載された機器とを示す図である。車両Ｍには、例えば、一以上のマイク１０と、表示・操作装置２０と、スピーカユニット３０と、ナビゲーション装置４０と、車両機器５０と、車載通信装置６０と、乗員認識装置８０と、エージェント装置１００Ａとが搭載される。また、汎用通信装置７０が車室内に持ち込まれ、通信装置として使用される場合がある。

また、エージェント装置１００Ａは、管理部１１０と、エージェント機能部１５０Ａ－１～１５０Ａ－３と、ペアリングアプリ実行部１６０と、記憶部１７０とを備える。エージェント機能部１５０Ａ－１～１５０Ａ－３、上述した第１実施形態のエージェント機能部１５０－１～１５０－３の機能と比較して、パーソナルプロファイル取得部１５２－１～１５２－３および統合プロファイル生成部１５４－１～１５４－３の構成を備えていない点で相違する。したがって、エージェント機能部１５０Ａ－１～１５０Ａ－３のそれぞれは、パーソナルプロファイル取得部１５２－１～１５２－３および統合プロファイル生成部１５４－１～１５４－３で実行される処理以外の処理を実行する。また、エージェント機能部１５０Ａ－１～１５０Ａ－３は、所定周期または所定のタイミングで乗員認識装置８０の乗員認識結果やエージェント画像の表示位置に関する情報をエージェントサーバ２００－１に送信する。

［エージェントサーバ］
図１４は、第２実施形態に係るエージェントサーバ２００Ａの構成と、エージェント装置１００Ａの構成の一部とを示す図である。第２実施形態においても第１実施形態と同様にエージェント機能部１５０Ａ－１が起動され、エージェント機能部１５０Ａ－１およびエージェントサーバ２００Ａ－１が協働して実現するエージェント１によって、乗員に発話に対する応答が提供される。

エージェントサーバ２００Ａ－１は、通信部２１０と、統合プロファイル生成部２１４と、音声認識部２２０と、自然言語処理部２２２と、対話管理部２２４と、ネットワーク検索部２２６と、応答文生成部２２８と、記憶部２５０Ａとを備える。これらの構成要素は、例えば、ＣＰＵ等のハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩやＡＳＩＣ、ＦＰＧＡ、ＧＰＵ等のハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤやフラッシュメモリ等の記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ－ＲＯＭ等の着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。第２実施形態において、対話管理部２２４と、ネットワーク検索部２２６と、応答文生成部２２８とを組み合わせたものは「情報提供部」の一例である。

記憶部２５０Ａは、上記の各種記憶装置により実現される。記憶部２５０Ａには、例えば、辞書ＤＢ２５２、パーソナルプロファイル２５４、知識ベースＤＢ２５６、応答規則ＤＢ２５８、統合プロファイル２６０等のデータやプログラムが格納される。統合プロファイル２６０は、例えば、第１実施形態の統合プロファイル１７２と同様の項目の情報が格納される。

統合プロファイル生成部２１４は、エージェント機能部１５０－１により送信された乗員認識結果に含まれる乗員ごとの特徴情報に基づいて、パーソナルプロファイル２５４を参照し、乗員ごとのパーソナルプロファイルを取得する。そして、統合プロファイル生成部２１４は、取得した乗員ごとのパーソナルプロファイルの少なくとも一部を組み合わせて統合プロファイルを生成する。更に、統合プロファイル生成部２１４は、生成した統合プロファイルに含まれる要素ごとに、乗員の位置とエージェント画像の表示位置とに基づいて重み（影響度合）を設定する。そして、統合プロファイル生成部２１４は、重みを設定した統合プロファイル２６０を記憶部２５０Ａに記憶する。また、統合プロファイル生成部２１４は、例えば、エージェント機能部１５０Ａにより送信された乗員認識結果やエージェントの画像の表示位置が変更された場合に、統合プロファイルを更新する。

また、エージェントサーバ２００Ａ－１の情報提供部は、自然言語処理部２２２により処理された音声の意味解析結果に基づいて、対話管理やネットワーク検索、および応答文生成を行う場合に、記憶部２５０Ａに記憶された統合プロファイル２６０を取得し、取得した統合プロファイル２６０に基づいて、エージェントが実行する機能や応答内容（応答文）を変更する。また、情報提供部は、生成した応答内容をエージェント装置１００Ａ－１に送信し、応答内容に基づく情報を乗員に提供する。

上述した第２実施形態のエージェントシステムによれば、第１実施形態のエージェントシステムと同様の効果を奏する他、エージェントサーバ２００－１において、統合プロファイルの生成や更新、統合プロファイルに基づく応答内容の生成を行うことで、エージェント装置１００側の処理負荷を軽減することができる。

上述した第１実施形態および第２実施形態のそれぞれは、他の実施形態の一部または全部を組み合わせてもよい。また、エージェント装置１００（１００Ａ）の機能のうち一部または全部は、エージェントサーバ２００（２００Ａ）に含まれていてもよい。また、エージェントサーバ２００（２００Ａ）の機能のうち一部または全部は、エージェント装置１００（１００Ａ）に含まれていてもよい。つまり、エージェント装置１００（１００Ａ）およびエージェントサーバ２００（２００Ａ）における機能の切り分けは、各装置の構成要素、エージェントサーバ２００（２００Ａ）やエージェントシステム１の規模等によって適宜変更されてよい。また、エージェント装置１００（１００Ａ）およびエージェントサーバ２００（２００Ａ）における機能の切り分けは、車両Ｍごと、または車両に搭載されるエージェントごとに設定されてもよい。

また、上述の実施形態では、移動体の一例として車両を用いたが、例えば、船舶や飛行物体等の他の移動体であってもよい。

以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。

１…エージェントシステム、１０…マイク、２０…表示・操作装置、３０…スピーカユニット、４０…ナビゲーション装置、５０…車両機器、６０…車載通信装置、７０…汎用通信装置、８０…乗員認識装置、１００、１００Ａ…エージェント装置、１１０…管理部、１１２…音響処理部、１１４…エージェントごとＷＵ判定部、１２０…出力制御部、１２２…表示制御部、１２４…音声制御部、１５０、１５０Ａ…エージェント機能部、１５２…パーソナルプロファイル取得部、１５４、２１４…統合プロファイル生成部、１６０…ペアリングアプリ実行部、１７０、２５０、２５０Ａ…記憶部、２００、２００Ａ…エージェントサーバ、２１０…通信部、２１２…パーソナルプロファイル提供部、２２０…音声認識部、２２２…自然言語処理部、２２４…対話管理部、２２６…ネットワーク検索部、２２８…応答文生成部、３００…各種ウェブサーバ、Ｍ…車両

Claims (7)

1. 移動体に存在する複数の乗員の個人情報を取得する取得部と、
   前記取得部により取得された前記複数の乗員の個人情報の少なくとも一部を組み合わせて統合個人情報を生成する処理部と、
   前記処理部により処理された統合個人情報に基づいて、前記複数の乗員に情報を提供する情報提供部と、を備え、
   前記情報提供部は、前記複数の乗員とのコミュニケーションを行うエージェント画像を表示部に表示させる表示制御部と、前記複数の乗員の音声に応じて、音声による応答を含むサービスを提供するエージェント機能部と、を更に備え、
   前記処理部は、
   前記エージェント画像の表示位置と、前記移動体に存在する複数の乗員のそれぞれの位置とに基づいて、前記統合個人情報に含まれる前記乗員の個人情報の影響度合を変更し、
   前記複数の乗員のうち、前記エージェント画像の表示位置との距離が近い位置に存在する乗員ほど、前記統合個人情報に含まれる前記乗員の個人情報の影響度合を大きくする、
   情報提供装置。
2. 前記処理部は、前記エージェント画像が前記表示部に表示される領域に基づいて、前記複数の乗員の個人情報の少なくとも一部を組み合わせる、
   請求項１に記載の情報提供装置。
3. 前記処理部は、前記統合個人情報に含まれる個人情報のうち、前記移動体を運転する乗員の個人情報の影響度合を、他の乗員の個人情報に対する前記影響度合よりも大きくする、
   請求項１または２に記載の情報提供装置。
4. 前記処理部は、前記エージェント画像の表示位置と、前記移動体に存在する複数の乗員のそれぞれの位置とに基づいて、前記統合個人情報に含まれる前記乗員の個人情報の割合を変更する、
   請求項１から３のうち何れか１項に記載の情報提供装置。
5. 前記表示部は、前記複数の乗員のうち２以上の乗員に対して、自身に対向する位置に前記エージェント画像が表示されていると認識される程度の表示領域の広がりを有する、
   請求項１から４のうち何れか１項に記載の情報提供装置。
6. 情報提供装置が、
   移動体に存在する複数の乗員の個人情報を取得し、
   取得した前記複数の乗員の個人情報の少なくとも一部を組み合わせて統合個人情報を生成し、
   生成した前記統合個人情報に基づいて、前記複数の乗員に情報を提供し、
   前記複数の乗員とのコミュニケーションを行うエージェント画像を表示部に表示させ、
   前記複数の乗員の音声に応じて、音声による応答を含むサービスを提供し、
   前記エージェント画像の表示位置と、前記移動体に存在する複数の乗員のそれぞれの位置とに基づいて、前記統合個人情報に含まれる前記乗員の個人情報の影響度合を変更し、
   前記複数の乗員のうち、前記エージェント画像の表示位置との距離が近い位置に存在する乗員ほど、前記統合個人情報に含まれる前記乗員の個人情報の影響度合を大きくする、
   情報提供方法。
7. 情報提供装置に、
   移動体に存在する複数の乗員の個人情報をさせ、
   取得された前記複数の乗員の個人情報の少なくとも一部を組み合わせて統合個人情報を生成させ、
   生成された前記統合個人情報に基づいて、前記複数の乗員に情報を提供させ、
   前記複数の乗員とのコミュニケーションを行うエージェント画像を表示部に表示させ、
   前記複数の乗員の音声に応じて、音声による応答を含むサービスを提供させ、
   前記エージェント画像の表示位置と、前記移動体に存在する複数の乗員のそれぞれの位置とに基づいて、前記統合個人情報に含まれる前記乗員の個人情報の影響度合を変更させ、
   前記複数の乗員のうち、前記エージェント画像の表示位置との距離が近い位置に存在する乗員ほど、前記統合個人情報に含まれる前記乗員の個人情報の影響度合を大きくさせる、
   プログラム。

Images