JP3873386B2

JP3873386B2 - Agent device

Info

Publication number: JP3873386B2
Application number: JP21249197A
Authority: JP
Inventors: 智氣窪田; 孝二堀; 松田　　学; 和英足立
Original assignee: Equos Research Co Ltd
Current assignee: Equos Research Co Ltd
Priority date: 1997-07-22
Filing date: 1997-07-22
Publication date: 2007-01-24
Anticipated expiration: 2017-07-22
Also published as: JPH1137766A

Description

【０００１】
【発明の属する技術分野】
本発明は、エージェント装置に係り、例えば、擬人化されたエージェントを相手に車両内での会話等が可能なコミュニケーション機能を備えたエージェント装置に関する。
【０００２】
【従来の技術】
従来車両内において、運転者による走行環境を向上させるようにしたものとして、ラジオやカセットテーププレーヤが搭載されている。
また、車両に搭載したアマチュア無線機や携帯電話等の無線通信機器を使用して、車両外の知人等との会話を楽しむことで、走行環境を向上させるようにした車両もある。
【０００３】
【発明が解決しようとする課題】
このように従来の車両におけるラジオ等では運転者に対して一方向の情報提示にすぎず、双方向の会話等をすることができなかった。
一方、携帯電話等による場合には会話をすることができるが、コール待ち、ダイヤル等によって通話相手を捜さなければならなかった。たとえ、通話相手が見つかったとしても、車両の状況といった運転者の一方的な都合にあわせた、適切な会話をしてくれるわけではなかった。
このように、従来の車両には、車両の過去の状態などの履歴・運転者の状態に応じて、擬人化されたエージェントが存在しないため、車両が愛着のわかないただの乗り物としての道具でしか役割を持たない場合もあった。
【０００４】
なお、運転者に対する情報の伝達を、人間の表情や動作などにより行うようにした技術が特開平９−１０２０９８号公報において提示されている。
しかし、この公報に記載された技術は、過去の運転者の応答等の履歴によって表示が変わるわけではなく、同一の状況が生じた場合には常に同一の表示がされるものである。すなわち、限られたセンサ出力に対して常に同一の表示を行うものであり、視認性が向上された従来の計器類の範疇に入るべきものである。
【０００５】
本発明は、現在の車両・運転者の状況だけでなく、過去の履歴等に基づく学習結果から擬人化されたエージェントが状況に合わせた行為をし、運転者とのコミュニケーションをはかることができる車両を提供することを目的とする。
【０００６】
【課題を解決するための手段】
請求項１に記載した発明では、擬人化されたエージェントを車両内に表示させるエージェント表示手段と、車両の状況として車両の現在位置、車両各部の状況、車両外部の環境のうち少なくとも１つを検出する状況検出手段と、この状況検出手段により検出した車両の状況を記憶することで学習する学習手段と、この学習手段による学習結果と前記状況検出手段により検出された車両の状況とから、エージェントの行為を決定する行為決定手段と、この行為決定手段で決定された行為を、前記エージェント表示手段により表示されるエージェントに行わせるエージェント制御手段と、をエージェント装置に具備させて前記目的を達成する。
請求項２に記載した発明では、擬人化されたエージェントを車両内に表示させるエージェント表示手段と、予め設定された運転操作、車両の状況のうち少なくとも１つを検出する状況検出手段と、この状況検出手段により検出した状況と、該検出した状況と同一の状況の回数と、を記憶する記憶手段と、この記憶手段に記憶された、前記検出した状況と回数に応じて、エージェントの行為を決定する行為決定手段と、この行為決定手段で決定された行為を、前記エージェント表示手段により表示されるエージェントに行わせるエージェント制御手段と、をエージェント装置に具備させて前記目的を達成する。
請求項３に記載した発明では、請求項２に記載のエージェント装置において、前記状況検出手段は、車両の現在位置を検出する現在位置検出手段であることを特徴とする。
請求項４に記載した発明では、請求項２に記載のエージェント装置において、前記状況検出手段は、車両各部の状況を検出する車載センサであることを特徴とする。
請求項５に記載した発明では、請求項２に記載のエージェント装置において、前記状況検出手段は、車両外部の環境を検出するセンサであることを特徴とする。
請求項６に記載した発明では、請求項１又は請求項２に記載のエージェント装置において、前記エージェントは、複数のエージェントの中から選択されることを特徴とする。
請求項７に記載した発明では、請求項１又は請求項２に記載のエージェント装置において、前記エージェント表示手段により表示されたエージェントの音声を出力するエージェント音声出力手段、を具備することを特徴とする。
請求項８に記載した発明では、請求項７に記載のエージェント装置において、前記エージェント音声出力手段は、複数のエージェント音声の中から選択された音声を出力することを特徴とする。
請求項９に記載した発明では、請求項７又は請求項８に記載のエージェント装置において、前記エージェント制御手段は、前記行為決定手段で決定された行為に対応して、前記エージェント音声出力手段から出力される音声の音色を制御することを特徴とする。
請求項１０に記載した発明では、請求項１又は請求項２に記載のエージェント装置において、運転者の指示内容及び応答内容の少なくとも一方を記憶し、前記行為決定手段は、前記記憶した運転者の指示内容及び応答内容の少なくとも一方をさらに用いて、エージェントの行為を決定する、ことを特徴とする。
請求項１１に記載した発明では、請求項１又は請求項２に記載のエージェント装置において、運転者の操作を入力するスイッチと、を備え、前記記憶手段は該スイッチ入力の時間及び場所を記憶し、前記行為決定手段は、前記記憶したスイッチ入力の時間及び場所をさらに用いて、エージェントの行為を決定する、ことを特徴とする。
【０００７】
【発明の実施の形態】
以下、本発明のエージェント装置における好適な実施の形態について、図１から図１１を参照して詳細に説明する。
（１）実施形態の概要
本実施形態のエージェント装置では、擬人化されたエージェントを画像（平面的画像、ホログラフィ等の立体的画像等）により車両内に出現させる。そして、車両自体、運転者、同乗者、対向車等を含む車両の状況の判断と学習（状況の学習だけでなく運転者の応答や反応等も含む）をし、各時点での車両状況とそれまでの学習結果に基づいて、エージェントが運転者や車両に対して様々なバリエーションをもった対応（行為＝行動と音声）をする。
これにより運転者は、自分固有のエージェントを車両内でつき合う（コミュニケーションする）ことが可能になり、車両内での環境を快適にすることができる。
ここで、車両内に出現させるエージェントは、人間と同様に判断し学習する疑似人格化（仮想人格化）された主体である。従って、同一の車両状況であっても過去の学習内容等に応じてエージェントのコミュニケーションの内容は異なる。ときには、車両の走行には関係ない範囲での判断ミスも有り、この判断ミスによる不要な（ドジな）応答をすることもある。そして運転者の応答により、判断ミスか否かを判定し、学習する。
エージェントとして画像表示される容姿としては、人間的な容姿である必要はなく、例えば、ひよこや犬、猫、カエル、ネズミ等の動物自体の容姿や人間的に図案化（イラスト化）した動物の容姿であってもよく、更にロボット的な容姿であってもよい。またエージェントの年齢としても一定である必要がなく、エージェントの学習機能として、最初は子供の容姿とし、時間の経過と共に成長していき容姿が変化していく（大人の容姿に変化し、更に老人の容姿に変化していく）ようにしてもよい。
エージェントの容姿や音声については、複数の容姿、複数の音声の中から選択することが可能である。
【０００８】
（２）実施形態の詳細
図１は、本実施形態におけるエージェント装置の構成を示すブロック図である。
本実施形態では、ミュニケーション機能全体を制御する全体処理部１を備えている。この全体処理部は、設定した目的地までの経路を探索して音声や画像表示により案内するナビゲーション処理部１０、車両の状況や運転者による過去の応対等を学習して適切な会話や制御を行うエージェント処理部１１、ナビゲーション処理部１０とエージェント処理部１１に対するＩ／Ｆ部１２、エージェント画像や地図画像等の画像出力や入力画像を処理する画像処理部１３、エージェント音声や経路案内音声等の音声出力や入力される音声を制御する音声制御部１４、及び車両や運転者に関する各種状況の検出データを処理する状況情報処理部１５を有している。
【０００９】
ナビゲーション処理部１０とエージェント処理部１１は、データ処理及び各部の動作の制御を行うＣＰＵ（中央処理装置）と、このＣＰＵにデータバスや制御バス等のバスラインで接続されたＲＯＭ、ＲＡＭ、タイマ等を備えている。両処理部１０、１１はネットワーク接続されており、互いの処理データを取得することができるようになっている。
ＲＯＭはＣＰＵで制御を行うための各種データやプログラムが予め格納されたリードオンリーメモリであり、ＲＡＭはＣＰＵがワーキングメモリとして使用するランダムアクセスメモリである。
【００１０】
本実施形態のナビゲーション処理部１０とエージェント処理部１１は、ＣＰＵがＲＯＭに格納された各種プログラムを読み込んで各種処理を実行するようになっている。なお、ＣＰＵは、記録媒体駆動装置２３にセットされた外部の記録媒体からコンピュータプログラムを読み込んで、エージェント記憶装置２９やナビゲーションデータ記憶装置、図示しないハードディスク等のその他の記憶装置に格納（インストール）し、この記憶装置から必要なプログラム等をＲＡＭに読み込んで（ロードして）実行するようにしてもよい。また、必要なプログラム等を記録媒体駆動装置２３からＲＡＭに直接読み込んで実行するようにしてもよい。
【００１１】
ナビゲーション処理部１０には、現在位置検出装置２１とナビゲーションデータ記憶装置３０が接続され、エージェント処理部１１にはエージェントデータ記憶装置２９が接続され、Ｉ／Ｆ部１２には入力装置２２と記憶媒体駆動装置２３と通信制御装置２４が接続され、画像処理部１３には表示装置２７と撮像装置２８が接続され、音声制御部１４には音声処理装置２５とマイク２６が接続され、状況情報処理部１５には状況センサ部４０が接続されている。
【００１２】
現在位置検出装置２１は、車両の絶対位置（緯度、経度による）を検出するためのものであり、人工衛星を利用して車両の位置を測定するＧＰＳ（Global Positioning System)受信装置２１１と、方位センサ２１２と、舵角センサ２１３と、距離センサ２１４と、路上に配置されたビーコンからの位置情報を受信するビーコン受信装置２１５等が使用される。
ＧＰＳ受信装置２１１とビーコン受信装置２１５は単独で位置測定が可能であるが、ＧＰＳ受信装置２１１やビーコン受信装置２１５による受信が不可能な場所では、方位センサ２１２と距離センサ２１４の双方を用いた推測航法によって現在位置を検出するようになっている。
方位センサ２１２は、例えば、地磁気を検出して車両の方位を求める地磁気センサ、車両の回転角速度を検出しその角速度を積分して車両の方位を求めるガスレートジャイロや光ファイバジャイロ等のジャイロ、左右の車輪センサを配置しその出力パルス差（移動距離の差）により車両の旋回を検出することで方位の変位量を算出するようにした車輪センサ、等が使用される。
舵角センサ２１３は、ステアリングの回転部に取り付けた光学的な回転センサや回転抵抗ボリューム等を用いてステアリングの角度αを検出する。
距離センサ２１４は、例えば、車輪の回転数を検出して計数し、または加速度を検出して２回積分するもの等の各種の方法が使用される。
【００１３】
入力装置２２は、ナビゲーション処理における走行開始時の現在地（出発地点）や目的地（到達地点）、情報提供局へ渋滞情報等の情報の請求を発信したい車両の所定の走行環境（発信条件）、携帯電話６のタイプ（型式）などを入力するためのものである。また、入力装置２２は、本実施形態によるエージェントの問い合わせ等に対して運転者が応答するための１つの手段でもある。
入力装置２２には、タッチパネル（スイッチとして機能）、キーボード、マウス、ライトペン、ジョイスティック、赤外線等によるリモコン、音声認識装置などの各種の装置が使用可能である。また、赤外線等を利用したリモコンと、リモコンから送信される各種信号を受信する受信部を備えてもよい。リモコンには、画面上に表示されたカーソルの移動操作等を行うジョイスティックの他、メニュー指定キー（ボタン）、テンキー等の各種キーが配置される。
【００１４】
記録媒体駆動装置２３は、ナビゲーション処理部１０やエージェント処理部１１が各種処理を行うためのコンピュータプログラムを外部の記録媒体から読み込むのに使用される駆動装置である。記録媒体に記録されているコンピュータプログラムには、各種のプログラムやデータ等が含まれる。
ここで、記録媒体とは、コンピュータプログラムが記録される記録媒体をいい、具体的には、フロッピーディスク、ハードディスク、磁気テープ等の磁気記録媒体、メモリチップやＩＣカード等の半導体記録媒体、ＣＤ−ＲＯＭやＭＯ、ＰＤ（相変化書換型光ディスク）等の光学的に情報が読み取られる記録媒体、紙カードや紙テープ、文字認識装置を使用してプログラムを読み込むための印刷物等の用紙（および、紙に相当する機能を持った媒体）を用いた記録媒体、その他各種方法でコンピュータプログラムが記録される記録媒体が含まれる。
【００１５】
記録媒体駆動装置２３は、これらの各種記録媒体からコンピュータプログラムを読み込む他に、記録媒体がフロッピーディスクやＩＣカード等のように書き込み可能な記録媒体である場合には、ナビゲーション処理部１０やエージェント処理部１１のＲＡＭや記憶装置２９、３０のデータ等をその記録媒体に書き込むことが可能である。
例えば、ＩＣカードにエージェント機能に関する学習内容（学習項目データ、応答データ）を記憶させる、他の車両を運転する場合でもこの記憶させたＩＣカードを使用することで、自分の好みに合わせて（過去の応対の状況に応じて）学習されたエージェントとコミュニケーションすることが可能になる。これにより、車両毎のエージェントではなく、運転者に固有のエージェントを車両内に出現させることが可能になる。
【００１６】
通信制御装置２４は、各種無線通信機器からなる携帯電話が接続されるようになっている。通信制御部２４は、電話回線による通話の他、道路の混雑状況や交通規制等の交通情報に関するデータなどを提供する情報提供局との通信や、車内での通信カラオケのために使用するカラオケデータを提供する情報提供局との通信を行うことができるようになっている。
また、通信制御装置２４を介して、エージェント機能に関する学習データを送受信することも可能である。
【００１７】
音声出力装置２５は、車内に配置された複数のスピーカで構成され、音声制御部１４で制御された音声、例えば、音声による経路案内を行う場合の案内音声や、エージェントの行動にあわせた音声や音が出力されるようになっている。この音声出力装置２５は、オーディオ用のスピーカと兼用するようにしてもよい。なお、音声制御装置１４は、運転者のチューニング指示の入力に応じて、出力装置２５から出力する音声の音色やアクセント等を制御することが可能である。
マイク２６は、音声制御部１４における音声認識の対象となる音声、例えば、ナビゲーション処理における目的地等の入力音声や、エージェントとの運転者の会話（応答等）等を入出力する音声入力手段として機能する。このマイク２６は、通信カラオケ等のカラオケを行う際のマイクと兼用するようにしてもよく、また、運転者の音声を的確に収集するために指向性のある専用のマイクを使用するようにしてもよい。
音声出力装置２５とマイク２６とでハンズフリーユニットを形成させて、携帯電話を介さずに、電話通信における通話を行えるようにしてもよい。
【００１８】
表示装置２７には、ナビゲーション処理部１０の処理による経路案内用の道路地図や各種画像情報が表示されたり、エージェント処理部１１によるエージェントの各種行動（動画）が表示されたりするようになっている。また、撮像装置２８で撮像された車両内外の画像も画像処理部１３で処理された後に表示されるようになっている。
表示装置２７は、液晶表示装置、ＣＲＴ等の各種表示装置が使用される。
なお、この表示装置５は、例えばタッチパネル等の、前記入力装置２としての機能を兼ね備えたものとすることができる。
【００１９】
撮像装置２８は、画像を撮像するためのＣＣＤ（電荷結合素子）を備えたカメラで構成されており、運転者を撮像する車内カメラの他、車両前方、後方、右側方、左側方を撮像する各車外カメラが配置されている。撮像装置２８の各カメラにより撮像された画像は、画像処理部１３に供給され、画像認識等の処理が行われ、各認識結果をエージェント処理部１１によるプログラム番号の決定に使用するようになっている。
【００２０】
エージェントデータ記憶装置２９は、本実施形態によるエージェント機能を実現するために必要な各種データ（プログラムを含む）が格納される記憶装置である。このエージェントデータ記憶装置２９には、例えば、フロッピーディスク、ハードディスク、ＣＤ−ＲＯＭ、光ディスク、磁気テープ、ＩＣカード、光カード等の各種記録媒体と、その駆動装置が使用される。
この場合、例えば、学習項目データ２９２と応答データを持ち運びが容易なＩＣカードやフロッピーディスクで構成し、その他のデータをハードディスクで構成するというように、複数種類の異なる記録媒体と駆動装置で構成し、駆動装置としてそれらの駆動装置を用いるようにしてもよい。
【００２１】
エージェントデータ記憶装置２９には、エージェントプログラム２９０、プログラム選択テーブル２９１、学習項目データ２９２、応答データ、図４に例示したエージェントの容姿や行動を画像表示するための画像データ２９４、その他のデータが格納されている。
学習項目データ２９２及び応答データ２９３は、運転者の運転操作や応答によってエージェントが学習した結果を格納するデータである。従って、学習項目データ２９２と応答データ２９３は、各運転者毎にそのデータが格納・更新（学習）されるようになっている。
画像データ２９４に格納される容姿としては、人間（男性、女性）的な容姿である必要はなく、例えば、ひよこや犬、猫、カエル、ネズミ等の動物自体の容姿や人間的に図案化（イラスト化）した動物の容姿であってもよく、更にロボット的な容姿や、特定のキャラクタの容姿等であってもよい。またエージェントの年齢としても一定である必要がなく、エージェントの学習機能として、最初は子供の容姿とし、時間の経過と共に成長していき容姿が変化していく（大人の容姿に変化し、更に老人の容姿に変化していく）ようにしてもよい。画像データ２９４には、これらの各種エージェントの容姿の画像が格納されており、運転者の好みによって入力装置２２等から選択することができるようになっている。
【００２２】
エージェントプログラム２９０には、エージェント機能を実現するためのエージェント処理プログラムや、エージェントと運転者とがコミュニケーションする場合の細かな行動を表示装置２７に画像表示すると共にその行動に対応した会話を音声出力装置２５から出力するためのコミュニケーションプログラムがプログラム番号順に格納されている。
このエージェントプログラム２９０には、各プログラム番号の音声に対して復習種類の音声データが格納されており、運転者は前記エージェントの容姿の選択と併せて音声を入力装置２２等から選択することがができるようになっている。エージェントの音声としては、男性の音声、女性の音声、子供の音声、機械的な音声、動物的な音声、特定の声優や俳優の音声、特定のキャラクタの音声等があり、これらの中から適宜運転者が選択する。なお、この音声と前記容姿の選択は、適時変更することが可能である。
【００２３】
プログラム選択テーブル２９１は、エージェントプログラム２９０に格納されているコミュニケーションプログラムを選択するためのテーブルである。
図２はプログラム選択テーブル２９１を表したものであり、図３はプログラム選択テーブル２９１で選択される各プログラム番号に対応した、エージェントの行為（行動と発声）内容を表したものである。
この図２、図３で示されているプログラム番号は、エージェントプログラム２９０に格納されている各コミュニケーションプログラムの番号と一致している。
【００２４】
図４は、図２、図３のプログラム番号００００１〜００００２により表示装置２７に表示されるエージェントの「かしこまってお辞儀」行動についての数画面を表したものである。
この図４に示されるように、エージェントＥは、口元を引き締めると共に手を膝に当てながら、お辞儀をすることでかしこまったお辞儀であることが表現されている。この行動と共にエージェントＥが話す言葉（発声）は、車両状況や学習状況等によって変えられる。
【００２５】
エンジンの冷却水温度が低い場合には、エンジンの調子に合わせて行動「眠そうに…」が選択される。眠そうな表現として、瞼が下がった表情にしたり、あくびや伸びをした後に所定の行動（お辞儀等）をしたり、最初に目をこすったり、動きや発声を通常よりもゆっくりさせたりすることで表すことができる。これらの眠そうな表現は、常に同一にするのではなく、行動回数等を学習することで適宜表現を変更する。
例えば、３回に１回は目をこすり（Ａ行動）、１０回に１回はあくびをするようにし（Ｂ行動）、それ以外では瞼を下がった表情（Ｃ行動）にする。これらの変化は、行動Ｂや行動Ｃの付加プログラムを行動Ａの基本プログラムに組み合わせることで実現される。そして、どの行動を組み合わせるかについては、基本となる行動Ａのプログラム実行回数を学習項目として計数しておき、回数に応じて付加プログラムを組み合わせるようにする。
また、行動「元気よく」を表現する場合には、音声の抑揚を大きくしたり、エージェントＥを走りながら画面に登場させたりすることで表現する。
【００２６】
図２に表示された各項目は各、プログラム番号を選択するための選択条件を表したもので、状態センサ４０により検出される車両や運転者の各種状況から決定される項目（時間、起動場所、冷却水温等）と、学習項目データ２９２や応答データ２９３に格納されている学習内容から決定される項目（今日のＩＧＯＮ回数、前回終了時からの経過時間、通算起動回数等）がある。
プログラム選択テーブル中で、これら全項目を満足するプログラムは必ず一義的に決定するようになっている。なお、テーブル中で「○」印は、そのプログラム番号が選択されるために満たす必要がある項目を示し、「ー」印はそのプログラムの選択には考慮されない項目を示している。
【００２７】
図２、図３では、イグニッションをＯＮにした場合のコミュニケーション（挨拶）に関連する行為と選択条件について記載しているが、その他各種行為（行動と発声）を規定するプログラムを選択するためのプログラム番号と選択条件も種々規定されている。
例えば、急ブレーキが踏まれたことを条件として、エージェントが「しりもち」をついたり、「たたら」を踏んだりする行動とったり、驚き声をだすようなプログラムも規定されている。エージェントによる各行動の選択は急ブレーキに対する学習によって変化するようにし、例えば、最初の急ブレーキから３回目までは「しりもち」をつき、４回目から１０回目までは「たたら」を踏み、１０回目以降は「片足を一歩前にだすだけで踏ん張る」行動を取るようにし、エージェントが急ブレーキに対して段階的に慣れるようにする。そして、最後の急ブレーキから１週間の間隔があいた場合には、１段階後退するようにする。
【００２８】
図１における、学習項目データ２９２と応答データ２９３は共にエージェントの学習により格納、更新されるデータであり、その内容がそれぞれ図５、図６に概念的に示されている。
学習項目データ２９２には、図５に示されるように、プログラム選択テーブル２９１（図２）の選択条件を決定する通算起動回数、前回終了日時、今日のイグニッションＯＮ回数、前５回の給油時残量等が格納され、選択条件により選択されたプログラムを起動するか否か（お休みするか否か）を決定するためのお休み回数／日時、デフォルト値、その他のデータが格納される。
【００２９】
通算起動回数には、イグニッションを起動した通算回数が格納され、イグニッションがＯＮされる毎にカウントアップされる。
前回終了日時には、イグニッションをＯＦＦにする毎にその日時が格納される。
今日のイグニッションＯＮ回数には、その日におけるイグニッションＯＮの回数と、１日の終了時間が格納される。イグニッションがＯＮされる毎にカウントアップされるが、１日が終了するとデータが”０”に初期化される。１日の終了時間はデフォルト値として２４：００が格納されている、この時間はユーザ（運転者）の生活パターンによって変更することが可能である。時間が変更された場合には、変更後の時間が格納される。
【００３０】
前５回の給油残量には、燃料（ガソリン）を給油する直前に検出された燃料の残量が格納され、新たに給油される毎に各データが左側にシフトされ（最も古い最左のデータが削除される）今回給油直前の残量が一番右側に格納される。
このデータは、後述する燃料検出センサ４１５の検出値Ｇ１が、全５回分の給油残量の平均値Ｇ２以下（Ｇ１≦Ｇ２）になった場合に、エージェントＥが表示装置２７に現れて給油を促す行動が表示装置２７に表示され、「おなかが減ったなあ！ガソリンがほしいな！」等の音声が音声出力装置２５から出力される。
【００３１】
お休み回数／日時には、該当するコミュニケーションプログラムが選択されたとしても実行せずにお休みした回数等が各プログラム番号毎に格納される。このお休み回数／日時は、例えば後述するエアコンの停止を提案するエージェントの行為（プログラム番号００１２３）のように、学習項目としてお休み項目が設定されているエージェント行為について格納される。
エージェントの提案や会話に対する運転者の応答が、拒否（拒絶）であった場合や無視（又は無応答）であった場合、コミュニケーションプログラムに応じて選択的に「お休み」が設定される。
【００３２】
デフォルト値には、時間、回数、温度、車速、日時等の各項目に対する初期設定値が格納されており、前記した１日の終了時間のように学習項目の中で変更された値を初期値に戻す場合に使用される。
学習項目データ２９２に格納されるその他のデータとしては、例えば、運転者やその関係者の誕生日（これはユーザ入力項目である）、祭日とその言われ、クリスマス、バレンタインデー、ホワイトデー等のイベント日などが格納される。各イベント日に応じた特別メニューのコミュニケーションプログラムも用意されており、例えば、クリスマスイブにはサンタクロースに変装したエージェントが現れる。
【００３３】
図６の応答データ２９３には、エージェントの行為に対するユーザの応答の履歴が、ユーザ応答を学習項目とする各コミュニケーションプログラム番号毎に格納される。ユーザ応答データは、図６（Ａ）のコミュニケーションプログラム番号００１２３、１２５のように最新の応答日時と応答内容が所定回分（プログラム番号００１２３は２回分）格納されるものと、プログラム番号００１２４のように最新の応答内容のみが１回分格納される（従って応答がある毎に更新される。）ものと、最新の応答内容のみが所定回分格納されるものと、最新の日時と応答内容が一回分格納されるものと、最新の日時だけが１回分または所定回分格納されるもの等がある。
図６（Ａ）中に表示された記号Ａ、Ｂ、Ｃは応答内容を表すもので、同図（Ｂ）に示すように、記号Ａが無視された場合、記号Ｂが拒絶された場合、記号Ｃが受容された場合を表す。運転者の応答内容については、マイク２６から入力される運転者の音声に対する音声認識の結果や、入力装置による入力結果から判断される。
なお、本実施形態では運転者の応答を無視、拒絶、受容の３パターに分類しているが、「強く拒絶」、「怒られた」、「喜ばれてた」を新たに加えるようにしてもよい。この場合、新たに加えた応答により、学習項目データ２９２（例えば、お休み回数等）や応答データ２９３のを追加変更する。
【００３４】
図７は、ナビゲーションデータ記憶装置３０（図１）に格納されるデータファイルの内容を表したものである。
図７に示されるように、ナビゲーションデータ記憶装置３０には経路案内等で使用される各種データファイルとして、通信地域データファイル３０１、描画地図データファイル３０２、交差点データファイル３０３、ノードデータファイル３０４、道路データファイル３０５、探索データファイル３０６、写真データファイル３０７が格納されるようになっている。
このナビゲーションデータ記憶装置４は、例えば、フロッピーディスク、ハードディスク、ＣＤ−ＲＯＭ、光ディスク、磁気テープ、ＩＣカード、光カード等の各種記録媒体と、その駆動装置が使用される。
なお、ナビゲーションデータ記憶装置４は、複数種類の異なる記録媒体と駆動装置で構成するようにしてもよい。例えば、検索データファイル４６を読み書き可能な記録媒体（例えば、フラッシュメモリ等）で、その他のファイルをＣＤ−ＲＯＭで構成し、駆動装置としてそれらの駆動装置を用いるようにする。
【００３５】
通信地域データファイル３０１には、通信制御装置２４に接続され又は無接続で車内において使用される携帯電話が、車内から通信できる地域を表示装置５に表示したり、その通信できる地域を経路探索の際に使用するための通信地域データが、携帯電話のタイプ別に格納されている。この携帯電話のタイプ別の各通信地域データには、検索しやすいように番号が付されて管理され、その通信可能な地域は、閉曲線で囲まれる内側により表現できるので、その閉曲線を短い線分に分割してその屈曲点の位置データによって特定する。なお、通信地域データは、通信可能地を大小各種の四角形エリアに分割し、対角関係にある２点の座標データによりデータ化するようにしてもよい。
通信地域データファイル３０１に格納される内容は、携帯電話の使用可能な地域の拡大や縮小に伴って、更新できるのが望ましく、このために、携帯電話と通信制御装置２４を使用することにより、情報提供局との間で通信を行なって、通信地域データファイル３０１の内容を最新のデータと更新できるように構成されている。なお、通信地域データファイル３０１をフロッピーディスク、ＩＣカード等で構成し、最新のデータと書換えを行うようにしても良い。
描画地図データファイル３０２には、表示装置２７に描画される描画地図データが格納されている。この描画地図データは、階層化された地図、例えば最上位層から日本、関東地方、東京、神田といった階層ごとの地図データが格納されている。各階層の地図データは、それぞれ地図コードが付されている。
【００３６】
交差点データファイル３０３には、各交差点を特定する交差点番号、交差点名、交差点の座標（緯度と経度）、その交差点が始点や終点になっている道路の番号、および信号の有無などが交差点データとして格納されている。
ノードデータファイル３０４には、各道路における各地点の座標を指定する緯度、経度などの情報からなるノードデータが格納されている。すなわち、このノードデータは、道路上の一地点に関するデータであり、ノード間を接続するものをアークと呼ぶと、複数のノード列のそれぞれの間をアークで接続することによって表現される。
道路データファイル３０５には、各道路を特定する道路番号、始点や終点となる交差点番号、同じ始点や終点を持つ道路の番号、道路の太さ、進入禁止等の禁止情報、後述の写真データの写真番号などが格納されている。
交差点データファイル３０３、ノードデータファイル３０４、道路データファイル３０５にそれぞれ格納された交差点データ、ノードデータ、道路データからなる道路網データは、経路探索に使用される。
【００３７】
探索データファイル３０６には、経路探索により生成された経路を構成する交差点列データ、ノード列データなどが格納されている。交差点列データは、交差点名、交差点番号、その交差点の特徴的風景を写した写真番号、曲がる角、距離等の情報からなる。また、ノード列データは、そのノードの位置を表す東経、北緯などの情報からなる。
写真データファイル３０７には、各交差点や直進中に見える特徴的な風景等を撮影した写真が、その写真番号と対応してディジタル、アナログ、またはネガフィルムの形式で格納されている。
【００３８】
図８は、状況センサ部４０を構成する各種センサを表したものである。
図８に示すように状況センサ部４０は、イグニッションセンサ４０１、車速センサ４０２、アクセルセンサ４０３、ブレーキセンサ４０４、サイドブレーキ検出センサ４０５、シフト位置検出センサ４０６、ウィンカー検出センサ４０７、ワイパー検出センサ４０８、ライト検出センサ４０９、シートベルト検出センサ４１０、ドア開閉検出センサ４１１、同乗者検出センサ４１２、室内温度検出センサ４１３、室外温度検出センサ４１４、燃料検出センサ４１５、水温検出センサ４１６、ＡＢＳ検出センサ４１７、エアコンセンサ４１８、体重センサ４１９、前車間距離センサ４２０、後車間距離センサ４２１、体温センサ４２２、心拍数センサ４２３、発汗センサ４２４、脳波センサ４２５、アイトレーサー４２６、赤外線センサ４２７、その他のセンサ（タイヤの空気圧低下検出センサ、ベルト類のゆるみ検出センサ、窓の開閉状態センサ、クラクションセンサ、室内湿度センサ、室外湿度センサ、油温検出センサ、油圧検出センサ等）４２８等の車両状況や運転者状況、車内状況等を検出する各種センサを備えている。
これら各種センサは、それぞれのセンシング目的に応じた所定の位置に配置されている。
なお、これらの各センサは独立したセンサとして存在しない場合には、他のセンサ検出信号から間接的にセンシングする場合を含む。例えば、タイヤの空気圧低下検出センサは、車輪速センサの信号の変動により間接的に空気圧の低下を検出する。
【００３９】
イグニッションセンサ４０１は、イグニッションのＯＮとＯＦＦを検出する。車速センサ４０２は、例えば、スピードメータケーブルの回転角速度又は回転数を検出して車速を算出するもの等、従来より公知の車速センサを特に制限なく用いることができる。
アクセルセンサ４０３は、アクセルペダルの踏み込み量を検出する。
ブレーキセンサ４０４は、ブレーキの踏み込み量を検出したり、踏み込み力や踏む込む速度等から急ブレーキがかけられたか否かを検出する。
サイドブレーキ検出センサ４０５は、サイドブレーキがかけられているか否かを検出する。
シフト位置検出センサ４０６は、シフトレバー位置を検出する。
ウィンカー検出センサ４０７は、ウィンカの点滅させている方向を検出する。
ワイパー検出センサ４０８は、ワイパーの駆動状態（速度等）を検出する。
ライト検出センサ４０９は、ヘッドランプ、テールランプ、フォグランプ、ルームランプ等の各ランプの点灯状態を検出する。
シートベルト検出センサ４１０は、運転者、及び同乗者（補助席、後部座席）がシートベルトを着用しているか否かを検出する。着用していない場合には適宜（嫌われない程度に）エージェントが現れ、警告、注意、コメント等（学習により程度を変更する）を行う。
【００４０】
ドア開閉検出センサ４１１は、ドアの開閉状態を検出し、いわゆる半ドアの場合には、エージェントがその旨を知らせる。ドア開閉検出センサ４１１は、運転席ドア、助手席ドア、後部運転席側ドア、後部助手席側ドア等の、車種に応じた各ドア毎の開閉を検出できるようになっている。
同乗者検出センサ４１２は、助手席や後部座席に同乗者が乗っているか否かを検出するセンサで、撮像装置２８で撮像された車内の画像から検出し、または、補助席等に配置された圧力センサや、体重計により検出する。
室内温度検出センサ４１３は室内の気温を検出し、室外温度検出センサ４１４は車両外の気温を検出する。
燃料検出センサ４１５は、ガソリン、軽油等の燃料の残量を検出する。給油時直前における過去５回分の検出値が学習項目データ２９２に格納され、その平均値になった場合にエージェントが給油時期であることを知らせる。
【００４１】
水温検出センサ４１６は、冷却水の温度を検出する。イグニッションＯＮ直後において、この検出温度が低い場合には、エージェントが眠そうな行為をする場合が多い。逆に水温が高すぎる場合にはオーバーヒートする前に、エージェントが「だるそう」な行動と共にその旨を知らせる。
ＡＢＳ検出センサ４１７は、急ブレーキによるタイヤのロックを防止し操縦性と車両安定性を確保するＡＢＳが作動したか否かを検出する。
エアコンセンサ４１８は、エアコンの操作状態を検出する。例えば、エアコンのＯＮ・ＯＦＦ、設定温度、風量等が検出される。
体重センサ４１９は、運転者の体重を検出するセンサである。この体重から、または、体重と撮像装置２８の画像から運転者を特定し、その運転者との関係で学習したエージェントを出現させるようにする。すなわち、特定した運転者に対してエージェントが学習した、学習項目データ２９２と応答データ２９３を使用することで、その運転者専用のエージェントを出現させるようにする。
前車間距離センサ４２０は車両前方の他車両や障害物との距離を検出し、後車間距離センサ４２１は後方の他車両や障害物との距離を検出する。
【００４２】
体温センサ４２２は、心拍数センサ４２３、発汗センサ４２４は、それぞれ運転者の体温、心拍数、発汗状態を検出するセンサで、例えば、ハンドル表面に各センサを配置し運転者の手の状態から検出する。または、体温センサ４２２として、赤外線検出素子を使用したサーモグラフィーにより運転者の各部の温度分布を検出するようにしても良い。
脳波センサ４２５は、運転者の脳波を検出するセンサで、例えばα波やβ波等を検出して運転者の覚醒状態等を調べる。
アイトレーサー４２６は、ユーザの視線の動きを検出し、通常運転中、車外の目的物を捜している、車内目的物をさがしている、覚醒状態等を判断する。
赤外線センサ４２７は、ユーザの手の動きや顔の動きを検出する。
【００４３】
次に、以上のように構成された本実施形態の動作について説明する。
図９は本実施形態によるエージェント処理のメイン動作を表したフローチャートである。
エージェント処理部１１は、イグニッションがＯＮされたことがイグニッションセンサ４０１で検出されると、まず最初に初期設定を行う（ステップ１１）。初期設定としては、ＲＡＭのクリア、各処理用のワークエリアをＲＡＭに設定、プログラム選択テーブル２９１（図２）のＲＡＭへのロード、フラグの０設定、等の処理が行われる。なお、本実施形態のエージェント処理では、その処理の開始をイグニッションＯＮとしたが、例えばドア開閉検出センサ４１１によりいずれかのドアの開閉が検出された場合に処理を開始するようにしてもよい。
【００４４】
次にエージェント処理部１１は、状況情報処理部１５に状況センサ部４０の各センサから供給される検出値や、撮像装置２８で撮像した画像の処理結果や、現在位置検出装置２１で検出した車両の現在位置等のデータを取得して、ＲＡＭの所定エリアに格納し、格納したデータから現在状況の把握を行う（ステップ１２）。例えば、水温検出センサ４１６で検出された冷却水の温度がｔ１である場合、エージェント処理部１１は、この温度ｔ１をＲＡＭに格納すると共に、ｔ１が所定の閾値ｔ２以下であれば、車両の現在の状態として冷却水温（図２参照）は低い状態であると把握する。
現在の状況としては、他にマイク２６からの入力に基づいて音声認識した運転者の要求、例えば、「○○○番に電話をしてくれ。」や「この辺のレストランを表示してくれ」や「ＣＤをかけてくれ」等の要求も現在の状況として把握される。この場合、認識した音声に含まれるワード「ＣＤ」「かけて」等がプログラム選択テーブル２９１（図２）の選択条件（横軸項目）になる。
【００４５】
さらにエージェント処理部１１は、エージェントデータ記憶装置２９の学習項目データ２９２と応答データ２９３をチェックすることで、エージェントがこれまでに学習してきた状態（学習データ）を把握する（ステップ１３）。
【００４６】
エージェント処理部１１は、把握した現在状態とチェックした学習データとから、図２に示したプログラム選択テーブル２９１から、現在の状態で起動可能なコミュニケーションプログラム（の番号）があるか否かを判断し、該当プログラムが無ければ（ステップ１４；Ｎ）、ステップ１２に戻って新たな状態を把握する。
一方、起動可能なコミュニケーションプログラムがある場合（ステップ１４；Ｙ）、そのプログラム番号を決定する。そして、決定したプログラム番号に対する運転者の応答履歴を応答データ２９３から確認し、当該プログラム番号のコミュニケーションプログラムの起動を、お休みすべき状態か否かを確認する（ステップ１５）。
【００４７】
お休み状態ではない場合（ステップ１５；Ｎ）、エージェント処理部１１は、決定したプログラム番号に対応するコミュニケーションプログラムを起動することで、図４に示された各エージェントの行為（行動と音声）に従った画像を表示装置２７に表示すると共に、音声出力装置２５から音声出力する（ステップ１６）。これによって、現在の車両や運転者等の状況からだけでなく、過去の状況や応答にたいする学習結果を反映させたエージェントとのコミュニケーションが可能になる。
【００４８】
そしてエージェント処理部１１は、コミュニケーションプログラムの起動によるエージェント行為に対する運転者の応答を、マイク２６からの入力に基づく音声認識結果や、入力装置２２からの入力結果から取得する（ステップ１７）。
次にエージェント処理部１１は、ステップ１６で起動したコミュニケーションプログラムが制御対象プログラムか否かを判断する（ステップ１８）。ここで制御対象プログラムか否かは各プログラム毎に規定されており、例として、「ラジオの電源を入れましょうか？」や、お昼時にお腹が鳴る音を検出した場合に「食堂の案内をしましょうか？」といったように、エージェントが処理可能な行為の提案をする場合のコミュニケーションプログラム等が制御対象プログラムとして規定されている。
【００４９】
制御対象プログラムでない場合（ステップ１８；Ｎ）にはステップ２０に移行し、制御対象プログラムである場合（ステップ１８；Ｙ）、ステップ１７で取得した運転者の応答に応じた制御を行う（ステップ１９）。例えば、上記ラジオの電源を入れる提案コミュニケーションに対して、「入れて」「ＯＫ」「はい」等の提案を受容する応答が認識された場合であれば、エージェント処理部１１は応答に応じた制御として、エージェントに返事をする行為（行為と音声）をさせると共にラジオの電源をＯＮにする。
【００５０】
そして、エージェント処理部１１は、今回のコミュニケーションプログラムに関するデータを蓄積することで、エージェントに学習をさせる（ステップ２０）。
データの蓄積としては、例えば、コミュニケーションプログラムの起動がお休みである場合には（ステップ１５；Ｙ）、学習項目データ２９２の該当プログラム番号の回数欄をカウントアップさせる。ただし、学習項目データ２９２のお休み回数／日時欄に格納されている回数をＫａ回とし、当該プログラム番号に対する前回までの応答データ２９３の履歴から決まるお休み回数をＫｂ回とした場合、Ｋａ＝Ｋｂ−１であれば、今回のお休みで規定回数休んだことになるの。そこで、学習項目データ２９２及び応答データ２９３の当該プログラム番号欄の（該当する位置に格納されている）データをクリアする。
その他の場合（ステップ１８；Ｎの場合、ステップ１９の後）には、ステップ１２で把握した現在状況の中に学習項目があれば学習項目データ２９２の値を更新し、応答内容を履歴として格納すべきプログラム番号であればステップ１７で取得した応答内容を応答データ２９３（図７）に格納する。この応答の履歴も各プログラム番号毎に規定された所定回数分のデータが既に格納されている場合には、最も古いデータを廃棄して新しいデータを格納する。
【００５１】
以上のプログラム決定・コミュニケーション・学習の各処理が終了すると、エージェント処理部１１は、ステップ１１でＲＡＭに初期設定したフラグ領域にフラグ１が立っているか否かを確認する（ステップ２１）。
フラグが立っていない場合には（ステップ２１；Ｎ）、イグニッションセンサ４０１によりイグニッションＯＦＦが検出されたか否かを判断し（ステップ２２）、検出されていない場合（ステップ２２；Ｎ）にはステップ１２に戻って新たな状態を把握する。
一方、イグニッションＯＦＦが検出された場合（ステップ２２；Ｙ）、ＲＡＭのフラグ領域にフラグ１を立て（ステップ２３）た後にステップ１２に戻り、後処理を行う。すなわち、フラグ１を現在状況や学習データに応じたお別れの行為（行動と音声）をエージェントにさせると共に、消し忘れのライト類の消灯等の制御、及び当該後処理に対する学習（ステップ２０）の後、フラグが１なので（ステップ２１；Ｙ）、エージェント処理を終了する。
【００５２】
次に、以上説明したエージェント処理による、具体的な行為例について説明する。
図１０は、イグニッションＯＮ後における具体的なエージェント処理の内容を概念的に表したものである。
この図１０（Ａ）に示すように、エージェント処理部１１は、現在状況として、イグニッションセンサ４０１で検出された状態が「ＯＮ」、現在位置検出装置２１で検出された現在位置（緯度、経度）から求めた現在位置が「その他」（自宅、休憩場所以外）、等の状況を把握（ステップ１２）したものとする。
また、学習項目データ２９２と応答データ２９３についてチェックした学習データとしては、今日のイグニッションＯＮ回数が「２日目」前回終了日時が「１９９７．７．１２１０：０５」、通算起動回数が「３０回」であるとチェック（ステップ１３）したものとする。
【００５３】
以上の処理から、エージェント処理部１１は、プログラム選択テーブル２９１からプログラム番号００００４のコミュニケーションプログラムを選択し（ステップ１４）、お休み対象で無いことを確認（ステップ１５；Ｎ）したうえで、当該番号のコミュニケーションプログラムを起動する（ステップ１６）。
プログラム番号００００４のコミュニケーションプログラムの起動により、図３に示すエージェント行為（行動と発声）が、図１０（Ｂ）に示すように、行われる。すなわち、表示装置２７にはエージェントが図４に示すように「かしこまってお辞儀」をする連続行動の画像が複数枚表示（または動画が表示）されると共に、音声出力装置２５からは「また私、リサが御供いたします。よろしくお願いします。」といった音声が出力される。
【００５４】
プログラム番号００００４は制御対象プログラムではないので（ステップ１８；Ｎ）、ステップ１９をとばし、エージェントの学習として図１０（Ｃ）に示すように、学習項目データ２９２の今日のイグニッションＯＮ回数を２回から３回に変更すると共に、通算起動回数を３０回から３１回に変更する（ステップ２０）。その後フラグ＝１でなく（イグニッションＯＮしたのちなので通常はフラグ＝０）、イグニッションＯＦＦでもなければ（ステップ２１；Ｎ、２２；Ｎ）、ステップ１２に戻りその後のコミュニケーションを継続する。
【００５５】
以上の学習により、学習項目データ２９２に格納されている通算起動回数が３１回以上になる。従ってそれ以後は、全学習データ（学習項目データ２９２と応答データ２９３）を初期化しない限り、コミュニケーションプログラム００００１〜００００６が選択されることはない。以後イグニッションＯＮの通算回数が３００回になるまで、プログラム番号００００７〜０００１９のいずれかのコミュニケーションプログラムが選択される。すなわち、エージェントは「かしこまってお辞儀」を行わず、冷却水温が高ければ通常の「お辞儀」、低ければ「眠そうにお辞儀」をする。その際の音声は、起動場所やその日のＩＧＯＮ回数等により選択されるプログラム番号によって変化する
【００５６】
図１１は、車両走行中における具体的なエージェント処理の内容を概念的に表したものである。
この図１１（Ａ）に示すように、エージェント処理部１１は、現在状況として、エアコンセンサ４１８で検出された状態が「ＯＮ」、室内温度検出センサ４１３と室外温度検出センサ４１４で検出された室温Ｔ１と室外温Ｔ２を取得する。また、各プログラム番号の応答データ２９３をチェックすることで、プログラム番号０１２３に対する前２回の運転者応答がＣ（受容）なので、閾値Ｔ３、Ｔ４の値としてデフォルト値（Ｔ３＝２度、Ｔ４＝２４度）が学習項目データ２９２から読み出される。
この閾値Ｔ３とＴ４とから、室温と室外温の関係、（Ｔ１−Ｔ２）≦Ｔ３が「Ｙｅｓ」、室外温Ｔ２と閾値Ｔ４との関係Ｔ２≦Ｔ４が「Ｙｅｓ」、等の状況が最終的に把握される（図１１（Ａ））。
【００５７】
以上の処理から、エージェント処理部１１は、プログラム選択テーブル２９１からプログラム番号００１２３のコミュニケーションプログラムを最終的に選択し（ステップ１４）、お休み対象で無いことを確認（ステップ１５；Ｎ）したうえで、当該番号のコミュニケーションプログラムを起動する（ステップ１６）。
プログラム番号００１２３のコミュニケーションプログラムの起動により、
図１１（Ｂ）に示すような行為をエージェントがする。すなわち、表示装置２７にはエージェントが現れてほほえむ連続動作の画像が複数枚表示（または動画が表示）されると共に、音声出力装置２５からは「外は涼しくなりましたよ。外気を入れてみませんか？」といった音声が出力される。
【００５８】
このエージェントのコミュニケーションに対する運転者の応答を取得する（ステップ１７）。
そして、プログラム番号００１２３は制御対象プログラムなので（ステップ１８；Ｙ）、受容であれば応答に応じた制御としてエアコンの電源をＯＦＦにすると共に、運転席側と助手席側の窓を１／２だけ開ける制御を行う（ステップ１９）。
応答に応じた制御の後、エージェント処理部１１は、エージェントの学習として、図１１（Ｃ）に示すように、運転者の応答が無視であればＡ、拒絶であればＢ、受容であればＣを、応答日時と共にプログラム番号０１２３に対応する応答データ２９３に格納する。この場合、前々回の応答データが削除され、前回の応答と今回の応答が応答データ２９３の格納内容になる。
そして、格納した応答内容が無視Ａであれば、次回の閾値Ｔ３、Ｔ４は１度づつ下げた値（Ｔ３−１＝１度、Ｔ４−１＝２３度）が使用され、１回休むことになる。格納した応答内容が拒絶Ｂであれば、次回の閾値Ｔ３、Ｔ４は１度づつ下げた値（Ｔ３−１＝１度、Ｔ４−１＝２３度）が使用され、５回休むことになる。なお、１回休む場合の閾値としては下げた後の温度Ｔ３＝Ｔ３−１、Ｔ４＝Ｔ４−１が使用される。
格納した応答内容が受容Ｃであれば、前回使用した閾値Ｔ３、Ｔ４と同一の値が使用される。
【００５９】
なお、エージェントの提案コミュニケーションに対する受容応答により、運転席側と助手席側の窓を１／２だけ開ける制御について説明したが、この窓を開ける位置と量についてもエージェントの学習対象とし、次回の窓開閉制御に対する学習とするようにしてもよい。例えば、運転者の「開けすぎだよ」、「もう少し締めて」、「後ろも開けてよ」等の応答を、図１１（Ａ）の状況に対する固有のデータではなく、窓開閉に関して運転者の好みを表す一般的なデータとして応答データ２９３に格納しておく。この場合のデフォルト値としては、例えば、開対象窓と開放量；運転席側窓１／２、助手席側窓１／２とする。なお、運転者の応答が「後ろもあ開けてよ」であった場合、この応答（音声認識結果）が現在の状況として把握（ステップ１２）され、コミュニケーションプログラムの起動（ステップ１６）によりエージェントの行為と共に、後ろの窓も開放する。
【００６０】
以上説明したように本実施形態によれば、過去の種々の状況を学習し、この学習内容に応じて現在の車両や運転者に関する状況に適したコミュニケーション行為をエージェントが行うので、運転者は車内で飽きることなく運転することができる。
また運転者は、エージェントに対して怒ったり、笑ったり、相談したりでき、またエージェントから積極的になされる提案に対してもその時々の気分で応答することができる。そして、これらの運転者の行為を適切に判断、学習してエージェントがコミュニケーションをとるので、エージェントに対して親しみを感じ、その車両に対する愛着を増すことができる。
【００６１】
【発明の効果】
本発明のコミュニケーション機能を備えた車両によれば、学習手段による学習結果と状況判断手段により判断された現在の状況とから擬人化されたエージェントの行為を決定し、エージェント出現手段により出現されるエージェントに行わせるようにしたので、擬人化されたエージェントが状況に合わせて適切に行為し、運転者とのコミュニケーションをはかることができる。
従って、運転者はエージェントとの会話をしたり、エージェントに窓の開閉、ＣＤやラジオの制御、走行道路や施設の詳細な案内といった各種の制御をしてもらうことができ、車内での運転環境を快適にすることができる。
【図面の簡単な説明】
【図１】本発明の１実施形態におけるコミュニケーション機能を実現するための構成を示すブロック図である。
【図２】同上、実施形態におるプログラム選択テーブルの内容を概念的にあらわした説明図である。
【図３】同上、実施形態において、各プログラム番号に対応するエージェントの行為（行動と音声）を表した説明図である。
【図４】同上、実施形態におけるプログラム番号００００１〜００００２の起動により表示装置に表示されるエージェントの「かしこまってお辞儀」行動についての数画面を表した説明図である。
【図５】同上、実施形態における学習項目データの内容を概念的に表した説明図である。
【図６】同上、実施形態における応答データの内容を概念的に表した説明図である。
【図７】同上、実施形態におけるナビゲーションデータ記憶装置に格納されるデータファイルの内容を概念的に表した説明図である。
【図８】同上、実施形態における状況センサ部を構成する各種センサを表した説明図である。
【図９】同上、実施形態によるエージェント処理のメイン動作を表したフローチャートである。
【図１０】同上、実施形態において、イグニッションＯＮ後における具体的なエージェント処理の内容を概念的に表した説明図である。
【図１１】同上、実施形態において、車両走行中における具体的なエージェント処理の内容を概念的に表したものである。
【符号の説明】
１全体処理部
１０ナビゲーション処理部
１１エージェント処理部
１２Ｉ／Ｆ部
１３画像処理部
１４音声制御部
１５状況情報処理部
２１現在位置検出装置
２２入力装置
２３記憶媒体駆動装置
２４通信制御装置
２５音声出力装置
２６マイク
２７表示装置
２８撮像装置
２９エージェントデータ記憶装置
３０ナビゲーションデータ記憶装置
４０状況センサ部[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an agent device, and more particularly, to an agent device having a communication function that enables conversation within a vehicle with an anthropomorphic agent.
[0002]
[Prior art]
Conventionally, a radio and a cassette tape player are installed in a vehicle as a means for improving a driving environment by a driver.
In addition, there is a vehicle in which a traveling environment is improved by enjoying a conversation with an acquaintance outside the vehicle using a wireless communication device such as an amateur radio or a mobile phone mounted on the vehicle.
[0003]
[Problems to be solved by the invention]
As described above, the radio or the like in the conventional vehicle only provides one-way information presentation to the driver, and cannot perform a two-way conversation or the like.
On the other hand, in the case of using a mobile phone or the like, it is possible to talk, but it has been necessary to search for the other party by waiting for a call or dialing. Even if the other party was found, it did not give an appropriate conversation tailored to the driver's one-sided circumstances such as vehicle conditions.
In this way, conventional vehicles do not have anthropomorphized agents depending on the history of the vehicle, such as the past state of the vehicle, or the driver's state, so the vehicle is a vehicle that is simply not attached to the vehicle. In some cases, it only had a role.
[0004]
Japanese Patent Laid-Open No. 9-102098 discloses a technique for transmitting information to the driver by human facial expressions and actions.
However, the technique described in this publication does not change the display depending on the history of the driver's response in the past, and always displays the same when the same situation occurs. That is, the same display is always performed for a limited sensor output, and it should fall within the category of conventional instruments with improved visibility.
[0005]
The present invention is a vehicle in which an agent anthropomorphized from a learning result based on the past history or the like as well as the current vehicle / driver situation can act in accordance with the situation and communicate with the driver. The purpose is to provide.
[0006]
[Means for Solving the Problems]
According to the first aspect of the present invention, agent display means for displaying an anthropomorphic agent in the vehicle, and at least one of the current position of the vehicle, the status of each part of the vehicle, and the environment outside the vehicle is detected as the status of the vehicle. From the learning result by the learning means and the vehicle situation detected by the situation detection means, the learning means that learns by storing the situation of the vehicle detected by the situation detection means The agent apparatus is provided with an action determining means for determining an action and an agent control means for causing the agent displayed by the agent display means to perform the action determined by the action determining means, to achieve the object.
In the invention described in claim 2, agent display means for displaying an anthropomorphic agent in the vehicle, situation detection means for detecting at least one of a preset driving operation and the situation of the vehicle, and this situation The storage means for storing the situation detected by the detection means and the number of times of the same situation as the detected situation, and the action of the agent is determined according to the detected situation and the number of times stored in the storage means The agent device is provided with an action determining means for performing an action determined by the action determining means and an agent controlling means for causing the agent displayed by the agent display means to perform the object.
According to a third aspect of the present invention, in the agent device according to the second aspect, the situation detecting means is a current position detecting means for detecting a current position of the vehicle.
According to a fourth aspect of the present invention, in the agent device according to the second aspect, the situation detecting means is an in-vehicle sensor that detects the situation of each part of the vehicle.
According to a fifth aspect of the present invention, in the agent device according to the second aspect, the situation detecting means is a sensor that detects an environment outside the vehicle.
According to a sixth aspect of the present invention, in the agent device according to the first or second aspect, the agent is selected from a plurality of agents.
In the invention described in claim 7, in the agent device according to claim 1 or 2, Agent Agent voice output means for outputting the voice of the agent displayed by the display means is provided.
In the invention described in claim 8, in the agent device according to claim 7, Agent The voice output means outputs a voice selected from a plurality of agent voices.
Claim 9 The agent device according to claim 7 or 8, wherein the agent control means corresponds to the action determined by the action determination means, and Agent The timbre of the sound output from the sound output means is controlled.
Claim 10 In the invention described in claim 1, in the agent device according to claim 1 or 2, at least one of a driver's instruction content and a response content is stored, and the action determining means is configured to store the driver's instruction content and The agent action is determined by further using at least one of the response contents.
Claim 11 The agent device according to claim 1 or 2, further comprising a switch for inputting a driver's operation, wherein the storage means stores the time and place of the switch input, and the action The determining means determines the agent's action by further using the stored switch input time and place.
[0007]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, a preferred embodiment of the agent device of the present invention will be described in detail with reference to FIGS.
(1) Outline of the embodiment
In the agent device according to the present embodiment, an anthropomorphized agent is caused to appear in the vehicle by an image (a planar image, a stereoscopic image such as holography). Then, judgment and learning of the situation of the vehicle including the vehicle itself, the driver, the passenger, the oncoming vehicle, etc. (including not only the situation learning but also the driver's response and reaction, etc.) Based on the learning results so far, the agent responds to the driver and the vehicle with various variations (action = action and voice).
As a result, the driver can interact (communicate) with his own agent in the vehicle, and the environment in the vehicle can be made comfortable.
Here, the agent that appears in the vehicle is a subject who has been pseudo-personalized (virtual personalized) who judges and learns like a human. Therefore, even in the same vehicle situation, the content of the agent communication varies depending on the past learning content and the like. Sometimes, there is a determination error in a range not related to the traveling of the vehicle, and an unnecessary (due) response may be made due to this determination error. Based on the driver's response, it is determined whether or not there is a determination error, and learning is performed.
The image displayed as an agent does not have to be human-like, for example, the appearance of an animal itself such as a chick, a dog, a cat, a frog, or a mouse, or a human-designed (illustrated) animal. The appearance may be a robot appearance. In addition, the age of the agent does not need to be constant. The learning function of the agent is that it is initially a child's appearance and grows over time, changing its appearance (changing to the appearance of an adult, It may change to the appearance of
The appearance and voice of the agent can be selected from a plurality of appearances and voices.
[0008]
(2) Details of the embodiment
FIG. 1 is a block diagram showing the configuration of the agent device in this embodiment.
In the present embodiment, an overall processing unit 1 that controls the entire communication function is provided. This overall processing unit searches for a route to a set destination and guides by voice or image display, learns the situation of the vehicle, past responses by the driver, etc., and performs appropriate conversation and control. Agent processing unit 11 to perform, navigation processing unit 10 and I / F unit 12 to agent processing unit 11, image processing unit 13 to process image output and input image such as agent image and map image, agent voice and route guidance voice A voice control unit 14 that controls voice output and input voice and a situation information processing unit 15 that processes detection data of various situations related to the vehicle and the driver are provided.
[0009]
The navigation processing unit 10 and the agent processing unit 11 are a CPU (central processing unit) that controls data processing and operation of each unit, and a ROM, RAM, and timer connected to the CPU via a bus line such as a data bus or a control bus. Etc. Both the processing units 10 and 11 are connected to a network, and can acquire processing data of each other.
The ROM is a read-only memory in which various data and programs for controlling by the CPU are stored in advance, and the RAM is a random access memory used by the CPU as a working memory.
[0010]
In the navigation processing unit 10 and the agent processing unit 11 of the present embodiment, the CPU reads various programs stored in the ROM and executes various processes. The CPU reads a computer program from an external recording medium set in the recording medium driving device 23, and stores (installs) the computer program in an agent storage device 29, a navigation data storage device, or another storage device such as a hard disk (not shown). Alternatively, a necessary program or the like may be read from the storage device into the RAM and executed. Further, a necessary program or the like may be directly read from the recording medium driving device 23 into the RAM and executed.
[0011]
The navigation processing unit 10 is connected to a current position detection device 21 and a navigation data storage device 30, the agent processing unit 11 is connected to an agent data storage device 29, and the I / F unit 12 is connected to an input device 22 and a storage medium. A drive device 23 and a communication control device 24 are connected, a display device 27 and an imaging device 28 are connected to the image processing unit 13, a sound processing device 25 and a microphone 26 are connected to the sound control unit 14, and a situation information processing unit A status sensor unit 40 is connected to 15.
[0012]
The current position detection device 21 is for detecting the absolute position (by latitude and longitude) of the vehicle, and includes a GPS (Global Positioning System) reception device 211 that measures the position of the vehicle using an artificial satellite, A sensor 212, a steering angle sensor 213, a distance sensor 214, a beacon receiving device 215 that receives position information from beacons arranged on the road, and the like are used.
The GPS receiver 211 and the beacon receiver 215 can measure the position independently, but in a place where the GPS receiver 211 and the beacon receiver 215 cannot receive, both the direction sensor 212 and the distance sensor 214 are used. The current position is detected by dead reckoning navigation.
The azimuth sensor 212 is, for example, a geomagnetic sensor that detects the azimuth of the vehicle by detecting geomagnetism, a gyroscope such as a gas rate gyroscope or an optical fiber gyroscope that detects the rotational angular velocity of the vehicle and integrates the angular velocity to obtain the azimuth of the vehicle, A wheel sensor is used that calculates the amount of displacement in the azimuth by detecting the turning of the vehicle based on the output pulse difference (movement distance difference).
The steering angle sensor 213 detects the steering angle α using an optical rotation sensor, a rotation resistance volume, or the like attached to the rotating portion of the steering.
For the distance sensor 214, for example, various methods are used such as detecting and counting the number of rotations of the wheel, or detecting acceleration and integrating twice.
[0013]
The input device 22 is a predetermined travel environment (transmission condition) of a vehicle that is desired to transmit a request for information such as traffic information to a current location (departure point) and destination (arrival point) at the start of travel in navigation processing, and an information providing station, This is for inputting the type (model) of the mobile phone 6. The input device 22 is also a means for a driver to respond to an agent inquiry or the like according to the present embodiment.
As the input device 22, various devices such as a touch panel (functioning as a switch), a keyboard, a mouse, a light pen, a joystick, an infrared remote controller, and a voice recognition device can be used. Moreover, you may provide the receiving part which receives the remote control using infrared rays etc., and the various signals transmitted from a remote control. In addition to the joystick for moving the cursor displayed on the screen, various keys such as menu designation keys (buttons) and numeric keys are arranged on the remote control.
[0014]
The recording medium driving device 23 is a driving device used to read a computer program for the navigation processing unit 10 and the agent processing unit 11 to perform various processes from an external recording medium. The computer program recorded on the recording medium includes various programs and data.
Here, the recording medium refers to a recording medium on which a computer program is recorded. Specifically, a magnetic recording medium such as a floppy disk, a hard disk, or a magnetic tape, a semiconductor recording medium such as a memory chip or an IC card, a CD- Recording media such as ROM, MO, PD (phase change rewritable optical disc), etc., paper such as paper cards, paper tapes, printed materials for reading programs using character recognition devices (and paper) Recording medium using a medium having a corresponding function) and other recording media on which a computer program is recorded by various methods.
[0015]
In addition to reading the computer program from these various recording media, the recording medium driving device 23, when the recording medium is a writable recording medium such as a floppy disk or an IC card, performs navigation processing unit 10 and agent processing. The RAM of the unit 11 and the data of the storage devices 29 and 30 can be written to the recording medium.
For example, the learning contents (learning item data, response data) related to the agent function are stored in the IC card. Even when driving other vehicles, the stored IC card can be used according to the user's preference (past It is possible to communicate with the learned agent (depending on the response situation). This makes it possible for an agent specific to the driver to appear in the vehicle instead of the agent for each vehicle.
[0016]
The communication control device 24 is connected to a mobile phone including various wireless communication devices. The communication control unit 24 uses karaoke data used for communication with an information providing station that provides data related to traffic information such as road congestion and traffic regulations, in addition to telephone calls, and for communication karaoke in a car. It is possible to communicate with an information providing station that provides information.
It is also possible to transmit / receive learning data related to the agent function via the communication control device 24.
[0017]
The voice output device 25 is composed of a plurality of speakers arranged in the vehicle, and is controlled by the voice control unit 14, for example, guidance voice when performing route guidance by voice, voice according to the action of the agent, Sound is output. The audio output device 25 may also be used as an audio speaker. The voice control device 14 can control the timbre, accent, and the like of the voice output from the output device 25 in accordance with the driver's input of the tuning instruction.
The microphone 26 serves as voice input means for inputting / outputting voice to be recognized by the voice control unit 14, for example, input voice such as a destination in navigation processing, a driver's conversation with the agent (response, etc.), and the like. Function. The microphone 26 may be used also as a microphone for performing karaoke such as online karaoke, and a dedicated microphone having directivity is used in order to accurately collect the driver's voice. Also good.
A hands-free unit may be formed by the audio output device 25 and the microphone 26 so that a telephone call can be made without using a mobile phone.
[0018]
On the display device 27, a road map for route guidance and various image information by the processing of the navigation processing unit 10 are displayed, and various actions (moving images) of the agent by the agent processing unit 11 are displayed. . Further, images inside and outside the vehicle imaged by the imaging device 28 are also displayed after being processed by the image processing unit 13.
As the display device 27, various display devices such as a liquid crystal display device and a CRT are used.
The display device 5 may have a function as the input device 2 such as a touch panel.
[0019]
The imaging device 28 is composed of a camera equipped with a CCD (charge coupled device) for capturing an image, and images the front, rear, right side, and left side of the vehicle in addition to the in-vehicle camera that images the driver. Each outside camera is arranged. An image captured by each camera of the imaging device 28 is supplied to the image processing unit 13, and processing such as image recognition is performed, and each recognition result is used for determination of a program number by the agent processing unit 11. Yes.
[0020]
The agent data storage device 29 is a storage device that stores various data (including programs) necessary for realizing the agent function according to the present embodiment. As the agent data storage device 29, for example, various recording media such as a floppy disk, a hard disk, a CD-ROM, an optical disk, a magnetic tape, an IC card, an optical card, and a driving device thereof are used.
In this case, for example, the learning item data 292 and the response data are composed of an IC card or a floppy disk that is easy to carry, and the other data is composed of a hard disk. These drive devices may be used as the drive device.
[0021]
The agent data storage device 29 stores an agent program 290, a program selection table 291, learning item data 292, response data, image data 294 for displaying the appearance and behavior of the agent illustrated in FIG. 4, and other data. Has been.
The learning item data 292 and the response data 293 are data for storing the results learned by the agent by the driving operation and response of the driver. Therefore, the learning item data 292 and the response data 293 are stored / updated (learned) for each driver.
The appearance stored in the image data 294 does not have to be a human (male, female) appearance. For example, the appearance of an animal itself such as a chick, a dog, a cat, a frog, a mouse, or a human design ( It may be an animal's appearance (illustrated), or may be a robot-like appearance or a specific character's appearance. In addition, the age of the agent does not need to be constant. The learning function of the agent is that it is initially a child's appearance and grows over time, changing its appearance (changing to the appearance of an adult, It may change to the appearance of The image data 294 stores images of the appearances of these various agents, and can be selected from the input device 22 or the like according to the driver's preference.
[0022]
In the agent program 290, an agent processing program for realizing the agent function, and detailed actions when the agent and the driver communicate with each other are displayed on the display device 27 and a conversation corresponding to the action is displayed as a voice output device. Communication programs to be output from 25 are stored in the order of program numbers.
The agent program 290 stores review type audio data for the audio of each program number, and the driver may select the audio from the input device 22 or the like together with the selection of the appearance of the agent. It can be done. Agent voices include male voices, female voices, child voices, mechanical voices, animal voices, voices of specific voice actors and actors, voices of specific characters, etc. The driver chooses. The selection of the voice and the appearance can be changed as appropriate.
[0023]
The program selection table 291 is a table for selecting a communication program stored in the agent program 290.
FIG. 2 shows the program selection table 291. FIG. 3 shows the contents of the actions (actions and utterances) of the agent corresponding to each program number selected in the program selection table 291.
The program numbers shown in FIGS. 2 and 3 coincide with the numbers of the communication programs stored in the agent program 290.
[0024]
FIG. 4 shows several screens about the “slow bow” action of the agent displayed on the display device 27 by the program numbers 00001 to 00002 in FIGS.
As shown in FIG. 4, the agent E is expressed as a bow bowed by bowing while tightening the mouth and placing the hand on the knee. The words (speech) spoken by Agent E along with this action can be changed depending on the vehicle situation, learning situation, and the like.
[0025]
When the coolant temperature of the engine is low, the action “Let me sleep ...” is selected according to the condition of the engine. As a sleepy expression, use a facial expression with a drop of wrinkles, yawning and stretching, performing prescribed actions (bowing, etc.), rubbing eyes first, and making movements and voices slower than usual Can be expressed as These sleepy expressions are not always the same, but are appropriately changed by learning the number of actions.
For example, rubbing eyes once every three times (A action), yawning once every ten times (B action), and other than that, a facial expression with a heel down (C action). These changes are realized by combining the additional program of action B or action C with the basic program of action A. As to which action is to be combined, the number of program executions of the basic action A is counted as a learning item, and the additional program is combined according to the number of times.
In addition, when expressing the action “energeticly”, it is expressed by increasing the inflection of the voice or by making the agent E appear on the screen while running.
[0026]
Each item displayed in FIG. 2 represents a selection condition for selecting a program number, and is determined from various situations of the vehicle and the driver detected by the state sensor 40 (time, start location) , Cooling water temperature, etc.) and items determined from the learning contents stored in the learning item data 292 and the response data 293 (the number of today's IG ON, the elapsed time since the previous end, the total number of activations, etc.).
In the program selection table, a program that satisfies all these items is always determined uniquely. In the table, “◯” indicates an item that needs to be satisfied in order to select the program number, and “−” indicates an item that is not considered in selecting the program.
[0027]
2 and 3 describe actions and selection conditions related to communication (greetings) when the ignition is turned on, but a program for selecting a program that prescribes various other actions (actions and utterances) Various numbers and selection conditions are also defined.
For example, on the condition that a sudden brake is stepped on, a program in which the agent behaves as if he / she puts on “Shirimochi”, steps on “Tatara”, or makes a surprise voice is defined. The selection of each action by the agent is changed by learning for sudden braking. For example, “Sirimochi” is applied from the first sudden braking to the third, and “Tatara” is performed from the fourth to the tenth. From the second time onward, take the action of “holding one foot one step forward” and let the agent get used to sudden braking step by step. Then, when there is an interval of one week from the last sudden braking, the vehicle is moved backward by one step.
[0028]
The learning item data 292 and the response data 293 in FIG. 1 are both data stored and updated by the learning of the agent, and the contents are conceptually shown in FIGS. 5 and 6, respectively.
As shown in FIG. 5, the learning item data 292 includes the total number of activations that determine the selection conditions of the program selection table 291 (FIG. 2), the previous end date and time, the number of times the ignition is turned on today, and the remaining five refueling times. An amount and the like are stored, and the number of times of rest / date and time, a default value, and other data for deciding whether to start the program selected according to the selection condition (whether to take a rest) are stored.
[0029]
The total number of activations stores the total number of times the ignition has been activated, and is counted up each time the ignition is turned on.
The previous end date and time is stored every time the ignition is turned off.
The number of times the ignition is turned on today stores the number of times the ignition is turned on that day and the end time of the day. The count is incremented every time the ignition is turned on, but the data is initialized to “0” when the day ends. The end time of the day is stored as 24:00 as a default value. This time can be changed according to the life pattern of the user (driver). When the time is changed, the changed time is stored.
[0030]
In the previous five refueling remaining amounts, the remaining amount of fuel detected immediately before refueling (gasoline) is stored, and each time data is newly refueled, each data is shifted to the left (the oldest leftmost (The data is deleted.) The remaining amount immediately before refueling is stored on the far right.
This data indicates that when a detection value G1 of a fuel detection sensor 415, which will be described later, becomes equal to or less than the average value G2 of the remaining amount of fuel for all five times (G1 ≦ G2), the agent E appears on the display device 27 and supplies fuel. The prompting action is displayed on the display device 27, and a sound such as “I am hungry! I want gasoline!” Is output from the sound output device 25.
[0031]
The number of times / date of rest stores, for each program number, the number of times of rest without executing even if the corresponding communication program is selected. The number of times / date of rest is stored for an agent action in which the rest item is set as a learning item, such as an agent act (program number 00123) that proposes to stop the air conditioner described later.
When the driver's response to the agent's proposal or conversation is rejection (rejection) or disregard (or no response), “rest” is selectively set according to the communication program.
[0032]
In the default value, initial setting values for each item such as time, number of times, temperature, vehicle speed, date and time are stored, and the value changed in the learning item, such as the end time of the day described above, is the initial value. Used to return to
Other data stored in the learning item data 292 includes, for example, the birthday of the driver and related persons (this is a user input item), the national holiday, the event, such as Christmas, Valentine's Day, White Day, etc. Stores the date. There is also a special menu communication program for each event day. For example, an agent disguised as Santa Claus appears on Christmas Eve.
[0033]
In the response data 293 of FIG. 6, a history of user responses to agent actions is stored for each communication program number whose user response is a learning item. As for the user response data, the latest response date and time and the content of the response are stored for a predetermined number of times (program number 00123 is two times) as in communication program numbers 00123 and 125 in FIG. Only the latest response content is stored once (thus updating every time there is a response), only the latest response content is stored a predetermined time, and the latest date and time and response content are stored once. In other cases, only the latest date and time are stored once or a predetermined number of times.
Symbols A, B, and C displayed in FIG. 6 (A) represent response contents. As shown in FIG. 6 (B), when symbol A is ignored, when symbol B is rejected, This represents the case where the symbol C is received. The response content of the driver is determined from the result of voice recognition for the driver's voice input from the microphone 26 and the input result by the input device.
In this embodiment, the driver's response is ignored, categorized into three patterns of rejection and acceptance, but “strongly rejected”, “angry”, and “happy” were newly added. Also good. In this case, the learning item data 292 (for example, the number of days off) and the response data 293 are additionally changed according to the newly added response.
[0034]
FIG. 7 shows the contents of a data file stored in the navigation data storage device 30 (FIG. 1).
As shown in FIG. 7, the navigation data storage device 30 includes various data files used for route guidance, such as a communication area data file 301, a drawing map data file 302, an intersection data file 303, a node data file 304, a road A data file 305, a search data file 306, and a photo data file 307 are stored.
As the navigation data storage device 4, for example, various recording media such as a floppy disk, a hard disk, a CD-ROM, an optical disk, a magnetic tape, an IC card, an optical card, and a driving device thereof are used.
The navigation data storage device 4 may be composed of a plurality of different types of recording media and driving devices. For example, the search data file 46 is a readable / writable recording medium (for example, a flash memory or the like), and other files are formed of a CD-ROM, and these drive devices are used as drive devices.
[0035]
In the communication area data file 301, a mobile phone that is connected to the communication control device 24 or used in the vehicle without connection is displayed on the display device 5, or a route search is performed for the communication area. The communication area data for use at the time is stored for each type of mobile phone. Each communication area data for each type of mobile phone is numbered and managed so that it can be easily searched, and the communicable area can be expressed by the inside surrounded by a closed curve. And is specified by the position data of the bending point. Note that the communication area data may be generated by dividing the communicable area into large and small square areas and using coordinate data of two points having a diagonal relationship.
The content stored in the communication area data file 301 is preferably updateable as the area in which the mobile phone can be used is expanded or reduced. For this purpose, by using the mobile phone and the communication control device 24, The communication area data file 301 can be updated with the latest data by communicating with the information providing station. The communication area data file 301 may be composed of a floppy disk, an IC card, etc., and rewritten with the latest data.
The drawing map data file 302 stores drawing map data to be drawn on the display device 27. The drawing map data stores a hierarchical map, for example, map data for each hierarchy such as Japan, Kanto region, Tokyo, Kanda from the highest layer. Map data is attached to each level of map data.
[0036]
The intersection data file 303 includes intersection numbers, intersection names, intersection coordinates (latitude and longitude), road numbers starting and ending at the intersection, and presence / absence of signals as intersection data. Stored.
The node data file 304 stores node data consisting of information such as latitude and longitude that specifies the coordinates of each point on each road. That is, this node data is data relating to a single point on the road. When a node connecting nodes is called an arc, it is expressed by connecting each of a plurality of node rows with an arc.
The road data file 305 includes a road number that identifies each road, an intersection number that is a start point and an end point, a road number that has the same start point and end point, road thickness, prohibition information such as entry prohibition, Photo number etc. are stored.
Road network data composed of intersection data, node data, and road data stored in the intersection data file 303, node data file 304, and road data file 305, respectively, is used for route search.
[0037]
The search data file 306 stores intersection sequence data, node sequence data, and the like constituting the route generated by the route search. The intersection string data includes information such as an intersection name, an intersection number, a photo number showing a characteristic landscape of the intersection, a turning angle, and a distance. The node string data includes information such as east longitude and north latitude indicating the position of the node.
In the photo data file 307, photographs taken of characteristic scenery or the like that can be seen at each intersection or straight ahead are stored in a digital, analog, or negative film format corresponding to the photograph number.
[0038]
FIG. 8 shows various sensors constituting the situation sensor unit 40.
As shown in FIG. 8, the situation sensor unit 40 includes an ignition sensor 401, a vehicle speed sensor 402, an accelerator sensor 403, a brake sensor 404, a side brake detection sensor 405, a shift position detection sensor 406, a winker detection sensor 407, a wiper detection sensor 408, Light detection sensor 409, seat belt detection sensor 410, door opening / closing detection sensor 411, passenger detection sensor 412, indoor temperature detection sensor 413, outdoor temperature detection sensor 414, fuel detection sensor 415, water temperature detection sensor 416, ABS detection sensor 417, Air conditioner sensor 418, weight sensor 419, front inter-vehicle distance sensor 420, rear inter-vehicle distance sensor 421, body temperature sensor 422, heart rate sensor 423, sweat sensor 424, electroencephalogram sensor 425, eye tracer 426, infrared sensor 427 Other sensors (tire pressure drop detection sensor, belt looseness detection sensor, window open / close state sensor, horn sensor, indoor humidity sensor, outdoor humidity sensor, oil temperature detection sensor, hydraulic pressure detection sensor, etc.) And various sensors for detecting the situation of the driver and the situation inside the vehicle.
These various sensors are arranged at predetermined positions according to the respective sensing purposes.
In addition, when each of these sensors does not exist as an independent sensor, the case where it senses indirectly from another sensor detection signal is included. For example, a tire air pressure decrease detection sensor indirectly detects a decrease in air pressure by a change in a signal from a wheel speed sensor.
[0039]
The ignition sensor 401 detects ON and OFF of the ignition. As the vehicle speed sensor 402, a conventionally known vehicle speed sensor such as one that calculates the vehicle speed by detecting the rotational angular speed or the number of rotations of the speedometer cable can be used without particular limitation.
The accelerator sensor 403 detects the amount of depression of the accelerator pedal.
The brake sensor 404 detects the amount of depression of the brake, and detects whether or not a sudden brake is applied based on the depression force, the depression speed, and the like.
The side brake detection sensor 405 detects whether or not the side brake is applied.
The shift position detection sensor 406 detects the shift lever position.
The blinker detection sensor 407 detects the blinking direction of the blinker.
The wiper detection sensor 408 detects the driving state (speed, etc.) of the wiper.
The light detection sensor 409 detects the lighting state of each lamp such as a head lamp, tail lamp, fog lamp, and room lamp.
The seat belt detection sensor 410 detects whether the driver and the passenger (auxiliary seat, rear seat) are wearing the seat belt. If it is not worn, the agent appears as appropriate (to the extent that it is not disliked), and performs warnings, cautions, comments, etc. (the degree is changed by learning).
[0040]
The door open / close detection sensor 411 detects the open / closed state of the door, and in the case of a so-called half-door, the agent notifies the fact. The door opening / closing detection sensor 411 can detect opening / closing of each door according to the vehicle type, such as a driver's seat door, a passenger seat door, a rear driver seat side door, and a rear passenger seat side door.
The passenger detection sensor 412 is a sensor that detects whether or not a passenger is on the passenger seat or the rear seat. The passenger detection sensor 412 is detected from an in-vehicle image captured by the imaging device 28, or is disposed in an auxiliary seat or the like. Detect with pressure sensor or scale.
The indoor temperature detection sensor 413 detects the indoor air temperature, and the outdoor temperature detection sensor 414 detects the air temperature outside the vehicle.
The fuel detection sensor 415 detects the remaining amount of fuel such as gasoline and light oil. The detected values for the past five times immediately before refueling are stored in the learning item data 292, and when the average value is reached, the agent informs that it is the refueling time.
[0041]
The water temperature detection sensor 416 detects the temperature of the cooling water. Immediately after the ignition is turned on, if the detected temperature is low, the agent often acts to sleep. On the other hand, if the water temperature is too high, before overheating, the agent informs that effect along with the “dull” behavior.
The ABS detection sensor 417 detects whether or not the ABS is activated to prevent the tire from being locked due to a sudden brake and to ensure the maneuverability and vehicle stability.
The air conditioner sensor 418 detects the operation state of the air conditioner. For example, ON / OFF of the air conditioner, set temperature, air volume, etc. are detected.
The weight sensor 419 is a sensor that detects the weight of the driver. A driver is identified from this weight or from the weight and the image of the imaging device 28, and an agent learned in relation to the driver is caused to appear. That is, by using the learning item data 292 and the response data 293 learned by the agent for the specified driver, an agent dedicated to the driver appears.
The front inter-vehicle distance sensor 420 detects the distance to other vehicles and obstacles in front of the vehicle, and the rear inter-vehicle distance sensor 421 detects the distance to other vehicles and obstacles behind.
[0042]
The body temperature sensor 422 is a heart rate sensor 423, and the sweat sensor 424 is a sensor that detects the body temperature, heart rate, and sweat state of the driver. For example, each sensor is arranged on the handle surface and detected from the state of the driver's hand. To do. Alternatively, as the body temperature sensor 422, the temperature distribution of each part of the driver may be detected by thermography using an infrared detection element.
The electroencephalogram sensor 425 is a sensor that detects a driver's brain wave, and detects, for example, an α wave, a β wave, or the like to check a driver's arousal state or the like.
The eye tracer 426 detects the movement of the user's line of sight and determines whether the user is looking for an object outside the vehicle, searching for the object inside the vehicle, or a wakeful state during normal driving.
The infrared sensor 427 detects the movement of the user's hand and the movement of the face.
[0043]
Next, the operation of the present embodiment configured as described above will be described.
FIG. 9 is a flowchart showing the main operation of the agent process according to this embodiment.
When the ignition sensor 401 detects that the ignition is turned on, the agent processing unit 11 first performs initial setting (step 11). As initial settings, processing such as clearing the RAM, setting the work area for each process in the RAM, loading the program selection table 291 (FIG. 2) into the RAM, and setting the flag to 0 is performed. In the agent processing of this embodiment, the start of the processing is set to ignition ON. However, for example, the processing may be started when any door opening / closing is detected by the door opening / closing detection sensor 411.
[0044]
Next, the agent processing unit 11 detects the detection value supplied from each sensor of the situation sensor unit 40 to the situation information processing unit 15, the processing result of the image captured by the imaging device 28, and the vehicle detected by the current position detection device 21. Is acquired and stored in a predetermined area of the RAM, and the current status is grasped from the stored data (step 12). For example, when the temperature of the cooling water detected by the water temperature detection sensor 416 is t1, the agent processing unit 11 stores the temperature t1 in the RAM, and if the t1 is equal to or less than a predetermined threshold value t2, It is grasped that the cooling water temperature (see FIG. 2) is in a low state.
Other current situations include driver requests that are voice-recognized based on input from the microphone 26, for example, “Call me XXX” or “Show me a restaurant here” Requests such as “Please play CD” are also understood as the current situation. In this case, the words “CD” and “Kake” included in the recognized voice are the selection conditions (horizontal axis items) of the program selection table 291 (FIG. 2).
[0045]
Furthermore, the agent processing unit 11 checks the learning item data 292 and the response data 293 in the agent data storage device 29, thereby grasping the state (learning data) that the agent has learned so far (step 13).
[0046]
The agent processing unit 11 determines from the program selection table 291 shown in FIG. 2 whether there is a communication program (number) that can be activated in the current state, based on the grasped current state and the checked learning data. If there is no corresponding program (step 14; N), the process returns to step 12 to grasp a new state.
On the other hand, if there is a communication program that can be activated (step 14; Y), the program number is determined. Then, the driver's response history with respect to the determined program number is confirmed from the response data 293, and it is confirmed whether or not the activation of the communication program of the program number is in a state to be rested (step 15).
[0047]
When not in the rest state (step 15; N), the agent processing unit 11 activates the communication program corresponding to the determined program number, thereby changing the action (action and voice) of each agent shown in FIG. The conforming image is displayed on the display device 27, and the sound is output from the sound output device 25 (step 16). As a result, it is possible to communicate with an agent reflecting not only the current situation of the vehicle and the driver but also the learning result of the past situation and response.
[0048]
Then, the agent processing unit 11 acquires the driver's response to the agent action by starting the communication program from the voice recognition result based on the input from the microphone 26 or the input result from the input device 22 (step 17).
Next, the agent processing unit 11 determines whether or not the communication program started in step 16 is a control target program (step 18). Here, whether or not it is a program to be controlled is defined for each program. For example, if you want to turn on the radio? “Are you sure?” And the like, a communication program or the like when the agent proposes an action that can be processed is defined as the control target program.
[0049]
If it is not a control target program (step 18; N), the process proceeds to step 20, and if it is a control target program (step 18; Y), control is performed according to the driver's response acquired in step 17 (step 19). ). For example, if a response that accepts a proposal such as “ON”, “OK”, or “YES” is recognized for the proposal communication for turning on the radio, the agent processing unit 11 performs control according to the response. Then, the agent is allowed to reply (act and voice) and the radio is turned on.
[0050]
Then, the agent processing unit 11 causes the agent to learn by accumulating data related to the current communication program (step 20).
As the accumulation of data, for example, when the communication program is not activated (step 15; Y), the number column of the corresponding program number in the learning item data 292 is counted up. However, when the number of times stored in the number of times / date of learning item data 292 is Ka times and the number of times of rest determined from the history of the response data 293 for the program number is Kb times, Ka = If it is Kb-1, you have taken a specified number of rests this time. Therefore, the data (stored in the corresponding position) in the program number column of the learning item data 292 and the response data 293 is cleared.
In other cases (step 18; in case of N, after step 19), if there is a learning item in the current situation grasped in step 12, the value of the learning item data 292 is updated and the response content is stored as a history. If the program number is to be stored, the response content acquired in step 17 is stored in response data 293 (FIG. 7). In the case of the response history, when the predetermined number of data defined for each program number has already been stored, the oldest data is discarded and new data is stored.
[0051]
When the above program determination / communication / learning processes are completed, the agent processing unit 11 checks whether or not the flag 1 is set in the flag area initially set in the RAM in step 11 (step 21).
When the flag is not set (step 21; N), it is determined whether the ignition OFF is detected by the ignition sensor 401 (step 22). When the flag is not detected (step 22; N), step 12 is performed. Go back to see the new state.
On the other hand, when the ignition OFF is detected (step 22; Y), the flag 1 is set in the flag area of the RAM (step 23), and then the process returns to step 12 to perform post-processing. That is, the agent makes a parting action (behavior and voice) according to the current situation and learning data to the agent, and controls for turning off lights that are forgotten to be turned off, and learning for the post-processing (step 20). Thereafter, since the flag is 1 (step 21; Y), the agent process is terminated.
[0052]
Next, a specific example of action by the agent process described above will be described.
FIG. 10 conceptually shows the contents of specific agent processing after the ignition is turned on.
As shown in FIG. 10A, the agent processing unit 11 determines that the current state detected by the ignition sensor 401 is “ON” and the current position (latitude, longitude) detected by the current position detection device 21. It is assumed that the current position obtained from the above is grasped (step 12) such as “others” (other than home, resting place).
As the learning data checked for the learning item data 292 and the response data 293, today's ignition ON count is “second day”, the previous end date is “1997.7.12 10:05”, and the total activation count is “30”. It is assumed that it is checked (step 13).
[0053]
From the above processing, the agent processing unit 11 selects the communication program with the program number 00004 from the program selection table 291 (step 14), confirms that it is not a subject of rest (step 15; N), and then receives the number. The communication program is started (step 16).
By the activation of the communication program with the program number 00004, the agent action (action and utterance) shown in FIG. 3 is performed as shown in FIG. That is, as shown in FIG. 4, the display device 27 displays a plurality of continuous action images (or moving images are displayed) in which the agent “slowly bows”, and the voice output device 25 also displays “ "Lisa will be with you. Thank you."
[0054]
Since program number 00004 is not a program to be controlled (step 18; N), step 19 is skipped, and as shown in FIG. While changing to 3 times, the total number of activations is changed from 30 times to 31 times (step 20). After that, if the flag is not 1 (the flag is normally 0 since the ignition is turned on), and if the ignition is not turned off (step 21; N, 22; N), the process returns to step 12 and the subsequent communication is continued.
[0055]
Through the above learning, the total number of activations stored in the learning item data 292 becomes 31 or more. Therefore, thereafter, unless all the learning data (learning item data 292 and response data 293) is initialized, the communication programs 00001 to 00006 are not selected. Thereafter, any communication program of program numbers 00007 to 0919 is selected until the total number of times the ignition is turned on is 300 times. That is, the agent does not “bow bowed”, but bows normally when the cooling water temperature is high, and bows like sleep. The sound at that time varies depending on the program number selected depending on the starting location and the number of IGONs of the day.
[0056]
FIG. 11 conceptually shows the details of specific agent processing during vehicle travel.
As shown in FIG. 11A, the agent processing unit 11 indicates that the state detected by the air conditioner sensor 418 is “ON” and the room temperature detected by the indoor temperature detection sensor 413 and the outdoor temperature detection sensor 414 as the current situation. T1 and outdoor temperature T2 are acquired. In addition, by checking the response data 293 of each program number, the previous two driver responses to the program number 0123 are C (acceptance), so the default values (T3 = 2 degrees, T4 = 24 degrees) is read from the learning item data 292.
From the thresholds T3 and T4, the relationship between the room temperature and the outdoor temperature, (T1-T2) ≦ T3 is “Yes”, the relationship between the outdoor temperature T2 and the threshold T4, T2 ≦ T4 is “Yes”, and so on. (FIG. 11A).
[0057]
From the above processing, the agent processing unit 11 finally selects the communication program with the program number 00123 from the program selection table 291 (step 14), and confirms that it is not a subject of rest (step 15; N). Then, the communication program of the number is started (step 16).
By starting the communication program with program number 00123,
The agent performs an action as shown in FIG. In other words, the display device 27 displays a plurality of continuous motion images (or moving images are displayed) where an agent appears and smiles, and the audio output device 25 says “The outside is cool. "?" Is output.
[0058]
The driver's response to the agent communication is acquired (step 17).
Since the program number 00123 is a program to be controlled (step 18; Y), if it is accepted, the power of the air conditioner is turned off as control according to the response, and the windows on the driver's seat side and the passenger seat side are halved. Control to open is performed (step 19).
After the control according to the response, as shown in FIG. 11C, the agent processing unit 11 performs learning of the agent, if the driver's response is ignored, A, if rejected, B, if accepted. C is stored in the response data 293 corresponding to the program number 0123 together with the response date and time. In this case, the previous response data is deleted, and the previous response and the current response are stored in the response data 293.
If the stored response content is ignore A, the next threshold values T3 and T4 are used by decreasing the value by 1 degree (T3-1 = 1 degree, T4-1 = 23 degree) and resting once. Become. If the stored response content is rejection B, the next threshold values T3 and T4 are decreased by 1 degree (T3-1 = 1 degree, T4-1 = 23 degree), and rest five times. In addition, the temperature T3 = T3-1 and T4 = T4-1 after lowering are used as a threshold value when resting once.
If the stored response content is acceptance C, the same values as the previously used threshold values T3 and T4 are used.
[0059]
Note that the control for opening the driver side and passenger side windows by half based on the acceptance response to the agent's proposed communication has been described. However, the position and amount of opening the window are also subject to learning by the agent, and the next window. You may make it be learning with respect to opening / closing control. For example, the driver's response such as “too open”, “tighten a little more”, “open the back” or the like is not the data specific to the situation of FIG. It is stored in the response data 293 as general data representing preferences. As default values in this case, for example, an opening target window and an opening amount; a driver side window 1/2 and a passenger side window 1/2 are set. If the driver's response is “Open behind”, this response (speech recognition result) is grasped as the current situation (step 12) and the communication program is started (step 16). Along with the act, the rear window is also opened.
[0060]
As described above, according to the present embodiment, various situations in the past are learned, and the agent performs a communication act suitable for the situation related to the current vehicle and the driver according to the learning content. You can drive without getting bored.
In addition, the driver can get angry, laugh and consult with the agent, and can respond to proposals made actively by the agent in the mood. Then, since the agent communicates by appropriately judging and learning the actions of these drivers, it is possible to feel familiar with the agent and increase the attachment to the vehicle.
[0061]
【The invention's effect】
According to the vehicle having the communication function of the present invention, the agent appearing by the agent appearance unit is determined by determining the anthropomorphic agent action from the learning result by the learning unit and the current situation judged by the situation judging unit. The personified agent can act appropriately according to the situation and communicate with the driver.
Therefore, the driver can talk with the agent and have the agent perform various controls such as opening and closing windows, controlling CDs and radios, and detailed guidance on the road and facilities. Can be comfortable.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a configuration for realizing a communication function in an embodiment of the present invention.
FIG. 2 is an explanatory diagram conceptually showing the contents of a program selection table in the embodiment.
FIG. 3 is an explanatory diagram showing an agent's action (action and voice) corresponding to each program number in the embodiment;
FIG. 4 is an explanatory diagram showing a number of screens about the “slow bow” action of the agent displayed on the display device by starting program numbers 00001 to 00002 in the embodiment.
FIG. 5 is an explanatory diagram conceptually showing the contents of learning item data in the embodiment.
FIG. 6 is an explanatory diagram conceptually showing the contents of response data in the embodiment.
FIG. 7 is an explanatory diagram conceptually showing the contents of a data file stored in the navigation data storage device in the embodiment.
FIG. 8 is an explanatory diagram showing various sensors constituting the situation sensor unit in the embodiment.
FIG. 9 is a flowchart showing a main operation of agent processing according to the embodiment;
FIG. 10 is an explanatory diagram conceptually showing specific agent processing contents after the ignition is turned on in the embodiment.
FIG. 11 conceptually shows the details of specific agent processing during vehicle travel in the embodiment.
[Explanation of symbols]
1 Overall processing section
10 Navigation processor
11 Agent processing part
12 I / F section
13 Image processing unit
14 Voice control unit
15 Situation information processing department
21 Current position detection device
22 Input device
23 Storage medium drive
24 Communication control device
25 Audio output device
26 microphone
27 Display device
28 Imaging device
29 Agent Data Storage Device
30 Navigation data storage device
40 Situation sensor section

Claims

Agent display means for displaying anthropomorphized agents in the vehicle;
Situation detection means for detecting at least one of the current position of the vehicle, the situation of each part of the vehicle, and the environment outside the vehicle as the situation of the vehicle;
Learning means for learning by storing the vehicle situation detected by the situation detection means;
Action determining means for determining an agent's action from the learning result by the learning means and the vehicle situation detected by the situation detecting means;
Agent control means for causing the agent displayed by the agent display means to perform the action determined by the action determining means;
An agent device comprising:

Agent display means for displaying anthropomorphized agents in the vehicle;
A situation detecting means for detecting at least one of a preset driving operation and a situation of the vehicle;
Storage means for storing the situation detected by the situation detection means and the number of times of the same situation as the detected situation;
Action determining means for determining an agent action according to the detected situation and the number of times stored in the storage means;
Agent control means for causing the agent displayed by the agent display means to perform the action determined by the action determining means;
An agent device comprising:

The agent apparatus according to claim 2, wherein the situation detection unit is a current position detection unit that detects a current position of the vehicle.

The agent apparatus according to claim 2, wherein the situation detection unit is an in-vehicle sensor that detects a situation of each part of the vehicle.

The agent device according to claim 2, wherein the situation detection unit is a sensor that detects an environment outside the vehicle.

The agent device according to claim 1, wherein the agent is selected from a plurality of agents.

Agent voice output means for outputting the voice of the agent displayed by the agent display means;
The agent device according to claim 1, further comprising:

8. The agent device according to claim 7, wherein the agent voice output means outputs a voice selected from a plurality of agent voices.

9. The agent control unit according to claim 7 or 8, wherein the agent control unit controls a timbre of voice output from the agent voice output unit in response to the action determined by the action determination unit. Agent device.

Memorize at least one of the driver's instructions and responses,
The action determining means determines an agent action by further using at least one of the stored instruction content and response content of the driver.
The agent device according to claim 1 or 2, characterized in that

A switch for inputting a driver's operation,
The storage means stores the time and place of the switch input,
The action determining means determines the action of the agent by further using the stored switch input time and place.
The agent device according to claim 1 or 2, characterized in that