以下、本発明の実施形態を図面に基づいて説明する。
本実施形態では、本発明に係る情報処理装置を、車両に搭載された車載装置100と、車両の外部に設置された外部装置200と、データセンタ300と協動する情報提供処理システムに適用した場合を例にして説明する。
図1は、情報提供システム1のブロック構成を示す図である。本実施形態の情報提供システム1は、車載装置100と、外部装置200と、データセンタ300を備える。情報提供システム1、車載装置100、外部装置200、及びこれらが備える各装置は、CPUなどの演算処理装置を備え、演算処理を実行するコンピュータである。
まず、車載装置100について説明する。本実施形態の車載装置100は、車載カメラ110、車載マイク120、車載操作機器群130、車載ディスプレイ140、車載スピーカ150、車載通信装置160、及び車載制御装置170を備えている。車載装置100を構成する各装置は、相互に情報の授受を行うためにCAN(Controller Area Network)その他の車載LANによって接続されている。
車載カメラ110は、車両の室内に設けられ、室内の様子を撮像する。車載カメラ110は、撮像画像を車載制御装置170に出力する。車載カメラ110の設置位置及び車載カメラ110の数は、特に限定されない。例えば、車載カメラ110は、インストルメンタルパネルに設けられ、前方座席に着座する人物を撮像する。また、例えば、車載カメラ110は、ルームミラーの近傍に設けられ、後方座席に着座する人物を撮像する。また、例えば、車載カメラ110は、車両後方に設けられ、車両前方に設けられた車載ディスプレイ140が表示する画面を撮像する。車載ディスプレイ140が表示する内容の詳細については後述する。
車載マイク120は、車両の室内に設けられ、車内に発生した音声を収集する。車載マイク120は、収集した音声をデジタル信号に変換し、音声情報として車載制御装置170に出力する。車載マイク120の設置位置及び車載マイク120の数は、特に限定されない。例えば、車載マイク120は、座席ごとに座席の所定位置に設けられ、車内での会話、車載スピーカ150から出力される音楽等を収集する。車載スピーカ150が出力する内容の詳細については後述する。
車載操作機器群130は、車載ディスプレイ140の近傍に設けられ、車載ディスプレイ140が表示する映像の内容を変更したり、車載スピーカ150から出力される音声の音量を調整したりする。車載操作機器群130としては、例えば、機械的なスイッチや車載ディスプレイ140に設けられているタッチパネルスイッチなどから構成されている。車載操作機器群130は、車内の人物による操作情報を、車載制御装置170に出力する。
車載ディスプレイ140は、車両の室内に設けられ、車載操作機器群130からの操作情報に応じて、例えば、テレビ番組、映画、ナビゲーションシステムにおけるルート案内用の画面等の映像を表示する。また、車両がインターネット接続可能な場合、車載ディスプレイ140には、例えば、ウェブサイトが表示される。車載ディスプレイ140としては、液晶ディスプレイが一例として挙げられる。
車載スピーカ150は、車両の室内に設けられ、車載操作機器群130からの操作情報に応じて、例えば、音楽、ラジオ番組、その他映像データに基づく音声を出力する。また、車両がインターネット接続可能な場合、車載スピーカ150は、インターネットラジオのラジオ番組を出力する。
車載ディスプレイ140及び車載スピーカ150には、車載操作機器群130から車載制御装置170を介して操作情報が入力される。車載ディスプレイ140は、操作情報に応じた映像や動画を表示し、車載スピーカ150は、操作情報に応じた音声を出力する。
例えば、車内の人物がナビゲーションシステムを利用するために車載操作機器群130を操作した場合、車載ディスプレイ140には、ルート案内用の画面や操作用の画面等が表示されるとともに、車載スピーカ150からは、ルート案内を行う音声や交通情報を伝える音声が出力される。
また、例えば、車内の人物がテレビ番組を見るために車載操作機器群130を操作した場合、車載ディスプレイ140には、テレビ番組の映像が表示されるとともに、車載スピーカ150からは、テレビ番組の映像に対応する音声が出力される。テレビ番組には、娯楽を目的とした番組、時事ニュースを伝える番組、道路の工事情報又は渋滞情報などの道路情報を伝える番組、天気予報を伝える番組などが含まれる。
また、例えば、車内の人物が音楽又はラジオ番組を流すために車載操作機器群130を操作した場合、車載スピーカ150からは、音楽又はラジオ番組が出力される。ラジオ番組には、テレビ番組と同様に、娯楽を目的とした番組、時事ニュースを伝える番組、道路の工事情報又は渋滞情報などの道路情報を伝える番組、天気予報を伝える番組などが含まれる。また、音楽には、クラッシック音楽、ポピュラー音楽、民族音楽などの各ジャンルの音楽が含まれる。
また、車載ディスプレイ140には、データセンタ300から車載通信装置160及び車載制御装置170を介して現在の車内の人員構成に最適なサービスを案内する情報(以下、サービス案内情報という)が入力される。車載ディスプレイ140は、サービス案内情報を車内の人物に提示する。なお、データセンタ300から送信されるサービス案内情報の詳細については後述する。
車載通信装置160は、電話回線網やインターネット回線網などを介して、データセンタ300のサーバ通信装置310と通信可能な装置である。車載通信装置160には、後述する、車内の人員構成の情報及び車内でのサービス利用履歴の情報(以下、車内での利用履歴情報という)が入力され、車載通信装置160は、これらの情報を、サーバ通信装置310に送信する。車載通信装置160は、これらの情報をプローブ情報に含めることができ、プローブ情報としてこれらの情報をサーバ通信装置310に送信してもよい。また、車載通信装置160は、サーバ通信装置310からサービス案内情報を受信し、受信したサービス案内情報を、車載制御装置170に出力する。なお、車内の人員構成の情報及び車内でのサービス利用履歴情報の詳細については後述する。
また、車載通信装置160には、車内の人員構成の情報と、車内での利用履歴情報は、非同期タイミングで入力される。後述する車載制御装置170は、イグニッションがオンになったタイミングや、車両が発進するタイミングにおいて、車内の人員構成の情報を、車載通信装置160に対して出力する。これにより、車両が発進する前や発進直後に、車内の人員構成の情報がデータセンタ300に送信される。一方、車載制御装置170は、イグニッションがオフになったタイミングや、所定の時間が経過したタイミングにおいて、車内での利用履歴情報を、車載通信装置160に対して出力する。つまり、車載通信装置160は、データセンタ300のサーバ通信装置310に対して、車内での利用履歴情報を送信するよりも先に、車内の人員構成の情報を送信する。
車載制御装置170は、車内の人員構成を推定して車内での利用履歴情報を生成するための装置である。具体的に、車載制御装置170は、車内サービス利用履歴生成処理を実行させるプログラムが格納されたROM(Read Only Memory)と、このROMに格納されたプログラムを実行することで、車内サービス利用履歴生成処理を実行する動作回路としてのCPU(Central Processing Unit)と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)と、を備えるコンピュータである。
具体的に、本実施形態の車載制御装置170は、以下の処理を実行することで、車内での利用履歴情報を生成する。車載制御装置170は、車内の人物の特徴を推定する車内人物特徴推定処理と、車内の人員構成を推定する車内人員構成推定処理と、車内で利用されているサービスを特定する車内サービス特定処理と、これらの処理結果に基づいて車内での利用履歴情報を生成する車内サービス利用履歴生成処理と、を実行する。
車載制御装置170は、上記各機能を実現するために、又は各処理を実行するためのソフトウェアと、上述したハードウェアの協働により各機能を実行する。
まず、車内人物特徴推定処理について説明する。車載制御装置170は、車載カメラ110の撮像画像に基づいて、車内に存在する人物の特徴を推定する。車内の人物の特徴には、性別及び年齢が含まれる。例えば、車載制御装置170は、車載カメラ110の撮像画像に対して画像処理を実行することで、撮像画像に写る人物の複数の特徴点(目、鼻、口、髪の毛等)を抽出する。そして、車載制御装置170は、抽出した車内の人物の特徴点を、予め定められた特徴パターンであって、性別を判別するための特徴パターンに照合することで、車内の人物の性別を推定することができる。同様に、車載制御装置170は、車内の人物の特徴点を、予め定められた特徴パターンであって、年齢を推定するための特徴パターンに照合することで、車内の人物の年齢を推定することができる。
車載制御装置170が推定する年齢の精度は、特に限定されない。車載制御装置170は、画像処理の能力や車載カメラ110の撮像精度に応じて、推定する年齢の精度を適宜変更することができる。例えば、車載制御装置170は、10歳~19歳の範囲を「10代」、20歳~29歳の範囲を「20代」と、10歳単位でカテゴライズされた特徴パターンを予め記憶装置に格納しておくことで、車内の人物の年代を推定することができる。なお、車内人物特徴推定処理は、上述した方法に限られず、車載制御装置170は、本願出願時に知られた車内人物特徴推定処理を適宜に用いることができる。
次に、車内人員構成推定処理について説明する。車載制御装置170は、車載カメラ110の撮像画像と、車内人物特徴推定処理の処理結果に基づいて、車内の人員構成を推定する。例えば、車載制御装置170は、車載カメラ110の撮像画像から、車内の人数を検出する。そして、車載制御装置170は、検出した車内の人数と、車内人物特徴推定処理の処理結果(性別及び年齢)が関連付けられた車内の人員構成を推定する。
図2(A)を参照しながら、車内人員構成推定処理の処理結果の一例について説明する。図2(A)は、車内人員構成推定処理を説明するための図である。図2(A)は、運転者を含めた4名が乗車している場合の車載制御装置170の処理結果を示している。この例において、車載制御装置170は、まず、車載カメラ110の撮像画像から車内の人数が4名であることを検出する。次に、車載制御装置170は、上述した車内人物特徴推定処理を、4名それぞれに対して実行することで、図2(A)に示すように、「20代男性:1名、30代女性:1名、50代男性:1名、60代男性:1名の計4名」と、車内の人員構成を推定する。
このように、本実施形態では、車載制御装置170は、車載カメラ110の撮像画像が入力されるタイミングで、車内の人員構成を推定することができる。そのため、乗車したタイミングや、イグニッションがオンになったタイミング等の車両が発進する前のタイミングにおいても、車両の人員構成を推定することができる。また、車載カメラ110の撮像画像のみを利用するため、車内での会話が行われない場合であっても、車内の人員構成を推定することができる。
車載制御装置170は、車内の人員構成を推定すると、車載通信装置160を介して、車内の人員構成の情報をデータセンタ300のサーバ通信装置310へ送信する。なお、車載制御装置170は、車内の人員構成の情報に、車載カメラ110の撮像画像そのものを含めることもできる。これにより、後述するデータセンタ300のサーバ処理装置330は、撮像画像に写る人物が過去に乗車履歴のある人物か否かを判定することができる。
再び、図1に戻り、車載制御装置170の車内サービス特定処理について説明する。車載制御装置170は、車内で利用されているサービスを特定する。本実施形態における車内で利用されているサービスとは、車載ディスプレイ140及び車載スピーカ150の少なくとも何れか一方を利用したサービスである。車内で利用可能なサービスとしては、映像再生、音楽再生、道路情報提供、天気情報提供が一例として挙げられる。映像再生には、上述したテレビ番組の再生や映画の再生が含まれ、音楽再生には、上述した各ジャンルの音楽の再生が含まれる。また、道路情報の提供には、テレビ番組による道路情報の提供だけでなく、ラジオ番組による道路情報の提供も含まれる。天気情報提供も同様に、テレビ番組による天気予報の提供だけでなく、ラジオ番組による天気予報の提供も含まれる。
車載制御装置170は、車載カメラ110からの撮像画像、車載マイク120からの音声情報、車載操作機器群130からの操作情報に基づいて、サービスの種類(映像再生、音楽再生等)を特定するだけでなく、それぞれのサービスの具体的な内容(番組名、曲名)についても特定する。例えば、予めテレビ番組及びラジオ番組の番組表の情報を、ROM等の記憶装置に記憶させておく。そして、車載制御装置170は、車載操作機器群130からの操作情報に基づき、車内の人物が設定したテレビのチャンネルを特定し、記憶装置に記憶された番組情報と照合することで、現在放映されているテレビ番組の内容を具体的に特定することができる。また、例えば、予めあらゆるジャンルの楽曲情報を、ROM等の記憶装置に記憶させておく。そして、車載制御装置170は、車載マイク120からの音声情報を、記憶装置に記憶された楽曲情報と照合することで、現在車内で流れている音楽のジャンル及び曲名を特定することができる。
次に、車内サービス利用履歴生成処理について説明する。車載制御装置170は、上述した各処理の結果に基づいて、車内で利用されているサービスの履歴を、車内での利用履歴情報として生成する。車載制御装置170は、推定した車内の人員構成と、特定した車内で利用されているサービスとを関連付けた情報を、車内での利用履歴情報とする。車載制御装置170は、車載通信装置160を介して、車内での利用履歴情報をデータセンタ300のサーバ通信装置310へ送信する。
次に、外部装置200について説明する。本実施形態の外部装置200は、車外に存在する人物に対して、映像再生や音楽再生等のサービスを提供する装置である。外部装置200の設置場所は特に限定されず、設置場所としては、商業施設又は公共施設等の施設に限られず、家庭内であってもよい。外部装置200としては、人工知能(AI:Artificial intelligence)が搭載されたスマートスピーカが例示できる。外部装置200は、外部カメラ210、外部マイク220、外部操作機器群230、外部ディスプレイ240、外部スピーカ250、外部通信装置260、及び外部制御装置270を備える。外部装置200を構成する各装置は、相互に情報の授受を行うため、LAN等の信号線で接続されているか、又はWifiやBluetooth(登録商標)等の無線通信により通信可能となっている。
なお、本実施形態では、外部装置200は、上述した車載装置100と比べて、同じ機能を持つ装置を含んでいるため、以降では、車載装置100と重複する内容については、車載装置100で行った説明を一部援用する。また、外部装置200が設けられている「車外」とは、車両の室外のことである。
外部カメラ210は、車外に設けられ、外部装置200の周辺の様子を撮像する。外部カメラ210は、撮像画像を外部制御装置270に出力する。外部カメラ201の数は、特に限定されない。
外部マイク220は、車外に設けられ、外部装置200の周辺で発生した音声を収集する。外部マイク220は、収集した音声をデジタル信号に変換し、音声情報として外部制御装置270に出力する。
外部操作機器群230は、例えば、外部ディスプレイ240の近傍に設けられ、外部ディスプレイ240が表示する映像の内容を変更したり、外部スピーカ250から出力される音声の音量を調整したりする。外部操作機器群230としては、外部ディスプレイ240に設けられているタッチパネルであってもよいし、その他各装置とは異なる装置として、外部装置200を遠隔操作可能なリモコンであってもよい。
外部ディスプレイ240は、車外に設けられ、外部操作機器群230からの操作情報に応じて、例えば、テレビ番組、映画等の映像や、インターネットを介して配信される動画を表示する。外部スピーカ250は、車外に設けられ、外部操作機器群230からの操作情報に応じて、例えば、音楽、ラジオ番組、その他映像データに基づく音声を出力する。外部装置200がインターネット接続可能な場合、外部ディスプレイ240は、ウェブサイトや外部装置200が備えるアプリケーションの画面を表示することができる。また、外部スピーカ250は、インターネットラジオのラジオ番組を出力することができる。
外部ディスプレイ240及び外部スピーカ250には、外部操作機器群230から外部制御装置270を介して操作情報が入力される。外部ディスプレイ240は、操作情報に応じた映像や動画を表示し、外部スピーカ250は、操作情報に応じた音声を出力する。
例えば、家庭のリビングにおいて、家族の一人が音楽又はラジオ番組を流すために外部操作機器群230を操作した場合、外部スピーカ250からは、外部操作機器群230の操作に応じた、音楽又はラジオ番組が出力される。なお、音楽には、上述した各ジャンルの音楽が含まれ、また、ラジオ番組には、娯楽を目的とした番組、時事ニュースを伝える番組、天気予報を伝える番組などが含まれる。
外部通信装置260は、車載通信装置160と同様に、電話回線網やインターネット回線網などを介して、データセンタ300のサーバ通信装置310と通信可能な装置である。外部通信装置260には、後述する車外でのサービス利用履歴の情報(以降、車外での利用履歴情報という)が入力され、外部通信装置260は、サーバ通信装置310と通信可能なタイミングにおいて、車外での利用履歴情報を、サーバ通信装置310に送信する。
外部制御装置270は、車外での利用履歴情報を生成するための装置である。具体的に、外部制御装置270は、車外サービス利用履歴生成処理を実行させるプログラムが格納されたROM(Read Only Memory)と、このROMに格納されたプログラムを実行することで、車外サービス利用履歴生成処理を実行する動作回路としてのCPU(Central Processing Unit)と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)と、を備えるコンピュータである。
具体的に、本実施形態の外部制御装置270は、以下の処理を実行することで、車外での利用履歴情報を生成する。外部制御装置270は、車外の人物の特徴を推定する車外人物特徴推定処理と、車外の人員構成を推定する車外人員構成推定処理と、車内で利用されているサービスを特定する車内サービス特定処理と、これらの処理結果に基づいて車外での利用履歴情報を生成する車外サービス利用履歴生成処理と、を実行する。
なお、本実施形態では、外部制御装置270が実行する各処理は、車載制御装置170が実行する各処理と比べて、処理の対象が車内から車外に変更されている点以外は同じものとする。以降では、各処理において、車載制御装置170と重複する内容については、車載制御装置170で行った説明を一部援用する。
まず、車外人物特徴推定処理について説明する。外部制御装置270は、外部カメラ210の撮像画像に基づいて、車外に存在する人物の特徴を推定する。車外の人物の特徴には、性別及び年齢が含まれる。車外人物特徴推定処理は、車載制御装置170の車内人物特徴推定処理と同じ処理方法であってもよいし、異なる処理方法でもよい。
次に、車外人員構成推定処理について説明する。外部制御装置270は、外部カメラ210が撮像した車外の撮像画像と、車外人物特徴推定処理の処理結果に基づいて、車外の人員構成を推定する。例えば、外部制御装置270は、外部カメラ210の撮像画像から、外部装置200の周辺に存在する車外の人数を検出する。そして、外部制御装置270は、検出した車外の人数と、車外人物特徴推定処理の処理結果(性別及び年齢)が関連付けられた車外の人員構成を推定する。
図2(B)を参照しながら、車外人員構成推定処理の処理結果の一例について説明する。図2(B)は、車外人員構成推定処理を説明するための図である。図2(B)は、家庭内に4名がいる場合の外部制御装置270の処理結果を示している。この例において、外部制御装置270は、まず、外部カメラ210の撮像画像から外部装置200の周辺に存在する人数が4名であることを検出する。次に、外部制御装置270は、上述した車外人物特徴推定処理を、4名それぞれに対して実行することで、図2(B)に示すように、「10歳未満女性:1名、10歳未満男性:1名、10代女性:1名、50代男性の計4名」と、車外の人員構成を推定する。このように、本実施形態では、外部制御装置270は、車外の人数と、車外の人物の性別及び年齢が関連付けられた車外の人員構成を推定する。
再び、図1に戻り、外部制御装置270の車外サービス特定処理について説明する。外部制御装置270は、車外で利用されているサービスを特定する。本実施形態における車外で利用されているサービスとは、外部ディスプレイ240及び外部スピーカ250の少なくとも何れか一方を利用したサービスである。車外で利用可能なサービスとしては、映像再生、音楽再生、天気情報提供が一例として挙げられる。
外部制御装置270は、車載制御装置170と同様に、外部カメラ210からの撮像画像、外部マイク220からの音声情報、外部操作機器群230からの操作情報に基づいて、サービスの種類(映像再生、音楽再生等)を特定するだけでなく、それぞれのサービスの具体的な内容(番組名、曲名)についても特定する。また、外部装置200がインターネット接続可能な場合、外部制御装置270は、外部装置200がアクセスしているウェブサイトの情報を取得して、サービスの具体的な内容、例えば、ソーシャルネットワークサービス等を特定することができる。
次に、車外サービス利用履歴生成処理について説明する。外部制御装置270は、上述した各処理の結果に基づいて、車外で利用されているサービスの履歴を、車外での利用履歴情報として生成する。外部制御装置270は、推定した車外の人員構成と、特定した車外で利用されているサービスとを関連付けた情報を、車外での利用履歴情報とする。外部制御装置270は、外部通信装置260を介して、車外での利用履歴情報をデータセンタ300のサーバ通信装置310へ送信する。
次に、データセンタ300について説明する。データセンタ300は、各種のコンピュータやデータ通信などの装置が設置されている施設である。データセンタ300は、図1に示すように、サーバ通信装置310、データベース320、及びサーバ処理装置330を備える。
サーバ通信装置310は、電話回線網又はインターネット回線網などを介して、車載装置100の車載通信装置160及び外部装置200の外部通信装置260と通信可能となっている。サーバ通信装置310は、複数の車両のそれぞれに搭載された複数の車載通信装置160と通信し、各車両から、車内の人員構成の情報及び車内での利用履歴情報を受信する。サーバ通信装置310は、各車両から受信した車内の人員構成の情報及び車内での利用履歴情報をサーバ処理装置330に出力する。
また、サーバ通信装置310は、各施設(商業施設、公共施設)や各家庭のそれぞれに設けられた複数の外部通信装置260と通信し、各施設又は各家庭から車外での利用履歴情報を受信する。サーバ通信装置310は、各施設等から受信した車外での利用履歴情報をサーバ処理装置330に出力する。
データベース320は、複数の車両から取得した車内での利用履歴情報、及び複数の施設等から取得した車外での利用履歴情報を格納しているデータベースである。データベース320には、サーバ通信装置310からサーバ処理装置330を介して、逐次、車内での利用履歴情報及び車外での利用履歴情報が入力されるため、2種類の利用履歴情報は、時間の経過とともにデータベース320に蓄積されていく。また、データベース320には、2種類の利用履歴情報は、互いに判別できるような形式で格納されている。
サーバ処理装置330は、車内の人員構成ごとに最適なサービスを特定するためのプログラムを格納したROMと、このROMに格納されたプログラムを実行するCPUと、アクセス可能な記憶装置として機能するRAMとから構成される。サーバ処理装置330は、ROMに格納されたプログラムをCPUにより実行することにより、車載装置100から送信された車内での利用履歴情報、及び外部装置200から送信された車外での利用履歴情報を格納する利用履歴格納処理と、車内の人員構成ごとに利用される傾向にあるサービスを分析する利用履歴分析処理と、車載装置100が搭載された車両内の人員構成に基づいて、サービス案内情報を車載装置100に提供する情報提供処理と、を実行する。
まず、利用履歴格納処理について説明する。サーバ処理装置330は、サーバ通信装置310から入力される車内での利用履歴情報及び車外での利用履歴情報を、データベース320に格納する。また、サーバ処理装置330は、2種類の利用履歴情報の送信元が車載装置100又は外部装置200かを識別することができ、2種類の利用履歴情報を判別して、データベース320に格納する。また、サーバ処理装置330は、利用履歴情報に含まれる人員構成に基づいて、性別ごと、年齢ごと、人数ごとに、データベース320に蓄積された利用履歴情報を並べ替える等の統計処理を実行することができる。
図3は、データベース320に蓄積された車内での利用履歴情報の一例である。図3に示すように、データベース320には、車内で利用されたサービスの種別及びサービスの具体的な内容が、車内の人数、車内の人物の性別、及び車内の人物の年齢と関連付けられて蓄積されている。例えば、図3の「車内で利用されたサービス」の列について、1行目には、サービスの種別として「音楽の再生」と、音楽の具体的な内容として「曲名A」が示されている。2行目には、「テレビ番組の再生」及び「番組名A」が示されている。
また、図3には、各サービスを利用した際の車内の人員構成の情報として、「人数」、「性別」、「年齢」が示されている。例えば、「番組名Aのテレビ番組の再生」のサービスには、60代の男性1名、60代の女性1名の計2名が関連付けられている。
次に、利用履歴分析処理について説明する。サーバ処理装置330は、データベース320に蓄積された利用履歴情報を分析することで、車内の人員構成ごとに最適なサービスを特定する。サーバ処理装置330は、車内での利用履歴情報と車外での利用履歴情報のどちらか一方のデータを分析してもよいし、2種類の利用履歴情報を併せたデータを分析してもよい。ここでは、車内での利用履歴情報の分析を例に挙げて説明する。
サーバ処理装置330は、車内の人員構成ごとに利用される傾向にあるサービスを分析する。例えば、サーバ処理装置330は、データベース320から車内での利用履歴情報を取得し、一のサービスに対してクラスタリング処理を実行し、車内の人員構成の情報を構成するパラメータごとに(人数ごと、性別ごと、年齢ごと)グループ化する。そして、サーバ処理装置330は、グループ化されたそれぞれについて、統計処理を実行して、人数ごと、性別ごと、年齢ごとに当該サービスが利用される傾向を分析する。サーバ処理装置330は、分析された、一のサービスに対して利用される傾向にある人数、性別、及び年齢の組み合わせを、一のサービスに対する特徴量として算出する。サーバ処理装置330は、サービスごとに上述した処理を繰り返すことで、車内の人員構成ごとに利用される傾向にあるサービスを分析する。
また、サーバ処理装置330は、所定の周期毎に、すなわち、最新の利用履歴情報がデータベース320に蓄積されていくたびに、上述した分析処理を繰り返す。これにより、車内の人員構成と利用される傾向にあるサービスの関係性を学習することができる。そして、サーバ処理装置330は、各周期における分析結果の分布が所定の範囲内に収まると、利用されるサービスの傾向の変動が収束したと判断して、人数、性別、及び年齢の組み合わせに応じて、最適なサービスを特定する。
また、サーバ処理装置330は、車内の人員構成ごとに一の最適なサービスを特定するだけでなく、車内の人員構成ごとに利用される傾向にある可能性がある複数のサービス候補を特定する。例えば、サーバ処理装置330は、利用された実績のあるサービスの中から、利用される傾向にある人数、性別、及び年齢の組み合わせ数が多いサービスの順に優先順位を付け、利用される可能性が高い複数のサービス候補を抽出する。なお、車内での利用履歴情報の分析方法は、上述した方法に限定されず、サーバ処理装置330は、本願出願時における分析方法の技術を適宜に用いることができる。
サーバ処理装置330は、車内での利用履歴情報の分析が終了すると、車内の人員構成ごとに最適なサービス、車内の人員構成ごとに利用される可能性がある複数のサービス候補、各サービスの特徴量(利用される傾向にある人数、性別、及び年齢の組み合わせ)のそれぞれを、データベース320に格納する。また、サーバ処理装置330は、車外での利用履歴情報に対しても、上述の処理と同様の処理を実行することで、車外の人員構成ごとに最適なサービス、車外の人員構成ごとに利用される可能性がある複数のサービス候補、各サービスの特徴量を、データベース320に格納する。
次に、情報提供処理について説明する。まず、サーバ処理装置330は、車載装置100から送信された情報から、現在の車内に過去に乗車した経験がある人物が存在するか否かを判定する。サーバ処理装置330は、車内の人員構成のうち車載カメラ110の撮像画像から乗車経験者が存在するか否かを判定し、運転者を除く乗車経験者が同乗者として1人でも含まれている場合、データベース320から、当該乗車経験者が過去に車内で利用したサービスを抽出する。そして、サーバ処理装置330は、抽出したサービスを最適なサービスとして特定し、サービス案内情報とする。
次に、現在の車内には乗車経験者が存在しない場合について説明する。この場合、サーバ処理装置330は、現在の車内の人員構成に最適なサービスを特定し、サービス案内情報とする。例えば、サーバ処理装置330は、車載装置100から、現在の車内の人員構成の情報が入力されると、データベース320に格納された車内での利用履歴情報の分析結果を参照する。そして、サーバ処理装置330は、分析結果の中に、現在の車内の人員構成に最適なサービスが含まれている場合、当該サービスを最適なサービスとして特定する。反対に、サーバ処理装置330は、車内での利用履歴情報の分析結果には、最適なサービスが含まれていない場合、車外での利用履歴情報の分析結果を参照する。そして、サーバ処理装置330は、分析結果の中に、現在の車内の人員構成に最適なサービスが含まれている場合、当該サービスを最適なサービスとして特定する。
また、サーバ処理装置330は、いずれの利用履歴情報の分析結果にも現在の車内の人員構成に最適なサービスが含まれていない場合、車内での利用履歴情報の分析結果から、現在の人員構成において利用される可能性がある複数のサービス候補であって、優先度が付されている複数のサービス候補を抽出し、サービス案内情報とする。
サーバ処理装置330は、上述した各処理により得られたサービス案内情報を、サーバ通信装置310を介して車載装置100に送信する。車載装置100は、受信したサービス案内情報を車載ディスプレイ140に表示することで、車内の人物に対して、現在の車内の人員構成に最適なサービスの情報、現在の車内の人員構成において利用される可能性がある複数のサービス候補の情報、又は、過去に利用したサービスの情報を提示することができる。サービス案内情報には、映像再生、音楽再生等のサービスの種別と、番組名、曲名などのサービスの具体的な内容が含まれる。
次に、図4を参照しながら、車載装置100が車内での利用履歴情報をデータセンタ300に送信するまでの動作について説明する。図4は、車載装置100が車内での利用履歴情報をデータセンタ300に送信するまでのフローチャートである。図4に示すフローチャートの処理は、各車両に搭載された車載装置100によりそれぞれ実行される。
まず、ステップS101では、車載制御装置170は、車載カメラ110から車内の撮像画像を取得する。車載カメラ110が車載装置100に複数設けられている場合、車載制御装置170は、各車載カメラ110から撮像画像を取得する。
ステップS102では、車載制御装置170は、ステップS101にて取得した車内の撮像画像に基づいて、車内に存在する人物の特徴を推定する。車内の人物の特徴には、車内の人物の性別及び車内の人物の年齢が含まれる。車載制御装置170は、車内に複数の人物が存在する場合、一人ずつ特徴を推定する。また、このステップにおいて、車載制御装置170は、撮像画像から車内に存在する人物を検出し、車内の人数を算出する。
ステップS103では、車載制御装置170は、車内の人員構成を推定する。車内の人員構成には、ステップS102にて算出した車内の人数と、同ステップにて、推定した車内の人物の特徴が関連付づけられている(図2(A)参照)。
ステップS104では、車載制御装置170は、車内で利用されているサービスを特定する。例えば、車載制御装置170は、車載カメラ110から入力される撮像画像から、車載ディスプレイ140の画面を検出することで、車内で再生されているテレビ番組の番組名を特定する。また、例えば、車載制御装置170は、車載マイク120から入力される音声情報から、車内で再生されている音楽の曲名を特定する。
ステップS105では、車載制御装置170は、車内で利用されているサービスの履歴として、車内での利用履歴情報を作成する。車載制御装置170は、ステップS103で推定した車内の人員構成と、ステップS104で特定した車内で利用されているサービスを関連付けて、車内での利用履歴情報とする。これにより、車内の人員構成と、その人員構成において利用されたサービスが対応づけられる。
ステップS106では、車載制御装置170は、ステップS105にて生成した車内での利用履歴情報を、データセンタ300に送信する。ステップS106が終了すると、車載装置100が車内での利用履歴情報をデータセンタ300に送信するまでの処理は終了する。
次に、図5を参照しながら、外部装置200が車外での利用履歴情報をデータセンタ300に送信するまでの動作について説明する。図5は、外部装置200が車外での利用履歴情報をデータセンタ300に送信するまでのフローチャートである。図5に示すフローチャートの処理は、各施設又は各家庭に設けられた外部装置200によりそれぞれ実行される。
まず、ステップS201では、外部制御装置270は、外部カメラ210から車外の撮像画像を取得する。外部カメラ210が外部装置200に複数設けられている場合、車載制御装置170は、各車載カメラ110から撮像画像を取得する。
ステップS202では、外部制御装置270は、ステップS201にて取得した車外の撮像画像に基づいて、車外に存在する人物の特徴を推定する。車外の人物の特徴には、車外の人物の性別及び車外の人物の年齢が含まれる。外部制御装置270は、外部装置200の周辺に複数の人物が存在する場合、一人ずつ特徴を推定する。また、このステップにおいて、外部制御装置270は、撮像画像から外部装置200の周辺に存在する人物を検出し、車外の人数を算出する。
ステップS203では、外部制御装置270は、車外の人員構成を推定する。車外の人員構成には、ステップS202にて算出した車外の人数と、同ステップにて、推定した車外の人物の特徴が関連付づけられている(図2(B)参照)。
ステップS204では、外部制御装置270は、車外で利用されているサービスを特定する。例えば、外部制御装置270は、外部マイク220から入力される音声情報から、家庭内や施設内で再生されている音楽の曲名を特定する。
ステップS205では、外部制御装置270は、車外で利用されているサービスの履歴として、車外での利用履歴情報を作成する。外部制御装置270は、ステップS203で推定した車外の人員構成と、ステップS204で特定した車外で利用されているサービスを関連付けて、車外での利用履歴情報とする。これにより、車外の人員構成と、その人員構成において利用されたサービスが対応づけられる。
ステップS206では、外部制御装置270は、ステップS205にて生成した車外での利用履歴情報を、データセンタ300に送信する。ステップS206が終了すると、外部装置200が車外での利用履歴情報をデータセンタ300に送信するまでの処理は終了する。
次に、図6を参照しながら、人員構成ごとに最適なサービスを特定する動作について説明する。図6は、人員構成ごとに最適なサービスを特定する処理を説明するためのフローチャートである。図6に示すフローチャートの処理は、データセンタ300のサーバ処理装置330により実行される。
ステップS301では、サーバ処理装置330は、車載装置100から送信される車内での利用履歴情報(図4参照)、及び外部装置200から送信される車外での利用履歴情報(図5参照)を収集し、データベース320に蓄積させる。なお、サーバ処理装置330が2種類の利用履歴情報を収集する期間は、特に限定されない。データベース320には、利用されたサービス、人数、性別、年齢が判別される形式で利用履歴情報が蓄積されていく(図3参照)。
ステップS302では、サーバ処理装置330は、ステップS301にてデータベース320に蓄積された、各車両の車内での利用履歴情報から、車内での人員構成と利用される傾向にあるサービスについて分析する。例えば、サーバ処理装置330は、車内で利用された一のサービスに対してクラスタリング処理により、車内の人員構成の情報を構成するパラメータごとに(人数ごと、性別ごと、年齢ごと)グループ化する。そして、サーバ処理装置330は、グループ化されたそれぞれに対して、一のサービスが利用される傾向を分析し、一のサービスに対して人数、性別、及び年齢の組み合わせで表せる、一のサービスに対する特徴量を算出する。サーバ処理装置330は、サービスごとに上述した処理を実行することで、各サービスに対する特徴量を算出する。
また、サーバ処理装置330は、このステップにおいて、車外での利用履歴情報についても、上述した車内での利用履歴情報と同様に、車外の人員構成ごとに利用される傾向にあるサービスについて分析する。
ステップS303では、サーバ処理装置330は、ステップS302にて得られた分析結果に基づいて、人員構成ごとに最適なサービスを特定する。また、このステップにおいて、サーバ処理装置330は、ステップS302にて得られた分析結果に基づいて、データベース320から、人員構成ごとに利用される可能性がある複数のサービス候補であって、利用される可能性が高い順に優先度が付された複数のサービス候補を抽出する。
ステップS304では、サーバ処理装置330は、ステップ302にて得られた分析結果、及びステップS303にて特定された人員構成ごとに最適なサービスを、データベース320に格納する。ステップS304が終了すると、サーバ処理装置330が人員構成ごとに最適なサービスを特定する処理は終了する。
次に、図7A、図7Bを参照しながら、車両に乗車してから車内の人員構成に最適なサービスが提供されるまでの処理について説明する。図7A、図7Bは、車両に乗車してから車内の人員構成に最適なサービスが提供するまでの処理を説明するためのフローチャートである。図7Aに示すステップS501~S505、及びステップS508の処理と、図7Bに示すステップS512~S514の処理は、特定の車両に搭載された車載装置100により実行される。また、図7Aに示すステップS506、ステップS507、及びステップS509~S511の処理は、データセンタ300のサーバ処理装置330により実行される。
ステップS501では、車載制御装置170は、車載カメラ110から、現在の車内の撮像画像を取得する。車載制御装置170は、例えば、一又は複数の人物が乗車したタイミング、又は車両が発進するタイミングにおいて、車載カメラ110から現在の車内の撮像画像を取得する。なお、このステップは、図4のステップS101に対応する。
ステップS502では、車載制御装置170は、ステップS501にて取得した現在の車内の撮像画像に基づいて、現在の車内に存在する人物の特徴を推定する。なお、このステップは、図4のステップS102に対応する。
ステップS503では、車載制御装置170は、現在の車内の人員構成を推定する。なお、このステップは、図4のステップS103に対応する。
ステップS504では、車載制御装置170は、ステップS501にて取得した現在の車内の撮像画像から、過去に乗車経験がある人物が乗車しているか否かを判定する。現在の車内に過去に乗車経験がある人物が検出されなかった場合、ステップS505へ進み、過去に乗車経験がある人物が検出された場合、ステップS508へ進む。
ステップS505では、車載制御装置170は、ステップS503にて推定した現在の車内の人員構成の情報を、データセンタ300に送信する。
ステップS504にて、過去に乗車経験がある人物が検出された場合、ステップS508へ進む。ステップS508では、車載制御装置170は、ステップS504にて検出された乗車経験がある人物の情報を、データセンタ300に送信する。
ステップS505又はステップS508が終了すると、車載装置100は、データセンタ300からの応答が来るまで待機する。
ステップS505にて、車載装置100から現在の車内の人員構成の情報がデータセンタ300に送信されると、ステップS506に進む。ステップS506では、サーバ処理装置330は、サーバ通信装置310を介して、ステップS505にて車載装置100から送信された現在の車内の人員構成の情報を受信する。
ステップS507では、サーバ処理装置330は、ステップS506にて受信した現在の車内の人員構成に対して、最適なサービスをデータベース320から抽出する。なお、このステップにおいて、サーバ処理装置330は、データベース320から現在の車内の人員構成において利用される可能性が高い複数のサービス候補を抽出してもよい。サーバ処理装置330は、最適なサービス及び複数のサービス候補の少なくともいずれか一方を含むサービス案内情報を作成する。
ステップS508にて車載装置100から乗車経験がある人物の情報がデータセンタ300に送信されると、ステップS509に進む。ステップS509では、サーバ処理装置330は、サーバ通信装置310を介して、ステップS508にて車載装置100から送信された乗車経験がある人物の情報を受信する。
ステップS510では、サーバ処理装置330は、データベース320から乗車経験がある人物が過去に利用したサービスを抽出する。なお、該当するサービスが複数存在する場合、サーバ処理装置330は、複数のサービスに利用頻度が高い順に優先順位をつけることができる。サーバ処理装置330は、乗車経験がある人物が過去に利用したサービスを含むサービス案内情報を作成する。
ステップS511では、サーバ処理装置330は、ステップS507又はステップS510にて作成されたサービス案内情報を車載装置100へ送信する。
ステップS512では、車載制御装置170は、データセンタ300から車載通信装置160を介して、サービス案内情報を受信する。
ステップS513では、車載制御装置170は、サービス案内情報を受信したことを車載ディスプレイ140に表示させ、車内の人物にサービス案内情報に含まれるサービスを利用するか否かの選択を促す。例えば、車載制御装置170は、車載ディスプレイ140にサービス案内情報に含まれるサービスを表示させるとともに、利用するか否かの選択画面を表示させる。車内の人物がサービス案内情報を利用することを選択すると、ステップS514へ進み、車内の人物がサービス案内情報を利用しないことを選択すると、情報提供の処理は終了する。
ステップS514では、車載制御装置170は、ステップ512にて受信したサービス案内情報を出力する。車載制御装置170は、サービス案内情報に含まれる最適なサービスを、車載ディスプレイ140及び車載スピーカ150の少なくとも一方を利用して車内に提供する。例えば、車載制御装置170は、曲名Aの音楽を車載スピーカ150から出力させる。これにより、例えば、子供がいない夫婦と親戚の子供が同乗する場面であっても、夫婦が子供の年代の音楽を知らなくても、親戚の子供には馴染みがある音楽を車内に流すことができる。
また、このステップにおいて、車載制御装置170は、サービス案内情報に含まれる複数のサービス候補をリスト化し、車載ディスプレイ140にサービス候補のリストを表示させてもよい。これにより、車内の人物は車内の複数のサービス候補の中から最適なサービスを選択することができる。
また、このステップにおいて、車載制御装置170は、過去に乗車経験がある人物が以前に利用したサービスを、車載ディスプレイ140及び車載スピーカ150の少なくとも一方を利用して車内に提供してもよい。ステップS514が終了すると、乗車してから車内の人員構成に最適なサービスが提供されるまでの処理は終了する。
以上のように、本実施形態では、車載装置100は、車両の室内を撮像する車載カメラ110から車内の撮像画像を取得し、車内の撮像画像に基づいて、車内に存在する人物の特徴を推定し、車内の人数と車内の人物の特徴が関連付けられた車内の人員構成を推定し、車内で利用されたサービスを特定し、車内の人員構成と車内でのサービスが関連付けられた車内での利用履歴情報をデータセンタ300に送信する。データセンタ300では、サーバ処理装置330は、車内での利用履歴情報をデータベース320に蓄積させ、蓄積された車内での利用履歴情報を分析することで車内の人員構成ごとに最適なサービスを特定する。これにより、様々な車内の人員構成に対応したサービスの提供が可能となるとともに、乗車してから時間をかけることなく車内に最適なサービスの決定をすることができる。
また、本実施形態では、車載装置100は、車内の人物の特徴として車内の人物の性別及び年齢を推定する。これらの特徴は、車載カメラ110の撮像画像のみを用いて車内の人物の特徴を推定され、人員構成に含まれる各パラメータを、複雑な装置を用いることなく容易に推定することができる。
さらに、本実施形態では、外部装置200は、車両の室外を撮像する外部カメラ210から車外の撮像画像を取得し、車外の撮像画像に基づいて、車外に存在する人物の特徴を推定し、車外の人数と車外の人物の特徴が関連付けられた車外の人員構成を推定し、車外で利用されたサービスを特定し、車外の人員構成と車外でのサービスが関連付けられた車外での利用履歴情報をデータセンタ300に送信する。データセンタ300では、サーバ処理装置330は、車外での利用履歴情報をデータベース320に蓄積させ、車内での利用履歴情報及び車外で利用履歴情報を分析することで車内の人員構成ごとに最適なサービスを特定する。車外での利用履歴情報には、施設や家庭内で利用されたサービスを含むため、例えば、現在の流行に合わせたサービスであっても提供することが可能になる。
また、本実施形態では、車載装置100は、複数の車載カメラ110から取得した複数の車内の撮像画像に基づいて、車内の人物の特徴を推定する。これにより、車内の人物の特徴を精度良く推定することができる。
さらに、本実施形態では、車載装置100は、車載カメラ110から現在の車内の撮像画像を取得し、現在の車内の撮像画像に基づいて、現在の車内に存在する人物の特徴を推定し、現在の車内の人数と現在の車内の人物の特徴が関連付けられた現在の車内の人員構成を推定し、現在の車内の人員構成の情報をデータセンタ300に送信する。データセンタ300では、サーバ処理装置330は、データベース320に蓄積された、車内の人員構成ごと特定された最適なサービスの中から、現在の車内の人員構成に最適なサービスを選択して車載装置100に送信する。車載装置100では、車載制御装置170は、データセンタ300から受信した現在の人員構成に最適なサービスを車内に提供する。これにより、乗車してから時間をかけることなく車内に最適なサービスを提供することができる。
また、本実施形態では、車載装置100は、データセンタ300から受信した最適なサービスを車内に提供するか否かの選択を車内の人物に促す。これにより、車内の人物は必要に応じてデータセンタ300からのサービス案内情報を利用することができる。
さらに、本実施形態では、車載装置100は、車載カメラ110が撮像した車内の撮像画像から、過去に乗車経験がある人物を検出した場合、乗車経験がある人物の情報をデータセンタ300に送信する。データセンタ300では、データベース320から、乗車経験がある人物が過去に利用したサービスを抽出して車載装置100に送信する。車載装置100では、車載制御装置170は、車内に抽出したサービスを提供する。これにより、乗車経験がある各個人の好みに合ったサービスを車内に提供することができる。
また、本実施形態では、サーバ処理装置330は、データベース320に蓄積された分析結果に基づいて、現在の車内の人員構成に適した複数のサービス候補を抽出する。また、サーバ処理装置330は、抽出した複数のサービスに対して、現在の車内の人員構成で利用される可能性が高い順に優先度を付ける。車載装置100では、優先度が付された複数のサービス候補が車内に提示される。これにより、初めて乗車する人がいる場合であっても、この乗員の好みに近いサービスを提案することができる。
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態において開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
例えば、上述の実施形態では、車内で利用されるサービスとして、車載ディスプレイ140及び車載スピーカ150の少なくとも何れか一方を利用したサービスを例に挙げて説明したが、車内で利用されるサービスはこれに限定されない。例えば、車内で利用されるサービスは、車内の人物が所有する端末装置を利用したサービスであってもよい。端末装置としては、携帯電話、スマートフォン、ノートパソコン、タブレットパソコン等のインターネット接続可能な装置が一例として挙げられる。また、端末装置を利用したサービスとしては、アプリケーションを用いて再生される音楽、テレビ番組や、インターネットブラウザが表示するウェブサイト等が一例として挙げられる。
端末装置を利用したサービスを車内で利用している場合、車載装置100は、車載カメラ110が撮像する車内の撮像画像、車載マイク120が収集する音声情報から、端末装置を利用したサービスの種別及び具体的な内容を特定する。また、この場合、データセンタ300からのサービス案内の送信先は、車載装置100ではなく端末装置であってもよい。このように、端末装置を利用したサービスを対象にすることで、データセンタ300側では、端末装置の仕様により利用することができないサービスを、分析対象から予め取り除くことができる。これにより、サービスの出力装置の仕様に合わず、実際には利用できないサービスの情報を車内に提示するのを防ぐことができる。
また、例えば、上述した実施形態では、外部装置200が特定するサービスの対象は、外部装置200そのものが提供しているサービスであったが、これに限られない。例えば、外部装置200は、外部カメラ210が撮像する車外の撮像画像や外部マイク220が収集する音声情報から、外部装置200の周辺に設けられた装置や機器が提供しているサービスを特定することができる。例えば、外部装置200が商業施設に設けられていれば、外部装置200は、外部マイク220により商業施設内に流れる音楽を特定することができる。また、例えば、外部装置200が家庭内に設けられていれば、外部装置200は、外部カメラ210によりテレビで放映されている番組を特定することができる。外部装置200が特定するサービスの対象を広げることで、データベース320には多種多様のサービスが蓄積される。その結果、様々な人員構成に対応することが可能な最適なサービスを車内に提供することができる。
また、例えば、上述した実施形態では、車載装置100側では、車内の人物の特徴を推定したり、車内の人員構成を推定したりする構成を例に挙げて説明したが、車内の人物の特徴を推定すること、車内の人員構成を推定することは、データセンタ300であってもよい。例えば、車載装置100は、車載カメラ110が撮像した車内の撮像画像をデータセンタ300に送信し、サーバ処理装置330側で、車内の人物の特徴や車内の人員構成を推定してもよい。
また、例えば、上述した実施形態では、本発明に係る情報処理装置を、情報提供システム1を構成する、車載制御装置170と、データベース320と、サーバ処理装置330の構成を例に説明したが、本発明はこれに限定されるものではない。例えば、データセンタ300が備える、データベース320と、サーバ処理装置330を車載装置100が備えていてもよい。
また、例えば、上述した実施形態では、本発明に係るコントローラを、車載制御装置170とサーバ処理装置330の構成を例に説明したが、本発明はこれに限定されるものではない。