特許文献1の従来技術では、車両の先端に搭載したカメラによって撮影された画像データと経路案内情報を画像合成し、経路案内を出力することができるが、ドライバが見る車窓の景色から容易に理解できないことがあるという課題があった。例えば、特許文献1の従来技術のように画像データと車両の進行方向を矢印で示す経路案内情報を画像合成して表示しても、交差点が三叉路である場合、進入道路が複数で入り組んでいる場合は、矢印がどの進入道路を示しているのか識別できない場合がある。また、夜間走行時および/または雨天走行時のように画像データが鮮明でない場合は、矢印の示す進入道路を識別できない場合がある。
この発明は、上述した従来技術による問題点を解消するためになされたものであり、ドライバが見る車窓の景色から容易に理解できる経路案内装置、経路案内方法および経路案内プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するため、請求項1の発明に係る経路案内装置は、地図情報と車両の現在位置情報とを用いて経路案内を出力する経路案内装置であって、前記車両の周辺の画像データを取得する画像データ取得手段と、前記画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出する経路案内情報抽出手段と、前記経路案内情報要素から前記経路案内に使用する情報である経路案内情報を作成し、該経路案内情報を用いて前記経路案内を出力する経路案内手段と、を備えたことを特徴とする。
この請求項1の発明によれば、車両の周辺の画像データを取得し、画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出し、経路案内情報要素から経路案内に使用する情報である経路案内情報を作成し、経路案内情報を用いて経路案内を出力することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、請求項2の発明に係る経路案内装置は、請求項1の発明において、前記画像データから識別すべき対象物と該対象物に関する画像パターンデータ、形状パターンデータ、色パターンデータおよび移動パターンデータとを関連付けて記憶する画像認識データベース記憶手段を、さらに備え、前記経路案内情報抽出手段は、前記画像認識データベース記憶手段を用いて前記画像データから構造物、道路案内標識、交通信号、電光掲示板、看板、車両のいずれか一つを少なくとも含む前記対象物を識別し、識別した対象物から名称、形状、色、移動方向のいずれか一つを少なくとも含む前記経路案内情報要素を抽出することを特徴とする。
この請求項2の発明によれば、画像データから識別すべき対象物と対象物に関する画像パターンデータ、形状パターンデータ、色パターンデータおよび移動パターンデータとを関連付けて記憶し、画像データから構造物、道路案内標識、交通信号、電光掲示板、看板、車両のいずれか一つを少なくとも含む対象物を識別し、識別した対象物から名称、形状、色、移動方向のいずれか一つを少なくとも含む経路案内情報要素を抽出することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、請求項3の発明に係る経路案内装置は、請求項1の発明において、前記車両の周囲の明暗、天候を判定する周囲状況判定手段と、前記画像データ取得手段によって取得された画像データに対してコントラスト処理、鮮明化処理のいずれか一つを少なくとも含む画像処理を施す画像処理手段と、前記周囲状況判定手段によって判定された車両の周囲の明暗、天候に応じて前記画像処理手段によって前記画像データに対して施される画像処理を切替える画像処理切替手段と、をさらに備えることを特徴とする。
この請求項3の発明によれば、車両の周囲の明暗、天候を判定し、画像データに対してコントラスト処理、鮮明化処理のいずれか一つを少なくとも含む画像処理を施し、車両の周囲の明暗、天候に応じて画像データに対して施される画像処理を切替えることとしたので、夜間走行時および/または雨天走行時のように画像データが鮮明でない場合でもドライバが見る車窓の景色から容易に理解できる。
また、請求項4の発明に係る経路案内装置は、請求項3の発明において、前記周囲状況判定手段は、照明装置のON/OFF情報、ワイパ装置のON/OFF情報、前記画像データ、光センサのセンサ出力、濡れセンサのセンサ出力、タイマの時刻のいずれか一つを少なくとも使用して前記車両の周囲の明暗、天候を判定することを特徴とする。
この請求項4の発明によれば、照明装置のON/OFF情報、ワイパ装置のON/OFF情報、画像データ、光センサのセンサ出力、濡れセンサのセンサ出力、タイマの時刻のいずれか一つを少なくとも使用して車両の周囲の明暗、天候を判定することとしたので、車両の周囲の明暗、天候を容易に判定することができ、もって夜間走行時および/または雨天走行時のように画像データが鮮明でない場合でもドライバが見る車窓の景色から容易に理解できる。
また、請求項5の発明に係る経路案内装置は、請求項1の発明において、文字、記号、数字をそれぞれ文字パターンデータ、記号パターンデータ、数字パターンデータと関連付けて記憶する文字認識データベース記憶手段と、前記文字認識データベース記憶手段を用いて前記画像データから前記文字、記号、数字のいずれか一つを少なくとも抽出する文字認識手段と、をさらに備え、前記経路案内情報抽出手段は、前記文字認識手段および前記文字認識データベース記憶手段を用いて前記画像データから前記文字、記号、数字のいずれか一つを少なくとも抽出することを特徴とする。
この請求項5の発明によれば、文字、記号、数字をそれぞれ文字パターンデータ、記号パターンデータ、数字パターンデータと関連付けて記憶し、画像データから文字、記号、数字のいずれか一つを少なくとも抽出し、画像データから文字、記号、数字のいずれか一つを少なくとも抽出することとしたので、ドライバが見る車窓の景色から容易に理解できる経路案内情報要素を抽出することができる。
また、請求項6の発明に係る経路案内装置は、請求項1の発明において、前記経路案内情報から音声合成データを作成する音声合成手段をさらに備え、前記経路案内手段は、前記音声合成手段を用いて前記経路案内情報から音声合成データを作成して経路案内を出力するよう制御することを特徴とする。
この請求項6の発明によれば、経路案内情報から音声合成データを作成し、経路案内情報から音声合成データを作成して経路案内を出力するよう制御することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、請求項7の発明に係る経路案内装置は、請求項1の発明において、前記経路案内手段は、前記経路案内情報を文字表示して経路案内を出力するよう制御することを特徴とする。
この請求項7の発明によれば、経路案内情報を文字表示して経路案内を出力するよう制御することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、請求項8の発明に係る経路案内装置は、請求項1の発明において、前記画像処理手段によって画像処理を施された画像データと前記経路案内手段によって作成された経路案内情報を画像合成する画像合成手段をさらに備え、前記経路案内手段は、前記画像合成手段によって画像合成された画像データと経路案内情報を画像表示して経路案内を出力するよう制御することを特徴とする。
この請求項8の発明によれば、画像処理を施された画像データと経路案内情報を画像合成し、画像合成された画像データと経路案内情報を画像表示して経路案内を出力することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、請求項9の発明に係る経路案内方法は、地図情報と車両の現在位置情報とを用いて経路案内を出力する経路案内装置に用いられる経路案内方法であって、前記車両の周辺の画像データを取得する画像データ取得工程と、前記画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出する経路案内情報抽出工程と、前記経路案内情報要素から前記経路案内に使用する情報である経路案内情報を作成し、該経路案内情報を用いて前記経路案内を出力する経路案内工程と、を含んだことを特徴とする。
この請求項9の発明によれば、車両の周辺の画像データを取得し、画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出し、経路案内情報要素から経路案内に使用する情報である経路案内情報を作成し、経路案内情報を用いて経路案内を出力することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、請求項10の発明に係る経路案内方法は、請求項9の発明において、前記画像データから識別すべき対象物と該対象物に関する画像パターンデータ、形状パターンデータ、色パターンデータおよび移動パターンデータとを関連付けて記憶する画像認識データベースを生成する画像認識データベース生成工程を、さらに含み、前記経路案内情報抽出工程は、前記画像認識データベース生成工程によって生成された画像認識データベースを用いて前記画像データから構造物、道路案内標識、交通信号、電光掲示板、看板、車両のいずれか一つを少なくとも含む前記対象物を識別し、識別した対象物から名称、形状、色、移動方向のいずれか一つを少なくとも含む前記経路案内情報要素を抽出することを特徴とする。
この請求項10の発明によれば、画像データから識別すべき対象物と対象物に関する画像パターンデータ、形状パターンデータ、色パターンデータおよび移動パターンデータとを関連付けて記憶する画像認識データベースを生成し、画像認識データベースを用いて画像データから構造物、道路案内標識、交通信号、電光掲示板、看板、車両のいずれか一つを少なくとも含む対象物を識別し、識別した対象物から名称、形状、色、移動方向のいずれか一つを少なくとも含む経路案内情報要素を抽出することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、請求項11の発明に係る経路案内方法は、請求項9の発明において、前記車両の周囲の明暗、天候を判定する周囲状況判定工程と、前記画像データ取得工程によって取得された画像データに対してコントラスト処理、鮮明化処理のいずれか一つを少なくとも含む画像処理を施す画像処理工程と、前記周囲状況判定工程によって判定された車両の周囲の明暗、天候に応じて前記画像処理工程によって前記画像データに対して施される画像処理を切替える画像処理切替工程と、をさらに含むことを特徴とする。
この請求項11の発明によれば、車両の周囲の明暗、天候を判定し、画像データに対してコントラスト処理、鮮明化処理のいずれか一つを少なくとも含む画像処理を施し、車両の周囲の明暗、天候に応じて画像データに対して施される画像処理を切替えることとしたので、夜間走行時および/または雨天走行時のように画像データが鮮明でない場合でもドライバが見る車窓の景色から容易に理解できる。
また、請求項12の発明に係る経路案内方法は、請求項11の発明において、前記周囲状況判定工程は、照明装置のON/OFF情報、ワイパ装置のON/OFF情報、前記画像データ、光センサのセンサ出力、濡れセンサのセンサ出力、タイマの時刻のいずれか一つを少なくとも使用して前記車両の周囲の明暗、天候を判定することを特徴とする。
この請求項12の発明によれば、照明装置のON/OFF情報、ワイパ装置のON/OFF情報、画像データ、光センサのセンサ出力、濡れセンサのセンサ出力、タイマの時刻のいずれか一つを少なくとも使用して車両の周囲の明暗、天候を判定することとしたので、車両の周囲の明暗、天候を容易に判定することができ、もって夜間走行時および/または雨天走行時のように画像データが鮮明でない場合でもドライバが見る車窓の景色から容易に理解できる。
また、請求項13の発明に係る経路案内プログラムは、地図情報と車両の現在位置情報とを用いて経路案内を出力する経路案内装置に用いられる経路案内プログラムであって、前記車両の周辺の画像データを取得する画像データ取得手順と、前記画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出する経路案内情報抽出手順と、前記経路案内情報要素から前記経路案内に使用する情報である経路案内情報を作成し、該経路案内情報を用いて前記経路案内を出力する経路案内手順と、をコンピュータに実行させることを特徴とする。
この請求項13の発明によれば、車両の周辺の画像データを取得し、画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出し、経路案内情報要素から経路案内に使用する情報である経路案内情報を作成し、経路案内情報を用いて経路案内を出力することとしたので、ドライバが見る車窓の景色から容易に理解できる。
請求項1の発明によれば、車両の周辺の画像データを取得し、画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出し、経路案内情報要素から経路案内に使用する情報である経路案内情報を作成し、経路案内情報を用いて経路案内を出力するよう構成したので、ドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項2の発明によれば、画像データから識別すべき対象物と対象物に関する画像パターンデータ、形状パターンデータ、色パターンデータおよび移動パターンデータとを関連付けて記憶し、画像データから構造物、道路案内標識、交通信号、電光掲示板、看板、車両のいずれか一つを少なくとも含む対象物を識別し、識別した対象物から名称、形状、色、移動方向のいずれか一つを少なくとも含む経路案内情報要素を抽出するよう構成したので、ドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項3の発明によれば、車両の周囲の明暗、天候を判定し、画像データに対してコントラスト処理、鮮明化処理のいずれか一つを少なくとも含む画像処理を施し、車両の周囲の明暗、天候に応じて画像データに対して施される画像処理を切替えるよう構成したので、夜間走行時および/または雨天走行時のように画像データが鮮明でない場合でもドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項4の発明によれば、照明装置のON/OFF情報、ワイパ装置のON/OFF情報、画像データ、光センサのセンサ出力、濡れセンサのセンサ出力、タイマの時刻のいずれか一つを少なくとも使用して車両の周囲の明暗、天候を判定するよう構成したので、車両の周囲の明暗、天候を容易に判定することができ、もって夜間走行時および/または雨天走行時のように画像データが鮮明でない場合でもドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項5の発明によれば、文字、記号、数字をそれぞれ文字パターンデータ、記号パターンデータ、数字パターンデータと関連付けて記憶し、画像データから文字、記号、数字のいずれか一つを少なくとも抽出し、画像データから文字、記号、数字のいずれか一つを少なくとも抽出するよう構成したので、ドライバが見る車窓の景色から容易に理解できる経路案内情報要素を抽出することができるという効果を奏する。
また、請求項6の発明によれば、経路案内情報から音声合成データを作成して経路案内を出力するよう制御するよう構成したので、ドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項7の発明によれば、経路案内情報を文字表示して経路案内を出力するよう制御するよう構成したので、ドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項8の発明によれば、画像処理を施された画像データと経路案内情報を画像合成し、画像合成された画像データと経路案内情報を画像表示して経路案内を出力するよう構成したので、ドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項9の発明によれば、車両の周辺の画像データを取得し、画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出し、経路案内情報要素から経路案内に使用する情報である経路案内情報を作成し、経路案内情報を用いて経路案内を出力するよう構成したので、ドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項10の発明によれば、画像データから識別すべき対象物と対象物に関する画像パターンデータ、形状パターンデータ、色パターンデータおよび移動パターンデータとを関連付けて記憶する画像認識データベースを生成し、画像認識データベースを用いて画像データから構造物、道路案内標識、交通信号、電光掲示板、看板、車両のいずれか一つを少なくとも含む対象物を識別し、識別した対象物から名称、形状、色、移動方向のいずれか一つを少なくとも含む経路案内情報要素を抽出するよう構成したので、ドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項11の発明によれば、車両の周囲の明暗、天候を判定し、画像データに対してコントラスト処理、鮮明化処理のいずれか一つを少なくとも含む画像処理を施し、車両の周囲の明暗、天候に応じて画像データに対して施される画像処理を切替えるよう構成したので、夜間走行時および/または雨天走行時のように画像データが鮮明でない場合でもドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項12の発明によれば、照明装置のON/OFF情報、ワイパ装置のON/OFF情報、画像データ、光センサのセンサ出力、濡れセンサのセンサ出力、タイマの時刻のいずれか一つを少なくとも使用して車両の周囲の明暗、天候を判定するよう構成したので、車両の周囲の明暗、天候を容易に判定することができ、もって夜間走行時および/または雨天走行時のように画像データが鮮明でない場合でもドライバが見る車窓の景色から容易に理解できるという効果を奏する。
また、請求項13の発明によれば、車両の周辺の画像データを取得し、画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出し、経路案内情報要素から経路案内に使用する情報である経路案内情報を作成し、経路案内情報を用いて経路案内を出力するよう構成したので、ドライバが見る車窓の景色から容易に理解できるという効果を奏する。
以下に添付図面を参照して、この発明に係る経路案内装置の好適な実施例を詳細に説明する。本実施例では、本発明に係る経路案内装置を実写映像を用いた経路案内システムに適用する。ここでは、(1)経路案内装置の概要と主要な特徴、(2)経路案内システムの構成、(3)コントラスト処理および鮮明化処理の具体例、(4)画像認識により抽出された経路案内情報要素の具体例、(5)実写映像による経路案内手順、(6)画像認識による経路案内情報要素の抽出手順の順番に説明する。
(1)経路案内装置の概要と主要な特徴
まず、本実施例に係る経路案内装置の概要と主要な特徴について説明する。図1は、本実施例に係る経路案内システムの構成を示す機能ブロック図である。同図に示すように、本実施例に係る経路案内装置10は、概略的には、地図情報と車両の現在位置情報とを用いて経路案内を出力する装置であり、ドライバが見る車窓の景色から容易に理解できることを特徴とする。
特に、本実施例に係る経路案内装置10は、撮影カメラ2が、車両の周囲の画像データを取得し、経路案内情報抽出部110は、撮影カメラ2によって取得された画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出し、経路案内処理部120bは、経路案内情報要素から経路案内に使用する情報である経路案内情報を用いて経路案内を出力することとしたので、ドライバが見る車窓の景色から容易に理解できる。
(2)経路案内システムの構成
次に、図1を参照して、経路案内システムの構成について説明する。同図に示すように、経路案内装置システムは、撮影カメラ2、GPS受信装置4、照明装置6、ワイパ装置8、経路案内装置10を有する。
撮影カメラ2は、車両に搭載され、ドライバの目線に近い位置で車両の周囲を撮影する撮影装置である。また、GPS受信装置4は、GPS衛星から送信されるGPS信号を受信して、受信したGPS信号を復調して車両の現在位置情報を示す測位データを取得する受信装置である。また、照明装置6は、前照灯、霧灯などの照明灯、照明灯に電力を供給する電源、電源をON/OFFするスイッチを有する。また、ワイパ装置8は、車両のウインドシールドガラスに付着した雨、雪、露などを拭き取って視界を確保するワイパ、ワイパを駆動するワイパ駆動装置、ワイパ駆動装置をON/OFFするスイッチを有する。
経路案内装置10は、地図情報と車両の現在位置情報を用いて経路案内を出力するナビゲーション装置であり、入力部101、画像表示部102、音声出力部103、記憶部104、カメラインタフェース部106、画像処理部108、経路案内情報抽出部110、画像合成部112、音声合成部114、GPSインタフェース部116、照明/ワイパ装置インタフェース部118、制御部120を有する。
入力部101は、ドライバの要求や指示を選択または入力する入力装置であり、具体的には、タッチペンやボタンなどである。また、画像表示部102は、画像合成部112によって合成された画像データと経路案内情報とを画像表示する画像表示装置であり、具体的には、LCD(Liquid Crystal Display)などである。また、音声出力部103は、音声合成部114によって音声合成された経路案内情報を音声出力する出力装置であり、具体的には、スピーカである。
記憶部104は、RAM(Random Access Memory)などの記憶装置であり、地図データベース104a、画像認識データベース104b、文字認識データベース104c、テキストデータベース104d、音声合成データベース104eを有する。
地図データベース104aは、車両の周囲の地図データを記憶するデータベースである。また、画像認識データベース104bは、画像データから識別すべき対象物と対象物に関する画像パターンデータ、形状パターンデータ、色パターンデータおよび移動パターンデータとを関連付けて記憶するデータベースである。ここで、図1に示す記憶部104が記憶する画像認識データベース104bの一例について説明する。図2は、図1に示す記憶部104が記憶する画像認識データベース104bの一例を示す図である。
同図に示すように、画像認識データベース104bは、画像データから識別すべき対象物、すなわち建物A1〜A3、道路案内標識B1〜B3、交通信号C1〜C3、電光掲示板D1〜D3、看板E1〜E3、車両F1〜F3と対象物に関する名称、画像パターンデータ、形状パターンデータ、色パターンデータ、移動パターンデータとを関連付けて記憶している。建物201は、道路わきに建っているランドマークとなりうる構造物であり、建物201の名称、位置、形状、色などが経路案内情報要素として用いられる。また、道路案内標識202は、道路わきまたは道路の上方に設置された道路の行き先を文字表示した標識であり、道路案内標識202の位置、形状、色、道路案内標識202から読み取られる文字、記号、数字が経路案内情報要素として用いられる。なお、文字、記号、数字は、文字認識データベース104cを用いて抽出される。
交通信号203は、交差点などで車両に進行、徐行、停止を指示する信号装置であり、交通信号203の位置、信号の色が経路案内情報として用いられる。また、電光掲示板204は、車両速度、道路の渋滞情報などを表示する表示装置であり、電光掲示板204の位置、電光掲示板204から読み取られる文字、記号、数字が経路案内情報要素として用いられる。また、看板205は、道路わきに建っているコンビニエンスストア、ファストフード店などの登録商標が表示された看板であり、看板205の位置などが経路案内情報要素として用いられる。また、車両206は、前方を走行している車両であり、車両206の進行方向などが経路案内情報要素として用いられる。
図1の説明に戻ると、文字認識データベース104cは、文字、記号、数字をそれぞれ文字パターンデータ、記号パターンデータ、数字パターンデータと関連付けて記憶するデータベースであり、日本語の平仮名、片仮名、漢字、英語のアルファベット、記号、数字などのパターンデータを記憶するデータベースである。
テキストデータベース104dは、経路案内情報要素および前記経路案内情報とテキストに関する単語、文節および文とを関連付けて記憶するデータベースであり、例えば、画像認識した“建物”、“灰色”という経路案内情報要素を“建物”、“灰色”という単語、さらに“灰色の建物”という語句に置き換えるデータベースである。また、画像認識で取得した建物と道路との位置関係、地図情報から取得した進行方向などの経路案内情報要素から、例えば“灰色の建物の手前の道路を左折してください。”という経路案内情報を文法に従ってテキストに編集するデータベースである。また、音声合成データベース104eは、テキストとテキストに関する読み、アクセント位置および音声データとを関連付けて記憶するデータベースである。
カメラインタフェース部106は、撮影カメラ2から出力された画像信号をA/D変換した後、画像表示部102で表示可能な動画像形式の画像データに変換し、画像処理部108に出力するデータインタフェース処理部である。また、画像処理部108は、カメラインタフェース部106から画像データを取得し、取得した画像データにコントラスト処理、鮮明化処理のいずれか一つを少なくとも含む画像処理を施し、経路案内情報抽出部110に出力する処理部である。なお、画像処理部108によって施されたコントラスト処理および鮮明化処理については、別途詳細に説明する。
経路案内情報抽出部110は、画像処理部108によって画像処理された画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出する処理部である。また、経路案内情報抽出部110は、画像認識データベース104bを用いて画像データから構造物、道路案内標識、交通信号、電光掲示板、看板、車両のいずれか一つを少なくとも含む対象物を識別し、識別した対象物から名称、形状、色、移動方向のいずれか一つを少なくとも含む経路案内情報要素を抽出し、制御部120に出力する処理部であり、文字認識部110aを有する。文字認識部110aは、文字認識データベース104cを用いて画像データから文字、記号、数字のいずれか一つを少なくとも抽出する処理部である。なお、経路案内情報抽出部110によって抽出された経路案内情報要素については、別途詳細に説明する。
画像合成部112は、画像処理部108によって画像処理を施された画像データと制御部120によって編集された経路案内情報を画像合成する処理部であり、合成画像データを画像表示部102に出力する。また、音声合成部114は、音声合成データベース104eを用いて経路案内情報を音声に合成する音声合成装置である。また、GPSインタフェース部116は、GPS受信装置4から取得した車両の現在位置情報を示す測位データをデータ変換して、制御部120に入力するデータインタフェース処理部である。
制御部120は、経路案内装置10の全体を制御する制御部であり、画像処理切替部120a、経路案内処理部120b、経路設定部120cを有する。画像処理切替部120aは、照明装置6のON/OFF情報および/またはワイパ装置8のON/OFF情報によって判定された車両の周囲の明暗、天候に応じて画像処理部108によって画像データに対して施される画像処理を切替える処理部である。
経路案内処理部120bは、経路案内情報要素から経路案内に使用する情報である経路案内情報を用いて経路案内を出力する処理部である。また、経路案内処理部120bは、テキストデータベース104dを用いて経路案内情報要素から経路案内情報をテキストに作成し、音声合成部114および音声合成データベース104eを用いてテキストを音声に合成して経路案内を出力する。また、経路案内処理部120bは、テキストデータベース104dを用いて経路案内情報をテキストで作成し、テキストを文字に表示して経路案内を出力する。また、経路案内処理部120bは、画像合成部112によって画像合成された画像データと経路案内情報を画像表示して経路案内を出力する。
経路設定部120cは、GPS受信装置4からGPSインタフェース部116を経由して取得した車両の測位データ、地図データベース104aから取得した地図情報に基づいて車両の現在位置から目的地までの経路を設定する処理部である。
(3)コントラスト処理および鮮明化処理の具体例
次に、図3〜図6を参照して、図1に示す画像処理部108によってそれぞれコントラスト処理および鮮明化処理を施される前後の夜間の画像の一例および雨天の画像の一例について説明する。図3は、図1に示す画像処理部108によってコントラスト処理を施される前の夜間の画像の一例を示す図である。図4は、図1に示す画像処理部108によってコントラスト処理を施された後の夜間の画像の一例を示す図である。また、図5は、図1に示す画像処理部108によって鮮明化処理を施される前の雨天の画像の一例を示す図である。また、図6は、図1に示す画像処理部108によって鮮明化処理を施された後の雨天の画像の一例を示す図である。
図3に示すように、夜間は暗いため、ドライバは、車両の前照灯などの照明装置6を点灯し、その光で進行方向を映し出して走行する。照明装置6による光に制約されて、ドライバの視野は、狭くなり、特にドライバは、交差点や道路の分岐点での進路変更等の状況が把握しづらくなる。このような状況で撮影カメラ2が撮影した画像は、ドライバが車両の窓から見る風景と大差なく、経路案内として分かりにくい。そこで、図4に示すように、画像処理部108は、このような画像に対してコントラスト処理等の画像処理を施し、ドライバが交差点や道路の分岐点での進路変更等の状況を把握し易いようにする。また、画像処理切替部120aは、画像処理部108によって施される画像処理を照明装置6のスイッチに連動して切替え制御する。
図5に示すように、雨天では雨粒が車両のウインドシールドガラスに付着するため、ドライバは、ワイパを動作させて走行する。雨粒によりドライバの視界はさえぎられ、ドライバの視野は狭くなり、特にドライバは、交差点や道路の分岐点での進路変更等の状況が把握しづらくなる。このような状況で撮影カメラ2が撮影した画像は、ドライバが車両の窓から見る風景と大差なく、経路案内として分かりにくい。そこで、図6に示すように、画像処理部108は、このような画像に対して鮮明化処理等の画像処理を施し、ドライバが交差点や道路の分岐点での進路変更等の状況を把握し易いようにする。また、画像処理切替部120aは、画像処理部108によって施される画像処理をワイパ装置8のスイッチに連動して切替え制御する。
(4)画像認識により抽出された経路案内情報要素の具体例
次に、図7〜図9を参照して、図1に示す経路案内情報抽出部110が画像認識および/または文字認識により抽出した建物の特徴、文字情報、前方の車両の走行情報の一例について説明する。図7は、図1に示す経路案内情報抽出部110が画像認識および文字認識により抽出した建物の特徴の一例を示す図である。また、図8は、図1に示す経路案内情報抽出部110が画像認識および文字認識により抽出した文字情報の一例を示す図である。また、図9は、図1に示す経路案内情報抽出部110が画像認識により抽出した前方の車両の走行情報の一例を示す図である。
図7に示すように、撮影カメラ2は、交差点の向かい側に立っている“ABCDE”という文字が描かれた建物の画像を撮影する。経路案内情報抽出部110は、画像処理部108によって画像処理を施された画像データから画像認識により建物の形状、色、また文字認識により“ABCDE”という文字情報を経路案内情報要素として抽出し、経路案内処理部120bに出力する。経路案内処理部120bは、経路設定部120cによって設定された経路情報から目的地に到達するためには上記の“ABCDE”の“建物”の“手前”の“交差点”を“左折”することが必要であることを認識し、「ABCDEの建物の手前の交差点を左折ください」、または「ABCDEの手前を左折ください」という経路案内情報のテキストを作成する。また、経路案内処理部120bは、音声合成部114が経路案内情報のテキストを音声合成し、音声出力部103が音声合成されたテキストを音声出力するよう制御する。また、画像表示部102が経路案内情報のテキストを文字表示するよう制御する。また、図7に示すように経路案内処理部120bは、画像合成部112が画像データと左折を示す矢印を経路案内として画像合成し、画像表示部102が画像表示するよう制御する。
また、図8に示すように、撮影カメラ2は、道路の左側に立っている道路案内標識の画像を撮影する。経路案内情報抽出部110は、画像処理部108によって画像処理された画像データから画像認識および文字認識により道路案内標識の“16号杉田”、“戸塚”、“環状3号”等の文字情報に関する経路案内情報要素を抽出し、経路案内処理部120bに出力する。経路案内処理部120bは、経路設定部120cによって設定された経路情報から目的地に到達するためには“環状3号”を“16号杉田”方向へ“左折”することが必要であることを認識し、「環状3号を16号杉田方向へ左折ください」という経路案内情報のテキストを作成する。また、経路案内処理部120bは、音声合成部114が経路案内情報のテキストを音声合成し、音声出力部103が音声合成されたテキストを音声出力するよう制御する。また、画像表示部102が経路案内情報のテキストを文字表示するよう制御する。また、図8に示すように経路案内処理部120bは、画像合成部112が画像データと左折を示す矢印を経路案内として画像合成し、画像表示部102が画像表示するよう制御する。
また、図9に示すように、撮影カメラ2は、前方の車両が道路を左折している画像を撮影する。経路案内情報抽出部110は、画像処理部108によって画像処理された画像データから画像認識により“前方の車両”が“道路”を“左折”したという走行情報に関する経路案内情報要素を抽出し、経路案内処理部120bに出力する。経路案内処理部120bは、経路設定部120cによって設定された経路情報から目的地に到達するためには“前方の車両”が入った“道路”を“左折”することが必要であることを認識し、「前方の車両が入った道路を左折ください」という経路案内情報のテキストを音声合成し、音声出力部103が音声合成されたテキストを音声出力するよう制御する。また、画像表示部102が経路案内情報のテキストを文字表示するよう制御する。また、図9に示すように経路案内処理部120bは、画像合成部112が画像データと左折を示す矢印を経路案内として画像合成し、画像表示部102が画像表示するよう制御する。
(5)実写映像による経路案内手順
次に、図10を参照して、図1に示す経路案内装置10の実写映像による経路案内手順について説明する。図10は、図1に示す経路案内装置10の実写映像による経路案内手順を示すフローチャートである。ここで、実写映像による経路案内手順の説明に入る前に、経路案内装置10の経路案内について説明する。まず、ドライバが経路案内装置10を起動すると、経路案内装置10は、通常は地図画像に基づいて経路案内を開始する。地図画像に基づく経路案内から実写映像に基づく経路案内への切替えは、ドライバが入力部101から選択することもできるし、また、車両が交差点や進入道路に近づいた場合に、制御部120が経路情報から自動的に行うこともでき、これらタイミングで次の処理が実行される。
同図に示すように、経路案内装置10の撮影カメラ2は、車両の前方の景色を撮影する(ステップS1001)。そして、カメラインタフェース部106は、撮影カメラ2から出力された画像信号をデジタルの画像データに変換した後(ステップS1002)、画像表示部102に表示することができる動画像形式の画像データへ変換する(ステップS1003)。そして、画像処理切替部120aは、照明装置6のスイッチがONか否かを調べる(ステップS1004)。その結果、照明装置6のスイッチがONである場合は(ステップS1004肯定)、画像処理切替部120aは、図4に示すように夜間走行であることを識別し、画像処理部108にカメラインタフェース部106から出力された画像データに対してコントラスト処理を実施させる(ステップS1005)。
一方、照明装置6のスイッチがONでない場合は(ステップS1004否定)、画像処理切替部120aは、さらにワイパ装置8のスイッチがONであるか否かを調べる(ステップS1006)。その結果、ワイパ装置8のスイッチがONである場合は(ステップS1006肯定)、画像処理切替部120aは、図6に示すように雨天走行であることを識別し、画像処理部108にカメラインタフェース部106から出力された画像データに対して鮮明化処理を実施させる(ステップS1007)。
一方、ワイパ装置8のスイッチがONでない場合は(ステップS1006否定)、経路案内情報抽出部110は、図7〜図9に示すように画像処理部108によって画像処理を施された画像データから経路案内情報要素を画像認識および/または文字認識により抽出する(ステップS1008)。そして、経路案内処理部120bは、経路案内情報抽出部110によって抽出された経路案内情報要素から経路案内情報のテキストを作成する(ステップS1009)。
さらに、音声合成部114は、経路案内処理部120bによって経路案内情報要素から編集された経路案内情報のテキストに基づき経路案内を音声合成し(ステップS1010)、音声出力部103は、経路案内を音声出力する(ステップS1011)。そして、画像表示部102は、経路案内情報のテキストに基づき経路案内を文字表示する(ステップS1012)。さらに、画像合成部114は、画像処理部108によって画像処理を施された画像データと経路案内処理部120bによって経路案内情報要素から作成された経路案内情報を画像合成する(ステップS1013)。そして、画像表示部102は、経路案内を合成画像で表示する(ステップS1014)。このように、本手順に依れば夜間や雨天の走行時のように車両の周囲が見えにくい状況でも合成音声、文字、合成画像によってドライバが見る車窓の景色から容易に理解できる経路案内を出力することができる。
(6)画像認識による経路案内情報要素の抽出手順
次に、図11を参照して、図10に示す経路案内情報要素の抽出手順、ステップS1008をさらに詳細に説明する。図11は、図10に示す経路案内情報要素の抽出手順、ステップS1008をさらに詳細に示すフローチャートである。
同図に示すように、経路案内情報抽出部110は、画像処理部108から画像データを入力し(ステップS1101)、画像データから識別すべき対象物を識別する(ステップS1102)。そして、車両の前方に特徴のある建物などのランドマークがあるか否かを調べる(ステップS1103)。その結果、車両の前方に特徴のある建物などのランドマークがある場合は(ステップS1103肯定)、経路案内情報抽出部110は、図7で示すようにランドマークから形状、色、文字、記号、数字などの経路案内情報要素を抽出する(ステップS1104)。なお、経路案内情報抽出部110は、経路案内処理部120bと連携し、経路情報から画像認識すべきランドマークを予め識別し、識別したランドマークに近づいた時に画像認識を開始する。
一方、車両の前方に特徴のある建物などのランドマークがない場合は(ステップS1103否定)、経路案内情報抽出部110は、さらに道路案内標識などがあるか否かを調べる(ステップS1105)。その結果、道路案内標識などがある場合は(ステップS1105肯定)、経路案内情報抽出部110は、図8に示すように道路案内標識から文字、記号、数字などの経路案内情報要素を抽出する(ステップS1106)。
一方、道路案内標識などがない場合は(ステップS1105否定)、経路案内情報抽出部110は、さらに前方に交差点や進入道路に進入する車両があるか否かを調べる(ステップS1107)。その結果、前方に交差点や進入道路に進入する車両がある場合は(ステップS1107肯定)、図9に示すように前方の車両の走行情報を抽出する(ステップS1108)。一方、前方に交差点や進入道路に進入する車両がない場合は(ステップS1107否定)、ステップS1101〜ステップS1108で抽出した経路案内情報要素を経路案内処理部120bに出力する(ステップS1109)。以上のように、本手順に依れば、経路案内情報抽出部110は、画像処理部108によって画像処理を施された画像データから経路案内情報要素を画像認識および/または文字認識により抽出し、経路案内処理部120bに出力することができる。
上述してきたように、本実施例では、撮影カメラ2は、車両の周辺の画像データを取得し、経路案内情報抽出部110は、画像データから経路案内の指標として使用可能な情報要素である経路案内情報要素を抽出し、経路案内処理部120bは、経路案内情報要素から経路案内に使用する情報である経路案内情報を作成し、経路案内情報を用いて経路案内を出力することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、画像認識データベース104bは、画像データから識別すべき対象物と対象物に関する画像パターンデータ、形状パターンデータ、色パターンデータおよび移動パターンデータとを関連付けて記憶し、経路案内情報抽出部110は、画像データから構造物、道路案内標識、交通信号、電光掲示板、看板、車両のいずれか一つを少なくとも含む対象物を識別し、識別した対象物から名称、形状、色、移動方向のいずれか一つを少なくとも含む経路案内情報要素を抽出することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、照明装置6および/またはワイパ装置8は、車両の周囲の明暗、天候を判定し、画像処理部108は、画像データに対してコントラスト処理、鮮明化処理のいずれか一つを少なくとも含む画像処理を施し、画像処理切替部120aは、車両の周囲の明暗、天候に応じて画像データに対して施される画像処理を切替えることとしたので、夜間走行時および/または雨天走行時のように画像データが鮮明でない場合でもドライバが見る車窓の景色から容易に理解できる。
また、照明装置6および/またはワイパ装置8は、照明装置のON/OFF情報および/またはワイパ装置のON/OFF情報を使用して車両の周囲の明暗、天候を判定することとしたので、車両の周囲の明暗、天候を容易に判定することができ、もって夜間走行時および/または雨天走行時のように画像データが鮮明でない場合でもドライバが見る車窓の景色から容易に理解できる。
また、文字認識データベース104cは、文字、記号、数字をそれぞれ文字パターンデータ、記号パターンデータ、数字パターンデータと関連付けて記憶し、経路案内情報抽出部110は、画像データから文字、記号、数字のいずれか一つを少なくとも抽出し、画像データから文字、記号、数字のいずれか一つを少なくとも抽出することとしたので、ドライバが見る車窓の景色から容易に理解できる経路案内情報要素を抽出することができる。
また、経路案内処理部120bは、経路案内情報から音声合成データを作成して経路案内を出力するよう制御することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、経路案内処理部120bは、経路案内情報を文字表示して経路案内を出力するよう制御することとしたので、ドライバが見る車窓の景色から容易に理解できる。
また、経路案内処理部120bは、画像処理を施された画像データと経路案内情報を画像合成し、画像合成された画像データと経路案内情報を画像表示して経路案内を出力することとしたので、ドライバが見る車窓の景色から容易に理解できる。
さて、これまで本発明の実施例について説明したが、本発明は上述した実施例以外にも、上記特許請求の範囲に記載した技術的思想の範囲内において種々の異なる実施例にて実施されてもよいものである。
例えば、本実施例では、経路案内装置10は、平面地図画像や鳥瞰地図画像などの地図画像による経路案内と実写映像による経路案内を切替える場合について説明したが、本発明はそれに限定されるものではなく、実写映像単独により経路案内する場合や、実写映像を主画面、地図画像を副画面または実写映像を副画面、地図画像を主画面に合成画像表示して経路案内する場合に適用することができる。
また、本実施例では、画像処理切替部120aは、照明装置6および/またはワイパ装置8を用いて車両の周囲の明暗、天候を判定する場合について説明したが、本発明はそれに限定されるものではなく、他の判定手段、例えば、画像データ、光センサのセンサ出力、濡れセンサのセンサ出力、タイマの時刻を用いて車両の周囲の明暗、天候を判定する場合に適用することができる。
また、本実施例において説明した各処理のうち、自動的におこなわれるものとして説明した処理の全部または一部を手動的におこなうこともでき、あるいは、手動的におこなわれるものとして説明した処理の全部または一部を公知の方法で自動的におこなうこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置(経路案内装置)の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、CPUおよび当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
なお、本実施例で説明した経路案内方法は、あらかじめ用意されたプログラムをパーソナル・コンピュータやワークステーションなどのコンピュータで実行することによって実現することができる。このプログラムは、インターネットなどのネットワークを介して配布することができる。また、このプログラムは、ハードディスク、フレキシブルディスク(FD)、CD−ROM、MO、DVDなどのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することもできる。