以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。
本実施形態において、周辺監視装置(周辺監視システム)を搭載する車両1は、例えば、不図示の内燃機関を駆動源とする自動車、すなわち内燃機関自動車であってもよいし、不図示の電動機を駆動源とする自動車、すなわち電気自動車や燃料電池自動車等であってもよい。また、それらの双方を駆動源とするハイブリッド自動車であってもよいし、他の駆動源を備えた自動車であってもよい。また、車両1は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置、例えばシステムや部品等を搭載することができる。車両1は、例えば、いわゆる「オンロード」(主として舗装された道路やそれと同等の道路)の走行に加え、「オフロード」(主として舗装されていない不整地路等)の走行も好適に行える車両である。駆動方式としては、4つある車輪3すべてに駆動力を伝え、4輪すべてを駆動輪として用いる四輪駆動車両とすることができる。車輪3の駆動に関わる装置の方式や、数、レイアウト等は、種々に設定することができる。例えば、「オンロード」の走行を主目的とする車両でもよい。また、駆動方式も四輪駆動方式に限定されず、例えば、前輪駆動方式や後輪駆動方式でもよい。
図1に例示されるように、車体2は、不図示の乗員が乗車する車室2aを構成している。車室2a内には、乗員としての運転者の座席2bに臨む状態で、操舵部4や、加速操作部5、制動操作部6、変速操作部7等が設けられている。操舵部4は、例えば、ダッシュボード24から突出したステアリングホイールであり、加速操作部5は、例えば、運転者の足下に位置されたアクセルペダルであり、制動操作部6は、例えば、運転者の足下に位置されたブレーキペダルであり、変速操作部7は、例えば、センターコンソールから突出したシフトレバーである。なお、操舵部4、加速操作部5、制動操作部6、変速操作部7等は、これらには限定されない。
また、車室2a内には、表示装置8や、音声出力装置9が設けられている。表示装置8は、例えば、LCD(liquid crystal display)や、OELD(organic electroluminescent display)等である。音声出力装置9は、例えば、スピーカである。また、表示装置8は、例えば、タッチパネル等、透明な操作入力部10で覆われている。乗員は、操作入力部10を介して表示装置8の表示画面に表示される画像を視認することができる。また、乗員は、表示装置8の表示画面に表示される画像に対応した位置で手指等で操作入力部10を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示装置8、音声出力装置9、操作入力部10等は、例えば、ダッシュボード24の車幅方向すなわち左右方向の中央部に位置されたモニタ装置11に設けられている。モニタ装置11は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。また、モニタ装置11とは異なる車室2a内の他の位置に不図示の音声出力装置を設けることができるし、モニタ装置11の音声出力装置9と他の音声出力装置から、音声を出力することができる。なお、モニタ装置11は、例えば、ナビゲーションシステムやオーディオシステムと兼用されうる。
また、図1、図2に例示されるように、車両1は、例えば、四輪自動車であり、左右二つの前輪3Fと、左右二つの後輪3Rとを有する。これら四つの車輪3は、いずれも転舵可能に構成されうる。図3に例示されるように、車両1は、少なくとも二つの車輪3を操舵する操舵システム13を有している。操舵システム13は、アクチュエータ13aと、トルクセンサ13bとを有する。操舵システム13は、ECU14(electronic control unit)等によって電気的に制御されて、アクチュエータ13aを動作させる。操舵システム13は、例えば、電動パワーステアリングシステムや、SBW(steer by wire)システム等である。操舵システム13は、アクチュエータ13aによって操舵部4にトルク、すなわちアシストトルクを付加して操舵力を補ったり、アクチュエータ13aによって車輪3を転舵したりする。この場合、アクチュエータ13aは、一つの車輪3を転舵してもよいし、複数の車輪3を転舵してもよい。また、トルクセンサ13bは、例えば、運転者が操舵部4に与えるトルクを検出する。
本実施形態の周辺監視装置(周辺監視システム)は、一例として、車両1の進行方向を含む周辺領域を撮像する撮像部15から出力された撮像画像データに基づく画像に、路面の凹凸状態に倣うような表示態様の案内指標を重畳表示する。案内指標は、例えば、車両1の舵角に基づく車輪3の進行推定方向を示す進路指標(タイヤ軌跡線、予想進路)や車両1の前方の路面を先行して走行するように見える仮想車両等である。周辺監視装置は、車両1の進行方向の路面の凹凸(勾配)状態の情報(三次元情報)を取得して、案内指標としての進路指標の形状や仮想車両の姿勢等を決定して表示装置8に表示することで、利用者(ユーザ、運転者)に、これから走行しようとする路面の形状や、そこを通過する際の車両1の姿勢等を直感的に把握させやすくする。なお、本実施形態において、路面の凹凸状態とは、例えば、オフロードのように岩や窪みが存在し凹凸の変化が顕著に表れているような場合や、オンロードのように凹凸の変化が僅かしか表れていない場合等を含むものとする。
図2に例示されるように、車体2には、複数の撮像部15として、例えば四つの撮像部15a〜15dが設けられている。撮像部15は、例えば、CCD(charge coupled device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部15は、所定のフレームレートで動画データ(撮像画像データ)を出力することができる。撮像部15は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°〜220°の範囲を撮影することができる。また、撮像部15の光軸は斜め下方に向けて設定されている場合もある。よって、撮像部15は、車両1が移動可能な路面やその周辺の物体(障害物、岩、窪み等)を含む外部環境を逐次撮影し、撮像画像データとして出力する。
撮像部15aは、例えば、車体2の後側の端部2eに位置され、リアハッチのドア2hのリアウインドウの下方の壁部に設けられている。撮像部15bは、例えば、車体2の右側の端部2fに位置され、右側のドアミラー2gに設けられている。撮像部15cは、例えば、車体2の前側、すなわち車両前後方向の前方側の端部2cに位置され、フロントバンパやフロントグリル等に設けられている。なお、撮像部15cは、車室2aの内部の例えばルームミラーの裏面(フロントガラスに対向する面)に配置してもよい。この場合、撮像部15cの撮像範囲は、ワイパーの払拭領域内に入るように設置することが望ましい。撮像部15dは、例えば、車体2の左側、すなわち車幅方向の左側の端部2dに位置され、左側のドアミラー2gに設けられている。周辺監視システム100を構成するECU14は、複数の撮像部15で得られた撮像画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、車両1を上方から見た仮想的な俯瞰画像を生成したりすることができる。また、ECU14は、撮像部15で得られた広角画像のデータに演算処理や画像処理を実行し、特定の領域を切り出した画像を生成したり、特定の領域のみを示す画像データを生成したり、特定の領域のみが強調されたような画像データを生成したりする。また、ECU14は、撮像画像データを撮像部15が撮像した視点とは異なる視点(仮想視点)から撮像したような仮想画像データに変換(視点変換)することができる。ECU14は、取得した画像データを表示装置8に表示することで、例えば、車両1の右側方や左側方の安全確認、車両1を俯瞰してその周囲の安全確認を実行できるような周辺監視情報を提供することができる。
上述したように、本実施形態のECU14は、路面の凹凸状態(三次元形状)に倣うような表示態様の案内指標を表示装置8に表示する。路面の三次元形状の検出は、種々の手法によって可能である。例えば、ステレオカメラを用いて、2台の撮像部(カメラ)で物体を同時に撮影し、各カメラで得られた物体の画像上での位置の違い(視差)から、その物体の位置や立体的な形状を検出する。したがって、車両1の前方の路面の凹凸情報を取得する場合には、撮像部15cをステレオカメラとしてもよい。この場合、撮像部15cは、案内指標を重畳する周辺画像を撮像するとともに、その周辺画像に含まれる路面の形状情報(三次元情報)を取得することができる。なお、路面の凹凸状態(立体情報、三次元情報)を検出する他の実施例としてレーザスキャナ28を利用することができる。この場合、撮像部15cは単眼のカメラとしてもよく、案内指標を重畳する周辺画像を撮像する。そして、単眼カメラである撮像部15cが取得した画像にレーザスキャナ28が取得した路面の凹凸情報に基づいて決定された案内指標が重畳される。
なお、レーザスキャナ28が取得した路面の凹凸情報に基づいて単眼カメラの撮像部15cが取得した画像を加工して、路面の一部または全体を三次元表示するようにしてもよい。また、車両1の後方の路面の凹凸状態(立体情報、三次元情報)を検出する場合は、撮像部15aをステレオカメラにしたり、車両1の後方を検出範囲とするレーザスキャナ28を設けたりすればよい。また、レーザスキャナ28とステレオカメラとを併用してもよく、この場合、路面の凹凸状態をより高精度で検出できる。
図3に例示されるように、周辺監視システム100(周辺監視装置)では、ECU14や、モニタ装置11、操舵システム13等の他、ブレーキシステム18、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22、加速度センサ26(26a,26b)等が、電気通信回線としての車内ネットワーク23を介して電気的に接続されている。車内ネットワーク23は、例えば、CAN(controller area network)として構成されている。ECU14は、車内ネットワーク23を通じて制御信号を送ることで、操舵システム13、ブレーキシステム18等を制御することができる。また、ECU14は、車内ネットワーク23を介して、トルクセンサ13b、ブレーキセンサ18b、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22、加速度センサ26等の検出結果や、操作入力部10等の操作信号を、受け取ることができる。なお、撮像部15cを単眼カメラとする場合は、車内ネットワーク23にレーザスキャナ28を接続し、ECU14は、レーザスキャナ28の検出結果に基づき路面の凹凸状態の検出を行いうる。
ECU14は、例えば、CPU14a(central processing unit)や、ROM14b(read only memory)、RAM14c(random access memory)、表示制御部14d、音声制御部14e、SSD14f(solid state drive、フラッシュメモリ)等を有している。CPU14aは、例えば、表示装置8で表示される画像に関連した画像処理や、車両1の進行推定方向の路面状態やその路面を走行するときの車両1の姿勢を示す案内指標(進路指標、仮想車両)の演算、路面の凹凸(勾配)状態の算出、路面の凹凸状態に対して注意喚起を行うための案内(報知)処理等の各種演算や各種処理を実行する。CPU14aは、ROM14b等の不揮発性の記憶装置に記憶された(インストールされた)プログラムを読み出し、当該プログラムに従って演算処理を実行する。
RAM14cは、CPU14aでの演算で用いられる各種データを一時的に記憶する。また、表示制御部14dは、ECU14での演算処理のうち、主として、撮像部15で得られた撮像画像データを用いた画像処理や、表示装置8で表示される画像データの画像処理(一例としては画像合成)等を実行する。また、音声制御部14eは、ECU14での演算処理のうち、主として、音声出力装置9で出力される音声データの処理を実行する。また、SSD14fは、書き換え可能な不揮発性の記憶部であって、ECU14の電源がオフされた場合であってもデータを記憶することができる。なお、CPU14a、ROM14b、RAM14c等は、同一パッケージ内に集積されることができる。また、ECU14は、CPU14aに替えて、DSP(digital signal processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD14fに替えてHDD(hard disk drive)が設けられてもよいし、SSD14fやHDDは、周辺監視用のECU14とは別に設けられてもよい。
ブレーキシステム18は、例えば、ブレーキのロックを抑制するABS(anti-lock brake system)や、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:electronic stability control)、ブレーキ力を増強させる(ブレーキアシストを実行する)電動ブレーキシステム、BBW(brake by wire)等である。ブレーキシステム18は、アクチュエータ18aを介して、車輪3ひいては車両1に制動力を与える。また、ブレーキシステム18は、左右の車輪3の回転差などからブレーキのロックや、車輪3の空回り、横滑りの兆候等を検出して、各種制御を実行することができる。ブレーキセンサ18bは、例えば、制動操作部6の可動部(例えば、ブレーキペダル)の位置を検出するセンサである。ブレーキセンサ18bは、変位センサを含む。
舵角センサ19は、例えば、ステアリングホイール等の操舵部4の操舵量を検出するセンサである。舵角センサ19は、例えば、ホール素子などを用いて構成される。ECU14は、運転者による操舵部4の操舵量や、自動操舵時の各車輪3の操舵量等を、舵角センサ19から取得して各種制御を実行する。なお、舵角センサ19は、操舵部4に含まれる回転部分の回転角度を検出する。舵角センサ19は、角度センサの一例である。なお、舵角センサ19の検出結果は、案内指標としての進路指標を表示する場合、進路指標の方向を決定する際にも利用される。
アクセルセンサ20は、例えば、加速操作部5の可動部(例えば、アクセルペダル)の位置を検出するセンサである。アクセルセンサ20は、変位センサを含む。
シフトセンサ21は、例えば、変速操作部7の可動部の位置を検出するセンサである。シフトセンサ21は、可動部としての、レバーや、アーム、ボタン等の位置を検出することができる。シフトセンサ21は、変位センサを含んでもよいし、スイッチとして構成されてもよい。
車輪速センサ22は、車輪3の回転量や単位時間当たりの回転数を検出するセンサである。車輪速センサ22は、各車輪3に配置され、各車輪3で検出した回転数を示す車輪速パルス数をセンサ値として出力する。車輪速センサ22は、例えば、ホール素子などを用いて構成されうる。ECU14は、車輪速センサ22から取得したセンサ値に基づいて車両1の移動量などを演算し、各種制御を実行する。ECU14は、各車輪速センサ22のセンサ値に基づいて車両1の車速を算出する場合、4輪のうち最も小さなセンサ値の車輪3の速度に基づき車両1の車速を決定し、各種制御を実行する。また、ECU14は、4輪の中で他の車輪3に比べてセンサ値が大きな車輪3が存在する場合、例えば、他の車輪3に比べて単位期間(単位時間や単位距離)の回転数が所定数以上多い車輪3が存在する場合、その車輪3はスリップ状態(空転状態)であると見なし、各種制御を実行する。なお、車輪速センサ22は、ブレーキシステム18に設けられている場合もある。その場合、ECU14は、車輪速センサ22の検出結果をブレーキシステム18を介して取得する。
加速度センサ26(26a,26b)は、例えば車両1に2個設けられている。ECU14は、加速度センサ26(26a,26b)からの信号に基づき、車両1の前後方向の傾き(ピッチ角)や左右方向の傾き(ロール角)を算出する。ピッチ角は、車両1の左右軸周りの傾きを示した角度であり、水平な面(地面、路面)上に車両1が存在する場合に、ピッチ角が0度となる。また、ロール角は、車両1の前後軸周りの傾きを示した角度であり、水平な面(地面、路面)上に車両1が存在する場合に、ロール角が0度となる。つまり、車両1が、水平な路面に存在するか否か、傾斜面(上り勾配の路面または下り勾配の路面)に存在するか否か等が検出できる。なお、車両1がESCを搭載する場合、ESCに従来から搭載されている加速度センサを用いてもよい。本実施形態は、加速度センサ26を制限するものではなく、車両1の前後左右方向の加速度を検出可能なセンサであればよい。
路面の凹凸状態を検出するために、レーザスキャナ28を備える場合がある。レーザスキャナ28は、例えば、車体2の前端(車両前後方向の前方側の端部2c)に設けられ、車両1の進行方向における路面の状態を示す状態情報を取得する。レーザスキャナ28は、センサ内部の光源(レーザダイオード等)から照射されたレーザ光が、測定対象物(例えば、路面や立体物)にあたると反射され、受光素子で受光される。このとき受光した反射光を評価、演算することで、レーザ光が反射した位置までの距離を算出する。その結果、ECU14は、路面の状態、例えば凹凸(勾配)の有無や凹凸が存在する位置(凹凸位置)、凹凸の大きさ(勾配値)、凹凸(勾配)の状態(上り勾配、下り勾配)等の車両1が存在する路面を基準として当該車両1の前方の路面の相対的な状態情報(凹凸情報、相対的な傾き等)を取得する。
なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、一例であって、種々に設定(変更)することができる。
ECU14に含まれるCPU14aは、上述したような案内指標の表示を実現するために、図4に示されるように、周辺情報取得部30、凹凸状態検出部32、舵角取得部34、指標取得部36、指標制御部38、経路算出部40、出力部42等を含む。そして、指標取得部36は、進路指標取得部50、仮想車両取得部52、基準指標取得部54等を含む。また、指標制御部38は、強調処理部56、指標処理部58、周辺画像処理部60、重畳部62、案内処理部64等を含む。これらのモジュールは、ROM14b等の記憶装置にインストールされ記憶されたプログラムを読み出し、それを実行することで実現可能である。
周辺情報取得部30は、車両1の進行方向における周辺領域に関する情報を取得し、例えば、RAM14c等に一時的に保持する。この場合、車両1の前方に配置される撮像部15cがステレオカメラの場合、周辺情報取得部30は表示制御部14dを介して撮像部15cから周辺画像を示す撮像画像データおよび撮像領域に含まれる三次元情報を取得する。このとき、周辺情報取得部30は、ステレオカメラで撮像された視差を有する二枚の二次元画像(撮像画像データ)を取得するとともに、二枚の二次元画像の視差に基づいて撮像領域の三次元情報を取得する。また、撮像部15cが単眼カメラであり、レーザスキャナ28を備える場合、周辺情報取得部30は、表示制御部14dを介して撮像部15cから周辺画像を示す撮像画像データを取得するとともに、車内ネットワーク23を介してレーザスキャナ28から車両1の前方の検出領域における三次元情報を取得する。なお、表示装置8に車両1の周囲の画像を表示するのみの場合、表示制御部14dは、撮像部15で撮像した撮像画像データをそのままの状態で表示装置8に出力してもよい。また、CPU14aは、操作入力部10や操舵部4の周辺等に配置された操作部14g等の入力装置を用いて利用者に希望する表示内容を選択させるようにしてもよい。つまり、表示制御部14dは、操作入力部10や操作部14gの操作により選択された画像を表示することができる。例えば撮像部15aで撮像した車両1の後方画像を表示装置8に表示させたり、撮像部15dで撮像した左側方画像を表示させたりすることができる。
凹凸状態検出部32は、周辺情報取得部30が取得した三次元情報に基づいて車両1の例えば前方の領域(例えば路面)の凹凸状態を検出する。撮像部15cがステレオカメラの場合、取得された撮像画像データには、当該撮像画像データ上の所定領域ごとに、高さ情報を有する三次元情報が含まれているので、凹凸状態検出部32は、領域ごとに対応付けられた高さ情報を抽出して、例えば、RAM14cに保持する。この場合、撮像画像データに基づく画像は、三次元画像であり、撮像部15cが単眼カメラの場合に取得される撮像画像データに基づく二次元画像より路面の凹凸(岩や構造物による凹凸)が確認しやすい状態で表示できる。また、撮像部15cが単眼カメラでレーザスキャナ28を備える場合、レーザスキャナ28から取得された三次元情報に基づき、凹凸状態検出部32は、車両1の前方領域(例えば、路面)の高さ情報を撮像部15cが取得した撮像画像データに基づく画像(二次元画像)上の所定領域ごとに対応付けて、例えばRAM14cに保持する。
舵角取得部34は、舵角センサ19から出力される操舵部4(ステアリングホイール)の操作状態に関する情報(舵角)を取得する。つまり、運転者がこれから車両1を走行させようとしている方向の舵角を取得する。なお、舵角取得部34は、シフトセンサ21から取得される変速操作部7の可動部の位置に基づき、車両1が前進可能状態か後退可能状態かを取得して、舵角が前進状態の舵角か後退状態の舵角かを識別できるようにしてもよい。
指標取得部36は、進路指標取得部50、仮想車両取得部52、基準指標取得部54等を備える。進路指標取得部50、仮想車両取得部52、基準指標取得部54等は、車両1の例えば前方の路面の凹凸状態を認識しやすくするために、凹凸状態に倣うような表示態様で表示される前の基本形状の各案内指標に関するデータを取得する。
進路指標取得部50は、舵角取得部34が取得した車両1の現在の舵角に基づく方向(前輪3Fの向く方向)に延びる進路指標(タイヤ軌跡線)をROM14bやSSD14fから取得する。この場合、進路指標は、略直線形状で、車両1の遠方で交わるような態様の線とすることができる。
仮想車両取得部52は、車両1が進路指標に沿って走行した場合の車両姿勢をシミュレーションする仮想車両に関するデータをROM14bやSSD14fから取得する。仮想車両は、車両1の例えば前方の所定距離(例えば3m先)に対応する位置に、車両1との相対位置を変化させることなく表示される。この場合、仮想車両取得部52は、表示する前方の位置(距離)に応じた所定サイズの仮想車両を一種類選択するようにしてもよい。また、別の実施形態では、仮想車両は、車両1をスタート位置として、例えば、前方に遠ざかるように、車両1との相対位置を変化させながら表示されることができる。この場合、仮想車両取得部52は、仮想車両が車両1から遠ざかるように見えるように、移動開始からの経過時間(移動距離)に対応してサイズが小さくなる仮想車両を複数種類選択して順次表示することができる。なお、一種類の仮想車両を選択し、経過時間(移動距離)に応じて、指標処理部58が仮想車両のサイズを小さくする処理を施してもよい。
なお、ROM14bやSSD14fに保持されている仮想車両のデータは、画面8a上で、車両1(自車)画像とともに表示されたときに車両1と仮想車両との識別が容易にできることが望ましく、仮想車両の色は車両1とは異なる色とすることができる。例えば、車両1が青色の場合、仮想車両を薄青色にしたり、車両1が白色の場合、仮想車両を黄色にしたりする。なお、仮想車両の色は、これに限らず車両1の色に応じて適宜変更可能である。また、操作入力部10等を介して利用者によって選択できるようにしてもよい。同様に、車両1と仮想車両との識別が容易にできるように、仮想車両は、外形(車両フレーム)のみを線図で表現されてもよい。この場合、仮想車両であることを認識させやすくすることができるとともに、仮想車両により車両1の周辺領域が隠されてしまうことなく、路面状態や障害物の有無等を利用者に認識させやすくすることができる。
仮想車両取得部52は、進路指標の表示の有無に拘わらず、画面8a上で、車両1(自車の車高、車幅、長さ等)に対応する形状(大きさ)の仮想車両を取得してもよい。そして、取得した仮想車両を画面8aに表示される周辺画像に重畳するようにしてもよい。このような仮想車両を表示することで車両1(自車)のサイズ感を考慮した車両1の移動予測状態を示すことができる。この場合、例えば、車両1が現在の位置から3m先に進んだ場合に、車両1の各車輪3が路面のどの辺りに存在するかを示すことが可能になる。その結果、車両1(自車)の移動予測状態を直感的に利用者に把握させやすくすることができる。なお、この場合も仮想車両の画面8a上での表示サイズは、車両1(自車)からの距離に応じて変化させることが望ましい。
基準指標取得部54は、路面の凹凸状態に倣うような表示態様で表示される案内指標とともに周辺画像上に重畳される基準指標に関するデータをROM14bやSSD14fから取得する。基準指標は、路面が平坦の場合にその平坦状態を示す指標である。基準指標は、進路指標取得部50が取得した進路指標や仮想車両取得部52が取得した仮想車両を路面の凹凸状態に倣うような表示態様で表示したときに、形状や姿勢の変化の程度を理解しやすくする比較基準となる指標である。基準指標は、例えば、車両1の位置を基準にして遠方に延びる直線形状の指標であり、舵角取得部34が取得する舵角に拘わらず変化しない固定の指標とすることができる。この場合、舵角の変化に応じて表示位置が変化する進路指標や仮想車両と基準指標とが連動して動くことが避けられるので、それぞれの指標の視認性が向上できる。また、別の実施形態では、舵角取得部34が取得する舵角に対応した方向に延びる基準指標を選択するようにしてもよい。この場合、基準指標と進路指標や仮想車両とが常に連動して移動するので、基準指標と進路指標や仮想車両とが接近して表示できる。その結果、基準指標と進路指標や仮想車両との比較が容易になり、路面の凹凸状態による進路指標や仮想車両の変化の程度を認識させやすくすることができる。
指標制御部38は、指標取得部36が取得した案内指標(進路指標や仮想車両)に関する処理を実行する。
強調処理部56は、所定閾値以上の凹凸状態を示す路面の領域に強調処理を実行する。例えば、車両1が現在存在する位置を基準として、路面の勾配が所定閾値(例えば、30°以上)の場合に、その領域に対する注意を喚起するように、その領域を例えば、赤色のマークで囲んだり、その領域を囲むマークを点滅させたり、その領域の輝度を周囲の領域より高くしたりする強調処理を行う。この強調処理は、撮像部15cが取得した撮像画像データに基づく画像に対して施してもよいし、進路指標取得部50が取得した進路指標に対して施してもよい。例えば、進路指標が所定の閾値を超える勾配領域を通過する場合、その部分の進路指標の表示色を注意喚起するような赤色で表示したり、その領域を通過する進路指標の部分を点滅表示したりするようにしてもよい。なお、強調処理は、凹凸状態検出部32の検出した三次元情報に基づき、強調処理部56が自動的に実行してもよいし、操作入力部10や操作部14gを介して利用者からの強調表示要求があった場合に強調処理部56が実行するようにしてもよい。
また、強調処理部56は、仮想車両取得部52が取得した仮想車両に対して強調処理を実行する。例えば、車両1が現在存在する位置を基準として、注意喚起が必要な場所が存在する場合、例えば、路面の勾配が所定閾値以上(例えば、30°以上)の場合に、その領域に対する注意を喚起する。また、左右の車輪3のうち一方が岩に乗り上げたりした場合、左右の車輪3の高さに差が生じて車両1が大きくロール方向に傾斜する場合がある。同様に、前後の車輪3のうち一方が岩に乗り上げたりした場合、前後の車輪3の高さに差が生じて車両1が大きくピッチ方向に傾斜する場合がある。このように車輪の接地状態により車両が傾斜し、車両の傾斜角度が所定閾値以上(例えば、30°以上)になる場合でも強調処理部56は、仮想車両に対して強調処理を実行して注意喚起を行うようにしてもよい。例えば、仮想車両が注意喚起領域に対応する位置に存在する場合やその領域を通過する場合、仮想車両が大きく傾く場合、仮想車両を強調表示する。強調処理部56は、例えば、仮想車両に対して赤色表示を実行したり、点滅表示を実行したり、高輝度表示を実行したりする。その結果、注意を必要とする領域が存在することが利用者に認識されやすくなる。なお、強調処理部56は、仮想車両が車両1(自車)の前方の所定位置で固定表示されている場合、車両1の移動に伴い仮想車両の固定表示位置が移動して注意喚起領域を外れた場合には、強調表示を解除する。同様に、強調処理部56は、仮想車両が車両1(自車)から遠ざかるように走行表示されている場合、仮想車両が注意喚起領域を通過した(外れた)場合には、強調表示を解除する。この場合、強調表示の表示期間の長さから注意喚起領域の大きさを認識させることが可能になる。例えば、勾配が急な部分が一瞬で通過できるか、しばらく続くか等の判断を利用者にさせやすくすることができる。また、強調処理部56は、仮想車両が障害物と接触する、または接触する可能性のある場合にも同様に強調表示してもよい。この場合、事前に危険を利用者に認識させることができる。また、別の実施形態では、仮想車両を強調表示した位置で当該仮想車両を二つに分離し、一方を固定表示させ、他方は移動表示を継続させるようにしてもよい。この場合、移動を継続する仮想車両の表示色を固定表示される仮想車両の表示色と異ならせてもよい。このような分離表示を行うことにより、注意を必要とする部分をより認識させやすくすることができるとともに、さらに走行した場合の状況を判断させやすくすることができる。なお、固定表示された仮想車両は、表示したままでもよいし、所定期間(時間)経過後に非表示としてもよい。この場合、徐々に非表示としてもよいし、即座に非表示としてもよい。
また、強調処理部56は、仮想車両が車両1(自車)から離間した位置に表示された場合に、そのときの周囲との関係(例えば、障害物との関係)にしたがって、仮想車両の少なくとも一部を強調表示するようにしてもよい。例えば、仮想車両が車両1に対して先行して移動した場所でドアを利用できない(利用しにくい)場合、例えば、障害物と干渉したり、接近し過ぎている場合には、そのドアを強調表示する。例えば、ドアの赤色表示を実行したり、点滅表示を実行したり、高輝度表示を実行したりする。仮想車両のドアと周囲、例えば障害物の存在や障害物までの距離は、例えば、撮像部15が撮像した撮像画像データ(ステレオ画像データ)を解析したり、レーザスキャナ28の検出結果を解析したりすることで認識できる。この場合、利用できない(利用しにくい)ドアが存在することを事前に利用者に認識させやすくなり、利用者に駐車位置の選定等をさせやすくすることができる。上述のように、ドアの強調表示は、ドアの開閉が必要な場合にのみ実行されることが望ましい。したがって、強調処理部56は、操作入力部10等を介して、駐車位置の指定等が行われた場合に、ドアの強調表示を実行可能としてもよい。なお、ドアには、車両側面の乗員の乗降用のドアの他、リアハッチのドア2h(図1参照)等を含む。また、ドア形式には、ヒンジ式のドアの他スライドドア等を含んでもよい。
指標処理部58は、進路指標取得部50が取得した進路指標を舵角取得部34が取得した舵角に基づく方向に表示する場合に、進路指標を路面の凹凸状態に倣うように変化させる。この場合、指標処理部58は、撮像部15c(ステレオカメラ)やレーザスキャナ28が取得した三次元情報のうち、撮像部15cが取得した画像上で進路指標が重畳される位置に対応する例えば高さ情報(勾配情報)と進路指標の表示情報とを組み合わせる。また、路面が捻れている場合には、その情報も加えうる。その結果、進路指標は、重畳する位置の路面の凹凸状態に倣うような形状になる。別の実施形態において、指標処理部58は、平面のテクスチャ上に進路指標取得部50が取得した進路指標を貼り付けたものを、三次元情報に基づく路面の凹凸面に重ねることで、路面の凹凸状態に倣うような表示態様の進路指標を得ることができる。指標処理部58は、舵角取得部34が取得する舵角が変化するごとにこの処理を実行することで、路面の凹凸状態に倣うような進路指標を前輪3Fの向く方向に移動させることができる。なお、舵角が変更される場合、進路指標を直ちに更新してもよいし、所定期間だけ舵角更新前に表示していた進路指標の残像を表示して、その残像を徐々に消去するようにしてもよい。この場合、車輪3の幅より広い範囲の領域に関して、路面の凹凸状態が表示可能になり、より広範囲の路面の凹凸状態が把握しやすくなる。
また、指標処理部58は、仮想車両取得部52が取得した仮想車両を路面の凹凸状態に倣うような姿勢で傾けて表示することができる。この場合、指標処理部58は、仮想車両の各車輪に対応する部分が路面と接触する部分の高さ情報を撮像部15c(ステレオカメラ)やレーザスキャナ28が取得した三次元情報から取得する。そして、仮想車両の姿勢を各車輪と路面が接触する位置の高さ情報に基づいて変化させる。その結果、仮想車両は、重畳する位置の路面の凹凸状態に倣うような姿勢で表示可能となる。別の実施形態では、指標処理部58は、平面のテクスチャ上に仮想車両取得部52が取得した仮想車両を貼り付けたものを、三次元情報に基づく路面の凹凸面に重ねることで、路面の凹凸状態に倣うような表示態様(姿勢)の仮想車両を得ることができる。なお、この場合、仮想車両は姿勢を変化させるのみで、車体形状の変形(歪み)は生じないようにする。また、仮想車両を車両1から遠ざかるように表示する場合、指標処理部58は、仮想車両を表示してからの経過時間(距離)に応じた表示サイズの仮想車両を、経過時間(距離)に応じた位置における姿勢に変更して重畳する。また、舵角取得部34が取得する舵角が変化する場合、仮想車両の重畳位置が車幅方向に移動するため、その位置における姿勢を変更して重畳する処理を実行することで、路面の凹凸状態に倣うような姿勢の仮想車両を前輪3Fの向く方向に移動させることができる。なお、本実施形態において、案内指標(進路指標や仮想車両)を路面の凹凸状態に倣うような表示態様で表示するとは、進路指標の形状や仮想車両の傾きが完全に路面の凹凸状態に倣う必要はない。例えば、路面の凹凸状態に応じた形状の変化や姿勢の変化が区別できる程度に倣っていればよいとしてもよい。
また、指標処理部58は、仮想車両が車両1(自車)から遠ざかるように表示される場合、仮想車両が移動していることを明確にするための表示処理を実行することができる。例えば、仮想車両が車両1(自車)から遠ざかる場合、移動距離(時間)に応じて徐々に透過度を高めることができる。この場合、仮想車両の表示は徐々に薄くなり、最終的には、透過度100%で消えるように表示されてもよい。また、仮想車両の表示が移動していることを示すために、例えば、仮想車両の車輪が回転するようなアニメーション表示を行ってもよい。このように仮想車両の表示に変化をもたせることにより、仮想車両が車両1(自車)に対して所定距離離間した位置に固定表示されているのか、移動表示されているのかを利用者に認識させやすくすることが可能で、表示内容をより適切に利用者に認識させることができる。
また、指標処理部58は、表示中の仮想車両の表示態様を変化させることができる。例えば、車両1(自車)が進むと予想される方向に、つまり、将来到達することが予想される位置に向かい走行するように走行表示される場合で、所定の停止条件が満たされた場合に、仮想車両を停止表示してもよい。停止条件として、例えば、利用者が操作入力部10や操作部14gを介して停止要求を行った場合であり、停止条件が満たされた場合に、指標処理部58は、移動表示中の仮想車両を停止させる。その結果、利用者は、停止表示させたときの仮想車両の姿勢や周囲の障害物(例えば、岩や路面の凹凸等)との関係を詳細に検討することができる。なお、強調処理部56は、仮想車両が車両1から離間した位置で固定表示される場合、操作入力部10や操作部14gの操作により所定距離ずつ間欠的に移動(例えば前進)するように表示してもよい。例えば、操作入力部10を短時間(例えば1秒以下)の押下を行った場合、仮想車両が所定単位距離、例えば0.1mずつ移動するようにしてもよい。また、例えば操作入力部10を長押し(例えば3秒以上)した場合、所定長距離(例えば0.5m)移動するようにしてもよい。また、操作入力部10を例えば長押し操作している間は、仮想車両が移動し続け、長押し操作を終了すると、その位置で仮想車両が停止するようにしてもよい。このように、仮想車両の表示位置の調整を可能にすることで、利用者が注目する位置での車両1(仮想車両)の姿勢や周囲の障害物との相対位置関係等を予め詳細に検討することが可能になる。なお、この場合、指標処理部58は、仮想車両の移動距離の詳細を画面8a(例えば、図8等参照)等に表示してもよい。例えば、「1.4m前方位置に移動」等を表示してもよく、注目位置までの実際の距離をイメージさせやすくすることができる。また、別の実施形態では、強調処理部56は、車両1から遠ざかるように移動表示される仮想車両を操作入力部10や操作部14gを用いて、任意の位置で停止させることができる。この場合も、利用者が注目する位置での車両1(仮想車両)の姿勢や周囲の障害物との相対位置関係等を停止表示された仮想車両によって詳細に検討することが可能になる。その結果、車両1の進路の検討を事前に詳細に行わせることが可能になり、より効率的でより安全な走行を実行させやすくなる。
さらに、CPU14aは、撮像部15が撮像した撮像画像データ(ステレオ画像データ)やレーザスキャナ28の検出結果の解析に基づき、移動表示される仮想車両が障害物(岩、壁、人、動物、他車等)と干渉(例えば接触)する可能性があるか否かを検出できる。強調処理部56は、仮想車両が、障害物等と干渉する可能性があると判定する場合、その障害物(走行方向に存在する物体)に関する情報に基づき、所定の停止条件が満たされたと判定して、干渉直前に移動表示を停止して固定表示に切り替えてもよい。この場合、移動表示されていた仮想車両の停止により、現在の舵角のまま走行した場合に障害物と干渉する可能性があることを利用者に事前に認識させやすくなる。その結果、利用者に進路の選択や変更を早い段階で行わせやすくなる。また、画面8a上でも仮想車両と障害物との干渉(接触)が回避され、利用者に違和感を与えにくくすることができる。なお、強調処理部56は、仮想車両を停止する場合(固定表示に切り替えた場合)に、仮想車両の表示を強調表示に切り替えてもよい。例えば、赤色表示や、点滅表示、高輝度表示等を実行して、利用者が認識しやすくなるようにしてもよい。なお、他の実施形態では、指標処理部58は、仮想車両と障害物とが接触した時点で固定表示に切り替えるようにしてもよい。このように、接触したことを表示することにより、利用者により強い印象を与え、注意喚起させることができる。
また、指標処理部58は、予め設定した駐車スペースに向けて仮想車両が移動表示される場合、仮想車両の車側のドアやリアハッチのドア2hを開いた状態(通常の使用時に開放するような状態)で駐車スペースに移動するように表示してもよい。この場合、車両1を実際に駐車したときに、車側のドアやリアハッチのドア2hが周囲の障害物と接触することなく開放されて利用可能か否かを事前に利用者に判断させやすくすることができる。例えば、仮想車両の開放されたドアが接触したり、十分な利用スペースが確保できなかったりする場合には、駐車場所の変更等を事前に検討させやすくなる。なお、他の実施形態では、操作入力部10等の操作により、給油口を開放した状態の仮想車両を表示するようにしてもよい。この場合、給油スペースに向けて走行した場合に、給油がスムーズにできるか否かを事前に検討させることができるとともに、仮想車両の移動位置にしたがい、移動経路の修正を早期に実施しやすくすることができる。なお、この場合、給油口が開放されたことをトリガとして、画面8aに表示する画像を車両1の上方から真下を見た俯瞰画像に切り替えて表示し、給油スペースと車両1との位置関係を確認しやすくしてもよい。この場合、俯瞰画像に表示される仮想車両にも給油口の状態が反映されるようにしてもよい。つまり、給油口が開放された状態の仮想車両が表示されてもよい。
周辺画像処理部60は、撮像部15cが単眼カメラの場合、撮像部15cが取得した二次元画像をレーザスキャナ28が取得した三次元情報を用いて、三次元画像に変換する処理(凹凸強調処理)を実行する。この場合、周辺画像処理部60は、撮像領域全体を三次元画像に変換してもよいし、案内指標、特に進路指標を重畳する領域のみを対象に三次元画像に変換するようにしてもよい。この場合、凹凸強調処理を撮像領域全体に施す場合に比べて、処理負荷を軽減することができる。なお、凹凸強調処理は、周知の手法、例えば座標変換による三次元化、輝度調整、コントラスト調整、エッジ処理等により実施することができる。
また、周辺画像処理部60は、仮想車両が車両1から遠方に離れた場合(先行して走行した場合)に、その移動位置において例えば運転席から見た周辺画像を表示装置8に表示するように、撮像部15cが撮像した撮像画像データに基づく画像を処理することができる。この場合、移動先の仮想車両で見える前方方向の風景は、車両1の現在の位置で見える前方方向の風景と拡大率が違うのみで実質的に同じ内容が見えるものと考えられる。つまり、周辺画像処理部60は、移動先の仮想車両において例えば運転席から見た周辺画像を表示装置8に表示する場合、撮像部15cが取得した撮像画像データに基づく画像を車両1から仮想車両までの離間距離に応じて拡大すればよい。なお、周辺画像処理部60は、仮想車両の移動先における姿勢に応じて画像をロール方向やピッチ方向に傾けるようにしてもよい。このように、仮想車両が移動した先で見える画像(先行視点画像、未来画像)を表示することにより、車両1を仮想車両の位置まで走行させた場合の車両状態が把握しやすくなり、進路選択を早い段階でより適切に行わせやすくなる。なお、仮想車両が移動した先で見える画像(先行視点画像、未来画像)は、例えば、周知の視点変換処理を用いて生成してもよい。
重畳部62は、指標処理部58が表示態様を変化させた案内指標(進路指標、仮想車両、基準指標等)を舵角取得部34が取得する舵角の変化に合わせて、撮像部15cが撮像した撮像画像データに基づく画像に重畳する。
案内処理部64は、案内指標が表示される際に注意喚起が必要なときに表示するメッセージや出力する音声メッセージ、警告音等に関するデータを例えばROM14b、SSD14fから選択する。また、案内指標にしたがい走行を行わせる場合や、逆に案内指標とは異なる経路で走行することを推奨する場合等の車両1の操作方法(操舵部4、加速操作部5、制動操作部6等の操作指示等)を出力するためのデータを例えばROM14b、SSD14fから選択する。また、案内処理部64は、強調処理部56による強調表示が実行された場合、例えば、通過を避けた方がよい領域が提示された場合、その領域より容易に通過できる領域を示すようなマーク、またはその領域の方向を示すようなマーク(例えば、矢印等)を表示してもよい。このようなマークを表示することで、走行可能な経路の探索がより容易になる。
経路算出部40は、凹凸状態検出部32が検出した路面の凹凸状態を利用して、車両1がより容易に走行できる推奨経路を算出する。経路算出部40は、例えば車両1が所定角度以上傾くような領域の通過回数が最も少なくなるような推奨経路を算出する。経路算出部40は、最も条件のよい推奨経路を算出してもよいし、最も条件のよい推奨経路とともに、それに準じる条件を満たす複数の推奨経路を算出して、利用者に選択させるようにしてもよい。なお、経路算出部40は、推奨経路を、車両1の移動方向を示す一本の経路線で示してもよいし、進路指標と同様に左右の前輪3Fの向かう方向として二本の進路線で示してもよい。なお、経路算出部40が算出する推奨経路を表示装置8に表示する場合は、進路指標とは異なる表示色、例えば青色等で表示することで、両者の識別性を向上することができる。また、経路算出部40が算出した推奨経路に沿って走行するように表示される仮想車両を表示してもよい。つまり、推奨経路のシミュレーションを行うようにしてもよい。推奨経路が複数提示される場合は、それぞれの推奨経路で仮想車両の走行シミュレーションを実施して、推奨経路の選択を行えるようにしてもよい。
出力部42は、強調処理部56による案内指標の強調結果や指標処理部58による案内指標の表示態様、周辺画像処理部60による周辺画像の表示態様、重畳部62による案内指標の重畳結果、案内処理部64による注意を喚起するメッセージや操作手順情報等を表示制御部14dに向けて出力する。また、案内処理部64が音声によるメッセージを選択した場合は、音声制御部14eに向けてメッセージデータを出力する。
上述したように構成される周辺監視装置(周辺監視システム100)に基づく案内指標の具体的な表示例を図5〜図10を用いて説明する。なお、図5〜図10は、表示装置8に表示される画面8aを示している。
図5は、岩が多数存在する路面70を車両1が走行している場合で、車両1の前方に案内指標として左の前輪3F用の進路指標RLと右の前輪3F用の進路指標RRが重畳表示されている画面8aの表示例である。この画面8aの場合、進路指標RL,RRが路面70と容易に識別できるように、例えば、赤色で表示されている。なお、進路指標取得部50は、周辺情報取得部30が取得する撮像画像データに基づき、路面70の色を検出し、進路指標RL,RLの表示色が路面70と同系色の色にならないように、適宜選択することができる。また、別の実施形態では、進路指標RL,RRの認識性をさらに向上するために、進路指標RL,RRを立体的に表示してもよい。つまり、進路指標RL,RRを厚みのある帯状の指標として表示してもよい。進路指標RL,RRを立体的に表示することにより路面70の凹凸状態がさらに顕著化される。また、画面8aに車両1の一部(先端部)に対応する自車画像Jを映り込ませることにより車両1と前方領域の物体(例えば、岩)との距離感の把握がより容易になり、車両1と路面70の凹凸との関係をより把握させやすくなる。
このように、車両1の前方を示す画像に、路面70の凹凸状態に倣うような表示態様の案内指標(進路指標RL,RR)を重畳表示することにより、案内指標の形状により路面70の凹凸状態がより明確になり、利用者に認識させやすくなる。
図6は、図5と同様に路面70の凹凸状態に倣うような表示態様で重畳された進路指標RL,RRにおいて、特に注意を必要とする部分に強調表示を施した表示例である。強調処理部56は、凹凸状態検出部32が検出した路面70の凹凸状態に基づき、車両1の存在する位置に対して所定の閾値以上の高さまたは勾配が存在する領域が抽出され、かつ進路指標RLまたは進路指標RRとその領域が重なる場合、その領域に強調処理を施す。強調表示としては、例えば、強調すべき領域の表示色を進路指標RL,RRと異なる表示色で表示したり、その領域を点滅表示したり、その領域の輝度を変化させたり、表示透過度を変化させたりする。図6において、領域72は、例えば車両1の底面を擦ってしまうような高さの突起部分である。このように車両1を進路指標RL,RRに沿って移動させる場合に特に注意が必要な領域を明示することにより、その領域を通過する際に車速を落させて安全性を向上させたり、転舵させてより容易に走行できる他の経路を探索させたりすることが容易にできる。なお、強調処理部56により強調表示が実行される場合、案内処理部64により注意喚起のメッセージを出力させるようにしてもよい。例えば、「進路指標上に、起伏の激しい部分が存在します。注意して走行してください。」や「進路指標上に、起伏の激しい部分が存在します。他の経路を検討する場合、ハンドルを回してください。」等のメッセージを表示装置8に表示したり、音声出力装置9から出力したりすることができる。
図7〜図9は、利用者により車両1の前方に仮想車両を表示する仮想車両表示モードが選択された場合の表示例である。ECU14は、操作入力部10や操作部14gを介して利用者により仮想車両74の表示要求を受け付けた場合、仮想車両取得部52がROM14bやSSD14fから仮想車両を示す表示情報を選択する。仮想車両74は車両1の形状に対応した同じ形状の車両でもよいし、他の形状の車両でもよい。仮想車両74の形状を車両1の形状に対応させることにより、車両1が仮想車両74が表示された位置に移動した場合の移動予測状態が把握しやすくなる。例えば、車両1が移動したときの状態を現在、画面8aに表示されている路面70と仮想車両74の相対関係から把握しやすくなる。
仮想車両74は、例えば透過度を高めた半透明で表示され、路面70や進路指標RL,RR等の視認の妨げにならないようにすることができる。なお、車両1の現在の位置を示す自車画像Jと仮想車両74を同時に表示する場合、自車画像Jの表示状態より予想進路に沿った位置に表示される仮想車両74の透過度を高くしてもよい。このように仮想車両74の透過度を高くして表示することにより、自車画像Jから離間して表示される仮想車両74が車両1の移動予測状態を示す画像であることをより印象づけることが可能で、画面8aの内容を把握しやすくすることができる。また、仮想車両74の透過度を高くして表示することにより、画面8aに仮想車両74とともに表示されている周辺画像の表示の妨げになりにくくすることが可能で、周辺画像の把握をより容易に行わせることができる。
また、仮想車両74を表示させる仮想車両表示モードは、例えば、仮想車両74を車両1から前方の所定距離だけ先行させた位置に固定するように固定表示してもよい。この固定モードでは、車両1と仮想車両74との相対距離が変化しない。固定モードの場合、仮想車両74の表示位置は、規定値、例えば、車両1の前方3mに相当する位置に表示されてもよいし、利用者に表示位置を選択させるようにしてもよい。このとき、仮想車両74は、表示位置の路面70の凹凸状態に応じた車両姿勢で表示される。したがって、車両1が進路指標RL,RRにしたがい移動した場合、仮想車両74も同様に移動するとともに、移動先の路面70の凹凸状態に応じて車両姿勢が変化することになる。このように、仮想車両74を固定モードで表示することにより、車両1を低速で移動させながら近い将来の車両1の姿勢を容易に把握させることができる。例えば3m先での車両1の姿勢を利用者に容易に想像させることができて、路面70の状態に応じた運転操作をより正確に実行させやすくなる。
また、別の表示モードとして、仮想車両74が車両1から遠ざかるように連続的または間欠的に移動するように表示される走行モードがある。走行モードは、画面8aの下端に表示される車両1を示す自車画像Jから仮想車両74が分離して走行していくような表示態様で、図7、図8、図9で示すように連続的に前方に移動するモードである。すなわち、車両1が進むと予想される予想進路に沿って仮想車両74が所定距離を移動する過程を表示装置8に表示させるモードである。走行モードが選択された場合、仮想車両74は路面70の凹凸状態にしたがい車両姿勢を変化させながら、例えば10秒間(または、例えば30m)前方に移動していく。このような走行モードで仮想車両74を現在の車両1の位置から徐々に移動していくように表示することにより、車両1が進路指標RL,RRに沿って移動した場合に、走行中の車両1の傾きがどの程度になるか、揺れがどの程度になるか等を各移動位置において示すことが可能になる。その結果、車両1の移動予測状態を直感的に把握しやすいシミュレーションが可能になる。また、車両1の現在位置を示す自車画像Jを表示した状態で、当該自車画像Jから離脱するような表示態様の仮想車両74を表示することにより、仮想車両74は、車両1の位置を基準として、車両1のこれからの移動状態を予測的に示す架空の車両であることを印象付けやすくなり、画面8aの表示内容をより把握させやすくなる。なお、仮想車両74を走行モードで表示する場合、上述したように連続的に表示してもよいし、図7、図8、図9で個別に示すように所定間隔で間欠的に表示してもよい。仮想車両74を連続的に表示する場合、仮想車両74の姿勢変化の推移をより詳細に表示することができる。一方、仮想車両74を間欠的に表示する場合は、仮想車両74の姿勢変化を連続的に表示するよりは簡易的ではあるが表示しつつ、仮想車両74の表示のための処理負荷を軽減することができる。
なお、走行モードにおいて、図6で説明した例と同様に、注意喚起をする領域が進路指標RL上や進路指標RR上に存在する場合、強調表示(例えば、赤色表示、点滅表示、高輝度表示等)を施してもよい。また、指標処理部58は、強調表示を施した領域の通過が困難であると判定した場合、その位置で仮想車両74を停止させるようにしてもよい。例えば、撮像部15が撮像した撮像画像データ(ステレオ画像データ)やレーザスキャナ28の検出結果を解析した結果、路面70の勾配が車両1が越えられる値を超えている場合や接触する障害物等が存在する場合、仮想車両74を停止させる。また、強調処理部56は、仮想車両74が停止した状態で、当該仮想車両74の強調表示(赤色表示、点滅表示、高輝度表示等)を実行し、注意喚起するようにしてもよい。また、走行不能を示す例として、仮想車両74の姿勢を過剰に大きく崩すように表示して、さらに利用者の注意を喚起するようにしてもよい。このように、走行モードで仮想車両74を表示することにより、現在の車両1の位置から遠方位置まで連続的に路面70の凹凸状態の明確な表示が可能になり、進路指標RL,RRにしたがう走行の是非判断や、他の経路の選択の是非判断をより早い段階で利用者に行わせることができる。したがって、例えば、走行不能な領域の回避を余裕をもって事前に行わせやすくなる。また、走行不能な領域の回避を早く行わせることができるので、その領域の回避のための経路の選択肢が多い段階で進路指標RL,RRの再検索を実行できる。なお、走行モードにおける仮想車両74の移動距離は、固定でもよいし、利用者によって、例えば見通しのきく領域内で適宜設定できるようにしてもよい。
他の実施形態では、指標制御部38は、仮想車両74を走行モードで表示する場合、仮想車両74が予想進路に沿って所定距離移動した後に、現在の車両1の位置(自車画像Jの位置)まで戻り、再び予想進路に沿って所定距離移動をするようにしてもよい。例えば、仮想車両74は、図7〜図9に示すように、自車画像Jから遠ざかるように移動表示された後、自車画像Jの位置に一旦戻り、再度図7〜図9に示すように、自車画像Jから遠ざかるように移動表示される。そして、この動作を複数回繰り返してもよい。このように、車両1の現在の位置(自車画像Jの位置)と所定距離だけ離間した位置との間で仮想車両74の移動を繰り返し実施することで、車両1(自車)がこれから移動する場合の挙動を繰り返し利用者に提示することが可能になる。その結果、仮想車両74が移動した進路を選択して車両1(自車)を走行させる場合の走行イメージをより明確に把握させることが可能になり走行時の安心感を向上させることができる。
また、他の実施形態では、仮想車両74は、車両1が停車中のみ表示されるようにしてもよい。仮想車両74の表示は、停車中に利用者による表示要求を受け付けたときのみ実行されるようにしてもよい。また、仮想車両74が表示されている状態で車両1が移動を開始した場合、例えば、移動開始と同時または所定速度を越えた場合に仮想車両74を非表示としてもよい。仮想車両74の表示を停車中のみまたは所定速度以下のときのみとすることにより、車両1の走行中に提供する情報を制限して、車両1の進行方向の画像の視認性をより向上させることができる。
図10は、仮想車両74が例えば図9で示す位置に移動したときに、例えば運転席から見た周辺画像を示す表示例である。仮想車両74が表示されている場合に、例えば利用者により操作入力部10や操作部14gを介して、先行視点画像(未来画像)の表示要求がなされた場合、周辺画像処理部60は、表示装置8に表示する画面8aを図10に示す例のように切り替える。図10の表示例の場合、画面8aの下端側に仮想車両74の前端部が半透明の状態で表示され、当該仮想車両74の運転席に相当する位置から見た周辺画像が表示されている。半透明で仮想車両74が表示されることにより、表示装置8に先行視点画像(未来画像)が表示中であることを利用者に理解させやすくなる。前述したように、このとき画面8aに表示される画像は、例えば、車両1から仮想車両74までの離間距離に応じて、車両1の現在の位置で撮像部15cが取得した撮像画像データに基づく画像を拡大したものとすることができる。画像が拡大されることにより、車両1の位置では遙か遠方に小さく見えていた風景が大きく表示され、遠方に移動した仮想車両74の位置で見たような風景を表示することができる。また、進路指標RL,RRも遠方に移動した仮想車両74の位置を起点としてさらに遠方まで延びているように見せることができる。その結果、仮想車両74の位置まで移動した後、さらに先の路面70の凹凸状態を利用者に認識させやすくすることができる。なお、画像の拡大処理を行う場合、画質が低下する場合がある。その場合は、周知の画像補正手法を用いて、適宜補正してもよい。また、先行視点画像(未来画像)は、仮想車両74がいずれの位置に存在しても表示させることができる。例えば、固定モードで仮想車両74が表示されている場合に表示要求に応じて先行視点画像(未来画像)を表示してもよい。また、走行モードで仮想車両74を表示している場合に表示要求がなされた場合、図10で示す表示状態に切り替えるとともに、先行視点画像(未来画像)を表示したまま、視点をさらに前方に移動する(拡大表示を連続的に行う)ようにしてもよい。つまり、先行した位置で走行しつつ、周囲を見ているような画像を表示してもよい。
上述したような案内指標の表示処理の一例を図11および図12のフローチャートを用いて説明する。なお、図11は、処理の前半部分を説明するフローチャートで、図12が処理の後半部分を説明するフローチャートである。
まず、ECU14は、案内指標(進路指標RL,RRや仮想車両74)に関する情報提供を許可する条件が成立していることを示す信号の有無を検出する(S100)。例えば、表示装置8の表示モードとして、ナビゲーション画面表示モードやオーディオ画面表示モードが選択されている場合や、車両1の速度が所定速度以上(例えば20km/h以上)の場合、案内指標の表示要求はされていない、または案内指標の表示が望ましくない走行状態であると判定して、ECU14は、一旦このフローを終了する(S100のNo)。なお、情報提供条件は、利用者等によって適宜変更可能とすることができる。
情報提供条件が満たされた場合(S100のYes)、例えば、利用者が操作入力部10や操作部14gを操作して案内指標を表示することを要求し、かつ車両1の車速が所定速度未満の場合、周辺情報取得部30は車両1の進路方向の情報を取得する(S102)。例えば、周辺情報取得部30は、変速操作部7が「後退」を示す位置以外の場合、撮像部15cにより車両1の前方の周辺領域を撮像範囲とする撮像画像データを取得する。撮像部15cがステレオカメラの場合、同時に撮像範囲の三次元情報も取得する。また、撮像部15cが単眼カメラの場合、周辺情報取得部30は撮像部15cから車両1の前方の周辺領域を撮像範囲とする撮像画像データを取得するとともに、レーザスキャナ28から車両1前方の三次元情報を取得する。また、舵角取得部34は、舵角センサ19の検出結果から現在の車両1の舵角を取得する(S104)。
続いて、凹凸状態検出部32は、撮像部15c(ステレオカメラ)またはレーザスキャナ28の取得した三次元情報に基づき路面70の凹凸状態を検出する(S106)。そしてCPU14aは、路面70の凹凸状態に倣うような表示態様の進路指標RL,RRを算出する(S108)。具体的には、進路指標取得部50は、舵角取得部34の取得した舵角に基づき前輪3Fの向いている方向に延びる扁平な基準形状の進路指標を取得する。そして、指標処理部58は、取得された基準形状の進路指標の形状を凹凸状態検出部32が検出した路面70の凹凸状態を示す三次元情報に基づき変化させて、凹凸状態に倣うような進路指標RL,RRとする。そして、指標処理部58は、算出された進路指標RL,RRを撮像部15cが撮像した画像の対応する位置に重畳して表示装置8に表示する(S110)。
また、強調処理部56は、表示装置8に表示された進路指標RL,RRに対して、注意を必要とする領域の表示を実行する強調表示の要求を示す信号の有無を検出する(S112)。進路指標RL,RRに対して、強調表示の要求があった場合(S112のYes)、強調処理部56は、凹凸状態検出部32の検出した路面70の凹凸状態に応じて、凹凸の大きさが所定値を越える部分や車両1と干渉する可能性のある障害物が存在する部分等を特定し、対応する進路指標RL,RR上の領域72に図6に示すような強調表示を実行する(S114)。また、強調処理部56は、強調表示の要求信号が検出できない場合(S112のNo)、S114の処理をスキップする。なお、強調表示が自動的に実行される場合、S108で進路指標RL,RRの算出を行うときに、強調処理部56により強調表示処理が行われるようにしてもよい。
続いて、仮想車両取得部52は、仮想車両74の表示要求を示す信号の有無を検出する(S116)。仮想車両取得部52は、仮想車両74の表示要求があり(S116のYes)、走行モードの要求がなされた場合(S118のYes)、例えば、図7〜図9に示すような表示を実行するために仮想車両74の表示データをECU14やSSD14fから取得する。そして、指標処理部58および重畳部62は、車両1の前方へ遠ざかるように移動する表示形態の仮想車両74の表示処理を実行する(S120)。
周辺画像処理部60は、走行モードの実行中または、仮想車両74が遠方の所定位置で停止表示されたとき、または固定モードで仮想車両74が表示されているときに、先行視点画像(未来画像)の表示要求(画像切替要求)信号が入力されるか否かを検出する(S122)。画像切替要求信号が検出された場合(S122のYes)、周辺画像処理部60は、仮想車両74の移動位置に対応する視点から見た図10に示すような先行視点画像(未来画像)を生成して、出力部42を介して表示装置8に表示させる(S124)。
経路算出部40は、案内指標(進路指標RL,RRや仮想車両74)が表示装置8に表示されている間に、推奨経路の算出(表示)要求信号が入力されるか否かを検出する(S126)。推奨経路の算出(表示)要求信号が検出されない場合(S126のNo)、CPU14aは、所定期間、案内指標が表示装置8に表示された後、例えば20秒の間に、舵角取得部34が取得する舵角が所定角Y以上変更されたか否かを検出する(S128)。舵角が所定角度、例えば舵角が10°以上変更された場合(S128のYes)、CPU14aは、利用者が現在表示されている案内指標(進路指標RL,RR,仮想車両74)とは異なる方向に向く案内指標の表示を要求していると判定して、S100に移行し、再度、案内指標の表示(更新)処理を実行する。
一方、CPU14aは、所定期間、例えば20秒の間に、舵角取得部34が取得する舵角が所定角Y以上変更されない場合(S128のNo)、情報提供解除条件が成立していることを示す信号の有無を検出する(S130)。例えば、表示装置8の表示モードとして、ナビゲーション画面表示モードやオーディオ画面表示モードが選択された場合や、車両1の速度が所定速度以上(例えば20km/h以上)になった場合、案内指標の表示要求が解除、または案内指標の表示が望ましくない走行状態に移行して情報提供解除条件が成立したと判定する(S130のYes)。そして、ECU14は、表示装置8の表示を要求されたナビゲーション画面やオーディオ画面、または走行中に表示されていても特に支障のない通常画面を表示して(S132)、このフローを一旦終了する。
また、S130において、CPU14aが、情報提供解除条件が成立していないと判定した場合(S130のNo)、利用者が案内指標の表示の継続を要求していると判定して、S100に移行して、案内指標の表示(更新)処理を実行する。
S126において、経路算出部40が、操作入力部10や操作部14gを介して入力された推奨経路の算出(表示)要求信号を検出した場合(S126のYes)、凹凸状態検出部32の検出した路面70の凹凸状態を参照して、推奨経路を算出し(S134)、出力部42を介して表示装置8に表示する(S136)。推奨経路は、案内指標の一例であり、例えば車両1が所定角度以上傾くような領域の通過回数が最も少なくなるように算出することができる。この場合、経路算出部40は、最も条件のよい推奨経路を一種類だけ算出してもよいし、最も条件のよい推奨経路とともに、それに準じる条件を満たす複数の推奨経路を算出して、利用者に選択させるようにしてもよい。指標処理部58は、推奨経路が算出された場合、進路指標RL,RRと同様に凹凸状態検出部32が検出した路面70の凹凸状態に倣うような表示態様になるように推奨経路を変形する。図13は、推奨経路SRL,SRRの表示例である。推奨経路SRL,SRRを表示する場合も、画面8aに車両1の一部(先端部)を示す自車画像Jを映り込ませることにより車両1と前方領域の物体(例えば、岩)との距離感の把握がより容易になり、車両1と路面70の凹凸との関係や推奨経路SRL,SRRの向かう方向をより把握させやすくなる。図13は、推奨経路SRL,SRRのみを表示する例を示しているが、進路指標RL,進路指標RRと併せて表示してもよい。推奨経路SRL,SRRのみを表示する場合、推奨経路SRL,SRRの認識度、注目度を高めることができる。一方、進路指標RL,RRと推奨経路SRL,SRRとを同時に表示する場合は、進路指標RL,RRと推奨経路SRL,SRRとの比較が容易になり、推奨経路SRL,SRRを選択すべきか否かの判断をより容易に利用者に行わせやすくなる。進路指標RL,RRと推奨経路SRL,SRRとを同時に表示する場合は、両者の識別性を高めるために、進路指標RL,RRは例えば赤色表示、推奨経路SRL,SRRは例えば青色表示にするなど異なる表示態様で表示することが望ましい。また、進路指標RL,RRの表示透過度を高くして目立たなくし、推奨経路SRL,SRRの表示透過度を低くして目立つようにして、両者の識別が容易になるようにしてもよい。
CPU14aは、操作入力部10や操作部14gを介して、提示された推奨経路SRL,SRRを採用する旨を示す信号を取得した場合(S138のYes)、案内処理部64により、選択された推奨経路SRL,SRRを用いた経路案内処理を実行する(S140)。例えば、操舵部4の操作案内等を行う。なお、推奨経路SRL,SRRの案内が開始されるときに進路指標RL,RRが表示されていた場合は、進路指標RL,RRを非表示とすることが望ましい。推奨経路SRL,SRRに基づく経路案内が終了した場合(S142のYes)、ECU14は、S132の処理に移行して、このフローを一旦終了する。また、経路案内が終了していない場合(S142のNo)、S140に戻り、推奨経路案内処理を継続する。また、S138において、提示した推奨経路SRL,SRRが利用者によって採用されなかった場合(S138のNo)、S128に移行して、それ以降の処理を継続する。また、S122において、画像切替要求信号が検出されない場合(S122のNo)、S128に移行して、それ以降の処理を継続する。
また、S118において、仮想車両74の表示モードとして、走行モードが選択されなかった場合(S118のNo)、固定モードの表示処理を実行する(S144)。この場合、指標処理部58および重畳部62は、仮想車両74を車両1の前方の所定距離(例えば、3m先)に相当する位置に固定して表示して、S128に移行して、以降の処理を実行する。
S116において、指標取得部36は、操作入力部10または操作部14gを介して利用者からの仮想車両74の表示要求を示す信号が取得できない場合(S116のNo)、S128に移行して、以降の処理を実行する。
このように、本実施形態の周辺監視システム100は、路面70の凹凸状態に倣うような表示態様の案内指標を表示装置8に表示することにより、車両1がこれから走行する路面70の状態がより把握しやすくなり、より走行しやすい経路を容易に選択させ、効率的な走行を実現させることができる。また、本実施形態の周辺監視システム100によれば、険しい経路(悪路)を意図的に選択して、不整地路(オフロード)の走行を楽しませるという走行形態も提供することができる。また、その際にも路面70の凹凸状態に応じた経路を適宜選択させることができるので、オフロード走行の楽しさを向上させることができる。このとき、選択した経路(悪路)に沿って移動する仮想車両74を表示して、悪路シミュレーションを行うようにしてもよい。このとき、路面70の凹凸状態によっては、例えば、仮想車両74が転倒するような失敗シミュレーションを提供するようにしてもよい。
図14は、仮想車両74の走行モードにおける他の表示例を説明する図である。図14の場合、自車画像Jおよび仮想車両74が俯瞰画像(3D画像)で表示され、自車画像Jから仮想車両74が分離していくように表示される例である。俯瞰画像で表示される場合、自車画像Jのデータは、ROM14bやSSD14fから取得することができる。そして、仮想車両74を走行モードで表示する場合、自車画像Jから遠ざかるのにしたがい、仮想車両74は、仮想車両74m1、仮想車両74m2、仮想車両74m3で示すように、徐々に透過度を高めてもよい。そして、最終的には仮想車両74の透過度を100%として消失するようにしてもよい。このように透過度を変化させることにより、自車画像Jと仮想車両74との区別を容易にできるようにするとともに、移動している車両(仮想車両74)が仮想的な車両であり、移動状態を表示されていることを認識させやすくしている。なお、自車画像Jと仮想車両74とは、表示色を異ならせて容易に識別できるようにしてもよい。例えば、自車画像Jは、車両1の車体色に対応して例えば、青色とし、仮想車両74は薄青色としてもよい。また、仮想車両74は、自車画像Jと異なる色としてもよく、利用者が選択できるようにしてもよい。仮想車両74は、移動に伴いその表示色を順次変更(例えば、徐々に薄く変更)して、遠方に移動していくことを表現してもよい。なお、仮想車両74は、外形(車両フレーム)のみを線図で表現することにより、仮想的な車両であることを認識させやすくすることができる。また、線図で表現することで、仮想車両74の周辺領域を隠してしまうことなく、路面状態や障害物の有無等を利用者に認識させやすくすることができる。
図14の場合、説明のために、仮想車両74m1、仮想車両74m2、仮想車両74m3を図示しているが、走行モードの場合は、一つのの仮想車両74が連続的または間欠的に表示されることになる。また、固定モードの場合は、図示される仮想車両74m1、仮想車両74m2、仮想車両74m3のいずれかの位置で自車画像Jからの距離に対応した透過度で表示される。この場合、固定表示される仮想車両74は、一つでも複数でもよい。走行モードで、仮想車両74が表示される場合、指標処理部58は、仮想車両74の前輪74aおよび後輪74bが回転しているようなアニメーション表示を行い、仮想車両74が走行表示されていることを認識しやすいようにしてもよい。なお、固定モードの場合は、仮想車両74の前輪74aおよび後輪74bは非回転とされ、この点においても走行モードと固定モードを識別できるようにしている。
また、強調処理部56は、仮想車両74の移動経路上に、利用者に注意させるべき領域が存在する場合、例えば、路面70の凹凸の大きさが所定値を越えて、通過には十分な注意が必要な場合、その位置に対応する例えば仮想車両74m2に対して強調表示(例えば、赤色表示、点滅表示、高輝度表示等)を実行する。このような強調表示を行うことにより、通過に注意を払うべき位置を利用者に客観的に認識させやすく、車両1の操縦負担の低減に寄与できる。なお、強調表示された仮想車両74は、その位置で停止するようにしてもよい。この場合、注意喚起すべき位置の認識性を向上させることができる。また別の例では、強調表示された位置で、仮想車両74を二つに分離して、一方は停止表示させ、他方は移動を継続させてもよい。このような表示を行うことにより、注意喚起すべき位置の認識性を向上させることができるとともに、その先の状況を引き続き観察可能として、利用者に進路選択の是非判断を行わせやすくすることができる。また、注意すべき領域で表示されている仮想車両74に強調表示を施すことにより、自車画像Jとの区別が容易になるという効果もある。
また、図14において、仮想車両74m3の表示位置では、側方ドアの近くに大きな岩70aが存在する例が示されている。つまり、車両1が仮想車両74m3の位置で停止した場合、ドアを開けることが困難になる。例えば、撮像部15が撮像した撮像画像データ(ステレオ画像データ)やレーザスキャナ28の検出結果の解析に基づいて、ドアの開放を困難にする障害物を検出した場合、強調処理部56は、図14に示すように、開放が困難なドア74pを強調表示してもよい。強調処理部56は、例えば、赤色表示や点滅表示、高輝度表示等を実行する。また、仮想車両74が、例えば岩70aと接触するような場合には、仮想車両74m3をその位置(接触直前の位置)で停止させて、仮想車両74m3全体を強調表示してもよい。このような表示を行うことにより、運転者は事前に移動方向を変更する等の対応を取りやすくなる。このようなドア開放が困難になる場合の報知や接触の可能性がある場合の報知は、例えば、車両1が駐車スペースに後退走行する場合にも利用可能であり、車両1の良好な駐車を実現するための支援をすることができる。また、指標処理部58は、車側のドアやリアハッチのドア2hが開放された状態の仮想車両74を表示してもよい。この場合、開放したときにドアが周囲の障害物(壁や他車等)と接触せず、また十分な利用スペースを確保できるか否かを事前に利用者に通知可能となり、車両1の良好な停止位置について事前に検討させることができる。
また、指標処理部58は、図14のような俯瞰表示を行う場合(図14のように、車両の斜め後ろ上方から当該車両を見下ろしたときの三次元的な俯瞰画像にて俯瞰表示を行う場合)も、仮想車両74を任意の位置で停止することができる。例えば、利用者が操作入力部10や操作部14gを用いて、仮想車両74の停止を希望した場合に停止処理を実行できる。このような表示を可能にすることで、その位置での仮想車両74の傾きや、岩の乗り上げ状態等を詳細に観察可能となり、進路の選択等の検討を事前に利用者に行わせやすくなる。また、固定モードにおいて、指標処理部58は、操作入力部10や操作部14gを介して指定された移動量だけ、仮想車両74を移動させることが可能である。操作入力部10や操作部14gの操作の仕方により、例えば、0.1mずつ移動させたり、0.5mずつ移動させたりすることが可能で、各移動位置における仮想車両74の姿勢等の詳細観察が可能になり、利用者において、進路の選択等の検討が事前に行い易くなる。なお、仮想車両74は、図14のように車両の斜め後ろ上方から当該車両を見下ろしたような三次元的な俯瞰画像を表示する場合でも、図7〜図9で説明したように、路面70の状態(凹凸や勾配等)に倣うような車両姿勢で表示されてもよい。例えば、走行モードの場合、指標処理部58は、仮想車両74を路面70の形状にしたがい車両姿勢を変化させながら(揺れながら)走行するように表示する。また、固定モードの場合、指標処理部58は、仮想車両74が固定表示される路面70の形状にしたがう車両姿勢で表示する。
また、図14において、自車画像Jや仮想車両74を表示する場合、車両の状態を示す情報を併せて表示してもよい。例えば、車両1の各タイヤの空気圧の状態を自車画像Jや仮想車両74に表示してもよい。具体的には、空気圧が所定値以下となっているタイヤに対応する自車画像Jや仮想車両74のタイヤの表示色を所定の表示色(例えば、黄色等)で表示して、空気圧が所定値以下であることを運転者に通知するようにしてもよい。この場合、表示色は、上述したように仮想車両74が物体(例えば岩70a等)と接触するような場合の表示色(警報色)、例えば赤色と異なる報知色(例えば、黄色)として、報知内容を容易に識別できるようにすることが望ましい。また、自車画像Jや仮想車両74のタイヤの形状を空気圧が低下しているときの形状で表示してもよい。また、この空気圧低下時のタイヤ形状の表示と報知色での表示を併せて行ってもよい。このように、自車画像Jや仮想車両74を用いて,車両の状態(例えば、タイヤの空気圧の低下状態)を表示することで、その車両の状態変化を利用者(運転者)に容易に認識させるとことができる。なお、車両に状態として、例えば、ブレーキパッドの摩耗状態や、ライトバルブの状態等を表示してもよい。
なお、図14の場合、車両1(自車)の位置を示す自車画像Jを表示して、当該自車画像Jから仮想車両74が分離して走行するような表示態様で表示する例を示している。他の実施形態では、車両1(自車)の位置を示す自車画像Jを表示した後、仮想車両74の表示を開始するときに、自車画像Jを仮想車両74に置き換え、仮想車両74を車両1が進むと予想される方向に移動表示するようにしてもよい。また、他の実施形態では、車両1(自車)の位置を示す自車画像Jを表示した後、仮想車両74の表示を開始すると同時、または仮想車両74の移動開始から僅かに遅れて自車画像Jを非表示として、仮想車両74のみを移動表示するようにしてもよい。このように、仮想車両74を表示する際に、自車画像Jを非表示とすることで、画面8a上に複数の車両画像が表示されることを回避して、画面8aの表示内容を認識させやすくすることができる。つまり、図14のような自車画像Jと仮想車両74の同時表示を行う場合は、車両1と仮想車両74との関係を把握しやすい表示となる。一方、別の実施形態の表示態様のように、仮想車両74のみを表示するシンプルな表示の場合は、仮想車両74の挙動や移動位置での姿勢、周囲との関係等に注目しやすい表示となる。これらの表示態様の切り替えは、利用者による操作入力部10等の操作によって選択できるようにされてもよいし、規定モードとして設定されていてもよい。
図15〜図17は、仮想車両74を固定モードで表示する場合の他の実施形態を説明する図である。図7〜図9で表示例を示した仮想車両74は、主として仮想車両74の後ろ姿が表示され、車両1から前方に離間した位置で走行しているような表示態様で示された。このような表示態様の仮想車両74の車両姿勢を再現する場合、一例として、仮想車両74の各車輪(4輪)が路面70と接触すると推定される位置の路面70の三次元情報を用いて、仮想車両74の車両姿勢を算出した。一方、図15〜図17で説明する仮想車両74は、車両1より先行する位置に表示されるが、図15に模式的に示されるように、仮想車両74の位置は、車両1の進行方向の前側の車輪(前輪3F)に対応する位置まで仮想車両74の車両1に近い側の車輪(後輪74b)の位置が進んだ状態で表示される。つまり、車両1の前輪3Fと仮想車両74の後輪74bとが実質的に重なったような表示形態で仮想車両74が表示される。この場合、仮想車両74の後輪74bの状態は、車両1の前輪3Fの状態と同等と見なすことができる。つまり、仮想車両74の後輪74bの位置を示すための情報は、車両1の前輪3Fの実際の状態を示す情報を用いることができる。したがって、仮想車両74の車両姿勢を定める場合、仮想車両74の左右の前輪74aが路面70と接触する場合の三次元情報を取得すればよくなる。その結果、図7〜図9で示す仮想車両74のように、全ての車輪の表示位置に関する演算を行う場合に比べて、仮想車両74を表示するための演算負荷が軽減できる。
図16は、図15で説明したような車両1との位置関係で仮想車両74が存在する場合に、表示装置8に表示される画面8aの一例である。この場合、仮想車両74の表示透過度が高く設定され半透明の状態で表示されて、路面70の凹凸状態および進路指標RL,RR等が認識しやすいように表示される。また、仮想車両74は、車両1(自車画像J)の直前に存在するため、仮想車両74は、進行方向の前側の車輪(前輪74a)含む部分的な表示(部分仮想車両)の態様で表示される。図16の例の場合、前輪74aと後輪74bの一部および仮想車両74の骨格の一部が表示されている。なお、図16の場合、画面8a上で、車両1の位置を示す自車画像Jは、前輪3Fに相当する前輪76を表示できるように、図5等で示す例より表示範囲が大きく確保されている。また、図16の場合、説明のため、仮想車両74の後輪74bと自車画像Jの前輪76とはずれた状態で示しているが、よりズレ量の少ない状態、または完全に重なった状態で表示されてもよい。このように、車両1の前輪(自車画像Jの前輪76)と仮想車両74の後輪74bを重ねて表示することにより、CPU14aの処理負荷が軽減できるとともに、仮想車両74が車両1(自車画像J)の直前に位置するため、車両1が前進するのに連れて当該車両1の姿勢が今後どのように変化していくかを容易に利用者に把握させることができる。
図17は、図16の画面8aに、路面70が平坦の場合にその平坦状態を示す基準指標78を、案内指標としての進路指標RL,RRや仮想車両74とともに重畳した例である。基準指標取得部54は、操作入力部10や操作部14gを介して利用者から表示要求があった場合に、ROM14bやSSD14fから基準指標78を取得する。そして、基準指標78が重畳部62により路面70を示す画像に重畳される。このように、進路指標RL,RRや仮想車両74と基準指標78とを同時に表示して、比較させやすい態様で表示することで、案内指標(進路指標RL,RRや仮想車両74)の状態、例えば、凹凸状態や傾き状態等をより把握させやすくなり、路面70の凹凸状態をより容易に、直感的に把握させやすくすることができる。なお、基準指標78は、図5、図6で示すような路面70に進路指標RL,RRのみを表示する場合や、図7〜図9で示すような仮想車両74を車両1から離間させた状態で表示する場合に表示してもよく、同様の効果を得ることができる。なお、図16、図17に示す固定モードの表示例においても、図14に示す走行モードの表示例と同様に、強調処理部56は、周囲の状況に応じて強調表示を実行してもよい。また、指標処理部58は、仮想車両74の表示態様を変化させてもよい。いずれの場合も図14で示した走行モードの場合と同様な効果を得ることができる。
図18、図19は、図6で説明した、強調表示の他の実施形態の表示例を説明する図である。図6の強調表示は、進路指標RL,RRにおいて、特に注意を必要とする部分に強調表示を施した表示例である。一方、図18の例は、車両1の前方の領域に特に注意を必要とする領域80が存在する場合、その領域80全体に強調表示を施している。強調処理部56は、凹凸状態検出部32が検出した路面70の凹凸状態に基づき、車両1の存在する位置に対して所定の閾値以上の高さまたは勾配が存在する領域80が抽出された場合、その領域に強調処理を施す。強調表示としては、例えば、強調すべき領域の表示色を路面70の色彩と異なるような表示色で表示したり、その領域80を点滅表示したり、その領域80の輝度を変化させたりする。図18において、領域80は、例えば車両1の底面を擦ってしまうような高さの突起部分である。このように車両1の通過が望ましくない領域が明示されるので、操舵部4を操作して、より走行しやすい他の方向を向く進路指標RL,RRを探索する場合の効率を向上することができる。
図19は、図18の変形例である。強調処理部56が領域80の強調処理を施した場合、指標処理部58は、進路指標RL,RRが領域80を越えて前方に延びるように設定される場合、その部分を非表示とする。このように、進路指標RL,RRを途中で非表示とすることにより、強調表示された領域80より先の走行を避けることが望ましいというメッセージを明確に使用者に提示することができる。なお、この場合、領域80より先の進路指標RL,RRを完全に非表示とするのではなく、表示態様を変えることで識別できるようにしてもよい。例えば、領域80より先の進路指標RL,RRを赤色で点滅表示したり、表示透過度をさらに高くしたりして目立たなくしてもよく、同様の効果を得ることができる。
図20は、経路算出部40により推奨経路の算出する場合の応用例を説明する模式図である。なお、図13に示した例の場合、推奨経路SRL,SRRを進路指標RL,RRと同様の表示態様で左右の前輪3Fごとに示したが、図20の場合は、車両1の向かう方向として一本の推奨経路82で示している。経路算出部40が推奨経路82を算出する場合、経路算出部40は、車両1が所定角度以上傾くような場所(上下動作が所定値以上大きくなるような場所)の通過回数が最も少なくなるように推奨経路82を算出する。また、別の例では、経路算出部40は、例えば車両1を基準として車両前後方向と平行な複数の仮想直進線84を車両1の前方方向に設定する。そして、経路算出部40は、凹凸状態検出部32が検出した路面70の凹凸状態を参照して、仮想直進線84上で、車両1が所定角度以上傾く(上下動作が所定値以上大きくなる)凹凸位置86を抽出する。次に、経路算出部40は、凹凸位置86が存在する位置で仮想直進線84を一旦分割する。続いて、経路算出部40は、舵角をできるだけ変化させないで済むように、分割した仮想直進線84を繋ぎ直す。このような処理を行うことで、車両1が所定角度以上傾くような場所(上下動作が所定値以上大きくなるような場所)を避けた推奨経路82を容易に算出することができる。このような推奨経路82で走行させることにより、車両1の揺れ軽減が可能で、車酔いが軽減できたり、車両1に対するダメージを軽減できたりするという利点がある。
ところで、上述のように推奨経路82の算出を行う場合、路面70の凹凸状態によっては、例えば車両1の前方右側に通過を回避することが望ましい凹凸位置86が集中している場合があり、経路算出部40が例えば左方向に向く進路ばかりを選択してしまう場合がある。この場合、利用者が向かおうとしている方向から大きく逸れた方向に向く推奨経路82を算出してしまうことがある。そこで、経路算出部40は、推奨経路82を算出する場合に、車両1の位置を基準として、推奨経路82の検索可能範囲を設定できるようにしてもよい。例えば、図20に示すように、車両1を基準にして、車幅方向の左右15mの位置に限界線GL,GRを設定する。つまり、推奨経路82は、検索幅L(例えば30m)の範囲以内で設定されることになる。この場合、限界線GL,GRを設定しない場合に比べて、車両1が所定角度以上傾くような領域(上下動作が所定値以上大きくなるような領域)の通過回数が増加する可能性があるが、利用者が望む方向に概ね進むような推奨経路82が提示されやすくなり、より実用性の高い推奨経路82の提示ができる。なお、ECU14は、推奨経路82が確定した後、推奨経路82にしたがい車両1を自動走行させてもよい。
なお、図20の場合、車両1の前後方向と同じ方向に延び、車両1から車幅方向への距離が同じとなるような限界線GL,GRを設定する例を示した。限界線GL,GRの設定は、このように固定値でもよいし、操作入力部10や操作部14gを介して適宜設定変更できるようにしてもよい。例えば、車両1の左方向は10m、右方向は20mのように、左右不均等としてもよい。また、限界線GL,GRの設定方向を変更できるようにしてもよい。例えば、車両1の正面を基準に右方向に30°傾いた方向に限界線GL,GRが向くようにしてもよい。また、限界線GLは、車両1を基準に正面方向を向き、限界線GRは、車両1の正面を基準に右方向に30°傾く方向に設定できるようにしてもよい。また、限界線GLと限界線GRとのいずれか一方のみを設定できるようにしてもよい。
図21には、表示装置8において、他の付加情報が含まれる表示例が示されている。上述した各表示例では、画面8aが車両1の前方領域(一領域のみ)の情報を示している。一方、図21に示す変形例の場合、表示装置8は、表示領域を複数に分割して種々の方向の画像や車両1の姿勢を示す傾斜計88等を表示している。例えば、表示装置8の表示領域の中央上部に前方表示領域FVが配置され、その左斜め下に左側表示領域SVL、前方表示領域FVの右斜め下に右側表示領域SVRが配置されている。また、前方表示領域FVの下方に、傾斜計88を表示する姿勢表示領域PVが配置されている。前方表示領域FVには、図5〜図10、図13、図16〜図19等で示した画面8aが表示可能である。また、前方表示領域FVには、進路指標RL,RRに加え、車体2の前方側の端部2cからの距離の目安を示す前方参考線Qa、車体2の側方の端部2d,2fからの距離の目安を示す側方参考線Pa等が重畳表示されることができる。また、左側表示領域SVL、右側表示領域SVRにも前方参考線Qa、側方参考線Paが重畳されてもよい。また、左側表示領域SVLには、撮像部15dで取得した撮像画像データに基づく車両1の左側方画像(例えば、左側方見下ろし画像)が表示され、右側表示領域SVRには、撮像部15bで取得した撮像画像データに基づく車両1の右側方画像(例えば、右側方見下ろし画像)が表示される。左側方画像および右側方画像には、車両1の側方の路面70とそれぞれの車輪3の一部を映り込ませることができる。
このような表示により、車両1の周囲の路面70の状態はより理解しやすくなる。また、前方表示領域FVと左側表示領域SVLおよび右側表示領域SVRとの対応関係がより理解しやすいように表示される。なお、左側表示領域SVLおよび右側表示領域SVRの側方参考線Paには、前輪3Fの接地位置を示す接地線Pabが付され、前輪3Fの位置が容易に理解できるようになっている。また、図21では、側方参考線Paや前方参考線Qaは、固定線として直線またはレンズの湾曲特性に対応した湾曲形状で表示された例を示しているが、側方参考線Paや前方参考線Qaも進路指標RL,RRと同様に路面70の凹凸状態に倣うような表示態様で表示してもよい。この場合、側方参考線Paや前方参考線Qaの形状からも路面70の凹凸形状を把握しやすくなる。
なお、傾斜計88は、加速度センサ26(26a、26b)からの信号に基づき、車両1の左右方向の傾き(ロール角)や前後方向の傾き(ピッチ角)をシンボル90の姿勢で表示する。シンボル90の姿勢と路面70の凹凸状態に倣うような表示態様の案内指標とを同一画面に表示することにより、車両1の周囲の路面70の状況をより把握させやすくすることができる。なお、前方表示領域FVに、図14に示すような俯瞰画像を表示してもよく、上述した例と同様の効果を得ることができる。
図21に示す表示装置8の表示領域のレイアウトは一例であり、種々のレイアウトが採用できる。例えば、左側表示領域SVLおよび右側表示領域SVRの上下方向のサイズを拡大して、前方表示領域FVの側方まで延ばしてもよい。このように、前方表示領域FVを囲むように左側表示領域SVLおよび右側表示領域SVRを配置することにより、運転席を中心とする車両1の周囲の状況がより把握しやすい状態で表示装置8に表示できる。
なお、上述した実施形態の場合、進路指標RL,RR等は、舵角センサ19により検出された舵角に応じて表示が更新されるので、路面70の凹凸状態を広範囲に亘り、また利用者の希望する方向の凹凸状況を把握しやすいように表示することができる。このとき、舵角センサ19の検出結果が異常となった場合、進路指標RL,RRの表示をデフォルト表示するようにしてもよい。例えば、車両1の真正面方向に向く進路指標RL,RRを固定表示してもよい。この場合、少なくとも車両1の正面の路面70の凹凸形状は把握しやすくできるという利点がある。
また、撮像部15cをステレオカメラで構成している場合、二つ設けられたカメラのうち片方のカメラに不都合が生じた場合、三次元情報を取得できなくなる。この場合、周辺情報取得部30は、撮像部15cを周辺画像取得専用とし、少なくとも車両1の周辺画像を提供できるように切り替えてもよい。
上述した実施形態では、仮想車両74の表示要求を受け付けた場合、路面70の凹凸状態に倣うような表示態様で仮想車両74が表示される例を示したが、路面70の凹凸状態に応じて、仮想車両74の表示態様を変えてもよい。例えば、指標処理部58は、車両1の進行方向の路面70の凹凸状態(車両1の存在する位置を基準とする高さや勾配)が所定の閾値以上であった場合、路面70の凹凸状態に倣うような表示態様の案内指標を画面8aに重畳させて表示装置8に表示させてもよい。つまり、路面70の凹凸状態が所定の閾値未満の場合、仮想車両74は例えばデフォルト状態の姿勢(平坦路上に存在する時の姿勢)で表示される。このような表示を行うことにより、仮想車両74を表示するための処理が簡略化され処理負荷が軽減できる。
また、上述した実施形態では、仮想車両74を走行モードで表示するとき、当該仮想車両74は、連続的に移動するように表示する例を示した。別の実施形態では、走行モードの実行中(予想進路に沿って仮想車両が移動中)に、利用者の指示(操作入力部10や操作部14gを介した指示)により、仮想車両74を所定の位置(予想進路上の任意の位置)で停止するようにしてもよい。また、走行モードの実行中に予め設定した位置で仮想車両74を停止するようにしてもよい。このように、走行モードの動作と固定モードの動作を組み合わせることにより、仮想車両74が移動することによる車両姿勢の変化の推移が確認しやすくなる。また、仮想車両74が停止することにより停止位置における仮想車両74の状態を十分(詳細)に確認させることが可能になる。このとき、利用者は、操舵部4を操作することにより、仮想車両74の移動経路を変更することで、仮想車両74が停止したときの姿勢を変化させることができる。例えば、車両1を所望の位置に所望の姿勢で移動させたい場合(例えば駐車させたい場合)がある。この場合に、走行モードの実行中に仮想車両74をその所望の位置で停止させたり、車両1の現在の位置を基準に所望の位置で停止するように走行モードの実行前に移動距離等を設定したりする。そして、仮想車両74を所望の位置で停止させることにより、停止時の仮想車両74の姿勢を容易に把握することができる。利用者は操舵部4を微調整して、仮想車両74が所望の姿勢になるように、前輪3Fの向きを選択することにより、容易に車両1を所望の位置に所望の姿勢で移動(例えば駐車)させることができる。
なお、上述した実施形態では、主として、車両1が前進する場合を示したが、車両1が後退する場合にも本実施形態は適用可能で、同様の効果を得ることができる。例えば、車両1を駐車スペースに後退しながら移動させる場合でも、路面の凹凸状態を把握させやすくしたり、駐車スペースに所望の姿勢(例えば、駐車スペースに平行な姿勢)で移動する仮想車両74を表示させたりして、適切な操舵部4の操作を行わせやすくすることができる。
本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、請求の範囲に記載された発明とその均等の範囲に含まれる。