JP6962035B2 - 周辺監視装置 - Google Patents

Description

本発明の実施形態は、周辺監視装置に関する。

撮像部によって車両の周囲を撮像して得られる撮像画像に基づいて、車両の周囲の三次元の画像でありかつ車両の周囲の注視点を仮想視点から見た表示用画像を生成し、当該生成した表示用画像を表示部に表示させる技術が開発されている。

国際公開第２０１４／１５６２２０号

しかしながら、表示用画像を表示部に表示させる際に、注視点および仮想視点の両方をユーザが設定する場合、注視点および仮想視点の設定によるユーザの負担が大きくなる。

実施形態の周辺監視装置は、一例として、車両が搭載する撮像部により当該車両の周囲を撮像して得られる撮像画像に基づいて、車両の周囲の空間に車両画像を設けた仮想空間内の固定された注視点を、操作入力部を介して入力された仮想視点から見た第１画像を生成する生成部と、生成部により生成される第１画像を表示部に出力する出力部と、を備える。よって、一例として、第１画像を表示部に表示させる際の車両の乗員にかかる負担を軽減できる。

また、周辺監視装置は、一例として、生成部は、車両画像から予め設定された距離離れた位置を注視点とする。よって、一例として、車両の乗員から見て死角になる位置に注視点を予め設定しておくことにより、車両の乗員が操作入力部を介して注視点を入力しなくても、車両の死角になる位置の画像を表示部を介して確認することができる。

また、周辺監視装置は、一例として、生成部は、車両の移動に対応させた車両画像の移動に伴って、注視点を移動させる。よって、一例として、第１画像を表示部に表示させる際の車両の乗員にかかる負担を軽減できる。

また、周辺監視装置は、一例として、生成部は、仮想視点を入力可能とする操作画像を含む第１画像を生成し、操作画像を用いて新たな仮想視点が入力された場合、新たな仮想視点から注視点を見た第１画像を生成し直す。よって、一例として、第１画像を表示部に表示させる際の車両の乗員にかかる負担をより軽減できる。

また、周辺監視装置は、一例として、車両画像は、車両の三次元の画像である。よって、一例として、第１画像に含まれる車両画像とその周囲の立体物との位置関係をより分かり易くすることができる。

図１は、本実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。 図２は、本実施形態にかかる車両の一例の平面図である。 図３は、本実施形態にかかる車両の機能構成の一例を示すブロック図である。 図４は、本実施形態にかかる車両が有するＥＣＵの機能構成の一例を示すブロック図である。 図５は、本実施形態にかかる車両による表示用画像の表示処理の流れの一例を示すフローチャートである。 図６は、本実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルの一例を説明するための図である。 図７は、本実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルの一例を説明するための図である。 図８は、本実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルおよび車両画像の一例を説明するための図である。 図９は、本実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルおよび車両画像の一例を説明するための図である。 図１０は、本実施形態にかかる車両において生成される表示用画像の一例を示す図である。 図１１は、本実施形態にかかる車両において生成される表示用画像の一例を示す図である。

以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によって実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも１つを得ることが可能である。

本実施形態にかかる周辺監視装置（周辺監視システム）を搭載する車両は、内燃機関（エンジン）を駆動源とする自動車（内燃機関自動車）であっても良いし、電動機（モータ）を駆動源とする自動車（電気自動車、燃料電池自動車等）であっても良いし、それらの双方を駆動源とする自動車（ハイブリッド自動車）であっても良い。また、車両は、種々の変速装置、内燃機関や電動機の駆動に必要な種々の装置（システム、部品等）を搭載可能である。また、車両における車輪の駆動に関わる装置の方式、個数、レイアウト等は、種々に設定可能である。

図１は、本実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。図１に示すように、車両１は、車体２と、操舵部４と、加速操作部５と、制動操作部６と、変速操作部７と、モニタ装置１１と、を備える。車体２は、乗員が乗車する車室２ａを有する。車室２ａ内には、乗員としての運転手が座席２ｂに臨む状態で、操舵部４や、加速操作部５、制動操作部６、変速操作部７等が設けられている。操舵部４は、例えば、ダッシュボード２４から突出したステアリングホイールである。加速操作部５は、例えば、運転手の足下に位置されたアクセルペダルである。制動操作部６は、例えば、運転手の足下に位置されたブレーキペダルである。変速操作部７は、例えば、センターコンソールから突出したシフトレバーである。

モニタ装置１１は、例えば、ダッシュボード２４の車幅方向（すなわち、左右方向）の中央部に設けられる。モニタ装置１１は、例えば、ナビゲーションシステムまたはオーディオシステム等の機能を有していても良い。モニタ装置１１は、表示装置８、音声出力装置９、および操作入力部１０を有する。また、モニタ装置１１は、スイッチ、ダイヤル、ジョイスティック、および押しボタン等の各種の操作入力部を有しても良い。

表示装置８は、ＬＣＤ（Liquid Crystal Display）やＯＥＬＤ（Organic Electroluminescent Display）等で構成され、画像データに基づいて各種画像を表示可能である。音声出力装置９は、スピーカ等で構成され、音声データに基づいて各種音声を出力する。音声出力装置９は、車室２ａ内において、モニタ装置１１以外の異なる位置に設けられていても良い。

操作入力部１０は、タッチパネル等で構成され、乗員による各種情報の入力を可能とする。また、操作入力部１０は、表示装置８の表示画面に設けられ、表示装置８に表示される画像を透過可能である。これにより、操作入力部１０は、表示装置８の表示画面に表示される画像を乗員に視認させることを可能とする。操作入力部１０は、表示装置８の表示画面上における乗員のタッチ操作を検出することによって、乗員による各種情報の入力を受け付ける。

図２は、本実施形態にかかる車両の一例の平面図である。図１および図２に示すように、車両１は、四輪自動車等であり、左右２つの前輪３Ｆと、左右２つの後輪３Ｒと、を有する。４つの車輪３の全てまたは一部が、転舵可能である。

車両１は、複数の撮像部１５を搭載する。本実施形態では、車両１は、例えば、４つの撮像部１５ａ〜１５ｄを搭載する。撮像部１５は、ＣＣＤ（Charge Coupled Device）またはＣＩＳ（CMOS Image Sensor）等の撮像素子を有するデジタルカメラである。撮像部１５は、所定のフレームレートで車両１の周囲を撮像可能である。そして、撮像部１５は、車両１の周囲を撮像して得られた撮像画像を出力する。撮像部１５は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には、例えば、１４０°〜２２０°の範囲を撮像可能である。また、撮像部１５の光軸は、斜め下方に向けて設定されている場合もある。

具体的には、撮像部１５ａは、例えば、車体２の後側の端部２ｅに位置し、リアハッチのドア２ｈのリアウィンドウの下方の壁部に設けられている。そして、撮像部１５ａは、車両１の周囲のうち、当該車両１の後方の領域を撮像可能である。撮像部１５ｂは、例えば、車体２の右側の端部２ｆに位置し、右側のドアミラー２ｇに設けられている。そして、撮像部１５ｂは、車両１の周囲のうち、当該車両の側方の領域を撮像可能である。撮像部１５ｃは、例えば、車体２の前側、すなわち、車両１の前後方向の前方側の端部２ｃに位置し、フロントバンパやフロントグリル等に設けられている。そして、撮像部１５ｃは、車両１の周囲のうち、当該車両１の前方の領域を撮像可能である。撮像部１５ｄは、例えば、車体２の左側、すなわち、車幅方向の左側の端部２ｄに位置し、左側のドアミラー２ｇに設けられている。そして、撮像部１５ｄは、車両１の周囲のうち、当該車両１の側方の領域を撮像可能である。

図３は、本実施形態にかかる車両の機能構成の一例を示すブロック図である。図３に示すように、車両１は、操舵システム１３と、ブレーキシステム１８と、舵角センサ１９と、アクセルセンサ２０と、シフトセンサ２１と、車輪速センサ２２と、車内ネットワーク２３と、ＥＣＵ（Electronic Control Unit）１４と、を備える。モニタ装置１１、操舵システム１３、ブレーキシステム１８、舵角センサ１９、アクセルセンサ２０、シフトセンサ２１、車輪速センサ２２、およびＥＣＵ１４が、電気通信回線である車内ネットワーク２３を介して電気的に接続されている。車内ネットワーク２３は、ＣＡＮ（Controller Area Network）等により構成される。

操舵システム１３は、電動パワーステアリングシステムやＳＢＷ（Steer By Wire）システム等である。操舵システム１３は、アクチュエータ１３ａおよびトルクセンサ１３ｂを有する。そして、操舵システム１３は、ＥＣＵ１４等によって電気的に制御され、アクチュエータ１３ａを動作させて、操舵部４に対して、トルクを付加して操舵力を補うことによって、車輪３を転舵する。トルクセンサ１３ｂは、運転者が操舵部４に与えるトルクを検出し、その検出結果をＥＣＵ１４に送信する。

ブレーキシステム１８は、車両１のブレーキのロックを制御するＡＢＳ（Anti-lock Brake System）、コーナリング時の車両１の横滑りを抑制する横滑り防止装置（ＥＳＣ：Electronic Stability Control）、ブレーキ力を増強させてブレーキをアシストする電動ブレーキシステム、およびＢＢＷ（Brake By Wire）を含む。ブレーキシステム１８は、アクチュエータ１８ａおよびブレーキセンサ１８ｂを有する。ブレーキシステム１８は、ＥＣＵ１４等によって電気的に制御され、アクチュエータ１８ａを介して、車輪３に制動力を付与する。ブレーキシステム１８は、左右の車輪３の回転差等から、ブレーキのロック、車輪３の空回り、および横滑りの兆候等を検出して、ブレーキのロック、車輪３の空回り、および横滑りを抑制する制御を実行する。ブレーキセンサ１８ｂは、制動操作部６の可動部としてのブレーキペダルの位置を検出する変位センサであり、ブレーキペダルの位置の検出結果をＥＣＵ１４に送信する。

舵角センサ１９は、ステアリングホイール等の操舵部４の操舵量を検出するセンサである。本実施形態では、舵角センサ１９は、ホール素子等で構成され、操舵部４の回転部分の回転角度を操舵量として検出し、その検出結果をＥＣＵ１４に送信する。アクセルセンサ２０は、加速操作部５の可動部としてのアクセルペダルの位置を検出する変位センサであり、その検出結果をＥＣＵ１４に送信する。

シフトセンサ２１は、変速操作部７の可動部（バー、アーム、ボタン等）の位置を検出するセンサであり、その検出結果をＥＣＵ１４に送信する。車輪速センサ２２は、ホール素子等を有し、車輪３の回転量や単位時間当たりの車輪３の回転数を検出するセンサであり、その検出結果をＥＣＵ１４に送信する。

ＥＣＵ１４は、撮像部１５により車両１の周囲を撮像して得られる撮像画像に基づいて、仮想視点から、車両１の周囲の注視点を見た三次元の画像を生成し、当該生成した三次元の画像を表示装置８に表示させる。ＥＣＵ１４は、コンピュータ等で構成され、ハードウェアとソフトウェアが協働することにより、車両１の制御全般を司る。具体的には、ＥＣＵ１４は、ＣＰＵ（Central Processing Unit）１４ａ、ＲＯＭ（Read Only Memory）１４ｂ、ＲＡＭ（Random Access Memory）１４ｃ、表示制御部１４ｄ、音声制御部１４ｅ、およびＳＳＤ（Solid State Drive）１４ｆを備える。ＣＰＵ１４ａ、ＲＯＭ１４ｂ、およびＲＡＭ１４ｃは、同一の回路基板内に設けられていても良い。

ＣＰＵ１４ａは、ＲＯＭ１４ｂ等の不揮発性の記憶装置に記憶されたプログラムを読み出し、当該プログラムに従って各種の演算処理を実行する。例えば、ＣＰＵ１４ａは、表示装置８に表示させる画像データに対する画像処理、車両１の周囲に存在する障害物までの距離の算出等を実行する。

ＲＯＭ１４ｂは、各種プログラムおよび当該プログラムの実行に必要なパラメータ等を記憶する。ＲＡＭ１４ｃは、ＣＰＵ１４ａでの演算で用いられる各種データを一時的に記憶する。表示制御部１４ｄは、ＥＣＵ１４での演算処理のうち、主として、撮像部１５から取得してＣＰＵ１４ａへ出力する画像データに対する画像処理、ＣＰＵ１４ａから取得した画像データを表示装置８に表示させる表示用の画像データへの変換等を実行する。音声制御部１４ｅは、ＥＣＵ１４での演算処理のうち、主として、ＣＰＵ１４ａから取得して音声出力装置９に出力させる音声の処理を実行する。ＳＳＤ１４ｆは、書き換え可能な不揮発性の記憶部であって、ＥＣＵ１４の電源がオフされた場合にあってもＣＰＵ１４ａから取得したデータを記憶し続ける。

図４は、本実施形態にかかる車両が有するＥＣＵの機能構成の一例を示すブロック図である。図４に示すように、ＥＣＵ１４は、表示用画像生成部４０１および表示用画像出力部４０２を備える。例えば、回路基板に搭載されたＣＰＵ１４ａ等のプロセッサが、ＲＯＭ１４ｂまたはＳＳＤ１４ｆ等の記憶媒体内に格納された周辺監視用のプログラムを実行することにより、ＥＣＵ１４は、表示用画像生成部４０１および表示用画像出力部４０２の機能を実現する。表示用画像生成部４０１および表示用画像出力部４０２の一部または全部を回路等のハードウェアによって構成しても良い。

表示用画像生成部４０１は、撮像部１５から、ある時刻（以下、過去時刻と言う）の車両１の位置（以下、過去位置と言う）における当該車両１の周囲を撮像部１５によって撮像して得られる撮像画像を取得する。次いで、表示用画像生成部４０１は、取得した撮像画像に基づいて、車両１と当該車両１の周囲に存在する障害物との位置関係を視認可能とする表示用画像を生成する。

具体的には、表示用画像生成部４０１は、取得した撮像画像に基づいて、車両１の周囲の仮想空間内の注視点を、操作入力部１０を介して入力された仮想視点から見た画像を表示用画像として生成する。ここで、仮想空間は、過去位置における車両１の周囲の空間であり、かつ当該空間内における、過去時刻より後の時刻（例えば、現在時刻）の車両１の位置（例えば、現在位置）に対して、車両画像を設けた空間である。車両画像は、仮想空間を透視可能な三次元の車両１の画像である。本実施形態では、表示用画像生成部４０１は、仮想空間を透視可能な車両画像を当該仮想空間内に配置しているが、仮想空間を透視できない車両画像を当該仮想空間に配置しても良い。

本実施形態では、表示用画像生成部４０１は、取得した撮像画像を、過去位置における車両１の周囲の三次元の面（以下、カメラ画モデルと言う）に対して貼り付け、当該カメラ画モデルを含む空間を、過去位置における車両１の周囲の空間として生成する。次いで、表示用画像生成部４０１は、生成した空間内の車両１の現在位置に対して、車両画像を配置した空間を仮想空間として生成する。その後、表示用画像生成部４０１は、生成した仮想空間内の固定された注視点を、操作入力部１０を介して入力された仮想視点から見た画像を表示用画像として生成する。

また、本実施形態では、表示用画像生成部４０１は、操作入力部１０を介して新たな仮想視点が入力される度に、仮想空間内の固定された注視点を新たな仮想視点から見た表示用画像を生成し直す。表示用画像出力部４０２は、表示用画像生成部４０１により生成される表示用画像を、表示装置８に出力する。これにより、車両１の周囲の注視点を仮想視点から見た表示用画像を表示装置８に表示させる際に、車両１の乗員が仮想視点のみを指示するだけで、表示用画像が表示されるので、表示用画像を表示装置８に表示させる際の車両１の乗員にかかる負担を軽減できる。

次に、図５を用いて、本実施形態にかかる車両１による表示用画像の表示処理の流れの一例について説明する。図５は、本実施形態にかかる車両による表示用画像の表示処理の流れの一例を示すフローチャートである。

本実施形態では、表示用画像生成部４０１は、車輪速センサ２２による車輪３の回転数の検出結果に基づいて、車両１の車速が所定の車速以下となったか否かを判断する（ステップＳ５０１）。ここで、所定の車速は、予め設定された車速であり、例えば、人が歩く速度と同じ位の極低速、または１０ｋｍ／ｈである。そして、車両１の車速が所定の車速以下となったと判断した場合（ステップＳ５０１：Ｙｅｓ）、表示用画像生成部４０１は、撮像部１５により取得された撮像画像のうち、過去位置における車両１の周囲を撮像部１５によって撮像して得られた撮像画像を取得する（ステップＳ５０２）。例えば、表示用画像生成部４０１は、現在時刻より予め設定された時間（例えば、数秒）前の過去時刻の車両１の過去位置（若しくは、車両１の現在位置よりも予め設定された距離（例えば、２ｍ）手前の過去位置）における車両１の周囲を撮像部１５により撮像して得られた撮像画像を取得する。また、本実施形態では、表示用画像生成部４０１は、現在位置における車両１の床下に対応する画像を含む撮像画像を取得する。これにより、現在位置における車両１の床下の画像を含む表示用画像が生成可能となるので、現在位置における車両１の床下の状況を表示装置８を介して確認できる。

本実施形態では、表示用画像生成部４０１は、過去位置における車両１の周囲を撮像部１５により撮像して得られる撮像画像に基づいて、表示用画像を生成しているが、撮像部１５により車両１の周囲を撮像して得られる撮像画像に基づいて、表示用画像を生成するものであれば良い。例えば、表示用画像生成部４０１は、現在位置における車両１の周囲を撮像部１５により撮像して得られる撮像画像に基づいて、表示用画像を生成しても良い。

次に、表示用画像生成部４０１は、取得した撮像画像に基づいて、仮想空間内の固定された注視点を、操作入力部１０を介して入力された仮想視点から見た表示用画像を生成する（ステップＳ５０３）。本実施形態では、表示用画像生成部４０１は、取得した撮像画像をカメラ画モデルに貼り付ける。そして、表示用画像生成部４０１は、当該カメラ画モデルを含み、かつ現在位置に対して車両画像を配置した空間を、仮想空間とする。また、本実施形態では、表示用画像生成部４０１は、１つの撮像部１５により車両１の周囲を撮像して得られる撮像画像をカメラ画モデルに貼り付ける。これにより、複数の撮像部１５により車両１の周囲を撮像して得られる複数の撮像画像をカメラ画モデルに貼り付ける場合と異なり、カメラ画モデルに貼り付ける撮像画像につなぎ目が生じることを防止できるので、車両１とその周囲の障害物との位置関係をより確認し易くすることができる。本実施形態では、表示用画像生成部４０１は、１つの撮像部１５の撮像画像に基づいて表示用画像を生成しているが、複数の撮像部１５により車両１の周囲を撮像して得られる複数の撮像画像を、カメラ画モデルに貼り付け、当該カメラ画モデルを含む空間を仮想空間としても良い。

表示用画像出力部４０２は、表示用画像生成部４０１により生成された表示用画像を表示装置８に出力して、表示装置８に対して表示用画像を表示させる（ステップＳ５０４）。その後、表示用画像生成部４０１は、シフトセンサ２１によるシフトレンジの検出結果に基づいて、車両１が停車したか否かを判断する（ステップＳ５０５）。シフトセンサ２１により検出されたシフトレンジがパーキングレンジではなく、車両１が停車していないと判断した場合（ステップＳ５０５：Ｎｏ）、表示用画像生成部４０１は、車輪速センサ２２による車輪３の回転数の検出結果に基づいて、車両１の車速が所定の車速以下であるか否かを判断する（ステップＳ５０６）。車両１が停車していないと判断し、かつ車両１の車速が所定の車速以下である場合（ステップＳ５０６：Ｙｅｓ）、表示用画像生成部４０１は、操作入力部１０を介して、新たな仮想視点が入力されたか否かを判断する（ステップＳ５０８）。新たな仮想視点が入力されずに、予め設定された時間経過した場合（ステップＳ５０８：Ｎｏ）、表示用画像出力部４０２は、表示装置８に対する表示用画像の出力を停止して、表示装置８に対する表示用画像の表示を終了させる（ステップＳ５０７）。

新たな仮想視点が入力された場合（ステップＳ５０８：Ｙｅｓ）、表示用画像生成部４０１は、仮想空間内における固定された注視点を新たな仮想視点から見た表示用画像を生成し直す（ステップＳ５０３）。そして、表示用画像出力部４０２は、表示用画像生成部４０１により生成された表示用画像を表示装置８に出力して、表示装置８に対して当該生成された表示用画像を表示させる（ステップＳ５０４）。これにより、車両１が停車したと判断するまでの間、車両１の乗員が操作入力部１０を介して仮想視点を入力するだけで、様々な角度から注視点を見た画像を容易に表示させることができる。

一方、シフトセンサ２１により検出されたシフトレンジがパーキングレンジであり、車両１が停車したと判断した場合（ステップＳ５０５：Ｙｅｓ）および車両１の車速が所定の車速より速い場合（ステップＳ５０６：Ｎｏ）、表示用画像出力部４０２は、表示装置８に対する表示用画像の出力を停止して、表示装置８に対する表示用画像の表示を終了させる（ステップＳ５０７）。本実施形態では、表示用画像生成部４０１は、ステップＳ５０５において、シフトセンサ２１によるシフトレンジの検出結果に基づいて、車両１が停車したか否かを判断しているが、これに限定するものではなく、車輪速センサ２２による車輪３の回転数の検出結果に基づいて、車両１が停車したか否かを判断しても良い。具体的には、表示用画像生成部４０１は、車輪速センサ２２により車輪３の回転数が０になったまま予め設定された時間（例えば、３秒）経過した場合に、車両１が停車したと判断しても良い。

次に、図６〜９を用いて、本実施形態にかかる車両１による表示用画像の生成処理の一例について説明する。図６および図７は、本実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルの一例を説明するための図である。図６および図７において、車両１のタイヤの接地面（路面）と平行な１つの方向をＺ方向とし、車両１のタイヤの接地面と平行かつＺ方向と直交する方向をＸ方向とし、接地面に対して垂直な方向をＹ方向とする。図８および図９は、本実施形態にかかる車両における表示用画像の生成に用いるカメラ画モデルおよび車両画像の一例を説明するための図である。

図６および図７に示すように、表示用画像生成部４０１は、第１面Ｓ１と第２面Ｓ２とを含むカメラ画モデルＳを生成する。ここで、第１面Ｓ１は、車両１が存在する路面に対応する平坦な面である。例えば、第１面Ｓ１は、楕円形の平坦な面である。第２面Ｓ２は、第１面Ｓ１を基準として、第１面Ｓ１の外側（外縁）に連続して設けられ、かつ当該第１面Ｓ１から離れるに従って、Ｙ方向に徐々に立ち上がる面である。例えば、第２面Ｓ２は、第１面Ｓ１の外側から、Ｙ方向に楕円状または放物線状に立ち上がる面である。すなわち、表示用画像生成部４０１は、椀型または円筒状の三次元の面をカメラ画モデルＳとして生成する。

本実施形態では、表示用画像生成部４０１は、平坦な第１面Ｓ１と、曲面の第２面Ｓ２と、を有する三次元の貼付面をカメラ画モデルＳとして生成しているが、三次元の貼付面をカメラ画モデルＳとして生成するものであれば、これに限定するものではない。例えば、表示用画像生成部４０１は、平坦な第１面Ｓ１と、当該第１面Ｓ１の外側から当該第１面Ｓ１に対して垂直にまたは徐々に立ち上がる平坦な面の第２面Ｓ２と、を有する三次元の貼付面をカメラ画モデルＳとして生成しても良い。

次に、表示用画像生成部４０１は、過去位置Ｐ１において車両１の周囲を撮像部１５によって撮像して得られた撮像画像を、カメラ画モデルＳに対して貼り付ける。本実施形態では、表示用画像生成部４０１は、過去位置Ｐ１を原点するワールド座標系で表されるカメラ画モデルＳ内の点（以下、貼付点と言う）の座標（以下、三次元座標と言う）と、当該三次元座標の貼付点に貼り付ける、撮像画像内の点（以下、カメラ画点と言う）の座標（以下、カメラ画座標と言う）と、を対応付ける座標テーブルを予め作成する。そして、表示用画像生成部４０１は、撮像画像内のカメラ画点を、座標テーブルにおいて当該カメラ画点のカメラ画座標と対応付けられる三次元座標の貼付点に貼り付ける。本実施形態では、表示用画像生成部４０１は、車両１の内燃機関または電動機がスタートされる度に、当該座標テーブルを作成する。

その後、表示用画像生成部４０１は、撮像画像を貼り付けたカメラ画モデルＳを、過去位置Ｐ１における車両１の周囲の空間に配置する。さらに、表示用画像生成部４０１は、図８、および図９に示すように、当該空間内における車両１の現在位置Ｐ２に対して車両画像ＣＧを配置した空間を仮想空間Ａとして生成する。仮想空間Ａを生成すると、表示用画像生成部４０１は、図６、図８、および図９に示すように、当該仮想空間Ａにおいて車両１の現在位置Ｐ２に設けられた車両画像ＣＧの前端から、第１面Ｓ１に対して垂直に下した点を注視点Ｐ３に設定する。

また、表示用画像生成部４０１は、図６に示すように、仮想空間Ａ内において車両画像ＣＧから予め設定された距離（例えば、実空間における１〜２ｍに対応する距離）離れた位置に注視点Ｐ３を設定しても良い。これにより、車両１の乗員から見て死角になる位置に注視点Ｐ３を予め設定しておくことにより、車両１の乗員が操作入力部１０を介して注視点Ｐ３を入力しなくても、車両１の死角になる位置の画像を表示装置８を介して確認することができる。

次いで、表示用画像生成部４０１は、図８および図９に示すように、操作入力部１０から入力された仮想視点Ｐ４から注視点Ｐ３を見た表示用画像を生成する。これにより、車両１の現在位置Ｐ２の床下の画像を含む表示用画像を生成可能とする。また、表示用画像に含まれる車両画像ＣＧとその周囲の立体物との位置関係をより分かり易くすることができる。例えば、表示用画像生成部４０１は、図８に示すように、仮想空間Ａ内における注視点Ｐ３を、車両画像ＣＧの運転席の上方に存在する仮想視点Ｐ４から見た画像を表示用画像として生成する。または、表示用画像生成部４０１は、図９に示すように、仮想空間Ａ内における注視点Ｐ３を、車両画像ＣＧの上方かつ車両画像ＣＧの周囲のうち車両画像ＣＧから見て右側に存在する仮想視点Ｐ４から見た画像を表示用画像として生成する。

本実施形態では、表示用画像生成部４０１は、車両１の三次元のモデル画像を車両画像ＣＧとして、仮想空間Ａ内に配置するものとするが、車両１の二次元のモデル画像を車両画像ＣＧとして、仮想空間Ａ内に配置しても良い。また、本実施形態では、表示用画像生成部４０１は、仮想空間Ａが車両画像ＣＧを介して透視できるように、車両画像ＣＧの透過度を調整した上で、当該車両画像ＣＧを、仮想空間Ａ内に配置する。その際、表示用画像生成部４０１は、車両画像ＣＧのうち、タイヤの画像ＴＧ以外の画像の透過度を、タイヤの画像ＴＧの透過度より高くする。これにより、車両画像ＣＧに含まれるタイヤの画像ＴＧから、仮想空間Ａ内における車両画像ＣＧの位置を容易に把握可能とする。

また、過去位置Ｐ１における車両１の周囲（例えば、車両１の前方）を広角のカメラ（例えば、画角が１８０°のカメラ）により撮像して取得した撮像画像が貼り付けられたカメラ画モデルＳを含む仮想空間Ａの画像をそのまま表示装置８に表示させた場合、撮像画像に含まれる車両１の画像（例えば、車両１のフロントバンパの画像）が表示用画像に映り込んでしまい、車両１の乗員が、違和感を覚えることがある。これに対して、本実施形態では、表示用画像生成部４０１は、車両１の過去位置Ｐ１から、車両１の外側に向かって、隙間を空けて、カメラ画モデルＳを設けることにより、撮像画像に含まれる車両１の画像が表示用画像に映り込むことを防止できるので、車両１の乗員が違和感を覚えることを防止できる。また、本実施形態では、表示用画像生成部４０１は、車両１の現在位置Ｐ２の移動に伴って（言い換えると、車両１の移動に対応させた車両画像ＣＧの移動に伴って）、注視点Ｐ３を移動させる。これにより、車両１の現在位置Ｐ２が移動した場合に、車両１の乗員が操作入力部１０を介して注視点Ｐ３を入力する必要が無いので、表示用画像を表示装置８に表示させる際の車両１の乗員にかかる負担を軽減できる。

次に、図１０および図１１を用いて、本実施形態にかかる車両１において生成される表示用画像の一例について説明する。図１０および図１１は、本実施形態にかかる車両において生成される表示用画像の一例を示す図である。

表示用画像生成部４０１は、図１０に示すように、仮想空間内の固定された注視点Ｐ３を、車両画像ＣＧから見て右側に存在する仮想視点Ｐ４から見た表示用画像Ｇ１を生成する。その際、表示用画像生成部４０１は、図１０に示すように、表示用画像Ｇ１内における注視点Ｐ３の位置が、当該表示用画像Ｇ１内の中心に位置するように、表示用画像Ｇ１を生成する。そして、表示用画像出力部４０２は、生成された表示用画像Ｇ１を表示装置８に表示させる。その際、表示用画像生成部４０１は、表示用画像Ｇ１に対して、仮想視点Ｐ４を入力可能とするＧＵＩ（Graphical User Interface）である操作画像ＳＧ１〜ＳＧ４を含める。ここで、操作画像ＳＧ１は、車両画像ＣＧの前方への仮想視点Ｐ４の移動を指示可能とするＧＵＩである。操作画像ＳＧ２は、車両画像ＣＧから見て右方向への仮想視点Ｐ４の移動を指示可能とするＧＵＩである。操作画像ＳＧ３は、車両画像ＣＧの後方への仮想視点Ｐ４の移動を指示可能とするＧＵＩである。操作画像ＳＧ４は、車両画像ＣＧから見て左方向への仮想視点Ｐ４の移動を指示可能とするＧＵＩである。

その後、表示用画像生成部４０１は、操作入力部１０によって、操作画像ＳＧ３がタッチ操作されたことが検出された場合、図１１に示すように、仮想空間内の固定された注視点Ｐ３を、後方に移動した仮想視点Ｐ４から見た表示用画像Ｇ２を生成する。これにより、操作画像にタッチ操作するだけで、仮想視点Ｐ４を入力できるので、表示用画像を表示装置８に表示させる際の車両１の乗員にかかる負担をより軽減できる。そして、表示用画像出力部４０２は、生成された表示用画像Ｇ２を表示装置８に表示させる。その場合も、表示画像生成部４０１は、表示用画像Ｇ２に対して、操作画像ＳＧ１〜ＳＧ４を含める。ここでは、操作画像ＳＧ１〜ＳＧ４を用いて仮想視点Ｐ４を入力するものとしたが、操作入力部１０を用いて仮想視点Ｐ４を入力するものであれば、これに限定するものではない。例えば、表示用画像生成部４０１は、表示装置８の画面上におけるフリック入力を操作入力部１０によって検出し、検出したフリック入力に応じて移動した仮想視点Ｐ４を、入力された仮想視点Ｐ４としても良い。

このように、本実施形態にかかる車両１によれば、車両１の周囲の注視点を仮想視点から見た表示用画像を表示装置８に表示させる際に、車両１の乗員が操作入力部１０を介して、仮想視点のみを入力するだけで、表示用画像が表示されるので、表示用画像を表示装置８に表示させる際の車両１の乗員にかかる負担を軽減できる。

１…車両、８…表示装置、１４…ＥＣＵ、１５…撮像部、１４ａ…ＣＰＵ、１４ｂ…ＲＯＭ、１４ｃ…ＲＡＭ、１４ｄ…表示制御部、１４ｆ…ＳＳＤ、４０１…表示用画像生成部、４０２…表示用画像出力部。

Claims (4)

1. 車両の進行方向の路面と当該路面から上方の領域とを含む領域を撮像する撮像部から出力された撮像画像データを記憶する記憶部と、
   前記記憶部に記憶された前記撮像画像データのうち現在の車両の床下領域に対応する撮像画像データに基づく過去画像に基づいて、前記車両の周囲の空間に車両画像を設けた仮想空間内の固定された注視点を、操作入力部を介して入力された仮想視点から見た第１画像を生成する生成部と、
   前記生成部により生成される前記第１画像を表示部に出力する出力部と、
   を備え、
   前記生成部は、前記過去画像上の現在の前記車両の位置に基づいて前記注視点を決定する、
   周辺監視装置。
2. 前記生成部は、前記車両画像から予め設定された距離離れた位置を前記注視点とする請求項１に記載の周辺監視装置。
3. 前記生成部は、前記仮想視点を入力可能とする操作画像を含む前記第１画像を生成し、前記操作画像を用いて新たな前記仮想視点が入力された場合、前記新たな仮想視点から前記注視点を見た前記第１画像を生成し直す請求項１または２に記載の周辺監視装置。
4. 前記車両画像は、前記車両の三次元の画像である請求項１から３のいずれか一に記載の周辺監視装置。

Images