JP2016212501A - 移動体用画像生成装置及びナビゲーション装置 - Google Patents

移動体用画像生成装置及びナビゲーション装置 Download PDF

Info

Publication number
JP2016212501A
JP2016212501A JP2015092972A JP2015092972A JP2016212501A JP 2016212501 A JP2016212501 A JP 2016212501A JP 2015092972 A JP2015092972 A JP 2015092972A JP 2015092972 A JP2015092972 A JP 2015092972A JP 2016212501 A JP2016212501 A JP 2016212501A
Authority
JP
Japan
Prior art keywords
image
bird
display
eye
moving body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015092972A
Other languages
English (en)
Other versions
JP6415382B2 (ja
Inventor
稔康 新保
Toshiyasu Shinpo
稔康 新保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2015092972A priority Critical patent/JP6415382B2/ja
Publication of JP2016212501A publication Critical patent/JP2016212501A/ja
Application granted granted Critical
Publication of JP6415382B2 publication Critical patent/JP6415382B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】移動体の走行履歴によらず、移動体に搭載されたカメラで画像を撮影できない領域を撮影した画像から変換された鳥瞰画像を含む表示用画像を生成することができる表示用画像生成装置及びナビゲーション装置を提供する。【解決手段】画像生成装置13は、自車両1に搭載された第1カメラ11を用いて撮影した画像から第1鳥瞰画像を生成する第1鳥瞰画像生成部31と、第1鳥瞰画像と、自車両1と離れて別体に配置された外部撮影装置2が第2カメラ21を用いて撮影した画像から生成された第2鳥瞰画像とを含む表示用画像を生成する表示用画像生成部35と、表示用画像を自車両1に設けられた表示装置14に出力する画像出力部36とを備える。【選択図】図1

Description

本発明は、移動体に設けられた表示装置に表示させる画像を生成する移動体用画像生成装置と、この移動体用画像生成装置を有するナビゲーション装置に関する。
従来、カメラを用いて撮影した画像を、このカメラの撮影領域を上方から見たのと同等の画像(以下「鳥瞰画像」という。)に変換する画像変換技術が開発されている。特に、車両などの移動体に搭載された複数個のカメラを用いて撮影した画像から、この移動体の周囲の一定範囲の領域の鳥瞰画像を生成する、いわゆる「アラウンドビューモニター」(登録商標)又は「サラウンドビューシステム」などの技術も開発されている。これらの鳥瞰画像は、例えば、移動体の運転席から見えにくい位置にある障害物を映して運転者に通知するなど、移動体の運転支援に用いられている。
一般に、移動体に搭載されたカメラは撮影範囲に限りがあり、撮影範囲外の領域は画像を撮影することができない。また、例えば、移動体がT字路又は十字路の手前に位置している場合には、道路脇の建物及び塀などによりカメラの撮影範囲内に死角が生じ、この死角の領域も画像を撮影することができない。従来の技術では、移動体に搭載されたカメラで画像を撮影できない領域の鳥瞰画像は表示することができない問題があった。
この問題に対し、特許文献1の車両周囲監視装置は、車両に搭載されたカメラで撮影した画像から変換した鳥瞰画像に含まれる死角を、このカメラで過去に撮影した画像を用いて補完している。これにより、鳥瞰画像に含まれる死角を減らし、車両周囲の状況をより正確に報知するようにしている。
特開2004−40523号公報
特許文献1の車両周囲監視装置は、車両に搭載されたカメラで過去に撮影した画像を用いて鳥瞰画像の死角を補完している。この構成では、車両が初めて走行する道路にある死角は補完することができない課題があった。また、補完用の画像は過去に撮影した画像であり、リアルタイムに撮影した画像を補完に用いることができない課題があった。
本発明は、上記のような課題を解決するためになされたものであり、移動体の走行履歴によらず、移動体に搭載されたカメラで画像を撮影できない領域を撮影した画像から変換された鳥瞰画像を含む表示用画像を生成することができる移動体用画像生成装置を提供することを目的とする。また、かかる移動体用画像生成装置を有するナビゲーション装置を提供することを目的とする。
本発明の移動体用画像生成装置は、第1移動体に搭載された第1カメラを用いて撮影した画像から第1鳥瞰画像を生成する第1鳥瞰画像生成部と、第1鳥瞰画像と、第1移動体とは離れた別体として配置された外部撮影装置が第2カメラを用いて撮影した画像から生成された第2鳥瞰画像とを含む表示用画像を生成する表示用画像生成部と、表示用画像を第1移動体に設けられた表示装置に出力する画像出力部と、を備えるものである。
本発明によれば、第1移動体とは離れた別体として配置された外部撮影装置が第2カメラを用いて撮影した画像から生成された第2鳥瞰画像を含む表示用画像を生成する。これにより、第1移動体の走行履歴によらず、第1カメラで画像を撮影できない領域を撮影した画像から変換された第2鳥瞰画像を含む表示用画像を生成することができる。
本発明の実施の形態1に係る画像生成装置を含むブロック図である。 本発明の実施の形態1に係る画像生成装置のハードウェア構成の一例を示すブロック図である。 本発明の実施の形態1に係る表示用画像生成部の要部を示すブロック図である。 本発明の実施の形態1に係る画像生成装置の動作を示すフローチャートである。 本発明の実施の形態1に係る表示用画像生成部の動作を示すフローチャートである。 自車両がT字路に進入しつつある状態における第1カメラの撮影領域及び死角を示す説明図である。 図6に示す状態における第1カメラの撮影領域及び第2カメラの撮影領域を示す説明図である。 図6に示す状態における第1領域、第2領域及び重複領域を示す説明図である。 図8に示す重複領域のうちの第1鳥瞰画像を表示する領域と第2鳥瞰画像を表示する領域とを示す説明図である。 本発明の実施の形態1に係る他の表示用画像生成部の要部を示すブロック図である。 図6に示す状態における軌跡画像を示す説明図である。 本発明の実施の形態1に係る他の画像生成装置を含むブロック図である。 本発明の実施の形態2に係る画像生成装置を含むブロック図である。 本発明の実施の形態2に係る表示用画像生成部の要部を示すブロック図である。 本発明の実施の形態2に係る表示用画像生成部の動作を示すフローチャートである。 本発明の実施の形態2に係る表示用画像を示す説明図である。 本発明の実施の形態2に係る他の表示用画像生成部の要部を示すブロック図である。 本発明の実施の形態2に係る他の表示用画像を示す説明図である。 本発明の実施の形態3に係る画像生成装置を含むブロック図である。 本発明の実施の形態3に係るメッセージ画像の一例を示す説明図である。 本発明の実施の形態3に係るメッセージ画像の他の例を示す説明図である。 本発明の実施の形態3に係るメッセージ画像の他の例を示す説明図である。 本発明の実施の形態3に係るメッセージ画像の他の例を示す説明図である。
実施の形態1.
図1は、自車両1及び外部撮影装置2の要部を示すブロック図である。図1に示す如く、自車両1は、第1カメラ11、受信部12、画像生成装置13及び表示装置14を有している。外部撮影装置2は、第2カメラ21、第2鳥瞰画像生成部22、情報付加部23及び送信部24を有している。図1を参照して、実施の形態1の画像生成装置13について説明する。
外部撮影装置2は、自車両1とは離れた別体として配置され、かつ、自車両1と無線通信回線により通信自在な撮影装置である。外部撮影装置2は、例えば、街頭に設置された監視カメラ装置、又は、自車両1と異なる他車両に搭載された撮影装置により構成されている。
第2鳥瞰画像生成部22は、外部撮影装置2に設けられた第2カメラ21を用いて撮影した画像を、第2カメラ21の撮影領域を上方から見たのと同等の鳥瞰画像(以下「第2鳥瞰画像」という。)に変換するものである。この画像変換には、第2カメラ21の取り付け位置を示す情報、及び、第2カメラ21のレンズのひずみを示す情報など(以下、総称して「第2変換用情報」という。)が用いられる。
情報付加部23は、第2鳥瞰画像生成部22で生成された第2鳥瞰画像のデータに情報を付加するものである。付加情報には、例えば、第2鳥瞰画像の変換元の画像の撮影時刻を示す情報、この撮影時刻における第2カメラ21の向きを示す情報、この撮影時刻における外部撮影装置2の位置を示す情報、並びに、この撮影時刻における第2カメラ21の撮影領域を示す情報など(以下、総称して「合成用情報」という。)が含まれている。
送信部24は、情報付加部23で情報が付加された第2鳥瞰画像のデータを、無線通信回線を介して送信するものである。
受信部12は、送信部24が送信したデータを受信するものである。第2鳥瞰画像復号部33は、受信部12で受信したデータから第2鳥瞰画像を復号するものである。合成用情報復号部34は、受信部12で受信したデータから合成用情報を復号するものである。
第1カメラ11は、自車両1に搭載された複数個のカメラにより構成されている。第1カメラ11は、自車両1の周囲の一定範囲の領域を撮影するものである。
第1鳥瞰画像生成部31は、第1カメラ11を用いて撮影した画像を、第1カメラ11の撮影領域を上方から見たのと同等の鳥瞰画像(以下「第1瞰画像」という。)に変換するものである。この画像変換には、第1カメラ11の取り付け位置を示す情報、及び、第1カメラ11のレンズのひずみを示す情報など(以下、総称して「第1変換用情報」という。)が用いられる。
移動体情報生成部32は、自車両1に搭載されたGPS(Global Positioning System)受信機、車速センサ及びジャイロセンサなどを用いて、自車両1に関する情報(以下「移動体情報」という。)を生成するものである。移動体情報には、例えば、移動体の位置、向き、進行方向、走行速度及び舵角を示す情報が含まれている。
表示用画像生成部35は、第1鳥瞰画像生成部31で生成した第1鳥瞰画像、移動体情報生成部32で生成した移動体情報、第2鳥瞰画像復号部33で復号した第2鳥瞰画像、及び、合成用情報復号部34で復号した合成用情報などを用いて、第1鳥瞰画像と第2鳥瞰画像とを含む画像(以下「表示用画像」という。)を生成するものである。
画像出力部36は、表示用画像生成部35で生成した表示用画像のデータを、自車両1に設けられた表示装置14に出力するものである。第1鳥瞰画像生成部31、移動体情報生成部32、第2鳥瞰画像復号部33、合成用情報復号部34、表示用画像生成部35及び画像出力部36により、画像生成装置13が構成されている。
表示装置14は、例えば、自車両1に搭載されたFPD(Flat Panel Display)又はHUD(Head−Up Display)により構成されている。表示装置14は、表示用画像生成部35から入力されたデータを画像として表示するものである。
図2は、画像生成装置13のハードウェア構成の一例を示すブロック図である。画像生成装置13は、半導体メモリなどの記憶装置41と、CPU(Central Processing Unit)又は専用のシステムLSI(Large Scale Integration)などの処理回路42とにより構成されている。図1に示す第1鳥瞰画像生成部31、移動体情報生成部32、第2鳥瞰画像復号部33、合成用情報復号部34、表示用画像生成部35及び画像出力部36の機能は、図2に示す記憶装置41に記憶されたプログラムを処理回路42が実行することにより実現される。なお、複数個の処理回路42が連携し、複数個の記憶装置41に記憶されたプログラムを実行することで上記機能を実現するものであっても良い。
図3は、表示用画像生成部35の要部を示すブロック図である。図3に示す如く、表示用画像生成部35は、領域判定部51、差分算出部52及び鳥瞰画像合成部53を有している。
領域判定部51は、移動体情報生成部32で生成した移動体情報などを用いて、第1鳥瞰画像の元画像の撮影時刻における第1カメラ11の撮影領域を算出するものである。領域判定部51は、算出した第1カメラ11の撮影領域を示す情報と、合成用情報復号部34で復号した合成用情報に含まれる第2カメラ21の撮影領域を示す情報とを用いて、第1カメラ11の撮影領域のうちの第2カメラ21の撮影領域を除く領域(以下「第1領域」という。)と、第2カメラ21の撮影領域のうちの第1カメラ11の撮影領域を除く領域(以下「第2領域」という。)とを判定するものである。また、領域判定部51は、第1カメラ11の撮影領域と第2カメラ21の撮影領域とが重なる領域(以下「重複領域」という。)を判定するものである。
差分算出部52は、第1鳥瞰画像生成部31で生成した第1鳥瞰画像と、第2鳥瞰画像復号部33で復号した第2鳥瞰画像とを用いて、領域判定部51で判定した重複領域における第1鳥瞰画像と第2鳥瞰画像との差分値を算出するものである。
鳥瞰画像合成部53は、第1鳥瞰画像生成部31で生成した第1鳥瞰画像と、第2鳥瞰画像復号部33で復号した第2鳥瞰画像とを用いて、領域判定部51で判定した第1領域、第2領域及び重複領域のそれぞれにおいて第1鳥瞰画像又は第2鳥瞰画像を示す表示用画像を生成するものである。
表示用画像は、具体的には、第1領域は第1鳥瞰画像を示し、第2領域は第2鳥瞰画像を示すものである。また、重複領域のうちの差分算出部52で算出した差分値が所定の閾値未満である領域は第1鳥瞰画像を示し、差分値が閾値以上である領域は第2鳥瞰画像を示すものである。
このとき、鳥瞰画像合成部53は、移動体情報生成部32で生成した移動体情報に含まれる自車両1の向きを示す情報と、合成用情報復号部34で復号した合成用情報に含まれる第2カメラ21の向きを示す情報とを用いて、第1鳥瞰画像と第2鳥瞰画像との水平方向の向きを揃えて配置する。また、鳥瞰画像合成部53は、第1鳥瞰画像と第2鳥瞰画像との表示倍率を揃えて配置する。
次に、図4のフローチャートを参照して、画像生成装置13の動作について説明する。自車両1は、ダッシュボードに設けられた釦又は表示装置14を構成するFPDと一体のタッチパネルなどの図示しない操作入力部を有している。操作入力部が鳥瞰画像の表示を指示する操作の入力を受け付けると、画像生成装置13はステップST1〜ST4の処理を開始する。
まず、ステップST1にて、第1鳥瞰画像生成部31は、第1カメラ11を用いて撮影した画像を第1鳥瞰画像に変換する。また、ステップST2にて、移動体情報生成部32は、自車両1に搭載されたGPS受信機、車速センサ及びジャイロセンサなどを用いて移動体情報を生成する。また、ステップST3にて、第2鳥瞰画像復号部33は、受信部12で受信したデータから第2鳥瞰画像を復号する。また、ステップST4にて、合成用情報復号部34は、受信部12で受信したデータから合成用情報を復号する。
次いで、ステップST5にて、表示用画像生成部35は、ステップST1で生成した第1鳥瞰画像、ステップST2で生成した移動体情報、ステップST3で復号した第2鳥瞰画像、及び、ステップST4で復号した合成用情報などを用いて、第1鳥瞰画像と第2鳥瞰画像とを含む表示用画像を生成する。
次いで、ステップST6にて、画像出力部36は、ステップST6で生成した表示用画像のデータを表示装置14に出力する。表示装置14は、ステップST6で入力されたデータを画像として表示する。
次に、図5のフローチャートを参照して、図4に示すステップST5の処理の詳細について説明する。
まず、ステップST51にて、領域判定部51は、図4のステップST2で生成した移動体情報などを用いて、第1鳥瞰画像の元画像の撮影時刻における第1カメラ11の撮影領域を算出する。領域判定部51は、算出した第1カメラ11の撮影領域を示す情報と、図4のステップST4で復号した合成用情報に含まれる第2カメラ21の撮影領域を示す情報とを用いて、第1領域、第2領域及び重複領域を判定する。
次いで、ステップST52にて、差分算出部52は、図4のステップST1で生成した第1鳥瞰画像と、図4のステップST3で復号した第2鳥瞰画像とを用いて、ステップST51で判定した重複領域における第1鳥瞰画像と第2鳥瞰画像との差分値を算出する。
次いで、ステップST53にて、鳥瞰画像合成部53は、図4のステップST1で生成した第1鳥瞰画像と、図4のステップST3で復号した第2鳥瞰画像とを用いて、ステップST51で判定した第1領域、第2領域及び重複領域のそれぞれにおいて第1鳥瞰画像又は第2鳥瞰画像を示す表示用画像を生成する。このとき、鳥瞰画像合成部53は、ステップST2で生成した移動体情報に含まれる自車両1の向きを示す情報と、ステップST4で復号した合成用情報に含まれる第2カメラ21の向きを示す情報とを用いて、第1鳥瞰画像と第2鳥瞰画像との水平方向の向きを揃えて配置する。また、鳥瞰画像合成部53は、第1鳥瞰画像と第2鳥瞰画像との表示倍率を揃えて配置する。
次に、図6〜図9を参照して、表示用画像の具体例について説明する。
自車両1がT字路に進入しつつあるものとする。このときの第1カメラ11の撮影領域Aを図6に示す。道路の両脇にある建物及び塀により、第1カメラ11の撮影領域A内に死角が生じている。第1鳥瞰画像のみを表示装置に出力する従来の画像生成装置は、この死角の鳥瞰画像を表示させることができない問題があった。
これに対し、実施の形態1の画像生成装置13は、第1鳥瞰画像に第2鳥瞰画像を合成した表示用画像を生成する。例えば、図7に示す如く、T字路の近傍の路側に監視カメラ装置が設置されており、この監視カメラ装置が外部撮影装置2を構成しているものとする。図7は、自車両1に搭載された第1カメラ11の撮影領域Aに加えて、外部撮影装置2に設けられた第2カメラ21の撮影領域Bを示している。
図8は、第1カメラ11の撮影領域Aのうちの第2カメラ21の撮影領域Bを除く領域である第1領域aと、第2カメラ21の撮影領域Bのうちの第1カメラ11の撮影領域Aを除く領域である第2領域bとを示している。鳥瞰画像合成部53は、第1領域aは第1鳥瞰画像を示し、かつ、第2領域bは第2鳥瞰画像を示す表示用画像を生成する。
また、第1カメラ11の撮影領域Aと第2カメラ21の撮影領域Bとが重なる領域である重複領域Cについては、差分算出部52により差分値が算出される。一般に、重複領域Cのうち、第1カメラ11の死角である領域c2は、第1カメラ11の死角でない領域c1よりも、第2鳥瞰画像に対する第1鳥瞰画像の差分値が大きくなる。鳥瞰画像合成部53が重複領域Cに示す画像の判定に用いる閾値は、かかる領域c1と領域c2とを区別できる値に設定されている。
すなわち、領域c1は差分値が閾値未満となり、領域c2は差分値が閾値以上となる。鳥瞰画像合成部53は、図9に示す如く、領域c1に第1鳥瞰画像を示し、かつ、領域c2に第2鳥瞰画像を示す表示用画像を生成する。
このように、第1鳥瞰画像に第2鳥瞰画像を合成した表示用画像を生成することで、第1鳥瞰画像の死角を補完することができる。特に、特許文献1の車両周囲監視装置と異なり、外部撮影装置2があれば自車両1が初めて走行する道路であっても鳥瞰画像の死角を補完することができる。また、外部撮影装置2がリアルタイムに撮影した画像から変換された第2鳥瞰画像を補完に用いることができる。
なお、表示装置14は、画像出力部36が出力した表示用画像の全体を表示するものでも良く、又は一部のみを表示するものであっても良い。例えば、自車両1が前進しているときは、自車両1の前方の領域を示す表示用画像のみを表示するものであっても良い。同様に、自車両1が後退しているときは、自車両1の後方の領域を示す表示用画像のみを表示するものであっても良い。
また、画像生成装置13は、自車両1の形状に対応する図形画像を予め記憶しておき、鳥瞰画像合成部53は、第1鳥瞰画像及び第2鳥瞰画像に加えて図形画像を合成した表示用画像を生成するものであっても良い。または、画像生成装置13は、自車両1を上方から撮影した鳥瞰画像を予め記憶しておき、鳥瞰画像合成部53は、第1鳥瞰画像及び第2鳥瞰画像に加えて自車両1の鳥瞰画像を合成した表示用画像を生成するものであっても良い。
また、図6〜図9に示す状態において、外部撮影装置2は、T字路に進入する他車両に搭載された撮影装置であっても良い。また、受信部12は、監視カメラ装置と他車両に搭載された撮影装置との両方から第2鳥瞰画像及び合成用情報を受信し、表示用画像生成部35は、第1鳥瞰画像に複数の第2鳥瞰画像を合成した表示用画像を生成するものであっても良い。すなわち、表示用画像生成部35は、処理回路42の処理能力等の範囲内で、任意の複数の鳥瞰画像を合成することができる。
また、図6〜図9に示す状態は一例であり、画像生成装置13が表示用画像を生成して表示装置14に表示させるタイミングは、自車両1がT字路に進入するときに限定されるものではない。操作入力部に対する操作の入力に応じて、如何なるタイミングで表示用画像を生成して表示させるものであっても良い。例えば、自車両1が十字路に進入するとき、自車両1が後退するとき、又は、自車両1が大型車両を追い越すときなどに表示用画像を生成して表示させることで、運転席から見えにくい領域を映した鳥瞰画像を運転者に提示することができる。
また、表示用画像は、第1鳥瞰画像及び第2鳥瞰画像に加えて自車両1の予測走行軌跡を示すものであっても良い。この場合の表示用画像生成部35のブロック図を図10に示す。軌跡画像生成部54は、移動体情報生成部32で生成した移動体情報に含まれる自車両1の舵角を示す情報を用いて、自車両1の予測走行軌跡を示す軌跡画像を生成する。軌跡画像重畳部55は、鳥瞰画像合成部53で第1鳥瞰画像に第2鳥瞰画像を合成した画像に、軌跡画像生成部54で生成した軌跡画像を重畳した表示用画像を生成する。図11に、図6〜図9に示す例と同様の状態における軌跡画像Dの一例を示す。軌跡画像Dは、自車両1がT字路を右折する場合の予測走行軌跡を示している。
また、第2鳥瞰画像は、外部撮影装置2に代えて画像生成装置13が生成するものであっても良い。この場合のブロック図を図12に示す。情報付加部23は、第2カメラ21で撮影された画像のデータに情報を付加する。付加情報には、第2鳥瞰画像を第1鳥瞰画像に合成する際に用いる合成用情報に加えて、第2カメラ21で撮影した画像から第2鳥瞰画像への変換に用いる第2変換用情報が含まれている。画像生成装置13は、図1に示す第2鳥瞰画像復号部33に代えて、第2鳥瞰画像生成部37を有する。第2鳥瞰画像生成部37は、受信部12で受信したデータから、第2カメラ21で撮影された画像及び第2変換用情報を復号し、第2変換用情報を用いて第2鳥瞰画像を生成する。
また、第1鳥瞰画像及び第2鳥瞰画像は、静止画であっても良く、あるいは動画であっても良い。第1鳥瞰画像及び第2鳥瞰画像が動画である場合、表示用画像も動画とすることで、よりリアルタイム性の高い表示用画像を生成して表示させることができる。
また、画像生成装置13を構成する記憶装置41及び処理回路42は、自車両1に搭載されたナビゲーション装置に内蔵された記憶装置及び処理回路であっても良い。さらに、表示装置14は、このナビゲーション装置と一体のFPDにより構成されたものであっても良い。
また、鳥瞰画像合成部53は、重複領域のうちの差分値が閾値未満である領域は第2鳥瞰画像を示し、差分値が閾値以上である領域は第1鳥瞰画像を示す表示用画像を生成するものであっても良い。これにより、第1鳥瞰画像ではなく第2鳥瞰画像に死角が含まれている場合に、第2鳥瞰画像の死角を補完した表示用画像を生成することができる。
また、画像生成装置13は、重複領域及び重複領域と自車両1との間の領域(以下「判定対象領域」という。)に障害物が存在するか否かを判定するものであっても良い。判定対象領域に障害物が存在する場合、重複領域に第1カメラ11の死角が存在する可能性が高い。そこで、鳥瞰画像合成部53は、重複領域のうちの差分値が閾値以上である領域は第2鳥瞰画像を示す表示用画像を生成することで、第1鳥瞰画像の死角を補完する。一方、判定対象領域に障害物が存在しない場合、重複領域に第1カメラ11の死角が存在する可能性は低い。そこで、鳥瞰画像合成部53は、重複領域のうちの差分値が閾値以上である領域は第1鳥瞰画像を示す表示用画像を生成することで、第2鳥瞰画像の死角を補完する。
画像生成装置13が障害物の有無を判定する処理について説明する。例えば、自車両1に搭載したECU(Electronic Control Unit)が、自車両1の外装部に設けた超音波センサを用いて、自車両1の周囲にある障害物を検知する。画像生成装置13は、このECUによる検知結果を用いて、判定対象領域に障害物が存在するか否かを判定する。
または、第1カメラ11が動画を撮影するカメラである場合、画像生成装置13は、第1カメラ11が撮影した動画のフレーム間における特徴点の移動量を示すベクトル(いわゆる「動きベクトル」)を用いて、判定対象領域に障害物が存在するか否かを判定する。すなわち、一般に、第1カメラ11と被写体間の距離が大きいほど、この被写体に対応する特徴点の動きベクトルは小さくなる。このため、自車両1の周囲に障害物が存在せず第1カメラ11が路面を撮影している場合、フレームの上端部に近い特徴点ほど動きベクトルが小さくなり、フレームの下端部に近い特徴点ほど動きベクトルが大きくなる。これに対し、自車両1の周囲に障害物が存在して第1カメラ11が障害物を撮影している場合、フレームの上下方向の位置によらず動きベクトルがほぼ一定になる。
そこで、画像生成装置13は、移動体情報に含まれる自車両1の走行速度並びに第1変換用情報に含まれる第1カメラ11の取り付け位置及びレンズのひずみなどを用いて、自車両1の周囲に障害物が存在しない状態において自車両1が現在の走行速度で走行した場合に第1カメラ11が判定対象領域を撮影する動画の動きベクトルに対応する基準ベクトルを算出する。画像生成装置13は、第1カメラ11が判定対象領域を撮影した動画の動きベクトルを基準ベクトルと比較して、差分が大きい場合は判定対象領域に障害物が存在すると判定し、差分が小さい場合は判定対象領域に障害物が存在しないと判定する。画像生成装置13の処理回路42に映像プロセッサを用いた場合、映像プロセッサが動きベクトルを解析する機能を有しているため、障害物の判定用に専用のプロセッサを追加する必要がなく、容易に実現することができる。
また、画像生成装置13が障害物の有無を判定する機能を有しない場合、又は、画像生成装置13が障害物の有無を判定できなかった場合、鳥瞰画像合成部53は、重複領域のうちの差分値が閾値以上である領域に第2鳥瞰画像を示した表示用画像と、重複領域のうちの差分値が閾値以上である領域に第1鳥瞰画像を示した表示用画像との両方を生成するものであっても良い。自車両1の搭乗者は、表示装置14が並べて表示した2つの表示用画像を確認して、どちらの表示用画像が正しく死角を補完したものであるかを判断する。
または、画像生成装置13が障害物の有無を判定する機能を有しない場合、又は、画像生成装置13が障害物の有無を判定できなかった場合、鳥瞰画像合成部53は、重複領域のうちの差分値が閾値以上である領域に第1鳥瞰画像と第2鳥瞰画像とをそれぞれ50パーセントの透過率で重畳した表示用画像を生成するものであっても良い。
また、受信部12でデータを受信することができない場合、第2鳥瞰画像復号部33で第2鳥瞰画像を復号できない場合、合成用情報復号部34で合成用情報を復号できない場合、又は、第2鳥瞰画像の合成が不要であることを示す操作が操作入力部に入力された場合などに、表示用画像生成部35は第1鳥瞰画像と第2鳥瞰画像とを合成せず、第1鳥瞰画像のみを表示用画像として画像出力部36に出力させるものであっても良い。
また、画像生成装置13を搭載する移動体は、車両に限定されるものではない。本発明の画像生成装置13は、車両、鉄道、船舶又は航空機等を含む如何なる移動体にも用いることができる。
以上のように、実施の形態1の画像生成装置13は、自車両1(第1移動体)に搭載された第1カメラ11を用いて撮影した画像から第1鳥瞰画像を生成する第1鳥瞰画像生成部31と、第1鳥瞰画像と、自車両1(第1移動体)とは離れた別体として配置された外部撮影装置2が第2カメラ21を用いて撮影した画像から生成された第2鳥瞰画像とを含む表示用画像を生成する表示用画像生成部35と、表示用画像を自車両1(第1移動体)に設けられた表示装置14に出力する画像出力部36とを備える。これにより、自車両1の走行履歴によらず、第1カメラ11で画像を撮影できない領域を撮影した画像から変換された第2鳥瞰画像を含む表示用画像を生成することができる。
また、表示用画像生成部35は、第1カメラ11の撮影領域と第2カメラ21の撮影領域とが重なる領域は、第1鳥瞰画像と第2鳥瞰画像との差分値が閾値以上である領域は第2鳥瞰画像を示し、かつ、差分値が閾値未満である領域は第1鳥瞰画像を示す表示用画像を生成する。これにより、第1鳥瞰画像に含まれる死角を第2鳥瞰画像で補完した表示用画像を生成することができる。
また、表示用画像生成部35は、自車両1(第1移動体)の予測走行軌跡を示す軌跡画像を生成し、第1鳥瞰画像及び第2鳥瞰画像に軌跡画像を重畳した表示用画像を生成する。第1鳥瞰画像に含まれる死角を補完するとともに自車両1の予測走行軌跡を表示することで、T字路又は十字路などにおいて、死角に存在する障害物のうちの注意すべきものとそうでないものとを運転者に分かりやすく提示することができる。
また、外部撮影装置2は、街頭に設置された監視カメラ装置である。または、外部撮影装置2は、自車両1(第1移動体)と異なる他車両(第2移動体)に搭載された撮影装置である。これらの外部撮影装置2がリアルタイムに撮影した画像から変換された第2鳥瞰画像を用いることで、リアルタイム性の高い表示用画像を生成して表示させることができる。なお、外部撮影装置2は、街頭に設置された監視カメラ装置と他車両に搭載された撮影装置との両方を含むものであっても良い。
実施の形態2.
図13を参照して、第1鳥瞰画像及び第2鳥瞰画像を地図画像に重畳した表示用画像を生成する画像生成装置13について説明する。なお、図13において、図1に示す実施の形態1のブロック図と同様のブロックには同一符号を付して説明を省略する。また、実施の形態2に係る画像生成装置13のハードウェア構成は実施の形態1と同様であるため、図2を援用して説明する。
ナビゲーション装置15は、例えば、自車両1に搭載されたカーナビゲーション装置、又は、自車両1に持ち込まれたスマートフォンなどの携帯情報端末により構成されている。ナビゲーション装置15は、地図情報記憶部16に記憶された地図情報と、GPS受信機、車速センサ及びジャイロセンサなどを用いて生成した移動体情報とを用いて、自車両1の走行経路を案内する機能を有している。ナビゲーション装置15は、案内対象の走行経路を示す情報(以下「経路情報」という。)を表示用画像生成部35に出力するようになっている。
図14は、表示用画像生成部35の要部のブロック図を示している。図14に示す如く、表示用画像生成部35は地図画像生成部61及び鳥瞰画像重畳部62を有している。
地図画像生成部61は、移動体情報生成部32で生成した移動体情報と、ナビゲーション装置15が出力した経路情報と、地図情報記憶部16に記憶された地図情報とを用いて、自車両1の走行経路を含む地図画像を生成するものである。
鳥瞰画像重畳部62は、第1鳥瞰画像生成部31で生成した第1鳥瞰画像と、第2鳥瞰画像復号部33で復号した第2鳥瞰画像とを、地図画像生成部61で生成した地図画像の対応する位置にそれぞれ重畳した表示用画像を生成するものである。
このとき、鳥瞰画像重畳部62は、第1鳥瞰画像のうち、自車両1の前方の領域を示す第1鳥瞰画像のみを重畳する。また、鳥瞰画像重畳部62は、合成用情報復号部34で復号した合成用情報に含まれる外部撮影装置2の位置を示す情報を用いて、第2鳥瞰画像のうち、自車両1の走行経路における自車両1よりも先の位置にある外部撮影装置2から受信した第2鳥瞰画像のみを重畳する。
さらに、鳥瞰画像重畳部62は、移動体情報生成部32で生成した移動体情報に含まれる自車両1の向きを示す情報と、合成用情報復号部34で復号した合成用情報に含まれる第2カメラ21の向きを示す情報とを用いて、第1鳥瞰画像及び第2鳥瞰画像の水平方向の向きを地図画像の向きに合わせて重畳する。また、鳥瞰画像重畳部62は、第1鳥瞰画像及び第2鳥瞰画像の表示倍率を地図画像の表示倍率に合わせて重畳する。
次に、図15のフローチャートを参照して、表示用画像生成部35の詳細な動作について説明する。なお、画像生成装置13のうちの表示用画像生成部35を除くブロックの動作は実施の形態1と同様であるため、図4を援用して説明する。
まず、ステップST61にて、地図画像生成部61は、図4のステップST2で生成した移動体情報と、ナビゲーション装置15が出力した経路情報と、地図情報記憶部16に記憶された地図情報とを用いて、自車両1の現在位置及び走行経路を含む地図画像を生成する。
次いで、ステップST62にて、鳥瞰画像重畳部62は、図4のステップST1で生成した第1鳥瞰画像と、図4のステップST3で復号した第2鳥瞰画像とを、ステップST61で生成した地図画像の対応する位置にそれぞれ重畳した表示用画像を生成する。
このとき、鳥瞰画像重畳部62は、第1鳥瞰画像のうち、自車両1の前方の領域を示す第1鳥瞰画像のみを重畳する。また、鳥瞰画像重畳部62は、図4のステップST4で復号した合成用情報に含まれる外部撮影装置2の位置を示す情報を用いて、第2鳥瞰画像のうち、自車両1の走行経路における自車両1よりも先の位置にある外部撮影装置2から受信した第2鳥瞰画像のみを重畳する。
さらに、鳥瞰画像重畳部62は、図4のステップST2で生成した移動体情報に含まれる自車両1の向きを示す情報と、図4のステップST4で復号した合成用情報に含まれる第2カメラ21の向きを示す情報とを用いて、第1鳥瞰画像及び第2鳥瞰画像の水平方向の向きを地図画像の向きに合わせて重畳する。また、鳥瞰画像重畳部62は、第1鳥瞰画像及び第2鳥瞰画像の表示倍率を地図画像の表示倍率に合わせて重畳する。
次に、図16を参照して、表示用画像の具体例について説明する。
図16は、自車両1の走行経路Eを含む地図画像Fを示している。自車両1の前方の三角形状の領域Gには、第1鳥瞰画像が重畳される。なお、表示用画像生成部35は、図16に示す如く領域Gを縁取りした表示用画像を生成するものであっても良い。これにより、自車両1の運転者は第1カメラ11の撮影範囲を把握することができる。
また、走行経路Eのうちの自車両1よりも先の経路を含む領域Hには、第2鳥瞰画像が重畳される。なお、表示用画像生成部35は、受信部12によるデータの受信状態などに応じて、領域Hのうちの一部の領域にのみ第2鳥瞰画像を重畳した表示用画像を生成するものであっても良い。
このように、第1鳥瞰画像及び第2鳥瞰画像を地図画像に重畳した表示用画像を生成することで、自車両1の走行経路Eのうちの自車両1よりも先の経路の鳥瞰画像をリアルタイムに表示することができる。これにより、自車両1が将来走行する道路の現在の状態を自車両1の運転者に分かりやすく提示することができる。
なお、表示用画像生成部35は、地図画像に重畳された第2鳥瞰画像の透明度を変化させるものであっても良い。この場合のブロック図を図17に示す。鳥瞰画像透過部63は、移動体情報生成部32で生成した移動体情報に含まれる自車両1の位置を示す情報と、合成用情報復号部34で復号した合成用情報に含まれる外部撮影装置2の位置を示す情報とを用いて、自車両1と外部撮影装置2間の距離を算出する。鳥瞰画像透過部63は、算出した距離に応じて第2鳥瞰画像の透明度を変化させる。
例えば、鳥瞰画像透過部63は、自車両1との距離が基準距離(例えば600メートル)を超える位置にある外部撮影装置2で撮影した画像から生成された第2鳥瞰画像を半透明にした表示用画像を生成する。この場合、図18に示す如く、領域Hのうちの自車両1との距離が基準距離以内の領域h1は、第2鳥瞰画像が透過せずに(すなわち透明度が0パーセントで)表示される。一方、領域Hのうちの自車両1との距離が基準距離を超える領域h2は、第2鳥瞰画像が半透明に(例えば透明度が50パーセントで)表示される。
この基準距離は、表示用画像生成部35に予め設定された固定値でも良く、表示用画像生成部35が算出する可変値であっても良い。例えば、表示用画像生成部35は、移動体情報に含まれる自車両1の走行速度を示す情報を用いて、走行速度が高いほど基準距離を長くする。または、表示用画像生成部35は、地図情報に含まれる道路種別を示す情報を用いて、自車両1が高速道路を走行している場合に通常の道路を走行している場合よりも基準距離を長くする。
または、鳥瞰画像透過部63は、自車両1から離れた位置にある外部撮影装置2で撮影した画像から生成された第2鳥瞰画像ほど透明度を高くした表示用画像を生成するものであっても良い。この場合、図16に示す領域Hにおいて、自車両1との距離が長くなるにつれて次第に透明度が高くなるように第2鳥瞰画像が表示される。
また、画像生成装置13を構成する記憶装置41及び処理回路42は、ナビゲーション装置15に内蔵された記憶装置及び処理回路であっても良い。さらに、表示装置14は、ナビゲーション装置15と一体のFPDにより構成されたものであっても良い。
また、地図情報記憶部16は、例えばデータセンターに設置されたサーバなど、自車両1の外部に設けられた記憶装置により構成されたものであっても良い。
また、画像生成装置13は、実施の形態1に係る第1鳥瞰画像に第2鳥瞰画像を重畳した表示用画像を生成する機能と、実施の形態2に係る第1鳥瞰画像及び第2鳥瞰画像を地図画像に重畳した表示用画像を生成する機能との両方を有するものであっても良い。この場合、画像生成装置13は、操作入力部への操作の入力に応じて、両機能のうちのいずれの機能を実行するかを選択自在に構成したものでも良い。
以上のように、実施の形態2の画像生成装置13は、表示用画像生成部35が、自車両1(第1移動体)の走行経路を含む地図画像を生成し、地図画像の走行経路に第1鳥瞰画像及び第2鳥瞰画像を重畳した表示用画像を生成する。これにより、自車両1に搭載した第1カメラ11で撮影できない領域を含む鳥瞰画像を地図画像に重畳した画像を表示させることができる。
また、表示用画像生成部35は、自車両1(第1移動体)との距離が基準距離を超える外部撮影装置2で撮影された画像から生成された第2鳥瞰画像を半透明にした表示用画像を生成する。または、表示用画像生成部35は、自車両1(第1移動体)から離れた位置にある外部撮影装置2で撮影した画像から生成された第2鳥瞰画像ほど透明度を高くした表示用画像を生成する。自車両1の現在位置から離れた地点を映した第2鳥瞰画像は、自車両1がこの第2鳥瞰画像の撮影地点に到達したときに過去の画像となるため、画像が示す情報の信頼性が低くなる可能性がある。自車両1から離れた位置の第2鳥瞰画像の透明度を高くすることで、第2鳥瞰画像の信頼性を分かりやすく提示することができる。
実施の形態3.
図19を参照して、外部撮影装置2から受信した情報の内容を示すメッセージ画像を生成する画像生成装置13について説明する。なお、図19において、図13に示す実施の形態2のブロック図と同様のブロックには同一符号を付して説明を省略する。また、実施の形態3に係る画像生成装置13のハードウェア構成は実施の形態2と同様であるため、図2を援用して説明する。
実施の形態3において、外部撮影装置2は、自車両1と異なる他車両に搭載された撮影装置により構成されている。外部撮影装置2の送信部24と自車両1の受信部12とは、いわゆる「車車間通信」により通信自在になっている。
外部撮影装置2は、第2カメラ21を用いて撮影した画像に対して画像認識処理を実行する機能を有している。外部撮影装置2は、画像認識処理の結果を用いて、外部撮影装置2を搭載した車両以外の車両の搭乗者に提示する情報(以下「提示用情報」という。)を生成するようになっている。
例えば、第2カメラ21で撮影した画像において道路が雪で覆われている場合、外部撮影装置2は悪天候を示す提示用情報を生成する。このとき、外部撮影装置2は、画像認識処理の精度に応じて可能であれば、悪天候の種類(例えば積雪)も示す提示用情報を生成するのがより好適である。
また、第2カメラ21で撮影した画像において複数台の車両が狭間隔で並んでいる場合、外部撮影装置2は交通渋滞を示す提示用情報を生成する。このとき、外部撮影装置2は、地図情報などを用いて、画像認識処理の精度に応じて可能であれば、渋滞が発生しているレーンも示す提示用情報を生成するのがより好適である。
また、第2カメラ21で撮影した画像において車両が停車している場合、外部撮影装置2は停車情報を示す提示用情報を生成する。このとき、外部撮影装置2は、地図情報などを用いて、画像認識処理の精度に応じて可能であれば、車両が停車しているレーンも示す提示用情報を生成するのがより好適である。
情報付加部23は、実施の形態1,2と同様の合成用情報に加えて、外部撮影装置2が生成した提示用情報を第2鳥瞰画像のデータに付加するようになっている。提示用情報は、例えば、この提示用情報の内容を示すテキストデータの形式で付加される。
提示用情報復号部38は、受信部12で受信したデータから提示用情報を復号するものである。メッセージ画像生成部39は、提示用情報復号部38で復号した提示用情報の内容を示すメッセージ画像を生成するものである。
表示位置判定部40は、移動体情報生成部32で生成した移動体情報、合成用情報復号部34で復号した合成用情報、及び、地図情報記憶部16に記憶された地図情報などを用いて、表示装置14の表示領域におけるメッセージ画像の表示位置を判定するものである。
画像出力部36は、表示用画像生成部35で生成した表示用画像のデータに加えて、メッセージ画像生成部39で生成したメッセージ画像のデータを表示装置14に出力するようになっている。このとき、画像出力部36は、メッセージ画像を表示位置判定部40で判定した表示位置に表示するように表示装置14に出力する。
第1鳥瞰画像生成部31、移動体情報生成部32、第2鳥瞰画像復号部33、合成用情報復号部34、表示用画像生成部35、画像出力部36、提示用情報復号部38、メッセージ画像生成部39及び表示位置判定部40により、画像生成装置13が構成されている。
次に、図20〜図23を参照して、メッセージ画像の具体例について説明する。
図20(a)は、表示装置14がFPDで構成されており、このFPDの表示画面に実施の形態2と同様の表示用画像を表示した状態を示している。すなわち、自車両1の走行経路Eを含む地図画像Fのうち、領域Gには第1鳥瞰画像が重畳されており、領域Hには第2鳥瞰画像が重畳されている。
例えば、走行経路Eにおいて自車両1よりも600メートル先行している他車両に搭載された外部撮影装置2が、第2鳥瞰画像と併せて悪天候を示す提示用情報を送信したものとする。このとき、メッセージ画像生成部39は、図20(b)に示すような悪天候への注意を促すメッセージ画像Iを生成する。表示位置判定部40は、図20(a)に示す如く、地図画像Fにおいて走行経路E上の自車両1よりも600メートル先の位置が、メッセージ画像Iの表示位置であると判定する。画像出力部36は、メッセージ画像Iが表示位置判定部40で判定した表示位置に表示されるように表示装置14に出力する。
図21(a)は、表示装置14がFPD及びHUDで構成されており、FPDに表示された地図画像とは別にメッセージ画像をHUDが投影した状態を示している。
例えば、自車両1の走行経路において自車両1よりも200メートル先行している他車両に搭載された外部撮影装置2が、第2鳥瞰画像と併せて交通渋滞を示す提示用情報を送信したものとする。このとき、メッセージ画像生成部39は、図21(b)に示すような交通渋滞への注意を促すメッセージ画像Jを生成する。表示位置判定部40は、地図情報、外部撮影装置2の位置を示す情報及び自車両1の位置を示す情報などを用いて、図21(a)に示す如く、自車両1のフロントガラスにおけるHUDの表示領域のうち、運転席から見て200メートル先の地点と重なる位置がメッセージ画像Jの表示位置であると判定する。例えば、走行経路が緩やかな左カーブである場合、フロントガラスのうちの運転席から見て左上の位置がメッセージ画像Jの表示位置であると判定する。画像出力部36は、メッセージ画像Jが表示位置判定部40で判定した表示位置に投影されるように表示装置14に出力する。
なお、メッセージ画像生成部39は、地図情報、移動体情報及び合成用情報などを用いて、提示用情報を送信した外部撮影装置2の位置に自車両1が到達するまでの到達時間を算出し、この到達時間を含むメッセージ画像を生成するものであっても良い。この場合のメッセージ画像Kの例を図22(b)に示し、かかるメッセージ画像KをHUDに投影させた状態の例を図22(a)に示す。
また、メッセージ画像生成部39は、地図情報、移動体情報及び合成用情報などを用いて、提示用情報を送信した外部撮影装置2の位置と自車両1の位置との間の経路距離を算出し、この経路距離を含むメッセージ画像を生成するものであっても良い。この場合のメッセージ画像Lの例を図23(b)に示し、かかるメッセージ画像LをHUDに投影させた状態の例を図23(a)に示す。
また、表示装置14がHUDで構成されており、画像出力部36は、図20(a)に示す如く地図画像に第1鳥瞰画像、第2鳥瞰画像及びメッセージ画像を重畳した表示用画像を自車両1のフロントガラスに投影させるものであっても良い。
また、提示用情報は、悪天候を示す情報、交通渋滞を示す情報及び停車情報に限定されるものではない。車両の運転者に提示するのが好ましい情報であれば、如何なる情報を提示用情報として送信するものであっても良い。また、図20〜図23に示すメッセージ画像は一例であり、表示装置14のデザイン及び要求仕様などに応じて、如何なる文字、形状、大きさ、色、輝度、スクロール及び点滅状態などのメッセージ画像を表示するものであっても良い。
以上のように、実施の形態3の画像生成装置13は、車車間通信により他車両(第2移動体)から受信した提示用情報を用いて、提示用情報の内容を示すメッセージ画像を生成するメッセージ画像生成部39と、外部撮影装置2の位置に応じて、表示装置14の表示領域におけるメッセージ画像の表示位置を判定する表示位置判定部40とを備える。画像出力部36は、メッセージ画像を表示位置判定部40で判定した表示位置に表示するように表示装置14に出力する。車車間通信で受信した情報の内容を表示させることで、第1カメラ11の撮影範囲外にあり、かつ、自車両1の運転者が視認できない場所で発生した事象に対する注意を運転者に促すことができる。特に、提示用情報を第2鳥瞰画像と併せて送信するとともに、メッセージ画像を第2鳥瞰画像と併せて提示することで、自車両1の運転者に注意を促した事象が発生している場所の情報をより正確に伝えることができる。
なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
1 自車両、2 外部撮影装置、11 第1カメラ、12 受信部、13 画像生成装置、14 表示装置、15 ナビゲーション装置、16 地図情報記憶部、21 第2カメラ、22 第2鳥瞰画像生成部、23 情報付加部、24 送信部、31 第1鳥瞰画像生成部、32 移動体情報生成部、33 第2鳥瞰画像復号部、34 合成用情報復号部、35 表示用画像生成部、36 画像出力部、37 第2鳥瞰画像生成部、38 提示用情報復号部、39 メッセージ画像生成部、40 表示位置判定部、41 記憶装置、42 処理回路、51 領域判定部、52 差分算出部、53 鳥瞰画像合成部、54 軌跡画像生成部、55 軌跡画像重畳部、61 地図画像生成部、62 鳥瞰画像重畳部、63 鳥瞰画像透過部。

Claims (12)

  1. 第1移動体に搭載された第1カメラを用いて撮影した画像から第1鳥瞰画像を生成する第1鳥瞰画像生成部と、
    前記第1鳥瞰画像と、前記第1移動体とは離れた別体として配置された外部撮影装置が第2カメラを用いて撮影した画像から生成された第2鳥瞰画像とを含む表示用画像を生成する表示用画像生成部と、
    前記表示用画像を前記第1移動体に設けられた表示装置に出力する画像出力部と、
    を備える移動体用画像生成装置。
  2. 前記表示用画像生成部は、前記第1鳥瞰画像に前記第2鳥瞰画像を合成した前記表示用画像を生成することを特徴とする請求項1記載の移動体用画像生成装置。
  3. 前記表示用画像生成部は、前記第1カメラの撮影領域のうちの前記第2カメラの撮影領域を除く領域は前記第1鳥瞰画像を示し、かつ、前記第2カメラの撮影領域のうちの前記第1カメラの撮影領域を除く領域は前記第2鳥瞰画像を示す前記表示用画像を生成することを特徴とする請求項2記載の移動体用画像生成装置。
  4. 前記表示用画像生成部は、前記第1カメラの撮影領域と前記第2カメラの撮影領域とが重なる領域は、前記第1鳥瞰画像と前記第2鳥瞰画像との差分値が閾値以上である領域は前記第2鳥瞰画像を示し、かつ、前記差分値が前記閾値未満である領域は前記第1鳥瞰画像を示す前記表示用画像を生成することを特徴とする請求項3記載の移動体用画像生成装置。
  5. 前記表示用画像生成部は、前記第1移動体の予測走行軌跡を示す軌跡画像を生成し、前記第1鳥瞰画像及び前記第2鳥瞰画像に前記軌跡画像を重畳した前記表示用画像を生成することを特徴とする請求項2から請求項4のうちのいずれか1項記載の移動体用画像生成装置。
  6. 前記表示用画像生成部は、前記第1移動体の走行経路を含む地図画像を生成し、該地図画像の該走行経路を含む領域に前記第1鳥瞰画像及び前記第2鳥瞰画像を重畳した前記表示用画像を生成することを特徴とする請求項1記載の移動体用画像生成装置。
  7. 前記表示用画像生成部は、前記第1移動体との距離が基準距離を超える位置にある前記外部撮影装置で撮影した画像から生成された前記第2鳥瞰画像を半透明にした前記表示用画像を生成することを特徴とする請求項6記載の移動体用画像生成装置。
  8. 前記表示用画像生成部は、前記第1移動体から離れた位置にある前記外部撮影装置で撮影した画像から生成された前記第2鳥瞰画像ほど透明度を高くした前記表示用画像を生成することを特徴とする請求項6記載の移動体用画像生成装置。
  9. 前記外部撮影装置は、街頭に設置された監視カメラ装置を含むことを特徴とする請求項1から請求項8のうちのいずれか1項記載の移動体用画像生成装置。
  10. 前記外部撮影装置は、前記第1移動体と異なる第2移動体に搭載された撮影装置を含むことを特徴とする請求項1から請求項8のうちのいずれか1項記載の移動体用画像生成装置。
  11. 車車間通信により前記第2移動体から受信した提示用情報を用いて、該提示用情報の内容を示すメッセージ画像を生成するメッセージ画像生成部と、
    前記外部撮影装置の位置に応じて、前記表示装置の表示領域における前記メッセージ画像の表示位置を判定する表示位置判定部と、を備え、
    前記画像出力部は、前記メッセージ画像を前記表示位置判定部で判定した表示位置に表示するように前記表示装置に出力する
    ことを特徴とする請求項10記載の移動体用画像生成装置。
  12. 請求項1から請求項11のうちのいずれか1項記載の移動体用画像生成装置を備えるナビゲーション装置。
JP2015092972A 2015-04-30 2015-04-30 移動体用画像生成装置及びナビゲーション装置 Active JP6415382B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015092972A JP6415382B2 (ja) 2015-04-30 2015-04-30 移動体用画像生成装置及びナビゲーション装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015092972A JP6415382B2 (ja) 2015-04-30 2015-04-30 移動体用画像生成装置及びナビゲーション装置

Publications (2)

Publication Number Publication Date
JP2016212501A true JP2016212501A (ja) 2016-12-15
JP6415382B2 JP6415382B2 (ja) 2018-10-31

Family

ID=57549725

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015092972A Active JP6415382B2 (ja) 2015-04-30 2015-04-30 移動体用画像生成装置及びナビゲーション装置

Country Status (1)

Country Link
JP (1) JP6415382B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018185688A (ja) * 2017-04-26 2018-11-22 株式会社ユピテル 機器およびプログラム
JP2019032682A (ja) * 2017-08-08 2019-02-28 ヤンマー株式会社 自動走行システム
JP2019200781A (ja) * 2018-05-17 2019-11-21 株式会社デンソー サラウンドビューシステム、そのシステムを備える車両、サラウンドビュー生成方法、およびその方法を実行するためのプログラム製品
JP2020150295A (ja) * 2019-03-11 2020-09-17 三菱自動車工業株式会社 車両防犯装置
KR20200122967A (ko) * 2019-04-19 2020-10-28 주식회사 스트리스 복수 영상 센서로부터 취득한 영상 정보와 위치 정보 간 연계를 통한 도로 공간 정보 구축을 위한 시스템 및 방법
WO2021172620A1 (ko) * 2020-02-27 2021-09-02 엘지전자 주식회사 디스플레이 장치 및 그것을 포함하는 차량

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004233710A (ja) * 2003-01-31 2004-08-19 Advantest Corp 光モジュール
JP2004233153A (ja) * 2003-01-29 2004-08-19 Xanavi Informatics Corp 車載用ナビゲーション装置および地図画像表示方法
JP2004289386A (ja) * 2003-03-20 2004-10-14 Clarion Co Ltd 画像表示方法、画像表示装置及び画像処理装置
JP2008191988A (ja) * 2007-02-06 2008-08-21 Denso Corp 車両周辺監視装置
JP2009070243A (ja) * 2007-09-14 2009-04-02 Denso Corp 車両用視界支援システム、及び、情報配信装置
JP2010093567A (ja) * 2008-10-08 2010-04-22 Panasonic Corp 画像処理装置
JP2010186257A (ja) * 2009-02-10 2010-08-26 Denso Corp 駐車支援システム、車載駐車支援装置、情報付マーカー
JP2012028992A (ja) * 2010-07-22 2012-02-09 Itec Hankyu Hanshin Co Ltd 自立監視型カメラ装置
JP2012066616A (ja) * 2010-09-21 2012-04-05 Aisin Seiki Co Ltd 運転支援装置
JP2013156835A (ja) * 2012-01-30 2013-08-15 Kajima Corp 運搬車両運行支援システム及び運搬車両運行支援方法
JP2014089491A (ja) * 2012-10-29 2014-05-15 Hitachi Consumer Electronics Co Ltd 映像処理システム
JP2014134897A (ja) * 2013-01-08 2014-07-24 Denso Corp 車両用意思疎通装置、及びそれを用いた車両用コミュニケーションシステム

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004233153A (ja) * 2003-01-29 2004-08-19 Xanavi Informatics Corp 車載用ナビゲーション装置および地図画像表示方法
JP2004233710A (ja) * 2003-01-31 2004-08-19 Advantest Corp 光モジュール
JP2004289386A (ja) * 2003-03-20 2004-10-14 Clarion Co Ltd 画像表示方法、画像表示装置及び画像処理装置
JP2008191988A (ja) * 2007-02-06 2008-08-21 Denso Corp 車両周辺監視装置
JP2009070243A (ja) * 2007-09-14 2009-04-02 Denso Corp 車両用視界支援システム、及び、情報配信装置
JP2010093567A (ja) * 2008-10-08 2010-04-22 Panasonic Corp 画像処理装置
JP2010186257A (ja) * 2009-02-10 2010-08-26 Denso Corp 駐車支援システム、車載駐車支援装置、情報付マーカー
JP2012028992A (ja) * 2010-07-22 2012-02-09 Itec Hankyu Hanshin Co Ltd 自立監視型カメラ装置
JP2012066616A (ja) * 2010-09-21 2012-04-05 Aisin Seiki Co Ltd 運転支援装置
JP2013156835A (ja) * 2012-01-30 2013-08-15 Kajima Corp 運搬車両運行支援システム及び運搬車両運行支援方法
JP2014089491A (ja) * 2012-10-29 2014-05-15 Hitachi Consumer Electronics Co Ltd 映像処理システム
JP2014134897A (ja) * 2013-01-08 2014-07-24 Denso Corp 車両用意思疎通装置、及びそれを用いた車両用コミュニケーションシステム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018185688A (ja) * 2017-04-26 2018-11-22 株式会社ユピテル 機器およびプログラム
JP7151980B2 (ja) 2017-04-26 2022-10-12 株式会社ユピテル 機器およびプログラム
JP2019032682A (ja) * 2017-08-08 2019-02-28 ヤンマー株式会社 自動走行システム
JP2019200781A (ja) * 2018-05-17 2019-11-21 株式会社デンソー サラウンドビューシステム、そのシステムを備える車両、サラウンドビュー生成方法、およびその方法を実行するためのプログラム製品
US11043023B2 (en) 2018-05-17 2021-06-22 Denso Corporation Surround monitoring system for vehicles
JP2020150295A (ja) * 2019-03-11 2020-09-17 三菱自動車工業株式会社 車両防犯装置
KR20200122967A (ko) * 2019-04-19 2020-10-28 주식회사 스트리스 복수 영상 센서로부터 취득한 영상 정보와 위치 정보 간 연계를 통한 도로 공간 정보 구축을 위한 시스템 및 방법
KR102225321B1 (ko) 2019-04-19 2021-03-09 주식회사 스트리스 복수 영상 센서로부터 취득한 영상 정보와 위치 정보 간 연계를 통한 도로 공간 정보 구축을 위한 시스템 및 방법
WO2021172620A1 (ko) * 2020-02-27 2021-09-02 엘지전자 주식회사 디스플레이 장치 및 그것을 포함하는 차량

Also Published As

Publication number Publication date
JP6415382B2 (ja) 2018-10-31

Similar Documents

Publication Publication Date Title
JP6415382B2 (ja) 移動体用画像生成装置及びナビゲーション装置
JP7229336B2 (ja) 車両の複合現実の条件付き利用可能性
US20190361436A1 (en) Remote monitoring system and remote monitoring device
CN109937568B (zh) 图像处理装置和图像处理方法
JP6311646B2 (ja) 画像処理装置、電子ミラーシステム、及び画像処理方法
JP6487231B2 (ja) 着目場所の拡張視界の生成
US9589194B2 (en) Driving assistance device and image processing program
US11198398B2 (en) Display control device for vehicle, display control method for vehicle, and storage medium
US11803053B2 (en) Display control device and non-transitory tangible computer-readable medium therefor
US20190189014A1 (en) Display control device configured to control projection device, display control method for controlling projection device, and vehicle
JP2020065141A (ja) 車両の俯瞰映像生成システム及びその方法
JP2007028363A (ja) トップビュー画像生成装置及びトップビュー画像表示方法
CN113165510B (zh) 显示控制装置、方法和计算机程序
JP2012153256A (ja) 画像処理装置
WO2011135778A1 (ja) 画像処理装置、カーナビゲーションシステム、及び路上カメラシステム
JP2013200820A (ja) 画像送受信システム
JP2009087031A (ja) 情報提供システム、車載装置および情報提供方法
JP2017040773A (ja) 頭部装着型表示装置
KR101744718B1 (ko) 차량용 표시 시스템 및 그 제어방법
JP2017174043A (ja) 表示装置
WO2023189568A1 (ja) 画像生成装置、方法及びプログラム
JP2013200819A (ja) 画像受信表示装置
JP6566067B2 (ja) 画像処理装置
JP4820334B2 (ja) 路側機及びこれを用いた交通情報提供システム
JP2018129832A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170808

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180725

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180904

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181002

R150 Certificate of patent or registration of utility model

Ref document number: 6415382

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250