JP7331889B2 - 俯瞰画像生成装置、俯瞰画像表示システム、俯瞰画像生成方法及びプログラム - Google Patents
俯瞰画像生成装置、俯瞰画像表示システム、俯瞰画像生成方法及びプログラム Download PDFInfo
- Publication number
- JP7331889B2 JP7331889B2 JP2021120615A JP2021120615A JP7331889B2 JP 7331889 B2 JP7331889 B2 JP 7331889B2 JP 2021120615 A JP2021120615 A JP 2021120615A JP 2021120615 A JP2021120615 A JP 2021120615A JP 7331889 B2 JP7331889 B2 JP 7331889B2
- Authority
- JP
- Japan
- Prior art keywords
- obstacle
- bird
- eye view
- view image
- moving body
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Description
例えば、特許文献1に記載の車両周辺監視装置は、車両周辺を上方から見下ろした俯瞰画像を生成して、複数の分割領域に分割管理されたモニタの俯瞰画像表示領域に表示する。障害物を検出した場合、車両周辺監視装置は、検出した障害物が存在する分割領域の外周の枠状部を強調表示する。
また、特許文献3に記載の駐車支援装置は、車両に取り付けられたノーズビューカメラで撮像を行い、画像中に移動物体を検出した場合は、その旨の情報を運転者に報知する。
図1は、本発明の実施形態に係る俯瞰画像生成システムの機能構成を示す概略ブロック図である。図1に示すように、俯瞰画像生成システム1は、撮影装置100と、俯瞰画像生成装置200と、表示装置300と、入力デバイス400とを備える。俯瞰画像生成装置200は、インタフェース部210と、記憶部280と、制御部290とを備える。制御部290は、障害物検出部291と、接触判定部292と、俯瞰画像生成部293とを備える。
ここでいう接触は、いろいろな程度の接触の総称として用いられている。以下では、車両900に擦り傷が発生するような、比較的弱い程度の接触を擦れと称する。また、車両900にへこみ又は割れ等の変形が発生するような、比較的強い程度の接触を衝突と称する。
車両900の運転者は、俯瞰画像生成システム1が表示する俯瞰画像を参照して、車両900のどの部分にどの程度の接触が予測されるかを容易に把握することができる。
車両900は、移動体の例に該当する。但し、俯瞰画像生成システム1の適用範囲は車両に限らず、事故発生の可能性があるいろいろな移動体とすることができる。たとえば、俯瞰画像生成システム1が船舶に適用されていてもよい。
前方の撮影装置100は、領域A111、A121及びA124を撮影する。
右方の撮影装置100は、領域A112、A121及びA122を撮影する。
後方の撮影装置100は、領域A113、A122及びA123を撮影する。
左方の撮影装置100は、領域A114、A123及びA124を撮影する。
このように、撮影装置100が車両900の全周を撮影することで、俯瞰画像生成装置200は、車両900及び車両900の全周を上方から見下ろした俯瞰画像を生成することができる。
俯瞰画像生成装置200は、例えばマイコン(Microcomputer)などのコンピュータを用いて構成される。
また、インタフェース部210は、出力部の例に該当し、俯瞰画像生成部293が生成する俯瞰画像など表示装置300に表示させる画像を画像データにて表示装置300へ出力する。
制御部290は、俯瞰画像生成装置200の各部を制御して各種処理を行う。制御部290は、俯瞰画像生成装置200が備えるCPU(Central Processing Unit、中央処理装置)が、記憶部280からプログラムを読み出して実行することで構成される。
また、障害物検出部291が、車両900の移動方向以外の方向についても障害物を検出するようにしてもよい。
例えば、接触判定部292は、障害物検出部291が検出した障害物の車両900に対する相対位置の履歴に基づいて、車両900及び障害物が共に現在の動きを維持した場合の障害物の軌道を、車両900に対する相対位置の軌道にて予測する。静止している障害物については、接触判定部292は、障害物が静止し続けている場合の、障害物の軌道を予測する。
一方、車両900と障害物とが重なるときが無いと判定した場合、接触判定部292は、接触可能性無し、かつ、接触予測位置無しと判定する。
車両900に対する障害物の相対速度及び進行方向については、接触判定部292は、例えば車両900と障害物との距離の時間変化、及び、撮影装置100が撮影した画像における障害物の像の位置に基づいて推定する。
障害物検出部291が複数の障害物を検出した場合、接触判定部292は、それぞれの障害物について、接触可能性、車両900における接触予測位置、及び、接触予測位置における車両900の損傷の態様を判定する。
また、記憶部280が、車両900の位置毎に擦り傷、変形それぞれの画像を画像データで記憶しておく。そして、俯瞰画像生成部293は、接触判定部292が判定した損傷の態様に応じた画像を記憶部280から読み出し、読み出した画像を俯瞰画像における前記接触予測位置に合成する。
図5は、俯瞰画像生成部293が生成する俯瞰画像の第三例を示す図である。図4の例では、静止している障害物である支柱と、移動している障害物である猫とが俯瞰画像中に示されている。俯瞰画像生成部293は、これらの障害物のうち猫の像をハイライト表示(高輝度で表示)している。さらに、俯瞰画像生成部293は、猫の進行方向を示す矢印を俯瞰画像に合成している。
但し、俯瞰画像生成部293が、障害物を強調表示する方法は特定の方法に限定されない。また、俯瞰画像生成部293が、移動している障害物と静止している障害物とを異なる態様で強調表示するなど、静止している障害物を強調表示するようにしてもよい。
入力デバイス400は、例えば表示装置300の表示画面に設けられてタッチパネルを構成するタッチセンサ等の入力デバイスを備え、ユーザ操作(例えば運転者による操作)を受ける。入力デバイス400は、受けたユーザ操作を示す信号を俯瞰画像生成装置200へ出力する。
図6は、俯瞰画像生成装置200が俯瞰画像を生成して表示装置300へ出力する処理手順の例を示すフローチャートである。
(ステップS101)
インタフェース部210は、撮影装置100が車両900の周囲を撮影した画像を画像データにて取得する。ステップS101の後、ステップS102へ進む。
俯瞰画像生成部293は、撮影装置100が撮影した画像に基づいて、車両900及びその周囲を上方から見下ろした俯瞰画像を生成する。ステップS102の後、ステップS103へ進む。
(ステップS103)
障害物検出部291は、俯瞰画像に写されている障害物を検出する。ステップS103の後、ステップS104へ進む。
接触判定部292は、車両900と障害物との接触判定を行う。具体的には、接触判定部292は、車両900と障害物との接触可能性の有無を判定する。また、接触可能性有りと判定する場合、接触判定部292は、車両900における接触予測位置、及び、接触予測位置における車両900の損傷の態様を判定する。ステップS104の後、ステップS105へ進む。
制御部290は、ステップS104での接触可能性の有無の判定結果に応じて遷移する。接触可能性有りと判定した場合は、ステップS111へ進む。一方、接触可能性無しと判定した場合は、ステップS121へ進む。
(ステップS111)
俯瞰画像生成部293は、ステップS102で生成した俯瞰画像に接触予測位置の表示を付加する。具体的には、俯瞰画像生成部293は、ステップS104で接触判定部292が判定した接触予測位置及び損傷の態様に応じた画像を記憶部280から読み出す。そして、俯瞰画像生成部293は、読み出した画像を、俯瞰画像における接触予測位置に合成する。
ステップS111の後、ステップS121へ進む。
接触判定部292は、俯瞰画像に写る障害物の動きを検出する。ステップS121の後、ステップS122へ進む。
(ステップS122)
俯瞰画像生成部293は、俯瞰画像に写る障害物のうち、接触判定部292がステップS121で動いていると判定した障害物の表示態様を変更する。この変更により、俯瞰画像生成部293は動いている障害物を強調表示する。ステップS122の後、ステップS123へ進む。
インタフェース部210は、制御部290の制御に従って俯瞰画像を画像データにて表示装置300へ出力する。表示装置300は、この画像データに従って俯瞰画像を表示する。
ステップS123の後、ステップS101へ戻る。
運転者が、車両900における接触の位置を把握することで、例えばハンドル操作を行う場合に左右どちらの方向へ向けるかなど、障害物との接触に対する対応策を決定するための参考情報とすることができる。この点で、俯瞰画像生成装置200は、車両900の運転者が障害物に対応するための情報を提供することができる。
これにより、車両900の運転者は、俯瞰画像を参照して、車両900のどの部分にどの程度の接触が予測されるかを容易に把握することができる。
これにより、接触判定部292は、障害物の硬さを反映してより高精度に損傷の態様を判定することができる。
これにより、俯瞰画像生成装置200では、障害物の硬さを判定するためのセンサを別途設ける必要がない。
これにより、俯瞰画像生成装置200は、移動している障害物を表示装置300に強調表示させることができる。
ここで、車両900の運転者は、移動している障害物と車両900との接触を避けるために、移動している障害物の位置の把握を継続的に行う必要がある。俯瞰画像生成装置200が、移動している障害物を表示装置300に強調表示させることで、移動している障害物の位置の把握を継続的に行うよう運転者に対して注意喚起することができる。
図7は、本発明に係る俯瞰画像生成装置の最小構成の例を示す図である。図7に示す俯瞰画像生成装置10は、障害物検出部11と、接触判定部12と、俯瞰画像生成部13と、出力部14とを備える。
かかる構成にて、障害物検出部11は、移動体の移動方向の障害物を検出する。接触判定部12は、障害物と移動体との接触可能性及び移動体における接触予測位置を判定する。俯瞰画像生成部13は、移動体に取り付けられた撮影装置が撮影した画像に基づいて、移動体及びその周囲の俯瞰画像、かつ、接触予測位置が示されている俯瞰画像を生成する。出力部14は、俯瞰画像を出力する。
運転者が、移動体における接触の位置を把握することで、例えばハンドル操作を行う場合に左右どちらの方向へ向けるかなど、障害物との接触に対する対応策を決定するための参考情報とすることができる。この点で、俯瞰画像生成装置10は、移動体の運転者が障害物に対応するための情報を提供することができる。
かかる構成にて、障害物検出部23は、移動体の移動方向の障害物を検出する。接触判定部24は、障害物と移動体との接触可能性及び移動体における接触予測位置を判定する。俯瞰画像生成部25は、移動体に取り付けられた撮影装置が撮影した画像に基づいて、移動体及びその周囲の俯瞰画像、かつ、接触予測位置が示されている俯瞰画像を生成する。表示装置26は、俯瞰画像生成部25が生成した俯瞰画像を表示する。
運転者が、移動体における接触の位置を把握することで、例えばハンドル操作を行う場合に左右どちらの方向へ向けるかなど、障害物との接触に対する対応策を決定するための参考情報とすることができる。この点で、俯瞰画像生成システム20は、移動体の運転者が障害物に対応するための情報を提供することができる。
10、22、200 俯瞰画像生成装置
11、23、291 障害物検出部
12、24、292 接触判定部
13、25、293 俯瞰画像生成部
14 出力部
21、100 撮影装置
26、300 表示装置
210 インタフェース部
280 記憶部
290 制御部
400 入力デバイス
Claims (6)
- 移動体の移動方向の障害物を検出する障害物検出部と、
前記移動体に取り付けられた撮影装置が撮影した画像の履歴における前記障害物の像の大きさの変化の度合いから前記移動体と前記障害物との距離を算出し、前記移動体と前記障害物との距離の時間変化、及び前記撮影装置が撮影した画像における前記障害物の像の位置に基づいて、前記移動体及び前記障害物が共に現在の動きを維持した場合の前記障害物の進行方向を推定する推定部と、
前記障害物が移動している場合に、前記撮影装置が撮影した画像に基づいて、前記移動体及びその周囲の俯瞰画像を前記障害物の進行方向を示す態様で生成する俯瞰画像生成部と、
生成された俯瞰画像を出力する出力部と、
を備える俯瞰画像生成装置。 - 前記進行方向を示す態様は、進行方向を矢印で示す態様である、
請求項1に記載の俯瞰画像生成装置。 - 前記俯瞰画像生成部は、前記障害物が静止している場合と移動している場合とで異なる表示態様で前記障害物を強調表示する前記俯瞰画像を生成する、
請求項1または請求項2に記載の俯瞰画像生成装置。 - 移動体に取り付けられた撮影装置と、俯瞰画像生成装置と、表示装置とを備え、
前記俯瞰画像生成装置は、
移動体の移動方向の障害物を検出する障害物検出部と、
前記撮影装置が撮影した画像の履歴における前記障害物の像の大きさの変化の度合いから前記移動体と前記障害物との距離を算出し、前記移動体と前記障害物との距離の時間変化、及び前記撮影装置が撮影した画像における前記障害物の像の位置に基づいて、前記移動体及び前記障害物が共に現在の動きを維持した場合の前記障害物の進行方向を推定する推定部と、
前記障害物が移動している場合に、前記撮影装置が撮影した画像に基づいて、前記移動体及びその周囲の俯瞰画像を前記障害物の進行方向を示す態様で生成する俯瞰画像生成部と、
を備え、
生成された俯瞰画像を表示する、
俯瞰画像表示システム。 - 移動体の移動方向の障害物を検出し、
前記移動体に取り付けられた撮影装置が撮影した画像の履歴における前記障害物の像の大きさの変化の度合いから前記移動体と前記障害物との距離を算出し、前記移動体と前記障害物との距離の時間変化、及び前記撮影装置が撮影した画像における前記障害物の像の位置に基づいて、前記移動体及び前記障害物が共に現在の動きを維持した場合の前記障害物の進行方向を推定し、
前記障害物が移動している場合に、前記撮影装置が撮影した画像に基づいて、前記移動体及びその周囲の俯瞰画像を前記障害物の進行方向を示す態様で生成し、
生成された俯瞰画像を出力する、
ことを含む俯瞰画像生成方法。 - コンピュータに、
移動体の移動方向の障害物を検出させ、
前記移動体に取り付けられた撮影装置が撮影した画像の履歴における前記障害物の像の大きさの変化の度合いから前記移動体と前記障害物との距離を算出し、前記移動体と前記障害物との距離の時間変化、及び前記撮影装置が撮影した画像における前記障害物の像の位置に基づいて、前記移動体及び前記障害物が共に現在の動きを維持した場合の前記障害物の進行方向を推定させ、
前記障害物が移動している場合に、前記撮影装置が撮影した画像に基づいて、前記移動体及びその周囲の俯瞰画像を前記障害物の進行方向を示す態様で生成させ、
生成された俯瞰画像を出力させる、
ためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021120615A JP7331889B2 (ja) | 2017-03-22 | 2021-07-21 | 俯瞰画像生成装置、俯瞰画像表示システム、俯瞰画像生成方法及びプログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017056563A JP6919256B2 (ja) | 2017-03-22 | 2017-03-22 | 俯瞰画像生成装置、俯瞰画像表示システム、俯瞰画像生成方法及びプログラム |
JP2021120615A JP7331889B2 (ja) | 2017-03-22 | 2021-07-21 | 俯瞰画像生成装置、俯瞰画像表示システム、俯瞰画像生成方法及びプログラム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017056563A Division JP6919256B2 (ja) | 2017-03-22 | 2017-03-22 | 俯瞰画像生成装置、俯瞰画像表示システム、俯瞰画像生成方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021170823A JP2021170823A (ja) | 2021-10-28 |
JP7331889B2 true JP7331889B2 (ja) | 2023-08-23 |
Family
ID=63795144
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017056563A Active JP6919256B2 (ja) | 2017-03-22 | 2017-03-22 | 俯瞰画像生成装置、俯瞰画像表示システム、俯瞰画像生成方法及びプログラム |
JP2021120615A Active JP7331889B2 (ja) | 2017-03-22 | 2021-07-21 | 俯瞰画像生成装置、俯瞰画像表示システム、俯瞰画像生成方法及びプログラム |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017056563A Active JP6919256B2 (ja) | 2017-03-22 | 2017-03-22 | 俯瞰画像生成装置、俯瞰画像表示システム、俯瞰画像生成方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (2) | JP6919256B2 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012257106A (ja) | 2011-06-09 | 2012-12-27 | Aisin Seiki Co Ltd | 画像生成装置 |
JP2016105580A (ja) | 2014-09-19 | 2016-06-09 | メクラ・ラング・ノース・アメリカ,エルエルシー | 車両、特に商用車における表示システムおよび表示方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4656408B2 (ja) * | 2005-08-05 | 2011-03-23 | 株式会社デンソー | 車両用周囲監視装置 |
JP4744995B2 (ja) * | 2005-09-08 | 2011-08-10 | クラリオン株式会社 | 車両用障害物検出装置 |
JP4557302B2 (ja) * | 2006-01-26 | 2010-10-06 | アルパイン株式会社 | 車両運転支援装置 |
JP4996928B2 (ja) * | 2007-01-05 | 2012-08-08 | 日立建機株式会社 | 作業機械の周囲監視装置 |
JP2011048520A (ja) * | 2009-08-26 | 2011-03-10 | Alpine Electronics Inc | 車両周辺監視装置および車両周辺監視方法 |
WO2012144076A1 (ja) * | 2011-04-22 | 2012-10-26 | トヨタ自動車株式会社 | 車両周辺監視装置及び車両周辺監視情報の表示方法 |
-
2017
- 2017-03-22 JP JP2017056563A patent/JP6919256B2/ja active Active
-
2021
- 2021-07-21 JP JP2021120615A patent/JP7331889B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012257106A (ja) | 2011-06-09 | 2012-12-27 | Aisin Seiki Co Ltd | 画像生成装置 |
JP2016105580A (ja) | 2014-09-19 | 2016-06-09 | メクラ・ラング・ノース・アメリカ,エルエルシー | 車両、特に商用車における表示システムおよび表示方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2018160783A (ja) | 2018-10-11 |
JP6919256B2 (ja) | 2021-08-18 |
JP2021170823A (ja) | 2021-10-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6531832B2 (ja) | 駐車スペース検出方法および装置 | |
US9595197B2 (en) | Lateral control apparatus of vehicle and control method of the same | |
JP5867273B2 (ja) | 接近物体検知装置、接近物体検知方法及び接近物体検知用コンピュータプログラム | |
EP2578464B1 (en) | Video-based warning system for a vehicle | |
JP6246014B2 (ja) | 外界認識システム、車両、及びカメラの汚れ検出方法 | |
JP5379543B2 (ja) | 自動車の外界認識装置 | |
JPWO2020070822A1 (ja) | 駐車支援装置および駐車支援方法 | |
JP2003123196A (ja) | 車両の周辺監視装置及びプログラム | |
JP2004531424A5 (ja) | ||
JP6394440B2 (ja) | 汚れ判定装置 | |
JP2014078056A (ja) | 車両用領域識別装置、そのプログラム及びその方法 | |
JP2015014948A (ja) | 車両用運転支援装置 | |
JP7331889B2 (ja) | 俯瞰画像生成装置、俯瞰画像表示システム、俯瞰画像生成方法及びプログラム | |
JP5477394B2 (ja) | 車両周辺監視装置 | |
JPH10117341A (ja) | 車両周辺監視装置、この装置に用いられる障害物検出方法、及びこの装置に用いられる障害物検出プログラムを記憶した媒体 | |
JP2009181310A (ja) | 道路パラメータ推定装置 | |
KR102100978B1 (ko) | 리어 뷰를 위한 제어 유닛 및 방법 | |
WO2021176825A1 (ja) | センシングシステム | |
JP2018184140A (ja) | 駐車支援装置 | |
JP2007200074A (ja) | 周辺物体追尾装置及び周辺物体位置予測方法 | |
US11410434B2 (en) | Vehicle control device and vehicle control method | |
JP2017124751A (ja) | 駐車支援装置および駐車支援方法 | |
JP6523801B2 (ja) | 画像処理装置および画像処理方法 | |
JP2019087095A (ja) | 運転支援装置および運転支援方法 | |
JP7282167B2 (ja) | 運転支援装置および運転支援方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210819 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210819 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220826 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220830 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221031 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230221 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230515 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20230523 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230711 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230724 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7331889 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |