JP2003030627A - 車両周辺画像処理装置及び記録媒体 - Google Patents
車両周辺画像処理装置及び記録媒体Info
- Publication number
- JP2003030627A JP2003030627A JP2001215066A JP2001215066A JP2003030627A JP 2003030627 A JP2003030627 A JP 2003030627A JP 2001215066 A JP2001215066 A JP 2001215066A JP 2001215066 A JP2001215066 A JP 2001215066A JP 2003030627 A JP2003030627 A JP 2003030627A
- Authority
- JP
- Japan
- Prior art keywords
- image
- eye view
- bird
- view image
- obstacle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
て描画することができるとともに、車両の周囲をリアル
タイムで監視することができる車両周辺画像処理装置及
び記録媒体を提供すること。 【解決手段】 ステップ140では、車両の移動量に基
づいて、移動後鳥瞰図画像を求める。ステップ160で
は、移動後鳥瞰図画像と第2鳥瞰図画像とを合成して合
成鳥瞰図画像を作成する。ステップ170では、超音波
センサ8により障害物を検出する。ステップ180で
は、障害物を示す画像データを、合成鳥瞰図画像に対し
て障害物が存在する位置に書き込む。ステップ190で
は、書込合成鳥瞰図画像を画像メモリBに記憶する。ス
テップ200では、車両を示す画像や視野角を示す画像
などを加味して書込合成鳥瞰図画像をモニタ5に表示す
る。
Description
を撮影してモニタに表示できる車両周辺画像処理装置及
び記録媒体に関するものである。
装置として、車両の後部に取り付けたカメラの画像を、
そのままモニタに出力する表示装置が知られている。こ
の表示装置では、車両後方の状態が有る程度分かるが、
自車両とモニタに表示されている対象物(例えば駐車
枠)の画像の相対位置関係が分かりに難いという問題が
ある。
849号公報には、後方カメラで撮影した画像(後方カ
メラ画像)を鳥瞰図に変換し、自車両をその中に表示す
るという技術が提案されている。
鳥瞰図の中に自車両を示すので、画像に表示された対象
物と自車両の位置関係は、撮影した画像をそのままモニ
タに表示するものより分かり易くなっているが、カメラ
の現在の視野の外にあるものは表示できないという別の
問題があった。
に入れるような場合には、カメラの視野外に出た駐車枠
を表示できないので、依然として、車両を駐車枠に入れ
る操作が容易ではないという問題があった。これに対し
て、既に本願発明者らにより、車両後部に取り付けたカ
メラから、車両後方の画像を撮影し、画像処理でこれら
を上から見た鳥瞰画像に変換し、変換した画像の時間的
変化から車両の動きを算出して、カメラの視野外に消え
て行く画像領域を算出し、更に現時刻の変換画像を貼り
付けて、従来より広い範囲を表示する技術が開発されて
いる。
いるものであるが、モニタに表示される画像は、その大
部分が過去の画像データに基づくものであるので、例え
ば新たな障害物が、モニタに表示された(過去のデータ
に基づく)領域に進入した場合には、これを監視できな
いという問題があった。
れたものであり、例えばカメラの視野の外に出た部分を
推定して描画することができるとともに、車両の周囲を
リアルタイムで監視することができる車両周辺画像処理
装置及び記録媒体を提供することを目的とする。
求項1の発明は、車両周辺の画像を撮影する撮影手段
(例えばカメラ)と、画像を表示する表示手段(例えば
モニタ)とを備えた車両に対して、撮影手段により撮影
された画像を処理して表示手段に表示する車両周辺画像
処理装置に関するものである。
を、例えば撮影手段を視点として投影した地上面座標系
のデータに変換して鳥瞰図画像の画像データを順次作成
する。即ち、第1鳥瞰図画像及びそれより後の画像であ
る第2鳥瞰図画像等の画像データを作成する。これによ
り、画像は、例えばカメラで撮影したままの歪んだ画像
ではなく、地面の上方より見たような見やすい鳥瞰図画
像となる。
瞰図画像を移動させて移動後鳥瞰図画像の画像データを
作成し、この移動後鳥瞰図画像の画像データと、(第1
鳥瞰図画像より)新しい第2鳥瞰図画像の画像データと
を合成して合成鳥瞰図画像の画像データを作成する。
カメラの視野が変化するので、当然、撮影した時間が異
なる第1鳥瞰図画像と第2鳥瞰図画像では、画像のずれ
(撮影された部分の違い)が発生する。そこで、第2鳥
瞰図画像に、そのずれの部分(即ち過去に視野内であっ
たが現在視野から消えている部分)の移動後鳥瞰図画像
を適宜加味することにより、モニタ等にカメラの視野か
ら消えた部分を表示する。
ば超音波センサ)によって検出された障害物を示す画像
を、合成鳥瞰図画像に加入して、表示手段に表示する。
従って、モニタ等には、周囲の画像だけでなく、障害物
の位置等を表示することができるので、車両の操作にお
ける安全性が一層向上するという効果がある。
た部分を表示する技術においては、モニタ等に表示され
る画像は、その大部分が過去の画像データに基づくもの
であるが、本発明によれば、例えば新たな車両や人等の
障害物が、モニタに表示された領域(過去のデータに基
づいて作成された画面の領域)に進入した場合にも、こ
れを監視できるという顕著な効果を奏する。
作成する手法としては、画像の時間的変化から車両の動
きを算出して移動後鳥瞰図画像を作成したり、車両信号
を用いて移動後鳥瞰図画像を作成する手法を採用でき
る。 (2)請求項2の発明では、障害物を示す画像を加入し
た合成鳥瞰図画像を記憶しておき、この障害物の画像を
加入した合成鳥瞰図画像と新たな第2鳥瞰図画像とを合
成して新たな合成鳥瞰図画像を作成する。
画像を表示した場合には、次に、合成鳥瞰図画像を作成
する場合には、(モニタに表示した)障害物を含む合成
鳥瞰図画像と新たに撮影によって得られた第2鳥瞰図画
像とを合成する。これにより、車両の移動につれて、モ
ニタ上に連続的に画像を表示する場合でも、障害物の画
像を、変化するモニタ画面上にて対応する同じ場所に表
示できる。よって、例えば駐車枠の角に障害物があった
場合には、表示画像が変化しても同じ駐車枠の角に障害
物を表示できるので、障害物を継続的に認識することが
でき、車両の運転の際の安全性が向上する。
ある場合に特に有効である。また、障害物が車両等の様
に移動物である場合には、障害物の移動してゆく状態が
分かるという利点がある。 (3)請求項3の発明では、メモリAに鳥瞰図画像作成
手段により作成された鳥瞰図画像の画像データを記憶
し、メモリBに合成鳥瞰図画像作成手段により作成され
た合成鳥瞰図画像の画像データを記憶する。
を例示したものである。 (4)請求項4の発明では、障害物を示す画像を加入し
ない合成鳥瞰図画像を記憶しておき、この障害物の画像
を加入しない合成鳥瞰図画像と新たな第2鳥瞰図画像と
を合成して、新たな合成鳥瞰図画像を作成する。
画像を表示した場合には、次に、合成鳥瞰図画像を作成
する場合には、(モニタに表示した)障害物を含む合成
鳥瞰図画像ではなく、障害物を含まない合成鳥瞰図画像
と新たに撮影によって得られた第2鳥瞰図画像とを合成
する。
上に連続的に画像を表示する場合でも、過去の障害物の
位置等ではなく(例えば超音波センサで検出した)最新
の障害物の画像を逐次モニタ上に表示できるので、車両
の運転の際の安全性が一層向上する。
や人等の移動物である場合に特に有効である。 (5)請求項5の発明では、表示手段に画像を表示する
際に、合成鳥瞰図画像に障害物を示す画像を加入して、
表示手段に表示する。
像が含まれていない場合でも、モニタ等に表示するため
に、別途、合成鳥瞰図画像に障害物を加入した画像(書
込合成鳥瞰図画像)を作成し、この書込合成鳥瞰図画像
をモニタ等に表示する。これにより、表示に必要な場合
のみ障害物の画像を加入するので、順次合成鳥瞰図画像
を作成する際に、障害物の画像が書き込まれることはな
い。
は、(過去の障害物の位置ではなく)最新の障害物の位
置等のみを表示できるので、運転者にとって障害物の情
報を正確に認識し易いという利点がある。 (6)請求項6の発明では、メモリAに鳥瞰図画像作成
手段により作成された鳥瞰図画像の画像データを記憶
し、メモリBに合成鳥瞰図画像作成手段により作成され
た合成鳥瞰図画像の画像データを記憶し、メモリCに障
害物を示す画像データを記憶する。
を例示したものである。 (7)請求項7の発明では、合成鳥瞰図画像は、第2鳥
瞰図画像を表示する表示領域以外に、移動後鳥瞰図画像
を加入した画像である。本発明は、合成鳥瞰図画像の形
成方法を例示したものである。これにより、車両の周囲
の画像を連続して表示することができる。
り現在撮影されている画像は、第2鳥瞰図画像としてモ
ニタに表示可能であるので、それ以前のモニタから消え
てしまう画像を、移動後鳥瞰図画像として第2鳥瞰図画
像の表示領域以外に加えることにより、カメラの視野か
ら消えた過去の周囲の状況をもモニタに表示することが
できる。
像に用いる第2鳥瞰図画像として、最新の鳥瞰図画像を
用いる。本発明では、第2鳥瞰図画像として、新たにカ
メラ等にて撮影された最新の鳥瞰図画像を用いるので、
車両の周辺の状況をより的確に把握することができる。
成鳥瞰図画像を表示する場合には、自車両を示す画像を
加えて表示する。本発明では、車両の周囲の状況を示す
合成鳥瞰図画像に自車両を示す画像を加えて表示するこ
とにより、自車両と例えば駐車枠との位置関係が明瞭と
なるので、車両の操作が容易になる。
されているので、例えばモニタの画面における自車両の
位置は常に一定である。従って、モニタの画面の決まっ
た位置に自車両を表示することができ、更には、モニタ
の画面上に予めプリント等により車両を記載してもよ
い。
ので、自車両だけでなく、モニタの画面に、カメラの視
野角(左右の範囲)も表示してもよい。 (10)請求項10の発明は、上述した車両周辺画像処
理装置による処理を実行させる手段を記憶している記録
媒体である。
処理を実行させることができる例えばプログラム等の手
段を記憶したものであれば、特に限定はない。例えば記
録媒体としては、マイクロコンピュータとして構成され
る電子制御装置、マイクロチップ、フロッピィディス
ク、ハードディスク、光ディスク等の各種の記録媒体が
挙げられる。
理装置及び記録媒体の実施の形態の例(実施例)を説明
する。 (実施例1) a)本実施例の基本的なシステム構成を図1及び図2を
用いて説明する。
処理装置は、自動車の後部に配置されたカメラ(例えば
CCDカメラ)1と、ダッシュボードに配置された車載
モニタ(例えば液晶ディスプレイ)3と、車速を検出す
る車速センサ5と、ヨーレイトを検出するヨーレイトセ
ンサ7と、車両に周囲の障害物を検出する超音波センサ
8と、画像処理を行う画像処理ユニット9を備えてい
る。
に、マイクロコンピュータを主要部とする画像データの
処理を行う電子装置であり、カメラ1で撮影した画像デ
ータの座標変換を行って鳥瞰図画像を作成する座標変換
部(鳥瞰図変換回路)11と、作成された鳥瞰図画像の
画像データを一時的に蓄える画像メモリAと、車速信号
を入力する車速信号入力回路13と、ヨーレイト信号を
入力するヨーレイト信号入力回路15と、超音波センサ
8からの超音波信号を入力する超音波信号入力回路16
と、車速信号及びヨーレイト信号を読み込んで鳥瞰図画
像を移動(例えば回転移動)させたり障害物を示す画像
の処理等の演算を行うCPU17と、モニタ3に表示す
る鳥瞰図画像のデータを記憶する画像メモリBとを備え
ている。
像の画像データとは、後述する様に、前回(例えば時刻
Tに)カメラ1にて撮影され、その画像データに基づい
て作成された鳥瞰図画像(第1鳥瞰図画像)を移動させ
た鳥瞰図画像(移動後鳥瞰図画像)と、新たに(例えば
時刻T+1に)カメラ1にて撮影され、その画像データ
に基づいて作成された鳥瞰図画像(第2鳥瞰図画像)と
を合成した鳥瞰図画像(合成鳥瞰図画像)の画像データ
である。
は、超音波センサ8によって検出された障害物を示す画
像が書き込まれている。また、前記超音波センサ8は、
図3に示す様に、車両の周囲の障害物を検出できる様
に、車両の左右の側面及び後部に所定の間隔を保って配
置されている。
れた各超音波センサ8から超音波を発信し、その受信波
を受信することにより、各超音波センサ8の検出範囲内
に障害物があるか否かだけでなく、その障害物との距離
や障害物の大きさを検出することができる。
体の構造となっていてもよく、画像処理ユニット9内の
各構成は、一部又は全体で一体化してLSIで構成して
もよい。い。 b)次に、本実施例における画像処理の手順等を、図4
〜図6に基づいて説明する。
車枠内に入れる場合を例に挙げる。 最初に、カメラ1から入力された画像を、鳥瞰図変換
回路11で上空から見た鳥瞰図画像に変換し、画像メモ
リAに保存する手順を説明する。まず、カメラ1から出
力される原画像(出力画像)を、図4(a)に示すが、
この原画像は、車両の後部の上部に配置されたカメラ1
により、地上に描かれた駐車枠及びその周囲を撮影した
画像であるので、自車両(従ってカメラ1)と駐車枠の
各線の位置との距離などに応じて、本来矩形である駐車
枠が歪んで表示されている。
の画像データを座標変換して、図4(b)に示す様な歪
みのない鳥瞰図画像を作成し、この鳥瞰図画像の画像デ
ータを画像メモリAに記憶する。 次に、前記カメラ1で撮影された原画像を鳥瞰図画像
に変換する手順を説明する。尚、この手順は、以下に説
明する様に、従来技術(例えば特開平10−21184
9号公報)を利用できる。
うことにより、地上平面における画像(例えば駐車枠)
の位置を鳥瞰図として求める。具体的には、図5に示す
様に、地上の画像の位置データをカメラ位置Rからの焦
点距離fにあるスクリーン平面Tに投影するときの透視
変換を実行する。
(0,0,H)に位置し、見下ろし角τで地上面(xy
座標面)における画像をモニタしているとする。従っ
て、ここでは、下記式(1)に示す様にして、スクリー
ン平面T上の2次元座標(α、β)を、地上面上の座標
(鳥瞰図座標)に変換(逆の透視変換)できる。
り、投影画像データを(鳥瞰図画像を示す)モニタ5の
画面に対応した画像データに変換してモニタ表示するこ
とができる。 次に、車速信号とヨーレイト信号を用い、車両の動き
量(移動量)に応じて、前記画像メモリAに記憶した鳥
瞰図画像を移動(例えば回転移動)させる手順を説明す
る。
が、時刻T+1になるまでの車両の移動距離はL、時刻
T+1になるまでに車両が動いた角度はθ1(=回転中
心における回転角度θC)とする。 ・まず、カメラ1のサンプリング時間が100[ms]の
場合、車速信号から得られる車速S[km/h]を用い
て、下記式(2)から、車両が移動した距離L[m]を算
出できる。
号から得られるヨーレイトθ0[度/s]を用いて、下記
式(3)から、車両が動いた角度θ1を算出できる。
にあるとしているので、その回転中心は、カメラ位置を
原点として算出し、車両の進行方向をY、これに垂直な
方向をXとすると、X方向の回転中心位置XC[m]は、
下記式(4)から算出できる。
メラと後輪車軸までの距離はYC[cm]である。また、
回転中心における回転角度θCは、図6に示す図形の関
係から、車両が動いた角度θ1に一致する。
位置(XC、YC)、回転角度θCを用いて、下記の様
にして、鳥瞰図画像を移動する。画像メモリAに記憶さ
れた鳥瞰図画像の画像データは、一旦、画像メモリBに
も記憶される。従って、ここでは、画像メモリBに記憶
された鳥瞰図画像の画像データを、CPU17の内部メ
モリに転送し、前記回転中心位置(XC、YC)及び回
転角度θCを用いて、鳥瞰図画像を回転移動する。
式(5)に示すが、この変換式を用いたCPU17の内
部処理により、回転角度θにて移動させた移動後の座標
(XB、YB)に対して、移動前の対応する点(XA、
YA)を算出し、(XA、YA)の画素値を(XB、Y
B)のアドレスメモリに保存する。
により、画像メモリAに記憶された鳥瞰図画像(時刻T
における第1鳥瞰図画像)から、移動後の鳥瞰図画像
(時刻Tにおける移動後鳥瞰図画像)を作成する。
した画像に基づいて作成した鳥瞰図画像、即ち、現在の
鳥瞰図画像(時刻T+1における第2鳥瞰図画像)を、
新たに画像メモリAよりCPU17に転送する。よっ
て、CPU17では、第2鳥瞰図画像を時刻Tと位置関
係が対応する位置(移動後鳥瞰図画像との画像のずれが
生じない位置)に書き込み、それによって、移動後鳥瞰
図画像と第2鳥瞰図画像とを合成した合成鳥瞰図画像の
画像データを作成する。
障害物を示す画像の処理について説明する。上述した画
像処理とは別に、各超音波センサ8から超音波を発信
し、その反射波を受信することによって、車両の周囲の
障害物を検出する。
害物を検出した位置のデータ、即ち障害物が車両に対し
てどの位置(障害物を検出した当該超音波センサ8の発
信方向)にて、どれほど離れているかを示す位置のデー
タや、障害物の大きさのデータを求める。
位置等のデータに基づいて、障害物がどの位置にあるか
を求め、その求めた位置に障害物であることを示す画像
(障害物画像)を書き込む処理を行う。例えば超音波セ
ンサ8により、障害物との距離や大きさが分かった場合
には、その障害物の情報に基づいて、障害物に大きさに
比例した赤色のリングを(合成鳥瞰図画像に対して)障
害物がある位置に書き込む。
鳥瞰図画像(書込合成鳥瞰図画像)を、画像メモリBに
記憶し、この画像メモリBに記憶した書込合成鳥瞰図画
像を、モニタ3に表示する。尚、合成鳥瞰図画像を作成
する際には、自車両の位置やカメラ1の視野角の画像な
ども加入して画像メモリBに記憶し、その合成鳥瞰図画
像をモニタ5の画面に表示してもよいが、自車両の位置
やカメラ1の視野角の画像などは画像メモリBに記憶せ
ずに、モニタ5に画像メモリBに記憶した合成鳥瞰図画
像を描画する際に、自車両の位置やカメラ1の視野角の
画像など加えて描画してもよい。
行われる処理を、図7のフローチャートに基づいて説明
する。図7に示す様に、まず、ステップ100にて、シ
フト位置がバックであるか否かを判定する。ここで肯定
判断されるとステップ110に進み、一方否定判断され
るとステップ210に進む。
(図示せず)からの信号や、他の電子制御装置からの信
号により検出することができる。ステップ210では、
以前に描画したカメラの視野外の領域の画像を消去し、
即ち、現在のカメラの画像(鳥瞰図画像)のみを表示
し、前記ステップ100に戻る。
影した画像の座標変換(前記鳥瞰図変換)を行って、鳥
瞰図画像を作成する。続くステップ120では、前記鳥
瞰図画像を画像メモリAに記憶する。尚、このときに
は、画像メモリBにも同様な鳥瞰図画像を記憶する。
ーレイト信号に基づいて、移動距離L及び回転角度θC
で示される車両の動き量(移動量)を求める。続くステ
ップ140では、車両の移動量に基づいて、前記画像メ
モリBに記憶されている鳥瞰図画像(時刻Tの第1鳥瞰
図画像)を移動させて、移動後の鳥瞰図画像(時刻Tの
移動後鳥瞰図画像)を求める。
て画像メモリAに記憶された(時刻T+1における)第
2鳥瞰図画像を、画像メモリAから読み込む。続くステ
ップ160では、移動後鳥瞰図画像と第2鳥瞰図画像と
を合成して合成鳥瞰図画像を作成する。
2鳥瞰図画像に対応する)カメラ視野の外に、今回の車
両の移動によりカメラ視野外となった部分、即ち、第1
鳥瞰図画像を車両の移動量に対応して移動させて形成し
た移動後鳥瞰図画像の一部(詳しくは第2鳥瞰図画像と
重なる部分は除いたもの)を書き込むようにして、合成
鳥瞰図画像を作成する。
のであり、実際には、例えばモニタ画面の描画の際に、
車両を示す枠等を描画する。続くステップ170では、
超音波センサ8からの信号に基づいて、障害物の位置及
び障害物の大きさを求める。
の情報に基づいて、障害物を示す画像(例えば赤色のリ
ング)を、合成鳥瞰図画像に対して障害物が存在する位
置に書き込む。これによって、障害物画像が書き込まれ
た合成鳥瞰図画像(書込合成鳥瞰図画像)が作成され
る。
画像を、画像メモリBに記憶する。続くステップ200
では、車両を示す画像や視野角を示す画像などを加味し
て、画像メモリBに記憶した書込合成鳥瞰図画像をモニ
タ5に表示し、一旦本処理を終了する。
された画像が取り込まれる毎に実施する。つまり、次回
には、書込合成鳥瞰図画像を車両の移動に応じて移動さ
せて移動後鳥瞰図画像を作成し、その(障害物画像を含
む)移動後鳥瞰図画像と新たな第2鳥瞰図画像とを合成
して、障害物がある場合には障害物画像を加えてモニタ
3に表示する画像を作成し、以後同様な処理を繰り返し
てゆく。
て同じ位置にある場合、例えば駐車枠の角に障害物があ
り、画面が移動しても同様に駐車枠の角に障害物がある
様な場合には、同一の(固定の)障害物であると見なし
て、同じ障害物の画像を表示する。
撮影した画像を鳥瞰図画像に変換し、車両信号に基づい
て車両の移動量を検出し、その車両の移動量に応じて鳥
瞰図画像を移動させて移動後鳥瞰図画像を作成してい
る。そして、移動後鳥瞰図画像と新たに読み込んだ鳥瞰
図画像とを合成して合成鳥瞰図画像を作成し、その合成
鳥瞰図画像に、(超音波センサ8からの信号によって求
めた)障害物画像を加えるとともに、自車両及び視野角
の画像を加えて、モニタ5の画面に表示している。
にカメラ視野から外れた領域を推定し、合成することに
よって、通常はカメラ視野外となる表示できない部分も
含めて表示することができるので、図9に示す様に、自
車両と駐車枠との位置関係が明瞭に把握できる。そのた
め、バックで駐車する操作などが容易になる。
て、回転移動した後に後方に直線的に移動する際に、本
実施例の手法によって演算処理されたモニタ3の表示画
面を、(a)、(b)、(c)と順を追って示してい
る。特に本実施例では、例えば図9(b)に示す様に、
カメラ1の視野外に障害物が存在する場合(又は進入し
た場合)でも、障害物の位置をモニタに表示できるの
で、リアルタイムで車両の周囲を監視でき、安全性が向
上するという利点がある。
れた画像(即ち書込合成鳥瞰図画像として作成された画
像)には、障害物画像が残っており、その後、再度画像
メモリBの画像データを用いて、新たな合成鳥瞰図画像
が作成される場合には、その画像には障害物画像が残っ
ている。よって、特に障害物が移動しない場合には、図
9(c)に示す様に、車両が移動した場合でも、元の位
置に障害物画像を残して置くことができるので、運転者
に対して注意を喚起することができるという利点があ
る。 (実施例2)次に、実施例2について説明するが、前記
実施例1と同様な箇所の説明は省略する。
鳥瞰図画像を次の合成鳥瞰図画像の作成の際に用いるも
のではなく、毎回新たな障害物画像を合成鳥瞰図画像に
書き込んで、モニタに表示するものである。 a)本実施例では、図10に示す様に、カメラ1から読
み込んで鳥瞰図画像に変換した鳥瞰図画像の画像データ
を画像メモリAに記憶し、(障害物画像が書き込まれて
いない)合成鳥瞰図画像の画像データを画像メモリBに
記憶し、障害物画像の画像データを画像メモリCに記憶
し、(障害物画像が書き込まれ)モニタに表示される書
込合成鳥瞰図画像を画像メモリDに記憶する。
トに示す様に、ステップ300にて、前記実施例1の手
法により、新たな鳥瞰図画像と移動後鳥瞰図画像とを合
成して合成鳥瞰図画像を作成する。続くステップ310
では、画像メモリBに合成鳥瞰図画像に記憶する。
によって障害物の位置等を検出する。 続くステップ3
30では、障害物を示す画像のデータ、即ち障害物画像
の位置や大きさ等を示すデータを、画像メモリCに記憶
する。続くステップ340では、前記画像メモリBから
合成鳥瞰図画像の画像データを読み出すとともに、画像
メモリCから障害物画像の画像データを読み出す。
に障害物画像を書き込んで書込合成鳥瞰図画像を作成す
る。続くステップ360では、書込合成鳥瞰図画像を画
像メモリDに記憶する。続くステップ370では、画像
メモリDに記憶されたを書込合成鳥瞰図画像をモニタ3
に表示し、一旦本処理を終了する。
された画像が取り込まれる毎に実施する。つまり、次の
合成鳥瞰図画像を作成する場合には、画像メモリBから
(障害物画像を含まない)合成鳥瞰図画像を読み出し、
車両の移動に合わせて移動後鳥瞰図画像を作成し、その
(障害物画像を含まない)移動後鳥瞰図画像と新たな第
2鳥瞰図画像とを合成して、新たなに合成鳥瞰図画像を
作成する。そして、新たに障害物がある場合には障害物
画像を書き込んで、モニタ3に表示し、以後同様な処理
を繰り返すのである。
像を表示する際に、合成鳥瞰図画像に障害物画像を書き
込み、その書込合成鳥瞰図画像をモニタに表示してい
る。つまり、新たに移動後鳥瞰図画像を作成する場合に
は、障害物画像が書き込まれていない合成鳥瞰図画像を
用いている。
過去の障害物画像ではなく、常に最新の障害物画像をモ
ニタ3に表示できるので、リアルタイムで車両の周囲を
監視でき、一層運転操作の安全性が向上するという効果
がある。この様に、カメラ1の視野外を過去の画像を用
いて表示する場合には、障害物が例えば車両や人の様に
移動しているときには、過去の障害物の位置を表示して
も、運転者に正確な障害物の情報を提供できるとは限ら
ないので、本実施例では、最新の障害物の位置等に関す
る情報をモニタ3に表示することにより、一層運転の安
全性の向上に寄与するものである。
るものではなく、本発明を逸脱しない範囲において種々
の態様で実施しうることはいうまでもない。例えば前記
実施例では、車両周辺画像処理装置について述べたが、
この装置による処理を実行させる手段を記憶している記
録媒体も、本発明の範囲である。
コンピュータとして構成される電子制御装置、マイクロ
チップ、フロッピィディスク、ハードディスク、光ディ
スク等の各種の記録媒体が挙げられる。つまり、上述し
た車両周辺画像処理装置の処理を実行させることができ
る例えばプログラム等の手段を記憶したものであれば、
特に限定はない。
状態を車速センサやヨーレートセンサを用いて検出し、
その情報に基づいて移動後鳥瞰図画像を作成する様にし
たが、例えばカメラで撮影した画像(鳥瞰図画像)の動
きベクトルを求め、この動きベクトルから車両の移動状
態を推定して、移動後鳥瞰図画像を求めてもよい。
より、第1鳥瞰図画像とそれより後の第2鳥瞰図画像と
の移動状態を検出し、その画像の移動状態から車両の移
動状態を求めるようにしてもよい。
を示す説明図である。
成を示す説明図である。
位置や検出領域を示す説明図である。
られる画像を示し、(a)はカメラにより撮影された画
像の説明図、(b)は鳥瞰図画像を示す説明図である。
変換の際の位置関係を示す説明図である。
の移動量を求めるための手法を示す説明図である。
すフローチャートである。
作成の手順を示す説明図である。
されるモニタ画像を示
等の構成を示す説明図である。
示すフローチャートである。
Claims (10)
- 【請求項1】 車両周辺の画像を撮影する撮影手段と、
画像を表示する表示手段とを備えた車両に対して、前記
撮影手段により撮影された画像を処理して前記表示手段
に表示する車両周辺画像処理装置において、 前記撮影手段により撮影した画像に基づいて、その鳥瞰
図画像を作成する鳥瞰図画像作成手段と、 前記鳥瞰図画像作成手段によって作成された第1鳥瞰図
画像を、前記車両の移動状態に応じて移動させて、移動
後鳥瞰図画像を作成する鳥瞰図画像移動手段と、 前記第1鳥瞰図画像より後に撮影されて作成された第2
鳥瞰図画像と、前記移動後鳥瞰図画像とを合成して、合
成鳥瞰図画像を作成する合成鳥瞰図画像作成手段と、 前記車両の周囲にある障害物を検出する障害物検出手段
と、 前記障害物検出手段によって検出された障害物を示す画
像を、前記合成鳥瞰図画像に加入して、前記表示手段に
表示する障害物表示手段と、 を備えたことを特徴とする車両周辺画像処理装置。 - 【請求項2】 前記障害物を示す画像を加入した合成鳥
瞰図画像を記憶しておき、この障害物の画像を加入した
合成鳥瞰図画像と新たな前記第2鳥瞰図画像とを合成し
て、新たな合成鳥瞰図画像を作成することを特徴とする
前記請求項1に記載の車両周辺画像処理装置。 - 【請求項3】 前記鳥瞰図画像作成手段により作成され
た鳥瞰図画像の画像データを記憶するメモリAと、 前記合成鳥瞰図画像作成手段により作成された合成鳥瞰
図画像の画像データを記憶するメモリBと、 を備えたことを特徴とする前記請求項1又は2に記載の
車両周辺画像処理装置。 - 【請求項4】 前記障害物を示す画像を加入しない合成
鳥瞰図画像を記憶しておき、この障害物の画像を加入し
ない合成鳥瞰図画像と新たな前記第2鳥瞰図画像とを合
成して、新たな合成鳥瞰図画像を作成することを特徴と
する前記請求項1に記載の車両周辺画像処理装置。 - 【請求項5】 前記表示手段に画像を表示する際に、前
記合成鳥瞰図画像に前記障害物を示す画像を加入して、
前記表示手段に表示することを特徴とする前記請求項1
又は2に記載の車両周辺画像処理装置。 - 【請求項6】 前記鳥瞰図画像作成手段により作成され
た鳥瞰図画像の画像データを記憶するメモリAと、 前記合成鳥瞰図画像作成手段により作成された合成鳥瞰
図画像の画像データを記憶するメモリBと、 前記障害物を示す画像データを記憶するメモリCと、 を備えたことを特徴とする前記請求項4に記載の車両周
辺画像処理装置。 - 【請求項7】 前記合成鳥瞰図画像は、前記第2鳥瞰図
画像を表示する表示領域以外に、前記移動後鳥瞰図画像
を加入した画像であることを特徴とする前記請求項1〜
6のいずれかに記載の車両周辺画像処理装置。 - 【請求項8】 前記合成鳥瞰図画像に用いる第2鳥瞰図
画像として、最新の鳥瞰図画像を用いることを特徴とす
る前記請求項1〜7のいずれかに記載の車両周辺画像処
理装置。 - 【請求項9】 前記表示手段に前記合成鳥瞰図画像を表
示する場合には、自車両を示す画像を加えて表示するこ
とを特徴とする前記請求項1〜8のいずれかに記載の車
両周辺画像処理装置。 - 【請求項10】 前記請求項1〜9のいずれかに記載の
車両周辺画像処理装置による処理を実行させる手段を記
憶していることを特徴とする記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001215066A JP4071463B2 (ja) | 2001-07-16 | 2001-07-16 | 車両周辺画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001215066A JP4071463B2 (ja) | 2001-07-16 | 2001-07-16 | 車両周辺画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003030627A true JP2003030627A (ja) | 2003-01-31 |
JP4071463B2 JP4071463B2 (ja) | 2008-04-02 |
Family
ID=19049773
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001215066A Expired - Fee Related JP4071463B2 (ja) | 2001-07-16 | 2001-07-16 | 車両周辺画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4071463B2 (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004114976A (ja) * | 2002-09-30 | 2004-04-15 | Aisin Seiki Co Ltd | 移動体周辺監視装置 |
JP2006131166A (ja) * | 2004-11-09 | 2006-05-25 | Alpine Electronics Inc | 運転支援装置 |
GB2431903A (en) * | 2005-11-04 | 2007-05-09 | Denso Corp | Vehicle parking assisting system and method |
JP2008021161A (ja) * | 2006-07-13 | 2008-01-31 | Mitsubishi Fuso Truck & Bus Corp | 走行状態判定装置 |
CN100401323C (zh) * | 2004-08-05 | 2008-07-09 | 株式会社东芝 | 监视设备以及显示鸟瞰视图的方法 |
JP2008163719A (ja) * | 2007-01-05 | 2008-07-17 | Hitachi Constr Mach Co Ltd | 作業機械の周囲監視装置 |
JP2008257403A (ja) * | 2007-04-03 | 2008-10-23 | Denso Corp | 車両用運転支援装置 |
WO2011016368A1 (ja) | 2009-08-03 | 2011-02-10 | アイシン精機株式会社 | 車両周辺画像生成装置 |
WO2015122124A1 (ja) * | 2014-02-12 | 2015-08-20 | 株式会社デンソー | 車両周辺画像表示装置、車両周辺画像表示方法 |
JP2017517174A (ja) * | 2014-04-04 | 2017-06-22 | ワイズ オートモーティブ コーポレーションWise Automotive Corporation | 車両周辺イメージ生成装置および方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3389026A1 (en) * | 2017-04-12 | 2018-10-17 | Volvo Car Corporation | Apparatus and method for road vehicle driver assistance |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07229961A (ja) * | 1994-02-22 | 1995-08-29 | Hitachi Ltd | 車両周囲の物体検知装置及び車両周囲の物体検知方法 |
WO2000007373A1 (fr) * | 1998-07-31 | 2000-02-10 | Matsushita Electric Industrial Co., Ltd. | Procede et appareil d'affichage d'images |
JP2001114047A (ja) * | 1999-10-20 | 2001-04-24 | Matsushita Electric Ind Co Ltd | 車両周囲状況提示装置 |
JP2001120042A (ja) * | 1999-10-22 | 2001-05-08 | Hokuriku Natl Agricultural Experiment Station | 画像マッピングシステム |
-
2001
- 2001-07-16 JP JP2001215066A patent/JP4071463B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07229961A (ja) * | 1994-02-22 | 1995-08-29 | Hitachi Ltd | 車両周囲の物体検知装置及び車両周囲の物体検知方法 |
WO2000007373A1 (fr) * | 1998-07-31 | 2000-02-10 | Matsushita Electric Industrial Co., Ltd. | Procede et appareil d'affichage d'images |
JP2001114047A (ja) * | 1999-10-20 | 2001-04-24 | Matsushita Electric Ind Co Ltd | 車両周囲状況提示装置 |
JP2001120042A (ja) * | 1999-10-22 | 2001-05-08 | Hokuriku Natl Agricultural Experiment Station | 画像マッピングシステム |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004114976A (ja) * | 2002-09-30 | 2004-04-15 | Aisin Seiki Co Ltd | 移動体周辺監視装置 |
CN100401323C (zh) * | 2004-08-05 | 2008-07-09 | 株式会社东芝 | 监视设备以及显示鸟瞰视图的方法 |
JP4573242B2 (ja) * | 2004-11-09 | 2010-11-04 | アルパイン株式会社 | 運転支援装置 |
JP2006131166A (ja) * | 2004-11-09 | 2006-05-25 | Alpine Electronics Inc | 運転支援装置 |
GB2431903A (en) * | 2005-11-04 | 2007-05-09 | Denso Corp | Vehicle parking assisting system and method |
JP2007128320A (ja) * | 2005-11-04 | 2007-05-24 | Denso Corp | 駐車支援システム |
US7272477B2 (en) | 2005-11-04 | 2007-09-18 | Denso Corporation | Vehicle parking assisting system and method |
DE102006051976B4 (de) * | 2005-11-04 | 2013-09-05 | Denso Corporation | Fahrzeugparkassistenzverfahren |
JP4682809B2 (ja) * | 2005-11-04 | 2011-05-11 | 株式会社デンソー | 駐車支援システム |
GB2431903B (en) * | 2005-11-04 | 2009-09-16 | Denso Corp | Vehicle parking assisting system and method |
JP2008021161A (ja) * | 2006-07-13 | 2008-01-31 | Mitsubishi Fuso Truck & Bus Corp | 走行状態判定装置 |
JP2008163719A (ja) * | 2007-01-05 | 2008-07-17 | Hitachi Constr Mach Co Ltd | 作業機械の周囲監視装置 |
JP2008257403A (ja) * | 2007-04-03 | 2008-10-23 | Denso Corp | 車両用運転支援装置 |
WO2011016368A1 (ja) | 2009-08-03 | 2011-02-10 | アイシン精機株式会社 | 車両周辺画像生成装置 |
US9156402B2 (en) | 2009-08-03 | 2015-10-13 | Aisin Seiki Kabushiki Kaisha | Wide view vehicle periphery image generation apparatus |
WO2015122124A1 (ja) * | 2014-02-12 | 2015-08-20 | 株式会社デンソー | 車両周辺画像表示装置、車両周辺画像表示方法 |
JP2015154125A (ja) * | 2014-02-12 | 2015-08-24 | 株式会社デンソー | 車両周辺画像表示装置、車両周辺画像表示方法 |
CN106031166A (zh) * | 2014-02-12 | 2016-10-12 | 株式会社电装 | 车辆周边图像显示装置和车辆周边图像显示方法 |
CN106031166B (zh) * | 2014-02-12 | 2018-12-25 | 株式会社电装 | 车辆周边图像显示装置和车辆周边图像显示方法 |
JP2017517174A (ja) * | 2014-04-04 | 2017-06-22 | ワイズ オートモーティブ コーポレーションWise Automotive Corporation | 車両周辺イメージ生成装置および方法 |
Also Published As
Publication number | Publication date |
---|---|
JP4071463B2 (ja) | 2008-04-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4156214B2 (ja) | 車両周辺画像処理装置及び記録媒体 | |
EP2192552B1 (en) | Image processing apparatus, image processing method, and recording medium | |
JP3778849B2 (ja) | 車両周辺画像処理装置及び記録媒体 | |
EP2429877B1 (en) | Camera system for use in vehicle parking | |
JP4863791B2 (ja) | 車両周辺画像生成装置および画像切替方法 | |
JP4556742B2 (ja) | 車両直下画像表示制御装置および車両直下画像表示制御プログラム | |
JP3475507B2 (ja) | 車両用周囲モニタ装置 | |
US8553081B2 (en) | Apparatus and method for displaying an image of vehicle surroundings | |
US20110169957A1 (en) | Vehicle Image Processing Method | |
JP2009060499A (ja) | 運転支援システム及び連結車両 | |
JP4759878B2 (ja) | 車両用駐車支援装置 | |
JP2006268076A (ja) | 運転支援システム | |
JP2002354467A (ja) | 車両周囲情報表示装置 | |
JP2007102798A (ja) | 車両周辺監視システム | |
JP2003030627A (ja) | 車両周辺画像処理装置及び記録媒体 | |
JP2004120661A (ja) | 移動体周辺監視装置 | |
JP3796417B2 (ja) | 車両周辺画像処理装置及び記録媒体 | |
JP3395393B2 (ja) | 車両周囲表示装置 | |
JP2007134961A (ja) | 車両検出装置及びこれを用いた車両用表示装置 | |
JP2004252837A (ja) | 車両周辺表示装置および車両周辺表示プログラム | |
JP3900415B2 (ja) | 車両周辺画像処理装置,プログラム及び記録媒体 | |
JP3850271B2 (ja) | 車両周辺画像処理装置及び記録媒体 | |
JP2006252577A (ja) | 地図データ生成装置 | |
JP3813085B2 (ja) | 車両周辺画像処理装置及び記録媒体 | |
JP5518407B2 (ja) | 車両用障害物検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060704 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060901 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061121 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070122 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070327 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070523 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20070427 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20070606 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20070629 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071210 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080117 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4071463 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110125 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120125 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130125 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140125 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |