JP2003204547A - 車両周囲監視装置およびその調整方法 - Google Patents

車両周囲監視装置およびその調整方法

Info

Publication number
JP2003204547A
JP2003204547A JP2002282362A JP2002282362A JP2003204547A JP 2003204547 A JP2003204547 A JP 2003204547A JP 2002282362 A JP2002282362 A JP 2002282362A JP 2002282362 A JP2002282362 A JP 2002282362A JP 2003204547 A JP2003204547 A JP 2003204547A
Authority
JP
Japan
Prior art keywords
camera
image
vehicle
cameras
boundary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002282362A
Other languages
English (en)
Other versions
JP3652678B2 (ja
Inventor
Shusaku Okamoto
修作 岡本
Masamichi Nakagawa
雅通 中川
Atsushi Morimura
森村  淳
Kazufumi Mizusawa
和史 水澤
Atsushi Iizaka
篤 飯阪
Takashi Yoshida
崇 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2002282362A priority Critical patent/JP3652678B2/ja
Publication of JP2003204547A publication Critical patent/JP2003204547A/ja
Application granted granted Critical
Publication of JP3652678B2 publication Critical patent/JP3652678B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 複数のカメラの撮影画像を合成して表示する
車両周囲監視装置において、部分画像同士の境界近傍に
おいて、従来よりも正確であり、かつ、ユーザに分かり
やすい画像を提供する。 【解決手段】 合成画像上で、カメラCA1が撮影した
部分画像PIA1とカメラCA2が撮影した部分画像P
IA2とが、境界BLA12で隣り合っている。境界B
LA12の近傍において、カメラCA1,CA2の撮影
方向は境界BLA12の方向とほぼ一致している。これ
により、境界BLA12の近傍にあるポールP3の画像
は、カメラCA1の画像上でもカメラCA2の画像上で
もともに境界BLA12に沿って伸び、したがって合成
画像上で消滅することはない。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、車両の周囲を撮影
する複数のカメラを用いた車両周囲監視装置に関するも
のであり、特に、それぞれのカメラ画像から得た部分画
像を合成して、ユーザにとって車両の周囲の状況が分か
りやすい画像を提示する技術に属する。
【0002】
【従来の技術】車両の周囲をカメラを用いて監視する従
来の装置として、特開平10−257482号公報(以
下、文献1と称する)や、特開平11−78692号公
報(以下、文献2と称する)に記載のものなどが、知ら
れている。
【0003】文献1記載の装置では、車のリア部中央に
1台、左右のドアミラー付近に各1台ずつ、後向きに取
り付けられたカメラの画像同士を、無限遠点が一致する
ように合わせて、広視野のリアビュー画像をドライバー
に提示する。これにより、ユーザは、車の左右後方の道
路状況を1枚の仮想的な画像情報として得ることがで
き、全体の状況を把握し易くなる。
【0004】また文献2では、8台の車両用映像提供の
ためのカメラを車両の周囲に取り付け、各カメラによっ
て撮影された画像を変形・合成して新たな画像を作成し
モニタに表示する技術が開示されている。特に、複数の
カメラの撮影画像を変形して合成する際に、変形された
画像同士が隣接する境界部分において画像の連続性を保
つことによって、より的確な画像を運転者に提供するこ
とができる。
【0005】
【特許文献1】特開平10−257482号公報
【特許文献2】特開平11−78692号公報
【0006】
【発明が解決しようとする課題】ところで、従来の技術
において、境界部が連続してつながるように画像を変形
・合成する場合は、原理的には、元のカメラ画像に映っ
ている物体の形状や距離を正確にリアルタイムで計算
し、この計算結果を用いて各画像の変形処理を行う必要
がある。しかしながら、この計算に要するコストは非常
に高いため、現実的には実施困難である。したがって通
常は、境界部に映っている全てのものについて連続性を
保つのではなく、画像に映るある部分が連続してつなが
るように画像を変形する、という手法が取られる。例え
ば撮影対象が車両の周囲の場合には、連続性を保つ部分
として路面が用いられる。これが、いわゆる路面投影と
呼ばれる手法である。
【0007】しかしながらこの手法を用いると、境界部
分の連続性を維持するために、やむを得ず元のカメラ画
像の一部を切り捨てる必要があり、このため、カメラに
映っている物体が合成画像上では表示されない、という
重大な問題を引き起こす可能性がある。この問題につい
て、図面を参照して説明する。
【0008】図17は従来のシステムにおける車載カメ
ラの配置の典型例を示す模式図である。図17の例で
は、左右のドアミラー部にそれぞれカメラCZ1,CZ
4が、後端部中央に左右後方に向けてそれぞれカメラC
Z2,CZ3が、車両1の運転席から後方を撮影範囲と
してカバーするように設置されている。Pはポール、W
Lは駐車枠を示す白線である。
【0009】また図18は図17のように配置された各
カメラCZ1〜CZ4の撮影画像の例、図19は図18
のカメラ画像を切り出し・変形して繋ぎ合わせることに
よって、あたかも車両上方から見下ろしたような仮想視
点画像を合成した図である。図19において、PIZ1
〜PIZ4はそれぞれ、カメラCZ1〜CZ4の撮影画
像から切り出された部分画像である。図19の例では、
少なくとも路面上の物(典型的には白線WL)が部分画
像PIZ1〜PIZ4同士の境界部で一致するように、
各カメラ画像の変形・切り出しおよび繋ぎ合わせを行っ
ている。
【0010】このような合成方法において問題となるの
が、元のカメラ画像の一部を切り捨てることによって生
じる、立体物(図18では車両1の右後に立っているポ
ールP)の消滅である。
【0011】すなわち、図19の合成画像では、カメラ
CZ3に係る部分画像PIZ3とカメラCZ4に係る部
分画像PIZ4との境界BLZ34が、車両1の右斜め
後方に延びるように設定されている。そして、境界BL
Z34の両側で路面が一致するようにそれぞれのカメラ
画像を変形する際に、カメラCZ3に映っているポール
Pは右向きに伸びるように歪められ(画像PA)、一
方、カメラCZ4に映っているポールPは下向きに伸び
るように歪められる(画像PB)。ところが、ポールP
の画像PA,PBはともに境界BLZ34を越えてしま
うので、画像合成時には切り取られてしまう。この結
果、合成画像上では、ポールPの根元が辛うじて残る程
度の画像になり、ポールPがあたかも消失したかのよう
に見えてしまう。
【0012】このような物体の消滅を避けるためには、
図20に示すように、カメラCZ3からもカメラCZ4
からも撮影されている領域OLについて、それぞれのカ
メラ画像を変形した画像を混合することが考えられる。
ところがこの場合には、画像PA,PBがともに表示さ
れることにより、合成画像上でポールPが二重像にな
り、見た目に非常に分かりにくい画像になってしまう。
【0013】前記の問題に鑑み、本発明は、複数のカメ
ラの撮影画像を合成して表示する車両周囲監視装置にお
いて、部分画像同士の境界近傍において、従来よりも正
確であり、かつ、ユーザに分かりやすい画像を提供する
ことを課題とする。
【0014】
【課題を解決するための手段】ところで、物体が部分画
像の境界近傍にある場合であっても、上述したような合
成画像上での消失が起こらない場合がある。
【0015】図21は部分画像の境界部にある物体が消
えない例を示す概念図である。図21では、境界BLZ
23近傍では、部分画像PIZ2に係るカメラCZ2も
部分画像PIZ3に係るカメラCZ3も、その撮影方向
が、境界BLZ23の方向とほぼ一致している。なお、
本願明細書でいう「撮影方向」とは、カメラの光軸の向
きのことでなく、カメラから対象物(ここでは境界部
分)を見る方向、すなわち、合成画像においては、カメ
ラの設置位置と境界部分とを結ぶ直線の方向のことを意
味する。このため、ペアカメラCZ2,CZ3の直後に
立っているポールPの画像は、カメラCZ2,CZ3ど
ちらの画像を変形しても境界BLZ23に沿って伸びる
ように歪む。このため、境界BLZ23近傍で、部分画
像PIZ2と部分画像PIZ3とを混ぜ合わせる処理な
どを行うことによって、合成画像からポールPの画像が
消滅することを防ぐことができる。
【0016】すなわち、本願発明者の検討によると、一
般的には、次の条件を満たすとき、合成画像上で物体が
消失する現象は起こらないものと考えられる。条件:隣
り合う2つの部分画像について、その境界の近傍で、当
該部分画像を撮影しているカメラの撮影方向が、その境
界の方向とほぼ一致することなお、隣り合う部分画像
は、オーバーラップしていてもよいし、単に接している
だけでもよい。境界近傍において、部分画像同士が重な
り合っている重複領域がある場合には、ここでいう「境
界の方向」とは、その重複領域の長手方向の中心線の方
向のことを指すものとする。
【0017】この条件が満たされた場合、部分画像同士
の境界近傍にある物体の画像は、視点変換によって、そ
の境界に沿って伸びるので、合成画像上で、境界近傍の
物体が消えることはなくなる。本発明は、このような知
見に基づいて、なされたものである。
【0018】すなわち、前記の課題を解決するために、
請求項1の発明が講じた解決手段は、車両周囲監視装置
として、車両の周囲を撮影する少なくとも第1および第
2のカメラを含む複数のカメラと、前記複数のカメラの
撮影画像を入力とし、これらのカメラ画像を用いて部分
画像を合成し、この合成画像を表示装置に表示させる画
像処理部とを備え、前記合成画像は、前記第1のカメラ
に係る第1の部分画像と前記第2のカメラに係る第2の
部分画像とが隣り合うように配置されたものであり、前
記第1および第2のカメラは、その撮影方向がそれぞ
れ、前記第1の部分画像と前記第2の部分画像との境界
の近傍において前記境界の方向とほぼ一致するように、
設置されているものである。
【0019】請求項1の発明によると、互いに隣り合う
第1および第2の部分画像に係る第1および第2のカメ
ラは、その撮影方向が、部分画像同士の境界の方向とほ
ぼ一致するように、設置されている。このため、画像合
成の際に、境界近傍に存在する物体の画像が、カメラの
撮影方向、すなわち境界の方向とほぼ一致する方向に沿
って伸びるように変形される。このため、その物体の画
像は切り取られることがなく、したがって合成画像上で
消失することはない。これにより、車の周囲の情報をよ
り正確にユーザに伝えることができ、より安全な運転を
支援することが可能となる。
【0020】そして、請求項2の発明では、前記請求項
1記載の車両周囲監視装置において、前記第1および第
2のカメラの撮影方向と前記境界の方向とがなす角度
は、それぞれ、10度以下であるものとする。
【0021】そして、請求項3の発明では、前記請求項
1記載の車両周囲監視装置における合成画像は、前記第
1の部分画像と前記第2の部分画像との境界において、
前記第1および第2の部分画像を混合したブレンド画像
が配置されたものとする。
【0022】また、請求項4の発明では、前記請求項1
の車両周囲監視装置において、前記第1のカメラは、当
該車両の前の左または右端部に右または左斜め前方に向
けて配置されており、前記第2のカメラは、当該車両の
左または右側部に左または右斜め前方に向けて配置され
ているものとする。
【0023】そして、請求項5の発明では、前記請求項
4の車両周囲監視装置における複数のカメラは、当該車
両の左または右側部に左または右斜め後方に向けて配置
されている第3のカメラと、当該車両の後ろの左または
右端部に右または左斜め後方に向けて配置されている第
4のカメラとを含むものとする。
【0024】そして、請求項6の発明では、前記請求項
1の車両周囲監視装置において、前記第1のカメラは、
当該車両の前の右または左端部に左または右斜め前方に
向けて配置されており、前記第2のカメラは、当該車両
の前の左または右端部に左または右斜め後方に向けて配
置されているものとする。
【0025】そして、請求項7の発明では、前記請求項
6の車両周囲監視装置における複数のカメラは、当該車
両の後ろの左または右端部に右または左斜め後方に向け
て配置されている第3のカメラと、当該車両の後ろの右
または左端部に右または左斜め前方に向けて配置されて
いる第4のカメラとを含むものである。
【0026】また、請求項8の発明が講じた解決手段
は、車両の周囲を撮影する複数のカメラと、前記複数の
カメラの撮影画像から得た部分画像を合成し、この合成
画像を表示装置に表示させる画像処理部とを備えた車両
周囲監視装置を調整する方法として、前記複数のカメラ
のうち、前記合成画像において隣り合って配置される部
分画像をそれぞれ撮影する第1および第2のカメラを、
その撮影領域がオーバーラップするように配置し、前記
第1のカメラに係る部分画像と前記第2のカメラに係る
部分画像との境界の近傍において、前記第1および第2
のカメラの撮影方向が、それぞれ、前記境界の方向とほ
ぼ一致するように、前記第1および第2のカメラ並びに
前記画像処理部の少なくともいずれか1つを調整するも
のである。
【0027】上の各請求項に係る発明において、カメラ
配置における「または」とは、監視する範囲を、車両の
右側を中心にする場合と、左側を中心にする場合とを含
めるための記載である。あるいは、車両の周囲全体を監
視する場合に、カメラを右回りに配置する場合と、左周
りに配置する場合とを含めるための記載である。このよ
うな配置の選択は、例えば車両が右ハンドルか左ハンド
ルかによって、行えばよいし、それ以外の要因に従って
選択してもかまわない。または、任意に選択してもよ
い。
【0028】また、カメラを「斜め」に設置する場合、
カメラの上下方向の画角が大きく、カメラ直下も視野に
含まれる場合は、カメラの光軸の向きは水平でもよい。
ただし、画角が十分に大きくない場合は、カメラ直下の
死角を減らすために、カメラを下向きにすることが望ま
しい。この場合、例えば「右斜め前方」とは、カメラを
右斜め前方に向け、さらに仰角を下向きに変えることに
相当する。
【0029】
【発明の実施の形態】以下、本発明の実施の形態につい
て、図面を参照して説明する。
【0030】図1は本発明の一実施形態に係る車両周囲
監視装置の構成を示すブロック図である。図1に示す装
置において、画像処理部20は、複数のカメラ11を有
する撮像手段10から出力された複数のカメラ画像を入
力とし、これらを変形・合成して新たな合成画像を生成
する。この合成画像は、表示装置30によって表示され
る。
【0031】合成画像とは、典型的には仮想視点画像で
ある。仮想視点画像とは、実カメラの画像に加工処理を
施し、これらをつなぎ合わせるなどして合成して得た、
あたかも仮想のカメラから見たような画像のことであ
る。より具体的な例としては、あたかも車両の上方から
真下に見下ろしたような画像(例えば図4)であり、こ
の仮想視点画像は、車両に直に設置された1個または複
数個のカメラ(例えば図2におけるCA1〜CA4)を
用い、これらのカメラの撮影画像(例えば図3)にそれ
ぞれ個別の加工処理を施して合成することによって、生
成される。
【0032】本発明に係る表示装置30は、典型的には
液晶ディスプレイであるが、プラズマディスプレイ等の
他の表示デバイスを用いることもできる。また、ここで
いうディスプレイは、車両搭載型のGPS端末ディスプ
レイ(いわゆるカーナビゲーションシステムのディスプ
レイ)と共用したものであってもよいし、これとは別に
設けられたものであってもよい。
【0033】撮影手段10は、典型的にはCCD,CM
OSデバイス等の固体撮像素子を有するカラーまたはモ
ノクロのデジタルカメラ11を有する。また、撮影手段
10は、たとえばレンズと、プリズムまたはミラーとの
組み合わせにより構成され、レンズ、プリズムまたはミ
ラーへの入射光が、所定光路を通って撮影手段から離れ
た位置にある撮像素子に伝達されるように構成されてい
てもよい。
【0034】画像処理部20は、複数のカメラ11から
の撮影画像を入力し、これら撮影画像を加工する。ここ
での加工は、画像切り出し変形処理、変形された部
分画像の合成処理(境界処理を含む)である。これらの
との処理は、それぞれ別々になされてもよいし、全
部または一部が1つの工程によりなされてもよい。図1
では、撮影画像の加工を一つの工程で行うために、マッ
ピングテーブルMPTを備えた構成としている。
【0035】マッピングテーブルMPTとは、合成画像
の画素と、各カメラ画像の画素データとの対応関係が記
述されたテーブルのことをいい、合成画像の生成処理を
高速に行うために用いられる。このようなマッピングテ
ーブルを、後述する幾何変換などを用いた計算や手作業
などによって予め作成しておくことによって、所望の合
成画像を高速に生成することができる。
【0036】マッピングテーブルMPTは具体的には、
例えばROM(EEPROMなどの書きこみ・消去可能
なROMを含む)、またはRAMに格納されている。マ
ッピングテーブルMPTの格納は、例えば、画像処理部
20内のプロセッサが計算で求めたマッピングデータを
ROMまたはRAMに書きこむことによって実現しても
よいし、ファームウェアとして提供されるマッピングテ
ーブルデータを、通信回線やディスクドライブなどのデ
ータ転送手段を用いて、RAMまたはROMに書きこむ
ようにしてもよい。
【0037】<カメラの設置>本発明に係るカメラ設置
について、注意すべきポイントを2つ挙げておく。 1.境界を構成する2つの部分画像の基になるカメラに
ついて、境界近傍を撮影する方向を、境界の方向にほぼ
一致させる。これは、課題の項で述べた条件と同一であ
る。 2.隣り合うカメラ画像を、その境界部分で互いにオー
バーラップさせる。これは、仮想視点画像において、隣
り合うカメラ画像の境界部分で死角となる部分が生じな
いようにするためである。
【0038】以下、本実施形態に係るカメラ設置の具体
例を、図面を用いて説明する。なお、以降の説明では、
「右」および「左」は、車両の前進方向に対して表すも
のとする。また、車両は右ハンドルのもの、すなわち、
運転席が右側にあり助手席が左側にある車両を対象にす
る。よって、もし本発明を左ハンドルの車両に適用する
場合は、カメラの設置を左右対称にすればよく、以下の
カメラの設置態様の説明において「左」と「右」とを逆
に解釈すればよい。
【0039】(第1の例)図2は本発明に係るカメラ配
置の第1の例、図3は図2のように配置された各カメラ
CA1〜CA4の撮影画像の例である。図2の配置例で
は、4台のカメラCA1〜CA4が次のように配置され
ている。 すなわち図2では、車両1の4辺のうち、運転席側の1
辺を除く全周囲を見渡す仮想視点画像を合成するため
に、上記のように4台のカメラCA1〜CA4を設置し
ている。またP1〜P4はポール、WLは白線である。
【0040】なお、カメラCA2,CA3は、車両1の
左側について実質的に180度の視野が得られるよう
に、ペアにして配置されている。すなわち、現状のカメ
ラでは、単体で解像度を保ちつつ180度の視野を確保
することが難しいため、便宜的に、画角が100度程度
のカメラを2台ペアにして配置している。したがって、
十分な解像度が得られ、かつ180度の視野を得られる
単一の撮像手段があれば、それをカメラCA2,CA3
に代えて利用してもかまわない。
【0041】図4は図3に示すようなカメラ画像を用い
て、車両1の周囲を上から見下ろしたような仮想視点画
像を合成した結果を示す模式図である。図4において、
PIA1〜PIA4はそれぞれカメラCA1〜CA4の
撮影画像から切り出した部分画像、BLA12は部分画
像PIA1,PIA2の境界、BLA23は部分画像P
IA2,PIA3の境界、BLA34は部分画像PIA
3,PIA4の境界である。またDAはいずれのカメラ
CA1〜CA4からも撮影されない死角領域である。
【0042】本例のように各カメラCA1〜CA4を設
置することによって、上述の2つのポイントはともに満
たされている。すなわち、図4の合成画像において、部
分画像同士の境界の近傍では、その部分画像を撮影した
カメラの撮影方向と境界の方向とが、ほぼ一致してい
る。例えば図2および図4から分かるように、第1の部
分画像としての部分画像PIA1と第2の部分画像とし
ての部分画像PIA2との境界BLA12の近傍におい
て、部分画像PIA1を撮影した第1のカメラとしての
カメラCA1と、部分画像PIA2を撮影した第2のカ
メラとしてのカメラCA2の撮影方向が、境界BLA1
2の方向にほぼ一致している。境界BLA23,BLA
34に関しても同様のことがいえる。
【0043】また、カメラCA1の撮影領域AA1とカ
メラCA2の撮影領域AA2とは互いにオーバーラップ
しており、同様に、カメラCA2とカメラCA3、カメ
ラCA3とカメラCA4とは、撮影領域が互いにオーバ
ーラップしている。
【0044】このため、図4の合成画像では、各カメラ
CA1〜CA4に映る物体の位置関係を保ちながら、ユ
ーザに分かりやすく見せるという仮想視点画像のメリッ
トをそのまま残しつつ、本発明のカメラ設置のポイント
を満たすことによって、物体が消失するという現象が回
避されている。これは例えば、車両1の左前角部や左後
角部にあるポールP3,P4が、境界BLA12,BL
A34の近傍に存在するにもかかわらず、画像合成によ
って境界に沿って伸びており、合成画像上で消失せずに
残っていることから明らかである。
【0045】このように本例によると、4台のカメラC
A1〜CA4を用いることによって、運転者が窓越しに
目視で確認可能な運転席側のエリアを除く車の周囲を、
位置関係を保ちつつ、かつ、死角がないように、画像と
して表示することが可能となる。
【0046】(第2の例)・車両の前方および左側前側
方の安全確認 本発明に係るカメラ配置は、車両周囲のどの領域の安全
確認を行うかによって、第1の例以外にも様々な形態が
考えられる。近年、乗用車の大型化に伴い、車両の前方
および左側前側方の死角に対する安全確認を行うための
技術に対し、ニーズが高まっている。第2の例は、車両
の前方および左側前側方の安全確認を行うためのもので
ある。
【0047】図5は本発明に係るカメラ配置の第2の
例、図6は図5のように配置された各カメラCB1,C
B2の撮影画像の例である。図5の配置例では、2台の
カメラCB1,CB2が次のように設置されている。
【0048】図7は図6のカメラ画像を用いて合成した
仮想視点画像の例を示した図である。図7において、P
IB1,PIB2はそれぞれカメラCB1,CB2の撮
影画像から切り出した部分画像、BLB12は部分画像
PIB1,PIB2の境界、DBはいずれのカメラCB
1,CB2からも撮影されない死角領域である。
【0049】図5および図7から分かるように、第1の
部分画像としての部分画像PIB1と第2の部分画像と
しての部分画像PIB2との境界BLB12の近傍にお
いて、部分画像PIB1を撮影した第1のカメラとして
のカメラCB1と、部分画像PIB2を撮影した第2の
カメラとしてのカメラCB2の撮影方向が、境界BLB
12の方向にほぼ一致している。
【0050】図7の合成画像では、図4と比べると、死
角領域DBが拡がっており、監視可能な範囲は小さくな
っているが、目的とする車両の前方および左側前側方の
視野は十分確保されている。しかも、本発明のカメラ設
置のポイントを満たすことによって、例えば車両1の左
前角部にあるポールP3が、境界BLB12の近傍に存
在するにもかかわらず、画像合成によって境界に沿って
伸びており、消失せずに残っている。
【0051】図8は本例の他のカメラ設置態様である。
図8の配置例では、2台のカメラCC1,CC2が次の
ように設置されている。
【0052】図9は図8のように設置されたカメラの画
像を用いて合成した仮想視点画像の例であり、仮想視点
の位置および向きは図7と共通である。図9において、
PIC1,PIC2はそれぞれカメラCC1,CC2の
撮影画像から切り出した部分画像、BLC12は部分画
像PIC1,PIC2の境界、DCはいずれのカメラC
C1,CC2からも撮影されない死角領域である。
【0053】図8および図9から分かるように、第1の
部分画像としての部分画像PIC1と第2の部分画像と
しての部分画像PIC2との境界BLC12の近傍にお
いて、部分画像PIC1を撮影した第1のカメラとして
のカメラCC1と、部分画像PIC2を撮影した第2の
カメラとしてのカメラCC2の撮影方向が、境界BLC
12の方向にほぼ一致している。
【0054】ここで、図7と比較して注目すべき点は、
合成画像における部分画像同士の境界線の位置が、カメ
ラの設置形態によって変わっていることである。もし図
8のカメラ配置で、カメラCC1に係る部分画像PIC
1とカメラCC2に係る部分画像PIC2との境界BL
C12を、図7の境界BLB12と同一の位置に設定し
たとすると、ポールP3の画像が、足元のほんの少しの
部分を残して、他の部分が切り取られてしまうことにな
る(図示しない)。
【0055】このように、合成画像における部分画像同
士の境界は、カメラの設置態様を考慮して設定する必要
がある。あるいは、それぞれのカメラの設置場所や向き
は、合成画像における部分画像同士の境界の設定位置を
考慮して決めなければならない。したがって、本発明で
は、合成画像において隣り合って配置される部分画像を
それぞれ撮影する各カメラ、および画像処理部のうち、
少なくともいずれか1つを調整する必要がある。
【0056】すなわち、本発明は、合成画像において隣
り合って配置される部分画像をそれぞれ撮影する2台の
カメラを、その撮影領域がオーバーラップするように配
置し、その部分画像同士の境界の近傍において、各カメ
ラの撮影方向がそれぞれ境界の方向とほぼ一致するよう
に、カメラおよび画像処理部の少なくともいずれか1つ
を、調整する、ものといえる。
【0057】ここで、撮影方向と境界の方向とが「ほ
ぼ」一致するとは、例えば次のような条件を満たす程度
であればよい。すなわち、その境界を人が通ったときほ
ぼ全身が映ること、または、その境界近傍を物体が移動
したとき、その一部が消失したとしても消失度合がその
物体を特定可能な範囲であること、を満たせばよい。具
体的には、各カメラの撮影方向と境界の方向とがなす角
度が、それぞれ、10度以下であることが好ましい。
【0058】(第3の例)・車両の前方を除く全周囲、
特に後方の安全確認 第2の例で述べたように、車両前側方の安全確認は、近
年の車両の大型化に伴って必要性が高まったものであ
る。これとは対称的に、車両の後側方の安全確認につい
て古くから検討されており、近年では、1台のカメラを
用いて後方の死角部分をモニターする安全確認システム
が実用化され始めている。ところがこのシステムでは、
車両後側方の広範囲をくまなくモニターするのにはやは
り不十分であるため、図17のように複数のカメラを用
いたシステムも検討されてはいるが、課題の項で述べた
ように、カメラ画像同士の境界近傍において物体が一部
消滅するという問題が残っている。
【0059】上述の第1の例は、運転席側を除く車両全
周囲を死角なく見せるものであったが、この第3の例で
は、第1の例に係るカメラ配置を反時計回りに90度ず
らすことによって、従来技術の問題を解決し、車両の前
方を除く全周囲、特に後方の安全確認を行うことができ
る。
【0060】図10は本発明に係るカメラ配置の第3の
例、図11は図10のように配置された各カメラCD1
〜CD4の撮影画像の例である。図10の配置例では、
4台のカメラCD1〜CD4が次のように配置されてい
る。 すなわち図10では、車両1の前方を除く全周囲を見渡
す仮想視点画像を合成するために、上記のように4台の
カメラCD1〜CD4を設置している。
【0061】図12は図11に示すようなカメラ画像を
用いて、車両1の周囲を上から見下ろしたような仮想視
点画像を合成した結果を示す模式図である。図12にお
いて、PID1〜PID4はそれぞれカメラCD1〜C
D4の撮影画像から切り出した部分画像、BLD12は
部分画像PID1,PID2の境界、BLD23は部分
画像PID2,PID3の境界、BLD34は部分画像
PID3,PID4の境界である。またDDはいずれの
カメラCD1〜CD4からも撮影されない死角領域であ
る。
【0062】本例のように各カメラCD1〜CD4を設
置することによって、上述の2つのポイントはともに満
たされている。すなわち、図12の合成画像において、
部分画像同士の境界の近傍では、その部分画像を撮影し
たカメラの撮影方向と境界の方向とが、ほぼ一致してい
る。例えば図10および図12から分かるように、第1
の部分画像としての部分画像PID1と第2の部分画像
としての部分画像PID2との境界BLD12の近傍に
おいて、部分画像PID1を撮影した第1のカメラとし
てのカメラCD1と、部分画像PID2を撮影した第2
のカメラとしてのカメラCD2の撮影方向が、境界BL
D12の方向にほぼ一致している。境界BLD23,B
LD34に関しても同様のことがいえる。
【0063】また、カメラCD1の撮影領域AD1とカ
メラCD2の撮影領域AD2とは互いにオーバーラップ
しており、同様に、カメラCD2とカメラCD3、カメ
ラCD3とカメラCD4とは、撮影領域が互いにオーバ
ーラップしている。
【0064】このため、図12の合成画像では、各カメ
ラCD1〜CD4に映る物体の位置関係を保ちながら、
見やすく見せるという仮想視点画像のメリットをそのま
ま残しつつ、本発明のカメラ設置のポイントを満たすこ
とによって、物体が消失するという現象を回避できてい
ることが分かる。これは例えば、車両1の左後角部や右
後角部にあるポールP3,P4が、境界BLD12,B
LD34の近傍に存在するにもかかわらず、画像合成に
よって境界に沿って伸びており、合成画像上で消失せず
に残っていることから明らかである。
【0065】このように本例によると、4台のカメラC
D1〜CD4を用いることによって、車両の前方を除く
全周囲を、位置関係を保ちつつ、かつ、死角がないよう
に、画像として表示することが可能となる。
【0066】なお、図12の合成画像において、部分画
像PID1,PID2の境界BLD12、および部分画
像PID3,PID4の境界BLD34は、車両1の後
端の延長線上にほぼ位置している。仮想視点画像では、
境界の両側では元のカメラ画像の変形のされ方が異なる
ため、境界をまたがる物体は不連続な画像になる。この
不連続性は、通常は、合成画像の品質を下げると考えら
れる。しかしながら見方を変えれば、例えば、後方から
接近する物体が部分画像PID3の領域から部分画像P
ID4の領域にさしかかると、画像上不連続に見えるの
で、この時点で物体は車両1の後端よりも前に来ている
と判断することも可能である。このため、図12のよう
に境界BLD12,BLD34を設定することは非常に
意味のあることである。
【0067】(第4の例)・車両全周囲 さて、これまでの例では、結果的に、カメラが一直線上
に並べて配置されていた。本例では、一直線上にカメラ
を並べて配置することなく、上述した本発明に係るカメ
ラ設置のポイントを満たす例を示す。具体的には、カメ
ラ4台を用いて、車の全周囲を死角無く見せることがで
きるカメラ設置の態様を示す。
【0068】図13は本発明に係るカメラ配置の第4の
例を示す図である。図13の配置例では、4台のカメラ
CE1〜CE4が次のように配置されている。 すなわち図13では、車両1の全周囲を見渡す仮想視点
画像を合成するために、上記のように4台のカメラCE
1〜CE4を設置している。
【0069】図14は図13に示すようなカメラ画像を
用いて、車両1の周囲を上から見下ろしたような仮想視
点画像を合成した結果を示す模式図である。図14にお
いて、PIE1〜PIE4はそれぞれカメラCE1〜C
E4の撮影画像から切り出した部分画像、BLE12は
部分画像PIE1,PIE2の境界、BLE23は部分
画像PIE2,PIE3の境界、BLE34は部分画像
PIE3,PIE4の境界、BLE14は部分画像PI
E4,PIE1の境界である。
【0070】本例のように各カメラCE1〜CE4を設
置することによって、上述の2つのポイントはともに満
たされている。例えば図13および図14から分かるよ
うに、第1の部分画像としての部分画像PIE1と第2
の部分画像としての部分画像PIE2との境界BLE1
2の近傍において、部分画像PIE1を撮影した第1の
カメラとしてのカメラCE1と、部分画像PIE2を撮
影した第2のカメラとしてのカメラCE2の撮影方向
が、境界BLE12の方向にほぼ一致している。境界B
LE23,BLE34,BLE14に関しても同様のこ
とがいえる。
【0071】また、カメラCE1の撮影領域AE1とカ
メラCE2の撮影領域AE2とは互いにオーバーラップ
しており、同様に、カメラCE2とカメラCE3、カメ
ラCE3とカメラCE4、カメラCE4とカメラCE1
とは、撮影領域が互いにオーバーラップしている。
【0072】このため、図14の合成画像では、各カメ
ラCE1〜CE4に映る物体の位置関係を保ちながら、
ユーザに分かりやすく見せるという仮想視点画像のメリ
ットをそのまま残しつつ、本発明のカメラ設置のポイン
トを満たすことによって、物体が消失するという現象が
回避されている。これは例えば、車両1の四隅にあるポ
ールP1〜P4が、境界BLE12,BLE23,BL
E34,BLE14の近傍に存在するにもかかわらず、
画像合成によって境界に沿って伸びており、合成画像上
で消失せずに残っていることから明らかである。
【0073】図15は本例の他のカメラ設置態様であ
る。図15の設置態様は、図13の設置態様において各
カメラの向きを180度変えたものに相当する。図15
の配置例では、4台のカメラCF1〜CF4が次のよう
に配置されている。
【0074】図16は図15に示すようなカメラ画像を
用いて、車両1の周囲を上から見下ろしたような仮想視
点画像を合成した結果を示す模式図である。図16にお
いて、PIF1〜PIF4はそれぞれカメラCF1〜C
F4の撮影画像から切り出した部分画像、BLF12は
部分画像PIF1,PIF2の境界、BLF23は部分
画像PIF2,PIF3の境界、BLF34は部分画像
PIF3,PIF4の境界、BLF14は部分画像PI
F4,PIF1の境界である。
【0075】この例でも、上述の2つのポイントはとも
に満たされている。ただし、図14と比べると、各カメ
ラの向きが180度異なっているので、部分画像同士の
境界の位置が異なって設定されている。ただし、図14
と同様に、車両1の四隅にあるポールP1〜P4が、境
界BLF14,BLF12,BLF23,BLF34の
近傍に存在するにもかかわらず、画像合成によって境界
に沿って伸びており、合成画像上で消失せずに残ってい
る。
【0076】以上、本発明の主眼となるカメラの設置態
様について、いくつかの例を用いて説明した。これらの
説明では、いずれも仮想視点画像の例として車周囲の状
況を上から見下ろしたような画像を用いたが、もちろん
それに限らず、例えば後方確認のために、車の少し前方
の上方から斜め後方を見下ろすような仮想視点を設定し
ても良い。
【0077】また、合成画像の部分画像同士の境界にお
いて、その部分画像を混合して得たブレンド画像を配置
してもかまわない。合成画像において、隣り合う部分画
像がその境界部分で重なり合った領域のことを、本願明
細書では「重複領域」と呼ぶ。
【0078】図22は図17に示す車両1の後ろ部分を
抜き出したものであり、重複領域の例を概念的に示して
いる。図22では、ペアカメラCZ2,CZ3が車両1
後端のトランクの上部中央に設置されており、カメラC
Z2は車両1の左後方を撮影しており(撮影領域AR
2)、カメラCZ3は車両1の右後方を撮影している
(撮影領域AR3)。また車両1後方中央の領域は、カ
メラCZ2,CZ3からも撮されている。
【0079】そして、図22(a)〜図22(c)は、
共通のカメラ設置条件での重複領域の設定の例を、それ
ぞれ示している。OLが重複領域で、CLが重複領域O
Lの長手方向の中心線であり、本願明細書における「境
界の方向」に相当する。図22(a)は重複領域OLを
最大限に拡げて設定した例である。図22(b)は重複
領域OLの幅が、車両1に近いほど狭く、離れるにつれ
て広くなるように設定した例である。図22(c)は重
複領域OLの幅を、車両1に近い部分はなるべく広くと
り、ある程度離れた遠方部分についてはほぼ一定になる
ように設定した例である。
【0080】図22(a)〜図22(c)のいずれの設
定例を用いてもよいし、また、ここで示した以外の方法
によって、重複領域OLを設定してもよい。ただし、重
複領域OLの設定の目安は、次の通りである。
【0081】・それぞれのカメラに映っている物体が二
重像になって見づらくならないように、あまり広くしす
ぎないこと。
【0082】・重複領域OLに存在する物体が不連続に
見えることのないように、狭くしすぎないことこの2点
を考慮した場合には、図22(c)の例が好ましいとい
える。なお、図22では、重複領域OLは、撮影領域A
R2,AR3が重なり合った部分の中心に合わせて設定
しているが、必ずしも中心に合わせなくてもよい。
【0083】なお、本発明は例示の実施形態のみに限定
されるものではなく、特許請求の範囲の個々の請求項に
記載の事項の範囲内で、具体的な構成を変更して実施可
能である。
【0084】また、本発明において車両とは、普通自動
車、軽自動車、貨物自動車、バス等を含む。また、本発
明の技術思想が適用されうるものであれば、クレーン
車、シャベルカー等の特殊車両も本発明の車両とするこ
とができる。
【0085】なお、上述の例では、合成画像を得るため
に必要なカメラは一時に設置されることを前提として、
説明を行った。これに加えて、例えば、すでに設置され
ているカメラでは監視範囲が不十分であるため、さらに
カメラを増やすような場合でも、本発明は有効である。
すなわち、・追加するカメラを、どの位置でどの向きに
設置するか・追加したカメラの撮影画像を用いて新たな
合成画像を作る際に、元々設置されていたカメラに係る
部分画像と追加したカメラに係る部分画像との境界を、
どこに設定するかという問題に対しても、すでに説明し
たような方法が適用可能である。
【0086】例えば、車の購入時には、車両の後端部中
央に後ろ向きに視野180度を見渡すカメラのみが設置
されており、その後、後方領域と助手席側領域とを併せ
て示すような合成画像を表示できるように、助手席側領
域を撮影するカメラを新たに追加するような場合が考え
られる。このような場合にも、本発明に係る車両周囲監
視装置の調整方法は適用可能である。
【0087】<幾何変換>合成画像のためのマッピング
テーブルを作成するためには、仮想視点から見た合成画
像の各画素に対応する各カメラ画像の画素の座標を決め
る必要がある。
【0088】このために、まず、仮想視点からの合成画
像の各画素に対応するワールド座標系(Xw、Yw、Z
w)を求め、そのワールド座標系の3次元座標に対応す
るカメラ画像の画素の座標を求める2段階を考えると判
りやすい。
【0089】最終的に必要な関係は、仮想視点の合成画
像の各画素と各カメラ画像の画素との関係だけであり、
このワールド座標系を経由するマッピングテーブルに限
定されるものではない。ただし、このワールド座標系を
経由するマッピングテーブルは、合成画像の実際の世界
での座標系であるワールド座標系での意味付けが明確に
なるため、周囲の状況を実際の距離、位置関係と対応付
けやすい合成画像を生成する点で重要である。
【0090】仮想視点の位置と向きを表すパラメータと
して、視点のワールド座標系での座標を位置ベクトルTv
=(Txv、Tyv、Tzv)、視線の向きを、視平面座標系を
ワールド座標系の向きへ一致させる回転を表す3行3列
の回転行列Rvで表すとすると、合成画像の視点座標(Vx
e, Vye, Vze)の対応するワールド座標(Xw, Yw, Zw)
は、式(1)で求められる。
【数1】
【0091】図23は、視点座標系とワールド座標系の
関係を説明する模式図である。
【0092】図24に示すように、仮想視点の向きを、
視線がワールド座標系Y-Z平面に対して水平回転の角度
(方位角)をαv、X-Z平面に対してなす傾きの角度(仰
角)をβvとし、カメラの光軸周りの回転(Twist)をγ
vとすると、回転行列Rvは、
【数2】 となる。
【0093】一方、仮想視点の視点座標系(Vxe, Vye,
Vze)のVxe、Vyeと、投影面上の2次元座標Uv、Vvの関係
は、透視投影変換より焦点距離fvを用いて以下の式
(3)で表される。
【数3】
【0094】焦点距離の単位としては、投影面をフィル
ムやCCDとして、その大きさに対応するmmやインチであ
らわす場合や、合成画像のサイズに対応して画素であら
わす場合などがあるが、今回は投影面を投影中心を中心
として幅2、高さ2の正規化したものとし、それに対す
る焦点距離を考える。
【0095】よって、投影面上の座標と合成画像の画素
の関係は、画像の右上から(Sv、Tv)の位置にある画素
に対応する投影面上の座標(Uv, Vv)は、画像の横幅を
Wv画素、縦幅をHv画素とすれば、 Uv = 2×Sv/Wv −1 Vv = 2×Tv/Hv −1 …(4) として求まる。
【0096】以上より、合成画像の任意の画素(Sv, T
v)に対応するワールド座標系の3次元座標(Xw、Yw、Z
w)は、式(1)〜(4)より、カメラの位置Txv, Tyv,
Tzv,カメラの向きαv、βv、γv, 焦点距離fvより次の
式(5)で求めることができる。
【数4】
【0097】ただし、式(5)では、合成画像の座標
(Sv、Tv)に対応する奥行きVzeが未定である。言い換
えると、合成画像に写る対象物までの各画素からの奥行
き値を定める必要がある。
【0098】仮想視点から見える対象物の3次元形状を
知ることができれば、各画素の奥行きを得ることができ
るが、一般には困難である。そこで、仮想視点から見え
る対象物の形状に何らかのモデルを仮定することによ
り、上記Vzeを求め、合成画像の座標とワールド座標系
の3次元座標との関係を求めることを行う。
【0099】―路面平面モデル― その一例として、対象物を車が接している路面平面に限
定した場合について説明する。
【0100】すべての対象物がワールド座標系の平面
(路面)に存在すると仮定すると、ワールド座標系の3
次元座標(Xw,Yw,Zw)は、以下の平面の方程式を満
たす。
【数5】 よって、式(6)を式(5)に代入して、Vzeを求める
と、
【数6】 となる。
【0101】よって、式(7)を式(5)に代入するこ
とにより、仮想視点の合成画像の画素の座標(Sv, Tv)
から、対応するワールド座標系の平面の3次元座標(Xw,
Yw,Zw)を求めることができる。
【0102】このワールド座標系での3次元座標(Xw,
Yw, Zw)に対応する、各カメラ画像の各画像の座標は式
(1)と同様な関係式に、各カメラの位置、向きに対応
するTx、Ty、Tz、α、β、γのパラメータを代入して計
算することにより求めることができる。
【0103】例えば、カメラ1の位置をTx1, Ty1, Tz1,
向きをα1, β1, γ1とすれば、合成画像の画素(Sv,T
v)に対応するカメラ1のカメラ座標系Xe1, Ye1, Ze1
が,以下の式(8)より計算できる。
【数7】 このカメラ座標系とカメラ画像の座標系(U1、V1)との
関係は、カメラ1の焦点距離をf1として、式(3)より U1 = f1/Ze1×Xe1 V1 = f1/Ze1×Ye1 …(9) として計算できる。対応するカメラ画像の画素は、カメ
ラ画像のサイズを縦H1画素、横W1画素として、アスペク
ト比1:1、カメラ中心が画像の中心と考えると、次の
式(10)で計算できる。 S1 = W1/2×(Uv +1) T1 = H1/2×(Vv +1) …(10)
【0104】以上の手続きにより、仮想視点画像の画素
(Sv, Tv)に対応するカメラ1の画像の画素(S1, T1)
を求めることができた。同様にカメラ1以外の一般のカ
メラnに対しても(Sv, Tv)に対応する画素座標(Sn,
Tn)が計算できる。実際にパラメータテーブルには、そ
の中から、(Sn, Tn)が実際のカメラ画像の範囲内に写
っているか、画素の拡大、縮小率が大きくないかなどの
種々の条件により、その最適なものを1つまたは複数選
び、カメラ番号nとその座標(Sn, Tn)を書きこむ。
【0105】―円筒モデル― 前記の路面平面モデルでは、カメラ画像で水平線から上
に写っている物体は路面平面を無限遠に延ばしても路面
平面上には載らないので、仮想視点から見ることことは
できない。
【0106】これらの物体を仮想視点からの合成画像に
反映するために、対象の3次元形状として図25に示す
ような円筒モデルを考える。このモデルは、仮想視点の
向きが路面に対して平行に近くなった場合などに有効で
ある。
【0107】いま簡単のために、X軸、Z軸に軸を持つ
円筒モデルを考えると、楕円円筒の中心を(Xc,Zc)と
し、楕円のパラメータ(a, c)を用いて、そのモデルを次
の式(11)としてあらわす。なお、X軸、Z軸以外に
軸を持つモデルへも、XZ平面上での回転を考えること
により、容易に拡張できる。
【数8】
【0108】式(11)を用いて式(5)からVzeを消
去することによって、仮想視点の合成画像の座標(Sv, T
v)に対応するワールド座標系の3次元座標(Xw, Yw, Z
w)を求めることができる。この座標から、前記路面平
面モデルと同様に、各カメラ画像の対応する画素を計算
することにより、仮想視点画像の画素(Sv, Tv)と、カメ
ラ画像の画素(Sn, Tn)の関係を求め、マッピングテーブ
ルを作成する。
【0109】また、路面平面モデルと円筒モデルの組合
せも可能である。先に路面平面モデルによるワールド座
標系の3次元座標を求めて、その3次元座標が、円筒モ
デルの外側、もしくは平面との交点を持たずに解を生じ
ない場合は、次に円筒モデルによる3次元座標を求め
る。これにより路面平面モデルと円筒モデルの複合によ
る合成が可能となる。
【0110】―疑似円筒モデル― 路面平面モデルの周辺の遠方の状況を把握しやすくする
ため、周囲をお椀状の疑似円筒モデルを導入する。モデ
ルの形状を図26に示す。仮想視点画像の周辺になる
程、遠方の部分が圧縮されて合成され、より広い範囲が
表示可能となる。この疑似円筒の形状を式(12)で表
す。
【数9】
【0111】お椀の中心が(Xc, Yc, Zc)、X軸、Y軸、
Z軸方向の(a, b, c)の長さを持つ。前記円筒モデル
と同様に、式(12)および式(5)から、仮想視点か
らの合成画像の座標に対応するワールド座標系の3次元
座標(Xw, Yw, Zw)を計算し、合成画像の各画素と、各
カメラ画像の画素の対応関係を求めることが可能とな
る。
【0112】なお、円筒モデルと同様に、路面平面モデ
ルとの組合せによる複合モデルによる合成も可能であ
る。
【0113】
【発明の効果】以上のように本発明によると、部分画像
同士の境界近傍に存在する物体の画像がその境界に沿っ
て変形されるので、合成画像上で消失することがない。
したがって、車の周囲の情報をより正確に運転者に伝
え、より安全な運転を支援することが可能となる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係る運転支援装置の
構成を示すブロック図である。
【図2】本発明に係る車両におけるカメラの設置の一例
を示す図である。
【図3】図2のように配置された各カメラの画像の例を
示す図である。
【図4】図3のカメラ画像を用いて生成した合成画像の
例を示す図である。
【図5】本発明に係る車両におけるカメラの設置の一例
を示す図である。
【図6】図5のように配置された各カメラの画像の例を
示す図である。
【図7】図6のカメラ画像を用いて生成した合成画像の
例を示す図である。
【図8】本発明に係る車両におけるカメラの設置の一例
を示す図である。
【図9】図8のように配置されたカメラの画像から生成
した合成画像の例を示す図である。
【図10】本発明に係る車両におけるカメラの設置の一
例を示す図である。
【図11】図10のように配置された各カメラの画像の
例を示す図である。
【図12】図11のカメラ画像を用いて生成した合成画
像の例を示す図である。
【図13】本発明に係るカメラの配置の一例を示す図で
ある。
【図14】図13のように配置されたカメラの画像から
生成した合成画像の例を示す図である。
【図15】本発明に係るカメラの配置の一例を示す図で
ある。
【図16】図15のように配置されたカメラの画像から
生成した合成画像の例を示す図である。
【図17】従来の運転支援装置におけるカメラの設置の
一例を示す図である。
【図18】図17のように配置された各カメラの画像の
例を示す図である。
【図19】従来の合成画像の例であり、部分画像の境界
部にある物体が消失する場合を示す図である。
【図20】従来の合成画像の例であり、部分画像の境界
部にある物体が二重像になる場合を示す図である。
【図21】部分画像の境界部にある物体が、消失せず、
二重像にもならない場合を示す図である。
【図22】重複領域の例を示す図である。
【図23】幾何変換を説明するための図である。
【図24】幾何変換を説明するための図である。
【図25】幾何変換を説明するための図である。
【図26】幾何変換を説明するための図である。
【符号の説明】 1 車両 11 カメラ 20 画像処理部 30 表示装置 CA1 カメラ(第1のカメラ) CA2 カメラ(第2のカメラ) CA3 カメラ(第3のカメラ) CA4 カメラ(第4のカメラ) CB1 カメラ(第1のカメラ) CB2 カメラ(第2のカメラ) CC1 カメラ(第1のカメラ) CC2 カメラ(第2のカメラ) CE1 カメラ(第2のカメラ) CE2 カメラ(第1のカメラ) CE3 カメラ(第4のカメラ) CE4 カメラ(第3のカメラ) CD1〜CD4,CF1〜CF4 カメラ PIA1〜PIA4,PIB1,PIB2,PIC1,
PIC2,PID1〜PID4,PIE1〜PIE4,
PIF1〜PIF4 部分画像 BLA12,BLA23,BLA34,BLB12,B
LC12,BLD12,BLD23,BLD34,BL
E12,BLE23,BLE34,BLE14,BLF
12,BLF23,BLF34,BLF14 境界
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G03B 15/00 G03B 15/00 S G06T 1/00 330 G06T 1/00 330Z 3/00 400 3/00 400Z H04N 5/225 H04N 5/225 C // H04N 101:00 101:00 (72)発明者 森村 淳 大阪府門真市大字門真1006番地 松下電器 産業株式会社内 (72)発明者 水澤 和史 大阪府門真市大字門真1006番地 松下電器 産業株式会社内 (72)発明者 飯阪 篤 大阪府門真市大字門真1006番地 松下電器 産業株式会社内 (72)発明者 吉田 崇 大阪府門真市大字門真1006番地 松下電器 産業株式会社内 Fターム(参考) 5B057 AA16 BA02 CA12 CA16 CB12 CB16 CE10 5C022 AA04 AA13 5C054 EA05 EH07 FC11 FD03 HA30

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 車両の周囲を撮影する、少なくとも第1
    および第2のカメラを含む複数のカメラと、 前記複数のカメラの撮影画像を入力とし、これらのカメ
    ラ画像から得た部分画像を合成し、この合成画像を表示
    装置に表示させる画像処理部とを備え、 前記合成画像は、前記第1のカメラに係る第1の部分画
    像と前記第2のカメラに係る第2の部分画像とが、隣り
    合うように配置されたものであり、 前記第1および第2のカメラは、 その撮影方向が、それぞれ、前記第1の部分画像と前記
    第2の部分画像との境界の近傍において、前記境界の方
    向とほぼ一致するように、設置されていることを特徴と
    する車両周囲監視装置。
  2. 【請求項2】 請求項1記載の車両周囲監視装置におい
    て、 前記第1および第2のカメラの撮影方向と前記境界の方
    向とがなす角度は、それぞれ、10度以下であることを
    特徴とする車両周囲監視装置。
  3. 【請求項3】 請求項1記載の車両周囲監視装置におい
    て、 前記合成画像は、 前記第1の部分画像と前記第2の部分画像との境界にお
    いて、前記第1および第2の部分画像を混合したブレン
    ド画像が配置されたものであることを特徴とする車両周
    囲監視装置。
  4. 【請求項4】 請求項1記載の車両周囲監視装置におい
    て、 前記第1のカメラは、当該車両の前の左または右端部
    に、右または左斜め前方に向けて配置されており、 前記第2のカメラは、当該車両の左または右側部に、左
    または右斜め前方に向けて配置されていることを特徴と
    する車両周囲監視装置。
  5. 【請求項5】 請求項4記載の車両周囲監視装置におい
    て、 前記複数のカメラは、 当該車両の左または右側部に、左または右斜め後方に向
    けて配置されている第3のカメラと、 当該車両の後ろの左または右端部に、右または左斜め後
    方に向けて配置されている第4のカメラとを含むことを
    特徴とする車両周囲監視装置。
  6. 【請求項6】 請求項1記載の車両周囲監視装置におい
    て、 前記第1のカメラは、当該車両の前の右または左端部
    に、左または右斜め前方に向けて配置されており、 前記第2のカメラは、当該車両の前の左または右端部
    に、左または右斜め後方に向けて配置されていることを
    特徴とする車両周囲監視装置。
  7. 【請求項7】 請求項6記載の車両周囲監視装置におい
    て、 前記複数のカメラは、 当該車両の後ろの左または右端部に、右または左斜め後
    方に向けて配置されている第3のカメラと、 当該車両の後ろの右または左端部に、右または左斜め前
    方に向けて配置されている第4のカメラとを含むことを
    特徴とする車両周囲監視装置。
  8. 【請求項8】 車両の周囲を撮影する複数のカメラと、
    前記複数のカメラの撮影画像から得た部分画像を合成
    し、この合成画像を表示装置に表示させる画像処理部と
    を備えた車両周囲監視装置を調整する方法であって、 前記複数のカメラのうち、前記合成画像において隣り合
    って配置される部分画像をそれぞれ撮影する第1および
    第2のカメラを、その撮影領域がオーバーラップするよ
    うに配置し、 前記第1のカメラに係る部分画像と前記第2のカメラに
    係る部分画像との境界の近傍において、前記第1および
    第2のカメラの撮影方向が、それぞれ、前記境界の方向
    とほぼ一致するように、前記第1および第2のカメラ並
    びに前記画像処理部の少なくともいずれか1つを、調整
    することを特徴とする車両周囲監視装置の調整方法。
JP2002282362A 2001-10-15 2002-09-27 車両周囲監視装置およびその調整方法 Expired - Lifetime JP3652678B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002282362A JP3652678B2 (ja) 2001-10-15 2002-09-27 車両周囲監視装置およびその調整方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2001316355 2001-10-15
JP2001-316355 2001-10-15
JP2002282362A JP3652678B2 (ja) 2001-10-15 2002-09-27 車両周囲監視装置およびその調整方法

Publications (2)

Publication Number Publication Date
JP2003204547A true JP2003204547A (ja) 2003-07-18
JP3652678B2 JP3652678B2 (ja) 2005-05-25

Family

ID=27666307

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002282362A Expired - Lifetime JP3652678B2 (ja) 2001-10-15 2002-09-27 車両周囲監視装置およびその調整方法

Country Status (1)

Country Link
JP (1) JP3652678B2 (ja)

Cited By (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005167528A (ja) * 2003-12-02 2005-06-23 Nissan Motor Co Ltd 車両周囲画像変換装置
JP2005223568A (ja) * 2004-02-05 2005-08-18 Nissan Motor Co Ltd 画像合成装置
JP2006171849A (ja) * 2004-12-13 2006-06-29 Nissan Motor Co Ltd 画像処理装置
JP2006237969A (ja) * 2005-02-24 2006-09-07 Aisin Seiki Co Ltd 車両周辺監視装置
JP2006238131A (ja) * 2005-02-25 2006-09-07 Aisin Seiki Co Ltd 車両周辺監視装置
JP2006252389A (ja) * 2005-03-14 2006-09-21 Aisin Seiki Co Ltd 周辺監視装置
JP2006279752A (ja) * 2005-03-30 2006-10-12 Denso Corp 車両直下画像表示制御装置および車両直下画像表示制御プログラム
JP2006338566A (ja) * 2005-06-06 2006-12-14 Alpine Electronics Inc 画像合成装置および合成方法
JP2006352249A (ja) * 2005-06-13 2006-12-28 Aisin Seiki Co Ltd 監視装置及び車両用監視装置
JP2007502473A (ja) * 2003-08-15 2007-02-08 スカーペ アクティーゼルスカブ 有界三次元対象物の分類と空間ローカライゼーションのためのコンピュータ視覚システム
JP2007142735A (ja) * 2005-11-17 2007-06-07 Aisin Seiki Co Ltd 周辺監視システム
JP2007180720A (ja) * 2005-12-27 2007-07-12 Alpine Electronics Inc 車両運転支援装置
JP2007257258A (ja) * 2006-03-23 2007-10-04 Honda Motor Co Ltd 車両周辺監視システム、車両、車両周辺監視プログラム、車両周辺監視システムの構成方法
JP2008028605A (ja) * 2006-07-20 2008-02-07 Matsushita Electric Ind Co Ltd 監視用画像記録装置
JP2008195258A (ja) * 2007-02-14 2008-08-28 Alpine Electronics Inc 画面切り替え判定装置、車両周辺監視装置および画面切り替え判定方法
JP2009081496A (ja) * 2007-09-25 2009-04-16 Hitachi Ltd 車載カメラ
JP2009524171A (ja) * 2006-01-24 2009-06-25 ダイムラー・アクチェンゲゼルシャフト 複数の画像を結合して鳥瞰図画像にする方法
JP2009253673A (ja) * 2008-04-07 2009-10-29 Clarion Co Ltd 車両用周囲状況表示装置
EP2233359A1 (en) 2009-03-25 2010-09-29 Aisin Seiki Kabushiki Kaisha Surroundings monitoring device for a vehicle
JP2011015353A (ja) * 2009-07-06 2011-01-20 Toshiba Alpine Automotive Technology Corp 車両用画像表示装置
US8009868B2 (en) 2006-03-02 2011-08-30 Alpine Electronics, Inc. Method of processing images photographed by plural cameras and apparatus for the same
WO2011129276A1 (ja) * 2010-04-12 2011-10-20 住友重機械工業株式会社 画像生成装置及び操作支援システム
JP2011221686A (ja) * 2010-04-07 2011-11-04 Nissan Motor Co Ltd 画像情報提供装置および画像情報提供方法
US8294563B2 (en) 2009-08-03 2012-10-23 Alpine Electronics, Inc. Vehicle-surrounding image display apparatus and vehicle-surrounding image display method
US8319618B2 (en) 2008-11-28 2012-11-27 Fujitsu Limited Image processing apparatus, image processing method, and recording medium
JP2013009065A (ja) * 2011-06-23 2013-01-10 Nissan Motor Co Ltd 車両用監視装置及び車両の監視方法
US8576285B2 (en) 2009-03-25 2013-11-05 Fujitsu Limited In-vehicle image processing method and image processing apparatus
US8872919B2 (en) 2005-02-24 2014-10-28 Aisin Seiki Kabushiki Kaisha Vehicle surrounding monitoring device
JP2014531078A (ja) * 2011-10-14 2014-11-20 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh 車両周辺の表示方法
JP2017134775A (ja) * 2016-01-29 2017-08-03 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2018207430A (ja) * 2017-06-09 2018-12-27 キヤノン株式会社 撮像装置の設置方法および制御手段
WO2019155936A1 (ja) * 2018-02-07 2019-08-15 株式会社東海理化電機製作所 車両用視認装置
JP2019532860A (ja) * 2016-09-14 2019-11-14 アマゾン テクノロジーズ インコーポレイテッド 航空機用光センサ構成
JP2020119492A (ja) * 2019-01-28 2020-08-06 パナソニックIpマネジメント株式会社 画像合成装置、及び、制御方法

Cited By (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007502473A (ja) * 2003-08-15 2007-02-08 スカーペ アクティーゼルスカブ 有界三次元対象物の分類と空間ローカライゼーションのためのコンピュータ視覚システム
JP4865557B2 (ja) * 2003-08-15 2012-02-01 スカーペ テクノロジーズ アクティーゼルスカブ 有界三次元対象物の分類と空間ローカライゼーションのためのコンピュータ視覚システム
JP2005167528A (ja) * 2003-12-02 2005-06-23 Nissan Motor Co Ltd 車両周囲画像変換装置
JP4655473B2 (ja) * 2003-12-02 2011-03-23 日産自動車株式会社 車両周囲画像変換装置
JP2005223568A (ja) * 2004-02-05 2005-08-18 Nissan Motor Co Ltd 画像合成装置
JP2006171849A (ja) * 2004-12-13 2006-06-29 Nissan Motor Co Ltd 画像処理装置
JP4569285B2 (ja) * 2004-12-13 2010-10-27 日産自動車株式会社 画像処理装置
JP2006237969A (ja) * 2005-02-24 2006-09-07 Aisin Seiki Co Ltd 車両周辺監視装置
US8872919B2 (en) 2005-02-24 2014-10-28 Aisin Seiki Kabushiki Kaisha Vehicle surrounding monitoring device
JP2006238131A (ja) * 2005-02-25 2006-09-07 Aisin Seiki Co Ltd 車両周辺監視装置
JP4687160B2 (ja) * 2005-03-14 2011-05-25 アイシン精機株式会社 周辺監視装置
JP2006252389A (ja) * 2005-03-14 2006-09-21 Aisin Seiki Co Ltd 周辺監視装置
JP2006279752A (ja) * 2005-03-30 2006-10-12 Denso Corp 車両直下画像表示制御装置および車両直下画像表示制御プログラム
JP4556742B2 (ja) * 2005-03-30 2010-10-06 株式会社デンソー 車両直下画像表示制御装置および車両直下画像表示制御プログラム
JP2006338566A (ja) * 2005-06-06 2006-12-14 Alpine Electronics Inc 画像合成装置および合成方法
JP2006352249A (ja) * 2005-06-13 2006-12-28 Aisin Seiki Co Ltd 監視装置及び車両用監視装置
JP4706906B2 (ja) * 2005-06-13 2011-06-22 アイシン精機株式会社 車両用監視装置
JP2007142735A (ja) * 2005-11-17 2007-06-07 Aisin Seiki Co Ltd 周辺監視システム
US8031225B2 (en) 2005-11-17 2011-10-04 Aisin Seiki Kabushiki Kaisha Surroundings monitoring system for a vehicle
JP4606322B2 (ja) * 2005-12-27 2011-01-05 アルパイン株式会社 車両運転支援装置
JP2007180720A (ja) * 2005-12-27 2007-07-12 Alpine Electronics Inc 車両運転支援装置
JP2009524171A (ja) * 2006-01-24 2009-06-25 ダイムラー・アクチェンゲゼルシャフト 複数の画像を結合して鳥瞰図画像にする方法
US8009868B2 (en) 2006-03-02 2011-08-30 Alpine Electronics, Inc. Method of processing images photographed by plural cameras and apparatus for the same
JP2007257258A (ja) * 2006-03-23 2007-10-04 Honda Motor Co Ltd 車両周辺監視システム、車両、車両周辺監視プログラム、車両周辺監視システムの構成方法
JP2008028605A (ja) * 2006-07-20 2008-02-07 Matsushita Electric Ind Co Ltd 監視用画像記録装置
JP2008195258A (ja) * 2007-02-14 2008-08-28 Alpine Electronics Inc 画面切り替え判定装置、車両周辺監視装置および画面切り替え判定方法
JP2009081496A (ja) * 2007-09-25 2009-04-16 Hitachi Ltd 車載カメラ
JP2009253673A (ja) * 2008-04-07 2009-10-29 Clarion Co Ltd 車両用周囲状況表示装置
US8319618B2 (en) 2008-11-28 2012-11-27 Fujitsu Limited Image processing apparatus, image processing method, and recording medium
US8576285B2 (en) 2009-03-25 2013-11-05 Fujitsu Limited In-vehicle image processing method and image processing apparatus
EP2233359A1 (en) 2009-03-25 2010-09-29 Aisin Seiki Kabushiki Kaisha Surroundings monitoring device for a vehicle
US8866905B2 (en) 2009-03-25 2014-10-21 Aisin Seiki Kabushiki Kaisha Surroundings monitoring device for a vehicle
JP2011015353A (ja) * 2009-07-06 2011-01-20 Toshiba Alpine Automotive Technology Corp 車両用画像表示装置
US8294563B2 (en) 2009-08-03 2012-10-23 Alpine Electronics, Inc. Vehicle-surrounding image display apparatus and vehicle-surrounding image display method
JP2011221686A (ja) * 2010-04-07 2011-11-04 Nissan Motor Co Ltd 画像情報提供装置および画像情報提供方法
US8593454B2 (en) 2010-04-12 2013-11-26 Sumitomo Heavy Industries, Ltd Image generation device and operation support system
JP2011221865A (ja) * 2010-04-12 2011-11-04 Sumitomo Heavy Ind Ltd 画像生成装置及び操作支援システム
WO2011129276A1 (ja) * 2010-04-12 2011-10-20 住友重機械工業株式会社 画像生成装置及び操作支援システム
JP2013009065A (ja) * 2011-06-23 2013-01-10 Nissan Motor Co Ltd 車両用監視装置及び車両の監視方法
JP2014531078A (ja) * 2011-10-14 2014-11-20 ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh 車両周辺の表示方法
JP2017134775A (ja) * 2016-01-29 2017-08-03 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2019532860A (ja) * 2016-09-14 2019-11-14 アマゾン テクノロジーズ インコーポレイテッド 航空機用光センサ構成
US10778960B2 (en) 2016-09-14 2020-09-15 Amazon Technologies, Inc. Aerial vehicle sensor positioning
US11284056B2 (en) 2016-09-14 2022-03-22 Amazon Technologies, Inc. Aerial vehicle sensor positioning
JP2018207430A (ja) * 2017-06-09 2018-12-27 キヤノン株式会社 撮像装置の設置方法および制御手段
JP7140472B2 (ja) 2017-06-09 2022-09-21 キヤノン株式会社 撮像装置の設置方法および制御手段
WO2019155936A1 (ja) * 2018-02-07 2019-08-15 株式会社東海理化電機製作所 車両用視認装置
JP2020119492A (ja) * 2019-01-28 2020-08-06 パナソニックIpマネジメント株式会社 画像合成装置、及び、制御方法

Also Published As

Publication number Publication date
JP3652678B2 (ja) 2005-05-25

Similar Documents

Publication Publication Date Title
JP2003204547A (ja) 車両周囲監視装置およびその調整方法
KR100866450B1 (ko) 차량 주위 감시 장치 및 그 조정 방법
KR100522218B1 (ko) 감시 시스템, 카메라 조정방법 및 차량감시 시스템
JP3300334B2 (ja) 画像処理装置および監視システム
JP3773433B2 (ja) 移動体の周囲監視装置
US8201199B2 (en) Monitoring system
JP5444338B2 (ja) 車両周囲監視装置
JP4907883B2 (ja) 車両周辺画像表示装置および車両周辺画像表示方法
JP4596978B2 (ja) 運転支援システム
US7190259B2 (en) Surrounding surveillance apparatus and mobile body
US11356618B2 (en) Image synthesis device for electronic mirror and method thereof
CN108765496A (zh) 一种多视点汽车环视辅助驾驶系统及方法
JP4248570B2 (ja) 画像処理装置並びに視界支援装置及び方法
JP4315968B2 (ja) 画像処理装置並びに視界支援装置及び方法
US20090102921A1 (en) Vehicle-mounted image capturing apparatus
US20190100145A1 (en) Three-dimensional image driving assistance device
KR20010112433A (ko) 화상처리장치 및 감시시스템
JP3753681B2 (ja) 監視システム
JP7280006B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP5226621B2 (ja) 車両用画像表示装置
JP7301476B2 (ja) 画像処理装置
Nishiguchi et al. Image Processing Method for Perception of Status of Approaching Vehicles Using a Camera System

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050215

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050223

R150 Certificate of patent or registration of utility model

Ref document number: 3652678

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080304

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090304

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100304

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110304

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110304

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120304

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130304

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130304

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140304

Year of fee payment: 9

EXPY Cancellation because of completion of term