JP2003204547A - 車両周囲監視装置およびその調整方法 - Google Patents
車両周囲監視装置およびその調整方法Info
- Publication number
- JP2003204547A JP2003204547A JP2002282362A JP2002282362A JP2003204547A JP 2003204547 A JP2003204547 A JP 2003204547A JP 2002282362 A JP2002282362 A JP 2002282362A JP 2002282362 A JP2002282362 A JP 2002282362A JP 2003204547 A JP2003204547 A JP 2003204547A
- Authority
- JP
- Japan
- Prior art keywords
- camera
- image
- vehicle
- cameras
- boundary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
車両周囲監視装置において、部分画像同士の境界近傍に
おいて、従来よりも正確であり、かつ、ユーザに分かり
やすい画像を提供する。 【解決手段】 合成画像上で、カメラCA1が撮影した
部分画像PIA1とカメラCA2が撮影した部分画像P
IA2とが、境界BLA12で隣り合っている。境界B
LA12の近傍において、カメラCA1,CA2の撮影
方向は境界BLA12の方向とほぼ一致している。これ
により、境界BLA12の近傍にあるポールP3の画像
は、カメラCA1の画像上でもカメラCA2の画像上で
もともに境界BLA12に沿って伸び、したがって合成
画像上で消滅することはない。
Description
する複数のカメラを用いた車両周囲監視装置に関するも
のであり、特に、それぞれのカメラ画像から得た部分画
像を合成して、ユーザにとって車両の周囲の状況が分か
りやすい画像を提示する技術に属する。
来の装置として、特開平10−257482号公報(以
下、文献1と称する)や、特開平11−78692号公
報(以下、文献2と称する)に記載のものなどが、知ら
れている。
1台、左右のドアミラー付近に各1台ずつ、後向きに取
り付けられたカメラの画像同士を、無限遠点が一致する
ように合わせて、広視野のリアビュー画像をドライバー
に提示する。これにより、ユーザは、車の左右後方の道
路状況を1枚の仮想的な画像情報として得ることがで
き、全体の状況を把握し易くなる。
ためのカメラを車両の周囲に取り付け、各カメラによっ
て撮影された画像を変形・合成して新たな画像を作成し
モニタに表示する技術が開示されている。特に、複数の
カメラの撮影画像を変形して合成する際に、変形された
画像同士が隣接する境界部分において画像の連続性を保
つことによって、より的確な画像を運転者に提供するこ
とができる。
において、境界部が連続してつながるように画像を変形
・合成する場合は、原理的には、元のカメラ画像に映っ
ている物体の形状や距離を正確にリアルタイムで計算
し、この計算結果を用いて各画像の変形処理を行う必要
がある。しかしながら、この計算に要するコストは非常
に高いため、現実的には実施困難である。したがって通
常は、境界部に映っている全てのものについて連続性を
保つのではなく、画像に映るある部分が連続してつなが
るように画像を変形する、という手法が取られる。例え
ば撮影対象が車両の周囲の場合には、連続性を保つ部分
として路面が用いられる。これが、いわゆる路面投影と
呼ばれる手法である。
分の連続性を維持するために、やむを得ず元のカメラ画
像の一部を切り捨てる必要があり、このため、カメラに
映っている物体が合成画像上では表示されない、という
重大な問題を引き起こす可能性がある。この問題につい
て、図面を参照して説明する。
ラの配置の典型例を示す模式図である。図17の例で
は、左右のドアミラー部にそれぞれカメラCZ1,CZ
4が、後端部中央に左右後方に向けてそれぞれカメラC
Z2,CZ3が、車両1の運転席から後方を撮影範囲と
してカバーするように設置されている。Pはポール、W
Lは駐車枠を示す白線である。
カメラCZ1〜CZ4の撮影画像の例、図19は図18
のカメラ画像を切り出し・変形して繋ぎ合わせることに
よって、あたかも車両上方から見下ろしたような仮想視
点画像を合成した図である。図19において、PIZ1
〜PIZ4はそれぞれ、カメラCZ1〜CZ4の撮影画
像から切り出された部分画像である。図19の例では、
少なくとも路面上の物(典型的には白線WL)が部分画
像PIZ1〜PIZ4同士の境界部で一致するように、
各カメラ画像の変形・切り出しおよび繋ぎ合わせを行っ
ている。
が、元のカメラ画像の一部を切り捨てることによって生
じる、立体物(図18では車両1の右後に立っているポ
ールP)の消滅である。
CZ3に係る部分画像PIZ3とカメラCZ4に係る部
分画像PIZ4との境界BLZ34が、車両1の右斜め
後方に延びるように設定されている。そして、境界BL
Z34の両側で路面が一致するようにそれぞれのカメラ
画像を変形する際に、カメラCZ3に映っているポール
Pは右向きに伸びるように歪められ(画像PA)、一
方、カメラCZ4に映っているポールPは下向きに伸び
るように歪められる(画像PB)。ところが、ポールP
の画像PA,PBはともに境界BLZ34を越えてしま
うので、画像合成時には切り取られてしまう。この結
果、合成画像上では、ポールPの根元が辛うじて残る程
度の画像になり、ポールPがあたかも消失したかのよう
に見えてしまう。
図20に示すように、カメラCZ3からもカメラCZ4
からも撮影されている領域OLについて、それぞれのカ
メラ画像を変形した画像を混合することが考えられる。
ところがこの場合には、画像PA,PBがともに表示さ
れることにより、合成画像上でポールPが二重像にな
り、見た目に非常に分かりにくい画像になってしまう。
ラの撮影画像を合成して表示する車両周囲監視装置にお
いて、部分画像同士の境界近傍において、従来よりも正
確であり、かつ、ユーザに分かりやすい画像を提供する
ことを課題とする。
像の境界近傍にある場合であっても、上述したような合
成画像上での消失が起こらない場合がある。
えない例を示す概念図である。図21では、境界BLZ
23近傍では、部分画像PIZ2に係るカメラCZ2も
部分画像PIZ3に係るカメラCZ3も、その撮影方向
が、境界BLZ23の方向とほぼ一致している。なお、
本願明細書でいう「撮影方向」とは、カメラの光軸の向
きのことでなく、カメラから対象物(ここでは境界部
分)を見る方向、すなわち、合成画像においては、カメ
ラの設置位置と境界部分とを結ぶ直線の方向のことを意
味する。このため、ペアカメラCZ2,CZ3の直後に
立っているポールPの画像は、カメラCZ2,CZ3ど
ちらの画像を変形しても境界BLZ23に沿って伸びる
ように歪む。このため、境界BLZ23近傍で、部分画
像PIZ2と部分画像PIZ3とを混ぜ合わせる処理な
どを行うことによって、合成画像からポールPの画像が
消滅することを防ぐことができる。
般的には、次の条件を満たすとき、合成画像上で物体が
消失する現象は起こらないものと考えられる。条件:隣
り合う2つの部分画像について、その境界の近傍で、当
該部分画像を撮影しているカメラの撮影方向が、その境
界の方向とほぼ一致することなお、隣り合う部分画像
は、オーバーラップしていてもよいし、単に接している
だけでもよい。境界近傍において、部分画像同士が重な
り合っている重複領域がある場合には、ここでいう「境
界の方向」とは、その重複領域の長手方向の中心線の方
向のことを指すものとする。
の境界近傍にある物体の画像は、視点変換によって、そ
の境界に沿って伸びるので、合成画像上で、境界近傍の
物体が消えることはなくなる。本発明は、このような知
見に基づいて、なされたものである。
請求項1の発明が講じた解決手段は、車両周囲監視装置
として、車両の周囲を撮影する少なくとも第1および第
2のカメラを含む複数のカメラと、前記複数のカメラの
撮影画像を入力とし、これらのカメラ画像を用いて部分
画像を合成し、この合成画像を表示装置に表示させる画
像処理部とを備え、前記合成画像は、前記第1のカメラ
に係る第1の部分画像と前記第2のカメラに係る第2の
部分画像とが隣り合うように配置されたものであり、前
記第1および第2のカメラは、その撮影方向がそれぞ
れ、前記第1の部分画像と前記第2の部分画像との境界
の近傍において前記境界の方向とほぼ一致するように、
設置されているものである。
第1および第2の部分画像に係る第1および第2のカメ
ラは、その撮影方向が、部分画像同士の境界の方向とほ
ぼ一致するように、設置されている。このため、画像合
成の際に、境界近傍に存在する物体の画像が、カメラの
撮影方向、すなわち境界の方向とほぼ一致する方向に沿
って伸びるように変形される。このため、その物体の画
像は切り取られることがなく、したがって合成画像上で
消失することはない。これにより、車の周囲の情報をよ
り正確にユーザに伝えることができ、より安全な運転を
支援することが可能となる。
1記載の車両周囲監視装置において、前記第1および第
2のカメラの撮影方向と前記境界の方向とがなす角度
は、それぞれ、10度以下であるものとする。
1記載の車両周囲監視装置における合成画像は、前記第
1の部分画像と前記第2の部分画像との境界において、
前記第1および第2の部分画像を混合したブレンド画像
が配置されたものとする。
の車両周囲監視装置において、前記第1のカメラは、当
該車両の前の左または右端部に右または左斜め前方に向
けて配置されており、前記第2のカメラは、当該車両の
左または右側部に左または右斜め前方に向けて配置され
ているものとする。
4の車両周囲監視装置における複数のカメラは、当該車
両の左または右側部に左または右斜め後方に向けて配置
されている第3のカメラと、当該車両の後ろの左または
右端部に右または左斜め後方に向けて配置されている第
4のカメラとを含むものとする。
1の車両周囲監視装置において、前記第1のカメラは、
当該車両の前の右または左端部に左または右斜め前方に
向けて配置されており、前記第2のカメラは、当該車両
の前の左または右端部に左または右斜め後方に向けて配
置されているものとする。
6の車両周囲監視装置における複数のカメラは、当該車
両の後ろの左または右端部に右または左斜め後方に向け
て配置されている第3のカメラと、当該車両の後ろの右
または左端部に右または左斜め前方に向けて配置されて
いる第4のカメラとを含むものである。
は、車両の周囲を撮影する複数のカメラと、前記複数の
カメラの撮影画像から得た部分画像を合成し、この合成
画像を表示装置に表示させる画像処理部とを備えた車両
周囲監視装置を調整する方法として、前記複数のカメラ
のうち、前記合成画像において隣り合って配置される部
分画像をそれぞれ撮影する第1および第2のカメラを、
その撮影領域がオーバーラップするように配置し、前記
第1のカメラに係る部分画像と前記第2のカメラに係る
部分画像との境界の近傍において、前記第1および第2
のカメラの撮影方向が、それぞれ、前記境界の方向とほ
ぼ一致するように、前記第1および第2のカメラ並びに
前記画像処理部の少なくともいずれか1つを調整するも
のである。
配置における「または」とは、監視する範囲を、車両の
右側を中心にする場合と、左側を中心にする場合とを含
めるための記載である。あるいは、車両の周囲全体を監
視する場合に、カメラを右回りに配置する場合と、左周
りに配置する場合とを含めるための記載である。このよ
うな配置の選択は、例えば車両が右ハンドルか左ハンド
ルかによって、行えばよいし、それ以外の要因に従って
選択してもかまわない。または、任意に選択してもよ
い。
カメラの上下方向の画角が大きく、カメラ直下も視野に
含まれる場合は、カメラの光軸の向きは水平でもよい。
ただし、画角が十分に大きくない場合は、カメラ直下の
死角を減らすために、カメラを下向きにすることが望ま
しい。この場合、例えば「右斜め前方」とは、カメラを
右斜め前方に向け、さらに仰角を下向きに変えることに
相当する。
て、図面を参照して説明する。
監視装置の構成を示すブロック図である。図1に示す装
置において、画像処理部20は、複数のカメラ11を有
する撮像手段10から出力された複数のカメラ画像を入
力とし、これらを変形・合成して新たな合成画像を生成
する。この合成画像は、表示装置30によって表示され
る。
ある。仮想視点画像とは、実カメラの画像に加工処理を
施し、これらをつなぎ合わせるなどして合成して得た、
あたかも仮想のカメラから見たような画像のことであ
る。より具体的な例としては、あたかも車両の上方から
真下に見下ろしたような画像(例えば図4)であり、こ
の仮想視点画像は、車両に直に設置された1個または複
数個のカメラ(例えば図2におけるCA1〜CA4)を
用い、これらのカメラの撮影画像(例えば図3)にそれ
ぞれ個別の加工処理を施して合成することによって、生
成される。
液晶ディスプレイであるが、プラズマディスプレイ等の
他の表示デバイスを用いることもできる。また、ここで
いうディスプレイは、車両搭載型のGPS端末ディスプ
レイ(いわゆるカーナビゲーションシステムのディスプ
レイ)と共用したものであってもよいし、これとは別に
設けられたものであってもよい。
OSデバイス等の固体撮像素子を有するカラーまたはモ
ノクロのデジタルカメラ11を有する。また、撮影手段
10は、たとえばレンズと、プリズムまたはミラーとの
組み合わせにより構成され、レンズ、プリズムまたはミ
ラーへの入射光が、所定光路を通って撮影手段から離れ
た位置にある撮像素子に伝達されるように構成されてい
てもよい。
の撮影画像を入力し、これら撮影画像を加工する。ここ
での加工は、画像切り出し変形処理、変形された部
分画像の合成処理(境界処理を含む)である。これらの
との処理は、それぞれ別々になされてもよいし、全
部または一部が1つの工程によりなされてもよい。図1
では、撮影画像の加工を一つの工程で行うために、マッ
ピングテーブルMPTを備えた構成としている。
の画素と、各カメラ画像の画素データとの対応関係が記
述されたテーブルのことをいい、合成画像の生成処理を
高速に行うために用いられる。このようなマッピングテ
ーブルを、後述する幾何変換などを用いた計算や手作業
などによって予め作成しておくことによって、所望の合
成画像を高速に生成することができる。
例えばROM(EEPROMなどの書きこみ・消去可能
なROMを含む)、またはRAMに格納されている。マ
ッピングテーブルMPTの格納は、例えば、画像処理部
20内のプロセッサが計算で求めたマッピングデータを
ROMまたはRAMに書きこむことによって実現しても
よいし、ファームウェアとして提供されるマッピングテ
ーブルデータを、通信回線やディスクドライブなどのデ
ータ転送手段を用いて、RAMまたはROMに書きこむ
ようにしてもよい。
について、注意すべきポイントを2つ挙げておく。 1.境界を構成する2つの部分画像の基になるカメラに
ついて、境界近傍を撮影する方向を、境界の方向にほぼ
一致させる。これは、課題の項で述べた条件と同一であ
る。 2.隣り合うカメラ画像を、その境界部分で互いにオー
バーラップさせる。これは、仮想視点画像において、隣
り合うカメラ画像の境界部分で死角となる部分が生じな
いようにするためである。
例を、図面を用いて説明する。なお、以降の説明では、
「右」および「左」は、車両の前進方向に対して表すも
のとする。また、車両は右ハンドルのもの、すなわち、
運転席が右側にあり助手席が左側にある車両を対象にす
る。よって、もし本発明を左ハンドルの車両に適用する
場合は、カメラの設置を左右対称にすればよく、以下の
カメラの設置態様の説明において「左」と「右」とを逆
に解釈すればよい。
置の第1の例、図3は図2のように配置された各カメラ
CA1〜CA4の撮影画像の例である。図2の配置例で
は、4台のカメラCA1〜CA4が次のように配置され
ている。 すなわち図2では、車両1の4辺のうち、運転席側の1
辺を除く全周囲を見渡す仮想視点画像を合成するため
に、上記のように4台のカメラCA1〜CA4を設置し
ている。またP1〜P4はポール、WLは白線である。
左側について実質的に180度の視野が得られるよう
に、ペアにして配置されている。すなわち、現状のカメ
ラでは、単体で解像度を保ちつつ180度の視野を確保
することが難しいため、便宜的に、画角が100度程度
のカメラを2台ペアにして配置している。したがって、
十分な解像度が得られ、かつ180度の視野を得られる
単一の撮像手段があれば、それをカメラCA2,CA3
に代えて利用してもかまわない。
て、車両1の周囲を上から見下ろしたような仮想視点画
像を合成した結果を示す模式図である。図4において、
PIA1〜PIA4はそれぞれカメラCA1〜CA4の
撮影画像から切り出した部分画像、BLA12は部分画
像PIA1,PIA2の境界、BLA23は部分画像P
IA2,PIA3の境界、BLA34は部分画像PIA
3,PIA4の境界である。またDAはいずれのカメラ
CA1〜CA4からも撮影されない死角領域である。
置することによって、上述の2つのポイントはともに満
たされている。すなわち、図4の合成画像において、部
分画像同士の境界の近傍では、その部分画像を撮影した
カメラの撮影方向と境界の方向とが、ほぼ一致してい
る。例えば図2および図4から分かるように、第1の部
分画像としての部分画像PIA1と第2の部分画像とし
ての部分画像PIA2との境界BLA12の近傍におい
て、部分画像PIA1を撮影した第1のカメラとしての
カメラCA1と、部分画像PIA2を撮影した第2のカ
メラとしてのカメラCA2の撮影方向が、境界BLA1
2の方向にほぼ一致している。境界BLA23,BLA
34に関しても同様のことがいえる。
メラCA2の撮影領域AA2とは互いにオーバーラップ
しており、同様に、カメラCA2とカメラCA3、カメ
ラCA3とカメラCA4とは、撮影領域が互いにオーバ
ーラップしている。
CA1〜CA4に映る物体の位置関係を保ちながら、ユ
ーザに分かりやすく見せるという仮想視点画像のメリッ
トをそのまま残しつつ、本発明のカメラ設置のポイント
を満たすことによって、物体が消失するという現象が回
避されている。これは例えば、車両1の左前角部や左後
角部にあるポールP3,P4が、境界BLA12,BL
A34の近傍に存在するにもかかわらず、画像合成によ
って境界に沿って伸びており、合成画像上で消失せずに
残っていることから明らかである。
A1〜CA4を用いることによって、運転者が窓越しに
目視で確認可能な運転席側のエリアを除く車の周囲を、
位置関係を保ちつつ、かつ、死角がないように、画像と
して表示することが可能となる。
方の安全確認 本発明に係るカメラ配置は、車両周囲のどの領域の安全
確認を行うかによって、第1の例以外にも様々な形態が
考えられる。近年、乗用車の大型化に伴い、車両の前方
および左側前側方の死角に対する安全確認を行うための
技術に対し、ニーズが高まっている。第2の例は、車両
の前方および左側前側方の安全確認を行うためのもので
ある。
例、図6は図5のように配置された各カメラCB1,C
B2の撮影画像の例である。図5の配置例では、2台の
カメラCB1,CB2が次のように設置されている。
仮想視点画像の例を示した図である。図7において、P
IB1,PIB2はそれぞれカメラCB1,CB2の撮
影画像から切り出した部分画像、BLB12は部分画像
PIB1,PIB2の境界、DBはいずれのカメラCB
1,CB2からも撮影されない死角領域である。
部分画像としての部分画像PIB1と第2の部分画像と
しての部分画像PIB2との境界BLB12の近傍にお
いて、部分画像PIB1を撮影した第1のカメラとして
のカメラCB1と、部分画像PIB2を撮影した第2の
カメラとしてのカメラCB2の撮影方向が、境界BLB
12の方向にほぼ一致している。
角領域DBが拡がっており、監視可能な範囲は小さくな
っているが、目的とする車両の前方および左側前側方の
視野は十分確保されている。しかも、本発明のカメラ設
置のポイントを満たすことによって、例えば車両1の左
前角部にあるポールP3が、境界BLB12の近傍に存
在するにもかかわらず、画像合成によって境界に沿って
伸びており、消失せずに残っている。
図8の配置例では、2台のカメラCC1,CC2が次の
ように設置されている。
像を用いて合成した仮想視点画像の例であり、仮想視点
の位置および向きは図7と共通である。図9において、
PIC1,PIC2はそれぞれカメラCC1,CC2の
撮影画像から切り出した部分画像、BLC12は部分画
像PIC1,PIC2の境界、DCはいずれのカメラC
C1,CC2からも撮影されない死角領域である。
部分画像としての部分画像PIC1と第2の部分画像と
しての部分画像PIC2との境界BLC12の近傍にお
いて、部分画像PIC1を撮影した第1のカメラとして
のカメラCC1と、部分画像PIC2を撮影した第2の
カメラとしてのカメラCC2の撮影方向が、境界BLC
12の方向にほぼ一致している。
合成画像における部分画像同士の境界線の位置が、カメ
ラの設置形態によって変わっていることである。もし図
8のカメラ配置で、カメラCC1に係る部分画像PIC
1とカメラCC2に係る部分画像PIC2との境界BL
C12を、図7の境界BLB12と同一の位置に設定し
たとすると、ポールP3の画像が、足元のほんの少しの
部分を残して、他の部分が切り取られてしまうことにな
る(図示しない)。
士の境界は、カメラの設置態様を考慮して設定する必要
がある。あるいは、それぞれのカメラの設置場所や向き
は、合成画像における部分画像同士の境界の設定位置を
考慮して決めなければならない。したがって、本発明で
は、合成画像において隣り合って配置される部分画像を
それぞれ撮影する各カメラ、および画像処理部のうち、
少なくともいずれか1つを調整する必要がある。
り合って配置される部分画像をそれぞれ撮影する2台の
カメラを、その撮影領域がオーバーラップするように配
置し、その部分画像同士の境界の近傍において、各カメ
ラの撮影方向がそれぞれ境界の方向とほぼ一致するよう
に、カメラおよび画像処理部の少なくともいずれか1つ
を、調整する、ものといえる。
ぼ」一致するとは、例えば次のような条件を満たす程度
であればよい。すなわち、その境界を人が通ったときほ
ぼ全身が映ること、または、その境界近傍を物体が移動
したとき、その一部が消失したとしても消失度合がその
物体を特定可能な範囲であること、を満たせばよい。具
体的には、各カメラの撮影方向と境界の方向とがなす角
度が、それぞれ、10度以下であることが好ましい。
特に後方の安全確認 第2の例で述べたように、車両前側方の安全確認は、近
年の車両の大型化に伴って必要性が高まったものであ
る。これとは対称的に、車両の後側方の安全確認につい
て古くから検討されており、近年では、1台のカメラを
用いて後方の死角部分をモニターする安全確認システム
が実用化され始めている。ところがこのシステムでは、
車両後側方の広範囲をくまなくモニターするのにはやは
り不十分であるため、図17のように複数のカメラを用
いたシステムも検討されてはいるが、課題の項で述べた
ように、カメラ画像同士の境界近傍において物体が一部
消滅するという問題が残っている。
周囲を死角なく見せるものであったが、この第3の例で
は、第1の例に係るカメラ配置を反時計回りに90度ず
らすことによって、従来技術の問題を解決し、車両の前
方を除く全周囲、特に後方の安全確認を行うことができ
る。
例、図11は図10のように配置された各カメラCD1
〜CD4の撮影画像の例である。図10の配置例では、
4台のカメラCD1〜CD4が次のように配置されてい
る。 すなわち図10では、車両1の前方を除く全周囲を見渡
す仮想視点画像を合成するために、上記のように4台の
カメラCD1〜CD4を設置している。
用いて、車両1の周囲を上から見下ろしたような仮想視
点画像を合成した結果を示す模式図である。図12にお
いて、PID1〜PID4はそれぞれカメラCD1〜C
D4の撮影画像から切り出した部分画像、BLD12は
部分画像PID1,PID2の境界、BLD23は部分
画像PID2,PID3の境界、BLD34は部分画像
PID3,PID4の境界である。またDDはいずれの
カメラCD1〜CD4からも撮影されない死角領域であ
る。
置することによって、上述の2つのポイントはともに満
たされている。すなわち、図12の合成画像において、
部分画像同士の境界の近傍では、その部分画像を撮影し
たカメラの撮影方向と境界の方向とが、ほぼ一致してい
る。例えば図10および図12から分かるように、第1
の部分画像としての部分画像PID1と第2の部分画像
としての部分画像PID2との境界BLD12の近傍に
おいて、部分画像PID1を撮影した第1のカメラとし
てのカメラCD1と、部分画像PID2を撮影した第2
のカメラとしてのカメラCD2の撮影方向が、境界BL
D12の方向にほぼ一致している。境界BLD23,B
LD34に関しても同様のことがいえる。
メラCD2の撮影領域AD2とは互いにオーバーラップ
しており、同様に、カメラCD2とカメラCD3、カメ
ラCD3とカメラCD4とは、撮影領域が互いにオーバ
ーラップしている。
ラCD1〜CD4に映る物体の位置関係を保ちながら、
見やすく見せるという仮想視点画像のメリットをそのま
ま残しつつ、本発明のカメラ設置のポイントを満たすこ
とによって、物体が消失するという現象を回避できてい
ることが分かる。これは例えば、車両1の左後角部や右
後角部にあるポールP3,P4が、境界BLD12,B
LD34の近傍に存在するにもかかわらず、画像合成に
よって境界に沿って伸びており、合成画像上で消失せず
に残っていることから明らかである。
D1〜CD4を用いることによって、車両の前方を除く
全周囲を、位置関係を保ちつつ、かつ、死角がないよう
に、画像として表示することが可能となる。
像PID1,PID2の境界BLD12、および部分画
像PID3,PID4の境界BLD34は、車両1の後
端の延長線上にほぼ位置している。仮想視点画像では、
境界の両側では元のカメラ画像の変形のされ方が異なる
ため、境界をまたがる物体は不連続な画像になる。この
不連続性は、通常は、合成画像の品質を下げると考えら
れる。しかしながら見方を変えれば、例えば、後方から
接近する物体が部分画像PID3の領域から部分画像P
ID4の領域にさしかかると、画像上不連続に見えるの
で、この時点で物体は車両1の後端よりも前に来ている
と判断することも可能である。このため、図12のよう
に境界BLD12,BLD34を設定することは非常に
意味のあることである。
に並べて配置されていた。本例では、一直線上にカメラ
を並べて配置することなく、上述した本発明に係るカメ
ラ設置のポイントを満たす例を示す。具体的には、カメ
ラ4台を用いて、車の全周囲を死角無く見せることがで
きるカメラ設置の態様を示す。
例を示す図である。図13の配置例では、4台のカメラ
CE1〜CE4が次のように配置されている。 すなわち図13では、車両1の全周囲を見渡す仮想視点
画像を合成するために、上記のように4台のカメラCE
1〜CE4を設置している。
用いて、車両1の周囲を上から見下ろしたような仮想視
点画像を合成した結果を示す模式図である。図14にお
いて、PIE1〜PIE4はそれぞれカメラCE1〜C
E4の撮影画像から切り出した部分画像、BLE12は
部分画像PIE1,PIE2の境界、BLE23は部分
画像PIE2,PIE3の境界、BLE34は部分画像
PIE3,PIE4の境界、BLE14は部分画像PI
E4,PIE1の境界である。
置することによって、上述の2つのポイントはともに満
たされている。例えば図13および図14から分かるよ
うに、第1の部分画像としての部分画像PIE1と第2
の部分画像としての部分画像PIE2との境界BLE1
2の近傍において、部分画像PIE1を撮影した第1の
カメラとしてのカメラCE1と、部分画像PIE2を撮
影した第2のカメラとしてのカメラCE2の撮影方向
が、境界BLE12の方向にほぼ一致している。境界B
LE23,BLE34,BLE14に関しても同様のこ
とがいえる。
メラCE2の撮影領域AE2とは互いにオーバーラップ
しており、同様に、カメラCE2とカメラCE3、カメ
ラCE3とカメラCE4、カメラCE4とカメラCE1
とは、撮影領域が互いにオーバーラップしている。
ラCE1〜CE4に映る物体の位置関係を保ちながら、
ユーザに分かりやすく見せるという仮想視点画像のメリ
ットをそのまま残しつつ、本発明のカメラ設置のポイン
トを満たすことによって、物体が消失するという現象が
回避されている。これは例えば、車両1の四隅にあるポ
ールP1〜P4が、境界BLE12,BLE23,BL
E34,BLE14の近傍に存在するにもかかわらず、
画像合成によって境界に沿って伸びており、合成画像上
で消失せずに残っていることから明らかである。
る。図15の設置態様は、図13の設置態様において各
カメラの向きを180度変えたものに相当する。図15
の配置例では、4台のカメラCF1〜CF4が次のよう
に配置されている。
用いて、車両1の周囲を上から見下ろしたような仮想視
点画像を合成した結果を示す模式図である。図16にお
いて、PIF1〜PIF4はそれぞれカメラCF1〜C
F4の撮影画像から切り出した部分画像、BLF12は
部分画像PIF1,PIF2の境界、BLF23は部分
画像PIF2,PIF3の境界、BLF34は部分画像
PIF3,PIF4の境界、BLF14は部分画像PI
F4,PIF1の境界である。
に満たされている。ただし、図14と比べると、各カメ
ラの向きが180度異なっているので、部分画像同士の
境界の位置が異なって設定されている。ただし、図14
と同様に、車両1の四隅にあるポールP1〜P4が、境
界BLF14,BLF12,BLF23,BLF34の
近傍に存在するにもかかわらず、画像合成によって境界
に沿って伸びており、合成画像上で消失せずに残ってい
る。
様について、いくつかの例を用いて説明した。これらの
説明では、いずれも仮想視点画像の例として車周囲の状
況を上から見下ろしたような画像を用いたが、もちろん
それに限らず、例えば後方確認のために、車の少し前方
の上方から斜め後方を見下ろすような仮想視点を設定し
ても良い。
いて、その部分画像を混合して得たブレンド画像を配置
してもかまわない。合成画像において、隣り合う部分画
像がその境界部分で重なり合った領域のことを、本願明
細書では「重複領域」と呼ぶ。
抜き出したものであり、重複領域の例を概念的に示して
いる。図22では、ペアカメラCZ2,CZ3が車両1
後端のトランクの上部中央に設置されており、カメラC
Z2は車両1の左後方を撮影しており(撮影領域AR
2)、カメラCZ3は車両1の右後方を撮影している
(撮影領域AR3)。また車両1後方中央の領域は、カ
メラCZ2,CZ3からも撮されている。
共通のカメラ設置条件での重複領域の設定の例を、それ
ぞれ示している。OLが重複領域で、CLが重複領域O
Lの長手方向の中心線であり、本願明細書における「境
界の方向」に相当する。図22(a)は重複領域OLを
最大限に拡げて設定した例である。図22(b)は重複
領域OLの幅が、車両1に近いほど狭く、離れるにつれ
て広くなるように設定した例である。図22(c)は重
複領域OLの幅を、車両1に近い部分はなるべく広くと
り、ある程度離れた遠方部分についてはほぼ一定になる
ように設定した例である。
定例を用いてもよいし、また、ここで示した以外の方法
によって、重複領域OLを設定してもよい。ただし、重
複領域OLの設定の目安は、次の通りである。
重像になって見づらくならないように、あまり広くしす
ぎないこと。
見えることのないように、狭くしすぎないことこの2点
を考慮した場合には、図22(c)の例が好ましいとい
える。なお、図22では、重複領域OLは、撮影領域A
R2,AR3が重なり合った部分の中心に合わせて設定
しているが、必ずしも中心に合わせなくてもよい。
されるものではなく、特許請求の範囲の個々の請求項に
記載の事項の範囲内で、具体的な構成を変更して実施可
能である。
車、軽自動車、貨物自動車、バス等を含む。また、本発
明の技術思想が適用されうるものであれば、クレーン
車、シャベルカー等の特殊車両も本発明の車両とするこ
とができる。
に必要なカメラは一時に設置されることを前提として、
説明を行った。これに加えて、例えば、すでに設置され
ているカメラでは監視範囲が不十分であるため、さらに
カメラを増やすような場合でも、本発明は有効である。
すなわち、・追加するカメラを、どの位置でどの向きに
設置するか・追加したカメラの撮影画像を用いて新たな
合成画像を作る際に、元々設置されていたカメラに係る
部分画像と追加したカメラに係る部分画像との境界を、
どこに設定するかという問題に対しても、すでに説明し
たような方法が適用可能である。
央に後ろ向きに視野180度を見渡すカメラのみが設置
されており、その後、後方領域と助手席側領域とを併せ
て示すような合成画像を表示できるように、助手席側領
域を撮影するカメラを新たに追加するような場合が考え
られる。このような場合にも、本発明に係る車両周囲監
視装置の調整方法は適用可能である。
テーブルを作成するためには、仮想視点から見た合成画
像の各画素に対応する各カメラ画像の画素の座標を決め
る必要がある。
像の各画素に対応するワールド座標系(Xw、Yw、Z
w)を求め、そのワールド座標系の3次元座標に対応す
るカメラ画像の画素の座標を求める2段階を考えると判
りやすい。
像の各画素と各カメラ画像の画素との関係だけであり、
このワールド座標系を経由するマッピングテーブルに限
定されるものではない。ただし、このワールド座標系を
経由するマッピングテーブルは、合成画像の実際の世界
での座標系であるワールド座標系での意味付けが明確に
なるため、周囲の状況を実際の距離、位置関係と対応付
けやすい合成画像を生成する点で重要である。
して、視点のワールド座標系での座標を位置ベクトルTv
=(Txv、Tyv、Tzv)、視線の向きを、視平面座標系を
ワールド座標系の向きへ一致させる回転を表す3行3列
の回転行列Rvで表すとすると、合成画像の視点座標(Vx
e, Vye, Vze)の対応するワールド座標(Xw, Yw, Zw)
は、式(1)で求められる。
関係を説明する模式図である。
視線がワールド座標系Y-Z平面に対して水平回転の角度
(方位角)をαv、X-Z平面に対してなす傾きの角度(仰
角)をβvとし、カメラの光軸周りの回転(Twist)をγ
vとすると、回転行列Rvは、
Vze)のVxe、Vyeと、投影面上の2次元座標Uv、Vvの関係
は、透視投影変換より焦点距離fvを用いて以下の式
(3)で表される。
ムやCCDとして、その大きさに対応するmmやインチであ
らわす場合や、合成画像のサイズに対応して画素であら
わす場合などがあるが、今回は投影面を投影中心を中心
として幅2、高さ2の正規化したものとし、それに対す
る焦点距離を考える。
の関係は、画像の右上から(Sv、Tv)の位置にある画素
に対応する投影面上の座標(Uv, Vv)は、画像の横幅を
Wv画素、縦幅をHv画素とすれば、 Uv = 2×Sv/Wv −1 Vv = 2×Tv/Hv −1 …(4) として求まる。
v)に対応するワールド座標系の3次元座標(Xw、Yw、Z
w)は、式(1)〜(4)より、カメラの位置Txv, Tyv,
Tzv,カメラの向きαv、βv、γv, 焦点距離fvより次の
式(5)で求めることができる。
(Sv、Tv)に対応する奥行きVzeが未定である。言い換
えると、合成画像に写る対象物までの各画素からの奥行
き値を定める必要がある。
知ることができれば、各画素の奥行きを得ることができ
るが、一般には困難である。そこで、仮想視点から見え
る対象物の形状に何らかのモデルを仮定することによ
り、上記Vzeを求め、合成画像の座標とワールド座標系
の3次元座標との関係を求めることを行う。
定した場合について説明する。
(路面)に存在すると仮定すると、ワールド座標系の3
次元座標(Xw,Yw,Zw)は、以下の平面の方程式を満
たす。
と、
とにより、仮想視点の合成画像の画素の座標(Sv, Tv)
から、対応するワールド座標系の平面の3次元座標(Xw,
Yw,Zw)を求めることができる。
Yw, Zw)に対応する、各カメラ画像の各画像の座標は式
(1)と同様な関係式に、各カメラの位置、向きに対応
するTx、Ty、Tz、α、β、γのパラメータを代入して計
算することにより求めることができる。
向きをα1, β1, γ1とすれば、合成画像の画素(Sv,T
v)に対応するカメラ1のカメラ座標系Xe1, Ye1, Ze1
が,以下の式(8)より計算できる。
関係は、カメラ1の焦点距離をf1として、式(3)より U1 = f1/Ze1×Xe1 V1 = f1/Ze1×Ye1 …(9) として計算できる。対応するカメラ画像の画素は、カメ
ラ画像のサイズを縦H1画素、横W1画素として、アスペク
ト比1:1、カメラ中心が画像の中心と考えると、次の
式(10)で計算できる。 S1 = W1/2×(Uv +1) T1 = H1/2×(Vv +1) …(10)
(Sv, Tv)に対応するカメラ1の画像の画素(S1, T1)
を求めることができた。同様にカメラ1以外の一般のカ
メラnに対しても(Sv, Tv)に対応する画素座標(Sn,
Tn)が計算できる。実際にパラメータテーブルには、そ
の中から、(Sn, Tn)が実際のカメラ画像の範囲内に写
っているか、画素の拡大、縮小率が大きくないかなどの
種々の条件により、その最適なものを1つまたは複数選
び、カメラ番号nとその座標(Sn, Tn)を書きこむ。
に写っている物体は路面平面を無限遠に延ばしても路面
平面上には載らないので、仮想視点から見ることことは
できない。
反映するために、対象の3次元形状として図25に示す
ような円筒モデルを考える。このモデルは、仮想視点の
向きが路面に対して平行に近くなった場合などに有効で
ある。
円筒モデルを考えると、楕円円筒の中心を(Xc,Zc)と
し、楕円のパラメータ(a, c)を用いて、そのモデルを次
の式(11)としてあらわす。なお、X軸、Z軸以外に
軸を持つモデルへも、XZ平面上での回転を考えること
により、容易に拡張できる。
去することによって、仮想視点の合成画像の座標(Sv, T
v)に対応するワールド座標系の3次元座標(Xw, Yw, Z
w)を求めることができる。この座標から、前記路面平
面モデルと同様に、各カメラ画像の対応する画素を計算
することにより、仮想視点画像の画素(Sv, Tv)と、カメ
ラ画像の画素(Sn, Tn)の関係を求め、マッピングテーブ
ルを作成する。
せも可能である。先に路面平面モデルによるワールド座
標系の3次元座標を求めて、その3次元座標が、円筒モ
デルの外側、もしくは平面との交点を持たずに解を生じ
ない場合は、次に円筒モデルによる3次元座標を求め
る。これにより路面平面モデルと円筒モデルの複合によ
る合成が可能となる。
ため、周囲をお椀状の疑似円筒モデルを導入する。モデ
ルの形状を図26に示す。仮想視点画像の周辺になる
程、遠方の部分が圧縮されて合成され、より広い範囲が
表示可能となる。この疑似円筒の形状を式(12)で表
す。
Z軸方向の(a, b, c)の長さを持つ。前記円筒モデル
と同様に、式(12)および式(5)から、仮想視点か
らの合成画像の座標に対応するワールド座標系の3次元
座標(Xw, Yw, Zw)を計算し、合成画像の各画素と、各
カメラ画像の画素の対応関係を求めることが可能とな
る。
ルとの組合せによる複合モデルによる合成も可能であ
る。
同士の境界近傍に存在する物体の画像がその境界に沿っ
て変形されるので、合成画像上で消失することがない。
したがって、車の周囲の情報をより正確に運転者に伝
え、より安全な運転を支援することが可能となる。
構成を示すブロック図である。
を示す図である。
示す図である。
例を示す図である。
を示す図である。
示す図である。
例を示す図である。
を示す図である。
した合成画像の例を示す図である。
例を示す図である。
例を示す図である。
像の例を示す図である。
ある。
生成した合成画像の例を示す図である。
ある。
生成した合成画像の例を示す図である。
一例を示す図である。
例を示す図である。
部にある物体が消失する場合を示す図である。
部にある物体が二重像になる場合を示す図である。
二重像にもならない場合を示す図である。
PIC2,PID1〜PID4,PIE1〜PIE4,
PIF1〜PIF4 部分画像 BLA12,BLA23,BLA34,BLB12,B
LC12,BLD12,BLD23,BLD34,BL
E12,BLE23,BLE34,BLE14,BLF
12,BLF23,BLF34,BLF14 境界
Claims (8)
- 【請求項1】 車両の周囲を撮影する、少なくとも第1
および第2のカメラを含む複数のカメラと、 前記複数のカメラの撮影画像を入力とし、これらのカメ
ラ画像から得た部分画像を合成し、この合成画像を表示
装置に表示させる画像処理部とを備え、 前記合成画像は、前記第1のカメラに係る第1の部分画
像と前記第2のカメラに係る第2の部分画像とが、隣り
合うように配置されたものであり、 前記第1および第2のカメラは、 その撮影方向が、それぞれ、前記第1の部分画像と前記
第2の部分画像との境界の近傍において、前記境界の方
向とほぼ一致するように、設置されていることを特徴と
する車両周囲監視装置。 - 【請求項2】 請求項1記載の車両周囲監視装置におい
て、 前記第1および第2のカメラの撮影方向と前記境界の方
向とがなす角度は、それぞれ、10度以下であることを
特徴とする車両周囲監視装置。 - 【請求項3】 請求項1記載の車両周囲監視装置におい
て、 前記合成画像は、 前記第1の部分画像と前記第2の部分画像との境界にお
いて、前記第1および第2の部分画像を混合したブレン
ド画像が配置されたものであることを特徴とする車両周
囲監視装置。 - 【請求項4】 請求項1記載の車両周囲監視装置におい
て、 前記第1のカメラは、当該車両の前の左または右端部
に、右または左斜め前方に向けて配置されており、 前記第2のカメラは、当該車両の左または右側部に、左
または右斜め前方に向けて配置されていることを特徴と
する車両周囲監視装置。 - 【請求項5】 請求項4記載の車両周囲監視装置におい
て、 前記複数のカメラは、 当該車両の左または右側部に、左または右斜め後方に向
けて配置されている第3のカメラと、 当該車両の後ろの左または右端部に、右または左斜め後
方に向けて配置されている第4のカメラとを含むことを
特徴とする車両周囲監視装置。 - 【請求項6】 請求項1記載の車両周囲監視装置におい
て、 前記第1のカメラは、当該車両の前の右または左端部
に、左または右斜め前方に向けて配置されており、 前記第2のカメラは、当該車両の前の左または右端部
に、左または右斜め後方に向けて配置されていることを
特徴とする車両周囲監視装置。 - 【請求項7】 請求項6記載の車両周囲監視装置におい
て、 前記複数のカメラは、 当該車両の後ろの左または右端部に、右または左斜め後
方に向けて配置されている第3のカメラと、 当該車両の後ろの右または左端部に、右または左斜め前
方に向けて配置されている第4のカメラとを含むことを
特徴とする車両周囲監視装置。 - 【請求項8】 車両の周囲を撮影する複数のカメラと、
前記複数のカメラの撮影画像から得た部分画像を合成
し、この合成画像を表示装置に表示させる画像処理部と
を備えた車両周囲監視装置を調整する方法であって、 前記複数のカメラのうち、前記合成画像において隣り合
って配置される部分画像をそれぞれ撮影する第1および
第2のカメラを、その撮影領域がオーバーラップするよ
うに配置し、 前記第1のカメラに係る部分画像と前記第2のカメラに
係る部分画像との境界の近傍において、前記第1および
第2のカメラの撮影方向が、それぞれ、前記境界の方向
とほぼ一致するように、前記第1および第2のカメラ並
びに前記画像処理部の少なくともいずれか1つを、調整
することを特徴とする車両周囲監視装置の調整方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002282362A JP3652678B2 (ja) | 2001-10-15 | 2002-09-27 | 車両周囲監視装置およびその調整方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001316355 | 2001-10-15 | ||
JP2001-316355 | 2001-10-15 | ||
JP2002282362A JP3652678B2 (ja) | 2001-10-15 | 2002-09-27 | 車両周囲監視装置およびその調整方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003204547A true JP2003204547A (ja) | 2003-07-18 |
JP3652678B2 JP3652678B2 (ja) | 2005-05-25 |
Family
ID=27666307
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002282362A Expired - Lifetime JP3652678B2 (ja) | 2001-10-15 | 2002-09-27 | 車両周囲監視装置およびその調整方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3652678B2 (ja) |
Cited By (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005167528A (ja) * | 2003-12-02 | 2005-06-23 | Nissan Motor Co Ltd | 車両周囲画像変換装置 |
JP2005223568A (ja) * | 2004-02-05 | 2005-08-18 | Nissan Motor Co Ltd | 画像合成装置 |
JP2006171849A (ja) * | 2004-12-13 | 2006-06-29 | Nissan Motor Co Ltd | 画像処理装置 |
JP2006237969A (ja) * | 2005-02-24 | 2006-09-07 | Aisin Seiki Co Ltd | 車両周辺監視装置 |
JP2006238131A (ja) * | 2005-02-25 | 2006-09-07 | Aisin Seiki Co Ltd | 車両周辺監視装置 |
JP2006252389A (ja) * | 2005-03-14 | 2006-09-21 | Aisin Seiki Co Ltd | 周辺監視装置 |
JP2006279752A (ja) * | 2005-03-30 | 2006-10-12 | Denso Corp | 車両直下画像表示制御装置および車両直下画像表示制御プログラム |
JP2006338566A (ja) * | 2005-06-06 | 2006-12-14 | Alpine Electronics Inc | 画像合成装置および合成方法 |
JP2006352249A (ja) * | 2005-06-13 | 2006-12-28 | Aisin Seiki Co Ltd | 監視装置及び車両用監視装置 |
JP2007502473A (ja) * | 2003-08-15 | 2007-02-08 | スカーペ アクティーゼルスカブ | 有界三次元対象物の分類と空間ローカライゼーションのためのコンピュータ視覚システム |
JP2007142735A (ja) * | 2005-11-17 | 2007-06-07 | Aisin Seiki Co Ltd | 周辺監視システム |
JP2007180720A (ja) * | 2005-12-27 | 2007-07-12 | Alpine Electronics Inc | 車両運転支援装置 |
JP2007257258A (ja) * | 2006-03-23 | 2007-10-04 | Honda Motor Co Ltd | 車両周辺監視システム、車両、車両周辺監視プログラム、車両周辺監視システムの構成方法 |
JP2008028605A (ja) * | 2006-07-20 | 2008-02-07 | Matsushita Electric Ind Co Ltd | 監視用画像記録装置 |
JP2008195258A (ja) * | 2007-02-14 | 2008-08-28 | Alpine Electronics Inc | 画面切り替え判定装置、車両周辺監視装置および画面切り替え判定方法 |
JP2009081496A (ja) * | 2007-09-25 | 2009-04-16 | Hitachi Ltd | 車載カメラ |
JP2009524171A (ja) * | 2006-01-24 | 2009-06-25 | ダイムラー・アクチェンゲゼルシャフト | 複数の画像を結合して鳥瞰図画像にする方法 |
JP2009253673A (ja) * | 2008-04-07 | 2009-10-29 | Clarion Co Ltd | 車両用周囲状況表示装置 |
EP2233359A1 (en) | 2009-03-25 | 2010-09-29 | Aisin Seiki Kabushiki Kaisha | Surroundings monitoring device for a vehicle |
JP2011015353A (ja) * | 2009-07-06 | 2011-01-20 | Toshiba Alpine Automotive Technology Corp | 車両用画像表示装置 |
US8009868B2 (en) | 2006-03-02 | 2011-08-30 | Alpine Electronics, Inc. | Method of processing images photographed by plural cameras and apparatus for the same |
WO2011129276A1 (ja) * | 2010-04-12 | 2011-10-20 | 住友重機械工業株式会社 | 画像生成装置及び操作支援システム |
JP2011221686A (ja) * | 2010-04-07 | 2011-11-04 | Nissan Motor Co Ltd | 画像情報提供装置および画像情報提供方法 |
US8294563B2 (en) | 2009-08-03 | 2012-10-23 | Alpine Electronics, Inc. | Vehicle-surrounding image display apparatus and vehicle-surrounding image display method |
US8319618B2 (en) | 2008-11-28 | 2012-11-27 | Fujitsu Limited | Image processing apparatus, image processing method, and recording medium |
JP2013009065A (ja) * | 2011-06-23 | 2013-01-10 | Nissan Motor Co Ltd | 車両用監視装置及び車両の監視方法 |
US8576285B2 (en) | 2009-03-25 | 2013-11-05 | Fujitsu Limited | In-vehicle image processing method and image processing apparatus |
US8872919B2 (en) | 2005-02-24 | 2014-10-28 | Aisin Seiki Kabushiki Kaisha | Vehicle surrounding monitoring device |
JP2014531078A (ja) * | 2011-10-14 | 2014-11-20 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh | 車両周辺の表示方法 |
JP2017134775A (ja) * | 2016-01-29 | 2017-08-03 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP2018207430A (ja) * | 2017-06-09 | 2018-12-27 | キヤノン株式会社 | 撮像装置の設置方法および制御手段 |
WO2019155936A1 (ja) * | 2018-02-07 | 2019-08-15 | 株式会社東海理化電機製作所 | 車両用視認装置 |
JP2019532860A (ja) * | 2016-09-14 | 2019-11-14 | アマゾン テクノロジーズ インコーポレイテッド | 航空機用光センサ構成 |
JP2020119492A (ja) * | 2019-01-28 | 2020-08-06 | パナソニックIpマネジメント株式会社 | 画像合成装置、及び、制御方法 |
-
2002
- 2002-09-27 JP JP2002282362A patent/JP3652678B2/ja not_active Expired - Lifetime
Cited By (48)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007502473A (ja) * | 2003-08-15 | 2007-02-08 | スカーペ アクティーゼルスカブ | 有界三次元対象物の分類と空間ローカライゼーションのためのコンピュータ視覚システム |
JP4865557B2 (ja) * | 2003-08-15 | 2012-02-01 | スカーペ テクノロジーズ アクティーゼルスカブ | 有界三次元対象物の分類と空間ローカライゼーションのためのコンピュータ視覚システム |
JP2005167528A (ja) * | 2003-12-02 | 2005-06-23 | Nissan Motor Co Ltd | 車両周囲画像変換装置 |
JP4655473B2 (ja) * | 2003-12-02 | 2011-03-23 | 日産自動車株式会社 | 車両周囲画像変換装置 |
JP2005223568A (ja) * | 2004-02-05 | 2005-08-18 | Nissan Motor Co Ltd | 画像合成装置 |
JP2006171849A (ja) * | 2004-12-13 | 2006-06-29 | Nissan Motor Co Ltd | 画像処理装置 |
JP4569285B2 (ja) * | 2004-12-13 | 2010-10-27 | 日産自動車株式会社 | 画像処理装置 |
JP2006237969A (ja) * | 2005-02-24 | 2006-09-07 | Aisin Seiki Co Ltd | 車両周辺監視装置 |
US8872919B2 (en) | 2005-02-24 | 2014-10-28 | Aisin Seiki Kabushiki Kaisha | Vehicle surrounding monitoring device |
JP2006238131A (ja) * | 2005-02-25 | 2006-09-07 | Aisin Seiki Co Ltd | 車両周辺監視装置 |
JP4687160B2 (ja) * | 2005-03-14 | 2011-05-25 | アイシン精機株式会社 | 周辺監視装置 |
JP2006252389A (ja) * | 2005-03-14 | 2006-09-21 | Aisin Seiki Co Ltd | 周辺監視装置 |
JP2006279752A (ja) * | 2005-03-30 | 2006-10-12 | Denso Corp | 車両直下画像表示制御装置および車両直下画像表示制御プログラム |
JP4556742B2 (ja) * | 2005-03-30 | 2010-10-06 | 株式会社デンソー | 車両直下画像表示制御装置および車両直下画像表示制御プログラム |
JP2006338566A (ja) * | 2005-06-06 | 2006-12-14 | Alpine Electronics Inc | 画像合成装置および合成方法 |
JP2006352249A (ja) * | 2005-06-13 | 2006-12-28 | Aisin Seiki Co Ltd | 監視装置及び車両用監視装置 |
JP4706906B2 (ja) * | 2005-06-13 | 2011-06-22 | アイシン精機株式会社 | 車両用監視装置 |
JP2007142735A (ja) * | 2005-11-17 | 2007-06-07 | Aisin Seiki Co Ltd | 周辺監視システム |
US8031225B2 (en) | 2005-11-17 | 2011-10-04 | Aisin Seiki Kabushiki Kaisha | Surroundings monitoring system for a vehicle |
JP4606322B2 (ja) * | 2005-12-27 | 2011-01-05 | アルパイン株式会社 | 車両運転支援装置 |
JP2007180720A (ja) * | 2005-12-27 | 2007-07-12 | Alpine Electronics Inc | 車両運転支援装置 |
JP2009524171A (ja) * | 2006-01-24 | 2009-06-25 | ダイムラー・アクチェンゲゼルシャフト | 複数の画像を結合して鳥瞰図画像にする方法 |
US8009868B2 (en) | 2006-03-02 | 2011-08-30 | Alpine Electronics, Inc. | Method of processing images photographed by plural cameras and apparatus for the same |
JP2007257258A (ja) * | 2006-03-23 | 2007-10-04 | Honda Motor Co Ltd | 車両周辺監視システム、車両、車両周辺監視プログラム、車両周辺監視システムの構成方法 |
JP2008028605A (ja) * | 2006-07-20 | 2008-02-07 | Matsushita Electric Ind Co Ltd | 監視用画像記録装置 |
JP2008195258A (ja) * | 2007-02-14 | 2008-08-28 | Alpine Electronics Inc | 画面切り替え判定装置、車両周辺監視装置および画面切り替え判定方法 |
JP2009081496A (ja) * | 2007-09-25 | 2009-04-16 | Hitachi Ltd | 車載カメラ |
JP2009253673A (ja) * | 2008-04-07 | 2009-10-29 | Clarion Co Ltd | 車両用周囲状況表示装置 |
US8319618B2 (en) | 2008-11-28 | 2012-11-27 | Fujitsu Limited | Image processing apparatus, image processing method, and recording medium |
US8576285B2 (en) | 2009-03-25 | 2013-11-05 | Fujitsu Limited | In-vehicle image processing method and image processing apparatus |
EP2233359A1 (en) | 2009-03-25 | 2010-09-29 | Aisin Seiki Kabushiki Kaisha | Surroundings monitoring device for a vehicle |
US8866905B2 (en) | 2009-03-25 | 2014-10-21 | Aisin Seiki Kabushiki Kaisha | Surroundings monitoring device for a vehicle |
JP2011015353A (ja) * | 2009-07-06 | 2011-01-20 | Toshiba Alpine Automotive Technology Corp | 車両用画像表示装置 |
US8294563B2 (en) | 2009-08-03 | 2012-10-23 | Alpine Electronics, Inc. | Vehicle-surrounding image display apparatus and vehicle-surrounding image display method |
JP2011221686A (ja) * | 2010-04-07 | 2011-11-04 | Nissan Motor Co Ltd | 画像情報提供装置および画像情報提供方法 |
US8593454B2 (en) | 2010-04-12 | 2013-11-26 | Sumitomo Heavy Industries, Ltd | Image generation device and operation support system |
JP2011221865A (ja) * | 2010-04-12 | 2011-11-04 | Sumitomo Heavy Ind Ltd | 画像生成装置及び操作支援システム |
WO2011129276A1 (ja) * | 2010-04-12 | 2011-10-20 | 住友重機械工業株式会社 | 画像生成装置及び操作支援システム |
JP2013009065A (ja) * | 2011-06-23 | 2013-01-10 | Nissan Motor Co Ltd | 車両用監視装置及び車両の監視方法 |
JP2014531078A (ja) * | 2011-10-14 | 2014-11-20 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh | 車両周辺の表示方法 |
JP2017134775A (ja) * | 2016-01-29 | 2017-08-03 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP2019532860A (ja) * | 2016-09-14 | 2019-11-14 | アマゾン テクノロジーズ インコーポレイテッド | 航空機用光センサ構成 |
US10778960B2 (en) | 2016-09-14 | 2020-09-15 | Amazon Technologies, Inc. | Aerial vehicle sensor positioning |
US11284056B2 (en) | 2016-09-14 | 2022-03-22 | Amazon Technologies, Inc. | Aerial vehicle sensor positioning |
JP2018207430A (ja) * | 2017-06-09 | 2018-12-27 | キヤノン株式会社 | 撮像装置の設置方法および制御手段 |
JP7140472B2 (ja) | 2017-06-09 | 2022-09-21 | キヤノン株式会社 | 撮像装置の設置方法および制御手段 |
WO2019155936A1 (ja) * | 2018-02-07 | 2019-08-15 | 株式会社東海理化電機製作所 | 車両用視認装置 |
JP2020119492A (ja) * | 2019-01-28 | 2020-08-06 | パナソニックIpマネジメント株式会社 | 画像合成装置、及び、制御方法 |
Also Published As
Publication number | Publication date |
---|---|
JP3652678B2 (ja) | 2005-05-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2003204547A (ja) | 車両周囲監視装置およびその調整方法 | |
KR100866450B1 (ko) | 차량 주위 감시 장치 및 그 조정 방법 | |
KR100522218B1 (ko) | 감시 시스템, 카메라 조정방법 및 차량감시 시스템 | |
JP3300334B2 (ja) | 画像処理装置および監視システム | |
JP3773433B2 (ja) | 移動体の周囲監視装置 | |
US8201199B2 (en) | Monitoring system | |
JP5444338B2 (ja) | 車両周囲監視装置 | |
JP4907883B2 (ja) | 車両周辺画像表示装置および車両周辺画像表示方法 | |
JP4596978B2 (ja) | 運転支援システム | |
US7190259B2 (en) | Surrounding surveillance apparatus and mobile body | |
US11356618B2 (en) | Image synthesis device for electronic mirror and method thereof | |
CN108765496A (zh) | 一种多视点汽车环视辅助驾驶系统及方法 | |
JP4248570B2 (ja) | 画像処理装置並びに視界支援装置及び方法 | |
JP4315968B2 (ja) | 画像処理装置並びに視界支援装置及び方法 | |
US20090102921A1 (en) | Vehicle-mounted image capturing apparatus | |
US20190100145A1 (en) | Three-dimensional image driving assistance device | |
KR20010112433A (ko) | 화상처리장치 및 감시시스템 | |
JP3753681B2 (ja) | 監視システム | |
JP7280006B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP5226621B2 (ja) | 車両用画像表示装置 | |
JP7301476B2 (ja) | 画像処理装置 | |
Nishiguchi et al. | Image Processing Method for Perception of Status of Approaching Vehicles Using a Camera System |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20041115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041214 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050215 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050223 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 3652678 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080304 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090304 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100304 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110304 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110304 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120304 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130304 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130304 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140304 Year of fee payment: 9 |
|
EXPY | Cancellation because of completion of term |