JP2008152424A - 画像表示装置 - Google Patents

画像表示装置 Download PDF

Info

Publication number
JP2008152424A
JP2008152424A JP2006338154A JP2006338154A JP2008152424A JP 2008152424 A JP2008152424 A JP 2008152424A JP 2006338154 A JP2006338154 A JP 2006338154A JP 2006338154 A JP2006338154 A JP 2006338154A JP 2008152424 A JP2008152424 A JP 2008152424A
Authority
JP
Japan
Prior art keywords
image
mapping table
vehicle
display device
image display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006338154A
Other languages
English (en)
Other versions
JP4859652B2 (ja
Inventor
Koichi Abe
光一 阿部
Tasuku Nomura
翼 野村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2006338154A priority Critical patent/JP4859652B2/ja
Priority to US11/945,718 priority patent/US8760515B2/en
Publication of JP2008152424A publication Critical patent/JP2008152424A/ja
Application granted granted Critical
Publication of JP4859652B2 publication Critical patent/JP4859652B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2624—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/76—Television signal recording
    • H04N5/765—Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/102—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using 360 degree surveillance camera system
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/402—Image calibration
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8006—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying scenes of vehicle interior, e.g. for monitoring passengers or cargo
    • B60R2300/8013—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying scenes of vehicle interior, e.g. for monitoring passengers or cargo for child monitoring
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【目的】トップビュー画像表示において、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくす「画像表示装置」を提供することである。
【構成】複数のカメラで撮影した車両周辺の画像を合成してトップビュー画像を表示する画像表示装置であり、各カメラで撮影された車両前方、車両後方、車両右側、車両左側の風景のそれぞれを記憶する画像メモリ、後座席に乗っている搭乗者数を検出して使用するマッピングテーブルを決定するマッピングテーブル決定部、搭乗者数に応じたマッピングテーブルを用いて各画像メモリから画像データを読み出し、フレームメモリにマッピングしてトップビュー画像を表示するマッピング部を備えている。
【選択図】図１

Description

本発明は画像表示装置に係わり、特に、車両周辺画像を複数のカメラで取り込み、各カメラで撮影した画像を合成して車両上方の視点から眺めた合成画像をフレームメモリに描画し、該フレームメモリより画像データを読み出して合成画像を表示する画像表示装置に関する。
車庫入れや駐車等に際して運転手を支援するため支援システムが研究され、実用化されている。かかる支援システムとして車両周辺画像を複数のカメラで取り込み、各カメラで撮影した画像を合成して車両上方の視点から眺めた合成画像(トップビュー画像)をフレームメモリに描画し、該フレームメモリより画像データを読み出してモニターに表示するトップビューシステムが知られている(特許文献1参照)。
このトップビューシステムは、図２１（A），（B)に示すように、車両周囲を撮影する複数の魚眼カメラ１a〜１dを車両２のフロント、両サイド、リアに装着し、画像合成処理部３が各カメラ１a〜１dから取り込んだ画像を用いて、図２１（C）に示す車両上方所定の位置（仮想視点）４から所定の方向を眺めた風景の合成画像を作成してモニター５に表示し、これにより駐車、車庫入れなどを支援する。
画像合成処理部３は合成に際して、マッピングテーブルを用いて各カメラで撮影した画像部分をフレームメモリにマッピングして表示する。図２２は各魚眼カメラ１a〜１dで撮影した魚眼図形IMa〜IMdを画面対応のフレームメモリ６にマッピングする場合の説明図である。魚眼図形IMa〜IMdはフレームメモリ６の対応する領域６a〜６dにそれぞれマッピングされ、また、予め撮影されて保存されている車両画像７はフレームメモリ６の中央部にマッピングされ、これによりフレームメモリ６に１画面のトップビュー画像が生成される。
図２３はマッピング法の詳細な説明図であり、車両２に取り付けた魚眼カメラ１a〜１dにより車両前方の風景、車両左側の風景、車両右側の風景、車両後方の風景を撮影する。各魚眼カメラ１a〜１dはそれぞれ魚眼レンズにより前方１８５0の範囲にわたって風景を撮影することができ、カメラ１aはラインＦＦより前方の風景を撮影し、カメラ１bはラインＬＬより左側の車両左側風景を撮影し、カメラ１cはラインＲＲより右側の車両右側風景を撮影し、カメラ１dはラインＢＢより後方の車両後方風景を撮影する。
図２３（Ｂ）に示すようにカメラ１bで車両左側の地面に描かれた矩形の格子模様を撮影すると図２３(Ｃ)示すように魚眼で見た図形（魚眼図形という）になる。
各カメラで撮影した魚眼図形を地面の平面上に投影することによりトップビュー画像を得ることができる。矩形図形６と魚眼図形７において同一番号を付した領域は対応しており、矩形図形６における領域１〜６は魚眼図形７では領域１〜６になる。したがって、矩形図形６の領域１〜６の画像を記憶すべきフレームメモリ位置に、該領域に対応する魚眼図形７の領域１〜６の画像を記憶し、同様に、全カメラで撮影した画像をフレームメモリに描画して読み出せば、魚眼カメラ１a〜１dで撮影した画像を地面の平面上に投影した図形に視点変換してモニターに表示することが可能になる。
以上のように、従来は複数のカメラ映像を地面の平面上に投影することによりトップビュー画像を発生している。しかし、搭乗者数により地面に対して車体が傾くと、カメラ位置が変化し、カメラと投影平面である地面の位置関係がずれ、結果としてトップビュー画像における複数カメラの撮影画像のつなぎ目がずれてしまう問題が発生する。図２４はかかる点を説明する図であり、(Ａ)は車体が傾いていない場合であり、(Ｂ)は後座席の搭乗者数が増えて車体がθ傾いた場合であり、カメラ１ｄの位置が下がる。この結果、車体が傾いていなければ、図２５（Ａ）に示すようにカメラ１ｂ，１ｃで撮影した画像IMb，IMcとカメラ１dで撮影した画像IMdのつなぎ目CNにおいてズレが発生しないが、車体が傾くと図２５（Ｂ）に示すよう画像のつなぎ目CNにおいて縦線にズレが発生する。なお、図２５(Ａ)は運転席と助手席に合計２名が乗車したときのトップビュー画像であり、（Ｂ）は運転席と助手席の２名のほかに後座席に５名、トータル７名が乗車したときのトップビュー画像である。２名乗車時は床の線のつなぎ目が概ね合っているが、７名乗車時には車両後側の荷重が増えて車体が傾いてカメラ位置が下がり、カメラと投影平面の位置関係がずれ、この結果、床の縦線が繋がらなくなっている。
従来技術として、複数台の車載カメラの撮像画像を合成して表示するときの画面表示を見やすくする技術がある(特許文献２参照)。この従来技術は、自車両の周り近傍を撮像する複数のカメラを車両に搭載し、各カメラ画像を合成して表示装置の画面に表示するに際し、隣接するカメラ画像の画素データ間の差が小さくなるように各カメラ画像の画素データを補正するものである。例えば、隣接するカメラ画像間の画素データの平均値が等しくなるように補正し、これにより、合成画像が見やすい画像とするものである。
特許３３００３３４号 特開２００２−３２４２３５号
しかし、上記従来技術は、トップビュー画像において、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすものではない。
以上からは、本発明の目的はトップビュー画像などの合成画像表示において、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすことである。
本発明の別の目的はトップビュー画像などの合成画像において、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレを簡単な構成でなくすことである。
本発明の別の目的はトップビュー画像などの合成画像において、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレを精度良くなくすことである。
本発明は、車両周辺画像を複数のカメラで取り込み、各カメラで撮影した画像を合成して車両上方の視点から眺めた合成画像をフレームメモリに描画し、該フレームメモリより画像データを読み出して合成画像を表示する画像表示装置である。
（１）第１態様の画像表示装置
本発明の第１態様の画像表示装置は、各カメラで撮影された車両前方の風景、車両後方の風景、車両右側の風景、車両左側の風景のそれぞれを記憶する画像メモリ、車両前座席を除いた席に乗っている所定搭乗者数毎に設けられ、前記各画像メモリの画素位置とフレームメモリの画素位置との対応関係を示すマッピングテーブルを保存するマッピングメモリ、前記搭乗者数を検出して使用するマッピングテーブルを決定するマッピングテーブル決定部、前記搭乗者数に応じたマッピングテーブルを用いて前記各画像メモリから画像データを読み出し、前記フレームメモリにマッピングするマッピング部を備えている。
前記第１態様の画像表示装置において、マッピングテーブル決定部は、車両前座席を除いた席に乗っている搭乗者数を検出する検出部、所定搭乗者数に対応させて使用するマッピングテーブルを記憶する記憶部、車両の搭乗者数に応じた使用マッピングテーブルを決定して前記マッピング部に通知するマッピングテーブル決定制御部を備えている。搭乗者数検出部は、(１)座席シートに搭乗者の着座を検出する感圧センサーを埋め込むことにより構成し、あるいは、(２)車室天井に車室内を撮影するカメラと、該カメラの撮影画像を画像処理して搭乗者数を検出する画像処理部で構成し、あるいは(３)する、搭乗者を検出する赤外線センサーで構成する。
前記第１態様の画像表示装置は、更に、前記フレームメモリに描画された合成画像を取り込み、所定の２つの画像メモリから読み出して描画した２つの画像部分のつなぎ目における白線のズレ量を検出する画像処理部を備え、前記マッピングテーブル決定制御部は前記白線ズレ量に基づいて搭乗者数を補正し、補正搭乗者数に応じて使用マッピングテーブルを決定する。
（２）第２態様の画像表示装置
本発明の第２態様の画像表示装置は、各カメラで撮影された車両前方の風景、車両後方の風景、車両右側の風景、車両左側の風景のそれぞれを記憶する画像メモリ、車両前座席を除いた席に乗っている搭乗者の総重量の所定範囲毎に設けられ、前記各画像メモリの画素位置とフレームメモリの画素位置との対応関係を示すマッピングテーブルを保存するマッピングメモリ、前記搭乗者の総重量を検出して使用するマッピングテーブルを決定するマッピングテーブル決定部、前記搭乗者の総重量に応じたマッピングテーブルを用いて前記各画像メモリから画像データを読み出し、前記フレームメモリにマッピングするマッピング部を備えている。
上記第２態様の画像表示装置における前記マッピングテーブル決定部は、車両前座席を除いた席に乗っている搭乗者の総重量を検出する検出部、搭乗者の総重量範囲に対応させて使用するマッピングテーブルを記憶する記憶部、搭乗者の総重量に応じた使用マッピングテーブルを決定して前記マッピング部に通知するマッピングテーブル決定制御部を備えている。総重量検出部は、座席シートに搭乗者の重量を検出する重量検出センサーを埋め込むことにより構成する。また、トランクに荷物重量検出センサーを設け、該荷物の重量を前記搭乗者の総重量に含める。
上記第２態様の画像表示装置は、更に、前記フレームメモリに描画された合成画像を取り込み、所定の２つの画像メモリから読み出して描画した２つの画像部分における白線のズレ量を検出する画像処理部を備え、前記マッピングテーブル決定制御部は前記白線ズレ量に基づいて総重量を補正し、補正総重量に応じて使用マッピングテーブルを決定する。
（３）第３態様の画像表示装置
本発明の第３態様の画像表示装置は、各カメラで撮影された車両前方の風景、車両後方の風景、車両右側の風景、車両左側の風景のそれぞれを記憶する画像メモリ、車体と車軸の間隔である車高毎に設けられ、前記各画像メモリの画素位置とフレームメモリの画素位置との対応関係を示すマッピングテーブルを保存するマッピングメモリ、前記車高を検出して使用するマッピングテーブルを決定するマッピングテーブル決定部、前記車高に応じたマッピングテーブルを用いて前記各画像メモリから画像データを読み出し、前記フレームメモリにマッピングするマッピング部を備えている。マッピングテーブル決定部は、車体と車軸の間隔である車高を検出する検出部、車高範囲に対応させて使用するマッピングテーブルを記憶する記憶部、車高に応じて使用マッピングテーブルを決定して前記マッピング部に通知するマッピングテーブル決定制御部 を備えている。
（４）第４態様の画像表示装置
本発明の第４態様の画像表示装置は、各カメラで撮影された車両前方の風景、車両後方の風景、車両右側の風景、車両左側の風景のそれぞれを記憶する画像メモリ、前記各画像メモリの画素位置とフレームメモリの画素位置との対応関係を示すマッピングテーブルを複数保存するマッピングメモリ、所定のマッピングテーブルを用いて前記各画像メモリから画像データを読み出し、前記フレームメモリにマッピングするマッピング部、前記フレームメモリに描画された合成画像を取り込み、所定の２つの画像メモリから読み出して描画した画像部分における白線のズレ量を検出する画像処理部、前記白線ズレ量に基づいて使用するマッピングテーブルを決定して前記マッピング部に通知するマッピングテーブル決定部を備えている。画像処理部は、車両が所定速度以上で直進しているときに、前記白線ズレ量の検出処理を行なう。マッピングテーブル決定部は、前記白線ズレ量に対応させて使用するマッピングテーブルを記憶する記憶部、白線ズレ量に応じて使用マッピングテーブルを決定して前記マッピング部に通知するマッピングテーブル決定部を備えている。
本発明によれば、後座席搭乗者数、あるいは、後座席搭乗者の総重量、あるいは車高に応じてマッピングテーブルを切り替えて合成画像を生成して表示するようにしたから、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすことができる。
本発明によれば、後座席搭乗者数検出部あるいは後座席搭乗者の総重量検出部あるいは車高検出部と、後座席搭乗者数あるいは後座席搭乗者の総重量あるいは車高に応じてマッピングテーブルを用意するだけの簡単な構成で車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすことができる。
本発明によれば、所定の２つのカメラ画像を合成したつなぎ部分における白線のズレ量を検出し、該白線ズレ量に基づいて搭乗者数あるいは総重量を補正し、補正搭乗者数あるいは補正総重量に応じて使用マッピングテーブルを決定するようにしたから、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレを精度良くなくすことができる。
本発明によれば、所定の２つのカメラ画像を合成したつなぎ部分における白線のズレ量を検出し、該白線ズレ量に基づいて使用マッピングテーブルを決定するようにしたから、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレを精度良くなくすことができる。
（Ａ）第１実施例
図１は本発明の第１実施例の画像表示装置の構成図である。
車両２の前部、左右側部及び後部にカメラ１a，１b，１c，１dを取り付け（図２１参照）、車両前方の風景、車両左側の風景、車両右側の風景、車両後方の風景をそれぞれ撮影し、カメラ対応の画像メモリ２１Ａ〜２１Ｄに記憶する。各カメラ１a〜１dはそれぞれ魚眼レンズにより前方１８５0の範囲にわたって風景を撮影することができる。画像読出し部２２Ａ〜２２Ｄはそれぞれ指示された画像メモリのアドレスより画像データを読み出して出力する。
マッピングメモリ２３は、画像メモリ２１Ａ〜２１Ｄに記憶されている魚眼図形IMa〜IMｄ(図２２参照)を画面対応のフレームメモリ２５にマッピングするための多数のマッピングテーブルMPT0〜MPT5を保存する。マッピングテーブルMPT0〜MPT5は例えば後座席搭乗者数が０〜５人に対応してそれぞれ設けられている。後座席搭乗者数に応じて車体の傾き量が変化するから、画像のつなぎ目でズレが生じないように予め搭乗者数に対応させて作成したマッピングテーブルを用意してマッピングメモリ２３に保存する。
使用マッピングテーブル決定部２４は後座席の搭乗者数に基づいて使用するマッピングテーブルを決定してマッピング部２６に通知する。マッピング部２４は通知されたマッピングテーブルMTBをラスタース方向にスキャンし、順番に画素毎に、カメラ対応画像メモリとそのアドレスを読み出し、該画像メモリの該アドレスから画像データを読み出してフレームメモリ２５に書き込む。全画素について上記の書き込み処理が完了すれば、フレームメモリ２５に周辺画像データがマッピングされたことになる。車両画像保持部２７は予め車両画像を保存しているから、画像合成部２８は該車両画像と画面対応のフレームメモリ２５の周辺画像を合成してモニター２９に表示する。なお、マッピング部２６はマッピングに際して、マッピングテーブルを用いて車両画像保持部２７が保持する車両画像をフレームメモリに書き込むようにすることもできる。
車両重量に応じたマッピングテーブルMPTを用いることにより、後座席搭乗者数が５人でも図２に示すように、カメラ１b，１cで撮影した画像IMb，IMcとカメラ１dで撮影した画像IMdのつなぎ目CNにおいてズレが発生しなくなる。なお、従来は、図２５（Ｂ）に示すよう画像のつなぎ目CNにおいて縦線にズレが発生している。
図３は使用マッピングテーブル決定部２４の構成図であり、後座席の搭乗者数を検出する検出部２４a、後座席の搭乗者数に対応させて使用するマッピングテーブルのID(MPT0〜MPT5)を記憶する記憶部２４ｂ、後座席搭乗者数に応じた使用マッピングテーブルのIDを求めてマッピング部２６に通知するマッピングテーブル決定制御部２４cを有している。車両は図４に示すように７人乗りの場合、点線より前は前座席、後は後座席である。後座席の搭乗者により車体が傾き、傾き角は搭乗者数に依存する。検出部２４aは後座席に搭乗者の着座を検出する感圧センサーSc１〜Sc3，Sr１〜Sr2を埋め込むことにより構成される。マッピングテーブル決定制御部２４cは感圧センサーSc１〜Sc3，Sr１〜Sr2のオン/オフにより搭乗者数を検出し、該搭乗者数に応じたマッピングテーブルIDを記憶部２４ｂより求めてマッピング部２６に通知する。
以上では後座席の搭乗者数に対応させてマッピングテーブルを設けたが、全搭乗者数に対応させてマッピングテーブルを設けることもできる。また、以上では搭乗者数毎にマッピングテーブルを設けたが、１〜２人、３〜４人、５人に対応させてマッピングテーブルを設けることもできる。
・使用マッピングテーブル決定部の別の構成
図５は使用マッピングテーブル決定部の別の構成図であり、図３と同一部分には同一符号を付している異なる点は、後座席の搭乗者数を検出する検出部２４aの構成である。
搭乗者数検出部２４aは、車室天井に設けられ車室内を撮影するカメラ３１と、該カメラの撮影画像を画像処理して搭乗者数を検出する画像処理部３２で構成される。マッピングテーブル決定制御部２４cは画像処理部３２が検出した搭乗者数に応じたマッピングテーブルIDを記憶部２４ｂより求めてマッピング部２６に通知する。
また、後座席の搭乗者数を検出する検出部２４aを図６に示すように赤外線センサーの発光素子３３と受光素子３４で構成することもできる。すなわち、各後座席の背もたれ部に受光素子３４を設け、前座座席の後部に発光素子３３を設けることにより、感圧センサーと同様に搭乗者数を検出することができる。
以上第１実施例では、７人乗り車両について説明しているが搭乗者数に関係なく本発明を適用できるものであり以降の実施例においても同様である。
以上第１実施例によれば、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすことができる。また、後座席搭乗者数検出部と後座席搭乗者数に応じた複数のマッピングテーブルを用意するだけの簡単な構成で車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすことができる。
（Ｂ）第２実施例
図７は本発明の第２実施例の画像表示装置の構成図であり、図１の第１実施例と同一部分には同一符号を付している。異なる点は、マッピングメモリ４１が、後座席搭乗者の総重量Wに対応させてマッピングテーブルMPT0〜MPT5を保存し、使用マッピングテーブル決定部４２が後座席搭乗者の総重量に応じて使用マッピングテーブルを決定してマッピング部２６に通知する点である。後座席搭乗者の総重量Wに応じて車体の傾き量が変化するから、画像のつなぎ目でズレが生じないように予め搭乗者総重量Wに対応させて作成したマッピングテーブルを複数用意してマッピングメモリ４１に保存する。
図８は使用マッピングテーブル決定部４２の構成図であり、後座席搭乗者の総重量を検出する検出部４２a、後座席搭乗者の総重量に対応させて使用するマッピングテーブルのID(MPT0〜MPT5)を記憶する記憶部４２ｂ、後座席搭乗者の総重量Wに応じた使用マッピングテーブルのIDを求めてマッピング部２６に通知するマッピングテーブル決定制御部４２cを有している。車両２は７人乗りの場合、点線より前は前座席、後は後座席である。後座席の搭乗者により車体が傾き、傾き角は搭乗者の総重量に依存する。検出部４２aは後座席のそれぞれに搭乗者の重量を検出する歪式の重量センサー（電子秤と同じ原理）wt１〜wt5を埋め込むことにより構成される。マッピングテーブル決定制御部４２cは重量センサーwt1〜wt5から入力する重量を加算して搭乗者の総重量Wを検出し、該総重量Wに応じたマッピングテーブルのIDを記憶部４２ｂより求めてマッピング部２６に通知する。
以上では後座席搭乗者の総重量に対応させてマッピングテーブルを設けたが、トランクに乗せた荷物の重量を検出するセンサーwt6を設け、荷物重量を含めて総重量とすることができる。
第２実施例によれば、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすことができる。また、搭乗者総重量検出部と搭乗者総重量に応じた複数のマッピングテーブルを用意するだけの簡単な構成で車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすことができる。
また、第２実施例によれば、重量を検出するものであるため、搭乗者が大人と子供であるかを検出できなくても所定のマッピングテーブルを用いて画像つなぎ部でズレのないトップビュー画像を発生することができる。また、荷物重量を含めて総重量とすることができるため正しいマッピングテーブルを用いて画像つなぎ部でズレのないトップビュー画像を発生することができる。
（Ｃ）第３実施例
図９は本発明の第３実施例の画像表示装置の構成図であり、図１の第１実施例と同一部分には同一符号を付している。異なる点は、マッピングメモリ５１が、画像のつなぎ目でズレが生じないように車体と車軸間の距離である車高に対応させて予め作成したマッピングテーブルを複数保存し、使用マッピングテーブル決定部５２が車高に応じた使用マッピングテーブルを決定してマッピング部２６に通知する点である。後座席搭乗者や荷物に応じて車体の傾き量が変化し、車高が変化する。そこで、画像のつなぎ目でズレが生じないように予め車高に対応させて作成した複数のマッピングテーブルを用意してマッピングメモリ５１に保存する。
図１０は使用マッピングテーブル決定部５２の構成図であり、車高を検出する周知の車高検出部５２a、後座席搭乗者および荷物の総重量に対応させて、使用するマッピングテーブルのID(MPT0〜MPT5)を記憶する記憶部５２ｂ、車高に応じて使用マッピングテーブルのIDを求めてマッピング部２６に通知するマッピングテーブル決定制御部５２cを有している。
車高検出部５２ａは車高に対して図１１に示す出力電圧を発生して車高を検出し、マッピングテーブル決定制御部５２cは該車高に応じたマッピングテーブルのIDを記憶部５２ｂより求めてマッピング部２６に通知する。
第３実施例によれば、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすことができる。また、車高検出部と車高に応じた複数のマッピングテーブルを用意するだけの簡単な構成で車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすことができる。
（Ｄ）第４実施例
図１２は本発明の第４実施例の画像表示装置の構成図であり、図１の第１実施例と同一部分には同一符号を付している。第４実施例では、車体が傾いていない場合に使用するマッピングテーブルを基準マッピングテーブルとするとき、該基準マッピングテーブルを使用したときの画像つなぎ部における白線のズレ量を検出し、該ズレ量に基づいて使用マッピングテーブルを決定する。
マッピングメモリ６１は、基準マッピングテーブルを使用したときの画像つなぎ部における白線ズレのズレ量に応じて、該ズレがなくなるように作成された複数のマッピングテーブルMP0〜MP3を保存している。車体が傾いていると、図１３に示すように道路のセンターラインCLあるいはレーン区分け線LLなどの白線が画像つなぎ部でずれ、車体の傾きが大きいほどズレ量が大きくなる。なお図１３（Ｂ）は図１３（Ａ）の画像接続部ＣＮの一部拡大図である。
そこで、白線ズレ量検出画像処理部６２は該画像つなぎ部における白線のズレ量を検出する。白線のズレ量は所定速度以上、たとえば３０ｋｍ/ｈ以上の直線走行している際に検出すると精度良く検出できる。したがって、直進運転検出部６３はハンドル舵角センサー６４、車速センサー６５の検出出力に基づいて、車両が３０ｋｍ/ｈ以上の直線走行している状態を検出して白線ズレ量検出画像処理部６２に入力する。白線ズレ量検出画像処理部６２は車両が３０ｋｍ/ｈ以上の直線走行している状態になれば、フレームメモリ２５に保存されているトップビュー画像を読出し、画像処理して所定の２つの画像部分のつなぎ目における白線のズレ量を検出して使用マッピングテーブル決定部６６に入力する。
使用マッピングテーブル決定部６６は、ズレ量とマッピングテーブルのIDの対応を記憶する内蔵の記憶部よりマッピングテーブルIDを求めてマッピング部２６に通知する。マッピング部２６は以後、通知されたマッピングテーブルを用いてトップビュー画像をフレームメモリ２５に描画する。
図１４は第４実施例のトップビュー画像表示の処理フローである。
白線ズレ量検出画像処理部６２は車両が３０ｋｍ/ｈ以上の直線走行をしているかチェックし（ステップ１０１）、「YES」であれば、フレームメモリ２５からトップビュー画像を取り込み（ステップ１０２）、道路のセンターラインあるいはレーン区分け線の白線を抽出できるかチェックする（ステップ１０３）。抽出できなければはじめに戻り、抽出できれば白線を抽出し、所定の２つの画像部分のつなぎ目における白線のズレ量をドット数で検出し（ステップ１０５）、該ズレ量を所定回数検出してその平均ズレ量を求めて使用マッピングテーブル決定部６６に入力する（ステップ１０６）。使用マッピングテーブル決定部６６は、入力されたズレ量に基づいて、ズレ量とマッピングテーブルのIDの対応を記憶する記憶部６７よりマッピングテーブルIDを求めてマッピング部２６に通知する（ステップ１０６）。マッピング部２６は通知されたマッピングテーブルを用いてトップビュー画像をフレームメモリ２５に描画する（ステップ１０７）。
第４実施例によれば、車体の傾きに起因してカメラ画像のつなぎ目で発生するズレをなくすことができる。
（Ｄ）第５実施例
図１５は本発明の第５実施例の画像表示装置の構成図であり、図１の第１実施例及び図１２の第４実施例と同一部分には同一符号を付している。
図１の第１実施例と異なる点は、画像つなぎ部における白線のズレ量を検出し、該ズレ量に基づいて後座席搭乗者数を補正し、補正した搭乗者数に基づいて使用マッピングテーブルを決定する点である。搭乗者が大人であるか子供であるかにより、搭乗者数の信頼度が変化する。例えば、搭乗者数として大人の搭乗者数を想定しているとすれば、実際に子供が搭乗すると正しい搭乗者数を検出できないことになり、子供が小さいほど、子供が多いほど搭乗者数の信頼度が低下する。また、トランクに荷物が存在する場合にも信頼度が低下する。そこで、第５実施例では、検出した搭乗者数に応じたマッピングテーブルを使用してトップビュー画像を発生し、白線ズレがあれば搭乗者数を補正し、補正後の搭乗者数に基づいて使用マッピングテーブルを決定する。
図１６は第５実施例の使用マッピングテーブル決定部２４の構成図であり、図３の第１実施例の使用マッピングテーブル決定部と同一部分には同一符号を付している。異なる点は、白線ズレ量検出画像処理部６２で検出した白線ズレ量をマッピングテーブル決定制御部２４cに入力している点である。
白線ズレ量検出画像処理部６２は車両が３０ｋｍ/ｈ以上の直線走行をしているとき、所定の２つの画像部分のつなぎ目における白線のズレ量を検出してマッピングテーブル決定制御部２４cに入力する。マッピングテーブル決定制御部２４cは白線ズレがなければ、あるいは設定値以下であれば、測定された搭乗者人数は正しいと判断する。しかし、白線ズレがあれば、白線ズレの方向により搭乗者人数を補正（増加あるいは減少）し、補正後の搭乗者数に応じたマッピングテーブルIDを求めてマッピング部２６に通知する。
図１７はマッピングテーブル決定制御部２４cの制御フローである。
マッピングテーブル決定制御部２４cは、感圧センサーのオン/オフにより搭乗者数を決定し（ステップ２０１）、該搭乗者数に基づいて使用マッピングテーブルを決定し（ステップ２０２）、マッピング部２６に通知する（ステップ２０３）。マッピング部２６は通知された搭乗者数に応じたマッピングテーブルでトップビュー画像を発生し、白線ズレ量検出画像処理部６２は白線ズレを検出し、白線ずれ量をマッピングテーブル決定制御部２４cに入力する。マッピングテーブル決定制御部２４cは白線ズレ量が設定値以上であるかチェクし（ステップ２０４）、設定値以下であれば検出した搭乗者人数は正しいと判断し、処理を終了する。しかし、白線ズレ量が設定値以上であれば、白線ズレの方向に基づいて検出した搭乗者数を補正し（ステップ２０５）、以後ステップ２０２以降の処理を行なう。これにより、以後、補正後の搭乗者数に基づいて使用マッピングテーブルを決定して処理を繰り返す。
第５実施例によれば、正しく搭乗者数を決定して画像つなぎ目でのズレを正確に失くすことができる。
（E）第６実施例
図１８は本発明の第６実施例の画像表示装置の構成図であり、図７の第２実施例及び図１２の第４実施例と同一部分には同一符号を付している。
図７の第２実施例と異なる点は、画像つなぎ部における白線のズレ量を検出し、該ズレ量に基づいて搭乗者総重量を補正し、補正した総重量に基づいて使用マッピングテーブルを決定する点である。車室内やトランクに持ち込んだ荷物の重量が重いほど測定した総重量の信頼度が低下する。そこで、第６実施例では、検出した搭乗者総重量に応じたマッピングテーブルを使ってトップビュー画像を発生し、白線ズレがあれば搭乗者総重量を補正し、補正後の搭乗者総重量に基づいて使用マッピングテーブルを決定する。
図１９は第５実施例の使用マッピングテーブル決定部４２の構成図であり、図３の第１実施例の使用マッピングテーブル決定部と同一部分には同一符号を付している。異なる点は、白線ズレ量検出画像処理部６２で検出した白線ズレ量をマッピングテーブル決定制御部４２cに入力している点である。
白線ズレ量検出画像処理部６２は車両が３０ｋｍ/ｈ以上の直線走行をしているとき、所定の２つの画像部分のつなぎ目における白線のズレ量を検出してマッピングテーブル決定制御部４２cに入力する。マッピングテーブル決定制御部４２cは白線ズレがなければ、あるいは設定値以下であれば、測定された搭乗者総重量は正しいと判断する。しかし、白線ズレがあれば、白線ズレの方向により搭乗者総重量を補正（所定量増加あるいは減少）し、補正後の搭乗者総重量に応じたマッピングテーブルIDを求めてマッピング部２６に通知する。
図２０はマッピングテーブル決定制御部４２cの制御フローである。
マッピングテーブル決定制御部４２cは、重量センサーの測定重量を加算して搭乗者総重量を決定し（ステップ３０１）、該搭乗者総重量に基づいて使用マッピングテーブルを決定し（ステップ３０２）、マッピング部２６に通知する（ステップ３０３）。マッピング部２６は通知された搭乗者総重量に応じたマッピングテーブルでトップビュー画像を発生し、白線ズレ量検出画像処理部６２は白線ズレを検出し、白線ずれ量をマッピングテーブル決定制御部４２cに入力する。マッピングテーブル決定制御部４２cは白線ズレ量が設定値以上であるかチェクし（ステップ３０４）、設定値以下であれば測定された搭乗者総重量は正しいと判断して処理を終了する。しかし、設定値以上であれば、白線ズレの方向に基づいて測定した搭乗者総重量を補正し（ステップ３０５）、以後ステップ３０２以降の処理を行なう。これにより、以後、補正後の搭乗者総重量に基づいて使用マッピングテーブルを決定して処理を繰り返す。
第６実施例によれば、正しく搭乗者総重を決定して画像つなぎ目でのズレを正確になくすことができる。
以上の実施例ではトップビュー画像を表示する場合について説明したが、本発明は複数のカメラで撮影した画像を合成して合成画像を表示する場合に適用できるものである
本発明の第１実施例の画像表示装置の構成図である。 本発明により画像のつなぎ目においてズレが発生しなくなったトップビュー画像例である。 使用マッピングテーブル決定部の構成図である。 車両の座席説明図である。 使用マッピングテーブル決定部の別の構成図である。 赤外線センサーを用いて搭乗者を検出する原理説明図である。 本発明の第２実施例の画像表示装置の構成図である。 第２実施例の使用マッピングテーブル決定部の構成図である。 本発明の第３実施例の画像表示装置の構成図である。 第３実施例の使用マッピングテーブル決定部の構成図である。 車高検出部の出力特性である。 本発明の第４実施例の画像表示装置の構成図である。 画像つなぎ部における白線ズレ説明図である。 第４実施例のトップビュー画像表示の処理フローである。 本発明の第５実施例の画像表示装置の構成図である。 第５実施例の使用マッピングテーブル決定部の構成図である。 マッピングテーブル決定制御部の制御フローである。 本発明の第６実施例の画像表示装置の構成図である。 第５実施例の使用マッピングテーブル決定部の構成図である。 マッピングテーブル決定制御部の制御フローである。 従来のトップビューシステムの説明図である。 魚眼カメラで撮影した魚眼図形を画面対応のフレームメモリにマッピングする場合の説明図である。 マッピング法の詳細な説明図である。 車体の傾斜説明図である。 従来の問題点（画像ズレ）の説明図である。
符号の説明
１a，１b，１c，１d カメラ
２ 車両
２１Ａ〜２１Ｄ 画像メモリ
２２Ａ〜２２Ｄ 画像読出し部
２３ マッピングメモリ
２４ 使用マッピングテーブル決定部
２５ フレームメモリ
２６ マッピング部
２７ 車両画像保持部
２８ 画像合成部
２９ モニター

Claims (16)

  1. 車両周辺画像を複数のカメラで取り込み、各カメラで撮影した画像を合成して車両上方の視点から眺めた合成画像をフレームメモリに描画し、該フレームメモリより画像データを読み出して合成画像を表示する画像表示装置において、
    各カメラで撮影された車両前方の風景、車両後方の風景、車両右側の風景、車両左側の風景のそれぞれを記憶する画像メモリ、
    車両前座席を除いた席に乗っている所定搭乗者数毎に設けられ、前記各画像メモリの画素位置とフレームメモリの画素位置との対応関係を示すマッピングテーブルを保存するマッピングメモリ、
    前記搭乗者数を検出して使用するマッピングテーブルを決定するマッピングテーブル決定部、
    前記搭乗者数に応じたマッピングテーブルを用いて前記各画像メモリから画像データを読み出し、前記フレームメモリにマッピングするマッピング部、
    を備えたことを特徴とする画像表示装置。
  2. 請求項１記載の画像表示装置において、
    前記マッピングテーブル決定部は、
    車両前座席を除いた席に乗っている搭乗者数を検出する検出部、
    所定搭乗者数に対応させて使用するマッピングテーブルを記憶する記憶部、
    車両の搭乗者数に応じた使用マッピングテーブルを決定して前記マッピング部に通知するマッピングテーブル決定制御部、
    を備えたことを特徴とする画像表示装置。
  3. 請求項２記載の画像表示装置において、
    前記搭乗者数検出部を、座席シートに搭乗者の着座を検出する感圧センサーを埋め込むことにより構成する、
    ことを特徴とする画像表示装置。
  4. 請求項２記載の画像表示装置において、
    前記搭乗者数検出部を、車室天井に車室内を撮影するカメラと、該カメラの撮影画像を画像処理して搭乗者数を検出する画像処理部で構成する、
    ことを特徴とする画像表示装置。
  5. 請求項２記載の画像表示装置において、
    前記搭乗者数検出部を、搭乗者を検出する赤外線センサーで構成する、
    ことを特徴とする画像表示装置。
  6. 請求項１記載の画像表示装置において、
    前記フレームメモリに描画された合成画像を取り込み、所定の２つの画像メモリから読み出して描画した画像部分のつなぎ目における白線のズレ量を検出する画像処理部、
    を備え、前記マッピングテーブル決定制御部は前記白線ズレ量に基づいて搭乗者数を補正し、補正搭乗者数に応じて使用マッピングテーブルを決定する、
    ことを特徴とする画像表示装置。
  7. 車両周辺画像を複数のカメラで取り込み、各カメラで撮影した画像を合成して車両上方の視点から眺めた合成画像をフレームメモリに描画し、該フレームメモリより画像データを読み出して合成画像を表示する画像表示装置において、
    各カメラで撮影された車両前方の風景、車両後方の風景、車両右側の風景、車両左側の風景のそれぞれを記憶する画像メモリ、
    車両前座席を除いた席に乗っている搭乗者の総重量の所定範囲毎に設けられ、前記各画像メモリの画素位置とフレームメモリの画素位置との対応関係を示すマッピングテーブルを保存するマッピングメモリ、
    前記搭乗者の総重量を検出して使用するマッピングテーブルを決定するマッピングテーブル決定部、
    前記搭乗者の総重量に応じたマッピングテーブルを用いて前記各画像メモリから画像データを読み出し、前記フレームメモリにマッピングするマッピング部、
    を備えたことを特徴とする画像表示装置。
  8. 請求項７記載の画像表示装置において、
    前記マッピングテーブル決定部は、
    車両前座席を除いた席に乗っている搭乗者の総重量を検出する検出部、
    搭乗者の総重量範囲に対応させて使用するマッピングテーブルを記憶する記憶部、
    搭乗者の総重量に応じた使用マッピングテーブルを決定して前記マッピング部に通知するマッピングテーブル決定制御部、
    を備えたことを特徴とする画像表示装置。
  9. 請求項８記載の画像表示装置において、
    前記搭乗者の総重量検出部を、座席シートに搭乗者の重量を検出する重量検出センサーを埋め込むことにより構成する、
    ことを特徴とする画像表示装置。
  10. 請求項７または８記載の画像表示装置において、
    トランクに荷物重量検出センサーを設け、該荷物の重量を前記搭乗者の総重量に含めることを特徴とする画像表示装置。
  11. 請求項７記載の画像表示装置において、
    前記フレームメモリに描画された合成画像を取り込み、所定の２つの画像メモリから読み出して描画した２つの画像部分のつなぎ目における白線のズレ量を検出する画像処理部、
    を備え、前記マッピングテーブル決定制御部は前記白線ズレ量に基づいて総重量を補正し、補正総重量に応じて使用マッピングテーブルを決定する、
    ことを特徴とする画像表示装置。
  12. 車両周辺画像を複数のカメラで取り込み、各カメラで撮影した画像を合成して車両上方の視点から眺めた合成画像をフレームメモリに描画し、該フレームメモリより画像データを読み出して合成画像を表示する画像表示装置において、
    各カメラで撮影された車両前方の風景、車両後方の風景、車両右側の風景、車両左側の風景のそれぞれを記憶する画像メモリ、
    車体と車軸の間隔である所定車高毎に設けられ、前記各画像メモリの画素位置とフレームメモリの画素位置との対応関係を示すマッピングテーブルを保存するマッピングメモリ、
    前記車高を検出して使用するマッピングテーブルを決定するマッピングテーブル決定部、
    前記車高に応じたマッピングテーブルを用いて前記各画像メモリから画像データを読み出し、前記フレームメモリにマッピングするマッピング部、
    を備えたことを特徴とする画像表示装置。
  13. 請求項１２記載の画像表示装置において、
    前記マッピングテーブル決定部は、
    車体と車軸の間隔である車高を検出する検出部、
    車高範囲に対応させて使用するマッピングテーブルを記憶する記憶部、
    車高に応じて使用マッピングテーブルを決定して前記マッピング部に通知するマッピングテーブル決定制御部、
    を備えたことを特徴とする画像表示装置。
  14. 車両周辺画像を複数のカメラで取り込み、各カメラで撮影した画像を合成して車両上方の視点から眺めた合成画像をフレームメモリに描画し、該フレームメモリより画像データを読み出して合成画像を表示する画像表示装置において、
    各カメラで撮影された車両前方の風景、車両後方の風景、車両右側の風景、車両左側の風景のそれぞれを記憶する画像メモリ、
    前記各画像メモリの画素位置とフレームメモリの画素位置との対応関係を示すマッピングテーブルを複数保存するマッピングメモリ、
    所定のマッピングテーブルを用いて前記各画像メモリから画像データを読み出し、前記フレームメモリにマッピングするマッピング部、
    前記フレームメモリに描画された合成画像を取り込み、所定の２つの画像メモリから読み出して描画した２つの画像部分のつなぎ目における白線のズレ量を検出する画像処理部、
    前記白線ズレ量に基づいて使用するマッピングテーブルを決定して前記マッピング部に通知するマッピングテーブル決定部、
    を備えたことを特徴とする画像表示装置。
  15. 請求項１４記載の画像表示装置において、
    前記マッピングテーブル決定部は、
    前記白線ズレ量に対応させて使用するマッピングテーブルを記憶する記憶部、
    白線ズレ量に応じて使用マッピングテーブルを決定して前記マッピング部に通知するマッピングテーブル決定部、
    を備えたことを特徴とする画像表示装置。
  16. 請求項１４記載の画像表示装置において、
    前記画像処理部は、車両が所定速度以上で直進しているときに、前記白線ズレ量の検出処理を行なう、
    ことを特徴とする画像表示装置。
JP2006338154A 2006-12-15 2006-12-15 画像表示装置 Active JP4859652B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006338154A JP4859652B2 (ja) 2006-12-15 2006-12-15 画像表示装置
US11/945,718 US8760515B2 (en) 2006-12-15 2007-11-27 Image display apparatus with mapping based on passenger detection

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006338154A JP4859652B2 (ja) 2006-12-15 2006-12-15 画像表示装置

Publications (2)

Publication Number Publication Date
JP2008152424A true JP2008152424A (ja) 2008-07-03
JP4859652B2 JP4859652B2 (ja) 2012-01-25

Family

ID=39526647

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006338154A Active JP4859652B2 (ja) 2006-12-15 2006-12-15 画像表示装置

Country Status (2)

Country Link
US (1) US8760515B2 (ja)
JP (1) JP4859652B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009151524A (ja) * 2007-12-20 2009-07-09 Alpine Electronics Inc 画像表示方法および画像表示装置
JP2010136082A (ja) * 2008-12-04 2010-06-17 Alpine Electronics Inc 車両周辺監視装置およびカメラ位置・姿勢判定方法
KR101215563B1 (ko) * 2012-10-24 2013-01-21 주식회사 세코닉스 영상 자동보정 기능을 구비하는 버드 뷰 영상 생성장치 및 방법
JP2014195170A (ja) * 2013-03-28 2014-10-09 Honda Motor Co Ltd 運転支援装置
JP2015007953A (ja) * 2013-06-24 2015-01-15 由田新技股▲ふん▼有限公司 車両乗車人数の監視装置及び車両乗車人数の監視方法並びにコンピュータ可読記憶媒体
JP2015226240A (ja) * 2014-05-29 2015-12-14 パナソニックＩｐマネジメント株式会社 車両姿勢判定装置
WO2016075809A1 (ja) * 2014-11-14 2016-05-19 日産自動車株式会社 表示装置及び表示方法
JP2020043395A (ja) * 2018-09-06 2020-03-19 アイシン精機株式会社 カメラキャリブレーション装置
JP2020129768A (ja) * 2019-02-11 2020-08-27 株式会社デンソーテン 画像生成装置

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7821679B2 (en) * 2004-10-06 2010-10-26 CSSN Inc, Card Scanning Solutions System and method for electronically combining images taken by two or more adjacent image sensors
JP4832321B2 (ja) * 2007-01-26 2011-12-07 三洋電機株式会社 カメラ姿勢推定装置、車両、およびカメラ姿勢推定方法
JP4341705B2 (ja) * 2007-07-17 2009-10-07 トヨタ自動車株式会社 車載画像処理装置
US8300083B2 (en) * 2007-07-20 2012-10-30 Hewlett-Packard Development Company, L.P. Position relationships associated with image capturing devices
JP5120880B2 (ja) * 2007-10-15 2013-01-16 アルパイン株式会社 画像処理装置及び画像処理方法
CN101644883A (zh) * 2008-08-08 2010-02-10 鸿富锦精密工业（深圳）有限公司 车用投影系统
DE102009050368A1 (de) 2008-10-24 2010-05-27 Magna Electronics Europe Gmbh & Co.Kg Verfahren zum automatischen Kalibrieren einer virtuellen Kamera
JP5068779B2 (ja) * 2009-02-27 2012-11-07 現代自動車株式会社 車両周囲俯瞰画像表示装置及び方法
KR20120053713A (ko) * 2010-11-18 2012-05-29 에스엘 주식회사 차량용 카메라의 제어 장치 및 방법
US20130021453A1 (en) * 2011-07-22 2013-01-24 Jean-Paul Gignac Autostereoscopic rear-view display system for vehicles
US9124801B2 (en) 2012-07-26 2015-09-01 Omnivision Technologies, Inc. Image processing system and method using multiple imagers for providing extended view
US9760784B2 (en) * 2012-10-26 2017-09-12 Nec Corporation Device, method and program for measuring number of passengers
US9348793B2 (en) * 2013-02-27 2016-05-24 GM Global Technology Operations LLC Method and system for adjusting performance based on vehicle occupants
GB2514151A (en) * 2013-05-15 2014-11-19 Nissan Motor Mfg Uk Ltd Event detection and recording methods and systems
KR102138508B1 (ko) * 2013-08-13 2020-07-28 엘지전자 주식회사 디스플레이 디바이스 및 그 제어 방법
DE102015010011B4 (de) 2015-08-05 2020-03-19 Wirtgen Gmbh Selbstfahrende Baumaschine und Verfahren zur Anzeige der Umgebung einer selbstfahrenden Baumaschine
DE102015010009A1 (de) * 2015-08-05 2017-02-09 Wirtgen Gmbh Selbstfahrende Baumaschine und Verfahren zur Anzeige der Umgebung einer selbstfahrenden Baumaschine
WO2017042999A1 (ja) * 2015-09-07 2017-03-16 パナソニックＩｐマネジメント株式会社 車載用ステレオカメラ装置、およびその補正方法
JPWO2017042998A1 (ja) * 2015-09-07 2018-06-28 パナソニックＩｐマネジメント株式会社 車載用ステレオカメラ装置、およびその補正方法
JPWO2017042995A1 (ja) * 2015-09-07 2018-06-28 パナソニックＩｐマネジメント株式会社 車載用ステレオカメラ装置、およびその補正方法
WO2017154317A1 (ja) * 2016-03-09 2017-09-14 株式会社Ｊｖｃケンウッド 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
KR102597435B1 (ko) * 2016-04-20 2023-11-03 엘지이노텍 주식회사 영상 취득 장치 및 그 방법
CN106297348A (zh) * 2016-08-25 2017-01-04 深圳市元征科技股份有限公司 前车路况显示系统及方法
CN107665250A (zh) * 2017-09-26 2018-02-06 百度在线网络技术（北京）有限公司 高清道路俯视地图的构建方法、装置、服务器和存储介质
EP3776485B1 (en) * 2018-09-26 2022-01-26 Coherent Logix, Inc. Any world view generation
US10990822B2 (en) 2018-10-15 2021-04-27 Ford Global Technologies, Llc Methods and apparatus to generate an augmented environment including a weight indicator for a vehicle
DE102019127806A1 (de) 2018-10-15 2020-04-16 Ford Global Technologies, Llc Verfahren und vorrichtungen zum erzeugen einer erweiterten umgebung, die eine gewichtsanzeige beinhaltet, für ein fahrzeug
US11879768B2 (en) 2018-10-15 2024-01-23 Ford Global Technologies, Llc Methods and apparatus to generate an augmented environment including a weight indicator for a vehicle

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003040029A (ja) * 2001-08-01 2003-02-13 Koito Mfg Co Ltd 車両用灯具の照射方向制御装置
JP2006060460A (ja) * 2004-08-19 2006-03-02 Nissan Motor Co Ltd 画像補正装置
WO2006087993A1 (ja) * 2005-02-15 2006-08-24 Matsushita Electric Industrial Co., Ltd. 周辺監視装置および周辺監視方法
JP2006277738A (ja) * 2005-03-03 2006-10-12 Nissan Motor Co Ltd 車載画像処理装置及び車両用画像処理方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1179958B1 (en) * 1999-04-16 2012-08-08 Panasonic Corporation Image processing device and monitoring system
JP3297040B1 (ja) 2001-04-24 2002-07-02 松下電器産業株式会社 車載カメラの画像合成表示方法及びその装置
US7697027B2 (en) * 2001-07-31 2010-04-13 Donnelly Corporation Vehicular video system
JP2004082835A (ja) * 2002-08-26 2004-03-18 Mitsubishi Electric Corp 車載表示装置
US7782374B2 (en) * 2005-03-03 2010-08-24 Nissan Motor Co., Ltd. Processor and processing method for generating a panoramic image for a vehicle
US20070159531A1 (en) * 2006-01-10 2007-07-12 Anderson Margaret T Vehicle back seat monitoring apparatus

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003040029A (ja) * 2001-08-01 2003-02-13 Koito Mfg Co Ltd 車両用灯具の照射方向制御装置
JP2006060460A (ja) * 2004-08-19 2006-03-02 Nissan Motor Co Ltd 画像補正装置
WO2006087993A1 (ja) * 2005-02-15 2006-08-24 Matsushita Electric Industrial Co., Ltd. 周辺監視装置および周辺監視方法
JP2006277738A (ja) * 2005-03-03 2006-10-12 Nissan Motor Co Ltd 車載画像処理装置及び車両用画像処理方法

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009151524A (ja) * 2007-12-20 2009-07-09 Alpine Electronics Inc 画像表示方法および画像表示装置
JP2010136082A (ja) * 2008-12-04 2010-06-17 Alpine Electronics Inc 車両周辺監視装置およびカメラ位置・姿勢判定方法
KR101215563B1 (ko) * 2012-10-24 2013-01-21 주식회사 세코닉스 영상 자동보정 기능을 구비하는 버드 뷰 영상 생성장치 및 방법
WO2014065485A1 (ko) * 2012-10-24 2014-05-01 (주)세코닉스 영상 자동보정 기능을 구비하는 버드 뷰 영상 생성장치 및 방법
JP2014195170A (ja) * 2013-03-28 2014-10-09 Honda Motor Co Ltd 運転支援装置
JP2015007953A (ja) * 2013-06-24 2015-01-15 由田新技股▲ふん▼有限公司 車両乗車人数の監視装置及び車両乗車人数の監視方法並びにコンピュータ可読記憶媒体
JP2015226240A (ja) * 2014-05-29 2015-12-14 パナソニックＩｐマネジメント株式会社 車両姿勢判定装置
WO2016075809A1 (ja) * 2014-11-14 2016-05-19 日産自動車株式会社 表示装置及び表示方法
JPWO2016075809A1 (ja) * 2014-11-14 2017-08-17 日産自動車株式会社 表示装置及び表示方法
JP2020043395A (ja) * 2018-09-06 2020-03-19 アイシン精機株式会社 カメラキャリブレーション装置
JP7314486B2 (ja) 2018-09-06 2023-07-26 株式会社アイシン カメラキャリブレーション装置
JP2020129768A (ja) * 2019-02-11 2020-08-27 株式会社デンソーテン 画像生成装置
JP7286986B2 (ja) 2019-02-11 2023-06-06 株式会社デンソーテン 画像生成装置

Also Published As

Publication number Publication date
JP4859652B2 (ja) 2012-01-25
US20080143835A1 (en) 2008-06-19
US8760515B2 (en) 2014-06-24

Similar Documents

Publication Publication Date Title
JP4859652B2 (ja) 画像表示装置
JP5072576B2 (ja) 画像表示方法および画像表示装置
CN105139389B (zh) 全景摄像机系统(vpm)与车辆动态
CN105243655B (zh) 使用图像中的特征点估算车辆动态的系统和方法
CN106464847B (zh) 影像合成系统和用于其的影像合成装置与影像合成方法
US8514282B2 (en) Vehicle periphery display device and method for vehicle periphery image
US8648881B2 (en) Method and apparatus for image processing for in-vehicle cameras
JP2009017020A (ja) 画像処理装置及び表示画像生成方法
JP5999043B2 (ja) 車両周辺監視装置およびプログラム
CN108367710B (zh) 俯瞰影像生成装置、俯瞰影像生成系统、以及存储介质
CN111095921B (zh) 显示控制装置
US20170334356A1 (en) Image generation apparatus
JP2008141578A (ja) 車両周辺視認装置
JP2019028920A (ja) 表示制御装置
JP2021013072A (ja) 画像処理装置および画像処理方法
JP2022126659A (ja) 車両用映像処理装置、車両用映像処理システム、車両用映像処理方法およびプログラム
JP2015106777A (ja) 画像処理装置並びに運転支援装置およびナビゲーション装置およびカメラ装置
JP2012116400A (ja) コーナーポール投影装置
JP5891880B2 (ja) 車載画像表示装置
KR20180094717A (ko) Avm을 이용한 운전 지원 장치 및 시스템
JP6855254B2 (ja) 画像処理装置、画像処理システム、及び、画像処理方法
JP6941949B2 (ja) 車両用映像表示装置
JP2008230561A (ja) 撮像制御装置および測光領域調整方法
JP6935970B2 (ja) 自動二輪車用カメラ装置
JP6007773B2 (ja) 画像データ変換装置並びにナビゲーションシステムおよびカメラ装置並びに車両

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110628

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111101

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111101

R150 Certificate of patent or registration of utility model

Ref document number: 4859652

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141111

Year of fee payment: 3